Cours

Module TALN Traitement Automa que du Langage Naturel

(NLP Natural Language Processing)

Présenté par Pr. Hacene BELHADEF

Master2 Mila 2023-2024
Spécialité I2A
Semestre 2

 Objec fs :
Le cours apportera à l'étudiant les bases théoriques nécessaires à la compréhension des
objec fs et des défis actuels du traitement automa que du langage naturel (TALN). En
parallèle, l'étudiant apprendra à analyser et à expliquer les limites pra ques et techniques
que l'on rencontre dans la mise en place de systèmes informa ques des nés au traitement
des langues.
A la fin de ce cours, l’étudiant sera en mesure de :
- maitriser des no ons de base en Traitement Automa que des Langues,
- prendre en main les ou ls et la programma on en python pour le traitement automa que
du langage naturel.
- Prendre en main un Pipeline (Processus ou chaîne de produc on) pour le développement
des applica ons TALN.
- visualiser, évaluer et cri quer les résultats de développent.

 Perspec ves :
Au-delà de ce cours et afin d’aller plus loin, l’étudiant pourrait aborder des challenges et des
nouveaux domaines d’actualité en TALN, tels que :
- Low resource languages: it refer to languages with less data for building and developing machine
transla on, conversa onal AI, and other AI-based systems. LRLs, such as Hindi, Bengali, and
Swahili, are spoken widely among many people but need more resources to develop AI solu ons.
- LLM: Large Language Model: LLM is a type of language model notable for its ability to achieve
general-purpose language understanding and genera on;
- QNLP : Quantum Natural Language Processing.

 Acteurs dans le domaine du TALN :

Afin d'aller plus loin pour devenir expert dans le domaine de TLN, l’étudiant pourrait faire
recours non seulement à des experts dans ce domaines mais également à des organismes
spécialiser comme :
ELRA : Associa on Européenne pour les Ressources Linguis ques
ATALA : Associa on pour le traitement automa que des langues
APIL : Associa on des professionnels des industries de la langue
ACL : Associa on for Computa onal Linguis cs (EACL, NAACL)

1
 Sommaire

Par e I : Classical NLP

Chapitre 1 : Présenta on et Introduc on

1. Introduc on au NLP (TALN)
2. Pourquoi le traitement du langage naturel (TALN) est important ?
3. Défini ons
4. Historique
5. Domaines de recherche
6. Domaines d’applica on
7. Différentes techniques u lisées en NLP
8. Divers mé ers
9. Conclusion

Chapitre 2 : Niveaux de traitement NLP

1. Introduc on
2. Niveaux de traitement
2.1. L’analyse phonologique
2.2. L’analyse morpho-lexical
2.3. L’analyse syntaxique (ou parsing)
2.4. L’analyse séman que
2.5. L’analyse pragma que (contextuelle)
3. Conclusion

Par e II : NLP pipeline

Chapitre 3 : Preprocessing (Prétraitement)

1. Introduc on
2. Etapes du pré-traitement
2.1. Cleaning (Ne oyage)
2.1.1. HTML tags (Balises HTML)
2.1.2. Unicode et caractères spéciaux
2.1.3. Removing numbers (Supprimer des nombres)
2.1.4. Links (Liens et URLs)
2.2. Tokeniza on
2.3. Normaliza on
2.3.1. Stemming
2.3.2. Lemma za on
2.4. Stopwords removal (suppression des mots vides)
3. Conclusion

Chapitre 4 : Vectorisa on et Representa on

1. Introduc on
2. Bag of Words (BOW)
3. Term Frequency-Inverse Document Frequency (TF-IDF)

2
 4. Unigram, Bigram, and Ngrams.
5. Word2Vec
6. Conclusion

Chapitre 5: Modelling Techniques

1. Introduc on
2. Classical ML Algorithms
2.1. KNN
2.2. Kmeans
2.3. SVM
2.4. Naive Bayes
2.5. Random Forest
3. Deep learning
3.1. CNN
3.2. RNN
3.3. Mémoire à long terme (LSTM)
3.4. Unité récurrente fermée (GRU)
4. Conclusion

Par e II : Advanced NLP

Chapitre 6 : Transformers
6.1. Introduc on aux Transformers
6.2. Introduc on à BERT
6.3. Introduc on à GPT

Chapitre 7: Quantum NLP