Résumé du cours précédent

Interlocuteur : Théophile Bayet

theophile.bayet@ird.fr
Plan du cours 2

I – Résumé du cours précédent

II – Implémentation de l’addition
III – Des chats et des chiens 1
IV – Les réseaux de convolution
V – Des chats et des chiens 2
VI – Des chats et des chiens 3

dd/mm/yyy Menu insertion / En-tête et pied de page : pour modifier globalement + date 2
Résumé du cours précédent
IA, ML & DL

Quelle est la relation entre IA, Machine

Learning, Deep Learning ?

Quel changement de paradigme introduisent

le Machine Learning et le Deep Learning ?

dd/mm/yyy Menu insertion / En-tête et pied de page : pour modifier globalement + date 3
Résumé du cours précédent
IA, ML & DL

Qu’est-ce le Machine Learning  ?

Changement de paradigme dans la

programmation classique 

Rules Classical
Answers
Data Programming

Data Machine
Rules
Answers Learning

dd/mm/yyy Menu insertion / En-tête et pied de page : pour modifier globalement + date 4
Résumé du cours précédent
IA, ML & DL

Quelle est la relation entre IA, Machine

Learning, Deep Learning ?

Quel changement de paradigme introduisent

le Machine Learning et le Deep Learning ?

Quel modèle de Machine Learning est à la base

du Deep Learning ?

dd/mm/yyy Menu insertion / En-tête et pied de page : pour modifier globalement + date 5
Résumé du cours précédent
Deep Learning : spécificités

Base du Deep Learning : le neurone !

Neuron

Inputs Outputs

Weights

dd/mm/yyy Menu insertion / En-tête et pied de page : pour modifier globalement + date 6
Résumé du cours précédent
Deep Learning : spécificités

Le neurone : vue de l’intérieur

dd/mm/yyy Menu insertion / En-tête et pied de page : pour modifier globalement + date 7
Résumé du cours précédent

Comment sont organisés les neurones dans un

modèle en Deep Learning ?

dd/mm/yyy Menu insertion / En-tête et pied de page : pour modifier globalement + date 8
Résumé du cours précédent

Le modèle architectural en Deep Learning : Inputs

Embedding Layer
C’est un modèle organisé en couches, dont on
peut distinguer 3 types :
Hidden Layers

DL Model
- Couche d’entrée (Emedding Layer) Ouput Layer

- Couche de sortie (Output Layer)

Outputs
- Couche intermédiaire (Hidden Layer)

dd/mm/yyy Menu insertion / En-tête et pied de page : pour modifier globalement + date 9
Résumé du cours précédent

Comment sont organisés les neurones dans un

modèle en Deep Learning ?

Comment traduire concrètement

l’appentissage dans un modèle composé de
couches de neurones ?

dd/mm/yyy Menu insertion / En-tête et pied de page : pour modifier globalement + date 10
Résumé du cours précédent
L’apprentissage
Input X Labels
L’entrainement : workflow DL model

- Rappel : on cherche à partir Weights embedding layer

d’un input à déterminer son Weights hidden layers

label
Weights output layer
- Comparaison à chaque passe
du label produit à celui attendu Output Y Label X
Weights update
- Modifications des poids pour
rapprocher la prédiciton et la Optimizer
Loss function
’vérité’ (ground truth)
Loss score

dd/mm/yyy Menu insertion / En-tête et pied de page : pour modifier globalement + date 11
Résumé du cours précédent

Comment sont organisés les neurones dans un modèle

en Deep Learning ?

Comment traduire concrètement l’appentissage dans un

modèle composé de couches de neurones ?

Comment choisir les paramètres des couches d’entrée,

de sortie d’un réseau de neurone ? Quels choix sont
empiriques, quels choix ne le sont pas ?

dd/mm/yyy Menu insertion / En-tête et pied de page : pour modifier globalement + date 12
Résumé du cours précédent

Couche d’entrée (embedding layer) :

– Nombre de neurones : empirique
– Fonction d’activation : empirique / en fonction des
objectifs du réseau de neurones
– input_shape : en fonction des inputs !

Couche de sortie (output layer) :

– Nombre de neurones : en fonction de la tâche à réaliser
– Fonction d’activation : en fonction de la tâche à réaliser

dd/mm/yyy Menu insertion / En-tête et pied de page : pour modifier globalement + date 13
Résumé du cours précédent

Quelles sont les étapes à suivre pour entraîner un réseau

de neurones sur une base de données ?

dd/mm/yyy Menu insertion / En-tête et pied de page : pour modifier globalement + date 14
Résumé du cours précédent

Exploration de la base de donnée :

– Vérification des données
– Visualisation des données
Prétraitement des données
– Préparation du format
–Étalonnage des données
Préparation du modèle
–Choix des couches, des paramètres, des fonctions
d’optimisation et de perte
Entraînement du modèle
– Vérification du bon entrainement du modèle

dd/mm/yyy Menu insertion / En-tête et pied de page : pour modifier globalement + date 15
Résumé du cours précédent

Quelles sont les étapes à suivre pour entraîner un réseau

de neurones sur une base de données ?

Pourquoi séparer le jeu de données en jeu

d’entraînement, de test ?

Comment choisir le nombre de neurones dans une

couche ? Comment choisir le nombre de couches ?

dd/mm/yyy Menu insertion / En-tête et pied de page : pour modifier globalement + date 16
Résumé du cours précédent

Plus de neurones dans une couche :

– Plus de capacité de calcul dans la
couche
– Couche plus lourde ;
computationnellement et
numériquement parlant
Plus de couches :
– Meilleure capacité d’abstraction du
réseau
– Modèle plus lourd ;
computationnellement et
numériquement parlant

dd/mm/yyy Menu insertion / En-tête et pied de page : pour modifier globalement + date 17
Résumé du cours précédent

dd/mm/yyy Menu insertion / En-tête et pied de page : pour modifier globalement + date 18