• 1) Réseau de neurones, première définition :

• Un réseau de neurones est un modèle informatique du cerveau humain.

dont l’unité de base est appelé le neurone formel, inspiré du neurone
biologique.

• 2) Le cerveau humain , quelques chiffres :

• contient 1011 ( 100 milliards) cellules interconnectés.
• La vitesse de transmission du signal est de l’ordre de 100 m/s.
• le nombre de connexions est de l’ordre de 1015.

22/10/2021 Université d'O.E.B, 1ere année Master informatique VA 1

3) Le neurone biologique
est la cellule nerveuse constituée
de :
. Corps cellulaire contenant un noyau
et des ramifications appelées les
dendrites ( l’organe d’entrée des
signaux émanant des autres Le neurone biologique
cellules) et se prolonge par un axone
( moyen de transmission du signal
vers les autres cellules)
. Le sens du signal : dendrites , corps
cellulaire, axone, synapses, autre
neurone.

22/10/2021 Université d'O.E.B, 1ere année Master informatique 2

• 4) Le neurone formel
•est le modèle mathématique du neurone
biologique. Il est composé des éléments :

• Entrées : signaux émanant des autres

neurones ou de l’extérieur.
• Poids: pondérations des valeurs des
entrées. Représentent les synapses.
• Corps cellulaire : effectue la sommation
(∑) des entrées pondérées et applique un
seuillage par une fonction d’activation (f) Correspondance entre le NB et le NF
au résultat.

• Sortie : représente l’axone et prend

comme valeur le résultat de calcul
effectuée par le corps cellulaire.

Université d'O.E.B, 1ere année Master

22/10/2021 3
informatique Le neurone formel
• Remarque : l’entrée (-1, Wi0) dont la valeur est : - Wi0
représente le seuil interne du neurone.
• Fonctionnement :
• 1) Sommation : L = ∑Wi* Ei / i : 0…n
• 2) Seuillage par une fonction d’activation non linaire
O= f(L) , permet de déterminer l’état interne du neurone
en fonction de l’entrée totale , qui sera transmis via la sortie
vers d’autres neurones.

22/10/2021 Université d'O.E.B, 1ere année Master informatique 4

Fonction de transfert , quelques exemples

Université d'O.E.B, 1ere année Master

22/10/2021 5
informatique
• 5) Réseau de neurones , une deuxième définition :
Est un ensemble de petites unités de calcul appelés « neurones
artificiels » interconnectés par des liaisons pondérées appelés «
poids synaptiques » et dont l’état est représenté par les valeurs
de ses sorties.
6) Propriétés des réseaux de neurones
Les R. N possèdent des propriétés très intéressantes :

- Parallélisme :
-ensemble d’unités de calcul travaillant d’une manière synchrone
( simultanément ).
- Capacité d’adaptation : grâce à l’apprentissage permettant de
prendre en compte des nouvelles données du monde extérieur.

22/10/2021 Université d'O.E.B, 1ere année Master informatique 6

• Mémoire distribuée :
• dans le cas ou le réseau de neurones est récurrent, l’état actuel de
chaque neurone dépend de son état précédent.
• Capacité de généralisation :
• les réseaux de neurones peuvent apprendre à retrouver des règles
à partir d’une base d’exemples.

• 7) Types des réseaux de neurones :

réseaux bouclés ( récurrents) et réseaux non bouclés.

Les réseaux de neurones non bouclés :

sont des réseaux où l’état actuel de chaque neurone ne dépend
pas de l’état antérieur de cet neurone. Ce type de réseau est dit
sans mémoire et statique

22/10/2021 Université d'O.E.B, 1ere année Master informatique 7

• Les réseaux de neurones bouclés : ce réseau contient des
cycles et l’état actuel de ses neurones dépend de leurs états
précédents. Ils sont dits dynamiques.

E0 S0
Réseau de
neurones bouclé
E1 S1

•
E0 S0 Réseau de
neurones non bouclé
E1 S1

22/10/2021 Université d'O.E.B, 1ere année Master informatique 8

• Une autre classification des réseaux de
neurones est basée sur la notion de couches
- mono couche : une couche d’entrée et une
couche de sortie ( une couche de perception
et une couche de décision ou de sortie).
- multi couches : une couche d’entrée ,une
couche de sortie plus une ou plusieurs
couches intermédiaires ou dites cachées.

22/10/2021 Université d'O.E.B, 1ere année Master informatique 9

• 8) L’apprentissage dans les réseaux de neurones
• Dans un réseau de neurones , on peut faire de l’apprentissage
supervisé et l’apprentissage non supervisé .
• L’apprentissage supervisé :
• consiste à ajuster les poids de connexions Wij
progressivement de telle sorte d’avoir les réponses du
réseau soient égales (ou du moins les plus proches
possibles ) aux sorties attendues.
• L’apprentissage non supervisé:
• Permet de faire la catégorisation ( clustering) d’un ensemble
de points , objets ou individus. Le résultat de l’apprentissage
non supervisé est un ensemble de catégories ou classes.

22/10/2021 Université d'O.E.B, 1ere année Master informatique 10

• 9) modèles de réseaux de neurones
• - Le perceptron (Rosenbalt 58)
• C’est le plus simple des réseaux de neurones. Il est constitué
d’une couche d’entrée et une couche de sortie.

• initialement :
• Utilisé pour l’apprentissage
• Des opérations logiques
• OR , AND. XOR
• Les entrées et la sortie
• Peuvent être logiques ou réels

22/10/2021 Université d'O.E.B, 1ere année Master informatique 11

Exemple :
X0=1 W0= - 1

X1
W1= 1
AND (X0,X1,X2)
W2= 1
X2

AND ( x0,X1,X2) = H ( x0*w0+x1*w1+x2*w2) =

H( -1+x1+x2)

22/10/2021 Université d'O.E.B, 1ere année Master informatique 12

Algorithme apprentissage_ P1C
Variables
• Apprentissage du perceptron mono couche
• vecteur d’entrée { X0, X1…, Xn }; variable observée Y.
••Poids { w0, w1,..,wn}; La fonction de transfert T
Données :
•Le tableau d’apprentissage. X0 X1 X2 …. Xn Y
•Les valeurs initiaux des poids
a: la vitesse ou ceof. d’apprentissage 1 x11 x21 Xn1 y1
Err : l’erreur acceptée
1 x12 x22 Xn2 y2
Début
Initialiser les poids synaptiques ……… …….. ……… ……
modifpoids=faux ……
arret =faux
Tant que ¬ arret
Pour i allant de 1 jusqu’à m Faire ……… ………. ………. ……..
Calculer la réponse du réseau Rii pour le vecteur …….
d’entrée Xi.
Calculer la différence d= Abs (Ri, Yi) 1 x1m X2m Xnm …. ym
SI d > Err alors
Ajuster : Wi = Wi + a* d* Xi
modifpoids= vrai
Finsi
Finpour
Si modifpoids alors arret = faux
sinon arret=vrai finsi
FinPour 22/10/2021
Fin Apprentissage_P1C
Université d'O.E.B, 1ere année Master informatique 13
• - Le perceptron multi couches (Minsky et
Papert 69)
• Est une extension du perceptron mono -
couche
• Possède une couche d’entrée , une couche de
sortie et une ou plusieurs couches cachées.
• Chaque neurone d’une couche donnée est
connecté à tous les neurones de la couche
précédente et à tous les neurones de la couche
suivante.
• Il utilise principalement les fonctions
sigmoïdes. Les fonctions d’activation par
couche peuvent être différentes mais elle est la
même pour tous les neurones de la même
couche.
• Le P.M.C est un réseau non bouclé.

22/10/2021 Université d'O.E.B, 1ere année Master informatique 14

• L’année 1986 a vu l’apparition de l’algorithme de rétropropagation de l’erreur «
backpropagation » permettant l’apprentissage supervisé du P.M.C , publié par
Rumelhart, Hinton et William qui permet d’optimiser les paramètres d’un P.M.C en réponse
à un ensemble de données d’apprentissage.
• Principe de l’algorithme «Backpropagation » ou « rétropropagation »
• ****************************************************************
• /*** x : (x1,x2…,xn) le vecteur d’entrée ****/
• / *** o : (o1,o2,…,om) le vecteur de sortie --- calculé ------ *** /
• / *** t : le vecteur cible (t1,t2,…,tm) ---- attendu ----- *** /
• *****************************************************************
• Boucle 1 : Repeter jusqu’à ce que le reseau puisse mapper (o à t) d’une
manière consécutive pour tous les exemples
• Boucle 2 : Pour chaque exemple de la base des exemples , faire :
• 1. Introduire un exemple x au réseau.
• 2. Calculer le vecteur de sortie o.
• 3. Comparer o avec t. Si o est égal à t ( ou trés proche) alors Aller à
Boucle2.
• Sinon :
• 1. Calculer l’erreur sur la couche de sortie et la rétropapager sur la
couche cachée.
• 2. Ajuster les poids
• 3. Aller à Boucle2.
22/10/2021 Université d'O.E.B, 1ere année Master informatique 15
 Algorithme Rétro propagation – ------Détaillé --------

******************************************************
/*** x : (x1,x2…,xn) le vecteur d’entrée ****/
/ *** o : (o1,o2,…,om) le vecteur de sortie --- calculé ------ *** /
/ *** t : le vecteur cible (t1,t2,…,tm) ---- attendu -- *** /
*****************************************************************
Algorithme RETROPROPAGATION
Tant que le mapping (O,T) n’est pas complet et consécutif , faire :

Pour chaque exemple de la base des exemples , faire :

- Calculer les sorties du réseau de la couche cachée Oh et les sorties des neurones de la sortie Ok

- Pour toutes les unités de sortie k, calculer l'erreur δk de la façon suivante:

Pour toutes les unités cachées h, calculer l'erreur δh de la façon suivante:

- Mettre à jour tous les poids Wji de la façon suivante:

 

Fin RETROPROPAGATION

Université d'O.E.B, 1ere année Master

22/10/2021 16
informatique