Explorer les Livres électroniques
Catégories
Explorer les Livres audio
Catégories
Explorer les Magazines
Catégories
Explorer les Documents
Catégories
Compte rendu.
Réalisé par :
Promotion : 2021 /2022
Sommaire
I. Introduction......................................................................................................................1
II. Qu’est ce qu’un réseau de neurones?..............................................................................2
1. Neurone biologique vs. Neurone artificiel.................................................................2
2. Réseau de neurones d’Intelligence artificielle (IA)...................................................2
1. Les réseaux de neurones peuvent apprendre d’eux même..................................3
III. Quelles sont les principales composantes du réseau de neurones?.............................3
1. Neurones: ensemble de fonctions..............................................................................3
2. Couches: groupement de neurones............................................................................4
3. Poids et biais: valeurs numériques............................................................................4
4. Fonction d’activation: algorithmes mathématiques appliqués aux valeurs de
sortie....................................................................................................................................4
IV. Comment fonctionnent les réseaux de neurones?.......................................................5
1. Comprendre le processus...........................................................................................5
V. Qu’est-ce qu’une fonction d’activation?...........................................................................6
VI. Types de fonctions d’activation....................................................................................7
VII. Qu’est-ce que la rétro-propagation?............................................................................7
1. Rétro-propagation: aide le réseau de neurones à apprendre...................................8
VIII. Quels sont les différents types de réseaux de neurones?.............................................8
IX. Conclusion..............................................................................................................9
I. Introduction
Réseau neuronal convolutif et Apprentissage : Les réseaux de neurones évoluent
avec un nouveau type de réseau non complètement connecté, pour alléger les
modèles en nombre de paramètres, et améliorer les performances et leur capacité
de généralisation.
Les neurones de cette région du cerveau sont arrangés de sorte qu'ils correspondent
à des régions qui se chevauchent lors du pavage du champ visuel.
Leur fonctionnement est inspiré par les processus biologiques, ils consistent en un
empilage multicouche de perceptrons, dont le but est de prétraiter de petites
quantités d'informations.
1
réseau de neurones
Tout d’abord, le réseau de neurones est un concept. Ce n’est pas physique. Le
concept de réseaux de neurones artificiels (Artificiel Neural Networks ANN) a été
inspiré par les neurones biologiques. Dans un réseau de neurones biologiques,
plusieurs neurones travaillent ensemble, reçoivent des signaux d’entrée, traitent des
informations et déclenchent un signal de sortie.
Bien que le concept sous-jacent soit le même que celui des réseaux biologiques, le
réseau de neurones de l’IA est un groupe d’algorithmes mathématiques produisant
une donnée de sortie (output) à partir des données d’entrée (input).
2
Ces algorithmes peuvent être groupés pour produire les résultats souhaités.
Les réseaux de neurones sont entrainés avec une multitude de données d’entrées
couplée à leurs données de sortie respectives. Ils calculent ensuite la donnée de
sortie, ils la comparent à la donnée de sortie réelle connue et se mettent à jour en
permanence pour améliorer les résultats (si nécessaire).
Les neurones d’entrée reçoivent des données d’entrée, les traitent et les
transmettent aux neurones dans la couche suivante. Les neurones cachés prennent
les données de sortie des précédents neurones en entrée, calculent de nouvelles
données de sortie et les transmettent à des couches successives.
3
Il est tout à fait possible d’avoir un (très) grand nombre de couches dans un réseau
de neurones complexe. Plus il y aura de couches, plus le réseau sera profond (deep
Learning).
Les couches, autres que les couches d’entrée et de sortie, sont appelées les couches
cachées (ou hidden layeras).
Les biais sont également des valeurs numériques qui sont ajoutées une fois que les
poids sont appliqués aux valeurs d’entrée. Les poids et les biais sont donc en quelque
sorte des valeurs d’auto-apprentissage de nos réseaux de neurones.
4
fonctionnent les réseaux de neurones
Le concept de réseau de neurones repose sur trois étapes principales:
1. Pour chaque neurone dans une couche, multiplier la valeur d’entrée par le
poids.
2. Ensuite, pour chaque couche, additionner toutes les pondérations des
neurones et ajouter un biais.
3. Enfin, appliquer la fonction d’activation sur cette valeur pour calculer une
nouvelle sortie.
1. Comprendre le processus
Soit X1, X2, …, Xn les n neurones de la couche d’entrée, Z1,…, Zm les m neurones de
la couche cachée et Y1,…,Yp les p neurones de la couche de sortie. Soit 1 la valeur de
biais des couches d’entrée et caché. Et soit Wij et Vij les poids synaptiques,
respectivement entre la couche d’entrée et la couche cachée et entre la couche
cachée et celle de sortie.
Chacun des neurones Xn de la couche d’entrée (ainsi que le biais) entre dans chacun
des m neurones de la couche cachée et pareil pour la couche suivante (cf. schéma ci-
dessus). Pour obtenir une valeur de sortie d’un neurone, le processus est le suivant:
5
Ainsi on calcule la somme des poids multipliés par les valeurs d’entrée à laquelle on
ajoute le biais.
Enfin, une fonction d’activation (voir ci-dessous) est appliquée à cette somme
pondérée. Cette valeur de sortie d’un neurone peut ensuite être renvoyée aux
neurones de la couche suivante.
fonction d’activation
Comme son nom l’indique, la fonction d’activation est une formule mathématique
(algorithme) activée dans certaines circonstances. Lorsque les neurones calculent la
somme pondérée des valeurs d’entrée + le biais, elles sont transmises à la fonction
d’activation, qui vérifie si la valeur calculée est supérieure au seuil requis.
Si la valeur calculée est supérieure au seuil requis, la fonction d’activation est activée
et une valeur de sortie est calculée.
Cette valeur de sortie est ensuite transmise aux couches suivantes ou précédentes
(en fonction de la complexité du réseau), ce qui peut aider les réseaux de neurones à
modifier le poids de leurs neurones.
Si nous traçons les sorties non linéaires produites par les fonctions d’activation, nous
obtiendrons une courbure. La pente de la courbe est utilisée pour calculer le
gradient. Et le gradient nous aide à comprendre le taux de changement et les
relations entre les variables.
À partir des relations, les algorithmes sont optimisés et les poids sont mis à jour.
6
Sigmoïde: produit une courbe en forme de S. Bien que de nature non linéaire,
il ne tient toutefois pas compte des légères variations des entrées, ce qui
entraîne des résultats similaires.
Fonctions de tangente hyperbolique (tanh): Il s’agit d’une fonction supérieure
comparée à Sigmoid. Cependant, elle rend moins bien compte des relations
et elle est plus lente à converger.
Unité linéaire rectifiée (Relu): Cette fonction converge plus rapidement,
optimise et produit la valeur souhaitée plus rapidement. C’est de loin la
fonction d’activation la plus populaire utilisée dans les couches cachées.
Soft max: utilisé dans la couche de sortie car il réduit les dimensions et peut
représenter une distribution catégorique.
III. la rétro-propagation
Le concept de rétro-propagation (back propagation) aide les réseaux de neurones à
améliorer leur précision.
Lorsque les réseaux de neurones sont formés, une gamme de valeurs d’entrée est
transmise avec la valeur de sortie attendue correspondante. Les fonctions
d’activation produisent alors une sortie à partir de l’ensemble des entrées.
Ces réseaux reposent sur des filtres de convolution (matrices numériques). Les filtres
sont appliqués aux entrées avant que celles-ci ne soient transmises aux neurones.
Ces réseaux de neurones sont utiles pour le traitement et la prévision d’images.
V. Conclusion
Dans cet article, j’ai présenté le concept de réseau de neurones (qu’est ce que c’est
et comment cela fonctionne).
De plus nous avons pu voir un aperçu des composants qui les rendent
artificiellement intelligents.
Enfin, j’ai introduit les 2 types de réseaux de neurones les plus populaires.