Vous êtes sur la page 1sur 4

Chapitre 6

RBF

Introduction
Les rseaux RBF sont des rseaux couches qui ont pour origine une technique dinterpolation RBF,
cette mthode a t employe pour la premire fois dans le contexte des rseaux neuromimtiques par
Broomhhead et lowe en 1988, le premire algorithme dapprentissage pour les rseaux RBF a t
propose par Moody et Darken en 1989.A partir de ce moment ,le rseau RBF est considr comme
une alternative au perception multicouches, avec la proprit dtre la fois plus rapide et souvent plus
efficace.
Le champ dutilisation des rseaux RBF est trs vari. A lorigine, ce modle a t conu surtout pour
des applications de classification cependant, ces rseaux ont t utiliss avec succs dans des domaines
varis tel que lapproximation des fonctions, la reconnaissance de la parole,la reconnaissance de la
parole, et dautres encore.

1. Structure
Un rseau RBF est un rseau trois couches : une couche dentre, une couche cache compose de
fonctions noyaux et une couche de sortie, dont les neurones sont gnralement anims par une
fonction dactivation linaire.

Entre

Sortie

Chaque neurone de la couche cache contient une gaussienne et ralise une fonction noyau.ces
neurones calculent la distance de lentre leur noyaux et rpondent par une activation en proportion
de cette distance.
La sortie du rseau est simplement une combinaison linaire des sorties des neurones RBF multiplis
par le poids de leur connexion respective.

2. Fonctions Radiales de Base

Chapitre 6
RBF

3. Apprentissage du rseau RBF


On entend par apprentissage, la modification des poids, des connexions ou plus rarement du nombre et
lorganisation des neurones pour adapter le traitement effectu par le rseau afin quil fasse une
reconnaissance.
Lapprentissage des rseaux RBF est gnralement compos de deux tapes :
La paramtrisation des fonctions noyaux.
Lapprentissage des poids de la couche de sortie.

La dernire tape peut tre ralise par des techniques dapprentissage simple. Ltape importante de
lapprentissage est celle permettant de trouver la forme exacte des fonctions noyaux, et elle se
dcompose en deux sous tapes :

Dtermination du nombre et des positions des centres Ci.


Choix de la taille i des champs rcepteurs.

4. Les paramtres du rseau RBF


Il y a quatre paramtres principaux rgler dans un rseau RBF :
Le nombre de neurones RBF (nombre de neurones dans lunique couche cache).
La position des centres des gaussiennes de chacun des neurones.
La largeur de ces gaussiennes.
Le poids des connexions entre les neurones RBF et le(s) neurone(s) de sortie.
Toute modification dun de ces paramtres entrane directement un changement du comportement du
rseau
2

Chapitre 6
RBF
Le nombre de neurones RBF (N) et la deux paramtres intimement lis. Deux optiques soffrent
nous :
soit I nest pas trop grand et alors N=I ;
soit I est trop grand et on choisi N<<I (avec I, le nombre dlment dans la base
dapprentissage).
1) Nombre et position avec N=I :
Dans ce cas-ci (le plus simple), le nombre de neurones RBF est gal au nombre dexemples
soumis au rseau. Chacune des gaussiennes sera alors centre sur un des exemples.

2) Nombre et position avec N<<I :

Dans ce cas-ci, le nombre de neurones RBF devient un vritable paramtre. Il nexiste pas de
mthode pour le dterminer. Il sagit donc de trouver le nombre de centrodes adquat li au
problme donn. Un fois le nombre de centrodes choisi, il faut dterminer leurposition. Pour ce
faire, il existe aussi plusieurs techniques ...
Une autre solution, permettant dobtenir les meilleurs rsultats, est de slectionner les centrodes
via une quantification vectorielle (Learning Vector Quantization : LVQ). Cette solution
permettra de dobtenir la meilleure rpartition des centrodes possible.
Beaucoup proposent aussi dappliquer une carte auto-organisatrice de Kohonen afin de choisir
les centres.

Une fois tous les centres Cj choisis, il faut dterminer la largeur () des gaussiennes. Une rgle
empirique consiste prendre:

avec M = nombre de centrodes


et d = max ||c - cj||, 1= i,j = M si on choisit un gal pour toutes les gaussiennes.
Mais rien nimpose de prendre la mme valeur de pour chaque centrode. Dans ce cas, un autre
rgle nous dit :
=

Chapitre 6
RBF

5. Procdure dapprentissage des rseaux RBF

6. Avantages et inconvnients des rseaux RBF


Alors que l'on pouvait redouter d'avoir invent un modle aux belles proprits thoriques, mais
inutilisable en raison de dures d'apprentissage prohibitives, c'est tout le contraire qui se produit : la
construction d'un rseau RBF est rapide et facile, et c'est l le principal avantage de la technique.
Mais cet avantage se paye par des performances qui ne peuvent tre aussi bonnes que celles de
techniques plus sophistiques (comme le Perceptron Multicouches). En particulier, les rseaux RBF
sont peu performants :
Sur les donnes dans des espaces de grande dimension (beaucoup de variables d'entre). Cette
faiblesse est propre toutes les techniques locales (pensez l'histogramme).
Sur des donnes trs bruites. La reconstruction locale de la fonction empche le rseau de
"moyenner" le bruit sur tout l'espace (comparez avec la Rgression Linaire, dont l'objectif est
justement de moyenner le bruit sur les donnes.).
4

Vous aimerez peut-être aussi