Sminaire pluridisciplinaire

de sciences et technologie

Reservoir Computing

Professeurs: Mr ALLE
Mr VAN ZEEBROECK

de TERWANGNE Cendrine
DETHIER Aymeric
HAUTECOURT Hadrien
LOBET Martin
PINPIN Gauthier
SCHOULEUR Alex

Anne acadmique 2015 - 2016

Nous tenons remercier Robin De Gernier pour son accompagnement et ses conseils. Nous
remercions aussi Quentin Vinckier pour nous avoir fait visiter le service Opra de lULB et
nous avoir clair sur les nombreuses subtilits du reservoir computing photonique.

Table des Matires

EXECUTIVE SUMMARY ........................................................................................................ 5
Partie 1 : Fondements scientifiques et dveloppements technologiques ................................ 5
Recurrent Neural Network (RNN) ...................................................................................... 6
Echo State Network (ESN) ................................................................................................. 6
Liquid State Machine (LSM) .............................................................................................. 6
Reservoir computing ........................................................................................................... 7
Reservoir computing photonique ........................................................................................ 7
Partie 2: Applications technologiques et conomiques .......................................................... 8
Les puces photoniques ........................................................................................................ 8
Tlcommunications ........................................................................................................... 8
Trading ................................................................................................................................ 9
Robotique et reconnaissance vocale ................................................................................... 9
Prvention des crises dpilepsie ...................................................................................... 10
Partie 3 : Dimensions socitale et lgale .............................................................................. 10
Dimension socitale .......................................................................................................... 10
Dimension lgale .............................................................................................................. 11
Conclusion ............................................................................................................................ 11
ANNEXES ............................................................................................................................... 13
Origine du RC .......................................................................................................................... 13
Rseaux de neurones ............................................................................................................ 13
Perceptron et Perceptron mutli-couches ........................................................................... 14
Rseaux dynamiques et statiques ...................................................................................... 14
Recurrent Neural Network (RNN) .................................................................................... 15
Diffrents lments des rseaux de neurones et exemples ................................................... 16
Neurones ........................................................................................................................... 16
Poids .................................................................................................................................. 17
Echo State Networks ............................................................................................................ 18
Introduction ....................................................................................................................... 18
tapes simplifies de la ralisation dun Echo State Network .......................................... 18
Reprsentation mathmatique des Echo State Networks : ................................................ 18
Conditions de fonctionnement .......................................................................................... 19
Liquid State Machine............................................................................................................ 19
Introduction ....................................................................................................................... 19
Principe et conception ....................................................................................................... 20
3

Avantages .......................................................................................................................... 23
Reservoir computing ......................................................................................................... 23
Reservoir computer optique.................................................................................................. 24
Introduction ....................................................................................................................... 24
Le rservoir computer optique : prsentation gnrale ..................................................... 25
Couche dentre analogique du rservoir computer ......................................................... 25
Le rservoir optolectronique ........................................................................................... 27
Couche de sortie analogique du rservoir computer ......................................................... 28
Conclusions sur le RC photonique .................................................................................... 30
Applications technologiques et commerciales ......................................................................... 31
Les puces photoniques avec reservoir computing ................................................................ 31
Le reservoir computing dans les tlcommunications ......................................................... 33
Application du RC au Trading.............................................................................................. 33
RC au niveau de la dtection des crises dpilepsie : ........................................................... 37
Le rservoir computing et la reconnaissance vocale ............................................................ 40
Le reservoir computing en robotique ................................................................................... 41
Le robot Icub ..................................................................................................................... 41
Le robot ASIMO ............................................................................................................... 43
Risques et dimensions socitale et lgale : ............................................................................... 44
Craintes et espoirs de la communaut scientifique ............................................................... 44
Sans limite : De Deep Blue AlphaGo............................................................................. 44
Dimension socitale :............................................................................................................ 45
MOBILITE : Voitures autonomes .................................................................................... 45
FINANCE : Trading ......................................................................................................... 46
MILITAIRE : Armes autonomes ...................................................................................... 47
SANTE : Cancer ............................................................................................................... 47
EMPLOI : Perte demplois et comptitivit ..................................................................... 47
Lgislation europenne ..................................................................................................... 48
Rferences ................................................................................................................................ 50

EXECUTIVE SUMMARY
La force du cerveau humain par rapport la machine rside dans son incroyable capacit
apprendre, avec une trs grande efficacit, et effectuer des tches aussi complexes que varies.
En effet, lorsque notre cerveau effectue une tche, il sollicite des neurones entre lesquels le lien,
appel poids synaptique, se renforce. Cest en cela que rside le concept dapprentissage qui
permet une optimisation des poids synaptiques amliorant notre ractivit et efficacit lorsque
nous nous trouvons dans une situation similaire une dj rencontre.
Les rseaux neuronaux artificiels reposent sur ce mme principe dapprentissage ; cela sappelle
le machine learning. En particulier, le reservoir computing est un concept de calcul directement
inspir du fonctionnement de notre cerveau. En effet, pour entraner le rseau effectuer une
certaine tche comme, par exemple, reconnatre un visage, il faut calibrer correctement tous les
poids synaptiques des neurones qui sont gnralement organiss en couches. Ce calibrage
sappelle la phase dapprentissage. Cest une tche qui peut prendre normment de temps, en
fonction du nombre de neurones calibrer. Lavantage principal du reservoir computing par
rapport aux autres formes de machine learning est quil simplifie considrablement cette tape
dapprentissage. En effet, les poids synaptiques sont attribus alatoirement (en respectant tout
de mme certaines contraintes), l'exception de la dernire couche de neurones qui est la couche
de sortie. tant donn quil faut optimiser les poids synaptiques de la dernire couche de
neurones uniquement, cela permet de rduire considrablement le temps et la puissance de
calcul ncessaires la phase dapprentissage. Outre les avantages lis au concept de reservoir
computing lui-mme, lutilisation dun reservoir computer analogique permettrait, selon les
tats de actuels de la recherche, dencore accrotre ces avantages en offrant des composants
informatiques bien moins nergivores, plus rapides et capables de traiter de plus grandes
quantits dinformations.
En premier lieu, nous allons aborder les diffrentes tapes qui ont men au dveloppement du
concept de reservoir computing. Pour ce faire, nous introduirons les concepts thoriques des
rseaux de neurones artificiels qui en sont la base. Par la suite, nous analyserons un cas
particulier de reservoir computing configuration optique totalement analogique pour les
diffrents avantages quil procure.
Deuximement, nous allons analyser le potentiel du reservoir computing en termes
dinnovation et du point de vue commercial. Nous allons donc parcourir les diffrentes
applications technologiques et commerciales de celui-ci.
Et pour finir, nous exposerons les enjeux socitaux lis au reservoir computing.

Partie 1 : Fondements scientifiques et dveloppements technologiques

Le concept de reservoir computing tire principalement sa source des Echo State Networks et
des Liquid State Machines. Ces deux sujets de recherche sont des adaptations de rseaux de
neurones, dont il existe une multitude de dclinaisons. Ainsi, afin d'en expliquer l'essence, nous
5

allons commencer par brivement expliquer le plus simple d'entre ceux-ci, le Perceptron, ainsi
que sa version plus labore, le Perceptron multicouches. Le Perceptron consiste en un rseau
une couche de neurones. Chaque input y est reli aux neurones de l'unique couche du
Perceptron par des liaisons auxquelles sont associs des poids qui vont dterminer l'influence
de chacun des inputs dans la dtermination de l'output. Les neurones appliquent ensuite une
transformation (appele fonction dactivation) la somme des signaux dentre qui lui
parviennent. Les Perceptrons ne peuvent rsoudre que des problmes linairement sparables,
do lintroduction du Perceptron multicouches, qui permet donc un traitement non linaire.
Recurrent Neural Network (RNN)
Ce type de rseau fonctionne de manire analogue aux prcdents. Cependant, nous retrouvons
ici des connections dites rcurrentes, ce qui induit une dynamique d'auto-activation des
neurones et dote ainsi le systme d'une mmoire. Ceci en fait un outil trs puissant, mais les
RNNs sont malheureusement difficiles paramtrer et coteux en puissance de calcul. Ce sont
ces problmes qui ont incit la recherche se pencher sur les Echo State Networks et les Liquid
State Machine, qui forment ensemble la base du reservoir computing
Echo State Network (ESN)
Le modle Echo State Network constitue un des principaux types de reservoir computing. Les
ESNs sont gnralement composs de trois parties : une couche dentre, un rservoir et une
couche de sortie. Sa mise en place consiste en quatre tapes : premirement la cration d'un
RNN qui servira de rservoir. Deuximement, les donnes d'entranement passent dans le
rservoir puis l'tat de celui-ci est rcolt ainsi que les signaux de sortie. La troisime tape
consiste en l'entranement des poids : cest--dire que l'on va minimiser l'erreur du systme
utilisant un ensemble de donnes d'entranement contenant des inputs et leurs rsultats attendus.
Cette mthode est dite supervise. Dans le cas dun entranement non supervis, il sagira de
dterminer et daffiner des groupes de caractristiques prsentes dans les donnes. Finalement
les poids optimaux sont enregistrs et serviront analyser de nouveaux inputs.
Liquid State Machine (LSM)
Les Liquid State Machines utilisent un principe descriptible en examinant un plan deau sur
lequel des objets sont lancs. Ceux-ci, en percutant la surface liquide, vont provoquer la
formation dondulations, qui vont interagir et former des figures dondes caractristiques des
conditions du lancer de ces objets. En observant la surface deau ondule en un instant t, il est
donc possible de dduire des renseignements concernant les perturbations stant produites en
t-1. De la mme manire, le rservoir dun LSM ragit aux inputs qui lui sont appliqus, et garde
en quelque sorte en mmoire les perturbations ayant modifi son tat.
La structure du LSM est similaire celle des ESNs. Elle se dcompose elle aussi en trois units
: une couche dentre, un rservoir, appel Liquid, et une couche de sortie. Celles-ci possdent
les mmes fonctions que dans les ESNs. La dernire unit est la seule devant subir un
entranement pour optimiser son utilisation, ce qui constitue un gain de temps apprciable.
6

Le modle des LSMs, de par sa configuration, fonctionne son plein potentiel grce un flot
de donnes continu, et dbite en consquence des outputs galement en continu ; ce qui en fait
un modle particulirement adapt de la reconnaissance vocale, iconographique, ou vido par
exemple.
Deux avantages principaux, communs aux ESNs et LSMs, sont, dune part, leur puissance de
calcul suprieure aux rseaux neuronaux traditionnels, et, dautre part, limmdiatet des
premiers rsultats.
Reservoir computing
Comme mentionn plus haut, le reservoir computing provient de lunification des deux
domaines de recherches ESN et LSM. Les caractristiques autrefois propres aux LSMs ont t
intgres aux ESNs et vice-versa. Cependant, et bien que certains continuent utiliser les
appellations ESN et LSM, ces concepts ont volu et le cadre thorique qui les entoure sen
retrouve donc plus large.
Les rservoirs ne sont plus forcment uniformes. En effet, il est vident que des structures
spcifiques peuvent obtenir de meilleurs rsultats quun rservoir standard pour certaines
tches. Ainsi, la recherche tente dsormais de comprendre les effets des diverses
caractristiques des rservoirs vis--vis de leurs performances pour une tche donne, ainsi que
de dvelopper des rservoirs adquats pour ces tches et de meilleures techniques
dentranement. Les rservoirs ne sont donc plus aussi fixes, et plusieurs branches de recherche
tentent de les optimiser au moyen de divers algorithmes.
Reservoir computing photonique
Dans cette partie, nous dcrivons un type particulier de RC : le RC optique tout analogique. Il
est caractris par le fait que le traitement de linformation en son sein se fait de manire
entirement analogique. En effet lentre du RC, les donnes devant tre traites sont codes
sur une source lumineuse, il sagit dans le cas de larticle que nous avons considr dune SLED
(Super Luminescent Electro-Diode). La sortie du rservoir est elle aussi sous forme analogique
: le signal de sortie gnr est un signal analogique lectrique mis par une photodiode balance
et passant par un filtre passe-bas RLC jouant le rle dintgrateur : il fait la somme des tats
du rservoir multiplis par leurs poids de sortie.
Les dynamiques au sein de ce RC optique peuvent tre expliques comme suit : le faisceau
lumineux lentre est cod par un modulateur, sur base des donnes traiter. Ensuite ce signal
lumineux est nouveau modul pour y appliquer les poids synaptiques des neurones par un
deuxime modulateur. Ces neurones sont virtuels, ils sont reprsents par un vecteur de
transformations non linaires appliques au signal lumineux par ce deuxime modulateur. Le
signal est ensuite coupl un signal prcdent par multiplexage temporel via une ligne de dlai
en fibre optique puis mesur par une photodiode afin de coder leur somme sur un nouveau
signal lumineux, laser celui-ci. Celui-ci sera alors spar en deux : une partie ira alimenter une
photodiode dont la sortie sera digitalise afin d'entraner le systme, lautre partie plus
7

importante du signal sera injecte dans photodiode balance (elle fait la diffrence entre deux
signaux lumineux qui lui sont appliqus) aprs avoir t code par un modulateur double
sortie pour permettre lapplication des poids de sortie aussi bien positifs que ngatifs au faisceau
lumineux, ce qui est impossible avec un seul faisceau lumineux. Ceci est indispensable la
linarisation. Enfin le signal analogique lectrique mis par cette photodiode balance sera
appliqu un filtre passe-bas plac en intgrateur afin de raliser la somme des tats du
rservoir qui sont sous forme analogique lectrique. Est alors obtenu le rsultat toujours sous
forme de signal analogique ; celui-ci sera finalement digitalis pour pouvoir tre analys
exprimentalement. Le traitement de linformation est ds lors termin.

Partie 2: Applications technologiques et conomiques

lheure actuelle, il est encore trop tt pour exploiter pleinement le reservoir computing pour
un usage commercial car cette technologie nest pas encore assez mre pour tre implmente
de manire efficace, mais nous allons montrer laide dexemples concrets quil sagit
nanmoins dune technologie dote dun trs grand potentiel conomique. Les possibilits
dapplications sont nombreuses ds lors quil est admis que le reservoir computing peut traiter
des donnes trs grande vitesse et que le traitement de donnes est utile dans bien des
domaines. Nous avons donc choisi dexplorer quelques applications potentielles qui nous ont
paru les plus prometteuses.
Les puces photoniques
Premirement, des chercheurs de luniversit de Gand ont dmontr en 2014 la viabilit des
puces photoniques utilisant le reservoir computing. Un des gros avantages de celles-ci est que
la partie rservoir de ces puces nutilise que des composants passifs et ne consomment donc
quasiment pas dnergie. Actuellement les chercheurs sont parvenus reconnatre de
linformation un dbit de 12,5Gbit/s grce cette puce, mais ils sont confiants dans le fait de
pouvoir augmenter facilement ce dbit 100Gbit/s. La puce quils ont dveloppe en
laboratoire a t ralise sur une plate-forme Silicon-on-insulator (SOI) qui a lavantage
dutiliser les technologies de production actuelles de lindustrie lectronique des semiconducteurs. Cela ouvre donc de belles perspectives de production de masse bas cots.
Tlcommunications
Deuximement, le reservoir computing permettrait damliorer nos systmes de
tlcommunications. Une tude mene par des chercheurs de luniversit de Gand montre quun
systme photonique utilisant des puces nanomorphiques photoniques peut avoir
dimpressionnantes performances en termes de rgnration de signal sur une distance de
200km de fibre optique. En optimisant un peu le systme, cela reprsenterait un candidat viable
pour la prochaine gnration de systmes de tlcommunications. Il reste tout de mme deux
challenges surmonter avant de pouvoir envisager un usage commercial grande chelle. Tout
dabord, il faut pouvoir augmenter la taille du rservoir pour quil puisse traiter des tches plus
complexes. Et deuximement, il faut pouvoir intgrer efficacement le systme de lecture de
8

loutput du rservoir car actuellement les photo-dtecteurs utiliss pour cette tche sont
inefficaces et lidal serait donc davoir un systme entirement optique.
Trading
Le RC peut galement tre utilis dans le domaine du trading. En effet, selon une tude de
Michiel Callens, en entranant un reservoir computing, il est possible de raliser des prdictions
approximatives des cours de bourse sur une priode trs courte, de lordre de 10 minutes. tant
donn que nous supposons que nos actions vont dpendre de la valeur dautres actions se
trouvant sur le march, le fait dutiliser celles-ci comme inputs notre rservoir va permettre
au systme de raliser des prdictions. Cest donc une forme de data-mining.
M.Callens a ainsi ralis lexprience sur le cours de bourse dune entreprise en comparant les
prdictions ralises grce au reservoir computing ceux dune prdiction nave, cest--dire
une prdiction qui se base sur les dernires valeurs observes du cours de lentreprise. Il ressort
de cette tude que le reservoir computing arrive prvoir une estimation plutt correcte du
cours de bourse. Bien quutilisable, cette prdiction nest pas assez aboutie pour tre utilise
dans un systme de trading automatis. Malgr le manque de recherches sur lapplication du
reservoir computing dans le trading, qui est surtout d au cot de la traduction des donnes en
input pour le rservoir, certaines socits de trading sont trs intresses par cette application
et par le profit que celle-ci leur pourrait leur apporter.
Robotique et reconnaissance vocale
Le reservoir computing a t test avec succs en laboratoire notamment avec l'impressionnante
dmonstration du professeur Laurent Larger, qui a montr quun rservoir computer est capable
de reconnatre plus dun million de mots la seconde.
Le reservoir computing permet de repousser encore les limites des intelligences artificielles des
robots et notamment de les rendre plus humains. Le concept de reservoir computing est utilis
avec succs dans les intelligences artificielles des robots humanodes Icub et ASIMO. Le projet
Icub a t lanc en 2006 par lITT (Istituto Italiano di Tecnologia) et sintgre dans un projet
plus vaste rassemblant plusieurs universits europennes. Icub est capable dapprendre comme
un enfant le ferait, il est capable de jouer, de parler, de comprendre des phrases compliques et
possde mme un dbut de conscience de lui-mme. Un autre robot utilisant le reservoir
computing est le robot humanode ASIMO dvelopp par Honda des fins de recherches. Grce
au reservoir computing, ASIMO est dsormais capable de courir, dviter des obstacles, de
reconnatre des visages, de parler, de pratiquer le langage des signes et dapprendre de nouveaux
gestes rien quen observant un humain les excuter. De nombreuses universits ainsi que des
entreprises telles que Honda et IBM ont dj investi dans de la recherche sur le reservoir
computing. Nous pouvons nous attendre ce que de plus en plus dentreprises technologiques
se penchent sur le reservoir computing au fur et mesure que cette technologie se dveloppe.

Prvention des crises dpilepsie

Le milieu mdical possde dj un moyen de prdire les crises dpilepsie, en utilisant un
lectroencphalogramme pour mesurer lactivit crbrale. Cela permet au personnel soignant
de pouvoir les contenir en administrant au patient des mdicaments ou en ralisant une
neurostimulation.
Des tests quant lefficacit du reservoir computing ont tout dabord t mens sur des rats et
ensuite sur des patients humains. Les rsultats sont trs tonnants car dans les deux cas,
lutilisation du reservoir computing a surpass les techniques actuelles utilisant
llectroencphalogramme. Entraner un rservoir avec des donnes, que ce soit avec les
diffrentes formes dpilepsie prsentes chez les rats, ou bien en utilisant une tude ralise sur
des patients humains, permet dobtenir des rsultats probants concernant les animaux, mais une
performance mitige, bien quacceptable, concernant les tres humains.

Partie 3 : Dimensions socitale et lgale

Dimension socitale
Le reservoir computing, de par sa capacit de traitement de linformation et dadaptation, prend
place au sein du vif dbat sur lintelligence artificielle. De nombreux scientifiques saluent ses
applications prometteuses et bnfiques lHomme, telles que lanalyse grande chelle
dimages satellite pour la lutte contre la pauvret, mais dnoncent galement les risques dabus
ou dventuelles pertes de contrle. Ils rclament ds lors une rflexion en vue dadopter des
rgles et accords internationaux qui limitent lutilisation des intelligences artificielles. Les
machines intelligentes voient leurs capacits augmenter continuellement et leurs limites
constamment repousses. Ce fut le cas, par exemple, pour la rcente victoire dAlphaGo contre
le champion mondial du jeu de Go, exploit que lon pensait impossible avant des annes.
Les rseaux neuronaux artificiels prennent une place de plus en plus importante dans nos vies
car ils sont indispensables de nombreuses applications actuelles ou en cours de dveloppement
dans des domaines tels que la mobilit, la finance, larmement et la sant.
Les voitures autonomes de Google, par exemple, ont parcouru plus de 2,3 millions de km et
comptabilisent seulement un accident en tort. Dautres projets pilotes ont galement t lancs
en Europe et aux USA ces dernires annes. De ce fait, lespoir est de rduire de 90% les dcs
de la route dici 2050 mais des risques de hacking et de dfaillances techniques subsistent.
Le Trading Haute Frquence augmente la rentabilit des portefeuilles dactifs mais fragilise
le march boursier en augmentant la volatilit des actifs. Diffrents crashes engendrant de
lourdes pertes ont t causs par dysfonctionnements de software, failles dans les algorithmes
ou utilisations abusives, malintentionnes et donc punissables de la part de traders.
Dans le domaine militaire, lutilisation darmes capables de viser et tirer sans intervention
humaine permettrait dpargner la vie de nombreux soldats, mais pose de grandes questions

10

thiques et faciliterait la dcision des dirigeants de rentrer en guerre. Les scientifiques craignent
une course larmement.
Les rseaux neuronaux sont galement utiles au diagnostic de cancers ainsi quau choix de
traitements personnaliss. En effet, tant donn que chaque tumeur est unique, le croisement
des donnes (molcules, traitements administrs, ractions du patient, etc.) permettrait de
trouver le traitement le plus adapt chacun des cas en analysant les similitudes.
La substitution de lhumain par des machines est possible pour des tches de plus en plus
complexes avec lintelligence artificielle. De nombreux emplois sont donc menacs mais Mady
Delvaux, prsidente du groupe de travail sur la robotique pour le Parlement Europen, souligne
tout de mme lopportunit de gain en comptitivit et, avec elle, une potentielle relocalisation
de la production en Europe.
Dimension lgale
Il nexiste actuellement pas de lgislation spcifique et adapte lintelligence artificielle (IA)
en Europe. Les robots industriels dpendent dune directive europenne relative aux paramtres
techniques et la scurit, qui ninclut cependant pas lintelligence propre au robot. Les
machines dotes dIA dpendent donc encore de la responsabilit du fait des choses. Cela
signifie que la personne qui en a lusage, la direction, et le contrle, sera tenue responsable des
dommages, sauf en cas de dysfonctionnement o lon se retournera vers le fabriquant.
Nanmoins, la condition de contrle nest plus remplie et les IA ne sont plus vraiment des
choses.
Le Parlement Europen travaille la cration dun cadre lgal adapt et parle mme de la
conception dun statut propre aux intelligences artificielles. Cette ide est nuance par des
professionnels du droit qui craignent une dresponsabilisation des personnes impliques dans
la cration des IA. La cration dune personnalit lectronique octroierait des droits et
responsabilits juridiques et financires propres, linstar de la personne morale pour une
socit. Mady Delvaux rappelle limportance dadopter une lgislation standardise et flexible
afin de faciliter le dveloppement des technologies lies aux systmes dintelligence artificielle
en Europe.

Conclusion
Bien que le concept de reservoir computing reste principalement limit des projets de
recherches, nous avons pu constater le grand potentiel commercial et technologique quil
reprsente. En effet, ses proprits intrinsques lui permettent de se dmarquer des autres
rseaux neuronaux artificiels par sa plus grande simplicit, sa rapidit, ainsi que par sa
consommation nergtique moindre. De ce fait, cela permet denvisager le reservoir computing
comme une innovation majeure, capable de repousser les limites des calculateurs actuellement
disponibles. Cest dautant plus vrai pour le reservoir computing optique tant donn quil

11

utilise la lumire, dont les proprits particulires augmentent grandement le dbit de traitement
de donnes et permet lutilisation de composants passifs.
Cependant, le reservoir computing ncessite de plus amples dveloppements scientifiques pour
pouvoir tre exploit commercialement, raison pour laquelle il faudrait entreprendre plus de
recherches dans le domaine.
Au vu de son potentiel, le reservoir computing reprsente assurment une opportunit
dinvestissement saisir.

12

ANNEXES
Origine du RC
Le concept de reservoir computing provient de lunification de plusieurs domaines de
recherches. Les deux principaux tant lEcho State Network et le Liquid State Machine qui
relvent tous les deux du domaine de la computational neuroscience dont les principes manent
principalement de la biologie. Tous deux sinspirent du fonctionnement du cerveau humain afin
de procder des calculs et traitements dinformations (inputs). Les rseaux de neurones
artificiels dont il est question sont gnralement structurs en plusieurs couches travers
lesquelles les inputs se propagent en subissant des transformations permettant le traitement
dinformations, linstar des neurones humains. ct de ces deux domaines principaux, nous
trouvons galement les techniques de backpropagation decorrelation qui proviennent quant
elles du domaine appel machine learning, dont les fondements sont principalement
statistiques. Ayant de nombreuses caractristiques communes, les chercheurs lorigine des
diffrentes initiatives ont choisi de joindre leurs connaissances sous un mme nom, savoir le
reservoir computing.

Le reservoir computing repose sur des rseaux de neurones qui soccupent du traitement
proprement parler de linformation.

Rseaux de neurones
Il existe une multitude de rseaux de neurones artificiels, chacun possdant des architectures,
fonctionnalits et caractristiques diffrentes.

13

Perceptron et Perceptron mutli-couches

Invent en 1957, le Perceptron est considr comme tant le rseau de neurones le plus simple.
Il sagit en fait dun rseau couche unique permettant la rsolution de problmes linaires et
fonctionnant uniquement en feed-forward. Cela signifie que, en dehors de la priode
dapprentissage, les diffrents inputs traversent la mono-couche des neurones, qui sont tous
connects lunique sortie, sans former de cycle. A chaque connexion est galement associe
une certaine importance statistique, appele poids synaptique. La combinaison linaire de ceuxci se voit ensuite appliquer une fonction dactivation qui permet un traitement des inputs. Au
cours de la priode dapprentissage, loutput est valu avec des chantillons dinputs diffrents
afin de dfinir les poids synaptiques optimaux fournissant le meilleur taux doutput correct. Le
principe dapprentissage de base veut que deux neurones excits conjointement voient un lien
entre eux se crer ou se renforcer.
Cette premire version du Perceptron tant limite aux problmes de type linaire, il a fallu
envisager une version plus complexe dote de plusieurs couches et sorties. Cest ainsi que le
Perceptron multicouches fut imagin un peu moins de 30 ans plus tard et fut dot dun systme
de rtropropagation. La rtropropagation consiste en lanalyse continue des outputs et des
erreurs afin doptimiser les poids synaptiques reliant chacun des neurones dune couche tous
les neurones des couches adjacentes.

Rseaux dynamiques et statiques

Un rseau neuronal est qualifi de dynamique lorsque le systme adapte continuellement ses
proprits au fur et mesure quil reoit et traite de linformation. Au contraire, les rseaux
sont dits statiques lorsque loutput nest utilis que lors de la priode dapprentissage afin de
fixer les poids synaptiques. Une fois cette tape effectue, linformation est transmise en
feedforward uniquement. [1]
14

Au sein de la catgorie des rseaux dynamiques, lon retrouve les rseaux rcurrents.
Recurrent Neural Network (RNN)
Les Recurrent Neural Networks sont des rseaux de neurones dont chacun des paramtres sont
optimiss. Au dpart, le rseau est initialis en attribuant alatoirement des poids entre chaque
neurone, puis le systme est optimis en ajustant les poids ainsi que les fonctions dactivation
des neurones, jusqu ce que le Recurrent Neural Network arrive un tat minimisant lerreur
entre ce qui est donn en entre et ce qui est attendu du rseau en sortie. [2]
la diffrence des simples rseaux de neurones de type feed-forward, les RNNs peuvent
dvelopper une dynamique dauto-activation dans le temps qui les dotent ainsi dune mmoire.
Ce processus est entretenu par le systme lui-mme grce ses connections rcurrentes ce qui,
mathmatiquement, en fait un systme dynamique et non pas une simple fonction [3].
Les RNNs sont donc des outils trs puissants, mais ceux-ci sont tout de mme soumis certaines
contraintes :

Le changement graduel des paramtres du rseau de neurones pendant lapprentissage

mne ce qui pourrait tre appel des points de non-retour partir desquels
linformation du gradient dgnre et ne peut plus mener une erreur globalement
minimale.
Changer un seul paramtre peut tre coteux en puissance de calcul, surtout si le rseau
de neurones est grand.
Trouver des dpendances dans des systmes avec de grandes mmoires est non trivial
du fait que linformation du gradient diminue exponentiellement au cours du temps.
Les algorithmes dapprentissage les plus avancs font appel de nombreuses notions
mathmatiques et ncessitent un paramtrage complexe. Lutilisation des RNNs se voit
ds lors rserve aux plus avertis.

Ceci a men une nouvelle approche des RNNs, initie par les travaux de Buonomano, et suivie
par les travaux de Jaeger sur les Echo State Networks, ainsi que les travaux de Maess sur les
Liquid State Machines.

15

Diffrents lments des rseaux de neurones et exemples

Neurones
Les neurones intervenant dans les rseaux de neurones et donc dans le reservoir computing sont
dits formels. Il sagit dune reprsentation dun neurone biologique. Ces neurones sont dots de
plusieurs entres (ce qui correspond aux dendrites dans les neurones biologiques). Les signaux
provenant de ces entres sont additionns ; le neurone y applique ensuite une fonction de
transfert (qui correspond laction des axones). Les neurones utiliss dans le reservoir
computing peuvent tre soit analogiques soit numriques, et peuvent tre soit simuls par
ordinateur pour obtenir une rponse thorique, soit assembls (dans un circuit par exemple)
pour un traitement analogique. [4]
En voici quelques exemples :

Neurones sigmodaux
Threshold logic gates
Tangente hyperbolique
Neurones de Fermi
Spiking neurons

Exemple de circuit lectronique pour une fonction dactivation (neurone) tangente

hyperbolique :

16

Poids
Comme mentionn plus haut, les neurones sont relis entre eux par des liens auxquels sont
associs des poids, des coefficients, altrant leffet de linformation qui est transmise au
neurone suivant.

Ce schma reprsente une interconnexion o la valeur du poids est stocke sous sa forme
analogique en tant que charge dans les deux condensateurs. Le circuit multiplie la diffrence de
voltage des deux condensateurs avec le voltage dentre.

17

Echo State Networks

Introduction
Les Echo State Networks fournissent une architecture dtermine pour lentranement supervis
des Recurrent Neural Networks [5].
Bien quil existe de nombreuses variantes, lide de base est de crer un grand Recurrent Neural
Network fixe de manire alatoire qui va appliquer au travers de chacun de ses neurones un
filtre non-linaire au signal dentre. Les signaux de sortie de ce Recurrent Neural Network, ou
signaux de rponse, vont ensuite tre assembls par combinaison linaire entranable pour
obtenir une sortie avec une erreur minimale par rapport loutput dsir.
Lavantage majeur de ce type d'entranement est que le rservoir en tant que tel nest pas
entran de manire extensive, ce qui ncessite donc moins de connaissances ou encore
dexprience par rapport aux algorithmes d'entranement.
tapes simplifies de la ralisation dun Echo State Network

Cration dun Recurrent Neural Network fixe et alatoire. Le choix des neurones ainsi
que leur nombre sont libres, mais influencent bien sr les performances. Ce RNN fera
office de rservoir.
Rcupration de ltat du rservoir : les donnes d'entranement sont passes dans le
rservoir, puis ltat du rservoir et les signaux de sortie (qui sont donc des
transformations non linaires des signaux dentre) sont rcolts.
Apprentissage : celui-ci peut se faire de deux manires. Il peut tre supervis ou non.
Dans le premier cas, les outputs attendus pour les inputs d'entranement (teacher
outputs) sont fournis au systme qui se chargera ensuite de minimiser lerreur entre les
deux, en ajustant ses poids de sorties par lapplication de techniques de rgression
linaire sur les poids de sortie. Dans le second cas, le systme ne reoit que les inputs,
et doit dcider par lui-mme sur quels lments se baser pour grouper les donnes. Il
existe aussi des mthodes intermdiaires, qui ne donnent par exemple quune partie du
teacher output.
Ces poids seront enregistrs et serviront analyser de nouveaux inputs en utilisant le
mme rservoir.

Comme prcis prcdemment, il existe plusieurs variantes aux Echo State Networks.
Il en existe comportant diffrents types de neurones, avec ou sans connexions directes entre
linput (et donc elles aussi entranables) et loutput, avec des feedbacks vers les rservoirs etc.
En ce qui concerne l'entranement des poids de sortie, celui-ci peut tre ralis par nimporte
quel algorithme de rgression linaire.
Reprsentation mathmatique des Echo State Networks :
Chaque neurone applique une transformation aux signaux qui lui parviennent. Dans ce cas, les
transformations sont traduites mathmatiquement comme suit :
18

o x(n) est ltat du rservoir au temps discret n, est la fonction dactivation du neurone, W
est la matrice de poids du rservoir,
est la matrice de poids du signal dentre, u(n) est le
signal dentre,
est la matrice de feedback (pas forcment prsente) et y(n) est le signal de
sortie. Ltat du systme tendu z(n) = [x(n) ; u(n)] au temps nest obtenu en joignant le signal
dentre ltat du rservoir. Le signal de sortie sobtient partir de ce systme tendu comme
suit :

O g est une autre fonction dactivation, qui est typiquement une fonction identit, mais peut
aussi tre une sigmode ou autre, et Wout est la matrice de poids du signal de sortie qui sera
entrane [4].

Conditions de fonctionnement
1. Echo state property : Cette proprit signifie que le rservoir va asymptotiquement
effacer toute information sur ses conditions initiales, que le rseau oublie
progressivement son tat initial. Cette condition est empiriquement vrifie lorsque le
spectre radial de la matrice de poids du rservoir est infrieur 1.
2. Les tches donnes aux Echo State Networks ne peuvent ncessiter une mmoire nonlimite dans le temps.

Liquid State Machine

Introduction
Avant de nous attaquer lexplication proprement dite de ce type de reservoir computing, il
nous semble galement important dintroduire le sujet de manire didactique ; ce dernier est en
effet complexe, linstar du thme principal.

19

Lapproche choisie se base sur une analogie, celle dun rservoir deau dans lequel plusieurs
objets sont jets. Lorsque ceux-ci pntrent dans leau, ils provoquent la formation de vagues,
dondulations la surface de leau, dont les caractristiques sont lies au type de projectile. En
reproduisant cette exprience en faisant varier le type dobjets lancs et les intervalles de temps
entre les lancers, des modles particuliers, uniques, de vagues peuvent tre observs.

Leau permet ici de visualiser les ondes de propagation dues une perturbation ; elle intgre et
capture des informations relatives aux vnements rcents qui lont affecte. En examinant la
surface du rservoir deau un temps t, il est donc possible de dduire des renseignements
concernant la/les perturbation(s) stant produites en t-1.
Une capture dimage instantane de la surface deau en t permet bien sr de voir ltat de la
surface deau cet instant t, mais rvle galement des informations temporelles et spatiales
sur les vnements ayant eu lieu avant t, et en t.
Cette analogie illustre lide sous-jacente derrire les Liquid State Machines (LSM, ou
Machines tat Liquide MEL), celle de convertir des donnes entrantes (inputs) temporelles
en une reprsentation spatiale par le biais dun support pouvant tre stimul, le liquide ; cest
ensuite en apprenant lire ltat du liquide [6] que des informations peuvent tre infres
au sujet des donnes entrantes temporelles.
Principe et conception
Lappellation Liquid State provient du fait quun des composants des LSM a t conu de
faon ragir dune manire semblable celle dun rservoir deau liquide, cest--dire de
manire dynamique des perturbations, des inputs. Cet lment proprement dit est simplement
nomm Liquid dans les modles LSM ; nous le dtaillerons par aprs, en mme temps que
les autres composants du systme.
Les LSM, ainsi que les ESN abords prcdemment, sont des algorithmes relativement
nouveaux qui peuvent traiter des problmes contenant des donnes de sries chronologiques.
Dans ces deux grands modles, un liquide (ou rservoir) reoit comme inputs des donnes de
sries chronologiques, qui le font passer par des tats dynamiques, qui dpendent du flux
dinformations temporel. Le liquide est ensuite lu aprs une priode temporelle spcifique par
un rseau de lecture entran reprsenter ltat dun liquide selon un output particulier.
La configuration thorique dune machine tat liquide est prsente la figure ci-dessous.
20

Nous remarquons tout dabord les deux lments principaux, et indispensables, du modle,
savoir le Liquid et le Readout. Notons en outre la prsence de composants de conversion, qui
peuvent savrer ncessaire lorsque le signal dinput nest pas adapt au Liquid qui suit
immdiatement.
Dtaillons maintenant les diffrents composants en prsence :
Unit de conversion : cest llment qui convertit linput envoy dans le systme de manire
le rendre exploitable par le rservoir, le Liquid, qui suit. Le signal dentre peut tre continu ou
discret ; selon le type dutilisation de la MEL, lunit de conversion modifiera le type du signal,
passant de continue discret (dans le cas dun traitement par ordinateur par exemple) et
inversement. La conversion peut galement intervenir lorsque le Liquid consiste en un
Spiking Neural Network ; ce type de rseau, sur lequel nous reviendrons, requiert que les
signaux soient sous forme de pics. Dans ce cas, il est donc ncessaire de convertir les donnes
entrantes en ce qui est appel des trains de pics, qui sont des sries de pics survenant des
instants diffrents.
Liquid (ou rservoir) : cest le cur du modle qui nous occupe. Il est compos dun ensemble
de neurones artificiels, et plus prcisment dans ce cas, dun spiking neural network . Cela
consiste en un certain nombre de neurones, ayant chacun leur propre tat dactivation,
autrement appel le potentiel de membrane (rfrence directe la biologie). Des connections
sont tablies dun neurone lautre ; les points de contact sont appels synapses.
Chaque input appliqu un neurone change son potentiel de membrane ; si ce changement porte
le potentiel au-del dun certain seuil (pic, voir figure 1) appel le seuil de dcharge, le neurone
met un signal vers les autres neurones qui lui sont connects. Ensuite, si le neurone ne reoit
plus dinput, le potentiel de membrane retombe jusquau potentiel de repos, prs rmettre
ds quil aura reu suffisamment dinputs. Ce processus de dcharge implique que les anciennes
informations, en quelque sorte stockes dans le neurone, disparaissent au fur et mesure pour
faire place aux nouvelles ; cette mmoire volutive sappelle fading memory .

21

Figure 1 : seuil de dcharge, ou pic, d'un neurone, et schma biologique correspondant

Notons en outre que lensemble des neurones sont rpartis "spatialement", toujours
virtuellement bien sr, au moyen dun retard temporel dfini. De cette manire, les connections
entre neurones seffectuent en fonction de leur agencement ; des neurones proches auront plus
de chances de sinterconnecter que des neurones loigns lun de lautre. Par ce biais, la
propagation dinformations dans le Liquid semble suivre une certaine structure, notamment
grce aux connections rcurrentes qui empchent larrt pur et simple du signal lorsque celuici atteint les bords virtuels du Liquid.
Ces connections alatoires sont adaptes nimporte quel type de tche et constituent dailleurs
lun des points forts du modle LSM, qui est que le Liquid nest pas li une tche unique, et
quil est donc possible de lexploiter pour excuter plusieurs tches simultanment.
Cest donc ce systme complexe de neurones fonctionnant par pics qui reproduit en quelque
sorte le comportement dun rservoir deau (do lappellation Liquid) ; il ragit aux inputs qui
lui sont appliqus en mettant un signal qui sera ensuite exploit. Il sert de prprocesseur en
amplifiant la gamme de fonctions possibles issues des flux dinputs que la MEL peut apprendre.
Unit Readout : cest la fonction dune MEL qui va, partir dune capture dimage instantane
de ltat du Liquid qui est appele readout moment , tirer des conclusions sur lchantillon.
Elle est dfinie comme une fonction qui transforme les tats internes du Liquid en des valeurs
doutput dfinies, afin de pouvoir exploiter les rsultats. Cest la seule partie du modle qui
ncessite un entranement ; cela permet dviter ltape fastidieuse de lentranement du Liquid,
qui est comme voqu prcdemment un spiking neural network . Le readout peut alors
reconnatre les inputs grce aux chantillons apprhends prcdemment.
Le modle LSM fonctionne idalement de manire continue ; il est capable de grer un flux
dinformations permanent, et dbite galement en output un flux continu.
Deux proprits fondamentales du Liquid peuvent enfin tre notes. La premire concerne la
sparation : il sagit de la capacit du Liquid montrer une activit diffrente pour diffrents

22

chantillons. La deuxime est lapproximation : cest la capacit de lunit Readout rendre

compte de lactivit du Liquid selon les rsultats dsirs.
Avantages
Le modle des Liquid State Machines prsentent plusieurs avantages :
Les MEL utilisent un spiking neural network , et donc des spiking neurons ; ces derniers,
qui communiquent en envoyant des pulsations, ont montr au cours de leur dveloppement une
puissance de calcul suprieure aux neurones cods traditionnellement ;
Le fonctionnement des MEL impliquant un spiking neural network qui ne ncessite pas
dentranement, ce lourd processus est vit dans la conception, ce qui implique un gain de
temps considrable par rapport dautres mthodes ;
Le modle MEL est capable de fournir une rponse demande nimporte quel instant, que
linput soit en cours de traitement ou ait dj t trait. Il nest donc pas ncessaire dattendre
la fin dun calcul pour obtenir les premiers rsultats ;
Les MEL sont donc multitches comme voqu prcdemment. Plusieurs tches peuvent donc
tre effectues paralllement, que ce soit pour des inputs diffrents, ou pour un input unique
trait de plusieurs manires ;
Enfin, le modle qui nous occupe est raliste du point de vue biologique. Il savre donc trs
utile dans ltude du systme nerveux, du cerveau, et notamment du cortex, partie du cerveau
qui effectue des calculs sur des flux dinputs permanents.
Reservoir computing
Comme mentionn plus haut, le reservoir computing provient de lunification des deux
domaines de recherches expliqus linstant (ESN & LSM). Cependant, et bien que certains
continuent utiliser les appellations ESN et LSM, ces concepts ont volu et le cadre thorique
qui les entoure sen retrouve donc plus large. Les caractristiques autrefois propres aux LSM
ont t intgres aux ESN et vice-versa.
Les rservoirs ne sont plus forcment uniformes. En effet, il est vident que des structures
spcifiques peuvent obtenir de meilleurs rsultats quun rservoir standard. Ainsi, la recherche
svertue dsormais comprendre les effets des diverses caractristiques des rservoirs vis-vis de leurs performances pour une tche donne, ainsi que de dvelopper des rservoirs
adquats pour ces tches et de meilleures techniques dentranement. [3]
Les rservoirs ne sont donc plus aussi fixes, et plusieurs branches de recherche tentent de les
optimiser avec divers algorithmes (ex. Evolino, Genetic Algorithms). Il est aussi fait mention
dadaptation des rservoirs grce des rgles dapprentissage non supervises. [2]
Nous retrouvons ainsi une dfinition plus actuelle du reservoir computing qui est dentraner le
reservoir et le readout sparment et diffremment.

23

Reservoir computer optique

Introduction
Dans cette partie de notre travail, nous allons dcrire un type de reservoir computer
compltement analogique. Nous avons choisi pour ce faire de nous baser sur un article [7] en
particulier, rcemment sorti, qui selon nous met bien en valeur la faon dont fonctionne le
reservoir computing et permet galement davoir une bonne visualisation dune concrtisation
du concept de reservoir computing, tant donn quil sagit dun champ de recherche
scientifique assez large.
Parmi les diffrents types de reservoir computer, les RC analogiques sont remarquables pour
leur rapidit et en particulier les RC analogiques travaillant avec des signaux lumineux. En effet,
le fait de travailler avec la lumire permet une vitesse de transfert des donnes quasiment
instantane. La lumire permet galement diffrents types de multiplexages pour accrotre la
capacit du RC (aussi bien temporelle que frquentielle). Cependant, ces RC sont actuellement
limits par deux lments : dune part, le "nombre" de neurones qui composent le rservoir et,
dautre part, le fait quil faille un pr- et/ou un post- processing des donnes depuis le numrique
vers lanalogique, lentre et la sortie.
Le nombre de neurones limite la performance du RC dans la mesure o, au plus il y a de
neurones, au plus linformation peut tre traite rapidement. Au plus galement les neurones
peuvent se baser sur un nombre important dtats des neurones avoisinants issus dtapes
temporelles antrieures pour dterminer les tats du rservoir (pour rappel, les RC optiques
travaillent en units de temps discrtes afin de diffrencier les tats des neurones diffrents
moments). Dun autre ct, ce nombre de neurones est aussi limit la hausse. Avoir trop de
neurones dans un mme systme entrane des problmes de bandes passantes et de pertes (par
exemple dans la ligne de dlai si elle devient trop longue).
Le fait que, pour linstant, il faille encore pr- et/ou post-processer les donnes pour les
transformer en forme analogique prend beaucoup de temps en comparaison avec la vitesse
laquelle les informations sont traites dans le rservoir sil tait entirement analogique.
Dans cet article, il est propos dutiliser un rservoir computer tout analogique. Ainsi les
donnes lentre sont analogiques tout comme celles la sortie. Il y a dans ce modle de RC
deux tapes importantes : premirement la transformation et le codage du signal dentre en
analogique lumineux (implmentation dune couche dentre analogique) et deuximement la
gnration dun signal de sortie analogique lectrique (implmentation dune couche de sortie
analogique).
Limplmentation de la couche dentre analogique est relativement simple compare
limplmentation de la couche de sortie. En effet la couche dentre consiste en le codage du
signal dentre puis sa multiplication par des poids alatoires. La difficult de limplmentation
dune couche de sortie analogique rside dans le fait que la compilation des tats du rservoir
ncessaire au calcul du rsultat du RC doit se faire en appliquant des poids arbitraires positifs
et ngatifs aux tats de ce rservoir, et ensuite de les additionner, ce qui demande une prcision
et une capacit de calcul importantes. De plus, le fait de travailler avec la lumire ne permet pas
24

directement deffectuer ces oprations tant donn que la lumire ne peut pas prendre de valeur
ngative. Il a donc fallu mettre au point un systme permettant de telles oprations sous forme
analogique. [7] [8]
Le rservoir computer optique : prsentation gnrale
Un RC est gnralement compos de trois parties distinctes : une couche dentre, le rservoir
en tant que tel et enfin la couche de sortie. La premire et la deuxime partie sont les parties
particulirement concernes par larticle utilis.
Lexplication et la description de chacune de ces parties se fera ci-aprs ; nous pouvons
cependant dj remarquer le trajet du signal lumineux dune extrmit lautre du reservoir
computer. Nous pouvons galement noter lexistence dune ligne de dlai, lexistence de deux
sources lumineuses, de plusieurs modulateurs dintensit lumineuse, Leur rle sera expliqu
plus bas.

Couche dentre analogique du rservoir computer

25

Nous pouvons voir dans le schma ci-dessus que la couche dentre est compose de deux
parties : le lieu o lon introduit le signal lumineux cod sur base de linput u(t), et ensuite le
lieu o on applique le masque m(t) au signal lumineux cod.
Dans un rservoir computer bas sur une dynamique de dlai avec un seul neurone non linaire,
le masque dentre est primordial parce quil casse la dynamique du systme en donnant
chaque variable interne x (n) une dpendance diffrente sur les donnes dentre u(n).
i

Le signal dentre optique est gnr au moyen dune source lumineuse super luminescente
(SLED). Lutilisation dune source de lumire incohrente empche les interfrences entre le
signal entr dans la cavit (le rservoir) et le signal dj prsent dans la cavit qui est lui
cohrent puisquil vient dune source de lumire cohrente (le laser dans le schma du rservoir
qui sera vu plus loin).
Ce faisceau lumineux est une premire fois modul par un modulateur dintensit lumineuse
Mach-Zehnder. Ce modulateur MZ gnre un signal optique en fonction dun signal lectrique
qui lui est soumis. Dans ce cas-ci, il est appliqu au modulateur MZ un signal proportionnel
aux donnes dentre u(t). Ce signal u(t) est gnr par un Arbitrary Waveform Generator
(AWG). Lintensit du signal optique est alors entr dans le rservoir computer et est donn
par :

O les donnes dentre u(t) ont t redimensionnes de faon ce quelles soient comprises
dans lintervalle [0, 1]. I est lintensit lumineuse de la SLED utilise comme source.
0

La multiplication de ce signal optique par le masque dentre m(t) est ensuite effectue. Pour
ce faire, nous utilisons exactement la mme mthode que pour coder la SLED comme le montre
le schma. Le signal optique aprs multiplication par le masque dentre a une intensit :

Ici aussi le masque m(t) est dtermin dans lintervalle [0 , 1].

Le signal optique passe ensuite dans un attnuateur optique afin dajuster la force du signal
dentre dans le rservoir (il sagit du coefficient dans lquation de la dynamique du systme
qui sera dcrite plus loin). Le signal arrivera ensuite dans la photodiode feedback qui produira
un signal proportionnel (o T reprsente le temps du signal lumineux de passage dans la ligne
de dlai et T le temps de traiter lensemble des N donnes dentre u(t))
x(tT)+m(t)u(t).

Le AWG gnre une tension :

26

O V est la tension de demi phase du modulateur MZ. Ce modulateur MZ est ajust de sorte
ce que le masque m(t) soit :

noter que la phase dans la tension gnre par le AWG est telle quelle est annule pour les t
= nT quand le signal dentre u(t) est discontinu. De cette faon, le signal envoy dans le
rservoir est une fonction continue et ainsi la synchronisation entre le signal dentre u(t) et le
masque m(t) est grandement simplifie.
Il semble galement que les performances obtenues dpendent fortement de p et quelles sont
significativement amliores lorsque le masque m (t) contient deux frquences p/T et q/T. Le
masque dentre est alors donn par :
p

Et le signal optique introduit dans le rservoir sannule donc toujours pour t = nT et assure
donc la continuit de celui-ci.

Le rservoir optolectronique

Le rservoir est constitu dune ligne de dlai et dun seul neurone non linaire. La ligne de
dlai est une fibre optique denviron 1.7 km de long. Elle permet un multiplexage temporel des
donnes dans le rservoir, cest--dire des tats x du rservoir qui sont reprsents par une
certaine intensit lumineuse comprise dans une certaine fentre temporelle. Lorsque la lumire
arrive la fin de la ligne de dlai, elle est ajoute au signal dentre du rservoir.
i

Laddition des deux faisceaux lumineux est faite par une photodiode feedback qui transforme
la somme des deux rayons lumineux en une certaine tension qui va ensuite tre amplifie pour
venir finalement diriger un modulateur MZ. Ce modulateur MZ va donc coder les informations
contenues dans le signal reu de la photodiode sur le laser, comme cela est visible sur le schma.

27

Le signal sinusodal optique gnr par le modulateur MZ est alors utilis comme le signal non
linaire du rservoir.
Le signal de sortie du modulateur MZ est spar en deux faisceaux ayant chacun 50% de
lintensit lumineuse dudit signal. La premire moiti est envoye dans la couche de sortie et
lautre moiti est, elle envoye dans la ligne de dlai. Lattnuateur optique permet dajuster le
gain de feedback de la cavit. Le temps de passage dans la ligne de dlai est denviron T
8.4s.
La dynamique du systme peut alors tre exprime de la faon suivante :

En considrant un rservoir avec N variables internes, en dfinissant la dure de chaque

variable interne par la relation T = (N + k) (o T est le temps de passage dans la ligne de dlai
et k est le degr de dsynchronisation que lon souhaite obtenir).
Le signal est alors converti en unit de temps discrte u(n) en un signal continu u(t) pour un une
dure T= N . De cette faon en temps continu, le signal dentre du rservoir est reprsent
par un signal :
u(t)= u(n) o t ](n-1) T , nT ]
La valeur de la variable interne x (n) est donne par la valeur moyenne de x(t) sur lintervalle
](i-1)+(n-1)T , i +(n-1)T]. La valeur interne x (n) est dtermine par la donne dentre u(n)
multiplie par le masque dentre m . En temps continu le masque dentre est reprsent par
une fonction m(t) de priode T.
i

La dynamique temporelle du systme peut tre reprsente par :

En unit de temps discrte, la dynamique a la forme suivante :

Cette quation est en fait lquation dvolution des donnes au sein du rservoir, associe ce
modle.
Couche de sortie analogique du rservoir computer

28

La couche de sortie doit produire le rsultat y(n) du rservoir computer. Cela se fait en deux
tapes : premirement la mesure des tats internes du rservoir x(t) et deuximement produit le
rsultat y(n) lui-mme.
Comme montr sur le schma ci-dessus, le signal optique est spar en deux : 30% est dirig
vers une photodiode de sortie qui transforme le signal optique en un signal analogique lectrique
qui est ensuite enregistr dans un digitaliseur. Ce signal sera utilis durant la phase
dentranement pour calculer les tats internes du rservoir x(t) et les coefficients de sortie W .
Les 70% restants arrivent dans un modulateur MZ double sortie. Ces deux sorties sont
complmentaires et connectes lentre dune photodiode balance.
i

La raison pour laquelle on utilise un tel processus est que pour gnrer le rsultat y(n) du
rservoir computer, il faut pouvoir appliquer des poids positifs et ngatifs aux tats internes du
rservoir. Lutilisation dun modulateur MZ double sortie coupl une photodiode balance
permet dappliquer des poids positifs ou ngatifs aux tats internes du rservoir. Le signal
ensuite mis par la photodiode balance est filtre par un filtre passe bas RLC donc le rle est
daccomplir une intgration analogique des tats internes du rservoir une fois que leur poids
W leur a t appliqu. Le rsultat du filtre RLC est ensuite amplifie puis enregistr dans le
digitaliseur. Le signal rsultant chaque instant t = nT est le rsultat du rservoir computer
y(n).
i

Ces rsultats y(n) sont alors rcuprs pour tre compars aux rsultats de modles diffrents
de rservoir computer ayant opr le mme type de tches. Les performances du systme
peuvent alors tre dtermines compares aux meilleurs modles tablis jusquici (qui ne sont
pas forcment analogiques).
Le modulateur MZ double sortie dans cette couche de sortie est dirig par un signal produit
par un AWG. Cet AWG gnre une fonction continue dans le temps w(t). De la sorte, le signal
la sortie du modulateur MZ est w(t).x(t).
En crivant h(t) la fonction de rponse du filtre RLC suivi de lamplificateur, le signal de sortie
qui sera enregistr par le digitaliseur y (t) sexprime de la faon suivante :
c

29

Lintgration se faisant via le filtre dispos comme intgrateur, celle-ci se fait sur un intervalle
de temps ],t]. La fonction w(t) des poids est donc une fonction priodique de priode T
dfinie par :

O pour rappel est la dure de chaque tat du rservoir. La fonction de rsultat du rservoir
y(n) tant exprime en units discrtes de temps, elle est gale la valeur de la fonction de
rsultat du rservoir y (n) en temps continu au temps nT. On a donc : y(n) = y (nT). On peut
lexprimer de la faon suivante :
c

Conclusions sur le RC photonique

Dans cet article est prsent un type de rservoir computer tout analogique. En effet, un
ordinateur ny est utilis uniquement que pour calculer les poids arbitraires appliqus dans la
fonction de sortie du rservoir W . Ce modle met donc en avant une faon de faire passer un
signal entirement analogique au sein dun rservoir computer et ouvre ainsi la voie des
dveloppements futurs. Il est une tape cl dans le dveloppement dimplmentations futures
dans dautres outils informatiques ainsi que dans le dveloppement dordinateurs analogiques
ddis au process de tches impliquant des signaux complexes large bande.
i

Cet article constitue galement une preuve de principe quant la faisabilit dun rservoir
computer totalement autonome, et reprsente donc une tape importante vers la mise en cascade
ou en chane de rservoirs computers entre eux.
Bien que de nombreux problmes techniques restent rsoudre, quune des difficults majeurs
rside dans la prcision de calcul ncessaire au grand nombre de facteurs modifiables dans un
tel systme, ou encore le fait que juste quici il semble quil faille adapter le filtre de sortie la
tche pour assurer la performance du rservoir computer et quaucune raison nait encore t
trouve pour cela, la recherche exprimentale sur les rservoirs computers analogiques optiques
semble ouvrir des portes de dveloppement technologique aux outils de calcul et de processing
actuels pour accrotre leur capacit et leur efficacit tout en assurant une utilisation grandement
rduite dnergie de par le fait que les lments optiques sont passifs et ncessitent ds lors trs
peu dnergie.
Un autre point soulever est le fait que jusquici le reservoir computer analogique reste assez
peu prcis compar au digital. Cela sexplique par le fait quen digital tout est calcul la
virgule prs alors quen analogique, les systmes sont trs fortement sensibles au bruit et sont
donc forcs de raliser des approximations. Ceci dit, les chercheurs mettent en place des
systmes pour rduire cet impact d au bruit qui atteint le rservoir computer : ils ont introduit
dans les donnes servant lentranement un bruit de faon intentionnelle de faon rendre le
systme plus robuste au bruit. En effet, en mettant du bruit dans les sets de donnes utilises

30

pour raliser lentranement du rservoir computer, les poids appliqus aux donnes tiennent
compte de ce bruit et permettent de rendre le systme moins sensible celui-ci.
Mme si cet article est rcent (il date du 3 mars 2016), de nouvelles avances ont dj t
ralises dans ce secteur de la recherche. En effet, en utilisant les caractristiques de la lumire
pour oprer un multiplexage spatial en parallle, les performances de tels rservoirs computers
ont pu tre amliores : le multiplexage en parallle permet de travailler plusieurs donnes
simultanment mais aussi de rduire les pertes et les perturbations occasionnes par le passage
du signal optique dans la fibre optique de dlai. Cela a ncessit quelques amnagements
comme lutilisation de sources de lumires diffrentes et implique des dveloppements
mathmatiques plus complexes.
Un autre lment amen par ce nouveau modle de rservoir computer tout analogique est
lutilisation dun intgrateur entirement optique cest--dire que les poids W sont galement
calculs analogiquement, ce qui nest pas encore le cas dans lexemple dcrit ci-dessus.
i

Applications technologiques et commerciales

lheure actuelle, il est encore trop tt pour exploiter le reservoir computing directement pour
un usage commercial et il est souvent considr comme de la recherche fondamentale mais nous
allons montrer laide dexemples concrets quil sagit nanmoins dune technologie avec un
trs grand potentiel conomique. Le secteur priv tout comme le secteur public ont donc tout
intrt investir massivement dans le reservoir computing pour pouvoir exploiter cette
opportunit ; dailleurs la Hewlett-Packard Development Company [9] et luniversit de Gand
[10] ont tous deux dj dpos un brevet li au reservoir computing. Les possibilits
dapplications sont quasiment infinies ds lors que lon sait que le reservoir computing peut
traiter des donnes trs grande vitesse et que le traitement de donnes est utile dans
dinnombrables domaines. Nous avons donc choisi dexplorer quelques applications
potentielles qui nous ont paru les plus prometteuses.

Les puces photoniques avec reservoir computing

Bien que lide ne soit pas nouvelle, les puces photoniques par opposition aux puces
lectroniques sont une innovation relativement rcente. Elles font de plus en plus parler delles
de par leurs performances potentielles impressionnantes et lannonce en mai 2015 de la cration
dune puce photonique par IBM [11]. Lentreprise avait en effet annonc la cration dune puce
photonique capable de transfrer des donnes un dbit de 100Gbits/s pour des applications
dans les centres de donnes et le Big Data.
Ce qui est intressant, cest que le reservoir computing reprsente un grand potentiel dans le
domaine des puces photoniques. Actuellement, les puces photoniques telles que celles en
dveloppement chez IBM servent transfrer des donnes et ont donc vocation damliorer les
31

metteurs/rcepteurs. En revanche elles ne peuvent pas efficacement traiter et interprter cette

information et cest l que le reservoir computing intervient.
Un article scientifique [12] publi par Kristof Vandoorne et ses collaborateurs en mars 2014
dmontre lefficacit des puces photoniques en silicium utilisant le reservoir computing pour
diffrentes tches telles que des oprations boolennes avec mmoire ainsi que de la
reconnaissance dinformation tenant en 5 bits et encore de la reconnaissance vocale de chiffres.
Dans cet article, il est question dune puce exprimentale 16 nuds (cf. fig2). Un des gros
avantages de celle-ci est que la partie rservoir de la puce nutilise que des composants passifs
et ne consomme donc quasiment pas dnergie. Cette puce a une surface totale de 16 mm2 mais
sa taille peut encore tre rduite.

Figure 2 : Architecture de la puce exprimentale 16 nuds dans une configuration 4x4.

Toutes les connexions sont bidirectionnelles mais avec seulement un input (la flche noire), la
lumire se propage en suivant les flches bleues.
La puce tudie en laboratoire par ces chercheurs est potentiellement capable de traiter plusieurs
centaines de Gbits/s mais ils ont d se limiter 12,5 Gbits/s tant donn les limitations
techniques imposes par linput et loutput, cest--dire par les modulateurs et les dtecteurs
leur disposition. Bien que le taux derreur dans l'interprtation de linformation par la puce ne
soit pas encore ngligeable, ceci dmontre quand mme le potentiel des puces photoniques
utilisant le reservoir computing.
Cette puce a t ralise sur une plate-forme Silicon-on-insulator (SOI) qui a lavantage
dutiliser les technologies de production actuelles de lindustrie lectronique des semiconducteurs. Cela ouvre donc de belles perspectives de productions de masse bas cots.
En conclusion, tant donn les performances remarquables de cette puce exprimentale, cela
ouvre la voie une toute nouvelle manire de traiter linformation de manire ultra-rapide et
trs peu gourmande en nergie.
Ces puces permettront de crer des ordinateurs spcialiss pour certaines tches, beaucoup plus
rapides quaujourdhui, et dots dune puissance de calcul presque sans limite. Ceci implique
la possibilit de pouvoir traiter des problmes pratiques que nos ordinateurs actuels ne sont pas
capables de rsoudre efficacement, comme par exemple la prdiction de catastrophes naturelles
telles que des tsunamis, tremblements de terres, etc. Il serait mme potentiellement possible de
prdire des crises boursires. De plus, nous pourrions exploiter de tels ordinateurs dans les
32

systmes de tlcommunications et dans le domaine de limagerie mdicale pour pouvoir

classer et traiter les images.

Le reservoir computing dans les tlcommunications

Luniversit de Gand et lUniversit Libre de Bruxelles ont depuis plusieurs annes entrepris
beaucoup de recherches et dexprimentations sur le reservoir computing en vue damliorer
nos systmes de tlcommunications actuels.
Des chercheurs de luniversit de Gand ont publi en 2015 un article scientifique intitul
photonic reservoir computing approaches to nanoscale computation [13] dans lequel ils
dmontrent que les puces nanomorphiques photoniques utilisant le reservoir computing sont un
candidat plus que viable pour la nouvelle gnration de systmes de tlcommunication.
Lexprience dcrite dans leur article utilise une puce 16 nuds trs similaire celle dcrite
prcdemment. Les chercheurs ont montr quun systme photonique utilisant des puces
nanomorphiques photoniques peut avoir dimpressionnantes performances en termes de
rgnration de signal sur une distance de 200km de fibre optique.
Un tel systme permettrait de traiter des images directement depuis un signal optique,
typiquement dusage dans les systmes de tlcommunication moderne, tout en consommant
peu dnergie et avec une trs grande bande passante.
Il reste tout de mme deux challenges surmonter pour un usage commercial grande chelle.
Premirement, il faut pouvoir augmenter la taille du rservoir pour quil puisse traiter des tches
plus complexes. En effet, le fait dutiliser des nuds passifs permet dtre plus efficient au
niveau de la consommation nergtique mais cause des pertes dans le systme, le signal
optique ne peut pas aller suffisamment loin que pour pouvoir utiliser la pleine capacit dun
rservoir plus large.
Un deuxime challenge est dintgrer efficacement le systme de lecture de loutput du
rservoir. Actuellement, il faut plusieurs photo-dtecteurs assez onreux pour exploiter le
systme. En plus de cela, ces dtecteurs sont assez inefficients nergtiquement.

Application du RC au Trading
Le RC peut galement tre utilis dans la finance et plus particulirement au niveau du daytrading . Il sagit tout dabord dexpliquer en quoi le day-trading diffre du trading
habituel. Il sagit dune pratique ralise par les traders consistant acheter et vendre des
produits financiers durant un trs court laps de temps. Cela se joue souvent lheure, la
minute, voire la seconde prs. Ce type de spculation trs courte dure est une forme de
trading haute frquence.
Selon une tude de Michiel Callens, tant donn quen pratiquant le day-trading, le spculateur
peut garder ses actions/son capital investi(es) pendant un temps aussi court que 30 minutes, il
a t dcid de fixer une priode de prvision de 10 minutes. Lentranement du rservoir sera
donc effectu sur cette priode prdfinie.

33

tant donn que les actions vont supposment tre influences par la valeur dautres actions se
trouvant sur le march, le fait dutiliser ces autres stocks comme inputs au rservoir va pouvoir
tre plus que bnfique aux prdictions.

Figure 3: Chaque signal est d'abord transform en signal dentre, aprs quoi celui-ci passe par
un saut de phase alatoire de fi ou + fi ajouts. Ces signaux sont ensuite additionns et
seulement alors, ils sont transmis aux amplificateurs optique semi-conducteur (AOS).

Exemple de performance :
La figure 4 ci-dessous nous montre les rsultats dune exprience ralise sur la SMA (Simple
Moving Average) des actions de lentreprise ACKB. En effet, les donnes se trouvant gauche
de la ligne rouge ont t utilises dans la phase de training de notre rservoir. Les nouvelles
donnes se trouvant droite ne sont que pures prdictions ralises grce au rservoir. Nous
retrouvons donc trois courbes sur notre graphique : la valeur relle de laction (en bleu), la
prdiction nave, cest--dire une prdiction qui se base sur la dernire valeur observe (en
rouge) et notre prdiction ralise grce au reservoir computing (en vert).

34

Figure 4 : Exemple de rsultat sur un ensemble de donnes. Trois agrandissements ont t

raliss et expliqus respectivement dans les figures 4.1, 4.2 and 4.3.
Lorsque nous analysons la figure 4.1, on peut remarquer que la prdiction (en vert) rejoint la
tendance recherche (en bleu) mais surtout, change avant la prdiction nave. Cest
particulirement bien visible au point 22.150 o notre prdiction concide avec la valeur de
laction. Nous notons quun trader ayant eu accs notre technologie aurait pu prdire la valeur
de laction pratiquement 10 minutes avant la prdiction nave.

Figure 4.1: Zoom n1 de la figure 4.

Malheureusement, lorsque nous regardons la figure 4.2 de plus prs, nous pouvons nous
apercevoir que notre prdiction dpasse la valeur actuelle. Cet effet indsirable pourrait induire
notre trader en erreur et le pousser prendre de mauvaises dcisions.
35

Figure 4.2: Zoom n2 de la figure 4.

Cette dernire figure nous montre quil arrive notre courbe de ne pas saisir directement la
tendance affiche par la valeur du SMA [14]. Malgr le fait que notre prdiction dtecte le
changement de tendance en mme temps que la prdiction nave (au point 22.720), elle arrive
tout de mme se corriger rapidement. Bien que notre prdiction a chou dtecter le
changement de tendance, elle surpasse largement la prdiction nave en prdisant une meilleure
estimation du SMA.

Figure 4.3: Zoom n3 de la figure 4.

Cette exprience nous a permis de voir que le reservoir computing arrive donner une
estimation plutt correcte du SMA du cours de laction ACKB. Bien quutilisable, lutilisation
de notre prdiction nest pas encore optimale dans un systme de trading automatis.
Malheureusement le manque de recherches sur lapplication du RC au trading est surtout d au
fait que la traduction des donnes en input pour le rservoir est trs difficile et cote
extrmement cher. Il va de soi que certaines entreprises spcialises dans le trading sont, en

36

effet, intresses par lutilisation du RC pour le trading haute frquence. Si les recherches
vont bon train, les performances du rservoir pourront trs vite tre transformes en profit.

RC au niveau de la dtection des crises dpilepsie :

Lpilepsie est un trouble neurologique du cerveau qui atteint environ 1% de la population
mondiale ( peu prs 100.000 personnes en Belgique) [14]. Ce dysfonctionnement est
caractris par des crises pileptiques qui apparaissent de manire rcurrente.
Les chercheurs ont dcouvert un moyen de prdire ces crises avant quelles napparaissent. Les
rcentes recherches [15] dans le domaine mdical ont permis de dcouvrir que le reservoir
computing pourrait dtecter les crises dpilepsie de manire plus prcise que les mthodes
conventionnelles.
Des tests ont t mens sur des animaux et plus prcisment sur des rats. Les rsultats sont trs
tonnants car dans tous les cas, lutilisation du reservoir computing en analysant les diffrentes
donnes, a surpass les techniques actuelles utilisant llectroencphalogramme. Les nombres
de FPPS (False Positive Per Seizure), tout comme ceux de FNPS (False Negative Per Seizure)
ainsi que le dlai de dtection ont significativement diminu grce lapport du RC.

37

Figure 5 [6] : Reprsentation des performances du systme entran, soit en utilisant

lensemble des donnes disponibles avec (AL*) ou sans Active Learning (full), ou soit en
utilisant un sous-ensemble de donnes avec (AL) ou sans Active Learning (small).
Les 6 graphiques ci-dessous nous montrent la performance ralise en utilisant ou non notre
systme RC entran, soit sur lensemble des donnes disponibles, soit sur un sous-ensemble
de donnes choisies alatoirement. Nous remarquons tout dabord 2 colonnes, reprsentant 2
types de crises pileptiques diffrentes prsentes chez les rats, ainsi que 3 ranges reprsentant
les rsultats des diffrentes expriences respectivement sur les FPPS, FNPS, et sur le dlai de
dtection des crises.
La figure 5 nous montre quavec un nombre restreint de donnes (small), il y a un plus grand
nombre de FPPS et FNPS. Concernant le dlai de dtection, il n'y a pas de rgle gnrale valable
pour les deux ensembles de donnes. Par contre, lorsque lActive Learning est utilis (AL sur
la figure 5), lamlioration est notable. Nous remarquons par contre un nombre gal ou infrieur
dapparitions de FPPS lorsque lensemble des donnes est utilis (full et AL*). Il en est de
mme avec le nombre de crises manques (FNPS).
Mme si la meilleure solution reste lutilisation de lensemble des donnes (AL*), les rsultats
suivant lutilisation de lActive Learning sont fort semblables.
Maintenant que le RC a atteint des rsultats prometteurs concernant la dtection des crises
dpilepsies sur les animaux, nous allons nous intresser aux rsultats quil peut apporter sur
les humains.
Tout comme pour les animaux, nous allons analyser les rsultats quapporte le RC grce
lActive Learning sur les patients humains atteints de crise pileptique.
Nous allons baser notre tude sur un ensemble de donnes qui ont t collectes lors dune
tude au Childrens Hospital Boston , appele Scalp dattes [16]. Celle-ci consiste
analyser les enregistrements dlectroencphalogrammes de 24 patients du service pdiatrique
atteints dpilepsie. Ils ont t suivis pendant plusieurs jours aprs retrait de leurs mdicaments
antipileptiques afin de caractriser leurs symptmes et dvaluer si une intervention
chirurgicale est ncessaire.

38

Figure 6 : Le nombre de FPPS, de FNPS ainsi que le temps de dtection pour la mthode de
dtection des crises dpilepsie base soit, sur le RC (E), soit en utilisant la technique de
dtection gnrale (G) et compars avec lexprimentation de lActive Learning sur le Scalp
dataset. Le nombre de FPPS varie de 0 10 et le dlai de dtection de -20 40 secondes. [17]
Les rsultats exprimentaux prsents dans la figure 6 montrent que lAL rduit de manire
significative le nombre de fausses crises un trs raisonnable 0,5 FPPS pour l'ensemble des
donnes Scalp. Le dlai de dtection diminue lgrement ; par contre, le nombre de crises
manques (FNPS) est pass de 28% 36% pour l'ensemble de donnes.
Bien que ce type dAL provoque de nombreux FNPS, il peut tre considr comme une
technique possible pour la ralisation d'un dtecteur de crise spcifique au patient. Ce nombre
pourrait mme diminuer si le systme devait tre utilis sur des priodes de temps plus longues
puisque de meilleurs rsultats sont atteints si toutes les donnes sont utilises et pas seulement

39

une partie. Malheureusement, plus de tests doivent tre raliss pour obtenir des rsultats dignes
de ce nom, mais nous sommes sur la bonne voie.
Pour conclure, le fait dentraner notre rservoir en utilisant les symptmes dune crise
dpilepsie ainsi que les donnes de ltat dactivit neuro-crbrale du patient fournies par
llectroencphalogramme permettent dobtenir des rsultats probants concernant les animaux,
par contre une performance mitige bien quacceptable concernant les tres humains.

Le rservoir computing et la reconnaissance vocale

De nos jours, les ordinateurs surpassent notre cerveau dans de nombreux domaines mais il
subsiste tout de mme des exceptions. Par exemple, les tches complexes requrant de
lapprentissage comme la classification et lidentification de mots. Le reservoir computing peut
pallier cette faiblesse comme la dmontr le professeur Laurent Larger [18] de linstitut
FEMTO-ST et son quipe grce son dmonstrateur en 2011. Ce dmonstrateur de reservoir
computing a reconnu plus dun million de mots la seconde. Avec de telles performances, le
reservoir computing photonique a largement dpass ce quil est possible de faire
numriquement. [19]

Figure 7: Dmonstrateur de reservoir computing photonique (Romain Martinenghi / FEMTOST)

Le systme fonctionne sur base de lumire injecte dans une fibre optique enroule servant de
rservoir. Le rseau de neurones artificielles nest pas rparti spatialement mais
temporellement.
Ce systme a beau reconnatre des mots tels que des chiffres isols a une vitesse hallucinante,
il faut le perfectionner afin quil puisse terme comprendre et interprter des phrases cette
mme vitesse. Dans le cadre du projet Icub, de trs belles performances ont t obtenues pour
des phrases complexes comme nous le dtaillons plus bas dans la section lie la robotique.

40

Le reservoir computing en robotique

Le reservoir computing est actuellement une des pistes damlioration les plus prometteuses au
niveau de lintelligence artificielle et la robotique. De nombreuses recherches sont dj
entreprises dans ce but avec les clbres robots Icub et Asimo.

Le robot Icub

Figure 8 : Dmonstration du Robot Icub lors du salon Innorobo 2014 Lyon.

Le projet Icub, dvelopp initialement par lIIT (The Istituto Italiano di Tecnologia) dans le
cadre du projet RobotCub en 2006 qui regroupe plusieurs universits europennes, consiste en
la cration dun robot humanode intelligent en open-source. Le projet utilise la technologie du
reservoir computing et a montr des rsultats trs encourageants qui dmontrent une nouvelle
fois la viabilit du reservoir computing.

Le robot Icub ralis par l'quipe dirige par Peter Ford Dominey de l'unit Inserm 846 (Institut
pour les cellules souches et cerveau de Lyon) est dot de 53 moteurs pour pouvoir bouger sa
tte, ses bras, ses jambes, son buste et ses jambes. Il est quip dun systme lui permettant
dentendre, de parler et de percevoir les mouvements et la configuration de son corps grce
des acclromtres. Il est capable de comprendre ce qu'on lui dit et d'anticiper la fin d'une
phrase. Il est aussi capable de comprendre et dexcuter des tches manuelles comme dplacer
un objet prcis un endroit prcis. Les chercheurs ont notamment post une vido sur internet
41

dans laquelle ils demandent oralement au robot de pointer du doigt une guitare (reprsente par
une boite) et ensuite de dplacer un violon (aussi reprsent par une boite) sur la gauche. Cette
prouesse technologique a t rendue possible par le reservoir computing. Cette technologie
permet au robot d'apprendre, puis de comprendre des phrases nouvelles, avec une structure
grammaticale nouvelle. Il peut faire le lien entre deux phrases et peut mme prdire la fin de la
phrase avant qu'elle ne survienne. Ces travaux ont t publis par Xavier Hinaut et Peter F.
Dominey dans la revue Plos One et dans la revue Frontiers in NeuroRobotics. [20]

Grce au reservoir computing le robot Icub peut de manire plus gnrale, apprendre une
grande varit de tches comme le ferait un enfant. Des chercheurs de lUniversitat Pompeu
Fabra (UPF) ont notamment russi lui apprendre jouer un jeu de tennis virtuel appel en
anglais paddle war. Cest un jeu dans lequel chacun des joueurs doit tenir un pad en plastique
et doit envoyer une balle virtuelle dans le but adverse tout en empchant son adversaire de
marquer des buts. Les chercheurs ont mme russi lui inculquer diffrentes motions et lon
peut voir dans une de leurs vidos de dmonstration que le robot se comporte et parle presque
comme un enfant en train de jouer durant la partie de paddle war. Le robot fait par exemple
des commentaires comme got it !, haha ou encore bloody hell !.

Figure 9 : Robot Icub en train de jouer au jeu paddle war avec un des chercheurs.
Dans la figure ci-dessous, on peut voir quune des chercheuses caresse le robot et celui-ci y
ragit en disant I like when you touch me in this way, le fait que le robot se rende compte de
la signification de ce geste ou du moins quil ragisse comme si ctait le cas est trs
impressionnant.

42

Figure 10 : Une des chercheuses caresse le robot [21]

Une autre tude dmontre que le robot Icub commence mme dsormais avoir un dbut de
conscience de lui-mme. [22] terme, une intelligence artificielle utilisant le reservoir
computing pourrait donc permettre de grandement augmenter lintelligence artificielle des
robots et de les rendre plus humains.
Dailleurs, Peter Ford Dominey a dit en 2013 dans un article de presse [23] :
Aujourdhui, les ingnieurs ne peuvent tout simplement pas programmer toutes les
connaissances requises dans un robot. Nous savons maintenant que la faon dont les robots vont
acqurir leur connaissance du monde sera ralisable en partie grce l'apprentissage - comme
le font les enfants.

Le robot ASIMO

ASIMO est le clbre robot humanode dvelopp par Honda des fins de recherches. Le
premire version dASIMO remonte octobre 2000 et en est aujourdhui sa 6me version.
Les recherches menes dans le cadre du projet ASIMO ont permis de mieux comprendre la
marche humaine et lintelligence artificielle.
43

Les chercheurs peuvent apprendre de nouveaux gestes ASIMO rien quen les lui montrant
[24]. Grce au reservoir computing, le robot peut en effet analyser le geste montr par un
humain, et le reproduire.
Le reservoir computing permet ASIMO de faire de vritables prouesses. En effet ASIMO
peut modifier sa trajectoire tout en marchant alors que les autres robots intelligents doivent
sarrter pour pouvoir changer de trajectoire. Mais ce nest pas tout, ASIMO peut aussi courir,
parler, pratiquer le langage des signes, reconnatre des visages, sauter cloche pied et
mmoriser des choses. Il est par exemple capable de reconnatre une personne quil a dj vue
auparavant.

Risques et dimensions socitale et lgale :

Craintes et espoirs de la communaut scientifique
tant un rseau de neurones artificiels et donc dot dune capacit traiter et interprter trs
grande vitesse les informations reues, le reservoir computing vient prendre place au sein du
trs actif dbat entourant lintelligence artificielle. En effet, lintelligence artificielle (IA) a fait
couler beaucoup dencre ces dernires annes. Que ce soit lopinion publique, les media, de
hauts responsables ou dminents scientifiques, tous sinterrogent sur son avenir ; certains se
montrant plus inquiets que dautres comme le montre cette dclaration du trs clbre physicien
Stephen Hawking qui estime que le dveloppement d'une intelligence artificielle complte
pourrait sonner le glas de l'humanit car les humains, limits par une lente volution
biologique, ne seraient plus en mesure de rivaliser. Elon Musk, fondateur de Tesla, qualifie lIA
de potentiellement plus dangereuse que les bombes atomiques . Tous deux avertissent de la
possibilit que lIA puisse voluer point surpassant le contrle humain. Bill Gates, qui
soppose lavis dEric Horvitz, chef de recherche chez Microsoft, considre galement lIA
comme une menace [25].
Ces trois grands noms se sont joints laction de linstitut amricain Future of Life, qui est la
source dune lettre ouverte signe par des centaines de scientifiques et qui rclame des
recherches approfondies sur limpact socital potentiel de lIA afin que celle-ci reste bnfique
la socit [26]. Ces scientifiques affirment que les bnfices sont majeurs car lintelligence
artificielle pourrait par exemple aider trouver une solution la pauvret en collectant et
analysant des informations sur images satellite permettant de cartographier celle-ci. La crainte
que les signataires expriment est lie une potentielle mauvaise programmation ou son
utilisation par des personnes malveillantes [27].
Sans limite : De Deep Blue AlphaGo
Grande star des annes 90, Deep Blue, ordinateur dvelopp par IBM ds 1985 fut la premire
pice dintelligence artificielle remporter une partie dchec contre un champion mondial en
titre, savoir, Garry Kasparov. La comptition se fit en 6 parties (1996-1997) dont la premire
fut gagne par Kasparov et au cours desquelles la machine fut amliore, do son surnom
Deeper Blue .
44

En mars 2016, AlphaGo gagna 4-1 contre Lee Sedol, champion mondial du jeu de la dcennie
- le jeu de go - et fut le premier programme battre un joueur professionnel humain alors que
lon croyait cet exploit possible au mieux dans dix ans. Ce jeu originaire de Chine, et vieux de
plus de 2500 ans, est beaucoup plus complexe que les checs car les positions possibles sont
aussi nombreuses que le nombre datomes dans lunivers. Le programme sappuie sur des
mthodes dintelligence artificielle de base utilisant des rseaux de neurones pour imiter les
joueurs professionnels et amliorer le programme en apprenant de parties joues contre luimme [28].

Dimension socitale :
Les exemples qui suivent ne sont certes pas exhaustifs, mais bien reprsentatifs des opportunits
mais aussi des risques lis lintelligence artificielle et ses potentielles drives dans de
nombreux domaines.
MOBILITE : Voitures autonomes

Les vhicules autonomes de Google, qui arpentent les routes amricaines depuis plus de 6 ans,
correspondent aujourdhui plus de 2,3 millions de kilomtres parcourus en mode autonome et
17 accidents pour lesquels la faute incombait autrui. Cependant, le 14 fvrier 2016 marqua le
1 accident impliquant une voiture robotise en tort [29]. Bien que laccident fut bnin, il
souleva nanmoins des questions de responsabilit. La justice amricaine, par le biais de la
National Highway Traffic Safety Administration (NHTSA), prit position et reconnut ds lors le
systme dintelligence artificielle des vhicules autonomes comme des conducteurs part
entire si le vhicule satisfait aux normes techniques de scurit et en absence de contrle
humain. Les responsables de Google ne nirent pas leur part de responsabilit et ont ds lors
adapt leurs algorithmes afin damliorer le processus dcisionnel. Ils clament cependant que
la fiabilit de leurs voitures reste de loin suprieure celle des conducteurs humains. Une tude
de la Virginia Tech University affirme que les voitures autonomes de Google ont un taux de
3,2 accidents par million de miles contre 4,2 pour les conducteurs humains. Cependant,
beaucoup daccidents mineurs entre humains ne sont pas reports la police et certains
potentiels accidents de voitures autonomes furent vits par intervention humaine [30]. La
er

45

NHTSA affirme que plus de 90% des accidents mortels sont dus des erreurs humaines et non
techniques. Certains chercheurs estiment donc que les voitures autonomes pourraient, vers
2050, rduire les dcs sur la route de 90%. La lettre ouverte lance par Future of Life expose
galement la possibilit que, en cas durgence, le systme doive faire des choix thiques et de
scurit. Par exemple, choisir entre une forte probabilit daccident lger ou une faible
probabilit daccident grave, ou encore le choix entre la protection de loccupant de la voiture
ou diminuer le nombre de personnes impactes. En Europe, lAllemagne, la France, le
Royaume-Uni ou la Sude ont galement lanc des projets pilotes et ont autoris les essais sur
route certains vhicules dots dune plaque spciale ou circulant dans certaines collectivits.
Malgr lavance des recherches et des tests, certains risques persistent, savoir, la fiabilit de
llectronique et des capteurs ainsi que la possibilit dhacking distance du systme
lectronique.
FINANCE : Trading
Grce sa capacit danalyse et de croisement dinformations, un reservoir computer pourrait
engendrer des ordres de transactions automatiques. Bien que lautomatisation des transactions
permette une rentabilit suprieure, il est reproch au trading haute frquence daccentuer les
chutes de titres et daugmenter la volatilit sur le march. En effet, aujourdhui, il est estim
que plus de la moiti des transactions sont dcides et effectues par des ordinateurs. Ce taux
slve plus de 90% lorsquon regarde le march des actions uniquement. Le problme est
que les mcanismes dcisionnels actuels ne sont pas capables de savoir quand arrter ou changer
de transactions et continuent dacheter ou vendre au-del de ce que le march requiert. Le
reservoir computing, bien que potentiellement plus prcis, pourrait tre confront un problme
similaire. En effet, certains facteurs tels que les vnements politiques ne sont pas aisment pris
en compte, dpendamment de la qualit de lapprentissage effectu [31].
Les transactions financires par algorithme assist sont le fondement du trading haute
frquence. Pour Peter Ford Dominey, directeur des recherches au Centre National de Recherche
Scientifique de Lyon, "ces formes assez simples dintelligence artificielle peuvent entraner des
problmes srieux" capables daffecter lconomie relle [32]. Lvnement le plus marquant
provoqu par le travail de robots traders, fut le Flash Crash du 10 mai 2010 la bourse de New
York o une baisse de 9,2 % du Dow Jones Industrial Average en seulement 10 minutes tait
une premire dans l'histoire. La journe du 1 aot 2012, Knight Capital perdit $440 million de
dollars en moins dune heure, cause un dysfonctionnement du software [33]. Ayant pu
constater en 2008 limpact socio-conomique faisant suite un choc financier majeur, on peut
se demander si le fait dautomatiser la plupart des transactions boursires ne reprsente pas une
menace imminente et forte en consquences.
er

Sanctionner les abus dutilisation du HFT nest pas ais vu le nombre de transactions opres
par seconde et la difficult de prouver lintention malhonnte. Un des acteurs majeurs du Flash
Crash de 2010 fut arrt et mis en examen plus de 5 ans aprs les faits pour avoir dlibrment
dstabiliser le march.

46

MILITAIRE : Armes autonomes

Les signataires de la lettre ouverte mentionne ci-dessus se proccupent principalement de
l'impact que l'intelligence artificielle pourrait avoir sur l'armement. Les armes dites autonomes
sont celles qui choisissent, sans intervention humaine mais selon certains critres, leur cible et
le fait de lancer une attaque. Utiliser des machines pour remplacer les soldats permettrait de
limiter les pertes humaines mais faciliterait la dcision de lancer une guerre. La recherche
scientifique pour lintelligence artificielle se transformerait alors en une course larmement
tout comme cela fut le cas lors de la guerre froide vis--vis du nuclaire. Cependant,
contrairement larme nuclaire, la fabrication darmes autonomes est relativement bon march
et ne ncessite pas de matriaux difficiles obtenir. Tout comme les physiciens, les chimistes
et biologistes pour les armes nuclaires et chimiques, les experts en intelligence artificielle ne
veulent pas voir leur domaine de recherche utilis des fins militaires qui pourraient trs
facilement chapper tout contrle. Ils demandent donc que des accords internationaux
interdisent lutilisation de lIA comme arme car cela nuirait lhumanit [34].
SANTE : Cancer
Les performances de lIA peuvent galement apporter leur aide aux mdecins et chercheurs
impliqus dans le traitement de cancers. Les cancers, qui tuent encore des millions de personnes
tous les ans, sont trs difficiles traiter, car chaque tumeur cancreuse est unique. De trs
nombreuses variables doivent ds lors tre prises en compte afin de trouver un traitement
personnalis adapt au mieux chacun des malades. Les diffrentes molcules et traitements
suivis par les patients, ainsi que les donnes mdicales, et la raction du patient ceux-ci, sont
des informations prcieuses qui, si elles sont bien exploites, aident au diagnostic et au choix
du traitement appropri. Le problme actuel rside dans le manque de centralisation et
dutilisation de ces donnes ; cest l que le reservoir computing par sa capacit de traitement
des informations aiderait diagnostiquer les cancers et trouver un traitement personnalis
[35].
EMPLOI : Perte demplois et comptitivit
Les programmes dintelligence artificielle voient leurs capacits et aptitudes augmenter
continuellement. En effet, ils sont capables deffectuer des tches de plus en plus compliques
qui taient jusqu prsent rserves au cerveau humain. De ce fait, ils reprsentent une menace
grandissante sur des emplois de plus en plus qualifis, mais galement un gain de comptitivit
pour des entreprises trangles par le cot de la main duvre.
Une tude du cabinet de conseil juridique Jomati Consultant rapporte que, dici 2030, les
processeurs d'intelligence artificielle pourraient tre capables d'excuter les tches accomplies
aujourd'hui par de jeunes avocats. Un robot serait mme apte remplacer, dici 15 ans, une
douzaine de jeunes associs. Ces machines seraient des concurrents de taille car elles ne
ressentiraient pas la fatigue et nauraient pas dexigences salariales ni ambition. Le cot des
tches juridiques accomplies baisserait donc drastiquement. Il faut cependant nuancer cette
potentielle perte demploi massive car les entreprises juridiques, au lieu de former leurs

47

nouvelles recrues des tches de faible valeur ajoute, pourraient se concentrer sur des tches
plus complexes et en faire rapidement des avocats expriments [36].
Il en va de mme dans de nombreux autres domaines et les retombes conomiques lies
lutilisation de lAI pour les entreprises pourraient jouer en la faveur de tous comme lexprime
Mady Delvaux, eurodpute prsidente du groupe de travail sur la lgislation sur la robotique.
Celle-ci est consciente que certaines sortes demplois seront dtruites mais affirme que dautres
seront cres. Elle prne lutilisation de la robotique afin daugmenter la performance et la
comptitivit des entreprises. Elle affirme galement que ce processus mnera la
relocalisation de la production de certaines entreprises en Europe [37].
Une tude de McKinsey estime que lutilisation de robots perfectionns dans le domaine de la
sant, dans lindustrie ainsi que dans les services pourrait avoir un impact conomique annuel
et mondial de 1700 4500 milliards de dollars dici 2025.
De nombreux scientifiques sinquitent court terme de limpact conomique du remplacement
futur de nombreux emplois effectus par des hommes. long terme, certains viennent mme
parler de socits sans travail pour lesquelles ils pressent les sociologues et responsables
politiques de penser un partage des ressources et richesses [38]. La robotisation mnerait
galement une baisse des cots de production qui se rpercuterait dans le prix des produits
tout en augmentant la qualit de ceux-ci.
Lgislation europenne
tant donn lvolution rapide de lintelligence artificielle, des chercheurs en droit et des
avocats rflchissent une ventuelle adaptation du droit cette nouvelle forme de personnalit
qui nest ni une personne physique, ni une personne morale et plus vraiment une chose tant
donn son autonomie accrue.
La lgislation concernant lintelligence artificielle tant soit imprcise soit inexistante en
Europe, un robot ne peut actuellement pas tre pnalement responsable des dommages quil
pourrait engendrer. Actuellement, ces dommages dpendent du droit de la responsabilit du fait
des choses qui dsigne comme responsable lindividu ayant lusage, la direction et le contrle
dune chose. Cependant, en cas de dysfonctionnement, la responsabilit retombe sur le
fabriquant par le biais de la responsabilit des produits dfectueux. [39]
Nanmoins, vu leur large autonomie daction et donc labsence du critre de contrle, les
systmes dintelligence artificielle ne sont plus assimilables des choses et la cration dun
rgime spcial semble obligatoire. La lgislation qui rgit lintelligence artificielle nest pas
adapte aux machines autonomes ni leurs interactions avec des humains. [40] Par exemple, le
droit considre actuellement les ordinateurs comme des outils inertes qui ne sont pas en mesure
de produire une cration susceptible dtre protge par le droit de la proprit intellectuelle.
Certains robots sont dj couverts par une directive europenne mais celle-ci nimplique que
des paramtres techniques tels que la vitesse, mais jamais lintelligence de la machine.
LEurope travaille donc actuellement la modification de sa lgislation afin dadapter celle-ci
aux machines intelligentes. La difficult rside dans la ncessit de crer un systme dans lequel
48

le fabricant ne serait pas surexpos car cela pourrait mener un blocage de linnovation, mais
pas non plus sous-expos au risque de dtruire les fonctions de la responsabilit qui imposent
la prvention des accidents envers les utilisateurs ainsi que la compensation des dommages
auprs de la victime. [41]
LEurope envisage dattribuer une personnalit morale aux robots dots dune intelligence
artificielle. Suite au programme de recherche EuRobotics dont lobjectif est de favoriser le
dveloppement de la robotique en Europe, lUnion Europenne a publi en dcembre 2012, une
proposition de livre vert abordant les aspects thiques, juridiques et socitaux de la robotique.
En ce qui concerne la responsabilit, les auteurs proposent dtablir une personnalit
lectronique inspire de la personnalit morale des entreprises. Cela implique que les robots
intelligents auraient des droits et des responsabilits juridiques et financires leur accordant un
certain degr dautonomie financire.
Tous les professionnels du droit ne sont pas daccord avec le concept didentit propre au robot
car cela pourrait dresponsabiliser les personnes ayant fourni les connaissances de bases ainsi
que les capacits techniques lintelligence artificielle.
Mady Delvaux, eurodpute la tte du groupe de travail sur la lgislation sur la robotique
depuis 1 an, exprimait en avril 2015 que lEurope devait procder une standardisation de la
lgislation afin de saisir les opportunits que reprsente la robotique et dont dpend
lintelligence artificielle. Le projet est en cours et le rapport de recommandations na
malheureusement pas encore t publi mais Madame Delvaux rclame un cadre lgal unifi et
flexible tablit en collaboration avec les secteurs privs, publics et acadmiques. Bien que les
Etats-Unis, la Chine, le Japon et la Core soient dirigs vers des projets trs ambitieux, le
Parlement Europen serait le premier discuter et crer un tel cadre lgal. Le dveloppement
lgal et industriel de la robotique viterait linvasion du march par des robots trangers. [42]
En ce qui concerne la lgalit des voitures autonomes, la commission conomique pour
lEurope des Nations unies (Unece) vient dannoncer le mois dernier une rvision de la
Convention de Vienne, qui rgule la circulation routire depuis 1968, autorisant les systmes
de conduite automatise sils sont conformes aux rglements des Nations unies sur les vhicules
ou sils peuvent tre contrls voire dsactivs par le conducteur. Actuellement, les vhicules
totalement autonomes sont interdits.
Les experts dExane BNP Paribas considrent le conducteur responsable pour les vhicules
semi-autonomes sauf lorsque la voiture se gare seule, auquel cas cest lquipementier qui
assumera les dommages. Ils proposent galement la potentielle cration dun fonds dassurance
financ par lensemble de la profession et utilis en cas daccident.Une autre possibilit consiste
en une assurance prise par les constructeurs et quipementiers auprs de grandes compagnies
et couvrant lentiret de leur vhicules autopilots.

49

Rferences
[1] I. Beli, Neural Networks and Static Modelling, Institute of Metals and Technology ,
Slovenia .
[2] Benjamin Schrauwen David Verstraeten Jan Van Campe, An overview of reservoir
computing: Theory, applications and implementations, chez Proceedings of the 15th
European Symposium on Artificial Neural Networks, ESANN, 2007, pp. pp. 471-482.
[3] Lukoeviius, H. J. Mantas, Reservoir computing approaches to Recurrent Neural
Network training, 2009.
[4] Chih-Heng Pan, Hung-Yi Hsieh, Kea-Tiong Tang, An Analog Multilayer Perceptron
Neural Network for a Portable Electronic Nose, Basel, Switzerland, 2016.
[5] H. Jaeger, Echo State Network, Jacobs University Bremen, Bremen, Germany, 2007.
[6] F. RHAUME, Une mthode de machine tat liquide pour la classification de sries
temporelles, Universt Laval, Qubec, 2012.
[7] Franois Duport, Anteo Smerieri, Akram Akrout, Mar, Fully analogue photonic
reservoir computer, CP 194/5 - CP 224, Universit Libre de Bruxelles (U.L.B.), Avenue
Adolphe Buyl 87, 1050 Brussels: OPERA-Photonique, Laboratoire dInformation
Quantique, 2016.
[8] A. Smerieri, F. Duport , Y. Paquot , B. Schrauwen, Analog readout for optical reservoir
computers, 50 Avenue F. D. Roosevelt, CP 194/5, B-1050 Bruxelles ; SintPietersnieuwstraat 41, 9000 Ghent ; Belgium: Service OPERA-photonique, Universit
Libre de Bruxelles (U.L.B.) ; Department of Electronics and Information Systems
(ELIS), Ghent University ; Laboratoire dInformation Quantique (LIQ), Universit
Libre de Bruxelles (U.L.B.), 2012.
[9] M. D. Pickett, Neuristor-based reservoir computing devices, Hewlett-Packard
Development Company, L.P., 2015.
[10] Peter Bienstman, Joni DAMBRE, Kristof VANDOORNE, Reservoir computing Using
Passive Optical Systems, Universiteit Gent, Imec Vzw, 2015.
[11] IBM, Applications, IBMs Silicon Photonics Technology Ready to Speed up Cloud
and Big Data, IBM, Yorktown Heights, N.Y. , 2015.
[12] V. K., Experimental demonstration of reservoir computing on a silicon photonics chi,
2014.
[13] Andrew Katumba, Peter Bienstman, Joni Dambre, Photonic reservoir computing
approaches to nanoscale, Ghent University - Photonics, Ghent University - Reservoir
Lab, Sint-Pietersnieuwstraat 41, Ghent Belgium, 2014.

50

[14] H. Witte, Special issue on epileptic seizure prediction, chez Biomedical Engineering,
IEEE Transactions on, 2003, p. 537539.
[15] P. Buteneers, Detection of Epileptic seizures: the Reservoir computing approach,
UGent, Ghent, 2012-2013.
[16] Goldberger, A., Amaral, L., Glass, L., Hausdor, J., Physiobank, physiotoolkit, and
physionet: Components of a new research resource for complex physiologic signals,
2000.
[17] P. Buteneers, Detection of Epileptic seizures: the Reservoir computing approach,
UGent, 2012-2013.
[18] L. Larger, M. C. Soriano, D. Brunner, L. Appeltant, Photonic information processing
beyond Turing: an optoelectronic implementation of reservoir computing, Opt.
Express 20, 2012.
[19] R. Martinenghi, Performances dun calculateur rseaux de neurones artificiels :,
Universit de Franche-Comt, 2014.
[20] Hinaut X, Dominey PF, Real-Time Parallel Processing of Grammatical Structure in the
Fronto-Striatal System: A Recurrent Network Simulation Study Using Reservoir
computing, 2013.
[21] Vido youtube : https://www.youtube.com/watch?v=RW425vW4BtQ. [Film].
[22] G. Pointeau, From a Synthetic Auto-Biographical Memory toward the Emergence of
Different Levels of Self : a Case Study with the iCub Humanoid Robot, Universit
Claude Bernard - Lyon I, Lyon, 2015.
[23] P. F. Dominey, Simplified brain lets the iCub robot learn language, 2013.
[24] M. Rolf, J. J. Steil and M. Gienger,, Efficient exploration and learning of whole body
kinematics, 2009 IEEE 8th International Conference on Development and Learnin,
2009.
[25] [En ligne]. Available: http://www.bbc.com/news/31047780.
[26] [En ligne]. Available: http://www.france24.com/fr/20150202-bill-gates-ia-risqueintelligence-artificielle-stephen-hawking-humanite-elon-musk-robot-algorithme.
[27] [En ligne]. Available: http://futureoflife.org/ai-open-letter/.
[28] [En ligne]. Available: https://deepmind.com/alpha-go.
[29] [En ligne]. Available: http://www.sciencesetavenir.fr/hightech/drones/20160301.OBS5593/google-car-la-voiture-sans-pilote-provoque-pour-la1ere-fois-un-accident.html.

51

[30] [En ligne]. Available:

http://bigstory.ap.org/article/dea92cb3481247a692be3a5d99f85e23/autonomous-carsarent-perfect-how-safe-must-they-be.
[31] [En ligne]. Available: http://uk.businessinsider.com/the-real-problem-with-highfrequency-trading-2016-1?r=US&IR=T.
[32] [En ligne]. Available: http://www.france24.com/fr/20150202-bill-gates-ia-risqueintelligence-artificielle-stephen-hawking-humanite-elon-musk-robot-algorithme.
[33] [En ligne]. Available: https://www.fas.org/sgp/crs/misc/R44443.pdf.
[34] [En ligne]. Available: http://clESNes.blog.lemonde.fr/2015/03/17/faut-il-avoir-peur-desmachines-la-silicon-valley-debat/.
[35] [En ligne]. Available: http://www.aaai.org/ojs/index.php/aimagazine/article/view/2345.
[36] [En ligne]. Available: http://www.usine-digitale.fr/article/d-ici-a-2030-des-processeursd-intelligence-artificielle-remplaceront-les-avocats-predit-un-rapport.N301383.
[37] [En ligne]. Available: http://www.europarl.europa.eu/news/en/newsroom/20150422STO43701/Mady-Delvaux-Robotics-will-bring-about-a-revolution.
[38] [En ligne]. Available: http://clESNes.blog.lemonde.fr/2015/03/17/faut-il-avoir-peur-desmachines-la-silicon-valley-debat/.
[39] [En ligne]. Available: http://www.murielle-cahen.com/publications/robot.asp.
[40] [En ligne]. Available: https://www.theparliamentmagazine.eu/articles/opinion/eurobotics-rules-right-time-address-ethical-issues.
[41] [En ligne]. Available: https://docassas.u-paris2.fr/nuxeo/site/esupversions/90fcfa2962e4-4b79-b0b4-d1beacc35e86.
[42] [En ligne]. Available: http://www.europarl.europa.eu/news/en/newsroom/20150422STO43701/Mady-Delvaux-Robotics-will-bring-about-a-revolution.

52