Vous êtes sur la page 1sur 273

N 4594 N 464

ASSEMBLE NATIONALE SNAT


CONSTITUTION DU 4 OCTOBRE 1958
SESSION ORDINAIRE 2016 - 2017
QUATORZIME LGISLATURE

Enregistr la prsidence de lAssemble nationale Enregistr la prsidence du Snat

le 15 mars 2017 le 15 mars 2017

RAPPORT
au nom de

LOFFICE PARLEMENTAIRE D'VALUATION


DES CHOIX SCIENTIFIQUES ET TECHNOLOGIQUES

POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE,


UTILE ET DMYSTIFIE

TOME I : Rapport

PAR

M. Claude DE GANAY, dput et Mme Dominique GILLOT, snatrice

Dpos sur le Bureau de lAssemble nationale Dpos sur le Bureau du Snat

par M. Jean-Yves LE DAUT, par M. Bruno SIDO,


Prsident de lOffice Premier vice-prsident de lOffice
bat
Composition de lOffice parlementaire dvaluation des choix scientifiques
et technologiques

Prsident
M. Jean-Yves LE DAUT, dput

Premier vice-prsident
M. Bruno SIDO, snateur

Vice-prsidents
M. Christian BATAILLE, dput M. Roland COURTEAU, snateur
Mme Anne-Yvonne LE DAIN, dpute M. Christian NAMY, snateur
M. Jean-Sbastien VIALATTE, dput Mme Catherine PROCACCIA, snateur

DPUTS SNATEURS

M. Bernard ACCOYER M. Patrick ABATE


M. Grard BAPT M. Gilbert BARBIER
M. Alain CLAEYS Mme Delphine BATAILLE
M. Claude de GANAY M. Michel BERSON
Mme Franoise GUGOT M. Franois COMMEINHES
M. Patrick HETZEL Mme Catherine GNISSON
M. Laurent KALINOWSKI Mme Dominique GILLOT
M. Alain MARTY M. Alain HOUPERT
M. Philippe NAUCHE Mme Fabienne KELLER
Mme Maud OLIVIER M. Jean-Pierre LELEUX
Mme Dominique ORLIAC M. Grard LONGUET
M. Bertrand PANCHER M. Pierre MDEVIELLE
M. Jean-Louis TOURAINE M. Franck MONTAUG
M. Herv POHER
-3-

Science sans conscience nest que ruine de lme


Rabelais

Dans la vie, rien nest craindre, tout est comprendre


Marie Curie

Lintelligence, a nest pas ce que lon sait, mais ce que lon fait
quand on ne sait pas
Jean Piaget
-5-

SOMMAIRE
Pages

SYNTHSE DU RAPPORT ..................................................................................................... 11

INTRODUCTION .................................................................................................................... 15

PREMIRE PARTIE : LMENTS DE CONTEXTE ............................................................ 19

I. LA DMARCHE DE VOS RAPPORTEURS ...................................................................... 19

A. DE LA PROCDURE DE SAISINE LADOPTION DUN CALENDRIER DE


TRAVAIL .............................................................................................................................. 19
1. Lorigine et linstruction de la saisine .................................................................................. 19
2. Un calendrier de travail trs resserr ................................................................................... 20

B. LE CHAMP DES INVESTIGATIONS DE LTUDE ........................................................... 20


1. Ltude de faisabilit du rapport conclut la pertinence dune tude spcifique de
lOPECST ........................................................................................................................... 20
2. Un ciblage dlibr sur un nombre limit de problmatiques et de pistes dinvestigation ....... 23

C. LA MTHODE DE TRAVAIL .............................................................................................. 26


1. Une mthode de travail fonde sur des auditions bilatrales et des dplacements en
France et ltranger ........................................................................................................... 26
2. Lorganisation dune journe dauditions publiques au Snat le 19 janvier 2017 ................... 27
3. La consultation douvrages, de rapports et darticles parus sur le sujet ................................. 28

II. LHISTOIRE DES TECHNOLOGIES DINTELLIGENCE ARTIFICIELLE ET DE


LEURS USAGES ................................................................................................................. 31

A. DES TECHNOLOGIES NES AU MILIEU DU XXE SICLE ............................................. 31


1. La prhistoire de lintelligence artificielle et sa prsence dans les uvres de fiction ............... 31
2. Les premires tapes de formation des technologies dintelligence artificielle au
XXe sicle, la notion dalgorithme et le dbat sur la dfinition du concept dintelligence
artificielle ............................................................................................................................ 33
3. Lge dor des approches symboliques et des raisonnements logiques dans les annes
1960 a t suivi dun premier hiver de lintelligence artificielle dans les annes 1970 ...... 38
4. Un enthousiasme renouvel dans les annes 1980 autour des systmes experts, de leurs
usages et de lingnierie des connaissances prcde un second hiver de lintelligence
artificielle dans les annes 1990 ........................................................................................ 40
5. Les autres domaines et technologies dintelligence artificielle : robotique, systmes
multi-agents, machines vecteur de support (SVM), rseaux baysiens, apprentissage
machine dont apprentissage par renforcement, programmation par contraintes,
raisonnements partir de cas, ontologies, logiques de description, algorithmes
gntiques ........................................................................................................................ 42
-6- POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

B. LACCLRATION RCENTE DE LUSAGE DES TECHNOLOGIES


DINTELLIGENCE ARTIFICIELLE GRCE AUX PROGRS EN APPRENTISSAGE
AUTOMATIQUE ( MACHINE LEARNING ) ................................................................ 54
1. Les dcouvertes en apprentissage profond ( deep learning ) remontent surtout aux
annes 1980, par un recours aux rseaux de neurones artificiels imagins ds les
annes 1940 ......................................................................................................................... 54
2. Lapprentissage profond connat un essor indit dans les annes 2010 avec lmergence
de la disponibilit de donnes massives ( big data ) et lacclration de la vitesse de
calcul des processeurs .......................................................................................................... 56
3. Les technologies dintelligence artificielle conduisent, dores et dj, des applications
dans de nombreux secteurs .................................................................................................. 69
4. Par leurs combinaisons en volution constante, ces technologies offrent un immense
potentiel et ouvrent un espace dopportunits transversal indit .......................................... 79
5. Lapprentissage automatique reste encore largement supervis et fait face au dfi de
lapprentissage non supervis .............................................................................................. 81

III. CARACTRISTIQUES GNRALES DE LA RECHERCHE EN INTELLIGENCE


ARTIFICIELLE ET ORGANISATION NATIONALE EN LA MATIRE ...................... 82

A. LES CARACTRISTIQUES DE LA RECHERCHE EN INTELLIGENCE


ARTIFICIELLE ..................................................................................................................... 82
1. La place prpondrante de la recherche prive, domine par les entreprises amricaines
et, potentiellement, chinoises ............................................................................................... 82
2. Une recherche essentiellement masculine ............................................................................. 86
3. Une interdisciplinarit indispensable mais encore insuffisante ............................................. 87
4. Une recherche soumise une contrainte dacceptabilit sociale assez forte sous leffet de
reprsentations catastrophistes de lintelligence artificielle ................................................... 93
5. Une recherche en intelligence artificielle qui saccompagne de plus en plus
dinterrogations et de dmarches thiques ............................................................................ 98

B. TABLEAU DE LA RECHERCHE FRANAISE EN INTELLIGENCE ARTIFICIELLE ..... 98


1. De nombreux organismes publics interviennent dans la recherche en intelligence
artificielle ............................................................................................................................ 98
2. Quelques exemples de centres, de laboratoires et de projets de recherche ............................... 101
3. Une reconnaissance internationale de la recherche franaise et qui saccompagne dun
phnomne de rachat de start-up et de fuite des cerveaux li aux conditions attractives
offertes ltranger .............................................................................................................. 103
4. Une communaut franaise de lintelligence artificielle encore insuffisamment organise
et visible .............................................................................................................................. 104
5. La sous-estimation des atouts considrables de la France et le risque de dcrochage
par rapport la recherche internationale en intelligence artificielle ...................................... 106

DEUXIME PARTIE : LES ENJEUX DE LINTELLIGENCE ARTIFICIELLE ................... 111

I. LES CONSQUENCES CONOMIQUES ET SOCIALES DE LINTELLIGENCE


ARTIFICIELLE .................................................................................................................... 111

A. DIMPORTANTES TRANSFORMATIONS CONOMIQUES EN COURS OU


VENIR ................................................................................................................................... 111
1. Lvolution vers une conomie globalise domine par des plateformes ............................ 111
2. Un risque de redfinition, sous leffet de ce nouveau contexte conomique, des rapports
de force politiques lchelle mondiale ................................................................................. 115
-7-

3. Des bouleversements annoncs dans le march du travail : perspectives de crations,


dvolutions et de disparitions demplois .............................................................................. 116

B. LA SOCIT EN MUTATION SOUS LEFFET DE LINTELLIGENCE


ARTIFICIELLE ..................................................................................................................... 122
1. Les dfis lancs par lintelligence artificielle aux politiques dducation et de formation
continue .............................................................................................................................. 122
2. Une rvolution potentielle de notre cadre de vie et de laide aux personnes ........................... 123
3. Le dfi de la cohabitation progressive avec des systmes dintelligence artificielle dans la
vie quotidienne .................................................................................................................... 125

II. LES QUESTIONS THIQUES ET JURIDIQUES POSES PAR LES PROGRS


EN INTELLIGENCE ARTIFICIELLE ................................................................................ 128

A. LES ANALYSES PRSENTES PAR DAUTRES INSTANCES POLITIQUES ................. 128


1. Les deux rapports issus des institutions de lUnion europenne : Parlement europen et
Comit conomique et social europen (CESE) ..................................................................... 128
2. Les trois rapports de la Maison Blanche ............................................................................... 129
3. Le rapport de la Chambre des Communes du Royaume-Uni .................................................. 133
4. Les initiatives chinoises et japonaises en intelligence artificielle accordent une place
contraste aux questions thiques ........................................................................................ 135
5. La stratgie du Gouvernement franais pour lintelligence artificielle : un plan qui arrive
trop tard pour tre intgr dans les stratgies nationales destines au monde de la
recherche ............................................................................................................................. 140

B. DES LOIS DASIMOV LA QUESTION CONTEMPORAINE DE LA


RGULATION DES SYSTMES DINTELLIGENCE ARTIFICIELLE .............................. 142
1. Dpasser les lois dAsimov pour envisager un droit de la robotique ................................. 142
2. Les questions juridiques en matire de conception (design), de proprit intellectuelle et
de protection des donnes personnelles et de la vie prive ..................................................... 144
3. Les divers rgimes de responsabilit envisageables et ceux envisags..................................... 153
4. Les diffrenciations du droit applicable selon le type dagents autonomes : robots
industriels, robots de service, voitures autonomes et dilemmes thiques affrents.................. 157

C. LA PRISE EN COMPTE GRANDISSANTE DES ENJEUX THIQUES ............................. 162


1. Le cadre national de la rflexion sur les enjeux thiques de lintelligence artificielle .............. 162
2. Les nombreuses expriences anglo-saxonnes de rflexion sur les enjeux thiques de
lintelligence artificielle ....................................................................................................... 173
3. Le travail en cours sur les enjeux thiques au sein de lassociation mondiale des
ingnieurs lectriciens et lectroniciens (Institute of Electrical and Electronics
Engineers ou IEEE) ............................................................................................................. 185
4. Une sensibilisation insuffisante du grand public ces questions et un besoin de partage
en temps rel de la culture scientifique et de ses enjeux thiques ........................................... 189

III. LES QUESTIONS TECHNOLOGIQUES ET SCIENTIFIQUES QUI SE POSENT


EN MATIRE DINTELLIGENCE ARTIFICIELLE ......................................................... 191

A. LES SUJETS DINTERROGATION LIS AUX ALGORITHMES UTILISS PAR LES


TECHNOLOGIES DINTELLIGENCE ARTIFICIELLE ..................................................... 191
1. Les questions de scurit et de robustesse ............................................................................. 191
2. Les biais et les problmes poss par les donnes ncessaires aux algorithmes
dapprentissage automatique ................................................................................................ 192
3. Le phnomne de botes noires des algorithmes de deep learning appelle un effort de
recherche fondamentale vers leur transparence ..................................................................... 193
4. La question des bulles dinformation dites bulles de filtres .............................................. 195
-8- POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

B. LES SUJETS DINTERROGATION LIS LA SINGULARIT , LA


CONVERGENCE NBIC ET AU TRANSHUMANISME ......................................... 195
1. La singularit , point de passage de lIA faible lIA forte peut, long terme,
constituer un risque ............................................................................................................ 195
2. Un prophtisme dystopique indmontrable scientifiquement ................................................. 197
3. Les questions poses par la convergence NBIC ................................................................ 202
4. La tentation du transhumanisme .................................................................................... 202

TROISIME PARTIE : LES PROPOSITIONS DE VOS RAPPORTEURS ........................ 205

I. POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE ............................................ 205


Proposition n 1 : Se garder dune contrainte juridique trop forte sur la recherche en
intelligence artificielle, qui - en tout tat de cause - gagnerait tre, autant que possible,
europenne, voire internationale, plutt que nationale ......................................................... 205
Proposition n 2 : Favoriser des algorithmes et des robots srs, transparents et justes, et
prvoir une charte de lintelligence artificielle et de la robotique ........................................... 206
Proposition n 3 : Former lthique de lintelligence artificielle et de la robotique dans
certains cursus spcialiss de lenseignement suprieur ........................................................ 208
Proposition n 4 : Confier un institut national de lthique de lintelligence artificielle et
de la robotique un rle danimation du dbat public sur les principes thiques qui
doivent encadrer ces technologies ......................................................................................... 208
Proposition n 5 : Accompagner les transformations du march du travail sous leffet de
lintelligence artificielle et de la robotique en menant une politique de formation
continue ambitieuse visant sadapter aux exigences de requalification et damlioration
des comptences ................................................................................................................... 209

II. POUR UNE INTELLIGENCE ARTIFICIELLE UTILE, AU SERVICE DE


LHOMME ET DES VALEURS HUMANISTES .............................................................. 210
Proposition n 6 : Redonner une place essentielle la recherche fondamentale et revaloriser
la place de la recherche publique par rapport la recherche prive, tout en encourageant
leur coopration ................................................................................................................... 210
Proposition n 7 : Encourager la constitution de champions europens en intelligence
artificielle et en robotique, tout en poursuivant le soutien aux PME spcialises, en
particulier les start-up ......................................................................................................... 212
Proposition n 8 : Orienter les investissements dans la recherche en intelligence artificielle
vers lutilit sociale des dcouvertes ..................................................................................... 213
Proposition n 9 : largir loffre de cursus et de modules de formation aux technologies
dintelligence artificielle dans lenseignement suprieur et crer, en France, au moins un
ple dexcellence international et interdisciplinaire en intelligence artificielle et en
robotique ............................................................................................................................. 213
Proposition n 10 : Structurer et mobiliser la communaut franaise de la recherche en
intelligence artificielle en organisant davantage de concours prims dimension
nationale, destins dynamiser la recherche en intelligence artificielle, par exemple
autour du traitement de grandes bases de donnes nationales labellises ............................... 215
Proposition n 11 : Assurer une meilleure prise en compte de la diversit et de la place des
femmes dans la recherche en intelligence artificielle ............................................................. 215

III. POUR UNE INTELLIGENCE ARTIFICIELLE DMYSTIFIE ..................................... 216


Proposition n 12 : Organiser des formations linformatique dans lenseignement
primaire et secondaire faisant une place lintelligence artificielle et la robotique .............. 216
Proposition n 13 : Former et sensibiliser le grand public lintelligence artificielle par des
campagnes de communication, lorganisation dun salon international de lintelligence
artificielle et de la robotique et la diffusion dmissions de tlvision pdagogiques ............... 217
Proposition n 14 : Former et sensibiliser le grand public aux consquences pratiques de
lintelligence artificielle et de la robotisation ........................................................................ 219
-9-

Proposition n 15 : tre vigilant sur les usages spectaculaires et alarmistes du concept


dintelligence artificielle et de reprsentation des robots ....................................................... 219

CONCLUSION ......................................................................................................................... 221

SAISINE DE LOFFICE ........................................................................................................... 223

RUNION DE LOPECST DU 14 MARS 2017 : ADOPTION DU RAPPORT .................... 225

LISTE DES PERSONNES RENCONTRES .......................................................................... 253

I. PERSONNES RENCONTRES PAR LES RAPPORTEURS EN VUE DE LTUDE


DE FAISABILIT ................................................................................................................ 253

II. PERSONNES RENCONTRES PAR LES RAPPORTEURS EN VUE DE


LTABLISSEMENT DU RAPPORT ................................................................................ 254

A. EN FRANCE ......................................................................................................................... 254

B. LTRANGER.................................................................................................................... 260

BIBLIOGRAPHIE..................................................................................................................... 269
SYNTHSE DU RAPPORT - 11 -

SYNTHSE DU RAPPORT

LES OBSERVATIONS

Lessor rcent des technologies dintelligence artificielle reprsente un


bouleversement de nature transformer profondment nos socits et nos
conomies mais reste soumis une contrainte dacceptabilit sociale assez forte
sous leffet de reprsentations souvent catastrophistes. Le concept dintelligence
artificielle renvoie des technologies multiples, nes dans la seconde moiti du
XXe sicle, qui reposent sur lutilisation dalgorithmes. Ces technologies, dont les
combinaisons sont en volution constante, conduisent dores et dj des
applications dans de nombreux secteurs et ouvrent un espace dopportunits
indit, mme de rvolutionner notre cadre de vie et laide aux personnes. Les
progrs en ce domaine posent des questions auxquelles toute la socit doit tre
sensibilise : quels sont les opportunits et les risques qui se dessinent ? La France
et lEurope sont-elles dans une position satisfaisante dans la course mondiale qui
sest engage ? Quelles places respectives pour la recherche publique et la
recherche prive ? Quelle coopration entre celles-ci ? Quelles priorits pour les
investissements dans la recherche ? Quels principes thiques, juridiques et
politiques doivent encadrer ces technologies ? La rgulation doit-elle se placer au
niveau national, europen ou international ?
Lirruption de lintelligence artificielle au cur du dbat public remonte
un peu plus de deux ans, aprs la diffusion dune lettre davertissement sur ses
dangers potentiels, publie en janvier 2015, signe par 700 chercheurs et
entrepreneurs, lance pour alerter lopinion publique et insister sur lurgence de
dfinir des rgles thiques. Il est frappant de constater quaucun argument srieux
ne venait tayer cette premire mise en garde quant au risque prsum de drive
malveillante. Pourtant, mme sans justification, ni preuve, cette alerte a contribu
renforcer les peurs et les angoisses irrationnelles induites par le dploiement des
technologies dintelligence artificielle. Tout au long de lanne 2016, les initiatives
en ce domaine se sont multiplies un rythme effrn. Aprs lirruption de
lintelligence artificielle dans le dbat public en 2015, lanne 2016 et le premier
trimestre 2017 ont en effet t jalonns de nombreux vnements et rapports.
Devant cet emballement, alors que les progrs se font une vitesse exponentielle et
reposent de plus en plus sur un financement priv aux moyens considrables, il est
indispensable que la rflexion soit conduite de manire sereine et rationnelle, afin
de dmystifier les reprsentations biaises de ce concept et de mettre en avant les
opportunits et les risques qui lui sont lis.
Ces reprsentations excessives, qui peuvent tre totalement opposes, sont
accentues par la phase gnrale de progrs dans laquelle on se situe : en effet, la
priode rcente sapparente un vritable printemps de lintelligence artificielle .
Cette priode polarise donc les opinions, qui peuvent tre des angoisses excessives
mais aussi des espoirs dmesurs : les cycles despoirs et de dceptions qui
jalonnent lhistoire de cette technologie invitent ne pas trop senthousiasmer et
faire preuve dattentes ralistes.
- 12 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Les applications sectorielles prsentes ou futures, riches de la capacit


prdictive de ces technologies, sont denvergure considrable et les volutions
peuvent cependant tre rapides, que lon pense par exemple lducation,
lenvironnement, lnergie, aux transports, laronautique, lagriculture, au
commerce , la finance, la dfense, la scurit, la scurit informatique, la
communication, aux loisirs, la sant, la dpendance ou, encore, au handicap.
Le prsent rapport fournit un tat de la recherche sur le concept
dintelligence artificielle et fait le point sur de nombreux autres rapports parus
rcemment sur le sujet en France et dans le monde. Il prsente aussi les enjeux
thiques, juridiques, conomiques, sociaux et scientifiques de ces technologies,
parmi lesquels la place prpondrante de la recherche prive, domine par les
entreprises amricaines et, potentiellement, chinoises, lacclration du passage
une conomie globalise domine par des plateformes , les transformations du
march du travail, les rgimes de responsabilit, les biais et les problmes poss par
les donnes et les algorithmes, le phnomne de botes noires des algorithmes et
la question des bulles dinformation . Il voque, par ailleurs, certains sujets
dinterrogation lis la singularit , la convergence NBIC et au
transhumanisme et souligne la ncessit dune prise en compte grandissante de
rgles thiques.
Les progrs en intelligence artificielle sont dabord et avant tout
bnfiques. Ils comportent aussi des risques, quil serait malhonnte de nier. Mais
ces risques peuvent et doivent tre identifis, anticips et matriss. Limminence
dune superintelligence ne fait pas partie de ces risques court et moyen termes
mais relve du fantasme. long terme, la ralit de cette menace nest pas
certaine. Le prsent rapport se veut une premire contribution un travail
indispensable didentification, danticipation et de matrise des risques rels. Ce
travail de dmystification et dobjectivation doit tre collectif, interdisciplinaire et
international.
Ni qute vaine ni projet de remplacement de lhomme par la machine,
lintelligence artificielle reprsente une chance saisir pour nos socits et nos
conomies. La France doit relever ce dfi. Il convient donc daller au-del des
apparences et de regarder la ralit scientifique derrire les espoirs et les angoisses
sexprimant en raction au dveloppement de cette technologie afin que le dbat
public puisse sengager sereinement.
Le rapport se prononce pour une intelligence artificielle matrise, utile
et dmystifie : matrise, parce que ces technologies devront tre les plus sres,
les plus transparentes et les plus justes possibles ; utile parce quelles doivent,
dans le respect des valeurs humanistes, profiter tous au terme dun large dbat
public ; dmystifie, enfin, parce que les difficults dacceptabilit sociale
constates rsultent largement de visions catastrophistes sans fondement. Plutt
quune hypothtique confrontation dans le futur entre les hommes et les machines,
qui relve dune forme de science-fiction dystopique, les rapporteurs sont
convaincus du bel avenir de la complmentarit homme-machine. Nous allons
bien plus vers une intelligence humaine augmente que vers une intelligence
artificielle concurrenant lhomme.
SYNTHSE DU RAPPORT - 13 -

LES PROPOSITIONS

I. Pour une intelligence artificielle matrise

Proposition n 1 : Se garder dune contrainte juridique trop forte sur la recherche en


intelligence artificielle, qui en tout tat de cause gagnerait tre, autant que possible,
europenne, voire internationale, plutt que nationale.
Proposition n 2 : Favoriser des algorithmes et des robots srs, transparents et justes et
prvoir une charte de lintelligence artificielle et de la robotique.
Proposition n 3 : Former lthique de lintelligence artificielle et de la robotique dans
certains cursus spcialiss de lenseignement suprieur.
Proposition n 4 : Confier un institut national de lthique de lintelligence artificielle et
de la robotique un rle danimation du dbat public sur les principes thiques qui doivent
encadrer ces technologies.
Proposition n 5 : Accompagner les transformations du march du travail sous leffet de
lintelligence artificielle et de la robotique en menant une politique de formation continue
ambitieuse visant sadapter aux exigences de requalification et damlioration des
comptences.

II. Pour une intelligence artificielle utile, au service de lhomme et des valeurs
humanistes

Proposition n 6 : Redonner une place essentielle la recherche fondamentale et revaloriser


la place de la recherche publique par rapport la recherche prive tout en encourageant leur
coopration.
Proposition n 7 : Encourager la constitution de champions europens en intelligence
artificielle et en robotique, tout en poursuivant le soutien aux PME spcialises, en
particulier les start-up.
Proposition n 8 : Orienter les investissements dans la recherche en intelligence artificielle
vers lutilit sociale des dcouvertes.
Proposition n 9 : largir loffre de cursus et de modules de formation aux technologies
dintelligence artificielle dans lenseignement suprieur et crer en France au moins un
ple dexcellence international et interdisciplinaire en intelligence artificielle et en
robotique.
Proposition n 10 : Structurer et mobiliser la communaut franaise de la recherche en
intelligence artificielle en organisant davantage de concours prims dimension nationale,
destins dynamiser la recherche en intelligence artificielle, par exemple autour du
traitement de grandes bases de donnes nationales labellises.
Proposition n 11 : Assurer une meilleure prise en compte de la diversit et de la place des
femmes dans la recherche en intelligence artificielle.
- 14 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

III. Pour une intelligence artificielle dmystifie

Proposition n 12 : Organiser des formations linformatique dans lenseignement primaire


et secondaire faisant une place lintelligence artificielle et la robotique.
Proposition n 13 : Former et sensibiliser le grand public lintelligence artificielle par des
campagnes de communication, lorganisation dun salon international de lintelligence
artificielle et de la robotique et la diffusion dmissions de tlvision pdagogiques.
Proposition n 14 : Former et sensibiliser le grand public aux consquences pratiques de
lintelligence artificielle et de la robotisation.
Proposition n 15 : tre vigilant sur les usages spectaculaires et alarmistes du concept
dintelligence artificielle et de reprsentations des robots.
INTRODUCTION - 15 -

INTRODUCTION

Lintelligence artificielle nest pas un simple terrain de jeu, mme


si les victoires des systmes AlphaGo au jeu de Go face au champion Lee
Sedol en mars 2016 et Libratus au Poker face quatre joueurs professionnels
en janvier 2017, ou, auparavant celles de Watson au jeu tlvis Jeopardy en
2011 et de Deep Blue aux checs face Garry Kasparov en 1997, pourraient le
laisser penser.
Aprs la rvolution quont reprsente Internet et les technologies
de linformation et de la communication au cours des vingt dernires annes,
un nouveau bouleversement pourrait transformer profondment nos
socits et nos conomies : lessor, lacclration exponentielle et la
diffusion massive des technologies dintelligence artificielle.
Ces opportunits, qui pourront apporter dans notre futur des
progrs dans de nombreux domaines, ne font pas suffisamment lobjet
dune analyse sereine et objective, sans doute sous leffet dune opinion
publique souvent mal informe, voire dsinforme en raison de
reprsentations catastrophistes issues de la science-fiction et danalyses
mdiatiques alarmistes.
Lirruption de lintelligence artificielle au cur du dbat public
remonte un peu plus de deux ans, aprs la diffusion dune lettre
davertissement sur les dangers potentiels de lintelligence artificielle,
publie en janvier 2015 et signe par 700 personnalits, le plus souvent des
scientifiques et des chefs dentreprises, rejoints par plus de 5 000 signataires
en un an. Elle a t lance pour alerter lopinion publique et insister sur
lurgence de dfinir des rgles thiques et une charte dontologique pour
cadrer la recherche scientifique dans ce domaine, quelle soit publique ou
prive.
Il est frappant de constater quaucun argument srieux ne venait
tayer cette premire mise en garde quant au risque prsum de drive
malveillante. Pourtant, mme sans justification, ni preuve, cette alerte a
contribu renforcer les peurs et les angoisses irrationnelles induites par
le dploiement des technologies dintelligence artificielle.
De plus, cette naissance du dbat public sur le sujet de lintelligence
artificielle selon un mode alarmiste a t suivie dune certaine confusion en
raison de la publication, en juillet 2015, dune autre lettre signe par plus de
mille personnalits demandant linterdiction des robots tueurs, savoir les
armes autonomes aptes slectionner et combattre des cibles sans
intervention humaine, en arguant du fait que lintelligence artificielle
pourrait terme tre plus dangereuse que des ogives nuclaires. Cette lettre
a t publie lors de louverture de la Confrence internationale sur
lintelligence artificielle qui sest tenue Buenos Aires en 2015 et la suite de
- 16 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

deux runions dexperts qui staient tenues Genve sur les armes
autonomes.
Aprs ces deux vnements marquants, 2016 a ensuite fait figure
danne de lintelligence artificielle, marque par lattribution de la chaire
dinformatique du Collge de France Yann LeCun en fvrier 20161 ou par
lvnement largement comment du 15 mars 2016, lorsque le systme
dintelligence artificielle AlphaGo, cr par lentreprise britannique
DeepMind, rachete en 2014 par Google, a battu le champion de Go, Lee
Sedol, avec un score final de 4 1. Cette victoire marque lhistoire des
progrs en intelligence artificielle et contredit la thse de ceux qui
estimaient une telle victoire impossible, tant le jeu de Go exige une subtilit
et une complexit propres lintelligence humaine.
Tout au long de lanne 2016, paralllement aux investigations
conduites par vos rapporteurs, les initiatives en matire dintelligence
artificielle se sont multiplies un rythme effrn. Aprs lirruption de
lintelligence artificielle dans le dbat public en 2015, lanne 2016 et le
premier trimestre 2017 ont en effet t jalonns de nombreux vnements et
rapports, dont il serait difficile de faire ici une liste exhaustive.
Pour mmoire, peuvent tre mentionns plusieurs travaux sur
lesquels le prsent rapport va revenir plus loin : les rapports sur
lintelligence artificielle du Parlement europen, de la Maison Blanche (trois
rapports), de la Chambre des Communes, de lassociation mondiale des
ingnieurs lectriciens et lectroniciens (Institute of Electrical and Electronics
Engineers ou IEEE), de la commission de rflexion sur lthique de la
recherche en sciences et technologies du numrique (CERNA) de lAlliance
des sciences et technologies du numrique (Allistene) (deux rapports2), de
lInstitut national de recherche en informatique et en automatique (Inria), de
lInstitut Mines-Tlcom, du Club informatique des grandes entreprises
franaises (Cigref), du Syndicat des machines et technologies de production
(SYMOP), de lassociation franaise pour lintelligence artificielle (AFIA), de
lassociation franaise contre lintelligence artificielle (AFCIA) etc. Des
confrences denvergure nationale ou internationale ont aussi t organises
sur le sujet par les Nations unies, lOCDE, la Fondation pour le futur de la
vie, le MEDEF, lAFIA, la Commission Suprieure du Numrique et des
Postes (CSNP) entre autres. Enfin, linitiative France IA , lance par le
Gouvernement en janvier 2017, sest accompagne de lannonce dun plan
national pour lintelligence artificielle en mars 2017.

1 Yann LeCun, directeur de la recherche en intelligence artificielle de Facebook, professeur


dinformatique et de neurosciences lUniversit de New York, a ainsi prononc en tant que titulaire
de la chaire annuelle Technologies informatiques et sciences numriques du Collge de France, le
4 fvrier 2016 18h, au Collge de France, sa leon inaugurale intitule Le deep learning, une
rvolution en intelligence artificielle . Il y faisait valoir que comme toute technologie
puissante, lintelligence artificielle peut tre utilise pour le bnfice de lhumanit entire
ou pour le bnfice dun petit nombre aux dpens du plus grand nombre .
2 Le premier porte sur lthique du chercheur en robotique et lautre sur lthique en apprentissage

automatique.
INTRODUCTION - 17 -

Devant cet emballement, alors que les progrs se font une vitesse
exponentielle et reposent de plus en plus sur un financement priv aux
moyens considrables, il est indispensable que la rflexion soit conduite de
manire sereine et rationnelle, afin de mettre en avant les opportunits
tout autant que les risques de lintelligence artificielle, de partager la
connaissance en vue de rassurer le public et de dmystifier les
reprsentations biaises. Comme le disait Marie Curie, dans la vie, rien nest
craindre, tout est comprendre .
Lintelligence artificielle suscite en effet enthousiasme, espoir et
intrt, aussi bien que mfiance, incrdulit ou oppositions. lheure o
les impacts de ces technologies, souvent par leur capacit prdictive,
deviennent de plus en plus significatifs, y compris dans la vie quotidienne de
chacun de nous, et o les frontires entre lhomme et la machine semblent
pouvoir seffacer peu peu, les choix scientifiques et technologiques
oprer doivent, plus que jamais, pouvoir ltre en connaissance de cause.
Ces reprsentations excessives de lintelligence artificielle, qui
peuvent tre totalement opposes, sont accentues par la phase gnrale
denthousiasme dans laquelle nous nous situons : en effet, selon les
observations cycliques observes depuis un demi-sicle, la priode rcente
sapparente un vritable Printemps de lintelligence artificielle . Cette
priode polarise ainsi les opinions, qui peuvent tre des angoisses
excessives mais aussi des espoirs dmesurs : les cycles despoirs et de
dceptions qui jalonnent lhistoire de lintelligence artificielle invitent ne
pas trop senthousiasmer en faisant preuve dattentes irralistes lgard
des technologies existantes ou de celles mises disposition dans un avenir
proche.
Il convient donc daller au-del des apparences et de regarder la
ralit scientifique derrire les espoirs et les angoisses sexprimant en raison
du dveloppement de lintelligence artificielle. Le dbat public ne peut pas
sengager sereinement dans lignorance des technologies mises en uvre,
des mthodes scientifiques et des principes de lintelligence artificielle.
Cest pourquoi vos rapporteurs ont entendu mettre en lumire et partager la
connaissance de ltat - cet instant donn - de ces technologies en constante
volution.
Ils se posent la question de savoir comment dvelopper une culture
de la responsabilit et une prise en compte des questions thiques au sein
de la communaut des chercheurs en intelligence artificielle et en robotique1
et au-del, parce quils noublient pas que science sans conscience nest que

1 Cette question, analyse plus loin, a fait lobjet du premier rapport de la commission de rflexion
sur lthique de la recherche en sciences et technologies du numrique (CERNA) de lalliance des
sciences et technologies du numrique (Allistene). Allistene regroupe en effet les organismes de
recherche publics concerns par le numrique, notamment par lintelligence artificielle, comme le
CNRS, le CEA, Inria, la CPU, la CDEFI et lInstitut Mines-Tlcom. LINRA, lINRETS et
lONERA en sont membres associs. Ce rapport est abord au IV de la prsente tude. Il peut tre
trouv ici : https://hal.inria.fr/ALLISTENE-CERNA/hal-01086579v1
- 18 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

ruine de lme , ainsi que laffirmait Rabelais. Ils jugent quil relve du devoir
citoyen de diffuser et partager la connaissance scientifique et technologique.
Les progrs en intelligence artificielle posent des questions
auxquelles toute la socit doit tre sensibilise : quels sont les opportunits
et les risques qui se dessinent ? La France et lEurope sont-elles dans une
position satisfaisante dans la course mondiale qui sest engage ? Quelles
places respectives pour la recherche publique et la recherche prive ?
Quelle coopration entre celles-ci ? Quelles priorits pour les
investissements dans la recherche en intelligence artificielle ? Quels
principes thiques, juridiques et politiques doivent encadrer ces
technologies ? La rgulation doit-elle se placer au niveau national,
europen ou international ? Devant ces interrogations, vos rapporteurs
estiment quil est de la responsabilit des pouvoirs publics de proposer un
point dquilibre qui devra toujours tre remis en dbat proportion des
dcouvertes scientifiques, de leurs transferts et de leurs usages. Tel est lobjet
mme du prsent rapport.
Afin de prvenir les discours catastrophistes mais aussi un risque
de futures dsillusions, il est ncessaire doprer un bilan objectif de ltat
de lart en matire scientifique et technologique sagissant de lintelligence
artificielle . Cest le rle de lOPECST et cest la mission que se sont donne
vos rapporteurs : ils ont souhait faire le point sur la recherche et les usages
des technologies dintelligence artificielle, en souligner les enjeux multiples
et les riches perspectives, car ils sont anims dune proccupation
pdagogique en vue de faciliter le partage des connaissances scientifiques
et technologiques.
PREMIRE PARTIE : - 19 -
LMENTS DE CONTEXTE

PREMIRE PARTIE :
LMENTS DE CONTEXTE

I. LA DMARCHE DE VOS RAPPORTEURS

A. DE LA PROCDURE DE SAISINE LADOPTION DUN CALENDRIER


DE TRAVAIL

1. Lorigine et linstruction de la saisine

LOffice parlementaire dvaluation des choix scientifiques et


technologiques (OPECST) a t saisi le 29 fvrier 2016, en application de
larticle 6 ter de lordonnance n 58-1100 du 17 novembre 1958 relative au
fonctionnement des assembles parlementaires introduit par la loi
n 83-609 du 8 juillet 1983 qui le cre, par la commission des affaires
conomiques du Snat, dune demande dtude sur lintelligence
artificielle. La victoire, dans le mme temps, du systme Alpha Go, sur le
champion de Go, Lee Sedol, confirmait, sil en tait besoin la pertinence de
cette saisine, tant cet vnement marque lampleur des progrs en
intelligence artificielle.
Vos rapporteurs taient dores et dj convaincus de lintrt de ce
sujet, compte tenu de sa forte visibilit dans lactualit et la vie publique.
Ainsi, votre rapporteure Dominique Gillot avait t sensibilise aux
enjeux de lintelligence artificielle lors du colloque annuel de la confrence
des prsidents duniversit (CPU) organise en 2015 sur le thme
Universit 3.0 ouvert par Bernard Stiegler, directeur de lInstitut de
recherche et dinnovation (IRI) du centre Georges Pompidou et professeur
lUniversit de Londres. La conclusion de ce colloque voquait mme
l Universit 4.0 .
En outre, plusieurs rapports de lOPECST ou des tables rondes
organises par lOffice1 avaient dj trait partiellement ce sujet. Elle
abordait donc cette problmatique avec la volont, comme dailleurs le
rapporteur Claude de Ganay, dclairer et de faire partager une culture
scientifique, technique et industrielle, en adquation totale avec la dmarche
du CNCSTI2 quelle prside.
Lors de sa runion du 18 mai 2016, lOffice a dsign vos deux
rapporteurs pour conduire ltude. Dans un contexte de dlais trs

1Ces travaux sont rcapituls un peu plus loin.


2 Le Conseil national de la culture scientifique, technique et industrielle, plac auprs du ministre
charg de la culture et du ministre en charge de la recherche, participe llaboration dune
politique nationale en matire de dveloppement de la culture scientifique, technique et industrielle,
en cohrence avec les grandes orientations de la stratgie nationale de la recherche .
- 20 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

contraints, une tude de faisabilit a t ralise puis prsente le 28 juin


2016 en application des articles 191 et 202 du rglement intrieur de lOffice.
LOPECST ayant pour vocation danticiper les questions complexes
dordre scientifique et technologique qui pourraient se poser au
lgislateur, il doit pouvoir lui fournir des explications circonstancies sur
des enjeux dont les risques et les opportunits auraient t difficiles
identifier sans son clairage.

2. Un calendrier de travail trs resserr

Ltude de faisabilit nayant pu tre prsente lOPECST que fin


juin 2016 et le calendrier des travaux parlementaires ayant t interrompu fin
fvrier 2017 en raison des chances lectorales (prsidentielle et lgislatives
puis snatoriales), vos rapporteurs nont rellement pu disposer que dun
peu plus de six mois pour effectuer leurs investigations, ce qui est trs court
tant donn limportance du sujet. Ce dlai contraint leur interdisant
dlaborer un rapport faisant un point complet sur lensemble des questions
poses par lintelligence artificielle, ils ont prcis le champ des
investigations de ltude. Sans chercher puiser le sujet, ils ont voulu
raliser un travail exploratoire, travail qui devra tre poursuivi, dautant que
la recherche, linnovation et la communication scientifique et technologique
ne cessent davancer.

B. LE CHAMP DES INVESTIGATIONS DE LTUDE

1. Ltude de faisabilit du rapport conclut la pertinence dune


tude spcifique de lOPECST

Ltude de faisabilit a tout dabord tabli un bilan des prcdents


travaux de lOffice et des autres travaux sur lintelligence artificielle
conduits rcemment en dehors de son cadre.
travers cette revue des rapports de lOPECST il sagissait de voir si
une tude analogue avait t conduite et de dterminer ce quil tait
pertinent danalyser de manire plus spcifique concernant lintelligence
artificielle.

1 Article 19 : Le rapporteur procde dabord une tude de faisabilit, qui a pour objet : dtablir
un tat des connaissances sur le sujet, de dterminer dventuels axes de recherche et dapprcier les
possibilits dobtenir des rsultats pertinents dans les dlais requis, de dterminer les moyens
ncessaires pour engager valablement un programme dtudes. Pour cette tude de faisabilit, le
rapporteur peut demander le concours des membres du conseil scientifique, avec laccord du vice-
prsident de cet organisme.
2 Article 20 : Le rapporteur soumet la dlgation les conclusions de son tude de faisabilit. Il

propose : soit de ne pas poursuivre les travaux, soit de suggrer lauteur de la saisine une nouvelle
formulation de celle-ci, soit dengager un programme dtudes conduisant ltablissement dun
rapport.
PREMIRE PARTIE : - 21 -
LMENTS DE CONTEXTE

Ainsi, lOPECST a, dernirement, rendu en 2016 un rapport sur les


robots et la loi, reprenant le compte rendu dune audition publique
organise le 10 dcembre 20151. Auparavant, et en allant du plus rcent au
plus ancien, lOffice a rendu plusieurs travaux sur le thme du numrique,
dmentant la thse du livre de Laure Belot, La dconnexion des lites.
Comment Internet drange lordre tabli ? 2.
Il a ainsi travaill sur le numrique au service de la sant3, sur la
scurit numrique4, sur le big data dans lagriculture5, sur les drones et la
scurit des installations nuclaires6, sur les nouveaux moyens de
transports7, sur les nouvelles technologies dexploration et de thrapie du
cerveau8, et, prcdemment, sur la gouvernance mondiale de lInternet9, sur
les consquences de lvolution scientifique et technique dans le secteur des
tlcommunications10, sur les enjeux de socit poss par le monde virtuel11,
sur les techniques dapprentissages en matire informatique12, sur lentre
dans la socit de linformation13 et sur les consquences de la rvolution
numrique14.
LOffice na cependant jamais travaill directement et globalement
sur lintelligence artificielle, mme si certains enjeux, tels que limpact sur
la sant, la protection des donnes ou les moyens de transport, ont pu tre
entrevus loccasion de prcdentes tudes menes. Il semblait donc tout

1 Les robots et la loi, Jean-Yves Le Deaut et Bruno Sido, rapporteurs, Snat, n 570 (2015-2016).
2 Ce livre fait valoir largument dune prtendue faible connexion des lites avec les enjeux de
transformation massive de nos socits sous limpact de la rvolution numrique.
3 Le numrique au service de la sant, Catherine Procaccia et Grard Bapt, rapporteurs, Snat

n 465 (2014-2015).
4 Scurit numrique et risques : enjeux et chances pour les entreprises, Anne-Yvonne Le

Dain et Bruno Sido, rapporteurs, Snat n 271 (2014-2015).


5 La place du traitement massif des donnes (big data) dans lagriculture : situation et

perspectives, Jean-Yves Le Deaut, Anne-Yvonne Le Dain et Bruno Sido, rapporteurs, Snat n 614
(2014-2015).
6 Les drones et la scurit des installations nuclaires, Jean-Yves Le Deaut et Bruno Sido,

rapporteurs, Snat n 267 (2014-2015).


7 Les nouvelles mobilits sereines et durables, Denis Baupin et Fabienne Keller, rapporteurs

Snat n 293 (2013-2014).


8 Les enjeux des nouvelles technologies d'exploration et de traitement du cerveau, Alain

Claeys et Jean-Sbastien Vialatte, rapporteurs, Snat n 476 (2011-2012).


9 La gouvernance mondiale de l'Internet, Claude Birraux et Jean-Yves Le Deaut, rapporteurs,

Snat n 219 (2005-2006).


10 Les consquences de l'volution scientifique et technique dans le secteur des tlcommunications,

Pierre Laffitte et Ren Tregouet, rapporteurs, Snat n 159 (2001-2002).


11 Images de synthse et monde virtuel : techniques et enjeux de socit, Claude Huriet,

rapporteur, Snat n 169 (1997-1998)


12 Les techniques des apprentissages essentiels pour une bonne insertion dans la socit de

linformation, Franck Srusclat, rapporteur, Snat n 383 (1996-1997).


13 La France et la socit de linformation : un cri dalarme et une croisade ncessaire, Pierre

Laffitte, rapporteur, Snat n 213 (1996-1997).


14 Les nouvelles techniques dinformation et de communication : lHomme cyberntique,

Franck Srusclat, rapporteur, Snat n 232 (1994-1995).


- 22 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

fait ncessaire dapprofondir ce thme travers une tude intgre


approfondie.
Les rapporteurs se sont ensuite interrogs sur lexistence dune
tude analogue concernant lintelligence artificielle effectue en dehors de
lOPECST. Pour rpondre cette question, diffrentes publications
nationales et europennes ont t passes en revue, sans identifier de rapport
public faisant le point sur ces technologies, ni sur les opportunits et les
risques quelles incarnent.
Alors que ces opportunits et ces risques, en lien avec lvolution des
techniques, lacclration des capacits des machines, la disponibilit de
masses de donnes normes et les usages de lintelligence artificielle
devaient de toute vidence tre identifis et valus, les pouvoirs publics
paraissent ne pas avoir pris toute la mesure de lenjeu, bien que cela ft
souhaitable.
Deux exceptions ont t releves : une initiative manant dune
dpute europenne et le travail dune association missionne par la
Commission europenne. En effet, au sein des institutions de lUnion
europenne, Mme Mady Delvaux, prsidente dun groupe de travail du
Parlement europen sur la robotique et lintelligence artificielle, a rendu
public, le 31 mai 2016, un projet de rapport contenant des recommandations
la Commission europenne relatives des rgles de droit civil pour la
robotique, assorti dune motion portant rsolution du Parlement europen.
Antrieurement, lassociation EuRobotics ( European Robotics Coordination
Action ), en charge du programme de recherche de lUnion europenne en
robotique, qui a pour objectif de favoriser le dveloppement de la robotique
en Europe, a propos le 31 dcembre 2012 un projet de livre vert sur les
aspects juridiques de la robotique1.
Dautres initiatives, moins en rapport avec lintelligence artificielle,
ont nanmoins t mentionnes dans ltude de faisabilit. Au niveau
national, le Parlement a dbattu et adopt, en 2016, le projet de loi pour une
Rpublique numrique2. galement en 2016, la commission Technologies
de linformation et de la communication (TIC) de lAcadmie des
technologies a produit une note interne rpondant la question suivante :
lacclration des nouvelles technologies numriques produit-elle des
inquitudes et une difficult dacceptation de la socit ? . En 2015,
lAcadmie des technologies a rendu une communication sur le big data
et a poursuivi les activits de son groupe de travail Vers une technologie
de la conscience ? . Initis en 2014 et anims par Grard Sabah et Philippe

1 Cf. http://www.eu-robotics.net/cms/upload/PDF/euRobotics_Deliverable_D.3.2.1_Annex_Suggesti
on_GreenPaper_ELS_IssuesInRobotics.pdf
2 Cf. le rapport Snat n 534 (2015-2016) de M. Christophe-Andr Frassa, ainsi que les avis n 524,

525, 526 et 528 respectivement de M. Philippe Dallier, au nom de la commission des finances, de
Mme Colette Mlot, au nom de la commission de la culture, de lducation et de la communication,
de M. Patrick Chaize, au nom de la commission de lamnagement du territoire et du dveloppement
durable, et de M. Bruno Sido, au nom de la commission des affaires conomiques.
PREMIRE PARTIE : - 23 -
LMENTS DE CONTEXTE

Coiffet, les travaux de ce groupe de travail nont pas dbouch sur un


rapport. En 2009, lAcadmie des technologies avait, en revanche, sur
dcision de son conseil acadmique, publi une brochure de dix questions
sur lintelligence artificielle et la technologie poses lacadmicien Grard
Sabah. Il ne sagissait pas pour autant formellement dun rapport, dun avis
ou dune communication de lAcadmie des technologies sur le thme de
lintelligence artificielle. Les prcisions apportes par cette brochure taient
cependant utiles pour clairer la rflexion et les discussions sur le sujet.
Enfin, il faut mentionner une lettre de veille du ple de comptitivit Cap
Digital sur lintelligence artificielle en 20151 et le fait que lAgence nationale
de la recherche (ANR) ait consacr un de ses cahiers 2 au thme de
lintelligence artificielle et de la robotique en 2012, intitul Intelligence
Artificielle et Robotique : Confluences de lHomme et des STIC 3.
De manire plus significative, en 2015, la commission de rflexion
sur lthique de la recherche en sciences et technologies du numrique
(CERNA) de lalliance des sciences et technologies du numrique (Allistene),
sous la prsidence de Max Dauchet, a rendu son premier rapport public
consacr lthique de la recherche en robotique4.
La mme anne, pour mmoire, le colloque annuel de la confrence
des prsidents duniversit (CPU) ouvert par Bernard Stiegler, directeur de
lInstitut de recherche et dinnovation (IRI) du centre Georges Pompidou et
professeur lUniversit de Londres, a eu pour thme LUniversit 3.0 ,
lintelligence artificielle avait t voque et lide d Universit 4.0 avait
conclu ce colloque, renvoyant ainsi au processus progressif dans lequel
sinscrit dsormais la production de la connaissance et la diffusion des
savoirs.
Aucun de ces travaux ne semblant de nature dispenser lOPECST
dengager une rflexion plus approfondie sur le thme de lintelligence
artificielle, vos rapporteurs ont propos de poursuivre leur prparation dun
rapport de lOPECST sur lintelligence artificielle dans un cadre et selon des
modalits dtermins et approuvs par leurs collgues.

2. Un ciblage dlibr sur un nombre limit de problmatiques et


de pistes dinvestigation

Vos rapporteurs ont souhait prciser le champ dinvestigations


retenu, permettant de rpondre la saisine transmise par la commission des
affaires conomiques du Snat et de contribuer faire connatre et partager

1 Cf. http://www.craft.ai/images/posts/craft-ai-interviewed-by-cap-
digital/craft_ai_article_cap_digital.pdf
2 Cahier n 4, mars 2012.
3 Cf. http://www.agence-nationale-recherche.fr/fileadmin/user_upload/documents/2012/Cahier-

ANR-4-Intelligence-Artificielle.pdf
4 Cf. https://hal.inria.fr/ALLISTENE-CERNA/hal-01086579v1
- 24 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

ce quest aujourdhui, et ce que peut devenir demain lintelligence


artificielle.
Les enjeux de ce thme dtude sont tout autant scientifiques et
technologiques que politiques, socitaux, conomiques, philosophiques,
thiques1, juridiques, ducatifs, mdicaux, ou, encore, militaires.
Compte tenu des dlais impartis, il leur a fallu ne retenir que
certaines problmatiques du champ de lintelligence artificielle pour la
conduite de leurs investigations, en ayant le souci doptimiser la
plus-value relative du rapport. Les diffrents thmes pouvant tre traits
ont t circonscrits et parmi eux, neufs domaines dinvestigation au moins
peuvent tre distingus :
1. La recherche publique en intelligence artificielle et les technologies
informatiques ;
2. La recherche prive en intelligence artificielle (dont la question de
la place des gants de lInternet) ;
3. Les enjeux philosophiques et thiques de lintelligence artificielle ;
4. Les enjeux politiques et juridiques de lintelligence artificielle ;
5. Les enjeux ducatifs de lintelligence artificielle ;
6. Les enjeux conomiques, industriels et financiers de lintelligence
artificielle (dont les systmes et moyens de transports) ;
7. Les usages de lintelligence artificielle en matire de technologies
mdicales (pour laide au diagnostic, la thrapeutique,
lpidmiologie, la chirurgie) ;
8. Les usages de lintelligence artificielle pour la dfense et les
technologies militaires ;
9. Le projet transhumaniste dhomme augment.
Les aspects scientifiques et technologiques constituant le cur de
mtier de lOPECST et sa plus-value spcifique par rapport aux autres
commissions et dlgations parlementaires, les points 1 et 2 ont t
retenus. La place considrable prise par la recherche prive pose la question
des enjeux de pouvoir et de scurit par rapport la recherche publique.
Elle touche mme aux problmatiques de souverainet et dindpendance
nationale, dautant plus que la colonisation numrique amricaine est une
ralit incontestable.
Les points 3, 4 et 5 ont aussi t retenus car ils soulvent des
questions essentielles. Ils couvrent dailleurs dj un champ trs large
dinvestigation. Les enjeux philosophiques, thiques, politiques,

1Lthique est une discipline philosophique qui porte sa rflexion sur les fondements de la morale.
Elle envisage donc les normes, les limites et les devoirs de celle-ci. Lthique se dfinit aussi comme
un ensemble de principes moraux qui sont la base de la conduite dun sujet.
PREMIRE PARTIE : - 25 -
LMENTS DE CONTEXTE

juridiques et ducatifs1 de lintelligence artificielle sont en effet majeurs et


les identifier devrait permettre de dpasser les peurs et les inquitudes
exprimes en vue dengager un dbat public plus serein ce sujet.
Les enjeux financiers, conomiques et industriels (point 6) nont
pas t carts mais mis au second plan dans la mesure o ce domaine
correspond moins directement la mission et la plus-value apporte par
lOPECST.
Les usages de lintelligence artificielle en matire mdicale
justifieraient un rapport part entire et vos rapporteurs ont donc mis cette
dimension de ct dans lattente de prochains travaux. Ils voquent toutefois
ces usages dans le prsent rapport mais de manire souvent illustrative.
Le point 8 sur les usages de lintelligence artificielle pour la
dfense et les technologies militaires a t cart pour deux raisons : dune
part, il sagit dun sujet qui relve assez largement dune rgulation
internationale et, dautre part, laccs linformation aurait t extrmement
difficile compte tenu de la sensibilit du sujet. La confidentialit et la
discrtion tant de mise en matire de recherche militaire, vos rapporteurs
nont pas souhait sengager dans cette voie.
Enfin, le point 9 sur le transhumanisme est partiellement abord,
davantage sous laspect des enjeux thiques de lintelligence artificielle. Il
ny avait pas lieu de traiter spcifiquement du transhumanisme, mouvement
controvers, bien loign de lintrt gnral recherch par vos rapporteurs :
il relve en effet davantage du projet idologique que de la ralit
scientifique et couvre de plus un champ diffrent de celui de lintelligence
artificielle. Il inclut par exemple une partie des biotechnologies, ainsi que
dautres technologies mergentes.
Vos rapporteurs ont estim que langle dentre le plus fcond en
matire dintelligence artificielle tait de mettre laccent sur les enjeux
thiques car ils permettent daborder de manire transversale la plupart
des aspects retenus de manire prioritaire, savoir la recherche publique et
prive ainsi que les enjeux philosophiques, politiques, juridiques et ducatifs
de lintelligence artificielle.
Sous couvert dune focalisation sur lthique de lintelligence
artificielle , il a t possible de poursuivre des investigations dans chacun
de ces sous-domaines, en mettant en vidence les opportunits et les risques
que reprsente lintelligence artificielle.

1 La note Quelles priorits ducatives pour 2017-2027 ? de France Stratgie, parue en mai
2016, sinterroge sur les conditions de russite du virage du numrique. Elle a conduit un dbat
public le 13 juin 2016. Elle se demande comment prendre appui sur le numrique pour amliorer les
pdagogies, sur quels niveaux denseignement faire porter en priorit les investissements en matire
de numrique, sil faut privilgier le dveloppement pralable de contenu pdagogique numrique ou
bien lquipement des lves, des tablissements ou des enseignants et, enfin, sur quelles collectivits
faire reposer la charge de ces financements. Une note de la fondation Terra Nova du 10 mars 2016
intitule Lcole sous algorithme appelle dvelopper la culture numrique dans le monde
ducatif et un travail de lOPECST sur les technologies ducatives.
- 26 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Cette rflexion sur les questions thiques a t conduite au sens


large et sest tendue de lthique de la recherche en intelligence artificielle
jusqu lthique des robots intelligents, en passant par la revue de
lensemble des dmarches thiques engages en la matire.
Elle prsentait aussi lintrt de ne pas cder la tentation de
dfinir un cadre juridique contraignant, qui aurait eu pour inconvnient de
figer des rgles en codifiant des prceptes moraux et, partant, de gner et de
ralentir linnovation. Vos rapporteurs, au terme de leurs investigations, ne
sont toujours pas convaincus de lurgence dune intervention lgislative ou
rglementaire en matire dintelligence artificielle, en raison de son
caractre trs volutif. Pour eux, une focalisation sur lthique de
lintelligence artificielle permet la fois de rpondre des proccupations de
court terme mais aussi de plus long terme. Pour les premires, vos
rapporteurs retiennent un propos de Laurence Devillers, professeure
lUniversit Paris IV Sorbonne et directrice de recherche au Laboratoire
dinformatique pour la mcanique et les sciences de lingnieur (LIMSI-
CNRS, campus Paris-Saclay) : Lutilisation de systmes informatiques
fonctionnant partir dapprentissage machine, met en lumire la ncessit dune
rflexion thique sur les limites et performances des systmes, surtout lorsquils
sadaptent en continu. Ces systmes amnent une rupture technologique et juridique
par rapport aux algorithmes classiques paramtrables. Sur le long terme, vos
rapporteurs ont entendu lappel que Yann LeCun a lanc lors de sa leon
inaugurale au Collge de France : dans quelques dcennies, quand nous
pourrons peut-tre penser concevoir des machines rellement intelligentes, nous
devrons rpondre la question de comment aligner les valeurs des machines avec les
valeurs morales humaines . Mme sil sagit dune question de long terme, elle
mrite dtre pose ds aujourdhui. Cest dailleurs le thme du travail1
conduit en 2016 et 2017 par lassociation mondiale des ingnieurs lectriciens
et lectroniciens (Institute of Electrical and Electronics Engineers ou IEEE).
Ces technologies doivent, en effet, tre matrises, utiles et faire
lobjet dusages conformes nos valeurs humanistes.

C. LA MTHODE DE TRAVAIL

1. Une mthode de travail fonde sur des auditions bilatrales et


des dplacements en France et ltranger

la suite de ladoption de ltude de faisabilit le 28 juin 2016, vos


rapporteurs ont procd des auditions bilatrales et effectu des
dplacements.
Ce point est dvelopp en annexe du prsent rapport, avec une
prsentation des auditions bilatrales et des dplacements de vos

1 Cf. le site http://standards.ieee.org/develop/indconn/ec/autonomous_systems.html


PREMIRE PARTIE : - 27 -
LMENTS DE CONTEXTE

rapporteurs en France et ltranger (tats-Unis, Royaume-Uni, Suisse,


Belgique).
Il sagissait pour mmoire des dplacements suivants :
un dplacement aux tats-Unis dAmrique du 22 au 29 janvier
2017, pour rencontrer des spcialistes de lintelligence artificielle,
Washington lInstitut de technologie du Massachusetts (MIT), la Harvard
Kennedy School of Government, lUniversit de Washington, lUniversit de
Stanford, lUniversit de Berkeley, ainsi que des reprsentants de Facebook
(Menlo Park, Palo Alto), de Google (Mountain View), dApple (Cupertino) et
de Salesforce (San Francisco) ;
trois dplacements en Europe : Genve du 21 au 22 septembre
2016 (HBP et BBP du Brain Mind Institute de lcole polytechnique fdrale
de Lausanne, EPFL), au Royaume-Uni du 13 au 16 dcembre 2016 (Chambre
des Communes, Royal Society, Alan Turing Institute, Future of humanity
Institute de lUniversit dOxford, CSER et LCFI de Cambridge) et
Bruxelles du 8 au 9 fvrier 2017 (laboratoire dintelligence artificielle de
lUniversit libre de Bruxelles, institutions europennes) ;
un dplacement en France mtropolitaine, Arcachon du 26 au
30 septembre 2016, pour participer un sminaire sur lthique de
lintelligence artificielle organis par la commission de rflexion sur lthique
de la recherche en sciences et technologies du numrique dAllistene
(CERNA).

2. Lorganisation dune journe dauditions publiques au Snat le


19 janvier 2017

Une journe dauditions publiques a t conduite au Snat le


19 janvier 20171. Lorganisation de cette journe a conduit une revue
spcialise conclure que les pouvoirs publics semparent de la question de
lintelligence artificielle 2.
Vos rapporteurs relvent que ces auditions ont constitu un record
daudience pour le Snat3. La chane Public Snat en a tir une mission
spciale, diffuse le lendemain de la journe dauditions4.

1 Pour les auditions du 19 janvier 2017 matin, le lien est le suivant :


http://videos.senat.fr/video.302142_588070cd0faea.reunion-pleniere-opecst et pour celles de laprs-
midi du 19 janvier 2017 : http://videos.senat.fr/video.303157_5880bb6877f24.reunion-pleniere-
opecst
2 https://www.sciencesetavenir.fr/high-tech/intelligence-artificielle/les-pouvoirs-publics-s-emparent-

de-la-question-de-l-intelligence-artificielle_109899
3 Selon les donnes disponibles la fin du mois de janvier 2017 : sur Facebook, la vido a t regarde

en direct par 97 182 personnes, puis en diffr par 8 600 personnes. Sur le site Internet du Snat, le
nombre de consultations de la vido slve 1 839.
4 https://www.publicsenat.fr/emission/les-matins-du-senat/table-ronde-intelligence-artificielle-51796
- 28 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

3. La consultation douvrages, de rapports et darticles parus sur le


sujet

Vos rapporteurs ont enrichi leurs connaissances par la consultation


douvrages, de rapports et darticles parus sur le sujet. Il existe peu de
manuels dintelligence artificielle sur le march. Un tat de la
connaissance, intitul Panorama de lintelligence artificielle, ses bases
mthodologiques, ses dveloppements1, a t dirig en 2014 par Pierre
Maquis, Odile Papini et Henri Prade. Il sagit, avec ses trois volumes, de lun
des manuels plus complets en langue franaise, mme si dautres ouvrages
plus anciens ont pu tre consults2.
La troisime dition du manuel de Stuart Russell et Peter Norvig
Artificial Intelligence : A Modern Approach reste ingale3. Vos
rapporteurs ont rencontr lun de ses deux auteurs, Stuart Russell,
professeur Berkeley, trs engag dans le dbat public sur lintelligence
artificielle. Une traduction franaise de cet ouvrage est disponible, avec le
concours de Laurent Miclet et Fabrice Popineau.

crit par deux experts de renomme mondiale, cet ouvrage constitue une
rfrence incontournable en matire dintelligence artificielle dont il prsente les
principaux concepts (logique, probabilits, mathmatiques discrtes et continues,
perception, raisonnement, apprentissage, prise de dcision et action). Il analyse
lintelligence artificielle travers le concept dagents intelligents. Chaque chapitre est
illustr par des exemples et des activits, allant dexercices de rflexion des exercices de
programmation, en passant par lapprofondissement des mthodes dcrites, soit plus de
500 activits au total. Les auteurs exposent comment un systme russit percevoir son
environnement de manire analyser ce qui sy passe, et comment il transforme la
perception quil a de son environnement en actions concrtes.

1 Prfac par Paul Braffort, le livre est dit par Cpadus. Le volume 1 traite de la reprsentation

des connaissances et de la formalisation des raisonnements, le volume 2 des algorithmes pour


lintelligence artificielle et le volume 3 des frontires et des applications de lintelligence artificielle.
2 Le manuel classique, mais dat, est celui de Grard Tisseau et Jacques Pitrat, Intelligence

artificielle : problmes et mthodes , Presses universitaires de France, 1996. Hugues Bersini a


fait paratre un ouvrage de vulgarisation chez Ellipse en 2006 : De lintelligence humaine
lintelligence artificielle .
3 Stuart Russell et Peter Norvig, Artificial Intelligence: A Modern Approach , Prentice Hall,

2010. Un autre manuel plus ancien peut tre cit, celui de Michael R. Genesereth et Nils J. Nilsson,
Logical Foundations of Artificial Intelligence , Los Altos Californie Morgan Kaufmann, 1987.
PREMIRE PARTIE : - 29 -
LMENTS DE CONTEXTE

Voici une liste des sujets couverts dans leur ordre dexposition : les contributions
historiques des mathmatiques, de la thorie des jeux, de lconomie, de la thorie des
probabilits, de la psychologie, de la linguistique et des neurosciences ; les mthodes qui
permettent de prendre des dcisions lors de ltablissement dun projet, en tenant compte
des tapes venir ; les diffrentes manires de reprsenter formellement les connaissances
relatives au monde qui nous entoure ainsi que le raisonnement logique fond sur ces
connaissances ; les mthodes de raisonnement qui permettent dtablir des plans et donc de
proposer des actions entreprendre ; la prise de dcisions en environnement incertain, avec
les rseaux baysiens et des algorithmes tels que llimination de variables et les MCMC
(Markov Chain Monte-Carlo) ; les mthodes employes pour gnrer les connaissances
exiges par les composants de prise de dcision : les algorithmes de boosting, lalgorithme
EM (expectation-minimization), lapprentissage base dexemples et les mthodes
noyaux (SVM-machines vecteurs de support) ; les implications philosophiques et thiques
de lintelligence artificielle. Ces technologies seront dcrites plus loin.

Des ouvrages scientifiques et/ou techniques doivent aussi tre


mentionns, dont vos rapporteurs ont souvent rencontr les auteurs dans le
cadre de leurs auditions et dplacements : Jean-Gabriel Ganascia, Le Mythe
de la singularit, Lintelligence artificielle, Les Sciences cognitives,
Hugues Bersini, De lintelligence humaine lintelligence artificielle, Les
fondements de linformatique, Brves rflexions dun informaticien obtus sur la
socit venir, Laurence Devillers, Des Robots et des hommes : mythes, fantasmes
et ralit, Serge Abiteboul et Gilles Dowek, Le temps des algorithmes,
Dominique Cardon, A quoi rvent les algorithmes : nos vies lheure des big
data, Alain Bensoussan et Jrmy Bensoussan, Droit des robots, Comparative
Handbook : robotic technolgies law, Alain Bensoussan (et autres), En compagnie
des robots, Alain Bensoussan, Dictionnaire politique dinternet et du numrique,
Code Informatique, fichiers et liberts, Droit de linformatique et de la tlmatique,
Nathalie Nevejans, Trait de droit et dthique de la robotique civile,
Jean-Yves Girard et Alan Turing, La Machine de Turing, Nick Bostrom,
Super-intelligence, Yoshua Bengio, Aaron Courville et Ian Goodfellow,
Deep Learning1 Michael Jordan, Learning in Graphical Models (Adaptive
Computation and Machine Learning), Daphne Koller et Nir Friedman,
Probabilistic Graphical Models : Principles and Techniques, Jean-Claude Heudin,
Le Deep learning, Immortalit numrique : Intelligence artificielle et transcendance,
les 3 Lois de la robotique : Faut-il avoir peur des robots ?, Robots et avatars : Le rve
de Pygmalion, Les cratures artificielles : des automates aux mondes virtuels,
Jacques Ferber, Les systmes multi-agents : vers une intelligence collective,
Michael Wooldridge, Introduction to Multi-Agent Systems, Alex Pentland,
Social Physics, Jean-Pierre Changeux, LHomme neuronal,
Jean-Michel Besnier, Francis Brunelle et Florence Gazeau, Un cerveau trs
prometteur : Conversation autour des neurosciences, ou encore un recueil de 150
avis dexperts par John Brockman intitul What to think about machines that
think. Bruce Buchanan a, quant lui, rdig un article trs clairant2 qui
revient sur lhistoire de lintelligence artificielle.

1 Ouvrage disponible en ligne : http://www.deeplearningbook.org/


2 Bruce G. Buchanan A (Very) Brief History of Artificial Intelligence , AI Magazine, 2005.
- 30 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Le livre blanc dInria sur lintelligence artificielle, coordonn par


Bertrand Braunschweig, a t consult1, ainsi que les rapports dactivits et
les contrats dobjectifs de cet institut. La brochure de lAcadmie des
technologies intitule Dix Questions sur lintelligence artificielle et la
technologie poses lacadmicien Grard Sabah a t largement utilise.
Vos rapporteurs ont galement pu consulter des ouvrages axs sur
les enjeux conomiques : Henri Verdier et Nicolas Colin, Lge de la
multitude : Entreprendre et gouverner aprs la rvolution numrique, Gilles
Babinet, Transformation digitale : lavnement des plateformes, big data, penser
lHomme et le monde autrement et Lre numrique, un nouvel ge de lhumanit,
Thibaut Bidet-Mayer, Lindustrie du Futur travers le monde, Dorothe
Kohler et Jean-Daniel Weisz, LIndustrie 4.0 : Les dfis de la transformation
numrique du modle industriel allemand.
Les questions ducatives ont aussi t explores travers diffrents
ouvrages : Jol Boissire, Simon Fau et Francesco Pedr, Le Numrique - Une
chance pour lcole, Bruno Devauchelle, Comment le numrique transforme les
lieux de savoirs, Le numrique au service du bien commun et de laccs au savoir
pour tous, Philippe Meirieu, Denis Kambouchner et Bernard Stiegler,
Lcole, le numrique et la socit qui vient, Franck Amadieu et Andr Tricot
Apprendre avec le numrique, ainsi que des notes Quelles priorits ducatives
pour 2017-2027 ? de France Stratgie et Lcole sous algorithme de la
fondation Terra Nova.
Quelques essais ont, enfin, retenu leur attention : Serge Tisseron, Le
jour o mon robot maimera, Paul Dumouchel et Luisa Damiano, Vivre avec les
robots, Essai sur lempathie artificielle, Marc Dugain et Christophe Labb,
Lhomme nu : la dictature invisible du numrique, Michel de Pracontal, LHomme
artificiel, Golems, robots, clones, cyborgs, Pierre Bellanger, La souverainet
numrique, ric Sadin, La silicolonisation du monde : lirrsistible expansion du
libralisme numrique, La vie algorithmique : critique de la raison numrique et
Lhumanit augmente : Ladministration numrique du monde, Luc Ferry, La
Rvolution transhumaniste et Bernard Stiegler, Dans la disruption : Comment ne
pas devenir fou ?

1 Cf. https://www.inria.fr/content/download/103897/1529370/.../AI_livre-blanc_n01.pdf
PREMIRE PARTIE : - 31 -
LMENTS DE CONTEXTE

II. LHISTOIRE DES TECHNOLOGIES DINTELLIGENCE


ARTIFICIELLE ET DE LEURS USAGES

A. DES TECHNOLOGIES NES AU MILIEU DU XXE SICLE

1. La prhistoire de lintelligence artificielle et sa prsence dans


les uvres de fiction

Les paragraphes suivants font le point sur les techniques


dintelligence artificielle et utilisent notamment les ouvrages cits,
notamment la brochure de lAcadmie des technologies de dix questions
sur lintelligence artificielle et la technologie .
De nombreuses incarnations dintelligence artificielle ont jalonn
notre histoire, quil sagisse de mythes ou de projets imagins par les
crivains et les scientifiques. Comme il a t vu, Jean-Claude Heudin et
Michel de Pracontal leur ont consacr des ouvrages entiers1. Bruce Buchanan
a, quant lui, rdig un article sur lhistoire de lintelligence artificielle qui
revient galement sur lensemble de ses prcurseurs2. Comme le relve
Jean-Gabriel Ganascia, que vos rapporteurs ont pu rencontrer plusieurs
reprises, Homre a dcrit, dans LIliade , des servantes en or doues de
raison : Fabriques par Hphastos, le dieu forgeron, elles ont, selon le pote, voix
et force ; elles vaquent aux occupations quotidiennes la perfection, car les
immortels leur ont appris travailler. Ce sont donc des robots, au sens tymologique
de travailleurs artificiels . Ovide dans ses Mtamorphoses cre la figure de
Galate, statue divoire sculpte par Pygmalion et laquelle Vnus, desse
de lamour, accepte de donner vie. Jean-Gabriel Ganascia rappelle galement
quil existait ds lgypte ancienne des statues articules, animes par la
vapeur et par le feu, qui hochaient la tte et bougeaient les bras, vritables
anctres des automates. La Bible, par le Psaume 139:16, a fond le mythe du
Golem, cette crature dargile humanode que lon retrouve souvent dans la
tradition cabalistique juive.
En 1495, en vue de festivits organises Milan, Lonard de Vinci
imagine puis construit, bien que ce dernier point reste dbattu, un
chevalier mcanique , sorte de robot automate revtu dune armure
mdivale. Sa structure interne en bois, avec quelques parties en mtal et en
cuir, tait actionne par un systme de poulies et de cbles.
Avec ses animaux-machines , Ren Descartes proposa, quant
lui, dans la premire moiti du XVIIe sicle, de reproduire artificiellement les
fonctions biologiques, y compris la communication et la locomotion. Blaise

1 Jean-Claude Heudin, Robots et avatars : Le rve de Pygmalion et Les cratures artificielles :


des automates aux mondes virtuels, Michel de Pracontal, LHomme artificiel, Golems, robots,
clones, cyborgs.
2 Bruce G. Buchanan A (Very) Brief History of Artificial Intelligence , AI Magazine, 2005.
- 32 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Pascal rflchit la cration dune machine calculer. la fin


du XVIIe sicle, Leibniz imagine ensuite une machine calculer capable de
raisonner. Il construit un prototype de machine calculer en 1694.
Pendant le sicle des Lumires, le philosophe franais Julien de la
Mettrie anticipe le jour o les progrs de la technique permettront de crer
un homme-machine tout entier, lme et au corps artificiels. Labb Mical et
Kratzenstein imaginent une machine parler en 1780, bientt construite par
le baron Von Kempelen grce une cornemuse tuyaux multiples,
aujourdhui proprit du Deutsches Museum de Munich.
Ds 1818, Mary Shelley publie son roman Frankenstein ou le
Promthe moderne , dans lequel elle imagine un savant capable de crer un
tre artificiel, le monstre Frankenstein.
Au milieu du XIXe sicle, George Boole appelle mathmatiser la
logique, Charles Babbage conoit lanctre mcanique des ordinateurs
daujourdhui1 et lconomiste britannique William Stanley Jevons imagine
des pianos mcaniques, capables de raisonner.
Jules Verne, dans son roman, La Maison vapeur, paru en 1880
imagine un lphant gant vapeur capable de traverser lInde, sur terre,
comme sur leau. Sa machine nest cependant pas autonome.
Alors quIsaac Asimov affirmait qu on peut dfinir la science-fiction
comme la branche de la littrature qui se soucie des rponses de ltre humain aux
progrs de la science et de la technologie , force est de constater que
lintelligence artificielle est un thme de science-fiction particulirement
fcond pour la littrature, le cinma et les jeux vido. Laurence Devillers
souligne cette ralit incontestable dans son livre Des robots et des hommes :
mythes, fantasmes et ralit.
Les ouvrages dIsaac Asimov lui-mme, mais aussi
dArthur C. Clarke, de Philip K. Dick ou de William Gibson lillustrent, ainsi
que le font, au cinma, de 1927 2017, les films Metropolis ,
2001, lOdysse de lespace , Mondwest , Les Rescaps du futur , Le
Cerveau dacier , Gnration Proteus , Blade runner , Tron ,
Terminator , Matrix , A.I. , I, Robot , Iron Man , Wall-E ,
Eva , The Machine , Transcendance , Chappie , Her ,
Ex Machina , ou, encore, cette anne, Ghost in the Shell . Les thmes de
lhostilit de lintelligence artificielle ou des risques que cette dernire
ferait courir lespce humaine sont souvent au cur de lintrigue de ces
uvres.

1 En 1834, pendant le dveloppement dune machine calculer, Charles Babbage imagine le premier
ordinateur sous la forme dune machine diffrences en utilisant la lecture squentielle des
cartes du mtier tisser Jacquard afin de donner des instructions et des donnes sa machine. En
cela, il fut le premier noncer le principe dun ordinateur.
PREMIRE PARTIE : - 33 -
LMENTS DE CONTEXTE

Rcemment, des sries tlvises succs comme


Person of interest , Emma , Westworld ou, surtout, Real Humans et
Humans ont galement exploit ce sujet.

2. Les premires tapes de formation des technologies


dintelligence artificielle au XXe sicle, la notion dalgorithme et
le dbat sur la dfinition du concept dintelligence artificielle

Lintelligence artificielle a ft lanne dernire son soixantime


anniversaire, puisquelle est invente en tant que discipline et concept en
1956 dans un contexte que vos rapporteurs vont prsenter dans les pages
suivantes. Elle repose sur lutilisation dalgorithmes, dont lhistoire est bien
plus ancienne que celle de leurs usages en informatique.
Le mot algorithme est issu de la latinisation du nom du
mathmaticien Al-Khawarizmi, dont le titre dun des ouvrages ( Abrg du
calcul par la restauration et la comparaison ), crit en arabe entre 813 et 833, et
dont la seule copie est conserve lUniversit dOxford, visite par vos
rapporteurs, est galement lorigine du mot algbre. Il est le premier
proposer des mthodes prcises de rsolution des quations du second
degr, du type ax + bx + c =0 .
La longue histoire des algorithmes est bien dcrite par Serge
Abiteboul et Gilles Dowek, dans leur ouvrage Le temps des algorithmes. Ils ont
tous les deux t auditionns par vos rapporteurs. Ils rappellent que les
algorithmes sont utiliss depuis des milliers dannes, quEuclide a invent
en lan 300 avant notre re un algorithme de calcul du plus grand diviseur
commun de deux nombres entiers et que la complexit de certains
algorithmes rcents est telle quils peuvent tre compars des
cathdrales. Le domaine qui tudie les algorithmes est appel
lalgorithmique.
De manire rsume, un algorithme est un ensemble de squences
doprations. Il sagit, de manire plus prcise et rigoureuse, dune suite
finie et non ambigu doprations ou dinstructions permettant, laide
dentres, de rsoudre un problme ou dobtenir un rsultat, ces sorties
tant ralises selon un certain rendement1. De nombreuses applications
sont possibles, commencer par linformatique, le fonctionnement des

1 Donald Knuth, pionnier de lalgorithmique moderne (The Art of Computer Programming), a

identifi les cinq proprits suivantes comme tant les prrequis dun algorithme : la finitude ( Un
algorithme doit toujours se terminer aprs un nombre fini dtapes ), une dfinition prcise
( Chaque tape dun algorithme doit tre dfinie prcisment, les actions transposer
doivent tre spcifies rigoureusement et sans ambigut pour chaque cas ), lexistence
dentres ( des quantits lui sont donnes avant quun algorithme ne commence. Ces
entres sont prises dans un ensemble dobjets spcifi ) et de sorties ( des quantits ayant
une relation spcifie avec les entres ) et un rendement ( toutes les oprations que
lalgorithme doit accomplir doivent tre suffisamment basiques pour pouvoir tre en
principe ralises dans une dure finie par un homme utilisant un papier et un crayon ).
- 34 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

ordinateurs, en particulier leurs systmes dexploitation, reposant sur des


algorithmes. Les algorithmes peuvent, en effet, servir, comme le rappellent
Serge Abiteboul et Gilles Dowek, calculer, mais aussi grer des
informations (comme le font les logiciels darchivage par exemple),
analyser des donnes (comme le font les moteurs de recherche),
communiquer (comme le font les protocoles utiliss pour Internet par
exemple), traiter un signal (comme le font les appareils photo et les
microphones numriques par exemple), commander un robot (comme le
font les systmes danalyse des capteurs utiliss pour les voitures autonomes
par exemple), fabriquer des biens (comme le font les usines 4.0
supervises par des algorithmes par exemple) ou, encore, modliser
simuler et prvoir (comme le font certains outils de mtorologie, de
sismologie, docanographie ou, encore, de plantologie par exemple).
Linformatique constitue un domaine dapplication privilgi pour
les algorithmes. Mais son histoire ne se confond pas avec celle de ces
derniers. Il en est de mme pour lhistoire de lintelligence artificielle, bien
que ces trois histoires soient lies. En effet, comme il sera vu plus loin,
linformatique traite plutt de questions rsolues par des algorithmes
connus, alors que lon applique le label d intelligence artificielle des
applications permettant de rsoudre des problmes moins vidents.
Ds 1936, Alan Turing pose les fondements thoriques de
linformatique et introduit les concepts de programme et de
programmation. Il imagine en effet, ce moment, un modle abstrait du
fonctionnement dun appareil dot dune capacit largie de calcul et de
mmoire, en recourant limage dun ruban infini muni dune tte de
lecture/criture, qui sera appel machine de Turing , prcurseur de
lordinateur moderne. Puis, dans un article paru en 19501, il explore le
problme de lintelligence artificielle et propose une exprience maintenant
connue sous le nom de test de Turing , qui est une tentative de dfinition
travers une preuve dun critre permettant de qualifier une machine de
consciente 2. Il fait alors le pari que dici cinquante ans, il ny aura plus
moyen de distinguer les rponses donnes par un homme ou un ordinateur, et ce sur
nimporte quel sujet . Cette prophtie dAlan Turing quant aux progrs
connus en lan 2000 ne sest pas encore ralise ce jour.
De leur ct, les mathmaticiens et neurologues Warren McCulloch
et Walter Pitts crivent ds 1943 un article intitul Un calculateur logique des
ides immanentes dans lactivit nerveuse 3 dans lequel ils posent lhypothse
que les neurones avec leurs deux tats, activ ou non activ, pourraint

1 Computing Machinery and Intelligence , Mind, octobre 1950.


2 Le test de Turing consiste mettre en confrontation verbale un humain avec un ordinateur imitant
la conversation humaine et un autre humain. Dans le cas o lhomme qui engage les conversations
nest pas capable de dire lequel de ses interlocuteurs est un ordinateur, on peut considrer que le
logiciel de lordinateur a pass avec succs le test.
3 A Logical Calculus of Ideas Immanent in Nervous Activity , 1943, Bulletin of

Mathematical Biophysics 5.
PREMIRE PARTIE : - 35 -
LMENTS DE CONTEXTE

permettre la construction dune machine capable de procder des calculs


logiques. Ils publirent ds la fin des annes 1950 des travaux plus aboutis
sur les rseaux de neurones artificiels. Cest en 1957 que Frank Rosenblatt
dveloppe le Perceptron, premire modlisation de rseau de neurones
artificiels1, partir des travaux de McCulloch et Pitts. Ces derniers publient
un article plus important que les autres en 19592 et constituent donc un
modle simplifi de neurone biologique, communment appel neurone
formel. Leurs travaux dmontrrent que des rseaux de neurones formels
simples pouvaient thoriquement raliser des fonctions logiques,
arithmtiques et symboliques complexes. Leur fonctionnement sera expliqu
plus loin.
Trois ans plus tt, en 1956, John McCarthy et Marvin Minsky ont
organis une cole dt Dartmouth qui est considre comme lacte de
naissance de lintelligence artificielle, la fois en tant que discipline et en
tant que concept dartificial intelligence.
Le concept a fait lobjet dun dbat et il est dit a posteriori que le choix
du mot devrait beaucoup la qute de visibilit de ce nouveau champ de
recherche. Parler dintelligence artificielle a pu apparatre comme plus
sduisant que de parler des sciences et des technologies du traitement de
linformation . Lanthropomorphisme essentialiste3 qui est exprim par le
choix du concept d intelligence artificielle na sans doute pas contribu,
selon vos rapporteurs, apaiser les peurs suscites par le projet promthen
de construction dune machine rivalisant avec lintelligence humaine.
Cette confrence, soutenue par la fondation Rockfeller, par Nathan
Rochester, alors directeur scientifique dIBM, et par Claude Shannon,
ingnieur, mathmaticien et pre des thories de linformation et de la
communication, offre en effet John McCarthy loccasion de convaincre les
participants daccepter lexpression intelligence artificielle en tant
quintitul de ce domaine de recherche. La confrence affirme donc ds 1956
que chaque aspect de lapprentissage ou toute autre caractristique de
lintelligence peut tre si prcisment dcrit quune machine peut tre conue pour le
simuler . La rigueur pousse observer que le projet nest pas, en ralit, de
construire une machine rivalisant avec lhomme mais de simuler telle ou
telle tche que lon rserve lintelligence humaine.
Outre John McCarthy et Marvin Minsky, les participants, tels que
Ray Solomonoff, Oliver Selfridge, Trenchard More, Arthur Samuel, Allen

1 The Perceptron : A Probabilistic Model for Information Storage and Organization in the
Brain .
2 What the frogs eye tells the frogs brain ou ce que lil dune grenouille dit son

cerveau , cocrit avec Jerome Lettvin et Humberto Maturana, 1959, Proceedings of the Institute of
radio engineers.
3 Lanthropomorphisme est lattribution de caractristiques du comportement humain ou de la

morphologie humaine dautres entits comme des dieux, des animaux, des objets ou dautres
phnomnes. Lessentialisme est lattribution un tre ou un objet dune existence propre par
essence , cest--dire inhrente au sujet en question.
- 36 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Newell et Herbert Simon, ayant pos comme conjecture que tout aspect de
lintelligence humaine peut tre dcrit de faon assez prcise pour quune
machine le reproduise en le simulant, discutent ensuite des possibilits de
crer des programmes dordinateur qui se comportent intelligemment,
cest--dire qui rsolvent des problmes dont on ne connat pas de solution
algorithmique simple.
Dans les annes suivantes, soutenus par lagence amricaine pour les
projets de recherche avance de dfense du ministre de la Dfense (Defense
Advanced Research Projects Agency ou DARPA), mais aussi par IBM, les
chercheurs mettent au point de nouvelles techniques informatiques : le
langage Lisp en 1958, lun des plus anciens langages de programmation1, le
premier programme dmontrant des thormes do est issue la notion
dheuristique (rgle empirique utile permettant de rduire les chemins
possibles mais sans aboutir ncessairement une solution), une premire
ide des rseaux de neurones artificiels (le Perceptron, dont Marvin Minsky
souligne les limites thoriques), un programme qui joue aux dames et
apprend par apprentissage jouer de mieux en mieux Ces dcouvertes
rendent les pres fondateurs de lintelligence artificielle trs optimistes.
En 1958, Herbert Simon et Allen Newell dclarent ainsi que dici
dix ans un ordinateur sera le champion du monde des checs 2 et dici dix ans,
un ordinateur dcouvrira et rsoudra un nouveau thorme mathmatique majeur .
En 1965, Herbert Simon assure que des machines seront capables, dici
vingt ans, de faire tout travail que lhomme peut faire . En 1967, Marvin
Minsky estime que dans une gnration [...] le problme de la cration dune
intelligence artificielle sera en grande partie rsolu , et en 1970 que dans trois
huit ans nous aurons une machine avec lintelligence gnrale dun tre humain
ordinaire
De mme, le premier agent conversationnel ( chatbot ou bot )
est cr en 1966 par Joseph Weizenbaum et simule un psychothrapeute
grce sa technologie de reconnaissance des formes. Il sappelle Eliza et
suscite un grand enthousiasme.
Mais ses capacits restent limites, puisquil est incapable de
vraiment rpondre aux questions poses, se contentant de continuer faire
parler son interlocuteur, dans une logique de relance.

1 Si lon met de ct la machine de Turing qui relve de linformatique thorique, le systme


A-0 (ou A-0 System ) est le premier compilateur (programme qui transforme un code source
crit dans un langage de programmation ou langage source en un autre langage informatique, appel
langage cible) dvelopp en 1952 ; il est suivi notamment par le Fortran (mot valise issu de langlais
formula translator ) invent ds 1954, Lisp et Algol en 1958, COBOL (acronyme de Common
Business Oriented Language ) en 1959, BASIC (acronyme de Beginners All-purpose Symbolic
Instruction Code ) en 1964, Logo en 1967, Pascal en 1971, ou, encore, Prolog (mot valise pour
Programmation logique), invent par des chercheurs franais en 1972.
2 Il faudra attendre 1997 pour que le champion dchecs Garry Kasparov sincline devant le systme

Deep Blue dIBM.


PREMIRE PARTIE : - 37 -
LMENTS DE CONTEXTE

Capture dcran dun exemple de conversation avec Eliza

Source : Norbert Landsteiner https: //fr.slideshare.net/ashir233/eliza-4615

La reprsentation des connaissances, le langage objet, est au cur de


lintelligence artificielle des annes 1950 et 1960 et elle est ensuite mise au
service de linformatique, avec des rsultats remarquables permettant les
progrs connus vers les ordinateurs modernes. Ainsi que le remarque
lacadmicien des technologies Grard Sabah, linformatique classique
traite traditionnellement de questions rsolues par des algorithmes
connus, alors que lintelligence artificielle sintresse plutt aux problmes
pour lesquels aucun algorithme satisfaisant nexiste encore.
Le paradoxe rsultant de cette dfinition est le suivant : ds que le
problme a t rsolu par une technologie dite dintelligence artificielle,
lactivit correspondante nest plus considre comme une preuve
dintelligence de la machine. Les cas connus de rsolutions de problmes
dalgbre ou de capacit jouer des jeux (des jeux dchecs par exemple)
illustrent ce phnomne. Nick Bostrom explique ainsi que beaucoup
dintelligence artificielle de pointe a filtr dans des applications gnrales, sans y
tre officiellement rattache car ds que quelque chose devient suffisamment utile et
commun, on lui retire ltiquette dintelligence artificielle .
Les progrs en matire dintelligence artificielle tant tangibles
depuis les annes 1950, les frontires de lintelligence artificielle sont donc
sans cesse repousses et ce qui tait appel intelligence artificielle hier
nest donc plus ncessairement considr comme tel aujourdhui.
- 38 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Vos rapporteurs observent que, ds lorigine, lintelligence


artificielle est bien une tiquette. Ce label recouvre en ralit des
technologies diverses, dont ils ont voulu retracer la richesse et la diversit
dans le prsent rapport.
Vos rapporteurs ont, en effet, relev dans leurs investigations que les
outils dintelligence artificielle sont trs divers, ce qui traduit la varit des
formes dintelligence en gnral : elles vont de formes explicites (systmes
experts et raisonnements logiques et symboliques) des formes plus
implicites (rseaux de neurones et deep learning).

3. Lge dor des approches symboliques et des raisonnements


logiques dans les annes 1960 a t suivi dun premier hiver de
lintelligence artificielle dans les annes 1970

Lge dor des approches symboliques et des raisonnements


logiques se produit dans les annes 1960 aprs la naissance de lintelligence
artificielle Dartmouth. Recourant des connaissances prcises, telles que
des logiques diverses ou des grammaires, ces formes dintelligence sont
dites explicites.
Il existe, ensuite, les diverses modalits de formalisme logique, soit
sous la forme de logique classique, de logique floue, de logique modale ou
de logique non monotone.
La logique mathmatique peut reprsenter des connaissances1 et
modliser des raisonnements. Le principe de rsolution permet
dautomatiser ces raisonnements : pour dmontrer une proprit, on montre
que son contraire entrane une contradiction avec ce quon sait dj. La seule
rgle utilise est celle du dtachement ou modus ponens, figure du
raisonnement logique concernant limplication (exemple : si p implique q et
si p, alors q ). Cette mthode ne sapplique qu des cas simples, o la
combinatoire nest pas excessive. Fond sur le mme principe, le langage
Prolog (acronyme de PROgrammation LOGique, qui permet de rsoudre les
problmes par raisonnement partir de rgles de logique formelle) lve ces
restrictions en permettant daborder des problmes plus complexes.
Des difficults subsistent pour traiter des connaissances vagues ou
incompltes. Devant ces limites, des extensions thoriques ont donn lieu
des logiques non classiques permettant dexprimer plus dlments que dans
la logique classique. Voulant tendre les possibilits de la logique classique,
les logiques multivalues gardent les mmes concepts de base, hormis les
valeurs de vrit, qui, selon les thories, varient de trois un nombre infini
de valeurs. La thorie des logiques floues tend ces logiques en considrant
comme valeurs de vrit le sous-ensemble rel [0,1] . Elles permettent de

1Des symboles permettent alors de reprsenter des faits et des rgles permettent den dduire de
nouveaux.
PREMIRE PARTIE : - 39 -
LMENTS DE CONTEXTE

traiter des informations incertaines (Jean viendra peut-tre demain) ou


imprcises (Anne et Brigitte ont peu prs le mme ge).
Les logiques modales introduisent des notions comme la possibilit,
la ncessit, limpossibilit ou la contingence qui modulent les formules de la
logique classique. La notion de vrit devient relative un instant donn ou
un individu. On distingue ainsi ce qui est accidentellement vrai
(contingence : Strasbourg est en France) de ce qui ne peut pas tre faux
(ncessit : un quadrilatre a quatre cts). Diverses interprtations des
modalits donnent lieu des applications distinctes, dont les plus
importantes sont les logiques pistmiques (savoirs, croyances), dontiques
(modlisant le droit) et temporelles (pass, prsent, futur).
Les connaissances ntant pas universelles, nous pouvons tre
conduit des hypothses et suppositions fausses, remises en cause la
lumire dexpriences ultrieures. Les logiques non monotones tiennent
compte du fait que les exceptions sont exceptionnelles et formalisent les
raisonnements o lon adopte des hypothses (tous les oiseaux volent) qui
pourront tre modifies par des connaissances plus prcises (mais pas les
autruches). On raisonne avec des rgles du type : si a est vrai et si b nest pas
incohrent avec ce quon sait, on peut dduire c (si Titi est un oiseau et si
jignore que cest une autruche, il vole). On autorise ainsi la prise de
dcision malgr une information incomplte : des suppositions plausibles
permettent certaines dductions ; si, la lumire dinformations ultrieures,
ces suppositions se rvlent fausses, on remettra en question les dductions
prcdentes (non-monotonie).
Sagissant des grammaires, le traitement automatique des langues
est un des grands domaines de lintelligence artificielle, qui vise lapplication
de ses techniques aux langues humaines. Trs pluridisciplinaire, il collabore
avec la linguistique, la logique, la psychologie et lanthropologie. Les travaux
en traitement automatique des langues ont donn lieu la constitution de
divers ensembles de donnes numriques (dictionnaires de langue, de
traduction, de noms propres, de conjugaison, de synonymes ; grammaires
sous diverses formes ; donnes smantiques), ainsi qu divers logiciels
(analyseurs et gnrateurs morphologiques ou syntaxiques, gestionnaires de
dialogue). Du point de vue conceptuel, ces travaux ont produit des
thories grammaticales plus compatibles avec les questions
dinformatisation, des thories formelles pour la reprsentation du sens des
mots, des phrases, des textes et des dialogues, ainsi que des techniques
informatiques spcifiques pour le traitement de ces lments sur ordinateur.
John McCarthy a invent le langage de programmation LISP ds
19581, cest un mot valise form partir de langlais list processing ou
traitement de listes. De grands espoirs sont alors placs dans la

1 Fonctions Rcursives dexpressions symboliques et leur valuation par une Machine ou


Recursive Functions of Symbolic Expressions and Their Computation by Machine ,
Communications of the ACM, Avril 1960.
- 40 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

comprhension du langage naturel, dans la vision artificielle, mais en fin de


compte les rsultats sont dcevants, largement en raison des limitations de
puissance du matriel disponible, des donnes utiliser mais aussi des
limites intrinsques des technologies alors disponibles.
Ainsi le Perceptron, dans lequel Frank Rosenblatt plaait tant
desprance est rapidement critiqu. Le livre Perceptrons de Marvin Minsky
et Seymour Papert, paru en 1969, dmontre les limites des rseaux de
neurones artificiels de lpoque1.
Aprs cet ge dor, qui court de 1956 au dbut des annes 1970, les
financements sont revus la baisse en raison de diffrents rapports assez
critiques : les prdictions exagrment optimistes des dbuts ne se ralisent
pas et les techniques ne fonctionnent que dans des cas simples. lvidence,
les difficults fondamentales de lintelligence artificielle furent alors
largement sous-estimes en particulier la question de savoir comment
donner des connaissances de sens commun une machine. Les recherches se
recentrent alors sur la programmation logique, les formalismes de
reprsentation des connaissances et sur les processus qui les utilisent au
mieux.
En dpit de cette rorientation, qui tmoigne dune certaine cyclicit
des investissements en intelligence artificielle selon une boucle espoirs-
dceptions , Marvin Minsky et ses quipes du MIT (Massachusetts Institute
of Technology) dveloppent divers systmes (Sir, Baseball, Student..) qui
relancent les recherches sur la comprhension automatique des langues.

4. Un enthousiasme renouvel dans les annes 1980 autour des


systmes experts, de leurs usages et de lingnierie des
connaissances prcde un second hiver de lintelligence
artificielle dans les annes 1990

Au cours des annes 1980, de nouveaux financements publics sont


ouverts avec le projet japonais dit de cinquime gnration , le
programme britannique Alvey, le programme europen Esprit et le soutien
renouvel de la DARPA aux tats-Unis. Les approches smantiques sont
alors en plein essor, en lien avec les sciences cognitives, la reprsentation des
connaissances mais surtout avec les systmes experts et lingnierie des
connaissances. Leurs usages dans le monde conomique sont des signes de
cette vitalit.
Il sagit tout dabord des systmes experts, appels aussi systmes
base de connaissances. Un systme expert est un logiciel qui vise

1 La critique principale concerne lincapacit du perceptron rsoudre les problmes non


linairement sparables, tels que le problme du X OR ( OU exclusif ). Il sen suivra alors, en
raction la dception, une priode noire dune vingtaine dannes pour les rseaux de neurones
artificiels.
PREMIRE PARTIE : - 41 -
LMENTS DE CONTEXTE

reproduire les raisonnements dun expert, dans un domaine particulier. La


connaissance est dcrite sous la forme gnrale de rgles :

SI Condition (s) ALORS Action (s)

Ces systmes analysent une reprsentation de la situation pour voir


quelles rgles sont pertinentes, rsolvent les ventuels conflits si plusieurs
rgles sappliquent et excutent les actions indiques en modifiant la
situation en consquence. Ces systmes sont efficaces dans des domaines
restreints mais deviennent difficiles grer quand ils doivent manipuler
beaucoup de rgles ou dans des domaines ouverts.
Destin au diagnostic des maladies infectieuses du sang sur la base
dun ensemble de rgles dclaratives (si tels faits alors effectuer telles
actions), le premier systme expert dit MYCIN est cr en 1974 et se
diffuse dans les annes 1980. Il sagit alors dextraire des connaissances
partir du savoir des experts humains.
Les succs de cette approche restent relatifs car elle ne fonctionne
bien que dans des domaines restreints et spcialiss. Lincapacit de
ltendre des problmes plus vastes renforce alors le dsintrt pour
lintelligence artificielle.
Aprs ce court regain dintrt, la recherche subit nouveau un
dclin des investissements. Lenthousiasme renouvel dans les annes 1980
autour des systmes experts, de leurs usages et de lingnierie des
connaissances prcde donc un second hiver de lintelligence artificielle
dans les annes 1990.
Pour autant, des dcouvertes scientifiques sont ralises dans la
priode. Aprs la renaissance de lintrt pour les rseaux de neurones
artificiels avec de nouveaux modles thoriques de calculs, les annes 1990
voient se dvelopper la programmation gntique ainsi que les systmes
multi-agents ou lintelligence artificielle distribue. La ncessit de
mta-connaissances1 merge galement.
Les usages des systmes experts et de lingnierie des connaissances
persistent jusqu aujourdhui ainsi que la expliqu Alain Berger, directeur
gnral dArdans, dans son intervention lors de la journe Entreprises
franaises et intelligence artificielle organise par le MEDEF et lAFIA le
23 janvier 2017. Il a ainsi rappel quil reste essentiel de faire cooprer et
interoprer les connaissances et les donnes ; en cela, le dveloppement
doutils prcis revt une importance capitale pour faire parvenir cette
intelligence vers lutilisateur, lhumain demeurant par son expertise la cl de
validation de la connaissance. Depuis 1956, de nombreux progrs ont t
accomplis, linstar du dveloppement des systmes experts, de la

1 Il sagit de connaissances propos des connaissances elles-mmes.


- 42 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

production et du recueil de volumes importants de donnes mais galement


de solutions coopratives. Au fil des sicles, le terme connaissance a
volu ; cependant, lattachement la comprhension dune vrit et sa
construction a demeur. Ce terme pourrait aujourdhui tre dfini comme le
fait de comprendre, de connatre les proprits, les caractristiques et les
traits spcifiques dune chose. Selon Alain Berger, lingnierie de la
connaissance sarticule donc autour dune approche de type cognitiviste, qui
postule que la pense est un processus de traitement de linformation. Le
cognitivisme dans lingnierie de la connaissance consiste ainsi coupler
reprsentation et computation. La connaissance, dun point de vue
technique, vise tre structure efficacement pour lexpert comme pour
lutilisateur ; dun point de vue stratgique, il est essentiel de rendre
explicites les savoirs tacites, de capitaliser les expriences singulires et de
capitaliser les connaissances pour les prserver, les exploiter, les enrichir et
les amplifier. En ce sens, lapproche cognitiviste consiste en trois cls : une
structuration dune intelligence humaine, une justification du contenu par
la validation dun expert, et linteroprabilit avec dautres systmes.
Lingnierie de la connaissance fait donc figure, pour Alain Berger, de
vritable tremplin de linnovation, cest une comptence cl pour
lorganisation, en ce quelle permet la matrise de ses savoirs et la
performance de ses systmes. Il peut exister, dans le cadre de sujets
exploratoires un besoin de modliser des phnomnes, des interactions, des
acteurs qui permettront de construire des scnarios et de construire de
nouvelles connaissances. Lingnierie de la connaissance a pour points forts :
- la formation des acteurs ;
- lamlioration des comptences des acteurs dun service ;
- la rsolution de problmes ;
- la prennisation de lexpertise, qui est lie un homme, une
technologie ou un projet, la prennisation des connaissances
dune technologie ou dun projet.

5. Les autres domaines et technologies dintelligence artificielle :


robotique, systmes multi-agents, machines vecteur de
support (SVM), rseaux baysiens, apprentissage machine dont
apprentissage par renforcement, programmation par contraintes,
raisonnements partir de cas, ontologies, logiques de
description, algorithmes gntiques

De trs nombreux autres domaines et technologies dintelligence


artificielle peuvent tre ajouts ceux dj mentionns prcdemment.
Certains vont tre abords au prsent chapitre sans que cette liste ne soit en
rien exhaustive : il ne sagit que de quelques exemples visant illustrer la
varit et la richesse qui se cache derrire le label dintelligence
artificielle.
PREMIRE PARTIE : - 43 -
LMENTS DE CONTEXTE

Le tableau acadmique des domaines de lintelligence artificielle


(IJCAI) retient cinq domaines : traitement du langage naturel, vision (ou
traitement du signal), apprentissage automatique, systmes multi-agents,
robotique.
Mais les technologies dintelligence artificielle sont
quasi-innombrables, surtout que les chercheurs, tels des artisans,
hybrident des solutions indites au cas par cas, en fonction dun tour de
main souvent trs personnel. Il sagit dune caractristique propre la
recherche en intelligence artificielle, souvent peu connue lextrieur du
cercle des spcialistes et laquelle ont t sensibiliss vos rapporteurs.

Les domaines de lintelligence artificielle

Source : Gouvernement (les pourcentages indiquent la rpartition estime de manire approximative des
chercheurs franais entre les diffrents domaines de lintelligence artificielle)

Lun des premiers domaines qui peut tre pris pour exemple est
celui de la robotique, qui a toujours entretenu des liens trs troits avec celui
de lintelligence artificielle sans se confondre avec elle, un champ de la
robotique tant hors de lIA (les simples automates, par exemple). Pour Raja
Chatila, directeur de lInstitut des systmes intelligents et de robotique
(ISIR), la problmatique de lintelligence artificielle telle que pose par Alan
- 44 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Turing1 tait de savoir si les ordinateurs pouvaient tre capables de


pense (Can Machines Think?) et il la traduite par la question de
limitation de lhomme. Or les fondateurs de lintelligence artificielle
dans les annes 1950 ont orient la problmatique vers celle de
l intelligence , ou de mcanismes de haut niveau .
Cette manire de poser la question nglige un constat pourtant
simple : au fil des res (de la reptation la bipdie, de la cueillette
lagriculture, de la chasse llevage par exemple), le cerveau humain a
volu vers ce quil est grce au dveloppement des capacits de
perception, dinterprtation, dapprentissage et de communication en vue
dune action plus efficace, de plus en plus dtermine par la volont et des
choix rationnels. Or la problmatique de la robotique pose lensemble de ces
questions. Le robot-machine est soumis la complexit du monde rel dans
lequel il volue et dont il doit respecter la dynamique. La notion
dintelligence doit alors tre pose de manire rendre compte globalement
des processus sensori-moteurs, perceptuels et dcisionnels permettant
linteraction en temps rel avec le monde en tenant compte des contraintes
dincompltude et dincertitude de perception ou daction. Cest le sens de la
dfinition de la robotique donne par Mike Brady (Oxford) dans les annes
1980 : La robotique est le lien intelligent entre la perception et laction. Dans ce
sens on peut dire que le robot est le paradigme de lintelligence artificielle
encorpore , cest--dire une intelligence matrialise dans un
environnement quelle dcouvre et dans lequel elle agit.
Il est ncessaire, selon Raja Chatila, dadopter une vision densemble
du robot, en tant que systme intgrant ses diffrentes capacits
(perception/interprtation, mouvement/action, raisonnement/planification,
apprentissage, interaction) et permettant la fois la ractivit et la prise de
dcision sur le long terme. Ces fonctions doivent tre intgres de manire
cohrente dans une architecture de contrle globale (architecture cognitive) ;
leur tude de manire spare risque daboutir des solutions
inappropries.
De nombreuses avances ont t ralises dans chacune des
fonctions fondamentales du robot : perception, action, apprentissage. Dans
les annes 1985-2000, la problmatique de la localisation et de la cartographie
simultanes a connu un dveloppement formidable qui a permis de bien en
cerner les fondements et de produire des systmes efficaces, le point faible
important restant le manque dinterprtations plus smantiques de
lenvironnement et des objets qui le composent.
Un autre domaine est celui des systmes multi-agents ou
lintelligence artificielle distribue, inspire des comportements sociaux et
notamment de certaines familles dinsectes, permettant la mise en uvre de
systmes qui sauto-organisent. Ces comportements sociaux peuvent tre

1 A. M. Turing (1950) Computing Machinery and Intelligence. Mind 49: 433-460.


PREMIRE PARTIE : - 45 -
LMENTS DE CONTEXTE

programms de manire plus ou moins complexe et intgrer des croyances,


des dsirs et des intentions.
Vos rapporteurs ont expriment ces systmes lors dune rencontre
avec les chercheurs du laboratoire de robotique et dintelligence artificielle
de lUniversit Libre de Bruxelles dirig par le professeur Hugues Bersini.
Une colonie de petits robots peu intelligents travaillent ensemble,
dveloppent une coopration puis des stratgies plus complexes que ce que
leur permet leur intelligence individuelle et dmontrent ainsi la pertinence
de lintelligence collective. Les travaux de Michael Wooldridge sur les
systmes multi-agents, chercheur galement rencontr par vos rapporteurs,
illustrent les rsultats de ces mthodes dintelligence artificielle distribue.
Les systmes multi-agents et lintelligence artificielle distribue renvoient
donc des formes collectives de dcision. Le dveloppement de systmes
de plus en plus complexes implique lutilisation de connaissances expertes,
htrognes, plus ou moins indpendantes les unes des autres. Diffrents
experts naboutissant pas toujours au mme rsultat, il faut confronter leurs
dcisions pour prendre une dcision. Les architectures classiques (des
modules qui senchanent dans un ordre prdfini) ont alors t remises en
cause au profit darchitectures multi-agents. Alors quun agent est un
logiciel autonome percevant son environnement et agissant dessus, un
systme multi-agent est constitu dun ensemble de tels agents, partageant
des ressources communes et communiquant entre eux.
On trouve principalement des agents peu complexes, nutilisant ni
buts ni plans (et qui sont gnralement en grand nombre) ou des agents
disposant de buts, de plans, de croyances et de connaissances (ces agents
plus labors sont souvent peu nombreux). Le point crucial de tels systmes
concerne la coordination entre les agents. Pour ce faire, diffrents modes de
communication entre agents sont possibles :
- soit chaque agent analyse les donnes contenues dans une zone
commune et, sil en trouve quil peut utiliser, il les traite et crit de nouvelles
donnes utiliser par dautres agents ;
- soit lagent concern quand il rencontre un problme envoie un
message dautres agents afin de trouver qui peut laider le rsoudre. Le
systme adapte ainsi de manire dynamique son comportement la situation
traiter.
La coordination est un aspect important, mais des systmes
multi-agents peuvent mettre laccent sur dautres caractristiques, linstar
du modle Voyelles dvelopp par Yves Demazeau en 1995 et qui insiste sur
les relations entre les agents, lenvironnement, les interactions et
lorganisation.
- 46 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Lvolution artificielle et la programmation gntique1 donnent


lieu llaboration dalgorithmes gntiques ou algorithmes volutifs, qui
imitent la faon dont la vie biologique a volu sur terre. En effet, il est
loisible dinterprter le monde daujourdhui comme une succession de
stratgies gagnantes. Les espces qui ont survcu la slection naturelle sont
autant dexemples de russite. La nature a, par ttonnement, cr un grand
nombre de combinaisons de codes gntiques quelle a ensuite slectionns
dans la mesure o ils fonctionnent, survivent et parviennent dominer leur
environnement. Les algorithmes gntiques appliquent les mcanismes
fondamentaux de lvolution et de la slection naturelle pour
cartographier des espaces de paramtres et surtout rpondre des
problmes doptimisation. On code les caractristiques des objets manipuls
et on dfinit une fonction qui value la valeur attribue chaque objet. On
fait voluer une population initiale en crant de nouveaux objets partir des
anciens et en permettant diverses mutations. La slection permet dliminer
les objets les moins efficaces. Ce type de processus donne de bons rsultats
dans divers domaines, la difficult rsidant dans le choix du codage (cest--
dire les paramtres pertinents des objets considrs) et les types de
mutations autorises.
Les rseaux baysiens, qui se situent lintersection de
linformatique et des statistiques2, donnent de bons rsultats parmi les
technologies dintelligence artificielle. Un rseau baysien est un outil
mathmatique de modlisation graphique probabiliste et danalyse de
donnes. La modlisation est graphique en ce quelle reprsente les variables
alatoires sous la forme dun graphe orient3. Judea Pearl, prix Turing4 2011
pour ses contributions fondamentales lintelligence artificielle par le
dveloppement de lanalyse probabiliste et du raisonnement causal , est lun des
inventeurs de ces modles. Ils sont particulirement adapts la prise en
compte de lincertitude et peuvent tre dcrits manuellement par des experts
ou produits automatiquement par apprentissage. Un rseau baysien permet
de reprsenter la connaissance acquise (modle de reprsentation des

1 Il sagit dune technique de programmation inspire des mcanismes dvolution et de slection


gntique des organismes vivants.
2 Les modles de rgression linaire sont aussi utiliss comme mthode dapprentissage supervis

pour prdire une variable quantitative. Ils peuvent aider prdire un phnomne ou chercher
lexpliquer. Linventeur de la notion en 1886, Francis Galton, mettait en vidence, dans un article
fondateur, un phnomne de rgression vers la moyenne en analysant la taille des fils en fonction
de la taille de leurs pres. Avant cela, Carl Friedrich Gauss avait dmontr, ds 1821, un thorme
relatif lestimateur linaire selon la mthode des moindres carrs, connu aujourdhui sous le nom
de thorme de Gauss-Markov , car redcouvert et complt en 1900 par Andrei Markov. Ce
dernier a ainsi mis en vidence les processus alatoires dans le calcul des probabilits. Ces alas, ou
chanes de Markov sont les fondements thoriques du calcul stochastique.
3 Pour un domaine donn, on dcrit les relations causales entre variables dintrt par un graphe.

Dans ce graphe, les relations de cause effet entre les variables ne sont pas dterministes, mais
probabilises. Ainsi, lobservation dune cause ou de plusieurs causes nentrane pas
systmatiquement leffet ou les effets qui en dpendent, mais modifie seulement la probabilit de les
observer.
4 Ce prix est la plus haute distinction en informatique.
PREMIRE PARTIE : - 47 -
LMENTS DE CONTEXTE

connaissances) ou de dcouvrir la connaissance dans un contexte par


lanalyse de donnes (cest une machine calculer les probabilits
conditionnelles), afin de mener des oprations de prise de dcisions, de
diagnostic, de simulation et de contrle dun systme. Lintrt particulier
des rseaux baysiens est de tenir compte simultanment de connaissances a
priori dexperts (dans le graphe) et de lexprience contenue dans les
donnes, ce qui est trs pertinent pour laide la dcision.
Les rseaux baysiens sont donc souvent utiliss pour des solutions
dcisionnelles qui correspondent souvent aux dfis lancs aux technologies
dintelligence artificielle.
Michael Jordan, professeur lUniversit de Berkeley, que vos
rapporteurs ont rencontr, identifie quatre pistes sur lesquelles il fait
particulirement travailler ses quipes, qui sinscrivent dans le prolongement
des modles graphiques probabilistes et en particulier des rseaux baysiens,
dont il est une des figures avec Judea Pearl et Daphne Koller. Il dcrit ainsi
quatre axes de recherche pertinents : les variables latentes, les modles
topiques, les modles de causalit et les sries temporelles.
Deux autres outils dintelligence artificielle sont rappels ici. La
programmation par contraintes, qui se rapproche de certains raisonnements
humains, et les raisonnements partir de cas, qui se fondent sur la notion
danalogie mais tend devenir plus marginal.
Dans certains problmes, on connat les valeurs possibles que
peuvent prendre certaines des variables on parle alors de contraintes.
Rsoudre le problme consiste alors affecter chaque variable une valeur
satisfaisant ces contraintes. Lvolution de Prolog systme, voqu plus haut,
a t fonde sur cet aspect. Cette technique de programmation par
contraintes, dorigine franaise, permet des raisonnements locaux, en
simplifiant le problme global en sous-problmes partiels, puis une
propagation des contraintes sur lensemble du problme. Elle est largement
utilise en biologie molculaire, en conception de produits industriels, en
planification de production, en gestion du trafic dans les villes et les
aroports. Ses limites sont patentes dans les problmes dynamiques (o les
contraintes varient dans le temps) ou dans les problmes sur-contraints
(dans les cas o il nexiste pas de solution qui vrifie toutes les contraintes).
Le fait de savoir quelles contraintes ngliger ou privilgier reste un problme
ouvert.
Le raisonnement partir de cas se fonde sur des analogies entre
des expriences passes et un problme actuel. On mmorise un certain
nombre de situations spcifiques dans un domaine donn (les cas ) et,
devant un nouveau problme, on essaye de trouver le ou les cas les plus
proches, puis on transpose les solutions dj rencontres au nouveau
problme. Cest typiquement le raisonnement utilis par la justice pour
adapter la jurisprudence une nouvelle situation. Deux tapes sont
ncessaires pour ce type de raisonnement : lindexation, qui sert trouver les
- 48 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

cas pertinents pour le problme actuel, et ladaptation, pour modifier un ou


plusieurs cas et les rendre applicables au problme actuel. Les mtriques
permettant lindexation calculent une mesure de similarit entre cas. La
difficult essentielle de ce type de raisonnement tant de trouver le chemin
qui va de la solution du cas connu au problme en cours, sachant que les
mtriques les plus labores tentent den tenir compte.
Pour comprendre lapprentissage automatique ou machine learning,
il est loisible dintroduire, comme le prconise Jean-Claude Heudin, les
concepts de prdicteur et de classifieur . Ce dernier est une machine
capable dapproximer un processus1 dont on ne connat pas a priori le
modle. Le calcul de la sortie en fonction des donnes prsentes en entre
est appel une rgression. Un classifieur est une machine qui va plus loin
quun simple prdicteur, cest aussi une fonction linaire, mais elle permet
de diffrencier des lments appartenant des catgories diffrentes lorsque
ces catgories sont clairement sparables.
Le mot algorithme est issu, comme il a t vu, de la latinisation du
nom du mathmaticien Al-Khawarizmi et correspond une suite finie et
non ambigu doprations ou dinstructions permettant de rsoudre un
problme ou dobtenir un rsultat. La difficult lie aux algorithmes
classiques rside dans le fait que lensemble de tous les comportements
possibles, compte tenu de toutes les entres possibles, devient rapidement
trop complexe dcrire. Cette explosion combinatoire justifie de confier
des programmes le soin dajuster un modle adaptatif permettant de
simplifier cette complexit et de lutiliser de manire oprationnelle en
prenant en compte lvolution de la base des informations pour lesquelles les
comportements en rponse ont t valids. Cest ce que lon appelle
lapprentissage automatique ou machine learning, qui permet donc au
programme dapprendre et damliorer le systme danalyse et/ou de
rponse. En ce sens, on peut dire que ces types particuliers dalgorithmes
apprennent.
Un apprentissage est dit supervis lorsque lalgorithme dfinit
des rgles partir dexemples qui sont autant de cas valids. Ces exemples
sont appels bases de donnes dapprentissage. Jean-Claude Heudin parle
ainsi de mthode itrative, autrement dit un algorithme, visant ajuster les
paramtres dun classifieur linaire en fonction de lerreur quil commet
entre la sortie souhaite et la sortie obtenue grce aux exemples que sont les
donnes dapprentissage. La correction apporter chaque tape au
paramtre du classifieur peut tre calcule simplement en faisant le rapport
de lerreur sur la valeur dentre. Une meilleure performance est obtenue en
modrant les ajusements par un taux dapprentissage. Le classifieur peut
aussi tre non linaire en vue de sparer des donnes qui ne sont pas

1 Le comportement du processus est approxim grce un modle qui comprend un ensemble de


paramtres ajustables. Une bonne approche pour ajuster les paramtres est de les modifier
progressivement de faon minimiser lerreur que le prdicteur produit lorsquon lui prsente des
donnes dont on connat la sortie correspondante.
PREMIRE PARTIE : - 49 -
LMENTS DE CONTEXTE

elles-mmes rgies par un processus linaire1. Les rseaux de neurones


artificiels, analyss plus loin, reprsentent une multiplication de classifieurs
non linaires dots de paramtres dajustement (il sagit de coefficients qui
sont appels de manire mtaphorique les poids synaptiques ).
linverse de lapprentissage supervis, lors dun apprentissage
non supervis , le modle est laiss libre dvoluer vers nimporte quel
tat final lorsquun motif ou un lment lui est prsent.
Entre ces deux formes dapprentissage, lapprentissage automatique
ou machine learning peut-tre semi-supervis ou partiellement supervis.
Lapprentissage automatique peut lui-mme reposer sur plusieurs
mthodes : lapprentissage par renforcement, lapprentissage par transfert,
ou, encore, lapprentissage profond, qui sera vu plus loin.
Lapprentissage par renforcement conduit lalgorithme apprendre,
partir dexpriences ou dobservations, un comportement optimal ou
stratgie, selon une logique itrative de recherche de rcompenses, un peu
comme dans le cas du dressage dun animal. Laction de lalgorithme sur un
environnement donn produit une valeur de retour qui guide son
apprentissage dans la mesure o lalgorithme cherche dans ce cadre
dapprentissage par renforcement optimiser sa fonction de rcompense
quantitative au cours des expriences. Par exemple, lalgorithme de
Q-learning , qui optimise les actions accessibles sans mme avoir de
connaissance initiale de lenvironnement par une comparaison de
rcompenses probables, est un cas dapprentissage par renforcement.
Lapprentissage par transfert peut tre vu comme la capacit dun
systme reconnatre partir de tches antrieures apprises des
connaissances et des comptences, puis appliquer ces dernires sur de
nouvelles tches partageant des similitudes.
Lapprentissage supervis permet, de plus, des mthodes prdictives
utiles en reconnaissance de formes, selon plusieurs approches : les arbres de
dcision, les rseaux baysiens ou, encore, les machines vecteurs de
support.
Avec les arbres de dcision2, les algorithmes dapprentissage
superviss peuvent calculer automatiquement partir de bases de donnes,
en slectionnant automatiquement les variables discriminantes partir de
donnes peu structures et potentiellement volumineuses. Ils peuvent ainsi
permettre dextraire des rgles logiques de cause effet (des
dterminismes) ou, au moins, des corrlations, qui napparaissaient pas
immdiatement dans les donnes brutes.

1 Lexemple le plus connu est celui des oprateurs boolens (du nom du mathmaticien George Boole)
Ou - Exclusif (en anglais X-OR ). Un classifieur linaire peut traiter des oprations Et ou
Ou mais bute sur le Ou - Exclusif . Les oprateurs boolens recourent la solution
Non - Et (en anglais Nand ).
2 Un arbre de dcision est un outil daide la dcision reprsentant un ensemble de choix sous la

forme graphique dun arbre.


- 50 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Avec les rseaux baysiens, qui ont t mentionns plus hauts,


lapprentissage automatique peut tre utilis de deux faons : pour estimer la
structure dun rseau, ou pour estimer les tables de probabilits dun rseau,
dans les deux cas partir de donnes. Lintrt particulier des rseaux
baysiens est de tenir compte simultanment de connaissances a priori
dexperts et de lexprience contenue dans les donnes.
Les machines vecteurs de support (en anglais support vector
machines ou SVM), parfois appeles sparateurs vaste marge sont des
techniques dapprentissage supervis reposant sur les notions de marge
maximale et de fonction noyau, destines rsoudre des problmes de
discrimination et de rgression. Il sagit de classifieurs linaires1 dont les
excellentes capacits de gnralisation leur ont permis dtre lune des
technologies dominantes en intelligence artificielle dans les annes 1990 et
2000.
La mthode Monte-Carlo2 et la mthode du recuit simul3,
techniques plus anciennes, sont dautres mthodes dont le but est de trouver
une solution optimale pour un problme donn et qui peuvent se combiner
avec les technologies dapprentissage automatique.
Les rseaux de neurones artificiels prennent en compte
lapprentissage de manire dite implicite ou, en tout tat de cause, plus
implicite que lensemble des mthodes qui viennent dtre prsentes.
Un rseau de neurones artificiels est constitu dun ensemble
dlments interconnects, chacun ayant des entres et des sorties
numriques. Le comportement dun neurone artificiel dpend de la somme
pondre de ses valeurs dentre et dune fonction de transfert. Si cette
somme dpasse un certain seuil, la sortie prend une valeur positive, sinon
elle reste nulle. Ainsi que lexplique Jean-Claude Heudin, ces rseaux sont
des automates seuil qui ralisent la somme pondre de leurs entres. Les
coefficients synaptiques et le seuil dactivation permettent dajuster leur
comportement . Le neurone formel peut tre amlior en utilisant des valeurs
numriques au lieu dun comportement binaire. Pour ce faire, la fonction
seuil est remplace par une fonction sigmode4, les calculs restent nanmoins

1 Algorithmes de classement statistique, les classifieurs permettent de classer dans des groupes des
chantillons qui ont des proprits similaires, mesures par des observations. Un classifieur linaire
en est un type particulier, qui calcule la dcision par combinaison linaire des chantillons.
2 Il sagit de mthodes algorithmiques visant calculer une valeur numrique approche en utilisant

des techniques probabilistes ou alatoires. Nicholas Metropolis a utilis le nom de mthode


Monte-Carlo en 1947 en faisant allusion aux jeux de hasard pratiqus au casino de Monte-Carlo.
3 Adapt par des chercheurs dIBM en 1983, le recuit simul est une mthode empirique ou

mta-heuristique cherchant optimiser les chances de dcouvertes des extrmes dune fonction. Elle
est inspire dun processus traditionnel utilis en mtallurgie, qui consiste alterner des cycles de
refroidissement lent et de rchauffage dans le but de minimiser lnergie du matriau. Elle a t
thorise en 1985 par S. Kirkpatrick, C.D. Gelatt et M.P. Vecchi, et indpendamment par V. erny.
4 La fonction sigmode a globalement la mme forme que la fonction seuil, mais les changements de

valeur entre 0 et 1 sont plus progressifs : la courbe est plus douce et moins abrupte. Lquation de la
fonction sigmode est la suivante : y = 1 / (1 + e-x).
PREMIRE PARTIE : - 51 -
LMENTS DE CONTEXTE

lmentaires. Un rseau de neurones artificiels comporte une couche


dentre (les donnes), une couche de sortie (les rsultats), et peut comporter
une ou plusieurs couches intermdiaires, avec ou sans boucles.
Le principe de fonctionnement consiste, dans une premire phase,
prsenter en entre les valeurs correspondant de nombreux exemples, et en
sortie les valeurs respectives des rsultats souhaits.
Cet apprentissage permet dajuster les poids synaptiques, qui sont
donc des coefficients capables de sauto-ajuster, afin que les
correspondances entre les entres et les sorties soient les meilleures
possible.
Aprs un nombre statistiquement pertinent dexemples,
lapprentissage (implicite) est termin et le rseau peut tre utilis, dans une
seconde phase, pour la reconnaissance. Comme il produit toujours une
sortie, mme pour des entres non rencontres auparavant, il a le plus
souvent une bonne capacit de gnralisation, qui dpend du corpus
dapprentissage.
Il sagit donc de combiner de nombreuses fonctions simples pour
former des fonctions complexes et dapprendre les liens entre ces fonctions
simples partir dexemples tiquets.
Lanalogie avec le fonctionnement du cerveau humain repose sur le
fait que les fonctions simples rappellent le rle jou par les neurones, tandis
que les connexions rappellent les synapses.
Il ne sagit en aucun cas de rseaux de neurones de synthse, ce
nest quune image. Cette mtaphore biologique est sans doute malheureuse
selon vos rapporteurs, car elle entretient une forme de confusion, en lien
avec celle produite galement par la notion dintelligence artificielle.
- 52 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Schma dun rseau de neurones artificiels

Source : Acadmie des technologies

Les applications ncessitent des structures aux couches de plus en


plus consquentes, malheureusement comme lexplique Jean-Claude
Heudin, plus le nombre de couches augmente et plus les problmes de
surajustement (overfitting) et de disparition des gradients (vanishing gradient)
deviennent gnants, sans mme parler des temps de calcul qui explosent.
Dautres technologies peuvent encore tre cites comme la recherche
dans les espaces dtats, la planification (trs efficace au jeu dchecs), les
ontologies, les logiques de description Les domaines de lintelligence
artificielle, comme le traitement du langage naturel ou la vision artificielle
utilisent plusieurs des technologies disponibles, qui, comme il sera vu plus
loin, peuvent de plus se combiner entre elles.
Dans la priode rcente, un systme dintelligence artificielle nomm
Libratus, cr par le professeur Tuomas Sandholm et son doctorant Noam
Brown, tous deux chercheurs de lUniversit Carnegie Mellon de Pittsburgh,
a affront et battu en janvier 2017 quatre joueurs de poker professionnels
dans un casino de Pennsylvanie, au cours dune partie de poker1 de
120 000 mains successives sur 20 jours, intitule Cerveau contre Intelligence
Artificielle : on monte la mise ( Brains Vs. Artificial Intelligence : Upping the

1Il sagit de parties de poker Texas Holdem , en face face ou heads-up et sans limite de mise
ou no limit.
PREMIRE PARTIE : - 53 -
LMENTS DE CONTEXTE

Ante ). Sa victoire sans appel, avec un gain de 1,8 million de dollars (contre
des pertes pour tous les autres joueurs), marque son tour lhistoire des
progrs des systmes dintelligence artificielle, surtout que le poker
requiert une forme de raisonnement particulirement difficile imiter
pour une machine. Libratus a utilis les capacits de calcul du
superordinateur de lUniversit Carnegie Mellon et combin des algorithmes
de Public Chance Sampling (PCS, ce stade non traduit en franais et qui
signifie chantillonnage de hasard public ), variante de la rduction des
regrets contrefactuels 1 (Counterfactual Regret Minimization ou CFR), avec
la mthode dOskari Tammelin introduite en 2014, permettant loptimisation
des rsultats dans un contexte dinformations imparfaites2. Un article
collectif paru dans la revue Science en 2015 prsentait dj les volutions
thoriques ncessaires cette victoire3.
En effet, un joueur de poker ne connat pas les ressources (cartes) et
les stratgies (sincrit ou pas) de son adversaire et doit donc agir sans
informations certaines et sans carter la possibilit dun bluff. La rflexion de
la machine au poker doit donc prendre en compte des donnes incompltes
ou dissimules ce qui distingue le poker dautres jeux comme le Go ou les
checs, dans lesquels lintelligence artificielle avait dj dmontr sa
supriorit sur lhomme. Le poker fait intervenir les notions de hasard, de
pige et de bluff, alors que les jeux o dominaient lintelligence artificielle
jusquen janvier 2017 taient fonds sur des stratgies relevant de lanalyse
combinatoire : les deux adversaires sy affrontaient en continu en visualisant
lensemble du jeu et des pions.
Cette victoire de Libratus en 2017 na repos que sur des duels, la
machine jouant contre un seul joueur la fois. La prochaine tape pour les
dveloppeurs sera dassurer la victoire dune intelligence artificielle dans des
parties plusieurs. Tuomas Sandholm et Noam Brown travaillent ce
nouveau projet.
De manire caricaturale, on pourrait rsumer les technologies
dintelligence artificielle un champ de recherche o sopposent deux
grands types dapproches : les approches symboliques et les approches
connexionnistes. Comme il a t vu travers la description des nombreuses
technologies dveloppes, la ralit est souvent plus complexe que cette
opposition, puisquil existe une multitude de technologies, qui, de plus,
peuvent se conjuguer. Parmi les approches connexionnistes, voire parmi
toutes les familles dapproches en intelligence artificielle, lapprentissage
profond ou deep learning est devenu dominant au cours des dernires
dcennies, en particulier au cours des quatre dernires annes.

1 Cf. https://www.quora.com/What-is-an-intuitive-explanation-of-counterfactual-regret-
minimization
2 Cf. https://arxiv.org/abs/1407.5042
3 Cf. http://science.sciencemag.org/content/347/6218/145
- 54 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Pour la DARPA, dont vos rapporteurs ont rencontr les


responsables, ces deux grands types dapproches peuvent se voir donner le
nom de savoirs artisanaux (ou faits la main, en anglais handcrafted
knowledges) pour la premire et dapprentissages statistiques (statistical
learning) pour la deuxime, sachant quune troisime gnration dapproche
de lintelligence artificielle devrait bientt advenir : celle de ladaptation
contextuelle (contextual adaptation).

B. LACCLRATION RCENTE DE LUSAGE DES TECHNOLOGIES


DINTELLIGENCE ARTIFICIELLE GRCE AUX PROGRS EN
APPRENTISSAGE AUTOMATIQUE ( MACHINE LEARNING )

1. Les dcouvertes en apprentissage profond ( deep learning )


remontent surtout aux annes 1980, par un recours aux rseaux
de neurones artificiels imagins ds les annes 1940

Les technologies dapprentissage profond ou deep learning


rencontrent un succs particulirement remarquable dans les annes 2010,
pourtant elles sont anciennes. Leur essor doit beaucoup lmergence
rcente de la disponibilit de donnes massives ( big data ) et
lacclration de la vitesse de calcul des processeurs, mais leur histoire
remonte aux annes 1940, ce que vos rapporteurs ont voqu prcdemment
mais jugent ncessaire de rappeler de faon plus dtaille ici : comme il a t
vu les rseaux de neurones artificiels sont imagins ds les annes 19401
et aboutissent au Perceptron la fin des annes 1950. En 1957, au laboratoire
daronautique de lUniversit Cornell, Frank Rosenblatt invente ce dernier
partir des travaux de McCulloch et Pitts, ce qui constitue la premire
modlisation dun rseau de neurones artificiels, dans sa forme la plus
simple, savoir un classifieur linaire2. Marvin Minsky ayant point,
comme il a t, vu les dfauts de ce systme, des perceptrons multicouches
ont ensuite t proposs en 1986, paralllement, par David Rumelhart et
Yann LeCun.
Les rseaux de neurones artificiels peuvent tre apprentissage
supervis ou non (ils sont le plus souvent superviss, comme dans le cas du
Perceptron), avec ou sans rtropropagation (back propagation).
Outre les rseaux multicouches, dimportantes dcouvertes en
apprentissage profond ( deep learning ) remontent aux annes 1980, telles
que la rtropropagation du gradient. Les pionniers de ces dcouvertes sont
Paul Werbos, David Parker, et le Franais Yann LeCun rencontr plusieurs

1 Les mathmaticiens et neurologues Warren McCulloch et Walter Pitts posent ds 1943 lhypothse
que les neurones avec leurs deux tats, activ ou non activ, pourrait permettre la construction
dune machine capable de procder des calculs logiques. Ils publirent ds la fin des annes 1950
des travaux plus aboutis sur les rseaux de neurones artificiels.
2 Cf. The Perceptron : A Probabilistic Model for Information Storage and Organization in

the Brain .
PREMIRE PARTIE : - 55 -
LMENTS DE CONTEXTE

fois par vos rapporteurs. David Rumelhart, Geoffrey Hinton et Ronald


Williams thorisent cette dcouverte en 1986 dans un fameux article intitul
Learning representations by back-propagating errors1. Lide gnrale de la
rtropropagation consiste rtropropager lerreur commise par un neurone
ses synapses et aux neurones qui y sont relis.
Le principe de rtropropagation du gradient fonde les mthodes
doptimisation utilises dans les rseaux de neurones multicouches,
comme les perceptrons multicouches. Il sagit en effet de faire converger
lalgorithme de manire itrative vers une configuration optimise des
poids synaptiques. Lalgorithme tant itratif, la correction sapplique
autant de fois que ncessaire pour obtenir une bonne prdiction. Une
vigilance est requise face aux problmes de surapprentissage lis un
mauvais dimensionnement du rseau ou un apprentissage trop pouss.
La correction des erreurs peut aussi se faire selon dautres mthodes,
en particulier le calcul de la drive seconde.
Lapprentissage profond ou deep learning regroupe donc des
mthodes plus rcentes dapprentissage automatique, ou machine learning
dont elles sont une sous-catgorie.
Ces mthodes, parfois qualifies de rvolution dans le domaine de
lintelligence artificielle, ont pour spcificit dutiliser des modles de
donnes issus darchitectures articules en diffrentes couches dunit de
traitement non linaire, qui sont autant de niveaux dabstraction des
donnes. La faon de rtropropager lerreur au sein de plusieurs couches
caches permet de gnraliser plus efficacement, ce qui permet des
reprsentations de plus haut niveau et une capacit traiter des donnes
plus complexes.
Selon Yann LeCun Les cerveaux humain et animal sont "profonds",
dans le sens o chaque action est le rsultat dune longue chane de communications
synaptiques (de nombreuses couches de traitement). Nous recherchons des
algorithmes dapprentissage correspondants ces "architectures profondes". Nous
pensons que comprendre lapprentissage profond ne nous servira pas uniquement
construire des machines plus intelligentes, mais nous aidera galement mieux
comprendre lintelligence humaine et ses mcanismes dapprentissages .
Lapprentissage profond a rcemment fait une incursion
considrable en robotique, contestant la place dominante de lapprentissage
baysien, la fois pour la perception et pour la synthse dactions.
Mais, comme le remarque Raja Chatila, la perception en robotique
ncessite une interaction du robot avec son environnement et non une simple
observation de celui-ci. Lapprentissage par renforcement est particulirement
pertinent ici (le cas chant en complment de lapprentissage profond) car il
est un apprentissage souvent non supervis qui permet au robot de
dcouvrir la fois les effets de ses actions, caractriss par une

1 http://www.nature.com/nature/journal/v323/n6088/abs/323533a0.html
- 56 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

rcompense obtenue comme consquence de laction, et lincertitude de


ses actions qui nont pas toujours les mmes effets. Le lien entre perception
et apprentissage - en particulier avec lapprentissage par renforcement - est
essentiel pour extraire la notion daffordance qui rend compte des proprits
des objets en ce quelles reprsentent pour lagent, et qui associe les
reprsentations perceptuelles aux capacits daction. Cest cela qui sert de
base au robot pour exprimer le sens du monde qui lentoure.
Laffordance, courante en ergonomie et en design, voque la
potentialit ou la capacit dun systme suggrer sa propre utilisation,
sans quil soit ncessaire de lui fournir un mode demploi. Issue de la
psychologie1, la notion renvoie dabord toutes les possibilits dactions sur
un objet puis a volu vers les seules possibilits dont lacteur est conscient.
Cette utilisation intuitive est importante en robotique.

2. Lapprentissage profond connat un essor indit dans les annes


2010 avec lmergence de la disponibilit de donnes massives
( big data ) et lacclration de la vitesse de calcul des
processeurs

En deep learning, toute chose tant gale par ailleurs, les algorithmes
donnent des rsultats dautant plus performants que les donnes sont
massives, varies, rapides et pertinentes : ce sont les quatre V du big data,
savoir un volume croissant de donnes, issues dune large varit de
sources, qui circulent une vitesse leve et dont la vracit assure la
cohrence.

1 Elle apparait pour la premire fois en 1977 dans louvrage The Theory of Affordances puis en
1979 dans Approche cologique de la perception visuelle, crits par le psychologue
James J. Gibson. Il sagit, selon lui, de combinaisons invariantes de variables qui dpendent du
contexte de laction : les affordances ne sont donc pas des proprits part entire de lobjet dans
ses travaux. La perception dpendant de la culture, de lexprience et de lapprentissage, une
affordance dissimule peut devenir perceptible par lapprentissage. En outre, les normes peuvent
contribuer la perception des affordances. Le sens du concept a volu et sest largi aux capacits
dun objet ou dun tre suggrer sa propre utilisation.
PREMIRE PARTIE : - 57 -
LMENTS DE CONTEXTE

Les Quatre V du big data

Source : Thierry Lombry, http://www.astrosurf.com/luxorion/big-data-mining.htm

Sagissant du volume de donnes, il a eu pour condition la capacit


croissante en matire de stockage de ces dernires. Les supports de
stockage des donnes ont rapidement volus ces dernires dcennies et sont
de plus en plus divers.
- 58 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Supports de stockage des donnes

Source : Thomas Hauet, matre de confrences lUniversit de Lorraine

Les disques durs des ordinateurs ont vu leur capacit de stockage


suivre une croissance exponentielle, dans le mme temps o le cot du
stockage des donnes a, quant lui, chut trs rapidement, surtout au cours
des 25 dernires annes. Le graphique suivant illustre la conjugaison de ces
deux processus.
PREMIRE PARTIE : - 59 -
LMENTS DE CONTEXTE

Progrs technologique dans la capacit de stockage des donnes

Source : Thomas Hauet, matre de confrences lUniversit de Lorraine

Selon Thomas Hauet, matre de confrences lUniversit de


Lorraine, le stockage des donnes a normment volu depuis le premier
disque dur dans les annes 1950 (le RAMAC dIBM en 1956 tait une bote
volumineuse de cinquante disques qui faisaient jusqu 60 centimtres de
large). On navait alors que seulement 5 mgabytes dinformation avec un
cot considrable du gigabyte (109 informations) de lordre de 10 millions de
dollars. En 1981, lobjet disque dur fait 30 40 centimtres de large avec des
cots moindres (100 000 dollars du gigabyte), des vitesses un peu plus
grandes daccs linformation (20 Mbit/s). En 1994, la structure du disque
rejoint celle que nous connaissons aujourdhui, avec un cot de 100 dollars
par gigabyte. En 2015, les disques durs permettaient de stocker
4 000 gigabytes dinformation avec des densits nettement plus grandes
(500 Gbit/inch carr) et des cots de 0,04 dollar le gigabyte. Nous sommes
donc passs en 50 ans dun cot de 10 millions de dollars 0,04 dollar le
gigabyte.
Avec la vitesse de calcul des processeurs, dont il sera question plus
loin, les donnes massives ( big data ) ont conduit dans la priode rcente
dimportantes amliorations dans lefficacit des algorithmes. Mais ces
donnes massives nont pas t par elles-mmes le seul facteur de
progression des algorithmes dans les annes 2000 et 2010, mais la
- 60 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

constitution de grandes bases de donnes labellises a souvent constitu un


pralable1.
En 1998, MNIST a fait figure de pionnier en utilisant les images des
donnes postales manuscrites de la poste amricaine. Deux autres bases de
donnes labellises ont plus rcemment permis aux dveloppeurs
dentraner, de faire progresser et de comparer leurs algorithmes. En 2009,
lInstitut canadien de recherche avance, bas Toronto, a cr les bases de
donnes CIFAR-10 et CIFAR-100 du nom de lacronyme anglais de lInstitut,
Canadian Institute for Advanced Research ou CIFAR. La distinction entre les
deux bases de donnes, vient du nombre de classes utilises pour
lapprentissage : 10 classes de donnes pour CIFAR-10 ou 100 classes de
donnes pour CIFAR-100.
En 2010, le projet ImageNet a t lanc aux tats-Unis2 avec lide
dorganiser un concours annuel sur les programmes mis en place pour traiter
la base de donnes ponyme. Ce concours sintitule ImageNet Large Scale
Visual Recognition Challenge (ILSVRC) et rassemble plus de 50 organisations
participant chaque anne (universits, centres de recherche, entreprises).
En 2016, la base de donnes avait annot un total de dix millions dimages
disponibles sur Internet.
Dans un article de 2014, Geoffrey Hinton indiquait que la base de
donnes dapprentissage de Google comprenait alors environ 100 millions
dimages annotes et plus de 18 000 classes. En dautres termes, selon
Jean-Claude Heudin prenant lexemple de la reconnaisance dun chat, il
vaut mieux avoir des images avec le chat dans tous ses tats, plutt que dappliquer
des prtraitements pour repositionner le chat dans une position idale , de mme
pour amliorer les performances dune application, il vaut donc mieux
augmenter le volume des donnes dapprentissage que chercher tout prix
un meilleur algorithme, do laphorisme : ce nest pas forcment celui qui a
meilleur algorithme qui gagne, cest celui qui a le plus de donnes .
Les donnes sont donc essentielles car lapprentissage des
algorithmes repose sur celles-ci. Lacquisition de donnes annotes
reprsente un enjeu stratgique pour les tats et un enjeu industriel pour les
entreprises.
Ces dernires, telles Google ou Facebook, donnent dailleurs
maintenant assez largement accs leurs logiciels en open source, mais -
ce stade - pas leurs donnes. La rflexion sur lopen source est importante
mais doit aller jusqu poser la question de laccs aux donnes. Pour
Stphane Mallat, professeur lcole normale suprieure et rencontr par
vos rapporteurs, pour donner des rsultats satisfaisants, ces algorithmes (de

1 Une liste de ces nombreuses bases de donnes peut tre consulte ici :
https://en.wikipedia.org/wiki/List_of_datasets_for_machine_learning_research
2 Avec des chercheurs tels que Olga Russakovsky, Jia Deng, Hao Su, Jonathan Krause, Sanjeev

Satheesh, Sean Ma, Zhiheng Huang, Andrej Karpathy, Aditya Khosla, Michael Bernstein,
Alexander C. Berg ou Fei-Fei Li. Site : http://image-net.org/
PREMIRE PARTIE : - 61 -
LMENTS DE CONTEXTE

deep learning) doivent tout dabord tre aliments par des quantits de donnes
gargantuesques. Cest pour cela que DeepMind, le projet de Google, possde
aujourdhui une telle longueur davance . Les grandes firmes amricaines
disposent en effet de donnes personnelles massives, quelles peuvent
utiliser librement dans leurs projets de recherche internes. Mais ltendue
des corpus de donnes ne fait pas tout : pour les applications mdicales, il ne
suffit pas davoir disposition un grand nombre de mesures par patients : encore
faut-il quelles portent sur beaucoup de personnes diffrentes. Sinon, la rgle
construite par lalgorithme fonctionnera peut-tre trs bien pour une personne
donne... mais sera difficilement gnralisable toute la population. La mdecine
serait le champ de recherche le plus propre bnficier des big data... mais cest celui
qui est le plus entrav par les problmatiques de confidentialit des donnes .
Volume, varit, vlocit et vracit sont bien les quatre V complmentaires
du big data selon la formule consacre dj rappele par vos rapporteurs.
Les techniques dapprentissage automatique, ou machine learning,
se renforcent au cours des quinze dernires annes, surtout au cours des
cinq dernires annes en bnficiant du concours de donnes massives ou
big data. Sans que dimportantes nouveauts thoriques naient merg,
lexception de lapprentissage profond ou deep learning, les outils de
lintelligence artificielle se sont largement diffuss, aussi bien dans la vie
quotidienne que dans des applications industrielles ou militaires. Il convient
de relever que nous ne disposons daucune explication thorique des raisons
pour lesquelles les rseaux de neurones fonctionnent, cest--dire donnent,
dans un certain nombre de domaines, dexcellents rsultats. Sans disposer
dune dmonstration gnrale, il est cependant possible, selon Bertrand
Braunschweig, de comprendre pourquoi ces technologies sont
mathmatiquement efficaces, et ce grce des approximateurs universels
parcimonieux ou par la thorie de la dimension de Vapnik et Chervonenkis
(dite VC-dimension ).
En apprentissage profond, qui repose donc sur des rseaux de
neurones profonds (deep neural networks), on peut distinguer les
technologies selon la manire particulire dorganiser les neurones en
rseau : les rseaux peuvent tre en couches, tel le Perceptron, les
Perceptrons multicouches et les architectures profondes (plusieurs dizaines
ou centaines de couches), dans lesquels chaque neurone dune couche est
connect tous les neurones des couches prcdentes et suivantes (cest la
structure la plus frquente), les rseaux totalement interconnects, dans
lesquels tous les neurones sont connects les uns aux autres (cas rare des
rseaux de Hopfield et des machines de Boltzmann ), les rseaux
neuronaux rcurrents et les rseaux neuronaux convolution.
Ces deux dernires technologies, imagines la fin des annes 1980
et au dbut des annes 1990, font lobjet dinvestigations particulirement
pousses et dapplications de plus en plus riches depuis trois ans.
Les rseaux neuronaux rcurrents (RNR ou recurrent neural networks-
RNN en anglais) permettent de prendre en compte le contexte et de relever
- 62 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

le dfi de traiter des squences avec des rseaux de neurones (il existe, au
moins, un cycle dans la structure du rseau). Au sein de ces RNR, on relve
les architectures MARNN (pour Memory-Augmented Recurrent Neural
Networks ou rseaux neuronaux rcurrents mmoire augmente), les
architectures LSTM (pour Long Short Term Memory), les architectures BLSTM
(pour Bidirectionnal Long Short Term Memory), les architectures BPTT (pour
BackProp Through Time), les architectures RTRL (pour Real Time Recurrent
Learning) et les architectures combines, avec par exemple des modles de
Markov1 tats cachs (MMC, ou Hidden Markov Model, HMM en anglais).
Ces RNR, notamment les LSTM et les MARNN, forment un chantier de
recherche prioritaire pour les chercheurs de Google (DeepMind en
particulier), Baidu, Apple, Microsoft et Facebook. Leur utilisation pour la
traduction, la production de lgendes pour les images et les systmes de
dialogues vise rpondre la question de la capacit apprendre des tches
qui impliquent non seulement dapprendre se reprsenter le monde, mais
aussi se remmorer, raisonner, prdire et planifier. Lapprentissage
par renforcement recourt de plus en plus ces RNR, notamment en
combinaison avec des algorithmes gntiques qui permettent de mieux les
entraner. Les LSTM peuvent aussi faire lobjet damliorations avec les SVM.
Les rseaux neuronaux convolution (RNC) appels aussi rseaux
de neurones profonds convolutifs (convolutional deep neural networks ou
CNN) sont inspirs des processus biologiques du cortex visuel des
animaux. En effet, les neurones de cette rgion du cerveau sont arrangs de
sorte quils correspondent des rgions qui se chevauchent lors du pavage2
du champ visuel et transforment un problme global rsoudre en une
succession dtapes plus petites et plus faciles rsoudre : le motif de
connexion entre ces rseaux de neurones artificiels convolution repose sur
un procd similaire. Les rseaux neuronaux sont ici soumis un mcanisme
de poids synaptiques partags, qui offre lintrt dune plus grande capacit
de gnralisation pour moins de paramtres. Destines en priorit traiter
les images, et trouvant leurs principales applications en reconnaissance
dimages et de vidos, leurs applications sont et seront de plus en plus
diversifies, du traitement du langage naturel aux systmes de
recommandation. Larchitecture des RNC comprend des couches de
traitement indpendantes ddies qui vont apprendre les prtraitements de

1 En mathmatiques, un processus de Markov (la thorie des probabilits parle plutt de processus
de dcision markovien ) est une chane stochastique possdant la proprit de Markov qui rside
dans le fait que la prdiction du futur partir du prsent nest pas rendue plus prcise par des
lments dinformation concernant le pass. Lagent prend dans ce cas des dcisions avec un rsultat
alatoire de ses actions. Claude Shannon sen est inspir en 1948 pour fonder sa thorie de
linformation et lalgorithme de classement par popularit de Google repose notamment sur un
modle de ce type. Lapprentissage par renforcement permet de rsoudre le problme des processus
markoviens.
2 Paver limage de dpart revient la dcouper en petites zones appeles tuiles. En informatique,

chaque tuile est traite individuellement par un neurone artificiel, qui effectue une opration de
filtrage classique en associant un poids chaque pixel de la tuile. Tous les neurones ont donc les
mmes paramtres, ce qui permet dobtenir le mme traitement pour tous les pixels de la tuile.
PREMIRE PARTIE : - 63 -
LMENTS DE CONTEXTE

limage au lieu de les coder1, afin dextraire ses caractristiques et de les


transmettre un rseau neuronal plus classique qui effectue la phase de
reconnaissance finale, comme lillustre le graphique suivant.

Architecture dun rseau de neurones convolution

Source : Jean-Claude Heudin, Comprendre le deep learning.

Une autre faon de dcrire lapproche par RNC est de la voir comme
une dcomposition hirarchise du processus de reconnaissance, o chaque
couche participe la cration de reprsentations de plus en plus abstraites et
conceptuelles.

1 Le fait de coder les pixels est une approche plus traditionnelle de la reconnaissance dimages, dans
laquelle lensemble des pixels dune image (exemple 262 544 entres pour une images de 512x512
pixels) est cod et vectoris en une couche dentre du rseau de neurones.
- 64 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Visualisation des caractristiques extraites par chaque couche dun


rseau de neurones convolution

Source : Jean-Claude Heudin, Comprendre le deep learning.

En outre, il convient de relever quau mois de janvier 2017, plusieurs


chercheurs travaillant pour le projet de recherche de deep learning Google
Brain ont publi un article1 prsentant les rsultats de leurs travaux sur un
nouveau modle de rseau de neurones multicouches (appel MoE pour
Mixture of Experts Layer ). La capacit dun rseau neuronal monocouche
absorber les donnes massives tant limite par son nombre de paramtres
calculables, le modle MoE reprsente un rseau neuronal gant,
compos de plusieurs sous-rseaux neuronaux disposs en couches,
permettant de traiter les quantits massives de donnes dont disposent les
grandes entreprises du secteur. Accumuler les capacits de plusieurs
systmes experts travers des rseaux neuronaux, permet de muscler la
mmoire du modle, rduisant ainsi le temps de formation du systme et
amliorant de manire considrable sa performance et sa capacit de calcul
conventionnel, avec une architecture de modle comprenant jusqu
137 milliards de paramtres. Si, ce stade, le modle MoE est appliqu
aux tches de modlisation des langues et de traduction automatique, cette
avance prsente permet dentrevoir des progrs exponentiels en matire
dintelligence artificielle, et selon les chercheurs du projet Google Brain le

1 Geoffrey Hinton, Noam Shazeer, Azalia Mirhoseini, Krzysztof Maziarz, Andy Davis, Quoc Le
et Jeff Dean, Outrageously large neural networks : the sparsely-gated mixture-of-experts
layer , janvier 2017, cf. https://arxiv.org/abs/1701.06538
PREMIRE PARTIE : - 65 -
LMENTS DE CONTEXTE

possible avnement dune intelligence artificielle gnrale compose de


milliers de sous-rseaux et traitant toutes sortes de donnes. Il sagit aussi de
rduire le nombre de processeurs (GPU) ncessaires lapprentissage et
donc dacclrer la capacit du systme dintelligence artificielle processeur
gal1.
En mars 2017, la publication dun autre article2 de James Kirkpatrick
bas sur lapprentissage de plusieurs jeux Atari par un systme dIA trace la
voie de futurs progrs dans la capacit des rseaux de neurones artificiels
se souvenir de leurs tches et de leurs expriences prcdentes et, donc,
se doter progressivement des lments constitutifs dune mmoire. En avril
2017, en utilisant aussi plusieurs jeux Atari, des chercheurs de
Google-Deep Mind ont conceptualis lapprentissage profond par
renforcement3 qui pourrait tre selon eux la mthode dapprentissage la
plus rapide, avec lide de pouvoir transposer le processus dapprentissage
du systme dIA dans lenvironnement rel. Les quipes de cette entreprise
sont donc largement mobilises pour construire des systmes capables
dapprocher lapprentissage humain4.
Lessor de lintelligence artificielle avec le deep learning est, par
ailleurs, facilit par la croissance exponentielle des avances
technologiques matrielles dans ce secteur, en particulier les vitesses de
calcul des processeurs, appele aussi loi de Moore .
La loi de Moore est une conjecture, et donc en ralit une
supposition, concernant lvolution de la puissance de calcul des
ordinateurs et, plus gnralement, la complexit du matriel informatique.
En 1965, Gordon Moore, ingnieur chez Fairchild Semiconductor, un des
trois fondateurs dIntel, constate que depuis 1959 la complexit des
semi-conducteurs dentre de gamme a doubl tous les ans cot constant.
Il sagit donc dune loi relative au dveloppement exponentiel des
capacits de traitement de linformation en vertu dun doublement
constat pour le mme cot, depuis une quarantaine danne, du nombre
de transistors des microprocesseurs sur une puce de silicium. Lobservation
empirique, ainsi que lillustre le graphique suivant, dmontre que ce
doublement a en fait lieu tous les dix-huit mois.

1 Cf les explications donnes ce sujet par le jeune chercheur Tho Szymkowiak, prsident de la
socit pour lIA de luniversit Mc Gill : https://medium.com/@thoszymkowiak/google-brains-new-
super-fast-and-highly-accurate-ai-the-mixture-of-experts-layer-dd3972c25663
2 Revue de lAcadmie amricaine des sciences, PNAS, volume 114, issue 13, march 2017

Overcoming catastrophic forgetting in neural networks ,


cf. http://m.pnas.org/content/114/13/3521.abstract
3 Todd Hester, Matej Vecerik, Olivier Pietquin, Marc Lanctot, Tom Schaul, Bilal Piot, Andrew

Sendonaris, Gabriel Dulac-Arnold, Ian Osband, John Agapiou, Joel Z. Leibo et Audrunas Gruslys
Learning from demonstrations for Real World Reinforcement Learning ,
cf. https://arxiv.org/abs/1704.03732
4 Un article du complment scientifique du Guardian va dans ce sens :
https://www.theguardian.com/global/2017/mar/14/googles-deepmind-makes-ai-program-that-can-
learn-like-a-human
- 66 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

La loi de Moore rapporte lvolution relle


du nombre de transistors dans les microprocesseurs

Source : contributeur QcRef87 , licence de documentation libre

Cette conjecture, connue sous le nom de loi de Moore, est le


fondement sur lequel se reposent certains spcialistes pour fixer lavnement
de lintelligence artificielle forte en 2030. Or, vos rapporteurs rappellent que
la conjecture na trait quaux capacits de calcul et de stockage de donnes
informatiques, elle nest donc pas de nature garantir ou permettre une
prvision de la future date de naissance dune intelligence artificielle
gale celle de lhomme, contrairement ce que certains font valoir.
Ils notent, par ailleurs, que le deep learning a largement profit des
processeurs graphiques ddis (GPU), souvent issus des exigences des
joueurs de jeux vido. la diffrence des processeurs principaux
traditionnels (CPU) aux frquences dhorloge leves, les GPU possdent de
nombreux curs (units de calcul), composants parfaitement adapts aux
traitements paralllisables de donnes de grande dimension.
Lintelligence artificielle, dont certaines des technologies recourent
des analyses qui multiplient les matrices et les convolutions (cas des RNC et
des RNR), a donc profit, au cours des dernires annes, de ces processeurs
graphiques plus efficaces.
PREMIRE PARTIE : - 67 -
LMENTS DE CONTEXTE

La loi de Moore devrait, technologie gale, atteindre les limites


des capacits des puces en silicium. Il semble en effet difficile dcrire
terme sur des surfaces plus petites que la taille de latome. Lavenir de
lacclration des vitesses des processeurs pourrait donc dpendre des
innovations futures en informatique quantique ou, encore, des inventions
en matire de processeurs fonds sur loptique. La start-up franaise
LightOn cre par Igor Carron, co-fondateur du Paris Machine Learning
Meetup, poursuit ses recherches dans ce sens.
ce stade du rapport, il semble utile de rcapituler par une
chronologie les principales tapes et dcouvertes en intelligence artificielle.
- 68 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Chronologie des principales tapes et dcouvertes


en intelligence artificielle

330 avant J.-C. : Invention par Euclide de lalgorithme de calcul du plus grand
diviseur commun de deux nombres entiers ;
833 : Le mathmaticien Al-Khawarizmi, dont les travaux fondent lalgbre,
invente des mthodes prcises de rsolution des quations du second degr, qui seront
appeles algorithmes. Son nom latinis est lorigine du mot algorithme ;
1694 : Leibniz construit la premire machine calculer ;
1780 : Invention dune machine parler par labb Mical et Christian Gottlieb
Kratzenstein ;
1834 : Invention par Charles Babbage du premier ordinateur , sous la forme
dune machine diffrences inspire des machines tisser ;
1847 et 1854 : Premires mathmatisations de la logique par Georges Boole ;
1869 : Cration de pianos mcaniques capables de raisonner par William Stanley
Jevons ;
1936 : Formulation des fondements thoriques de linformatique par Alan Turing
(son appareil sera plus tard appel machine de Turing ) par lintroduction des
concepts de programme et de programmation ;
1943 : Premier article sur le potentiel des rseaux de neurones artificiels par
Warren McCulloch et Walter Pitts ;
1950 : Invention du test de Turing en vue dvaluer lintelligence dun
ordinateur par rapport celle dun tre humain ;
1956 : Invention, en tant que discipline et en tant que concept, de lintelligence
artificielle lors de la confrence de Dartmouth par John McCarthy et Marvin Minsky ;
1957 : Invention du perceptron, premire utilisation de rseaux de neurones
artificiels modliss, par Frank Rosenblatt ;
1958 : Invention du langage de programmation Lisp ;
1965 : Formulation par Gordon Moore de la loi qui porte son nom concernant le
doublement de la vitesse de calcul des ordinateurs tous les 18 mois cot constant ;
1966 : Invention par Joseph Weizenbaum du premier agent conversationnel
Eliza ;
1974 : Invention du premier systme expert, dit Mycin ;
1986 : Invention des perceptrons multicouches par Yann LeCun et David
Rumelhart et de la rtropropagation du gradient par David Rumelhart, Geoffrey
Hinton et Ronald Williams ;
1997 : Victoire du systme Deep Blue aux checs face Garry Kasparov ;
Annes 2000 et 2010 : Conjugaison efficace des technologies de deep learning avec
lmergence des donnes massives et lacclration marque de la vitesse de calcul des
processeurs ;
PREMIRE PARTIE : - 69 -
LMENTS DE CONTEXTE

Annes 2010 : Les rseaux neuronaux rcurrents (RNR) et les rseaux neuronaux
convolutions (RNC), imagins ds la fin des annes 1980, font lobjet dusages
particulirement remarqus ;
2011 : Victoire du systme Watson au jeu tlvis Jeopardy en 2011 ;
2016 : Victoire du systme AlphaGo au jeu de Go face au champion Lee Sedol.
2017 : Victoire du systme Libratus au cours dune partie de poker de 20 jours face
quatre joueurs professionnels

Source : OPECST

3. Les technologies dintelligence artificielle conduisent, dores et


dj, des applications dans de nombreux secteurs

Les applications sectorielles prsentes ou futures sont denvergure


considrable, que lon pense par exemple aux transports, laronautique,
lnergie, lenvironnement, lagriculture, au commerce1, la finance,
la dfense, la scurit, la scurit informatique, la communication,
lducation, aux loisirs, la sant, la dpendance ou au handicap.
Souvent, la capacit prdictive de ces technologies se trouve mobilise.
Il sagit dautant de jalons dapplications sectorielles. Car en ralit,
derrire le concept dintelligence artificielle, ce sont des technologies trs
varies, en constante volution, qui donnent lieu des applications
spcifiques pour des tches toujours trs spcialises.

1 Le yield management , qui consiste faire varier les prix en vue de loptimisation du
remplissage (transport arien et ferroviaire ou htellerie) et/ou du chiffre daffaires, est dj connu de
chacun de nous. En 2013, titre dexemple, Amazon changeait ses prix en moyenne plus de
2,5 millions de fois par jour.
- 70 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Applications des technologies dintelligence artificielle en France

Source : Gouvernement

Les applications dans le secteur financier, en particulier les banques


et les assurances, sont nombreuses. La moiti du volume des transactions
financires et 90 % des ordres rsultent de lactivit dalgorithmes. Du tiers
des changes boursiers en Europe en 2010, ce taux a dpass les 90 % depuis
2012.
Depuis 2012, IBM dtient un brevet lautorisant procder une
estimation de la volatilit des transactions haute frquence.
Le sujet du high frequency trading (HFT) ou trading haute
frquence (THF) constitue un questionnement en soi, sur lequel la
commission des Finances du Snat a commenc travailler1.

1Cf. Par exemple son rapport n 369 (2011-2012) sur la proposition de rsolution sur la rgulation
des marchs financiers. Cette proposition, devenue une rsolution du Snat le 21 fvrier 2012, estime
ncessaire de renforcer lencadrement des pratiques mettant en pril lintgrit des
marchs financiers et notamment les transactions sur base dalgorithmes (trading
algorithmique ou trading haute frquence) , cf. https://www.senat.fr/leg/tas11-079.html
PREMIRE PARTIE : - 71 -
LMENTS DE CONTEXTE

Lintelligence artificielle et les technologies financires ( Fintech )


Le renouveau de lintelligence artificielle est permis par une acclration spectaculaire
des investissements, notamment de la part des grands acteurs industriels et du capital-
risque, ainsi que par les progrs consquents des performances dintelligence artificielle
visibles, notamment, dans le dveloppement de la reconnaissance dimages, de la parole et
de la traduction.
Les technologies dintelligence artificielle sont souvent produites lextrieur des
entreprises : la comptence primordiale que doivent acqurir les entreprises est dintgrer le
flux permanent de ces technologies quand elles nen sont pas directement productrices.
Plus prcisment, les technologies financires (Fintech) permettent par exemple dutiliser
lintelligence artificielle pour des applications dinteraction avec les clients, de tri dans la
proposition de contrats et de dtection de fraude dans le traitement des demandes.
Lintelligence artificielle dveloppe par de nombreuses entreprises mergentes est
tourne vers le client. Ces systmes dintelligence artificielle visent toucher toutes les
difficults relationnelles que peuvent avoir les entreprises. Les technologies modernes de
chatbot sont mises au service du client. Les algorithmes peuvent tre connus car souvent en
open source, cependant, cest le savoir-faire des ingnieurs et des dveloppeurs qui leur
donnent leur complexit.
Source : Intervention de M. Yves Caseau, animateur du groupe de travail sur lIA de lAcadmie des
Technologies, lors de la journe Entreprises franaises et intelligence artificielle organise par le
MEDEF et lAFIA le 23 janvier 2017

Source : groupe de travail sur lIA de lAcadmie des Technologies anim par Yves Caseau
- 72 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Concernant le secteur automobile, le logiciel na, pendant


longtemps, reprsent quune fraction trs rduite de la valeur dun
vhicule, il sagissait, il y a dix ans, de 3 %, aujourdhui, il sagit de 10 % et il
pourrait sagir de lordre de 15 % ou 30 % demain. Tesla annonce quil
produira 500 000 voitures autonomes dici 2020.
Les constructeurs franais se sont eux aussi engags dans la voiture
autonome, limage de PSA qui a prsent son prototype Peugeot
Instinct au salon de Genve en mars 2017 et qui a sign de nombreux
partenariats ce sujet, ainsi que la fait son concurrent Renault, qui
accompagne ce dveloppement industriel dune dmarche thique
intressante sur la protection des donnes selon une approche Privacy by
design (respect de la vie prive ds le stade de la conception) et a cette fin
labor un pack de conformit avec la CNIL. Lentreprise a ainsi jou un rle
moteur dans la charte de constructeurs labore au sein de lassociation des
constructeurs europens dautomobiles.
On peut relever quUber dispose dun centre de recherche
Pittsburgh, fond en partenariat avec lUniversit Carnegie-Mellon, consacr
aux vhicules sans conducteurs. Quatre prototypes y sont tests par Uber
depuis septembre 2016. Les quinze employs de Geometric Intelligence,
rachet par Uber, qui sont des universitaires et des scientifiques, se trouvent
dsormais affects ces recherches.
PREMIRE PARTIE : - 73 -
LMENTS DE CONTEXTE

Lintelligence artificielle, levier de progrs pour lindustrie automobile


Lindustrie automobile est mobilise pour russir trois rvolutions, chacune
delles suffisant pour la transformer en profondeur : la voiture lectrique (ce qui
impliquera des rseaux lectriques intelligents ou smart grids), la voiture connecte
(lintelligence artificielle permet ici de grer et dexploiter les donnes, ou de mettre
disposition des consommateurs des assistants virtuels) et la voiture autonome. Ces trois
rvolutions sont concomitantes et doivent tre gres par lindustrie. Elles ncessitent que
lindustrie automobile matrise des technologies qui ne la concernaient pas jusquil y a peu.
Pour tre davantage autonome, la voiture dveloppe son intelligence. Laide la conduite
et lautonomisation de la conduite dun vhicule suivent trois tapes :
Percevoir lenvironnement grce des systmes de camra, de radar et de
technologies ultra-sons.
Analyser et dcider, le vhicule tant dot dun calculateur et du traitement de
limage et du son. Lobjectif est de fusionner limage et le son capts par le radar et de
permettre au systme de ragir une situation de manire adquate.
Prvenir et/ou agir dans lutilisation de la direction, des freins et du moteur,
cette utilisation tant couple avec une interaction homme-machine.
Ces tapes sont celles qui guident la conduite humaine.
Percevoir lenvironnement est complexe et dpend de la photographie renvoye
par ce que peroit une camra automobile. Il faut assurer un quilibre entre la performance
du systme et la robustesse de ce systme. Dun point de vue de lanalyse dimage, la
perception est complexe pour un systme autonome.
Il existe une vritable rupture entre une aide la conduite dans laquelle le
conducteur reste matre et une voiture autonome o la conduite est dlgue. Cette rupture
technologique implique la fabrication de trs nombreux scnarios. Lintelligence artificielle
permet de grer des scnarios trs diversifis et dentrer dans une phase dapprentissage.
Lintelligence artificielle contribuera la transformation de lindustrie
automobile. Lensemble des constructeurs investissent dans lintelligence artificielle, soit en
crant leurs propres laboratoires de recherche, soit en tablissant des contrats avec des
laboratoires existants. Lintgration de lintelligence artificielle dans lindustrie automobile
impliquera un changement des modles daffaires des entreprises du secteur. Le caractre
crucial de lintelligence artificielle pour le secteur automobile rside dans le fait que sa
matrise permettra de dvelopper des applications dun bout lautre de la chane de
production, de la conception des logiciels et des vhicules jusquau service aprs-vente. La
matrise de lintelligence artificielle reprsente donc un enjeu essentiel pour les
constructeurs automobiles.
Source : intervention de Patrick Bastard, directeur de lingnierie et des technologies lectroniques chez
Renault, lors de la journe Entreprises franaises et intelligence artificielle organise par le MEDEF et
lAFIA le 23 janvier 2017

En lien avec lintelligence artificielle, la robotique va connatre un


essor indit. Selon certaines prvisions rcentes, le march de la robotique
devrait ainsi atteindre 35 millions de robots vendus dici 20181, sachant
quenviron 1,5 million sont aujourdhui en fonctionnement. Le syndicat de la
robotique (SYROBO) tablit des prvisions du mme ordre, puisquil estime

1 Cf. www.worldrobotics.org/uploads/tx_zeifr/Executive_Summary__WR_2015.pdf
- 74 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

que 31 millions de robots - industriels et personnels - pourraient tre vendus


dans le monde entre 2014 et 2017. La croissance mondiale de ce march serait
denviron 10 % par an en moyenne sur dix ans partir de 2016, selon le
Boston Consulting Group (BCG), au lieu de 2 % par an jusquen 2014. La
seule robotique de service reprsente elle seule un norme gisement de
croissance : le march est estim environ 100 milliards deuros lhorizon
2020 par la Commission europenne, soit une multiplication par 30 en dix
ans. La France se place au troisime rang mondial dans la recherche
fondamentale en robotique derrire les tats-Unis et le Japon, ce qui
tmoigne dun avantage comparatif consolider. Nao, Pepper ou Romeo ont
t conus par Aldebaran, entreprise franaise base Issy-les-Moulineaux,
rachete en 2012 par SoftBank Robotics, leader mondial de la robotique
humanode. Buddy est un autre robot de service cr par lentreprise
franaise Bluefrog et dont la commercialisation en 2017 a t annonce
lanne dernire pour moins de 1 000 euros. La socit franaise Robosoft a
annonc en 2016 le lancement de la seconde version de son robot Kompa,
conu pour assister les personnes ges au quotidien. Dautres robots
existent sur le march mondial et peuvent tre mentionns comme Paro,
Jibo, Asimo, Amazon Echo, Otto, Floka
Les capacits des agents conversationnels dits chatbots ou mme bots
sont, il est vrai, encore limites mais ces derniers vont rendre de plus en
plus de services leurs utilisateurs. Le cabinet dtudes Forrester estime,
dailleurs, que les bots ne sont pas encore la hauteur des attentes des
usagers. Laurence Devillers explique ainsi quils nont pas de mmoire,
quils se contentent de suivre des scnarios de questions-rponses et quils ne
savent pas rpondre aux utilisateurs qui se plaignent de dpression ou de
maladies physiques. Vos rapporteurs ont constat quen dpit de leur
absence de mmoire, les bots font dj un excellent travail en matire de
prvention du suicide en ragissant certains mots cls, ainsi que la
expliqu et dmontr in vivo vos rapporteurs Alex Acero, directeur du
projet Siri chez Apple. Siri reoit par exemple 5 000 propos suicidaires par
jour quil traite en rassurant le propritaire du tlphone et en orientant vers
des services spcialiss. Cortana de Microsoft gre ce type de conversations
avec la mme efficacit. Ces exemples sont un premier niveau de gestion de
la dpression ne ncessitant pas de mmoire dans les systmes dIA.
Vos rapporteurs ont pu tester en situation ces usages bnfiques
pour la socit des agents conversationnels. Il ne sagit que dun exemple,
leur utilit sera bien plus diverse en pratique, surtout quand les machines
amlioreront leurs capacits en termes de mmoire. Au salon professionnel
E-commerce One To One 20171, Google a invit sextraire du modle du
moteur de recherche tel que nous le connaissons encore aujourdhui pour

1 Cf. https://www.ecommerce1to1.com/
PREMIRE PARTIE : - 75 -
LMENTS DE CONTEXTE

entrer dans lre de lassistance, The age of assistance tait ainsi le nom de
sa prsentation1.
En matire dducation, les perspectives pour lintelligence
artificielle sont riches mais les applications restent encore rares. Ce point est
dvelopp plus loin dans le rapport.
Dans le secteur des loisirs, tels que les jeux vidos ou le cinma,
lintelligence artificielle est utilise assez massivement. Il peut par exemple
sagir de simuler des foules grce des systmes multi-agents, comme dans
les trilogies Le Seigneur des anneaux et Le Hobbit. Les jeux srieux2, ou serious
games en anglais, tout commes les visites virtuelles3 pourront de plus en plus
mobiliser des technologies dIA.
Les secteurs de lnergie et de lenvironnement commencent
recourir des solutions fondes sur lintelligence artificielle. Les compteurs
intelligents sont une des pistes visibles de cette volution en cours, sur
laquelle travaille lOPECST. LIA permet de modliser et de simuler et est
donc utilise en mtorologie, sismologie, ocanographie, plantologie ou,
encore en urbanisme. Le GIEC a recours ces technologies pour analyser les
changements climatiques.
Lagriculture peut aussi tre cite, car ce secteur prsente des
usages divers et des possibilits nombreuses. Les applications concernent la
gestion des exploitations mais vont bien au-del. Le graphique suivant dcrit
ainsi les cycles de traitement des donnes dans lagriculture. chaque tape,
lintelligence artificielle peut jouer un rle de plus en plus grand.

1 Cette conomie de lassistance repose sur trois dterminants principaux : la personnalisation de la


relation avec le mobinaute (plus encore que linternaute), le web smantique (la question donne lieu
une rponse directement, voire la machine anticipe vos questions) et, enfin, le web vocal (20 % des
requtes formules aujourdhui sur Google via un mobile Android sont vocales et ce chiffre devrait
dpasser les 50% en 2020). Cf. http://www.frenchweb.fr/google-annonce-la-mort-du-moteur-de-
recherche-et-lavenement-de-lage-de-lassistance/286043
2 Pour Julian Alvarez et Olivier Rampnoux, cinq types de jeux srieux peuvent tre distingus : les

advergamings (jeux publicitaires), les edutainments ( vocation ducative), les edumarket


games (utiliss pour la communication dentreprise), les jeux engags (ou dtourns) et les jeux
dentranement et de simulation.
3 Outre laccs la culture (visites de muses et de sites archologiques par exemple), il pourrait

sagir de visites interactives dans des environnements historiques diffrents, permettant des sortes de
voyages dans le temps.
- 76 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Les processus de traitement des donnes dans lagriculture

Source : INRA

De manire oprationnelle, de nombreuses applications sont


possibles dans le secteur agricole, pour lexploitant (dans le suivi ou la
rgulation), la filire agricole concerne (en matire de progrs gntiques
par exemple) mais aussi lensemble de la socit (avec le cas des rseaux
dpidmio-surveillance). Le graphique suivant lillustre.

Exemples dutilisations des donnes dans lagriculture

Source : INRA
PREMIRE PARTIE : - 77 -
LMENTS DE CONTEXTE

Il peut tre donn lexemple dune entreprise qui a ainsi mis au


point un systme de conteneurs agricoles intelligents, en partenariat avec le
MIT Media Lab. lintrieur, lintelligence artificielle contrle la lumire,
lhumidit, la temprature, mais aussi les nutriments apports aux plantes,
supervisant leur croissance en temps rel. La technologie permet ici
damliorer lefficacit du cycle de production, et ce sans avoir recours aux
OGM.
Dans le secteur de la dfense, les drones autonomes sont de plus en
plus utiliss, limage de lexprience des armes australiennes, israliennes
ou, encore, saoudiennes. Ce nest pas le secteur o le dveloppement de
lintelligence artificielle est le plus souhaitable.
La scurit est, dores et dj, amliore avec une intelligence
artificielle qui peut dtecter les situations anormales (par exemple sur les
flux vido des camras de surveillance) et alerter les services comptents.
En matire de scurit numrique, ce sont les fraudes et les
cyberattaques qui peuvent tre prvues et gres de manire plus efficace. La
cyberscurit peut tre rvolutionne par lintelligence artificielle. La
DARPA a ainsi consacr son grand concours 2016 ce sujet.
Dans lassistance au diagnostic ou dans les services de maintenance
prdictive dans lindustrie et llectromnager, lintelligence artificielle
optimise et dtecte les dfaillances en amont, de mme quelle prvoit les
tapes de rparation.
Les usages de lintelligence artificielle en matire de technologies
mdicales, de gestion de la dpendance ou de handicap seront
considrables mais ils nont pas t au cur du travail de vos rapporteurs, le
sujet a dj t trait plusieurs reprises par lOPECST et continuera ltre,
autour de rapports spcifiques. Le dernier exemple remonte 2015 avec un
rapport consacr au thme Le numrique au service de la sant 1. Il est certain
que lintelligence artificielle est et sera de plus en plus utile la mdecine,
notamment et y compris court terme en matire de diagnostic et de
dpistage des maladies. Les systmes recourant lIA font de plus en plus
souvent aussi bien, voire mieux, que les mdecins dans le dpistage du
cancer2.
Quelques cas emblmatiques peuvent tre mentionns. En
gnomique, par exemple pour la validation et la critique des thrapies, outre
le deep learning, peuvent tre utiliss des systmes non logiques ou
partiellement logiques, des rseaux baysiens, des systmes de rgles et
darbres de dcision, des systmes experts En matire de prdiction du

1
Le numrique au service de la sant, Catherine Procaccia et Grard Bapt, rapporteurs, Snat
n 465 (2014-2015).
2 Un exemple rcent concerne le dpistage du cancer du sein :
http://www.numerama.com/sciences/176579-une-ia-sait-detecter-le-cancer-du-sein-presque-aussi-
bien-quun-medecin.html
- 78 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

repliage de protines1 ou de segmentation des IRM du cerveau en vue


didentifier certaines zones, des projets de recherche sont mens avec
lutilisation de lapprentissage automatique (machine learning) et de systmes
multi-agents collaboratifs pour dcouvrir les rgles qui rgulent la gomtrie
spatiale de structures complexes (exemple dun projet associant lUniversit
de Grenoble, Inria et lINSERM). Lutilisation de systmes multi-agents est
galement possible pour analyser les courbes de rponse dassistants
respiratoires et dtecter les anomalies.
Le Dr Lionel Jouffe, prsident de Bayesia, sest spcialis dans
lutilisation des rseaux baysiens pour laide la dcision mdicale. Il
sagit dune modlisation des connaissances par apprentissage automatique
partir des donnes. Le rseau baysien peut tre utilis pour des
applications de diffrentes natures. Il faut rappeller quun rseau baysien
peut ainsi permettre une entreprise de calculer la probabilit quun client
soit intress par un produit, une banque ou un business angel de calculer la
probabilit de faillite dune start-up, tout comme il peut tre appliqu la
thrapie endovasculaire. Ainsi, les applications diverses dun rseau
baysien lui permettent dtre utilis pour de nombreuses tches, comme
lanalyse de leviers doptimisation, le calcul de scores, lanalyse de dfauts
par loptimisation de processus, lanalyse oprationnelle, le diagnostic et le
dpannage ou encore lanalyse de risques et la maintenance prventive.
Lexemple de Watson est galement instructif, pour le secteur
mdical et laide au diagnostic mais mme au-del. Dvoil au grand public
par IBM en 2011, ce systme a affront, avec succs, des candidats humains
au jeu tlvis amricain Jeopardy ! . En 1996 et 1997, IBM avait dj
prouv les capacits de son superordinateur Deep Blue en organisant des
parties dchecs contre Garry Kasparov. Nicolas Sekkaki, responsable dIBM
France, assure que sa socit est aujourdhui engage dans une dizaine de
projets faisant appel Watson sur notre territoire, mais les retours
dexprience dignes de ce nom sur le sujet restent encore peu nombreux. Le
Crdit Mutuel teste avec IBM lutilisation de lintelligence artificielle et des
technologies cognitives depuis juin 2015 et a intgr certaines technologies
dans la gestion de sa relation client depuis 2016. Watson est ainsi utilis
pour lassistance des conseillers dans le traitement des courriels dune part,
et sur les produits dassurance et dpargne dautre part. Une assistance
informatise qui vise optimiser la productivit du conseiller et amliorer la
pertinence des rponses fournies aux clients finaux. Pour linstant, il ne
sagirait pas de laisser lintelligence artificielle interagir directement avec le
client.
Les progrs dans les domaines de lintelligence artificielle et de la
robotique, en matire de vision par ordinateur, de traitement automatique

1 Ce processus physique, par lequel un polypeptide se replie dans sa structure tridimensionnelle


caractristique dans laquelle il est fonctionnel, est important en ce que de nombreuses maladies, en
particulioer les maladies neurodgnratives , sont considres comme rsultant d'une
accumulation de protines mal replies .
PREMIRE PARTIE : - 79 -
LMENTS DE CONTEXTE

du langage naturel, de reconnaissance automatique de la parole, ou, encore


de bioinformatique, travers par exemple ltude de lADN, ouvrent encore
toute une srie de perspectives dapplications fcondes.
Vos rapporteurs relvent une part deffet de mode dans
lcosystme entrepreneurial, visible dans le recours certains concepts, tels
que lintelligence artificielle, le big data, le cloud, lIoT (Internet des objets), le
blockchain. Pour le journaliste Olivier Ezratty, le strotype de la start-up en
intelligence artificielle serait, de manire caricaturale, une solution dagent
conversationnel en cloud faisant du big data sur des donnes issues de lIoT en
scurisant les transactions via des blockchains .
Les entreprises de lintelligence artificielle se diversifient, se
reconfigurent et sabsorbent les unes les autres, disparaissent parfois et
dautres entreprises, issues dautres secteurs, parfois plus traditionnels,
tentent de les rejoindre dans une course propre lconomie des
plateformes, que vos rapporteurs dcriront plus loin.

4. Par leurs combinaisons en volution constante, ces technologies


offrent un immense potentiel et ouvrent un espace
dopportunits transversal indit

Le potentiel de ces technologies est immense et ouvre de manire


transversale un espace dopportunits indit : nos conomies peuvent en
bnficier car les champs dapplication sont et seront de plus en plus
nombreux. Ces technologies sont non seulement en volution constante, mais
leurs combinaisons ouvrent de nouvelles perspectives.
Avec lexplosion des donnes massives ou big data et
laugmentation des vitesses de calcul (vue plus haut avec la loi de Moore),
ces techniques dintelligence artificielle deviennent de plus en plus
puissantes et efficaces, grce aux combinaisons de comptences et de
technologies en particulier.
Les combinaisons et les hybridations entre technologies mises au
point par Google Deep Mind vont dans ce sens, en utilisant tant des outils
traditionnels comme la mthode Monte-Carlo que des systmes plus rcents
comme lapprentissage profond. Lentreprise fait figure de structure
lavant-garde de la recherche mondiale en intelligence artificielle. Les
combinaisons de technologies dintelligence artificielle ouvrent un champ de
recherche fcond et elle en a fait sa spcialit. Le programme AlphaGo a
ainsi appris jouer au jeu de Go par une mthode de deep learning couple
un apprentissage par renforcement et une optimisation selon la mthode
Monte-Carlo.
- 80 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Dans les faits, et comme lillustrent les cas dj voqus de Prolog1,


des rseaux de neurones profonds2 ou du programme AlphaGo3,
lintelligence artificielle combine trs souvent plusieurs techniques.
De plus en plus, les outils dintelligence artificielle sont
systmatiquement utiliss conjointement.
Par exemple, les systmes experts sont utiliss avec le raisonnement
par analogie, ventuellement dans le cadre de systmes multi-agents.
De mme, les SVM et lapprentissage par renforcement se
combinent trs efficacement avec lapprentissage profond des rseaux de
neurones4. Ce dernier, le deep learning, peut aussi senrichir de logiques
floues ou dalgorithmes gntiques et trouve de nombreuses applications
dans le domaine de la reconnaissance de formes (lecture de caractres,
reconnaissance de signatures, de visages, vrification de billets de banque),
du contrle de processus et de prdiction.
Selon Stphane Mallat, professeur lcole normale suprieure, le
deep learning reprsente en tout cas une rupture non seulement technologique,
mais aussi scientifique : cest un changement de paradigme pour la science .
Traditionnellement, les modles sont construits par les chercheurs eux-
mmes partir de donnes dobservation, en nutilisant gure plus de dix
variables alors que les algorithmes dapprentissage slectionnent seuls le modle
optimal pour dcrire un phnomne partir dune masse de donnes et avec une
complexit inatteignable pour nos cerveaux humains, puisque cela peut
reprsenter jusqu plusieurs millions de variables. Alors que le principe de
base de la mthode scientifique rside dans le fait que les modles ou les
thories sont classiquement construits par les chercheurs partir des
observations, le deep learning change la donne en assistant lexpertise
scientifique dans la construction des modles. Stphane Mallat remarque
galement que la physique fondamentale et la mdecine (vision, audition)
voient converger leurs modles algorithmiques.
Denis Girou, directeur de lInstitut du dveloppement et des
ressources en informatique scientifique au CNRS, estime que la science a pu
construire des modles de plus en plus complexes grce laugmentation de la
puissance de calcul des outils informatiques, au point que la simulation numrique
est dsormais considre comme le troisime pilier de la science aprs la thorie et
lexprience . En sciences du climat par exemple, lapproche traditionnelle
qui consiste injecter les mesures issues de capteurs, en tant que conditions
initiales des simulations, sest enrichie : les approches big data avec le machine

1 Les raisonnements formels de Prolog ont t enrichis de la mthode de programmation par


contraintes.
2 Les rseaux de neurones artificiels sont dans ce cas coupls aux mthodes dapprentissage profond.
3 Ce programme a appris jouer au jeu de Go en combinant apprentissage profond et apprentissage

par renforcement.
4 Lefficacit est avre pour le traitement automatique du langage naturel, la reconnaissance

automatique de la parole, la reconnaissance audio, la bio-informatique ou, encore, la vision par


ordinateur.
PREMIRE PARTIE : - 81 -
LMENTS DE CONTEXTE

learning et lanalyse statistique des donnes ouvrent ainsi une nouvelle voie :
ce quon appelle climate analytics a permis aux climatologues de dcouvrir,
grce au travail de statisticiens, de nouvelles informations dans leurs donnes . Il
sagit doutils sur lesquels sappuie notamment le Groupe dexperts
intergouvernemental sur lvolution du climat (GIEC) dans ses prdictions
sur le rchauffement climatique.
Vos rapporteurs appellent la vigilance lgard de lillusion du
jamais vu , il faut en effet relativiser la nouveaut de laide apporte par
lintelligence artificielle, la dcouverte dautres outils complexes ayant
jalonn lhistoire des civilisations humaines. Dans un texte intitul
Lordinateur et lintelligence 1, lconomiste Michel Volle rappelle ainsi que
des machines remplacent nos jambes (bateau, bicyclette, automobile, avion), des
prothses assistent nos sens (lunettes, appareils acoustiques, tlphones, tlvision).
Llevage et lagriculture pratiquent la manipulation gntique, depuis le
nolithique, par la slection des espces. La bionique, lintelligence artificielle ne font
que sajouter aujourdhui au catalogue des prothses qui assistent nos activits
physiques ou mentales .
Toutefois, quand bien mme lillusion du jamais vu doit tre
dnonce, il convient dviter aussi lcueil du toujours ainsi. Lintelligence
artificielle reprsente une srie doutils lautonomie croissante, qui offre de
nouvelles opportunits et qui pose de nombreuses questions. La
complmentarit homme-machine est lune de celles-ci, avec les potentialits
damplification de laction et damlioration de lefficacit offertes par
lintelligence artificielle.

5. Lapprentissage automatique reste encore largement supervis


et fait face au dfi de lapprentissage non supervis

Selon Yann LeCun, le dfi scientifique auquel les chercheurs


doivent satteler, au-del de la redcouverte de ces deux techniques, cest
celui de lapprentissage non supervis alors que lapprentissage machine
reste le plus souvent supervis : on apprend aux ordinateurs reconnatre
limage dune voiture en leur faisant absorber des milliers dimages et en les
corrigeant quand ils font des erreurs dinterprtation. Or les humains
dcouvrent le monde de faon non supervise. Un enfant reconnat ses
proches trs vite et distingue rapidement un lion dun chat, sans
apprentissage supervis etc.
Dans sa leon inaugurale au Collge de France, Yann LeCun estime
ainsi que tant que le problme de lapprentissage non supervis ne sera pas rsolu,
nous naurons pas de machines vraiment intelligentes. Cest une question
fondamentale scientifique et mathmatique, pas une question de technologie.
Rsoudre ce problme pourra prendre de nombreuses annes ou plusieurs dcennies.
la vrit, nous nen savons rien . Selon lui, cette technologie, qui peut

1 Cf. http://www.volle.com/ulb/021116/textes/intelligence.htm
- 82 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

prendre la forme de lapprentissage prdictif, devrait permettre aux


machines dacqurir ce que lon appelle le sens commun.
Lapprentissage non supervis permettra de faire progresser les
algorithmes sans le cot li ltiquetage et la supervision humaine de
lapprentissage. Cest lvidence un dfi scientifique, mais vos
rapporteurs notent quil nest pas sr que lon y parvienne et que les moyens
mis en uvre doivent rester proportionns, surtout quil nest absolument
pas certain que lon ainsi puisse parvenir lapprentissage non supervis.
Ils relvent que les travaux en robotique dveloppementale et
sociale de Pierre-Yves Oudeyer, responsable de lquipe Flowers dInria,
sont particulirement fconds : il sagit, en faisant appel de nouvelles
disciplines connexes (neurosciences et psychologie dveloppementale), de
concevoir des algorithmes et des robots capables dapprendre des choses
nouvelles sur le long terme sans lintervention dun ingnieur, en combinant
curiosit artificielle et interactions sociales avec des humains, selon la
maxime humaniser les machines plutt que machiniser les hommes et en visant
reproduire les comportements dapprentissage des enfants. Vos
rapporteurs ont not linfluence des travaux de Jean Piaget dans ces
recherches.
En conclusion de cette partie, vos rapporteurs prennent acte des
limites des technologies actuelles dintelligence artificielle et font valoir
que lintelligence artificielle, qui agit sur la base de ce quelle sait, devra
relever le dfi dagir sans savoir, puisque comme laffirmait le biologiste,
psychologue et pistmologue Jean Piaget Lintelligence, a nest pas ce que
lon sait, mais ce que lon fait quand on ne sait pas .

III. CARACTRISTIQUES GNRALES DE LA RECHERCHE EN


INTELLIGENCE ARTIFICIELLE ET ORGANISATION NATIONALE
EN LA MATIRE

A. LES CARACTRISTIQUES DE LA RECHERCHE EN INTELLIGENCE


ARTIFICIELLE

1. La place prpondrante de la recherche prive, domine par les


entreprises amricaines et, potentiellement, chinoises

La place prpondrante de la recherche prive a t


particulirement ressentie par vos rapporteurs, y compris sur le plan de la
recherche fondamentale. Cette recherche est, de plus, domine par les
entreprises amricaines et pourrait, potentiellement, tre domine demain
par les entreprises chinoises.
Ainsi plusieurs enseignants-chercheurs, souvent les plus brillants,
ont t recruts par ces grandes entreprises, comme en tmoigne la liste
suivante qui nest pas exhaustive : Yann LeCun (Facebook), Andrew Ng
PREMIRE PARTIE : - 83 -
LMENTS DE CONTEXTE

(Baidu, ex-Google), Geoffrey Hinton et Fei Fei Li (Google), Vladimir


Vapnik et Rob Fergus (Facebook), Nando de Freitas (Google), Zoubin
Ghahramani (Uber), mme Yoshua Bengio, qui a longtemps refus de
travailler dans le secteur priv, a cr la plateforme Element AI avec un
investissement de Microsoft et a rejoint Intel la fin de lanne 2016 au
Conseil dadministration de Intel Nervana AI.
En 2010, Demis Hassabis a invent, avec Mustafa Suleyman et
Shane Legg, une start-up londonienne qui se donnait pour objectif de faire ce
qui se fait de mieux en intelligence artificielle, de rsoudre lintelligence .
Il a rapidement vu sa structure, Deepmind, tre rachete pour 628 millions
de dollars par Google (en 2014).
Vos rapporteurs ont identifi plusieurs cas de chercheurs franais
recruts par ces entreprises amricaines, dites GAFA ou GAFAMI ,
mme sil serait plus juste de parler des GAFAMITIS 1, ou par leurs
quivalentes chinoises dites BATX 2. Il est noter que certains de ces
chercheurs ont refus de rencontrer vos rapporteurs.
Laurent Massouli, directeur du Centre de recherche commun Inria-
Microsoft explique que les frontires public/priv sont de plus en plus
permables . Lenjeu affich est de runir le meilleur des deux mondes et de
favoriser la mobilit des chercheurs, mais il faut observer que ce phnomne
concourt aussi la concentration des comptences au sein des entreprises
prives amricaines.
Comme il a t vu, les technologies dapprentissage machine tel que
le deep learning recourent des mthodes plus ou moins statistiques qui
ncessitent des donnes massives pour tre efficaces, or ces entreprises
disposent dun avantage comparatif difficile rattraper : des jeux de donnes
massives, continuellement enrichis par leurs clients et usagers.
Les entreprises amricaines font de plus en plus de recherche
fondamentale en intelligence artificielle, ouvrent une partie de leurs rsultats
et communiquent sur leurs travaux et leur fonctionnement. Cest en
particulier visible pour Google, Facebook, IBM ou mme pour le chinois
Baidu. Apple, longtemps discrte, a dcid, en 2016, doffrir ses chercheurs
la possibilit de publier dans des revues scientifiques3. Six chercheurs de
lentreprise ont ainsi publi un article sur lapprentissage machine partir
dimages de synthse.

1 Google, Apple, Facebook, Amazon, Microsoft, IBM, Twitter, Intel et Salesforce. Ces entreprises
amricaines reprsentent la pointe de la recherche et des applications de lIA.
2 Lexpression dsigne les gants chinois du numrique : Baidu, Alibaba, Tencent et Xiaomi.
3 Cette volution doit beaucoup Russ Salakhutdinov, directeur de lintelligence artificielle chez

Apple et professeur lUniversit Carnegie-Mellon, rencontr par vos rapporteurs. Cette


communication de plus en plus scientifique dApple est visible aussi dans cet article qui met
notamment lhonneur Alex Acero, directeur du projet Siri, galement rencontr par vos
rapporteurs : https://backchannel.com/an-exclusive-look-at-how-ai-and-machine-learning-work-at-
apple-8dbfb131932b#.6oxrqyd5g
- 84 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

De plus, certains outils dintelligence artificielle des entreprises


IBM, Microsoft, Google et Facebook ont t rendus publics en open
source en vue dencourager la constitution de communauts de
dveloppeurs.
Ces entreprises entretiennent ainsi un formidable vivier dexperts et
de chercheurs, aux tats-Unis mais aussi dans le reste du monde, qui leur
permet de perfectionner leurs algorithmes moindre cot.
Les entreprises amricaines dominent donc pour lheure, et certains
parlent de silicolonisation du monde ou de lEurope, mais les entreprises
chinoises, qui se sont longtemps contentes dexploiter et de rpliquer des
technologies labores lextrieur de leurs frontires peuvent
potentiellement monter en puissance. La recherche chinoise indique
dailleurs cette tendance. La Chine a ainsi pris la tte des publications en deep
learning depuis trois ans.
Mme si les progrs visibles reposent encore sur des architectures
conues initialement par des scientifiques occidentaux, les atouts chinois
sont rels, comme la indiqu vos rapporteurs le service scientifique de
lAmbassade de France en Chine : elle dispose en effet des deux
supercalculateurs les plus puissants du monde, dun march intrieur trs
important et friand des avances potentielles du secteur, dune collusion fconde
entre tat, instituts de recherche, universits, gants de lInternet et de
linformatique, start-up . Ainsi, le 13e plan quinquennal chinois comprend
une liste de 15 nouveaux grands projets innovation 2030 qui structurent
les priorits scientifiques du pays et correspondent chacun des
investissements de plusieurs milliards deuros. Parmi ces 15 projets, on en
trouve quatre qui sont consacrs indirectement lIA, pour un montant de
100 milliards de yuans en trois ans : un projet de Recherche sur le
cerveau et des projets dingnierie intituls Mega donnes , Rseaux
intelligents et Fabrication intelligente et robotique .
Ce plan a t dcid par les autorits chinoises dans le but de
dynamiser la recherche en IA en Chine et de relever le dfi de la
concurrence avec les tats-Unis. Les investissements seront orients sur la
robotique, les assistants personnels (domotique), les voitures autonomes et
les objets connects.
Les enjeux sont nationaux et les financements suivent. Mais les
entreprises prives sont aussi des moteurs puissants du secteur.
On voit dans la priode rcente les entreprises chinoises monter en
puissance, avec les BATX 1.
Lentreprise Baidu a dvelopp le principal moteur de recherche
chinois, site le plus consult en Chine et 5e site le plus consult au niveau
mondial, indexant prs dun milliard de pages, 100 millions dimages et
10 millions de fichiers multimdia. Elle communique beaucoup sur le sujet

1 Baidu, Alibaba, Tencent et Xiaomi.


PREMIRE PARTIE : - 85 -
LMENTS DE CONTEXTE

de lIA, y consacre une part consquente de sa recherche (Institute of deep


learning, big data lab, ) et, comme les gants amricains, dispose dun flux
de donnes permettant denvisager des applications dans de nombreux
domaines.
Le recrutement du chercheur de Stanford Andrew Ng par Baidu en
2014 en tant que responsable de lintelligence artificielle, alors quil en
tait le responsable chez Google, est emblmatique.
De mme, en 2017, Baidu dbauche Qi Lu, au poste de numro
deux, alors quil tait auparavant vice-prsident chez Microsoft et directeur
des projets Bing, Skype et Microsoft Office et, auparavant, directeur de la
recherche de Yahoo.
Lentreprise considre, comme ses concurrents, que lIA est son
principal dfi comme solution cl pour des applications en vision, parole,
traitement du langage naturel et sa comprhension, gnration de
prdictions et de recommandations, publicit cible, planification et prise de
dcision en robotique, en conduite autonome, pilotage de drones, Elle
travaille en troite relation avec de nombreuses universits et start-up.
Les rsultats algorithmiques de Baidu et de son Institute of Deep
Learning sont impressionnants et du meilleur niveau mondial, malgr son
existence rcente. Il nest pas vident, selon le service scientifique de
lAmbassade de France en Chine, dvaluer la matrise thorique des
ingnieurs mais lentreprise montre une incontestable efficacit pour
implmenter rapidement les dernires innovations du secteur.
Le systme de reconnaissance dimage de Baidu a ainsi battu celui
de Google depuis 2015. Son logiciel a dcrit 100 000 images avec une
prcision de 95,42 % contre 95,20 % pour celui de Google. Baidu reprsente
lui seul plus de 80 % du march chinois de la recherche en ligne (contre 9 %
pour Google). La capacit de ses algorithmes retrouver une image dans une
base de donnes de 10 milliards dimages est de moins dune seconde. Ils ont
aussi de bonnes performances sur les benchmarks ICDAR, o ils se placent 1er
sur cinq des huit valuations conduites parmi quatre tches.
Sur FDDB1 (Face Detection Data Set and Benchmark) et sur la base de
donnes de visages LFW, ce systme progresse vite : 8 % derreurs en
dcembre 2015, 2,3 % en septembre 2016 et bientt 1 %. Lentreprise annonce
aussi la meilleure prcision sur la collection de benchmarks KITTI2 orients
pour la conduite de voitures autonomes. Baidu dveloppe aussi des
applications de reconnaissance dimage pour la plateforme de services Baidu
Nuomi : une application permet par exemple de reconnatre le restaurant (et
le plat) en prenant une photo de nourriture dans un restaurant.
Les autres gants chinois du net, comme Alibaba (distribution) ou
Tencent (rseaux sociaux), tirent eux aussi dans la mme direction :

1 Voir http://vis-www.cs.umass.edu/fddb/
2 Voir http://www.cvlibs.net/datasets/kitti/
- 86 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

dveloppement et diffusion grand public dapplications plus ou moins


convaincantes mais manifestement exploitant des techniques dIA un peu
volues, mme sils semblent moins prsents dans la recherche
fondamentale .
Cr le 6 avril 2010, Xiaomi a rapidement rejoint le club des gants
chinois, en devenant lun des plus gros constructeurs mondiaux dans les TIC
(smartphones, tablettes, mais aussi bracelets connects, tlvisions
intelligentes, quipements pour les maisons connectes, camras
miniatures...) sans mme devoir sinstaller en Occident, devenant le
quatrime membre des BATX. Seul Uber prsente un dynamisme
comparable. Le recrutement en 2013 de Hugo Barra par Xiaomi, en tant que
vice-prsident, est significatif. Dabord chercheur du laboratoire
dintelligence artificielle et dinformatique du MIT, laboratoire visit par vos
rapporteurs, il est ensuite devenu responsable du dveloppement du
systme dexploitation Android chez Google entre 2010 et 2013. En janvier
2017, il a rejoint Facebook, en tant que vice-prsident de la division Oculus
en charge de la ralit virtuelle. Vos rapporteurs ont t reus au sige de
Facebook Menlo Park par les responsables de la recherche en IA de
Facebook et par diffrents responsables de sa division Oculus le 26 janvier
2017, au moment de ce transfert de Hugo Barra de Xiaomi vers Facebook.
Huawei (tlcom, tlphones), entreprise qui accorde une grande
importance la recherche fondamentale et dont la recherche
sinternationalise rapidement (ple mathmatique implant en France il y a
deux ans) a mis en avant dbut janvier 2017 un concept de tlphone
intelligent, dont on ne peut encore savoir sil ira effectivement plus loin que
ceux de ses concurrents.
Plus globalement, concernant les donnes, les ples universitaires
chinois peuvent aussi compter sur le soutien des industriels comme, par
exemple, National Grid, China Mobile, China Unicom, Shanghai Meteorological
Bureau ou Environmental Monitoring Center
La Chine prend aussi position dans les technologies de cartographie
numrique. Deux entreprises nationales, le chinois NavInfo et la socit de
services Internet Tencent, associes au fonds singapourien GIC, ont acquis
ensemble une participation de 10 % dans le groupe HERE, contrl par
BMW, Daimler et Volkswagen, qui ont rduit leur part en proportion. Dans
ce cadre, HERE cre une filiale avec NavInfo pour tendre son offre la
Chine. Et Tencent utilisera de son ct les prestations de cartographie et de
localisation de la socit pour ses propres produits et services.

2. Une recherche essentiellement masculine

Vos rapporteurs dressent le constat vident que la recherche en


intelligence artificielle et en robotique est essentiellement conduite par
PREMIRE PARTIE : - 87 -
LMENTS DE CONTEXTE

des hommes. Cette situation dextrme masculinisation est critiquable et


nest pas souhaitable.
Selon Mady Delvaux, la domination masculine dans ce secteur serait
de nature crer des biais, dans la conception des programmes, lanalyse des
donnes et linterprtation des rsultats, elle dnombre de lordre de 90 % de
programmeurs et de dveloppeurs masculins.

3. Une interdisciplinarit indispensable mais encore insuffisante

En matire dintelligence artificielle, linterdisciplinarit est


particulirement requise. En effet, il sagit la fois dun secteur de
recherche en informatique et dun champ de rflexion bien plus large, qui
mobilise des connaissances provenant de nombreuses disciplines.
Linterdisciplinarit est donc indispensable en intelligence
artificielle. Cette prise en compte du critre de linterdisciplinarit est
essentielle et souvent recherche par les quipes de chercheurs mais, elle-
mme sous-domaine de linformatique, lintelligence artificielle demeure
clate en une cinquantaine de sous-domaines de recherche identifis, qui
parfois signorent les uns les autres ou ne cooprent pas suffisamment.

Lclatement de la discipline en une cinquantaine de domaines

Source : Gouvernement

Non seulement linterdisciplinarit reste insuffisamment mise en


uvre mais lintelligence artificielle elle-mme souffre de ces dcoupages
internes, qui tendent cloisonner les recherches.
Vos rapporteurs ont ainsi relev que les recherches en intelligence
artificielle empruntent et devront, de plus en plus, emprunter diverses
autres disciplines et en agrger les dmarches et les connaissances. Elles
- 88 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

peuvent mme aller jusqu sinscrire dans dautres espaces disciplinaires


(mathmatiques, physique, biologie).
Issue des mathmatiques, de la logique et de linformatique,
lintelligence artificielle fait appel depuis des dcennies, et de plus en plus,
la psychologie, la linguistique, la neurobiologie, la neuropsychologie
et au design. Dans la priode plus rcente, elle sancre encore davantage
dans les sciences cognitives, et mobilise les outils de la gntique et des
Sciences de lHomme et de la Socit (SHS), en particulier de la
sociologie.
Lintelligence artificielle se nourrit de plus en plus des recherches
issues des mathmatiques, des statistiques, de la physique, de la biologie, en
particulier pour ses mthodes de recherche et ses champs dapplication.
Elle doit galement, et de plus en plus, salimenter auprs des SHS, plutt
sur les usages mais aussi sur les questionnements thiques en matire de
conception.
Les humanits numriques sont un exemple de dmarches
lintersection de lintelligence artificielle et des SHS. Comme la expliqu
Jean-Gabriel Ganascia vos rapporteurs, les disciplines relevant des
humanits, savoir dont lobjet dtude porte sur les uvres humaines,
comme lhistoire, larchologie, la littrature, etc., tirent, depuis environ
quinze ans, avantage de la numrisation des sources et de lutilisation des
techniques dintelligence artificielle et dapprentissage machine pour
concevoir de nouveaux oprateurs dinterprtation. Aujourdhui, ce courant
scientifique situ la frontire de linformatique et des sciences de la
culture est dsign sous le vocable d humanits numriques . Cela fait
lobjet de nombreuses recherches dans tous les pays du monde, en particulier
aux tats-Unis, dans les tats europens, dont la France. On peut, par
exemple, citer lcole polytechnique fdrale de Lausanne en Suisse, visite
par vos rapporteurs, ou le Labex OBVIL entre la Sorbonne et lUPMC.
Par ailleurs, les liens entre intelligence artificielle et robotique ont
longtemps t trs troits mais dans le dernier quart du XXe sicle une
distance sest cre sous le double effet de la spcialisation de la robotique
industrielle sur des automates pas ou peu autonomes et du moindre cot
de la recherche sur des systmes logiciels dintelligence artificielle (le cot
relatif dun robot intelligent tant plus lev). Daprs Raja Chatila, cette
distance devrait maintenant se rduire car les robots deviennent de plus en
plus des intelligences artificielles encorpores (embodied), le terme tant
plus pertinent que celui dincorpores car elles sincarnent dans des corps
physiques plus quelles ny seraient simplement places. Selon lui, au-del
du traitement du langage naturel, les problmes dinteraction et daction
conjointe homme-robot posent des questions dinterdisciplinarit : la mise en
uvre de prises de perspective est une problmatique fondamentale pour
permettre une interaction efficace et naturelle entre lhumain et le robot. Ce
sujet demande un dveloppement qui associe des recherches en robotique et
en SHS, en particulier, en sociologie, philosophie, psychologie, linguistique...
PREMIRE PARTIE : - 89 -
LMENTS DE CONTEXTE

Le rle des motions dans linteraction est explorer, bien au-del de


travaux actuels qui se contentent de classer a priori des expressions faciales
ou de produire des expressions dmotions artificielles par le robot.
Lexpression dmotions par un robot pose des questionnements
scientifiques et thiques sur lauthenticit de ces motions et sur
lanthropomorphisation qui peut en rsulter, sujet sur lequel sest
spcialise Laurence Devillers, professeure lUniversit Paris IV Sorbonne
et directrice de recherche au Laboratoire dinformatique pour la mcanique
et les sciences de lingnieur (Limsi de Saclay) qui plaide elle aussi pour une
plus grande interdisciplinarit, totalement ncessaire selon elle.
La recherche en robotique pose en effet des questions proches des
sciences cognitives, des neurosciences et de plusieurs domaines des SHS,
comme la sociologie, la psychologie et la philosophie. Des programmes
interdisciplinaires sont probablement le bon moyen daborder les diffrentes
facettes des questions fondamentales poses par lintelligence artificielle et la
robotique.
En plus des aspects technologiques, les chercheurs appellent plus
de transversalit en vue de croiser leurs approches, une pluricomptence
dans les quipes, indispensable au progrs dans ce domaine o se
tlescopent les disciplines. Selon Bertrand Braunschweig, directeur du centre
de dInria de Saclay, nous avons besoin de doubles, voire de triples-
comptences .
Comprendre lintelligence sous toutes ses formes reste une des
grandes questions scientifiques de notre temps, au-del mme des progrs
et des limites de lintelligence artificielle et, comme le souligne Yann
LeCun, aucune organisation, si puissante soit-elle, ne peut rsoudre ce problme
en isolation. La conception de machines intelligentes ncessitera la collaboration
ouverte de la communaut de la recherche entire .
Linterdisciplinarit doit, en outre, se conjuguer avec une meilleure
prise en compte du long terme, qui reprsente un autre dfi en matire de
recherche scientifique1, notamment en matire dintelligence artificielle. Pour
Jean-Gabriel Ganascia, cela rsulte notamment des modes de financement :
les logiques de court terme des projets noffrent pas la prennit et la vision
de long terme souvent souhaitables et rendent difficiles le dveloppement de
grandes ambitions. Il note toutefois que les LabEx, ou Laboratoires
dexcellence, laurats dappels projets lancs dans le cadre du Programme
investissements davenir (Grand emprunt) ont moins prsent ce dfaut.
Selon Grard Sabah, membre de lAcadmie des technologies, cest la
structure de la recherche franaise qui gnerait la recherche en intelligence
artificielle parce que, selon lui, lexception du cas des chercheurs du CNRS

1 Pierre-Gilles de Gnes alerte ainsi : lavenir de la recherche est dornavant aux mains de
gens qui ne voient que leur intrt trois ans (). Le mot dordre semble tre de supprimer
tous les investissements moyen et long termes, en postes de chercheurs comme en moyens
de laboratoires. Or une bonne recherche suppose un horizon dix ans sinon trente ans et
les moyens adquats .
- 90 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

(eux-mmes souvent envahis par les tches administratives), seuls les


doctorants pourraient se consacrer plein temps la recherche en
intelligence artificielle qui demande beaucoup dinvestissement en temps,
dexprimentation et en retours dexpriences : La contrainte dune thse en
trois ans maximum et le fait quaprs leur soutenance ils se voient gnralement
obligs de continuer ailleurs (au mieux comme matre de confrences, charg de
nombreuses tches autres que de recherche pure) font que des projets long terme
ont du mal se dvelopper. mon sens, cest une des raisons pour lesquelles la
recherche fondamentale en intelligence artificielle a peu avanc (en France). Comme
elle est galement proche des sciences cognitives et fait donc appel diverses
disciplines, la difficult de mener des carrires interdisciplinaires dans le cadre
acadmique est galement un frein son dveloppement. Or, la frquentation
dautres disciplines demande une culture la fois trs vaste et trs profonde, qui
nest pas toujours dispense par les formations actuelles : la plupart des systmes
denseignement europens fonctionnent selon des structures anciennes, qui ont
conduit la spcialisation .
Pour votre rapporteure Dominique Gillot le point voqu dune
surcharge administrative des chercheurs constitue une apprciation
controverse : souvent reproduite, elle devrait tre value et approfondie.
Par ailleurs, avec un point de vue plus interdisciplinaire il est
possible de supposer que lintelligence artificielle permettra aussi de mieux
modliser le fonctionnement du cerveau et les relations entre le cerveau et
la conscience, ainsi que la mmoire ou la rcupration et la stimulation des
facults cognitives et/ou motrices.
Ces dcouvertes, qui profiteront aux neurosciences, rtroagiront
trs probablement avec la recherche en intelligence artificielle dans un
cercle vertueux.
Les projets de recherche Humain Brain Project (HBP) et Blue Brain
Project (BBP) que vos rapporteurs sont alls dcouvrir sur place en Suisse
devraient aller dans ce sens. Jean-Pierre Changeux, partie prenante des
projets, leur en a fait partager lambition.
Lquipe du BBP de lcole polytechnique fdrale de Lausanne
(EPFL) se donne pour objectif depuis mai 2005 de crer un cerveau
synthtique par rtroingnierie.
Ce projet pluridisciplinaire permet aussi dtudier larchitecture et
les principes fonctionnels du cerveau. Il a t suivi, en 2013, du HBP, financ
par lUnion europenne, et certains rsultats sont dj tangibles : en octobre
2015, lquipe est parvenue assurer la reproduction virtuelle de
microcircuits de neurones de rat.
PREMIRE PARTIE : - 91 -
LMENTS DE CONTEXTE

Prsentation du Human Brain project (HBP)


Le Human Brain project (HBP) est un projet scientifique lanc en 2013 qui
sappuie sur le BBP et qui vise simuler le fonctionnement du cerveau humain
grce un superordinateur dici 2024. Il a t choisi pour tre lun des deux FET
Flagships de lUnion europenne1 et son cot total est estim 1,19 milliard
deuros. Il sagit ainsi de mieux comprendre le cerveau et ses mcanismes de base,
dappliquer ces connaissances dans le domaine mdical et de contribuer au progrs
de linformatique (et en IA). Les rsultats obtenus permettraient par exemple de
dvelopper de nouvelles thrapies mdicales plus efficaces sur les maladies
neurologiques : en effet le projet vise crer une nouvelle plateforme informatique
mdicale pour tester des modles de maladies, amliorer le diagnostic et acclrer
le dveloppement de nouvelles thrapies.
Sagissant des progrs en informatique et en IA, lobjectif du projet est de
tirer parti dune meilleure comprhension du fonctionnement du cerveau pour le
dveloppement de technologies de linformation et de la communication plus
performantes sinspirant des mcanismes du cerveau humain. Les bnfices esprs
sont une meilleure efficacit nergtique, une fiabilit amliore et la
programmation de systmes informatiques complexes.
Le projet est men par une quipe coordonne par Henry Markram, un
neuroscientifique de lcole polytechnique fdrale de Lausanne (EPFL) qui,
paralllement, animait dj le projet Blue Brain ; et codirig par le physicien
Karlheinz Meier de lUniversit de Heidelberg et le mdecin Richard Frackowiak
du Centre hospitalier universitaire vaudois et lUniversit de Lausanne, en
collaboration avec plus de 90 instituts de recherche europens et internationaux
rpartis dans 22 pays diffrents. Il rassemble au total des milliers de chercheurs.
Le projet a t contest en 2014 et 20152, ce qui a conduit le rorienter en
partie, en accordant notamment plus dimportance aux neurosciences cognitives.
En mai 2015, les ingnieurs du HBP montrent les premires simulations en
vue de la ralisation dune souris virtuelle en plaant un modle informatique
simplifi du cerveau dune souris dans un corps virtuel soumis des stimulations.
Ces rsultats nont cependant pas fait cesser les critiques contre le HBP.
La premire phase du HBP a dbut fin 2013 et a dur deux ans et demi.
Un premier bilan est donc dresser.

1 Il sagit des Initiatives-phare des Technologies Futures et mergentes de lUnion europenne,


soutenues financirement hauteur dun milliard deuros chacune sur dix ans, dont la moiti est
verse par le budget de lUE (lautre projet porte sur le graphne).
2 En juillet 2014, une lettre ouverte signe de 130 scientifiques est adresse la Commission
europenne. Elle critique les orientations prises par la direction du HBP et appelle lUE prendre
des mesures pour rorienter le projet. Lobjet de cette lettre est surtout la gouvernance du HBP, mais
aussi le manque de ralisme du projet et son cot important. En 2015, Yann LeCun a critiqu lide
quune IA pourrait merger simplement dun ordinateur, aussi puissant soit-il, en utilisant quelques
algorithmes simples dapprentissage. Il pense que les progrs en matire dIA viendront plutt de
lapprentissage machine non supervis.
- 92 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Pour simuler le fonctionnement dun cerveau humain, la puissance


calculatoire ncessaire est estime un exaflops1. Or un superordinateur atteignant
lexaflops sera difficile atteindre avant 2020. Steve Furber de lUniversit de
Manchester souligne que les neuroscientifiques ne savent toujours pas avec
certitude quels dtails biologiques sont essentiels au traitement crbral de
linformation, et en particulier ceux quon peut sabstenir de prendre en compte
dans une simulation visant simplifier ce processus.

Visant la cration de modles pour tudier les maladies


neurodgnratives, une quipe franaise du laboratoire CellTechs de lcole
SupBiotech, en collaboration avec le CEA (Commissariat l'nergie
atomique et aux nergies alternatives) travaille sur la reprogrammation de
cellules souches sans aucune spcialisation, dites alors pluripotentes
induites (ou IPS), afin de les diffrencier pour devenir, par exemple, des
cellules crbrales : Frank Yates, enseignant-chercheur SupBiotech et
responsable de cette quipe explique que leurs cultures dorganodes
neuroectodermiques comptent entre 500.000 et un million de cellules, et
mesurent environ 2 mm de diamtre 2.
Les perspectives dapplication de ces projets et de BBP et de HPB en
particulier sont grandes, mais la perspective dun homme non seulement
rpar mais augment qui pourrait terme se dessiner soulve
dimportantes questions thiques.
Au sein des projets de grande envergure, le plus souvent mens aux
tats-Unis, en Chine et au Japon (mmes si les cas du HBP de lEPFL peut
sapparenter cette famille de grands projets pluridisciplinaires), le caractre
pluridisciplinaire est vident : au-del du matriel informatique et des
logiciels utiliss, cur historique de lintelligence artificielle, dautres savoir-
faire et domaines de connaissances sont largement mobiliss : la robotique,
au sein de laquelle les mouvements et les perceptions sont essentiels pour
produire de lintelligence, les sciences de la vie, limage de la physiologie,
des neurosciences et de la gntique, mais aussi les sciences humaines, avec
la psychologie, la linguistique et la sociologie.
Pour vos rapporteurs, il existe un dbat sur la faon de russir cette
interdisciplinarit dans le cadre existant, contraint par un acadmisme dun
autre temps. La remise en cause du cadre existant pourrait tre bienvenue.
La place que le CNRS fait, par exemple, lintelligence artificielle dans son
organisation semble tre, pour le moins, insuffisante. Il faudrait aussi revoir
les modalits de carrire des chercheurs en encourageant les parcours

1 1018 soit un milliard de milliards, ou un trillion de flops (un flop est une unit de mesure de la
vitesse dun systme informatique).
2 Cf. http://www.futura-sciences.com/sante/actualites/cerveau-faire-pousser-mini-cerveau-cest-
possible-66821/
PREMIRE PARTIE : - 93 -
LMENTS DE CONTEXTE

transgressant les frontires disciplinaires et en valorisant dans les


valuations les expriences de partenariats, notamment public-priv.

4. Une recherche soumise une contrainte dacceptabilit sociale


assez forte sous leffet de reprsentations catastrophistes de
lintelligence artificielle

La recherche en intelligence artificielle ainsi que ses applications


sont soumises une contrainte dacceptabilit sociale assez forte,
notamment sous leffet de reprsentations catastrophistes, comme en
tmoignent les sondages dopinion.
Lors du lancement de France IA, le Gouvernement a rappel que
65 % des Franais interrogs se disent inquiets du dveloppement de
lintelligence artificielle alors que, comparativement, 36 % des Britanniques
et 22 % des Amricains expriment la mme crainte.
Selon un autre sondage Odoxa, ralis en mai 2016 pour Stratgies et
Microsoft, qui posait la question Lintelligence artificielle, une chance ou
une crainte ? , les Franais sont aussi nombreux voir dans cette forme
dalgorithmes une opportunit (49 %) quun motif de peur (50 %).
Un troisime sondage, ralis par Orange et 01.net , ralis, lui, en
ligne parvient des rsultats plus rassurants : 40 % des sonds disent avoir
peur de lintelligence artificielle et 60 % disent ne pas en avoir peur (le fait
quil sagisse dun sondage en ligne auprs des internautes introduit
forcment plus de biais quun sondage par chantillon reprsentatif, les
rponses tant issues de personnes dj familires des TIC).
Les chiffres annoncs par le Gouvernement en janvier 2017 sont en
fait les rsultats dune enqute de lIFOP sur le sujet. Ces rsultats
traduisent, sur un plan statistique, la prise de conscience assez leve de
lessor de lintelligence artificielle et de ses opportunits.
Cet enthousiasme majoritaire doit tre nuanc par les craintes
elles aussi majoritaires que cette technologie suscite dans le mme
temps. Une majorit de sonds (67 %) voit en effet tout autant lintrt de
lintelligence artificielle pour amliorer le bien-tre individuel et collectif,
quil sinquite ( 65 %) de lautonomie croissante des machines.
On se retrouve donc devant une logique dapprciation contraste
qui nest sans doute pas sans lien avec laccent mis sur les risques de lIA
dans la culture populaire (littrature et surtout cinma de science-fiction en
particulier) et dans le dbat public.
- 94 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Enqute dopinion conduite en 2016 sur lintelligence artificielle

Source : IFOP

Daprs Bernard Stiegler, directeur de lInstitut de recherche et


dinnovation (IRI) du centre Georges Pompidou et professeur lUniversit
de Londres, lenseignement de ce sondage est le suivant : la population est
consciente dans son ensemble de limportance des enjeux lis la nouvelle
intelligence artificielle qui merge (), de ses promesses potentielles, mais aussi et
surtout de ses dangers. Cest assez rassurant : quand on sait que des personnalits
aussi bien informes que Stephen Hawking ou Bill Gates ont elles-mmes manifest
leur trs grande proccupation avec des dizaines de scientifiques de grand renom
face ce qui se met en place, il est heureux de constater que les personnes
interroges refltent une conscience de la dimension pharmacologique du numrique,
cest dire le fait quil constitue autant un remde quun poison et que dans
limmdiat, le cot toxique semble simposer plutt que les dimensions curatives .
Vos rapporteurs, sils y sont sensibles, ne partagent pas cette analyse
selon laquelle les inconvnients de lintelligence artificielle seraient, ce
stade, suprieurs ses avantages pour nos socits. Rien ne permet de le
dmontrer et la vigilance qui se met en uvre sur un plan national et
international devrait en tre garante.
Un autre sondage, men par lIFOP pour la CNIL en janvier 2017,
peut tre cit1. Il est consacr au cas plus gnral des algorithmes et montre
que la majorit des personnes interroges (64 %) considrent que les
algorithmes reprsentent plutt une menace, en raison de laccumulation de
donnes personnelles sur les choix, les gots et les comportements. Cette
perception varie fortement en fonction de lge : pour les 18-24 ans, les
algorithmes reprsentent dabord une opportunit ( 51 %).

1 Cf. https://www.cnil.fr/sites/default/files/atoms/files/presentation_ifop_-_presentation.pdf
PREMIRE PARTIE : - 95 -
LMENTS DE CONTEXTE

Les Franais et les algorithmes : notorit et perception


Daprs un sondage men par lIFOP pour la CNIL en janvier 2017, les
algorithmes sont prsents dans lesprit des Franais mais de faon assez confuse. Si
83 % des Franais ont dj entendu parler des algorithmes, ils sont plus de la moiti
ne pas savoir prcisment de quoi il sagit (52 %). Leur prsence est dj juge
massive dans la vie de tous les jours par 80 % des Franais qui considrent, 65 %,
que cette dynamique va encore saccentuer dans les annes qui viennent.
Concernant lopinion sur les algorithmes, une courte majorit (53 %) estime
quils sont plutt sources derreur contre 47 % qui pensent quils sont fiables. Mais,
la confiance slve mesure que le niveau de connaissance sur les algorithmes
progresse. Un effort de pdagogie et de transparence peut donc contribuer
renforcer la confiance.
Sous un angle marketing, 57 % des Franais pensent que les algorithmes limitent
ltendue des choix proposs. Chez les plus jeunes, la tendance sinverse, puisque
53 % des moins de 35 ans et 56 % des 18-24 ans mettent plutt en avant le fait que
les algorithmes proposent plus de choix.
Enfin, cest sous langle de la perception citoyenne que lopinion est la plus
tranche en fonction de lge. Si les 2/3 des Franais (64 %) considrent que les
algorithmes reprsentent plutt une menace en raison de laccumulation de
donnes personnelles sur les choix, les gots et les comportements, les 18-24 ans
inversent cette tendance nettement affirme puisque 51 % estiment au contraire que
les algorithmes reprsentent une opportunit.
Source : CNIL

Enfin, deux tudes parues en avril 2017 au sujet de lutilisation de


lintelligence artificielle des fins commerciales vont dans le mme sens1 : la
premire montre que 72 % des 6 000 internautes sonds dans six pays
dclarent en avoir peur2 et la seconde montre que 42 % des 2 000 personnes
interroges ne font pas confiance lintelligence artificielle3.
Vos rapporteurs, qui ont la mmoire des quarante dernires annes,
noublient pas que la popularisation dInternet dans les annes 1990 sest elle
aussi accompagne, comme auparavant avec la tlmatique, de lexpression
de craintes : peur de laffaiblissement des relations sociales4, des pannes

1 Cf. une synthse dans larticle suivant : http://www.zdnet.fr/blogs/watch-it/intelligence-artificielle-


les-consommateurs-restent-craintifs-39851386.htm
2 https://www.pega.com/ai-survey
3 https://uk.insidesales.com/research-paper/state-artificial-intelligence-uk-2017-public-perceptions-

disruptive-technology/
4 Il existe, depuis une trentaine dannes et surtout depuis dix ans, une peur de la perte dune

sociabilit authentique et de son remplacement par une sociabilit virtuelle, moins durable et plus
gocentrique. Les travaux du sociologue Dominique Cardon, spcialiste de lusage de lIA, des TIC et
des comportements sur Internet et les rseaux sociaux, dmontrent plutt une corrlation en sens
inverse : les jeunes adeptes des rseaux sociaux enrichissent leur vie sociale physique plus quils ne
- 96 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

informatiques1, du piratage, de lescroquerie commerciale, dun


nivellement intellectuel par le bas2 ou, encore, de lexploitation non
contrle et non autorise des donnes personnelles Certaines de ces
peurs se sont avres en partie lgitimes et vos rapporteurs nentonnent pas
le refrain dun scientisme optimiste et naf devant les mutations issues des
technologies numriques. Ils ne souscrivent pas, pour autant, une
application strilisante du principe de prcaution qui empcherait la
recherche en intelligence artificielle : le prsent rapport le dmontre,
notamment dans les propositions qui seront dveloppes plus loin.
Lactualit, au-del de la victoire mdiatise juste titre dAlphaGo
de DeepMind dj voque et des rsultats de plus en plus significatifs
obtenus en intelligence artificielle, pourrait sembler mettre laccent sur les
risques lis lintelligence artificielle :
- le premier accident mortel lors dun trajet en voiture autonome, a
eu lieu en Floride dans un vhicule Tesla le 7 mai 2016, alimentant la peur
des vhicules autonomes. Le rapport dexpertise de lagence fdrale
amricaine de scurit routire (NHTSA) a ddouan Tesla et a invoqu des
facteurs humains, dans la mesure o le conducteur de la Tesla, cens
garder ses mains tout moment sur le volant, a eu sept secondes pour voir le
semi-remorque en travers de la route . Il sagissait en mai 2016 du premier
dcs sur plus de 209 millions de kilomtres parcourus par des voitures
Tesla avec le pilote automatique activ, or parmi tous les vhicules circulant
aux tats-Unis, il y a un dcs tous les 152 millions de kilomtres ;
- le premier accident responsable, mais sans victime, de la voiture
autonome construite par Google, la Google Car , a eu lieu le 14 fvrier
2016 sur une route de Mountain View ;
- Tay , un avatar algorithmique dintelligence artificielle cr par
Microsoft dans le but de conduire des conversations sur Twitter, est devenu

lappauvrissent. En la matire, le virtuel ne se substitue donc pas au rel. Rodolphe Glin et Olivier
Guilhem, respectivement directeur scientifique et directeur juridique dAldebaran puis de SoftBank
Robotics, ne croient pas que lintelligence artificielle puisse tre un fossoyeur des relations sociales et
rappellent que lorsque nos enfants jouaient des heures, seuls, sur leur console de jeux ou
leur ordinateur, nous redoutions quils deviennent des tres dsociabiliss ninteragissant
plus quavec leur machine. Ils ont aujourdhui beau jeu de nous dire que, grce aux rseaux
sociaux et aux jeux en rseau, ils sont bien plus en relation avec le monde que nous, perdus
dans nos livres en papier pendant des heures sans parler personne ! .
1 La peur infonde du bug de lan 2000 dans les annes 1990 avec son cortge de commentaires

mdiatiques excessifs devrait tre un exemple mditer.


2 Est-ce que Google nous rend idiots ? sinterrogeait Nicholas Carr en juin 2008 dans la

revue The Atlantic (traduction du nom anglais de larticle Is Google making us stupid ? ). La
consommation de plus en plus rapide et superficielle dinformations au travers des outils numriques
est patente et remet en question nos capacits intellectuelles traditionnelles, nos relations sociales et
nos habitudes de travail. Une tude canadienne publie en fvrier 2016 dmontre que les rseaux
sociaux encourageraient une pense rapide et superficielle pouvant, terme, entraner une
superficialit cognitive et morale (cf. Logan Annisette et Kathryn Lafreniere, Social media,
texting, and personality : a test of the shallowing hypothesis Department of Psychology,
University of Windsor).
PREMIRE PARTIE : - 97 -
LMENTS DE CONTEXTE

raciste en miroir de ses interlocuteurs1 quelques heures aprs son activation


le 23 mars 2016 ;
- une association franaise contre lintelligence artificielle (AFCIA) a
dpos ses statuts le 18 juillet 20152. Son prsident Cdric Sauviat a t
rencontr par vos rapporteurs, qui ont jug la fois son discours bien
construit et ses analyses excessives voire infondes, rvlatrices dun certain
climat dangoisse puisque la France serait le seul pays o une telle
association existerait3. LAFCIA juge illgitime et dangereuse la recherche
scientifique visant crer des organismes intelligence artificielle suprahumaine
et considre que le seul moyen dviter un avenir funeste pour lhumanit est
dobtenir linterdiction lgale de la recherche en intelligence artificielle lchelle
mondiale . Se dfinissant comme association de lobbying, elle vise obtenir
cette interdiction auprs des pouvoirs publics ;
- et plusieurs interventions mdiatiques, ptitions et lettres ouvertes,
ont cherch en 2015 interpeler lopinion propos des risques qui seraient
inhrents lintelligence artificielle4.
Des figures mdiatiques ont par ailleurs tenu des discours
catastrophistes. Ainsi, Stephen Hawking, professeur de mathmatiques
connu pour ses contributions dans les domaines de la cosmologie et la
gravit quantique, a dclar lanne dernire dans une interview la BBC
que les formes dintelligences que nous avons dj se sont montres trs utiles.
Mais je pense que le dveloppement dune intelligence artificielle complte pourrait
mettre fin la race humaine. Les humains, limits par une lente volution
biologique, ne pourraient pas rivaliser et seraient dpasss .
Bill Gates, le fondateur de Microsoft, sest aussi inquit en 2015 des
progrs de la superintelligence : dans quelques dcennies, lintelligence sera
suffisamment puissante pour poser des problmes .
Jacques Attali sest, son tour, expliqu sur les priorits souhaitables
en matire dintelligence artificielle et sest prononc la fin de lanne 2016
pour un moratoire sur les technologies dintelligence artificielle, ce qui a
surpris votre rapporteur Claude de Ganay.

1 Cette volution de Tay sest faite au contact dinternautes cherchant dlibrment tester les
limites du systme en le faisant draper dun point de vue politique et moral.
2 La lecture de son site, qui utilise en fond dcran des images extraites des films Metropolis et

Matrix, est difiante : http://afcia-association.fr/


3 Ce constat est renforc par lexistence dautres associations technophobes, inspires par John

Zerzan, Jacques Ellul, Ivan Illich ou Georges Bernanos et parfois par le no-luddisme, linstar du
collectif Pices et main-duvre (souvent abrg en PMO) :
http://www.piecesetmaindoeuvre.com/
4 limage en janvier 2015 de la lettre davertissement sur les dangers potentiels de lintelligence

artificielle signe par 700 personnalits (le plus souvent des scientifiques et des chefs dentreprise,
rejoints par plus de 5000 signataires en un an) et, en juillet 2015 pour louverture de la Confrence
internationale sur lintelligence artificielle qui sest tenue Buenos Aires, de la lettre signe par plus
de mille personnalits, demandant linterdiction des robots tueurs, lettres voques dans
lintroduction du prsent rapport.
- 98 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

5. Une recherche en intelligence artificielle qui saccompagne de


plus en plus dinterrogations et de dmarches thiques

Vos rapporteurs ont observ une multiplication des initiatives


visant la prise en compte de principes thiques dans la recherche et les
usages de lintelligence artificielle. Cela vaut pour la recherche publique,
comme pour la recherche prive, en Europe comme en Amrique. Il sagit
dune caractristique qui singularise la recherche en intelligence artificielle,
particulirement en France o les proccupations en matire de scurit et de
donnes personnelles sont fortes et font rgulirement dbat.
Ils dcrivent les dtails de cette ralit de plus en plus tangible plus
loin dans le rapport, dans la partie consacre la prise en compte
grandissante des enjeux thiques.

B. TABLEAU DE LA RECHERCHE FRANAISE EN INTELLIGENCE


ARTIFICIELLE

1. De nombreux organismes publics interviennent dans la


recherche en intelligence artificielle

Notre pays dispose, en matire de recherche en intelligence


artificielle, dimportants atouts faire valoir, riches de la comptence de ses
enseignants, de ses chercheurs et de ses tudiants, mme si la communaut
franaise de lintelligence artificielle est encore insuffisamment organise,
connue et visible. La reconnaissance internationale des travaux des
chercheurs franais doit beaucoup nos universits, au CNRS, nos
grandes coles (Polytechnique, ENS, Mines-Tlcom) mais aussi plus
spcifiquement deux organismes : le Commissariat lnergie atomique
et aux nergies alternatives (CEA) et ses nombreux centres de recherche (
limage de linstitut Carnot CEA-List spcialis dans les systmes
numriques intelligents pour lindustrie), et lInstitut national de recherche
en informatique et en automatique (Inria), cr ds janvier 1967 dans le
cadre du Plan Calcul sous le statut dtablissement public caractre
scientifique et technologique.
Les centres de recherche de lInstitut Mines-Tlcom, qui regroupe
les coles des mines et les coles des tlcommunications franaises, mritent
aussi dtre signals, notamment le centre de recherche en informatique
(CRI), le centre de Bio-informatique (CBIO) et le centre de Robotique
(CAOR).
Au total, Inria, le CNRS, le CEA, diffrentes universits et grandes
coles sont les principaux organismes de recherche publique en
intelligence artificielle et produisent des travaux visibilit
internationale.
PREMIRE PARTIE : - 99 -
LMENTS DE CONTEXTE

Cette excellence est reconnue linternational comme ont pu le


constater vos rapporteurs lors de leurs dplacements. Le bon niveau des
tudiants et des enseignants est galement souvent cit. Il leur a mme t
demand San Francisco de former en France plus dtudiants pour
alimenter en ressources la Silicon Valley.

Les principaux organismes de recherche publique en intelligence


artificielle ( visibilit internationale)

Source : ISAI/Paul Strachman

Lexcellence de lcole mathmatique franaise contribue nos


succs, avec un nombre de 13 mdaills Fields, soit une place de numro 2,
juste derrire les tats-Unis avec 14 mdaills Fields. LENS, avec ses
11 mdailles, figure en tte de la liste des institutions au niveau mondial.
Cinq de nos universits figurent dans le top 30 des universits de
mathmatiques et une dans le top 5. Nous disposons de plus de 200 coles
dingnieurs qui forment chaque anne 38 000 nouveaux diplms. Plusieurs
de ces coles disposent de cursus ou de formations en intelligence artificielle
ou en robotique.
Lhistoire montre que la recherche franaise en matire dintelligence
artificielle a toujours t assez forte et sest place une place enviable par
rapport ses concurrents en recherche fondamentale, mme si elle court le
risque dun dcrochage face aux pays les plus avancs dans la course
mondiale en intelligence artificielle, tats-Unis, Chine et Royaume-Uni en
tte.
Au tournant des annes 1970 et 1980, la recherche en intelligence
artificielle en France a connu une certaine acclration, avec notamment le
groupe de recherche parisien anim par Claude-Franois Picard appel
GR 22 . Jacques Pitrat, Jean-Louis Laurire, Jean-Franois Perrot et Jean-
Charles Pomerol y ont, par exemple, travaill. En 1987, il a pris le nom de
LAboratoire FORmes et Intelligence Artificielle (LAFORIA) puis a rejoint en
- 100 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

1989 lInstitut Blaise Pascal (IBP) avant de fusionner en 1997 au sein du


Laboratoire dInformatique de lUniversit Paris 6 dit LIP6 . Dautres
laboratoires investis dans la recherche en intelligence artificielle ont
galement marqu les annes 1980-1990 en France1. Beaucoup sont rappels
sous leur nom actuel au paragraphe suivant.
Un inventaire des douze principaux laboratoires du CNRS en
matire dintelligence artificielle ayant t dress par Grard Sabah2, vos
rapporteurs ont souhait les rappeler ici (le nombre de chercheurs par
laboratoire na pas t actualis et a pu connatre des variations depuis cet
inventaire) :
- le groupe de recherche en informatique, image, automatique et
instrumentation (GREYC), spcialis dans le traitement automatique des
langues, la smantique, et la fouille de donnes, bas Caen, compte 20
permanents ;
- lInstitut de recherche en informatique de Toulouse (IRIT) est
spcialis dans la communication, les agents intelligents, lingnierie des
connaissances, laide au handicap, et le traitement automatique des langues.
Il compte 40 collaborateurs ;
- le laboratoire darchitecture et danalyse des systmes (LAAS),
situ Toulouse, ddi au logiciel, la communication et la robotique,
compte 40 permanents ;
- le laboratoire danalyse et modlisation de systmes pour laide la
dcision (LAMSADE) bas lUniversit Paris-Dauphine, spcialis dans les
agents intelligents et modles coopratifs ainsi que dans la gestion des
connaissances, est compos de 15 chercheurs ;
- le laboratoire des langues, textes, traitements informatique et
cognition (LATTICE), tabli Paris, est spcialis dans le traitement
automatique des langues avec 5 permanents ;
- le laboratoire dinformatique fondamentale (LIF), tabli Marseille,
est spcialis dans lapprentissage et le traitement automatique des langues
et regroupe 17 agents ;
- le laboratoire dinformatique de Grenoble (LIG) est spcialis dans
lenvironnement pour apprentissage, la traduction automatique, la ralit
virtuelle et les agents intelligents, il est compos de 35 permanents ;
- le laboratoire dinformatique pour la mcanique et les sciences de
lingnieur (LIMSI) bas Orsay et spcialis en agents communicants, le
traitement automatique des langues et de la parole, ainsi quen ralit
virtuelle, regroupe 15 chercheurs ;

1 Le Laboratoire dInformatique pour la Mcanique et les Sciences de lIngnieur (LIMSI) Orsay,


lInstitut de recherche en informatique et en automatique (IRIA) et en particulier le Laboria (autour
de Grard Huet) Rocquencourt, le GIA (autour dAlain Colmerauer) Marseille, le CRIN Nancy
ou, encore, le CERFIA Toulouse.
2 Cet inventaire est prsent dans la brochure de lAcadmie des Sciences dj cite.
PREMIRE PARTIE : - 101 -
LMENTS DE CONTEXTE

- le laboratoire dinformatique de Paris-Nord (LIPN) spcialis dans


lapprentissage, la logique, le calcul, le raisonnement, la reprsentation des
connaissances et le traitement automatique des langues. On y dnombre 25
collaborateurs ;
- le laboratoire dinformatique, de robotique et de microlectronique
de Montpellier (LIRMM) spcialis dans lapprentissage, les contraintes, la
reprsentation des connaissances, les systmes multi-agents, le traitement
automatique des langues, la visualisation, le web smantique. Il est compos
de 17 permanents ;
- le laboratoire lorrain de recherche en informatique et ses
applications (LORIA) situ Nancy, est spcialis dans la communication
multimodale, la reprsentation et la gestion des connaissances, la
reconnaissance de lcriture, le traitement automatique des langues et de la
parole. Il regroupe 30 agents ;
- le laboratoire de recherche en informatique (LRI) tabli en rgion
parisienne, est spcialis dans lapprentissage et loptimisation, les systmes
dinfrence. Il compte 24 permanents ;
- le laboratoire techniques de lingnierie mdicale et de la
complexit (TIMC) bas Grenoble, est spcialis dans lapprentissage, la
smantique, la gestion et le traitement des connaissances. Il est compos de
12 collaborateurs.
En plus de ces laboratoires publics, de nombreuses entreprises
franaises ont tabli des laboratoires en partenariat avec des organismes
publics de recherche. Il peut tre cit les cas des entreprises Thals, EDF,
Engie, PSA, Total ou encore Solvay (entreprise belge mais cote la bourse
de Paris et faisant partie de lindice CAC 40). Les entreprises trangres font
aussi de la recherche fondamentale en IA sur le territoire national, linstar
de Facebook, IBM, Microsoft ou encore Huawei.
Votre rapporteure Dominique Gillot souligne la volont des
organismes de recherche de dvelopper des partenariats avec les entreprises
pour soutenir la fcondit des initiatives de type start-up (dont il sera
question aux pages suivantes) et surtout doffrir un cadre de recherche
stabilis au-del du rythme contractuel souvent dnonc, soit trois ans.

2. Quelques exemples de centres, de laboratoires et de projets de


recherche

Les start-up profitent galement des atouts des centres de


recherche franais en intelligence artificielle. Ainsi, Heuritech sappuie sur
les travaux de recherche de deux laboratoires publics le LIP6 (CNRS) et
lISIR de lUPMC (Paris VI) pour proposer sa solution logicielle Hakken
danalyse smantique, de tagging et classement automatiques de textes,
- 102 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

images et vidos1, en sappuyant sur des technologies de machine learning et


en particulier de deep learning. Les avances en matire de robotique en
France ont permis des innovations dessaimer. Bon exemple, la start-up
Angus.AI, cre par danciens ingnieurs de lentreprise Aldebaran ayant
dvelopp la partie logicielle des robots Nao et Pepper, a ainsi dvelopp
une solution logicielle embarque dans les robots leur apportant des
fonctions de base de reconnaissance vocale et faciale et de dtection
dobstacles, qui sont fournies sous la forme dun kit de dveloppement et
dinterfaces de programmation applicative (souvent dsigne par le terme
API pour Application Programming Interface), en recourant largement des
solutions open source. Cette entreprise est dj sous contrat avec la SNCF.
Le Laboratoire dinformatique pour la mcanique et les sciences de
lingnieur (LIMSI-CNRS), situ Orsay, sur le campus de lUniversit
Paris-Sud, au sein de lUniversit Paris-Saclay, mne des recherches sur deux
grands thmes : la mcanique et lnergtique, dune part, et la
communication homme-machine dautre part. Les recherches en interaction
homme-machine portent sur : lanalyse, la comprhension et la modlisation
des interactions entre humains et systmes artificiels dans des contextes et
selon des modalits les plus varies, les interactions haptiques, tangibles,
gestuelles et ambiantes, la psychologie des interactions affectives non
verbales et collectives chez lhumain ainsi que sur la conception dinterfaces
homme-machine les faisant intervenir, ou, enfin, sur les dispositifs de ralit
virtuelle et augmente.
Le Laboratoire lorrain de recherche en informatique et ses
applications (LORIA-CNRS et Universit de Lorraine), bas Nancy est un
autre exemple de centre qui mrite dtre cit. Un grand nombre de projets
de recherche fondamentale en intelligence artificielle rfrencs sur son site
font appel aux technologies de lintelligence artificielle, mme sils ne sont
pas forcment labelliss intelligence artificielle, machine learning ou rseaux
neuronaux. Cest ainsi le cas du projet Orpailleur2 men Nancy en lien avec

1 Ils proposent aussi HeuritechDIP qui permet damliorer sa connaissance des clients et danticiper
leurs besoins, videmment, surtout dans les applications de commerce en ligne.
2 Le projet vise la dcouverte de connaissances dans les bases de donnes (KDD pour Knowledge

Discovery in Databases) et utilise lingnierie des connaissances (KE pour Knowledge Engineering).
Le processus de KDD consiste traiter de grands volumes de donnes pour y dcouvrir des motifs
qui sont signifiants et rutilisables. En considrant les motifs comme des ppites dor et les bases de
donnes comme des rgions explorer, le processus de KDD peut tre compar la recherche dor.
Cette analogie explique le nom de lquipe, o lorpailleur dsigne le chercheur dor. Le processus de
KDD est interactif et itratif et sappuie sur trois oprations principales : la prparation des donnes,
la fouille de donnes et linterprtation des motifs extraits. Les connaissances du domaine peuvent
tre prises en compte pour guide et amliorer le processus de KDD, conduisant la dcouverte de
connaissances guide par les connaissances du domaine (KDDK pour Knowledge Discovery guided
by Domain Knowledge). Les motifs dcouverts peuvent tre reprsents comme des lments de
connaissances en utilisant un langage de reprsentation des connaissances et servir en rsolution de
problmes. La dcouverte de connaissances et lingnierie des connaissances sont deux processus
complmentaires qui servent de support aux recherches menes dans lEPI Orpailleur. Les domaines
dapplication traits par lEPI Orpailleur sont lis aux sciences de la vie et comprennent
lagronomie, la biologie, la chimie et la mdecine. La cuisine, la culture et lhritage culturel , la
PREMIRE PARTIE : - 103 -
LMENTS DE CONTEXTE

Inria et ddi la reprsentation des connaissances et au raisonnement.


Lquipe travaille sur lextraction de donnes dans les bases de
connaissances non structures, et notamment dans le domaine de la sant, le
mme que celui qui est investi par IBM Watson et de nombreuses start-up.

3. Une reconnaissance internationale de la recherche franaise et


qui saccompagne dun phnomne de rachat de start-up et de
fuite des cerveaux li aux conditions attractives offertes
ltranger

Outre le dpart de Yann LeCun, pour lUniversit de New York puis


pour Facebook, vos rapporteurs ont constat un phnomne de rachat de
start-up et de fuite des cerveaux li aux conditions attractives offertes
ltranger. Lors de son audition, Stphane Mallat a fait valoir que depuis
plusieurs annes la quasi-totalit des tudiants issus des masters
spcialiss de lENS quittaient la France aussitt effectue leur formation.
La reconnaissance des talents franais est donc certaine. Mais cela
conduit un pillage de nos talents qui rsulte de conditions attractives,
commencer par les salaires, qui conduisent une aspiration des jeunes
diplms franais spcialiss par les entreprises, le plus souvent des
entreprises amricaines. Le mirage de la Silicon Valley fait sans doute rver
beaucoup de jeunes esprits brillants mais cette caractristique nest pas
propre la France.
Votre rapporteure Dominique Gillot relve que les salaires sont
beaucoup plus levs San Francisco qu Paris, mais les conditions de vie
ny sont pas toujours meilleures mme avec un salaire bien suprieur (vie
plus chre, infrastructures de transports, de sant, prsence dcoles pour les
enfants etc.) : lquilibre avantages/inconvnients est donc plus complexe
quil ny parat premire vue, surtout que la France - et Paris en
particulier reprsente un cosystme de qualit, avec une vie sociale et
culturelle trs riche, un environnement intellectuel stimulant, des lieux de
formation performants et des chercheurs de trs bon niveau.
Il faut permettre ces jeunes gnies, qui sont autant dentrepreneurs
en devenir, de disposer dopportunits en France et permettre aux start-up
de se dvelopper sans tre rachetes par les gants amricains, chinois ou
japonais ds quelles prsentent un profil viable. Le cas dAldebaran, rachet
par le japonais SoftBank, illustre le fait que nos talents ne sont pas chasss
que par les firmes amricaines du numrique mais aussi par les gants
chinois ou japonais.

scurit et la qualit des rseaux de tlcommunications sont aussi des domaines dintrt pour
lquipe. https://www.inria.fr/equipes/orpailleur
- 104 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

4. Une communaut franaise de lintelligence artificielle encore


insuffisamment organise et visible

La communaut franaise de lintelligence artificielle se constitue


surtout en dehors des institutions - de lassociation franaise pour
lintelligence artificielle (AFIA) en particulier - travers les meetups. Le
principal dentre eux, le Paris Machine learning Meetup 1, auquel ont t
invits vos rapporteurs, reprsentent 5 205 membres au 1er mars 2017.
Ses animateurs Igor Carron, Franck Bardol, Frdric Dembak et
Isabelle Guyon jouent maintenant un rle cl dans la communaut franaise
de lintelligence artificielle. Les runions sont en gnral mensuelles et
runissent des centaines de participants. Il peut, par exemple, sagir
dchanges entre dveloppeurs utilisant TensorFlow, la technologie de
Google mise en open source.
Dautres meetups peuvent tre cits : Paris.AI Meetup , Big Data
Paris Meetup , Deep Learning Meetup Paris , Big Data et Machine learning
Paris Meetup .
Daprs les chiffres provisoires du Gouvernement dans le cadre de la
cartographie ralise pour France IA il existerait 230 quipes de recherche
publique rparties sur toute la France, dont 50 en rgion parisienne, ce qui
reprsenterait 5 300 chercheurs en France, ce nombre de chercheurs
travaillant sur lintelligence artificielle pouvant varier de faon significative
selon quon y inclut ou pas la recherche SHS portant sur lintelligence
artificielle. La comptence de nos chercheurs est reconnue.
Vos rapporteurs ont relev, par ailleurs, lexistence dune
association franaise pour lintelligence artificielle (AFIA). Socit savante
compose denviron 300 membres, lAFIA semble souffrir dune certaine
fermeture sur elle-mme. Elle a t cre en 1993 en vue de lorganisation de
la confrence internationale en intelligence artificielle, ce qui tait une
ncessit pour grer lorganisation, mais cest donc sous leffet de la
structuration internationale de ce champ de recherche plus que de la
mobilisation des chercheurs franais que lAFIA a t cre. Lassociation
sassume comme socit savante dun sous-secteur de linformatique. Elle
aurait tout intrt transcender ses propres limites pour relever le dfi
dune intelligence artificielle franaise ouverte, visible et conqurante.

1 Voir le site https://www.meetup.com/fr-FR/Paris-Machine-learning-applications-group/ et le site


dIgor Carron http://nuit-blanche.blogspot.fr/
PREMIRE PARTIE : - 105 -
LMENTS DE CONTEXTE

Tableau de la communaut franaise de lintelligence artificielle


la fin de lanne 2016

Source : ISAI/Paul Strachman

La communaut franaise de lintelligence artificielle reste encore


insuffisamment organise et visible. Et la question du lien avec les
institutions publiques doit tre pose.
Votre rapporteure Dominique Gillot fait tat de lexprience des
groupements de recherche interdisciplinaires dans lesquels il y a aussi des
entrepreneurs. Les groupements de recherche (GdR) ont pour missions
lanimation de la diffusion des connaissances dans une communaut
thmatique, leffort de rapprochement entre plusieurs types de partenaires
(institutionnels, industriels ou prestataires), le dveloppement dchanges de
chercheurs, de doctorants ainsi que de faciliter la mise en place de bourses
doctorales ou postdoctorales. Les GdR poursuivent lobjectif daccompagner
la recherche dans un domaine spcifique et ses applications, de fdrer une
communaut pluridisciplinaire et de diffuser les fruits des rflexions
menes, des avances tant thoriques que technologiques et des rsultats
oprationnels obtenus. Un GdR est une structure originale mise en place par
le CNRS afin dencourager la coopration des chercheurs des laboratoires
quil rassemble avec des industriels et des organismes de R&D sur des
objectifs fixs lavance. Son rle consiste coordonner, rapprocher et
valuer les travaux des quipes concernes.
- 106 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

5. La sous-estimation des atouts considrables de la France et le


risque de dcrochage par rapport la recherche
internationale en intelligence artificielle

La France se situe un stade intermdiaire en matire de


publications dans le domaine de lintelligence artificielle tout en disposant
dun rseau de chercheurs trs comptents et dun tissu de start-up trs
dynamique. Les atouts considrables du systme denseignement suprieur
et de recherche franais sont connus : excellence de lcole mathmatique
franaise, qualit de la recherche et des dipms
On dnombre un total de 240 start-up spcialises en intelligence
artificielle (comme, en France, Partnering Robotics, Bayes Impact, Yseop,
Prestashop, Adomik, Gorgias, Owkin, SearchXPR, Placemeter, Otosense,
Wit.ai, Wca Robotics, Rhythm, Intuitive surgical, Lore.ai, ou au Royaume-
Uni BigRobots et en Russie Brainify).
Le tissu de start-up, que linitiative French Tech vise renforcer, est
trs riche et, selon linvestisseur en intelligence artificielle, Paul Strachman,
que vos rapporteurs ont auditionn : La France est lun des cosystmes les
plus vibrants en ce qui concerne lintelligence artificielle. Malheureusement, cela
nest pas trs su en dehors de la France. Et parfois mme en-dedans . Il convient
de noter quil a tenu ces propos lors dune confrence France is AI quil a
organise Paris du 16 au 18 septembre 2016. Depuis, cette connaissance
sest amliore, la prise en compte de cet atout est notamment visible du ct
des pouvoirs publics dans la stratgie France IA .
PREMIRE PARTIE : - 107 -
LMENTS DE CONTEXTE

Les start-up franaises en intelligence artificielle et robotique

Source : ISAI/Paul Strachman

Plusieurs signes positifs peuvent tre relevs, dont le succs et


lambition internationale dentreprises franaises, comme BlaBlaCar,
Criteo ou Drivy, et louverture de formations alternatives dans le secteur
du numrique (lcole 42 de Xavier Niel par exemple).
Selon les donnes de Stack Overflow, lEurope compte dsormais
4,7 millions de dveloppeurs (contre 4,1 millions aux tats-Unis). Et Paris
est lune des capitales europennes qui comptent le plus grand nombre de
ces profils trs recherchs sur le march.
Pour Mark Zuckerberg, le Prsident de Facebook, la France dispose
de lune des communauts de chercheurs en intelligence artificielle la plus forte du
monde . De mme Mike Schroepfer, le directeur technique de Facebook,
estimait en 2015 que Paris avait la plus grande concentration de toute lEurope
en matire dintelligence artificielle .
Une dclaration qui sest accompagne de louverture en juin 2015
dun laboratoire de recherche consacre lintelligence artificielle Paris,
justement prfre Londres, sachant que les travaux de Facebook dans ce
domaine sont, au niveau mondial, pilots par le chercheur Yann LeCun,
rencontr plusieurs reprises par vos rapporteurs.
- 108 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Niklas Zennstrm, P-DG dAtomico et cofondateur de Skype,


explique dans une tribune au journal Les chos que la capitale franaise
pourrait devenir le creuset des grands leaders qui rvolutionneront le secteur
high-tech dans les dix ans qui viennent .
Mais, comme le prcise un article de Venture Beat1, utilisant des
donnes collectes par Paul Strachman, entre janvier 2014 et mi-octobre 2016,
une trentaine de start-up franaises spcialises en intelligence artificielle
levaient 108 millions de dollars (98 millions deuros), quand dans le mme
temps, outre-Manche, huit start-up amassaient elles seules 900 millions de
dollars (814 millions deuros). Londres possde donc une avance indniable
sur Paris en la matire.
La France, qui est ce stade encore distance par le Royaume-Uni,
serait par ailleurs trs en avance par rapport aux autres tats europens. Le
niveau de financement reste encore en-de des besoins.
Selon votre rapporteure Dominique Gillot, la disponibilit des
donnes et des articles auxquels se rfrer ne rend pas rellement compte de
la ralit nationale dans une dmarche o les choses voluent trs vite :
chaque jour des start-up naissent de la rencontre et de la volont de jeunes
(ou de moins jeunes) diplms qui dcouvrent les opportunits de lier
lemploi et la valeur. Mme si tous ces crateurs de start-up ne rvent pas
dtre cots en bourse et dtre rachets par de grands groupes, lintrt de
ces derniers existe : ils voient dans cette effervescence un moyen
dexprimenter de nouvelles pratiques, des dcouvertes qui pourront se
rvler fructueuses, dans un cadre beaucoup plus souple et ractif que celui
contraint par des rgles du droit du travail et de la lgislation vcue comme
un carcan. Les structures qui investissent dans des secteurs peu identifis
garantissent la plasticit et la ractivit de ces initiatives dont il faudra
analyser la longvit.

1 http://venturebeat.com/2016/11/06/france-makes-its-bid-to-be-recognized-as-a-global-ai-hub/
PREMIRE PARTIE : - 109 -
LMENTS DE CONTEXTE

Les start-up franaises en intelligence artificielle par domaine


dapplication

Source : Gouvernement

Lexemple de Snips
Snips.ai est une start-up connue du secteur de lintelligence artificielle,
cre en 2013, par Rand Hindi (prix du MIT 30 en 2015), Mael Primet et Michael
Fester. Leur dernire leve de fonds de 5,7 millions deuros en juin 2015 prsente la
particularit dassocier Bpifrance avec des investisseurs amricains, en plus de
business angels tels que Brent Hoberman et Xavier Niel. Lquipe comprend
35 personnes : des data-scientists, des dveloppeurs, designers et quelques
marketeurs. Leur positionnement est large et un peu vague : rendre la technologie
invisible et les usages intuitifs via de lintelligence artificielle.
ce titre, la start-up a dvelopp des applications exprimentales telles
que : snips (un ensemble dapplications de recherche pour iOS dont un clavier
virtuel intelligent pour la recherche dadresses), Tranquilien (qui prdit les places
disponibles dans les trains de banlieue), Parkr (la mme chose pour prdire les
places de parking), Flux (qui identifie le trafic mobile en sappuyant sur les donnes
des smartphones), RiskContext et SafeSignal (identification de risques daccidents
sur la route). Elle travaille aussi sur des applications verticales : pour les vhicules
connects, dans lhtellerie, la maison connecte et les loisirs numriques. Elle
sappuie sur du deep learning, des modles probabilistiques, du traitement du
langage, de la gestion de graphes et du cryptage de donnes pour garantir le
respect de la vie prive.
- 110 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

CardioLogs Technologies a t cre en 2014 une solution


dinterprtation automatique des lectrocardiogrammes (ECG) en temps rel
sappuyant sur du machine learning. Il ne sagit pas ce stade dune
ubrisation des actes des cardiologues mais bien de permettre un suivi
plus rgulier des patients risques ou atteints de maladies chroniques.
Lattractivit franaise peut galement tre releve avec les cas des
entreprises trangres ayant fait le choix de conduire une part de leur
recherche en intelligence artificielle en France.

Exemples dentreprises trangres ayant fait le choix de


conduire une part de leur recherche en intelligence artificielle en France

Source : ISAI/Paul Strachman

Il convient en outre de relever lexistence ltranger dune


importante diaspora des chercheurs franais en intelligence artificielle.
Elle pourrait sans doute tre davantage connue, anime, considre et mise
contribution.
Au final, vos rapporteurs dplorent la sous-estimation des atouts
considrables de la France mais ils appellent lattention sur la ncessit
dune vigilance forte sur le risque de dcrochage par rapport la
recherche internationale en intelligence artificielle.
DEUXIME PARTIE : - 111 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

DEUXIME PARTIE :
LES ENJEUX DE LINTELLIGENCE ARTIFICIELLE

I. LES CONSQUENCES CONOMIQUES ET SOCIALES DE


LINTELLIGENCE ARTIFICIELLE

A. DIMPORTANTES TRANSFORMATIONS CONOMIQUES EN COURS


OU VENIR

1. Lvolution vers une conomie globalise domine par des


plateformes

Ces technologies, leurs usages et leurs artisans ayant t dcrits, il


importe didentifier leurs impacts sociaux et conomiques potentiels, pour
en relever ensuite les enjeux thiques et juridiques.
Alors quIsaac Asimov affirmait qu il est une chose dont nous avons
maintenant la certitude : les robots changent la face du monde et nous mnent vers
un avenir que nous ne pouvons encore clairement dfinir (Le Cycle des robots), les
transformations que nous connaissons dun point de vue conomique et
technologique semblent tre les signes avant-coureurs de lvolution vers
une conomie globalise de plateformes . Vos rapporteurs ont eu
confirmation de cette intuition lors de leur dplacement aux tats-Unis.
Daprs Brian Krzanich, P-DG dIntel, premier fabricant mondial de
microprocesseurs, lintelligence artificielle nest pas seulement le prochain raz de
mare de linformatique, cest aussi le prochain tournant majeur dans lhistoire de
lhumanit . Il est vrai quelle peut devenir lun des fondements de la socit
et de lconomie de demain.
On parle des GAFA , parfois des GAFAMI , mais il serait plus
juste de parler des GAFAMITIS 1, NATU 2 et BATX 3. Ces exemples
emblmatiques des bouleversements en cours sont les prmisses de la place
dominante et monopolistique occupe par quelques entreprises dans un
contexte dconomie globalise de plateformes . Un accroissement
significatif des investissements dans la recherche en intelligence artificielle
est constat. Chacune de ces entreprises est entre dans une course pour
acqurir une position de pointe dans les technologies dintelligence
artificielle afin de tirer profit de la situation dominante qui en rsultera.
Comme laffirme Guillaume Devauchelle, directeur de la R&D de Valeo
dans la rue vers lor en Amrique, ceux qui ont fait fortune, ce sont surtout les

1 Google, Apple, Facebook, Amazon, Microsoft, IBM, Twitter, Intel et Salesforce. Ces entreprises
amricaines reprsentent la pointe de la recherche et des applications de lIA.
2 Netflix, Airbnb, Tesla et Uber.
3 Lexpression dsigne les gants chinois du numrique : Baidu, Alibaba, Tencent et Xiaomi.
- 112 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

vendeurs de pioches et de pelles. Cest exactement ce que nous sommes : nous


fournissons des technologies . Grce leurs efforts en R&D et aux rachats de
start-up, les grands quipementiers sont bien positionns dans la chane de
valeur automobile. Valeo fait la course en tte et, avec la voiture autonome,
se positionne dores et dj comme la future principale plateforme de
fourniture de technologies innovantes aux constructeurs automobiles.
En effet, les technologies dintelligence artificielle renforcent le
modle the winner takes it all , ou au moins the winner takes it most ,
ce qui pourrait bien conduire une concentration horizontale progressive
des grandes entreprises, conduisant au monopole de plateformes
dominant une conomie globalise.
On assiste une monte en puissance significative du nombre des
acquisitions, aprs 140 start-up en intelligence artificielle achetes de 2011
2016, on a vu, en 2016, 40 start-up en intelligence artificielle tre achetes par
des grandes entreprises, pour des valeurs allant de 30 millions 400 millions
de dollars.

Le mouvement de concentration autour de lintelligence artificielle


visible dans les stratgies dacquisitions

Source : Gouvernement Lgende :

En mars 2017, un partenariat entre IBM et Salesforce, premier


employeur de San Francisco (dont vos rapporteurs ont rencontr des
responsables en son sige), a t conclu sous lappellation : Watson meets
DEUXIME PARTIE : - 113 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

Einstein , du nom de chacun des systmes dintelligence artificielle mis en


place par ces deux entreprises. Il sagit dune exploitation des technologies
de manire associe, travers une interface de programmation applicative
(souvent dsigne par le terme API, soit Application Programming Interface).
Vos rapporteurs observent quIntel dveloppe sa plateforme de
solutions en intelligence artificielle Nervana. Lentreprise Intel reprsente,
elle seule, 97 % des serveurs de data centers oprant dans le domaine de
lintelligence artificielle. Ils relvent quune alliance stratgique a t noue
entre Google et Intel afin de fournir une infrastructure multiple sur le cloud,
ouverte, flexible et scurise.
Dans le secteur mdical, des Uber de la sant pourraient gagner
une place de premier plan, le site mondocteur.fr constituant un exemple
de plateforme fort potentiel marque par la convergence NBIC.
Lanalyse de donnes et les outils de prdiction sont devenus des
incontournables des offres informatiques pour les entreprises, avec
lhbergement dans le cloud. IBM, Amazon, Baidu, Microsoft et Google y
travaillent depuis plusieurs annes. Des socits spcialises dans les
services professionnels, comme Oracle, Salesforce ou SAP, sy dploient.
Mais, l o ses concurrents se concentrent sur un secteur ou un produit en
particulier, IBM imagine Watson comme une plateforme capable de
sadapter tous les besoins dune entreprise.
Au dbut de lanne 2014, IBM avait annonc consacrer un milliard
de dollars pour transformer Watson en division indpendante. Deux ans
plus tard, il ajoutait 3 milliards de dollars dans la balance, cette fois-ci
consacrs lInternet des objets, puis 200 millions de dollars pour achever le
centre de recherche de Munich. IBM a aussi investi des milliards de dollars
dans des entreprises et start-up spcialises pour nourrir Watson de donnes
diverses : dans la mtorologie, la reconnaissance dimage, le domaine
mdical, etc. Le nombre demploys affects Watson frle dsormais les
10 000 personnes, dont 800 en France. Selon lentreprise, aujourdhui, lre
des systmes cognitifs, les systmes peuvent apprendre aprs des expriences,
dtecter des corrlations, crer des hypothses, et aussi mmoriser les rsultats et en
tirer des enseignements .
Uber a cr un laboratoire de recherche sur lintelligence artificielle
San Francisco. Lentreprise a en effet rachet la start-up Geometric
Intelligence pour crer ce laboratoire nomm Uber AI Labs . Les
applications potentielles sont innombrables. Mais ce stade, le laboratoire
aurait pour mission de se concentrer sur deux innovations en particulier :
amliorer lalgorithme dUber pour faciliter la rencontre entre un chauffeur
et un passager et trouver de nouvelles techniques pour construire un
vhicule autonome performant. En aot 2016, Uber ajoutait Otto son actif,
une jeune pousse qui dveloppe des kits pour rendre les camions autonomes,
un contrat de 680 millions de dollars.
- 114 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Il convient dobserver que Google a galement rachet, en 2013,


Waze, la start-up isralienne lorigine du fameux service dinformation en
matire de trafic routier en temps rel, pour 1 milliard de dollars.
Les entreprises du secteur automobile achtent des entreprises du
numrique ou nouent des partenariats (Google-Fiat-Chrysler, Google-
Honda, Amazon-Ford, BMW-IBM, BMW-Mobileye, Volvo-Uber, Tesla-Uber,
Renault-Nissan-Microsoft). BMW se rapproche dIBM pour travailler sur le
systme cognitif de Watson, les deux entreprises ont ainsi annonc un
partenariat au travers duquel elles travailleront sur le systme cognitif de
Watson pour amliorer la personnalisation de lexprience de conduite.
Aprs le rapprochement entre Google et le groupe Fiat-Chrysler depuis mai
2016, cest le constructeur japonais Honda qui sest rapproch de
Google-Waymo. Honda est dj partenaire du service asiatique Grab qui
teste des solutions similaires. Grab travaille sur des voitures autonomes
capables dvoluer seules sur les routes ds 2020 mais requrant la prsence
dun conducteur, alors que Waymo veut se dispenser totalement du
chauffeur.
Amazon a russi intgrer son systme de domotique Alexa dans
les voitures de Ford, ce qui permettra au propritaire de contrler les objets
connects de sa maison depuis sa voiture et vice versa. Quant Microsoft, il
apporte les confrences audio de Skype dans les voitures Volvo, son assistant
vocal Cortana chez BMW et Nissan. Les algorithmes et camras intelligentes
de Mobileye sont utiliss par BMW pour dployer une flotte de 40 vhicules
autonomes cette anne.
Pour conclure en ce qui concerne le secteur automobile, Rmi
Cornubert, dAT Kearney, explique quavant le monde automobile tait
simple, trs pyramidal : le constructeur tait le donneur dordres qui travaillait
avec des fournisseurs. Aujourdhui, avec la rvolution de la connectivit, de la
voiture autonome et des services la mobilit, les cloisons sautent, il est impossible
pour un constructeur de tout matriser . Carlos Ghosn, prsident de Renault-
Nissan reconnat qu on ne peut pas tout faire .
Vos rapporteurs relvent que le patronat franais sinscrit dans la
dmarche de transformation en cours. Le MEDEF a ainsi prpar en 2017 le
projet Mtamorphose , qui vise dfinir une pyramide de changement sur
quatre niveaux : un socle de mobilisation sur la rvolution numrique, des
big data et des NBIC, un socle de formation, un socle daccompagnement,
avec les incubateurs et les cosystmes du numrique et, enfin, la pointe du
financement, permettant la transformation des PME.
DEUXIME PARTIE : - 115 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

Le projet Mtamorphose du MEDEF


Lenjeu des objets connects permet de capter de nombreuses donnes, qui
deviennent les ressources fondamentales de nombreux domaines en devenir, linstar de
lintelligence artificielle ou de la chane de blocs (Blockchain). ce titre, lintelligence
artificielle tait trs prsente au Consumer Electronics Show de Las Vegas en 2016.
Lintelligence artificielle se niche dans des applications utilises au quotidien, telles que
les correcteurs orthographiques. Lenjeu essentiel de lintelligence artificielle est dalimenter
lapprentissage profond (deep learning) et lapprentissage automatique (machine learning),
auxquels les GAFAMI sattellent.
Le MEDEF est actuellement en pleine prparation du projet Mtamorphose . Ce
projet vise dfinir une pyramide de la mtamorphose btie sur quatre niveaux. Tout
dabord, cette pyramide repose sur un socle de mobilisation sur la rvolution numrique,
des big data et des NBIC. Ensuite sajoute un socle de formation, notamment avec le travail
men sur les campus numrique qui fournissent des outils dvaluation de numrisation
des entreprises. Au-dessus, se trouve le socle daccompagnement : incubateurs,
cosystmes de start-up du numrique, pour accompagner les petites et moyennes
entreprises (PME) qui ont besoin de se transformer. Enfin, au sommet se trouve la pointe
du financement, qui a pour objectif la cration de fonds de financement permettant la
transformation des PME.
Ce projet vise deux cibles : les cent mille PME qui doivent se transformer, et les
start-up franaises. Il est impratif, selon le MEDEF, que les jeunes pousses se transforment
et mutent en PME, voire en grands groupes internationaux. Ces entreprises mergentes
regorgent de talents et de chercheurs de haut niveau ; il serait dommage que la France se
fasse piller ses talents. Il est donc indispensable daider les start-up se transformer grce
un financement franais. Cela implique de garder les expertises et centres de dcision en
France, malgr la mondialisation de ce domaine, et que certaines rformes se fassent.
Un second niveau, au niveau europen, est galement ncessaire, au travers de la
coopration avec des partenaires tels que lAllemagne.
Source : Intervention de Pierre Gattaz, prsident du MEDEF, lors de la journe Entreprises franaises et
intelligence artificielle organise par le MEDEF et lAFIA le 23 janvier 2017

2. Un risque de redfinition, sous leffet de ce nouveau contexte


conomique, des rapports de force politiques lchelle
mondiale

Dans ce nouveau contexte conomique, les rapports de force


politiques pourraient tre progressivement bouleverss une chelle
mondiale. Le poids pris par les grandes entreprises prives plateformistes,
GAFAMITIS1, NATU2 et BATX3 fait courir dimportants risques au principe
traditionnel de souverainet ainsi quaux systmes dmocratiques que nous
connaissons.

1 Google, Apple, Facebook, Amazon, Microsoft, IBM, Twitter, Intel et Salesforce.


2 Netflix, Airbnb, Tesla et Uber.
3 Lexpression dsigne les gants chinois du numrique : Baidu, Alibaba, Tencent et Xiaomi.
- 116 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

La question dpasse le sujet de la colonisation numrique et celui


de la domination amricaine, voire chinoise, ou de pays mergents comme
lInde. Ces questions devront faire lobjet dune grande attention de la part
des pouvoirs publics, car les mouvements de concentration capitalistique qui
sont en cours vont dans le sens dcrit prcdemment, savoir celui dune
conomie globalise domine par des plateformes , situes au-dessus des
nations. Les monopoles rsultant dune concentration horizontale puis
verticale pourraient disposer dune puissance lchelle mondiale sans
quivalent historique connu.

3. Des bouleversements annoncs dans le march du travail :


perspectives de crations, dvolutions et de disparitions
demplois

La rsolution relative aux rgles de droit civil sur la robotique


adopte le 16 fvrier 2017 par le Parlement europen, qui fait suite au
rapport de la dpute europenne Mady Delvaux, estime, dans lun de ses
considrants, que lutilisation gnralise de robots pourrait ne pas entraner
automatiquement une destruction demplois, mais que des emplois moins qualifis
dans les secteurs forte intensit de main-duvre risquent dtre plus vulnrables
lautomatisation . Anim par la mme proccupation, le rseau de lEuropean
Parliamentary Technology Assessment (EPTA), auquel appartient lOPECST, a
consacr en 2016 sa confrence annuelle au thme de limpact des nouvelles
technologies numriques et robotiques sur le march du travail. Lensemble
des contributions prsentes par les dix-sept organes dvaluation
scientifique membres de lEPTA ont t regroupes sous le titre Lavenir du
travail lre numrique 1.
Sur cette question hautement sensible, vos rapporteurs ont
entendu des pronostics trs contrasts lors de leurs auditions. Selon Cdric
Sauviat, prsident de lassociation franaise contre lintelligence artificielle
(AFCIA), ce ne sont pas seulement les emplois de la classe moyenne et des
ouvriers qui sont menacs, mais galement des emplois dexpertise, comme les
emplois de mdecins ou davocats. Lintelligence artificielle touche des domaines de
plus en plus vastes ; de fait, toutes les couches du march du travail seront
concernes par lintelligence artificielle . En sens inverse, Marie-Claire Carrre-
Ge, prsidente du Conseil dorientation pour lemploi (COE) estime que le
rle de cette instance est danticiper, autant que faire se peut, les consquences
du progrs technologique en cours sur lemploi, dans un contexte o le dbat public
est marqu par des tudes donnant au pourcentage prs le nombre demplois
dtruits. La situation est trs anxiogne. Certes, la crainte du chmage est un grand
classique chaque vague dinnovation technologique. Keynes lui-mme avait prdit
un chmage massif. Pourtant, lhistoire montre que depuis toujours le progrs
technologique a cr des emplois .

1Pour consulter les actes de la confrence annuelle 2016 de lEPTA :


http://epub.oeaw.ac.at/ita/ita-projektberichte/EPTA-2016-Digital-Labour.pdf
DEUXIME PARTIE : - 117 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

Ces divergences danalyses sexpliquent dans une large mesure par


des diffrences dapproches mthodologiques et par la difficult inhrente
toute dmarche prospective dans ce domaine minemment mouvant :
finalement, ce sont les convictions personnelles qui lemportent lorsquil
sagit dapprcier globalement lincidence future de lintelligence artificielle
sur le march du travail.
Pourtant, limpact des innovations technologiques sur le volume et
la nature des emplois est loin dtre un sujet dtude nouveau pour la science
conomique. Depuis les dbuts de la rvolution industrielle, le dbat
acadmique oppose les techno-optimistes et les techno-pessimistes .
La littrature conomique naboutit pas des conclusions univoques quant
aux effets des volutions technologiques sur lemploi. Une premire
distinction est faire entre les approches micro-conomique, sectorielle et
macro-conomique. Les proccupations en termes de gains de productivit
et de rduction de la masse salariale sont prdominantes au niveau de
chaque entreprise prise isolment, mais les suppressions demplois qui en
rsultent peuvent tre, au moins, compenses au niveau global de la branche
ou de lconomie nationale, grce des effets de baisse des prix et de hausse
de la demande. Une seconde distinction est faire selon la nature des
innovations technologiques. Une innovation de production va permettre de
produire davantage avec moins de travail. Mais une innovation de produit
ou de service peut crer des emplois, en tant lorigine dun nouveau
march.
La thorie conomique ne tranchant pas ce dbat vieux de plus de
deux sicles, il est instructif dexaminer les principales conclusions
empiriques des tudes rtrospectives qui ont tent dvaluer les effets des
vagues dinnovation successives au cours des trente dernires annes. Le
rcent rapport du Conseil dorientation pour lemploi (COE) intitul
Automatisation, numrisation et emploi 1 recense et analyse ainsi seize tudes
rtrospectives parues sur ce sujet entre 2009 et 2016. Celles-ci font apparatre
trs nettement un double processus de destruction et de cration demploi.
Elles soulignent galement limportance des effets indirects positifs sur
lemploi des innovations de produits, qui viennent plus que contrebalancer
les effets directs ngatifs des innovations de procds.
Ces tudes rtrospectives se heurtent une question de
mthodologie dlicate : comment apprcier les effets distincts des
technologies numriques et robotiques sur lemploi, par rapport dautres
progrs technologiques ou dautres facteurs dvolution du march du
travail ? Les donnes statistiques de base qui le permettraient ne sont pas
toujours disponibles et ce genre dapprciation comporte invitablement une
part de convention. LOCDE a publi en 2016 une tude de M. Arntz,

1Pour consulter le rapport du Conseil dorientation pour lemploi :


http://www.coe.gouv.fr/IMG/pdf/COE_170110_Rapport_Automatisation_numerisation_et_emploi_
Tome_1.pdf
- 118 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

T. Gregory et U. Zierahn sur Les risques de lautomatisation pour lemploi 1,


analysant comparativement 18 tats membres, dont la France, sur la priode
1990-2012. Elle parvient la conclusion que les investissements en
technologies de linformation et de la communication nont pas deffets
ngatifs sur lemploi dans ces pays, au niveau agrg, compte tenu des
phnomnes de compensations. Pour lavenir, cette tude de lOCDE estime
quen moyenne 9 % des emplois au sein de ces pays membres sont
menacs par lautomatisation.
Dautres tudes prospectives parues ces dernires annes sur le
mme sujet se sont focalises sur le risque de destruction demplois li aux
avances de la numrisation et de lautomatisation. Une tude originale et
fondatrice de la Oxford Martin School, conduite par Carl Benedikt Frey et
Michael A. Osborne2, a suscit en 2013 une forte inquitude en avanant que
lautomatisation reprsentait un risque pour 47 % des emplois aux
tats-Unis. En 2014, une tude du cabinet de conseil McKinsey estime que
60 % de tous les mtiers pourraient voir automatiser 30 % de leurs
activits.
En 2014 galement, une tude du cabinet Roland Berger3 estime,
pour la France, que 42 % des mtiers prsentent une probabilit
dautomatisation forte du fait de la numrisation de lconomie, et que
3 millions demplois pourraient tre dtruits par la numrisation lhorizon
2025. Cette tude relve que, dsormais, les mtiers manuels ne sont pas les
seuls tre automatisables mais que des tches intellectuelles de plus en plus
nombreuses pourront faire lobjet dune prise en charge par les outils
numriques.
Lors de sa runion Davos en janvier 2017, le Forum conomique
mondial a galement rendu public un pronostic inquitant, en considrant
que la quatrime rvolution industrielle , celle de lintelligence artificielle,
des objets connects et de limpression 3D, suscite de nouveaux risques
mondiaux et tend dtruire plus demplois quelle nen cre. Ce qui se
traduirait par une perte nette de 5,1 millions demplois dans 15 conomies
nationales, dont la France, dici 2020.
Vos rapporteurs invitent ne pas cder au techno-pessimisme
devant cette succession de rapports alarmistes. Ces prvisions leur
paraissent trop axes sur le seul aspect des destructions demplois, qui est
le plus facile valuer, et insuffisamment sur celui des crations
demplois, que les tudes rtrospectives invitent ne pas ngliger, mme

1 Pour consulter le rapport de lOCDE : http://www.oecd-ilibrary.org/social-issues-migration-


health/the-risk-of-automation-for-jobs-in-oecd-countries_5jlz9h56dvq7-en
2 Pour consulter ltude de la Oxford Martin School :

http://www.oxfordmartin.ox.ac.uk/downloads/academic/The_Future_of_Employment.pdf
3Pour consulter ltude du cabinet de conseil Roland Berger :

https://www.rolandberger.com/publications/publication_pdf/les_classes_moyennes_face___la_transf
ormation_digitale___roland_berger.pdf
DEUXIME PARTIE : - 119 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

si leur caractre indirect les rend plus difficile quantifier. cet gard,
une variable essentielle pour lampleur et le sens positif ou ngatif des effets
sur lemploi de cette quatrime rvolution industrielle est le dcalage
toujours possible entre le rythme de diffusion des innovations lies
lautomatisation, la numrisation et lintelligence artificielle au sein de
lconomie et de la socit, et la temporalit des ractions dadaptation sur le
march de lemploi. Mme si les phases de transition peuvent tre
dlicates, vos rapporteurs sont convaincus qu terme ces innovations
multiples, qui se renforcent mutuellement, auront globalement un effet
positif sur le volume total des emplois, comme sur lintrt des tches
professionnelles et la qualification des mtiers.
Dans le cas de la France, ltude prospective que le Conseil
dorientation pour lemploi a prsente en janvier 2017, prcdemment
voque, a vocation devenir une rfrence par son ampleur et sa prcision
mthodologique. Cette tude conclut que lautomatisation et la
numrisation devraient avoir un impact relativement limit en termes de
crations ou suppressions demplois, mais probablement important sur la
structure des emplois et le contenu des mtiers.
Depuis les annes 1980, lvolution de la structure des emplois en
France a profit surtout aux plus qualifis. Les nouvelles technologies sont
plus facilement substituables aux emplois auxquels sont associs des tches
manuelles et cognitives routinires, correspondant des niveaux de
qualification intermdiaires. Le mouvement de complexification des
mtiers existants, sous leffet des technologies nouvelles, est marqu par un
essor des comptences analytiques et relationnelles. Lvolution des
comptences demandes sur le march du travail est aussi induite par
lmergence de nouveaux mtiers dans le domaine du numrique, qui
recouvrent des tches nouvelles et plus complexes.
La situation actuelle du march de lemploi au regard des nouvelles
technologies place la France dans une position intermdiaire en Europe.
Selon les donnes dEurostat1, environ 8 millions de personnes taient
employes comme spcialistes des technologies de linformation et de la
communication dans lUnion europenne, soit 3,5 % de lemploi total.
Toutefois, ce taux moyen recouvre des disparits importantes entre les pays,
le secteur des TIC reprsentant plus de 6 % de lemploi en Finlande et en
Sude, mais seulement 1,2 % en Grce. La France se situe lgrement
au-dessus de la moyenne europenne, avec un taux de 3,6 %. Le secteur de
la robotique est encore trs marginal en termes demplois. Selon les chiffres
de la Fdration internationale de robotique, il reprsenterait environ
300 000 emplois directs dans le monde. En France, la filire robotique
regroupait en 2012 un peu plus de 7 000 emplois, selon les chiffres du Syntec
numrique.

1 Les comptences numriques , Communiqu de presse dEurostat n 207/2016, octobre 2016.


- 120 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

La mthodologie retenue par le COE dans son tude repose sur une
approche qualitative et sectorielle, fonde sur les donnes issues de lenqute
Conditions de travail de la DARES, et est dcompose par tche et par
mtier. Cette tude vise affiner les approches purement macro-
conomiques, et montre que :
- moins de 10 % des emplois existants prsentent un cumul de
vulnrabilits susceptibles de menacer leur existence dans un contexte de
numrisation et dautomatisation ;
- la moiti des emplois existants est susceptible dvoluer dans
leur contenu de manire significative ou trs importante ;
- le progrs technologique devrait continuer favoriser plutt
lemploi qualifi et trs qualifi.
Vos rapporteurs relvent que des emplois trs qualifis, du type
statisticiens, analystes et conseillers financiers ou bancaires, mdecins,
notamment radiologues, etc., sont dores et dj impacts par le recours
des applications intelligentes, agiles, interconnectes et ultra rapides. Il en
va de mme pour les mtiers recourant des techniques de simulation ou de
projection dans les domaines de lenvironnement, de lurbanisme, de la
gestion des flux, des transports et, dune manire gnrale, de tous les
systmes complexes.
Ltude prospective du COE tente galement danticiper les effets
possibles de lautomatisation et de la numrisation sur la localisation des
emplois. Ces effets apparaissent eux aussi diversifis. En abaissant le cot de
la distance gographique, les technologies de linformation et de la
communication ont jusqu prsent favoris la dlocalisation de certaines
activits routinires industrielles et de services vers des pays faibles cots
de main-duvre. En sens inverse, lautomatisation pourrait attnuer cette
tendance, voire linverser en incitant des relocalisations dactivits
prcdemment dplaces vers les pays mergents. Toutefois, mme si
certaines prmisses de ce phnomne de relocalisation sont perceptibles,
celui-ci est encore loin de constituer un mouvement de grande ampleur.
Enfin, toujours dans une approche en termes de localisation des
emplois, ltude du COE estime que ces nouvelles technologies devraient
avoir un impact diffrenci sur la rpartition gographique des emplois
sur le territoire national. Les rgions du territoire national dans lesquelles
les secteurs industriels traditionnels faiblement intensifs en technologie
reprsentent une grande part de lemploi, et caractrises par une forte
densit en travailleurs peu qualifis, sont les plus exposes au risque des
destructions demplois sous leffet de lautomatisation. Inversement, les aires
urbaines, et notamment les mtropoles, pourraient bnficier de certains
effets dconomies dagglomration , ainsi que de leurs rserves en emploi
pour les comptences complmentaires des nouvelles technologies.
DEUXIME PARTIE : - 121 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

Vos rapporteurs soulignent que le dbat sur limpact du


numrique en matire demploi nest pas propre lintelligence
artificielle : la question se pose beaucoup plus largement, puisque les
consquences du progrs technologique sur le march du travail sont
particulirement visibles depuis la rvolution industrielle, et nont dailleurs
pas dbut avec celle-ci... Le dveloppement de linformatique et de la
robotique implique la disparition de certains emplois, souvent peu qualifis,
mais en cre aussi de nouveau, plus qualifis.
Les tudes disponibles ne sintressent souvent quaux destructions
brutes demplois, alors quil y aura trs probablement dimportantes
crations demplois, non identifies ce jour. Ds 1964, un manifeste
alarmiste adress au Prsident des tats-Unis, Lyndon B. Johnson, et sign
de plusieurs prix Nobel et chercheurs avait dnonc une large vague de
chmage technologique cause par la combinaison dordinateurs et de machines
automatiques et autonomes .
En 1981, Alfred Sauvy, dans son livre Informatisation et emploi
affirmait : Ne vous plaignez pas que le progrs technique dtruise des emplois, il
est fait pour a ! . Vos rapporteurs jugent la formule un peu provocatrice
dans un contexte de chmage lev mais lestiment pertinente en priode de
plein emploi. La robotisation pousse les travailleurs vers des mtiers de plus
en plus intressants, ds lors que des emplois nouveaux apparaissent et que
les premiers ont les comptences ncessaires pour les occuper, ou sont aptes
les acqurir. Vos rapporteurs estiment donc indispensable et urgent
dadapter le systme ducatif ces nouveaux mtiers et de dvelopper une
offre de formation professionnelle adquate, afin de garantir aux
travailleurs la souplesse de reconversion dont ils ont besoin.
Il y aura aussi dimportantes volutions en contenu des emplois et
des tches et, au-del de la stricte robotisation, il existera de plus en plus de
coopration hommes-machines, travers des interfaces hommes-machines
multimodales, enrichies et transparentes. Cette coopration devrait tre
heureuse.
Votre rapporteure Dominique Gillot propose de rflchir un
nouveau mode de financement du systme de protection sociale, qui serait
un complment des cotisations existantes et qui pourrait consister en un
prlvement additionnel aux cotisations sociales, assis sur les agents
autonomes et les robots, dans la mesure o ces dispositifs remplacent des
emplois prcdemment occups par des tres humains. Elle juge une telle
proposition plus prcise que celle de taxe sur les robots qui circule la suite
de la premire version du rapport de Mady Delvaux1. Selon votre
rapporteure, il faut que le produit de cette imposition naille pas au budget
de ltat et finance plutt les rgimes sociaux, en particulier les assurances
chmage, maladie et vieillesse.

1Bill Gates a fait cette proposition plus rcemment https://www.weforum.org/agenda/2017/02/bill-


gates-this-is-why-we-should-tax-robots
- 122 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Votre rapporteur Claude de Ganay se dclare, quant lui, oppos


toute taxe spcifique sur les activits automatises, intelligence artificielle
comme robots, remplaant des emplois occups par des tres humains, y
compris un prlvement assis sur les cotisations sociales. Un mcanisme de
ce type constituerait, selon lui, un mauvais signal, pouvant avoir comme
effet pervers de dcourager la recherche, linnovation et lactivit
conomique. La TVA et lIS sappliquent dj ces activits. Quand ils ne le
font pas parfaitement, il est toujours possible dy veiller en tendant
lassiette de ces impts. Il ny a donc pas lieu de les taxer davantage en
instaurant un nouveau prlvement qui leur serait spcifique.

B. LA SOCIT EN MUTATION SOUS LEFFET DE LINTELLIGENCE


ARTIFICIELLE

1. Les dfis lancs par lintelligence artificielle aux politiques


dducation et de formation continue

Paul Dumouchel et Luisa Damiano, dans Vivre avec les robots, Essai
sur lempathie artificielle, estimaient en 2016 que vivre avec les robots peut tre
loccasion dun avenir meilleur, non pas conomiquement mais moralement et
humainement . Lducation peut en effet tre un facteur la fois levier et
bnficiaire des avances en intelligence artificielle.
Intel a, par exemple, nou un partenariat avec Coursera, une vaste
plateforme denseignement en ligne, pour justement y proposer des cours en
intelligence artificielle ds 2017. Lapproche de lentreprise consiste offrir
une offre allant du logiciel au matriel (processeur), en passant par la
formation.
La relation metteur-rcepteur est transforme et modifie tant la
pdagogie que les principes dvaluation. Les moyens de prdire la
russite des lves et doptimiser les enseignements seront prciss par les
systmes dintelligence artificielle. Ces derniers permettront la
diffrenciation des mthodes dapprentissages, voire des contenus enseigns,
la personnalisation devant tre adapte la diversit des lves. Jean-Marc
Merriaux, directeur gnral de Canop, a donn lexemple du projet e-fran,
qui liera aussi bien des pdagogues que des chercheurs et des start-uppers.
Matador, qui tait la base un jeu de plateau transform dans un
environnement numrique, a ainsi t dvelopp. Le projet repose sur un
monitoring individuel dapprentissage du calcul mental par chaque lve.
Plus llve jouera en classe et la maison et mieux lenseignant connatra
ses comptences acquises et non acquises. Il sagit de travailler sur le
parcours dun lve qui sera mis en rapport avec tous les autres lves de
son niveau scolaire. Linteraction et lhorizontalit constituent par
consquent des lments importants de ce type de projet. E-fran reposera sur
mille cinq cents lves pendant une anne scolaire, avec lobjectif danalyser
plus de sept cent mille oprations chaque anne. Selon les profils, des
DEUXIME PARTIE : - 123 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

parcours de jeu spcifiques seront proposs chaque lve. Lensemble


sappuie sur des chercheurs, aussi bien statisticiens que didacticiens et
cognitivistes.
Jean-Marc Merriaux a galement indiqu vos rapporteurs quun
continuum pdagogique entre le temps scolaire et le hors temps scolaire
devrait merger, travers la prsence future de systmes dintelligence
artificielle, de robots ou de bots aussi bien lcole quau sein de la maison, il
sagira d accompagner doutils et dinterfaces pour assurer les usages au sein et
en dehors de la classe. Sur ce point, lintelligence artificielle peut srement
apporter un certain nombre de rponses .
Selon vos rapporteurs les nouvelles technologies ne seront pas en
comptition avec les enseignants mais elles leur seront complmentaires,
car venant en soutien de leffort pdagogique. Jean-Marc Merriaux lors de
son audition a galement insist sur la mutation en cours de la place et du
rle de lenseignant sous leffet de lensemble des volutions voques, ainsi
que sur la ncessit de laccompagner ds lors que les nouvelles technologies
seront parties intgrantes de son enseignement. Lintelligence artificielle
intervient pour complter le savoir-faire de lenseignant, en le rendant plus
accessible et mieux inform.
Les cours en ligne ouverts et massifs, ou MOOC (massive open online
courses en anglais) seront, de ce point de vue, des ressources utilisables pour
appliquer ces nouvelles mthodes pdagogiques innovantes. Ces ressources
en ligne permettront aux apprenants (en formation initiale ou continue)
daccder dans des conditions optimales la connaissance, ce dont se
flicitent vos rapporteurs.

2. Une rvolution potentielle de notre cadre de vie et de laide aux


personnes

Vos rapporteurs sont convaincus de limminence de la possibilit


dune rvolution de notre cadre de vie et de laide aux personnes. Des
changements profonds sont venir dans la connaissance et dans le contrle
de notre environnement et de la sant des populations. Les smart grids
(rseaux de fourniture dnergie permettant une consommation optimise
grce lIA) et les smart cities (villes intelligentes) seront les expressions des
bnfices que nous pouvons tirer de lintelligence artificielle. Et cela se
traduira en matire de transports, de scurit, de sant, de dpassement de la
dpendance et du handicap. Notre cadre de vie, la qualit de nos vies seront
amliors par lusage massif de technologies dintelligence artificielle.
Il sera galement possible de demander de plus en plus de choses
nos assistants personnels, ils pourront rpondre beaucoup de questions
que nous nous posons dans notre vie quotidienne. Ils pourront de mieux en
mieux comprendre, organiser et hirarchiser linformation et la connaissance.
Le cabinet dtudes Gartner prvoit que 50 % des applications analytiques
- 124 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

embarqueront des fonctions dintelligence artificielle dici trois cinq ans et


quune large part des analyses sortant de ces applications sera glane via des
interactions vocales (chiffre annonc lors du symposium annuel du cabinet
en octobre 2016).
Sagissant des conomies dnergie, Google a ainsi lobjectif
doptimiser la consommation de ses data-centers et de la rduire
drastiquement grce lintelligence artificielle, tout en encourageant la
production dnergies renouvelables. En partenariat avec EDF, Kawartech
dveloppe Toulouse un contrle intelligent et autonome de lclairage
public.
Le calendrier de dploiement des voitures autonomes reste
incertain (5, 10, 15, 20, 30 ans ?) mais il est plus que probable que la conduite
automobile sera dans le futur une activit rserve des passionns
nostalgiques. La recherche avance en la matire, mais moins vite que la
confiance dans les technologies. Ce nest pas tant pour des raisons
techniques que pour des raisons dacceptabilit sociale, notamment en
France, que le passage aux voitures autonomes risque de se voir retarder.
Pourtant, les tests raliss par Google-Waymo (3,5 millions de kilomtres
parcourus, principalement en zone urbaine) illustrent la fiabilit croissante
de ces vhicules. Les constructeurs automobiles dploient de plus en plus de
projets en la matire (en particulier Renault, PSA, Volkswagen, Audi, BMW,
Daimler-Benz, Honda, Toyota, GM, Ford, Chrysler, Fiat, Volvo). Il peut
tre constat que les vhicules collectifs autonomes, tels que les bus et
navettes, sont mieux accepts et sont dailleurs dj en service.
Votre rapporteur Claude de Ganay a t tonn par des propos tenus
par le grand matre de la confrrie brouettes et traditions de Cernoy-en-
Berry qui a expliqu, lors dune runion, tous les bienfaits que les robots et
les systmes dintelligence artificielle pourraient avoir pour la ruralit, en
particulier pour les personnes ges, isoles ou dpendantes. Le cas des
voitures autonomes a t dabord voqu, mais dautres applications utiles
vont merger au profit du monde rural et des seniors.
En matire de handicap, la start-up amricaine BrainRobotics a
prsent au salon dlectronique CES de Las Vegas une prothse de main
capable dinterprter les signaux envoys par les muscles rsiduels de
lutilisateur : le systme dintelligence artificielle repre certaines
caractristiques de ces signaux musculaires, comme leur ampleur par
exemple, et les transmet travers un algorithme de classification qui spare
les diffrents types de geste (poing ferm, index lev, etc.). Il transmet
ensuite celui quil a identifi et son intensit au moteur de lappareil.
Lintelligence artificielle peut aussi venir en aide aux malvoyants.
Facebook et Microsoft, notamment, ont dvoil lan pass des systmes
capables de voir des images et den dcrire le contenu pour les aveugles.
DEUXIME PARTIE : - 125 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

Hyundai ambitionne de son ct de sattaquer la paralysie avec


des exosquelettes robotiss. Un prototype montr au Consumer Electronics
Show (CES) Las Vegas sadresse plus particulirement aux paraplgiques,
auxquels il rend la capacit de se lever, marcher ou monter des escaliers.
Lappareil, baptis H-MEX, longe le bas de la colonne vertbrale et tout
larrire des jambes, avec des attaches au niveau de la taille, des cuisses, des
genoux et des pieds. Un systme de motorisation permet de dclencher des
mouvements de rotation au niveau des articulations, depuis des boutons de
commande placs sur les bquilles et par lintermdiaire dune connexion
sans fil. Hyundai na pas encore de plan pour produire des appareils grand
public mais conduit des tudes cliniques dans des hpitaux.
La start-up Japet de Lille a mis au point un exosquelette lombaire
Atlas, destin au milieu mdical, et plus particulirement aux centres de
rducation. Le dispositif repose sur quatre colonnes motorises qui stirent
pour dcompresser la colonne verticale et soulager les douleurs lombaires.
La commercialisation est vise pour la fin de lanne 2017 ou dbut 2018, et
lentreprise nexclut pas de le dcliner par la suite pour les problmes au
niveau des cervicales, ou pour les myopathies.
Au-del de lautomobile et de la sant, dautres secteurs
amlioreront leurs offres au profit de toute la socit : le contrle de la
qualit de lair, avec les robots danalyse de latmosphre, la domotique et
llectromnager etc.

3. Le dfi de la cohabitation progressive avec des systmes


dintelligence artificielle dans la vie quotidienne

Les agents conversationnels, chatbots ou bots, les robots de service,


les agents dassistance, daccompagnement, daide la mobilit vont
progressivement cohabiter avec les humains. Cela ncessitera une grande
vigilance. Une adaptation relle sera aussi requise.
Au quotidien, nos smartphones avec des logiciels tels que Siri ,
Cortana ou Google Now , font dores et dj cohabiter leurs
utilisateurs avec des algorithmes puissants, qui connaissent beaucoup
daspects de la vie de chacun dentre nous.
ce stade, les bots restent encore davantage des systmes de
questions-rponses, ils nont pas encore la mmoire des changes et ne
savent pas prendre en compte les aspects motionnels, comme le souligne
Laurence Devillers. Les bots devront savoir prendre en compte ces deux
aspects et, demain, fonctionner sans connexion Internet souvent pour
plus de scurit et dautonomie - ainsi que la expliqu vos rapporteurs
Alex Acero, directeur du projet Siri chez Apple. Aujourdhui, les bots
dpendent de lexistence dune connexion au rseau, cette dpendance les
rendant encore assez peu souples dans leur fonctionnement, ce qui peut
contribuer susciter de la mfiance.
- 126 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Alors que la robotique industrielle connat des applications selon le


respect de la rgle dvitement des 4 D : dangerous, dull, dirty, dumb
(dangereux, ennuyeux, sale, idiot), la robotique de service suit, comme le
rappelle Laurence Devillers, la rgle des 4 E : everyday, e-health,
education, entertainment (accompagnement au quotidien, sant, ducation,
loisirs).
Lducation et la prvention sont indispensables dans ce contexte
de cohabitation croissante entre les bots et les humains. Il convient de
consacrer une grande attention aux logiques dempathie et aux aspects
motionnels qui ne manqueront de se dvelopper.
Yann LeCun se dclare convaincu que les machines intelligentes du
futur auront des sentiments, des plaisirs, des peurs, et des valeurs morales (et que)
ces valeurs seront une combinaison de comportements, dinstincts et de pulsions
programmes avec des comportements appris . Cette perspective mrite de sy
attarder car, comme lindiquent Rodolphe Glin et Olivier Guilhem,
respectivement directeur scientifique et directeur juridique dAldebaran puis
de SoftBank Robotics, la modlisation des motions est une tche presque plus
facile que lensemble des problmes que les roboticiens ont eu rgler (), le robot
qui utilisera les techniques de perception des motions pourra quasiment lire livre
ouvert les motions de son interlocuteur. Elles sajouteront aux programmes qui, ds
aujourdhui, sont capables de dtecter la joie, la tristesse, la colre, voire le sarcasme,
dans la voix du locuteur. La perception dmotions nest donc pas ce qui
diffrenciera longtemps lhomme du robot. Quant lexpression dmotions, les
rgles de la politesse lmentaires suffiront largement en faire un compagnon
suffisamment empathique et le rendre aussi sympathique quun bon commerant
sachant jouer au moment opportun la joie, la tristesse, lexcitation ou labattement
pour saccorder son client mme si son motion personnelle est loppos de ce
quil doit exprimer pour respecter la biensance. Le robot nayant pas dmotion
personnelle, il lui est encore plus facile dexprimer celle que son interlocuteur attend
() cette faon de jouer sur les motions pourrait se rapprocher dune forme de
manipulation. Un programmeur dot de quelques connaissances en psychologie, et
ils seront de plus en plus nombreux y tre forms, pourra jouer sur ltat
motionnel dune personne pour la convaincre de prendre ses mdicaments, de ne
pas boire un verre de plus ou daller se coucher quand il est trs tard .
Pour le psychanalyste Serge Tisseron, spcialis en intelligence
artificielle et en robotique1, utiliser ces techniques pour faire croire que les
robots seront capables de sentiments serait malhonnte car la
reconnaissance des motions prsente avant tout pour eux lintrt de
permettre de sadapter ltat desprit de lutilisateur et, partant, le
tromper. En donnant limpression que le robot a des motions (puisquil en
exprime), son programmeur trompe linterlocuteur et peut encourager la
cration dun lien affectif disproportionn entre lhomme et la machine ou
tromper sur les intentions de la machine.

1 Le jour o mon robot maimera , 2015.


DEUXIME PARTIE : - 127 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

En outre, la cohabitation avec des machines pose la question de la


valle de ltrange ou Uncanny Valley (littralement : valle drangeante).
Ce champ de recherche scientifique, initi par le roboticien japonais
Masahiro Mori en 1970, plaide pour les reproductions de certaines
caractristiques du vivant sans chercher une trop grande ressemblance,
source de trouble et de gne, encore difficiles expliquer.
Cette expression image peut tre reprsente graphiquement,
comme lillustre le document suivant, cette valle tant symbolise par la
zone de perception ngative ressentie par un observateur humain face un
robot humanode ou un zombie. Cette reprsentation graphique de la thorie
de la valle de ltrange pose en abscisse le degr dapparence humaine (de
zro 100 %) et en ordonne le degr de familiarit et/ou dacceptation.

Reprsentation graphique de la thorie de la valle de ltrange

Source : creativecommons.org/licenses/by-sa/3.0/

Votre rapporteur Claude de Ganay rappelle que dans la nouvelle de


science-fiction Lhistoire du robot et du bb de John McCarthy, lun des
pres fondateurs de lintelligence artificielle, co-organisateur en 1956 avec
Marvin Minsky de lcole dt de Dartmouth, il est imagin quaprs
lmergence de lintelligence artificielle forte et avec la vaste pntration des
robots dans la vie quotidienne, des robots dassistance maternelle, pourtant
conus en conformit avec le principe thique de non-figuration humaine ,
devenu un des articles du code des robots, prennent une place de plus en
plus grande : de nombreux enfants devinrent plus attachs leur robot nounou
qu leurs vrais parents. On y remdia en rendant les robots nounous plus durs et
- 128 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

en aidant les parents rivaliser avec eux pour capter lamour de leurs enfants.
Quelquefois, a marchait. Dans un deuxime temps, les robots furent programms de
telle sorte que plus les parents taient sympas, plus le robot ltait, tout en laissant
les parents gagner la comptition pour obtenir laffection de leurs enfants. Le plus
souvent, a marchait .
Au-del de lexemple tir de cette fiction1, les enjeux de la
cohabitation quotidienne avec des intelligences artificielles, de leur
acceptation et de leur rgulation doivent et devront tre apprhends.

II. LES QUESTIONS THIQUES ET JURIDIQUES POSES PAR LES


PROGRS EN INTELLIGENCE ARTIFICIELLE

A. LES ANALYSES PRSENTES PAR DAUTRES INSTANCES POLITIQUES

1. Les deux rapports issus des institutions de lUnion europenne :


Parlement europen et Comit conomique et social europen
(CESE)

Du ct des institutions de lUnion europenne, il convient tout


dabord de relever linitiative conduite par Mady Delvaux, prsidente dun
groupe de travail sur la robotique et lintelligence artificielle au sein de la
Commission des affaires juridiques du Parlement europen. Elle a ainsi
rendu public, le 31 mai 2016, un projet de rapport contenant des
recommandations la Commission europenne concernant des rgles de
droit civil sur la robotique et une motion portant rsolution du Parlement
europen. Ce document, sous la forme dune rsolution du Parlement
europen a t adopt le 16 fvrier 20172, dans une version allge
lissue de sa discussion (plus de 500 amendements ont t dposs). La
Commission nest pas contrainte de suivre les recommandations du
Parlement mais elle doit exposer ses raisons en cas de refus.
Lide de taxer les robots ou celle de mettre en place un revenu
universel font partie des propositions qui ont t cartes lors du vote des
amendements. Par ce texte, les dputs europens demandent la
Commission europenne de proposer des rgles sur la robotique et
lintelligence artificielle, en vue dexploiter pleinement leur potentiel
conomique et de garantir un niveau standard de sret, de scurit et de
transparence. Ils y soulignent que des normes communautaires pour les
robots devraient tre envisages afin que lUnion europenne prenne
linitiative pour fixer ces normes sans tre contrainte de suivre celles dictes
par des tats tiers.

1 Lvocation de cette nouvelle science-fiction permet aussi de replacer la rflexion dans les objectifs
rellement poursuivis, qui ne sont ni lIA forte, ni les robots dassistance maternelle remplaant les
mres.
2 La rsolution a t adopte par 451 voix pour, 138 voix contre et 20 abstentions.
DEUXIME PARTIE : - 129 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

Il est propos de clarifier les questions de responsabilit, en


particulier pour les voitures autonomes, et de mettre en place un systme
dassurance obligatoire ainsi quun fonds de garantie permettant le
ddommagement des victimes en cas daccidents causs par ce type de
voitures. Il est galement propos un code de conduite thique pour la
robotique, destination notamment des chercheurs et des concepteurs.
Par ailleurs, les parlementaires europens demandent la
Commission denvisager, long terme, la possibilit de crer un statut
juridique spcial pour les robots, sous la forme de loctroi dune personnalit
juridique afin de clarifier la responsabilit en cas de dommages.
En outre, la cration dune agence europenne pour la robotique et
lintelligence artificielle, afin de fournir aux autorits publiques une
expertise technique, thique et rglementaire, est prconise.
Une consultation publique sur cette rsolution du Parlement
europen a t ouverte le 16 fvrier 2017
Vos rapporteurs jugent ncessaires de distinguer clairement les
robots physiques des robots virtuels , ce que ne fait pas la rsolution
du Parlement europen. Ils pensent que la confusion doit tre leve et le
terme de robot rserv des objets matriels autonomes.
Vos rapporteurs dsapprouvent galement loctroi dune
personnalit juridique pour les robots, qui leur parat soit dpourvue de
fondement, soit totalement prmature.
Le Comit conomique et social europen (CESE), lassemble
consultative des partenaires conomiques et sociaux europens, rend des
avis qui sont publis au Journal officiel de lUnion europenne, raison
denviron 170 par an en moyenne. Catelijne Muller, que vos rapporteurs ont
rencontre, est en cours de finalisation dun rapport sur lintelligence
artificielle en sa qualit de rapporteure pour le CESE sur lintelligence
artificielle. Lavis sera rendu public lissue de la runion de section prvue
le 4 mai 2017. Vos rapporteurs ont pu constater que Mme Muller partageait
largement leurs points de vue, analyses et propositions.

2. Les trois rapports de la Maison Blanche

La Prsidence des tats-Unis sest empare du sujet de lintelligence


artificielle et a rendu diffrents rapports dans la priode rcente, dont trois
au cours des six derniers mois. Elle avait auparavant rendu public un
premier rapport en mai 2014 sur le big data1 sous-titr seizing opportunities,
preserving values , pilot par John Podesta, au sein du bureau excutif du

1https://obamawhitehouse.archives.gov/sites/default/files/docs/20150204_Big_Data_Seizing_Opport
unities_Preserving_Values_Memo.pdf et http://www.cfr.org/technology-and-science/white-house-
big-data---seizing-opportunities-preserving-values/p32916
- 130 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

prsident des tats-Unis1 (en anglais Executive Office of the President, appel
galement Brain Trust ). Plus rcemment, aprs avoir mobilis des experts
au sujet de lintelligence artificielle, en mai 20162, la Prsidence des tats-
Unis a rendu public, en octobre 2016, un rapport de lOffice de la politique
scientifique et technologique de la Maison Blanche intitul Se prparer
lavenir de lintelligence artificielle 3 (en anglais, Preparing the Future of
Artificial Intelligence), accompagn dun autre document intitul Plan
stratgique national pour la recherche et le dveloppement de lintelligence
artificielle 4 (National Artificial Intelligence Research & Development Strategic
Plan), ces deux rapports sont rsums ci-aprs. Enfin, en dcembre 2016, le
bureau excutif du prsident des tats-Unis a rendu un nouveau rapport sur
limpact conomique de lintelligence artificielle et de la robotisation5 (il
est intitul Artificial Intelligence, Automation, and the Economy ).
Ladministration Obama a donc produit pas moins de trois rapports sur le
sujet entre octobre et dcembre 2016.
Vos rapporteurs ont t marqus par le fait que le Prsident Barack
Obama ait choisi de consacrer lune des dernires de ses grandes
apparitions publiques aux dfis technologiques, sociaux, conomiques et
thiques de lintelligence artificielle, lors dun entretien avec Joi Ito, directeur
du MIT Media Lab, publi dans le magazine technologique le plus lu au
monde6. Comme leur ont indiqu les fonctionnaires du service scientifique
du consulat de France San Francisco, il sagit dun bon indicateur du fait
que cette thmatique est le sujet brlant du moment aux tats-Unis, que ce soit
dans lexpression de politiques publiques, la consolidation dune puissance de
recherche ingale ou le dveloppement rapide et sans prcdent dactivits
conomiques lies ces technologies .
Le premier rapport intitul Se prparer lavenir de lintelligence
artificielle , assez peu dtaill, a pour objectif de produire un cadre gnral
de rflexion, en amorant un tat des lieux de la recherche et des
applications actuelles tout en posant des jalons prudents quant la

1 Le cabinet est, aux tats-Unis, la runion des membres les plus importants de lexcutif du
gouvernement fdral amricain, ce qui est totalement diffrent dun cabinet ministriel au sens o
nous lutilisons en franais.
2 Le Prsident des tats-Unis a ainsi lanc un groupe de travail et un sous-comit spcifique au sein

du National Science and Technology Council (NSTC), chargs de suivre les volutions du secteur et
de coordonner les activits fdrales sur le sujet. En parallle ont t tenues quatre sessions de
travail publiques entre les mois de mai et juillet 2016, visant engager la discussion avec le grand
public et surtout produire une large valuation des opportunits, risques, et implications
rglementaires et sociales de lintelligence artificielle et de ses nouveaux dveloppements, cf. :
https://www.whitehouse.gov/blog/2016/05/03/preparing-future-artificial-intelligence
3 https://obamawhitehouse.archives.gov/sites/default/files/whitehouse_files/microsites/ostp/NSTC/pr

eparing_for_the_future_of_ai.pdf
4 https://obamawhitehouse.archives.gov/sites/default/files/whitehouse_files/microsites/ostp/NSTC/na

tional_ai_rd_strategic_plan.pdf
5 https://www.whitehouse.gov/sites/whitehouse.gov/files/images/EMBARGOED%20AI%20Econom

y%20Report.pdf
6Barack Obama, neural nets, selfdriving cars and the future of the world, entretien du 24 aot 2016 dans
WIRED. https://www.wired.com/2016/10/president-obama-mit-joi-ito-interview/
DEUXIME PARTIE : - 131 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

possibilit et la nature dune rgulation. Il dresse moins un bilan de ltat


actuel de lintelligence artificielle, de ses applications effectives et
potentielles, points rapidement voqus, quil ne sintresse aux questions
poses par les progrs en intelligence artificielle pour la socit et les
politiques publiques, tout en mettant en avant un discours mobilisateur
autour du potentiel des avances en intelligence artificielle pour permettre
aux tats-Unis de rester la pointe de linnovation mondiale. La publication
de ce rapport suit une srie dactivits publiques menes par lOffice de la
politique scientifique et technologique de la Maison Blanche en 2016, qui
comprenait cinq ateliers publics co-anims tenus travers le pays, ainsi
quune demande dinformation1, en juin 2016, laquelle cent soixante-et-une
rponses ont t apportes. Ces activits ont permis de faire connatre les
sujets tudis et les recommandations incluses dans le rapport.
Ce dernier constate que depuis quelques annes, les machines ont
surpass les humains dans laccomplissement de certaines tches
spcifiques, par exemple dans la reconnaissance dimages. Bien quil soit
peu probable que les machines prsentent une intelligence dapplication
gnrale comparable ou excdant celle des humains dans les vingt
prochaines annes, les experts prvoient que les progrs rapides dans le
champ de lintelligence artificielle spcialise se poursuivront, avec des
machines galant et dpassant les performances humaines sur de
nombreuses tches spcialises.
Lun des plus importants enjeux de lintelligence artificielle est son
impact sur lemploi et lconomie. Le rapport recommande que la Maison
Blanche organise une tude sur limpact de lautomatisation sur lconomie,
ce qui a t fait avec la publication dun rapport spcifique sur ce sujet en
dcembre 2016.
En particulier, ce premier rapport se conclut sur lide que les
technologies dintelligence artificielle font merger un potentiel
damlioration de la vie des citoyens en ouvrant de nouveaux marchs et
de nouvelles opportunits permettant de rsoudre certains des grands
enjeux socitaux : la sant, les transports, lducation, lnergie,
lenvironnement, la justice, la scurit ou encore lefficacit du
gouvernement. Il estime crucial que lindustrie, la socit civile, et le
Gouvernement travaillent ensemble et se mobilisent pour saisir pleinement
ces opportunits.
Au-del des domaines dapplication mis en avant, il affirme quune
rglementation gnrale de la recherche en intelligence artificielle semble
inapplicable lheure actuelle et que la rglementation actuelle est pour
lheure suffisante, dans lattente dune expertise plus fouille2. Ainsi, les

1 Cette procdure Request for information correspond une consultation publique formalise.
2 Lanalyse compare des risques et des bnfices devra permettre de justifier les futures volutions
lgislatives et rglementaires. En effet, le rapport insiste sur limportance dajuster les prochains
arbitrages selon le principe suivant : valuer les risques que limplmentation de lIA pourrait
rduire, de mme que ceux quelle pourrait augmenter.
- 132 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

ventuelles futures rglementations devront rduire les cots et les barrires


linnovation sans mettre en danger la scurit du public ou la concurrence
quitable sur le march. Le Gouvernement fdral peut cependant jouer un
rle de pivot, mme sans impulser de nouvelles lois1.
Un second rapport, intitul plan national pour la recherche sur
lintelligence artificielle et le dveloppement stratgique, a galement t
publi en octobre 2016. Allant de pair avec le premier, il pose les lignes
directrices dune stratgie nationale pour la recherche et le dveloppement
de lintelligence artificielle. Il apporte ainsi des recommandations pour des
actions spcifiques en R&D finances au niveau fdral. Il rappelle que le
Gouvernement fdral des tats-Unis a investi dans la recherche sur
lintelligence artificielle durant de nombreuses annes, par exemple travers
la DARPA. Au vu des immenses opportunits qui se prsentent, de
nombreux facteurs sont prendre en considration dans la dfinition de la
recherche et du dveloppement (R&D) de lintelligence artificielle finance
au niveau fdral. Sept priorits ont donc t dfinies :
1. Soutenir, par linvestissement fdral, la recherche long terme
afin de produire des perces scientifiques et technologiques dans les dix
prochaines annes et demeurer le leader mondial de lintelligence
artificielle. Il sagit en particulier des mthodes ncessaires la dcouverte
de savoirs dans de grands volumes de donnes, lamlioration des capacits
de perception des systmes dintelligence artificielle, la comprhension
profonde des capacits thoriques et des limites propres au dveloppement
de lintelligence artificielle, la poursuite des efforts visant au dveloppement
dune intelligence artificielle gnrale par opposition aux intelligences
artificielles spcifiques.
2. Dvelopper des mthodes de collaboration entre hommes et
intelligence artificielle. Plutt que de remplacer les humains, la plupart des
systmes dintelligence artificielle vont collaborer avec eux : la recherche est
ncessaire afin de crer des interactions effectives entre les humains et les
systmes dintelligence artificielle.
3. Comprendre et se pencher sur les implications thiques, lgales
et socitales, dans le but de concevoir des systmes dintelligence artificielle
conformes aux principes thiques, lgaux et socitaux des tats-Unis. Le
rapport insiste sur limportance dassurer la justice, la transparence et la
responsabilit des systmes, ds la phase de conception.

1 Il a selon le rapport plusieurs rles jouer : un rle dorganisateur du dbat public et darbitre des
mesures mettre en place lchelle du pays ; un rle de suivi attentif de la scurit et de la
neutralit des applications dveloppes ; un rle daccompagnateur de la diffusion de ces technologies
tout en protgeant certains secteurs au besoin afin dviter des contrecoups conomiques
dvastateurs ; un rle de soutien et de financeur de projets de recherche faisant avancer le domaine ;
et enfin un rle dadoption en son sein mme de ces avances afin dassurer un service public de
meilleure qualit. Il peut, en outre, veiller la production dune main-duvre en nombre suffisant,
ainsi que dun haut niveau de qualification et de diversit technique, non seulement dun point de
vue professionnel, mais galement, et de manire plus large, du point de vue de la formation gnrale
de la population.
DEUXIME PARTIE : - 133 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

4. Assurer la scurit et sret des systmes dintelligence


artificielle, en particulier dans ladaptation des environnements complexes
et/ou incertains. Avant que les systmes dintelligence artificielle ne soient
utiliss grande chelle, il faut sassurer que ces systmes vont oprer de
manire scurise et fiable. Des progrs plus pousss dans la recherche sont
ncessaires pour rpondre ce dfi.
5. Dvelopper des bases de donnes publiques partages pour
lanalyse, lapprentissage, lentranement et le test de systmes dintelligence
artificielle. La profondeur, la qualit et la prcision des donnes
dapprentissage conditionnent leurs performances. La mise disposition de
bases de donnes fdrales existantes est propose.
6. Dvelopper des standards visant sassurer que les technologies
mergentes rpondent des objectifs prcis en termes de fonctionnalit et
dinteroprabilit, ainsi quen termes de scurit et de performance. Des
recherches additionnelles sont ncessaires pour dvelopper un large spectre
de techniques valuatives et de plateformes dessai.
7. valuer les besoins en termes de main-duvre. Les avances en
intelligence artificielle demandent une forte communaut de chercheurs et
dexperts en intelligence artificielle, ce qui plaide pour une meilleure
comprhension des besoins actuels et futurs de main-duvre.
Le Plan Stratgique de R&D pour lintelligence artificielle se conclut
avec deux recommandations :
Dvelopper un cadre de mise en uvre de la R&D de lintelligence
artificielle afin didentifier les opportunits scientifiques et technologiques et
soutenir une coordination effective des investissements en R&D de
lintelligence artificielle, en accord avec les stratgies 1 6 de ce plan.
tudier le paysage professionnel national afin de crer et
maintenir une main-duvre de bon niveau pour la R&D en intelligence
artificielle, en accord avec la stratgie 7 de ce plan.

3. Le rapport de la Chambre des Communes du Royaume-Uni

La commission science et technologie de la Chambre des Communes du


Royaume-Uni a rendu public, en octobre 2016, un rapport sur la robotique
et lintelligence artificielle, intitul Robotics and artificial intelligence 1. Les
rapporteurs de ce texte affirment le potentiel disruptif du dveloppement de
lintelligence artificielle sur les manires de vivre et de travailler.

Selon Tania Mathias, prsidente par intrim de la commission,


lintelligence artificielle a encore du chemin parcourir avant que les systmes
artificiels et robots ne deviennent comme ceux imagins dans des uvres telles que

1Pour consulter le rapport :


https://www.publications.parliament.uk/pa/cm201617/cmselect/cmsctech/145/145.pdf
- 134 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Star Wars. Pour le moment, les machines intelligence artificielle se voient


assigner des rles restreints et spcifiques, comme la reconnaissance vocale ou tre
un adversaire au jeu de Go. Cependant, la science-fiction est doucement en train de
devenir une science factuelle, la robotique et les intelligences artificielles semblent
tre destines jouer un rle de plus en plus important dans nos vies au cours des
prochaines dcennies. Il est trop tt pour tablir des rgulations sectorielles
pour ce domaine naissant mais il est vital quun examen attentif des implications
thiques, lgales et socitales des systmes dintelligence artificielle dbute ds
maintenant .

Ce rapport estime que le rle dimpulsion jou par le Gouvernement


dans le domaine de la robotique et de lintelligence artificielle a t dficient.
Le fait que les structures prives sinterrogent face aux risques et bnfices
de lintelligence artificielle ne dcharge pas le Gouvernement britannique de
ses responsabilits. Ce rapport incite ainsi le Gouvernement tablir une
Commission nationale sur lintelligence artificielle au sein de lInstitut
Alan Turing, afin didentifier les principes de gouvernance du
dveloppement et de lutilisation de lintelligence artificielle et dencourager
le dbat public.

Ce rapport aborde galement la question de lemploi. Selon ses auteurs,


les progrs en productivit, permis par la robotique et lintelligence
artificielle, sont largement prvisibles. Bien quune incertitude plane sur
lampleur des destructions demploi et la capacit du march du travail
rsorber un chmage potentiellement massif, il demeure que, selon les
recommandations de ce rapport, laccent doit tre mis sur lajustement des
systmes dducation et de formation britanniques afin de dlivrer les
comptences qui permettront la population de sadapter et de profiter des
opportunits ouvertes au moment o les nouvelles technologies sont et
seront mises en uvre.

Selon Tania Mathias, il est concevable que nous verrons des machines
intelligence artificielle crer de nouveaux emplois dans les dcennies venir tout en
en remplaant dautres. Comme nous ne pouvons pas encore prvoir avec exactitude
comment ces changements vont se concrtiser, nous devons rpondre avec
prparation et ractivit aux besoins de requalification et damlioration des
comptences . Cela implique un engagement de la part du Gouvernement
qui garantisse la flexibilit des systmes dducation et de formation leur
permettant de sadapter lvolution des opportunits et des exigences
imposes aux travailleurs. Le rapport dplore, en outre, que le
Gouvernement nait pas encore publi sa stratgie numrique, ni dtermin
ses plans pour doter les futurs travailleurs des comptences numriques
essentielles leur dveloppement professionnel.
DEUXIME PARTIE : - 135 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

Le Gouvernement britannique a apport en janvier 2017 une


rponse1 au rapport prsent par la Chambre des Communes en reprenant
explicitement trois recommandations avances dans celui-ci sans toutefois
annoncer de dcisions nouvelles. Tout dabord, le Gouvernement semble
bien conscient du bien fond de dvelopper une stratgie pour soutenir les
systmes autonomes et robotiques (Robotics and Autonomous Systems, RAS en
anglais) et indique sa volont damliorer la coordination stratgique entre
le Gouvernement, les industries et le monde acadmique afin de maximiser
les retombes conomiques et sociales permises par ces technologies.
Ensuite, le Gouvernement reconnat et promeut le rle de lInstitut
Alan Turing dans la stratgie dvelopper, en annonant la mise en place en
son sein dune Commission nationale sur lintelligence artificielle . Les
missions primordiales de lInstitut relatives au dveloppement de
lintelligence artificielle seront de rpondre aux enjeux thiques, sociaux et
juridiques, dassurer que le dveloppement de ces technologies soit
pleinement bnfique la socit, et de btir la confiance dans les capacits
de dveloppement du Royaume-Uni dans ce secteur.
Enfin, le Gouvernement affirme avoir bien identifi la ncessit de la
formation aux technologies numriques, cette dimension tant appele
tre incluse dans lensemble des filires de formation.
Un groupe de travail de la Royal Society, rencontr par vos
rapporteurs, conduit galement un projet de recherche2 visant analyser les
opportunits et les dfis juridiques, sociaux et thiques lis au machine
learning et ses applications sur les cinq dix prochaines annes. Ce groupe
de travail publiera des recommandations lattention du Gouvernement
britannique au cours de lanne 2017.

4. Les initiatives chinoises et japonaises en intelligence artificielle


accordent une place contraste aux questions thiques

La Chine et le Japon ont dploy des stratgies nationales pour lIA


qui accordent une place contraste aux questions thiques : alors que la
premire les dlaisse, le second a mis en place une rflexion officielle de haut
niveau en la matire.
La Chine se trouve au cur de lvolution rcente des techniques et
dploie dimportants moyens avec pour objectif de devenir leader mondial
dans le domaine3. Elle a lambition dtre la premire disposer, vers
2025-2030, dune intelligence artificielle gnrale, comparable celle du
cerveau humain ( Artifical General Intelligence ou AGI), premire tape

1 La rponse du Gouvernement britannique est disponible ici :


https://www.publications.parliament.uk/pa/cm201617/cmselect/cmsctech/896/89602.htm
2 Pour consulter le projet de la Royal Society : https://royalsociety.org/topics-

policy/projects/machine-learning/
3 Une note complte sur le sujet de la place de lIA en Chine est annexe au prsent rapport.
- 136 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

dans le but de parvenir ensuite au dveloppement dintelligences


suprahumaines, ce qui ne soulve pas de questions thiques majeures dans
ce pays.
Mme si les progrs visibles de la Chine reposent encore sur des
architectures conues par des scientifiques occidentaux, ses atouts propres
sont rels, comme la indiqu vos rapporteurs le service scientifique de
lAmbassade de France Pkin : elle dispose des deux supercalculateurs les
plus puissants du monde, dun march intrieur trs important et friand des
avances potentielles du secteur, dune collusion fconde entre ltat, les instituts de
recherche, les universits, les gants de linternet et de linformatique et les
start-up .
Le 13e plan quinquennal comprend une liste de 15 nouveaux
grands projets innovation 2030 qui structurent les priorits scientifiques
du pays et correspondent chacun des investissements de plusieurs
milliards deuros. Parmi ces 15 projets, on en trouve quatre qui sont
consacrs indirectement lIA, pour un montant de 100 milliards de yuans
en trois ans : un projet de Recherche sur le cerveau et des projets
dingnierie intituls Mega donnes , Rseaux intelligents et
Fabrication intelligente et robotique .
Les recherches envisages ne sont pas seulement thoriques, les
applications multiples sont un moteur important : contrle de drones, de
robots ou davatars, interfaces en langage naturel, interfaces homme-
machine, dtection des motions, analyse dimages, automobiles autonomes,
etc. Les systmes permettront aussi de faire lanalyse des big data.
Lexemple suivant ne semble pas gner les chercheurs chinois,
comme la prcis vos rapporteurs le service scientifique de lAmbassade
de France : Pilot par le Gouvernement et lorganisme central de planification, le
dispositif de notation de la population devrait rcuprer automatiquement les
informations sur les citoyens dici 2020. Il scrutera les activits en ligne etc, pour
gnrer un score individuel. Il semble que si un seuil est dpass, lindividu
concern se verra priv dun certain nombre de droits et de services . Une
exprimentation a commenc ds 2017 Suining1. Dautres dispositifs
dvaluation individuelle des citoyens ou des consommateurs sont tudis,
comme le Sesame Credit du distributeur en ligne Alibaba2.
Lopinion publique chinoise semble donc, ce stade, peu
proccupe par les questions thiques et philosophiques souleves par ces
applications, ni mme par les questions concernant la protection des
donnes et de la vie prive qui sont des enjeux importants pour lvolution
de la recherche et pour les applications de lIA. En effet, les jeux de donnes

1 Cf. https://www.washingtonpost.com/world/asia_pacific/chinas-plan-to-organize-its-whole-society-
around-big-data-a-rating-for-everyone/2016/10/20/1cd0dd9c-9516-11e6-ae9d-
0030ac1899cd_story.html?utm_term=.71ca38d649e1
2 Cf. http://www.bbc.com/news/world-asia-china-34592186
DEUXIME PARTIE : - 137 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

sont lune des dimensions majeures des progrs des algorithmes de deep
learning et dapprentissage statistique de faon plus gnrale.
Lintelligence artificielle est considre, par ailleurs, comme
llment cl de la rvolution numrique au Japon selon les informations
transmises vos rapporteurs par le service scientifique de lAmbassade de
France au Japon1. Le gouvernement japonais a fait le choix dannoncer ds
mai 2015 un grand plan quinquennal pour la robotique et lintelligence
artificielle2, entr en vigueur le 1er avril 2016.
Il a fait de ces deux dernires technologies le socle de sa nouvelle
stratgie en science, technologie et innovation, qui vise mettre en place, au
terme de la 4e rvolution industrielle , une socit 5.0 , socit
superintelligente et fer-de-lance lchelle mondiale du dynamisme
japonais. On estime que le march de lintelligence artificielle au Japon
devrait passer de 3,7 milliards de yens en 2015 87 milliards en 2030, dont
30,5 milliards de yens dans le domaine du transport et 42 milliards en
incluant la production industrielle pour le transport.
Le gouvernement japonais a annonc une vague dinvestissements
massifs dans le domaine, avec 27 milliards de yens pour la seule anne
2016, travers la cration de centres de recherche et technologies ddis. Ce
montant est rapprocher des plus de 300 milliards de yens dinvestissement
que les grands groupes japonais ont lanc sur les trois ans venir pour
financer des programmes ou des laboratoires ddis lintelligence
artificielle3. Les partenariats publics-privs entre les centres publics et les
grands groupes japonais se multiplient, afin dexploiter le potentiel de
cration de valeur que constitue lintelligence artificielle sur des applications
cibles. Lintelligence artificielle ouvre la voie des dveloppements trs
attendus au Japon, selon le service scientifique de lAmbassade, dans le
domaine des transports, de la communication, de la traduction
automatique ou de la robotique, notamment lhorizon des Jeux
Olympiques et paralympiques de 2020, que le Japon envisage comme une
vitrine technologique pour se prsenter comme le pays leader mondial en
termes dinnovation.
Il peut tre relev qu loccasion de lorganisation du sommet 2016
du G7 au Japon, qui sest tenu Shima les 26 et 27 mai 2016, le Japon a pris
linitiative dorganiser une runion ministrielle du G7 consacre aux
Sciences et technologies de linformation et de la communication, format
qui navait pas t mis en uvre depuis 20 ans.

1 Une note complte sur le sujet de la place de lIA au Japon est annexe au prsent rapport.
2 Soutenu par 200 entreprises et universits, le 5 e Plan-cadre pour la Science et la technologie
prvoit le triplement des investissements dans ce domaine dici 2020 en vue dinciter les
entreprises rpandre lutilisation de la robotique dans tous les secteurs de lconomie et de la
socit afin de surmonter le vieillissement et la baisse du nombre dactifs.
3 Plusieurs exemples de projets sont dtaills dans la note sur le sujet de la place de lIA au Japon

annexe au prsent rapport.


- 138 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Le ministre japonais de lducation, de la culture, des sports, des


sciences et de la technologie a rdig en 2016 un livre blanc pour la science
et la technologie, intitul Vers la socit ultra-intelligente mise en uvre par
lIoT, le big data et lIA pour que le Japon soit un prcurseur mondial , adopt
en Conseil des ministres le 20 mai 2016. Ce rapport signale linsuffisance au
Japon de la formation et de la recherche fondamentale en informatique, qui
devraient venir soutenir le dveloppement des technologies de linformation
et de la communication.
Trois ministres, respectivement en charge de la recherche, de
lindustrie et des communications se sont mobiliss avec une vitesse
tonnante pour dvelopper des initiatives pour la robotique et lintelligence
artificielle et ont, chacun, annonc en 2016 la cration dun centre de
recherche spcifique sur lintelligence artificielle : un premier centre auprs
du RIKEN (principal centre de recherche japonais, du type CNRS), portant le
nom de AIP Center 1 (Advanced Integrated Intelligence Platform Project
Center), lAIRC (Artificial Intelligence Research Center), hberg par lAIST
(Advanced Institute for Science and Technologies), et, enfin, le NICT (National
Institue for Information and Communication Technologies).
Le gouvernement japonais a mis en place deux structures pour le
suivi des stratgies du grand plan quinquennal pour la robotique et
lintelligence artificielle : un Conseil consacr la stratgie des technologies
lies lIA (qui a notamment pour but de coordonner les actions des trois
centres de recherche prcits, disposant dun site web commun et
mutualisant leurs ressources informatiques) et un Comit de dlibration sur
lIA et la socit humaine. Ces deux structures relvent directement du
gouvernement japonais.
Le Conseil de la stratgie des technologies lies lIA a tenu sa
runion inaugurale le 18 avril 2016 et sert de quartier gnral de la
recherche et du dveloppement (R&D) des technologies de lIA et de leurs
applications industrielles en regroupant les trois ministres impliqus dans
lIA. Il est prsid par Yuichiro Anzai, Prsident de la JSPS (agence de
financement de la recherche du MEXT ddie la recherche fondamentale),
et compos de deux reprsentants du Keidanren (syndicat patronal des
entreprises japonaises), des prsidents de deux universits (Universit de
Tokyo et Universit dOsaka) et des prsidents de cinq grands instituts de
recherche et agences de financement : le NICT (National Institute for
Information and Communication Technologies, dpendant du Ministre des
affaires intrieures et communication, MIC), le RIKEN (principal centre de

1 Les activits sarticulent autour de cinq objectifs : dvelopper des technologies pour lintelligence
artificielle fondamentale (bas essentiellement sur le machine learning) ; contribuer
lacclration de la recherche scientifique (analyse et synthse darticles scientifiques, dexpriences
de brevets) ; contribuer des applications concrtes fort impact socital (problmatique des soins
dans le contexte du vieillissement de la population, gestion des infrastructures et des ouvrages de
gnie civil, rsilience aux catastrophes naturelles...) ; prise en compte des aspects thiques, lgaux et
sociaux ; dveloppement des ressources humaines.
DEUXIME PARTIE : - 139 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

recherche japonais), lAIST (Advanced Institute for Science and Technologies,


centre de recherche du Ministre de lconomie), la JST (agence de
financement oriente vers les projets de recherche applique) et la NEDO
(agence de financement dpendant du Ministre de lconomie). Deux sous-
comits ont t placs sous lautorit de ce Conseil : le Comit de
collaboration de recherche (conseil des prsidents des instituts de recherche
et des agences de financement) et le Comit de collaboration industrielle qui
se runissent chacun mensuellement.
Le Comit de dlibration sur lIA et la socit humaine a tenu sa
premire runion le 30 mai 2016 en prsence de Aiko Shimajiri, ministre
charge de la politique de la science et de la technologie, conformment
une annonce en Conseil des ministres, le 12 avril 2016. Il sagit de la
premire structure gouvernementale ayant pour mission dtudier les
enjeux lis lIA, selon cinq points de vue, savoir : laspect thique,
laspect lgal, laspect conomique, laspect social et laspect R&D. Ce
Comit, prsid par Yuko Harayama et compos de onze experts, se runit
une frquence mensuelle pour analyser les activits nationales et
internationales et a choisi de se baser sur des cas dapplication prcis,
mettant en uvre des technologies qui devraient voir le jour court terme :
le vhicule autonome, lautomatisation de lappareil de production et la
communication homme-machine. Il souhaite galement engager un dbat
avec le grand public, par le biais essentiellement de sminaires ouverts et de
questionnaires en ligne.
Le Comit a remis ses conclusions, qui seront prises en compte dans
la nouvelle Stratgie japonaise globale pour la Science, la technologie et
linnovation qui sera publie en juin 2017. Des discussions au niveau
international en la matire sont prvues partir de 2017. Mme Harayama a
toutefois prsent Paris le 17 novembre 2016, dans le cadre du Technology
Foresight Forum 2016 de lOCDE1 ddi lintelligence artificielle, les
premires pistes de rflexion du Comit :
- thique : Le citoyen peut-il accepter dtre manipul pour modifier
ses sentiments, convictions ou comportements, et dtre catgoris ou valu,
sans en tre inform ? Quel impact aura le dveloppement de lIA sur notre
sens de lthique et les relations entre les hommes et les machines ? Dans la
mesure o elle tend notre temps, notre espace et nos sens, est-ce que lIA
viendra affecter notre conception de lhumanit, notamment notre
conception des facults et des motions humaines ? Comment valuer les
actions et la cration partir de lIA ?
- Lgal : comment trouver le juste quilibre entre les bnfices du
traitement des big data par lIA, et la protection des informations
personnelles ? Est-ce que les cadres lgaux existants pourront sappliquer
aux nouvelles problmatiques souleves par lIA ? Comment clarifier la

1http://www.oecd.org/sti/ieconomy/Yuko%20Harayama%20-
%20AI%20Foresight%20Forum%20Nov%202016.pdf
- 140 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

responsabilit dans le cas dincidents impliquant de lintelligence artificielle


(par exemple dans le cas du vhicule autonome) ? Quels sont les risques
encourus en utilisant lIA ou en ne lutilisant pas ?
- conomique : comment lIA va-t-elle changer notre manire de
travailler ? Quelle politique nationale mettre en place pour favoriser
lutilisation de lIA ? Comment lIA va-t-elle modifier le monde de lemploi ?
- Socital : Comment rduire les divisions lies lIA et rpartir de
manire quitable le cot social de lIA ? Y-a-t-il des pathologies ou des
conflits de socit potentiellement engendrs par lIA ? Peut-on garantir la
libert dutiliser ou non lIA, et assurer le droit loubli ?
- ducation : Quelle politique nationale mettre en place pour faire
face aux ingalits que pourrait provoquer lutilisation de lIA dans le
domaine de lducation ? Comment dvelopper notre capacit exploiter
lIA ?
- R&D : Quelle R&D dvelopper pour lIA en respect de lthique, la
scurit, la protection de la vie prive, la transparence, la contrlabilit, la
visibilit, la responsabilit ? Comment rendre disponible linformation lie
lIA de manire ce quun utilisateur puisse prendre la dcision dutiliser ou
non lIA ?
Le Comit cherche notamment approfondir trois voies pour dfinir
des politiques adaptes : la covolution de la socit et de la technologie ; la
recherche dun quilibre entre les bnfices (services personnaliss cot
abordable) et les risques lis lIA (discrimination, perte de protection des
donnes caractre priv, perte danonymat) ; la dfinition des limites de la
prise de dcision automatise.
Les questions thiques occupent donc, au total, une place contraste
au sein des initiatives chinoises et japonaises en IA. Autant elles ne
semblent pas tre, pour le moins et ce stade, au cur des dmarches
impulses par les autorits chinoises, autant le gouvernement japonais les
voque trs largement travers la mise en place de son Comit national de
dlibration sur lIA et la socit humaine. Le Japon a fait le choix
daccompagner la transition produite par lintelligence artificielle de
manire trs troite, avec des investissements publics massifs, mais
galement par une rflexion publique institutionnalise sur limpact de
lutilisation de lintelligence artificielle pour la socit.

5. La stratgie du Gouvernement franais pour lintelligence


artificielle : un plan qui arrive trop tard pour tre intgr dans
les stratgies nationales destines au monde de la recherche

Thierry Mandon, secrtaire dtat charg de lEnseignement


suprieur et de la Recherche et Axelle Lemaire, secrtaire dtat au
Numrique et lInnovation, ont lanc une stratgie nationale en
DEUXIME PARTIE : - 141 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

intelligence artificielle, appele France IA , le 20 janvier 2017 dans les


locaux de lincubateur Agoranov Paris. Cette stratgie, qui consistait
mobiliser sept groupes de travail rassemblant des chercheurs et des
entreprises afin de dfinir les orientations stratgiques de la France dans ce
domaine, a t suivie le 21 mars 2017 de lannonce du plan du
Gouvernement la Cit des sciences et de lindustrie et de la remise dun
rapport au Prsident de la Rpublique1. Ce plan prvoit :
- la mise en place dun comit stratgique FranceIA rassemblant
les sphres acadmique, scientifique, conomique ainsi que des
reprsentants de la socit civile, charg de mettre en uvre les
recommandations des groupes de travail ;
- la coordination par la France dune candidature un projet
phare de technologie mergente ( FET flagship ) sur lIA, co-financ par
lUnion europenne (montant estim dun milliard deuros) ;
- le lancement dun nouveau programme mobilisant les institutions
de recherche pour identifier, attirer et retenir les meilleurs talents en IA,
dans le cadre de laction Programmes prioritaires de recherche du troisime
volet du plan pour les investissements davenir ( PIA 3 ) ;
- le financement dune infrastructure mutualise pour la recherche ;
- la constitution dun consortium public-priv en vue de
lidentification ou de la cration dun centre interdisciplinaire pour
lintelligence artificielle ;
- linclusion systmatique, dici fin 2017, de lIA dans les priorits de
lensemble des dispositifs publics de soutien linnovation ;
- la mobilisation des ressources publiques (Bpifrance, PIA) et
prives pour atteindre lobjectif dici cinq ans dinvestir dans dix start-up
franaises pour plus de 25 millions deuros chacune ;
- la mobilisation des filires automobile, relation client, finances,
sant et transport ferroviaire pour que chaque filire dfinisse une stratgie
sectorielle en IA dici la fin 2017 ;
- le lancement dun appel projets pour des plateformes sectorielles
de partage de donnes pour trois six secteurs, dici la fin 2017 ;
- la conclusion du dbat sur lthique des algorithmes anim par
la CNIL en octobre 2017 et la remise de recommandations au
Gouvernement ;
- le lancement dici lt 2017 dune concertation de France
Stratgie sur la question des effets de lintelligence artificielle sur lemploi.

1 Cf. http://www.economie.gouv.fr/files/files/PDF/2017/Rapport_synthese_France_IA_.pdf
http://www.economie.gouv.fr/files/files/PDF/2017/Conclusions_Groupes_Travail_France_IA.pdf et
http://www.economie.gouv.fr/files/files/PDF/2017/Dossier_presse_France_IA.pdf
- 142 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Vos rapporteurs jugent regrettable que lvolution rcente des


connaissances et des technologies ainsi que la pertinence de lactualit nait
pas permis que cette dmarche du Gouvernement soit inscrite dans les
diffrentes stratgies nationales de recherche dix ans et le livre blanc de
lenseignement suprieur et de la recherche1.

B. DES LOIS DASIMOV LA QUESTION CONTEMPORAINE DE LA


RGULATION DES SYSTMES DINTELLIGENCE ARTIFICIELLE

1. Dpasser les lois dAsimov pour envisager un droit de la


robotique

Ds ses premiers romans, lcrivain Isaac Asimov a formalis ses


trois lois applicables au comportement des robots. Ces trois lois , qui
sapparentent des rgles thiques, sont les suivantes :
- premire loi, un robot ne peut porter atteinte un tre humain ni,
restant passif, laisser cet tre humain expos au danger ;
- deuxime loi, un robot doit obir aux ordres donns par les tres
humains, sauf si de tels ordres sont en contradiction avec la premire loi ;
- troisime loi, un robot doit protger son existence dans la mesure o
cette protection nentre pas en contradiction avec la premire ou la deuxime loi .
Au-del de larticulation des trois lois de la robotique entre elles,
Isaac Asimov a imagin une quatrime loi, dite loi zro , labore par les
robots eux-mmes. Cette invention suit le changement dchelle de la sphre
dinfluence des robots. Elle consiste en une gnralisation de la premire loi,
par le passage dun individu lhumanit toute entire : nulle machine ne
peut porter atteinte lhumanit ni, restant passive, laisser lhumanit expose au
danger .
Bien quelles puissent avoir lair infaillibles, ces rgles peuvent
tre prises en dfaut et atteindre leurs limites. Luvre dIsaac Asimov
montre que lapplication et larticulation entre ces trois lois ne vont pas de
soi. Ces rgles, interprtes par les robots, peuvent mme finir par nuire
aux tres humains.
La Core du Sud sest tout de mme inspire de ces lois pour
rdiger un projet de charte sur lthique des robots, dans le but dviter les
problmes de socit qui pourraient dcouler de mesures sociales et juridiques
inadquates prises pour encadrer lexistence de robots dans la socit .

1 La loi pour lenseignement suprieur et la recherche du 22 juillet 2013 a conduit la prparation


de deux grandes stratgies 10 ans : une Stratgie nationale de lenseignement suprieur (StraNES)
et une Stratgie nationale de la recherche (S.N.R.). Cette loi prvoit galement, dans son article 17,
la ralisation dun livre blanc de lenseignement suprieur et de la recherche par le Gouvernement au
Parlement tous les cinq ans.
DEUXIME PARTIE : - 143 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

Vos rapporteurs rappellent que les lois dAsimov sont des rgles
issues de la fiction et quelles posent des problmes rels de mise en
uvre. Les experts en robotique rencontrs par vos rapporteurs ont tous
soulign la difficult traduire ces lois dans des systmes matriels. Au
total, il sagit davantage de principes thiques gnraux que de prmices
un droit de la robotique.
Les travaux dAndrea Keay visant complter les lois dAsimov
participent aussi de cette logique thique. Pour mmoire, elle propose que
les robots ne soient pas utiliss comme des armes, quils doivent se
conformer aux lois, notamment celles sur la protection de la vie prive, tre
srs, fiables et donner une image exacte de leurs capacits, quils ne doivent
pas tre utiliss pour tromper les utilisateurs les plus vulnrables (ce qui
plaide pour viter les robots humanodes trop ressemblants) et quil doit tre
possible de connatre le responsable de chaque robot.
Reconnatre une personnalit juridique des robots est une des
pistes innovantes qui parcourent le dbat public sur la robotique.
En France, lavocat Alain Bensoussan, rencontr plusieurs reprises
par vos rapporteurs, milite en faveur de ladoption dun droit des robots au
sein de lassociation pour le droit des robots quil prside. Il a ainsi rdig un
projet de charte des droits des robots, qui fait de ces derniers des tres
artificiels dots dune personnalit juridique particulire et dun droit la
dignit1. Il rflchit galement aux implications en matire de responsabilit
et dassurance. En outre, il demande ce que tout robot dispose de systmes
de scurit permettant un arrt durgence.
Selon Alain Bensoussan, les textes actuellement en vigueur, linstar
de la loi du 6 janvier 1978 relative linformatique, aux fichiers et aux
liberts2, noffrent pas un cadre juridique suffisant face aux volutions en
cours de la robotique, lamlioration des capacits dapprentissage et de la
libert dcisionnelle du robot et la question de la confidentialit des
enregistrements et des donnes que celui-ci peut recueillir. En particulier,
pour Alain Bensoussan, il serait essentiel dintgrer aux corpus normatifs
existants un droit des robots , qui se dclinerait sur trois axes : les rgles
gnrales applicables tous les types de robots ; les rgles spcifiques par
type de robot (vhicule autonome, robot humanode) ; et les rfrentiels
robotiques sur les plans thiques, culturels et normatifs.
Vos rapporteurs ont sur le sujet de la reconnaissance de la
personnalit juridique des robots un avis trs rserv. Ils ne sont pas
convaincus de lintrt de reconnatre une personnalit juridique aux robots

1 Cette charte prcise que les donnes caractre personnel conserves par un robot sont
soumises la rglementation Informatique et liberts. Un robot a le droit au respect de sa
dignit limite aux donnes caractre personnel conserves .
2 Lintgralit de la loi n 78-17 du 6 janvier 1978 relative linformatique, aux fichiers et aux

liberts est disponible ici :


https://www.legifrance.gouv.fr/affichTexte.do?cidTexte=JORFTEXT000000886460
- 144 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

et se demandent qui il conviendrait daccorder la personnalit juridique,


au robot dans son ensemble ou son intelligence artificielle ?
Dans la mesure o le systme dintelligence artificielle pourrait
migrer dun corps robotique un autre, la partie physique du robot ne
serait quun contenant, destin recevoir pour un temps donn un systme.
Il serait alors opportun doprer une discrimination entre la partie
physique et la partie informatique du robot en vue de les soumettre des
rgimes juridiques diffrents, notamment en matire de responsabilit. Il
faudrait alors pouvoir, tel lhistorien Ernst Kantorowicz distinguant les
deux corps du roi, discerner les deux corps du robot1.
Vos rapporteurs estiment quil est urgent dattendre en la matire et
que le sujet de la personnalit juridique des robots nest pas une question
qui mrite dtre pose ce stade.

2. Les questions juridiques en matire de conception (design), de


proprit intellectuelle et de protection des donnes
personnelles et de la vie prive

Sagissant des autres aspects juridiques de lintelligence artificielle et


de la robotique, il sera loisible de conduire une rflexion et de faire de la
prospective concernant la conception (design) et lautorisation de
commercialisation2. Pour Rodolphe Glin et Olivier Guilhem,
respectivement directeur scientifique et directeur juridique dAldebaran puis
de Softbank Robotics, il nexiste pas de vide juridique bant. Les rapports
parus sur le sujet, notamment dans le monde anglo-saxon, semblent aller
dans le mme sens.
Dans ltat actuel du droit, en cas de commercialisation de robots
entre professionnels, ces derniers disposent dune certaine libert
contractuelle qui leur permet de combler les incertitudes lgislatives et
jurisprudentielles. Ainsi, leur apprciation totale des possibilits et leur
matrise des contraintes et limites technologiques leur offrent une approche
technique permettant la distribution de la responsabilit finale de chaque
partie prenante de cet change commercial (fabricant, dveloppeur,
propritaire et utilisateur).
Concernant la commercialisation de robots destination des
consommateurs, le droit de la consommation a vocation sappliquer.
La proprit intellectuelle pose des questions auxquelles vos
rapporteurs nont pas de rponses dfinitives. Quel est le statut de ce qui est
cr par des technologies dintelligence artificielle ? Ces uvres sont-elles la

1 Ernst Kantorowicz, Les Deux Corps du roi. Essai sur la thologie politique au Moyen ge ,
Gallimard, 1957.
2 Un rgime du type de celui qui est applicable aux mdicaments avant autorisation de mise sur le

march, avec une priode de tests et dobservations, pourrait devenir obligatoire pour les systmes
autonomes dintelligences artificielles, au stade o leur commercialisation massive sera envisage.
DEUXIME PARTIE : - 145 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

proprit de son acheteur, de son fabricant, de lditeur du logiciel ? En


tout cas elles nappartiennent pas la machine daprs vos rapporteurs.
Plusieurs juristes, tel lavocat Alain Bensoussan imagine linverse une telle
solution, qui implique de doter les intelligences artificielles et les robots
dune personnalit propre, comme il a t vu cette ide nemporte pas leur
adhsion.
Dans ltat actuel du droit franais, la reconnaissance dune cration
pleinement robotique ou issue de technologies dintelligence artificielle
nexiste pas et seul un tre humain peut bnficier dun rgime de
proprit intellectuelle pour ses crations. Il existe nanmoins certains
mcanismes juridiques permettant une uvre ou un ouvrage dont le
processus de cration a t partiellement assur par une machine ou un
systme dintelligence artificielle de bnficier dun rgime de protection au
titre de la proprit intellectuelle. Ainsi, il est possible daccorder un brevet
une cration rsultant dun processus industriel impliquant un
ordinateur ou un robot. De mme, si les crations produites par des
composants robotiques ne sont pas ligibles la protection assure par le
code de la proprit intellectuelle, le savoir-faire, qui reprsente un ensemble
dinformations non brevetes rsultant de lexprience et de
lexprimentation, peut tre utilis comme un outil pour protger la cration
robotique, la suite de la construction jurisprudentielle et doctrinale
reconnaissant la notion de savoir-faire. Enfin, conformment la
Classification de Nice 1, qui est le systme de classification des produits et
des services tabli dans le cadre de lOrganisation mondiale de la proprit
intellectuelle et ratifi par la France, les robots et technologies dintelligence
artificielle sont considrs comme des biens et leurs actions en tant que
fournisseur de services ne sont, de fait, pas prises en compte.
titre de comparaison, les robots et les technologies dintelligence
artificielle ntant pas dots de personnalit juridique propre au regard du
droit international, ils demeurent considrs aux yeux de nombreux
systmes juridiques nationaux comme des objets, et ne sont donc pas
porteurs de droits. Le droit de lUnion europenne ne prvoit pas la cration
par un robot ou un ordinateur ; de fait, leurs crations sont exclues du
champ de la protection de la proprit intellectuelle, du brevet, du dpt
de marque et du droit dauteur tel que dfini par le droit communautaire.
Ainsi, au-del de la France et plus gnralement des tats membres de
lUnion europenne, de nombreux pays tels que lAfrique du Sud, le Brsil,
la Chine, les tats-Unis ou le Japon, considrent que la cration ne peut tre
quhumaine, et non issue dune machine ou dune technologie
dintelligence artificielle. Dans ce cas, les crations effectues par le recours
un robot sont ligibles la protection de la proprit intellectuelle, la
proprit de la cration tant attribue au propritaire ou lutilisateur de la
machine ou du systme.

1 Les 45 classes tablies par la Classification de Nice sont disponibles ici :


http://web2.wipo.int/classifications/nice/nicepub/en/fr/edition-20170101/taxonomy/
- 146 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Lavocat Laurent Szuskin propose, quant lui, une application


distributive de la proprit intellectuelle. Par exemple, une invention dans
un systme dintelligence artificielle pourrait tre protgeable par le brevet,
les logiciels sous-jacents par le droit dauteur, les bases de donnes par le
droit spcifique celles-ci, etc. Sur la question de savoir si le rsultat produit
par lintelligence artificielle appartient au dveloppeur de la solution ou au
fournisseur ou encore lentreprise ayant intgr la solution ses systmes
de production ou encore une autre personne telle que celle ayant fourni les
donnes, Laurent Szuskin plaide, en labsence de rgime lgal ou de
jurisprudence ce jour, pour une solution contractuelle. Les clauses
proprit intellectuelle et savoir-faire encadrant le dveloppement
dintelligence artificielle ou la fourniture de services dintelligence artificielle
doivent attribuer la proprit ou du moins laffectation contractuelle des
rsultats qui dcoulent de lusage de la solution.
Le dveloppement de la robotique intelligente et des
technologies dintelligence artificielle soulve galement des questions en
matire de protection des donnes personnelles. Au quotidien, nos
ordinateurs connects Internet et nos smartphones avec des logiciels tels que
Siri , Cortana ou Google Now , nous font dores et dj cohabiter
avec des algorithmes puissants, qui connaissent beaucoup de chacun de
nous, le plus souvent avec notre complicit, sans que nous ne connaissions
lusage qui peut tre fait de ces millions dinformations caractre
personnel. Les agents conversationnels tant appels jouer un rle
croissant dans nos socits, ce sujet doit faire lobjet dune prise en charge
satisfaisante.
Les activits robotiques sont soumises au respect de la
loi n78-17 du 6 janvier 1978 relative linformatique, aux fichiers et aux
liberts. Ainsi, les propritaires de robots grant le systme de traitement
des donnes doivent respecter les obligations poses par la Commission
nationale de linformatique et des liberts (CNIL), cest--dire la notification
standard sur les utilisations du robot, sur le type de logiciel utilis, sur les
systmes de scurit installs pour protger les donnes dintrusions tierces
non autorises, sur les donnes personnelles stockes dans le robot, et sur les
informations fournies aux utilisateurs concernant le traitement de leurs
donnes personnelles. Tout traitement de donnes personnelles doit tre
signal en amont la CNIL, et lutilisation de donnes sensibles , comme
les donnes mdicales, doit tre autorise par la CNIL. En outre, les
propritaires de systmes de traitement de donnes personnelles sont soumis
une obligation de scurit et de confidentialit des donnes.
Un effort dadaptation du cadre juridique de la protection des
donnes caractre personnel aux nouvelles ralits du monde numrique a
t men rcemment la fois au niveau communautaire et au niveau
national.
DEUXIME PARTIE : - 147 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

Le rglement (UE) 2016/679 du Parlement europen et du Conseil


du 27 avril 2016 relatif la protection des personnes physiques lgard du
traitement des donnes caractre personnel et la libre circulation de ces
donnes1, galement appel rglement gnral europen sur la protection
des donnes et abrogeant la directive 95/46/CE, vise doter les tats
membres dune lgislation uniforme et actualise en matire de protection
des donnes caractre personnel. Ce rglement gnral sur la protection
des donnes , entr en vigueur le 24 mai 2016 et qui sera applicable partir
du 25 mai 2018, est destin remplacer lactuelle loi du 6 janvier 1978
relative linformatique, aux fichiers et aux liberts.
Lapplication de ce rglement gnral europen sur la protection des
donnes poursuit trois objectifs. Tout dabord, lapplication de ce rglement
vise renforcer les droits des personnes, notamment par la cration dun droit la
portabilit des donnes et de dispositions propres aux personnes mineures 2.
Ensuite, ce rglement impose un accroissement de la transparence et la
responsabilisation des acteurs traitant des donnes, selon une logique de
conformit dont les acteurs sont responsables, sous le contrle et avec
laccompagnement du rgulateur. Enfin, lapplication de ce rglement a pour
objectif de crdibiliser la rgulation grce une coopration renforce entre les
autorits de protection de donnes, qui pourront notamment adopter des dcisions
communes et des sanctions renforces dans les cas de traitements de donnes
transnationaux 3.
Les dispositions contenues dans le rglement gnral europen sur
la protection des donnes encadrent la collecte et le traitement de donnes
caractre personnel par de nombreux droits et responsabilits. Ainsi, ce
rglement introduit la dfinition de lexpression du consentement renforc ,
indiquant que les utilisateurs doivent tre informs de lusage de leurs
donnes et doivent donner leur accord, ou sopposer, au traitement de leurs
donnes personnelles. De mme, le droit la portabilit des donnes est
affirm, et les responsables de traitements des donnes caractre personnel
devront assurer des oprations respectant la protection des donnes
personnelles, la fois ds la conception du produit ou du service et par
dfaut.
Le rglement gnral europen sur la protection des donnes
saccompagne de ladoption de la directive (UE) 2016/680 du Parlement
europen et du Conseil du 27 avril 2016 relative la protection des
personnes physiques lgard du traitement des donnes caractre
personnel par les autorits comptentes des fins de prvention et de
dtection des infractions pnales, denqutes et de poursuites en la matire

1 Le texte intgral du rglement est disponible ici : http://eur-lex.europa.eu/legal-


content/FR/ALL/?uri=CELEX%3A32016R0679
2 La CNIL propose une analyse dtaille et synthtique des dispositions contenues dans le rglement

gnral europen sur la protection des donnes, disponible ici : https://www.cnil.fr/fr/reglement-


europeen-sur-la-protection-des-donnees-ce-qui-change-pour-les-professionnels
3 Ibid.
- 148 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

ou dexcution de sanctions pnales, et la libre circulation de ces donnes.


Cette directive, entre en vigueur le 5 mai 2016 et que les tats membres sont
tenus de transposer dans leur ordre juridique interne au plus tard le 6 mai
2018, sapplique aux oprations de donnes effectues la fois au niveau
transfrontalier et au niveau national par les autorits comptentes des tats
membres des fins rpressives, comprenant notamment la prvention et la
dtection des infractions pnales et la protection contre les menaces pour la
scurit publique.
Vos rapporteurs notent que certaines dispositions de la loi
n 2016-1321 du 7 octobre 2016 pour une Rpublique numrique anticipent
ce rglement europen sur la protection des donnes personnelles.
La loi cre, en effet de nouveaux droits informatique et liberts et
permet ainsi aux personnes de mieux matriser leurs donnes personnelles,
par laffirmation du droit lautodtermination informationnelle, qui
constitue un renforcement des principes noncs larticle 1er de la loi du
6 janvier 1978 relative linformatique, aux fichiers et aux liberts. De mme,
elle introduit le droit loubli par les mineurs via une procdure spcifique
acclre permettant un effacement des donnes problmatiques sur les
plateformes, prvu dsormais par larticle 40 de la loi du 6 janvier 1978
relative linformatique, aux fichiers et aux liberts. Larticle 40-1 de cette
mme loi permet dsormais aux personnes dorganiser la conservation,
leffacement et la communication de leurs donnes personnelles aprs leur
dcs, notamment en dsignant une personne pour excuter des directives
gnrales ou particulires souhaites par le dfunt. En outre, le nouvel article
43 bis de la loi du 6 janvier 1978 relative linformatique, aux fichiers et aux
liberts offre la possibilit aux citoyens dexercer leurs droits par voie
lectronique.
La loi du 7 octobre 2016 pour une Rpublique numrique largit
galement les pouvoirs de sanctions de la CNIL et lui confie de nouvelles
missions. Ainsi, le plafond maximal des sanctions de la CNIL est dsormais
de trois millions deuros, cette augmentation anticipant celle prvue par le
rglement gnral europen sur la protection des donnes. La loi introduit la
consultation systmatique de la CNIL afin que celle-ci soit saisie pour avis
ds lors quun projet de loi ou une disposition dun projet de loi ou de dcret
est relatif la protection et au traitement des donnes caractre personnel.
Tous les avis de la CNIL seront par ailleurs automatiquement rendus
publics. De plus, la loi renforce la CNIL de nouvelles missions en matire de
protection des donnes personnelles. Ainsi, la CNIL doit assurer la
promotion des technologies de protection de la vie prive, certifier la
conformit des processus danonymisation des donnes caractre
personnel lors de leur mise en ligne et de leur utilisation, et conduire une
rflexion sur les problmes thiques et les questions de socit face
lvolution des technologies numriques. Cette dernire mission confie
la CNIL la ainsi mene initier un cycle de dbats publics, ateliers ou
DEUXIME PARTIE : - 149 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

rencontres, intitul thique et numrique : les algorithmes en dbat 1. Ce point


sera abord plus loin dans la partie consacre au cadre national de la
rflexion sur les enjeux thiques de lintelligence artificielle
Enfin, la loi du 7 octobre 2016 pour une Rpublique numrique
contribue galement une meilleure ouverture des donnes publiques.
Larticle 4 de la loi modifie, en effet, le droit la communication des
documents administratifs, et cre larticle L311-3-1 du Code des relations
entre le public et ladministration, qui dispose que sous rserve de
lapplication du 2 de larticle L. 311-5, une dcision individuelle prise sur le
fondement dun traitement algorithmique comporte une mention explicite en
informant lintress. Les rgles dfinissant ce traitement ainsi que les principales
caractristiques de sa mise en uvre sont communiques par ladministration
lintress sil en fait la demande. Les conditions dapplication du prsent article
sont fixes par dcret en Conseil dtat 2.
ce titre, la loi signe le passage dune logique de la demande dun
accs la logique de loffre de donnes publiques, bien que les critres de
communicabilit de ces donnes demeurent inchangs.
Nanmoins, vos rapporteurs soulignent le fait que lintroduction
de ce nouveau droit rinterroge les questions dexplicabilit et de
responsabilit des algorithmes. En effet, le principe dexplicabilit dun
algorithme implique que toute dcision prise par celui-ci doit tre accessible
et comprhensible par les personnes concernes par cette dcision, afin de
permettre ces derniers de fournir une meilleure contestation des erreurs
constates ou des donnes errones. De mme, le principe de responsabilit
dun algorithme implique que lalgorithme ou son utilisateur rende compte
des effets de leurs procds et de leurs actions. Les algorithmes tant
souvent caractriss par leur opacit et qualifis de botes noires
insondables, la collecte et le traitement de donnes publiques dsormais
librement accessibles par des algorithmes soulve de nombreuses
proccupations sur la transparence des algorithmes.
Vos rapporteurs notent que la loi ne fournit toujours pas de rgime
juridique spcifique de protection des donnes personnelles dans les cas de
collecte et de traitement de ces donnes par des robots intelligents ou des
technologies dintelligence artificielle, cest le droit commun de la protection
des donnes caractre personnel dans les traitements informatiques qui
continue de sappliquer.

1La CNIL rendra publique ds lautomne 2017 la synthse des changes et des contributions. Comme
elle laffirme, il sagira dtablir une cartographie de ltat du dbat public et un panorama
des dfis et enjeux. Des pistes ou propositions pour accompagner le dveloppement des
algorithmes dans un cadre thique pourraient faire par la suite lobjet darbitrages par les
pouvoirs publics . La prsentation du projet est disponible ici : https://www.cnil.fr/fr/ethique-et-
numerique-les-algorithmes-en-debat-0
2 Le droit applicable la communication des documents administratifs est disponible ici :

https://www.legifrance.gouv.fr/affichCode.do;jsessionid=9D32BEC5092D1A4CC3D228A1256F8AB
A.tpdila23v_2?idSectionTA=LEGISCTA000031367696&cidTexte=LEGITEXT000031366350&date
Texte=20170312
- 150 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Afin de rpondre plus spcifiquement aux proccupations dexplicabilit, de


rgulation et de responsabilit des algorithmes, le Conseil gnral de
lconomie (CGE) a remis au Gouvernement un rapport intitul Modalits
de rgulation des algorithmes de traitement des contenus 1. Cinq
prconisations ont t formules en vue de vrifier la conformit aux lois et
rglements dont la dtection de discrimination illicite. Suite ce rapport, le
secrtariat dtat lconomie numrique a confi lInstitut national de
recherche en informatique et en automatique (Inria) le rle doprateur de la
plateforme scientifique dvaluation de la responsabilit et de la
transparence des algorithmes avec le soutien de lIMT et du CNNum. Ce
projet a t plac sous la direction de Nozha Boujemaa, directrice de
recherche chez Inria. Les travaux de la plateforme TransAlgo 2 ont ainsi
t lancs en janvier 2017 et rassemblent des chercheurs de plusieurs
tablissements (SciencePo, UVSQ, CEA, CNRS, Inria, IMT etc).
La disposition sur louverture des donnes publiques introduite par
la loi du 7 octobre 2016 pour une Rpublique numrique et la question de la
transparence des algorithmes ont t abordes, le 15 novembre 2016, dans le
cadre de dbats au Snat sur les ingalits devant lorientation aprs le
bac . Au cours de ce dbat, notre collgue snatrice Sylvie Robert a abord
la question de lalgorithme de rpartition utilis par la
plateforme Admission post-bac (APB), dont les rsultats semblaient
reflter des ingalits subies par les candidats, notamment en fonction de
leur origine sociale, dans lorientation dans des filires denseignement
suprieur. Lencadr suivant rappelle lchange que notre collgue a eu ce
sujet en sance publique avec le Gouvernement, reprsent par Mme Clotilde
Valter, secrtaire dtat auprs de la ministre du travail, de lemploi, de la
formation professionnelle et du dialogue social, charge de la formation
professionnelle et de lapprentissage.

1http://www.economie.gouv.fr/cge/modalites-regulation-des-algorithmes-traitement-
des-contenus
2 http://www.economie.gouv.fr/files/files/PDF/Inria_Plateforme_TransAlgo2016-12vf.pdf
DEUXIME PARTIE : - 151 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

Ingalits devant lorientation aprs le bac (extrait des dbats1)

Mme Sylvie Robert. Madame la secrtaire dtat, une rcente tude mene
par lINSEE dans lacadmie de Toulouse souligne que les rsultats dadmission
post-bac reposent, dans une large mesure, sur un dterminisme social vident.
dossiers quivalents, les lves issus de milieux favoriss sorientent beaucoup plus
vers les filires dexcellence ou les grandes coles. Plusieurs facteurs peuvent
expliquer ce constat : les diffrences de ressources financires, la position sociale
des parents, qui influe souvent sur le choix des enfants, lasymtrie dinformation
concernant les tablissements denseignement suprieur ou encore les disparits en
matire dorientation dans les lyces. Cette configuration tend confrer un poids
dterminant au capital social et culturel dtenu par llve et sa famille. Or le
niveau de diplme demeure un facteur prpondrant en matire dinsertion sur le
march du travail. preuve, quatre ans aprs la sortie de la formation initiale, le
taux de chmage des peu ou non diplms, qui slve 45 %, est quatre fois plus
important que celui des diplms du suprieur.
Pour remdier cette situation, il se rvle donc essentiel dagir en amont,
en garantissant une galit relle devant lorientation, laquelle nest pas seulement
un processus de rpartition des lves dans diffrentes voies de formation , mais
aussi une aide dans le choix de leur avenir scolaire et professionnel , comme le
rappelle le Haut Conseil de lducation.
ce titre, il est reconnu que le systme APB, admission post-bac, requiert
un accompagnement et un suivi personnaliss de chaque lve. Nanmoins,
limpossibilit parfois, pour llve, dobtenir dans le cadre scolaire des
informations pertinentes sur les filires et tablissements envisags, ainsi que des
conseils quant aux stratgies mettre en uvre pour formuler ses vux, constitue
lune des causes principales derreur, voire dchec, dorientation. Dailleurs, dans
le rapport dinformation snatorial intitul Une orientation russie pour tous les
lves , il est prconis dintgrer le conseil en orientation dans la formation
initiale et continue des enseignants. Dans cette mme perspective, les rectorats ont
propos des amliorations du systme APB : ouvrir le dispositif lensemble des
filires slectives ; abandonner le tirage au sort utilis pour certaines formations,
qui est source de frustration, dinjustice et parfois de contentieux ; associer au
processus, ds la classe de premire, llve et sa famille, afin de les familiariser
loutil APB et de leur permettre danticiper et de rflchir posment lorientation ;
renforcer la transparence du systme APB par la publication de son code source,
conformment aux dispositions de larticle 2 du projet de loi pour une Rpublique
numrique, qui cre un droit daccs aux rgles dfinissant le traitement
algorithmique.

1Lintgralit des dbats conduits lors de la sance du 15 novembre 2016 aprs la question n 1489
adresse Mme la ministre de lducation nationale, de lenseignement suprieur et de la recherche
au Snat est disponible ici :
https://www.senat.fr/seances/s201611/s20161115/s20161115_mono.html#cribkmk_questionorale_14
89_109137
- 152 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Je souhaiterais connatre la position du Gouvernement sur ces quelques


pistes de rflexion. Par ailleurs, madame la secrtaire dtat, envisagez-vous de
prendre dautres mesures afin que tous les lves puissent faire un choix clair et
aient des chances gales, avec le systme APB, de poursuivre ses tudes dans la
filire et ltablissement suprieur de ses vux ?
Mme Clotilde Valter, secrtaire dtat auprs de la ministre du travail, de
lemploi, de la formation professionnelle et du dialogue social, charge de la
formation professionnelle et de lapprentissage. Madame la snatrice Sylvie
Robert, je suis mandate par Mme la ministre de lducation nationale et par mon
collgue Thierry Mandon pour rpondre votre question. Lorientation des lves
est un des champs de rflexion et de travail du Gouvernement depuis 2012, dans la
perspective de la lutte que nous menons contre le dcrochage scolaire. Cest dans ce
cadre que le parcours Avenir a t mis en place, la rentre 2015, pour dlivrer une
information personnalise chaque lve, et ainsi favoriser llaboration dune
orientation cohrente. Cet accompagnement personnalis en lyce, dispens ds la
classe de seconde, reprsente dores et dj deux heures par semaine en moyenne.
Des actions ont galement t engages pour amliorer le continuum de formation
bac-3/bac+3, telles que la gnralisation du conseil dorientation anticip en classe
de premire, le renforcement du rle de la commission acadmique des formations
post-baccalaurat, lamlioration de larticulation des programmes du second degr
et du suprieur par la rnovation en profondeur des programmes, le renforcement
des passerelles et lvolution de loffre pdagogique.
Je tiens galement rappeler que le dispositif admission post-bac nest,
pour les lves, quun outil dexpression des vux. Le choix de lorientation se fait
bien videmment en amont de la formulation de ces derniers sur le portail ; cest le
fruit dune rflexion que llve mne avec laide de lquipe pdagogique et grce
aux ressources de lONISEP, lOffice national dinformation sur les enseignements
et les professions. Ce portail a fait lobjet dvolutions importantes, qui visent
amliorer linformation et permettre chaque lve de formaliser un choix
rflchi, que ce soit en le confortant dans son choix ou en lui conseillant une autre
orientation. De plus en plus, ce portail permet en effet aux lves de recevoir un
conseil. La trs grande majorit des universits lutilisent dsormais pour formuler
des avis : on recense plus de 500 000 avis ainsi dlivrs par les universits au cours
de la dernire anne. Les quipes ducatives ont t formes cet effet dans chaque
acadmie, au niveau des bassins de formation des tablissements. Les actions mises
en uvre sur le terrain, linstar des Cordes de la russite et des parcours
dexcellence, lancs la rentre de 2016, doivent aussi tre mentionnes.
Ces politiques commencent porter leurs fruits : nous enregistrons des
rsultats extrmement positifs, avec une baisse du nombre de jeunes sortis sans
qualification, infrieur cette anne 100 000, le taux de jeunes de 18 24 ans non
qualifis tant dsormais, dans notre pays, plus faible quen Allemagne ou au
Royaume-Uni.
Jai bien pris note, madame la snatrice, des questions trs prcises que
vous avez poses sur un certain nombre de points. Je ne suis pas en mesure dy
rpondre, mais je les transmettrai Mme la ministre de lducation nationale et
Thierry Mandon.
DEUXIME PARTIE : - 153 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

Mme Sylvie Robert. Madame la secrtaire dtat, je vous remercie


vivement de cette rponse, et jai bien not que mes questions prcises obtiendront
des rponses prcises. Mon intention ntait vraiment pas de critiquer le systme
APB, qui sest en effet beaucoup amlior. Je souhaitais simplement souligner la
difficult que rencontrent certains lves, et leurs familles avec eux, pour laborer
de faon libre et claire leur parcours professionnel.

3. Les divers rgimes de responsabilit envisageables et ceux


envisags

Les rgimes de responsabilit envisageables ont tendance mettre


en cause soit le fabricant, soit le propritaire, soit lutilisateur. Les cas
daccident risquent en effet de se multiplier raison de la diffusion de
systmes autonomes, notamment de robots.
Vos rapporteurs jugent donc ncessaire de se poser dautres
questions que celle dune reconnaissance de la personnalit juridique des
robots.
Lassociation EuRobotics ( European Robotics Coordination
Action ), en charge du programme de recherche de lUnion europenne en
robotique avec lobjectif de favoriser le dveloppement de la robotique en
Europe, a propos le 31 dcembre 2012 un projet de livre vert sur les aspects
juridiques de la robotique1. Dans ce projet de livre vert, deux situations sont
distingues : celles o un robot cause un dommage du fait dun dfaut de
fabrication et qui justifient une responsabilit du fait des produits
dfectueux2 et celles o un robot cause un dommage dans le cadre de ses
interactions avec des humains dans un environnement ouvert. Dans ce
dernier cas, avec des robots de nouvelle gnration dots de capacit
dadaptation et dapprentissage et dont le comportement prsente un certain
degr dimprvisibilit, le rgime de la responsabilit du fait des produits
dfectueux nest pas appropri. Le cadre juridique applicable pourrait donc
sinspirer, selon les auteurs du livre vert, de deux rgimes traditionnels
(responsabilit du fait des animaux ou responsabilit du fait dautrui,
comme celle des parents si lon choisit dassimiler les robots cognitifs aux
enfants) ou, encore, dun code de conduite thique applicable aux robots et
qui reste rdiger.
Vos rapporteurs notent que quatre rgimes de responsabilit
pourraient en ralit trouver sappliquer aux accidents causs par des

1 Cf. http://www.eu-robotics.net/cms/upload/PDF/euRobotics_Deliverable_D.3.2.1_Annex_Suggesti
on_GreenPaper_ELS_IssuesInRobotics.pdf
2 La directive n 85/374/CEE du Conseil du 25 juillet 1985 sur la responsabilit du fait des produits

dfectueux tablit le principe de la responsabilit objective (responsabilit sans faute) du fabricant en


cas de dommages provoqus par un produit dfectueux.
- 154 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

robots : le rgime de responsabilit du fait des produits dfectueux1, celui


de la responsabilit du fait des animaux2, celui de la responsabilit du fait
dautrui3, ou, encore, celui, traditionnel4, de la responsabilit du fait des
choses, mais qui ne sapplique que de faon rsiduelle par rapport au rgime
de responsabilit du fait des produits dfectueux.
Le robot est considr comme une chose dans le droit civil franais.
La responsabilit du fait des choses, en tant que rgime de responsabilit
objectif codifi par lancien article 1384 du code civil, signifie que pour
quelle soit applique, la chose doit tre implique dans le dommage et
quelle joue un rle actif (comme le fait dtre en mouvement ou de toucher
la victime) dans loccurrence dudit dommage. Cest lindividu considr
comme gardien de la chose qui est responsable de la rparation du
dommage caus. Cependant, si le dommage est caus par une faille de
scurit du robot, le rgime de responsabilit pour le dommage caus par la
chose sapplique au fabricant du robot.
Selon Arnaud Touati et Gary Cohen5, le rgime de responsabilit du
fait des choses laisse planer des incertitudes face des biens autonomes.
En effet la jurisprudence requiert, pour appliquer ce rgime, davoir la garde
de la chose pour en tre tenu responsable. Or cette garde se matrialise par
un pouvoir de contrle, de direction et dusage. Mais alors que lon conoit
facilement lusage dune intelligence artificielle (utiliser le logiciel, exploiter
ses capacits), en avoir la direction et le contrle semblent deux lments
beaucoup plus difficiles envisager face des systmes dintelligence
artificielle autonomes, de surcrot non matrialiss physiquement6.
Concernant ce rgime de responsabilit applicable lintelligence
artificielle et aux robots, Rodolphe Glin et Olivier Guilhem estiment, quant
eux, intressant de noter que la responsabilit du fait des choses peut
apprhender certaines caractristiques propres des robots comme leur
polyvalence, leur capacit dapprentissage et dinteraction. En revanche,
lautonomie dcisionnelle semble davantage poser problme. Si le robot agit
de faon autonome, qui est son gardien ? Le concepteur de son intelligence
artificielle ou le propritaire qui a ralis son apprentissage ?

1 Codifi aux articles 1386-1 et suivants du code civil, il vise engager la responsabilit du
producteur de robots ds lors que ces derniers, ayant caus un dommage, noffrent pas la scurit
laquelle on peut lgitimement sattendre . Ce critre de scurit lgitime prsente lintrt
dtre flexible.
2 Pour les cas o un individu est dclar responsable des actes dommageables commis par un animal

dont il a la garde ou la proprit.


3 Pour les cas o un individu est dclar responsable des actes dommageables commis par un tiers.
4 Issu du fameux ancien article 1384 du code civil.
5 Article Le droit lpreuve de lintelligence artificielle du 28 novembre 2016 paru dans la

revue Village de la Justice.


6 Mme en prsence dune application matrielle de lintelligence, tel quun robot, le problme de la

garde reste pos, de sorte que lutilisateur ne contrle pas effectivement le systme, il peut
simplement lallumer ou lteindre.
DEUXIME PARTIE : - 155 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

ce niveau, le fait de mettre en place une responsabilit en cascade


pourrait tre envisage. Dans la mesure o trois ou quatre acteurs sont en
prsence (le producteur de la partie physique du robot, le concepteur de
lintelligence artificielle, lutilisateur et sil est distinct de ce dernier, le
propritaire), il est possible dimaginer que chacun puisse supporter une
part de responsabilit selon les circonstances dans lesquelles est survenu le
dommage. Arnaud Touati et Gary Cohen plaident de mme pour offrir
lintelligence artificielle un statut particulier, diffrent de celui rserv la
chose et protecteur en cas daccident, du type chane de responsabilits ,
allant du concepteur lutilisateur, en passant par le fabricant, le fournisseur
et le distributeur.
lheure o dautres juristes, tel Alain Bensoussan, prnent la
cration dune personnalit juridique autonome pour les systmes
dintelligence artificielle, il est important didentifier des pistes qui ne
fassent pas courir le risque de dresponsabiliser les acteurs du secteur,
commencer par les industriels de la robotique.
En outre, il conviendrait de rflchir la possibilit dinstituer des
systmes dassurance spcifiques, voire des assurances obligatoires. La
Fdration Franaise de lAssurance a ainsi mis en place ds la fin 2014 une
commission spcialise dans les questions du numrique qui a pour objectif
de structurer un cosystme plus favorable au numrique tout en respectant
les enjeux concurrentiels entre les assureurs. Cette Commission, compose
de 26 reprsentants des socits dassurances, est prside par Virginie
Fauvel, en charge du Digital & Market Management dAllianz France. La
commission a notamment pour mission :
- danalyser les enjeux collectifs attachs la transformation digitale
pour le secteur,
- dtudier les moyens de consolider la confiance entre les assureurs
et les assurs dans cette transformation,
- de promouvoir linnovation et notamment une rglementation
adapte et gradue (principe du bac sable rglementaire).
Cette commission a lanc plusieurs actions concrtes en 2016, dont :
une initiative pour le Legal Design, qui vise lutter contre la
surabondance de linformation, grce des infographies et vidos
permettant de rendre linformation juridique plus visuelle et plus facilement
comprhensible par les assurs ;
une rencontre avec une trentaine de start-up InsurTech en
dcembre 2016, afin de renforcer les liens entre les assureurs et les jeunes
pousses ;
Lorganisation dune Learning Expedition en Silicon Valley et au
CES de Las Vegas en janvier 2017.
- 156 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Pour lanne 2017, plusieurs thmatiques ont t dfinies comme


prioritaires par la commission :
Vhicules connects/autonomes : une bonne utilisation des donnes
des vhicules connects permettra une meilleure prvention des risques
daccidents (ex : localisation de zones accidentognes). Par ailleurs, il est
ncessaire danticiper larrive des vhicules autonomes afin de proposer des
produits dassurance adapts ;
Blockchain : cette technologie pourrait permettre de simplifier
lidentification et la preuve dassurance, ainsi que dautomatiser les
procdures dindemnisation (lun des exemples tant lindemnisation
automatique des voyageurs en cas de retard davion) ;
Intelligence artificielle : la puissance de calcul des ordinateurs et
laugmentation exponentielle du nombre de donnes vont permettre
lintelligence artificielle doffrir de trs nombreuses applications nouvelles :
reconnaissances vocales, reconnaissances dimages, assistants virtuels,
vhicules autonomes
Selon la Fdration Franaise de lAssurance (FFA) interroge par
vos rapporteurs, lintelligence artificielle est un sujet naissant sur lequel les
impacts et les solutions ne sont pas encore connus.
En termes de rglementation, il faudra par consquent trouver un
quilibre entre un encadrement qui ne bride pas linnovation et le fait
dapporter suffisamment de protection aux consommateurs. De nouvelles
questions vont merger avec ces nouvelles technologies, et notamment
certaines concernant lassurance et ses rgimes.
Mais la Fdration Franaise de lAssurance estime quil est encore
trop tt pour y rpondre car elle na pas aujourdhui de visibilit suffisante
sur les applications futures de ces technologies, elle assure quen tout tat de
cause le droit et lassurance accompagneront les nouveaux risques, ce dont
se rjouissent vos rapporteurs. Avec lmergence de nouvelles formes
dintelligence artificielle et de robotique, il pourrait tre envisag de mettre
en place de nouveaux rgimes dassurance, voire de crer une assurance
obligatoire.
Enfin, vos rapporteurs sinterrogent sur la question de la
responsabilit juridique des algorithmes, par exemple le cas dun moteur
de recherche pour les suggestions quil peut proposer ses utilisateurs.
Dans larrt n 625 du 19 juin 2013 de la Premire chambre civile de
la Cour de cassation1, la plus haute juridiction judiciaire a en effet considr
que Google ne pouvait pas tre tenu pour responsable des mots proposs
daprs un algorithme construit par ses soins. Lexplication du
raisonnement des juges est le suivant : la fonctionnalit aboutissant au

1 Lintgralit de larrt rendu par la Cour de la Cassation est disponible ici :


https://www.courdecassation.fr/jurisprudence_2/premiere_chambre_civile_568/625_19_26825.html
DEUXIME PARTIE : - 157 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

rapprochement critiqu est le fruit dun processus purement automatique dans son
fonctionnement et alatoire dans ses rsultats, de sorte que laffichage des mots
cls qui en rsulte est exclusif de toute volont de lexploitant du moteur de
recherche dmettre les propos en cause ou de leur confrer une signification
autonome au-del de leur simple juxtaposition et de leur seule fonction daide la
recherche .
Dans la mesure o la saisie semi-automatique de Google fonctionne
uniquement partir dalgorithmes, la Cour de cassation estime quil nest
pas possible den dduire que la responsabilit de lentreprise puisse tre
engage. Pour la Cour de cassation, les algorithmes ne sont donc pas
coupables.

4. Les diffrenciations du droit applicable selon le type dagents


autonomes : robots industriels, robots de service, voitures
autonomes et dilemmes thiques affrents

Le livre blanc droit de la robotique que le SYMOP a publi en


2016 contient dutiles rflexions ce niveau, notamment sur les robots
industriels. La question de la scurit des robots implique, en amont,
ltablissement dune dfinition de la collaboration et de linteraction
homme-robot. La norme ISO 8373 : 2012 tablit la dfinition de certains
termes caractrisant une interaction entre lhomme et le robot1. Ainsi,
larticle 2.29 de la norme, linteraction homme-robot est dfinie comme un
change dinformation et dactions entre lhomme et le robot pour excuter une
tche, au moyen dune interface utilisateur , notamment au moyen dchanges
vocaux, visuels ou tactiles.
Le Parlement europen et le Conseil de lUnion europenne ont
adopt la directive 2006/42/CE2, dite directive Machines , dont lobjectif
est dassurer la libre circulation des machines au sein du march intrieur tout en
garantissant un haut niveau de protection de la sant et de la scurit ,
impliquant une harmonisation des exigences de chaque tat membre en
termes de sant et de scurit concernant la conception et la production de
machines. Les parties prenantes concernes par la directive Machines
doivent respecter des obligations directement lies leur statut :
- le fabriquant est responsable de la conformit de la machine aux
exigences de sant et de scurit. La conformit du produit est certifie
par un marquage CE sur la machine ;

1 Cette norme ISO dfinit ainsi les termes de fonctionnement collaboratif (article 2.25), de
robot de collaboration (article 2.26), et [d] interaction homme-robot (article 2.29).
Lintgralit du texte est disponible ici : https://www.iso.org/obp/ui/#iso:std:iso:8373:ed-2:v1:fr
2 Directive 2006/42/EC du Parlement europen et du Conseil du 17 mai 2006 relative aux

machines et modifiant la directive 95/16/CE. Lensemble des dispositions contenues dans cette
directive est accessible ici : http://eur-
lex.europa.eu/LexUriServ/LexUriServ.do?uri=OJ:L:2006:157:0024:0086:fr:PDF
- 158 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

- limportateur peut, en plus de transmettre lautorit de surveillance


du march certaines informations concernant le produit, assumer une
responsabilit juridique par rapport au produit import ;
- le distributeur doit veiller la conformit des produits quil met sur le
march, et lassembleur et linstallateur doivent veiller ce que le
produit demeure conforme.
Le code du travail contient galement de nombreuses dispositions
concernant les exigences de sant et de scurit. Une partie de la directive
2006/42/CE a ainsi t transpose dans le droit franais aux articles
R. 4311-4 et suivants du code du travail. En outre, les diffrentes dispositions
relatives aux exigences de sant et de scurit prsentes dans le code du
travail affirment que la scurit et la protection de la sant des travailleurs
sont assures par lemployeur et sappliquent dans le cadre de lutilisation
de robots industriels ou de services. Lemployeur doit respecter les
exigences de conformit en vigueur et est tenu de prendre des mesures
adaptes lutilisation de robots, telles que des actions de prvention des
risques professionnels, des actions dinformation et de formation, ou encore
assurer des conditions dutilisation scurise des robots.
Il est important de noter, comme le relve le livre blanc du SYMOP
Droit de la robotique , que la cour de Cassation a dj retenu la responsabilit
demployeurs en cas dinfractions la lgislation relative la scurit des
travailleurs dans le cadre dutilisation de robots , notamment dans le cas du
dcs dun travailleur dans une usine demballage1 ou dun employeur ayant
fait travailler un salari sur une ligne de fabrication robotise sans prendre
les mesures de scurit ncessaires2.
Les robots de service posent diffrentes questions juridiques, dont
les dveloppements prcdents ont montr que les enjeux en termes de
responsabilit ou de scurit ntaient pas insurmontables.
En revanche, pour ce qui concerne les voitures autonomes, le besoin
dessais grande chelle et en situation relle appelle une clarification du
cadre juridique. Il sagit la fois denjeux conomiques et de scurit.
Le cadre lgal auquel sont soumises les exprimentations des
voitures autonomes peut tre examin sous diffrents aspects. Au regard du
droit priv international, certaines dispositions contenues dans la
Convention de Vienne sur la circulation routire du 8 novembre 1968,
comme lobligation de prsence dun conducteur et le contrle de celui-ci
sur le vhicule en mouvement, peuvent constituer dventuels obstacles
juridiques la gnralisation de voitures autonomes en France. Seuls les
vhicules dots de systmes partiellement autonomes (comme les systmes
daide la conduite) sont autoriss la circulation sur la voie publique, et le

1Arrt n02-87666 du 30 septembre 2003 de la chambre criminelle de la Cour de cassation.


2Arrt n01-21192 du 16 septembre 2003 de la deuxime chambre civile de la Cour de
cassation.
DEUXIME PARTIE : - 159 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

chauffeur doit avoir le contrle du vhicule. Cette convention internationale,


bien quencore rcemment amende, ncessitera de nouvelles modifications
du fait de lintgration croissante de systmes daide la conduite, de
systmes autonomes et de systmes dintelligence artificielle dans les
vhicules automobiles.
Ltat actuel du droit communautaire peut galement constituer un
obstacle juridique la circulation de vhicules intelligents sur la voie
publique. Ladoption de la directive 2010/40/UE du Parlement europen et
du Conseil du 7 juillet 2010 concernant le cadre pour le dploiement de
systmes de transport intelligents dans le domaine du transport routier et
dinterfaces avec dautres modes de transport a permis linstauration dun
cadre juridique acclrant le dploiement des systmes de transport
intelligents, qui pourrait servir de modle pour ladoption dune directive
spcifique aux voitures numriques afin de coordonner les lgislations des
tats membres sur le dploiement des voitures intelligentes. Nanmoins, vos
rapporteurs constatent que le droit communautaire ne prvoit pour le
moment pas de cadre normatif spcifique permettant lharmonisation de
lexprimentation, du dploiement et de lexploitation des vhicules
intelligents au sein de lespace europen.
Cependant, ladoption du rglement (UE) 2015/758 du Parlement
europen et du Conseil du 29 avril 2015 concernant les exigences en matire
de rception par type pour le dploiement du systme eCall embarqu fond
sur le service 112 rendant obligatoire linstallation de terminaux
permettant aux vhicules de communiquer entre eux (V2V) et avec les
infrastructures de transport intelligent (V2I), permettent de poser les bases
du dploiement des vhicules intelligents en Europe.
Vos rapporteurs notent que les tats-Unis disposent de lois
autorisant lexprimentation de voitures autonomes sur la voie publique,
au niveau des tats du Nevada depuis juin 2011, de Floride depuis avril
2012, de Californie depuis septembre 2012, du district de Columbia depuis
janvier 2013, et du Michigan depuis fin 2013. Dautres projets de loi
concernant les voitures autonomes sont en cours dadoption dans une
dizaine dtats. Ces lois existantes ou en cours dadoption fixent les
conditions des tests sur la voie publique ainsi que les normes de scurit
applicables. Cependant, aucune harmonisation au niveau fdral nest ce
jour ltude.
En France, larticle R. 412-6-I du code de la route indique que tout
vhicule en mouvement doit avoir un conducteur. Dans ltat actuel de la
lgislation franaise, le conducteur du vhicule est responsable en cas
daccident de la route. Cependant, cette lgislation ne peut tre applique
telle quelle aux accidents causs par des vhicules autonomes car le
conducteur na pas le contrle direct du vhicule.
La course la voiture autonome et la perspective de ses dbouchs
massifs et de ses gains en termes de scurit ou denvironnement entre en
- 160 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

tension avec le risque daccident et surtout le flou juridique en matire de


responsabilit. Le Gouvernement sest vu confier la tche de dterminer le
rgime juridique applicable et il y a donc lieu pour vos rapporteurs, et, plus
largement, lOPECST, de suivre cette mission sans interfrer avec elle.
La loi n2015-992 du 17 aot 2015 relative la transition nergtique
pour la croissance verte contient des dispositions introduisant le cadre
exprimental visant promouvoir lexprimentation et le dploiement de
vhicules propres, incluant les voitures sans chauffeur.
Cette loi habilite le Gouvernement agir par ordonnance concernant
lautorisation dexprimentation de vhicules dlgation partielle ou totale
de conduite sur la voie publique. En ce sens, lordonnance n 2016-1057 du
3 aot 2016 relative lexprimentation de vhicules dlgation de
conduite sur les voies publiques autorise lexprimentation de vhicules
intelligents sur la voie publique sous condition de la dlivrance dune
autorisation accorde par le ministre charg des transports, aprs avis du
ministre de lintrieur. Pour mmoire, le projet Nouvelle France
industrielle , annonc la fin de lanne 2013 avec le but de rindustrialiser
les territoires, anticipait larrive des vhicules pilotage automatique dici
2020.
Nanmoins, vos rapporteurs rappellent quune mise en circulation
effective de vhicules autonomes sur la voie publique soulve des
questionnements thiques. Dans larticle The social dilemma of autonomous
vehicles 1 paru le 24 juin 2016 dans le magazine Science, Jean-Franois
Bonnefon, Azim Shariff et Iyad Rahwan affirment que le choix opr par
lalgorithme peut reprsenter de vritables dilemmes. Certains cas peuvent
conduire lalgorithme prendre une dcision base sur un critre moral qui
lui aura t programm lavance. Deux conceptions saffrontent selon les
auteurs : une conception utilitariste, qui postule quil faut minimiser les
pertes humaines, et une conception auto-protectrice qui postule que les
systmes algorithmiques embarqus doivent avant tout protger ses
passagers tout prix.
Au cours des six tudes quils ont menes, les auteurs ont constat
que les participants ont largement t en accord avec le fait quil tait plus
moral quun vhicule autonome sacrifie son passager si cela permettait de
sauver un grand nombre de vies. Cependant, devant des situations
concrtes, de nombreux participants avaient la tentation de faire le choix
du passager clandestin en privilgiant les choix des vhicules autonomes
protgeant ses passagers tout prix. De fait, si des vhicules autonomes
dots de codes moraux utilitaristes et des vhicules tant programms pour
protger leurs passagers taient commercialiss, les participants
orienteraient davantage leur choix vers les vhicules les protgeant tout
prix.

1Les rsultats de ltude mene par les auteurs sont disponibles sur le site Internet du magazine
Science : http://science.sciencemag.org/content/352/6293/1573.full
DEUXIME PARTIE : - 161 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

Le laboratoire du MIT moral machine , visit par vos rapporteurs,


travaille notamment sur les dilemmes thiques concernant les voitures
autonomes. Le dilemme du tramway invent par Philippa Foot a t raffin
et test. Les rsultats provisoires des tests conduisent cette quipe
identifier diffrents facteurs de choix : le nombre de tus (on prfre la
solution qui rduit le nombre de morts), le fait de sacrifier en priorit des
personnes qui transgressent les rgles (exemple du voleur), le fait de sacrifier
en priorit un animal plutt quun tre humain, le fait de sacrifier en priorit
une personne plus ge plutt quune personne plus jeune et a fortiori un
enfant, le fait de sacrifier en priorit un homme plutt quune femme Ces
hypothses soulvent nanmoins la question du cadre thique dans lequel
situer les voitures autonomes.
Le 6 fvrier 2017 a t donn le coup denvoi dun programme
europen de trois ans baptis Autopilot . Pour la France, Versailles fera
partie des cinq lieux dexprimentation en Europe, avec lobjectif damliorer
lefficacit des vhicules autonomes grce lexploitation des donnes
externes, produites par linfrastructure, les objets connects et les usagers.
On compte 43 acteurs impliqus dans le projet, constructeurs automobiles et
sous-traitants, acteurs des tlcoms, instituts de recherche... On y trouve
notamment PSA, IBM, Valeo, Continental, TomTom, Stmicro ou Thales. Cinq
territoires ont t choisis pour tester des concepts de communication entre
vhicules autonomes et systmes dinformation externes, en France,
Finlande, Espagne, Italie et Pays-Bas. Un projet similaire sera lanc en Core.
Plusieurs types de configuration seront tests : conduite en milieu urbain,
sur autoroute, stationnement autonome. En France, cest Versailles qui
accueillera les tests, sous limpulsion de linstitut Vedecom, qui a mis au
point un prototype fonctionnel de vhicule autonome de niveau 4 (100 %
autonome dans des zones prcises).
Par ailleurs, une autre exprimentation de voitures autonomes est
conduite dans un partenariat franco-allemand, visant la mise en place
partir de mars 2017 du premier site exprimental transfrontalier de tests de
voitures autonomes. Il sagira en effet dune zone allant de Metz Merzig
dans la Sarre, avec des tronons dautoroutes, de routes et de zones urbaines.
Il sagit dun complexe ouvert tous les constructeurs, quipementiers ou
entreprises du numrique ou des tlcommunications. La France et
lAllemagne entendent ainsi rattraper leur retard en matire
dexprimentation de voitures autonomes et se placer ensuite lavant-garde
de la dfinition des futures rgles applicables (standards ou rglementation).
Concernant lassurance applicable aux voitures autonomes, il
apparat ncessaire de se doter terme, sur un plan global dans tous les tats
membres de lUE (voire au-del), dun systme dassurance obligatoire afin
de garantir le ddommagement total des victimes daccidents causs par ce
type de vhicules.
- 162 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

C. LA PRISE EN COMPTE GRANDISSANTE DES ENJEUX THIQUES

1. Le cadre national de la rflexion sur les enjeux thiques de


lintelligence artificielle

La place des systmes dintelligence artificielle et des machines


utilisant ces technologies, notre dpendance leur gard et la matrise que
nous conservons de leur volution sont des questions qui mritent dtre
dbattues ds aujourdhui.
Il convient danticiper les problmes poss par lintelligence
artificielle et daccompagner ses usages dune rflexion thique.
Comme il a t vu, la science-fiction, avec Isaac Asimov, a envisag
la question et propos des lois de la robotique, mais comment garantir, au-
del du statut juridique du robot et de ces lois, que ces technologies puissent
tre matrises, utiles et conformes nos valeurs ? La rflexion sur les enjeux
thiques de lintelligence artificielle doit clarifier le cadre dans lequel
sinscrit la recherche en intelligence artificielle, ses usages ainsi que les
limites ventuelles quil faut fixer lintelligence artificielle. Pour Grard
Sabah, les aspects pertinents sur lesquels lthique de lintelligence
artificielle doit rflchir et se prononcer sont les impacts de telles machines sur
la vie prive, sociale, politique et conomique, ainsi que les valeurs qui les sous-
tendent et celles quelles impliquent . Il poursuit en affirmant que la socit
doit dfinir clairement les limites acceptables entre la science et la fiction, le progrs
et les risques encourus, afin de prserver notre identit et notre libert .
La CERNA dAllistene, dj voque plusieurs fois, joue en la
matire un rle majeur, elle a dailleurs produit des rapports, dont il sera
rendu compte plus loin. Sa cration est rcente et fait suite aux demandes
parallles en 2009 du Comit dthique du CNRS (COMETS) et dInria. Le
rapport du COMETS sur lthique des Sciences et technologies de
linformation et de la communication (STIC) a particulirement donn
naissance la CERNA1. Il convient de relever que le COMETS sest,
plusieurs reprises, pench sur les problmes thiques poss par les STIC2.
Le rle de la CERNA en matire de rflexion thique sur le
numrique est remis en perspective3 avec les nouvelles missions dvolues

1 Rapport du COMETS sur lthique des STIC : http://www.cnrs.fr/comets/IMG/pdf/08-


rapportcomets091112-2.pdf
2 Il est loisible de mentionner lexistence de rapports sur le partage des donnes
(http://www.cnrs.fr/comets/IMG/pdf/2015-05_avis-comets-partage-donnees-scientifiques-3.pdf), sur
le contrle des publications scientifiques avec les nouveaux mdias
(http://www.cnrs.fr/comets/IMG/pdf/mediaaviscometsavril16-2.pdf) ou, encore sur les sciences
citoyennes (http://www.cnrs.fr/comets/IMG/pdf/comets-avis-entier-sciences_citoyennes-
25_juin_2015.pdf).
3 Selon Max Dauchet, prsident de la CERNA, cette dernire a pour mission de mener une

rflexion thique au titre du monde de la recherche. La proximit dans le numrique tant


grande entre la recherche et les usages, la CERNA a milit activement pour la cration par
la loi pour une Rpublique numrique d'un dispositif traitant plus largement des questions
DEUXIME PARTIE : - 163 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

la CNIL, aprs la loi du 7 octobre 2016 pour une Rpublique numrique1.


Aux termes de cette loi, la CNIL, qui se dfinit comme lautorit franaise de
contrle en matire de protection des donnes personnelles2, a en effet t
charge de conduire une rflexion sur les questions dthique lies au
numrique et aux algorithmes, ce qui la mne animer le dbat public en la
matire. Une page Internet ddie a t cre3. Il sagit aussi de sintresser
aux questions de socits souleves par lvolution des technologies
numriques. La CNIL a choisi dy rpondre par lorganisation de dbats
publics, dateliers et de rencontres. Selon elle, son rle consiste initier un
processus de discussion collectif que feront vivre tous ceux institutions publiques,
socit civile, entreprises qui souhaitent y prendre part en organisant des dbats et
manifestations multiformes . Elle a ainsi mis en place une plateforme4 pour
contacter lquipe de la mission thique et numrique , afin de permettre
toute institution publique, membre de la socit civile ou entreprise de
pouvoir prendre part au dbat sur les algorithmes. Elle assurera la
coordination et la cohrence des diverses manifestations.
Un cycle de dbats publics intitul Les algorithmes en dbat est
ainsi organis par la CNIL en 2017. Pour la CNIL, la rflexion doit porter
cette anne sur les algorithmes lheure de lintelligence artificielle . Elle
retient que ceux-ci occupent dans nos vies une place importante, bien
quinvisible. Rsultats de requtes sur un moteur de recherche, ordres financiers
passs par des robots sur les marchs, diagnostics mdicaux automatiques,
affectation des tudiants luniversit : dans tous ces domaines, des algorithmes
sont luvre. Ces derniers mois, le sujet des algorithmes sest invit dans le dbat
public et a suscit une forte attention mdiatique . Diffrentes questions sont
poses5.

thiques et socitales, comme le CCNE le fait dans le secteur de la vie et de la sant. La


cration dun tel dispositif que la CERNA appelait de ses voeux, ayant t confi la CNIL,
elle doit conduire conforter la CERNA comme coordinateur du monde de la recherche au
sein du dbat de socit sur ces questions . Il ajoute que le rle de la CERNA est
positionner suite aux nouvelles missions dvolues la CNIL, sous langle des rapports
entre la recherche dans le numrique et la socit .
1 Loi n 2016-1321 du 7 octobre 2016 pour une Rpublique numrique.
2 Sa mission historique, conformment la loi n 78-17 du 6 janvier 1978 modifie plusieurs

reprises, dont par la loi pour une Rpublique numrique prcite, est de veiller ce que
linformatique soit au service du citoyen et quelle ne porte atteinte ni lidentit humaine, ni aux
droits de lHomme, ni la vie prive, ni aux liberts individuelles ou publiques. Elle assure ainsi la
protection des donnes caractre personnel dans les traitements informatiques mis en uvre sur le
territoire franais.
3 Cf. https://www.cnil.fr/fr/ethique-et-numerique
4 Cf. https://www.cnil.fr/fr/webform/contacter-lequipe-de-la-mission-ethique-et-numerique
5 Sagit-il dune nouvelle rvolution industrielle, ou dun simple moyen damliorer la productivit ?

Les algorithmes sont-ils les nouveaux dcideurs ? Ont-ils pour effet de nous enfermer dans une bulle
informationnelle, mettant en danger ouverture culturelle et pluralisme dmocratique ? Sont-ils au
contraire un moyen daccder des ides, contenus, donnes ou personnes inaccessibles ou invisibles
jusqualors ? Quelle transparence lre des algorithmes : comment concilier transparence et
proprit intellectuelle ? Faut-il repenser, face aux progrs de lintelligence artificielle, la
responsabilit des acteurs publics et privs ? Comment construire le libre-arbitre dans un monde
algorithm ?
- 164 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

lautomne 2017, la CNIL rendra publique la synthse des changes


et des contributions. Il sagira dtablir une cartographie de ltat du dbat
public et un panorama des dfis et enjeux . Des pistes ou des propositions
pour accompagner le dveloppement des algorithmes dans un cadre
thique pourraient faire par la suite lobjet darbitrages par les pouvoirs
publics.
Larticulation et la complmentarit entre le travail de la CERNA
qui reprsente le monde de la recherche, et celui de la CNIL, charge de la
dimension socitale de la rflexion thique, sont ncessaires et pourraient
tre formalises. ce stade, vos rapporteurs relvent que les manifestations
envisages1 sont le plus souvent organises conjointement par la CNIL avec
la CERNA, le COMETS, lAFIA, Universcience ou, encore, le Genotoul de
Toulouse (plateforme thique et bioscience).
Le Conseil gnral de lconomie (CGE) a rendu le 15 dcembre 2016
un rapport au ministre de lconomie et des finances portant sur les
Modalits de rgulation des algorithmes de traitement des contenus 2. Ses
auteurs, Jacques Serris et Ilarion Pavel, montrent que les algorithmes de
traitement des contenus sont insparables des donnes quils traitent et des
plateformes qui les utilisent pour proposer un service. Mais alors quil y a de
nombreux travaux sur la protection des donnes et sur la loyaut des
plateformes, il y en a encore peu sur les algorithmes eux-mmes. Ceux-ci
sont pourtant des moteurs dinnovations, avec la rvolution des rseaux
neuronaux et de lapprentissage profond. Ce rapport ne propose pas une
nouvelle rgulation sectorielle qui sappliquerait aux algorithmes. En
revanche, il souligne quil faut dvelopper la capacit tester et contrler
les algorithmes tout en prservant linnovation. Ses auteurs proposent cinq
pistes daction qui ont pour objet la monte en comptence et le
dveloppement de lexpertise des pouvoirs publics, mais appellent aussi au
dveloppement de bonnes pratiques dans les diffrents secteurs
conomiques. Ils soulignent par ailleurs quil faut prserver une image
positive des technologies utilises pour concevoir ou oprer des
algorithmes. Cest essentiel pour continuer attirer les jeunes gnrations de
franaises et de franais dans des filires de formation exigeantes
(mathmatiques, ingnieurs ou data scientists) o la France est aujourdhui
bien place.
Vos rapporteurs relvent que la plateforme scientifique
collaborative TransAlgo 3, lance en janvier 2017, porte par Inria et
place sous la direction de Nozha Boujemaa, travaille de manire utile au
dveloppement de pratiques transparentes et responsables dans le
traitement algorithmique des donnes4. Dans la notion de
responsabilit , sont considrs la fois le respect des rgles juriques et le

1 Cf. https://www.cnil.fr/fr/les-partenaires-et-evenements
2 http://www.economie.gouv.fr/cge/modalites-regulation-des-algorithmes-traitement-des-contenus
3 http://www.economie.gouv.fr/files/files/PDF/Inria_Plateforme_TransAlgo2016-12vf.pdf

4 https://www.inria.fr/actualite/actualites-inria/transalgo
DEUXIME PARTIE : - 165 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

respect des rgles thiques. Il sagit de rpondre aux proccupations


exprimes dexplicabilit, de loyaut, de neutralit, de non-discrimination
des algorithmes mais aussi des biais des donnes et des algorithmes. Plus
rcemment, un Institut Convergence i2-DRIVE (son nom vient de
Interdsciplinary Institute for Data Research : Intelligence, Value and
Ethics ) port par lUniversit Paris-Saclay et lui aussi pilot par Nozha
Boujemaa - incluant 14 partenaires acadmiques et bnficiant de soutiens
industriels - a t accept en avril 2017 dans le cadre de lappel projet du
PIA 2 et comporte un programme de travail sur dix ans. Il vise la conjonction
des expertises en sciences du numrique et en sciences humaines et sociales
pour linnovation en matire de recherche et de formation dans le domaine
des sciences des donnes et de lintelligence artificielle avec leurs enjeux
socio-conomiques et thiques. Cette conjonction annonce aussi des
perspectives fcondes en matire de transfert et dinnovation par la vision
systmique que proposera i2-DRIVE pour adresser les dfis technologiques
et thiques de la transformation numrique lre des Big Data et des
systmes cognitifs.
Pour la CERNA, dans son rapport sur lthique de la recherche en
robotique, le respect de la vie prive doit tre une priorit dans la mesure
o les systmes dintelligence artificielle et les robots dplacent les frontires
dutilisation, dexploitation et dusage, ce qui pose de nouvelles difficults1.
La conception des robots doit donc intgrer lexigence de confidentialit
des donnes personnelles quils traitent.
Ce rapport remarque galement que les capacits dautonomie des
systmes dintelligence artificielle et des robots portent surtout actuellement
sur lautonomie oprationnelle, mais demain leur autonomie sera de plus en
plus dcisionnelle, issue de systmes plus labors. Les robots auront, de
plus, outre les dveloppements en informatique, la possibilit dune plus
grande ressemblance avec ltre humain, comme tente de le montrer le
chercheur Hiroshi Ishiguro au Japon. Les interrogations thiques sur les
finalits dun tel projet dintelligence artificielle humanode et sur ses
effets simposent. La ressemblance avec lhumain renvoie lhypothse de
la Valle de ltrange , introduite par Masahito Mori en 1970. Cette sorte
de malaise ressenti par les tres humains face des entits presque
semblables eux, mais pas au point de sy tromper a t prsente
prcdemment de manire plus dtaille par vos rapporteurs.
La CERNA a formul neuf prconisations gnrales, sept sur
lautonomie, cinq sur limitation du vivant et quatre sur lhomme
augment. Vos rapporteurs les rappellent ici de manire synthtique :

1 Ces systmes ont la capacit de capter des donnes personnelles (photos ou vidos de personnes,
voix, paramtres physiologiques, golocalisation), leur dploiement soulve donc des questions
lies la protection de la vie prive et des donnes personnelles.
- 166 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

- lorsque le chercheur sexprime en public sur une question de socit


relative son activit professionnelle, il doit distinguer son intervention
experte de lexpression de son opinion personnelle ;
- les tablissements de recherche se dotent de comits oprationnels
dthique en sciences et technologies du numrique ;
- les tablissements de recherche et les acteurs concerns mettent en
place des groupes de travail et des projets de recherche interdisciplinaires
ouverts linternational et incluant des chercheurs et des juristes pour
traiter des aspects juridiques des usages de la robotique ;
- les tablissements de recherche et les acteurs concerns mettent en
place des actions de sensibilisation et de soutien auprs des chercheurs et
des laboratoires de recherche dans le numrique. Lors de llaboration et
dans la conduite de ses projets le chercheur saisira, si ncessaire, le comit
oprationnel dthique de son tablissement ;
- lors de la conception dun systme numrique ayant la capacit de
capter des donnes personnelles, le chercheur se demandera si ce systme
peut tre quip de dispositifs facilitant le contrle de sa conformit la
rglementation lors de sa mise en usage ;
- le chercheur veillera prendre en compte lexposition potentielle de
ses recherches des attaques numriques ;
- si le chercheur considre que le projet vise un dveloppement
pouvant avoir un impact important sur la vie des utilisateurs, il veillera
en dlibrer avec les acteurs et les utilisateurs potentiels afin dclairer au
mieux les choix scientifiques et technologiques ;
- le chercheur veillera documenter lobjet ou le systme conu et
en exposer les capacits et les limites. Il sera attentif aux retours
dexprience tous les niveaux, du dveloppeur lutilisateur ;
- le chercheur veillera faire une communication mesure et
pdagogique sachant que les capacits des objets et systmes quil conoit
peuvent susciter des questionnements et des interprtations htives dans
lopinion publique ;
- concernant lautonomie, le chercheur doit se poser la question des
reprises en main que loprateur ou lutilisateur peut effectuer et tudier la
possibilit ou non laisse lhumain de dbrayer les fonctions
autonomes du robot. Il doit faire en sorte que les dcisions du robot ne
soient pas prises linsu de loprateur, tre conscient des phnomnes de
biais de confiance, et tre attentif expliciter les limites des programmes
de perception, dinterprtation et de prise de dcision, en particulier les
programmes qui visent confrer une conduite morale au robot. Le
chercheur doit valuer jusqu quel point les logiciels dinterprtation du
robot peuvent caractriser correctement une situation et discriminer entre
plusieurs situations qui semblent proches, surtout si la dcision daction est
fonde uniquement sur cette caractrisation. Il faut en particulier valuer
DEUXIME PARTIE : - 167 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

comment les incertitudes sont prises en compte. Le chercheur doit analyser


la prvisibilit du systme humain-robot considr dans son ensemble, en
prenant en compte les incertitudes dinterprtation et daction, ainsi que les
dfaillances possibles du robot et celles de loprateur, et analyser
lensemble des tats atteignables par ce systme. Il doit intgrer des outils de
traage ds la conception du robot. Ces outils doivent permettre dlaborer
des explications, mme limites, plusieurs niveaux selon quelles
sadressent des experts de la robotique, des oprateurs ou des
utilisateurs ;
- en matire dmotions, le chercheur tudiera, au regard des fonctions
utiles du robot, la pertinence et la ncessit de susciter des motions et de
recourir des aspects ou des comportements biomimtiques, notamment
dans les cas de forte ressemblance visuelle ou comportementale entre un
robot et un tre vivant. Dans les cas o lapparence ou la voix humaines sont
imites, le chercheur sinterrogera sur les effets que pourrait avoir cette
imitation. Le chercheur doit avoir conscience que la dmarche biomimtique
peut brouiller la frontire entre un tre vivant et un artefact. Le chercheur
consultera sur ce brouillage le comit oprationnel dthique de son
tablissement ;
- pour les projets de recherche qui ont trait au dveloppement de la
robotique affective, le chercheur sinterrogera sur les rpercussions
ventuelles de son travail sur les capacits de socialisation de lutilisateur ;
- pour les projets qui mettent en prsence des enfants et des robots, le
chercheur doit se poser la question de limpact de linteraction enfant-robot
sur le dveloppement des capacits motionnelles de lenfant, tout
particulirement dans la petite enfance ;
- pour les projets de recherche relatifs des robots susceptibles davoir
des effets sur laffectivit des utilisateurs et de susciter leur attachement, le
chercheur devra laborer un protocole de conception et dvaluation en
veillant impliquer les comptences multidisciplinaires ncessaires et des
utilisateurs potentiels ;
- le chercheur doit tre prudent dans sa communication sur les
capacits motionnelles des robots et sur limitation de la nature et du
vivant, notamment parce que lexpression des motions, au sens humain, par
un robot, est un leurre, et parce que limitation du vivant peut amener,
volontairement ou pas, prter lartefact des caractristiques du vivant ;
- les chercheurs en robotique rparatrice ou dassistance doivent
appliquer, en coordination avec les professionnels de sant, les aidants et les
patients, les principes dthique en usage dans le secteur mdical afin
darbitrer entre les exigences defficacit et de scurit des soins, celles
dautonomie et dintgrit de la personne et, enfin, de protection de la vie
prive. Ces questions relvent de lthique et non uniquement du droit en
cela quelles demandent tre arbitres dans chaque cas particulier et
quelles ne reoivent pas de rponse gnrale. Pour en traiter, il faudra
- 168 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

prendre avis auprs des comits oprationnels dthique des sciences


mdicales et veiller ce que les comptences technologiques y soient
troitement associes. Dans le cas dorganes robotiss vocation rparatrice,
le chercheur aura le souci de la prservation de lautonomie de lindividu
quip, savoir de la matrise quil conservera autant que faire se peut sur
ses actions, et de la conservation de lintgrit des fonctions autres que
celles concernes par la rparation. Dans le cas des dispositifs robotiss
visant laugmentation, le chercheur veillera la rversibilit de celle-ci : les
dispositifs doivent tre amovibles sans dommages pour la personne,
autrement dit, sans que la personne perde lusage de ses fonctions initiales.
En vue de prvenir les discriminations induites par laugmentation, le
chercheur se posera la question de lincidence de laugmentation des facults
et des capacits humaines induites par les dispositifs quil dveloppe sur le
comportement social de ceux qui en bnficient ainsi que, symtriquement,
de ceux qui nen bnficient pas.
La CERNA a formul dans son second rapport, intitul thique en
apprentissage machine , et rendu public en avril 2017, ses prconisations sur
le machine learning structures autour de six thmes directeurs : les donnes
des systmes dapprentissage (1-4), lautonomie des systmes apprenants
(5-6), lexplicabilit des mthodes dapprentissage et leur valuation (7-9), les
dcisions des systmes dapprentissage (10), le consentement dans le
domaine du numrique (11), la responsabilit dans les relations
homme-machine (12-13), et lorganisation de la recherche franaise sur
lthique du numrique (14-17) :
1. Les concepteurs et entraneurs des systmes dapprentissages veillent
la qualit des donnes dapprentissage et aux conditions de leur
captation.
2. Les entraneurs doivent garantir que les donnes reprsentent un
miroir de la diversit culturelle.
3. Les variables dont les donnes sont rglementes, les entraneurs
doivent veiller ce quelles ne soient pas discriminantes (ge, sexe,
race, etc.), tout en respectant le principe de confidentialit des donnes.
4. Le concepteur dun systme dapprentissage automatique doit prvoir
des dispositifs de traabilit du systme.
5. La machine ne doit pas introduire de biais de caractrisation et induire
en erreur lutilisateur sur ltat de son systme.
6. Le concepteur doit maintenir un certain niveau de vigilance dans la
communication sur les capacits dun systme apprenant, afin de ne
laisser aucune place linterprtation ni des fantasmes ou craintes
irrationnelles.
7. Le concepteur doit veiller lexplicabilit, la transparence des actions
de son systme apprenant, tout en maintenant un niveau de
performance suffisant.
DEUXIME PARTIE : - 169 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

8. Tout en garantissant une meilleure explicabilit du systme, le


concepteur doit dcrire les limitations des heuristiques dexplication
du systme, en vitant notamment la cration de biais.
9. Le concepteur dun systme apprenant apporte sa contribution
llaboration des normes et des protocoles dvaluation de
lapprentissage machine.
10. Le concepteur doit garantir la place de lhumain dans les dcisions
assistes par des machines apprenantes, afin dviter notamment la
cration de biais ou linstallation de dpendance de lhumain par
rapport aux dcisions des machines.
11. La mmorisation des traces des donnes personnelles utilises dans le
processus dapprentissage devra obtenir le consentement de
lutilisateur et en accord avec la lgislation sur la protection des
donnes personnelles en vigueur.
12. Le concepteur du systme doit y inclure des mcanismes de contrle
automatiques ou superviss.
13. Le concepteur doit fournir une dclaration des intentions dusage du
systme informatique de manire sincre, loyale et complte au
cours de son apprentissage.
14. La cration dun rseau national de recherche dnomm Initiative
Fdrative de Recherche Numrique, thique et Socit permettrait de
faire merger un positionnement franais sur les questions dimpact
socital et thique des sciences et technologies du numrique.
15. La cration de comits dthique oprationnels dtablissements en
science et technologie du numrique est conseille.
16. Les tablissements sont galement incits lancer des initiatives sur
les aspects juridiques des usages des innovations du numrique, au
travers de groupes de travail et projets de recherches avec dautres
acteurs concerns.
17. Des actions de sensibilisation et soutien du chercheur par les
tablissements doivent tre mises en place.
Le rapport produit par la CERNA prsente, au total, des
recommandations plus oprationnelles que celles fournies par les autres
structures ayant rendu public des rapports similaires, telles que lassociation
mondiale des ingnieurs lectriciens et lectroniciens (Institute of Electrical
and Electronics Engineers ou IEEE), qui regroupe plus de 400 000 membres, ou
les 23 points dAsilomar issus de la confrence Beneficial AI 2017
(initiatives qui seront voques plus loin dans le prsent rapport). La
singularit du rapport de la CERNA sobserve galement par le fait que les
recommandations mises en avant concernent, pour la majeure partie
dentre elles, des aspects techniques du dveloppement de lapprentissage
automatique, alors que le rapport de lIEEE et les 23 points dAsilomar
- 170 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

abordent des problmatiques plus vastes, telles que la question des


investissements, des relations entre les scientifiques et les dcideurs, la
course linnovation entre les chercheurs, le bnfice collectif, la vie prive,
la dfense ou encore les problmes conomiques et humanitaires.
En outre, les 17 propositions avances par ce rapport de la CERNA
misent davantage sur la pluridisciplinarit, qui est, selon les auteurs,
essentielle la rflexion sur les considrations thiques, juridiques et
scientifiques de lapprentissage automatique.

Le Club informatique des grandes entreprises franaises (CIGREF),


cr en 1970 linitiative de dirigeants de grandes entreprises, a lui aussi
rflchi aux questions thiques poses par lintelligence artificielle et la
robotique. Deux rapports ont ainsi t rendus publics, dont vos rapporteurs
ont rencontr les auteurs. Le premier porte sur le thme de lthique du
numrique 1 et a t rdig par Flora Fischer, chercheuse en philosophie des
technologies la Sorbonne et charge de recherche au CIGREF, que vos
rapporteurs ont eu le plaisir dauditionner. Le second, qui se veut livre
blanc, porte sur la Gouvernance de lintelligence artificielle dans les
grandes entreprises , et a t ralis en partenariat avec le cabinet Alain
Bensoussan Avocats2.
Le premier rapport du CIGREF sur lthique du numrique
montre que la technologie numrique est la fois relationnelle, dusage et
fabrique, comme toute technologie. Lthique du numrique est donc la
fois une thique des usages et de la conception. Flora Fischer aime rappeler
que le philosophe Gilbert Simondon disait que toutes les technologies sont des
mdiations et que le numrique cre un nouveau rapport au monde, dans
lequel il faut simplement tre attentif lthique des nouveaux usages et la
dmultiplication. Beaucoup dentreprises qui naissent aujourdhui avec le
numrique, tel que les start-up, mettent dj en uvre la privacy by design et
lthique by design, ce qui suppose danticiper les usages et la faon dont tels
ou tels outils vont adapter les pratiques et de voir quelles questions thiques
cela va engendrer. Pour respecter ces objectifs thiques, il faut anticiper les
usages des outils ds la conception et prvoir des architectures souples,
suffisamment pour pouvoir agir rtroactivement sur les usages et sur la
conception. Il faut aussi explorer les limites des nouveaux outils et des
nouveaux services. Les GAFA ayant t les pionniers, ils ont impos leurs
propres rgles, ce qui pourra justifier une rgulation, par exemple en matire
de stockage et de traitement des donnes prives. Les entreprises qui vont
mettre en uvre des services numriques passeront par la privacy by design3,
et lthique by design4, ce qui sera plus facile pour des jeunes et petites

1http://cigref.fr/Publication/2014-CIGREF-Ethique-et-Numerique-une-ethique-a-reinventer-

Rapport-mission-F-FISCHER.pdf
2http://www.cigref.fr/wp/wp-content/uploads/2016/09/Gouvernance-IA-CIGREF-LEXING-2016.pdf
3 Respect de la vie prive ds le stade de la conception du produit.
4 Respect de rgles thiques ds le stade de la conception du produit.
DEUXIME PARTIE : - 171 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

entreprises que pour des grandes entreprises plus anciennes. Cela


ncessitera une rvision de larchitecture des plateformes. Dans ce contexte
gnral, ltat ne peut et ne pourra quagir a posteriori.
Le second rapport du CIGREF, le livre blanc sur la Gouvernance
de lintelligence artificielle dans les grandes entreprises , apporte une
vision prospective visant permettre aux entreprises danticiper le passage
de la transition digitale que nous vivons dj la transition
intelligente venir. Il prsente lintrt de partir du cadre historique de
lintelligence artificielle, en passant par ses dfinitions (gnrale et
technique) et de ses modes dexpression (robots, avatar, chatbots), afin de
montrer que lintelligence artificielle confronte le management de
lentreprise des situations mergentes multiples, la fois culturelles,
humaines (impact sur les manires de travailler), thiques et juridiques Les
entreprises devront tre en mesure danticiper, par exemple, lvolution des
comptences, lvolution de la rglementation, que ce soit sur la robotique
intelligente ou sur les diffrentes formes de lintelligence artificielle.
Le livre blanc aborde galement la question du droit prospectif :
lintelligence artificielle, du fait de son autonomie, a un degr
dimprvisibilit dans le cadre de son interaction avec les tres humains, or,
en ltat actuel du droit, aucune rgle ne serait directement applicable la
responsabilit dlictuelle de lintelligence artificielle, ce qui peut paratre
discutable. Des craintes lies au dveloppement de lintelligence artificielle
font dbat et posent questions.
Par exemple, la dlgation de tches haute responsabilit (dcision,
recommandation) des machines interroge sur le libre arbitre et la place
laisse la pertinence de linterprtation humaine. Lentreprise ne saurait
donc contourner des questions thiques de deux ordres : lthique des
usages et lthique de la conception (by design) . Lenjeu est de saisir la
complexit du sujet et mieux comprendre les freins et leviers actionner pour
accompagner au mieux les opportunits venir .

Vos rapporteurs ont, en outre, rencontr les animateurs et des


chercheurs du projet ETHICAA (thique et Agents Autonomes), financ par
lAgence nationale de la recherche (ANR) pour la priode 2014 2017, dont
les rapports techniques et les publications sont disponibles1. Coordonn par
Grgory Bonnet (GREYC Normandie Universit), il associe diffrents
partenaires2 et chercheurs.
Les objectifs initiaux du projet peuvent tre rappels. Les machines
et les logiciels (agents) deviennent de plus en plus autonomes et agissent de
plus en plus sans tre contrls par des utilisateurs ou des oprateurs

1https://ethicaa.org
2Les responsables scientifiques du projet pour les partenaires sont : Alain Berger (socit Ardans) ;
Olivier Boissier (Institut Henry Fayol ARMINES) ; Pierre-Antoine Chardel (Institut Mines-
Tlcom) ; Jean-Gabriel Ganascia (LIP6 Universit Paris 6) ; Catherine Tessier (ONERA).
- 172 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

humains. Cest pourquoi, la question de doter ces agents autonomes de


comportements thiques se pose.
Lobjectif du projet ETHICAA est de dfinir ce que devrait tre un
systme compos dun ou plusieurs agents artificiels capables de grer des
conflits thiques, aussi bien au niveau individuel quau niveau collectif. Il y a
en effet des verrous scientifiques majeurs.
En premier lieu, les thories thiques sont difficiles mettre en
uvre sous forme de principes thiques oprationnels.
En second lieu, ces principes thiques oprationnels sont eux-mmes
difficiles implanter parce quils sont lis lvaluation courante de la
situation, dont lautomatisation rencontre de fortes limites.
En troisime lieu, dun point de vue philosophique, il existe de
nombreux principes thiques et aucun deux nest meilleur que les autres,
rendant ainsi difficile de choisir celui qui doit tre mis en uvre. Enfin, les
systmes informatiss sont de plus en plus ouverts et dcentraliss, cest--
dire impliquant des agents artificiels autonomes en interaction avec dautres
agents, des oprateurs ou des utilisateurs humains. Dans ces circonstances,
la gestion des conflits thiques entre diffrents agents devient une question
cruciale et des mthodes originales sont ncessaires pour rpondre cette
problmatique.
Un tat des lieux des travaux peut tre fait en mars 2017 : les
rsultats intermdiaires des travaux du projet ETHICAA se structurent en
trois points : (1) une rflexion autour des concepts thiques employer et des
domaines dapplication sensibles ; (2) une production de modles de
dcision et de raisonnement thiques ; (3) une fdration dune communaut
de recherche autour de ces thmatiques.
1. Dans le domaine de la rflexion, deux tudes ont t produites :
Un tat de lart dans le domaine de la philosophie morale et de
lintelligence artificielle a permis de formuler des dfinitions : agent artificiel
thique (cadre idal non ralisable en pratique) ; agent artificiel thique
comptent (agent capable de justifier ses actes en fonction de critres
explicites) ; situation de conflit thique.
Une identification de quatre scnarios-cls intressants des fins de
modlisation et dexprimentation : un scnario de vhicule autonome, un
scnario de vhicule arien pilot en tandem par un agent artificiel et un
agent humain, un scnario dagent de surveillance mdicale, un scnario
dorganisation et de coopration dagents de gestion de portefeuilles.
2. Dans le domaine de la production, deux approches ont t mises
en uvre et exprimentes sur une partie des scnarios
mentionns prcdemment :
DEUXIME PARTIE : - 173 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

Un travail sur des architectures dagents se fondant sur lutilisation des


logiques dactions, de logique modale et de logique argumentative pour
modliser et expliquer a priori un raisonnement moral.
Un travail sur la vrification formelle de proprits thiques ayant pour
but de vrifier a posteriori si la spcification dun systme multi-agents
rpond des critres thiques.
3. Dans le domaine de la fdration dune communaut de recherche,
le projet saxe sur deux points :
Une interaction avec la communaut internationale de recherche par
lorganisation dun atelier international ainsi que la participation au dpt
dune action COST Responsible Artificial Intelligence et la IEEE Global
Initiative on Ethical Considerations in the Design of Autonomous Agents.
La diffusion grand public au travers darticles et confrences de
vulgarisation. cela, sajoutent de nombreuses interventions en sminaires,
journes dtudes, tables rondes et interventions radiophoniques.
Quant aux perspectives du projet ETHICAA, il sagit de rassembler
les diffrents modles de dcision produits au sein dun mme cadre de
conception auquel sajoutera la dimension multi-agent, offrant ainsi une
grille de lecture unifie pour concevoir des mthodes rpondant aux
problmatiques de rgulation thiques dagents autonomes. Dun point de
vue de dveloppement, le projet ETHICAA envisage de finaliser un logiciel
de dmonstration orchestrant une simulation du scnario de gestion
thique dactifs financiers, il sagit en effet daboutir une preuve de
concept ( proof of concept ) travers lorganisation et la coopration
dagents de gestion de portefeuilles selon des rgles thiques.

2. Les nombreuses expriences anglo-saxonnes de rflexion sur les


enjeux thiques de lintelligence artificielle

Les expriences de rflexion sur les enjeux thiques de


lintelligence artificielle, que ce soit aux tats-Unis ou au Royaume-Uni,
sont particulirement nombreuses et se sont multiplies de faon
impressionnante dans la priode rcente. Ces expriences de rflexion sont
le plus souvent non gouvernementales et sont frquemment finances par
des donations prives : on peut relever que cette observation sinscrit dans le
contexte dune tradition de mcnat scientifique et technologique aux
tats-Unis, alors quen France le mcnat reste largement consacr lart et
la culture.
Vos rapporteurs ont, en effet, observ une multiplication
surprenante dinitiatives anglo-saxonnes, souvent coordonnes, visant la
prise en compte de principes thiques dans la recherche et les usages de
lintelligence artificielle. Ils souhaitent les rappeler.
- 174 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Il existe tout dabord une structure plus ancienne que les autres, qui
reste jeune puisquelle a t cre en 2000, The International Society for Ethics
and Information Technology (INSEIT), qui dite aussi sa propre revue. Cette
structure, qui rassemble beaucoup de chercheurs du monde acadmique, est
de plus en plus clipse par la multiplication rcente des collectifs ou des
instituts se donnant pour rles danimer une rflexion sur les enjeux thiques
du numrique et plus spcifiquement de lintelligence artificielle. Ces
initiatives plus rcentes sont souvent finances par des fonds privs issus de
grandes entreprises du secteur et ont recours des plans de
communication aboutis.
Lune des principales initiatives est lInstitut du futur de la vie ou
Future of Life Institute (FLI)1, fond en mars 2014, qui est lorigine en
janvier 2015 de la lettre davertissement sur les dangers potentiels de
lintelligence artificielle, qui affirmait qutant donn le grand potentiel de
lintelligence artificielle, il tait important dtudier comment la socit peut
profiter de ses bienfaits, mais aussi comment viter ses piges . Le FLI sinterroge
ainsi sur les consquences conomiques, lgales et thiques de
lintelligence artificielle et de lautomatisation des tches et promeut le
dveloppement dune intelligence artificielle bnfique et fiable.
Le FLI, visit par vos rapporteurs en janvier 2017, situ Cambridge,
prs de Boston (avec le MIT et Harvard), est une organisation but non
lucratif, dont le financement repose sur dimportantes donations prives. Il
se donne pour mission de catalyser et soutenir la recherche et les initiatives
visant la sauvegarde de la vie et proposant une vision optimiste de lavenir . Il
sagit de tirer le meilleur profit des nouvelles technologies et de prvenir les
risques potentiels pour lhumanit du dveloppement de lintelligence artificielle .
Il soutient ainsi en 2016 et 2017, aprs un appel projets lanc en 2015, pas
moins de 37 projets de recherche destins prvenir les risques lis
lintelligence artificielle2. Selon Max Tegmark, prsident du FLI, il existerait
une course entre le pouvoir grandissant de la technologie et le bon sens avec lequel
on la gre : alors que jusquici, tous les investissements ont eu pour objectif de
rendre les systmes plus intelligents, cest la premire fois quil y a un
investissement sur lautre aspect .
Lors dun colloque New York sur les dfis poss par lmergence
de lintelligence artificielle, organis le 14 octobre 2015 par lInstitut de
recherche sur la criminalit et la justice des Nations Unies (UNICRI), Max
Tegmark tait invit avec un autre expert3 sexprimer devant quelques

1 LInstitut a t fond en mars 2014 par Max Tegmark cosmologiste au MIT, Jaan Tallinn co-
fondateur de Skype, Anthony Aguirre physicien lUCSC et deux tudiants (Viktoriya Krakovna et
Meia Chita-Tegmark), figurent son conseil consultatif linformaticien Stuart J. Russell, le
biologiste George Church, le physicien Frank Wilczek, les cosmologistes Stephen Hawking et Saul
Perlmutter, ou, encore, lentrepreneur Elon Musk.
2 Il sagit, par exemple, de dvelopper une intelligence artificielle capable dexpliquer ses dcisions

ou, encore, de travailler sur lalignement de lintelligence artificielle sur les valeurs humaines.
3 Outre Max Tegmark, prsident du FLI, dont il a dj t question, le second expert tait Nick

Bostrom, philosophe, fondateur du Future of Humanity Institute (FHI) de lUniversit dOxford.


DEUXIME PARTIE : - 175 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

130 dlgus de 65 tats. Ils ont clairement soulign les risques lis
lintelligence artificielle et appel la mise en place dune rflexion solide
sur lthique de lintelligence artificielle.
Le second expert, Nick Bostrom, philosophe, fondateur du Future of
Humanity Institute (FHI) en 2005 au sein de lUniversit dOxford (unit de
lOxford Martin School), rencontr par vos rapporteurs, a galement fond,
ds 2004, un Institute for Ethics and Emerging Technologies (IEET), proche
du mouvement transhumaniste.
De manire similaire au Future of Humanity Institute, ont t cres
plusieurs structures qui travaillent toutes en rseau les unes avec les autres,
au sein de lUniversit de Cambridge, un Centre for the Study of Existential
Risks (CSER) cr en 2012 et un Leverhulme Centre for the Future of
Intelligence cr en 2016 (tous les deux visits par vos rapporteurs), au sein
de lUniversit de Berkeley, un Machine Intelligence Research Institute
(MIRI), cr lui aussi en 2016 et anim par Stuart Russel1, rencontr par vos
rapporteurs.
Il peut tre relev que les anciens dirigeants de Paypal, Elon Musk
(actuellement patron de Tesla et SpaceX) et Sam Altman se sont fixs pour
but de promouvoir et de dvelopper des outils dintelligence artificielle en
open source. Ils ont ainsi fond, le 11 dcembre 2015, la fondation OpenAI ,
quils prsident, association but non lucratif visant rflchir aux
questions de socit que pose lintelligence artificielle. Vos rapporteurs ont
eu la chance de visiter cette association base dans la Silicon Valley et den
rencontrer des responsables.
Le dernier exemple, peut-tre le plus significatif est le Partnership
on AI form en septembre 2016 par Google, Microsoft, Facebook, IBM et
Amazon afin de rflchir et de faire avancer de manire collective les
discussions sur lintelligence artificielle. Yann LeCun et Demis Hassabis ont
jou un rle essentiel dans ce partenariat. Vos rapporteurs se sont rjouis du
fait quApple a rejoint cette initiative le 26 janvier 2017 le jour de leur
visite du sige de lentreprise2. La responsable des affaires publiques
dApple a alors expliqu vos rapporteurs que les valeurs spcifiques

1 Stuart Russell travaille lUniversit de Berkeley, o il est professeur au dpartement


dinformatique et directeur du centre pour ltude des systmes intelligents. Ancien membre du
bureau excutif de lAAAI (American Association for Artificial Intelligence), il a reu de nombreux
prix scientifiques Il est lauteur de plus de cent articles et de plusieurs best-sellers sur lintelligence
artificielle. Il a co-rdig le principal manuel disponible sur lIA avec Peler Norvig, ancien
professeur lUniversit de Californie du Sud, directeur scientifique chez Google, qui auparavant
travaill pour la NASA sur lintelligence artificielle et la robotique, ainsi que pour Junglee sur
lextraction dinformations par Internet., membre de lAAAI et de lACM (Association for
Computing Machinery).
2 Lors de la visite de vos rapporteurs au sige appel campus Apple , situ en plein centre de la

Silicon Valley au 1 InfiniteLoop Cupertino en Californie, un communiqu de presse leur a t


communiqu par des responsables de lentreprise. Il expliquait quApple rejoint ce partenariat en
tant que membre fondateur ( founding partner ). Le communiqu de presse se trouve ici :
https://www.partnershiponai.org/2017/01/partnership-ai-update/
- 176 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Apple, en particulier la protection des donnes personnelles et de la vie


prive, pourraient tre mieux prises en compte.
Apple a donc rejoint officiellement, et en tant que membre
fondateur, avec Facebook, Google, Microsoft, IBM et Amazon, les activits
du collectif vou au dveloppement thique de lintelligence artificielle, ce
Partnership on AI . Les six GAFAMI se sont donc dots dun outil
commun, rput tre ouvert aux entreprises, aux chercheurs et toute
personne morale intresse par la dmarche. Le Partnership on AI a aussi
intgr dans son conseil dadministration six nouveaux membres provenant
dONG et duniversits. De cette manire, son conseil dadministration se
compose dsormais de douze membres, six responsables dentreprises des
nouvelles technologies (GAFAMI) et de six autres appartenant aux ONG.
Ces six reprsentants dONG et duniversits sont : Dario Amodei dOpenAI,
une organisation fonde par Elon Musk, Deirdre Mulligan de lUniversit de
Californie Berkeley, Jason Furman du Peterson Institute of International
Economics, un prestigieux think tank de Washington, Subbarao
Kambhampati de lAssociation for the Advancement of Artificial Intelligence,
Carol Rose de lUnion Amricaine pour les Liberts Civiles (ACLU) et Eric
Sears de la fondation MacArthur. Le communiqu de presse de Partnership
on AI affirme : Cest un moment important pour Partnership on AI, alors que
nous tablissons un conseil dadministration diversifi et quilibr qui tendra et
largira notre leadership. Linclusion de perspectives diffrentes et dune rflexion
critique constante a t une mission centrale depuis le dbut, et nous continuerons
ajouter de nouvelles voix mesure que nous avanons . Daprs le collectif, le
conseil dadministration contrlera les activits gnrales de lorganisation
avec un directeur excutif (encore inconnu), avec un Comit excutif de
direction (inconnu lui aussi) qui jugera et dveloppera des initiatives selon
les objectifs de lorganisation. Ces initiatives concerneront notamment la
rsolution des problmatiques importantes, [] sur lthique, la scurit, la
transparence, la vie prive, linfluence, et lquit engendres par les
intelligences artificielles du futur. La premire runion du conseil a eu lieu le
vendredi 3 fvrier San Francisco. Lorganisation promet de rvler plus de
dtails sur son programme de recherche et dactivits.
Le rapport LIntelligence artificielle et la vie en 2030 (Artificial
Intelligence and Life in 20301 en anglais) publi en septembre 2016 par
lUniversit Stanford, visite par vos rapporteurs, dvoile les rsultats de
ltude One Hundred Year Study of Artificial Intelligence , un projet
universitaire dbut en 2014 et initi par Eric Horvitz, chercheur au
laboratoire Microsoft Research. Le rapport a t ralis par les membres du
Comit permanent de ltude, prsid par Barbara J. Grosz et compos de six
autres membres, dont Eric Horvitz et Russ Altman, et par un groupe dtude
rassemblant dix-sept chercheurs spcialiss dans le sujet de lintelligence
artificielle.

1 Lintgralit du rapport publi par lUniversit Stanford est disponible ici :


https://ai100.stanford.edu/sites/default/files/ai_100_report_0831fnl.pdf
DEUXIME PARTIE : - 177 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

Ltude et les rsultats prsents au sein de ce rapport portent sur


lanalyse, long terme, des avances techniques de lintelligence
artificielle et de ses implications sur la socit au cours des cent dernires
annes. Ce projet reprend les travaux dune autre tude mene entre 2008 et
2009, informellement connue sous le titre de tude dAsilomar de
lAssociation pour les progrs de lintelligence artificielle (AAAI Asilomar
Study, en anglais). Au cours de cette tude, un groupe dexperts de
lintelligence artificielle appartenant des tablissements, institutions et
champs disciplinaires diffrents ainsi que des spcialistes des sciences
cognitives, des juristes et des philosophes, avaient t mobiliss par ric
Horvitz, qui tait cette poque le prsident de lAAAI.
Selon les auteurs de ce rapport, les technologies issues de
lintelligence artificielle, linstar de la reconnaissance vocale ou de
lutilisation de systmes de recommandations automatiques, ont dj et
continueront de bousculer des pans entiers de lconomie mondiale et des
socits. Lintelligence artificielle reprsente en cela un enjeu considrable,
tant du point de vue conomique que politique et socital, et un facteur de
cration de valeur pour nos socits. Il est, de fait, essentiel que les
pouvoirs publics et les citoyens en saisissent les enjeux, dont la complexit
interdit tout anglisme ou catastrophisme a priori. Les gouvernants sont ainsi
encourags produire une lgislation encourageant linnovation, la
production et le transfert dexpertise, et promouvant les responsabilits que
doivent endosser le monde de lentreprise et la socit civile afin daffronter
les dfis apports par lutilisation de ces technologies, notamment sur la
question de la rpartition des fruits de la croissance numrique.
Les auteurs de ce rapport soumettent de nombreuses
recommandations lattention des dcideurs, couvrant un large spectre de
domaines. Des propositions de politiques publiques sont ainsi proposes en
matire de protection de la vie prive, dinnovation, de responsabilit civile
et pnale, ou encore de fiscalit. Trois recommandations majeures peuvent
tre retenues. Tout dabord, les auteurs recommandent daccrotre le niveau
dexpertise des gouvernants en matire dintelligence artificielle, afin quils
puissent mieux apprcier les impacts de ces technologies. Ensuite, ils incitent
llimination des obstacles et des freins la transparence et aux
recherches sur la scurit, la protection de la vie prive et les rpercussions
sociales entranes par lutilisation de technologies doues dintelligence
artificielle, afin de prvenir les usages abusifs. Enfin, les auteurs de ce
rapport appellent au financement dtudes dimpact pluridisciplinaires.
la suite de ce rapport de septembre 2016 et puisquil nexistait
aucun guide commun encadrant le domaine de lintelligence artificielle,
dictant notamment de bonnes pratiques en la matire, plusieurs spcialistes
de lintelligence artificielle et de la robotique se sont runis lors de la
confrence dnomme Beneficial AI 2017 organise par le Future of Life
Institute (le FLI, dont il a t question plus haut). La confrence sest tenue
- 178 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Asilomar, en Californie du 5 au 8 janvier 20171, avec le soutien de sponsors


tels que Alexander Tamas, Elon Musk, Jaan Tallinn et deux associations The
Center for Brains, Minds, and Machines et The Open Philanthropy Project .
Aux termes de la rencontre, les spcialistes ont procd ladoption
de vingt-trois principes baptiss Les 23 principes dAsilomar et dont
lobjectif est dencadrer le dveloppement de lintelligence artificielle.
Daprs les informations recueillies, les principes ont t signs par 846
chercheurs spcialiss dans lintelligence artificielle et la robotique et par
1 270 autres spcialistes dans divers domaines. Ces 23 principes dAsilomar
constituent un guide de rfrence dencadrement thique du dveloppement
de lintelligence artificielle, qui explique que lintelligence artificielle a dj
fourni de nombreux outils utiles qui sont utiliss au quotidien travers le monde.
Son dveloppement continu, guid par les principes suivants, offrira des
opportunits extraordinaires pour aider, responsabiliser et rendre plus performants
les humains pour les dcennies et les sicles venir . Les 23 principes
dAsilomar 2 se prsentent comme suit :
1) Objectif des recherches : Le dveloppement de lintelligence
artificielle ne doit pas servir crer une intelligence sans contrle mais une
intelligence bnfique.
2) Investissements : Les investissements dans lintelligence
artificielle doivent tre orients vers le financement de recherches visant
sassurer de son usage bnfique, qui prend en compte des questions
pineuses en matire dinformatique, dconomie, de loi, dthique et de
sciences sociales. Parmi ces questions :
- Comment rendre les futures intelligences artificielles suffisamment
solides pour quelles fassent ce quon leur demande sans
dysfonctionnement ou risque dtre pirates ?
- Comment amliorer notre prosprit grce cette automatisation tout
en maintenant les effectifs humains ?
- Comment adapter le cadre juridique afin dtre plus juste et efficace,
de suivre le rythme de lintelligence artificielle et de grer les risques
qui y sont associs ?
- Quel ensemble de valeurs lintelligence artificielle devra respecter, et
quel statut thique devrait-elle revtir ?
3) Relations entre les scientifiques et les lgislateurs : Un change
constructif et sain entre les dveloppeurs dintelligence artificielle et les
lgislateurs est souhaitable.
4) Esprit de la recherche : Un esprit de coopration, de confiance et
de transparence devrait tre entretenu entre les chercheurs et les
scientifiques en charge de lintelligence artificielle.

1 Son programme figure ici : https://futureoflife.org/bai-2017/


2 https://futureoflife.org/ai-principles/
DEUXIME PARTIE : - 179 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

5) viter une course : Les quipes qui travaillent sur les intelligences
artificielles sont encourages cooprer pour viter des raccourcis en
matire de standards de scurit.
6) Scurit : Les intelligences artificielles devraient tre scurises
tout au long de leur existence, une caractristique vrifiable et applicable.
7) Transparence en cas de problme : Dans le cas dune blessure
provoque par une intelligence artificielle, il est ncessaire den trouver la
cause.
8) Transparence judiciaire : Toute implication dun systme
autonome dans une dcision judiciaire devrait tre accompagne dune
explication satisfaisante contrlable par un humain.
9) Responsabilit : Les concepteurs et les constructeurs
dintelligence artificielle avance sont les premiers concerns par les
consquences morales de son utilisation et de ses dtournements. Il leur
incombe donc dassumer la charge de les anticiper.
10) Concordance de valeurs : Les intelligences artificielles
autonomes devraient tre conues de faon ce que leurs objectifs, leur
comportement et leurs actions savrent conformes aux valeurs humaines.
11) Valeurs humaines : Les intelligences artificielles doivent tre
conues et fonctionner en accord avec les idaux de la dignit, des droits et
des liberts de lhomme, ainsi que de la diversit culturelle.
12) Donnes personnelles : Chacun devrait avoir le droit daccder
et de grer les donnes le concernant au vu de la capacit des intelligences
artificielles analyser et utiliser ces donnes.
13) Libert et vie prive : Lutilisation dintelligence artificielle en
matire de donnes personnelles ne doit pas rogner sur les liberts relles ou
perue des citoyens.
14) Bnfice collectif : Les intelligences artificielles devraient
bnficier au plus grand nombre, les valoriser et les rendre plus performants.
15) Prosprit partage : La prosprit conomique dcoulant de
lutilisation de systmes dintelligence artificielle devrait tre partage avec
le plus grand nombre, pour le bien de lhumanit.
16) Contrle humain : Les humains devraient pouvoir choisir
comment et sils veulent dlguer des dcisions de leur choix aux
intelligences artificielles.
17) Anti-renversement : Le pouvoir obtenu en contrlant des
intelligences artificielles trs avances devrait tre soumis au respect et
lamlioration des processus civiques dont dpend le bien-tre de la socit
plutt qu leur dtournement dautres fins.
18) Course aux IA darmement : Une course aux intelligences
artificielles darmement mortelles est viter.
- 180 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

19) Avertissement sur les capacits : En labsence de consensus sur


le sujet, il est recommand dviter les hypothses au sujet des capacits
maximum des futures intelligences artificielles.
20) Importance : Les intelligences artificielles avances pourraient
entraner un changement drastique dans lhistoire de la vie sur Terre, et
devront donc tre gres avec un soin et des moyens considrables.
21) Risques : Les risques causs par les IA, particulirement les
risques catastrophiques ou existentiels, sont sujets des efforts de
prparation et dattnuation adapts leur impact suppos.
22) Auto-dveloppement infini : Les IA conues pour
sauto-dvelopper linfini ou sauto-reproduire, au risque de devenir trs
nombreuses ou trs avances rapidement, doivent faire lobjet dun contrle
de scurit rigoureux.
23) Bien commun : Les intelligences surdveloppes devraient
seulement tre dveloppes pour contribuer des idaux thiques partags
par le plus grand nombre et pour le bien de lhumanit plutt que pour un
tat ou une entreprise.
Il convient, en outre, dobserver que Microsoft a lanc en 2017 un
fonds dinvestissement en capital-risque consacr lintelligence
artificielle avec un objectif de ciblage sur les investissements impact
positif pour la socit. Daprs le vice-prsident de Microsoft Ventures,
Nagraj Kashyap, lintelligence artificielle doit tre conue pour assister
lhumanit, tre transparente, maximiser lefficacit sans dtruire la dignit
humaine, protger intelligemment la vie prive et assurer la responsabilit de
limprvu, et se garder des prjugs. Ce sont ces principes qui guideront lvolution
de ce fonds . Le premier investissement de Microsoft est destin la
plateforme Element AI base Montral, cofonde avec Yoshua Bengio,
professeur lUniversit de Montral. Cet investissement confirme vos
rapporteurs le fait que la capitale du Qubec se place parmi les principaux
ples mondiaux de lintelligence artificielle, alors que Google y avait
galement bas une de ses divisions de recherche en intelligence artificielle.
De mme que Microsoft, avec Pierre Omidyar et Reid Hoffman, les
fondateurs deBay et de LinkedIn, ont lanc en 2017, avec le fondateur de
Raptor Group James Pallotta et les fondations Knight et William et Flora
Hewlett, un fonds dinvestissement de 27 millions de dollars, qui porte le
nom de Ethics and Governance of Artificial Intelligence Fund, qui
accompagnera les projets R&D axs sur les problmatiques dthique dans le
domaine de lintelligence artificielle. Le fonds est pilot par le Media Lab du
MIT et le Berkham Klein Center for Internet and Society de Harvard. Cette
enveloppe sera exploite pour soutenir les initiatives repres dans le monde
acadmique et orientes vers le dveloppement dune intelligence artificielle
thique, capable de ne pas reproduire et amplifier les biais humains . Dans
cette optique, il sagira dimpliquer, au-del des ingnieurs, des sociologues,
des philosophes, des juristes, des conomistes et les rgulateurs, au
DEUXIME PARTIE : - 181 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

croisement des sciences informatiques, humaines et sociales. LEthics and


Governance of Artificial Intelligence Fund se donne aussi pour mission de
vulgariser lintelligence artificielle auprs du grand public.
Vos rapporteurs sinterrogent sur les objectifs prcis des GAFAMI et
dElon Musk travers ces nombreuses initiatives. La volont de ces
nouveaux gants pourrait-elle tre celle de se ddouaner ou de crer un
nuage de fume pour ne pas parler des vrais problmes thiques poss
court terme par les technologies dintelligence artificielle, telles que lusage
des donnes ou le respect de la vie prive ? Vos rapporteurs nont pas
tranch et laissent aux auteurs de ces initiatives le bnfice du doute. Chris
Olah, lun des auteurs de Concrete Problems in AI Safety , travail de
recherche publi par Google fait valoir qu alors que les risques potentiels de
lIA ont reu une large attention de la part du public, les discussions autour de ce
sujet sont restes trs thoriques et bases sur des spculations et quil faut
dvelopper des approches pratiques dingnierie de systmes dintelligence
artificielle oprant de faon sre et fiable . Dpassant les dbats thoriques
entre pro et anti-IA, ces initiatives permettent daborder avec des experts la
ralit concrte de lintelligence artificielle, mme si elles donnent, selon vos
rapporteurs, une place trop grande au risque de lmergence dune IA forte
qui dominerait et pourrait faire steindre lespce humaine.
En mars 2017, la fondation Future Society de la Harvard Kennedy
School a rendu un rapport La Rvolution de lintelligence artificielle au
service de tous dans le cadre de son initiative pour lintelligence
artificielle1. Coordonn par Cyrus Hodes et Nicolas Miailhe, il dcrit
lmergence de ces technologies, en souligne les opportunits et les dfis en
matire de politiques publiques puis formule quelques recommandations.
Vos rapporteurs rsument ci-aprs le contenu des trois dernires
parties de ce rapport.
1- Pour ce qui concerne tout dabord les opportunits conomiques
et sociales offertes par lintelligence artificielle, il faut observer que le
dveloppement de lIA pourrait se traduire par une rvolution de la
gouvernance, travers lefficacit des processus dcisionnels pour les
acteurs publics et privs. La capacit des algorithmes dapprentissage
machine exploiter les stocks et les flux croissants de donnes est
susceptible de dclencher une vague doptimisation dans de nombreux
domaines, linstar de lnergie et des transports. Lintelligence artificielle
peut tre essentiellement utilise comme une technologie de prdiction ,
dont la diffusion pourrait rduire considrablement le cot du traitement des
donnes historiques et donc faire des prdictions pour un large ventail de
tches telles que le profil des risques, la gestion des stocks ou la prvision de
la demande. Le dveloppement de lintelligence artificielle annonce des
formes de collaboration et de complmentarit nouvelles et
conomiquement plus efficaces entre les humains et les machines.

1 Cf. le site : http://ai-initiative.org/


- 182 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Lintelligence artificielle peut potentiellement tre considre comme un


nouveau facteur de production, en amliorant lefficacit des facteurs
traditionnels du travail et du capital et en crant un hybride capable de crer
des effectifs entirement nouveaux. Dans de nombreux cas, lintelligence
artificielle sera capable de sauto-amliorer, et de surpasser les humains en
termes dchelle et de vitesse.
Dans le domaine de la sant, les progrs raliss dans lintelligence
artificielle crent ce que beaucoup considrent comme des technologies
vritablement transformatrices et volutives pour aborder et traiter les
maladies et les mdicaments. Tous les principaux acteurs de lintelligence
artificielle entrent sur le march de la sant, et lintelligence artificielle est
perue par les praticiens comme un facilitateur de la rvolution mdicale de
prcision et de prvention, ainsi que dans le squenage gnomique. Le
recours des technologies dintelligence artificielle dans le domaine de la
sant peut galement inclure la dcouverte et la cration de molcules et de
mdicaments, la personnalisation des soins, lutilisation de bots
mdicaux, ou encore les soins apports aux personnes ges.
Lintelligence artificielle a dj un impact consquent sur le
transport avec lintroduction de capacits de conduite autonome. Le
dveloppement de rseaux neuronaux profonds est lun des principaux
moteurs des progrs impressionnants raliss dans les vhicules autonomes
au cours de la dernire dcennie. La rvolution des formes de mobilit
transformera en profondeur lindustrie automobile, qui pourra muter en
industrie de services, et avoir un impact sur les paysages urbains et
suburbains, avec la possibilit que cela puisse traiter la sgrgation spatiale
qui a souvent t accompagne de la marginalisation sociale.
Bien que lducation soit, court terme, un secteur moins impact
par la substitution de lemploi lintelligence artificielle, avec un potentiel
dautomatisation estim 27%, les outils que lintelligence artificielle
apporte aux ducateurs et aux tudiants se rvleront trs prcieux en
termes defficacit. mesure que les MOOC (Massive Open Online Courses) et
les SPOC (Small Private Online Courses) gagnent en popularit en donnant
accs au meilleur contenu de cours pour tous, alors que le crowdsourcing et
lapprentissage machine sont dvelopps pour assurer notamment les tches
denseignement et dvaluation.
En analysant et comprenant les normes et les variations des
comportements des utilisateurs, lintelligence artificielle sest avre tre un
outil efficace adoptant des mesures proactives (contrer les cyberattaques, le
vol didentit, la lutte contre le terrorisme). Au-del de la cyberscurit,
lintelligence artificielle prend de plus en plus de poids dans la dfense et la
scurit. Elle permet au personnel de scurit nationale dtre mieux
inform grce des systmes de gestion et des outils de simulation plus
intelligents.
DEUXIME PARTIE : - 183 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

Dans le domaine de la robotique, les progrs de lintelligence


artificielle influent radicalement sur les tactiques et les capacits de mission
des plates-formes autonomes qui sont en mesure de faonner et dinfluencer
la manire dont les conflits et les oprations de scurit se droulent
lavenir.
Dans la police, lintelligence artificielle est utilise comme un outil
didentification puissante, et de plus en plus comme un instrument prdictif
indiquant o et quand les crimes peuvent se produire. Comme dans la
dfense, ces applications devront tre trs srieusement rgies pour viter les
abus, ce qui pourrait avoir des effets dvastateurs.
2- Les dfis pour les politiques publiques sont grands. En raison de
sa dynamique dentreprise, la monte en puissance de lintelligence
artificielle a t caractrise par la formation de ce que lon pourrait appeler
un oligopole global dissymtrique qui soulve des problmes importants
en termes de rpartition de la richesse et de la puissance, mais pourrait
galement touffer linnovation en empchant lapparition de nouveaux
acteurs. Le march de lintelligence artificielle est domin par quelques
multinationales amricaines (GAFAMITIS) et chinoises (BATX), dont la
capitalisation boursire reprsente aujourdhui plus de 3,3 mille milliards de
dollars. Le march de lintelligence artificielle prsente de fortes
caractristiques the winner takes most en raison de la prvalence
particulire deffets de rseau et deffets dchelle. Cet oligopole est
dissymtrique en cela quil prsente de srieux dsquilibres entre, dune
part, les multinationales numriques hautement innovantes dont les modles
conomiques perturbateurs se droulent lchelle transnationale et, dautre
part, les tats-nations. Cette dissymtrie qui concerne la rvolution
numrique en gnral est encore aggrave par le dveloppement de
lintelligence artificielle puisque les multinationales sont maintenant en
mesure de capturer et de fournir des fonctions cls de gouvernance.
Loligopole global dissymtrique de lintelligence artificielle pourrait tre
une source de tensions svres au cours des prochaines dcennies dans les
pays et entre eux. Sans rgulation et redistribution, laccumulation
dsquilibre de richesse et de pouvoir entre les mains de quelques acteurs
privs pourrait favoriser la monte en puissance des populismes et des
extrmismes lchelle mondiale.
Un autre lment crucial des dfis politiques associs au
dveloppement de lintelligence artificielle se rapporte la dlgation
croissante de comptences aux agents autonomes. Le potentiel de
lintelligence artificielle pour la croissance, le dveloppement et le bien
public exigera ladoption de normes techniques et de mcanismes de
gouvernance qui maximisent la libre circulation des donnes et des
investissements dans des services forte intensit de donnes.
En outre, il pourrait y avoir des tensions entre la ncessit dune
rglementation rigoureuse des donnes afin de garantir la protection de la
vie prive, le consentement clair et la lutte contre la discrimination, dune
- 184 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

part, et les conditions de march ncessaires pour favoriser linnovation et


dvelopper des bases technoindustrielles puissantes dautre part.
Certains chercheurs ont exprim de graves inquitudes quant au
risque damplification des biais sociaux prsent par lapprentissage
machine, les algorithmes pouvant devenir ainsi source de discrimination,
comme la montr lexprience du bot conversationnel Tay dvelopp par
Microsoft.
Lensemble de dfis politiques majeurs associs au dveloppement
de lintelligence artificielle se rfre limpact de lautomatisation sur les
emplois et les ingalits, certains chercheurs craignant un potentiel
dcrochage des classes moyennes. De nombreux experts estiment que la
vague dautomatisation alimente par lintelligence artificielle influencera
profondment les profils demplois. Les rsultats des tudes sur limpact de
lautomatisation du travail menes au cours des cinq dernires annes
diffrent cependant radicalement dans leur valuation et leurs projections
(comme il a t vu le rapport de lOCDE publi en juin 2016 a conclu quune
moyenne modeste de 9 % des tches est automatisable, alors quune tude de
2013 de Frey et Osborne se voulait plus alarmiste avec sa conclusion
quenviron 47 % des emplois amricains seraient sensibles lautomatisation
au cours des deux prochaines dcennies).
La capacit des socits faonner la rvolution de lintelligence
artificielle dans une destruction cratrice et diffuser son bnfice tous
dpend principalement de la faon dont elle ragit collectivement. Des
rponses politiques systmiques seront ncessaires, y compris la rforme et
la rinvention ventuelle de la scurit sociale et de la taxe de redistribution.
Les systmes dducation et de dveloppement des comptences devront
galement tre rforms pour permettre des transitions professionnelles
viables. Compte tenu de la difficult prdire les zones les plus impactes et
de dsagrger lautomatisation axe sur lintelligence artificielle dautres
facteurs, les rponses politiques devront dabord viser lensemble de
lconomie, jusqu ce que les stratgies cibles deviennent plus efficaces et
que les pratiques de suivi et dvaluation aient t conues.
3. En matire de recommandations, le rapport La Rvolution de
lintelligence artificielle au service de tous formule huit propositions :
1 : Les institutions prives et publiques devraient tre encourages
examiner si et comment elles peuvent influencer de manire responsable
lintelligence artificielle dans un sens bnfique pour la socit.
2 : Les tats et les organisations internationales devraient travailler sur le
dveloppement de mcanismes de coordination mondiale pour surveiller
collectivement ltat de lintelligence artificielle.
3 : Les tats et les organisations internationales devraient soutenir
davantage la recherche et la prvoyance sur la dynamique (vitesse et
magnitude) du dveloppement de lintelligence artificielle.
DEUXIME PARTIE : - 185 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

4 : Les tats et les organisations internationales devraient soutenir le


dveloppement de modles prdictifs analysant limpact des machines
autonomes sur les marchs du travail, les emplois ou tches futurs, les
mcanismes conomiques, le bien-tre collectif et les structures de risque et
les comptences associes.
5 : Les tats et les organisations internationales devraient soutenir
davantage de recherche en sciences sociales sur linteraction entre la
science, la technologie et la socit lpoque de lintelligence artificielle.
6 : Les tats et les organisations internationales devraient soutenir
davantage de recherches sur le renforcement des protections juridiques
contre les biais algorithmiques.
7 : Les tats et les organisations internationales devraient sefforcer de crer
un cadre politique mondial et des normes harmonises rgissant les flux et
les stocks de donnes, en particulier les donnes personnelles, ainsi que
lutilisation dalgorithmes.
8 : Les institutions prives et publiques ainsi que les organisations
professionnelles devraient tre encourages diriger de manire proactive
les dbats publics en engageant les experts de lIA, les praticiens, les parties
prenantes et la socit en gnral sur le thme de la gouvernance de
lintelligence artificielle.

3. Le travail en cours sur les enjeux thiques au sein de


lassociation mondiale des ingnieurs lectriciens et
lectroniciens (Institute of Electrical and Electronics Engineers
ou IEEE)

Vos rapporteurs soulignent limportant travail en cours sur les


enjeux thiques actuellement au sein de lassociation mondiale des
ingnieurs lectriciens et lectroniciens (Institute of Electrical and Electronics
Engineers ou IEEE), qui regroupe plus de 400 000 membres.
Linitiative mondiale de lIEEE pour les considrations thiques
dans lIntelligence Artificielle et les Systmes Autonomes a en effet pour
principal objectif de proposer un cadre thique de rfrence pour le
dveloppement des systmes dintelligence artificielle et des systmes
autonomes.
Souhaitant dpasser la recherche de la performance technologique
en soi, ou le succs commercial, lIEEE vise ce que ces systmes se
comportent dune manire bnfique pour lhumanit et que leur
dveloppement contribue au bien-tre de celle-ci. Lapproche est, dune
part, de produire un document volutif rdig collectivement et, dautre
part, de proposer des standards qui pourraient devenir des standards
industriels. La premire version du document dIEEE Conception conforme
lthique : une vision pour fixer comme priorit le bien-tre humain avec
lintelligence artificielle et les systmes autonomes a t publie le
- 186 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

13 dcembre 2016, avec lide dune discussion dici lt 2017 et la


diffusion dune deuxime version consolide prvue lautomne 2017.
Plusieurs vnements, runions et tlconfrences sont programms
afin de discuter du texte, y compris en Europe, par exemple Bruxelles le
11 avril 2017, et surtout un vnement marquant, qui se tiendra sous la
forme dune plnire les 5 et 6 juin Austin (Texas), lissue duquel sera
ralise la deuxime version du texte. Cest la communication de ce texte qui
est prvue lautomne 2017. Enfin, une troisime plnire aura lieu en Asie
en 2018 (Japon ou Chine).
Le document publi le 13 dcembre 2016 aborde les diffrents
aspects de la cration et du dveloppement dalgorithmes et de
lintelligence artificielle concerns par des questionnements thiques et
propose des recommandations pour chacun dentre eux. Il en formule huit,
que vos rapporteurs rcapitulent ci-dessous.
1. Les principes gnraux de la recherche en intelligence artificielle
Le dveloppement de lintelligence artificielle doit tre encadr par
un respect des principes fondamentaux des droits humains, de
responsabilit, de transparence, dducation et de connaissance.
2. Les valeurs programmes dans les systmes autonomes
Les valeurs morales intgrer aux algorithmes des systmes
autonomes ne peuvent tre universelles, et, sans tomber dans le relativisme,
doivent davantage sadapter aux communauts dutilisateurs concernes et
aux tches qui lui sont confies. Il est important de veiller, ds la conception
des algorithmes, ce que la multiplicit de valeurs ne les fasse pas entrer en
conflit les unes avec les autres et ne dsavantage aucun groupe
dutilisateurs. Cela implique donc quune architecture de calcul exigeante
des valeurs et normes thiques doit tre respecte.
3. La mthodologie de recherche et de conception thiques
Il est essentiel que la mthodologie de recherche et de conception
dalgorithmes et de systmes autonomes comble de nombreux manques.
Au-del de son enseignement actuellement absent des programmes dtudes
en ingnierie, lthique doit tre intgre dans de nombreux domaines
dactivit. Les pratiques industrielles doivent tre davantage marques par
une culture thique et la communaut concerne doit semparer des sujets
idoines et assumer sa responsabilit thique. Du fait du mode de
fonctionnement et de prise de dcision des algorithmes, il est ncessaire
dinclure des composants de type botes noires dcryptables a posteriori
afin denregistrer les informations aidant lanalyse des processus de
dcision et daction des systmes autonomes.
4. La scurit
Les comportements imprvus ou involontaires de systmes
dintelligence artificielle reprsentent potentiellement un danger
DEUXIME PARTIE : - 187 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

grandissant. Il est de fait essentiel de renforcer la scurit de lutilisation de


systmes dintelligence qui, en devenant de plus en plus capables, peuvent
devenir dangereux. Les chercheurs et concepteurs de systmes de plus en
plus autonomes devront se confronter un ensemble complexe de dfis de
scurit sur le plan technologique ainsi que sur le plan thique.
5. La protection des donnes caractre personnel
Lun des principaux dilemmes thiques relatif au dveloppement de
lintelligence artificielle concerne lasymtrie de donnes (data asymmetry),
entre ceux qui les produisent et ceux qui les agrgent, les traitent, les
manipulent et les vendent. La protection des donnes caractre personnel
doit tre organise en considration de diffrents facteurs : comment est
dfini et est identifi le caractre personnel dune donne ; comment
dfinir le consentement daccs des donnes caractre personnel ; les
conditions daccs et de traitement de ces donnes ; etc.
6. Les considrations juridiques
Lutilisation de systmes autonomes soulve de nombreuses
questions dun point de vue juridique. Des exigences de responsabilisation,
de transparence et de vrifiabilit des actions des robots sont essentielles et
les dispositifs existants doivent tre amliors. titre dexemple, la
transparence des systmes autonomes permet de garantir quune intelligence
artificielle respecte les droits individuels et, utilise par une administration,
quelle ne porte pas atteinte aux droits des citoyens et peut recueillir leur
confiance. En outre, il est ncessaire dadapter le cadre juridique concernant
la responsabilit des prjudices et dommages causs par un systme
autonome, ainsi que concernant lintgrit et la protection des donnes
caractre personnel.
7. La dfense et les robots tueurs
Lutilisation darmes ltales autonomes, galement appeles robots
tueurs , revt un caractre risqu, en cela que leurs actions pourraient tre
altres et devenir un danger non matrisable, en cela que la surveillance
humaine en est exclue. Ces robots tueurs , linstar des drones militaires,
sont critiqus, et la lgitimation de leur dveloppement pourrait
potentiellement crer des prcdents, qui du point de vue gopolitique
pourraient tre dangereux moyen terme, notamment en termes de
prolifration de ces armes, dabus dutilisation et descalade rapide des
conflits. En outre, labsence de standards de conception ne permet pas
aujourdhui dadopter des rgles thiques clairement dfinies.
8. Les problmes conomiques et humanitaires
Lobjectif de ce rapport, en matire conomique et social, est
didentifier les principaux moteurs de lcosystme mondial des technologies
dans ce domaine et de prendre en compte les ramifications conomiques et
humaines, voire humanitaires, afin de suggrer des opportunits cls de
solutions. Ces dernires pourraient tre mises en uvre de manire
- 188 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

dbloquer les points critiques de tension. Les systmes autonomes et, plus
largement, lintelligence artificielle, souffrent dune mauvaise image auprs
du grand public, du fait dune interprtation errone par de nombreuses
uvres de culture populaire alarmistes sur les capacits dun systme
dintelligence artificielle forte , qui nest pas encore advenu et nest pas
une ralit envisageable court terme.
Le phnomne de robotisation et de dveloppement de lintelligence
artificielle nest gnralement pas peru uniquement dans un contexte de
march. Si toute politique publique sur lintelligence artificielle peut
potentiellement ralentir linnovation, de nombreuses craintes mergent,
notamment concernant lemploi, les changements technologiques voluant
trop rapidement pour permettre aux mthodes de formation de la main-
duvre de sadapter. Par ailleurs, laccs aux technologies dintelligence
artificielle nest pas quitablement rparti, entranant un manque de
comprhension des informations par une partie de la population ; en cela,
lavnement de lintelligence artificielle et des systmes autonomes peut
exacerber les diffrences conomiques et structurelles entre les pays
dvelopps et les pays en dveloppement.
En outre, lIEEE labore actuellement des standards, dans une
dmarche parallle la discussion du document Conception conforme
lthique : une vision pour fixer comme priorit le bien-tre humain avec
lintelligence artificielle et les systmes autonomes . Trois propositions de
standards industriels ont ainsi t proposes et dautres sont venir. Ils sont
en cours de rdaction dans des groupes de travail ouverts, au sein, de la
IEEE Standard association :
- Standard pour un processus tenant compte des considrations
thiques dans la conception des systmes.
- Standard sur la prise en compte de la protection de la vie prive
dans les systmes et logiciels utilisant des donnes personnelles.
- Standard sur les niveaux de transparence mesurables pour le test
de systmes et lvaluation de leur niveau de conformit.
Une telle rdaction de standards prend du temps, au moins un an, et
dautres ides de standard pourraient tre proposes et soumises la
discussion.
Selon lanimateur du comit dIEEE ayant produit le document
Conception conforme lthique : une vision pour fixer comme priorit le bien-tre
humain avec lintelligence artificielle et les systmes autonomes et qui prpare le
second rapport, Raja Chatila, directeur de lInstitut des systmes intelligents
et de robotique (ISIR), auditionn plusieurs reprises par vos rapporteurs,
deux aspects concernant lthique devraient tre particulirement abords :
dune part, les mthodologies de conception thique de systmes
autonomes, de manire ce que ceux-ci tiennent compte des valeurs
thiques humaines (par exemple respect de la vie humaine, des droits
DEUXIME PARTIE : - 189 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

humains) et de manire ce que les algorithmes qui les rgissent soient


transparents, explicables, traables, et, dautre part, lthique des machines,
cest--dire comment les dcisions prises par une machine peuvent intgrer
un raisonnement thique.

4. Une sensibilisation insuffisante du grand public ces questions


et un besoin de partage en temps rel de la culture scientifique
et de ses enjeux thiques

Vos rapporteurs constatent une sensibilisation insuffisante du


grand public aux questions poses par lintelligence artificielle et les
systmes autonomes. Les traitements mdiatiques de ces questions restent
le plus souvent sensationnalistes, voire alarmistes, alors quune information
objective serait souhaitable.
La vision dj tronque du grand public, sous leffet des uvres de
fiction, et en particulier du cinma, nest pas amliore par la lecture de la
plupart des articles disponibles sur lintelligence artificielle dans nos
journaux et magazines.
Vos rapporteurs veulent affirmer avec force le besoin de partage en
temps rel de la culture scientifique et de ses enjeux thiques.
Votre rapporteure, Dominique Gillot, prsidente du Conseil
national de la culture scientifique, technique et industrielle (CNCSTI),
entend rappeler que ce Conseil, plac auprs du ministre charg de la
Culture et du ministre charg de la Recherche, participe llaboration dune
politique nationale en matire de dveloppement de la culture scientifique, technique
et industrielle, en cohrence avec les grandes orientations de la stratgie nationale de
recherche .
Runi pour la premire fois le 24 novembre 20151, ses membres,
rflchissent aux actions conduire et sur larticulation entre le niveau
national et le niveau rgional. Parmi les thmes prioritaires de rflexion et de
travail figurent lutilisation des technologies et notamment du numrique
dans la mdiation scientifique, les entreprises et linnovation, les filles et la
science, lappui de la recherche aux dcisions publiques, laprs COP 21.
Votre rapporteure, Dominique Gillot, souligne limportance de la visibilit
du dbat public autour de ces questions.
LAlliance sciences socits (ALLISS) se donne justement pour
premire mission danimer le dbat public2, mais aussi de renforcer les
capacits dinitiatives des acteurs de la socit civile, de soutenir les
initiatives des institutions de lenseignement suprieur et de recherche, de

1Cette runion a t suivie par la remise du prix Le got des sciences , prix qui a pour objectif de
valoriser le travail des chercheurs et des diteurs, dencourager les vocations scientifiques et
daffirmer limportance de la culture scientifique au sein de la culture gnrale contemporaine.
2 Cf. la charte de lAllliance : https://uploads.strikinglycdn.com/files/5d463c19-d192-418c-9987-

9d3a62b95a22/CHARTE_ALLISS.pdf
- 190 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

favoriser le croisement des savoirs acadmiques, daction et dexprience et,


enfin, daccompagner les collectivits territoriales et leurs politiques
publiques. En collaboration avec lOPECST, lIHEST et le ministre de
lEnseignement suprieur et de la recherche, ALLISS a organis en novembre
2016 la session inaugurale de lancement de son livre blanc Prendre au
srieux la socit de la connaissance 1. Fruit de quatre annes de travail,
riche de la participation de plus de 1 500 personnes et de 450 organisations et
de la contributions de plus de 150 organisations de la socit civile, ce livre
blanc a t rendu public en mars 2017, avec lide de mettre en lumire des
expriences exemplaires, de contribuer un diagnostic partag et deffectuer
des recommandations pour les acteurs publics et les acteurs impliqus dans
lenseignement suprieur et la recherche : tablissements denseignement
suprieur et de recherche mais aussi acteurs de la socit civile, associations,
syndicats, entreprises Les recommandations du document portent sur les
interactions entre socit civile, enseignement suprieur et recherche, dans le
but daboutir entre autres une meilleure intgration de la socit civile
dans les choix des politiques publiques dinnovation.
Les activits dducation populaire ou les ateliers citoyens sont
dautres pistes pour sensibiliser le grand public aux questions poses par
lintelligence artificielle. Vos rapporteurs ne se satisfont pas des traitements
sensationnalistes ou alarmistes de ces questions par les mdias. Les
informations contenues dans le prsent rapport devraient tre accessibles
tous et transmises par le biais dactivits dducation populaire ou par des
ateliers citoyens.
Le rapport Vers une socit apprenante 2 remis en mars 2017 par
Franois Taddi, directeur du Centre de recherches interdisciplinaires (CRI),
la ministre de lducation nationale, de lenseignement suprieur et de la
recherche va dans ce sens et propose une approche systmique
interdisciplinaire marque par une culture de la confiance, de la libert et du
mentorat bienveillant , avec le numrique comme catalyseur des volutions
afin de mobiliser les moyens matriels et humains pour rpondre aux dfis
ducatifs.
Vos rapporteurs observent, en outre, que non seulement le
numrique doit tre transform par lthique, mais que le numrique est,
par lui-mme, un facteur dvolution des rgles thiques appliques par
les chercheurs, surtout au cours des dernires annes. Le contrle par les
pairs se fait de manire plus dcentralise et collaborative.
Lexemple de pubpeer, site de discussion en ligne darticles
scientifiques3, peut tre cit de manire significative. Les rseaux sociaux de
chercheurs4 sont une autre illustration.

1 Le livre blanc est tlchargeable sur le site dALLISS : http://www.alliss.org/


2 Cf. http://cache.media.education.gouv.fr/file/03_-_mars/19/0/2017_rapport_taddei_740190.pdf
3 Cf. https://pubpeer.com/
4 Cf. https://www.researchgate.net
DEUXIME PARTIE : - 191 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

III. LES QUESTIONS TECHNOLOGIQUES ET SCIENTIFIQUES QUI SE


POSENT EN MATIRE DINTELLIGENCE ARTIFICIELLE

A. LES SUJETS DINTERROGATION LIS AUX ALGORITHMES UTILISS


PAR LES TECHNOLOGIES DINTELLIGENCE ARTIFICIELLE

1. Les questions de scurit et de robustesse

Concernant la scurit au sens de la scurit numrique, lOPECST


a rcemment rendu un rapport sur les risques et la scurit numrique1, ce
point fera donc lobjet de courts dveloppements dans le prsent rapport.
Vos rapporteurs renvoient ce rapport qui traite dun point de vue gnral
de la scurit numrique.
Un exemple fameux de problmatique de scurit pour les systmes
dintelligence artificielle est celui du risque de piratage dun drone ou dune
voiture autonome. Les cas existent et doivent donc tre rsolus. La scurit
de ces systmes emporte des consquences en termes de vie humaine. Une
piste peut rsider dans le fait de ne pas tre perptuellement connect afin de
prvenir le risque de piratage. Selon John Krafcik, le prsident de Waymo,
ex-Google Self-Driving Car Project (branche dAlphabet pour la conduite
autonome) une connexion Internet permanente embarque nest pas
ncessaire pour un vhicule sans chauffeur et, au contraire, un accs Internet
discontinu dans une voiture autonome serait un gage de scurit. Afin
dassurer la scurit des passagers dune voiture autonome face au risque de
piratage, il sagit de ne pas dpendre de la connectivit embarque, comme
laccs Internet. John Krafcik explique ainsi : la cyberscurit est quelque
chose que nous prenons trs srieusement [] quand nous voquons nos voitures
autonomes, ce nest pas seulement pour dire quil ny a pas de conducteur humain,
mais aussi quil ny a pas de connexion cloud en continu depuis le vhicule .
Les connexions au rseau seront donc gres avec parcimonie,
lorsque la voiture en a besoin. Ce ne sera pas une connexion en continu,
susceptible dtre pirate pour sintroduire dans le vhicule. Waymo met
ainsi en circulation des vhicules autonomes Chrysler Pacifica Mountain
View (Californie), o se trouve le sige de Google, visit par vos rapporteurs,
et Phnix (Arizona).
Au-del du piratage, qui est intentionnel, se pose le problme de la
perte de contrle des systmes dintelligence artificielle. Des recherches
sont conduire dans ce sens, pour relever le dfi de scurit et de robustesse
des technologies. Depuis 2016, Thierry Berthier, chaire de cyberdfense de
Saint-Cyr lUniversit de Limoges, Jean-Gabriel Ganascia, UPMCLIP6, et
Olivier Kempf, IRIS, conduisent une tude sur un scnario concret de crise

1 Rapport Scurit numrique et risques : enjeux et chances pour les entreprises , n 271
(2014-2015).
- 192 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

militaire en raison dune drive de systmes dintelligence artificielle,


dans le cas dune hypothse faible de drive malveillante dans le sens ou
lintelligence artificielle implique na pas de volont de nuisance ni de
mtacomprhension de son environnement ou de sa propre activit. Ils
ne font intervenir que des capacits et fonctionnalits de lintelligence
artificielle existantes ou en cours de dveloppement, notamment dans les
rcents programmes initis par la DARPA, lagence amricaine pour les
projets de recherche avance de dfense, visite par vos rapporteurs. La
complexit des systmes et des processus dapprentissage pourrait conduire
des situations critiques. Le risque natrait ainsi de lassociation de choix
humains et de mcanismes numriques, une srie dlments mis bout a
bout pourraient en effet devenir potentiellement dangereux sans que chacun
de ces mcanismes pris individuellement le soit. Un article devrait paratre
en 2017 dans la revue de la Dfense Nationale la suite de cette tude.
En robotique il est ncessaire de toujours pouvoir arrter un
systme, la question peut se poser plus gnralement pour une
intelligence artificielle, quil sagisse dun systme informatique ou de son
incarnation dans un robot. La rversibilit du fonctionnement de
lintelligence artificielle est essentielle, elle voque le Golem de Prague qui se
tourne vers son matre, le prophte Jrmie, et lui dit : dfais-moi ! .
Vos rapporteurs rappellent quen 2016, Google a galement pos la
question du manque de contrle potentiel dagents apprenants qui
pourraient apprendre empcher leur interruption dans une tche. Cest
dans ce sens que la firme dveloppe lide dun bouton rouge
permettant la dsactivation des intelligences artificielles1.
Pour la CERNA, la question du dbrayage de certaines fonctions
autonomes, voire de la mise hors service du robot par lutilisateur, est
centrale. Elle se demande ainsi : Quand et comment lutilisateur peut-il
teindre des fonctions du robot, voire le robot lui-mme ? Le robot peut-il ou doit-il
empcher ces extinctions, dans quelles circonstances et sur quelles bases
objectives ?
Des recherches complmentaires sont ncessaires sur ce sujet. Pour
paraphraser Raymond Aron2, lenjeu est donc, face une paix improbable
avec les machines, de rendre la guerre impossible.

2. Les biais et les problmes poss par les donnes ncessaires aux
algorithmes dapprentissage automatique

Les biais sont lun des plus gros problmes poss par les
algorithmes dapprentissage automatique, ou pour tre plus rigoureux,
poss par les donnes ncessaires aux algorithmes. La question concerne en

1 Morgane Tual, Pourquoi Google a conu un bouton rouge pour dsactiver des intelligences
artificielles , Le Monde, 7 juin 2016.
2 Il utilisait lexpression de Paix impossible, guerre improbable .
DEUXIME PARTIE : - 193 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

effet plus les donnes que les algorithmes eux-mmes. Les impacts se font
ressentir aprs le traitement, mais les biais sont introduits en amont ds le
stade des jeux de donnes.
En effet, les algorithmes dapprentissage automatique et en
particulier dapprentissage profond vont reproduire les biais des donnes
quils traitent, en particulier toutes les discriminations connues dans nos
socits tant quelles ne sont pas corriges. Les donnes peuvent inclure
toute sorte de biais. Selon vos rapporteurs, cette difficult ne doit jamais tre
nglige.
Outre relever le dfi de lapprentissage non supervis, il convient
donc dtre vigilant sur ces biais, qui de surcrot sont souvent invisibles
sauf si des efforts de recherche sont entrepris, ainsi que lont expliqu
plusieurs spcialistes vos rapporteurs. Les algorithmes ne dtectent pas les
biais, ils sont btes , comme a pu le dire un chercheur.
Le second rapport de la CERNA, en cours de publication, traite de ce
point.
Ces biais peuvent aussi tre mis en relation avec les problmes de
loyaut des plateformes, ainsi que de lutilisation des systmes
dintelligence artificielle des fins non thiques, partisanes et sans
diversification des choix, comme le prcise votre rapporteure Dominique
Gillot.
Vos rapporteurs jugent que la gouvernance des algorithmes et des
prdictions quils oprent est ncessaire.

3. Le phnomne de botes noires des algorithmes de deep


learning appelle un effort de recherche fondamentale vers leur
transparence

Les connaissances existantes sur les systmes dintelligence


artificielle montrent que nous ne disposons daucune explication thorique
satisfaisante des raisons pour lesquelles les algorithmes de deep learning,
travers des rseaux de neurones artificiels en couches multiples,
fonctionnent, ou, pour tre plus prcis, donnent, dans un certain nombre de
domaines, dexcellents rsultats et trs rapidement.
Ce problme dopacit reste entirement rsoudre. On parle ce
sujet de phnomnes de botes noires , mais elles nont rien voir avec les
botes noires des avions, qui sont des enregistreurs numriques.
Le dfi relever est donc celui de lobjectif dexplicabilit des
algorithmes de deep learning. Il sagit l aussi dune autre question qui peut
se rattacher la question gnrale de la gouvernance des algorithmes.
Comme il a t vu, le Conseil gnral de lconomie (CGE) a rendu le
15 dcembre 2016 un rapport au ministre de lconomie et des finances
portant sur les Modalits de rgulation des algorithmes de traitement des
- 194 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

contenus 1. Les algorithmes de traitement des contenus sont insparables


des donnes quils traitent et des plateformes qui les utilisent pour proposer
un service. Alors quil y a de nombreux travaux sur la protection des
donnes et sur la loyaut des plateformes, il en existe encore peu sur les
algorithmes eux-mmes. Ce rapport souligne donc quil faut dvelopper la
capacit tester et contrler les algorithmes2.
Vos rapporteurs rappellent nouveau ici quInria avec sa
plateforme scientifique collaborative Transalgo , lance en 2017 et place
sous la direction de Nozha Boujemaa, dveloppe en 2017 de manire utile
une plateforme scientifique dvaluation de la responsabilit et de la
transparence des algorithmes3, afin de rpondre aux proccupations
exprimes de rgulation et dexplicabilit des algorithmes par llaboration
doutils et de pratiques transparentes et responsables dans le traitement
algorithmique des donnes. Une telle dmarche, en lien avec le Data
Transparency Lab du MIT, Mozzilla et Telefonica, va dans le bon sens mais
gagnerait voir sa force de frappe dmultiplie par une dynamique de
mobilisation de plusieurs quipes de recherche autour de challenges
scientifiques nouveaux. Inria ne doit pas tre la seule structure en France
porter des projets de ce type. Le CNNum, la CERNA et la CNIL sont associs
la plateforme Transalgo mais il sagit plus de partager des expriences
que de conduire des recherches transversales. Inria explique ainsi : Le
CNNum joindra ses forces avec celles dInria dans TransAlgo dans le respect des
missions de chacun. Il prendra en charge le recensement et lobjectivisation de la
situation actuelle de certaines pratiques des plateformes travers un dispositif
contributif (citoyens et professionnels). Les donnes des diffrentes sources de
rgulation europennes ou internationales viendront enrichir galement le centre de
ressources. Pour faire remonter des cas dusages bien rels, nous avons prvu de
collaborer avec des think tank comme la FING (Fondation internet nouvelle
gnration), ou des associations de consommateurs comme Que-Choisir, en plus de
la CERNA (Commission de rflexion sur lthique de la recherche en sciences et
technologies du numrique dAllistene). Nous allons travailler galement partir
des remontes dexpression de besoins qui viendront du CNNum, de la Direction
Gnrale de la Concurrence, de la Consommation et de la Rpression des Fraudes
(DGCCRF), de lAutorit franaise de contrle en matire de protection des donnes
personnelles (CNIL), afin didentifier les problmes les plus observs par le citoyen,
les industriels, les autorits de rgulation .

1 http://www.economie.gouv.fr/cge/modalites-regulation-des-algorithmes-traitement-des-contenus
2 Ses auteurs proposent cinq pistes daction qui ont pour objet la monte en comptence et le
dveloppement de lexpertise des pouvoirs publics, mais aussi dappeler au dveloppement de
bonnes pratiques dans les diffrents secteurs conomiques. Ils prconisent la cration dune
plateforme collaborative scientifique, destine favoriser le dveloppement doutils logiciels et
de mthodes de test dalgorithmes, ainsi que de promouvoir lutilisation de ces outils et mthodes. Ils
soulignent aussi quil faut prserver une image positive des technologies utilises pour
concevoir ou oprer des algorithmes. Cest essentiel pour continuer attirer les jeunes gnrations
de franaises et de franais dans des filires de formation exigeantes (mathmatiques, ingnieurs ou
data scientists) o la France est aujourdhui bien place.
3 Cf. http://www.economie.gouv.fr/files/files/PDF/Inria_Plateforme_TransAlgo2016-12vf.pdf
DEUXIME PARTIE : - 195 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

Comme il a t mentionn prcdemment, lInstitut Convergence


i2-DRIVE (Interdsciplinary Institute for Data Research : Intelligence, Value
and Ethics) sest donn parmi ses objectifs de se consacrer aux dfis
scientifiques des algorithmes dapprentissage et de traitement des donnes
mais aussi leurs impacts socio-conomiques.

4. La question des bulles dinformation dites bulles de filtres

Linformation cible tout comme la publicit personnalise ou la


logique de construction des fils dactualit des rseaux sociaux,
linstar de celui de Facebook, sont autant dexemples de ralits dj
manifestes dusage des systmes dintelligence artificielle, qui sont de nature
changer notre rapport au monde, aux autres et la connaissance en
orientant, voire en manipulant, notre perception de la ralit.
La rflexion inquite prsente dans le livre Filter bubbles par Eli
Pariser, Prsident de MoveOn et cofondateur de Avaaz, illustre ce fait : les
algorithmes intelligents slectionnent le contenu dinformations et crent
par l des bulles de filtres qui se multiplient et transforment le rapport
de lindividu au monde.
Ce sujet mrite une vigilance accrue des pouvoirs publics. Pour vos
rapporteurs, lenfermement, quil soit politique, idologique ou cognitif,
doit tre combattu.
La question va bien plus loin que les critiques formules lencontre
des fausses informations, ou fake news, amplifies par les rseaux sociaux.
Sur ce dernier point, la recherche est assez bien avance et comme la
indiqu plusieurs reprises Yann LeCun, directeur de la recherche en
intelligence artificielle de Facebook, lintelligence artificielle peut aussi tre
utilise pour limiter les flux de fausses informations. Des outils de
vrification (fact checking) sont ainsi mis en place par plusieurs plateformes,
commencer par Facebook et Google.

B. LES SUJETS DINTERROGATION LIS LA SINGULARIT , LA


CONVERGENCE NBIC ET AU TRANSHUMANISME

1. La singularit , point de passage de lIA faible lIA forte


peut, long terme, constituer un risque

La rupture dite de la singularit technologique appele aussi


simplement singularit, est le nom que des crivains et des chercheurs en
intelligence artificielle ont donn au passage de lIA faible lIA forte1. La

1Ds 1965, Irving John Good a dcrit, en prcurseur, la singularit, mais sans la nommer, et ce de la
manire suivante : Mettons quune machine supra-intelligente soit une machine capable
dans tous les domaines dactivits intellectuelles de grandement surpasser un humain,
aussi brillant soit-il. Comme la conception de telles machines est lune de ces activits
- 196 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

singularit reprsente un tournant hypothtique suprieur dans


lvolution technologique, dont lintelligence artificielle serait le ressort
principal. Vernor Vinge a rdig un essai remarqu ce sujet en 19931.
De nombreuses uvres de science-fiction ont dcrit ce tournant, qui a
t une source dinspiration trs riche pour le cinma. Les films
Terminator , Matrix , Transcendance sont des exemples de la
singularit technologique , qui est donc bien plus quune simple hostilit
de lintelligence artificielle, galement souvent au cur de lintrigue des
uvres de science-fiction.
Les progrs en matire dintelligence artificielle, en particulier avec le
deep learning, sont parfois interprts comme de bons augures de la
singularit mais rien ne permet de garantir la capacit crer au cours
des prochaines dcennies une super-intelligence dpassant lensemble des
capacits humaines. Par exemple, en sappuyant sur la loi de Moore, Ray
Kurzweil prdit que les machines rivalisant avec lintelligence humaine
arriveront dici 2020 et quelles le dpasseront en 20452. Daprs Raja
Chatila, directeur de recherche lInstitut des systmes intelligents et de
robotiques (Isir), nous en sommes, aujourdhui, encore loin car pour tre
intelligente comme un humain, une machine devra dabord avoir la perception
delle-mme, ressentir son environnement, traiter des informations flux continu et
en tirer du sens pour ensuite agir () Ce nest pas la technique qui fait dfaut la
machine, mais le sens de ses actions, et lintgration de la notion de concept .
Les rflexions de Jean-Gabriel Ganascia et de Max Dauchet devant
vos rapporteurs vont galement dans ce sens. Cette super-intelligence peut
paratre fonde, mais, ainsi que le soulignent Hubert et Stuart Dreyfus, cela
fait un demi-sicle, depuis que les ordinateurs sont apparus au monde, que lon
promet de bientt les programmer pour les rendre intelligents et que lon promet
aussi, ou plutt que lon a peur, quils apprennent bientt nous comprendre
nous-mmes comme des ordinateurs. En 1947, Alan Turing prdisait quil existerait
un ordinateur intelligent dici la fin du sicle. Maintenant que le millnaire est
dpass de trois ans, il est temps de faire une valuation rtrospective des tentatives
faites pour programmer des ordinateurs intelligents comme HAL dans le film 2001,

intellectuelles, une machine supra-intelligente pourrait concevoir des machines encore


meilleures ; il y aurait alors sans conteste une explosion dintelligence, et lintelligence
humaine serait trs vite dpasse. Ainsi, linvention de la premire machine supra-
intelligente est la dernire invention que lhomme ait besoin de raliser. Vernor Vinge a
commenc parler de la singularit dans les annes 1980 et a formul ses ides dans un premier
article paru en 1993 intitul Technological Singularity . Il y posait lhypothse que dans un
dlai de trente ans, lhumanit aurait les moyens de crer une intelligence surhumaine mettant un
terme lre humaine.
1 Cf. Vernor Vinge, The Coming Technological Singularity.
2 Les prdictions du futurologue peuvent tre rappeles. Les ordinateurs atteindront une capacit de

traitement comparable au cerveau humain en 2020. En 2022 les tats-Unis et lEurope adopteront
des lois rglementant les relations entre les humains et le robot, lactivit des robots, leurs droits,
leurs devoirs et autres restrictions seront fixs. En 2031, limpression des organes humains par des
imprimantes 3D sera possible. La circulation de vhicules autonomes sur les routes devient la norme
en 2033. Immortalit de lhomme en 2042 et, enfin, la singularit en 2045.
DEUXIME PARTIE : - 197 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

lOdysse de lespace 1. Ce jugement svre est tempr par Jean-Gabriel


Ganascia selon lequel on attend toujours lintelligence artificielle au
tournant parce quelle doit les esprances quelles suscitent : HAL,
lordinateur intelligent du film de Stanley Kubrick 2001, lOdysse de lespace, ne
voit pas encore le jour, mme si le millnaire est dj pass. Traduction automatique,
comprhension du langage naturelle, vision, dmonstration de thorme, rsolution
de problmes, robotique lhistoire rcente accumule les checs. Rien de vraiment
tangible nadvient dans ce secteur de la technologie Autant de lieux communs
bien rpandus, que lon retrouve depuis longtemps . LIA forte est une notion
implicite ds la fondation de lintelligence artificielle, mais elle correspond
surtout une invention conceptuelle des annes 1980. Lexplication donne
par Marvin Minsky, lun des pres de lintelligence artificielle, est
intressante et pose la question de la place de la recherche publique :
pourquoi navons-nous pas eu HAL en 2001 ? Parce que des problmes centraux,
comme le raisonnement de culture gnrale, sont ngligs, la plupart des chercheurs
se concentrent sur des aspects tels que des applications commerciales des rseaux
neuronaux ou des algorithmes gntiques. 2
Le principal propagateur de ce risque existentiel est Raymond
Kurzweil, sa fonction de directeur de la recherche de Google laissant
perplexe. LIA forte nest a priori pas pour tout de suite mais daprs Stuart
Armstrong, chercheur au Futur of Humanity Institute, Oxford, dirig par
Nick Bostrom3 il y a des risques pour que cela arrive plus tt que prvu .
Il convient de noter quune tude publie en octobre 2016 par
Google, montre que, programmes pour protger la confidentialit de
communications, deux IA peuvent dcouvrir des formes de chiffrement et
dchiffrement, sans quon leur ait enseign des algorithmes spcifiques pour ce
faire , selon les termes des chercheurs : autrement dit, des formes de
communication ignores des concepteurs des algorithmes. Le constat est
dailleurs identique avec le systme de traduction automatique du mme
Google, qui intgre dsormais des algorithmes de deep learning. Une autre
tude montre que ce systme est capable dtablir des connexions entre des
concepts et des mots qui ne sont pas formellement lis. Pour les chercheurs
lorigine de ltude, la consquence de ce constat serait claire : le systme a
dvelopp son propre langage interne, une interlingua. Ils prcisent toutefois
que les rseaux neuronaux sont complexes et les interactions difficiles dcrire .

2. Un prophtisme dystopique indmontrable scientifiquement

Nier la possibilit dune IA forte na pas de sens, toutefois se


prononcer sur son imminence ou sur le calendrier prcis de son avnement

1 From Socrates to Expert Systems : The Limits and Dangers of Calculative Rationality ,
2004.
2 Marvin Minsky, Its 2001. Where Is HAL? , Dr. Dobbs Technetcast, 2001.
3 Vos rapporteurs les ont rencontrs tous les deux, le second est auteur de Superintelligence :

Paths, Dangers, Strategy , 2014.


- 198 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

semble tout aussi peu raisonnable, car cest indmontrable


scientifiquement. Outre le calendrier incertain de la singularit comme en
tmoignent les limites de la loi de Moore, il convient dobserver que les
thories de la singularit sapparentent un prophtisme dystopique. Pour
le sociologue Dominique Cardon, la tentation de lIA forte est
anthropomorphiste. Certains sont en effet tents de plaquer sur les futures
intelligences artificielles des modes de raisonnement spcifiques
lintelligence humaine.
Ce catastrophisme oublie galement le caractre irrductible de
lintelligence humaine au calcul. Il vacue la place des motions, de
lintelligence corporelle. Non seulement lavnement dune super-
intelligence long terme nest pas certaine mais sa menace court terme
relve du pur fantasme. Pour Mustafa Suleyman, cofondateur de Deep Mind,
qui est lorigine dAlphaGo, il est impossible de prvoir la date darrive de
lIA forte.
Il sagit donc de fantasmes, et notamment de fantasmes sur la
capacit des algorithmes devenir conscients, savoir dots de capacits
rflexives leur permettant de se reprsenter eux-mmes. Selon Grard
Sabah, la bonne question se poser ce nest pas de savoir si un systme peut tre
conscient, mais de savoir ce que lhomme attribue sa conscience et pour David
Sadek, directeur de la recherche de lInstitut Mines-Tlcom, prudent, on ne
sait pas plus se reprsenter mentalement le fonctionnement dune machine inconnue
que celui dun autre tre humain .
Au-del des incertitudes sur la capacit dune machine avoir une
conscience, qui, selon certains philosophes, serait une caractristique
rserve aux tres vivants, se pose la question didentifier ce que peut faire
une technologie dintelligence artificielle, savoir calculer. La calculabilit
renvoie la thse de Church (du nom du mathmaticien Alonzo Church),
qui concerne la dfinition de la notion de calculabilit : dans une forme dite
physique , elle affirme que la notion physique de la calculabilit, dfinie
comme tant tout traitement systmatique ralisable par un processus
physique ou mcanique, peut tre exprime par un ensemble de rgles de
calcul. Cette thse a exerc une influence puissante en informatique, on peut
penser larticle dAlan Turing de 1936 et son modle mcanique de
calculabilit. Dans le prolongement de cette thse figure le
computationnalisme , qui est une thorie fonctionnaliste en philosophie
de lesprit qui, pour des raisons mthodologiques, conoit lesprit comme un
systme de traitement de linformation et compare la pense un calcul (ou
en anglais, computation) et, plus prcisment, lapplication dun systme de
rgles.
la fin des annes 1980, le computationnalisme a t concurrenc
par un nouveau modle cognitif, le connexionnisme, qui vise montrer
quon peut expliquer le langage de la pense sans faire appel un
raisonnement gouvern par un systme de rgles, comme le fait le
computationnalisme.
DEUXIME PARTIE : - 199 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

Le computationnalisme a t la cible de diverses critiques, en


particulier de John Searle, Hubert Dreyfus, ou Roger Penrose, qui tournaient
toutes autour de la rduction de la pense et/ou de la comprhension la
simple application dun systme de rgles. Vos rapporteurs sont sensibles
ces critiques et en particulier lillusion de comprhension, telle quelle
ressort de lexprience de la chambre chinoise mise en vidence par John
Searle1. Cette exprience vise montrer quune intelligence artificielle ne
peut tre quune intelligence artificielle faible et ne peut que simuler une
conscience, plutt que de possder des authentiques tats mentaux de
conscience et dintentionnalit. Elle vise montrer galement que le test de
Turing est insuffisant pour dterminer si une intelligence artificielle possde
ou non une intelligence comparable celle de lhomme.
Vos rapporteurs sinterrogent plus largement sur lide de machines
qui gagnent contre lhomme : a-t-on raison de dire, que ce soit aux checs,
au jeu de Go, ou en janvier 2017 au poker, que la machine a battu lhomme et
quelle est plus forte que lui ?
Ils partagent lopinion de Laurence Devillers, selon laquelle cette
formulation est excessive et revient essentialiser la machine. Cette
rification nous fait oublier que lintelligence des algorithmes cest aussi et
peut-tre avant tout lintelligence de leurs dveloppeurs. Elle affirme ainsi
que cette victoire au jeu de Go invoque une comparaison nulle et non avenue :
on compare un humain avec une machine ; mais derrire la machine se trouvent cent
ingnieurs au travail .
En effet, AlphaGo est peut-tre le meilleur joueur de Go de tous les
temps, mais il nest pas en mesure de parler ou de distinguer un chat dun
chien, ce dont serait, quant lui, capable nimporte quel joueur de Go
humain dbutant.
Lcrivain futuriste et entrepreneur, Jerry Kaplan, fait valoir que le
terme mme dintelligence artificielle est trompeur. Le fait que lon puisse
programmer une machine pour jouer aux checs, au Go, Jeopardy ou pour conduire
une voiture ne signifie pas pour autant quelle soit intelligente ! Autrefois, les
calculs taient effectus la main, par des humains trs intelligents et portant une
grande attention au dtail. Aujourdhui, nimporte quelle calculette achete en
supermarch peut faire bien mieux que ces brillants cerveaux de jadis. Ces
calculatrices sont-elles pour autant intelligentes ? Je ne le crois pas. Au fil du temps,
nous dcouvrons de nouvelles techniques permettant de rsoudre des problmes bien
prcis, laide de lautomatisation. Cela ne signifie pas pour autant que nous soyons

1 Il pose lhypothse dune personne qui na aucune connaissance du chinois, enferme dans une
chambre, et disposant dun catalogue de rgles permettant de rpondre des phrases en chinois,
selon des rgles de syntaxe. Cette personne enferme dans la chambre reoit donc des phrases crites
en chinois et, en appliquant les rgles sa disposition, produit dautres phrases en chinois qui
constituent en fait des rponses des questions poses par un vrai sinophone situ lextrieur de la
chambre. Du point de vue du locuteur qui pose les questions, la personne enferme dans la chambre
se comporte comme un individu qui parlerait vraiment chinois. Mais, en loccurrence, cette dernire
na aucune comprhension de la signification des phrases en chinois quelle cre. Elle ne fait que
suivre des rgles prdtermines.
- 200 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

en train de construire une super-intelligence en passe de prendre le pouvoir notre


place . Les dfis que lintelligence artificielle devra relever sont dun autre
ordre selon David Sadek puisque lintelligence artificielle, cest avant tout la
didactique des machines, cest--dire apprendre aux machines ce que les humains
savent dj faire () quand on parle de vision artificielle, par exemple lorsque
Google apprend identifier un chat sur des photos, ce nest pas parce quun
algorithme apprend reprer un chat quil sait ce que cest. De mme, le test de
Turing ne sera peut-tre pas le meilleur critre pour valuer les IA lavenir .
Ces observations conduisent relativiser les rcents progrs de
lintelligence artificielle et, en particulier, contester le fantasme de
lintelligence artificielle forte car elles rcusent la pertinence dune
comparaison avec lintelligence humaine.
Selon Raja Chatila, la question initiale de Turing devrait conduire
linterrogation suivante : une machine peut-elle avoir une facult de
conscience delle-mme ? Car malgr toutes les recherches en robotique et
intelligence artificielle, les rsultats, aussi significatifs soient-ils, restent le
plus souvent applicables dans des contextes restreints et bien dlimits.
Ainsi, la perception ne permet pas un robot de comprendre son
environnement, cest--dire dlaborer une connaissance suffisamment
gnrale et opratoire sur celui-ci (do la ncessit dtudier la notion
d affordance1 ), la prise de dcision reste limite des problmes
relativement simples et bien modliss. Les principes fondamentaux, qui
permettraient aux robots dinterprter leur environnement, restent
largement incompris : comprendre leurs propres actions et leurs effets,
prendre des initiatives, exhiber des comportements exploratoires, acqurir
de nouvelles connaissances et de nouvelles capacits Les cls pour
permettre la ralisation de ces fonctions cognitives pourraient tre le mta-
raisonnement et la capacit dauto-valuation, deux mcanismes rflexifs.
Yann LeCun, dans un article de juillet 2016, se demande pourquoi
croire un moment de rupture o les machines seront suprieures lhomme ? Elles
vont simplement devenir de plus en plus intelligentes et de plus en plus faciles
utiliser. Cela amplifiera notre propre intelligence ! et il estime que beaucoup
des scnarios catastrophes (en intelligence artificielle) sont labors par des
personnes qui ne connaissent pas les limites actuelles du domaine. Or les spcialistes
disent quils sont loin de la ralit .
De mme Rob High, directeur technique du projet Watson dIBM
estime quil est trop tt pour employer le terme intelligence artificielle, mieux
vaut parler doutils capable dlargir les capacits cognitives humaines .
Lors de sa rencontre avec vos rapporteurs au sige de Google, Greg
Corrado, directeur de la recherche en intelligence artificielle chez Google, a
lui aussi fait valoir quil tait plus juste de parler dintelligence augmente
plutt que dintelligence artificielle.

1 En ergonomie ou en informatique, laffordance est la capacit dun objet suggrer sa propre


utilisation.
DEUXIME PARTIE : - 201 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

Pour Jean-Claude Heudin, lintelligence artificielle ne remplace pas


lhomme mais augmente son intelligence, en formant une sorte de
troisime hmisphre .
Cette ide de complmentarit homme-machine et dintelligence
augmente a convaincu vos rapporteurs. Selon Franois Taddi, directeur
du Centre de recherche interdisciplinaire, les intelligences humaine et
artificielle covoluent. Mais ce sont encore les combinaisons homme/machine qui
sont les plus performantes : on le voit aux checs, o une quipe homme/machine est
capable de battre et lhomme et la machine .
En 1996, puis nouveau en 1997, le champion dchecs Garry
Kasparov tait battu par le systme dintelligence artificielle Deep Blue cr
par IBM. De nos jours, nimporte quel programme gratuit dchecs
tlchargeable sur Internet peut battre non seulement les plus grands
champions dchecs mais aussi Deep Blue. Mais lhomme et la machine,
lhomme-centaure, sont toujours plus forts que toutes les machines. Les
joueurs dchecs et de Go lont expriment.
Ainsi que vos rapporteurs ont eu loccasion de le rappeler
prcdemment dans le prsent rapport, une victoire quivalente dune
intelligence artificielle au jeu de Go semblait impossible, tant ce jeu exige une
subtilit et une complexit propres lintelligence humaine. Pourtant, le
15 mars 2016, le systme dintelligence artificielle AlphaGo cr par
lentreprise britannique DeepMind, rachete en 2014 par Google, a battu le
champion de Go, Lee Sedol, avec un score final de 4 1, marquant donc
lhistoire des progrs en intelligence artificielle. Selon lacadmicien des
technologies Grard Sabah, il est difficile et risqu dtablir des prvisions
dtailles sur lavenir court, moyen et long termes de lintelligence
artificielle.
Il a toutefois pu mettre quelques hypothses gnrales fondes sur
lobservation du pass :
- lintelligence artificielle continuera faire merger de nouvelles
techniques de calcul ;
- certaines de ces nouvelles techniques trouveront des applications
utiles, mais avec des dlais variables, pouvant aller jusqu deux
dcennies ;
- certains de ces nouveaux dveloppements conduiront la formation et
la rupture de nouveaux domaines de linformatique ;
- la mthodologie des techniques de lintelligence artificielle, maintenant
bien tablie par des analyses thoriques et des tests empiriques,
permettra dobtenir des produits robustes et fiables.
- 202 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

3. Les questions poses par la convergence NBIC

La convergence NBIC est un thme issu du rapport


particulirement volumineux de Mihail C. Roco and William Sims
Bainbridge la National Science Foundation (tats-Unis) en 2003, intitul
Converging Technologies for Improving Human Performance1. Il sagit des
convergences entre les nanotechnologies, les biotechnologies, les
technologies de linformation et les sciences cognitives. Ce projet ambitieux
de fertilisation croise na pas produit de grands rsultats ce stade mais
les progrs en intelligence artificielle, en gnomique, en sciences
cognitives et en neurosciences reposent la question aujourdhui.
Ce projet ambitieux dun enrichissement mutuel de ces champs de
recherche mrite donc que vos rapporteurs le mentionnent. Notre collgue
Jean-Yves Le Daut, prsident de lOPECST, conduit dailleurs un travail ce
sujet pour lAssemble parlementaire du Conseil de lEurope, en tant que
rapporteur pour la science et la technologie. Son projet de rapport sur la
convergence technologique, lintelligence artificielle et les droits de
lhomme contiendra des pistes pour que cette convergence soit respectueuse
des droits humains.
Il pourrait appeler, en particulier, la vigilance en matire de
renforcement de la transparence concernant : les oprations de traitements
automatiss visant collecter, manier et utiliser les donnes caractre
personnel ; linformation du public sur la valeur des donnes quil produit,
le consentement sur leur utilisation et la fixation de la dure du temps de
conservation de ces donnes ; linformation de toute personne sur le
traitement de donnes dont elle est la source ainsi que sur les modles
mathmatiques, statistiques qui permettent le profilage ; la conception et
lutilisation de logiciels persuasifs et dalgorithmes respectant pleinement la
dignit et les droits fondamentaux de tous les utilisateurs, en particulier les
plus vulnrables, dont les personnes ges et les personnes handicapes.

4. La tentation du transhumanisme

La crainte dune intelligence artificielle qui chapperait au


contrle de lhomme est une des angoisses majeures devant lessor de ces
technologies, comme il a t vu. En cela, la prospective en intelligence
artificielle aboutit souvent des scnarios de dystopie technologique. Ce
pessimisme nest cependant pas partag par lensemble des futurologues
puisque, pour certains, les progrs de lintelligence artificielle permettront de
protger la vie humaine, par la scurit routire et la mdecine videmment,
voire doffrir une opportunit historique pour concrtiser lutopie
transhumaniste.

1 http://www.wtec.org/ConvergingTechnologies/Report/NBIC_report.pdf
DEUXIME PARTIE : - 203 -
LES ENJEUX DE L INTELLIGENCE ARTIFICIELLE

Le transhumanisme est un mouvement philosophique prdisant et


travaillant une amlioration de la nature de lhomme grce aux sciences
et aux volutions technologiques.
Le chercheur et prtre jsuite Pierre Teilhard de Chardin aurait t,
lun des premiers utiliser le terme transhumain, en 19511. Julian Huxley2
cre lui le concept de transhumanisme en 1957. Bien que le terme soit un
label recouvrant des mouvements trs diffrents, il renvoie au dpassement
des souffrances humaines grce aux dcouvertes scientifiques.
Lamlioration de nos capacits par lintermdiaire des sciences et des
technologies disponibles est au cur de ce mouvement. Pour les
transhumanistes, le progrs scientifique doit tre orient vers cet objectif. Le
transhumanisme est multidisciplinaire dans la mesure o il agrge, pour
parvenir ses fins, lensemble des sciences et des connaissances. Pour les
transhumanistes, lhomme augment pourrait, demain, devenir
virtuellement immortel.
Le transhumanisme sapparente une religion. Son principal
prophte est Raymond Kurzweil, dj cit sagissant de la singularit. En
2013, Max More et Natasha Vita-More ont publi un essai particulirement
riche ce sujet3.
Le projet transhumaniste de mort de la mort et de fin de la
souffrance nemporte pas ladhsion de vos rapporteurs. Il sapparente
une ngation de la nature humaine. Or pour vos rapporteurs, lintelligence
artificielle nest pas un acte de foi et ne doit pas le devenir.
Selon Raja Chatila, derrire ces discours, nous avons des vues de lesprit
qui nont rien doprationnelles, elles sont en ralit des idologies, quon cherche
imposer pour gommer les diffrences entre lhumain et le non-humain .
Jean-Gabriel Ganascia relve que ce projet possde un versant cyberntique
et un versant plus biologique. Luc Ferry, dans son essai La Rvolution
transhumaniste, souligne ces diffrentes sensibilits au sein de la famille
transhumaniste.
Pour vos rapporteurs, il sagit de chimres ou dcrans de fume qui
empchent de se poser les vraies questions pertinentes. Selon eux, il est
essentiel de savoir anticiper les problmes potentiels poss par
lintelligence artificielle. court terme, ces problmes risquent dtre
ignors et pris tort pour de la science-fiction. Il convient en effet de
distinguer les craintes issues de certaines fictions cinmatographiques,
telles que Terminator, Matrix ou Transcendance, des problmes rels qui
risquent de survenir plus ou moins rapidement.

1 Sa premire occurrence serait la conclusion dun article intitul Du prhumain


lultra-humain , paru au sein de lAlmanach des Sciences de 1951.
2 Frre de lcrivain Aldous Huxley, Julian Huxley est un biologiste britannique, thoricien de

leugnisme, premier directeur de lUNESCO, fondateur du WWF et auteur connu pour ses livres de
vulgarisation scientifique.
3 Cf. Max More et Natasha Vita-More, The Transhumanist Reader : Classical and

Contemporary Essays on the Science, Technology, and Philosophy of the Human Future.
TROISIME PARTIE : - 205 -
LES PROPOSITIONS DE VOS RAPPORTEURS

TROISIME PARTIE :
LES PROPOSITIONS DE VOS RAPPORTEURS

Les propositions prsentes ici nont pas vocation couvrir


lampleur des questions poses par la recherche en intelligence artificielle,
ainsi que laffirmait Jean de la Fontaine, Loin dpuiser une matire, On nen
doit prendre que la fleur . Il sagit plus de recommandations sous forme de
contributions la rflexion collective et vos rapporteurs nont pas entendu
rpondre en totalit aux dfis poss pour la France et lEurope par les enjeux
industriels de lintelligence artificielle, par lautomatisation de certaines
tches et par lconomie globalise de plateformes qui se dessine avec
lmergence dentreprises prives puissantes bases aux tats-Unis ou en
Chine. Ces dimensions, voques dans le rapport, ne sont pas le cur de
mtier de lOPECST et ne se traduisent donc que partiellement dans les
propositions formules ci-aprs.

I. POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE

Proposition n 1 : Se garder dune contrainte juridique trop forte


sur la recherche en intelligence artificielle, qui - en tout tat de
cause - gagnerait tre, autant que possible, europenne, voire
internationale, plutt que nationale

Vos rapporteurs appellent ne pas cder la tentation de proposer


et de mettre en place des mesures dans un cadre trop troitement national,
qui dcourageraient la recherche en intelligence artificielle, mais plutt
soutenir une forme de rgulation internationale. Il convient de se garder
dune contrainte juridique trop forte sur la recherche dans ce domaine, qui
gagnerait tre, en tout tat de cause, instaure lchelle europenne, voire
internationale, mais pas uniquement nationale.
Le professeur de droit Albert De Lapradelle affirmait, de manire
provocatrice, que ce ne sont pas les philosophes avec leurs thories, ni les juristes
avec leurs formules, mais les ingnieurs avec leurs inventions qui font le droit et
surtout le progrs du droit . Vos rapporteurs estiment que cest surtout au
lgislateur de rflchir au droit souhaitable en matire dintelligence
artificielle et de robotique, au terme dun dbat public clair avec toutes
les parties prenantes, du citoyen ordinaire lexpert scientifique, en
passant par lentrepreneur et le technicien.
Il faudra savoir adapter la lgislation aux nouveaux risques poss
par lintelligence artificielle et la robotique, mais il faudra aussi veiller ne
pas freiner le dveloppement de ces technologies. Des mesures trop
contraignantes auraient pour effet daugmenter les cots de
- 206 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

commercialisation et de mise en conformit, ou de poser de nouveaux


freins lgaux linnovation et la rentabilit de ces secteurs dactivit. Un
quilibre subtil est trouver et le prsent rapport entend contribuer la
rflexion collective en la matire.
La peur ne doit pas paralyser : vos rapporteurs ne veulent pas
tomber dans la solution de facilit qui consisterait faire un usage extensif
du principe de prcaution et donc limiter, a priori, la recherche en
intelligence artificielle. Une telle dmarche serait contraire lesprit
scientifique, que vos rapporteurs revendiquent et promeuvent. Elle serait
galement prjudiciable lintrt national : sans rivaliser directement avec
les tats-Unis, la Chine ou le Japon en la matire, la France dispose datouts
considrables en matire de recherche en intelligence artificielle et ne doit
pas perdre cet avantage comparatif, au risque de se placer hors jeu dans la
comptition internationale qui sest engage.

Proposition n 2 : Favoriser des algorithmes et des robots srs,


transparents et justes, et prvoir une charte de lintelligence
artificielle et de la robotique

Il faut favoriser des algorithmes et des robots qui soient la fois


srs, transparents et justes. Il faut aussi prvoir une charte de lintelligence
artificielle et de la robotique, qui ncessitera du temps et une concertation
internationale.
Lapproche europenne, voire internationale est importante ce
niveau. Linitiative IEEE prsente prcdemment va dans ce sens, en
particulier en ce qui concerne les problmes lis aux standards, normes et
certifications.
Les considrations de scurit et de robustesse voques dans le
prsent rapport amnent conclure quil est pertinent de poursuivre, en
gnral, la rflexion sur la scurit numrique et, en particulier, de prvoir
des mcanismes darrt durgence. Linterruption dun systme
dintelligence artificielle ou dun robot doit tre possible. Des boutons
rouges , rels ou virtuels, doivent permettre la dsactivation des systmes.
Une telle scurit est souhaitable mais elle peut tre difficile mettre en
uvre, surtout que larrt brutal dun systme peut avoir des consquences
graves et imprvisibles1.
Il faut rechercher la transparence des algorithmes contre les botes
noires, les biais et les discriminations.

1 Dans ce cas, loprateur est conduit faire un choix rapide entre deux types de consquences
ngatives, celles lies aux dysfonctionnements du systme dIA ou celles lies aux consquences de
larrt du systme.
TROISIME PARTIE : - 207 -
LES PROPOSITIONS DE VOS RAPPORTEURS

Il convient de prvoir aussi des mcanismes de traabilit, du type


journaux de bord ou loggings1, ces mmoires internes de type
enregistreurs numriques des avions (appeles aussi botes noires , mais
qui nont rien voir avec le qualificatif de botes noires appliqu aux
algorithmes de deep learning). Pour pouvoir expliquer un ventuel
dysfonctionnement, il faut tre en mesure de remonter aux derniers circuits
de dcision et leurs motifs. Comme il a t dit prcdemment, la
transparence des algorithmes de deep learning nexiste pas, ce stade, et
reste construire. Il sagit dun axe prioritaire pour la recherche. Linitiative
TransAlgo dInria, avec le concours du Conseil national du numrique
(CNNum), va dans ce sens et mrite dtre applaudie. Mais elle doit se
prolonger et prendre davantage dampleur, pour dpasser le strict cadre
dInria. La question de la transparence des algorithmes ne se confond pas
avec la question de leur loyaut, mais elle doit aussi tre pose. Il faut noter
qu la diffrence des mthodes dapprentissage automatique profond tels
que les algorithmes de deep learning, le traitement et lanalyse de donnes
effectus par les rseaux baysiens sont des systmes transparents. Il ne
revient pas aux pouvoirs publics de choisir entre telle ou telle technologie
mais, performance gale, les technologies transparentes doivent tre
privilgies.
Pour Raja Chatila, directeur de lInstitut de Systmes Intelligents et
de Robotique, le bouton rouge, cest bien mais cest dj trop tard, il faut tout
prvoir pour ne pas en arriver l. Ltat du systme doit tre constamment observ et
il faut pouvoir dtecter toute dviance avant larrive des problmes . Il faut
porter, selon lui, une grande attention aux signes prcurseurs, dautant plus
que les systmes rgis par des technologies dintelligence artificielle peuvent
avoir de vastes implications, qui seront de plus en plus stratgiques,
limage de lalimentation dune grande ville en lectricit. Il rappelle que
tout robot peut virtuellement tre dangereux, puisque quil sagit dun objet
puissant en mouvement : ses mouvements peuvent devenir violents et son
alimentation lectrique peut impliquer des risques dlectrocution. Les
dispositifs de vigilance mis en uvre doivent permettre de relever ce dfi.
En face de systmes complexes, des systmes de systmes reprsentent
des perspectives fondamentales en vue de la matrise des machines.
La question de la faisabilit de ces prconisations exigeantes,
visant disposer dalgorithmes et de robots qui soient la fois srs,
transparents et justes, se pose. Il nest pas sr quelles puissent tre
satisfaites, mais ce sont des objectifs que nous devons nous fixer, quoi quil
en soit.

1 En informatique, ces journaux, historiques des vnements ou loggings dsignent


lenregistrement squentiel dans un fichier ou une base de donnes de tous les vnements affectant
un processus particulier (application, activit dun rseau informatique). Le journal (en anglais
log file ou plus simplement log), dsigne alors le fichier contenant ces enregistrements.
Gnralement dats et classs par ordre chronologique, ces derniers permettent danalyser pas pas
lactivit interne du processus et ses interactions avec son environnement (source : Wikipdia).
- 208 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

La charte de lintelligence artificielle et de la robotique


proclamerait ces objectifs et viserait codifier les bonnes pratiques. Elle
devrait tre internationale, dans toute la mesure du possible, ou dfaut
europenne. Elle ne se prononcerait pas en faveur de la cration dune
personnalit morale des robots, mais proposerait des rgles relatives aux
interactions homme-machine et poserait des limites en matire dimitation
du vivant, pour les robots androdes comme pour les agents
conversationnels. Le citoyen devrait toujours savoir sil est en prsence dune
machine ou dun humain.
Cette charte pourrait, en outre, proposer dinterdire les robots
tueurs. Toutefois, ce dbat aurait davantage sa place dans le cadre
international des conventions sur les armes et du trait sur la non-
prolifration des armes nuclaires (TNP).

Proposition n 3 : Former lthique de lintelligence artificielle et


de la robotique dans certains cursus spcialiss de lenseignement
suprieur

Nous devons offrir de faon systmatique des formations


lthique de lintelligence artificielle et de la robotique dans les cursus de
lenseignement suprieur qui traitent des algorithmes, de lintelligence
artificielle et de la robotique. Google Deep Mind le propose, dailleurs, pour
tous les masters britanniques spcialiss. La CERNA pourrait tre associe
ce projet.
Les formes de cette offre de formation devront tre innovantes,
mobiliser les tudiants, travers des ateliers, des dbats et des mises en
situation. Il conviendra dviter la forme du module de cours thorique,
valid aprs le suivi dun simple cours magistral.
La diffusion de ces connaissances sur lthique de lintelligence
artificielle et de la robotique vers les autres tudiants, voire le grand public,
pourrait tre recherche.

Proposition n 4 : Confier un institut national de lthique de


lintelligence artificielle et de la robotique un rle danimation du
dbat public sur les principes thiques qui doivent encadrer ces
technologies

Au-del de la nouvelle mission de la CNIL, il faut confier un


institut national de lthique de lintelligence artificielle et de la robotique
un rle danimation du dbat public sur les principes thiques qui doivent
encadrer ces technologies. Il peut sagir dun institut ou dune commission
TROISIME PARTIE : - 209 -
LES PROPOSITIONS DE VOS RAPPORTEURS

nationale. La cration dun comit national dthique de la robotique est


propose par le SYMOP, et celle dun comit national dthique de
lintelligence artificielle a t voque devant vos rapporteurs par Max
Dauchet et Laurence Devillers.
Les expriences de la CNIL, de la CERNA et du COMETS seront
considrer. Il nest pas certain quil faille sparer la recherche en
intelligence artificielle de la rflexion thique sur lintelligence
artificielle, mais il est certain que les chercheurs spcialiss en intelligence
artificielle et en robotique ne doivent pas tre les seuls participer cette
rflexion. LInstitut pourra se proccuper de lacceptabilit individuelle et
sociale de ces technologies et tudier les effets secondaires imprvus et/ou
indsirables des diffrents outils de lintelligence artificielle.
Linstitut devra souvrir aux SHS, aux associations et aux ONG. Les
pouvoirs publics ne devront pas tre les seuls en assurer le financement.
Les entreprises prives, qui se donnent pour objectif dinformer et
dduquer dans le domaine des ces technologies et daccrotre leurs effets
bnfiques pour la socit ( limage du partnership on AI ), pourraient
participer son financement.
Cet institut national de lthique de lintelligence artificielle et de la
robotique pourra sintresser aux problmatiques dexplicabilit
voques plus haut, dautant plus que le projet Trans-algo gagnerait tre
largi au-del de lInria, comme il a t vu dans le rapport. La dmarche ne
doit pas tre rserve une seule structure de recherche, mais plusieurs
quipes doivent y travailler paralllement et un institut national pourrait
impulser les projets, coordonner les recherches, animer le dbat public et
faire des propositions aux autorits publiques.

Proposition n 5 : Accompagner les transformations du march du


travail sous leffet de lintelligence artificielle et de la robotique en
menant une politique de formation continue ambitieuse visant
sadapter aux exigences de requalification et damlioration des
comptences

Les transformations du march du travail sous leffet de


lintelligence artificielle et de la robotique imposent de mener une politique
de formation continue ambitieuse visant sadapter aux exigences de
requalification et damlioration des comptences. Il sagit la fois
daccompagner les transformations du march du travail, dadapter le
systme ducatif et de dvelopper les formations professionnelles idoines
pour garantir une souplesse suffisante dans la reconversion des travailleurs.
Les entreprises devront envoyer plus systmatiquement leurs
salaris en formation sur leur temps de travail, de manire actualiser leurs
connaissances et leurs comptences, par exemple tous les cinq ans. Le
- 210 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Compte personnel dactivit (CPA) peut tre un outil mobilisable cette fin
et le service Formation Tout au Long de la Vie (FTLV), guichet unique
pour lusager comme pour lentreprise, permet de concrtiser le droit la
formation continue, tant pour les dmarches dorientation, de bilan,
daccompagnement vers lemploi, que pour les actions de formation et de
validation des acquis de lexprience.
Les mtiers du futur devront relever les dfis technologiques poss
par lintelligence artificielle et la robotique, sachant que les hommes
bnficieront de nouvelles activits lies la diffusion de ces
technologies : concevoir, entraner, duquer, surveiller, rparer les systmes
et les machines. De nouveaux mtiers deviendront envisageables, et ils
apporteront autant de nouvelles opportunits demplois. Parmi ces mtiers
qui vont merger, certains sont encore inconnus, mais dautres peuvent
dores et dj tre identifis : concepteur, entraneur, ducateur, vrificateur
ou, encore, valuateur des systmes dintelligence artificielle et des robots.

II. POUR UNE INTELLIGENCE ARTIFICIELLE UTILE, AU SERVICE DE


LHOMME ET DES VALEURS HUMANISTES

Proposition n 6 : Redonner une place essentielle la recherche


fondamentale et revaloriser la place de la recherche publique par
rapport la recherche prive, tout en encourageant leur
coopration

Il faut parvenir redonner une place essentielle la recherche


fondamentale et revaloriser le rle de la recherche publique par rapport
la recherche prive, tout en encourageant leur coopration.
Seule la recherche fondamentale peut permettre de rpondre aux
problmes dexplicabilit des algorithmes et de biais dans les donnes.
Nous en avons besoin car, des enjeux de matrise des technologies ceux du
du financement de la recherche publique, tout se tient.
La recherche fondamentale pose, par ailleurs, la question du mode
de financement des projets : il faut favoriser la recherche transversale et ne
surtout pas reproduire lhyperspcialisation entre sous-domaines de
lintelligence artificielle.
Ce serait une erreur de financer dun ct la perception, dun autre,
la vision, encore dun autre la prise de dcisions, lapprentissage machine, la
robotique, la relation homme-machine
Il faut mobiliser les quipes de chercheurs autour de grands
projets nationaux structurants et rsister aux sirnes de
lhyperspcialisation entre sous-domaines de lintelligence artificielle.
Daprs les informations recueillies par vos rapporteurs, le
Commissariat gnral linvestissement (CGI), Bpifrance et linitiative du
TROISIME PARTIE : - 211 -
LES PROPOSITIONS DE VOS RAPPORTEURS

Gouvernement France IA pourraient orienter le futur PIA dans le sens de


cette hyperspcialisation, ce qui est de nature les inquiter.
Le mode de financement des projets pourrait de plus gagner
sinscrire dans des temps plus longs que 3, 4 ou 5 ans seulement, de
manire porter les projets leur pleine maturation. Cest ainsi le cas aux
tats-Unis pour la plupart des projets soutenus par la Fondation nationale
pour la science, visite par vos rapporteurs Washington (National Science
Foundation ou NSF), mais encore du projet Todai Robot1 conduit depuis
2011 pour dix ans lUniversit de Tokyo au Japon, avec le soutien de
lInstitut national de linformatique japonais et lentreprise Fujitsu.
Des projets de grandes bases de donnes labellises, ncessaires
lapprentissage machine, pourraient tre lancs, par exemple autour de la
langue franaise, du march de lemploi ou des donnes de sant, sous
condition danonymisation. Ces initiatives pourraient se faire en liaison avec
la CNAM, lAPHP, la BNF, lINA ou, encore, avec Ple emploi. Dans son
intervention lors de la journe Entreprises franaises et intelligence
artificielle organise par le MEDEF et lAFIA le 23 janvier 2017, Yves
Caseau, animateur du groupe de travail sur lIA de lAcadmie des
technologies, a fourni les premires recommandations de son groupe, la
premire consistant la collecte en France de jeux de donnes massifs2, car
ces jeux de donnes sont essentiels au dveloppement de lintelligence
artificielle par lapprentissage.
Quant au niveau des investissements requis, vos rapporteurs ne se
sont pas avancs raliser leur propre chiffrage. Selon Bertrand
Braunschweig, directeur du centre Inria de Saclay, leffort financier
ncessaire serait de lordre de 100 millions deuros par an sur dix ans,
financements publics et privs compris.
De trs nombreuses cooprations public-priv existent et
fonctionnent et il est loisible de sen inspirer (Microsoft-Inria, CNRS avec
IBM, Rhodia, Thals, Michelin)
Jean-Gabriel Ganascia pose la question de larticulation entre
recherche publique et recherche prive de la manire suivante : Depuis une
trentaine danne, un accent trs fort a t mis au plan europen et au plan national,
sur les projets collaboratifs entre luniversit et lindustrie. Cela a certainement eu
des aspects trs bnfiques, mais ce mode de coopration prsente aussi des limites.
En effet, le caractre trs administratif du montage des projets qui conduit, en

1 En novembre 2016, ce robot a chou pour la quatrime anne conscutive intgrer la prestigieuse
Universit de Tokyo. Ses concepteurs tirent chaque rentre scolaire les leons de cet chec pour
faire progresser la machine.
2 Les trois autres recommandations sont :

commencer utiliser des rseaux neuronaux afin de rsoudre des problmes de classification
externe (exemple : TensorFlow outil en open source dvelopp par Google) ;
matriser la technologie dautomatisation (robotic process automation) en augmentant le volume
dinvestissement dans la robotique de pointe et de robotique haute performance ;
implmenter les premiers chatbots dassistance client sur des primtres fonctionnels simples.
- 212 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

particulier au plan europen, solliciter des socits spcialises pour le montage des
projets, le taux dacceptation des projets (moins de 8 %, parfois de 2 % pour
certaines actions), les procdures dvaluation trs rigides, conduisent une
recherche chre, conventionnelle et peu innovante, tendant striliser les quipes.
cela, il faut ajouter quen labsence de post-valuation srieuse, on nest pas en
mesure de tirer parti des rsultats de projets financs, ce qui conduit un gaspillage
des ressources. Il faudrait encourager des partenariats bilatraux entre une quipe
prive et un laboratoire public, avec des actions plus lgres. Il est noter que des
actions plus long terme, comme les Labex, ou des financements de bourses de type
CIFRE complts par des contrats conclus grce au crdit dimpt recherche,
peuvent avoir des effets trs positifs .
Il est important de produire de lintelligence artificielle la
franaise , en intgrant notamment les sciences humaines et sociales. Les
rponses possibles la question de la vulnrabilit de la socit aux
bouleversements des innovations technologiques doit pouvoir sappuyer sur
les sciences humaines.

Proposition n 7 : Encourager la constitution de champions


europens en intelligence artificielle et en robotique, tout en
poursuivant le soutien aux PME spcialises, en particulier les
start-up

Il faut encourager la constitution de champions europens en


intelligence artificielle et en robotique, sans retomber dans les erreurs du
projet Quaero1 mais plutt en suivant les traces des succs du modle
dAirbus, ce qui pourra impliquer de poser la question du droit de la
concurrence dans lUnion europenne, trs contraignant en matire de
concentrations. Cette proposition sajoute celle de poursuivre les mesures
de soutien aux PME spcialises, en particulier les start-up.
Faire merger des champions europens et soutenir notre tissu de
PME passe aussi par un cosystme rendu encore plus favorable grce la
mise dispositions de trs grands volumes de donnes (vue au paragraphe
prcdent), laccs facilit des supercalculateurs, dont les puissances de
traitement pourraient tre mises en rseau sur le cloud, lharmonisation du

1 Le projet, imagin par la France en 2004 en tant quun des cinq premiers PMII (programmes
mobilisateurs pour linnovation industrielle), lanc en 2008 avec le soutien de lAllemagne et
abandonn en 2013, visait dvelopper des outils intgrs de gestion des contenus
multimdias , dont des extensions multimdias pour des moteurs de recherche de nouvelle
gnration qui devaient permettre de rechercher par le contenu non seulement du texte, mais aussi
des images, du son et de la vido. Lambition de constituer les fondements technologiques europens
de futurs moteurs de recherche a donc rapidement avort, lamricain Google demeurant dans un
quasi-monopole (en dpit des qualits thiques du moteur de recherche franais Qwant ). Le projet
Quaero sest donc sold par un chec mais il nest pas ncessaire desprer pour entreprendre ni de
russir pour persvrer, cf. http://www.quaero.org/
TROISIME PARTIE : - 213 -
LES PROPOSITIONS DE VOS RAPPORTEURS

droit applicable, par exemple en matire de protection des donnes


personnelles dans lUnion europenne.
Sans verser directement dans le nationalisme industriel appliqu
lintelligence artificielle, il faut rflchir aux formes de protection qui
pourraient tre institues, car les laboratoires franais sont pills de leurs
chercheurs par des multinationales nord-amricaines et chinoises. La
question du soutien la cration, mais aussi la croissance des entreprises
franaises de ce secteur, en particulier de ses start-up, doit tre tudie,
afin de faire merger une industrie franaise de lintelligence artificielle
qui dveloppera des produits innovants comptitifs et exportables. L aussi,
en plus de lencouragement et de la facilitation de laccs aux dispositifs de
soutiens, des protections pourraient tre utiles.
Comme laffirment justement Thierry de Montbrial et Thomas
Gomart, dans un ouvrage quils viennent de publier en fvrier 2017, nous
devons dfendre notre intrt national et vos rapporteurs y ajoutent notre
intrt europen .

Proposition n 8 : Orienter les investissements dans la recherche


en intelligence artificielle vers lutilit sociale des dcouvertes

Il faut orienter les investissements dans la recherche en intelligence


artificielle vers lutilit sociale des dcouvertes, en encourageant les
applications impact socital bnfique : bien-tre, sant, dpendance,
handicap, infrastructures civiles, gestion des catastrophes De manire
caricaturale, la recherche applique en intelligence artificielle ne doit pas
sintresser quau trading haute frquence (THF).
Il convient de saisir, dans notre intrt national, les opportunits
ouvertes par les technologies dintelligence artificielle. L aussi, les
entreprises prives, qui se donnent pour objectif dinformer et dduquer
dans le domaine de ces technologies et daccrotre leurs effets bnfiques
pour la socit, pourraient participer leffort collectif ncessaire.

Proposition n 9 : largir loffre de cursus et de modules de


formation aux technologies dintelligence artificielle dans
lenseignement suprieur et crer, en France, au moins un ple
dexcellence international et interdisciplinaire en intelligence
artificielle et en robotique

Il est ncessaire dlargir loffre de cursus et de modules de


formation aux technologies dintelligence artificielle dans lenseignement
suprieur et de crer en France au moins un ple dexcellence international
- 214 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

et interdisciplinaire en intelligence artificielle et en robotique. Il sagit de


renforcer ces formations, alors que des besoins considrables apparatront
bientt pour le dveloppement de lintelligence artificielle. Des cycles de
formation longs apparaissent donc ncessaires, mais des cycles de formation
plus courts et plus professionnalisants le sont aussi, le cas chant selon un
processus itratif.
Il sera possible de sappuyer sur lexprience des 138 cours
spcifiques en intelligence artificielle, ou techniques en relation avec lIA,
dispenss dans lenseignement suprieur franais chaque anne et sur les
16 masters existants qui, de prs ou de loin, sont spcialiss en intelligence
artificielle en France, limage du Master MVA-MATH de lENS Cachan, du
Master en sciences cognitives (Cog master) de lENS Ulm, des Masters
ANDROIDE (AgeNts Distribus, Robotique, Recherche oprationnelle,
Interaction, Decision) et DAC (Master Donnes, Apprentissage et
Connaissances de lUniversit Pierre-et-Marie-Curie Paris 6 (UPMC), du
Master en informatique spcialit intelligence artificielle de Universit Paris-
Descartes ou, encore du Master Intelligence Artificielle et Reconnaissance
des Formes de lUniversit Paul Sabatier de Toulouse.
En outre, il est ncessaire de crer en France au moins un ple
dexcellence international et interdisciplinaire en intelligence artificielle et
en robotique. Jusqu deux ou trois ples pourraient voir le jour, appuys sur
lexcellence dInria, du LAAS de Toulouse, de lENS, de lInstitut
Mines-Tlcom Ils ne seraient pas ncessairement gographiquement
localiss, mais, dfaut dune cration pure et simple, il parat urgent
dencourager la coordination et daccrotre la cohrence des instituts et des
centres existants, et de leurs quipes de recherches travers des rseaux
dexcellence en IA.
Vos rapporteurs ont visit au Royaume-Uni, en Suisse et aux tats-
Unis des ples dexcellence visibilit internationale et vocation
interdisciplinaire. Ils jugent indispensables de sinspirer de ces ples pour
structurer la recherche franaise, qui est dj dexcellent niveau. Et comme
la fait remarquer le jeune chercheur Jill-Jnn Vie vos rapporteurs, le cas de
son laboratoire de recherche Riken en intelligence artificielle Tokyo montre
quil est possible de dvelopper lexcellence lchelle de tout un pays, ici le
Japon, et que ce rayonnement est utile tous les chercheurs concerns.
TROISIME PARTIE : - 215 -
LES PROPOSITIONS DE VOS RAPPORTEURS

Proposition n 10 : Structurer et mobiliser la communaut


franaise de la recherche en intelligence artificielle en organisant
davantage de concours prims dimension nationale, destins
dynamiser la recherche en intelligence artificielle, par exemple
autour du traitement de grandes bases de donnes nationales
labellises

Linitiative France IA est une tape importante dans la


mobilisation de la communaut franaise de la recherche en intelligence
artificielle. Il faut continuer et structurer encore davantage celle-ci, par
exemple en organisant davantage de concours prims dimension
nationale, destins dynamiser la recherche en intelligence artificielle, par
exemple autour du traitement de grandes bases de donnes nationales
labellises.
Les projets de la DARPA, limage de celui prsent vos
rapporteurs au sige de lorganisme en matire de cyberscurit, reposent
souvent sur ce modle, qui cre une saine mulation au sein des quipes. Un
travail avec lANR peut tre envisag pour dfinir une offre franaise de
grands concours prims en IA et contribuer lexcellence de la recherche en
France.
Les hackathons 1 qui sont la fois le principe, le moment et le lieu
dvnements dans lesquels des dveloppeurs se runissent pour faire de la
programmation informatique collaborative, sont des pistes creuser pour
assurer une telle promotion de la recherche et de linnovation en intelligence
artificielle.
Le traitement de grandes bases de donnes nationales labellises
ncessitera de mettre disposition des jeux de donnes massifs, ce que le
Gouvernement pourrait favoriser comme il a t vu dans la proposition n 6.

Proposition n 11 : Assurer une meilleure prise en compte de la


diversit et de la place des femmes dans la recherche en
intelligence artificielle

La place des femmes et la question des minorits dans la recherche


en intelligence artificielle sont des dfis quil convient de relever.
Diversifier le profil des chercheurs en intelligence artificielle et
travailler sur le thme de la diversit dans ce secteur apparaissent
ncessaires, vos rapporteurs ayant not la sous-reprsentation des minorits
dans ce secteur. La rponse qui leur a t faite, selon laquelle ce serait le cas

1 Ce mot valise a t form sur la base de hack (activit de manipulation dun systme
informatique) et de marathon . La rfrence au marathon provient du fait que le travail des
dveloppeurs est souvent conduit sur plusieurs jours et sans interruption.
- 216 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

plus globalement pour tout le secteur de linformatique et pour les filires


scientifiques en gnral, ne suffit pas justifier la situation prsente. Il sagit
dailleurs dun axe de travail du CNSTI.
Dans le secteur de linformatique, la vigilance et la prise en compte
des problmatiques de biais et de discriminations dans les algorithmes et
les donnes seront dautant plus grandes que les acteurs du domaine seront
issus dune plus grande diversit.
Ils notent, dailleurs, que le Gouvernement a sign, le 31 janvier
2017, un plan sectoriel mixit dans les mtiers du numrique avec une
quinzaine de structures telles que Cap digital, le Syndicat national du jeu
vido, TECH-IN France ou Syntec numrique. Des plans similaires ont t
lancs auparavant dans le secteur du btiment ou les transports. Il est vrai
quon ne dnombre que 28 % de femmes dans le secteur du numrique
contre 48 % dans le reste de lconomie, et que derrire ce pourcentage se
cache une ralit encore moins admissible : les femmes sont surtout
prsentes dans les emplois de secrtariat du secteur du numrique, mais sont
particulirement sous-reprsentes dans les mtiers de techniciens,
dinformaticiens ou dingnieurs.
L aussi, les entreprises prives, qui se donnent pour objectif
dinformer et dduquer dans le domaine de ces technologies ainsi que
daccrotre leurs effets bnfiques pour la socit, pourraient participer
leffort collectif ncessaire.

III. POUR UNE INTELLIGENCE ARTIFICIELLE DMYSTIFIE

Proposition n 12 : Organiser des formations linformatique dans


lenseignement primaire et secondaire faisant une place
lintelligence artificielle et la robotique

Toute formation linformatique doit saccompagner dune


consolidation de lapprentissage des mathmatiques. Des formations
spcifiques linformatique sont dispenses dans lenseignement primaire
et secondaire, mais ces enseignements sont le plus souvent facultatifs1 et
restent insuffisants. Ils ne font pas toujours, en outre, de place
lintelligence artificielle et la robotique. Il sagit dune insuffisance
laquelle il convient de remdier en urgence. La formation des enseignants
est aussi une priorit.

1 Le programme denseignement facultatif dinformatique et cration numrique pour les classes de


premire des sries gnrales et les classes terminales des sries ES et L peut tre lu ici :
http://www.education.gouv.fr/pid285/bulletin_officiel.html?cid_bo=104657 . Il peut tre rapproch
de celui denseignement de spcialit dinformatique et sciences du numrique de la srie
scientifique : http://www.education.gouv.fr/pid25535/bulletin_officiel.html?cid_bo=57572
TROISIME PARTIE : - 217 -
LES PROPOSITIONS DE VOS RAPPORTEURS

Il peut tre not quun plan numrique pour lducation a t lanc


par le Prsident de la Rpublique en mai 20151, lissue de la concertation
nationale sur le numrique ducatif, et que le Conseil suprieur des
programmes (CSP) travaille depuis 2015 un projet de programme pour un
enseignement dexploration dinformatique et de cration numrique2.

Proposition n 13 : Former et sensibiliser le grand public


lintelligence artificielle par des campagnes de communication,
lorganisation dun salon international de lintelligence artificielle
et de la robotique et la diffusion dmissions de tlvision
pdagogiques

Il importe de former et de sensibiliser le grand public


lintelligence artificielle par des campagnes de communication, par
lorganisation dun salon international de lintelligence artificielle et de la
robotique et par la diffusion dmissions de tlvision pdagogiques. Le
CNSTI est un organe utile en la matire. Il convient de faire savoir que les
progrs en intelligence artificielle sont dabord bnfiques la socit, et que
les risques ventuels doivent tre anticips et peuvent tre matriss. Enfin,
lavnement dune intelligence artificielle forte reste peu probable. Nous
nous orientons plus vraisemblablement vers de nouvelles formes
dintelligence et de nouvelles complmentarits entre lhomme et la machine,
qui conduiront une intelligence augmente .

1 Il sagit de mieux prparer les lves tre acteur du monde de demain en dveloppant des
mthodes dapprentissages innovantes pour favoriser la russite scolaire et dvelopper lautonomie ;
en formant des citoyens responsables et autonomes lre du numrique ; et en prparant les lves
aux emplois digitaux de demain. Sa mise en uvre repose sur quatre piliers : la formation, les
ressources, lquipement et linnovation. Pour aider les enseignants faire voluer leur pratique
pdagogique en intgrant harmonieusement les outils numriques leurs cours, un programme de
formation la fois initiale et continue est mis en place sur lensemble du territoire :
- une formation de trois jours par an ddie au numrique destination des enseignants et chefs
dtablissement de collge ;
- des formations mises en place au niveau de ltablissement pour une meilleure prise en main des
outils numriques ;
- des formations distance pour tous les enseignants et les professeurs stagiaires via la plateforme de
formation M@gistre;
- le dveloppement de cours en ligne (Moocs) pour les enseignants et les professeurs stagiaires sur le
portail France universit numrique (FUN-Mooc).
Il sagit de retenir trois axes de formation : la matrise des outils numriques pour une meilleure
prise en main des outils par les enseignants ; les usages du numrique dans les disciplines pour
dvelopper de nouvelles mthodes denseignement ; et la culture numrique et lducation aux
mdias et linformation pour transmettre aux enseignants les bases essentielles lies lusage
dinternet et des rseaux sociaux. Enfin, une plateforme en ligne nationale (Myria) est mise
disposition des enseignants en vue de prsenter toutes les ressources pdagogiques numriques,
gratuites ou payantes, produites par les diteurs privs ou publics. Cf.
http://ecolenumerique.education.gouv.fr/plan-numerique-pour-l-education/
2 Cf. http://www.education.gouv.fr/cid89179/projet-de-programme-pour-un-enseignement-d-
exploration-d-informatique-et-de-creation-numerique.html
- 218 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Un salon international de lintelligence artificielle et de la


robotique est organiser en France, en sinspirant de VivaTech et de
linitiative Innorobo1 porte par Catherine Simon, organisatrice du salon
franais de la robotique. Il nexiste pas de salon europen du type du
Consumer Electronics Show (CES) de Las Vegas, qui est un salon consacr
linnovation technologique en lectronique2 orient vers le grand public ds
sa cration en 1967, puisquil est organis par la Consumer Technology
Association. Le grand vnement professionnel europen en la matire est,
par dfaut, la foire de Hanovre, le plus vaste salon au monde pour la
technologie industrielle, qui runit, selon les annes, entre 7 et 13 salons
phares internationaux au mme endroit : Industrial Automation, MDA
(Motion, Drive & Automation), Digital Factory, ComVac, Industrial Supply,
Energy, Power Plant Technology, Wind, MobiliTec, CoilTechnica,
SurfaceTechnology, IndustrialGreenTec, Research & Technology. Un autre salon
europen est Automatica, salon international qui se tient aussi en Allemagne,
Munich, et regroupe tous les professionnels du secteur de lautomatisme
industriel et de la robotique.
Les rseaux sociaux ou la tlvision pourraient tre des supports
pour des missions de partage de la connaissance. Les missions de
tlvision du type de la faute lalgo 3, diffuse par la chane No Life, ou
de certains pisodes de data-gueule , diffuss par la chane France 4, en
sont des exemples intressants.
Une mobilisation cette fin de communication des entreprises et des
chercheurs est indispensable. Il faut faire preuve de pdagogie, expliquer
que lintelligence artificielle est complmentaire de lhomme, quelle ne le
concurrence pas. En dpit des mtaphores anthropomorphiques et de la
rification de lIA, il sagit simplement de sciences et de technologies du

1 Innorobo est une entreprise dImpact Consulting spcialise dans le business dveloppement par

linnovation et un expert international des marchs robotiques mondiaux, qui promeut une approche
humaine des technologies robotiques. Les actions dInnorobo sexpriment selon 3 axes : son
vnement international, ses Ressources et sa communaut. Tout au long de lanne, Innorobo
interagit avec un rseau de plus de 3 500 organisations robotiques dans le monde et 20 000 leaders et
dcideurs, tous acteurs de linnovation ouverte, qui voient les technologies, produits et services
robotiques non seulement comme des opportunits de croissance et de comptitivit par linnovation,
mais aussi comme une source de progrs pour lHumain. Innorobo est fermement convaincu que les
objectifs conomiques peuvent servir et tre aligns avec une plus grande cause, celle dune humanit
durable. Cf www.innorobo.com
2 Voir le site officiel du salon : http://www.ces.tech/
3 Lmission La Faute lalgo est crite et ralise par Michel Blockelet et Jill-Jnn Vie en

collaboration avec la chane Nolife, qui en assure la production. Prsente par Frdric Hosteing, elle
retrace de faon pdagogique divers moments de nos vies o les algorithmes ont chapp notre
contrle, et o des bugs ont eu des rpercussions parfois insolites, parfois dsastreuses sur notre
conomie ou nos liberts. Lmission, dont la musique est compose par un algorithme, se droule en
2098, et son synopsis est le suivant : 2098. Les Algorithmes ont pris le contrle de notre
socit. Mais comment en sommes-nous arrivs l ? Voici quelques vidos du futur pour
prendre conscience du rle grandissant des algorithmes dans nos vies, lorigine de notre
dchance . Lmission a t diffuse doctobre 2015 dcembre 2016, raison de 23 pisodes de 6
minutes, portant sur des sujets allant de la transparence des algorithmes jusquaux monnaies
virtuelles, en passant par lubrisation, cf. http://fautealgo.fr
TROISIME PARTIE : - 219 -
LES PROPOSITIONS DE VOS RAPPORTEURS

traitement automatique de linformation, qui impliquent davantage de


progrs que de risques, mme si ces derniers doivent tre matriss.
Il faut se saisir du partnership on AI pour associer les GAFAMI voire
les GAFAMITIS 1 ce travail pdagogique. L aussi, le cot du
financement pourrait tre partag avec les entreprises prives, qui se
donnent pour objectif dinformer et dduquer dans le domaine de ces
technologies. Pour votre rapporteur Claude de Ganay, il est dplorable que
les grand-messes dApple ne saccompagnent jamais de prsentations
pdagogiques sur les technologies dintelligence artificielle.

Proposition n 14 : Former et sensibiliser le grand public aux


consquences pratiques de lintelligence artificielle et de la
robotisation

Il sagit de former et de sensibiliser le grand public aux


consquences pratiques de lintelligence artificielle et de la robotisation.
Avec un effort de formation continue visant lamlioration continuelle des
comptences, il sagit de permettre aux travailleurs et au grand public
denvisager de manire positive les transitions venir.
Selon votre rapporteur Claude de Ganay, il ne faut pas uniquement
sadapter aux exigences de requalification et damlioration des
comptences, mais redfinir un projet de socit partag en dbattant des
consquences pratiques de lintelligence artificielle et de la robotisation.
L encore, le cot du financement pourrait tre partag avec les
entreprises prives, qui se donnent pour objectif dinformer et dduquer
dans le domaine de ces technologies.

Proposition n 15 : tre vigilant sur les usages spectaculaires et


alarmistes du concept dintelligence artificielle et de
reprsentation des robots

Vos rapporteurs appellent la vigilance sur les usages


spectaculaires et alarmistes du concept dintelligence artificielle et de
reprsentation des robots. Il sagit dviter les drapages, dans le respect de
la libert de cration et de la libert dexpression. Les pistes explorer
pourraient sinspirer de rgimes lgislatifs ou dontologiques existants.
La vrification des publicits, en lien avec lAutorit de rgulation
professionnelle de la publicit (ARPP, ex-Bureau de vrification de la

1 Google, Apple, Facebook, Amazon, Microsoft, IBM, Twitter, Intel et Salesforce. Ces
entreprises amricaines reprsentent la pointe de la recherche en IA et de ses applications.
- 220 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

publicit), serait par exemple un premier pas vers une plus grande matrise
de la communication mdiatique sur le sujet. La rfrence lintelligence
artificielle des produits et des services offerts sur le march gagnerait tre
encadre par un principe dontologique : toute entreprise tant tente
dutiliser lIA comme un lment de stratgie marketing, les abus devraient
tre vits par de bonnes pratiques ou une charte professionnelle non
contraignante.
Votre rapporteur Claude de Ganay invite, en particulier, ne pas
limiter la reprsentation courante de lintelligence artificielle aux robots qui
nous concurrenceraient ou nous menaceraient en tant qutres humains. Face
aux scnarios catastrophistes, il faut sensibiliser les coles de journalisme
lintrt dune prsentation quilibre et nuance de lintelligence artificielle,
et leur responsabilit en la matire. La loi pour une Rpublique numrique
est un pas utile dans la direction dune socit qui peroit la rvolution
numrique de faon positive.
CONCLUSION - 221 -

CONCLUSION

Les propositions du prsent rapport devront tre remises en dbat


au fur et mesure des nouvelles dcouvertes scientifiques, de leurs
transferts et de leurs usages. Vos rapporteurs tiennent ce que le point
dquilibre quils ont cherch atteindre dans le prsent rapport puisse
voluer, en fonction des volutions du contexte rsultant du jeu de ces
variables.
Vos rapporteurs appellent la poursuite des travaux de lOPECST
sur les enjeux de lintelligence artificielle en 2017 et 2018. Ce suivi pourra
prendre la forme dune veille gnrale des rapporteurs, dune incitation la
reprise de leurs propositions par le Gouvernement, ainsi que dun
approfondissement de leur travail, le cas chant en ciblant leurs
investigations plus particulirement sur certaines dimensions ou sur certains
secteurs. Le suivi par lOPECST dun sujet aussi important et mouvant
apparat indispensable.
Ils proposent, en outre, la poursuite du plan national pour
lintelligence artificielle annonc en janvier 2017, puis prcis de manire
plus dtaille la fin du mois de mars 2017.
Ils forment le vu que ce plan connaisse de francs succs, de
manire moins contraste que le Plan Calcul lanc en 1966 ou que le plan
Informatique pour tous lanc en 1985. Au cours de leurs investigations
sur lintelligence artificielle, vos rapporteurs ont eu lesprit le rapport sur
linformatisation de la socit publi en 1978 : il prconisait de manire
audacieuse dassocier les tlcommunications et linformatique grce la
connexion de terminaux informatiques permettant la visualisation et
lchange, travers les rseaux de tlcommunication, de donnes stockes
dans des ordinateurs. Ce rapport, remis au Prsident de la Rpublique
Valry Giscard dEstaing en dcembre 1977 par Simon Nora et Alain Minc, a
invent le concept de tlmatique et proposait le lancement du rseau
Minitel, exactement quinze ans aprs quun chercheur du Massachusetts
Institute of Technology (MIT) eut rdig les premiers textes dcrivant les
interactions sociales rendues possibles par lintermdiaire dun rseau
dordinateurs1. La popularisation dInternet dans les annes 1990 a clips la
tlmatique mais les inspirations des deux projets taient proches. La
stratgie nationale pour lintelligence artificielle ne devra pas se tromper

1En juillet 1962, Joseph Carl Robnett Licklider entamait en effet cette rflexion en vue de faciliter les
communications entre chercheurs de la Defense Advanced Research Projects Agency (DARPA) du
ministre amricain de la Dfense. Quelques mois plus tard, en octobre 1962, il devint le premier
chef du programme de recherche en informatique de la DARPA. La rigueur scientifique exige de se
rfrer galement aux travaux de Leonard Kleinrock, lui aussi chercheur au MIT, et qui publia en
1961 le premier texte thorique sur la commutation de paquets .
- 222 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

de cible mais bien dfinir des objectifs ralistes garantissant des rsultats
effectifs.
Ni qute vaine ni projet de remplacement de lhomme par la
machine, lintelligence artificielle reprsente une chance saisir pour nos
socits et nos conomies. La France doit relever ce dfi.
Les progrs en intelligence artificielle sont dabord et avant tout
bnfiques. Ils comportent aussi des risques, quil serait malhonnte de
nier. Mais ces risques peuvent et doivent tre identifis, anticips et
matriss.
Lavnement dune superintelligence ne fait pas partie de ces
risques court et moyen termes. long terme, la ralit de cette menace
nest pas certaine. Quant son imminence court ou moyen terme,
prophtise par plusieurs figures mdiatiques, elle relve du pur fantasme
aux yeux de vos rapporteurs. Le prsent rapport se veut une premire
contribution un travail indispensable didentification, danticipation et de
matrise des risques rels. Ce travail de dmystification et dobjectivation
doit tre collectif, interdisciplinaire et international.
Afin de prvenir de futures dsillusions, il est ncessaire dassurer
un suivi continu de ces technologies et de leurs usages, en sachant que les
cycles despoirs et de dceptions qui jalonnent lhistoire de lintelligence
artificielle invitent ne pas avoir dattentes irralistes lgard de ces
technologies dans un avenir proche.
Les propositions du prsent rapport veulent aller dans ce sens.
Nous nous prononons, en fin de compte, pour une intelligence
artificielle matrise, utile et dmystifie : matrise, parce que ces
technologies devront tre les plus sres, les plus transparentes et les plus
justes possibles ; utile parce quelles doivent, dans le respect des valeurs
humanistes, profiter tous au terme dun large dbat public ; dmystifie,
enfin, parce que les difficults dacceptabilit sociale de lintelligence
artificielle rsultent largement de visions catastrophistes sans fondement.
Plutt quune hypothtique confrontation dans le futur entre les
hommes et les machines, qui relve de la science-fiction dystopique, nous
croyons au bel avenir de la complmentarit homme-machine. La conviction
de vos rapporteurs est que nous allons bien plus vers une intelligence
humaine augmente que vers une intelligence artificielle concurrenant
lhomme.
SAISINE DE LOFFICE - 223 -

SAISINE DE LOFFICE

Lettre de saisine de lOffice par la commission des affaires conomiques


du Snat.
RUNION DE LOPECST DU 14 MARS 2017 : - 225 -
ADOPTION DU RAPPORT

RUNION DE LOPECST DU 14 MARS 2017 :


ADOPTION DU RAPPORT

M. Jean-Yves Le Daut, dput, prsident de lOPECST. Nous


aurons en cette fin de la quatorzime lgislature examin cinq rapports au
cours des deux mois de fvrier et mars. Le 22 fvrier dernier, nous avons
adopt le rapport dvaluation de la stratgie nationale de recherche (SNR),
ainsi que son volet spcifique sur lnergie. Aujourdhui mme, au djeuner
de lAssociation nationale de la recherche et de la technologie (ANRT), le
ministre de lEnseignement suprieur et de la recherche, devant le Premier
ministre, ma remerci de la qualit de ce travail le Comit oprationnel
(ComOp), comme diverses autres instances du ministre, examinera notre
rapport et ma indiqu que nos analyses, pourtant svres, seraient une
aide dans les arbitrages du ministre, si bien que nos critiques feront avancer
les choses. Le 8 mars, nous avons examin le rapport dvaluation du
quatrime plan national de gestion des matires et dchets radioactifs ; enfin,
notre collgue Catherine Procaccia et moi rdigeons actuellement le rapport
sur les nouvelles biotechnologies.
Merci nos deux rapporteurs pour leur travail dune grande qualit,
sur un sujet majeur. La convergence technologique nanotechnologies,
biologie, informatique, sciences cognitives (NBIC) a des consquences
fortes, avec la numrisation et la robotisation de la socit. Linterface entre
lhomme et la machine est transform, et de lhomme soign, rpar par la
machine, on envisage prsent lhomme augment ! Cela ne va pas sans
susciter des interrogations pour les droits de lhomme. Je rdige
actuellement un rapport pour lAssemble parlementaire du Conseil de
lEurope sur ce sujet. Il est possible despionner, grce linformatique et la
puissance de calcul, tout individu et tout comportement de la vie en socit.
Cela pose question
Je souhaite rendre hommage Jean-Claude tienne, qui fut dput,
puis snateur, et notre vice-prsident de lOPECST. Il sest teint samedi
dernier lge de 75 ans. Il tait venu encore lan dernier nous rendre visite,
loccasion du trentime anniversaire de notre Office. Il en fut un membre
minent, en plus dtre professeur agrg de rhumatologie et professeur
lUniversit de Reims.
M. Bruno Sido, snateur, premier vice-prsident de lOPECST. Je
massocie cet hommage, dautant que je fus son vice-prsident au conseil
gnral de mon dpartement et que je le connaissais bien. Jai eu plaisir
travailler avec lui. Son parcours fut exceptionnel : dabord agrg de
mathmatiques, il suivit ensuite les traces de son frre mdecin pour pouvoir
- aimait-il dire acheter lui aussi une Peugeot 203... Cest ainsi quil devint
mdecin. Humaniste, il voyait dans la politique, comme dans la mdecine,
- 226 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

un moyen daccompagner lhomme dans ses difficults et de trouver des


solutions.
Jai eu lhonneur de lui succder ici comme vice-prsident, comme il
me lavait propos. Ses obsques auront lieu jeudi.
(Mmes et MM les parlementaires se lvent et observent une minute de
silence.)
Mme Dominique Gillot, snatrice, membre de lOPECST,
rapporteure. Monsieur le prsident a mentionn nos critiques sur la SNR.
Nous navons certes pas t complaisants sur sa mise en uvre. Il est vrai
aussi que le pilotage est difficile en pareille phase de mutation, quand ce qui
a t dcid il y a trois ans est dj revoir Do lintrt des focus que
lOPECST publie.
Je massocie bien sr aux propos tenus sur Jean-Claude tienne :
agrgs de sciences ou non, nous cherchons, comme parlementaires,
comprendre le monde et clairer nos dcisions. Ce qui mamne
naturellement la prsentation de notre rapport.
LOPECST a t saisi le 29 fvrier 2016, par la commission des
affaires conomiques du Snat, dune tude sur lintelligence artificielle (IA).
Nous sommes fiers den avoir t, M. Claude de Ganay et moi-mme, les
rapporteurs. Un bouleversement pourrait transformer profondment nos
socits : les technologies dintelligence artificielle. Elles pourront apporter
dans notre futur des progrs dans de nombreux domaines, or elles ne font
pas lobjet dune analyse sereine et objective. Lintelligence artificielle suscite
en effet enthousiasme, espoir et intrt mais aussi mfiance, incrdulit ou
oppositions.
Lirruption de lintelligence artificielle au cur du dbat public
remonte un peu plus de deux ans, aprs la diffusion dune lettre
davertissement sur les dangers potentiels de lintelligence artificielle,
publie en janvier 2015, qui a recueilli plus de 5 000 signatures en un an. Elle
a t lance pour alerter lopinion publique et insister sur lurgence de
dfinir des rgles thiques, afin de cadrer la recherche.
Aucun argument srieux ne venait tayer cette premire mise en
garde quant au risque prsum de drive malveillante ! Pourtant, cette alerte
a contribu renforcer les peurs et les angoisses face aux technologies
dintelligence artificielle.
Notons que 2016 a fait figure danne de lintelligence artificielle :
chaire dinformatique du Collge de France attribue Yann LeCun, victoire
du systme dintelligence artificielle AlphaGo cr par DeepMind sur le
champion de Go, Lee Sedol, et ainsi de suite, tout au long de lanne. Les
initiatives en matire dintelligence artificielle se sont multiplies un
rythme effrn. Impossible den faire linventaire !
RUNION DE LOPECST DU 14 MARS 2017 : - 227 -
ADOPTION DU RAPPORT

Aprs lirruption de lintelligence artificielle dans le dbat public en


2015, 2016 et le premier trimestre 2017 ont t jalonns de nombreux
rapports sur lintelligence artificielle, manant du Parlement europen, de la
Maison blanche, de la Chambre des communes, de lAssociation mondiale
des ingnieurs lectriciens et lectroniciens, de la Commission de rflexion
sur lthique de la recherche en sciences et technologies du numrique de
lalliance du numrique (CERNA), dInria, de lInstitut Mines-Tlcom, du
Club informatique des grandes entreprises franaises (CIGREF), du Syndicat
des machines et technologies de production (SYMOP), de lAssociation
franaise pour lintelligence artificielle (AFIA), de lAssociation franaise
contre lintelligence artificielle (AFCIA), etc. Des confrences denvergure
nationale ou internationale ont aussi t organises sur le sujet par les
Nations unies, lOCDE, la Fondation pour le futur de la vie, le Medef, lAFIA
entre autres. Enfin, linitiative France IA , lance par le Gouvernement en
janvier 2017, sest accompagne de lannonce dun plan national pour
lintelligence artificielle, dont nous attendons le dtail dici la fin du mois.
Devant cet emballement, alors que les progrs se font une vitesse
exponentielle et reposent de plus en plus sur un financement priv aux
moyens considrables, il est indispensable que la rflexion soit conduite de
manire sereine et rationnelle, afin de mettre en avant la ralit des
connaissances, les opportunits tout autant que les risques, afin aussi de
rassurer le public et de dmystifier les reprsentations biaises. Comme le
disait Marie Curie, dans la vie, rien nest craindre, tout est comprendre .
Les progrs en intelligence artificielle posent des questions
auxquelles toute la socit doit tre sensibilise : quels sont les opportunits
et les risques qui se dessinent ? La France et lEurope sont-elles dans une
position satisfaisante dans la course mondiale ? Quelles places respectives
pour la recherche publique et la recherche prive ? Quelle coopration entre
celles-ci ? Quelles priorits pour les investissements dans la recherche en
intelligence artificielle ? Quels principes thiques, juridiques et politiques
doivent encadrer ces technologies ? La rgulation doit-elle se placer au
niveau national, europen ou international ?
Le dbat public ne peut pas sengager sereinement dans lignorance
des technologies mises en uvre, des mthodes scientifiques et des principes
de lintelligence artificielle. Nous avons donc entendu faire ltat de la
recherche et des usages des technologies dintelligence artificielle, en
constante volution. Nous nous sommes interrogs sur la faon dassurer le
respect de rgles thiques dans la recherche en IA et au-del, parce que
science sans conscience nest que ruine de lme , ainsi que laffirmait Rabelais.
la suite de ladoption de ltude de faisabilit le 28 juin 2016, nos
auditions et dplacements ont commenc en septembre 2016 ; tous deux
renouvelables, nous avons d interrompre nos investigations le mois
dernier. Soit une priode utile denviron six mois : nous avons donc d
prciser un champ dinvestigations, en ayant le souci doptimiser la
plus-value relative du rapport, rpondre la saisine de la commission des
- 228 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

affaires conomiques du Snat et faire mieux connatre lintelligence


artificielle. Les enjeux sont tout autant scientifiques et technologiques que
politiques, philosophiques, thiques, juridiques, ducatifs, mdicaux,
militaires ou, encore, conomiques. Nous avons d choisir.
Les aspects scientifiques et technologiques constituant le cur de
mtier de lOPECST, cest la recherche publique et prive en intelligence
artificielle qui a t retenue, tout comme les enjeux philosophiques, thiques,
politiques, juridiques et ducatifs, car ils soulvent des questions essentielles
y rpondre devrait aider dpasser les peurs et les inquitudes pour
engager un dbat public plus serein et mieux tay.
Les enjeux financiers, conomiques et industriels nont pas t
carts, mais sont mis au second plan car ils correspondent moins
directement la plus-value spcifique de lOPECST. Enfin, les usages de
lintelligence artificielle pour la dfense, les technologies militaires et la
mdecine ont t carts.
Nous avons mis laccent sur les enjeux thiques, car ils permettent
daborder les sujets de manire transversale. La mthode de travail a t
fonde sur des auditions et des dplacements en France et ltranger,
prsents en annexe du rapport. Nous avons aussi eu une journe de tables
rondes.
Le rapport contient une histoire et mme une prhistoire assez
dtaille de lintelligence artificielle et des technologies rattaches.
Lintelligence artificielle a ft lanne dernire son soixantime anniversaire,
puisquelle a t invente en tant que discipline et en tant que concept en
1956 lors dune cole dt Dartmouth. La confrence affirme que chaque
aspect de lapprentissage ou toute autre caractristique de lintelligence peut tre si
prcisment dcrit quune machine peut tre conue pour le simuler . Le projet
nest pas de construire une machine rivalisant avec lhomme mais de simuler
telle ou telle tche que lon rserve lintelligence humaine. Devant
lemballement des prises de position mdiatises, il nest pas inutile de le
rappeler
Le concept a fait lobjet dun dbat. Le choix du nom a sans doute t
motiv par une qute de visibilit de ce nouveau champ de recherche.
Intelligence artificielle a pu apparatre plus sduisant que sciences et
technologies du traitement de linformation . Mais lanthropomorphisme
essentialiste qui sest exprim dans ce choix na sans doute pas contribu
apaiser les peurs suscites par le projet promthen de construction dune
machine rivalisant avec lintelligence humaine.
Lintelligence artificielle repose sur lutilisation dalgorithmes, suites
finies et non ambigus doprations ou dinstructions permettant, laide
dentres, de rsoudre un problme ou dobtenir un rsultat, ces sorties tant
ralises selon un certain rendement. Les algorithmes peuvent, en effet,
servir calculer, grer des informations, analyser des donnes,
communiquer, commander un robot, fabriquer des biens ou, encore,
RUNION DE LOPECST DU 14 MARS 2017 : - 229 -
ADOPTION DU RAPPORT

modliser et simuler comme le font certains outils de mtorologie, de


sismologie, docanographie, de plantologie, durbanisme
Linformatique traite plutt de questions rsolues par des
algorithmes connus, alors que lon applique le label d intelligence
artificielle des applications permettant plutt de rsoudre des problmes
moins vidents pour lesquels aucun algorithme satisfaisant nexiste encore.
Le paradoxe rsultant de cette dfinition est le suivant : ds que le
problme a t rsolu par une technologie dite dintelligence artificielle,
lactivit correspondante nest plus considre comme une preuve
dintelligence de la machine. Les cas connus de rsolutions de problmes
dalgbre ou de capacit jouer des jeux (des jeux dchecs ou de Go par
exemple) illustrent ce phnomne. Nick Bostrom explique ainsi que
beaucoup dintelligence artificielle de pointe a filtr dans des applications
gnrales, sans y tre officiellement rattache car ds que quelque chose devient
suffisamment utile et commun, on lui retire ltiquette dintelligence artificielle .
Les progrs en matire dintelligence artificielle tant tangibles
depuis les annes cinquante, les frontires de lintelligence artificielle sont
donc sans cesse repousses et ce qui tait appel intelligence artificielle hier
nest donc plus ncessairement considr comme tel aujourdhui.
Ds lorigine, lintelligence artificielle est une tiquette. Ce label
recouvre en ralit des technologies diverses, qui traduisent la varit des
formes dintelligence en gnral : elles vont de formes explicites (systmes
experts et raisonnements logiques et symboliques) des formes plus
implicites (rseaux baysiens et surtout rseaux de neurones et deep learning).
Nous avons voulu retracer dans le rapport, de manire indite, la richesse et
la diversit de ces technologies.
De manire caricaturale, on pourrait rsumer les technologies
dintelligence artificielle un champ de recherche o cohabitent deux grands
types dapproches : les approches symboliques et les approches
connexionnistes.
Nous notons que lge dor de lIA qui court de 1956 au dbut
des annes soixante-dix, est marqu par les approches symboliques et les
raisonnements logiques, qui sont de nombreux types et sont tous dcrits
dans le rapport. Cet ge dor a t suivi dun premier hiver de lintelligence
artificielle dans la dcennie soixante-dix : les financements sont revus la
baisse, aprs divers rapports assez critiques, les prdictions exagrment
optimistes des dbuts ne se ralisant pas et les techniques ne fonctionnant
que dans des cas simples.
Ce constat tmoigne du caractre cyclique des investissements en
intelligence artificielle selon une boucle espoirs-dceptions .
Lenthousiasme se renouvelle dans les annes quatre-vingt autour des
systmes experts, de leurs usages et de lingnierie des connaissances. Suit
un nouvel hiver de lintelligence artificielle dans les annes quatre-vingt-dix.
- 230 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Pour autant, des dcouvertes scientifiques sont faites dans la


priode. Aprs la renaissance de lintrt pour les rseaux de neurones
artificiels avec de nouveaux modles thoriques de calculs, les annes
quatre-vingt-dix voient se dvelopper la programmation gntique ainsi que
les systmes multi-agents ou lintelligence artificielle distribue.
De trs nombreux autres domaines et technologies dintelligence
artificielle peuvent tre ajouts ceux dj mentionns : les machines
vecteur de support (SVM), lapprentissage machine dont lapprentissage par
renforcement, la programmation par contraintes, les raisonnements partir
de cas, les logiques de description, les algorithmes gntiques, la recherche
dans les espaces dtats, la planification, les ontologies, les logiques de
description Tous ces exemples analyss de manire dtaille dans le
rapport visent illustrer la varit et la richesse qui se cachent derrire le
label intelligence artificielle : les technologies dintelligence artificielle
sont en fait quasi-innombrables ; surtout, les chercheurs, tels des artisans,
hybrident des solutions indites au cas par cas, en fonction de leur tour de
main personnel.
Le tableau acadmique international des domaines de lintelligence
artificielle retient cinq domaines : traitement du langage naturel, vision,
apprentissage automatique, systmes multi-agents, robotique. Nous
renvoyons au rapport pour plus de dtails. Cest une histoire passionnante !
Faisons un focus sur lapprentissage machine, au cur des dbats
actuels. La difficult lie aux algorithmes classiques rside dans le fait que
lensemble des comportements possibles dun systme, compte tenu de
toutes les entres possibles, devient rapidement trop complexe dcrire.
Cette explosion combinatoire justifie de confier des programmes le soin
dajuster un modle adaptatif permettant de grer cette complexit et de
lutiliser de manire oprationnelle en prenant en compte lvolution de la
base des informations pour lesquelles les comportements en rponse ont t
valids. Cest ce que lon appelle lapprentissage automatique ou machine
learning, qui permet dapprendre et damliorer le systme danalyse ou de
rponse. En ce sens, on peut dire que ces types particuliers dalgorithmes
apprennent.
Un apprentissage est dit supervis lorsque le rseau est forc
converger vers un tat final prcis, en mme temps quun motif lui est
prsent. linverse, lors dun apprentissage non supervis , le rseau est
laiss libre de converger vers nimporte quel tat final lorsquun motif ou un
lment lui est prsent.
Entre ces deux extrmes, lapprentissage automatique ou machine
learning peut tre semi-supervis ou partiellement supervis. Cest le cas
dans de nombreuses applications.
Lapprentissage automatique peut lui-mme reposer sur plusieurs
mthodes : lapprentissage par renforcement, lapprentissage par transfert,
ou, encore, lapprentissage profond, qui est le plus en pointe aujourdhui. Le
RUNION DE LOPECST DU 14 MARS 2017 : - 231 -
ADOPTION DU RAPPORT

deep learning rencontre un succs particulirement remarquable dans la


prsente dcennie. Pourtant cette mthode est ancienne. Son essor doit
beaucoup lmergence rcente de donnes massives ou big data, et
lacclration de la vitesse de calcul des processeurs, mais son histoire
remonte aux annes quarante : les rseaux de neurones artificiels sont
imagins ds cette poque.
Un rseau de neurones artificiels est la modlisation dun ensemble
dlments interconnects, chacun ayant des entres et des sorties
numriques. Le comportement dun neurone artificiel dpend de la somme
pondre de ses valeurs dentre. Si cette somme dpasse un certain seuil, la
sortie prend une valeur positive, sinon elle reste nulle. Un rseau peut
comporter une couche dentre (les donnes), une de sortie (les rsultats), et
une ou plusieurs couches intermdiaires.
Cet apprentissage permet dajuster les poids synaptiques afin que les
correspondances entre les entres et les sorties soient les meilleures possible.
Il sagit donc de combiner de nombreuses fonctions simples pour former des
fonctions complexes et dapprendre les liens entre ces fonctions simples
partir dexemples tiquets.
Il ne sagit en aucun cas de rseaux de neurones de synthse, ce nest
quune image, sans doute malheureuse car elle entretient une forme de
confusion, en lien avec la notion dintelligence artificielle. Lanalogie avec le
fonctionnement du cerveau humain repose sur le fait que les fonctions
simples rappellent le rle jou par les neurones, tandis que les connexions
rappellent les synapses. Certains chercheurs prfrent ainsi parler de
neurones lectroniques et de synapses lectroniques.
Outre les rseaux multicouches, dimportantes dcouvertes en
apprentissage profond remontent aux annes quatre-vingt, telles que la
rtropropagation du gradient. Lide gnrale de la rtropropagation
consiste rtropropager lerreur commise par un neurone ses synapses et
aux neurones qui y sont relis. Il sagit en effet de faire converger
lalgorithme de manire itrative vers une configuration optimise des poids
synaptiques.
En apprentissage profond, qui repose donc sur des rseaux de
neurones profonds (deep neural networks), les rseaux de neurones artificiels
peuvent donc tre apprentissage supervis ou non (ils sont le plus souvent
superviss, comme dans le cas du Perceptron), avec ou sans
rtropropagation (back propagation) et on peut distinguer les technologies
selon la manire particulire dorganiser les neurones en rseau : les rseaux
peuvent tre en couches, telles les architectures profondes ou multicouches
(plusieurs dizaines ou centaines de couches), dans lesquelles chaque neurone
dune couche est connect tous les neurones de la couche prcdente et de
la couche suivante (cest la structure la plus frquente) ; les rseaux peuvent
tre totalement interconnects ( rseaux de Hopfield et machines de
Boltzmann ) ; les rseaux peuvent permettre de prendre en compte le
- 232 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

contexte tel une mmoire, avec le cas des rseaux neuronaux rcurrents ;
enfin, les rseaux peuvent se chevaucher, un peu comme dans le calcul
matriciel, linstar des rseaux neuronaux convolution.
Nous ne disposons daucune explication thorique des raisons pour
lesquelles les rseaux de neurones fonctionnent aussi bien, cest--dire
donnent, dans un certain nombre de domaines, dexcellents rsultats. La
technologie devance donc la science en la matire : cest la recherche
dclaircir ce sujet.
Les technologies disponibles en intelligence artificielle peuvent se
combiner entre elles : les combinaisons et les hybridations sont quasi
systmatiques, le programme AlphaGo de Google-DeepMind a ainsi appris
jouer au jeu de Go par une mthode de deep learning couple un
apprentissage par renforcement et une optimisation selon la mthode
Monte-Carlo, qui repose sur le hasard.
De plus en plus, les outils dintelligence artificielle sont utiliss
conjointement. Par exemple, les systmes experts sont utiliss avec le
raisonnement par analogie, ventuellement dans le cadre de systmes multi-
agents. De mme, les SVM et lapprentissage par renforcement se combinent
trs efficacement avec lapprentissage profond des rseaux de neurones. Le
deep learning peut aussi senrichir de logiques floues ou dalgorithmes
gntiques.
Derrire le concept dintelligence artificielle, ce sont des technologies
trs varies qui donnent lieu des applications spcifiques pour des tches
toujours trs spcialises. Les applications sectorielles prsentes ou futures
sont denvergure considrable, que lon pense par exemple aux transports,
laronautique, lnergie, lenvironnement, lagriculture, au commerce,
la finance, la dfense, la scurit, la scurit informatique, la
communication, lducation, aux loisirs, la sant, la dpendance ou au
handicap.
Il sagit dautant de jalons dapplications sectorielles, dont le rapport
retrace les possibilits, nous y renvoyons donc. Le potentiel de ces
technologies est immense et ouvre de manire transversale un espace
dopportunits indit : nos conomies peuvent en bnficier car les champs
dapplication sont et seront de plus en plus nombreux. Ces technologies sont
non seulement en volution constante, mais leurs combinaisons ouvrent de
nouvelles perspectives.
Selon Stphane Mallat, professeur lcole normale suprieure, il
sagit d une rupture non seulement technologique, mais aussi scientifique .
Traditionnellement, les modles sont construits par les chercheurs eux-
mmes partir de donnes dobservation, en nutilisant gure plus de
dix variables alors que les algorithmes dapprentissage slectionnent seuls le
modle optimal pour dcrire un phnomne partir dune masse de donnes et
avec une complexit inatteignable pour nos cerveaux humains, puisque cela
peut reprsenter jusqu plusieurs millions de variables, contre une dizaine
RUNION DE LOPECST DU 14 MARS 2017 : - 233 -
ADOPTION DU RAPPORT

pour un laboratoire humain. Alors que le principe de base de la mthode


scientifique rside dans le fait que les modles ou les thories sont
classiquement construits par les chercheurs partir des observations, le deep
learning change la donne en assistant et amplifiant lexpertise scientifique
dans la construction des modles.
Denis Girou, directeur de lInstitut du dveloppement et des
ressources en informatique scientifique au CNRS estime que la science a pu
construire des modles de plus en plus complexes grce laugmentation de la
puissance de calcul des outils informatiques, au point que la simulation numrique
est dsormais considre comme le troisime pilier de la science aprs la thorie et
lexprience .
Selon Yann LeCun, le dfi scientifique auquel les chercheurs doivent
satteler cest celui de lapprentissage non supervis. Dans sa leon
inaugurale au Collge de France, il estime ainsi que tant que le problme de
lapprentissage non supervis ne sera pas rsolu, nous naurons pas de machines
vraiment intelligentes. Cest une question fondamentale scientifique et
mathmatique, pas une question de technologie. Rsoudre ce problme pourra
prendre de nombreuses annes ou plusieurs dcennies. la vrit, nous nen savons
rien .
Lintelligence artificielle, qui agit sur la base de ce quelle sait, devra
donc relever le dfi dagir sans savoir, puisque comme laffirmait le
biologiste, psychologue et pistmologue Jean Piaget, Lintelligence, a nest
pas ce que lon sait, mais ce que lon fait quand on ne sait pas . Jinsiste, ce que
sait lintelligence artificielle, cest lhomme qui le lui a appris.
M. Claude de Ganay, dput, membre de lOPECST, rapporteur.
Je vais vous parler quant moi des caractristiques et des enjeux de la
recherche en lintelligence artificielle.
La recherche prive tient une place prpondrante, y compris sur le
plan de la recherche fondamentale. Cette recherche est domine aujourdhui
par les entreprises amricaines et peut-tre, demain, par les entreprises
chinoises. Des enseignants-chercheurs parmi les plus brillants ont t
recruts par ces grandes entreprises : Yann LeCun (Facebook), Andrew Ng
(Baidu, aprs Google), Geoffrey Hinton (Google), Fei Fei Li (Google), Rob
Fergus (Facebook), Nando de Freitas (Google)...
Les entreprises amricaines dominent donc, mais la recherche et les
entreprises chinoises montent en puissance. La Chine a ainsi pris la tte des
publications en deep learning depuis trois ans. Lentreprise Baidu a dvelopp
le principal moteur de recherche chinois, site le plus consult en Chine et le
cinquime plus consult au niveau mondial : indexant prs dun milliard de
pages, lentreprise dispose dun flux de donnes permettant denvisager des
applications dans de nombreux domaines. Ses rsultats algorithmiques sont
impressionnants, malgr son existence rcente. Le systme de reconnaissance
dimage de Baidu a ainsi battu celui de Google depuis 2015. Le recrutement
du chercheur de Stanford, Andrew Ng, par Baidu en 2014 en tant que
- 234 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

responsable de lintelligence artificielle alors quil en tait le responsable


chez Google est emblmatique. De mme, en 2017, Baidu dbauche Qi Lu, au
poste de numro deux, alors quil tait auparavant vice-prsident chez
Microsoft et directeur des projets Bing, Skype et Microsoft Office et
auparavant directeur de la recherche de Yahoo.
Le 13e plan quinquennal chinois comprend une liste de quinze
grands projets qui structurent les priorits scientifiques avec des
investissements de plusieurs milliards deuros. Ce plan vise dynamiser la
recherche chinoise en IA et concurrencer les tats-Unis. Parmi ces projets,
ceux en lien avec lIA reprsentent un montant de 100 milliards de yuans sur
trois ans.
Autre caractristique, linterdisciplinarit est indispensable en
intelligence artificielle, alors que la discipline demeure clate en une
cinquantaine de sous-domaines de recherche, un tableau les dcrit dans
notre rapport.
Par ailleurs, la recherche en intelligence artificielle est soumise une
contrainte dacceptabilit sociale assez forte, notamment sous leffet de
reprsentations catastrophistes, comme en tmoignent diffrents sondages
dopinion, eux aussi rappels dans le rapport.
Plusieurs interventions mdiatiques et ptitions ont cherch en 2015
interpeler lopinion propos des risques qui seraient inhrents
lintelligence artificielle. Lexistence dune association franaise contre
lintelligence artificielle (AFCIA) est rvlatrice dun certain climat
dangoisse puisque la France serait le seul pays o une telle association
existerait. LAFCIA juge illgitime et dangereuse la recherche scientifique visant
crer des organismes intelligence artificielle supra-humaine et considre que
le seul moyen dviter un avenir funeste pour lhumanit est dobtenir
linterdiction lgale de la recherche en intelligence artificielle lchelle
mondiale . Se dfinissant comme association de lobbying, elle vise obtenir
cette interdiction auprs des pouvoirs publics. Jacques Attali sest, la fin de
lanne 2016, prononc pour un moratoire sur les technologies dintelligence
artificielle, ce qui nous a beaucoup surpris.
Dernire caractristique : la multiplication des initiatives visant la
prise en compte de principes thiques dans la recherche et les usages de
lintelligence artificielle. Cela vaut pour la recherche publique, comme pour
la recherche prive, en Europe comme en Amrique.
Concernant la recherche franaise en IA, notre pays dispose
dimportants atouts faire valoir, mme si la communaut franaise de
lintelligence artificielle est encore insuffisamment organise, connue et
visible. La reconnaissance internationale des travaux des chercheurs franais
doit beaucoup des organismes comme Inria, le CNRS, le CEA, diffrentes
universits et grandes coles, par exemple lENS et Mines-Tlcom, qui
produisent des travaux visibilit internationale. Nous dcrivons dans le
dtail ces structures et leurs laboratoires, lexcellence reconnue.
RUNION DE LOPECST DU 14 MARS 2017 : - 235 -
ADOPTION DU RAPPORT

La France dispose dun rseau de chercheurs trs comptents et dun


tissu de start-up trs dynamiques : 240 dentre elles sont spcialises en
intelligence artificielle. Ce tissu de start-up, encourag par linitiative
French Tech, est trs riche. Selon linvestisseur en IA Paul Strachman, La
France est lun des cosystmes les plus vibrants en ce qui concerne lintelligence
artificielle. Malheureusement, cela nest pas trs su en dehors de la France. Et
parfois mme en dedans .
Pour Mark Zuckerberg, le prsident de Facebook, la France dispose
de lune des communauts de chercheurs en intelligence artificielle la plus forte du
monde . De mme Mike Schrpfer, le directeur technique de Facebook,
estimait en 2015 que Paris avait la plus grande concentration de toute lEurope
en matire dintelligence artificielle . Facebook a prfr Paris Londres pour
ouvrir en juin 2015 un laboratoire de recherche consacr lintelligence
artificielle ; ces recherches sont pilotes par Yann LeCun au niveau mondial.
Le bon niveau de nos tudiants a galement souvent t cit. Mais
nous nous inquitons dun phnomne de rachat de start-up et de fuite des
cerveaux, voire de pillage de nos talents, li aux conditions attractives
offertes ltranger. Lors de son audition, Stphane Mallat a fait valoir que
depuis plusieurs annes la totalit des tudiants issus des masters spcialiss
de lENS quittaient la France aussitt leur formation acheve. Il faut
permettre ces jeunes gnies, qui sont autant de chercheurs et
dentrepreneurs en devenir, de disposer dopportunits en France et
permettre aux start-up de se dvelopper sans tre rachetes par les gants
amricains, chinois ou japonais ds quelles prsentent un profil viable.
Par ailleurs, nous relevons que la communaut franaise de
lintelligence artificielle se constitue surtout en dehors des institutions,
travers les meetups. Le principal dentre eux, le Paris machine learning meetup
regroupe 5 205 membres. Quant lAFIA, comprenant environ 300 membres,
elle semble assez ferme sur elle-mme. Elle aurait tout intrt transcender
ses propres limites pour relever le dfi dune intelligence artificielle franaise
ouverte, visible et conqurante.
Au total, on voit une sous-estimation des atouts considrables de la
France, mais il existe un risque de dcrochage par rapport la recherche
internationale la plus avance en intelligence artificielle.
Sur les impacts sociaux et conomiques potentiels de lIA, et les
enjeux lis ces questions, nous avons peru les signes avant-coureurs de
lvolution vers une conomie globalise de plateformes .
On parle des GAFA , parfois des GAFAMI , mais il serait plus
juste de parler des GAFAMITIS (Google, Apple, Facebook, Amazon,
Microsoft, IBM, Twitter, Intel et Salesforce), des NATU (Netflix, Airbnb,
Tesla et Uber) et des BATX (lexpression dsignant les gants chinois du
numrique, Baidu, Alibaba, Tencent et Xiaomi). Ces exemples
emblmatiques des bouleversements en cours sont les prmices de la place
dominante et monopolistique occupe par quelques entreprises dans ce futur
- 236 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

contexte gnral. Chacune de ces entreprises est entre, selon un modle


the winner takes it all ( le vainqueur prend tout ), dans une course pour
acqurir une position de pointe dans les technologies dintelligence
artificielle afin de tirer profit de la position dominante qui en rsultera :
laccroissement significatif des investissements dans la recherche en
intelligence artificielle pourrait bien conduire une concentration
horizontale progressive des grandes entreprises, voire au monopole de ces
plateformes dominant une conomie globalise. On assiste une monte en
puissance significative dans les acquisitions, un tableau les dcrivant figure
dans le rapport.
Sagissant des bouleversements annoncs dans le march du travail,
les pronostics sont trs contrasts, allant de 9 % 47 % de disparition
demplois. Pour le Conseil dorientation pour lemploi, moins de 10 % des
emplois existants franais apparaissent menacs par lautomatisation et la
numrisation et la moiti des emplois existants est susceptible dvoluer de
faon significative. Nous pensons, quant nous, que les tudes
sous-estiment les volutions de contenu des mtiers et les crations
demplois. Le solde global reste inconnu mais nous avons la conviction dune
future coopration homme-machine heureuse.
Lducation peut tre le levier et le bnficiaire des avances en
intelligence artificielle. La relation metteur-rcepteur est transforme et
modifie tant la pdagogie que les principes dvaluation. Les moyens de
prdire la russite des lves et doptimiser les enseignements seront
prciss par les systmes dintelligence artificielle qui permettront la
diffrenciation des mthodes et des contenus enseigns, la personnalisation
devant tre adapte la diversit des lves. Les nouvelles technologies ne
seront pas en comptition avec les enseignants, elles leur seront
complmentaires. Les cours en ligne ouverts et massifs, ou MOOC (massive
open online courses), seront, de ce point de vue, des ressources utilisables pour
appliquer ces nouvelles mthodes pdagogiques innovantes et permettre aux
jeunes gnrations daccder dans des conditions optimales la
connaissance.
Nous sommes convaincus de la possibilit imminente dune
rvolution bnfique de notre cadre de vie et de laide aux personnes. Des
changements profonds sont venir dans la connaissance et dans le contrle
de notre environnement et de la sant des populations. Les smart grids,
systmes dconomie dnergie par une consommation optimise, et les smart
cities (villes intelligentes) seront les expressions des bnfices que nous
pouvons tirer de lintelligence artificielle. Et cela se traduira videmment en
matire de transports, de scurit, de sant, de dpendance et de handicap.
Notre cadre de vie, la qualit de nos vies seront amliors par lusage massif
de technologies dintelligence artificielle.
Jai t tonn par les propos dun de mes concitoyens, grand-matre
de la confrrie brouettes et traditions de Cernoy-en-Berry, qui ma
expliqu tous les bienfaits que les robots et les systmes dintelligence
RUNION DE LOPECST DU 14 MARS 2017 : - 237 -
ADOPTION DU RAPPORT

artificielle pourraient avoir pour la ruralit, en particulier pour les personnes


ges, isoles ou dpendantes. Le cas des voitures autonomes a t voqu
mais dautres applications utiles vont merger.
En matire de handicap, nous allons vers des progrs majeurs, avec
les prothses intelligentes, des exosquelettes robotiss ou avec des systmes
capables de voir des images et den dcrire le contenu pour des malvoyants.
Les agents conversationnels ou bots, les robots de service, les agents
dassistance, daide la mobilit vont progressivement cohabiter avec nous.
Cela ncessitera une grande vigilance. Lducation et la prvention sont
indispensables dans ce contexte de cohabitation croissante. Et il convient
dapporter une grande attention aux logiques dempathie et aux aspects
motionnels.
Jen viens aux questions thiques et juridiques poses par les progrs
en intelligence artificielle. Nous avons dress le bilan des initiatives
existantes et prsent toutes les propositions qui sont mises sur la table et je
renvoie sur ce point notre rapport. Il y a aussi les deux rapports issus des
institutions de lUnion europenne, Parlement europen et Comit
conomique et social europen (CESE), les trois rapports de la Maison
blanche, le rapport de la Chambre des communes du Royaume-Uni, le
groupe de travail de la Royal Society, les initiatives chinoises et japonaises qui
accordent une place contraste aux questions thiques La stratgie du
Gouvernement pour lintelligence artificielle arrive, hlas !, un peu tard pour
tre intgre dans les stratgies nationales destines au monde de la
recherche. Les lments seront communiqus dici au 29 mars par le
Gouvernement, nous enrichirons notre rapport en consquence.
Nous invitons dpasser les lois dAsimov pour faire un point
sur le droit de la robotique. Reconnatre une personnalit juridique des
robots est une des pistes innovantes qui parcourent le dbat public sur la
robotique, mais nous ne sommes pas convaincus de lintrt de reconnatre
une personnalit juridique aux robots, ce sujet nest pas une question qui
mrite dtre pose ce stade.
Sagissant des autres aspects juridiques de lintelligence artificielle et
de la robotique, il sera loisible de conduire une rflexion et de faire de la
prospective concernant la conception, la proprit intellectuelle et
lautorisation de commercialisation. Pour diffrents spcialistes, il ny a pas
durgence combler un vide juridique bant car il ny a pas de vide
juridique bant. Les rapports parus sur le sujet, notamment dans le monde
anglo-saxon, vont dans le mme sens et ne recommandent pas de mesures
lgislatives. La protection des donnes personnelles et de la vie prive
mritera peut-tre, en revanche, dtre renforce dans lavenir, en sadaptant
aux nouvelles innovations. ce stade, le droit est suffisamment protecteur.
Sagissant des voitures autonomes nous avons conduit des analyses
prsentes dans le rapport, le laboratoire Moral machine du MIT que
nous avons visit travaille notamment sur les dilemmes thiques. Les
- 238 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

rsultats provisoires des tests conduisent identifier diffrents facteurs de


choix : le nombre de tus (on prfre la solution qui rduit le nombre de
morts), le fait de sacrifier en priorit des personnes qui transgressent les
rgles (exemple du voleur), le fait de sacrifier en priorit un animal contre un
humain, le fait de sacrifier en priorit une personne plus ge face une
personne plus jeune et a fortiori un enfant, le fait de sacrifier en priorit un
homme face une femme Ce dernier point, soit dit en passant, mriterait
un dbat !
Sur les rgimes de responsabilit, nous notons que quatre rgimes
pourraient trouver sappliquer aux accidents causs par des robots : le
rgime de responsabilit du fait des produits dfectueux, celui de la
responsabilit du fait des animaux, celui de la responsabilit du fait dautrui,
ou, encore, celui, traditionnel, de la responsabilit du fait des choses, mais
qui ne sapplique que de faon rsiduelle par rapport au rgime de
responsabilit du fait des produits dfectueux.
On pourrait envisager de mettre en place une chane de
responsabilit , ou responsabilit en cascade. Dans la mesure o trois ou
quatre acteurs sont en prsence (le producteur de la partie physique du
robot, le concepteur de lintelligence artificielle, lutilisateur et, sil est
distinct de ce dernier, le propritaire), il est possible dimaginer que chacun
puisse supporter une part de responsabilit selon les circonstances dans
lesquelles est survenu le dommage. Il sera en tout cas important didentifier
des pistes davenir qui ne fassent pas courir le risque de dresponsabiliser
les acteurs du secteur, commencer par les industriels de la robotique.
En outre, il conviendrait de rflchir la possibilit dinstituer des
systmes dassurance spcifiques. Mais la Fdration franaise de lassurance
estime quil est encore trop tt pour rpondre la question.
Le rapport prsente le cadre national de la rflexion sur les enjeux
thiques de lintelligence artificielle, avec la CERNA par exemple, qui joue
en la matire un rle majeur, elle a dailleurs produit deux rapports, dont
nous rendons compte.
Comme dj signal dans le rapport, le positionnement de la
CERNA, qui tudie les questions thiques du point de vue de la recherche et
de la technologie, est mettre en synergie avec celui rcemment dvolu la
CNIL en matire dinstruction des questions thiques dans leur dimension
plus socitale.
Aux termes de la loi pour une Rpublique numrique, la CNIL,
notre autorit de contrle en matire de protection des donnes personnelles,
est en effet charge de conduire une rflexion sur les questions dthique
lies au numrique et aux algorithmes. La CNIL a choisi dy rpondre par
lorganisation en 2017 dun cycle de dbats intitul Les algorithmes en
dbat . lautomne 2017, la CNIL rendra publique la synthse des changes
afin dtablir une cartographie de ltat du dbat public et un panorama
des dfis et enjeux . Inria, travers le projet Transalgo , dveloppe en
RUNION DE LOPECST DU 14 MARS 2017 : - 239 -
ADOPTION DU RAPPORT

2017 de manire utile une plateforme dvaluation de la transparence des


algorithmes, afin de rpondre aux proccupations dexplicabilit des
algorithmes. Larticulation et la complmentarit entre le travail de la
CERNA, dInria et de la CNIL sont rechercher.
Nous avons par ailleurs prsent dans le rapport les expriences de
rflexion non gouvernementales sur les enjeux thiques de lintelligence
artificielle, aux tats-Unis et au Royaume-Uni, qui sont particulirement
nombreuses et se sont multiplies de faon impressionnante dans la priode
rcente.
Lune des principales initiatives est lInstitut du futur de la vie ou
Future of Life Institute (FLI), situ prs du MIT et de Harvard, fond en
mars 2014. Il est lorigine, en janvier 2015, de la lettre davertissement sur
les dangers potentiels de lintelligence artificielle. Le FLI, que nous avons
visit en janvier 2017, se donne pour mission de catalyser et soutenir la
recherche et les initiatives visant la sauvegarde de la vie et proposant une vision
optimiste de lavenir . Il sagit de tirer le meilleur profit des nouvelles
technologies et de prvenir les risques potentiels pour lhumanit du dveloppement
de lintelligence artificielle . Lors dun colloque New York sur les dfis poss
par lmergence de lintelligence artificielle, organis le 14 octobre 2015 par
lInstitut de recherche sur la criminalit et la justice des Nations unies
(Unicri), Max Tegmark tait invit avec un autre expert sexprimer devant
quelque 130 dlgus. Tous deux ont clairement soulign les risques lis
lintelligence artificielle et appel la mise en place dune rflexion solide
sur lthique de lintelligence artificielle. Le second expert tait Nick
Bostrom, le fondateur du Future of humanity Institute (FHI) en 2005
lUniversit dOxford ; il a galement fond, ds 2004, un Institute for ethics
and emerging technologies (IEET), proche du mouvement transhumaniste.
De manire similaire au Future of humanity Institute, ont t cres
plusieurs structures qui travaillent ensemble en rseau, au sein de
lUniversit de Cambridge : un Centre for the Study of Existential Risks (CSER)
cr en 2012, un Leverhulme Centre for the Future of Intelligence cr en 2016 et,
au sein de lUniversit de Berkeley, un Machine Intelligence Research Institute
(MIRI).
Les anciens dirigeants de Paypal, Elon Musk (actuellement patron de
Tesla et SpaceX) et Sam Altman ont fond, le 11 dcembre 2015, la fondation
Open AI dans le but de promouvoir lintelligence artificielle thique et
ouverte. Nous avons visit cette fondation base dans la Silicon Valley et
rencontr ses responsables. Le dernier exemple, peut-tre le plus significatif,
est le Partnership on AI form en septembre 2016 par Google, Microsoft,
Facebook, IBM et Amazon afin de rflchir de manire collective. Vos
rapporteurs se sont rjouis du fait quApple a rejoint cette initiative le
26 janvier 2017.
Le rapport Lintelligence artificielle et la vie en 2030 publi en
septembre 2016 par lUniversit Stanford dvoile les rsultats de ltude
- 240 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

One Hundred Year Study of Artificial Intelligence , un projet universitaire


dbut en 2014 et initi par Eric Horvitz, chercheur au laboratoire Microsoft
Research.
Dans la foule et puisquil nexistait aucun guide commun de bonnes
pratiques dans le domaine de lintelligence artificielle, plusieurs spcialistes
de lintelligence artificielle et de la robotique se sont runis lors de la
confrence Beneficial AI 2017 organise par le Future of Life Institute. La
confrence sest tenue Asilomar, en Californie du 5 au 8 janvier 2017. Les
participants ont adopt vingt-trois principes baptiss Les vingt-trois
principes dAsilomar , guide de rfrence pour lencadrement thique du
dveloppement de lintelligence artificielle.
Nous nous interrogeons sur les objectifs prcis des GAFAMI et
dElon Musk travers ces nombreuses initiatives, qui donnent une place trop
grande au risque de lmergence dune IA forte qui dominerait et pourrait
faire steindre lespce humaine. La volont de ces nouveaux gants
pourrait-elle tre de se ddouaner ou de crer un nuage de fume pour ne
pas parler des vrais problmes thiques poss court terme par les
technologies dintelligence artificielle, telles que lusage des donnes ou le
respect de la vie prive ? Vos rapporteurs nont pas tranch et laissent aux
auteurs de ces initiatives le bnfice du doute.
Nous soulignons enfin limportant travail en cours sur les enjeux
thiques au sein de lassociation mondiale des ingnieurs lectriciens et
lectroniciens (Institute of Electrical and Electronics Engineers ou IEEE), qui
regroupe plus de 400 000 membres. Son initiative mondiale pour les
considrations thiques dans lintelligence artificielle et les systmes autonomes a
pour objectif de proposer un cadre thique pour les systmes dintelligence
artificielle et des systmes autonomes. Une premire version du document a
t publie en dcembre 2016, avec lide dune discussion dici lt 2017
et la diffusion dune deuxime version consolide lautomne 2017.
Alors que toutes ces initiatives sur lthique sont menes, nous
constatons une sensibilisation insuffisante du grand public aux questions
poses par lintelligence artificielle et les systmes autonomes. Les
traitements mdiatiques de ces questions restent le plus souvent
sensationnalistes voire alarmistes, alors quune information objective serait
souhaitable. La vision dj tronque du grand public, sous leffet des uvres
de fiction, et en particulier du cinma, nest pas amliore par la lecture de la
plupart des articles disponibles sur lintelligence artificielle dans nos
journaux et magazines.
Mme Dominique Gillot, snatrice, rapporteure. Jen viens aux
questions technologiques et scientifiques qui se posent en matire
dintelligence artificielle. Il y a dabord les sujets dinterrogation lis aux
algorithmes utiliss par les technologies dAI. Le rapport contient des
dveloppements sur les questions de scurit et de robustesse et conclut sur
la ncessit de toujours pouvoir arrter un systme dintelligence artificielle,
RUNION DE LOPECST DU 14 MARS 2017 : - 241 -
ADOPTION DU RAPPORT

quil sagisse dun systme informatique ou de son incarnation dans un


robot. En 2016, Google a galement pos la question du risque de perte de
contrle et cest dans ce sens que la firme dveloppe lide dun bouton
rouge permettant la dsactivation des intelligences artificielles. La CERNA
a aussi cette recommandation. Des recherches complmentaires sont
ncessaires car en IA cela peut tre compliqu. Pour paraphraser Raymond
Aron, qui utilisait lexpression de Paix impossible, guerre improbable lenjeu
est donc, face une paix improbable avec les machines, de rendre la guerre
impossible.
Les biais sont lun des plus gros problmes poss par les algorithmes
dapprentissage automatique, ou pour tre plus rigoureux, poss par les
donnes ncessaires aux algorithmes. La question concerne en effet plus les
donnes que les algorithmes eux-mmes. Les impacts se font ressortir aprs
le traitement, mais les biais, eux, sont introduits en amont ds le stade des
jeux de donnes. En effet, les algorithmes dapprentissage automatique et en
particulier dapprentissage profond vont reproduire, en particulier si les
donnes ne sont pas corriges, toutes les discriminations connues dans nos
socits. Il convient donc dtre vigilant sur ces biais, souvent invisibles sans
recherches. Le second rapport de la CERNA traite notamment de ce point.
Linitiative Transalgo dInria porte largement sur ce sujet.
La gouvernance des algorithmes et des prdictions quils oprent est
ncessaire. Le phnomne de botes noires des algorithmes de deep
learning appelle un effort de recherche fondamentale pour accrotre leur
transparence : nous ne disposons daucune explication thorique
satisfaisante des raisons pour lesquelles les algorithmes de deep learning
donnent, dans un certain nombre de domaines, dexcellents rsultats. Ce
problme dopacit reste entirement rsoudre. On parle ici de
phnomnes de botes noires , mais elles nont rien voir avec les botes
noires des avions, qui sont des enregistreurs numriques. Le dfi relever
est donc celui de lobjectif dexplicabilit des algorithmes de deep learning.
Linitiative Transalgo dInria va dans ce sens, afin de rpondre aux
proccupations exprimes. Une telle dmarche va dans la bonne direction
mais gagnerait voir sa force de frappe tre dmultiplie par la mobilisation
de plusieurs quipes de recherche. Inria ne peut rester la seule structure en
France conduire un tel projet.
Enfin, les algorithmes slectionnent le contenu des informations
dont nous disposons, ce qui pose la question des bulles dinformation dites
bulles de filtres (filter bubbles) : linformation cible tout comme la
publicit personnalise ou la logique de construction des fils dactualit
des rseaux sociaux, linstar de celui de Facebook, sont autant dexemples
de ralits dj manifestes dusage des systmes dintelligence artificielle,
qui sont de nature changer notre rapport au monde, aux autres et la
connaissance en orientant, voire en manipulant, notre perception de la
ralit.
- 242 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Ce sujet mrite une vigilance accrue des pouvoirs publics. Pour


nous, lenfermement, quil soit politique, idologique ou cognitif, doit tre
combattu. La question va bien plus loin que les critiques formules
lencontre des fausses informations ou fake news. Sur ce dernier point, la
recherche est assez bien avance et, comme la indiqu Yann LeCun,
lintelligence artificielle peut tre utilise pour limiter les flux de fausses
informations. Des outils de vrification sont ainsi mis en place par plusieurs
plateformes, commencer par Facebook.
Jen viens aux interrogations lies la singularit, la convergence
NBIC et au transhumanisme.
La rupture dite de la singularit technologique appele aussi
simplement singularit, est le nom que des crivains et des chercheurs en
intelligence artificielle ont donn au passage de lIA faible lIA forte. La
singularit reprsente un tournant hypothtique dans lvolution
technologique, dont lintelligence artificielle serait le ressort principal. De
nombreuses uvres de science-fiction ont dcrit ce tournant, qui a t une
source dinspiration trs riche pour le cinma. Les films Terminator, Matrix
ou Transcendance sont des exemples de la singularit technologique qui, au-
del de la simple hostilit de lintelligence artificielle, est souvent au cur de
lintrigue des uvres de science-fiction.
Les progrs en matire dintelligence artificielle, en particulier avec
le deep learning, sont parfois interprts comme de bons augures de la
singularit mais rien ne permet de garantir la capacit crer au cours
des prochaines dcennies une super-intelligence dpassant lensemble des
capacits humaines. Par exemple, en sappuyant sur la loi de Moore, Ray
Kurzweil prdit dans un prophtisme dystopique que les machines rivalisant
avec lintelligence humaine arriveraient dici 2020 et quelles la
dpasseraient en 2045.
Nous en sommes aujourdhui encore trs loin et il nest pas sr que
nous y arrivions un jour. AlphaGo est peut-tre le meilleur joueur de Go de
tous les temps, mais il nest pas en mesure de parler ou de distinguer un chat
dun chien, ce dont serait capable nimporte quel joueur de Go humain
dbutant. Pour le sociologue Dominique Cardon, la tentation de lIA forte est
anthropomorphiste. Certains sont en effet tents de plaquer sur les futures
intelligences artificielles des modes de raisonnement spcifiques
lintelligence humaine.
Lcrivain et entrepreneur futuriste Jerry Kaplan fait valoir que le
terme mme dintelligence artificielle est trompeur. Le fait que lon puisse
programmer une machine pour jouer aux checs, au Go, Jeopardy ou pour conduire
une voiture ne signifie pas pour autant quelle soit intelligente ! Aujourdhui,
nimporte quelle calculette achete en supermarch peut faire bien mieux que les plus
brillants cerveaux. Ces calculatrices sont-elles pour autant intelligentes ? Je ne le
crois pas. Au fil du temps, nous dcouvrons de nouvelles techniques permettant de
rsoudre des problmes bien prcis, laide de lautomatisation. Cela ne signifie pas
RUNION DE LOPECST DU 14 MARS 2017 : - 243 -
ADOPTION DU RAPPORT

pour autant que nous soyons en train de construire une super-intelligence en passe
de prendre le pouvoir notre place .
Ces observations conduisent relativiser les rcents progrs de
lintelligence artificielle et en particulier contester le fantasme de
lintelligence artificielle forte car elles rcusent la pertinence dune
comparaison avec lintelligence humaine.
Ce catastrophisme oublie galement le caractre irrductible de
lintelligence humaine au calcul. Il vacue la place des motions, celle de
lintelligence corporelle.
Non seulement lavnement dune super intelligence long terme
nest pas certaine mais la menace court terme relve du pur fantasme. Il
sagit de fantasmes sur la capacit des algorithmes devenir conscients,
autrement dit dots de capacits rflexives les rendant capables de se
reprsenter eux-mmes.
Pour nous, nier la possibilit dune IA forte na pas de sens, toutefois
se prononcer sur son imminence ou sur le calendrier prcis de son
avnement semble tout aussi peu raisonnable, car cest indmontrable
scientifiquement.
Yann LeCun estime que beaucoup des scnarios catastrophes (en
intelligence artificielle) sont labors par des personnes qui ne connaissent pas les
limites actuelles du domaine. Or les spcialistes disent quils sont loin de la ralit .
De mme Rob High, directeur technique du projet Watson dIBM,
estime quil est trop tt pour employer le terme intelligence artificielle, mieux
vaut parler doutils capables dlargir les capacits cognitives humaines .
Greg Corrado, directeur de la recherche en intelligence artificielle
chez Google, nous a expliqu quil tait plus juste de parler dintelligence
augmente plutt que dintelligence artificielle. Pour Jean-Claude Heudin,
lintelligence artificielle ne remplace pas lhomme mais augmente son
intelligence, en formant une sorte de troisime hmisphre .
Cette ide de complmentarit homme-machine et dintelligence
augmente nous a convaincus. Franois Taddi explique lui que les
intelligences humaine et artificielle covoluent. Mais ce sont encore les combinaisons
homme-machine qui sont les plus performantes : on le voit aux checs, o une quipe
homme-machine est capable de battre et lhomme et la machine . Lhomme et la
machine, les hommes-centaures, sont toujours plus forts que toutes les
machines.
Pour ce qui concerne la convergence NBIC , convergences entre
les nanotechnologies, les biotechnologies, les technologies de linformation et
les sciences cognitives, thme issu du rapport de MM. Roco et Bainbridge
la National Science Foundation (tats-Unis) en 2003, ce projet ambitieux de
fertilisation croise na pas produit de grands rsultats ce stade mais les
progrs en intelligence artificielle, en gnomique, en sciences cognitives et en
neurosciences reposent la question aujourdhui.
- 244 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Notre prsident Jean-Yves Le Daut conduit un travail ce sujet


pour lAssemble parlementaire du Conseil de lEurope, en tant que
rapporteur pour la science et la technologie, afin que cette convergence soit
respectueuse des droits humains.
Nous avons vu que la prospective en intelligence artificielle aboutit
souvent des scnarios de dystopie technologique mais ce pessimisme nest
pas partag par lensemble des futurologues puisque, pour certains, les
progrs de lintelligence artificielle permettront de protger et prolonger la
vie humaine, mais aussi doffrir une opportunit historique pour concrtiser
lutopie transhumaniste. Le transhumanisme est un mouvement
philosophique qui sapparente une religion, prdisant et travaillant une
amlioration de la nature de lhomme grce aux sciences et aux volutions
technologiques. Pour les transhumanistes, lhomme augment pourrait
devenir immortel. Inutile de prciser que je ny crois pas du tout
Ce projet transhumaniste de mort de la mort et de fin de la
souffrance nemporte pas ladhsion de vos rapporteurs. Il sapparente une
ngation de la nature humaine. Pour nous, lintelligence artificielle nest pas
un acte de foi et ne doit pas le devenir.
Selon Raja Chatila, derrire ces discours, nous avons des vues de lesprit
qui nont rien doprationnelles, elles sont en ralit des idologies, quon cherche
imposer pour gommer les diffrences entre lhumain et le non-humain .
Il sagit de chimres qui empchent de se poser les vraies questions
pertinentes. Il est essentiel de savoir anticiper les problmes potentiels poss
par lintelligence artificielle. court terme, ces problmes risquent dtre
ignors et pris tort pour de la science-fiction. Il convient en effet de
distinguer les craintes issues de certaines fictions cinmatographiques des
problmes rels qui risquent de survenir plus ou moins rapidement.
Jen arrive donc nos quinze recommandations. Nous sommes pour
une IA matrise, objet de nos cinq premires propositions. Tout dabord,
proposition n 1 : se garder dune contrainte juridique trop forte sur la
recherche en intelligence artificielle, qui en tout tat de cause gagnerait
tre, autant que possible, europenne, voire internationale, plutt que
nationale.
Proposition n 2 : favoriser des algorithmes et des robots srs,
transparents et justes et prvoir une charte de lintelligence artificielle et de
la robotique. Il faut rechercher la transparence des algorithmes contre les
botes noires, les biais et les discriminations. Il convient de prvoir aussi des
mcanismes de traabilit, de type enregistreurs numriques des avions. Une
charte de lintelligence artificielle et de la robotique la plus internationale
possible, europenne dfaut, proclamerait ces objectifs thiques et viserait
codifier les bonnes pratiques. Elle proposerait des rgles sur les
interactions homme-machine, en posant des limites en matire dimitation
du vivant, pour les robots androdes comme pour les agents
conversationnels.
RUNION DE LOPECST DU 14 MARS 2017 : - 245 -
ADOPTION DU RAPPORT

Proposition n 3 : former lthique de lintelligence artificielle et de


la robotique dans les cursus spcialiss de lenseignement suprieur qui
traitent de lintelligence artificielle et de la robotique.
Proposition n 4 : confier un institut national de lthique de
lintelligence artificielle et de la robotique un rle danimation du dbat
public sur les principes thiques qui doivent encadrer ces technologies. Au-
del de la nouvelle mission de la CNIL, cet institut national de lthique de
lintelligence artificielle et de la robotique pourra sintresser aux
problmatiques dexplicabilit vues plus haut. La dmarche ne doit pas tre
rserve une seule structure de recherche, plusieurs quipes doivent y
travailler paralllement et un institut national pourrait impulser les projets,
coordonner les recherches, animer le dbat public et faire des propositions
aux autorits. Les pouvoirs publics ne devront pas tre les seuls le financer.
Les entreprises prives, qui se donnent pour objectif dinformer et dduquer
sur ces technologies et daccrotre leurs effets bnfiques pour la socit (
limage du partnership on AI ), pourraient participer au financement de
linstitut.
Proposition n 5 : accompagner les transformations du march du
travail sous leffet de lintelligence artificielle et de la robotique en menant
une politique de formation continue ambitieuse visant sadapter aux
exigences de requalification et damlioration des comptences. Je propose
titre personnel de rflchir un nouveau mode de financement de notre
systme de protection sociale, qui serait un complment des cotisations
existantes et qui pourrait consister en un prlvement de cotisations sociales
sur les agents autonomes, dans la mesure o ils remplacent des emplois
occups par des tres humains. Cest le rapport de Mady Delvaux qui ma
inspir cette ide, dautant que la proposition de taxer les robots a fait son
apparition dans la campagne pour les lections prsidentielles. Je prcise que
mon co-rapporteur est contre toute taxe spcifique sur lintelligence
artificielle et les robots.
M. Claude de Ganay, rapporteur. Cest vrai ! Un mcanisme de ce
type constituerait selon moi un mauvais signal et dcouragerait la recherche,
linnovation et lactivit conomique. La TVA et limpt sur les socits (IS)
sappliquent dj ces activits et quand ils ne le font pas il faudra y
veiller. Cest notre seul point de dsaccord le mot est trop fort et nous
prsentons quinze propositions totalement communes. Dominique Gillot ne
propose pas une telle taxe, elle lvoque comme sujet de rflexion.
Je poursuis avec notre deuxime srie de propositions, pour une
intelligence artificielle utile, au service de lhomme et des valeurs
humanistes.
Notre proposition n 6 : redonner une place essentielle la recherche
fondamentale et revaloriser la place de la recherche publique par rapport la
recherche prive tout en encourageant leur coopration. Seule la recherche
fondamentale peut rpondre aux problmes dexplicabilit des algorithmes
- 246 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

et de biais dans les donnes. Nous en avons besoin. Des enjeux de matrise
des technologies aux enjeux de financement de la recherche publique, tout se
tient.
La recherche fondamentale pose par ailleurs la question du mode de
financement des projets : il faut favoriser la recherche transversale et ne
surtout pas reproduire lhyperspcialisation entre sous-domaines de
lintelligence artificielle. Il est en cela ncessaire de mobiliser les quipes de
chercheurs autour de grands projets nationaux structurants. Des projets de
grandes bases de donnes labellises, ncessaires lapprentissage machine,
pourraient tre lancs, par exemple autour de la langue franaise, du march
de lemploi ou des donnes de sant, sous condition danonymisation.
Proposition n 7 : encourager la constitution de champions
europens en intelligence artificielle et en robotique, un peu sur le modle
dAirbus. Sans verser dans le nationalisme industriel, il faut rflchir aux
protections qui pourraient tre institues. En effet, les laboratoires franais
sont pills de leurs chercheurs par les multinationales nord-amricaines et
chinoises.
Proposition n 8 : orienter les investissements dans la recherche en
intelligence artificielle vers lutilit sociale des dcouvertes, savoir des
applications impact socital bnfique comme le bien-tre, la sant, la
dpendance, le handicap, les infrastructures civiles, la gestion des
catastrophes
Proposition n 9 : largir loffre de cursus et de modules de
formation aux technologies dintelligence artificielle dans lenseignement
suprieur franais et crer dans notre pays au moins un ple dexcellence
international et interdisciplinaire en intelligence artificielle et en robotique. Il
peut sagir dun ple, de deux ou de trois, en sappuyant sur lexcellence
dInria, du LAS de Toulouse, de lENS, de lInstitut Mines-Tlcom Mais
dfaut dune cration pure et simple, il sera urgent dencourager la
coordination et daccrotre la cohrence des instituts, des centres et des
quipes de recherches.
Proposition n 10 : structurer et mobiliser la communaut franaise
de la recherche en intelligence artificielle en organisant davantage de
concours prims dimension nationale, destins dynamiser la recherche en
intelligence artificielle. France IA est une tape importante dans la
mobilisation de la communaut franaise de la recherche en intelligence
artificielle. Il faut continuer et la structurer encore davantage, par exemple
travers lorganisation de concours. Le traitement de grandes bases de
donnes nationales labellises pourrait tre lobjet dun de ces concours. Un
travail avec lAgence nationale de recherche (ANR) peut tre envisag pour
dfinir une offre franaise de grands concours prims en IA.
Proposition n 11 : assurer une meilleure prise en compte de la
diversit et de la place des femmes dans la recherche en intelligence
RUNION DE LOPECST DU 14 MARS 2017 : - 247 -
ADOPTION DU RAPPORT

artificielle La place des femmes et la question des minorits dans la


recherche en intelligence artificielle sont des dfis quil convient de relever.
Jen arrive la troisime et dernire srie de propositions, pour une
intelligence artificielle dmystifie.
Proposition n 12 : organiser des formations linformatique dans
lenseignement primaire et secondaire faisant une place lintelligence
artificielle et la robotique. Il sagit daller un peu plus loin que loffre
actuelle.
Proposition n 13 : former et sensibiliser le grand public
lintelligence artificielle par des campagnes de communication,
lorganisation dun salon international de lintelligence artificielle et de la
robotique et la diffusion dmissions de tlvision pdagogiques
Un salon international de lintelligence artificielle et de la robotique
est organiser en France, en sinspirant de VivaTech et de linitiative Innorobo
porte par Catherine Simon, organisatrice du Salon franais de la robotique.
Ce salon pourrait tre le pendant europen du CES (Consumer electronics
Show) organis Las Vegas et sans quivalent en Europe.
Les rseaux sociaux ou la tlvision pourraient tre des supports
pour des missions de partage de la connaissance. Les missions de
tlvision du type la faute lalgo , diffuses par la chane No Life, et
certains pisodes de data-gueule , diffuss par la chane France 4, sont des
exemples intressants.
Il faut se saisir du partnership on AI pour associer les entreprises
ce travail pdagogique. L aussi, le cot du financement pourrait tre
partag avec les entreprises prives, qui se donnent pour objectif dinformer
et dduquer sur ces technologies. Je trouve dplorable que les grand-messes
dApple ne saccompagnent jamais de prsentations pdagogiques sur les
technologies dintelligence artificielle.
Proposition n 14 : former et sensibiliser le grand public aux
consquences pratiques de lintelligence artificielle et de la robotisation, il
sagit, en complment de loffre de formation continue visant lamlioration
continuelle des comptences, de permettre aux travailleurs et au grand
public denvisager de manire positive les transitions venir en termes de
consquences pratiques de lintelligence artificielle et de la robotisation. L
encore, le cot du financement pourrait tre partag avec les entreprises
prives, qui se donnent pour objectif dinformer et dduquer sur ces
technologies.
Quinzime et dernire proposition : tre vigilant sur les usages
spectaculaires et alarmistes du concept dintelligence artificielle et de
reprsentations des robots. Il sagit dviter les drapages, mais dans le
respect de la libert de cration et de la libert dexpression. La vrification
des publicits serait un premier pas vers une plus grande matrise de la
- 248 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

communication mdiatique sur le sujet. En raction aux scnarios


catastrophistes, il faut sensibiliser les coles de journalisme.
Pour conclure, jindique que nos propositions devront tre remises
en dbat proportion des dcouvertes scientifiques, de leurs transferts et de
leurs usages. Le point dquilibre issu du rapport doit pouvoir voluer, en
fonction du contexte qui rsultera du jeu de ces variables.
Nous faisons une proposition nos collgues, en plus de nos
15 propositions, une sorte de proposition zro comme aurait dit Asimov : la
poursuite des travaux de lOPECST sur les enjeux de lintelligence artificielle
en 2017 et 2018. Outre une veille gnrale des rapporteurs sur le sujet, il
sagira dun suivi de la reprise de leurs propositions par le Gouvernement
ainsi que dun approfondissement de leur travail. Un suivi du sujet par
lOPECST apparat indispensable.
Nous appelons par ailleurs la poursuite du plan national pour
lintelligence artificielle, annonc en janvier 2017 par le Gouvernement et qui
sera prcis de manire plus dtaill la fin du mois.
Ni qute vaine ni projet de remplacement de lhomme par la
machine, lintelligence artificielle reprsente une chance saisir pour nos
socits et nos conomies. La France doit relever ce dfi. Les progrs en
intelligence artificielle sont dabord et avant tout bnfiques. Ils comportent
aussi des risques, il serait malhonnte de le nier. Mais ces risques peuvent et
doivent tre identifis, anticips et matriss.
Lavnement dune super-intelligence ne fait pas partie de ces
risques court et moyen termes. Et, long terme, la ralit de cette menace
nest pas certaine, quant son imminence court ou moyen terme,
prophtise par plusieurs figures mdiatiques, elle relve du pur fantasme.
Le prsent rapport se veut une premire contribution au travail
indispensable didentification, danticipation et de matrise des risques rels,
travail de dmystification et dobjectivation qui doit tre collectif,
interdisciplinaire et international.
Mme Dominique Gillot, snatrice, rapporteure. Jinsiste mon
tour sur la ncessit pour notre Office de poursuivre ces travaux en 2017 et
2018. La meilleure faon de prvenir tout risque de futures dsillusions est
de suivre en continu lvolution de ces technologies et de leurs usages,
sachant que les cycles despoirs et de dceptions qui jalonnent lhistoire de
lintelligence artificielle invitent ne pas faire preuve dattentes irralistes.
Les propositions du rapport vont dans ce sens. Nous nous prononons pour
une intelligence artificielle matrise, utile et dmystifie. Matrise, parce
que ces technologies devront tre les plus sres, les plus transparentes et les
plus justes possible. Utile, parce quelles doivent, dans le respect des valeurs
humanistes, profiter tous au terme dun large dbat public. Et dmystifie,
parce que les difficults dacceptabilit sociale de lintelligence artificielle
rsultent largement de visions catastrophistes errones, propages par des
ignorants.
RUNION DE LOPECST DU 14 MARS 2017 : - 249 -
ADOPTION DU RAPPORT

Plutt quune hypothtique future confrontation entre les hommes et


les machines, qui relve de la science-fiction dystopique, nous croyons au bel
avenir de la complmentarit entre lhomme et la machine. Cest, au final,
bien plus vers une intelligence humaine augmente que vers une intelligence
artificielle concurrenant lhomme que nous allons.
M. Jean-Yves Le Daut, prsident. Merci pour cet excellent
rapport. Avant de poursuivre les travaux durant les annes venir, il faudra
dabord tre rlus, et que lOffice soit saisi, puisquil ne peut sautosaisir
Mme Dominique Gillot, rapporteure. Bien entendu ! Cest un vu
que jexprimais l.
M. Bruno Sido, premier vice-prsident. Ce rapport est
passionnant. Je suis daccord avec toutes vos propositions, sauf la cinquime,
qui na selon moi pas sa place ici, notre office ne traitant pas de questions
sociales ou fiscales. Il faudra renvoyer ces points aux commissions
permanentes concernes. Quant la proposition n11, je ne sache pas quen
science, le sexisme ou le refus de la diversit aient cours : les Amricains par
exemple, prennent les meilleurs dans le monde entier, et sen vantent !
M. Claude de Ganay, rapporteur. Il y a plus dhommes que de
femmes dans la recherche et dans les formations scientifiques : il faut que les
femmes rejoignent ces rangs. Comment favoriser ce mouvement, je ne sais
pas
Mme Dominique Gillot, rapporteure. Il y a deux aspects
distincts : assurer la mixit dans ce secteur de la recherche, mais aussi veiller
ce que les algorithmes ne comportent pas de biais lis au genre, lorigine
ethnique ou socioculturelle.
M. Jean-Yves Le Daut, prsident. Vous posez la question de la
taxation des robots : mais o se situe la frontire entre ceux-ci et les
machines ? La disparition du travail humain est une question pertinente,
dont je ferais mention plutt dans le corps du rapport, non dans les
propositions, en demandant aux commissions comptentes de sy pencher.
Quant au choix entre une taxation, des cotisations sociales, ou un
autre moyen
Mme Dominique Gillot, rapporteure. Ce nest pas une
proposition mais une orientation pour la rflexion venir. Si les tches
faible valeur ajoute doivent dans lavenir tre de plus en plus frquemment
assures par des robots ou agents autonomes , il y a lieu de sinterroger
sur lquilibre des comptes sociaux.
Mme Catherine Procaccia, snateur, membre de lOPECST. Mais
ne croyez-vous pas que le systme de protection sociale va voluer ? La
question doit tre pose dans le cadre dune rflexion globale sur les comptes
sociaux.
- 250 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Mme Dominique Gillot, rapporteure. Le rapport de Mady


Delvaux a suscit un dbat autour dune taxe robots, dans les mdias et les
milieux politiques.
Mme Catherine Procaccia. M. Hamon lui-mme
Mme Dominique Gillot, rapporteure. Oui, mon candidat la
propose, mais je ne pense pas que ce soit une bonne solution : ce serait un
signal ngatif pour la recherche en IA. On en parle nanmoins, et France
Inter y a consacr une mission entire, dans On narrte pas lco.
Mme Fabienne Keller, snateur, membre de lOPECST. Je salue
votre norme travail. La Chine est un continent, le nombre de chercheurs en
IA y est considrable. Or vos propositions concernent surtout la France.
Toutes devraient tre, tout le moins, primtre europen. Ma chre
professeure de physique disait : Le nombre de femmes dans les sciences est le
produit de facteurs cumulatifs, tous infrieurs un . Effectivement, il y a moins
de filles que de garons au baccalaurat scientifique, encore moins dans les
coles suprieures, et finalement, elles ne sont que 24 % dans la recherche
sur la robotique On lobserve, plus quon ne lexplique. Une discrimination
positive serait sans doute utile pour cesser de nous priver de lintelligence
fminine qui na rien dartificiel !
Pourriez-vous revenir sur la diffrence entre les robots et lIA ?
Celle-ci est essentiellement multidisciplinaire. LInstitut de recherche contre
les cancers de lappareil digestif (IRCAD) Strasbourg travaille sur des
robots chirurgicaux capables de reproduire les meilleures oprations
effectues dans le monde par les praticiens, en traitant les donnes
numrises des corps mous. On parle prsent dimprimer en 3D la prothse
ncessaire, calque sur lorgane du patient, produite en temps rel.
Les applications touchent des domaines trs divers, et pour les
transports, dans le cadre de lintermodalit, elles sont trs intressantes : des
propositions de transport pourraient tre faites sur le tlphone portable de
lusager, calcules en fonction des heures, des habitudes, des besoins,
notamment pour les personnes handicapes.
Comment avez-vous pu traiter de la pluridisciplinarit de
lintelligence artificielle, quand les dclinaisons sont si vastes ?
Mme Delphine Bataille, snatrice, membre de lOPECST. Au
regard des investissements publics dans les pays dont vous avez pu tudier
leffort en IA, quelle est la place de la France, notamment pour les
infrastructures de calcul intensif ? De nombreux acteurs industriels sont-ils
quips ? Les rglementations sont-elles adaptes ? Les contraintes
juridiques ne sont-elles pas excessives ? Existe-t-il parmi les pays que vous
avez tudis un modle dorganisation ? Au Japon, trois ministres, sciences
et technologies, conomie et industrie, intrieur et communications, ont
chacun un centre de recherche, mais les trois se coordonnent. Avec quel pays
RUNION DE LOPECST DU 14 MARS 2017 : - 251 -
ADOPTION DU RAPPORT

la France entretient-elle la collaboration scientifique la plus aboutie ? Le plan


national pour lintelligence artificielle sinspire-t-il dexemples ltranger ?
M. Jean-Yves Le Daut, prsident. Nos rapporteurs disent que ces
sujets sont internationaux, mais leurs propositions sont plutt nationales
alors quelles gagneraient tre davantage europennes. Il existe une
convention internationale en biologie, dite dOviedo, dont larticle 13 interdit
par exemple la modification du gnome se rpercutant aux descendants. Le
moment nest-il pas venu dlargir ce type daccord, en dsignant une
organisation pour le proposer ? Ne faudrait-il pas demander lUNESCO de
se charger dune supervision internationale ? Nous avons par ailleurs un
organisme europen avec lequel lOffice travaille, le European parlementary
technology assessment (EPTA), qui inclut le Conseil de lEurope, et, parmi les
pays observateurs, la Russie, les tats-Unis le Japon : il faudrait sans doute
organiser des auditions publiques et contradictoires des experts de tous les
pays participants, ce serait une manire de commencer ce travail
international.
La proposition n 8, qui encourage la recherche au service de la
socit, me parat trs bonne, elle sinscrit bien dans la dmarche de la
stratgie nationale de recherche (SNR). Il faudrait faire un lien avec la SNR
que nous venons dvaluer et prciser que la question du handicap et de
lattnuation de la frontire entre lhomme et la machine pourrait tre
traite
Plutt que la thse du robot autonome, je dfends la thse que toute
machine issue de lintelligence artificielle, tout robot, doit rester sous le
contrle de lhomme.
Mme Dominique Gillot, rapporteure. Oui ! Cest le bouton
rouge . Cela figure dans notre rapport. Et cest lesprit de la proposition
n 2, mme si nous nentrons pas dans le dtail.
M. Jean-Yves Le Daut, prsident. Il serait bon de le redire dans la
conclusion.
Mme Dominique Gillot, rapporteure. Daccord.
Le niveau pertinent est effectivement celui de lEurope. Mais la
France a des atouts majeurs mettre en avant, son cole mathmatique,
lcosystme du dveloppement et de la science, la prise de conscience des
organismes de recherche En trois ans, la prise de conscience sest diffuse.
La pluridisciplinarit, plus que la transdisciplinarit, se dveloppe.
Lintelligence artificielle fait intervenir une juxtaposition de sciences,
qui se conjuguent, shybrident et se renforcent mutuellement, grce la
puissance de calcul, les donnes de masse, la reconnaissance dimage de plus
en plus rapide. Le robot - dobservation, ou daccompagnement mdical,
etc. est une machine physique qui comprend une intelligence artificielle
embarque.
- 252 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Mme Fabienne Keller. Il peut y avoir de lintelligence artificielle


sans robot.
Mme Dominique Gillot, rapporteure. Dans un tlphone portable,
par exemple. Quant aux robots, ils vont des plus simples jusqu
lhumanode.
Le prsident Jean-Yves Le Daut suggre que lUnion europenne
prenne en charge des missions en matire dintelligence artificielle : mais si
les services Bruxelles sont performants sur les chartes thiques, ils le sont
beaucoup moins sur les aspects scientifiques. Lorsque nous avons rencontr
les quipes de la Commission europenne, nous avons t fort dus : nous
tions mieux informs quelles ! Le CESE, qui prpare un rapport sur lIA,
fait le mme constat. Les experts de la Commission europenne ne se sont
pas empars du sujet. Ils sont en retard par rapport aux scientifiques et aux
politiques de notre pays. Lactualit est pourtant intense dans ce domaine !
M. Claude de Ganay, rapporteur. Pour rpondre au prsident, je
dirai que les propositions n 1, 2 et 7 ont bien la vocation europenne quil
rclame. Ce rapport tait trs attendu par la communaut scientifique : il
dresse en effet un tat des lieux sur le plan scientifique. Mady Delvaux a
rdig un rapport de compromis, non de propositions, tenant compte du
cadre europen dans lequel elle intervenait. LOPECST a plus de libert, il
peut tre plus objectif. Je confirme ce qua dit Mme Gillot, nos interlocuteurs
Bruxelles ignoraient jusqu lexistence des rapports de la Maison blanche
et de la Chambre des communes britannique. Ce travail a t passionnant,
nous lavons abord sans a priori.
M. Jean-Yves Le Daut, prsident. Je mets aux voix le rapport
sous rserve des corrections rdactionnelles que nous avons mentionnes.

Le rapport est adopt lunanimit.


LISTE DES PERSONNES RENCONTRES - 253 -

LISTE DES PERSONNES RENCONTRES

I. PERSONNES RENCONTRES PAR LES RAPPORTEURS EN VUE DE


LTUDE DE FAISABILIT

- M. Raja Chatila, Directeur de recherche au Centre national de la


recherche scientifique (CNRS), directeur de lInstitut des systmes
intelligents et de robotique (ISIR)

- M. Max Dauchet, Professeur mrite lUniversit de Lille, Prsident


de la Commission de Rflexion sur lthique de la Recherche en sciences et
technologies du Numrique (CERNA) dAllistene1

- Mme Laurence Devillers, Professeure lUniversit Paris IV Sorbonne


et directrice de recherche au Laboratoire dinformatique pour la mcanique
et les sciences de lingnieur (Limsi de Saclay)

- M. Alain Fuchs, Prsident du Centre national de la recherche


scientifique (CNRS), Professeur de chimie

- M. Jean-Gabriel Ganascia, Professeur lUniversit Paris VI Pierre-et-


Marie-Curie (UPMC), directeur de lquipe ACASA (Agents Cognitifs et
Apprentissage Symbolique Automatique) au laboratoire dinformatique de
Paris VI (LIP6), membre du COMETS (Comit dthique du CNRS)

- M. Michael Matlosz, Prsident-directeur gnral de lAgence nationale


de la recherche (ANR), Professeur de gnie des procds

- M. Antoine Petit, Prsident-directeur gnral de lInstitut national de


recherche en informatique et en automatique (Inria), Professeur lEcole
normale suprieure de Cachan

- M. Franois Taddei, Directeur du Centre de recherches


interdisciplinaires (CRI) de lUniversit Paris V Ren Descartes), directeur de
recherche lInserm, ingnieur en chef des Ponts, des Eaux et des Forts

1 Alliance des sciences et technologies du numrique, cette association regroupe les organismes de
recherche concerns par les diffrents domaines du numrique, notamment par lintelligence
artificielle, comme la CDEFI, le CEA, le CNRS, la CPU, Inria et lInstitut Mines-Tlcom. Ses
membres associs sont lINRA, lINRETS et lONERA.
- 254 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

II. PERSONNES RENCONTRES PAR LES RAPPORTEURS EN VUE DE


LTABLISSEMENT DU RAPPORT

A. EN FRANCE

1. Paris (lors de diffrentes auditions de rapporteurs)

Mardi 25 octobre 2016

- M. Patrick Albert, entrepreneur (crateur et ancien directeur de ILOG),


chercheur ;
- M. Stphane Mallat professeur lcole normale suprieure (ENS),
chercheur en mathmatiques appliques.

Mardi 8 novembre 2016

- M. Marc Mzard, directeur de lcole normale suprieure (ENS) ;


- M. Marc Pouzet directeur des tudes du dpartement dinformatique de
lcole normale suprieure (ENS) ;
- M. Yves Caseau, directeur du numrique pour le groupe AXA, membre
de lAcadmie des technologies et responsable de sa commission TIC ;
- M. Grgory Bonnet, GREYC Normandie Universit) ;
- M. Alain Berger, socit Ardans ;
- M. Olivier Boissier, Institut Henry Fayol ARMINES ;
- M. Pierre-Antoine Chardel, Institut Mines-Tlcom ;
- M. Jean-Gabriel Ganascia, LIP6 Universit Paris 6 ;
- Mme Catherine Tessier, ONERA ;
- M. Nicolas Cointe et Mme Fiona Berreby, chercheurs en thse de
doctorat sur lthique de lintelligence artificielle ;
- M. Raja Chatila, directeur de recherche au Centre national de la
recherche scientifique (CNRS), directeur de lInstitut des systmes
intelligents et de robotique (ISIR) ;
- M. Benot Girard, directeur de recherche CNRS lISIR ;
- M. Nathanal Jarrass, chercheur CNRS lISIR.
LISTE DES PERSONNES RENCONTRES - 255 -

Mercredi 9 novembre 2016

- M. Pierre-Yves Oudeyer, directeur de recherche Inria, directeur du


laboratoire Flowers, prsident du comit technique des systmes
cognitifs et dveloppementaux de lIEEE (Institute of Electrical and
Electronics Engineers, en franais Institut des ingnieurs lectriciens et
lectroniciens) ;
- Me Alain Bensoussan, avocat, prsident de lassociation pour les droits
des robots et Me Marie Soulez, avocate spcialise sur les TIC dans son
cabinet ;
- M. Laurent Alexandre, prsident de DNA Vision, fondateur de
Doctissimo, auteur, chirurgien-urologue et ancien lve de lENA ;
- M. Henri Verdier, entrepreneur et spcialiste du numrique franais,
directeur interministriel du numrique et du systme dinformation,
adjoint la secrtaire gnrale pour la modernisation de laction
publique, administrateur gnral des donnes (AGD), membre du
conseil scientifique de lInstitut Mines-Tlcom; du comit de
prospective de lARCEP, du comit de prospective de la CNIL et de la
Commission innovation 2030, ex-prsident de Cap Digital, ple de
comptitivit et de transformation numrique.

Jeudi 24 novembre 2016

- M. Max Dauchet, Professeur mrite lUniversit de Lille, Prsident


de la Commission de Rflexion sur lthique de la Recherche en
sciences et technologies du Numrique (CERNA) dAllistene ;
- M. Cdric Sauviat, ingnieur, prsident de lassociation franaise contre
lintelligence artificielle (AFCIA) et Marie David, ingnieur, ditrice,
membre du bureau de lassociation ;
- Mme Flora Fischer, charge de programme de recherche au Cigref,
rseau de grandes entreprises, pilote du groupe de travail sur
lintelligence artificielle en entreprise.

Lundi 28 novembre 2016

- M. Nicolas Cointe et Mme Fiona Berreby, chercheurs en thse de


doctorat sur lthique de lintelligence artificielle ;
- M. Claude Berrou professeur Tlcom Bretagne (Institut Mines-
Tlcom), chercheur en lectronique et informatique, membre de
- 256 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

lAcadmie des sciences, surtout connu pour ses travaux sur les turbo-
codes, trs utiliss en tlphonie mobile1 ;
- Mme Laurence Devillers2 professeure dinformatique lUniversit
Paris-Sorbonne et directrice de recherche du CNRS au Laboratoire
dinformatique pour la mcanique et les sciences de lingnieur
(Limsi de Saclay).

Mercredi 30 novembre 2016

- M. Franois Taddi directeur du Centre de recherches


interdisciplinaires (CRI). (Inserm, Universit Paris Descartes),
biologiste ;
- M. Igor Carron, entrepreneur, organisateur du principal meet-up en
intelligence artificielle en France intitul Paris Machine Learning ;
- M. Jill-Jen Vie, chercheur en thse de doctorat lcole normale
suprieure Paris-Saclay sur le deep learning3 ;
- M. Dominique Sciamma directeur de lcole de Design Strate
Svres ;
- M. David Sadek directeur de la recherche de lInstitut Mines-Tlcom,
spcialiste en intelligence artificielle ;
- Mme Verity Harding, directrice des affaires publiques de Deep Mind
(Londres, Royaume-Uni) ;

1 Au dbut des annes 1990, il met au point avec Alain Glavieux la premire classe quasi-optimale de codes
correcteurs utilisant des codes convolutifs, les turbocodes, aujourdhui trs utiliss pour la tlphonie mobile
3G et 4G (plusieurs brevets sur ces systmes, dont le premier -brevet europen- remonte 1991 et est dtenu en
coproprit par France Tlcom, TDF et lInstitut Tlcom). Les deux chercheurs, avec dautres collgues de
Tlcom Bretagne, tendent galement le principe turbo des fonctions autres que le codage correcteur
derreurs, en particulier lgalisation. Claude Berrou fait partie des dix scientifiques franais les plus cits dans
les sciences de linformation. En 2003, il reoit le Grand Prix France Tlcom de lAcadmie des sciences et la
mdaille Hamming, puis en 2005 le prix Marconi.
2 Experte en traitement du langage et du signal et en apprentissage machine, ses recherches portent

principalement sur l affective computing , le traitement automatique de la langue parle, la dtection des
motions real-life , linteraction homme-machine et la robotique affective et interactive. Laurence Devillers
anime lquipe de recherche Dimensions affectives et sociales dans les interactions parles. Elle a
particip/participe de nombreux projets notamment sur les interactions affectives et sociales humain-robot
(ANR Tecsan Armen, FUI Romeo, BPI Romeo2, Rex EU Humaine, EU Chistera Joker). Elle travaille sur les
motions mais aussi sur lhumour et lempathie dans les systmes de dialogue homme-machine. Ses travaux
peuvent tre utiliss pour des applications avec des robots, des objets connects, des jeux srieux, des centres
dappels pour diffrents domaines comme par exemple la sant, le bien-tre et la scurit. Elle anime le ple co-
volution humain-machine de lInstitut de la socit numrique (ISN Paris Saclay), o elle mne des travaux
en collaboration avec des chercheurs en droit et en sociologie sur mmoire du robot et responsabilit, et sur la
rflexivit langagire. Elle est galement membre du conseil dadministration de AAAC (emotion-research.net),
membre de IEEE, ACL, ISCA and AFCP. Elle est aussi implique dans lassociation Eurobotics dans les
groupes de travail sur Natural Interaction with Social Robot et Socially intelligent robots. Elle a
particip la rdaction du premier rapport de la Cerna sur lthique du chercheur en robotique dont elle est
membre.
3 Thse dinformatique lENS et lUniversit Paris-Saclay en 2016. En 2017, il est en postdoctorat au

laboratoire RIKEN Tokyo, sous la direction de Hisashi Kashima. Consultant du ministre de lducation
nationale sur le projet PIX de certification des comptences numriques, coproducteur de lmission La Faute
lalgo pour la chane Nolife avec Michel Blockelet, sur le rle grandissant de lalgorithmie dans nos vies.
LISTE DES PERSONNES RENCONTRES - 257 -

- M. Paul Strachman reprsentant dISAI aux tats-Unis1, diplm de


lcole Nationale des Ponts & Chausses dun Master de la London
School of Economics and Political Science (LSE) et dun MBA de Stanford
University.

2. Paris (lors de laudition publique du 19 janvier 2017)

- Mme Axelle Lemaire, secrtaire dtat charge du numrique et de


linnovation ;
- M. Jean-Gabriel Ganascia, professeur lUniversit Pierre-et-Marie-
Curie Paris VI ;
- M. Grard Sabah, directeur de recherche honoraire au CNRS ; membre
de lAcadmie des technologies ;
- M. Yves Demazeau, prsident de lAssociation franaise pour
lintelligence artificielle (AFIA) ;
- M. Bertrand Braunschweig, directeur du Centre Inria de Saclay ;
- M. David Sadek, directeur de la recherche de lInstitut Mines-Tlcom ;
- M. Jean-Daniel Kant, matre de confrences lUniversit Pierre-et-
Marie-Curie-Paris VI ;
- M. Benot Le Blanc, directeur-adjoint de lcole nationale suprieure de
cognitique ;
- M. Jean-Marc Merriaux, directeur gnral de Canop ;
- M. Franois Taddi, directeur du Centre de recherche
interdisciplinaire ;
- M. Olivier Esper, responsable des affaires publiques de Google France ;
- Mme Delphine Reyre, directrice Europe des affaires publiques de
Facebook ;
- M. Laurent Massouli, directeur du Centre de recherche commun Inria-
Microsoft ;
- M. Dominique Cardon, professeur de sociologie lInstitut dtudes
politiques de Paris/Medialab ;
- M. Gilles Babinet, entrepreneur, digital champion auprs de la
Commission europenne ;
- M. Henri Verdier, directeur interministriel du numrique ;

1 Bas New York, il est charg daider les socits du portefeuille dISAI stablir et se financer
aux Etats-Unis et est galement en charge des investissements dISAI outre-Atlantique. Aprs un
passage chez PAI Partners puis chez Bain & Company, il passe 5 ans chez Equinox (centres de fitness
haut de gamme, leader aux Etats-Unis) en tant que Directeur de la Stratgie. Il combine des activits
de business angel , de conseil et dinterim-management au sein de lcosystme amricain des
start-up.
- 258 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

- Mme Marie-Claire Carrre-Ge, prsidente du Conseil dorientation


pour lemploi ;
- M. Laurent Alexandre, entrepreneur (DNA vision) ;
- M. Jean-Christophe Baillie, entrepreneur (Novaquark) ;
- M. Jean-Claude Heudin, directeur de lInstitut de lInternet et du
multimdia ;
- M. Gilles Dowek, directeur de recherche Inria et professeur attach
lENS de Paris-Saclay ;
- Mme Laurence Devillers, professeur lUniversit Paris-
Sorbonne/LIMSI-CNRS ;
- M. Serge Abiteboul, directeur de recherche Inria ;
- M. Jean Ponce, professeur et directeur du dpartement dinformatique
de lcole normale suprieure (ENS) ;
- M. Serge Tisseron, psychiatre, chercheur associ lUniversit Paris
Diderot-Paris VII ;
- Mme Isabelle Falque-Pierrotin, prsidente de la CNIL ;
- M. Rand Hindi, membre du Conseil national du numrique, pilote du
groupe de travail sur lintelligence artificielle ;
- M. Olivier Guilhem, directeur juridique chez SoftBank Robotics (ex-
Aldebaran) ;
- Me Alain Bensoussan, avocat, prsident de lAssociation du droit des
robots.

3. Arcachon (lors dun colloque du 26 au 30 septembre 2016, organis


avec le soutien du CNRS, d'Inria, du CEA et de l'Institut Mines-Tlcom)

- M. Max Dauchet, Professeur mrite, Universit de Lille, Prsident de la


CERNA ;
- Mme Danile Bourcier, Directeur de recherche mrite, CNRS, CERSA ;
- Mme Claire Lobet-Maris, Professeur, Universit de Namur ;
- M. Alexei Grinbaum, Chercheur, CEA-Saclay, SPEC/LARSIM ;
- M. Raja Chatila, directeur de recherche CNRS, ISIR ;
- Mme Nozha Boujemaa, directeur de recherche Inria, conseillre du
prsident pour le big data ;
- M. Jean-Gabriel Ganascia, Professeur UPMC et Institut de France,
prsident du COMETS ;
- M. Guillaume Piolle, enseigant chercheur Supelec Rennes ;
LISTE DES PERSONNES RENCONTRES - 259 -

- M. Franois Pellegrini, Professeur et vice-prsident dlgu au


numrique de lUniversit de Bordeux, membre de la CNIL ;
- Mme Nicole Dewandre, conseillre pour les questions socitales,
directeur gnral de CONNECT ;
- M. Claude Kirchner, directeur de recherche Inria, prsident du
COERLE ;
- Mme Sophie Vulliet-Tavernier, directrice des relations avec les publics
et la recherche, CNIL ;
- M. Nathanal Jarrass, chercheur CNRS lISIR ;
- Mme Laurence Devillers, professeur lUniversit de Paris IV, LIMSI ;
- Mme Christine Balagu, titulaire de la Chaire Rseaux Sociaux de
Tlcom cole de Management.

4. Paris lors dun colloque sur lintelligence artificielle lAssemble


nationale le 14 fvrier 2017 organis par la Commission suprieure du
numrique et des postes (CSNP)

- M. Jean-Yves Le Drian ministre de la Dfense ;


- M. Jean Launay, dput du Lot et prsident de la Commission
suprieure du numrique et des postes (CSNP) ;
- M. Jean-Yves Le Daut, dput de Meurthe-et-Moselle, prsident de
lOffice parlementaire dvaluation des choix scientifiques et
technologiques (OPECST) ;
- M. Lionel Tardy, dput de la Haute-Savoie
- M. Laurent Celerier, capitaine de vaisseau, commandement
oprationnel de cyberdfense (COMCYBER) ;
- Mme Nozha Boujemaa, directrice de recherche Inria ;
- M. Jean Ponce, professeur et directeur du dpartement dinformatique
de lcole normale suprieure (ENS) ;
- M. Benjamin Werner, directeur du dpartement dinformatique de
lEcole Polytechnique
- M. Pierre-Jean Benghozi, professeur lEcole polytechnique ;
- M. Yves-Alexandre de Montjoye, professeur lImperial College
London
- M. Nikos Paragios, professeur CentraleSuplec ;
- M. Yann Bonnet, Secrtaire Gnral Conseil National du Numrique ;
- Mme Flora Fischer, charge de recherche au CIGREF ;
- M. Alain Clot, prsident de FinTech France ;
- 260 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

- M. ric Leandri, prsident de QWANT ;


- M. David Bessis, prsident de Tinyclues ;
- M. Konstantinos Voyiatzis, vice-prsident de CIO Edenred ;
- Mme Vanessa Heydorff, directrice rgionale France, Espagne et
Portugal de Booking.com ;
- M. Olivier Cuny, secrtaire gnral du groupe ATOS ;
- M. Jean-Philippe Desbiolles, vice-prsident de Watson, IBM France ;
- M. Herv Juvin, prsident de lobservatoire dEurogroup Consulting ;
- M. Antoine Bordes, chercheur chez Facebook ;
- M. Jean Rognetta, directeur de la rdaction de Forbes France ;
- M. ric Sadin, Ecrivain et Philosophe.

B. LTRANGER

1. Genve, Suisse, les 21 et 22 septembre 2016

- Professeur Daniel Schneider, Facult de psychologie et des sciences de


lducation de lUniversit de Genve, spcialiste de le-education ;
- Professeur Alexandros Kalousis, professeur la Haute cole spcialise
de Suisse occidentale et Universit de Genve, spcialiste de machine
learning ;
- Professeur Dominique Boullier, directeur du SocialMedia Lab de lcole
polytechnique fdrale de Lausanne (EPFL), spcialiste de sociologie
du numrique ;
- Professeur Didier Grandjean, enseigne la psychologie cognitive
lUniversit de Genve, spcialiste des relations affectives hommes-
machines ;
- M. Herv Bourlard, directeur de lIdiap (fondation affilie lcole
polytechnique fdrale de Lausanne) ;
- M. Andrei Popescu-Belis, chercheur senior lIdiap et enseignant
lcole polytechnique fdrale de Lausanne ;
- Professeur Felix Schrmann, directeur adjoint du Blue Brain project.
Professeur adjoint lcole polytechnique fdrale de Lausanne
(EPFL) ;
- Professeur Sean Hill, co-directeur du Blue Brain project (BBP) et co-
directeur neuro informatique du Humain brain project (HBP) ;
- Professeur John Richard Walker, conomiste, chercheur snior sur le
Blue Brain Project ;
LISTE DES PERSONNES RENCONTRES - 261 -

- M. Johann Christoph Ebell, directeur excutif du projet HBP ;


- M. Jean-Pierre Changeux, chercheur au HBP, cole normale suprieure,
Collge de France, Institut Pasteur ;
- M. Bernd Stahl, directeur de lthique du HBP, directeur du centre de
calcul et responsabilits sociales. Professeur lUniversit De
Montfort (Royaume-Uni) ;
- Mme Christine Aircardi, chercheur associ au Human Brain Project,
ingnieur de lcole nationale des ponts et chausses.

2. Londres, Royaume-Uni, les 14, 15 et 16 dcembre 2016

- Madame lAmbassadeur de France au Royaume-Uni, Son Excellence


Sylvie Bermann ;
- Mme Natasha McCarthy, responsable de la stratgie, la Royal Society
sur le Machine Learning Project ;
- Mme Jessica Montgomery, conseillre stratgie (senior policy adviser),
la Royal Society sur le Machine Learning Project ;
- Mme Laura Wilton, conseillre stratgie (senior policy adviser), la
Royal Society sur le Machine Learning Project ;
- M. Paul Mason, directeur des technologies numriques et habilitantes
(Head of Digital and Enabling Technologies), Innovate UK ;
- M. Phil Williams, responsable du groupe dintrt sur la robotique et
les systmes autonomes (Robotics and Autonomous Systems Special
Interest Group), Knowledge Transfer Network ;
- M. Noel Sharkey, Universit de Sheffield, Professeur de robotique et
systmes autonomes, co-fondateur de la Foundation for Responsible
Robotics (Fondation pour une robotique responsable) ;
- M. Stephen Metcalfe, membre du Parlement, Prsident de la
Commission pour la Science et la Technologie de la Chambre des
Communes ;
- Dr Nico Guernion, responsable des partenariats (Franais), Alan Turing
Institute ;
- Dr Sandra Wachter, chercheuse en rgulation et thique des donnes,
Alan Turing Institute ;
- Professeur Rose Luckin, ducation et nouvelles technologies, spcialiste
en intelligence Artificielle, UCL Knowledge Lab, University College
London ;
- Dr Kedar Pandya, Directeur associ, Engineering and Physical Sciences
Research Council (EPSRC) ;
- 262 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

- Professeur Alan Winfield, Professeur de robotique, spcialiste des


questions thiques et socitales, University of the West of England
Bristol ;
- Professeur Murray Shanahan, Professeur de robotique cognitive,
Imperial College London ;
- M. Arnaud Schenk, entrepreneur avec First, incubateur en deep learning ;
- M. Bruno Marnette, entrepreneur, prsident de prodo.ai ;
- M. Jacqueline I. Forien, fondatrice du salon du Machine Learning,
professeur de mathmatiques, master de Machine Learning ;
- M. Alexandre Flamant, entrepreneur Venture Capital ;
- M. Stphane Chretien, chercheur au National Physical Laboratory ;
- M. Gautier Marti, doctorant X-ENS, en contrat chez Hellebore Capital
Management.

3. Oxford, Royaume-Uni, le 15 dcembre 2016

- Professeur Michael Wooldridge, Directeur du dpartement de sciences


informatiques, Universit dOxford ;
- Professeur Doyne Farmer, Co-Directeur, conomies complexes, The
Institute for New Economic Thinking (INET), Oxford Martin School ;
- Dr Franois Lafond, Postdoctorant ;
- Dr Rupert Way, Postdoctorant, INET ;
- Dr Anders Sandberg, chercheur, Oxford Martin School Senior Fellow et
Future of Humanity Institute (FHI) ;
- Dr Stuart Armstrong, chercheur en intelligence artificielle et machine
learning, Future of Humanity Institute (FHI) ;
- M. Miles Brundage, chercheur, Strategic Artificial Intelligence Centre,
Future of Humanity Institute (FHI) ;

4. Cambridge, Royaume-Uni, le 16 dcembre 2016

- Dr Stephen Cave, Directeur excutif du Leverhulme Centre for the Future


of Intelligence ;
- Dr Huw Price, Directeur acadmique du Centre for the Study of
Existential Risk (CSER), et du Leverhulme Centre for the Future of
Intelligence ;
- M. Jens Steffersen, Administrateur, Centre for the Study of Existential
Risks (CSER) ;
LISTE DES PERSONNES RENCONTRES - 263 -

- Mme Susan Gowans, Administrateur, Leverhulme Centre for the Future of


Intelligence ;
- Professeur Steve Young, Professeur en ingnierie de linformation
(information engineering), Universit de Cambridge, et membre de
lquipe de recherche dApple sur le logiciel Siri ; prsident de la start-
up de reconnaissance vocale VocalIQ ;
- Dr Sean Holden, chercheur, Artificial Intelligence Group, Universit de
Cambridge ; reprsentant du machine learning group.

5. Washington, D.C., tats-Unis, le 23 janvier 2017

- Snateur Ted Cruz, prsident de la sous-commission du Snat


amricain sur lespace, la science et la comptitivit ( Chairman of the
Senate Commerce Committees Subcommittee on Space, Science and
Competitiveness ) ;
- Reprsentant John Delaney (D-Maryland), prsident du comit sur lIA
du Congrs des tats-Unis ( Chairman of the House AI Caucus ) ;
- M. Jason Matheny, directeur de lagence, Intelligence Advanced
Research Projects Activity (IARPA) ;
- M. Andrew Borene, Intelligence Advanced Research Projects Activity
(IARPA) Partner Engagement Lead ;
- Dr. Brian Pierce, directeur adjoint de linnovation, Defense Advanced
Research Projects Agency (DARPA) ;
- Mme Amanda Lloyd, charge de linternational, Defense Advanced
Research Projects Agency (DARPA)
- Mme Rebecca Keiser, directrice, Office of International Science &
Engineering (OISE), National Science Foundation (NSF) ;
- M. Jim Kurose, directeur adjoint, Computer and Information Science
and Engineering (CISE), National Science Foundation (NSF) ;
- M. Erwin Gianchandani, adjoint du Directeur de lInformatique et de
lIngnierie du Computer and Information Science and Engineering
(CISE), National Science Foundation (NSF) ;
- Mme Lynne Parker, Directrice de la Division Information and
Intelligent Systems (IIS), Computer and Information Science and
Engineering (CISE), National Science Foundation (NSF).
Personnel de lAmbassade de France aux tats-Unis :
- M. Grard Araud, Ambassadeur de France aux tats-Unis ;
- Mme Minh-H Pham, conseillre pour la science et la technologie
lAmbassade de France ;
- 264 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

- M. Renaud Lassus, Ministre Conseiller pour les affaires conomiques


lAmbassade de France ;
- M. Bernhard Hechenberger, Conseiller commercial, Service conomique
rgional ;
- M. Cameron Griffith, charg de mission lAmbassade de France
(Congressional Affairs Liaison) ;
- M. Herv Martin, attach pour la science et la technologie
lAmbassade de France ;
- M. Xavier Morise, Directeur du bureau du CNRS lAmbassade de
France ;
- Mme Mireille Guyader, Directrice du bureau Inserm lAmbassade de
France ;
- M. Norbert Paluch, Conseiller Spatial et Reprsentant du CNES
lAmbassade de France ;
- M. Christophe Barre, Attach pour la Technologie et lInnovation au
Service conomique rgional lAmbassade de France.

6. Boston, tats-Unis, les 24 et 25 janvier 2017

- Professeur Alex "Sandy" Pentland, professeur dinformatique, chaire


Marvin Minsky, MIT Media Lab ;
- Professeur David H. Autor, co-director of the School Effectiveness and
Inequality Initiative economist and professor of economics, MIT ;
- Professeur Iyad Rahwan, professeur dinformatique, MIT ;
- M. Richard Stallman, Free Software Foundation, MIT ;
- Mme Latanya Arvette Sweeney, Professor of Government and
Technology Harvard Data Privacy Lab, , Formerly Chief Technology
officer at SEC ;
- M. David Parkes, professeur dinformatique et responsable du
dpartement dinformatique, Harvard University, School of
Engineering and Applied Science ;
- M. Nicolas Miailhes co-fondateur du projet The Future Society,
Harvard Kennedy School, fondateur de la AI Initiative ;
- M. Richard Mallah, director of AI projects, Future of Life Institute (FLI),
Cambridge Innovation Center, MIT ;
- M. Joseph Aoun, Prsident de North-Eastern University (Boston) ;
- Professeur Thomas A. Kochan, professor of industrial relations, work
and employment, MIT Sloan School of Management ;
LISTE DES PERSONNES RENCONTRES - 265 -

- Mme Chlo Hecketsweiler, journaliste au journal Le Monde, Fellow au


MIT ;
- M. Jean-Franois Guillous, chercheur chez IBM pour le projet Watson ;
- M. Valery Freland, Consul Gnral de France, et son conjoint,
M. Laurent Colomines ;
- M. Jean-Jacques Yarmoff, attach pour la Science et la Technologie ayu
Consulat de Boston.

7. San Francisco, tats-Unis, du 25 au 28 janvier 2017

- M. Philippe Perez, attach pour la Science et la Technologie au consulat


de France San Francisco.

a) San Francisco
- M. Alex Dayon, directeur des produits Salesforce ;
- M. John Ball, directeur du dpartement Einstein de Salesforce ;
- M. Thierry Donneau-Golencer, directeur de la recherche en intelligence
artificielle chez Salesforce (projet Einstein) ;
- M. Gregory Renard, entrepreneur (XBrain), ambassadeur de la
Fondation Sigfox et expert pour la NASA ;
- M. Akli Adjaoute, entrepreneur (Brighterion) ;
- M. Michel Morvan, entrepreneur (Cosmo) ;
- M. Ben Levy, fondateur de BootstrapLabs ;
- M. Nicolas Pinto (ex-startup Perceptio), chercheur en intelligence
artificielle chez Apple ;
- M. Franois Chollet, chercheur chez Google et crateur de Keras et de
AI-ON (Artificial Intelligence Open Network) ;
- M. Fabien Beckers, entrepreneur (Arterys) ;
- M. Johan Math (ex-Google X), chercheur chez Bay Labs ;
- M. Nicolas Poilvert (ex-startup Perceptio), chercheur chez Bay Labs ;
- M. Reza Malekzadeh (Partech Ventures).

b) lUniversit de Berkeley
- M. Michael Jordan, professeur dinformatique lUniversit de
Berkeley ;
- M. Stuart Russell, professeur dinformatique lUniversit de Berkeley ;
- M. Russ Salakhutdinov, professeur dinformatique lUniversit
Carnegie Mellon, directeur de la recherche en intelligence artificielle
chez Apple ;
- 266 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

- Mme Marion Fourcade, professeur de sociologie lUniversit de


Berkeley, chercheuse en sociologie de linnovation et en conomie
numrique ;
- Mme Valrie Issarny, directrice de recherches Inria, base lUniversit
de Berkeley et charge des relations Inria - tats-Unis ;
- M. Ahmed El Alaoui, chercheur en doctorat sous la direction de
Michael Jordan, professeur dinformatique lUniversit de Berkeley.

c) lUniversit de Stanford et dans la Silicon Valley


- M. Oussama Khatib, directeur du centre de robotique, Universit de
Stanford ;
- Mme Fei-Fei Li, directrice du centre dintelligence artificielle, Universit
de Stanford ;
- M. Greg Corrado, directeur de la recherche en intelligence artificielle
chez Google, co-fondateur de lquipe Google Brain ;
- M. Alex Acero, directeur du projet Siri chez Apple ;
- Mme Catherine H. Foster, directrice des affaires publiques chez Apple ;
- M. Larry Zitnick, directeur de la recherche en intelligence artificielle au
centre Menlo Park de Facebook ;
- M. Michael Kirkland, directeur de la communication technologique de
Facebook ;
- Mme Molly Jackman, directrice des affaires publiques chez Facebook ;
- Mme Brenda Tierney, responsable des relations avec les pouvoirs
publics chez Facebook ;
- M. Jack Clark, responsable de la stratgie et de la communication,
fondation Open AI cre par Elon Musk ;
- Mme Cathy Olsson, directrice de recherche la fondation Open AI .

8. Bruxelles, Belgique, 8 et 9 fvrier 2017

- Mme Juha Heikkila chef de lunit robotique et intelligence artificielle,


Commission europenne, et Mme Ccile Huet, son adjointe ;
- M. Jean Arthuis, eurodput et prsident de la commission des Budgets
du Parlement europen ;
- Mme Mady Delvaux, eurodpute, rapporteure sur lintelligence
artificielle et la robotique ;
- Professeur Hugues Bersini, Universit libre de Bruxelles-ULB ;
- M. Erastos Filos, de lunit RTD.D2 Systmes de production avancs
et Biotechnologies ;
LISTE DES PERSONNES RENCONTRES - 267 -

- M. Pascal Rogard, conseiller technologie la RP ;


- Mme Catelijne Muller, rapporteure du Conseil conomique et social
europen (CESE) sur lintelligence artificielle ;
- M. Pegado Liz, prsident du groupe dtude du CESE sur lintelligence
artificielle ;
- Mme Marie-Laurence Drillon, administratrice la section March
intrieur, production et consommation du CESE.
BIBLIOGRAPHIE - 269 -

BIBLIOGRAPHIE

Panorama de lintelligence artificielle, ses bases mthodologiques, ses


dveloppements1, dirig par Pierre Maquis, Odile Papini et Henri Prade,
Cpadus ditions, 2014.
Intelligence artificielle : problmes et mthodes, Grard Tisseau et
Jacques Pitrat, Presses universitaires de France, 1996.
De lintelligence humaine lintelligence artificielle, Hugues Bersini,
Ellipses, 2006.
Les fondements de linformatique, Hugues Bersini et Marie-Paule
Spinette-Rose, Vuibert, 2014.
Brves rflexions dun informaticien obtus sur la socit venir,
Hugues Bersini, Acadmie royale de Belgique, 2017.
Les Sciences cognitives, Jean-Gabriel Ganascia, Flammarion, 1998.
Lintelligence artificielle, Jean-Gabriel Ganascia, Le Cavalier Bleu,
2007.
Le mythe de la Singularit, Jean-Gabriel Ganascia, Le Seuil, 2017.
Des robots et des hommes : mythes, fantasmes et ralit, Laurence
Devillers, Plon, 2017.
Le temps des algorithmes, Serge Abiteboul et Gilles Dowek, Le
Pommier, 2017.
quoi rvent les algorithmes : nos vies lheure des big data,
Dominique Cardon, Le Seuil, 2015.
Droit des robots, Comparative Handbook : robotic technolgies law, Alain
Bensoussan et Jrmy Bensoussan, ditions Larcier, 2016.
En compagnie des robots, Alain Bensoussan, Jean-Gabriel
Ganascia, Yannis Constantinids, Kate Darling, John McCarthy et Olivier
Tesquet, Premier Parallle, 2016.
Dictionnaire politique dinternet et du numrique, Christophe Stener,
Books on Demand, 2016.
Code Informatique, fichiers et liberts, Alain Bensoussan, ditions
Larcier, 2014.
Droit de linformatique et de la tlmatique, Alain Bensoussan,
Berger-Levrault, 1985.

1 Prfac par Paul Braffort, le livre est dit par Cpadus. Le volume 1 traite de la reprsentation
des connaissances et de la formalisation des raisonnements, le volume 2 des algorithmes pour
lintelligence artificielle et le volume 3 des frontires et des applications de lintelligence artificielle.
- 270 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Trait de droit et dthique de la robotique civile, Nathalie Nevejans,


Les tudes Hospitalires dition, 2017.
La Machine de Turing, Jean-Yves Girard et Alan Turing, Le Seuil,
Collections Points Sciences, 1999.
La rvolution transhumaniste, Luc Ferry, Plon, 2016.
Superintelligence, Nick Bostrom, OUP Oxford, 2016.
Deep Learning1, Yoshua Bengio, Aaron Courville et Ian Goodfellow,
The MIT Press, 2016.
Learning in Graphical Models (Adaptive Computation and Machine
Learning, Michael Jordan, A Bradford Book, 1998.
Probabilistic Graphical Models : Principles and Techniques, Daphne
Koller et Nir Friedman, The MIT Press, 2009.
Comprendre le Deep Learning : Une introduction aux rseaux de
neurones, Jean-Claude Heudin, Science eBook, 2016.
Immortalit numrique : Intelligence artificielle et transcendance,
Jean-Claude Heudin, Science eBook, 2016.
Les 3 Lois de la robotique : Faut-il avoir peur des robots ?,
Jean-Claude Heudin, Science eBook, 2015.
Robots et avatars : Le rve de Pygmalion, Jean-Claude Heudin, Odile
Jacob, 2009.
Les cratures artificielles : des automates aux mondes virtuels,
Jean-Claude Heudin, Odile Jacob, 2008.
LHomme neuronal, Jean-Pierre Changeux, Fayard, 1983.
Un cerveau trs prometteur : Conversation autour des neurosciences,
Jean-Michel Besnier, Francis Brunelle et Florence Gazeau, Le Pommier,
2015.
Les systmes multi-agents : vers une intelligence collective,
Jacques Ferber, InterEditions, 1997.
Lge de la multitude : Entreprendre et gouverner aprs la rvolution
numrique, Henri Verdier et Nicolas Colin, ditions Armand Colin, 2015.
Transformation digitale : lavnement des plateformes, Gilles Babinet,
ditions Le Passeur, 2016.
Big Data, penser lHomme et le monde autrement, Gilles Babinet,
ditions Le Passeur, 2015.
Lre numrique, un nouvel ge de lhumanit, Gilles Babinet,
ditions Le Passeur, 2014.

1 Ouvrage disponible en ligne : http://www.deeplearningbook.org/


BIBLIOGRAPHIE - 271 -

Lindustrie du Futur travers le monde, Thibaut Bidet-Mayer, fiche


tlcharger sur le site http://www.la-fabrique.fr/fr/publication/l-
industrie-du-futur-a-travers-le-monde
LIndustrie 4.0 : Les dfis de la transformation numrique du modle
industriel allemand, Dorothe Kohler et Jean-Daniel Weisz, La
Documentation Franaise, 2016
Le Numrique Une chance pour lcole, Jol Boissire, Simon Fau et
Francesco Pedr, ditions Armand Colin, 2013.
Comment le numrique transforme les lieux de savoir : Le numrique au
service du bien commun et de laccs au savoir pour tous, Bruno Devauchelle,
FYP ditions, 2012.
Lcole, le numrique et la socit qui vient, Philippe Meirieu, Denis
Kambouchner et Bernard Stiegler, Fayard, 2012.
Dans la disruption : Comment ne pas devenir fou ?, Bernard Stiegler,
Les liens qui librent ditions, 2016.
Apprendre avec le numrique, Franck Amadieu et Andr Tricot,
Retz, 2014.
Le jour o mon robot maimera, Serge Tisseron, Albin Michel, 2015.
Vivre avec les robots, Essai sur lempathie artificielle, Paul Dumouchel
et Luisa Damiano, Le Seuil, 2016.
Lhomme nu : la dictature invisible du numrique, Marc Dugain et
Christophe Labb, Plon, 2016.
LHomme artificiel, Golems, robots, clones, cyborgs, Michel de
Pracontal, Denol, 2002.
La souverainet numrique, Pierre Bellanger, Stock, 2014.
La silicolonisation du monde : lirrsistible expansion du libralisme
numrique, ric Sadin, L'chappe ditions, 2016.
La vie algorithmique : critique de la raison numrique, ric Sadin,
L'chappe ditions, 2015.
Lhumanit augmente : Ladministration numrique du monde,
L'chappe ditions, 2015.
La Rvolution transhumaniste, Luc Ferry, Plon, 2016.
Le livre blanc dInria sur lintelligence artificielle, coordonn par
Bertrand Braunschweig1
Dix Questions sur lintelligence artificielle et la technologie, poses
lacadmicien Grard Sabah, dans une brochure de lAcadmie des
technologies.

1 https://www.inria.fr/content/download/103897/1529370/.../AI_livre-blanc_n01.pdf
- 272 - POUR UNE INTELLIGENCE ARTIFICIELLE MATRISE, UTILE ET DMYSTIFIE

Quelles priorits ducatives pour 2017-2027 ?, note de France


Stratgie, mai 2016.
Les risques de lautomatisation pour lemploi, M. Arntz, T. Gregory et
U. Zierahn, rapport OCDE, 2016.
Automatisation, numrisation et emploi, rapport du Conseil
dorientation pour lemploi (COE), 2016.
Lcole sous algorithme, note de la fondation Terra Nova, mars 2016.
La dconnexion des lites. Comment Internet drange lordre tabli ?
Laure Belot, Les Arnes, 2015.
Intelligence artificielle et robotique : Confluences de lHomme et des
STIC, cahier de lAgence nationale de la recherche (ANR), mars 2012.
Is Google making us stupid ?, article de Nicholas Carr dans la revue
The Atlantic, juin 2008.
Social media, texting, and personality: A test of the shallowing
hypothesis, Logan E. Annisette, Dr. Kathryn Lafreniere, Elsevier, 2016.
Its 2001. Where Is HAL? , Marvin Minsky, Dr. Dobbs
Technetcast, 2001.
Introduction to Multi-Agent Systems, Michael Wooldridge, John
Wiley & Sons, 2002.
Social Physics, Alex Pentland, Penguin Press, 2014.
Logical Foundations of Artificial Intelligence, Michael R. Genesereth
et Nils J. Nilsson, Stanford University, Morgan Kaufmann Publishers, 1988
What to think about machines that think, John Brockman, Harper
Perennial, 2015.
A (Very) Brief History of Artificial Intelligence, Bruce G. Buchanan,
AI Magazine, 2005.
The Perceptron: A Probabilistic Model For Information Storage And
Organization in the Brain, Frank Rosenblatt, Psychological Review, 1958.
What the Frog's Eye Tells the Frog's Brain, J.Y. Lettvin, H. R.
Maturanat, S. Mc Culloch, W. H. Pitts, Proceedings of the Institute of Radio
Engineers (IRE), 1959.
Artificial Intelligence: A Modern Approach, Stuart Russell et Peter
Norvig, Prentice Hall, 1995.
BIBLIOGRAPHIE - 273 -

LES RAPPORTS DU SNAT

Les robots et la loi, Jean-Yves Le Deaut et Bruno Sido, rapporteurs,


OPECST, Snat n 570 (2015-2016).
Projet de loi pour une Rpublique numrique, Christophe-Andr
Frassa, rapporteur, Snat n 534 (2015-2016).
Le numrique au service de la sant, Catherine Procaccia et Grard
Bapt, rapporteurs, OPECST, Snat n 465 (2014-2015).
Scurit numrique et risques : enjeux et chances pour les entreprises,
Anne-Yvonne Le Dain et Bruno Sido, rapporteurs, OPECST, Snat n 271
(2014-2015).
La place du traitement massif des donnes (big data) dans lagriculture :
situation et perspectives, Jean-Yves Le Deaut, Anne-Yvonne Le Dain et Bruno
Sido, rapporteurs, OPECST, Snat n 614 (2014-2015).
Les drones et la scurit des installations nuclaires, Jean-Yves Le
Deaut et Bruno Sido, rapporteurs, OPECST, Snat n 267 (2014-2015).
Les nouvelles mobilits sereines et durables, Denis Baupin et
Fabienne Keller, rapporteurs, OPECST, Snat n 293 (2013-2014).
Les enjeux des nouvelles technologies d'exploration et de traitement du
cerveau, Alain Claeys et Jean-Sbastien Vialatte, rapporteurs, OPECST,
Snat n 476 (2011-2012).
Proposition de rsolution sur la rgulation des marchs financiers,
Nicole Bricq, rapporteur, Snat n 369 (2011-2012).
La gouvernance mondiale de l'Internet, Claude Birraux et Jean-Yves
Le Deaut, rapporteurs, OPECST, Snat n 219 (2005-2006).
Les consquences de l'volution scientifique et technique dans le
secteur des tlcommunications, Pierre Laffitte et Ren Tregouet,
rapporteurs, OPECST, Snat n 159 (2001-2002).
Images de synthse et monde virtuel : techniques et enjeux de
socit, Claude Huriet, rapporteur, OPECST, Snat n 169 (1997-1998).
Les techniques des apprentissages essentiels pour une bonne
insertion dans la socit de linformation, Franck Srusclat, rapporteur,
OPECST, Snat n 383 (1996-1997).
La France et la socit de linformation : un cri dalarme et une
croisade ncessaire, Pierre Laffitte, rapporteur, OPECST, Snat n 213 (1996-
1997).
Les nouvelles techniques dinformation et de communication : lHomme
cyberntique, Franck Srusclat, rapporteur, OPECST, Snat n 232 (1994-
1995).

Vous aimerez peut-être aussi