Académique Documents
Professionnel Documents
Culture Documents
Guerre Des Intelligences, La - DR Laurent Alexandre
Guerre Des Intelligences, La - DR Laurent Alexandre
ISBN : 978-2-7096-6093-8
www.editions-jclattes.fr
À Mounir Mahjoubi
le ministre de l’Intelligence Artificielle
Au pied du mur
l’Intelligence Artificielle.
Elle nous emmène dans un monde dont les règles
fondamentales changent rapidement. L’immense puissance
informatique met à notre portée des technologies dont nous
pouvions à peine rêver il y a cinquante ans.
La révolution NBIC n’est pas juste une révolution de plus
Elle comporte trois différences avec la vague technologique de
1870-1910.
D’abord, la France de la Belle Époque était en pointe. Elle
dictait au monde le rythme du changement. Aujourd’hui, elle
passe à côté des NBIC.
Ensuite, l’objet des NBIC est la modification de notre
humanité biologique, et non plus la manipulation de la
matière inanimée, ce qui pose des problèmes inédits.
Enfin, les NBIC connaissent un développement exponentiel
ce qui génère une énorme imprévisibilité et rebat en
permanence les cartes économiques et géopolitiques.
Jamais la vitesse d’évolution de notre société et l’incertitude
sur sa direction n’auront été aussi grandes.
Entre les premiers hominidés il y a quelques millions
d’années, jusqu’au Néolithique, vers 9000 avant J.-C., les
changements au cours d’un millénaire étaient insignifiants
l’Homme évoluant très lentement. À partir du Néolithique, le
rythme de l’humanité s’est accéléré : sédentarisation
apparition de l’agriculture et des villes, de systèmes
administratifs, de l’écriture, explosion démographique et
développement des sciences se succèdent en quelques
millénaires. Il n’existe cependant quasiment aucune différence
importante de connaissance technique ou médicale entre les
Babyloniens du IIe millénaire avant notre ère et le XVIIe siècle en
Europe. En médecine, les théories grecques de l’Antiquité
comme celle des humeurs par exemple, étaient encore
des dogmes acceptés !
À partir du XIXe siècle et de la révolution industrielle, le cours
de l’histoire a commencé à s’accélérer, et le monde ne
ressemblait plus guère en 1900 à ce qu’il était au début de
l’Empire, un siècle plus tôt : mécanisation de l’industrie grâce
à la vapeur, apparition de l’entreprise moderne
développement du réseau ferré…
Le XXe siècle a été une époque d’accélération du rythme et de
l’importance des innovations : percées technologiques et
médicales, développement de la société de consommation et
enfin mondialisation auront été, si l’on excepte les
traumatismes des deux guerres mondiales, les totalitarismes
et les génocides, les faits marquants de cette période. Dans les
livres d’histoire, le XXe siècle fera néanmoins figure de période
assez calme et terne – quoique pleine de bruit et de fureur –
comparée au siècle suivant. Une simple transition vers une
période d’accélération qui va laisser l’humanité clouée sur son
siège.
Car nous sommes au pied du mur, ou plutôt au pied d’une
croissance explosive et vertigineuse de nos capacités
technologiques.
L’humanité doit se préparer à escalader la face nord de son
Histoire.
Il n’y a pas de fatalité en matière d’avenir, mais des logiques
profondes qui peuvent être infléchies, à certaines conditions
S’il n’est pas certain qu’une prise de conscience de la
neurorévolution1 soit suffisante pour orienter son cours, il ne
fait en revanche aucun doute que rester dans l’ignorance et le
déni est le meilleur moyen d’aboutir au pire des scénarios
Celui d’un monde ou l’Homme subirait son futur. Celui d’un
monde inégalitaire ou seuls les meilleurs sortiraient
vainqueurs, laissant la multitude à la merci d’une
neurodictature.
L’école, sous sa forme actuelle, va mourir. Ce qui reste à
déterminer, en revanche, est la façon plus ou moins
douloureuse dont elle disparaîtra. Si elle fait trop de
résistance, elle risque d’empêcher les enfants, spécialement
ceux issus des milieux les plus modestes, de profite
rapidement des bénéfices d’un accès inédit à l’intelligence
Surtout, il faut comprendre que la réinvention de l’école sera
la condition d’un sauvetage bien plus fondamental : celui de
l’humanité tout entière. Car la nouvelle école que nous allons
inventer devra nous permettre de relever le défi immense de
notre utilité dans un monde bientôt saturé d’Intelligence
Artificielle.
La rupture AlphaGo
L’Homme marginalisé
par l’industrialisation de l’intelligence
Le moment transhumaniste
17 % de NEETs
Qu’est-ce que l’intelligence ?
L’intelligence fait partie de ces termes que chacun utilise
sans être capable de le définir précisément. Le mot est dérivé
du latin intelligere signifiant « connaître ». Le mot latin lui
même est un composé du préfixe inter (« entre ») et legere
(« choisir, cueillir ») : étymologiquement, l’intelligence est
donc la capacité à trier les éléments disponibles – cueillir ceux
qui sont pertinents – et à les lier entre eux. C’est « l’ensemble
des fonctions mentales ayant pour objet la connaissance
conceptuelle et rationnelle2 ». Elle est ce qui permet de
connaître le monde. L’intelligence utilise les informations
fournies par les sens pour travailler, mais est aussi capable de
prendre du recul face à elles, d’en déceler le caractère
trompeur afin de les interpréter correctement.
Les choses ont un rapport entre elles que notre intelligence
nous permet d’appréhender. Nous réalisons des allers et
retours incessants entre l’expérience concrète et les règles
abstraites qui nous permettent de concevoir le réel.
Lorsqu’elle est mise en lien avec l’action, l’intelligence est
proche de la définition habituelle que l’on donne de la
rationalité : elle est la capacité de choisir ses moyens d’action
en fonction des circonstances pour atteindre au mieux la fin
que l’on s’est fixée. L’intelligence est alors caractérisée par
l’efficacité avec laquelle il sera possible d’atteindre un objectif
S’il est difficile de définir précisément ce qu’est
l’intelligence, il est encore plus difficile de l’évaluer. Les tests
de Quotient Intellectuel (QI) ont cette fonction. Ils ont été
inventés à la fin du XIXe siècle par des chercheurs s’intéressant
à la mesure de l’intelligence. Leur première utilisation à
grande échelle date de la Première Guerre mondiale, lorsque
l’armée américaine, qui n’avait jusque-là pas d’armée de
masse, a sélectionné ses officiers sur la base de leur QI.
Sir Francis Galton (1822-1911) a été le plus notable de ces
chercheurs. Il est amusant de se souvenir que Galton était le
cousin de Charles Darwin (1809-1882), le théoricien de
l’évolution. Les deux scientifiques n’ont pas que des liens
familiaux : là où Darwin montra la force impitoyable de la
sélection naturelle qui sélectionne les plus aptes et élimine les
autres (« survival of the fittest »), Galton chercha toute sa vie
à montrer la véracité de la théorie évolutionniste. C’est Galton
qui inventa ce néologisme grec destiné à occuper une place s
grande dans notre siècle : l’eugénisme3.
Galton a voulu développer des outils d’évaluation objective
de l’intelligence afin de démontrer les deux points qu
l’obsédaient : les variations de l’intelligence au sein des
populations4 et le caractère héréditaire5 de cette intelligence.
Parler de QI n’a guère la cote aujourd’hui. L’évocation de ces
tests mobilise tout de suite un tir de barrage de critiques : non
scientifiques, ils seraient trop facilement pris comme l’alpha et
l’oméga de l’intelligence.
Que penser de ces critiques, renforcées par notre réticence
désormais instinctive face à toute esquisse de déterminisme –
l’idée selon laquelle nous sommes inégaux de naissance et
que rien ne peut y remédier totalement ?
La première chose à préciser est que les tests de QI sont
« empiriques », c’est-à-dire bâtis à partir d’observations tirées
de l’expérience. Ces tests font d’ailleurs encore l’objet de
larges débats dans la communauté des chercheurs et sont
sans cesse modifiés. Il n’y a pas un test de QI définitif. Il ne
faut jamais perdre de vue que le QI est considéré dans ce livre
comme une mesure insuffisante et à compléter de
l’intelligence.
Ensuite, le QI n’a pas pour but de mesurer l’intelligence
dans l’absolu, mais de constituer une mesure relative de sa
répartition dans une population. C’est le sens de la courbe de
Gauss – appelée familièrement courbe en cloche – de la
figure 1. Dans cette distribution typique où le plus grand
nombre se situe dans un honnête milieu, et où une petite
proportion d’extrêmes se détache vers le haut comme vers le
bas.
Figure 1 : Répartition théorique des QI (Herrnstein & Murray, 1994)6
Le QI de 100 représente, par construction, la moyenne. Les
QI considérés comme anormaux – au sens de différents pa
rapport à la norme – sont ceux supérieurs à 132 ou inférieurs à
68. Une personne sur 30 000 environ a un QI égal ou
supérieur à 160.
Le QI s’est considérablement élevé dans nos sociétés au
XX siècle : c’est ce que l’on appelle l’« effet Flynn ». Cela est
e 7
La neuroplasticité
La neurologie donne un point de vue bien particulier su
l’apprentissage. Qu’est-ce en effet qu’apprendre d’un point de
vue neuronal ? Créer des connexions entre neurones18. Qu’est
ce que se souvenir ? Activer des connexions neuronales déjà
créées. Les observations qui ont été faites sur le
fonctionnement du cerveau aident notamment à comprendre
dans quelles conditions et avec quels leviers on apprend le
mieux19 : on retiendra quelque chose si on y voit un intérêt
pour notre survie, si cela est lié à une émotion ou si cela fait
écho à quelque chose que l’on sait déjà – ce sont les fameux
« moyens mnémotechniques » que nous utilisons tous.
Les dernières découvertes concernant le cerveau ont mis en
évidence sa fantastique plasticité : même si avec l’âge les
changements sont plus difficiles, le cerveau est capable
durant toute la vie de supprimer et de recréer des liens entre
neurones. En 24 heures, 10 % des connexions synaptiques
sont remplacées dans certains groupes de neurones20 ! Ce qu
caractérise l’identité génétique d’un cerveau donné n’est pas
« sa structure », car il n’y en a pas a priori, mais bien sa
capacité à apprendre. Le cerveau doit sa grande valeur non
pas à ce qu’il est mais à sa capacité à s’adapter.
Nous sommes collectivement en train d’expérimenter cette
plasticité du cerveau à l’heure où l’usage des nouveaux outils
numériques remodèle nos capacités de concentration et de
mémorisation. Dans son livre à succès Ce qu’Internet fait à
notre cerveau21, le journaliste Nicholas Carr décrit de quelle
façon notre cerveau, qui avait été formaté depuis des siècles
par les « outils de l’esprit » traditionnels – alphabet, cartes
presse écrite, montre –, est en train de connaître une
réorganisation profonde du fait de nos nouvelles pratiques
numériques. Là où le livre favorisait la concentration longue et
créative, Internet encourage la rapidité, l’échantillonnage
distrait et la perception de l’information par de nombreuses
sources. Une évolution qui nous rendrait déjà plus dépendants
des machines que jamais, accros à la connexion, incapables
d’aller chercher une information sans le secours d’un moteur
de recherche, doués d’une mémoire défaillante et finalement
plus vulnérables aux influences de toutes sortes.
Une nouvelle économie
Le tabou du QI est suicidaire
Les publics fragiles veulent de la réassurance. Ils ne sont pas
prêts à entendre que l’IA menace tous les gens qui ne sont pas
des manipulateurs de data ou dotés d’une forte créativité. Les
hommes politiques ne veulent à aucun prix ouvrir la boîte de
Pandore de ce débat entièrement miné. Le QI reste un tabou
Emmanuel Macron déclencha, on s’en souvient, une violente
polémique menée par les bien-pensants lorsqu’il fit remarquer
que la reconversion des ouvrières de Gad serait difficile
puisque beaucoup étaient illettrées. La plasticité cérébrale
n’est hélas pas illimitée, sinon les ouvrières de Gad
deviendraient data scientists ou physiciens nucléaires en
suivant une formation. Et elle est inégalement répartie : les
différences d’intelligence sont d’abord des différences de
plasticité neuronale.
La lutte contre les discriminations et les inégalités est
devenue le fil rouge d’un pan entier de l’action publique en
France. La liste des sources des discriminations reconnues ne
cesse de s’allonger, loi après loi : opinion politique, genre et
préférences sexuelles, origines sociales, religieuses, ethniques
Le QI est encore le grand absent de ces politiques. Les
différences d’intelligence, et leurs lourdes conséquences, sont
une réalité indicible pour les pouvoirs publics.
Pour quelle raison le silence des discours publics en matière
d’inégalités de QI est-il, à l’heure actuelle, total ? Il est plus
facile d’expliquer aux catégories sociales les moins favorisées
que leur situation est due à des causes extérieures malignes
et qu’elles n’en sont que les victimes, alors qu’en théorie rien
ne devrait les empêcher de réussir aussi bien que les autres
C’est sur de telles explications que prospèrent les discours
anticapitalistes pour qui les hiérarchies de classes ne sont que
la conséquence d’une mondialisation « ultra-libérale » où
certains, parce qu’ils sont les plus chanceux et/ou les plus
malhonnêtes, dominent les autres. Les discours conservateurs
diamétralement opposés, n’acceptent pas non plus
l’explication du déterminisme génétique : pour eux, il est plus
commode de penser que les différences sociales sont le reflet
du mérite des gens dans l’absolu, c’est-à-dire que certains ont
plus travaillé pour réussir leur vie.
Dans les deux cas, l’explication est confortable mais
parfaitement stérile : dans le premier, les plus défavorisés sont
dédouanés de toute responsabilité, et peuvent donc
revendiquer des compensations face à ce qui est une injustice
sociale ; dans le second les plus pauvres sont responsables de
leur situation, et ils n’ont à s’en prendre qu’à eux-mêmes…
Au-delà des idéologies, personne ne veut s’entendre dire
que son absence de réussite scolaire ou sociale est due à un
manque d’intelligence. Être une victime du système, ou même
à la limite un paresseux, a plus de dignité à nos yeux que
d’être un défavorisé de l’intellect.
Il n’est pas concevable d’expliquer aux gens que leu
situation est bien due à une discrimination, mais que cette
discrimination est essentiellement celle de l’intelligence, su
laquelle on a peu de prises. Aujourd’hui, le poids déterminant
des inégalités de QI sur la réussite reste ainsi un sujet
absolument tabou, alors qu’elles sont les principales sources
des inégalités sociales et économiques ! Le déterminisme du
QI est ainsi inacceptable du triple point de vue politique
moral et philosophique.
La grenouille et l’orthodontiste
Il n’y a pas de médaille d’argent
La mort du travail ?
La fin du bricolage éducatif
L’hyperpersonnalisation de l’éducation
Le scénario Gattaca
1 sur 1 4,2
1 sur 10 11,5
5 générations de sélections de 1
60
sur 10
10 générations de sélections de 1
120
sur 10
La seconde voie pour rester dans la course avec l’IA est celle
du cyborg, proposée par Elon Musk. Elle est beaucoup plus
prometteuse, dans un premier temps au moins. Pour une
bonne raison : elle sera technologiquement plus rapidement
au point, et plus puissante. La sélection et la manipulation
génétique impliquent de savoir parfaitement quelles zones de
l’ADN toucher pour parvenir aux deux objectifs principaux
qu’auront tous les parents : rendre très intelligents et faire
vivre longtemps en bonne santé. Or, s’il est facile de repére
les marques génétiques liées à la couleur des yeux ou au type
de métabolisme hépatique, ce qui détermine l’intelligence est
le fruit d’un cocktail subtil de facteurs. Ces deux qualités
essentielles que sont l’intelligence et la santé ne sont pas
comme des interrupteurs que l’on pourrait allumer ou éteindre
à sa guise. Ils sont très complexes. Par ailleurs, la crainte que
l’humain OGM ne soit plus humain sera forte.
Autre problème de taille : la technologie génétique ne
pourra profiter par définition qu’aux nouvelles générations1. I
sera difficile à entendre pour les humains nés alors que les
connaissances eugéniques seront encore trop modestes pou
permettre d’augmenter tout le monde dès la naissance, qu’ils
deviendront des grands-parents débiles pour leurs petits-
enfants… La volonté d’augmentation sera forte et immédiate
« Neuro subito2 ! » Il faudra augmenter les gens le plus vite
possible, et il ne sera pas concevable d’attendre vingt-cinq
ans qu’une nouvelle génération correctement modifiée naisse
et grandisse, au risque de mettre au rebut une génération
entière. Comme le re-paramétrage du vivant est trop lent, le
recours à la technologie électronique s’imposera.
Elon Musk lui-même a souligné en avril 2017 que la piste
génétique était trop lente, au moins pour la période de
transition, face à une IA qui galope : « La révolution de l’IA
rend le cerveau humain obsolète. » Il oublie seulement un
point : les modifications génétiques se transmettent de
génération en génération alors que ses implants Neuralink
devront être intégrés dans le cerveau à chaque génération. Un
dernier point est préoccupant : il est possible que les implants
de type Neuralink augmentent davantage les capacités
intellectuelles des gens déjà doués, ce qui accentuerait les
inégalités.
Pauvreté et cerveau
Neuroéthique
Pour aller plus loin que le test de Turing jugé trop facile,
un nouveau test, le Winograd Schema Challenge, a été
proposé. Il s’appuie sur les travaux d’un Québécois,
Hector Levesque. Chercheur au département des
sciences informatiques de l’université de Toronto,
Levesque a conçu une alternative au fameux test de
Turing censée être plus pertinente afin de déceler de
l’intelligence chez une machine3.
Laurence Devillers, chercheuse en IA au CNRS, va plus
loin et pense que nous devons pouvoir évaluer les
robots tout au long de leur vie puisqu’ils vont évoluer et
changer à notre contact. Elle considère que des tests de
contrôle technique des automates dotés d’IA
s’imposeront pour vérifier qu’ils ne nous manipulent pas
et ne nous mentent pas.
Laurence Devillers pense aussi qu’il est crucial de
monitorer le comportement des humains au contact des
automates afin de nous prémunir contre un attachement
excessif vis-à-vis des cerveaux de silicium et éviter que
nous soyons trop influençables.
Le champ de l’évaluation des différents cerveaux est
immense. Depuis la mesure de notre complémentarité
avec l’IA, jusqu’au contrôle de notre coévolution, la fin
du travail n’est pas près de menacer les psychologues
de l’IA. D’ailleurs Google vient de créer PAIR – People +
AI Research – pour aider les êtres humains à apprivoiser
l’IA.
Quelques pistes
Transhumanisme et chrétienté
Les convictions transhumanistes prennent déjà aujourd’hui
dans la Silicon Valley en particulier, l’allure d’une véritable
religion. Exactement comme n’importe quelle religion, cet
ensemble de croyances influence le rapport des hommes aux
autres et à eux-mêmes, leur livre les grandes lignes d’une
morale, et constitue une grille de lecture à travers laquelle
comprendre le monde et ses évolutions2. Avec le
transhumanisme, un nouveau paradigme religieux émerge
celui de l’Homme-Dieu. Ce n’est plus le renoncement de
l’athée qui se voit seul dans l’univers, c’est désormais
l’affirmation fière de ce que l’homme peut tout faire, y compris
créer du vivant et se recréer lui-même.
Le transhumanisme, véritable religion 3.0, opère, en fait, un
retour inattendu vers la position « spiritualiste » des formes
religieuses traditionnelles selon laquelle l’esprit existe en
dehors et indépendamment du corps. Cette approche avait été
démentie par la biologie moderne qui n’avait nul besoin
d’ajouter un « souffle » – spiritus en latin – dans notre cerveau
pour expliquer son fonctionnement. En considérant possible
et même inéluctable, qu’à terme notre conscience
s’affranchisse de notre enveloppe biologique, la religion
transhumaniste revient de fait à penser qu’il peut exister un
« moi » en dehors du corps.
C’est sur cette vision que les transhumanistes radicaux
s’appuieront pour promouvoir l’abandon de notre corps
biologique.
La complémentarité des intelligences
Dans un article lumineux3, l’intellectuel Kevin Kelly s’élève
contre ce qu’il appelle mythe de l’IA, c’est-à-dire l’illusion que
notre intelligence pourrait être dépassée par elle. En effet
l’intelligence, souligne-t-il, n’a pas qu’une seule dimension
mais des centaines. Être « plus intelligent » que nous n’a ains
pas de sens si l’on comprend cette idée comme un
dépassement général de l’humain, car l’intelligence n’est pas
comme une fréquence sonore ou les longueurs d’onde que l’on
peut classer de la plus forte à la plus faible.
La croyance que l’IA serait vouée à devenir notre maîtresse
est, dit encore Kelly, très comparable à une croyance
religieuse. D’ailleurs, c’est bien d’un nouveau Dieu dont nous
rêvons confusément quand nous imaginons l’avènement de la
Singularité. Ce Dieu-là n’arrivera pas. Il n’est sans doute que la
projection de notre fantasme de toute-puissance.
L’idée d’une intelligence à multiples dimensions n’est pas
nouvelle.
C’était en particulier la thèse défendue par Howard Gardner
dans son livre Les Intelligences multiples, la théorie qu
bouleverse les idées reçues4. Ce professeur en psychologie
cognitive à Harvard est parti du constat étonnant que
certaines capacités intellectuelles peuvent, chez la même
personne malade, avoir disparu sans que d’autres soient
perdues. Ce genre de cas, qui existent bel et bien dans la
réalité5, a suggéré à Gardner l’idée qu’il existe différentes
formes d’intelligence indépendantes les unes des autres. I
distingue sept catégories : logico-mathématique, spatiale
interpersonnelle, corporelle, verbo-linguistique, intra
personnelle, musicale. Il rajoutera plus tard l’intelligence
« naturaliste ».
Depuis les travaux de Gardner, d’autres classifications des
intelligences ont été proposées, distinguant cinq
intelligences : logique, sociale, musicale, manuelle et
culturelle… La plus célèbre de ces autres formes
d’intelligences est sans doute celle que l’on nomme
aujourd’hui l’intelligence émotionnelle, qui permettrait même
de calculer le QE – quotient émotionnel –, censé concurrencer
l’hégémonique QI.
Pour Kevin Kelly, cette variété des intelligences est
comparable à une symphonie où des centaines d’instruments
apportent chacun un son particulier, aucun ne pouvant être
réduit à un autre. « Nous avons plusieurs types
d’intelligences : le raisonnement déductif, l’intelligence
émotionnelle, l’intelligence spatiale, il y en a peut-être cent
types différents, qui sont tous regroupés et dont la force varie
selon les individus. Et bien sûr, concernant les animaux, ils en
ont tout un autre panel, une autre symphonie d’intelligences
différentes, et quelquefois ils ont les mêmes instruments que
les nôtres. Ils peuvent penser de la même façon, mais
s’organiser différemment et sont parfois plus performants que
les humains, comme la mémoire à long terme de l’écureuil est
phénoménale, car il peut se rappeler où il a enterré ses noix
Et dans d’autres cas, ils le sont moins6. »
Pour Kelly, cette diversité des intelligences va devenir de
plus en plus évidente : « Dans cent ans, le terme intelligence
sera comme le terme neige pour un eskimo. Nous aurons cent
autres façons de la décrire pour distinguer ses variétés. »
Les éthiciens des intelligences
Dessine-moi une IA
Les sept basculements
Bâtir le théologiciel
Page de titre
Page de copyright
Du même auteur
Dédicace
INTRODUCTION
CHAPITRE 5 : « TOUT SE JOUE AVANT 0 AN » : L’ÉCOLE EST DÉJÀ UNE TECHNOLOGIE
OBSOLÈTE
CHAPITRE 6 : DANS L’ÉCONOMIE DE DEMAIN, L’INTELLIGENCE N’EST PLUS UNE OPTION
CHAPITRE 14 : « CORPS, ESPRIT ET HASARD », LES TROIS NOUVEAUX PILIERS QUI
REMPLACENT « LIBERTÉ , ÉGALITÉ ET FRATERNITÉ »
FIL ROUGE