Intelligence artificielle: où en-est-on ?

(Janvier 2023).

Depuis la naissance de l’intelligence artificielle dans les années soixante du siècle dernier ,
le projet de l’IA a traversé successivement des périodes de développement pleines
d’enthousiasme, comme vers 2012 avec l’apparition des réseaux neuronaux et de
l’apprentissage profond , et d’autres de stagnation.
Ces deux dernières années constituent une période-charnière soumise à des tendances
contradictoires, avec à la fois la mise sur le marché de produits surprenants qui ont suscité
un engouement du public et une ruée des investisseurs, et en même temps du côté des
chercheurs de pointe le développement de critiques et de doutes sur le développement à
moyen terme de l’intelligence artificielle.
Nous esquissons un examen de ces deux aspects et de leurs relations.

I Les modèles génératifs : leurs succès et leurs défauts .

La nouveauté technologique qui a marqué la période récente est la mise au point de

nouveaux types de logiciels : les modèles génératifs . Ce sont des logiciels utilisant de
nouveaux types de modèles les GPT ( generative pre-trained transformer,transformeurs
génératif pré-entraînés ) qui utilisent des bases de données gigantesques,par exemple tout
Wikipedia ( ! ) pour engendrer de nouveaux contenus à partir de contenus extraits de ces
bases .Ainsi les grands modèles de langages ( LLM pour ‘’large language models ‘’ )
permettent , grace à des outils statistiques puissants, de compléter un morceau de texte de
manière cohérente en fournissant la fin du texte la plus probable.
En novembre 2022 la firme OpenAI a mis sur le marché un outil de conversation ( chatbot)
ChatGPT exploitant le système GPT-3 construit avec environ 175 milliards de paramètres
( les valeurs que le réseau cherche à optimiser ) qui permet une conversation avec un
interlocuteur humain .En cinq jours la machine a participé à plus d’un million de
conversations , produit par exemple des poèmes sur des thèmes proposés ,répondu à la place
de collègiens à des interrogations de leurs professeurs …
D’autres produits sont apparus à la même période ,avec des effets tout aussi
surprenants ,comme DALL.E ( produit aussi de OpenAI) qui produit des images à partir
de textes descriptifs .
Devant ces succès impressionnants ,une veritable frénésie s’est emparée des publics , qui
a stimulé des investissements phénoménaux des entreprises-pilotes de l’intelligence
artificielle-IA- ( MAMAA: Microsoft,Amazon,Meta,Alphabet,Apple) et des puissantes
structures financières soutenant le développement autour de la Silicon Valley.Selon les
dernières nouvelles ( Janvier 2023) Microsoft serait prêt à investir dix milliards de dollars
dans un partenariat avec Open AI [1].
Les prouesses des modèles génératifs ont suggéré à certains des chercheurs de pointe de
1
l’intelligence artificielle qu’une étape avait été franchie sur la voie de l’ intelligence
artificielle générale ( AGI).
[ Note ]:
AGI: intelligence artificielle générale : programme conçu vers 2000 qui vise à concevoir
des machines capable des principales compétences attribuées généralement à l’intelligence
humaine : le raisonnement , la représentation de la connaissance et du sens commun, les
capacités d’apprentissage, la capacité de créativité pour résoudre des problèmes ,la
flexibilité et la capacité d’adaptation et l’intégration - sans intervention humaine -de ces
compétences .

Cet espoir a été rapidement déçu : les modèles génératifs sont limités et présentent des
défauts graves et difficilement corrigibles.
La machine n’est pas intelligente, elle ne comprend pas la question à laquelle elle répond,sa
réponse est seulement le produit d’opérations statistiques sur des bases de données de très
grandes dimensions. D’ailleurs de nombreux exemples montrent des réponses soit absurdes
soit fausses [2].On imagine les dégâts que pourrait produire la diffusion de ces outils.
Ces critiques des modèles génératifs étaient déjà presents à partir de 2020 chez Rodney
Brooks , spécialiste de robotique et observateur critique de l’intelligence artificielle. Il
publie chaque année depuis 2018 ses prédictions sur le
développement de l’IA [3] ,prédictions qui se sont souvent avérées exactes , concernant par
exemple les difficultés pour le moment insurmontables du projet des voitures autonomes.
Citons Brooks sur les modèles génératifs :
‘’ Il y a eu une veritable explosion mediatique sur les modèles génératifs dans deux
directions; selon l’une des effusions sur les performances de virtuoses de ces systèmes ,
souvent choisies ad hoc , selon l’autre des exemples encore soigneusement choisis montrant
leur incompétence …
Les grands modèles de langage ( LLM ) vont peut-être trouver des niches comme
débouchés ,mais ils ne seront pas au fondement de l’intelligence artificielle du futur’’
( Janvier 2023).
Un autre spécialiste de l’intelligence artificielle et des sciences cognitives , Gary
Marcus,professeur à New-York University a depuis longtemps critiqué la voie qui domine
depuis plusieurs dizaines d’années l’intelligence artificielle ,celle des méthodes statistiques
sans utilisation des méthodes logiques utilisant des representations symboliques. Marcus
réitère ses critiques par exemple dans [4].
Même Yann LeCun , directeur de l’Intelligence artificielle chez Meta (un des géants du web
, propriétaire de Facebook,Instagram et Whatsapp ), créateur vers 2010 et promoteur du
Deep learning, est revenu brutalement sur ses positions et a declaré récemment : ‘’ La
plupart des approches actuelles de l’AI ne conduiront jamais à la véritable intelligence ‘’ [ 5]

2
 Ces nouveaux logiciels sont capables de prouesses étonnantes susceptibles d’applications
nombreuses qui sont développées actuellement , mais on ne sait pas encore corriger
leurs défauts.

II Recherches en cours ,et questionnements .

Inspirées par le projet ( le rêve ?) d’une intelligence artificielle générale proche de

l’intelligence humaine, les travaux actuels en intelligence artificielle sont éclatés dans des
directions multiples .
Un panorama exhaustif d’une situation instable et en plein développement est
impossible,nous avons choisi de nous laisser guider par le débat qui a réuni en
Décembre2022 une vingtaine de chercheurs éminents en intelligence artificielle ,lors de la
troisième conférence organisée par l’équipe d’Intelligence artificielle de Montreal et pilotée
par Gary Marcus .Ce débat [6]  fait partie d’une série de trois conférences , les deux
première conferences ( en 2019 et 2020 ) avaient pour thème respectivement ‘’Faire avancer
l’IA ‘’ et
‘’ Vers une approche interdisciplinaire de l’AI ‘’ , la troisième avait pour titre ‘’ ‘’ Le débat
vers l’AGI ‘’ .G.Marcus a résumé d’une phrase les trois heures de débat :
‘’Un débat épique qui montre pourquoi nous devrions être au moins un peu inquiets des
progrès de l’IA en 2023’’ ( An epic AI-debate and why everyone should be at least a little
worried about AI_ going into 2023 ) ‘’
Les thèmes soumis au préalable aux orateurs :
--Peut-on compter sur l’ouverture de l’IA à d’autres disciplines ? Peut-on s’inspirer des
sciences cognitives et des neurosciences pour aller plus loin ?
_ Comment concevoir un ‘’ sens commun artificiel ‘’ ( common sense )
__- Comment développer et structurer les systèmes d’AI ?
-Comment construire des systèmes d’AI qui reflètent et respectent les valeurs humaines ?

L’ensemble de ces questions et les réponses qui furent apportées montrent l’éclatement des
directions de recherché ,la demande d’appui dans les disciplines connexes ( sciences
cognitives,neuro- sciences , et même philosophie ) , et souvent chez les orateurs les doutes
et les inquiétudes sur les futures étapes en vue de l’intelligence artificielle générale .
Evoquons quelques unes des interventions de ce débat .Et d’abord ,en invité extérieur et
critique permanent de l’intelligence artiificielle ,Noam Chomsky a répété son point de vue
constant : pour lui les méthodes suivies ne pourront jamais apporter des réponses aux
questions fondamentales qu’il se pose sur la spécificité de l’esprit humain , sur la
constitution du langage ,sur la cognition ,car les méthodes actuelles de l’IA ne peuvent pas
distinguer entre langages possibles et langages impossibles ( une distinction fondamentale
qui résulte des travaux de Chomsky les grammaires transformationnelles ) .
Parmi les éminents specialistes de l’IA:
3
Francesca Rossi ,membre de l’équipe de recherché d’IBM ,
a proposé un modèle d’intellligence artificielle reposant sur deux systèmes séparés
interagissant et inspirés des travaux de psychologie cognitive de Kahneman [7].
Yejin Choi, professeur d’informatique à l’Université de Washington a évoqué les
difficultés de la construction d’un ‘’ sens commun artificiel ‘’ en les comparant avec les
mystères de la matière noire en physique .Dans un second exposé elle a abordé
l’introduction de critères éthiques en intelligence artificielle .
Plusieurs orateurs dont Dileep George ( Deep Mind ) ont défendu le projet d’une
intelligence artificielle hybride mêlant les méthodes statistiques et l ‘approche ‘’
neurosymbolique ‘’ pour rendre possible le raisonnement abstrait et la capacité des machines
à généraliser .
Enfin signalons les deux interventions finales , qui chacune ont exprimé les interrogations
et l’inquiétude largement partagées lors de ce débat : Kai-Fu-Lee ( ancien chercheur de
Google et Microsoft) s’est inquiété de l’arrivée très probable d ‘outils de
désinformation ,par exemple la fabrication de messages de publicité ou de propagande
politique personnalisés: chacun recevrait des messages adaptés envoyés par exemple par une
grande compagnie; il lui paraît impossible de resister à des envois mensongers
personnalisés concus à des fins commerciales ou de propagande dans le champ politique.
Enfin Angela Sheffiels ,spécialiste des applications de l’IA à des prises de décision dans des
contextes militaires délicats , a évoqué le contexte de la dissémination nucléaire et les
problèmes qui pourraient être abordés avec les outils de l’AGI.
Au total donc beaucoup de questions soulevées, qui demandent une réflexion approfondie
pour la conception de nouveaux outils d’IA capables d’intelligence et adaptés aux
problèmes éthiques et socio-politiques du futur.

Enfin ,pour compléter cet apercu de l’état actuel des productions et des recherches en
intelligence artificielle , deux domaines où cette technique est déjà bien présente :
-- La recherche mathématique:
-L’art numérique.
Un colloque récent ,dédié au mathématicien ( médaille Fields )Ashkav Venkatesh , a été
consacré au rôle de l’intelligence artificielle en mathématiques .
La discussion ,autour d’un texte préliminaire du lauréat [ 8 ] a permis la présentation de
travaux mathématiques appuyés sur des outils informatiques, et un débat autour des
conséquences futures de progrès de l’AGI pour les mathématiques : les machines
remplaceront-elles les mathématiciens [9]?
les structures des MAMAA exercent déjà une forte pression idéologique sur le milieu
mathématique [10]

4
--- Un autre exemple lui aussi investi par l’intelligence artificielle , est celui de l”art
numérique ‘’.
Là aussi les artistes manifestent quelques inquiétudes ,mais la qualité des oeuvres produites
jusqu’à present permet de douter d’un avenir somptueux pour l’”art numérique ‘’.
Dans ces deux domaines ( l’art et les mathématiques ) se posent la question de la créativité
,scientifique ou artistique. Pourra –ron instituer une ‘’ créativité artificielle ‘’ ?

L’avenir du projet de l’AGI est incertain malgré les promesses tous-azimuts diffusées par
les puissants organes de communication des MAMAA .
Prenons un peu de recul historique , et citons une fable écrite par Stanislas Lem, célèbre
auteur de science-fiction mais aussi ‘’ philosophe du futur’’ qui a consacré une grande
partie de sa vie à réfléchir à l’avenir de l’intelligence artificielle comme romancier,par
exemple dans GolemXIV- encore non trduit en français- où est abordée la difference entre la
conscience artificielle et la conscience humaine . Il s’inquiétait dès 1993 de l’avenir des
“machines intelligentes ‘’ [ 11 ]:

‘’ La presse a rapporté récemment qu’un ordinateur avait écrit un roman . C’était un

évènement douteux et en même temps sensationnel, car bien sûr l’ordinateur ne comprenait
rien à ce qu’il avait écrit ,le veritable auteur c’était l’outil correspondant à la recherche de
la ‘’ bonne expression ‘’correspondant aux états de l’héroïne .C’était bien sûr une opération
commerciale ,car nombreux sont ceux qui voudront lire une nouvelle écrite par un
ordinateur.Et comme il y a des programmes qui montrent ce dont le public a envie ,le
roman va certainement tomber dans le ‘’ porno ‘’ . . Cette utilisation des grand succès de la
technique et de la science dans un but stupide ,primitif, sale, est pour moi une grande
déception typique de cette fin du vingtième siècle,qui confirme mes prédictions: les
Lumières seront battues par les forces noires du péché qui sont elles aussi au coeur de
l’homme ‘’ .

1 Microsoft eyes $10 billion bet on ChatGPT owner

https://www.semafor.com/article/01/09/2023/microsoft-eyes-billion-bet-on-chatgpt

2 Voir des erreurs d’interprétations d’images et d’autres dans

http://rodneybrooks.com/predictions-scorecard-2019-january-01/

Voir aussi des erreurs et des tentatives de correction dans

5
G.Marcus: the next decade in AI:Four steps towards robust artificial intelligence
ArXiv:2002.

3 Rodney Brooks Robots ,AI and other stuff

Rodneybrooks.com/predictions-scorecard-2003_january-01

4 G.Marcus Deep learning is hitting a wall ,Nautilus,March 20 2022

5 Yann LeCun , ZDNet ,Sept.24,2022

6 The AGI Debate,3heures 50

https://www.youtube.com/watch?v=JGiLz_Jx9uI&t=73s

7 Kahneman Système 1/Système2 :les deux systèmes de la pensée,Flammarion 2012

8 A.Vankatesh
Some thoughts on automation and mathematical research
9 2022 Fields Medal Symposium
http://www.fields.utoronto.ca/activities/22-23/fieldsmedalsym

10 M.Harris Mathematics and the undead How silicon Valley plans to ‘’

disrupt ‘’ mathematics
https://siliconreckoner.substack.com/p/mathematics-and the -undead

11 Stanislas Lem
MOLOCH X,
publ. Wydawnictwo Literackie, en polonais1981
traduit sous le titre Imaginary Magnitude, Harvest Book ,1985

12 Stanislas Lem
Essays in PC Magazine Po Polsku: “Bariera informacyjna?” (“The Barrier of
Information?”) - Nov. 1993,Translation Y.Yaznevich,2004

6
7