Point de vue.

Pour Slavoj Zizek, la toute-puissance de l’IA révèle nos peurs

d’un futur posthumain

L’intelligence artificielle effraie l’humanité qui craint de perdre le contrôle, explique le

philosophe marxiste slovène Slavoj Zizek. C’est que l’arrogance anthropocentrique qui
accompagne la technologie pourrait bientôt céder la place à l’inutilité et à l’insignifiance de
l’être humain.

Project Syndicate
Traduit de l’anglais

La lettre ouverte publiée [le 29 mars] par le Future of Life Instituten appelant à suspendre
pour six mois, par précaution, les recherches sur l’intelligence artificielle, a déjà été signée par
plusieurs milliers de personnalités en vue, dont Elon Musk. Les signataires s’inquiètent de
voir les laboratoires spécialisés “enfermés dans une course incontrôlée” pour mettre au point
et déployer des systèmes toujours plus puissants, que nul ne peut comprendre, anticiper ni
maîtriser, pas même leurs inventeurs.

Slavoj Zizek

Philosophe marxiste slovène, il enseigne à l’European Graduate School en Suisse et au

Birkbeck Institute for the Humanities à l’Université de Londres. Ses derniers ouvrages parus
sont, en français, L’Age de la régression (coll., éditions premier parallèle, 2017) et, en anglais,
Heaven in Disorder (2021, non traduit).

Courrier International

Pourquoi un tel accès de panique dans cette frange de l’élite ? Évidemment, des contrôles et
une réglementation doivent être mis en place, mais par qui ? Pendant cette pause de six mois
qui doit permettre à l’humanité d’évaluer les risques, qui pour représenter l’humanité ?
Puisque en Chine, en Inde et en Russie, les laboratoires de recherche sur l’IA continueront de
travailler (dans le secret, sans doute), il est inconcevable d’espérer un débat public mondial
sur le sujet.

Panique chez les seigneurs de la tech

Néanmoins, ce sont des enjeux qui méritent d’être considérés. Dans Homo Deus, une brève
histoire de l’avenir (2015), l’historien Yuval Noah Harari [signataire de la lettre ouverte]
estimait que l’issue la plus vraisemblable de l’avènement de l’IA serait une division radicale
des sociétés humaines – bien plus importante que celle induite par les classes sociales.
Rapidement, les biotechnologies et l’informatique algorithmique uniront leurs forces pour
produire “des corps, des cerveaux et des esprits”, si bien que le fossé se creusera “entre ceux
qui savent concevoir des corps et des cerveaux, et les autres”. Dans un tel monde, “ceux qui
prendront le train du progrès acquerront des capacités divines de création et de destruction,
ceux qui resteront à la traîne seront voués à l’extinction”.
Lire aussi : Débat. “Il est beaucoup trop tard” pour un moratoire sur l’intelligence artificielle

Cette panique qui se ressent dans la pétition sur l’IA, c’est la peur de voir jusqu’à ceux qui
auront pris le “train du progrès” se révéler incapables de décider de son cap. Nos seigneurs
féodaux, en leur forteresse numérique, sont terrifiés. Pour autant, ce n’est pas un débat public
qu’ils appellent de leurs vœux ; ce qu’ils veulent, c’est un accord entre États et sociétés de la
technologie pour que le pouvoir ne change pas de mains.

Le chaos ou le communisme
C’est qu’une fulgurante montée en puissance de l’IA constitue, de fait, une grave menace
pour ceux qui ont le pouvoir – dont font partie ceux qui conçoivent, possèdent et maîtrisent
l’IA. Elle annonce rien de moins que la fin du capitalisme tel que nous le connaissons, avec
un système fondé sur l’IA qui, parce qu’il s’autoreproduit, aura de moins en moins besoin de
l’intervention d’agents humains – le trading algorithmique, ou trading automatisé, n’est qu’un
tout premier pas en ce sens. Dès lors, nous n’aurons plus le choix qu’entre un communisme
d’un nouveau genre et le chaos absolu.

Lire aussi : ChatGPT. La course à l’intelligence artificielle ne fait que commencer

Grâce aux nouveaux chatbots, des légions d’êtres esseulés (ou pas) pourront passer de longues
soirées à discuter cinéma, littérature, cuisine ou politique à bâtons rompus. Pour reprendre une
vieille métaphore qui m’est chère, l’IA est pour nous ce que le décaféiné est au vrai café : un
voisin sympa sans cadavre dans le placard, un Autre qui se coulera dans le moule de nos
propres besoins. C’est un exemple de déni fétichiste typique : “Je me rends parfaitement
compte que je ne parle pas à une vraie personne, mais ça me fait le même effet, les risques en
moins !”

Interdire le futur
Quoi qu’il en soit, à l’examiner de plus près, cette lettre ouverte apparaît comme une énième
tentative d’interdire l’impossible. C’est un vieux paradoxe : puisque notre participation à un
avenir posthumain est par nature impossible, alors nous devons à tout prix l’empêcher
d’advenir. Pour trouver comment cheminer avec ces technologies, nous devrions en réalité
nous poser la fameuse question de Lénine : la liberté pour qui, et pour quoi faire ? En quel
sens étions-nous libres jusque-là ? N’étions-nous pas déjà sous contrôle, bien plus que nous ne
le croyions ? Au lieu de redouter les menaces à venir pour notre liberté et notre dignité, il
s’agirait peut-être d’abord de nous demander ce que veut dire la liberté, aujourd’hui. Faute de
quoi nous sommes voués à nous comporter comme ces hystériques qui, selon le psychanalyste
français Jacques Lacan, veulent à tout prix un maître, à condition de régner sur lui.

Lire aussi : La pilule philosophique. Pourquoi Socrate aurait détesté ChatGTP

Pour le futurologue [américain] Ray Kurzweil, le progrès technologique étant par nature
exponentiel, nous serons bientôt face à des machines “spirituelles” qui non seulement
afficheront tous les attributs de la conscience de soi, mais surtout surpasseront de très loin
l’intelligence humaine. Ce stade “posthumain” ne doit pas être confondu pour autant avec
cette préoccupation si éminemment moderne qu’est la quête d’une absolue domination
technologique sur la nature. Car c’est à une inversion dialectique de ce processus que nous
assistons.

Insondables boîtes noires

Les sciences “posthumaines” du moment ne sont plus une quête de domination. Elles sont
régies par la surprise : de quelles propriétés contingentes et imprévues les modèles d’IA
d’aujourd’hui, insondables boîtes noires, parviendront-ils à se doter ? Nul ne peut le dire, et
c’est là tout le frisson (ou la banalité ?) de l’entreprise.

Déjà, au début de ce siècle, le philosophe et ingénieur français Jean-Pierre Dupuy discernait,

dans les dernières évolutions de la robotique, de la génétique, des nanotechnologies, de la vie
artificielle et de l’IA, une étrange inversion de l’habituelle arrogance anthropocentrique que
favorise la technologie [dans “Quand les technologies convergeront”, Revue du Mauss,
2004] :

“Comment expliquer que la technoscience soit devenue une activité si ‘risquée’ que, selon
certains scientifiques de premier plan, elle constitue aujourd’hui la principale menace à la
survie de l’humanité  ? Les philosophes répondent à cette question en disant que le rêve de
Descartes – ‘se rendre maître et possesseur de la nature’ – a mal tourné. Il serait urgent d’en
revenir à la ‘maîtrise de la maîtrise’. Ils n’ont rien compris !”

“Ils ne voient pas que la technoscience qui se profile à l’horizon, par ‘convergence’ de toutes
les disciplines, vise précisément à la non-maîtrise. L’ingénieur de demain ne sera pas un
apprenti sorcier par négligence ou incompétence, mais par finalité.”

Et l’émerveillement dans tout ça ?

L’humanité façonne son propre dieu ou son propre diable. Le résultat reste imprévisible, mais
une chose est sûre. S’il émerge un jour un fait collectif qu’on puisse qualifier de
“posthumanité”, notre façon de voir le monde y perdra ses trois piliers existentiels : humanité,
nature, transcendance. Notre identité en tant qu’êtres humains ne peut exister qu’en regard
d’une nature impénétrable – mais si la vie elle-même devient un objet totalement manipulable
par les technologies, elle n’aura plus rien de “naturel”. Dans une existence totalement
maîtrisée, que reste-t-il du sens ? Et surtout, que reste-t-il de la sérendipité et de
l’émerveillement ?

Il en va de même, évidemment, de la transcendance. L’expérience humaine de “dieu” n’a de

sens que du point de vue de la finitude et de la mortalité de l’être humain. Dès lors que nous
serons homo deus et que nous créerons des propriétés que nous aurions qualifiées de
“surnaturelles” de notre vieux point de vue d’humain, les “dieux” tels que nous les
connaissons disparaîtront. Reste à savoir ce qu’il restera – s’il reste quoi que ce soit.
Vénérerons-nous les IA que nous aurons créées ?
Lire aussi : Une du jour. Les progrès de l’IA doivent “raisonnablement” nous inquiéter

Il y a tout lieu de craindre que les visions technognostiques d’un monde posthumain ne sont
que des délires idéologisants pour occulter l’abîme qui nous guette. Autant dire que pour
vraiment s’assurer que, dans un avenir pas si lointain, l’être humain ne deviendra pas superflu,
et son existence vaine, six mois ne suffiront pas.

Slavoj Zizek

Lire l’article original