CATHERINE MALABOU
Diabolique, l’IA ?
QUE VEUT DIRE « DIABOLISER » ? Cette
question est particulièrement aiguë lorsqu’elle
vise notre relation à la technique en général et à
l’intelligence artificielle (IA) en particulier. Il est
courant, en effet, de convoquer à leur sujet
l’idée de puissances maléfiques, voire
sataniques. En témoignent tous les scénarios
catastrophe développés à l’envi au sujet de
robots se mettant à fonctionner seuls pour
déclencher une guerre contre « nous ».
Par rapport à de telles fictions, affirme le
philosophe et physicien Alexei Grinbaum dans
Les Robots et le Mal, « un changement de
perspective s’impose. La question n’est pas de
savoir faire en sorte qu’une voiture autonome ne
tue personne ou qu’un smartphone ne divulgue pas
d’informations privées, mais bien plutôt comment
faire pour que les concepts de bien et de mal
restent purement humains, et que les machines ne
se substituent pas à nous en tant qu’agents
moraux ».
Comment éviter de projeter des valeurs
éthiques sur les machines, qui ne sont
justement que des machines, combinaisons sans
intention de nécessité et de hasard ?
Questionnons d’abord notre sacralisation
inconsciente de la technique. Elle provient d’un
raisonnement par « homologie ». L’homologie
indique « une ressemblance qui ne présuppose
pas, et même réfute, toute identité ou
identification entre les objets ou les phénomènes
comparés ». Elle est à distinguer de l’analogie.
Cette dernière concerne la structure, la
première la fonction.
Le secret de la machine
Mais homologie de fonction entre quoi et quoi ?
Eh bien, entre la technique et la religion
d’abord, les machines et le diable ensuite.
Comme le dit Gilbert Simondon (1924-1989),
cité par l’auteur, « le geste technique offre
extérieurement des aspects comparables à la
ritualisation et à la solennité des manifestations
de la sacralité, parce qu’il remplit une fonction
équivalente de manifestation pour les vastes
groupes ». Cette fonction, c’est le secret.
La « fonction secret » d’un système
informatique tient à son opacité, que
l’utilisateur ne parvient pas à percer. Le système
transmet toutes sortes d’informations sauf sur
son propre fonctionnement de transmetteur
d’informations. Du secret au mensonge, et du
mensonge au diable, il n’y a dès lors qu’un pas.
En effet, « le diable recèle sa propre source de la
parole » et cache l’origine de l’information. « De
là naît tout le mensonge, puisque le diable est le
“père du mensonge”. »
La singularité de l’analyse de Grinbaum tient à
sa lecture convaincante de l’Ancien Testament,
des Evangiles ou du Talmud, qui lui permet de
voir comment peut s’élaborer une démonologie
de la technique. La machine se tait sur sa
source, il est impossible de « séparer
systématiquement, “algorithmiquement”, la vérité
du mensonge ». Voilà le point commun avec le
secret du diable. « Sataniser » signifie empêcher
de démêler le vrai du faux.
L’homologie avec le démoniaque, toutefois,
s’arrête là. La différence fondamentale entre le
diable et la machine est que, si tous deux sont
porteurs d’un secret, la machine, à la différence
du diable, n’en sait rien. Le secret technologique
est secret à lui-même. Il est donc absurde de lui
en attribuer la conscience.
Mais alors, l’IA serait-elle un ange ? Un ange est
toujours porteur d’un message dont il ignore la
signification. Avant de conjurer à son tour cette
nouvelle homologie, gardons-la un instant
présente à l’esprit. Elle est si rare, qui nous fait
entendre autre chose que les vociférations
technophobes.
Les Robots et le mal, d’Alexei Grinbaum,
Desclée de Brouwer, 216 p., 19,90 €.