Vous êtes sur la page 1sur 1

CATHERINE MALABOU La « fonction secret » d’un système

Diabolique, l’IA ? informatique tient à son opacité, que


l’utilisateur ne parvient pas à percer. Le système
QUE VEUT DIRE « DIABOLISER » ? Cette transmet toutes sortes d’informations sauf sur
question est particulièrement aiguë lorsqu’elle son propre fonctionnement de transmetteur
vise notre relation à la technique en général et à d’informations. Du secret au mensonge, et du
l’intelligence artificielle (IA) en particulier. Il est mensonge au diable, il n’y a dès lors qu’un pas.
courant, en effet, de convoquer à leur sujet En effet, « le diable recèle sa propre source de la
l’idée de puissances maléfiques, voire parole » et cache l’origine de l’information. « De
sataniques. En témoignent tous les scénarios là naît tout le mensonge, puisque le diable est le
catastrophe développés à l’envi au sujet de “père du mensonge”. »
robots se mettant à fonctionner seuls pour
déclencher une guerre contre « nous ». La singularité de l’analyse de Grinbaum tient à
sa lecture convaincante de l’Ancien Testament,
Par rapport à de telles fictions, affirme le des Evangiles ou du Talmud, qui lui permet de
philosophe et physicien Alexei Grinbaum dans voir comment peut s’élaborer une démonologie
Les Robots et le Mal, « un changement de de la technique. La machine se tait sur sa
perspective s’impose. La question n’est pas de source, il est impossible de « séparer
savoir faire en sorte qu’une voiture autonome ne systématiquement, “algorithmiquement”, la vérité
tue personne ou qu’un smartphone ne divulgue pas du mensonge ». Voilà le point commun avec le
d’informations privées, mais bien plutôt comment secret du diable. « Sataniser » signifie empêcher
faire pour que les concepts de bien et de mal de démêler le vrai du faux.
restent purement humains, et que les machines ne
se substituent pas à nous en tant qu’agents L’homologie avec le démoniaque, toutefois,
moraux ». s’arrête là. La différence fondamentale entre le
diable et la machine est que, si tous deux sont
Comment éviter de projeter des valeurs porteurs d’un secret, la machine, à la différence
éthiques sur les machines, qui ne sont du diable, n’en sait rien. Le secret technologique
justement que des machines, combinaisons sans est secret à lui-même. Il est donc absurde de lui
intention de nécessité et de hasard ? en attribuer la conscience.
Questionnons d’abord notre sacralisation
inconsciente de la technique. Elle provient d’un Mais alors, l’IA serait-elle un ange ? Un ange est
raisonnement par « homologie ». L’homologie toujours porteur d’un message dont il ignore la
indique « une ressemblance qui ne présuppose signification. Avant de conjurer à son tour cette
pas, et même réfute, toute identité ou nouvelle homologie, gardons-la un instant
identification entre les objets ou les phénomènes présente à l’esprit. Elle est si rare, qui nous fait
comparés ». Elle est à distinguer de l’analogie. entendre autre chose que les vociférations
Cette dernière concerne la structure, la technophobes.
première la fonction.
Les Robots et le mal, d’Alexei Grinbaum,
Desclée de Brouwer, 216 p., 19,90 €.
Le secret de la machine

Mais homologie de fonction entre quoi et quoi ?


Eh bien, entre la technique et la religion
d’abord, les machines et le diable ensuite.
Comme le dit Gilbert Simondon (1924-1989),
cité par l’auteur, « le geste technique offre
extérieurement des aspects comparables à la
ritualisation et à la solennité des manifestations
de la sacralité, parce qu’il remplit une fonction
équivalente de manifestation pour les vastes
groupes ». Cette fonction, c’est le secret.