SOPHIA

Société Originale de Production d'Humanoïdes et

d'Intelligence Artificielle

Théories des Sciences de l'Information et de

la Communication

Battentier Meryl Geisler Margaux

Bosle Clara Huon Clara
Floux Gaël Tran Helene
 Sommaire

Introduction

1 - Les humanoïdes sont-ils les golems de demain ?

2 - Immersion dans la société SOPHIA

3 - Quel avenir pour la relation humain/ androïde ?

3.1 L’Axiome "on ne peut pas ne pas communiquer" dans l’interaction homme/robot

3.2 « La symbolique » de Jean-Michel Besnier

3.3 La « Plasticité » de François Ansermet

3.4 « L’empathie » à partir des propos de Serge Tisseron

3.5 « Les émotions » d’Antonio Damasio.

3.6 Le progrès technique n’amène pas que l’émancipation et la liberté

Conclusion

Sources
 Introduction

En octobre 2017, le robot Sophia obtient la nationalité saoudienne, faisant d’elle le premier
Androïde au monde à recevoir la citoyenneté d’un pays. Activée le 19 avril 2015, Sophia est un
humanoïde mis au point par une entreprise d’ingénierie et de robotique, Hanson Robotics, basée
à Hong Kong, en Chine. Ce robot est connu pour son apparence humaine invraisemblable et son
comportement réaliste vis-à-vis des êtres humains. Selon le constructeur, David Hanson, Sophia
utilise la reconnaissance faciale, l’intelligence artificielle et le traitement des données visuelles pour
analyser les conversations et extraire des données qui lui permettent ainsi d’améliorer ses futures
réponses. Elle est également capable d’imiter les gestes humains et les expressions faciales, mais
aussi de produire des conversations simples à partir de sujets prédéfinis, comme la météo par
exemple. Le robot a été conçu pour devenir plus intelligent avec le temps et devenir plus réactif
face aux interactions humaines.

Sophia a initialement été inventée pour accompagner les personnes âgées dans les maisons de
retraite ou encore pour aider les foules lors de grands événements. Cependant, le 11 octobre
2017, Sophia a été présentée aux Nations Unies afin d’entretenir une brève conversation avec la
vice-secrétaire générale de l’organisation internationale, Amina J. Mohammed. Elle se voit alors
obtenir la citoyenneté saoudienne deux semaines plus tard, lors de la conférence Future
Investment Summit à Riyad faisant d’elle le premier robot au monde à posséder une nationalité.
Cet événement a suscité de nombreuses polémiques, en effet, des journalistes se sont demandés
si cela impliquait que Sophia pouvait désormais voter et se marier, ou encore si une extinction
délibérée de son système interne pouvait être considérée comme un meurtre. 

De plus, Sophia est en mesure de se balader librement sans tuteur masculin, or beaucoup de
femmes saoudiennes ont rencontré la mort en tentant de quitter leur maison. Elle a également
obtenu la citoyenneté saoudienne alors que la loi de ce pays ne permet pas aux non-musulmans
de l’obtenir. Ainsi, de nombreuses questions peuvent se poser: Quelle est la légitimité d’un robot ?
Comment évoluera la relation humains/robots ? L’Homme sera-t-il seul à gouverner notre planète
? Est-ce que les robots vont-ils également disposer de droits ? Finalement, c’est autour de cet
événement mais également autour d’un champ plus large incluant l’intelligence artificielle, la
plasticité neuronale ainsi que les humanoïdes et le rapport que l’on entretient avec eux, que nous
avons décidé de fonder notre travail et nos questionnements sur ce sujet-là.
1 - Les humanoïdes sont-ils les golems de
demain ?

Pour arriver à cette idée, nous nous sommes inspirées de la théorie de Wiener
sur God and Golem paru en 1964. Ce livre est une réflexion sur les capacités que
possèdent les machines. Wiener dans ce livre aborde trois questions : les machines
peuvent-elles apprendre? Les machines peuvent-elles se reproduire? Quel rapport
doit-on établir entre humains et machines? Il répond positivement aux deux
premières questions. 

Dans le titre, “Golem”, représente à la fois la machine dans son rapport à l’humain et
l’humain lui-même comme machine possible. Il a une image à la fois du bien mais aussi
du mal puisque la science et la technique ont un impact négatif sur l’être humain. Le
Golem est un être artificiel, généralement humanoïde, fait d’argile, incapable de parole
et dépourvu de libre-arbitre. Il est façonné afin d’assister l’homme ou de le défendre.
L’homme est ainsi vu comme un créateur : il crée des humanoïdes comme Dieu a créé
les hommes.
 ”God” (Dieu) dans le titre, est là comme modèle pour penser les rapports entre
créateur et créatures. Le seul Dieu dont il est question dans le livre représente l’être
humain lui-même ; l’être humain créant ses machines, leur insufflant la possibilité d’une
certaine autonomie, une sorte de vie. Une vie réduite à ses éléments fondamentaux :
l’apprentissage et la reproduction. L’humain créant des machines reproduit l’acte
créateur divin, dans un sens métaphorique pour Wiener. L’homme crée des machines
pour qu’elles nous aident, qu’elles nous rendent la vie plus agréable, qu’elles nous
protègent ; elles sont les Golems modernes. Si nous cherchons à trop intégrer la
machine dans les affaires humaines, si nous cherchons à lui faire endosser toutes les
responsabilités d’une vie humaine, nous serons contraints de la débrancher. Wiener ne
craint pas une révolution des machines. Si la machine apparaît dangereuse pour Wiener,
c’est parce que nous lui donnons nous-même un pouvoir sur nos vies et cherchons à ne
pas endosser nos responsabilités. Les machines ne nous dispenseront jamais de
penser. Dans son livre, il évoque souvent le danger de déléguer à des machines des
domaines qui nécessitent des capacités spécifiquement humaines: la politique,
l’économie, la guerre.  Là, les machines peuvent faire ce qu’on leur demande, tels des
Golems, mais le danger est de bien formuler ce qu’on leur demande et d’être bien sur
de ce que l’on veut. "Les machines/golems ne nous veulent aucun mal, mais elles ne
nous veulent aucun bien non plus", dit Wiener. Il ne faut pas oublier qu’elles ne nous
veulent rien, elles exécutent. Wiener ne se contente pas d’une mise en garde un peu
simpliste sur l’utilisation de ces machines. Elles peuvent, tels des Golems, nous détruire
si nous nous reposons sur elles pour ne plus à avoir à vivre humainement : les décisions
éthiques et les décisions politiques, c’est à l’humain de les évaluer, les prendre et les
assumer humainement.

Pour Wiener, le Golem c’est la machine, mais c’est également l’image d’un humain à en
devenir ! Il y a un danger d’un devenir Golem de l’humain. Wiener a peur d’une
contamination par la machine. L’humain qui travaille dans une organisation machinique
(travail à la chaîne), risque de se mécaniser, se déshumaniser pour s’intégrer à la
machine et perdre donc son identité. Ce n’est plus des humains,  mais des pièces de
machines, des robots (esclaves mécaniques d’une grosse machine). Dans The Human
Use of human being, Wiener refait cette comparaison. Il y a cette peur d’un devenir
Golem d’être humain, s’il se laisse contaminer par la machine.
Wiener est attaché à l’idée d’humaniser la machine, ce qui ne veut pas dire lui prêter des
traits humains, même si c’est ce que nous faisons, mais bien de l’intégrer dans un projet
humain, où celui-ci est placé au centre (non pas comme l’humain placé dans un rouage
d’un appareillage). Il y a un risque pour l’Homme de devenir Golem, donc de devenir
Golem et Cyborg du fait de l’humanisation de la machine.  En effet, l’apprentissage est
une propriété que seul les êtres vivants peuvent acquérir au cours de leurs vies.
Cependant, cette propriété ne caractérise plus seulement les êtres humains mais
également les machines. Il existe des ordinateurs programmés non seulement pour
jouer avec l’homme, mais qui, en plus, peuvent apprendre de leur expérience passée
afin de s’améliorer dans leur jeu. Ainsi, l’être humain peut, de nos jours, perdre face à un
ordinateur. Ainsi, ne pourrait-on pas penser que Dieu est au Golem ce que l’homme est
aux machines ?
Les hommes ont développé des robots de types humanoïdes qui ressemblent
parfaitement aux êtres humains. Ces derniers ont désormais des expressions faciales,
plus vraies que nature et sont dotés de sentiments. Ainsi, tout ce qui relevait de la
nature propre d’un être humain est bousculé face à ce progrès qui place les robots au
même rang que les Hommes. Comme le craignait Wiener, cette ressemblance accélère
l’amenuisement de la frontière humain/machine et pourrait aboutir à plusieurs
problématiques, comme le problème de remplacement des hommes par les machines.

Nous avons ainsi vu au travers de l’actualité que c’était le cas aujourd’hui dans le
monde. En Chine, un présentateur télévisé a été remplacé par un robot qui présente le
journal à sa place, dans certains hôtels des robots sont placés en tant qu’hôtesses
d’accueil. Ainsi, en donnant vie à une matière inerte, les hommes s’octroient la place de
Dieu. Ces derniers façonnent les humanoïdes de la même manière que Dieu a crée
l’Homme ; c’est en cela que cette théorie se rapporte à notre sujet.  Cependant, cette
avancée peut se retourner contre les humains puisque les nouvelles technologies
peuvent leur échapper les asservir au lieu de les libérer. 
 Historiquement, dans la Genèse, le premier Golem est Adam puisque Dieu lui a
insufflé la vie et à ainsi créer le premier Homme. Ce procédé est donc le même entre
l’humain et la matière. Lorsque nous fabriquons une matière qui nous ressemble, la
créature peut nous échapper. Nous le voyons aujourd’hui avec le robot Sophia. En effet,
cette dernière représente le premier Gynoïde au monde à recevoir la citoyenneté d’un
pays. Étant considérée comme une citoyenne à part entière, quiconque s’en prendrait à
elle serait puni au même titre que n’importe quel humain puisqu'elle est considérée
comme égale aux autres citoyens. Nous voyons bien au travers de cet exemple que la
créature tend à nous échapper. Les hommes attribuent trop de pouvoir et d’importance
à un robot alors que les dangers sont graves. Wiener disait qu’il ne faut pas transgresser
certains interdits et ici ces derniers sont franchis. Notre puissance de création ne doit
pas nous aveugler, l’humain doit rester aux commandes. Comme l’explique bien Wiener,
il faut se protéger face à la démesure. Les hommes devraient se poser les bonnes
questions.

1. Un gynoïde est un robot féminin

 2 - Immersion dans la société SOPHIA

Bonjour, bienvenue chez SOPHIA (Société Originale de Production d'Humanoïdes et

d'Intelligences Artificielles). Nous sommes une entreprise spécialisée dans la production
d’humanoïdes et d’intelligences artificielles. Cette année nous avons décidé d’ouvrir les
portes de nos locaux aux visiteurs afin qu’ils puissent assister aux différentes étapes de
création d’un humanoïde. Cette visite s’est déroulée en quatre étapes durant lesquelles
ces derniers ont pu observer nos ingénieurs et nos concepteurs travailler directement
sur nos créations les plus avancées. Nous avons disposé les différentes étapes en demi -
cercle afin de créer une sorte d’encerclement des visiteurs pour les immerger dans
l’atmosphère de l'entreprise SOPHIA. Nous avons voulu créer une société fictive
spécialisée dans la création d'humanoïdes afin de plonger les visiteurs à la fois dans une
réalité encore peu médiatisée mais également dans un futur proche. En effet, il existe
un petit nombre d’entreprises de création de robots humanoïdes intelligents et émotifs
mais ce secteur tend à se développer et même à exploser. Au travers de cette visite
nous avons voulu montrer à quel point la robotique est avancée et va de plus en plus
loin dans la conception de robot toujours plus ressemblant aux êtres humains. Nous
avons fait le choix de faire jouer le rôle de l'humanoïde par l’une des membres du
groupe, lors de l’étape de la conception, pour renforcer l’idée que les humanoïdes
tendent à nous ressembler et que l’évolution est de plus en plus grande. Cette visite
guidée avait également pour but d’ouvrir les consciences des visiteurs sur la présence
des humanoïdes dans nos sociétés, de la cohabitation qui commence à s’imposer petit à
petit et qui ne va cesser de se développer.
Pour vous faire revivre notre visite nous allons détailler les quatre étapes clés de notre
exposition.
Etape 1 : Golem

Dans cette première étape, un ingénieur du

groupe SOPHIA était dans la phase du
“Golem“, soit la première étape de fabrication.
Elle expliquait aux visiteurs qu’elle façonnait un
golem avec de l’argile et rappelait le lien avec la
théorie de Wiener sur “God and Golem”. Pour
Wiener les golems était des êtres artificiels
faits d’argile, dépourvus de langage et de libre
arbitre. Ainsi l’homme est vu comme un
créateur, puisqu’il reproduit l’acte divin de
création. Dieu a créé les hommes et l’Homme
crée des humanoïdes.  Avec le temps, les
Hommes leurs ont insufflé une forme
d’autonomie et leurs ont ainsi donné vie. Le
golem en cours de fabrication était le futur
humanoïde que l’entreprise voulait créer.

Etape 2 : Prototype

Dans l’étape de la fabrication, une ingénieure était en train d’assembler, sur une
première version de l'humanoïde, les différents circuits électroniques ainsi que les
diverses parties du corps. Pour cela, nous avons agrémenté un buste en plastique de
cartes-mère, de circuits électroniques et de câbles, récupérés sur un ancien ordinateur
que nous avons trouvé dans une entrepôt d’appareils électroniques usagés. Sur le buste
nous avons fixé une tête en polystyrène reliée via la nuque. Nous avons introduit dans le
buste, une ampoule que nous avons coloré à l’aide de marqueurs de couleur rouge, vert
et bleu. Une fois le buste éclairé cela donne l’impression que l'humanoïde, tout comme
l’être humain, possède un coeur, du sang et des veines. Cette structure représente le
"squelette" de notre humanoïde avant d’être finalisé dans l’étape d’après. 
 Avant de passer à l’étape suivante nous avons proposé aux
visiteurs d’écouter un audio (disponible en scannant le QR Code)
qui retrace l’évolution de la création des humanoïdes en passant
par des théories clés, des moments forts de l’actualité et les
nouveaux enjeux de l’intégration de tels golems dans notre
société. Nous avons donc fait un montage avec des voix de
journalistes provenant des actualités ainsi que des
enregistrements sonores de nos propres voix.

Etape 3 : Conception

    La troisième étape appelée la Conception, mettait en scène une conceptrice qui

finalisait la réalisation de notre robot humanoïde. Ici, deux membres de notre
groupe étaient présents. L’un se chargeait d’imiter un robot en gardant le regard fixé
sur un point et en répétant les mêmes phrases apprises par cœur prononcées avec
une voix monotone. Ce dernier avait des câbles reliés dans les cheveux et dans le
bras pour pouvoir l’identifier directement à une machine. La conceptrice, quant à elle,
était chargée de s’occuper de l’humanoïde et entrait en communication avec ce
dernier. Elle commençait par présenter le robot, le tout dernier modèle à la pointe de
la technologie, ressemblant fortement à un humain. Puis, elle avait pour rôle
d’échanger avec lui en utilisant des phrases simples : “Peux-tu te présenter?” “Quel
est ton idole?” ou encore “Quel est ton rêve ?”. Le but était de montrer le dernier
gynoïde de la société en communication avec les visiteurs de l’exposition puisque ces
derniers pouvaient poser une question au robot à la fin de la présentation.
Etape 4 : Invasion

Finalement durant la dernière étape de notre visité intitulée “Étape de l’Invasion”

nous avons décidé de montrer aux visiteurs l’immersion de nos créations dans la
société  actuelle afin de pointer du doigt l’importance que celles-ci occupent. Pour ce
faire nous avons réalisé un panneau d’affichage montrant plusieurs photos
d’humanoïdes, d’intelligences artificielles, d’hologrammes et de robots qui semblent si
réalistes qu’ils pourraient être confondus avec de réels êtres humains. Pour plonger
les visiteurs dans la confusion, nous avons décidé de faire une animation participative
durant laquelle ils devaient essayer de deviner qui étaient les robots et qui étaient les
humains en collant une gommette à chaque fois qu’ils pensaient que la “personne” sur
la photo était l’une de nos créations. Bien entendu, les visiteurs ne se doutaient à
aucun moment que toutes les photos mettaient en scène des androïdes et pas un seul
être humain.
Durant toute la durée de l’exposition
uniquement une seule personne a réussi
à trouver que toutes les images
proposées étaient des photos de robots.
Pour le reste des participants ils étaient à
chaque fois très surpris et choqués de
voir à quel point il est difficile aujourd’hui
de faire la différence entre de vraies
personnes et des créations à la pointe de
la technologie. 

Pour conclure, en analysant le résultat

définitif une fois l’exposition finie, nous
avons constaté que les humanoïdes les
plus difficiles à reconnaître sont ceux qui
sont mis en scène sur les réseaux
sociaux et qui nous ressemblent le plus
avec une personnalité bien prononcée
comme nous pouvons le voir sur les
photos suivantes (qui n’ont eu aucune
gommette durant notre animation).
 3 - Quel avenir pour la relation humain/
androïde ?

L’apparition de nouveaux robots humanoïdes dotés d’intelligence artificielle annonce

une transformation du monde dans lequel nous vivons. Les frontières homme/robot
s’amenuisent toujours plus au fil des progrès scientifiques et technologiques. Quelles
conséquences doit-on craindre dans notre relation avec les robots ? Jusqu’où la
fabrication de ces golems peut-elle nous mener ?

3.1 L’Axiome "on ne peut pas ne pas communiquer" dans l’interaction

homme/robot.

“On ne peut pas ne pas communiquer”. C’est l’un des grands axiomes de la
communication, définit par Watzlawick, membre de l’Ecole de Palo Alto. En effet, tout
comportement véhicule un message que l’on peut analyser, comme par exemple une
intonation de voix, un regard vide ou un visage figé. Même lorsque nous ne faisons “rien”
ou que nous “refusons de communiquer”  cela est porteur de sens et donc induit une
communication. Autrement dit, tous nos comportements, même non verbaux, sont une
forme de communication. Le “non-comportement” n’existe pas, le comportement n’a
pas de contraire. Pourtant cet axiome peut-il s’appliquer dans l’interaction entre les
hommes et les robots ?
Le robot est un ensemble de systèmes façonnés et programmés à partir de matière
inerte par les être humains. Lorsqu’il ne communique pas, il semblerait que cela soit
dépourvu de sens. Par exemple dans une interaction homme/robot, si un robot ne
réagit pas, qu’il reste figé, ce n’est pas pour transmettre le message “je veux être
tranquille” ou “je ne veux pas parler avec toi”  mais simplement car la personne n’a pas
prononcé une commande ou une phrase susceptible de le faire réagir. Mais avec des
robots dotés d’un système de communication de plus en plus élaboré et ressemblant à
celui des êtres humains, cet axiome pourrait prochainement s'avérer vrai ? Le non
verbal des robots pourrait alors devenir porteur de sens ? Cet axiome peut être
également remis en cause dans un autre aspect de l'interaction homme/robot. Quand
deux personnes utilisent les mêmes codes et sont dans le même système de
communication alors il peut y avoir une  intercompréhension. En effet, comme vu
précédemment les robots tendent à s’inscrire dans le même système de communication
des êtres humains.
Ils tentent d’imiter les codes de la communication humaine sans oublier le non verbal.
Plus le robot est proche de la communication humaine de part la gestuelle, les
mimiques ou encore l’intonation de voix, plus l’humain est susceptible de comprendre le
message et donc être dans une intercompréhension. Si le robot imite mal les codes de
la communication humaines, alors il risque d’y avoir une incompréhension. Même si les
êtres humains s’inscrivent dans le même système de communication il n’est pas rare de
rencontrer des incompréhensions dû aux mots qui ont plusieurs sens où aux codes qui
peuvent légèrement varier. Dans l'interaction homme/robot le risque
d’incompréhension est encore plus grand. La communication du robot étant limitée,
cette incompréhension peut se transformer en une impossibilité totale de
compréhension et donc de communication. La communication homme/robot reste
donc de manière générale limitée et la compréhension est possible dans des
interactions peu complexes. Cependant, avec des robots de plus en plus perfectionnés
le risque d'incompréhension peut s'amoindrir.

3.2 « La symbolique » de Jean-Michel Besnier   

  Le langage humain est un ensemble de codes, de signes et de symboles communs

qui permettent la communication entre deux ou plusieurs individus. Les communautés
conviennent d’attribuer à un même signe ou figure un sens commun. Tous les
spécialistes de la symbolique s’accordent sur le fait que l’élaboration progressive de ces
conventions est constitutive de l’humain. Mais il existe d’autres langages tels que les
langages des animaux, le langage mathématiques ou encore informatique. En 2016,
deux ordinateurs dotés d’intelligence artificielle ont créé un langage au travers duquel ils
ont réussi à échanger des informations sans que les programmeurs, ni même une autre
intelligence artificielle ne parviennent à le comprendre. Mais il est également reconnu
que les animaux utilisent des langages spécifiques pour se transmettre des
informations. Dans la communication animale, on observe que les signes utilisés par les
animaux sont toujours déclencheurs d’une action. Au contraire dans la communication
humaine, les signes appellent à une compréhension, c’est une fonction symbolique,
propre à l’homme. C’est au travers des âges et de l’évolution de leur culture qu’ils créent
des systèmes de langages tels que la gestuelle, la parole ou encore l’écriture.
Mais depuis peu, des langages numériques viennent se frayer une place dans notre
société. Prenons l’exemple d’un lapin qui court dans une garrigue. Le renard aura
l’image mentale du lapin et répondra par une action, mais ne produira pas de symbole.
L’être humain quant à lui, va se construire une image mentale du lapin et va être en
mesure de communiquer cette image avec des systèmes de langages. Quant à
l’ordinateur, il va être en capacité, par le biais de son langage et d’un écran, de
retranscrire cette image mentale de manière équivalente à celle de l’homme. 
Cependant étant donné que l’ordinateur et l’humain n’ont pas les mêmes langages de
communication ni les mêmes symboles qui leur sont associés, le message d’origine peut
être modifié, perturbé. Jean Michel Besnier craint que ces deux systèmes de
communication fondamentalement différents (homme VS machine) obligent l’homme à
modifier ses propres significations. L’auteur de L’Homme simplifié redoute également
que les langages mathématiques des ordinateurs “créent une « déconnexion », une
rupture entre le monde des techniques et celui des lettres.” Mais Jean Michel Besnier va
encore plus loin et nous parle de la télépathie technologique : Il craint qu’une
communication directe de cerveau à cerveau, ne fasse disparaître la parole et la
gestuelle et par conséquent le symbolisme propre au langage humain. Le philosophe
Français Jean Michel Besnier craint qu'à long terme la présence de la machine dans
notre société ne nous conduise pas à sacrifier notre langage et le symbolisme propre à
notre espèce.

3.3 La « Plasticité » de François Ansermet   

Alain Prochiantz, chercheur en neurobiologie disait : « On se plonge tous les matins

dans un homme différent ». C’est également ce que tente de nous expliquer François
Ansermet au travers de son livre À chacun son cerveau, plasticité neuronale et inconscient.
Pour l’auteur, le cerveau doit être envisagé comme un organe dynamique, qui change
avec l’environnement et le vécu de l’individu. Celui-ci ne doit pas être vu comme un
organe figé dont les connexions seraient déterminées. Le concept de la plasticité
neuronale démontre au contraire que le réseau neuronal est en permanence sujet à
des changements. La plasticité neuronale s’exprime par la capacité du cerveau à créer,
défaire et réorganiser les connexions et les réseaux des neurones. Le cerveau est ainsi
qualifié de «plastique». L’Homme change en permanence, notre cerveau change et n’est
jamais le même. Pour l’auteur nous ne réfléchissons jamais avec le même cerveau. 
En effet, le système neuronal peut être modifié par l’expérience et s’organise en fonction
du vécu. L’expérience laisse donc une trace. Le cerveau s’adapte aux événements vécus
par l’individu et sa structure se modifie et crée de nouvelles connexions entre les
neurones.
Ce phénomène intervient durant toutes les étapes de développement de l’être humain,
de la formation du fœtus dans le ventre, jusqu'à sa mort.
Pour François Ansermet, « l’être humain est programmé pour ne pas l’être », il est doté
d’un « programme qui programme aussi le fait de ne pas être programmé ». Il explique
que chaque individu “invente son devenir au-delà des frontières de ces déterminants”. Il
n’y a pas de déterminisme dans le concept de la plasticité neuronale, bien au contraire, il
y a une possibilité de liberté. L’être humain est à la fois l’auteur et l’acteur de sa propre
vie. 
En matière de robotique, les concepteurs essaient de créer des réseaux de neurones
artificiels.  Les premiers réseaux neuronaux des robots étaient pré-établis et conçus par
les concepteurs, à l’aide de connaissances biologiques. Mais depuis 2010, le « deep
learning », un système d’apprentissage autonome à vu le jour. Inspiré de la plasticité
neuronale, il tente de reproduire les différentes couches du cortex humain. Le système
va au-delà d’un simple apprentissage classique puisqu'il est capable de reconnaître des
objets déformés ou des émotions sur un visage. 
Si un agent artificiel venait à être doté d’un apprentissage autonome, rendu possible
grâce à la reproduction de la plasticité neuronale, cela le rendrait imprévisible. Il pourrait
assimiler beaucoup plus vite qu’un être humain. Ainsi, il aurait la possibilité de dépasser
les capacités des hommes et de prendre le dessus. Ce scénario entraînerait une perte
de contrôle de la part des Hommes. Il deviendrait alors difficile de stopper les robots
dans leurs évolutions. Si le contrôle d'une machine par un être vivant ne pose pas de
problème éthique, il n'en va pas de même si une machine gouverne l'action d'un être
vivant.

3.4 « L’empathie » à partir des propos de Serge Tisseron

Les hommes tendent à fabriquer des robots de plus en plus à leur image grâce à un
physique très ressemblant, des expressions faciales plus vraies que nature, mais
également de ce qui relève de la nature propre d’un être humains, de ce qui lui est
spécifique : les sentiments.
Pour Carl Rogers, figure emblématique de la psychologie nord-américaine, l’empathie
est “un processus d’entrée dans le monde perceptif d’autrui, qui permet de devenir
sensible aux mouvements d’affects qui se produisent chez ce dernier, tout en gardant la
conscience d’être une personne séparée de lui”. 
Actuellement les robots ne sont plus que des machines qui répondent à des besoins,
mais nous essayons d’amoindrir toujours plus la frontière homme/machine afin qu’ils
plaisent davantage aux usagers. Nous essayons de les doter d’empathie artificielle.
Plus un robot semblera compréhensif et convivial, plus il sera facilement adopté comme
compagnon. Cette empathie artificielle pourrait nous conduire un jour à préférer les
robots aux humains. Comme l’explique Serge Tissseron, “nous avons détourné une
partie de l’empathie pour les humains vers les objets”. Les robots sont capables
d’identifier nos émotions et de nous faire croire qu’ils en ont aussi. Il semblerait qu’un
jour, certaines personnes se sentent plus rassurées par les robots qui leur donneront
l’impression de mieux les comprendre que leur propre entourage. L’auteur évoque cette
menace dans son ouvrage Le jour où mon robot m’aimera, je cite « Un des risques est
que certains humains développent une empathie trop grande à l'égard de ces robots
"sensibles", qu'ils se mettent en danger pour protéger ces machines ou qu'ils se laissent
manipuler par elles ».
L’empathie, capacité propre à l’être humain risque de s’exercer de moins en moins dans
des relations humaines et de plus en plus dans les relations homme/machine.

3.5 « Les émotions » d’Antonio Damasio.   

Antonio Damasio, professeur de neurologie nous dit dans son oeuvre Les neurosciences
émotionnelles, que ce qui rend l'Homme unique, c'est sa capacité à ressentir des
sentiments. Ces derniers naissent de l’interaction entre le corps et le cerveau. Il ne s'agit
pas d'un phénomène purement cérébral. C'est pourquoi selon Damasio, il serait difficile
de doter une l’intelligence artificielle de sentiments. 
Mais le risque réside dans l’intelligence émotionnelle (IE). En effet, les sentiments
participent à la prise de décision chez l’Homme. Avec l’intelligence émotionnelle, les
robots pourraient décrypter nos sentiments. Cela pourrait avoir un réel impact sur les
individus notamment en marketing. Il y aurait donc un risque dans l’utilisation des
émotions au sein des interactions homme/machine. Cela aurait un impact sur le
comportement des consommateurs. L’IE serait une aubaine pour les marques, il serait
alors possible de cibler les individus avec une grande précision pour vendre leurs
produits. Par exemple, face à un individu triste et fatigué, le robot doté d’intelligence
émotionnelle pourrait proposer une séance dans un spa ou une autre activité relaxante.
Le robot adaptera la proposition selon le besoin de chaque consommateur. Mais une
telle utilisation des sentiments par des agents artificiels ne correspondrait t-elle pas à
une forme de manipulation sur les hommes ?
3.6 Le progrès technique n’amène pas que l’émancipation et la liberté

Dans l’ouvrage Kulturindustrie (1947), T. Adorno et M. Horkheimer tous deux membres

de l’Ecole de Francfort nous expliquent que « Pour le moment, la technologie n’a abouti
qu’à la standardisation et à la production en série, sacrifiant tout ce qui faisait la différence
entre la logique de l’œuvre et celle du système social ». En effet, selon ces derniers l’industrie
culturelle (“Sous leur plume, le terme n’est pas à prendre à la lettre, il avait un caractère
critique et provocateur : associer en un seul mot – Kulturindustrie en allemand – « culture
» et « industrie » revenait, à l’époque en tout cas, à juxtaposer deux termes que tout
opposait. À l’« industrie » sont associés l’économie, la rationalisation, la planification, le
calcul, l’intérêt stratégique, la visée instrumentale, etc., alors que le terme « culture »
évoque les idées de création, d’originalité, de désintéressement, de formation, de
perfectionnement, d’autonomie et de liberté.” tel que nous explique Olivier Voirol dans
l'article Retour sur l’industrie culturelle, 2011) serait responsable d’une passivité du public
à cause d’une culture de masse. Les individus deviendraient passifs et insensibles face
aux productions artistiques industrialisées et produites en masse. Cela empêcherait à
l’individu de se développer que ça soit artistiquement et personnellement puisque
toutes les formes d’art seraient uniformisées et conformistes. Ainsi, l’individu aurait
perdu sa créativité spontanée le laissant en tant que pion de ce que la société veut bien
lui montrer.
Dans ce même ouvrage, les auteurs précisent “La domination technique progressive se
mue en tromperie des masses, c'est-à-dire en moyen de garrotter la conscience.” Si
nous prenons l’industrie de la culture comme forme de progrès technologique et que
nous associons à notre projet, le progrès technique représentant l’évolution de la
robotique, Adorno et Horkheimer nous invitaient déjà à se méfier de ce progrès. Selon
eux, le progrès n’est pas forcément une source d’émancipation et de liberté. Les progrès
techniques et l’apparition des robots (de plus en plus humanisés) devraient nous
effrayer, l’Homme cherche sans cesse à rapprocher la machine de l’humain, mais jusqu’à
quel point ? L’humanisation des robots et la perpétuelle recherche de les doter de
caractéristiques proprement humaines risque de nous faire perdre notre humanité et
de nous dépasser. Avons-nous vraiment envie d’envisager un futur où la race humaine
serait remplacée par les robots?

Voici quelques exemples de fictions qui ont pu nous inspirer pour notre projet et qui
illustre en tout point notre propos. Pouvons-nous imaginer les oeuvres suivantes
comme réalité ?
 Premièrement, Matrix, trilogie de film des soeurs Lachowski, fiction dans laquelle les
humains créent des robots. A la suite de quoi, ces derniers se retournent contre leurs
créateurs et décident de créer leur propre état. L’humain perd le contrôle de sa
création. 

Black Mirror, célèbre série de Charlie Brooker propose plusieurs épisodes sur les
dérives du progrès humain. Dans l’épisode 1 de la saison 2, on y voit l’histoire d’une
femme tout juste veuve qui pour faire face à son deuil va commander son défunt mari
en robot le système se servant de toutes les traces numériques du défunt pour en créer
un modèle presque parfait. Evidemment cela crée un univers malsain qui empêche la
jeune femme de tourner la page et d’avancer dans sa vie et qui lui fait plus de mal que
de bien. Dans l’épisode 3 de la saison 3, on découvre l’histoire d’une pop-star manipulée
par son manager. La pop-star se retrouve dans le coma mais sa conscience est toujours
active. Elle est d’ailleurs transmise dans des mini-versions de la jeune star en forme de
robot ainsi que dans un hologramme. Ici, plus besoin de la forme humaine de la star
pour que sa carrière continue.

Ex machina, film d’Alex Garland, retrace l’histoire d’un nouveau robot à qui on aurait
donné la conscience humaine. L’humain va tomber amoureux du robot et le robot
réussira à dépasser son créateur face à la faiblesse de l’Homme et son égo si fragile.

Better than Us, dans cette série réalisée par Andrey Junkovsky, Aleksandr Dagan et
Aleksandr Kessel, nous suivons un monde où les robots sont des objets banals détenus
par la majorité des êtres humains. Ils ont pour interdiction de tuer les humains et de
leur désobéir pour être commercialisé mais le marché noir des robots existe. Certains
robots tueurs existent et les humains vont perdre le contrôle de leurs créations.

Enfin, Sunspring, à la différence des autres exemples, est un court-métrage écrit et

inventé par une intelligence artificielle. En effet, le réalisateur Oscar Sharp et le
chercheur Ross Goodwin ont nourri cette intelligence artificielle de plusieurs films de
sciences fictions pour lui donner de quoi créer un scénario. Ils ont par la suite tourné le
scénario réalisé par Benjamin, l’intelligence artificielle. Ces oeuvres ne présageaient rien
de bon à leur époque, pourtant c’est le chemin que nous décidons de suivre. C’est
maintenant où elles sont le plus d’actualité.
 Conclusion

Ainsi, notre  travail de recherches et notre exposition nous ont permis de mieux
comprendre les théories que nous avons évoqué puisque nous avons nous même été
acteurs de cette expérience. L'exposition immersive et évolutive a également facilité la
compréhension chez les participants, de la part de qui nous avons eu de bons retours.
En effet, la présence du golem en argile, du prototype lumineux et de l'implication de
l'une de nous en robot a suscité la curiosité et l'intérêt des participants. De plus, la
dernière étape de l'exposition a particulièrement étonné les visiteurs, comme nous
l'avons mentionné précédemment, beaucoup étaient surpris par l'impossibilité à
différencier robots et humains.
 Sources

Adorno T, Horkheimer M, Kulturindustrie. Raison et mystification des masses, Allia,

2012, 104 p., traduction d'Eliane Kaufholz
Bouzit F, Ansermet F, La plasticité neuronale, Youtube, 30 décembre 2014, 6,44
minutes.
Cours: Théorie des SIC, Mmme Ibekwe
DEVILLERS, L. (2018, 01). Récupérée 10, 2019, à partir de
https://www.unilim.fr/interfaces-numeriques/1760
Envoyé spécial. (2018, 01). Robots le meilleur des mondes. Récupérée en
Octobre 2019, à partir de https://www.youtube.com/watch?v=p647ezfEows
Jost C, Le Pévédic B, Duhaut D, Interactions et Intercompréhension : une approche
comparative Homme-Homme, Animal-Homme-Machine et Homme-Machine, EME
editions, 2013, pp.301-316.
Le vrai visage des robots, ARTE, 2018 : https://www.arte.tv/fr/videos/084884-000-A/le-
vrai-visage-des-robots/
Marmion J-F, Rencontre avec Antonio Damasio : La conscience est née des émotions,
mars 2011, https://www.scienceshumaines.com/rencontre-avec-antonio-damasio-la-
conscience-est-nee-des-emotions_fr_26801.html, 1 page.
Que sait réellement faire Sophia, le robot dont l'intelligence est contestée ?, Le Monde, 23
janvier 2018 : https://www.lemonde.fr/pixels/article/2018/01/23/que-sait-reellement-
faire-sophia-le-robot-dont-l-intelligence-est-contestee_5245841_4408996.html
Roux M, Sauver le symbole, 20 mais 2017, https://transhumanistes.com/sauver-le-
symbole, 1 page.
Tisseron S, Le jour où mon robot m’aimera ; vers l’empathie artificielle, Albin Michel,
2015, 208 pages
Touiza-Ambroggiani Sara, Golem et Cyborg dans l'imaginaire cybernétique de Norbert
Wiener, 2017, conférence http://oic.uqam.ca/fr/conferences/golem-et-cyborg-dans-
limaginaire-cybernetique-de-norbert-wiener
Voirol O, «  Retour sur l'industrie culturelle  », Réseaux, 2011/2 (n° 166), p. 125-157.
URL : https://www.cairn.info/revue-reseaux-2011-2-page-125.htm [consulté le
12/10/2019]