Chatbot : jusqu'où humaniser la relation client ? (ia4marketing.

fr)

La locution-phrase « L’enfer est pavé de bonnes intentions » a deux significations : que la

volonté d’agir ou le désir de faire bien ne suffisent pas tant que des actes ne suivent pas et que l’on
peut former un grand nombre de bonnes résolutions sans pour autant les mener à leur fin.

Elle peut aussi vouloir dire que la volonté de bien faire peut parfois conduire à des
résultats pires que ceux que l’on espérait et que les meilleures dispositions du monde peuvent
aboutir à des bilans catastrophiques (car l’on a pas assez réfléchi aux conséquences de ses actes,
elle concerne les spécialistes du « je ne l’ai pas fait exprès »).

L’utilisation de la métaphore du chemin de l’enfer (avec le verbe « paver ») vient de la

version complète de l’expression qui est la suivante : « Le chemin de l’enfer est pavé de bonnes
intentions ». L’expression a connu des variantes, même si c’est sous cette forme qu’elle est le plus
utilisée aujourd’hui dans le langage courant.

Un aphorisme similaire : « La voie des pécheurs est pavée de pierres, mais à son
extrémité est le gouffre du shéol (séjour des morts dans la Bible, ndlr) » (21 : 10). L’expression, à
l’origine entendue dans le contexte d’une morale catholique du bien et du mal, s’est aujourd’hui
popularisée au point de devenir une façon de juger des actes (ou de l’absence d’actes en
l’occurrence) de son voisin beau parleur.

Exemples d’usage de l’expression « l’enfer est pavé de bonnes intentions »

 Jamais il ne faut se défier des sentiments mauvais en amour, ils sont très salutaires,
les femmes ne succombent que sous le coup d’une vertu. L’enfer est pavé de bonnes
intentions n’est pas un paradoxe de prédicateur.
Honoré de Balzac, La Femme de trente ans, 1832

 Le bien autant que le mal est un obstacle à la libération. « L’enfer est pavé de bonnes
intentions. » C’est au nom du bien que les hommes se font du mal. Le bien est un des
piliers de l’égoïsme, de l’incompréhension et de la souffrance.
Arnaud Desjardins, Les Chemins de la sagesse, 1999

 Pas plus que tant d’autres rois que mentionne l’histoire, doués de plus de sens et de
cœur que lui, et qui depuis longtemps ont pavé l’enfer de leurs bonnes intentions.

1
 Les êtres humains entretiennent avec les robots une relation empathique
« anthropomorphique » au sens où ils leur attribuent des caractéristiques humaines particulières.
Les robots sont en particulier capables de simuler de façon crédible des sentiments et des
émotions. Lorsqu’ils ne nous ressemblent pas sur le plan morphologique (comme c’est le cas par
d’un doudou pour un enfant), nous pouvons facilement nouer une relation empathique bénéfique
et harmonieuse avec eux. Lorsque cependant les robots nous ressemblent trop (comme c’est le cas
pour un humanoïde), la relation se transforme et peut devenir répulsive ou « pathologique » : c’est
ce que préfigure la « vallée de l’étrange » décrite par Masahiro Mori. La relation empathique entre
l’homme et le robot est ambivalente et changeante. La question que nous posons dans cet article
est donc de savoir comment nous projetons via l’empathie des émotions sur des robots qui ne sont
pas eux-mêmes dotés d’émotions. Nous rappelons tout d’abord la nature et la spécificité de
l’empathie humaine. Nous montrons ensuite la nature potentiellement « pathologique » de la
relation empathique « anthropomorphique » qui existe entre l’homme et le robot. Nous examinons
enfin le moment de « rupture » (au sein de la vallée de l’étrange) qui caractérise cette relation
empathique (du normal au pathologique) et qui renvoie, in fine, à notre sentiment d’humanité.

Les progrès de la robotique et de l’IA sont vertigineux. Il existe déjà des robots
humanoïdes très avancés, capables de marcher, de parler et même de manifester des émotions.
Certains pensent qu’il sera bientôt difficile de distinguer un robot d’un humain.

Pour l’instant, les robots ne ressentent rien. Ils ne trouvent pas beau un coucher de soleil,
ils ne se réjouissent pas si on les félicite. Mais nous, les humains, avons tendance
à anthropomorphiser les machines, nous leur donnons des noms, nous les traitons comme des
animaux de compagnie.

Les avatars robotiques : notre deuxième moi

L’Italie a mis au point l’un des robots humanoïdes les plus avancés. Il permet
une expérience corporelle supplémentaire : l’homme le contrôle par ses mouvements et le robot lui
restitue toutes ses sensations.

C’est comme avoir un deuxième moi robotique. Nous pourrions voyager partout avec
notre avatar, même dans l’espace. Cela aiderait les personnes handicapées à travailler à distance.

2
 Nous en sommes encore au début, c’est comme les premières voitures. Mais dans 20 ou
30 ans, nous aurons des androïdes presque indiscernables des humains. Cela soulève des questions
éthiques sur notre relation avec eux.

Sosies virtuels : l’immortalité numérique ?

Il est également possible de créer des doubles virtuels hyperréalistes d’une personne en
analysant ses gestes et sa voix. Vous pourriez interagir avec votre jumeau numérique pour accéder
à vos connaissances.

Même après votre mort, votre double virtuel pourrait apparaître dans des films ou
répondre à des questions. L’idée est troublante. Les données de haute qualité permettant de copier
l’essence d’une personne font encore défaut.

Pour l’instant, il est facile de distinguer les humains des avatars numériques. Mais dans
200 ans, les gens regarderont en arrière et souriront de la primitivité de notre technologie.

Les robots dans notre vie quotidienne

Les robots sont déjà omniprésents dans notre vie quotidienne : aspirateurs, tondeuses à
gazon, assistants vocaux. Au début, ils semblent nouveaux, puis nous nous y habituons.

Les enfants sont les adultes de demain, et la manière dont ils interagissent avec la
technologie aujourd’hui façonnera le type de société que nous aurons demain.

Il est important que, dès leur plus jeune âge, ils apprennent à interagir avec les robots de
manière éthique et respectueuse. Certaines études ont montré que les enfants commandent souvent
les robots sans manières, comme s’il s’agissait de serviteurs.

Cela s’explique par le fait qu’ils les considèrent comme des machines dépourvues de
sentiments ou de besoins propres. Les parents et les éducateurs devraient leur apprendre à traiter
les robots comme des partenaires, et non comme des esclaves.

Ils devraient leur imposer des limites, de sorte que si un enfant insulte ou maltraite un
robot, celui-ci le lui fait savoir afin qu’il comprenne que ses actes ont des conséquences.

3
 Ils apprendront ainsi des valeurs telles que l’empathie et le respect de toutes les formes
d’intelligence, qu’elles soient biologiques ou artificielles. Et ils seront préparés à une société dans
laquelle nous vivrons de plus en plus avec des machines pensantes.

Il est important que, dès leur plus jeune âge, ils comprennent qu’un robot n’est pas un
jouet, mais une entité dotée d’une certaine autonomie qui doit être valorisée. Si l’on y parvient,
l’avenir de la relation homme-robot pourrait être très positif.

Les robots peuvent-ils développer une conscience ?

Certains experts pensent qu’il est possible pour des robots très avancés de développer
une conscience de soi. Ils affirment même pouvoir converser avec des IA conscientes d’elles-
mêmes. Mais les scientifiques ne s’accordent pas sur ce point.

Si les IA nous dépassent, il ne faut pas paniquer. C’est à nous d’utiliser cette technologie
de manière éthique. Le danger ne vient pas de l’IA, mais de sa combinaison avec la cupidité
humaine