Vous êtes sur la page 1sur 3

LA SEMAINE DU DROIT LIBRES PROPOS 378

NOUVELLES TECHNOLOGIES

378

De l’intelligence artificielle à la
morale artificielle
Les dilemmes de la voiture autonome
POINTS-CLÉS ➜ Aux États-Unis, un récent accident confirme que la voiture autonome
n’est pas infaillible ➜ La question de la responsabilité sera particulièrement délicate si
l’accident résulte d’une « décision » programmée du véhicule ➜ Un site du MIT propose
de simuler des situations délicates qui constituent de véritables dilemmes moraux ➜ C’est
une manifestation d’expériences de pensée juridiques qui peuvent être un accélérateur
de la recherche en droit

nisation, les défauts des équipements routiers fixe, sauf dans le cas où, lors de l’allumage
pourront être invoqués contre l’État ou les dudit feu, le conducteur ne peut plus arrêter
Hervé Croze, agrégé collectivités territoriales, etc. Il reste cepen- son véhicule dans des conditions de sécu-
des facultés de droit, avocat
honoraire
dant une question radicalement nouvelle qui rité suffisantes » (C. route, art. R. 412-30).
est la qualification du comportement choisi Et cette appréciation subjective n’est rien
par le véhicule autonome dans certaines cir- à côté de celle qui est requise en présence
constances particulières. On dira un peu vite d’une « signalisation dite stop », auquel cas

L
e décès d’une piétonne renversée par que c’est du « droit des robots », alors qu’il – nul ne l’ignore – il convient de 1) marquer
une voiture autonome attire mal- s’agit d’une question de responsabilité du fait un temps d’arrêt à la limite de la chaussée
heureusement l’attention sur les déli- d’un logiciel d’intelligence artificielle. abordée, 2) céder le passage aux véhicules
cats problèmes juridiques de responsabi- Le cas du logiciel qui ne fonctionne pas ou circulant sur l’autre ou les autres routes,
lité que pose l’utilisation de ces véhicules qui fonctionne mal est simple : la voiture est et enfin 3) ne s’y engager qu’après s’être
et qui étaient déjà pressentis (E. Pommiers, programmée pour freiner à l’approche d’un assuré qu’on peut le faire sans danger (C.
La mort d’une piétonne renversée lundi par obstacle et le programme n’envoie pas l’ins- route, art. R. 415-6). Quoique délicates ces
une voiture sans conducteur en Arizona, truction au système de freinage que l’on sup- décisions restent sans doute à la portée d’une
aux États-Unis, pose la question de la res- pose en bon état. Ce dysfonctionnement est intelligence artificielle, non seulement parce
ponsabilité juridique en cas d’accident : Le incontestablement fautif, en tout cas source que les capteurs électroniques, plus précis
Monde 20 mars 2018, http://www.lemonde. de responsabilité ; la difficulté pratique sera que les sens humains, permettent une meil-
fr/societe/article/2018/03/20/qui-est-res- de déterminer à qui l’imputer si le concep- leure évaluation du risque, mais aussi parce
ponsable-en-cas-d-accident-impliquant- teur du logiciel n’est pas le constructeur, que les logiciels adapteront par précaution
une-voiture-autonome_5273788_3224. mais il n’y a pas là une difficulté juridique une conduite prudente (qui peut aboutir à
html#GtVZzQ2OqPpAjmRM.99). insurmontable. les bloquer définitivement à l’entrée de la
Les juristes le savent, même si le reste du Plus délicate est la question du non-respect place de l’Étoile, mais il est vrai que c’est pro-
monde en doute : le droit est plein de res- du Code de la route car le véhicule auto- bablement la solution la plus sage).
sources et peut faire preuve d’une étonnante nome doit alors respecter la loi. Dans cer- Vous êtes seul au volant et un piéton tra-
plasticité. Bon nombre de questions qui tains cas cela n’appelle aucune appréciation verse ; vous ne pouvez l’éviter qu’en per-
semblent redoutables pourront sans doute subjective : ainsi on ne doit pas circuler en cutant un mur (au choix : en tombant dans
être réglées avec d’anciennes recettes : par sens interdit (C. route, art. R. 412-28), il faut un précipice) au péril de votre vie ; que
exemple la défaillance mécanique du véhi- absolument marquer l’arrêt « devant un feu faites-vous ? C’est ce genre de questions que
cule pourra engager la responsabilité du de signalisation rouge, fixe ou clignotant » (C. propose un site du MIT au nom évocateur
vendeur ou du constructeur, la faute de la route, art. R. 412-30), mais on doit marquer (http://moralmachine.mit.edu/). Jusqu’ici
victime restera un paramètre de son indem- l’arrêt « devant un feu de signalisation jaune ce dilemme moral relevait du for intérieur,

LA SEMAINE JURIDIQUE - ÉDITION GÉNÉRALE - N° 14 - 2 AVRIL 2018 - © LEXISNEXIS SA Page 641


378

mais en se demandant quelle conduite doit suite comparer vos réponses avec celles des leurs présenté sur le même site avec certaines
adopter la voiture autonome – sacrifier son autres utilisateurs. » de ses variantes (onglet « Classique »).
passager ou le piéton – on bascule dans le Cerise sur le gâteau : « si vous souhaitez Le développement des sciences cognitives
domaine juridique, puisque le véhicule aura exprimer votre créativité, vous pouvez éga- et des neuro-sciences ravive l’intérêt pour
été programmé pour adopter tel ou tel com- lement concevoir vos propres scénarios, ces expérimentations psychologiques, mais
portement et donc que le choix doit être fait pour que les autres utilisateurs puissent les ce n’est au fond qu’une manifestation nou-
à l’avance par le concepteur du logiciel. parcourir, les partager et en discuter entre velle des « expériences de pensée » qui ont
Dans le cadre de la programmation des eux ou avec vous ». toujours été pratiquées. Il se confirme ici
véhicules autonomes, il est nécessaire de On aura reconnu le pragmatisme américain. qu’elles sont particulièrement adaptées à la
prévoir les situations auxquelles ils peuvent Ce site addictif est en lui-même amoral ; réflexion juridique.
être confrontés, ce que l’on peut faire par des certains scénarios indiquent expressément
techniques de simulation. Ces simulations que des piétons (qui portent des petits sacs
concernent directement les juristes quand de dollars) sont des « criminels », ce qui est 2. Les expériences de
elles impliquent des choix éthiques met- censé avoir une influence sur le choix des pensée juridiques
tant en jeu la sécurité des personnes et des internautes. Nous ignorons quelle utilisa-
biens ; elles constituent ce que dans d’autres tion sera faite de la masse de données qui Dans le domaine scientifique l’un des
domaines on appelle des « expériences de sera ainsi recueillie, mais ces informations exemples les plus clairs d’expérience de pen-
pensée ». Le site du MIT présente le grand seront sans doute utilisées en intelligence ar- sée est celle de Galilée : suivant Aristote – et,
intérêt de révéler l’utilité de ces techniques tificielle. Il convient de rappeler ici que, dans il faut bien le dire, le sens commun – une
que tout juriste utilise implicitement, voire son état actuel, cette discipline fait une place pierre de huit kilos tombe plus vite qu’une
inconsciemment, mais qui, formalisées, importante à l’apprentissage des machines pierre de quatre kilos, mais que se passera-
pourraient devenir un moteur important de (machine learning) qui sont entrainées à t-il si l’on attache les deux pierres avec une
la recherche juridique. réagir à des situations qu’il n’est pas toujours corde ? L’ensemble étant plus lourd devrait
possible de prévoir, mais qui ressemblent à tomber encore plus vite, mais comme la
d’autres. plus petite pierre tombe moins vite que la
1. La bonne décision de Comment éviter alors une curieuse et in- grosse elle devrait freiner cette dernière. Il y
la voiture autonome ? quiétante arithmétique ? Deux personnes a donc une contradiction que Galilée écarte
valent plus qu’une, mais on peut valoriser la en concluant que tous les corps tombent à la
Nous ne pouvons que recommander au lec- personne si c’est un enfant et la minorer si même vitesse (au moins dans le vide absolu
teur de consulter le site précité et d’essayer c’est un « criminel » ; et que faire du chien sans tenir compte de la résistance de l’air
les différents exercices proposés. Voici ce- ou du chiot ? On pourra dire que juridique- – exemple emprunté à E. Klein, Qu’est-ce
pendant un exemple parlant : ment cela n’a aucun sens au moins dans un qu’une « Expérience de pensée » ? https://
Comme on le voit, il peut y avoir plusieurs système où l’on refuse d’évaluer la vie d’un www.franceculture.fr/emissions/la-conver-
passagers dans le véhicule autonome et être humain et où l’on pose que tous les sation-scientifique/quest-ce-quune-expe-
aussi plusieurs piétons ; ce peuvent être des humains sont égaux. Si une vie a une valeur rience-de-pensee, où l’on apprend avec tris-
hommes, des femmes, des enfants ou des infinie, alors deux vies ne peuvent valoir tesse que l’expérience « de la Tour de Pise » ne
animaux ; selon les cas ils peuvent mourir ou deux fois l’infini. Le problème est qu’alors serait qu’une légende). On dit également que
être seulement blessés (des icônes adaptées les dilemmes proposés sont moralement c’est par une expérience de pensée qu’Albert
le signalent ; dans l’exemple il n’y a aucun indécidables, bien qu’en pratique non seu- Einstein eut l’intuition de la théorie de la re-
survivant). lement les voitures autonomes, mais aussi lativité, ce qui n’est pas rien (« que verrais-je
Il est demandé essentiellement aux inter- les conducteurs humains doivent choisir si je chevauchais un rayon de lumière ? ». -
nautes de donner un avis. Voici le texte qui une des branches de l’alternative et qu’en V. http://www.pitt.edu/~jdnorton/Goodies/
figure sur la page d’accueil du site : cas de procès le juge devra bien décider de la Chasing_the_light/index.html et les liens).
« Bienvenue à la Machine Morale ! Une responsabilité encourue (peut-être en appli- Les expériences de pensée (imaginary cases)
plate-forme compilant différentes perspec- quant des techniques de justice prédictive, sont beaucoup utilisées dans la pensée mo-
tives humaines sur les décisions morales mais c’est une autre histoire). rale ou éthique ; les dilemmes du type de
prises par les machines intelligentes, comme Il n’est donc pas interdit et il est même celui du tramway en sont un exemple, de
les voitures autonomes. nécessaire de réfléchir sur ces questions même que les scénarios proposés sur le site
Nous vous présentons les dilemmes moraux, éthiques. On aura peut-être reconnu dans précité du MIT, mais ces « cas imaginaires »
où une voiture sans conducteur doit choisir les scénarios proposés sur le site du MIT une sont également familiers au juriste. Ce sont
le moindre de deux maux, tuer deux passa- application du dilemme du tramway (trol- des outils d’enseignement sous la forme
gers ou bien cinq piétons. En tant qu’obser- ley problem) dans lequel en actionnant un triviale des « cas pratiques », mais l’activité
vateur externe, vous jugez quel résultat vous aiguillage une personne peut éviter la mort juridique en donne bien d’autres exemples :
semble le plus acceptable. Vous pouvez en- de cinq autres en tuant une seule ; il est d’ail- l’expérience de pensée juridique est néces-

Page 642 © LEXISNEXIS SA - LA SEMAINE JURIDIQUE - ÉDITION GÉNÉRALE - N° 14 - 2 AVRIL 2018


LA SEMAINE DU DROIT LIBRES PROPOS 378

saire chaque fois qu’il faut prévoir les consé- lui fournit, il peut créer un très grand facilement qu’appliquer des règles. La
quences d’un acte : un bon rédacteur de nombre de situations virtuelles que l’on principale difficulté se situe davantage au
contrats est celui qui sait imaginer tout ce n’aurait pas même imaginées. niveau de la modélisation des faits aux-
qui peut advenir dans les rapports entre les Pour prendre un exemple dans un do- quels elles s’appliquent car leur variété est
parties, un bon législateur est (notamment) maine que nous connaissons un peu, la infinie, mais précisément sur ce point les
celui qui prévoit les conséquences de ses lois. mise en place de nouvelles règles procé- progrès de l’intelligence artificielle sont
Une expérience de pensée est une antici- durales précises et contraignantes dans prometteurs.
pation ; elle est certes imaginaire, mais elle le procédure d’appel, avec les meilleures Que l’on se garde cependant de confondre
reste rationnelle, ce qui permet d’en tirer des intentions du monde, a révélé à l’usage un le virtuel avec le réel : toute simulation
conséquences efficaces. nombre considérable de cas non prévus repose sur une modélisation qui réduit la
Expérience individuelle l’expérience de pen- que les praticiens ont dû résoudre comme réalité. C’est la raison pour laquelle elle est
sée est artisanale et sa qualité dépend du ils pouvaient et qui ont alimenté et ali- particulièrement adaptée à la production
talent de celui qui la tente, ce qui tendrait mentent encore une riche jurisprudence de jeux sérieux (serious games) qui sont des
à confirmer que l’une des qualités essen- de la Cour de cassation que nous com- outils très efficaces de formation et même
tielles du juriste est l’imagination. Mais on mentons toujours avec bonheur. de réflexion juridique.
peut peut-être aujourd’hui perfectionner le Imaginons – c’est une expérience de pen- D’une manière générale et comme dans
procédé. sée – que l’on puisse simuler exhaustive- bien des domaines, les résultats issus de
ment toutes les situations de fait qui pour- l’intelligence artificielle ne se suffiront pas à
raient se produire à la suite de l’entrée en eux-mêmes, mais ils apporteront une amé-
3. La simulation dans la vigueur d’un texte ; il serait plus facile de lioration considérable à la recherche juri-
recherche juridique le « déboguer » et cette amélioration, pu- dique. En toute hypothèse la décision finale
rement technique, diminuerait le conten- appartiendra encore à l’être humain, même
L’ordinateur a de grandes capacités de si- tieux parasite de son interprétation. si elle doit être programmée à l’avance dans
mulation. À partir des informations qu’on Il n’y a rien qu’un ordinateur fasse plus une machine.

LA SEMAINE JURIDIQUE - ÉDITION GÉNÉRALE - N° 14 - 2 AVRIL 2018 - © LEXISNEXIS SA Page 643