Vous êtes sur la page 1sur 5

interview

Rubin
Sfadj
LIA juridique
$X[(WDWV8QLVOLQWHOOLJHQFHDUWLFLHOOHHVWGHSOXVHQSOXVHPSOR\HGDQVOHPRQGH
du droit pour automatiser et rationnaliser les recherches et les tches rptitives,
pour prdire les chances de succs dun procs et le montant de dommages-intrts
HVSUHUREWHQLUSRXURULHQWHUOHVVWUDWJLHVMXGLFLDLUHVPDLVDXVVLSDUODMXVWLFH
notamment pour valuer les risques de rcidive de prvenus. Si les outils sont plus
DYDQFVDX[(WDWV8QLVTXHQ)UDQFHFHQHVWSDVWDQWFDXVHGHODVWUXFWXUHGXGURLW
amricain que de limportance de la recherche & dveloppement de lintelligence
DUWLFLHOOH HQ JQUDO QRWDPPHQW HQ &DOLIRUQLH HVWLPH 5XELQ 6IDGM DYRFDW DX[
barreaux de New York et de Marseille. Il nous a sembl intressant quil nous parle
des applications qui sont utilises outre-Atlantique, des progrs dont la justice
YD EQFLHU JUFH  OLQWHOOLJHQFH DUWLFLHOOH PDLV DXVVL GHV ULVTXHV YHQWXHOV
GH GYLDQFH HW GHV JDUGHIRXV  PHWWUH HQ SODFH SRXU TXH FHV WHFKQRORJLHV QH
menacent pas nos dmocraties.

EXPERTISES JANVIER 2017 13


interview

Sylvie Rozenfeld : Aux Etats-Unis, lintelligence que les humains. La prcision informatique slve 95 %
artificielle sinvite de plus en plus dans le droit et la alors quon considre quun avocat, mme chevronn,
justice. En 2016, le sujet sest aussi impos en France atteint difficilement les 50 % sur lensemble des pices
et les startups sont de plus en plus nombreuses examiner. Vu la masse de documents traiter, un
offrir leur solution numrique. Vous tes avocat premier tri est gnralement opr par des juniors, puis
aux barreaux de New York et de Marseille, et vous un contrle qualit par des avocats plus expriments
observez cette volution fulgurante de lintgration et enfin des avocats dcisionnaires vont effectuer la
des technologies de linformation dans la pratique slection finale. Si on laisse passer un document lors
juridique et judiciaire de part et dautre de lAtlantique, du premier tri, on ne le rcuprera jamais. La machine,
avec une grande avance aux Etats-Unis. Phnomne elle, est capable de dtecter des tournures de phrases,
de mode ou tendance de fond ? des tons, un champ lexical entier. Grce lintelligence
artificielle, elle peut aller beaucoup plus loin que la
Rubin Sfadj : Il y a probablement un peu des deux. On simple slection par mots cls. Sur certains gros dossiers,
constate certes un phnomne de mode, avec la pous- les grands cabinets amricains embauchent des
se des sujets sur lintelligence artificielle dans tous les dizaines davocats intrimaires pour effectuer ces
mtiers intellectuels, et le droit missions de tri et de slection
ny chappe pas. Mais une de documents. Lusage des
tendance de fond se dessine La diffrence davance des technologies va permettre une
trs nettement, et elle se lit mieux
systmes prdictifs amricains sur la grande rduction de ces cots
aujourdhui aux Etats-Unis quen de procdure, mais cela va
Europe. Cest simplement d au
France est plutt lie au fait que les aussi entraner la disparition
fait que les dveloppements tech- technologies sont plus dveloppes dune filire toute entire, avec
niques proviennent en grande l-bas qu une diffrence des cabinets de recrutement
partie de l-bas. Mais fonda- ontologique entre les systmes. spcialiss, des avocats qui
mentalement, il est clair quen ont pris lhabitude de vivre
Europe comme outre-Atlantique, de ce travail rptitif mais
on va avoir une pntration de plus en plus importante du rmunrateur, etc. On peut galement citer lexemple
droit par lintelligence artificielle, quil sagisse de machine doutils capables de prvoir la probabilit de russite
learning ou de natural language processing. dune action en justice, en se basant sur lanalyse
massive de la jurisprudence existante. Les dcisions
Vous avez commenc voquer deux facettes de justice sont numrises depuis une vingtaine
diffrentes de lintelligence artificielle. Pouvez-vous dannes dans la plupart des grands pays, ce qui
nous expliquer de quelle manire elles sappliquent permet danalyser automatiquement ces documents.
au droit ? Si lon renseigne lordinateur sur la matire, la situation
Deux grands domaines de lintelligence artificielle des parties, les montants en jeu, etc., des algorithmes
sappliquent en effet au droit. Le premier est le machine arrivent donner une fourchette assez prcise des
learning : non plus seulement la capacit pour la chances de succs.
machine, par le biais dalgorithmes, raisonner de
manire binaire, mais aussi celle de pouvoir aller plus Quid des technologies du langage ?
loin, jusqu la prise de dcision. On a des solutions Prenons lexemple de Ross, la solution base sur Watson,
informatiques qui parviennent analyser des contenus lordinateur cognitif dIBM. On lui pose des questions
de nature juridique et effectuer des missions qui juridiques, mmes trs techniques, en langage naturel :
relevaient auparavant du pr-carr de lesprit humain. plus besoin de rechercher par mots-cls ou en droulant
Le second est le natural language processing, cest-- des menus interminables.
dire la capacit pour la machine comprendre et mme
gnrer des contenus en langage humain. Lexemple- Ross est prsent comme un avocat virtuel.
type, cest lassistant virtuel de type Google Now ou Siri, Le marketing dIBM est trs efficace... Je considre
que nous utilisons sur nos smartphones en leur parlant plutt Ross comme un moteur de recherche juridique
comme un tre humain, et qui nous rpondent de la en langage naturel. On lui pose une question comme
mme manire. on la poserait un collaborateur, et le systme va
comprendre la question et ensuite aller fouiller dans
Les machines ne sont-elles pas plus prcises que une base documentaire pour en sortir un ensemble de
ltre humain ? donnes, en rponse la question pose. Pour linstant,
Aux Etats-Unis par exemple, on applique ces cela ressemble encore plus des rsultats de recherche
technologies en contentieux, pendant la phase dite faon Google, avec des extraits de jurisprudence et de
de discovery , qui ncessite danalyser des masses de doctrine pertinents, qu un mmo juridique. Mais cette
documents pour savoir ce quon doit ou non transmettre volution ne saurait tarder. De plus, Ross demande
la partie adverse. Aujourdhui, des logiciels font en permanence lutilisateur dvaluer la qualit des
ce tri de faon infiniment plus rapide et plus prcise rponses, et affine ainsi sa comprhension juridique.

14 EXPERTISES JANVIER 2017


Est-ce que les avocats amricains sapproprient ce il va infrer le droit et ainsi retrouver la loi crite. Cela ne
systme ? veut pas dire que le droit nest pas lui-mme dtermin
Cet outil a t souscrit par de grands cabinets, comme par le code, mais pour la recherche, la mthodologie
Latham & Watkins ou BakerHostetler, et dautres part du prcdent, alors quen France on part plus
commencent suivre. Les universits aussi sont trs volontiers du texte de loi. Pour la machine, cela ne fait
intresses. mon sens, Ross constitue davantage une pas de diffrence.
volution quune rvolution : avant linternet, quand un En conclusion, on peut dire que la diffrence davance
avocat avait un sujet qui ncessitait une recherche, il des systmes prdictifs amricains sur la France
le confiait un stagiaire ou un junior. Avec larrive est plutt lie au fait que les technologies sont plus
de linternet, il a commenc le faire lui-mme, en dveloppes l-bas qu une diffrence ontologique
interrogeant lui-mme les bases de donnes juridiques entre les systmes. Aux Etats-Unis et notamment en
pour les recherches simples. Mais pour les sujets Californie, on travaille de manire trs intensive sur
plus touffus, il continuait de confier la recherche un lintelligence artificielle, de manire gnrale, et depuis
collaborateur. Avec Ross ou des systmes quivalents, plus longtemps quen Europe.
il y a de moins en moins de sujets qui le ncessiteront.
Il y a galement le volet de la prdiction quantitative,
Est-ce que la question de la prdiction des dcisions savoir laspect financier du procs.
de justice se pose diffremment en Europe et aux Aux Etats-Unis, il existe une tradition de financement
Etats-Unis, pays de common law avec son systme du des procs par des tiers. Il y a donc un plus grand intrt
prcdent ? oprationnel et commercial
La capacit de tout systme dvelopper ce genre de
prdire lissue dun procs technologies.
Le risque est de voir le contentieux
ne dpend pas seulement
du systme lui-mme, mais devenir un outil de pression Avec par exemple, la startup
aussi de la prvisibilit du conomique, en industrialisant les Legalist, qui utilise ces outils de
processus dans le rendu de recherches et les processus. prdiction peut valuer le taux
ses rsultats. Si vous avez un de russite dun procs mais
systme judiciaire qui produit aussi le montant probable de
ses rsultats avec un peu plus de prvisibilit, ce mme dommages-intrts. A partir de ces donnes, Legalist
systme sera plus prcis dans ses prdictions. propose des solutions de financement de procs, surtout
des PME. Le client livre les donnes de sa situation
Cest un peu une lapalissade. et de son problme, et lalgorithme va valuer laffaire
Oui mais cest important de le dire. Certes, les Etats- et dterminer les chances de la procdure ainsi quune
Unis sont un pays de common law, mais aussi un pays prvision de dommages-intrts. Et une dcision
de code. Rappelons quune grande partie du droit dacceptation ou de refus du dossier sera prise, sur
amricain est codifi. Le Congrs adopte beaucoup la base du rsultat de lalgorithme, pour financer le
de lois, comme chacun des Etats fdrs. Cest du procs en contrepartie dun pourcentage sur les futurs
reste une tendance globale, qui fait que les grands dommages-intrts.
systmes juridiques sont de moins en moins diffrents
quon le pense. Par ailleurs, on constate un facteur Et les prvisions qualitatives ?
dimprvisibilit aux Etats-Unis du fait que cest un Etat Dautres startups travaillent seulement sur des
fdral. On note parfois de grandes diffrences entre applications qualitatives, qui sont uniquement ddies
des dcisions sur des sujets similaires dun Etat lautre, aux avocats, et notamment sur la stratgie judiciaire.
ce qui constitue un facteur dinstabilit que nous navons Aux Etats-Unis, il existe un double degr juridictionnel,
pas en France. Mais dun autre ct, oui, le droit franais tatique et fdral, et lorsquune affaire touche deux ou
est moins prvisible, car la jurisprudence a moins de plusieurs Etats, il faut dcider devant quelle juridiction
poids quaux Etats-Unis, mme si nos hautes juridictions attaquer. La startup CaseText, qui se fonde sur une
effectuent un vrai travail unificateur. Il est aussi vrai base documentaire importante, dtermine entre autres
quavec les juridictions consulaires, en droit commercial dans quel Etat attaquer pour avoir le plus de chances
ou en droit du travail, on constate parfois une certaine de gagner un procs. Ses algorithmes dterminent
imprvisibilit et une plus grande dpendance aux faits les stratgies mises en place avec le plus de succs,
quau droit. mais aussi celles gnralement adoptes par la partie
adverse. Elle va aussi rcuprer les conclusions du cas
Et le systme des prcdents y est beaucoup moins qui se rapproche le plus dun contentieux pour prvoir
marqu. les arguments dvelopps en face.
Cest vrai mais on se rend compte, dans la pratique, Aujourdhui, un avocat chevronn aid dune quipe
que la diffrence est davantage mthodologique de juniors peut obtenir la majorit de ces donnes, mais
que juridique. Pour rsoudre un problme, le juriste avec la machine on les obtient en quelques secondes et
amricain va aller voir les prcdents, partir desquels de manire trs prcise.

EXPERTISES JANVIER 2017 15


interview

La machine permet des personnes qui ne feraient dallger la peine ou denvisager des amnagements.
pas appel la justice de le faire. A terme, ne rend-elle Cela partait dune excellente intention. Mais quoi
pas la justice plus accessible ? quon en dise, ltablissement dun score, aux allures
Absolument. Et on pourrait mme dire que les avocats scientifiques, influence le juge, consciemment ou non.
qui remplissaient des tches peu gratifiantes, comme En 2014, lquivalent du ministre de la Justice a demand
le discovery , vont pouvoir accepter des dossiers quune enqute soit mene sur ces algorithmes. Mais
quils nauraient pas pu prendre auparavant, faute comme la sparation des pouvoirs est trs rigide, il na
de disposer de collaborateurs. On voit bien que le pas pu limposer, et a na pas t fait. Du coup, cest le
professionnel avocat nest pas en danger, au contraire. site dinformation ProPublica qui a men cette tude,
Il accde un outil de travail extraordinaire. de faon indpendante et spontane. En mai dernier, il
a publi un long article mettant en lumire les limites
Les modalits du procs sont ainsi en train de changer. de ces algorithmes. Lenqute a montr que le taux de
Lintelligence artificielle va changer la nature de prcision de ces algorithmes nest que de 60 %, ce qui est
certains contentieux, et on nest pas encore sr que ce peine mieux que de tirer pile ou face. Peut-tre que
soit uniquement pour le meilleur. Le risque est de voir les donnes ne sont pas si pertinentes, ou quelles ne sont
le contentieux devenir un outil pas structures de manire
de pression conomique, en homogne, ou quelles ne se
industrialisant les recherches Grce aux algorithmes de prdiction prtent pas si bien que cela
et les processus. Cest dj des procs, beaucoup de procdures la prdiction. Aprs tout, nous
le modle conomique vont pouvoir tre vites. ne sommes pas des robots.
des patent trolls , qui Mais surtout, ces algorithmes
rachtent des masses de prdisent un taux de rcidive
brevets et paient des avocats pour faire pressions sur bien plus lev pour les noirs que pour les blancs. Pour
les entreprises. A contrario, avec les nouveaux outils, le dire clairement, loutil se trompe beaucoup plus sur
nimporte quelle PME ou petit cabinet davocat, quand les noirs que sur les blancs.
il ou elle reoit une mise en demeure dun patent troll,
pourra facilement vrifier sil sagit dune vraie menace Quel est le biais de cet algorithme ?
et voir sil doit sen inquiter ou contre-attaquer. Donc, Aujourdhui, on ne le sait pas. Plusieurs thories sont
cela permettra aussi dattnuer la pression conomique chafaudes. Il faut prendre en compte que les Etats
des menaces de procs. Certains considrent ainsi quil nutilisent pas toujours les mmes technologies. Et
sagit dun outil de justice conomique, car les PME vont certains algorithmes fonctionnent mieux que dautres.
pouvoir se dfendre galit de chances. Une premire thorie parle dune infusion du prjug
De faon gnrale, on peut imaginer quil y aura des dans les algorithmes : les concepteurs auraient intgr,
abus, mais ce nest pas une raison pour freiner cette de manire innocente, leurs prjugs inconscients dans
technologie, qui dans la majeure partie des cas sera un le systme, en fonction de la manire dont les donnes
outil formidable. De toute faon, en cas dabus, nul doute sont structures, le type de donnes auquel on fait
que les magistrats ne se laisseront pas facilement berner rfrence, etc. Selon une autre thorie, il ne sagirait
par la puissance de largent. On peut tre confiant. pas de racisme mais dune mauvaise interprtation des
jeux de donnes par la machine, ou dune mauvaise
A la confrence de lAfdit consacre lintelligence valuation. La rponse nest pas encore apporte, et ne
artificielle et aux smart cities, qui sest tenue le le sera peut-tre jamais de faon dfinitive.
2 dcembre dernier Aix-en-Provence, vous avez
voqu lexemple dun algorithme utilis aux Etats- Ltre humain nest peut-tre pas si prvisible ?
Unis pour valuer le risque de rcidive dun prvenu, Peut-tre. Mais ce nest pas parce quon ne matrise
comme aide la dtermination de la peine. Cet pas toutes les causes dun problme quil ne faut pas
algorithme sest avr raciste, il survaluait indment y remdier. Il conviendrait de sinterroger sur lintrt
le risque de rcidive des noirs. Pouvez-vous nous dutiliser une technologie avec un taux de prcision
parler de cette affaire ? de 60 % seulement ! Que doit-on faire sil savre que
Dans le procs pnal aux Etats-Unis, le prononc les juges condamnent plus lourdement les prvenus
de la culpabilit et celui de la peine sont spars. qui ont un score de rcidive plus lev et quon a
Les dcisions sont rendues lors de deux audiences ainsi une amplification des prjugs et des risques
diffrentes. Dans la plupart des Etats, des socits, de discrimination contre les minorits cause de cet
des associations ou des institutions parapubliques algorithme ? Continuer lutiliser, lamliorer, mieux
ont dvelopp des algorithmes qui permettent daider informer le juge et les justiciables de la faon dont on
au prononc de la peine en dterminant un score de arrive aux rsultats ?
rcidive, bas sur des statistiques, de la jurisprudence On est bien au-del des questions de responsabilit :
et des donnes sur le prvenu. Ce score nest pas cens nous devons rflchir notre manire collective de
influencer directement la peine prononcer, mais vivre avec ces technologies, et comment les utiliser
plutt donner au juge des lments qui lui permettront au mieux. Quand ces outils sont susceptibles de gnrer

16 EXPERTISES JANVIER 2017


des situations discriminatoires, qui peuvent impacter la La jonction de deux fichiers.
vie des gens, comment sy prpare-t-on ? En effet, qui se cumulent pour constituer un fichier massif.
On ne peut pas garantir quil ny aura pas dautres utili-
La question de la responsabilit est-elle complique ? sations que celle de lauthentification des documents.
En loccurrence, elle ne lest pas. La justice est rendue On na pas dinformations sur les algorithmes qui seront
au nom de lEtat. En appel, on nest pas sans moyen appliqus ces donnes. Idem pour le renseignement, o
pour rectifier la dcision. les algorithmes sont classs secret dfense. Le problme
se pose quand il y a un risque dimpact sur la vie des
A condition de savoir que la dcision est fonde sur personnes. Une thique doit tre mise en place dans le
un algorithme. secteur public, mais qui pourrait galement, parfois, tre
Absolument. Il faut que les justiciables en soient applique au secteur priv, vu les masses et la nature
informs. Pour ce qui est de la responsabilit de lEtat, de donnes que nous gnrons, et que certains rseaux
cela va dpendre des juridictions. Mais la question sociaux exploitent.
socitale est plutt de savoir comment faire pour que ces
technologies deviennent un facteur de progrs et non En quoi pourrait consister cette thique ?
un facteur de discrimination. Elle devrait mon sens reposer sur trois grands principes.
Premirement, le principe de responsabilit devrait impo-
De faon gnrale, pensez-vous que lintelligence ser pour chaque algorithme la dsignation dune personne
artificielle peut amliorer le fonctionnement de la rfrente, linstar de ce qui se fait dans la presse, o le
justice ? directeur de la publication est
Avec les rserves que je viens responsable du contenu quil
dexprimer, lintelligence
Quand ces systmes sont utiliss publie. Cette personne pourrait
artificielle va rduire un certain par la puissance publique, il faut tre une sorte dombudsman
nombre de risques juridiques. se doter dune vraie thique de auquel on pourrait sadresser
Je pense notamment aux lutilisation des algorithmes. pour demander des explications,
vhicules autonomes. Il est porter des rclamations. En
avr quils vont rduire le deuxime lieu, il faudrait respec-
nombre daccidents, car ils sont plus srs. Idem pour ter un principe de clart : quand une dcision judiciaire ou
la mdecine. La robotique et lIA introduisent de la administrative est influence ou conditionne par un algo-
prcision et de la constance en matire de chirurgie rithme, cela devrait tre dit, et le but devrait en tre expliqu.
par rapport la main humaine. Cela va donc rduire Les citoyens et les justiciables qui font lobjet de traitements
le contentieux en responsabilit. Autre exemple un peu algorithmiques ont le droit den tre informs, et surtout
connexe, celui des smart contracts et de la blockchain. de se voir expliquer, en termes clairs et prcis, quelles
Des contrats vont pouvoir sexcuter automatiquement donnes sont exploites et dans la poursuite de quel objec-
dans des cas prdtermins, permettant ainsi de tif. Le troisime principe devrait porter sur la prcision : on
dsengorger les tribunaux et de rduire les risques devrait tre capable didentifier, de suivre et de corriger
juridiques. rgulirement les sources derreurs dans les traitements
algorithmiques utiliss par les Etats, de la mme manire
Par ailleurs, grce aux algorithmes de prdiction des quil semble normal et naturel tout dveloppeur de suivre
procs, beaucoup de procdures vont pouvoir tre et de corriger les bugs dun logiciel. Certains algorithmes,
vites. Les avocats qui pratiquent le contentieux savent particulirement sensibles, devraient mme tre rgulire-
que certaines affaires qui leur sont soumises nont pas ment audits par un tiers indpendant.
de grandes chances dtre gagnes. Mais comme le
client veut en dmordre, ils vont au contentieux. Si les Le Conseil national du numrique avait propos une
avocats disposent de chiffres prcis sur les chances de autorit des algorithmes.
succs, il leur sera beaucoup plus facile de convaincre Absolument. En tout cas, une telle autorit ne devrait
leur client de ngocier. pas se limiter un pouvoir consultatif. Un suivi rgulier
et indpendant est indispensable. Enfin, il est important
Vous tes trs optimiste, mais navez-vous aucune dinstaurer une valuation de limpact des technologies
crainte ? sur la justice. Lexigence dune dontologie nest pas seule-
Il y aura sans doute des abus. Mais nos systmes ment morale, il y a aussi un enjeu defficacit. Le principal
judiciaires sont assez anciens et robustes pour rguler problme dans lutilisation des algorithmes est quils ont
ces risques. Par ailleurs, quand ces systmes sont lair tellement efficaces que la tentation est grande de se
utiliss par la puissance publique, il faut se doter dune reposer totalement sur eux. Or, ils ne sont pas parfaits et ils
vraie thique de lutilisation des algorithmes. Cest peuvent dysfonctionner. Si lon ne met pas en place cette
en gestation, mais cela nexiste pas encore. On le voit dontologie, ces algorithmes constitueront non plus un
notamment avec la constitution du fichier TES (Titres progrs mais une vritable menace pour nos dmocraties.
lectroniques scuriss), un fichier de la population
franaise. Propos recueillis par Sylvie ROZENFELD

EXPERTISES JANVIER 2017 17

Vous aimerez peut-être aussi