Justice + IA + blockchain = ?

pr. vincent gautrais

directeur du CRDP
titulaire de la chaire LR Wilson
www.gautrais.com
@gautrais
 Première quesFon…

justice prédictive: cela marche?

Blockchain en preuve: cela marche?

 Conclusion 1

Hourra pour le numérique de première

génération
 Conclusion 1

Miche Serres
Et les « grands papas ronchons »
Conclusion 1
 Conclusion 2

Hourra pour le numérique qui revisite la

pertinence du droit
 Conclusion 2

particulièrement les
technologies de génération subséquente
 Conclusion 2

• Qu’est-ce qu’une personne?

• Qu’est-ce qu’un juge?
• Qu’est-ce que la jus=ce?
• Ordonnancement de règles? (Aristote)
• Processus? (Platon)
• Qu’est-ce qu’un contrat?
• Etc.
Plan
Question 1: Justice prédictive
1. Enjeux sur la justice prédictive
1. QUI est en charge de la contrôler?
2. QUOI – l’IA est-elle neutre?
3. COMMENT la réguler ?
2. Justice prédictive et illustrations
Question 2: blockchain et preuve
1. Quid de la BC en général
2. Quid de la possibilité de la BC en preuve
JusFce prédicFve – enjeux
1
•QUI ?
•QUOI ?
•COMMENT ?
Justice avec acteurs multipliés
1.1
1. Juges
2. État
3. Justiciable
4. Public
5. Entreprises

David G. Post, Anarchy, State, and the Internet: An Essay on Law-

Making in Cyberspace, 1995 J. ONLINE L. art. 3, par. 1
Juges et hiérarchie des professions
juridiques 1.1.1
• Indépendance statutaire
• Indépendance financière
• Paradoxe judiciaire
• Crédibilité élevée
• Nomination assez « obscure »
• Subjectivité déléguée
• « license to judge »
• Tendance au renforcement de son rôle (EX: CPC - 2016)
État en retrait volontaire
1.1.2
• Budget de la jusace (0.7%)
• Faveur technologique mais…
• Exemple: 26 CPC
• Dans l’applicaaon du Code, il y a lieu de privilégier l’u=lisa=on de tout moyen
technologique approprié qui est disponible tant pour les paraes que pour le
tribunal en tenant compte, pour ce dernier, de l’environnement
technologique qui souaent l’acavité des tribunaux.
• Faiblesse des organismes de contrôle (EX: contrôle de la vie privée)
• Imputabilité déléguée
• EX: RGPD => audit
• EX: sécurité => ceraficaaon
Justiciable
1.1.3
• Jusaciable comme par=e au liage
• Grande autonomisaaon de la parae au liage
• Approche individualisée
• Jusaciable comme parae à l’intérêt public
• Disposi=on préliminaire (CPC). Le Code vise à permeore, dans l’intérêt
public, la prévenaon et le règlement des différends et des liages, par des
procédés adéquats, efficients, empreints d’esprit de jus=ce et favorisant la
par=cipa=on des personnes. Il vise également à assurer l’accessibilité, la
qualité et la célérité de la jusace civile, l’applicaaon juste, simple,
propor=onnée et économique de la procédure et l’exercice des droits des
paraes dans un esprit de coopéraaon et d’équilibre, ainsi que le respect des
personnes qui apportent leur concours à la jusace.
Public
1.1.4
• Rôle ?
• Principe démocraaque
• Principe de transparence
• Plus important qu’en Europe
• Canaliser l’État
• Contrôler l’État
• Exemple: publicité des jugements
• Plus publics
• Plus moavés
• Plus didacaques
• Plus accessibles
Entreprises
1.1.5
• Nouveaux acteurs
• Faire travailler ensemble acteurs traditionnels et nouveaux acteurs
• Nouveaux liens
• Dans tous les domaines
• Commerce électronique
• Santé
• Responsabilisation accrue
• À la différence des premières lois sur le commerce électronique
• Non-responsabilité anachronique
• Plus en rapport avec la capacité de contrôle
• EX: récent rapport (livre blanc) européen sur l’IA (02/2020)
JusFce pas neutre
1.2
• Neutralité technologique
• Ce que l’on perd
• Ce que l’on gagne
• Pas de neutralité sur toutes les composantes de la justice
• Valeurs
• Institutions
• Normes
Technologies ne sont pas neutres
1.2.1
• Notion « marketing » de neutralité technologique
• Notion assez simple de rédaction législative
• Notion qui ne doit pas faire oublier que
• Les technologies influencent les comportements

« Because technical objects and processes have a promiscuous utility,

they are taken to be fundamentally neutral as regards their moral standings.
(...) If the experience of modern society shows us anything, however, it is that
technologies are not merely aids to human activity, but also powerful forces
acting to reshape that activity and its meaning. » Langdon Winner (1986)
(The Whale and the Reactor: A Search for Limits in an Age of High Technology)
Remise en cause des composantes
de la justice 1.2.2
• Valeurs de justice reconsidérées
• Mobilisation augmentée de la justice
• EX: accès démesuré au droit
• EX: droit corrompu par les médias sociaux
• Critiques des valeurs de justice
• EX: efficacité; capitalisme judiciaire; etc.
• EX: Accès augmenté
• Institutions de justice concurrencées
• EX: autonomisation des individus
• Normes de justice complexifiées
• EX: normes techniques; preuve à soi-même; etc.
Justice à réguler
1.3
Le « bon droit » selon Vittorio Villa c’est …

• Droit positif est en accord avec ce qui EST (réalité)

• Droit positif est en accord avec ce qui DEVRAIT (principes de justice)

Vittorio VILLA, « La science juridique entre descriptivisme et

constructivisme », dans Paul AMSELEK, Théorie du droit et science,
Paris, P.U.F., 1994, p. 288.
Justice prédictive conforme à
ce qui EST 1.3.1

1. Réalité technologique
2. Réalité culturelle
3. Réalité économique
Réalité technologique
1.3.1.1

1. Mesurer les apports

2. Éviter la « techno-magie »
3. Frugalité numérique
Réalité technologique –
Mesurer les apports 1.3.1.1
Réalité technologique –
Frugalité numérique 1.3.1.1
Réalité culturelle
1.3.1.2
• Différences selon les pays
Réalité culturelle
1.3.1.2

• EX: Chine = pays de l’IA

• Tolérance à la surveillance (culturelle)

• Main d’œuvre bon marché (économique)
• Montant élevé de données (techno)
Réalité économique
1.3.1.3

• Raao données / véracité

• Banque de données juridiques => pas tant de données que cela
• Disanguer ceux qui ont de la donnée et dont c’est le modèle d’affaires
• Coûts pour « taguer » les données
• Débat sur la « propriété » des données
• Etc.
Principes de cyberjustice
1.3.2
• Fonc=ons de principe
• Foncaon normaave où juger = interpréter (étymologie = dire le droit) (Clare Dalton)
• Droit « oual » (rôle mécanique)
• Droit « censeur » (équilibre entre des intérêts catégoriels contraires)
• Foncaon symbolique (aoentes sociétales)
• Principes de fonc=onnement
1. Documenter
2. Rendre transparent
3. Responsabiliser
4. … (jusace (fairness))
Danielle K. Citron & Frank Pasquale, The Scored Society: Due Process for Automated
Predicaons, (2014) 90 Wash. U. L. Rev. 1, 20 => 1) transparency, 2) accuracy, 3)
accountability, 4) par=cipa=on, 5) fairness
Principes de cyberjustice –
Documenter 1.3.2.1
• « Couteau suisse » normaaf du numérique
• EX: RGPD
• EX: Normes techniques
• Cacophonie des normes applicables
• Doutes associées aux normes techniques
• Trop molles
• Trop nombreuses / différentes
• Trop floues
• Trop vides de sens
• Généralisaaon de la « preuve à soi-même »
Principes de cyberjusFce –
Rendre transparent 1.3.2.2
• Quoi rendre transparent?
• Documentation?
• « Audit trail »
• Résistance de l’industrie
• Sur la base de la sécurité
• Sur la base du secret commercial (COMPAS)
• Qui contrôle?
• Interne ou externe?
• Question de coût

Kehl Danielle L. & Samuel A. Kessler, “Algorithms in the Criminal Justice System:
Assessing the Use of Risk Assessments in Sentencing” (2017) Berkman Klein Centre for
Internet & Society – Harvard Law School.
Principes de cyberjusFce –
Rendre transparent 1.3.2.2
Principes de cyberjusFce –
Rendre transparent 1.3.2.2

a l
e r n
in t
a l
e r n
ex t

b lic
pu
l i c
b
pu
a l
te rn
in
Principes de cyberjusFce –
Responsabiliser 1.3.2.3
informational
asymetry loyauty of
plaforms

algorithmic
transparency
technological
due process
more
imputability
1.3.2.3
Principes de cyberjusFce –
Responsabiliser 1.3.2.3

pas de responsabilité =
pas d’IA responsable
DéclaraFon de Montréal pour une
IA responsable 1.3.2.3
Principes de cyberjustice –
Responsabiliser 1.3.2.3
Principes de cyberjustice –
Responsabiliser 1.3.2.3
Conséquences sur la régulation
1.3.3
• Évaluer les formes de régulaaon
• Normaavité formelle
• Normaavité jurisprudenaelle
• Normaavité contractuelle
• Norma=vité technique
• Évaluer les formes d’applicaaon de la régulaaon
• Balkaniser le droit? (retour des fronaères)
• Revaloriser le rôle des États?

Grégoire Chamayou, La société ingouvernable: une généalogie du libéralisme

autoritaire, 2018, La Fabrique édiaons, Paris.
Justice prédictive – illustrations
2
• Mise en contexte des prononcés des peines
• Subjecavité des prononcés de peine
• « Algorithmisaaon » du processus
• Avantages
• Inconvénients
Mise en contexte: les prononcés
sur la peine 2.1
• Seconde des deux étapes
• Analyse de risques souhaitée
• Analyse de risques imparfaite
• Pratiques courantes de délégation aux algorithmes
• PSA
• COMPAS
• LSI-R
Mise en contexte: les prononcés
sur la peine 2.1.1
• Initialement pour la détention provisoire
• Question précise => risque pour la société
• « There is little question that well-designed risk assessment tools “work,” in
that they predict behavior better than unaided expert opinion. » Matthew
Conlen, Reuben Fischer-Baum & Andy Rossback, Should Prison Sentences Be
Based on Crimes that Haven’t Been Committed Yet?, FiveThirtyEight Politics
(Aug. 4, 2015)
• Ensuite pour le prononcé de la peine
• Plus compliqué
• Comment punir quelqu’un?
• Combien de temps?
Mise en contexte: les prononcés
sur la peine 2.1.1
718 Code criminel
718 Le prononcé des peines a pour objectif essentiel de protéger la société et de contribuer,
parallèlement à d’autres initiatives de prévention du crime, au respect de la loi et au maintien d’une
société juste, paisible et sûre par l’infliction de sanctions justes visant un ou plusieurs des objectifs
suivants :
a) dénoncer le comportement illégal et le tort causé par celui-ci aux victimes ou à la collectivité;
b) dissuader les délinquants, et quiconque, de commettre des infractions;
c) isoler, au besoin, les délinquants du reste de la société;
d) favoriser la réinsertion sociale des délinquants;
e) assurer la réparation des torts causés aux victimes ou à la collectivité;
f) susciter la conscience de leurs responsabilités chez les délinquants, notamment par la
reconnaissance du tort qu’ils ont causé aux victimes ou à la collectivité.
Mise en contexte: les prononcés
sur la peine 2.1.1
• Subjectivité inhérente
• Subjectivité recherchée par 718 C.Crim.
• Objectivation par la jurisprudence
• Idem dans de nombreuses hypothèses de détermination du quantum
• En criminel
• Au civil (Corriveau c. Canoe inc., 2010 QCCS 3396)
Mise en contexte: les prononcés
sur la peine 2.1.1
• Subjectivité encadrée
• Avantage de ces Federal Post Conviction Risk Assessment (PCRA)

« Federal probation officers made more consistent and more accurate assessments of offender risk
when using the PCRA than when using unstructured clinical judgment »

Oleson, JC et al., “Training to see risk: Measuring the accuracy of

clinical and actuarial risk assessments among federal probation
officers”, (2011) 75 Federal Probation 52.
Mise en contexte: les prononcés
sur la peine 2.1.1
• Subjecavité confirmée
• EX: afro-américain = peine 20% + longue (2001 – Maryland))

« Using data from Maryland, we find that African Americans have 20% longer sentences than
whites, on average, holding constant age, gender, and recommended sentence length from the
guidelines. We find more judicial discre=on and greater racial disparity than is generally found
in the literature. Moreover, when we begin to try to explain this discreaon, we find that judges
tended to give longer sentences (relaave to those recommended by the guidelines) to people
in the part of the guidelines grid with longer recommended sentences (who are
disproporaonately African American) than they gave to people in the part of the grid with lower
recommended sentences. »

Bushway Shawn & Anne Morrison Piehl, “Judging Judicial Discreaon: Legal Factors
and Racial Discriminaaon in Sentencing”, (2001) 35-4 Law & Society Review 733.
Mise en contexte: les prononcés
sur la peine 2.1.1
• Subjecavité à améliorer
• EX: vraisemblablement contraire à la plupart des tests cons=tu=onnels

I argue that this pracace violates the Equal Protecaon Clause and is bad policy: an explicit
embrace of otherwise-condemned discriminaaon, saniazed by scienafic language. To
demonstrate that this pracace should be subject to heightened consatuaonal scruany, I
comprehensively review the relevant case law, much of which has been ignored by exisang
literature. To demonstrate that it cannot survive that scruany and is undesirable policy, I review
the empirical evidence underlying the instruments. I show that they provide wildly imprecise
individual risk predicaons, that there is no compelling evidence that they outperform judges’
informal predicaons, that less discriminatory alternaaves would likely perform as well, and that
the instruments do not even address the right quesaon: the effect of a given sentencing
decision on recidivism risk

Starr Sonja B., “Evidence-Based Sentencing and the Scienafic Raaonalizaaon of

Discriminaaon”, (2014) 66 Stanford Law Review 71
« Algorithmisation » du processus –
objectivation du « sentencing » 2.1.2
• Ouals d’aide à la décision (récidivisme)
• Ualisaaon de données socio-économiques
• Catégorisaaon des dossiers (haut – moyen – élevé)
• Idenaficaaon de facteurs
• Facteurs de risque (centrés sur l’individu)
• Facteurs de protecaon (centrés sur la protecaon de la société)
• Producaon d’un « score de risque »
• Généralement, ualisaaon avant la survenance du procès
• + de 20 États US
• Mais aussi au Canada / UK
Kehl Danielle L. & Samuel A. Kessler, “Algorithms in the Criminal Jusace System:
Assessing the Use of Risk Assessments in Sentencing” (2017) Berkman Klein Centre
for Internet & Society – Harvard Law School.
« AlgorithmisaFon » du processus –
objecFvaFon du « sentencing » 2.1.2
• (Génération 1) 1920-60 => décision basée sur expérience
de professionnels
• Critères dynamiques (alcoolisme – chômage – etc.)
• critères statiques (historique criminel – genre – âge de 1ère offense – etc.)
• (Génération 2) 1970-… => cible + les critères statiques afin de plus
tenir compte de la capacité de la personne de changer
• (Génération 3) 1990-… => retour vers une utilisation des deux critères
mais en les considérant globalement
IllustraFon 1 => LSI-R
Level of Services Incentory-Revisited 2.1.2
• L’un des plus anciens
• Commercial / Canada
• Usages variables
• Au départ pour évaluer la réhabilitation
• Ensuite le risque de récidive
• Secret !
• Questionnaire de 54 questions
Sex Offender Sentencing in Washington State: Predicting Recidivism
Based on the LSI-R, Washington State Institute for Public Policy (2006)
IllustraFon 2 => COMPAS
(CorrecFonal Offender Management
Profiling for AlternaFve SancFons ) 2.1.2
• 5 grandes variables
• Comportement criminel
• Style de vie
• Personnalité
• Famille
• Exclusion sociale
• Formulaire de 137 questions
• Paramétrable (voir le Guide d’utilisation (2015))
• Secret !
« Northpointe has refused to disclose the details of its proprietary algorithm, making
it impossible to fully assess the extent to which it may be unfair, however
inadvertently. That’s understandable: Northpointe needs to protect its bottom line.
But it raises questions about relying on for-profit companies to develop risk
assessment tools. » (Sam Corbett-Davies et al., A Computer Program Used for Bail
and Sentencing Decisions was Labeled as Biased Against Blacks. It’s Actually Not that
Clear., The Washington Post (Oct. 17, 2016))
Illustration 2 => COMPAS
(Correctional Offender Management
Profiling for Alternative Sanctions ) 2.1.2
• Le cas Loomis
• State v. Loomis, 881 N.W.2d 749 (Wisc. 2016)
• Premier gros cas…
• Délit de fuite + voiture volée
• Plaide coupable à une offense moindre
• Score de risque qualifié d’élevé
• Pourquoi?
• Jamais su même si sans doute lien avec précédentes offenses
• Loomis évoque un droit à un procès juste
• Droit à une décision sur des informations justes
• Droit à une décision individualisée
• Décision basée sur des présupposées « genrées »
• Refus de la cour de recevoir ces arguments
« [T]o the extent that Lo1omis's risk assessment is based upon his
answers to questions and publicly available data about his criminal
history, Loomis had the opportunity to verify that the questions and
answers listed on the COMPAS report were accurate. »
Illustration 2 => COMPAS
(Correctional Offender Management
Profiling for Alternative Sanctions ) 2.1.2
• Le cas Loomis
• State v. Loomis, 881 N.W.2d 749 (Wisc. 2016)
• Les juges prennent le soin d’identifier des limitations pour
utiliser de tels outils
• 1. COMPAS is a proprietary tool, which has prevented the
disclosure of specific information about the weights of the
factors or how risk scores are calculated;
• 2. COMPAS scores are based on group data, and therefore
identify groups with characteristics that make them high-risk
offenders, not particular high-risk individuals;
• 3. Several studies have suggested the COMPAS algorithm may be
biased in how it classifies minority offenders;
• 4. COMPAS compares defendants to a national sample, but has
not completed a cross-validation study for a Wisconsin
population, and tools like this must be constantly monitored and
updated for accuracy as populations change; and
• 5. COMPAS was not originally developed for use at sentencing.
Illustration 3 => PSA
Public Safety Assessment 2.1.2
• Uniquement pour la déten=on provisoire
• Public (ici)
• Sur la base de 9 variables
• (âges – type d’offense – précédent – défaut de se
présenter – etc.)
• Seulement des critères sta=ques
• Ualisé dans 29 juridicaons dont 3 États (Arizona –
Kentucky – New Jersey)
 Illustration 3 => PSA
Public Safety Assessment 2.1.2

• FTA = Failure to Appear

• NCA = New Criminal Acavity
• NVCA = New Violent Criminal
Acavity
 Illustration 3 => PSA
Public Safety Assessment 2.1.2

• FTA = Failure to Appear

• NCA = New Criminal Acavity
• NVCA = New Violent Criminal
Acavity
Pour
2.2
1. + efficace
• Moins cher
• Réduit la population carcérale
2. - de biais que les « vrais » juges
• + d’objectivation
• + de transparence
3. + d’harmonisation
• Encadre la discrétion existante
• Sentiment de justice + grand
Pour
2.2
4. Droit de « basse intensité » (Benyekhlef)
• EX: Arbitrage et nom de domaine (3 critères)
• 3 critères simples
• Même nom
• Bonne foi
• Sollicitation
• Jurisprudence « copiée/ collée »
• Droit « mécanique »
• A fortiori, difficulté sur le droit plus élaboré
• EX: droit constitutionnel
• EX: différence entre détention provisoire et jugement au fond
• Parallèle avec la visio-conférence => selon jurisprudence, possible lorsque pas besoin
de hautement apprécier la « crédibilité » (Gatti c. Barbosa Rodrigues, 2011 QCCS
4693)
Contre
1. Communautarise la prise de décision => justice =
2.3
droit individuel
• Risque collectif versus risque individuel
• EX: State v. Loomis, (2016) 881 NW2d 749
2. Discrimination et biais
• Propre des approches « globales »
• EX: les « noirs » sont ainsi …
• Discrimination double
• Volontaire
• Ou pas…
• Sonia Starr (2014) => usage de variables socio-démographiques est anticonstitutionnel
• Kehl & Kessler (2017) => usage est discriminant même si basé sur des raisons statistiques
• Angwin and al. (2016) => afro-américains sont 2 fois plus à risque de récidive selon COMPAS
(contesté)
Contre
2.3
3. Justice inhérente (fairness)
• Définition?
• Incapacité de la machine de la définir
4. Exactitude de l’IA?
• Certains en doutent! (Dressel / Farid, 2018)
Julia Dressel & Hany Farid, ”The accuracy, fairness, and limits of predicting
recidivism”, (2018) 4:1 Science Advances eaao5580.
« We show, however, that the widely used commercial risk assessment software COMPAS is
no more accurate or fair than predictions made by people with little or no criminal justice
expertise »
Ewert c. Canada, 2018 CSC 30
2.3
La seconde question à trancher est de savoir si le Service correctionnel du Canada (SCC) a manqué à son obligation et, plus
précisément, s’il a omis de veiller, dans la mesure du possible, à ce que les outils contestés produisent des renseignements exacts
lorsqu’ils sont utilisés à l’égard d’Autochtones. Le paragraphe 24(1) exige que le SCC veille, dans la mesure du possible, à ce que les
renseignements qu’il utilise concernant les délinquants soient exacts, et non qu’il prenne toutes les mesures possibles. Ce en quoi
consiste la mesure du possible varie selon le contexte. En l’espèce, le dossier étaye amplement la conclusion du juge du procès selon
laquelle le SCC n’a pas pris les mesures raisonnables qui s’imposaient. Le SCC savait depuis longtemps qu’on se préoccupait de la
possibilité que ces outils soient empreints d’un préjugé culturel, mais il n’a rien fait pour confirmer leur validité et a continué à les
utiliser à l’égard des délinquants autochtones, et ce, même si des recherches auraient pu être menées. En agissant ainsi, le SCC n’a
pas respecté l’obligation légale énoncée au par. 24(1). Cette conclusion est étayée par l’interprétation et l’application du principe de
fonctionnement énoncé à l’al. 4g) de la LSCMLC. Ce principe exige que les directives d’orientation générale, programmes et pratiques
respectent les différences ethniques, culturelles et linguistiques, ainsi qu’entre les sexes, et tiennent compte des besoins propres aux
groupes en quête d’équité, et en particulier de ceux des Autochtones. Le législateur reconnaît à l’al. 4g) la discrimination systémique
vécue par les Autochtones au sein du système correctionnel canadien. Il ressort du sens grammatical et ordinaire des mots de
l’al. 4g) et de l’historique législatif de la LSCMLC que cet alinéa doit être considéré comme une directive du législateur au SCC de
progresser vers l’égalité réelle des résultats correctionnels en ce qui concerne les délinquants autochtones. Il est essentiel que le SCC
donne véritablement effet à cette directive. Dans le contexte de la présente affaire, cela veut dire que le SCC doit au moins essayer de
répondre aux inquiétudes valables et de longue date selon lesquelles la poursuite de l’utilisation des évaluations du risque contestées
à l’égard des détenus autochtones perpétue la discrimination et contribue à la disparité des résultats correctionnels entre les
délinquants autochtones et les délinquants non autochtones. Le SCC doit veiller à ce que ses directives d’orientation générale et
programmes soient appropriés pour les délinquants autochtones et adaptés à leurs besoins et à leur situation.
Contre
2.3
5. Opacité
• Logiciel propriétaire vs ouvert
• Protecaon des algorithmes (secret commercial)
• Opacité est le propre du numérique
• EX: grand procès Microso‰ des années 90
• EX: vie privée et découverte par hasard
• Opacité vis-à-vis de la défense
• Affaire Loomis => la défense était en mesure de savoir
• Criaque => Liu, Lin & Chen
• Opacité vis-à-vis du public
• Publicité et publicité (on ne veut pas que la défense s’adapte)
• Opacité vis-à-vis du juge
Contre
2.3
6. Capacité du juge de prendre du recul
• Explicabilité (vis-à-vis du juge)
• Risque pour le juge de se réfugier derrière la machine
• Syndrome du pilote d’avion face au pilote automaaque
• Absence de créa=vité

7. Est-ce que les quesaons du formulaires sont les bonnes?

• Starr => la quesaon posée est fondamentalement mauvaise => plutôt que de
se demander si l’accusé peut récidiver, il est mieux de savoir qu’elle est la
soluaon qui sera la plus efficace pour pas qu’il ne le fasse.
Conclusion
• Adolescence
• Numérique = révélateur d’une jusace en quête d’objecavaaon
• Pourquoi pas mais…
• Garanaes à augmenter
• Avantages à vérifier
• Raaonaliser la numérisaaon
 Seconde question…

jus=ce prédic=ve: cela marche?

Blockchain en preuve: cela marche?

Plan

Question 1: Justice prédictive

Question 2: blockchain et preuve

• Naturel « chagrin » vis-à-vis de la BC en général
• 7 pêchés de la BC
• Naturel « chagrin » vis-à-vis de la BC en preuve
Blockchain en général
1
• Je ne vous parlerais pas…
• De la technologie à proprement parler
• De son devenir (futurologie)
• Je vous parlerais …
• De doutes
• D’expériences passées
Vincent GAUTRAIS, «Les sept péchés de
la blockchain: éloge du doute!», (2019)
7-8 Dalloz IP / IT 432-434.
BC et émoFons
1.1
• Passions
• Déraisons
• Remplacer ce qui fonctionne
• croyances
• La perte des intermédiaires et ses conséquences
• Lois farfelues
• Et tant d’autres manifestations …
• Me rappelle les années 1998-1999 (« EDI or die »)
BC et adhésion sociale
1.2
• Toute technologie implique une adhésion sociale
• BC et phénomène de mode
• Minorité militante
• Prosélytisme niché
• Mais de plus en plus d’universitaires aussi
• Réalisations concrètes?
• EX: Chine
• EX: diplôme de Paris V
BC et sécurité surévaluée
1.3
• Technologie sûre!!!!!
• Chiffrement (année 70)
• Différents niveaux de sécurité
• Mais…
• Pas infalsifiables non plus (comme aucune technologie)
• Gerald W. Cotten (2018)?
BC et écologie oubliée
1.4
• Catastrophe écologique de la BC publique (pour le moment!)
• Jurisprudence au Québec
• Hydro-Québec, 2018 QCRDE 56705;
• Hydro-Québec, 2018 QCRDE 65803.
• alternatives en vue?
BC et économie à démontrer
1.5
• Projets concrets?
• Tout ne se blockchainise pas!
• Nombreux registres ne peuvent être partagés
• Comparaison possible avec le paiement dans les années 90
BC et contrôle juridique à assurer
1.6
• Normes encore inexistantes
• Lois
• Lois « publicitaires »
• Loi où « le nom d’un découvreur peut y être aoaché » (Aaas)
• Jurisprudence
• Rare
• Rien sur les registres
• Rien sur les contrats intelligents
• Quelques décisions sur les cryptomonnaies (Loi sur les valeurs mobilières)
• Plutôt sage
• Normes techniques
• À développer
• À uniformiser
BC et interprétation juridique
1.7
• Défaillance de la « radicalité de la norme technique »
• Quid de l’ordre public?
• Quid de l’interprétaaon (force majeure – imprévision – etc.)
• Quid des excepaons? « C’est toute la différence entre un mur et une
fronaère » (Garapon / Lassègue)

Antoine GARAPON et Jean LASSÈGUE, La jusKce digitale, Paris, PUF,

2018, chapitre V (La blockchain, révoluaon dans la révoluaon).
Blockchain + preuve
2
• Préalables de preuve technologique
• Préalables factuels
• Préalables juridiques
• Capacité de la BC à les saasfaire
Commençons par les préalables
2.1
Factuels
• Les documents numériques sont fragiles en terme de preuve
• Les documents numériques requièrent des preuves externes

Juridiques
• Les règles d’admissibilité
• Les règles de force probante
Les faits
2.1.1

Baisse de l’intégrité des documents technos

Externalité de la preuve
2.1.1.1
2.1.1.1
2.1.1.1
2.1.1.1
2.1.1.1
2.1.1.1
 2.1.1.1

Intégrité que la BC peut apporter

 2.1.1.2

externalité des documents technos

Benisty c. Kloda, 2018 QCCA 608
2.1.1.2

[105] Ainsi, lorsqu’un enregistrement audio est accompagné

de métadonnées et que ceoe documenta=on saasfait,
selon le tribunal, à l’exigence d’authenacité du document, la
parae qui produit cet enregistrement sera dispensée de
faire une preuve d’authenacité. Les critères permeoant
d’établir ceoe preuve d’authenacité tradiaonnelle ou celle
inhérente au document technologique sont détaillés ci-
dessous.
Benisty c. Kloda, 2018 QCCA 608
2.1.1.2

https://www.lesconferences.ca/videos/preuve-numerique/
 2.1.1.2
• Empreinte est une preuve externe => une métadonnée
• Il y a 2 types de métadonnées
• Interne => empreinte numérique dans BC
• Empreinte numérique de la BC => métadonnée infalsifiable
• À la différence de plusieurs autres métadonnées
• Externe => documentation / journalisation / etc.
Quelques mots sur le droit
2.1.2

• Admissibilité des documents technos

• Force probante des documents technos

Admissibilité des documents technos
2.1.2.1
• Qualification du document technologique
• Écrit
• Témoignage
• Élément matériel
• Satisfaction des règles d’admissibilité
• Principes
• Règles propres à chaque éléments de preuve (écrit – témoignage – élément matériel)
• EX: preuve de l’original pour les écrits (même si désuet)
• Preuve à celui qui prétend
• Peu de contestation dans les faits
• « démocratisation de la preuve » (Mekki)?
• Exceptions
• Nombreuses règles de faveur (présomptions)
Force probante des
documents technos 2.1.2.2
• Authenacité
• Document qui n’est pas altéré (intégrité)
• Document qui provient d’un auteur nommé (lien avec l’auteur)
• Régime de preuve plus ou moins ouvert
• Écrit => différent selon l’écrit (notarié – ESSP – autre)
• Témoignage => tout moyen
• Élément matériel => preuve externe
• Régime des reproduc=ons
• Copie
• Transfert (réplique informaaque selon la Cout de Cassaaon – 2011)
Capacité de la BC à satisfaire ces
prérequis juridiques 2.2
La BC sa=sfait les exigences juridiques
• Exigences documentaires
• Exigences probatoires
La BC est une solu=on parmi d’autres
Satisfactions des exigences juridiques
2.2.1

• Exigences documentaires
• Confidenaalité
• Authenaficaaon
• Non-répudiaaon
• Disponibilité
• Intégrité
• Exigences probatoires
• Sécurité (force probante)
SaFsfacFons des exigences
non-juridiques 2.2.2

• Critères intrinsèques de son « éventuel » succès

• Universalité ---
• Adhésion sociale ---
• Facilité ---
• Sécurité +++
• Coûts +++
• Critères extrinsèques de son « éventuel » succès
• Tolérance aux risques ---
• État de la concurrence technologique ---
Liste de références utilisées (1)
• David G. POST, Anarchy, State, and the Internet: An Essay on Law-Making in Cyberspace, 1995 J. ONLINE L. art. 3, par. 1.
• Rapport (livre blanc) européen sur l’IA (02/2020).
• Vittorio VILLA, « La science juridique entre descriptivisme et constructivisme », dans Paul AMSELEK, Théorie du droit et science, Paris, P.U.F., 1994, p.
288.
• Grégoire CHAMAYOU, La société ingouvernable: une généalogie du libéralisme autoritaire, 2018, La Fabrique éditions, Paris.
• Bushway SHAWN & Anne Morrison PIEHL, “Judging Judicial Discretion: Legal Factors and Racial Discrimination in Sentencing”, (2001) 35-4 Law &
Society Review 733.
• Matthew CONLEN, Reuben FISHER-BAUM & Andy ROSSBACK, Should Prison Sentences Be Based on Crimes that Haven’t Been Committed Yet?,
FiveThirtyEight Politics (Aug. 4, 2015)
• Sonja B. STARR, “Evidence-Based Sentencing and the Scientific Rationalization of Discrimination”, (2014) 66 Stanford Law Review 71.
• Danielle L. KEHL & Samuel A. KESSLER, “Algorithms in the Criminal Justice System: Assessing the Use of Risk Assessments in Sentencing” (2017)
Berkman Klein Centre for Internet & Society – Harvard Law School.
• Sam CORBETT-DAVIES et al., A Computer Program Used for Bail and Sentencing Decisions was Labeled as Biased Against Blacks. It’s Actually Not that
Clear., The Washington Post (Oct. 17, 2016)
• State v. Loomis, 881 N.W.2d 749 (Wisc. 2016)
• Gatti c. Barbosa Rodrigues, 2011 QCCS 4693.
• Julia DRESSEL & Hany FARID, ”The accuracy, fairness, and limits of predicting recidivism”, (2018) 4:1 Science Advances eaao5580.
• Ewert c. Canada, 2018 CSC 30
• Vincent GAUTRAIS, «Les sept péchés de la blockchain: éloge du doute!», (2019) 7-8 Dalloz IP / IT 432-434.
• Hydro-Québec, 2018 QCRDE 56705.
• Hydro-Québec, 2018 QCRDE 65803.
• Antoine GARAPON et Jean LASSÈGUE, La justice digitale, Paris, PUF, 2018.
• Benisty c. Kloda, 2018 QCCA 608
• Vincent GAUTRAIS, Preuve + numérique, 2019, https://www.lesconferences.ca/videos/preuve-numerique/
Liste de références utilisées (2)
• DÉCLARATION DE MONTRÉAL IA RESPONSABLE, Les délibéraaons en un coup d’oeil, Extraits du bilan sur
les résultats des délibéraaons citoyennes de la Déclaraaon de Montréal IA responsable, juin 2018.
• DÉCLARATION DE MONTRÉAL, Bilan des délibéraaons, juin 2018.
• Vincent GAUTRAIS, Neutralité technologique: rédacaon et interprétaaon des lois face aux technologies,
Thémis, Montréal, mai 2012.
• Frank PASQUALE, The Black Box Society : The Secret Algorithms that Control Money and Informaaon,
Cambridge, Harvard University Press, 2015.
• Ryan CALO et Alex ROSENBLAT, « The Taking Economy : Uber, Informaaon and Power », (2017) 117
Columbia Law Review
• Joshua A. KROLL, Joanna HUEY, Solon BAROCAS, Edward W. FELTEN, Joel R. REIDENBERG, David G.
ROBINSON et Harlan YU, « Accountable Algorithms », (2017) 165 University of Pennsylvania Law Review
363.
• Danielle K. CITRON, « Technological Due Process », (2008) 85 Washington University Law Review 1249.
• Loi française n° 2016-1321 du 7 octobre 2016 pour une République numérique, secaon 3.
• Paul SCHWARTZ, Data Processing and Government Administraaon: The Failure of the American Legal
Response to the Computer, 43 HASTINGS L.J. 1321.
• Bruce SCHNEIER, Secret and Lies: Digital Security in a Networked World, 2000.
• AI NOW, Algorithmic Impact Assessments, avril 2018.
Justice + IA + blockchain = ?

pr. vincent gautrais

directeur du CRDP
Ftulaire de la chaire LR Wilson
www.gautrais.com
@gautrais