Antoinette Rouvroy scrute les usages de la numérisation du monde. Elle met en garde contre les big data qui, en nous résumant a un agrégat de données, peuvent décider de nos vies. | _ Pours‘en libérer, il faut, assure-t-elle, commencer par les démysti WOUS CSISLEIEY iP = Nom - eo. seenQuels types de problémes soulevent les algorithmes? Demon point de vue, ce nesont ‘qui posent probléme, mais pl es algorithmes notre propre ‘veau type de pouvoir en identifiant ls risques dont, hos comportements sont porteurs. On crée des « profils» qui associent notre fagon de vivre 8 un ‘maladies mentales, d'addiction, de pass sulcidaire,denon-remboursement de rédi pensions ila procrastination, etc Ces profils peuvent ensuite «coller a la peau des individus sur le marché de Femploi, de Vassurance, du crédit bancaire, ainsi que dans les secteurs dela santé ou de Féducation. Etre «profilé» de tele ou telle maniére détermine l'accés que nous avons & certaines informations, ce ‘opportunités, certains biens, certaines prestations. Pourtant, un profil ne correspond a per et personne n'y correspond totalement. Les algorithmes pourraient ils un jour se substituer aux décisions humaines? Pouvez-vous nous donner des exemples? Dansledomaine dela de fournir aux juges de fap algorithmes de recommand: sant les risques de récidive, pourro américains, ces logiciels son répondra que ces recomma tat seraen diffculté.En conséquence la plupart des ‘acteurs auront tendance d se conformer aux consi- ‘gnes des algorithmes qui, de ce fait, acquerront une force normative. 'idée méme de justice sen trou- ‘vera radicalement transformée. Second exemple, nous sommes, selon ce Taube d'une société de notation, ‘Ainsi,la maniére dontles bangu de non-remboursement d'un erédit a . raluentle risque entrain de ‘changer. Aujourd'hui, grace aux signaux numér- ‘ques que nous émettons & travers nos comporte- ‘ments en ligne, ilest possible 'évaluer cerisque de ‘en fonetion dun ropre notre emplo} {qui niont pas de lien de causalité avec le risque de defaut lui-méme. L’analyse des big data a en effet fait dhabiter tele sont impersonnels, construits& partir de données ies dans des contextes hétérogenes. Ces appariements ne relevent pas d'une logique causale, ‘e sont de simples corréations. ‘Mais pourquoi faudrait-il sen inquiéter sion gagne en efficacité? Nous allons vers un changement épistémologique ‘majeur. S'en remettre ce type de calcul traduit un renoncement aux ambitions de la raison moderne quiliait les phénoménes @ leurs causes. Ces ambi- la raison permettaient denvisager la jon, dagir sur les causes pour changer les effets. au lieu de cela, on se irige vers un systéme depures cortéations. (On ne cherche plus 8 comprendre Venvironne ‘ment, on cherche a le prédire. Notte rapport au savoir change, mais aussi notre rapport au monde: ise davantage qu auparavant sur les ris donc un changement de paradigme qui transforme la manire dont nous sommes gouvernés, Crest ce qui vous améne & parler de ‘gouverementalté lgrithmique»?Pourer La gouvernement de gouvernemi des données: quantifiable, object est pas de ger ep ais de se protéger contre I'incertitude de | gouvernementalité algorithmique s'appuie sur la ethéorie du nudges, du «coup de pouce»; on fat en sorte que Fenvironnement conduise Findividu a , adopter des comportements «optimaux» aux yeux des acteurs auxquels «profit» le proflage — sans quiil sen rende compte, en émettant des signaux qui produisent chez lui des réactions e de pousser & un acte consistant & créer une atmosphere numérique, qui poussea certains comportements. contre des personnes dont les comporte- sociés dun risque accru de passage & iste Ce faisant, on eible 6ventuellement les comportements & un stade préconscient, avant ‘méme toute formation d'intention. Les personnes ne sont plus appréhendées en tant que sujets mais ‘seulement en tant quiagrégats de données. Les géants du Web sont les principaux d'une trés bonne image, on considérait méme 4uils allaientaider les citoyens & investir ‘eceurs par des pustanoes étrngétes ont prove udu sursaut dans Topinigh publique et cree une mnlance vis vide hyperpssance de ces ente prises. Ces dernieres n'apparaissent plus comme gens, hélas, ne changent rien a leurs comporte- ‘ments: Tacclimatation progressive aux appareils s, numériques sest depuis quelques années transfor- y_mée en une addiction de masse qui engendre en retour Faccumulation massive de données. Quelles raisons y auraitil de croire que les choses vont s'améliorer en 2018? lly a quand méme de bons'signes. Les autorités de protection des dont autorités publiques des algorithmes, de leur logique de de «perdi la ieme sicest surtout la ‘monde social sophie peut nous que, bien quielles se présen- space purement métrique, elles ne juste mesure des choses, qui ne sévalue qu’a Faune de principes de justice, et non & celle €objectfs optimisation, la maniére occidentale de lier les dimensions biolo- ue et symbolique constitutives de etre hu: jue-t i. Or, dans cette dystopie nu: logique comme la di: ‘mension symbolique de Iexistence humaine sont appréhendées comme de purs flux de signaux. uantifiables. Défendre la fonction anthropol ue du droit fae la «rationaitéalgorith PROPOS RECUEILLIS PAR MARC-OLIVIER BHERER