Scribd Logo
Importer

Bienvenue sur Scribd !

  • Le Gouvernement Algorithmique Ou L'art de Ne Pas Changer Le Monde

    Transféré par

    Antoinette Rouvroy
    54 vues7 pages
    La Revue Nouvelle, 2016

    Titre original

    Le Gouvernement Algorithmique ou l'art de ne pas changer le monde

    Copyright

    © © All Rights Reserved

    Formats disponibles

    PDF ou lisez en ligne sur Scribd

    Avez-vous trouvé ce document utile ?

    Ce contenu est-il inapproprié ?

    Signaler ce document
    La Revue Nouvelle, 2016

    Droits d'auteur :

    © All Rights Reserved
    Téléchargez comme PDF ou lisez en ligne sur Scribd
    Signaler comme contenu inapproprié
    54 vues7 pages

    Le Gouvernement Algorithmique Ou L'art de Ne Pas Changer Le Monde

    Transféré par

    Antoinette Rouvroy
    La Revue Nouvelle, 2016

    Droits d'auteur :

    © All Rights Reserved
    Téléchargez comme PDF ou lisez en ligne sur Scribd
    Signaler comme contenu inapproprié
    sur 7
    wmndre B/ZOIS « dossier La Revue nouvelle L’art de ne pas changer le monde Entretien avec Antoinette Rouvroy Les algorithmes sont a siques des circonstances et conditions de pro- duction des données dont ils sont nourris, et indifférents aux maniéres dont les personnes peuvent se représenter et rendre compte d'elles~ mémes. Leur prétendue objectivité court-circuite la culture, le langage vet le désir. Utilises par les pouvoirs publics ou privés, ils vident de leur sens le debat, la decision, la responsabilité, la justice. + Lavie, c'est lexeds permanent de la vie. Le vit — ce qui ne peut jamais dtre orgenisé jusqu’au bout: la désorgenisation de la vie. x La Revue nouvelle: Quelles sont les roci- nes de vos travaux sur lo gouvernemento- lité algarithmique ? Antoinette Rouvrey: Aprés m’étre d'abord intéressée au patentiel « pré- dictif » des tests génétiques et & leurs implications en termes d'égalité d’op- portunités sur les marchés de l'emploi ‘et de l'assurance ainsi que dans les dabats relatifs 4 l’Etat providence aux Etats-Unis et en Europe’, j'ai com- mencé 4 m'intéresser aux implications juridiques, politiques et philosphiques ‘des nouvelles pratiques statistiques nourries par les données numériques disponibles en quantités massives. Fondées sur les techniques du numé- rique, ces pratiques de détection, de VArtoinatte Rouwoy, Human Genes ond Necliberal ‘Governance. A Fovcasidion Critique, Routledge-Caven- dab, 2007. Boyan Manchev, Le métomarphose et linstant. Désorgonisation de fe vie, La Phocide, 2009. classification et d'évaluation anticipative des propensions et comportements humains constituent de nouveaux modes de production du savoir, de nouvelles modalités d'exercice du pouveir, et de nouveaux modes de subjectivation. Bref, une nowelle gouvernemen- talité algerithmique, se présentant comme une évolution des formes de gouvernementalité déjé étudiées par Michel Foucault précédemment. Des normes indétectables ‘et indiscutables Cette gouvernementalité alporithmique se démarque des précédentes par le fait d'tre nourrie essentiellement de données brutes en elles-mémes asigni- fiantes, cette absence de signification @tant d'ailleurs pergue comme un gage d'objectivita. Elle a aussi la particu- larité d'affecter par avance les com- dossier « Let dene pas changer le monde portements possibles sur le mode de Falerte suscitant de la réponse-réflexe dun stade préconscient, plutét que par des mécanismes visant a réformer les psychismes individuels, au faisant appel aux capacités d'entendement ‘et de volonte des personnes. Cette gouvernementalité n'a plus pour cible Fétranger, la peste, |a maladie men- tale, Ia lapre (comme la biopolitique décrite par Foucault), mais Pincertitude comme telle, ou l'exeés du possible sur le probable, La préemption, qui est le mode opérataire de la gouvernemen- talité algorithmique, consiste a faire en sorte que certaines choses, qui me sont que possibles, se produisent 4 coup sir ‘ou N@ puissent en aucun cas se produire. Cette préemption dispense a la fois de ls désobéissance, du jugement et de la sanction, tout en rendant les narmes 4 la fois indétectables et indiscutables. ‘Ona beaucoup dit et lu que l'une des principales menaces amanant de Finternet est la mise & mal du droit ala protection des données personnelles. ‘Mais il mla semblé que ce n'est pas 13 que se trouve le neeud. J'ai voulu déplacer l'attention sur des enjeux plus collectifs, moins individualistes et ‘tenter de voir en quoi les algorithmes: changent les dynamiques de la norme et de labaissance. En quoi, bien qu'sppa- remment plus objectifs, ils risquent de nous éloigner dramatiquement du projet d'une société plus juste en renforgant, teut en les rendant plus invisibles et moins faciles 4 combattre, les inégalités socioéconomiques et les nermativités sociales dominantes. RN: On dit souvent que, & époque des big data, les algorithmes changent le monde. En quoi? AR: Ils ne changent pas du tout le monde, cette idee reléve de la pense magique ou de l'animisme informa- tique ! Ils changent la maniére dont nous nous représentons le monde. Ou plutét, ils substituent 4 mos représenta- tions une idéclogie technique d'imma- nence totale extrémement séduisante. Ils font ainsi mine de nous dispenser de nous représenter le monde, d’évaluer et de débattre de nos représentations du monde. A travers les big dete et grace aux algorithmes capables de les faire « parler », on aurait enfin un aceés im- médiat, hors langage, non idéclogique, au réel lui-méme, sans qu'il soit encore nécessaire de rien interpréter ni repré- senter ni théoriser. II nous serait enfin possible, A mous humains, d'aceéder au réel « directement » et dane de manigre totalement « objective », exhaustive, atemporelle, sans plus en passer par aucune représentation, d'une maniére émancipée du langage lui-mame. Les big dots et les algorithmes encouragent le fantasme d'une maodélisation anti- cipative automatique et en temps réel du social. Le réel se gouvernerait ainsi lui-méme & travers des profils (de ter- roriste potentiel, de fraudeur potentiel, d'acheteur potentiel, d’employé ideal potentiel...) quill produirait & mame le social numérisé. Ce gouvernement des algorithmes, in fine, dispenserait de l'Etat, des institutions, de toute notion d'autarité ou de pouvoir... Refermer existant sur lui-méme Or, les données — certes disponibles en quantités massives, mais pas dis- ponibles & tout le monde de la méme manidre — ne sont jamais « données », elles ne sont, au mieux, que des trans- criptions passives des faits, eux-mémes tributaires des narmativités sociales ou des rapports de force ou de domina- tien en vigueur. Décider en fonetion des données, c'est prétendre décider objactivement, en fanction des faits, ce qui n'équivaudra jamais & gouverner en fonction de la justice qui, alle, demande que l'on prenne en compte les con tions des faits, et lorsque ces conditions sont injustes, qu’on les change. Les big dota, parce qu’ils sont le plus souvent 45 anonymisés, désindexés, décontex- tualisés, sant absolument amnésiques des conditions de leur production. Juste un exemple: si dans les faits la plupart des empleis fertement remuné- rateurs sent occupés par des hommes, les algorithmes de recommandation nourris de ces dannées-la, utilisés & des fins d'objectivation des décisions dembauche au de promotion, répercu- ‘teront passivement comme autant de données « objectives » ce quin'est en fait que le rasultat de préjugés défave- rables aux femmes. Ils produiront des « profils de performance » faverables aux hommes au détriment des candidates féminines. La soi-disant optimisation des décisions par le recours 4 la soi- disant intelligence des données, c'est le contraire de l'Emancipation, c'est le contraire d'un changement de monde. Lignorance des causes des phéno- menes au profit dela pure induction ‘statistique news condamne au conser- vatisme en rendant invisibles et incon- testables les préjugés et les biais dant est parcourue natre réalité sociale. Les algorithmes ne « gouvernent » pas. Ils sont programmés, mais n'ont pas de programme politique, ne font pas de projet, ne font pas de choix: ils optimisent l'état de fait. RN: Pourquoi, d un mement denné, cédons-naus le gauvernoil d ces algo- rithmes pour dicter telle ov telle déci- sion politique ou managériale ? AR: Cet engouement pour la gou- ‘vernementalité algorithmique, cette eonfiance dans |’s intelligence des don- nées » sont symptomatiques, avant tout, d'une crise de la reprasentation sous ‘toutes ses formes: mous nous défions de ‘toutes nos représentations de la réalite, qui semblent toujours trap subjectives, sélectives, biaisées, idéclogiquement marquées, politiquement incorrectes. Avrai dire, comme lexprimait trés B/201E = dossier bien le peintre Lue Thuymans, « (T] hese days the nation of the “real” rules everything — not realistic but “real”? » Ce n'est plus la simple objectivité ou le seul réalisme de la représentation du mande sous sa forme numérique qui séduisent, mais bien plus radicalement le remplacement du mande physique, idéalement sans reste — ce qui n'est, pas numérisé n'existe pas. Le mande numérique est pris pour la réalité. La prétendue exhaustivité (exhaustivity, en anglais, signifie aussi lépuisement) des big deta est une occasion inouie de « totalisation », c'est-d-dire de cléture de la rationalite purement quantitative sur elle-méme. Ce qui est calculable est immunisé contre la part irréduectible d'incertitude radicale inhérente a la vie méme. Cette « totalisation » numé- rique, en particulier les modélisations de Padvenir qu'elle rend possibles, pramet aux sociétés de se dispenser de toutes les conventions, institutions, fictions, présomptions et projets par lesquels alles se sont jusqu’ ici tenues ensemble pour faire face 4 limprévisible et & Fincertain, 4 l'inadéquation, en somme, de leurs raprésentations du mande. Une nouvelle fabrique des individus Chaque société et chaque époque ont leurs modes privilgiés de gestion de Pincertitude (qui somt aussi des modes de création de lien social — de consis- tance sociale, méme, pourrait-on dire): dans la « société actuarielle » ou a assu- rancielle » que "Etat providence se donne comme représentation, la charge de Paléa, du sort aveugle, de lexcés du possible sur le probable, était répar- tie entre les membres de collectivités dassurés, ou méme prise en charge collectivement par |'Etat. La rationalité algerithmique signe l'avénement d'une société dans laquelle la nation méme de risque disparait en méme temps 2|Paul Thek, tec Thuymans, Why?!, Galerie Isabella “Crarnowska, Distara Veslag, Heri, 2013 dossier « Let dene pas changer le monde que la tolérance 4 lidée quiexiste une part tragique, incompressible, d'incer- titude radicale: price aux big data, il deviendrait possible d’sssigner 4 chacun, individuellement, par avance son # cout réel ». Les individus sent mis en cencur- rence d échelle quasi moléculaire de la donnée numérique infrapersonnelle. ‘Ce tournant algerithmique, on le voit, sous prétexte d'objectiver les processus décisionnels, ne se pose pas en rupture par rapport aux politiques néalibérales, mais a ces dernigres des outils particuliérement diserets et puissants. ‘Mais ce sont des machines, et nen des hommes, qui analysent les données qui ont l’air P’émaner spontanément du réel lui-méme. Or ce n'est pas parce que les données numériques ‘ont air de proliférer spontanément qu’elles rendent compte avec jus~ ‘tesse du monde dont elles emanent, ‘et ce, pour trois raisons au moins. Premiérement, tout n'étant pas numé- risable, une part trés importante du mande n'est pas prise en compte. Ammnésique de tout ce qui — des réves, des projets, des possibilités passées — n'a pas trouvé a s'actualiser dans un 1 présent », la « réalité » algorithmique ‘est une réalité expurgée de la contin- gence (du fait que Pétat de fait numéri- quement enregistré aurait pu étre tout autre). Le sens dela contingence et les possibilités du passé sont des ressources précieuses pour les alternatives de de- main, mais elles restent étrangéres a la rationalité algorithmique parce qu'elles nont pas laissé de traces numérisées, si ce n'est dans certaines ceuvres d'art. Deuxiémement, les capteurs étant inégalement distribués dans espace, les données ne reflétent le monde que du point de vue combiné de ces cap- teurs, et les algorithmes, quoi qu’sn en dise, sont souvent’ parametrés par des 3|epgrentissage automatique machine learning] per humains, qui fixent, par exemple, le seuil 4 partir duquel une corrélation entre des données est suffisamment forte pour qu'elle contribue 4 la construction d'un profil (eu le seuil de tolérance aux « faux positife » ou aux « faux négatifs »). Les algorithmes ne nous émancipent pas du point de wue, mais rendent ce point de vue indétectable, non loca- lisable. La visualisation algorithmique est située, mais on ne sait pas ol, on ne sait pas dod elle nous pergoit. Enfin, les dennées brutes sont rendues amnésiques des conditions de leur preduction 4 force d’anenymisation, de dasindexation, de décontextualisation.. Bref, on nous parle de data-driven policy, de politique fondée sur les données (plutét que sur... la politique, les normes sociales, le droit), mais on questionne rarament la donnée en elle-méme. On postule sa neutralité, son exhaus- tivité, et cela al'air encere plus neutre quand en parle de dennges brutes. RN: Cette prétendue objectivite des données, comment se demonte-t-elle ? AR: En slintéressant conerétement aux maniéres suivant lesquelles les données sont produites, récoltées, stackées, analysées, on ne peut que se rendre 3 Pévidence: les données numériques ne sont pas le monde, elles ne le repré- sentent pas non plus, elles sont des mirgitements partiels, décontextualisés, d’existences quotidiennes, de trajec- toires, d'événements. Des algorithmes les aprgent a l'échelle industrielle, pour produire des « madéles de comporte- ment », qui soient « opérationnels w. La question de leur vérité ou de leur fausseté ne se pose méme pas: ces madéles doivent étre utiles afin d’epti- miser (et d'accélérer) les décisions en matiére de marketing, de sécurité, d’attributions de credit, ete. On entend met copendant, ot plus en plus, aux slgorithner de Saffiner «eux-mdies m, par esssis et erreurs, Voi sujet Mentretion avec Yves Citton ders le present 47 souvent que les algorithmes doivent étre transparents, qu'ils doivent faire eonnaitre leur logique de traitement des données, Mais ce sent d’abord les données elles-mémes qui sont prablé- matiques, et tant qu’on croit que les dennees sent le reel dans sa totalite, on slempache de se confronter au monde. Un autre exemple trés connu: la ville de Boston utilise application Street Bump. Les données GPS des citoyens quila détiennent sur leur smartphone peuvent aider @ détecter quand ils évitent un. trou dans la rue, Si plusieurs personnes font un éeart, on envoie un reparateur. Le prabléme est que las habitants des quartiers pauvres ant mains de smart- phones que ceux des quartiers riches. Leurs rues sont donc moins réparées. Je n’insisterai jamais assez: 'abandon du souci de la causalité au profit dela pure induction statistique, c'est aussi l'aban- den de toute ambition de prévention ou de correction des inégalités sociales im- pliquées dans les differences en termes de qualité de vie, de performance économique, d'intégration sociale... inversé RN: Selon vous, les algarithmes en- gendrent (a disparition du sujet. Que vyoulez-vaus dire par id? AR: Le profilage algorithmique, et les applications fondées sur ee prefilage peur personnaliser les interactions administratives, commerciales, s@curi- taires, assurancielles, récréatives, etc., semblent placer l'individu au centre de ‘toutes les préoccupations, adapter pour lui son environnement informationnel et physique sans que jamais ce dernier ait ni le besoin ni l'secasion de formu- ler ou d’énoncer peur lui-méme eu pour autrui ses préférences, choix, intentions, ‘et sans qu'il lui soit encore possible, bien souvent, d’en rendre compte par lui-méme. Cette sollicitude présuppose une « transparence » psychique de la 2 B/2016 = dossier personne, qui rappelle et réhabilite une forme de comportementalisme numée- rique. La personne ne peut plus opposer a Pobservateur aucun masque social, c2 que l'on appelait une persona. Elle se trouve exposie 4 un « regard » algorith- mique, Mais ce regard « objectif », a se présente comme débarrassé de tout « discours » et de tout point de vue, n'est pas un phénaméne absolument neuf, il rappelle les descriptions qu’a données Michel Foucault de l'expé- rience clinique depuis le XVIII" siéele*. Plus récemment, la fascination pour les daterminants génétiques des processus biolagiques operait un nouveau par- tage du visible et du dicible. La célébre formule de Frangais Jacob en fait un résumé trés clair: « On ninterrage plus la vie aujourd'hui dans les labora- toires. On ne cherche plus 3 en cerner les contours. [..] C'est aux algorithmes du monde vivant que s'intéresse au- jourd’hu’ la biologie? ». Avec la gané- tique, l'épistémé visuel, de surface (la couleur, l'aspect, la texture des tissus} se trouve complatée ou remplacée par une épistémé non visuelle, de profon- deurs: on s'intéresse au génotype tout autant, sinen plus, qu’au phénotype. Enfin, avec l'avénement des big dota, ces deux meuvements du visible et du dicible se radicalisent et le phémaméne acquiert tout simplement une portée beaucoup plus générale: l'exparience subjective tout comme la matérial: corps ne comptent plus, ne sont par- teurs d'aucun savoir ni d'aucune verite erédible, n'ont plus rien a raconter. Les du «En carieaturant, on pourrait dire qu’s travers le eli nigue, les récits des patients relatifs 4 leur expévience, ‘ileus pitis, Meterpretution subjective quils pournent faire de leurs symptimes, perdeent toute pertinence seaplcative ow diagnontique. Ces discours deversient rormimes, ay mieur, dos syrmptimes devant cider -desart Is puissance de Febjestivation madicale, Voie shel Feucaule, Noissance de ty cnigue, PUF, coll. « Qu

    Vous aimerez peut-être aussi