La propagande des algorithmes ? Vraiment ?

Cet t, Katharine Viner (@kathviner), rdactrice en chef du Guardian a publi un

long article sur Comment la technologie bouleverse la vrit (un article que vient de
traduire Courrier International, et qui a dj t largement discut sur Rue89ou Big
Browser par exemple).

- In Bigb Browser 17 septembre 2015

Sommes-nous dans un rgime post-vrit ?

Larticle de Katharine Viner nous explique qu lheure des rseaux sociaux, la vrit
ne compte plus. La journaliste prend notamment lexemple du Brexit dtaillant le fait
que les arguments de ceux qui ont fait campagne pour la sortie du Royaume-Uni de
lEurope se sont crouls le lendemain mme de llection. Le Brexit a t le
premier scrutin dune nouvelle re, celle de la politique post-vrit. Les partisans du
maintien du Royaume-Uni dans lUE ont bien mollement tent de dmontrer les
mensonges du camp adverse en sappuyant sur des faits, mais ils ont vite dcouvert
que les faits ne pesaient pas lourd dans les dbats .

1
Pour elle, la presse eurosceptique a fait feu de tout bord pour crer un lien
motionnel qui la largement emport sur la prsentation factuelle de lautre camp.
Et les rseaux sociaux notamment ont renforc labsence de consensus, labsence
de vrit partage. Les rumeurs et les mensonges lont emport sur les faits. A
lheure du numrique, il na jamais t aussi facile de publier des informations
mensongres qui sont immdiatement reprises et passent pour des vrits. Pour
la journaliste, combattre cette escalade de dsinformation ncessite des organes de
presse fiables pour parvenir dissiper les rumeurs

Cest oublier peut-tre que lenjeu, en fait, nest pas la vrit. Dans les conversations
et les rumeurs que lon colporte, la vrit na pas sa place. Les gens relaient les
opinions des autres, mme sil sagit de mensonges ou dinformations fallacieuses
ou incompltes, parce quils ont le sentiment davoir appris quelque chose
dimportant , explique Danielle Citron(@daniellecitron), spcialiste du harclement
en ligne.

Et les algorithmes des mdias sociaux qui nous enferment dans nos bulles de filtres
nous proposent une vision du monde soigneusement slectionne pour aller dans le
sens de nos croyances et de nos convictions, nous loignant de toutes
rfutations. Sur Facebook, Tom Steinberg (@steiny), le fondateur deMySociety, au
lendemain du Brexit, disait : Je cherche activement des gens qui se rjouissent de

2
la victoire des pro-Brexit sur Facebook, mais les filtres sont tellement forts et
tellement intgrs aux fonctions de recherche personnalises sur des plateformes
comme Facebook que je narrive pas trouver une seule personne contente de ce
rsultat lectoral, et ce alors que prs de la moiti du pays est clairement
euphorique aujourdhui Pour lui, il y a l un facteur de division extrmement
grave de la socit : nous ne pouvons pas vivre dans un pays o la moiti des
gens ne savent strictement rien de lautre moiti .

Cest la faute aux rseaux sociaux !

Pourtant, peut-on accuser seulement les rseaux sociaux et la personnalisation
algorithmique de cette volution ? Nos bulles de filtres et nos chambres
dchossont-elles les seules responsables de cette volution ?

Pour Emily Bell, directrice du Tow Center for Digital Journalism de luniversit de
Columbia, les organes de presse ne contrlent plus la diffusion de leurs contenus. Et
les rseaux sociaux concentrent un pouvoir daccs linformation qui na jamais
exist jusqu prsent. A limage de ce que rvlait la rcente grande enqute
du New York Times Magazine montrant la puissance de nouveaux mdias politiques
qui fabriquent du contenu uniquement pour Facebook, dont le but nest pas dattirer
les internautes vers des articles, mais de dvelopper le partage et les revenus, sans
aucune dontologie en faveur de la prudence ou la vracit de linformation. Comme
le soulignait la lecture par Xavier de la Porte de cet article: ces sites privilgient ce
qui choque (). Ils fabriquent des mmes (cest--dire des motifs que les
internautes vont utiliser, dtourner, partager). () Ils ne poursuivent pas tous un but
politique , mais parfois seulement un but commercial, o le clic est le seul modle
daffaires.

3
Katharine Viner pointe la mme drive des contenus taills sur mesure pour ces
outils sociaux, cette junk food news Pour elle trop dentreprises de presse
mesurent leurs contenus en termes de viralit au dtriment de la qualit ou de la
vrit . Les rumeurs et les mensonges circulent plus rapidement du fait de leur
caractre sensationnel. Limportant nest plus que les histoires soient vraies, mais
que les gens cliquent ! Pour Katharine Viner, lre des faits est rvolue .

Au lieu de renforcer les liens sociaux, dinformer ou de cultiver lide quinformer

est un devoir civique et une ncessit dmocratique, ce systme cre des
communauts clives qui diffusent en un clic des mensonges les confortant dans
leurs opinions et creusant le foss avec ceux qui ne les partagent pas. Reste que
Katharine Viner analyse ce changement depuis la presse : la presse en ligne
sappuie sur un modle fond sur le nombre de clics, laudience. Or, dans cette
logique, face des contenus conus pour la viralit, la presse ne peut que perdre la
bataille de la vrit. La solution repose-t-elle sur un nouveau modle conomique de
la presse, comme lappelle de ses voeux la journaliste ? Cest certainement croire
trop rapidement que les nouveaux acteurs de linformation qui exploitent trs bien
ces outils sociaux relvent dun projet ditorial de type presse Or, comme le
montrait lenqute du New York Times, lobjectif de ces nouveaux acteurs et la faon
mme dont fonctionnent les mdias sociaux nest pas exactement le mme que
ceux dun mdia.

Lenjeu ne semble pas tant de renforcer la dontologie de la presse que de laisser le

champ libre ces acteurs qui exploitent les mdias sociaux, sans avoir toujours

4
rellement des liens avec une forme de presse. Plus que de dfinir le rle des
mdias dans un espace public fragment et dstabilis, lenjeu tient peut-tre plus
dvoquer ces nouveaux objets mdiatiques qui utilisent les rseaux sociaux pour
dmultiplier leur audience. Pour la sociologue Zeynep Tufekci, pendant des
dcennies, les journalistes ont t les garde-fous du discours public , mais leur
effacement change la donne. Pour Viner, la rponse repose sur le besoin dune
culture journalistique forte, mais nouveau, cest peut-tre mal voir que ces
nouveaux acteurs sont dabord et avant tout de nouvelles formes mdiatiques, en
grandes parties incompatibles avec celles qui taient les ntres jusqu prsent.
Comme le souligne larticle du New York Times, nous sommes l face une
information partisane la vracit douteuse, indiffrente voire hostile aux mdias,
qui cherche plus gnrer du clic et des revenus que de la vrit ou du consensus.

Enfin, si la critique pointe facilement la responsabilit des mdias sociaux, chambres

dchos des rumeurs et campagnes de dnigrements, ceux-ci semblent surtout des
leviers quutilisent de nouveaux acteurs qui ne sont absolument pas la recherche
danalyses rationnelles et mesures.

Les rseaux sociaux sont-ils les seuls

responsables ?
Dans un ditorial consacr au sujet, le New scientist estime que les rumeurs sont
dsormais entendues par tous. Les revendications trompeuses, mais accrocheuses,
sont conues pour se propager plus rapidement que les efforts pour les contredire.
Le droit la libert dexpression sest transform en capacit dire et diffuser
nimporte quoi, mme (surtout) des choses stupides ou dangereuses. Pour le New
Scientist, le dfi consiste plus faire exploser les bulles de filtres qu dvelopper
une police des mdias sociaux. Pas sr pourtant que a aide loigner les ides
stupides et dangereuses Un indice de fiabilit de linformation ne serait-il pas plus
dterminant, pour autant quon sache comment limplmenter efficacement ? A
moins quil faille plutt sinspirer des travaux de Google et Moonshot pour combattre
le djihadisme en proposant automatiquement des contenus refltant un avis
contraire ds quon cherche accder un sujet ?

Pour le spcialiste Jayson Harsin, cest un ensemble de conditions convergentes qui

ont cr les conditions de ce nouveau rgime de post-vrit explique-t-il dansun
article publi dans la revue Communication, Culture & Critique. Pour lui, ces
changements ne relvent pas seulement de la responsabilit des rseaux sociaux.
Mais tiennent aussi du dveloppement de la communication politique professionnelle
et du marketing politique. Ils relvent galement du dveloppement des sciences
cognitives et comportementales et du marketing qui permet lutilisation stratgique

5
des rumeurs et mensonges de manire toujours plus cibls, de la fragmentation des
mdias et des gardiens de linformation centralise ; de la surcharge dinformation et
son acclration ; ainsi que des algorithmes qui rgissent, classent et personnalisent
linformation laquelle on accde. Un ensemble dlments convergents qui
empche un retour des formes antrieures de journalisme, comme lappelle Viner.

Comme le souligne Harsin, mme lexplosion du fact checking, cette pratique de

vrification des arguments, na pas t capable de rtablir lautorit des mdias.
Pire, estime-t-il, les rumeurs prennent une place de plus en plus importante dans
lconomie de lattention Pourtant, souligne le chercheur, la surcharge
informationnelle et la dmultiplication de linformation ne sont pas des explications
suffisantes. La gographie de linformation et de la vrit sest dplace comme la
temporalit de la consommation de mdias : elle nest plus dlivre le matin ou le
soir, mais elle est compose de millions dalertes et de vibrations () et les
informations se dplient dans une conomie de lattention de plus en plus charge
affectivement et constamment connecte . Pour Harsin, cest la marque dun
changement du rgime de vrit au profit de marchs ddis qui produisent,
planifient et managent linformation par lentremise de lanalyse prdictive.
Linformation tient dsormais plus dun march que dun espace public et citoyen.

Selon lui, pour comprendre cette volution, il faut entendre la diffrence quil y a
entre la socit disciplinaire de Foucault et la socit de contrle de Deleuze. En
passant une socit hyper-fragmente, nous devenons de plus en plus sensibles
une socit de contrle qui repose sur la puissance algorithmique qui produit des
groupes sociaux distincts, influencs par une surveillance des donnes qui nest
plus centralise par un Etat, mais encode par tous ceux qui ont intrt contrler
nos comportements. Pire, conclut-il, ces systmes visent, par nature, nous faire
admettre quil ny a plus de vrit vrifiable, notamment parce quil ny a plus
dautorit de confiance. Au final, cette capture de lattention dmobilise en favorisant
lacceptation du statu quo ou au contraire surmobilise pour bloquer toute remise en
question de laction politique ou plus de justice sociale.

Le passage dune socit de faits une socit de

donnes nous conduit-il une crise de
linformation ?
Dans le New York Times, lconomiste britannique William Davies(@davies_will),
revient galement sur ce sujet. Les acteurs de la production dinformation se sont
dmultiplis, rappelle-t-il. Si les journaux peuvent tenter de rsister aux excs de
la dmagogie populiste, ils ont plus de mal rpondre la crise des faits , cest--

6
dire linflation des sources, des tudes dont le niveau de crdibilit est trop
insuffisamment valu.

Nous sommes entrs dans une industrie de linformation, une industrie des faits, o
la connaissance devient si morcele et abondante quelle ne parvient plus tre
vrifie ou interprte. Or, souligne Davies, nous sommes au milieu dune transition
qui nous fait passer dune socit de faits une socit de donnes. Selon lui, la
confusion rgne autour de ltat exact des connaissances et des chiffres dans
lespace public, exacerbant le sentiment que la vrit elle-mme est en train dtre
abandonne. Pour Davies, nous sommes confronts un volume sans prcdent de
donnes, mais celles-ci sont surtout utilises pour recueillir le sentiment des gens.
Les marchs financiers eux-mmes ne sont plus tant des faits que des outils
danalyse des sentiments des investisseurs. Une fois que les chiffres sont
considrs comme des indicateurs de sentiment plutt que comme des dclarations
sur la ralit, comment pouvons-nous avoir un consensus sur la nature des
problmes sociaux, conomiques et environnementaux ou pire encore, nous
entendre sur les solutions y apporter ? Les mensonges et les thories du
complot prosprent donc. Et tandis que nous avons toujours plus de moyens pour
mesurer combien de personnes croient en ces thories, il semble que nous ayons
de moins en moins de moyens pour les persuader de les abandonner.

Dans un autre article sur le sujet, William Davies rappelle que selon lhistorienne
Mary Poovey, les faits sont ns avec linvention de la comptabilit double entre.
Ces mesures et mthodes se sont alors normalises, mais sont galement
devenues apolitiques, permettant aux chiffres de se dplacer librement dans le
discours public. La politisation des sciences sociales, des mesures, le
dveloppement de ladministration de la politique et des statistiques ont politis les
chiffres. La tentative de transformer la politique en exercice purement scientifique a
particip cette dconstruction des faits, comme lexpliquent galement les travaux
dAlain Desrosires. Pour Davies, les chiffres et les faits, produits par les
organismes publics indpendants peinent tre encore considrs comme
indpendants alors quils ont t des instruments puissants pour imposer lautorit
politique des ces 35 dernires annes.

Des outils pour interagir plutt que comprendre

Loin dapporter une conclusion ces dbats, lessayiste Douglas
Ruskoff(@rushkoff), qui publie un nouveau livre (Lancer des pierres contre les Bus
de Google : o comment la croissance est devenue lennemi de la prosprit), est lui
aussi revenu sur ce sujet en apportant un point de vue intressant.

7
Dans une tribune livre FastCoExist, il rappelle que les promoteurs des nouvelles
technologies ont longtemps pens que le numrique allait nous aider nous
connecter au monde entier, annonant, un peu navement, une nouvelle
communaut mondiale de pairs promettant de nous librer des frontires entre les
hommes Ce nest pas ce qui est vraiment arriv.

Loin de seulement abtir les foules comme on le lui reproche facilement, la

tlvision a cr une socit plus ouverte, plus globale. Grce la tlvision, les
gens ont pu voir pour la premire fois comment la vie se droulait ailleurs. La
tlvision nous a tous connects et a bris les frontires nationales , estime-t-il. Or,
pour Ruskoff, lenvironnement des mdias numriques est diffrent : il repose
dabord sur la polarisation et la distinction. Les mdias numriques valorisent des
choix binaires : ce que vous apprciez ou napprciez pas, ce avec quoi vous tes
daccord ou pas, noir ou blanc, riche ou pauvre. Leur fonctionnement favorise une
boucle de rtroaction qui auto-renforce chaque choix que nous faisons, qui
personnalise nos contenus et nous isole davantage dans nos propres bulles de
filtre. Linternet nous aide prendre parti pourtant, il faut rappeler que cette

8
question de la polarisation reste discute. Ce qui est sr, cest que les mdias
numriques offrent un environnement trs diffrent de celui de la tlvision.

Si nous sommes aujourdhui dconcerts par le retour du nationalisme du Brexit

Donald Trump, cest notamment parce que nous interprtons encore la politique
travers lcran de tlvision alors mme quil disparat. Les premires manifestations
nes des mdias numriques, comme celles contre lOrganisation mondiale du
commerce Seattle nous paraissaient un amalgame incohrent de causes
disparates Mais le rejet partag de la mondialisation et linternet leur a permis de
sorganiser collectivement. Les printemps arabes quon a interprts comme un
mouvement mondial ne tenaient-ils pas plutt de rveils nationalistes, locaux ? La
rupture de la cohsion europenne sinterprte peut-tre de la mme faon, estime
Ruskoff. LUnion europenne est un produit de lenvironnement de la tlvision .
Mais la transition vers un environnement numrique rend les gens beaucoup moins
tolrants la dissolution des frontires

Pour Ruskoff, ce qui explique galement cette polarisation du dbat public, cest la
mmoire. De Google Wikileaks, de Snowden la NSA on ne cesse de nous
rappeler que tout ce que nous faisons en ligne est enregistr. Or, avec cette
combinaison de renforcement des prjugs et de la mmorisation, nous obtenons,
presque mcaniquement, un renforcement des nationalismes. Certes la
mondialisation a eu des effets dltres, notamment pour nombre de ceux qui nous
invitent revenir en arrire, notamment du fait du dveloppement de la disparit des
richesses Pour Ruskoff, promouvoir la connexion, la tolrance et
linternationalisation ncessite de le faire en comprenant le changement
denvironnement numrique en cours.

Comme il lexplique encore dans une interview pour Salon, les nouveaux mdias ont
des biais, notamment dans le fait quils favorisent des rponses trs motionnelles.
Ils nous proposent dinteragir avec des choses, plutt que de les comprendre. Les
gens lintgrent dailleurs assez bien, puisquils cherchent rpondre autrement
avec la technologie. Ils veulent rpondre de manire plus volontaire, plus autonome,
comme le montre les images et vidos quils postent, lexemple des innombrables
enregistrements des drapages de la police amricaine.

Pour le dire autrement, on pourrait dire que la personnalisation de linformation que

permet le numrique dveloppe un rapport au monde motionnel voire passionnel
qui naide certainement pas beaucoup faire socit. Dune certaine manire ce
constat dchec prolonge celui que faisaient dj des chercheurs sur le fait que si les
mdias sociaux parvenaient mettre les sujets sur le devant de la scne, ils ne
russissaient pas les transformer ou les accomplir. La recherche dune porte,

9
dune diffusion toujours plus large semble finalement un frein lexplicabilit du
monde.

Reste quon voit bien en fait que la construction argumentative se laisse facilement
abuse. Si largument de Ruskoff sur la tl crant une socit plus ouverte et plus
globale semble intressant par exemple, il oublie combien la tl, le direct, en
rendant difficile la vrification des dclarations, favorise lextrme la polarisation
des dbats. Plus quune propagande des algorithmes que dnonait Frdric
Joignot dans le Monde, on voit bien que nous sommessurtout plus sensibles des
formes informationnelles sous dopamines comme disait Neil Jomunsi, quel que soit
les mdias qui les portent Le problme nest donc pas tant dopposer les formes
mdiatiques les unes aux autres, mais de voir que toutes sont sensibles au
caractre social des formes argumentatives, aux partis-pris, aux axagrations, aux
motions

La technologie portera-t-elle des solutions ?

Force est de reconnatre que pour linstant, les solutions au problme sont plutt
rares. Certes, on peut amliorer la vrification des faits. Nombre dentreprises
dveloppent des outils permettant de mesurer la fiabilit de linformation. Pas sr
pourtant que cela ait beaucoup dimpact sur tous ceux qui ont dautres motivations
que propager la vrit. Les appels amliorer la qualit de lactualit associent
surtout des mdias traditionnels qui sont, finalement, assez peu les moteurs de cette
dtrioration. Si la rponse est vertueuse, la cible ne semble pas tre adapte au
problme, limage de la coalition rcente First Draft News. En fait, comme le
souligne Clay Shirky dans le New Scientist, nous ne sommes pas dans une guerre
de linformation, mais dans une guerre culturelle. Le problme de ces rponses est
quelles nabordent quune partie du problme. Avancer un argument politique qui
porte na pas grand-chose voir avec la vrit. Lmotion et lautorit comptent tout
autant, sinon plus, que la vrit. Nous ne sommes plus lre de la post-vrit, mais
bien celle du mensonge hont, o la vrit devient une opinion parmi dautres

Dans un autre article, le New Scientist estime que la technologie pourrait pourtant
faire partie de la solution au problme quelle engendre. Non seulement les logiciels
peuvent valuer la vracit des faits et ides, mais peut-tre demain pourraient-ils
galement aider formuler des arguments pour rpondre ou nous aider analyser
la tonalit des arguments utiliss, comme pour nous aider voir les biais cognitifs
dont usent nos interlocuteurs comme nous limaginions dj dans Bodyware.

Pour Noam Slonim, chercheur et responsable du groupe de travail sur les

technologies du dbat chez IBM, demain, plutt que nous renvoyer des rsultats
vers les opinions des autres, les moteurs de recherche pourraient gnrer des
10
synthses de faits et darguments pour et contre, un peu la manire dune
cartographie des controverses, comme les pratique Sciences Po par exemple.

Reste parvenir distinguer ce qui relve des chiffres, des faits et de leur vracit,
de ce qui relve de la crdibilit, du respect dune autorit, ou encore des
motions Pour Francesca Toni, chercheuse en intelligence artificielle lImperial
College de Londres, largumentation est ce qui nous rend capable de rsoudre les
conflits. Mais croire que les machines peuvent nous aider encourager une
argumentation et un dbat de qualit, nest-ce pas oublier que largumentation nest
pas quune question rationnelle, mais galement une construction sociale ?

Chris Reed, chercheur au Centre pour les technologies argumentatives de

luniversit de Dundee, sest appuy sur une mission de dbat de la BBC, Moral
Maze (quon pourrait traduire par le labyrinthe moral et qui fonctionne un peu
sous la forme dun tribunal pour discuter de questions thiques) pour tenter de
classifier la trame des argumentaires, afin dtablir un outil danalyse pour entraner
son programme et crer une cartographie dargumentations. Par exemple, lorsque
nous avons tendance avancer des hypothses qui nous tiennent particulirement
coeur, nous avons tendance utiliser des questions plutt que des affirmations,
afin de faire bonne figure si notre argument est rejet. De mme, quand des points
de vue trs opposs se forment, nous avons plutt tendance viter de devenir trs
brutaux. Ivan Habernal et Iryna Gurevych de luniversit technique de Darmstadt en
Allemagne ont construit quant eux un systme pour analyser lefficacit de nos
arguments afin de permettre des machines de les classer et dapprendre
argumenter dune manire plus convaincante.

Reste mesurer notre capacit faire confiance aux machines pour suivre leurs
arguments Pour linstant, force est de constater que nous avons plutt beaucoup
de mal leur faire confiance. Et il sera certainement difficile de suivre les arguments
que nous donneront les machines, aussi censs ou exacts soient-ils, notamment
parce quelles ne sont pas exemptes de biais. Pas sr donc que les arguments des
machines nous aident nous dpartir de nos propres partis-pris.

Hubert Guillaud

11