Vous êtes sur la page 1sur 4

Directeur de la publication : Edwy Plenel

www.mediapart.fr
1

Nous savions que le compte d’Emma était en danger


parce qu’il avait été désigné comme cible dans un
Comment de petits escrocs font fermer des
groupe Telegram que nous suivions. Dans ce groupe,
comptes Instagram quelques dizaines d’adolescents qui, à en juger par
PAR NICOLAS KAYSER-BRIL (ALGORITHMWATCH)
ARTICLE PUBLIÉ LE MERCREDI 3 FÉVRIER 2021 l’arabe qu’ils utilisent, vivent principalement en Irak
et en Arabie saoudite, se font une fierté de bouter
les utilisatrices d’Instagram hors de la plateforme. Ils
claironnent leurs succès dans leurs propres stories, où
l’on peut voir qu’ils s’en prennent en général à des
jeunes femmes originaires d’Afrique du Nord et du
Moyen-Orient. Mais ils frappent parfois en Europe.

Applications des réseaux sociaux, photo d'illustration.


© Christoph Dernbach / dpa Picture-Alliance via AFP
Dans le monde entier, de petits escrocs se livrent à un
trafic de comptes Instagram grâce aux faiblesses de la
fonction « signaler cet utilisateur ». La Commission
européenne prévoit d’y remédier, sans grand espoir de
changement du côté des victimes.
Emma* est une ado néerlandaise d’une petite ville au
bord de la mer du Nord. Ces dernières années, elle
a soigné son compte Instagram au point d’avoir, en
novembre 2020, plus de 20 000 abonné·e·s. Puis, vers
le 18 novembre 2020, son compte a été supprimé.
Extrait d'une story d'un membre du groupe Telegram.
Nous avons contacté Emma, 18 ans, via Instagram, Leur méthode est simple. Ils utilisent des programmes
quelques jours avant que son compte ne disparaisse. très basiques, disponibles sur GitHub, une plateforme
Nous voulions savoir comment elle gérait les de partage de code informatique, pour signaler
nombreux abus que subissent les créateurs, automatiquement leurs victimes. En utilisant plusieurs
mais surtout les créatrices de contenus sur la comptes Instagram, un seul d’entre eux peut signaler
plateforme. Comme de nombreuses autres, Emma est une utilisatrice des dizaines de fois en quelques
régulièrement « signalée » à Facebook (Instagram minutes. La plupart du temps, ils envoient des
appartient à Facebook, les deux services sont gérés signalements pour spam, usurpation d’identité ou pour
quasiment comme un seul ensemble). Une fois, nous « suicide ou automutilation », une fonctionnalité
a-t-elle dit, son compte a été désactivé au prétexte introduite par Instagram en 2016. Après avoir reçu
d’une usurpation d’identité. Une idée « stupide » étant plusieurs de ces rapports, Facebook suspend le compte
donné la quantité de selfies qu’elle publie, nous dit- ciblé.
elle. Emma a finalement réussi à récupérer son compte
Un Irakien de 16 ans, qui se fait appeler « Zen », est
après avoir parlé à un représentant de Facebook.
membre de ce groupe. Il nous a dit qu’une fois qu’un
Au total, elle a été signalée « cinq ou six fois » en deux compte est suspendu il contacte Facebook par e-mail
ans, mais a toujours réussi à récupérer son compte. et affirme que le compte lui appartient. Facebook lui
Mais pas cette fois. demande, d’une manière qui semble être automatisée,
Un groupe d’Irakiens et de Saoudiens d’envoyer une photo de lui tenant un morceau de

1/4
Directeur de la publication : Edwy Plenel
www.mediapart.fr
2

papier avec un code à 5 chiffres. Dès réception de la nos systèmes de signalement pour harceler les
photo, Facebook lui donne accès au compte suspendu, autres, et nous avons investi considérablement
qui est réactivé. Une fois qu’il en a pris le contrôle, dans des technologies permettant de détecter les
Zen revend le compte entre 20 et 50 dollars US, selon comptes participant à des signalements coordonnés ou
le nombre d’abonné·e·s. automatisés. Il y aura toujours des gens qui essaient
Zen nous a dit que ses clients voulaient simplement de malmener nos systèmes, mais nous nous efforçons
avoir plus de followers, mais il n’est pas exclu que ces de garder une longueur d’avance et de perturber cette
comptes alimentent un trafic plus vaste. Sur le site de activité autant que possible. »
vente de comptes Instagram SocialTradia, qui a pignon Des milliers de victimes
sur rue, un compte avec 2 000 followers coûte entre Nous avons examiné les outils de Zen, de Tiger et de
100 et 200 dollars. leurs acolytes. Ils ne nécessitent aucune compétence
Des outils pour le signalement de masse particulière et peuvent en général être exécutés à
Un autre groupe, basé au Pakistan, a codé une partir d’un smartphone. Signaler automatiquement des
extension pour le navigateur Chrome permettant utilisatrices et utilisateurs à Facebook et Instagram est
d’automatiser le signalement de masse sur Facebook. si facile que des jeunes hommes dans le monde entier
Pour l’utiliser, il faut acheter une licence à 10 dollars en ont fait leur fonds de commerce. À en juger par les
US. Mais la version gratuite donne accès à une liste dizaines de programmes disponibles sur GitHub et les
de cibles suggérées, mise à jour deux fois par mois milliers de tutoriels vidéo sur YouTube, il est probable
environ. Nous avons pu identifier quatre cents cibles que de nombreux autres groupes opèrent de la même
dans quarante pays, dont plusieurs en Europe. manière.
Nous n’avons pas pu comprendre comment ce groupe Nous avons interrogé 75 utilisatrices et utilisateurs de
sélectionnait ses victimes. Le développeur de l’outil, Facebook en Grande-Bretagne ; 21 d’entre elles et eux
un Pakistanais d’une vingtaine d’années qui se fait nous ont dit avoir déjà été bloqué·e·s ou suspendu·e·s
appeler « Tiger », n’a pas répondu à nos questions. par la plateforme. Une Écossaise de 56 ans avait, par
Parmi les cibles, on trouve des musulmans ahmadis exemple, créé un groupe, « Let Kashmir Decide ».
(un mouvement religieux originaire du Pendjab), Elle nous a dit que Facebook l’avait désactivé en
des indépendantistes baloutches et pachtounes, des septembre 2020, arguant qu’il « enfreignait les règles
militant·e·s LGBTQ+, des athées ou encore des de la communauté », probablement en raison d’un
féministes. signalement massif.
Mahmoud*, un athée vivant à Belfast, en Irlande du Lutter contre le harcèlement et les signalements
Nord, était sur leur liste. Bien qu’il ne sache pas s’il de masse sur Facebook demande une énergie
a été signalé massivement par les Pakistanais, il nous considérable, ne serait-ce que pour récupérer l’accès
a dit avoir déjà été la cible de ce genre de groupes. à son compte. Certain·e·s jettent l’éponge. Une jeune
Au cours des sept dernières années, « des centaines » femme de 30 ans vivant à Berlin nous a dit qu’elle avait
de ses publications ont été supprimées à la suite de abandonné les réseaux sociaux après des abus répétés,
signalements de masse, nous a-t-il dit. y compris des signalements de masse.
Facebook, régulièrement mis en cause pour la N’avoir pas accès à l’univers Facebook limite
fermeture ou la suspension de comptes, et évidemment sa capacité à participer à la vie publique,
très récemment en France avec des militantes puisqu’une grande partie du débat s’y est déplacée.
féministes, n’a pas souhaité répondre à nos questions Mais le problème dépasse la liberté d’expression.
précises. Le groupe nous a fait parvenir le Avec la pandémie, de plus en plus de services publics
commentaire suivant, que nous publions in extenso : migrent vers Instagram, leurs organismes de tutelle
« Nous n’autorisons pas les gens à abuser de n’ayant rien prévu pour leur permettre de rester en lien

2/4
Directeur de la publication : Edwy Plenel
www.mediapart.fr
3

avec leurs usagers. Certains hôpitaux en Allemagne, quelques jours plus tard me demandant d’envoyer une
par exemple, ont remplacé leurs réunions publiques photo de ma carte d’identité. Cinq minutes après, j’ai
d’information par des live sur Instagram. Celles et retrouvé l’accès à mon compte. »
ceux qui n’ont pas de compte ne peuvent pas y Trista Hendren, qui vit en Norvège, raconte, elle aussi,
participer. l’arbitraire des procédures de recours de Facebook.
Le DSA à la rescousse En tant qu’éditrice de livres féministes, elle a été
Le 15 décembre, la Commission européenne a proposé la cible de plusieurs campagnes de haine ou de
de nouvelles règles pour remédier aux failles de la signalement massif ces huit dernières années. Elle
fonction « signaler cet utilisateur », dans le cadre de la était encore, en novembre, une cible désignée par le
loi sur les services numériques (Digital Services Act, groupe pakistanais. Hendren nous a dit qu’aucune des
ou DSA). Le texte doit encore passer par le Parlement procédures qu’elle a lancées par les canaux normaux
et le Conseil européen avant d’avoir force de loi. n’a jamais abouti. Pour elle, le seul moyen de rétablir
un compte ou une publication est d’avoir un contact
La proposition de la Commission obligerait les
direct avec un·e employé·e de Facebook.
plateformes comme Facebook à être plus transparentes
envers les utilisatrices et utilisateurs lorsqu’une Liberté d’expression pour les riches
publication ou un profil est signalé et supprimé. En La loi sur les services numériques (DSA) de
particulier, les plateformes devront mettre en place la Commission européenne prévoit de résoudre
des systèmes de traitement des plaintes permettant aux ce problème en créant des cours d’arbitrage qui
utilisatrices et utilisateurs signalés de contester une prendraient en charge les litiges que les mécanismes
décision. internes n’ont pas pu résoudre.
Mais les utilisatrices et utilisateurs devront payer pour
utiliser ces tribunaux privés (ils seront remboursés
s’ils gagnent leur recours). Avec un tel système,
« lutter pour son droit à la liberté d'expression
[pourrait devenir] un privilège pour ceux qui en ont
les moyens », nous a dit l’Allemand Tiemo Wölken,
membre du Parlement européen (groupe Socialistes et
démocrates) et rapporteur sur le DSA.
Applications des réseaux sociaux, photo d'illustration.
© Christoph Dernbach / dpa Picture-Alliance via AFP Le DSA introduit aussi une obligation d’interdire
Facebook a déjà un tel système en place. Cependant, les abus de la part des utilisateurs qui font des
aucune des victimes de signalement massif à qui nous signalements de mauvaise foi. Mais il y a peu de
avons parlé n’a pu obtenir gain de cause par les canaux chances que ce mécanisme améliore quoi que ce
normaux. Emma, l’adolescente néerlandaise qui a soit. Dans une logique kafkaïenne, tout signalement
récemment perdu son compte Instagram, a déclaré est considéré comme étant fait de bonne foi. Et
qu’elle avait dû passer son Instagram à un compte comme les plateformes ont une obligation de réagir à
« business » pour pouvoir contacter quelqu’un chez tout signalement fait de bonne foi, elles continueront
Facebook. C’est finalement quelqu’un de Facebook probablement à « supprimer d’abord et poser des
France qui l’a aidée, bien qu’elle soit des Pays-Bas. questions plus tard », comme le dit Wölken.
Emma ne sait pas pourquoi ni comment sa requête Boite noire
a atterri sur le bureau d’un Français. « J’avais parlé
* Les noms ont été modifiés.
à tellement de gens [chez Facebook] avant lui que
j’ai pensé que, comme les autres, il ne pourrait pas
m’aider. Mais j’ai reçu un e-mail de Facebook France

3/4
Directeur de la publication : Edwy Plenel
www.mediapart.fr
4

Cette enquête a été financée par une subvention du


fonds IJ4EU. L’Institut international de la presse (IPI),
le Centre européen de journalisme (EJC) et les autres
partenaires du fonds IJ4EU ne sont pas responsables
du contenu publié et de toute utilisation qui en est faite.

Directeur de la publication : Edwy Plenel Rédaction et administration : 8 passage Brulon 75012 Paris
Direction éditoriale : Carine Fouteau et Stéphane Alliès Courriel : contact@mediapart.fr
Le journal MEDIAPART est édité par la Société Editrice de Mediapart (SAS). Téléphone : + 33 (0) 1 44 68 99 08
Durée de la société : quatre-vingt-dix-neuf ans à compter du 24 octobre 2007. Télécopie : + 33 (0) 1 44 68 01 90
Capital social : 24 864,88€. Propriétaire, éditeur, imprimeur : la Société Editrice de Mediapart, Société par actions
Immatriculée sous le numéro 500 631 932 RCS PARIS. Numéro de Commission paritaire des simplifiée au capital de 24 864,88€, immatriculée sous le numéro 500 631 932 RCS PARIS,
publications et agences de presse : 1214Y90071 et 1219Y90071. dont le siège social est situé au 8 passage Brulon, 75012 Paris.
Conseil d'administration : François Bonnet, Michel Broué, Laurent Mauduit, Edwy Plenel Abonnement : pour toute information, question ou conseil, le service abonné de Mediapart
(Président), Sébastien Sassolas, Marie-Hélène Smiéjan, François Vitrani. Actionnaires directs peut être contacté par courriel à l’adresse : serviceabonnement@mediapart.fr. ou par courrier
et indirects : Godefroy Beauvallet, François Bonnet, Laurent Mauduit, Edwy Plenel, Marie- à l'adresse : Service abonnés Mediapart, 4, rue Saint Hilaire 86000 Poitiers. Vous pouvez
Hélène Smiéjan ; Laurent Chemla, F. Vitrani ; Société Ecofinance, Société Doxa, Société des également adresser vos courriers à Société Editrice de Mediapart, 8 passage Brulon, 75012
Amis de Mediapart, Société des salariés de Mediapart. Paris.

4/4