UBA - Facultad de Filosofía y Letras

Cátedra: FRANCÉS
Nivel: Francés Medio
Material elaborado por Claudia Gaiotti

Tribune

Face à la haine en ligne, la modération ne suffit plus

5 Par Cécile Guerin, chercheuse à l’Institute for Strategic Dialogue - 22 janvier 2020 à
18:41

La législation en place n’est plus adaptée à répondre au déluge

de la malveillance en ligne, notamment misogyne. Une réponse
plus globale incluant le gouvernement, les autorités locales
10 et les plateformes est nécessaire.
Tribune. Face à l’ampleur et la banalisation de la haine sur les réseaux sociaux, une
approche législative de modération de contenus ne suffit plus. Une réponse sociétale
plus vaste est nécessaire. Alors que la proposition de loi Avia adoptée en juillet vient
d’être examinée en commission paritaire, un nouveau rapport sur la haine en ligne de
15 l’Institute for Strategic Dialogue (ISD), think tank et organisation de lutte contre
l’extrémisme et la polarisation, a permis de mesurer l’ampleur des discours haineux en
ligne. Les chercheurs ont analysé plus de 13 millions de messages en langue française
localisés en France sur une période de cinq mois et sur différentes plateformes, de
Twitter à Facebook en passant par des plateformes alternatives comme Reddit, en
20 utilisant des outils d’écoute des réseaux sociaux, un logiciel d’analyse du langage
naturel et des études qualitatives.

Sur un échantillon de 13 millions de messages collectés à partir de mots-clés associés

au discours de haine, une analyse par traitement du langage naturel a permis
d’identifier avec certitude 7 millions de contenus haineux. Plus de 5 millions de ces
25 messages représentaient des cas de haine misogyne, reflet de l’échelle extrêmement
préoccupante du problème. Si 5 % représentaient des cas de menaces contre les
femmes, 95 % utilisaient un langage haineux misogyne non ciblé, dont des insultes et
injures, signe d’une banalisation de la haine misogyne sur les plateformes. La
législation en place n’est plus adaptée à répondre à un tel déluge de haine en ligne. La
30 proposition de loi Avia impose aux géants technologiques de retirer les contenus
manifestement illicites de leurs plateformes (le délai de vingt-quatre heures
initialement imposé pour cette obligation a été écarté par le Sénat mais réintroduit
dans le texte proposé en seconde lecture à l’Assemblée nationale cette semaine).

Si la proposition de loi, dont les mérites et limites ont pu être débattus ailleurs, tente
35 d’offrir une mise à jour législative, elle ne peut à elle seule suffire à répondre au
 UBA - Facultad de Filosofía y Letras
Cátedra: FRANCÉS
Nivel: Francés Medio
Material elaborado por Claudia Gaiotti

phénomène plus global de la haine sur les plateformes. Il faut ici s’arrêter sur
l’expression de contenus manifestement illicites. La législation proposée impose en
effet de retirer les contenus qui relèvent d’une définition légale du discours de haine.
Ce processus est essentiel pour s’attaquer aux cas de haine en ligne les plus virulents.

40 Comme le suggère notre étude, le phénomène de la haine en ligne, qui se manifeste

par des millions de messages par an, ne s’arrête pas au discours de haine illégal visé
par la loi Avia, mais recouvre un ensemble beaucoup plus vaste de contenus souvent
ignorés qui se situent dans les zones grises de la légalité, contenus haineux,
problématiques et insultants qui peuvent alimenter l’hostilité contre certaines
45 catégories de la population.

De la découverte des pratiques de cyberharcèlement de la Ligue du LOL en février

dernier au débat sur les féminicides et la résurgence du mouvement #MeToo en
France, la question du harcèlement et de la violence faite aux femmes (en ligne et hors
ligne) a pris une place centrale dans le débat public. Le rôle que jouent les contenus
50 haineux misogynes sur les plateformes dans la banalisation de cette violence demeure
cependant trop peu compris, tout comme les liens entre événements de société et
haine en ligne.

L’étude de l’ISD a ainsi permis de montrer une corrélation entre certains incidents ou
manifestations hors-ligne et une augmentation du discours haineux sur les
55 plateformes. Nous avons pu observer une augmentation des discours haineux
misogynes en amont de la Journée internationale de la femme, une poussée de
messages haineux anti-Maghrébins après les attaques de Christchurch ou encore un
pic de haine anti-LGBT au moment de la nomination de Bilal Hassani à l’Eurovision. Au-
delà de la modération de contenus, ces liens entre haine hors-ligne et en ligne exigent
60 des mécanismes de réponse coordonnée. Si la modération de contenus reste un
exercice d’équilibriste entre protection des utilisateurs et respect de la liberté
d’expression, des solutions existent pour diminuer l’impact des discours haineux en
ligne sous toutes leurs formes.

Les grandes plateformes doivent conduire plus de recherches sur l’impact des discours
65 haineux sur leurs utilisateurs. Les recherches existantes peuvent informer les choix de
modération des plateformes et le panel de réponses possibles, de la suppression pure
et simple de contenus illégaux au déclassement algorithmique et aux rappels ciblés des
termes de service des plateformes. Ces dernières doivent faire preuve d’une
transparence accrue sur leurs politiques de modération, ainsi que sur le rôle
70 des algorithmes dans la diffusion des contenus haineux.

L’efficacité du signalement et du processus de modération des plateformes reste

difficile à évaluer, malgré des initiatives, comme les évaluations du code de conduite
de l’Union européenne sur la haine en ligne. Une surveillance accrue de la part d’une
autorité administrative indépendante est essentielle pour s’assurer que les processus
 UBA - Facultad de Filosofía y Letras
Cátedra: FRANCÉS
Nivel: Francés Medio
Material elaborado por Claudia Gaiotti

75 de modération soient appropriés et dotés des ressources nécessaires. L’importance

d’une régulation publique extérieure et indépendante a notamment été soulignée par
le rapport de la mission Régulation des réseaux sociaux. Expérimentation Facebook.
Au-delà de la modération et priorisation des contenus sur les plateformes, une
réponse plus globale au problème de la haine en ligne est nécessaire.

80 Le gouvernement, les autorités locales et les plateformes en ligne doivent travailler à

la création d’un mécanisme coordonné pour réagir aux événements qui ont tendance à
provoquer des pics de haine en ligne. Ce mécanisme peut s’inspirer d’initiatives telles
que l’appel de Christchurch lancé en mai par Emmanuel Macron et la Première
ministre néo-zélandaise, Jacinda Ardem, et des actions du Forum mondial de l’Internet
85 contre le terrorisme (GIFCT en anglais), lequel vise à répondre de manière concertée
au contrecoup des attaques terroristes. Une plus étroite collaboration entre les géants
du secteur technologique et la société civile est nécessaire pour s’attaquer aux propos
haineux demeurant dans le cadre légal, mais malgré tout problématiques et
dangereux. Cette collaboration peut passer par la création de campagnes de contre-
90 discours et des initiatives éducatives qui luttent contre la banalisation des propos
haineux. Si celles-ci existent déjà, leur échelle demeure souvent trop réduite et
nécessite un investissement accru, à la hauteur du problème.

Cécile Guerin chercheuse à l’Institute for Strategic Dialogue

95
Libération, 22 janvier 2020.

URL : https://www.liberation.fr/debats/2020/01/22/face-a-la-haine-en-ligne-la-
moderation-ne-suffit-plus_1774630
100

A propos de la loi Avia :

105
https://www.20minutes.fr/high-tech/2701347-20200123-loi-contre-haine-internet-
plusieurs-experts-mettent-garde-contre-risques-censure

110 A propos de la Ligue LOL :

https://theconversation.com/la-ligue-du-lol-une-affaire-de-cyberharcelement-
choquante-mais-helas-classique-111930
UBA - Facultad de Filosofía y Letras
Cátedra: FRANCÉS
Nivel: Francés Medio
Material elaborado por Claudia Gaiotti

Fiche-lecture

Texte: « Face à la haine en ligne, la modération ne suffit plus ». Cécile Guérin in

Libération, 22 janvier 2020.
URL: https://www.liberation.fr/debats/2020/01/22/face-a-la-haine-en-ligne-la-
moderation-ne-suffit-plus_1774630

1. Quel est le phénomène abordé dans ce texte ? Face à cette situation, pourquoi
la modération ne suffit plus ? Expliquez.

2. Justifiez la référence aux éléments suivants :

a. ISD (L. 15)

b. 13 millions (L. 22)
c. 7 millions (L. 24)
d. haine misogyne (L.25)
e. 95% (L. 27)
f. loi Avia (l. 30

3. Quelles sont les dernières études réalisées par l’ISD ? En quoi consistent-elles ?
Quels en sont les résultats ? Précisez.

4. Qu’est-ce que la loi Avia ? Quel est l’avis de l’auteur par rapport à cette loi ?
Justifiez par des marques textuelles.

5. Expliquez les énoncés ci-dessous à l’aide d’informations fournies par le texte :

Enoncé Explication
- « La question du harcèlement et de la violence
faites aux femmes (…) a pris une place centrale
dans le débat public » (L. 48-49)
- « Les grandes plateformes doivent conduire
plus de recherches sur l’impact des discours
haineux sur leurs utilisateurs » (L. 64-65)
- « L’efficacité du signalement et du processus
de modération des plateformes reste difficile à
évaluer » (L. 71-72)

6. Pourquoi l’auteure affirme-t-elle que « la modération des contenus reste un

exercice d’équilibriste » (L. 60-61) ? Justifiez par des marques textuelles.

7. Quel est le point de vue de la chercheuse sur la haine en ligne ? Quelles sont
ses propositions ?

8. Justifiez l’emploi du terme suivant : « cependant » (L. 51). Précisez le rapport

logique véhiculé et reformulez l’énoncé.