Machine Translated by Google
Une enquête sur la détection des discours de haine à l'aide du traitement du langage naturel
Anna Schmidt
Systèmes de langue parlée
Université d¨ e la Sarre
D-66123 Sarrebruck, Allemagne
anna.schmidt@lsv.uni-saarland.de
Résumé
Cet article présente une enquête sur la haine détection de
la parole. Compte tenu de la croissance constante du
contenu des médias sociaux, le
le nombre de discours de haine en ligne est également en
augmentation. En raison de l'ampleur massive de
le web, des méthodes qui détectent automatiquement
discours de haine sont nécessaires. Notre enquête décrit
les domaines clés qui ont été explorés reconnaître
automatiquement ces types de
énoncés utilisant le traitement du langage naturel.
Nous discutons également des limites de ces approches.
1. Introduction
Le discours de haine est généralement défini comme toute
communication qui dénigre une personne ou un groupe sur le base
de certaines caractéristiques telles que la race, la couleur, origine
ethnique, sexe, orientation sexuelle, nationalité,religion ou autre
caractéristique (Nockleby, 2000).
Les exemples sont (1)-(3).1
(1) Va te tuer putain et meurs déjà laid inutile
tas de connard de merde.
(2) Le pédé juif derrière l'effondrement financier
(3) J'espère qu'une de ces salopes tombera et se cassera la jambe
En raison de l'essor massif des contenus Web générés par les
utilisateurs, en particulier sur les réseaux sociaux, la
le nombre de discours de haine augmente également
régulièrement. Au cours des dernières années, l'intérêt pour la haine en(l1ig9n9e7) parle de messages abusifs, de messages hostiles ou de
la détection de la parole et en particulier l'automatisation de cette
tâche n'a cessé de croître, parallèlement
avec l'impact sociétal du phénomène. Traitement du langage
naturel axé spécifiquement sur
ce phénomène est nécessaire car les filtres de mots de base
n'apportent pas un remède suffisant : Qu'est-ce
1Les exemples de cet ouvrage sont inclus pour illustrer
la gravité du problème du discours de haine. Ils sont tirés de données web
réelles et ne reflètent en aucun cas l'opinion des auteurs.
1
Michel Wiegand
Systèmes de langue
parlée Université d¨
e la Sarre
D-66123 Sarrebruck,
Allemagne
michael.wiegand@lsv.uni-saarland.de
considéré comme un message de discours de haine peut être influencé
par des aspects tels que le domaine d'un énoncé, son contexte de
discours, ainsi que le contexte constitué d'objets médiatiques
simultanés (par exemple, des images,
vidéos, audio), l'heure exacte de publication et le monde
événements en ce moment, identité de l'auteur et destinataire visé.
Ce document propose une présentation courte, complète et aperçu
structuré de la détection automatique des discours de haine et décrit
les approches existantes dans
de manière systématique, en se concentrant sur l'extraction de
caractéristiques en particulier. Il s'adresse principalement aux
chercheurs en PNL qui débutent dans le domaine du discours de haine
détection et veulent s'informer sur la
l'état de l'art.
2 Terminologie
Dans cet article, nous utilisons le terme discours de haine. Nous
avons opté pour l'utilisation de ce terme car il peut être
considéré comme un terme générique générique pour de nombreux
types de contenus insultants créés par les utilisateurs
dans les travaux individuels que nous résumons dans cet article. Le
discours de haine est également le plus fréquemment utilisé expression
de ce phénomène, et est même un terme légal dans plusieurs pays. Ci-
dessous, nous énumérons d'autres
termes utilisés dans la communauté PNL. Cette
devrait également aider les lecteurs à trouver d'autres documents sur
cette tâche.
Dans les premiers travaux sur le discours de haine, Spertus
flammes. Plus récemment, de nombreux auteurs ont
s'est déplacé vers l'emploi du terme cyberintimidation (Xu et al.,
2012ÿ; Hosseinmardi et al., 2015; Zhong et al.,
2016; Van Hee et al., 2015; Dadvar et al., 2013;
Dinakar et al., 2012). Le terme réel de discours de haine est
utilisé par Warner et Hirschberg (2012), Burnap
et Williams (2015), Silva et al. (2016), Djuric et
Al. (2015), Gitari et al. (2015), Williams et Bur nap (2015) et Kwok et
Wang (2013). Plus loin,
Machine Translated by Google
Actes du cinquième atelier international sur le traitement du langage naturel pour les médias sociaux , pages 1 à 10, Valence,
Espagne, 3-7 avril 2017. c 2017 Association for Computational Linguistics
Machine Translated by Google
Sod et al. (2012a) travaux sur la détection (personnelle)
insultes, grossièretés et messages d'utilisateurs caractérisés par une intention
malveillante, tandis que Razavi et al. (2010)
faire référence à un langage offensant. Xiang et al. (2012) se concentrent sur le
langage vulgaire et le contenu vulgaire lié au blasphème. Xu et al. (2012)2
regarder plus loin
dans des taquineries formulées en plaisantant dans des messages qui représentent
des épisodes d'intimidation (éventuellement moins graves).
Enfin, Burnap et Williams (2014) spécifiquement
se pencher sur le langage altériste, caractérisé par une
dichotomie nous-eux dans la communication raciste.
3 fonctionnalités pour la détection du discours de haine
Comme c'est souvent le cas avec la classification
tâches, l'un des aspects les plus intéressants distinguant différentes
approches est de savoir quelles fonctionnalités sont
utilisé. La détection du discours de haine ne fait certainement pas exception
puisque ce qui différencie un discours haineux d'un discours inoffensif n'est
probablement pas attribuable à une seule classe
d'aspects influents.
Si l'ensemble des caractéristiques examinées dans les différents travaux
est très variable, les méthodes de classification se concentrent
principalement sur l'apprentissage supervisé (§6).
3.1 Caractéristiques de surface simples
Pour toute tâche de classification de texte, la plus évidente
les informations à utiliser sont des caractéristiques au niveau de la surface,
comme sac de mots. En effet, les unigrammes et plus
les n-grammes sont inclus dans les ensembles de fonctionnalités par une
majorité d'auteurs (Chen et al., 2012; Xu et al., 2012;
Warner et Hirschberg, 2012 ; Sood et coll., 2012; Burnap
et Williams, 2015 ; Van Hee et al., 2015; Waseem et
Hovy, 2016 ; Burnap et Williams, 2016ÿ; Hosseinmardi
et al., 2015ÿ; Nobata et al.,
2016). Ces caractéristiques sont souvent signalées comme étant
hautement prédictif. Pourtant, dans de nombreux travaux, les
caractéristiques n-grammes sont combinées avec une large sélection d'autres produit des clusters durs - c'est-à-dire qu'il attribue à chacun
Caractéristiques. Par exemple, dans leurs travaux récents, No bata et al.
(2016) rapportent que si les caractéristiques de jeton et de n- grammes de
caractères sont les caractéristiques uniques les plus prédictives dans leurs
expériences, les combiner
avec toutes les fonctionnalités supplémentaires améliore encore les
performances.
Les fonctionnalités n-grammes au niveau des caractères peuvent fournir un moyen
d'atténuer le problème de variation orthographique de dix rencontré lors de
l'utilisation de texte de commentaire généré par l'utilisateur. Par exemple, la
phrase ki11 anslef
a$$hole, qui est considéré comme un exemple de haine discours,
posera très probablement des problèmes de jeton
2Les données de ce travail sont disponibles sous http://
recherche.cs.wisc.edu/intimidation
approches basées sur l'orthographe, car les variations orthographiques inhabituelles
entraîneront des résultats très rares, voire inconnus. jetons dans les données
d'entraînement. Les approches au niveau du personnage, en revanche, sont plus
susceptibles de
capturer la similitude avec l'orthographe canonique de ces
jetons. Mehdad et Tétreault (2016)
comparer systématiquement les caractéristiques des n-grammes de caractères avec des n-
grammes symboliques pour la détection des discours de haine, et trouvent que les n-
grammes de caractères s'avèrent plus prédictifs que les n-grammes de jeton.
Outre les fonctionnalités basées sur les mots et les caractères,
la détection des discours de haine peut également bénéficier d'autres
caractéristiques de surface (Chen et al., 2012ÿ; Nobata et al.,
2016), telles que des informations sur la fréquence des
Mentions d'URL et ponctuation, commentaires et longueurs de ken,
majuscules, mots qui ne peuvent pas être
trouvées dans les dictionnaires anglais, et le nombre de caractères
non alphanumériques présents dans les jetons.
3.2 Généralisation des mots
Alors que les fonctionnalités de sac de mots donnent généralement un bon performances
de classification dans la détection des discours de haine, afin de fonctionner
efficacement, ces fonctionnalités nécessitent que
des mots prédictifs apparaissent dans les deux formations
et les données d'essai. Cependant, étant donné que la détection des discours de haine est
généralement appliquée sur de petits morceaux de texte (par ex. passages ou même des
phrases individuelles), on peut
faire face à un problème de rareté des données. C'est pourquoi plusieurs
travaux abordent ce problème en appliquant une certaine forme de la
généralisation des mots. Ceci peut être réalisé par
effectuer un regroupement de mots, puis utiliser des identifiants de cluster induits
représentant des ensembles de mots comme fonctionnalités supplémentaires
(généralisées). Un algorithme standard pour cela est le clustering de Brown (Brown
et al.,
1992) qui a été utilisé comme long métrage dans Warner
et Hirschberg (2012). Tandis que le regroupement de Brown
mot individuel à un groupe particulier - Latent
L'allocation de Dirichlet (LDA) (Blei et al., 2003) produit pour chaque mot une
distribution thématique indiquant dans quelle mesure un mot appartient à chaque
thème.
De telles informations ont également été utilisées à des fins haineuses détection de
la parole (Xiang et al., 2012ÿ; Zhong et al.,
2016).
Plus récemment, les représentations de mots distribuées (basé sur
les réseaux de neurones), également appelé
les incorporations de mots, ont été proposées dans un but similaire. Pour chaque
mot une représentation vectorielle est induite (Mikolov et al., 2013) à partir d'un
grand
corpus de texte (non étiqueté). De telles représentations vectorielles ont
l'avantage que des sémantiques différentes
Machine Translated by Google
des mots typiquement similaires peuvent également avoir des
vecteurs similaires. De tels vecteurs peuvent éventuellement être utilisés à spécifier le type de polarité (c'est-à-dire positive et
en tant qu'entités de classification, remplaçant les entités binaires
indiquant la présence ou la fréquence de
mots. Puisque dans les phrases de détection de discours de haine ou
les passages sont classifiés plutôt qu'individuels
mots, une représentation vectorielle de l'ensemble des mots
vecteurs représentant les mots du texte à
classé est recherché. Un moyen simple d'accomplir
c'est en faisant la moyenne des vecteurs de tous les mots qui
apparaissent dans un passage ou une phrase. Pour détecter la haine
parole, cette méthode n'aurait qu'une efficacité limitée (Nobata et
al., 2016), peu importe
si des plongements généraux pré-entraînés sont utilisés
soit les plongements sont induits à partir d'un corpus spécifique
à un domaine. Alternativement, Djuric et al. (2015)
proposent d'utiliser des plongements qui représentent directement
les passages de texte à classer. Ces paragraphes
embeddings (Le et Mikolov, 2014), qui sont
en interne basés sur des incorporations de mots, ont été
beaucoup plus efficace que la moyenne des incorporations de mots
(Nobata et al., 2016).
3.3 Analyse des sentiments discours de haine, comme les insultes à caractère
ethnique4 ,
Le discours de haine et l'analyse des sentiments sont étroitement liés,
et il est prudent de supposer qu'un sentiment généralement négatif se
rapporte à un message de discours de haine.
De ce fait, plusieurs approches reconnaissent
la relation entre le discours de haine et l'analyse des sentiments en
incorporant ce dernier comme auxiliaire
classification. Dinakar et al. (2012), Sood et al.
(2012b) et Gitari et al. (2015) suivent une approche en plusieurs
étapes, dans laquelle un classificateur dédié à
détecter la polarité négative est appliquée avant que le classificateur
vérifie spécifiquement les preuves de haine parole. De plus, Gitari et
al. (2015) exécutent un classificateur supplémentaire qui élimine les
phrases non subjectives avant la classification de polarité
susmentionnée.
Outre les approches en plusieurs étapes, il existe également
approches en une seule étape qui incluent une certaine forme de
informations sur les sentiments en tant que fonctionnalité. Par exemple, dans
leur classificateur supervisé, Van Hee et al. (2015)
utiliser comme caractéristiques le nombre de positifs, négatifs,
et des mots neutres (selon un lexique des sentiments)
apparaissant dans un texte de commentaire donné.
Nouvelles tentatives pour isoler le sous-ensemble de la haine
discours à partir de l'ensemble des énoncés polaires négatifs reposent
sur le constat que le discours de haine présente également un degré
élevé de polarité négative (Sood et
al., 2012bÿ; Burnap et al., 2013). À cette fin, po
des classificateurs de larité sont employés qui, en plus
négatif) prédisent également l'intensité polaire d'un énoncé. Un
classificateur de polarité accessible au public qui
produit une telle sortie est SentiStrength
(Thelwall et al., 2010). Il est utilisé pour le discours de haine
détection par Burnap et al. (2013).
3.4 Ressources lexicales
Essayer d'utiliser l'hypothèse générale selon laquelle
les messages haineux contiennent des mots négatifs spécifiques
(comme les insultes, les insultes, etc.), de nombreux auteurs utilisent
la présence de tels mots comme caractéristique. Pour obtenir ce
type d'information, des ressources lexicales sont
requises qui contiennent de telles expressions prédictives.
Une source populaire pour de telles listes de mots est le
la toile. Il existe plusieurs listes accessibles au public
composés de termes généraux liés à la haine3 .
des travaux qui emploient de telles listes (Xiang et al.,
2012ÿ; Burnap et Williams, 2015 ; Nobata et al.,
2016), il existe également des approches, telles que Bur nap et
Williams (2016) qui se concentrent sur des listes qui
sont spécialisés dans un sous-type particulier de
Argot LGBT
termes5
, ou des mots à connotation négative envers les
personnes handicapées.6
Outre les listes de mots accessibles au public de le
web d'autres approches intègrent des lexiques qui ont été
spécialement compilés pour la tâche à
main. Spertus (1997) emploie un lexique composé de soi-disant bons
verbes et de bons adjectifs.
Razavi et al. (2010) ont compilé manuellement un dictionnaire de
langage insultant et abusif contenant
à la fois des mots et des phrases avec différents degrés de
manifestation de variétés de flammes. Ce dictionnaire attribue
également des poids à chaque entrée lexicale qui représente le
degré du niveau d'impact potentiel
pour la détection des discours de haine. Les poids sont obtenus
par apprentissage adaptatif en utilisant la partition d'apprentissage de
l'ensemble de données utilisé dans ce travail. Gitari et
Al. (2015) construisent une ressource comprenant des verbes haineux
qui sont des verbes qui tolèrent ou encouragent des actes de la
violence. Malgré leur efficacité générale, rel
3 www.noswearing.com/dictionary,
www.rsdb.org,
www.hatebase.org
4https://en.wikipedia.org/wiki/List_
of_ethnic_slurs
5https://en.wikipedia.org/wiki/List_ of_LGBT_slang_terms
6https://en.wikipedia.org/wiki/List_
of_disability-related_terms_with_
connotations_négatives
Machine Translated by Google
on sait peu de choses sur le processus de création
et les concepts théoriques qui sous-tendent les ressources lexicales
spécialement compilées
pour la détection des discours de haine.
La plupart des approches utilisent des caractéristiques lexicales soit
comme référence ou en plus d'autres fonctionnalités. Contrairement
à d'autres caractéristiques, en particulier le sac de mots (§3.1) ou
embeddings (§3.2), ils sont généralement insuffisants en tant que
fonctionnalité autonome (Nobata
et al., 2016). Les facteurs contextuels jouent un rôle important
rôle. Par exemple, Hosseinmardi et al. (2015) trouver
que 48ÿ% des sessions médias dans leur collecte de données
n'étaient pas considérés comme des discours de haine par la majorité des
notateurs, même s'ils contenaient apparemment un
pourcentage élevé de mots grossiers.
3.5 Caractéristiques linguistiques
Les aspects linguistiques jouent également un rôle important pour
détection des discours de haine. Les caractéristiques linguistiques sont
soit employées de façon plus générique, soit
spécifiquement adapté à la tâche.
Xu et al. (2012) explorent la combinaison de
Fonctionnalités ngram avec informations POS enrichies
jetons. Cependant, l'ajout d'informations sur le point de vente ne
n'améliorent pas de manière significative les performances du classifieur.
Prenant en compte les informations syntaxiques plus profondes comme
une caractéristique, Chen et al. (2012) emploient typé relations de
dépendance. De telles relations ont
l'avantage potentiel que des mots non consécutifs ayant
une relation (potentiellement longue distance)
peuvent être capturés dans une seule fonction. Par exemple, dans (4) un
tuple de dépendance nsubj(porcs, juifs)
dénotent la relation entre le terme offensant cochons et les
juifs cibles de la haine.
(4) Les Juifs sont des porcs de classe inférieure.
Évidemment, sachant que ces deux mots sont
liée syntaxiquement rend la déclaration sous-jacente plus susceptible de
véhiculer un discours de haine que celles
mots-clés apparaissant dans une phrase sans aucune relation
syntaxique. Les relations de dépendance sont également employé dans
l'ensemble de fonctionnalités de Gitari et al. (2015), Burnap et
Williams (2015), Burnap et
Williams (2016) et Nobata et al. (2016). Burnap et Williams (2015) et
Burnap et Williams
(2016) signalent des améliorations significatives des performances
basées sur cette fonctionnalitéÿ; les autres desquelles on pourrait
journaux le font
ne pas mener d'études d'ablation à partir sur un site de médias sociaux pour adolescents7
conclure l'efficacité de cette caractéristique particulière. Il existe également
une différence dans les ensembles de
relations de dépendance représentant une phrase qui sont
utilisés. Burnap et Williams (2015)
en déduire qu'il s'agit d'une remarque calomniant la sexualité
ou l'identité de genre du garçon auquel on s'adresse (Di nakar et al., 2012).
appliquer une sélection de caractéristiques statistiques (bayésien régression
logistique), Chen et al. (2012) et Gi tari et al. (2015) sélectionnent
manuellement les relations (par exemple
en appliquant cet argument de la relation
est un terme offensant) tandis que Nobata et al. (2016) n'effectuez aucune
autre sélection. Malheureusement, il n'existe aucune évaluation
comparant ces variations de caractéristiques.
Zhong et al. (2016) faire
n'utilisent pas la présence de relations de dépendance explicites
apparaissant dans une phrase comme une caractéristique, mais emploient
un score de niveau d'offense. Cette note est
en fonction de la fréquence des cooccurrences de termes indicatifs et
d'identifiants d'utilisateur dans le même de
relation de dépendance.
Dans son travail sur le système Smokey, Spertus
(1997) élabore un ensemble de caractéristiques linguistiques adaptées à la tâche
de détection des discours de haine. Les fonctionnalités syntaxiques incluent la
détection de l'impératif
déclarations (par exemple Get lost !, Get a life !) et la cooccurrence du
pronom que vous avez modifié par le nom
phrases (comme dans vous bozos). Le système Smokey
intègre également certaines caractéristiques sémantiques pour éviter les faux
positifs. D'une part, soi-disant
des règles de louange sont employées, qui utilisent des expressions régulières
impliquant de bons mots prédéfinis. Depuis
ce travail catégorise les pages Web, les règles de louange essayer de
détecter les co-occurrences de bons mots et
expressions faisant référence au site Internet à classer. D'autre part, Spertus
(1997) emploie également des règles de politesse représentées par certains mots
ou phrases polis (par exemple, non merci, voudriez-vous ou
s'il vous plaît). Nobata et al. (2016) utilisent une fonctionnalité similaire.
3.6 Fonctionnalités basées sur les connaissances
La détection des discours de haine est une tâche qui ne peut pas être résolu en
regardant simplement les mots-clés. Même
si l'on essaie de modéliser des unités textuelles plus grandes, comme les
chercheurs tentent de le faire au moyen de traits linguistiques (§3.5), il
reste difficile de décider si
certains énoncés représentent ou non un discours de haine. Pour exemple, (5)
ne peut pas être considéré comme une forme de discours de haine lorsqu'il
n'est lu que isolément.
(5) Mettez une perruque et du rouge à lèvres et soyez qui vous êtes vraiment.
Cependant, lorsque les informations contextuelles sont fournies que cet
énoncé s'adressait à un garçon
, On pourrait
(5) affiche le plus de stéréotypes
7L'exemple d'énoncé ci-dessus provient de Formspring.
Machine Translated by Google
communément attribué aux femmes (c.-à-d. mettre un
perruque et rouge à lèvres). Si ces caractéristiques sont attribuées à un
homme dans un contexte hétéronormatif, le
l'intention peut avoir été d'insulter le destinataire.
L'exemple ci-dessus montre que le fait qu'un message soit haineux
ou bénin peut être très dépendant
sur la connaissance du monde, et il est donc intuitif que la
détection d'un phénomène aussi complexe
car le discours de haine pourrait bénéficier de l'inclusion d'informations
sur des aspects qui ne sont pas directement liés à la langue. Dinakar et al.
(2012) présentent une approche utilisant un raisonnement automatique sur
la connaissance du monde en se concentrant sur le discours de haine anti-
LGBT. La base de leur modèle est le ConceptNet à usage général sur la
tologie (Liu et Singh, 2004), qui
encode des concepts qui sont reliés par des relations
pour former des affirmations, telles que "une jupe est une forme de tenue
féminine ». ConceptNet est complété par un
ensemble de stéréotypes (manuellement) extraits de la
réseau de médias sociaux Formspring. 8 Avoir quelques informations de fond sur le
Un exemple
car une telle affirmation stéréotypée est "le rouge à lèvres est utilisé par les
filles ». La base de connaissances augmentée est re Cette
appelé BullySpace.
calcule la similarité des concepts de la connaissance commune avec les
concepts exprimés dans l'utilisateur
commentaires.10 Après extraction des concepts présents dans
un commentaire utilisateur donné, la similarité entre les
concepts extraits et un ensemble de quatre concepts canoniques
est calculé. Les concepts canoniques sont les quatre concepts de
référence positif et négatif valence et les deux genres, masculin
et féminin.
Les scores de similarité résultants entre extraits
et les concepts canoniques indiquent si un message peut constituer une
instance de discours de haine. UN
exemple de discours de haine a une grande similitude avec le concept
canonique valence négative et le concept canonique représentant le
genre opposé à
le sexe réel de l'utilisateur auquel il s'adresse
le poste de message. Par exemple, pour la phrase
donné ci-dessus, une grande similitude avec la valence négative et féminin
indiquerait correctement que l'énoncé est censé être un discours de haine.
Évidemment, l'approche proposée par Dinakar et
Al. (2012) ne fonctionne que pour un sous-type très confiné
du discours de haine (c'est-à-dire l'intimidation anti-LGBT). Même
même si le cadre permettrait également d'autres
8L'augmentation est obtenue en appliquant la technique d'inférence conjointe fusionnant après
que ConceptNet et les affirmations ont été transformées en un soi-disant AnalogySpace.
9BullySpace contient 200 affirmations spécifiques aux LGBT.
10Les concepts sont représentés sous forme de vecteurs, de sorte que la similarité peut être facilement
calculée par des mesures telles que la similarité en cosinus.
Il est peu probable que les messages le fassent à l'avenir. Xiang et Al. (2012)
utilisent efficacement cette heuristique pour transmettre d'autres messages de
discours de haine. Dadvar et
types de discours de haine, il faudrait d'abord inclure des assertions
spécifiques à un domaine. Ce serait
nécessitent beaucoup de codage manuel. C'est vraisemblablement cette
lacune qui explique pourquoi, à notre connaissance, c'est le seul ouvrage qui
tente de déceler la haine
discours à l'aide d'une base de connaissances.
3.7 Méta-informations
Les connaissances mondiales acquises à partir des bases de connaissances sont n'est pas
la seule information disponible pour affiner une classification peu concluante.
La méta-information (c'est-à-dire la
formation d'un énoncé) est également un précieux
source de détection de discours haineux. Depuis le texte couramment utilisées
comme données pour cette tâche proviennent presque exclusivement de plates-
formes de médias sociaux, une variété de ces méta-informations est
généralement proposée
et sont facilement accessibles via les API fournies par ces plates- formes.
l'utilisateur d'un poste peut être très prédictif. Un utilisateur qui est connu
pour écrire des messages haineux peut faire
9 donc encore. Un utilisateur qui n'est
base de connaissances al
pas connu pour écrire de tels
Al. (2013) utilisent comme caractéristique le nombre de profanes mots dans
l'historique des messages d'un utilisateur. Connaître le sexe de l'utilisateur
peut également aider (Dadvar
et al., 2012ÿ; Waseem et Hovy, 2016). Les hommes sont
beaucoup plus susceptibles de publier des messages haineux
que les femmes.
Au-delà de celles-ci, plusieurs autres types de méta-informations sont
courants, tels que le nombre de
messages par un utilisateur, le nombre de réponses à un message, le
moyenne du nombre total de réponses par abonné
ou l'origine géographique, mais la plupart d'entre eux ont n'a pas
été trouvé efficace pour la classification (Zhong
et al., 2016ÿ; Waseem et Hovy, 2016). De plus, il existe certains types de
méta-informations
pour lesquels des résultats contradictoires ont été rapportés.
Par exemple, Hosseinmardi et al. (2015) rapport une
corrélation entre le nombre de
commentaires à un message et discours de haine pendant que Zhong et coll.
(2016) rapportent le contraire. (Les deux documents utilisent Instagram comme
source.) De nombreuses raisons peuvent en être responsables. Zhong et al.
(2016) spéculer
que le manque général d'efficacité des méta-informations qu'ils ont
examinées peut être dû au fait
ils considèrent les comptes de célébrités. Comptes de
les utilisateurs réguliers, d'autre part, peuvent afficher assez
un comportement différent. De cela nous concluons que
Machine Translated by Google

les méta-informations peuvent être utiles, mais cela dépend de le type que les deux plates-formes présentent les mêmes 6 principaux groupes cibles haineuxÿ: les

exact d'information que l'on utilise et aussi gens sont principalement victimes d'intimidation en raison de leur

la source d'où proviennent les données. appartenance ethnique, de leur comportement, de leurs caractéristiques physiques, de leur sexualité.

orientation, classe ou sexe. Chau et Xu (2007)

3.8 Informations multimodales
présenter une étude d'un ensemble sélectionné de 28 anti-Noirs des groupes

haineux dans les blogs du site Xanga. Utilisant un approche semi-

Les médias sociaux modernes ne se composent pas seulement de texte mais
automatisée, ils retrouvent les caractéristiques démographiques et
incluent également des images, du contenu vidéo et audio.
topologiques de ces groupes.
De tels contenus non textuels sont également régulièrement commentés et font
En utilisant l'analyse des liens Web et du contenu, Zhou et al. (2005)
donc partie du discours d'un discours de haine. Ce contexte
examinent la structure des groupes extrémistes nationaux américains.

en dehors d'un commentaire utilisateur écrit peut être utilisé comme un

fonction prédictive.

En ce qui concerne les fonctionnalités basées sur les connaissances, pas trop 5 Anticiper les alarmes sociétales
il existe des contributions qui exploitent ce type d'informations. Ceci est Changements

un peu surprenant, car parmi

En plus de détecter des personnes haineuses isolées commentaires et en classant
messages d'utilisateurs haineux illustrés par des sites Web documentant des
les types d'utilisateurs impliqués, la proportion globale de commentaires négatifs
cas représentatifs de cyber
extrêmes
hate11, le contexte visuel joue un rôle majeur.
les postes sur une certaine durée permettent également des pistes de recherche
Hosseinmardi et al. (2015) emploient des fonctionnalités
intéressantes. Aperçu des changements
en fonction des étiquettes d'image, du contenu multimédia partagé et
dans l'humeur publique ou personnelle peut être acquise. Informations sur les
catégories d'images étiquetées. Zhong et al. (2016) augmentations notables du nombre d'actes de haine
utiliser les fonctionnalités d'image au niveau du pixel et le rapport
des messages complets dans un court laps de temps peuvent indiquer
qu'une combinaison de ces caractéristiques visuelles et les
développements suspects dans une communauté. Tel
fonctionnalités dérivées des sous-titres offrent les meilleures
les informations pourraient être utilisées pour contourner des incidents tels que la
performances. Ils utilisent également ces fonctionnalités pour prédire
violence raciale, les attaques terroristes ou
quelles images sont sujettes à l'intimidation. Ceux-ci sont
d'autres crimes avant qu'ils ne se produisent, fournissant ainsi
les images susceptibles d'attirer des commentaires haineux et sont
des pas dans le sens d'une gouvernance anticipatrice.
appelées déclencheurs d'intimidation.
Un ouvrage portant sur la prédiction de la criminalité est

Wang et al. (2012). Ce travail se concentre sur la prévision des crimes avec délit de
4 personnes impliquées dans des épisodes
d'intimidation fuite à partir des données de Twitter en
et leurs rôles employant efficacement l'étiquetage sémantique des rôles et extraction de sujet

En plus de détecter les messages haineux, un groupe de
les travaux se concentrent sur les personnes impliquées dans le discours de haine
épisodes et leurs rôles. Xu et al. (2012) regarder
l'ensemble de l'événement de harcèlement (ou trace de harcèlement), en
attribuant automatiquement des rôles aux acteurs impliqués dans le
l'événement ainsi que l'auteur du message. Ils différencient les rôles
d'intimidateur, de victime, d'assistant,
défenseur, spectateur, renforçateur, journaliste et ac cuser pour les
auteurs de tweet et pour les mentions de personnes
dans le tweet. En plus de qualifier d'insultant messages,
basée sur les événements (avec LDA). Burnap et coll. (2013) examinent la
détection automatique de
tensions sur les réseaux sociaux. Ils établissent qu'il peut
être détectés et visualisés de manière fiable au fil du temps à l'aide d'une analyse des
sentiments et de ressources lexicales en codant des acteurs, des accusations et des
termes abusifs spécifiques à un sujet. Williams et Burnap (2015) tempo rally
associent le discours de haine en ligne à des événements terroristes hors ligne. Ils
constatent que les premières heures qui suivent
un événement terroriste sont le laps de temps critique pendant lequel
des discours de haine en ligne sont susceptibles de se produire.

Sood et al. (2012b) aussi automatiquement prédire si de 6 Méthodes de classement

tels messages sont destinés à un
Les méthodes utilisées pour la détection des discours de haine
auteur d'un précédent commentaire ou chez un tiers.
En termes de classificateurs, ce sont principalement des approches d'apprentissage
Silva et al. (2016) proposent une analyse des principaux
supervisé. En tant que classificateurs principalement, des machines à vecteurs de
groupes cibles haineux sur les deux plates-formes de médias sociaux
support sont utilisées. Parmi les méthodes plus récentes, l'apprentissage en profondeur
Twitter et Whisper. Les auteurs concluent
avec des modèles de langage de réseau de neurones récurrents a été employé dans
11Un exemple documentant des cas troublants de Mehdad et Tétreault (2016). Là n'existe pas d'études comparatives qui permettent
la haine basée sur facebook est
www.womenactionmedia.org/examples-of de porter un jugement sur la méthode d'apprentissage la plus efficace.
gender- based-hate-speech-on-facebook/
Les différentes œuvres se différencient également par le choix de
 Machine Translated by Google
procédure de classification : il existe des approches standard de
classification en une étape ainsi que des approches de classification en
plusieurs étapes. Ces dernières approches utilisent des classificateurs
individuels qui résolvent des sous-problèmes, comme établir une polarité
négative (§3.3).
En outre, certains travaux utilisent des approches semi- supervisées, en
particulier le bootstrap, qui peuvent être utilisées à différentes fins dans le
cadre de la détection des discours de haine. D'une part, il peut être utilisé
pour obtenir des données d'entraînement supplémentaires, comme cela est
par exemple fait dans Xiang et al. (2012). Dans ce travail, un ensemble
d'utilisateurs de Twitter est d'abord divisé en bons et mauvais utilisateurs, en
fonction du nombre
de termes offensants présents dans leurs messages. Ensuite, tous
les tweets existants de ces mauvais utilisateurs sont sélectionnés et
ajoutés à
l'ensemble d'entraînement en tant qu'instances de discours de haine.
De plus, le bootstrapping peut également être utilisé pour construire
des ressources lexicales utilisées dans le cadre du processus de détection.
Gitari et al. (2015) appliquent cette méthode pour remplir leur lexique des
verbes haineux, en commençant par une petite liste de verbes germes et en
l'élargissant de manière itérative en fonction des relations WordNet, en
ajoutant tous les synonymes et hypernymes de ces verbes germes.
7 Données et annotations
Pour pouvoir réaliser des expérimentations sur la détection des discours
de haine, l'accès à des corpus étiquetés est indispensable. Puisqu'il n'y a
pas de corpus de référence communément accepté pour la tâche, les
auteurs collectent et étiquettent généralement leurs propres données. Les
sources de données utilisées incluent : Twitter
(Xiang et al., 2012 ; Xu et al., 2012 ; Burnap et al., 2013 ; Burnap et al.,
2014 ; Burnap et Williams, 2015 ; Silva et al., 2016 ), Instagram
(Hosseinmardi et al., 2015 ; Zhong et al., 2016), Yahoo! (Nobata et al.,
2016ÿ; Djuric et al., 2015ÿ; Warner et Hirschberg, 2012), YouTube
(Dinakar et al., 2012), ask.fm (Van Hee et al., 2015), Formspring (Dinakar
et al. ., 2012), Usenet (Razavi et al., 2010), Whisper12
(Silva et al., 2016) et Xanga13 (Chau et Xu, 2007). Étant donné que ces
sites ont été créés à des fins différentes, ils peuvent avoir des
caractéristiques particulières et peuvent donc afficher différents sous- types
de discours de haine. Par exemple, sur une plateforme spécialement créée
pour les adolescents, il faut s'attendre à bien dif
différents types de discours de haine que sur un service utilisé par un échantillon
12http://whisper.sh 13http://xanga.com
représentatif du grand public, car les différentes données démographiques qui en
résultent auront un impact sur les sujets abordés et la langue utilisée. Ces
implications doivent être prises en compte lors de l'interprétation des résultats de
la recherche menée sur une plate-forme de médias sociaux particulière.
En général, la taille des corpus collectés varie considérablement dans les
travaux sur la détection des discours de haine, allant d'environ 100
commentaires étiquetés utilisés dans le travail basé sur la connaissance de
Dinakar et al. (2012) à plusieurs milliers de commentaires utilisés dans d'autres
travaux, comme Van Hee et al. (2015) ou Djuric et al. (2015). Outre l'approche
de classification adoptée, une autre raison de ces différences de taille réside
dans le simple fait que l'annotation des discours de haine est une entreprise
extrêmement chronophage: il y a beaucoup moins de commentaires haineux que
de commentaires bénins présents dans les données échantillonnées au hasard, et
donc un grand nombre de commentaires. il faut annoter pour trouver
un nombre considérable de cas de discours de haine.
Cette distribution biaisée rend généralement difficile et coûteuse la
construction d'un corpus équilibré en termes de propos haineux et inoffensifs.
La taille d'un ensemble de données doit toujours être prise en considération lors de
l'évaluation de l'efficacité de certaines fonctionnalités ou méthodes
(d'apprentissage) qui lui sont appliquées.
Leur efficacité – ou leur absence – peut être le résultat d'une taille de données
particulière. Par exemple, les fonctionnalités qui traitent de la généralisation des
mots (§3.2) sont extrêmement importantes lorsqu'il s'agit de petits ensembles de
données, tandis que sur de très grands ensembles de données, elles deviennent
moins importantes car la rareté des données est moins problématique.
Nous n'avons connaissance d'aucune étude examinant la relation entre la taille des
données d'entraînement étiquetées et les caractéristiques/classificateurs pour la
détection des discours de haine.
Afin d'augmenter la part des messages de discours de haine tout en
maintenant la taille des instances de données à annoter à un niveau raisonnable,
Waseem et Hovy (2016)14 proposent de
présélectionner les instances de texte à annoter en interrogeant un site pour les
top ics qui sont susceptibles de contenir un degré plus élevé de discours de haine
(par exemple la terreur islamique). Bien que cela augmente la proportion de
messages de discours de haine sur les ensembles de données résultants, cela
concentre l'ensemble de données résultant sur des sujets spécifiques et certains
sous- types de discours de haine (par exemple, le discours de haine ciblant les
musulmans).
Afin d'annoter manuellement un ensemble de données, soit des annotateurs
experts sont utilisés, soit des services de crowdsourcing
14Les données de ce travail sont
disponibles sous
http://github.com/zeerakw/hatespeech
vices, comme Amazon Mechanical Turk (AMT),
sont employés. Le crowdsourcing présente des avantages
économiques et organisationnels évidents, notamment pour une
tâche aussi chronophage que celle à accomplir, mais la qualité
des annotations pourrait souffrir de l'emploi d'annotateurs non
experts. Nobata et al. (2016)
comparez les annotations participatives effectuées à l'aide de l'AMT avec
les annotations créées par des annotateurs experts et trouvez de grandes
différences d'accord.
En plus des problèmes mentionnés ci-dessus,
dans une certaine mesure, remettre en question la comparabilité des les
recherches menées sur divers ensembles de données,
fait qu'aucune définition communément acceptée de la haine la
parole existe exacerbe encore cette situation.
Les travaux antérieurs restent assez flous lorsqu'il s'agit
en vient aux directives d'annotation que leurs annotateurs ont reçues pour
leur travail. Ross et al. (2016)
souligner que c'est particulièrement un problème pour détection des
discours de haine. Bien qu'ils aient fourni aux
annotateurs une définition du discours de haine, dans leur travail
les annotateurs ne parviennent toujours pas à produire une annotation à
un niveau de fiabilité acceptable.
8 défis
Comme le suggère la section précédente, la communauté
bénéficierait considérablement d'une donnée de référence
défini pour la tâche de détection des discours de haine sous-jacente à un
définition communément admise de la tâche.
A l'exception du néerlandais (Van Hee et al.,
2015) et allemand (Ross et al., 2016), nous ne sommes pas au
courant de toute recherche importante en cours sur
détection du discours de haine autre que sur les données en langue
anglaise. Nous pensons qu'en particulier une perspective multilingue du
discours de haine peut valoir la peine. Contrairement à d'autres tâches en
PNL, le discours de haine peut
ont de fortes implications culturelles, c'est-à-dire qu'en fonction de
l'origine culturelle d'une personne, un énoncé peut être perçu comme
offensant ou non. Il reste à voir dans quelle mesure les approches établies
pour détester la détection des discours examinés sur l'anglais sont tout aussi
efficace sur d'autres langues.
Bien que dans les sections précédentes, nous avons également décrit des
approches qui tentent d'intégrer les
contexte du discours de haine en employant certains
des fonctionnalités spécifiques à base de connaissances (§3.6), des méta-
informations (§3.7) ou des informations multimodales
(§3.8), nous pensons toujours qu'il y a eu relativement peu de travaux sur
ces types de fonctionnalités. Dans ce qui suit, nous illustrons la nécessité
d'incorporer une telle connaissance du contexte avec l'aide de
trois cas difficiles de discours de haine. Pour
8
tous ces cas, on ne sait pas si les méthodes
que nous décrivons dans cette enquête reconnaîtrait correctement ces
remarques comme un discours de haine.
Dans (6) une femme est ridiculisée pour sa voix. Là n'y a pas
d'évaluation explicite de sa voix mais c'est une
inférence évidente d'être comparé à Ker mit la grenouille. Dans (7),
un musulman est accusé de bestialité. Encore une fois, il n'y a pas
d'accusation explicite. La
le locuteur de cet énoncé s'appuie sur son destinataire
être conscient des préjugés stéréotypés contre l'islam. Enfin, dans (8), le
locuteur de cet énoncé
veut offenser certaines filles en suggérant qu'elles sont
peu attrayant. Encore une fois, il n'y a aucune mention explicite de être peu
attrayant mais défier quelqu'un d'autre
Le point de vue opposé peut être interprété de cette façon.
(6) Kermit la grenouille a appelé et il veut récupérer sa voix.
(7) Votre chèvre appelle.
(8) Qui était chargé de convaincre ces filles qu'elles
étaient si jolies ?
Ces exemples sont certes des cas difficiles
et nous ne connaissons pas une méthode individuelle
qui ferait face à tous ces exemples. Ce reste à voir
si, à l'avenir, de nouveaux
les approches informatiques peuvent réellement résoudre ces problèmes
ou si le discours de haine est une recherche problème similaire au
sarcasme où seuls certains
il a été démontré que les sous-types sont automatiquement détectés à l'aide de
la PNL (Riloff et al., 2013).
9 Conclusion
Dans cet article, nous avons présenté une enquête sur la détection automatique
du discours de haine. Cette tâche est généralement présentée comme un problème
d'apprentissage supervisé. Équitablement les caractéristiques génériques, telles
que sac de mots ou embeddings, donnent systématiquement des performances
de classification raisonnables. Les approches au niveau des personnages
fonctionnent mieux que les approches au niveau des jetons. Lexical ressources,
telles que la liste des liaisons, peuvent aider à la
classification, mais généralement uniquement en combinaison avec d'autres types de
fonctionnalités. Diverses fonctionnalités complexes utilisant
plus de connaissances linguistiques, telles que des informations
d'analyse de dépendance ou des fonctionnalités spécifiques à la modélisation
les constructions linguistiques, telles que les impératifs ou la politesse, se sont
également révélées efficaces. Les informations
dérivées du texte peuvent ne pas être le seul indice suggérant la
présence de discours de haine. C'est possible
complétées par des méta-informations ou des informations provenant d'autres
modalités (par exemple, des images jointes à
messages). Porter des jugements sur le général l'efficacité de
nombreuses fonctionnalités complexes est
Machine Translated by Google

difficiles car, dans la plupart des cas, ils ne sont évalués que sur des haine, comme l'intimidation de personnes particulières minorités ethniques.
ensembles de données individuels, dont la plupart ne sont pas Pour une meilleure comparabilité des différentes caractéristiques et méthodes,

accessibles au public et ne traitent souvent que d'un sous-type de discours de nous préconisons un ensemble de données de référence pour la détection des

discours de haine.