Amazon abandonne son IA de

recrutement qui discrimine les

femmes
Bastien L 11 octobre 2018 Intelligence artificielle Ecrire un commentaire

Amazon a récemment abandonné un système de Machine Learning conçu pour automatiser

le passage en revue des CV des candidats à ses offres d’emploi. Pour cause, l’intelligence
artificielle discriminait les femmes.
L’automatisation est l’une des clés du succès d’Amazon. Que ce soit pour gérer ses entrepôts
pour ajuster les prix de sa plateforme de e-commerce, la firme de Seattle compte depuis
bien longtemps sur l’intelligence artificielle.
En 2014, alors que l’entreprise américaine s’apprêtait à se lancer dans une vague de
recrutements, elle a décidé de créer un système de Machine Learning capable d’automatiser
les processus de sélection. Cette IA, capable de passer en revue les CV des candidats, était
conçue pour déceler les meilleurs talents dans sans intervention humaine.

L’outil fonctionnait en donnant une note de 1 à 5 étoiles aux différents postulants aux offres

d’emploi. Malheureusement, en 2015, Amazon s’est aperçue que son système discriminait
les femmes candidates aux postes techniques comme celui de développeur logiciel.
Amazon : entraînés sur des CV d’hommes, les algorithmes en ont déduit que les
femmes étaient incompétentes

Pour cause, les modèles de Machine Learning d’Amazon avaient été entraînés en observant
les patterns dans les CV soumis à l’entreprise au cours des 10 années précédentes. Or,
compte tenu de la prédominance masculine dans l’industrie de la tech, la majorité de ces CV
provenaient d’hommes.
De fait, le système d’Amazon en a déduit que les candidats masculins étaient préférables.
L’IA a donc pénalisé les CV incluant le mot  » féminin « , comme  » capitaine du club de
football féminin « . Elle a également attribué un mauvais score aux dîplômées d’universités
pour femmes.

L’entreprise américaine a alors tenté de modifier le programme pour qu’il cesse de prendre
en compte ces termes spécifiques, mais rien ne garantissait que le système cesserait la
discrimination pour autant. Début 2017, Amazon a finalement décidé de dissoudre l’équipe
en charge du projet, car les exécutifs de la firme n’y croyaient plus.
L’échec de cette expérience offre un bon aperçu des limites du Machine Learning. Même si
le Big Data peut épauler les départements des ressources humaines, la technologie n’est pas
encore suffisamment aboutie pour remplacer les recruteurs humains.