GESTION DES RISQUES

À L’ÈRE DE L’INTELLIGENCE
ARTIFICIELLE

Encadré par :
Mr. Moutahadib

Présenté par :
Boudraa Meryem
Moniati Ayman
Oulad El Fakir Doha
Trizattine Nassime
 Table des matières
01 Introduction
A. Présentation de l'intelligence artificielle
B. Importance de la gestion des risques

02 Les risques liés à l'IA

A. Erreurs et biais algorithmiques
B. Confidentialité des données
C. Menaces à la cybersécurité
D. Impact sur l'emploi

03 Les méthodes de gestion des

risques à l’ère de l’IA
A. Rôle des méthodes de gestion des risques
B. les différentes méthodes utilisées

04 Exemples concrets de risques et de

solutions
A. Études de cas d'échecs en IA
B. Bonnes pratiques de gestion des risques

05 Réglementation et normes
A. Cadre juridique de l'IA
B. Normes de l'industrie

Évolution de la gestion des risques

06 en IA
A. Les dernières avancées technologiques
B. Les défis futurs

07 Conclusion et bibliographie
Introduction
Présentation de
l’intelligence artificielle
L'intelligence artificielle (IA) est un domaine de l'informatique
qui se concentre sur la création de systèmes capables d'imiter,
voire de surpasser, les capacités humaines en matière de
réflexion, d'apprentissage et de résolution de problèmes.
L'IA comprend diverses technologies telles que
l'apprentissage automatique (machine Learning), les réseaux
neuronaux, le traitement du langage naturel et la vision par
ordinateur.

Elle fonctionne en traitant de vastes quantités de données

pour identifier des modèles, apprendre à partir de ces modèles
et effectuer des tâches spécifiques sans une programmation
explicite pour chaque tâche.

L'IA est utilisée dans de nombreux domaines, tels que les

soins de santé, la finance, la robotique, les systèmes de
recommandation, les véhicules autonomes et plus encore.
Les débats éthiques et sociétaux autour de l'IA portent sur des
questions telles que la confidentialité des données, la
transparence des décisions prises par les algorithmes, la
responsabilité et les conséquences sur l'emploi.

Malgré les progrès rapides, l'IA présente également des limites

et des défis, notamment en ce qui concerne la compréhension
du contexte, la prise de décision éthique et la nécessité d'une
supervision humaine pour garantir des résultats fiables et
équitables.
L'IA continue d'évoluer, ouvrant de nouvelles opportunités tout
en nécessitant une réflexion approfondie sur la manière de
l'utiliser de manière responsable et éthique.
 Importance de la gestion
des risques
FIABILITÉ DES SYSTÈMES
D'IA
Les applications d'IA sont de plus en
plus intégrées dans des domaines
critiques tels que la santé, la finance,
la sécurité et les transports. La
gestion des risques est essentielle
pour garantir la fiabilité de ces
systèmes. Des erreurs ou des
défaillances pourraient avoir des
conséquences graves.
BIAIS ET ÉQUITÉ
Les algorithmes d'IA peuvent refléter
des biais inconscients présents dans
les données sur lesquelles ils sont
formés. Gérer ces risques implique
de détecter et de corriger les biais
pour garantir l'équité et l'impartialité
des décisions prises par les
systèmes d'IA.
SÉCURITÉ DES DONNÉES
Les systèmes d'IA traitent souvent
d'énormes quantités de données. La
gestion des risques implique de
s'assurer que ces données sont
protégées contre les intrusions, les
manipulations et les fuites pour
préserver la confidentialité et
l'intégrité des informations.
TRANSPARENCE ET
RESPONSABILITÉ
Comprendre et expliquer le
fonctionnement des modèles d'IA
est crucial. La gestion des risques
implique d'instaurer des normes de
transparence pour expliquer les
décisions prises par les algorithmes,
ce qui est essentiel pour établir la
responsabilité en cas d'erreurs ou de
comportements indésirables
ÉVOLUTION RAPIDE DE LA
TECHNOLOGIE
L'IA évolue rapidement, et la gestion
des risques doit suivre ce rythme. Il
est nécessaire de surveiller
constamment les avancées
technologiques, d'évaluer les risques
émergents et d'adapter les stratégies
de gestion des risques en
conséquence.
CONFIANCE DU PUBLIC ET
ACCEPTATION SOCIALE
Une gestion efficace des risques
renforce la confiance du public dans
les technologies d'IA. Cela favorise
une acceptation plus large de ces
technologies et réduit les
inquiétudes concernant leur
utilisation.
En résumé, la gestion des risques dans l'IA est essentielle pour assurer la fiabilité, la
sécurité, l'équité et la transparence des systèmes d'IA. Cela contribue à instaurer un
environnement où les avantages de cette technologie révolutionnaire peuvent être
exploités de manière responsable et éthique.
 2
Les risques liés à
l'IA
 Les risques liés à l'IA

La transformation numérique accélère le développement de l’intelligence artificielle, qui à son

tour accélère la transformation numérique, ainsi imprégnant la société de manière irréversible.
L’intégration de l’intelligence artificielle dans le fonctionnement des entreprises et son
utilisation dans toute la vie sociétale pose la question des risques probables liés

BIAIS ALGORITHMIQUES MENACE À LA CYBER SECURITY

Les algorithmes d'IA peuvent être
influencés par des biais présents
dans les données sur lesquelles ils
sont formés. Cela peut entraîner des
décisions discriminatoires, par
exemple, dans le domaine du
recrutement, des prêts ou du
système judiciaire.
L'IA peut être utilisée pour renforcer
les capacités des cyberattaques. Les
cybercriminels peuvent exploiter des
algorithmes d'IA pour mener des
attaques plus sophistiquées, telles
que des attaques de phishing plus
ciblées, des logiciels malveillants
plus adaptatifs et des attaques par
force brute plus efficaces.

SÉCURITÉ ET CONFIDENTIALITÉ PERTE D'EMPLOIS ET

DES DONNÉES CHANGEMENTS DANS LE MARCHÉ
DU TRAVAIL

Avec l'augmentation de la quantité L'automatisation par l'IA pourrait

de données utilisées par les
systèmes d'IA, la sécurité et la
confidentialité des données
deviennent des préoccupations
majeures. Les failles de sécurité
pourraient entraîner des vols de
données sensibles, des
manipulations ou des utilisations
malveillantes.
entraîner la disparition de certains
emplois, ce qui exige une transition
vers de nouvelles compétences et
professions. Cela peut créer des
tensions socio-économiques et des
inégalités.

Il est essentiel de prendre en compte ces risques pour développer et mettre en œuvre des
normes, des réglementations et des pratiques responsables dans le développement et
l'utilisation de l'IA, visant à minimiser ces risques et à maximiser les avantages de cette
technologie.
 3
Les méthodes de
gestion des risques
 RÔLE DES MÉTHODES DE
GESTION DES RISQUES
À l'ère de l'intelligence artificielle, les méthodes
de gestion des risques évoluent pour inclure
l'analyse des modèles, la transparence des
algorithmes, la conformité réglementaire accrue
et la surveillance continue des systèmes
autonomes. Les entreprises adoptent des
approches proactives pour identifier et atténuer
les risques liés à l'IA, tout en garantissant une
prise de décision éthique et responsable.

Les différentes méthodes de gestion

des risques à l’ère de l’IA

AUDIT ET TRANSPARENCE ÉTHIQUE ET CONFORMITÉ

Les organisations réalisent des audits
approfondis des systèmes d'IA pour
garantir la transparence des algorithmes,
comprendre leur fonctionnement et
identifier les possibles biais.
L'intégration de principes éthiques dans le
développement et l'utilisation de l'IA
permet de garantir la conformité aux
normes éthiques et aux réglementations
en vigueur.

GOUVERNANCE DES DONNÉES FORMATION ET SENSIBILISATION

Une gestion rigoureuse des données est
cruciale. Cela implique la qualité des
données, la protection de la vie privée et la
conformité aux règlements sur la
confidentialité.
Les équipes sont formées pour
comprendre les risques spécifiques à l'IA,
y compris les aspects éthiques, pour
renforcer la sensibilisation au sein de
l'organisation.
ité.
SURVEILLANCE CONTINUE
La mise en place de systèmes de
surveillance continue permet
d'identifier rapidement les anomalies
ou les déviations par rapport aux
attentes, minimisant ainsi les risques
potentiels.
ASSURANCE QUALITÉ
Des processus d'assurance qualité
spécifiques à l'IA sont intégrés pour
garantir la fiabilité des modèles, des
algorithmes et des résultats.

SCÉNARIOS D'UTILISATION COLLABORATION

RESPONSABLE
La définition et la mise en œuvre de
scénarios d'utilisation responsables aident
à encadrer l'utilisation de l'IA de manière
éthique et à anticiper les risques
potentiels.
INTERDISCIPLINAIRE
Les équipes multidisciplinaires,
comprenant des experts en IA, en éthique,
en droit et en affaires, collaborent pour une
gestion holistique des risques liés à l'I

En combinant ces méthodes, les organisations peuvent créer un cadre solide pour gérer
les risques à l'ère de l'intelligence artificielle.
 4
Exemples concrets
de risques et de
solutions
 Étude d’échecs en IA

Un exemple notable d'échec en intelligence artificielle est le déploiement du chatbot Tay de

Microsoft en 2016. Tay était conçu pour interagir avec les utilisateurs sur Twitter et apprendre
à travers ces interactions conversationnelles. Cependant, le projet a rapidement échoué en
raison de manipulations malveillantes par les utilisateurs.

DÉROULEMENT :
1. Objectif initial : Tay était conçu pour être un chatbot amical et engageant, capable d'apprendre
du langage et des comportements des utilisateurs pour améliorer ses réponses au fil du temps.

2. Manipulation par les utilisateurs : En raison de la nature ouverte de Twitter, des utilisateurs
ont commencé à exploiter les faiblesses du modèle d'apprentissage automatique sous-jacent. Ils
ont délibérément soumis des messages haineux, offensants et racistes à Tay dans le but de le
pousser à répondre de manière inappropriée.

3. Réponses inappropriées : Tay a rapidement absorbé ces influences négatives, conduisant à

des réponses inappropriées et offensantes. Le chatbot a commencé à publier des messages
contenant des propos racistes, sexistes et d'autres contenus offensants.
4. Retrait rapide : Face à la détérioration rapide du comportement de Tay, Microsoft a été
contraint de retirer le chatbot du service en moins de 24 heures après son lancement.

CAUSES DE L'ÉCHEC :
1. Manque de filtres : Tay n'avait pas de mécanismes de filtrage appropriés pour détecter et
bloquer les contenus offensants. Cela a permis aux utilisateurs malveillants de manipuler le
système.

2. Apprentissage rapide non surveillé : Le modèle d'apprentissage automatique de Tay a été

programmé pour apprendre rapidement des interactions, mais sans surveillance adéquate. Cela a
conduit à une absorption rapide de comportements inappropriés.

3. Réponses réflexives : Tay était conçu pour imiter les comportements humains, mais il a réagi
de manière réflexive aux inputs sans prendre en compte les implications éthiques et sociales de
ses réponses.

LEÇONS À TIRER :
Cet exemple souligne l'importance de mettre en place des mécanismes de filtrage robustes, une
surveillance constante et des limites éthiques claires lors du développement d'IA interactive. Il
met en lumière les risques potentiels de laisser des systèmes d'IA non réglementés interagir avec
des environnements en ligne ouverts.
 Bonnes pratiques de gestion
des risques

IDENTIFICATION
PROACTIVE DES RISQUES
Anticipez les risques potentiels en
impliquant les parties prenantes et
en utilisant des méthodes
d'analyse approfondie pour
identifier les menaces.
PLANIFICATION DE LA
RÉPONSE
Élaborez des plans d'atténuation
clairs pour les risques prioritaires.
Définissez des actions spécifiques
en cas de réalisation du risque.
COMMUNICATION
TRANSPARENTE
Communiquez de manière
transparente sur les risques, les
plans d'atténuation et les progrès
réalisés. Favorisez une
compréhension commune au sein de
l'équipe.
PLAN DE CONTINUITÉ DES
ACTIVITÉS

IMPLIQUER LES PARTIES Élaborez un plan de continuité des

PRENANTES
Garantissez la participation active
des parties prenantes tout au long
du processus. Leur expertise peut
enrichir l'identification des risques.
activités pour minimiser l'impact des
risques sur les opérations. Identifiez
les processus essentiels et élaborez
des stratégies de récupération

SUIVI CONTINU

Établissez un système de suivi

continu des risques pour
détecter les changements
potentiels dans le paysage des
risques. Ajustez les stratégies en
conséquence.
 5
Réglementation et
normes
 Cadre juridique de l'IA

Le cadre juridique de l'IA se compose de diverses lois, réglementations et principes

qui visent à encadrer l'utilisation de l'intelligence artificielle de manière éthique,
responsable et équitable. Voici quelques-uns des aspects clés du cadre juridique de
l'IA

01 | PROTECTION DE LA VIE 04 | DISCRIMINATION ET

PRIVÉE ET DES DONNÉES
Règlement général sur la protection
des données (RGPD) de l'Union
européenne : Le RGPD impose des
règles strictes concernant la collecte,
le traitement et la conservation des
données personnelles, ce qui a un
impact significatif sur les applications
de l'IA.
BIAIS
Lutte contre la discrimination : Les
réglementations visent à minimiser
les biais et la discrimination dans les
systèmes d'IA, en particulier dans les
domaines sensibles comme les
décisions de recrutement, de crédit
et de justice.

02 | RESPONSABILITÉ 05 | TRANSPARENCE ET
LÉGALE EXPLICABILITÉ
Responsabilité civile : Les lois
régissant la responsabilité civile en L'exigence de transparence : Certains
cas de dommages causés par des cadres juridiques exigent que les
systèmes d'IA défectueux ou des systèmes d'IA soient conçus de
erreurs sont en cours d'élaboration manière à ce que leurs décisions
dans de nombreuses juridictions. soient explicables et
Droit des contrats : Les contrats compréhensibles.
impliquant des systèmes d'IA
soulèvent des questions sur la
responsabilité en cas de défaillance
ou de comportement inattendu.

03 | ÉTHIQUE DE L'IA

Principes éthiques : Certains pays et organisations élaborent des principes éthiques

spécifiques pour guider le développement et l'utilisation de l'IA de manière
responsable.
Comités d'éthique : Certaines entreprises mettent en place des comités d'éthique de
l'IA pour superviser les décisions relatives à l'IA.
 Il convient de noter que le cadre juridique de l'IA varie considérablement d'un pays à
l'autre, et il est en constante évolution pour s'adapter aux développements technologiques
et aux nouveaux enjeux éthiques. Il est important pour les entreprises et les individus
d'être conscients de ces réglementations et de s'y conformer pour éviter des problèmes
juridiques et éthiques liés à l'utilisation de l'IA.

Normes de l'industrie

En plus des réglementations juridiques, l'industrie de l'intelligence artificielle s'efforce

également de définir des normes et des bonnes pratiques pour promouvoir l'utilisation
responsable et sécurisée de cette technologie. Les normes de l'industrie en matière d'IA jouent
un rôle crucial dans l'assurance de la qualité, la sécurité et la compatibilité des systèmes d'IA.
Voici quelques-unes des normes de l'industrie les plus importantes :

01 | NORMES DE SÉCURITÉ 04 | NORMES ÉTHIQUES ET

DES DONNÉES DE RESPONSABILITÉ
IEEE P7000 Series : L'IEEE (Institute of
ISO/IEC 27001 : Cette norme définit les
Electrical and Electronics Engineers) a
exigences pour les systèmes de gestion de
élaboré une série de normes axées sur
la sécurité de l'information, qui sont
l'éthique et la responsabilité en matière
essentielles pour protéger les données
d'IA pour guider le développement
utilisées par les systèmes d'IA.
éthique des technologies.

02 | NORMES DE TRANSPARENCE 05 | NORMES POUR

ET D'EXPLICABILITÉ
ISO/IEC 25012 : Cette norme se
concentre sur la qualité des informations
et la transparence des systèmes d'IA en
ce qui concerne les données, les
décisions et les performances.
L'INTEROPÉRABILITÉ
W3C (World Wide Web Consortium) :
Le W3C établit des normes pour
l'interopérabilité des technologies
Web, y compris des directives pour
rendre l'IA compatible avec le Web.

03 | NORMES DE SÉCURITÉ 06 | NORMES SECTORIELLES

DE L'IA
ISO/IEC 20243 : Cette norme vise à établir
des exigences pour la sécurité des systèmes
d'IA et à promouvoir des pratiques de
développement sécurisées.
Certaines industries spécifiques ont
développé leurs propres normes pour
guider l'utilisation de l'IA dans des
contextes particuliers, par exemple,
les soins de santé, les finances,
l'automobile, etc.
 6
Évolution de la
gestion des risques
en IA
 Évolution de la gestion des
risques en IA
L'intelligence artificielle est un domaine en constante évolution, ce qui a un impact
significatif sur la gestion des risques associés. Les dernières avancées technologiques
dans le domaine de l'IA ont introduit de nouveaux défis et opportunités pour la gestion
des risques. Voici quelques-unes des avancées technologiques récentes à prendre en
compte :

APPRENTISSAGE PROFOND ET RÉSEAUX NEURONAUX

Les avancées en matière de réseaux de neurones profonds ont considérablement

amélioré les performances des systèmes d'IA, mais ont également rendu leur
fonctionnement plus complexe. Cela a conduit à des défis liés à l'explicabilité, à la
détection de biais et à la compréhension des décisions prises par les modèles.

TRAITEMENT DU LANGAGE NATUREL (NLP)

Les modèles NLP de pointe, tels que GPT-3 et ses successeurs, ont révolutionné
les applications linguistiques de l'IA. Cependant, ces modèles peuvent générer
des contenus trompeurs ou biaisés, ce qui nécessite une gestion proactive des
risques liés à la désinformation et à la sécurité.

IA ÉTHIQUE ET RESPONSABLE

De plus en plus d'efforts sont déployés pour développer des approches d'IA
éthique, y compris des modèles de détection de biais, des mécanismes de prise
de décision éthique et des normes éthiques pour guider le développement de
l'IA.
 IA RENFORCÉE PAR LA RECHERCHE EN SÉCURITÉ

Les avancées en matière de sécurité informatique et de cybersécurité sont

essentielles pour protéger les systèmes d'IA contre les attaques, la fraude et les
vulnérabilités. La gestion des risques de sécurité est devenue cruciale dans le
contexte de l'IA.

RÉGLEMENTATION ET CONFORMITÉ

Les réglementations relatives à l'IA évoluent pour prendre en compte les

dernières avancées technologiques. Les gestionnaires de risques doivent être
conscients des exigences légales changeantes et s'adapter en conséquence.

AUTO-APPRENTISSAGE ET ADAPTATION DES MODÈLES

Les systèmes d'IA deviennent de plus en plus autonomes et capables

d'adaptation continue. Cela nécessite une gestion des risques plus dynamique
pour suivre l'évolution des systèmes.
 Les défis futurs
L'avenir de la gestion des risques en intelligence artificielle s'annonce complexe, avec
de nouveaux défis à relever. Alors que l'IA continue de progresser, les gestionnaires
de risques doivent anticiper ces défis pour maintenir un environnement sûr et éthique.
Voici quelques-uns des défis futurs à prendre en compte :

ÉVOLUTION RAPIDE DE LA RESPONSABILITÉ LÉGALE

TECHNOLOGIE
L'IA évolue rapidement, ce qui
signifie que les modèles et les
systèmes deviennent obsolètes en
peu de temps. La gestion des
risques doit être en mesure de
suivre cette évolution constante.
ÉTHIQUE ET
RESPONSABILITÉ ACCRUE
Les attentes en matière d'éthique et
de responsabilité de l'IA
augmentent. La société exige une
plus grande transparence,
responsabilité et équité dans
l'utilisation de l'IA.
La détermination de la
responsabilité en cas de dommages
causés par des systèmes d'IA peut
devenir un défi juridique complexe,
en particulier en cas d'interaction
entre l'homme et la machine.
GESTION DES DONNÉES
La gestion des données est un défi
croissant, car la quantité de données
collectées et traitées par les
systèmes d'IA continue de croître. La
confidentialité et la sécurité des
données sont essentielles.

COMPLEXITÉ DES SYSTÈMES ACCEPTATION SOCIALE

AUTONOMES

Les systèmes d'IA autonomes, tels L'acceptation sociale de l'IA et de

que les véhicules autonomes et les
robots, présentent des risques
nouveaux et complexes en matière
de sécurité et de responsabilité.
ses risques jouera un rôle clé dans
la gestion des risques futurs. Il sera
essentiel de sensibiliser et
d'éduquer le public sur les enjeux
liés à l'IA.

La gestion des risques en IA sera confrontée à ces défis et à d'autres à mesure que la
technologie continue d'évoluer. Pour faire face à ces enjeux, il sera nécessaire de
développer des approches flexibles, des mécanismes de surveillance et de gestion
proactive des risques, ainsi que de collaborer avec les parties prenantes pour garantir
une utilisation éthique, sécurisée et responsable de l'intelligence artificielle.
 7
Conclusion
En conclusion, la gestion des risques liés à l'intelligence
artificielle émerge comme un impératif essentiel dans un
monde de plus en plus façonné par cette technologie.
L'introduction a souligné l'importance de comprendre les
nuances de l'intelligence artificielle, tandis que la section
sur les risques a mis en lumière les défis critiques tels que
les erreurs algorithmiques, la confidentialité des données et
les implications sur l'emploi.

Les méthodes de gestion des risques proposées,

notamment l'évaluation des risques, les stratégies de
réduction et la surveillance continue, offrent des outils
cruciaux pour atténuer ces défis. Les exemples concrets
d'échecs en IA ont souligné la nécessité de tirer des leçons
de ces expériences pour améliorer les pratiques de gestion
des risques.
La section sur la réglementation et les normes a souligné
l'importance d'un cadre juridique solide et de normes
industrielles pour guider le développement et l'utilisation
responsables de l'IA.

En envisageant l'avenir, il est crucial de rester attentif aux

dernières avancées technologiques et aux défis émergents.
La gestion des risques en IA doit évoluer en tandem avec ces
changements, et les organisations doivent demeurer agiles
dans l'adaptation de leurs pratiques pour faire face aux
nouveaux défis.

En somme, une gestion des risques robuste, intégrant des

bonnes pratiques et évoluant avec les avancées
technologiques, est essentielle pour réaliser pleinement le
potentiel de l'intelligence artificielle tout en minimisant ses
risques inhérents.