Académique Documents
Professionnel Documents
Culture Documents
Deloitte Etude Risques Opportunites Intelligence Artificielle 2019
Deloitte Etude Risques Opportunites Intelligence Artificielle 2019
02
Intelligence artificielle : quelles évolutions pour les profils de risques des entreprises ? |
Sommaire
Sommaire
4. Conclusion 14
03
Intelligence artificielle : quelles évolutions pour les profils de risques des entreprises ? |Quelques principes de base : qu'appelle-t-on « intelligence artificielle » ?
1
Quelques principes de base :
qu'appelle-t-on « intelligence
artificielle » ?
Définition de l’intelligence artificielle
Il n’existe aucun consensus sur la définition Selon Marvin Lee Minsky et John McCarthy,
du concept d’intelligence artificielle les fondateurs du groupe d’intelligence
(IA) étant donné que la notion même artificielle du Massachusetts Institute of
d’intelligence est très difficile à définir. Technology (MIT), l’IA peut être définie
comme la « création de programmes
Le Dictionnaire Oxford décrit l’IA comme informatiques qui s’adonnent à des tâches,
étant « la théorie et le développement pour l’instant accomplies de façon plus
de systèmes informatiques capables satisfaisante par des êtres humains ».
de réaliser des tâches qui nécessitent
habituellement l’intelligence humaine, telles
que la reconnaissance visuelle et vocale ou
encore la prise de décisions ».
04
Brochure / report title goes here |
Section title goes here
05
Intelligence artificielle : quelles évolutions pour les profils de risques des entreprises ? |Quelques principes de base : qu'appelle-t-on « intelligence artificielle » ?
Il est possible de diviser le domaine de D’un point de vue technique, de nombreux Cette sous-catégorie du machine learning
l'intelligence artificielle (IA) en plusieurs travaux en IA reposent sur des algorithmes est désignée par le terme d’apprentissage
sous-disciplines, très liées entre elles, qui qui permettent d’apprendre en identifiant profond, ou deep learning, en référence
visent chacune à traiter une partie du des relations entre des données et de aux nombreuses couches de réseaux de
problème : produire des modèles prédictifs de neurones qui forment cette IA.
• la représentation des connaissances et manière autonome. Ces techniques
le raisonnement automatique ; sont également connues sous le nom
de Machine Learning et sont utilisées
• la résolution de problèmes généraux
depuis les années 1980. D’un point de
avec la création d’algorithmes pouvant
vue mathématique, il s’agit notamment
résoudre des problèmes concrets
d’effectuer des estimations numériques
(planification, optimisation sous
d’un grand nombre de paramètres du
contrainte, etc.) ;
modèle.
• le traitement du langage naturel Avec l’augmentation de la puissance de
qui vise à comprendre, à traduire et à calcul des processeurs, il a été possible à
produire du langage écrit ou parlé ; partir des années 2010 de généraliser ces
• la vision artificielle dont l’objectif modèles de régression par des réseaux
est de permettre aux ordinateurs de de neurones qui tentent de répliquer la
comprendre et de reconnaître les images manière de fonctionner d’un cerveau
et la vidéo ; humain.
• la robotique.
06
Intelligence artificielle : quelles évolutions pour les profils de risques des entreprises ? |Quelques principes de base : qu'appelle-t-on « intelligence artificielle » ?
07
Intelligence artificielle : quelles évolutions pour les profils de risques des entreprises ? |Quelques principes de base : qu'appelle-t-on « intelligence artificielle » ?
Générer de la Mieux cerner Mettre en Tirer profit Repérer Comprendre les Créer des Affiner le profil
connaissance les aptitudes évidence les de la quantité des liens phénomènes œuvres de risque d’un
d’apprentissage manières immense de insoupçonnés sociaux en culturelles client d’un
des élèves différenciées publications pour la entreprise (peinture, assureur
de rendre la scientifiques résolution musique)
justice selon les d’enquêtes par
régions les services de
gendarmerie
Prédire Prédire les Prédire la Prédire des Détecter les Détecter les Créer des
décrochages chance de épidémies profils à risque collaborateurs œuvres ayant
scolaires succès d’un dans la lutte qui risquent de un maximum
procès et Repérer des anti-terroriste démissionner de chance
le montant prédispositions dans les de plaire aux
potentiel des à certaines Prédire prochains mois spectateurs
dommages- pathologies afin l’occurrence (Netflix)
intérêts d’en éviter le future de
développement crimes et délits
Source : Rapport de la CNIL - Comment permettre à l’homme de garder la main ? Les enjeux éthiques des algorithmes et de l’intelligence
artificielle (Décembre 2017)
08
Intelligence artificielle : quelles évolutions pour les profils de risques des entreprises ? |
Risques liés à l'intelligence artificielle
2
La qualité, la quantité et la pertinence
des données utilisées
La qualité des décisions prises par une
IA est dépendante de la qualité et de la
quantité de données qui lui sont données
et à partir desquelles elle génère des
corrélations. Si les jeux de données
utilisés pour construire les algorithmes
contiennent des biais, l’algorithme généré
Risques liés
reflétera vraisemblablement lui aussi ces
biais, voire les amplifiera. Ainsi, l’IA est
susceptible de générer biais, discrimination
et exclusion, de manière inconsciente et
à l’intelligence
difficilement repérable. Les algorithmes
seront donc fiables uniquement à condition
que les données utilisées pour les
former soient suffisamment complètes et
artificielle
représentatives de l’environnement dans
lequel elles doivent être déployées.
09
Intelligence artificielle : quelles évolutions pour les profils de risques des entreprises ? |
Risques liés à l'intelligence artificielle
d’IA appuient leurs décisions sur des voitures autonomes, il est complexe La dépendance à l’égard de tiers
méthodes mathématiques complexes, de prédire le comportement de l’IA du À l’instar du risque de perte de
avec des milliers de variables et plusieurs véhicule confronté à un scénario de travaux souveraineté de la France, développé dans
couches de décisions. Cette multitude de de construction sur la route, d’un objet de nombreux écrits et véritable source
facteurs rend la décision finale difficilement tombant d’un camion, d’une combinaison de préoccupation pour le gouvernement,
interprétable et explicable par l’homme. inédite de conditions météorologiques, les entreprises peuvent faire face, quant
Ainsi, du fait de leur construction, on etc. Par ailleurs, les risques de à elles, à un risque accru de dépendance
peut aisément observer les données dysfonctionnement sont amplifiés par la à l’égard des tiers. Selon une étude
d’entrée (input) et de sortie (output) de vitesse à laquelle ces algorithmes peuvent Gartner publiée en octobre 2018, seules
ces algorithmes probabilistes mais on évoluer, sans contrôle de l’homme. Ainsi 33 % des entreprises ont internalisé
comprend encore mal leur fonctionnement des erreurs peuvent se propager à grande le développement des systèmes d’IA.
interne. Cette opacité, traduite par échelle sur une très courte période. Par Les 67 % restants ont recours à des
l’expression « boîte noire » ou black box, exemple, on constate que les algorithmes prestataires et peuvent consommer de l’IA
peut empêcher les entreprises d’expliquer de modération de YouTube tardent parfois clé en main ou acquérir des solutions d’IA
de manière intelligible les décisions prises à réagir et permettent la circulation virale qu’elles vont, par la suite, personnaliser en
par l’IA. de contenus choquants. interne.
Ce manque de transparence pose des
enjeux en terme d’audit et de traçabilité, et Enfin, certains algorithmes peuvent Compte tenu des enjeux d’opacité et
pourrait exposer les entreprises du point faire l'objet d'un piratage, ou "Algorithm d’importance stratégique de l’IA présentés
de vue de leur responsabilité au regard Hacking", visant à faire prédire un résultat dans le paragraphe précédent, un recours
d’une réglementation ou du respect des en faisant ingérer à l'algorithme des massif à l'externalisation, en utilisant des
attentes des parties prenantes. informations très légèrement modifiées. services tiers (type "Function as a Service"),
Les algorithmes de reconnaissance d'image notamment sur des aspects liés au cœur
Par exemple en Europe, dans le cadre du peuvent ainsi être aisément biaisés par ces de métier de l'entreprise, pourrait avoir des
RGPD (Règlement général sur la protection cas de piratage, induisant de vrais risques impacts importants sur l'indépendance des
des données), les entreprises doivent par exemple pour la conduite autonome entreprises sur le long terme et menacer
être en mesure d’expliquer à leurs clients (ex: un panneau de signalisation peut également leur compétitivité et leurs
comment leurs données personnelles sont être très légèrement modifié et être alors marges.
utilisées, et de leur fournir des précisions interprété totalement différemment alors
sur les hypothèses et les facteurs pris en qu'un humain ne se tromperait pas). Défaillance des systèmes d’IA
compte dans une décision automatisée ; ce
Les enjeux de fiabilité de l’IA présentés
qui peut être complexe, voire impossible, 2. L
es conséquences de l’utilisation
précédemment peuvent contribuer à
dans certains cas où l’IA est utilisée. de l’IA en termes de profil de risques
renforcer un risque classique dans les
pour l’entreprise
entreprises : celui de la défaillance des
Des dysfonctionnements possibles
Face à ces facteurs et ces enjeux liés à l’IA, systèmes d’information. En effet, comme
(risque algorithmique)
l’utilisation de cette dernière va modifier les tout SI ou algorithme, les systèmes
Un autre enjeu de l’IA est sa fiabilité. Les risques auxquels les entreprises font face. d’intelligence artificielle peuvent être
algorithmes d’IA étant construits à partir défaillants et provoquer une interruption
de données historiques, leur pertinence Un bouleversement de de l’activité et/ou des dysfonctionnements
et efficacité peuvent être remises en l’environnement concurrentiel majeurs (pertes de données, erreurs,
cause face à des données nouvelles. informations incohérentes, etc.). Dans le
La généralisation de l’IA au sein des
Les algorithmes ne disposent pas des cas des IA, de nombreuses causes peuvent
entreprises va transformer les métiers et
capacités de compréhension conceptuelle être à l’origine de ce risque : manque
par conséquent bouleverser la compétition
et de sens commun propres à l’homme, de fiabilité, mauvaise programmation,
traditionnelle, avec le renforcement de
et qui sont nécessaires pour évaluer des exposition accrue aux cybermenaces et
nouveaux acteurs, notamment les GAFAM
situations radicalement nouvelles. En aux cyberattaques, incertitudes liées à
(Google, Amazon, Facebook, Apple,
particulier, il existe de fortes incertitudes la phase d’apprentissage, risques liés au
Microsoft) et les start-ups de type Fintech,
en cas d’événements de type « cygne recours aux briques open source, etc.
Regtech, Healthtech, Biotech, etc.
noir »1. Par exemple, dans le cadre des
1. La théorie du cygne noir ou théorie des événements cygne noir, développée par le statisticien Nassim Nicholas Taleb, notamment dans son essai Le Cygne noir,
est une théorie dans laquelle on appelle cygne noir un événement imprévisible qui a une faible probabilité de se dérouler (appelé « événement rare » en théorie des
probabilités) et qui, s'il se réalise, a des conséquences d'une portée considérable et exceptionnelle
10
Intelligence artificielle : quelles évolutions pour les profils de risques des entreprises ? |
Risques liés à l'intelligence artificielle
Des risques humains et psychosociaux applications d’IA. La rareté actuelle • les systèmes algorithmiques complexes
Dans leur rapport de 2013 intitulé "The sur ce type de compétences pourrait et très segmentés peuvent entraîner
future of employment: How susceptible constituer un risque à court terme. Une des formes nouvelles de dilution de la
are jobs to computerization?", les fois les compétences trouvées, la mise responsabilité.
auteurs Carl Benedikt Frey et Michael en place d’une gouvernance appropriée
A. Osborne estiment qu’environ 47 % et leur interaction avec les fonctions Au-delà de ces considérations, les
des emplois américains sont à risque traditionnelles vont représenter des défis chercheurs se demandent actuellement
avec le machine learning et la robotique. majeurs pour les entreprises. s’il faut ou s’il est possible de parler
L’introduction massive d’IA dans la société De plus, l’un des enjeux pour les d’« éthique des algorithmes ».
va modifier le marché de l’emploi avec organisations est de conserver l’expertise
la disparation de certains emplois et la et les compétences nécessaires pour Des risques juridiques et de conformité
création de nouveaux. Ce phénomène réaliser les processus manuellement dans Avec le développement de l’IA et de
n’est cependant pas nouveau, la première le cas où l’IA dysfonctionnerait ou subirait l’opacité qui y est liée, les régulateurs et
révolution industrielle en constitue un bon une cyberattaque. Par exemple, dans le les autorités de contrôle vont s’attacher
exemple. Plus récemment, de nouvelles cas des robots chirurgiens, on comprend de plus en plus à la compréhension et
machines ont permis de remplacer des la nécessité de garder des médecins à la justification des systèmes et des
postes d’opérateurs téléphoniques, de formés sur ce type d’opération, en cas de algorithmes.
comptables, ou encore de caissiers. défaillance de ces robots.
A l’avenir, avec le développement de Ainsi, l’ACPR (Autorité de contrôle
la conduite autonome, des postes de Des risques éthiques prudentiel et de résolution) a, par
transporteurs ou de chauffeurs de taxi Automatiser une décision ou une tâche exemple, lancé en décembre 2018 une
pourront également être amenés à par l’IA est une chose, mais automatiser consultation publique sur les enjeux du
disparaître. la capacité à évaluer ces actions comme développement de l’intelligence artificielle
relevant de l’équité, l’éthique et la moralité dans le secteur financier. Son objectif étant
Les changements induits vont réduire les en est une autre. Ainsi, cette dernière de s’assurer que le développement des
besoins en personnel sur certains types forme d’intelligence fait appel à d’autres techniques d’IA se fait de façon maîtrisée
de tâches, avec la nécessité de réallouer formes d’opérations mentales qui ne et est accompagné d’une réflexion
et former ces ressources sur d’autres peuvent et ne doivent pas répondre sur la gouvernance, le contrôle et la
activités. Si elles sont mal gérées par les uniquement à une logique algorithmique, compréhension des techniques mises en
entreprises et si elles déshumanisent le sans avoir été pensées et sans mettre en œuvre.
travail, ces évolutions pourront entraîner œuvre un dispositif de contrôle adapté.
des risques psychosociaux et augmenter Plus généralement, la généralisation de Dans ce contexte, il sera important pour
le taux de rotation du personnel. Les l’IA dans notre société va soulever des les entreprises de s’organiser par industrie
travailleurs pourraient également craindre questions éthiques au sein des entreprises. de manière proactive afin de travailler
une dévalorisation de leurs compétences, En voici quelques exemples : avec le régulateur à l’adaptation des règles
une perte d'autonomie, un contrôle accru • comment concilier la quantité de données applicables. Cela évitera de devoir se
et une perte de sens du travail. nécessitée par les algorithmes et les confronter à des réglementations dures
systèmes d’IA avec les principes de une fois les incidents matérialisés.
Des risques liés à la transformation protection des libertés individuelles et
des modèles de compétences des données personnelles ?
L’IA va permettre la création de nouveaux • les biais liés aux systèmes d’IA et
emplois, comme cela a été le cas dans présentés précédemment peuvent
les dernières décennies avec l’apparition entraîner des dysfonctionnements
de nouvelles fonctions comme chief d’ordre éthique (discriminations,
data officer, data scientist, community inégalités, etc.) ;
manager, data personal officer, etc. Les
• l’IA pourrait être détournée par des
entreprises auront donc besoin de trouver
employés ou des entreprises à des fins
de nouvelles compétences pour mettre
malveillantes (fraude, harcèlement, fake
en place, tester et gérer les nouvelles
news, etc.) ;
11
Intelligence artificielle : quelles évolutions pour les profils de risques des entreprises ? |
Opportunités liées à l'intelligence articficielle
3 Opportunités liées à
l’intelligence artificielle
L’IA apporte un certain L’automatisation d’une plus grande
variété de tâches
nombre d’éléments Les progrès réalisés en robotique et le
nouveaux qui vont changer développement des algorithmes d'IA
permettent d’étendre le spectre des
la donne et qui ouvrent de tâches réalisables par des machines.
fait la voie à une multitude Désormais, des tâches qui étaient
auparavant uniquement accessibles à
d’opportunités dans tous des intelligences humaines ou qui étaient
Exemple d’application : la santé
les secteurs de l’économie. effectuées par l’homme sont désormais
L’IA est déjà présente dans le domaine de
accessibles à des IA. Cette automatisation
la santé où des programmes de diagnostic
aura pour conséquence de modifier les
médical sont aujourd’hui capables de
tâches que l’on attribuera aux hommes,
réaliser des diagnostics tout aussi fiables
les machines pouvant traiter les tâches les que les experts humains dans plusieurs
plus simples et les plus classiques, tandis spécialités médicales.
que l’homme pourra dégager du temps Les algorithmes permettent, par exemple,
pour se concentrer sur des tâches plus via la reconnaissance, la classification et
complexes nécessitant un raisonnement de le traitement de l'image, de détecter des
sens commun et un jugement professionnel cancers, ou via l'analyse des publications
humain. médicales, d'identifier des possibilités de
traitement adaptées à un cas particulier.
Une meilleure exploitation des données
disponibles
De par leur nature, les humains bénéficient
d’une capacité de raisonnement et d’une
mémoire limitée contrairement aux
machines dont les capacités de calcul et de
mémoire augmentent d’année en année.
Ainsi, les machines dotées d’IA peuvent
traiter des décennies de cas juridiques,
d’articles de revues médicales ou d’écritures
comptables avec un effort minimal, et
d’établir des corrélations difficilement
détectables par une intelligence humaine.
12
Intelligence artificielle : quelles évolutions pour les profils de risques des entreprises ? |
Opportunités liées à l'intelligence articficielle
13
Intelligence artificielle : quelles évolutions pour les profils de risques des entreprises ? |
Conclusion
4
Conclusion
L'IA peut s'avérer plus fiable et pertinente que l'homme, sur des
verticaux métiers...
Cependant, sans prise en compte globale de l'écosystème dans
lequel elle évolue, et en raison de risques de défaillances, biais
ou incidents, il est impératif d'assortir son développement et sa
mise en œuvre à des dispositifs de maîtrise réfléchis et définis
par les hommes et l'entreprise.
14
Intelligence artificielle : quelles évolutions pour les profils de risques des entreprises ? |
Section title goes here
15
Contacts
#FRANCE
PARTNER 2023
#FRANCE
PARTNER 2023
PARTENAIRE
#FRANCE
#FRANCE PARTENAIRE 2023
2023 2
Deloitte
6 place de la Pyramide – 92908 Paris-La Défense Cedex