HIGH-TECH&MEDIAS
Intelligence
artificielle :
Bruxelles promet
un encadrement réel
l La Commission européenne a présenté sa stratégie
pour l’intelligence artificielle.
l Elle veut des applications « dignes de confiance » et
fixera des règles strictes pour les usages pouvant présen-
ter des risques pour la santé et les droits fondamentaux.
NUMÉRIQUE
Derek Perrotte
@DerekPerrotte
— Bureau de Bruxelles
Elle veut profiter de ses opportuni-
tés tout en se prémunissant contre
ses dangers. Mercredi, la Commis-
sion européenne a présenté sa
stratégie pour l’intelligence artifi-
cielle (IA), bataille dans laquelle
elle veut se lancer avec une appro-
che éthique dont elle entend faire
son marqueur et son atout. « Nous
voulons que l’application de ces nou-
velles technologies soit digne de la
confiance de nos citoyens […] Nous
encourageons une approche respon-
sable de l’IA centrée sur l’homme »,
a insisté la présidente, Ursula von
der Leyen.
Certifier les données
utilisées
Cela passe avant tout par une
approche proportionnelle au ris-
que : plus l’utilisation sera dange-
reuse, pour la santé, pour la sécurité
ou pour les droits fondamentaux,
plus les règles et les contrôles
seront stricts, a résumé la vice-pré-
sidente en charge du digital, Mar-
grethe Vestager. « L’IA n’est ni
bonne ni mauvaise en soi : tout
dépend du pourquoi et du comment
elle est utilisée », a-t-elle insisté.
Dans les domaines où certains
usages sont jugés « à haut ris-
que », les systèmes d’IA devraient
Quels risques et quelles solutions ?
En dépit de progrès
spectaculaires, les techno-
logies d’IA doivent encore
progresser pour de
nombreux usages profes-
sionnels. Tour d’horizon
des défis à venir.
Benoît Georges
@bengeorges
La Commission européenne a
détaillé, mercredi, ses pistes pour
réguler l’intelligence artificielle
(IA), appelée à prendre une part
croissante, sinon centrale, dans de
nombreux pans de l’économie
mondiale. Si elle représente une
formidable opportunité sociétale
et économique ; dévoyée, elle peut
s’avérer dangereuse. C’est pourquoi
certains secteurs à risque, par
exemple dans le domaine de la
santé, se verront imposer des
contraintes. Revue de détail des
défis que doit encore relever l’IA.
• BIAIS DANS LES DONNÉES •
EXPLICABILITÉ
Depuis une décennie, les progrès
spectaculaires de l’intelligence
artificielle sont à mettre au crédit
d’une technologie en particulier : le
« deep learning », ou apprentissage
automatique profond. Il repose sur
des systèmes que l’on entraîne en
leur fournissant un grand nombre
d’exemples, des milliers, voire des
« être transparents, traçables et
garantir un contrôle humain »,
insiste le Livre blanc publié mer-
credi, première étape avant une
législation plus détaillée en fin
d’année, après consultation des
parties prenantes.
Quatre « secteurs critiques »
sont définis : la santé, les trans-
ports, la police et la justice. S’y
ajoutent trois types d’« utilisations
critiques », celles qui impliquent
des « effets juridiques » (comme
lors de procédures de recrute-
ment) et qui présentent des « dan-
gers mortels » ou des « risques de
dégâts et de blessures ». Ce canevas
sera la base d’une étude des usages
au cas par cas devant aboutir à
une dentelle fine pour les activités
classées au final « à risques ».
Bruxelles entend
se limiter, pour
les applications d’IA
à faible risque, à
un simple système de
label non obligatoire.
Ces dernières seront soumises à
des « règles strictes », annonce
Bruxelles, avec des évaluations de
conformité en amont de leur mise
sur le marché, des contrôles et des
sanctions le cas échéant. « Il faut
que les autorités soient en mesure
de vérifier la conformité des systè-
mes d’IA, tout comme elles le font
avec les cosmétiques, les voitures ou
millions de photos, d’extraits de tex-
tes, de chiffres ou de sons selon le
cas, jusqu’à ce que la machine arrive
au résultat escompté : reconnaître
un visage, une phrase, une ten-
dance ou un dialogue.
Mais les données fournies pour
cet entraînement peuvent être biai-
sées, c’est-à-dire insuffisamment
équilibrées ou inclusives. Or ces
biais vont influencer le résultat : un
logiciel de reconnaissance faciale
entraîné principalement sur des
personnes à la peau blanche fonc-
tionnera mal avec des personnes à
la peau noire ; un logiciel de tri des
CV peut privilégier certains élé-
ments (noms, adresses…) au détri-
ment d’autres qu’un humain juge-
rait plus importants, comme le
diplôme ou l’expérience profes-
sionnelle. D’où la nécessité de met-
tre au point des systèmes capables
de repérer ces biais dès la phase
d’entraînement.
Certains systèmes d’IA obtiennent
de très bons résultats, mais la façon
dont ils y parviennent est encore
très opaque. On les qualifie de
« boîtes noires », car on sait mesu-
rer ce qui entre et ce qui sort de la
machine, mais pas le mécanisme
entre les deux. Or, pouvoir expli-
quer ce qui se passe est crucial pour
de multiples usages, qu’il s’agisse de
les jouets », a expliqué Ursula von
der Leyen.
Les pouvoirs publics, à l’échelon
national mais avec une gouver-
nance européenne, « devraient être
en mesure de tester et de certifier les
données utilisées par les algorithmes
[…] pour garantir le respect des droits
fondamentaux, notamment la non-
discrimination », précise aussi l’exé-
cutif européen.
Cette approche contraste avec
celles adoptées en Chine ou aux
Etats-Unis, qui prévoient un moin-
dre encadrement des pratiques.
« Mon approche n’est pas de rendre
l’Europe plus comme la Chine ou les
Etats-Unis, mon plan est de rendre
l’Europe plus comme elle-même », a
martelé en réponse la Danoise Ves-
tager, repoussant toute volonté de
brider l’innovation.
Pour preuve, Bruxelles entend se
limiter, pour les applications d’IA à
faible risque, à un simple système
de label non obligatoire, si elles
appliquent des normes plus éle-
vées. L’Europe fait le pari que cette
approche graduée et jugée plus res-
ponsable correspond aux attentes
de fond des consommateurs et
finira, comme le RGPD pour les
données personnelles, par inspirer
ses concurrents.
Cette stratégie est plutôt bien
accueillie par les entreprises, large-
ment associées au processus et qui
craignaient que l’UE ne soit tentée
de fixer des règles plus générales
pour l’industrie tout entière, au ris-
que d’étouffer l’innovation. n
l’attribution d’un crédit, du diag-
nostic médical ou de la conduite
autonome.
Dans son rapport du printemps
2019, le groupe d’experts de haut
niveau de la Commission euro-
péenne notait que : « Dès qu’un sys-
tème d’IA a une incidence impor-
tante sur la vie des personnes, il
devrait être possible d’exiger une
explication appropriée du processus
de décision. »
• ABSENCE DE SENS
COMMUN
Performants pour des tâches sim-
ples et répétitives, les systèmes d’IA
n’ont en revanche aucune compré-
hension du monde qui les entoure,
ou du contexte dans lequel ils opè-
rent. Cela entraîne, par exemple,
des erreurs de traduction cocasses
(pour s’en assurer, il suffit de tester
la phrase « mon avocat est imman-
geable » sur Google Traduction).
Mais cela peut aussi engendrer
de graves dérives : après les atten-
tats de Londres en juin 2017, l’algo-
rithme de tarification dynamique
d’Uber avait commencé par dou-
bler le tarif des courses dans la zone
concernée pour répondre à l’afflux
de demandes.
Une solution à cette absence de
sens commun peut être de mettre
des humains « dans la boucle » des
décisions, mais ce n’est pas toujours
« Mon approche
n’est pas de rendre
l’Europe plus
comme la Chine
ou les Etats-Unis,
mon plan est
de rendre l’Europe
plus comme
elle-même. »
MARGRETHE VESTAGER
Vice-présidente de la
Commission européenne
possible. Une autre approche
consiste à définir des seuils de
confiance, au-delà desquels une
validation de la décision devien-
drait obligatoire.
•IMPOSSIBLE
CERTIFICATION
Pour certaines applications,
notamment dans les systèmes
critiques (transport aérien, par
e x e m p l e) , l e s l o g i c i e l s s o n t
aujourd’hui certifiés, c’est-à-dire
que leur fiabilité est mesurée et
garantie. L’informatique classique,
basée sur des programmes et des
règles, le permet. En revanche, ce
n’est pas encore possible avec les
outils d’intelligence artificielle,
dont les résultats varient en fonc-
tion des données qui servent à les
entraîner. Aujourd’hui, aucun
pilote automatique d’avion ne
repose sur des outils d’intelligence
artificielle et on imagine mal que
les voitures autonomes soient
autorisées, à grande échelle, sans
aucune certification.
Dans leur rapport de 2019, les
experts de l’Union européenne
appelaient de leurs vœux la mise
en place de ces certifications, qui
« appliqueraient des normes définies
pour différents domaines d’applica-
tion et techniques d’IA, dûment ali-
gnées sur les normes industrielles et
sociétales des différents contextes ». n
Jeudi 20 février 2020 Les Echos
La Chine prête
à tout pour être
le leader mondial
Les autorités chinoises
déversent des milliards
de dollars et autorisent un
accès facilité à de nom-
breuses bases de données.
Frédéric Schaeffer
@fr_schaeffer
— Correspondant à Pékin
« Celui qui maîtrisera l’intelligence
artificielle sera le maître du
monde », avait affirmé le président
russe, Vladimir Poutine, en 2017.
Le président chinois, Xi Jinping,
ne peut que souscrire à ce propos
tant il a placé l’intelligence artifi-
cielle au cœur de l’ambition de
puissance mondiale de la Chine.
« L’IA devient un défi technologique
tout comme un enjeu stratégique au
cœur de la rivalité sino-américaine,
à l’heure où le parti-Etat chinois a
formulé le vœu, depuis 2017, de se
poser en futur leader dans le
domaine des technologies de l’infor-
mation, avec pour objectif de sup-
planter la suprématie technologi-
que des Etats-Unis qui perdure
depuis la Seconde Guerre mon-
diale », explique Xavier Seurre,
analyste à l’Institut de relations
internationales et stratégiques
(Iris), dans une étude récente.
Le gouvernement chinois a
effectivement annoncé la couleur
dès juillet 2017 en dévoilant son
plan de développement pour l’IA.
Objectif : faire de la Chine le leader
mondial de l’IA à l’horizon 2030.
Avec pour priorité de rattraper le
retard du pays dans des domaines
clés (recherche fondamentale,
semi-conducteurs, formation,
etc.) et de faire prospérer ses
points forts (quantité et qualité des
données, écosystème d’innova-
tion…). Pour y parvenir, Pékin
actionne tous les leviers, acteurs
publics (ministères, universités,
gouvernements locaux) et entre-
prises. Baidu et Huawei investis-
sent des milliards en R&D ou dans
des start-up prometteuses, les
autorités déversent des milliards
aussi et facilitent l’accès à de nom-
breuses bases de données. Autour
de 70 milliards de dollars auraient
déjà été investis dans l’IA par
Pékin, « là où l’Etat américain n’a
débloqué que 11 milliards de dollars
pour la recherche sur l’intelligence
artificielle », note Xavier Seurre.
Le « consensus de Pékin »
Pour Kai-Fu Lee, gourou chinois
de l’IA, l’immense avantage de la
Chine dans la course à l’IA réside
dans la surabondance des
données collectées, la force d’un
écosystème d’entrepreneurs « prêt
à tout » pour créer de nouveaux
produits et un soutien indéfectible
de l’Etat, capable d’injecter des
milliards et de créer un environ-
nement réglementaire extrême-
ment favorable. « Face à l’émer-
gence d’une nouvelle technologie,
l’Europe décide immédiatement de
réguler et les Etats-Unis lancent un
programme pilote. La Chine prend
des mesures efficaces uniquement
lorsque des problèmes survien-
nent », expliquait aux « Echos »
au printemps cet ingénieur passé
par Apple et Google.
Dans le monde de Kai-Fu Lee,
l’Europe n’existe pas. Les Etats-
Unis et la Chine ont déjà pris trop
d’avance dans l’IA et l’Europe
traîne avec son « RGPD » sur la
protection des données, qui risque
de freiner le progrès technolo-
gique. Si la Chine n’a pas cette
contrainte, sa population n’est pas
insensible à ce débat. Les autorités
ont lancé l’an dernier une vaste
campagne de lutte contre la col-
lecte illégale de données person-
nelles. Et l’Académie de Pékin en
IA a publié le « Consensus de
Pékin », pour encadrer la recher-
che et développement, l’utilisation
et la gouvernance de l’IA. C’est la
première fois qu’une organisation
officielle chinoise édicte des prin-
cipes, notamment éthiques, dans
ce domaine. L’application de ces
principes est en revanche une
tout autre histoire… n