AI et la responsabilité juridique

Master de droit de l’environnement et le développement durable

Encadré par : Préparé par

Pr BOUZIT Mhammed Aziz Imane
Errouiouig Chaimae
Doudjane Yahjabbouha
Mounquid Najwa
Année Universitaire: 2023/2024 Oualla Manal
Introduction :

« L’intelligence artificielle est un outil nécessaire pour le progrès.

Toutes les parties prenantes discuteront aujourd’hui de comment faire
pour en tirer profit pour qu’elle soit au service de notre société et de
l’humanité. C’est notre responsabilité, à nous d’en faire le bon usage et
en faire un moteur de développement socio-économique. »
Dr. Ghita Mezzour Ministre de la Transition numérique et de la Réforme de
l’Administration
Actuellement, les machines peuvent imiter le comportement humain sans pour
autant posséder de conscience. Il est envisageable que, à l'avenir, leurs capacités
évoluent au point de les doter de conscience, de sensibilité et d'esprit. Cette
progression découle principalement de ce que les informaticiens appellent
l'intelligence artificielle (IA), un domaine où les professionnels déploient diverses
techniques pour permettre aux machines de reproduire une intelligence
authentique, similaire à celle des êtres humains. L'émergence de neurones
artificiels, largement discutée aujourd'hui, étend leur influence à différents
secteurs en permettant la déduction d'informations prédictives par l'analyse de
vastes ensembles de données personnelles.
Définitions:
L'Union européenne (UE) définit l'intelligence artificielle (IA) dans le cadre de sa proposition de
règlement sur l'IA, qui a été présentée par la Commission européenne en avril 2021. Selon cette
proposition, l'IA est définie comme suit
L'intelligence artificielle (IA): désigne les systèmes développés pour exécuter des
tâches, qui nécessitent normalement l'intelligence humaine, tels que la perception
visuelle, la reconnaissance vocale, la prise de décision et la traduction de langues.

selon la doctrine marocaine :

L'intelligence artificielle (IA): les théories et les techniques mises en œuvre en vue
de réaliser des machines capables de simuler l'intelligence humaine, voire des
systèmes autonomes en mesure d’accomplir des tâches complexes que l’on croyait
jusqu’à un passé récent, réservées à l’intelligence naturelle. Il ne s’agit plus de la
mise en œuvre d’un programme par la volonté et sous le contrôle de l’être humain,
mais du développement d’une forme de pensée qui, bien que conçue par l’homme,
tend dans une certaine mesure à s’en émanciper.
En droit marocain, la responsabilité juridique peut prendre différentes formes,
notamment la responsabilité civile, pénale, administrative, etc.

En droit administratif : Responsabilité (de la puissance publique)

En droit constitutionnel : Responsabilité politique et Responsabilité ministérielle et

Responsabilité du gouvernement.

En droit commercial : société à responsabilité limitée (S.A.R.L.). Société dans laquelle la

responsabilité des associés est limitée au montant de leur apport.

En droit civil : Obligation pour une personne de réparer un dommage subi par autrui à la suite
de l'événement dont elle est responsable

En droit pénal : Responsabilité pénale. Obligation de répondre de ses actes délictueux en

subissant une sanction pénale dans les conditions et selon les formes prescrites par la loi.
l'intérêt de sujet:

Le sujet de l'intelligence artificielle (IA) et de la responsabilité juridique

revêt un intérêt croissant en raison des implications complexes et des
défis émergents associés à l'utilisation de l'IA dans divers secteurs.
En traitant le sujet de l'IA et de la responsabilité juridique, la société
cherche à équilibrer l'innovation technologique avec la protection des
droits individuels, la justice et la sécurité. Cela nécessite l'élaboration
de lois et de normes appropriées pour aborder les défis émergents tout
en favorisant un développement éthique et responsable de l'IA.
 Aperçu historique:

En 1943: L'histoire de l'intelligence artificielle peut être retracée jusqu'aux travaux de Warren McCulloch et
Walter Pitts, qui ont proposé un modèle de réseau de neurones artificiels.

En 1956 : L'histoire moderne de l'IA débute lors du summer camp de Dartmouth, dans le New Hampshire, où John
McCarthy invite des scientifiques pour discuter du sujet émergeant de l'« intelligence artificielle ».

Années 1960-1970 : Des progrès importants sont réalisés dans les domaines de la recherche en intelligence
artificielle, notamment dans les programmes de jeu comme le jeu d'échecs.

Années 1980-1990 : L'IA commence à être intégrée dans des applications pratiques telles que les systèmes
experts, la reconnaissance vocale et la vision par ordinateur.

Années 2000 : L'avènement de l'apprentissage profond(deep learning) marque un tournant majeur dans le
développement de l'IA, permettant des avancées significatives dans la reconnaissance d'images et de la parole.

Années 2010 à aujourd'hui : L'IA continue de progresser à un rythme rapide, avec des applications de plus en plus
répandues dans des domaines tels que la santé, la finance, la logistique, l'automobile, les jeux, la sécurité et bien
d'autres.
La problématique:

Quel genre de cadre réglementaire est

nécessaire pour tirer profit de manière
sécurisée et équitable des opportunités
présentées par l'intelligence artificielle ?

Partie | :
L'Intelligence Artificielle :
Responsabilité Juridique,
Transformations
Pratiques, et Engagement
Section 1:
L'INTELLIGENCE ARTIFICIELLE: RESPONSABILITÉ
JURIDIQUE ET AUTONOMIE
Section 2:
L'intelligence artificielle : un instrument efficace
pour transformer les pratiques dans les domaines
juridique et judiciaire.

P Éthique au Maroc Section 3 :

Engagement du Maroc en faveur de l'éthique et
de la responsabilité dans le domaine de
L l'intelligence artificielle

Section 1:
A Les aspects légaux de l'IA et l'absence de
réglementation
Partie || :
N Régulation et Législation Section 2:
de l'Intelligence
Artificielle : Défis et Les défis de la régulation de
Initiatives l'intelligence artificielle

Section 3:
L'initiative de l’Europe sur le projet de loi de
AI ACT
 Partie 1
SECTION 01

L'IA : Responsabilité juridique

et autonomie
 L'IA : Responsabilité juridique et autonomie

Il est indéniable que le droit positif au Maroc, comme dans de nombreux pays développés,
ne fournit pas de réponse claire à la question de la responsabilité juridique de l'intelligence
artificielle. Cette dernière est immatérielle, dépourvue de personnalité juridique et de
patrimoine, ce qui rend difficile l'attribution de responsabilité. Cependant, avec son
autonomie croissante, encadrer légalement les systèmes d'intelligence artificielle pour
protéger les victimes tout en favorisant l'innovation, devient essentiel.

Dans cette perspective, plusieurs pistes sont proposées, notamment la création d'une
personnalité électronique pour les systèmes d'intelligence artificielle, inspirée par des
initiatives telles que l'octroi de citoyenneté au robot "Sophia" en Arabie saoudite.

tôt au tard la législation marocaine doit s’aligner au guide européen pour répondre aux
questions juridiques qui se multiplient davantage avec les avancés avancées
technologiques.
 Partie 1
SECTION 02

L'IA : Un instrument efficace pour

transformer les pratiques dans les

domaines juridique et judiciaire.

 L'IA : un instrument efficace pour transformer les pratiques dans

les domaines juridique et judiciaire.

L’intelligence artificielle commence à avoir un réel

impact sur les décisions de justice et sur les
nouveaux amendements. Mais il est aussi
essentiel que l’intelligence artificielle soit au
service du pouvoir juridique et judiciaire.
Tout traitement de données juridiques et
judiciaires passe en instaurant des systèmes dits
d’intelligence artificielle ou des méthodes dérivées
des sciences des données améliorant le
fonctionnement de la justice, sa transparence et
l’application du droit et la cohérence de la
jurisprudence.
Insérer l’intelligence artificielle et le Machine Learning dans le fonctionnement législatif et
judiciaire ne permettra que leur avancement. Le but étant de développer une réflexion
d’ensemble, en adoptant petit à petit de nouveaux outils. Il est fondamental de prendre le
soin d’insérer ses derniers, en prenant en considération les divers inconvénients de l’IA.
Un système d’intelligence artificielle (SIA) s’est même montré plus apte que des juristes
humains à détecter des problèmes juridiques précis lors de l’analyse de contrats.
L'influence des algorithmes sur le droit est telle que la plupart des juristes sont (ou seront
bientôt) touchés et donc concernés par les nouvelles « lois » produites par les traitements
automatisés de données.
 Partie 1
SECTION 03

Engagement du Maroc en
faveur de l'éthique et de la
responsabilité dans le
domaine de l'IA
 Engagement du Maroc en faveur de l'éthique et de la
responsabilité dans le domaine de l'IA

Le Maroc est l'un des premiers pays à mettre en œuvre les recommandations de
l'Organisation concernant l'éthique de l'intelligence artificielle, adoptées lors de la
41ème session de la Conférence générale de l'UNESCO en novembre 2021 à Paris,
a-t-elle relevé, indiquant que le ministère est en phase avec la dynamique actuelle du
Royaume en matière d'intelligence artificielle.
Après avoir mis en lumière les vastes et illimitées possibilités offertes par l'intelligence
artificielle pour conduire des transformations dans de nombreux domaines et son
impact positif sur l'amélioration de la vie des citoyens, la responsable gouvernementale
n’a pas manqué de souligner les diverses initiatives en cours au Maroc dans ce
domaine.
Cela comprend la création de centres de recherche et de développement à Oujda, Rabat, Fès et
Benguerir, qui s'intéressent à l’intelligence artificielle, a précisé Mme Mezzour.
Ai movement, le centre international d’intelligence artificielle du Maroc, est un centre
d’excellence en Intelligence Artificielle qui a pour vocation de favoriser l’émergence d’un
savoir-faire marocain en Intelligence Artificielle et en Sciences des Données.

Le Maroc, en collaboration avec l'UNESCO, a récemment pris des initiatives majeures pour
tracer une voie éthique dans le développement et l'application de l'intelligence artificielle (IA).
Ces efforts se sont manifestés à travers deux événements clés :

1. Colloque International sur l'Éthique de l'IA : L'événement a porté sur des sujets tels que la mise à
niveau des cadres juridiques, la réglementation dans divers secteurs comme l'éducation et la recherche, et les
prérogatives des organismes de contrôle de l'IA.
2. Partenariat avec l'UNESCO pour une IA Responsable :. L'objectif est de garantir que l'IA soit un
moteur de croissance durable qui respecte les principes fondamentaux comme la non-discrimination, la
transparence algorithmique, et la protection des données personnelles.
 Partie 2
SECTION 01

Les aspects légaux de l'IA et

l'Absence de réglementation
Les aspects légaux liés à l’IA
Domaine de protections
des données
Il est essentiel de renforcer la
protection des renseignements
personnels dans un contexte où
l'intelligence artificielle est de plus en
plus présente.
l'IA peut parfois présenter des limites et des biais, ce
qui souligne l'importance d'une conception
minutieuse et éthique des solutions basées sur l'IA.
L'intersection de l'intelligence artificielle avec
l'éthique et la protection des données est de plus en
plus importante à mesure que la technologie devient
courante dans les infrastructures informatiques.
Il est important de garantir la sécurité juridique
des données personnelles au Maroc, en raison
de l'évolution de l'économie numérique et de la
valeur croissante des données. Pour cela, il est
crucial de s'assurer que la technologie de
l'intelligence artificielle agit de manière éthique
et respectueuse de la vie privée.
 La lutte contre la
discrimination
L'idée de non-discrimination est présente dans
différents textes tels que l'article 7 de la
Déclaration universelle des droits de l'homme,
l'article 2 de la Charte africaine des droits de
l’homme et des peuples, et l’article 19 de la
Constitution marocaine de 2011.
L'intelligence artificielle est parfois présentée
comme neutre, évitant ainsi les préjugés et la
discrimination inconsciente.
Il est important de se rappeler que l'IA est conçue
par des êtres humains et peut hériter de leurs
propres préjugés, conscients ou inconscients.
Les libertés d'opinion
et d'expression
Sont garanties par divers instruments tels que
l'article 19 de la Déclaration universelle des droits de
l'homme et l'article 9 de la Charte africaine des droits
de l'homme et des peuples, ainsi que l'article 25 de la
Constitution marocaine, sont confrontées à des défis
dans les espaces de conversation en ligne. Les
algorithmes utilisés par les plateformes de médias
sociaux, souvent alimentés par l'intelligence
artificielle, sont critiqués pour leur rôle potentiel
dans le contrôle du contenu utilisateur, en identifiant
notamment les contenus en violation des conditions
d'utilisation.
Absence de règlement régissant l’IA
Les systèmes de reconnaissance
faciale soulèvent des préoccupations
en matière de vie privée, avec près de
la moitié des adultes américains ayant
leurs images faciales stockées dans
des bases de données policières,
selon une enquête de l'université de
Georgetown.
les données personnels
En médecine, un exemple de biais lié à
l'intelligence artificielle a été signalé
au British Medical Council, illustré par
le cas d'Avery Smith et de sa femme,
LeToya. Les algorithmes de détection
du cancer de la peau, largement
formés sur des peaux blanches, ont eu
des conséquences négatives pour
LeToya, qui était noire.
 la discrimination

Une étude du National Institute of

L'algorithme COMPAS a été
Standards and Technology révèle
critiqué en 2016 pour son biais,
que les systèmes de
défavorisant les individus issus de
reconnaissance faciale ont des
minorités. De même, un logiciel de
taux d'erreur nettement plus
recrutement chez Amazon, basé
élevés (10 à 100 fois) lors de
sur l'intelligence artificielle, a été
l'identification de personnes
abandonné car il montrait des
d'origine afro-américaine ou
résultats discriminatoires envers
asiatique par rapport à celles
les femmes, privilégiant les profils
d'origine caucasienne. Cela
masculins au détriment de ceux
souligne le risque de fausses
mentionnant des termes féminins.
accusations ou d'arrestations si
de tels systèmes sont utilisés par
les forces de l'ordre.
 Les libertés d'opinion
et d'expression

Les gouvernements, comme en Allemagne

avec la loi NetzDG, ont accru l'utilisation de
systèmes automatisés pour éliminer
rapidement des contenus indésirables sur les En France, la loi Avia,
réseaux sociaux. Cependant, l'IA n'est pas similaire à la loi
infaillible, comme en témoigne le cas de allemande, a été
YouTube, qui a supprimé plus de 100 000 censurée en 2020 par le
vidéos documentant des atrocités en Syrie Conseil constitutionnel
après des signalements pour "incitation à la pour préserver la liberté
haine". Ces suppressions erronées soulignent d'expression.
les limites de l'IA, même lorsque des
exceptions éducatives ou documentaires sont
prévues.
 Partie 2
SECTION 02

Les défis de la régulation de l’IA

 Les défis de la régulation de l'IA

La mise en place d’un cadre réglementaire adapté à l’intelligence artificielle soulève plusieurs défis

L’adaptation du droit existant : le droit actuel n’est pas toujours suffisamment adapté pour répondre aux enjeux
spécifiques posés par l’IA. Par exemple, les règles concernant la responsabilité juridique ne sont pas
nécessairement appropriées pour traiter les cas où une machine prendrait une décision ayant des conséquences
néfastes pour un individu.
L’évolution rapide des technologies : la rapidité avec laquelle se développent les technologies d’IA rend difficile la
mise en place de règles pérennes. Les régulateurs sont souvent confrontés à un défi d’anticipation, devant adapter
leur arsenal juridique à des innovations qui n’existent pas encore.
La gouvernance internationale : face à l’essor mondial de l’intelligence artificielle, il est nécessaire de mettre en
place une coopération entre les différents acteurs nationaux et internationaux afin d’harmoniser les règles et de
garantir un niveau minimal de protection pour tous les citoyens.
La difficulté à définir la finalité du traitement : il n'est pas possible de prévoir ce que l'algorithme apprendra. La
finalité peut également être modifiée au fur et à mesure que la machine apprend et se développe. Cela remet en
cause le principe de minimisation des données car il est difficile de définir quelles données sont nécessaires.
 Partie 2
SECTION 03

L’ initiative de l’Europe sur le

projet de loi de AI ACT
 L’ initiative de l’Europe sur le projet de loi de AI ACT

“Législation sur l'intelligence artificielle”

le Conseil et le Parlement européens parviennent à un accord provisoire sur les premières

règles au monde en matière d'IA.

Le projet de règlement a pour objectif de veiller à ce que les systèmes d'IA mis sur le marché
européen et utilisés dans l'UE soient sûrs et respectent les droits fondamentaux et les valeurs
de l'UE. La législation sur l'IA est une initiative législative phare, susceptible de favoriser le
développement et l'adoption, par les acteurs tant privés que publics, d'une IA sûre et digne de
confiance dans l'ensemble du marché unique de l'UE.

L'IA ayant la capacité de porter préjudice à la société, l'idée est principalement de réglementer
celle-ci selon une approche fondée sur les risques, à savoir: plus le risque est élevé, plus les
règles sont strictes. Cette proposition législative étant une première en son genre dans le
monde, elle peut établir une norme mondiale.
 L'accord de compromis prévoit une couche horizontale de protection, incluant une
classification à haut risque.

Risque limité Haut risque Risque inacceptable

Les systèmes d'IA Les systèmes d'IA seraient
présentant seraient soumis autorisés, mais seraient
à des obligations de soumis à un ensemble
transparence très peu d'exigences et d'obligations
contraignantes. pour accéder au marché
de l'UE
Pour certaines utilisations
de l'IA, le risque est jugé
inacceptable et, par
conséquent, ces systèmes
seront interdits dans l'UE.

Au niveau de l'UE, un bureau de l'IA est créé au sein de la Commission pour superviser les
modèles d'IA parmi les plus avancés, contribuer à promouvoir normes et pratiques
d'évaluation et faire appliquer les règles communes dans tous les États membres.
 Les modalités d'amendes pour les infractions à la législation sur l'IA

- L'accord provisoire prévoit -Une personne physique

-Des amendes pour violation
de la législation sur l'IA ont été
fixées en pourcentage du
chiffre d'affaires annuel
mondial de l'entreprise
incriminée.
des plafonds plus
proportionnés pour les
amendes administratives
infligées aux PME et aux
jeunes pousses en cas
d'infraction aux dispositions
de la législation sur l'IA.
ou morale peut déposer
une réclamation pour
non-respect de la
législation sur l'IA auprès
de l'autorité de
surveillance du marché
compétente.

Entrée en vigueur
L'accord provisoire prévoit
que la législation sur l'IA
devrait s'appliquer deux ans
après son entrée en vigueur,
à quelques exceptions près
pour certaines dispositions
spécifiques.
01
Transparence et protection
des droits fondamentaux
● L'accord provisoire prévoit une
03 analyse d'impact sur les droits
fondamentaux avant qu'un système
d'IA à haut risque ne soit mis sur le
marché.
● L'accord provisoire prévoit
également d'accroître la
02 transparence en ce qui concerne
l'utilisation des systèmes d'IA à haut
risque.

Mesures de soutien à l'innovation

● Des dispositions relatives aux mesures de soutien à l'innovation ont été substantiellement
modifiées par rapport à la proposition de la Commission.
● De nouvelles dispositions ont été ajoutées, qui permettent de tester des systèmes d'IA en
conditions réelles.
CONCLUSION :
En quête d'une adoption sécurisée et équitable de l'intelligence artificielle, nous nous
engageons dans une aventure collaborative. Cet engagement interpelle l'ensemble
des acteurs impliqués, gouvernements, entreprises, chercheurs et citoyens, les
invitant à contribuer activement à l'élaboration de normes qui guideront l'IA vers un
avenir où cette technologie non seulement favorise le progrès, mais surtout, où elle
se positionne en tant que alliée essentielle de l'humanité.
En embrassant cette mission collective, nous avons l'opportunité de façonner un
paysage technologique ancré dans nos valeurs partagées d'éthique, de
transparence et de respect des droits individuels. Ensemble, nous participons à
l'écriture de l'histoire de l'IA, non seulement en tant qu'outil d'innovation, mais en
tant que force bénéfique au service de l'ensemble de la société, contribuant à notre
bien-être collectif et à l'épanouissement de notre humanité.
 MERCI
DE VOTRE
ATTENTION
 Bibliographie
Ouvrages :
Abdessalam Saad JALD, L’intelligence artificielle au Maroc : entre encadrement réglementaire et stratégie
économique, Building C, Suncity Complex, Al Bortokal StreetHay Riad 10100 - Rabat, 2022.

François Valérian et al., ENJEUX NUMÉRIQUES; L’intelligence artificielle :un enjeu d’économie et de civilisation ? , N°
1 , Publié avec le soutien de l’Institut MinesTélécom – mars 2018.

Articles :
BOUZIT MHAMMED et AMIRA EL AIDOUNI , LE «MACHINE LEARNING» À L'ÉPREUVE DES CONTRAINTES DU RGPD :
D'UNE DIMENSION INDIVIDUELLE A UNE DIMENSION COLLECTIVE DE LA PROTECTION DES DONNÉES. VOL. 2, NO 1
(2021)
-Régulation de l’intelligence artificielle : enjeux, défis et perspectives, Enrique Graves, 11/09/2023,disponible sur
https://association-des-juristes-europeens.eu/regulation-de-lintelligence-artificielle-enjeux-defis-et-perspectives/

-Abdessalam Saad JALDI, L’intelligence artificielle au Maroc : entre encadrement réglementaire et stratégie économique, Octobre 2022

-Carme Artigas Brugal, Législation sur l'intelligence artificielle: le Conseil et le Parlement parviennent à un accord sur les premières
règles au monde en matière d'IA, 9 décembre 2023, disponible sur:

https://www.consilium.europa.eu/fr/press/press-releases/2023/12/09/artificial-intelligence-act-council-and-parliament-strike-a-
deal-on-the-first-worldwide-rules-for-ai/
 Bibliographie
-Digital Society Initiative, Prise de position : Un cadre juridique pour l‘intelligence artificielle, Novembre 2021

- Parlement européen, Loi sur l'IA de l'UE : première réglementation de l'intelligence artificielle, 09-06-2023, disponible sur:
https://www.europarl.europa.eu/news/fr/headlines/society/20230601STO93804/loi-sur-l-ia-de-l-ue-premiere-reglementation
-de-l-intelligence-artificielle

- Aujourd’hui le Maroc, Intelligence artificielle : Une stratégie nationale s’impose, 21 OCTOBRE 2022, disponible sur:
https://aujourdhui.ma/societe/intelligence-artificielle-une-strategie-nationale-simpose

-UNESCO, Le Maroc trace la voie d’un futur éthique en IA avec l'UNESCO, 26 octobre 2023, disponible sur:
https://www.unesco.org/fr/articles/le-maroc-trace-la-voie-dun-futur-ethique-en-ia-avec-lunesco

Rapports:

-Karen Yeung, Responsabilité et IA, 2019, le Comité d’experts sur les dimensions des droits de l’homme dans le traitement des
données et les différentes formes d’intelligence artificielle (MSI-AUT)

-Conseil de l’Europe, UN CADRE JURIDIQUE POUR LES SYSTÈMES D’INTELLIGENCE ARTIFICIELLE, 17 décembre 2020

-HAUT COMMISSARIAT AU PLAN CENTRE NATIONAL DE DOCUMENTATION, INTELLIGENCE ARTIFICIELLE, AVRIL 2023