Académique Documents
Professionnel Documents
Culture Documents
L'intelligence Artifi Cielle en Santé: Dossier
L'intelligence Artifi Cielle en Santé: Dossier
Éléments de bibliographie
La bibliographie suivante [1-48] complète le dossier “L’intelligence artificielle en santé”.
LIVRES [21] Devillers L. Des robots affectifs et sociaux [38] Schweitzer MG, Puig-Verges N. La Robotique
[1] Alexandre L. La guerre des intelligences. Paris: pour le soin, enjeux et problématiques éthiques. développementale et l’Intelligence artificielle
JC Lattès; 2017. Soins. 2018;63(830):57-60. conduiront-elles à l’émergence de nouvelles
[2] Bonnet C, Hoc JM, Tiberghien G. Psychologie, [22] Diebolt V, Azancot I, Boissel FH. “Intelligence valeurs pour l’homme ? Ann Med Psychol.
intelligence artificielle et automatique. Bruxelles artificielle” : quels services, quelles applications, 2018;176(3):291-5.
(Belgique): Mardaga;1986. quels résultats et quelle valorisation aujourd’hui [39] Tordo F, Tisseron S, Baddoura R et al. Robots
[3] Crevier D. À la recherche de l’intelligence arti- en recherche clinique ? Quel impact que la qua- et numérique : de nouveaux outils pour le psy-
ficielle. Paris: Flammarion; 1999. lité des soins ? Quelles recommandations ? chologue. J Psychol. 2017;(350):14-56.
[4] Fraser P. Intelligence artificielle : vers un Therapie. 2019;74(1):141-54. [40] Zemouri R, Devalland C, Valmary-Degano S,
humain optimal. Paris: CreateSpace Independent [23] Eroukhmanoff J, Bommier C. La médecine au Zerhouni N. Intelligence artificielle : quel avenir
Publishing Platform; 2017. défi de l’intelligence artificielle, 17e journée de la en anatomie pathologique ? Ann Pathol.
[5] Gruson D. La machine, le médecin et moi. SFFEM, 13 décembre 2017. Éthique, Médecine et 2019;39(2):119-29.
L’intelligence artificielle nous soigne déjà. Paris: Politiques Publiques. 2018;4(C):115-9.
Éditions de l’Observatoire; 2018. [24] Four L. La santé connectée est en marche. DOCUMENTS EN LIGNE
[6] Gruson D. S.A.R.R.A. Une intelligence artifi- Objectif Soins Management. 2015;(238):43-6. [41] Bourdaire-Mignot C, Gründler T. Intelligence
cielle. Paris: Beta Publisher; 2018. [25] Gonzalez JM. L’intelligence artificielle pour artificielle et robotisation : la performance de l’IA
[7] Jacquemin H, De Streel A. L’intelligence artifi- améliorer la détection d’adénomes dans la colos- au prix de la relation humaine ? Rev Droits
cielle et le droit. Bruxelles (Belgique): Larcier; copie de dépistage : le futur est déjà là ! Hépato- Homme. Actualités Droits Libertés. Sep-
2018. Gastro Oncol Dig. 2019;26(1):123-6. tembre 2018. https://journals.openedition.org/
[8] Nordlinger B, Villani C. Santé et intelligence [26] Gruson D. La RSE digitale en santé. Levier revdh/4669
artificielle. Paris: CNRS; 2018. majeur pour le déploiement responsable de l’IA [42] De Ganay C, Gillot D. Pour une intelligence
[9] Tisseron S, Tordo F. Robots, de nouveaux par- et de la robotisation. Gestions hospitalières. artificielle maîtrisée, utile et démystifiée. Paris:
tenaires de soins psychiques. Toulouse: Érès; 2018;(575):268-9. Sénat; 2017. Rapport n° 464. www.senat.fr/rap/
2018. [27] Gruson D. Éthique et intelligence artificielle r16-464-1/r16-464-11.pdf
[10] Vallancien G. La médecine sans médecin ? en santé, pour une régulation positive. Soins. [43] Gattolin A, Kern C, Pellevat C, Ouzoulias P.
Paris: Gallimard; 2015. 2019;64(832):54-7. Stratégie européenne pour l’intelligence artifi-
[11] Vallancien G. Homo Artificialis. Plaidoyer [28] Heeke S, Delingette H, Fanjat Y et al. La cielle. Paris: Sénat; 2019. Rapport n° 279. www.
pour un humanisme numérique. Paris: Michalon; pathologie cancéreuse pulmonaire à l’heure de senat.fr/rap/r18-279/r18-2791.pdf
2017. l’intelligence artificielle : entre espoir, désespoir [44] Institut national de la santé et de la
et perspectives. Ann Pathol. 2019;39(2):130-6. recherche médicale (Inserm). Intelligence artifi-
ARTICLES [29] Jeandidier N, Bahougne T, Meyer L. Techno- cielle et santé. Des algorithmes au service de la
[12] Aimé X. Intelligence artificielle et psychia- logies au service du patient diabétique et du dia- médecine. Paris: Inserm; 2018. www.inserm.fr/
trie : noces d’or entre Eliza et Parry. Inf Psychiatr. bétologue. Med Mal Metab. 2018;12(2):215-9. information-en-sante/dossiers-information/intel-
2017;93(1):51-6. [30] Lafargue T, Seiler M. Le machine learning. ligence-artificielle-et-sante
[13] Aimé X. Tour d’horizon de la m-psychiatrie. Accompagner le suivi des patients souffrant de [45] Lequillerier C. L’impact de l’intelligence artifi-
Inf Psychiatr. 2018;94(1):47-52. pathologies chroniques. Gestions hospitalières. cielle sur la relation de soin. JDSAM. 2017;(17):14-20.
[14] Aimé X, Charlet J, Maillet D, Belin C. L’intelli- 2018;(575):231-2. www.institutdroitsante.fr/wp-content/uploads/
gence artificielle à la rencontre de la neuropsy- [31] Le Rouzic M. L’intelligence artificielle en 2017/09/JDSAM_complet_12-09-2017.pdf
chologie : mémoire sémantique, vieillissement santé. Gestions hospitalières. 2018;(575):263-4. [46] Lucas J, Uzan S. Médecins et patients dans le
normal et pathologique. Geriatr Psychol Neuro- [32] Lévêque M. La douleur face à l’intelligence monde des data, des algorithmes et de l’intelli-
psychiatr Vieil. 2015;13(1):88-96. artificielle. Douleurs. 2017;18(4):169-70. gence artificielle. Paris: Cnom; 2018. www.
[15] Baddoura R. Le robot social médiateur : [33] Mamzer MF. Éthique et intelligence artifi- conseil-national.medecin.fr/sites/default/files/
un outil thérapeutique prometteur encore à cielle en santé : l’urgence d’une approche de cnomdata_algorithmes_ia.pdf
explorer. J Psychol. 2017;(350):33-7. recherche intégrée. Ann Path. 2019;39(2):85-6. [47] Pierron L, Evennou A. La santé à l’heure de
[16] Bezanson C. Intelligence artificielle. Rev Fr [34] Meacham D, Studley M. Il y a du soin dans l’intelligence artificielle. Paris: Terra Nova; 2017.
Orthoptie. 2018;11(1):2-3. l’air. Robots soignants et environnements de http://tnova.fr/system/contents/
[17] Bibault JE, Burgun A, Giraud P. Intelligence soin. Multitudes. 2015;(58):173-83. files/000/001/489/original/Terra-Nova_Sante-
artificielle appliquée à la radiothérapie. Cancer/ [35] Perrin A, Goglin JF, De Bentzmann G. De l’in- Intelligence-Artificielle_051217.pdf
Radiother. 2017;21(3):239-43. telligence artificielle à l’intelligence augmentée. [48] Villani C, Schoenauer M, Bonnet Y et al. Don-
[18] Blondelet J, Devillers L, Alexandre L. L’avenir Perspect Sanit Soc. 2017;(255):32-67. ner un sens à l’intelligence artificielle : pour une
du médico-social : le défi de l’intelligence artifi- [36] Prodel M, Lamarsalle L, Raguideau F. Identi- stratégie nationale et européenne. Paris: La Docu-
cielle. ASH. 2018;3050:6-9. fication des lignes de traitement en cancérologie mentation Française; 2018. Rapport. www.lado-
[19] Caminel T, Richard C. Intelligence artificielle : à partir des données du Système national cumentationfrancaise.fr/rapports-publics/
la révolution n’attendra pas les médecins : mais des données de santé : une méthode d’intelli- 184000159/index.shtml
elle a besoin d’eux. Gestions hospitalières. gence artificielle basée sur l’alignement de
2018;575:265-7. séquences. Rev Epidemiol Sante Publique. Liliane Régent
[20] Chiche L, Servy H. L’intelligence des inter- 2019;67 Suppl 2:S92-3. Documentaliste
nistes sera-t-elle bientôt artificielle ? Rev Med [37] Progin C. Les données numériques, les 76000 Rouen, France
Interne. 2017;38(3):157-9. robots et les humains. Krankenpflege. Adresse e-mail : soins@elsevier.com
2018;(8):64-6. (L. Régent).
réflexion
The challenges and contributions of digital technology to improve the performance of the
health system. The digital transformation is already under way in our health system. The deployment
of data-driven management and artificial intelligence supports the transition towards treatment
methods oriented more towards chronic diseases. Understanding the ethical issues associated with
this transformation is a key priority for the future of our health system.
© 2019 Published by Elsevier Masson SAS
Keywords – artificial intelligence; data protection regulations; digital; health data; health system
ACCÈS ET PARTAGE
DES DONNÉES DE SANTÉ
RÉFÉRENCES
[1] Loi n° 2016-41 du 26 janvier
2016 de modernisation
de notre système de santé.
https://www.legifrance.gouv.fr/
affichTexte.do?cidTexte=JORF
TEXT000031912641&categorie
Lien=id
[2] Décret n° 2016-994
du 20 juillet 2016 relatif
aux conditions d’échange
et de partage d’informations
entre professionnels de santé
et autres professionnels des
© kentoh/stock.adobe.com
mise au point
vieillissement
Artificial intelligence in healthcare: major potential for innovations in our health system.
Artificial intelligence (AI) is rapidly being extended across health systems with multiple cases of its
use already reported. The most operational technique is machine learning with image recognition in
imaging. Solutions derived from this approach, as well as other applications of AI, are presented in
two major fields: cancer management and geriatric care.
© 2019 Published by Elsevier Masson SAS
z Véritable défi pour les neurosciences comme important de développement de solutions d’IA
pour la médecine clinique, la maladie d’Alzhei- dans le domaine du vieillissement. Des cher- RÉFÉRENCES
mer touche près de 900 000 personnes en France cheurs de l’université médicale de Guangzhou [1] Gruson D. La machine,
et il n’existe toujours aucun traitement curatif. (Chine) et de l’université de Californie (États- le médecin et moi. Paris: Éditions
de l’Observatoire; 2018.
Les applications pratiques de recours à la roboti- Unis) ont ainsi développé un outil de diagnostic [2] Ehteshami Bejnordi B,
sation pour venir en appui à des programmes de fondé sur du deep learning pour mieux détecter Veta M, Johannes van Diest et al.
stimulation cognitive sont d’ores et déjà très nom- cette pathologie [7]. Pour gagner du temps, Diagnostic Assessment of Deep
Learning Algorithms for Detection
breuses sur le terrain. Le “robot pour seniors” l’approche se construit sur du transfer learning :
of Lymph Node Metastases
le plus connu est Zora® (en réalité, le programme avant de passer au crible les images en coupe de in Women With Breast Cancer;
Zora® est implanté dans le robot Nao de la société la rétine de différents patients, l’algorithme s’est JAMA. 2017;318(22):2199-2210.
Aldebaran). Le robot peut ainsi intervenir dans entraîné sur une banque d’images ordinaires. [3] Sun R, Limkin EJ,
Vakalopoulou M et al.
le cadre d’activités de stimulation comme des z Les solutions d’IA inventées pour répondre
A radiomics approach to
cours de gymnastique, des quiz ou des animations aux défis du vieillissement reposent donc assess tumour-infiltrating CD8
de danse ou de chansons. d’abord sur une analyse des besoins de la per- cells and response response
Par ailleurs, les algorithmes et l’IA permettent sonne. L’innovation technologique permet de to anti-PD-1 or anti-PD-L1
immunotherapy: an imaging
aujourd’hui d’étudier les processus neuro- s’abstraire des barrières institutionnelles liées à
biomarker, retrospective
dégénératifs de façon beaucoup plus précise. l’approche très structuraliste de la partition entre multicohort study. Lancet Oncol.
L’Institut du cerveau et de la moelle épinière les domaines sanitaire et médicosocial. 2018;19(9):1180-91.
(ICM), à Paris (75), conduit ainsi un programme Cette irruption d’outils technologiques centrés [4] Esteva A, Kuprel B, Novoa RA
et al. Dermatologist-level
de recherche mobilisant les algorithmes afin sur les besoins de la personne a pour corollaire classification of skin cancer
qu’ils analysent, comparent et exploitent les l’affirmation d’une vision plus globale des enjeux with deep neural networks.
données de milliers de patients. Qu’il s’agisse du vieillissement pour les politiques publiques. Nature. 2017;542(7639):115-8.
d’éléments d’imagerie ou cliniques, de capteurs, Les intentions des pouvoirs publics sur cette ques- [5] Haenssle HA, Fink C,
Schneiderbauer R et al. Man
voire de jeux vidéo de type serious games, le but tion ont vocation à être précisées dans l’année qui against machine: diagnostic
est d’observer plusieurs patients sur des temps vient, à la suite notamment des travaux de concer- performance of a deep learning
longs afin de synthétiser toutes ces informa- tation conduits dans le cadre de la mission confiée convolutional neural network
for dermoscopic melanoma
tions dans un modèle numérique et dynamique à Dominique Libault, président du Haut Conseil
recognition in comparison
d’un cerveau vieillissant. L’objectif est de mieux au financement de la protection sociale [8]. to 58 dermatologists. Ann Oncol.
comprendre et, à terme, de prédire comment 2018;29(8):1836-42.
la maladie se développera, en s’appuyant notam- CONCLUSION [6] Sciences et avenir avec
AFP. Une intelligence artificielle
ment sur une analyse fine des modifications
capable de reconnaître
anatomiques mais aussi métaboliques d’un cer- Les solutions nouvelles portées par l’IA et la le mélanome avec 95 %
veau touché. robotisation induisent un renouvellement des d’efficacité. 29 mai 2018.
z La dégénérescence maculaire liée à l’âge approches au sein de notre système de santé. https://www.sciencesetavenir.
fr/sante/dermato/cancer-de-la-
(DMLA) constitue également un terrain Il appartient aux pouvoirs publics, aux profes-
peau-une-intelligence-artificielle-
sionnels et aux patients de donner un cap et un meilleure-dans-le-depistage-que-
sens humain à ces transformations. n les-dermatologues_124423
Les points à retenir [7] Kermany DS, Goldbaum M,
Cai W et al. Identifying Medical
• L’intelligence artificielle (IA) et la robotisation Diagnoses and Treatable Diseases
se diffusent très rapidement dans un contexte by Image-Based Deep Learning.
Cell. 2018;172(5):1122-31.
de compétition mondialisée pour le déploiement
[8] Libault D. Rapport
de ces innovations au sein des systèmes de santé. de la concertation Grand âge
• La technique la plus mature est, à ce stade, et autonomie. Mars 2019.
l’apprentissage machine par reconnaissance d’image https://solidarites-sante.gouv.
fr/affaires-sociales/personnes-
avec de nombreux cas d’usage déjà développées
agees/concertation-grand-
en imagerie ; age-et-autonomie/article/
• Les exemples de la prise en charge rapport-de-la-concertation-
du cancer et du vieillissement permettent grand-age-et-autonomie
législation
Enjeux juridiques
de la protection des données
MATHIEU GAUTIER z Protéger les données à caractère personnel qui ont été confiées par un patient doit aujourd’hui
Avocat devenir un réflexe pour tout professionnel de santé, qu’il intervienne dans une structure sanitaire
DELPHINE JAAFAR* ou médicosociale, ou qu’il exerce en libéral, seul ou en cabinet z Si son niveau de responsabilité
Avocat associé peut être différent en fonction des modalités d’exercice choisies, le professionnel de santé est un
Cabinet Vatier, maillon essentiel de la chaîne lorsqu’il est question de sécurité des données mais également de
41, avenue de Friedland,
75008 Paris, France
droits des patients z Bien comprendre ce qu’est une donnée à caractère personnel ou une donnée
dite sensible, et les différentes obligations qui découlent du traitement de ces données, constitue
des prérequis indispensables pour pouvoir répondre aux exigences de sécurité et de protection
des données imposées par la législation française et européenne.
© 2019 Elsevier Masson SAS. Tous droits réservés
Mots clés – Commission nationale de l’informatique et des libertés ; donnée de santé ; donnée personnelle ;
donnée sensible ; règlement général sur la protection des données
Legal issues surrounding data protection. Protecting personal information provided by a patient
must now be automatic for all health professionals, whether they work in a health or medical-social
facility or in private practice, alone or alongside other professionals. While their level of responsibility
may vary depending on the chosen method of practice, the health professional is an essential link
in the chain with regard to data security as well as patients’ rights. Understanding what constitutes
personal information or sensitive information and the different obligations resulting from its processing
is essential in order to be able to comply with data security and protection regulations imposed by
French and European law.
© 2019 Elsevier Masson SAS. All rights reserved
Keywords – data protection regulations; French national commission for data protection and civil liberties;
health data; personal data; sensitive data
z La finalité d’un traitement de données est même si l’exercice de certains d’entre eux peut
RÉFÉRENCES l’objectif en vue duquel les données ont été col- être relativisé. Elle peut notamment accéder aux
[1] Loi n° 78-17 du 6 janvier lectées. À cet effet, un responsable de traitement données détenues par le professionnel de santé la
1978 relative à l’informatique, doit définir en amont les raisons pour lesquelles concernant, en obtenir la rectification, en limiter
aux fichiers et aux libertés.
Article 2. https://www.legifrance.
il traite les données des personnes et le (ou les) le traitement, en obtenir une copie, s’y opposer
gouv.fr/affichTexteArticle.do;jse fondement(s) qui lui permettent de justifier de ou obtenir leur effacement [4].
ssionid=D9DECDDCB6452209ED la réalisation de ce traitement. Car ce dernier ne z Ces deux derniers droits sont de ceux qui
5AF0E0C347BCA9.tplgfr44s_1?i sera considéré comme licite que s’il est réalisé sur doivent être relativisés car ils peuvent avoir des
dArticle=LEGIARTI00003709013
5&cidTexte=JORFTEXT00000088
la base d’un fondement précis tel que notamment conséquences sur la capacité du professionnel de
6460&categorieLien=id&dateTe le consentement de la personne ou le respect santé à délivrer des soins à la personne concernée.
xte=20190531 d’une obligation légale à laquelle le responsable Ainsi, s’opposer au traitement des données peut
[2] Commission nationale est soumis. être contraire à l’intérêt des personnes concer-
de l’informatique et des libertés
(Cnil). Règlement (UE) 2016/679
Ici, une confusion peut s’opérer pour certains nées et le professionnel de santé peut justifier du
du Parlement européen professionnels de santé. Ainsi, alors que la LIL refus de l’exercice de ce droit s’il estime et justifie
et du Conseil du 27 avril 2016. ou le RGPD n’imposent pas nécessairement de la nécessité de disposer de ces informations.
Article 4. Définitions. https://
le consentement pour réaliser des traitements De même, le droit à l’effacement des données
www.cnil.fr/fr/reglement-
europeen-protection-donnees/
de données de santé, le Code de la santé publique concernant la santé doit être contrebalancé avec
chapitre1#Article4 (CSP), lui, peut imposer le recueil et la conser- l’obligation prévue par le CSP et qui s’impose à
vation d’un tel consentement avant la collecte ou tout professionnel de santé de conserver le dos-
le partage d’informations. sier médical de son patient. Si la durée de conser-
Il ne faut donc jamais oublier que les obligations vation n’est pas précisée par ce code, la possibilité
qui sont mentionnées dans la LIL et le RGPD pour des professionnels de santé de voir leur res-
ne sont pas exclusives d’autres prescriptions ponsabilité engagée dix ans après les derniers
imposées notamment par le CSP. soins octroyés peut les aiguiller.
z Une attention particulière doit être portée z En outre, le pendant de la reconnaissance
aux traitements relatifs à des données concer- des droits de la personne concernée est la
nant la santé puisqu’elles constituent des don- nécessité d’informer celle-ci sur ces droits. Sur ce
nées dites sensibles dont le traitement est interdit point, les professionnels de santé ne seront pas
par principe. déstabilisés tant le CSP, très inspiré par les juri-
Pour traiter de telles données, il faut pouvoir dictions, a étendu l’obligation d’information des
démontrer que l’une des conditions, mention- patients. Sans détailler précisément les exigences
nées au paragraphe 2 de l’article 9 du RGPD [3], prévues pour l’information des personnes, il sera
est remplie. Pour les professionnels de santé, il précisé que la mise en place du registre des acti-
pourra notamment être fait référence au point vités de traitement peut grandement faciliter le
h de cet article qui indique : « le traitement est process qui peut être accompli soit par une fiche
nécessaire aux fins de la médecine préventive ou de la simple et lisible remise à chaque patient, soit par
médecine du travail, de l’appréciation de la capacité de un affichage dans la salle d’attente du cabinet.
travail du travailleur, de diagnostics médicaux, de la Il est à noter que la Cnil a fourni une fiche d’infor-
prise en charge sanitaire ou sociale, ou de la gestion des mation détaillée sur les traitements de données
systèmes et des services de soins de santé ou de protection de santé et les modalités d’informations des per-
sociale sur la base du droit de l’Union, du droit d’un sonnes concernées qui est à jour des évolutions de
État membre ou en vertu d’un contrat conclu avec un la réglementation [5]. Il faut à ce titre souligner le
professionnel de la santé et soumis aux conditions et rôle proactif de la Cnil qui a mis en ligne plusieurs
garanties visées au paragraphe 3. » fiches suite à l’entrée en vigueur du règlement.
Le responsable de traitement devra donc pouvoir z Pour finir avec les enjeux juridiques de la
justifier qu’il agit dans un cadre juridique précis protection des données, deux points qui ont
pour pouvoir mettre en œuvre des traitements évolué de manière importante depuis l’entrée
de données concernant la santé, ce qui est facilité en vigueur du RGPD le 25 mai 2019 doivent être
pour les professionnels de santé même s’il faut évoqués.
être vigilant. Le rôle et la responsabilité du sous-traitant ont été
z La protection des données porte également revus et corrigés afin d’intégrer une obligation de
sur les droits reconnus à la personne concer- contractualiser avec le responsable du traitement
née pour les données qui sont traitées. En effet, des données, permettant ainsi d’encadrer une
celle-ci dispose toujours de droits sur ces données relation parfois en manque de définition claire.
réflexion
Intelligence artificielle :
un atout pour les patients ?
GIOVANNA MARSICO z Si l’intelligence artificielle (IA) a pu faire naître des inquiétudes, ces questionnements laissent
Déléguée au service public aujourd’hui la place à une nécessaire réflexion de fond pour mobiliser les avancées possibles
d’information en santé
pour les patients z De ce point de vue, l’IA peut constituer un véritable levier de renforcement de
Ministère des Solidarités
et de la Santé, 14 avenue
la relation médecin-patient mais sous réserve d’un certain nombre de conditions.
Duquesne, 75007 Paris, France © 2019 Elsevier Masson SAS. Tous droits réservés
Mots clés – démocratie sanitaire ; droit des patients ; information ; intelligence artificielle ; robotisation ; service
public d’information en santé
Artificial intelligence: a benefit for patients? While artificial intelligence (AI) may have raised
concerns, these questions are now making way for in-depth discussions on how to take advantage
of its potential to ensure advances for patients. From this point of view, AI can constitute a real lever
for strengthening the doctor-patient relationship, subject to a certain number of conditions.
© 2019 Elsevier Masson SAS. All rights reserved
Keywords – artificial intelligence; automation; health democracy; information; patients’ right; public health
information service
d’établir une décision partagée entre profes- épidémiologique de l’accès aux soins sur les ter-
RÉFÉRENCES
sionnel et patient/usager sur la base de don- ritoires, les applications de l’IA au service de la
nées fiables, riches et précises, et de contribuer santé suscitent des attentes importantes auprès [1] Berquin A. Le modèle
biopsychosocial : beaucoup
à réduire, grâce à cela, les inégalités d’accès à la des patients. plus qu’un supplément
santé des personnes. z Si la formation des professionnels doit être d’empathie. Rev Med Suisse.
z Évidemment, cette transition demande un renforcée, la compréhension des enjeux de la 2010;6(258):1511-3.
[2] Hern A. Royal Free breached
effort considérable en termes de formation part des usagers doit également être assurée,
UK data law in 1.6m patient
auprès des professionnels : la culture de la don- notamment sur la question du consentement au deal with Googles DeepMind.
née, qui suscite déjà une appétence forte auprès traitement des données personnelles de santé par The Guardian. 3 juillet 2017.
des acteurs industriels, doit prendre toute sa place les systèmes d’IA. Qu’il ne s’agisse pas d’une ques- https://www.theguardian.com/
technology/2017/jul/03/google-
dans les études en santé afin que les profession- tion accessoire comme le montre l’arrêt en 2017
deepmind-16m-patient-royal-
nels développent des nouvelles compétences et de l’initiative conjointe entre la société DeepMind free-deal-data-protection-act
adaptent leurs pratiques. et le National Health Service (NHS) anglais à cause [3] Stokel-Walker C. Why Google
Il suffit d’imaginer la qualité d’une consultation d’une mauvaise information auprès des patients consuming DeepMind Health is
scaring privacy experts. Wired.
préparée avec un support de type text mining : sur l’usage de leurs données [2]. Depuis, l’absorp- 14 novembre 2018.
avant de rencontrer le médecin, le patient pour- tion de DeepMind par le nouveau Google Health https://www.wired.co.uk/article/
rait lui transmettre son histoire, lui raconter son génère des fortes préoccupations auprès d’un google-deepmind-nhs-health-
style de vie. Cela permettrait d’arriver en consul- million six cent mille patients du NHS [3]. data
[4] Kusner MJ, Loftus JR, Russel C,
tation avec une vraie étude des antécédents médi- z D’autres réserves doivent être résolues, Silva R. Counterfactual Fairness.
caux et comportementaux tels que le travail, la vie comme la capacité des systèmes d’IA de présen- https://arxiv.org/abs/1703.06856
familiale, le contexte social, selon une approche ter des biais de sous-représentation de certains [5] Coiera E, Baker M, Magrabi F.
de participation active du patient telle que celle patients qui peuvent aboutir à des conclusions First compute no harm. 19 juillet
2017. https://blogs.bmj.com/
formalisée par le modèle bio-psycho-social de erronées s’ils ne sont pas pris en compte ou, pire, bmj/2017/07/19/enrico-coiera-
George Libman Engel [1]. s’ils ont été voulus sciemment [4]. Les robots sont et-al-first-compute-no-harm/
des pages blanches : si les données en entrée sont
DES PERSPECTIVES PUISSANTES, incomplètes, biaisées ou erronées, elles peuvent
MAIS À CERTAINES CONDITIONS impacter la finalité de l’algorithme.
z La question des responsabilités doit éga-
Du développement de modèles prédictifs d’une lement être évoquée. Si le système d’IA émet
pathologie à la création de systèmes de diagnostic un diagnostic erroné ou inadapté, qui sera
précoce, en passant par la création de chatbots reconnu responsable ? Le programmateur, le
(programmes d’assistance conversationnelle), distributeur, le professionnel qui a pris la déci-
ou l’identification de la bonne molécule (parmi sion ? Cela souligne la nécessité que les systèmes
une pluralité) susceptible d’être développée d’IA puissent expliquer aux opérateurs et aux
du laboratoire à la clinique, ou encore l’analyse personnes concernées comment ils sont arrivés à
leurs conclusions, en fournissant les preuves qui
sont à la base de leur raisonnement afin que les
Les points à retenir destinataires puissent décider de ne pas suivre
• Le contexte épidémiologique contemporain la suggestion en cas de doute sur une éventuelle
et les évolutions technologiques et scientifiques erreur [5].
renforcent la complexité du diagnostic. z Doit être aussi prise en compte toute la place
• L’intelligence artificielle (IA) se révèle être de l’éthique dans la réflexion sur les usages. Est-il
un outil puissant d’aide à la décision tant pour imaginable, par exemple, qu’un système d’IA
les professionnels que pour les usagers du système puisse être utilisé pour prendre des décisions sur
de santé. la fin de vie s’agissant de choisir entre prolonge-
• Les attentes des patients et des usagers sont ment des soins ou arrêt des thérapies actives ?
importantes à cet égard. z L’IA a fait des pas de géant et d’autres encore
• L’application de l’IA au domaine de la seront à faire. Il s’agit d’une technologie puis-
santé suscite des enjeux de formation auprès des sante, apte à nous aider à faire face à de multiples
professionnels et de communication en direction des problèmes. Toutefois, il nous revient de décider
publics, concernant les impacts qu’elle peut générer. dans quels champs et comment l’utiliser, avec
• L’introduction des systèmes cognitifs de type l’espoir qu’elle intervienne à rendre notre société Déclaration de liens d’intérêts
IA nécessite la définition d’un socle éthique dédié. meilleure, plus juste, plus inclusive et toujours L’auteur déclare ne pas
humaine. n avoir de liens d’intérêts.
santé mentale
Intelligence artificielle
et soins infirmiers : réflexions
en psychiatrie
MARIE-ASTRID MEYER z Véritable priorité gouvernementale, l’intelligence artificielle (IA) dans le domaine de la santé est
Infirmière coordinatrice une opportunité à saisir pour les professionnels infirmiers z Face aux difficultés quotidiennes
de parcours de soins
et recherche
rencontrées, l’IA pourrait permettre de repenser les soins infirmiers en psychiatrie et libérer du
Pôle hospitalo-universitaire
temps aux professionnels pour être davantage au chevet du patient z Encore faut-il que formation
Psychiatrie Paris 15, GHU Paris et pluridisciplinarité soient au rendez-vous.
Psychiatrie et Neurosciences, © 2019 Elsevier Masson SAS. Tous droits réservés
1, rue Cabanis, 75674 Paris Mots clés – aide à la décision ; formation ; intelligence artificielle ; interdisciplinarité ; psychiatrie ; révolution
cedex 14, France
technologique ; soin infirmier
Artificial intelligence and nursing care: reflections in psychiatry. A key government priority,
artificial intelligence (IA) in healthcare is a real opportunity for nursing professionals. Faced with the
daily difficulties encountered, AI could bring a new perspective to nursing care in psychiatry and
free up time for professionals which they can then spend with the patient. More training and a multi-
disciplinary approach are required.
© 2019 Elsevier Masson SAS. All rights reserved
Keywords – artificial intelligence; decision-making tool; interdisciplinarity; nursing care; psychiatry; technological
revolution; training
Cette pression mise sur les moyens est directement INTELLIGENCE ARTIFICIELLE
subie par les professionnels qui peinent à exercer ET SYSTÈME DE SANTÉ
leur art, ce qui impacte la qualité et la sécurité des
soins ainsi que la qualité de vie des soignants au z L’IA est un terme qui nourrit de nombreux
travail. Notre profession manque d’attractivité, et fantasmes qu’il est nécessaire de reprendre afin
peine à garder ses professionnels dans la durée. de lever les craintes et d’essayer d’entrevoir l’aide
Dans le même temps, les patients sont de mieux qu’il peut représenter. Selon le Larousse, l’IA est
en mieux informés et les sources d’information un « ensemble de théories et de techniques mises en œuvre
qui leur sont offertes ne sont pas toujours pro- en vue de réaliser des machines capables de simuler l’in-
bantes. Le système de santé français est en pleine telligence humaine » [1]. L’IA puise ses capacités
mutation et doit faire face à de nombreux défis, d’apprentissage grâce au stockage de données
comme le vieillissement de la population et la et d’algorithmes contenus dans le monde numé-
progression des maladies chroniques, les zones rique. La machine ne réfléchit pas, elle n’a pas
rurales sous-dotées en médecin, les fermetures de conscience. En revanche, elle apprend sans
de lits qui entraînent des durées moyennes de cesse et analyse selon des règles combinatoires.
séjour (DMS) de plus en plus courtes. Sa capacité de calcul, de mémorisation et de clas-
Face à ces constats préoccupants, il est un secteur sement de l’information est largement supérieure
en constante évolution, qui pourrait être porteur à celle du cerveau humain. Elle ne peut raisonner
Adresse e-mail :
pour la santé : celui du numérique et des hautes ou même réfléchir.
mam.meyer@yahoo.fr technologies. Il pourrait même impacter positi- z Le terme même d’intelligence (artificielle)
(M.-A. Meyer). vement l’ensemble de l’organisation et les soins n’est donc pas juste, mais sa vitesse de traitement
INTELLIGENCE ARTIFICIELLE
ET SOINS INFIRMIERS
© ipopba/stock.adobe.com
secondaires, le choix du traitement, l’analyse des ne peut réaliser. Celle-ci se contente de calculer et
RÉFÉRENCES données scientifiques universelles, l’aide dans de résoudre des problèmes en prenant en compte
[1] Intelligence artificielle. l’élaboration du parcours du patient ou dans la différentes valeurs, données, et de proposer une
Larousse. https://www.larousse. prise de décision. solution.
fr/encyclopedie/divers/
intelligence_artificielle/187257
z En associant psychiatrie/neurosciences
[2] Dilsizian SE, Siegel EL. et IA, nous avons un ensemble de recherches en FREINS ACTUELS
Artificial intelligence in medicine cours qui mériteraient d’être couplées, analysées
and cardiac imaging : harnessing
par l’IA. Cela permettrait très certainement d’in- Le manque de formation des professionnels
big data and advanced computing
to provide personalized medical
nover dans nos pratiques, d’être plus efficient médicaux et paramédicaux dans le domaine
diagnosis and treatment. et de favoriser la formation personnalisée des de l’IA rend difficile sa mise en route sur le ter-
Curr Cardiol Rep. 2014;16(1):441. soignants d’une part, des patients et des familles rain. Trop coûteux pour certains, incompré-
[3] Millon L. L’intelligence Watson
de l’autre, le tout en prenant en compte les stig- hensible pour d’autres, l’IA reste peu ou mal
d’IBM aide les médecins pour
les traitements contre le cancer. mas, et le contexte de vie connue. L’université a
6 juin 2017. https://siecledigital. du patient. Ne laissons pas l’intelligence donc un rôle important
fr/2017/06/06/lintelligence- L’IA a déjà montré son à jouer, tout comme les
watson-dibm-aide-les-medecins-
opérationnalité dans la artificielle, la machine, établissements de santé.
pour-les-traitements-contre-le-
cancer/ prévention du suicide en Développer l’IA oblige
[4] Villani C, Schoenauer M, analysant le contenu des s’installer dans notre quotidien à regrouper différentes
Bonnet Y et al. Donner un réseaux sociaux [6], dans entités, métiers (mathé-
sens à l’intelligence artificielle.
Pour une stratégie nationale
la détection des patients à sans avoir participé maticiens, informati-
et européenne. Paris: risques de psychose [7] ou ciens, etc.) et doit être
La Documentation française; encore dans la compré- à son élaboration imaginé avec tous les
2018. Rapport. https://www. hension du trouble de la professionnels de terrain.
ladocumentationfrancaise.fr/
rapportspublics/184000159/
personnalité limite [8]. Alors pourquoi s’en pri- À ce jour, les professionnels déjà convaincus res-
index.shtml ver ? La robotique pourrait également prendre tent isolés et ne savent comment lever les freins
[5] Robot capable de faire une place dans notre quotidien. Prenons en exemple et obstacles rencontrés.
prise de sang. www.youtube.
le robot Kaspar [9] qui a été conçu pour amélio-
com/watch?v=QcrBFW3zPoA
[6] Axel. L’intelligence artificielle
rer la qualité de vie des enfants atteints d’autisme CONCLUSION
pour prévenir les suicides. en les aidant dans l’apprentissage des interactions
11 janvier 2018. https://www. sociales, la communication. La psychiatrie est une discipline en évolution per-
innovant.fr/2018/01/11/
z Le duo infirmier-machine s’envisage très manente, qui n’a pas livré tous ses secrets, tout
lintelligence-artificielle-prevenir-
suicides/ bien si l’on considère que notre métier est en comme d’autres disciplines, elle offre un terrain
[7] Corcoran CM, Carrillo F, constante évolution, que la machine n’éprouve propice au développement de l’IA. Elle permet-
Fernández-Slezak D et al. pas de sentiments et que donc la place de l’infir- trait d’aider le patient et sa famille, mais égale-
Prediction of psychosis across
mier n’est pas forcément menacée. L’empathie, ment la recherche et les professionnels.
protocols and risk cohorts using
automated language analysis. l’écoute active sont des éléments que la machine Les universités devraient intégrer ces nouvelles
World Psychiatry. 2018;17(1):67- technologies de pointe dans l’enseignement
75. de tous les futurs professionnels de santé. Il
[8] Fineberg Sk, Stahl D, Corlett P.
Les points à retenir serait bon de travailler en équipes pluriprofes-
Computational Psychiatry
in Borderline Personality Disorder. • L’intelligence artificielle (IA) offre sionnelles plutôt que par profession. Le patient
Curr Behav Neurosci Rep.
des possibilités pour nous venir en aide, que ce soit est un tout. Sa prise en charge doit l’être égale-
2017;4(1):31-40. ment quelle que soit la profession du soignant.
[9] Serena M. Kaspar, le robot
dans l’organisation, dans l’apport de connaissances,
humanoïde social. 10 avril 2017. l’analyse, la recherche, en passant par la robotique Ne soyons plus médicocentrés, mais plutôt centrés
https://mbamci.com/kaspar-le- et même les objets connectés. sur le patient, en équipe et avec des outils d’aide
robot-humanoide-social/
• La psychiatrie se doit d’investir dans cette à la décision tels que l’IA.
démarche en développant une plateforme d’IA Alors que nous avons tendance à voir la machine
spécifique regroupant les données utiles aux divers comme un risque potentiel de déshumanisation
professionnels de santé qu’ils soient médicaux des soins, il serait temps de réaliser que nous le
ou paramédicaux, et réfléchie autour de la notion sommes déjà par manque de temps, de lits, etc.
de parcours du patient. Ainsi vue, l’IA pourrait être une des clés futures
• Le manque de formation des professionnels permettant de remettre de l’humain dans nos
Déclaration de liens d’intérêts médicaux et paramédicaux dans le domaine de l’IA pratiques quotidiennes. n
L’auteur déclare ne pas rend difficile sa mise en route sur le terrain.
avoir de liens d’intérêts.
domicile
Le numérique et l’exercice
infirmier, opportunités
et disparités entre l’hôpital
et la ville
z Alors que l’usage du numérique s’est développé dans l’exercice infirmier à l’hôpital, ce mouvement FLORENCE HERRY
est en retard à domicile z Des facteurs structurels peuvent expliquer ces disparités, qui tiennent Infirmière, fondatrice
de Libheros
aussi à une insuffisance de formation des professionnels libéraux et à un manque d’adaptation
Libheros, 28, rue Beaubourg,
des outils numériques à leur mode d’exercice z Pour autant, il existe des solutions adaptées et 75003 Paris, France
innovantes pour y remédier, comme des plateformes d’organisation des soins à domicile.
© 2019 Elsevier Masson SAS. Tous droits réservés
Mots clés – domicile ; infirmière libérale ; objet connecté ; outil numérique ; soin ; téléconsultation ;
télé-expertise
Digital technology and nursing practice, opportunities and disparities between hospital
and community care. While the use of digital technology has developed in nursing practice in the
hospital setting, this movement is late to arrive in homecare. Structural factors can explain these
disparities, which are also due to insufficient training of private practice professionals and the fact
that digital tools are not always suited to their mode of practice. However, there are adapted and
innovative solutions, such as platforms for the organisation of homecare.
© 2019 Elsevier Masson SAS. All rights reserved
Keywords – care; connected object; digital tool; home; private practice nurse; tele-consultation; tele-expertise
DÉVELOPPEMENT DU NUMÉRIQUE
D e nombreux services de soins, hospitaliers
ou non, utilisent encore des dossiers patients
sous leur forme papier. Est-ce par habitude, par
À L’HÔPITAL
manque de temps ou par crainte de perdre des z Si les professionnels de santé sont
informations ? Dans ces services, une partie du convaincus que le numérique est « une opportunité
dossier est souvent informatisée et l’autre manus- pour la qualité des soins », les pratiques restent extrê-
crite : cela génère une réelle perte de temps pour mement limitées en matière de recours aux ser-
la collecte des informations et un risque d’erreur vices digitaux et aux outils de la santé connectée,
important pour les médecins et les infirmiers. selon les résultats du Baromètre santé 360, réalisé
Pourtant, la situation n’est pas forcément plus par Odoxa pour la Chaire santé de Sciences-Po
simple dans les services où le dossier est informatisé. Paris , présentés en mars 2018 [1]. S’il existe dans
En effet, il existe souvent plusieurs logiciels dédiés les entreprises une adaptation au changement
au suivi du patient : un dossier de soins infirmiers, voire un accompagnement à la transformation
un dossier pharmaceutique, un dossier médical, un numérique, il est évident que les professionnels
intranet de résultats d’analyses médicales, etc. de santé des hôpitaux devraient également en
Pour la plupart, ces logiciels n’ont pas été conçus bénéficier.
avec des professionnels de santé mais plutôt z Des dossiers patients informatisés (DPI),
imaginés pour eux par des éditeurs de logiciels adaptés et correctement remplis, sont en effet
métiers hospitaliers. L’adaptation à ces outils d’une grande aide pour la prise en charge globale Adresse e-mail :
est primordiale, tout comme la formation des du patient (prise de décision et diagnostic plus fherry@libheros.fr
professionnels. rapides), la collaboration interdisciplinaire et la (F. Herry).
DIGITAL À DOMICILE
En dépit de ce constat d’ensemble, la digitalisa-
La population française est très favorable à la digitalisation dans le domaine de la santé. tion des services de santé à domicile s’est toutefois
accélérée au cours de ces dernières années [2].
sécurité des données des patients. Ce paramètre Des exemples d’innovation à domicile doivent
NOTES est d’autant plus essentiel dans un contexte où être soulignés comme les services Maela1, e-Fit-
1
La société Maela a développé les médecins et les infirmiers disposent de moins back2 ou encore MemoQuest3, qui permettent
la plateforme de suivi médical en moins de temps et ont donc besoin d’obtenir aux médecins hospitaliers de suivre les patients à
connectée du même nom,
pour les établissements de
rapidement des informations complètes et sûres. domicile, en post-hospitalisation.
santé, afin de faciliter la prise z Alors qu’il était impensable d’imaginer un z Par ailleurs, des applications et des sites
en charge ambulatoire et ordinateur sur le charriot d’un infirmier dans le de téléconsultation se développent et permet-
la réhabilitation améliorée
couloir d’un service de soins, aujourd’hui celui-ci tent d’avoir accès depuis son domicile, en moins
après chirurgie. www.maela.fr/
2
E-Fitback (société Nouvéal)
devrait même être remplacé par une tablette, de cinq minutes, à un médecin généraliste ou
est une application qui voire un smartphone… Ainsi, les hôpitaux sont à un spécialiste (gynécologue, pédiatre, derma-
permet au patient d’effectuer devenus des lieux de soins très digitalisés par rap- tologue, nutritionniste, psychologue, sexolo-
sa préadmission et son suivi
port au domicile. gue et médecin du sport), sept jours sur sept.
postopératoire en ligne.
https://nouveal.com/fr/solution- À la suite de cette téléconsultation, il est même
e-fitback/ CONTINUITÉ DE PRISE EN CHARGE possible d’imprimer ses ordonnances pour se
3
MemoQuest (société Calmedica) rendre à la pharmacie. Aux États-Unis, il devrait
est un outil de suivi automatisé
z Une très grande disparité dans la digitalisa- y avoir plus de visites médicales virtuelles que
par SMS des patients en
amont et en aval de leur séjour tion des process de prise en charge est constatée physiques d’ici 2020 [3].
hospitalier. www.calmedica.fr/ entre l’hôpital et le domicile. Le domicile du z Les infirmiers libéraux ont un rôle important à
4
Albus. L’appli des infirmiers. patient n’est pas équipé comme une chambre jouer dans l’accompagnement des patients aux
Une application mobile gratuite
d’information pour tous
d’hôpital, même s’il existe de nombreux dispo- nouveaux dispositifs d’accès aux soins à domicile.
les infirmiers. www.albus.fr/appli- sitifs médicaux plus ou moins connectés dans le Les outils numériques qu’ils utilisent sont majoritai-
dossiers-de-soins/ domaine de la santé : lits médicalisés, bracelets et rement liés à leur exercice quotidien, notamment le
5
e-Pansement. Plaies & pansements connectés, capteurs de sommeil, etc. logiciel de télétransmission pour lequel ils disposent
Cicatrisation. www.e-pansement.
fr/
Des facteurs structurels peuvent expliquer cet d’une aide financière. Parfois, ce type de logiciels
6
Libheros. Une solution mobile écart entre hôpital et domicile, comme la taille propose des agendas et des dossiers de soins infir-
pour faciliter la mise en relation souvent restreinte du logement ne permettant miers, mais peu sont utilisés en pratique. Quelques
avec les patients. https://pro.
pas la mise en place de matériel, ou le manque infirmiers libéraux utilisent des applications mobiles
libheros.fr
de moyens financiers des patients et de leurs dédiées aux soins infirmiers comme AlbuSoins4 ou
proches. Cependant, la question de la formation e-Pansement5. De plus, les outils digitaux leur appor-
des soignants à domicile aux outils numériques tent une plus grande visibilité, donc une nouvelle
est aussi en jeu. patientèle, tout en respectant les règles de déon-
z Très souvent, à la sortie de l’hôpital, l’in- tologie (pas de publicité). Dans cette optique, la
firmier libéral contacté pour réaliser les soins solution Libheros Pro6, créée en 2017 à partir d’une
à domicile n’a pas accès au dossier médical expérience professionnelle infirmière, propose un
du patient. Il dispose de la prescription médi- accès au digital pour les infirmiers libéraux, facilite
cale mais pas du compte rendu d’hospitalisa- la relation avec les patients et constitue un moyen
tion (CRH) ni de la lettre de liaison. Au vu du de valoriser la profession.
CONCLUSION infirmiers-aussi-remuneres.html?
[7] Sécurité sociale : l’Assurance
Les points à retenir maladie (Ameli). ameli.fr pour
• Les professionnels de santé sont tous Le digital, bien implanté à l’hôpital, ne l’est pas les infirmiers. Convention
nationale des infirmiers : l’avenant
convaincus que le numérique est une opportunité assez à domicile. Pourtant, il pourrait favoriser
6 est signé. 1er avril 2019. https://
pour la qualité des soins, mais les pratiques restent, les hospitalisations en ambulatoire et la satisfac- www.ameli.fr/vendee/infirmier/
en l’état, limitées en matière de recours aux services tion du patient vis-à-vis de son expérience, qui actualites/convention-nationale-
digitaux et aux outils de la santé connectée. sont deux axes essentiels de la stratégie “Ma santé des-infirmiers-lavenant-6-est-
signe
• Une disparité très significative dans 2022” [8]. L’offre de soins doit être lisible et mise
[8] Ministère des Solidarités
la digitalisation des process des prises en charge à disposition des patients de manière transpa- et de la Santé. Ma santé 2022 :
des patients doit être constatée entre l’hôpital rente pour qu’ils soient accompagnés à leur sortie un engagement collectif. 2018.
d’hospitalisation. n https://solidarites-sante.gouv.
et le domicile. fr/systeme-de-sante-et-medico-
• La digitalisation des services de santé social/ma-sante-2022-un-
à domicile s’accélère au cours des dernières engagement-collectif/
entretien
Soins. Le développement du numérique et de l’intelli- sur la transformation digitale à tous les étages de
gence artificielle (IA) en santé peut susciter des inquié- notre système de santé.
tudes chez les professionnels paramédicaux. Comment
les écouter et les rassurer ? Soins. Vous êtes membre du CCNE qui, dans son avis
n° 129 [1] émis dans le cadre de la préparation de la
Cynthia Fleury-Perkins. Le premier devoir col- révision de la loi de bioéthique en septembre 2018,
lectif est effectivement de ne pas passer ces ques- a porté une vision d’ouverture quant au numérique
tionnements sous silence. Nous devons porter les en santé. Le comité relève qu’il existe encore trop de
© Hélie Gallimard
nécessaire. Mais cela ne veut pas dire que l’on peut rôle de supervision générale pourrait être dévolu à
tout faire. Un cadre juridique précis existe pour la Haute Autorité de santé (HAS) qui dispose d’ores
la protection des données et déjà d’une compétence
et il a été renforcé par le Dans la relation de soin, générale en matière de
règlement général sur la recommandations de
protection des données l’attention à l’autre dans bonnes pratiques. Un tel
(RGPD) qui est entré en cadre permettrait de ren-
vigueur en 2018 [3]. De son unicité constitue un facteur forcer l’efficacité et l’effi-
plus, des risques éthiques cience de notre système de
associés à l’IA doivent être absolument fondamental santé, tout en conservant la
identifiés et régulés. C’est souplesse opérationnelle
le cas notamment des risques de délégation de nécessaire à l’accompagnement de l’innovation.
la décision du médecin ou du consentement du
patient à la machine. Soins. Précisément, l’irruption de l’IA dans le processus
Dans ses différentes contributions, le CCNE consi- de prise en charge va confronter les soignants à des
dère comme prioritaire la diffusion du numé- questions nouvelles comme le risque d’une moindre
rique en santé. Il vient de le réaffirmer dans son prise en compte de la personne face à la logique collec-
très récent avis 130 consacré spécifiquement au tive de l’algorithme. Comment préserver cette éthique
big data en santé. Nous avons formé le vœu qu’en de la personne dans le soin à l’heure de l’IA ?
l’état des recherches et du développement de ces
technologies, le recours au droit opposable soit CFP. C’est effectivement l’un des angles de
circonscrit au maximum. Pour le dire plus direc- réflexion que nous avons abordés. Dans une
tement, vouloir fermer l’accès à la diffusion de l’in- société par ailleurs de plus en plus individua-
novation en médecine algorithmique ne serait pas liste à maints égards, il y a comme un paradoxe
éthique compte tenu de l’ensemble des avancées algorithmique : l’IA, en traitant des données en
possibles. Nous proposons, en outre, que soit enga- masse, peut apporter des décisions fondées sur
gée au cours des prochains mois une réflexion sur la l’intérêt du plus grand nombre mais réduisant
création d’instruments de régulation de type “droit l’attention accordée à une personne déterminée.
souple”, applicables à la diffusion du numérique Et cette évolution – qui pourrait très bien interve-
au sein de notre système de santé. Dans ce cadre, le nir sans que l’on s’en aperçoive, si aucune mesure
de régulation n’était prise –, heurte très profon- une série de situations traitées par l’IA. L’objectif
RÉFÉRENCES dément l’éthique des est bien d’appliquer un
[1] Comité consultatif soignants. Dans la rela- Il faut progresser vers deuxième regard humain
national d’éthique (CCNE).
tion de soin, l’attention pour s’assurer que l’IA
Avis 129. Contribution
du CCNE à la révision à l’autre dans son uni- des référentiels souples reste, au fil de son appren-
de la loi de bioéthique. cité constitue un facteur tissage (machine learning),
25 septembre 2018. https:// absolument fondamental. guidant l’innovation responsable éthiquement
etatsgenerauxdelabioethique.fr/
media/default/0001/01/8a7b70f
Nous devons impérative- et efficace médicalement.
f460d2e08c49786ec1d4ea7c62 ment éviter une érosion numérique à partir Nous devons maintenant
0fc7329.pdf de cette valeur avec l’ir- rapidement tester ces
[2] Chaire de philosophie ruption de l’IA au sein de d’une réflexion éthique appliquée méthodes sur le terrain
à l’hôpital. https://chaire-philo.fr/
[3] Règlement (UE) 2016/679
notre système de santé. autour de projets pilotes.
du Parlement européen Comment y parvenir concrètement ? C’est aussi le
et du Conseil du 27 avril sens des référentiels dont nous appelons le déve- Soins. Le CCNE relève le risque éthique d’une “surré-
2016 relatif à la protection loppement de nos vœux. Il faut bien comprendre glementation” en Europe dans un contexte de dévelop-
des personnes physiques
à l’égard du traitement
que le point clé est ici celui de notre capacité pement rapide de l’innovation en médecine algorith-
des données à caractère collective à préserver une autonomie de décision mique en Amérique du Nord et en Chine. Il s’agit sans
personnel et à la libre circulation du professionnel mais aussi une liberté de consen- doute d’un point de bascule dans une approche fran-
de ces données, et abrogeant
tement du patient à l’heure de l’IA. Et cet enjeu çaise jusqu’ici très centrée sur la production de normes
la directive 95/46/CE (règlement
général sur la protection
passe d’abord par l’éducation : notre société doit opposables. Du “droit dur” aux référentiels souples et
des données). https://eur-lex. mieux reconnaître et faire comprendre la valeur à l’éthique des professionnels, comment accompagner
europa.eu/legal-content/FR/TXT/ essentielle du libre arbitre dans nos choix essen- cette transformation ?
PDF/?uri=CELEX:32016R0679&
tiels. À défaut, nous risquons de basculer dans un
from=EN
[4] Ministère des Solidarités modèle dans lequel les médecins et les patients CFP. Nos systèmes de santé fonctionnent de
et de la Santé. Health Data Hub. ne joueront plus qu’un rôle “presse-bouton” de moins en moins en vase clos et la diffusion du
1er février 2019. www.health- décisions en réalité prises automatiquement par numérique accélère rapidement cette poro-
data-hub.fr/
algorithmes. sité. Si nous ajoutons – dans un environnement
juridiquement déjà plus cadré qu’ailleurs – de
Soins. Le CCNE évoque une “garantie humaine” nouvelles strates de réglementation, le danger
comme principe fondamental pour réguler les risques sera alors élevé que les professionnels et les
éthiques associés à l’IA en santé. Comment former les patients français se tournent vers des solutions
soignants à la nécessité de préserver ce regard humain ? d’IA conçues hors du périmètre du RGPD et dont
nous ne pourrions pas garantir a priori le caractère
CFP. Nous proposons, en effet, de faire entrer éthique.
dans la prochaine loi de bioéthique un principe Il faut donc progresser vers des référentiels
de “garantie humaine” de l’IA. Il a pour objectif souples guidant l’innovation numérique à par-
de stimuler le déploiement de méthodes pra- tir d’une réflexion éthique appliquée. Nous
tiques, centrées sur la délibération collégiale, devons aussi développer des plateformes sécuri-
permettant de garder un deuxième regard sées de traitements de données pour combiner
humain quand cela est nécessaire. Par exemple, des capacités élargies de partage et une vérifi-
nous reprenons l’idée d’un “collège de garan- cation de l’impératif de protection. C’est l’un
tie humaine” associant médecins, soignants et des objectifs du Health Data Hub [4] en cours de
Déclaration de liens d’intérêts représentants des patients dont la vocation – dans déploiement. n
L’auteur déclare ne pas l’esprit d’une méthode de type revue de cas plu-
avoir de liens d’intérêts. ridisciplinaire – serait d’analyser régulièrement Propos recueillis par David Gruson
profession
L’intelligence artificielle
en santé et la transformation
des métiers du soin
z Les métiers de la santé, en intégrant l’intelligence artificielle (IA) à leur pratique, vont évoluer vers LAURE MILLET
une meilleure qualité des soins et des prises en charge z Ces évolutions impliquent de nouvelles Chargée d’études
du Programme Santé
compétences auxquelles les professionnels doivent être formés z Une méthodologie de chiffrage des
Institut Montaigne,
impacts de l’IA sur les emplois en santé peut être utilisée afin d’accompagner ces transformations 59, rue la Boétie,
et de les anticiper. 75008 Paris, France
© 2019 Elsevier Masson SAS. Tous droits réservés
Mots clés – formation ; intelligence artificielle ; parcours de soins ; responsabilité sociétale d’entreprise digitale ;
santé personnalisée
Keywords – artificial intelligence; care pathway; digital corporate social responsibility; personalised healthcare;
training
RÉFÉRENCES LES EFFETS DE L’IA EN SANTÉ niveau de délégation susceptible d’être accordé
aux professions paramédicales.
[1] Villani C, Schoenauer M,
Les métiers de la santé, en intégrant les inno- z Si l’IA ne menace pas directement les méde-
Bonnet Y et al. Donner un sens
à l’intelligence artificielle : vations permises par l’IA, vont évoluer vers une cins à court terme, ses effets seront plus impor-
pour une stratégie nationale prise en charge des patients plus efficiente et une tants sur les fonctions de support aux soins.
et européenne. Paris: meilleure qualité des soins. Ces changements Plusieurs logiciels existent déjà et répondent
La Documentation française;
impliquent de nouvelles compétences auxquelles à des fonctions techniques et administratives
2018. Rapport. https://www.
ladocumentationfrancaise.fr/ les personnels de l’hôpital doivent être formés dès communes à d’autres secteurs. Ces solutions vont
rapports-publics/184000159/ à présent. À ce titre, le Conseil consultatif national progressivement s’implanter à l’hôpital.
index.shtml d’éthique (CCNE) a développé le concept d’ac-
[2] Ministère des Solidarités
et de la Santé. Ma santé 2022 :
compagnement en garantie humaine [6], qui LE CHIFFRAGE DES IMPACTS
un engagement collectif. 2018. consiste à expliquer aux patients le rôle des algo-
https://solidarites-sante.gouv. rithmes dans la pose d’un diagnostic ou le choix z La méthodologie de chiffrage proposée dans
fr/systeme-de-sante-et-medico- d’un traitement les concernant. l’étude de l’Institut Montaigne [5] est articu-
social/ma-sante-2022-un-
engagement-collectif/
z Dans les établissements de soins, les solutions lée autour de six étapes clés. Il s’agit d’abord de
[3] Question sociale et santé : d’IA de pointe sont présentes surtout dans les recenser l’ensemble des effectifs par catégories
organisation et transformation centres les plus innovants, et permettent de faire professionnelles du secteur de la santé, puis de
du système de santé. 13 février
progresser la médecine et la recherche en santé. répertorier les métiers appartenant à celles-ci.
2019. http://www.assemblee-
nationale.fr/dyn/15/dossiers/
Ces technologies de pointe ne se substituent pas Sont ensuite identifiées les activités ou tâches cor-
organisation_transformation_ nécessairement à l’intervention humaine, mais respondant à chaque métier, ce qui permet dès lors
systeme_sante augmentent les capacités du médecin. D’autres de déterminer le taux de substitution de chaque
[4] Direction de la recherche,
établissements se dotent de solutions plus géné- activité identifiée. L’étape suivante consiste à mesu-
des études, de l’évaluation
et des statistiques (Drees). ralistes, qui répondent à des besoins de santé plus rer le taux de substitution pour le métier, avant de
Les établissements de santé. courants et s’appuient sur la digitalisation de la réaliser des scénarios d’impact.
Panoramas. 2017. https://drees. prise en charge des patients. De tels dispositifs z Parce qu’elles créent les conditions d’un
solidarites-sante.gouv.fr/etudes-
peuvent être déployés dans les territoires marqués dialogue articulé autour des professionnels
et-statistiques/publications/
panoramas-de-la-drees/article/ par une pénurie d’offre médicale. concernés, la création puis la mise en place d’une
les-etablissements-de-sante- z Les conditions d’exercice des spécialités telle méthodologie devraient représenter un enjeu
edition-2017 médicales et des fonctions de support aux soins prioritaire pour les pouvoirs publics.
[5] Institut Montaigne. IA
et emploi en santé : quoi de neuf
vont aussi durablement changer. Les spécialités
docteur ? Janvier 2019. telles que l’ophtalmologie ou la radiologie sont UNE RSE DIGITALE
http://www.institutmontaigne. les disciplines au sein desquelles l’apprentissage DANS LES ÉTABLISSEMENTS DE SANTÉ
org/ressources/pdfs/ automatique et le code numérique sont les plus
publications/ia-et-emploi-en-
sante-quoi-de-neuf-docteur-note.
opérationnels. En conséquence, elles seront les z La responsabilité sociale d’entreprise (RSE)
pdf plus rapidement impactées par l’IA et leurs acti- digitale promeut un cadre propice à la conduite
[6] Comité consultatif vités se déplaceront vers d’autres, à plus haute du changement. Il s’agit d’appliquer la notion de
national d’éthique (CCNE).
valeur ajoutée, tandis que les tâches les plus RSE à l’engagement de mesures d’accompagne-
Avis 129. Contribution
du CCNE à la révision
rébarbatives seront effectuées par la machine. ment des effets sociétaux induits par la transfor-
de la loi de bioéthique. Par ailleurs, il est important de tenir compte du mation numérique et l’IA. Le déploiement de ces
25 septembre 2018. https:// technologies dans un secteur d’activité donné a
etatsgenerauxdelabioethique.fr/ Les points à retenir nécessairement des conséquences sur l’organisa-
media/default/0001/01/8a7b70f
f460d2e08c49786ec1d4ea7c62 • La santé est un secteur prioritaire pour le tion du travail, qu’il convient d’anticiper.
0fc7329.pdf développement de l’intelligence artificielle (IA). z La RSE digitale peut être déclinée autour de
• Les effets de l’IA sur les métiers du secteur différentes mesures, telles qu’inciter les éta-
de la santé sont déjà visibles, notamment pour blissements de soins à adopter une démarche
les spécialités utilisant l’imagerie mais également prospective dans la transformation des métiers
en matière de logistique et de gestion de flux. ou les encourager à développer des méthodo-
• L’anticipation des transformations est logies d’évaluation des compétences. En ce qui
indispensable : une méthodologie de mesure permet concerne les patients, les mesures de RSE digitale
d’évaluer l’impact de l’IA sur chaque métier. pourraient recouvrir notamment le respect du
• L’innovation et l’IA sont la clé pour construire principe de garantie humaine pour toute déci-
Déclaration de liens d’intérêts un système de soins plus efficace, valorisant sion médicale. Ces mesures concourent à la mise
L’auteur déclare ne pas l’innovation et l’éthique. en place d’une régulation de l’IA en santé éthique
avoir de liens d’intérêts. et responsable capable de valoriser l’innovation. n
international
Données de santé
et intelligence artificielle :
une vision géostratégique
z La diffusion rapide de l’intelligence artificielle (IA) et de la robotisation en santé conduit à mettre FLORENT PARMENTIER
en exergue l’importance du pilotage par les données de santé comme levier géostratégique z De Responsable du Laboratoire
d’innovations publiques
ce point de vue, l’avance prise par les États-Unis et la Chine appelle à une réponse européenne de Sciences Po
forte permettant de faire émerger une vision responsable dans une logique de régulation positive et chercheur-associé à HEC
de l’IA en santé. Sciences Po,
© 2019 Elsevier Masson SAS. Tous droits réservés 27, rue Saint-Guillaume,
Mots clés – donnée de santé ; éthique ; géopolitique ; intelligence artificielle ; IoT ; souveraineté 75337 Paris Cedex 07, France
Healthcare data and artificial intelligence: a geostrategic vision. The rapid deployment of
artificial intelligence (AI) and automation in healthcare is highlighting the importance of health data-
driven management as a geostrategic lever. From this point of view, the progress made by the United
States and China requires a strong European response to develop a responsible vision which adopts
an approach aiming at the positive regulation of AI in healthcare.
© 2019 Elsevier Masson SAS. All rights reserved
pleine souveraineté en matière de santé numé- retrouvent autour de trois piliers d’une straté-
rique, ainsi que disposer d’un système respectant gie commune : renforcer la capacité techno- RÉFÉRENCES
les préférences sociales des Européens sur un logique et industrielle de l’Union européenne [1] Kucharski A. L’avenir
plan éthique, respectant des droits, des principes (UE) et intensifier le recours à l’IA dans tous les de la médecine. In: Al-Khalili J.
Ce que la science sait du monde
et des valeurs. secteurs de l’économie ; permettre de se pré- de demain. Intelligence artificielle,
z La souveraineté en matière de données de parer aux changements socio-économiques ; transhumanisme, menace
santé consiste à répondre à un certain nombre garantir un cadre éthique et légal approprié [5]. climatique, surpopulation…
Notre vie en 2050. Lausanne
de questions : Qui les produit ? Qui les possède ? Le Parlement européen a observé en sep-
(Suisse): Quanto; 2018. p. 73-89.
Qui les stocke ? Qui les traite ? Enfin, qui les sécu- tembre 2018 que l’UE devait agir de concert avec [2] Villani C. Donner un sens
rise ? Les données de santé ne sont pas neutres les États membres avec quelques objectifs clairs : à l’intelligence artificielle.
et indépendantes de leur promouvoir le dévelop- Pour une stratégie nationale
contexte de production, La question de la garantie pement d’un cadre géné- européenne. Mars 2018.
https://www.aiforhumanity.fr/
elles servent à quelque ral éthique gouvernant pdfs/9782111457089_Rapport_
chose et à quelqu’un, humaine en matière la conception de l’IA en Villani_accessible.pdf
et véhiculent des repré- Europe (question par [3] Granier V. Projet de loi santé :
les députés votent la création
sentations du monde. de décision constitue exemple de la garantie
du Health Data Hub. Tic Pharma.
La santé, après tout, est humaine de l’IA) ; prio- 2 avril 2019. http://www.
aussi culturelle : elle est l’un des enjeux fondamentaux riser les applications de ticpharma.com/story/908/projet-
un ensemble d’idées, l’IA pour s’attaquer aux de-loi-de-sante-les-deputes-
votent-la-creation-du-health-
de représentations, de pour les Européens défis sociétaux ; s’assurer data-hub.html
coutumes et de compor- de créer un cadre consis- [4] Cattaruzza A. Géopolitique
tements. L’usage des données de santé influe tant de régulations et de politiques liées à l’IA ; des données numériques.
sur les organisations, les pratiques sociales, les travailler avec les États membres pour préparer Pouvoir et conflits à l’heure
du Big Data, Paris: Le Cavalier
rapports de force politiques et les opportunités les entreprises et les sociétés aux transformations bleu; 2019.
économiques. La manière de concevoir la santé à venir [6], etc. [5] Commission
en Chine, aux États-Unis et en Europe diffère z L’autre enjeu consiste à garantir un exercice européenne. Communication
de la commission au Parlement
sensiblement. de la santé compatible avec les préférences
européen, au Conseil européen,
z Aucun État membre ne pouvant prétendre sociales européennes, notamment en matière de au Conseil, au Comité
suivre seul la course à l’IA imposée par les protection des données personnelles. Sans cette économique et social européen
Américains et les Chinois, seule une straté- dernière, la confiance ne peut s’établir. La ques- et au Comité des régions.
L’intelligence artificielle pour
gie coordonnée au niveau européen permet tion de la garantie humaine en matière de déci-
l’Europe. COM(2018) 237 final.
d’envisager d’atteindre une taille critique. sion constitue l’un des enjeux fondamentaux 25 avril 2018. https://ec.europa.
La Commission et le Conseil européens se pour les Européens. Les acteurs européens, eu/transparency/regdoc/
États membres, Commission et Parlement euro- rep/1/2018/FR/COM-2018-237-
Les points à retenir F1-FR-MAIN-PART-1.PDF
péens, sont en train de définir les règles de ce
[6] Delponte L. European Artificial
• Le contexte international est caractérisé par que peut être l’éthique en matière d’IA. Forts Intelligence (AI) leadership,
une explosion du nombre de données disponibles, d’un stock de données de santé important et the path for an integrated
fiable, les acteurs européens peuvent converger vision. Parlement européen.
grâce à la multiplication de capteur et d’algorithmes.
Septembre 2018. http://www.
L’Internet des objets (IoT) ne fera que renforcer cette autour de normes qu’il conviendra ensuite de europarl.europa.eu/RegData/
tendance dans un horizon proche. promouvoir au niveau international. etudes/STUD/2018/626074/
• En matière de données de santé, les enjeux z Dans les deux cas, la question essentielle est IPOL_STU(2018)626074_EN.pdf
sont doubles et étroitement liés : accéder à sa bien celle de la mise en œuvre d’une régulation
pleine souveraineté en matière de santé numérique, positive en matière d’IA. Autrement dit, en POUR EN SAVOIR PLUS
et disposer d’un système respectant les préférences l’absence de cette dernière, le risque consiste • Chapel É, Gruson D, Jaafar D
à devoir importer des solutions d’IA dévelop- et al. La révolution du pilotage
sociales des Européens sur un plan éthique,
des données de santé.
respectant des droits, des principes et des valeurs. pées dans d’autres pays et ne respectant pas les Enjeux juridiques, éthiques
• La question essentielle est celle de la mise préférences sociales européennes. Éthique et et managériaux. Paris: LEH
en œuvre d’une régulation positive en matière souveraineté avancent donc bien de pair si les édition; 2019.
d’intelligence artificielle (IA). En l’absence de cette Européens veulent développer des standards de
dernière, le risque consiste à devoir importer qualité en matière d’IA. n
des solutions d’IA développées dans d’autres
pays et ne respectant pas les préférences sociales Déclaration de liens d’intérêts
européennes. L’auteur déclare ne pas
avoir de liens d’intérêts.
4. L’exercice infirmier en psychiatrie s’articule d’ores 9. La dotation allouée au “grand défi” pour l’IA en santé
et déjà avec le développement de l’IA en santé pour : représente :
q a. l’analyse du contenu des réseaux sociaux. q a. 5 millions d’euros.
q b. la détection des patients à risque de psychose. q b. 30 millions d’euros.
q c. la compréhension du trouble de la personnalité limite. q c. 200 millions d’euros.
q d. le calcul des doses de psychotropes. q d. 1 milliard d’euros.