Vous êtes sur la page 1sur 204

FNMR

Séminaire - juin 2018

L’intelligence
artificielle : rêve
ou cauchemar
du radiologue ?
Reproduction interdite, en tout ou en partie, par quel que procédé que ce soit,
sans l’autorisation écrite de l’éditeur et des auteurs.

ISBN 978-2-9558316-1-8
L'Intelligence
Artificielle : rêve
ou cauchemar
du radiologue ?
SOMMAIRE
Avant-propos p 06

I - OUVERTURE

Dr. Alain François p 08


Dr. Jean-Philippe Masson p 09
Avertissement p 11

II - INTERVENTIONS

Jean-Michel Besnier : L’efficacité de l’Intelligence Artificielle imposera-t-elle


l’hétéronomie de l’humain ? p 16
Paul Chang : L’Intelligence Artificielle dans le monde de la radiologie p 26
Luc Soler : Intelligence Artificielle appliquée à l’imagerie médicale : espoir ou elpis ? p 44
David Gruson : L’éthique dans le développement de l’Intelligence Artificielle p 54
Jacques Lucas : Intelligence Artificielle et médecine :
les recommandations publiques de l’Ordre p 66
Robert Lavayssière : Comment le radiologue libéral se prépare à l’arrivée
de l’Intelligence Artificielle ? p 76
Jean-François Meder : Que va changer l’Intelligence Artificielle
pour la radiologie selon la SFR ? p 90
Cédi Koumako : Comment un interne en radiologie se prépare à l’arrivée
de l’Intelligence Artificielle ? p 96
Laure Soulier : A qui appartiennent les données radiologiques
dans la cadre du big data ? p 104
Florent Parmentier : Comment l’Intelligence Artificielle en santé
est devenue une réalité géopolitique p 112
François Blanchardon : L’Intelligence Artificielle va-t-elle modifier la relation
patient-médecin-radiologue ? p 124

4 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


Le point de vue des industriels :
Aïssa Khélifa : AGFA p 134
François Vorms : CANON p 140
Christophe Lala : GE p 144
Antonin Marcault : PHILIPS p 150
Jean-Baptiste Leprince : SIEMENS HEALTHINEERS p 154

III - LES ÉCHANGES

Débat avec la salle p 160


Table ronde p 176

IV - UN ÉCOSYSTÈME FRANÇAIS D'I.A.

Un écosystème français d'intelligence artificielle p 196


Communiqué : G4 juin 2018 p 197

V - INTERVENANTS p 198

Sommaire - 5
Avant-propos

La Fédération Nationale des Médecins Ra- L’objet de cet opuscule est de retranscrire
diologues organise tous les ans, au prin- les interventions orales des experts et les
temps, un séminaire de réflexion sur un su- échanges qui ont eu lieu à cette occasion.
jet dont le développement pourra modifier
l’avenir de la radiologie. A l’issue de cette journée, le Pr Jean-Fran-
çois Meder et moi-même avons annoncé au
Une première approche de l’Intelligence nom du Conseil national professionnel de
Artificielle (IA) avait été réalisée dans la re- la radiologie le lancement d’un écosystème
vue du Médecin Radiologue d’octobre 2017 d’intelligence artificielle français consacré à
publiée au moment des Journées Franco- l’imagerie médicale.
phones de Radiologie.
L'intelligence artificielle est un nouveau défit
Le bureau de la FNMR a décidé de s’inscrire pour les radiologues.
dans cette démarche et de poursuivre la
réflexion lors du séminaire de la FNMR pro- Le séminaire de Lyon n'est qu'une première
grammé pour le mois de juin 2018 à Lyon. étape. n

L’approche de l’intelligence artificielle sou-


haitée par le bureau a été de sortir des ca- Dr Jean-Philippe MASSON,
ricatures afin d’appréhender son retentisse- Président de la Fédération Nationale
ment sur différents plans : philosophique, des Médecins Radiologues.

éthique, déontologique…

Il a donc été décidé de réunir, pour cette


journée de réflexion, des experts de ces dif-
férents champs, fortement impliqués dans
ce domaine.

6 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


Avant-propos - 7
I - OUVERTURE

Dr Alain FRANCOIS,
Président de l’Union régionale
Rhône-Alpes des Médecins
Radiologues.

Bienvenue et surtout un grand merci. Un


grand merci à tous nos partenaires qui
sont nombreux, à participer à l'organisa-
tion du séminaire ce qui nous permet de
l'organiser dans des conditions de travail
et de convivialité tout à fait satisfaisantes.

Le thème de ce séminaire n'est pas étran-


ger à cette participation massive puisque
l'intelligence artificielle intéressera a priori
la totalité de la chaîne de l'imagerie de-
puis la production des données jusqu'à
leur transfert, leur stockage, le traitement
de ces données et bien entendu tout ce
que cela va impliquer en termes de mo-
dification de nos pratiques, de nos orga-
nisations et des responsabilités respec-
tives. Mais je ne vais pas déflorer plus les
différents sujets qui seront abordés au-
jourd'hui. Je vais donc passer la parole à
Jean-Philippe Masson.

8 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


Dr Jean-Philippe MASSON,
Président de la Fédération Nationale
des Médecins Radiologues.

Tout d'abord un grand merci à Alain Fran- patients attendent de nous. C’est pourquoi
çois et à la région AURA pour l'organisation. nous avons lancé cette réflexion qui n’est
pas limitée au plan scientifico-technique,
Les séminaires de la FNMR, vous les mais qui s’ouvre pour explorer une dimen-
connaissez. Nous essayons toujours de ré- sion plus philosophique, voire l'implication
fléchir en amont. Nous essayons toujours de l'intelligence artificielle dans la vie de
d'anticiper l'évolution de notre métier. En tous les jours sur un plan éthique, sur un
2017, nous avons tenu un séminaire sur plan déontologique – d'où la présence de
la pertinence. Il nous a inspiré dans les l'Ordre, sur un plan géopolitique, parce
discussions et la signature du relevé de que c'est de l'informatique, donc cela va
conclusions avec l'Assurance Maladie. déborder largement de nos frontières.

Toujours en 2017, mais aux Etats-Unis, l’in- Je remercie tous les participants d'avoir
telligence artificielle a été très présente au accepté de jouer le jeu, notamment Paul
RSNA. Il importait que nous lancions la ré- Chang qui vient de très loin puisqu'il vient
flexion en France alors que certains oiseaux de Chicago.
de mauvais augure expliquent que dans dix
ans, il n'y aura plus besoin de radiologues. Bon travail.
Nous sommes des radiologues. Nous sa-
vons ce qu'est la radiologie et ce que les

Chapitre I - Ouverture - 9
Olivier COLIN, modérateur On s'aperçoit que Watson est devenu l'as-
sistant rêvé de nombreux médecins. Le
Monsieur le Président, merci. patient numérique est bien déjà une réali-
je vais aujourd'hui avoir le rôle de gen- té. La médecine des quatre P – préventive,
darme dans la volonté de faire en sorte partagée, participative et surtout prédic-
que nos vingt experts puissent avoir le tive – est rendue possible grâce à l'intelli-
temps de nous faire partager leur savoir. gence artificielle.

Parmi ces experts, le Professeur Paul Chang Quel est l'impact de cette intelligence ar-
qui vient de Chicago et qui a répondu po- tificielle pour votre profession ? Comme
sitivement à l'invitation du Président de la le disait le Président tout à l'heure, il y a
FNMR. Chicago est la Mecque de la radiolo- deux prophéties qui s'opposent. Celle qui
gie. Tout le monde connaît son prestigieux consiste à dire que dans dix ans vous ne
rassemblement, le RSNA 1. Je demanderais serez plus là. Mais il y a aussi la possibili-
à Monsieur Chang de se lever et que vous té que la radiologie augmentée impose
l’ovationniez, parce que ce n'est pas si cou- ce qu'est le transhumanisme à l'Homme.
rant d’avoir des intervenants qui traversent C'est peut-être ce que l'intelligence artifi-
l'Atlantique pour nous. cielle va transformer dans votre profession
pour faire en sorte que votre spécialité soit
L'intelligence artificielle est-elle un rêve encore plus incontournable qu'elle ne l'est
ou un cauchemar pour les radiologues ? aujourd'hui. Je préfère partir sur cette deu-
En réalité, même si nous en parlons beau- xième hypothèse. n
coup aujourd'hui, c'est d'abord et surtout
un fantasme né dans les années 50 du
cerveau humain. Ce fantasme avait l'ambi-
tion de chercher à mimer son propre fonc-
tionnement, voire à sublimer le cerveau
humain. Depuis quelques années, c'est
arrivé. Souvenez-vous il y a vingt ans, un
outil d'intelligence artificielle Deep Blue, a
réussi à battre le meilleur d'entre nous aux
échecs. C'était Garry Kasparov.

Depuis dix ans, l'intelligence artificielle


connaît un développement exponentiel.
Cette intelligence artificielle, on la voit
dans de nombreuses applications. Vous
l'avez dans votre téléphone, dans les objets
connectés, dans votre voiture. Bien évidem-
ment, la santé en est un des enjeux majeurs. Deep Blue qui a battu Garry Kasparov
1
Radiological Society of North America

10 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


Avertissement
Les articles qui suivent sont la reproduction des
interventions orales des experts qui ont participé
au séminaire. Ceci explique le caractère parlé,
direct des retranscriptions.

Chapitre I - Avertissement - 11
II - Interventions
L’efficacité de l’Intelligence
Artificielle imposera-t-elle
l’hétéronomie de l’humain ?

Jean-Michel BESNIER
Pr. émérite de philosophie -
Sorbonne-Université. Responsable
du Pôle recherche "Santé connectée,
humain augmenté". Institut des sciences de
la communication du CNRS
II - INTERVENTIONS
L’efficacité de l’Intelligence
Artificielle imposera-t-elle
l’hétéronomie de l’humain ? *

R
ude tâche que d'ouvrir une Le plus simple est peut-être que je com-
journée sur une question mence par expliquer comment je me
qui est quand même for- trouve à exposer devant un public de
mulée de manière assez radiologues comme le vôtre. Moi qui ne
pathétique. L'intelligence suis pas même médecin, mais disons pro-
fesseur de phi-
losophie. Très
rapidement dit,
artificielle rêve ou je m'intéresse
cauchemar du ra- depuis au moins
diologue ? Vous deux décennies
m'aviez proposé aux sciences
dans un premier cognitives et à
temps d'intituler l'intelligence
mon intervention : artificielle, mais
« Le pouvoir se- d'un point de
ra-t-il aux radio- vue épistémo-
logues ou aux logique. J'ap-
robots ? » J’ai – partenais à un
je l'avoue – reflué devant l'ampleur de la laboratoire de l'École Polytechnique
question qui me paraissait appeler une qui s'appelle le Centre de recherche en
compétence qui n'était pas tout à fait la épistémologie appliquée dans lequel
mienne. Donc, j'ai transformé l'intitulé sans nous abordions l'impact de la cyber-
en être tout à fait content : « L’efficacité de nétique née à la fin des années 50, qui
l'intelligence artificielle imposera-t-elle avait formulé, cette cybernétique, le rêve
l’hétéronomie de l'humain ? » Je me suis d'un organisme artificiel. Je m'interro-
rendu compte que le titre était aussi très geais plus précisément sur la façon dont
codé. Je vous demande de le zapper si les sciences cognitives et l'intelligence
vous voulez. artificielle pouvaient bien jeter un nou-
veau regard sur les grandes questions
*
Retranscription de l’intervention orale

16 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


rencontrées par la philosophie de
toujours. C'était évidemment de sa-
voir quelle est au juste la nature de
l'intelligence. C'était aussi de me
demander dans quelle mesure la
vieille question de la relation âme/
corps avait encore un sens, essayer
de comprendre aussi la dynamique
des émotions individuelles et col-
lectives. Par exemple, l'émergence
des conventions dans les sociétés.
Quand on veut vraiment avoir une per-
C’était des questions extrêmement di- ception de première main de ce qu'est
verses, mais ce questionnement m'a pro- ce transhumanisme, il faut aller lire le rap-
gressivement conduit à m'intéresser à ce port remis au gouvernement américain
qu'Olivier Colin vient de mentionner, à en 2003, sous le titre : « Convergences
savoir le transhumanisme. Ce transhuma- technologiques pour l'augmentation des
nisme qui, vous le savez, prétend que les performances humaines. » C'est un rap-
sciences cognitives et l'intelligence artifi- port que l'on trouve sur le web, qui fait
cielle associées aux neurosciences, asso- 400 pages et qui commence par ces mots
ciées également aux nanotechnologies, Nous sommes à la veille d'une nouvelle
aux sciences de l'information et aux bio- Renaissance. Soit dit en passant, l'un des
technologies, cet ensemble qu'on appelle rédacteurs de ce rapport qui condense à
maintenant NBIC 1 pourrait réaliser toutes peu près toutes les promesses émises par
les aspirations du genre humain. C'est la chacune des disciplines des NBIC, l'un des
proposition majeure des transhumanistes, auteurs est un historien des religions.
surtout issus de la Silicon Valley. Ces
quatre disciplines en convergeant sont en Je me suis imposé d'examiner d'aussi près
train de préparer finalement une situation que possible la crédibilité à accorder à ses
dans laquelle toutes les aspirations de l'es- prophéties transhumanistes. Par exemple,
pèce humaine pourraient être réalisées. Je à ce fameux Mind uploading, le téléchar-
ne vais pas rentrer dans le détail. Ce serait gement du contenu du cerveau sur des
trop long. C'est presque de l'ordre du ri- puces de silicium ou sur d'autres maté-
sible. La proposition, la promesse majeure riaux inaltérables et éventuellement, dans
qui est faite, est tout simplement de tuer le cyberespace. Je m’y suis intéressé parce
la mort selon le slogan que Calico, la so- que c'est l'une des recettes de l'immortali-
ciété créée par Google, a accepté comme té pour la plupart des transhumanistes. Je
sa devise. me suis aussi évidemment intéressé aux

1
Nanotechnologies, biotechnologies, informatique et sciences cognitives

Chapitre II - L’efficacité de l’intelligence artificielle imposera-t-elle l’hétéronomie de l’humain ? - 17


perspectives ouvertes par les IPS, les cel- La médecine est prise en otage par les
lules pluripotentes induites parce qu'elles techno-prophètes qui paradoxalement en
sont la promesse d'une régénération même temps, lui annoncent qu'elle va dis-
continue des organes, mais éventuelle- paraître. Vous évoquiez Laurent Alexandre.
ment aussi l'un des facteurs de cette im- Laurent Alexandre est l'un de mes interlo-
mortalité qui est proposée. Je m'intéresse cuteurs réguliers. Nous avons commis tous
en ce moment comme beaucoup, à l'utili- les deux un livre de discussion qui est un
sation de CRISPR-Cas9, ce fameux ciseau livre de disputes intitulé Les robots font-
moléculaire qui permettra de faire du co- ils l'amour ?. C'est dans cet ouvrage que
pier-coller avec le génome. Tout cela m'a nous en décousons le plus bruyamment.
paru très vite digne d'intéresser en tout cas
le philosophe. Ma démarche néanmoins, En tout cas, j'ai dû quand même me rendre
n'est pas très éloignée de celle du socio- compte que face aux miroirs aux alouettes
logue parce que je d'une médecine
m'interroge moins connectée qui se-
– à vrai dire – sur la rait donc prédic-
faisabilité de toutes tive, qui serait donc
ses promesses. Je personnalisée,
ne m’oppose pas face à ce miroir
aux futurologues aux alouettes, les
qui interrogent menaces brandies
réellement la faisa- d'une technologie
bilité de ces tech- qui nous dépos-
nologies. Je m'in- séderait des initia-
téresse davantage tives et qui nous
aux raisons du suc- déshumaniserait,
cès des annonces ces menaces ne
t ra n s h u m a n i s t e s tiennent pas. Au
dans un public élargi. J'ai vu en une bonne fond, je me rends compte que finalement,
dizaine d'années, l'ampleur que prend le lorsque l'on dit aux gens : « Vous savez
thème aujourd'hui dans les médias et dans avec les bracelets électroniques, avec les
l'esprit des gens. biocapteurs, avec tous ces éléments qui
vont vous rendre évidemment complè-
Je constate que le cheval de Troie du tement hypocondriaque parce que vous
transhumanisme, c'est vraiment la santé. allez vous auto surveiller en permanence,
Le transhumanisme entre dans les esprits mais avec tout cela, vous allez gagner 30
de nos contemporains par la porte de la ans, 50 ans, 100 ans de longévité, etc. »,
question de la santé et donc d'une cer- ils sont prêts à tout donner pour cela. Du
taine manière, il vous met au premier plan. point de vue de la réflexion philosophique,

18 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


c'est très difficile. On court largement der- ans. C'était son objectif. Condorcet, en
rière ces techno-prophètes. 1793, allait même beaucoup plus loin. Il
disait Au fond, il n'y a pas lieu de se déro-
Pourtant, les annonces sont là. Vous avez ber devant l'idée que peut-être nous allons
peut-être vu le rapport de l'OCDE 2 du dé- pouvoir devenir immortels avec les sciences
but de l'année qui nous révèle que seules et les techniques. Aujourd'hui, on nous an-
13 % des activités sont susceptibles de nonce quelque chose de semblable, mais
résister à l'intelligence artificielle. C'est-à- en nous révélant que nous avons peut-être
dire 87 % de nos activités sont automati- les moyens technologiques de le réaliser et
sables et par conséquent, pourront être en ajoutant qu'au fond, le futur se fera sans
confiées plus efficacement à des machines. doute sans nous et que la fraction de l'hu-
Vous connaissez peut-être le rapport de la manité qui bénéficiera des technologies
CNIL 3 qui est paru également il y a deux ou d'augmentation aura finalement dû sans
trois mois, intitulé : « Jusqu'où allons-nous doute renoncer à être humaine. Elle sera
perdre les commandes ? » Cette vénérable post-humaine. Elle aura fusionné avec les
commission fait également dans l'alar- machines, avec ces machines qu'elle aura
misme d'une certaine manière. Vous vous fabriquées, évidemment. Elle recourra à ces
souvenez peut-être de cet appel qu'avait objets connectés que le marché lui donne-
signé Stéphane Hawking, qui avait été si- ra de plus en plus à consommer. L'une des
gné aussi par Bill Gates, par Elon Musk et dernières annonces sur ce terrain-là, c'est
par tout ce que le monde de l'intelligence celle d’Elon Musk qui a créé cette société
artificielle compte d'important. Cet appel intitulée Neuralink, qui vise à développer
était intitulé : « L'intelligence artificielle va ces objets connectés.
peut-être tuer l'espèce humaine. » Donc,
vraiment quelque chose de dramatique. On assiste à une espèce de mutation an-
Nous sommes devant une espèce de pa- thropologique que les technologies NBIC
radoxe. La technique devait contribuer à préparent et qui, parfois, suscite des inter-
faire triompher l'autonomie humaine et rogations bien légitimes. Je peux énumérer
elle se présente de plus en plus comme ce les quelques grandes questions éthiques
qui va nous assujettir. Voilà, le paradoxe. qui sont reprises en fin de matinée, sans
D'où le titre de mon exposé. doute : est-ce que l'organisme n'est qu'un
assemblage d'organes qu'il faut entretenir
Pour quelqu'un qui pratique la philoso- réparer, changer, transformer et augmen-
phie, Descartes ou Condorcet considé- ter ? Est-ce que nous ne sommes que des
raient déjà la médecine comme le terrain containers à gènes qu'il faut exploiter au
où l'espèce trouverait son émancipation. mieux ou optimiser avec les moyens de la
Descartes disait La médecine doit pouvoir génomique ? Est-ce que nous ne sommes
nous permettre à court terme de vivre 100 pas autre chose que des supports de don-
2
Organisation de Coopération et Développement Economiques.
3
Commission Nationale de l’Informatique et des Libertés.

Chapitre II - L’efficacité de l’intelligence artificielle imposera-t-elle l’hétéronomie de l’humain ? - 19


nées qu'il faut collecter et corréler aux fins appris qu’elle avait beaucoup plus de pa-
d'ajuster des offres de consommation des- renté avec les singes. Nous croyons être
tinées évidemment à satisfaire des idéaux parfaitement conscients, responsables,
de bien-être ? Bien-être auquel la santé rationnels et Freud nous a expliqué que
est associée puisqu'elle en est même la l'inconscient était plus important en nous
définition. La notion de dignité humaine que la conscience, troisième coup. Le qua-
a-t-elle encore un sens quand on s'obs- trième coup, c'est effectivement le constat
tine à traiter le patient numérique comme que les machines que nous avons créées
un système de métabolisme susceptible nous dament le pion aujourd'hui et vont
d'être technologiquement pérennisé ? bientôt nous reléguer parmi les chimpan-
Ne sommes-nous donc que des êtres de zés du futur. Tout cela est évidemment ex-
signaux semblables aux animaux et aux trêmement dramatique.
machines et non plus des êtres de paroles
et de signes, capables de dialoguer ? Vous Alors puis-je maintenant m'aventurer à
voyez, ce sont les grandes questions. Peut- parler devant des médecins, devant vous
être des questions de baccalauréat philo- avec quelque pertinence ? Je pense que
sophique, mais ce sont des questions qui je ne m'adresse pas à des médecins qui
demeurent par-delà les temps. ont déjà encaissé cette blessure narcis-
sique. Le médecin généraliste sans doute,
Ces questions et bien d'autres composent dont la pratique était essentiellement faite
l'argumentaire critique dirigé contre la d'auscultations, de relations cliniques et
confiance aveugle mise par certains dans de dialogues avec son patient, ce méde-
les algorithmes de l'intelligence artificielle. cin-là sait qu'il est d'emblée déjà très lar-
L'intelligence artificielle aujourd'hui, c'est gement débordé. D'une certaine façon,
le nom générique donné à une espèce vous êtes pour quelque chose dans sa
de désymbolisation de l’humain. L'humain disparition – pardonnez-moi – parce que
rendu à ces mécanismes élémentaires, si l'imagerie que vous produisez et que vous
vous voulez. L'humain simplifié qui paraît exploitez constitue un progrès qui a bous-
accompagner sa soumission aux machines culé considérablement la relation clinique
de toutes sortes. L'intelligence artificielle qui était fondée essentiellement sur l'en-
est donc présentée comme inéluctable. tretien dialogué. L'évidence supposée du
Elle constitue comme la quatrième bles- « voir » met au second plan l'« écouter de
sure narcissique de l'humanité. Freud la souffrance », la formulation même des
disait L'humanité a traversé dans son his- mots du malheur, comme dit une de mes
toire, trois grandes blessures narcissiques. collègues, Odile Marcel.
Elle se croyait le centre du monde. Gali-
lée lui a dit qu'elle n'habitait qu'une pe- On pourrait dire aussi que les prescrip-
tite planète complètement insignifiante. tions à l'acte, la restriction du temps de
Elle se croyait issue de Dieu. Darwin lui a consultation, etc. ont accru le sentiment du

20 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


patient qu'il n'est pas intéressant et qu'il pourrait être le plus concret. C'est cela le
ne mérite plus l'attention du médecin, si- paradoxe. Vous faites partie, que vous le
non par résultats d'analyses et IRM inter- vouliez ou non, des activités réputées au-
posées. Je dis cela peut-être de manière tomatisables comme en parlent le rapport
un petit peu provocante, mais cette dispa- de l'OCDE que j'évoquais à l'instant.
rition de la médecine de famille tradition-
nelle est vécue dans le quotidien des gens Si l'on dit que votre spécialité est parti-
qui déplorent souvent de n'être pas consi- culièrement menacée par l'intelligence
dérés autrement que comme comme une artificielle – ce que dit Laurent Alexandre,
image et une image finalement décodée vous êtes la première discipline qui va
ou déconnectée de la parole. normalement être balayée, l'urologie est
déjà balayée, je crois –, c'est peut-être aus-
Vous le savez bien vous radiologues. Vous si parce que vous paraissez échapper aux
êtes au cœur de l'ambivalence qui ca- exigences du sens commun. Je le dis de
ractérise le devenir de la médecine dite cette manière-là parce que Cédric Villani,
connectée. Vous êtes perçus comme à la qui a remis un rapport sur l'intelligence
croisée de la médecine et de l'ingénierie artificielle récemment, disait presque de
du traitement du signal. Vos promesses manière anecdotique que la machine
sont notoires. La captation d'images 3D resterait incapable de gérer les situations
avec la tomographie de synthèse, la fusion qui requièrent des solutions de sens com-
de l'image avec la virtualisation dynamique
de l'échographie, les moyens que vous
possédez de réaliser de la téléimagerie,
tout cela fait de vous vraiment – ne le pre-
nez pas mal – le repaire des technologies
du virtuel. Votre distance physique avec le
patient apparaît comme fonctionnellement
inévitable. Du point de vue que l'on vous
prête, la relation dialoguée avec lui n'est
pas nécessaire. Elle ne saurait influer sur
l'observation destinée au diagnostic. Les
gens ont encore de la peine à reconnaître
que l'imagerie est une ressource, autant
pour le diagnostic que pour le processus
thérapeutique lui-même, pour évaluer par
exemple l'efficacité du traitement antitu-
moral au niveau cellulaire. La radiologie
est perçue comme une spécialité abstraite,
alors même qu'elle concerne l'image qui

Chapitre II - L’efficacité de l’intelligence artificielle imposera-t-elle l’hétéronomie de l’humain ? - 21


mun. Il faut sans doute entendre par cette qu'elle soit moins capable de le réparer ou
expression de sens commun, ce qui relève de prolonger son existence, au contraire.
de l'intuition, de l'inventivité spontanée, Si la radiologie se reconnaît entièrement
de l'opinion, de l'informel, etc. Pour un mé- dans cette option d'une médecine du
decin généraliste, le sens commun est sans quantified, comme on dit souvent, il n'est
doute ce qui relève du ressenti subjectif pas étonnant qu'elle soit la toute première
du patient, de la plainte, du psychique, etc. menacée par l'invention d'instruments de
mesure de plus en plus sophistiqués. On
Le radiologue s'il n'est pas confronté à ce peut même aller plus loin et faire une in-
sens commun, risque en effet d'être ava- cursion quasi métaphysique, mettre les
lé par l'intelligence artificielle qui n'a be- choses un petit peu en perspective cultu-
soin que de modélisation pour simuler, de relle pour justifier des inquiétudes qui
scanners pour extraire des informations ne sont pas corporatistes, mais qui sont
de plus en plus précises, de données de de l'ordre de l'humanisme d'une méde-
plus en plus nombreuses pour apprendre cine confrontée au pouvoir des machines.
et pour prévoir, etc. La vulnérabilité fonc- L'imaginaire de la dématérialisation de
tionnelle du radiologue tiendrait donc toute chose est profondément ancré dans
au fait que ces instruments écartent l'in- les cultures humaines.
formel et qu'en même temps, ces instru-
ments peuvent de plus en plus relever de Toutes les grandes traditions mettent
l'IA pour donner leur pleine mesure. C'est l'accent là-dessus. C'était autrefois les
l'IA qui reconnaîtra les formes les plus traditions orphiques, les traditions gnos-
subtiles. C'est l'IA qui va réduire les mau- tiques, les traditions chrétiennes, les tra-
vaises interprétations, les faux positifs ou ditions bouddhistes. Toutes ces traditions
les faux négatifs. C'est l'IA qui va guider la associent la réalisation de l'humain avec
robotique chirurgicale en décodant et en sa décorporalisation. Cet imaginaire est
construisant les images. Au fond, l'absence conforté aujourd'hui par les technologies
de l'humain serait le talon d'Achille de la du virtuel qui permettent par exemple la
radiologie, car c'est l'humain qui empêche simulation d'un cerveau ou le fonctionne-
encore la machine d'être toute puissante. ment d'un organe de sorte que le patient
numérique qui bénéficie de ces technolo-
Le contexte est vaste. Quand on institue gies se trouve engagé dans la démarche
la médecine comme science de la me- déshumanisante que le transhumanisme
sure, ce qu'elle devient de plus en plus, et assume comme la seule issue de l'humani-
quand on l'institue comme technologie al- té. Pour les transhumanistes, c'est en gros
gorithmique, cela fait déjà des décennies cela. C'est la fusion avec les machines et la
que l'on dit que le vivant est avant tout de dématérialisation qui vont nous permettre
l'algorithme, on s'expose à ce qu'elle dés- de nous sauver, si on peut parler en terme
humanise l'humain. Ce qui ne signifie pas de salut au sens religieux du terme.

22 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


Cette dernière remarque qui est évidem- rupture radicale qui nous dépossédera ab-
ment trop suggestive et pas assez argu- solument de toute initiative. En 2045, votre
mentée a un but. C'est de se demander si la intelligence biologique n'aura plus de
résistance aux prophéties transhumanistes sens. Elle sera débordée. La solution que
ne passera pas par une réconciliation avec des Elon Musk ou des Laurent Alexandre
l’humain, avec la chair de l'humain et si la mettent en avant, c'est de dire qu'il faut
médecine en gé- essayer de
néral n'a pas un prendre le train
rôle à jouer dans en marche, d'ap-
cette réconcilia- prendre l'intelli-
tion en objectant gence artificielle,
ce qui est dans de se mettre à
l'humain irréduc- l'informatique
tible au calcul. et à la mathé-
Il sera peut-être matique requise
nécessaire à la par l'intelligence
médecine de artificielle pour
faire front – la essayer de ne
médecine en gé- pas être complè-
néral – contre la tement largué
prétention à l'hé- en 2045 lorsque
gémonie qui est l'essentiel de
le propre d'une médecine connectée. Il l'humanité aura déjà été sur le bas-cô-
ne s'agit évidemment pas de nier les bé- té. Cette idée-là n'est pas complètement
néfices de l'intelligence artificielle, mais absurde. C'est cela que j'appelle pac-
de refuser qu'elle désymbolise le patient, tiser avec l'intelligence artificielle, mais
comme elle le fait quand elle le traite uni- est-ce que cela veut dire pour autant lui
quement sur les plans de ses gènes, de ses remettre les commandes et se défaus-
organes, de ses métabolismes. ser par rapport à ce qui est proprement
humain ? Je crois que c'est la question
J'en viendrai donc à ma conclusion. La que peut sereinement poser l'intitulé de
médecine radiologique peut-elle imaginer votre journée : « L’intelligence artificielle,
pactiser avec l'intelligence artificielle sans rêve ou cauchemar du radiologue ? »
lui remettre les commandes et pour cela, en Je vous remercie. n
préservant dans l'approche du patient, une
dimension relationnelle ou symbolique ?
L'idée que cette intelligence artificielle qui
fait plus que nous menacer puisqu'elle est
annoncée pour 2045 comme opérant une

Chapitre II - L’efficacité de l’intelligence artificielle imposera-t-elle l’hétéronomie de l’humain ? - 23


L’Intelligence Artificielle
dans le monde de la radiologie

Paul CHANG
Pr. de radiologie
Université Chicago
II
L’Intelligence
Artificielle dans le monde
de la radiologie *

J
e souhaite, tout d’abord, l’application de l’IA, est liée au futur de l’IA
remercier les organisa- plutôt qu’à ses possibilités actuelles.
teurs de m’avoir invité. Je
vous demande de m’ex- Nous vivons une époque très intéressante,
cuser pour cette transition où, à mon avis, notre déshumanisation,
quelque peu abrupte du en matière de radiologie, n’a – du moins
sublime au pragmatique : en partie - rien à voir avec l’IA, mais plu-
il est difficile, en effet, de passer d’une tôt avec le fait que, en tant qu’organismes
perspective philosophique à une vision relativement primaires, nous ne possé-
très concrète des choses. dons pas tous les outils nécessaires pour
la gestion des systèmes d’information très
Pour introduire mes remarques, je vais rudimentaires dont nous disposons actuel-
tout d’abord vous expliquer le contexte lement. En voyageant à travers le monde,
de mon intervention, qui se situe à une j’observe un peu partout que les radiolo-
échelle beaucoup plus concrète. Je pense gues se limitent à maintenir le statu quo. La
que les fausses idées et les craintes qui en- charge de travail a nettement augmenté et
tourent l’Intelligence Artificielle résultent notre capacité de fournir, à nos patients,
d’une mauvaise compréhension de ce qui une interprétation de qualité et toute l’at-
définit, actuellement, l’Intelligence Arti- tention raisonnablement requise se heurte
ficielle et ses capacités, par rapport à ce à la complexité des données dont nous
qu’une majorité d’entre nous considère disposons. Je crois que nous avons besoin
comme leur utilité. Nous avons tendance à d’aide.
confondre ces deux étapes. Je pense que
certaines questions qui ont été soulevées Dans quelques instants, je vais parler d’une
sont tout à fait légitimes et méritent une ré- période beaucoup plus courte, à savoir les
ponse maintenant. Mais, les capacités de dix prochaines années, ce qui est toujours
l’Intelligence Artificielle n’en sont qu’à leurs difficile à prévoir. Je vais essayer, toutefois,
balbutiements. Je suis persuadé qu’une de baser mes prévisions relatives à l’IA sur
partie de la question, en ce qui concerne des données empiriques. Mon intervention
les craintes et les incertitudes relatives à est une introduction pratique à l’IA. Quand
*
Retranscription de l’intervention orale

26 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


je parle à des médecins, je m’aperçois que gues craint, en quelque sorte, que cette
beaucoup d’entre nous ne comprennent technologie nous remplace complète-
pas vraiment ce qu’est l’IA, en partie parce ment. En effet, une grande partie de mes
que ce terme est trompeur. C’est un terme jeunes internes craignent de ne pas trou-
quelque peu galvaudé, qui donne lieu à ver de travail après leur internat. Je pense
toutes sortes de fausses idées. Je souhaite, que tout cela est exagéré et je souhaite
donc, fournir quelques informations géné- éclaircir ce que représente l’IA aujourd’hui,
rales sur l’état actuel de l’Intelligence Ar- sans trop m’étendre sur le futur. La réalité
tificielle, et notamment du deep learning, actuelle est moins préoccupante et je crois
qui constitue, aujourd’hui, l’application do- que l’IA peut nous aider à mieux prendre
minante, la plus attractive, de l’Intelligence soin de nos patients.
Artificielle, notamment dans le domaine de
la radiologie. Je vais démythifier quelques La première chose que je veux dire c’est
idées reçues en vous qu’il n’y a rien de
expliquant ce qu’est, nouveau dans tout
en réalité, l’Intelli- cela. Nous avons
gence Artificielle tendance, dans le
et, s’il me reste du domaine de la ra-
temps, je vais parler diologie, et de la
des contraintes pra- médecine en géné-
tiques et des défis ral, à nous embal-
liés à l’adoption de ler très vite au sujet
cette technologie. de technologies
potentiellement ré-
En matière d’IA, il y volutionnaires. J’ai
a deux types de ra- entendu les mêmes
diologues. D’un côté, prédictions au sujet
il y a ceux qui disent, en gros, il nous faut des PACS 1, parce que je suis suffisam-
absolument quelque chose de nouveau, ment vieux pour m’en souvenir et que ma
parce qu’actuellement nous arrivons à recherche initiale portait sur la gestion
peine à faire notre travail de base et nous des images numériques. On disait déjà,
n’arrivons pas à répondre aux demandes à l’époque, que les PACS allaient déshu-
des cliniciens et des patients. Je crois que maniser la radiologie, etc. Et, d’un certain
j’appartenais probablement à cette caté- point de vue, nous avions raison, mais nous
gorie et que ce que nous faisons à l’heure avons appris à exploiter cette technologie
actuelle est insuffisant et nous ne pourrons de manière adéquate. Nous avons égale-
pas tenir le cap comme cela pendant long- ment entendu des remarques similaires à
temps. La deuxième catégorie de radiolo- propos de la reconnaissance vocale, de

1
Picture Archiving and Communication System/Systèmes d’archivage et de transmission d’images

Chapitre II - L’intelligence artificielle dans le monde de la radiologie - 27


l’information structurée, des big data. Il n’y temps pour pouvoir exploiter pleinement
a rien de nouveau et, comme je le disais, cette technologie.
en radiologie nous avons tendance à nous
emballer très vite. Cette exagération est problématique, car
nous avons tendance à nous emballer
La vérité, c’est que cela prend bien plus trop vite, alors qu’il faut beaucoup plus
longtemps, beaucoup plus longtemps de temps pour exploiter de manière adé-
que nous puissions et que les prophètes quate la technologie. Cela nous laisse en-
de malheur puissent l’imaginer. Il faut core beaucoup de temps pour nous faire
beaucoup plus de temps pour exploiter du mauvais sang et c’est ce qui se passe
entièrement une nouvelle technologie. actuellement. Quant à moi, je dis qu’il faut
En réalité, le plus souvent, nous attendons arrêter de s’inquiéter concernant les po-
longtemps avant d’adopter de nouvelles tentiels impacts négatifs de cette techno-
technologies. Je pense qu’il en sera de logie et, comme l’a dit le précédent inter-
même pour l’IA, et que, quand nous au- venant, qu’il faut peut-être commencer à
rons appris à bien utiliser cette technolo- réfléchir à la meilleure manière de l’exploi-
gie, nous serons déjà en retard. Je prévois ter pour optimiser la relation homme-ma-
que, quand nous saurons utiliser correcte- chine grâce à cette technologie numé-
ment l’IA et qu’elle nous sera utile, la plu- rique. Nous l’avons toujours fait, depuis
part de nos jeunes radiologues penseront que la radiologie existe.
qu’il était grand temps. À cette époque-là,
l’IA sera présente dans tous les domaines Cela ne m’intéresse pas que vous consi-
de notre existence, en dehors de la radio- dériez l’IA comme une aubaine ou bien
logie, dans le monde réel. Pour le moment, comme une menace pour l’humanité et
nous voyons l’intelligence et Alexa ou Siri, pour les radiologues en particulier. Je veux
nous voyons les voitures sans conducteur. dire seulement : oubliez l’IA, nous avons
Je prévois que, quand nous aurons appris
à nous servir correctement de l’IA, celle-
ci sera accueillie avec soulagement et
ne sera plus considérée comme une me-
nace. En général, nous mettons beaucoup
de temps avant d’adopter une nouvelle
technologie, ce qui est rassurant pour cer-
taines personnes. Tout le monde semble
persuadé que nous serons les premiers à
être affectés par l’IA. Quant à moi, je fais
le pari que cela se passera différemment
que par le passé, que nous nous alarmons
trop vite, et qu’il faudra beaucoup plus de

28 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


besoin de l’aide que peut nous procurer leurs coûts. Nous devrions apprendre à en
n’importe quelle forme de technologie nu- faire de même.
mérique. Que ce soit l’IA ou autre chose, je
ne sais pas, mais ce que nous faisons ac- Comme je l’ai dit, les défis sont de plus en
tuellement est à peine suffisant. Voici mon plus complexes tout comme le volume des
point de vue. Les attentes de nos collègues données à traiter. Notre volonté de passer
cliniciens et la complexité de l’imagerie d’une interprétation purement morpho-
médicale sont telles que ce que nous fai- logique à une imagerie physiologique
sons actuellement est à peine suffisant et et quantitative s’accroit. L’idée d’une ca-
sera bientôt insuffisant. Je dirais que c’est ractérisation générique des phénotypes
là le vrai risque. Ce n’est pas l’IA, mais le n’est plus adéquate, nos collègues clini-
fait que nous, en tant que radiologues, en ciens veulent des informations plus pré-
utilisant les outils informatiques dont nous cises. C’est le rôle de l’analyse radiomique
disposons actuellement, nous ne pourrons et de la radio-génomique. Ce n’est plus
bientôt plus fournir des services adéquats que de la théorie, mes cliniciens mainte-
aux cliniciens et aux patients. Voilà, pour nant demandent ce genre d’analyses, qui
moi, le véritable danger. Alors, au lieu de sont presqu’impossibles à réaliser ma-
proclamer que l’IA est une terrible me- nuellement : je n’ai tout simplement pas
nace, nous devrions l’examiner attentive- le temps. J’ai à peine le temps d’effectuer
ment pour voir si elle peut nous aider à des mesures de la résistance, mais ce n’est
relever le véritable défi, qui consiste à four- plus suffisant. J’ai besoin de courbes d’acti-
nir à nos patients un service rapide et de vité, de données de perfusion, de données
qualité. Actuellement nous sommes coin- quantitatives plus optimisées que celles
cés entre l’enclume et le marteau. En par- que je peux obtenir manuellement. Nous
lant avec vous, hier soir, je me suis aperçu allons avoir besoin d’aide, au moins à court
que nous faisons tous face au même défi, terme, et c’est là, je crois, que l’IA peut re-
à savoir que l’on nous demande de four- présenter une aubaine plutôt qu’une me-
nir des prestations de plus grande qualité, nace, si elle est utilisée de manière appro-
des interprétations plus complexes et à un priée.
moindre coût. Ce qui est très difficile. Je
crois fermement à l’arbitrage intellectuel et Nous ne nous limitons pas à lancer une
je suis persuadé que, dans le domaine de la bouteille à la mer. Je pense qu’autrefois,
médecine, nous avons, généralement, dix avant les PACS, nous étions beaucoup plus
ans de retard en ce qui concerne la bonne engagés vis-à-vis de nos patients et de nos
utilisation de l’informatique, et notamment collègues cliniciens. Nous étions moins
de l’IA. Les autres secteurs ont tendance à performants, car nous devions nous rendre
utiliser la technologie informatique pour en salle de lecture pour regarder les cli-
chercher à obtenir une meilleure qualité chés, mais, au moins avions l’occasion de
ou de meilleurs résultats, tout en réduisant collaborer avec nos collègues cliniciens

Chapitre II - L’intelligence artificielle dans le monde de la radiologie - 29


plusieurs fois par jour. Maintenant, nous être plus humains, comme nous l’étions
sommes seuls dans nos salles de lecture par le passé. La plupart d’entre vous sont
et nos comptes rendus sont comme des trop jeunes pour se souvenir de l’époque
messages dans une bouteille que nous où il n’y avait pas de PACS, lorsque nous
jetons à la mer en espérant qu’ils seront communiquions avec des cliniciens au lieu
bien utilisés. Alors, certains se demandent d’être tout seuls dans nos salles de lec-
pourquoi nous sommes isolés et d’autres ture à lancer des messages dans des bou-
pourquoi nous sommes si enclins à être teilles. Nous devons également être plus
remplacés par des machines, puisque, efficaces et plus rentables et je pense que
d’une certaine façon, nous agissons déjà des technologies avancées seront très im-
comme des machines. Je ne pense pas portantes à cet effet.
que le problème soit représenté par les IA ;
je pense que le problème c’est que nous Malheureusement, toutefois, les techno-
nous sommes perdus en chemin, en tant logies que nous utilisons actuellement ne
que radiologues. Nous étions des méde- sont pas matures. Elles ont dix ans de re-
cins et maintenant les patients et les col- tard par rapport à d’autres secteurs et nous
lègues ne nous voient même pas, ils ne permettent seulement d’offrir un service
nous connaissent ordinaire. Et c’est
que par les mes- justement la raison
sages lancés dans pour laquelle nous
la bouteille. Nous arrivons à peine à
devons sortir de maintenir le statu
l’isolement et re- quo. Je suis per-
venir au passé, suadé que des ou-
tout en utilisant tils informatiques
les nouvelles tech- avancés, y compris
nologies. Par le l’IA et d’autres ap-
passé, notre façon proches basées
de travailler était sur les big data, ne
plus humaine et contribueront pas
plus collaborative, à notre ultérieure
mais trop peu efficace. La question qui déshumanisation, mais, bien au contraire,
se pose est la suivante : pouvons-nous nous aideront à devenir plus humains, plus
exploiter ces nouvelles technologies collaboratifs.
pour revenir au passé et redevenir plus
humains et collaboratifs ? Je pense que La deuxième fausse idée est que l’IA est
nous pouvons atteindre un juste équilibre un phénomène nouveau et quelque peu
homme-machine, non pas pour ressem- inquiétant. À mon avis, c’est parce que
bler davantage aux machines, mais pour nous ne savons pas expliquer exactement

30 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


en quoi consiste l’lntelligence Artificielle. « apprentissage automatique ». C’est un
En fait, beaucoup d’entre nous ont intérêt changement de paradigme fondamental.
à présenter l’IA comme quelque chose Cela n’a rien de nouveau, cela existe de-
d’effrayant. Cela crée une sorte d’asymé- puis des dizaines d’années, notamment en
trie, un rapport de force en termes de radiologie. Par exemple, le DAO, diagnos-
connaissance, une répartition inégale. Si je tic assisté par ordinateur, est un exemple
connais l’IA, je peux vous traiter de haut : parfait d’apprentissage automatique. Je
je suis convaincu que la vraie menace liée ne sais pas si vous pratiquez le DAO pour
à l’IA est représentée non pas par l’IA elle- l’interprétation des mammographies ou
même, mais par ceux qui la contrôlent et la détection des nodules pulmonaires. Le
par leur but. Ceux « qui l’ont » contre ceux DAO est bien connu et bien établi dans
« qui ne l’ont pas » : voici la réelle menace et le domaine de la radiologie. C’est un
non pas l’IA par elle-même. L’IA est comme exemple d’Intelligence Artificielle et d’ap-
les autres outils et je vais vous expliquer prentissage automatique, mais nous ne
en quelques minutes qu’elle n’est pas aus- nous sommes pas sentis menacés par le
si mystérieuse qu’elle le paraît. Toutefois, DAO, il y a trente ans, quand nous avons
comme je le disais, aujourd’hui beaucoup commencé à l’utiliser.
de gens ont intérêt à faire croire que l’IA est
dangereuse, anthropomorphe, inquiétante Je vais essayer d’expliquer la différence
et mystérieuse, et qu’elle imite les humains entre l’apprentissage automatique et le
et les systèmes biologiques. Elle réalité, elle deep learning, qui suscite tant de craintes
ressemble davantage aux statistiques. aujourd’hui. Le changement de paradigme
essentiel consiste en ce que, au lieu d’avoir
L’IA appartient au domaine de l’informa- un programmeur qui crée un algorithme
tique et, plus précisément, de la science pour déterminer une action, ce sont les
des données [data science], selon laquelle données qui guident le programme. Voilà
l’informatique est exploitée pour traiter et la différence essentielle : l’apprentissage
extraire des informations et des connais- automatique pour l’IA est guidé par les
sances utiles à partir des données. L’Intelli- données, de manière contextuelle, au lieu
gence Artificielle rentre dans ce domaine. d’être guidé a priori par un algorithme.
Personnellement, comme beaucoup Aujourd’hui, nous avons, à l’intérieur de
d’autres personnes qui travaillent dans ce l’apprentissage automatique, le deep lear-
domaine, je déteste ce terme, à cause de ning, qui utilise les réseaux neuronaux, ou
sa connotation inquiétante, de cette com- deep learning, pour chercher à obtenir
posante anthropomorphe, qui n’est pas des modèles similaires, sans un modèle
utile. Nous sommes nombreux à ne pas a priori. Voilà la seule différence entre le
aimer ce terme et, personnellement, j’es- deep learning pour l’IA et l’apprentissage
saie de l’éviter. Je préfère une définition automatique, que nous pratiquons depuis
plus pragmatique et plus utile, comme des dizaines d’années.

Chapitre II - L’intelligence artificielle dans le monde de la radiologie - 31


mais plutôt le fait que nous pouvons main-
tenant les utiliser de manière pratique et
rentable, grâce à l’accélération graphique.

Comme je l’ai déjà mentionné, la diffé-


rence entre l’apprentissage automatique,
l’Intelligence Artificielle et la programma-
tion traditionnelle est le fait d’avoir, au lieu
d’un algorithme à priori, selon lequel fonc-
tionnent les PACS - avec un modèle infor-
matif auquel sont intégrées les données,
comme DICOM ou HL7 - des données
qui guident le développement de l’algo-
rithme. Il est plus facile d’expliquer cela
par des images. J’utilise un vieux modèle
L’Intelligence Artificielle, aujourd’hui, suit algorithmique pour classer mes photos,
un modèle hiérarchique, un peu comme avec des dossiers, qui indiquent l’année,
une poupée russe. Ce que j’essaie d’expli- le mois, peut-être mon voyage à Paris, et
quer, et qu’il faut comprendre, c’est que j’y insère mes photos. C’est un exemple du
cela n’a rien de nouveau. Cela existe de- paradigme de fonctionnement tradition-
puis des décennies, depuis que j’étudiais nel et un modèle d’information à priori :
la médecine, il y a de nombreuses années. j’ai un algorithme et j’insère mes données
Il y a toujours eu des avancées, mais le dans celui-ci. C’est très efficace et c’est
modèle essentiel n’a pas changé. Ce qui comme cela que fonctionnent les PACS,
a changé, c’est que nous pouvons main- les dossiers médicaux électroniques.
tenant l’appliquer au monde réel et nous
pouvons le faire parce vos enfants adorent Le problème est que, en dehors des cas
tuer des aliènes dans des jeux vidéo. C’est d’utilisation prévus, il n’est pas très efficace.
la vérité. Les jeux vidéo sont devenus telle- Par exemple, si ma femme me demande de
ment populaires et répandus, que ces pro- trouver une photo de notre fille à la Tour
cesseurs graphiques sont devenus relati- Eiffel, je suis obligé de demander la date,
vement abordables sur le marché. Il s‘avère puisque je n’ai pas créé un dossier corres-
que les modèles mathématiques utilisés pondant à image, fille, etc., et l’algorithme
pour créer des aliènes dans les jeux vidéo devient inutile. Je ne sais pas combien
sont très similaires à ceux employés pour d’entre vous ont utilisé le système Apple
les crypto-monnaies, les bitcoins, et le IO : si vous regardez vos photos avec cette
deep learning. La différence fondamentale application, vous aurez un exemple im-
n’a pas été une grande amélioration dans médiat d’un classement basé sur les don-
le paradigme de l’Intelligence Artificielle, nées. Il prend en compte les métadonnées

32 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


de l’image, à l’aide d’une reconnaissance diomics. Ils utilisent les mêmes outils statis-
d’image, et vous informe qu’il y a une tiques mais dans des buts différents. Nous
photo d’une petite fille asiatique, qu’il y a utilisons des outils statistiques et des mé-
beaucoup de photos de cette petite fille thodes basées sur les données, en analyse
et décide de créer un dossier dans lequel radiomique, tout simplement pour ne pas
ranger ces photos. En d’autres termes, au nous limiter à dire qu’il y a une masse dans
lieu d’utiliser un algorithme a priori, ce le rein et pour obtenir une sorte de phéno-
sont les données qui définissent la ma- type, qui renvoie à une présentation géno-
nière dont l’algorithme doit organiser les mique, personnalisée. Nous utilisons des
images. C’est le changement essentiel de méthodes statistiques pour obtenir une
paradigme de l’intelligence artificielle et certaine compréhension, comme une ré-
de l’apprentissage automatique. Ce sont gression linéaire. La régression linéaire est
les données qui un parfait exemple
guident le fonction- d’approche basée
nement de l’algo- sur les données. L’in-
rithme et non pas le telligence artificielle
contraire. n’a rien d’inquiétant ;
à moins que vous ne
Les big data sont craigniez la régres-
une autre forme sion linéaire, vous ne
d’Intelligence Arti- devez pas avoir peur
ficielle est c’est im- du deep learning,
portant parce que car il s’agit essentiel-
cela aide à com- lement de la même
prendre comment approche. Nous uti-
fonctionne le deep lisons des éléments
learning. Lorsque j’enseigne le deep lear- de données, puis des mathématiques, en
ning à mes étudiants en mathématiques obtenant, ainsi, une fonction d’erreur de
ou en ingénierie, cela ne sert à rien de leur Costa et nous cherchons à minimiser l’er-
montrer des images de neurones. Cela les reur entre les observations et notre pré-
inquiète, car c’est eux qui doivent effecti- diction d’hyperplan. C’est une régression
vement construire les systèmes, donc cela linéaire que beaucoup d’entre nous ont
ne les aide pas. En revanche, je leur ap- apprise en statistique à l’école primaire ou
prends à utiliser les méthodes statistiques, au collège. Les méthodes sont devenues
parce que c’est essentiellement ce qu’est plus sophistiquées, mais les idées restent
le deep learning. Pour beaucoup de radio- les mêmes ; chercher des modèles, où ce
logues il existe une convergence entre le sont les données qui guident les modèles.
deep learning et l’intelligence artificielle Nous connaissons très bien tout cela et ce
and another big hype term in radiology, ra- sont les mêmes technologies que nous

Chapitre II - L’intelligence artificielle dans le monde de la radiologie - 33


employons dans l’analyse radiomique tel que le DAO, vous avez besoin d’un a
pour analyser et corréler la description priori plus intelligent, vous devez obtenir
phénotypique résultant de l’interprétation un modèle a priori. Par exemple, si vous
de l’image avec la présentation molécu- avez recours au DAO pour la mammo-
laire génomique ou épigénétique. graphie, certains scientifiques plus intel-
ligents, collaborant, généralement, avec
L’apprentissage automatique emploie les des radiologues, diront qu’ils ont un mo-
mêmes méthodes statistiques, mais dans dèle, que les cancers sont mal définis, qu’il
un but différent. Au lieu d’essayer d’ob- y a des micro-calcifications. Puis, nous al-
tenir une véritable compréhension, l’ap- lons créer des modèles statistiques et les
prentissage automatique cherche à faire former sur la base de ces caractéristiques.
quelque chose d’utile, comme la classi- Il s’agit, essentiellement, d’un algorithme
fication. Son objectif est très concret. Il d’apprentissage automatique. Le deep
existe un grand nombre d’algorithmes et learning intervient quand vous êtes trop
nous sommes nombreux à les utiliser, tout paresseux, trop bêtes ou lorsque le pro-
comme nous sommes nombreux à recourir blème est trop complexe, et que vous ne
à la statistique pour l’analyse radiomique pouvez pas obtenir un modèle a priori. Je
ou d’autres types d’analyses de big data. n’ai aucune hypothèse ou bien je suis trop
Ce n’est pas surprenant, car c’est en cela paresseux ou pas assez intelligent pour
que consistent, essentiellement, le deep obtenir un modèle a priori. En revanche,
learning et l’apprentissage automatique. je possède des tonnes de données véri-
Comme je l’ai dit, nous avons utilisé pen- fiées et annotées. J’ai des images avec une
dant des décennies un certain type d’ap- confirmation indépendante a priori qui me
prentissage automatique, La DAO pour dit que c’est un cancer ou que ce n’est pas
l’imagerie des poumons ou du sein est un cancer. Je remplace l’intelligence, l’ana-
un parfait exemple d’apprentissage auto- lyse et un modèle a priori par des données
matique, où nous utilisons des méthodes brutes. Voilà la clé. J’alimente tout cela par
statistiques, un modèle préconçu et nous un énorme volume de données, puis, en
obtenons quelque chose d’utile, un mo- utilisant tout simplement des méthodes si-
dèle de classification. milaires, comme la régression linéaire ou la
régression statistique, rien de très sophisti-
Le deep learning se différencie de l’ap- qué, je peux obtenir une courbe adaptée à
prentissage automatique par sa « force l’algorithme qui me permet d’obtenir une
brute ». Les gens sont très surpris d’en- classification. C’est la raison pour laquelle
tendre cela, parce qu’ils ont peur du deep beaucoup d’entre nous qui connaissent le
learning. Le deep learning est plus « bête » deep learning diront qu’il est incroyable
que l’apprentissage automatique et il ne que nous ayons fait croire à toute la po-
nous menacera jamais. La différence est pulation que l’IA est quelque chose de
que, avec un apprentissage automatique vraiment effrayant. En réalité, ceux qui le

34 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


disent, se réfèrent au deep learning en tant d’entre nous affirment, d’un point de vue
que régression logistique concernant les mathématique et statistique, que le deep
stéroïdes. Il s’agit essentiellement d’une learning est un ajustement des courbes
forme de régression logistique. Ce qui avancé. Par exemple, ce serait très compli-
est intéressant, c’est que je peux utiliser la qué si je vous donnais une série de don-
régression logistique de manière sérielle nées et je vous demandais de segmenter
et de plus en plus profonde chaque fois, les différentes courbes aléatoires. Ce serait
parce que maintenant je peux utiliser un très difficile d’utiliser les modèles linéaires
processeur graphique. traditionnels. Avec l’Intelligence Artifi-
cielle, avec le deep learning vous pouvez
Chaque fois que vous assistez à une créer un ajustement de courbe vraiment
conférence sur le deep learning, ou l’In- spécifique. Cela n’a rien de mystérieux et
telligence Artificielle, on vous montre une est dû au fait qu’avec l’accélération du pro-
image de neurone et on vous dit qu’il se cesseur graphique nous pouvons obtenir
passe quelque chose de mystérieux. Tout plusieurs régressions et connecter une ré-
d’abord, il s’agit d’une simplification ex- gression à la régression suivante et à la sui-
cessive de ce qu’est le neurone. Le per- vante et ainsi de suite. Voilà le pouvoir du
ceptron, qui est le précurseur de notre ré- deep network : le fait de pouvoir combiner
seau neuronal moderne, était un outil de en série le résultat d’une régression statis-
réduction de la dimension des données. tique avec la régression suivante. Il s‘agit
C’est exactement ce d’un ajustement des
que fait le neurone : courbes extraordi-
il cherche à simpli- nairement avancé,
fier le résultat des qui crée, toute-
données complexes fois, quelques pro-
qu’il perçoit. La simi- blèmes.
larité s’arrête là. C’est
pour cela que je On va vous mon-
n’aime pas le terme trer une diapositive
« réseau neuronal », pour vous démon-
car le neurone est trer que le système
bien plus complexe est incroyablement
que nos réseaux intelligent, en affi-
neuronaux compu- chant une série de
tationnels primitifs. couches, dont la
Ils ont en commun, première détecte
toutefois, une chose, à savoir un outil de des bords, la deuxième des nez et des
réduction des dimensions des données yeux et la suivante des visages humains.
statistiques. Par certains côtés, beaucoup C’est, en effet, assez insolite. Si l’on ob-

Chapitre II - L’intelligence artificielle dans le monde de la radiologie - 35


serve le deep learning d’un point de vue Mais, cela veut dire également mystérieux,
pratique, qui est certainement celui de la et j’aime bien cette connotation. Leur fonc-
radiologie, ces couches cachées n’ont pas tionnement n’est pas facile à comprendre.
de sens est sont très difficiles à interpréter. Contrairement à l’apprentissage automa-
tique, comme le DAO, où l’on peut avoir un
Vous entendrez parler de la convolution, modèle a priori et être transparent. Nous
mais je ne veux pas aborder ce sujet, car je pensons que les cancers sont mal définis,
suis déjà assez en retard. On entend par- donc notre modèle statistique recherche
ler de la convolution en radiologie, mais des bords mal définis. C’est très rassurant
il n’y a rien de nouveau là non plus. Nous pour nous, car cela nous paraît très ration-
connaissons tous les convolutions. Quand nel. Le problème, en ce qui concerne le
vous demandez à vos techniciens d’avoir deep learning, c’est qu’il fonctionne, mais
des fenêtres de poumons sur votre termi- que je ne peux pas vous expliquer pour-
nal informatique, ils appliquent un filtre quoi, car je ne le sais pas. J’ai été trop pa-
de convolution élevé pour agrandir les resseux pour obtenir un modèle a priori,
bords. Voilà ce qu’est un réseau neuronal à je l’ai juste alimenté avec un grand volume
convolution : il s’agit d’utiliser des filtres de de données et il a trouvé une solution. Ce
convolution comme modèle pour obtenir qui crée toute une série de problèmes, car
ces nouvelles régressions. Il n’y a vraiment maintenant les couches cachées ne sont
rien de très nouveau dans ces technolo- pas des représentations évidentes et la
gies. L’on utilise des méthodes statistiques validation doit, donc, être purement statis-
très connues, comme la régression, de ma- tique, ce qui veut dire non seulement que
nière plus concrète, avec une accélération nous avons besoin d’un très grand nombre
à processeur graphique. Ce qui est inté- de données pour former ces systèmes,
ressant, en revanche, c’est que nous pou- mais aussi d’un grand nombre de données
vons effectuer un grand nombre d’opéra- pour les valider. Cela pose la question de
tions différentes. Si nous disposons d’un savoir si, en médecine, nous disposons de
nombre suffisant de données vérifiées, cette énorme quantité de données véri-
nous pouvons obtenir un hyperplan, ou un fiées et la réponse est non.
modèle prédictif.
Ceux d’entre vous qui craignent l’IA
Ces systèmes posent un triple défi. Tout peuvent dormir tranquilles, car nous ne
d’abord, en ce qui concerne le mode de va- pouvons même pas former ces systèmes.
lidation des systèmes. J’aime bien le terme C’est la raison pour laquelle les exemples
deep learning, car le mot deep [profond] d’utilisation que vous voyez sont relative-
a deux significations, qui me paraissent ment élémentaires, car ils se fondent sur
adéquates. Tout d’abord, cela veut dire les données disponibles, plutôt que sur
« capable », et ces systèmes sont incroya- de vrais exemples d’utilisation. Cela dé-
blement efficaces, comme vous le savez. note un manque de maturité de ces sys-

36 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


la courbe because we do not know
for me, but you do not know what
it fit. S’agit-il d’un sur-ajustement ?
Quelle que soit la manière dont il
fonctionne, le système pense que
c’est un révolver. Nous avons la
même série de données avec deux
prédictions d’hyperplan, l’une est
linéaire, mais l’autre is lots of air. La-
quelle de ces prédictions allez-vous
prendre en compte pour l’étendre
aux autres séries de données ?
C’est le principal problème que
pose le deep learning aujourd’hui :
tèmes. Pour tous ceux qui, comme moi, si vous ne disposez pas d’un très grand vo-
veulent utiliser ces systèmes ce n’est pas lume de données de validation, comment
une bonne nouvelle, car nous n’allons pas pouvez-vous savoir qu’il ne s’agit pas d’un
pouvoir recourir à l’IA de sitôt, à cause de sur-ajustement ?
l’indisponibilité d’un nombre suffisant de
données. Je fais beaucoup de recherches pour Phi-
lips. Il y a plusieurs années, j'ai participé
Le deuxième problème est constitué par à un projet de recherche concernant une
un sur-ajustement (overfitting). Le meil- simple expérience de deep learning qui
leur système mondial de reconnaissance visait à comprendre si l’on pouvait former
d’images basé sur l’IA a pris une tortue un système de deep learning pour détec-
pour un revolver. Je ne vais pas vous expli- ter une partie du corps dans une radio-
quer pourquoi. Cela a été montré comme graphie. Ce n’est pas très utile au niveau
exemple par des étudiants en deep lear- pratique, mais c’était assez amusant à voir.
ning du MIT, aux États-Unis, pour évoquer Nous avons tracé la courbe d’appren-
le problème du sur-ajustement. Contraire- tissage traditionnelle et elle a très bien
ment à l’apprentissage automatique clas- fonctionné, avec une précision d’environ
sique, où l’on dispose d’un modèle a priori 99 %. Malheureusement, le système pen-
que vous pouvez présenter et dire expres- sait qu’il s’agissait d’une mammographie.
sément que vous pensez que les cancers Chaque fois qu’une partie du corps appa-
sont mal définis, c’est ce pour quoi nous raissait sur le bord de la radiographie, le
avons utilisé notre modèle statistique. système savait qu’il s’agissait d’une mam-
Le deep learning veut dire : « j’ai été trop mographie. Ce qui est effectivement très
paresseux et trop bête ». J’avais un grand intelligent. La plupart du temps, les tech-
nombre de données et elles s’adaptaient à nologies que nous appliquons à une autre

Chapitre II - L’intelligence artificielle dans le monde de la radiologie - 37


partie de notre anatomie cherchent à cou- vos notes, l’architecture que nous utilisons
per l’anatomie sur l’image. Malheureuse- à l’Université de Chicago et vous pouvez
ment, nous ne pouvons pas demander à la communiquer à votre responsable infor-
nos patientes de déplacer leurs seins pour matique.
qu’ils apparaissent au centre de l’image. La
mammographie est relativement unique, Pour conclure, il est peut-être trop tôt pour
car la partie du corps concernée est géné- choisir une stratégie gagnante en matière
ralement placée de manière asymétrique d’IA, mais vous pouvez commencer par
dans l’image. Le système de deep learning fournir les données nécessaires ou l’in-
utilisait, donc, cette notion, ce qui n’est pas frastructure requise.
faux et c’est extraordinairement intelligent,
mais peut-on utiliser cela comme critère Je vais m’arrêter là et vous fournir quelques
clinique ? Voilà le problème du deep lear- exemples de ce que vous pouvez faire
ning. Il est profond, il est obscur. Vous ne avec le deep learning, maintenant qu’il
savez pas exactement comment il fonc- peut nous aider de manière concrète. Par
tionne. Contrairement à l’apprentissage exemple, quand vous regardez MR, beau-
automatique classique, qui utilise un mo- coup d’entre nous savent que, pour être ef-
dèle a priori, vous ne savez pas ce qui se ficaces, nous devons regarder la séquence
passe exactement. de l’argent [money sequence]. Pour l’ima-
gerie cérébrale c’est la séquence FLAIR ;
Nous devons, donc, disposer d’un volume pour l’imagerie abdominale, je regarde
suffisant de métadonnées et intégrer les l’image pondérée en diffusion DWI ou T2,
flux de travail. C’est là l’essence du deep et après cela nous écoutons Où est Char-
learning. Il nécessite une structure infor- lie.
matique très efficace et, malheureuse-
ment, nous ne la possédons pas encore. Maintenant, nous devons rechercher la lé-
sion partout, etc., et cela nous fait perdre
Très rapidement, je dirai que nous avons beaucoup de temps. Avec l’apprentissage
dix ans de retard, par rapport à d’autres automatique, je trouve la lésion et j’iden-
secteurs, en termes d’infrastructures in- tifie automatiquement toutes les autres
formatiques capables d’alimenter ces séquences, j’effectue automatiquement
systèmes. Ceux qui souhaitent, comme la soustraction, ce qui me fait gagner du
moi, utiliser l’IA, doivent trouver des mé- temps dans l’acquisition, je regarde si le
canismes capables de créer les données résultat est meilleur ou pas et cela m’aide
nécessaires pour alimenter ces systèmes, à formuler un meilleur diagnostic différen-
les former et les valider, des mécanismes tiel. Cela ne va pas me remplacer, mais
capables d’améliorer nos infrastructures cela va me permettre de consacrer moins
informatiques, et les intégrer à nos flux de de temps à ce travail logique et technique
travail. C’est un problème. Vous avez, dans pour me consacrer davantage au travail

38 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


collaboratif et aux relations avec les pa- travaux, pour qu’il puisse passer plus de
tients. Cela ne va pas me remplacer, mais temps avec ses patients.
cela va optimiser la relation collaborative
homme-machine, comme quand j’utilise Le deep learning est-il une menace pour
des lunettes. En ce qui me concerne je le clinicien ? Si vous observez les autres
ne fais plus manuellement des divisions à secteurs, vous vous apercevez que les
plusieurs chiffres. Je ne me sens pas dimi- meilleurs systèmes basés sur l’IA fonc-
nué pour autant, bien au contraire. C’est la tionnent mieux avec une intervention hu-
même chose en ce qui concerne l’appren- maine. Les systèmes ne visent pas à rem-
tissage automatique. placer les hommes et les femmes, mais à
améliorer leurs prestations. Le deep lear-
Aux États-Unis, nous avons un gros pro- ning est-il une menace pour le clinicien ?
blème en ce qui concerne les découvertes Pas de panique. Nous avons nourri ce
fortuites, des genre de
nodules qui crainte bien
passent entre d’autres fois
les mailles par le passé.
du filet et qui Il n’y a rien de
ne font l’ob- nouveau. La
jet d’aucun radiologie a
suivi. À Chi- toujours été
cago, nous capable de
travaillons se redéfinir
justement, en positivement,
ce moment, pour intégrer
à ce pro- de nouvelles
blème, grâce technologies
au deep lear- potentielle-
ning. J’identi- ment pertur-
fie le nodule et le système de deep lear- batrices, souvent dans l’intérêt de nos pa-
ning comprend immédiatement qu’il peut tients. Nous avons toujours mis du temps
donner un coup de main à son collègue à adopter de nouvelles technologies, tout
humain. Il peut vérifier s’il existe un facteur en « nous en faisant une montagne » au dé-
de risque, si le patient est fumeur, contrô- part. Le deep learning n’est ni une terrible
ler automatiquement les dernières re- menace, ni la panacée absolue. Si nous
commandations Flector et renseigner une apprenons à le maîtriser, il sera ni plus ni
base de données pour permettre le suivi. moins comme les autres technologies que
Cela ne remplace pas le radiologue, mais nous avons appris à utiliser.
cela le débarrasse de toute une série de

Chapitre II - L’intelligence artificielle dans le monde de la radiologie - 39


Pour conclure, il est peut-être trop tôt pour
choisir une stratégie gagnante dans ce do-
maine, mais vous pouvez commencer par
approvisionner les données nécessaires
ou l’infrastructure requise. La plupart
d’entre nous sont tout à fait impréparés à
l’utilisation de l’IA. Nous devons recher-
cher des exemples d’utilisation et ne pas
nous laisser guider par les données dis-
ponibles, mais par des choses utiles. Nous
devons tout faire pour intégrer l’IA au flux
de travail. Le but est d’obtenir une maîtrise
optimisée des flux de travail cybernétiques
homme-machine, sans remplacer le radio-
logue, mais en lui permettant de s’amélio-
rer, de manière à ce que tout le travail tech-
nique soit réalisé par la machine, pendant
que nous nous consacrons au travail colla-
boratif, humain, et à l’analyse, la poésie et
la philosophie. Laissons la machine faire le
travail que nous ne savons pas bien faire
et que nous ne devrions pas faire. Ma der-
nière recommandation sera la suivante :
restez motivés. Utilisez une radiologie or-
ganisée, espérons qu’ils puissent assumer
une position de leadership pour que cette
technologie soit utilisée correctement.

Merci beaucoup. n

40 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


Chapitre II - L’intelligence artificielle dans le monde de la radiologie - 41
Intelligence Artificielle
appliquée à l’imagerie
médicale : espoir ou elpis ?

Luc SOLER
Président visible patient
Dir. scientifique IRCAD
II
Intelligence Artificielle
appliquée à l’imagerie
médicale : espoir ou elpis ? *

M
erci aux organisa- Zeus a rajouté une seconde punition : la
teurs de m'avoir in- création d'une certaine Pandore, magni-
vité à réaliser cette fique femme créée par six divinités. Parmi
présentation pour ses caractéristiques premières, telles que
parler de l'intelli- la beauté et l’habileté, Zeus demanda a
gence artificielle Hermès d’ajouter un vilain petit défaut :
appliquée à l'ima- la curiosité. Puis Zeus offrit à Pandore, un
gerie médicale. Il y a bien longtemps, un joli cadeau, une amphore remplit de tous
certain Zeus s'était fait voler le feu par un les maux de la terre qui pouvait détruire
certain Prométhée qui avait donné ce feu l’humanité. La fameuse boîte de Pandore
à l'Homme. Je ne sais pas si vous êtes au était en fait une amphore car vous vous
courant de cette histoire qui remonte à la doutez bien à l'époque que les boîtes,
mythologie grecque. Zeus n'était vraiment ce n'est pas trop leur truc. Zeus expliqua
pas content de ce vol. Il a donc puni notre à Pandore qu’il ne fallait pas ouvrir cette
cher Prométhée qui nous avait donné le amphore sans lui dire pourquoi, mais la
feu à nous, les Hommes, en l'accrochant à curiosité de Pandore fut plus forte que la
un rocher et un aigle venait lui manger son raison et elle fini par ouvrir la boite lais-
foie tous les jours. L’aigle n'était pas bête, sant ainsi s’échapper tous les maux de la
il ne lui mangeait pas tout son foie ce qui terre qui font qu'aujourd'hui, on est ma-
lui permettait de repousser. Il avait déjà lade, que l'on tombe malade et que l'on
compris à l'époque que l'on ne pouvait meurt. En fait Pandore referma cette boite
pas couper plus de 70 % du volume hépa- avant que le dernier mal ne s’en échappa.
tique pour avoir une repousse hépatique Et ce dernier mal s’appelle « Elpis », qui a
efficace. Donc, le foie repoussait. C'était été mal traduit par espoir. La vraie traduc-
une peine perpétuelle. tion d’elpis en grec, c'est attendre quelque
chose. Le contraire de ce mot signifie lui
Pourquoi est-ce que Zeus a fait cela ? Parce « agir » et l’on comprend bien que si nous
qu'en fait, on lui avait volé ce feu qui a agissons au lieu d’attendre sans rien faire,
donné à l'Homme la possibilité d'évo- alors nous allons peut-être pouvoir chan-
luer. Mais vous ne le savez peut-être pas, ger les choses, et notamment combattre
*
Retranscription de l’intervention orale

44 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


les maux tels que la maladie. A l’inverse, voir où sont ces branches et d'où elles
si on attend sans agir quand par exemple partent.
une voiture arrive sur nous, il y a un risque
très élevé de se faire écraser. Ce dernier Dans le cas du foie, le chirurgien ne peut
mal n’étant pas sorti de la boite de Pan- voir que la base, c’est-à-dire le tronc et le
dore, l’humain a pu agir et ainsi utiliser le départ des premières branches et il devra
feu que nous avait donné Prométhée pour couper la branche qui va au bon endroit.
notamment agir sur le foie qui repousse. Là encore pour pouvoir se repérer, on va
On a ainsi utilisé le feu pour cautériser puis utiliser l'imagerie médicale. On comprend
pour faire des thermoablations à l'intérieur bien que l'imagerie médicale est cruciale
du patient. Mais pour cela, il a fallu créer dans ces prises de décisions et dans la
d'autres sources d'énergie et utiliser notre réalisation des actes, mais cette imagerie
intelligence humaine, agir. Dans le cas de nous pose quelques soucis parce qu'elle
la thermoablation, développer et maitriser est complexe à comprendre. De plus, la
le feu n’était pas suffisant car il reste un pathologie est parfois présente sur très
problème : viser la cible qui est à l'intérieur peu de coupes comme c’est le cas dans
du corps alors que le patient, lui, n'est pas cet exemple où la tumeur n’est visible que
transparent. sur 3 coupes parmi 237.

Pour viser la cible, on a créé des imageurs Il y a un deuxième problème : Comment


médicaux qui nous permettent de voir se repérer dans le vrai patient à partir de
cette cible à l'intérieur du corps. On peut ces images ? Si l’on regarde notre routine
aussi utiliser autrement cet imageur pour clinique, à partir de cette image qui est ini-
faire de la radiothérapie. On va à la fois tialement en trois dimensions, le rapport
s'en servir pour viser, mais aussi pour tirer radiologique va nous dire : « La tumeur
des rayons X qui vont nous permettre de est localisée au bout de la veine paramé-
détruire la tumeur. On peut aussi l'utiliser diane droite dans le segment huit. » C'est
en chirurgie. Là, l'idée est de préserver les exactement comme si je vous disais :
tissus. Pour simplifier, nous pouvons com- « Rendez-vous demain ici, là, au bout de
parer le foie à un arbre, son réseau vei- l'avenue du Général Leclerc dans le qua-
neux porte correspondant aux branches torzième arrondissement à Paris» et que
de cet arbre. Lorsque dans une ville il y je ne vous donnais que cette photo satel-
a un arbre malade, en général la mairie lite pour y aller. Vous comprenez que cela
décide de le couper puis de le remplacer. ne va pas être simple. Ceci est pourtant
En chirurgie, cela s'appelle une transplan- la routine de tous les cliniciens. On part
tation. Si c'est un arbre que l'on a à la mai- d'une image en 3D, mais qui est complexe
son, on va plutôt essayer de le préserver à interpréter. On la traduit en un texte qui
et de ne couper que la ou les branches va permettre de donner des informations
malades, mais pour cela, il faut aussi sa- supplémentaires de repérage, mais au fi-

Chapitre II - Intelligence artificielle appliquée à l’imagerie médicale : espoir ou elpis ? - 45


nal, on se retrouve avec une photo satel- triser le feu, nous a permis d'aller plus loin.
lite et l’on doit agir sur le patient. Une telle On peut aussi augmenter notre capacité
complexité entraîne chaque année 40 000 de perception visuelle. Créer une image
décès aux États-Unis dus à des erreurs de qui va nous permettre de mieux voir, c'est
diagnostic ou de choix thérapeutiques en un peu l'objectif de la radiologie surtout si
chirurgie. Ces erreurs, on peut les éviter si on y rajoute l’augmentation de nos capa-
on change la façon de percevoir l'image. cités cognitives qui restent elles aussi limi-
En fait à la base, on avait une image qui était tées. On a une mémoire limitée. Pourquoi
bien en 3D mais coupée en tranches. Or, ne pas utiliser celle de l'ordinateur ?
notre cerveau du fait de ses limites ne peut
pas efficacement et systématiquement in- Pour cela, on va transformer cette image
terpréter correctement et reconstruire l’in- satellite initiale en une cartographie. C'est-
formation 3D contenu dans l’image. Mais à-dire que l'on va détecter dans l'image
cette limite humaine, on peut la dépasser le contour des structures d'intérêt et on
si on rajoute va les nom-
des systèmes mer. Cette
d ’a s s i s t a n c e cartographie
informatique que l'on peut
notamment faire pour une
fondés sur ville, on peut
l’Intelligence la faire pour le
artificielle. Ce patient. C'est
qu’expliquait ce que l’on a
à juste titre développé
l’intervenant avec Visible
précédent, patient. Tout
l'objectif de d’abord, dans
l'Intelligence un premier
Artificielle, n'est pas de remplacer l'Homme temps, on envoie les images médicales via
mais de l'augmenter. Et on peut l'augmen- internet dans des systèmes de stockage
ter par plein de moyens. On peut rajouter sécurisés. C’est très important la sécurisa-
des robots, des instruments qui vont nous tion de la donnée parce que nous sommes
permettre d'être plus précis, d’augmenter en train de parler d'un patient. Il ne s'agi-
notre capacité manuelle. Je rappelle que rait pas que mon banquier me dise :
c'est ce que fait l'Homme depuis l'origine « Ah, mais d'après l'intelligence artificielle
des temps. On n'était pas capable de cou- dans dix ans, vous allez avoir un cancer,
per avec nos petits doigts. Alors on a créé donc je ne vous fais pas un prêt sur vingt
des ciseaux et des outils pointus. Créer ces ans. En revanche, sur cinq ans si vous vou-
outils nous a permis d'aller plus loin. Maî- lez, je vous le fais. » Ce n'est pas l'objec-

46 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


tif. L'objectif est de soigner le
patient. Donc, il faut sécuriser
la donnée. Cette donnée sé-
curisée, nous pouvons alors la
traiter pour le bien du patient
et renvoyer en retour un mo-
dèle 3D du patient, une copie
virtuelle, un clone numérique.
C'est cette analyse que pro-
pose aujourd'hui Visible pa-
tient. Comme un laboratoire
d'analyses de sang qui va vous fournir un le choix thérapeutique. Tous disent qu'il
rapport, Visible patient vous fournit le mo- faut couper le foie droit.
dèle 3D du patient, copie virtuelle qui va
nous permettre de planifier l'acte opéra- Voyons voir ce que nous pouvons faire
toire. quand on a un modèle 3D. Voici donc ce
même patient 3D. Déjà, c'est beaucoup
Planifier l'acte opératoire, cela se traduit plus facile à comprendre pour Monsieur
concrètement comme cela. Vous voyez tout le monde parce que là, j'ai des repères
ici le même patient que je vous montrais que n’importe qui reconnaît. Les côtes no-
tout à l'heure. Vous avez ici une tumeur tamment, c'est un repère anatomique as-
qui est localisée dans le haut du foie à cet sez simple pour se repérer dans le corps.
endroit-là. Elle n’est pas forcément facile Comme un GPS qui permet d’afficher la
à voir. Nous en avons une deuxième qui liste des routes, on peut ici faire apparaître
est ici, qui n'avait pas été vue lors de l’exa- la liste des organes. On va ensuite pouvoir
men radiologique, ni par l'équipe chirurgi- mettre en transparence n’importe quelle
cale, mais qui a été vue par le logiciel. Ces structure anatomique ou pathologique
deux tumeurs, quand je les montre aux modélisée individuellement. Ici, je mets en
chirurgiens hépatiques ou digestifs, quels transparence le foie. Si j’efface les os, on
qu’ils soient, experts ou plus jeunes, tous voit très bien au niveau de ce patient les
concluent qu’elles sont localisées dans le deux tumeurs. Si on utilise les repères ana-
foie droit. Je rappelle que nous formons tomiques standards comme cette branche
plus de 6000 chirurgiens par an à l’IRCAD qui est la veine hépatique médiane, on va
Strasbourg, et je montre ce cas depuis oc- dire : « Oui, en effet, les deux tumeurs sont
tobre 2017 aux cours que l'on donne. Plus nettement à droite». Mais voilà, en faisant
de 500 chirurgiens ont voté sur ce cas. Et cela j'ai utilisé un repère anatomique qui
bien il n’y en a pas un seul qui ne se soit pas est faux et pourtant souvent enseigné en
trompé, y compris les meilleurs experts sur anatomie ou dans nos services. Ce repère
ce qu'il fallait faire pour ce patient, bref sur anatomique fondé sur la position de la

Chapitre II - Intelligence artificielle appliquée à l’imagerie médicale : espoir ou elpis ? - 47


vésicule biliaire et de la veine hépatique ratoire au bénéfice du patient. On com-
médiane est faux parce que la définition prend alors beaucoup mieux les chiffres
fonctionnelle du foie, ce ne sont pas les de mortalité dû aux erreurs de diagnostic
veines hépatiques qui la donnent, mais les et de choix thérapeutique parce qu'en fait
veines portes, celles qui sont ici en violet. chaque patient est différent. Ils ont tous
Heureusement, avec la modélisation 3D, une anatomie qui leur est propre et que
Visible Patient apporte aussi la possibilité l’image médicale analysée en 3D permet
de simuler la pose de clips chirurgicaux. Si de reconstruire et de comprendre et pas
on réalise une simulation de l'acte chirur- seulement pour le foie.
gical qui consiste à poser un clip ici sur la
branche porte droite, on voit alors immé- Vous avez ici un exemple d'atrésie pul-
diatement le véritable foie droit virtuelle- monaire. Lors de cette opération qui était
ment dévascularisé. Le logiciel nous four- un direct durant un cours de chirurgie, le
nit aussi le volume clampé et le volume chirurgien décrivait le cas avant de l’opérer :
restant. On voit ici en transparence ce foie « La pathologie est dans le lobe supérieur
droit en orange et je constate que les deux droit, je vais donc retirer le lobe supérieur
tumeurs ne sont pas du tout dans ce foie droit». Et en effet, lorsque l’on regarde no-
droit. En fait, en mettant un clip dans la tamment en vue sagittale, elle semble clai-
branche porte gauche, on se rend compte rement localisée dans le lobe supérieur
que finalement, ces deux tumeurs sont droit. Alors comme pour le foie, regardons
dans le foie gauche. Au passage, vous no- en 3D cet enfant de six mois. Nous pou-
terez que la séparation entre le foie droit et vons retirer virtuellement la peau, puis reti-
le foie gauche est horizontale au lieu d'être rer les structures osseuses pour mieux voir
verticale. Vous comprenez que cela ne soit les poumons. On met en transparence le
pas évident pour un cerveau humain nor- poumon droit puis avec un clic du bouton
mal, y compris celui d'un expert, de com- droit de la souris sur la bronche du lobe
prendre une telle variation qui parait hors- supérieur droit de ce poumon, je réalise
norme. En fait, cette variation n’est pas un clampage virtuel. On voit donc appa-
hors norme puisque Couinaud dès 1957 raître ici en jaune le lobe supérieur droit
l’avait référencé et indiqué présente dans que le chirurgien voulait retirer. Mainte-
16% des patients. De façon plus générale, nant, j’affiche en 3D la partie malade et
toutes les études publiées montrent que l’on constate immédiatement qu'elle n'est
lorsqu’on demande à un chirurgien hépa- pas du tout dans le lobe supérieur droit.
tique de définir son acte chirurgical à partir Sans le logiciel, on retirait une mauvaise
de l’image médicale et du rapport radio- partie. C’est-à-dire que l’on faisait ce qu'on
logie, et qu’ensuite on lui donne le mo- appelle une erreur évitable grave. Erreur
dèle 3D avec la possibilité de simulation évitable, on comprend. Grave, cela veut
offerte par Visible Patient, dans un tiers dire que le patient va être au minimum
des cas il va changer son planning opé- réopéré pour corriger l’erreur. Il y en a

48 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


92 000 en France par an. Ce sont les les artères et mettre un clip sur cette artère
chiffres de 2012 du ministère. Maintenant, qui alimente l'arrière de la tumeur et sur
on peut l'éviter grâce au logiciel. celle-ci qui alimente l'avant. On constate
par cette simulation sur le rein droit, que je
Dernier exemple rapidement, en urologie retire ici 60 % du rein droit, mais il me reste
cette fois-ci. Un enfant de cinq ans avec 50 % de rein fonctionnels avec un volume.
deux tumeurs, un néphroblastome dans C'est cela le plus important. Au niveau du
chaque rein. Il n’y a que cinq cas par an en rein gauche, on voit qu'il y a une petite
France et l’on comprend qu’avec une telle variation anatomique cachée derrière la
fréquence cela soit difficile. On voit sur veine rénale gauche que je peux effacer
l’image médicale que la tumeur gauche virtuellement. On a deux artères rénales.
envahit à peu près tout le rein gauche et On va sacrifier celle du dessus par la pose
que la tumeur droite envahit à peu près d’un premier clip virtuel. On va ici égale-
la moitié du ment sacrifier
rein droit. Le une seconde
choix thérapeu- petite artère afin
tique validé par de garantir le
deux équipes retrait complet
cliniques dis- d’une marge de
tinctes est le sui- sécurité modé-
vant: on retire la lisée elle aussi
moitié du rein en 3D. Après
droit et l’on en- cette opération
lève totalement on note qu’il ne
le rein gauche. reste que 17 %
Durant les six du volume du
mois post-opé- rein gauche,
ratoire l’enfant devra être mis sous dialyse mais en fait un tiers de volume fonctionnel.
du fait de l’insuffisance rénale attendue Comme les deux reins sont plus gros que
de cette opération, puis, s’il n’a pas de re- la moyenne le choix est fait de tenter cette
pousse tumorale à droite, une transplan- opération sans risque ajouté pour le pa-
tation sera réalisée dès qu’un greffon sera tient. Une première opération est réalisée
disponible. Après, c'est une vie d'antirejets. début décembre 2017, et consiste à retirer
Sauf qu’avec la reconstruction 3D produite la moitié du rein droit. Fin décembre, le
par Visible patient, on voit que les tumeurs patient n’a pas d'insuffisance rénale et n’a
ne sont pas aussi envahissantes que ce qui donc pas de dialyse, confirmant ainsi les
était planifié. On va donc à nouveau simu- estimations du logiciel. On retire alors dé-
ler l'acte opératoire en préopératoire. On but janvier la partie supérieure élargie du
efface ici la veine rénale pour mieux voir rein gauche. L'enfant est rentré chez lui fin

Chapitre II - Intelligence artificielle appliquée à l’imagerie médicale : espoir ou elpis ? - 49


janvier, sans insuffisance rénale, sans dia- le patient en transparence. On peut le faire
lyse. Depuis, il va très bien et aujourd'hui, pour des actes percutanés, mais on peut
voilà à quoi ressemble ses reins modélisés aussi le faire en chirurgie laparoscopique
en post-opératoire. Il a deux morceaux de mini-invasive. Nous pouvons le brancher
reins fonctionnels, n'a pas de dialyse et n'a sur un robot par exemple. Dans le robot,
pas eu de transplantation. je vais avoir la même vue 3D en transpa-
rence. Nous voyons ici le foie en transpa-
Ce ne sont là que trois exemples rapides. rence ce qui permet d'opérer en étant
Je pourrais vous en montrer évidemment demain guidé par l'image, par le geste vir-
beaucoup plus mais on va s'arrêter là sur les tuel que nous aurons planifié nous-même
exemples. Notez simplement que ces mo- avant l’opération. C'est-à-dire que la simu-
délisations ont un autre avantage: Elles nous lation préopératoire sert de guide, comme
permettent de mieux expliquer aux patients le GPS quand il vous montre la route et
leur pathologie et nos propositions théra- que vous allez suivre la route.
peutiques. On nous dit souvent : « L’IA, cela
va détruire l'humanité ou les relations hu- Alors évidemment, on se dit : « Mais dans
maines». Vous voyez que c'est exactement ce cas-là, pourquoi ne pas arriver à la voi-
l'inverse parce qu’ici grâce à cette IA, on a pu ture automatique après tout ? » Pour cela,
créer des nouveaux liens entre le patient et il faut le brancher sur un robot que je suis
le médecin qui avant ne savait pas comment capable de contrôler. Mais il faut aussi plus
expliquer au patient sa pathologie et surtout de précision et notamment tenir compte
sa thérapie. Vous voyez bien qu'avec l'image des déformations et des mouvements res-
en niveau de gris, c'est compliqué alors que piratoires en temps réel. Aujourd’hui avec
l'image en couleur, c'est simple. Il y a une les logiciels développés à l’IRCAD et à
partie colorée que l'on va enlever. L'autre, l’IHU de Strasbourg nous obtenons deux
on va la garder. On a les chiffres à l'avance. millimètres de précision. En le branchant
C'est beaucoup plus simple à expliquer et avec un robot, nous pouvons aussi suivre
donc, on améliore le rapport humain. les mouvements respiratoires et deman-
der au robot de filtrer ces mouvements
Après, on peut l'utiliser pendant l'opéra- respiratoires. C'est ce que l’on a fait avec
tion, soit sur une tablette, soit carrément l’équipe AVR de l’université de Strasbourg.
en la branchant sur un système de réalité Vous voyez qu’ici sans le filtrage, la tumeur
augmentée. Dans ce cas on va guider le sur le foie bouge du fait des mouvements
geste du chirurgien à l’image de ce que respiratoires. Évidemment, il pourrait
fait un GPS. Dans le futur, grâce à ces tech- mettre en pause la vidéo pour arrêter les
nologies nous allons voir les patients en mouvements mais le chirurgien ne va pas
transparence. Dans cet exemple, en utili- apprécier. Une deuxième solution consis-
sant le casque Hololens de Microsoft cou- terait à arrêter de faire respirer le patient.
plé au logiciel de réalité augmentée je vois En général là, c'est la famille qui n'est pas

50 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


ma présentation, certains
pensent que développer
l’IA c’est ouvrir la boîte
de Pandore. L’Elpis, le
dernier mal présent dans
la boite de Pandore c’est
attendre quelque chose.
Si demain, je demande
à l'ordinateur de gérer
l'ordinateur. Si je dis que
finalement tout est entre
ses mains, alors certaine-
contente après l'opération. La troisième ment, on va se retrouver face à l’Elpis, c’est-
solution est d'utiliser ce que je vous ai à-dire à ne rien faire assis dans son siège à
montré avant. C'est-à-dire la réalité aug- regarder l’ordinateur penser et agir à notre
mentée couplée au robot avec de l'intelli- place. Mais si cette intelligence artificielle
gence artificielle. On obtient un filtrage en est mise entre les mains de l'humain, alors
temps réel des mouvements, le robot sui- dans ce cas-là on se retrouve comme avec
vant très précisément les déplacements de le feu que nous avait donné Prométhée.
la tumeur. Alors est-ce que c'est de l'intel- Ce feu nous avons appris à le domestiquer
ligence artificielle ? Pas vraiment. Ce sont et cela nous a permis d’évoluer. Il y aura
des maths appliquées sur un ordinateur forcément des pyromanes, il y aura des
qui contrôle un système. On lui a quand risques à utiliser l’IA, mais nous pouvons,
même dit globalement ce que l’on voulait c’est certain, la domestiquer.
faire. Après, il a trouvé des solutions. C'est
en effet plutôt du deep learning, mais à La question fondamentale, c'est : doit-on
la fin, on a quand même quelque chose se priver de l’IA au prétexte que cela peut
d'intéressant. Cela nous aide parce que être dangereux ? Je vais vous répondre
la tumeur reste au centre de l'image et franchement. Je ne peux pas accepter que
les instruments bougent au rythme totale- l'on se prive de cela parce que l'on a des
ment automatique de la respiration. Donc, patients tous les jours qui décèdent de
j'enlève des difficultés. pathologies que l'on veut soigner. Ces en-
fants ont le droit de pouvoir croquer la vie
Cette intelligence artificielle fait peur au- à pleines dents. En conclusion de ma pré-
jourd'hui. Elle fait peur parce que l'on sentation, je ne dirai qu'une chose. Vivre,
se dit : « Mais demain, le robot va nous c'est prendre des risques. L'intelligence
remplacer. S’il nous remplace, peut-être est de les maîtriser pour le bien de l'huma-
dira-t-il un jour : On n'a peut-être pas be- nité. Merci pour votre attention. n
soin de l'humain». Si on revient au début de

Chapitre II - Intelligence artificielle appliquée à l’imagerie médicale : espoir ou elpis ? - 51


L’éthique dans le développement
de l’Intelligence Artificielle

David GRUSON
Chaire Santé Sciences Po Paris
Ethik-IA
II
L’éthique dans
le développement
de l’Intelligence Artificielle *

M
erci à tous. Je vais dent, des outils de régulation pour essayer
essayer, comme une de maîtriser les risques liés au dévelop-
partie de nos tra- pement de la technologie et de la robo-
vaux consiste à réflé- tisation, capitaliser sur les gains avec une
chir aux interactions conviction de base. Quand on réfléchit
entre l'intelligence aux problèmes éthiques, il y a aujourd'hui
artificielle et le temps, des problèmes éthiques constatés à l'in-
d'essayer de le récupérer pour nous per- suffisance de recours au numérique dans
mettre de terminer à l'heure. Ce d'autant notre système de santé. Ces problèmes
plus qu'une série de constats ont été po- éthiques sont constatés et immédiate-
sés dans les interventions précédentes. La ment palpables. Vous avez cité l'exemple
radiologie – les choses ont été bien identi- de l'insuffisance rénale chronique. C'est
fiées – est une pointe avancée du dévelop- un exemple tout à fait frappant des pro-
pement de l'intelligence artificielle dans le blèmes inacceptables en termes de qua-
domaine de la santé. Ce que nous faisons lité et d'efficience de prise en charge aux-
avec l'initiative ETHIK-IA, initiative acadé- quels aboutit l'insuffisance du pilotage par
mique citoyenne qui rassemble des univer- les données de santé. Ces problématiques
sitaires, chaire santé de Sciences Po Paris, éthiques sont infiniment supérieures aux
Institut Droit santé Paris Descartes. Ce sont risques éthiques potentiels liés au dé-
à la fois des juristes médicaux, sociologues. ploiement des technologies. Ce sont des
Je salue la présence du Docteur Victor de risques potentiels. Nous pouvons essayer
Castro qui va se lever, qui est coordinateur de les réguler et de les anticiper. Je coor-
médical de l'initiative et puis vous enten- donne avec Claude Kirchner, le président
drez tout à l'heure Florent Parmentier parler de l'INRIA 1, le groupe du Conseil national
de géopolitique. d'éthique qui prépare la révision de la loi
de bioéthique, auquel Jacques Lucas nous
Un de nos objectifs est d'essayer de mon- fait l'amitié de participer également. Ce
trer que l'on peut développer exactement n'est pas à ce titre-là que je parle ce matin.
comme le suggérait l'intervenant précé- C'est à titre personnel.

*
Retranscription de l’intervention orale
1
Institut national de recherche en informatique et en automatique

54 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


sourire. Le big data, c'est un peu pareil.
Vous avez les partisans et les adversaires.
C'est une notion qui n'est pas neutre dans
le débat public. Il faut bien le mesurer. Vous
avez derrière dans cette complexité, un en-
jeu éthique qui est que le big data semble
être une notion assez peu opérationnelle
dans le champ de la santé puisqu'elle don-
nerait le sentiment que toutes les données
de santé se valent.

Vous le mesurez bien dans votre pratique


professionnelle. Toutes les données de
santé ne se valent pas. Il y a sans doute 90
ou 95 % des données qui devraient être
Des mythes et des réalités sur le big data, mieux partagées, mieux diffusées. C’est
beaucoup de choses ont été dites. Il y le cas sur mon portable. C’est le cas sans
a une clarté apparente opérationnelle : doute dans des éléments de comptes
la collecte massive de données. Un lien rendus médicaux pour faire progresser la
que vous comprenez bien avec les objets santé. C'est d'ailleurs, sans cramer d'an-
connectés. Une apparente clarté juridique. nonce ultérieure, un de vos objectifs. C'est
On est une semaine après l'entrée en vi- très bien, mais il y a dans les 5 ou 10 %
gueur du règlement général sur la protec- qui restent une réflexion à avoir sur le ni-
tion des données (RGPD). On a un cadre veau de protection complémentaire de
sophistiqué de protection de données certaines données. Là-dedans, il y a le gé-
personnelles. Les normes se déploient. nome complet, notamment. J'y reviendrai
Une apparente clarté en termes de santé dans un instant avec ce que l'on fait pour
publique. La collecte massive de données Imagine.
doit nous permettre de faire progresser la
santé publique, la connaissance. Sur les enjeux de la régulation, c'est un
thème battu et rebattu par la science-fic-
En réalité, vous le mesurez tous au quoti- tion, avec souvent une image très inquié-
dien. Le big data est une réalité plus com- tante, avec un effet de ces technologies
plexe. C'est un peu comme Maastricht à qui seraient agressives pour le corps hu-
la grande époque. C'est une notion non main, pour notre santé. Que vont devenir
neutre. Il y avait les opposants à Maastricht nos corps en mode d'intelligence artifi-
qui disaient « Maastricht » en fermant les cielle robotisation ? Je ne reviens pas sur
yeux, et vous aviez ceux qui étaient pour, la présentation des notions. Cela a été par-
qui disaient « Maastricht » avec un grand faitement fait par le Professeur Chang qui

Chapitre II - L’éthique dans le développement de l’intelligence artificielle - 55


est bien revenu à la racine mathématique du machine learning, ces chercheurs en in-
de ce qu'est l'intelligence artificielle. formatique découvraient un phénomène,
le machine learning de l'algorithme qui
Vous avez une photo. Rassurez-vous, ce est capable de se corriger et de produire
n'est pas une explosion de chou-fleur. C'est de nouvelles versions de lui-même au
un blob. Je ne sais pas si vous connaissez fil du temps. En même temps, ils ne sa-
le blob. C'est cet organisme unicellulaire. vaient pas comment l'encapsuler. Donc,
C'est une cellule, ils ont emprunté
mais la plus grande métaphoriquement
cellule du monde des concepts à la
qui a une capacité à génétique. Un bout
se développer, à ap- de code qui change
prendre et au fil de est une mutation.
son parcours en tirer Un code 0.1 est un
des conséquences. gène. Ils ont importé
Elle fonctionne un des concepts de gé-
peu comme un algo- nétique sans savoir
rithme de machine que trente ans plus
learning. Il a une ca- tard, aujourd'hui, le
pacité à absorber machine learning
les autres blobs sur pourrait s'appliquer
son chemin. Un blob à la génétique elle-
qui a appris et qui même.
absorbe un blob qui n'a pas appris trans-
met sa capacité d'apprentissage à la par- Le fait que des machines et même des ro-
tie absorbée. Je vous renvoie aux travaux bots influent sur l'avenir de nos corps – je
d’Audrey Dussutour de l'Université de parle plus en juriste – n'est pas vraiment une
Toulouse sur ces questions. nouveauté. Il y a une influence ancienne et
croissante de ces technologies : la biologie,
Dans la présentation des notions, en plus la pharmacie, la chirurgie et même la psy-
de ce qui a été dit dans les interventions chiatrie. Vous connaissez peut-être l'expé-
précédentes, j'évoque juste en passant rience Eliza qui aujourd'hui ne serait peut-
l'idée d'algorithmique génétique. Comme être pas considérée comme politiquement
le rappelait le professeur Chang, toutes correcte. L'expérience est faite au début
ces notions ne sont pas des notions nou- des années 60 par le Professeur Weizen-
velles. Les concepts de l'algorithmique gé- baum. Il prend un groupe de dépressifs. Il
nétique ont été forgés à la fin des années le divise en deux : groupe A, groupe B. Il
80 par John Holland et David Goldberg. À les fait interagir avec un ordinateur, avec un
l'époque où étaient conçus les principes psychothérapeute. Le groupe A échange

56 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


de messages écrits avec un psychothé- tique, le concepteur du produit défectueux
rapeute qui est vraiment derrière l'autre ne peut pas être tenu pour responsable
bout de l'écran. Le groupe B parle avec Eli- dans l'hypothèse du risque de dévelop-
za qui est le premier chatbot de l'histoire. pement. Le risque de développement est
C'est le chatbot version début des années le risque qui ne pouvait pas être anticipé
60. Il dit : « C'est intéressant. Pourriez-vous compte tenu des connaissances scienti-
aller plus loin ? Pourriez-vous reformuler ? fiques au moment de la mise sur le mar-
Je suis content de vous écouter. Pour- ché du produit. Vous voyez bien que si on
riez-vous préciser votre pensée ? » À la fin, maintient cette exonération du producteur
Weizenbaum dresse un questionnaire de dans le cadre du machine learning, cela
satisfaction. Est-ce que cela vous a fait du veut dire que le dommage n'est jamais
bien ? Les résultats sont équivalents entre indemnisé puisque par construction l'al-
le groupe A et le Groupe B. Cela doit sans gorithme tel qu'il évolue dans le temps ne
doute vous inciter collectivement à l'hu- correspond pas à un schéma anticipable
milité. en fonction des connaissances disponibles
au moment de sa mise sur le marché.
L'idée que tout cela serait nouveau y com-
pris pour le plus fort et le plus profond de Là, il y a un sujet avec sans doute un ni-
notre psyché est évidemment à combattre. veau d'exposition plus important dans le
De la même manière sur le plan juridique, champ de l'imagerie avec une réflexion à
l'idée qu'il y aura un bouleversement de avoir sans doute de ce point de vue là sur
la responsabilité ou des règles de respon- le test par rapport au test de Turing que
sabilité doit être combattue. Aujourd’hui, vous connaissez bien. Le test de Turing
99,5 % du sujet peut être appréhendé par dans sa version initiale, vous avez l'être
les principes classiques de la responsabili- humain Jean-Philippe Masson. Je vais faire
té du fait des choses et par en plus de cela, le robot et puis vous avez un observateur
notre loi de mai 1998 sur la responsabilité humain tiers qui est le Professeur Chang
du fait des produits défectueux qui a trans- qui est chargé de regarder la correspon-
posé une directive communautaire de dance de nos messages écrits. Le Profes-
1985. 99,5 % du sujet est couvert, mais le seur Chang doit savoir qui est l'homme,
problème, ce sont les 0,5 % qui restent. Les qui est la machine. Ce que dit Turing dans
0,5 %, c’est la partie des dommages qui va sa version initiale, c'est que comme je suis
venir avec le développement du machine un observateur humain, j’arriverai à repé-
learning et surtout le développement de rer les frottements du langage humain.
toutes les applications qui ont été présen- Vous voyez la part de psychologie que
tées dans les interventions précédentes. l'on met là-dedans, la part d'inexactitudes.
Du coup, je serai plus habile comme hu-
Une des limites de la loi de mai 1998, c'est main à repérer le langage de mon sem-
que le concepteur de la solution informa- blable. Sauf que dans les solutions de

Chapitre II - L’éthique dans le développement de l’intelligence artificielle - 57


reconnaissance d'image qui ont été pré- gramme initial. On peut supposer qu'un
sentées jusqu'ici, l’IA va avoir à décryp- programmeur a minima responsable et
ter une matière première qui est déjà du désireux de pénétrer sur un marché res-
code numérique. Vous voyez bien que le pectera la première loi d’Asimov. Celle qui
test de Turing s'inverse. On arrive dans dit que le robot ne peut pas nuire à l'être
un schéma où l'IA sera plus habile a priori humain. Sauf que quand Asimov écrit son
puisqu'elle est dans son propre champ de ouvrage, il ne peut pas imaginer l'intelli-
langage. Cela veut dire que la présomp- gence artificielle qui est un outil de traite-
tion d'inexactitude repose davantage sur ment collectif.
l'observateur humain que sur la machine a
priori. Tout est évidemment dans l'a priori Une IA pour atteindre les objectifs de son
et l'a priori, c'est l'expertise du radiologue. programme pourra tout à fait prendre
Je suis convaincu qu'elle sera amenée à se des risques pour une personne prise in-
maintenir et à évoluer dans ces formes. Le dividuellement pour atteindre notre plus
fait que vous vous saisissiez de la question grand bonheur collectif. C'est sans doute
incite à l'espoir. le risque principal. C'est un principe ou
une tension classique dans le domaine de
Finalement, la question est moins celle la santé publique. On crée des dommages
de l'avenir du corps humain que celle du individuels pour générer un bien-être col-
risque de sa marginalisation. Le dévelop- lectif. L'IA porte cela sur une échelle tech-
pement des objets connectés qui remet en nologique sans doute jamais connue.
cause la frontière personne/bien, les effets
de distanciation entre la notion de person- Petite séquence de placement de pro-
nalité juridique et le corps et puis ce que duits, c’est l'objet du bouquin qui est sorti
nous faisons nous-mêmes. C’est-à-dire que il y a 48 heures, qui traite de la question
nous passons notre temps à approfondir de : qu'est-ce qui se passerait si on faisait
nos personæ numériques par toutes les gérer une épidémie d'Ebola par intelli-
données que nous approvisionnons à lon- gence artificielle ? Comment est-ce qu'elle
gueur de journée sur nos réseaux sociaux se comporterait ? Comment se compor-
préférés, toutes nos applications. Nous terait ou rétroagirait la machine adminis-
participons nous-mêmes à ce mouvement trative et politique ? C'est un bouquin qui
de mise en risque éthique. se situe exactement dans la ligne de ce
que disait Paul Chang. Le sujet n'est pas
Il y a des questions fondamentales qui la technologie elle-même. Le risque est
touchent à notre avenir comme société la manière dont on l'utilise et la manière
humaine. Contrairement à ce que nous dit dont individuellement les comportements
la science-fiction, le risque ce n'est pas la se positionnent par rapport à cette IA. Ce
domination de l'Homme par la machine qu’il y a d’amusant, c'est que depuis que
puisque la machine est tenue par son pro- le bouquin est sorti, c'est devenu un objet

58 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


informatique. C'est-à-dire qu'il est sorti sur Simplement, la question, ce sont les tech-
les réseaux sociaux. Il y a du bruit. Du coup, niques à mettre en place pour prendre du
l’IA d'Amazon comme il y a du bruit sur le recul par rapport à cela.
bouquin, a anticipé la sortie du bouquin
sur Amazon. C'est une IA qui fait de la pub Des points de tension classiques et
pour un bouquin qui parle de régulation éthiques. Notre conviction avec ETHIK-IA
éthique de l'IA. On va essayer de suivre est que pour essayer de répondre à ces su-
cela. jets-là, il faut essayer d'en mettre le moins
possible dans le droit dur parce que si on
Deuxième question, ce que j'appelle le en met trop dans notre droit dur national,
Netflix effect. Faisons un petit sondage. on passe à côté du sujet pour une partie.
Qui a Netflix dans la salle ? Je suis assez On risque de bloquer l'innovation. Si on
consommateur de série télé. Depuis que met ceinture et bretelles de réglementa-
j’ai Netflix, depuis cinq mois, ma satisfac- tion en France, le risque – deuxième Netflix
tion de consommateur a brutalement aug- effect – est qu’une IA efficace technique-
menté. Je ne peux pas vous donner un ment, médicalement soit conçue ailleurs
exemple de série que m’a proposée Netflix dans un cadre non régulé et que dans plus
que j'ai refusée parce qu'elle me connaît. de deux ou trois ans, les patients et les pro-
Elle me connaît de mieux en mieux. En fessionnels nous en demandent l'importa-
plus à chaque fois que j'ai une proposition, tion. Le sujet n'est pas un sujet de : on se
il y a 98 ou 99 % de recommandations et protège uniquement dans un cadre natio-
ma satisfaction augmente la qualité du nal. C'est : si on se protège trop ici, on peut
produit aussi. C'est comme cela que je suis être sûr d'avoir l'importation d’une IA non
passé des Cordiers juge et flic à la Casa de éthique dans quelques années.
papel. Vous voyez, il y a une élévation qua-
litative. Dans le même mouvement, je ne
lis plus Télérama. Je parle moins avec mes
amis. La profondeur de mon jugement cri-
tique s'est sans doute un peu réduite. Je
suis à tout moment capable de refuser, de
dire non, mais il y a en pratique, une dé-
légation du consentement à l'intelligence
artificielle. C'est le même phénomène qui
existe dans la médecine algorithmique.
C'est le même risque. La capacité du pa-
tient et du médecin de première ligne à
prendre du recul par rapport à un traite-
ment qui est recommandé à 98 ou 99 %
par IA. Ce n'est pas un problème en soi.

Chapitre II - L’éthique dans le développement de l’intelligence artificielle - 59


Comment faire pour avancer ? Je termine que l’IA prendra ou ne prendra pas au fil
par là. Encore deux minutes et je serais du parcours.
presque dans le rattrapage de mon temps.
On a mis sur la table cinq clés. C'est un pe- Le deuxième principe plus nouveau, c'est
tit outil qui a été diffusé il y a trois mois, sur la garantie humaine de lire. Vous com-
lequel on a fait un appel à commentaires. prenez très intuitivement. C’est l'idée que
Pour le moment, cela suscite des réactions l'on garde une certaine dose de pilotage
très positives. C'est bien, mais c'est fait humain du processus. C'est bien dans
pour susciter le débat. Cinq clés de régu- l'intention de principe. C'est sans doute
lation de l'IA et de encore mieux en
la robotisation en pratique avec
santé, en essayant des techniques
à chaque fois de concrètes. Soit
viser la norme ju- de la certification
ridique minimum. professionnelle
La première clé avec une norme
est l'information sur laquelle on
et le consente- travaille. Une
ment du patient. norme dite de
À vrai dire, tout garantie humaine
est déjà dans la de l'IA où par
loi sur le prin- exemple, on va al-
cipe du consen- ler dire que c'est
tement. Ce qu'il une bonne pra-
faudrait sans tique d'aller cher-
doute ajouter, c'est l'obligation d'informa- cher tous les deux ou trois mois, 30 ou 40
tion préalable du patient en cas de recours dossiers médicaux de manière ciblée aléa-
à un algorithme dans son traitement, ce toire, ex post, pas d'autorisation préalable,
n'est pas prévu comme tel et prévoir des pour qu'un collège de deuxième avis mé-
modalités – mais là, on n'est pas dans la dical, auquel le cas échéant les patients se-
loi. C’est plus dans la définition de modali- ront associés, puisse donner son avis pour
tés pratiques – d'adaptation du recueil du s'assurer que l'IA, le Machine Learning
consentement. Par exemple pour donner reste sur une piste éthique soutenable. Ce
plus de souplesse, une capacité de recueil qui permet sans doute de répondre à une
de consentement plus séquentiel permet- partie du questionnement que le profes-
tant au début du processus de prise en seur Chang posait. L'effet boîte noire du
charge d'avoir ab initio, l'accord du patient deep learning, il ne faut pas le contrôler
sur plusieurs options possibles. Options a priori, mais le suivre au fil de l'eau pour

60 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


s'assurer qu'il reste sur une piste de déve- plet, avec par exemple une distinction
loppement soutenable. des entrepôts de données génomiques
et des entrepôts de données de contexte
Deuxième principe qui a été présenté hier phénotypique. Ce qui permettrait dans
au congrès E-Health World avec la socié- la base d'un périmètre de sensibilité
té française de télémédecine, la télémé- plus protégé, d'aller beaucoup plus loin
decine de garantie humaine. Là, il y a un dans les expérimentations de machine
cas d'application directe en radiologie. Je learning sur le génome complet, mais en
suis médecin de première ligne. Mon al- ayant un degré d'assurance suffisant que
gorithme préféré de traitement d'images ces bases génomiques ne seront pas cap-
me propose une solution. Je ne suis pas tées ailleurs.
très sûr. J'appelle le Docteur Masson. J'ai
besoin d'un deuxième avis spécialisé, soit L'accompagnement à l'adaptation des
dans un cran de spécialité sur lequel il n'y métiers, je n'entre pas dans les détails.
a pas suffisamment de data pour pouvoir C'est évidemment fondamental pour
donner un diagnostic fiable, soit j'ai besoin votre spécialité. Je vous redis ma convic-
de Docteur House, le médecin qui a de la tion. Je ne crois pas que vous soyez une
bouteille, qui a de l'expérience et qui sau- espèce en extinction, si vous me passez
ra dire que les choses ne sont pas arithmé- l'expression. Je pense que le fait que
tiques ou mathématiques. vous vous saisissiez de cette question est
un signe positif. Ce qui vaut la remarque
Troisième principe, la graduation de la ré- que je fais pour l'imagerie, vaut pour
gulation en fonction du niveau de sensibili- les différents métiers dans la mesure où
té des données. Le RGPD est une avancée, il y a toute une série de variables qui ne
mais sa protection est sans doute trop for- sont pas connues à ce jour. Par exemple
melle, trop rigide dans toute une série de si l'IA se développe, ce dont on est sûr,
segments. C'est comme cela. Il y a certai- quelle sera la place respective laissée
nement des éléments qu'il faut approfon- entre, dans un champ donné, la profes-
dir. En sens inverse, il n'est pas protecteur sion médicale et la profession paramé-
du risque réel qui est le risque de captation dicale ? Il peut y avoir plusieurs schémas
de données sensibles par une intelligence d'évolution, de repositionnements res-
artificielle que nous ferions entrer dans un pectifs, voire de disparitions de telle ou
système d'information, mais dont nous ne telle spécialité. Pourquoi est-ce que ce
contrôlerions pas les bases de fabrication. serait la spécialité médicale qui disparaî-
C'est ce sur quoi on travaille avec l'IHU 2 trait et pas la spécialité paramédicale ?
Imagine de Necker. Quelques principes Pourquoi est-ce que ce ne serait pas fi-
de bonnes pratiques d'application de l'IA nalement plutôt ce qui est notre élément
appliquée aux données de génome com- d'analyse première sur le champ santé ?
2
Institut Hospitalo-Universitaire.

Chapitre II - L’éthique dans le développement de l’intelligence artificielle - 61


À plus deux ou trois ans, notre conviction
est que les impacts ressources humaines
(RH) porteront d'abord sur les spécialités
ou les métiers qui ne concernent pas la
prise en charge des patients elle-même,
tout le back-office logistique, adminis-
tratif, technique. Pourquoi ? Parce qu'il y
a déjà des solutions d’IA existantes dans
d'autres secteurs de la vie économique
qui sont fonctionnelles sur tout ce qui est
gestion RH, administrative et comptable.

Le dernier principe pour superviser les En conclusion, on voit bien que dans notre
quatre précédents, supervision externe in- histoire de loi informatique et liberté de-
dépendante. Il y a plusieurs schémas. Là, puis 1978, la France s’est régulée, mais a
c'est un arbitrage politique qui sera sans beaucoup plus de mal à identifier et sou-
doute à rendre dans la loi de bioéthique. tenir les déclencheurs de développement.
Si vous me demandez mon avis personnel, Vous êtes en avance dans l'exposition au
je dirais qu'une supervision privée pure développement de l’IA avec des solutions
me semble suffisante dans un schéma de de reconnaissance d’images déjà fonc-
développement de l'innovation, des prin- tionnelles. Vous avez conscience qu'il y a
cipes ISO 3, des principes de certification un impact sur les métiers et qu'il faut l'an-
auxquels en radiologie vous êtes bien ha- ticiper. C'est ce que vous faites. C'est très
bitués. Simplement, dans notre ambiance bien. Cela vient au bon moment puisque
politique nationale, je ne suis pas sûr que hasard ou transcendance, la France va
ce schéma privé pur passe la rampe. Il faut avoir à se prononcer sur cette question-là
essayer sans doute de ne pas proposer un dans la loi de bioéthique de 2018. C'est
schéma public pur parce que là, ce sera une échéance législative importante. Il ne
ceinture et bretelles. On bloquera l'innova- faut pas en mettre trop dans la loi, pas de
tion. Peut-être une formule intermédiaire. sur-règlementation, mais il ne faut pas pas-
D'ailleurs, le Conseil National de l'Ordre ser à côté de certains principes essentiels.
des médecins proposait un peu quelque C'est le moment de le faire parce que si on
chose de ce type, une instance de régula- ne le fait pas ici, le risque éthique principal
tion supérieure investie d'une dose d'au- est celui de l'importation de solutions non
torité de souveraineté et puis en dessous, éthiques conçues ailleurs dans des cadres
de la soft law, des mécanismes de régula- moins conformes aux principes d'une so-
tion, des principes de certification comme ciété démocratique avancée. Le temps est
ceux que j'évoquais à l'instant. compté. Merci de votre attention. n
3
Organisation Internationale de Normalisation.

62 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


Chapitre II - L’éthique dans le développement de l’intelligence artificielle - 63
Intelligence Artificielle
et médecine : les recommandations
publiques de l’Ordre

Jacques LUCAS
Vice-Président - CNOM
II
I. A. et médecine :
les recommandations
publiques de l'Ordre *

M
erci d'accueillir solutions de partenariat de vos organisa-
l'Ordre sur le sujet tions avec le Conseil National de l'Ordre
qui vous préoccupe. au regard du traitement des données, des
Notre coopération algorithmes et de l'intelligence artificielle
avec la FNMR, la So- en radiologie.
ciété française de
radiologie et les or- Vous avez dans la pochette qui vous est re-
ganes de la radiologie française en géné- mise les 33 recommandations qui ont été
ral dans le G4 1 sont anciens puisque nous publiées par le Conseil National de l'Ordre.
avions déjà produit Nous les avons
en 2005 un guide appelées recom-
du bon usage pro- mandations, car
fessionnel et déon- elles s'adressent
tologique de la à la puissance pu-
téléradiologie. En- blique, aux profes-
suite, le sujet a été sionnels, à l'uni-
accaparé par des versité et qu'elles
organes à vocation sont formulées
un peu marchande en termes un peu
qui fait qu'il faut académiques pour
utiliser cette leçon leur donner un peu
pour ne pas rester plus de portée et
dans le concept et d'être entendues.
dans les grandes Ce premier ob-
déclarations de jectif est atteint
l'éthique, mais de puisque comme
faire de l'éthique David Gruson vous
appliquée et de la déontologie opérante. l'a dit tout à l'heure, je participe pour le
Je vous proposerai tout à l'heure une des Conseil national à un groupe de travail du
*
Retranscription de l’intervention orale
1
 onseil professionnel de la radiologie regroupant le Conseil des Enseignants en Radiologie de France (CERF), la Fédération
C
Nationale des Médecins Radiologues (FNMR), la Société Française de Radiologie (SFR), le Syndicat des Radiologues Hospi-
taliers (SRH).

66 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


Comité consultatif national d'éthique. J'ai
été entendu par Dominique Pon, directeur
de la clinique Pasteur de Toulouse, chargé
par la ministre du numérique en santé en
général. Les sujets dont nous débattons
ce matin et dont vous allez débattre cet
après-midi en font évidemment partie.
sixième. Le temps nous étant compté, je
Alors, je dirais au tout début puisque sors celle-là. Les transformations à venir
quand l'Ordre s'exprime, il est absolu- s'annoncent aussi profondes que celles
ment nécessaire de faire référence à Hip- qui ont accompagné l'invention de l'écri-
pocrate, mais Hippocrate – la radiologie ture puis de l'imprimerie. Je vous rappelle
n'existait pas à l'époque – a sorti l'Homme que les autorités régulatrices de l'époque
de la puissance des Dieux et a dit qu'il était qui étaient pour ce qui concerne nos pays,
inutile de faire des sacrifices expiatoires la sainte inquisition romaine ne badinait
individuels ou collectifs pour obtenir les pas puisqu'elle brûlait les livres qui étaient
clémences divines et qu'il valait mieux ob- disruptifs par rapport à la pensée unique
server l'Homme dans son environnement qui prévalait alors et qui se trouvait dans
pour lui porter secours. Actuellement, le les saintes Écritures. Parfois d'ailleurs pour
monde dans lequel nous nous trouvons, plus de commodité et pour éviter qu'ils ne
les professionnels comme les personnes recommencent, elle brûlait les auteurs et
malades. Je vous dis pourquoi j'utilise le comme cela, il n'y avait pas de problème.
terme de personnes malades plutôt que
patients, car le terme de patients comporte Tout cela pour dire en fait sur un mode
encore un aspect un peu clinostatisme de qui est à la fois plaisant, mais un peu dra-
soumission. La personne malade qui n'est matique qu'il ne suffit pas que nous les
pas un individu bardé de capteurs et d'ob- professionnels, restions sur les bords du
jets connectés qui enverraient leurs don- fleuve numérique en vitupérant sur le fait
nées vers une intelligence artificielle. que l’on va nous déposséder de quelque
Je vous engage d'ailleurs à lire l'intégra- chose pour que cela ne se produise pas.
lité du rapport qui se trouve sur le site du Il ne suffit pas que la France fasse une loi
Conseil national. Sur les 33 recommanda- pour que cela ne se produise pas. Par défi-
tions, je vais en sortir quelques-unes seule- nition et David l'a évoqué tout à l'heure, il
ment et faire peut-être quelques dévelop- y a des géants multinationaux qui ne sont
pements autour d’elles. pas des États. GAFA 2, ce ne sont pas des
États, mais les GAFA imposent finalement
Le premier point, ce n'est pas la première leur politique aux États-Unis. De même
recommandation puisque c'est même la qu'en Chine, les sociétés qui développent
2
Google, Apple, Facebook, Amazon.

Chapitre II - Intelligence artificielle et médecine : les recommandations publiques de l’Ordre - 67


ne sont pas des États. Elles se moquent un révisions de la loi de bioéthique, le Comi-
peu éperdument de normes qui seraient té consultatif national d'éthique a estimé
purement étatiques. Il ne faut pas croire qu'il produirait probablement un avis sur
que le Parlement français pourra édicter les technologies. Ce qui rejoint la proposi-
une loi et fermer les frontières à internet. tion du Conseil national de l'Ordre d'avoir
On voit d'ailleurs que les pays qui ferment une loi de technoéthique en termes très
les frontières à internet ne sont pas des généraux. Je reviendrai tout à l'heure sur
pays où s'épanouissent les libertés indivi- les notions de droit dur et de droit souple
duelles. afin de ne pas bloquer l'innovation.

Il faut donc qu'il y ait un débat public. Guy Le deuxième point après le débat public,
Vallancien a évoqué le sujet en disant que c'est que l'Ordre recommande qu'une
l'on parle beaucoup du climat. Il y a eu sorte de déterminisme technologique,
une convention des parties pour le climat. ou de magnifier la technologie, ne puisse
À propos des États-Unis, vous savez qu'ils pas conduire à la passivité apparente de
s'en sont retirés, mais peut-être vont-ils y la société qui se sentirait impuissante à
revenir. Peut-être faut-il qu'il y ait égale- faire entendre ses préoccupations. Il at-
ment une convention des parties sur des tire l'attention sur le fait que des appré-
sujets numériques pour que puissent être hensions sociales ou professionnelles qui
posés des interdits qui peuvent être des in- n'auraient pas pu s'exprimer ni obtenir de
terdits d'ordre public, mais qui ne peuvent réponses adaptées aux inquiétudes pour-
pas être des interdits nationaux ? De toute raient conduire à des rejets violents - les
façon, on ne bloquera pas une innovation, canuts de Lyon puisque nous sommes à
même si elle vient très fortement impacter Lyon - devant des mutations trop radicales
l'organisation des métiers et en particulier brutales ou mal expliquées. Nous avons là,
tous les métiers, dont le vôtre, qui traitent toutes les organisations professionnelles,
de l'image. La dermatologie est bien évi- un devoir pédagogique à faire vis-à-vis de
demment très directement impactée, nos membres.
toutes les autres professions de santé aus-
si, mais peut-être à des degrés moindres. Nous recommandons également que les
usagers, les patients, les médecins et les
Nous demandons donc à la puissance pu- autres professionnels de santé s'engagent
blique d'organiser un débat public, car ce dans le monde des datas, des algorithmes,
sujet-là n'est pas uniquement une affaire sans appréhensions paralysantes ou vé-
d'experts que ce soit des experts profes- hémences dogmatiques. Le Professeur
sionnels, que ce soit des experts acadé- Chang a dit tout à l'heure également :
miques, mais c'est un débat citoyen. Il faut « N'ayez pas peur. », même si les termes
que les citoyens puissent se l'approprier. de « N'ayez pas peur » relevaient du pape
On voit bien d'ailleurs qu'à l'occasion des à l'ONU. C'est en participant eux-mêmes,

68 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


vous-même et conjointement à la concep- ce qui concerne le secret médical. C’est-à-
tion et à l'élaboration d'objets et de dis- dire le secret du patient et non pas le secret
positifs intelligents propres à répondre à professionnel du médecin.
leurs besoins qu’ils guideront utilement
le secteur industriel puisqu'il y a cela der- Sur un plan plus concret dans le cadre de
rière, plutôt que de laisser faire des lois du la stratégie nationale de santé qui a été
marché qui s'imposeraient à eux. développée par la ministre, il y a eu ré-
cemment un Conseil stratégique du nu-
La référence que j'ai faite à la téléméde- mérique en santé qui a été installé. Nous
cine peut trouver ici des objets de réflexion. ne savons pas s'il va avoir une longue du-
Dans ces perspectives, les organisations rée de vie ou pas. Après les concertations
et représentations professionnelles médi- multiples auxquelles vous êtes associés
cales et scienti- certainement en
fiques doivent tant qu'organisa-
accompagner tions syndicales
l'ambition de au ministère,
l'économie nu- cela sera peut-
mérique de santé être reconfiguré.
en France. C'est à Il nous semble
ce niveau-là que impératif qu'il
nous vous enga- existe un conseil
geons vraiment stratégique du
très fortement numérique en
en tant que dis- santé, incluant
cipline structurée ce dont nous
de vous emparer parlons et que
du sujet de l'intelligence artificielle, de ré- dans ce conseil stratégique, il y ait des re-
fléchir aux entrepôts de données. Je vais y présentations professionnelles, y compris
revenir après. À cet égard, si vous preniez du secteur libéral puisque vous avez fait
cette voie, mais c'est à vous d'en débattre, une incise acide tout à l'heure. En tout cas,
nous sommes prêts à vous accompagner nous en sommes membres pour ce qui
de nos expertises et de nos champs de concerne l'Ordre actuellement.
compétences d'une déontologie numé-
rique. Quoique les dispositions actuelles Un autre aspect, c'est que la formation
du code de déontologie médicale en tant initiale et continue va jouer bien évidem-
que textes réglementaires permettent de ment un rôle crucial dans l'anticipation et
s'appliquer au monde numérique. Encore l'accompagnement vers une médecine du
faut-il les reformuler ou les réinterpréter au futur qui est déjà présente, que l’on peut
sujet de quelques articles, notamment en appeler assez globalement dans un futur

Chapitre II - Intelligence artificielle et médecine : les recommandations publiques de l’Ordre - 69


très proche, utilisant les dispositifs d'intel- Un autre sujet qui va certainement vous
ligence artificielle. Il faut former dès main- troubler, mais qui est très important, c'est
tenant les médecins en fonction du monde que lors de la détermination démogra-
dans lequel ils exerceront et dans lequel phique des diverses spécialités médicales
les technologies tiendront aux côtés de à former durant leur cursus universitaire
la clinique une très grande place. Il s'agit et dans les contenus mêmes de ces for-
bien de ne pas transformer une personne, mations, il doit être tenu compte des
la résumer plus exactement sous la forme évolutions prévisibles des métiers. Cela
d'un cliché avec un automatisme qui don- concerne non seulement les nouveaux
nerait non seulement le dia- métiers, les pratiques délé-
gnostic, mais la conduite guées, les pratiques avan-
à tenir. Une des caracté- cées dont on parle beau-
ristiques médicales et de coup actuellement mais
l'avancée des connais- également, puisque l'on
sances a été l'exercice de a parlé de délégation de
la transgression par rap- tâches, un certain nombre
port à des savoirs établis. de ces tâches qui pour-
raient être automatisées,
Par conséquent, nous pourraient être accom-
avons toute notre place à te- plies dans des échéances
nir. D'autant que Jean-Gabriel que nous avons chiffrées de
Ganascia, que vous pourrez lire et qui est cinq à dix ans – cela ne sera pas plus long.
quand même une personnalité sur ces su- Ce sera même peut-être plus court – par
jets, dit bien que les dogmes sur lesquels des dispositifs intégrants de l'intelligence
nous vivons peuvent être retranscrits, artificielle.
même involontairement dans la construc-
tion d'un algorithme qui fait que finalement J'avais d'ailleurs soumis, Jean-Philippe
l'algorithme s'il n'était pas autoapprenant, si tu t'en souviens, cette recommanda-
reproduirait des dogmes qui ne seraient tion a tes observations préalables. Nous
pas remis en cause, alors que c'est bien avons simplement recommandé d'entre-
par la transgression que l'on peut évoluer prendre cette réflexion de façon très ra-
sur un certain nombre de sujets. La chimio- pide et de ne pas attendre. Je demande
thérapie dans le cancer du sein chez une au Professeur Meder de m'en excuser. Je
femme enceinte était un interdit fondamen- sais que cela n'est pas d'ailleurs directe-
tal. C'est bien parce que des équipes ont ment le cas chez vous. Que l'université à
transgressé cet interdit, qu'il existe actuel- elle seule ait décidé de la formation des
lement des chimiothérapies qui peuvent métiers, d'autant que par nature, elle
être proposées dans des cancers du sein à peut avoir tendance à voir cette formation
propos des femmes enceintes. en fonction de besoins propres au fonc-

70 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


tionnement des établissements et pas comme récemment les antiparkinsoniens.
nécessairement en fonction des besoins Cela s'est posé dans d'autres sujets.
sur les territoires. Ce sujet-là tient à cœur,
particulièrement au Conseil national. La Ce que je veux dire par là en ayant pris
formation doit être faite en fonction des cet exemple, un médecin va utiliser des
exercices sur les territoires. Les territoires moyens d'intelligence artificielle dans
comportant des établissements, mais l'exercice de votre métier. Vous allez suivre
également le secteur ambulatoire. ce que va vous dire la machine. Vous allez
donc arriver à un diagnostic et une théra-
Nous nous engageons également, car peutique ou une conduite à tenir tout au
David est passé un peu rapidement, à moins. Il en résulte un dommage. Qui est
examiner le régime juridique des respon- responsable ? Le fait que vous avez suivi
sabilités. Le médecin, la situation ou le ce que vous dit la machine ou vous-même
dilemme, nous avons bien sûr des idées parce que vous auriez pu ne pas suivre ce
là-dessus, mais je vous expose les choses que vous disait la machine ? Il peut donc y
sur un plan un peu général. Le médecin, avoir là un conflit. Contrairement à ce que
et il y en a actuellement, va suivre les re- me disait David sur des aspects juridiques,
commandations de la Haute autorité de nous ne sommes pas absolument convain-
santé à partir du moment où il considère cus – je suis même persuadé du contraire –
qu'il n'a pas de responsabilité dès lors où que l'état actuel du droit règle ce pro-
il a suivi les recommandations. C'est faux blème. Je ne sais pas si Anne Laude inter-
parce que s'il y a un contentieux, le fait vient. Je pense que c'est quand même un
qu'il ait suivi les recommandations viendra sujet qui mérite sur un plan strictement ju-
bien sûr comme argument à sa défense, ridique d'être évoqué.
mais on pourra toujours lui dire : « Dans
ce cas particulier, vous pouviez
transgresser la recommandation
qui n'était pas adaptée. » C'est
un peu cela le contexte. Un cer-
tain nombre de nos confrères,
peut-être pas vous, estiment
– qu'à partir du moment ou agis-
sant un peu comme des auto-
mates – ils appliquent une re-
commandation et ne la critiquent
même pas. Ce qui peut poser
d'ailleurs un certain nombre de
sujets lorsque les médicaments
ont été retirés de la prescription,

Chapitre II - Intelligence artificielle et médecine : les recommandations publiques de l’Ordre - 71


L'exploitation des données massives pré-
sente un intérêt majeur. Actuellement, il
existe le système national des données de
santé qui est géré par l'Institut national des
données de santé (INDS), qui comprend
les données du SNIIRAM 3 et les données
du PMSI 4. Ce sont des données publiques.
Ce sont des bases publiques. On a mis
des verrous pour accéder à ces données.
L'open data n'est que de l'open en partie,
à juste titre d'ailleurs pour éviter qu'il n’y
ait des réidentifications des personnes. À temps, vous observez en particulier avec
partir du moment où les données peuvent ces petits appareils (smartphones) que le
être anonymisées, notamment pour enri- citoyen ou la personne dissémine dans
chir l'intelligence artificielle, la question ne l'espace vers des plates-formes non régu-
se pose pas. lées, tout un tas de données de santé ou
de données de comportements qui sont
Cependant à côté du système national des parfaitement identifiantes. Est-ce qu'il le
données de santé, il existe des entrepôts sait ou est-ce qu'il s'en moque ? Il faut pro-
de données. Ces entrepôts de données bablement interroger la jeune génération
peuvent se trouver dans des établisse- qui se trouve géolocalisée en permanence,
ments. Ils peuvent se trouver également qui échange sur les réseaux sociaux et qui
dans des archives ou dans des bases qui se se dit : « Moi, ma vie est transparente. Je
trouvent dans des cabinets de radiologie. n'en ai rien à faire, même si on exploite
Ce sont donc des données exploitables à mes données. » Ce n'est pas à des col-
condition qu'elles soient de bonne qualité. lèges d'experts de dire que c'est bien ou
Si on nourrit l'intelligence artificielle avec c'est mal. C'est bien à cet égard qu'il faut
des stupidités, elle deviendra parfaite- qu'il y ait également un débat public.
ment stupide. Par conséquent, il y a un vrai
problème sur la qualité de la data initiale. Allons au-delà. Les dermatologues, c'est
Il serait nécessaire qu'il y ait une régulation le traitement de l'image. Bien sûr dans
appliquée à ces entrepôts à partir du mo- un certain nombre de cas, il faut qu'ils
ment où l'on va réutiliser ces données, y palpent. Il y a peut-être un ganglion sa-
compris à des fins professionnelles. tellite, mais il y a quand même beaucoup
de lésions dermatologiques qui avec une
Ne nous leurrons pas. On peut mettre une excellente photo faite par un iPhone peut
régulation sur les données des bases pu- être envoyée sur une base de données. Du
bliques ou des bases privées qui seraient coup, c'est la personne elle-même qui va
des entrepôts de données, mais en même utiliser des dispositifs d'intelligence artifi-
3
Système national d'information inter-régimes de l'Assurance maladie.
4
Programme de Médicalisation des Systèmes d'Information.

72 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


cielle. Elle pourra recevoir en pleine figure : fixe les principes du vivre ensemble dans
« Vous avez un mélanome très évolué de la République numérique. Il y a d'ailleurs
la peau. Votre durée moyenne de survie une loi qui a été publiée sur la République
va être de 18 mois. » On voit bien que là, numérique. Renvoyer à des autorités régu-
il se pose un véritable problème. Faut-il latrices, le soin d'émettre des recomman-
ouvrir des dispositifs d'intelligence artifi- dations puisqu'on les appelle comme cela,
cielle vers les personnes ? Il y a un ORL ac- qui consistent à produire du droit souple.
tuellement à Strasbourg qui a développé C'est-à-dire que les recommandations
un dispositif pour prendre des photos de peuvent être rapidement évolutives.
tympans. Les photos de tympans partent
très rapidement sur une base de données Nous avons d'ailleurs une idée sur ce su-
qui est aux États-Unis. La photo de tym- jet-là sans rajouter un machin supplémen-
pan revient avec une très grande qualité taire pour produire des recommandations.
pour dire que c'est un tympan normal, ce C'est de réunir sur le plan numérique les
n'est pas très compliqué, mais pour dé- instances qui existent actuellement : la
crire même des lésions. Vous êtes à l'abri Haute autorité de santé, le Conseil natio-
de cela parce que les dispositifs que vous nal de l'Ordre parce que l'on prétend avoir
utilisez actuellement sont plus complexes, une qualité d'expertise et en tout cas, une
mais peut-être faut-il voir de façon plus légitimité pour nous exprimer sur ce su-
lointaine. jet, le Conseil national du numérique, un
certain nombre d'instances qui seraient
Pour conclure, je parlerai du droit souple. qualifiées pour émettre des règles de droit
Je rejoins David et ce que pensent beau- souple.
coup de personnes dans ce domaine. Il
ne faut pas que des règles de droit dur, J'aurais pu vous en dire bien sûr plus long-
c'est-à-dire nous avons en plus en France temps. J'espère que mes propos ne vous
un pays de tradition écrite. Quand il y a un auront pas rasés. Nous vous inviterons au
problème, on fait une loi. La loi renvoie à contraire à lire dans leur intégralité les re-
des décrets d'application. On s'aperçoit commandations et les raisons sur lesquelles
au bout du bout que les décrets dans leur elles se fondent, qui ont été longuement
application sont venus compliquer la so- développées. Je vous remercie. n
lution du problème qui était posé initiale-
ment. Je le dis tout à fait clairement. Il faut
certainement des règles de droit dur qui
encadrent. Un vice-président du Conseil
d'État disait d'ailleurs : « La loi doit être
brève et solennelle. Elle est aujourd'hui
devenue bavarde et tatillonne. » Il faut
en revenir à la loi brève et solennelle qui

Chapitre II - Intelligence artificielle et médecine : les recommandations publiques de l’Ordre - 73


Comment le radiologue libéral
se prépare à l’arrivée
de l’Intelligence Artificielle ?

Robert LAVAYSSIERE
Vice-Président - FNMR
II
Comment le radiologue
libéral se prépare à l’arrivée
de l’Intelligence Artificielle ? *

J
e remercie Jean-Philippe, tableaux de Rembrandt. C'est donc une
de m'avoir proposé ce image d'un tableau de Rembrandt poten-
sujet qui est donc « le ra- tiel, créée grâce à l'intelligence artificielle.
diologue libéral et l'intel- Ce qui vous démontre la capacité de cet
ligence artificielle, com- ensemble de moyens à faire des choses
ment se prépare-t-il ? ». Il tout à fait intéressantes.
y a un certain paradoxe à
présenter un sujet d'avenir lorsque l'on en Alors, je le dis aux jeunes. N'ayez pas peur,
est à la fin de sa carrière. Mon propos sera comme cela a été dit que ce soit par le
en partie rétrospectif. Il sera un peu d'ac- vice-président du Conseil de l'ordre ou,
tualité et également de prospective. Vous éventuellement, par le pape. Vous avez
vous demandez sûrement quel est le rap- une période devant vous qui est tout aus-
port entre ces deux tableaux. Vous avez re- si passionnante que celle que nous avons
marqué que dans les présentations précé- connu ces 40 dernières années avec le dé-
dentes, il y avait eu beaucoup de tableaux veloppement des nouvelles techniques.
présentés. C'est assez curieux. C’est au Le distributeur de papier gras peut servir
moins un point commun. à distribuer certains ouvrages sur l'intelli-
gence artificielle, bien sûr.
La dame qui est là dans cette belle tenue
est la fille de Lord Byron qui s'appelait Ada La première question que l'on se pose,
Lovelace, Lady Lovelace et qui, histori- c'est effectivement de définir ce que c'est
quement, est la première programmeuse l'intelligence artificielle. C'est simple fina-
de l'histoire de l'informatique. Elle a uti- lement. C’est de décomposer l'intelligence
lisé la machine de Charles Babbage qui humaine en fonctions élémentaires et de
servait à faire des calculs. Pour la petite simuler chaque fonction avec l'informa-
histoire, cette dame est morte d'un can- tique. Comme vous voyez, ce n'est pas un
cer de l'utérus. Le personnage qui est à concept récent puisque cela date de 1956.
droite, c'est une image de synthèse qui a
été faite grâce à l'intelligence artificielle La deuxième question que l'on peut se po-
au sens le plus large, à partir de multiples ser aussi puisqu’on le présente toujours,
*
Retranscription de l’intervention orale

76 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


c'est le fameux « hype » auquel faisait allu- du jeu d'échecs, mais quelque part, il y a
sion le Professeur Chang tout à l'heure. Est- une similarité. On peut comprendre que
ce que c'est vraiment si nouveau que cela ? les machines puissent s'y adapter plus fa-
Quand on regarde un petit peu en arrière cilement. À côté de cela, vous n'avez pas
on s'aperçoit que ce n'est pas nouveau du échappé à droite et à gauche au buzz qui
tout puisqu'effectivement, les ordinateurs est fait autour de l'intelligence artificielle
datent des années 40 et que les premiers et aux illusions scientistes qui vont avec,
essais d'intelligence artificielle ont suivi qui promettent même – est-ce une forme
très rapidement. Si l'on regarde, on voit de religion ? – la disparition de l'humanité
qu'il y a quelques étapes. Je passerai sur la au profit des robots. Ce qu'on appelle la
partie gauche que vous retrouverez dans singularité à laquelle il a déjà été fait allu-
vos dossiers pour aller plus vite à droite sur sion.
le programme Eliza auquel Monsieur Gru-
son a fait allusion, insister un peu plus sur Il y a aussi un certain nombre de gou-
un système qui est pour l'époque (1974) rous médicaux, notamment en Suisse par
tout à fait novateur qui était un système exemple, comme cet universitaire des hô-
qui permettait d'identifier les bactéries et pitaux de Genève qui cite nommément
de suggérer l'antibiotique et la posologie la radiologie comme une technique qui
adaptée au poids du patient. Cela fait 40 pourrait disparaître sous l'effet de l'intel-
ans, même un peu plus. Bien sûr, on a par- ligence artificielle ou un think tank bien
lé de Kasparov. On passera là-dessus pour connu comme Terranova qui met aussi
insister un tout petit peu plus sur Watson l'imagerie dans les poubelles de l'Histoire.
qui est toujours d'actualité. On sait aussi Il y a aussi un certain nombre de gourous
qu'un certain nombre d'universi-
tés notamment aux États-Unis se
désengagent des programmes
parce qu'ils coûtent trop cher
pour ce qu’ils réussissent à pro-
duire. Le fameux jeu, en l'occur-
rence de « Jeopardy », est assez
intéressant puisqu'à une ques-
tion posée sur les villes améri-
caines, le logiciel a répondu To-
ronto. Vous savez tous que c'est
au Canada. Donc, il faut toujours
prendre avec des pincettes, tout
ce qui se raconte. Bien sûr, le
jeu de go procède aussi d'une
méthode tout à fait différente

Chapitre II - Comment le radiologue libéral se prépare à l’arrivée de l’IA ? - 77


bien connus : Bouzou, Ferry, Vallancien, qui leur est assignée. Ce qui est plus diffi-
Alexandre et compagnie. Il ne manque cile effectivement, c'est le « machine lear-
plus que – bien entendu, il est cité là-de- ning » qui est quelque chose de beaucoup
dans – Schumpeter. On n’insistera pas trop plus complexe. Comme l'a dit Monsieur
pour revenir un peu sur le principe de l'in- Chang, cela peut transformer une courbe
telligence artificielle. de régression en forme sinusoïdale fausse.
Nous ne savons pas exactement ce qui se
Cette pyramide représente l'intelligence passe réellement dedans. On nourrit cette
artificielle dans sa globalité avec une stra- machine avec de multiples informations.
tification. Le niveau le plus simple comme On lui applique des algorithmes, dont la
l'a dit Monsieur Chang tout à l'heure, c'est transparence n'est pas la première qualité.
le « machine learning ». Or, vous l'utilisez
déjà dans vos pratiques. C'est la recon- Après, on arrive à une intelligence qui est
naissance d'image. C'est effectivement utilisée assez couramment. C'est ce à quoi
en partie les CAD 1 qui fonctionnent aus- a fait allusion tout à l'heure notre représen-
si avec un enrichissement via les réseaux tant ordinal. Ce petit ordinateur que vous
neuronaux. Pour la petite histoire, pour les trimballez tout le temps avec vous, il utilise
plus jeunes ici, quand les premiers CAD ce que l'on appelle une intelligence faible
sont apparus en matière de sénologie il y ou étroite, ciblée sur des solutions à des
a 30 ans, les gens se sont empressés de problèmes spécifiques : assistant person-
dire qu'il n'y avait plus besoin de méde- nel, voiture autonome, traducteur automa-
cins pour lire les mammographies et que tique, reconnaissance d'image. Tout cela,
l'on pouvait supprimer le deuxième lec- c'est la réalité. Ce qui nous intéresse plus,
teur dans le dépistage, puisque les CAD c’est une intelligence forte et c'est encore
feraient mieux. On sait très bien que ce quelque chose à venir, qui est capable
n'est pas vrai. d'évoluer et de reproduire des comporte-
ments humains. Ce n'est pas pour demain.
La reconnaissance vocale, Kurzweil, qui
en est un des inventeurs, est aussi un des Cela signifiera peut-être effectivement
papes de l'intelligence artificielle. C'est la fin de l’humanité, mais il y a un certain
une technique que vous utilisez pour cer- nombre de réflexions qu'il me paraît im-
tains depuis dix ou quinze ans au moins. portant de souligner en ce qui concerne
La reconnaissance de forme est adaptée cette intelligence artificielle. Pour l'instant,
aussi dans les CAD pulmonaires, les CAD il n'y a pas de moyen de faire réfléchir dans
mammographiques et autres. Tout cela la machine. Cela reste tout à fait artificiel.
n'est pas vraiment nouveau. Ce sont des L'intelligence artificielle une fois entraînée,
méthodes qui permettent aux machines elle répond à une tâche, mais ne sait pas
d'analyser et d'évoluer un petit peu, mais comment elle arrive à ce résultat. Elle ne
sur des données spécifiques, une tâche saura pas vous l'expliquer d'ailleurs. C’est
1
Computer Aid Diagnosis.

78 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


Ce qui est sûr aussi, c'est que cela a fait
une irruption dans la vie quotidienne à
un point qui est tout à fait extraordinaire,
notamment avec les téléphones mobiles.
Il est vrai que c'est devenu un moyen de
paiement très courant. On valide avec un
QR code, avec une empreinte digitale et la
dépense passe immédiatement. On sup-
prime l'argent. Cela a aussi un intérêt so-
ciétal évident qui est celui du contrôle des
flux financiers. Petite histoire aussi, vous
pouvez utiliser des appareils pour faire la
cuisine, mais j'ai un souvenir personnel
tout à fait précis. Denis Le Bihan, en 1984,
avait écrit sur un commodore 64, ce qui ne
dira plus rien à beaucoup de gens ici, un
programme qui permettait de sortir des
là où il y a le filtre des mathématiciens. On recettes de cuisine en fonction de ce qu’il
a un problème qui est celui de la boîte y avait dans son frigidaire. Cela fait 34 ans.
noire. Il y a dans le système quelque chose
qui est obscur, qui est profond, dont on ne Nous en sommes aujourd'hui à radiologie
sait pas exactement ce qu'il y a dedans. On N.N puisque nous avons eu radiologie 1.0
peut imaginer toutes les manipulations qui ou Imaging 1.0 avec la main de Röntgen.
peuvent se produire puisque nous n'avons Ensuite, Imaging 2.0 avec l'irruption des
pas, nous utilisateurs potentiels de ces nouvelles techniques et des imageries en
techniques, d'impact là-dessus. coupe. Nous en sommes théoriquement à
Imagine 3.0 puisqu'au bout du compte, on
Enfin, il y a aussi la puissance informatique. essaye de remettre le patient au centre du
On est habitué à raisonner en termes de loi débat et de sortir un peu de la technique.
de Moore en se disant qu'effectivement, C'est là où les gens nous disent que dans
la puissance informatique double tous les le domaine de la santé, 30 % des proces-
deux ans. On peut imaginer qu'en 2025, on sus peuvent être automatisés, voire même
aura des machines qui nous permettront 60 % en imagerie. On nous dit aussi à l'en-
de simuler l'intelligence humaine. Peut-être vi, et nous le savons tous, mais nous avons
que ce sera avant. Peut-être que sera après. mis chacun à notre façon des moyens d'y
Effectivement, il y a d'autres techniques échapper, 50 % du temps médecin est
d'informatique qui apparaissent et qui gé- affecté à des tâches non médicales. Pour
nèrent de nouveaux problèmes, mais il faut moi, c'est l'enjeu majeur de l'intelligence
savoir que cela se fait lentement. artificielle.

Chapitre II - Comment le radiologue libéral se prépare à l’arrivée de l’IA ? - 79


Finalement, que peut attendre le radio- lequel nous avons été poussés et dans le-
logue qu’il soit libéral ou pas ? Le terme de quel nous nous sommes laissés pousser
libéral n'est pas limitatif de ces techniques. aussi sous l'effet de la productivité qui est
Je crois qu'il faut quand même garder à un mot parfaitement détestable et qui a
l'esprit et cela a été un peu dit aujourd'hui, abouti à ce que les Américains appellent la
c'est que le jugement humain doit venir au « commoditisation ». C'est-à-dire que l'on
secours des machines et non pas l'inverse. vous transforme finalement en serveur de
Alors, si on fait le point, où en sommes- Mac Donald.
nous ? On sait que l'évolution de notre
imagerie a fait qu’elle est totalement nu- Quels sont les devoirs de l'imagerie ? Ces
mérique maintenant à peu près partout. Il devoirs persistent dans le présent, mais
y a aussi un effet qui est en effet important, également dans le futur et de façon en-
c'est la spécialisation par pathologie. Ce core plus aiguë maintenant avec la perti-
qui est un effet démographique non négli- nence. C'est-à-dire l'imagerie au bon mo-
geable dans la mesure où cela aggrave le ment et de façon efficace. On attend de
déficit démographique. nous une précision diagnostique, à la fois
technique, la bonne réalisation de l'acte
Dans ma génération, on savait tout faire. et une correspondance avec la clinique,
Ce n'est plus vrai du tout. Il y a une délé- une sécurité physique pour le patient. Le
gation de fonction – il y a été fait allusion patient doit ressortir dans le même état ou
– pour des examens, pour des gestes pour si possible en meilleur état après une pro-
des fonctions informatiques, pour les tech- cédure d'imagerie, voire interventionnelle,
nologies de l'information. Le radiologue dans un bon état mental. On ne doit pas
ne fait plus tout lui-même. Il délègue lar- aggraver son état d'anxiété. Il doit être in-
gement. Il y a aussi une tendance lourde formé du résultat de l'examen. Il faut que
qui est bonne, c'est l'intégration fonction- le compte rendu soit utilisable. C'est-à-dire
nelle sur un site où théoriquement toutes qu'il soit standardisé, structuré, clinique-
les modalités et toutes les techniques sont ment pertinent et qu’il réponde à la ques-
disponibles, un point de référence dans un tion si question il y a. Il faut que la commu-
territoire où plusieurs points de référence nication soit adaptée, faite en temps voulu
dans des territoires. Nous sommes pas- pour le patient, mais également pour le
sés de l'art médical à un métier qui est un clinicien. Je vous rappelle que nous avons
vrai métier avec des compétences et des une obligation d'information ou de suivi de
compétences spécifiques. Il y a un point l'efficacité de notre information. C'est bien
qui me paraît extrêmement important et de faire un diagnostic de cancer du sein,
dangereux, c'est que nous sommes pas- mais encore faut-il que la patiente en soit
sés d'un service individuel dans une rela- consciente, ait bien compris et que le mé-
tion de médecin à patient et vice versa à decin derrière le soit aussi et qu'il assure le
un système de production de masse dans suivi que l'on ne voit pas revenir la même

80 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


patiente six mois après avec une demande que vous connaissez et que vous retrou-
de mammographie émanant d'un autre verez dans votre dossier.
praticien qui a trouvé une tumeur. C'est là où l'intelligence artificielle peut
nous aider en matière d'imagerie médi-
Bien sûr, il y a des faiblesses. On les cale. Dans la collection des données, la
connaît. Il y a du gaspillage. C'est évident. collection préalable avec l'établissement
On sait quand on s'intéresse un tout petit de questionnaires, l'utilisation des dos-
peu aux erreurs en imagerie, il y a beau- siers électroniques, la recherche automa-
coup de causes d'erreurs en imagerie. Il tique des données, l'aide à la demande. Il
y a environ 40 biais cognitifs, dont une y a le guide du bon usage des soins, mais
bonne dizaine qui on sait bien que
sont adaptables le patient n’arrive
à l'imagerie, qui pas en disant : «
expliquent les er- J'ai une tumeur. » Il
reurs imputables faut quand même
au fonctionne- rester pertinent.
ment cérébral. La programma-
Personne n'y tion en ligne des
échappe. On sait examens, toutes
qu'il y a une qua- ces choses-là
lité insuffisante. avancent douce-
On peut estimer ment, l'extraction
que 15 à 20 % des informations
des examens ont pertinentes de
une incohérence données qui ont
diagnostique. Il été collectées, le
y a une pénurie consentement par
de spécialistes voie électronique,
ou d'hyperspé- les protocoles
cialistes, une communication insuffisante préprogrammés et la recherche automa-
avec les patients et les médecins. Il y a tique des antériorités et la comparaison.
une confidentialité insuffisante, avec une Il y a déjà une partie de ces fonctions qui
vulnérabilité des dossiers. Il y a aussi une existent dans nos systèmes, qui nous ont
perte d'efficience par perte de temps. beaucoup simplifié la vie et qui ont gran-
Cette perte de temps s'applique aus- dement amélioré la qualité de nos presta-
si bien aux médecins demandeurs qu'à tions. Il y a le traitement des données avec
nous-mêmes lors de la réalisation d'actes l'analyse des questionnaires, l'aide à la dé-
avec un certain nombre d'étapes quasi tection, les CAD – je ne dirais pas l'aide au
obligatoires que je ne vais pas vous lister, diagnostic – les reconstructions automa-

Chapitre II - Comment le radiologue libéral se prépare à l’arrivée de l’IA ? - 81


tisées, les comparaisons automatisées, la Cela peut être extrêmement grave. Il peut
génération interactive de comptes-rendus aussi y avoir des manques.
et de comptes-rendus structurés et bien
sûr, la deuxième lecture soit systématique, Il ne faut pas non plus oublier d’évaluer
soit à la suite d'une expertise que l'on peut toutes ces techniques parce que c'est bien
demander nous-mêmes ou que le clinicien gentil de les proposer, mais il faut savoir
peut demander. à quoi on les utilise et quels sont leurs
résultats finaux. On ne peut pas leur faire
Les applications sont très vastes. On peut une confiance aveugle. Il faut rester ef-
imaginer effectivement que l'intelligence fectivement critique. C'est indispensable.
artificielle nous permette de trier les dos- Alors effectivement, il y a déjà un certain
siers, faire une synthèse des images per- nombre de logiciels qui nous aident dans
tinentes et des données. Ce qui suppose la pratique. Là en l'occurrence, j'ai pris un
des algorithmes extrêmement sensibles exemple chez Philips. Je ne suis pas client
pour les dossiers normaux et pour les Philips, mais c'est un système que je trouve
dossiers anormaux, des algorithmes très intéressant. Pour prendre une firme indé-
spécifiques. Cela ne sert à rien de détec- pendante, un rapport automatisé propo-
ter quelque chose si on ne sait pas quoi sé par Icometrix qui est une évaluation
en dire ? Il y a un certain nombre de tâches de l'évolution des plaques de sclérose en
parfaitement fastidieuses dont Monsieur plaques et qui est un système tout à fait
Chang a parlé, notamment sur les critères performant. C'est vrai que cela n'a rien de
RECIST. Si on devait faire cela nous-mêmes passionnant ni pour vous ni pour moi, d'al-
de façon manuelle en permanence, on ler compter les plaques et de voir si elles
y perdrait notre vie, voire notre santé. Le ont beaucoup changé par rapport à l'exa-
compte-rendu semi-automatisé est aussi men précédent.
une chose utile dans la mesure où il peut
nous aider à faire un scorage automatique. On voit aussi quand on prospecte un peu,
Ce qui est bien utile pour que le discours quand on butine, des visions que l'on peut
soit cohérent et bien compris par les clini- considérer comme des visions d'enfer en
ciens correspondants. ce qui nous concerne. Par exemple, cette
proposition d'une société américaine
Derrière, c'est là aussi où l'intelligence arti- qui s'appelle Enlitic, qui considère que la
ficielle peut nous aider. C'est l'assurance de croissance des données en matière d'ima-
qualité. On sait très bien qu'il peut y avoir gerie est de l'ordre de 50 % en dix ans. Ce
des incohérences dans le compte-rendu, qui aboutit à une masse de données ab-
des erreurs de transcription et en recon- solument considérable, qu'aux États-Unis
naissance vocale, on estime que le taux par exemple, on va produire 300 millions
d'erreur peut aller jusqu'à 20 % au moins d'images par an, qu'il serait utile que la ma-
dans la transcription et la compréhension. chine fasse automatiquement un tri avec

82 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


surveillance, c’est dans le bon sens
du terme.

Ce qui est assez fascinant, c'est de


voir les sommes qui sont investies
là-dedans par différentes sociétés.
La partie droite de la diapo est une
diapo que j'ai trouvée sur le site de
Fujitsu à propos de la recherche sur
la génomique, qui explique qu'il
n’y a encore pas longtemps, il fallait
plusieurs semaines pour explorer
les données génomiques et gé-
nétiques d'une façon générale et
qu'aujourd'hui grâce à l'application
une détection automatisée et en fonction de la technologie, cela peut être fait en
du résultat de cette détection automatisée, une seule journée avec une vraie collec-
un routage vers le spécialiste. En sachant tion des données cliniques et des données
qu'ils s'appuieront bien sûr, sur les réseaux génétiques.
neuronaux et sur les hyper CAD puisque
l'on sait que les CAD actuels ont quelques En ce qui nous concerne, il a été longue-
défauts. Finalement, on aboutira à trois ca- ment question et il a été fait allusion à la té-
tégories : le dépistage, l'aide à la décision léradiologie. Il y a un développement qui
devant des nodules pulmonaires et une est potentiellement intéressant. Effective-
analyse rétrospective à partir des données ment, on peut renforcer les performances
collectées. Voilà une vision possible de de la téléradiologie avec l'intelligence ar-
ce que l'intelligence artificielle poussée à tificielle, avec les comptes-rendus struc-
l'extrême pourrait nous apporter. turés, la transcription et la traduction des
comptes-rendus, le triage automatique
Quels sont les développements ? Je crois pour l'externalisation, – on peut très bien
qu'il y a un point fondamental à retenir. en fonction du type de détection, l'orien-
C'est que nous changeons d'écosystème. ter vers des spécialistes – la sécurisation
C'est déjà fait pour les « clouds » qui sont des données, l'interopérabilité des sys-
plus ou moins passés dans les habitudes tèmes et la création d'experts avec des ex-
et toutes les techniques qui permettent ef- perts qui agiront sur la base d'un service.
fectivement avec le « blockchain » de faire En sachant bien sûr qu’il y a le problème
une interopérabilité des systèmes et un des législations qui sont différentes d'un
« télémonitoring ». C'est-à-dire finalement, pays à l'autre, mais cela peut fonctionner
une surveillance à distance. Quand je dis dans un pays.

Chapitre II - Comment le radiologue libéral se prépare à l’arrivée de l’IA ? - 83


On en vient à un chapitre important qui Celle de droite est la place Tian'anmen à
pour l'instant n'est pas dans la pratique, ce Pékin. Vous voyez que chaque personnage
sont les radiomics et les radiogénomics. qui traverse la place fait l'objet d'une re-
En haut de la pyramide après la collection connaissance faciale. On sait parfaitement
de ces données, il y a la possibilité de mise qui traverse la place. À gauche, c'est autre
en place de cette fameuse médecine per- chose. C'est au Japon. C'est l'identification
sonnalisée. Je vous rappelle que les radio- des véhicules. Ici par exemple, les compor-
mics, c’est la connexion entre l'imagerie tements déviants des véhicules grâce au
et les données cliniques, histo-patholo- système de surveillance informatique.
giques et biologiques. On peut rajouter
une couche de génétique. En sachant que Autre réflexion sociétale, faut-il être patient ?
derrière, il y a le risque du savoir, mais qui Quand je dis patient, c'est effectivement
n'est qu'un sa- au sens de ce-
voir statistique. lui qui attend,
Encore, faut-il le non pas au sens
rappeler. de celui qui
souffre. En fai-
On en arrive évi- sant un peu de
demment aussi recherches bi-
au traitement bliographiques,
des données. je suis retombé
Là, on n'en est sur cet article
plus aux « big sur le dossier
data ». On en médical élec-
est vraiment aux tronique et cu-
« huge data ». rieusement, on
C'est un enjeu y retrouve Bru-
majeur pour la no Silberman et
profession. Il faut structurer nos données, Jean-Philippe Masson. C'était en 2004. Au-
mais il ne faut pas non plus les laisser par- tant que je sache, le dossier électronique
tir n'importe où et n'importe comment. n'a rien donné, sinon un gouffre financier.
Tout cela génère évidemment quelques Je ne citerai pas l'agence responsable.
réflexions sociétales. Les radiologues libé-
raux sont peut-être un peu plus que les ra- Quelles sont les autres incitations ? Il y
diologues hospitaliers au cœur de la cité, en a quelques-unes qui sont tout à fait
dans leurs interactions avec la médecine valables avant de passer du fantasme à
de ville, avec les patients de ville, les pa- l'intelligence augmentée. Il y a la diminu-
tients de l'hôpital. On peut citer Rabelais. tion des erreurs, les causes multiples et les
Ces diapositives sont un peu terrifiantes. variances. On voit de temps en temps les

84 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


chiffres : 100 000 morts par an dus aux
erreurs médicales et j'en passe, etc.
Est-ce que l'on va vraiment faire une
économie en éliminant les fonctions
à faible valeur ajoutée ? C'était le fa-
meux back-office auquel ils faisaient
allusion tout à l'heure. L'optimisation
des coûts en éliminant les examens
inappropriés, cela sûrement. La
chasse aux abus qui concerne aussi
bien les patients que les médecins
et puis aussi les structures hospita-
lières. On sait très bien que certaines
structures hospitalières, privées d'ail-
leurs parfois, trichent. Est-ce qu'il n'y a pas Il y a des problèmes de législation, au-de-
d'autres moyens pour facturer des actes là du problème des « big data », avec ef-
qui ne sont pas à la nomenclature, malgré fectivement la législation sur la protection
les nombreuses agences qui sont censées des données. Il y a l'usage des algorithmes
s'en occuper ? dans le domaine de la santé. Qui définit
ces algorithmes ? Qui les surveille ? Qui
Il y a un risque effectivement dans tout cela, surveille leur évolution ? Si on imagine
c'est « l'ubérisation » – c'est un terme un que la machine apprend, qu'est-ce qu'elle
peu galvaudé – ou la « commoditisation ». va apprendre ? Quelle direction va-t-elle
C’est-à-dire qu'il faut que cela aille aussi prendre ? C’est une bonne question. On
vite qu’au fast-food. C'est quand même peut dire que l'éthique est devenue un
une tendance lourde que l’on observe trouble obsessionnel compulsif sans solu-
chez nos patients. Il y a la dérive aus- tion. À la fin, on arrive au transhumanisme
si avec tous ces robots qui finalement, et au solutionnisme. Je n'y crois pas beau-
finissent par simuler une présence hu- coup. Je serai probablement mort.
maine. On peut prendre rendez-vous
chez le coiffeur avec des hésitations. Le Dernière réflexion que je vais attribuer au
robot est capable de dire : « Je ne suis photographe qui a fait cette photographie
pas sûr. » et de tromper complètement la célèbre pour Givenchy, en l’occurrence
coiffeuse qui donne rendez-vous. Il n'y a Franck Horvat un jeune homme de 90
pas de produit vraiment testé et pas de ans, qui est un photographe très connu,
produit vraiment validé cliniquement. qui a vu son compte Facebook fermé
Pour l'instant, cela n'a pas été fait à ma parce qu’il y avait des femmes nues sur sa
connaissance, en tout cas. page. Comme il dit : « Ce qui m’attriste le
plus, c'est d'imaginer que ce n'est pas un

Chapitre II - Comment le radiologue libéral se prépare à l’arrivée de l’IA ? - 85


homme qui a pris la décision, mais un logi- que l'on a tendance à nous proposer des
ciel. » Voilà, ce qui nous guette. solutions, mais qui ne tiennent pas forcé-
Cela veut dire qu'il faut rester vigilant, sa- ment compte de nos problèmes. On ne
voir ce qui est dans la boîte noire, quels doit pas plaquer des solutions comme
sont les biais introduits, voire acquis dans cela. Il faut partir du problème et que l'on
les algorithmes, mais nous ne sommes pas nous écoute. Ce qui est quand même as-
des mathématiciens ni des informaticiens. sez difficile. On voit bien les lenteurs et les
On va devenir un peu prisonnier, comme réticences que ce soit dans le domaine de
on l’est d'ailleurs de nos fournisseurs de l'industrie productrice de matériel ou les
matériel ou de logiciels, notamment des fournisseurs de logiciels. Il faut des années
RIS. Est-ce qu'il peut y avoir une discrimi- pour obtenir une modification. Il faut op-
nation induite en fonction des comorbidi- timiser les structures et cela a été dit par
tés ou d'autres critères que l'on ne connaît Paul Chang, notamment en matière de
pas, un détournement de l'utilisation des tuyaux, mais pas uniquement, pour arriver
indicateurs, des contournements légaux, effectivement à ce que l'on peut espérer
voire tarifaires, un écart entre les créateurs, être une intelligence augmentée et non
l'industrie d'un côté, les GAFA 2 et les utili- pas une intelligence artificielle. Il faut choi-
sateurs, les médecins et les patients, avec sir nos partenaires et la question que l'on
un pouvoir exacerbé de la machine et au peut se poser très légitimement, c'est de
bout du compte, une remise en cause savoir si nos fournisseurs sont à la hauteur.
de la gestion de la relation fiduciaire qui
est entre le médecin et le patient ? Une Si on prend l'exemple des fournisseurs
question fondamentale aussi qui a été français de logiciels de risques notam-
posée. Que devient la confidentialité ? ment, on sait que ce sont de petites boîtes
Effectivement, on a un peu l'impression qui marchent plus ou moins bien et que là
que les gens finalement se moquent que aussi, c'est une galère permanente pour
leurs données soient connectées par leur faire avancer les choses. Il me paraît extrê-
iPhone ou leur smartphone quelconque. mement important de garder la main sur
les données, les structurer et ne pas les
J'ai une grande confiance dans l'imagi- galvauder. Au bout du compte, se souve-
nation des radiologues et leur capacité nir quand même, c'est la relation méde-
à agir et de construire une entreprise en cin malade. Elle existe aussi en imagerie.
radiologie, peut-être pas intergalactique, Le médecin reste aux commandes par ses
mais au moins France entière. Quelle est capacités cognitives. L'empathie du robot,
la leçon dans tout cela ? Il est indiscutable ce n'est pas pour demain. J'ai choisi celle-
que l'intelligence artificielle est là. Elle se là pour Monsieur Chang. Je pense que
développe rapidement. Est-ce que l'on ar- même l'intelligence artificielle n'arriverait
rivera vraiment à 40 % d'automatisation ? pas à représenter un cerveau démocrate
Je ne sais pas. Une chose est sûre, c'est dans toute sa complexité. n
2
Google, Apple, Facebook, Amazon.

86 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


Chapitre II - Comment le radiologue libéral se prépare à l’arrivée de l’IA ? - 87
Que va changer l’Intelligence
Artificielle pour la radiologie
selon la SFR ?

Jean-François MEDER
Président - SFR
II
Que va changer
l’Intelligence Artificielle pour
la radiologie selon la SFR ? *

Q
ue va changer l’IA cliniciens, a perdu un petit peu de sa perti-
pour la radiologie nence parce que l'on veut très rapidement
selon la Société Fran- aller à la confirmation radiologique.
çaise de Radiologie
(SFR) ? C’est une ques- Faisons tout d’abord quelques constats :
tion difficile. Pour m’ai- - la quantité de données est de plus en
der à y répondre j’ai plus grande ;
interrogé certains membres du groupe de - nous ne sommes pas les seuls utilisateurs
travail IA de la SFR de l'image ;
- un circuit de l’examen radiologique to-
L’IA : est-ce une évolution ou une rupture ? talement dématérialisé est souhaité par
Pour un métier comme le nôtre qui a connu certains, en particulier des tutelles ;
de telles révolutions au cours de son bref - la relation patient-radiologue est dans
siècle d'existence, on pourrait supposer certaines structures de moins en moins
que c'est une nouvelle évolution. D'autant conséquente
que le radiologue est prêt. Il est préparé - il existe des « usines » de téléradiologie
à l'intelligence artificielle. Il est habitué et peut être aussi des « usines de radiolo-
au numérique. Il travaille le numérique gie », cela est très regrettable ce d’autant
à longueur de journée. Même la percep- que nous avons un savoir, une tradition
tion globale du sachant a évolué. Aupa- du soin, une éthique du soin.
ravant, savoir signifiait avoir un savoir en-
cyclopédique ; aujourd'hui, savoir signifie Est-ce que l’IA est un cauchemar pour le
« quelles sont vos facultés à aller chercher radiologue ? À en croire certaines per-
ce que vous ne savez pas ? ». D'ailleurs sonnes, c’est oui clairement. Cela va être
dans certaines facultés américaines des dramatique puisque l'IA fait aussi bien
examens qui se font avec accès à internet. que l'expert. Dans Radiology, un éditorial
La place de l’imagerie a beaucoup chan- nous rappelle qu'un software, approuvé
gé. Il est classique d’entendre « d’abord par la FDA 1 permet d’informer le clinicien
l'examen clinique ». Cela reste vrai mais de l’existence d’une occlusion artérielle.
l'examen clinique, n'en déplaise à certains Pour Geoffrey Hilton, il faut arrêter de for-
*
Retranscription de l’intervention orale
1
Direction Générale de l’Offre de Soins.

90 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


mer des radiologues, puisque dans cinq L’IA ne devrait pas remplacer le radiologue
ans… Un nombre considérable d’articles pour plusieurs raisons : 1/ le radiologue
traitant d’IA sont référencés dans Pubmed, est garant du choix de l'examen, de sa per-
plus de 6000 depuis 2017. Parmi ceux-ci, tinence et des conditions de réalisation ;
seulement 7 % sont consacrés à l'image- 2/ il corrige les erreurs diagnostiques ;
rie ; l’IA ne tient pas compte du périmètre 3/ et surtout, le radiologue est respon-
traditionnel des spécialités, elle s'intéresse sable.
aux parcours de soins, mais pas spécifi-
quement à la radiologie. Le radiologue peut-il devenir un « data
scientist. » ? Quelles sont les activités qui
Pour beaucoup de collègues consultés, définissent un data scientist ? Il est char-
l’IA va permettre d'améliorer le processus gé de la gestion, de l'analyse et de l'ex-
de programmation et de réalisation des ploitation des données, il a une formation
examens (condi- d'analyste, une
tions techniques connaissance
de réalisation, en statistiques,
diminution de une maîtrise
l'exposition aux des outils, des
rayons X, automa- notions de ma-
tisation des lon- chine learning,…
gueurs d'acquisi- Tous ces élé-
tion, débruitage, ments sont loin
harmonisation de faire partie
des protocoles). de la formation
L'aide à l’analyse du radiologue.
des données sera Dans son rap-
aussi très utile. port, monsieur
Automatiser les tâches répétitives permet- Villani écrit : « Il faut transformer les voies
tra de dégager du temps pour l’analyse d'accès aux études de médecine, en in-
plus sophistiquée et pour la relation ra- tégrant davantage d'étudiants spécialisés
diologue-patient. Toutefois, qui va définir dans le domaine de l'informatique et de
le seuil à partir duquel on pourra affirmer l'IA. ». Il est certain que la formation des
qu’une activité est répétitive ? L'évolution médecins doit tenir compte de l’IA mais
du métier vers des tâches plus complexes comme l’ont dit des membres du groupe
est certainement très intéressante et la de travail IA de la SFR : « que le médecin
plus grande disponibilité du radiologue travaille avec les scientifiques, c'est super,
pourra lui permettre de consacrer plus de mais il doit rester la personne ayant les
temps aux patients et aux RCP. qualités humaines. ». Il faut saisir l'occa-
sion pour renforcer les interactions entre

Chapitre II - Que va changer l’intelligence artificielle pour la radiologie selon la SFR ? - 91


contre l'arrivée d'une médecine mondia-
lisée (il y a une tradition du soin qui est
liée à notre façon de vivre). Participer à la
mise en place d'un cadre législatif, on doit
y être.

Dans son livre, « le syndrome de Garcin »,


Jérôme Garcin rappelle ce que dit Charles
Nicolle à un confrère désemparé par la
souffrance d'un patient, atteint d'une mala-
die incurable : « lui avez-vous pris la main,
au moins ? » n

jeunes chercheurs et jeunes radiologues.


Il ne faut pas oublier la part humaniste
qu'il y a dans notre métier.

Nous assistons à une transition. On peut


admettre que dès que la « machine » ira
mieux, lira mieux, le radiologue sera obligé
de voir son métier évoluer. Mais le pilotage
de la transformation inévitable doit être
fait par les acteurs du soin. Le radiologue
doit participer à cette transformation, ré-
fléchisse à l'évolution de la formation, la
réorganisation du travail et l'utilisation du
temps libéré.

De quoi l’IA a-t-elle besoin ? Elle a be-


soin de données numériques, de don-
nées normées, de données labellisées,
en particulier à des fins pédagogiques,
de comptes-rendus des radiologues, de
diagnostics finaux. Elle a donc besoin
de nous. Gérer une plate-forme, ce sera
peut-être à nous d’y penser. Labelliser les
données pertinentes, jusqu'à preuve du
contraire, nous avons été formés pour les
reconnaître. Valider des outils, protéger

92 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


Chapitre II - Que va changer l’intelligence artificielle pour la radiologie selon la SFR ? - 93
Comment un interne en radiologie
se prépare à l’arrivée
de l’Intelligence Artificielle ?

Cédi KOUMAKO
Président - UNIR
II
Comment un interne
en radiologie se prépare
à l’arrivée de l’IA ? *

J
e vais vous parler de l'avis exclusif, cela fait partie des moins intéres-
qu'ont les internes de ra- sants pour eux. Apparemment beaucoup
diologie de l'intelligence de « je ne sais pas », aussi.
artificielle. Je remercie la
FNMR de m'avoir invité L'idée de cette question initialement,
aujourd'hui. c'était de connaître la population à laquelle
on s'adresse, et de ne pas juste interroger
Pour commencer, cette petite présenta- des gens qui ont envie de finir PU-PH 1. Là,
tion est basée sur un sondage que nous c’est relativement hétérogène, donc cela
avons effectué auprès de l'ensemble des m'intéresse. « Est-ce que vous avez déjà
internes. Ce sont des résultats qui sont in- effectué une formation à la recherche ? »
complets, parce que le sondage n'est pas La majorité dit non. Encore une fois, ce ne
encore clos, veuillez en tenir compte. sont pas des gens qui ont envie de finir
universitaire, en tout cas, pas d'après ce
Vous voyez que nous avons eu 158 ré- qu'ils répondent.
ponses à ce sondage, avec une distribu-
tion qui est relativement homogène sur les La question intéressante : « est-ce que vous
années des internes. J'espérais beaucoup êtes ou avez été impliqué dans un projet
de quatrièmes et de cinquièmes années, en rapport avec l'intelligence artificielle ? »
mais il y en a moins que les jeunes. Ce Et là c'est le drame, 147 personnes n'ont
n'est pas très grave. jamais eu de contact avec l'intelligence
artificielle, 93 %. Il y en a 5 qui le sont en
Voici, une diapo que j'aime bien, parce ce moment, qui ont un projet en cours
qu'à la FNMR, cela les intéresse peut-être autour de l'intelligence artificielle. Après
de savoir ce que veulent faire les internes les 1, 1, c’est 1 : « je ne suis pas, mais j'ai-
de leur vie plus tard. Beaucoup d'exercice merais bien. » Et 1 « je cherche une start-
mixte, la majorité veut faire de l'exercice up pour travailler autour de l'intelligence
mixte, étonnamment, mais c'est cela. De artificielle. » En gros, la majorité des gens
l'exercice libéral, un exercice hospitalier qui ont répondu à ce sondage n'ont pas
*
Retranscription de l’intervention orale
1
Professeur des Universités – Praticien Hospitalier

96 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


été impliqués dans un projet
autour de l'intelligence artifi-
cielle.

Question suivante : « est-ce


que vous avez suivi une for-
mation en rapport avec l'in-
telligence artificielle ? » Non,
pour presque 97 % des cas,
ce qui va bien avec la diapo
précédente. Ils n'ont pas été
formés, donc ils n'en font
pas, logique.
s'en sortir. Faites des gestes, au moins,
Question suivante : « si une formation était on ne pourra pas vous remplacer. » Je ne
proposée, est-ce que vous participeriez de pense pas que ce soit la voie à prendre,
façon active ? » Plutôt, ils ont envie d'être mais cela fait partie des légendes. C'est
formés. Charge à nous de... pour cela que l'on a posé ces questions, et
manifestement, les internes n'étaient pas
Oui, il y en a 25 % qui ne veulent pas, mais d'accord avec cette idée.
ce sondage a quelques réponses.
La majorité a plutôt envie d'être formée « Je pense que certains domaines de la
autour de cette thématique. radiologie diagnostique ne seront pas im-
pactés par l'intelligence artificielle. » Oui,
Question : « je pense que l'intelligence ar- on a parlé de la radiologie intervention-
tificielle ne peut pas remplacer les radiolo- nelle, là, la radiologie diagnostique. Oui,
gues. D'accord. Pas d'accord. » La majorité ils pensent que certains domaines ne se-
est d'accord, ils ne disparaîtront pas. Ce ront pas impactés.
qui est plutôt une bonne chose.
Parmi ces domaines, je vous ai cité ceux
Question suivante : « dans une dizaine qui revenaient le plus dans le détail :
d'années, il ne restera essentiellement • L'échographie, beaucoup, l'échographie
plus que la radiologie interventionnelle pelvienne, obstétrique.
(RI) aux radiologues. » La majorité n’est pas • Certains ont cité la mammographie aussi,
d'accord. On a posé cette question parce chose que je n'avais pas comprise.
qu'il y a pas mal de légendes autour de la • La pédiatrie.
radiologie interventionnelle, dont une qui • Beaucoup pensent que le radiologue
est de dire : « vous allez disparaître, faites aura une activité d'expertise, de conseil,
de la RI, parce que c'est le seul moyen de avec la participation aux RCP 2.
2
Réunion de Concertation Pluridisciplinaire.

Chapitre II - Comment un interne en radiologie se prépare à l’arrivée de l’IA ? - 97


• Beaucoup pensent que l'imagerie
digestive fera partie des surspéciali-
tés qui seront épargnées par l'ima-
gerie artificielle. Pourquoi ? Simple-
ment parce que ce sont des organes
qui bougent beaucoup, et faire in-
terpréter cela par de l'IA, c’est com-
pliqué. Beaucoup d'artefacts, beau-
coup de mouvements et surtout, il
y a tout ce qui est soin ou imagerie
post-opératoire. Parce qu'il ne faut
pas l'oublier, l'intelligence artifi-
cielle a besoin d'images sur lesquelles elle « Je vois cet impact comme plutôt posi-
est entraînée, et en post-opératoire, il n'y a tif. » Retenez bien cette diapo, parce qu'il
rien qui ressemble à la norme. y a deux questions après, que je ne com-
• Beaucoup pensent que l'imagerie d'ur- prends pas trop.
gence sera épargnée aussi, pour les
mêmes raisons. Ils pensent que l'intelligence va les sou-
• Les cas complexes. lager des tâches répétitives et peu gra-
tifiantes. On en a parlé ce matin, notam-
En gros, l'idée qui se détache c'est : faites ment sur le RECIST, entre autres. J'aurais
de la pédiatrie, de l'échographie, de l'ima- quelques avis sur le RECIST après.
gerie digestive, parce que ça bouge et les
cas complexes, parce qu'il n'y aura jamais « J'ai peur pour mon avenir profession-
assez de cas pour former des machines à nel en tant que radiologue. » La majori-
interpréter des cas complexes. té a peur. Je trouve cela assez étonnant,
parce que cela contraste avec cette dia-
Question suivante : « je pense que l'intel- po. Les diagrammes se ressemblent as-
ligence artificielle est surtout une mode. sez, où ils voient plutôt cet impact positif,
Les changements sur notre exercice seront mais en même temps ils ont peur pour
peu nombreux en pratique. » Ils ne sont leur avenir.
pas d'accord. Je trouve cela bien, parce
qu'ils ont intégré que ce n'était pas un effet Mais un peu d'espoir, quand on leur de-
de mode et qu'a priori, cela allait rester, et mande s’ils referaient radiologie : ils refe-
que ça allait même changer nos pratiques. raient quand même radiologie.

« Je pense que tous les domaines de la Il y a une diapo que je n'ai pas mise dans le
médecine vont être impactés. » Oui. PowerPoint, parce que j'ai essayé de faire
court, c'est que, juste avant cette question,

98 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


on a demandé : « est-ce que vous refe- ment autour de l'intelligence artificielle,
riez médecine ? ». Ils referaient médecine, autour de la segmentation musculaire par
étonnamment, avec un pourcentage plus un logiciel de deep learning, qui segmente
faible que : « est-ce que vous referiez ra- automatiquement les groupes musculaires
diologie ? » pour faire de l'imagerie quantifiée, pour
faire de l'IRM quantifiée.
Il reste deux questions. « Je pense qu’il
est nécessaire que l’IA soit réglementée Je dois avouer que je vois cela d'un très
pour ne pas remplacer le médecin » Oui. bon œil, parce que j'ai fait de la segmen-
Je trouve cela assez dramatique person- tation manuelle sur les muscles, et c'est le
nellement, parce que la vision de la chose pire truc qui existe. Ce n'est pas possible.
que je tire de cela, c’est : « j’ai peur d'être Donc, avoir une machine qui fait ça à ma
remplacé, et je me dis que les pouvoirs place, je serai content. Comment je vois
publics vont pouvoir limiter l'influence de les choses ? Il y a beaucoup de domaines
cette chose, de sorte que l'on puisse s'en de l'imagerie qui ne sont pas explorés
sortir. » à l'heure actuelle, parce que nous ne
sommes pas en capacité de le faire. Nous
Et dernière question : « à votre avis, l'intel- n'avons pas les moyens de le faire. Nous
ligence artificielle appliquée au quotidien n'avons pas le temps de le faire. On n’a
en radiologie c'est pour quand ? » certainement pas envie de le faire parce
• Beaucoup pensent dans 15 à 20 ans. que c'est ennuyeux. Et toutes ces choses
• Beaucoup dans 10 ans aussi. peuvent être remplacées par une machine
• Dans 1 à 2 ans, quelques-uns. qu'il le fait à notre place, qui va nous per-
• Jamais, quelques-uns aussi. mettre à la fois de découvrir des régions
• Jamais, je ne crois pas que cela puisse inexplorées, et à la fois de pouvoir partici-
fonctionner. per à nouveau à des actes de médecine,
en interaction avec les cliniciens.
Je crois que j'ai fini avec les dia-
pos. C'était la première partie de
ma présentation. L'avis général
des internes.

On m'a dit qu'il fallait que je parle


un peu de mon avis personnel à
moi. Je n'ai pas répondu à ce son-
dage encore, je pense que je vais
y répondre juste avant de le clore.
Mon avis personnel sur la chose.
Je travaille sur un sujet actuelle-

Chapitre II - Comment un interne en radiologie se prépare à l’arrivée de l’IA ? - 99


Parce qu’on parlait du RECIST ce matin. Le y a toujours des choses qui se disent posi-
RECIST, j’en fais, en stage, on les fait ma- tives ou négatives. Mais il y a une phrase
nuellement. Et quand sur la vacation du que j'ai lue qui m'a marquée, que je trouve
matin, on a dix scans TAP RECIST à faire, très intéressante, c'est : « l’IA n'est pas faite
je suis désolé, mais la RCP qui a lieu en pour remplacer les radiologues, mais les
même temps, je ne peux pas y participer. radiologues qui feront de l'IA vont rem-
Tout ce qu'on dit des RECIST que je fais, placer les radiologues qui ne feront pas
je n’en entends jamais parler au final. S'il y de l’IA. » Tout ce que j'ai à dire, c'est : lan-
a quelque chose qui peut me soulager de cez-vous et allez-y autant que possible. Il
cette activité, de sorte que je puisse assis- ne faut pas que l'on se fasse remplacer. n
ter aux RCP, je suis content.

Après, je suis aussi un peu inquiet, mais


pas à ce point, parce que la radiologie
telle qu'on la connaît à l'heure actuelle,
dans vingt ans, ce ne sera pas la même,
c'est sûr. Mais je ne pense pas que nous
soyons à l'aube de notre disparition, parce
qu'on a besoin de radiologues, on a be-
soin de quelqu'un derrière la machine. Les
patients, pas tous, mais certains patients
ont besoin d'un contact humain pour leur
expliquer ce qu'ils ont. Comme le disaient
mes collègues, dans certains domaines ils
ne pourront pas être remplacés, on aura
toujours besoin de l'humain. Je suis plutôt
très positif vis-à-vis de l'IA. Je vois cela un
peu comme la ruée vers l'or au Far West, et
je veux que les radiologues soient les pre-
miers arrivés, c'est tout. Il ne faut pas qu'on
se fasse dépasser.

Je crois que je n'ai plus beaucoup de


temps. Je vérifie juste que j'ai cité tous les
points dont je voulais parler. Je lis beau-
coup de choses autour de l'IA parce que
c'est très à la mode, comme vous le voyez.
Sur les sites de veille, il n'y a pas une se-
maine où il n'y a pas dix articles sur l'IA. Il

100 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


Chapitre II - Comment un interne en radiologie se prépare à l’arrivée de l’IA ? - 101
A qui appartiennent les données
radiologiques dans
le cadre du big data ?

Laure SOULIER
Avocate - Cabinet AUBER
II
A qui appartiennent
les données radiologiques
dans le cadre du big data ? *

P
our ceux qui ne me qui est de déterminer quels sont les droits
connaissent pas, Laure sur les données, question clé puisque je
Soulier, je suis avocat m'adresse principalement à des radiolo-
au cabinet AUBER. Vous gues.
connaissez plus souvent
par expérience et habitu- Est-ce que ces données radiologiques
des mes associés Philippe appartiennent aux patients ? Elles ap-
Cohen et Marie-Christine DELUC. Nous partiennent aux radiologues ? Je serais
avons l'occasion dans le cadre de notre ac- curieuse de faire un petit sondage : qui
tivité de vous entourer durant toute cette pense qu'elles appartiennent finalement
sphère de votre activité professionnelle. aux radiologues. Pas tant que ça. Je pen-
Aujourd'hui on m’a demandé de vous par- sais plus que ça. Et qui peut les utiliser et
ler plus particulièrement des données ra- sous quelles conditions ?
diologiques et à qui elles appartiennent.
D'abord, c'est à la mode, vous avez dû re-
On a parlé de l'intelligence artificielle de- cevoir sur vos smartphones, sur vos boîtes
puis ce matin, là on se situe un petit peu en mail, une quantité astronomique de mails
amont : la base des données, pour pouvoir régissant les données personnelles. Vous
fournir et alimenter cette intelligence arti- avez forcément conscience du règlement
ficielle. La problématique, je crois que tout européen qui est récemment entré en vi-
le monde l'a bien comprise et je crois que gueur, le 25 mai, et qui, lui, pour la pre-
les choses sont clairement posées. mière fois donne une définition précise
des données de santé. Vous l'avez là. Ce
On est sur un progrès qui requiert et qui règlement est aujourd'hui applicable et
permet aujourd'hui une collecte et un vous êtes censés avoir mis en place les
traitement massif de données person- process. Vous êtes censés savoir ce que
nelles et de données de santé. Elles sont c'est, et comment appréhender la chose.
devenues le problème, une valeur cardi-
nale de l'économie numérique et elles Ici, la définition : donnée à caractère per-
entraînent nécessairement cette question sonnel: relative à la santé physique et
*
Retranscription de l’intervention orale

104 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


mentale d'une personne physique, y com- Est-ce qu'il est propriétaire finalement ?
pris la prestation de services de soins de Ou est-ce qu'il est simple dépositaire de
santé qui révèle les informations sur l'état ses données de santé ? Juridiquement, ce
de santé de cette personne. Évidemment, que l'on sait, c'est qu’une donnée, c'est
vos actes en tant que tels, ceux que vous une chose, sans hésitation.
pratiquez quotidiennement font partie et
rentrent dans cette définition qui est au- Le problème de la donnée de santé, c’est
jourd'hui établie. qu'elle va avoir un lien étroit avec l'indivi-
du, et c'est qui est aujourd'hui à l'origine
Qu'est-ce qui se passe en droit français ? d'une controverse qui n'est pas réglé,
La donnée de santé est une donnée sen- donc je ne vais pas pouvoir vous donner
sible, une donnée particulière. On dispose de solution ferme et définitive à ce sujet.
aujourd'hui d'une masse d'informations, Pour certains : il y a un droit de proprié-
ce qui est d'ailleurs illustré par l'actualité té de l'individu sur ses données, puisque
et les GAFA 1, et tout cela, traite de ce su- c'est son intimité, donc droit de propriété.
jet. Aujourd'hui nous sommes sur un cran D'autres au contraire viennent considérer
un peu au-dessus, particulier, parce qu'on que c'est une simple expression de l'indi-
traite de ces données dites sensibles. Elles vidualité de la personne.
sont régies par le droit commun et il y a
une protection juridique. Même si on parle d'intelligence artificielle,
même si on parle des technologies, il y a
Est-ce que c'est mon patient ou moi le un moment où il est toujours bon de reve-
propriétaire de ces données ? La donnée nir sur les fondamentaux. Selon ces fonda-
de santé appartient avant tout au patient. mentaux, le droit de propriété se compose
C'est la loi du 4 mars 2002 qui est venue de l'usus, du fructus, et de l'abusus.
rappeler, et élargir de manière considé-
rable les droits du patient sur son dossier Pour tout ce qui est données de santé, par
médical, notamment sur la communication exemple le corps humain. On peut faire un
de son dossier médical. Vous avez la loi du parallèle avec le corps humain: je ne peux
4 mars 2002, vous avez le code de la santé pas disposer librement de l'intégralité de
publique qui vient préciser, dans la défini- mon corps humain, je ne peux pas céder
tion que je n'ai pas reprise, que vos actes mon rein, je ne peux pas céder certains de
de radiologie, les clichés, l'interprétation mes organes. Faire don de son sang oui,
font partie intégrante du dossier médical. mais le commercialiser bien évidemment
À partir de ce moment-là, le patient a un que non. En fait, ce qui est établi, c'est
droit en tout cas sur ce dossier, sur ces élé- que la personne ne peut pas disposer li-
ments qui sont évidemment bien impor- brement de ses données de santé, elle
tants. ne peut pas les vendre. En réalité, à notre
1
Google, Apple, Facebook, Amazon.

Chapitre II - A qui appartiennent les données radiologiques dans la cadre du big data ? - 105
sens, le droit de propriété, le terme de Il y a des protections. Elles sont énumérées
propriété n'est pas adéquat en matière de par la loi. Ils ont un droit de disposer, de
données de santé. La personne n'est que décider, de contrôler certains usages. Le
dépositaire, usufruitière de ses données RGPD 3 vient vous dire que cela renforce la
de santé. protection des données de santé. Quand
on creuse plus précisément le RGPD, je
Vous pourrez voir les deux thèses qui s'af- reviendrai là-dessus un peu, je ne trouve
frontent aujourd'hui dans les médias mais pas que finalement les choses soient com-
à mon sens, on n'est pas propriétaire de plètement différentes par rapport à ce
ses données. J'en veux pour preuve que si qu'avait fixé la loi de 1978. La loi informa-
on fait tout ce foin aujourd'hui sur la régle- tique a posé les jalons.
mentation en vigueur, c'est pour protéger
les données person- Aujourd'hui sur les
nelles. Si c'était la données de santé,
propriété du patient, sur le traitement des
on n'aurait pas be- données de santé,
soin de les protéger vous allez voir qu’on
comme on est au- peut parfaitement
jourd'hui obligé de les collecter, les trai-
le rappeler. ter, sous certaines
conditions, certes.
Pour autant, vous Mais je crois qu'il y
avez tout ce pro- a encore un certain
cessus qui s'est mis nombre de choses
en œuvre pour les à faire pour proté-
protéger, justement ger les usagers et
pour protéger de que vous, vous puis-
tout ce qui se passe à travers les GAFA 2, siez, avec leur accord, avec ce travail que
tout ce que l'on voit aujourd'hui dans l'ac- nous ferons en commun, disposer, traiter,
tualité où ces travers ont été mis en évi- collecter afin de faire en sorte de pouvoir
dence. Il nous incombe aujourd'hui, il vous améliorer le système de santé aujourd'hui,
incombe, en tant que professionnels de dans le bénéfice premier du patient. Re-
santé, d'essayer de contrecarrer un peu mettons le patient au centre de ce débat.
toute cette problématique, tout ce stress Là-dessus, les choses juridiquement pour-
qui est aujourd'hui présent, en tout cas raient être réglées.
pour vos patients sur l'utilisation des don-
nées. On nous pose souvent la question :
« maître, dites-moi ce que je dois faire ? »
2
Google, Apple, Facebook, Amazon.
3
Règlement général sur la Protection des Données.

106 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


« Juridiquement, qu'est-ce que je dois de faire un parallèle plus général avec les
faire ? » ma réponse est toujours la même : "simples" données personnelles. Il a pu en
définissez d'abord précisément votre pro- effet être jugé aux Etats-Unis qu'à partir du
jet médical, et on s'adaptera, et la loi, la moment où vous avez décidé de publier
réglementation trouvera les solutions pour certaines de vos données personnelles
vous permettre de mettre à bien votre pro- sur un site, Facebook, pour citer le plus
jet. Mais ce projet doit être médical avant courant, Vous ne pouvez plus les récupé-
tout, et dans l'intérêt évidemment numéro rer comme ça, vous n'en avez plus la pro-
un de vos patients. priété. C'est bien le signe qu'il faut mettre
en place un système, tous ensemble,
Pour autant, est-ce que vous pouvez être pour pouvoir traiter au mieux de manière
considérés comme propriétaires des don- éthique, réglementaire ces données, Il est
nées ? Pourquoi pas ? Finalement, c'est nécessaire qu'on puisse travailler tous en
votre œuvre, votre travail, c'est vous qui amont dans les meilleures conditions.
avez fait la radio, c'est vous qui faites une
interprétation. Est-ce que vous avez une Maintenant, vous radiologues, comment
propriété sur ces actes ? Bien évidemment utiliser cette base de données qui est ab-
non. Le patient n'en a pas. Vous n'en avez solument exceptionnelle et qui permet-
pas plus. Certes, il y a une nécessité de trait une avancée majeure en matière de
conserver, de stocker, donc vous devez prévention et de diagnostic ? Le topo des
avoir en possession ces éléments. internes, juste avant, m’a un peu fait fré-
mir parce que je me suis dit : « mince, on
Est-ce qu'il existe un droit d'auteur sur les est sur une dynamique super positive, et
clichés et les interprétations ? C'est une j'ai l'impression que les jeunes n’ont pas
question que l'on m'a souvent posée :

« c'est mon œuvre, c'est moi qui ai inter-


prété ces données. J'ai quand même une
originalité. » Non au regard du droit fran-
çais, vous n'avez pas cette originalité qui
vous permet de rentrer dans la qualifica-
tion du droit d'auteur. De ce côté, j'ai envie
de vous dire match nul, balle au centre. Ni
l'un ni l'autre n’a la qualification de pro-
priétaire de ces données.

Tout un processus a été mis en place pour


permettre de collecter un peu ces don-
nées. Il peut être intéressant à ce stade

Chapitre II - A qui appartiennent les données radiologiques dans la cadre du big data ? - 107
saisi l'intérêt de la question. J'ai été très venir tout à l'heure, s'il est considéré au-
étonnée que les jeunes internes n'aient jourd'hui que le RGPD constitue une pro-
pas participé plus à de l'intelligence arti- tection absolue, je ne le vois pas tellement
ficielle. J'avais le sentiment en tout cas au en réalité puisqu'il il y a un grand nombre
début des premières présentations que d'exceptions qui font que ces données
ça ne prenait pas tellement. On en parle vont pouvoir être traitées. Je vous en ai
beaucoup, mais est-ce que les jeunes der- donné un certain nombre d'exemples,
rière suivent le mouvement ? Évidemment les plus importants. Le principal, c'est si la
je crois que oui, et c'était sur les slides qui personne concernée a donné son consen-
sont après. Mais c'est vrai que sur le mo- tement, ce qui donne un rôle, une place
ment, j'étais un peu freinée dans mon élan primordiale à ce consentement.
positif qui est de dire que je crois qu'il y a
vraiment un travail à faire, et qu'il sera dans Cependant, lorsque le traitement est né-
l'intérêt général de tous. cessaire à la sauvegarde des intérêts vitaux,
à la recherche scientifique … il est possible
Les données sensibles. Je vous ai dit : de collecter toutes ces données pour per-
données de santé = données sensibles. mettre de nourrir l'intelligence artificielle,
Le nouveau règlement vient interdire ra- qui demain pourra vous permettre d'aider
dicalement le traitement de ces données au diagnostic et de concentrer votre ac-
sensibles. Le traitement, qu’est-ce que cela tivité professionnelle sur l'interprétation,
veut dire ? Ça veut dire, ne serait-ce que sur les cas difficiles, et améliorer en cela
la collecte. Ce n'est pas forcément tout de la santé publique, tous ces éléments vous
suite : faire une base sont permis aujourd'hui au regard du rè-
de données. C'est- glement européen.
à-dire que quand
vous conservez, Pour conclure, vous l'avez compris, la ques-
quand vous stockez, tion de la propriété ? je crois que ce n'est
ne serait-ce que pas tellement le débat. Vous n'êtes pas
votre compte-ren- propriétaires, ils ne sont pas propriétaires,
du et de l'imagerie, mais en tout cas, vous pouvez les collecter,
vous faites du trai- et vous avez évidemment la possibilité de
tement de données. traiter sous certaines conditions.
Le RGPD vient dire :
le traitement des Maintenant ce n'était pas le sujet, mais
données sensibles, on en a parlé un peu tout à l'heure : sur
normalement c'est le RGPD et sur tout ce qui s'applique au-
interdit. jourd'hui, je crois qu'il y a deux ou trois
Néanmoins, et c'est points capitaux que vous devez garder en
là que je voulais en tête. C'est bien évidemment l'anonymisa-

108 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


tion. Les droits de la personne et l’intimité nous n'avons pas peur de l'intelligence ar-
doivent être respectés et protégés, sinon tificielle", parce que vous avez cette force
ça sera sanction automatique. La sécurité supplémentaire : le dialogue, et il ne suf-
de votre système informatique, la vérifi- fit pas à mon sens de tendre la main, mais
cation de l'hébergeur sont autant d'élé- de prendre la main des patients pour leur
ments capitaux pour pouvoir traiter dans expliquer pourquoi on le fait. S'ils donnent
les conditions, pour être compliant RGPD. leur accord, vous prendrez d'autant moins
C'est évidemment un élément capital. de risques que le projet sera partagé. Il
sera construit avec eux, on en a parlé aussi
Je voudrais juste terminer et rebondir sur un peu tout à l'heure, toute cette nécessi-
ce qui a été dit ce matin, quand il a été té, à mon sens de prévoir des chartes au
dit qu'il fallait peut-être tendre la main sein des établissements, des informations
vers l'autre. De mon retour d'expérience, spécifiques sur le fait que, oui, les données
puisque je vous assiste beaucoup en ex- pourront être exploitées.
pertise, je vois beaucoup de cas où il y a
eu un conflit avec vos patients, où les pa- Si vous travaillez de concert, la législation
tients vous reprochent un certain nombre vous suivra. Il y a un moment où il faut faire
de choses. Là, nous sommes dans un tour- avancer les choses. On a des règles juri-
nant. diques qui sont établies aujourd'hui, qui
vous permettent un certain nombre de
C'est-à-dire que vous avez les GAFA, des choses. Prenons le tournant en leur prenant
structures énormes avec des moyens fi- la main et, il n'y a aucune raison d'avoir
nanciers énormes qui finalement ne peur. En tout cas juridiquement on arrive-
connaissant pas la personne vont exploiter ra à vous aider dans l'établissement d'une
les données. Vous, vous êtes sur un autre structure pour vous permettre d'exercer
terrain, c'est-à-dire que vous avez la pos- demain votre exercice professionnel sans
sibilité de dialoguer, d'amener et de pou- aucune crainte. Au contraire, vous aurez
voir expliquer au patient pourquoi vous des moyens largement développés pour
allez avoir besoin d'exploiter ses données, vous permettre d'exercer votre activité de
dans quel but. Je crois que c'est votre manière plus sereine.
force aujourd'hui par rapport à toutes ces
structures. Elle n'est pas financière, elle J'espère d'ailleurs que moi-même je pour-
reste juste humaine. rais bénéficier de votre expérience pour
exercer la mienne dans les mêmes condi-
Et de mon retour d'expérience, c'est une tions. Je vous remercie. n
des clés principales qui permettra l'avan-
cée de l'intelligence artificielle, en tout cas
dans le domaine de la radiologie. C'est
ce qui fait votre force. Et de dire : « non,

Chapitre II - A qui appartiennent les données radiologiques dans la cadre du big data ? - 109
Comment l’Intelligence Artificielle
en santé est devenue
une réalité géopolitique

Florent PARMENTIER
Expert en géopolitique européenne
Sciences Po Paris
II
Comment l’I. A.
en santé est devenue
une réalité géopolitique *

B
onjour à tous. Je voulais Je vais essayer également de vous ex-
commencer par remer- pliquer, je crois que je ne serai pas le
cier Monsieur Masson premier dans la salle, que contrairement
pour son invitation, et son à ce qu'avance Laurent Alexandre, l'Eu-
équipe pour l'organisa- rope a également des atouts, qu'elle est
tion et la qualité des inter- tout à fait susceptible de mobiliser, à
ventions de ce matin, qui condition d'avoir un peu de vision. C'est
étaient toutes des points de vue différents, aussi ce que je vais essayer de présenter,
mais avec lesquelles on arrive à aborder mais je ne m'attarde pas sur ce point tout
beaucoup d’aspects. de suite.

Diversité des approches mobilisées de- Je voulais commencer avec une citation de
puis ce matin, et ce qui va nous intéresser Vladimir Poutine, une déclaration de sep-
à présent, c'est l’approche géopolitique. tembre dernier, il est toujours intéressant
Et précisément, il y a quelque chose d'un d'écouter quelqu'un dont on peut dire
peu contradictoire, contre-intuitif dans beaucoup de choses. Mais l'une de ses ca-
l'expression « géopolitique de l'intelli- ractéristiques, c'est d'avoir malgré tout une
gence artificielle » : la géopolitique s'in- vision assez forte par rapport à son pays,
téresse aux inerties, aux grandes masses qu’on peut tout à fait critiquer, concernant
territoriales, à l'Histoire, là où l'intelli- la Russie comme puissance... Je cite : « des
gence artificielle fait plutôt référence opportunités
à la technologie, à l'instantanéité, à la colossales et
modernisation, etc. On a presque une des menaces
concordance des temps qui n'y est pas, difficiles à pré-
en quelque sorte, entre quelque chose dire, celui qui
qui doit être très inertiel et quelque chose deviendra le
qui au contraire insiste sur la rapidité et leader de cette
le changement. C’est cette contradiction sphère sera ce-
que nous allons essayer de résoudre dans lui qui domine-
la présentation. ra le monde. »
*
Retranscription de l’intervention orale

112 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


Là, on peut se demander : est-ce qu'il y a ce n'est pas la même chose. Mais en réali-
une idée de domination militaire ? Ce qui té oui, cela fait partie des travaux d'ailleurs
n'est pas tout à fait exclu au vu de la per- sur lesquels le député Joachim Son-Forget
sonnalité du président russe. Où est-ce travaille beaucoup dans le cadre du groupe
qu'on est plutôt dans l'ordre de la domina- de réflexion Global Variations (www.global-
tion économique ? Ce qui est intéressant, variations.com). La technologie a un impact
c'est de voir effectivement que la part des géopolitique, on va voir pourquoi, notam-
entreprises concernées et les investisse- ment en matière de santé. Je vais y revenir
ments concernés par l'IA en matière de dans quelques minutes.
sécurité est variable. Elle est plus faible
en Europe évidemment qu'en Israël ou en « La sphère technologique est autonome
Russie. On a quelque chose de cet ordre du politique et donc de la géopolitique. »
qui est intéressant, alors même que la Rus- Là aussi, il faut rejeter cette idée. Il faut
sie ne fait pas partie des leaders de l'IA. penser que si en matière de technologies
de défense, la Russie et Israël par exemple
La Russie apparaît très rarement dans ce sont parmi les leaders, si l'Estonie apparaît
cadre. Mais c'est intéressant aussi parce comme un des grands pays également
que la Russie a un PIB 1, en tout cas un bud- en matière de cybersécurité, ce n'est pas
get de la défense, qui ne représente que totalement un hasard 2. Il faut voir que les
10 % du budget américain. Elle a un bud- technologies sont là aussi souvent en lien
get de la défense qui est globalement ce- avec les questions de géopolitique.
lui de la France ou de la Grande-Bretagne.
Mais si on parle en termes de capacité de Et puis il y a cette idée que parfois « l’IA est
projection, etc., la Russie apparaît bien une technologie qui se développe de ma-
au-delà de son réel poids économique. Le nière autonome et linéaire. » On a rappelé
fait que la Russie, que le président russe ce matin qu’elle est apparue dans les an-
s'intéresse à l'intelligence artificielle, nous nées 50, et on a alterné ensuite entre des
fait dire aussi qu'en matière de santé, cela périodes d'oubli et parfois des périodes
vaut la peine de le faire également. Cela d'emballement. On ne sait pas où on en
pose un certain nombre de défis et d'inté- est, on sait que cela avance, mais il est tout
rêts pour l'Europe. à fait possible que d'autres progrès tech-
niques exogènes puissent contrarier, en
Trois idées reçues peut-être sur les liens quelque sorte, l’avancée de l’IA. Peut-être
entre géopolitique et IA en matière de santé. atteindra-t-on un plafond, il est difficile en
Il y a cette idée selon laquelle « la technolo- la matière de toujours avoir des certitudes.
gie n'a pas d'impact géopolitique en dehors
du militaire. » Effectivement, si vous avez Ici, peut-être un point intéressant, c'est de
un missile qui peut frapper un partenaire, dire que pour étudier l'intelligence artifi-
1
Produit Intérieur Brut.
2
Voir Antoine Picron, « L’E-stonie : modèle d’un état plateforme e-gouverné », Institut Sapiens, 11 juillet 2018, https://www.
institutsapiens.fr/le-stonie-modele-dun-etat-plateforme-e-gouverne/

Chapitre II - Comment l’IA en santé est devenue une réalité géopolitique - 113
cielle en matière de santé, il y a en réalité groupes. Nous n'avons pas aujourd'hui
au moins deux grilles de lecture qui sont beaucoup parlé de ces grandes plate-
complémentaires : une approche géopoli- formes qui s'intéressent à ces questions de
tique, on l'a dit, c'est le rapport entre l'es- santé. Quand on dit plateforme, on parle
pace et le politique, et c'est très souvent évidemment GAFA 3 pour les États-Unis,
décrit comme les rivalités de puissance sur on parle BATX 4 pour la Chine, laissant
un territoire donné. Les inerties font partie l'Europe comme un espace sans stratégie,
de la géopolitique, on va étudier les don- face à des entreprises géantes.
nées structurantes, pour autant, elles sont
conditionnantes, mais elles ne sont pas Pour illustrer ces différences entre géopo-
déterminantes. Il est évident que chaque litique et géoéconomie, afin de montrer
pays a aussi sa propre manière de conce- que c'est complémentaire, vous pouvez
voir ses frontières. On pourrait là aussi in- prendre par exemple le cas de l'Estonie.
sister sur ces différents points. L'Estonie, c'est un tout petit pays d’un mil-
lion et demi d'habitants, mais c'est le pays
La géopolitique en matière de santé est qui a son commissaire européen dans le
une donnée relativement récente au re- domaine numérique. C'est un pays qui est
gard de l'histoire. On parlait, a posteriori, assez en pointe sur plusieurs technologies
de géopolitique de santé pour évoquer et régulations. C’est notamment un pays
les grandes pandémies qui ont marqué qui a envie de créer sa propre cryptomon-
l'histoire, comme la peste noire ou la naie, l’estcoin.
grippe espagnole. Il y a, à partir de la fin du
dix-neuvième siècle, tout un mouvement Si vous avez un point de vue géopolitique,
historique qui a consisté à faire que la san- vous allez dire : l’Estonie a un énorme voi-
té devienne un enjeu international. Et pen- sin, la Russie, qui est hostile. Il faut donc dé-
dant longtemps, c'était beaucoup moins velopper depuis les années 1990, à travers
un enjeu international, qu’un enjeu local un cadre assez libéral, des infrastructures,
entre un médecin et son patient. Mais nous des compétences, etc. En matière d’IA, il y
allons voir qu’il y a cette puissance, cette a déjà une régulation possible pour ce qui
grille de lecture. Il y a eu une tendance à est de la voiture autonome.
géopolitiser la question de la santé. C'est
une tendance qu’on va observer et qui est, Mais si vous regardez au-delà de cet as-
à mon avis, importante à retenir. pect géopolitique et géoéconomique,
c'est aussi un pays où l'Union soviétique
De l'autre côté, on a une approche géoé- avait implanté, dès les années 1960, un
conomique. L'approche géoéconomique, centre de cybernétique. Ils construisent
c'est l'analyse de la stratégie écono- aussi avec ce qu'ils ont. C'est intéressant
mique des États, mais aussi de ces grands de noter que les approches économiques
3
Google, Apple, Facebook, Amazon.
4
Baidu, Alibaba, Tencent, Xiaomi.

114 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


et les approches géopolitiques plus struc- souvent le fait d'être le premier acteur
turelles peuvent se combiner. C'est bien qui permet ensuite de gagner un cer-
ce dont il s'agit, quand on traite du sujet tain nombre de points. C'est intéressant,
d'aujourd'hui. puisque le standard est une question clé,
c'est notamment
Je ne m'attarderai une question clé
pas sur ces diffé- pour les Euro-
rents points. Effec- péens, et au-delà,
tivement, à travers pour les acteurs
les technologies, français.
la géopolitique et
la géoéconomie, Je vous ai mis une
c’est la question petite carte que
essentielle de la j'ai pu trouver sur
souveraineté qui le site Diploweb
est posée, souve- (https://www.di-
raineté au niveau ploweb.com/Geo-
politique. On a politique-de-l-in-
parlé des clouds souverains, sous l’ancien telligence-artificielle-une-course-mon-
président de la République Nicolas Sarko- diale-a-l-innovation.html), sur la course
zy. On a parlé ensuite des questions des mondiale à l’innovation à travers les ques-
plateformes souveraines. tions d'intelligence artificielle. C'est une
carte qui a ses mérites. On pourrait ensuite
Et il y a cette idée qu'il y a de nouveaux revenir sur un certain nombre de points.
acteurs dans le domaine de la santé. C'est On voit bien l'extrême force des États-Unis
ce que rend possible l'intelligence artifi- et de la Chine, mais j'essayerai de montrer
cielle. Au-delà des patients, des médecins, que les Européens ont également leur rôle
des établissements, il y a des collecteurs à jouer.
de données, des hébergeurs de données,
des data scientists. L’idée est que le champ Peut-être sur ce point, un seul chiffre. Il y
de la santé s'élargit avec l'intelligence arti- a un rapport récent du cabinet de conseil
ficielle, ou plutôt les IA. Roland Berger qui citait les 3 600 start-
ups les plus innovantes en matière d'IA
Un principe qu'il faut retenir, en tout cas appliquée au développement d'affaires.
pour le positionnement de l'Europe, c’est On voit que les États-Unis certes ont 40 %
de se dire : qui maîtrise la vitesse, déter- des start-ups innovantes en la matière,
mine le standard. C'est-à-dire que ce n'est la Chine en a 11 %. Mais si vous cumulez
pas seulement le fait d'être le plus grand l'ensemble des 28 États de l'Union euro-
acteur qui va faire la différence, mais c'est péenne, nous avons malgré tout 22 % pour

Chapitre II - Comment l’IA en santé est devenue une réalité géopolitique - 115
l'Union européenne, ce qui en soi n'est pas est évident que là aussi, cela aura des effets
négligeable, ce n'est pas évidemment la sociaux forts dans certains pays. Quand on
pôle position, mais pour un continent qui pense à la politique de l'enfant unique en
est censé être complètement dépassé, on Chine, on peut se dire que ce type de ra-
peut voir qu'il y a quand même quelques dio est potentiellement dangereux, et fera
éléments. naître des générations de garçons ad vi-
tam aeternam. Et il y a ce proverbe indien
J'ai voulu vous présenter l’approche gé- que certains connaissent peut-être, qui
nérale. Maintenant, les enjeux véritables consiste à dire : « avoir une fille, c'est ar-
en matière de santé. Je ne m'attarderai roser le jardin du voisin. » On peut tout à
pas là-dessus, parce que c'était bien pré- fait imaginer ce que permettraient d’obte-
senté ce matin : l’IA en santé, c'est l'aide à nir des échographies abordables avec un
la décision médicale. C'est une meilleure téléphone. Cela aurait des effets sociaux
surveillance des patients. C'est une assis- effectivement importants.
tance chirurgicale pour des robots. Il y a
un développement de ce lien entre l'intel- Cela rejoint l'idée selon laquelle, à côté
ligence artificielle et la robotique, ce sont des technologies, il y a les usages sociaux
des choses que vous avez vues par ailleurs. des technologies qui sont des facteurs im-
portants. C'est pour cela que je dis que ce
Après, je crois que la particularité de l’IA sont des conceptions de la santé qui sont
en matière de santé, c'est qu'on ne va pas en balance. La santé est quelque chose
mettre en concurrence des produits en tant d'éminemment culturel. C'est d'autant
que tels, mais on va mettre en concurrence plus important de ce point de vue pour
des conceptions éthiques, des concep- les Français, pour la France, comme pour
tions culturelles de la santé. Là-dessus, l'Europe, de pouvoir mettre en avant sa
c'est un point extrêmement déterminant. propre conception.
Lors de l’entretien d'Emmanuel Macron
pour Wired, le journal branché de la Sili- Je ne reviens pas sur les dimensions
con Valley, il était évidemment plutôt po- éthiques que nous avons mentionnées ce
sitif par rapport à l'intelligence artificielle, matin ni peut-être sur les sources de l'IA,
mais il ne manquait pas de souligner que parce que tout cela a été documenté. Ce
l’IA mettra en question nos démocraties et qui va être intéressant maintenant, c'est de
nos préférences collectives. De ce point de voir ce que peut faire la régulation. Là-des-
vue, c'est important de le rappeler, au-delà sus aussi, il faut rester lucide sur le fait
des produits, que ce sont des conceptions qu'entre l'IA de Google et la loi des mé-
de la santé qui sont en concurrence. dias, peut-être que l’IA de Google aura un
avantage, ou des manières d'avancer. L'IA
Vous savez qu'aujourd'hui on peut faire d'Amazon pose directement une menace
une radio avec un téléphone portable. Il par rapport à notre droit de la concur-

116 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


rence. DeepMind, Baidu, ont des logiciels lement hier une voiture, c'était essentielle-
d'intelligence artificielle qui auront leur ment un moteur à explosion. Demain, ce
propre impact sur le code de la santé pu- sera un système d'exploitation. On peut se
blique. C'est probablement là-dessus qu'il poser la question de savoir comment les
faut aussi plancher, parce que cela fait par- différents acteurs européens vont s'inves-
tie des dossiers importants. tir dans ce domaine, la France, l'Allemagne
évidemment.
Il faut rappeler ici, je vais le faire très rapi-
dement, que l’IA est à la fois très liée au En matière d’IA et de militarisation, là aus-
développement du numérique, et, bien si on aura des développements qui seront
évidemment, très liée aux questions de intéressants. On peut tout à fait imaginer
données, comme l’avançait la dernière que les guerres de demain soient des
intervenante. Il faut insister sur un certain guerres sans soldats, avec des affronte-
nombre de points. L’IA va surtout per- ments de drones ou de cyberguerre. Tout
mettre de repenser le travail, comme le cela n'est pas réjouissant, mais cela vaut
pensent les internes de l’intelligence arti- la peine de garder ce type de développe-
ficielle. ment en tête.

Là-dessus, je ne développe pas, puisque Je voulais terminer cette présentation avec


je pense qu'il y a d'autres personnes qui quelques éléments de prospective. Est-ce
seront probablement mieux placées que que l'Europe sera au rendez-vous de l’IA
moi. J'insiste juste peut-être sur un point. en 2030 ?
Ce lien IA-robotisation, on le voit autour
des questions de voiture autonome. Fina- Là-dessus, peut-être quelques points. Ce
qui est intéressant, d'abord c'est
dans une tribune publiée dans
le journal américain Forbes : les
sept puissances de l'IA. Je les
mentionne : États-Unis, Chine,
Russie, Inde, Canada, Israël et Es-
tonie. Ce qui est intéressant, c'est
que l'Union européenne n'existe
pas, la France non plus, l'Alle-
magne non plus. Cela peut po-
ser des questions. La présence
de l'Estonie est essentiellement
là, et cela donne une piste pour
les Européens.

Chapitre II - Comment l’IA en santé est devenue une réalité géopolitique - 117
Si l'Estonie est présente dans ce top sept l'énergie paraît à première vue ne peser
mondial des pays qui auront de l’influence que 2, 3, 4 % des PIB d'un certain nombre
dans l’IA, c'est parce que l'Estonie travaille de pays, en réalité, si vous ne disposez plus
peut-être plus que les autres sur l'imposi- d'énergie, ou si vous ne disposez pas de ce
tion d'un cadre qui permet, par exemple, 1 % de pétrole que vous coûte votre PIB, il y
j'en parlais, le développement du droit de a une bonne partie de l'économie qui s’ef-
la voiture autonome. Ce qui veut dire que fondre. L'intelligence artificielle aura proba-
même un petit pays avec une population blement la même caractéristique à l'avenir,
inférieure à la ville de Paris, même un pays elle commence déjà à l’avoir.
comme l'Estonie a son mot à dire, par sa
capacité à réguler, à trouver de nouvelles Ce qui veut dire que pour les Européens,
régulations. C'est là-dessus que l'Europe nous pouvons peut-être tirer des analo-
a une carte à jouer. Au-delà du fait même gies de ce qui est fait en matière de po-
que notre écosystème est plus difficile, litique européenne énergétique et l'intel-
d’ailleurs on va y venir. ligence artificielle. C'est intéressant de le
voir, notamment pour la politique gazière
Il faudra peut-être aussi partir du principe européenne puisque c'est plus là que se
que la santé en 2030 ne connaîtra pas les pose la question avec le plus d’acuité. On
mêmes problématiques qu'aujourd'hui. a eu un débat en Europe, très actif depuis
Il y aura certainement des changements une dizaine d'années, pour savoir com-
massifs dans la révolution des traitements, ment faire pour se débarrasser de la dé-
dans le fait d'avoir des e-patients toujours pendance par rapport à Gazprom. C’est
plus demandeurs, et toujours plus experts une question importante, mais qui n'est
qui n'hésiteront pas à poser des questions pas forcément posée comme elle le de-
au radiologue en ayant simplement lu trois vrait. Il y a différents outils.
chroniques. On aura des questions de re-
fonte de financement, des questions de • Il y a d'abord la question de l'interdépen-
gouvernance qui vont profondément évo- dance qui est une relation politique.
luer. Je ne développe pas ce point, mais
c'est un point qu'il faut garder en tête en • Il y a la question de la diversification, est-
matière de prospective. ce que l'on peut acheter d'autres parte-
naires que de la Russie ?
Je vais faire un détour par les questions
énergétiques. Pourquoi ? Parce que l'éner- • Il y a les questions de l'alternative aux
gie, pour les spécialistes du secteur, a cette sources d’approvisionnement énergé-
capacité, comme l'intelligence artificielle tique.
finalement, de transformation d'un secteur.
Si vous ne disposez pas d'énergie, vous Ce qui est important dans ce cadre, c'est la
ne pouvez pas multiplier les richesses. Si question que posait un des grands spécia-

118 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


listes de Cambridge, Pierre Noël. Il disait, acteurs. C’est une question à la fois géopo-
en substance, que le problème n'est pas litique, c'est-à-dire est-ce que l'Union eu-
la dépendance de l'Europe par rapport à ropéenne veut aller vers une forme d'auto-
la Russie. Le problème, selon lui, c'est que nomie ou finalement dépendre totalement
les Européens n'ont pas réussi à se mettre d'autres pays ? Avec un problème qui est
d'accord pour faire un marché européen celui que si on dépend d'autres pays, nous
intégré. À partir du moment où vous avez n'avons pas forcément les mêmes cadres
un marché européen intégré, la situation éthiques, et on importera des solutions
n'est plus la même. Du coup, l'Europe en non éthiques, comme David Gruson l'a
tant qu'acheteur devient presque plus très bien dit ce matin avec des difficultés
forte que la Russie en tant que producteur. particulières.
C'est un point intéressant dont il faut se
souvenir, puisque nous sommes en train de Et il y a également une question techno-
dire que nous n'avons aucune capacité de logique. Il ne faut pas oublier que l'intel-
réguler ou de faire respecter certains prin- ligence artificielle est une technologie
cipes aux GAFA. Et dans le même temps, parmi un certain nombre, que l'ordinateur
on voit qu’on s’est quand même posé ces quantique fait aussi partie des facteurs
questions, depuis assez longtemps main- de disruption possibles, et qu'en matière
tenant, plus d’une de disruption,
dizaine d’années. on n'est pas la
L'analogie vaut fin de l'histoire.
pour intérêt. Ne pas oublier
que Kodak et
L'un des points Nokia ont été
importants aussi, des champions
ce sont les fac- en leur temps, et
teurs clés d'évo- qu'aujourd'hui,
lution. Quand on finalement, on les
parle de pros- trouve beaucoup
pective, il faut moins vaillants.
d'abord com- Il n'est pas dit
prendre un état des lieux, voir quels sont que tous les GAFA soient dans une forme
les facteurs clés d'évolution –je ne détail- aussi rayonnante qu'aujourd'hui dans une
lerai pas là, on peut laisser éventuellement dizaine d'années, c'est très vraisemblable,
pour les questions–, ensuite de voir quels bien sûr, mais ce n'est pas obligé.
sont les scénarios possibles et préférables.
Dans ce cadre, la question est celle de Trois scénarios, pour illustrer ce point, très
l'économie, la structuration du champ des rapidement. Le scénario de la marginali-

Chapitre II - Comment l’IA en santé est devenue une réalité géopolitique - 119
sation de l'Europe, qui est de plus en plus
dépendante de plateformes, qui n'a pas
de vrai positionnement. Vous savez que
la Corée du Sud est un pays qui a un vrai
positionnement, Israël a un vrai position-
nement. Ce qui manque aux Européens,
c'est un positionnement, c'est-à-dire un
message fort à véhiculer.

Et c'est également une fragmentation, car


on ne pourra pas être efficace du point
de vue européen avec 28 politiques diffé-
rentes qui ne se parleraient pas. Cela n'a
tout simplement pas de sens. En revanche, Sachant qu'à côté de cela, le monde de
collectivement, l'Union européenne pèse la géopolitique, de la géoéconomie de
22 % des start-ups mondiales importantes l’IA ne se limite pas seulement aux plate-
dans le secteur, c'est loin d'être négli- formes, pas seulement aux GAFA. Il y a des
geable. On peut imaginer comme cela, laboratoires de recherche, il y a des start-
une forme de marginalisation. ups, il y a des grandes entreprises. Le jour
où les grandes entreprises automobiles
On peut imaginer quelque chose de plus allemandes se mettront véritablement
volontariste. Par exemple, avec la création à l’IA, et à la voiture autonome, on pour-
d'une DARPA 5 européenne. La DARPA, ra voir des basculements plus favorables
c'est cette agence américaine de défense aux États européens. La question est en-
qui est là pour produire un certain nombre core une fois comment faire pour mettre
de projets innovants. Une phrase résume en place un écosystème pertinent. C'est
la DARPA, c’est la parole d'un ancien pré- le scénario du retour de l'Europe avec un
sident qui en disait : « si jamais vous avez peu de volontarisme.
moins de 80 % d'échec, c'est que vous
n'avez pas fait votre travail. Votre travail Si on devait être un peu moins volontaire,
c'est d'avoir de l'échec parce qu'en faisant et un peu moins coopérer, à ce moment-là,
de l'échec, si vous avez 10 % de choses il faudrait plutôt attendre quelque chose,
qui cassent totalement tous les codes, à une forme de salut de la part d'une des
ce moment-là, on aura largement gagné. » forces économiques de l'Europe. L'une
C'est un peu la mentalité qui manque à des forces de l'Europe est sa capacité à
l'Europe et que l'Europe n'a pas nécessai- mettre du standard au niveau international.
rement embrassée. C'est finalement un peu son ADN, c'est-à-
dire se mettre d'accord entre 28 États et
5
Defense Advanced Research Projects Agency.

120 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


trouver une régulation commune, c'est un
des domaines sur lesquels l'Union euro-
péenne a eu un certain succès. Sa capacité
par exemple à être le leader mondial du
changement climatique, alors même que
ce n'était pas le premier pollueur mondial
en atteste. Il y a des choses qui sont pos-
sibles. Est-ce que la RGPD 6 est un moyen
pour les Européens d'affirmer un standard
éthique et de prendre une forme de pen-
sée, de nouvelles régulations ? C'est tout
à fait envisageable, possible. Ce n'est pas
non plus écrit, il faudra voir effectivement
ce que ça donne.

Je vous propose d'en terminer là. Je vous


remercie.

Applaudissements. n

6
Règlement Général sur la Protection des Données.

Chapitre II - Comment l’IA en santé est devenue une réalité géopolitique - 121
L’Intelligence Artificielle
va-t-elle modifier la relation
patient-médecin-radiologue ?

François BLANCHARDON
Président comité régional AURA
FRANCE ASSOS SANTE
II
L’Intelligence Artificielle
va-t-elle modifier la relation
patient-médecin-radiologue ? *

D
'abord je voudrais re- Avant de commencer ma présentation,
mercier très chaleureu- et de vous présenter rapidement France
sement le Président de Assos Santé, je voulais poser une question
la FNMR de nous avoir au début de cette présentation et vous de-
consacré une petite mander : est-ce que seules des données
place, nous, patients, médicales peuvent permettre à établir un
usagers, à ce colloque diagnostic ? On verra à la fin, si on a la ré-
très intéressant sur l'intelligence artificielle. ponse à cette question.

Lorsqu'on pose la question de l'intelli- France Assos Santé, pour ceux qui ne
gence artificielle à un usager, cela ne lui connaissent pas, c’est le nom de marque
évoque pas grand-chose tout de suite. qui a été choisi par l'Union nationale des
Mais lorsque l'on creuse un peu, on arrive associations agréées d'usagers du sys-
à trouver quelques réactions, qui sont plu- tème de santé, qui a pour action de re-
tôt positives, mais qui interrogent beau- présenter les patients et les usagers du
coup et c'est ce qu'on va être amenés à système de santé, et de défendre leurs
discuter ensemble. intérêts. C'est une mission qui a été of-
ficiellement reconnue dans le cadre du
Je voudrais dire que je représente ici code de santé publique via la loi de mo-
Alain-Michel Ceretti 1, qui est très heureux, dernisation du système de santé du 26
également, qui vous salue et qui vous fait janvier 2016, qui a créé l'Union nationale
ses amitiés. des associations agréées du système de
santé.
J'ai relevé dans votre synthèse, Monsieur
le Président, une phrase très importante, France Assos Santé est née à l'initiative
la dernière ou vous précisez que vous veil- de 72 associations nationales qui ont été
lerez toujours à privilégier la relation du fondatrices de cette association. Elle s'ins-
médecin et de son patient. Nous voilà ras- crit dans la continuité de la mobilisation
surés, puisque c'est un élément extrême- des collectifs inter-associatifs que vous
ment important pour nous. avez sans doute dû connaître qui se sont
*
Retranscription de l’intervention orale
1
Président de France Asso Santé.

124 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


mobilisés depuis plus de vingt ans, pour le premier président du Conseil de l'Ordre
construire et faire reconnaître la représen- des médecins, le docteur Louis Portes
tation des usagers inter-associatif. qui disait quelque chose comme ça :
le malade n'est qu'un jouet, à peu près
Notre volonté est que la vision de l'usa- complètement aveugle, très douloureux
ger s'exprime sur les problématiques de et essentiellement passif, et qui n'a qu'une
santé qui les concernent au premier chef, connaissance très imparfaite de lui-même.
par une voix puissante, mais aussi que l’on Et pourtant, c'est ce docteur qui parle le
fasse reconnaître leur expertise, l'exper- premier de colloque singulier, de cette re-
tise de l'expérience – nous disons souvent lation intime qu’est la relation patient-mé-
que nous sommes experts en expérience decin, une relation bilatérale et protégée
– pour pouvoir contribuer au système de en confiance du médecin et de son patient.
santé. Il ne s’agit pas simplement de nous
demander si on est content ou pas de ce Nous voyons là l'émergence de la pre-
qui se passe, mais plutôt de nous recon- mière relation patient-médecin complè-
naître une capacité à analyser et à évaluer tement déséquilibrée, avec une prédo-
la pertinence et les pratiques profession- minance importante du rôle du médecin
nelles, comme les indicateurs de parcours, dans cette relation paternaliste, bien sûr, et
ou l'expérience patient, par exemple. un patient qui, comme son nom l'indique,
est très passif, très patient, et qui va être
Je voulais faire un petit retour en arrière complètement à l'écoute de son médecin,
sur la relation médecin-patient. À la fin du qui ne va pas souvent dire ce qu'il ressent
dix-neuvième siècle, début du vingtième et qui va accepter ou non, son traitement,
siècle, il y a eu ce grand médecin, qui était l'explication de son diagnostic, sans pour
autant émettre son propre avis. Là, on est
au début du XXe siècle.

Puis il y a une évolution, notamment sur


la fin du vingtième siècle avec le déve-
loppement des maladies chroniques, qui
touchent des jeunes sujets qui ne veulent
pas rester passifs face à leur pathologie,
qui veulent être acteurs de leur santé et
être acteurs dans cette relation entre le
malade et le médecin.

Avec l'arrivée des nouvelles technologies,


Pr Louis Portes
de l'information et de la communication,
Président du Conseil de l'Ordre - 1947 cela rend le patient plus acteur dans sa prise

Chapitre II - L’intelligence artificielle va-t-elle modifier la relation patient-médecin-radiologue ? - 125


en charge. Il est informé, il est autonome, entre un médecin et son patient ? Je crois
doté d'un tiers de confiance, responsable, que l'on n'a pas encore complètement su
compétent, impliqué, organisateur de établir le vrai équilibrage dans cette rela-
soins, acteur de soins, citoyen co-décideur. tion à trois, qui maintenant s'instaure dans
C'est l'émergence de la représentation des le colloque singulier. Mais on sait tous au-
usagers. Finalement, on voit que le patient jourd'hui que le patient va se renseigner
remonte dans ce déséquilibre entre le pro- auprès d'Internet.
fessionnel de santé et le patient, dans la re-
lation médecin-patient, pour avoir une re- Il va aussi lui-même essayer de trouver des
lation qui s'équilibre à la fin du vingtième outils connectés par rapport au suivi de sa
siècle, où les deux vont travailler sur une pathologie, soit orienté par son médecin,
stratégie de ce qui serait
traitement, la meilleure
une stratégie solution, soit
par rapport en l'achetant
au traitement tout seul par
de la patholo- rapport à
gie. l'émergence
très impor-
Et arrive un tante de ces
nouvel acteur outils connec-
au début du tés, où on
XXIe siècle, ne sait pas
avec l'arrivée très bien qui
des objets est derrière,
connectés. quelles sont
L'information les sociétés
aussi qui est transmise par Internet. Nous savantes qui sont derrière. On ne sait pas
ne sommes plus sur une relation bilatérale très bien non plus comment vont être trai-
entre un médecin et son patient, mais sur tées les données de santé. On en a parlé
une relation à trois, avec l'émergence d'un tout à l'heure, j'y reviendrai. Les données
outil supplémentaire. C’est soit Internet, de santé, c'est un élément clé dans toute
soit un outil connecté, qui va prendre sa l'apparition de ces objets connectés, de
place de plus en plus dans cette relation ces outils connectés, et bien sûr, en ce qui
entre le patient et le médecin. concerne l'intelligence artificielle.

Aujourd'hui, quelle est sa place exacte ? Finalement, aujourd'hui ce qui est impor-
Est-ce que sa place est identique dans tant pour les usagers, c'est l'écoute du ma-
toute consultation, dans toute relation lade dans cette relation patient-médecin.

126 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


Une étude réalisée il n'y a pas tellement précis, ce que peut lui dire son médecin,
longtemps, au début du vingt et unième et notamment son médecin radiologue.
siècle, qui va peut-être vous faire bondir,
dit que le médecin dans sa consultation, le En quoi l'intelligence artificielle va modi-
temps où il écoute son patient, c'est treize fier la relation patient-médecin ? On ne
secondes. Or, ce que le patient attend le va pas relire tout ça, parce que vous en
plus dans cette relation, c'est son écoute avez déjà beaucoup parlé, mais ce sont les
pour pouvoir établir correctement son dia- points positifs que les usagers mettent en
gnostic, mais aussi pour pouvoir adapter avant avec l'utilisation de données, pour
correctement son traitement. pouvoir améliorer les actes de radiologie,
pour être à même de pouvoir mieux éta-
Qu’est-ce qu’il faudrait faire, et notamment blir un diagnostic.
en ce qui concerne le rôle des radiologues ?
Puisque lorsque nous, usagers, allons chez Pour moi, il y a deux choses qu'il faut retenir,
un radiologue, la première question qu'on c'est que finalement l'intelligence artificielle
se pose c'est : qu'est-ce qu'on va nous faire ? va raccourcir les délais pour pouvoir avoir
Cela fait souvent peur quand on va faire un accès à un médecin radiologue. C'est extrê-
acte auprès d'un radiologue. D'abord c’est mement important d'éviter les diagnostics
de rassurer, d'être présent en amont de tardifs puisqu'on voit en quoi les diagnostics
l'acte, c'est de commenter l'examen qui va tardifs ont un impact négatif, par la suite, sur
être réalisé. l'évolution d'une pathologie.

C'est aussi faire une synthèse de l'interro- La deuxième chose qui est extrêmement
gatoire et de l'examen clinique, donner importante, c'est aussi d'éviter certains
une conclusion. Bien souvent, on est frus- soins. On parle de parcours de soins évi-
tré puisqu'on repart sans avoir même eu tables. Aujourd'hui, on peut être amené
le retour, peut-être parce qu'il y a besoin à avoir mal interprété une radio, et à faire
d'un temps pour l'explication, et étudier rentrer un patient dans un parcours de
les données. Mais on est souvent frustré soins, alors qu'il aurait pu être évité. C'est
en quittant le cabinet du radiologue. On a essayer d'avoir de meilleure qualité en
besoin pourtant tout de suite d'avoir une termes d'évaluation du diagnostic.
première information sur ce qui a été plus
ou moins découvert. Pour autant, est-ce que l'intelligence arti-
ficielle va être en mesure d'avoir des don-
Enfin, c'est aussi s'assurer que le patient nées liées, autres que la technique médi-
a bien compris, puisque dans un moment cale ? Ou sera-t-elle à même de prendre en
émotionnel fort, où le patient parfois at- compte tout l'environnement socioculturel
tend un retour qui peut lui faire peur, il ne du patient et permettre une médecine plus
comprend pas, souvent à ce moment-là personnalisée ? C'est la question qu'on

Chapitre II - L’intelligence artificielle va-t-elle modifier la relation patient-médecin-radiologue ? - 127


posait au début. Est-ce que finalement,
seules des données médicales peuvent
amener un diagnostic correct ? Ou est-ce
que ce n'est pas la globalité, à la fois de
l'interprétation des données, mais aussi la
relation personnalisée qu'on établit avec
son patient qui peut correctement per-
mettre d'établir un bon diagnostic ? C'est
plutôt ce qu'il me semble préférable. Est-
ce qu'au final, l'intelligence artificielle va
remplacer le colloque singulier ? Ou est-
ce que ce troisième acteur, qui est un ac-
teur technique, informatique, va prendre
le pas sur la relation entre le médecin et
son patient ? les patients sont favorables à participer à
des études de recherche par exemple ?
J'ai envie de vous dire que non. C'est sim- Et quand on leur pose la question, ils sont
plement quelque chose qui va permettre globalement très positifs par rapport à
d'aider au diagnostic, mais le diagnostic cela, ils acceptent très facilement, à partir
ne pourra être fait correctement que s’il y du moment où on leur explique ce qui va
a une bonne écoute, une bonne relation se passer, et à partir du moment où on va
entre le patient et son médecin. leur expliquer à quoi servent les résultats.
Il y a cette information incontournable de
J'ai mis l'avis de la CNIL 2 qui met en avant savoir ce qu'on va faire de leurs données,
que le patient doit donner son consente- et comment vont être protégées ces don-
ment express, libre et informé à l'utilisation nées. Au-delà de ces deux informations es-
de ses données de santé. Si ce n'est pas le sentielles, le patient est totalement prêt à
cas pour être exploitées, celles-ci devront ce que l'on utilise ses données en matière
être anonymes, de façon à ce qu'on ne de santé, mais il faut bien sûr les protéger.
puisse pas remonter jusqu'à la personne. Il
va falloir augmenter son niveau d'informa- Pourquoi faut-il une responsabilisation des
tion pour les patients sur l'utilisation des utilisateurs dans ces données de santé ? Je
données. vais vous donner un exemple qui m'a été
rapporté très dernièrement, par un patient
Est-ce que les usagers sont favorables ou atteint de SIDA. Il a pris un rendez-vous
non au traitement de leurs données de chez un dentiste, il n'a pas déclaré sa pa-
santé ? Lorsque l'on pose la question et thologie lorsqu'il a pris son rendez-vous, et
au-delà des données de santé, on peut quand il est arrivé dans le cabinet, il s'est vu
aussi se poser la question : est-ce que opposer la consultation sous prétexte qu'il
2
Commission Nationale de l’Informatique et des Libertés.

128 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


était séropositif. C'est très choquant, quand importants pour permettre de dresser un
on le raconte comme ça, mais finalement, diagnostic.
si on se pose des questions, c'est peut-être
aussi pour protéger les autres patients que Il faut permettre l'évaluation de ces nou-
le médecin a décidé cela. Mais cela peut velles pratiques professionnelles par les
poser la question de savoir comment est usagers. Quand on a parlé de gouver-
stérilisé le matériel qu’il utilise. nance, tout à l'heure, il faut que les usa-
gers soient présents pour pouvoir donner
Bref, cela veut dire que lorsque des don- leur avis sur ce qui va être construit en ma-
nées de santé ne sont pas protégées tière d'intelligence artificielle, pour qu'ils
et qu'elles vont puissent évaluer
circuler comme si le cadre dans
cela, soit auprès lequel vont s'éta-
du monde médi- blir ces données,
cal, mais aussi en et le travail sur
dehors, les assu- ces données en
rances, le milieu matière d'intelli-
professionnel, le gence artificielle
milieu social, cela est protégé pour
a une importance les usagers.
pour la personne,
et cela peut les Il faut faire en
rendre très en co- sorte aussi, c’est
lère par rapport au fait que l'on n'ait pas très important, que l'intelligence artificielle
su protéger leurs données de santé. Il va ne soit pas porteuse d'inégalités. C'est très
falloir qu'il y ait une responsabilisation important comme dans d'autres secteurs,
très importante des utilisateurs de l'intel- notamment le secteur bancaire, que je
ligence artificielle. Il va falloir protéger et connais bien. Je viens du secteur bancaire,
bien sûr, il va falloir légiférer pour faire en donc je connais un peu cela, parce qu'on
sorte d'avoir un cadre pour l'utilisation de travaille beaucoup avec l'intelligence artifi-
l'intelligence artificielle. cielle. Le marketing basé sur les data, et au
final, on va construire des cibles. Les cibles
Il faut aussi privilégier l'environnement qui rapportent le moins ne vont plus avoir
de vie du patient, puisque la question un accès à un conseil et à un conseiller, et
du début, c'était : « est-ce que seules les seules les personnes qui auront un rapport
données médicales… » Je ne vais pas ré- pour l'établissement bancaire vont pou-
pondre à cette question, c'est plutôt à vous voir avoir accès à un conseiller. Et ça, on
d'y répondre, mais la vie du patient et son n'en veut pas, par rapport à la relation avec
environnement de vie sont au moins aussi le médecin. Il ne faut pas qu'il y ait ce rap-

Chapitre II - L’intelligence artificielle va-t-elle modifier la relation patient-médecin-radiologue ? - 129


port de coûts et de pouvoir avoir accès à telligence relationnelle, qui sont les bases
un médecin. de notre société, et qu'il faut maintenir.

Il faut que l'intelligence artificielle ne soit Enfin, cette relation à trois. Le patient, le
pas porteuse d'inégalités tant en matière médecin et l'intelligence artificielle qui est
de coûts qu'en matière également géo- schématisée. Il faut arriver à faire en sorte
graphique, puisqu'on sait que notre terri- qu'on trouve un équilibre entre ces trois
toire a des inégalités en matière d'accès acteurs de la relation patient-médecin.
géographique à la santé. C'est peut-être
dans les grands centres, qu'on arrivera en Merci à vous. n
premier, à utiliser l'intelligence artificielle
au risque que dans d'autres secteurs géo-
graphiques, on voit arriver cela dans, non
pas trente ans, mais peut-être dans cin-
quante ou soixante ans.

Il faut accompagner l'usage à ceux qui en


ont besoin, ce n’est pas forcément facile
pour tout le monde, et préserver et sécu-
riser les données de santé. On en a beau-
coup parlé.

Pour finir, ces deux petits schémas. Deux


petits robots : le dernier dit : « si j'avais des
sentiments, j'en serais frustré. Finalement,
on est encore loin de l'intelligence hu-
maine. » Oui, à côté de l'intelligence artifi-
cielle, il y a l'intelligence émotionnelle, l'in-

130 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


Chapitre II - L’intelligence artificielle va-t-elle modifier la relation patient-médecin-radiologue ? - 131
Le point de vue des industriels
1
II
Aïssa KHÉLIFA
AGFA HEALCARE IT

Intelligence augmentée :
la prochaine frontière *

P
our tenir dans les délais, données à des sociétés américaines ?
j’ai supprimé plein de Je parle bien évidemment des GAFAMI 2.
slides parce que beau-
coup de choses ont déjà • Le dernier point, ce sera une question
été dites. On va donc problématique : est-ce que l’on doit par-
pouvoir faire court. ler d’intelligence artificielle ou d’intelli-
gence augmentée ? Vous verrez que la
Quatre questions en guise nuance est plus que sémantique.
de préambule. Ce sont les seules choses
que je vais traiter, je ne vais pas traiter la La volumétrie est inversement proportion-
suite. nelle à la fréquence des cas. Plus les cas

• Première question : comment


gérer le fait que plus les cas sont
rares, plus le volume et la nature
des données nécessaires sont im-
portants ?

• Deuxième question : quel est


l’impact du RGPD 1 sur des pro-
jets de collecte de données en
vue de deep learning ?

•
Troisième question, après le
Cloud Act du 23 mars 2018, est-
ce qu’on peut encore confier ces
*
Retranscription de l’intervention orale
1
Règlement Général sur la Protection des Données.
2
GAFAMI : Google Amazon Facebook Apple Microsoft Ibm

134 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


sont rares, plus on a besoin de volume et issues du séquençage du génome, on se
plus les données sont complexes à traiter. retrouve sur des bases multiples, avec des
Or, dans l’exemple sur la tuberculose, on identifiants multiples, et donc avec la né-
arrive, dans le cadre d’une étude que nous cessité de fusionner à un moment toutes
avons menée, à une significativité, avec ces données. Où est-ce que ça se fait ?
simplement 10 000 clichés traités. C’est Comment le fait-on ? Quelles sont les solu-
peu de données dans le deep learning, et tions qui sont envisagées ?
vous voyez qu’on est sur des taux de sen-
sibilité de 95 %, sur des taux de spécificité Comment on gère le fait d’acquérir des
supérieure à 75 %, et sur une zone sous consentements non seulement sur les
la courbe ROC qui est au-dessus de 0,9. données d’imagerie, mais aussi sur les
Nous avons tous les critères pour valider le données du génome, mais aussi sur les
fait que la solution d’intelligence augmen- données de patients, de s’assurer que
tée est satisfaisante sur le plan clinique. ces consentements sont convergents,
10 000 données, c’est 10 000 dossiers, pour pouvoir traiter convenablement ces
c’est très peu. La question c’est quand on données ? Ce sont des questions qui au-
va aller sur des données rares ou sur des jourd’hui sont ouvertes, et ce sont des
pathologies complexes, il va falloir chaîner problèmes auxquels nous ne savons pas
des données hétérogènes tout en garan- encore, ni vous ni nous, répondre conve-
tissant bien évidemment l’anonymat des nablement.
patients. En théorie, les données doivent
être anonymisées et chaînées avant l’arri- Deuxième point : quel est l’impact du RGPD ?
vée dans l’entrepôt de données. Je vois deux impacts : le premier, c’est lors
de l’utilisation de solutions d’intelligence
En pratique, les moteurs d’anonymisation augmentée. Est-ce qu’il faudra demain de-
des données sont situés dans les serveurs, mander un consentement préalable pour
et les données sont anonymisées et chaî- utiliser un CAD 3 ? Est-ce que, quand des
nées après leur arrivée dans l’entrepôt. radiologues vont utiliser la solution dont je
Confer par exemple, Watson Health, où ce parlais tout à l’heure, de diagnostic automa-
sont des données nominatives qui partent tique, automatisé, ou assisté de la tubercu-
des clients de Watson Health aux États-Unis, lose, ils vont devoir demander le consente-
et qui sont ensuite anonymisées pour trai- ment de manière systématique du patient ?
tement. On pourrait le penser.

Deuxième cas de figure, on parle de don- Mais le problème est encore plus évident
nées d’imagerie, mais quand on veut chaî- lors de la constitution des bases de don-
ner autre chose que de l’imagerie, des don- nées. Je vais prendre une illustration avec
nées issues du dossier patient, des données une étude de Stanford, qui a été publiée
3
Computer Aid Diagnosis.

Chapitre II - Intelligence augmentée : la prochaine frontière - 135


l’an dernier sur la pneumonie. C’est une • Est-ce que les patients ont donné leur
étude que le RGPD n’autoriserait peut-être consentement express ? Non, ils n’ont
pas dans une lecture stricte de la gestion pas donné leur consentement express.
du consentement.
Le consentement au titre du RGPP doit
L’étude, vous la connaissez certainement, être exprès, positif et intelligent, éclairé.
c’est l’étude de détection de la pneumo- Aucun des patients dans des données qui
nie par rayons x avec un outil de deep ont pour certaines plus de vingt-cinq ans
learning. Ils sont partis sur une base de n’a donné son consentement express pour
112 000 radios thoraciques gérées par une étude sur l’intelligence artificielle. Cela
le NIH 4. L’al- veut dire que
gorithme a si on a une
intégré les lecture stricte
112 000 exa- de la gestion
mens en six du consente-
semaines, cela ment, on va
peut aller vite. au-delà de
Les résultats grandes dif-
sont sans ap- ficultés. Peut-
pel, je cite les être que la
promoteurs pratique évo-
de l’étude : luera, mais
« Nous déve- peut-être
loppons un qu’elle n’évo-
algorithme luera pas. On
qui dépasse la sait que dans
performance un certain
des radiologues dans la détection des nombre de cas, on est allé plutôt vers le
pneumonies, à partir de clichés de thorax. » plus rigide que vers le plus intelligent.
Au moins, le message est clair.
Troisième question après le Cloud Act, qui
•
Est-ce qu’il y avait un consentement veut dire Clarifying Lawful Overseas Use of
préalable ? Oui, toutes les données ont Data, ou « clarifier l’utilisation légale des
été issues du NIH, et tous les patients données à l’étranger ».
avaient donné leur consentement pour
participer à des essais cliniques. Est-ce qu’on peut encore confier ces don-
nées à des sociétés US ? Le Cloud Act est
• Est-ce que c’est un essai clinique ? Oui, un acte qui était un texte tout petit, trente-
c’est clairement un essai clinique. deux pages, ce qui est très rare aux États-
4
National Institutes Of Health.

136 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


Unis, qui a été voté en avril dernier et
qui dit ceci, c’est l’article principal :
« un fournisseur de communica-
tions électroniques ou de services
informatiques à distance devra se
conformer aux obligations de pré-
server, sauvegarder ou dévoiler
(to disclose), le contenu de toute
communication électronique ou de
toutes informations en sa posses-
sion, son contrôle ou sa garde, que
cette communication, ce dossier
ou cette information soit localisée à l’in- on veut que toutes nos données de santé
térieur ou à l’extérieur des États-Unis. » puissent partir vers les services fédéraux
Au moins cela a le mérite d’être clair. Tous américains, il suffit de ne pas réfléchir à
les opérateurs américains de stockage cette question.
de données et de télécom, bien évidem-
ment, sont concernés par ce Cloud Act. Dernier point. Intelligence artificielle ou in-
D’ailleurs ils ont tous applaudi, parce telligence augmentée ?
qu’effectivement l’acte clarifie la position
des États-Unis. Depuis ce matin, on utilise les termes
presque de manière indifférenciée. Or les
Cela veut dire quoi ? Cela veut dire qu’on termes ne sont pas indifférenciés.
peut avoir des conflits de doctrine, notam-
ment pour un opérateur américain interve- • L’intelligence artificielle, c’est d’essayer
nant en Europe, donc soumis au RGPD en de répliquer l’intelligence humaine.
Europe. Bien évidemment, cette disposi-
tion est complètement contraire à ce que • L’intelligence augmentée, c’est de se
prévoit le RGPD. donner des outils, qui en combinaison
avec des outils de workflow, en combi-
Le problème c’est qu’en matière de deep naison avec des processus, vont per-
learning, la quasi-totalité des fournis- mettre d’aboutir à une amélioration, à
seurs d’algorithmes sont nord-américains, une amplification du travail produit par
et pour ceux qui ne le sont pas, ils sont l’intelligence humaine.
chinois, ce qui est peut-être encore pire en
matière de protection des données. Cela veut dire quoi ? Cela veut dire qu’au
cœur de la démarche, d’abord, vous l’avez
Comment va-t-on gérer ce conflit de doc- vu ce matin dans l’exposé de Robert, vous
trine entre le RGPD et le Cloud Act ? Si avez la constitution d’entrepôt de données,

Chapitre II - Intelligence augmentée : la prochaine frontière - 137


c’est le premier point. Ensuite, je ne revien-
drai pas dessus parce que Paul Chang en a
merveilleusement parlé, vous avez besoin
de workflows qui vont permettre la coopé-
ration et l’utilisation intelligente des don-
nées qui sont stockées. Plus de données
en silo, ou moins de données en silos et
des workflows qui vont permettre de tra-
vailler dessus. Derrière, vous avez besoin
d’outils de collaboration en temps réel
entre professionnels. Et c’est seulement à
ce moment-là, quand vous avez fait tout
cela, qu’apparaissent les outils d’intelli-
gence augmentée, de machine learning.

On est d’abord sur leur conception, et


ensuite sur leur utilisation en temps réel,
intégré dans les workflows. On est sur un
processus qui est un processus complexe,
lent, qui va nécessiter une réflexion sur
l’organisation, au-delà des simples sys-
tèmes informatiques, et qui, pour vous
radiologues, va poser la problématique
de la façon dont vous travaillez en inte-
raction avec les autres. Pour l’hôpital, c’est
sans doute relativement facile. Pour les ra-
diologues libéraux qui peuvent intervenir
dans différentes cliniques, dans différents
parcours de soins, la question va être plus
complexe.

En conclusion si vous voulez, sur le site


d’AGFA HealthCare IT, il y a un très joli livre
blanc sur l’état de l’intelligence augmen-
tée. n

138 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


Chapitre II - Intelligence augmentée : la prochaine frontière - 139
II
François VORMS
CANON

Le Deep Learning, un
développement inéluctable *

P
endant que la présenta- par le passé investi dans des sociétés qui
tion se prépare, merci à sont dans le diagnostic et qui favorisent
la FNMR, de nous donner l’accès au big data. On l'a dit ce matin, les
cette occasion de pou- premières expériences et étapes d'intelli-
voir présenter les pistes, gence artificielle, ont été les CAD 1 que l’on
les orientations concer- trouve aussi chez Canon Medical dans les
nant l'intelligence artifi- solutions de post-traitements. Aujourd’hui,
cielle au sein de Canon Medical Systems nous continuons à progresser dans le dé-
Corporation. veloppement de l'intelligence artificielle
avec le deep learning, qui demande des
Pourquoi Canon est impliqué dans l'intel- ressources informatiques importantes et
ligence artificielle en imagerie médicale ? suppose d'avoir des partenariats avec de
Le groupe Canon vient d’intégrer la struc- grosses sociétés comme Nvidia avec qui
ture d’imagerie médicale de Toshiba et nous venons de signer un accord.
fait évoluer son fonctionnement pour tenir
compte des nouveaux enjeux. Le change- Nous sommes convaincus que ce dévelop-
ment de nom de Toshiba Medical en Ca- pement est inéluctable. Pourquoi ? Parce
non Medical est effectif depuis le 4 janvier que vous le savez aujourd'hui, il n’y a plus
2018. C'est donc par cet historique que de médecine sans imagerie. Nous assistons
nous œuvrons dans l’intelligence artifi- à une augmentation du nombre d'examens
cielle, ce n'est pas nouveau. à la fois par les nouvelles indications mais
aussi du fait des maladies chroniques. Il
Ce développement a pu être mis en place est donc tout à fait légitime de penser que
grâce à la recherche en interne, grâce à l'intelligence artificielle doit être dévelop-
l'acquisition de société, de savoir-faire, pée et c’est notre rôle en tant qu'industriel.
que ce soit dans le post-traitement ou dans Nous sommes là pour travailler avec vous,
la recherche plus en amont. Canon a aussi pour vous aider à faciliter votre quotidien,
*
Retranscription de l’intervention orale
1
Computer Aid Diagnosis.

140 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


pour améliorer le workflow et penser sécu- et vous poussent aussi à accompagner
rité pour le patient, Monsieur le Pr Chang toutes ces images, ce huge data, par des
en parlait tout à l'heure. solutions d'intelligence artificielle. Les mo-
dalités nous poussent à développer des
L'intelligence artificielle, va permettre aussi technologies d’IA, notamment la première
de travailler avec des images dégradées, qui arrive dans nos systèmes, et que nous
avec toujours moins de rayons X. C’est donc proposons très prochainement, le deep
grâce à l'intelligence artificielle, par le biais learning reconstruction, le DLR.
du big data, que l’on va pouvoir recons-
truire ces images sans bruit. A ce titre, nous Alors pourquoi et à quoi va servir le DLR ?
avons présenté, il y a maintenant un mois et Je prends juste deux exemples, celui du
demi au congrès de Yokohama, notre pre- scanner et de l'IRM.
mier scanner, avec intelligence artificielle
embarquée, c'est-à-dire avec du deep lear- Nous avons récemment sorti un nouveau
ning qui sera disponible début 2019. scanner Precision, qui propose deux fois
plus de performances que tous les scan-
Je laisse la parole à mes collègues qui sont ners du marché. Il s’agit d’un scanner qui va
plus dans la technique afin de vous éclai- permettre des résolutions que vous n'avez
rer sur les différentes pistes. Je te laisse Pa- jamais encore vues : 50 paires de lignes
trice prendre la suite. par centimètre, la matrice de reconstruc-
tion en 1024 et 2048. Cela s'accompagne
de détecteurs de 0,25 millimètre, deux fois
plus fin que ce qu'on faisait jusqu'à pré-
Patrice COUDRAY (Canon) sent. La médecine de précision, l'imagerie
de texture sont de nouvelles notions que
Merci François. Juste en introduction de le Precision permet de développer afin
ma présentation, on sait tous, depuis ce d’améliorer la détection, la caractérisation
matin qu’il y a plusieurs intelligences arti- et la prévention.
ficielles, il n’y en a pas qu'une, il y en a de
plusieurs types. Nous savons tous que cela Toutes ces nouvelles notions sont rendues
ne va pas se faire comme ça du jour au possible grâce à la finesse du détecteur.
lendemain, et qu’il y aura plusieurs phases Cependant, cette nouvelle génération de
dans le déploiement de l'intelligence arti- détecteurs nécessitera de réduire encore
ficielle. la dose, un des objectifs du DLR.

Ce que je voulais juste vous démontrer, Le huge data devra être accompagné, sim-
c'est tout d'abord que nous n'avons pas plifié, les nouvelles modalités vont générer
le choix, parce que les grosses modalités non pas des centaines, mais des milliers
nous poussent, nous les constructeurs, d'images à chaque examen.

Chapitre II - Le Deep Learning, un développement inéluctable - 141


Nous avons déjà une so-
lution disponible qui s'ap-
pelle AICE, objet de notre
communiqué de presse du
10 avril. Cette solution est
basée sur du deep lear-
ning reconstruction. Je ne
reviens pas sur cette tech-
nologie d’apprentissage
du réseau de neurones
que Monsieur Pr Chang a
très bien expliqué ce ma-
tin. C'est une boîte un peu
noire, mais peu importe.
dans deux semaines, nous vous montre-
L'idée essentielle est d'obtenir un signal rons les premiers résultats d'intelligence
sur bruit le plus pur possible, le rapport artificielle dans nos images.
signal sur bruit idéal. Le Saint Graal est
d'acquérir un signal pur, sans bruit. Dans Il est légitime d’exiger des temps d’ac-
cette condition, vous pouvez espérer des quisition courts en IRM. Vous voyez ici un
images qui ont des résolutions spatiales temps d'acquisition de 1min 45. Cette
extrêmement fines, des résolutions tem- image est acquise en haute résolution,
porelles optimisées, des temps d'acquisi- en matrice 1024, mais malheureusement,
tion qui deviennent bien plus rapides. Le plus on augmente la matrice, et plus on a
DLR va servir à se rapprocher du signal sur du bruit. Afin de limiter l’influence du bruit,
bruit idéal de 100 %. l’utilisateur rajoute des acquisitions, ce qui
rallonge sensiblement les temps d’acquisi-
De plus, le DLR, le deep learning recons- tion. Le DLR a pour objectif de raccourcir
truction, est beaucoup plus rapide que les temps d'acquisition et d’augmenter le
n'importe quelle technique itérative dis- rapport signal sur bruit.
ponible sur le marché aujourd’hui.
Nous avons déjà aujourd'hui un IRM de
Le DLR peut s’appliquer également à l'IRM. recherche, en France, à Bordeaux, qui est
En IRM, le logiciel va apprendre à identi- équipé du DLR. L'idée est d'utiliser des
fier le bruit de manière spécifique, l’isoler images d’IRM 3T et de challenger la Quali-
et le soustraire de l'image. C'est nouveau, té Image des 7 Tesla.
parce que les logiciels classiques retirent
un peu tout, y compris du signal utile. Si Je laisse la main à Cyril qui va vous parler
vous venez au congrès de l'ISMRM 2 à Paris du post traitement.
2
International Society For Magnetic Resonance in Medicine.

142 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


Cyril DI GRANDI (Canon)

Bonjour à tous. Je travaille pour Olea Me-


dical, nous développons des solutions
avancées de post-traitement en IRM et en
scanner. Voici ce que l’on est capable de
faire aujourd'hui en deep learning. On ré-
alise de la segmentation et de la caractéri-
sation d'AVC, tout en automatique. Nous
proposons également la classification, et
la segmentation automatique des tumeurs
cérébrales, la segmentation du cartilage
dans le genou.

Je suis informaticien, donc c'est un peu ma


faute si on discute de cela aujourd'hui. Je
voulais vous rassurer, le machine learning
existe depuis très longtemps. Cela fait dix
ans que je travaille avec vous, le deep lear-
ning pourrait me permet aujourd'hui de me
dire : « chouette, nous allons pouvoir rem-
placer les radiologues. » En fait, ce n'est pas
vrai du tout. Je voulais vous rassurer.

Ce qu'on essaye de faire en informatique,


c'est vous proposer des outils pour gagner
du temps, vous permettre de mieux travail-
ler. Nous pouvons vous aider à améliorer
le triage des patients, à accélérer la lecture
des cas, et comme on le dit tous depuis
ce matin, finalement vous faire gagner du
temps précieux sur des tâches qui sont ré-
pétitives, pour lesquelles vous n'avez pas
de valeur ajoutée, pour vous permettre de
vous concentrer sur votre vrai métier. Et
surtout pouvoir gagner en reproductibilité
et en précision.

Merci à tous. n

Chapitre II - Le Deep Learning, un développement inéluctable - 143


II
Christophe LALA
GE

L'industrie du dispositif
médical a un rôle central
à jouer *

B
onjour à tous. Merci pour jourd'hui, met un tampon en intelligence ar-
votre invitation. C'est très tificielle à peu près sur tout.
agréable d'être ici. Je vou-
drais justement rappeler Je vais juste essayer de vous dire ce que
le rôle de l'industrie dans nous sommes en train d'essayer de faire.
cette mouvance de l'artifi- Cette page veut dire quoi ? Cela veut dire
cial intelligence, ou de l'in- que c'est ça notre défi à nous tous, industries
telligence artificielle. Puisqu'on a beaucoup y compris, c'est-à-dire qu'on le voit, il y a une
parlé ce matin de GAFA 1, on va essayer de accélération des coûts. Il y a une nécessité de
vous convaincre que nous, l'industrie du dis- maîtrise des dépenses de santé. Il y a un dé-
positif médical, avons un rôle central à jouer. ficit de professionnels de santé. On voit bien
que l'on est à un moment où on cherche des
Je vais essayer de vous préciser un peu solutions pour essayer de sortir par le haut.
quelle est la stratégie du Groupe General Puisque si on continue comme ça, avec la
Electric, et en particulier de la division san- forte demande dans les pays matures, on va
té. Je vais passer assez rapidement sur les à l'explosion. Sur le problème d'accès on sait
pages que vous avez vues tout au long de la bien que dans les pays émergents, et cela a
journée. Ici, ce sont les conditions qui déter- été rappelé aussi, il y a pratiquement six mil-
minent l'accélération de l'intelligence artifi- liards de personnes sur la terre qui souffrent
cielle. Vous l'avez dit, Docteur Chang, ce ma- d'un déficit d'accès aux soins.
tin, et encore cet après-midi. L'intelligence
artificielle existe déjà depuis vingt ans, et Le dernier point, je l'ai évoqué rapidement,
il y a un phénomène de marketing qui, au- c'est la qualité : de quelle manière on peut

*
Retranscription de l’intervention orale
1
Google, Apple, Facebook, Amazon.

144 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


contenir la dépense, tout en essayant de différents épisodes de santé du patient, un
garantir et d'améliorer la qualité des soins. chemin qui nous permette d'être prescriptif
C'est un peu ce que cette page veut dire. à terme, et d'essayer un jour peut-être, de
On pense que, comme par définition, l'intel- n'avoir jamais la maladie qui se déclare.
ligence artificielle est un élément de rupture, Stratégiquement, on s'appuie sur deux
on a toutes les conditions pour y arriver. grands piliers. Le premier pilier de dévelop-
Je vais parler de plusieurs espaces, mais pement de l'intelligence artificielle, c'est l'in-
surtout, on frastructure au
a beaucoup sens large. On
couvert celui l'a évoquée au-
du médical. Il jourd'hui, c'est
y a aussi l'es- ce que l'on fait
pace système dans nos pro-
qui est à cou- duits, dans nos
vrir. J'en ai équipements,
parlé un peu. dans nos ser-
Ici, ce sont vices. Mais cela
des choses touche aussi
que vous sa- les structures :
vez déjà : on a un peu
on est au mi- parlé de l'hôpi-
lieu de la page. On est en train de se propa- tal, mais il y a des gisements d'économies à
ger vers le prédictif, et un jour le prescriptif. faire dans la prise en charge de l'hôpital, et
Très rapidement, je passe sur cette page, là c'est plutôt le process.
tout le monde connaît.
Ensuite, c'est de quelle manière les machines
On a aussi parlé de médecine de précision. se parlent et comment on peut par exemple
Ici, vous avez une idée de ce que, pour notre traiter le domaine des équipements médi-
groupe, veut dire cette médecine de préci- caux, de la même manière qu'on traite les
sion, dans les trois étages que sont : le dia- moteurs d'avion et les avions en général.
gnostic, le traitement et le suivi du patient. C'est-à-dire que pour vous, cela voudrait
À chacune de ces étages, on pense que la dire que jamais vous ne voyez une machine
meilleure façon d'essayer de conduire un en panne. On est plutôt dans l'Internet des
diagnostic, un traitement et un suivi per- objets.
sonnalisé, c'est d'essayer bien sûr d'avoir
cette précision dans le geste, cette préci- Ces trois espaces : organisationnels, pro-
sion de diagnostic, et bien sûr l'accumula- duits et Internet des objets, c'est le premier
tion de données, bien que trivialement, on axe. Je ne vais pas revenir là-dessus, c’est
a les moyens d'essayer de trouver dans les quantifications automatiques, c’est procé-

Chapitre II - L'industrie du dispositif médical a un rôle central à jouer - 145


dures automatisées, c'est tous les softs qui Dans tous nos développements, on regarde
existent et qui vont être de plus en plus per- trois cibles : le patient, le système – j'ai dit ra-
formants. pidement le système de santé, je vous don-
nerai un exemple pour illustrer mon propos
Sur l'autre axe, que j'ai appelé parcours du – et bien sûr les professionnels de santé, mé-
patient, c'est difficile de le nommer, mais decin ou paramédical.
c'est l'axe où on voit arriver les données de
masse. C'est là où très probablement les Sans revenir sur tout ce qui a été dit ce matin,
grands acteurs de l'informatique vont vou- si on se focalise maintenant un peu plus sur
loir se positionner. C'est dans l'ensemble de le domaine de l'imagerie. Pour vous donner
la vie du patient, dans l'ensemble de ses épi- une idée de ce que l'on développe sur nos
sodes, comment je collecte l’entièreté des IRM, puisque l'IRM est un élément qui est
données pour essayer, là aussi, d'avoir une beaucoup consommateur de temps en ma-
image la plus standardisée possible et donc tière de protocolisation des différents para-
être dans le prédictif. mètres, c'est un peu opérateur dépendant.
On est en train aujourd'hui d'introduire un
Ici sur ce terrain, on a des embryons de logiciel qui permet de regarder sur un en-
produits, de programmes, mais il y a un im- semble de plate-formes communes de notre
mense travail à faire. Et là, bien évidemment, marque, voire de marques concurrentes, de
la data n'est plus propriétaire, elle est parta- quelle manière on fait le lien entre la taille
gée par toute l'industrie, par tous les diffé- du voxel, les paramètres et les différents in-
rents segments d'acquisition des données. tervenants. On va enregistrer ces données
Là, la notion de clean data est critique, ce qui cumulées, on va les regarder dans le temps,
veut dire que nous ne sommes pas encore on va mettre une couche, évidemment de
au bout du chemin, mais on avance progres- machine learning sur ce système. Et à terme,
sivement. selon l'indication la machine programmera
l'entièreté des protocoles en
un clic, et finalement la même
chose sur le post-processing, là
aussi en imagerie cardiaque.

Vous le savez, Arterys, avec


YS Works, on est capable au-
jourd'hui d'aller travailler dans
le cloud, d'aller pousser des
données dans le cloud, faire du
prédictif et de cette manière, on
est dans le produit. Cela existe,
cela va se développer et c'est

146 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


relativement facile, même si c'est un peu construire le futur, parce qu'on sait de quoi
opérateur dépendant, j'y reviendrai. on parle. Sinon, il n'y aura pas de sources
de financement, et on sait bien que ce va-
Les autres axes, on a parlé entourage auto- lue-based healthcare, c'est la clé. Quel est
matique. Tous ceux ici qui comme moi font l'impact pour le patient ? Quel est l'impact
ce métier depuis longtemps, mais de l'autre pour le système de santé ? Si l'impact est im-
côté de la barrière, combien de fois vous portant, le remboursement sera important.
avez repris des segments, combien de fois C'est le monde moderne dans lequel on va
vous vous êtes reculés des images. Ce n'est rentrer.
pas tout à fait terminé, et pourtant, cela fait C'est de cette manière que nous appréhen-
très longtemps. Nous, les sociétés d'image- dons évidemment le développement de
rie et c'est mon propos, sommes natifs pro- nos produits, qui est critique. Parce que la
cessing, et pour nous le traitement de la data qualité de la donnée vient quand même du
c'est naturel. On voit bien que pour réussir, produit, et ensuite le traitement de celle-ci,
il faudra bien arriver à tirer la quintessence avec tout ce que l'on a évoqué très brillam-
d'un business model. ment ce matin. Je suis très heureux d'avoir
pu participer à cette discussion.
Je suis désolé, je suis le mauvais dindon de Évidemment avec le drapeau General Elec-
l'histoire, mais on a parlé de financement tric, j'ai un peu de mal à parler de la France,
tout à l'heure. Et même si on parle beau- mais je vais quand même le faire. On a au-
coup d'Amazon, de Microsoft, des GAFA jourd'hui des ingénieurs basés à Buc, vous
en général qui investissent énormément, le savez, à côté de Versailles. On a dévelop-
je peux vous assurer qu'ils n'investiront pas pé cette petite start-up qu'on avait rachetée
très longtemps, s'il n'y a pas une monétisa- à Strasbourg qui faisait du management de
tion de la pratique, désolé pour le franglais la dose en x-ray. C'est un point d'entrée très
anglais. C'est-à-dire qu'aujourd'hui quand important pour le développement de l'intel-
on discute avec le régulateur, il rêve de l'in- ligence artificielle. On a créé la GE Foundry.
telligence artificielle, pour une raison simple.
C'est que s’il pouvait essayer d'annuler le tra- Comme le Docteur Chang le rappelait tout
vail du radiologue, pour lui, la monétisation à l'heure, la source clé, c'est le data scientist.
est de l'ordre de zéro. Avec des comporte- Un data scientist, c'est celui qui est capable
ments de cette manière, le financement sera de déterminer les indicateurs qui vont per-
un sujet. mettre d'obtenir les résultats attendus, et qui
font le lien avec les données. Cela n'a rien de
Je pense qu’il faut s'intégrer dans un éco- trivial. C'est facile à dire en une phrase, mais
système, et c'est là où on doit travailler en- c'est très compliqué. Ces data scientists,
semble. C'est pour cette raison que je dis grâce à nos écoles grâce à notre éducation,
que le dispositif médical, les sociétés d'ima- effectivement en France, il y a un savoir-faire
gerie et vous, ensemble, c'est à nous de qui est reconnu dans le monde, et on s'ap-

Chapitre II - L'industrie du dispositif médical a un rôle central à jouer - 147


puie dessus. Je pense que c'était important
de le préciser.

Pour terminer, en conclusion, on ne fera


rien tout seul. On ne fait déjà rien tout seul.
On travaille avec, je l'ai dit, Amazon sur le
cloud. Parce qu'aujourd'hui monter un cloud
France pour nos équipements, c'est 500 mil-
lions de dollars à l'instant T. Je peux vous as-
surer que faire grandir, entretenir un cloud,
assurer sa sécurité, juste la climatisation
d'un cloud vous ne pouvez pas imaginer…
On ne peut pas lutter contre ça, mais c'est
le cloud, c'est l'hébergement de la donnée.
On travaille avec ces gens. On travaille avec
Apple sur un IOS qui va porter un outil qui
va permettre du deep learning sur les smart-
phones. On travaille évidemment avec des
grands sites académiques. On travaille avec
vous. C'est un travail commun, mais c'est la
suite logique de la révolution digitale.
Ce qui est le cœur central du digital, c'est
que c'est un miroir de ce que nous faisons
tous. Il faut savoir se parler. On ne peut tra-
vailler que sous la forme de consortium. Ce
que je vais dire, ce n'est pas nouveau : le dé-
veloppement des scans, des IRM, on l'a fait
avec vous. On met la technologie à la dispo-
sition de résultats dont vous nous dites s'ils
sont probants ou pas pour le patient. Cela
continuera avec l'intelligence artificielle. Elle
existe aujourd'hui. Elle est en voie d'accé-
lération, mais cette histoire de Brian Body,
c'est-à-dire tout ce que j'ai montré sur ma
première page, le cloud ou les algorithmes,
c'est indispensable. Mais ce qui est indis-
pensable aussi c'est la connaissance du do-
maine. Je vous remercie. n

148 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


Chapitre II - L'industrie du dispositif médical a un rôle central à jouer - 149
II
Antonin MARCAULT
PHILIPS

L'Intelligence Artificielle :
une révolution qui se base
sur trois piliers *

J
e souhaite commencer groupe est matérialisée notamment par nos
par remercier la FNMR investissements en recherche et déve-lop-
pour son invitation à pou- pement dans le domaine de l'image, et
voir présenter rapidement plus particulièrement dans le domaine de
ce que fait Philips en in- l'informatique de santé et de l'intelligence
telligence artificielle. J'en artificielle. Aujourd’hui Philips dépense
profite aussi pour excuser 10 % de ses revenus en R&D, c’est-à-dire en-
David Corcos, président de Philips France, viron 1,8 milliard d'investissements chaque
qui n'a pas pu se joindre aujourd'hui, qui année. 60 % de cette somme est dédiée à
aurait aimé être là. la recherche et au développement de l'in-
formatique de santé et de l'intelligence
Quelques mots d’introduction sur Philips. artificielle. Ce qui fait que nous sommes
Vous le savez sûrement, le groupe a pris la une société du dispositif médical qui se
décision de se recentrer exclusivement et transforme et qui va vers plus de logiciels,
nous concentrer à 100 % sur la santé, en plus d'informatique, plus d'intelligence ar-
désinvestissant nos autres activités telles tificielle.
que l'audiovisuel, la Hi-Fi et plus récem-
ment l'éclairage. En avril dernier, Philips a fait le choix de
s’inscrire dans le plan IA for humanity qui
Comme vous le savez l'image est au cœur a été dévoilé par le Président Macron et
de l’ADN de Philips. Cela fait plus de cent qui définit le secteur de la santé comme
ans que nous travaillons en imagerie en un secteur prioritaire dans le développe-
santé avec une volonté d’innover constam- ment de l'intelligence artificielle en France.
ment. D’ailleurs, cette transformation du Monsieur Chang, vous l'avez répété tout à
*
Retranscription de l’intervention orale

150 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


l'heure, l'un des avantages qu'a la France, portant et beaucoup de pépites en France.
ce sont ses cliniciens, ce sont ses data scien- Nous avons lancé en juillet dernier un
tists, mais c'est aussi des sources de don- fond d’investissement de 50m€ aux côtés
nées qui sont de plus en plus structurées. de CapDecisif Management et BPI France
destiné à investir dans les meilleurs pro-
Dans le cadre de ce plan IA for humanity, jets en e-santé, santé et intelligence artifi-
le groupe Philips a décidé de localiser en cielle. D’ailleurs, certains d’entre vous font
France un centre d'expertise mondial en peut-être partie de board scientifiques, ou
recherche en intelligence artificielle, qui même sont fondateur de start-ups.
est basé à Suresnes. C'est un plan d'inves-
tissement de Philips sur cinq ans, qui a vo- Pour répondre à la question principale de
cation à construire et à co-construire avec ce séminaire, l'intelligence artificielle avant
vous, et avec l'ensemble des acteurs fran- d‘être une révolution, c'est une chance :
çais et internationaux, les prochains algo- pour vous, professionnel de santé, pour
rithmes d'intelligence artificielle en santé, nous, et pour les patients.
principalement en imagerie médicale et
en génomique. C'est une révolution qui se base sur trois
piliers. Le premier pilier, c'est une chance
Comme vous avez pu le voir dans les pré- technologique et clinique. Nous l'avons
sentations précédentes, l'imagerie s’en- vu, nombre d'algorithmes permettent de
richie de plus en plus des données de faciliter le workflow du travail du radio-
biologie et de génomique. On parle de logue, permettant une meilleure visualisa-
radiomique. Cela faisait sens pour nous tion et caractérisation des images. Je crois
de localiser les meilleurs experts français beaucoup que la force des industriels de
en France sur ces thématiques au sein d’un dispositif médical est d’être avec leurs
centre d’expertise mondiale en IA. équipement en première ligne à vos côtés
pour récolter de la donnée. Il faut que l'on
La troisième dimension de ce centre d'ex- soit également à vos côtés pour pouvoir
pertise mondial en intelligence artificielle, l'exploiter. C'est le sens de ce centre d'ex-
c'est l'écosystème. Il semblait indispen- pertise mondial en intelligence artificielle.
sable pour nous que ce centre collabore C'est le sens aussi de l'ensemble des dé-
avec les meilleurs acteurs de l’écosystème veloppements que nous faisons, à la fois
IA et santé en France que ce soit les éta- sur nos équipements et sur nos logiciels.
blissements hospitaliers, les cabinets pri-
vés, les instituts publics ou les PME et les Il faut savoir que l'intelligence artificielle ce
startups. A travers ce centre, Philips s’en- n'est pas nouveau. Ce n'est pas nouveau
gage à investir et à accompagner les pro- chez Philips, ce n’est pas nouveau dans le
jets les plus prometteurs de la French Tech monde. On parlait de deep learning tout
en santé. On voit qu'il y a un potentiel im- à l'heure, l'apprentissage profond a été

Chapitre II - L'Intelligence Artificielle : une révolution qui se base su trois piliers - 151
créé en 1965. Les premiers réseaux neu- patient et au professionnel de santé tel
ronaux c’est 1943. La grande nouveauté qu’Illumeo. Je me permets à ce stade de
aujourd'hui, c'est que nous disposons des remercier le Professeur Chang qui vous a
outils pour pouvoir exploiter ces données : présenté et détaillé la solution Illumeo so-
puissance de calcul, stockage, données de lution qui a été co-développé avec Philips,
plus en plus structurées et de masse. et qu'on intègre dès à présent à l’environ-
nement de travail du radiologue. Voici de
La deuxième chance, le deuxième pilier, l'intelligence artificielle concrète, acces-
c'est une chance organisationnelle. L’in- sible aujourd’hui facilitant le quotidien des
telligence artificielle est une formidable radiologues. Cela permet de bénéficier
opportunité pour améliorer l’efficience d'un contexte clinique amélioré du patient,
des cabinets que nous parlions d’équi- et permet aussi de prioriser le workflow et
pements, de flux de patients ou d’orga- les listes de travail pour prioriser les cas les
nisation interne. Chez Philips, nous avons plus urgents.
développé plusieurs outils notamment
PerformanceBridge, qui permet à la fois de Je souhaitais également souligner, en ce
suivre les performance d’un plateau tech- sens, l'accord qui a été conclu entre la
nique mais qui permet aussi de suivre le FNMR et l‘UNCAM 1 sur la pertinence des
flux des patients soins. C'est aussi
et manipulateurs une chance pour
afin d’identi- le système de
fier les goulets santé et un pre-
d’étranglement mier pas vers un
et d’optimiser les système basé sur
flux. Ces outils la qualité.
sont de plus en
plus prédictifs, Lorsque l'on
c'est-à-dire qu’ils parle de ra-
peuvent anticiper le besoin par exemple diologues libéraux, on parle aussi d’en-
en manipulateurs tout au long des se- trepreneurs. Je parlais précédemment
maines. d'écosystème ouvert pour faire émerger
l’innovation au service des patients et des
Le troisième pilier, c'est une chance éco- professionnels de santé. Pour permettre
nomique. Le système actuel s'oriente vers l’émergence de projets de co-création
un système de santé qui repose de plus en intelligence artificielle, il essentiel que
en plus sur la valeur, le value base care. On chaque acteur se dote des derniers outils.
se dirige vers de plus en plus d'efficience Aujourd’hui, lorsqu’on parle d’outils en
avec des outils qui facilitent le workflow intelligence artificielle la plupart de ces
et qui s’adapte au contexte clinique du derniers sont des outils open source ac-
1
Union Nationale des Caisses d’Assurance Maladie.

152 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


cessibles à chacun d'entre vous, à chacun pour pouvoir accélérer vos solutions, et ac-
d'entre nous, si on est en capacité de les céder à l'ensemble de l'expertise clinique
exploiter. et informatique, de Philips et de nos inter-
venants externes à travers le monde.
La décision prise par Philips est la création
d’une plateforme commune d’intelligence Afin de conclure, l'intelligence artificielle
artificielle afin de rassembler les meilleurs est une chance pour vous tous, pour nous
outils, bases de données disponible pour tous. Elle ne peut pas se faire chacun dans
l’innovation en santé. Ces outils, on les a son coin. Il est indispensable de travailler
verticalisés en santé, on les a mis à dis- en écosystème ouvert. Il faut créer en-
position d'une plate-forme qui s'appelle semble, mais pour cela il nous faut des
HealthSuite In-sights, qu'on a révélée à outils et des plateformes qui soient dis-
la Paris Healthcare Week cette semaine. ponibles pour chacun. C’est le parti pris
Elle a vocation à être une plate-forme de de Philips afin de faire progresser l’IA en
co-création entre les data scientists, qu'ils radiologie clinique au service d’un radio-
soient internes chez Philips, qu'ils soient logue augmenté par la technologie. Je
chez d'autres industriels ou qu'ils soient vous remercie de votre attention et reste
dans des start-ups ; les cliniciens que vous disponible pour vos questions. n
représentez, qu'ils soient privés ou qu'ils
soient publics. Ces outils sont à disposi-
tion sur cette plate-forme afin de co-créer
ensemble les algorithmes qui serviront à
votre pratique clinique demain.

Si on veut créer des outils d'intelligence


artificielle pertinents, il faut que l'on tra-
vaille sur une plate-forme commune qui
permettra de les valoriser et les diffuser.
Pour résumer cette plateforme, j’aime bien
faire l’analogie avec l’App store d’Apple.

Au titre de dernier mot, j’aimerais profiter


de cette assemblée pour vous présenter
un programme d'accélération interna-
tional qui s'appelle AI for radiology dans
lequel chacun d'entre vous créateurs de
start-up, vous pouvez vous inscrire. Il est
structuré de telle façon qu’il permet de tra-
vailler avec les meilleurs experts de Philips,

Chapitre II - L'Intelligence Artificielle : une révolution qui se base su trois piliers - 153
II
Jean-Baptiste LEPRINCE
SIEMENS HEALTHINEERS

L'I. A., une opportunité


pour un modèle préventif
à coût raisonnable *

M
erci de votre in- vingt ans, s'est créée sur la base de dé-
vitation. Je suis couvertes scientifiques. Je pense bien sûr
Jean-Baptiste Le- aux rayons x. Et elle n'a eu de cesse que
prince, Directeur de s'adapter à des évolutions et des in-
Services chez Sie- ventions scientifiques. La plus significative
mens Healthineers. qui me vient à l'esprit, c'est bien sûr la dé-
Difficile de parler en couverte de la résonance magnétique nu-
fin de journée comme ça. Pardonnez-moi cléaire, et ses applications à l'imagerie, qui
d'avance, si vous avez l'impression que je ont été faites dans le début des années 70.
ne fais qu'enfoncer des portes qui ont déjà
été ouvertes. 2) Le second point, et cela a été vu lon-
guement aujourd’hui, c'est que l'intelli-
On a évoqué l'intelligence artificielle, et je gence artificielle n'est pas un fait nouveau.
ne vais pas rentrer dans sa définition. Je Au-delà de ses conceptions théoriques,
tenterais de vous présenter notre point de en pratique, moi-même, je me souviens,
vue, en tout cas de son impact sur la radio- jeune étudiant dans les années 90 à l'École
logie en particulier. Polytechnique, j'avais des camarades qui
réalisaient des projets de programmation
En préambule, si je devais balayer un tout sur les réseaux neuronaux. Nous-mêmes,
petit peu de contexte, deux éléments me la société Siemens Healthineers, nous fai-
viennent à l’esprit : sons depuis 1996 de la recherche et du
développement d'applications sur le ma-
1) Le premier, c'est que la radiologie par chine learning. C’est plus de 400 brevets
son essence même, depuis plus de cent- aujourd'hui. Le deep learning, plus récent,
*
Retranscription de l’intervention orale

154 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


s’est développé depuis 2012, nous avons un aspect qui va arriver après beaucoup
déposés plus de 75 brevets à ce jour. d'autres aspects de révolution et de chan-
gement de notre vie. Je ne rentrerai pas
La question, face à ces éléments, n'est donc pas plus dans le côté rupture.
donc pas vraiment de savoir : est-ce que
c'est là ou est-ce que ce n'est pas là ? Notre vision, c'est plutôt que l'IA va chan-
Mais c’est plutôt : quelle est la nature de ger profondément la radiologie. Jusqu'où ?
la transformation que peut apporter l'in- C'est un vrai sujet de débat, mais elle va
telligence aujourd'hui ? Dans ce cas, on va beaucoup apporter à la radiologie, et la
se poser deux grandes questions : rupture radiologie va s'adapter comme elle a su le
ou changement faire, aux nom-
profond ? breuses innova-
tions et inven-
Si l'on regarde tions qu’elle a
l'axe rupture, connues.
un sujet que la En regardant
presse s'est ap- donc à travers
proprié, c'est dé- l’axe du change-
licat, parce qu'il ment profond,
s'est accompa- on peut distin-
gné de mythes guer différents
millénaristes et niveaux.
de fantasmes.
On entre, de Un premier ni-
mon point de vue, plus dans ce que Mi- veau a été largement débattu aujourd'hui :
chel Serres appelle la troisième révolution l’adaptation des compétences et des pra-
anthropologique majeure de l'humanité, tiques des nouvelles générations. En parti-
après l’invention de l'écriture et l'imprime- culier le plan formation est un plan impor-
rie : la révolution numérique. Ce champ est tant. En soi il n'est pas simple, puisqu'il va
très vaste. Il est souvent représenté à travers s'accompagner, avec la révolution numé-
les iPhones qui, en 2007, ont profondément rique, de défis générationnels. Après les
changé nos usages et nos vies. Cet axe peut générations X et Y, Kofi Annan 1 parlait de
rapidement nous amener dans un débat génération d'héritiers sans héritage ; face
philosophique autour de la fin du travail. à des gens qui vont avoir des nouvelles as-
pirations professionnelles et personnelles.
Je rejoins les propos du Docteur Chang qui Ces sujets sont majeurs et font partie des
est que la radiologie, en tout cas puisque défis de l’intelligence artificielle en radio-
mon propos traite de la radiologie, est logie.
1
Secrétaire général des Nations Unies (1997 - 2006)

Chapitre II - L'Intelligence Artificielle, une opportunité pour un modèle préventif à coût raisonnable - 155
Ensuite, il y a un second niveau, plus pour reconnaître la valeur qui provient
macroscopique, que je vais tenter de dé- de ces prestations.
crire dans les quelques minutes qu’il me
reste, il pourrait mériter beaucoup plus. Voilà notre vision, en quelques mots, que
je voulais vous présenter.
Je commencerai par une sorte de conviction
évidente, ou en tout cas de conviction de Pour nous, il s'agit d'une opportunité ; elle
bon sens : aujourd'hui quand on regarde la nécessite beaucoup de travail, beaucoup
structure de coûts de notre système de san- de chantiers à mener, un cadre institution-
té, les besoins en volumétrie qui vont avec, nel à poser mais c'est un enjeu de santé
et la vision que l’on a sur ce Graal d’une mé- publique.
decine préventive, la différence de volumé-
trie est telle, qu'il est inenvisageable d'avoir Nous vivons là, fondamentalement, une
la structure de coûts du modèle curatif d'au- grande opportunité pour la radiologie.
jourd'hui pour faire du préventif.
Merci beaucoup. n
L’opportunité immense qui s'ouvre grâce à
l'intelligence artificielle, c'est cette capaci-
té de pouvoir rentrer dans un modèle pré-
ventif à une structure de coût raisonnable
pour tous.

On entre alors dans des enjeux de san-


té publique, qui vont s'accompagner de
nombreuses opportunités puisqu'on est
en train de parler de nouvelles prestations
qui ont besoin de cadres :
• Le premier, nous l'avons vue, c'est l'ac-
cès aux données qualifiées. C'est un vrai
grand sujet, technique, technologique et
juridique.
• Le second consiste à clarifier tout le dé-
bat juridique sur la responsabilité. On l'a
évoqué aujourd’hui. Notre vision c'est
qu'effectivement il s’agit d’un sujet com-
plexe qui va nécessiter un large débat au
sein de notre société.
• Et le troisième, c'est la création d'un en-
vironnement, de codifications associées,

156 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


Chapitre II - L'Intelligence Artificielle, une opportunité pour un modèle préventif à coût raisonnable - 157
III - Les échanges
III - LES ÉCHANGES
Débat avec la salle

T
Tout au long de la journée, Paul CHANG
des échanges ont eu lieu Je vais essayer d’extrapoler la question.
entre les intervenants et les Vous avez absolument raison. Si je com-
participants au séminaire. prends bien votre question, vous dites
Nous avons synthétisé 1 que, comme je l’ai mentionné, le change-
ce débat en distinguant ment fondamental de paradigme de l’ap-
les interventions du Pr Paul prentissage automatique au deep learning
Chang qui sont reproduites intégralement. est guidé par les données. L’algorithme
en soi est initialement agnostique et mo-
Jean-Philippe MASSON difie, comme c’est le cas pour toute mé-
J'avais prévu une question pour Monsieur thode statistique, les paramètres, ou bien
Besnier qui expliquait que l’IA risquait la prévision de l’hyperplan se fonde sur les
d'entraîner une dégradation de la relation données. Vous avez absolument raison :
entre le médecin et le patient. Je me suis l’un des problèmes de cette approche est
rendu compte qu'en fait, les intervenants le fait que les données qui l’alimentent
successifs qui lui ont succédé ont répondu doivent être annotées et interprétées.
en disant : « Non, pas du tout. L’IA va au C’est l’un des principaux challenges que
contraire augmenter le temps pour le pra- pose l’application du deep learning au-
ticien de façon à ce qu'il soit plus proche jourd’hui, en matière de radiologie. Voici
de son patient. » Je crois que c'est une un bon exemple qui illustre ce problème :
chose que nous défendons
déjà depuis très longtemps.
Différentes interventions
montrent que c'est compliqué
mais surtout que tout projet
d’IA qui sera mis en place de-
vra disposer d'un accompa-
gnement éthique fort pour évi-
ter certaines dérives.

Question : Les données et leur


intégration sont plus impor-
tantes que l’algorithme ?

1
Sous la responsabilité de la rédaction

160 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


il y a quelques années, IBM a dépensé maîtrisée par l'intelligence artificielle
1 milliard de dollars pour acheter une pe- dans laquelle le compagnonnage éthique
tite entreprise d’imagerie médicale basée ou le dialogue avec le médecin passerait
à Chicago, en premier lieu pour alimenter au second plan ?
Watson et ses initiatives de deep learning
avec des données vérifiées, interprétées, Jean-Michel BESNIER
de manière à former et valider les systèmes. Oui. Je pense que la bonne question est :
Malheureusement, ils ont découvert que la que veut au fond le patient ? Je crois que
plupart des archives médicales n’étaient le patient est comme nous tous, tiraillé
pas annotées. Nous stockons des images, toujours entre des comportements antino-
sans les relier aux résultats, à la vérité. Voilà miques. Il accepte lorsqu'il est en situation
le gros problème. ll existe des approches de détresse d'être considéré comme un
intelligentes où l’intelligence artificielle simple organisme livré à une médecine
peut être employée comme outil pour ex- dont il espère qu'elle sera de plus en plus
traire la vérité des archives, mais nous ver- technique. Il sait que la fiabilité est de plus
rons cela plus tard. Si je comprends bien en plus du côté des machines. Donc, il est
votre question, vous devez auto-amorcer prêt à se laisser élémentariser à n’être plus
ces algorithmes d’apprentissage auto- que cet organisme. D'un autre côté, il ai-
matique par des données vérifiées ou merait bien que l'on tienne compte de ce
interprétées et c’est justement là l’un des qui est irréductible en lui par rapport à la
Catch 22, l’un des principaux problèmes machine et par rapport à l'animal. Il est un
dans l’adoption de ces technologies, car la être qui est doté d'une fonction symbo-
plupart de nos données ne sont pas véri- lique.
fiées, puisque l’interprétation est effectuée Sa fonction symbolique consiste d'abord
par des humains et qu’il ne reste pas de dans le fait que c'est un être parlant dont
traces précises de l’interprétation. La plu- le langage lui permet de dire ce qui n'est
part des vérités que nous obtenons par pas, de dire le futur, de dire le passé, mais
des systèmes médicaux sont ensevelies c'est un être d'histoire. C'est un être qui a
sous des explications « non-narratives », une intelligence qui lui permet en général
comme nos chemins critiques, qui sont de résister aux automatismes. Je suis sidé-
très difficiles à extraire par des moyens nu- ré de voir que cette acception du concept
mériques. d'intelligence est complètement passée à
la trappe aujourd'hui. L'intelligence, c'est
Question : Ce n’est pas tant l’intelligence d'abord et avant tout la possibilité de lut-
artificielle qui inquiète, mais plutôt l'hu- ter contre les instincts et de lutter contre
main. Finalement, que veut le patient ? Ne les automatismes des instincts. Un être hu-
sommes nous pas dans des sociétés où main est un être qui a une vocation a une
nous voulons être rassurés ? Ne voulons- certaine inutilité, au désintéressement, etc.
nous pas une médecine complètement C'est cette composante-là de l'être hu-

Chapitre III - Les échanges - Débat avec la salle - 161


main qui est un être à dimension symbo- tive et que pendant ces dix ans de perdus,
lique. L'être humain un être qui relève de la patiente a perdu une chance ? Est-ce
l'animal et de la machine. que l'on ne peut pas accélérer la réflexion
Si la médecine se laisse de plus en plus sur l'introduction de ces nouvelles tech-
accaparer par l'intelligence artificielle – niques et d'autre part y mettre les moyens
elle le fait et c'est normal puisqu'elle veut puisque l'on sait par exemple que dans
l'efficacité – elle risque de perdre cette di- les nouvelles propositions numériques, le
mension de sens qui reste quand même secteur libéral est totalement exclu ?
l'aspiration du patient. Concrètement, vos
patients sont de plus en plus ulcérés de David GRUSON
voir qu'ils entrent de moins en moins dans Notre conviction première est que le pro-
une relation dialoguée avec vous. Ce sont blème éthique principal, c’est l'absence ou
d'abord des écrans, des images qui s'inter- l'insuffisance du recours au numérique et
posent entre vous et eux. Ce qui fait que le du partage des données. Une fois que l'on a
patient lambda ressort de chez son méde- posé cela et que l'on arrive à faire admettre
cin en général en disant : « Il ne m'a même cela, on va voir comment se positionnera le
pas regardé. Il n’a regardé que ses écrans. Conseil constitutionnel nationale d'éthique
Il n’a regardé que ses images. Il n’a regar- et surtout, comment se positionnent les
dé que mes analyses, mais il ne m'a même pouvoirs publics dans la future loi de bioé-
pas parlé. » C'est aussi bête que cela, mais thique. Une fois que l'on arrive à faire ad-
je crois qu'il faut en tenir compte. Si en mettre cela et ce constat-là, c'est une vraie
plus, le patient découvre que peut-être le rupture dans la manière de fabriquer ou de
médecin est de plus en plus dépossédé de soutenir l'innovation. Quand on regarde
l'initiative par des machines qui collectent les choses et que l'on sort un peu des fan-
d'abord et avant tout des données et des tasmes, les risques éthiques, risques de dé-
données tous azimuts, cela le panique. légation d’un consentement à l’IA, risques
de minoration de la prise en compte de la
Question : On parle beaucoup d'éthique. situation individuelle par rapport à une lo-
Cela devient vraiment une tarte à la crème. gique trop collectiviste liée à l'algorithme,
Monsieur Chang a dit que nous avons ces risques-là sont identifiables, sans doute
tous tendance à nous emparer de la nou- en partie régulables.
veauté rapidement, mais que nous met- On ne part pas de rien. Comme le rap-
tons un certain temps, à la digérer. D'un pelle le rapport de l'Ordre, vous avez des
point de vue éthique, est-ce que l'éthique principes de déontologie que vous ap-
sociétale justifie par exemple que l'on ait pliquez tous les jours dans votre pratique
mis dix ans à accepter la mammographie médicale et des règles juridiques sur la
numérique dans le dépistage, alors que responsabilité des professionnels qui s'ap-
l’on savait pertinemment dès le début que pliquent dans une bonne partie des cas. Il
c'était une technique réellement disrup- faut soutenir l'effort de recherche, non pas

162 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


sur une éthique désincarnée ou abstraite, En ce sens, quand vous parlez d’inégali-
mais très opérationnelle avec des outils de té nord-sud, cela peut être positif, parce
régulation pour accompagner le déploie- que l'inégalité nord-sud existe à l'heure
ment des nouvelles technologies. actuelle. Des pays en Afrique ou en Amé-
rique du Sud qui ont accès à de la radiolo-
Question : Nous avons l’impression qu’il gie experte ou à des experts en radiologie,
n'y a pas une intelligence artificielle, mais il n’y en a pas énormément. Se dire que l'on
qu’il y en a beaucoup. Tout dépend où on peut offrir à ces personnes une radiologie
place le curseur. S'agit-il simplement de la d'expertise au travers de l'intelligence ar-
sophistication d'outils existants ou est-ce tificielle, pour moi, c'est une bonne chose.
vraiment une rupture technologique ? On peut même leur offrir une radiologie
Il a été dit que ces outils nécessitent des fi- d'expertise venant de l'Europe grâce à des
nancements. Qui finance et pourquoi ? Le radiologues qui sont déchargés de leurs
rythme de développement de toutes ces activités basiques habituelles, c’est plutôt
technologies ne sera pas le même dans une bonne chose. C'est à nous de faire en
les pays du Nord et ceux du Sud. Est-ce sorte que notre conception de l'IA aide à
que cela ne risque pas d'être générateur réduire ces inégalités. C'est ma vision de
de conflits ? la chose.

Cédi KOUMAKO Florent PARMENTIER


Je vais parler de l'aspect inégalités nord/ Pour aller dans le sens de ce qui vient
sud. Je suis un peu concerné, comme d'être dit, plusieurs intelligences artifi-
vous le voyez. Comme vous le disiez, il y cielles, oui, je n’y reviens pas, mais surtout
a plusieurs intelligences artificielles. Il y a plusieurs potentialités, plusieurs manières
différentes façons de concevoir la chose. d'envisager l'utilisation de l'intelligence
Une des façons est de dire : cela va être artificielle, et même de financer. Ce qui
des tâches basiques, de sorte que les ra- est amusant, c’est que si on compare dans
diologues ou les autres médecins fassent cette étude de Roland Berger, ces 3 000
tout ce qui est complexe, et l'IA s'occupera start-ups qui utilisent l’IA comme point
uniquement des tâches basiques. essentiel, on observe qu'il y a des préfé-
Une autre façon de voir est de dire : fina- rences européennes. Au niveau mondial,
lement, on a une machine qui est capable 6 % s'orientent vers des questions de sé-
de recevoir plein de données et de les curité, 3 % en Europe. Si on regarde le ni-
traiter. On va lui confier les tâches com- veau, de mémoire, de santé et de biotech,
plexes, on va essayer de rassembler les cas on est sur du 9 % à l'échelle mondiale et
les plus rares de la planète et de confier 8 % à l'échelle européenne. Cela veut dire
les tâches complexes à cette machine, de que les Européens doivent, là-dessus aus-
sorte qu'elle puisse identifier ces tâches si, repenser leur positionnement. Ce qui
complexes. est dominant dans la partie européenne,

Chapitre III - Les échanges - Débat avec la salle - 163


c'est 35 %, je crois, des consommations munication de son dossier, vous devez y
qui sont plutôt B to B 2, alors qu'au niveau accéder.
mondial c'est plutôt 25 %.
C'est juste quelques chiffres pour dire que Jean-François MEDER
la conception, l'utilisation, la manière d'en- Deux petites questions à Maître Soulier. La
visager la chose, non seulement, il y a plu- première, j'avais la notion que les dossiers
sieurs intelligences artificielles, mais il y a n'appartiennent à personne, mais que
aussi plusieurs manières de comprendre l'utilisation médicale du dossier appartient
et de se positionner par rapport à l'intelli- au patient. À ce titre, est-ce que l'utilisation
gence artificielle. à des fins pédagogiques des données est
une activité médicale ou pas ? La seconde,
Deuxième point sur le « qui finance et y a-t-il une définition juridique qui dis-
pourquoi ? » Question essentielle. Il y a tingue l'anonymisation, qui n'existe pas en
une particularité et un point d'alerte. En imagerie, de la désidentification ?
2016, les Américains ont financé à travers
des venture capital et leurs grandes entre- Laure SOULIER
prises, l'équivalent de 23 ou 26 milliards Je n’ai pas la réponse à la seconde ques-
de dollars de recherche en intelligence tion.
artificielle. Les Européens étaient plutôt Il y a un maître mot, c'est l'anonymisa-
sur du 4 milliards de dollars, ce qui est ef- tion. Maintenant, j'en reviens sur pourquoi
fectivement la difficulté. C'est-à-dire non tendre la main, et plutôt prendre la main.
seulement les Européens sont morcelés, C’est parce que vous avez des craintes en
c'est un premier problème, mais en plus, ce moment qui sont absolues. Le patient
ils n'ont pas l'écosystème qui leur permet a peur de quoi ? C'est que même anony-
de construire le coup d'après. misé, aujourd'hui, vous mettez deux start-
ups l'une en face de l'autre, et malgré des
Question : Dans son exposé, Maître Sou- données anonymes, on arrive à retrouver
lier a évoqué l'article 11.12 du code de la la personne à qui appartient la radio. C'est
santé publique, en parlant des obligations toute la difficulté aujourd'hui.
des médecins radiologues. Il me semble C'est pour cela que je dis que pour
que cet article ne s'applique qu'au dossier contourner tout ce problème, qui est à
médical du patient hospitalisé. mon sens très difficile à régler, réglons le
problème différemment, prenons un che-
Laure SOULIER min différent. Il faut que l'on puisse avoir
Sur les obligations, j'ai visé les dispositions comme partenaire privilégié, à mon sens,
du code de la santé publique qui défi- le patient, pour pouvoir obtenir les autori-
nissent le dossier médical et qui visent à sations, le consentement et pour pouvoir
la communication et à la libre communica- utiliser ces informations, avec son accord à
tion. Si le patient vous demande la com- des fins de recherche, à des fins pédago-
2
Business to Business.

164 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


giques pour aller de l'avant.
Là, je cherche un autre ter-
rain, vous voyez, je n'engage
que moi.

Question : Une question sur


le consentement. On sait
que différentes institutions,
des hôpitaux vendent des
données aujourd'hui. Est-ce
que dans le cadre du RGPD
cette recherche du consen-
tement est absolument né-
cessaire et opposable ? Est-
ce que dans le cadre du RGPD 3
un hôpital ne pourra plus vendre des don- gé leur politique, vous avez reçu 20 000
nées aux GAFA 4 sans le consentement mails, … Je défends les médecins, vous
éclairé du patient ? l’avez compris, mais pour moi, il faut aussi
se placer d’un autre côté, celui du patient.
Laure SOULIER L'accord est un peu forcé. Il n'a pas l'infor-
Aujourd'hui ce qui est certain, c'est que le mation. Le consentement est là, mais il est
consentement doit être là. Il doit être re- important qu'il ait une information sur les
cherché et il doit être obtenu. Maintenant, fins qui vont être données. Et c'est tout le
on en arrive toujours à des étapes supplé- RGPD compliant. C'est pour avoir une in-
mentaires. Aujourd'hui ce qui est repro- formation la mieux ciblée.
ché, par exemple que ce soit l'hôpital ou
l’Apple Watch ou tout ce que vous voulez, Cédi KOUMAKO
c'est que le consentement est biaisé -c’est J'ai a posteriori remarqué que ma pré-
le problème éthique - il est un peu forcé. sentation tout à l'heure sur l’avis ou la po-
C'est-à-dire que vous allez nécessairement sition des internes était peut-être un peu
donner votre accord pour pouvoir utiliser trop pessimiste. Mais ce que je retiens du
quelque chose, et c'est là que le débat sondage qu’on a fait, c'est que les jeunes
n'est pas complètement tranché. internes ne sont pas totalement informés.
On va être dans une évolution, on est dans Et la désinformation, ça fait peur. Il y a
cette évolution. Quelle va être la forme quelques réponses dans ce sondage qui
de consentement qu'il va falloir obtenir ? me font penser qu'on est plutôt sur du
Il faut y travailler tous ensemble, parce positif. Ils ont envie d'être informés. Ils ne
qu'aujourd'hui on vous dit consentement sont pas totalement réfractaires à l'idée de
c'est très bien. Les sites internet ont chan- l'intelligence artificielle. Je tiens à signaler
3
Règlement Général sur la Protection des Données.
4
Google, Apple, Facebook, Amazon.

Chapitre III - Les échanges - Débat avec la salle - 165


que les réponses qui peuvent sembler né- il n'y a pas de raison qu'on soit « dépos-
gatives sont beaucoup liées au manque sédé » de ce rôle d'expert.
d'information. La seconde réponse est que les autres
Il y a un travail en ce moment en cours, spécialistes sont aussi dans une situation
avec le collège des enseignants de ra- démographique pas très favorable, ils
dio (CERF), qui a intégré une journée de ont parfois autre chose à faire. Certains
formation à l'intelligence artificielle dans spécialistes, les oncologues, les ortho-
les nouveaux modules de formation des pédistes, les pneumologues regardent
internes. On a rendez-vous avec le CERF des images, mais cela ne veut pas dire
bientôt pour aller essayer d'organiser la qu'ils ont envie de faire des images eux-
formation des internes sur l'IA, parce que mêmes. Je parle du système français. Il
c'est indispensable. est vrai que dans le système américain,
c’est différent, puisque l'on sait le poids
Question : L'intelligence artificielle sera de l'auto prescription. Mais cela obéit
fort utile à notre exercice de radiologue. à d'autres règles que les règles écono-
Aujourd'hui, nous possédons les équi- miques que nous connaissons. Je pense
pements (IRM, etc.) qui nous permettent que le danger en France est relativement
cet exercice. Mais l'intelligence artificielle faible. Tant que l'on restera présent sur
va ouvrir à d'autres spécialistes la possi- le terrain, en faisant valoir la qualité, on
bilité d'exercer par eux-mêmes sans nos n'aura pas ce problème de concurrence
connaissances. Comment protéger les ra- qui existe.
diologues ? En conservant la propriété de C'est vrai que dans la diffusion des
nos équipements ? images maintenant vers d'autres, notam-
ment vers les médecins généralistes, on
Robert LAVAYSSIERE voit arriver des questions qui nous font
Il y a une première réponse, c'est perdre du temps. Cela m'est encore ar-
l'exemple du PACS et de la diffusion des rivé il n'y a pas longtemps, un médecin
images. Que ce soit à l'hôpital ou dans un généraliste qui avait regardé des images
établissement privé de grande taille, les d’angio-IRM sur des coupes natives, po-
cliniciens reviennent toujours nous voir sait des questions qui n'étaient pas perti-
pour nous demander des explications nentes. Mais il faut l'accepter.
devant les images. Nous avons un rôle Pour la question de la propriété, n'im-
d'expert en matière d'imagerie. C'est un porte qui n'aura pas une autorisation
rôle qui est reconnu qu'il faut garder. Ef- d'activité. Ensuite, je ne crois pas que
fectivement, Jean-François Meder a fait l'intelligence artificielle telle qu'on l'en-
allusion aux usines d'images ou usines tend aujourd'hui va se substituer aussi
d'imagerie, c'est une dérive dangereuse. vite que cela aux radiologues. C'est la
Mais à partir du moment où on garde un première chose. D'autre part, on est déjà
rôle médical, et aussi vis-à-vis du patient, dans une utilisation partielle de l'intelli-

166 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


gence artificielle et d'un certain nombre Robert LAVAYSSIERE
de techniques. Ce n'est pas pour cela J'avais un peu envie de faire la même
que les autres spécialistes s'en sont em- réponse que Jean-François. En ce qui
parés. concerne la médecine de ville, je crois
que ce que peut nous apporter l'amélio-
Patrick GASSER 5 ration du fonctionnement grâce à l'intel-
Je suis hépato-gastro-entérologue. Est-ce ligence artificielle, c'est la collection des
que vous pourriez faire un tout petit peu données. Et cela nous manque effective-
plus de prospective en vous projetant dans ment puisqu'en médecine de ville, un des
dix ans ? On a effectivement l'intelligence gros problèmes, c'est la pertinence de la
artificielle dans nos cabinets, dans nos demande. Je n’ose pas dire de la prescrip-
établissements de soins. Puisque ça sera tion, peut-être pas pour les gastro-entéro-
beaucoup plus simple à avoir au moins logues, et encore. Dans un nombre élevé
dans les cinq ou dix ans à venir, ne faudra-t- de cas, il y a peu de précisions ou pas du
il pas être plus polyvalents dans la prise en tout quant à l'objet de l'examen lui-même.
charge de nos patients ? C'est-à-dire tra- Le patient ne sait pas toujours, c’est un
vailler ensemble dès le départ de la prise problème que l’on connaît tous. Effective-
en charge. Et j'irai plus loin : est-ce qu'il ment, là, on peut penser qu'une demande
ne faut pas demain créer des entreprises pertinente de soins puisse aboutir à une
de soins, de biens et de services, en asso- réponse pertinente. Dans ce cas, effecti-
ciant dans une même entreprise des ra- vement une collaboration plus poussée
diologues et des spécialistes notamment ? pourrait être intéressante.
Je parle de l'entreprise libérale demain,
dans le cadre du territoire et de la réponse Paul CHANG
aux soins pour tous. Voilà une bonne question. Comme on
me la pose souvent, j’ai préparé une ré-
Jean-François MEDER ponse. Je pense que vous allez découvrir
La structure dont vous parlez, c'est l'hôpi- que l’adoption de l’intelligence artificielle
tal. ne diffère pas beaucoup de l’adoption de
n’importe quelle technologie potentiel-
Patrick GASSER lement révolutionnaire en médecine. Je
Ce n’est absolument pas l'hôpital. vais essayer de répondre à votre ques-
tion, en même temps que je vais répondre
Jean-François MEDER à celle de la personne qui m’a demandé
Je suis parfaitement à l’aise pour en parler, si l’IA allait nous remplacer et si nous de-
parce que nous sommes ensemble du dé- vions protéger nos scanners, etc. Je dois
but à la fin de la prise en charge, y compris vous avouer que cela m’a fait sourire, car
dans les soins de suite… j'ai eu exactement la même conversation
quand on a commencé à parler des PACS.
5
Président de l’UMESPE.

Chapitre III - Les échanges - Débat avec la salle - 167


À cette époque, tout le monde disait que, tients baissera également de manière signi-
si les images étaient disponibles sur des ficative. Vous verrez, dans un an, l’une des
supports numériques, il n’y aurait plus de grandes applications simples du deep lear-
radiologues. Les gens étaient inquiets (et ning, si vous mettez à jour vos équipements
exprimaient bruyamment leur inquiétude), de scanner ou d’IRM : ce sera l’application
parce qu’ils pensaient que les PACS al- du deep learning aux acquisitions. Elle sera
laient rendre complètement obsolète et intégrée et vous ne la remarquerez même
détruire la pratique de la radiologie. C’est pas, en dehors du fait que vos doses de ra-
tout le contraire qui est arrivé et la radio- diations baisseront brusquement et que les
logie n’a cessé de croître ; et c’est malheu- délais d’exécution d’une IRM augmenteront.
reusement là le problème. Maintenant, Vous allez déjà assister à cela.
la radiologie en est à l’adolescence et sa La phase suivante consistera en l’exploi-
croissance a entraîné une augmentation tation de ce que d’autres secteurs ont
des attentes des cliniciens et des patients, déjà réalisé avec l’intelligence artificielle,
que nous ne sommes plus en mesure de à savoir l’élimination de toutes les tâches
satisfaire. Voilà l’un des problèmes de l’in- répétitives, de toutes les « bêtises » que
telligence artificielle. nous devons faire, pour nos patients.
Vous vouliez savoir comment allaient se Vous allez voir des améliorations signi-
passer les choses. Je pense qu’il y aura ficatives et, dans ce cas, les applications
trois phases. Tout d’abord, l’intelligence ar- les plus simples sont celles que je dé-
tificielle existe depuis des décennies. Ceux signe comme les applications « minimale-
qui utilisent les ordinateurs dans le dia- ment heuristiques » du deep learning. Par
gnostic ou la mammographie le font depuis exemple, l’amélioration des protocoles.
30 ans. Lorsque les gens demandent quand Je ne sais pas comment cela se passe en
cela va se passer, la réponse est que cela France, mais, aux États-Unis, nous avons
s’est déjà passé. L’intelligence artificielle est une dichotomie entre les services, où cer-
déjà là. Vous allez assister bientôt aux pre- tains praticiens consacrent beaucoup de
mières phases des systèmes basés sur le temps à l’amélioration de la qualité des
deep learning, mais vous n’allez même pas protocoles des cas. C’est très important,
vous en apercevoir. La toute première mise mais c’est très difficile, à faire, car il faut
en application de l’intelligence artificielle, un contexte clinique pour le protocole, et
en ce qui concerne le deep learning, sera la cela prend du temps et vous devez pou-
reconstruction d’IRM et de scanner. Ce se- voir accéder à des informations cliniques
ront des systèmes intégrés que GE, Siemens qui sont souvent absentes. J’ai déjà vu cela
ou Philips fabriquent déjà. Cela vous per- chez des startups, dans des applications
mettra de reconstructions qui entraîneront et chez de grands équipementiers, pour
une réduction spectaculaire des coûts et le protocole, la gestion et le tri des cas :
du temps passé dans l’acquisition d’images l’intelligence artificielle sera utilisée pour
d’IRM. L’exposition aux rayons X de nos pa- faciliter la recherche du contexte clinique

168 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


et la communication avec les médecins de les données multi-spectrales, trying to re-
référence, afin de comprendre plus exac- sist measurements or modified resist, or
tement ce qu'ils souhaitent de notre part. time activity-type perfusion studies dans le
Actuellement, il y a un décalage. Nous cerveau. Ces tâches seront également au-
perdons beaucoup de temps à essayer de tomatisées pour vous, sans que cela vous
comprendre ce que vous souhaitez vrai- remplace entièrement, mais en vous faisant
ment ou alors, nous nous limitons à obte- gagner du temps. D’après de nombreuses
nir une étude générique sur la circulation études, les radiologues consacreraient
veineuse portale, sans nous soucier du 60 % de leur temps à des tâches répétitives,
reste. Ce qui n’est pas bien du tout. Il y aura qui ne requièrent pas l’usage du cerveau.
une prochaine phase, pendant laquelle les Nous faisons des tas de choses, comme le
applications de deep learning ne seront rangement des images, pour utiliser notre
pas vraiment au centre de l’activité du ra- cerveau. Vous allez voir ces améliorations
diologue, mais plutôt dans tout le travail simples dans les années à venir.
périphérique, comme le protocole. Votre Le prochain changement que vous al-
liste des tâches va devenir soudain très lez voir très vite n’est pas l’utilisation de
intelligente et ce sera justement la phase l’intelligence artificielle dans l’imagerie,
suivante, car il est plus facile d’obtenir l’au- le réseau neuronal convolutionnel, mais
torisation des autorités de régulation pour l’extraction du traitement du langage na-
ce genre de choses. turel, comme dans d’autres secteurs. Les
Donc, la prochaine phase à laquelle vous grandes entreprises de différents secteurs,
allez assister concernera la liste des tâches, comme Google, Amazone, utilisent le trai-
qui, actuellement, est relativement ba- tement du langage naturel pour extraire
sique. Sur votre PACS actuel, votre liste des réseaux sociaux la perception des
des tâches est essentiellement composée consommateurs. En particulier, l’année
de stat, ER, etc. Vous allez voir des listes prochaine, beaucoup de grandes entre-
qui vous diront qu’il vaut mieux examiner prises utiliseront cette technologie pour
d’abord un certain cas du point de vue ER, extraire du sens et des résultats à partir
car il y a une anomalie, nous voyons une de rapports non structurés, pathologies,
maladie potentiellement mortelle. Vous al- notes cliniques, etc. Trop souvent, nous
lez voir cela dans un ou deux ans. ne comprenons pas assez le contexte cli-
C’est ce que je prévois. C’est déjà fait, c’est nique pour interpréter les images correc-
dans le pipeline et il y a des gens qui vont tement, car, comme vous le savez, nous
l’acheter, ou bien vous l’aurez gratuitement. ne sommes que des observateurs impar-
La prochaine phase que les radiologues faits. L’Intelligence Artificielle aussi est un
devront affronter sera très intéressante. Il observateur imparfait et, par conséquent,
y a des tâches très chronophages, comme le théorème de Bayes s’applique et vous
les exemples que je vous ai montrés, par avez besoin d’une probabilité condition-
exemple la recherche de lésions en IRM, nelle préalable pour pouvoir interpréter

Chapitre III - Les échanges - Débat avec la salle - 169


correctement l’image. Cette probabilité Dans la salle
préalable sera fournie par une IA, qui sera Alors, nous ne pourrons plus nous en pas-
capable d’affirmer qu’elle vient juste de ser.
détecter une valeur de laboratoire anor-
male, que le patient a toute une série de Paul CHANG
symptômes que le médecin n’avait pas Exactement
mentionné dans son ordonnance ou dans Applaudissements
ses instructions, mais nous savons que
le patient a mal au ventre, souffre d’une Question : Combien de temps pen-
leucocytose, etc. L’IA va vous dire que sez-vous qu'il faudra pour adapter les
vous devriez tenir compte de tout cela, et études médicales initiales à tout ce qui est
que vous allez peut-être le voir. en train d'arriver, et à l'absence de néces-
Je sais que ma réponse est un peu trop sité d'accumuler autant de connaissances
longue, mais je vais dire que l’application que l'on a pu en acquérir, compte tenu de
de l’IA sera tellement progressive que, toutes les possibilités que l'on va avoir de
quand elle sera vraiment là, nous serons travailler différemment ?
prêts à l’utiliser. Tout le reste dépendra tel-
lement de cela que, quand le radiologue Paul CHANG
aura vraiment à l’affronter, là où mainte- C’est de sa faute, ce n’est pas de la mienne,
nant vous devez prendre des décisions à si vous allez devoir mettre encore une fois
ce sujet comme un véritable partenaire. À ces horribles trucs. Je crois que vous m’avez
mon avis, l’IA actuellement, est comme un demandé quelle était la situation aux États-
stagiaire très enthousiaste, un petit chien Unis ? Je vais vous dire : nous aimons bien
qui veut tout faire à votre place, pour vous nous vanter d’être tellement en avance par
aider. Mais, quand elle deviendra un véri- rapport aux autres et cela m’a beaucoup
table partenaire, elle sera partout et nous intéressé de vous entendre dire que les
serons tellement habitués à la voir que États-Unis étaient en position dominante.
nous saurons l’exploiter correctement. Mais nous ne le sommes pas - les profes-
Je n’ai aucune crainte à ce sujet. Nous ne sionnels de santé sont bienveillants - et en
cessons pas de dire que nous allons être Israël et en Chine ils sont bien plus avan-
remplacés, comme nous l’avons déjà dit cés que nous. Nous sommes soumis à de
pour les PACS et plein d’autres choses. Je nombreuses contraintes, similaires aux
crois que l’utilisation de l’IA sera progres- vôtres. Nous avons l’HIPAA 6, qui est une
sive, car cela va prendre plus de temps à loi très similaire à votre RGPD. Vous avez
cause des contraintes que nous avons. Et absolument raison, nous avons besoin de
cela va faciliter l’adoption de l’IA par rap- données vérifiées pour alimenter le deep
port à ce qui s’est passé pour les PACS. À learning. Comme je l’ai expliqué ce matin,
mon avis, les PACS ont été beaucoup plus les systèmes basés sur le deep learning
révolutionnaires que l’IA. sont la force brute de l’apprentissage auto-
6
Health Insurance Portability and Accountability Act – Loi votée en 1996 relative à la santé et à l’assurance maladie aux États-Unis.

170 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


matique. Il nous faut des données vérifiées, de l’échange d’images, etc. Votre avantage
interprétées. Nos données, aux États-Unis, est que vous pourriez avoir un identifiant
sont très primitives et vous avez un avan- unique. Vous pourriez créer des archives
tage essentiel, que vous n’exploitez pas. qui valident les données avec cet identifiant.
Un intervenant, tout à l’heure, a parlé des Nous, nous sommes désespérément en re-
différentes visions du futur en Europe, dans tard là-dessus. Notre avantage est que nous
ce domaine. J’ai eu envie de dire que vous pouvons obtenir des investissements, nous
n’exploitiez pas suffisamment vos atouts. pouvons développer un bon argumentaire.
L’un des grands inconvénients, aux États- À la fin, la mise en œuvre est beaucoup plus
Unis, est notre système de santé et notre longue, mais nous avons l’argent et nous
structure de données est fragmentée, nous avons les arguments. Notre stratégie, aux
n’avons pas un identifiant universel. Vous États-Unis – qui a eu beaucoup de succès –
ne pouvez pas former un système correc- est basée sur la peur, l’incertitude, le doute.
tement à partir d’un seul hôpital. Vous avez Nous développons des argumentaires et
besoin d’un énorme volume de données, nous nous vantons de notre expertise et
surtout s’il s’agit d’un cancer extrêmement après nous créons des partenariats avec les
rare. C’est la raison pour laquelle la plu- Chinois. Voilà ce que nous faisons. C’était
part des applications de deep learning que votre troisième modèle, le modèle collabo-
vous voyez, au RSNA et aux États-Unis sont ratif.
si bêtes, si inintelligentes, si basiques. Nous C’est pour cela que votre débat, ce matin,
n’avons pas besoin d’un autre algorithme m’a paru si important. J’ai participé à de
de l’âge osseux. Il y a une centaine d’algo- nombreuses conférences aux États-Unis et
rithmes de l’âge osseux et il y a un motif j’ai parlé de l’IA, mais c’est la première fois
à cela. Ce n’est pas parce que, aux États- que j’entends vraiment parler d’éthique.
Unis, nous sommes très perplexes au sujet C’est une honte, car nous, nous ne parlons
de l’âge osseux des patients pédiatriques, pas éthique, ou peut-être nous sommes
c’est parce que les exemples d’utilisation plus « branchés » et notre éthique ne s’ap-
se fondent sur les données disponibles. Je plique qu’aux Américains, ou aux blancs,
peux générer un nombre arbitraire de cas et pas aux noirs. Je pense que, en tant que
pour former un système de deep learning personne de couleur, je peux agacer des
à partir de l’âge osseux, parce que l’image gens ici et que les interprètes ne savent
elle-même a l’âge du patient. Le problème pas où je veux en venir. Ce que je veux dire
est que nous sommes tout aussi en retard c’est que nous avons les capitaux et après
et même plus en retard qu’en Europe en nous allons en Chine, où la législation est
termes de données disponibles. Je ne beaucoup plus laxiste en ce qui concerne
veux pas rentrer dans les détails, parce que la protection des données personnelles du
c’est un tout autre discours. En fait, après patient, et nous nous procurons d’énormes
cette conférence, je vais me rendre à Ams- volumes de données. C’est cela le modèle
terdam pour parler aux autorités de santé collaboratif en vogue actuellement. Nous

Chapitre III - Les échanges - Débat avec la salle - 171


allons dans des pays où les questions l'ai dit ce matin, mais je vous ai un petit peu
d’éthique ne sont pas au premier plan, ou menti. Les avancées qui ont rendu possible
ne sont pas clairement définies, ou bien le deep learning viennent de ce pays, des
nous n’en parlons pas explicitement. Cela scientifiques et des mathématiciens fran-
me rappelle l’époque où nous allions cher- çais, mais ils ne sont plus ici, maintenant ils
cher du pétrole dans certains pays sans en sont en Californie ou en Chine. Cela montre
informer la population locale, en exploitant que vous avez un problème et que vous avez
des arbitrages. Nous faisons la même chose besoin d’un programme comme celui qui a
en matière de propriété intellectuelle. Nous été lancé en Israël, TALPIOT, que je préfère
exploitons le fait que les systèmes, les pro- au DARPA, car il se répercute de manière
tections, les codes de déontologie ne sont significative sur leur PIL 7. Il existe des po-
pas aussi bien établis que chez nous et litiques que vous pouvez mettre en œuvre
nous exploitons les données disponibles pour empêcher la fuite de vos cerveaux, en
au niveau local, etc. exploitant une structure très intelligente qui
Je vous demande pardon de m’être vous est fournie par votre législation sur la
quelque peu éternisé, mais vous avez vrai- protection des données, et en particulier
ment un gros atout ici. Vous avez un cadre par la tokenisation, pour faire avancer les
éthique. Vous avez une législation sur la choses de manière éthique, de concert
protection des données personnelles avec les patients. Aux États-Unis nous ne
plus flexible que la nôtre. J’ai étudié vos faisons pas confiance à nos patients, alors
lois et elles mentionnent explicitement la nous essayons de les contourner et nous al-
« tokenisation ». Vos lois prévoient l’anony- lons jusqu’en Chine, si nécessaire. Je pense
misation, etc., mais c’est une impasse, car que vous avez une opportunité, avec une
l’anonymisation est inutile dans le deep population intelligente, d’engager les pa-
learning, qui requiert une corrélation avec tients en tant que partenaires et d’assumer
les résultats. Vous ne pouvez donc pas ano- une position de leadership. Cela vous aide-
nymiser les données, mais vous pouvez rait non seulement à obtenir des résultats,
« tokeniser ». Je sais que cet aspect n’a pas mais cela vous positionnerait aussi. Je suis
été évoqué, mais vous devriez lire votre d’accord avec Poutine, tout cela est d’im-
norme en matière de tokenisation, car elle portance stratégique pour l’Europe. Vous
se fonde sur une approche beaucoup plus devez devenir des leaders dans ce do-
sophistiquée. Avec la tokenisation et votre maine, non seulement pour la santé, mais
modèle d’éthique, vous pourriez être lea- aussi dans d’autres applications. Vous n’ex-
ders dans la fourniture de données dans un ploitez pas suffisamment votre position et
cadre éthique. Faites-le. je sais que ce que je dis peut sembler ter-
Comme je l’ai déjà expliqué, il n’y a rien de riblement condescendant de la part d’un
nouveau dans le deep learning, mais ce étranger. Mais, d’après ce que je vois et ce
n’est pas tout à fait exact. Oui, le grand atout que j’étudie, vous avez des avantages ex-
était le processeur graphique, comme je traordinaires que vous n’exploitez pas, alors
7
Gross National Product – Produit National Brut.

172 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


que vous pourriez devenir de véritables ex- d’introduire l’Intelligence Artificielle dans
perts. Je vous demande pardon. ce programme, mais nous avons un pro-
Applaudissements blème de temps, car il y a d’autres choses
que vous devez apprendre pour soigner
Désolé. Maintenant, c’est de sa faute. Vous vos patients.
m’avez demandé si nous avions une for- Je viens de participer à un comité, où le
mation particulière ? Il y a une merveil- temps réservé à l’Intelligence Artificielle
leuse étude, dont vous avez parlé, sur était limité à une conférence, en gros
les services rendus aux médecins et la celle que je viens de faire devant vous. Ce
formation dans ce domaine. Vous m’avez n’est pas suffisant pour nos internes. Nous
demandé si nous avons un avantage aux sommes en train de travailler vraiment
États-Unis ? Je peux vous donner une ré- là-dessus, surtout l’ACR, mais nous devons
ponse officielle, en tant que représentant vraiment mieux éduquer nos internes, car
de la RSNA 8, et vous dire que oui, nous cela va avoir un impact. Quand l’IA sera
avons un avantage. Voulez-vous la vérité ? vraiment là nous serons tous à la retraite,
Alors, je vous dis que non. Je viens juste mais avant que cela devienne vraiment
de faire un compte rendu d’un article, une menace pour nous, deux choses vont
pour la revue Radiology, qui sera accep- se passer. Beaucoup d’entre nous seront
té, concernant deux études très similaires morts ou à la retraite et, lorsque l’IA aura un
aux vôtres, l’une d’un interne en radiolo- vrai impact sur la radiologie, ce sera sans
gie canadien et l’autre réalisée par l’ACR 9 doute le dernier des problèmes pour la so-
pour les internes américains. Les résultats ciété dans son ensemble, car l’impact sera
étaient identiques, ils avaient peur et ils ne bien plus significatif ailleurs. Avant qu’elle
savaient rien à ce sujet. Les messages dif- ne remplace les radiologues, elle rempla-
fusés sont exactement identiques à ceux cera les banquiers, les cadres moyens, les
que vous recevez, à savoir que nous ne administrateurs et tous les travailleurs in-
connaissons pas du tout cette technologie tellectuels. Les pays connaîtront un taux de
et que nous devrions être moins ignorants, chômage de 40 % - 50 % si l’IA atteint un
car l’ignorance va nous faire prendre de niveau vraiment préoccupant pour nous.
mauvaises décisions. Sommes-nous mieux Je suis plus inquiet pour votre généra-
positionnés pour former nos formateurs ? tion. Notre génération aura des avantages,
Pas vraiment. Je dirais que nous avons un nous ne devrons plus mesurer la résistance
petit avantage, à savoir qu’il est obliga- ou appeler des personnes. Je ne parle pas
toire, maintenant, d’inclure dans les pro- de singularité, ce qui ne va jamais se pro-
grammes de formation des radiologues, duire, mais lorsque l’IA sera en mesure
aux États-Unis, des cours d’informatique. de nous remplacer totalement, la société
Il existe un programme officiel d’études aura bien d’autres craintes auxquelles faire
d’informatique que nos internes doivent face. Cela concernera vos enfants et c’est
suivre. Nous avons, donc, la possibilité pour cela que nous devons vous former.
8
Radiological Society of North America.
9
American College of Radiology.

Chapitre III - Les échanges - Débat avec la salle - 173


Je ne m’inquiète pas de votre formation, exercice dans certaines structures n'est
car tout ce que vous avez à faire est d’exer- pas attractif. Mais est-ce qu'on est obligé ?
cer votre métier de médecins et, tout à Actuellement on garantit aux internes du
coup, la nouvelle version de PACS vous travail pendant 40 ans. C’est cela que ça
paraîtra beaucoup plus facile à exploiter. veut dire un internat.
Je n’ai pas à vous former, car la sophisti- Mais peut-on dire que les 8 500 radio-
cation de ces systèmes ne sera pas suffi- logues sont adaptés à un travail qui va
samment menaçante, elle sera juste utile. évoluer par l'intelligence artificielle, et un
Je ne dois former personne à l’utilisation travail dont le périmètre peut éventuelle-
du smartphone, cela ne fait pas peur, il est ment, va être modifié par la création de
juste joli et sympathique, et mes photos super manipulateurs par le LMD 10 ? Je
sont maintenant mieux organisées. C’est n'en sais rien. Personne ne répond à cette
sa génération qui devra vraiment prendre question. On va former, mais je souhaite
des décisions importantes, tout comme les simplement que le niveau de formation
administrateurs, les législateurs et les res- des internes soit suffisamment important
ponsables politiques de cette génération. pour qu'ils puissent se réorienter. C'est le
Ce sera préoccupant lorsque cette tech- seul conseil que je puisse donner. n
nologie se développera de manière telle
que l’IA deviendra un véritable partenaire.
C’est ce qui requiert une formation. Nous
devons former les plus jeunes, tandis que
les plus âgés récolteront les fruits de cette
technologie « à maturation lente ». C’est
leur génération qui devra prendre des dé-
cisions.
Applaudissements

Question : Jean-François Meder a posé la


question du nombre de radiologues. Peut-
il préciser sa pensée ?

Jean-François MEDER
Ma diapositive n’avait pas pour objet
de dire qu’il y a trop de radiologues. Ce
qui compte dans cette diapositive, c’est
le point d'interrogation, ce n'est pas les
8 500. Aujourd'hui, on se base sur le fait
qu'il y a des déserts médicaux, et qu'il y
a des difficultés liées au fait qu'un certain
10
Licence, Master, Doctorat.

174 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


Chapitre III - Les échanges - Débat avec la salle - 175
III
Table ronde *
Dr. Alain Houpert, Sénateur Jean-Philippe MASSON
Dr. Joachim Son-Forget, Député Il serait intéressant d’entendre le Député
Dr. Jean-Philippe Masson, Président de la FNMR Joaquim Son-Forget répondre à ce pro-
Pr. Jean-François Meder, Président de la SFR blème, posé à l’Etat Français, des investis-
sements nécessaire pour un outil d'avenir
Olivier COLIN, modérateur qui est presque stratégique.
Nous abordons notre table ronde avec
un représentant de chacune de nos as-
semblées parlementaires : le Sénateur
Alain Houpert, des Côte d'Or et le Dépu-
té Joaquim Son-Forget, représentant les
Français à l'étranger du Liechtenstein et
de la Suisse. Tous deux sont radiologues.

Deux mots avant que le débat commence.


Le président de la République a annoncé
un plan de 1,5 milliard d'euros qui sera mis
en œuvre jusqu'en 2022 et 400 millions
d'euros qui seront dévoués à des projets
d'innovation de rupture. Son ambition est Joachim Son-Forget, député
de faire de la France un hub de recherche
au niveau mondial. Deux grandes sociétés
ont déjà donné leur accord pour jouer le Joachim SON-FORGET
jeu, à savoir IBM et Samsung. Merci pour ces questions pertinentes. Je
vais finalement peut-être être d'accord
Durant ce débat, nous parlerons d'indé- avec vous. Je vais commencer par une
pendance de la France en matière d’In- chose, c'est que tout dépend si on a une
telligence Artificielle. Nous parlerons des vision qui est purement géopolitique,
financements et aussi de l'évolution du comme Florent Parmentier l'a dit tout à
cadre juridique. Nous parlerons peut-être l'heure, ou si elle est purement géoécono-
de formation. Et si on veut que cette intelli- mique. La vérité se situe un peu entre les
gence fasse l'unanimité, comment on sen- deux. C'est-à-dire que vous avez dit d’un
sibilise les citoyens au problème de l'intel- côté la dynamique des États, parce qu’on
ligence artificielle. parle de souveraineté française sur la maî-
*
Retranscription et synthèse sous la responsabilité de la rédaction

176 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


trise de ces données, et peut-être in exten- autres spécialités. Il va falloir dépasser ces
so de la radiologie, mais je crois qu'au-delà dimensions.
de ça, simplement la question s'applique à
notre domaine d'activité comme elle s'ap- Il y a quelque chose que je peux regretter
plique à d'autres domaines d'activité. La de la vision, et je vais essayer de porter
réponse est mixte par les investissements, votre voix, parce que je crois que l'on sera
qui sont certainement publics et qui sont à d'accord là-dessus. Je peux regretter que
faire ne serait-ce que pour réformer notre la téléradiologie n'ait pas été suffisamment
système de santé, lui permettre de se mo- considérée. Je pense que le sénateur Hou-
derniser, mais il faut également que cela pert sera d’accord avec moi là-dessus. La
se fasse avec des acteurs privés. téléradiologie a été déconsidérée comme
quelque chose qui n'était finalement pas
C'est un peu toute la mission que l'on a ac- applicable au raisonnement du projet de
tuellement. Il ne faut pas voir cela non plus loi financement de la Sécurité sociale. À
avec défiance. Ce qu'on veut aujourd'hui savoir que l'on dit : cela n'a pas à être un
c'est attirer les gens de l’intelligence arti- raisonnement par sous-spécialité, c'est de
ficielle chez nous. Il y a tout un effort au- manière in extenso la télémédecine, la té-
quel je participe du reste, notamment lésurveillance. Mais il va falloir faire face à
avec certains pays asiatiques, pour attirer une réalité. On va pouvoir peut-être, et on
des gens qui vont faire de la recherche va certainement se faire accuser d'être cor-
chez nous, et qui vont faire cette recherche poratiste, mais il va falloir porter cette voix.
appliquée chez nous. Nous sommes de
très bons fondamentalistes, comme vous Parce que la première discipline ubérisable
le savez, c'est pour ça que, comme l'a dit de la médecine, c'est la radiologie. Il y a
Professeur Chang, on peut générer le père peut-être les rétinogrammes, les électro-
d'intelligence artificielle comme Yann Le- cardiogrammes, je peux vous dire que des
Cun, le père du deep learning, puis que gens y pensent. Cela commencera par du
celui-ci s'échappe, au moins temporai- second avis, cela ira plus loin, cela utilisera
rement puisqu'il est de retour, mais pour peut-être la technologie de la blockchain
une grande boîte américaine qui s'appelle pour se passer des intermédiaires, faciliter
Facebook. Ce n'est pas un cas isolé. La ré- la circulation des données. Le combat de
ponse est mixte, il faut des investissements demain, ce ne sera pas forcément la pos-
privés, il ne faudra pas avoir peur que ceci session de la donnée, mais la possession
soit appliqué aussi à notre domaine. de l'infrastructure qui permet simplement
de créer une activité lucrative, voire extrê-
Maintenant, il y a des combats à mener, mement lucrative sur la médecine. Cela
à mon avis, le combat de savoir s'il faut commencera, et ça pourrait commencer
défendre le bifteck du petit cabinet pri- par la radiologie.
vé, notre machine et le turf battle avec les Votre peur d'être éliminé du système,

Chapitre III - Les échanges - Table ronde - 177


comme praticien radiologue, en effet, je
crois qu'on est tous d'accord, ce n'est pas
si simple que ça. Ce n'est pas si simple que
pourrait le dépeindre quelqu'un comme
Laurent Alexandre, je tape aussi, comme
Florent a un peu taquiné tout à l'heure.
Mais je pense qu’entre les discours alar-
mistes et la réalité et une analyse tech-
nique fiable, il y a deux mondes. Les radio-
logues ne vont quand même pas recevoir
des leçons en intelligence artificielle par
des urologues. Alain Houpert, sénateur

Au-delà de ça, ce ne sera pas cela le pro- de Louis XIV, qui s'appelait Vauban et
blème. Vous perdez votre job, ou vous ne qui disait qu'il n'y a pas de citadelle im-
le perdez pas, c'est déjà de savoir pour qui prenable, il n'y a que des échelles trop
vous allez travailler. Demain, autre combat, courtes. Philips investit un milliard en un
c'est de savoir si vous allez vers une radio- an, nous allons en investir un milliard sur
logie qui est aux mains d'une entreprise quatre ans. Je pense qu’on ne prend pas
mondialisée, qui dépasse la souveraineté la bonne échelle. J'ai peur que la radio-
des États, ou si... Le combat pour la sou- logie soit la nouvelle sidérurgie qu’on a
veraineté se passe plutôt sur cet angle, à un peu abandonnée. Je suis un peu plus
mon avis. Mais c'est une vision que nous ancien que notre collègue, j'ai connu l'ar-
n'avons pas dans le débat intérieur do- gentique, j'ai connu les vieilles sociétés
mestique sur le projet de loi de finance- françaises et la France était vraiment en
ment de la Sécurité sociale, parce qu'on avant dans la radiologie. On a fortement
reste sur la gestion administrative locale, régressé. La médecine va devenir un peu
et on ne pense pas à cette dimension de la nouvelle sidérurgie. Vous savez la sidé-
compétition internationale. rurgie lorraine, on l'a complètement aban-
donnée. J'ai peur de cela.
Alain HOUPERT
Tous les deux, nous venons de Bourgogne. Notre collègue a parlé de la télémédecine.
En 2009, j'étais au Sénat, et je me suis bat-
Joachim SON-FORGET tu pour que ce soit inscrit dans le marbre
Il y a trois radiologues bourguignons qui de la loi, parce que nos collègues, et les
sont parlementaires. gens du ministère voulaient que la télémé-
decine existe, mais que le radiologue soit
Alain HOUPERT à côté du patient. Quel est le bénéfice ? Il a
En Bourgogne, il y avait un grand ministre fallu se battre, il a fallu convaincre nos amis

178 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


sénateurs. C'est au Sénat qu’on a commen-
cé à faire des choses, ensuite l'Assemblée
a suivi. Parce que le Sénat, c'est peut-être
une assemblée de sages, mais il est impor-
tant que nous ayons des parlementaires,
comme toi, comme moi, qui soient un peu
les pieds dans la glaise, et qui parlent au
Sénat ou à l'Assemblée avec des semelles
de vent, comme le faisait Rimbaud, pour
pouvoir faire avancer les choses.
Le danger, justement, comme tu l'as dit
c'est que cette ubérisation de la télémé-
decine se fasse dans d'autres pays, parce
qu'avec les principes qu’on a en France, de
laisser passer les choses, de laisser passer
les trains, de ne pas prendre les bonnes
échelles, on va avoir des centres de télé-
médecine à Dubaï qui vont faire en low Je pense qu'effectivement il y a une brèche,
cost l'interprétation des radios, dans nos il y a un espace vide actuellement qu'il va
déserts médicaux. Et là, il y aura un risque falloir combler.
juridique. Nous aurons des comptes-ren-
dus qui ne seront pas signés, et le patient En fait, les radiologues sont passionnés par
n'aura aucun recours. Oui, à l'intelligence l'intelligence artificielle. Je ne suis pas in-
artificielle dans l'intérêt du patient, mais quiet par l'évolution de l'intelligence artifi-
quand on est dans une uberisation débri- cielle pour les radiologues, parce que c'est
dée, non. dans nos gènes. Nous avons toujours su
évoluer avec notre temps. Nous avons tou-
Applaudissements jours su évoluer avec les nouvelles techno-
logies qui sont arrivées, que ce soit l'écho-
Jean-Philippe MASSON graphie encore que là, on n'a pas été très
Voilà, ça, c'est dit et c'est tout à fait exact. bons, parce qu'il y en a beaucoup qui n’y
C'est vrai que le G4 1 a poussé une morali- croyaient pas et qui l'ont laissée partir sur
sation de la téléradiologie à travers la charte d'autres spécialités, mais sur le scanner, sur
que nous avons rédigée, il y a maintenant l'IRM sur toutes les nouvelles séquences qui
quelques années, et qui avait d'ailleurs été arrivent régulièrement, sur tous les outils.
co-signée par le CNOM.

1
Le Conseil professionnel de la radiologie (G4) qui regroupe le CERF, la FNMR, la SFR et le SRH.

Chapitre III - Les échanges - Table ronde - 179


Nous avons connu le début de l’Intelli- Nous allons arriver au bout de cette situa-
gence Artificielle avec les CAD 2, avec les tion, parce que le problème, c'est que les
outils d'aide au diagnostic. Nous les utili- radiologues ne pourront plus investir. Les
sons tous les jours, et cela ne nous pose pas constructeurs disent eux-mêmes que la
de problème. Nous sommes ravis, quand France devient un pays émergent parce
on arrive à avoir un nouveau scanner plus que nous n'avons plus les moyens d'in-
performant, avec davantage d'outils. L'in- vestir dans du bon matériel. Messieurs les
telligence artificielle, comme le disait Paul politiques, est-ce que vous pensez que cela
Chang tout à l'heure, va s'implémenter à la va continuer ? Ou pensez-vous qu'enfin on
fois dans nos machines et dans nos esprits va comprendre qu'il y a besoin de favoriser
sans difficulté. la radiologie, surtout avec l'arrivée de ces
La difficulté que je vois, et là je me tourne nouveaux outils ?
vers mes amis politiques, parce que c'est
eux qui font les lois, et ceux qui font les lois Un intervenant
allouent des enveloppes, notamment pour Sur le plan du matériel lourd, nous
la radiologie. On sait que depuis quelques sommes pratiquement au niveau de la Tur-
années, il y a quand même une tendance quie. L'Agence France Presse titrait hier
à la baisse des tarifications en radiologie, que l'intelligence artificielle surpasse les
et notamment en imagerie en coupe. Ces dermatologues pour détecter les cancers
outils d'intelligence artificielle inéluctable- de la peau. C'est-à-dire qu'ils ont un algo-
ment vont coûter cher. Je ne suis pas du rithme qui détecte à 95 % les cancers, par
tout sûr que compte tenu de l'évolution ou rapport à 86 % des dermatologues. Faut-il
même du maintien des tarifs, que cette évo- avoir peur de l'intelligence artificielle pour
lution sera suffisante pour permettre aux ra- les radiologues ? Je ne pense pas, parce
diologues français de pouvoir investir dans que les radiologues ont toujours été en
ces outils. avance. Nous sommes les seuls à avoir
vraiment des cabinets structurés, avec des
Parce qu'en réalité, ces investissements secrétaires, avec des manipulateurs. Il est
que nous faisons dans ces outils, c'est sur- vrai que notre profession évolue énormé-
tout pour nos patients que c'est utile. C'est ment. Tous nos cabinets ont toujours été
grâce à cela que nous arrivons à faire de des micro-laboratoires de recherche, et si
meilleurs diagnostics. Est-ce que vous pen- nos constructeurs progressent, c'est parce
sez qu'on pourra arriver à une stabilisation que nous progressions dans la sémiologie.
meilleure que ce que l'on a fait à travers la Par exemple, l'épaisseur nucale, ce sont
signature du relevé de conclusions qui est des radiologues qui ont permis de pro-
axé sur la pertinence ? C'est quand même gresser dans le diagnostic de la trisomie.
un relevé de conclusions qui va générer un Les constructeurs ont fait évoluer les ma-
certain nombre d'économies sur le dos de chines pour faire avancer.
la radiologie encore.
2
Computer-aided diagnosis

180 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


Je ne suis pas pessimiste. Je pense que le question de ce qu’il nous reste comme va-
radiologue est face à l'automatisation des leur ajoutée ? C'est à repenser. Il est fort à
actes, par la baisse des prix, et l'intelligence parier également que..., c'était Florent qui
artificielle sera un bien pour le patient pour le disait, il faisait son scénario prospectif sur
le dépistage de beaucoup de choses, de les auto-échographies pour sélectionner
cancers. Par exemple, pour la sclérose en les bébés, mais c'est déjà présent.
plaques, on pourra faire un screening beau-
coup plus précis, ou encore pour le diagnos- Je vais aider Monsieur Philips, qui était là
tic d'amiante. Puisque nous sommes des tout à l'heure, parce qu’il avait de moins
médecins, des porteurs d'humanité, nous belles images que le collègue d'avant,
pourrons vraiment nous occuper du patient. donc je vais lui filer un coup de main. Ils ont
un produit qui existe déjà, on le branche au
Tout à l'heure, nous avons parlé de l'écoute, smartphone, c'est l'Unified de Philips, ça
le patient veut être écouté, et c'était 15 se- coûte encore très cher. Ce n'est pas exclu
condes, je crois. Il est important que le ra- que demain, vous ayez des petits écho-
diologue reprenne sa place de consultant, graphes qui soient disponibles pour n'im-
de chef d'orchestre. Le radiologue est dif- porte quelle personne lambda. Il vient vous
férent des autres médecins, parce qu'il est voir et vous dit : « il y a une boule là, elle est
dans une relation triangulaire entre le de- grisâtre, je sais que cela veut dire ça. » Cela
mandeur de l’examen d’imagerie, le patient veut dire que le raisonnement sémiologie
et lui-même. C'est un triangle infernal, le est appelé à changer, que vous le vouliez
triangle de Karpman en communication : ou non.
persécuteur, sauveur, victime. Justement
il pourra se consacrer à cela. Il ne sera pas Au lieu d'en avoir peur, je pense que c'est
un persécuteur, mais il sera un sauveur, il plutôt un avantage, parce qu'on le voit déjà.
se consacrera à son véritable métier ; faire On se fait engueuler parce qu'on fait trop
du diagnostic, et accompagner le patient, d'examens, mais en fait c'est parce qu'on
entre le chemin du prescripteur et le de- nous demande les examens. Cette ten-
mandeur. dance va aller en augmentant avec la dé-
mocratisation des outils, des petits outils de
Joachim SON-FORGET radiologie. Cela va continuer de replacer
J'abonde dans le sens de mon collègue. fortement le radiologue en plein cœur de
Dans le cas de la dermatologie, c'est intéres- l'expertise de première ligne nécessaire,
sant, mais s’il s'agit de votre propre formule place qu’avait avant la sémiologie classique,
sanguine, vous préférez faire confiance à la qu’on vous enseignait avant. Vous croyez
machine qu’à une laborantine qui compte tous qu’il faut faire un examen clinique, un
les cellules. Il n'est pas exclu qu'il se passe interrogatoire, néanmoins la radiologie va
la même chose avec notre spécialité de- venir de plus en plus en première ligne par-
main. Maintenant, il faut bien se poser la tout. Il vous reste ça, il faut y croire.

Chapitre III - Les échanges - Table ronde - 181


Ce n'est pas enseigné, on
le fait tous un peu sur le tas.
Cette connaissance un peu
fine et un peu pratique, on ne
l’enseigne pas à nos internes,
et c'est regrettable. Vous
le faites pour ceux qui font
du thorax, vous « mippez »
pour ne pas rater vos lésions,
mais c'est de la connaissance
empirique. On pourrait co-
Dr. J.-P. Masson, Sénateur A. Houpert, Député J. Son-Forget, Pr. J.-F. Meder
difier les choses pour dé-
velopper plus finement cette
Il y a une deuxième chose qui reste quand compétence technique. Je ne vais pas vous
le courant est coupé, ou quand vous n'avez embêter, mais je le fais, par exemple, pour
pas tous ces algorithmes, c'est votre capaci- mes cas de sclérose en plaques, et pour
té de perception que vous développez par mes cas de métastase cérébrale. Je fais la
votre expertise. C’est l'expérience. Malheu- même chose, mais la plupart des gens ne
reusement, on ne l'exploite pas assez dans le font pas.
la formation, parce que je crois que là, il y a
une diversité des pratiques énorme. Ce sont des petites choses. Il y a la réalité
virtuelle, la réalité augmentée, tout ce que
Je viens des sciences cognitives, j’ai fait un vous voulez, mais il reste la réalité physique
double cursus, c’est pour cela que je suis de votre propre connaissance et ce n'est
allé en Suisse, je vais tout vous expliquer. pas enseigné. C'est quelque chose qui reste
J'ai fait un premier master à l’ENS, après je une vraie valeur ajoutée que n'auront pas
suis parti en Suisse à l'École Polytechnique les autres cliniciens qui lisent des images
de Lausanne. Là, j'ai fait un doctorat de neu- sans savoir ce genre de choses. Il faut aussi
rosciences. Ce sur quoi on travaille, c'est sur penser aux human resources, et ce que l'on
tous les biais cognitifs et la conscience, et peut encore développer en plus comme
de chronométrer un peu les activités men- valeur ajoutée dans notre domaine, et en
tales. C'est vrai qu'en radiologie, on pour- gain d'efficacité, pour en effet, comme le
rait être encore plus efficaces sur la façon disait le Professeur Chang, au lieu de pas-
de faire du diagnostic en ayant une bonne ser notre temps à reconstruire des choses, à
connaissance de nos propres limites at- faire de l'informatique de bas étage, inves-
tentionnelles, une bonne connaissance de tir pour garder du temps humain.
la façon de déployer notre regard sur les
images. C'est de l'ergonomie de base, cela com-
mence par vos ordinateurs qui sont mal

182 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


ANNONCE DU LANCEMENT D’UN ÉCOSYSTEME D’INTELLIGENCE ARTIFICIELLE

Jean-Philippe MASSON Jean-François, et tous les autres repré-


À l’issue du séminaire que la FNMR vient sentants de la radiologie française - sera
d'organiser à Lyon, consacré à l'intelli- mené et nous l'avons entendu aujourd'hui
gence artificielle, avec Jean-François Mé- c'est essentiel, dans le respect des règles
der, nous avons souhaité annoncer que le éthiques et législatives de notre pays.
G4 - qui est le Conseil national profession-
nel de la radiologie, composé du collège Nous espérons que ce projet permettra
des enseignants en radiologie française, de maintenir une indépendance de la ra-
de la FNMR, de la Société française de ra- diologie française, qui respectera la vision
diologie et du Syndicat des radiologues humaniste de notre radiologie française,
hospitaliers - allait compte tenu d'un vide vision humaniste que nous avons toujours
qui a été démontré à l'issue de toutes les mise au service de nos patients.
présentations qui ont eu lieu aujourd'hui,
le G4, c'est-à-dire la radiologie française, Jean-François MEDER
va se lancer dans la création d'un projet Merci beaucoup Jean-Philippe. Je vou-
d'écosystème en intelligence artificielle drais simplement insister sur le fait que,
qui sera dédié à l’imagerie médicale. parfois cela nous est, sinon reproché, du
moins, rappelé, c'est une démarche de
Nous avons, en France, grâce à l'activité la radiologie française en général, au-de-
des radiologues, libéraux et hospitaliers, là du mode d'exercice, au-delà des fron-
un big data de plus de 500 millions de tières qui ont pu être créées par d'autres.
dossiers, qui regroupe à la fois des dos- C'est une magnifique démarche qui est
siers image, bien entendu, mais ces dos- soutenue par la totalité des quatre com-
siers image sont tous corrélés avec les posantes du G4. Je voulais vraiment insis-
comptes rendus. Ces dossiers sont archi- ter sur ce fait. Merci.
vés par les médecins en France, dans des
conditions que nous savons bonnes, dans Applaudissements
leur service.

Cette nouvelle technologie permettra


un progrès médical certain, qui sera au
service de nos patients. Nous sommes
convaincus, on le sait, que c’est un vrai
défi, médical et technique. Ce défi, ce
projet - que nous entendons mener avec

Chapitre III - Les échanges - Table ronde - 183


configurés. Votre souris qui n'est pas adap- étions les fers de lance de la radiologie
tée parce que vous n'avez pas la même que dans un monde. Aujourd'hui nous paupé-
moi, où j'ai dix boutons de raccourcis qui risons notre spécialité, et cela m'inquiète
me permettent de faire toutes mes opé- terriblement.
rations au bout de la main. Et toutes ces Applaudissements
choses, il faut travailler dessus. C'est le côté
éducation de nos jeunes internes pour ac- Olivier COLIN
quérir une compétence particulière, que Messieurs les politiques, je vais vous de-
les autres cliniciens ne pourront pas avoir à mander la première réaction à chaud à
défaut d'avoir cet enseignement, il faut aus- cette annonce.
si y penser.
Joachim SON-FORGET
Jean-François MEDER Cela fait des années que je vais à des
Deux mots. Le premier, c'est que l'intelli- congrès de radiologie, où j'entends par-
gence artificielle, on l'a dit, va permettre ler de big data et d'intelligence artificielle
d'augmenter la productivité. J'aimerais par des gens qui des fois ne comprennent
quand même rappeler que la France est pas ce qu'ils disent, mais qui rabâchent les
championne du monde en termes d'utili- mêmes présentations à chaque fois, et on
sation des machines. Nos machines sont n'en voit pas le bout du nez.
saturées, vous le savez très bien, et on n'a
absolument pas le temps d'en faire... Je ne À un moment donné, il faut prendre le tau-
vois pas comment nous pourrions augmen- reau par les cornes, l'initiative que vous
ter. C'est impossible. C'est le premier point. avez doit être soutenue. Parce que si on
Le deuxième point, c'est que dans le rap- veut faire de la France, et de l'Europe, un
port Villani, que je n'ai pas appris par cœur, acteur de l'intelligence artificielle qu'elle
mais que j'ai lu un peu, le mot imagerie mé- n'est pas encore, mais qui en a le poten-
dicale apparaît six fois. Si vraiment c'est une tiel, il faut que quelqu'un donne l'exemple.
priorité, cela doit apparaître plus souvent. Quoi de plus beau que de le faire dans les
Si vraiment c'est une priorité, nous doit être professions médicales, parce qu'elles ont
invités par les auditeurs. Or nous y sommes besoin d'être modernisées. On a besoin
allés et nous avons été auditionnés par ce de donner l'exemple, et qui mieux que les
que nous avons demandé à être audition- radiologues peut le faire, parce que vous
nés. Ce n'est quand même pas tout à fait avez su vous adapter. Vous êtes passés en
normal. Nous sommes à peine cités. effet de l'argentique au scanner ou à l'IRM,
J'aime beaucoup, et cela m'inquiète ter- ou à toutes les modalités qu'on sait. Mais
riblement, votre parallèle avec la sidérur- aujourd'hui il y a encore un saut technolo-
gie. Parce que j'aimerais signaler aussi que gique à sauter, c'est aux radiologues de le
l'achat d'appareils low coût, maintenant en faire.
France, devient complètement banal. Nous

184 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


Vous pourrez être un beau fer-de-lance velopper son marché. Il faut que l'on avance,
de l'application du principe du big data. il faut que l'on arrête en France de ne pas
Nous pourrons être un beau fer-de-lance prendre le bon train, parce qu'on prend tou-
de l'application du big data en France, et jours le train en retard.
peut-être un modèle européen. Je tiens à
vous féliciter pour cette initiative. Sachez Souvenez-vous de Hounsfield. Quand il a in-
que l'on essayera de vous soutenir au venté le scanner, il est allé voir un industriel
maximum, comme législateur. J'ai associé batave. Il lui doit présenter son dossier, il n'y
ma collègue Anissa Kheder, elle prendra a pas cru. Il est retourné en Angleterre, il a
position comme elle veut, mais au moins je vu son copain John Lennon qui lui a dit : «
lui aurai présenté les choses. Elle est dépu- viens chez moi, mon patron, propriétaire de
tée de Lyon et je lui ai conseillé de venir et la société de disque EMI, a plein d'argent,
de vous écouter aujourd'hui. On essayera je pense qu'il va t’aider. » Le propriétaire
de faire cheminer ces idées au Parlement d’EMI a été conquis par la découverte de
français. Merci. Hounsfield, et les premiers scanners, c'était
EMI. J'ai travaillé dessus. Ensuite, EMI a ven-
Applaudissements du sa licence à cet industriel batave. On a
perdu du temps. Ne perdons pas de temps,
Alain HOUPERT allons-y, c’est important.
Comme mon collègue, je dis bravo. Tout à l'heure, on a parlé de l'Estonie, on
Imaginez que le RGPD 3 soit en exercice à a parlé de la Chine. On a parlé d'Israël. Là
la Renaissance, je pense que André Vésale où il y a de la recherche sur l'intelligence
et Ambroise Paré n'auraient pas inventé artificielle, c'est dans les pays où il y a de
l'anatomie et on serait encore au Moyen- la dépense sur la défense, sur la sécurité.
Âge. Il ne faut pas avoir peur de regarder Je vais souvent en Israël. C'est très impres-
devant. La France est le pays des lumières. sionnant, c'est un pays où les start-ups se
Nous, les radiologues, nous cherchons la développent à grande vitesse, c’est un
lumière dans les ténèbres. pays où ils sont capables de se remettre en
question. Soyons à l'image d'Israël.
Je suis allé avec mon collègue Jean-Philippe, J'ai rencontré la dernière fois que je suis
il y a quelques années, au HIMS, à Tampa en allé en Israël, Shimon Peres. Il m'a dit :
Floride. C’est le plus grand colloque améri- « vous êtes trop pessimiste en France, il y
cain autour de l'informatique médicale. J'ai a deux façons d'être optimiste : soit vous
été impressionné parce que nous avons été regardez le verre à moitié plein, soit vous
reçus par un collègue sénateur américain, continuez à le remplir. » Moi qui suis sé-
qui possède son hôpital, et qui investit des nateur du Mont Rachais, je continue à le
millions de dollars chaque année. Il vend ses remplir.
datas complètement anonymisées, pour un
million de dollars, et cela lui permet de dé- Applaudissements
3
Règlement général sur la protection des données.

Chapitre III - Les échanges - Table ronde - 185


Jean-Philippe MASSON qu'à 70 %, alors que nous radiologues li-
Pour te répondre, je trouve que nous, ra- béraux n'avons pas été aidés pour les sys-
diologues, faisons preuve d'un optimisme tèmes d'information, qui est l'équivalent,
et d'une ambition qui est quand même as- et on est tous équipés.
sez exceptionnelle. Le verre, on le voit vrai-
ment à moitié plein, et même très plein. Nous sommes équipés avec des PACS
qui archivent en DICOM. Il n'y aura pas
Un intervenant tellement de difficultés pour transmettre
Comment allez-vous organiser la mise à l'information. La seule difficulté que nous
disposition de dataset d'images pour les puissions avoir, ce sont les réconciliations,
cabinets privés ? À quoi sont-ils contraints ? parce qu'il n'y a pas d'identifiant national
Sur quelle plate-forme ? Comment organi- unique. C'est quelque chose qui va abou-
sez-vous ce pot commun ? tir parce que le ministère a découvert sur
conseil de l'ASIP qu'il y a un identifiant
Jean-Philippe MASSON national qui peut être utilisé, c’est le nu-
D'abord, on va tout mettre en route pro- méro de la sécu. Ce sera quelque chose
gressivement. Les cabinets privés sont d’important, et comme le faisait remarquer
équipés avec des PACS depuis un certain Paul Chang, c'est un avantage que nous
nombre d'années. Je ne me souviens plus avons par rapport aux Etats-Unis.
de la date où le forfait archivage a été Les hôpitaux, la majeure partie, les gros
créé, avant d'être supprimé, mais cela fait producteurs d'images sont tous équi-
peut-être une petite dizaine d'années que pés avec des PACS. Maintenant il reste à
le gouvernement avait compris l'intérêt mettre en place toute l'infrastructure, cela
d'aider les radiologues libéraux. Il y avait va être compliqué. Chacun de nous, dans
d'abord eu le forfait numérisation, ensuite nos composantes, nous allons désigner un
il y avait eu le forfait archivage. Et tout le responsable. Il y aura une espèce de direc-
monde en bénéficiait, à partir du moment toire, j'imagine, qui va gérer l'organisation
où ils possédaient un PACS. Actuellement, de tout ça.
pratiquement 100 % des cabinets libéraux
sont équipés. Je réponds tout de suite à la question
C'est pour cela que quand je lis dans une avant que vous ne la posiez : et le finance-
dépêche qu’à la suite de la semaine du sa- ment ? Je n'en sais rien mais je pense qu’il
lon de l'hospitalisation, il y a un cri de joie falloir sélectionner parmi toutes les socié-
de la FHF qui dit : « c'est fabuleux, 70 % tés qui vont se jeter sur nos centaines de
des hôpitaux ont enfin un dossier informa- millions de dossiers. »
tisé pour leurs patients. », cela me fait bon-
dir parce qu'il y a eu trois ou quatre plans Un intervenant
numérique, financier, informatique, pour Avant de parler de l'image, dans l'intelli-
aider les hôpitaux, et ils n’en sont toujours gence artificielle, il y a ce problème de la

186 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


protection des données qui est vraiment à qui appartenaient les données. Nous
un risque de nous tirer vers le bas. Ima- avons préparé ce séminaire en vue de l'an-
ginez le scandale du Médiator. Je parle nonce que nous allions faire. Il va falloir
aux gastro-entérologues, le scandale du effectivement mettre dans la balance le
Médiator, vous vous souvenez ? Il a fallu poids des données que l'on va fournir, ver-
qu'une de nos collègues pneumologues sus les algorithmes qui nous seront propo-
se batte, soit conspuée par les médias, et sés. Ce sera un deal.
qu'on l'écoute enfin. Si on avait toutes les
données cliniques des patients anonymi- Encore une fois le détail, je ne le connais
sés, on aurait à appuyer sur la touche Mé- pas. Nous allons monter cela tranquille-
diator, on aurait vu tout ce que cela pou- ment. Peut-être qu'on se retrouvera dans
vait créer. un an pour faire le point là-dessus, ou
peut-être qu'on en parlera même avant,
Allons vers l'avant, nous sommes des ra- au moment des JFR 4. Dans trois ou quatre
diologues. Nous sommes des médecins, mois, en octobre, nous aurons déjà un peu
praticiens, porteurs d'humanité, mais sur- avancé sur ce sujet, et on pourra préciser
tout des entrepreneurs, des gens tournés un certain nombre de choses.
vers l'avenir. Je pense que nous pouvons
apporter notre pierre à l'édifice. Patrick GASSER, président de l’UMESPE
Je voulais tout d'abord vous dire bravo
Un intervenant pour cette initiative. Je pense qu’il faut em-
J'ai une question, puisque j'étais au dé- mener l'ensemble de la profession. Vous
but du mois de mai au Collège de France, l'avez tous dit. On a parlé de la France, on
où un membre de l'AP-HP nous a détaillé a parlé de l'Europe, et on a dit qu'il faudrait
le projet des hôpitaux de Paris pour leur un projet européen, fédérateur. Il va donc à
banque de données. L'une des questions mon avis falloir à un moment ou à un autre,
qu'ils ont soulevées, c'est : qu’est-ce qu'on ouvrir très largement à l'ensemble des
fait des données ? Et en particulier, ils ont spécialités. D'ailleurs j'ai compris quand
une inquiétude, qui est limite paranoïaque, même, pour fournir et pour faire de l'IA, il
de ne pas se faire piquer les données par faut du diagnostic. Et le diagnostic, vous le
des gens qui reviendraient leur revendre savez, on l’a souvent, non pas au moment
ensuite les algorithmes dans des logiciels même de l'imagerie, mais parfois après. Il
qu'ils utiliseront. est important de rentrer de bonnes don-
nées. Je pense que là, tout le monde a un
Jean-Philippe MASSON rôle à jouer. C'est un élément qui peut être
Nous sommes bien d'accord. C'est juste- fédérateur demain. En tant que président
ment un des problèmes que nous allons de l'UMESPE, vous comprendrez bien que
avoir. Ce n'est pas pour rien qu'il y avait je dois être fédérateur dans ce domaine.
une avocate aujourd'hui, qui a expliqué En ce qui concerne le financement. Au-
4
Journées Francophones de Radiologie.

Chapitre III - Les échanges - Table ronde - 187


jourd'hui, on finance des registres dans est confrontés tous les jours, comme par-
le cadre de l'ONDAM 5. Il va falloir porter lementaires. Ce n'est pas forcément un
ce type de financement, à la fois dans la problème de convaincre la ministre ou son
convention et dans le PLFSS 6 de l'année cabinet, c’est tous les gens qui vous ralen-
prochaine, par exemple. Mais cela, c'est à tissent à différents étages.
nos politiques de le faire demain.
Donc, si vous emmenez toute la profession
Joachim SON-FORGET médicale avec vous, c'est beaucoup plus
Je suis tout à fait d'accord avec vous. Je ne facile, et personne ne peut vous objec-
vais pas avoir le réflexe corporatiste, pour ter que : « oui, vous les radiologues, vous
cette raison, parce qu’il faut emmener tout voulez vous faire un peu de fric en plus.
le monde. Vous vous rappelez de l'histoire Du coup, vous essayez de doubler tout le
du PACS, une fois que l'on est passés et monde. » Là, au moins, on y va de front.
qu'on avait les beaux outils, les outils de Même si on est à l'avant-poste, je pense
reconstruction, 3D, etc. On donne au mé- qu'il faut emmener les autres avec, et en
decin traitant une espèce de sous-viewer effet on augmente la qualité de la donnée.
pourri, où on voit les images toutes pixel-
lisées, on peut les passer une par une, Un intervenant
toutes les quatre secondes. Histoire qu’il Merci beaucoup. Je partage votre point de
n'ait pas le même outil que nous, et qu'il vue, une partie du moins. J'en parlais tout à
ne soit pas aussi bon que nous. C’est pué- l'heure avec notre collègue, je crois qu'en
ril, on en est revenus. On est seulement en France, on a, dans la formation, un grave
train d'en revenir. problème. Nous avons une formation ini-
tiale médicale qui est commune, et après,
Dans la même dynamique, il va falloir em- une formation de spécialités en silos, qui
mener tout le monde. Et pourquoi ? Parce est donc corporatiste. Ce corporatisme, on
que la profession, la radiologie aura été le traîne avec nous pendant toute notre vie
le fer-de-lance, mais ensuite si on em- professionnelle. Ce que propose Jean-Phi-
mène toutes les autres spécialités, d'un lippe, car il faut reconnaître que Jean-Phi-
seul coup… Je suis en train de vous faire lippe est à l'initiative de ce joli projet, je
du consulting là, pour convaincre une ad- crois, peut-être pas immédiatement, que
ministration comme l’administration fran- c'est une belle façon de rapprocher les
çaise. Parce que la volonté politique peut spécialités qui voudront se rapprocher. On
être là, mais on peut avoir des bons et est en France, pays de clochers.
des moins bons ministres, je pense qu'on
a une bonne ministre. Mais par contre, On l'a montré d'ailleurs au ministère
pour convaincre tout ce qui vient avec, quand il s'est agi de réfléchir à l'autori-
le poids de l'administration, et je ne vise sation de la radiologie interventionnelle.
pas une personne en particulier, mais on y Nous avons demandé à ce que ce soit
5
 bjectif National des Dépenses d’Assurance Maladie.
O
6
Projet de loi de financement de la sécurité sociale.

188 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


l'imagerie interventionnelle, parce que la Joachim SON-FORGET
radiologie, comme d'autres activités inter- Je vous invite aussi à aller regarder, on a
ventionnelles, va partager, avec d'autres parlé de l’Estonie, du coté de ce type de
peut-être, des outils communs. La radiolo- pays qui sont peut-être plus petits que la
gie est une belle voie de formation au trai- France mais qui ont réussi des transitions
tement guidé par l'image, comme d'autres numériques considérables. Taavi Kotka,
le sont. On est ouverts, mais cet esprit cor- ancien responsable de la numérisation de
poratiste existe, il faut le reconnaître, donc l'Estonie participera à un colloque que j'or-
cela prendra peut-être un peu de temps. ganise en Suisse au mois d'octobre. Ils ont
utilisé la technologie blockchain pour la
Jean-Philippe MASSON vérification des identités, pour la création
Je voudrais juste préciser, ce projet n’est d'un registre d'identité, c'est un exemple
pas destiné à gagner de l’argent. Ce n'est parmi d'autres choses que ce pays a fait.
pas du tout le but. Je ne sais pas quelle Mais il faut vraiment aller regarder, faire
sera la structure juridique qui sera choisie. le benchmark, aller regarder les bons
L'idée est vraiment de mettre à disposition exemples qui ont été faits, même dans
de la profession un outil qui pourra être d'autres domaines, pas forcément celui de
offert aux radiologues pour qu'ils puissent l'imagerie, et s'en inspirer fortement.
travailler dessus.
On a vraiment une chance, je crois, d'être à
C'est pour cela que tout à l'heure je vous la fois un symbole de réussite, en pratique,
disais, 400 millions de dossiers, c'est un de l'intelligence artificielle, et finalement
peu une monnaie d'échange avec les in- de modernisation de la médecine. Ce
dustriels. On leur propose les datas de la sont deux objectifs qui je le rappelle, sont
radiologie française, et en échange, ils vont des choses qui ont été annoncées dans le
offrir les produits, les outils aux radiologues programme d'Emmanuel Macron. J'ai fait
français qui auront participé à cette base de campagne avec lui depuis le tout début,
données. Après, que va-t-il se passer dans avant même qu'il soit ici en campagne.
le reste du monde ? Parce que ces outils, il Je sais que c'était des choses qui lui te-
ne faudra pas les limiter à la France, parce naient à cœur, l'intelligence artificielle, la
que la radiologie c'est la radiologie. Peut- modernisation du système de santé et la
être qu'à ce moment-là, il y aura une ré- numérisation de toute l'administration de
flexion commerciale à mettre en place. manière générale.

Mais pour ce qui est de notre territoire On participe de l'effort des deux côtés,
hexagonal, l'idée ce n'est pas de faire de et c'est vraiment ce qu'il faudra mettre
l'argent. L'idée est vraiment de créer un en avant pour que l'on n'objecte plus à la
outil qui tienne compte de nos spécificités, profession : « oui, mais la téléradiologie
de la façon qu’on a de travailler. ne peut pas être une sous branche de la

Chapitre III - Les échanges - Table ronde - 189


télémédecine, etc. » L'argument n’est plus on est trois, mais on peut se multiplier, de
recevable à partir du moment où vous êtes faire avancer les choses, et négocier un
le moteur de la réforme, finalement. PLFSS intelligent.

Alain HOUPERT Robert LAVAYSSIERE


Tout à l'heure Jean-Philippe a dit : « pour- Jean-Philippe, tu as posé une question
rons-nous encore investir ? » Chaque an- aux parlementaires. Le sénateur Houpert
née, nous votons le PLFSS, et chaque an- vient de répondre assez partiellement à la
née la radiologie, qu'elle soit privée ou question qui est celle du financement et
publique, fait toujours à coût constant. de la baisse régulière de nos moyens dans
C'est-à-dire que l'on réduit à chaque fois des proportions qui deviennent déraison-
des équivalents temps plein dans l'hôpital, nables. On sait aussi que la valeur de nos
et pour les libéraux, on baisse les cotations. actes tombe dans certains cas en dessous
Je pense que c'est un outil de négociation même d’une consultation de médecin gé-
qui serait très important pour qu’on un peu néraliste.
la profession en paix, et qu'on arrête d'être Là, nous nous lançons dans un projet, qui
stressés, que l'on soit à l'hôpital ou en pri- est tout à fait extraordinaire et bienvenu,
vé. Stressés pas pour nous, mais parce que dans un contexte qui paraît un peu dé-
nous sommes des chefs d'entreprise, ou lirant. Notre ami Jean-François Meder a
vous, des chefs de service, vous êtes des bien insisté sur le fait que nous étions en
exécutants, et vous réduisez pour faire des train de paupériser nos équipements, et
économies. que c'était une très mauvaise tendance.
Ce que je regrette, c'est que les projets de C'est-à-dire que même dans les hôpitaux
loi de financement de la Sécurité sociale universitaires, on voit des scanners qui ne
soient toujours des recettes, cotisations, sont plus à la hauteur de ce qu'ils devraient
et des dépenses. Alors qu'on devrait voir avoir en termes de recherche.
d'une manière globale holistique, toutes
les recettes. Et les véritables recettes, c'est Ma question était un peu différente, cette
tout l'argent qui est créé par l'emploi par remarque étant posée. J'ai eu tout à l'heure
l'industrie pharmaceutique. une discussion intéressante avec Luc Soler
Quand on a inventé les génériques pour à propos de son produit. Si on peut appe-
faire des économies, on a tué l'industrie ler cela un produit. Comme vous le savez,
pharmaceutique française. Tous les géné- on a une agence en France qui s'appelle la
riques sont faits en Inde et en Chine. 20 % HAS 7, et depuis quelques années, on nous
reviennent frelatés, parce que cela vient rappelle sans cesse la procédure rapide
dans des containers. La qualité et le sui- concernant la prise en charge de l'innova-
vi, c’est toujours les circuits courts. Cette tion, et pour quelques-uns qui parmi nous
nouvelle est une grande nouvelle, car cela se sont attaqués à cette filière, on s'est
nous permettra à nous, parlementaires, rendu compte qu'on arrivait très vite à des
7
Haute autorité de santé.

190 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


obstacles mis en place pour que justement circonflexe, car quand ils avaient un bon-
cela n'avance pas. net d'âne et qu'ils se regardaient dans la
On a vu tout à l'heure, Monsieur So- glace, ils ne se reconnaissaient pas, parce
ler nous expliquer que cet enfant, pour qu'ils voyaient ANE avec un accent circon-
prendre l'exemple du néphroblastome, flexe.
avait échappé à la dialyse, avait échappé Mais il y a aussi l'école de Rennes, qui a été
à la transplantation et se trouvait à l'issue inflationniste dans tous les hôpitaux. On
de l'utilisation des procédures guidées par avait des hôpitaux qui marchaient bien, on
le système qu'ils ont mis au point, en par- a créé des vaisseaux-amiral, des cimetières
faite santé. Il y a donc une économie, bien à étage, des endroits où les patients ne se
sûr, sur l'état de santé de cet enfant qui n'a sentent pas reconnus. Il y avait un système
pas eu à souffrir de tout cela. C’est déjà ex- français, qui était un système pavillonnaire
traordinaire. La société dans son ensemble qui marchait bien, qui était humain. Je me
a aussi fait l'économie des dépenses y af- souviens, quand on était interne, on se
férentes. sentait bien à l'hôpital. Je vois les jeunes
Or, Luc Soler a déposé des dossiers. On lui maintenant, ils ne connaissent même pas,
a demandé en permanence une escalade cela devient des techniciens.
dans le nombre de patients, et finalement, Il faut renverser la table. Le Président
ils en sont arrivés à se dire qu'ils allaient Macron a dit : « renversons la table ». L'ad-
se dispenser du financement potentiel de ministration n'est pas là pour guider le
la filière de l'innovation, avec laquelle on pays. C'est le politique qui doit guider le
nous bassine depuis des années. pays. L'administration doit être au service
La question que je voulais vous poser c'est : du politique, et tant qu'on n'aura pas fait
est-ce que oui ou non, vous allez pouvoir ça, on n'aura pas renversé la table.
faire évoluer ce système, au lieu d'inaugu-
rer les chrysanthèmes ? Applaudissements

Alain HOUPERT Joachim SON-FORGET


Avant de venir, j'ai inauguré ce matin Il y a aussi des énarques bien. On en a un à
quelques chrysanthèmes. Cela fait partie Matignon et à l'Elysée. Mais en effet, il y a
de notre travail, on préférait être… C'est quand même un effet d'entraînement dans
vrai que ce n'est pas facile d'être parle- d'autres niveaux de l'administration, ce
mentaire. Parce que la semaine, on est à n’est pas forcément la faute des écoles qui
Paris, et le week-end, on est… dans des les forment, ou la faute des individus sépa-
congrès, dans des inaugurations. rés. Le système, de manière générale, crée
Mais vous avez évoqué un gros problème, parfois un effet un peu d'entropie, voire
qu'a évoqué mon collègue tout à l'heure d'entropie volontaire. Nous le constatons
l'administration. Il y a l’ENA, et c'est peut- comme politique. On peut partager ce
être pour cela que l'on a supprimé l'accent constat, parce que, c'est toujours une es-

Chapitre III - Les échanges - Table ronde - 191


pèce d'équilibre malheureusement trop vous n’avez pas complètement encore. On
stable, entre un politique qui a envie de sait tous comment on fait. Je n'aurais pas
réforme, de quel que bord qu'il soit, mais dû le dire.
qui a envie de faire passer des réformes, et Il faudra faire la même chose pour cet ob-
une administration qui est pour stabiliser jet, l'anticiper, et venir nous abreuver avec
le système, notamment dans les périodes cet argumentaire que nous deux pouvons
de transition. Elle est utile dans les transi- entendre. J'imagine que notre collègue
tions politiques, mais elle peut s'avérer le Didier Martin, qui est député de la Côte
premier obstacle, quand vous essayez de d'Or, pourra l'entendre aussi parce qu'il
faire changer les choses. Je n'ai rien contre est aussi radiologue, mais il va falloir aller
les personnes individuelles. convaincre les autres médecins de l'As-
C'est pour cela que si vous voulez faire semblée et du Sénat, et surtout les autres,
réussir un projet comme le votre, il faut le non-médecins de l'Assemblée et du Sénat.
faire réussir à tous les étages. De la même Là, la tâche va être ardue, parce qu'il faut
façon que quand on veut faire passer une dépasser l'objet du lobbying corporatiste,
idée, une loi, un amendement, on fait notre on vous attend et on reste ouvert à ces
campagne de presse aussi de notre côté. propositions.
On fait des campagnes de lobbying par
groupe de députés ou de sénateurs qui Jean-Philippe MASSON
s'amoncellent. Parfois on va chercher chez Pour clôre cette journée, je voudrais remer-
les voisins d’autres partis « non, tu ne de- cier tous les participants, d'abord les inter-
vrais pas faire ça. » Si, j’y vais quand même venants, nos amis politiques, nos confrères
c’est mon côté suisse, j’aime bien travailler et collègues politiques qui nous ont fait
avec les gens des autres partis. Vous allez l'amitié de venir. Je remercie bien entendu
pouvoir faire cela aussi. Paul Chang d'avoir fait quelques milliers
Pour transformer l'essai, il faut venir avec de kilomètres depuis Chicago pour venir,
un projet qui soit grand. J'espère qu’aux et de toute façon, nous irons le voir évi-
prochaines étapes, comme les JFR, l'in- demment au mois de décembre, au mo-
tention soit transformée déjà en un objet ment du RSNA, c'est absolument certain.
concret. Parce qu'il faudra faire attention
aux échéances politiques. En effet, pour Je remercie tous nos sponsors industriels
nous, c’est le projet de loi de financement qui nous ont aidés. Je sais qu'il y en a qui
de la Sécurité sociale, et cela va venir vite. étaient très intéressés par l'annonce qui
Si ce n’est pas pour la première fois, il faut allait être faite. Nous les attendons mainte-
que ça soit au moins pour la fois d'après. nant avec des propositions.
Mais cela veut dire que, de la même façon
que vous tous, quand vous envoyez des Toutes les présentations qui ont été faites
abstracts pour le congrès d'après, il faut ont été enregistrées en vidéo et seront
anticiper six mois avant des résultats que disponibles progressivement sur le site de

192 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


la FNMR. Toutes les interventions ont été
enregistrées et feront l'objet d'un livre qui
paraîtra au moment des Journées Franco-
phones de Radiologie (JFR) en octobre.
Le texte en anglais aussi sera disponible
en format PDF, pour que Paul puisse trans-
mettre la bonne parole française chez nos
grands cousins américains.

Applaudissements n

Chapitre III - Les échanges - Table ronde - 193


IV - Un écosystème
français d'I.A.
IV - CONCLUSION
Un écosystème français
d’Intelligence Artificielle
dédiée à l’imagerie médicale
En conclusion du séminaire, le Dr Jean-Philippe
Masson, président de la FNMR, et le Pr Jean-Fran-
çois Meder, président de la SFR, annonçaient le lan-
cement prochain d’un écosystème français d’Intelli-
gence Artificielle dédié à l’imagerie médicale.
A la suite de cette annonce, les participants aux sé-
minaires ont pu réagir et questionner les deux prési-
dents (voir le chapitre table ronde). Le sénateur Alain
Houpert et le député Joachim Son-Forget, tous deux
médecins radiologues, ont livré leurs premières ré-
actions et affiché leur soutien à cette initiative.

Voir le communiqué ci-contre. n

Le Dr. Jean-Philippe Masson et le Pr. Jean-François Meder

196 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


Paris, le 4 juin 2018
Communiqué

Intelligence artificielle : 500 millions


de dossiers d’imagerie medicale
au service des patients.
Les médecins radiologues préparent
l’avenir.
Le Docteur Jean-Philippe Masson, pré- bellés, grâce à l’exhaustivité des comptes
sident de la Fédération Nationale des Mé- rendus radiologiques archivés par les mé-
decins radiologues (FNMR), et le Professeur decins radiologues des services d’imagerie
Jean-François Meder, président de la Socié- médicale français depuis 5 ans, cet outil
té Française de Radiologie (SFR), annoncent mettra une nouvelle technologie porteuse
au nom du Conseil national professionnel de progrès médicaux au service des pa-
de la radiologie française (G4 1) le lance- tients.
ment du projet d’un « écosystème français Ce projet devra répondre au défi médical
de l'IA dédié à l’imagerie médicale ». et technique que représente l’intégration
Ce système sera indépendant, notamment de ce big data. Il devra aussi respecter les
des GAFA Américains et BATX Chinois. règles éthiques et législatives. Il permettra
Cette annonce a été faite à l’issue du sémi- d’assurer l’indépendance de la radiologie
naire organisé par la Fédération Nationale française en respectant la culture de l’ima-
des Médecins Radiologues consacré à gerie médicale francophone ainsi que sa
« l’intelligence artificielle : rêve ou cauche- vision humaniste afin que cette technolo-
mar du radiologue ? », tenu le samedi 2 juin gie de rupture place toujours le patient au
2018 à Lyon, en présence d’experts inter- cœur du système de santé.
nationaux représentant les communautés Les initiateurs de ce projet, porté par le
scientifiques, politiques et philosophiques Conseil national professionnel de la radio-
ainsi que des représentants de la société logie française (G4), qui s’inscrit dans le
civile. chantier du plan français de développe-
Grâce à un big data potentiel de plus de ment numérique, ne doutent pas d’avoir le
500 millions de dossiers médicaux et li- plein soutien de l’État Français. n
1
 4 : Collège des Enseignants de Radiologie de France (CERF) – Fédération Nationale des Médecins Radiologues (FNMR) –
G
Société Française de Radiologie (SFR) – Syndicats des Radiologues Hospitaliers (SRH).

Chapitre IV - Un écosystème français d'Intelligence Artificielle - Communiqué - 197


V - INTERVENANTS
Pr. Jean-Michel BESNIER Dr. Robert LAVAYSSIERE
Pr. émérite de philosophie Vice-Président de la FNMR
Sorbonne-Université. Médecin radiologue
jean-michel.besnier@sorbonne-universite.fr cab.lav@wanadoo.fr

M. François BLANCHARDON M. Jean-Baptiste LEPRINCE


Président comité régional AURA Directeur Services
FRANCE ASSOS SANTE SIEMENS HEALTHINEERS
fblanchardon@yahoo.fr jean-baptiste.leprince@siemens-healthineers.com

Pr. Paul CHANG Dr. Jacques LUCAS


Université de Chicago Vice-Président du CNOM
Médecin radiologue lucas.jacques@cn.medecin.fr
pchang@radiology.bsd.uchicago.edu
M. Antonin MARCAULT
Dr. Alain FRANCOIS PHILIPS
Président de l’Union régionale AURA Innovation & New Business
Médecins Radiologues Developpement Manager
info@fnmr.org antonin.marcault@philips.com

M. David GRUSON Dr. Jean-Philippe MASSON


Chaire Santé Sciences Po Paris Président de la FNMR
Ethik-IA Médecin radiologue
gruson.david@yahoo.fr info@fnmr.org

M. Aïssa KHELIFA Pr. Jean François MEDER


Directeur commercial et marketing Président de la SFR
AGFA HEALCARE IT Médecin radiologue
aissa.khelifa@agfa.com jf.meder@ch-sainte-anne.fr

M. Cedi KOUMAKO M. Florent PARMENTIER


Président de l'UNIR Expert en géopolitique Européenne
cedi.koko@gmail.com Sciences Po Paris
florent.parmentier@sciencespo.fr
M. Christophe LALA
Directeur général Pr. Luc SOLER
G.E. Président visible patient
christophe.lala@med.ge.com IRCAD
luc.soler@ircad.fr

198 - L’intelligence artificielle : rêve ou cauchemar du radiologue ?


Me Laure SOULIER
Avocate
Cabinet Auber
lauresoulier@cabinetauber.fr

M. François VORMS
CANON
Directeur général
francois.vorms@eu.medical.canon

Chapitre V - Intervenants - 199


Directeur de la publication : Dr Jean-Philippe MASSON

Mise en page : Marc Le Bihan


Edition . Secrétariat . Publicité rédaction . Petites annonces
EDIRADIO – S.A.S. au capital de 40 000 €
Téléphone : 01 53 59 34 01 . Télécopie : 01 45 51 83 15
168 A, rue de Grenelle 75007 Paris

www.fnmr.org E-mail : info@fnmr.org

Président : Dr Jean-Philippe Masson

ALBEDIA IMPRIMEURS
Z.I. Lescudilliers . 26 rue Gutenberg . 15000 Aurillac
Dépôt légal 4ème trimestre 2018

Octobre 2018
Depuis la découverte des rayons X, l’histoire de la radio-
logie a toujours été rythmée par l’innovation technolo-
gique ; échographie, scanner, IRM, PACS, téléradiologie,
etc. Aujourd’hui, une nouvelle étape s’annonce avec l’In-
telligence Artificielle (IA). Rupture, révolution ou simple
évolution ? Intelligence artificielle ou augmentée ? Quel
en sera l’impact sur le médecin radiologue ?

L’IA conduira-t-elle à la consitution de base de données


échappant au contrôle des médecins et des patients ou
permettra-t-elle d’améliorer la connaissance, les applica-
tions médicales au bénéfice d’une médecine personna-
lisée ?

L’IA risque-t-elle de remplacer le radiologue ou au


contraire libèrera-t-elle ses moyens diagnostiques et thé-
rapeutiques au bénéfice d’une relation médecin radio-
logue patient renouvelée ?

Beaucoup de questions que les experts, invités par la


FNMR à l’occasion de son séminaire à Lyon, le 2 juin
2018, ont soulevées apportant les premières réponses
qui tracent le chemin pour les années à venir.