Académique Documents
Professionnel Documents
Culture Documents
www.seuil.com
Titre
Copyright
Introduction
Fabriquer l’humain
2 - « Moi, cyborg »
Un sixième sens ?
Le puçage de l’humain
6 - Fabriquer de l’humain ?
Jouer aux Lego avec du vivant
Des usines à gènes
Une idéologie de remplacement
L’artificialisation de l’humain
Au mépris de l’écologie
11 - Pourquoi résister ?
« Pallier nos carences »
Des promesses irréalisables ?
12 - Comment résister ?
Convaincre ?
Interdire ?
Conclusion
Notes
Introduction
Fabriquer l’humain
Le projet transhumaniste ambitionne de prendre le relais de l’évolution,
pour construire un humain libéré des servitudes corporelles. L’homme
devient ainsi créateur de l’homme. « Fabriquer l’humain », c’est pourtant
prendre le risque de voir se développer une « sous-humanité technifiée », de
plus en plus dépendante de technologies qui modèlent notre corps et notre
cerveau, nos perceptions et nos sensations, et notre relation aux autres.
C’est aussi jouer aux apprentis sorciers, en développant des
expérimentations forcément hasardeuses, malgré la complexité de l’identité
humaine.
Alors que le discours officiel, en France, résiste encore à l’idéologie
transhumaniste, le projet technoscientifique avance discrètement, sans que
ses conséquences potentielles soient discutées par les citoyens, dans les
instances de réflexion éthique ou par le Parlement. Tout se passe comme si
les promesses transhumanistes se confondaient de façon évidente avec un
« progrès » inévitable. Cette vision du monde qui s’impose, sans débat, est
celle d’une conception mécaniste du vivant, d’un homme devenu artificiel.
L’homme-laboratoire de demain, technologiquement ou génétiquement
modifié, sera un mutant. Et pour le transhumanisme, notre condition
humaine, notre finitude, nos faiblesses, nos manques ne sont désormais
qu’un problème pratique, en attente de résolution technique.
L’homme de demain ne s’invente pas seulement dans la Silicon Valley,
mais aussi dans les labos européens. Un marché très lucratif se développe,
encouragé par les pouvoirs publics qui délivrent des crédits pour tenter de
s’imposer dans la compétition mondiale des innovations et brevets. Qui
impulse ces recherches ? Quelles seront les conséquences sociales et
environnementales de ce processus ? Comment les débats démocratiques
sur ces questions sont-ils complètement éludés ou confisqués ? Pourquoi
est-il si difficile de penser l’irruption du transhumanisme dans nos vies ?
C’est à ces interrogations que nous voulons tenter de répondre.
Ce qui nous pose question, c’est la logique conquérante du
transhumanisme. Ces évolutions nous sont présentées comme une liberté,
un droit nouveau acquis par chacun. Mais de grandes ambiguïtés planent
sur la liberté que nous aurons de refuser ces « propositions » qui s’imposent
déjà subrepticement. Certains transhumanistes osent affirmer que ceux qui
ne suivront pas le mouvement deviendront les esclaves de leurs semblables
augmentés (ou même « de la viande »). Charmante perspective… Que
ferons-nous face à l’hégémonie que pourraient acquérir les maîtres des
puissances augmentées (post-humains ou machines artificielles) sur
l’ensemble de l’humanité ? Il faut aussi oser une question à contre-courant :
selon quelle logique et selon quel droit une idéologie peut-elle s’imposer à
ceux qui n’ont rien demandé ? Le dépassement de l’humanité par la
technique est désormais présenté comme inéluctable et irréversible. Il serait
donc impensable de lui résister. Le transhumanisme se présente comme une
« idéologie technoprophétique 5 ». On retrouve ses arguments dans les
discours de vulgarisation scientifique. Des journaux et magazines exaltent
la moindre vantardise de laboratoire comme s’il s’agissait d’une révolution
scientifique et sociétale. Les promesses lancées par les scientifiques jouent
sur la fascination du public, des médias et des politiques pour faire valider
leurs projets fantasmatiques… et obtenir le soutien financier des autorités
comme des industriels.
Sans céder à la technophobie, il nous semble nécessaire de décrypter le
storytelling du courant transhumaniste, rendu visible par quelques excités,
mais aussi par de puissantes entreprises qui modèlent notre imaginaire et
notre rapport aux technologies. Il ne s’agit pas seulement de quelques
extrémistes qui rêvent d’immortalité, de s’injecter du sang neuf dans les
veines ou de changer un par un tous leurs organes. Même si leurs
associations et leurs colloques ne réunissent que quelques centaines de
personnes, c’est un courant puissant, organisé, aux moyens colossaux. C’est
une idéologie qui peut sembler marginale, mais qui fait la une des journaux.
C’est une vision globale du monde et du devenir de l’homme, avec un
caractère messianique, qui façonne les grandes orientations de la recherche
dans nos sociétés.
Sa force ? Prendre appui sur nos pulsions les plus primordiales, sur nos
espoirs immémoriaux : être plus forts, plus solides, plus rapides, plus
intelligents, moins mortels. Nous affranchir de nos limites biologiques.
Faire de l’organisme une mécanique à réparer, avec des pièces
interchangeables, pour peu qu’on ait les moyens de se les offrir. Les
recherches et expérimentations sont déjà en cours. Les changements
qu’elles nous promettent dans les prochaines années sont inouïs. Rien de
moins qu’une mutation de l’espèce humaine. Des promesses qui occultent
tous les risques inhérents à ces pratiques hasardeuses, et tous les dégâts
collatéraux – l’épuisement des ressources nécessaires, la pression sur
l’environnement, les dangers en termes de santé publique, l’annihilation des
cultures et même la fin de l’humanité.
On nous annonce une révolution de l’espèce en quelques décennies.
Peut-être est-ce survendu. Mais, quelle qu’elle soit, nous n’avons pas les
outils et les lieux pour penser cette mutation. Celle-ci adviendrait, sans
débat démocratique, à une vitesse folle. Qui aujourd’hui se demande en
quoi ce futur serait désirable ? Ou en quoi cela participe (ou non) à
l’humanisation de notre civilisation ? Comme toujours avec les
technosciences, l’éthique et la politique courent derrière, déjà larguées par
les annonces de découvertes et d’expérimentations qui se succèdent. « Cet
homme futur, que les savants produiront, nous disent-ils, en un siècle pas
davantage, paraît en proie à la révolte contre l’existence humaine telle
qu’elle est donnée, cadeau venu de nulle part (laïquement parlant) et qu’il
veut pour ainsi dire échanger contre un ouvrage de ses propres mains,
écrivait la philosophe Hannah Arendt en 1958 6. La seule question est de
savoir si nous souhaitons employer dans ce sens nos nouvelles
connaissances scientifiques et techniques, et l’on ne saurait en décider par
des méthodes scientifiques. C’est une question politique primordiale que
l’on ne peut guère, par conséquent, abandonner aux professionnels de la
science ni à ceux de la politique. »
C’est à cette « question politique primordiale » que nous souhaitons
apporter notre contribution, en nous basant notamment sur des enquêtes
auprès de chercheurs et de personnes impliquées dans ces domaines :
décrire les mutations à l’œuvre, comprendre l’idéologie qui sous-tend ces
innovations et ces promesses, dénoncer ce qui doit l’être – la fascination des
rêves de puissance, les aventures aveugles et désinvoltes qui mèneraient
notre espèce à sa perte, et cette conception du progrès qui veut rendre le
futile indispensable, au mépris des urgences planétaires qui s’annoncent.
PREMIÈRE PARTIE
LES GRANDES MUTATIONS
Aimee Mullins est mannequin. Elle a dix paires de jambes. Elle les
emporte dans ses bagages lors de ses déplacements. Certaines sont adaptées
pour les défilés sur les podiums, d’autres pour les rollers ou les escarpins.
Selon la paire de jambes qu’elle choisit, elle peut mesurer entre 1,72 et
1,85 mètre. Amputée à l’âge d’un an en dessous des genoux, elle a grandi
avec ces prothèses. Elle est devenue championne paralympique, elle a battu
des records en course et saut en longueur. Aimee Mullins est une rescapée :
il y a quelques décennies, sa vie aurait sans doute été bien différente. Si elle
a réussi à dépasser son handicap, c’est que les prothèses d’aujourd’hui ne
ressemblent absolument pas à celles d’hier. Les siennes sont de véritables
chefs-d’œuvre artistiques et techniques, lui permettant non seulement de
« réparer » son handicap, mais aussi d’envisager la situation de manière
positive : « Les chevilles de mes prothèses ne sont pas celles dont j’aurais
hérité génétiquement. J’en suis sûre. Et elles sont bien mieux. » Si elle avait
le choix, à son âge, entre de vraies jambes ou des prothèses, il n’est pas
certain qu’elle choisisse les vraies jambes, explique-t-elle. Elle est devenue
top modèle et égérie de L’Oréal, avec pour objectif de « défendre une autre
vision de la beauté et [de] réfléchir à l’apparence à l’ère de la robotique et
du bionique ».
Autre exemple, celui du coureur Oscar Pistorius. Le célèbre athlète sud-
africain, amputé des membres inférieurs lorsqu’il était enfant en raison
d’une malformation osseuse, a été autorisé à participer à certaines
compétitions aux côtés d’athlètes « valides ». Mais la Fédération
internationale d’athlétisme refuse qu’il participe aux Jeux olympiques de
Pékin en 2008, au motif que ses prothèses lui offrent un « avantage
mécanique évident ». Le risque, estiment les responsables, serait une fuite
en avant du côté des athlètes valides. Certains athlètes seraient-ils prêts à se
couper des membres pour gagner quelques dixièmes de seconde et rester
« compétitifs » ? Quoi qu’il en soit, une prothèse portée par une personne
handicapée peut désormais être vue comme un instrument de dopage. Le
débat est sans fin : Oscar Pistorius, considéré comme un sportif
« avantagé » plus que comme une personne handicapée, sera-t-il demain
également exclu des Jeux paralympiques ?
Un véritable renversement est en train de s’opérer. Déficiences
transformées en avantages, handicaps convertis en ressources potentielles,
nous sommes passés en quelques décennies de la jambe de bois et l’œil de
verre à des prothèses presque désirables. La médecine réparatrice, au
contraire du transhumanisme, ne prétend qu’au bon fonctionnement des
corps. Mais la frontière se brouille quand un amputé des jambes est doté de
prothèses métalliques qui lui confèrent une aptitude à la course dépassant
celle du commun des mortels. Si on leur en offre la possibilité, combien
d’entre nous, atteints par des déficiences ou des handicaps, seraient prêts à
augmenter, plutôt que restituer, les fonctions humaines altérées ? Combien
accepteraient des capacités dépassant celles de l’humain « normal » ? Et
combien d’entre nous, bien-portants, trouveront souhaitable dans quelques
années de remplacer des membres ou des organes sains (ou du moins
fonctionnant encore) par des prothèses ou organes artificiels, jugés plus
sûrs, plus beaux, plus solides, plus pérennes ?
Nous n’en sommes pas encore là, mais nous entrons dans un monde qui
s’y prépare. Nous sommes aux prémices de cette histoire. Là où la
médecine et la technique s’allient pour réparer ce que la « nature » a raté, ce
que les accidents de la vie ou les maladies ont altéré. Mais avec en arrière-
plan, de manière explicite ou encore à peine formulé, le projet de proposer à
chacun, dans un futur assez proche, de « bénéficier » d’innovations qui
facilitent la vie quotidienne des personnes « réparées ».
34
« Moi, cyborg »
Un sixième sens ?
Ils sont quelques milliers dans le monde à avoir choisi de s’insérer des
implants magnétiques dans les doigts. Lancée il y a une douzaine d’années
par deux artistes adeptes des modifications corporelles, la mode s’est
répandue sur toute la planète, au point qu’elle est aujourd’hui proposée dans
certains salons de tatouage. L’implant en néodyme, un métal rare enrobé de
silicone, est introduit par une petite opération chirurgicale au bout des
doigts. Beaucoup recourent à « l’autochirurgie » – des blogs et forums
foisonnent de descriptions d’implantations quelque peu sanglantes, au fond
du garage ou sur la table de la cuisine, sans anesthésie, avec des plaies
refermées à la Super Glue… L’objectif de ces implants : ressentir des
sensations nouvelles. L’aimant réagit aux ondes et champs
électromagnétiques et permet au porteur de « ressentir » ces ondes. Certains
parlent d’un sixième sens ou d’une « vision magnétique ». Bref, une
augmentation des perceptions. On peut bien sûr épater les amis en
aimantant des trombones avec ses doigts, mais aussi ressentir les vibrations
d’un chargeur ou d’un moteur électrique. « Je ressens tout ce que nous ne
voyons pas, comme les micro-ondes, les lignes à haute tension au-dessus de
nos têtes, les vibrations des appareils et circuits électriques aussi. Mon
corps perçoit et quantifie l’invisible », décrit Shawn Sarver, ancien soldat
vivant en Pennsylvanie (États-Unis) 35. Avec ce dispositif, nous pourrons
donc bientôt tous être électrosensibles…
Ces pratiques sont développées par la communauté des body hackers,
des « pirates du corps humain ». Nous ne sommes plus ici dans les champs
médical ou militaire mais dans celui de la transformation volontaire, de
l’extension des sens et des fonctions, par des hybridations de plus en plus
poussées. La démarche s’inscrit dans la lignée des modifications
corporelles – tatouage, piercing ou chirurgie esthétique – mais porte
désormais non plus sur l’esthétique mais sur le « fonctionnel ». Ces body
hackers revendiquent aussi l’héritage du hacking (« bidouillage » des
machines et logiciels informatiques) et du biohacking (bricolage des
cellules et des gènes 36). Leur credo ? La débrouille. Ne pas attendre des
miracles de la technologie et de la recherche, mais faire ici et maintenant,
dans une démarche plus underground. Avec un appétit clairement décuplé
par les nouvelles promesses de l’univers technologique.
Ici, « devenir un humain augmenté » sonne comme une formule
mystique ou une incantation magique. Une forme de quête existentielle,
avec pour objectif la recherche de sensations et d’expériences nouvelles.
« Pour bien comprendre ce qu’est le body hacking, il faut avoir une vision
claire de la signification de hacking. Qu’est-ce qu’un hacker, au sens
informatique du terme ? C’est une personne qui cherche à avoir une
maîtrise totale des outils qu’il utilise – ordinateur, logiciel, téléphone ou
autres –, pour en comprendre le fonctionnement profond et en n’hésitant
pas à les modifier pour les adapter à ses besoins », explique Cyril Fievet 37,
auteur de l’ouvrage Body Hacking : pirater son corps et redéfinir l’humain.
Le body hacking transpose cet état d’esprit au corps humain. « Ce dernier
n’est plus vu comme une “machine” aboutie dont on doit subir les
contraintes ou les limites, mais comme quelque chose sur lequel on peut
agir, qu’on peut transformer, améliorer, notamment en lui ajoutant des
composants externes. »
Cette recherche d’hybridation de l’humain et de la machine découle
parfois d’un handicap. C’est le cas de Neil Harbisson, qui revendique être
un des premiers « cyborgs », c’est-à-dire un organisme composé de matière
organique et de circuits intégrés. Né à Belfast en 1982, Neil Harbisson
souffre d’une achromatopsie, une maladie qui le prive de la perception des
couleurs. Il voit le monde en noir et blanc, avec différentes nuances de gris.
Avec Adam Montandon, chercheur en informatique, il crée en 2004 un
« eyeborg », caméra fixée sur son crâne qui transforme les couleurs en
fréquences sonores. Désormais, il « entend les couleurs » qui l’entourent,
par conduction osseuse. Les notes les plus basses correspondent aux
couleurs basses du spectre chromatique, comme le rouge, et les notes les
plus hautes, à l’autre extrémité du spectre (violet). Une amélioration du
dispositif trois ans plus tard lui permet en plus de « visualiser » l’intensité
des couleurs. Il affirme pouvoir discerner 360 nuances différentes, soit
autant que la vision humaine « standard », ainsi que des couleurs que l’être
humain ne perçoit pas, comme l’infrarouge ou l’ultraviolet. Le dispositif est
composé d’un capteur, suspendu devant son front, relié via une antenne à
une puce électronique, implantée à l’arrière de sa tête. Quelques mois après
l’installation de l’antenne, celle-ci a fusionné avec son os occipital.
L’extension des perceptions permises par l’eyeborg est-elle un nouveau
sens ? L’eyeborg « utilise simplement un sens humain fonctionnel et le
détourne, ou plutôt lui adjoint un convertisseur de données : ainsi,
Harbisson “voit” les couleurs avec ses oreilles, c’est-à-dire qu’il entend les
variations de couleurs traduites en variation de sons 38 », nuance le
philosophe Thierry Hoquet. Quoi qu’il en soit, le dispositif fait désormais
« partie » de Neil Harbisson. En 2004, les autorités britanniques ont accepté
sa demande de garder son eyeborg sur la photo de son passeport, ce qui lui a
permis de se déclarer « premier cyborg reconnu par son pays ». Ce n’est pas
l’eyeborg planté sur son crâne qui le transforme en cyborg, mais l’union
entre le logiciel et son cerveau, explique-t-il. Il a commencé à rêver en
couleurs. « Dans mon rêve, c’était mon cerveau qui créait les sons
électroniques et non le logiciel. C’est à ce moment que je me sentis cyborg,
lorsque j’ai senti que le dispositif cybernétique n’était justement plus un
“dispositif” 39 . »
Le puçage de l’humain
Juin 2015. Dans un amphithéâtre de la Gaîté lyrique, dans le centre de
Paris, a lieu la première « implant party » française, dans le cadre de Futur
en Seine, un festival dédié à « l’innovation ». Une dizaine de personnes ont
choisi de se faire implanter sur le dos de la main une puce sous-cutanée
NFC (pour Near field communication, ou communication sans contact).
Celle-ci permet notamment de déverrouiller son téléphone en passant
simplement la main à proximité. Et pourrait peut-être bientôt contenir des
données bancaires, rêve Awa, le premier cobaye à passer ce jour-là entre les
mains du tatoueur-pierceur Urd. La puce, de la taille d’un grain de riz, émet
en ondes courtes et permet de stocker 868 octets d’informations. C’est-à-
dire pas grand-chose… Cette « implant party » est organisée par Hannes
Sjöblad, pionnier de ce type de manifestation. Le biohackeur suédois,
membre du collectif Bionyfiken, est aussi le porte-parole pour la Suède de
l’Université de la Singularité fondée par le chercheur et « futurologue » Ray
Kurzweil, le « pape » du transhumanisme, aujourd’hui directeur de
l’ingénierie chez Google. « Les gens à l’âge de pierre qui plantaient des
graines comprenaient-ils vraiment les mécanismes biochimiques qui se
produisaient dans les graines qui poussaient ? Utiliser un outil ne nécessite
pas toujours de comprendre totalement l’ensemble de tous les
mécanismes », explique Hannes Sjöblad en introduction de la conférence à
la Gaîté lyrique. Voilà qui devrait rassurer ceux qui ont choisi de se faire
implanter cette puce !
Quelle est l’utilité d’avoir une puce implantée dans la main ?
Déverrouiller son téléphone ou des portes, y mettre sa carte de visite. Les
usages sont très limités pour l’instant, et le « puçage des humains »
ressemble plus à un effet de mode qu’à autre chose. Mais la notion d’utilité
évolue au fil du temps, explique l’anthropologue suisse Daniela Cerqui.
« On est dans une société consumériste dans laquelle on place la barre
toujours plus haut. Il y a des choses qui aujourd’hui nous paraissent inutiles
ou ridicules et qui, demain ou après-demain, nous paraîtront indispensables,
parce qu’on se sera habitués au fait qu’elles sont techniquement
réalisables 45. » Sans compter la séduction mimétique, ou le désir suscité par
le marketing qui pourraient provoquer de nombreuses vocations d’humains
« pucés ».
Le pionner de l’implantation des puces RFID (Radio-frequency
identification) dans le corps, c’est Kevin Warwick. Ce cybernéticien,
chercheur à l’université de Reading au Royaume-Uni, s’est fait implanter
une puce dans l’avant-bras en 1998, et se proclame (lui aussi) « premier
cyborg de l’histoire ». Cette puce lui permet d’être identifié par différents
équipements dans les couloirs et bureaux de l’université : à l’entrée, une
voix électronique lui souhaite « bonjour » quand il arrive, la lumière
s’allume, les portes s’ouvrent. En 2002, il s’implante une nouvelle puce qui
lui permet d’activer un bras robotique à distance. Mais aussi de ressentir les
mouvements effectués par sa femme, qui s’est également connectée une
puce à un nerf du bras, et lui transmet par une connexion web des
sensations artificielles. Dans le couple Warwick, la relation intime s’opère-
t-elle dans l’asepsie sexuelle, par simple démangeaison de puces ?
Warwick se lève chaque matin en rêvant de « changer ce que signifie
être humain 46 ». « Je ne veux pas rester un simple humain, je veux pouvoir
devenir un cyborg, déclare-t-il. Nous allons avoir deux espèces distinctes,
les augmentés et les ordinaires ou les naturels. Et je sais à quel groupe je
veux appartenir. Je ne veux pas être dans le groupe des humains naturels et
ennuyeux, aux capacités mentales limitées 47. » Kevin Warwick espère que
demain, grâce aux progrès technologiques, les êtres humains auront vingt
sens, ce qui leur permettrait une « nouvelle compréhension du monde ». Ce
monde qu’il appelle de ses vœux est clairement une société de castes
technologiques, bien séparées les unes des autres, où ceux qui ne suivent
pas la fuite en avant technologique sont perçus comme limités, voire
comme de nouveaux intouchables.
142
Fabriquer de l’humain ?
2010. Après quinze ans de travail, une équipe de l’institut Craig Venter
aux États-Unis crée une bactérie d’un genre nouveau : son unique
chromosome est composé d’ADN entièrement fabriqué par les chercheurs.
Il s’agit du premier organisme vivant construit artificiellement. « Voici sur
cette planète la première espèce capable de se reproduire ayant pour parent
un ordinateur », s’enflamme son créateur, Craig Venter 143. Une étape clé est
franchie dans le développement d’une nouvelle branche des
biotechnologies : la biologie de synthèse. Son ambition : « fabriquer la
vie ». Son objectif : créer de toutes pièces des organismes vivants. Il s’agit
plutôt d’un mix entre des éléments résultant d’une synthèse chimique
(l’ADN) et des éléments biologiques déjà vivants (la cellule réceptrice).
Mais nous sommes ici au-delà des OGM, qui modifient le code génétique
d’un organisme pour lui donner une nouvelle fonctionnalité – par exemple
croître plus vite ou tolérer un pesticide. Avec la biologie de synthèse, on
quitte la modification ou le bricolage des gènes pour entrer dans une autre
dimension, la fabrication d’organismes de manière artificielle. Y compris,
promettent certains chercheurs, pour fabriquer un jour « de l’humain »…
Jouer aux Lego avec du vivant
Comment cela fonctionne-t-il ? Des séquences d’ADN sont fabriquées
« sur mesure », après modélisation informatique, puis reliées ensemble via
des enzymes et bactéries. L’ADN ainsi synthétisé est inséré dans un châssis
biologique – une bactérie ou une levure par exemple – pour pouvoir
« fonctionner ». Une sorte de Lego du vivant, à base de « bio-briques »
d’ADN standardisées, originales ou recopiant des briques d’ADN déjà
existantes dans la nature. Malgré les déclarations démiurgiques de Craig
Venter, il s’agit pour le moment, répétons-le, de reconstituer artificiellement
une molécule chimique en recréant en laboratoire seulement les composants
de base du code génétique. Mais la biologie de synthèse est pleine de
promesses, affirment ses promoteurs. « Un nouveau monde s’ouvre à
nous », s’enthousiasme-t-on sur le site du ministère français de l’Économie.
La biologie de synthèse, nouvel eldorado technoscientifique, « pourrait
apporter des thérapies plus efficaces, des médicaments moins chers, de
nouveaux matériaux facilement recyclables, des biocarburants, des bactéries
capables de dégrader les substances toxiques de l’environnement ». Les
ingénieurs rêvent déjà de planifier l’évolution et de corriger les
« imperfections » de la nature, le rêve des transhumanistes. Mais dans
l’esprit des promoteurs de la biologie synthétique, l’ADN, molécule
chimique inerte, est confondu avec la vie. Le « châssis biologique » où est
transféré un ADN synthétique est méprisé, malgré sa contribution
fondamentale aux phénomènes vitaux ! La biologie synthétique va plus loin
que la transgenèse en introduisant dans des organismes des gènes
synthétiques – plutôt que des gènes provenant d’autres organismes –, ce qui
permettrait, selon ses promoteurs, « de modifier proprement le vivant en
remplaçant le “bricolage des biologistes moléculaires” par “l’efficacité
rationnelle des ingénieurs” 144 ».
Cette branche des biotechnologies se développe très vite. Les crédits de
recherche dans ce domaine connaissent une croissance exponentielle depuis
quelques années. Car les applications possibles seraient innombrables. Des
produits arrivent déjà sur le marché : du « biodiesel », des bioplastiques
issus du maïs, des tissus synthétiques à base de sucre céréalier, une saveur
biosynthétique de pamplemousse… Les investissements se concentrent
notamment sur le secteur de l’énergie, avec la production de micro-
organismes ou d’algues modifiées capables de transformer de la biomasse
en carburant. La discipline attire les investissements des plus grands
groupes mondiaux de biotechnologies, de l’énergie ou de l’agroalimentaire :
les géants de la chimie, de l’énergie, de l’agrobusiness et de la pharmacie –
comme BP, ExxonMobil, BASF ou Cargill – sont sur les rangs, mais aussi
ceux de l’informatique, comme Microsoft ou Google 145. Les
multinationales sont dans la place. Il faut dire que le secteur sait vendre des
promesses : rien de moins que de révolutionner à terme le secteur de la
chimie, avec des recettes miracles pour faire face aux pollutions et à
l’épuisement des ressources. Le groupe pétrolier Exxon a déjà investi
100 millions de dollars pour développer un carburant à partir d’algues, en
partenariat avec l’entreprise Synthetic Genomics, dirigée par Craig Venter.
BP a consacré 500 millions de dollars pour le développement
d’agrocarburants synthétiques, au sein de l’Energy Biosciences Institute.
Quant à la Fondation Bill et Melinda Gates, elle finance la recherche
d’applications médicales à hauteur de 43 millions de dollars…
Deux types d’entreprises se partagent actuellement le marché. D’un
côté, celles qui fabriquent les composants de base, les gènes synthétiques.
Ce sont des « fonderies à gènes » comme Tech Dragon à Hong Kong et
Gene Art en Allemagne, dont le catalogue comprend des séquences
génétiques qui fonctionnent dans le cerveau, le foie ou le cœur humain, ou
DNA 2.0 aux États-Unis, qui propose aussi un logiciel gratuit pour
« concevoir des séquences [d’ADN] sans être limité par ce que la nature
peut offrir ». De l’autre côté, les entreprises qui créent et commercialisent
des organismes à partir de ces gènes, comme Synthetic Genomics aux États-
Unis. Plusieurs milliers de chercheurs, dans une quarantaine de pays,
travailleraient aujourd’hui dans le secteur de la biologie de synthèse.
Des usines à gènes
En France, quelques équipes de recherche, au Génopole d’Évry, se sont
spécialisées dans la biologie de synthèse, ainsi qu’une dizaine d’entreprises
de biotechnologie, selon un recensement du ministère de la Recherche 146.
En 2007 a été créé l’Institut de biologie systémique et synthétique (iSBB),
qui comprend notamment la plateforme abSYNTH, dont les équipements
sont mis à la disposition des entreprises et universités. Le groupe Total a
créé un département biotech avec un axe sur la biologie de synthèse en
2009. La multinationale du pétrole est aussi devenue un important
actionnaire de la société de biotechnologie Amyris (États-Unis). Dans le
domaine de la santé, le groupe français Sanofi s’est lancé dans la production
d’artémisinine semi-synthétique, un principe actif utilisé contre le
paludisme 147. Les brevets se multiplient. Et le développement du secteur
montre une répartition des tâches problématique entre scientifiques et
entrepreneurs : les premiers innovent dans les universités mais déposent des
brevets via leurs start-up, puis cèdent les licences à des grandes entreprises.
Avec le risque de captation de profits par des multinationales pour des
ressources génétiques pourtant disponibles à l’état naturel 148. Amyris par
exemple déploie beaucoup d’énergie pour faire breveter la biosynthèse des
isoprénoïdes, qui comptent plus de 55 000 composés naturels, dont le
caoutchouc, l’huile de neem, l’huile de palme, le parfum de patchouli ou
l’huile de pin.
Après la bulle internet, voici donc la bulle « synbio ». Des
investissements en masse, dopés par des promesses de croissance
exponentielle et des discours sur une technologie miracle, remède à tous les
problèmes, sans débat public sur les enjeux, sans contrôle par les autorités,
sans réflexion sur l’impact sanitaire de la dissémination de ces molécules
synthétisées, les risques pour l’environnement, ou la captation par des
entreprises privées de ressources naturelles nécessaires à certaines
populations. Des organismes vivants, même semi-artificiels, ça se reproduit,
et donc ça se diffuse ! Côté sécurité, la législation, comme souvent, est en
retard, voire inexistante. Des scientifiques recommandent que les activités
de recherche en biologie de synthèse se déroulent uniquement dans des
laboratoires très sécurisés, de niveau de biosécurité P3 ou P4 (pour
pathogènes de classe 3 ou 4) où virus et bactéries sont manipulés sous haute
protection. En 2012, plus d’une centaine d’organisations internationales ont
demandé un moratoire sur les usages commerciaux de la biologie de
synthèse. Mais, « afin de ne pas pénaliser les avancées de la recherche dans
ce domaine, il faut intégrer le risque nouveau avec une attitude d’incertitude
positive », soutient un rapport du ministère français de la Recherche, en
2011, dans une novlangue exemplaire. « Intégrer le risque nouveau avec
une attitude d’incertitude positive », voilà le credo, scientiste et néolibéral,
fatal à toute velléité de précaution que l’on retrouve dans toutes les
branches de la technoscience et qui autorise aussi les avancées du
transhumanisme.
L’IDÉOLOGIE TRANSHUMANISTE
Une idéologie de remplacement
L’apparition d’une volonté transhumaniste daterait du début de
l’humanité. Les mythes de l’Antiquité évoquent des humains qui peuvent se
confondre avec les dieux et acquérir des caractéristiques supra-humaines de
puissance, d’invincibilité, d’immortalité. De quoi renforcer ceux qui veulent
rassurer sur le transhumanisme technologique : aucune raison de s’inquiéter
puisque « ça se fait depuis toujours » ! Ils expliquent sans rire que les
paysans fabriquent traditionnellement des OGM en sélectionnant des
plantes, ou bien que l’on recourt aux nanotechnologies en produisant du
noir de fumée… Quant aux prothèses, quelle différence y aurait-il entre les
lunettes ou le sonotone, et des capteurs intégrés ou un exosquelette ? Les
uns pourtant restaurent des capacités perdues, lorsque les autres confèrent
de nouvelles propriétés…
Cependant, afin de valoriser leurs promesses, les transhumanistes
développent simultanément un thème contradictoire, celui de la « révolution
inédite » qui surgit avec les technosciences et la « convergence des NBIC »
– que ce soit la transgenèse, les nanoparticules ou l’homme augmenté…
Entre ces discours, il faudrait choisir : véritable révolution ou simple
continuité ? Par ailleurs, constater que les mythes antiques évoquent
largement des humains aux pouvoirs démesurés ne permet pas de faire de
ces fantasmes un idéal culturel, voire ontologique. Les déboires fréquents
de ces « surhommes », demi-dieux ou super-humains, témoignent plutôt au
contraire d’une mise en garde ancestrale contre l’augmentation de notre
espèce et ses prétentions démiurgiques.
Les premiers outils, pour chasser ou se défendre, aussi bien que
l’invention de vêtements pour protéger les corps, marquent la volonté des
groupes humains primitifs de dépasser leur condition fragile et d’assurer
leur survie. Nous ne serions pas là sans ces inventions. Tout le contraire de
l’idéologie et des pratiques transhumanistes, qui visent à transformer le
superflu en nécessité ! Imagine-t-on que les lunettes Google ou la
connexion du cerveau avec l’ordinateur soient des conditions nécessaires à
la survie humaine ? L’évolution du vivant montre que toute espèce est
surtout animée par le besoin de se reproduire afin d’assurer sa pérennité. Le
transhumanisme quant à lui prétend faire vaincre par l’humain tout ce qui
paraît impossible, en dramatisant l’adversité pour les besoins de la cause. Et
l’hybridation avec les mécaniques, qui fait passer la barrière du corps à des
systèmes électroniques embarqués – câblages, implants ou puces –, est
aussi une nouvelle frontière, que nous n’avions jusqu’à présent pas
franchie. Aussi est-il malhonnête de proclamer une analogie entre l’histoire
des humains et l’adoption de nouvelles règles pour l’évolution. Une telle
analogie vise à paralyser toute résistance à ce changement. « Qu’il soit
rhétorique ou linguistique, il s’agit d’un forçage des termes qui fausse le
débat. Comment discuter de la transgression transhumaniste si elle avance
masquée ? s’interroge l’essayiste Franck Damour. Si on définit comme étant
“transhumain” tout usage de la technologie, alors la moindre critique du
transhumanisme devient une critique de la technologie et, partant, de
l’humain 161. » Nombre de prothèses ne sont pas en elles-mêmes dans
l’ordre transhumaniste tant que leur ambition n’est que de restaurer une
capacité « normale ». Mais elles sont susceptibles de déborder le projet
initial, comme dans le cas du cœur ou des membres artificiels, si une
utilisation plus large que médicale est envisagée.
Que serait alors le transhumanisme ? Avant tout une idéologie de
remplacement : la croyance dans les bienfaits du transhumanisme succède à
la croyance dans les bienfaits supposés du capitalisme. Ce dernier avait
promis progrès social et croissance sans limites. Il sombre avec des armées
de chômeurs et de pauvres, dans l’impuissance à améliorer le sort des
populations. Les propositions actuelles du capitalisme constituent plutôt des
remises en cause de tous les gains qu’il aurait permis : acquis économiques
et sociaux, amélioration des conditions de vie… Comment ne pas voir que
l’idéologie transhumaniste prend le relais en promettant longue vie et
santé – sans être davantage crédible dans un monde qui s’effondre ? Et
comment ne pas voir que le refus de la finitude de l’humain – ses faiblesses,
sa mort – est du même ressort que le refus par le capitalisme de prendre en
compte les limites de notre planète ? Et c’est le capitalisme qui, comme
pour trouver un second souffle, soutient les énormes investissements
technologiques et matériels pour le développement du transhumanisme.
Une partie des transhumanistes sont des libertariens 162, fervents
défenseurs d’un capitalisme débridé où prime la liberté de chacun. Pour
eux, aucune loi, aucune réglementation ne devrait empêcher de faire ce que
souhaite chaque individu – « l’individu en question habitant évidemment
plutôt un quartier très huppé qu’un bidonville, souligne Éric Le Bourg,
chercheur sur la cognition animale. De ce point de vue, le transhumanisme
pourrait n’être que le dernier habillage idéologique de ceux pour qui il est
normal que les plus forts écrasent tous les autres, succédant ainsi aux thèses
du darwinisme social justifiant la domination sans limite des classes
dirigeantes 163. »
Aux racines psychédéliques
du transhumanisme
Dans quel terreau le transhumanisme a-t-il pris naissance ? Ce
mouvement nous vient des États-Unis, pas seulement parce que ce pays
dispose de moyens de recherche incomparablement puissants, mais aussi
parce qu’il fut, il y a un demi-siècle, le berceau d’expériences humaines
tendant à construire la « religion cosmique », selon une vision du monde
empruntant aux sagesses orientales. Des scientifiques ont alors éprouvé « le
pressentiment que l’univers consiste fondamentalement dans l’information
et non pas dans des êtres matériels ou des forces aveugles 181 ». Ainsi s’est
constituée la religion de l’Homo technologicus, qui encourage à se prendre
pour des dieux, puisque – les performances de nos machines le
prouveraient – nous pouvons faire mieux que la nature. À cette période, et
sous l’influence de la contre-culture, ces technophiles étaient davantage
disposés à la subversion qu’au néolibéralisme. Mais ils se sont vite insérés
dans le système économique à force de start-up et de brevets récompensant
leurs activités. Il est même possible de faire remonter en amont les origines
du transhumanisme car, selon le sociologue Philippe Breton, « dès les
débuts de l’informatique dans les années 1940, ce qui a été le moteur de
l’invention de l’ordinateur, c’était la volonté de faire une réplique
améliorante du cerveau humain. Le transhumanisme n’est pas une
conséquence des nouvelles technologies, il en est le cœur heuristique 182 ».
Ce que confirme Fred Turner, sociologue et historien des mouvements
culturels états-uniens, qui explique qu’on peut faire remonter l’origine du
transhumanisme à la Seconde Guerre mondiale. Turner attribue à des
médias serviles (notamment sous le régime nazi) et au système de
fonctionnement très hiérarchique, une responsabilité importante dans
l’inhibition du raisonnement et l’autonomie de la pensée. Aussi, en 1941,
des intellectuels états-uniens – dont Margaret Mead, Gregory Bateson et
Ruth Benedict – appelèrent au développement de la « personnalité
démocratique ». Ils croisèrent alors leur réflexion avec celle de Norbert
Wiener qui élaborait la cybernétique. Le rapport d’interactions entre les
humains et les machines aurait permis de créer des pratiques sociales
démocratiques, en détournant les produits de l’industrie américaine, « en
imaginant une forme de société à la fois hyper- et post-industrielle 183 ».
Ce cheminement depuis le hippie jusqu’à la Silicon Valley est illustré
par la vie de Stewart Brand. Écologiste, utilisateur de technologies à des
fins psychédéliques, Stewart Brand recherchait l’authenticité chez les
Indiens. Il fut aussi l’inventeur du Whole Earth Catalog, qui proposait à la
vente des matériaux, outils, machines, vêtements, graines – toutes choses
utiles pour une vie créative et autosuffisante – afin de développer « le
pouvoir de l’individu à s’éduquer lui-même, trouver sa propre inspiration,
modeler son environnement et partager son aventure avec qui le désire »
(Fred Turner dixit). Anticipant les réseaux actuels, cette démarche fait le
pont entre la culture militaro-industrielle de la recherche, à l’origine de la
cybernétique, et la contre-culture pacifiste, antibureaucratique et
spiritualiste des hippies. Le Whole Earth Catalog, vendu à plus d’un million
d’exemplaires, a facilité la communication entre les marginaux de la contre-
culture, et les informaticiens de la côte ouest. Ainsi se mettent au point des
technologies qui permettent de connecter les gens entre eux et d’établir des
communautés, à distance des institutions politiques et de leur pouvoir de
contrôle. La contre-culture refusait la politique et a rapidement « voué un
culte à l’information et ses technologies dans lesquelles elle a vu le
triomphe d’un immatériel régénérateur », explique Turner. Son
matérialisme imbibé de spiritualisme s’est emparé des technologies
convergentes pour préparer l’accomplissement de l’humanité. En même
temps, ce mouvement a puisé dans le pathos d’une génération qui croyait la
fin du monde imminente, avec le pouvoir destructeur de la bombe
atomique, brusquement révélé en 1945. Clairement, la plupart des
transhumanistes actuels ont oublié la dimension subversive qui inspira les
fondateurs. Il ne subsiste plus que la fascination pour les technosciences
jusqu’à en faire le moyen, possiblement totalitaire, pour une gouvernance
élitiste du monde.
Dans son ouvrage 184, l’association transhumaniste française Technoprog
poursuit cette histoire à partir des années 1990 où, en même temps
qu’internet (considéré comme « un autre far west »), émergent des rêves de
réalité virtuelle grâce à l’ecstasy, des espoirs de cryoconservation ou de
téléchargement de la pensée. Ce courant – aujourd’hui représenté par les
patrons de Google et de la « Singularity University » – ne serait plus
dominant et serait même absent en France, estiment les auteurs de
Technoprog. Rompant avec l’extropianisme, James Hughes de la World
Transhumanism Association définit un « transhumanisme démocratique »
dès 2006, ouvrant la voie au « technoprogressisme » dont se réclame
Technoprog.
L’artificialisation de l’humain
Le transhumanisme est un double mouvement, qui vise à la fois la
mécanisation de l’humain et l’hominisation des machines. Pour l’Anglais
Aubrey de Grey, le biogérontologue autodidacte qui veut nous faire vivre
mille ans, « le corps humain est une machine – une machine extrêmement
complexe, pour sûr, mais quand même une machine ». On peut donc sans
fin la réparer, « puisqu’il est possible de réparer les machines fabriquées par
les humains indéfiniment 191 ». Toute défaillance ne serait qu’un problème
technique. « Le transhumanisme semble être un délire d’ingénieur
confondant la biologie et la mécanique, un peu à l’image du docteur
Frankenstein qui croyait qu’en assemblant des morceaux de cadavres on
pouvait faire revivre un homme, souligne Éric Le Bourg, chercheur sur la
cognition animale. Nos modernes transhumanistes ne sont pas si modernes
que ça, en fin de compte, leurs conceptions scientifiques datant d’une
période comprise entre les milieux des XVIIe et XIXe siècles, entre Descartes
et Darwin 192. »
Le programme porté par Natasha Vita-More, présidente de
l’organisation transhumaniste Humanity +, est à ce titre emblématique. Son
projet « artistique » Primo Posthuman vise à construire un corps humain
« alternatif », dont chaque organe peut être réparé, augmenté, remplacé.
Chaque morceau du corps aurait sa propre origine, sa propre histoire, son
propre fonctionnement – biologique, mécanique, électronique, ou un
mélange. Natasha Vita-More expérimente ses théories sur son propre corps.
« Quand on me demande mon âge, j’ai envie de répondre : mon bras gauche
a dix ans, mon sein droit a deux ans, mes dents cinq ans 193… », plaisante-t-
elle. Le moins que l’on puisse dire, c’est que le résultat, évoquant les ex-
starlettes à la peau tirée par des années de chirurgie esthétique, ne donne pas
envie. Certes, on pourrait – de loin ou grâce aux miracles de Photoshop –
lui donner quelques années ou décennies de moins. Mais à quel prix ! Celui
de l’asservissement du corps aux artifices technologiques, aux processus de
« réparation », aux interventions chirurgicales. Celui d’un rapport à la
nature, aux autres, et à soi complètement factice et artificiel. L’organisme
humain n’est pas une machine, même s’il contient des « mécanismes
organiques », que décrit la science.
Dans le « Manifeste transhumaniste » publié en 2002 (puis republié en
2012) par la World Transhumanist Association, il est question de réduire les
« risques d’extinction humaine » – comme si la pérennité de notre espèce,
toute misérable qu’elle fût selon ce manifeste, demeurait quand même
indispensable… Une idée débordée par des transhumanistes plus radicaux
tel Ray Kurzweil, pour lequel la destruction de l’humain au profit de la
machine est annoncée comme un programme. Mais, s’il déclare vouloir
sauver l’humain, le « Manifeste transhumaniste » proclame aussi la défense
de « toutes les intelligences », y compris animales ou artificielles, et la
reconnaissance d’une suprématie de l’intellect sur l’humanisme. La
question est alors de savoir ce qui nous est vendu sous le nom
d’« intelligence ». Si les machines intelligentes (ou les villes intelligentes
ou l’agriculture intelligente) ne font que mettre en action des dispositifs de
calcul et d’enregistrement, il faut leur refuser ce label – que nous dénions à
la plupart des animaux, mauvais en maths mais pourtant doués de
sensibilité ! Sous prétexte que des souris ayant reçu des gènes humains ont
de plus gros cerveaux et effectuent plus rapidement des tâches complexes,
Laurent Alexandre interroge : « L’accession à l’intelligence et à la
conscience ne signifie-elle pas l’accession à une dignité égale à celle de tout
humain 194 ? » Certains semblent attendre de pied ferme le bouleversement
anthropologique que représenterait l’arrivée prochaine de machines
intelligentes et conscientes : le révérend Christopher J. Beneck, pasteur de
Floride, se déclare ainsi prêt à baptiser des machines intelligentes si celles-
ci en font la demande…
Déjà nous sommes fascinés de pouvoir « converser » (ou énervés de
devoir le faire) avec un « agent conversationnel » (ou chatbot), ces petits
robots logiciels qui répondent aux clients sur les sites internet, par des
conversations automatisées. Les machines prennent la parole et proposent
de nous aider en répondant à nos questions. Et nous voici « comme ces
hommes antiques qui écoutaient, émerveillés, les statues parlantes 195 ».
Leur présence se multiplie, tout comme les « assistants numériques
personnels » qui se contrôlent à la voix. Après l’assistant vocal Siri
développé par Apple en 2011, Google, Microsoft, Amazon et Facebook se
lancent dans le secteur de ces « assistants » qui jouent l’intermédiaire entre
nous et notre téléphone ou ordinateur, et qui permettront demain de piloter
par la voix tous les équipements connectés de la maison. Des coachs
virtuels, logés dans nos montres, se développent, dispensent leurs conseils
aléatoires : « Demain, la journée sera ensoleillée. Et si tu allais faire un tour
dans ce parc vers 9 heures ? Un de tes amis a l’habitude d’y aller, vous
pourrez peut-être vous croiser 196 », suggère le prototype Folo. « Loin d’être
d’innocentes machines à fabriquer des phrases amusantes, les chatbots, dans
la mesure où ils envahissent peu à peu nos communications, deviennent un
formidable outil de transformation démiurgique qui s’appliquera à
l’individu comme à la société, analyse Alexei Grinbaum, chercheur au
CEA. Quelle sera la réaction de cette autre machine à dialoguer, à savoir le
cerveau humain, à la prolifération massive des conversations dépourvues du
sens profond de la hiérarchie ? Quand les machines découvrent la parole,
l’homme devrait réfléchir à ce que la parole peut encore signifier pour lui-
même 197. »
Nous voici donc sommés d’entrer en dialogue avec les machines ou de
reconnaître leur intelligence. La même chose arrive avec la conscience,
dont les roboticiens prétendent doter certains organismes. Les robots sont
pourtant seulement « capables de distinguer entre soi et non-soi 198 »,
remarque Jean-Michel Besnier, qui note que, pour les militaires, un robot
moral serait celui « qui sait scanner l’uniforme de l’ennemi » ! Dans la
disparition du symbolique qui est en marche, le projet technique est, selon
Besnier, de « substituer un univers de signaux à un univers de signes »,
c’est-à-dire transformer les manifestations complexes et variées de la
pensée en codes simplificateurs. Il est cocasse d’observer que, au moment
où la machine est prétendue capable de propriétés jusqu’ici exclusivement
humaines, c’est l’homme qui se voit menacé de perdre ces prérogatives !
Car, prévient Besnier, « les transhumanistes veulent en finir avec la
conscience », qu’ils estiment avoir été un avantage sélectif avant de devenir
un frein. Ils nous prétendent menacés « de disparition si l’intelligence n’est
pas remplacée par l’instinct » !
Mais, si les machines sont en réalité dépourvues d’intelligence et de
conscience, handicaps dont rien ne prouve qu’ils pourraient être un jour
dépassés, n’est-ce pas la mystification qui est aux commandes du
transhumanisme, avec sa revendication de robots à l’« intelligence forte » et
méritant des droits ? Au contraire de la machine, le vivant se distingue par
ses infinies variations dans chaque champ de ce que l’on peut mesurer, par
l’infinité des champs susceptibles de mesure et par l’interdépendance de
tous ces éléments. Conséquence : le vivant n’est pas mesurable ! La
connaissance du vivant résulte du cumul de réalités multiformes, présentant
chacune un éventail de possibilités variées. Aussi, à partir d’une description
suffisamment abondante, la connaissance repose surtout sur des évaluations
statistiques. C’est ce qui arrive à la génétique, devenue source de données
innombrables qu’elle confie à l’informatique, laquelle se charge de les
traduire en prédictions dans le cadre de la « médecine préventive ». Ainsi
notre devenir commence à être confié à la machine là où notre cerveau n’est
plus compétent. C’est-à-dire là où le calcul remplace l’intelligence.
Comme pour faire disparaître l’importance du vivant, la nécessité de
relations avec le monde animal, vitale depuis au moins dix mille ans, est
mise à mal de toutes parts. Les animaux domestiques du paysan sont
devenus des machines à produire, ceux du citadin des jouets, et tous
relèvent de l’alimentation artificielle et du puçage électronique. Mieux, on
prévoit à moyen terme la production de viande in vitro, pour « sortir les
animaux du cycle de production », s’enthousiasme l’ONG états-unienne
New Harvest. Un projet condamné par la sociologue Jocelyne Porcher qui
affirme « nécessaire de défendre l’élevage et nos liens domestiques avec les
animaux comme des composantes vitales de notre devenir humain 199 ».
Parallèlement, la science contemporaine rompt les frontières entre l’homme
et l’animal, acceptant progressivement des différences de degré ou de
complexité plutôt que de nature. Mais la différence fondamentale entre le
vivant et la machine résiste, malgré les proclamations transhumanistes. Le
vivant est, avant tout, ce qui s’active contre la mort, tandis que la machine,
bien qu’exposée à la finitude, n’en éprouve ni conscience ni douleur. C’est
que tout vivant, humain ou non, est irremplaçable puisque, après sa
disparition, il n’existera jamais plus d’individu absolument identique.
Même les clones sont différenciés par leur expérience de vivants. C’est pour
réduire ce sentiment d’être unique, et le transformer en chair à canon, que
les armées du monde entier commencent par « faire entrer dans le rang » le
soldat, anonymisation préalable à l’acceptation de la mort. Au contraire des
vivants, toute machine est remplaçable, au moins depuis que sa fabrication
ne marque plus l’objet du sceau de l’artisan, depuis que triomphe la
production en série d’innombrables exemplaires indistinguables. Dégrader
le sentiment d’être irremplaçable – qui imprègne l’humanité de chacun – ne
peut pas être sans conséquence car, alors, l’individu est confondu avec des
dispositifs techniques. Se résigner à un tel destin serait s’abstraire de toute
vie affective, comme font les déprimés. « Rien n’équivaut le vivant, c’est le
sommet de ce qu’il est possible de produire. Cette puissance est le résultat
de millions d’années d’évolution, souligne l’écrivain Alain Damasio.
Comment peut-on croire qu’avec du silicium et de l’électricité, on va
construire quelque chose de plus puissant que le cerveau humain ? Un
transhumaniste qui affirme cela n’a rien compris à ce qu’est la vie 200 ! »
On peut enfin se demander si, avec le cyborg, il s’agit d’humaniser la
machine ou de robotiser l’homme. Parmi les grandes références classiques à
l’homme augmenté, figurent le Golem de la tradition talmudique, issu de la
glaise, et le monstre de Frankenstein, créé par Mary Shelley il y a deux
cents ans, un monstre construit par assemblage de morceaux de cadavres.
Le premier est physiquement puissant mais peu intelligent, comme si la
terre ne pouvait transmettre que la force brute. Le second est
intellectuellement supérieur puisqu’il est capable de mener à bien un plan
d’extermination contre son créateur. Ainsi pourrait-on lire dans les mythes
que la matière est incapable de sécréter l’intelligence humaine. Celle-ci ne
se nourrit que du vivant, même à l’état de cadavre. Une leçon pour les
fabricants d’ordinateurs ?
L’« intelligence artificielle », au mépris
de l’intelligence
Pour les transhumanistes nourris à l’informatique, l’intelligence
artificielle (IA) ou augmentée reste la première mission pour améliorer
l’humanité. Dès les années 1940, le moteur de l’invention de l’ordinateur
était la volonté de faire une réplique améliorante du cerveau humain. La
tendance actuelle est surtout à l’hybridation entre l’homme et la machine.
Ray Kurzweil annonce l’avènement prochain de la pensée hybride,
intelligence humaine dopée aux implants intracérébraux. L’humain sera-t-il
un jour dépassé par sa créature ? « Nous devons être super prudents avec les
intelligences artificielles, qui sont potentiellement plus dangereuses que les
armes nucléaires », prévient dans un tweet le milliardaire Elon Musk, PDG
du constructeur automobile Tesla. Il précise : « Espérons que nous ne
sommes pas seulement le disque de démarrage biologique pour une super-
intelligence numérique. Ce qui est malheureusement de plus en plus
probable 201. » Le physicien Stephen Hawking déclarait en décembre 2014 :
« Les formes primitives d’intelligence artificielle que nous avons déjà se
sont montrées très utiles. Mais je pense que le développement d’une
intelligence artificielle complète pourrait mettre fin à la race humaine. » Un
mode de suicide violent, résultant de la compétition entre l’humain et ses
créatures. Cette éventualité, souvent relayée dans l’imaginaire collectif,
n’est pas en contradiction avec la perspective de la disparition lente de
l’humanité de l’homme par son inféodation aux machines. La fabrication de
robots plus performants que les humains conduirait-elle à la domination
physique par ces forces brutes, aussi bien qu’à notre soumission
ontologique à leur perfection mécanique, deux façons de disparaître en tant
qu’humains de chair et d’esprit ?
L’actualité récente semble donner raison à ces alertes, puisque
l’ordinateur, après seulement quelques décennies d’existence, a déjà vaincu
l’homme dans toutes les opérations logiques. Après notre défaite face à la
machine au jeu d’échecs, c’est l’AlphaGo de Google qui a gagné un match
de go contre un champion de chair en 2016. Mais il est absurde de dire que
l’homme a été battu par l’intelligence artificielle : ce sont bien des humains
qui ont conçu cette machine qui gagne, fait remarquer le philosophe Jean-
Jacques Delfour. Il n’y a pas « d’intelligence machinique » puisque celle-ci
est une invention humaine. Pour Delfour, « la partie de go entre un être
humain et une machine est une tromperie, une opération de communication
et un moment de la propagande visant à l’humiliation des êtres humains.
Cet affrontement de l’intelligence humaine et de l’intelligence artificielle
est une fable intégrale. L’ordinateur AlphaGo n’est pas simplement un
système technique pur mais, comme toutes les machines, un sociosystème,
c’est-à-dire un être hybride composé d’ingénieurs, de chercheurs, d’objets
techniques, de rêves de pouvoir et de mythes de puissance, mais aussi de
foules d’autres êtres humains qui sont enrôlés invisiblement, via ici
l’enregistrement de trente millions de coups joués par des humains
professionnels 202 ». La fonction d’AlphaGo ? « Assurer à l’entreprise une
bonne publicité et contribuer à l’humiliation factice des êtres humains. » Le
philosophe appelle à lutter contre ce discours de propagande et à refuser
cette « humiliation prométhéenne ».
« Il est en réalité peu à craindre de voir les machines à cerveau
supplanter l’homme sur la Terre, les risques sont à l’intérieur de l’espèce
zoologique proprement dite et non directement dans les organes
extériorisés, annonçait déjà en 1964 l’historien et ethnologue André Leroi-
Gourhan. L’image de robots chassant l’homme à courre dans une forêt de
tuyauteries ne vaudra que dans la mesure où l’automatisme aura été réglé
par un autre homme 203. » À ce jour, les IA sont incapables de véritable
raisonnement et ne réalisent que des calculs. De plus, ces calculs ne
concernent que des tâches déterminées à l’avance : AlphaGo ne saurait
battre un joueur de bridge, il faudrait pour cela une nouvelle machine ad
hoc. Surtout, de telles machines relèvent de l’« IA faible », et non d’une
« IA forte », celle qui aurait selon les chercheurs des qualités dépassant la
logique et pouvant aller jusqu’à la conscience de soi, voire l’altruisme. Une
machine qui reste cependant à inventer… Pour lors, la capacité
d’autoapprentissage du robot, qui conditionne ses progrès à venir, connaît
des limites immédiates dès lors que la machine n’est plus approvisionnée en
données !
Malgré les fonds investis par Google et les autres acteurs du secteur, la
survenue d’une « intelligence artificielle complète » n’est pas pour demain.
Alors, reste la recherche d’augmentation de nos propres capacités
cérébrales, jusqu’au point où d’éventuels dispositifs pourraient conférer à
une élite le pouvoir de dominer « la race humaine ». Le grand programme
européen « Human Brain Project » continue d’investir d’importants moyens
dans la connaissance du cerveau, dans le but de contribuer à l’intelligence
artificielle autant que de maîtriser le fonctionnement cérébral biologique,
tout comme les projets concurrents, aux États-Unis ou en Chine. En
septembre 2016, Google, Facebook, Amazon, Microsoft et IBM ont créé un
nouveau lobby aux allures d’organisation philanthropique, « Partnership on
AI », qui promet de travailler pour que l’intelligence artificielle « bénéficie
aux gens et à la société ». Il s’agit surtout « de maîtriser les débats éthiques
sur l’IA, en choisissant les questions abordées et en orientant les réponses
apportées », remarque le journaliste Guillaume Champeau 204. Cette stratégie
de canalisation en amont de la réflexion critique a déjà fonctionné dans le
champ de la génétique où les principaux acteurs communiquent largement
sur leurs interrogations éthiques depuis plus de quarante ans (Asilomar, voir
la troisième partie, ici et suiv.), sans que leurs ambitions et leurs réalisations
s’en trouvent sérieusement freinées.
Typologie de l’hybride et du « presque-
humain »
Entre artificialisation de l’homme et tentatives pour décupler la
puissance de la machine, les frontières tendent à s’effacer entre l’humain et
le non-humain. Quelles que soient les intentions – soigner, réparer,
expérimenter, rendre plus efficace, augmenter le confort, devenir cyborg ou
asservir – ces évolutions questionnent nos identités. Vers quoi va l’humain ?
Vers quel « idéal » (ou cauchemar) le transhumanisme nous emmène-il avec
ces logiques d’artificialisation et d’hybridation ? Le philosophe Thierry
Hoquet propose une typologie des « presque-humains » qui peuplent notre
imaginaire 205. Il a repéré six formes issues de la fiction et présentes dans
notre littérature, qu’il nomme Mutant, Cyborg, Organorg, Robot, Bétail et
Zombie. Des formes dont on voit poindre les prémices dans certaines
recherches en cours ou dans certaines expérimentations underground. Et qui
tracent en tout cas les contours de ce vers quoi pourrait aller l’homme du
futur, si les velléités transhumanistes trouvent un écho favorable dans nos
sociétés.
Thierry Hoquet décrit tout d’abord Cyborg et Organorg, deux
combinaisons entre organique et technique. Organorg, c’est Batman ou
l’inspecteur Gadget : un être humain outillé, qui s’augmente
temporairement, mais peut déposer son équipement, ses « outils », qui ne
l’affectent pas fondamentalement. Cyborg, au contraire, a perdu une partie
de son autonomie : un câblage est présent entre les deux composantes
organique et technique, ou bien la technique est profondément intégrée dans
le corps. Il s’opère une forme de substitution entre l’organique et le
mécanique. C’est le replicant du film Blade Runner 206, ces androïdes
couplés à des éléments organiques, travailleurs esclaves programmés pour
s’autodétruire au bout d’un certain temps. Le film RoboCop décrit quant à
lui « le corps d’un individu mutilé, colonisé par l’implémentation technique
et pris en charge par une entreprise capitaliste, transformé en super-soldat
au service du maintien d’un certain ordre, fût-il inique et corrompu 207 ».
C’est la logique de la prothèse tirée à son extrême, où le mécanique se
substitue progressivement à l’organique. L’hybride n’offre « pour tout
horizon que l’inéluctabilité de son obsolescence, la nécessité de sa
maintenance et le risque toujours menaçant de la panne générale, sans que
l’on sache désormais si ces défauts résultent de son statut d’artefact
imparfait et de produit humain ou de son intégration à l’organisme
putrescible et déliquescent 208 », décrit le philosophe. L’insertion
d’« éléments étrangers dans le champ immunitaire du soi » conduit très
souvent et inéluctablement à un ratage. « S’il y a des exemples d’insertion
ou de greffe réussies, cela finit toujours par clopiner, boiter, frotter, traîner
lamentablement, nécroser 209. » Dans notre littérature et nos films, le cyborg,
mi-humain mi-machine, ne vit pas souvent très bien l’hybridation.
Pour trouver un exemple de réparation ou d’augmentation de fonction
réussie, il faut se tourner vers une autre figure de la fiction, celle du Mutant.
C’est par exemple l’adjonction d’un squelette en adamantium sur le
personnage de Wolverine, dans la série de films X-Men, qui est permise par
son infinie capacité de cicatrisation. Mutant est un individu né différent ou
qui se révèle différent à un moment de son existence, explique Thierry
Hoquet. Comme les personnages Spiderman ou Hulk. Leur point commun :
leur mutation n’est pas produite intentionnellement par l’homme, mais peut
être liée à un accident. Si la mutation est intentionnelle, on entre plutôt dans
la catégorie Bétail, avec les OGM par exemple.
Robot et Bétail sont quant à eux des instruments artificiels, produits par
l’activité humaine. Robot est totalement mécanique, Bétail totalement
organique. Pour ces deux formes se pose toujours la question de
l’individualité : un Robot au sens plein doit être doté d’une personnalité
(comme C-3PO dans Star Wars ou HAL dans 2001 : l’odyssée de l’espace).
Bétail, produit de l’ingénierie humaine, aspire également à être individué :
« Tout Bétail est un individu à qui l’on dénie son statut autonome et qu’on a
produit pour qu’il serve une certaine fin, mais qui soudain montre une
autonomie qui surprend son créateur. » Ce sont les clones du film The
Island, ou par extension le Golem et le monstre de Frankenstein. La sixième
figure, Zombie, est le contrepoint de la fiction de Bétail, décrit Thierry
Hoquet. Il est souvent pluriel, dénué d’individualité, il incarne l’aspect
désorganisé et spontané des puissances vitales. Ce sont les créatures du film
Alien ou les morts vivants des films de zombies. Ces histoires racontent des
invasions extérieures, des proliférations incontrôlées, une entité créée par
l’homme, échappée de ses laboratoires. La fiction de Bétail parle au
contraire d’individus qui souffrent d’aliénation et d’exploitation.
Ces six formes fictionnelles traduiraient les aspirations des sciences qui
leur sont apparentées : génétique, cybernétique, robotique, agriculture,
biomédecine. « Mutant réalise un fantasme de puissance : le monde
continue à aller comme il va, mais quelques individus ont le pouvoir
d’échapper aux règles ordinaires, ils passent à travers les murs, changent de
formes, déclenchent des tornades ou résistent aux chocs. » Ils ont « les bras
qui s’allongent, ou le corps endurci, ou le corps qui s’enflamme, ou qui
dégage des ondes magnétiques ». Se pose la question des différences,
comme dans les films X-Men : « À partir de quel degré de différence nous
trouvons-nous “anormaux”, susceptibles d’être exclus de l’espèce
humaine ? » Une notion de seuil que l’on retrouve dans les questionnements
sur l’homme augmenté : jusqu’où sommes-nous humains ? À ce titre, la
pensée réductionniste, en éliminant les préventions morales ou culturelles,
permet de concevoir des modifications audacieuses. Ainsi Jeffrey F. Kahn,
directeur de l’Institut de bioéthique Johns Hopkins Berman à Baltimore,
aux États-Unis, peut justifier la construction de chimères homme-animal
par ce commentaire : « Après tout, ce n’est que de l’ADN ! […] Que
faisons-nous lorsque nous mélangeons les caractéristiques de deux
espèces ? interroge-il. Qu’est-ce qui nous rend humains ? Est-ce le fait
d’avoir 51 % de cellules humaines 210 ? » Cette question glaçante réunit les
deux facettes de la rationalité numérique qui triomphe dans le
transhumanisme : tout vivant ne serait que le reflet de son ADN et celui-ci
pourrait être soumis à la quantification… La boucle réductionniste est
bouclée.
La typologie dressée par Thierry Hoquet permet de montrer les logiques
à l’œuvre, mais aussi l’infinie variété de gradations entre ces figures.
Chaque type fictionnel fait aussi apparaître les risques associés :
l’hyperspécialisation du Mutant et son rejet par la société, l’obsolescence du
Cyborg, la nécessaire maintenance et l’aliénation liée à la brevetabilité de
ses composantes qui ne lui appartiennent pas, ainsi que l’oubli du corps
pour l’Organorg, la dépendance du Robot à l’homme, l’exploitation et la
perte d’identité du Bétail, l’ensauvagement et la dégénération du Zombie.
Ces figures imaginaires montrent aussi les dérives politiques possibles : les
films de Mutants nous parlent de disparition de l’égalité et d’eugénisme,
avec la formation d’une élite aristocratique où chaque individu est réduit à
une fonction, celle de son « superpouvoir », et où toute la question est de
savoir comment ces individus vont faire société (entre eux ou avec les
humains non mutés). Les fictions de Cyborgs évoquent des sociétés de
contrôle. Celles de Bétail interrogent l’instrumentalisation du vivant et « la
volonté des humains de se poser “comme maîtres et possesseurs” de la
puissance vitale ». Elles dressent le portrait de mondes totalitaires, où des
individus sont réduits en esclavage, assignés à une fonction, désignés pour
celle-ci. « Bétail incarne l’esprit du marché : la production d’individus
instrumentalisés, considérés non comme des fins mais comme des moyens,
et voués donc à une exploitation certaine via leur marchandisation. » Quant
à la figure de Robot, il trace le contour d’une oligarchie monopolistique :
« Quelques grandes compagnies sont en capacité de produire à grande
échelle des esclaves, instruments animés sans caractère. » Quelles que
soient les voies choisies (ou subies), aucun de ces futurs fictionnels ne
semble très désirable. Mais ils présentent un éventail des prises de contrôle
du corps que permettraient les technosciences.
Au mépris de l’écologie
Le monde post-humain où nous mène le transhumanisme, c’est aussi un
environnement artificiel, résultat des modifications imposées partout par
notre espèce. Par ses origines californiennes, proches de la contre-culture
des années 1970, le transhumanisme reste parfois marqué par l’écologie
profonde. Mais il demeure largement étranger à l’écologie politique, qui
veut respecter la planète pour en assurer une jouissance humaine durable,
garantissant ainsi la pérennité des conditions d’épanouissement de
l’humain. Cette préoccupation est négligée par ceux qui ne différencient pas
l’humain de la machine. On les trouve aussi bien dans les courants de la
deep ecology que dans les laboratoires les plus à la pointe de la recherche
scientifique. Mettre l’émancipation humaine au cœur de tout projet
écologique semble absent des propositions des transhumanistes. Ils
négligent le fait que nous sommes de la nature, que notre équilibre sensible
et intellectuel ne se nourrit pas d’algorithmes, de mécanismes automatiques
et de télécommandes. Les transhumanistes n’envisagent pas que la
prévention des menaces qui pèsent sur l’environnement soit une priorité. Ils
proposent au contraire des « solutions » qui devraient accélérer la ruine de
la planète, en accentuant l’emprise des humains puis des post-humains sur
les ressources naturelles, au mépris des conséquences déjà irréversibles des
pollutions et des déséquilibres de systèmes qui nous permettent de vivre.
Pour prendre l’exemple de la fertilité masculine, une récente étude 231,
confirmant les nombreux rapports antérieurs, démontre une baisse
dramatique du nombre des spermatozoïdes, de 50-60 %, entre 1971 et 2011
chez les hommes occidentaux. À ce rythme, les spermatozoïdes pourraient
disparaître en 2060 ! L’explication la plus vraisemblable implique les
pollutions chimiques. En l’absence de dispositions drastiques sur les
polluants, c’est la technologie qui invente une parade : permettre la
fécondation in vitro avec un seul spermatozoïde par la technique ICSI (intra
cytoplasmic sperm injection), pour pallier cette diminution effective de
l’homme !
La croyance qu’une croissance économique sans limites serait possible
est aussi prégnante chez les transhumanistes que chez les tenants du
« développement durable ». L’association française transhumaniste
Technoprog s’est prononcée par la plume de son président sur les relations
entre transhumanisme et décroissance économique 232 : « Une bonne
connaissance des perspectives transhumanistes » montre qu’il n’y a pas
d’opposition avec les exigences de la décroissance, avance Marc Roux.
Transhumanisme et décroissance seraient « même nécessaires l’une à
l’autre » ! Pour cela, il affirme le droit à la lenteur, la nécessité d’évaluer la
balance risques / bénéfices, tout comme la nécessité d’éviter le
consumérisme et le productivisme. Ainsi pourrait-on parvenir à
l’augmentation et l’amélioration humaines sans aggravation de l’empreinte
écologique. De telles affirmations font clairement la différence avec les
positions néolibérales indifférentes à l’environnement, telles qu’avancées
par d’autres transhumanistes. Mais il est difficile de leur accorder une
crédibilité : comment la slow science pourrait-elle s’accommoder de la
course à l’innovation accélérée pour le « progrès » ? Comment la
précaution serait-elle respectée quand l’idéologie transhumaniste place
chercheurs et industriels dans une arène de compétition et privatise la
connaissance ? Comment l’empreinte écologique ne serait-elle pas
augmentée par le développement accéléré de machines dévoreuses
d’énergie et de substances rares, et productrices d’innombrables déchets
souvent toxiques ?
Certainement conscients de ces catastrophes à venir, bien des
transhumanistes prônent des modifications biologiques pour obtenir une
nouvelle configuration du corps humain, plus adaptée au déclin de la Terre
et aux modifications des conditions de vie. Ou bien, solution alternative ou
complémentaire, ils sont partisans de la migration vers d’autres planètes
pour faire face à l’augmentation importante de la population terrestre, du
fait de l’accroissement de la longévité promise…
Le ralliement de Technoprog aux industries les moins écologiques –
OGM, nucléaire, nanotechnologies 233 – témoigne de l’imposture ou de
l’opportunisme de ce courant. Pour la plupart des autres propagandistes du
transhumanisme, il n’est question que de construire l’homme augmenté in
silico (« dans le silicium »), en faisant fi de l’environnement, et non in vivo,
dans le monde vivant. Il arrive parfois que le délire prométhéen s’enrichisse
de propositions visant la construction simultanée d’un homme augmenté et
d’un monde artificiel, adapté aux post-humains, avec par exemple le
recours à la géo-ingénierie, manipulation du climat à grande échelle dont
nul ne peut prévoir les conséquences 234. Tout en attendant le déménagement
cosmique ! Voilà qui nous place en position d’expérimentation, par des
apprentis sorciers méprisant la complexité du monde et les sources vitales
qui nourrissent le corps et l’esprit des humains.
Développements hasardeux…
ou suicidaires ?
Il est troublant de constater la place du hasard dans les stratégies
transhumanistes. Avec les nanotechnologies, par exemple, la matière est
manipulée sans qu’il soit possible de prévoir ce qu’il en résultera. Les
propriétés que manifesteront les nanoproduits sont imprévisibles. Le
programme de recherche dans le domaine des nanosciences est
délibérément dédié à des manipulations de la matière dont le but est de
surprendre l’expérimentateur. Cette démarche rompt avec la logique
scientifique qui prétend à la maîtrise tout au long d’une fabrication. Ce n’est
pas un choix délibéré : le caractère aléatoire des nanoproduits est lié à la
modification imposée à la matière qui, mutée dans sa structure, ne se prête
plus aux protocoles et prévisions connus depuis le début de la science.
L’aléatoire qui accompagne la fabrication de ces nanoproduits évoque le
hasard qui préside à la conception naturelle des êtres vivants, à l’origine de
l’incertitude et souvent de l’imperfection. La fabrication aléatoire du vivant
n’est pas nouvelle, elle est par exemple constitutive de l’industrie des
plantes transgéniques, laquelle ne retient que les rares plants conformes à
son projet parmi tous ceux disponibles à l’issue de manipulations jamais
complètement maîtrisées. De même, quand la biologie synthétique fabrique
des êtres inédits et imprévisibles en modifiant des éléments naturels comme
les bases de l’ADN, elle ignore ce qu’il va advenir des manipulations, en
termes d’utilité mais aussi d’impact sur le reste du monde.
Pourtant, le chemin hasardeux pour inventer des lendemains
transhumanistes diffère de celui des généticiens d’aujourd’hui, qui
souhaitent des modifications précises du génome humain pour produire des
effets délibérés, par exemple lutter contre des maladies ciblées. C’est parce
que la précision et la fiabilité de nos actions sont entravées par la
complexité du vivant que la médecine prédictive / préventive ne peut pas
échapper au hasard : malgré ses prétentions à l’efficacité, elle ne sait
qu’approcher des probabilités pour instituer « des hommes probables dans
un monde incertain 241 ». Au contraire, la revendication par les
transhumanistes d’œuvrer à un futur surprenant va contre cette vieille
exigence de maîtrise qui anime encore nombre d’innovations. Ce qui est
nouveau avec le projet transhumaniste, c’est la consécration de l’aléatoire
comme moteur d’un avenir possiblement meilleur. Qu’arriverait-il si les
robots devenaient capables de produire d’autres robots, en imitant les
mécanismes propres à la reproduction du vivant, en ajoutant sans cesse du
nouveau à l’existant, c’est-à-dire en se rendant imprévisibles pour leurs
concepteurs ? Ce scénario correspond au projet du généticien George
Church de mettre en route des machines à évolution, qui seraient capables
de générer des êtres variés dont la sélection ne serait plus assurée par
l’homme, mais dépendante du cybermonde… ou du marché. De telles
créations buissonnantes, capables de provoquer des surprises en continu,
conserveront-elles l’aura des mécanismes impeccables ? Peu importe, dirait
Church, la stratégie étant de repartir sur des chemins évolutifs variés dont la
sélection se fera ultérieurement… et sans nous. Une sorte de darwinisme
dans la compétition industrielle…
Un autre généticien est passé à l’acte. Kevin Folta, chercheur en
biologie moléculaire végétale à l’université de Floride, a introduit des petits
morceaux d’ADN, synthétisés au hasard, dans la plante modèle
Arabidopsis. Ces éléments, beaucoup plus petits que des gènes, induisent la
formation de peptides (éléments constituant les protéines) qui perturbent la
physiologie et l’anatomie de la plante de façon variable selon le fragment
d’ADN ajouté : tiges plus petites ou plus grandes, forme des feuilles
inédite, floraison précoce, mort prématurée 242… En réintroduisant le même
fragment d’ADN dans une autre plante le même effet serait constaté, il
s’agit donc d’une perturbation spécifique mais obtenue « just by chance »…
Kevin Folta espère découvrir une nouvelle génération d’antibiotiques en
reproduisant ces expériences sur des bactéries. Si Alexander Fleming a
inventé les antibiotiques par inadvertance, la science veut désormais faire
du hasard le moteur de sa stratégie.
L’ajout de nouvelles lettres aux quatre (A, T, G, C) qui composent
l’ADN depuis trois milliards d’années relève aussi de « l’optimisme
raisonné de faire émerger “le second meilleur des mondes possibles” » que
défend Philippe Marlière (voir chapitre 6) ! L’aléatoire est décidément une
composante essentielle du transhumanisme dont certains projets s’inspirent
des conditions de l’évolution naturelle des espèces. Ce qui animait la
technoscience, jusqu’à récemment, c’était l’amélioration du monde en
abolissant le hasard. Voici qu’il s’agit dorénavant de renouveler le monde,
en s’abandonnant aux événements aléatoires ! Jusqu’où pourrons-nous
accepter ces pratiques dignes de véritables apprentis sorciers, pratiques qui
échappent au ludique laborantin et introduisent des risques irréversibles ?
Ces explorations de tous les possibles ne sont-elles pas le comble de la
mésestime de l’humain, la non-maîtrise étant le signe d’une attitude
suicidaire ? Jean-Michel Besnier analyse cette quête comme « une toile de
fond de cette effrayante aspiration à être débarrassé des oripeaux de
l’humain […]. N’aspirons-nous pas, en effet, à nous laisser surprendre par
les objets produits par la technologie comme si nous étions fatigués d’être
aux commandes ou bien effrayés par les désordres que notre maîtrise a
produits 243 » ? Un autre philosophe, Jean-Pierre Dupuy, prévient : « Il va
nous falloir apprendre à penser que, la catastrophe apparue, il était
impossible qu’elle ne se produise pas, mais qu’avant qu’elle ne se produise,
elle pouvait ne pas se produire 244… » Puisque l’inéluctable n’est jamais
certain, contre les aventures du transhumanisme, la vigilance est de rigueur.
Le comportement de l’humanité, dans son rapport aux technosciences,
est-il suicidaire ? C’est ce que pourraient indiquer les stratégies qui
soumettent notre devenir au hasard technologique. C’est aussi ce qu’il
ressort du projet délibéré de substituer les machines à l’humain. Après avoir
rappelé que c’est par le langage que s’exprime l’individualité de la
personne, Jean-Michel Besnier prévient que « la simplification à laquelle
[l’humanité] se laisse aller, en confiant les commandes à ses techniques, est
le symptôme d’un renoncement à soi qui équivaut à un suicide ». Il peut
sembler contradictoire de marier le projet suicidaire des transhumanistes
avec leur hantise de la mort. Mais, s’il refuse que se poursuive l’aventure de
notre espèce, qu’il estime sans intérêt, chaque transhumaniste espère qu’en
parvenant au stade de post-humain il bénéficiera de la prolongation de son
existence. L’immortalité promise n’est alors pas celle des êtres humains,
mais celle des cyborgs, héritiers de notre part animale chargée de
mécanique. Ainsi il y a tromperie sur l’immortalité promise par les
transhumanistes car ce qui peut séduire les humains – cette chance de se
perpétuer même bardé de prothèses – n’est en réalité que la perspective de
réparations mécaniques qui ne concernent pas la personne et sa conscience
d’être au monde. On peut élargir cette tromperie à la volonté de créer du
vivant, ne serait-ce qu’un micro-organisme artificiel : si on parvenait à
fabriquer la vie, il s’agirait d’autre chose que ce que nous nommons la vie
car, nous dit Paul Valéry, « artificiel veut dire qui tend à un but défini. Et
s’oppose par là à vivant 245 ». Paul Valéry ajoute : « Si la vie avait un but,
elle ne serait plus la vie. » Ainsi les plus fabuleuses des promesses
transhumanistes, qui manient sans modestie les concepts de vie et de mort,
ne seraient-elles que des leurres.
POURRA-T-ON Y ÉCHAPPER ?
Pourquoi résister ?
« Pallier nos carences »
Il est une autre explication à l’engouement technologique : l’espoir
souvent naïf de voir sa vie facilitée. À la suite de Günther Anders, on peut
considérer que l’humiliation vécue par l’homme devant les performances
des machines qu’il a inventées se transforme en un désir de substituer
l’excellence machinique à ses propres carences. L’homme aurait déjà livré
le meilleur de son potentiel, tandis que celui des dispositifs techniques est
en progression permanente : mieux vaudrait quitter le radeau de l’humanité,
accepter la défaite et faire des paris jubilatoires sur les performances des
vaisseaux victorieux de la robotisation. Ainsi le robot porte les espoirs
d’autonomie que nous abandonnons peu à peu, et l’hybridation avec la
machine laisse miroiter une promotion de l’humain défait.
Pour beaucoup d’entre nous, tout a commencé par un consentement
tacite aux machines, qui s’est vite transformé en projet de fuir l’idéal
humaniste, pour désirer et s’approprier les avancées techniques. Un peu
comme ces spectateurs applaudissant dans un stade des sportifs qui leur
sont étrangers en presque tout, mais qui traduisent en actes le désir infantile
de gagner. La frustration, qui nous atteint dès qu’un gadget devient
disponible et nourrit une publicité agressive, nous poursuit avec les
difficultés croissantes d’utilisation de ces machines qui s’imposent au
quotidien. Leurs constructeurs augmentent la complexité à l’envi, comme
pour nous infantiliser devant l’informatique triomphante. Peut-on se
consoler en rappelant d’autres invasions techniques dont le charme n’aura
duré qu’un temps ? Comme ce fantastique avion supersonique qu’était le
Concorde, ou comme l’industrie nucléaire dont l’abandon se dessine enfin,
mais sans solution quant aux déchets dangereux pour cent mille ans. Ou
encore comme les plantes génétiquement modifiées, qui n’ont jamais pu
démontrer leurs avantages pour les populations et dont les méfaits
environnementaux, sociaux et sanitaires signent la faillite, malgré les efforts
renouvelés des industriels pour les rendre plus présentables 274. Que de
faillites justifiées par le TINA ! Si l’histoire a montré que ces « progrès »
étaient réversibles, les dégâts peuvent persister des milliers d’années,
comme avec les déchets radioactifs. Et ces conséquences risquent d’être
plus graves encore quand l’innovation altère la nature même des êtres
humains.
Un argument transhumaniste pour modifier notre constitution
biologique est la compensation de certaines carences qui seraient apparues
progressivement au cours de l’évolution. Notons que cet argument laisse
penser qu’il fut un temps où l’homme valait mieux qu’aujourd’hui, un
certificat de qualité qui contredit le discours transhumaniste sur notre nullité
congénitale… Après avoir déploré que notre odorat se soit affaibli par
absence de sélection naturelle, Laurent Alexandre estime que « la
dégradation de notre génome va affecter particulièrement notre système
nerveux central et notre câblage neuronal 275 ». À quoi l’on peut répondre
que notre odorat actuel suffit à notre bonheur et que, s’il y a régression
neuronale, la cause pourrait en incomber aux machines qui « réduisent nos
comportements à la logique de leur fonctionnement dépourvu d’ambiguïté,
d’ironie ou d’émotions 276 ». L’hippocampe, organe cérébral servant à
l’orientation, très développé chez les chauffeurs de taxi, se verrait ainsi
fortement réduit par l’usage intensif du GPS, cette assistance technique
dispensant le cerveau d’assumer ses fonctions naturelles. Or l’hippocampe
intervient aussi pour réguler les émotions et renouveler les neurones…
Combien d’autres aptitudes seront ainsi menacées par l’invasion qui
commence des « machines intelligentes » ?
Des promesses irréalisables ?
Sans en faire l’argument principal de nos réticences, on doit aussi
s’interroger sur la faisabilité technique de certaines réalisations promises.
Presque toujours les transhumanistes, emportés par l’hystérie technophile
vers un perfectionnisme qu’il est interdit de questionner, raisonnent comme
si la manipulation qu’ils souhaitent ne pouvait être qu’impeccablement
réussie. Comme si notre aptitude à augmenter telle performance humaine
nous exonérait, par l’ampleur même de l’exploit mis en œuvre, de suspecter
quelque défaillance dans sa réalisation.
Jean-Gabriel Ganascia, spécialiste de l’intelligence artificielle, démonte
ainsi les craintes d’une réduction en esclavage des humains par les
machines (déclarations de Stephen Hawking, Elon Musk, Bill Gates et
autres) car, loin d’acquérir une véritable autonomie, « elles restent soumises
aux catégories et aux finalités imposées par ceux qui auront annoté les
exemples utilisés durant la phase d’apprentissage […] Celui qui configure
l’algorithme d’apprentissage par renforcement choisit lui-même le critère à
optimiser, sans que la machine soit en mesure de le changer 284 ». Ganascia
ironise sur les prédictions : « à mesure que le temps passe, on doit
reconsidérer les prévisions trop optimistes ». En 1993, Ray Kurzweil
promettait la Singularité pour 2023 ; « en 2010, ce terme approchant, il
s’offre alors un délai supplémentaire, à nouveau d’un peu plus d’une
vingtaine d’années […] Tout se passe comme au Moyen Âge, avec
l’anticipation de la date de l’Apocalypse ». Et Ganascia conclut : « Il n’y a
pas de lien direct entre la puissance de calcul des machines et leur capacité
à simuler l’intelligence. En conséquence, quand bien même la loi de Moore
resterait valide, ce qui est bien hypothétique, cela ne conduirait pas
inéluctablement à la création de machines ultra-intelligentes. »
La génétique donne déjà des exemples de la faillite de telles prétentions,
quand par exemple la thérapie génique provoque des effets parfois
gravement pathogènes pour le patient, comme avec la position atypique
d’un gène ajouté dans le génome. Ou quand l’industrie des plantes
transgéniques néglige les conséquences imprévisibles de la modification
d’un gène sur le fonctionnement d’autres gènes ou sur l’environnement. Les
discours triomphalistes se succèdent à propos de techniques en progrès
constant : de nouvelles adaptations des techniques sont sans cesse créées,
comme pour donner à croire que les carences des anciennes s’en
trouveraient annulées, mais en faisant l’économie de tout bilan. Pourtant il
est à craindre que toute modification du génome humain soit susceptible de
créer aussi des mutations 285 et des épimutations 286, ne serait-ce que par la
seule manipulation des cellules. Outre le fait que les avantages résultant de
la modification de notre génome demeurent toujours incertains, il faudrait
donc compter avec l’éventualité que ces changements concernent aussi des
propriétés indésirables, non ciblées par la modification.
Ces risques indéniables n’empêchent toutefois pas les essais de
technologies génétiques chez l’humain. Quand, par exemple, un bioéthicien
déclare, à propos de la sélection ou de la modification des embryons : « je
ne pense pas qu’on verra bientôt Superman ou une rupture de l’espèce parce
que nos connaissances sont insuffisantes 287 », son avis est largement
interprété comme rassurant, alors qu’il devrait plutôt inquiéter. Ce n’est pas
parce que nos savoirs sont insuffisants qu’ils ne seront pas utilisés !
Par ailleurs la complexité biologique (multiplicité des gènes et de leurs
allèles, interactions entre gènes, rôle de « l’ADN poubelle », perturbations
épigénétiques, etc.) n’empêchera pas des individus inquiets, et surtout des
sociétés avides de « qualité sanitaire », de favoriser le recours à des
technologies qui ne laissent espérer des améliorations que pour 10 ou 20 %
des patients. Nous entrons dans l’ère de la médecine statistique. Le
généticien Arnold Munnich estime que le décryptage du génome de chacun
pourrait permettre de détecter entre 60 et 100 maladies potentielles chez
tout être humain en bonne santé ! Dans ces conditions, « à quoi peut servir
la médecine prédictive préventive 288 ? », demande-t-il. Ce qui est recherché
aujourd’hui, c’est « seulement » une certaine norme génétique, par
l’exclusion de facteurs défavorables. Il semble que personne ne vise la
perfection génétique ! Sauf peut-être George Church et son programme
démentiel pour synthétiser de novo un génome humain grâce à la biologie
de synthèse. « Dessine-moi un humain parfait », devrait-on exiger d’abord
de ce démiurge au nom d’église…
Se préserver des aventures aveugles
et désinvoltes
Ce n’est pas sacraliser la nature que de considérer qu’elle constitue un
repère, une base arrière sécurisée, face aux apprentis sorciers. Ainsi écrivait
Hannah Arendt : « Il se pourrait qu’on parvienne un jour à faire en sorte que
les hommes soient immortels, et tout ce qu’on a pensé concernant la mort et
sa profondeur deviendrait alors tout simplement risible. Il serait possible de
dire que ce prix est trop élevé en contrepartie de la suppression de la
mort 289. »
Nous ne prévoyons aucun bénéfice culturel ou affectif apporté par des
« intelligences » artificielles expertes en calcul. De quoi seraient composés
les mémoires et les rêves sans les livres et les musiques, sans les mythes qui
racontent la fragilité et les émotions de nos aïeux comme de nos
contemporains ? Nous tenons à notre espèce même avec ses tares, et à notre
planète même avec ses cataclysmes. Combien d’innombrables essais,
combien d’erreurs oubliées, pour que l’évolution façonne chaque être
vivant, et notre espèce parmi les autres vivants ? Combien de déceptions ou
de drames à venir si nous rompons brusquement avec notre condition
actuelle au prétexte d’un hypothétique perfectionnement ? Notre
constitution est relativement fragile, autant qu’est fragile l’équilibre instable
de l’humain avec l’environnement, c’est pourquoi il faut les préserver des
aventures aveugles. Non par dévotion, mais parce que nous n’en avons pas
d’autres ! L’état des choses dont nous avons hérité fut acquis dans la lenteur
de l’évolution et c’est seulement ainsi qu’il peut éventuellement être
modifié, d’autant plus que, si c’est l’homme qui pilote les changements, ses
actions risquent de se globaliser rapidement, leurs effets biologiques ou
physiques étant décuplés par la volonté normalisatrice, un moteur qu’ignore
la nature. Comme le remarquait l’écrivain Robert Musil, « une telle quantité
d’hommes est consommée pour un petit bout de chemin d’humanité. Si
nous savions seulement de façon certaine que nous sommes sur le bon
chemin, nous pourrions faire de très petits pas, cela ne ferait absolument pas
mal ».
Ce qui nous inquiète dans la transgression transhumaniste, c’est la
désinvolture qui accompagne le risque pris de mutations et déséquilibres
instantanés, violents et potentiellement néfastes. Cette désinvolture
s’enracine dans la déconstruction actuelle de ce que l’on croyait acquis par
la culture, et elle prospère partout et sur bien des thèmes, depuis la négation
de la différence sexuelle jusqu’au mépris de la filiation. Voilà que des
femmes exigent de s’affranchir de la ménopause et des hommes de
l’absence d’utérus, que les gamètes et embryons se vendent sur internet, que
des enfants orphelins de leurs origines sont fabriqués massivement, que l’on
peut éviter l’enfant du sexe non souhaité, ou affecté de strabisme. C’est
aussi sur ce terreau annonçant le refus de toute limite que prospère le
transhumanisme. Aucun de ses « progrès » ne nous laissera indemnes,
même ceux qui s’épuiseront en chemin, même ceux qui semblent n’affecter
que les robots. Ainsi, un psychologue s’inquiète : « Le jour où nous en
arriverons à croire que notre robot est capable d’amour, nous serons en
danger. Il ne nous aimera pas, mais nous, nous finirons par l’aimer. Nous
avons envie d’être bernés, ce qui nous rend vulnérables 290. » La conjonction
des sciences du vivant et des sciences de l’information, telle que la
traduisent les utopies post-humaines, se construit sur la ruine de l’aptitude à
dire « non », par laquelle se manifeste la liberté de l’humain 291.
Comment résister ?
Convaincre ?
Tous les partisans plus ou moins déclarés du transhumanisme lancent
une botte définitive, qui vient clore le débat : toutes ces « révolutions »
arriveront quoi que nous fassions. Il est donc inutile de « sombrer dans le
pessimisme et la nostalgie pleurnicharde […], il est vain de vouloir tout
stopper, de jeter l’anathème sur tout ce qui bouge au nom de la préservation
du passé ». Ainsi Luc Ferry propose la régulation pour « fixer des limites à
l’homme prométhéen ». Cette régulation permettrait aussi de dépasser les
« velléités restauratrices hargneuses, les lamentations médiatiques sur l’air
du tout fout le camp 294 ». En renvoyant dos à dos transhumanistes et
bioconservateurs, Ferry se positionne clairement contre toute résistance
effective au transhumanisme. Il lui semble naturel d’exclure du processus
« la société civile qui est par essence le lieu des intérêts particuliers »…
Bref, le système capitaliste qui nous a amenés là où nous sommes, et qui ne
défendrait que le bien commun, serait capable de lui-même de poser des
limites à son appétit mortifère. Il n’y aurait rien à attendre d’une opposition
organisée à ses projets.
Et qu’attendre de cette régulation quand le même auteur reconnaît
l’impuissance publique face au marché mondial, en même temps que
l’ineptie de construire une éthique seulement nationale, et qu’il propose
d’exclure des décisions la société civile ? Ainsi, pour Luc Ferry, un bon
débat ne devrait convoquer que des technophiles néolibéraux et optimistes !
Cette dernière qualité est désormais exigée de toute personne qui prétend
intervenir dans les discussions sur le « progrès ». Certains optimistes
indécrottables se comportent pourtant comme des criminels, par exemple en
niant le rôle de l’homme dans les changements climatiques…
Mais d’abord, afin de rendre possible une discussion sérieuse, pourrait-
on redonner aux mots leur sens véritable, pour empêcher toute
mystification ? Platon le disait déjà : ne nous laissons pas voler les mots, au
risque de l’asservissement volontaire à une idéologie simplificatrice et
conquérante ! Un exemple ? L’emploi inconsidéré de l’expression
« intelligence artificielle » qui culmine avec l’« intelligence artificielle
forte », celle qui est promise pour les machines des prochaines décennies et
serait capable de conscience de soi. Elle comprendrait l’imagination et la
créativité mais aussi les émotions, le chagrin ou la joie, la haine ou l’amour,
la poésie ou la foi, la souffrance ou le plaisir, le sentiment esthétique. Si
nous croyons que seule cette intelligence « forte », laquelle nous semble
plus probable chez l’orang-outan que chez l’ordinateur du futur, mériterait
d’être appelée « intelligence », cela devrait nous amener à refuser le label
« intelligence » aux calculateurs d’aujourd’hui. Nos ordinateurs ne
produisent qu’une « IA faible », celle qui se ramène finalement à la logique
froide et ne mérite pas le label « intelligence ». Redonner leur sens aux
mots est une première étape pour déminer toute propagande.
LA MACHINE À RÊVES
Interdire ?
Si le péril est trop grand, est-il possible de dire « stop » ? Sans même
parler d’infléchir le mouvement en amont de la catastrophe, sommes-nous
capables d’arrêter la machine infernale, en cas de danger imminent ? On a
pu lire récemment des mises en garde de la part de chercheurs en
intelligence artificielle 312 ou en « bidouillages du climat 313 ». Plus de
700 scientifiques et des chefs d’entreprise ont publié ainsi une lettre
ouverte, dans laquelle ils s’inquiètent de l’évolution de l’intelligence
artificielle et souhaitent que les futurs développements se fassent au
bénéfice de la société. Le physicien Stephen Hawking affirme que le
développement d’une intelligence artificielle complète pourrait mettre fin à
l’espèce humaine. Quant à Matthew Watson, chercheur à l’université de
Bristol (Royaume-Uni), qui a piloté une étude sur l’injection de particules
chimiques dans la stratosphère pour lutter contre le dérèglement climatique,
il s’est récemment déclaré « terrifié » par les projets de géo-ingénierie…
Ces sursauts de conscience ne doivent pas faire illusion, préviennent des
anthropologues 314 : ces chercheurs mettent en garde sur les retombées
négatives des changements qu’ils font advenir, comme s’ils tentaient des
« pratiques de désorcèlement » sur eux-mêmes puis sur la société, en se
présentant comme lanceurs d’alerte. De fait, pour éviter les dangers qu’ils
dénoncent – tout en continuant d’y contribuer –, ces apprentis sorciers ne
sont pas allés jusqu’à demander un moratoire. Leur alerte permet plutôt de
rassurer l’opinion quant au sérieux et à la responsabilité de ceux qui
apparaissent comme les agents techniques des futurs maîtres du monde…
Évoquant le moratoire d’Asilomar où les inventeurs des OGM, en 1974,
s’inquiétèrent de la sécurisation de leurs laboratoires, Laurent Alexandre
rappelle ironiquement que ce moratoire « n’a tenu que quelques
semaines 315 ». Il ajoute comme un défi : « Qui est aujourd’hui en mesure de
poser des limites ? » Ce triomphalisme de gangster est explicité plus loin :
« La question n’est déjà plus celle de l’acceptabilité mais de l’égalité de la
diffusion de ces technologies. » Où l’on retrouve l’incontournable TINA du
libéralisme outrancier… Mais aussi une affirmation tranquille qu’expriment
beaucoup de personnes confrontées aux perspectives transhumanistes : ces
innovations seraient tout bénéfice pourvu que bien partagées. De telles
réflexions paresseuses montrent le poids idéologique du « progrès »,
toujours et forcément positif, autant que la négation des impacts collatéraux
des technologies et de l’emprise de politiques inégalitaires.
Si l’on ne peut pas poser de limites, qui sera jugé responsable ? En
décider aujourd’hui constituerait un frein immédiat ou bien rendrait peut-
être dissuasifs les actes qui pourraient être jugés demain. Pourra-t-on
incriminer les « entreprises qui s’évertuent aujourd’hui à multiplier les
“applis” […] et introduisent sur le marché les produits innovants qui se
multiplieront tous azimuts, avant de créer les conditions d’une mutation
annonciatrice sinon d’un post-humain du moins d’une humanité en phase
avec les machines 316 » ? Ou alors les coupables seraient-ils les scientifiques
investis dans les recherches à vocation transhumaniste, comme les
spécialistes du cerveau ? Faut-il leur faire jurer « de ne pas nuire », leur
faire prêter serment, ainsi que le suggère Laurent Alexandre, comme les
médecins prononcent le serment d’Hippocrate ? Ne tombons pas dans cette
illusion moralisatrice : un serment n’empêchera jamais quiconque de se
comporter autrement que ce qu’il a promis, en prétextant l’urgence ou des
conditions particulières pour se justifier. Alors peut-on imaginer que tel
comportement devienne passible des tribunaux parce que contraire à l’ordre
public ? Un mécanisme dévoreur de big data qui s’immisce dans votre vie
(ça existe déjà), une personne équipée de détecteurs pour deviner vos
pensées (ça devrait exister bientôt), ne sont-ils pas « contraires à l’ordre
public » ? Tout comme des pratiques presque banalisées permettant de louer
ou acheter un organe, de révéler des risques pour des pathologies que l’on
est incapable de soigner, de donner un statut de « personne électronique » à
des robots ? Il y aurait bien d’autres exemples. L’Ordre public est
caractérisé dans le droit administratif français par « le bon ordre, la sécurité,
la salubrité et la tranquillité publiques », mais aussi « la moralité publique
et la dignité de la personne humaine 317 ». Encore faudrait-il démontrer que
toutes ces innovations, désirées par certains, portent atteinte au bon ordre et
à la sécurité. Une démonstration difficile qui susciterait des controverses
sans fin. De plus, les notions de moralité publique et de dignité de la
personne humaine sont relatives : la moralité change, la dignité peut aussi
bien consister à s’augmenter dans la mesure du possible, qu’à refuser
l’augmentation. Tout ce qui renvoie à des notions aussi vagues que l’ordre
public ou la dignité humaine, qui n’acquièrent un sens qu’après de longues
constructions juridiques pour en préciser les contours au cas par cas, est peu
efficace. Quelques droits fondamentaux pourraient être plus immédiatement
disponibles : le droit à la vie privée peut poser des limites au big data, par
exemple. Les législations peuvent être relativement efficaces pour
s’opposer, au moins sur le territoire national, aux ventes d’organes ou aux
locations d’utérus. Ce qui n’empêche pas de recourir à d’autres dispositions
en cours à l’étranger pour faire ce qui est interdit chez soi, notamment grâce
au développement d’intenses marchés noirs… Quand ces restrictions au no
limit trouvent un écho en France, se pose la question de la concurrence de
pays plus libéraux. Bref, malgré son appareil législatif et éthique, l’État
paraît bien impuissant pour préserver les citoyens des avancées
transhumanistes, si telle était son intention…
UN PROCESSUS INCONTRÔLABLE ?