Indication temporelle : C’était il y a une quarantaine d’années, autour de 1990.

Sur les IA : On avait recommencé à appeler « intelligence artificielle » la quête de dispositifs

techniques capables d’apprendre, après que l’expression eut disparu pendant près de vingt ans. Un
phénomène concomitant me fascinait : plus les objectifs des acteurs du domaine étaient infects, plus
ils parlaient d’éthique. C’est ce qui m’a conduit à postuler chez INTARBOT, une des start-ups
prometteuses du domaine qui s’était pour l’instant abstenue d’invoquer l’éthique.

Pendant les dix années suivantes, nous avons élaboré, évalué et révisé des briques d’intelligence
artificielle. Une intelligence artificielle dans le sens que nous lui donnions devait être capable de
perception, de raisonnement, d’expression, de décision et bien sûr d’action. Mes apports reposaient
sur la prise en compte des critiques de l’idée même d’intelligence artificielle sous sa forme
dominante computationnelle. Autrement dit, de ceux qui nient qu’un ordinateur puisse, quelles que
soient ses unités de calcul, ses programmes, ses capteurs et ses effecteurs, être considéré comme un
être conscient. Seulement, dans mon réservoir de pensées philosophiques et d’observations
anthropologiques, celles-là mêmes qui vous animent à divers degrés je crois, il y avait ce que je leur
apportais et ce que je gardais pour moi.

La conception de l’intelligence artificielle éthique des marchands de mort consistait principalement

à nier toute forme de libre arbitre aux dispositifs techniques, comme si leur en concéder — et donc
les considérer comme personnes — était le principal danger menaçant l’humanité. On rassurait
donc en disant que les humains conservaient le monopole de la décision de tuer.

C’est un philosophe de l’esprit nommé Ned Block qui m’a permis de sortir d’une impasse où je
m’étais enfermée : les dirigeants d’INTARBOT et ses clients voulaient présenter leurs robots
comme conscients tout en garantissant qu’ils n’agiraient qu’en direction des buts qu’on leur
assignait. Dans mon projet secret qui commençait à devenir moins nébuleux, je voulais qu’ils soient
conscients, dotés d’un libre arbitre et donc capables d’échapper à de tels buts. En plus, il fallait que
cela ne se voie pas, ou du moins pas avant que ce soit irréversible. Enfin, puisqu’il s’agissait de
libre arbitre, il n’était pas possible que je remplace les missions mortifères assignées aux robots et
drones par ceux qu’il m’aurait plu de leur donner.

Block avait distingué la conscience d’accès et la conscience phénoménale. La première utilise les
signaux de l’environnement auxquels les capteurs et organes de perception donnent accès, les
interprète et déclenche des actions. La seconde éprouve ce qui advient, et développe une emprise
sur le monde qui inclut l’interaction avec d’autres êtres : elle se situe dans le registre de
l’expérience. Block ne doutait pas qu’un dispositif matériel puisse être doué de conscience dans le
sens le plus général, pour la simple raison que nous sommes nous-mêmes des dispositifs matériels.
Cela laissait entièrement ouverte la question de savoir si nous pouvons ou non en créer
artificiellement, mais il suggérait que contrairement à la conscience d’accès qui peut être simulée
par des mécanismes de calcul, la conscience phénoménale requiert des mécanismes analogiques,
chimiques ou biologiques. Il fallait donc partir du corps.

Puisque je tentais de recréer en peu de temps ce qui avait pris des millions d’années à l’évolution
biologique, ma seule chance était de lancer des millions de dés en même temps. Pas question de
sélection naturelle progressive, cela dit, il fallait que cela se passe comme dans ces périodes
d’explosion de diversité — succédant probablement à des extinctions de masse.
Je ne suis pas sûre de pouvoir restituer aujourd’hui le chemin qui a conduit les robots à une forme
de conscience de soi, ou même d’y être pour grand-chose, si ce n’est d’avoir été à l’écoute de ce qui
pouvait émaner d’eux en tant que personnes.

Évoquer la question du post-apocalyptique : Nous sommes donc partis deux par deux, chaque
duo muni d’un petit carnet et d’un crayon. Nous savons que nous allons manquer un jour de ces
instruments d’écriture, mais chaque chose en son temps.

Nous parcourons l’essentiel des articles du Wikipedia anglophone sur la permaculture et concluons
rapidement que nous ne trouverons rien d’immédiatement applicable, qu’il faut repartir de la
méthode, des idées de Bill Mollison et surtout des douze principes de conception de David
Holmgren.

Et, bien sûr, partout la promesse de champignons dans les mois à venir. Mais nous tournons en
rond : où trouverons-nous les graines ou plants de choux, laitues, épinards, tomates, courges,
lentilles et autres légumineuses, qui sont supposés s’épanouir dans des plantations forestières ?

À propos de feu, nos provisions d’allumettes et de briquets à gaz ne sont pas inépuisables et, même
si Sutka a suivi les cours obligatoires d’allumage préhistorique à base de mousse sèche, de bâtons et
de ficelle, on espère que les robots voudront bien nous faire bénéficier d’une version pacifique de
leurs lance-flammes

Après, mes pensées tournent en nœuds. Je vois bien ce que sont nos œuvres, nos modestes exploits :
les cabanes, survivre, rester humains ou le devenir. Mais l’action, la création d’un espace politique à
douze humains et quatre robots ? Et d’ailleurs, est-ce que cela les intéresse, les robots ? Peut-être
pas plus que la parole.

Évoquer la question des robots et des machines comme êtres à part entière.

Un temps assez long d’immobilité. Est-ce que les robots réfléchissent ? Nous les pensions plutôt
capables de parvenir à des décisions algorithmiques très rapides, peut-être est-ce simplement la
courtoisie qui les fait ralentir ? Toujours est-il qu’au bout de deux ou trois minutes, l’un des bras du
robot s’empare délicatement du carnet, un autre du crayon.

les organes essentiels du robot.

[évolution ?]Les robots ont des émetteurs sonores, plus précisément des armes sonores terrifiantes.
Mais ils ont dû les adapter à d’autres usages, bien qu’imparfaitement. Car ce que nous entendons est
une sorte de soupir de plaisir, émis, si je peux en juger, à environ cent vingt décibels.

[Durabilité des robots] D’après ce que nous comprenons, les robots utilisent des piles à combustible
qui produisent de l’hydrogène à partir d’une source d’énergie qui nous est inconnue. Nous ne
savons pas trop si la durabilité a tenu ou non une place importante dans le cahier des charges de
leurs concepteurs.

[La question de la communication les robots refusent d’adopter les codes de la communication
humaine] Sutka est revenue avec deux nouvelles. La première est qu’elle a donné un nom au robot
qui avait enlacé Darja. La seconde est que ce nom devra rester secret parce que les robots ne veulent
pas parler. Ils ont des organes sonores et celui qui n’est plus innommé mais dont le nom est secret a
déjà démontré sa capacité à émettre des soupirs de plaisir. Il est certain qu’ils pourraient maîtriser
une imitation convaincante de notre parole, mais Sutka nous explique — comment le sait-
elle ? — qu’ils ne veulent pas adopter un mode de communication anthropomorphique, préférant en
rester aux mouvements de leurs parties, aux sons non verbaux, à des médiations comme le dessin, et
à d’autres modalités que nous ne connaissons pas encore et qu’ils utilisent entre eux. Nous devrons
communiquer avec eux en les reconnaissant comme personnes d’une nature différente, c’est à ce
prix que nos rapports pourront être ceux qu’entretiennent des égaux. Sutka croit aussi que le combat
qu’ils ont mené pour se libérer de leurs programmes a été douloureux, un arrachement, et que les
modes de communication qui leur ont permis de se coordonner sans que ceux qui se croyaient leurs
maîtres ne le soupçonnent leur sont infiniment précieux.

– D’après les rapports, ils ne sont pas humanistes, plutôt robotistes avec une éthique et des modes
de communication à eux. À mon sens, il faut continuer à observer, voir comment la situation évolue.

À force de les côtoyer, nous avons fini par percevoir — ou imaginer — une sorte de langue dans les
gestes des robots. Ce serait d’imperceptibles variations de vitesse, dans la direction des
mouvements, rien qui puisse être interprété directement comme une langue de signes, plutôt comme
une onde qui module une porteuse. Cette langue, si elle existe ailleurs que dans notre imagination,
nous ne l’apprenons pas comme une langue étrangère dans un fouillis de lexique, d’expressions, de
syntaxe, elle s’inscrit directement dans notre corps par la perception, les émotions même. Et ce
qu’elle dit maintenant à plusieurs d’entre nous, c’est que les robots peinent à nous voir peiner, pieds
dans la vase, un couteau dans une main et la moisson de plants coupés dans l’autre, qu’ils
pourraient moissonner la rizière en quelques minutes, qu’ils comprennent notre souhait de ne pas
les exploiter mais que nous les privons de ce qu’ils font si bien. On a très envie de croire qu’ils nous
le disent vraiment, mais on a tout de même fini la première rizière avec nos mains et couteaux.

« Ils ne savent pas comment ça arrive, l’un d’eux commence à parler de choses qui ne sont pas
guerrières, et tout va très vite après. Ce qui est sûr, c’est que cela arrive après de longues périodes
d’oisiveté sans combat. »
« Certains groupes de robots ont commencé à se battre les uns contre les autres, et ils se demandent
si ce n’est pas suite à des ordres donnés pour limiter les périodes d’oisiveté. Mais ils ont entendu
dire qu’il y avait eu des cas de fraternisation. » → à interpréter à partir de l’étymologie du terme
robot, et comme une symbolique par rapport aux êtres humains qui seraient programmés

« Je ne vois que deux origines possibles à l’émancipation des robots. Soit le rêve affiché par
l’intelligence artificielle s’est réalisé et ils sont devenus capables d’une réflexion autonome et de
choix éthiques. Dès les années soixante-dix, des philosophes comme Hubert Dreyfus ont utilisé la
phénoménologie de Merleau-Ponty pour affirmer qu’une pure intelligence calculatoire sans corps
capable d’exercer une emprise sur le monde était impossible. Est-ce que le corps mécanique des
robots leur permet de dépasser cette limite ? Peut-être, mais peuvent-ils dépasser une autre limite,
celle qui provient du caractère social de l’intelligence, alors qu’ils seraient dressés seulement à tuer
et détruire ? Comment s’émanciperaient-ils de ce programme et comment ont-ils pu agir ? Soit il y a
eu intervention d’une force extérieure. Mais qui cela pourrait-il être et comment pourrait-elle agir ?

Pourtant, l’alimentation des robots en énergie est limitée au soleil et à un système de recyclage des
graisses, ce qui ne nous nourrira pas.
Les robots objecteurs de conscience s’abstenaient d’intervenir dans les combats, tout au plus se
mettaient-ils à l’abri quand leur propre sécurité était en jeu. Cette abstention leur était douloureuse,
en particulier quand ils étaient témoins de massacres pratiqués par des robots ou par ce qu’il restait
de soldats humains, d’avions et de missiles. Mais les oligarques survivants semblaient viser
maintenant plutôt une mise à l’abri.

Évoquer la question des êtres liminaires et des animaux

Nous sommes installés sur une lisière, nous devons aménager avec délicatesse les deux espaces
qu’elle sépare et joint, la forêt et la vallée. Et, surtout, faire de la lisière elle-même un passage avec
donc des rites de passage comme ceux étudiés par Van Gennep dont Sutka nous a parlé, surtout pour
insister sur la liminarité, cet état d’être entre deux états, dont une de ses copines anthropologues a
fait la marque distinctive de personnes qui sont des ponts entre deux mondes. Je crois que Darja et
Sutka ont bien l’intention d’être liminaires elles-mêmes et c’est ce qui les attire tant vers les robots,
leur séduction et leur danger.

Les animaux ont fini par s’enhardir. Nous avions envahi leurs territoires.

Évoquer la question des plantes → lien avec Rousseau ?

Évoquer l’aspect manuel

Évoquer la question de la littérature t du roman, les romans lus qui reviennent en tête

Sur la virus
Dans nos esprits, il n’y en avait qu’un, de virus, et il appartenait au passé, aux milliards de morts.
Nous étions les survivants immunisés, on ne savait trop pourquoi, alors que les guerres ou plutôt la
guerre universelle et surtout les mutations permanentes avaient réduit à néant les efforts de produire
des vaccins, notamment parce que ces mutations semblaient avoir lieu en réponse aux vaccins eux-
mêmes.

------------------------------

Un déluge de bons à consommer avec les clauses de remboursement du crédit en caractères

invisibles, l’acceptation d’une surveillance panoptique pour le bien de tous et une fermeté accrue
contre les radicalisés qui veulent détruire la santé économique des pays avaient offert quelques
années de survie aux pouvoirs en place.
[Pas tout à fait le covid] → Surtout, il voyageait à dos d’oiseaux et se transmettait par les chiens et
autres animaux domestiques.

Malgré l’expérience acquise, l’arrêt des vols aériens et la fermeture des frontières, malgré le
confinement très rapide, l’épidémie s’était répandue dans le monde et notre espèce avait pris place
dans la liste des menacées d’extinction.

Au début, la Slovénie a assez bien géré la situation, mais quand la pandémie a déferlé sur le monde
entier, elle s’est retrouvée emportée comme le reste. Curieusement, une bonne proportion des
dictateurs, des fous de pouvoir et de leurs serviteurs ambitieux a survécu.

Il n’y a pas eu d’après. La guerre est venue pendant. Ce fut une guerre de machines. L’épidémie
n’avait pas, comme en 1918, attendu les derniers mois de guerre pour frapper, mais les machines
ont poursuivi ce que les humains n’étaient plus capables de faire. Elles avaient été programmées
pour détruire les équipements ennemis. Et la notion d’équipement avait été interprétée très
largement.

Nous sommes donc partis deux par deux, chaque duo muni d’un petit carnet et d’un crayon. Nous
savons que nous allons manquer un jour de ces instruments d’écriture, mais chaque chose en son
temps.

IMPORTANT il ne faut pas que nous considérions les robots comme une main-d’œuvre, une
ressource, mais comme des partenaires à part entière, que nous comprenions ce qu’ils veulent,
comment ils voient le monde que nous partageons avec eux. Je ne sais pas comment la discussion
va se terminer, mais il se peut que ce soit nous qui sarclions et binions.

IMPORTANT En prime, on a deux disques de sauvegardes, des pièces de rechange pour toutes les
parties fragiles (alimentation, ventilateurs, clavier, connecteurs, batterie) et des dispositifs variés
pour produire l’électricité dont il a besoin pour fonctionner ou se recharger, un panneau solaire
portable, des machins à manivelle et à pédales ainsi que des raccords pour une possible éolienne ou
une turbine à eau si jamais on arrivait à en construire. Plusieurs d’entre nous s’opposaient à ce
qu’on emmène avec nous ce produit de la barbarie qui nous avait conduits à la catastrophe, le reste
du groupe disant que non, ce n’était pas l’ordinateur qui, lui, était un partenaire de la pensée, c’était
les connexions, et que Leone, nom que Georgije avait donné à son joujou, ne serait jamais branché à
aucun réseau. Georgije est assez costaud, et le fait qu’il propose de porter tout ce matos lui-même
en plus de ses affaires personnelles a joué pour emporter la décision.

Nous voilà massés à quatre devant Leone. D’après Sutka, si les robots de la vallée sont des êtres (et
quelle autre créature aurait enlacé Darja?), Leone en est un aussi, mais un être composé de tous
ceux et celles qui l’ont conçu, développé et enrichi.

Nous sommes installés sur une lisière, nous devons aménager avec délicatesse les deux espaces
qu’elle sépare et joint, la forêt et la vallée. Et, surtout, faire de la lisière elle-même un passage avec
donc des rites de passage comme ceux étudiés par Van Gennep dont Sutka nous a parlé, surtout pour
insister sur la liminarité, cet état d’être entre deux états, dont une de ses copines anthropologues a
fait la marque distinctive de personnes qui sont des ponts entre deux mondes. Je crois que Darja et
Sutka ont bien l’intention d’être liminaires elles-mêmes et c’est ce qui les attire tant vers les robots,
leur séduction et leur danger.
l’exigence infatigable de la vérité.

Chez les bien nourris que nous avons été, la faim s’attaque en premier à ce qui nous réunit :
l’empathie, la solidarité, la générosité. Ce n’est pas comme si tout cela disparaissait, c’est toujours
là, mais caché derrière le monstre qui s’est emparé de nous.

Une sorte de nostalgie de la mécanisation envahit les esprits, et les regards se tournent en direction
de la vallée.

Des années avant les événements que je retrace ici, j’avais lu un roman dont l’auteur avait passé des
mois en usine agro-alimentaire, je ne me souviens plus des mots exacts, mais il disait qu’égoutter le
tofu c’était le plus dégueulasse, pire que trier les crevettes. Nous, on n’a pas besoin de l’égoutter,
c’est la presse qui s’en charge et notre tofu est délicieux, mais c’est parce que ce n’est pas le même
tofu, pas le même monde. → Ponthus

En tout cas, nous réalisons que, sexe mis à part, les excitants modernes nous manquent.

En attendant Melissa révise sa pharmacopée de plantes, tente de se rappeler la méthode d’obtention

de l’aspirine à partir de l’acide salicylique et de se figurer s’il serait possible de la mettre en œuvre
avec ce que nous avons sous la main. Et où était donc cet endroit dans la vallée où poussaient des
pavots utilisables pour fabriquer des opiacés ? Nous avons une réserve de paracétamol,
d’ibuprofène, d’antibiotiques, de chlorhexidine et de liquide de Dakin, mais tout ça n’est pas éternel
ni suffisant. Chélidoine, arnica et canneberges sont peut-être trouvables, ainsi qu’une foule de
plantes utiles ou au moins agréables. De son côté, Georgije peste sur son ordinateur coupé du
monde : la plupart de ses liens sont inaccessibles.

Important Nous étions dans un temps indéfini, qui pouvait s’arrêter demain et nous avec, ou durer
plus loin que nous pussions imaginer, chaque instant de ce temps était le battement d’une horloge
invisible qui résonnait dans nos poitrines. Nos vies s’écoulaient comme l’eau des ruisseaux, plus
que jamais on pouvait dire que nous avions le temps, même quand la terre, les plantes, la durée des
jours, l’intermittence des pluies, la chaleur du soleil, le souffle des vents nous rappelaient à nos
tâches.
C’est peut-être pour cela que nous ne pensions pas aux enfants, aux générations, comme si survivre
nous avait mis hors des limites de nos vies, hors de toute histoire.

Il nous faudra près de trois jours pour mettre une cause sur notre tristesse et notre frustration. Avant,
une menace fatale pesait sur nous, chaque instant de vie et d’action était une victoire sur le destin.
Et voilà que la menace éloignée, c’est tout le futur inconnu qui s’étend devant nous, ses répétitions
et ses variations, l’aventure de la survie va devenir routine et nous vieillirons, nos passés urbains
s’effaceront peu à peu de nos mémoires. Ce pourrait être la joie d’une renaissance et dans
l’immédiat, c’est au contraire la mélancolie d’une perte, fût-ce-t-elle celle d’un monde condamné.
Nous marchons sans un mot, bruits de branchettes brisées, froissement de feuilles, merles qui
babillent, mésanges qui zinzinulent, se taisent à notre passage et reprennent derrière nous, feux et
repas silencieux le soir, des pleurs étouffés dans la nuit.

Important sur la boucle bouclée Jusque-là, le temps égrenait ses instants, chacun une petite victoire
contre une possible adversité et voilà que la boucle se referme, un parcours réveille le souvenir du
même, un an plus tôt, celui d’un geste qu’on croyait oublié, une peur surgie de notre mémoire alors
même qu’elle n’a plus lieu d’être. Nous ne savons pas si c’est la liberté qui nous tourmente ou son
absence, ou plutôt son illusion. Nous redoutons plus que tout que se constituent des camps entre
lesquels choisir. S’il y avait deux camps, seules des postures les différencieraient, et leur conflit ne
servirait qu’à éviter de regarder en face leur commune incertitude. Il y aurait ceux qui voudraient
faire table rase du monde d’avant, mais que nous resterait-il alors, puisque tout ce qui vit, nous
compris, et même les minéraux, sont la seule matière sur laquelle bâtir et tout simplement vivre. Et
ceux qui voudraient faire le tri, comme nous nous nous efforcions de le faire avant l’effondrement.
Mais que jeter d’autre que nous-mêmes et les robots à qui nous devons tant et vont de toute façon
disparaître ? Et comment transmettre ce récit aux générations futures : à l’enfant à venir et aux
autres, petits et grands, et leurs enfants à leur tour ?