Le drame subjectif de Cantor, texte de Virginia Hasenbalg

Le drame subjectif de Cantor Virginia Hasenbalg I regret that it has been necessary for me in this lecture to administer such a large dose of four-dimensional geometry. I do not apologise, because I am really not responsible for the fact that nature in its most fundamental aspect is four-dimensional. Things are what they are. A.N. Whitehead, The concept of nature (1920) Il se peut que la spatialit soit la projection de ltendue de lappareil psychique. Aucune autre dduction possible. Psych est tendue, mais nen sait rien. S. Freud, Rsultats, Ides, Problmes (1938) Lclosion du discours scientifique la fin du XIXe sicle a boulevers radicalement le champ du savoir en introduisant des nouvelles vrits qui allaient lencontre du bon sens partag et qui donnaient jusque-l consistance au lien social. Les dcouvertes de Pasteur, entre autres, dmontrant que le vivant ne pouvait pas tre issu volont du non-vivant comme le soutenait la thorie de la gnration spontane bien ancre dans les croyances de lpoque, lui ont attir lanimosit de lestablishment mdical. Dans Science et Vrit Lacan voque le drame subjectif du savant pouvant quelquefois lamener la folie. Cantor, minent mathmaticien finissant sa vie lasile, nous servira dappui pour interroger cette subjectivit. La fin du XIXe et le dbut du XXe sicle ont t un tournant pour les mathmatiques. A.Warusfel, auteur douvrages de rfrence, crit en 1969 sur cette priode en voquant les circuits de course automobile, o aux longues lignes droites succdent des pingles cheveux, ce qui oblige jouer adroitement des rapports de la bote pour ne pas tre projet hors de la piste avant de pouvoir reprendre le rgime de pleine puissance. Les mathmaticiens professionnels sont de nouveau sur la ligne droite, non sans avoir, au dbut de ce sicle, cass quelques moteurs ou perdu quelques pilotes (1). Quelle est lincidence de ce nouveau savoir si radical sur le sujet ? Est-il possible de lapprhender ? Cantor mathmatise linfini actuel, dfinissant ainsi une toute nouvelle approche de lobjet mathmatique qui depuis les Grecs ne pouvait pas se passer de lappui donn par la notion de mesure. Cette mesure assurait une prise sur le monde sensible. Ds le dbut de ses recherches Cantor utilise la gomtrie projective (Steiner 1796-1863). Il en emprunte mme le signifiant de puissance pour nommer son hypothse de la puissance du continu. La gomtrie projective dmontre que dans le cot dun carr, savoir un segment, il y a autant de points que dans sa surface, puisque tous les points de celle-ci peuvent tre projets sur le segment. Il en dcoule que la partie peut tre aussi grande que le tout, ce qui bouscule les certitudes fondes sur la perception. Ceci nest pas sans rapport avec la logique du signifiant, qui relve elle aussi dun domaine au-del de ce qui peut tre saisi dans le monde physique. Il nest pas surprenant quen parlant du signifiant Lacan voque linfini actuel : Le signifiant cest ce quelque chose qui, entrer dans

1/7

Le drame subjectif de Cantor, texte de Virginia Hasenbalg

le rel, y introduit le hors de mesure, ce que certains ont appel linfini actuel (Lacan, 5/1/66). Or, cet infini actuel, dont parle Lacan, relevait jusqu Cantor de la thologie ou de la philosophie. En le dfinissant mathmatiquement Cantor le soustrait la sphre mtaphysique, pour en faire un objet scientifique. Les historiens des mathmatiques soulignent limportance dans les travaux de Cantor de la prise en compte des nombres irrationnels, ceux qui ne peuvent pas scrire sous forme de fraction et qui ont une succession infinie et non rptable de dcimaux. Chez les Grecs dj, se pose lintelligence humaine une question purement thorique mais qui touche lessence mme des mathmatiques : existe-il une fraction qui soit exactement la mesure de la diagonale du carr de ct unit ?(2) Des nombres irrationnels comme racine de 2, Pi, le nombre dor, pour ne citer que les plus anciennement connus, sont des nombres que nous ne pouvons pas finir dcrire. Pour Pi, par exemple, les ordinateurs ont calcul ce jour 206 milliards de dcimaux... On pourrait dire que ce sont des nombres qui oscillent entre le ne cessent pas de scrire (de lordre du ncessaire) et le ne cessent pas de ne pas scrire (de lordre de limpossible)... Il y a l donc un impossible qui pour les Grecs ne pouvait pas tre dmontr. Il a fallu attendre Cantor pour faire du nombre irrationnel un objet mathmatique. Les consquences de cette dmonstration sont normes(3). Lorsque limpossible nest pas dmontr, cela permet de vivre dans lespoir de trouver le rapport rationnel, le ratio, la fraction qui le reprsente. Les Grecs lavaient seulement pressenti, ce qui leur permettait de vivre dans lillusion du possible, dans lillusion que ctait possible de trouver la fraction pour calculer racine de 2, ou que ctait possible de trouver la dernire dcimale qui allait permettre de tomber sur le chiffre qui arrterait la suite. Cette illusion peut tre entendue comme lalibi de limpuissance exprime soit dans la temporalit : ce qui nest pas possible aujourdhui, peut-tre le sera-il plus tard, ide que, dailleurs, la science ne cesse de valider. Soit dans la spatialit : ce que je ne sais pas, peut-tre lAutre le saura-t-il. Sagit-il de la place de Dieu, qui faisait de linfini actuel un tabou, ou de la fonction du sujet suppos savoir ? En mathmatisant le domaine jusqualors rserv la religion - seul le domaine de Dieu pouvait recouvrir linfini en acte - Cantor, franchit un seuil, non sans payer le prix. Jusqu Cantor, il ny a pas eu assumer cet impossible. Il ny a pas eu se soumettre aux consquences logiques de cette dmonstration. Grce lui, la coupure avec le monde grec est pour ainsi dire accomplie. La notion mme de coupure dfinie par Dedekind, son collgue et ami, inaugure ce bouleversement. En effet, Dedekind trouve une proprit ou fonction des nombres irrationnels qui retourne le sens quon leur donnait jusqualors. Au lieu dimager linsaisissable, grce la quantit infinie de dcimaux, un irrationnel va dfinir une frontire, une limite sparant deux champs. La suite infinie de dcimaux instaure une coupureborde de rationnels, entre ceux qui sont avant et ceux qui sont aprs. Linfini dnombrable, appel par Cantor Aleph 0, restera, en revanche, celui des entiers, des rationnels. Cest linfini quon imaginait intuitivement comme inatteignable, parce quinfiniment loin et que les travaux de Cantor vont mathmatiser comme infini en acte, ou actuel. Gauss parle en 1831 de son horreur quant au concept de linfini actuel quil appelle complet : Je conteste lutilisation dune grandeur infinie comme un tout complet (...) Linfini nest quune

2/7

Le drame subjectif de Cantor, texte de Virginia Hasenbalg

faon de parler, son sens vritable tant celui dune limite que certaines fractions (ratios) approchent indfiniment, tandis que dautres lloignent sans restriction.(5) En 1886, Cantor montre la fois son accord et son dsaccord vis--vis de la position de Gauss: malgr la diffrence essentielle entre les concepts dinfini potentiel et actuel - le premier signifiant une grandeur finie, variable qui augmente au-del de toutes les limites finies, tandis que lautre est une grandeur fixe, constante qui se trouve au-del de toutes les grandeurs finies - il arrive quil soient trop souvent confondus. (5) Gauss ne peut penser linfini quen termes de compltude et de distance. Les termes approchent, loignent rvlent quil pense en termes dinfini potentiel, ce qui nest peut-tre pas sans rapport avec sa formation de physicien ancre dans le monde sensible. Ce que Cantor nous dit cest que linfini actuel est un point fixe au-del de toutes les grandeurs finies. Ceci nest pas sans voquer le concept du phallus comme point fixe. Mais, est-ce dans sa nature de signifiant que Cantor peut le pressentir ? Aucun commentateur de la vie de Cantor ne fait lconomie de Kronecker, son professeur Berlin et lun des prcurseurs de lcole constructiviste, qui a violemment refus ses dcouvertes. Kronecker, reprsentant marquant du courant finitiste largement dominant lpoque, considrait le savoir de Cantor comme relevant soit de limposture soit du blasphme. Sa phrase lapidaire rsume sa position : Dieu a cr les nombres entiers ; le reste est loeuvre de lhomme . Selon Kronecker, on devait construire les mathmatiques partir des nombres entiers, en nutilisant que des combinaisons arithmtiques finies de ces nombres entiers. (...) Il sopposa toutes les dfinitions dobjets mathmatiques o intervenait la notion de limite. Selon lui, il aurait mme fallu abandonner les nombres irrationnels que les mathmaticiens acceptaient depuis des sicles, tant quon ne saurait pas les construire partir des nombres entiers naturels, comme on le faisait pour les nombres rationnels. (J.Dauben)(4). La position de Kronecker, refltant celle de son poque, se fonde sur lirrfutable. Un analyste ne restera pas indiffrent la certitude donne par ce signifiant entier , ou celui de rationnel . Cantor connaissait la position de son ancien professeur. Il savait quelle garantissait aux dmonstrations mathmatiques une scurit et une correction absolues.(...) Toutefois, Cantor pensait que la position de Kronecker tait outre car elle censurait de manire trop absolue la plupart des progrs en mathmatique ; en outre la position constructiviste entravait les progrs des mathmatiques en enfermant linnovation dans un carcan mthodologique(5). Si Kronecker tait persuad du bien-fond de sa vision, en revanche Cantor avait du mal croire lui-mme ce quil formalisait malgr lui , comme si larticulation purement logique qui simposait lui le devanait. Je le vois, mais je ne le crois pas, crit-il dans une lettre Dedekind, en lui demandant de confirmer la pertinence de sa dcouverte. Lacan voque la plume ingnue de Cantor . (6) Weierstrass crira : Kronecker utilise son autorit pour proclamer que tous ceux qui jusqu maintenant ont travaill pour tablir la thorie des fonctions sont des pcheurs devant le Seigneur. Il le cite : Si le temps et la force me sont donns, je montrerai moi-mme au monde mathmatique que non seulement la gomtrie mais aussi larithmtique peuvent dsigner la voie vers lanalyse(mathmatique) et certainement dune manire plus rigoureuse. Si je ne peux pas le faire moi-mme, ceux qui viendront aprs moi le feront ... Et ils reconnatront

3/7

Le drame subjectif de Cantor, texte de Virginia Hasenbalg

lincorrection de toutes ces conclusions avec lesquelles la soi-disant analyse (mathmatique) travaille prsent ... Cest Weierstrass lui-mme qui souligne les multiples occurrences du mot tout employs par Kronecker, dans un courrier quil adresse Sonja Kowalewski, en 1885, sa disciple (5). Son ton tient plus du registre de lidologie que de celui de la science. Mais la limite entre science et conviction est bien mince surtout quand le dbat sinscrit dans une longue histoire et concerne la conception mme des mathmatiques. Lopposition entre finitistes et infinitistes date de lAntiquit et elle est rgulirement voque par les auteurs consults. Lenjeu prend une dimension proprement parler paranoaque autour de lide de ce quest un nombre : est-ce que les irrationnels existent ? E.T.Bell (1930)(5) utilise une expression intressante pour les analystes : il distingue les mathmaticiens du nous pouvons , qui caractrise les finitistes, et ceux du il existe propre aux infinitistes. Pour les premiers, les mathmatiques sont une pure invention humaine. Pour les infinitistes les mathmatiques ont une existence propre et lon rencontre certaines vrits ternelles des mathmatiques dans le voyage de notre vie. Ces derniers disent: il existe, les autres ripostent: prouvez-le ! Il explicite ce clivage avec une citation du Nouveau Testament : le Christ affirme que le Pre existe, et Philippe rpond: Montre nous quil existe et cela nous suffira. Compte tenu de ces divergences, Kronecker a bloqu nominations et publications dans son milieu dinfluence, qui ntait pas mince. Le climat dhostilit allait jusqu linsulte. Ce nest pas tant la personne de Kronecker qui nous importe mais ce quil reprsente par son pouvoir rel : la rsistance du lien social linconfort introduit par les avances de Cantor. Il y a chez Cantor du courage ou de la folie pour soutenir envers et contre tous sa thse, affirmant une nouvelle dfinition de limpossible. Dans la production de son mathme, on peroit une faon de ne pas cder sur son dsir. Or, pour cela, il dplace lindcidable quil rencontre dans sa formalisation mathmatique (lhypothse de la puissance du continu qui occupera Gdel et Cohen quelques dcennies plus tard) sur des enjeux o le sens, la signification, limaginaire lui permettent de prendre une position moque : sa fervente position en faveur de Bacon dans le dbat Bacon-Shakespeare. Et son dlire vers la fin de sa vie, sa thse thologique o il affirme sa conviction quant au vrai pre de Jsus en sont le tmoignage. Ses dlires ne lont pas empch de continuer jusqu la fin de sa vie mener en parallle sa recherche acharne. Il sagit de lhypothse de la puissance du continu quil na pas pu dmontrer. Dieudonn parle du soulagement apport par Gdel et Cohen: Quand ils sont venus nous dire quil tait inutile de nous tracasser les mninges et que jamais nous ne dmontrerions ni lhypothse du continu ni sa contradiction, nous avons dit: Ouf! Quelle veine! On naura plus soccuper de cet abominable problme. Beaucoup dauteurs se sont intresss la vie de Cantor. Pour un psychanalyste, lapparition dun dlire paranoaque chez celui qui a introduit ce changement radical dans la conception des mathmatiques pose la question de la subjectivit, de sa constitution et de son nouage. Freud disait que les nvross vivent dans un monde o seule la monnaie nvrotique se cotise. La subjectivit psychotique a-t-elle permis Cantor de saffranchir des limites de la nvrose et de percevoir avec acuit ce qui autrement relverait du refoul ? (9) Ou bien, sa paranoa a-t-elle t la consquence ultime du type de rapport au savoir que ces dcouvertes impliquaient ? Autrement dit, sagit-il dune psychose qui aurait favoris ses avances

4/7

Le drame subjectif de Cantor, texte de Virginia Hasenbalg

mathmatiques, ou bien, est-il pertinent dimaginer que la production dun savoir radicalement nouveau puisse induire un dcapitonnement de la signification chez celui qui sillonne le dit savoir pour la premire fois ? Si cest le cas, il reste encore dcrire le frayage. La distinction que fait Lacan dans le sminaire de lActe entre invention et dcouverte, introduit ici la question de la nature du savoir produit : Si ce savoir existait avant dtre dcouvert, qui le savait ? (Apparat ici de nouveau la question de linfini comme lieu o se tient ce(lui) qui sait, Dieu ou le sujet suppos savoir). Est-il un savoir qui dcoule de linconscient de lauteur comme le peroit Lacan quand il lit Descartes, Pascal ou Marx? La plus-value de Marx indique quil en sait un bout, inconsciemment, sur le plus-de-jouir que Lacan y dchiffre. La lecture partir du discours psychanalytique ne fait pas lconomie du sujet en amont ou en aval de son oeuvre, du sujet qui dvoile son insu et travers de lcriture sa propre structure. La nature du savoir mathmatique minemment pauvre en imaginaire fragilise-t-elle le sujet qui sort des sentiers battus ? Au dbut de son enseignement, Lacan voque lusine hydro-lectrique pour dire quil sagit dun rel qui nest pas une force ou nergie obscure du monde sensible, mais du signifiant incompris dj l. Cest la position analytique, rendue possible un moment donn : le symptme est un message dchiffrer, qui sadresse lanalyste, de lanalyste. Un savoir qui ex-siste dans le rel et qui consiste, dit Lacan, dans la srie de lettres lorigine de la production de lnergie. Le rel est ainsi dfini comme le rsultat de lopration du symbolique, comme rsultat de lincidence du signifiant. Ceci veut dire quil a fallu quun forage symbolique traduise le monde sensible en une concatnation de lettres. Or, le mathmaticien de la fin du XIXe sicle, nest-il pas justement le traducteur , celui qui a fray la possibilit de cette mtaphore ? Mais quen est-il du traducteur lui-mme? Est-il lui-mme traduisible en une srie de lettres ? Doit-il lui-mme par son savoir aboutir sa propre chute hors du monde sensible ? Autrement dit, est-ce possible den arriver l sans passer par une analyse ? Ou alors, la suite de lettres de son patronyme deviendrait lettre morte pour lui? Si Cantor a lu un dj l incompris, pour reprendre ici une expression de Lacan, organis en une suite de lettres ou de signifiants, o se trouvait-il ce savoir ? Peut-on dire que ctait une perception de lappareil psychique ? Etait-ce linconscient ? Et si ctait le cas, tait-ce un savoir agenc par la signification phallique ?

Il faudrait sinterroger sur le socle mme de la fonction phallique (fiction?) de son poque, celui du consensus social et de lordre tabli la fin du XIXme sicle. Et aussi sur celui de son propre nouage, parce quil faut tre fou pour tre all jusquo il est all, et en plus, personne ntait en mesure daccuser rception de son travail. Dans lanalyse, il est impossible denvisager une avance dans le savoir de la structure sans transfert, sans ladresse lAutre : ce lieu dont le dernier mot est dtre irrductiblement vide. Les propos de Lacan sur le discours de la libert dans son rapport la psychose (10) mriterait dtre longuement dvelopp, dautant plus que Lacan lvoque dans le rapport la science, et Cantor lui-mme. Cantor parle de la libert des mathmatiques, E.T. Bell du Paradis Perdu... Linfini actuel bouleverse la foi unique dans la logique des entiers, des rationnels, des naturels

5/7

Le drame subjectif de Cantor, texte de Virginia Hasenbalg

dans leur rapport la distance, foi ou logique qui caractrise lobsessionnel. Ny avait-t-il pas dans sa formalisation la perception dune logique autre possible? Dune logique pouvant se rapporter lAutre dune faon tout fait nouvelle et diffrente de celle consacre lpoque ? En dernier lieu, elle serait celle qui caractrise lordre du signifiant, tel que Lacan le suggre (5/11/66). Cantor sattaquait certes aux fondations dune matrise relevant du carcan mthodologique, mais en tant que matrise porteuse de laval du lien social ces fondations ne donnaient pas moins dassise au signifiant phallique, tel quil pouvait oprer dans le lien social avant lclosion du discours scientifique moderne. Il sagit l dun S1 qui ce titre dcide de ce quil y a rejeter, comme Kronecker ne sest pas priv de le faire. Le lien social lui-mme ne pouvait que pressentir comme menaant la formalisation des nombres irrationnels qui faisaient rentrer dans le domaine des nombres un tranger ou un htros. La distinction entre lhtros et ltranger ncessiterait un plus long dveloppement. Il est lenjeu de la leon sur le discours de la libert, que Lacan associe autant la psychose quaux mathmatiques. Cest par ailleurs la distinction qui se trouve en difficult dans la paranoa. Est-ce que Cantor savait que son savoir allait servir mathmatiser plus tard une issue des impasses de la subjectivit, en faisant rentrer dans le cadre du possible ce qui ne ltait pas jusqualors ? - La possibilit structurale dun infini en acte permet de concevoir un terme la logique de linfini potentiel propre la procrastination de lobsessionnel (La nvrose obsessionnelle, Charles Melman). -Le transfini de la demande (LEtourdit) permettrait de clore les tours innombrables de la demande sur le tore. - La prise en compte du dnombrable propre laleph zro situe le pas-tout propre au fminin et au dsir de lanalyste ? (LActe psychanalytique)... - Il semblerait que le concept dinfini en acte lacis, en tant que borne inatteignable dans un systme ferm, conceptualise le phallus. Mais il a fait dfaut chez celui qui a apport ce concept la science. Etait-ce cause dune axiomatique qui senchanait dans le hors sens propre aux mathmatiques ? Le drame subjectif de Cantor pose ainsi des questions qui mritent dtre largement dbattues et dveloppes. Notes (1) Warusfel A., Les mathmatiques modernes, Editions du Seuil, 1969. (page 6) (2) Deledicq A., Maths, Editions de la Cit, Bordas, 1998. (3) Idem (4) Dauben J., Georg Cantor, revue Pour la science, 1992 (5) Bell E. T., Men of mathematics, Simon ans Schuster, 1930 (6) La plume ingnue de Cantor qui ouvre une voie sensationnelle, Le savoir du psychanalyste, 4/5/72 (7) Cette division est voque par E.T.Bell, J.Dauben et A.Warufsel (8) Lacan J., Lacte psychanalytique.

6/7

Le drame subjectif de Cantor, texte de Virginia Hasenbalg

(9) La thorie Bacon-Shakespeare de Georg Cantor, Le drame subjectif dun savant, textes runis et prsents par Erik Porge, GREC. - Infini et Inconscient, Essai sur Georg Cantor, de Nathalie Charraud, Anthropos (10) Lacan J., Dune question prliminaire tout traitement possible de la psychose, dans les Ecrits, qui renvoie la leon du 8 fvrier 1956, des Structures freudiennes des psychoses.

7/7