Académique Documents
Professionnel Documents
Culture Documents
G USTAVE C HOQUET
pistmologie du transfini
Cahiers du sminaire dhistoire des mathmatiques, tome 1 (1980), p. 1-17
<http://www.numdam.org/item?id=CSHM_1980__1__1_0>
Introduction.
Pour le mathmaticien
daujourdhui, du moins pour le thoricien des ensembles,
lutilisation du transfini est devenue quotidienne ; le transfini est maintenant la
fois un instrument et un sujet d tude en soi. Chacun des tomes dune revue aussi impor-
tante que les Fondamenta Mathematicae1 est peupl, d un monde d alephs qui semblent
pour ceux qui les manipulent, une ralit aussi concrte que les fonctions analytiques
pour les mathmaticiens dune autre gnration. Bien mieux, lintuition que ces thori-
ciens ont acquise, leur semble assez sre pour quils nhsitent pas, comme 11. Sierpin-
ski, partir dhypothses non encore dmontres , et examiner trs longuement leurs
consquences logiques.
Quil nen ait pas toujours t ainsi, il suffit, pour sen convaincre, de relire
dans louvrage Borel, Lecons sur la thorie des fonctions3, les discussions pas-
sionnes sur les problmes que souleva, au dbut de ce sicle, lintroduction du trans-
fini.
Que des notions dallure purement mathmatique naient pas t acceptes par certains
mathmaticiens et quelles le soient quasi-unanimement trente ans plus tard, peut sembler
tonnant. On comprendra mieux une telle situation en se souvenant des crises analogues
qui se sont produites dans lhistoire des mathmatiques ; signalons seulement, pour m-
moire, celles quont suscites lintroduction des infiniment petits, ou lintroduction
dlments idaux comme les nombres complexes.
De telles crises se produiront encore toutes les fois que des mathmaticiens voudront
prciser des notions dun type nouveau tires de leur intuition, que celle-ci soit dori-
gine physique, mathmatique ou logique ; et quils ne disposeront pas dun langage adap-
t la formulation mathmatique de ces nouvelles notions.
Dailleurs les mathmatiques nont pas le privilge de telles crises. Les mmes rai-
sons expliquent des crises de la physique moderne, comme celles cres par le principe
dindtermination.
Je nai pas lintention de retracer ici lhistoire de la dernire crise des math-
matiques, cause par le dveloppement rapide de la thorie des ensembles. 1e:uaen des
problmes quelle a poss nest pas achev et ne le sera sans doute jamais. Ltude de
ces problmes a exig une rdification de la
logique, parallle celle des mathmati-
ques. Ce travail de reconstruction sest fait dans des directions vraiment trs varies.
Qu il suffise de rappeler que les logiciens de cette reconstru.ction ont t jusqu -
x Ce texte est celui dune confrence prononce lors dun Colloque de Logique et Philo-
sophie en 1945, Paris. Son intrt ne saurait tre actuellement quhistorique.
-
2 -
non pas mettre en doute - mais considrer la logique classique comme une ct dautres
logiques quil est difficile de rejeter priori : Ls choix a
nest pas tonnant. Sur un plan diffrente cest une raction du marne type quavaient
les mathmaticiens du XVIIIe sicle devant le schma dune gomtrie non-euclidienne,
et ils ne furent pleinement rassurs que lorsquils surent construire dans le cadre eu-
clidien des modules non-euclidiens.
Les mathmaticiens modernes neaussi, rassurs que lorsquils auront
seront, eux
pu construire dans le cadre de la logique classique des modles isomorphes aux modles
proposs par les logiques nouvelles. Cest la possibilit dun tel modle pour la logi-
que intuitionniste que nous montrera, je pense, M. Ky Fan, dans sa confrence.
Les rgles du raisonnement dans logiques nont en gnral t maih-
ces nouvelles
matises (disons plutt formalises) quaprs de patients efforts. Les dbuts de la lo-
gique intuitionniste en particulier ont t fort nbuleux et il reste difficile de suivre
la pense de ses premiers logiciens. La raison en est, je crois, quune logique na de
sens que lorsquelle est ~v~~a~.~.s~e ; essayer de donner un sens vulgaire ses rgles
de dduction est entreprise chimrique puisque notre langage quotidien nest bien
une
adapt qu la logique classique. Une telle traduction na en tout cas de chance que lors-
que la thorie est dj dveloppe et approfondie.
La logique intuitionniste est ne des difficults de la thorie des ensembles, et
pourtant les mathmaticiens continuent tudier les ensembles et jongler avec les a-
lephs sans avoir eu modifier pour cel les rgles de leur logique. Cest que la logi-
que classique, cette fois encore, a paru suffisante aux mathmaticiens pour continuer
leur oeuvre mathmatique. Pour lever leurs difficults, il leur a suffi de partir de d-
finitions plus claires, et de mieux prciser les axiomes de dpart. Nes ensemble, la lo-
Mot mot, "transfini" signifie ce qui est au-del du fini, ou defaon plus preci-
se, ce qui nest pas fini. En fait, ltude du transfini est synonyme aujourdhui de
l tude de cette partie de la thorie des ensembles qui traite des nombres cardinaux et
des nombres ordinaux. Cette tude englobe donc aussi ltude des ensembles finis.
Ilsembl tout dabord plus simple d tudier les ensembles finis que d tu.dier
a
les ensembles quelconques. Aussi a-t-on commenc, dans un effort pour ramener les notions
fondamentales au minimum par essayer de dfinir les nombres entiers ordinaires.5 Peano6
cherche dfinir les entiers en se basant sur le fait quils forment un ensemble ordonn.
Il part des ides primitives 0, le nombre, le Et voici
successeur. ses propositions
primitives : 1)~ est un nombre. 2) Le successeur dun nombre est un nombre. 3) Deux nom-
bres diffrents ne peuvent avoir le mme successeur. 4) 0 nest le successeur daucun
nombre. 5) Toute
proprit qui appartient 0, ainsi quau successeur dun nombre qui
possde cette proprit, appartient tous les nombres.
Ces cinq proprits marquaient une tape trs intressante dans la recherche des
notions fondamentales. En particulier, la cinquime proposition qui constitue le princi-
pe de linduction mathmatique mettait en vidence que ce principe, dapparence jusque
l mystrieuse 7, ntait des proprits qui permettent de dfinir ~. , ensemble des
entiers.
y ait des ensembles ordonns qui vrifient les 4 premires propositions sans
vrifier la 5e est vident ; il suffit de considrer u
de nombre cardinal qui sen dduit, on obtient une dfinition trs satisfaisante des en-
tiers :Un nombre entier sera le nombre cardinal dun ensemble fini. Voici la dfinition
qua donne Tarski, dans le tome 6 des Fundamenta Mathematicae8, des ensembles finis :
"Lensemble A est fini, lorsqu toute classe K de ses sous-ensembles appartient comme
ble de A, A na pas la mme puissance que B." Et il remarque quon ne sait pas dmontrer
sans utiliser laxiome du choix la rciproque de ce thorme.
Il est temps maintenant que nous abordions ltude des fondements de la thorie des
ensembles.
Zermelo met la base de la thorie sept axiomes, qui comprennent en particulier
le fameux axiome du choix, et laxiome de linfini qui assure lexistence dun ensemble
infini9.
La ncessit dnoncer explicitement les cinq premiers de ces axiomes na pas t ressenti
tout de suite par les fondateurs de la thorie des ensembles . On ne disait pas ce quest
un ensemble, on se bornait montrer quelques ensembles et demander lesprit leffort
dabstraction ncessaire pour concevoir la notion gnrale densemble. Que cette mtho-
de soit hasardeuse est suffisamment dmontr par les polmiques qui ont divis les pre-
lations. Les axiomes vont consister dcrire les liens entre les tres tudis et les
relations dgalit et dappartenance. (La ngation de a~b se note a/b .)
En fait Zermelo admet comme intuitive la notion dgalit. Aussi admet-il comme
dit que b est inclus dans a, si pour tout xEb on a aussi xEa.
Axiome 3 : a tant un tre, chaque proprit des lments de a dfinit un tre b
tel que b C a .
Axiome 4 : Pour tout a il existe un b dont les lments sont les sous-ensembles de a.
outre que chaque fois que Ma , on ait aussi {b} Ea . (Do existence dun ensemble
a form de , {~} , { { ~ } } , etc.
Axiome 7 du choix : Pour tout a tel que ses lments soient sans lments communs
deux deux et non vides, il existe dans leur runion un sous-ensemble b qui a en commun
sique un sujet diffrant aussi peu de ceux que les mathmatiques les plus certaines trai-
tent immdiatement."
Je clos ici lexamen des problmes classiques soulevs par le transfini pour passer
ltude de questions moins connues. Je parlerai dabord des nombres ordinaux construc-
tibles.
Lune des raisons des polmiques qui agitrent il y a une trentaine dannes le mon-
le sens de mots tels que "ensemble bien dfini, nombres constructibles", etc. Plusieurs
taient daccord pour limiter les mathmatiques ltude des tres dfinissables et clai-
rement conus ; seulement il ne ltaient plus sur ce quil fallait mettre sous ces vo-
cables. On a reconnu bien vite que toute borne impose au champ des tres mathmatiques
tait vite dpasse et que les singularits dont on voulait exclure ltude venaient s m-
ser brivement.
Il ny a pas de mathmaticien qui ne considre comme clairement concevables les pre-
miers nombres transfinis de seconde classe. Tous sont mme daccord sur la notation
adop ter: 1, 2, ... , n, ..., w, 03C9+1,..., 03C9 2,..., 03C92 ,..., 03C92 2,..., 03C93,..., 03C903C9 ,...,
03C9(03C903C9) ,..., 03C9((03C903C9)03C9),...,~1,... .
Pour tous les nombres ~1 , labsence dambigut dans les notations vient dail-
leurs du fait suivant : Tout nombre ordinal ~ 1 peut se mettre dune faon et dune
seule sous la forme : v
o
-~- 1. v 1 +...+
v ~ , P ), B chacun des
tant effectivement infrieur au nombre ordinal donn (avec ao 1
>... >a , les
p
tant finis et non nuls)* Sur chaque a. on peut recommencer la mme dcomposition*
Si lon remarque que toute suite strictement dcroissante de nombres ordinaux est toujours
finie, on voit que tout nombre a peut, par un nombre fini de sommes, produits,
e
exponentiations, sexprimer au moyen des seuls ordinaux 1, (jo .
Dautre part, la notation adopte pour chacun de ces nombres permet de voir immdia-
tement sil est de premire ou de seconde espce ; il est de premire espce si 0,
sinon il est de seconde espce* Sil est de premire espce, on a aussitt la notation
pour lordinal qui le prcde et, sil est de seconde espce, on a une suite canonique
bien dfinie de type dordre w dont ce nombre est la limite. Cest :
(jo 03BDo
+...+(jo 1+03C9p(03BDp -1) + 03C9 03BB o 03BB=1,2,3,...,n,... si 03B1p est de
premire espce et
03BD1 +...+(03BDp -l) + o
p. est la suite canonique pour
a
p
si et
p
est de seconde espce.
Remarquons que jai pu assigner ici dune faon univoque et suivant une rgle sim-
ple un antcdent ou une suite dantcdents tout nombre a mais un autre math-
e. ,
maticien pris dans la salle aurait peut-tre fait ce choix univoque dune autre faon.
En tout cas, une chose importante retenir est que jai pu faire ce choix, et que
jai pu donner une formule qui permet de trouver lantcdent ou la suite dantcdents
de tout nombre a particulier, tout nombre o~ e de seconde espce jai
pu attacher canonique croissante ayant cet lment pour limite.
une suite
Les mathmaticiens ont cherch si lon pouvait plus gnralenent, tout ordinal
de la deuxime classe et de seconde espce, attacher univoquement une suite canonique
croissante ayant cet ordinal pour limite. On peut y parvenir pour des classes tendues
dordinaux (cest vident pour les ordinaux de la forme : (?==?+(jj ) mais quel que soit
le raffinement du procd, il y a toujours des ordinaux qui y chappent.
Dautres mathmaticiens ont alors cherch rsoudre simultanment ce problme et
celui de la recherche dune notation bien dfinie pour les ordinaux.
Nous pu rsoudre problme pour les ordinaux
avons vu que nous avons ce
e.. Pour
les ordinaux les notations deviennent dj moins universellement adoptes mais
>
e ,
par exemple il est clair quon pourra toujours sentendre, dans un groupe de mathmaticiens
assigne une notation unique tout ordinal infrieur ou gal et, associs avec le
systme de notation, trois procds effectifs, grce auxquels respectivement : 1 ) Etant
donne la notation pour un ordinal on puisse dterminer si lordinal est de premire ou
de seconde espce. 2) Etant donne la notation pour un ordinal de premire espce on puis-
se trouver la notation pour son prdcesseur. 3) Etant donne la notation pour un ordi-
nal de seconde espce, on puisse trouver une suite fondamentale pour cet lment - dans
le sens dun procd effectif pour le calcul des notations des termes successifs de cet-
te suite."
.
Nous devons remarquer que le systme de notation associ la donne dun ordinal
constructible varie avec cet ordinal.On voit donc comment M. Church a pu viter les
difficults qui se prsentaient dans la construction progressive dun systme de notation
pour les ordinaux. Il ne procde pas de bas en haut en appelant constructible tout nombre
que sa notation pourra atteindre. Il ne cherche pas un systme de notation unique et va-
lable pour tous les nombres constructibles.
Revenons la dfinition de M. Church. Un seul point semble tout dabord encore
peu satisfaisant : Cest que cette dfinition implique la notion dun "procd effectif"
sans quon sache ce quon entend par l. Qu est-ce qu un procd effectif de calcul ?
pense de savoir rsoudre un problme quel quil soit - de calculer ce nombre avec une
approximation aussi bonne quon dsire (les instructions restant les mmes, indpendam-
ment de 11 approximation dsire).
Dans le cas dun procd qui, appliqu un nombre entier, donne un autre nombre
entier, une autre dfinition dun procd effectif consiste dire quun pxocd est ef-
fectif, sil correspond une fonction arithmtique qui soit rcurrente au sens le plus
gnral - cette rcurrence devant tre entendue au sens d Herbrand et de
Cette condition de rcurrence pour la fonction arithmtique peut aussi tre
remplace par une condition dune autre forme introduite par M. Church dans sa for-
malisation de la thorie des fonctions dentiers - ce quil appelle 03BB-formalisme. Cet-
te condition revient dire que la fonction envisage doit tre -dfinissable.
Ces trois dfinitions des procds effectifs peuvent tre appliques la dfinition
des ordinaux constructibles. Il est remarquable alors que la classe des ordinaux construc-
tibles est la mme, que lon
adopte lune ou lautre des trois dfintions de leffecti-
vit. Cest ce qui fait esprer M. Church que la seule dfinition verbale des nombres
constructibles, que nous avons donne tout lheure, indpendamment du systme formel
de logique qui permet de la prciser, a une valeur en soi, et peut tre considre com-
me dfinissant sans ambiguit la classe des nombres constructibles de deuxime classe.
Il est vident que tout ordinal infrieur un ordinal constructible est construc-
tible ; et on montre aisment que lensemble des ordinaux constructibles est dnombrable :
cet ensemble forme donc un segment dans lensemble des ordinaux de deuxime classe. Soit
(i) lordinal qui vient immdiatement aprs tous ceux est le plus petit des or-
1 1
dinaux constructibles. Il joue, par rapport lensemble de
non le mme rle que
Q par rapport aux ordinaux de la deuxime classe. On montre aisment que w est un nom-
1
bre de seconde espce en se basant sur le fait que si a et b sont constructibles, (a+b)
lest aussi. Donc 03C91 peut tre dfini par une suite fondamentale croissante de nombres
constructibles, mais on na aucun moyen de calculer effectivement les termes dune tel-
le suite. ( W
1
est un nombre trs complexe. Notons par exemple que W
1
est forcment un
peut montrer que si a,b sont constructibles, (a+b) lest aussi. On montre aussi
On
dfini par la condition : c~E ==e ). Il en rsulte en particulier que tous les ordinaux
infrieurs la premire solution sont constructibles. On voit donc que les
ordinaux constructibles de Church contiennent bien l ensemble de ceux que lon considre
comme intuitivement constructibles.
Du. fait quaucun des nombres w ne soit constructible ne veut pas dire que lon
1
ne puisse pas dfinir univoquement dautres ordinaux de la deuxime classe: w en est
1
le premier exemple, aussi etc.
Lintrt de la construction de Church est avant tout davoir dfini correctement
la classe de ce que lon pourrait appeler les "petits ordinaux", ou les ordinaux borliens,
en un mot ceux que lon peut atteindre en atteignant en mme temps tous ceux qui les pr-
cdent.
Place du transfini en mathmatiques. Peut-on lliminer des dmonstrations ?
Parmi les thormes dont lobjet vritable nest pas ltude du transfini, mais
dans lesquels ce dernier intervient cependant, je distinguerai deux catgories : Il y
a les thormes dans lnonc desquels le transfini intervient explicitement ; puis il
y a ceux o le transfini nintervient que dans la dmonstration et que lon peut esp-
rer dmontrer un jour sans son usage.
Considrons la question suivante : Recherche des conditions pour que deux ensembles
ferms, dnombrables, situs sur le segment [0,1] pour fixer les ides, soient homomor-
phes (c est--dire tels quon puisse tablir entre eux une correspondance biunivoque
et bicontinue). Dans lnonc du problme, le transfini nintervient aucunement. Il peut
tre compris dun mathmaticien nayant aucune notion du transfini. Or la rponse est
la suivante : Soient E, E ces deux ensembles. Notons dabord qu tout ferm dnombra-
bl e X de [0,1 ] est associ un couple (03B2,p) o p est un ordinal de deuxime classe et
p un entier Q- 1 tel que le driv dordre p de X ait exactement p points ;
X on mon-
tre dailleurs que le couple (p,p) ainsi obtenu est absolument quelconque. Notons alors
les couples associs ainsi respectivement E et E . Eh bien, la condition
dhomoDlorphie cherche peut sexprimer par les deux galits n=n .
Voici donc un problme dont lnonc ne fait pas intervenir le transfini, et dont
la solution le fait obligatoirement intervenir.
Signalons encore lexemple suivant, dj soulign par Lebesgue dans ses Leons sur
procd opratoire ne saurait se passer du transfini. Cela ne veut pas dire dailleurs
que dautres procds opratoires pour rsoudre le problme de Baire ne puissent pas
se passer du transfini, contrairement ce que semble penser
Lebesgne. Nous reparlerons
de cette question tout lheure.
Il en est de mme du procd opratoire utilis par Arnaud Denjoy pour dfinir la
totalisation ; le transfini est au coeur mme de son procd, on ne saurait l en limi-
ner. A. Denjoy a dmontr en effet sur des exemples que toutes les
tapes de sa totali-
sation peuvent tre effectivement ncessaires.
Etudions maintenant la seconde espce de thormes pour lesquels le transfini nin-
tervient que comme un outil au cours de la dmonstration, pour disparatre entirement
dans lnonc du thorme. Peut-on, dans ce cas, remplacer le raisonnement par un autre
ne faisant pas appel au transfini ? Il est aussi difficile de rpondre une question
aussi gnrale, que de concevoir la forme de tous les problmes que lon pourra se po-
ser en mathmatiques.
3) Si XE Z on a G(x)( Z .
E).
partie commune toutes les
La classes Z est une classe Z. Cest donc la
tre-exemple paradoxal. Sa construction naura peut-tre aucune ralit, aux yeux dun
autre mathmaticien, rejetant a priori la notion du transfini, mais il devra admettre
cependant quelle dmontre limpossibilit de trouver une dmonstration au thorme en
question. Prenons un exemple simple . Il sagit de savoir si le thormes suivant est
exact : "Tout espace topologique de Hausdorff connexe, dont tout point possde un voi-
sinage homomorphe un intervalle linaire, est soit homomorphe une circonfrence,
soit homomorphe la droite relle. " ,
un nombre transfini de la deuxime classe), telle que pour toute fonction croissante
f il y ait une fonction
f~ de la suite qui croisse plus vite que f, cest--dire tel-
le que -~ oo avec x .
../ B
Or, lapplication du thorme de Zermelo permet de montrer qu il existe de telles
suites transfinies, satisfaisant mme la condition supplmentaire que, si
p~ > ~ ,
la fonction
f2 crot plus vite que 1
Le problme est le suivant : Peut-on imposer une telle suite transfinie davoir
pour type Si lhypothse du continu est vrifie, la rponse est oui. Mais
il est possible que lon puisse rpondre cette question sans rsoudre lnigme de lhy-
pothse du continu.
particulier (p.150-160) les fameuses Cinq lettres sur la thorie des ensembles, cri-
tes en 1904, de Baire, Borel, Hadamard et Lebesgue.
4 Ladieu na pas t, comme cest souvent le cas en mathmatiques, trs
histoire des
fraternel. L. Kronecker (1821-18~1 ), le premier intuitionniste, crivait dj en 1870
H.A. Schwarz (P. Dugac, Elments d analyse de Weierstrass, Archive for History
of Exact Sciences, 10(1973), P. 77) que "les conclusion de Bolzano sont videmment de
faux arguments". En 1885, il crit encore au mme correspondant (ibid. p.146) que ,"sil
lui reste assez dannes et de forces", il espre montrer "la fausset de toutes ces
1888 : Was sind und vas sollen die Zahlen ? (Que sont et que reprsentent les nombres ?),
Braunschweig(Vieweg) - qui, le premier, a tent d laborer une thorie des nombres en-
ted Works, p.101-134, Toronto(University Press), 1973. Puis dans Sul concette di nu-
Rivista di Matematica, 1 (1891 ), 87-102,
256-267 = Oprescelte, tome III, 1959,
p.80-109. Sous la forme donne ici, les "ides primitives" et les "propositions pri-
mitives" ont t exposes (p.216-217) dans le Formulaire de mathmatiques, tome II,
Turin(Bocca), 1898 == Opere scelte , tome III, p.21 5-231 : Fondamenti dellaritmetica.
7 Le livre de Dedekind, Was sind und was sollen die Zahlen ?, avait aussi pour but de
donner linduction mathmatique une base rigoureuse fonde sur la notion cl de la
mathmatique dedekindienne : la chane.
8 A. Tarski : Sur les ensembles finis, Fundamenta Mathematicae, 6(1924), 45-95. La dfi-
nition des "ensembles finis" se trouve p.46, et le "thorme important" mentionn
ici est nonc p.72.
9 E. Zermelo (1871-1953) a formul ces axiomes dans son article : Untersuchungen ber
die Grundlagen der Mengenlehre (Recherches sur les fondements de la thorie des ensem-
des ensembles "cre conjointement par G. Cantor et R. Dedekind " peut se ramener
petit nombre de dfinitions et sept axiomes.
un
13 A. Denjoy (1884-1974) crit encore dans son livre L numration transfinie, tome i,
p. 35, Paris (Gauthier-Villars), 1946 : "Peut-on admettre que nous entrions aussitt
dans le domaine de la pure mtaphysique, parce que les ordinations ainsi particula-
rises sont les bonnes ordinations, dont chacune correspond un nombre transfini
de la seconde classe ? On ne manquera pas de demander sil est vraiment
se lgiti-
me derejeter hors des mathmatiques un ordre de sujets si troitement mls ceux
que traite couramment l 811.8.lyse..
On peut trouver dans ce livre (p.XXV-XXXVII) une excellente
bibliographie sur
le transfini tablie par G. Choquet.
14 A. Church : The constructive second number class, Bulletin of the Amer. Math. Socie-
ty, 44(1938), 224-232. La dfinition en question se trouve p.226.
15 Sur A.M. Turing (1912-1954) vo ir p.411 et 429 de larticle de M. Guillaume cit dans
la note 2.
- 17 -