Vous êtes sur la page 1sur 20

Cantor et les nombres transfinis

par Jean-Pierre Belna


charg de cours luniversit Paris VIII Saint-Denis
et lcole Suprieure dlectricit,
chercheur associ lquipe SPHERE-REHSEIS du CNRS
(Universit Paris VII- Denis Diderot)

Figure 1 : Georg Cantor (1845-1918), vers 1894.

En 1895 et 1897, le mathmaticien allemand Georg Cantor, n en 1845


Saint-Petersbourg et mort Halle en 1918, publie dans les Mathematische
Annalen les deux parties dun article intitul Contributions au fondement de la
thorie des ensembles transfinis (Beitrge zur Begrndung der transfiniten
1

Mengenlehre ). La fin du titre est trompeuse car il y expose surtout lessentiel


des rsultats quil a obtenus sur les nombres transfinis, cest--dire les nombres
(cardinaux et ordinaux) que sa thorie permet dassocier aux ensembles infinis.
Cest le dernier travail mathmatique publi par Cantor, qui est, avec Richard
Dedekind (1831-1916) et, dans une perspective autre, Gottlob Frege (18481925), le dcouvreur de la thorie des ensembles. Il y travaille depuis 1874,

1. Cantor aurait envisag en 1899 la publication dune troisime partie, consacre au thorme du bon ordre et
aux paradoxes de la thorie des ensembles (cf. section VII), mais le projet na pas abouti.

avec la particularit de sintresser spcialement la notion de nombre transfini,


introduite en 1883 et dont il tente de dvelopper tous les aspects.
Si larticle est en deux parties, alors que la seconde est pour lessentiel
prte ds 1895, cest notamment que Cantor espre un temps pouvoir rsoudre
un problme interne sa thorie sur lequel il bute depuis longtemps, et dont on
reparlera. Faute dy parvenir, il se dcide publier cette seconde partie. Larticle
originel compte environ soixante-dix pages. Nous nen avons retenu que les six
premiers paragraphes (1 6), les plus simples, qui constituent les dbuts de la
thorie cantorienne.
Larticle de Cantor est trs bien reu par la communaut mathmatique de
lpoque, ce qui na pas toujours t le cas ; il est trs vite traduit, en franais
notamment. La traduction franaise, supervise par Jules Tannery (1848-1910),
est due Francisque Marotte (1873-1945), qui nest pas un mathmaticien de
grand renom. Elle parat en 1899 dans les Mmoires de la Socit des Sciences
physiques et naturelles de Bordeaux, avant dtre reprise sous forme de
brochure la mme anne. Usant dun vocabulaire mathmatique dat, elle est
surtout souvent trs approximative. Nous avons donc choisi de proposer notre
propre traduction du dbut de larticle.

Figure 2 : La couverture des Mathematische Annalen (1895) contenant larticle


de Cantor. Cette revue (qui existe toujours) avait t fonde en 1868 par les
mathmaticiens allemands Alfred Clebsch (1833-1872) et Carl Gottfried Neumann (18321925). On relve aussi, parmi les prcdents diteurs, le nom de Flix Klein (1849-1925)
(qui en avait t diteur partir de 1876).

I - LA THORIE LMENTAIRE DES ENSEMBLES


La thorie des ensembles repose sur le concept densemble, dont Cantor dit
ceci :
Par ensemble , nous entendons tout rassemblement M en une totalit
dobjets m de notre intuition ou de notre pense, dtermins et bien
diffrencis (qui seront appels les lments de M).

Quel est le statut de cet nonc ? Lensemble tant le concept premier de la


thorie des ensembles, il ne peut tre dfini lintrieur de celle-ci. Dans son
article, Cantor ne fait pas de distinction explicite entre ce qui constitue une vraie
dfinition, comme celle relative la relation plus petit que entre deux
nombres cardinaux, et les noncs faisant intervenir des termes extrieurs la
thorie,

dont

mathmaticiens

la

signification

prfrent

alors

na

pas

parler

fixe

auparavant.

d explication ,

destine

Certains

faire

comprendre un mot nouveau par dautres mots de la langue courante et dont le


sens est suppos connu, comme cest le cas ici.
Mais Cantor utilise justement des termes dont la signification peut faire
dbat, en particulier intuition et pense . Sans dvelopper ce point, on
voit que pour lui, les ensembles nous sont donns au travers dun processus
psychique ou mental. Par ailleurs, rassemblement peut sembler ntre quun
synonyme d ensemble , do lapparence de circularit de lnonc cantorien,
dont il ressort :
1) quun ensemble est toujours une totalit, ce qui est fondamental lorsquil est
infini ;
2) quun ensemble est constitu dlments, ce qui situe Cantor parmi ceux qui
privilgient laspect extensionnel de la notion densemble plutt que son
aspect intentionnel. Les premiers donnent la liste des lments de lensemble,
par exemple {2, 4, 6, 8, 10}, les seconds une proprit qui leur est
commune, ici entier naturel pair compris entre 2 et 10 ;
3) quil est impossible pour Cantor de dfinir lensemble vide.
Il dfinit ensuite la runion densembles, toujours disjoints, et la partie ou
sous-ensemble dun ensemble donn, aujourdhui partie ou sous-ensemble
propre. Sil ne dfinit pas les relations dappartenance et dinclusion, il note que
la relation partie de est transitive.

Le nombre cardinal dun ensemble est le nombre de ses lments, compte


non tenu de lordre dans lequel ils sont donns (dans le cas contraire, on parle de
nombre ordinal). Cantor utilise aussi le mot puissance , introduit en 1878. Il
ne dsigne pas alors un nombre proprement parler mais sert distinguer deux
types densembles infinis : aprs avoir montr en 1874 quil nexiste pas de
bijection entre N et R, Cantor appelle dnombrables ou ayant la puissance du
dnombrable les ensembles en bijection avec N, et continus ou ayant la
2

puissance du continu ceux qui sont en bijection avec R .

Figure 3 : La lettre (aleph), premire lettre de lalphabet hbraque. Elle a t


choisie par Cantor pour symboliser les cardinaux densembles infinis (cf. ci-aprs). 0, ici
reprsent, est le cardinal de lensemble des entiers naturels. Ce qui suit, comme larticle
de Cantor, trouve bien videmment son principal intrt dans le cas des cardinaux
densembles infinis.

Cardinaux, ordinaux et exemples densembles


On peut trouver dautres exemples que les simples nombres (entiers,
rationnels, rels,) pour illustrer les notions de cardinaux transfinis.
Dfinissons sur N N (les couples dentiers naturels positifs) la relation
dordre suivante :
Llment (1,0) est le plus petit venir aprs une infinit dlments :
on convient dindexer sa position par ; le couple (1,1) vient juste
aprs et est index par ( +1) ; le couple (2,0) est index par
2 = + , etc.
Lensemble peut donc tre index (numr) comme suit :
1, 2, 3, n, , +1, + 2,, + n,, 2, 2 + 1, ., 3,
est appel un ordinal ceci correspond la notion dadjectif ordinal :
(0,0) occupe la premire place (premire est un adjectif ordinal), (n,0)
2. Cette dmonstration, qui est lorigine de la thorie cantorienne des cardinaux transfinis, nest pas reprise
dans larticle de 1895-1897. Il nest fait quallusion la distinction entre dnombrable et continu dans la
dmonstration de la formule (11) du 4 (cf. section IV). Cest que Cantor na pas de solution au problme
crucial du continu dont nous parlons dans la section VII ci-aprs.

la (n+1)me place (ordinal aussi), et (1,0) occupe la place (ordinal par


extension).
Ladjectif numrique cardinal, quant lui, ne prend pas dordre en
considration : un ensemble un lment (cardinal 1), n lments
(cardinal n), un ensemble infini 0 lments, etc. Le cardinal de
lensemble ci-dessus (N N) est 0 (il est quipotent N).

Pour dfinir le nombre cardinal dun ensemble, Cantor demande de procder


un double acte dabstraction, ce qui explique le symbole quil utilise,
aujourdhui remplac par card : dabord de lordre dans lequel sont donns
les lments (pour lui, les lments dun ensemble sont naturellement donns
dans un certain ordre), ensuite de ce qui caractrise leur nature. Et dexpliquer
que cela rsulte dun processus mental, psychologique ou intellectuel, li
notre facult active de pense . Le vocabulaire est contestable et lide peu
aise mettre en uvre. Il faut comprendre quune fois effac leur ordre et
limine leur nature, les lments de lensemble ne sont plus que ce que Cantor
appelle des uns , dont il ne reste que le nombre. Soit, par exemple, quatre
vaches, donnes dans lordre croissant de leur poids, quatre pays, donns par
ordre alphabtique et quatre personnes, donnes par ordre de taille croissante.
Faisons abstraction, dans chaque cas, de lordre donn puis de leur nature
respective de vaches, de pays et dindividus : chaque ensemble nest plus
compos que de quatre uns .
Mais que sont, dun point de vue mathmatique, ces purs uns censs
exister dans notre esprit comme image intellectuelle ou projection de
lensemble donn ? Rendus indiscernables, puisque plus rien ne permet de les
distinguer, ils doivent pourtant tre diffrents pour pouvoir tre compts :
Cantor utilise les expressions diffrents uns et un particulier pour
dmontrer le thorme (8) (si deux ensembles ont le mme cardinal, ils sont
quipotents).
Ses explications montrent quil tient faire du nombre cardinal dun
ensemble un autre ensemble, qui lui est quipotent (thorme (9) : M est
quipotent lensemble card M), car il veut assurer lensemble et son
cardinal un statut identique, ce qui est ses yeux capital dans le cas infini : les
deux sont des objets intellectuels.
Ce que Cantor expose un peu avant aurait pu lui fournir une dfinition plus
simple. Il dfinit la relation dquipotence, quil appelle quivalence , entre

ensembles : deux ensembles sont quipotents sil existe une bijection de lun sur
lautre, cest--dire une application (une correspondance ou une loi de
correspondance , dit-il) de lun sur lautre et rciproquement, ce quil appelle
une correspondance biunivoque . Mais bien que Cantor montre que la relation
dquipotence entre deux ensembles est une relation dquivalence et en fait la
condition ncessaire et suffisante de lgalit de leurs nombres cardinaux , il ne
sen sert pas, contrairement certains de ses contemporains, pour dfinir le
nombre cardinal comme une classe dquivalence densembles en bijection
mutuelle : 1, par exemple, peut tre dfini comme la classe dquivalence de
tous les singletons, tous ncessairement en bijection. Dune manire gnrale,
Cantor rpugne utiliser le procd qui, partir dune relation dquivalence sur
un ensemble dobjets, en dfinit de nouveaux, savoir les lments de
3

lensemble quotient correspondant .

Figure 4 : Une vision de la bijection par le peintre et dessinateur Max Ernst


(1891-1976) [Pomes visibles, dessins de Max Ernst dans la revue Le Minotaure, 19341936, in D. Guedj, LEmpire des nombres, Gallimard, 1996, p. 118-119, AGADP].

3. tant donns un ensemble E et une relation dquivalence


lensemble des classes dquivalence de E pour la relation R.

R sur

cet ensemble, lensemble quotient E/

R est

II - LE THORME DE CANTOR-BERNSTEIN
Au 2 de son article, Cantor dfinit une relation dordre sur les cardinaux,
quil dsigne du mme signe que pour les entiers naturels, sans vrifier quelle
en est bien une extension. La dfinition elle-mme ne pose pas de difficult
particulire puisque Cantor prend soin de prciser que le rsultat ne dpend pas
des ensembles choisis pour reprsenter les nombres cardinaux donns.
Suivent trois propositions, dont voici les dmonstrations, que Cantor ne
donne quen partie. M et N sont deux ensembles tels que a = card M et
b = card N, a < b est dfini par deux conditions :
1) il ny a aucune partie de M qui soit quivalente N,
2) il y a une partie N1 de N telle que N1 M.

Premire proposition : a < b exclut a = b. Si a = b, alors M N et il existe une


bijection f telle que N = f(M). Il y aurait alors une partie M1 de M, savoir la
partie f1(N1), telle que M1 N1 M (daprs 2 ci-dessus) N, ce qui contredit la
condition 1) ci-dessus de la dfinition de a < b.
Deuxime proposition : a < b exclut b < a. Soient 1) et 2) (cf. ci-dessus) les
conditions satisfaites par a < b et 1) et 2) celles satisfaites par b < a :
-

condition 1) sur M et N : M1 t.q. M1 M, (M1 N)4,

condition 2) sur M et N : N1 t.q. N1 N et N1 M,

condition 1) sur N et M : N1 t.q. N1 N, (N1 M),

condition 2) sur N et M : M1 t.q. M1 M et M1 N.

1) contredit 2) et 2) contredit 1).


Troisime

proposition :

Si

P1 P,

de

a < card P1

suit

a < card P.

On

card M < card P1. Les conditions qui dfinissent card M < card P sont satisfaites :
a. par dfinition, aucune partie de M nest quipotente P1, et donc a fortiori P
(sil existait une partie M1 de M quipotente P, il existerait aussi une partie
M2 de M1, et donc de M, quipotente P1) ;
b. par dfinition aussi, il existe une partie de P1, donc de P, quipotente M.

@@@@@@@

4. La notation de logique mathmatique (M1 N) signifie quon nie la proposition (M1 N).

Ce que Cantor explique ensuite est particulirement intressant. Sil est


exact que chacune des trois relations entre cardinaux a et b exclut les deux
autres , il nest pas possible, ce stade de sa thorie, comme il le dit, de
prouver la comparabilit universelle des cardinaux, cest--dire le thorme A
selon lequel pour deux nombres cardinaux quelconques a et b, lune des trois
relations [a = b, a < b ou b > a] doive ncessairement tre vrifie . Cantor
prvoit de revenir plus tard sur la dmonstration de ce thorme, mais il ne le
fera jamais.
Est alors prsente comme une consquence de ce thorme A le thorme
B:
Si deux ensembles M et N sont tels que M est quivalent une partie N1
de N et N une partie M1 de M, M et N sont aussi quivalents.

Ce thorme porte dsormais le nom de thorme de Cantor-Bernstein


5

(parfois de Bernstein-Schrder). En 1883, Cantor lnonce pour la premire fois ,


sans preuve, sous la forme du thorme C :
Si M1 est une partie dun ensemble M, M2 une partie de lensemble M1 et si
les ensembles M et M2 sont quivalents, M1 est aussi quivalent aux
ensembles M et M2.

Schrder donne en 1896 la premire dmonstration, en partie fautive, de (B),


avant que Bernstein nen publie la premire preuve correcte en 1898. En ralit,
Dedekind en avait dj trouv une en 1887, mais sans, curieusement, la publier
alors. La dmonstration ci-dessous ne fait pas appel au thorme A, mais au
6

thorme C, qui en est donc un lemme .


Dmonstration du thorme de CantorBernstein
Dmonstration du thorme B partir du thorme C, qui dit que si
M2 M1 M et M M2, alors M1 M et M1 M2.
Les hypothses du thorme B sont M1 M et N1 N, de faon que
M N1 et N M1. Il existe donc une bijection de N sur M1, et donc une
bijection de N1 sur une partie propre de M1, que nous appelons M2. On
a donc M2 M1 M et M2 N1 M. Le thorme C permet de conclure

5. G. Cantor, ber unendliche lineare Punktmannigfaltigkeiten , Mathematische Annalen 21, 1883, p. 545586 ; repris sous la forme dun ouvrage dont le titre est : Grundlagen einer allgemein Mannigfaltigkeitslehre.
Ein mathematisch-philosophischer Versuch in der Lehre des Unendlichen, Leipzig, Teubner, 1883.
6. La dmonstration est emprunte E. Kamke, Theory of Sets, trad. F. Bagemihl, New York, Dover
Publications, 1950, p. 23-25.

que M M1. Comme M1 N, on a aussi M N. Le thorme B est donc


tabli partir du thorme C.
Dmonstration du thorme C :
Les hypothses de (C) sont M2 M1 M et M M2 (on verra que ces
hypothses font de M un ensemble infini). Posons A = M2, B = M1 M2,
C = M M1 (do A B = M1 et A B C = M).
Le thorme (C) scrit alors sous la forme (C*) :
Si A, B et C sont des ensembles disjoints, alors (A B C) A
entrane (A B C) (A B)
Puisque (A B C) A, il existe une bijection f de (A B C) sur A.
Posons A1 = f(A), B1 = f(B), C1 = f(C). Comme A, B et C sont des
parties de (A B C), et que ce dernier ensemble est en bijection
avec A, on a A1 A, B1 A et C1 A. Do :
7

(1a)
A1 B1 C1 = f(A) f(B) f(C) = f(A B C) = A,
(1b)
A A1, B B1, C C1,
(1c)
A1, B1 et C1 disjoints (car si A1 et B1, par exemple, avaient un
lment commun x, il serait limage par f dun lment de A et dun
lment de B, ncessairement distincts puisque A et B sont disjoints ;
comme A1 A, x est un lment de A et serait donc limage par f de
deux lments distincts de A B C, ce qui contredit le fait que f est
une bijection A B C sur A).
A

A1

B1

A2
A3

B3

B2

C1

C2

C3

Puisque f est une bijection de A sur A1, elle applique, comme


prcdemment, A1, B1 et C1 sur des sous-ensembles A2, B2 et C2 de A1
[cf. schma ci-dessus]. Do :
(2a)
A2 B2 C2 = A1,
(2b)
A1 A2, B1 B2, C1 C2,
(2c)
A2, B2 et C2 disjoints.
Du fait que A A1 A2 , on peut itrer ce processus autant de fois
quon veut, et on a en particulier : C C1 C2 .
Posons alors D = A A1 A2 .
Comme B1 C1 = A A1, B2 C2 = A1 A2, B3 C3 = A2 A3, ,

D B1 C1 B2 C2 = D (A A1) (A1 A2) (A2 A3)


=DA
7. f(A) f(B) f(C) = f(A B C) est une proprit des bijections.

= A (car D A)
Puisque A = D B1 C1 B2 C2 , on peut crire :
A B C = D B C B1 C1 B2 C2 , do :
A B = D B B1 C1 B2 C2
Comme C C1 C2 , il vient (A B C) (A B).
On a donc prouv le thorme (C*), donc le thorme (C) et par
consquent le thorme (B).

III - LES OPRATIONS SUR LES NOMBRES CARDINAUX


Cantor dfinit trois oprations sur les nombres cardinaux : laddition, la
multiplication et lexponentiation (soustraction et division font problme dans le
cas transfini). L encore, il prend soin de prciser que le rsultat ne dpend pas
des ensembles choisis pour dfinir lopration en question. Laddition et la
multiplication de deux cardinaux rsultent respectivement de la runion de deux
ensembles disjoints et de leur produit cartsien. Cantor, qui nutilise pas le mot
couple , appelle cet ensemble ensemble-liaison . Il donne une seconde
dfinition du produit de deux cardinaux, dj propose en 1887, videmment
quivalente la premire : elle consiste remplacer le couple (m, n) par
llment mn, o m et n sont deux lments quelconques de, respectivement, M
et N. Par exemple, si M = {a, b, c} et N = {1, 2}, on remplace 1 par {a1, b1, c1)
et 2 par {a2, b2, c2}, do S = {a1, b1, c1, a2, b2, c2}. Les explications de Cantor
semblent bien compliques pour quelque chose qui nous parat trs simple, mais
il est le premier introduire la notion de produit cartsien de deux ensembles. Si
Cantor utilise celle-ci pour dfinir le produit de deux cardinaux, cest quelle lui
permet de dfinir lexponentiation dans le cas dun exposant transfini. Lorsque b
est fini, ab est gal au produit de b facteurs gaux a, mais, lorsque b est infini,
cette dfinition est inutilisable. Cantor veut une dfinition gnrale, ce qui nest
possible quen partant de celle donne prcdemment pour le produit. cet
effet, il utilise la notion dapplication dun ensemble N sur un ensemble M, quil
assimile une correspondance entre N et M et appelle recouvrement de N
par M. Ce terme a aujourdhui une autre signification, mais la notion est alors
8

nouvelle et le vocabulaire pas encore fix . Pour un lecteur daujourdhui, celui de

8. Aujourdhui, un recouvrement R dun ensemble E est un sous-ensemble de P(E) tel que

E=

D . Le

terme allemand actuel pour application , quon trouve lpoque chez Dedekind, est Abbildung .

10

Cantor est relch puisque lapplication dsigne tantt la loi elle-mme par
recouvrement [], nous entendons une loi par laquelle , tantt limage de
lensemble le recouvrement correspondant de N sera appel f(N) , voire
limage dun lment llment de M li n est en quelque sorte une fonction
univoque de n et peut, par exemple, tre dsign par f(n) . Lexponentiation ou
lvation une puissance est classiquement dfinie laide de lensemble des
applications de N sur M, que Cantor note (N M) : si a = card M et b = card N,
ab = card (N M).

Figure 5 : criture manuscrite de Cantor, lettre au mathmaticien franais


Charles Hermite.

IV - UNE BIJECTION ENTRE R ET LENSEMBLE DES APPLICATIONS DE N SUR


{0, 1}
Alors que Cantor na pas encore parl spcifiquement des cardinaux
transfinis, il les utilise pour montrer lintrt de ses dfinitions, prouvant que si c

est le cardinal de lintervalle [0, 1] de R et 0 celui de N, alors c = 2 0 , ce qui

revient montrer que [0, 1] et lensemble des applications de N sur {0, 1} sont
quipotents. Avant dexposer sa dmonstration, observons que R est quipotent
]0, 1[ et donc [0, 1] : lapplication de ]0, 1[ vers R dfinie par x

1 2x
2

est

x x

une bijection. Cantor prouve donc que R et (N {0, 1}) sont quipotents, mais
le fait de ne considrer que les rels de partie entire gale 0 simplifie la
dmonstration.

11

La dmonstration de Cantor
Comme le montre sa formule (12), Cantor utilise la mise sous forme
binaire ou dveloppement dyadique des rels x de lintervalle X = [0,
1] :

x=

f (1) f (2)
f ( )
+ 2 + ... + + ... [o f() = 0 ou 1]
2
2
2

soit x = b1b2b, o les b sont gaux 0 ou 1.

2 0 est le cardinal de lensemble des applications de N dans {0, 1},


soit, puisquun dveloppement dyadique est de fait une application de N
dans {0, 1}, celui de lensemble D de tous les dveloppements
dyadiques des rels x de X = [0, 1].
La difficult est quil ny a pas bijection entre [0, 1] et D. La plupart des
rels de [0, 1] ont un unique dveloppement dyadique, sauf les
rationnels dont le numrateur est impair et le dnominateur gal une
puissance de deux, qui ont deux dveloppements dyadiques. 0,5, par
exemple, a un double dveloppement dyadique : 10000 et 01111
9

(1/2 = 1/22 + 1/23 + + 1/2n + ) . Le premier dveloppement est dit


propre , le second impropre .
Il y a donc surjection de D sur [0, 1] mais pas injection. Pour contourner
lobstacle, Cantor fait remarquer que lensemble des dveloppements
dyadiques impropres , quil note {s}, est dnombrable, afin de
montrer que sa cardinalit ninflue pas sur le rsultat. Puisque D est gal

lunion

identique

de

lensemble
X = [0, 1],

des
et

dveloppements
de

{s},

on

dyadiques

propres,

D = X {s},

do

= card (X {s}).

Reste prouver que X et X {s} sont quipotents. Pour cela, Cantor


considre un sous-ensemble dnombrable {t} de X, et crit
X1 = X {t}. On a donc : X = X1 {t} = X1 {t2-1} {t2}10 et
X {s} = X1 {t} {s}.
Comme X1 X1, {t2-1} {t}, {t2} {s}, il vient : X (X {s}).
Do : c = card (N{0, 1}) = 2

Dautres dmonstrations, voisines, sont possibles. Certaines utilisent un


rsultat que Cantor a prouv en 1891, savoir que card P(E) = 2card E, do
card P(N) = 2card N = 2

(P(E) dsigne lensemble des parties de E). Il faut

9. Un mme rel peut aussi avoir deux dveloppements dcimaux, par exemple 0,1 et 0,099999999 .
10. {t2-1} et {t2} sont donc respectivement constitus des lments de {t} dindices impairs pour le
premier ensemble, pairs pour le second.

12

alors montrer que [0, 1] et P(N) sont quipotents, en prenant en compte,


comme ci-dessus, le fait que certains rels ont un double dveloppement
dcimal.
Cantor indique dautres rsultats sur la puissance du continu, notamment
ses formules (13) et (14) : pour tout cardinal fini quelconque (i.e. entier
naturel positif)

c = c

et

c 0 = c . Comme lgalit des cardinaux exprime

lquipotence entre ensembles dont ils sont les cardinaux, ces rsultats ont bien
la signification suivante :
Le continu de dimension comme le continu de dimension 0 ont la
puissance du continu unidimensionnel.

c = c est un rsultat que Cantor a dj prouv en 1878, mais par une


mthode plus complique empruntant la gomtrie et la topologie, dans
larticle dont il donne les rfrences. Cest ce propos quil avait crit
Dedekind, car le rsultat semblait remettre en cause lide de dimension : Je le
vois, mais je ne le crois pas .
Mme si lgalit numrique c = 2

nexprime elle aussi rien dautre que

lexistence dune bijection entre R et (N {0, 1}), cest un rsultat extrmement


important aux yeux de Cantor, car il exhibe un lien entre la puissance c du
continu et la puissance 0 du dnombrable, seule relation que le mathmaticien
tablira jamais, comme on le verra le plus loin.

V - UNE THORIE DES ENTIERS NATURELS ?

La thorie cantorienne des entiers naturels nest pas la hauteur du reste


de larticle, surtout lorsquon la compare ses devancires proposes par Frege
en 1884, Dedekind en 1888 et Giuseppe Peano (1858-1932) en 1889. Pour
Cantor, les entiers naturels sont des nombres cardinaux associs aux ensembles
finis, mais il ne dfinit pas la notion densemble fini. Il ne peut affirmer ni que
cest un ensemble en bijection avec une partie finie de N ni que cest un
ensemble non infini, puisquil na encore rien dit l-dessus. Il propose donc une
approche inductive des entiers naturels, prsente pour partie dans la thorie
des nombres transfinis quil a bauche en 1883.

13

Pour Cantor, comme pour beaucoup de ses contemporains, la suite des


entiers naturels commence 1, dfini comme le cardinal dun singleton
quelconque {e0} :
une unique chose, si nous la subsumons sous le concept dun ensemble
E0 = (e0), correspond comme nombre cardinal ce que nous appelons
un et dsignons par 1.

Les entiers naturels sont ensuite dfinis laide de lopration successeur


soit, pour les ensembles, par runion dun ensemble et dun singleton :
Tout nombre cardinal (autre que 1) est la somme de son prdcesseur
immdiat et de 1.

Cest ce quexprime la formule (6) : si En-1 = {e0, e1, , en-1} et si en


nappartient pas En-1, alors En = En-1 {en} et card En = card En-1 + 1.
Introduire 0 sans le dfinir, comme le fait Cantor, ne fait pas problme : 0
nest pas ici un nombre mais un simple indice. Comme tous ceux qui dfinissent
les nombres partir densembles constitus dlments, il ne peut dailleurs pas,
sans artifice, dfinir 0. Mais on peut lui reprocher de dfinir 1 aprs avoir
expliqu, au tout dbut de son article, que
puisque chaque lment isol m, abstraction faite de sa nature, devient un
un , le nombre cardinal M
constitu de purs uns.

est lui-mme un ensemble dtermin

On peut galement lui objecter de ne pas respecter ses propres notations :


les ensembles apparaissent ici avec des parenthses, comme des unions
densembles, et non avec des accolades, comme des collections dlments. Cest
ainsi que les formules (2) et (5) sont incorrectes. Il est vrai que ds quil traite
densembles ordonns, Cantor en place toujours les lments entre parenthses.
Plus grave est le fait que sa thorie des entiers naturels fait explicitement
usage de la dfinition par induction et du principe dinduction complte sans
aucunement les justifier. Cest le cas dans la formule (6), selon laquelle
card En = card En-1, et dans la dmonstration du thorme E, o Cantor crit :
Il sera suppos lexactitude du thorme jusqu un certain et conclu
alors comme suit sa validit pour le suivant + 1.

Le cas de ce quon appelle aujourdhui dfinition rcursive avait


pourtant t trait par Dedekind en 1888, dans Was sind und was sollen die

14

Zahlen ? : il y nonce un thorme qui justifie de telles dfinitions et lui sert


11

introduire les nombres cardinaux finis . Le principe dinduction complte, qui


justifie le raisonnement par rcurrence, est chez lui un thorme, tandis quil est
12

un axiome de larithmtique chez Peano . Interrog par ce dernier, Cantor


rpond que la dfinition des ensembles finis et le principe dinduction complte
sont implicites dans sa thorie et que les nombres finis sont ceux qui satisfont
aux conditions de linduction mathmatique.

VI - LE PREMIER CARDINAL TRANSFINI 0

Le 6 est le plus original et le plus novateur de ceux analyss ici puisquil y


est spcifiquement question des nombres cardinaux transfinis, mme si Cantor
se limite au premier dentre eux, le cardinal de N, appel aleph-0 et not 0. Le
choix de ce signe, qui date de 1893, nest pas le fruit du hasard : est la
premire lettre de lalphabet hbreu en mme temps quil dsigne le nombre un.
La dfinition de Cantor, qui crit que 0 est le nombre cardinal de la totalit de
tous les nombres cardinaux finis , donc de N, souffre de ce que sa thorie des

entiers naturels est elle-mme fautive. Il avait pourtant une autre possibilit,
mais qui supposait dagencer son article diffremment : non pas tant dfinir 0
comme la classe dquivalence de tous les ensembles dnombrables, car on a vu
que ce type de dfinition lui rpugne, mais plutt driver la notion de nombre
cardinal de celle dordinal, ce quil fait en 1897 pour 1, le successeur de 0.
Le premier rsultat darithmtique transfinie est 0 + 1 = 0 (formule (2)),
ce qui revient dire que le successeur de 0 est 0. Il existe en effet une
bijection de N {e0} (e0 N) sur N : on associe par exemple 1 e0 et n + 1 n.
Une formule telle que (2) est videmment spcifique des nombres transfinis. Si
on y ajoute les formules (3) et (4), on caractrise 0 comme le plus petit nombre
cardinal transfini.
Cantor ne dmontre pas le thorme A Tout ensemble transfini a des
parties de nombre cardinal 0 avec toute la rigueur souhaitable. Il fait
observer quaprs avoir supprim un nombre fini dlments dans un ensemble
11. Dedekind, Que sont et quoi servent les nombres ?, trad. Hourya Benis Sinaceur, dans Dedekind, La
cration des nombres, Vrin, 2008.
12. Peano, Arithmetices prinicipia, nova methodo exposita, Turin, Fratres Bocca, 1889.

15

infini, on peut toujours en supprimer un autre, et que lensemble de tous les


lments ainsi limins est dnombrable. Cest intuitivement vrai, mais affirmer
quil est possible, aprs avoir choisi n 1 lments dans un ensemble, den
choisir un nime suppose que cet ensemble est bien ordonn, cest--dire quil
est muni dune relation ordre telle que toute partie non vide a un lment initial.
Il y a ici utilisation implicite du principe du bon ordre, selon lequel tout ensemble
peut tre bien ordonn.
Les formules (5) (8) donnent dautres rsultats darithmtique transfinie :
(5) et (7) devraient tre prcdes dun raisonnement par rcurrence ; (6)
rsulte de ce que N est gal la runion de lensemble des entiers naturels pairs
et de lensemble des entiers naturels impairs, ensembles disjoints dont chacun
est en bijection avec N. La preuve de (8) renvoie une construction que Cantor a
dj propose en 1878, dans un article dont la rfrence est donne la fin du
6. On regroupe tous les couples dont la somme des termes est gale un
mme entier naturel. Ainsi ordonn, lensemble de tous ces couples est en
bijection avec N.
Les thormes C Tout ensemble fini E est tel quil nest quivalent
aucune de ses parties et D Tout ensemble transfini T est tel quil a des
parties qui lui sont quivalentes sont la version cantorienne de ce que
Dedekind a donn en 1888 sous la forme dune dfinition : tout ensemble est
infini sil est quipotent une de ses parties propres et fini dans le cas contraire.
Chez Cantor, la dmonstration des deux thormes est fonde sur le thorme
A, dont on a dit que la dmonstration est imparfaite, et donc sur la notion de
cardinalit. Cela est peu satisfaisant, mais cohrent avec le fait quil a dj
utilis, au dbut de ce paragraphe consacr 0, la distinction ensemble
fini/ensemble infini en recourant la notion de nombre cardinal. Comme Cantor
le dit, ces deux thormes mettent le plus distinctement en lumire la
diffrence essentielle entre les ensembles finis et transfinis , dj mentionne
dans larticle de 1878, o il crivait :
Une partie dun ensemble fini a toujours une puissance plus petite que
celle de lensemble lui-mme ; ce rapport cesse totalement avec les
ensembles infinis, cest--dire les ensembles constitus dun nombre infini
dlments.

16

Il y eut un temps une querelle de priorit entre Cantor et Dedekind sur


cette question, quil est facile de rsoudre au profit de ce dernier. Certes, la
dfinition de Dedekind date de 1888, mais en 1878, comme en 1895, Cantor ne
donne pas une dfinition mais une proprit caractristique des ensembles
infinis. De plus, alors que ce dernier tablit expressment un lien avec lide, non
primitive, de cardinalit, Dedekind la laisse dlibrment de ct. Enfin, on sait
aujourdhui que celui-ci possdait sa dfinition avant 1878.

Figure 6 : Le mathmaticien allemand Richard Dedekind (1831-1916)

La fin du 6 prsente la suite de larticle. Cantor prvoit dtudier les


cardinaux suprieurs 0 et de montrer que lensemble de tous ces cardinaux,
munis de la relation dordre prolongeant celle de N, constitue un ensemble bien
ordonn . Cest la premire mention explicite de cette notion dans larticle, mais
sans la dfinition, qui nest donne que dans sa seconde partie. Cantor poursuit
en expliquant quune loi dtermine permet de construire la suite croissante
des aleph, avec des indices prolongeant celle des entiers naturels : en
particulier ( est lordinal de N), est le nombre cardinal immdiatement
suprieur tous les . Tout cela ncessite la thorie des types dordre et la
thorie des nombres ordinaux, quil prsente ensuite. La premire date de 1884,
mais sa publication avait t bloque par le directeur de la revue laquelle
larticle lexposant tait destin (il a t retrouv et publi en 1970). La seconde
est plus ancienne, puisquelle a t publie en 1883 dans larticle dont Cantor
donne la rfrence. Sur cette hirarchie des aleph, sa tentative a en partie
chou, et il sest limit ltude de 1, dont il donne la dfinition en 1897 :

17

cest le nombre cardinal de lensemble de tous les types dordre des ensembles
bien ordonns de cardinal 0.
Il y a une autre manire de construire une suite croissante de nombres
cardinaux, de la faon suivante : tant donn un nombre cardinal a, il est le
cardinal dun ensemble A, partir duquel on peut former lensemble P(A), dont
le cardinal est strictement suprieur celui de A. Mais ces deux modes de
construction ne se recouvrent pas : la thorie des ensembles ne permet pas de
montrer que 1, qui procde de 0 selon le premier, est gal card R, lui-mme
gal card P(N), et qui en procde galement, mais selon le second. Cest ce
propos que Cantor aurait pu noncer le thorme qui porte dsormais son nom,
et qui napparat nulle part dans larticle, alors quil la publi en 1891 : pour tout
ensemble A, card P(A) > card A, de sorte que pour tout nombre cardinal a, il en
existe un autre qui lui est strictement suprieur (cest sous cette dernire forme
que Cantor nonce son thorme).

VII - THORIE NAVE ET THORIE AXIOMATIQUE DES ENSEMBLES

La thorie cantorienne des ensembles souffre de plusieurs dfauts, qui


nenlvent rien son immense mrite et dont certains ont dj t voqus. Lun
deux est lusage implicite par Cantor, dans cet article comme dans dautres de
ses crits, du thorme du bon ordre, quil na jamais justifi de faon
satisfaisante bien quil permette de prouver la comparabilit universelle des
cardinaux. La premire dmonstration est due Ernst Zermelo (1871-1953) en
1904. Elle repose sur laxiome du choix, dont une formulation est la suivante :
Pour tout ensemble E, il existe une fonction f de P(E) dans E, dite

fonction de choix, qui associe toute partie non vide X de E un unique


lment de X.
La fonction f, en distinguant dans chaque partie non vide de E un lment
particulier, fait de celui-ci llment initial de celle-l : E peut donc tre bien
ordonn. Dans le cas de (N, ), f associe chaque partie de N son plus petit
13

lment . Mais cela nest pas toujours aussi simple, et laxiome du choix ne dit
pas, par exemple, comment faire de R un ensemble bien ordonn.

13. Le thorme G du 5 de larticle de Cantor est une formulation du thorme du bon ordre pour N.

18

La dmonstration de Zermelo a soulev trs vite des objections, et la


validit universelle de laxiome du choix, et donc du thorme du bon ordre, a
donn lieu une vive controverse. Accompagne de la dcouverte simultane de
paradoxes dans la thorie cantorienne des ensembles, elle a donn naissance
ce quon appelle la crise des fondements , qui pose cette question : comment
donner aux mathmatiques une base plus solide que ne le fait la thorie de
Cantor ? Une rponse aujourdhui largement admise est celle donne par
Zermelo en 1908. Elle consiste donner une liste daxiomes, qui dfinit la notion
densemble et vite les paradoxes connus, tout en permettant de btir lessentiel
des mathmatiques. Cette thorie axiomatique des ensembles, par opposition
celle, dite nave, cest--dire praxiomatique, de Cantor, a ensuite t amende
par Abraham Fraenkel (1891-1965), et porte le nom de ZF, ou ZFC si on y inclut
laxiome du choix.

Figure 7 : Le mathmaticien allemand Ernst Zermelo (1871-1953) (Oberwolfach


Photo Collection)

Elle ne permet pas de rsoudre un problme dont Cantor ne parle pas dans
son article et qui a contribu retarder la publication de sa seconde partie,
prcisment parce que, bien que layant formul de multiples reprises, il nest
pas parvenu lui trouver une solution. Cest le problme du continu, qui consiste
dterminer le cardinal c de lensemble des nombres rels. Aprs avoir dfini 1,
Cantor aurait pu noncer ce quon appelle aujourdhui lhypothse du continu
(HC), dont il a toujours t convaincu de la vrit : c = 1. Il a montr que

c = 20 , mais HC dit autre chose, savoir que 1 = 20 . On sait aujourdhui que


laxiomatique ZFC ne permet ni de prouver ni de rfuter HC : HC est une

19

proposition indcidable relativement ZFC. Cela ne signifie pas que HC soit


absolument indcidable : les recherches se poursuivent et il nest pas exclu, sous

rserve de dpasser les capacits de ZFC, quon puisse parvenir une solution
au problme du continu.
Et cest ainsi que Cantor, en dveloppant une vritable arithmtique des
nombres transfinis, a radicalement modifi le visage des mathmatiques.

(mai 2012)

20

Vous aimerez peut-être aussi