La valse des ensembles.

De la mathmatique la logique
9
Denis MIEVILLE
Universit de Neuchtel (Suisse)

La valse des ensembles.
De la mathmatique la logique

Abstract : This paper presents the results of a pertinent meditation of the
author concerning the concept of set from the mathematical theory and
its consequences in the logical theory of classes. After all, one of these
consequences draws our attention: semantical antinomies. The starting
point of these analyses originates in the famous work of Bertrand Russell
and Alfred North Whitehead Principia Mathematica (1910-1913), authors
who developed the well known paradox of the class of the classes which
do not include themselves as element and proposed as solution the known
theory of types. The focus of our paper is the contribution of the Polish
logician Stanislav Lesniewski (1886-1939) to the solutioning of the
russellian problem of antinomies by distinguishing between mereology,
ontology and protothetic.
Key words : set, class, theory of types, semantical antinomy, mereology,
ontology, protothetic.


Ce qui montre que la logique est entre depuis les temps les
plus anciens dans cette voie certaine [la voie sre de la science],
c'est que, depuis Aristote, elle n'a pas eu besoin de faire un pas
en arrire, moins que l'on ne regarde comme des
amliorations le retranchement de quelques subtilits inutiles,
ou une plus grande clart dans l'exposition, toutes choses qui
tiennent plutt l'lgance qu' la certitude de la science. Il est
aussi digne de remarquer que, jusqu'ici, elle n'a pu faire un seul
pas en avant, et qu'aussi, selon toute apparence, elle semble
arrte et acheve. En effet, lorsque certains modernes ont
pens l'tendre en y introduisant certains chapitres,, cela
provient de leur ignorance de la nature propre de cette science.
Ce n'est pas tendre les sciences, mais les dnaturer, que de
confondre leurs limites. Or celles de la logique sont
dtermines trs exactement par ceci qu'elle est une science qui
expose en dtail et dmontre rigoureusement les seules rgles
formelles de toute pense (que cette pense soit a priori ou
empirique, qu'elle ait telle ou telle origine et tel ou tel objet,
qu'elle rencontre dans notre esprit des obstacles accidentels ou
naturels).
Si la logique a t si heureuse, elle ne doit cet avantage qu' son
troite spcialisation, qui l'oblige faire abstraction de tous les
objets de la connaissance et de leur diffrence, et qui veut que
l'entendement ne s'y occupe que de lui-mme et de sa forme. Il
devait tre naturellement beaucoup plus difficile pour la raison
d'entrer dans la voie sre de la science, lorsqu'elle n'a plus
seulement affaire elle-mme, mais aussi des objets. Aussi la
Denis MIEVILLE
10
logique, comme propdeutique, n'est-elle en quelque sorte que
le vestibule des sciences ; et lorsqu'il s'agit de connaissances, on
suppose sans doute une logique pour les juger, mais leur
acquisition, c'est dans ce qu'on appelle proprement et
objectivement les sciences qu'il faut la chercher.
(Kant, Critique de la raison pure, prface deuxime dition)


1. Introduction

Il est quelque peu surprenant de constater, aujourdhui encore, combien
la notion densemble a t galvaude, maltraite et sortie du contexte dun
certain art de penser que devrait privilgier tout logicien. En effet, lorsque lon
suit le long linament des rflexions que conduisent tant des Cantor que des
Russell, force est dadmettre que la manire de penser la notion densemble ou
de classe a systmatiquement t guide par lefficacit fonctionnelle quon
souhaitait lui faire jouer. De la dfinition cantorienne aux thories de Zermelo
Fraenckel, la notion densemble sest installe avec la force dune entit
indispensable, avec la logique du premier ordre, ltablissement des
fondements de larithmtique. Ainsi, cette notion densemble sest installe,
avec la caution des mathmatiques, comme lexpression dune vidence.
Il nest pas inintressant de rappeler les premires rflexions
cantoriennes son sujet. Cantor sintresse par ncessit la notion densemble,
contraint quil est de devoir parler avec clart et prcision de ses proccupations
de mathmaticien et des difficults quil rencontre. Cest en analysant des
problmes de convergence de sries trigonomtriques quil lui est ncessaire de
dfinir la notion de drivation densembles de nombres rels. Par cette rflexion,
il ralise quil existait des ensembles quil pouvait driver une de fois, une + 1
fois, une + 2 fois, etc. Il lui tait donc indispensable de disposer dune thorie
prcisant effectivement cette notion densemble et partant, densemble infini,
pour aborder des singularits pour les moins frappantes. Lquipotence entre
lensemble des entiers naturels et celui des rationnels en est une et laisse
songeur. Lexistence dune arithmtique infinie qui rompt avec larithmtique
usuelle, + n n +, nest galement pas sans perturber quelques sages.
Par ailleurs, la dfinition propose par Cantor concernant la notion
densemble porte une ambigut certaine: Un ensemble est la collection d'objets
quelconques de la pense, considre comme formant un tout. Cette dfinition,
trangement circulaire, accompagne de principes fonds sur l vidence
conduit des consquences problmatiques. Je pense au paradoxe de Berry ou
aux excs que porte le principe de comprhension qui stipule qu toute
proprit correspond un ensemble. Explicitons ces difficults !
Nous le savons tous, tout entier peut tre exprim par des noncs en
langue naturelle ; par exemple, le plus grand nombre pair plus petit quun
million ou, soixante sept la puissance trois. Le premier nonc compte dix
mots, le second, six. Le franais usuel compte 30000 mots, mais les
La valse des ensembles. De la mathmatique la logique
11
dictionnaires les plus complets en prsente 200'000. Les noncs de n mots sont
donc au nombre de 200'000
n
. Beaucoup de ces noncs nont aucun sens, et
parmi les autres, il y a ceux qui ne concernent pas les nombres ; lensemble des
noncs de n mots dcrivant des entiers naturels est donc un ensemble fini et sa
puissance est bien plus petite que 200'000
n
. Il est ais de dduire que lensemble
des nombres entiers naturels dfinissables par un nonc de quinze mots ou
moins est fini ; il est galement correct dadmettre quil existe de nombreux
entiers naturels qui nappartiennent pas cet ensemble. Il en existe
ncessairement un qui est le plus petit et il est possible de le dcrire de la
manire suivante :

Le plus petit entier naturel non dsignable par une expression de quinze mots
ou moins.

Mais cet entier naturel est explicitement dcrit en quinze mots par lnonc qui
affirme sa non description Le plus petit entier naturel non dsignable par une
expression de quinze mots ou moins ! Un parfum de contradiction se dgage
dun tel nonc et ncessite de rflchir srieusement aux raisons de son
mergence. La non-distinction entre langue et mtalangue est ici en cause.
Quant au principe de comprhension, il nonce un postulat dont
quiconque, dans un premier temps, ne conteste lapparente validit : toute
proprit correspond un ensemble dlments qui possde ladite proprit. Par
ailleurs, il est connu quil existe des ensembles dlments qui ne se contiennent
pas eux-mmes, tel lensemble des entiers naturels N qui ne se contient pas lui-
mme. De manire contraste, il existe galement des ensembles qui se
contiennent eux-mmes, tel le catalogue C considr comme un ensemble et qui
contient la mention de tous les catalogues existants ; le catalogue C se contient
ncessairement lui-mme. Sur la base de cet acquis existentiel, il est possible
dexpliciter la proprit suivante : tre lensemble de tous les ensembles qui ne
se contiennent pas eux-mmes. Selon le principe de comprhension, un
ensemble lui correspond, soit R cet ensemble. Cet ensemble se contient-il lui-
mme ? Rpondre par laffirmative ne correspond pas la proprit nonce
d tre un ensemble qui ne se contient pas lui-mme, donc il est non seulement
raisonnable, mais surtout ncessaire de rpondre par la ngative ! Mais agissant
ainsi, nous affirmons que R ne sappartient pas lui-mme ; ainsi donc il tombe
sous la proprit qui dfinit lextension de R. Lensemble R se contient donc lui-
mme ! Ceci est inacceptable et nous entrane dans un cercle vicieux. Il y a donc
des intuitions apparemment fondes qui ne le sont pas, et le principe de
comprhension est affaiblir !
Les thories des ensembles officielles se dveloppent en articulant,
dune manire ambigu, intension et extension, et prsentent des particularits
pour le moins curieuses : on ose inventer la classe vide, qui en tant que classe
devrait possder quelque lment, mais qui se caractrise par le fait quelle
nen possde pas. De plus, il merge de ces thories quun lment unique et
Denis MIEVILLE
12
lensemble constitu de cet lment unique ne peuvent pas tre considrs
comme la mme entit.
En ces temps de grands dbats dides propos de la notion densemble,
il est fait confiance lintuition que lon partage de certaines notions, mais lon
reste surpris que la formalisation de celles-ci conduise troubler le systme dans
lequel elles sont saisies. A mon avis, en ces temps o lon cherche faonner les
fondements logiques de larithmtique, deux alternatives formalisantes restent
possibles. Lune, de pure obdience logique, pourrait tre concerne par la
volont partage de prciser et dexpliciter les concepts utiliss de la manire la
plus conforme l art de penser, et de tout mettre en uvre de manire
dceler la cause dune contradiction. Lautre, plus conforme au style des
mathmaticiens, privilgierait la description dun systme avant tout efficace par
rapport aux objectifs poursuivis. Le choix de lefficacit a prvalu !

2. Ce quon trouve notamment dans les Principia Mathematica

Il est intressant dtudier de quelle manire toute cette rflexion sest
droule, avec ses doutes, ses impasses, ses questionnements et ses oublis. A cet
gard, il est indispensable et trs instructif de se pencher une fois encore sur
luvre monumentale de Whitehead et Russell, les Principia Mathematica.
Whitehead et Russell ont contribu, comme je lai dj mentionn,
forger limage de la logique de la premire moiti du XX
me
sicle. Les Principia
Mathematica (1910-1913) quils rdigent vont profondment marquer lhistoire
de la logique contemporaine. Cette monographie exceptionnelle tente doffrir
une solution, voire dapporter une rponse, plusieurs problmes. Il y a dune
part le projet de montrer que la mathmatique est une expansion de la logique,
un projet qui prolonge celui de Frege, le logicisme. Il y a galement la volont
dexposer un systme qui est exempt de toute contradiction ou, en tous les cas,
qui vite certaines contradictions mises en vidence alors ; je pense au paradoxe
de Cantor et celui que Russell dcle dans les Grundgesetze der Arithmetik de
Frege (1893). Il y a de plus la ralisation dune synthse de travaux antrieurs,
tels ceux, notamment, de Boole, de Dedekind et de De Morgan. Il y a enfin la
mise en place de dfinitions qui ancrent de manire conceptuelle des notions
essentielles en leur attribuant un statut radicalement dfinitif ; je pense en
particulier la dfinition de la notion de classe et celle de l acte
dfinitoire.
La reconnaissance de cette uvre a t clatante et les consquences de
sa diffusion, nombreuses. En effet, pour avoir relu trs soigneusement la
premire dition des PM, on ne peut tre que surpris par le considrable travail
de rflexion et de formalisation accompli ; mais lon ne peut que rester songeur
par rapport la somme des confusions que ces Principia contiennent. Langue et
mtalangue sarticulent en gnrant de nombreuses ambiguts, la distinction
entre la syntaxe et la smantique nest pas pose et certains concepts
fondamentaux de la logiques portent plusieurs significations : une proposition,
La valse des ensembles. De la mathmatique la logique
13
par exemple, est parfois une entit porteuse de vrit, parfois, une assertion. La
lecture mticuleuse de cette premire dition nest pas facile du tout, mais
lattente du contenu synthtique quelle offre a, psychologiquement parlant,
neutralis la difficult objective de la comprhension de son contenu. Quant aux
consquences, jen mentionnerai quatre :
(a) Les Principia Mathematica ont impos le choix dun langage, dun
style et dun point de vue surtout : celle de la logique mathmatique du premier
ordre. Une certaine unit dans le courant scientifique dalors sest cristallise
autour de cette uvre, offrant peu despace dautres approches. On y prsente
la logique comme une thorie axiomatique ferme qui contient tout ce que la
logique doit offrir. De ce fait, aucune expansion nest possible sans une rvision
en profondeur de ses significations primitives.
(b) La logique classique qui se dessine alors nest pas aussi neutre quon
le souhaiterait. La logique des propositions contient seize oprateurs binaires et
quatre unaires. Pourquoi ceux-l et que ceux-l ? Quant la logique des
prdicats, elle contient des symboles de proprit et de relation. Ceux-ci ont ceci
de particulier quils ne prennent pour arguments que des symboles de variables
et de constantes d individus ! Pour quelles raisons ne sest-on intress qu
ces catgories-l ? La rponse cette question-l est complexe et relve dune
tude de lhistoire de la logique, et plus spcifiquement de ltude de la
complicit que la logique soutient avec la mathmatique.

Cet asservissement initial de la logique aux mathmatiques classiques a conduit la
premire concentrer son analyse sur les relations auxquelles les mathmatiques
faisaient appel, cest--dire, dabord sur les relations binaires et, plus
exactement, sur un type prcis de relations binaires, savoir celles qui
admettent comme arguments deux individus. (Gardies, 1975 : 275)

La slection de lensemble des oprateurs logiques que cette logique contient
ainsi que le choix des principes qui rglent ces systmes relvent galement de
cette complicit. Frege lui-mme tait conscient que la logique en tant que saisie
des formes que revt la pense avait une signification qui dbordait le cadre de
la mathmatique (Frege, 1962 : 95). Mais le souci dassumer les fondements
des mathmatiques avec une mentalit de mathmaticien, et non pas de logicien,
a t plus fort que lappel la ralisation dune logique de plus grande
expansion. Ainsi, oublie-t-on parfois que la logique dcrite dans les PM est la
logique mathmatique et quelle npuise pas le tout de la logique. Ceci
nexplique rien ! Je souligne simplement linfluence que les mathmatiques
classiques ont eue sur la logique lorsquelle tait inscrite dans le projet logiciste.
(c) La rfrence russellienne la mathmatique et la thorie des
ensembles a galement contribu marquer toute une manire dapprhender la
notion de classe, une notion qui, en se conceptualisant progressivement, perd
toute relation avec la perception nave quon peut en avoir, et occulte toute une
discussion entre ce qui relve du distributif et ce qui est concern par la vision
Denis MIEVILLE
14
collective. Cette rupture avec une certaine ralit classificatoire nattribue la
dfinition de classe quun rle dsincarn, celui de symbole incomplet.

The symbols for classes, like those for descriptions, are, in our system,
incomplete symbols : their uses are defined, but they themselves are not
assumed to mean anything at all. That is to say, the uses of such symbols are so
defined that, when the definiens is subtituted for the definiendum . there
no longer remains any symbol which could be supposed to represent a class.
Thus classes, so far as we introduce them, are merely symbolic or linguistic
conveniences, not genuine objects as their members are if they are
individuals. (Whitehead & Russell, 1910 : 75).

(d) Enfin, et ceci est en relation directe avec la nature conceptuelle des
thories axiomatiques traditionnelles offrant des systmes ferms, certaines
directives infrentielles sont ngliges. Il en va ainsi, notamment, du rle
attribu la procdure dfinitoire. Il est en effet surprenant de constater que,
dans ces systmes classiques, la dfinition nest, thoriquement parlant, rien
dautre quune abrviation, quelle nest appele jouer aucun rle dans le
raisonnement, quelle nest prsente que pour des raisons de convenance
pratique, de commodit linguistique. Sil y a surprise, cest que dans lactivit
cognitive dun sujet, la dfinition relve dune dmarche particulirement
complexe et dont la finalit est entre autres choses, de modifier une
connaissance, de donner accs une connaissance nouvelle. Il sagit d'un acte
infrentiel ! Bien que Russell le reconnaisse il y a quelque cent dix ans, il se
contentera de cette pratique abrviative.

It is a curious paradox, puzzling to the symbolic mind, that definitions,
theoreticaly, are nothing but statements of symbolic abbreviations, irrelevant to
the reasoning and inserted only for practical convenience, while yet in the
development of a subject, they always require a very large amount of thought,
and often embody some of the greatest achievements of analysis. (Russell,
1956 : 63. 1
re
dition 1903)

Aujourdhui encore, et malgr les (voire, cause des) travaux des
Hilbert, Tarski, Gdel et autres pigones, linfluence des PM reste prsente dans la
perception dune certaine logique et donc dans ce quelle donne penser delle-
mme. Mais il y a dautres manires axiomatiques de prsenter la logique, il y a
des espaces logiques plus gnreux et plus dynamiques que celui hrit du
logicisme, enfin, il ne faut jamais oublier que la logique issue du programme
logiciste ne suffit pas, et de loin pas, rendre compte de la pense dans
lefficace de sa fonction rationnelle. Elle a t faonne en fonction dune vise
avant toute chose fonctionnelle ; elle na pas t conduite pour habiter son destin
consistant expliciter les mcanismes de l art de penser.
Il est indispensable de reconnatre ici que les PM sont une uvre
remarquable et gigantesque, et comme telle, elle a su sduire par ncessit, mais
La valse des ensembles. De la mathmatique la logique
15
elle a galement touff et occult dautres formes de dveloppements logiques
moins ad hoc que luvre whito-russellienne. Dans la suite de mon propos,
jvoquerai la dmarche dun logicien qui dcouvre les PM tardivement et sans
influence pralable ; esprit libre et fort, il en dcouvre les incohrences et les
incongruits, et relve le dfi den proposer une alternative non pas dobdience
mathmatique, mais purement logique. Il sagit du logicien polonais Stanislav
Lesniewski (1886-1939). Dune certaine manire, luvre logique de
Lesniewski est le produit dune raction desprit purement logique contre les
PM. Cest encore, pourrais-je dire, une russite porter au crdit de Whitehead
et Russell.
Dans la suite de mon article, je mettrai en scne les ractions de
Lesniewski face la lecture des PM, puis esquisserai les thories logiques quil
cre pour rsoudre quelques problmes que les auteurs des PM ont carts et
pour rintroduire la dimension collective de la classe que toute la rflexion
traditionnelle associe au logicisme a touffe.

3. Lesniewski lecteur des Principia Mathematica

Logiquement parlant, lanne 1911 est une anne dterminante pour
Lesniewski, encore tudiant. En effet, la lecture de Ueber den Satz von
Widerspruch bei Aritotles (Lukasiewicz, 1910) le marque profondment. A
travers cet ouvrage, il dcouvre la logique symbolique et lantinomie dite
russellienne. Cet vnement va dterminer doublement son orientation intel-
lectuelle. Il va choisir de poursuivre ses recherches dans le champ de la logique
formelle, mais cette orientation sera fortement teinte de ses convictions et
intuitions profondes de ce que cette discipline doit tre, convictions qui
scartent, comme on va le voir, de la tradition russellienne. Suite cette lecture,
Lesniewski se plonge alors littralement dans ltude des uvres de Frege,
de Husserl, mais surtout dans celles de Whitehead et Russell : le monumental
Principia Mathematica. Cette dcouverte du formalisme et celle du paradoxe
russellien se confond, dans un premier temps tout au moins, avec un refus dune
telle approche formelle. Lecteur attentif des PM, Lesniewski les dcortique et les
analyse avec une rigueur extrme. Cette lecture minutieuse qui dure quatre ans
(1914-1918) lui pose problme. Il ne comprend pas le rle du signe dassertion,
il naccepte pas la dfinition de la classe vide et est confondu par la
connaissance qui lui est rvle du concept de classe. Par ailleurs, Lesniewski
refuse toute solution du paradoxe de Russell qui ne se contente que de lviter et
non pas den dceler les causes. Eviter la formulation des antinomies, ce que fait
la thorie des types propose par Russell, nest pas, de mon point de vue, une
attitude de logicien qui se doit de les surmonter. La lecture des PM dveloppera
chez Lesniewski, et pour un certain temps, une relle mfiance lgard dune
logique symbolique qui lui apparat comme dpouille de tout fondement
intuitif. Ses ractions mritent une attention toute particulire et pour la
mieux comprendre, je mappuierai sur une citation des PM.
Denis MIEVILLE
16
It is an old dispute whether formal logic should concern itself mainly with
intensions or with extensions. In general, logicians whose training was mainly
philosophical have decided for intensions, while those training was mainly
mathematical have decided for extensions. The facts seem to be that, while
mathematical logic requires extension, philosophical logic refuses to supply
anything except intensions. Our theory of classes recognizes and reconciles
these two apparently opposite facts, by showing that an extension (which is the
same as a class) is an incomplete symbol, whose use always acquire its meaning
through a reference to intension.

In the case of descriptions, it was possible to proove that they are
incomplete symbols. In the case of classes, we do not know of any equally
definite proof, though arguments of more or less cogency can be elicited from
the ancient problem of the One and the Many*. It is not necessary for our
purposes, however, to assert dogmatically that there are no such things as
classes. It is only necessary for us to show that the incomplete symbols which
we introduce as represntatives of classes yield all the propositions for the sake
of which classes might be thougt essential. When this has been shown, there
mere principle of economy of primitive ideas leads to the non introduction of
classes except as incomplete symbols.

* Briefly, these arguements reduce to the folowing : if there is such an object as
a class, it must be in some sens one object. Yet it is only of classes that
many can be predicated. Hence, if we admit classes as objects, we must
suppose that the same object can be both one and many, which seems
impossible. (Whitehead and Russell, 1910 : 75)

De ce passage, Lesniewski relve plusieurs points :

(a) Les symboles de classe sont utiliss comme commodits
linguistiques ou symboliques. Rien nest dit de ce que peut tre une classe, sinon
quelle est la mme chose quune extension et quelle nest pas un objet
authentique.
(b) Le refus daccepter la classe comme un objet ; cette impossibilit se
soutient du fait quun objet ne peut tre un et plusieurs.
(c) Une imprcision gnante dans ce qui est crit, qui ne peut que d-
scuriser davantage un lecteur en qute dinformations prcises. En effet, le fait
que The symbol for classesare incomplete symbols et ...an extension
(which is the same as a class) is an incomplete symbol) ne contribue pas
donner de la classe une dfinition claire !
Jai os relire les trois chapitres de lintroduction des PM avec le regard
critique que lon attribue Lesniewski, c'est--dire en recherchant une dfinition
de contenu. Dans cette perspective, mon attente de trouver une dfinition
limpide de la notion dextension a t due. Voici ce que jai trouv :

La valse des ensembles. De la mathmatique la logique
17
When two functions are formally equivalent, we may say that they have the
same extension. In this definition, we are in close agreement with usage. We do
not assume that there is such a thing as an extension : we merely define the
whole phrase having the same extension .

Since extensional functions are many and important, it is natural to regard the
extension as an object, called a class, which supposed to be the subject of all the
equivalent statements about various formally equivalent functions. (Whitehead
and Russell, 1910 : 77)

Lesniewski recherche une dfinition concrte, relle de ce quest une classe.
Dans cet esprit, il est manifeste que le recours la dfinition de lextension pour
clairer celle de classe ne laide en rien. Il peroit que Whitehead et Russell,
comme Frege du reste, mettent en doute lexistence des classes. Le sentiment qui
lenvahit la lecture des uvres de ces auteurs est pour le moins teint dironie !

De la notion de classe de Whitehead et Russell, comme de celle
d extension de concept de Frege, mane une odeur particulire, celle des
chantillons mythiques provenant de la riche exposition des objets invents .
Je ne peux pas mempcher dtre solidaire - crdit- avec les doutes des
auteurs concernant lexistence de telles classes. (Lesniewski, 1927 : 204-205 ;
traduction Miville)

Pour Lesniewski, la classe se doit dtre lexpression nominalise dune entit
relle, elle ne saurait tre uniquement une simple commodit symbolique ou
linguistique. La classe renvoie ainsi un objet, un amas, un agrgat
dingrdients. Dans cette perspective, parler de lexistence dune classe fait sens.
Whitehead et Russell voudrait bien considrer la classe de cette manire. Somme
toute, la notion de classe est un produit de lobservation du monde et de la
manire den parler. Les prsupposs qui lui sont associs nautorisent
cependant plus lui attribuer une dimension existentielle. Ils le reconnaissent
volontiers :

Nous avons dj vu que les classes ne peuvent pas tre regardes comme des
espces dindividus, cause de la contradiction relative aux classes qui ne sont
pas membres delles-mmes Nous ne pouvons pas considrer les classes
dune manire purement extensionnellecomme des amas ou des agglo-
mrations. Si nous tions tents de le faire, nous ne pourrions comprendre
comment il peut y avoir une classe telle que la classe nulle, qui na pas de
membre du tout et ne peut tre considre comme un amas ; nous
trouverions aussi bien difficile de comprendre comment il arrive quune classe
qui na quun membre ne soit pas identique ce membre. (Russell, 1970 :
217 ; premire dition 1918)

La position de Russell, ferme dans ce paragraphe, ltait moins dans les PM :

A class (which is the same as a manifold or aggregate) is all the objects
satisfying some propositional function. (Whitehead and Russell, 1910 : 24)
Denis MIEVILLE
18
Il est intressant de relever que la critique svre formule par Lesniewski
lgard des PM nat notamment dune incomprhension eu gard lintention de
leurs auteurs. Whitwhead et Russell attribuent une grande importance au
formalisme dans lefficace de sa fonctionnalit. Lesniewski, lui, fait une lecture
qui ne quitte jamais ce qui relie les formes au rel. Il ne peut donc trouver dans
les PM ce quils ne donnent pas voir. Mais il y une autre raison qui justifie sa
difficult saisir ce que voudrait contenir les PM. En effet, Lesniewski est
habit par les exigences dun pur logicien, il analyse un systme avec la
certitude de nviter aucune ambigut, de saisir et de clarifier toute confusion et,
par dessus tout, de formuler les concepts de manire rsoudre (et non pas
viter) toute contradiction. Sa longue et studieuse lecture des PM aboutit la
conviction fonde que lorigine de la contradiction russellienne trouve son sige
dans une confusion avre de deux notions de classe, celle qui est mme de
grer la manire distributive daborder une extension dlments partageant la
mme proprit caractristique, et celle, agrgative, qui exprime les relations de
parties au tout quune entit prsente. Il pointe galement les difficults issues
dune thorie classique des ensembles qui est trs efficace pour aborder le
problme de la dfinition des nombres, mais qui na aucun fondement intuitif.
Elle est une thorie conue de manire ad hoc pour des raisons fonctionnelles, et
pour ce faire elle a t contrainte disposer de dfinitions qui nont aucune
apprhension intuitive ! Cela justifie thoriquement la dfinition dune classe
vide qui ne contient aucun lment alors que toute classe est dfinie par ses
lments ; cela justifie encore la non-identit dun lment et du singleton
constitu partir de cet lment. Cette relation possde un sens thorique
ncessaire, mais aucune cohrence intuitive ! Il y a davantage que cette
monumentale confusion entre la dimension distributive et la dimension
agglomrative sous-jacente au terme de classe. Au sens o Whitehead et Russell
en font usage, il y a une distinction qui nest pas matrise entre la notion
dextension, par exemple celle-ci : a, b, c, et celle de la classe associe cette
extension C ={a, b, c}. Cet amalgame a pollu et, parfois, pollue encore, de
nombreux discours attachs la thorie des ensembles.
Ce qui est remarquable, cest que la notion de classe agrgative ou
agglomrative a t utilise et discute de tout temps en coordination avec la
notion de classe distributive ; soudainement, lorsque lusage de la classe
extensionnelle est appele remplir un objectif de pure mathmatique, la notion
agrgative disparat du champ dinvestigation et de rflexion. Ds le dbut de
lhistoire de la philosophie, la notion agrgative est mentionne et utilise (les
prsocratiques, Platon, Aristote, Boethius, ). On retrouve cet intrt chez les
scolastiques (notamment chez Abelard, St Thomas dAquin, Albert de Saxe, ).
Plus prs de nous, Kant, Brentano et Husserl (1901) sy intressent ! Au temps
de lmergence de la thorie des ensembles et du logicisme, et notamment au
temps de llaboration des PM, les mathmaticiens focalisent leurs rflexions sur
la notion distributive lexclusion de celle, agglomrative. Cest une raction
aux PM qui provoque la renaissance dune rflexion sur cette notion agrgativo-
agglomrative dans le cadre dun systme logique.
La valse des ensembles. De la mathmatique la logique
19
4. Esquisse des thories dveloppes par Stanislas Lesniewski

Lesniewski que je pense profondment attach ses responsabilits de
logicien, va dvelopper sa rflexion de manire rsoudre lantinomie de
Russell et non pas lviter, comme le fait Whitehead et Russell avec leur
thorie des types. Ce faisant, il sera conduit faonner trois thories : la
mrologie, lontologie et la protothtique.
La mrologie est le rsultat de ses investigations propos du paradoxe
dit russellien. Lesniewski dmontre que lorigine dudit paradoxe provient dune
confusion entre lacception agrgative, respectivement distributive, que recouvre
le terme de classe. Lesniewski montre quil ne faut pas confondre, au risque
dintroduire une contradiction, a est parmi les lments dune extension et a
est un ingrdient dune totalit. Il va donc dvelopper et formaliser, dans un
premier temps, la mrologie, la thorie des classes agrgatives ou, tymo-
logiquement parlant, la thorie des parties au tout.
Quant lontologie, elle est laboutissement de la rflexion de
Lesniewski propos du traitement logique, dune part concernant la manire de
traiter linhrence dune proprit un sujet et dautre part la manire de saisir le
jeu de lextensionalit. Lontologie est sa faon une logique des prdicats
dordre suprieur, ou un calcul des noms dordre suprieur dans lequel la
quantification na aucun import existentiel ; elle est une logique non-
contradictoire, universelle, libre et ontologiquement neutre. Lesniewski y
distingue la catgorie des noms de ce que ceux-ci nomment, et dveloppe une
quantification libre de tout import existentiel. Lontologie fonde une thorie
des ensembles non-contradictoire, proprit qui na pas pu tre attribue
la thorie classique des ensembles. Ce rsultat de non-contradiction
constitue, en soi et pour le moins, un beau succs !
Enfin, la protothtique est dveloppe, offrant un systme quantifi des
propositions dordre suprieur. Quelque constante que ce soit conue sur une
combinatoire issue de la catgorie fondamentale des propositions peut y tre
dfinie. Lesniewski va mettre en vidence, cest--dire, dmontrer, quen faisant
usage de ses propres systmes, lobjectif fondationnel de larithmtique peut tre
atteint, et cela sans abandonner lexigence de la logique quand elle choisit dtre
sous la bannire de l art de penser. Lesniewski propose de manire ultime une
formalisation de la mtalangue quil utilise pour dvelopper de manire progres-
sive, dans lespace et le temps, les logiques maximales quil a conues.

5. Conclusion

Un double constat peut tre pos. Dune part, il est manifeste que la
thorie des classes soumise la hirarchisation des types quexposent Whitehead
et Russell est suffisante pour le rle quils veulent bien lui attribuer, celui dune
thorie efficace pour rendre compte de leur construction logiciste. Dautre part,
leur proccupation nest pas de reprsenter dans un systme formalis la
Denis MIEVILLE
20
perception quils auraient de la dimension distributive, ni de lassocier la
perception dun tout collectif constitu de ses ingrdients. Ma thse est que
Whitehead et Russell agissent en mathmaticiens qui ont besoin dune thorie
des ensembles efficace et dune base logique minimale pour fonder leur projet
logiciste. De mon point de vue, ils nagissent pas en logiciens qui ont cur de
rsoudre les problmes paradoxaux quils rencontrent et qui veulent investiguer
dans sa totalit, dune part les mcanismes de la raison dans leurs parcours
dductifs et dautre part, la double perception de la notion de classe telle quelle
est vhicule de manire vernaculaire. Lesniewski, habitant profondment
lessence de la logique en tant qu art de penser, va sattacher, avec succs,
honorer plusieurs dfis. Il y a la rsolution de lantinomie de Russell ; il y a la
formalisation et laxiomatisation de la thorie des classes collectives ; il y a
galement la formalisation et laxiomatisation des fondements dun calcul des
prdicats dordre suprieur qui rgle totalement le traitement du distributif ; de
plus, il y a la formalisation et laxiomatisation dun calcul des propositions
dordre suprieur. Enfin, tous ces systmes sont non-contradictoires et
maximaux en ce sens quils permettent daccder toute constante les
concernant, de quelque catgorie que ce soit !
Sur la piste de danse que lhistoire a construite, il est regrettable que la
valse des ensembles qui a t privilgie, sinon impose, ait t celle issue dune
thorie classique, certes efficace, mais bien dnue de fondements intuitifs
raisonnables. Les mathmaticiens ont ainsi impos un traitement ensembliste
purement thorique au dtriment de constructions associes une rflexion de
pure logique. Ces constructions existent, nous les avons mentionnes et
rencontres, et ces deux autres valses dviantes, purement extensionnelle dune
part, et effectivement collective dautre part, mritent dtre sorties de la
confidentialit dans laquelle lhistoire les a confines.


Bibliographie

FREGE, Gottlob
[1893] Grundgesetze der Arithmetik, Jena, vol 1: Verlag Hermann Pohle.
[1903] Grundgesetze der Arithmetik, Jena, vol 2: Verlag Hermann Pohle.
[1962] Grundgesetze der Arithmetik, Hildesheim : Olms
GARDIES, Jean-Louis
[1975] Esquisse dune grammaire pure, Paris : Vrin.
GESSLER, Nadine
[2005] Introduction luvre de S. Lesniewski. Fasc. III : La mrologie.
Universit de Neuchtel : Travaux de logique.
JORAY, Pierre & MIEVILLE Denis
[2008] (ds) Dfinition. Rles et fonctions en logique et en mathmatiques.
Actes du colloque de Neuchtel, 19-20 octobre 2007, Universit de Neuchtel :
Travaux de logique n
o
19.
La valse des ensembles. De la mathmatique la logique
21
LESNIEWSKI, Stanislaw
[1927] O podstawach matematyki, Przeglad Filozoficzny 30, 164-206 ; 31, 261-
291 ; 32, 60-101 ; 33, 77-105 et 142-170)
[1929] Grundzge eines neuen Systems der Grundlagen der Mathematik,
Fundamenta Mathematicae 14 : 1-81.
[1992] Collected Works I, II, S.J. Surma, J.T. Srzednicki, D.I. Barnett (eds),
Varsovie : Polish Scientific Pub. Dordrecht, Boston : Kluwer.
[1989] Sur les fondements de la mathmatique. Fragments (discussion
pralable, mrologie, ontologie). Trad. G. Malinowski, Paris : Herms.
MIEVILLE, Denis
[1984] Un dveloppement des systmes logiques de S. Lesniewski.
Protothtique-Ontologie-Mrologie. Berne, Francfurt, New York : P. Lang.
[2001] Introduction luvre de S. Lesniewski.Fascicule I : La protothtique.
Universit de Neuchtel : Travaux de logique.
[1999a] Rle et enjeux de la notion de catgorie en logique, (Miville d.),
Universit de Neuchtel : Travaux de logique n
o
13.
[1999b] Expansion catgorielle en logique, in Miville [1999a] : 1-41.
[2004] Introduction luvre de S. Lesniewski.Fascicule II : Lontologie.
Universit de Neuchtel : Travaux de logique.
[2008] Dune dfinition lautre, in Joray & Miville (ds) [2008] : 159-175.
[2009] Introduction luvre de S. Lesniewski.Fascicule VI : La mtalangue.
Universit de Neuchtel : Travaux de logique.
RICKEY, V. Frederick
[1972] Axiomatic Inscriptional Syntax, Part I : The Syntax of Protothetic, Notre
Dame Journal of Formal Logic 13 : 1-33.
[1973] Axiomatic Inscriptional Syntax, Part II : The Syntax of Ontology, Notre
Dame Journal of Formal Logic 14 : 1-52.
RUSSELL, Bertrand
[1906] The Theory of Implication. American Journal of Mathematics: 159-202.
[1956] (1
re
ed. 1903) The principles of Mathematics, London : Allen & Unwin
[1970] (1
re
ed. 1919) Introduction la philosophie mathmatique (Trad. P.
Devaux), Paris : Payot
WHITWHEAD, Alfred North & RUSSELL, Bertrand
[1910, 1912, 1913] Principia Mathematica, Cambridge : CUP.