Vous êtes sur la page 1sur 23

See discussions, stats, and author profiles for this publication at: https://www.researchgate.

net/publication/280098267

Algèbre et logique symboliques: arbitraire du signe et langage formel

Chapter · January 2014

CITATIONS READS
12 1,063

2 authors:

Amirouche Moktefi Marie-José Durand-Richard


Tallinn University of Technology Université de Paris
88 PUBLICATIONS   358 CITATIONS    27 PUBLICATIONS   41 CITATIONS   

SEE PROFILE SEE PROFILE

All content following this page was uploaded by Amirouche Moktefi on 27 January 2017.

The user has requested enhancement of the downloaded file.


This is the final draft before editing of:
M.-J. Durand-Richard & A. Moktefi, 2014, “Algèbre et logique symboliques:
arbitraire du signe et langage formel”, in J.-Y. Béziau (ed.), La Pointure du Symbole,
Paris: Pétra, pp. 295-328
For an off-print of the published version, please contact me at: amirouche.moktefi@ttu.ee

Algèbre et Logique Symboliques :


Arbitraire du Signe et Langage Formel

Marie-José Durand-Richard
SPHERE, UMR 7219 CNRS-Université Denis Diderot Paris 7
&
Amirouche Moktefi
IRIST, Université de Strasbourg ; Archives H. Poincaré, Nancy-Université

Depuis Ferdinand de Saussure (1857-1913), la question de l’arbitraire du signe est


considérée comme une articulation majeure de la pensée linguistique. Et la sectorisation
disciplinaire propre au 20ème siècle tend à l’y cantonner. Elle s’est pourtant explicitement
posée dans le domaine scientifique au cours de différentes tentatives de formalisation, à
commencer par celle des mathématiques, d’abord au 16ème siècle lorsque s’installe la
symbolisation de l’algèbre, et surtout au 19ème siècle lorsque l’algèbre commence à
concurrencer fortement la géométrie comme science de référence.
Certes, les termes en lesquels se pose cette question en mathématiques ne sont pas strictement
les mêmes que ceux dans lesquels Saussure l’aborde. En remplaçant les nombres par des
lettres, l’algébriste renonce à spécifier une signification à ce qu’il persiste cependant à appeler
« symbole ». Et pendant toute la période d’élaboration de l’algèbre, les débats se multiplient
sans trancher pour autant quant à la nature et la validité des entités ainsi produites, allant des
« quantités moindres que rien » – les négatives – aux quantités « sophistiques » de Rafael
Bombelli (1526-1572) – à savoir les racines carrées des précédentes.
Les algébristes anglais de la première moitié du 19ème siècle seront nombreux à soutenir ce
renoncement à la signification des nombres et des opérations, au nom d’un arbitraire du signe
déjà affirmé par John Locke (1632-1704) dans cette même Angleterre, au nom d’une
conception empiriste de la pensée et du langage. D’abord revendiquée haut et fort par des
auteurs relativement peu connus comme Charles Babbage (1791-1871) et George Peacock
(1791-1858), elle débouche avec George Boole (1815-1864) sur la première tentative
d’algébrisation de la logique, conçue comme un « système de signes » représentant les
« opérations du langage », et constituant par le fait même un « instrument de raisonnement ».
Pour ce courant de pensée, le caractère arbitraire du signe est constitutif du « système » que
forme le langage ainsi formalisé, et détermine la subordination de la signification des

1
symboles – alors qualifiée d’ « interprétation » – à des lois opératoires envisagées comme
celles des « opérations de l’esprit ».
Dans la seconde moitié du 19ème siècle, cette idée d’une subordination systématique de la
signification des symboles aux lois abstraites d’un calcul logique ne cessera d’interroger les
auteurs concernés par la formalisation de l’algèbre et de la logique. C’est dire que le débat sur
les fondements des mathématiques et de la logique se trouve engagé bien avant l’explicitation
des paradoxes de la théorie des ensembles au tournant du 20ème siècle et les travaux de Georg
Cantor (1845-1918), Gottlob Frege (1848-1925) et Bertrand Russell (1872-1970) auxquels ce
débat est traditionnellement associé. La question de la signification du symbolisme en
mathématiques et en logique demeure, quant à elle, un problème ouvert, et qui renchérit sur
celle plus générale de la signification d’une recherche scientifique de plus en plus fondée sur
des modes de formalisation calculatoire.

Pourquoi et comment fonder l’algèbre comme science ?


Si les mathématiques interviennent aujourd’hui massivement sous la forme opératoire d’un
calcul algébrique, il importe de rappeler ici à grands traits les jalons essentiels par lesquels ce
calcul s’est imposé comme fondement possible des mathématiques, et des sciences où celles-
ci interviennent. Les recherches engagées par les algébristes anglais de la première moitié du
19ème siècle sur la nature du symbolisme algébrique interviennent à un moment précis de cette
histoire. Il s’agit donc de préciser le cadre problématique dans lequel elles se situent, afin de
saisir les enjeux auxquels est censée répondre l’affirmation de l’arbitraire des symboles
algébriques, et l’indépendance des propriétés opératoires à leur égard.
L’algèbre, on le sait, émerge dans la civilisation arabo-musulmane comme un corps de
méthodes de résolution de problèmes types, exprimées par des équations canoniques, dès le
9ème siècle pour le second degré, avec les travaux d’Al-Khwarizmi (vers 780 - vers 850), et
dès le 12ème siècle pour le troisième degré, avec les travaux d’Al-Khayyam (vers 1048 - vers
1131). Comme la géométrie grecque avant elle, cette algèbre s’exprime totalement dans le
langage. En dehors de l’écriture des nombres, elle est dépourvue de toute expression
symbolique. Associée à la dénomination de l’ « inconnue » ou « racine », l’énonciation
algorithmique de ces procédures canoniques fonde cependant une remarquable méthode
d’analyse pour des problèmes de toute nature, qui ont longtemps fait écran au remarquable
travail de mathématisation de ces travaux aux yeux des historiens des mathématiques.
La symbolisation de cette algèbre se produit localement au 16ème siècle, à partir des places
européennes économiquement les plus dynamiques, essentiellement en Italie et en Hollande,
avant que La Géométrie (1637) de René Descartes (1596-1650) ne propose une unification
des notations qui s’imposera. Il n’empêche, comme l’indique bien d’ailleurs le titre de cet
ouvrage de Descartes, que cette algèbre reste une méthode d’analyse, qualifiée d’« analyse
algébrique », au service de la géométrie. Depuis les Eléments d’Euclide (3ème siècle avant J.-
C.), celle-ci est en effet reconnue comme la science mathématique par excellence, en raison
de la rigueur logique de son mode d’exposition théorique, où les théorèmes sont
systématiquement déduits des définitions, axiomes et théorèmes.
Face à la rigueur de cet édifice géométrique, les algébristes osent manipuler des entités
nouvelles, qui restent d’autant plus suspectes qu’elles contreviennent aux définitions et aux
propriétés usuelles de l’arithmétique : les quantités « moindres que rien » et « impossibles »
déjà indiquées, mais aussi les « quantités infiniment petites », auxquelles se réfère le calcul

2
infinitésimal, né au 17ème siècle des travaux d’Isaac Newton (1642-1727) et de Gottfried W.
Leibniz (1646-1716), et qui permet à la nouvelle physique de se développer comme théorie
du mouvement depuis les Principes Mathématiques de la Philosophie Naturelle (1687) de
Newton.
Pour des raisons trop complexes pour être développer ici sans sortir du cadre de cet article, les
mathématiciens anglais du 18ème siècle sont restés fidèles à la notation newtonienne,
fluxionnaire, tandis que le « Continent » déployait l’efficacité de la notation leibnizienne,
différentielle1. Au tournant du 19ème siècle, la publication des premiers volumes du Traité de
Mécanique Céleste de Pierre-Simon de Laplace (1749-1827), qui approfondit
substantiellement la théorie newtonienne par le biais de la notation différentielle, persuade un
groupe d’étudiants, réunis autour de Babbage à Cambridge, de l’urgence absolue d’impulser
une réforme globale du curriculum. Pour cette jeune génération, il s’agit d’ailleurs tout à la
fois de faire accéder les mathématiciens anglais au niveau de compétitivité des
mathématiciens continentaux – français en l’occurrence –, et d’adapter l’université anglicane
aux valeurs nouvelles issues de la Révolution Industrielle anglaise. Face à la critique des
universités traditionnelles, menée par le courant utilitariste, l’opérativité de l’algèbre est alors
bien plus signifiante que la rigueur déductive de la géométrie.
Il n’empêche qu’imposer l’algèbre en lieu et place de la géométrie en tant que propédeutique
à l’université de Cambridge, comme l’ambitionne explicitement Peacock, suppose d’établir
son statut de science, un statut qui lui fait alors défaut, aussi bien sur le plan sociologique
qu’épistémologique. Née de pratiques opératoires souvent développées hors des lieux
officiels de savoir – universités et académies –, elle ne cesse d’introduire des entités dont
l’existence même contredit les propriétés usuelles des opérations de l’arithmétique, pour
lesquelles des calculs comme (3 – 7) ou –1 sont tout à fait insensés, au sens propre du
terme. Et elle le fait par le biais de modes de pensée, comme l’analogie ou l’induction, tout à
fait absents de l’édifice euclidien, et exclus du champ de la rigueur déductive. La conception
symbolique mise en place par les jeunes algébristes de Cambridge au début du 19ème siècle
tente précisément de répondre à ces  contraintes.

Algèbre symbolique et arbitraire du signe


En dehors du cercle restreint des historiens des mathématiques, cette première approche des
processus opératoires est aujourd’hui oubliée, du fait qu’elle n’a pas directement débouché
sur des résultats directement tangibles, sur quelque théorème de Babbage ou de Peacock. Les
historiens ne leur associent pas les résultats de Boole ou d’Augustus de Morgan (1806-1871)
en logique. Babbage est reconnu comme inventeur d’une « machine analytique » aujourd’hui
perçue comme « ancêtre de l’ordinateur » sans que soient évoqués ses travaux
mathématiques, sur le calcul fonctionnel par exemple. Tous ces auteurs ont pourtant
collectivement nourri de nouvelles orientations de recherche, visant à caractériser les
propriétés des opérations indépendamment des termes et des résultats concernés, y compris
sur des entités dépourvues de signification. Ils seront confrontés, de l’intérieur, aux limites
mêmes de leur conception universelle de la pensée opératoire, et de l’extérieur, à l’étude

1
Voir à ce sujet : Marie-José Durand-Richard, « L'école algébrique anglaise : les conditions conceptuelles et
institutionnelles d'un calcul symbolique comme fondement de la connaissance », in C. Goldstein, J. Gray, et J.
Ritter (eds.), L'Europe Mathématique : Mythes, Histoires, Identité (Mathematical Europe: Myth, History,
Identity), Paris : Editions M.S.H, 1996, pp. 445-477.

3
d’autres opérations sur une diversité d’objets, avant de déboucher autour de 1930 sur une
redéfinition de l’algèbre comme étude de structures abstraites2.
Tout au long du 18ème siècle, les opérations sur les quantités « négatives » ou « complexes »
étaient souvent justifiées par analogie avec les opérations de l’arithmétique. Par exemple, on
s’autorise à écrire :
(a + b –1 )(c + d –1 ) = ac + bc –1 + ad –1 – bd
par analogie avec l’écriture arithmétique :
(a + b)(c + d) = ac + bc + ad + bd
   
à ceci près, que de l’une à l’autre de ces écritures, les entités désignées par des lettres ont
changé de signification. En ce début du 19ème siècle, il s’agit en outre de légitimer des calculs
sur des opérateurs différentiels, du type :
dn d p dnp  d n  d p  d n  p
 traités comme       
dx n dx p dx n  p dx  dx  dx 
par analogie avec l’écriture arithmétique :
an.ap = an+p
 
Mais c’est précisément le changement de signification des symboles sur lesquels portent les
calculs entre l’écriture arithmétique et l’écriture algébrique qui justifie toutes les attaques
dont ces calculs sont alors l’objet, et qui interdit que l’algèbre soit considérée comme une
science.
Le projet de Peacock est alors d’expliciter la logique sous-jacente à ce type de calcul, en
évitant soigneusement le changement de signification des symboles que sous-tend cette
démarche analogique. Mais son ambition est tout autant de préserver une relation
épistémologique essentielle entre la logique des calculs qui se trouve ainsi « révélée » par ces
analogies opératoires, et la démarche inventive qu’elles constituent. En tant que réformateur,
il soutient une conception empiriste du développement des connaissances, y compris
mathématiques. Mais en tant que fellow du Trinity College de Cambridge, il reste attaché à la
permanence des connaissances, qu’il va inscrire dans une logique des calculs radicalement
séparée de toute interprétation.
Telles sont les nécessités philosophiques qui le guident dans la reconstitution d’une histoire
épistémologico-génétique de la formalisation de l’algèbre, dont il distingue deux états :
- l’algèbre arithmétique est conçue comme stricte littéralisation de l’arithmétique. Les
nombres y sont remplacés par des lettres, « symboles absolument généraux dans leur forme,
mais pas dans leur valeur », en ce sens qu’ils conservent toutes les limitations de
sens attachées aux quantités arithmétiques. Ecrire (a – b) ou a – b suppose que (a ≥ b). Les
opérations conservent ainsi la signification qui leur a été donnée en arithmétique.
- par contre, l’algèbre symbolique fait sauter tous les verrous de la signification. C’est à ce
prix qu’elle dispose de l’universalité et de l’indépendance
 absolue qui lui permet de soumettre
à ses principes opératoires toutes les branches de la philosophie naturelle. Envisagée comme
« le langage du raisonnement symbolique », elle est définie comme « science de

2
Leo Corry, Modern Algebra and the Rise of Mathematical Structures, Basel – Boston – Berlin: Birkhauser,
2004.

4
combinaisons de symboles arbitraires », au sens où ils sont « généraux dans leur forme
comme dans leur valeur »3. Les opérations, si elles peuvent être appelées « addition »,
« soustraction », multiplication », « division », ne sont plus définies comme en arithmétique,
mais seulement par leurs propriétés en tant que lois de combinaison. La première d’entre elles
est leur réciprocité deux à deux : la seule condition d’existence de (a – b) est d’ordre
1
symbolique : (a – b) + b = a, de même que a 2 n’est défini que par l’écriture symbolique :
2
 12 
 a   a . Peacock énonce alors comme autres propriétés : les règles d’opération, et un
 
 
principe mixte d’associativité-commutativité – sans utiliser pour autant ce vocabulaire. Ces
propriétés sont elles-mêmes qualifiées d’« hypothèses arbitraires », au sens où il ne les
envisage pas comme intrinsèquement déterminées par les objets sur lesquels elles
s’appliquent.
Malgré son insistance sur la liberté de choix des hypothèses de cette « science spéculative »
qu’est l’algèbre, Peacock n’expose pas l’algèbre symbolique de manière axiomatique, il ne
déduit pas toutes les conséquences possibles de quelques hypothèses préalables arbitrairement
choisies. Parce que la « découverte » des formes symboliques est censée provenir des
pratiques de l’algèbre arithmétique, qualifiée pour cette raison de « science de suggestion », il
préfère articuler sa présentation autour des analogies opératoires qui permettent de passer de
l’une à l’autre, dans une démarche où le statut de l’analogie est cependant tout aussi ambigu
que celui de l’algèbre arithmétique4. Science de suggestion, l’algèbre arithmétique est
pourtant « subordonnée » à l’algèbre symbolique, comme toutes les autres branches de la
philosophie naturelle. Méthode d’invention par excellence, l’analogie est d’abord
explicitement rejetée au nom des paradoxes qu’elle a fait naître depuis le 18 ème siècle,
essentiellement autour des opérations à valeurs multiples issues des extractions de racines des
quantités impossibles. Mais le transfert des propriétés opératoires qu’elle autorise est au cœur
de l’édification de l’algèbre symbolique. C’est pourquoi l’analogie, d’abord disqualifiée
comme suspecte scientifiquement, se trouve réintégrée de fait sous le nom de « principe de
permanence des formes équivalentes ». Ce que Peacock appelle « the business of algebra »
consiste précisément à transférer à l’algèbre symbolique, la forme générale des expressions
algébriques obtenues en algèbre arithmétique, qui se trouve ainsi libérée de toutes les
limitations dont l'écriture traditionnelle pourrait rester porteuse.
Si le statut de cette algèbre symbolique à de quoi surprendre le lecteur mathématicien, c’est
aussi parce qu’il s’appuie sur une réflexion philosophique relative au statut de la connaissance
mathématique qui permet de mieux caractériser cette relation, d’apparence ambiguë, entre
algèbre arithmétique et algèbre symbolique.

3
George Peacock, « Report on the recent progress and present state of certain branches of analysis », Report of
the Third Meeting of the British Association for the Advancement of Science, Held at Cambridge in 1833,
London: John Murray, 1834, pp. 194-199.
4
Marie-José Durand-Richard, « De l'algèbre symbolique à la théorie des modèles : structuration de l'analogie
comme méthode démonstrative », in Marie-José Durand-Richard (ed.), Le Statut de l'Analogie dans la
Démarche Scientifique : Perspective Historique, Paris : L'Harmattan, 2008, pp. 131-169.

5
Comment la philosophie de Locke permet de concilier empirisme et
téléologie
Animé par un esprit de réforme ambitieux et tenace, Peacock refuse de priver la science
algébrique – au nom de la rigueur – des acquis de l’expérience accumulée au cours du 18ème
siècle. Afin de lever les difficultés d’ordre logique attachées à ces pratiques algébriques, il
préfère renoncer à fonder la signification des opérations sur celle des termes qu’elles
composent, pour y substituer une science de tous les possibles, résultant logiquement de
toutes les combinaisons de symboles dépourvus de signification, combinaisons régies par
leurs propriétés opératoires. Un tel saut conceptuel se soutient en fait de la philosophie de
Locke, dont l’Essay Concerning Human Understanding fait alors partie du curriculum à
Cambridge. Cette philosophie nourrit également la tendance utilitariste du mouvement
réformateur dans sa contestation des universités anglicanes, et de leur fidélité à la philosophie
scolastique5.
Locke est à juste titre considéré comme fondateur de l’empirisme. Il affirme haut et fort que
la connaissance ne constitue pas une description du monde, puisque la « substance des
choses » – au sens aristotélicien du terme – est radicalement inconnaissable. Pour cette
philosophie de l’action, elle est plutôt le fait d’un esprit qui d’abord, forme et compose des
idées à partir de ses perceptions et des opérations de ses facultés, et les traduit ensuite par des
mots. Seuls les idées et les mots sont objets de connaissance, et rien ne garantit a priori leur
adéquation à ce monde, dont ils ne représentent que les signes des perceptions :

Thus we may conceive how words […] came to be made use of by men as the signs of their
ideas; […] by a voluntary imposition, whereby such a word is made arbitrarily the mark of
such an idea6.

Peacock trouve donc chez Locke un ancrage essentiel, celui de l’arbitraire du signe, qui
permet à l’algébriste comme au philosophe de définir la « vérité » de la connaissance non
plus en vertu de son adéquation au monde, mais par la seule cohérence de son
énonciation. Pour ces deux auteurs, la vérité n'appartient en propre qu'aux propositions et à
leurs relations. Elle n'est générale que dans le cas des idées abstraites. Et c’est, pour Locke,
dans la mesure où en mathématiques, et surtout en algèbre, l’essence nominale des objets se
confond avec leur essence réelle, que leurs propositions sont « universelles » et leurs vérités
« éternelles ». Ce faisant, la démonstration ne consiste qu’à introduire, entre deux idées dont
la relation n'est pas immédiate, une suite d'idées intermédiaires appelées preuves entre
lesquelles peut s'exercer la connaissance intuitive7. Cette conception de la démonstration, qui
se réfère systématiquement aux opérations de l’esprit, est aussi présente chez Babbage dès ses
premières investigations en 18138.

5
Marie-José Durand(-Richard), « Genèse de l'algèbre symbolique en Angleterre : une influence possible de John
Locke », Revue d'Histoire des Sciences, vol. 43, n° 2-3, 1990, pp. 129-180.
6
John Locke, An Essay concerning Human Understanding, London, 1694, § III.2.1.
7
Ibid., Livre IV.
8
Marie-José Durand-Richard, « Charles Babbage (1791-1871) : de l'école algébrique anglaise à la "machine
analytique" », Mathématiques, Informatique et Sciences Humaines, vol. 118, 1992, pp. 5-31 (« Erratum », vol.
120, pp. 79-82).

6
Cette référence aux opérations de l’esprit permet à Peacock de soutenir l’idée de mécanismes
opératoires sans déroger à l’existence d’un esprit pensant, et sans renoncer non plus à
l'affirmation théologique d'un ordre naturel du monde. S’il affirme l’arbitraire des « symboles
généraux dans leur forme comme dans leur valeur » à propos des objets sur lesquels portent
les opérations, il préserve cependant, tout comme Locke d’ailleurs, l’ancrage des opérations
sur les facultés naturelles de l’esprit. Ce maintien de l’innéité des facultés de l’esprit tempère
l’empirisme lockéen, en limitant la liberté de pensée sous-tendue par l’arbitraire du signe,
jugée si dangereuse par des philosophes comme William Whewell (1794-1866) ou William
Hamilton (1788-1856). Ce respect d’un ordre naturel – et hiérarchique – dans l’organisation
des connaissances éclaire l’ambiguïté de la relation entre algèbre arithmétique et algèbre
symbolique qu’exprime Peacock dans le double « principe de permanence des formes
équivalentes » :

Direct Proposition:
Whatever form is algebraically equivalent to another when expressed in general symbols,
must continue to be equivalent, whatever those symbols denote.
Converse Proposition:
Whatever equivalent form is discoverable in arithmetical algebra considered as the science of
suggestion, when the symbols are general in their form, though specific in their value, will
continue to be an equivalent form when the symbols are general in their nature as well as in
their form 9.

Si l’algèbre arithmétique est première dans la pratique de l’algébriste, elle est subordonnée à
l’algèbre symbolique. Elle a pour fonction de lui faire « découvrir » – lui « suggérer » – cette
science universelle, dont il ne peut appréhender directement la généralité. La signification est
contingente, et devient, dans le vocabulaire de Peacock, une « interprétation » éventuelle,
mais non indispensable, des résultats symboliques obtenus, qui eux, en tant qu’écritures
formelles, sont nécessaires et universels.
Le principe de permanence respecte en quelque sorte l'idée de finalité d'un monde conçu
comme création achevée. Cette finalité constitue une légitimation implicite et permet à
Peacock d'éviter la rupture épistémologique qui le conduirait à assumer la liberté du
mathématicien comme créateur d'un langage formel. Fondamentalement, il ne renonce pas
totalement à l’idée de signification, qui se trouve de fait transférée des objets aux opérations,
dont se trouve affirmée la primauté ontologique. Son travail clôt en tous cas le débat sur
l'indépendance des méthodes de l'analyse algébrique vis-à-vis de la géométrie. Elle installe au
premier plan l'étude de ce qui fonde la permanence et l'universalité des formes du calcul
algébrique, c’est-à-dire la logique de l’opératoire.

L’héritage symbolique de George Boole


Si Boole est fondamentalement reconnu comme logicien, il fut d’abord un mathématicien,
dont les premiers travaux contribuent à la naissance de la théorie des invariants. Il développe
ses premiers travaux, tant sociologiquement qu’épistémologiquement, en relation avec les
algébristes de Cambridge, notamment Duncan F. Gregory (1813-1844), élève et disciple de

9
Peacock, op. cit., 1834, p. 198-199.

7
Peacock10, qui vient de publier en 1840 : « On the real nature of symbolical algebra »11. Et
Boole reçoit en 1844 une médaille d’or de la Royal Society pour sa « General Method of
Analysis », un article impressionnant sur les méthodes symboliques relatives aux opérateurs
différentiels12.
La logique cherche elle aussi comment se renouveler, après vingt siècles passés dans le cadre
de l’analyse du langage. C’est donc fort d’une parfaite maîtrise des finalités et des
implications épistémologiques de l’Algèbre Symbolique - dont il se réclame explicitement
dans la préface de son Mathematical Analysis of Logic (1847) - que Boole inaugure la
rencontre entre algèbre et logique. Si ce premier ouvrage met en forme une sorte de
transcription symbolique de la syllogistique aristotélicienne, An investigation of the Laws of
Thought (1854) signe un projet philosophique de plus grande ambition : « étudier les lois
fondamentales des opérations de l’esprit »13.
Sa démarche est sans ambiguïté quant à son mode d’inscription philosophique. Il se démarque
d’emblée des empiristes radicaux tels que John Stuart Mill (1806-1873), au nom des dangers
pour la pensée d’un pur et simple mécanisme opératoire. Sa recherche d’une méthode
générale en logique se réclame d’une philosophie positive et des mêmes ancrages conceptuels
que Peacock et Locke, affirmant que « l’esprit est lui-même le siège de lois qui opèrent d’une
façon aussi manifeste et concluante dans les formules particulières que dans les générales »14.
Le langage est d’emblée envisagé comme un système de signes, ayant pour but l’exercice de
la raison humaine :

Proposition I.
All the operations of Language, as an instrument of reasoning, may be conducted by a system
of signs composed on the following elements, viz.:
1st. Literal symbols, as x, y, & c., representing things as subjects of our conceptions.
2nd. Signs of operations, as +, -, ×, standing for those operations of the mind by which the
conceptions of things are combined or resolved so as to form new conceptions involving the
same elements.
3rd. The sign of identity, =.
And these symbols of Logic are in their use subject to definite laws, partly agreeing with and
partly differing from the laws of the corresponding symbols in the science of Algebra15.

10
Voir: Marie-José Durand-Richard, « Logic versus algebra: English debates and Boole's mediation », in James
Gasser (ed.), A Boole Anthology, Dordrecht: Kluwer Academic Publishers, 2000, pp. 139-166.
11
Duncan F. Gregory, « On the real nature of symbolical algebra », Transactions of the Royal Society of
Edinburgh, vol. 14, 1840, pp. 208-216.
12
Maria Panteki, « The mathematical background of George Boole’s Mathematical Analysis of Logic (1847) »,
in James Gasser (ed.), A Boole Anthology, Dordrecht: Kluwer Academic Publishers, 2000, pp. 167-212.
13
George Boole, Les Lois de la Pensée, traduit par Souleymane Bachir Diagne, Paris: Vrin, 1992, p. 21. Version
originale: « to investigate the fundamental laws of those operations of the mind » (Boole, An Investigation of the
Laws of Thought, on Which Are Founded the Mathematical Theories of Logic and Probabilities, London:
Walton & Maberly, 1854, p. 1).
14
Boole, op. cit., 1992, p. 40. Version originale: « the mind is itself a seat of law, whose operation is as manifest
and as conclusive in the particular as in the general formula » (Boole, op. cit., 1854, p. 22).
15
Boole, op. cit., 1854, p. 27.

8
L’ambiguïté qui semble régner dans cet énoncé entre les notions de signe et de symbole ne
fait que reprendre le vocabulaire traditionnel de l’algèbre distinguant entre signes d’opération
et symboles de quantités. Mais Boole insiste surtout sur leur caractère arbitraire :

Definition: A sign is an arbitrary mark, having a fixed interpretation, and susceptible of


combination with other signs in subjection to fixed laws dependent upon their mutual
interpretation16.

La science du raisonnement – aussi bien le raisonnement certain à travers la logique, que le


raisonnement incertain à travers les probabilités – s’attache essentiellement, pour Boole
comme pour Peacock, à « dégager des lois » opératoires. C’est ainsi que Boole identifie le
« et » logique à l’opération (+) et le « ou » (exclusif) à l’opération (x). Et c’est précisément
dans la mesure où ces opérations logiques possèdent les mêmes propriétés formelles que
l’addition et la multiplication, à savoir la commutativité et la distributivité – qu’il nomme ainsi
sur les traces de Gregory –, que Boole s’autorise à transférer toutes les propriétés opératoires
de l’algèbre à la logique. C’est aussi sur les traces de Gregory que Boole justifie ce transfert,
non pas à partir de l’analogie ou du principe de permanence, mais à partir d’un principe formel
de transfert que tous deux énoncent ainsi :

If the arithmetical and the logical process are expressed in the same manner, their symbolical
expressions will be subject to the same formal law17.

Quant au caractère contingent et subordonné de l’interprétation des symboles, Boole le réitère


tout au long de l’ouvrage, en se référant souvent d’ailleurs au symbole –1 , qui peut être
utilisé comme pur symbole sans lui associer d’interprétation :


Whatever our à priori anticipations might be, it is an unquestionable fact that the validity of a
conclusion arrived at by any symbolical process of reasoning, does not depend upon our
ability to interpret the formal results which have presented themselves in the different stages
of the investigation18.

La problématique symbolique, en mathématiques comme en logique, est donc extrêmement


prégnante en Grande-Bretagne au milieu du 19ème siècle, au moins dans le cercle des
réformateurs, et de leurs nombreux prolongements institutionnels à travers ce que les
historiens des sciences appellent le « network of Cambridge ». Il n’empêche que cette
primauté accordée à des opérations effectuées sans aucun égard pour la signification des
symboles n’est pas sans soulever de nombreuses oppositions, tant pour des raisons politiques
qu’épistémologiques. Comment légitimer la connaissance élaborée dans de telles conditions,
quand la quête de sens caractérise amplement aussi bien la connaissance humaine que

16
Ibid, p. 25.
17
Ibid, p. 31. Déjà chez Duncan F. Gregory, « On the solution of linear equations of finite and mixed
differences », Cambridge Mathematical Journal, vol. 1, 1839, pp. 54-62 (repris dans: Mathematical Writings,
Cambridge: Deighton, Bell, and Co, 1865, pp. 33-42; voir particulièrement pp. 34-35).
18
Boole, op. cit., 1854, pp. 67-68.

9
l’organisation sociale. Frege est sans doute celui qui se démarque le plus fermement de cet
abandon du sens, sans vouloir renoncer pour autant aux avancées opératoires que Boole
apporte à la logique19. Mais la question concerne plus largement l’ensemble des logiciens et de
leurs pratiques dans la seconde moitié du 19ème siècle.

A la recherche de la signification
Comme l’indique le principe de transfert évoqué ci-dessus, Boole ne procède pas par analogie
à proprement parler. Il considère plutôt que les opérations logiques et celles de l’algèbre
obéissent aux mêmes lois formelles. La logique n’est donc aucunement une branche des
mathématiques. Elle serait plutôt une branche d’une science générale des signes dont les
mathématiques formeraient une autre branche. On peut dès lors se demander comment
distinguer une branche de l’autre. La différence tient aux objets auxquels se réfèrent ces signes
et donc à l’interprétation qu’on en fait. La question de la signification est donc évacuée du
calcul logique de Boole mais est réintégrée lors de l’interprétation du résultat du calcul car elle
conditionne toute la légitimité de cette algèbre à être reconnue comme algèbre de la logique,
statut que de nombreux philosophes post-booléens lui refuseront. Si les signes (y compris les
mots) sont arbitraires chez Boole, l’interprétation en revanche ne l’est pas, car c’est la
signification particulière qu’il donne à son algèbre qui en fait l’algèbre de la logique. Mais
cette signification, faut-il la donner aux signes ou bien l’y chercher ? Boole puise largement
dans le langage pour déterminer la signification de ses signes, précisément parce qu’il ne voit
son écriture symbolique que comme structuration du langage ordinaire. Cependant, Boole
recourt également à l’opératoire de son calcul pour introduire de nouveaux symboles et en
déterminer la signification logique. C’est particulièrement le cas lorsqu’il introduit les
symboles « 0 » et « 1 », lesquels représentent respectivement la classe nulle et l’Univers.
C’est ainsi que Boole identifie la loi de dualité (ou dichotomie) : « x2 = x » comme « la
différence caractéristique des opérations de l’esprit dans le discours et dans le raisonnement
ordinaires, par rapport à ses opérations dans l’algèbre quantitative générale »20. En effet, cette
loi s’impose à toutes les classes logiques mais ne vaut que pour 0 et 1 dans le calcul
« numérique ». Boole cherche donc à déterminer la signification de ces symboles au sein de
l’algèbre de la logique. Il est important à ce niveau de noter que ces symboles sont directement
issus du calcul algébrique lui-même et ne répondent donc pas à une quelconque nécessité
logique. Pour donner sens à ces symboles, Boole fait observer qu’ils sont, en algèbre, les
seules solutions de l’équation « x2 = x », où ils obéissent aux lois formelles suivantes : « 0.y =
0 » et « 1.y = y ». Or, la classe nulle et l’univers (respectivement) sont les classes qui valident
ces lois dans le calcul des classes. En effet, l’intersection de la classe nulle et d’une classe
quelconque y engendre nécessairement la classe nulle, alors que l’intersection de l’univers
avec une classe quelconque y engendre nécessairement cette même classe y.
Il est aisé de comprendre la réticence des philosophes à recourir à ce type de raisonnement, et
leur méfiance quant à l’introduction de ces symboles « numériques » en logique. William S.
Jevons (1835-1882), dont Augustus de Morgan, disciple de Peacock, fut le professeur de

19
Marie-José Durand-Richard, « Opération, fonction et signification de Boole à Frege », Cahiers Critiques de
Philosophie, n° 3, Paris : Hermann, 2007, pp. 99-128.
20
Boole, op. cit., 1992, p. 62. Version originale: « the characteristic distinction of the operations of the mind in
its ordinary discourse and reasoning, as compared with its operations when occupied with the general algebra of
quantity » (Boole, op. cit., 1854, p. 46). Cette loi « x2 = x » provient du fait que la sélection réitérée d’une classe
[x.x] par l’esprit donne la même classe [x].

10
mathématiques à l’université de Londres, est l’un des premiers philosophes à avoir
sérieusement lu et discuté les travaux de Boole. S’il reconnait les mérites de l’approche
symboliste de Boole, Jevons lui reproche cependant son habit mathématique et propose de l’en
dévêtir. Par ailleurs, Jevons n’admet pas l’apparition d’expressions sans signification (0/0, 1/0,
etc.) dans les étapes intermédiaires du calcul booléen. Jevons pense que Boole lui-même est
victime de sa grande proximité avec les mathématiques et en veut pour preuve que ce dernier a
omis une autre loi fondamentale de la pensée, la loi de l’unité, laquelle stipule que : « x + x =
x ». En effet, l’attribution d’une qualité donnée ne dépend pas du nombre de fois où cette
qualité est attribuée. En termes de classes, on reconnaitra que la réunion d’une classe x avec
elle-même engendre la même classe x. Cette loi formelle semble donc être en parfait accord
avec l’usage qui en est fait dans le langage. Boole refuse pourtant d’admettre cette loi et
objecte simplement que celle-ci n’est pas interprétable dans son système. En effet, pour
utiliser les identités formelles entre logique et algèbre, Boole est contraint de limiter
l’opération « + » aux classes disjointes (ce qui n’est naturellement pas le cas des classes x et
x). Jevons explique que cette restriction s’éloigne de l’usage de la réunion dans le langage
commun, et admet dans son propre calcul la réunion de classes non-disjointes.
On peut facilement mesurer les conséquences fâcheuses d’un relâchement de cette restriction
sur le calcul logique de Boole. On notera par exemple que seul le signe ‘0’ valide cette loi à la
fois dans l’algèbre de la logique et dans l’algèbre numérique, ce qui ruine le projet booléen
d’une algèbre numérique à deux valeurs ‘0’ et ‘1’, dont les opérations obéissent aux mêmes
lois formelles que les opérations de la logique. Par ailleurs, l’interprétation non-disjonctive de
la réunion interdit certaines transformations élémentaires dans le calcul de Boole : on ne
pourra plus passer par exemple de l’expression : « x + y = 1 » à « y = 1 - x ». En effet, si la
réunion des classes x et y engendre l’univers entier, il ne s’en suit pas nécessairement que y est
le complément de x puisque ces deux classes peuvent avoir des individus communs. On
comprend donc aisément la réticence de Boole à considérer cette interprétation de la
disjonction et, par la même occasion, cette loi de l’unité telle que proposée par Jevons.
Cependant, en agissant de la sorte, Boole prend le risque de s’éloigner de l’usage commun
dans le langage pour sauver son système. Cela pose très clairement le problème de la
signification des signes et de sa quête : dans le langage commun ou dans le langage
symbolique ? C’est très précisément ce que lui demande Jevons dans une lettre qu’il lui
adresse le 17 septembre 1863 :

In short x + x = x is not true according to your view of logic. I do not doubt that it is open to
you to hold this according to the laws of your system, and with this explanation your system
probably is perfectly consistent with itself and contains no such thing as mistake or self-
contradiction. It is as Professor Ferrier would say a system perfectly reasoned within itself, and
he holds this to be chief excellence of a system.
But the question then becomes a wider one – does your system correspond to the Logic of
common thought? Cannot a slight alteration in the groundwork of the system make it
correspond better? In short are the laws of thought as assumed and laid down in your work ‘the
whole laws and nothing but the laws of thought’ to use a Hamiltonian expression?21

21
Ivor Grattan-Guinness, « The correspondence between George Boole and Stanley Jevons, 1863-1864 »,
History and Philosophy of Logic, vol. 12, n° 1, 1991, pp. 30-31

11
Jevons s’interroge clairement sur la légitimité de l’algèbre de Boole (quelle qu’en soit la
beauté et la cohérence formelle) à se prévaloir d’être une algèbre de la logique. Il propose
donc de lui substituer son propre système, lequel éviterait les obscurités mathématiques de
Boole. Il faut mesurer l’importance de cet instant historique : nous avons désormais deux
systèmes logiques rivaux, avec des similitudes certes, mais aussi des différences essentielles
quant à l’usage des symboles et leur interprétation. Plusieurs autres systèmes logiques suivent
tout au long du 19ème siècle, mais le principe est désormais acquis : la logique symbolique est
née. A Cambridge, John Venn (1834-1923) est l’un des plus importants promoteurs de cette
nouvelle approche de la logique. Grand admirateur de Boole, il s’oppose à Jevons et combat
le préjugé selon lequel l’usage du symbolisme mathématique mènerait nécessairement à
l’annexion de la logique par les mathématiques. Au contraire, il plaide pour l’usage de ces
symboles mathématiques afin de bénéficier de la familiarité déjà acquise dans leur
manipulation, sans que cela fasse de la logique une théorie mathématique pour autant. Son
travail constitue à ce titre une étape importante dans le développement de la logique
symbolique, expression qu’il a probablement lui-même forgée et popularisée. Par ailleurs,
Venn invente de nouveaux diagrammes logiques, qui portent son nom, pour accompagner
cette révolution symbolique. Un examen de ces diagrammes permet de comprendre
l’approche compartimentale adoptée par Venn et offre un éclairage particulier sur le statut
sémiotique des figures et des symboles qu’il emploie.

La représentation avec des diagrammes


Le recours aux diagrammes en logique est naturellement antérieure à Venn. Le mathématicien
Leonhard Euler (1707-1783) en avait popularisé l’usage grâce à la méthode présentée dans ses
Lettres à une Princesse d’Allemagne (1768). Une classe y est représentée par un cercle dans
lequel sont contenus les individus qui la constituent :

On peut aussi représenter par des figures ces quatre espèces de propositions, pour exprimer
visiblement leur nature à la vue. Cela est d’un secours merveilleux, pour expliquer très
distinctement en quoi consiste la justesse d’un raisonnement. Comme une notion générale
renferme une infinité d’objets individus, on la regarde comme un espace dans lequel tous ces
individus sont renfermés : ainsi pour la notion d’homme on fait un espace

dans lequel on conçoit, que tous les hommes sont compris22.

Les relations logiques entre classes sont alors représentées par des relations topologiques
entre cercles, selon qu’ils s’incluent, s’excluent ou s’entrecroisent. Ainsi suffit-il de
représenter un cercle x entièrement inclus dans un cercle y pour représenter la proposition
« Tous les x sont y », comme le montre la figure [1]. De la même manière, deux cercles x et y
complètement disjoints représentent aisément la proposition « Aucun x n’est y », alors que
deux cercles x et y s’entrecroisant indiquent que les classes en question ont des individus en

22
Leonhard Euler, Lettres à une Princesse d’Allemagne, vol. 2, Saint-Pétersbourg : Imprimerie de Académie
Impériale des Sciences, 1768, p. 98.

12
commun et qu’il existe donc des x qui sont y. Cette méthode simple et intuitive a cependant
quelques limites. En effet, il faut souvent plus d’un diagramme pour représenter pleinement
l’information portée par une proposition. Par exemple, affirmer que « Tous les x sont y »
revient à dire que la classe x est strictement contenue dans ou est identique à la classe y. Il
nous faut donc en réalité deux diagrammes pour représenter adéquatement cette proposition :
l’un dans lequel le cercle x est à l’intérieur du cercle y, et l’autre dans lequel ces deux cercles
coïncident23. Pour remédier à cette ambigüité, certains logiciens ont eu l’idée de superposer
les deux diagrammes en un seul24. Pour cela, ils introduisent une convention qui consiste à
représenter en pointillés les lignes dont nous n’avons pas la certitude qu’elles existent. Ainsi
pour représenter la proposition « Tous les x sont y », on utilise la figure [2]. La ligne en
pointillés permet de condenser deux possibilités : celle où la ligne est continue (auquel cas la
classe x est strictement incluse dans la classe y) et celle où la ligne n’existe pas (auquel cas x
et y sont identiques). Cette solution, si elle lève l’ambigüité, est cependant peu satisfaisante
visuellement puisque l’on perd la simplicité d’Euler qui permet de « voir » la proposition.
Désormais, il faudra « lire » la proposition sur le diagramme. C’est pourtant cette solution
que Venn explore lorsqu’il publie ses propres diagrammes en 1880, suite à son insatisfaction
à l’égard des diagrammes d’Euler qu’il utilisait jusque-là25.

y
x x y

Figure [1] Figure [2] Figure [3]

Dans sa méthode, Venn représente d’abord les différentes combinaisons possibles entre les
termes, avant de représenter les propositions. Pour une proposition à deux termes x et y, on a
4 subdivisions possibles de l’univers logique : x y, x non-y, non-x y, non-x non-y, que l’on
représente par deux cercles s’entrecroisant. Représenter une proposition sur ce diagramme
consiste à indiquer avec des signes distinctifs l’état des compartiments. Ainsi, il suffit de
rayer un compartiment pour indiquer qu’il est vide. Pour représenter la proposition « Tous les
x sont y », il suffit de rayer la partie de x qui n’est pas incluse dans y, comme le montre la
figure [3]. Le choix de cette convention n’est peut-être pas arbitraire puisqu’en rayant, on
obtient une figure quasiment similaire à celle d’Euler. Il reste que dans le diagramme de
Venn, la classe (nulle) x non-y est représentée par un espace (rayé), alors qu’elle n’existe tout
simplement pas chez Euler. Il est évident qu’Euler et Venn recourent à des constructions
sémiotiques différentes et ne représentent pas strictement la même chose. Alors qu’Euler
représente la relation réelle (connue) entre les classes, Venn offre d’abord un cadre général
sur lequel il peut représenter toute relation possible avant d’indiquer l’état des classes avec
des signes distinctifs. La représentation d’Euler semble plus intuitive et plus familière
justement parce qu’elle représente les classes telles qu’elles sont et ne fait pas appel à des
23
Amirouche Moktefi, « La face cachée des diagrammes d’Euler », Visible, n° 7, 2010, pp. 149-157 (Erratum
dans n° 8, 2011).
24
Voir par exemple: Friedrich Ueberweg, System of Logic and History of Logical Doctrines, London:
Longmans, Green and Co., 1871, pp. 217-218.
25
John Venn, « On the diagrammatic and mechanical representation of propositions and reasonings »,
Philosophical Magazine, vol. 10, n° 59, juillet 1880, pp. 1-18.

13
conventions particulières à « déchiffrer » ou à « lire ». Avec Euler, on voit la relation réelle
entre les classes, et c’est cela qui fait sa force visuelle.
Aux Etats-Unis, Charles S. Peirce (1839-1914), qui va fonder véritablement la sémiotique en
rompant avec la conception purement dyadique du signe, considérera que les diagrammes
d’Euler tirent leur force et leur beauté de leur statut véridiquement iconique sans recourir à
quelque convention de représentation26. Umberto Eco souscrit également au caractère
iconique des diagrammes d’Euler, mais explique en revanche que cette iconicité tient à
l’homologie purement conventionnelle entre les rapports de classes et les rapports d’espaces,
et non à une quelconque ressemblance physique :

Peirce écrit que la beauté de ces graphiques provient de leur statut « authentiquement
iconique » (4.368), phrase qui pourrait faire penser que la configuration spatiale des
diagrammes imite une situation spatiale réelle. S’il s’agissait de cela, l’iconisme de Peirce
serait bien ingénu ; car s’il est vrai que les diagrammes montrent visuellement des rapports
d’intériorité et d’extériorité, cela ne signifie nullement que ces caractères spatiaux soient
l’icône d’autres caractères spatiaux ! Le fait d’être ou non sujet aux passions n’est pas un
problème d’espace. C’est tout au plus, pour parler en termes de logique traditionnelle, un
problème de possession ou de non-possession d’une propriété. Pourquoi la logique moderne
traduit-elle cette possession et cette non-possession en termes d’appartenance et de non-
appartenance à une classe ? Par pure convention […] Mais l’appartenance à une classe est-elle
un fait spatial ? Certes non, mis à part le fait que je puis être défini comme appartenant à la
classe de tous ceux qui se trouvent dans un certain lieu ; mais si j’appartiens à la classe de
ceux qui connaissent la passion, cette classe est une abstraction et non un espace. Pourquoi,
dans la représentation par cercles, la classe devient-elle un espace ? Par pure convention.27

L’appréciation d’Eco nous paraît discutable. D’abord, le rapport entre la possession d’une
propriété et l’appartenance à une clase n’est pas pure convention. Il s’agit en effet de deux
façons d’appréhender une classe selon qu’elle soit comprise dans son intension ou dans son
extension. Ainsi, posséder la propriété « être un pays ibérique » revient (et conduit) à
appartenir à la classe formée par les deux pays : Espagne et Portugal. Plus intéressant, Eco
voit dans la représentation spatiale des classes une pure convention « mis à part le fait que je
puis être défini comme appartenant à la classe de tous ceux qui se trouvent dans un certain
lieu ». Or, n’est-ce pas précisément de cette façon qu’Euler définissait ses cercles (voir plus
haut). Il suffit donc d’imaginer avoir rassemblé tous ceux qui connaissent la passion dans un
certain lieu pour avoir une représentation de la classe en question, basée sur la ressemblance
et non sur une homologie purement conventionnelle. Il faut garder à l’esprit que cette
opération est purement mentale et qu’il importe donc peu que cette construction soit
matériellement réalisable.
Qu’il soit conventionnel ou pas, l’usage eulérien d’un espace clos pour représenter une classe
garde une dimension figurative, dans le sens où il représente directement les classes et leurs
relations réelles. Venn en revanche explique clairement qu’il ne représente pas les classes
directement, mais seulement des compartiments qui listent les combinaisons possibles entre
classes :

26
Charles S. Peirce, Collected Papers, vol. 4, Cambridge, MA: Harvard University Press, 1933, p. 316.
27
Umberto Eco, Le Signe : Histoire et Analyse d’un Concept, Bruxelles : Editions Labor, 1988, pp. 228-229.

14
The best way of introducing this question will be to enquire a little more strictly whether it is
really classes that we thus represent, or merely compartments into which classes may be put?
[…] The most accurate answer is that our diagrammatic subdivisions, or for that matter our
symbols generally, stand for compartments and not for classes. We may doubtless regard them
as representing the latter, but if we do so we should never fail to keep in mind the proviso, “if
there be such things in existence.” And when this condition is insisted upon, it seems as if we
expressed our meaning best by saying that what our symbols stand for are compartments
which may or may not happen to be occupied.28

Les signes ajoutés sur les compartiments indiquent l’état des classes correspondantes
(puisque ce ne sont pas les classes elles-mêmes qui sont représentées). Dans un sens, un
diagramme de Venn n’est en réalité qu’une sorte de tableau ou de structure dont les
compartiments sont agencés de manière à en simplifier la localisation et la manipulation.
Cette méthode a certes l’avantage d’être plus rigoureuse puisque tous les cas possibles y sont
représentés, contrairement à Euler qui fait l’économie de certaines formes non moins
légitimes. Cependant, les diagrammes de Venn perdent rapidement l’aide visuelle que l’on est
en droit d’attendre de ce type de représentations, surtout lorsque l’on représente des
propositions existentielles. On démontre mieux avec Venn, mais on voit mieux avec Euler.
La même approche s’applique à l’écriture symbolique de Venn. Les lettres ne représentent
pas les classes proprement dites, mais plutôt des compartiments que l’on dit vides si la classe
qu’ils désignent est vide et qu’on dit occupés si la classe qu’ils désignent contient des
éléments. Enfin, les compartiments dont on ignore l’état sont dits indéterminés. C’est donc
par pure facilité que Venn dit représenter des classes. En réalité, il ne représente jamais que
des compartiments, et son calcul n’est pas proprement un calcul des clases mais bien un
calcul des compartiments. Cette méthode permet à Venn d’éviter les « complications »
métaphysiques dont se démarquaient tout autant Boole que Jevons – mais qui continueront de
préoccuper d’autres logiciens, aussi bien en Grande-Bretagne qu’ailleurs – pour se concentrer
sur son calcul. Ainsi, il ne recourt pas à la notion d’univers du discours, chère à De Morgan et
Boole, et considère la question comme extra-logique. Il n’a pas non plus besoin de
« manipuler » une classe nulle puisque seuls les compartiments sont vides. En introduisant ce
niveau intermédiaire entre les symboles et les classes, Venn échappe plus généralement à
certaines critiques dont Boole faisait l’objet. Il assume cependant bien davantage que ce
dernier l’existence d’un certain clivage entre son calcul logique et l’usage commun.

La logique symbolique
A l’image des systèmes de Boole, de Jevons et de Venn, la seconde moitié du 19ème siècle
voit naître une multitude d’écritures et de systèmes symboliques rivaux pour représenter les
propositions logiques. L’invention de (mais aussi le renoncement à) ces notations obéit
naturellement à des impératifs conceptuels mais également à d’autres déterminants,
notamment esthétiques et pédagogiques, voire sociologiques. En effet, si les logiciens
symbolistes s’accordent sur le caractère arbitraire des signes qu’ils manipulent, ils cherchent
cependant à utiliser une notation qui soit la plus commode possible. Il est généralement
attendu que cette notation soit aisément reconnaissable et assimilable à l’œil, et qu’elle soit
suggestive en ce qu’elle reflète des propriétés inhérentes aux objets ou opérations qu’elle

28
John Venn, Symbolic Logic, 2ème édition, Cambridge: Macmillan, 1894, pp. 119-120.

15
représente. A ce titre, une des questions essentielles auxquelles furent confrontés ces
logiciens fut celle du choix des symboles, et en particulier de la légitimité et l’opportunité du
recourir aux symboles précédemment employés en mathématiques. Nous avons déjà expliqué
que le recours même aux symboles mathématiques freinait la diffusion de la logique
symbolique parmi les philosophes qui y virent une théorie mathématique sans relation avec
la logique traditionnelle. De nombreux logiciens symbolistes furent également d’avis qu’il
fallait utiliser de nouveaux symboles pour éviter toute confusion de leur signification avec
celle des symboles mathématiques. Plus généralement, l’idée même d’adopter une forme
équationnelle pour représenter des propositions logiques sera remise en cause. Jevons
considérait pourtant cette innovation comme la principale contribution de Boole :

The great reform effected by Boole was that of making the equation the corner-stone of logic,
as it had always been that of mathematical science. Not only did this yield true and simple
results within the sphere of logic, but it disclosed wonderful analogy between logical and
mathematical reforms [...] All true progress in the philosophy of those fundamental sciences
depends upon ever keeping in view the fundamental identity of the reasoning process of
substitution, practised explicitly by algebraists for some two or three centuries past, and
implied in the geometrical reasoning of Euclid.29

Boole, Jevons et Venn travaillent tous trois dans cette lignée équationnelle. Très tôt
cependant, ils se heurtent à une difficulté majeure lors de la représentation symbolique des
propositions particulières. Celles-ci se prêtent en effet difficilement à la forme équationnelle.
Examinons à titre d’exemple le système logique de Venn : pour deux termes x et y, il existe 4
compartiments correspondant aux combinaisons possibles entre classes : x y, x non-y, non-x y,
non-x non-y. Pour représenter symboliquement les propositions logiques, il suffit d’indiquer
ce qu’elles disent quant à l’état de ces compartiments. Ces derniers peuvent en effet être
vides, occupés, ou indéterminés. Prenons le compartiment : xy. Pour indiquer que ce
compartiment est vide (ce qui revient à affirmer que : « Aucun x n’est y »), il suffit d’écrire
xy = 0. La situation est plus complexe en revanche pour indiquer que ce compartiment est
occupé (et donc non-vide). On pourrait croire qu’il suffit d’écrire : xy = 1, mais cette écriture
n’est pas appropriée, puisque le symbole « 1 » représente la classe universelle, or
l’intersection de x et y est une classe non-nulle (pas nécessairement et même le plus souvent
autre que l’univers entier) que nous ne pouvons représenter autrement qu’en ajoutant un
nouveau symbole qui lui soit spécifiquement dédié. Venn, comme l’avait fait Boole confronté
à semblable difficulté, utilise souvent le symbole « v », et obtient alors l’expression : « xy =
v » pour exprimer la proposition particulière « Quelques x sont y ». Cette forme est
naturellement peu satisfaisante, et peu commode pour résoudre des problèmes logiques où
l’on retrouve plusieurs propositions particulières. Boole et Venn en traitèrent d’ailleurs très
peu et utilisèrent majoritairement des propositions universelles pour illustrer la puissance
calculatoire de leurs systèmes. Venn va même jusqu’à minimiser l’intérêt des propositions
particulières en logique et à les considérer comme « peu scientifiques »30. Il est intéressant de
noter que Venn éprouve les mêmes difficultés à représenter les propositions particulières à
l’aide de ses diagrammes. Il suffirait pourtant de marquer les compartiments occupés avec un
signe distinctif. Cependant, Venn esquive totalement la question dans l’article où il introduit

29
William S. Jevons, « Some recent mathematico-logical memoirs », Nature, 24 mars 1881, pp. 485-486.
30
Venn, op. cit., 1894, p. 189.

16
ses diagrammes ainsi que dans la première édition de Symbolic Logic (1881). Il faudra
attendre Peirce pour généraliser l’usage d’une croix (« X ») pour indiquer qu’un
compartiment n’est pas vide.
Peirce justement échappe aux difficultés de Boole, Jevons et Venn en adoptant une écriture
symbolique non-équationnelle. En effet, il exprime ses propositions en termes d’inclusion de
classes, grâce au symbole « » qu’il introduit. Ainsi, l’expression « S P » indique que la
classe S est incluse dans la classe P, et représente donc la proposition : « Tous les S sont P ».
Les autres propositions peuvent être représentées similairement en exprimant la relation entre
les classes en question en termes d’inclusion. Ainsi, affirmer qu’aucun S n’est P revient
simplement à dire que la classe S est incluse dans la classe non-P, alors qu’affirmer que
quelques S sont P revient à dire que la classe S n’est pas incluse dans la classe non-P. Ernst
Schröder (1841-1902) - qui confronte l’apport de Frege à la tradition booléenne - recourt à
des principes de représentation identiques mais utilise un symbole différent pour indiquer
l’inclusion : « »31. On notera que les symboles de Peirce et Schröder sont suggestifs dans
la mesure où ils ressemblent à une combinaison des symboles algébriques « = » et « < ». Une
classe logique est strictement incluse dans ou identique à une autre classe, comme une valeur
algébrique est inférieure ou égale à une autre valeur. Aussi, ces symboles sont asymétriques
et en cela reflètent également une propriété de la relation d’inclusion.
Christine Ladd-Franklin (1847-1930), une des élèves de Peirce, reprend le symbole de Peirce
pour indiquer l’inclusion d’une classe dans une autre. Elle préfère cependant inventer de
nouveaux symboles plus symétriques pour représenter les relations d’intersection et
d’exclusion. Ainsi, elle écrit : « S  P » pour indiquer que les classes S et P ont des individus
communs, alors qu’elle note « S  P » pour dire que les classes S et P s’excluent
mutuellement (le trait au dessus du symbole «  » exprime sa négation, convention déjà
présente chez Peirce)32.
On le voit, d’autres écritures logiques non-équationnelles voient le jour en cette seconde
moitié du 19ème siècle. En réalité cependant, le symbole de l’égalité « = » n’est pas tout à fait
absent puisqu’il est souvent utilisé pour indiquer que deux classes sont identiques ou que
deux propositions sont équivalentes. Il reste que la proposition est le plus souvent représentée
en termes de relations entre classes, avec un symbolisme dédié à une ou plusieurs de ces
relations. On ne représente donc pas à proprement parler des opérations comme le faisait
Boole, Jevons ou Venn. Lorsque Boole écrit « x . y », il effectue une opération sur les classes
x et y mais ne dit encore rien sur la classe xy qu’il obtient. C’est uniquement en affirmant
l’égalité de cette classe xy avec la classe nulle (« xy = 0 »), que l’on a une représentation
complète de la proposition : « Aucun x n’est y ». Ladd-Frankin en revanche exprime cette
information directement en écrivant « x  y ». Le symbole «  » ne représente donc pas une
opération à effectuer sur les classes mais plutôt la relation effective entre celles-ci.
Il reste possible cependant de représenter des opérations logiques tout en échappant à la
forme équationnelle. C’est par exemple ce que réussit Oscar H. Mitchell (1851-1889), un
autre élève de Peirce, lequel recourt à des indices pour représenter l’état des classes. Ainsi,
pour représenter la proposition « Aucun S n’est P », il suffit de noter : « (SP)0 ». L’indice
« 0 » indique que la sous-classe obtenue en faisant l’intersection des classes S et P est nulle.

31
Ernst Schröder, Vorlesungen über die Algebra der Logik, vol. 1, Leibzig: B. G. Teubner, 1890.
32
Christine Ladd(-Franklin), « On the algebra of logic », in Charles S. Peirce (ed.), Studies in Logic, Boston:
Little, Brown, and Company, 1883, pp. 17-71.

17
Mitchell, s’il utilise cette notation, préfère cependant la transformer pour obtenir
l’expression : « ( S  P)1 » (la barre au-dessus d’un symbole de classe en exprime le
complément). En effet, sachant que la classe « SP » est nulle, son complément : « ( S  P) »
(qu’on obtient avec une simple loi de De Morgan) est donc nécessairement l’univers tout
entier, ce qu’on représente avec l’indice « 1 ». Mitchell n’échappe cependant pas au problème
des propositions particulières puisqu’il représente « Quelques S sont P » par l’expression :
(SP)u où l’indice « u » indique « une fraction ou une partie » de l’univers33. Mitchell reprend
donc les mêmes principes théoriques que Boole et Venn, mais remplace l’équation par un
ingénieux procédé indiciaire. Il reste cependant prisonnier de la dualité : « 0 » (rien) et « 1 »
(univers) qui l’oblige à utiliser (comme Boole et Venn) un troisième symbole pour indiquer
une classe intermédiaire (entre 0 et 1). Il faudra attendre Lewis Carroll (1832-1898) – Charles
L. Dodgson de son vrai nom – pour échapper définitivement à ce piège. Carroll développe sa
théorie logique relativement seul à Oxford où ses collègues logiciens s’opposent à l’approche
symbolique. Il recourt lui aussi à une écriture indiciaire mais, contrairement à Mitchell, il
utilise les indices « 0 » et « 1 » pour indiquer directement l’état des classes, sans avoir à les
comparer (ou « égaler ») à la classe nulle où à l’univers. Pour Carroll, l’indice « 0 » indique
simplement qu’une classe n’existe pas alors que l’indice « 1 » indique qu’elle existe. Ainsi, il
est aisé de représenter la proposition « Aucun x n’est y » par « xy0 » et la proposition
« Quelques x sont y » par « xy1 »34.
Jusqu’ici, nous n’avons discuté que des écritures où les symboles littéraux représentent des
classes (ou des compartiments). Cependant, la question s’est également posée très tôt de la
possibilité d’un calcul propositionnel. Boole le formalise comme interprétation seconde de
son système logique, établissant l’équivalence entre calcul des classes et calcul des
propositions, sans avoir besoin de recourir à une notation particulière. En revanche, le
logicien écossais Hugh MacColl (1837-1909), qui s’installe à Boulogne-sur-Mer (France) à
partir de 1865, construit d’abord un calcul propositionnel et plaide sa supériorité, avant
d’admettre que sa notation peut également servir pour un calcul des classes 35. Ainsi, MacColl
introduit initialement le symbole « : » pour exprimer l’implication, ce qui permet d’écrire
« S : P » pour indiquer que « S implique P ». Il permet aussi une interprétation en termes de
classes, l’expression précédente indiquant alors que la classe S est incluse dans la classe P. Il
est intéressant de noter que Peirce utilisa lui aussi son symbole d’inclusion « » pour
exprimer l’implication, et que ce symbole à l’avantage d’être asymétrique, contrairement au
symbole de MacColl. A la même période, Gottlob Frege (1848-1925) introduit lui-aussi dans
le Begriffsschrift (1879) son idéographie où l’implication joue un rôle central36. Boole, Peirce
et MacColl admettent tous une double interprétation de leurs notations, en termes de classes
ou de propositions, quelle que soit l’interprétation qu’ils privilégient. Carroll semble en
revanche un des rares, avant Russell, à avoir inventé des symboles différents pour le calcul
des classes et le calcul des propositions, fidèle ainsi à un principe qu’il s’est fixé en
introduisant toujours de nouveaux symboles pour éviter toute confusion dans l’interprétation
de ses notations. Russell, qui s’est orienté des mathématiques vers la logique après sa
rencontre avec les travaux de Giuseppe Peano (1858-1932) au congrès international de

33
Oscar H. Mitchell, « On a new algebra of logic », in Peirce (ed.), op. cit., 1883, p. 77.
34
Lewis Carroll, Symbolic Logic, 4ème édition, London: Macmillan, 1897. Voir: Amirouche Moktefi, « La
théorie syllogistique de Lewis Carroll », Cahiers Philosophiques de Strasbourg, vol. 28, n° 2, 2010, pp. 207-
224.
35
Hugh MacColl, « Symbolic reasoning », Mind, vol. 5, n° 17, janvier 1880, pp. 45-60.
36
Gottlob Frege, Begriffsschrift, Halle: Verlag von Louis Nebert, 1879.

18
philosophie en 1900, lui aussi disait trouver « très dangereux d’employer un même symbole
[…] en deux sens différents, particulièrement si ces deux sens sont très voisins l’un de
l’autre »37. Il préféra donc utiliser de symboles différents pour l’inclusion (a  b) et
l’implication (p  q).

Conclusion
Nous avons relevé la pluralité des notations symboliques en cette fin de 19ème siècle et évoqué
à plusieurs reprises la question de leur usage dans le calcul logique. Mais qu’y a-t-il donc à
calculer en logique ? Jusqu’au 19ème siècle, la logique œuvre dans le cadre de l’analyse du
langage, et s’intéresse essentiellement aux problèmes appelés syllogismes, destinés à tester la
validité d’une conclusion à partir de deux prémisses. Les arguments plus complexes sont
simplement réduits à une série de syllogismes (réduction généralement assumée comme
possible) et traités comme tels. Le syllogisme est donc l’objet central de la logique
traditionnelle. Lorsque Boole publie ses travaux de logique, il s’assigne explicitement
l’objectif de construire une théorie logique dans laquelle il sera possible de traiter des
problèmes plus complexes que les syllogismes, en éliminant à partir d’un nombre quelconque
de propositions prises comme prémisses, les termes que l’on ne souhaite pas retrouver dans la
conclusion, ce qui permet de déterminer la relation logique entre les termes retenus dans la
conclusion. C’est ainsi que Boole définit le problème de l’élimination38, qu’il envisage en se
référant à la théorie de l’élimination entre les équations algébriques. Il est évident que le
problème de l’élimination englobe le syllogisme, dont il fait un simple cas particulier – le
plus élémentaire – d’une théorie plus générale. Boole ne renie donc pas la validité du
syllogisme comme mode de raisonnement, mais n’en fait plus l’objet central de la logique
dont il élargit le domaine en considérant des problèmes qu’il n’est pas possible de réduire à
une forme syllogistique. C’est à la résolution du problème de l’élimination que s’affairent
Boole et les logiciens symbolistes du 19ème siècle. C’est aussi en proposant des solutions à ce
genre de problèmes que ces logiciens testent et comparent leurs notations et leurs techniques
symboliques et diagrammatiques, comme on testerait aujourd’hui des machines en les
soumettant à des problèmes et des calculs complexes. C’est dans le cadre de l’automatisation
des procédures de décision qu’apparaît explicitement, dès ce travail d’algébrisation de la
logique, tout l’intérêt de recourir au symbolisme pour résoudre ce type de problèmes et
l’importance de disposer d’une notation appropriée pour en simplifier la manipulation.
Cependant, là où le noyau central de ce courant opératoire en logique applaudit à l’idée de
rendre automatique la déduction logique – parmi ceux qui se démarquent précisément de
toute préoccupation métaphysique – les auteurs plus soucieux de la signification des
procédures la considéreront d’un point de vue beaucoup plus critique.
Là où la pratique informatique manipule couramment aujourd’hui des problèmes qui donnent
lieu à une grande quantité de prémisses, ce type de problèmes apparaît souvent factice et sans
existence réelle au 19ème siècle. Les logiciens symbolistes doivent d’ailleurs souvent inventer
eux-mêmes leurs propres problèmes pour illustrer leurs méthodes. Lewis Carroll est connu
pour en avoir inventé une grande quantité, dont certains comprennent plusieurs dizaines de
prémisses. Il en envoyait régulièrement à ses collègues logiciens et les défiait d’en trouver la
conclusion. Ces problème essentiels pour le logicien symboliste du 19ème siècle sont
37
Anne-Françoise Schmid (ed.), Bertrand Russell: Correspondance sur la Philosophie, la Logique et la
Politique avec Louis Couturat (1897-1913), vol. 2, Paris: Kimé, 2001, p. 355.
38
Boole, op. cit., 1992, p. 27.

19
cependant rejetés par les philosophes car artificiels et peu intéressants. Ainsi, John Cook
Wilson (1849-1915), professeur de logique à Oxford, à qui Carroll envoyait régulièrement ses
problèmes logiques pour recueillir ses réponses, discute-t-il le statut de la logique
symbolique dans une de ses conférences en 1898 et s’interroge sur l’appartenance du
problème de l’élimination au domaine de la logique, tout en minimisant son intérêt, comparé
au « problèmes sérieux» de la logique39. Ce rejet montre la difficulté qu’a eu la logique
symbolique, et son objet qu’est le problème de l’élimination, à se frayer un chemin auprès des
philosophes. Contrairement à d’autres domaines mathématiques où la mécanisation du calcul
répondait à des besoins réels, scientifiques ou économiques, la question du calcul ne
s’imposait pas encore en logique. Bien au contraire, en Angleterre où émerge cette approche
symboliste de la logique, les questions de la signification et de sa permanence restent
essentielles au sein des institutions éducatives et universitaires. A cet effet, il est significatif
de voir Venn, le plus grand promoteur de la logique symbolique en Angleterre, s’opposer
ouvertement à son enseignement en place de la logique traditionnelle40. La question de
l’arbitraire du signe reste aujourd’hui une question ouverte, en dépit de nombreuses tentatives
de réduction du langage naturel à des langages artificiels construits sur des systèmes formels.
Au delà du théorème d’incomplétude de Kurt Gödel (1906-1978) ruinant dès 1931 les
tentatives de réduction des mathématiques à la logique, la question de la signification dans les
langues naturelles ne semble pouvoir se réduire ni à l’arbitraire du signe, ni à une stricte
sémantique formelle41.

Bibliographie
George Boole, 1854, An Investigation of the Laws of Thought, on Which Are Founded the
Mathematical Theories of Logic and Probabilities, London: Walton & Maberly.
George Boole, 1992, Les Lois de la Pensée, trad. par Souleymane Bachir Diagne, Paris: Vrin.
Lewis Carroll, 1897, Symbolic Logic, 4ème édition, London: Macmillan.
John Cook Wilson, 1926, Statement and Inference, Oxford: Clarendon Press.
Leo Corry, 2004, Modern Algebra and the Rise of Mathematical Structures, Basel:
Birkhauser.
Marie-José Durand(-Richard), 1990, “Genèse de l'algèbre symbolique en Angleterre : une
influence possible de John Locke”, Revue d'Histoire des Sciences, vol. 43, n° 2-3, pp. 129-
180.
Marie-José Durand-Richard, 1992, “Charles Babbage (1791-1871) : de l'école algébrique
anglaise à la "machine analytique"”, Mathématiques, Informatique et Sciences Humaines, vol.
118, pp. 5-31 (Erratum, vol. 120, pp. 79-82).
Marie-José Durand-Richard, 1996, “L'école algébrique anglaise : les conditions conceptuelles
et institutionnelles d'un calcul symbolique comme fondement de la connaissance”, in C.
Goldstein, J. Gray, et J. Ritter (eds.), L'Europe Mathématique : Mythes, Histoires, Identité
(Mathematical Europe: Myth, History, Identity), Paris : Editions M.S.H, pp. 445-477.

39
John Cook Wilson, Statement and Inference, Oxford: Clarendon Press, 1926, p. 637.
40
Venn, op. cit., 1894, pp. xxv-xxvii.
41
Bernard Victorri et Catherine Fuchs, La Polysémie : Construction Dynamique du Sens, Paris : Hermès, 1996.

20
Marie-José Durand-Richard, 2000, “Logic versus algebra: English debates and Boole’s
mediation”, in James Gasser (ed.), A Boole Anthology, Dordrecht: Kluwer Academic
Publishers, pp. 139-166.
Marie-José Durand-Richard, 2007, “Opération, fonction et signification de Boole à Frege”,
Cahiers Critiques de Philosophie, n° 3, Paris : Hermann, pp. 99-128.
Marie-José Durand-Richard, 2008, “De l'algèbre symbolique à la théorie des modèles :
structuration de l'analogie comme méthode démonstrative”, in Marie-José Durand-Richard
(ed.), Le Statut de l'Analogie dans la Démarche Scientifique : Perspective Historique, Paris :
L'Harmattan, pp. 131-169.
Umberto Eco, 1988, Le Signe : Histoire et Analyse d’un Concept, Bruxelles : Editions Labor.
Leonhard Euler, 1768, Lettres à une Princesse d’Allemagne, vol. 2, Saint-Pétersbourg :
Imprimerie de Académie Impériale des Sciences.
Gottlob Frege, 1879, Begriffsschrift, Halle: Verlag von Louis Nebert.
Ivor Grattan-Guinness, 1991, “The correspondence between George Boole and Stanley
Jevons, 1863-1864”, History and Philosophy of Logic, vol. 12, n° 1, pp. 15-35.
Duncan F. Gregory, 1839, “On the solution of linear equations of finite and mixed
differences”, Cambridge Mathematical Journal, vol. 1, pp. 54-62
Duncan F. Gregory, 1840, “On the real nature of symbolical algebra”, Transactions of the
Royal Society of Edinburgh, vol. 14, pp. 208-216.
Duncan F. Gregory, 1865, Mathematical Writings, Cambridge: Deighton, Bell, and Co.
William S. Jevons, 1881, “Some recent mathematico-logical memoirs”, Nature, 24 mars, pp.
485-486.
Christine Ladd(-Franklin), 1883, “On the algebra of logic”, in Charles S. Peirce (ed.), Studies
in Logic, Boston: Little, Brown, and Company, pp. 17-71.
John Locke, 1694, An Essay concerning Human Understanding, London.
Hugh MacColl, 1880, “Symbolic reasoning”, Mind, vol. 5, n° 17, pp. 45-60.
Oscar H. Mitchell, 1883, “On a new algebra of logic”, in Charles S. Peirce (ed.), Studies in
Logic, Boston: Little, Brown, and Company, pp. 72-106.
Amirouche Moktefi, 2010, “La face cachée des diagrammes d’Euler”, Visible, n° 7, pp. 149-
157 (Erratum dans n° 8, 2011).
Amirouche Moktefi, 2010, “La théorie syllogistique de Lewis Carroll”, Cahiers
Philosophiques de Strasbourg, vol. 28, n° 2, pp. 207-224.
Maria Panteki, 2000, “The mathematical background of George Boole’s Mathematical
Analysis of Logic (1847)”, in James Gasser (ed.), A Boole Anthology, Dordrecht: Kluwer
Academic Publishers, pp. 167-212.
George Peacock, 1834, “Report on the recent progress and present state of certain branches of
analysis », Report of the Third Meeting of the British Association for the Advancement of
Science, Held at Cambridge in 1833, London: John Murray, pp. 194-199.
Charles S. Peirce, 1933, Collected Papers, vol. 4, Cambridge, MA: Harvard University Press.

21
Anne-Françoise Schmid (ed.), 2001, Bertrand Russell: Correspondance sur la Philosophie, la
Logique et la Politique avec Louis Couturat (1897-1913), Paris: Kimé.
Ernst Schröder, 1890, Vorlesungen über die Algebra der Logik, vol. 1, Leibzig: B. G.
Teubner.
Friedrich Ueberweg, 1871, System of Logic and History of Logical Doctrines, London:
Longmans, Green and Co.
John Venn, 1880, “On the diagrammatic and mechanical representation of propositions and
reasonings”, Philosophical Magazine, vol. 10, n° 59, pp. 1-18.
John Venn, 1894, Symbolic Logic, 2ème édition, Cambridge: Macmillan.
Bernard Victorri & Catherine Fuchs, 1996, La Polysémie : Construction Dynamique du Sens,
Paris : Hermès.

22

View publication stats

Vous aimerez peut-être aussi