Dpartement de Linguistique Universit Paris V

Facult de Sciences Humaines Sorbonne

SITUATION DE LCRITURE MATHMATIQUE

Mmoire de matrise en Sciences du Langage, sous la direction de Madame le professeur Colette Feuillard

- R. Loth - juin 2003 -

ABSTRACT
Mathematical writing is the expression shaping one of the most successful endeavours of human thought. Until recently, thinkers studying the subject did it outside semiology from their own original standpoint. They demonstrated that this semiotic system played an important part in the construction of mathematics and that the way it operates influences mathematical thought. Semiology being perhaps not established enough to allow us to analyse all the details of this system of writing, this paper probes into the relevance of linguistics in such a study. After exploring the philosophical questions raised by the issue, we will see which linguistic techniques and concepts may be of use for the study of mathematical symbolism. Different work hypotheses for possible future research are also suggested. Meanwhile various aspects of this unique semiotic system will be presented.

RSUM
Lcriture mathmatique sert dexpression lune des dmarches les plus abouties de la pense humaine. Jusqu prsent, les penseurs qui ont tudi ce systme de signes lont surtout fait hors du cadre de la smiologie, par des dmarches originales. Ils ont montr son rle dans la construction des mathmatiques et linfluence de son fonctionnement sur la rflexion mathmatique. Partant de lide que la smiologie nest peut-tre pas encore assez tablie pour permettre une recherche sur ce systme dcriture dans tous ses dtails, nous nous demanderons dans quelle mesure une telle recherche peut se fonder sur les acquis de la linguistique. Aprs avoir situ lanalyse dans le cadre de thmes plus larges, nous chercherons les outils danalyse linguistique et les concepts pertinents pour ltude du symbolisme mathmatique. Nous essayerons aussi dtablir quelques hypothses de travail pouvant fonder dventuels travaux futurs. En chemin, nous dcouvrirons un peu la complexion de ce systme smiotique unique.

STRESZCZENIE
Pismo matematyczne jest wykadni jednego z najudoskolanionych podej myli ludzkiej do wiata. Dotychczas, matematycy i filozofowie zajeli si tym tematem poza krgiem semiologii. Wykazali e pismo matematyczne ma wazn rol w tworzeniu myli matematycznej. Wychodzc z zaoenia e semiologia nie jest chyba jeszcze na tyle ustanowiona, eby zbada to pismo we wszystkich swoich szczegach, zastanowimy si w jakiej mierze dowiadczenie jzykoznawstwa moe posuy takim badaniom. Zatem po usytuowaniu tematyki w krgu szerszych zagadnie, poszukamy tych spord narzdzi analizy jzykowej, ktore mog nam przynie celne podejcie do bada nad symbolizmem matematycznym. Nastpnie postaramy si ustanowi pewne hipotezy robocze mogce suzy przyszym badaniom. W miedzyczasie odkryjemy rne - czasem niespodziewane - cechy pisma matematycznego.

SOMMAIRE
1
1.1 1.2 1.3

OBJET DTUDE............................................................. 10
Htrognit de lcriture mathmatique .................................... 10 Lcriture comme systme smiotique .......................................... 12 Les analyses dautres sciences humaines ........................................ 15

2
2.1 2.2 2.3 2.4 2.5

THMES CLASSIQUES................................................... 17
Nature des objets mathmatiques et criture mathmatique ......... 17 Perfectionnement de lcriture mathmatique .............................. 19 Interprtations de lcriture mathmatique................................... 23 Rductionnisme contre jeux de langage........................................ 25 Rle complmentaire dune tude linguistique ............................. 28

3
3.1 3.2 3.3 3.4 3.5 3.6

CIRCONSTANCES.......................................................... 30
Observations sur la diachronie...................................................... 30 Didactique et psycholinguistique.................................................. 35 Analyse du discours ...................................................................... 41 Sociolinguistique .......................................................................... 47 Ethnolinguistique......................................................................... 53 Rcapitulatif ................................................................................. 59

4
4.1 4.2 4.3

SYSTEME .......................................................................... 60
Smiographie................................................................................ 60 Lexique, ou rien, ou plus ?............................................................ 65 Degrs de syntactisation ............................................................... 67

CONCLUSION ........................................................................... 69 ANNEXES.................................................................................... 69

A.- Champs des mathmatiques, daprs le Leksykon Matematyczny.......... 69 B.- Limitation de larbitraire et multiplication des logiques ................. 70

LEXIQUE................................................................................... 74
BIBLIOGRAPHIE ....................................................................... 76 WEBOGRAPHIE......................................................................... 84

INTRODUCTION

Lexpression, et non pas lexplication () Faire sens - dans la plupart des cas par une nouvelle expression, superpose sur lancienne qui entre temps est devenue incomprhensible. Nietzsche, Nachgelassene Fragmente, XII, 100

Tant pour le linguiste que pour le mathmaticien, lcriture mathmatique est bon
signe. Lun y voit un domaine de recherche passionnant, lautre y cherche la bonne expression de ses ides. Cette bonne expression nest dailleurs pas simple mettre en uvre. Les mathmatiques travaillent sur des objets abstraits et les relations entre ces objets ; les signes supportent alors lessentiel de la manifestation concrte du sens. Le systme est rgulirement travaill pour assurer de manire adquate son rle de communication et de symbolisation. Dans ce processus de rcriture, les mathmaticiens prennent en compte de nombreuses ncessits interne leur discipline, afin que la forme soit la plus adquate possible. On peut dire que lactualisation de la norme se droule de manire beaucoup plus volontaire et consciente que dans les langues dites naturelles, do la dnomination langue artificielle . Mais ceci nous conduit un premier problme : lcriture mathmatique ne relve pas de la linguistique au sens strict, mais de la smiologie. Or, sauf rares exceptions, elle na pas encore t tudie dans ce cadre. La smiologie, sans doute promise un grand avenir, est pour linstant une science en formation. Elle doit dfinir de manire productive ses concepts et sa mthodologie fondamentale et na peut-tre pas aujourdhui les outils

ncessaires ltude dun systme smiotique aussi grand que lcriture mathmatique. Cependant une branche de la smiologie, la linguistique, a acquis un grand savoir-faire dans ses recherches sur des systmes de signes encore plus complexes : les langues. Notre objectif principal est donc de dterminer si les concepts et les techniques des sciences du langage peuvent tre utiliss dans une tude de lcriture mathmatique. Lors des travaux pralables la rdaction de ce mmoire, cette approche nous est apparue fort complexe. Cest un peu naturel, tant donn que les outils danalyse linguistique ont t scrupuleusement mis en place pour rpondre aux questions poses par la nature de la langue et par elle seule. Dailleurs une des premires dmarches de la linguistique a t de dlimiter son champ dinvestigation pour viter les drives peu rigoureuses. Nanmoins ce qui fonde une science, cest la rigueur, bien sr, mais cest aussi la curiosit ; comment concilier les deux ? En loccurrence, nous avons surtout suppos quil tait utile dveiller la curiosit sur un champ assez ignor malgr son intrt potentiel. Ainsi, pour chaque branche des sciences du langage qui pourrait tre concerne, ce mmoire propose quelques sujets intressants dtudier. Pour viter de discuter dans labstrait des concepts utiliser, nous avons expos ces diffrents sujets directement du point de vue linguistique et tent ainsi de mettre en avant les notions et les techniques utiles. Voil dune manire gnrale lesprit de ltude qui suit. Sagissant dun systme crit, de nombreux faits seront diffrents de ce quoi nous sommes habitus. Pourtant nous pouvons ds prsent supposer que la syntaxe et la smantique auront beaucoup dire et examiner. Par ailleurs, dautres sciences humaines se sont dj intresses au symbolisme mathmatique : lhistoire des sciences, les sciences de lducation, la psychologie et la sociologie. Leurs dcouvertes nous intresserons pour toutes les questions quen linguistique nous appellerions externes. Nous tenons nanmoins nous dmarquer de certains courants des sciences sociales qui tendent prsenter les mathmatiques comme la couverture dun groupe social qui voudrait assurer sa domination symbolique. Si nous mentionnons ce point cest quil y a du ct de ltude smiologique une position quon pourrait percevoir comme tout aussi dnigrante : on pourrait dire que les mathmatiques ne sont que signes, que les objets mathmatiques nexistent pas. Plutt tentant pour un linguiste, mais pas toujours pour des raisons scientifiques !

Pourtant la question se pose ; elle occupe les philosophes et les mathmaticiens depuis longtemps. Nous serons aussi amens la considrer et heureusement nous naurons pas y rpondre. Bien que lcriture qui nous intresse soit modele par et pour les mathmatiques, elle est en dernire analyse arbitraire. Larbitraire du signe nous vite de rpondre la question de la rfrence. Les formules mathmatiques ne sont pas les mathmatiques, on pourrait imaginer parvenir aux mmes thormes avec des notations toutes diffrentes. Il y a l deux plans qui, sils ne sont pas tout faits indpendants, ne sont pas non plus concessaires. Lcriture mathmatique sest forme dans le double contexte de cette contingence et dune recherche dergonomie, qui passe par des essais de limitation de larbitraire du signe. Synchroniquement parlant, ce quon appelle le symbolisme des mathmatiques se prsente comme un ensemble de signes graphiques dont le premier enjeu est dexprimer succinctement des propositions souvent compliques. Lobjectif est de pouvoir communiquer ces propositions tout autre mathmaticien le plus indpendamment possible des distances entre les cultures, les lieux et les poques. La communication longue distance explique la recherche constante de conventions universellement partages. La communication dans le temps justifie lusage de signifiants graphiques et a fait progressivement de lcriture mathmatique une mmoire de la discipline. Le besoin de concision engage trouver des expressions graphiques qui au-del de signifier un concept ou un objet, indiquent aussi certaines de ses proprits dans les oprations. Pour un linguiste, cela veut dire que chaque signe ses compatibilits dans le syntagme. Toutefois, paralllement ces facteurs voulus et raisonns qui structurent lcriture mathmatique, elle prsente aussi un ct htroclite, voire embrouill. Visuellement, les notations sont trs varies. Au sein du systme, elles ne manquent pas de logique, mais il est frquent quelles en cumulent plusieurs et cela peut donner des interprtations imprvues. Des signes sont accepts par certains et refuss par dautres. Il existe des niveaux de langue selon les contextes : on ncrit pas de la mme faon les mathmatiques en oral dentranement, en cours et dans un article publi. Bref, cest un systme smiotique humain. Cette situation trs spcifique justifie lintrt quun linguiste peut porter lcriture mathmatique. Cest loccasion dprouver lenvergure des diffrents concepts opratoires

que la linguistique connat, et en mme temps de changer un peu dhorizon. Lhistoire des notations a t conserve au moins partir des pythagoriciens, ce qui vient enrichir les donnes empiriques dj consistantes que nous fournit ltat prsent de lcriture mathmatique. De telles recherches peuvent , en outre, tre utiles aux autres disciplines sintressant la question. Nous procderons de la manire suivante : Il faudra dabord dfinir lcriture mathmatique dans les termes de la smiologie, qui seront une base pour une approche linguistique. Cest le propos de notre premier chapitre qui justement sappelle dfinition de lobjet. Ensuite, avant de passer lanalyse linguistique proprement dite, il est absolument ncessaire de comprendre la situation de lcriture mathmatique par rapport aux diffrentes questions de lordre de la philosophie des mathmatiques, de la philosophie du langage et de lpistmologie. Il sagit de travailler en accord avec ce qui a dj t pens sur le sujet et dviter ainsi les contresens possibles si lon a seulement une optique de linguiste. Cela nous aidera en retour voir pourquoi il est utile de complter ces rflexions par une tude linguistique. A ce moment de notre tude, nous pourrons passer une analyse dtaille des sujets les plus intressants pour la linguistique, analyse que nous avons choisi dorganiser en deux parties, inspires de la distinction saussurienne entre linguistique interne et externe. Outre la commodit de cette sparation pour circonscrire les diffrents problmes, on se rendra vite compte quil y a une diffrence dacquis entre ces domaines. Dans tous les sujets externes, des tudes ont dj t menes par les spcialistes dautres sciences humaines. Dans les sujets touchant au systme lui-mme, par contre, seuls quelques chercheurs ont amen leur pierre ldifice. Ce sont notamment Florian Cajori, Jean Dhombres, Alain Herreman et Brian Rotman, auxquels ont pourrait joindre Wittgenstein, Husserl et Leibniz si la distinction entre les sciences humaines et la philosophie ntait pas si tablie. Pour cette raison, notre approche des deux parties sera diffrente. Nous nous concentrerons sur les sujets externes, pour se former une ide prcise sur le travail dj accompli et accomplir, tandis que pour la description interne nous nous contenterons dune srie de remarques qui pourront tre utiles plus tard. Dans tous les cas, nous tenterons daboutir quelques hypothses de travail pour continuer la recherche dans ces domaines sils savrent intressants.

Avant de commencer, nous voudrions encore prciser quelques dtails. En tachant doffrir une vision synoptique du problme, ce mmoire aura forcment pour une partie laspect dun travail de compilation. A tel point quil est impossible de toujours citer les sources, dont nous sommes pourtant redevables Nous indiquerons surtout systmatiquement les ides provenant douvrages traitant de lcriture mathmatique comme de leur objet central. Le nombre de citations reste donc lev, ce qui peut tre un peu rbarbatif. Nous estimons pourtant quil vaut mieux pour la dimension critique dun tel travail laisser le lecteur juger sur pices. Toutes les citations douvrages napparaissant pas en franais dans la bibliographie ont t traduites par lauteur de ce mmoire, et dans les cas o un terme posait problme il a t indiqu dans sa version originale, entre crochets. Le vocabulaire employ est celui de la linguistique fonctionnelle et de celle de Saussure. Par endroits, nous avons aussi utilis les concepts hjelmsleviens de forme, de substance et de matire, de contenu et dexpression, ainsi que de figure. Une exception qui pourrait prter confusion est cependant noter : au 2.2.2 le mot substance est pris dans son acception en mtaphysique.

1 OBJET DTUDE

Lcriture mathmatique laisse souvent dubitatif celui qui y est confront, quelle
que soit sa branche dorigine. Pour un typographe, ctait un casse-tte. Pour le philosophe cest lutopie un peu dangereuse dides toujours vraies. Quant au mathmaticien typique, cest pour lui une forme contingente qui nest pas cense affecter les raisonnements et pourtant le fait. Le logicien, lui, considre que les notations sont trop htroclites compares ce dont elles procdent. Le smiologue et le linguiste y voient un cas extrme de systme smiotique, un exemple citer et non un champ dtude. Enfin, les humanistes en gnral ny voient pas grand chose. Un monde inaccessible dopacit, des signes hermtiques dune culture qui leur serait ferme. Chacun sa manire est perplexe, et cela mme devrait motiver une recherche. Or cette recherche existe, elle a en fait dj t mene trs loin, quoique par des penseurs disperss dans les diffrents domaines. Pousss par des raisons diffrentes, ce sont des pistmologues, des philosophes, des historiens des sciences, des mathmaticiens novateurs, des smiologues curieux, des anthropologues et des spcialistes de lenseignement. Si lon veut prsenter ces travaux, il convient de dfinir ce dont il est question. Malgr toutes les rflexions dj menes, lcriture mathmatique offre trop ou pas assez de prise lanalyse. Cest un objet difficile dcrire et classer.

1.1 Htrognit de lcriture mathmatique

Il est primordial de signaler dans le discours mathmatique lexistence de deux ensembles de signes distincts, quon peut appeler pour linstant les mots et les symboles. Les premiers , quil faudra diviser leur tour en deux groupes, sintgrent lcriture dune langue donne et se traduisent dune langue lautre. Un groupe est constitu de lexicaux

qui

constituent

une

terminologie

spcialise.

Ainsi

Espace

vectoriel ,

groupe , ablien , morphisme , varit , orthogonal , limite , etc. sont des exemples de termes de ce premier groupe, en franais. Lautre groupe contient ce que nous appelons des mots descorte, dont nous parlons au 3.3.2. Lcriture joue pour tout ce premier ensemble surtout un rle de transcription, on peut considrer qu lorigine ce sont des signes de la langue verbale. Le deuxime ensemble est constitu de signes foncirement graphiques, qui constituent un systme indpendant en cela quils ne peuvent pas tre lus par des scripteurs typiques dune langue donne. Mme lorsque leurs signifiants contiennent des lettres empruntes aux diffrents alphabets, une lecture ne donne pas de manire univoque lquivalent oral de signes. Ainsi / ln / peut tre prononc [ln], [lnd] ou comme les locutions logarithme (de) , logarithme nprien (de) . Dans dautres cas, on

emploie aussi des caractres isols des deux alphabets latin et grec. Mais en gnral les signifiants de ce groupe se prsentent sous une forme idographique, bien que souvent issue lorigine de lettres ou de mots (cf. 3.1). La spcificit de cet ensemble de signes est quil nous parat irrductible la langue naturelle. Il est utilis tel quel par des mathmaticiens de langues maternelles diffrentes, et la lecture voix haute quon peut en faire sapparente en partie une traduction depuis un systme vers un autre. A ce propos, voil un exemple trs clair : Dans ce qui suit, nous nous servirons du nom de prdicat pour le symbole p Lorsque, par exemple, nous dirons prdicats deux arguments , nous aurons lesprit la formule P(a,b). (Leksykon Matematyczny, p 96). Dans une perspective synchronique, lide de la primaut de loral ne concerne donc pas rellement ce deuxime ensemble. Cest un des arguments qui explique que nous le concevions comme un systme smiotique part entire. Les textes mathmatiques sont un assemblage de signes de ces deux ensembles. On peut bien sr trouver quelques textes entirement rdigs en symboles, la plupart des chapitres des Principia Mathematica de Russell et Whitehead par exemple. Mais en gnral, on recourt aux deux. Cet assemblage sopre selon diverses modalits stylistiques, mais on peut retenir qu long terme, ce sont plutt les mots qui sadaptent aux symboles (Dhombres 1981, pp 23-24).

10

Dautre part, on dit souvent quau sein de cet ensemble de symboles il faut distinguer des groupes de notations diffrents les uns des autres, propres aux sousdisciplines des mathmatiques. En effet, les notations mathmatiques sont adaptes aux problmatiques de chaque branche et des articles consacrs des sujets loigns peuvent paratre visuellement trs diffrents. Nous tentons de rendre compte de cette diversit dans lannexe B. Nanmoins, si lon admet quil peut exister une spcialisation syntaxique proportionnellement plus grande que dans les langues dites naturelles, on prouve malgr les apparences un certain sentiment dunit. Peut-tre est-ce d la gnralisation de lusage, dabord des fonctions mathmatiques, puis des ensembles. La thorie des ensembles a son expression laquelle les diffrences sintgrent bien. Dautre part, ce sentiment dunit peut aussi provenir dune hypothtique manire de procder commune aux mathmaticiens. De toute manire, nous ne cherchons pas nier une varit laquelle la dimension diachronique ajoute encore de lampleur. Mais notre optique est quon peut lgitimement considrer le symbolisme mathmatique dans son ensemble si lon garde prsent lesprit son ventuelle distribution en sous-systmes. Tous ces sous-systmes partagent un mme statut dans la vie sociale, une mme forme de signifiants, une mme relation aux autres systmes smiotiques qui les entourent. Sils diffrent en plusieurs points de syntaxe et de smantique, ils ont malgr tout assez de points communs pour tre unis dans des formules le cas chant. Dune manire plus gnrale, nous verrons que la dialectique entre cohrence et varit est un des facteurs de la construction de lcriture mathmatique. Lunit dun objet ne veut pas dire son uniformit. Si cette unit parat contradictoire avec lhtrognit des signes, cest parce que cette contradiction est interne au systme qui nous intresse. Notre hypothse est quelle participe au fonctionnement de lcriture mathmatique.

1.2 Lcriture comme systme smiotique

Dans les textes mentionnant le systme smiotique qui concerne le prsent mmoire, on lappelle presque indiffremment par les noms suivants : langage mathmatique , symbolisme des mathmatiques , criture mathmatique , langue (des) mathmatique(s) , notations des mathmatiques , formules , systme formel des mathmaticiens , idogrammes mathmatiques . Il y a de quoi sy perdre.

11

Pour notre travail, nous rejetons demble les appellations de langue et langage, que nous prfrons rserver classiquement dune part aux langues au sens de Martinet, dautre part la facult humaine de sen servir. Par ailleurs, les noms de symbolisme ou d idogrammes nous posent problme. En effet, ils dfinissent par avance la nature des signes auxquels nous sommes confronts. Ou plutt, ils leur retirent cette qualit de signes, puisque la faon de Malmberg 1977 (p 20-21), on appelle souvent symbole un lment qui reprsente autre chose par habitude et sans tre articul en figures distinctives. Idogramme sous-entend plus ou moins la mme notion. Or nous verrons au 4.1.2 des arguments qui militent en faveur dune double articulation du signe crit, et ne voulons donc pas prjuger une question qui reste ouverte. Cependant nous devrons utiliser symbole faute de mieux, quand il sera question de la diffrence avec dautres signes crits. Quant au nom de notation , il fait penser celui de mot en linguistique. Il dsigne des units considres comme minimales par la tradition mathmatique, mais qui parfois sont dcomposables en units significatives plus petites, que nous appellerons signes . Nous utiliserons les termes formule ou proposition pour dsigner des syntagmes complets. Enfin, nous parlerons d criture mathmatique quand il sera question du systme dans son ensemble, car cest la locution qui semble la plus neutre. Son seul dfaut : elle voque les signifiants plutt que les signifis, mais quand nous lutiliserons il sagira des deux catgories. A prsent, pour mieux comprendre ce quest lcriture mathmatique, nous allons examiner sa situation dans trois classifications des systmes smiotiques : celles de Hjelmslev, Prieto et Eco. Pour le linguiste de Copenhague, cette criture est ce quil appelle une langue conforme. Daprs Ducrot 1995, cela veut dire quil considre que les deux plans de lexpression et du contenu y ont exactement la mme organisation formelle. Pour lui, seules les substances diffrent, cest dire les signifiants et les signifis quand ils sont dj dcoups (dans la matire par la forme). On comprend trs bien quelles diffrent, dailleurs, puisque les deux matires (la matire graphique dune part et une sorte de pense mathmatique de lautre) sont diffrentes. La question est donc de savoir pourquoi Hjelmslev considre que la forme est la mme. Une mme forme signifie que la structure

12

des relations entre toutes les units est identique des deux cts contenu et expression. Cela implique quil ny a pas darticulation secondaire dans ce systme, car la prsence dunits distinctives (figures) du ct de lexpression viendrait rompre la symtrie, la conformit. Cela suggre aussi que les liens entre units de lexpression et du contenu sont biunivoques, ce qui est un postulat assez fort laissant croire une notation totalement transparente. La classification de Prieto 1966 se fonde sur la prsence et le nombre darticulations, et en cela elle recouvre un peu la prcdente. Cependant il ajoute un dtail supplmentaire : la distinction entre articulation partielle et complte. On a une articulation partielle lorsque seulement certaines des units dun niveau sarticulent sur le niveau infrieur. Prieto ne tente pas de classer lcriture mathmatique dans sa systmatique smiologique, mais il le fait pour le systme de numration dcimale. Il la range dans les systmes premire articulation complte. Ce que nous devrons tudier, cest comment interprter lintgration de ce systme dans celui de lcriture mathmatique en gnral. La typologie de Eco 1975 concerne les modes de production des signes au sens le plus large du terme. Eco y introduit la notion de ratio difficilis, qui exprime un procd de cration essayant de mimer dans les signifiants les proprits des signifis. Cest une sorte diconicit largie au-del du visuel. Cela nous intresse de prs car certaines notations mathmatiques semblent rgies par cette ratio difficilis. Leur moyen de reprsentation est arbitraire la base, mais par des limitations de cet arbitraire on essaye de produire des signes relativement motivs. Pourtant, la plupart des notations auxquelles nous seront confronts sont totalement arbitraires. Or Eco suggre justement la possibilit dans certains systmes de combiner la ratio difficilis avec la ratio facilis, c'est dire le mode de cration par convention. Enfin, il faudrait encore situer lcriture mathmatique dans une catgorisation moins savante et plus rpandue : la distinction entre langues naturelles et artificielles . La catgorie langue naturelle semble assez claire, mme si elle aurait pu tre qualifie autrement. Par contre, celle de langue artificielle est bien floue, puisquon y range lesperanto aussi bien que lcriture mathmatique. Distinguer plus prcisment est ncssaire. Appeler lcriture mathmatique langue , ce nest que reconnatre sa taille, et cest tromper sur sa nature crite. Et lappeler artificielle na de sens que si lon prcise que : contrairement une langue naturelle, elle procde dune construction voulue ;

13

contrairement une langue comme lesperanto, cette construction est un fait culturel et non individuel (cf. notamment 3.5.2).

1.3 Les analyses dautres sciences humaines

Bien que lexamen de lcriture mathmatique relve de la smiologie, il est aussi utile dautres sciences humaines. Au sociologue spcialiste des groupes scientifiques, leur moyen de communication permet de mieux comprendre les enjeux qui les intressent. Tout ce qui est pertinent pour un acteur social se retrouve dans sa manire de partager ses proccupations. De plus, lusage de lcriture mathmatique est aussi rvlateur du mode dorganisation interne de ce groupe social. A un haut niveau, les mathmaticiens travaillent de faon relativement isole et les ncessaires changes dinformation passent par des publications qui doivent tre comprhensibles tous les autres chercheurs travaillant sur le sujet. Dautres sociologues se sont penchs sur le pouvoir symbolique que procure la capacit manier lcriture mathmatique. De fait la place de la science dans la socit et la place des mathmatiques parmi les sciences fait de lcriture mathmatique une marque de prestige et de savoir. Notre criture veille aussi la curiosit des psychologues, pour qui elle est, un peu comme en linguistique, une nigme dont la clef est difficile trouver. En effet, il semble quau-del de la fonction de communication, le mathmaticien utilise son criture pour structurer ses raisonnements. Cela nous fera penser la fonction symbolique que la langue joue pour les locuteurs. Le problme pour les psychologues est de mettre en rapport cette symbolisation avec les moyens de reprsentation visuelle. Une autre question dbattue consiste savoir partir de quel degr de complexit le langagier prend le relais dune sorte dintuition mathmatique lmentaire. Par exemple, on peut simaginer quune addition simple ne met pas en jeu les facults linguistiques du cerveau. Mais linverse, il parat difficile de prouver un thorme avanc sans mettre en signes les raisonnements mis en oeuvre. Mais ce sont sans doute les sciences de lducation qui se sont le plus intresses lcriture mathmatique. Elle pose beaucoup de problmes lors de lapprentissage. Mais ces problmes ne sont pas les mmes selon le niveau dtude. Au dbut de la scolarisation, les

14

difficults viennent surtout de lide mme dutiliser des signes graphiques et des calculs conventionns. Pourtant on constate que si lon consacre un peu de temps faire imaginer aux lves des situations o ils ont besoin de notations abstraites, ils les adoptent avec facilit. A un ge plus avanc, 10-15 ans, il sagit dintgrer lusage de lcriture mathmatique dans la rsolution dun problme pos en langue naturelle. Trois niveaux de langage sont alors mls : celui de lnonc du problme, celui de la planification de la dmarche et celui de la notation qui apportera la bonne rponse. Un autre des enjeux actuels est de prolonger le suivi et la recherche dj bien dvelopps dans les petites classes jusquaux tudes suprieures, o les difficults peuvent venir de la lecture et de linterprtation des propositions mathmatiques. On peut lire certaines formules dun seul coup, tandis que dautres ncessitent un temps danalyse et de reconstitution du sens. Parfois il vaut mieux les lire de droite gauche, parfois de lintrieur des parenthses vers lextrieur En somme, linterprtation dune proposition se fait selon des gestes mentaux multiples qui ne sont pas faciles enseigner. Voil le genre de questions que traitent les spcialistes de lenseignement des mathmatiques. Mais ces travaux sont beaucoup plus nombreux que ne le montrent les quelques points que nous avons cits. Cet aperu de la recherche qui a lieu dans les autres sciences humaines nous rvle que les points de vue sur notre objet sont trs diversifis. Il est utile de les connatre un peu pour participer ce qui dans lavenir pourrait tre un champ de recherche transversal. Pour linstant, nous nous en inspirerons dans ltude des quelques sujets du domaine externe au sens de Saussure que nous aborderons dans le chapitre 3.

15

2 THMES CLASSIQUES

Dans

cette partie, nous aborderons les discussions manant de la

philosophie des mathmatiques et de la philosophie du langage. Elles sont un peu ngliges par les chercheurs contemporains malgr leur intrt. Par rapport aux questions poses par les sciences humaines, ces thmes sont la fois plus proches et plus lointains de nos proccupations. Plus proches parce quils soccupent directement des signes mathmatiques, de leur nature et de leur rle, de grammaire et de sens. Plus lointains parce que leur mthodologie est plus loigne de la notre. Il nous a donc sembl utile de leur rserver un chapitre entier, le temps de leur explicitation. Cela nous permettra de rattacher nos questions sur lcriture mathmatique des problmatiques plus larges, comme la pense et les signes, la nature des objets mathmatiques, la logique et le langage. Ces diverses approches thorisantes de lcriture mathmatique sont luvre de prcurseurs philosophes, mathmaticiens et logiciens. Mais nous incorporerons la discussion les propos des quelques historiens et smiologues qui ont comment ces approches. Chacun de ces auteurs se trouve avoir une dmarche originale, individuelle, ce qui complique un peu la mise en commun des ides et la confrontation des opinions. Nous avons bien sr restreint laperu quelques thmes.

2.1 Nature des objets mathmatiques et criture mathmatique

La nature concrte des objets mathmatiques est une problmatique constamment aborde depuis les dbuts de la rflexion sur cette discipline. Elle a rejoint durant le MoyenAge la querelle des universaux. Pour le courant raliste, inspir de la thorie platonicienne des Ides, les objets mathmatiques existent rellement, de manire indpendante de leurs manifestations visibles et du sujet qui les examine. Les faits observables sont la manifestation de ces objets mathmatiques, mais en mme temps ils les cachent notre

16

esprit. Lcriture mathmatique inscrit les raisonnements ncessaires pour retrouver ces objets. Quand on la fait voluer ou quon la rinterprte, cest quon cherche des raisonnements meilleurs pour parvenir aux mmes objets. Au contraire, pour le courant nominaliste toutes les choses universelles et donc entre autres les objets mathmatiques nont pas dexistence autrement que par leurs noms. Ce sont les noms valeur universelle qui crent les catgories abstraites et les relations entre ces catgories. Quand on change lcriture mathmatique, cest parce quon a tendu certaines rflexions de nouveaux domaines et quon a ainsi cr de nouveaux noms, des nouvelles catgories. Les nominalistes pensent que lcriture mathmatique exprime des penses sous forme de pseudo-objets, alors que les ralistes estiment que la pense imprime dans lcriture mathmatique la trace de vrais objets. On comprend alors la lgre mfiance de la plupart des mathmaticiens vis--vis de leur criture. Si lon accentue trop son importance, on tend nier la ralit des concepts mathmatiques. Ainsi Gdel, dans larticle Is mathematics a syntax of language ? (1953, cit par Murawski, p 141), considre que les interprtations identifiant les concepts leurs symboles transforment les vrits mathmatiques en conventions et finalement les rduisent au nant. Cependant il est indniable quune partie du raisonnement mathmatique se fonde dabord sur les signes quil utilise. Lintuition directe des objets mathmatiques est assez rduite compare la perception quon en obtient par les signes. Dans ces conditions, il est difficile de dcider si lon travaille sur des rfrents rels ou sur les signifis des signes. Cest pour cela quun minimum de confiance en lcriture quon emploie est ncessaire dans les raisonnements mathmatiques, confiance qui doit tre ensuite corrobore par les efforts de lintuition. Lcriture semble tre un passage oblig. Il parat donc sens de conclure quindpendamment de leur existence autonome ventuelle, la plupart des objets mathmatiques ont au moins une ralit par leur valeur dans la structure du systme smiotique qui les exprime. Contrairement ce que craignait Gdel, la convention ne se ramne pas au nant, car elle fonde le systme. Ceci videmment ne prjuge en rien de lexistence par ailleurs des concepts (existence qui somme toute est probable sous une forme ou sous une autre) mais cela permet dviter avec certitude la vanit des mathmatiques. Les valeurs des signes dans un systme ont une certaine ralit qui, mme si elle est complexe, peut servir de socle. Cest le sens de la

17

remarque de Wittgenstein (Remarques sur les fondements des mathmatiques, I, 74) : la profondeur de lessence correspond le profond besoin de convention.

2.2 Perfectionnement de lcriture mathmatique

2.2.1 Cohrence interne

Au vu de cette incertitude, il est comprhensible que le mathmaticien qui introduit ou revoit des notations apporte un soin tout particulier leur forme et leur bonne intgration au reste du systme. Dune manire gnrale, ce socle quelque peu embarrassant pour la discipline motive des efforts constants pour lamliorer. La premire tche est de rendre les notations cohrentes entre elles. Le but de cette dmarche est de rendre les notations plus logiques, et donc plus facilement mmorisables et manipulables. Cest aussi un bon moyen dviter des erreurs. En effet, cela revient augmenter la ncessit interne de telle ou telle notation. Le point est important, car il est la source dun effort pour une cohrence toujours plus grande, effort qui a model lcriture mathmatique depuis ses dbuts. Cet effort presse lcriture mathmatique de sorganiser de manire rationnelle, alors qu la base elle est tout de mme un systme de notations conventionnelles. Lhistorien des mathmatiques Florian Cajori y dcle ce que Saussure a appel la limitation de larbitraire du signe. Tout ce qui a trait la langue en tant que systme demande, cest notre conviction, tre abord de ce point de vue, qui ne retient gure les linguistes : la limitation de larbitraire du signe. (CLG, 2me partie, VI, 3). Nous discutons lusage de cette notion dans lannexe B. Cette manire de changer les notations nest pas prsente explicitement dans les textes auxquels nous avons eu accs. Pourtant elle varie peu dun innovateur smiotique lautre : cest souvent une mthode fonde sur lanalogie, la prise en compte des compatibilits dun signe et du paradigme dans lequel il se situe. On est donc en droit de se demander do provient une telle unit mthodologique tacite. Ce que lon trouve dans les textes traitant du sujet, en tout cas, donne limpression que cette cohrence provient dun certain idal commun partag par les mathmaticiens de manire souvent consciente,

18

si ce nest revendique. Cet idal se fonde sur lide que lon peut tablir entre tous les lments de systmes diffrents des correspondances formelles. Cest exactement la conformit dont parlait Hjelmslev (cf. 1.2)

2.2.2 Idal de ladquation des plans

Pour bien comprendre cette notion laquelle les mathmaticiens sont spontanment sensibles, il faut la faire remonter ses origines philosophiques. Lidal des correspondances formelles entre les systmes trouve peut-tre son expression la plus claire dans lEthique de Spinoza. Il crit dans la 7me proposition de la IIme partie : Lordre et la connexion des ides sont les mmes que lordre et la connexion des choses. Cette vision, magnifique si elle tait vraie, est une sorte de credo justifi par lorigine commune des Choses et des Ides dans la substance . Ce sont deux attributs, deux plans de la ralit, qui par le principe de lunicit de la substance doivent selon Spinoza tre structurs de la mme manire. Dans la suite, nous appelons cette vision lidal de ladquation des plans. Chez Spinoza lui-mme, cet idal a des consquences autres que mtaphysiques. En effet, les plans-attributs sont lexpression de la substance et, comme le souligne Deleuze, Spinoza est trop soucieux de grammaire pour quon puisse ngliger les origines linguistiques de l expression (Deleuze 1968, chapitre lexpression dans le paralllisme ). On peut penser que chez Spinoza les diffrents plans sont comme des mots dsignant la mme chose, mais sous des lumires diffrentes. A la mme poque on retrouve cet idal de ladquation des plans sous une forme distincte chez Leibniz. Il introduit une certaine hirarchie entre les plans, certains dentre eux tant la projection, la reprsentation des autres. Mais Leibniz nest pas que philosophe, il est aussi mathmaticien de gnie, et grand innovateur en terme de notations. Sa conception de ladquation des plans est lie la recherche dune criture parfaite qui soit une projection du plan des penses sur celui des signes graphiques, la characerisica universalis. Ce projet avait pour objectif lexpression de toutes les notions dans une forme rigoureusement travaille. Daprs Murawski (p. 49), cette forme devait remplir les conditions suivantes :

19

il fallait quexiste une relation bi-univoque entre les signes de la characerisica et les penses humaines ; les signes devaient tre ainsi construits qu chaque pense pouvant se dcomposer en sous-lments devait correspondre une reprsentation se dcomposant en sous-lments de la mme manire ; si deux ides taient en relation de causalit entre elles, il fallait que leurs reprsentations puissent aussi tre vues comme relies par une telle relation. Cette mthode de construction des signes de son criture, Leibniz lappelait ars

combinatoria. Aux yeux dun linguiste, ces trois conditions seraient respectivement un dcoupage absolu du systme de signes ; ladquation des formes du contenu et de lexpression ; un relativement motiv amnag pour exprimer la causalit. Quant la mthode dans son ensemble, nous lappellerions la plus extrme limitation imaginable de larbitraire du signe. Pour beaucoup ce projet semble fascinant, mais pour un linguiste il parat tonnant, voire choquant. Cest comme si lon voulait rendre significatives toutes les units de 2nde articulation. Quoiquil en soit le dessein de Leibniz est exemplaire de lidal prsent lesprit de ceux qui crent et utilisent lcriture mathmatique. En effet, il na de loin pas t le seul rechercher cette adquation quasi-esthtique entre le fond et la forme des formules. Jean Dhombres relve que dans les dmonstrations gomtriques grecques les auteurs cherchaient exprimer le ct itratif de leur dmarche par des symtries de notation. Il admire mme la rigueur du balancement de la phrase qui correspond la permutation dont il est mathmatiquement question. Dans le mme esprit, Poincar remarque que llgance dune dmonstration vient dune application crite qui met en place un ordre et de la cohrence, et nous permet de nous y retrouver (Science et mthode, 1908, p 25, cit dans Murawski p 30) Mme Husserl (Philosophie de larithmtique 273) avance que la suite des signes doit tre la reprsentation [Reprsentazion] de la suite des concepts. On retrouve ce mme idal dune syntaxe suivant lordre de la pense dans ses dtails. En revanche il souligne luimme, quelques pages auparavant, ( 251) combien cette suite de concepts est lie une certaine idalisation de notre pouvoir de reprsentation [Vorstellung]. Effectivement, on constate que la recherche de la correspondance absolue entre la structure du contenu et celle de lexpression procde dune certaine illusion. Tout se passe

20

comme sil fallait pour faire sens que les deux systmes concident dans leur ensemble. Pourtant, une rflexion critique peut nous montrer quil suffit que le relativement motiv soit local, circonscrit un ou quelques rapports associatifs entre les signes et non pas tendu avec une logique homogne tout le systme. Cela suffit nous reprsenter adquatement chaque du sens, et notre facult de signification nambitionne pas de tout reprsenter la fois.

2.2.3 Consquences de limpens

Croire que lcriture mathmatique doit tre conforme au sens de Hjelmslev implique que nous puissions nous reprsenter cette criture dans sa totalit et donc que nous y ayons besoin dun ordre total. Cest en cela que lambition de ladquation des plans est lie une idalisation de notre pouvoir de reprsentation, et en mme temps un oubli de la facilit avec laquelle on s'accommode des representamina arbitraires. Ce qui arrive alors lorsque les innovateurs en notation rduisent larbitraire et que les signifiants se chargent de logiques internes, cest quils laissent parfois supposer des relations entre les signifis qui ntaient pas prvues. Ainsi quand Herschel introduit la notation f(x) pour f(f(x)), il incorpore une relation smantique imprvue entre les compositions de fonctions par elles-mmes et la multiplication des nombres par eux-mmes, qui est note de la mme manire : a pour aa. Lcriture va alors influencer les recherches dans cette direction, et on parlera bientt de puissances et de polynmes de fonctions, comme ctait le cas pour les nombres. Ce genre de dveloppement imprvu est appel par Jean Dhombres impens dune notation mathmatique . Vouloir charger de cohrence lcriture mathmatique a en dernire analyse pour effet de lui donner plus de sens quil nous est possible de nous reprsenter. Quand on limite beaucoup larbitraire du signe, les notations deviennent relativement motives selon des ncessits non plus seulement voulues par les mathmaticiens, mais aussi incorpores au systme lui-mme. Remplir au maximum les notations avec du sens leur donne une sorte de vie propre au moment de lusage, jusqu souvent trouver des notations judicieuses en interne mais inattendues par les mathmatiques. Les innovateurs en matire de notations

21

cherchant perfectionner lcriture mathmatique la structurent de manire trs travaille pour en augmenter la transparence. Mais en retour la notation va structurer les raisonnements chez ses utilisateurs.

2.3 Interprtations de lcriture mathmatique

Ds lors quon se rend compte que lcriture mathmatique ne peut tre supervise dans son ensemble, les efforts pour son amlioration sont ncessairement vous des rsultats partiels. En outre, lenvergure du systme saccrot continuellement. Nous pouvons donc mettre lhypothse que ladquation des plans est plus un idal quune ralit, ce qui va malheureusement lencontre de la vision de Hjelmslev. Mais cela entrane deux consquences intressantes. Dune part, cela veut dire quil y a encore une dynamique dactualisation de lcriture. Dautre part, tandis que le systme va en se complexifiant, on est forc dmettre des nouvelles interprtations quant au sens de lensemble qui chappe toujours une reprsentation globale. Lactualisation de lcriture mathmatique passe comme pour tout systme de signes par les noncs crits dans ce code. Cest lquivalent de la parole en linguistique. Herreman, qui examine mthodiquement les textes de topologie algbrique, constate la chose suivante (Herreman 2000, p 324): Ces textes mathmatiques apparaissent ainsi recouvrir une importante activit smiotique, en partie ignore par leurs auteurs. La mise en vidence de cette diversit va lencontre de lhomognit qui leur est souvent associe et qui rsulte, notamment, dun usage trop peu critiqu des concepts dabstraction et de formel. Il parvient cette conclusion aprs avoir rpertori les relations entre les signes dans les textes. Il observe que ces relations ne sont pas forcment celles attendues si lon sen tient au sens classique des signes. Les textes modifient donc lgrement la forme du systme. Remarquons quil sagit chez Herreman de textes dimportance souvent historique. On peut simaginer que la majorit des textes, moins novateurs, effectue plutt une ractualisation

22

de la norme dans son tat au moment donn. Mais lanalyse de Herreman montre que les avances en mathmatiques favorisent la redfinition des signes quelles utilisent. De fait, une chelle plus grande, lhistorien des notations mathmatiques Cajori remarque que la cration de nouvelles faons dcrire va de pair avec les progrs dans un domaine. Cest dailleurs assez logique : lcriture mathmatique nest pas construite pour dire toutes les choses possibles, mais seulement pour exprimer toutes les mathmatiques un moment de leur dveloppement. Dans beaucoup de cas, les nouvelles ides doivent donc se trouver une expression propre. Le champ des mathmatiques sagrandit toujours, et plus le champ est grand, plus lcriture est complexe. En parallle, on peut noter que la formule en signes mathmatiques prend une place de plus en plus grande dans les textes des mathmatiques. De plus, les nouvelles notations proviennent souvent dun petit groupe spcialis qui a ressenti le besoin dune expression concise pour les sujets dont il soccupait presque quotidiennement. Ensuite seulement, si ces sujets se rvlent intressant creuser, les notations se popularisent chez une part plus grande de la communaut. Mais l elles sont utilises moins frquemment, et leur sens est lgrement modifi. De plus elles utilisent parfois des signifiants dj en usage ailleurs, ce qui ne prtait pas confusion dans un groupe spcialis mais peut drouter des mathmaticiens dautres branches. Il y a alors un risque de fragmentation de lcriture mathmatique en conventions locales contradictoires. Pour viter ce que Lagrange appelait les dangers d'un formalisme mal justifi , il est alors important de cerner cette multiplicit de notations. Rgulirement, les mathmaticiens remettent en forme des morceaux du systme. Cela accompagne souvent des rinterprtations des mathmatiques en elles-mme. Ainsi, presque chaque rorganisation des mathmatiques a son interprtation du rle et du bon emploi de lcriture. Un exemple constitu par les trois grandes ambitions de refondation des mathmatiques du XXme s. : logicisme, intuitionnisme et formalisme Ces trois courants sont ns de certaines antinomies logiques dceles dans les mathmatiques. Daprs Hilbert, qui tait un formaliste, ces antinomies ont leur origine dans le fait quon peut crire des propositions propos de linfini, mais que le sens (nous dirions plutt signifi ) de ces

23

symboles nest pas directement clair et reconnaissable. Il recommande donc de redfinir les sujets traitant de linfini (car sen passer serait un grand appauvrissement pour les mathmatiques) avec un nombre fini de propositions traitant dobjet finis. Ensuite, on serait libre dutiliser les signes concernant des grandeurs et des oprations infinies car on aurait dfini leurs signifis. Le problme est donc que les calculs des mathmatiques peuvent noprer que sur les signifiants et aller plus loin que les combinaisons comprhensibles de signifis. Les formalistes veulent par des tapes claires utilisant des calculs rduits reconstruire les signifis adquats. Pour les intuitionnistes comme Brouwer, par contre, lcriture mathmatique est dans ces cas un leurre, et elle ne doit pas tre suivie tout prix. Au lieu de reprendre les signifis comme les formalistes, ils prconisent de construire des rfrents dont on soit sr et de sen tenir eux. La libert de lcriture doit tre rduite en proportion. Les logicistes, inspirs par Frege, cherchent de leur ct fonder lensemble des mathmatiques sur la logique. Ils partent du principe frgen que si lon reprend la manire de construire les noncs son origine et quon la dfinit de manire absolue, on sera sr de choses que lon obtient mme si lon nen saisit pas le signifi. Cette dmarche, quon appelle rductionnisme logique, a t la plus fructueuse des trois ; elle a abouti au Principia Mathematica de Russell.

2.4 Rductionnisme contre jeux de langage

Dans son processus de refondation des mathmatiques, le rductionnisme a aussi considrablement fait progresser lcriture mathmatique. Il a donn aux syntagmes une structure plus rgulire, et plus rpandue parmi les diffrentes branches. Dautre part il a radicalement chang linterprtation de ces signes. La construction progressive des mathmatiques partir de la logique est loccasion dune srie de dfinitions explicites de chaque notation. Ces dfinitions sont toutes drives de trois signes fondamentaux, dont les signifis sont considrs comme vidents. Il sagit de la ngation, du connecteur ET et du successeur immdiat dun nombre entier. Au fur et mesure, on introduit des signes plus riches, construits partir des signes de ltape prcdente. Cette dmarche sans prcdent est plus raliste que celle de ladquation de plans, en cela quelle se satisfait de limmotivation du signe. Il suffit pour le logicisme que le signe soit clairement dfini.

24

Cependant, la dmarche rduit limportance du signe par son autre ct. Chaque signe part ceux du premier niveau est ce que Eco appelle une smie substitutive. C'est dire que son signifi est une suite de signifiants des signes dun autre systme, comme les signes du code morse qui ont pour signifi des lettres du systme crit. Mais comme les tapes sont nombreuses avant darriver aux signes complexes en usage rel chez les mathmaticiens, on se retrouve avec des dizaines de systmes superposs, dont chacun est une smie substitutive du prcdent. Contrairement lhtrognit habituellement reconnue dans lcriture mathmatique, quon pourrait appeler horizontale (des groupes de signes diffrents pour chaque domaine des mathmatiques), on est en prsence dune htrognit verticale (des groupes de signes diffrents pour chaque niveau de complexit, mais unifis dans tous les domaines). Cette invariance de lhtrognit quelle que soit linterprtation quon choisit nous suggre quil y a au-del de ce que la logique explique une certaine richesse quelle nglige. Sinon, on ferait des mathmatiques dans lcriture de la premire tape, sans se soucier de construire des signes plus complexes. Mais bien sr, cela donnerait des syntagmes gigantesques. Il y a donc une question dergonomie. Lecriture mathematique sert justement a ne pas revenir a letape davant. Elle est en quelque sorte la garante de lhtrognit.

Par ailleurs, Wittgenstein considre quil y a aussi un enjeu heuristique ignor par Russell. Dans ses Remarques, il dit que lon perd ainsi compltement le caractre crateur dune dmonstration et la multiplicit des techniques qui permettent de la mener (Wittgenstein 1956, III, 41, cit dans Murawski p 144). En effet, pour ne pas tre encombre de ses fondements chaque rflexion, une bonne partie des raisonnements mathmatiques se fait en oubliant les dfinitions exactes, assimiles profondment. Lutilit dune notation rside dans la rflexion routinire quelle sous-tend, rflexion (ou objet) dcomposable mais que le signe rend directement. La fonction sociale du signe nest assure que sil rcapitule. Ceci tant, la critique de Russell par Wittgenstein est un peu svre ; chercher fonder les mathmatiques comme le fait Russell cest rduire leur abondance seulement un instant, afin quelles puissent mieux spanouir par la suite. Cest donc un processus ranger parmi les techniques heuristiques que dfend Wittgenstein, mme si ce nest pas une technique de nature smiotique.

25

Quoiquil en soit, Wittgenstein donne aussi sa propre vision du fonctionnement de lcriture mathmatique en les intgrant dans sa thorie des jeux de langage. Daprs Schulte (Lire Wittgenstein, p. 119), les jeux de langage sont des procds demploi des signes plus simples que ceux daprs lesquels nous les utilisons [dans la langue en gnral]. Nous les comprenons comme une sorte dintermdiaire entre les formats de Bruner (en acquisition du langage), les instructions pour la comprhension dAugustin et le systme de Saussure. Avec les formats, les jeux de langage partagent la notion que le signe se cre en situation simple. Des instructions ils hritent le ct li la prsentation dun signe par un autre code smiotique sous-entendu (comme lindication, lexemplification ou la mise en uvre). Quant au systme saussurien, les jeux de langage lui empruntent lide dune dfinition au sein dun rseau relationnel. Dailleurs Wittgenstein utilise comme Saussure la mtaphore des pices du jeu dchec. Pour en revenir aux notations mathmatiques, Wittgenstein considre quelles proviennent de jeux de langage mis en oeuvre pour rpondre la ncessit de vrification possible par tout mathmaticien. On devrait alors considrer trois tapes. Dabord les notations se forment dans des petits contextes o elles sont pratiques. Ensuite elles doivent stendre et se dfinir a posteriori pour rpondre aux enjeux de vrification. Enfin pour quelles continuent faire sens on doit les intgrer dans une grammaire dexpression des calculs qui leur rserve une place utile et cohrente. En retour elles peuvent concentrer une partie du sens du contexte dont elles sont issues. Voil comment nous comprenons son optique. En fin de compte, le point de vue de Wittgenstien est foncirement diffrent de celui de Russell, ce qui explique un peu la controverse. Pour Wittgenstein, les mathmatiques sont faites de jeux de langage irrductibles des principes uniques. Ce quil dfend est ce que nous appelerions la richesse de la smantique de lcriture, et les possibilits combinatoires que cette smantique engendre. Russell, lui, veut garantir la diversit la source, en mettant en avant les fondements sur lesquels construire les mathmatiques. Lcriture vient pour lui nettement aprs, comme expression enfin unifie de cette culture. Ce qui tracasse Wittgenstein, cest quil peroit le jeu de langage comme matrice des schmas de pense intressants des diverses disciplines. Les signes sont des reprsentants de leur environnement pistmologique dorigine, mais ce contexte est pour lui trop singulier pour tre ramen un calcul unique. Il nous semble que le rsultat obtenu

26

de nos jours, savoir un systme unique (ou presque), mais avec une multiplicit de signes qui prservent la richesse smantique, est un compromis entre les tendances respectives prfres par ces deux trs grands penseurs. La question qui se pose est de savoir si cest suffisant pour affirmer que lcriture mathmatique un rle heuristique. Nous concevons trois faons selon lesquelles cela pourrait tre le cas. A grande chelle, elle peut tendre vers une conformit avec la ralit des objets mathmatiques (si toutefois celle-ci existe). Cest ce dont nous avons dj parl propos de lidal de ladquation des plans. A moyenne chelle, on pourrait considrer que cest dans les calculs que la notation est propice la dcouverte. Cela parat correspondre le mieux avec les ides de Wittgenstein, pour qui jeu de langage et calcul taient parfois synonymes. Dailleurs il est vrai que dans le calcul, lcriture mathmatique saffirme comme une manire de fixer les bons procds de raisonnement. Elle inscrit les idaux en vigueur, et non pas seulement les concepts et objets mathmatiques. Une consquence de ceci est son rle dans les rorganisations grande chelle de la thorie. Quand on change le canon des raisonnements et lexposition densemble, on le fait en changeant lcriture. Nanmoins, malgr ces arguments, nous hsitons donner trop dimportance aux les calculs. Beaucoup dautres raisonnements y sont impliqus qui nont pas de lien direct avec le systme de signe. Par contre, petite chelle, il y a encore une caractristique de lcriture qui pourra se montrer propice la dcouverte. Cest la catgorie de limpensable dune notation chez Dhombres. Contrairement limpens , qui concerne des consquences vraiment imprvues des notations, cette catgorie rassemble des notations dont on a dj remarqu des consquences tonnantes et dont on ne sait pas quoi faire. Il sagirait daffirmer que lcriture permet des audaces que la pense ne sautorise pas. En quelque sorte, que lon pourrait crire limpensable (Dhombres p 26). Un exemple de limpensable est constitu par les notations lies au concept dinfini dont il a dj t question plus haut.

2.5 Rle complmentaire dune tude linguistique

27

Un rapide tour dhorizon de ces thmes de philosophie mathmatique nous a dvoil plusieurs dbats ouverts. Lcriture mathmatique est dans une position quivoque vis--vis de la science dont elle est issue. Si on lui attache trop peu dimportance, elle acquiert une allure fictive dexactitude, elle devrait ne pas permettre de fantaisie mais doit tayer limagination. Si on lui en attache trop, elle escamote la ralit des objets mathmatiques, ncessite des gloses incessantes et ne se laisse pas apprhender. Ce noyau de donnes contradictoires parat dfinitivement li lexpression des mathmatiques et lui donne un air daporie. Du coup, lcriture mathmatique est vue la lumire de ces problmes, ou alors elle est volontiers ignore. Mais en la considrant dans son organisation intrinsque, on aurait une vision plus raliste de sa nature, et peut-tre que cela aiderait progresser dans la rsolution des problmes auxquels elle se trouve mle. Lcriture mathmatique mrite donc dtre envisage en tant quobjet smiologique, si ce nest langagier. Cependant les thmes que nous avons abords ne nous dvoilent pas que des problmes. Ils permettent de comprendre certains aspects de la nature de lobjet et de sa dynamique. Ils situent un peu sa position pistmologique. Nous avons notamment entrevu les motivations qui gouvernent son laboration et les raisons des inquitudes que ces signes suscitent. De plus nous avons constat que lcriture mathmatique prsentait de facto une teneur irrductible un mode de notation transparent, direct. Selon les opinions, cette teneur est appele opacit ou richesse, mais nous pouvons peut-tre utiliser le mot paisseur , qui est moins suggestif. Cette paisseur est un peu mal vue par les mathmaticiens car ils redoutent quelle brouille les dductions ou quelle y mle des connotations imprvues. La non-transparence est ambivalente, cause delle lcriture mathmatique a un rle parfois moteur, parfois de frein quant la dcouverte (Dhombres, p 2). Ces rles sont vraisemblablement rpartis selon des logiques diverses. Il parat improbable que notre systme smiotique soit dsorganis de ce point de vue l alors quailleurs il est si travaill par lusage. Notre hypothse fondamentale est quen dernire analyse il y a une organisation fonctionnelle qui charpente lpaisseur de lcriture mathmatique.

28

3 CIRCONSTANCES

Dans
mathmatique.

ce chapitre, nous examinons les circonstances de lusage de lcriture Circonstances historiques, configuration sociale, condition

ethnolinguistique, etc. Dans presque tous ces cas, il ny a pas besoin ici de distinguer de sous-systmes de lcriture mathmatique, car les situations sont communes tous les genres. Encore une fois, notre objectif est dtablir certaines hypothses de base pouvant servir de futures tudes par une esquisse gnrale dcrivant les travaux existants. Cette esquisse doit circonscrire le statut externe au sens saussurien de lcriture mathmatique. Saussure prcise bien quil nest jamais indispensable de connatre ces circonstances, mais lorsquon aborde un sujet somme toute peu tudi, cela peut paratre utile. Il est dailleurs devenu classique en smiologie depuis C. Morris de dire que une des trois parties de ltude doit tre la pragmatique. Les travaux dont nous nous inspirons ici ne sont pas toujours smiologiques la base, mais propres aux diffrentes disciplines se concentrant sur ce qui pour nous est externe. Mais bien videmment, nous avons en priorit repris ce qui dans ces travaux touchait au systme de signes, et qui pourrait profiter dune tude approfondie de ce systme.

3.1 Observations sur la diachronie

Si jamais la linguistique ou la smiologie soccupent de lcriture mathmatique, la diachronie promet dtre un des domaines les plus passionnants. Elle disposerait dune base empirique gigantesque, car lhistoire des mathmatiques est trs bien rpertorie et la nature crite des signifiants facilite la conservation des versions passes du systme. Pourtant relativement peu de chercheurs sy sont intresss. Il y a bien sr de nombreux livres sur lhistoire des nombres, mais en ce qui concerne lhistoire des notations plus spcialises, nous navons pu trouver que louvrage de Florian Cajori, A History of mathematical

29

notations. Plusieurs de nos remarques sont tires de ce livre excellent, ainsi que des exemples. Mais il prsente le dsavantage de dater de 1928 et donc de ne pas couvrir lhistoire rcente de lcriture mathmatique. En plus, il est toujours problmatique de ne disposer que dune seule source, au cas (assez improbable, car Cajori a fait un travail trs mticuleux) o elle contiendrait des erreurs. Le processus dvolution de lcriture mathmatique est assez particulier, li celui des mathmatiques. A chaque poque se cre la fiction dune situation quasiment dfinitive, de mathmatiques achroniques. Mais en parallle on rarrange rgulirement lorganisation de la discipline entire, en intgrant les champs dans une nouvelle mise en forme. Comme le remarque Dhombres (pp. 9-10), cette antinomie se manifeste par une rcriture perptuelle. Dans les observations qui suivent, nous mettons en avant certaines tendances typiques des changements, puis nous tentons de les situer dans une vision densemble des processus diachroniques.

3.1.1 Evolution, cration, analogie

Dans lcriture mathmatique, il y a proportionnellement peu dvolution qui ressemble aux changements phontiques. Un signifiant crit est en effet beaucoup plus stable. Nanmoins, ces changements, que nous appellerons les changements smiographiques, existent tout de mme. En voici quelques exemples :

devient qui devient devient qui donne deux signes et S devient qui devient P devient et change de signifi, de |primtre| |rapport du primtre au rayon|

exp devient et change de compatibilits syntaxiques (on ncrit plus exp ( x ) mais x ) mais ne change pas de signifi

30

Pour le premier de ces exemples, il faut cependant noter quil existait aussi dans les annes 1890 1900 une autre notation , introduite par Peano. Elle avait un sens diffrent : non pas lappartenance comme cest le cas plus haut mais la copule lue est . Cest un des plusieurs exemples dhomonymie que nous avons rencontrs. Le quatrime exemple pose un autre problme. Notre hypothse est que parmi les traits pertinents en smiographie il faut prendre en compte la valeur de la lettre. Non que les mathmaticiens se proccupent du phontisme commun une lettre latine et une lettre grecque, mais ils connaissent sans doute culturellement la correspondance entre les deux. De ce fait ils les intgrent dans un mme paradigme. En tout cas, cest ce que cet exemple suggre. Un autre type dvolution graduelle est provoqu par la concurrence sur le mme thme entre des notations issues de sous-systmes diffrents. Cet aspect ayant t peu tudi, nous nous permettons dmettre une proposition : sinspirer de lvolution cause par la pression fonctionnelle dans les communauts en situation de diglossie. On dsigne depuis Fergusson 1959 par diglossie la coexistence de deux langues nayant pas le mme statut. Fergusson remarque quil y a dans ces cas une spcialisation fonctionnelle de ces langues, qui nest pas la mme dans tous les cas de diglossie. Cela semble correspondre au statut des sous-systmes de lcriture mathmatique. Lun des phnomne engendr par cette situation est la pression fonctionnelle , ou ensemble de tendances rsultant de la seule rpartition des fonctions, sans quil y ait dingrence politique, ou dvenements majeurs. Ne pourrait-on pas interprter dans cet esprit une partie de lhistoire de lcriture mathmatique ? En effet, certains phnomnes relativement lents sont constitus par la progression de linfluence de telle ou telle technique, accompagne de ses notations. Au bout dun certain temps elle prend lascendant sur une autre technique, et la rpartition des tches change. Ou comme le dcrit Jean Dhombres, un style nouveau, triomphe des virtualits de lcrit, ne sobtient quaprs des sicles de ttonnements scriptuaires. (Lcriture mathmatique, p 29) Une concurrence distincte de la prcdente est celle qui stablit entre des coles, lies un auteur, un pays, un centre de recherche. Des inventions localises segmentent ainsi la discipline en tendances qui promeuvent leur propre manire dcrire les mathmatiques. Cest ce qui, par exemple, a caus les renouvellements suivant :

31

devient = devient

Du point de vue de lvolution syntaxique, on relve de vritables phnomnes de grammaticalisation : dune chane syntagmatique on passe un enrichissement paradigmatique . Ceci provoque linvention dune nouvelle classe syntaxique. En voil une illustration, tire de la logique formelle :

a -=
a nest pas gal rien

>

a
il existe a

Pour ce qui est des cration pures, lorigine est souvent constitue par un mot, not par son initiale. Cette rduction a pour but originel de faciliter le maniement du signe. Dans une perspective de thorie de linformation, une diminution de la taille dun signe est entrane par une augmentation de sa frquence dans les noncs. Cela se passe trs vite dans lcriture mathmatique, alors que les langues naturelles ne suivent cette loi que partiellement, la prennit dun signe tant garante de sa comprhension. Mais en mathmatiques, ce problme est contourn par la dfinition des signes utiliss au dbut des textes. Cette dfinition permet aussi bien de se conformer lusage typique que dintroduire des signes nouveaux. Dans presque tous les cas mentionns ci-dessus, les innovations prsentant des analogies avec des critures dj existantes sont favorises. Ceci nest pas une rgle mais une tendance, qui est le symptme de la recherche dhomognit sur le plus possible dchelons de lcriture. Dans la pratique, cela revient systmatiser certaines figures (rayure, trait doubl, etc.), des marqueurs de fonction (position, parenthses), des modes dorganisation du syntagme et surtout gnraliser lemploi de certains groupes de signes formant des champs lexicaux implicites ( x, y, z ; f, g ; F, G ; etc). Nous examinons de plus prs cette tendance dans lannexe C sur la limitation de larbitraire du signe.

32

3.1.2 Conditions des changements

Un modle gnralement accept de lvolution dune science est celui de Thomas S. Kuhn (La structure des rvolutions scientifiques). Il les prsente grosso modo comme une alternance entre des phases de continuit et des moments soudains de changement de paradigme (au sens darchtype thorique). Il apparat que lcriture mathmatique suit partiellement une volution similaire. Le travail de lcriture peut tre un chambardement au moment o il se produit, mais il vise alors construire une nouvelle cohrence. On veut suivre en quelque sorte ladage de Boileau selon qui ce qui se conoit bien snonce clairement. Donc, si lcriture devient importante au moment des rorganisations, ce nest pas pour manifester ou nier le changement, cest pour assurer au nouveau modle une solidit. Cependant il y a une distinction faire entre les cycles chez Kuhn et la diachronie de lcriture mathmatique. En effet le rythme y est assez rapide compar celui dont parle Kuhn, et surtout les volutions brusques de notations interviennent souvent seulement dans une branche des mathmatiques, beaucoup plus rarement dans lensemble de la discipline. Cest d linfluence qua pu avoir un mathmaticien, un moment donn. Cajori remarque que partout o nous connaissons lorigine dune nouvelle notation, elle est due un seul individu. Or il est rare quun seul mathmaticien innovateur couvre un champ assez large pour influencer directement les mathmatiques dans leur ensemble. Ainsi, hormis Descartes, Leibniz, Euler et Russell, pratiquement personne na lgu plus de deux ou trois notations. Mais ceci ne concerne que les changements soudains et les signes compltement neufs. Pendant les priodes de continuit dans une branche des mathmatiques, on assiste des processus beaucoup plus lents de diffusion des innovations dune part et de retouches de la forme graphique dautre part. Dans ces processus entrent en compte des groupes entiers de mathmaticiens, voire des gnrations entires. Ils sont soumis des facteurs externes ou relevant du hasard, parmi lesquels Cajori (p. 337) relve le nombre des lves de linnovateur dorigine, le succs dun texte, la disponibilit dune traduction. On pourrait aussi y ajouter la facilit dimpression dun signe. Celle-ci a par exemple jou un rle dans le choix de la notation leibnizienne de lintgration (d..) contre celle de Newton qui encadrait les variables dans un carr, ce qui est visuellement plus simple mais ncessite un

33

nouveau jeu de caractres dimprimerie. Ces facteurs promoteurs de la diffusion sopposent la force de lhabitude. En consquence de ces processus lents il reste chaque fois des diffrences de notation entre sous-cultures des mathmatiques. Par ces aspects-l, lvolution de lcriture des mathmatiques ressemble plus petite chelle celle de la langue.

3.2 Didactique et psycholinguistique

Lcriture mathmatique prsente du point de vue psychologique un statut tout fait particulier. Dune part, cest un systme toujours acquis tardivement, dautre part il sert exprimer un champ de la pense plutt aride, dpourvu de liens concrets avec la ralit de la plupart des gens. Cest cortical souhait, et souvent difficile. Alors, la mmorisation de formules est souvent une activit dissocie de lassimilation de leur sens. Do ces scnes au lyce de mmorisation fbrile de la seule forme de lnonc, ou encore la copie rapide dantisches. Car on peut trs bien avoir compris le raisonnement sans russir se souvenir de la formule, ou encore esprer linterprter correctement le moment venu. Pour ce type dusagers du systme, la correspondance nest pas claire entre lexpression et lide. Il est donc important pour la didactique de mieux tablir cette correspondance. Sans aide, elle ne vient quavec la pratique des mathmatiques. Lcriture se transforme alors dune preuve en un instrument de comprhension. Elle semble bien sy prter, ce qui ouvre une nouvelle question : Y a-t-il dans lcriture quelque chose dutile la comprhension des maths ? Laspect graphique ? Le ct langagier ? Lorganisation des syntagmes ? La prcision ? Dautre part il faut bien voir que lcriture nest pas toujours le moyen privilgi de faire comprendre. Il y a aussi les graphiques, les mtaphores, les explications, etc. Mais elle est une manire de parachever les reprsentations intellectuelles : on commence le travail srieux en posant les objets par crit. Alors, lcriture mathmatique sert assembler des routines mentales diverses en raisonnement complet.

34

3.2.1 Enseignement de lcriture mathmatique

En gnral, lapprentissage du mode de rflexion dans la discipline mathmatique est li une matrise de la pense formelle. Pour cette raison, lcriture ddie cette discipline est dabord un outil pour ouvrir ce mode de pense. Dans lidal, ce devrait tre un intermdiaire entre la pense usuelle et les questions abstraites. En pratique, on constate que lintermdiaire concentre et rvle les diffrents problmes dapprentissage. Il devient un but en soi, un obstacle surmonter. Il y a l un champ dtudes important pour lamlioration de lenseignement. De plus, les activits lies lcriture mathmatique, comme la lecture, linterprtation ou la mise en texte, se prtent particulirement bien des tudes de didactique. Les lves ont un rapport plus concret avec lcrit mathmatique formule, nonc, calcul quavec les objets mathmatiques. Ils verbalisent volontiers leurs sentiments, leurs rflexions. Dautre part, il est relativement facile de suivre lacquisition de cette criture dans les classes. On trouve donc beaucoup dtudes sur ce sujet, menes par des psychologues ou par les profs de maths eux-mmes. En France, ce travail est principalement effectu par les IREM (instituts de recherche sur lenseignement des mathmatiques) de plusieurs acadmies. Pour notre part, nous prsenterons des problmatiques moins dtailles, ayant trait des caractristiques gnrales de la situation de lapprenant face lcriture mathmatique. Une des difficults majeures vient de la densit en informations des formules. Un lecteur typique est habitu ne passer que deux ou trois secondes sur la lecture dune phrase, or soudain il doit se concentrer beaucoup plus longtemps pour lire une formule souvent plus courte. Le souci dconomie prsidant llaboration de lcriture mathmatique se traduit par la suppression dun grand nombre de redondances frquentes dans les langues naturelles. Linformation est compacte et il est plus facile de rater quelque chose dimportant. Par ailleurs, comme le remarque Laurie Buxton, la simple prsentation de symboles et de notations mathmatiques provoque un sentiment de malaise qui empche de passer la comprhension du sens. ( Emotional responses to symbolism in Skemp 1982, pp 215-220). Ainsi, outre la densit de sens, il y a souvent une raction motionnelle ngative lcriture mathmatique. Buxton signale quavant tout, il y a un moment o se joue le fait d accepter ou non un signifiant. Elle remarque que les lettres grecques sont

35

particulirement mal perues, leur apparition pouvant bloquer compltement un apprenant. Dune part cest sans doute d la mconnaissance de leur prononciation ; dautre part cest peut-tre li leur forme graphique, qui utilise des figures (ou des traits distinctifs smiographiques, cf. 4.1.2) non-acquises par tous les lecteurs. Or ce qui nous permet de faire face des signes crits inconnus, cest de les dcomposer ou les traduire en lments connus. Cest ainsi que lon peut lire, par exemple, un mot que lon na jamais rencontr. Mais dans le cas qui nous intresse, il est difficile de ramener le signe quelque chose de connu. La transition de linconnu au connu est suspendue, bloquant la poursuite de la pense. Cette mme interruption intervient de manire plus pernicieuse lorsque les composants dune notation sont connus, mais que le sens de lensemble ne lest pas. Ainsi, le syntagme ]0 ;1[ , qui note lintervalle entre 0 et 1, les bornes tant exclues. Chaque signe de ce syntagme est connu, mais la syntaxe ne lest pas toujours. On stonnera que les crochets soient dans le mauvais sens, et on ne pourra pas aller plus loin. Sans certaines connaissances sur le fonctionnement du systme, il reste illisible. Dans les conditions denseignement prsentes, ces connaissances ne sacquirent par la pratique des mathmatiques, ce qui rend imprcise leur distinction vis--vis des connaissances mathmatiques proprement dites. Une question toute diffrente touche la multiplicit des oprations ou reprsentations mentales induites par un seul signe. Cest un point tudi par Derek Woodrow dans larticle Mathematical Symbolism (op. cit., pp. 289-302). En labsence de rfrents tangibles, on peut se demander ce quoi renvoie un signifi tel que par exemple, soustraction ( ou plutt le signe / - / ). Le rfrent semble tre une opration mentale effectuer par le lecteur. Mais nous savons que le dcoupage de la ralit par les signes est arbitraire. Rien ne laisse supposer que llve ait dj dans son rpertoire des gestes mentaux laction laquelle ce signe rfre. Mais il sait par contre effectuer dautres gestes comme de comparer des quantits, de compter partir de la plus petite jusqu ce quil arrive la plus grande, etc. Pour cette raison, Woodrow affirme que derrire ce que lenseignant a appris voir comme un signe unique, il ny a pas un concept unique mais plusieurs reprsentations ou gestes mentaux. Lenseignement de lcriture mathmatique doit donc sefforcer de clarifier leur intention les actes que les lves oprent effectivement.

36

De plus, et comme nous lavons mentionn plus haut, il est clair que le maniement des signes de ce systme ncessite toutes sortes de savoir-faire de lordre de la pense formelle. Cest encore Woodrow qui note : Lintroduction prmature des symboles reprsentant ces constructions [mathmatiques] conduit les lves la mise en place de schmas errons et inflexibles. Par la suite, de tels lves seront amens dformer le sens des formules qui leurs sont proposes, afin que ce sens convienne mieux leur imaginaire linguistique. Dans cette optique, il serait possible de mener des recherches visant estimer la comprhension des signes. Mais il faudrait pour cela en avoir une meilleure description smantique, qui clarifie ne serait-ce quun peu le lien entre le signifi dun signe et les reprsentations psychologiques que sen font les apprenants.

3.2.2 Psychologie du raisonnement mathmatique

Ayant dj abord ci-dessus les rapports du scripteur son criture, nous examinerons dans cette partie une seule question de psychologie du raisonnement qui nous touche tout particulirement : Y a-t-il des raisons psychologiques pour traiter les mathmatiques de faon langagire et graphique ? Autrement dit, est-ce que la manire dont on pense les mathmatiques conduit les exprimer en une criture ? Mais auparavant, nous devons prciser que la psychologie est un domaine o nous avons peu de connaissances et il est possible que notre prsentation soit fausse. Dans sa Philosophie de larithmtique, Husserl remarque que les reprsentations que nous avons des nombres sont forcment de nature symbolique, hormis pour les plus petits dentre eux ( 212, nous nous appuyons ici sur les notes de J. English). Cela veut dire que nous navons pas lintuition complte de ces concepts, mais que nous parvenons les distinguer par lusage de symboles. Donc, pour le paraphraser htivement, nous oprons la plupart du temps sur un systme de nombres, issu lorigine de lintuition concrte (qui fonde chez lui tout concept), mais modifi et labor lors de la description (langagire, cf. 131). Ce systme est construit de telle manire que lon puisse isoler des proprits des concepts et ne travailler que sur ces proprits. Avec une telle perspective, il semblerait facile dimputer aux mathmatiques une prdisposition envers lexpression langagire de leurs procs et rsultats. En effet, si psychologiquement les concepts sont dj sous forme symbolique, il est simple de les

37

exprimer par une langue spciale. Cette langue spciale serait un systme de signes consacrs rendre les raisonnements plus commodes. Mais le problme est quil nest pas si sr que les raisonnements sont rellement de nature langagire. Sur cette question, Stanislas Dehaene donne un avis plutt diffrent : Bien que le langage et la culture mathmatique nous aient permis de dpasser trs largement les limites o nous confinait le systme protonumrique animal, ce module primitif reste au cur de notre intution des nombres. (La bosse des maths, p 90). Ce psychologue tudie les aspects de ce quimprcisment on nomme lintuition mathmatique . Ses conclusions convergent vers le fait quil y a bien un centre cognitif de calcul et de numration, centre la base indpendant des facults langagires. Les capacits mathmatiques de ltre humain ne seraient donc pas symboliques au dpart. Contre ce type de position, on pourrait argumenter que ce qui est vrai de la numration simple ne lest pas des concepts avancs. Ainsi, le smiologue Brian Rotman examine des objets comme linfini mathmatique, ou encore le zro, et note que non seulement la comprhension, mais mme le simple contact avec de tels objets ne passe que par lcrit. En ce qui concerne le raisonnement, il tablit mme un modle smiotique entier qui dcrit le raisonnement mathmatique comme constitu par certaines inventions ou expriences de la pense mises en scne travers les signes crits. (Taking god out of mathematics and putting the body back in, p 8). Mais Dehaene ne se contente pas de traiter des bases du calcul. Sa thse est qu un haut niveau aussi il y a de lintuitif nonsymbolique. Pour le dmontrer, il donne un aperu clairant de la psychologie des mathmaticiens. On y dcouvre un monde anim, color, qui fait une large place aux modes de perception non-langagiers. Les mathmatiques de haut niveau sont aux antipodes du portrait populaire quon en dresse parfois, celui dune discipline froidement rationnelle, domine par la puissance de dduction et do sont bannies les motions. Au contraire, les plus puissantes des motions humaines amour, espoir, dsarroi, douleur - gouvernent les liens affectifs du mathmaticien avec ses amis les nombres. (op. cit., p 234)

38

Une telle fresque ne contredit pas vraiment Rotman qui vite le portrait populaire en rintroduisant laffectif par les signes et la corporit quil leur associe. Mais comme cette voie nous parat incertaine, nous allons pour notre part acquiescer la vision de Dehaene. Cela fait tomber lhypothse dun tout-symbolique, mais cest plus cohrent avec les tmoignages de mathmaticiens que nous avons pu recueillir. A ct du raisonnement au propre effectu au niveau des signes, ils signalent une grande varit de reprsentations dun autre ordre, comme les images mentales par exemple. Sont-elles de lordre du symbolique ? Dune certaine manire, oui, puisquelles sont les representamina dobjets, et non pas les objets eux-mmes, quon ne peut pas se figurer rellement. Nanmoins, elles ne sont pas langagires au sens o elles ne permettent pas de combinaisons complexes et restent presque toujours personnelles. Elles sont donc fondamentalement dun niveau de reprsentation diffrent de celui de lcriture mathmatique. Pour linstant, cette discussion se suspend sur le constat quil existe au moins trois niveaux de reprsentation des faits mathmatiques : le systme dit protonumrique, un systme symbolique dillustration qui varie selon les individus et le systme symbolique plus ou moins norm que nous appelons lcriture mathmatique. Cette dernire nest donc pas, et de loin, le seul mode daccs aux concepts et aux relations. Elle a pourtant un statut psychologique particulier, car se reprsenter des ides par lcriture mathmatique, cest se les reprsenter dans le cadre de la culture mathmatique prexistante. Comme une manire de mettre ses ides en marche, de les apprter. Bref, cest celui des modes de reprsentation qui est le plus commode pour tablir la formulation dfinitive des ides. Cela a son importance dans une discipline o les propositions sont construites au moins autant quelles sont dcouvertes. Dans ces conditions, ce sont les rapports qui stablissent entre ces trois niveaux qui seront le plus intressant tudier lavenir. On peut imaginer procder par des questionnaires soumis aux scripteurs de lcriture mathmatique. Pour des donnes moins subjectives, il serait aussi bon dexaminer sil y a des liens entre les pathologies de lcriture et les difficults en mathmatiques. Lensemble pourrait tre confront aux tudes dj existantes sur la psychologie de la rsolution de problmes, que nous prsentons plus loin.

39

3.3 Analyse du discours

Autant au niveau de la syntaxe phrastique, que nous examinerons plus loin, on demande aux propositions mathmatiques dtre justes et opratoires , autant en ce qui concerne lorganisation transphrastique, on retrouve souvent une requte dlgance. Cette lgance, que recouvre-t-elle ? Il y a l, on le voit vite, le mlange dun travail de lesprit et de la langue, qui ont chacun leur lgance. Celle de lesprit, cest lart de combiner la plus grande clart avec des dveloppements trs complexes. Celle de lcriture, cest lorganisation textuelle mise en place pour cet art. Il existe cet effet plusieurs manuels lusage des mathmaticiens, qui conseillent le style appropri tel ou tel problme ou encore la manire de dcouper les squences de la dmonstration en parties quilibres et logiques dans leur progression. Il y a mme des recueils des plus belles dmonstrations . Ici comme dans les autres domaines de notre tude, nous percevons que derrire la transparence et le ct naturel ou conforme de lcriture mathmatique, il y a quelque chose de trs faonn.

3.3.1 Grammaire textuelle

Ce quon appelle un peu rapidement style est peut-tre le seul des travaux de production smiotique que tous les mathmaticiens sont conscients de pratiquer. Lexercice est tellement patent que cest celui que Dhombres choisit pour introduire son expos sur la porte de lcriture mathmatique. Quil nous suffise de souligner ltroite connivence entre la dmarche mathmatique et son criture et dapprcier le soulagement quapporte un style rigoureusement construit dans ses balancements rythms une mmoire mise en pril par une dmonstration trop longue. (Lcriture mathmatique, p 18). Notons cependant que ce style nest pas vraiment ce quon appelle habituellement style en linguistique : normalement cest un comportement du scripteur, rvle par des marqueurs au sein de la phrase. Lacception du mot chez Dhombres est diffrente, elle concerne plutt la grammaire textuelle c'est dire les modalits de composition du texte. Mais il existe aussi des vrais styles, lis diffrents registres. Nous en parlerons dans la section suivante. On pourrait penser quen fait de grammaire textuelle, il ny a au final quun agencement du raisonnement, et que a na pas de rapport avec lcriture. En fait, comme

40

en analyse du discours en linguistique, les deux sont mls, le fond avec la forme. La composition est donc celle dun raisonnement dans un texte. Elle est un travail tous les chelons du dveloppement, la latitude dans lorganisation tant plus grande que ce que lon a pu croire. Cependant, nous nous contenterons ici dexaminer larrangement gnral du texte, faute davoir men une recherche plus extensive pour linstant. La disposition densemble est un moment part de lcriture, mme si de toute vidence elle est lie aux arrangements internes des diffrents moments. Sa spcificit est quon sy occupe principalement de faciliter la lisibilit de lide directrice. Bien souvent, en effet, un calcul ou surtout une dmonstration comportent des digressions. Celles-ci sont essentielles pour prouver tel ou tel point et forment des plus petites dmonstrations en ellesmmes. Mais il ne faut pas quelles dtournent trop lattention du but que lon veut atteindre. Si lon prend en compte quil y a plusieurs digressions de plus ou moins grande ampleur, mais quelles nont pas toujours une importance proportionnelle cette ampleur, on est amen admettre quil y a plusieurs buts prsents lesprit au mme moment. Le raisonnement avant criture est structur un peu comme un paysage : il y a une srie de plans plus ou moins loigns de celui qui contemple. Mais lcriture suit un cours linaire et, la manire dun romancier dcrivant un paysage, le mathmaticien doit choisir lordre de ce quil portera lattention du lecteur. Il doit essayer de faciliter sa comprhension, mais en respectant pourtant lenchanement des problmatiques propres son raisonnement. Ces deux soucis peuvent parfois tre contradictoires. Par exemple, faciliter la comprhension peut vouloir dire dtacher toute une digression et la placer avant le texte sous forme de lemme. Mais cela rompt le droulement originel des questions traites. Dune manire plus gnrale, certains livres conseillant sur le style dictent des rgles essayer de suivre dans tous les cas. Il serait intressant de comparer ces rgles de composition avec ce qui scrit vraiment et avec lavis de mathmaticiens sur llgance des textes. Or rptons quil nest pas toujours possible de suivre toutes ces rgles la fois. Tout lart est donc doptimaliser. Admettons prsent que lordre des ides ait bien t tabli ; une nouvelle question se prsente alors. Par quelles indications marque-t-on le dcoupage du texte en parties ? Parfois cest une phrase, dautres fois un petit signe, souvent aussi les paragraphes. Communment il y aura trois genres : des indications par la mise en page, des indicateurs

41

faisant partie du systme de signes de lcriture mathmatique et des mots denchanement, dintroduction, de conclusion. Pour ce qui est de la mise en page, ses procds sont trs nombreux et varis. Les plus simples comprennent le passage la ligne, lespacement ou la reproduction la ligne par ligne du mme ordre des termes, juste sous les termes qui respectivement leur correspondent, pour donner un aspect uni un paragraphe. Dautres moyens sont plus complexes : diviser la page en deux dans le sens vertical pour comparer deux dveloppements ; effectuer une petite digression ct (voire au-dessus) du point dont elle part, au lieu de linclure dans le corps du texte ; distinguer des critures de tailles diffrentes ; etc. Remarquons aussi que ces techniques ne sont pas les mmes selon le support du texte. Un tableau dcole permet par exemple de tout effacer sauf une ou deux lignes quil est important de garder lesprit. Quoiquil en soit, notre liste nest bien sr pas du tout exhaustive. Il serait bon de faire des relevs plus complets, idalement en prcisant la frquence de tel ou tel procd. Rappelons enfin que la mise en page est le terrain sur lequel lcriture perd sa quasi-linarit et que cest peut-tre ce qui la distingue le plus les systmes crits des systmes verbaux. Il existe aussi quelques rares signes spcifiques pouvant marquer les parties. Le moins contestable est le pour marquer la fin dune dmonstration (plus rarement le ). Une flche en marque parfois le dbut, mais il faudrait dbattre pour savoir si elle fait bien partie de notre systme de signes. De la mme manire, le QED nest pas forcment considrer comme un signe de lcriture mathmatique. Mis part ces marqueurs spcifiquement ddis au cadrage des parties, il existe aussi des formulations dont le sens est tout autre, mais quon trouve normalement au dbut ou la fin des parties. Par exemple, une proposition introduisant de nouveaux signes prsage le dbut dune tape. Et un rcapitulatif des rsultats laisse supposer que nous sommes la fin Mais dans lensemble, on se rend bien compte que ce marquage est trs pauvre au niveau des symboles . Sil en est ainsi, cest que la charge de ce marquage est plutt dvolue aux mots . Le discours mathmatique est model par une rpartition des tches entre la langue naturelle et lcriture mathmatique. Mais comme cela ne concerne plus seulement la grammaire textuelle, nous changeons de thme pour en parler.

42

3.3.2 Discours hybride

Le discours mathmatique est beaucoup plus tendu que le seul domaine de lcriture mathmatique. Il comprend des discours oraux et crits, communiqus dans toutes sortes doccasions formelles et informelles. On pourrait mme y inclure une partie des rflexions mathmatiques, si le dlicat dbat actuel sur le mentalais navait pas rendu lide dOccam aussi aventureuse. Cependant les brouillons, les penses vites notes et autres concepts lancs entre amis font clairement eux aussi partie du discours mathmatique. Alors, dans cette mosaque bariole de palabres aux statuts smiologiques et sociaux diffrents, nous nous sommes restreints. Nous tudierons le montage subtil qui sopre dans les textes achevs entre les symboles et les mots. A premire vue, dans un article ou un livre, les noncs en langue sont prsents des endroits trs varis. Il y a des paragraphes entiers, qui explicitent le cheminement de la pense ou commentent la porte dune proposition. Ce sont les gloses, dont le but est de traduire les ides qui pourraient passer inaperues dans les formules. Dautres noncs, qui parfois se rduisent de simples mots, semblent ceindre le tronc des passages rdigs en criture mathmatique. Ces locutions introduisent une nouvelle piste, concluent une question, etc. Ils marquent ainsi la segmentation du texte. Mais ce nest pas leur rle principal, puisquon en trouve dautres du mme genre au sein mme du passage, parfois chaque ligne. L ils glosent et ceignent la fois. Ils sont la preuve quil y a tout un spectre de possibilit entre les deux types dnoncs que nous venons de distinguer. Cela va du sacramental Soit et des connecteurs classiques du type si alors jusquaux titres et observations dont lnonc est libre, en passant par des termes standardiss comme THEOREME COROLLAIRE , PREUVE placs la tte des paragraphes. Collectivement, ils accompagnent le dveloppement du texte mathmatique, et le gardent dinterprtations errones. Pour cette raison, nous pouvons les appeler locutions ou passages descorte. Cette varit peut tre tudie de deux manires diffrentes. Son vocabulaire est trs riche, et reflte au moins autant le savoir mathmatique que ne le fait lcriture mathmatique proprement dite. Son tude relve de la lexicographie. Mais prsent nous examinerons le fait que du point de vue du discours, les passages en mots forment diffrents paliers de standardisation : du plus dtermin par les formules symboliques

43

jusquaux observations laisses la discrtion de lauteur. Donc en fait du plus proche de lcriture spcialise au plus proche de la langue naturelle. Ainsi, lescorte joue un rle dintermdiaire entre deux systmes de signes profondment diffrents. Sans cet intermdiaire, la comprhension est possible, mais il est plus difficile de se mettre la place de celui qui a pens lensemble. Pour comprendre, il nous faut refaire un dtour par la philosophie des maths. Lcriture mathmatique tant un systme smiotique trs spcialis, elle ne convient qu lexpression et lexcution des actes mathmatiques. Par actes mathmatiques nous entendons ceux des gestes de lesprit qui ont une validit au regard de la fragile ontologie des objets mathmatiques. Cette ontologie ne permet en dernire analyse que de poser des choses et den dduire des similaires. Pour cette raison, la rduction de la smantique de lcriture mathmatique des termes fondamentaux a t possible. Mais comme nous lavons vu en 2.4, lcriture senrichit naturellement de distinctions toujours plus fines, et sa pauvret smantique fondamentale disparat. Le systme stoffe, mais pas dune faon qui lui permette dassurer en temps normal de fonction motionnelle (ou expressive). Rappelons que cela veut dire quil ne peut pas nous informer sur la manire dont lmetteur du message peroit les choses. Brian Rotman y voit dailleurs un tort de lcriture mathmatique. Cela nous parat trs exagr, dautant plus quil est clair prsent que cette fonction motionnelle est assure par les expressions descorte. Or un puriste de la forme pourrait demander do vient le besoin dassurer une fonction motionnelle sil vous plait. Il nous faut donc prciser quil ne sagit pas uniquement dmotions, mme si elles apparaissent dans lescorte de temps en temps. Lide serait plutt, avec les termes de la linguistique interactionnelle, que lescorte donne des indices de contextualisation, lcriture mathmatique ne pouvant pas les fournir ellemme. Ce serait une manire de communiquer des pistes dinterprtation. Ainsi, avec cette fonction motionnelle, il sagit avant tout pour lmetteur de partager avec le lecteur sa comprhension densemble, la manire dont est appel le raisonnement. Lcriture mathmatique se prte trs bien la segmentation puis la composition du raisonnement, mais elle ne peut pas vraiment servir pour planifier cette organisation. Cette planification est nonce dans lescorte parce quelle sopre lorigine en langue naturelle.

44

La recherche dj existante sur la rsolution de problmes mathmatiques distingue justement plusieurs languages (en anglais) co-occurants, dont les deux plus importants sont le notational language et le planning language ( Mathematical language and problem-solving , G. A. Goldin, in Skemp 1982 pp. 222-223). Ces termes renvoient des domaines distincts de la rflexion symbolique, respectivement la construction dune stratgie de rsolution et sa mise en uvre en notations. Cest Goldin qui remarque que le planning-language est de langlais [sic] ordinaire ddi la planification heuristique (op. cit. , p 234). Lescorte serait alors la trace de cette coexistence de deux discours. Un lieu intermdiaire permettant au lecteur de rcuprer les connaissances principales communiques dans le noyau en criture mathmatique et de se les approprier au niveau de son propre planning-language (et plus largement de ce que lui-mme aurait dire sur le sujet). Laspect hybride des discours crits en mathmatiques tant prsent un peu clairci, revenons avant de clore cette partie la question de lintgration aux diffrents mdias, entendus comme les supports de lcriture. Parmi ceux-ci, on peut citer bien sr la page imprime, la page manuscrite et le tableau. Mais il y a aussi lcran de la calculette graphique et celui de lordinateur. Cette problmatique du support est lie la grammaire textuelle, comme nous lavons vu plus haut. Elle concerne aussi ltude du signifiant graphique, ou smiographie, que nous examinerons au 4.1. Il faut noter enfin quil y a une corrlation entre ces supports et la diversit des registres du discours mathmatique. Contrairement une ide assez rpandue, il ny a pas un seul style de rdaction mais plusieurs, qui sont marqus par des emplois quelques peu diffrents et une terminologie plus ou moins conventionnelle. Comme nous le mentionnions en introduction, on ne rdige pas avec les mmes objectifs de rigueur selon les circonstances. Ces simili niveaux de langue sont lis la situation dnonciation, ou plutt dcriture. Do leur relation entre autre avec le support. Pour les tudier, un possible protocole de collecte de ces donnes consisterait prendre un mme thme prsent dans des situations dcriture diffrentes.

45

3.4 Sociolinguistique

3.4.1 Variation et actualisation

On peut sattendre observer une variation de la norme et des usages dans tous les systmes de signes suffisamment complexes pour ne pas tre codifis intgralement. La question est de savoir si cest le cas de lcriture mathmatique. Nous avons du moins dj vu que le changement tait bien prsent. Cependant, contrairement ce qui se passe dans les langues naturelles, le principal moteur de ce changement nest pas, semble-t-il, la variation en synchronie, mais une srie dactualisations densemble, voulues et travailles par les mathmaticiens. Cest une tendance qui sest renforce au cours de lhistoire de ce systme smiotique, jusqu devenir tellement manifeste au cours du dernier sicle et demi que la prsentation des diffrentes refondations fait office dhistoire des notations de cette poque. Mais malgr ces essais rpts et une tendance la cristallisation des notations signifiant les ides courantes, et bien que la variation sociale au sens de Labov ne soit pas immdiatement visible, la variation stylistique, elle, saute aux yeux. Nous parlions la section prcdente de ces divers supports de lcriture qui souvent vont avec leur propre registre. Il semble naturel quon soigne plus un article imprim quun brouillon. Mais que veut dire mieux soign quand il sagit dcriture mathmatique ? Il y a dabord une question de prcision. Certaines formulations sont inutiles lorsque lon est plong soi-mme dans un domaine prcis. Par exemple, pour qui travaille en arithmtique, o on nutilise que les nombres entiers, il est peu utile de spcifier quun nouveau nombre que lon vient dintroduire appartient lensemble des entiers positifs (ou naturels), cet ensemble tant not , dautant plus que souvent le naturel sera not n . On trouvera donc au brouillon : Soit n, Cest dautant plus pratique que, lorsquon veut attribuer une proprit ce nombre, il suffit dcrire : Soit n3, Mais si les circonstances sont un peu plus formelles, on prcisera :

46

Soit n, n3, Cependant, cette dernire manire dcrire, trs frquente dans les exercices ou mme les examens, pourrait choquer si on la trouvait dans un article imprim. En effet, le registre soutenu prescrit : Soit n, n, n3 , On est donc en prsence dans ce cas de trois registres diffrents, connus dune mme personne mais utiliss alternativement selon le degr de formalit de la situation. Cest la dfinition-mme de la variation stylistique chez Labov. Un autre type de variation stylistique est aussi visible dans les lignes qui prcdent : il est plus correct de passer une nouvelle ligne si lon veut utiliser lcriture mathmatique. Dans cette ligne on vitera les mots en langue naturelle, la locution soit ne comptant pas. Mais si cest l lusage correct, ce nest pas pour autant une loi universelle de ce systme dcriture, puisquon trouve des transgressions de cette recommandation. Quand cest possible, on va donc ce qui est ressenti comme le plus simple, mais quand il y a une rgle supplmentaire respecter, on sadapte. Cest la marque dun vritable march linguistique bourdieusien. Mais quen est-il de la variation sociale ? Aprs tout, il existe quand mme diffrents groupes sociaux parmi les scripteurs de lcriture mathmatique. Il y a les tudiants, les professeurs des coles, les professeurs duniversit, les chercheurs. De plus dautres variables pourraient tre des facteurs de diffrenciation : le domaine de spcialisation, le pays dorigine, lge. Il y a certainement l de la variation de la production crite. Par exemple, un professeur des coles pourra employer le signifiant : pour la division, car cest ce quil enseigne ses lves ; tandis quun professeur duniversit utilisera / . De mme, un mathmaticien g pourra noter LOG le logarithme nprien, quand presque tout le monde aujourd'hui utilise ln . Dans ces deux cas, il sagit de variation assez ancienne, dont lalternative est dj un choix conscient. Mais pour bien faire il faudrait une tude longue et pousse sur les trois tapes sociales du changement linguistique selon Labov (cf. Bourdieu, Encrev, Labov 1983) : les indicateurs prfigurant le changement, les marqueurs conscients et les strotypes sociaux. Nanmoins on peut ds maintenant admettre comme hypothse de travail quil y a en criture mathmatique un changement continu,

47

apparaissant spontanment dans le groupe social. Cest un des facteurs de lactualisation de la norme et son tude est importante pour clairer la dynamique dun tat synchronique donn de lcriture mathmatique.

3.4.2 Moyen de communication dun groupe social trs particulier

Au-del des changements intervenant dans la norme, il y a des points fixes autour desquels elle sorganise. Ces invariants sont avant tout de nature smiologique : la syntaxe et la smantique. Mais ils sont aussi de nature sociale, lis aux valeurs (ou idaux collectifs recherchs par le groupe) des mathmaticiens. Pour le ressentir, dtournons-nous un instant de notre systme de signes et intressons-nous aux valeurs de la communaut scientifique tels que mises au jour par Merton : 1) La proprit commune des biens ; 2) Luniversalisme ; 3) Le scepticisme organis ; 4) Le dsintressement ; (Source : Merton 1942, The normative structure of science, cit par Charles Bazerman in Nowotny et Taschwer 1996). Quoique lapproche de Merton soit un peu date, et que certaines de ces valeurs puissent tre contestables ou au contraire paratre vraies mais pas rserves aux scientifiques, il nous a sembl remarquable quau trois premires valeurs correspondent des caractristiques stables de lcriture mathmatique. En effet, elle est : 1) Le partage toujours largi de symboles communs ; 2) Le lieu o lon passe dune connaissance individuelle une connaissance collective ; 3) Linstitutionalisation de la vrification. Ceci tant prcis, on comprend que le lien entre la communaut des mathmaticiens et lcriture mathmatique est aussi un lien de convictions. On peut rinterprter le travail exerc par la communaut sur son moyen de communication comme une affaire didaux. Vouloir que lcriture mathmatique soit conforme ne nous semble pas toujours rationnel au regard de ce que lon sait des systmes smiotiques humains, savoir

48

quils sont habituellement quelque peu chaotiques. Parfois, cette action nest motive que par les valeurs du groupe. Il sagit donc autant dun comportement rationnel en finalit, que rationnel en valeur, au sens de Max Weber. La rationalit en valeur, cest agir en conformit avec ses croyances profondes. La rationalit en finalit, elle, ne prend en compte que le rsultat des actions. Ces deux rationalits sont luvre dans lattitude des mathmaticiens envers lcriture mathmatique. Bazerman, dans son article What written knowledge does (1981) (op. cit.), insiste sur le texte scientifique comme lieu de transformation dune connaissance individuelle en une connaissance partage. Daprs lui, le pari de lauteur consiste trouver des expressions originales pour prsenter les phnomnes nouveaux. Bazerman considre ces expressions qui deviendront lassise de la connaissance collective de ces nouveaux phnomnes. Nous considrons pour notre part que ces connaissances nont pas comme socle principal la manire dont elle sont exprimes. Mais Bazerman, lui, va jusqu affirmer : Les textes servent de mcanismes dynamiques de mdiation, qui crent ces vanescents produits linguistiques que nous appelons connaissance.

3.4.3 Ecriture mathmatique et capital symbolique

Lcriture mathmatique associe deux sortes de capitaux sociaux, au sens de Bourdieu : un capital linguistique et un capital culturel. Peut-tre plus quauparavant, la culture scientifique est aujourd'hui une culture lgitime . Les connaissances dans ce domaine sont estimes et admires ; mais au-del des connaissances, cest toute une attitude face au monde qui est valorise chez les scientifiques. Or lcriture mathmatique est le symbole de cette culture, son cusson. La matrise de ce langage mathmatique auquel, presque unanimement, on attribue une odeur de perfection, est un capital linguistique au moins aussi valoris que la matrise du registre soutenu de la langue locale. Le scripteur en retire une considration un peu penaude devant ce savoir hermtique. Lcriture mathmatique est vue comme un gage de haute ducation et dintellect lev, et apporte de nombreux profits sociaux. Du point de vue du capital culturel, cette fois-ci, il faut ajouter la position exceptionnelle des mathmatiques parmi les sciences. A tel point que mme vis-vis des scientifiques non-mathmaticiens le capital culturel apport par lcriture

49

mathmatique est consquent. En effet, travers son criture la culture mathmatique est juge plus exacte, prcise et pntrante que les autres cultures scientifiques. De ce statut rsultent deux consquences opposes: la diffusion tout va de donnes chiffres et de formules mathmatiques ; le rejet de la culture scientifique comme aussi obscure et trompeuse que les sentiments engendrs par son emblme, lcriture mathmatique. Mais le sujet est pineux, car lobservateur de ces phnomnes est lui aussi acteur social dans ce domaine. Et si les sciences humaines taient jalouses des sciences exactes ? Il ne faudrait pas quelles soient le lieu dune critique intresse quobjectivement on pourrait classer dans la consquence numro deux. Les sociologues des sciences ont peut-tre des mthodes qui leur permettent dtre impartiaux dans ce domaine, mais nous ne les matrisons pas. Au vu de ces incertitudes, nous prfrons exceptionnellement ne conclure sur rien du tout dans cette section, sinon le fait que lcriture mathmatique a un certain prestige.

3.4.4 Identit, diglossie

Enfin se pose une autre problmatique sociolinguistique : quel rapport cela induitil avec la socit dtre scripteur de lcriture mathmatique ? Nous ne nous proccuperons pas cette fois du pouvoir symbolique que cela confre mais simplement de la situation dans laquelle a place. Deux conditions nous semble lies au fait dtre scripteur : la possession dune identit sociale spcifique et une position similaire la diglossie. Les mathmaticiens, malgr toute la diversit de circonstances individuelles que recouvre ce mot, forment dans une certaine mesure un groupe social. Il y a l et un sentiment dappartenance et des codes spcifiques de comportement. Lensemble cre une identit-type : le mathmaticien. Indubitablement, lcriture mathmatique est un des marqueurs de cette identit, et pas le moindre. Cependant, il nous faut rappeler que les mathmaticiens ne sont pas les seuls utiliser lcriture mathmatique. Tout physicien est dans une bonne mesure scripteur de lcriture mathmatique. Si lon est tudiant en sciences exactes (ou si on la t), dans une sp , dans une cole dingnieurs, la fac, on manie relativement bien cette criture. Dautres voies et disciplines, comme lconomie, donnent leurs tudiants une certaine connaissance de lcriture mathmatique. En fait, toute personne scolarise en connat les rudiments. Dans ces conditions, on peut

50

lgitimement sinterroger sur cette marque identitaire que nous semblait apporter lcriture mathmatique A ce problme, nous voyons trois rponses hypothtiques. Primo : malgr ce que nous venons de dire des mathmaticiens, il ny a pas de marquage identitaire par lcriture mathmatique parce quelle nest pas une caractristique affiche des groupes sociaux. Secundo : lcriture mathmatique est affiche proportionnellement la matrise quon en a. Elle ne devient un marqueur que si cette matrise est relativement grande. Dans ce cas, elle est la marque dune sorte didentit graduelle, c'est dire dun capital social. Tertio : lcriture mathmatique ne devient pas marque chez tout le monde, car elle nest pas affiche partout. Certains groupes sociaux la prennent en compte, dautres non. Elle est alors la marque de ces premiers groupes : plusieurs identits discrtes mais apparentes. A partir de ces trois hypothses, il devrait tre possible de conduire une tude par questionnaires, comme nous lavions considr pour le mode de reprsentation ( 3.2.2). Les donnes recherches ntant pas cette fois-ci individuelles mais collectives, le questionnaire devrait comporter moins de choix et poser la question de manire assez dtourne pour viter les stratgies personnelles de rponse. Par ailleurs, lchantillon interrog devrait tre largi toutes les catgories ayant t confrontes lcriture mathmatique. Lidal, bien sr, serait une tude comportementale sur les diffrents terrains, mais cela demanderait le travail prolong de plusieurs chercheurs. Remarquons avant de passer au thme suivant quil nest pas exclu que la rponse finale soit une combinaison des trois possibilits mentionnes. Ainsi en rgle gnrale lcriture mathmatique ne serait pas une marque, sauf pass un certain seuil de matrise. Alors perue elle participerait au capital symbolique. En parallle, dans certains groupes rduits et cas limites, cette matrise serait un signe dappartenance, induisant une reconnaissance rciproque. On dsigne depuis Fergusson 1959 par diglossie la coexistence de deux langues nayant pas le mme statut. Fergusson remarque quil y a dans ces cas une spcialisation fonctionnelle de ces langues : Lune, langue perue comme haute (H), est utilise dans les communications orales formelles et crites ; lautre, perue comme basse (B ou L) est utilise dans les communications entre proches, la vie personnelle, etc. Il faut noter que cette rpartition entre les domaines de la vie sociale nest pas la mme dans tous les cas de diglossie. Nous avons dj parl de la diglossie en diachronie propos de la pression qui

51

sexerce naturellement lors dune telle spcialisation fonctionnelle. Mais cette fois, ce nest plus entre sous-systmes de lcriture mathmatique que nous nous placerons, mais bien entre la langue crite et parle dune part et lcriture mathmatique dautre part. Estce lgitime ? Fergusson ne prenait en compte que les situations o il y avait deux variantes dune mme langue. Mais depuis cette poque, de nombreuses tudes ont vu le jour o lon largissait la recherche deux langues bien distinctes. Cet largissement ayant t trs fructueux, nous nous sommes demands sil ntait pas possible de le prolonger et de comparer deux systmes smiotiques diffrents. Clairement, la question nest pas de savoir si lon peut continuer ou non utiliser le terme diglossie . Il sagit plutt dexaminer, comme dans les tudes sur la diglossie, la rpartition des fonctions et la place de celui dont les activits sociales sont ainsi partages entre deux systmes de signes diffrents. Dailleurs cest srement cette dernire qui sera la plus intressante, la rpartition des fonctions tant assez prvisible. Sans doute dailleurs ne sera-t-il pas judicieux de distinguer une variante H et B, mais seulement dinventorier la spcialisation. En tout cas il y a l pour le sujet parlant et crivant une forme dhtrognit linguistique. Et comme lcriture mathmatique est un systme smiotique relativement complexe, il est probable quelle interfre quelque peu avec la langue naturelle. Cela peut-tre tous les niveaux, aussi bien la forme que lon donne aux lettres que celle que lon donne aux phrases. Nous avons personnellement entendu des calques de la structure propositionnelle de lcriture mathmatique dans une argumentation orale en langue.

3.5 Ethnolinguistique
Lethnolinguistique tudie la relation qui stablit entre la langue et la culture dun groupe. Utiliser une langue, cest dj appartenir la culture et reprendre son compte une partie de son histoire, de sa manire dapprhender les choses, de son savoir-faire. Avec cette ide en tte, nous aborderons ici les tenants et les aboutissants de ce rapport. Mais auparavant, nous allons nous intresser au parallle trs stimulant quoiquun peu antique tabli par Arnold Van Gennep entre langue spciale (au sens de Saussure) et langue sacre.

52

3.5.1 Langue spciale, langue sacre

Van Gennep tait un ethnographe du dbut du XXme sicle, connu pour son Manuel du Folklore Franais Contemporain et pour ses travaux sur les rites de passage. Mais il est aussi un des rares chercheurs stre essay une thorie des langues spciales . Ce terme, qui na gure dactualit scientifique de nos jours, semblait assez clair aux chercheurs de lpoque. Ainsi Saussure affirme qu un degr avanc de civilisation favorise le dveloppement de certaines langues spciales (langue juridique, terminologie scientifique, etc.). (Cours de Linguistique Gnrale, p 41). Tullio de Mauro, dans la note correspondante (n 85), signale quil serait plus juste de parler dun usage spcial des langues. Mais Van Gennep a sans aucun doute une dfinition plus large (vague ?) lesprit dans son Essai dune thorie des langues spciales (in Religions, Murs et Lgendes, 1909). En effet, outre les argots, jargons professionnels et usages spcifiques un groupe social, il y inclut les langues secrtes des fraternits et corporations, usage cryptique, et les langues sacres. Ces deux derniers groupes sont rarement des variantes de la langue gnrale (comme il lappelle), mais plutt des langues diffrentes ou cres. Ainsi il remarque que les langues sacres sont souvent des formes anciennes de la langue, voire des langues disparues (cas des langues liturgiques). Dune manire gnrale, Van Gennep voit une corrlation entre socits spciales (qui correspondent nos subcultures ou nos groupes sociaux) et langues spciales. Dans sa perspective ethnographique, Van Gennep voit les langues spciales comme une rponse apporte par le groupe des besoins collectifs spciaux. Elles napparaissent que si la dmarcation externe du groupe fait pendant une cohsion interne. Il prcise que plus le groupe spar est organis socialement, plus il lest linguistiquement. Il est frappant que cela corresponde aussi bien la communaut mathmatique. Cest dailleurs cohrent avec les thses contemporaines qui prsentent les mathmatiques comme un systme culturel (voir ce sujet Wilder notamment). Mais Van Gennep ouvre la voie un parallle encore plus hardi : celui entre criture mathmatique et langue sacre. Prcisons ceux que cela frapperait que ce nest pas l son intention, mais une interprtation qui nous a paru justifie.

53

 Il nexiste aucune diffrence de principe entre la langue de mtier moderne et telle langue sacre demi-civilise. (p. 292, op. cit.) Pour interprter cette phrase audacieuse, il nous faut nous replacer dans le contexte de lpoque. Van Gennep soppose des chercheurs de lpoque qui considrent que les argots et jargons st des formes linguistiques aberrantes, et refusent quon les tudie. Par ailleurs, il sait que ltude des langues sacres ne tombe pas sous le coup de cet arrt. En effet, la recherche ethnographique prend lpoque un essor considrable, et la distinction gnralise opre entre peuples civiliss et sauvages vite de se proccuper dune quelconque aberration formelle dans ce genre dtude. En reliant les deux types de langue spciale, Van Gennep peut esprer promouvoir la recherche dans le domaine des langues de mtier. Paradoxalement, nous sommes aujourd'hui en prsence dune situation presque diamtralement oppose. Quoiquil en soit, ce long dtour serait inutile pour notre travail si lon ne gardait pas lesprit la dfinition originelle de sacr . Ce qualificatif ne concerne pas forcment les choses religieuses, mais tout ce qui pourvu dune puissance la fois inquitante et leve. Le sacr est ce qui est hors des proccupations habituelles du groupe mais qui peut y rentrer et jouer un mauvais tour (ou, plus rarement, un bon). La plupart des collgiens du monde vous diront que cette dfinition correspond trs bien leur opinion des maths. Nous avons dj parl de la tendance des langues sacres larchasme. Elle fait partie dune caractristique plus gnrale des langues spciales la conservation de mots rares dans la langue courante mais utiles pour oprer des distinctions fines, sophistiques. Mme si ces mots deviennent quotidiens dans une spcialit donne, ils subissent moins quailleurs la tendance au raccourcissement propre un usage en hausse. Peut-tre est-ce d la manire dont est transmise la terminologie au sein dune corporation. Lutilisation des symboles est alors une manire de pallier ce peu dergonomie, car ils sont plus maniables. En tout cas, cela a pour effet daugmenter la tendance cryptique dj latente dans les langues spciales. Dans certaines langues sacres, il est important daprs Van Gennep que les mots ne soient pas accessibles tous (sauf au moment de linitiation, o en parlant la langue spciale on devient accompli et form). On est sacr de par la langue que lon a le droit demployer, o par lactivit quon exerce. Rappelons encore une fois que cette activit nest pas forcment religieuse : Van Gennep cite par exemple la pche ou la forge, quand elles ont une importance sociale spcifique. Cela nous parat aussi quelque peu comparable lcriture mathmatique.

54

Comparable, mais pas analogue, dirons certains. Et nous sommes daccord avec eux. Nous sommes les premiers dire que le statut culturel de lcriture mathmatique dautres sources que son ct mystrieux. Voil pour expliquer les vertus limites de cette comparaison.

3.5.2 Langue spcialise et assimilation des savoirs

Parmi les rles de lcriture mathmatique que Dhombres juge assez vidents pour ne pas sy attarder, il cite celui d encyclopdie descriptive . Cela nous a dabord paru assez curieux, parce quon simagine mal une encyclopdie exposant les mathmatiques par leurs seuls signes, sans plus dexplication. Certes, si lon voit les deux signifiants /f/ et /F/ on pourra se douter que quelque chose les lie, et souvent on aura raison. Mais ce genre de cas ne fait pas vraiment de lcriture mathmatique une somme des mathmatiques. Cependant, il faut se rappeler que Dhombres est avant tout historien des sciences. De fait, pour qui connat lcriture mathmatique daujourdhui, celle dune poque passe peut rvler beaucoup de dtails sur les ides en vogue et les faons de faire. Pareillement, mais en suivant le temps dans lautre direction, on simagine bien que la transmission du savoir passe par celle de lcriture. Ceci non seulement parce que lcriture est le moyen daccs au savoir (par la lecture, comme pour lcriture des langues), mais aussi parce que de par sa structure mme elle fourmille dinformations sur les calculs et les techniques de raisonnement. Bien sur, les signes de lcriture mathmatique nont pas une manire infaillible de prsenter le savoir sous-jacent aux dmonstrations et autres, mais elles en rsument de plusieurs manires les recettes. On peut utiliser lcriture dun calcul, sans pour autant se souvenir de tout ce qui le justifie. Par exemple, il y a des manires plus ou moins laborieuses de trouver une limite (c'est dire la valeur vers laquelle tend une fonction quand elle se rapproche dun certain point). Au dbut, on enseigne la faon longue, qui expose mieux la logique du raisonnement (mme si elle est dj beaucoup plus rapide quune vraie explication). Par la suite, on utilise toujours une faon dcrire bien plus facile, qui nexpose plus grand chose mais qui marche. De la mme manire, on peut trs bien additionner tant de fois le mme terme, mais il est beaucoup plus simple dcrire une multiplication. Derrire cette multiplication, il y a tout un concept qui la justifie et dont on

55

doit admettre quil ne relve pas de lcriture. Mais ce nest pas le concept qui va plus vite, cest la notation. Une description relle du systme devra nous prciser ces diffrents moyens de rsumer . Dores et dj on peut affirmer quils sinscrivent tous les chelons du fonctionnement : compatibilits dun monme, contexte smantique qui lui est usuel, prsupposs (au sens de Ducrot) de son emploi. Dans ces diffrents lieux le savoir mathmatique a t assimil par lcriture. Ce nest pas une description homogne de ce savoir, dans laquelle on pourrait lire livre ouvert. Ce sont des raccourcis prfrs de la pense mathmatique, traces inscrites de sa culture. A ce sujet, et pour montrer que cette assimilation sopre grande chelle autant que dans les dtails, rapportons le bref historique du calcul intgral tabli par Dhombres (op. cit., pp. 11-25). A lorigine, les Grecs calculaient des intgrales par ce qui fut appel plus tard la mthode dexhaustion . Ils opraient par une dichotomie successive de laire calculer. Dans le raisonnement, ce dcoupage doit se poursuivre linfini, mais dans la manire de le reprsenter par les figures, lopration nest faite que deux ou trois fois, avec la note et ainsi de suite . Ensuite il fallait manipuler les grandeurs obtenues, et ctait trs long sans notation pour ces grandeurs et les oprations quon effectuait dessus. Bien plus tard, avec Newton et Leibniz, on met en place des moyens beaucoup plus concis de noter ce calcul. Mais Dhombres relate que cette condensation des mthodes dans lcriture ntait pas juge pleinement rigoureuse, et que les traits de lpoque taient prcds de longs avant-propos mtaphysiques qui renvoyaient la mthode dexhaustion comme seule valable, lcriture nouvelle ntant quune manire daller plus vite. Il est dailleurs remarquable que si lon se rfre la Mthode des thormes mcaniques dArchimde (dont nexiste quun seul manuscrit en trs mauvais tat), on saperoit quil utilisait dj une notation apparente quil appelait , et dont le but tait de dterminer le rsultat avant de faire le vrai calcul. Ce nest qu lpoque de Cauchy et Lagrange que la notation leibnizienne (perfectionne) devient la seule utilise, la rfrence la mthode antique ntant plus juge ncessaire. Cela nous semble un bon exemple de la manire dont, au niveau de tout un pan des mathmatiques, le savoir-faire sest progressivement assimil lcriture.

56

Dune faon plus abstraite, on comprend que dans une discipline o le travail de lesprit est difficile il soit utile que le plus de connaissances stables possibles soit concentr dans les signes sur lesquels ce travail seffectue. Ceci nous montre dailleurs que la fameuse densit informationnelle de lcriture mathmatique nest pas seulement faite dinformation passivement enregistre, mais aussi de savoir-faire rutilisables. Dhombres appelle ceci lcriture opratoire, manifestation opratoire et dynamique dun concept par une criture ad hoc. (op. cit., p 30). Un peu plus loin, il remarque quun concept peut ne pas se dvelopper faute dune criture capable den rsumer dynamiquement toutes les proprits . Ce savoir dynamique se retrouve dans une moindre mesure dans toutes les langues spcialises. Lexprience quelles transmettent ne se rduit pas la liste de leurs distinctions lexicales, elle est aussi incorpore aux expressions, aux prsupposs. Sauf que dans dautres activits, on nagit pas autant avec et par les signes. La particularit de lcriture mathmatique cest que presque toute action dpend delle. A plus forte raison doit-elle reflter les savoirs de la culture mathmatique. Elle semble le faire par des bribes de techniques quelle a assimiles, jusqu tisser un patchwork dans lequel chaque instant donn se drape linvisible ralit mathmatique, et ainsi prend forme. Lethnolinguistique rserve habituellement une telle fonction de mmoire culturelle aux textes, plutt qu la langue elle-mme. Dans notre domaine aussi les textes jouent de ce point de vue un rle bien plus important que lcriture, mais on doit constater quelle assume partiellement cette fonction de manire intrinsque. Il sagit alors de se demander comment cest possible. La question concerne plutt la diachronie. On peut cependant noter qutant un systme plus simple que la langue, lcriture mathmatique est sans doute plus apte tre modele par la culture quelle reprsente. Sa ddication des activits restreintes la rend plus mallable. A ceci sajoute la souplesse lie a une diffrenciation claire entre la norme et lusage (cf. 4.2) En somme, lcriture mathmatique est une construction qui na de raison dtre que si elle remplit adquatement sa fonction. Do cette activit smiotique que relevait Alain Herreman (cf. 2.3), activit qui au-del de son caractre personnel au moment de lcriture est un fait social propre cette culture dans son ensemble.

57

3.6 Rcapitulatif
Aucun mathmaticien ne prtendrait connatre lensemble de sa discipline. Pourtant on doit admettre que cet ensemble, les mathmatiques, existe dune manire ou dune autre. Cest un champ complet de la pense, dont les branches se rejoignent parfois et se rpondent toujours, et qui est reproduit en entier dune gnration lautre. Plus mme, cest un champ vivant anim par un imperturbable renouvellement. Dans cette dialectique entre transmission du savoir et diffusion des innovations, lcriture spcialise de la discipline joue un rle indispensable. Pour les mathmaticiens pris sparment, elle ne constitue quun des modes de reprsentation des faits ; par contre elle est prpondrante lchelon collectif. Autant il est plus simple de rflchir quand on voit les choses, autant les reprsentations visuelles sont propres chacun. La mise en cohrence des savoirs passe alors par lcriture mathmatique, aprs tout cest le rle normal dun moyen de communication. Or cela fait delle un enjeu culturel important ; tre ergonomique. A la recherche dune adquation toujours plus grande, la communaut des scripteurs place son criture sous une contrainte smiotique long terme. qui in fine y engendre des schmas typiques des ides quelle vhicule. Ces schmas ne sont assurment pas limage du savoir mathmatique en gnral, mais ils en synthtisent les notions et les thmes techniques essentiels. Lcriture mathmatique est en ce sens elle-mme un signe ; le signe de lintersubjectivit qui fonde les mathmatiques.

58

4 SYSTEME

Aprs avoir circonscrit, il serait juste de dcrire. Mais une vraie description du
systme de lcriture mathmatique sera un travail dampleur, qui ncessitera plusieurs annes. Dabord parce que le systme est large pour un systme artificiel, ensuite parce que cette fois, la dcomposition de lcriture mathmatique en sous-systmes nest plus ngligeable. Il est vrai que depuis prs dun sicle quasiment toutes les mathmatiques partagent lcriture de la thorie des ensembles, cependant des particularits subsistent qui sont trop intressantes pour tre ignores. Pour le moment, nous ne pouvons dans ce chapitre que rassembler des pistes soit sur lensemble du systme, soit sur certaines de ses spcificits qui nous ont parues importantes. Ces pistes seront ncessairement moins recherches que les exposs du chapitre prcdent : elles ne procdent en effet que dides, et non de thories. Dans les cas de la syntaxe et de la smantique, tout particulirement, nous nallons que poser quelques jalons, des penses ouvertes au dbat et lapprofondissement. Dabord, parce que nous devons lavouer nous avons tout simplement manqu de temps. Ensuite aussi parce que dans un champ si peu connu, la mise en place de conceptions pousses aurait t de la spculation abusive.

4.1 Smiographie
La smiographie soccupe de la typologie et du fonctionnement des signifiants graphiques au sein des systmes smiotique. Ce nest pas une discipline encore bien structure, mais elle connat en ce moment un certain essor. En 1988, le congrs de lassociation typographique internationale (ATypI) a adopt lide dune tude gnrale des signes crits, symboles, pictogrammes, etc. sous ltiquette unique de smiogrammes. Durant les annes 90, le terme smiographie est utilis par les orientalistes pour leurs analyses

59

des idogrammes chinois et japonais. En 2001, un colloque Strasbourg co-organis par le LEAPLE (UMR 8606 du CNRS) compare les points de vue des linguistes et des psychologues sur ce sujet. Cette anne est sous presse un livre interdisciplinaire rassemblant de nombreux articles sur les alphabets crits, les systmes graphiques, le rapport de lcrit au sens, etc. (Fayol, Jaffr et Pellat (Eds), The Semiography of Writing). Nous avons donc choisi de regrouper les quelques observations qui concernaient le ct graphique de lcriture mathmatique sous ce titre. A lorigine, la matrialit mme de ce graphisme joue un rle important. Elle supple la mmoire et influence la forme des signifiants. En diachronie, nous avons vu que les questions dimprimerie et de lisibilit prjugeaient de lavenir des notations. A prsent, nous sommes les contemporains dun changement profond de cette matrialit : lappariation de la publication assiste par ordinateur (PAO). Des programmes comme Mathematica et des traitements de textes, sappuyant sur un codage dun genre nouveau, le teX, permettent sans difficult dimprimer toutes les formes imaginables. Nul doute que la disparition de cette limite aura une profonde influence sur les nouvelles notations. Mais quelle que soit limportance de la matire crite, ce nest pas elle qui nous intresse pour le moment. Son tude est en smiologie de lcrit un quivalent de la phontique en linguistique. Or nous voulons ici nous proccuper de la pertinence de lcrit dans la perspective du systme.

4.1.1 Quasi-linarit
La syntaxe telle que nous la connaissons dans les langues est la fois provoque et conditionne par le caractre linaire de la chane signifiante parle. Elle permet dorganiser une pense aux multiples fils en une srie de monmes agencs sur une dimension unique. Or une des caractristiques principales du signifiant crit est quil stale sur deux dimensions. La plupart des auteurs soccupant de linguistique de la langue crite relvent ce fait. Ainsi, une partie de la combinatoire syntaxique dans lcriture mathmatique sopre par des liens entre le haut et le bas des signifiants, et non pas seulement entre la gauche et la droite. Lexemple le plus frappant est constitu par les matrices, qui sont comme des tableaux de valeurs, avec lignes et colonnes. Nous verrons quelles constituent un cas part.

60

Matrices exceptes, on peut citer les fractions (ou rapports), les indices et les exposants, les bornes (quon crit parfois sous le signifiant dune opration appliquer entre ces bornes). Et en fait, cest peu prs tout. Sauf quelques autres cas eux aussi spcifiques, tout le reste de la syntaxe fonctionne sur la ligne horizontale, comme si lon tait dans un systme signifiants linaires. On comprend bien pourquoi si lon oublie un instant lide classique des deux dimensions, et quon regarde une ligne dcriture. On voit quon pourrait virtuellement la prolonger linfini vers la droite (pour les systmes o lon crit dans ce sens), sans pour autant changer la nature de cette criture. Il suffirait de continuer crire des signes. Par contre, on ne pourrait pas le faire vers le haut ou vers le bas , sinon en augmentant la taille des signes. Ainsi, des lors que les systmes crits ont un sens dcriture, il est trompeur de dire quils sinscrivent en deux dimensions. Il y a en fait une disproportion norme entre la dimension du sens dcriture, qui est infinie, et lautre, qui est finie. Il ne sagit donc que dune linarit avec une paisseur, et non pas dune planit . Cest ce que nous appelons la quasi-linarit. Cette quasi-linarit ne signifie pas, bien sr, que nous pouvons directement appliquer lanalyse syntaxique classique ces chanes de signifiants. Ce quelle implique, cest que cette manire de faire de la syntaxe nest pas ici hors de propos. On peut cependant penser que ltude de la combinatoire qui a lieu dans la petite dimension de la ligne crite sera particulirement intressante.

4.1.2 Articulations
Longtemps, les linguistes ont considr que les signifiants crits ntaient pas dcomposables en units distinctives. Cela a selon nous particip lide hjelmslevienne dune criture mathmatique conforme. Ct substance, on simagine un dcoupage en signifis inscables (ce qui est aussi contestable), signifis auxquels correspondent ct expression des signifiants graphiques, que lon estime indcomposables. Mais sil y avait une deuxime articulation des signifiants graphiques ? Lide parat assez choquante pour un linguiste, mais plusieurs pistes mritent dtre explores avant que de rejeter ou accepter cette affirmation : la dcomposition en figures simples, la distinctivit plus culturelle du style dcriture (caractres gras, gothiques, cursive, etc.) voire de la casse. Enfin, une articulation partielle ne concernant que les nombres : la dcomposition en chiffres. Mais

61

avant de dtailler rapidement ces pistes, nous voudrions rappeler quen tout cas, le caractre oppositionnel du signe crit peut tre admis comme pralable. Saussure dailleurs sen est servi pour illustrer son propos sur la valeur, avec le clbre exemple du /t/ qui garde une seule valeur bien quon lcrive en ralit de manires diverses (cf. Cours de Linguistique Gnrale, p 65). Pour revenir larticulation, il y dabord la piste des typographes , ou la dcomposition des lettres et de tous les autres smiogrammes arbitraires en figures graphiques plus simples. Pour en comprendre le principe, imaginons-nous lalphabet des seules majuscules latines. Il est manifeste que parmi les infinies possibilits graphiques seules quelques-unes unes ont t choisies. Cela rejoint la valeur oppositionnelle dont nous parlions. A prsent, remarquons que certains des signifiants partagent des traits en commun. Le premier exemple qui vient lesprit est celui de /E/, /F/, /L/. Clairement dans ce cas on joue pour la distinction des lettres sur la prsence ou labsence de certaines lignes. Les typographes procdent cette dcomposition lorsquils inventent de nouvelles fontes. Ils savent que lon ne peut pas dessiner lune de ces lettres sans prendre en compte les autres. Ils tendent dailleurs cette mthode dautres sries :

/Y/,/T/,/I/,/J/ ou par exemple /O/,/Q/.

/D/,/P/,/R/ ou encore /V/,/W/ ou

Bref, il semble que lon puisse dconstruire ces lettres en des lments plus petits et dpourvus de signification. Il faudrait bien sr les rpertorier mieux systmatiquement, mais on peut dj prsumer quil y a bien une seconde articulation au moins partielle (au sens de Prieto) des capitales latines. Un des thmes du congrs dATypI de 1988 tait dlargir une telle dcomposition en figures lensemble des smiogrammes. Lhypothse principale tait quune telle analyse devrait combiner deux informations de type diffrent : lments archtypaux (figures gomtriques de base) et positions (dans un espace rectangulaire fonction de chaque alphabet). Ils seraient obtenus par commutation. Une telle dcomposition serait avant tout intrinsque aux alphabets ou aux jeux de smiogrammes employs contiguement. Mais comme en typologie phonologique, il y aurait probablement des universaux. Quoiquil en soit, lcriture mathmatique est compose partir de

62

plusieurs alphabets, et cette mixit pourrait expliquer certaines difficults qui ne disparaissent quavec la pratique, notamment concernant lalphabet grec. Une autre srie de traits distinctifs est celle constitue par le style des fontes. On sait quil y a pour les lettres des variantes italiques, grasses, cursives, barres, etc. Il sagit chaque fois dune mme proprit qui peut-tre absente ou prsente. Un coup dil rapide sur des crits mathmatiques montre que cette distinction est utilise : ainsi /N/ et

// ;

ou /C/, // et// ;

ou encore

/H/,// et //

peuvent par

exemple tre trouvs. Le problme, cest que vu la densit des logiques, ces distinctions ne sont pas tant distinctives que significatives. Ou plutt, elles ont toujours une signification dans lusage, mme si ce nest pas souvent le cas dans la norme, ou elles sont plutt distinctives. Mais comme nous le verrons dans la section smantique, lusage est tellement suivi quil faut le prendre en considration au niveau du systme. Il y a donc l certes une articulation, trs employe, mais qui concerne peut-tre plus la syntaxe et la smantique que la smiographie. La casse (ou distinction minuscules/majuscules) se trouve dans une situation quasiment inverse. Le peu de rapport graphique que peuvent avoir entre elles les variantes majuscules et minuscules dissuade de prendre cette discrimination en compte en smiographie. On vient tout dabord elle par la smantique, car cest une distinction pertinente pour la signification dans plusieurs cas. Mais, et ici il est obligatoire de diffrencier des sous-systmes smiotiques, elle lest peut-tre trop souvent. Dans un domaine, elle peut signifier la diffrence entre une fonction et sa primitive, dans un autre celle entre un nombre dit petit et un nombre grand , etc. Alors, peut-tre que la comprhension de son statut pourrait profiter dun approfondissement de la smiographie. Sinon, cela peut aussi relever de cette complexe distinction de lusage et de la norme, qui est lie aux sous-systmes Dans le doute, nous prfrons nous contenter den faire la mention. Le dernier type darticulation distinctive, contrairement aux deux autres, est indiscutable pour ce qui est de son existence. Par contre, la question de sa place doit tre creuse. Il sagit videmment de larticulation des nombres en chiffres, que les linguistes

63

connaissent bien pour lavoir utilis comme exemple lumineux de ce quest une deuxime articulation. Son principe est bien connu. Par contre, comment expliquer quil ne concerne quune petite partie de lcriture mathmatique ? A priori, ce fait laisse penser quil sagit de systmes distincts. Mais dans la classification de Prieto 1966, il est fait mention du fait que les units significatives dun systme peuvent trs bien ne pas tre toutes dcomposables en articulations dordre infrieur. Cest ce que Prieto appelle des articulations partielles. Elles peuvent selon lui apparatre aussi bien sur le plan du contenu que sur celui de lexpression. Dans notre cas, nous sommes en prsence dune articulation partielle de lexpression. Pour conclure, et bien que les observations que nous venons de faire ne soient que des chemins qui restent parcourir, il semble que nous nous placions dj en contradiction avec une certaine tradition de la smiologie. Elle est entre autres exprime par Malmberg 1977 en ces termes : Ce qui distingue surtout ces symboles, artificiellement crs, des signes du langage, cest que leur contenu sidentifie avec leur rfrent. Ils ne connaissent quun seul niveau, celui o le symbole global et indivisible traduit directement un contenu galement global et indivisible. Lopposition entre signifi et signifiant (contenu et expression) se rduit un simple rapport entre une manifestation matrielle et son contenu abstrait (Signes et symboles, p 19). En ce qui concerne lindivisibilit du contenu, elle nest pas si vidente, comme nous lavons vu au 3.2.2. Nous en reparlerons quelque peu en smantique. Mais pour celle de lexpression, nous devons percevoir que la question mrite un traitement un peu plus spcifique. Sans conjecturer trop vite, il ny a quune solution valable pour rsoudre cette question : continuer la recherche.

4.2 Lexique, ou rien, ou plus ?

La question du lexique est le point sur lequel lcriture mathmatique diffre le plus de ce que nous connaissons. Il y a une smantique deux niveaux (de normativit). Dune part, le niveau officiel , o ne sont dfinis que les oprateurs, et o le choix des variables sur lesquels les oprations sont excutes est compltement libre. Dautre part, le niveau officieux , dans lequel un trs grand nombre de signes ont une valeur smantique claire.

64

Ainsi, on est en droit de nommer une fonction quelconque ou ou 4 , mme si on ne le fera jamais, et quon lappellera le plus souvent f ou g . Cette ambivalence est due au statut particulier de la dfinition des termes, qui est une sorte de point de passage entre lobjet ou concept que lon tudie et lcriture qui va tre utilise. De prime abord, la dfinition des termes apparat recouvrir deux procds diffrents. Dune part, il y a la stipulation, qui pose que tel objet, dsign par tel signe, des proprits telles et telles. Dautre part, ce que nous appellerions la dfinition proprement dite, qui prsente un objet mathmatique dj connu, tudi par dautres. Elle dcrit ses diffrentes proprits, mais contrairement ce quil se passe dans la stipulation, personne ne dcouvre ou ninvente ces proprits. Mais en fait, cause du statut ontologique particulier des vrits mathmatiques (ou peut-tre cause de certaines tournures incontournables de la syntaxe qui le fixent) ces deux sens ne peuvent formellement en faire quun. En somme, les mathmatiques reposant sur lide de poser certains faits pour en dduire dautres, les deux genres de dfinition doivent poser leurs termes de la mme manire. Au sein de la phrase (ou proposition) qui sert de dfinition, il ny a en dernire analyse pas de diffrence entre quelque chose quon stipule ou quelque chose quon prsente. Les objets sont donc chaque fois nomms comme sil taient compltement neufs. Et dune certaine manire, ils le sont. Cela ne les empche pas dtre identiques ou similaires avec dautres objets prcdemment rencontrs par les mathmatiques. Dans ce cas, on utilise par commodit un signifiant connu pour leur tre associ. Il y a donc pour tous les signes de variables deux signifis possibles. Le signifi de base, qui dit seulement je suis une entit diffrente de celles qui ont un signifiant diffrent , et le signifi typique, qui est le constituant dun lexique. Du point de vue descriptif, le lexique des signes typiques a une ralit dans le systme, mais du point de vue des dfinitions explicites logiques qui en ont t faites, il ny a rien. Une tude de ces valeurs smantique usuelles permettra de prendre en compte ce ct dfinition au sein dun jeu de langage que Wittgenstein reprochait au rductionnisme de ngliger. Toutefois, une telle tude ne doit pas faire perdre de vue que cette ambivalence de la signification est en elle-mme fonctionnelle. Elle permet au systme dtre plus souple, lorsquon veut changer quelque chose. Ces valeurs usuelles se structurent en champs lexicaux, qui relvent de tel ou tel domaine. Si un mme signifiant est utilis dans deux domaines diffrents, on a une sorte dhomonymie peu gnante car elle ne prte pas confusion tant quon sait dans lequel on

65

est. Mais le but de la distinction en champs lexicaux est avant tout dobtenir des vocabulaires adquats chaque reprsentation, et dans lensemble il vaut mieux viter pour cela de telles homonymies. Par consquent, lcriture mathmatique a une tendance gnrale a senrichir de signifiants, emprunts des alphabets toujours plus exotiques . Quoiquil en soit, il faudra lavenir dcider du statut de ces champs lexicaux. Si on prenait en compte la rgle officielle , ils nauraient aucune existence dans la norme. Mais en tant que linguiste, nous savons que la norme nest pas la prescription officielle mais ce que les locuteurs (ou, en loccurrence, les scripteurs) font effectivement. Or ils font les deux : fidlit aux valeurs usuelles des signes ou parfois modification de celles-ci. La premire possibilit permet une comprhension commode et un usage immdiat, lautre permet dlaborer du neuf. Peut-tre faut-il alors distinguer un usage passif du lexique, similaire ce quon connat dans la langue, et un usage actif, propre un systme smiotique construit et travaill ? Indpendamment de cette premire question, la smantique lexicale se trouve encore complique par la question du domaine de rfrence. Dans son tude sur la topologie, Herreman se rend compte que les mmes signes et oprations sont interprts alternativement dans des cadres distincts. Une formule peut ainsi tre considre dans son sens en gomtrie, en algbre, en thorie des ensembles ou en arithmtique. Ce qui est intressant cest que dans un tel nonc, les relations tablies entre les signes sont les mmes, mais la substance laquelle renvoient leurs signifis est diffrente. Parfois, en fait, cette construction multi-plan est voulue. Elle permet de se reprsenter des mathmatiques trs abstraites dans un cadre de mathmatiques plus simples. Dhombres a tudi ce cas, quil appelle rle par analogie (p. 44). Les mots de la gomtrie sont rutiliss dans les espaces hilbertiens, et leur valeur gomtrique sert la comprhension quoiquil ne sagisse presque plus du tout de la mme chose. Cest une sorte dusage mtaphorique de tout un champ lexical, dont on reprend le dcoupage de la ralit mathmatique, car ce dcoupage correspond vaguement celui quon veut tablir ailleurs.

66

4.3 Modles syntaxiques

Ds lors quon a devant les yeux une srie de signes sur une ligne, on est en droit de penser quil y a une syntaxe qui les rassemble. Cela veut-il dire que cest une syntaxe apparente ce que nous connaissons en linguistique, une syntaxe que nous saurions analyser ? En pralable une analyse syntaxique, on doit se demander dans quelle mesure la nature de lcriture mathmatique prsente des spcificits propres influencer sa syntaxe. Dabord cest un systme crit, ce qui veut dire qu la lecture on peut revenir en arrire. Or le systme est le lieu o squilibrent deux complexits : la prcision smantique et la complication syntaxique (nombre de relations, longueur du syntagme etc. ). Lune ou lautre peut tre plus accentue, mais dans lensemble il faut que le rsultat atteigne le degr de complexit exige pour communiquer un sens donn. Avoir le syntagme devant les yeux et pouvoir linspecter permet de traiter une plus grande complexit syntaxique. On peut donc prsumer que dans un systme crit lextension de la syntaxe saccentue. Cest un peu lide de Vygotskij selon qui la syntaxe dun nonc crit est droule au maximum et formellement plus prcise que dans un nonc oral (cit in Vachek, Written language revisited, p 86). Toutefois, il faut indiquer que cette complication de la syntaxe ne concerne que le nombre de relations tablies dans le syntagme, et ne prjuge pas de la prcision de ces relations, qui est de lordre des distinctions entre fonctions. Dans cette perspective, la syntaxe de lcriture mathmatique serait plus distincte mais plus longue, plus prolixe que celle de la langue. Une autre raison pourrait prsager dun accent spcifique mis sur la syntaxe. Si lon en croit Eco 1984 (p. 23), les processus de signification seraient lartifice indfinissable que les tres humains, dans leur impossibilit davoir le monde entier (rel et possible) porte de main, mettraient en uvre pour suppler labsence des choses. Mais gnralement, au contraire des langues naturelles, lcriture mathmatique ne vise pas des choses absentes parce quelles sont trop loin ou parce quelles sont virtuelles, mais absentes parce quelles nont pas de prsence immdiatement sensible. La prsence des objets mathmatiques provient dun raisonnement qui doit tre partag. Quand chacun suit le mme raisonnement, les mmes objets se prsentent tous. Alors l o les langues

67

naturelles senrichissent de lexmes pour obtenir les choses distantes, lcriture mathmatique doit surtout stendre en syntaxe pour rendre routiniers ces raisonnements. Mais il ne faut pas croire pour autant quen criture mathmatique, toute signification vienne dune sorte de syntaxe excroissances multiples. Au contraire, lcriture mathmatique privilgie des syntaxes univoques. Les fonctions sont rparties de manire prcise, quoique avec une grande conomie de moyens : la position est en pratique le principal indicateur de fonction, mais elle est module par des marqueurs contrastifs (les parenthses, les crochets) et enrichie par un usage de la quasi-linarit (exposants, indices, barres de fraction, etc.). De plus, de nombreux oprateurs nadmettent quun type de dtermination, ce qui rduit la ncessit de fonctions mais allonge les phrases. On voit ainsi que laccent mis sur la syntaxe nest pas uniforme. Lcriture mathmatique privilgie certaines techniques syntaxiques, quelle dveloppe proportionnellement plus que le lexique, et en laisse dautres de ct. Les procds utiliss se regroupent ensuite en quelques modles syntaxiques de base ; lessentiel sera de les dterminer. Notre impression est que ces modles sont assez peu nombreux, moins que les champs lexicaux usuels que nous avions vu plus haut. De ce fait, on trouve frquemment un mme modle syntaxique utilis par plusieurs champs lexicaux. Faut-il distinguer dans un tel cas un sous-systme ou plusieurs ? Si on nen distingue quun, on se retrouve avec dans une mme classe de compatibilits des monmes qui ne commutent pas vraiment car il relvent de lexiques diffrents. Comme si lon avait deux langues diffrentes avec une syntaxe identique. Sauf que les deux tiers des lexmes nauraient de valeurs quusuelles La question des sous-systmes est complexe. Tant que le sujet naura pas rellement t trait, il serait plus prudent de parler indpendamment des champs lexicaux et des modles syntaxiques. Les deux principaux modles syntaxiques sont ceux de lcriture ensembliste (1) et ceux de lcriture algbrique (2). Ils sont peut-tre aussi ce qui parat le plus loign. En voici deux exemples : (1) (x,y), x+y (2) (a+b)x = ax+bx Les syntagmes sont construits assez diffremment. On remarque par contre quen (1) se glisse une expression algbrique, x+y. Dune manire gnrale, lcriture ensembliste peut

68

incorporer de larges portions algbriques, linverse ntant pas vrai. Il sagit dune situation o les tches de la communication on t rparties sur deux modles autonomes mais combinables. A lintrieur dun modle, il nous semble que la commutation et lexplicitation des compatibilits seront possibles. Malheureusement, ce nest quune conjecture : nous navons essay que deux ou trois fois, et des complications ne sont pas exclure. Lessentiel nous semble de ne pas trop se laisser influencer par la logique de la proposition ou du calcul et ne pas la calquer la lgre, comme si la syntaxe ne faisait que la reproduire. Par ailleurs, un problme que nous avons rencontr est la question du prdicat. Il faudra parfois raisonner progressivement, en cherchant le sens des dterminations et en les remontant , en quelque sorte, vers le point o elles convergent. Cependant, on peut penser que les relations entre des variables ressemblent des prdicats. Sauf les fois o lon dfinit une variable, auquel cas elle parat jouer ce rle. Quoiquil en soit, il faut examiner davantage et essayer des modles, ce que nous esprons pouvoir faire dans les annes qui suivent. Un autre problme est la manire dans la syntaxe fait sens. En langues, nous avons des rles smantico-rfrentiels qui se superposent aux fonction syntaxiques. Cest sans doute le cas aussi ici, mais ils sont peut-tre moins intuitifs. Et on peut supposer que les catgories mtasyntaxiques (par quoi nous entendons lactance, le procs, la qualit, etc. dans les langues) seront aussi assez diffrentes

69

CONCLUSION

De tous les points de vue, lcriture mathmatique met en uvre de la multiplicit conceptuelle. Elle permet dcrire deux expressions diffrentes dune seule quantit. Elle introduit des signes pour distinguer plusieurs variantes dun mme objet. Elle divise un raisonnement en tapes et une tape en manipulations. Ainsi elle rend disponible la connaissance la diversit engendre par des principes uniques, elle les reprsente. Il nest pas tant question dinformer du sens, ou de le commander, mais plutt de le mettre en scne, dinterprter des rles. Inscrit, visuel, cest un systme la matrialit presque tangible, sorte de roue de secours dans un champ tellement abstrait que certains lui reprochent son irralit. Travaill, culturel, il est une forme plastique et organise, en devenir constant. Ds lors, lcriture mathmatique peut tre vue sous langle de la ralit quelle constitue en-soi. Une ralit intime des mathmatiques, qui relie labstrait et le concret parce quelle est signe et parce quelle est manipulable, le lieu mme de construction de labstrait. Puisquil nest pas possible de confronter les ides neuves directement lunivers des objets mathmatiques, ni linverse dessayer chaque fois leur application dans lunivers physique, il est ncessaire pour les mathmaticiens de disposer dune ralit intermdiaire. Elle joue le rle des ralit absentes, exprimer et prouver. Mais puisquelle si foncirement une mdiation, elle se manifeste peu. Or cette ralit a son fonctionnement, sa nature complexe et htrogne. Certains des principes qui la structurent nous sont familiers, dautres nous tonnent et nous poussent mconnatre ltranget qui les anime. Nous sommes un peu perdu face cela. De fait, nous navons pas pu dans ce mmoire faire le tour de cet inconnu. Nous nous sommes attard sur certains points au dpend dautres, peut-tre plus intressants, comme la nature smantico-syntaxique des calculs ou la propension heuristique interne du systme. Si ces manques furent loccasion dune dsillusion, nous serions dj trs heureux que ce travail montre quelque peu dans quelle mesure lcriture mathmatique offre prise lanalyse linguistique. En somme, vous avez sous les yeux une rflexion qui nest pas scientifique dans labsolu, mais qui est la condition ncessaire dune recherche qui le serait.

70

ANNEXES
A.- Champs des mathmatiques, daprs le Leksykon Matematyczny

Au sein des mathmatiques, on peut distinguer des parties de diffrentes manires. Il y a la catgorisation par diffrences historique, par domaines de recherches, par techniques dtude ou par les notations employes. De telles catgories sont souvent corrles, mais elles ne se recoupent pas pleinement, surtout pour ce qui est des notations. En effet, les diffrentes familles de notations sont presque toujours communes plusieurs, voire toutes les branches. Cela montre que ces notations ne sont pas lies telle ou telle proccupation densemble, mais des objets tout-terrains et des thmes techniques prcis (calcul des limites, oprations sur les ensembles, quations algbriques, etc.). Cela explique aussi pourquoi il est important quelles sintgrent syntaxiquement et smantiquement les unes aux autres : pour traiter un sujet on utilise constamment plusieurs de ces thmes techniques. Mme un chercheur trs spcialis connatra la plupart des types de notation. Voil une raison supplmentaire pour considrer quelles ne sont pas des systmes de signes distincts mais des sous-systmes dune entit plus large. Dans cette annexe, nous nous contentons dexposer la catgorisation classique en branches, pour information gnrale. Une vraie tude du systme devra, elle, commencer par la mettre en correspondance avec celle, transversale, des sous-systmes dcriture.

71

Branche

Proccupations
1 Mise en place densembles lmentaires ; 2 Description densembles souvent utiliss ; 3 Dune manire gnrale, tayage des autres thories. A lorigine, lalgbre tudiait la rsolution dquations. A prsent elle soccupe

Thorie des ensembles

Algbre

dentits abstraites (groupes, anneaux, corps) qui rsument les proprits des oprations appliques aux nombres. Lanalyse est un domaine assez htroclite, qui regroupe les tudes dtailles

Analyse

des proprits de certains objets mathmatiques de base, comme les fonctions, les nombres complexes, les intgrales.

Statistiques et thorie des probabilits

Ces domaines concernent lobtention de donnes numriques quantifiant divers vnements et phnomnes. Le but est den tirer des informations pertinentes qui puissent donner leur mesure et prdire des rsultats. 1 Etude des espaces, de leurs mesures et de transformations en leur sein, de la

Gomtrie et Topologie

manire la plus gnrale possible (pour que les rsultats puissent tre rutiliss ailleurs). 2 Etudes formelles approfondissant la gomtrie euclidienne

72

B.- Limitation de larbitraire et multiplication des logiques

(cf. Cours de Linguistique Gnrale, p 100, p 157 et p 180 s.)

Larbitraire recouvre un double fait : 1 le lien entre signifiant et signifi na aucune cause naturelle mais est pure convention ; 2 en cela, larbitraire appelle ncessairement un dcoupage du systme en valeurs oppositives, ou relatives. Toutefois, Saussure affirme aussi quil existe une limitation de cet arbitraire dans la langue. Cette limitation serait lie la fois aux relations syntagmatiques et aux relations associatives qui stablissent au sein du systme. Un signe serait relativement motiv lorsquil voque les termes dont ils se compose et dautres qui lui sont associs . Saussure souligne limportance de cette limitation de larbitraire, et il le fait lors de son 3me cours, c'est dire un moment o ses opinions et le choix de ses termes ont dj t assez rflchis. Nanmoins, au vu de la mthodologie actuelle, larbitraire relatif pose un grand problme. Ct syntagmatique, Saussure explore dans ce passage des relations qui pour nous sont soit dissocies (deux monmes spars), soit unies (en synthmes ou en monmes, dont ltude revient pour nous plutt la lexicologie). Ct associatif, il distingue des relations dvocation privilgie, peu tudies aujourd'hui que les paradigmes concernent plutt les classes de compatibilits. Du point de vue contemporain, la limitation de larbitraire est donc une notion trop imprcise. Si poirier est relativement motiv, quelle est la relation syntaxique entre poir- et -ier ? Et est-ce quun syntagme plus grand, voire complet, ne pourrait tre dans ces conditions relativement motiv ? Evidemment non, mais pourquoi ? Parce que, peut-tre, Saussure sillonne une sorte dentourage immdiat du signe dans le systme. Or nous navons pas de critres rigoureux pour dfinir une proximit dans le jeu de relations. De plus, il utilise une conception de la syntaxe assez inactuelle. Il faudrait donc une rflexion thorique plus approfondie et indpendante du prsent mmoire pour pouvoir utiliser avec sret la notion darbitraire relatif (ou labandonner). Si nous lemployons malgr tout, cest parce quil nous a paru impossible de ne pas le faire. A plusieurs reprises, nous avons remarqu que la raction la plus claire du systme face la contrainte qui sexerce sur lui ressemblait de la limitation de larbitraire. Cest dire quil y a une propension lanalogie, au sens large, avec lentourage immdiat. Nous

73

admettons que cest assez vague, et de fait cette tendance se ralise de diffrentes manires. Pour rendre un peu compte de cette diversit, voici quelques exemples : Lorsquon nomme des objets qui font partie dune srie, les signes quon attribue sont aussi en srie, du type : a0, a1, a2,

ou u, v, w ou , , , etc.

Comme dans le premier cas on peut commuter les indices, il y a l de la syntaxe petite chelle, comme pour le vacher de Saussure (mme si dans limaginaire linguistique se sont plutt des signes entiers). Dans une mme logique, quand des signes dsignent des objets similaires par leurs proprits ou leur statut dans la discipline, leur notation tend suniformiser. Ainsi : , , , , dnotent tous des ensembles fondamentaux de nombres. Contrairement au cas prcdent, il ny a pas particulirement dutilisation simultane de ces termes, et ici l entourage immdiat est plutt une question dvocation des concepts. Lanalogie, elle opre sur laspect graphique du signifiant, en systmatisant lusage dune figure smiographique, qui devient alors significative. On peut aussi systmatiser des indicateurs de fonction. La notation de lintgrale comporte la mention des bornes entre lesquelles on intgre. Elles sont indiques en bas et en haut du signe . Cette position spcifique est du point de vue de la syntaxe une indication de fonction. Or cette position est prsent systmatique pour de nombreuses autres actions ou opration. Ici, lanalogie agit partir dune parent du schma abstrait de combinaison smantique des ides. (lide dopration avec celle de bornes). Il y a aussi une limitation de larbitraire non plus au sein du systme mais en prenant en compte les autres systmes de signes alentour. Ainsi, la connotation produit une sorte de relativement motiv : pour produit, pour somme, pour complmentaire, pour existence, pour rels, etc. Enfin, il y a une construction de signes nouveaux relative ceux qui prexistaient, dans la droite ligne des exemples saussuriens : - // double implication (quivalence) , relatif // implication - / / infrieur ou gal , relatif /</ infrieur et /=/ gal

74

On pourrait donner beaucoup dautres exemples. En fait, il serait plus difficile de trouver des signes ne portant aucune trace de limitation relative de larbitraire. Tout se passe comme si le signe, lintersection daxes, aussi bien nos habituels syntagmatique et paradigmatique que ceux, varis, de la parent smantique et ceux, encore moins tudis, qui le relient sa dnotation (dans la ralit mathmatique ) et sa connotation (dans dautres systmes de signes), comme si le signe, donc, sinspirait de la nature de ses proches sur ces axes, et changeait en consquence. Sauf que bien sr le signe ne fait pas cela tout seul . A lorigine de cette tendance multiforme lanalogie, il y a la main du scripteur, ou plutt laction anonyme et peu consciente de la communaut crivante. Cette pression exerce constamment, cest la contrainte smiotique dont lampleur est caractristique du systme de signes dit artificiel. En consquence, le moindre dtail du signe peut se prter la signification et tre systmatis des signes associativement proches. Cest cette tendance tendre la signification tout que nous dnommions multiplication des logiques plus haut.

75

LEXIQUE

algorithme
Suite de raisonnements, dactes ou de calculs ritrs, prvue lavance de manire ce quelle aboutisse automatiquement une solution.

Begriffsschrift
Ecriture des concepts , invente par le trs formel Frege avec pour but de calculer si une proposition complexe est vraie ou fausse (valeur de vrit) partir de la valeur de vrit des propositions simples la constituant. Graphiquement, le Begriffsschrift se prsente comme une arborescence de flches assez complique. Si le raisonnement densemble t en grande partie conserv comme base de la logique formelle, la mthode de notation en flches fut vite abandonne. Du point de vue de lcriture, on peut interprter ce destin soit pour affirmer que laspect graphique ne compte pas et peut tre chang volont, soit au contraire pour dire quun systme graphique doit satisfaire des exigences dergonomie.

calcul
Daprs Crump, il est la ralisation de lexigence oprationnelle envers la langue des nombres (lautre exigence tant lexigence nominative). Il signale aussi ltymologie du mot (lat. calculus, petit caillou) qui indique quil sagit toujours de concrtiser un problme abstrait . (Crump 1995, pp. 67-70). Cette ralisation est donc une mise en pratique, ncessairement mdiatise : il faut un moyen de calcul, qui la fois moyen dexpression et de manipulation.

intersubjectivit
Terme husserlien dsignant ce par quoi je peux connatre lautre, accder une transcendance et ainsi faire, ou tre sens. Lorsque nous disons intersubjectivit des mathmatiques , il sagit de ce par quoi chacun est alter ego de chacun en mathmatiques, c'est dire principalement la logique du raisonnement et les techniques employes. La transcendance laquelle on accde ainsi est le statut (tudi et critiqu par Rotman) particulier de lauteur de raisonnements : ni individualit (car ces

76

raisonnements doivent tre reproductibles par chacun), ni communaut, car le raisonnement vient dune ide originale.

jeu de langage
Terme de Wittgenstein marquant la complexification progressive de son point de vue sur le langage. Les jeux de langages sont des mini-langues (repres dans la ralit ou imaginaires), intimement lies un contexte dorigine dans lequel les mots sont dfinis par pointage, etc. Lide densemble est dillustrer le lien que voit Wittgenstein entre contexte et systme valeurs oppositives, lien qui serait le fondement de la signification. Voir aussi la dfinition comparative au 2.4

langagier
A la relecture, nous nous sommes aperu que nous avions frquemment employ ce terme, sans pourtant quil soit dfini de manire convenable. Il concerne tout mode dexpression formant systme, lorsque cette expression est linaire (ou assimile) et quelle se prte une syntaxe.

thorie des ensembles

Discipline cre par Georg Cantor dans les annes 1880, elle avait pour objectif de mieux dfinir la notion dinfini. Le concept abstrait densemble se prcisant, sa pertinence dans presque toutes les mathmatiques fut reconnue. Ds lors, il a t employ pour dfinir les objets mathmatiques, provoquant au passage la reprise gnralise de son type dcriture

77

BIBLIOGRAPHIE

Cette bibliographie regroupe deux ensembles de textes : ceux qui nous ont servi la rdaction de ce mmoire, dont certains sont brivement comments, et ceux qui traitent du sujet mais que nous navons pas eu la possibilit dapprofondir. Si nous avons choisi de faire aussi figurer ces derniers, cest pour que cette liste puisse servir aussi pour des recherches ultrieures.

ANDERSEN, p Bogh (1990), A theory of computer semiotics: semiotic approaches to construction and assessment of computer systems, Cambridge, Cambridge university press, 416p ANDR, Dsir (1909), Des Notations mathmatiques : numration, choix et usage, Paris, GauthierVillars, 502p ANTAL, Layos (1963), Questions of meaning, La Haye Parle du relativement motiv, de larbitraire relatif APOSTEL, L. et MANDELBROT B. (1957), Logique et langage considrs du point de vue de la prcorrection des erreurs , in Logique, langage et thorie de l'information, Paris, PUF, pp. 79-172 AFNOR (Association franaise de normalisation) (1996), Mathmatiques : vocabulaire, signes, symboles et notations, Paris-La Dfense, 301 p HEIBERG, J. Y. (1913-15), Codex rescriptus Metochi Constantinopolitani S. Sepulchri monasterii Hierosolymitani, attribu Archimde BABBAGE, Ch. (1827), On the influence of signs in mathematical reasoning, in Mathematical papers, London, W. Pickering 1989, 456 p

78

BACHELARD, Gaston (1938), La formation de lesprit scientifique, BAECKER, Dirk (ed) (1999), Problems of form, Stanford (Calif.), Stanford university press 1999 BARBAULT, Marie-Claire et DUCROT, Oswald (eds) (1971), Linguistique et mathmatiques : Langue Franaise 12/1971, Paris, Larousse BARON, Naomi S., (1994), Speech, writing and sign : a functionnal view of linguistic representation, Ann Arbor (Mich.), UMI Books, 303 p BARUK, Stella (1993), C'est dire : en mathmatiques ou ailleurs, Paris, Seuil, 265 p BASELLI, Giovanni Alberto (1787), An Essay on mathematical language; or, an Introduction to the mathematical sciences, London, C. Dilly, 440 p BENTHEM, Johan van et MEULEN, Alice G.B (ds) (1997), Handbook of logic and language, Cambridge (Mass.), MIT press, 1247 p BOURBAKI, N. (1969), Elments dHistoire des mathmatiques, Paris, Hermann, 2e dition revue, corrige, augmente, 326 p BOURDIEU, Pierre (2001), Science de la science et rflexivit : cours du Collge de France 20002001, Paris, Seuil, 237 p BOURDIEU, Pierre ; ENCREVE, Pierre ; LABOV, William (1983), Le Changement Linguistique : entretien avec William Labov , in Lusage de la parole, Actes de la recherche en sciences sociales n 46, mars 1983, pp. 67-71

CAJORI, Florian (1928), A history of mathematical notations, Dover Publications, New York, 1993, 367 p CALMET, J. et CAMPBELL, J.A. (1996), Third International conference Artificial intelligence and symbolic mathematical computations (Styr, 1996), Berlin, Springer Verl., 305 p

79

CAUTY ZIRNHELT, Andr (1987), L'Enonc mathmatique et les numrations parles : contribution pluridisciplinaire l'tude de la mise en signes de conceptualisations mathmatiques, ANRT, Grenoble COBB, Paul; YACKEL, Erna et MCCLAIN, Kay (2000), Symbolizing and communicating in mathematics classrooms : perspectives on discourse, tools, and instructional design, London, Lawrence Erlbaum Associates, 411 p COLOMBEL Vronique de ; TERSIS Nicole (eds) (2002), Lexique et motivation : perspectives ethnolinguistiques, Leuven, Peeters, 263 p CONDAMINE, Marcel (1996), Langage, logique, dmonstrations et vrit mathmatique, Vitry-surSeine, Aguer CRUMP, Thomas (1995), Anthropologie des nombres: savoir-compter, cultures et socits, Paris, Seuil, 293 p DELEUZE, G. (1968), Spinoza et le problme de lexpression, Les Editions de Minuit, Paris 1998, 332 p DEHAENE, Stanislas (1996), La bosse des maths, Paris, Poches O. Jacob, 1997, 369 p DESANTI, J.T., APOSTEL, L. (1970), Lexplication dans les mathmatiques , in L'Explication dans les sciences : Colloque de l'Acadmie internationale de philosophie des sciences (Genve, 25-29 septembre 1970), Paris, Flammarion, 1973, 232 p DHOMBRES Jean (1981), Lcriture mathmatique : sminaire philosophie et mathmatiques de lENS, Villetaneuse, Impr. de l'IREM Paris-Nord 1984, 47 p DREYFUSS, Henry (1972), Symbol sourcebook : an authoritative guide to international graphic symbols, New York, McGraw-Hill Book Company DUBOIS, Michel (2001), La nouvelle sociologie des sciences, Paris, PUF, 256 p

80

DUCROT, Oswald ; SCHAEFFER, Jean-Marie (1995), Nouveau dictionnaire encyclopdique des sciences du langage, Paris, Seuil, 670 p ECO, Umberto (1984), Smiotique et philosophie du langage, Paris, PUF 1988, 285 p EHLICH, Konrad ; COULMAS, Florian ; GRAEFEN, Gabriele (eds) (1996), A Bibliography on writing and written language, New York, Mouton de Gruyter ESCOFIER, Jean-Pierre et PENNEC, Jos (1993), Des mots en mathmatiques, IREM de Rennes FAYOL, Michel ; JAFFRE, Jean-Pierre ; PELLAT, Jean-Christophe (Eds) (SOUS PRESSE-2003), The Semiography of Writing : Scripts and Linguistic Meaning, Dordrecht, Amsterdam; Kluwer Academic Publishers JACOBI, Daniel (1999), La communication scientifique : discours, figures, modles Grenoble, Presses universitaires de Grenoble, 277 p GAMBARELLI Gianfranco ; UCKI Zbigniew (1998), Jak przygotowa prac dyplomow lub doktorsk, Krakw, Universitas, 154 p GRANGER, Gilles-Gaston (1979), Langages et pistmologie, Paris, Klincksieck, 226 p GUMMERUS, Edvard Robert Gregorius (1964), Symbol och syntax : tnkesprk, Helsingfors, Sderstrm, 57 p HALLIDAY, Michael Alexander Kirkwood ; MARTIN, J. R (1993), Writing science : literacy and discursive power, London, Falmer, 283p HARRIS, Roy (1994), La smiologie de l'criture, Paris, CNRS d., 377 p HEIJERMAN, E. ; SCHMITZ, H. W. (eds) (1986), Significs, mathematics and semiotics : proceedings of the International conference, Bonn, 19-21 November 1986, Mnster, Nodus Publikationen 1991, 208 p

81

HERREMAN Alain (2000), La topologie et ses signes : lments pour une histoire smiotique des mathmatiques, Paris, L'Harmattan Alain Herreman tudie plus particulirement lcriture de la topologie algbrique. Cest un historien des mathmatiques avant tout, mais il travaille minutieusement sa connaissance de la smiologie avant de conduire son analyse, approfondissant surtout Hjelmslev. En consquence, son expos est un des plus abouti du genre smiologique sur lcriture mathmatique. Il veut montrer quil y a derrire lide nave dabstraction formelle une paisseur smiotique faite de diversit, dinvention et de multiplicit des contenus. HINTIKKA Jaakko (1998), Questions de logique et de phnomnologie, Paris, J. Vrin, 338 p HURFORD, James Raymond (1987), Language and number : the emergence of a cognitive system, Oxford, Blackwell, 322 p HUSSERL, Edmund (1891), Philosophie de lArithmtique, trad., notes, remarques et index par Jacques English, Paris, PUF, 1992, 467 p IFRAH, Georges (1981), Histoire universelle des chiffres, Paris, Seghers, 567 p GRELUM (Groupe de recherche et d'exprimentation, langage usuel et langage mathmatique) (1979), Langage mathmatique, Nancy, IREM de Lorraine, 77 p Smantique du langage mathmatique ; langage mathmatique et syntaxe ; orient surtout vers lenseignement. IVANOV, Viatcheslav Vsevolodovitch, Einfhrung in allgemeine Probleme der Semiotik, Tbingen, G. Narr, 1985, 410 p KEMPISTA, Maria (red), May sownik cybernetyczny, Warszawa, Wiedza Powszechna, 1973, 533 p KORDOS, Marek ; SKWARCZYSKI Maciej ; ZAWADOWSKI Wacaw (eds) (1993), Leksykon Matematyczny, Warszawa, WP, 995 p Un compendium de haut niveau, travail dampleur qui a lavantage de prsenter une vision synoptique des mathmatiques modernes, ce qui est rare vu leur tendue.

82

LAND, Frank William (1975), The language of mathematics, London , J. Murray, 264 p LENOIR, Timothy (ed) (1998), Inscribing science : scientific texts and the materiality of communication, Stanford, Stanford university press LIUNGMAN, Carl G. (1995), Thought signs : the semiotics of symbols (western non-pictorial ideograms), Amsterdam, IOS Press, 698 p MADDOX, Randall B. (2001), Mathematical thinking and writing : a transition to abstract mathematics, San Diego, London, 304 p MALMERG, Bertil (1977), Signes et symboles : les bases du langage humain, Paris, Picard, 456 p MATALON, Benjamin (1996), La construction de la science : de l'pistmologie la sociologie de la connaissance scientifique, Lausanne, Delachaux et Niestl, 230 p MEHRTENS, Herbert (1990), Moderne, Sprache und Mathematik : eine Geschichte des Streits um die Grundlagen der Disziplin und der Subjekts formaler Systeme, Frankfurt am Main, Suhrkamp Verl MUNROE, Marshall Evans (1963), The language of mathematics, Ann Arbor, University of Michigan Press, 94 p MURAWSKI, Roman (2001), Filozofia matematyki : zarys dziejw, Warszawa, PWN, 252 p NIKITINA, Serafima Evgenevna (1987), Semanticheskii analiz iazyka nauki : na materialelingvistiki, Moskva, Nauka, 141p PEIRCE, Charles Sanders, Collected papers, Cambridge 1931-1935 PESENTI Mauro ; Xavier SERON (dirs) (2000), Neuropsychologie des troubles du calcul et du traitement des nombres, Marseille, Solal, 273 p PHILLIPS, A. (1956), Setting mathematics, in Monotype Corporation, Monotype recorder , vol. 40, no. 4, 32p

83

PLYA, George (1957), Comment poser et rsoudre un problme ?, Sceaux, J. Gabay, 1989, 237 p PRIETO, L. (1966), Messages et signaux, Paris, PUF, 165 p RACHWALOWA, Maria (1986), Slownictwo tekstw naukowych, Wroclaw, Zaklad narodowy im. Ossolinskich, 97 p ROBERT, Pierre (1972), Langage et thories dans les mathmatiques nouvelles, Paris, A. Michel, 1972, 251 p ROTMAN, Brian (1993), Taking God out of mathematics and putting the body back in : an essay in corporeal semiotics, Stanford, Stanford university press, 203 p ROTMAN, Brian (2000), Mathematics as sign : writing, imagining, counting, Stanford, Stanford University Press, 167 p ROUECHE, Nelda W. et MINK, Barbara Washburn (1979), The language of mathematics, London, Prentice-Hall, 500 p SAVORY, Theodore H. (1967), The Language of science, London, A. Deutsch, 173 p SCHULTE, Joachim (1989), Lire Wittgenstein, Combas, Editions de lclat, 1992, 223 p SEMINAIRE INTERNATIONAL E. GALION (1970) (Royaumont), Le Langage mathmatique, Paris, O.C.D.L. 1971, 159 p SERVIEN, Pius (1938), Le langage des sciences, Paris, Hermann SKEMP, Richard Rowland (ed) (1982), Understanding the Symbolism of Mathematics, Visible Language XVI, 3, Cleveland, 304 p SKEMP, Richard Rowland (1986), The psychology of learning mathematics, Harmondsworth, Penguin, 295 p

84

STEINER George (2001), Grammars of creation, London, Faber and Faber, 2002, 288 p SOUISSI, M. (1968), La Langue des mathmatiques en arabe, Tunis, Universit de Tunis, 466 p TRO, Gueyes (1980), tude phonique de quelques systmes de numration, Abidjan, T. Gueyes, 108 p VACHEK, Josef (1989), Written language revisited, Philadelphia, J. Benjamins, 221 p VAN GENNEP, A. (1909), Essai dune thorie des langues spciales , in Religion, Murs et Lgendes : essais dethnographie et de linguistique, pp. 285-317 Mercure de France, Paris 1914, 321p. VERINE, H. (ed) (2000), Les sciences et leurs langages, Ed. du CTHS 365 p VINCIGUERRA, Lucien (1999), Langage, visibilit, diffrence: histoire du discours mathmatique de l'ge classique au XIXe sicle, Paris, J. Vrin, 370 p VYGOTSKIJ, L. S. (1934), La pense et le mot , in Vygotsky aujourdhui, B. Schneuwly and J. p Bronckart (eds.), p 6794, Neuchtel, Delachaux & Niestl 1985 WILLIAMS Margaret (1982), Early mathematical language, London, Macmillan Education WITTGENSTEIN, Ludwig (1956), Remarques sur les fondements des mathmatiques, Anscombe, Rush Rhees et von Wright (eds), Lescourret (trad.), dition revue et augmente, Paris, Gallimard 1983, 351 p ZAWADOWSKI, L. (1958), The So-called Relative Motivation in Language, in Proceedings of the 8th Congr. Ling., Oslo, p420-422 ZESIGER, Pascal (1995), crire : approches cognitive, neuropsychologique et dveloppementale, Paris, PUF, 254p

85

WEBOGRAPHIE

TEXTES: http://www.math.uncc.edu/~sae/ Semiotics in Mathematics Education : Des articles en ligne en entier, principalement des didacticiens des mathmatiques sintressant la smiologie http://www.univ-nancy2.fr/ACERHP/colloques/symp02/abstracts/herreman.pdf Texte dune intervention de Herreman sur les signes de la thorie des ensembles http://www.stephenwolfram.com/publications/talks/mathml Par Stephen Wolfram, diteur du programme Mathematica et essayiste genre visionnaire. Prsentation assez dtaille sur lcriture mathmatique, du point de vue de son histoire et de son avenir. http://www.ltm.ens.fr/chercheurs/lassegue/cours/cours1999-2001/sciencescog.html Sminaire de Lassgue sur le symbolisme, plan du cours ayant trait aux approches cognitivistes du symbolisme mathmatique. (philosophe faisant partie du LaTTICe, labo du CNRS sur le traitement automatique des langues)

CHERCHEURS : http://www.ehess.fr/centres/koyre/personnes/dhombres.htm Le site de lhistorien des mathmatiques Jean Dhombres http://www.wideopenwest.com/~brian_rotman/ Le site du smiologue Brian Rotman. http://main.amu.edu.pl/~rmur/ Celui de Roman Murawski : Epistmologie, fondements et philosophie des mathmatiques.

SEMIOGRAPHIE : http://cgm.cs.mcgill.ca/~luc/math.html mathematical fonts : index de sites soccupant des aspects typographiques du symbolisme mathmatique.

86

http://www.ac-poitiers.fr/math/tex/ un site ddi au traitement de textes teX http://www.vjf.cnrs.fr/umr8606/DocHtml/EQUIPES/m3-2-4.htm unit Litracie du LEAPLE

DIVERS: http://www-mathdoc.ujf-grenoble.fr/MATH/math-fr.html Zentralblatt : Lexcellent moteur de recherche darticles de mathmatiques de luniversit de Grenoble. Articles de toute lEurope depuis 1931 http://villemin.gerard.free.fr/Esprit/Date2000.htm une chronologie des mathmatiques

87

http://members.aol.com/jeff570/mathsym.html Earliest Uses of Various Mathematical Symbols ; fait partie dun site plus grand concernant lhistoire des mathmatiques de manire assez simplifie mais compacte. Websites relevant to the History of Mathematics http://www.maths.tcd.ie/pub/HistMath/Links.html Fait partie du mme site et renvoie de nombreux liens dhistoire des mathmatiques http://mally.stanford.edu/ The Metaphysics Research Lab laboratoire de recherche de mtaphysique de luniversit de Stanford. Ce groupe est lorigine dune des rcentes thories sur les objets abstraits en mathmatique. Ce programme trs ambitieux reprend les thories passes et les formalise pour expliquer le statut ontologique des objets mathmatiques. http://www.ehess.fr/centres/koyre/Centre_A_KOYRE.html Centre de recherche A. Koyr sur lhisoire, la sociologie et la philosophie des sciences. http://www.ethnomath.org/ Ethnomathematics Digital Library : lethnomathmatique est une nouvelle discipline qui tudie la pense dordre mathmatique dans les diffrentes cultures. Cette page est un moteur de recherche darticles.

88

Remerciements

Je remercie tout particulirement Emilia Verzeni et David Maignan, qui plusieurs occasions mont donn leurs points de vue clairant sur des problmes complexes, en linguistique et en mathmatiques. Hang Ung, Emmanuel Parmentier et Benjamin Doudeau mont patiemment inform de leur pratique de lcriture mathmatique. Michle Wertheim, Franois Dhiver, Flore Coulouma et Sophie Bourdeau de leur conceptions linguistiques. Samuel Hayat,Thomas Bartz et leurs ami(e)s illuminrent de leurs propos moultes et confuses nigmes de lepistm . Aussi importante que fut leur contribution intellectuelle, il nen est pas moins vident que je porte lentire responsabilit des erreurs et imprcisions ventuellement commises dans ce mmoire. Enfin, ma famille toute entire fut un soutien inestimable, les grands par leur aide et leurs encouragements constants, les petits par leurs interruptions heureuses.

89