Vous êtes sur la page 1sur 9

METALANGAGE et EPISTEMOLOGIE

Quand on doit prsenter Hjelmslev brivement, que dit-on de lui ? Que cest un
linguiste la fibre thoricienne trs dveloppe, au point de comparer lanalyse
linguistique un calcul algbrique ; quil sinscrit dans la tradition de la linguistique
saussurienne ; mais quau moment du dveloppement de la linguistique structurale, son
opposition aux vues de Prague (celle de Jakobson, en particulier) la maintenu lcart,
dans une certaine opacit.
Subsidiairement mais le subsidiaire a souvent pris le pas sur le principal ,
Hjelmslev est connu pour avoir donn des dfinitions aux notions de connotation et de
mtalangage1. Or, la notion de connotation, en linguistique comme en dautres
smiologies (narratologie, smiologie du cinma, etc.), a eu un destin trs riche trop
riche sans doute, puisque la notion a t abandonne au fur et mesure que lon
progressait dans les matires quelle avait permis de dcouvrir. De mme, le got pour
les figures de mise en abyme et de rflexivit ont relay en les faisant fructifier les
propositions hjelmsleviennes sur le mtalangage ; mais ce got na pas su endiguer la
rputation logicisante et formalisante du concept, dont le verdict lacanien Il ny a pas
de mtalangage a stopp net toute utilisation gnraliste. Cette postrit, dabord
glorieuse, puis conteste, faite aux notions de connotation et de mtalangage a cr un
hiatus dans la connaissance de luvre de Hjelmslev.
Il nest pas interdit de penser que Hjelmslev connaisse une part de responsabilit
dans linstauration de cet hiatus. De fait, le mtalangage pose, avec la connotation, une
nigme dans son uvre. Aucun article ne dveloppe ces notions. Il faut se satisfaire de
ce que le linguiste en dit dans ses grandes sommes thoriques, o elles figurent
invariablement en fin de parcours, dans la plus abordable, Le Langage2 comme dans la
plus sotrique, le Rsum dune thorie du langage, en passant par la plus clbre, les
Prolgomnes une thorie du langage. Or, mme l, il nest pas ais de dterminer
quelle importance leur est accorde au sein de lensemble.
Ces prcautions oratoires tant prises, il apparat que le mtalangage pourrait
bien jouer un rle capital au sein des proccupations thoriques de Hjelmslev. Ainsi,
quand dans Le Langage celui-ci crit :

La linguistique a pour but dtablir une mthode au moyen de laquelle on puisse


dcrire des langues. Cela se fait par lintroduction dune langue permettant la
description de langues. On appelle mtalangue une telle langue descriptive, et
langue-objet la langue dcrite. (1966 : 175)

1
on peut estimer que cest bien louvrage Le Langage qui tablit cette mthode de
description. Plus loin, on lit :

Comme toutes les sciences, mais la diffrence des langues quotidiennes, la


grammaire doit, dans la plus large mesure possible, dfinir ses propres signes.
(1966 : 176)

Nest-ce pas ce quoi sest attach Hjelmslev ? Les Prolgomnes prsentent bien, in
fine, des dfinitions des signes que la linguistique utilise pour dcrire son objet. Le
mtalangage aurait donc voir avec la thorie gnrale du langage ; il en serait le
reprsentant dans la thorie elle-mme. Cest peine forcer le texte daffirmer que le
mtalangage constitue, la fin des Prolgomnes, une sorte de mise en abyme !
cela, du reste, il ny a rien dtonnant, puisque la thorie formelle affiche, en
son immanence, le dfi dune science linguistique purement spculative. Avec le
mtalangage, Hjelmslev clt la boucle en revenant une dernire fois sur ce qui a fait
lobjet mme de son ouvrage. Que celui-ci ne soit cependant que des prolgomnes
marque peut-tre la limite dun tel systme : comment concevoir une suite un livre qui
tourne en rond !
En tous cas, les dfinitions donnes du mtalangage corroborent cette
interprtation. Rappelons quil y en a deux. La premire, pas mme oprationnelle 3,
seulement destine faire entendre de quoi il est question, indique que le mtalangage a
le langage comme contenu, cest--dire comme objet. Ce mtalangage-l nest pas autre
chose que la linguistique. Il faudra toutefois stonner que, dans le systme si
minutieusement dcrit par Hjelmslev, on puisse affilier la notion de contenu celle
dobjet.
Voyons au pralable quelle est la seconde dfinition du mtalangage, celle-l
parfaitement formelle, cest--dire adquate la thorie elle-mme. Le mtalangage est,
dans cette seconde dfinition, un langage scientifique connaissant cette particularit
quil contient un langage. Quest-ce dire ? Que la fonction smiotique qui sinstitue
par le mtalangage est une fonction entre une grandeur quelconque et une grandeur qui
est dj analyse comme smiotique. Ou encore : que lanalyse smiotique ordinaire est
redouble par une nouvelle analyse smiotique, dite mtalinguistique, qui linclut dans
lanalyse en train de se faire. Manire originale daborder les problmes
pistmologiques, o lanalyse se retourne sur elle-mme, pour admettre que les
instruments de lanalyse font partie intgrante de ce qui est analys, quils dterminent
lobjet danalyse lui-mme. L galement, tout ceci correspond au rle attendu du
mtalangage tel que lont prescrit les logiciens. Le mtalangage a le dernier mot des

2
Prolgomnes ; toutefois, il est l moins pour dire le Vrai que pour exercer un contrle
sur les moyens de le dire.
Pourtant, certains lments ne laissent pas dinquiter. Dabord, revenons-y, le
mtalangage a le langage comme objet en tant quil constitue le plan de contenu de son
propre systme. Comment le comprendre ? Peut-on imaginer, au niveau infrieur, que la
langue a pour objet son propre contenu ? Quand on sait que la notion dobjet est pour
Hjelmslev un indfinissable 4, doit-on conclure quen en faisant implicitement un
contenu, Hjelmslev replonge dans lessentialisme platonicien ? Ce serait une conclusion
bien tonnante, et dcevante, pour la thorie formelle. Mais, en contradiction avec cette
interprtation, il est prcis dans les Prolgomnes que
dans la pratique, la mtasmiologie est identique la description de la substance
(1971 : 156).

Dans Le Langage Hjelmslev explicite au besoin que


La phontique, ou science des sons de la langue, et la smantique, ou science des
significations de la langue, appartiennent la mtagrammaire (1966 : 178).

Certes, il ny sagit plus du mtalangage tel quon peut lassocier la linguistique, mais
dun mtalangage du second degr. Mais, prcisment, comment le mtalangage qui
prend la linguistique pour objet peut-il, dans la pratique, soccuper de ce que la
linguistique a cart : les sons et les significations5 ?
En outre, nous y retrouvons loppos dun objet-contenu, un objet-matire
comme ladopteraient de bonne grce les empiristes. Le mtalangage semble ici
consacrer les sons et les sens comme fondements, origine, vrit ultime de la science du
langage.
Le plus tonnant, cependant, est encore ailleurs, et connat dans la thorie
hjelmslevienne une visibilit maximale. Cest sans nul doute, quant au mtalangage, le
trait dfinitoire le plus vident : le mtalangage occupe une position symtrique par
rapport au langage de connotation. Or, dans lusage postrieur quon a fait de ces
notions, pratiquement personne ne les a plus jamais rapproches.
Il faut tcher de comprendre cette symtrie qui nous donnera une clef
dinterprtation plus en accord avec lensemble de la thorie. Cette symtrie, il est vrai,
nest rellement apparente que dans les Prolgomnes. En revanche, dans le Rsum, et
bien que la smiotique connotative et la mtasmiotique6 soient prsentes en opposition
lune lautre, les symboles qui notent respectivement lune et lautre rompent cette
symtrie. La smiotique connotative associe le symbole de la smiotique g avec celui
dune variable x, soit : xg. Si la symtrie tait parfaitement respecte, on serait en
droit dattendre pour la mtasmiotique un symbole complexe o lon retrouverait

3
loppos dune variable, cest--dire une constante (a). Il nen est rien. La
mtasmiotique nest dailleurs pas symbolise, car elle sarticule en mtasmiotiques
de premier et second degr, avec dans chaque degr une distinction entre smiotique-
objet scientifique et smiotique-objet non scientifique, soit : x 2 g, i 2 g, x 3 g,
i 3 g. Il apparat, sous ce rapport, que les dfinitions des diffrentes mtasmiotiques
prsupposent ltablissement soit des smiotiques dnotatives (ig) soit des
smiotiques connotatives, tandis que la dfinition de la smiotique connotative ne
prsuppose quant elle, vient-on de prciser, que la classe gnrale des smiotiques (cf.
le Rsum, 1985 : 98-99). Ceci doit nous avertir que la symtrie entre smiotique
connotative et mtasmiotique nest pas parfaite ou qu tout le moins elle connat une
limite. Tchons nanmoins dapercevoir comment peut se dgager cet effet de symtrie.
Pour dcrire une langue, crit Hjelmslev dans Le Langage, il faut quelque peu
modifier lusage de la langue quotidienne en y introduisant une srie de signes
nouveaux, ceux quon appelle termes techniques ou expressions de
spcialistes (1966 : 175).

Mais, dans lusage descriptif de la langue, les modifications atteignent galement le sens
de termes communs. On pense ici videmment au cas des autonymes. Or, les
autonymes, dont lusage est manifestement mtalinguistiques, parce quils modifient
quelque peu le sens de leur usage ordinaire, sont typiquement ce que peut analyser une
smiotique connotative. Lautonymie, cest la smiotique dnotative tout entire
affuble du connotateur dans la description linguistique qui en est faite .
Un exemple permettra dapprcier cette symtrie. Soit le prfixe /in-/. Ce prfixe
dans son usage autonymique est quivalent un syntagme nominal, comme on peut le
comprendre dans lexemple /in-/ est un prfixe. Dans lusage autonymique, /in-/ produit
ainsi une variable nominale, au ct de son usage comme prfixe dans le discours
ordinaire. /in-/ est une invariante dexpression que la smiotique connotative,
moyennant un connotateur, fait varier en deux variables, nom ou prfixe, selon
que lusage sera linguistique ou mtalinguistique. Mais par ailleurs, dans son emploi
autonymique, /in-/ dsigne toute une srie de variantes linguistiques telles quelles se
manifestent dans les lexies /inculte/, /incalculable/, /intarissable/ mais aussi dans des
lexies comme /irrespirable/, /illisible/, /impossible/, /immodeste/. En ce sens,
lautonyme rassemble en une invariante toute une srie dinvariantes
dexpressions, /in-/, /ir-/, /il-/, /im-/ qui ont chacune, dans leur contexte syntagmatique
respectif, la mme fonction. Lautonyme nest pas ici un usage face lusage
linguistique. Il correspond une analyse de lusage linguistique, et cette analyse produit
une invariante dexpression que la smiotique dnotative nest pas susceptible de
dduire.

4
Par rapport la smiotique dnotative, on constate donc que la smiotique
connotative conduit une particularisation formelle (des contenus) tandis que la
mtasmiotique conduit une gnralisation formelle (des expressions), comme indiqu
dans le tableau ci-dessous :

/in-/ forme mtalinguistique

/il-/ /ir-/ formes dnotatives /in-/

formes connotatives /in-/ //in-//


usage usage
linguistique mtalinguistique

Certes, lexemple des autonymes, en ce quil permet de rapprocher le travail de la


smiotique connotative et de la mtasmiotique partir des mmes formes dnotatives,
est exceptionnel. Comme toutefois chaque forme dnotative est vise par lautonymie,
la porte de cette exception est assez large pour servir de premier exemple.
Pour le reste, il ne serait pas difficile den prendre dautres qui confirment
lopposition de la smiotique connotative et de la mtasmiotique sur laxe qui tend
lanalyse formelle entre particularisation et gnralisation.
Soient les termes suivants : rapporteur, dlateur, sycophante, cafardeur, cafteur,
cafard, mouchard. Linvariante dnotative de contenu peut tre paraphrase par
personne qui rapporte dans le but de nuire , les connotateurs se distribuant de la faon
suivante :

chti familier argotique


vieux sycophante mouchard cafard
actuel dlateur cafardeur cafteur

Dans la smiotique connotative, le contenu de lexie est donc formalis par des
connotateurs dont les paradigmes sont les tats historiques dune langue et les
situations socio-contextuelles . Ceci correspond bien une particularisation puisque,
l o la smiotique dnotative pouvait considrer quil ny avait quune invariante de
contenu, associe diffrentes variables dexpression, la smiotique connotative tablit
six invariantes de contenu. Mais, par ailleurs, lexplicitation des connotateurs est
mtalinguistique et permettrait de regrouper, en fonction dautres invariantes
dnotatives de contenu, bien dautres variables dexpression. Sous ce rapport de classe,

5
chaque connotateur permet ainsi de crer une forme mtalinguistique de contenu qui
opre une gnralisation des contenus dnotatifs. Cest dj le cas dans lexemple
considr : il y a six invariantes de contenu dans la smiotique connotative mais il nest
besoin que de cinq formes mtalinguistiques pour analyser les connotateurs. Aussi, bien
que la mtalinguistique formalise ici la smiotique connotative, cest toujours en
fonction des invariantes de la smiotique dnotative que sopre la gnralisation. La
smiotique dnotative est donc bien ce par rapport quoi soprent la particularisation
de la smiotique connotative et la gnralisation mtasmiotique :

gnralisation particularisation
formelle mtasmiotique smiotique smiotique formelle
dnotative connotative

Reste se demander la raison de cette symtrie. Que les invariantes dnotatives


puissent devenir des variables mtasmiotiques, et les variables dnotatives des
invariantes connotatives, montrent dans le systme hjelmslevien limportance de la
variabilit des formes (dune plus grande importance que la distinction de lexpression
et du contenu qui, en ralit, dans les dfinitions de la smiotique connotative et de la
mtasmiotique ne rpond qu un effet de surface).
Cest dans la perspective de cette variabilit formelle quil faut comprendre que la
mtasmiotique est lanalyse de la substance. Dans une mtasmiotique, toute forme
dnotative peut redevenir substance pour une nouvelle formalisation. Car chaque forme
est le rsultat de lanalyse dun corpus, lequel nest identifi comme corpus linguistique
que par le point de vue de lanalyste.
La mtasmiotique ne dirige pas, par consquent, la thorie formelle vers un
substantialisme gntique, mais, tout loppos, en rendant les formes rversibles en
substances, elle garantit la circulation, sinon la complmentarit, entre dune part le
souci dune formalisation rigoriste immobile et dautre part ladquation des corpus et
des points de vue ncessairement relatifs. Pour ainsi dire, la fonction principale de la
mtasmiotique est, pour ainsi dire, de ventiler la formalisation linguistique par sa
variabilisation.
Nanmoins, en pratique, afin de ne pas faire double emploi avec lanalyse
effectue dans le cadre de la smiotique dnotative, la mtasmiotique permet de
formaliser en de (les smes et les sons) et au-del (les classes smantiques, les traits
distinctifs) de cette analyse. Tout au contraire de la smiotique connotative, pour
laquelle la formalisation linguistique est toujours dj faite, mais quelle refait

6
entirement dans le but dune adquation plus fine et plus coteuse aux faits de
langage.
On comprend ainsi pourquoi la mtasmiotique prsuppose ncessairement soit
lanalyse dnotative soit lanalyse connotative, quand la smiotique connotative na pas
prsupposer ncessairement lanalyse dnotative. Lanalyse dnotative est, pour la
mtasmiotique, un prototype tester ; elle est en revanche, pour la smiotique
connotative, une norme fixant le degr danalyse communment admis pour tre celui
dune langue.
Autrement dit, la mtasmiotique garantit que la norme fixe dessein purement
mthodologique dans la smiotique dnotative ne drive pas par hypostase en principe
ordonnateur de lobjet linguistique. De fait, rien ne pourrait justifier une norme a priori
des faits de langue. En ce sens, lanalyse formelle telle que la conoit Hjelmslev se
montre totalement indiffrente aux concepts de grammaticalit et de recevabilit
smantique. Ceux-ci sont prcisment la consquence de lhypostase de la norme
mthodologique ncessaire lanalyse en norme inhrente la langue elle-mme.
Aussi, pas plus quil nest empiriste, le systme hjelmslevien ne drive-t-il pas
vers un platonisme. Lobjet-langue contenu dans la mtasmiotique ne lest pas titre
de ralit idale et nomatique, mais seulement titre dobjet dj analys, cest--dire
comme un objet au sens kantien du terme : prsent devant la mtasmiotique sous
la garde dune dtermination objectivante produite par lanalyse dnotative.
On comprend ds lors galement pourquoi la mtasmiotique est dite
scientifique , comparativement la smiotique connotative. Celle-ci nest mue que
par de nouvelles conventions, dtermines par des buts danalyse diffrents de ceux
ordinairement fix dans lanalyse linguistique (parmi ces buts : analyse de textes
littraires, analyse sociologique et psychologique des discours, analyse de lcriture,
etc.). Rien par consquent, dans lanalyse connotative, ne garantit que les smiotiques
tablies ne drogeront pas au principe dempirisme, notamment lexhaustivit et la
non-contradiction. linverse, la mtasmiotique, en son destin pistmologique de
contrle des poss mthodologiques de lanalyse dnotative, explicite ce qui tait
suspendu par lanalyse dnotative, notamment la question de lhomognit ou de
lhtrognit qui dtermine la langue comme objet (ce qui rpond de lexigence de
non-contradiction), largit le rapport formel face la substance (exhaustivit) en mme
temps quelle gnralise et conomise les invariantes (simplicit).
Pour conclure, il se confirme donc que les notions de mtalangage et de
connotation, loin dtre des excroissances secondaires dans la thorie de Hjelmslev,
servent au contraire de fondements la thorisation.

7
Resterait spculer sur les raisons pour lesquelles Hjelmslev a maintenu ces
notions dans une certaine discrtion. Pour ma part, je vois dans cette rserve la
manifestation dun refoul : celui dune recherche pistmologique, que Hjelmslev,
soucieux sans doute de ne pas sexposer en dehors de sa discipline (dans laquelle il avait
tout de mme dplac ses intrts, puisquil a dbut par des travaux en grammaire
compare, comme Saussure et Benveniste), a systmatiquement cherch prsenter
sous le jour dune problmatique de mthodologie gnrale. Cest peut-tre en cela que
se justifie le titre des Prolgomnes : non quil y manquerait des dveloppements vers
les applications linguistiques, mais parce quil faudrait en reprendre le projet avec une
toute autre ampleur, celle qui convient une pistmologie gnrale, comme y appellent
du reste les conclusions de louvrage :

[] Il nexiste aucun objet qui ne puisse tre clair partir de la position-clef


quoccupe la thorie du langage. La structure smiotique se rvle comme un point
de vue partir duquel tous les objets scientifiques peuvent tre examins. (1971 :
159.)

Smir BADIR
Fonds National belge de la Recherche Scientifique Universit de Lige
Semir.Badir@ulg.ac.be

(notes et bibliographie page suivante)

8
1
Plus prcisment, Hjelmslev emprunte le terme de connotation Bloomfield, tandis que le terme de
mtalangage lui vient de Tarski.
2
O les dveloppements sur le mtalangage et la connotation figurent dans un chapitre intitul Degrs
linguistiques . Ce chapitre est dit, dans la traduction franaise, qui date de 1966 (soit un an aprs la mort de Hjelmslev),
indit . Est-ce dire quil ne figure pas dans loriginal danois ? Il est un fait que Sproget na paru quen 1963, alors
que sa rdaction est contemporaine de celle des Prolgomnes. Si Hjelmslev a prfr carter ce chapitre de la
publication, est-ce parce quil ne lui convenait plus ? Toute supposition pour laquelle il nous manque les plus simples
lments de vrification. Mais il appert que ce chapitre, en vulgarisant la matire du chapitre 22 des Prolgomnes, en
trahit plusieurs donnes importantes.
3
Comme le plan de lexpression et le plan de contenu ne se dfinissent que par opposition et relativement lun
par rapport lautre, il sensuit que les dfinitions proposes ici de smiotique connotative et de mtasmiotique ne sont
que des dfinitions ralistes provisoires auxquelles on ne peut mme pas accorder de valeur oprationnelle
(Prolgomnes, p 144).
4
la dfinition de lanalyse ne prsuppose que des termes ou des concepts qui ne sont pas eux-mmes dfinis
dans le systme de dfinitions spcifique la thorie, et que nous posons comme indfinissables : description, objet,
dpendance, homognit (Prolgomnes, p 44).
5
Les significations telles, bien sr, que dans la linguistique saussurienne, elles sont distingues des valeurs
smantiques en langue.
6
La rigueur de ce Rsum nous impose de traduire littralement metasemiotik par mtasmiotique, conformment
la traduction revue (1971) des Prolgomnes.

Ouvrages cits (la date entre crochets renvoie ldition originale) :

Louis HJELMSLEV 1966 [1963], Le Langage, Paris, Minuit, = Arguments. (Folio essais, 1991.)
Louis HJELMSLEV 1968-71 [1943], Prolgomnes une thorie du langage, Paris, Minuit, = Arguments.
Louis HJELMSLEV 1985, Nouveaux essais, Paris, P.U.F., = Formes smiotiques.