Anahar

Troisième cycle
ANALY SE HARMO NIQUE AB STRAITE
Nouvelle édition,
KANGNI Kinvi
TOURE Saliou
ANALY SE HARMO NIQUE AB STRAITE
TABLE DES MATIERES
Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .3
Chapitre I : Groupes Topologiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .7
§ I-1 Généralités sur les groupes topologiques . . . . . . . . . . . . . . . . . . . . . . . . . . . 7

I-1-1 Notions de base . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
I-1-2 Intégration sur un groupe localement compact . . . . . . . . . . . . . . . . . 27
I-1-3 Notions de paire de Guelfand . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41
§ I-2 Groupes de Lie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 54

I-2-1 Variétés différentiables. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 54
I-2-2 Structure de base d’un groupe de Lie. . . . . . . . . . . . . . . . . . . . . . . . . . . . 60
I-2-3 Algèbre de Lie d’un groupe de Lie.. . . . . . . . . . . . . . . . . . . . . . . . . . . . . .65
I-2-4 Groupes de Lie linéaires.. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .68
Chapitre II LES ALGEBRES DE LIE. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .89
§ II-1 Généralités sur les algèbres de Lie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 90

II-1-1 Définitions et Exemples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 90
II-1-2 Homomorphismes d’Algèbres de Lie . . . . . . . . . . . . . . . . . . . . . . . . . . . . 94
II-1-3 Dérivation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 96
II-1-4 Produit tensoriel. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .99
II-1-5 Extension du corps des scalaires et modules . . . . . . . . . . . . . . . . . . . 101
§ II-2 Algèbres de Lie nilpotentes et résolubles . . . . . . . . . . . . . . . . . . . . . . . 106

II-2-1 Définition et propriétés
des algèbres de Lie nilpotentes et résolubles . . . . . . . . . . . . . . . . . . . . 107
II-2-2 Les théorèmes d’Engel et de Lie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 117
II-2-3 Formes bilinéaires invariantes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 124
II-2-4 Critères de Cartan pour les algèbres de Lie résolubles . . . . . . . . . 126
§ II-3 Algèbre de Lie semi-simples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 133

II-3-1 Propriétés élémentaires de algèbres de Lie semi-simples . . . . . . . 133
II-3-2 Réductibilité complète des représentations . . . . . . . . . . . . . . . . . . . . 139
1
II-3-3 Sous algèbre de Cartan d’une algèbre de Lie . . . . . . . . . . . . . . . . . . 141
Chapitre III Théorie des Représentations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 145
§ III-1 Représentations des Groupes Topologiques . . . . . . . . . . . . . . . . . . . 145

III-1-1 Représentations des groupes localement compacts. . . . . . . . . . . . 145
III-1-2 Représentations des groupes compacts.. . . . . . . . . . . . . . . . . . . . . . .160
III-1-3 Applications au groupe de Heisenberg. . . . . . . . . . . . . . . . . . . . . . . . 172
§ III-2 Représentation Induite . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 179

III-2-1 Représentations différentiables . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 179
III-2-2 Représentations unitairement induites d’un groupe de Lie . . . 185
III-2-3 Système d’imprimitivité . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 195
III-2-4 Théorème de réciprocité de Frobenius . . . . . . . . . . . . . . . . . . . . . . . 202
Chapitre IV : Fonctions sphériques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 205
§ IV-1 Généralités sur les fonctions sphériques . . . . . . . . . . . . . . . . . . . . . . . . . 205

IV.1-1 Notions de base . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 205
IV.1-2 Fonctions sphériques sur un groupe de Lie résoluble . . . . . . . . . 219.
IV.1-3 Transformation de Fourier Sphérique . . . . . . . . . . . . . . . . . . . . . . . 244.
§ IV-2 Fonctions sphériques de Type δ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 251

IV.2-1 Fonction trace sphérique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 251
IV.2-2 Fonction Sphérique de type δ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .255
IV.2-3 Quelques propriétés différentielles . . . . . . . . . . . . . . . . . . . . . . . . . . . . 264
Bibliographie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 269
2
Introduction
L’analyse Harmonique fut à l’origine, l’étude des séries de Fourier et des inté-
grales de Fourier portant sur des variables réelles. Le problème consistant, pour une
fonction donnée, à trouver les harmoniques qui la constituent (Analyse harmonique)
puis à la reconstituer à partir de ces harmoniques (Synthèse harmonique).
Ces questions n’ont cessé de se développer jusqu’à nos jours.On peut par exemple
les travaux de Bochner, de Plancherel, de Wiener, Paley - Wiener etc...
L’analyse harmonique fut généralisée sous l’impulsion de A. Weil aux groupes

localement compacts commutatifs quelconques.
La plupart des théorèmes démontrés pour les séries et intégrales de Fourier

furent étendus aux groupes localement compacts quelconques. Les fonctions x −→
einx (n ∈ N) pour les séries de Fourier et x −→ eian (a ∈ R) pour les intégrales de
Fourier sont les caractères pour les groupes commutatifs et des représentations irré-
ductibles pour les groupes quelconques.
C’est seulement vers 1925, avec les travaux fondamentaux de H. Weyl, qu’on
s’est aperçu que les développements en série de Fourier des fonctions périodiques
n’exprimaient pas autre chose que la décomposition de la représentation régulière
du groupe compact T = R/Z , cas particulier du théorème de Peter-Weyl (III-2).
La connaissance d’un objet mathématique peut s’approfondir si on l’assimile à

un membre plus élémentaire ou plus simple de la même classe, le transfert respec-
tant les propriétés essentielles. Il est possible d’obtenir ainsi des renseignements sur
les structures algébriques aussi bien que sur les structures topologiques. La com-
paraison doit s’opérer, non grâce à un isomorphisme niveleur, mais plutôt via un
3
homomorphisme continu approprié.
Frobenius et Burnside se rendent compte que pour l’étude des groupes abstraits,
il y a intérêt à examiner les homomorphismes d’un groupe fini dans un groupe de
transformations linéaires. D’où l’introdution de la notion de représentation.
La théorie de représentation d’un groupe fini dûe à Frobenuis, d’une part, et celle
de la représentation des algèbres de Lie sémi-simples, mise au point par E. CAR-
TAN, d’autre part, conduisent Weyl à entamer l’étude des groupes de Lie globaux.
Il considère un groupe G qui est une variété linéaire de dimension finie et auquel
est associée une loi Crochet (u, v) 7−→ [u, v] qui est additive et homogène par rap-
port à chaque variable ; à la place de la commutativité et de l’associativité, on a les
relations [u, v] = − [v, u],
[u, [v, w]] + [v, [w, u]] + [w, [u, v]] = 0
Si le groupe est matriciel, on choisit [u, v] = uv − vu.
La théorie de la représentation d’un groupe par des transformations linéaires est

particulièrement bien adaptée à l’étude de la physique quantique.
La formulation mathématique rigoureuse unifiée de la mécanique quantique est dûe

à VON NEUMANN. Le modèle associé au système mécanique quantique est fourni
par l’espace de Hilbert H admettant une base orthonormée dénombrable. La tribu
des boréliens est remplacée par les opérateurs-projecteurs sur H.
Aussi, E. CARTAN déclare que la plupart de ses travaux mathématiques gra-

vitent autour de la théorie des groupes et qu’en réalité, comme l’a fait remarquer H.
Poincaré, les mathématiciens ont depuis bien longtemps et même avant Euclide, fait
de la théorie des groupes sans s’en douter, puisque la géométrie élémentaire n’est au
fond que l’étude d’un certain groupe particulier.
Ce manuel est le résultat des trois années de cours d’Analyse Harmonique dis-
pensé par l’auteur aux étudiants du D.E.A. de l’UFR de Mathématiques et Infor-
matique de l’Université de Cocody - Abidjan,
Il espère que ce cours suscitera chez le lecteur un intérêt particulier pour l’ana-
lyse Harmonique.
4
Dans ce cours, nous donnons les bases de l’analyse harmonique abstraite non
commutative.
Dans le premier chapitre, nous introduisons les groupes topologiques, l’intégra-

tion sur un groupe topologique localement compact et la notion de paire de Guelfand.
Dans le deuxième chapitre, nous étudions des groupes topologiques de type par-
ticulier. Il s’agit des groupes de Lie et ses propriétés essentielles après avoir rappelé
quelques notions sur les variétés différentiables. Les groupes de Lie linéaires jouent
un très grand rôle en Analyse Harmonique. Nous en donnons quelques propriétés.
Dans le chapitre III, nous donnons la théorie des représentations qui est une
généralisation de l’analyse de Fourier classique.
L’analyse de Fourier est une méthode de décomposition des oscillations en oscil-
lations simples appelées oscillations harmoniques.
On rappelle qu’une oscillation harmonique est un mouvement donné par une

équation de la forme :
x = a cos nt + b sin nt
où t est le temps et x les coordonnées du points en mouvement.
L’oscillation f définie par :
∞
a0 X
f (x) = + an cos nt + bn sin nt
2 n=1
est une superposition des oscillations harmonique.
Nous introduisons également la théorie des représentations induites des groupes

de Lie suivant la méthode de Bruhat.
La méthode de construction de représentation induite a été introduite par Mackey
qui généralise la méthode de V. Bergmann, de Guelfand et de Naïmark pour l’obten-
tion des représentations irréductible de certains groupes classiques. Cette construc-
tion est aussi une extension de la théorie de représentation induite des groupes
5
compacts développée par A. Weil et celle des représentations des groupes finis étu-
diée par G. Frobenius.
Cette méthode fournit un outil puissant pour former des représentations linéaires
d’un groupe à partir de celles de certains de ses sous-groupes.
Dans le chapitre IV, nous étudions les fonctions sphériques de type δ qui est une
extension des fonctions zonales sphériques classiques. Ces fonctions conduisent à la
transformation de Fourier généralisée Cf. [7]
Les auteurs remercient Madame KOUAO née KOUAKOU Ahou Marie
qui a bien voulu se charger de la confection matériel du texte.
6
Chapitre 1
LES GROUPES TOPOLOGIQUES
§ I-1 GENERALITE SUR LES GROUPES TOPOLOGIQUES
I-1-1. Notions de base

Défintion I-1-1-1 : Un groupe topologique est un ensemble G tel que :
a) G est un groupe
b) G est un espace topologique séparé
c) Les applications f : G × G −→ G et g : G −→ G
(x, y) 7−→ xy x 7−→ x−1
sont continues (G × G étant muni de la topologie produit) .
Si U et V sont deux parties de G

on pose :
U V = {xy, x ∈ U et y ∈ V }

U −1 = x−1 , x ∈ U
On dit que U est symétrique si U = U −1 .

La condition c) s’exprime en terme de voisinage comme suite.
Pour tous x et y ∈ G et pour tout voisinage W de xy dans G, il existe des voi-

sinages U de x et V de y tels que U V ⊂ W .
Aussi pour tout voisinage U de x−1 , il existe un voisinage V de x tel que
V −1 ⊂ U .
La condition c) de compatibilité des deux structures est équivalente à
7
CHAPITRE 1. LES GROUPES TOPOLOGIQUES
c0 / : h : G × G −→ G est continue
(x, y) 7−→ xy −1
En effet montrons que c) ⇐⇒ c0 ).
Supposons f et g continues. Soit V un voisinage de xy −1 . Il existe donc un voi-
sinage U de x et W de y −1 tels que U W ⊂ V . Il existe aussi un voisinage W1 de y
tel que W1−1 ⊂ W . Donc U W1−1 ⊂ V et h est continue.
Réciproquement supposons h continue. Soit V un voisinage de y −1 . Comme

ey −1 = y −1 , il existe un voisinage V de y et un voisinage W de e tel que W V −1 ⊂ V .
On a donc V −1 ⊂ W V −1 ⊂ V (car e ∈ W ) et g est continue.
Montrons que f est continue.

−1
Soit V un voisinage de xy = x (y −1 ) . Il existe un voisinage U de x et un de
voisinage W de y −1 tels que U W −1 ⊂ V . Comme g est continue, il existe un voisi-
nage W1 de y tel que W1−1 ⊂ W , d’où W1 ⊂ W −1 et U W1 ⊂ U W −1 ⊂ V .
Exemple I-1-1-2 1) Le groupe additif R des nombres réels, muni de la topologie

naturelle, est un groupe topologique
2) Le groupe multiplicatif R∗+ des nombres réels positifs, muni de la topologie induite
par celle de R est un groupe topologique.
3) Le groupe additif Rn (n ≥ 1), muni de la topologie définie par la distance eucli-
dienne est un groupe topologique.
4) Soient G1 et G2 deux groupes topologiques alors G1 × G2 est un groupe topolo-
gique.
Définissons un produit sur G × G de la façon suivante :
∀ (x, y) et (x0 , y 0 ) ∈ G1 × G2 ,
(x, y) . (x0 , y 0 ) = (xϕ (y) x0 , yy 0 ) où ϕ : G2 −→ Aud (G1 ) .

Ce produit confère à G1 × G2 , une structure de groupe et avec la topologie produit,
une structure de groupe topologique noté G1 × ϕ G2 , appelé le groupe produit semi-
direct de G1 par G2 relativement à ϕ.
Quelques exemples de groupes produit semi-directs

- Le groupe des déplacements dans Rn noté
8
SO (n) × Rn où ϕ est l’action naturelle de SO (n) sur Rn .

- Le groupe de Mautner : C2 ×ϕ R où ϕ est définie par :
2
R −→ C
x 7−→ ϕx avec ϕx (u, v) = (ei2πx u, ei2πxα v)
où α est un irrationnel et (u, v) ∈ R2 .
- Le groupe de Poincaré G = G0 (n) × Tn produit semi-direct du groupe de

Lorentz par le groupe de translation.
5) Le groupe GL (n, R) des matrices carrées inversibles est un groupe topologique.
C’est un ouvert de l’espace Mn (R) des matrices carrée d’ordre n.

En effet l’application Mn (R) −→ R
M 7−→ det (M )
est continue et GL (n, R) = Mn (R) \ {f −1 {0}} .
Théorème I-1-1-3 Soient G un groupe topologique et a un élément fixé de G.

Alors
1) Les translations à gauche La : x 7−→ ax et à droite Ra : x −→ xa sont des
homéomorphismes de G dans G.
2) L’application x 7−→ x−1 et l’automorphisme intérieur x 7−→ axa−1 sont des

homéomorphismes.
Preuve : L’application La est bijective (évident).

Soit V un voisinage de ax. Il existe un voisinage U de a et un voisinage W de x tels
que U W ⊂ V .
Comme aW ⊂ U W ⊂ V alors La est continue.
a = La−1 est aussi continue, par conséquent La est un homéomorphisme.
L−1
L’application x 7−→ x−1 est une bijection continue égale à sa réciproque donc
c’est un homéomorphisme.
L’automorphisme x 7−→ axa−1 est un homéomorphisme comme composé de deux
homéomorphismes.
Corollaire I-1-1-4 Soit G un groupe topologique.

i) Pour toute partie ouverte (resp. fermé) A de G et tout point a ∈ G, les ensembles
aA, Aa et A−1 sont ouverts (resp. fermés)
ii) Pour toute partie ouverte O de G et pour toute partie U de G, les ensembles
OU et V O sont ouverts.
9
Preuve : (1) résulte du fait que les applications La , Ra et x 7−→ x−1 sont des
homéomorphismes.
(2) OU = {Oa , a ∈ U } et {aO, a ∈ U } sont ouvert comme réunion d’ou-
verts.
Remarque : I-1-1-5 Si A et B sont fermés alors AB n’est pas nécessairement

fermé.
En effet, soit θ un nombre irrationnel. Considérons deux sous-groupes fermés Z
et θZ de R, le sous-groupe Z + θZ n’est pas fermé dans R car dénombrable donc
distinct de R et que les seuls sous-groupes fermés de R sont R et les sous-groupes
de la forme αZ (pour α ∈ R).
Si Z + θZ est un sous-groupe fermé de R, il existerait α ∈ R tel que

Z + θZ =αZ.
Il existe n ∈ Z tel que 1 = 2n et m ∈ Z tel que θ = 2m. Donc θ = m

n
(absurde
car θ est irrationnel).
Théorème I-1-1-6 Soit G un groupe topologique

i) Soit a un point de G. Lorsque V parcourt un système fondamental de voisi-
nages de l’élément neutre e de G, les ensembles aV (resp a) forment un système
fondamental de voisinage de a.
ii) Pour tout voisinage U de e, il existe un voisinage V de e tel que V V −1 ⊂ U.
iii) Pour tout voisinage U de e et tout a ∈ G, il existe un voisinage W de

e tel que aW a−1 ⊂ U .
iv) Pour que G soit séparé, il faut et il suffit que {e} soit fermé dans G.
Preuve : i) Soit x ∈ G et V1 un voisinage ouvert de x. Comme l’application

Lx : y −→ x y est un homéomorphisme, L−1
−1 −1
x (V1 ) est un ouvert contenant e, donc
il existe un voisinage U1 de e tel que U1 ⊂ x−1 V1 et xU1 ⊂ V1 .
ii) exprime que l’application (x, y) −→ xy −1 est continue au point (e, e).
iii) exprime la continuité de x 7−→ axa−1 au point e.
iv) Si G est séparé, {e} est fermée.
10
Réciproquement, s’il en est ainsi, et si x, y sont deux points distincts de G, il existe

un voisinage V de e tel que e ∈ x−1 yV , autrement dit x ∈/ yV ; si W est un voisinage
de e tel que W W −1 ⊂ V , on a xW ∩ yW = φ.
Car la relation xw0 = yw” avec w0 , w” dans W entrainerait
x = yw”w−1 ∈ yW W −1 ⊂ yV
donc G est séparé.

Soit H un sous-groupe d’un groupe topologique G. La topologique induite
sur H par celle de G est compatible avec la structure de groupe de H car l’application
(x, y) 7−→ xy −1 de G × G dans G est continue donc la restriction à H × H est aussi
continue. Par conséquent, H est un sous-groupe topologique de G.
Théorème I-1-1-7 L’adhérence H̄ d’un sous-groupe (resp. d’un sous-groupe dis-

tingué) H d’un groupe topologique G est un sous-groupe (resp. un sous-groupe dis-
tingué) de G. Si G est séparé et H commutatif, H̄ est commutatif.
Preuve : L’image de H̄ × H̄ = H × H par l’application continue (x, y) −→ xy −1

de G × G dans G est contenue dans H̄, puisque l’image de H × H par cette appli-
cation est contenue dans H, donc H̄ est un sous-groupe.
De même, si H est distingué, l’image de H par l’application x 7−→ axa−1 (a

quelconque dans G) est contenue dans H, donc l’image de H̄ par cette application
continue est contenue dans H̄ et H̄ est distingué.
Enfin, si G est séparé et H commutatif, les fonctions continues xy et yx, étant

égales dans H × H le sont aussi dans H̄ × H̄ en vertu du principe de prolongement
des identités.
Théorème I-1-1-8 i) Dans un groupe topologique G, tout sous-groupe locale-

ment fermé est fermé. Tout sous-groupe ayant un point intérieur est à la fois ouvert
et fermé.
ii) Dans un groupe séparé, tout sous-groupe discret est fermé.
Preuve : i) Soit H un sous-groupe localement fermé de G alors H̄ est un sous-

groupe de G et H un sous-groupe ouvert de H̄. Il suffit donc de montrer la seconde
assertion.
11
Remarquons que si H admet un point intérieur dans G, chacun de ses points

est point intérieur de H, par translation, donc H est ouvert. Les classes à gauche
xH sont alors aussi des ensembles ouverts dans G, donc le complémentaire de H
dans G est ouvert dans G, et par suite H est fermé dans G.
ii) Si G est séparé et H un sous-groupe discret de G, il existe un voisinage

ouvert symétrique V de e tel que V ∩ H = {e} ; si x ∈ H̄, on a xV ∩ H 6= φ, or si
y ∈ xV ∩ H, on a x ∈ yV et {y} est fermé dans l’ouvert yV puisque G est séparé ;
comme yV ∩ H = {y} puisque y ∈ H, on a nécessairement x = y et H̄ = H.
Théorème I-1-1-9 Pour qu’un homomorphisme d’un groupe topologique G dans

un groupe topologique G0 soit continue, il faut et il suffit qu’il soit continue en un
point.
Preuve : La condition nécessaire est évidente.

Si f est continue en un point a ∈ G et si V 0 est un voisinage de f (a) ,
f −1 (V 0 ) = V est un voisinage de

a. ∀ x ∈ G, f xa−1 V = f (x) f (a)−1 f (V ) ⊂ f (x) f (a)−1 V 0
donc f est continue en tout point x ∈ G.
Soient G un groupe topologique et H un sous groupe topologique de G et π :

G −→ G/H la projection canonique.
On définit une topologique sur G/H de la façon suivante :

Une partie A de G/H est ouverte si et seulement si π −1 (A) est un ouvert de G.
Cette topologie su G/H s’appelle topologie quotient. Elle rend continue la projec-
tion canonique.
π est continue par définition. Montrons que
π est une application ouverte ;
En effet Soit O un ouvert de G. Montrons que π (O) est un ouvert de G/H.

Il suffit de montrer que π −1 (π (O)) est un ouvert de G.
π (O) = {xH, x ∈ O} = OH.
Soit x1 ∈ π −1 (π (O)) =⇒ π (x1 ) ∈ π (O) = OH.

∃x ∈ O : π (x1 ) = xH = x1 H
Comme e ∈ H, x1 ∈ {x1 h, h ∈ H} = {x h, h ∈ H}
∃ h ∈ H : x1 = x h =⇒ x1 ∈ OH donc π −1 (π (O)) ⊂ OH
12
Soit x h ∈ OH, x ∈ O, h ∈ H
π (x h) = x h H = x H ∈ π (O) =⇒ x h ∈ π −1 (π (O)) =⇒ OH ⊂ π −1 (π (O))
donc π −1 (π (O)) ouvert de G ⇐⇒ π (O) ouvert de G/H donc π est ouverte.
Théorème I-1-1-10 Soit G un groupe topologique et soit H un sous-groupe

distingué et fermé de G alors G/H est un groupe topologique.
Preuve G/H muni du produit (xH) . (y H) = xy H est un groupe dit groupe

quotient.
Il reste à montrer que G/H × G/H −→ G/H est continues
(ẋ, ẏ) −→ ẋ ẏ −1 = xy −1 H
Soit U un voisinage ouvert de ẋ ẏ −1 = xy −1 H donc π −1 (U ) est un voisinage

ouverte de xy −1 .
Il existe des voisinages ouverts U1 de x et U2 de y tel que U1 U2−1 ⊂ π −1 (U ) .

Comme π est ouverte alors π (U1 ) et π (U2 ) sont des voisinages de π (x) et π (y)
π U1 U2−1 = π (U1 ) π (U2 )−1 ⊂ U d’où la conclusion.
Remarque : I-1-1-11 Si N est un espace topologique et f : G/H −→ N est telle

que f ◦ π : G −→ N est continue alors f est continue.
f
G/H −→ N
π - %f ◦π
G
En effet si f ◦ π est continue, pour tout ouvert W de N, (f ◦ π)−1 (W ) est un ouvert

de G.

(f ◦ π)−1 (W ) = π −1 f −1 (W ) donc f −1 (W ) est ouvert de G/H
donc f est continue.
(f continue ⇐⇒ f ◦ π continue).
13
Définition I-1-1-12
Tout groupe topologique est un espace homogène. En effet, pour tous x, y ∈ G,
posons a = yx−1 . La translation La est un homéomorphisme qui applique x à y donc
G est un espace homogène.Soit E un espace topologique (séparé) E est dit homogène
si pour tous ∀ x, y ∈ E, il existe un homéomorphisme f tel que f (x) = y.
Tout groupe topologique est un espace homogène. En effet, pour tous x, y ∈ G,
posons a = yx−1 . La translation La est un homéomorphisme qui applique x à y donc
G est un espace homogène.
Ce théorème montre que pour vérifier une propriété au voisinage d’un point x, il
suffit de la vérifier au voisinage.
Théorème I-1-1-13 Soit G un groupe topologique et H un sous-groupe topologique

de G. Alors G/H est un espace homogène.
Preuve : Soit a ∈ G, fa l’application définie par fa : G/H −→ G/H

x H −→ (ax) H
fa est bijective fa−1 = fa−1 .
Soit V un ouvert de G/H. Posons U = π −1 (V ) est une partie ouverte de G et
fa (V ) = π (a−1 U ) et comme a−1 U est ouvert alors fa−1 (V ) est ouvert. (π ouverte).
−1
D’où fa continue donc fa homéomorphisme.
Théorème I-1-1-14 Soit G un groupe toplogique et H un sous-groupe de G.

i) Pour que G/H soit séparé il faut et il suffit que H soit fermé.
ii) Pour que G/H soit discret il suffit que H soit ouverte.
Preuve : (i) (=⇒) Supposons G/H séparé donc {π (e)} est fermé dans G/H
donc
H = π −1 ({π (e)}) est un fermé.
(⇐=) Supposons H fermé.
L’ensemble des couples (x, y) ∈ G × G ayant même orbite par l’opération de H sur
G est l’ensemble des couples (x, y) ∈ G × G tel que
xH = yH ie yx−1 ∈ H.
Cet ensemble est fermé comme image réciproque de H par l’application conti-
nue (x, y) 7−→ xy par conséquent l’ensemble des orbites (des classes à gauche) est
−1
séparé.
(ii) (=⇒) Si G/H est discret
14
H = π −1 {π (e)} est un ouvert puisque {π (e)} est un ouvert de l’espace discret

G/H.
(⇐=) Supposons H est ouvert. xH est ouvert alors π (x H) = {π (x)} est

ouvert dans G/H donc G/H est discret π.
Soient G un groupe topologique, E un espace topologique dans lequel G opère

continument et transitivement.
Soient x ∈ E et Sx = {g ∈ G, gx = x} le stabilisateur de x (ou le sous-

groupe d’isotropie de G au point x).
L’application continue hx : g 7−→ g, x de G dans E qui est une surjection

se factorise de la façon suivante
xπ
G −→ G/Sx
hx & .fx
E
(h x = fx ◦ π x ) .
fx est une bijection continue mais n’est pas en général un homéomprphisme.
Théorème I-1-1-15 Pour que la bijection fx : G/Sx −→ E soit un homéomor-

phisme il suffit que pour un point x0 ∈ E, l’application hx0 : g 7−→ g, x0 transforme
tout voisinage de e en un voisinage de x0 .
Preuve : (=⇒) évident

(⇐=) il suffit de montrer que fx est ouverte.
Pour tout x ∈ E, il existe t ∈ G, x = t.x0 (car G opère transitivement sur
E) . Comme un V est voisinage de e dans G, V.x = (V t) .x0 = t (tE −1 (V t) .x0 ) est
un voisinage de t x0 = x.
Tout voisinage h ouvert de G/Sx est l’image par π x d’un ouvert de G.

fx (U ) = fx ◦ π 2 (U ) = U.x est un voisinage ouvert (U ouvert) donc fx est ouvert
par conséquent fx est un homéomorphisme.
Définition I-1-1-16 Un groupe topologique G est compact (resp loc. compact)

si l’espace sous-jacent est compact (resp. loc. compact) (idem pour connexe et loc.
connexe).
15
Théorème I-1-1-17 Soit G un groupe topologique compact (resp. loc. compact) et

H un sous-groupe distingué fermé de G.
Alors le groupe G/H est compact (resp. loc. compact).
Preuve : Si G est compact, l’espace G/H est l’image de G par l’application conti-
nue π donc G/H est compact.
Supposons G est localement compact.
Soit V un voisinage de e localement compact (ie) V̄ est compact, comme π

est ouverte et continue alors π (V ) est un voisinage
ouvert de e dans G/H. π V̄
est compact dans G/H qui est séparé donc π V̄ est fermé.

Comme π (V ) ⊂ π (V ) = x V̄ , π (V ) est fermé dans le compact π V̄ donc π (V )
est compact. Par conséquent G/H est localement compact.
Théorème I-1-1-18 Soit G un groupe topologique

(i) La composante connexe G0 de l’élément neutre e de G est un sous-groupe
distingué fermé de G.
(ii) ∀a ∈ G, la composante connexe de a est aG0 = G0 a
(iii) Si G est localement connexe alors G/G0 est discret.
Preuve : (i) La composante connexe est toujours fermé.

* Si x ∈ G0 , x−1 G0 est l’image G0 par l’application continue
y 7−→ x−1 y,
donc x−1 G0 est connexe et contient e donc x−1 G0 ⊂ G0 .
Par conséquent G0 est un sous-groupe de G.

Pour tout x ∈ G, x−1 G0 x contient e et connexe car image d’un connexe par l’appli-
cation continue donc y 7−→ x−1 x−1 G0 x ⊂ G0 donc G0 est dinstingué dans G.
(ii) ∀a ∈ G, x 7−→ ax est un homéomorphisme donc aG0 est connexe comme

image d’un connexe et contient a donc aG0 ⊂ C (a) (composante connexe de a).
Aussi a−1 C (a) est connexe comme image d’un connexe par une application conti-
nue et e ∈ a−1 C (a) donc
a−1 C (a) ⊂ G0
C (a) ⊂ aG0
C (a) = aG0 = G0 a.
16
(iii) G est localement connexe, il existe un voisinage U de e connexe. Comme

π est ouverte :
π (U ) est ouvert et contient eG0 = ē donc U ⊂ G0 car U connexe et contient
e. π (U ) = {e G0 } qui est ouverte donc G/G0 est discret (tout singleton est ouvert).
Théorème I-1-1-19 Soient G un groupe topologique connexe et H un sous-groupe

discret de G, (distingué). Alors H ⊂ Z (G) le centre de G .
Preuve : Soit a ∈ H f : G −→ H
x 7−→ x−1 a x
f est une fonctgion continue d’un connexe G dans H donc est constante.
Soit p ∈ H : f (x) = p ∀x ∈ G.si x = e e−1 a e = p ie a = p.
Par conséquent x−1 ax = a =⇒ ax = xa donc a∈ Z (G) et de ce fait H ⊂

Z (G) = {a ∈ G/xa = ax, ∀x ∈ G} .
Théorème I-1-1-20 Soient G un groupe topologique et H un sous-groupe fermé

de G tel que H et G/H connexe.
Alors G est connexe.
Preuve : H et G/H connexes. Soit G = U ∩ V où U et V sont des ouverts non

vides. π : G −→ G/H, π (U ) = U H = U1 et π (V ) = V H = V1 sont 2 ouverts dans
G/H.
Comme U ∪ V = G, on a G/H = U1 ∪ V1 .Comme G/H connexe, il existe

aH ∈ U1 ∩ V1 .
aH ∈ U H =⇒ ∃h ∈ H : ah ∈ U et ah ∈ aH. Par conséquent on a : aH ∩ U 6=
φ de même aH ∩ V 6= φ.
Théorème I-1-1-21 (Décomposition de Mackey)

Soient G un groupe localement compact séparable et K un sous-groupe fermé de
G. Alors il existe un borélien S de G tel que tout élément g ∈ G se décompose de
façon unique de la forme.
g = k s, k ∈ K et s ∈ S
Cette décomposition joue un très grand rôle dans la théorie des représentations in-
duites des groupes topologiques localement compact.
17
Etudions quelques propriétés du groupe linéaire GL (n, R).
On notre M (n, R) l’algèbre des matrices n×n à coefficients dans R, et GL (n, R)

le groupe des matrices inversibles de M (n, R). C’est l’exemple de base d’un groupe
de Lie. On va le considérer du point de vue de sa structure topologique et de sa
structure différentiable.
On considère sur Rn la norme euclidienne et sur M (n, R) la norme
kAk = sup kAvk .

v∈Rn ,kvk≤1
Rappelons que sur un espace vectoriel de dimension finie, toutes les normes sont
équivalentes. Notons que la norme que nous considérons possède la propriété d’être
une norme d’algèbre,
kABk ≤ kAk kBk .
On vérifie que la multiplication dans M (n, R) est une application continue.
Proprosition I-1-1-22 - Le groupe GL (n, R) est un ouvert de M (n, R). L’appli-

cation g 7−→ g −1 , de GL (n, R) dans lui-même, est continue.
Preuve : On peut démontrer cette proposition en utilisant les formules de Cramer.

Nous allons en donner une démonstration différente qui a l’avantage d’être valable
en dimension infinie.
(a) Soit A ∈ M (n, R). Si kAk < 1, alors I + A inversible et

1
(I + A)−1 ≤ .
1 − kAk
En effet
∞
X
−1
(I + A) = (−1)k Ak .
k=0
De plus
∞
X ∞
X
−1 1
(I + A) ≤ A k
≤ kAkk = .
k=0 k=0
1 − kAk
(b) Soit A une matrice inversible. Si B est une matrice telle que
−1
kB − Ak < A−1 ,
18
−1
alors B est inversible et, si kB − Ak ≤ ε kA−1 k ,
2
kA−1 k ε
B −1 − A−1 ≤ .
1 − kA−1 k ε
On peut écrire
B − A I + A−1 (B − A) ,
et on applique (a) à U = A−1 (B − A). Notons que kU k ≤ kA−1 k ε. Ainsi, si
−1
ε < kA−1 k , alors I + U est inversible et
kA−1 k
B −1 = (I + U )−1 A−1 , B −1 ≤ .
1 − kA−1 k ε
De plus
B −1 − A−1 = B −1 (A − B) A−1 ,
donc
2
kA−1 k ε
B −1 − A−1 ≤ .
1 − ε kA−1 k
Théorème I-1-1-23 - Le groupe GL (n, R), muni de la topologie induite par celle
de M (n, R), est un groupe topologique.
Exercice. - Soit C > 0. Montrer que l’ensemble

E = g ∈ GL (n, R) | kgk ≤ C, g −1 ≤ C
est compact, et que tout compact de GL (n, R) est contenu dans un ensemble de cette
forme.
Exemples de sous-groupes de GL (n, R).

- a) On note SL (n, R) le groupe spécial linéaire défini par
SL (n, R) = {g ∈ GL (n, R) |det g = 1} .
C’est un sous-groupe fermé de GL (n, R) qui est distingué car c’est le noyau de
l’homomorphisme
det : GL (n, R) −→ R∗ .
b) On note O (n) le groupe orthogonal défini par
O (n) = {g ∈ GL (n, R) |∀ x ∈ Rn , kgxk = kxk} .
Par polarisation on montre que g ∈ O (n) si et seulement si
∀ x, y ∈ Rn , (gx |gy ) = (x | y ) ,
19
ce qui se traduit matriciellement par
g T g = I, g −1 = g T ,
où g T désigne le matrice transposée de g.
Les vecteurs colonnes sont unitaires et deux à deux orthogonaux, de même pour
les vecteurs lignes. Le sous-groupe O (n) est un sous-groupe compact de GL (n, R).
En effet, pour tout g de O (n),
kgk = 1, g −1 = 1.
On note SO (n) le groupe spécial orthogonal,
SO (n) = O (n) ∩ SL (n, R) .
c) Plus généralement considérons une forme bilinéaire b non dégénérée

sur R , et le groupe O (b) défini par
n
O (b) = {g ∈ GL (n, R) |∀ x, y ∈ Rn , b (gx, gy) = b (x, y)} .
Soit B la matrice de la forme bilinéaire b,
b (x, y) = y T Bx.
La condition g ∈ O (b) s’écrit

g T Bg = B.
Le groupe O (b) est un sous-groupe fermé de GL (n, R), et, pour g ∈ O (b),
g −1 = B −1 g T B.
Si b est la forme bilinéaire symétrique définie par

p q
X X
b (x, y) = xi y i − xp+i yp+i , p + q = n,
i=1 i=1
on note O (n) = O (p, q). Le groupe O (p, q) est appelé groupe pseudo-orthogonal.
(c) Un autre exemple important est le cas d’une forme bilinéaire anti-
symétrique non dégénérée. Une telle forme n’existe que si n est pair, n = 2m, et il
existe une base par rapport à laquelle
m
X m
X
b (x, y) = − xi ym+i + xm+i yi ,
i=1 i=1
20
La matrice de cette forme est

0 Im
J= .
−Im 0
Dans ce cas le groupe O (b) est le groupe symplectique défini par

Sp (m, R) = O (b) = g ∈ GL (2m, R) g T Jg = J .
e) Mentionnons le groupe des matrices triangulaires supérieures,
T (n, R) = {g ∈ GL (n, R) |gij = 0 si i > j} ,
aussi appelé groupe triangulaire supérieur, et le groupe triangulaire supérieur strict,
T0 (n, R) = {g ∈ GL (n, R) |gij = 0 si i > j, et gii = 1} .
f) Considérons sur C n le produit scalaire hermitien
n
X
(x |y ) = xi ȳi .
i=1
Le groupe unitaire U (n) est le sous-groupe de GL (n, C) qui conserve ce produit

scalaire, ce qui peut s’écrire
U (n) = {g ∈ GL (n, C) | g ∗ g = I} .
Le groupe spécial unitaire SU (n) est le groupe des matrices unitaires de déterminant
un. Le groupe pseudo-unitaire U (p, q) est défini par
U (p, q) = {g ∈ GL (n, C) |g ∗ Ip,q g = Ip,q } ,
où
Ip 0
Ip,q = .
0 Iq
Décomposition polaire dans GL (n, R).
- On note Pn l’ensemble des matrices symétriques réelles n × n définies posi-

tives. C’est un cône convexe ouvert dans l’espace vectoriel Sym (n, R) des matrices
symétriques réelles.
Théorème I-1-1-24 - Tout g ∈ GL (n, R) se décompose de façon unique en

g = kp,
avec k ∈ O (n) , p ∈ Pn . De plus l’application
O (n) × Pn −→ GL (n, R) , (k, p) 7−→ g = kp,
est un homéomorphisme.
21
Preuve : (a) Existence. Soient g ∈ GL (n, R), et x 6= 0,

g T |gx x = kgxk2 > 0,
donc A = g T g ∈ Pn . Par suite la matrice A est diagonalisable (dans une base

orthonormée),  
λ1
 ..  −1
A = h . h (h ∈ O (n)) ,
λn
et les valeurs propres λi sont positives. La matrice
 √ 
λ1
 ..  −1
p = h . h .
√
λn
appartient à Pn , et p2 = A. Posons
k = gp−1 ,
alors
k T k = p−1 g T gp−1 = p−1 Ap−1 = I,
donc k est une matrice orthogonale, et g = kp.
(b) Unicité. Soit g ∈ GL (n, R) et supposons que
g = kp = k1 p1 ,
où k et p sont les matrices considérées en (a) et k1 ∈ O (n) , p1 ∈ Pn .

Montrons que k1 = k, p1 = p. Soient λ1 , ..., λn les valeurs propres de A = g T g, et
soit f un polynôme en une variable tel que
p
f (λi ) = λi , i = 1, ..., n
Ainsi p = f (A), et, puisque p21 = A,
Ap1 = p31 = p1 A,
donc A et p1 commutent. Par suite p = f (A) et p1 commutent et
k1−1 k = p1 p−1 .
La matrice k1−1 k est orthogonale, et, puisque p et p1 commutent, la matrice p1 p−1

est symétrique définie positive. Or
O (n) ∩ Pn = {I} ,
22
donc k = k1 , p = p1 .
(c) Continuité. Il est clair que l’application
O (n) × Pn −→ GL (n, R) ,
(k, p) 7−→ g = kp,
est continue. Pour montrer que l’application inverse est continue, considérons une
suite convergente {gm } dans GL (n, R),
lim gm = g.
m7−→∞
Décomposons chaque matrice gm , gm = km pm . Montrons que km −→ k et pm −→ p,

avec g = kp. Puisque le groupe O (n) est compact, la suite km admet un point
d’accumulation. Il existe une sous-suite convergente kmj ,
lim kmj = k0 .
j7−→∞
La suite pmj = km−1

g est également convergente, de limite p0 = k0−1 g. Etant limite
j mj
d’une suite de matrices symétriques définies positives, la matrice p0 est symétrique
semi-définie positive. Puisque g est inversible, p0 est inversible, c’est à dire que
p0 ∈ Pn , et
g = k0 p0 .
A cause de l’unicité de la décomposition polaire, k0 est le seul point d’accumulation
de la suite km , donc km est une suite convergente de limite k0 , et pm converge vers p0 .
On montre un résultat analogue en remplaçant GL (n, R) par GL (n, C), le groupe

orthogonal O (n) par le groupe unitaire U (n), et Pn par l’ensemble des matrices
hermitiennes définies positives.
Corollaire 1-1-1-25 - Tout élément g de GL (n, R) se décompose en
g = k1 dk2 ,
où k1 , k2 ∈ O (n), et où d est une matrice diagonale à éléments diagonaux positifs.

Notons que la décomposition n’est pas unique.
On note GL (n, R)+ le sous-groupe de GL (n, R) constitué des éléments de
déterminant positif. Tout élément g de GL (n, R)+ se décompose en
g = kp, oùk1 , k2 ∈ SO (n) , p ∈ Pn , et aussi
g = k1 dk2 ,
23
où k1 , k2 ∈ SO (n), et où d est une matrice diagonale à éléments diagonaux positifs.
Le groupe orthogonal. *0.5cm - Soit S n−1 la sphère unité de Rn ,

S n−1 = {x ∈ Rn |kxk = 1} .
Le groupe SO (n) opère sur S n−1 . Soit K le sous-groupe d’isotropie du point en =
(0, ..., 0, 1) ,
K = {k ∈ SO (n) |ken = en } .
C’est le groupe des matrices de la forme

u 0
k= , u ∈ SO (n − 1) .
0 1
Ainsi K est isomorphe à SO (n − 1) .
Proposition I-1-1-26 - Si n ≥ 2, le groupe SO (n) opère transitivement sur la

sphère S n−1 .
Preuve : - Le théorème se démontre par récurrence sur n.
(a) Si n = 2, SO (2) est le groupe des rotations du plan, et S 1 est le cercle

unité. La propriété annoncée est bien vraie.
(b) Supposons la propriété vraie pour n − 1, et montrons-la pour n.

Montrons que pour tout x de S n−1 il existe k ∈ SO (n) tel que x = ken . On peut
écrire
x = cos θen + sin θx0 ,
avec x0 ∈ Rn−1 , kx0 k = 1, c’est à dire que x0 est un point de la sphère S n−2 . D’après
l’hypothèse de récurrence il existe u ∈ SO (n − 1) tel que x0 = uen−1 . Posons
 
In−2 0 0
u 0
k= , hθ =  0 cos θ sin θ  .
0 1
0 − sin θ cos θ
Alors
khθ en = sin θuen−1 + cos θen = x.
Corollaire I-1-1-27 - (i) Tout élément k de SO (n) s’écrit

k = k1 hθ k2 , k1 , k2 ∈ K ' SO (n − 1) , θ ∈ R.
(ii) Le groupe SO (n) est connexe.
24
Preuve : - (a) Soit k ∈ SO (n), et posons x = ken . D’après la démontration

du théorème précédent on peut écrire x = k1 hθ en , ainsi h−1
θ k1 , ken = en , donc
−1
k2 = hθ k1 k ∈ K, ou k = k1 hθ k2 .
−1 −1
(b) Montrons par récurrence sur n que SO (n) est connexe. Pour
n = 2, SO (2) est homéomorphe à un cercle donc connexe. Supposons que SO (n − 1)
soit connexe. D’après (i) l’application
SO (n − 1) × SO (2) × SO (n − 1) −→ SO (n) , (k1 , hθ , k2 ) 7−→ k1 hθ k2 ,
est surjective. Puisqu’elle est continue il en résulte que SO (n) est connexe.
Notons que SO (n) est connexe par arc.
Corollaire I-1-1-28 - Les groupes GL (n, R) et SL (n, R) sont connexes.
Preuve : - C’est une conséquence du Corollaire I.1.6 et de la décomposition po-

laire dans GL (n, R)+ et dans SL (n, R).
Décomposition de Gram. - Soient G = GL (n, R) le groupe des matrices de dé-

terminant positif, K = O (n) le groupe orthogonal, et T = T (n, R)+ le groupe des
matrices triangulaires supérieures ayant des éléments diagonaux positifs.
Théorème I-1-1-29 (Décomposition de Gram). - Tout élément g de G s’écrit
g = kt,
avec k ∈ K, t ∈ T . La décomposition est unique. L’application
K × T −→ G, (k, t) 7−→ kt,
est un homéomorphisme.
Preuve : - (a) Montrons que la décomposition est unique. Supposons que
g = k1 t1 = k2 t2 , k1 , k2 ∈ K, t1 , t2 ∈ T,
alors
k2−1 k1 = t2 t−1
1 .
Puisque K ∩ T = {e} il en résulte que k1 = k2 , t1 = t2 .
25
(b) Rappelons d’abord le procédé d’orthogonalisation de Gram-Schmidt. Soient

v1 , ..., vn n vecteurs indépendants de Rn . On construit une suite de vecteurs ortho-
normés f1 , ..., fn tels que
f1 = α11 v1 ,
f2 = α12 v1 + α22 v2 ,
···
fn = α1n v1 + ... + αnn vn ,
avec αii > 0. La matrice α = (αij ) appartient à T . Notons t son inverse. Il existe
une matrice orthogonale k telle que
n
X
fj = kij ei ,
i=1
où e1 , ..., en désignent les vecteurs de la base canonique de Rn . Ainsi

i n i
!
X X X
vi = tji fj = tji k`j e` .
j=1 `=1 j=1
En appliquant le procédé d’orthogonalisation aux vecteurs colonnes d’une matrice g

de G on obtient
g = kt,
avec k ∈ K, t ∈ T.
(c) L’application
K × T −→ G, (k, t) 7−→ kt
est continue. Son iverse est également continue. Elle résulte en effet de la suite des
opérations qui constituent le procédé d’orthogonalisation de Gram-Schmidt.
Si g ∈ GL (n, R)+ (c’est à dire si det g > 0) , alors k ∈ SO (n) .
On montre un résultat analogue pour G = GL (n, C) , K = U (n) et T étant le

groupe des matrices triangulaires supérieures complexes ayant des éléments diago-
naux réels positifs.
26
- Intégration dans les groupes

I-1-2
topologiques localement compacts
La mesure de Haar et la convolution sur un groupe localement compact quelconque
sont devenues, dans l’analyse moderne, des outils aussi essentiels qu’ils l’étaient déjà
sur la droite et les espaces numériques dans l’analyse classique.
La mesure de Haar a été introduite pour la première fois en 1933 par A. Haar
est, sur un groupe topologique localement compact, l’analogue de la mesure de Le-
besgue sur Rn .
1) - Mesure sur un espace localement compact.

Soit X un espace compact.
Définition : I-1-2-1 On appelle mesure sur X un élément du dual de l’espace de

Banach Cc (X) des fonctions complexes continues dans X, c’est à dire une forme
linéaire f −→ µ (f ) sur Cc (X) telle que :
|µ (f )| ≤ a kf k pour toute f ∈ Cc (X) .
On rappelle que
kf k = sup |f (x)|
x∈X
Soit maintenant X un espace localement compact (métrisable et séparable). Pour

toute partie compacte K de X, désignons par K (X, K) le sous-espace vectoriel de
Cc (X) formé des fonctions de support contenu dans K (donc compact).
On pose :
K (X) = U {K (X, K) , K compact de X}
K (X) est l’espace vectoriel des fonctions complexe continues à support compact.
On appelle mesure de Radon sur X, une forme linéaire µ sur K (X) ayant la
propriété suivante :
Pour toute partie compacte K de X, il existe un nombre MK ≥ 0 tel que pour toute
fonction f ∈ K (X, K), on ait.
|µ (f )| ≤ MK kf k∞ .
Cette définition coïncide avec la précédente lorsque X est compact. Elle exprime que
la restrictionµ|K(X,K) est continue pour la topologie induite par celle de Cc∞ (X).
27
On notera que K (X, K) est fermé dans Cc∞ (X), donc un espace de Banach.
La valeur de la mesure µ au point f ∈ K (X, K) est notée.
Z
µ (f ) ou f (x) dµ (x)
X
et s’appelle l’intégrale de f par rapport à µ.

On note M (X) l’ensemble des mesures de Radon sur X.
Une mesure µ est dite réelle si µ (f ) est réel lorsque f est réelle. On appelle
mesure complexe conjuguée de µ, la mesure µ définie par :

µ̄ (f ) = µ f¯ pour toute f ∈ K (X)
Exemples de mesure de Radon : I-1-2-2
a) Soient X un espace localement compact et x un point de X.

L’application f −→ f (x) de K (X) dans C est une mesure car elle est linéaire et
on a , pour toute partie compacte K de X telle que f ∈ K (X, K) , |f (x)| ≤ kf k .
On l’appelle mesure de Dirac au point x (ou la mesure définie par la masse unité
au point x et on la note εx .
b) Soit f ∈ K (R). Pout tout intervalle [a, b] contenant le support de f , on a :

Z b Z +∞
f (t) dt = f (t) dt.
a −∞
R +∞
L’application f −→ −∞ f (t) dt est une forme linéaire sur K (R). Montrons que
c’est une mesure. Pour tout intervalle compact K = [a, b] de R on a, ∀f ∈
K (R, K) ;
Z +∞
f (t) dt ≤ (b − a) kf k .
−∞
Cette mesure est appelée mesure de Lebesgue sur R.

c) Soient µ ∈ M (X) , g ∈ C (X) .
∀f ∈ K (R, K) , g f ∈ K (X)
et l’application f −→ µ (gf ) est une forme linéaire sur K (X). Montrons que c’est
une mesure.
∀f ∈ K (R, K) , kgf k ≤ kf k .Sup |g (x)|
x∈K
28
et
|µ (gf )| ≤ bK kf k où bK = aK Sup |g (x)|
x∈K
Cette mesure se note g.µ et on l’appelle mesure de densité g par rapport à µ.

Soit π : X −→ X 0 un homéomorphisme de X sur une espace localement
compact X 0 .
∀f ∈ K (X 0 ) , f ◦ π ∈ K (X)
et l’on a
Sup (f ◦ π) = π −1 (Sup p (f )) .
On en conclut aussitôt que pour toute mesure µ sur X, f −→ µ (f ◦ π) est une
mesure sur X 0 , dite image de µ par π et notée π (µ).
Soient Y une partie fermée de X (donc un sous-espace localement compact)

et ν une mesure sur Y .
∀f ∈ K (X, K), la restriction f |Y ∈ K (Y, K ∩ Y ), donc il existe une constante

CK telle que
|v (f |Y )| ≤ CK .Sup |f (y)| ≤ CK kf k , ∀f ∈ K (X, K) .
L’application f −→ ν (f |Y ) est donc une mesure sur X , dite image de γ par

l’injection canonique Y ←→ X (on une extension canonique de ν à X).
Définition I-1-2-3 On appelle support de la mesure µ, et on note Sup p (µ) le

complémentaire du plus grand ouvert µ−négligeable dans X.
Dire que x ∈ Supp (µ) signifie que pour toute fonction f ∈ K (X) telle que
f (x) 6= 0, on a |µ| (|f |) > 0 ou encore que pour tout voisinage V de x, il existe une
fonction f ∈ K (X), de support contenu dans V et telle que µ (f ) 6= 0.
Lorsque Supp (µ) = X, la seule fonction continue µ- négligeable est donc la

constante 0.
On a par définition Supp (µ) = Supp (|µ|) et il est clair que pour tout sca-
laire a 6= 0, on a Supp (a µ) = Supp (µ). Plus généralement, pour toute fonction g
localement |µ|- intégrable, on a Supp (g.µ) ⊂ Supp (g) ∩ Supp (µ), car si on pose
γ = g. |µ| et si un ouvert U ne rencontre pas Supp (g), ou ne rencontre pas Supp (µ),
on a |γ|∗ (U ) = 0.
29
2) Mesure de Haar
Soit G un groupe localement compact (métrisable et séparable). Pour toute fonc-
tion complexe f définie sur G, on pose :
−1

s f (x) = f s x ; fs (x) = f (x s)
(les translatées à gauche et à droite de f par p), fˇ (x) = f (x−1 ) et
f˜ (x) = f (x−1 )
quels que soient s, x ∈ G.

Il résulte aussitôt que l’on a :
s tf =s (t f ) et fs t = (fs )t .
Les applications x 7−→ x−1 x et x 7−→ x s sont des homéomorphisme de G donc les
fonctions s f et fs sont continues si et seulement si f est continue. En particulier si
f ∈ K (G) , s f et fs sont aussi dans K (G).
Etant donnée une mesure de Radon µ, on note s µ et µs les mesures sur

G, image de µ par les homéomorphisme x 7−→ s x et x 7−→ xs−1 respectivement.
On a donc
s µ (f ) = µ (s−1 f ) et µs (f ) = µ (fs−1 ) , ∀f ∈ K (G)
Définition I-1-2-4 On dit que µ est invariante

R à gauche (resp.R à droite) si, pour
tout s ∈
R G, on a s µ = µ R(resp µ s = µ)
ie G
f (s −1
x) dµ (x) = G
f (x) dµ (x)
resp. f (x s) dµ (x) = f (x) dµ (x) .
Si une mesure µ 6= 0 sur G est invariante à gauche, on a Supp (µ) = G car
Supp (s µ) = s Supp (µ) tout s ∈ G et Supp (µ) 6= φ.
De même pour les mesures invariantes à droite.
Définition I-1-2-5 Soit G un groupe localement compact. On appelle mesure

de Haar à gauche (resp. à droite) sur G, toute mesure positive non nulle sur G ;
invariante à gauche (resp. à droite).
L’existence d’une mesure de Haar est assurée par le théorème suivant :
Théorème I-1-2-6 Sur tout groupe localement compact G, il existe une mesure
de Haar à gauche (resp à droite) µ et toute autre mesure de Haar à gauche (resp à
droite) sur G est de la forme Cµ où C est un nombre réel strictement positif.
30
Preuve : Voir N. Bourbaki [ ], J. Dieudonné [2] ou E. HEWITT et K.A. ROSS

[ ].
Exemples I-1-2-7 a) Sur le groupe additif Rn (n ≥ 1), la mesure de Lebesgue

dx est une mesure de Haar à gauche et à droite.
R +∞
b) La mesure f −→ 0 f (t) t
dt est une mesure de Haar sur R+ ∗
.
c) Considérons le groupe spécial linéaire complexe SL (2, C) .

α β
Soit g = ∈ SL (2, C) qu’on identifiera au point de C4 avec αδ−γβ = 1
γ δ
et dα dβ dγ dδ = d (αδ − γβ) dω = J d (αδ − γβ) où J est le Jacobien pour la trans-
formation dβ dγ dδ (α, β, γ, δ) −→ (αδ − γβ, β, γ, δ) .
On a donc dω (g) = 1δ dβ dγ dδ ; dω est invariant par les translation à

gauche et à droite.
Ainsi la forme positive :
1
dµ |g| = dω dω̄ = dβ dγ dδ dβ̄ dγ̄ dδ̄
|δ|
vérifie
dµ (g0 g) = dµ (gg0 ) = dµ (g)
On a donc une mesure de Haar sur SL (2, C).
Soient G un groupe localement compact et µ une mesure de Haar à gauche sur

G. Pour toute f ∈ K (G) et tout s ∈ G, la mesure ν définie par :
ν (f ) = µ (fs−1 )
est une mesure positive invariante à gauche. Il existe donc un nombre positif unique
4G (s) tel que ν (f ) = 4G (s) µ (f ) c’est a dire que
Z Z
−1

f xs dµ (x) = 4G (s) f (x) dµ (λ) .
G G
Définition I-1-2-8 La fonction s 7−→ 4G (s) G de G dans R+ ∗

est appelé fonction
module sur G. Le groupe G est dit unimodulaire si 4G (s) = 1 pour tout p ∈ G.
Remarque : Si G est unimodulaire, toute mesure invariante à gauche sur G est

aussi invariante à droite, et on parle simplement de mesure de Haar sur G.
31
Théorème I-1-2-9 L’application s −→ 4G (s) est un homomorphisme continu

de G dans le groupe multiplicatif R+
∗
des nombres réels postifs.
Preuve : Soit µ une mesure de Haar à gauche su G et soit f ∈ K (G) telle que
µ (f ) 6= 0
∀x, y ∈ G on a :

4G (xy) µ (f ) = µ f(xy)−1 = µ (fy−1 )x−1 = 4 (x) µ (fy−1 ) = 4 (x) 4 (y) µ (f ) .
d’où
4 (xy) = 4 (x) 4 (y) .
Montrons que 4G est continu. Comme 4 est un homomorphisme de groupe, il suffit
de montrer que 4 est continue au point e.
Soit f ∈ K (G) telle que µ (f ) = 1 et soit K le support compact de f . Soit

U un voisinage symétrique compact de e et posons S = KU .
S est compact puisque K et U le sont.
Si x ∈ U, fx−1 − f s’annule dans le complémentaire de S.
En effet, si f (yx−1 ) 6= f (y), alors f (yx−1 ) et f (y) ne peuvent s’annuler en même

temps.
ALors ou bien yx−1 ∈ K et y ∈ Kx ⊂ KU = S ou bien y ∈ K ⊂ S.

Une mesure de Haar étant continue, il existe une constante M ≥ 0 tel le que
kµ (fx−1 − f )k ≤ M kfx−1 − f k∞ ∀x ∈ U.
Comme
µ (fx−1 − f ) = µ (fx−1 ) − µ (f ) = 4 (x) µ (f ) − µ (f ) = (4 (x) − 1) µ (f )
on a
|4 (x) − 1| ≤ M kfx−1 − f k∞ ∀x ∈ U
Or toute fonction f ∈ K (G) est uniformément continu sur G. Donc il existe un
voisinage Ω de e, tel que :
ε
kfx−1 − f k∞ ≤ ∀x ∈ Ω
M
En posant V = U ∩ Ω, on a le résultat.
32
Théorème I-1-2-10 i) Les groupes topologiques commutatifs ou compacts sont

unimodulaires.
ii) Si H est un sous-groupe compact d’un groupe localement compact G. Alors

4H (ζ) = 4G (ζ) = 1 ∀ζ ∈ H.
Preuve : i) Si G est un groupe commutatif alors G est unimodulaire (évident).

Si H est compact alors 4 (G) est un sous-groupe compact du groupe multiplicatif
]0, +∞[. Comme {1} est le seul sous-groupe compact de ]0, +∞[,
alors 4 (G) = 1.
ii) Si H est un sous-groupe compact de G, on a 4H (H) = 4G (H) = 1 d’où le

résultat.
Remarque I-1-2-11 Un sous-groupe d’un groupe unimodulaire n’est pas nécessai-

rement unimodulaire. Par exemple G = GL (2, R) est unimodulaire mais le sous-
groupe

a b
H= , a > 0 b ∈ R de G ne l ’est pas
0 1
Théorème I-1-2-12 Soient G un groupe localement compact. 4 le module de G

et µ une mesure de Haar à gauche sur G.
Z Z

∀f ∈ K (G) f x−1 4 x−1 dµ (x) = f (x) dµ (x)
G G
Preuve : Posons Z

v (f ) = f x−1 4 x−1 dµ (x)
γ est une forme linéaire positive non identiquement nulle sur K (G) et on a pour
tout p ∈ G et pour toute f ∈ K (G) .
Z Z

v (p f ) = −1 −1
f p x 4 x −1
dµ (x) = fˇ (xp) 4 x−1 dµ (x)
G Z G Z

= 4 p−1 fˇ (x) 4 px−1 dµ (x) = f x−1 4 x−1 dµ (x) = ν (f ) .
G G
Donc ν est une mesure de Haar à gauche.

Il existe donc une constante a > 0 elle que µ̌ = a4−1 .µ ;
on en déduit µ = a (4−1 .µ) = a4.µ̌ = a2 µ d’où a2 = 1 et puisque a > 0, a = 1.
33
Corollaire I-1-2-13 Soit µ une mesure de Haar à gauche sur un groupe localement
compact G. Alors G est unimodulaire si et seulement si
Z Z
−1

f x dµ (x) = f (x) dµ (x) ∗
G G
pour toute fonction f ∈ K (G.) .
Preuve : Si G est R unimodulaire, 4G R(x) = 1 pour tout x ∈ G.

Réciproquement si G f (x−1 ) dµ (x) = G f (x) dµ (x) pour tout f ∈ K (G) , G est
unimodulaire puisque le premier membre est invariant à droite et le second membre
est invariant à gauche par hypothèse.
Théorème I-1-2-14 Pour toute fonction f ∈ K (G), l’application

Z
f 7−→ µ (f ) = f (x) |J (Lx )|−1 dx
G
est une mesure de Haar à gauche sur G. De même l’application

Z
f 7−→ ν (f ) − f (x) |J (Rx )|−1 dx
G
est une mesure de Haar à droite sur G.
Preuve : L’intégrale de Riemann étant linéaire, µ est une forme linaire sur K (G)
et si f ∈ K+ (G), alors µ (f ) ≥ 0.
Montrons que µ est invariante à gauche.

Pour tout s ∈ G on a
Z

µ (s f ) = f s−1 x |J (Lx )|−1 dx.
G
Faisons le changement de variables s−1 x = y, d’où x = sy.

Ls étant un homéomorphisme de G, on a Ls (G) = G et d’après la formule de
changement de variables dans les intégrales multiples.
Z Z
−1
µ (s f ) = f (y) |J (Lsy )| |J (Ls )| dy = f (y) |J (Lsy )|−1 |J (Ly )|−1 |J (Ls )| dy
ZG G
−1
= f (y) |J (Ly )| dy = µ (f ) .
G
Donc µ est une mesure de Haar à gauche.

On montrerait de même que ν est une mesure de Haar à droite.
34
Exemple I-1-2-15 Soit G l’ensemble des matrices carrées d’ordre 2 à coefficients

réels de la forme
x y
g=
0 1
où x > 0 et y ∈ R.
G est une groupe localement compact séparé isomorphe au demi-plan formé des
x ≥ 0. Un élément g de G s’écrira don (x, y) avec (x, y) (u, v) = (xu, xv + y).
Si
a b
s= ∈ G, on a
0 1

a b x y ax ay + b
Ls (g) = s g = . =
0 1 0 1 0 1

x y a b ax bx + y
Rs (g) = g s = . = .
0 1 0 1 0 1
D’où
J (Ls ) = a2 . J (Rs ) = a.
Comme une fonction sur G s’identifie à une fonction des deux variables x et y,
soit f (g) = f (x, y), les mesures de Haar à gauche et à droite sur G s’écrivent
respectivement, pour toute f ∈ K (G) ;
Z Z+∞ Z+∞
f (x, y)
f (g) dµ (g) = dx dy
G x2
−∞ 0
et
Z Z+∞ Z+∞
f (x, y)
f (g) dν (g) = dx dy.
G x
−∞ 0
On constate au passage que le groupe G n’est pas unimodulaire.
Exemple I-1-2-16 Prenons G = GL (2, R), Si

a11 a12
s= ∈ G,
a21 a22
un calcul élémentaire montre que
J (Ls ) = J (Rs ) = (a11 a22 − a12 a21 )2 = [dét (s)]2 .
35
Donc les mesures de Haar à gauche et à droite sont identiques et données par
Z Z
f (x11 , x12 , x21 , x22 )
f (g) dµ (g) = dx11 dx12 dx21 dx22 .
G x11 x22 − x12 x21
R4
Ainsi GL(2, R) est unimodulaire.

Soit maintenant u un automorphisme du groupe topologique G., il est clair
que l’image u−1 (µ) d’une mesure de Haar à gauche µ sur G est encore une mesure
de Haar à gauche, donc il existe un nombre a > 0, indépendant du choix de µ, tel
que u−1 (µ) = a µ.
On dit que a est le module de l’automorphisme u et on le note modG (u) ou
mod (u). Pour toute fonction f ∈ K (G), on a donc :
Z Z
−1

f u (x) dµ (x) = mod (u) f (x) dµ (x)
G G
et en particulier, pour tout ensemble µ- intégrable A,
µ (u (A)) = mod (u) µ (A) .
Pour tout p ∈ G, soit ip l’automorphisme intérieur x −→ p−1 x p, on peut écrire
u−1
s (µ) = R(s) µ = 4G (s) µ.
Par conséquent mod (is ) = 4 (s) .
Si G est compact ou discret, on a mod (u) = 1 pour tout automorphisme u

de G, car u (G) = G et u ({e}) = {e} .
On a donc les propriétés suivantes :

1) Si u et v sont deux automorphismes de G on a
mod (u ◦ v) = mod (u) . mod (v) .
2) Pour tout automorphisme u de l’espace vectoriel Rn , on a :
mod u = |det (u)|
Voir [ ] pour une démontration.
3) - Mesure invariante et quasi-invariante sur un espace homogène.
Soient Γ un espace topologique et G un groupe topologique.
36
Définition I-1-2-17 G est un groupe de transformation (à gauche) topologique si

les conditions suivantes sont vérifiées.
a) A tout g ∈ G, on associe un homéomorphisme
γ −→ gγ de Γsur Γ.
b) L’élément neutre e de G est l’homéomorphisme identique de Γ.

c) L’application (g, γ) −→ gγ de G × Γ sur Γ est continue.
d) (g1 g2 ) γ = g1 (g2 γ) , ∀g1 , g2 ∈ G et γ ∈ Γ.
On dit que G opère transitivement sur Γ si pour tous γ 1 , γ 2 ∈ Γ, il existe un

élément g ∈ G tel que γ 2 = gγ 1 .
L’action de G sur Γ est dite effective, si on a :
gγ = γ ⇐⇒ g = e.
Le sous-groupe de G qui laisse invariant γ ∈ Γ est appelé le stabilisateur ou

groupe d’isotropie de γ.
Théorème I-1-2-18 Le groupe G opère effectivement sur G/H si et seulement si

H ne contient pas de sous-groupe distingué N de G.
Preuve : Si N ⊂ H est un sous-groupe distingué de G,
n ∈ N et x ∈ G alors x−1 nx = n ∈ N et n xH = xnH = x H
donc l’action de G sur G/H n’est pas effective. Réciproquement un ensemble N

d’élément n ∈ G qui vérifient n xH = x H pour tout x ∈ G, engendre G.
Pour tous x, g ∈ G, n ∈ N et h ∈ H on a

gng −1 x H = x H et hnh−1 H = H.
Par conséquent N est un sous-groupe normal de G contenu dans H.
Cette construction montre que tout espace quotient G/H de G au dessus de

H est un espace homogène.
En particulier si H = {e}, on voit comme précédemment que G est un espace

homogène.
37
Théorème I-1-2-19 Soit G un groupe topologique localement compact qui opère

transitivement sur un espace localement séparé Γ. Soit γ ∈ Γ et H un sous-groupe
de G qui laisse invariant γ (le sous-groupe d’isotropie de γ).
Alors : 1) H est fermé

2) L’application gH −→ gγ est une homéomorphisme de G/H sur
Γ.
Preuve : Voir Helgason ”Différential géométry and Symmetric Spaces”.
Supposons que le groupe fondamental G de l’espace homogène est un groupe

de Lie connexe.
Soit σ un automorphisme involutif de G ie (σ 2 = 1 σ 6= 1).

Soient
Gσ = {g ∈ G |σ (g) = g}
le sous-groupe fermé de G et G0σ la composante neutre de Gσ .
Soit H un sous-groupe fermé de G tel que G0σ ⊂ H ⊂ Gσ . On dit que G/H

est un espace homogène symétrique.
Si on note σ est un automorphisme involutive de l’algèbre de Lie G de G

induite par σ, on a G = K ⊕ P
où
K = {X ∈ G, σ (X) = X}
P = {X ∈ G, σ (X) = −X} et on a
[K, K] ⊂ K, [K, P] ⊂ P et [P, P] ⊂ K

La décomposition (1) est appelé décomposition de Cartan de G.
Le rang d’un espace symétrique G/H est la dimension de la sous-algèbre

abélienne maximale de P.
.
Soit X un espace homogène de groupe de transformation qui est un groupe
localement compact séparable. X est isomorphe à H \ G ou G/H où H est le sous-
groupe d’isotropie d’un point x0 ∈ X.
Soit µ une mesure positive sur X.
38
Soit µg une mesure définie par :

Z Z

µg (f ) = f (x) dµ (xg) = f xg −1 dµ (x) ∀f ∈ K (X) .
X X
On sait qu’il existe une mesure invariante sur tout groupe topologique localement
compact.
L’exemple suivant nous montre que sur un espace homogène, il n’existe pas
toujours une mesure invariante.
Exemple I-1-2-20 Soit G le groupe des matrices triangulaire réelle de la forme :

α 0
g= α>0
γ α−1
et
α 0
H=
0 α−1
d’après la décomposition de Mackey, tout élément g ∈ G peut s’écrire sous la forme :

α 0 1 0
g=
γ α−1 γα 1
Ainsi tout élément de Hg peut être représente de façon unique par un point x = γα
de la droite des nombres réels R., par conséquent X= H \ G ≡ R.
1 0
En identifiant tout élément x à un élément du groupe, on obtient
x 1
une action de G sur X par la formule :

1 0 α 0 α 0
=
x 1 γ α−1 αx + γ α−1

α 0 1 0
=
0 α−1 α2 x + αγ 1
ou encore g : x −→ α2 x + αγ.
La mesure invariante sur X est en particulier, invariante par la translation

x −→ x + γ donc proportionnelle à la mesure de Lebesgue sur R. D’autre part, une
telle mesure ne peut pas être invariante par l’homothétie x −→ α2 x. Par conséquent,
il n’existe pas de mesure dµ (x) sur X invariante par G.
Il existe par contre, des mesures sur les espaces homogènes appelés mesures
quasi-invariantes.
39
Définition I-1-2-21 Une mesure positive µ sur X est dite quasi-invariante si la

mesure µg et µ sont équivalentes pour tout g ∈ G.
On rappelle que deux mesures positives µ1 et µ2 sont dites équivalentes si

elles ont les mêmes ensembles négligeables. D’après le théorème de Radon Nikodym,
il existe alors une fonction positive ρ telle que dµ1 (x) = ρ (x) dµ2 (x).
La fonction ρ : x −→ dµ1 (x) /dµ2 (x) est appelée dérivée de Radon Nikodym.
Nous allons donner quelques propriétés importantes des mesures quasi-invariantes

sur un espace homogène.
Théorème I-1-2-22 Soient G un groupe localement compact, H un sous-

groupe fermé de G et X = H \ G. Alors :
1) Il existe une mesure quasi-invariante sur X telle que la dérivée de Radon Ni-
kodym dµg (x) /dµ (x) soit une fonction continue sur G × X.
2) Deux mesures quasi-invariantes sur X sont équivalente.

3) Toute mesure quasi-invariante peut être obtenue de la fonction suivante :
Soit ϕ une fonction de Borel strictement positive et localement intégrable telle que
4H (h)
ϕ (hg) = ϕ (g) , ∀h ∈ H.
4G (h)
où 4H et 4G sont les fonctions modules sur H et G respectivement.

Alors ϕ définit une mesure quasi-invariante µ sur X par la formule suivante.
Pour toute f ∈ K (G)
Z Z Z
f (g) ϕ (g) dg = dµ (ġ) f (hg) dh, ġ = Hg,
G X H
La mesure µ vérifie la condition :
ϕ (ġg 0 )
dµ (ġg 0 ) = dµ (g 0 )
ϕ (g 0 )
et toute ϕ est uniquement déterminée à une constante près.
Preuve : Voir Mackey 1952 et Loomis 1960.
40
I-1-3 - Notions de paire de Guelfand
I. Généralités
Soient G un groupe localement compact, µ une mesure de Haar à gauche sur G
et K un sous-groupe compact de G.
Notons K∗ (G) l’espace des fonctions de K (G) qui sont biinvariantes par K,
c’est à dire des fonctions f qui vérifient :
∀k, k 0 ∈ K f (k x k 0 ) = f (x) .
La convolution de deux fonctions f et g de K (G) est définie par :

Z Z
−1

(f ∗ g) (x) = f (y) g y x dµ (y) = f xy −1 4 y −1 g (y) dµ (y)
G G
L’espace K (G) muni de la multiplication définie par le produit de convolution est

une algèbre et K∗ (G) en est une sous algèbre.
Remarque I-1-3.1 - Soit µK la mesure de Haar normalisée de K. Si l’on pose :

Z Z
f ∗ (x) = f (k × k 0 ) dµK (k) dµK (k 0 )
K×K
pour toute fonction f ∈ K (G), l’application f 7−→ f ∗ est un projecteur de l’espace

K (G) sur l’espace K∗ (G).
Définition I-1-3-2 - On dit que (G, K) est une paire de Guelfand si l’algèbre de
convolution K∗ (G) est commutative.
Proposition I-1-3-3 - Soit (G, K) une paire de Guelfand. Alors le groupe G est
unimodulaire.
Preuve : D’après la proposition I. 1. 10 on a pour toute fonction f de K (G) .

Z Z

f (x) dµ (x) = f x−1 4 x−1 dµ (x)
G G
Pour que G soit unimodulaire, il suffit de montrer que

Z Z

f (x) dµ (x) = f x−1 dµ (x) ∀f ∈ K∗ (G) .
G G
41
Soit g une fonction de K∗ (G) telle que g (x) = 1 sur le compact

Supp f ∪ (S upp f )−1 où (Supp f )−1 = {x−1 |x ∈ Supp f } .
Z Z

f (x) dµ (x) = f (x) g x−1 dµ (x) = f ∗ g (e)
G G Z Z
−1

= g ∗ f (e) = f x g (x) dµ (x) = f x−1 dµ (x) ,
G G
en vertu du fait que (G, K) est une paire de Guelfand.

Par conséquent, G est unimodulaire.
Théorème I-1-3-4 - Soient G un groupe localement compact et K un sous groupe

compact de G. Supposons qu’il existe un automorphisme continu involutif θ de G tel
que pour tout x ∈ G, x−1 ∈ K θ (x) K.
Alors (G, K) est une paire de Guelfand.
Preuve : Soit µ une mesure de Haar à gauche, θ étant un automorphisme involutif,

on a θ2 = 1G et (mod θ)2 = 1, par suite mod θ = 1 à cause de I.1.12.
Pour toute fonction f de K (G), on a :
Z Z
θ (µ) f = µ (f ◦ θ) = f ◦ θ (x) dµ (x) = f (θ (x)) dµ (x)
ZG Z G

= mod θ−1 f (x) dµ (x) = f (x) dµ (x) = µ (f )
G G
On en conclut que θ (µ) = µ d’où µ est laissé invariant par tout automorphisme
involutif
. Posons f θ (x) = f (θ (x)) ∀f ∈ K (G) .
La relation θ (µ) f = µ (f ) s’écrit :
Z Z
θ
∗∗ f (x) dµ (x) = f (x) dµ (x)
G G
et on a pour deux fonctions f et g de K (G)

f θ ∗ g θ = (f ∗ g)θ et fˇ ∗ ǧ = (g ∗ f )∨
En effet pour tout x ∈ G
a)
Z Z

(f ∗ g)θ (x) = f ∗ g (θ (x)) = f (y) g y −1 θ (x) dµ (y) = f (θ (y)) g θ (y)−1 θ (x) dµ (y)
Z G
θ θ −1
θ θ
= f (y) g y x dµ (y) = f ∗ g (x)
G
42
en vertu de la relation * *
b) Si f est biinvariante par K on a fˇ = f θ et le groupe G est unimodulaire, ce

qui implique que
Z Z
∨
ˇ ˇ
f ∗ ǧ (x) = f ∗ǧ x −1
= ˇ −1 −1
f (y) ǧ y x dµ (y) = f y −1 g (x y) dµ (y) = g∗f (x)
G G
Il reste à prouver que pour deux fonctions quelconques f et g de K∗ (G) on a :
f ∗g =g∗f
Il résulte de a) et b) que :
(f ∗ g)θ = f θ ∗ g θ = fˇ ∗ ǧ = (g ∗ f )∨ = (g ∗ f )θ
d’où f ∗ g = g ∗ f et (G, K) est une paire de Guelfand. C.Q.F.D.

Soient G un groupe localement compact et K un sous-groupe compact de G
Supposons que l’espace homogène X = G/K est muni d’une distance invariante d :
∀ x, y ∈ X, ∀ g ∈ G, d (gx, gy) = d (x, y) .
Définition I-1-3-5 - On dit que le groupe G opère sur X de façon doublement transitive
si
d (x, y) = d (x0 , y 0 ) =⇒ ∃ g ∈ G, x0 = g x et y 0 = g y.
Proposition I-1-3-6 - Si le groupe G opère sur X de façon doublement transitive

alors (G, K) est une paire de Guelfand.
Preuve : Soit x0 l’élément eK de X.

d (x0 , gx0 ) = d g −1 x0 , x0
car d est une distance invariante et d’après la double transitivité, il existe un élé-
ment k de G tel que x0 = kx0 et gx0 = kg −1 x0 , x0 = kx0 (donc k ∈ K) et
k −1 gx0 = g −1 x0 .
Par conséquent g −1 ∈ K g K et d’après la théorème I.3.3, il suffit de prendre

θ l’application identique. D’où (G, K) est une paire de Guelfand.
43
Définition I-1-3-7 - Soient G un groupe localement compact et K un sous-groupe

fermé de G. La paire (G, K) est appelée une paire symétrique s’il existe un auto-
morphisme involutif θ de G tel que :
(Kθ )0 ⊂ K ⊂ Kθ
où Kθ = {g ∈ G, θ (g) = g} et (Kθ )0 est la composante connexe de l’élément neutre

du groupe Kθ . On montre que K θ (g) K = Kg −1 K pour tout élément g de G. Le
quotient G/K est appelé espace symétrique.
Théorème I-1-3-8 - Soient G un groupe de Lie connexe et K un sous-groupe

compact de G. Si la paire (G, K) est symétrique alors (G, K) est une paire de Guel-
fand.
Preuve : Si (G, K) est une paire symétrique alors d’après I.3.3, pour tout élément
g de G on a K θ (g) K = Kg −1 K où θ est un automorphisme involutif de G, et alors
(G, K) est une paire de Guelfand.
Exemples I-1-3-9 1) - Le premier exemple d’une paire de Guelfand est celui

où G est un groupe commutatif et où K est réduit à l’élément neutre, K = {e}.
(G, {e}) est une paire de Guelfand.
2) - On considère sur Rn , la structure euclidienne définie par le produit sca-

laire : (x |y ) = x1 y1 + x2 y2 + ... + xn yn
si :
x = (x1 , x2 , ..., xn ) , y = (y1 , y2 , ..., yn ) et soit En l’espace euclidien obtenu.
Considérons le groupe des déplacements G = SO (n) × Rn et le sous-groupe K =
SO (n) des rotations sur Rn . On peut identifier l’espace euclidien En à l’espace G/K.
Si g = (k, a) ∈ G, on définit l’action sur En par :
G × En −→ En
(g, x) 7−→ g. x = k. x + a
Pour cette action, le groupe G opère sur l’espace En de façon doublement transitive
et d’après la proposition I.3.5.
(SO (n) × Rn , SO (n)) est une paire de Guelfand.
Les fonctions sur G biinvariantes par K s’identifient aux fonctions sur En qui
sont invariantes par K, c’est à dire radiales.
44
3) - Considérons le groupe des rotations G = SO (n + 1) sur Rn+1 et la

sphère unité S n .
Le groupe SO (n + 1) opère sur S n . Son action étant transitive sur la sphère
S n , celle-ci est un espace homogène du groupe SO (n + 1) .
Cherchons le groupe d’isotropie d’un point
e0 = (1, 0, , ..., 0) ∈ S n ;
ce groupe est formé des matrices du type.

 
1 0
 A  où A ∈ SO (n)
0
et comme il existe une correspondance biunivoque entre les points d’un espace homo-
gène du groupe G et les classes à gauche G/H où H est le groupe d’isotropie, alors
il vient donc qu’on peut identifier S n à SO (n + 1) / SO (n)
(S n ≡ SO (n + 1) / SO (n)) .
Sur S n , on considère la distance définie par :
d (x, y) = r si cas r = x y = x0 y0 + ... + xn yn
avec 0 ≤ r ≤ π et SO (n + 1) opère de façon doublement transitive sur S n .

Par conséquent d’après la proposition I.3.5 (SO (n + 1) , SO (n)) est une paire de
Guelfand.
Une fonction f définie sur G biinvariante par K peut être considérée comme
une fonction sur S n invariante par K. Une telle fonction est dite zonale, elle ne dé-
pend que de la distance à e0 .
4) - Considérons le groupe
G = SL (n, C) = {A ∈ GL (n, C) , det A = 1} et le sous-groupe compact SU (n) .
(SL (n, C) , SU (n)) est une paire symétrique, par conséquent c’est une
paire de Guelfand d’après le théorème I.3.7.
45
5) - Pour deux éléments quelconques x, y de Cn+1 ,

Posons :
(x, y) = ȳ0 x0 − ȳ1 x1 − ... − ȳn xn .
Soit G = U (1, n, C) le groupe des transformations C- linéaires g de C n+1
telle que (g (x) , g (y)) = (x, y).
En identifiant g à la matrice qui la représente dans la base canonique on a :
G = U (1, n, C) = {g ∈ M (n + 1, C) / g ∗ Jg = J} .
où  
1
 −1 
J =
 0

0 
0 −1
Soient θ l’automorphisme involutif de G défini par :
θ (g) = Jg J
et K le sous-groupe de G défini par :
K = {g ∈ G | θ (g) = g}
On a alors :
K = U (1, n, C) ∩ U (1 + n, C)
où
U (1 + n, C) = {g ∈ M (n + 1, C) , g ∗ g = Id}
Il en résulte que K est un sous-goupe compact de G isomorphe au produit
U (1, C) × U (n, C)
Composé des matrices de la forme :

 
u 0
 A  où A ∈ U (n, C) et u un nombre complexe de module 1.
0
(U (1, n, C) , U (1, C) × U (n, C))

est une paire de Guelfand (D’après le Théorème I.3.7).
46
II. La paire (G,K) où K est un sous-groupe compact du groupe des

automorphismes de G
Soient G un groupe localement compact et K un sous-groupe compact du groupe

des automorphismes de G. Formons le produit semi-direct K B G dont la multipli-
cation est définie par :
(k1 , x1 ) (k2 , x2 ) = (k1 k2 , x1 k1 (x2 ))
On notera eK l’élément neutre de K et e celui de G.
Proposition I-1-3-10
L’algèbre L1 (K B G\\K) est isométriquement isomorphe à L1K (G).
Preuve :
Soit l’application
φ : L1 (K B G\\K) −→ L1K (G)
F 7−→ f
telle que
f (x) = F (eK , x) ∀ x ∈ G
montrons que f est bien dans L1K (G). Pour F ∈ L1 (K B G\\K); x ∈ G et pour
tout k ∈ K on a :
F (k, x) = F ((eK , x)(k, e)) = F (eK , x) (1.2)
car F ∈ L1 (K B G\\K) et (k, e) ∈ K. Aussi
F (eK , k(x)) = F (kk −1 , ek(x)) = F ((k, e) (k −1 , x)) = F (k −1 , x) = F (eK , x)
(1.3)
grâce à (1.2). Ainsi ∀ x ∈ G, ∀ k ∈ K
k
f (x) = f (k(x)) = F (eK , k(x)) = F (eK , x) = f (x)
car (1.3). Donc f est bien dans L1K (G). Montrons ensuite que φ est une isométrie.
Z Z Z Z
kF k1 = |F (k, x)| dkdx = |F (eK , x)| dkdx
ZK G K G
= |f (x)| dx, dk étant une mesure de Haar normalisée sur K

G
= kf k1
47
En outre, si F et F 0 sont deux éléments de L1 (K B G\\K) et f = φ (F ) ; f 0 = φ(F 0 )

alors : ∀x ∈ G,
Z Z Z
φ (F ) ∗ φ(F 0 )(x) = f ∗ f 0 (x) = f (y)f 0 (y −1 x)dy = F (eK , y)F 0 (eK , y −1 x)dydk
Z Z G K G
= F (k, y)F 0 (eK , k −1 (y −1 x))dydk

K
Z Z G
= F (k, y)F 0 (k −1 , k −1 (y −1 x))dydk

ZK ZG
= F (k, y)F 0 ((k, y)−1 (eK , x))dydk = F ∗ F 0 (eK , x)
K G
= φ(F ∗ F 0 )(x)
Ce qui achève la démonstration.
Définition I-1-3-11
Soit G un groupe localement compact, K un sous-groupe compact de Aut(G).
(G, K) est une paire de Gelfand si L1K (G) est commutative (pour la convolution).
Cette définition est en accord avec la définition usuelle grâce à la Proposition I.2.1.
Soient K, L deux sous-groupes compacts de Aut (G) . Supposons qu’il existe un
automorphisme u de G tel que L = u◦K ◦u−1 . Alors (G, K) est une paire de Gelfand
si et seulement si (G, L) est une paire de Gelfand.
Preuve
Soit
φ : L1 (G) −→ L1 (G)
f 7→ modG (u)f ◦ u
φ est un automorphisme d’espace vectoriel. Prenons ensuite f et g deux éléments
de L1 (G) et x ∈ G.
Z Z
−1
φ(f ) ∗ φ(g)(x) = φ(f )(y)φ(g)(y x)dy = modG (u)f (u(y)) modG (u)g(u(y −1 )u(x))dy
G G
= modG (u)f ∗ g(u(x)) = φ(f ∗ g)(x).
Ce qui montre que φ est un automorphisme d’algèbres. En outre si f ∈ L1L (G) alors
φ(f ) ∈ L1K (G) car pour x ∈ G et k ∈ K
φ(f )(k(x)) = modG (u)f (u(k(x))) = modG (u)f (u(k(u−1 (u(x)))))
= modG (u)f (u ◦ k ◦ u−1 (u(x)))
= modG (u)f (u(x)) = φ(f )(x)
48
car u ◦ k ◦ u−1 ∈ L et f ∈ L1L (G). Ainsi

φ/L1L (G) : L1L (G) −→ L1K (G)
f 7−→ φ(f ) = modG (u)f ◦ u
est un isomorphisme d’algèbres. Par conséquent L1L (G) est commutative si et seule-
ment si L1K (G) est commutative. Ce qui achève la démonstration.
Remarque I-1-3-13
Soient K et L deux sous-groupes compacts de Aut (G) tels que K ⊂ L. Si (G, K)
est une paire de Gelfand alors (G, L) est une paire de Gelfand. En effet, pour toute
f ∈ L1L (G) on a
l
f = f, ∀ l ∈ L.
Comme K ⊂ L, alors
k
f = f, ∀ k ∈ K
donc f ∈ L1K (G). Par conséquent L1L (G) ⊂ L1K (G). Ainsi si L1K (G) est commutative,
alors L1L (G) l’est aussi.
Remarque I-1-3-14
Pour toute f ∈ L1 (G),posons
Z
K
f (x) = f (k(x))dk;
K
où dk est une mesure de Haar normalisée sur K. Alors on a f K ∈ L1K (G). En effet,
pour tout k 0 ∈ K
Z Z
k0 K K 0 0
f (x) = f (k (x)) = f (kk (x))dk = f (k(x))dk
K K
car dk est invariante à droite. D’où

k0
f K (x) = f K (x).
Supposons maintenant que G soit un groupe de Lie. Soit E 0 (G) l’espace des
distributions à support compact de G. (C’est le dual de C ∞ (G)). Pour tous D1 et
D2 ∈ E 0 (G) on définit la convolution par :
< D1 ∗ D2 , f >=< D1 (x), < D2 ,x−1 f >> .
Muni de cette convolution E 0 (G) est une algèbre.

Notons

0
EK (G) = D ∈ E 0 (G) : DK = D ; où < DK , f >=< D, f K > ∀f ∈ Cc∞ (G)
49
l’espace des distributions à support compact K−invariantes. EK

0
(G) est une sous-
algèbre de E (G).
0
Soient G un groupe de Lie connexe et K un sous-groupe compact de Aut (G). Si
(G, K) est une paire de Gelfand alors l’algèbre EK
0
(G) est commutative.
Pour la démonstration de la proposition I.2.6, nous avons besoin du Lemme sui-
vant :
Lemme I-1-3-16
CK∞
(G) est dense dans EK
0
(G), où CK
∞
(G) est l’ensemble des fonctions de classe C ∞
, K− invariantes à support compact.
Preuve
Soit D ∈ EK 0
(G), comme D ∈ E 0 (G) il existe une suite (fn )n≥1 d’éléments de
Cc (G) tel que (fn )n≥1 converge vers D.
∞
Les fnK forment une suite d’éléments de
∞
CK (G). Ainsi, pour toute ϕ ∈ Cc∞ (G), on a:
lim < fnK , ϕ >= lim < fn , ϕK >=< D; ϕK >=< DK ; ϕ >=< D; ϕ > car D ∈ EK
0
(G)
n−→+∞ n−→+∞

Donc fnK n≥1
converge vers D. D’où la conclusion.
Preuve de la proposition I-1-3-15

Supposons que (G, K)est une paire de Gelfand et soit D1 et D2 deux éléments de

0
EK (G) alors d’après le Lemme I.2.7, il existe une suite fnK n≥1 d’éléments de
CK (G) qui converge vers D1 et il existe une suite {gn }n≥1
∞
d’éléments de CK∞
(G)qui
converge vers D2 . Comme CK∞
(G) ⊂ L1K (G) on a
fn ∗ gn = gn ∗ fn ∀n≥1
alors
lim fn ∗ gn = lim gn ∗ fn
n−→+∞ n−→+∞
soit
D1 ∗ D2 = D2 ∗ D1
Ce qui achève la démonstration.
Soit δ x la mesure de Dirac en x ∈ G et pour toute f ∈ K(G)
Z
K K K
< δ x , f >=< δ x , f >= f (x) = f (k(x)dk
K
50
x est une distribution K− invariante à support compact (le support étant K.x).
δK
On va terminer ce paragraphe par le théorème suivant qui sera très utile pour la suite.
Théorème I-1-3-17
Soient G un groupe de Lie connexe et K un sous-groupe compact de Aut(G). Si
(G, K) est une paire de Gelfand alors pour tous x, y ∈ G; xy ∈ (K.y)(K.x).
Preuve.
Pour tous x, y ∈ G et f ∈ Cc∞ (G)
Z Z
< δK
x ∗ δK
y ,f >= f (k1 (x)k2 (y))dk1 dk2
K K
et Z Z
< δK K
y ∗ δ x , f >= f (k(y)k 0 (x))dkdk 0 .
K K
Supposons que (G, K) soit une paire de Gelfand et supposons que pour un certain
x et un certain y on ait xy ∈/ (K.y)(K.x). On peut trouver une fonction positive
f ∈ K(G) telle que f (xy) = 1 ; f ((K.y)(K.x)) = {0} et ailleurs 0 < f < 1. Ainsi
x ∗ δ y , f i > 0 ,hδ y ∗ δ x , f i = 0
hδ K K K K
et par suite
δK K K K
x ∗ δ y 6= δ y ∗ δ x
ce qui est en contradiction avec le fait que (G, K) est une paire de Gelfand en vertu
de la Proposition I.2.6
On a la réciproque de ce théorème si G est unimodulaire. En effet, supposons
xy ∈ (K.y)(K.x) pour tous x, y ∈ G. Soient f et g ∈ L1K (G) alors
Z Z
−1
(f ∗ g)(x) = f (xy)g(y )dy = f [k(y)k 0 (x)]g(y −1 )dy
G G
or
k(y)k 0 (x) = (k 0 ◦ (k 0 )−1 ◦ k(y))k 0 (x) = k 0 (((k 0 )−1 ◦ k)(y)x) = k 0 (k1 (y)x)
en posant
k1 = (k 0 )−1 ◦ k.
Ainsi Z Z
0 −1
(f ∗ g)(x) = f [k (k1 (y)x]g(y )dy = f [(k1 (y)x]g(y −1 )dy
G G
51
car f est K−invariante. Pour toute f ∈ L1K (G), on a :

Z Z
K
f (x) = f (k(x))dk = f (x) dk = f (x)
G K
on peut donc écrire : Z
f ((k1 (y)x)) = f (k[k1 (y)x])dk
K
et (??) devient :
Z Z Z Z
−1
(f ∗ g)(x) = f (k[k1 (y)x])g(y )dkdy = f (ykk1−1 (x))g(y −1 )dkdy
ZG ZK Z GZ K
−1 −1
= f (yk(x))g(y )dkdy = f (yk(x))g(y )dy dk
G K K G
Z Z Z
= g(y)f (y −1 k(x))dy dk = g ∗ f (k(x))dk
K G K
Z
= g ∗ f (x)dk car g ∗ f ∈ L1K (G) = (g ∗ f )(x)
K
Donc L1K (G) est commutative. D’où la conclusion.
III Exemples
– (1) (Rn , {0}) est une paire de Gelfand

– (2) C∗ le groupe multiplicatif et T = {z ∈ C : |z| = 1} . (C∗ , T ) est une
paire de Gelfand.
a b
– (3) G = SL2 (R) = ∈ M2 (R) : ad − bc = 1 le groupe spécial li-
c d
néaire réel d’ordre 2 et P = {z ∈ C, Im(z) > 0} le demi-plan supérieur de
Poincaré. G opère continûment et transitivement sur P , l’opération étant :
G×P
−→ P
a b az + b .
,z 7−→
c d cz + d
En effet pour tout z = x + iy ∈ P on a
1 log y
e2 0 1 x
z = x + iy = 1 i
0 e− 2 log y 0 1
c’est-à-dire z appartient à l’orbite de i. Soit K le stabilisateur de i.

a b a b
K = ∈ G : ai + b = i (ci + d) = ∈ G : ai + b = −c + id
c d c d

a b a b
= ∈ G : a = d et b = −c = ∈ G : a2 + b 2 = 1 ∼ T
c d −b a
52
rappelons le théorème suivant :

Théorème :I-1-3-18
Soit G un groupe localement compact dénombrable à l’infini. X un espace lo-
calement compact sur lequel G opère continûment et transitivement. Si Sa est
le stabilisateur de a ∈ X, alors la bijection G/Sa −→ X est bicontinue. C’est
à dire G/Sa ∼ X. Voir [6]
Grâce à ce théorème, on a donc G/K∼P . Ainsi
K(G\\K)∼K(K\P )∼K(T \P )
donc (G, K) est une paire de Gelfand puisque K(T \P ) est commutatif.
– (4) G = S0(n) B Rn le groupe des déplacements et K = S0(n). Considérons
sur Rn , la structure euclidienne définie par le produit scalaire :
n
X
< x, y >= xi yi où x = (x1 , ........., xn ) , y = ( y1 , ........, yn ).
i=1
L’espace éuclidien (Rn , < . >) s’identifie à l’espace homogène G/K = X. Si

g = (k, a) avec k ∈ S0(n) ; a ∈ Rn et x ∈ Rn alors :
gx = kx + a.
pour x, y ∈ (Rn , < . >)
n
!1/2
X
d(x, y) = kx − yk = (xi − yi )2
i=1
On montre que d est une distance invariante.Si n ≥ 2, le groupe des déplace-

ments opère sur l’espace éuclidien (Rn , < . >) de façon doublement transitive ;
donc d’après la Proposition I.1.8 ; (G, K) est une paire de Gelfand.
53
§ I-2 Groupes de Lie

I-2-1 Variétés différentiables
Dans cet paragraphe nous introduisons la notion de variété différentiable et
analytique.
Soit M un espace topologique séparé.

Une carte sur M est une paire (U, ϕ) où U est un ouvert de M et ϕ un homéomor-
phisme de U sur un ouvert de Rn , espace Euclidien réel de dimension n. Le nombre
n est appelé la dimension de la carte et U le domaine de la carte.
Un espace topologique séparé M est dit localement euclidien si à chaque point

p ∈ M , il existe une carte (U, ϕ) où U est un voisinage de p dans M .
Un espace topologique séparé localement euclidien est appelé variété topologique.
Exemple I-2-1-1
L’espace euclidien Rn , la sphère S n , les espaces projectifs réels ou complexes, le
groupe orthogonale (comme sous-espace de Rn ) sont des variétés topologiques.
Définition I-2-1-2 Une structure différentiable de dimension n ou un at-

las de classe C ∞ sur espace séparé M est une collection de carte (Uα , ϕα )α∈A sur
M telle que les conditions suivantes sont vérifiées.
1) M = U Uα (i.e. les domaines des cartes recouvrent M )

α∈A
2) Pour tous α, β ∈ A, l’application ϕβ ◦ ϕ−1

α est une application différentiable
de ϕα (Uα ∩ Uβ ) sur ϕβ (Uα ∩ Uβ ).
Une carte (Uα , ϕα ) , α ∈ A, définit un système de coordonnées locales sur

la variété M .
Les coordonnées locales au point p sont les composantes de la fonction ϕα (p) =

(x1 (p) , ...xn (p)).
Si dans la définition II-1-2, l’application ϕβ ◦ ϕ−1

α est analytique, on parle
de variété analytique.
54
Une variété différentiable (resp. analytique) de dimension n est un espace

topologique séparé M muni de la structure différentiable (resp. analytique) de di-
mension n.
L’espace euclidien Rn est une variété analytique. Une carte (Uα , ϕα ) est définie
par un ouvert Uα = Rn et l’homéomorphime ϕα est tel que ϕα (p) = (x1 (p) , ...xn (p))
pour tout p ∈ Uα .
En remplaçant Rn par Cn dans la définition d’une carte et la condition 2)

de la définition II-1-2 par la condition que ϕβ ◦ ϕ−1
α est une fonction holomorphe de
coordonnée z i (p) , i = 1, 2...n au point p ∈ Uα ∩ Uβ ., on obtient une variété analy-
tique complexe.
Pour la suite, toutes les variétés analytiques sont réelles.

Une fonction réelle f sur une variété analytique M est dite analytique au point
α est une fonction
p ∈ M , s’il existe une carte (Uα , ϕα ) avec p ∈ Uα telle que f ◦ ϕ−1
analytique sur l’ensemble ϕα (Uα ).
La fonction f est dite analytique s’il est analytique en tout point p ∈ M .
Définition I-2-1-3 Soient deux variétés analytiques M et N .

La variété N est une sous-variété analytique de M si :
1/ N ⊂ M.
2/ Pour chaque carte (Uα , ϕα )α∈A avec ϕα (p) = (x1 (p) , x2 (p) , ...xn (p)), les
fonctions xi /N sont analytique dans N et à chaque point p ∈ N où elles sont définies,
on peut choisir un sous-ensemble (xi /N , xi /N , ...xi /N ) qui forme une carte en p.
Exemple Rm est une sous-variété analytique de Rn pour m < n.

La sphère unité S 2 de dimension 2, est une sous-variété de R3 .
Soient M une variété analytique de dimension n, p un point de M et A (p)

la classe des fonctions analytiques au point p.
Défintion :I-2-1-4 L’application L de A (p) dans R est appelée vecteur tangent

en p si les conditions suiantes sont vérifiées :
1) L (αf + βg) = α L (f ) + β L (g) , α, β ∈ R, f, g ∈ A (p)
55
2) L (f g) = L (f ) g (p) + f (p) L (g)

(ie L est une fonctionnelle linéaire et une dérivation).
L’ensemble des vecteurs tangents est un espace vectoriel réel appelé espace tangent.
Soit (U, ϕ) une carte en p.
Si la fonction f est analytique en p alors la fonction f ∗ = f ◦ ϕ−1 est

analytique sur un voisinage de (x1 (p) , ...xn (p)).
∂f ∗ ∂f
i i
∂xi x =x (p)
sera noté ∂x i ou ∂i f.
Théorème :I-2-1-5 L’application L : f (p) 7−→ R, f ∈ A (p) est un vecteur

Pn
∂f
tangent en p si seulement si L f= ∂xi
L (xi ) (1)
i=1
L’ensemble de tous les vecteurs tangents en p est un espace vectoriel de dimension
∂f ∗
n et les vecteurs tangents : Li (p) (f ) = ∂xi
i = 1, ...n
xi =xi (p)
Ainsi la dimension forment une base de l’espace tangent en p de la variété M est
égale à la dimension de l’espace vectoriel Tp (M ).
Preuve : • Si l’application L vérifie (1), L est un vecteur tangent (évident)

• Si f est une fonction alors L f = 0.
Comme f ∗ est analytique. On a donc

f ∗ = a0 + a1 x1 − x1 (p) + a2 x2 − x2 (p) + ...
n
X
... + an (xn − xn (p)) + xi − xi (p) xj − xj (p) gij + ...
1,∂=1
∂f ∗
où ai = xi =xi (p) et gij ∈ A (p) .
∂xi
On obtient
Xn
∂f
∗
L f = a1 L x 1 n
+ ... + an L (x ) = L x i
qui est équivalente à (1)
i=1
∂xi
L’ensemble des vecteurs Li (p) est une base de l’espace tangent en p.

En effet :
56
n
X
λi Li (p) = 0
i=1
n
X
∀j = 1...n, on a λi L pi xj = λj car ∂i xj = δ ij
i=1
donc {Li (p)} sont linéairement indépendants,

d’autre part, si L (p) est un vecteur tangent,
P
n P
n
on a : L (p) (xj ) = L (xi ) Li (p) (xj ) , j = 1, 2, ...n et L = L (xi ) Li (p)
i=1 i=1
Ainsi l’espace tangent en p est un espace vectoriel de dimension n.

L’élément ∂i (p) ∈ Tp M est défini pour toute f ∈ A (p) par ∂i (p) f = ∂i f (p).
Définition I-2-1-6 Un champ de vecteurs sur une ouvert U de M est une appli-
cation X qui à tout point p ∈ U associe un vecteur tangent X (p) en p de Tp M .
Un champ de vecteur est aussi appelé une transformation infinités imale.

Le champ de vecteur X sur M est dit analytique en p si X f est analytique en p
pour toute fonction f analytique en p. Il est dit analytique sur M s’il est analytique
en tout p ∈ M .
L’opérateur Li est un exemple de champ de vecteur.

En effet, soit (U, ϕ) une carte en p ∈ M et f une fonction analytique en p.
Alors en exprimant f ∗ = f ◦ϕ−1 comme une fonction f ∗ (x1 , x2 , ...xn ) de coordonnée

ϕ (q) = x1 (q) , x2 (q) , ... xn (q) , q ∈ U
∗
et en posant Li (p) f = ∂f i i
∂xi x =x (p)
, l’application p −→ Li (p) est analytique.
Si A est un champ de vecteur sur U alors
n
X
A (p) = ai (p) Li (p) où ai , i = 1, 2, ...n
i=1
sont des fonctions définies sur U telles que ai = A xi . Réciproquement,

P i si ai , i =
1, 2, ...n sont des fonctions analytiques sur U alors A = a Li est un champ de
vecteur analytique sur U et en chaque point p ∈ U on a :
X ∂f ∗
(Af ) (p) = ai (p) xi =xi (p)
∂xi
57
P
n
Ainsi, un champ de vecteur A est reprséenté par la formule a∗i ∂x∂ i où les fonction
i=1
a∗i = ai ◦ ϕ−1 sont les composantes de A suivant les coordonnées x1 , x2 , ...xn .
L’ensemble des champs de vecteurs est un espace vectoriel de dimension infinie.
Un champ de vecteurs est considéré comme une application X de C ω (M ) dans
C ω (M ).
Le produit XY de deux champs de vecteurs est bien défini mais n’est pas en gé-
néral un champ de vecteur.
Exemple :I-2-1-7 Si M = Rn , A = ∂x∂ 1 et B = ∂x∂ 2

2 ∂2 f ∗
on a AB f = ∂x∂1 ∂x2 f et l’application f −→ ∂x 1 ∂ 2 xi =xi (p) n’est pas un vecteur
tangent à Rn .
Il est possible de définir un produit dans l’espace des champs de vecteurs analytiques
ce qui permet de munir cet espace d’une structure d’algèbre de Lie. ILPs’agit du
produit
P de Lie défini pour tous champs de vecteurs analytiques A = ai Li et
B= bi Li par :
[A, B] = AB − BA.
En système de coordonnées locales {x1 , x2 , x3 , ...xn } en p.
On a :
X ∂f ∗ X ∂f ∗
Af ∗ = a∗i (x) i , B f∗ = b∗i (x) i
∂x ∂x
et n ∗
X ∗j ∗j
∗ ∗i ∂a ∗i ∂b ∂f
[A, B] f = b i
−a i
i,∂=1
∂x ∂x ∂xγ
Ainsi si A et B sont des champs, de vecteurs analytiques sur M leur produit de Lie
[A, B] est un champ de vecteur analytique sur M .
Le produit de Lie vérifie les propriétés suivantes :

1) [αA + βB, C] = α [A, C] + β [B, C] ∀α, β ∈ R
2) [A, B] = − [B, A]
3) [A, [B, C]] + [C, [A, B]] + [B, [C, A]] = 0 (identité de Jacobi).
On déduit donc que l’ensemble des champs de vecteurs analytiques sur une va-
riété analytique est une algèbre de Lie réelle de dimension infinie.
Proposition I-2-1-8 Soit M une variété et X ∈ Tp M.
58
e de classe C ∞ sur M tel que X

Alors il existe un champ de vecteur X e (p) = X.
P
Preuve : On choisit une carte (U, ϕ) en p telle que X = bi ∂i (p) .
On considère la fonction constante :
ai : U −→ R
P q −→ bi . .
Y = ai ∂i est un champ de vecteurs de classe C ∞ sur U tel que X = Y (p)
Soit φ : M −→ R tel que :
Pour tout p ∈ D ⊂ U , où D est un voisinage ouvert de p et φ la fonction de

classe C ∞ telle que 0 ≤ φ (x) ≤ 1 pour x ∈ M et φ (q) = 1 si q ∈ D et φ (x) = 0
f définie par :
si x ∈ M − U . Il suffit de considérer l’application X

Xe = φY sur U
0 sur M \ U
59
I-2 -2 Struture de base d’un groupe de Lie

Défintion I-2-2-1 Un groupe G est un groupe de Lie si
1) G est une variété analytique
2) L’application (x, y) 7−→ xy −1 de la variété produit G × G dans G est ana-
lytique.
La condition 2) équivaut aux conditions suivantes :

i) L’application x 7−→ x−1 de G dans G est analytique
ii) L’application (x, y) 7−→ xy de G × G dans G est analytique.
En effet, dans la condition 2) on pose x = e ,donc y −→ y −1 est analytique
−1
et aussi (x, y) 7−→ xy = x (y −1 ) .Réciproquement supposant i) et ii), l’application
(x, y) 7−→ (x, y −1 ) est analytique sur G × G et aussi (x, y) 7−→ (x, y −1 ) 7−→ xy −1 .
D’où la condition 2).
La dimension d’un groupe de Lie est la dimension commune de toutes les

composantes connexes de G.
Tout groupe de Lie est un groupe topologique où la topologie provient de sa

structure analytique car une variété est un espace séparé et l’application (x, y) 7−→
xy −1 est continue.
D’autre part, tout groupe de Lie est localement compact (une variété étant
localement euclidien), localement connexe métrisable et complet.
Exemples I-2-2-2 Un groupe de Lie connexe est dénombrable à l’infini donc sé-
parable.
1) La question de savoir quand est-ce qu’un groupe topologique est un groupe

de Lie est le 5ème problème de Hilbert (posée en 1900).
La solution a été donnée en 1956 par Montgomery et Zippin.

Un groupe topologique localement euclidien est isomorphe à un groupe de Lie. Une
classe intéressante de groupes topologiques qui ne sont pas de groupes de Lie est
la classe des groupes topologiques en dimension infinie qui intervient en physique
quantique et classique. Par exemple le groupe abélien de transformations de Gauge
en électrodynamique, Aµ 7−→ Aµ + ∂µ ϕ où ϕ est une fonction scalaire de gauge, n’est
pas un groupe de Lie car non localement euclidien.
60
Soit G un groupe localement compact, et soit F la famille des sous-groupes

distingués compacts k de G tels que le groupe quotient G/k soit un groupe de Lie.
Bruhat appelle un tel sous-groupe de G ”un bon sous-groupe”.
La famille F ordonnée par inclusion est filtrante décroissante.
En effet si k1 et k2 ∈ F, le groupe k1 /k1∩ k2 (' G/k1 × k1 /k1 ∩k2 ) est extension du

groupe de Lie G/k1 par le sous-groupe k1 /k1 ∩k1 qui est topologiquement isomorphe à
k1 k2 /k2 car les ki sont compacts.
Or k1 k2 /k2 est un groupe de Lie, comme sous-groupe compact du groupe de

Lie G/k2 .
On en déduit que G/k1 ∩k2 est un groupe de Lie, donc k1 ∩ k2 est un bon
sous-groupe.
Supposons ∩{k}
k∈F
= {e}. C’est le cas, d’après Montgomery et Zippin, si le
quotient G/G0 de G par la composante connexe neutre G0 est compact. Le groupe G
est alors canoniquement isomorphe à la limite projective des groupes de Lie G/k pour
k ∈ F. Si, de plus, G est métrisable, il existe une suite décroissante (kn ) de bons
sous-groupes telle que ∩kn = {e}. Le groupe G est alors canoniquement isomorphe
à la limite projective des G/kn .
Exemple I-2-2-2 1) Les groupes additifs Rn et les groupes de matrices GL (n, R) ,

S0 (n, R), etc... sont des groupes de Lie.
2) Si G est un groupe topologique discret, l’élément neutre e admet un voisinage

ouvert {e} homéomorphe à R0 = {0}. Un groupe topologique discret peut-être consi-
dérer comme une groupe de Lie de dimension 0 et réciproquement.
3) Tous les sous-groupes fermés de GL (n, R) sont des groupes de Lie. Par
exemple le groupe spéciale linéaire SL (n), les groupes othogonaux (des formes qua-
dratiques non dégénérées), les groupes symplectique (groupe orthogonaux des formes
bilinéaire alternées non dégénérées) et les groupes unipotents standards Un , ...
Défintion I-2-2-3 Un morphisme f d’un groupe de Lie G1 dans un autre G2

est une application qui est à la fois un homomorphisme de groupe et une application
analytique.
Soit f : G1 −→ G2 un morphisme de groupes de Lie.

Le noyau H de f est une sous-variété de groupe de G1 . Sur l’ensemble G1 /H , il existe
une et une seule structure analytique telle que l’application canonique p : G1 −→
61
G1 /H sont une submersion. La structure de groupe de G1 /H et cette structure ana-

lytique fait de G1 /H un groupe de Lie qu’on appelle le groupe de Lie quotient de G1
par H.
L’application f induit donc de manière unique une immersion injective fe :

G1 /H −→ G2 qui est un morphisme du groupe de Lie.
f
G1 −→ G2
p↓
G1 /H %
fe
Soit G un groupe de Lie connexe. La variété sous-jacente admet un revêtement

simplement connexe f : M −→ G
Soit ϕ : M × M −→ G
(m1 , m2 ) −→ f (m1 ) f (m2 ) − ∀m1 , m2 ∈ M.
ϕ est continue et comme M × M est simplement connexe, elle se relève en

une application continue ϕ
e : M × M −→ M telle que ϕ
e (e, e) = e et f ◦ ϕ
e = ϕ où e
est choisi dans M tel que f (e) = 1.
M
e
ϕ
% ↓ f
ϕ
M × M −→ G
Comme f est un revêtement, le noyau de f est nécessairement un sous-groupe inva-
riant discret de M . Il existe alors sur M , une structure de groupe de Lie pour laquelle
f soit un morphisme de groupes de Lie. Ainsi, tout groupe de Lie connexe G admet
un revêtement-groupe simplement connexe. Autrement dit, il existe un groupe de Lie
simplement connexe M et un morphisme surjectif (à noyau discret) f : M −→ G
et donc G s’identifie au groupe de Lie quotient M/D. Ce revêtement-groupe simple-
ment connexe est unique à isomorphisme près.
On l’appelle le revêtement universel de G et est noté G. e
Exemple I-2-2-4 1) Les groupes de Lie abeliens simplement connexe sont

les groupes vectoriels.
2) Les groupes de Heisenberg, les groupes unipotents,
le groupe ax + b sont des groupes de Lie simplement connexes ; dans chaque cas,
l’espace topologique sous-jacent est un Rm , m étant la dimension du groupe.
Définition Soit G un groupe de Lie. Un sous-ensemble H ⊂ G est un sous-groupe

analytique de G si
62
1) H est un sous-groupe de G
2) H est une sous-variété analytique de G
Proposition I-2-2-5 Tout sous-groupe analytique H d’un groupe de Lie G est un

groupe de Lie.
Preuve : Soient a, b ∈ H. Alors a b ∈ H et il existe un système de coordonnées

locales (U, ϕ) , ϕ (z) = (z 1 , z 2 , z 3 ...z n ) en ab dans G, tels que z i /H , i : 1, 2, ...α =
dim H forme un système de coordonnées locales en ab dans H.
L’élément xy ∈ G tend vers ab si x et y tendent vers a et b respectivement.

Les applications (x, y) −→ xy et x −→ x−1 sont analytiques donc le sous-groupe
analytique H de G est un groupe de Lie.
Un homomorphisme t −→ x (t) de R dans un groupe de Lie G un sous-

groupe à un paramètre de G.
Lemme I-2-2-6 Soient M et N deux variétés C ∞ (ou analytique) et

f : M −→ N une application C ∞ (ou analytique) telle que f (M ) est contenu dans
une sous-variété P . Si l’application f : M −→ P est continue, alors elle est aussi
de classe C ∞ (analytique).
Preuve : Considérons le diagramme commutatif suivant :

F
M −→ N
F & %
i
P
où f est C ∞ , F continue et i une immersion (Car P est une sous-variété).
Pour tout p ∈ P , il existe un voisinage U de p, un voisinage V de i (p) ∈ N et

une application g de classe C ∞ telle que g ◦ i = id/U . Comme f = i ◦ F , on a
F = id ◦ F = g ◦ (i ◦ F ) = g ◦ f . Donc F est C ∞ comme composée de fonctions
C .
∞
En particulier en posant F = f et i = id on a le résultat.
Proposition I-2-2-7 Soient G un groupe de Lie et H une sous-variété de G qui

est aussi un sous-groupe de G. Si H est un groupe topologique (la topologie était
déduite de la structure analytique). Alors H est un sous-groupe de Lie G.
63
Preuve : L’application f : G × G −→ G est analytique et sa restriction

(x, y)−→xy −1
fH : H × H −→ G est aussi analytique.
Comme H est un groupe topologique, l’application fH : H × H −→ H est

continue. D’après le lemme, II-2-6 fH est analytique donc H est un groupe de Lie.
Proposition I-2-2-8 Soit G un groupe de Lie et G0 la composante neutre de G.

Alors
a) G0 est un sous-groupe de Lie ouvert normal de G
b) - Te G = Te G0 et dim G = dim G0
c) G/G0 est un groupe de Lie discret.
Remarque I-2-2-8 ? Si G est un groupe de Lie connexe et H un sous-groupe

de Lie propre, alors dim H < dim G.
? Nous allons montrer plus tard que si G est un groupe de Lie et si H est un
sous-groupe fermé de G ; alors H est un sous-groupe de Lie de G.
Ainsi O (n) , SL (n) et Sp (n) sont des sous-groupes de Lie fermés de GL (n, R).
64
I-2-3 -L’Algèbre de Lie d’un groupe de Lie

Soit G un groupe de Lie, d’élément neutre e et soit Xe un vecteur tangent au
point e.
Pour tout a ∈ G, la translation à gauche La : x 7−→ La (x) = ax est un difféomor-
phisme de G.
Définition Le champ de vecteurs X sur G est dit invariant à gauche si :

pour tout a ∈, [Te La ] X (e) = X (a).
Proposition I-2-3-1 Soient G un groupe de Lie, X ∈ Te (G) et X e une application

de G dans l’espace fibré tangent T (G) de projection Π tels que, pour toute fonction
analytique f sur G on ait
e f (p) = X (f ◦ Lp )
X ∀p ∈ G.
Alors Xe est l’unique champ de vecteurs invariant à gauche sur G tel que X
e (e) =
X et tout champ de vecteur invariant à gauche est de la forme X.e
Preuve : Posons T L (p) = Te L (p) on a

Xe f (p) = (T L (p) X) (f ) donc X e (p) ∈ Tp G et π ◦ X
e (p) = p. Ainsi X e est un
champ de vecteurs sur G et comme X e (p) = T L (p) X et (Te L (a)) X
e (e) = Xe (a)
e e
alors X (e) = X et X est invariant à gauche.
Soit Z un champ de vecteurs invariants à gauche avec Z (e) = X. On a

e (p)
Z (p) = Te L (P ) Z (E) = Te L (p) X = X
d’où l’unicité. On pourra aussi utiliser le fait que l’application La est en particulier
une immersion.
Montrons que X e est analytique.
Soit α : I −→ G le chemin analytique

t −→ α (t) sur
un intervalle
I contenant 0 ∈ R.
Ainsi e
α̇ (0) = X = X (e) et α (0) = e
f
X f (p) = X (f ◦ Lp ) = d (0) (f ◦ L (p) ◦ α) = d f (pα (t))
dt dt t=0
65
e est
Par conséquent, comme f, α et le produit dans G sont analytiques, alors X
un champ de vecteurs analytiques.
Soit L (G) l’ensemble des champs de vecteurs sur G invariants à gauche.

L (G) est donc formé des vecteurs, de la forme Xe pour X ∈ Te G.
Comme X (p) = Te L (p) X, donc Te L (p) injective par conséquent,
l’application φ : L (G) 7−→ Te G
e 7−→ X
X
est un isomorphisme d’espace vectoriel et donc dimR L (G) = dimR G est fini.
e et Ye deux champs de vecteurs invariants.

Proposition I-2-3-2 Soient X
h i
e e
Si X et Y ∈ L (G) alors e e
X, Y ∈ L (G).
h i
e Ye est invariant à gauche.
Preuve : Il suffit de montrer que X,
Soient a∈ G et ϕ ∈ A (a). On a
h i h i
e Ye ϕ = X,
[dL (a)] X, e Ye (ϕ ◦ La ) = X ee Ye (ϕ ◦ La ) − Yee Xe (ϕ ◦ La )
e
e
e
= Xe Ye ϕ ◦ La − Yee Xϕ e ◦ La

= d L (a) Xee Ye ϕ − d L (a) Yee (Xϕ)
h i
= Xa Ye ϕ − Yea Xϕ e = X, e Ye ϕ.
a
h i
e Ye = [X, Y ] .
d’où d La X, a
e
L’ensemble L (G) des champs de vecteurs invariants à gauche est donc une
sous-algèbre de Lie de l’agèbre des champs de vecteurs C ∞ . L (G) est appelé al-
gèbre de Lie de G. On la note G.
Te G est aussi muni d’une structure d’algèbre de Lie en posant pour tous
h i
X, Y ∈ Te (G) , [X, Y ] = X, e Ye
e
Par conséquent l’application φ : L (G) −→ Te G

e −→ X
X
est un isomorphisme d’algèbre de Lie.
L’algèbre de Lie Te G est aussi appelé l’algèbre de Lie de G.
66
Exemple : Dans les paragraphes suivants, nous allons voir comment déterminer
l’algèbre de Lie des groupes de Lie linéaires.
Exemple : Soit G = G L (n, R) .

L’application φ : L (G)
h −→i TI (G) est un isomorphisme d’algèbre de Lie où le
e e
produit est [X, Y ] = X, Y (I) dans TI (G). On montre que L (G) est isomorphe
g
à gl (n, R).
67
I-2-4 - Groupes de Lie linéaires

1. Exponentielle d’une matrice. -
L’exponentielle d’une matrice X ∈ M (n, K) (K = R ou C) est définie par la série
∞
X Xk
exp (X) = .
k=0
k!
Puisque X k ≤ kXkk , la série converge normalement pour toute matrice X, et

uniformément sur tout compact de M (n, K). Si X et Y commutent, XY = Y X,
alors exp (X + Y ) = exp X exp Y . Ainsi exp (X) est inversible, et (exp X)−1 =
exp (−X). De plus det (exp X) = etr(X) . En effet posons
f (t) = det (exp tX) .
Alors
f (t + s) = f (t) f (s) , f (0) = 1, f 0 (0) = tr X,
donc f (t) = et tr X . Pour g ∈ G L (n, K) ,

g exp X g −1 = exp gXg −1 .
Si X est diagonalisable,
 
λ1
 ..  −1
X = g . g ,
λ
alors  
e λ1
 ..  −1
exp X = g  . g .
e λn
Si K = C, on peut utiliser la réduction de Jordan. Considérons le cas d’un bloc de
Jordan d’ordre k,
X = λI + N,
où  
0 1 0
 .. .. 
 . . 
N = ... 
 1 
0
68
La matrice N est nilpotente, N k = 0, donc

k−1 j
X
λt λt t
exp (tX) = e exp (tN ) = e Nj
j=0
j!
 
t2 tk−1
1 t 2
··· (k−1)!
 .. 
 1 t . 
 
λt 
=e  ... .. .

 . 
 1 t 
1
Pour K = R, l’application exponentielle est une application de M (n, R) dans GL (n, R).
Elle n’est pas injective. En effet

0 θ cos θ sin θ
exp = ,
−θ 0 − sin θ cos θ
donc
0 2kπ
exp = I (k ∈ Z) .
−2kπ 0
Elle n’est pas surjective non plus.
Soient λ et µ les valeurs propres de X ∈ M (2, R). Les valeurs prores de exp X
sont eλ et eµ . Si λ et µ sont réelles alors eλ et eµ sont positifs. Si λ et µ sont com-
plexes conjugués, les nombres eλ et eµ sont complexes conjugués, et s’ils sont réels,
ils sont égaux. Par suite, si a et b sont deux nombres réels négatifs, a 6= b, il n’existe
pas de matrice X ∈ M (2, R) telle que

a 0
exp X = .
0 b
On note Pn l’ensemble des matrices n × n symétriques réelles définies positives.
Théorème I-2-4-1 L’application exponentielle est un homéomorphisme de Sym (n, R)

sur Pn .
Preuve : (a) Surjectivité. Soit p ∈ Pn , et λ1 > 0, ..., λn > 0 ses valeurs

propres. Il existe k ∈ 0 (n) telle que
 
λ1
 ..  −1
p = k . k .
λn
69
Posons  
log λ1
 ..  −1
X = k . k .
log λn
Alors exp X = p.
(b) Injectivité. Soient X et Y ∈ Sym (n, R) telles que exp X = exp Y. Diagona-
lisons X et Y ,
 
λ1
 ..  −1
X = k .  k , k ∈ O (n) ,
λn
 
eλ1
 ...  −1
exp X = k  k ,
eλn
 
µ1
 ...  −1
Y = h  h , h ∈ O (n) ,
µn
 
eµ1
 ..  −1
exp Y = h  . h .
µn
e
Soit f un polynôme en une variable tel que

f eµ i = µi , i = 1, ..., n,
alors f (exp Y ) = Y , donc
Y X = f (exp Y ) X = f (exp X) X = X f (exp X) = X f (exp Y ) = XY.
Il en résulte que X et Y sont diagonalisables dans une même base : on peut prendre
h = k, et alors eλi = eµi , donc λi = µi .
(c) Continuité. L’application exponentielle est continue. Pour α > 0 soit E

la boule fermée
E = {X ∈ Sym (n, R) | kXk ≤ α } .
L’image de E par l’application exponentielle est l’ensemble F défini par

F = p ∈ Pn | kpk ≤ eα , p−1 ≤ eα .
70
L’application exponentielle est une bijection continue du compact E sur le compact

F , donc est un homéomorphisme de E sur F . Il en résulte que c’est un homéomor-
phisme de Sym (n, R) sur Pn .
Corollaire I-2-4-2 - Toute matrice g ∈ GL (n, R) s’écrit g = k exp X,

k ∈ O (n) , X ∈ Sym (n, R), et l’application
(k, X) 7−→ k exp X, O (n) × Sym (n, R) −→ G L (n, R) ,
est une homéomorphisme.

L’application exponentielle est analytique réelle, donc de classe C ∞ .
Théorème I-2-4-3 - (i) La différentielle de l’application exponentielle en 0 est

l’application identique,
(D exp)0 = I.
(ii) Il existe un voisinage U de 0 dans M (n, R) tel que la restriction de l’appli-
cation exponentielle à U soit un difféomorphisme de U sur exp U.
Démonstration. - (a) On peut écrire
exp X = I + X + R (X) ,
avec ∞
X Xk
R (X) = ,
k=2
k!
et
kR (X)k = kXk ε (X) , lim ε (X) = 0.
X−→0
(b) C’est une conséquence du théorème d’inversion locale.

Nous allons calculer la différentielle de l’application exponentielle en tout point X.
Introduisons les notations suivantes, pour A, X ∈ M (n, R),
LA X = AX, RA X = XA, ad A X = [A, X] = AX − XA.
Les applications LA , RA , ad A sont des endomorphismes de l’espace vectoriel M (n, R).

Notons que
LA RA = RA LA , ad A = LA − RA .
71
Théorème I-2-4-4 - La différentielle de l’application exponentielle en A est égale

à ∞
X (−1)k
(D exp)A X = exp A (ad A)k X.
k=0
(k + 1)!
Remarquons que
X∞
(−1)k k 1 − e−z
z = ,
k=0
(k + 1)! z
si bien que le résultat peut s’écrire
I − Exp (−ad A)
(D exp)A = Lexp A ◦ .
ad A
Preuve : (a) Considérons les applications
Fk : M (n, R) −→ M (n, R) , X 7−→ X k .
Calculons la différentielle de Fk en A,
k−1
X k−1
X
d
(DFk )A X = (A + tX)k = A k−j−1
XA = j
Lk−j−1
A
j
RA X
dt t=0 j=0 j=0
On peut écrire
j
X
j j i j i
RA = (LA − ad A) = (−1) Lj−i
A (ad A) ,
i
i=0
car LA et adA commutent, d’où

k−1 j !
X X i j i
(DFk )A X = Lk−j−1
A (−1) Lj−i
A (ad A) X
i
j=0 i=0
k−1
X k−1
X !
i j
= (−1) Lk−i−1
A (ad A)i X.
i
i=0 j=i
Nous démontrerons plus loin l’identité

k−1
X
j k
= .
i i+1
j=i
Ainsi
k−1
X i k
(DFk )A X = (−1) k−i−1
LA (ad A)i X.
i+1
i=0
72
(b) Puisque
k(DFk )A k ≤ k kAkk−1 ,
la série des différentielles
X∞
1
(DFk )A
k=0
k!
converge uniformément sur toute boule de M (n, R). Par suite la différentielle de
l’application exponentielle est donnée par
∞ ∞
! ∞ !
X 1 X 1 j X (−1)k k
(D exp)A X = (DFk )A X = LA (ad A) X
k=0
k! j=0
j! k=0
(k + 1)!
X∞
(−1)k
= exp A (ad A)k X.
k=0
(k + 1)!
(c) Démontrons maintenant l’identité

Xk−1
j k
= .
i i+1
j=i
Pour k fixé posons

k−1
X
j
ai = .
i
j=i
Ainsi
k−1
X X k−1
k−1 X j
k−1 X
X k−1
X
j j
ai z i
= i
z = zi = (z + 1)j
i i
i=0 i=0 j=i j=0 i=0 j=0
k
X k−1
X
(z + 1)k − 1 1 k i k
= = z = zi.
z z i i+1
i=1 i=0
Donc
k
ai = .
i+1
2. Logarithme d’une matrice.
On veut définir une application inverse de l’application exponentielle dans un voi-

sinage de I. On sait que la boule B (I, 1) est contenue dans GL (n, R). Si kg − Ik <
1, on pose
X∞
(−1)k+1
log (g) = (g − I)k .
k=1
k
73
Théorème I-2-4-5 - (i) Pour g ∈ B (I, 1),
exp (log g) = g.
(ii) Pour X ∈ B (0, log 2),
log (exp X) = X.
Soit ∞
X
f (X) = ak z k
k=0
une série entière de rayon de convergence R > 0, et soit X ∈ M (n, R). Si kXk > R
on peut définir
X∞
f (X) = ak X k .
k=0
L’application qui à f associe f (X) ∈ M (n, R) est un homomorphisme d’algèbre.

Soit ∞
X
g (z) = bm z m
m−1
une autre série entière, avec g (0) = b0 = 0. La fonction f ◦ g est développable en

série entière au voisinage de 0,
∞
X
f ◦ g (z) = cp z p .
p=0
Lemme I-2-4-6 - Si
(?)
∞
X
|bm | kXkm < R,
m=1
alors g (X) , f (g (X)) et (f ◦ g) (X) sont bien définis, et
(f ◦ g) (X) = f (g (X)) ,
c’est à dire que

∞ ∞ ∞
!k
X X X
p m
cp X = ak bm X .
p=0 k=0 m=1
74
Preuve : - Ce lemme se démontre comme dans le cas d’une variable complexe.

Nous pouvons écrire
∞
X
g (z)k = bm,k z m ,
m=k
et !k
∞
X ∞
X
|bm,k | rm ≤ |bm | rm .
m=k m=1
Nous avons ∞
X
f ◦ g (z) = cm z m ,
m=0
avec m
X
cm = ak bm,k ,
k=0
et
∞ ∞ m
! ∞ ∞
!
X X X X X
|cm | rm ≤ |ak | |bm,k | rm = |ak | |bm,k | rm
m=0 m=0 k=0 k=0 m=k
∞ ∞
!k
X X
≤ |ak | |bm | rm .
k=0 m=1
Supposons que
∞
X
|bm | kXkm R,
m=1
alors la série ∞
X
|cm | kXkm
m=0
est convergente et
∞ ∞ ∞
!
X X X
m
(f ◦ g) (X) = cm X = ak bm,k X m.
m=0 m=0 k=0
Puisque
∞ X
X ∞
|ak | |bm,k | kXkm < ∞,
m=0 k=0
on peut intervertir les sommations et
∞ ∞
! ∞ ∞
!k
X X X X
(f ◦ g) (X) = ak bm,k X m = ak bm X m .
k=0 m=k k=0 m=1
75
Démonstration du théorème I-2-4-5 - Pour démontrer (i) on pose
f (z) = exp (z) , g (z) = log (1 + z) .
La condition (*) est alors équivalente à kXk < 1.

Pour démontrer (ii) on pose
f (z) = log (1 + z) , g (z) = exp (z) − 1.
Puisque R = 1, la condition (*) s’écrit
X∞
kXk m
< 1, .
m=1
m!
c’est à dire exp (kXk) − 1 < 1, ou kXk < log 2.
Proposition I-2-4-7 - Pour X, Y ∈ M (n, R),

t2
(i) exp (tX) exp (tY ) = exp t (X + Y ) + 2
[X, Y ] + O (t3 ) ,
(ii) exp (tX) exp (tY ) exp (−tX) exp (−tY ) = exp (t2 [X, Y ] + O (t3 )) .
Preuve : - Posons F (t) = exp (tX) exp (tY ),

t2 2 3
t2 2 3

F (t) = I + tX + X + O t I + tY + Y + O t
2 2
t2
= I + t (X + Y ) + X 2 + 2XY + Y 2 + o t3 .
2
Pour t assez petit kF (t) − Ik < 1, et
t2 t2
log F (t) = t (X + Y ) + X 2 + 2XY + Y 2 − (X + Y )2 + O t3
2 2
t2
= t (X + Y ) + [X, Y ] + O t3 .
2
Ceci démontre (i), et (ii) en est une conséquence.
Corollaire I-2-4-8 - Pour X, Y ∈ M (n, R),

k
(i) lim exp Xk exp Yk = exp (X + Y ) ,
k−→∞
k 2
(ii) lim exp Xk exp Yk exp − Xk exp − Yk = exp ([X, Y ]) .
k−→∞
76
Preuve :
- De la proposition précédente on déduit

X Y 1 1
exp exp = exp (X + Y ) + O ,
k k k k2
k
X Y 1
exp exp = exp (X + Y ) + O ,
k k k
ce qui démontre (i). De même

k2
X Y X Y 1
exp exp exp − exp − = exp [X + Y ] + O ,
k k k k k
ce qui démontre (ii).
Définition : Un groupe de Lie linéaire est un sous-groupe fermé de GL (n, R).

Nous en avons vu plusieurs exemples précédemment. Observons que GL (n, C) est
groupe de Lie linéaire car il peut être considéré comme un sous-groupe fermé de
GL (2n, R). En effet à une matrice Z = X + iY de M (n, C) on associe la matrice

e X −Y
Z=
Y X
de M (2n, R), et l’application Z −→ Ze est un homomorphisme d’algèbre.
3. Sous-groupes à un paramètre.
- Soit G un groupe toplogique.

Un sous-groupe à un paramètre de G est un homomorphisme continu de groupes.
γ : R −→ G,
R étant muni de la structure additive.
Théorème I-2-4-9 - Soit γ : R −→ GL (n, R) un sous-groupe à un parmètre de

GL (n, R). Alors γ est de classe C ∞ , même analytique réel, et
γ (t) = exp (tA) ,
avec A = γ 0 (0).
77
Preuve : - Supposons que γ soit de classe C 1 . Alors

γ (t + s) − γ (t) γ (s) − γ (0)
γ 0 (t) = lim = γ (t) lim = γ (t) γ 0 (0) = γ 0 (0) γ (t) .
s−→0 s s−→0 s
Posons A = γ 0 (0). Alors
γ 0 (t) = Aγ (t) .
Cette équation différentielle admet une solution unique γ telle que γ (0) = I, donnée
par
γ (t) = exp (tA) .
Il nous reste à montrer que γ est de classe C 1 . Soit α une fonction de classe C ∞
sur R à support compact, et considérons la convolution
Z ∞
f (t) = α (t − s) γ (s) ds.
−∞
La fonction f : R −→ M (n, R) est de classe C ∞ , et

Z ∞ Z ∞
f (t) = α (s) γ (t − s) ds = α (s) γ (−s) ds .γ (t) .
−∞ −∞
Nous allons choisir la fonction α de telle sorte que la matrice

Z ∞
B= α (s) γ (−s) ds
−∞
soit inversible. Il en résultera que γ est de classe C ∞ . Pour cela il suffit que kB − Ik <
1. Soit α ≥ 0, d’intégrale égale à un. Alors
Z ∞
kB − Ik ≤ α (s) kγ (−s) − Ik ds.
−∞
Puisque γ est continu en 0, pour tout ε > 0 il existe η > 0 tel que, si |s| ≤
η, kγ (s) − Ik ≤ ε. Si le support de α est contenu dans [−η, η], alors kB − Ik ≤ ε.
4) Algèbre de Lie d’un groupe de Lie linéaire.
- Soit G un groupe de Lie linéaire, c’est à dire un sous-groupe fermé de

GL (n, R). On lui associe l’ensemble
G = Lie (G) = {X ∈ M (n, R) |∀t ∈ R, exp (tX) ∈ G} .
Théorème I-2-4-10 - (i) G est un sous-espace vectoriel de M (n, R).

(ii) Si X, Y ∈ G, alors [X, Y ] = XY − X X ∈ G.
78
Preuve : (a) Si X, Y ∈ G, alors

k
t t
exp X exp Y ∈ G,
k k
et, puisque G est fermé, à la limite quand k −→ ∞,
exp (t (X + Y )) ∈ G
d’après le corollaire II.2.8, donc X + Y ∈ G.
(b) De la même façon, pour t > 0,

√ √ √ √ k 2
t t t t
lim exp X exp Y exp − X exp − Y = exp (t [X, Y ]) ∈ G,
k→∞ k k k k
donc (X, Y ) ∈ g.
Une algèbre de Lie réelle (resp. complexe) est un espace vectoriel G sur R (resp. C)
muni d’une application bilinéaire
G × G −→ G,
(X, Y ) 7−→ [X, Y ] ,
telle que
(1) [X, Y ] = − [Y, X] ,
(2) [X, [Y, Z]] = [[Y, X] , Z] + [Y, [X, Z]] .
La relation (2) s’appelle identité de Jocobi. Si on note ad X . Y = [Y, X] ,

l’identité de Jacobi exprime que ad X est une dérivation.
L’espace M (n, R) muni du produit
[X, Y ] = XY − Y X
est une algèbre de Lie. Si G est un sous-groupe fermé de GL (n, R), alors G = Lie (G)
est une sous-algèbre de Lie de M (n, R), c’est l’algèbre de Lie de G.
Exemples I-2-4-11 Lie (GL (n, R)) = M (n, R) ,

Lie (S L (n, R)) = {X
∈ M (n, R)| tr X = 0} ,
Lie (SO (n)) = X ∈ M (n, R)| X T = −X ,
79

A B
Lie (Sp (n, R)) = |A ∈ M (n, R) , B, C ∈ Sym (n, R) ,
C −AT
Lie (U (n)) = {X ∈ M (n, C)| X ∗ = −X} .
Soient G = SL (2, R) et G = sl (2, R) son algèbre de Lie. Une base de g est

constituée des matrices

1 0 0 1 0 0
H= , X= , T = ,
0 −1 0 0 1 0
et
[H, X] = 2X, [H, Y ] = −2Y, [X, Y ] = H.
Soit G le groupe des déplacements de R2 , c’est à dire des transformations affines
de la forme
(x, y) 7−→ (x cos θ − y sin θ + a, x sin θ + y cos θ + b) .
Le groupe G peut être identifié au sous-groupe de GL (3, R) des matrices
 
cos θ − sin θ a
 sin θ cos θ b 
0 0 1
Son algèbre de Lie G est de dimension 3. Une base de G est constituée des matrices
     
0 −1 0 0 0 1 0 0 0
X1 =  1 0 
0 , X2 =  0 0 0  , X3 =  0 0 1  ,
0 0 0 0 0 0 0 0 0
et
[X1 , X2 ] = X3 , [X1 , X3 ] = −X2 , [X2 , X3 ] = 0.
Soient G un groupe de Lie linéaire, c’est à dire un sous-groupe fermé de GL (n, R),
et G = Lie (G) son algèbre de Lie. Par définition de l’algèbre de Lie de G, l’appli-
cation exponentielle applique G dans G,
exp : G −→ G.
Pour g ∈ G, X ∈ G, t ∈ R,

g exp (tX) g −1 = exp tg Xg −1 .
Ainsi gXg −1 ∈ G. L’application Ad (g) : X 7−→ Ad (g) X = gXg −1 est un automor-
phisme de l’algèbre de Lie g,
Ad (g) [X, Y ] = [Ad (g) X, Ad (g) Y ] (X, Y ∈ G) .
De plus
Ad (g1 g2 ) = Ad (g1 ) ◦ Ad (g2 ) .
80
Proposition I-2-4-12 - (i) Pour X ∈ G,
d
Ad (exp tX) = ad X.
dt t=0
(ii) Notons Exp l’application exponentielle de End (G) dans GL (G).
Exp (ad X) = Ad (exp X) (X ∈ G) .
Preuve : (a)
d d
Ad (exp tX) = exp ( tX) Y exp (−tX) = [X, Y ] .
dt t=0 dt t=0
(b) Posons
γ 1 (t) = Exp (t ad X) ,
γ 2 (t) = Ad (exp t X) .
Ce sont deux sous-groupes à un paramètre du groupe GL (G). De plus
γ 01 (0) = ad X,
γ 02 (0) = (D Ad)I ◦ (D exp)0 X = ad X,
donc γ 1 (t) = γ 2 (t) (t ∈ R).
5 - Les groupes de Lie linéaires sont des sous-variétés.
Théorème I-2-4-13 - Soient G un groupe de Lie linéaire et G = Lie (G) son

algèbre de Lie. Il existe un voisinage U de 0 dans G et un voisinage V de I dans G
tel que
exp : U −→ V
soit un homéomorphisme.
Démonstration - Soient G un groupe de Lie linéaire, c’est à dire un sous-groupe

fermé de GL (n, R), et G ⊂ M (n, R) son algèbre de Lie. Soit U0 un voisinage de 0
dans M (n, R) et V0 un voisinage de I dans GL (n, R) pour lesquels exp : U0 −→ V0
soit un diffémorphisme. Alors U0 ∩ G est un voisinage de 0 dans G, la restriction de
l’exponentielle à U0 ∩ G est injective et applique U0 ∩ G dans V0 ∩ G, mais on ne sait
pas si exp (U0 ∩ G) = V0 ∩ G, même si on suppose que G est connexe.
81
Lemme I-2-4-14 - Soit gk une suite d’éléments de G qui converge vers I. On

suppose que, pour tout k, gk 6= I. Alors les points d’accumulation de la suite
log gk
Xk =
klog gk k
appartiennent à G.
Preuve : - On peut supposer que
lim Xk = X ∈ M (n, R) .
k→∞
Posons Yk = log gk , et, pour t ∈ R,

t
λk = ,
klog gk k
alors
exp (tX) = lim exp (λk Yk ) .
k→∞
Notons [λk ] la partie entière de λk . Nous pouvons écrire
exp (λk Yk ) = (exp Yk )[λk ] exp ((λk − [λk ]) Yk ) ,
et
kλk − [λk ] Yk k ≤ kYk k −→ 0,
donc
exp (tX) = lim (exp Yk )[λk ] ∈ G,
k→∞
ce qui démontre que X appartient à G.
Lemme I-2-4-15 – Soit m un sous-espace supplémentaire de G dans M (n, R). Il

existe un voisinage U de 0 dans m tel que exp U ∩ G = {I}.
Preuve : On raisonne par l’absurde. Dans le cas contraire il existerait une suite
Xk ∈ m de limite 0 telle que
gk = exp Xk , gk 6= I, gk ∈ G.
Soit Y un point d’accumulation de la suite Xk / kXk k. D’après le lemme III-4-14,

Y ∈ G ∩ m = {0}, ce qui est impossible puisque kY k = 1.
82
LemmeI-2-4-16 Soient E et F deux espaces vectoriels supplémentaires dans M (n, R).

Alors l’application
φ : E × F −→ GL (n, R) ,
(X, Y ) 7−→ exp X exp Y
est différentiable, et
Dφ(0,0) (X, Y ) = X + Y.
La démonstration est laissée au lecteur.
Nous pouvons maintenant terminer la démonstration du théorème II-4-13. Soit

M un sous-espace supplémentaire de G dans M (n, R) et considérons l’application
φ : G × M −→ GL (n, R) ,
(X, Y ) 7−→ exp X exp Y.

Il existe un voisinage U de 0 dans G, un voisinage V de 0 dans M et un voisinage
W de I dans GL (n, R) tels que la restriction de φ à U × V soit un difféomorphisme
sur W . Notons que
exp U = φ = (U × {0}) ⊂ W ∩ G.
D’après le lemme II-4-15 on peut choisir le voisinage V de telle sorte que
exp V ∩ G = {I} .
Montrons que exp U = W ∩ G. Soit g ∈ W ∩ G.

On peut écrire g = exp X exp Y (X ∈ U, Y ∈ V ), et
exp Y = exp (−X) g ∈ exp V ∩ G = {I} ,
donc g = exp X.
Une sous-variété de dimension m de RN est un sous-ensemble V possèdant la

propriété suivante : pour tout x ∈ V il existe un voisinage U de 0 dans RN , un
voisinage W de x dans RN et un difféomorphisme φ de U sur W tel que
φ (U ∩ Rm ) = W ∩ V.
Corollaire I-2-4-17 - Un groupe de Lie linéaire, sous-groupe fermé de GL (n, R),

est une sous-variété de M (n, R) de dimension m = dim G.
83
Preuve : - Soit g ∈ G et soit L (g) l’application
L (g) : GL (n, R) −→ GL (n, R) ,
h 7−→ gh.
Soit U un voisinage de 0 dans M (n, R) et W0 un voisinage de I dans GL (n, R) tels
que l’application exponentielle soit un difféomorphisme de U sur W0 qui applique
U ∩ G sur W0 ∩ G. L’application composée φ = L (g) ◦ exp applique U sur W = gW0 ,
et U ∩ G sur W ∩ G.
Corollaire I-2-4-18 - Si deux sous-groupes fermés G1 et G2 de GL (n, R) ont

même algèbre de Lie, alors les composantes neutres de G1 et G2 sont identiques.
Preuve : - Soit G un groupe topologique, et U un voisinage connexe de l’élément

neutre, alors
∞
[
U k = G0 ,
k=1
où G0 est la composante connexe de l’élément neutre dans G. Ainsi le résultat an-

noncé est une conséquence du théorème III.4.13.
6 - Formule de Campbell-Hausdorff.
- Soient G un groupe de Lie linéaire et G = Lie (G) son algèbre de Lie. La for-
mule de Campbell-Hausdorff exprime log (exp X exp Y ) (X, Y ∈ G) à l’aide d’une
série dont chaque terme est un polynôme homogène en X et Y faisant intervenir
des crochets successifs.
Introduisons les fonctions

∞
1 − e−z X zk
Φ (z) = = (−1)k (z ∈ C) ,
z k=0
(k + 1)!
X∞
z log z (−1)k
Ψ (z) = =z (z − 1)k (|z − 1| < 1) .
z−1 k=0
k + 1
Si |z| < log 2, alors |ez − 1| ≤ e|z| − 1 < 1, et
ez z 1 − e−z
Ψ (ez ) Φ (z) = = 1.
ez − 1 z
84
Par suite si L est un endomorphisme tel que kLk < log 2, alors
Ψ (Exp L) Φ (L) = Id.

√
Théorème I-2-4-19 - Si kXk , kY k < r = 12 log 2 − 1
2
2 , alors
Z 1
log (exp X exp Y ) = X + Ψ (Exp (ad X) Exp (t ad Y )) Y dt.
0
Lemme I-2-4-20 - Si kXk , kY k ≤ α, alors
kexp X exp Y − Ik ≤ e2α − 1.
Démonstration :
exp X exp Y − I = (exp X − I) (exp Y − I) + (exp X − I) + (exp Y − I) ,
et, puisque kexp X − Ik ≤ ekXk − 1 ≤ eα − 1
kexp X exp Y − Ik ≤ (eα − 1)2 + 2 (eα − 1) = e2α − 1.
Lemme I-2-4-21 - Si kg − Ik ≤ β < 1, alors

1
klog gk ≤ log .
1−β
Preuve :
∞
X (g − I)k ∞
X βk 1
klog gk ≤ ≤ = log .
k=1
k k=1
k 1−β
Démontrons maintenant le théorème II-4-19. Pour kXk , kY k < 12 log 2, posons
F (t) = log (exp X exp tY ) .
D’après le lemme II-4-20,la fonction F est définie pour |t| ≤ 1. Si de plus kXk , kY k <
r notons que r < 21 log 2 , alors, d’après les lemmes III.4.20 et II. 4.21,
1
kF (t)k < log 2.
2
De l’inégalité
kXY − Y Xk ≤ 2 kXk kY k
85
on déduit que kad Xk ≤ 2 kXk, et donc
kad F (t)k < log 2.
Montrons que la fonction F vérifie l’équation différentielle
F 0 (t) = Ψ (Exp (ad F (t))) Y.
On peut écrire
exp F (t) = exp X exp tY.
Donc, d’après le théorème,
D expF (t) (F 0 (t)) = exp X exptY (Y )

I − Exp (−t ad y)
= exp X exp tY Y,
t ad Y
et, puisque ad Y.Y = 0,
= (exp X exp tY ) Y,
ou
Φ (ad F (t)) F 0 (t) = Y.
Puisque kad F (t)k < log 2 cela s’écrit
F 0 (t) = Ψ (Exp ((ad F (t)))) Y.
Nous pouvons aussi écrire
F 0 (t) = Ψ (Ad (exp F ) (t)) Y = Ψ (Ad (exp X) Ad exp (tY )) Y = Ψ (Exp (ad X) Exp (ad tY )) Y.
De plus F (0) = log (exp X) = X, et

Z 1
F (1) = F (0) + +F 0 (t) dt,
0
donc Z 1
log (exp X exp Y ) = X + Ψ (Exp (ad X) Exp (ad Y )) Y dt.
0
Théorème I-2-4-22 - (Formule de Campbell-Hausdorff )

√
Si kXk , kY k < 21 log 2 − 1
2
2 ,
∞
X (−1)k X 1
log (exp X exp Y ) = X +
k=0
k+1 (q1 + ... + qk + 1)
ε(k)
86
(ad X)p1 (ad Y )q1 ... (ad X)pK (ad Y )qk (ad X)m
. Y,
p1 !q1 !...pk !qk !m!
avec
ε (0) = {m ∈ N}
et, pour k ≥ 1,
ε (k) = {p1 , q1 , ..., pk , qk , m ∈ N |pi + qi > 0, i = 1, ..., k } .
Preuve : - Si A et B sont deux endomorphismes

X Ap1 B q1 ...Apk B qk Am
(exp A exp B − I)k exp A = .
p1 !q1 !...pk !qk !m!
ε(k)
Puisque
∞
X (−1)k
Ψ (z) = (z − 1)k z,
k=0
k+1
nous avons
Ψ (Exp (ad X) Exp (t ad Y )) Y

∞
X (−1)k
= (Exp (ad X) Exp (t ad Y ) − I)k Exp (ad X) Exp (t ad Y ) Y.
k=0
k+1
En remarquant que
Exp (t ad Y ) Y = Y,
nous obtenons ∞
X (−1)k
Ψ (Exp (ad X) Exp (t ad Y )) Y =
k=0
k+1
X (ad X)p1 (ad Y )q1 ... (ad X)pk (ad Y )qk (ad X)m
. tq1 +...+qk Y.
p1 !q1 !...pk !qk !m!
ε(K)
La convergence de la série est uniforme lorsque t varie dans [0, 1]. Le résultat an-
noncé est obtenu par intégration terme à terme puisque
Z 1
1
tq1 +...+qk dt = .
0 q 1 + ... + qk + 1
Corollaire I-2-4-23
1 1 1
log (exp X exp Y ) = X + Y + [X, Y ] + [X, [X, Y ]] + [Y, [Y, X]]
2 12 12
+ termes de degre ≥ 4.
87
Preuve : - Les termes non nuls de degré 2 et 3 sont indiqués dans le tableau
suivant.
p1 q1 p2 q2 m
k
0 1 [X, Y ]
1
0 2 2
[X, [X, Y ]]
1 1 0 0 − 12 [X, Y ]
1 1 0 1 − 12 [X, [X, Y ]]
1 0 1 1 − 14 [Y, [X, Y ]]
1 2 0 0 − 14 [X, [X, Y ]]
1
2 1 0 1 0 0 3
[X, [X, Y ]]
1
2 0 1 1 0 0 6
[Y, [ X, Y ]]
88
Chapitre 2
LES ALGEBRES DE LIE
Dans tout le chapitre, K désignera un corps commutatif de caractéristique 0.
Toutes les algèbres de Lie et tous les espaces vectoriels considérés seront de di-
mension finie sur K sauf mention du contraire.
Ce chapitre définit les notions fondamentales qui seront constamment utilisées

dans la suite.
Nous avons jugé utile de faire un rappel sur le produit tensoriel d’espaces vecto-
riels et d’applications linéaires en raison de l’importance de cette notion dans l’étude
des algèbres de Lie. Nous en profitons pour examiner le problème de l’extension du
corps des scalaires, ce qui nous permet d’introduire la complexifiée d’une algèbre de
Lie réelle.
Enfin la notion de L-module si utile en théorie des représentations est introduite.
89
CHAPITRE 2. LES ALGEBRES DE LIE
§ II-1 GENERALITE SUR LES ALGEBRES

DE LIE
II-1-1. Définitions et Exemples
Défintion II-1-1-1 On appelle algèbre de Lie sur K, un K - espace vectoriel L
muni d’une application bilinéaire
(x, y) 7−→ [x, y]
de L × L dans L, appelée crochet ou commutateur de x et de y et qui vérifie les

axiomes suivants
(i) [x, x] = 0 pour tout x ∈ L.
(ii) [x, [y, z]]+[y, [z, x]]+[z, [x, y]] = 0 (identité de Jacobi) quels que soient x, y, z ∈ L
On parlera d’algèbre de Lie réelle si K est le corps des nombres réels et d’algèbre
de Lie complexe si K est le corps des nombres complexes.
Deux éléments x et y d’une algèbre de Lie sont dits permutables si [x, y] = 0.
On dit que deux sous-ensembles d’une algèbre de Lie sont permutables si tout
élément de l’un est permutable à tout élément de l’autre.
On dit qu’une algèbre de Lie L est abélienne ou commutative si [x, y] = 0 quels
que soient x, y ∈ L.
Notons que dans une algèbre de Lie L, le crochet est antisymétrique :
[x, y] = − [y, x]
quels que soient x, y ∈ L. En effet d’après (i), on a
0 = [x + y, x + y] = [x, x] + [x, y] + [y, x] + [y, y]

= [x, y] + [y, x]
Exemple II-1-1-2 Soit a une algèbre associative sur K munie de la multiplication

(x, y) 7−→ xy. On munit a d’une structure d’algèbre de Lie sur K en posant
[x, y] = xy − yx.
On notera aL l’algèbre de Lie obtenue et on dit que aL est associée à l’algèbre asso-
ciative α.
90
Exemple II-1-1-3 Si V est un espace vectoriel sur K (de dimension finie m),
l’ensemble L (V ) des endomorphismes de V est une algèbre associative, isomorphe à
l’algèbre Mm (K) des matrices carrées d’ordre m. L’algèbre de Lie associée à L (V )
est notée g` (V ) ou g` (m, K).
Définition II-1-1-4
On dit qu’une partie A de L est une sous-algèbre de Lie de L si A est un sous-
espace vectoriel de L et si [x, y] ∈ A quels que soient x, y ∈ A. Soit L une algèbre
de Lie. On dit qu’une partie B de L est un idéal de L si
(i) B est un sous-espace vectoriel de L
(ii) les relations x ∈ B et y ∈ L entraînent [x, y] ∈ B.
On dit qu’une partie A de L est une sous-algèbre de Lie de L si A est un sous-
espace vectoriel de L et si [x, y] ∈ A quels que soient x, y ∈ A.
Il est clair que tout idéal de L est une sous-algèbre de L ; par ailleurs, comme
[x, y] = − [y, x]
la notion d’idéal à gauche coïncide avec celle d’idéal à droite.
On voit facilement que toute intersection d’idéaux de L est un idéal de L et que
si I et J sont des idéaux de L, alors
I + J = {x + y : x ∈ I et y ∈ J}
est un idéal de L.
Exemple II-1-1-5 Si L est une algèbre de Lie, {0} est L sont des idéaux de L
dits triviaux.
Le centre Z (L) = {z ∈ L : [x, z] = 0 pour tout x ∈ L} est un idéal de L. Cela
résulte immédiatement de l’identité de Jacobi.
Notons que L est abélienne si et seulement si Z (L) = L.
Exemple II-1-1-6 Soit s` (n, K) le sous-ensemble de Mn (K) formé des matrices

de trace nulle. Comme
T r (A + B) = T r (A) + T r (B) et T r (AB) = T r (BA) ,
s` (n, K) est une sous-algèbre de Lie de g` (n, K) ;
s` (n, K) est aussi un idéal de g` (n, K).
De même le sous-ensemble s` (n, K) de Mn (K) formé des matrices antisymé-
triques A (i.e. t A = −A, où t A est la transposée de A) est une sous-algèbre de Lie
de g` (n, K).
91
Théorème II-1-1-7 Soient L une algèbre de Lie sur K, I un idéal de L et L0 = L/I

l’espace vectoriel quotient.Si ẋ = x + I ∈ L0 et ẏ = y + I ∈ L0 ,posons
[ẋ, ẏ] = [x + I, y + I] = [x, y] + I. (I.1.1)

Alors,L0 muni de crochet [ẋ, ẏ] est une algèbre de Lie sur K appelée algèbre de
Lie quotient de l’algè bre de Lie L par l’idéal I.
Démonstration Montrons que le crochet [ẋ, ẏ] ne dépend pas des représentants
x ∈ ẋ et y ∈ ẏ choisis.Si en effet x1 ∈ ẋ et y1 ∈ ẏ, on a x1 − x = u ∈ I et
y1 − y = v ∈ I.Alors
[x1 ,y1 ] = [x + u, y + v] = [x,y] + [x,v] + [u, y] + [u, v] ∈ [x, y] + I
puisque I est un idéal.Par suite
[x1 ,y1 ] + I = [x, y] + I.
On vérifie ensuite facilement que le crochet [ẋ, ẏ] satisfait aux conditions (i) et (ii)
de la définition I.1.1.
Définition II-1-1-8 Soient L1 et L2 deux algèbres de Lie sur K. On appelle algèbre

de Lie produit de L1 et L2 l’espace vectoriel produit L1 × L2 muni du crochet
[(x1 , x2 ) , (y1 , y2 )] = ([x1 , y1 ] , [x2 , y2 ]) . (I.1.2)
On vérifie facilement qu’on définit bien ainsi une structure d’algèbre de Lie sur
L1 × L2 . De plus, en identifiant x ∈ L1 à (x, 0) et y ∈ L2 à (0, y) , L1 et L2
s’identifient à des sous-algèbres de Lie de L1 × L2 . L1 et L2 sont même des idéaux
de L1 × L2 puisque, par exemple [(x, 0) , (y1 , y2 )] = ([x, y1 ] , 0) ≡ [x, y1 ] ∈ L1 . De plus
tout élément de L1 est permutable à tout élément de L2 :
[(x, 0) , (0, y)] = (0, 0) .
Soit L une algèbre de Lie sur K et soit (e1 , ..., en ) une base de l’espace vectoriel L.
Les éléments [ei , ej ] de L s’écrivent de façon unique sous la forme
n
X
[ei , ej ] = Cijk ek .
k=1
Les nombres Cijk sont appelés constantes de structure de l’algèbre de Lie L par
rapport à la base (e1 , ..., en ).
92
Il résulte immédiatement de la définition I.1.1, que les constantes de structures

vérifient les conditions suivantes :
Cijk = 0 si i = j quel que soit k ;
Cijk = −Cijk ;
n
X
(Cijk Ck`m + Cj`k Ckim + Cìk Ckjm ) = 0.
k=1
93
§ II-1-2. Homomorphismes d’Algèbres de Lie

Défintion II-1-2-1 Soient L1 et L2 deux algèbres de Lie sur K. On dit qu’une
application linéaire f : L1 −→ L2 est un homomorphisme (d’algèbres de Lie) si
f ([x, y]) = [f (x) , f (y)] (I.2.1)
quels que soient x, y ∈ L1 .

On dit que f est un isomorphisme de L1 sur L2 si f est un homomorphisme bi-
jectif ; on dit alors que L1 et L2 sont isomorphes. On dit que f est un automorphisme
de l’algèbre de Lie L si f est un isomorphisme de L sur L.
Définition II-1-2-2 Soit L une algèbre de Lie sur K et soit V un K- espace

vectoriel. On appelle représentation linéaire (ou simplement représentation) de L
dans V , un homomorphisme π de l’algèbre e Lie L dans l’algèbre de Lie g` (V ) .
La dimension de l’espace vectoriel V s’appelle la dimension de la représentation
π.
On notera souvent (π, V ) la représentation π de L dans V . Si π est injective, on
dit que π est une représentation fidèle de L dans V .
Exemple II-1-2-3 Soientt L une algèbre de Lie, I un idéal de L et L0 = L/I

l’algèbre de Lie quotient. L’application canonique π : L −→ L/I est un homomor-
phisme surjectif (mais non injectif). Cela résulte de la définition du crochet dans L0
(voir (I.1.1)).
Exemple II-1-2-4 Soit L une algèbre de Lie. Pour chaque x ∈ L, désignons par
ad x l’application de L dans L qui, à tout y ∈ L, fait correspondre le crochet [x, y] :
(ad x) (y) = [x, y] . (I.2.2)
Montrons que l’application x 7−→ ad x est un homomorphisme de L dans g` (L), i.e.

une représentation de L dans L.
Il est claire que ad x est un endomorphisme de L. En écrivant l’identité de Jacobi
sous la forme
[[x, y] , z] = [x, [y, z]] − [y, [x, z]] ,
On voit que, quels que soient x, y, z ∈ L,
(ad [x, y]) (z) = (ad xoady) (z) − (adyoadx) (z) = [ad x, ad y] (z) .
Donc
ad [x, y] = [ad x, ad y]
94
ce qui montre que x 7−→ ad x est bien un homomorphisme d’algèbres de Lie. Son
noyau est l’ensemble des x ∈ L tels que [x, y] = 0 pour tout y ∈ L. C’est le centre
de L.
La représentation x 7−→ ad x de L dans L s’appelle la représentation adjointe de
L.
Cet exemple est très important pour toute la suite du cours.
Théorème II-1-2-5 Soient L1 et L2 deux algèbres de Lie sur K et f un homomorphisme de

L1 dans L2 . Alors Im (f ) = f (L1 ) est une sous-algèbre de Lie de L2 , Ker (f ) =
f −1 ({0}) est un idéal de L1 et L1 /Ker (f ) est isomorphe à Im (f ) .
Démonstration On sait déjà que Im (f ) et Ker (f ) sont des sous-espaces vec-

toriels de L2 et L1 respectivement.
Si y, z ∈ Im (f ) , il existe x, x0 ∈ L1 tels que f (x) = y et f (x0 ) = z,d’où
[y, z] = [f (x) , f (x0 )] = f ([x, x0 ]) ∈ Im (f )et par suite Im (f ) est une sous-algèbre
de Lie de L2 .De même, si x ∈ Ker (f ) et a ∈ L1 , alors
f ([a, x]) = [f (a) , f (x)] = [f (a) , 0] = 0.
Donc [a, x] ∈ Ker (f ) et Ker (f ) est un idéal de L1 .On sait que l’application
f¯ : L1 /Ker (f ) −→ Im (f ) définie par f¯ (ẋ) = f (x)est un isomorphisme d’espaces
vectoriels ; comme

f¯ ([ẋ, ẏ]) = f ([x, y]) = [f (x) , f (y)] = f¯ (ẋ) , f¯ (ẏ) ,
on voit que f¯ est un isomorphisme d’algèbres de Lie.
Théorème II-1-2-6 Soient L une algèbre de Lie, I un idéal de L et A une sous-

algèbre de Lie de L. Alors A + I est une sous-algèbre de Lie de L, A ∩ I est un idéal
de A et A/A ∩ I est isomorphe à (A + I) /I.
Démonstration Il est clair que A + I est un sous-espace vectoriel de L. Soient

x, x0 ∈ A et y, y 0 ∈ I ; on a [x + y, x0 + y 0 ] = [x, x0 ] + [x, y 0 ] + [y, x0 ] + [y, y 0 ] ∈ A + I ;il
s’ensuit que A + I est une sous-algèbre de Lie de L.
Il est évident que I est un idéal de A + I. pour tout x ∈ A, posons
σ (x) = x + I.
On voit facilement que σ est une application linéaire de A sur l’espace vectoriel
quotient (A + I) /I dont le noyau est A ∩ I. Comme
σ ([x, y]) = [x, y] + I = [x + I, y + I] = [σ (x) , σ (y)] ,
on voit que σ est un homomorphisme d’algèbres de Lie. Il résulte alors du théorème
I.2.5 que A ∩ I est un idéal de A et que A/A ∩ I est isomorphe à (A + I) /I.
95
§ II-1-3. Dérivations
Défintion II-1-3-1 : Soit L une algèbre de Lie sur K. On appelle dérivation de
L, toute application linéaire d de L dans L telle que d ([x, y]) = [d (x) , y] + [x, d (y)]
quels que soient x, y ∈ L.
Théorème II-1-3-2 Soit L une algèbre de Lie sur K.

(a) L’ensemble Der (L) des dérivations de L est une sous-algèbre de Lie de
l’algèbre de Lie g` (L), appelée algèbre des dérivations de L.
(b) Pour tout x ∈ L, l’application adx est une dérivation de L, appelée
dérivation intérieure.
(c) L’image ad (L) de la représentation adjointe est un idéal de Der (L).
Démonstration (a) : Si d1 et d2 sont des dérivations de L et si
λ ∈ K, d1 + d2 , λd1 et [d1 , d2 ] = d1 ◦ d2 − d2 ◦ d1
sont des endomorphismes de L. D’autre part, quels que soient x, y ∈ L,on a
(d1 + d2 ) ([x, y]) = d1 ([x, y]) + d2 ([x, y]) = [d1 (x) , y] + [x, d1 (y)] + [d2 (x) , y] + [x, d2 (y)]
= [(d1 + d2 ) (x) , y] + [x, (d1 + d2 ) (y)] .
(λd1 ) ([x, y]) = λd1 ([x, y]) = λ ([d1 (x) , y] + [x, d1 (y)]) = [λd1 (x) , y] + [x, λd1 (y)] .
[d1 , d2 ] ([x, y]) = (d1 ◦ d2 − d2 ◦ d1 ) ([x, y])
= d1 ([d2 (x) , y] + [x, d2 (y)]) − d2 ([d1 (x) , y] + [x, d1 (y)])
= [d1 d2 (x) , y] + [d2 (x) , d1 (y)] + [d1 (x) , d2 (y)] + [x, d1 d2 (y)]
− [d2 d1 (x) , y] − [d1 (x) , d2 (y)] − [d2 (x) , d1 (y)] − [x, d2 d1 (y)]
= [(d1 ◦ d2 − d2 ◦ d1 ) (x) , y] + [x, (d1 ◦ d2 − d2 ◦ d1 ) (y)]
= [[d1 , d2 ] (x) , y] + [x, [d1 , d2 ] (y)] .
On a ainsi démontré que Der (L) est bien une sous-algèbre de Lie de g` (L) .
(b) : Nous savons déjà que ad x est un endomorphisme de L.
D’après l’identité de Jacobi et l’antisymétrie du crochet, on a, quels que soient
x, y, z ∈ L :
(adx) ([y, z]) = [x, [y, z]]

= − [y, [z, x]] − [z, [x, y]]
= [[x, y] , z] + [y, [x, z]]
= [(adx) (y) , z] + [y, (adx) (z)]
96
ce qui montre que ad x est une dérivation de L.

(c) : L’application x 7−→ ad x est un homomorphisme de L dans Der (L) d0 après
l exemple I.2.4. ad (L) est un idéal de Der (L) si pour toute dérivation d ∈ Der (L)
0
et pour tout x ∈ L, [d, ad x] ∈ ad (L) .

Mais pour tout y ∈ L, on a
[d, ad x] (y) = (d ◦ ad x − ad x ◦ d) (y) = d ((ad x) (y)) − (ad x) (d (y))

= d ([x, y]) − [x, d (y)] = [d (x) , y] + [x, d (y)] − [x, d (y)]
= [d (x) , y] = (ad (d (x))) (y)
c’est-à-dire
[d, ad x] = ad (d (x)) . (I-3-2)
Par suite ad (L) est un idéal de Der (L) .
Corollaire II-1-3-3 Le centre z (L) est stable pour toute dérivation de L.
Démonstration Soit d ∈ Der (L) .Nous devons démontrer que si x ∈ z (L), alors
d (x) ∈ z (L) .
Or la relation x ∈ z (L) équivaut à ad x = 0. D’après le Théorème I.3.2, (c) , (c) , ad (d (x)) =
[d, ad x] = 0;donc
d (x) ∈ z (L) .
Remarque II-1-3-4 Si L est une algèbre de Lie, il est évident qu’un sous-espace
vectoriel I de L est un idéal de L si et seulement si ad x (I) ⊂ I pour tout x ∈ L.
D’autre part, le Corollaire I.3.3 montre qu’il existe des idéaux de L qui sont stables
pour toute dérivation de L. Cela permet de poser la définition suivante.
Définition II-1-3-5 Soit L une algèbre de Lie ; On dit qu’un sous-espace vectoriel
I de L est un idéal caractéristique de L si I est stable pour toute dérivation de L.
Théorème II-1-3-6 Soient L une algèbre de Lie, I un idéal de L et J un idéal

caractéristique de I.Alors :
(i) J est un idéal de L.
(ii) Si I est un idéal caractéristique de L, J est un idéal caractéristique de L.
Démonstration (i) : Soit x ∈ L. I étant stable pour ad x, la restriction de ad x à

I est une dérivation de I qui n’est pas nécessairement intérieure puisque, en général,
x∈ / I. Par hypothèse, J est stable pour cette dérivation de I, donc J est stable
pour toute dérivation intérieure de L et par suite J est un idéal de L.
97
(ii) : Si I est un idéal caractéristique de L, le raisonnement précédent, qui

est valable pour toute dérivation d de L, montre que J est un idéal caractéristique
de L.
98
§ II-1-4. Produit Tensoriel

Défintion II-1-4-1 : Soient E et F deux K-espaces vectoriels de dimension
finie. On appelle produit tensoriel de E et F , un couple (T, φ), où T est un K-
espace vectoriel et φ une application bilinéaire de E × F dans T , satisfaisant aux
conditions suivantes :
(i) L’image φ (E × F ) engendre T ;
(ii) Pour toute application bilinéaire β de E × F dans un K-espace vectoriel
M , il existe une application linéaire unique h : T −→ M telle que le diagramme
Soit commutatif, i.e.
h ◦ φ = β.
Ainsi, l’application bilinéaire β se factorise à travers l’application linéaire h et
l’unique application bilinéaire ”universelle” φ.
On démontre le théorème suivant (cf. [6], page 514 et suivantes).
Théorème II-1-4-2 Soient E et F deux K-espaces vectoriels de dimension finie

m et n respectivement.
(i) Il existe un produit tensoriel de E et F ;
(ii) Si (T, φ) et (T ; φ0 ) sont deux produits tensoriels de E et F , alors il existe
un isomorphisme unique h : T −→ T 0 tel que φ0 = h ◦ φ.
(iii) Si (e1 , ..., em ) est une base de E et si (f1 ..., fn ) est une base de F , alors
{φ (ei , fj ) : i ≤ i ≤ m, i ≤ j ≤ n}
est une base de T , donc T est de dimension finie et dim T = mn.

Ainsi deux K-espaces vectoriels E et F admettent toujours un produit tensoriel
unique à un isomorphisme près. On le note
E ⊗ FK ou E ⊗ F.
L’élément φ (x, y) de T se note x ⊗ y et on l’appelle le produit tensoriel de x et y.

Ainsi, les éléments de E ⊗ F sont les sommes finies
r
X
xi ⊗ yi avec xi ∈ E, et yi ∈ F
i=1
(la décomposition n’est pas unique).

Nous allons définir maintenant la notion de produit tensoriel d’applications li-
néaires.
99
Théorème II-1-4-3 Soient E1 , E2 , F1 et F2 quatre espaces vectoriels de dimen-

sion finie sur K,
u1 : E1 −→ F1 et u2 : E2 −→ F2
deux applications linéaires. Il existe une application linéaire unique u : E1 ⊗ E2 −→
F1 ⊗ F2 telle que
u (x ⊗ y) = u1 (x) ⊗ u2 (y)
quels que soient x ∈ E1 , y ∈ E2
Démonstration - L’application (x, y) 7−→ u1 (x) ⊗ u2 (y) de E1 × E2 dans F1 ⊗

F2 est bilinéaire. D’après la définition du produit tensoriel E1 ⊗ E2 , il existe une
application linéaire unique u : E1 ⊗ E2 −→ F1 ⊗ F2 telle que u (x ⊗ y) = u1 (x) ⊗
u2 (y) .
Défintion II-1-4-4 L’application linéaire u du Théorème I.4.3 s’appelle le produit

tensoriel de u1 et u2 ; elle est notée u1 ⊗ u2 .
100
II-1-5. Extension du corps des scalaires et modules.

Soit E un espace vectoriel sur un corps commutatif K et soit K0 un corps commu-
tatif dont K est un sous-corps. Alors K0 est un espace vectoriel de dimension finie
sur K. On définit sur K0 ⊗K E une structure de K0 -espace vectoriel en posant
X X
λ ai ⊗ x i = (λai ) ⊗ xi
où λ, ai ∈ K0 et xi ∈ E.
L’espace vectoriel E 0 = K0 ⊗K E ainsi obtenu s’appelle l’amplifié de E ou
l’amplication de l’espace vectoriel E par extension du corps de base K au corps K0 .
Théorème II-1-5-1 Soit E un K -espace vectoriel de dimension finie. Si K0 est

une extension de K, la dimension de E sur K est égale à la dimension de l’espace
vectoriel amplifié E 0 sur K0 .
Démonstration
Soit (e1 , ..., en ) une base de E. Posons
e0i = 1 ⊗ ei pour 1 ≤ i ≤ n.
Comme tout élément x de E 0 est de la forme

X X X
λi ⊗ ei = λi (1 ⊗ ei ) = λi e0i ,
avec λi ∈ K0 , on voit que les e0i , 1 ≤ i ≤ n, engendrent E 0 Il est clair que ces
vecteurs sont K0 -linéairement indépendants ; ils forment donc une base de E 0 et par
suite dimK0 E 0 = n.
Remarque II-1-5-2 1) E 0 = K0 ⊗K E est un K-espace vectoriel ; donc (Théorème

I.4.2),
dimK E 0 = (dimK K0 ) (dimK E) .
2) Soit (e1 , ..., en ) une base de E sur K et soit E1 l’ensemble des combinaisons
linéaires à coefficients dans K des éléments 1 ⊗ e1 , ..., 1 ⊗ en de E 0 .
Alors E1 est un sous-espace vectoriel de E 0 pour la structure vectorielle sur K.
Comme l’application x 7−→ 1 ⊗ x de E dans E1 est un isomophisme de K-espaces
vectoriels, E peut être identifié à un sous-K-espace vectoriel de E 0 .
Soient maintenant E et F deux K-espaces vectoriels, E 0 = K0 ⊗ E et F 0 = K0 ⊗ F
leurs amplifications par extension du corps K au corps K0 . Soit u : E −→ F une
application K-linéaire. On se propose de prolonger u une application K0 -linéaire
ū : E 0 −→ F 0 .
101
Pour cela, il suffit de poser

ū = I ⊗ u
où I est l’application identique de K0 .
ū est donc définie par la formule
X X
ū λi ⊗ xi = λi ⊗ u (xi ) , λi ∈ K0 , xi ∈ E.
Soit en particulier, u est un endomorphisme de E, et soient (e1 , ..., en ) une base de

E, (e01 , ..., e0n ) la base correspondante de E 0 .
Si n
X
u (ej ) = aij ei ,
i=1
on a n
X
ū e0j = 1 ⊗ u (ej ) = aij ei .
i=1
Donc la matrice de l’application linéaire ū par rapport à la base (e0i )1≤i≤n est iden-
tique à la matrice de u par rapport à la base (ei )1≤i≤n .
On utilise souvent les résultats précédents lorsque l’extension K0 du corps K est
la clôture algébrique de.K.
En particulier, lorsque le corps de base est le corps R des réels et l’extension est
le corps des nombres complexes, nous allons construire le complexifié d’un espace
vectoriel réel E et l’algèbre de Lie complexifiée d’une algèbre de Lie réelle L.
Pour construire le complexifié de l’espace vectoriel réel E, on peut considérer E
et C comme des espaces vectoriels réels et former leur produit tensoriel
E 0 = C⊗R E.
Si x, y ∈ E, x + i y ∈ E 0 . On peut donc identifier E 0 à l’ensemble

√
E c = x + iy : x, y ∈ E et i = −1 . (I-5-1)
Définissons la somme de deux éléments de E c en posant (x + iy) + (x0 + iy 0 ) =

x + x0 + i (y + y 0 )et le produit d’un élément de E c par un nombre complexe a + ib,
en posant
(a + ib) (x + iy) = ax − by + i (bx + ay) . (I-5-3)
On obtient ainsi sur E c une structure d’espace vectoriel complexe et il est évident
que E peut être identifié à l’ensemble des éléments de E c de la forme
x + iO, où x ∈ E.
102
Définition II-1-5-3 L’espace vectoriel complexe E c s’appelle le complexifié de

E.On peut définir de même l’algèbre de Lie complexifiée d’une algèbre de Lie réelle
L.
Définition II-1-5-4 Soit L une algèbre de Lie réelle. On appelle algèbre de Lie
complexifiée de L, l’algèbre de Lie Lc vérifiant les conditions suivantes :
(i) Lc est l’espace vectoriel complexifié de l’espace vectoriel réel L ;
(ii) Le crochet dans Lc est donné par
[x + iy, x0 + iy 0 ] = [x, x0 ] − [y, y 0 ] + i ([x, y 0 ] + [y, x0 ]) . (I-5-4)
Notons qu’une algèbre de Lie complexe L de dimension n, dont une base est (e1 , ..., en )
peut être considérée comme algèbre de Lie réelle de dimension 2n, dont une base est
(e1 , ie1 , ..., en , ien ) .Cette algèbre de Lie réelle qu’on notera LR est appelée forme réelle de
L.
Théorème II-1-5-5 Soit L une algèbre de Lie réelle et soit B une sous-algèbre
de Lie (resp. un idéal) de L. Alors la complexifiée B c de B est une sous-algèbre de
Lie (resp. un idéal) de la complexifiée Lc de L.
Démonstration Si x, y ∈ B c , on a x = x1 + ix2 , y = y1 + iy2 , avec xi , yi ∈

B.Donc, si B est une sous-algèbre de Lie de L. [x, y] = [x1 , y1 ]−[x2 , y2 ]+i ([x2 , y1 ] + [x1 , y2 ]) ∈
B c et B c est une sous-algèbre de Lie de Lc .De même, si x ∈ Lc , on a x = x1 + ix2
avec xi ∈ L. Soit
y = y1 + iy2 ∈ B c .
Si B est un idéal de L, le calcul précédent montre que [x, y] ∈ B c et par suite B c est
un idéal de Lc .
La remarque suivante permet de ramener le plus souvent l’étude des représen-
tations π : L −→ g` (V ) à celle des représentations de l’algèbre de Lie complexifiée
Lc .
Soient L une algèbre de Lie réelle, V un espace vectoriel réel et V c le complexifié
de V. Si π est une représentation linéaire de L dans V , la formule (π c (x + iy)) (ξ + iη) =
π (x) ξ − π (y) η + i (π (x) η + π (y) ξ) ,où
x, y ∈ L et ξ, η ∈ V,
définit une représentation de l’algèbre de Lie Lc dans V c . On l’appelle la complexifiée

de la représentation π.
103
Définition II-1-5-6 Soient L une algèbre de Lie sur K et V un K -espace vectoriel.

On dit que V est L-module à gauche si l’on s’est donné une application bilinéaire
notée
(x, v) 7−→ x.v de L × V dans V telle que [x, y] v = x (yv) − y (xv)quels que soient
x, y ∈ L, v ∈ V.
On définit de même un L-module à droite.Si V est un L-module à droite, en

posant xv = −vx quels que soient x ∈ L, v ∈ V, on obtient un L-module à gauche.
Ce L-module, noté V ◦ , est appelé le L-module opposé de V .
L’étude des L-modules à droite est donc équivalente à celle des L-modules à
gauche. Ainsi désormais, L-module signifiera L-module à gauche.
Exemple II-1-5-7 1) Toute K-algèbre de Lie L est un L-module si on pose

xv = [x, v] , x, v ∈ L.Ce L-module s’appelle le L-module adjoint de L.
2) Si π : L −→ g` (V ) est une représentation de L dans V , en posant
xv = π (x) v, x ∈ L, v ∈ V, (I-6-2)
on voit que V est un L-module. Réciproquement, si V est un L-module à gauche, la

formule (I.6.2) définit une représentation de L dans V .
Définition II-1-5-8 Soient L une K-algèbre de Lie, V et W deux L-modules. On

dit qu’une application linéaire f : V −→ W est un homomorphisme de L-modules si
f (xv) = xf (v) quels que soient x ∈ L, v ∈ V.
Il est clair que la composée de deux homomorphismes de L-modules est un ho-

momorphisme de L-modules.
Définition II-1-5-9 Soient L une K-algèbre de Lie, et V un L-module. On appelle

sous-L-module de V , un sous-espace vectoriel V 0 de V tel que xv ∈ V 0 quels que
soient x ∈ L, v ∈ V 0 . Par exemple, si L est une algèbre de Lie, les sous-L-modules
du L-module adjoint de L sont les idéaux de L.
Il est clair que toute intersection de sous-L-modules est un sous-L-module, ce
qui permet de parler du sous-L-module engendré par une partie d’un L-module.
Soient L une algèbre de Lie sur K, V et W deux L-modules et f : V −→ W un
homomorphisme de L-modules. Alors l’image (resp. l’image réciproque) par f d’un
sous-L-module de V (resp. W est un sous-L-module de W (resp. V ).
Définition II-1-5-10 Soit L une K-algèbre de Lie. On dit qu’un L-module V est
simple ou irréductible, si V =
6 {0} et si les seuls sous-L-modules de V sont {0} et
V.
104
On dit que V est semi-simple ou complètement réductible si V est somme directe

de sous-L-modules simples.Il revient au même de dire que tout sous-L-module de
V admet un sous-L-module supplémentaire.On vérifie facilement que tout sous-L-
module (resp. tout-L-module quotient) d’un L-module semi-simple est un L-module
semi-simple.Si le L-module V est irréductible (resp. semi-simple), nous dirons que
la représentation π : L −→ g` (V ) définie par
π (x) v = x.v, x ∈ L, v ∈ V
est irréductible (resp. semi-simple).
105
ALGEBRES DE LIE NILPOTENTES ET

§ II-2
RESOLUBLES
Dans ce paragraphe, nous étudions les algèbres de Lie nilpotentes et les algèbres
de Lie résolubles. Il est divisé en cinq paragraphes.
Le paragraphe 1 donne la définition de la série centrale descendante, de la sé-
rie dérivée et des algèbres de lie nilpotentes et résolubles. Toutes ces notions sont
évidenmmet fondamentales pour la suite.Au paragaphe 2, on étudie les propriétés
élémentaires des algèbres de Lie nilpotentes et résolubles. On y définit également
les notions de radical et d’algèbre de Lie semi-simple. Nous donnons une caractéri-
sation du radical d’une algèbre de Lie et nous énonçons, au Théorème II.2.11, des
conditions équivalentes pour qu’une algèbre de Lie soit nilpotente.Le paragraphe 3
est consacré aux théorèmes d’Engel et de Lie.Le paragraphe 4 indroduit la forme
bilinéiaire symétrique associée à une représentation et la forme de Killing.Enfin le
paragraphe 5 traite du critère de Cartan sur la résolubilité d’une algèbre de Lie.
106
II-2 Algèbres de Lie Nilpotentes Résolubles

II-2-1. Définition et propriétés des Algèbres
de Lie Nilpotentes Résolubles
Définition II-2-1-1 Soient L une algèbre de Lie sur K, A et B deux sous-espaces
vectoriels de L. On appelle crochet de A et B, et on note [A, B], le sous-espace
vectoriel de L engendré par les éléments de la forme [x, y], où x ∈ A et y ∈ B.
C’est l’ensemble des éléments de L de la forme

n
X
[xi , yi ] , où xi ∈ A et yi ∈ B.
i=1
Avec cette notation, un sous-espace vectoriel B de L est une sous-algèbre de Lie

de L si [B, B] ⊂ B et B est un idéal de L si [L, B] ⊂ B.
Si A est une sous-algèbre de Lie d’une algèbre de Lie L on appelle normalisateur

de A, l’ensemble NL (A) des éléments x ∈ L tels que [x, A] ⊂ A.NL (A) est la plus
grande sous-algèbre de Lie de L dans laquelle A est un idéal.
On appelle centralisateur d’une partie M de L, l’ensemble CL (M ) des éléments
x ∈ L tels que [x, M ] = 0; c’est une sous-algèbre de Lie de L et on a CL (L) = Z (L) .
ThéorèmeII-2-1-2 Soit L une algèbre de Lie. Si A et B sont des idéaux (resp. des
idéaux caractéristiques) de L, alors [A, B] est un idéal (resp. un idéal caractéristique)
de L.
Démonstration Soit d une dérivation intérieure (resp. quelconque) de L. Puisque

d est linéaire, il suffit de montrer que
d ([x, y]) ∈ [A, B] si x ∈ A et y ∈ B.
Comme
d ([x, y]) = [d (x) , y] + [x, d (y)] ∈ [A, B] ,
si A et B sont des idéaux et d une dérivation intérieure, [A, B] est un idéal. Le
même raisonnement montre que si A et B sont des idéaux caractéristiques et d une
dérivation quelconque, alors [A, B] est un idéal caractéristique.
Définition II-2-1-3 - Soit L une algèbre de Lie sur K. Posons C0 L = L et, par
récurrence sur n, Cn L = [L, Cn−1 L] . On voit, par récurrence sur n, que chaque Cn L
107
est un idéal caractéristique de L. On appelle série centrale descendante de L, la suite

décroissante
L = C0 L ⊃ C1 L ⊃ ... ⊃ Cn L...
d’idéaux caractéristiques de L.
Définition II-2-1-4 - On dit que l’algèbre de Lie L est nilpotente s’il existe un
entier n tel que Cn L = {0} .
Le plus petit entier n tel que Cn L = {0} s’appelle la classe de nilpotence de L

et on dit que L est nilpotente de classe n.
Si L est une algèbre de Lie nilpotente, non nulle, de classe n, on a Cn−1 L 6= {0}
et Cn L = [L, Cn−1 L] = {0} ; donc Cn−1 L est contenu dans le centre de L qui est par
suitenon nul. Toute algèbre de Lie abélienne est évidemment nilpotente.
Définition II-2-1-5 Soit L une algèbre, de Lie sur K. Posons D0 L = L et, par
récurrence sur n,
Dn L = Dn−1 L, Dn−1 L . (II-1-2)
On voit, par récurrence sur n, que chaque Dn L est un idéal caractéristique de Dn−1 L,
donc de L. On appelle série dérivée de l’algèbre de Lie L, la suite décroissante
L = D0 L ⊃ D1 L ⊃ ... ⊃ Dn L ⊃ ...
d’idéaux carctéristiques de L.
L’idéal D1 L = [L, L] s’appelle l’idéal dérivé de L.
Définition II-2-1-6 On dit que l’algèbre de Lie L est résoluble s’il existe un entier
n tel que Dn L = {0} .
Le plus petit entier n tel que Dn L = {0}s’appelle la classe de résolubilité de L
et on dit que L est résoluble de classe n.
Si L est une algèbre de Lie résoluble non nulle de classe n, on a Dn−1 L 6= {0}
et Dn L = [Dn−1 L, Dn−1 L] = {0} ; donc L contient l’idéal abélien Dn−1 L.Il est clair
qu’une algèbre de Lie abélienne est résoluble.
Théorème II-2-1- Soit L une algèbre de Lie. Alors :

(i) [Cn L, Cm L] ⊂ Cn+m L quels que soient les entiers n et m.
(ii) Dn L ⊂ Cn Lpour tout entier n ≥ 0.
108
Démonstration Nous allons démontrer (i) par récurrence sur n.

Pour n = 0, on a [L, Cm L] = Cm+1 L ⊂ Cm L par définition des Ck L. Supposons que
[Cn L, CmL] ⊂ Cn+m L
pour tout m ; alors d’après la définition II.1.3, l’identité de Jacobi et l’hypothèse de
récurrence, on a n+1
C L, Cm L = [L, Cn L, Cm L]
⊂ [[Cn L, Cm L] , L] + [[L, Cm L] , Cn L] ⊂ Cn+m+1 L,
d’où notre assertion.(iii) se démontre aisément par récurrence sur n.
Corollaire II-2-1-8 Toute algèbre de Lie nilpotente est résoluble.

Cela résulte aussitôt du Théorème II.1.7 (ii).
La réciproque de cette assertion est fausse ; il existe des algèbres de Lie résolubles
qui ne sont pas nilpotentes (voir l’exemple II.1.9 ci-dessous).
Exemple II-2-1-9 Soient L une algèbre de Lie non commutative de dimension 2

sur K et (e1 , e2 ) une base de L. Le vecteur [e1 , e2 ] = e n’est pas nul puisque L n’est
pas commutative.
Si
x = a e1 + be2 ∈ L et y = α e1 + β e2 ∈ L,
on a
[x, y] = (a β − α b) e;
donc le crochet de deux éléments quelconques de L est proportionnel à e. Il s’ensuit
que si e01 est un vecteur non nul et non proportionnel à e, on a [e, e01 ] = λe avec
λ 6= 0. Alors les vecteurs e et e02 = λ1 e01 forment une base de L et on a [c, e02 ] = e.
Ainsi, en posant [e1 , e2 ] = e1 , on voit qu’il n’existe, à un isomorphisme près, qu’une
algèbre de Lie non commutative de dimension 2.
L est résoluble car D1 L = Ke1 et D2 L = {0} . Mais L n’est pas nilpotente
puisque
C1 L = Ke1 , C2 L = Ke1 , d’où Ck L = Ke1 6= {0}
pour tout entier k.
Exemple II-2-1-10 Soit L = Tn (K) l’algèbre de Lie formée des matrices triangu-
laires supérieures d’ordre n à coefficients dans K : Tn (K) = {A = (aij ) : aij = 0 si i > j} .
On a D1 L = [L, L] = {M = (aij ) : aij = 0 si j < i + 1} et plus généralement
Dk L = {M = (aij ) : aij = 0 si j < i + k} .Comme Dn L = {0} , L est résoluble
de classe n. Notons que D1 L = Nn (K) est la sous-algèbre de Lie de g` (n, K) formée
des matrices trianglulaires supérieures de diagonale nulle ; les éléments de Nn (K)
sont appelés les matrices triangulaires supérieures strictes.
109
Théorème II-2-1-11 Soient L une algèbre de Lie sur K et I un sous-espace

vectoriel de L. Les conditions suivantes sont équivalentes :
(i) D1 L ⊂ I ;
(ii) I est un idéal et l’algèbre quotient L/I est abélienne.
Démonstration (i) =⇒ (ii) : Supposons que D1 L ⊂ I. On a [I, L] ⊂ [L, L] =

D1 L ⊂ I,donc I est un idéal de L.Si ẋ = x + I ∈ L/I et ẏ = y + I ∈ L/I,on a
[ẋ, ẏ] = [x, y] + I ∈ D1 L + I = I = 0̇,et l’agèbre quotient L/I est abélienne.
(ii) =⇒ (i) : Si I est un idéal de L et si L/I est abélienne, alors pour tous
x, y ∈ L, [x, y] + I = [x + I, y + I] = 0̇ = I.Donc [x, y] ∈ I et par suite D1 L ⊂ I..
Corollaire II-2-1-12 Pour tout n ≥ 0, l’algèbre quotient Dn L/Dn+1 L est abé-

lienne.
110
Théorème II-2-1-13 Toute sous-algèbre de Lie A d’une algèbre de Lie nilpotente

(resp. résoluble) L est nilpotente (resp. résoluble).
Démonstration Le Théorème résulte immédiatement des inclusions suivantes que

l’on démontre facilement par récurrence :
Cn A ⊂ Cn L et Dn A ⊂ Dn L..
Théorème II-2-1-14 Soient L et L0 deux algèbres de Lie sur K et φ un homo-

morphisme surjectif de L sur L0 . Alors pour tout entier n, on a :
φ (Cn L) = Cn L0 et φ (Dn L) = Dn L0
Démonstration Démontrons la première égalité. Le théorème est vrai si n = 0.

Supposons-le démontré pour les entiers ≤ n.
Soient x ∈ L et y ∈ Cn L ; alors φ (x) ∈ L0 , φ (y) ∈ Cn L0 et on a φ ([x, y]) =
[φ (x) , φ (y)] ∈ Cn+1 L0 .Donc, puisque φ est linéaire, φ (Cn+1 L) ⊂ Cn+1 L0 .Inversement,
soient x1 ∈ L0 et y1 ∈ Cn L0 .D’après l’hypothèse de récurrence, on a x1 =
φ (x) , y1 = φ (y) avec x ∈ L et y ∈ Cn L.Alors [x1 , y1 ] = [φ (x) , φ (y)] =
φ ([x, y])d’où Cn+1 L0 ⊂ φ (Cn+1 L)et par suite φ (Cn L) = Cn L0 .On démontrerait de
même la deuxième égalité.
Corollaire II-2-1-15 Toute image par un homomorphisme (en particulier toute

algèbre quotient) d’une algèbre de Lie nilpotente (resp. résoluble) est une algèbre
de Lie nilpotente (resp. résoluble).Cela résulte directement du Théorème II.2.2.
Théorème II-2-1-16 Soit L une algèbre de Lie.

a) Si I est un idéal résoluble de L et si LI est résoluble, alors L est résoluble.
b) Si Iet J sont deux idéaux résolubles de L, alors I +J est un idéal résoluble
de L.
Démonstration a) : Supposons que Dn (LI) = {0} et Dm I = {0} .π

désignant l’homomorphisme canonique de L sur LI, on a (Théorème II.2.2) ;
π (Dn L) = {0}d’où il résulte que Dn L ⊂ Ker (π) = I.Alors Dm (Dn L) = Dm+n L ⊂
Dm I = {0} ,ce qui montre que L est résoluble.
b) : Le Théorème I.2.6 montre que (I + J) J est isomorphe à II ∩ J qui
est résoluble d’après le Corollaire II.2.3 ; donc (I + J) J est résoluble. Comme J
est évidemment un idéal résoluble de I + J, I + J est résoluble d’après le a).
Comme conséquence, nous allons voir que toute algèbre de Lie L sur K contient
un idéal résoluble maximal.
111
Soient, en effet, I et J deux idéaux résolubles de L. Alors I + J est un idéal

résoluble d’après le Théorème II.2.4 b). Puisque L est de dimension finie, la somme
de tous les idéaux résolubles de L est égale à la somme d’un nombre fini d’idéaux
résolubles de L ; cette somme est donc un idéal résoluble qui est évidemment le plus
grand idéal résoluble de L. Ceci nous permet de poser la définition suivante :
Définition II-2-1-17 On appelle radical d’une algèbre de Lie L, et on note Rad L,

le plus grand idéal résoluble de L.
Si L 6= 0 et si Rad L = {0} , on dit que L est semi-simple. On dit qu’une algèbre
de Lie L est simple si elle est non abélienne et si les seuls idéaux de L sont {0} et L.
Lemme II-2-1-18 Soient L une algèbre de Lie et I un idéal de L. Toute sous-

algèbre de Lie (resp. tout idéal) A de l’algèbre de Lie LI est de la forme HI, où
H est une sous-algèbre de Lie (resp. un idéal) de L contenant I.
Démonstration Soit π l’homomorphisme canonique de L sur LI et soit
H = π −1 (A) = {x ∈ L : π (x) ∈ A} .
On voit facilement que H est une sous-algèbre de Lie de L si A est une sous-algèbre
de Lie de LI et I ⊂ H puisque si x ∈ I, π (x) = x + I = I = 0̇ ∈ A, i.e. x ∈ H.
On a π (H) = A par construction et π (H) = {h + I : h ∈ H} .
Comme I ⊂ H, on peut former HI = {h + I : h ∈ H} , ce qui montre que HI =
π (H) = A.
Supposons que A soit un idéal de LI. Alors quels que soient x ∈ L et
y ∈ H, π ([x, y]) = [π (x) , π (y)] ∈ A
puisque A est un idéal de LI ; donc [x, y] ∈ H et H est bien un idéal de L.
Nous allons donner une application immédiate de ce lemme.
Théorème II-2-1-19 Soit L une algèbre de Lie sur K. Si R est le radical de L,

l’algèbre de Lie LR est semi-simple..
Démonstration Soit π l’homomorphisme canonique de L sur LR. Soit S le

radical de LR et supposons que S 6= {0}. D’après le Lemme II.2.6, S 0 =
π −1 (S)est un idéal de L et S contient R. Les algèbres
R et S 0 R = S
sont résolubles. Donc (Théorème II.2.4 a) ), S 0 est résoluble et contient R, contrai-

rement au fait que R est maximal ; donc S = {0} et pa suite LR est semi-simple.
112
Théorème II-2-1-20 Le radical R d’une algèbre de Lie L est le plus petit idéal
de L tel que l’algèbre quotient LR soit semi-simple.
Démonstration Nous venons de voir que l’algèbre de Lie LR est semi-simple.
Il reste donc à montrer que si A est un idéal de L et si l’algèbre de Lie LA est
semi-simple, alors R ⊂ A.
Soit π l’homomorphisme canonique de L sur LA supposée semi-simple ; l’image
π (R) est un idéal résoluble de LA ; cet idéal est nécessairement nul puisque LA
est semi-simple ; donc R ⊂ A.
Les Théorèmes II.2.7 et II.2.8 donnent ainsi une caractérisation du radical R
d’une algèbre de Lie L : c’est l’idéal résoluble R de L tel que l’algèbre quotient LR
n’ait pas d’idéal résoluble non nul.
Théorème II-2-1-21 Soit L une algèbre de Lie et soit n un entier ≥ 0. Les

conditions suivantes sont équivalentes :
(i) L est résoluble de classe n.
(ii) Il existe une suite décroissante
L = I0 ⊃ I1 ⊃ ... ⊃ In = {0}
d’idéaux de L tels que, pour 0 ≤ k ≤ n − 1, les algèbres quotients Ik Ik+1 soient

commutatives.
Démonstraition (i) =⇒ (ii) : chaque Dk L est un idéal de L et l’algèbre quotient

Dk LDk+1 L est commutative d’après le Corollaire II.1.12. Donc, si L est résoluble
de classe n, on obtient (ii) en prenant Ik = Dk L.
(ii) =⇒ (i) : Supposons qu’il existe une suite Ik d’idéaux de L tels que L = I0 ⊃
I1 ⊃ ... ⊃ In = {0} et tels que l’algèbre quotient Ik Ik+1 soit commutative pour
0 ≤ k ≤ n − 1.
Nous allons montrer tout d’abord par récurrence sur k, que Dk L ⊂ Ik si 0 ≤ k ≤
n.L’algèbre de Lie LI1 étant abélienne, on a
[x, y] + I1 = [x + I1 , y + I1 ] = I1 = 0̇
quels que soient x, y ∈ L. Donc [x, y] ∈ I1 et par suite Dk L ⊂ I1 puisque D1 L est

engendré par les éléments de la forme [x, y] où x, y ∈ L..
Supposons que Dk L ⊂ Ik et montrons que Dk+1 L ⊂ Ik+1 .L’algèbre de Lie
Ik Ik+1 étant abélienne,
kon a k d’après
le Théorème II.1.11, [Ik , Ik ] = D1 Ik ⊂
Ik+1 .Comme D L = D L, D L ⊂ [Ik , Ik ] = D1 Ik ,il vient Dk+1 L ⊂ Ik+1 , donc
k+1
Dk L ⊂ Ik si 0 ≤ k ≤ n.
L’hypothèse, In = {0}, entraîne alors Dn L = {0} et la condition (i) est vérifiée.
113
Soit maintenant L une algèbre de Lie sur K. Nous nous proposons de construire
une suite croissante d’idéaux de L. Pour cela, posons
C0 L = {0} et C1 L = Z (L) le centre de L.
C1 L est un idéal caractéristique de L. LC1 L est une algèbre de Lie dont le

centre, qui est un idéal caractéristique, est de la forme C2 LC1 L, où C2 L est un
idéal caractéristique de L contenant C1 L (Lemme II.2.6). Rappelons que C2 L est
l’image réciproque du centre de LC1 L par l’homomorphisme canonique π : L −→
LC1 L.
Supposons qu’on ait défini C.L et démontré que c’est un idéal caractéristique de
L. On définit alors Ci+1 LC1 L comme étant le centre de LCi L et Ci+1 L est
l’image réciproque du centre de LCi L par l’homomorphise canonique
π : L −→ LCi L.
Définition II-2-1-22 On appelle série centrale ascendante de l’algèbre de Lie L,

la suite croissante d’idéaux caractéristiques :
{0} = C0 L ⊂ C1 L ⊂ ... ⊂ Ci L...
Théorème II-2-1-23 Soit L une algèbre de Lie sur K et soit n un entier ≥ 0.

Les conditions suivantes sont équivalentes :
(i) L est nilpotente de classe n.
(ii) Il existe une suite décroissante
L = T0 ⊃ I1 ⊃ ... ⊃ In = {0}
d’idéaux de L tels que
[L, Ik ] ⊂ Ik+1 pour k = 0, 1, ..., n − 1.
(iii) Cn L = L.
(iv)
adx1 ◦ adx2 ◦ ... ◦ adxn = 0
quels que soient les éléments x1 , ..., xn de L.

Démonstration (i) =⇒ (ii) : Chaque Ck L est un idéal de L et L, Ck L =
Ck+1 L.Donc si L est nilpotente de classe n, on obtient la condition (ii) en prenant
Ik = Ck L.
(ii) =⇒ (i) : Supposons la condition (ii) vérifiée et montrons par récurrence sur
k, que Ck L ⊂ Ik .On a C1 L = [L, I0 ] ⊂ I1 .Supposons que l’on ait Ck L ⊂ Ik . Alors
114

Ck+1 L = L, Ck L ⊂ [L, Ik ] ⊂ Ik+1 .L’hypothèse In = {0} entraîne donc Cn L = {0}
et la condition (i) est vérifiée.
Ainsi (i) ⇐⇒ (ii).
(ii) =⇒(iii) : Démontrons d’abord par récurrence sur r, que In−r Cr L. Cette
relation est vérifiée si r = 0 d’après l’hypothése. Supposons que pour l’indice
r, on ait In−r ⊂ Cr L.Alors[L, In−r−1 ] ⊂ In−r Cr L.Donc si π désigne l’homomor-
phisme canonique de L sur LCr L, on aura [π (L) , π (In−r−1 )] = π ([L, In−r−1 ]) ⊂
π (In−r ) ⊂ π (Cr L) = Cr L.Comme Cr L = 0̇ dans LCr L, on voit que π (In−r−1 ) ⊂
Z (LCr L) = π (Cr+1 L) .Donc In−r−1 < Cr+1 Let la relation est démontrée pour
l’indice r + 1.
Si on fait r = n dans la relation In−r Cr L, il vient L = I0 ⊂ Cn L, d’où l’on conclut
que Cn L = L et la condition (iii) est vérifiée.
(iii) =⇒(ii) : Posons Ir = Cn−r L; on obtient une suite décroissante (Ii )0≤i≤n
d’idéaux de L, avec I0 = L et In = {0} .Il suffit donc de montrer que pour
0 ≤ r ≤ n − 1,on a [L, Cn−r L] ⊂ Cn−r−1 L. ou, en posant n − r = i, [L, Ci L] ⊂ Ci−1 L.
Soient x ∈ L et y ∈ Ci L; comme Ci LCi−1 L est le centre de LCi−1 L, on
a, en notant π l’homomorphisme canonique de L sur LCi−1 L, 0̇ = [π (x) , π (y)] =
π ([x, y])ce qui montre que [x, y] ∈ Ci−1 L et par suite [L, Ci L] ⊂ Ci−1 L.La condition
(ii) est donc vérifiée. On a ainsi prouvé que (ii)⇐⇒(iii).
(i) ⇐⇒(iv) : On voit facilement par récurrence que Cn L est engendré par l’en-
semble des éléments de la forme
(adx1 ◦ adx2 ◦ ... ◦ ad xn ) (x)
où
x1 , x2 , ..., xn , x ∈ L
Donc Cn L = {0} équivant à adx1 ◦ adx2 ◦ ... ◦ adxn = 0 quels que soient les
éléments x1 , ..., xn de L.
Exemple II-2-1-24 Soit L l’algèbre de Lie formée des matrices triangulaires su-
périeures d’ordre n à coefficients dans K telles que
a11 = a22 = ... = ann .
Soit I1 la sous-algèbre de Lie formée des matrices de la forme

 
0
 ∗ 
 
 
0 0
Soit I2 la sous-algèbre de Lie formée des matrices de la forme
115
 
0 0
 ∗ 
 
 0 
0 0
et ainsi de suite.
On vérifie facilement que
L = I0 ⊃ I1 ⊃ ... ⊃ In = {0} et [L, Ik ] ⊂ Ik+1
pour k = 0, 1, ..., n − 1.
Donc L est nilpotente de classe n.
Nous allons voir dans le paragraphe qui va suivre, comment on peut représenter
les éléments d’une algèbre de Lie d’endomorphismes par des matrices triangulaires.
116
§ II-2-2. Les Théorèmes d’Engel et de Lie

Lemme II-2-2-1 Soit V un espace vectoriel sur K et soit
A ∈ L (V ) .
Si A est un endomorphisme nilpotent, l’opérateur
adA : L (V ) −→ L (V )
est nilpotent.
Démonstration Par définition, si A, X ∈ L (V ) , (adA) (X) = A X − X Aet on

P
n
voit facilement par récurrence que (adA)n (X) = (−1)n−k Cnk Ak X An−k .Si A est
k=0
nilpotent, Am = 0 pour m assez grand, donc (adA)2m = 0et l’opérateur adA est
nilpotent.
Théorème II-2-2-2 (Engel). - Soit V un espace vectoriel non nul de dimension

finie sur K et soit L une sous-algèbre de Lie de g` (V ). Si tous les éléments de L sont
des endomorphismes nilpotents, il existe un vecteur non nul v ∈ V tel que σ (v) = 0
pour tout σ ∈ L.
Démonstration Nous allons faire la démonstration par récurrence sur la dimen-

sion n de L. Le théorème est évident si n = 0.
Supposons-le vrai pour toute algèbre de dimension n et supposons que
dim (L) = n.
Montrons qu’il existe un idéal de L de codimension un. Soit L0 une sous-algèbre
propre de L. Le sous-espace L0 est stable par la représentation adjointe x 7−→ adx
de L0 dans g` (L) : (adx) (y) = [x, y] ∈ L0, .quels que soient x, y ∈ L0 .
Notons ρ la représentation adjointe de L0 dans g` (L) et considérons la représen-
tation γ de L0 dans LL0 définie par la relation
·
γ (x) ẏ = ρ\
(x) y (II-3-1)
où ẏ est la classe d’un élement y quelconque de L. D’après le Lemme II.3.1, adx est
nilpotent pour tout x ∈ L0 , donc les opérateurs γ (x) , x ∈ L0 , sont aussi nilpotents
dans LL0 et ils forment une algèbre de Lie de dimension n. D’après l’hypothèse
de récurrence, il existe un élément non nul ż de LL0 tel que
γ (x) ż = 0̇
117
pour tout x ∈ L0 . Soit z un représentant de ż; z ∈ / L0 et ρ (x) z ∈ L0 d’après la

définition de γ, donc [x, z] ∈ L0 pour tout x ∈ L0 .
Le sous-espace vectoriel L1 = L0 +K z est une sous-algèbre de Lie de L car [L1 , L1 ] ⊂
L0 ⊂ L0 + K z = L1
et dim (L1 ) = dim (L0 ) + 1puisque z ∈ / L0 . De plus L0 est un idéal de L1 car
[L0 , L0 + K z] ⊂ L0 .
Supposons maintenant que L0 soit une sous-algèbre propre maximale de L (il en
existe puisque L est de dimension finie). La sous-algèbre L1 qu’on vient de construire
contient L0 comme sous-algèbre propre et comme L0 est maximale, on a L0 + K z =
L,donc L0 est un idéal de codimension un dans L.
Considérons le sous-espace W de V formé des vecteurs w ∈ V tels que σ (w) = 0
pour tout σ ∈ L0 .D’après l’hypothèse de récurrence, W 6= {0}. De plus, si v ∈
W, σ ∈ L et τ ∈ L0 ,on a (τ ◦ σ) (v) = (σ ◦ τ ) (v) + [τ , σ] (v) = 0puisque L0 est un
idéal. Donc W est stable par tout σ ∈ L.Si σ ∈ L et σ ∈ / L0 , on a L = L0 + K σ.
Comme σ est nilpotent sur V et laisse W stable, σ est aussi nilpotent sur W .
Soit m le plus petit entier tel que σ m = 0 dans W et soit v0 ∈ W tel que
σ m−1 (v0 ) 6= 0 ; v = σ m−1 (v0 ) ∈ W et σ (v) = 0.
Alors le vecteur v est annulé par tout élément de L.
Corollaire II-2-2-3 Soit V un espace vectoriel non nul de dimension finie sur K et
soit L une sous-algèbre de Lie de g` (V ) dont les éléments sont des endomorphismes
nilpotents de V . Alors
a) Il existe une base de V par rapport à laquelle les matrices des endomor-
phismes de L sont triangulaires supérieures strictes.
b) L est une algèbre de Lie nilpotente.
c) Si r ≥ dim (V ) et si σ i ∈ L, 1 ≤ i ≤ r, on a σ 1 ◦ σ 2 ◦ ... ◦ σ r = 0.
Démonstration a) : D’après le Théorème d’Engel, il existe un vecteur non nul

e1 ∈ V tel que σ (e1 ) = 0 pour tout σ ∈ L. Si le sous-espace V1 = Ke1 est 6= V , tout
élément σ ∈ L induit un endomorphisme nilpotent σ̇ de l’espace vectoriel non nul
V V1 . On peut donc trouver un vecteur
ė2 = e2 + V1 6= 0̇
dans V V1 tel que σ̇ (ė2 ) = 0̇ pour tout σ ∈ L ; autrement dit, il existe
/ V1 tel que
e2 ∈ V, e2 ∈
σ (e2 ) = a12 e1 + 0.e2
pour tout σ ∈ L.
118
En continuant ainsi, on construit une base (e1 , ..., en ) de V telle que, pour tout
σ ∈ L, on ait
σ (e1 ) = 0 et σ (ej ) = 0 mod (e1 , ..., ej−1 ) , 2 ≤ j ≤ n
où (e1 , ..., ej−1 ) est le sous-espace vectoriel engendré par les vecteurs e1 , ..., ej − 1. La
matrice de σ par rapport à la base (e1 , ..., en ) est triangulaire supérieure stricte.b) :
Ceci résulte immédiatement de a) et de l’exemple II.2.12.
c) : résulte aussitôt de a) et de la multiplication matricielle.
Corollaire II-2-2-4 Pour qu’une algèbre de Lie L soit nilpotente, il faut et il suffit
que adx soit nilpotent pour tout x ∈ L.
Démonstration Si L est nilpotente, alors d’après le Théorème II.2.11 (iv), adx

est nilpotent pour tout x ∈ L.
Réciproquement, si adx est nilpotent pour tout x ∈ L, alors d’après le Corollaire
II.3.3, il existe une base de L par rapport à laquelle les matrices des opérateurs adx,
x ∈ L, sont strictement triangulaires supérieures. Soit n = dim (L) .Si x1 , ..., xn sont
des éléments arbitraires de L, il résulte du Corollaire II.33.3 c) que adx1 ◦...◦adxn =
0,donc L est nilpotente.
Remarque II-2-2-5 Le Corollaire II.3.4 permet de montrer très simplement que

l’algèbre de Lie Nn (K) des matrices strictement triangulaires supérieures est nilpo-
tente sans calculer la série centrale descendante.
En effet toute matrice x ∈ Nn (K) est nilpotente ; donc (Lemme II.3.1), adx est
nilpotent et par suite Nn (K) est une algèbre de Lie nilpotente.
On peut donner une autre version du Théorème d’Engel en termes de drapeaux
dans un espace vectoriel. Donnons d’abord la définition des drapeaux.
Définition II-2-2-6 Soit V un espace vectoriel de dimension finie n sur K. On

appelle drapeau dans V , une suite décroissante de sous-espaces vectoriels
”0 ({0} = V0 ⊂ V1 ⊂ ... ⊂ Vn = V
de V tel que
dim (Kk ) = k.
On dit qu’un endomorphisme u de V stabilise le drapeau (Vi )0≤i≤n ou que ce
drapeau est invariant par u si u (Vk ) ⊂ Vk pour tout k.
Supposons que les hypothèses du Théorème d’Engel soient vérifiées et montrons
par récurrence sur n = dim (V ), qu’il existe dans V , un drapeau invariant par tout
119
σ ∈ L. Si n = 1, le résultat est trivial ; supposons-le démontré pour les espaces

vectoriels de dimension ≤ n − 1. Soit n = dim (V ).
D’après le Théorème d’Engel, il existe un vecteur non nul v ∈ V annulé par
tout élément de L. Posons V1 = Kv. Tout élément de L induit un endomorphisme
nilpotentsur V V1 . En vertu de l’hypothèse de récurrence, il existe dans V V1 , un
drapeau 0̇ ⊂ V̇2 ⊂ ... ⊂ V̇ = V V1 .invariant
par
tout σ ∈ L.Soit π : V −→ V V1

l’application canonique et posons Vk = π −1
V̇k , V1 = π −1
0̇ .Alors dim (Vk ) = k
et {0} ⊂ V1 ⊂ ... ⊂ Vn = V est un drapeau dans V , invariant par tout σ ∈ L.
Le Théorème d’Engel a été énoncé sans restriction sur le corps K. Le théorème qui
va suivre est semblable mais les endomorphismes considérés devant avoir des valeurs
propres dans K, nous sommes amenés à supposer que K est un corps algébriquement
clos.
Théorème II-2-2-7 (de Lie) Soit V un espace vectoriel non nul de dimension
finie sur un corps K algébriquement clos, de caractéristique 0. Soit L une K-algèbre
de Lie résoluble. Alors toute représentation π de L dans V admet un vecteur propre
dans V , i.e.il existe un vecteur non nul v de V qui est un vecteur propre de tous les
π (x) , x ∈ L.
Démonstration Nous allons démontrer le théorème par récurrence sur n = dim (L).
Si n = 1, le théorème est immédiat. Supposons-le vrai pour les algèbres de Lie réso-
lubles de dimension < n.
Puisque L est résoluble, D1 L = [L, L] est une sous-algèbre propre de L; LD1 L
étant commutative (Corollaire II.4.12), tout sous-espace vectoriel de LD1 L est un
idéal. Alors l’image inverse par l’application canonique de L sur LD1 L d’un idéal
de codimension un dans LD1 L est un idéal résoluble I de codimension un dans
L tel que D1 L ⊂ I ⊂ L.D’après l’hypothèse de récurrence, il existe un vecteur non
nul e0 ∈ V tel que π (y) e0 = γ (y) e0 pour tout y ∈ I,où λ : I −→ Kest une forme
linéaire. Fixons λ et soit x ∈ L tel que x ∈/ I ; alors L = Kx + I. Posons
ek = π (x)k e0 pour k = 0, 1, 2, ...
Puisque V est de dimmension finie, il existe un entier r ≥ 0 tel que les vecteurs
e0 , e1 , ..., er soient linéairement indépendants tandis que les vecteur e0 , e1 , ...er+1
sont linéairement dépendants. Soit W le sous-espace vectoriel de V engendré par les
vecteurs
e0 , e1 , ..., er
W est stable par π (x) car π (x) ek = ek+1 et ek+1 est dans W quel que soit k.
Montrons que W est stable par tout opérateur π (y), si y ∈ I. Pour cela, nous
allons démontrer par récurrence sur k, la relation
π (y) ek = λ (y) ek + ak−1 ek−1 + ... + a0 e0 (II-3-2)
120
où aj ∈ K.Si k = 0, le résultat est vrai par hypothèse.Supposons-le vrai pour les

entiers ≤ k. AlorsComme I est un idéal, [y, x] ∈ I ; d’après l’hypothèse de récurrence,
π ([y, x]) ek .est combinaison linéaire de e0 , e1 , ..., ek et par suite
π (y) ek+1 = π (x) (λ (y) ek + ak−1 ek−1 + ... + a0 e0 ) + π ([y, x]) ek
= λ (y) ek+1 + bk ek + ... + b0 e0 .
Ainsi la relation (II.3.2) est vraie pour l’entier k + 1 et W est stable par tout
opérateur π (y) , y ∈ I.
Donc W est stable par tout opérateur π (z) , z ∈ L.
Soit π (y) | W la restriction de l’opérateur π (y) au sous-espace vectoriel W .
D’après ce qui précède,la matrice de π (y)  | W par rapport à la base (e0 , e1 , ..., er )
λ (y)
de W est de la forme  0 ∗ Donc T r (π (y) | W ) = (r + 1) λ (y) pour
λ (y)
tout y ∈ I.En particulier, puisque T r (AB) = T r (BA)si A et B sont des endo-
morphismes, on a T r (π ([x, y]) | W ) = (r + 1) λ ([x, y]) = 0.Le corps K étant de
caractéristique nulle, ceci entraîne λ ([x, y]) = 0.On en déduit, par récurrence sur k,
la relation π (y) ek = λ (y) ek et par suite π (y) w = λ (y) wpour tout w ∈ W , i.e. tout
vecteur de W est vecteur propre des opérateurs π (y) pour y ∈ I.
Le corps K étant algébriquement clos, la restriction de π (x) à W possède un
vecteur propre non nul v ∈ W . Comme L = Kx + I, v est un vecteur propre commun
à tous les opérateurs π (z) , z ∈ L et le théorème est démontré.
Corollaire II-2-2-8 Soit V un espace vectoriel non nul de dimension finie sur un
corps K algébriquement clos, de caractéristique nulle. Soient L une K-algèbre de Lie
résoluble et une représentation linéaire de L dans V . Si π est irréductible, alors
dim (V ) = 1.
Démonstration Soit v un vecteur propre de π Le sous-espace Kv est stable par

les π (x) , x ∈ L et est non nul ; comme π est irréductible, on a donc V = Kv.
Corollaire II-2-2-9 Soit V un espace vectoriel non nul de dimension finie sur un
corps K algébriquement clos, de caractéristique nulle. Soient L une K-algèbre de Lie
résoluble et π une représentation linéaire de L dans V . Alors, il existe une base de
V par rapport à laquelle la matrice de tout opérateur π (x) , x ∈ L, est triangulaire
supérieure..
Démonstration D’après le Théorème de Lie, les opérateurs π (x) , x ∈ L,admettent

un vecteur propre e1 6= 0 dans V . Si le sous-espace
V1 = Ke1
121
engendré par e1 est différent de V , la représentation π induit une représentation π̇ de

L dans l’espace vectoriel quotient V V1 . On peut donc trouver un vecteur e2 ∈ V
tel que le vecteur ė2 = e2 + V1 ∈ V V1 soit un vecteur propre de tous les opérateurs
π̇ (x) , x ∈ L.
En continant ainsi, on construit une base e1 , ..., en de V telle que, pour tout
x ∈ L, on ait π (x) ej = 0 mod (e1 , e2 , ..., ej ) .La matrice de π (x) par rapport à la
base (e1 , ..., en ) est triangulaire supérieure
Corollaire II-2-2-10 Soit L une algèbre de Lie sur un corps algébriquement clos.
Pour que L soit résoluble, il faut et il suffit que D1 L soit nilpotente.
Démonstration Si D1 L est nilpotente, alors D1 L est résoluble (Corollaire II.1.8).

Comme LD1 L est une algèbre de Lie abélienne, donc résoluble, il s’ensuit que L
est résoluble (Théorème II.2.4 a)).
Réciproquement, supposons que L soit résoluble. D’après le Corollaire II.3.9, il
existe une base de L par rapport à laquelle les matrices des opérateurs adx, x ∈
L,sont trianglulaires supérieures ; alors, quels que soient
x, y ∈ L, ad ([x, y]) = adx, ady
est représenté par une matrice strictement
P triangulaire supérieur, donc nilpotente.Comme
tout z ∈ D L est de la forme
1
[xi , yi ] où xi , yi ∈ L,on voit que adz est nilpotent
i
pour tout z ∈ D1 L.Donc D1 L est nilpotente d’après le Corollaire II.3.4.
Théorème II-2-2-11 Soit V un espace vectoriel non nul de dimension finie sur
un corps K algébriquement clos Soient L une algèbre de Lie sur K et π une repré-
sentation de L dans V . Les conditions suivantes sont éauivalentes :
(i) L’algèbre de Lie π (L) = {π (x) ; x ∈ L} est résoluble.
(ii) Il existe dans V un drapeau invariant par tout opérateur π (x) , x ∈ L.
(iii) Il existe une base de V par rapport à laquelle les matrices des endomor-
phismes
π (x) , x ∈ L,
sont triangulaires supérieures.
Démonstration (i)=⇒(ii) : Supposons que π (L) soit une algèbre de Lie résoluble.
Si dim (V ) = 1, la condition (ii) est évidemment vérifiée. Supposons que nous ayons
démontré que (i)=⇒(ii) lorsque V est un espace vectoriel de dimension ≤ n − 1 et
soit n = dim (V ).
D’après le Théorème de Lie, la représentation π possède un vecteur propre non
nul v. Le sous-espace W = Kv est stable et la représentation π induit une repré-
sentation π̇ de L dans l’espace quotient V W . D’après l’hypothèse de récurrence,
122

il existe un drapeau 0̇ ⊂ V̇2 ⊂ ... ⊂ V̇n−1 = V W de V W , stable par tout
opérateur π̇ (x) , x ∈ L.Soit ρ : V −→ VW l’homomorphisme canonique.

Posons V1 = ρ −1
0̇ et Vk = ρ −1
V̇k si k = 2, ..., n − 1.Alors dim (Vk ) = k et
{0} ⊂ V1 ⊂ ... ⊂ Vn = V est un drapeau dans V , stable par tout opérateur π (x) , x ∈
L.(ii)=⇒(iii) : Soit {0} ⊂ V1 ... ⊂ Vn = V un drapeau dans V et soit (e1 , ..., en )
une base de V telle que V1 = Ke1 , V2 = Ke1 + Ke2 , ..., Vn = V.Alors, puisque
π (x) Vk ⊂ Vk si k = 1, 2, ..., n,la matrice de π (x) dans la base (e1 , e2 , ..., en ) , est
triangulaire supérieure ; ainsi (ii) entraîne (iii).
(iii)=⇒(i) : Si la condition (iii) est vérifiée, π (L) est isomorphe à l’algèbre de Lie
Tn (K) qui est résoluble d’après l’Exemple II.1.10 ; donc π (L) est résoluble.
Corollaire II-2-2-12 Soit L une algèbre de Lie sur un corps K algébriquement

clos. Les conditions suivantes sont équivalentes :
(i) L est résoluble.
(ii) Il existe dans L un drapeau
{0} ⊂ L1 ⊂ ... ⊂ Ln = L
où chaque Lk est un idéal de L.
Démonstration Supposons que L soit une algèbre de Lie résoluble. Alors, comme
x 7−→ adx est un homomorphisme de L dans g` (L) , ad (L) est une algèbre de Lie
résoluble. D’après le Théorème II.3.11 (ii), il existe dans L, un drapeau {0} ⊂ L1 ⊂
... ⊂ Ln = Lstable par adx pour x ∈ L ; donc chaque Lk est un idéal de L.
Réciproquement si la condition (ii) est vérifiée, ad (L) est une algèbre de Lie
résoluble (Théorème II.3.11). ker (ad) est un idéal résoluble de L car c’est le centre
de L.Comme ad (L) ≈ L ker (ad)est résoluble, le Théorème II.2.4 montre que L
est résoluble.
123
§ II-2-3. Formes bilinéaires invariantes

Soit L une algèbre de Lie sur un corps K et soit π : L −→ g` (V ) une représentation
linéaire de L dans un espace vectoriel V de dimension finie sur K.
L’application β : L × L −→ K donnée par
β (x, y) = T r (π (x) ◦ π (y)) (II-4-1)
pour x, y ∈ L, s’appelle la forme bilinéaire associée à π.

On dit qu’une forme bilinéaire β : L × L −→ K est invariante si
β ([x, y]) , z = β (x, [y, z]) (II-4-2)
quels que soient x, y, z ∈ L.
Théorème II-2-3-1 Soient L une algèbre de Lie sur K et π une représentation de

L dans un espace vectoriel V de dimension finie. La forme bilinéaire β associée à π
est symétrique et invarante.
Démonstration Il est clair que β est une forme bilinéaire symétrique.

On a
β ([x, y] , z) = T r (π (x) π (y) π (z) − π (y) π (x) π (z))

= T r (π (x) π (y) π (z) − π (x) π (z) π (y))
= T r (π (x) ◦ [π (y) , π (z)]) = β (x, [y, z])
Définition II-2-3-2 On appelle de Killing d’une K -algèbre de Lie L la forme

bilinéaire symétrique invariante β : L×L −→ K assoicée à la représentation adjointe
de L :
β (x, y) = T r (adx ◦ ady) . (II-4-3)
Soit f est une forme bilinéaire sur un espace vectoriel V ; rappelons que deux élé-
ments x et y de V sont dits orthogonaux par rapport à f si f (x, y) = 0; on appelle
orthogonal d’un sous-espace W de V , le sous-espace W ⊥ ={x ∈ V : f (x, y) = 0 pour tout y ∈ W.}
On dit que f est non dégénérée si son noyau V ⊥ est nul : V ⊥ = {0}.
Théorème II-2-3-3 Soient L une algèbre de Lie sur K, f une forme bilinéaire
symétrique invariante sur L et soit I un idéal de L.
Alors :
a) L’orthogonal I ⊥ de I (par rapport à f ) est un idéal de L.
b) Si f est non dégénérée, I ∩ I ⊥ est un idéal abélien de L.
124
Démonstration a) : On doit démontrer que quels que soient
x ∈ L, y ∈ I et z ∈ I ⊥ , [z, x] ∈ I ⊥ , i.e. . f ([z, x] , y) = 0.
Or, I étant un idéal, [x, y] ∈ I, donc puisque f est invariante
f ([z, x] , y) = f (z, [x, y]) = 0.
b) : Supposons que f soit non dégénérée ; il suffit de montrer que quels que
soient x, y ∈ I ∩ I ⊥ et z ∈ L, f ([x, y] , z) = 0.
Or f ([x, y] , z) = f (x, [y, z]) = 0.car d’une part x ∈ I, [y, z] ∈ I ∩ I ⊥ ⊂ I ⊥ et
d’autre par I et I ⊥ sont orthogonaux.
Lemme II-2-3-4 ; Soit L une algèbre de Lie et soit I un idéal de L. La restriction

de la forme de Killing de L à I est la forme de Killing de I.
Démonstration Soit e une base de I ; complètons-la de façon à obtenir une base

e0 de L. Pourtout x ∈ I, la matrice de adx par rapport à la base e0 est de la
A ∗
forme où A est la matrice de la restriction de adx à I. Soit y ∈ I. Si B
0 0
désigne la matrice de la restriction
de ady
à I, la matrice de adx ◦ ady par rapport
AB ∗
à la base e0 est de la forme Le lemme en résulte immédiatement.
0 0
Théorème : II-2-3-5 La forme de Killing d’une algèbre de Lie nilpotente est

nulle.
Démonstration Soit L une algèbre de Lie nilpotence et soit β (x, y) = T r (adx ◦ ady)
sa forme de Killing. D’après le Théorème II.2.11 (iv), adx ◦ ady est un opérateur
nilpotent. Comme un tel opérateur peut toujours être représenté par une matrice
triangulaire supérieure stricte, on voit que β (x, y) = 0 quels que soient x, y ∈ L.
125
§ II-2-4. Critère de Cartan pour les algèbres
de Lie résolubles. Avant d’aborder le critère de Cartan

relatif à la résolubilité d’une algèbre de Lie, nous allons rappeler quelques notions
importantes sur les endomorphismes d’un espace vectoriel de dimension finie.
Défintion II-2-4-1 Soient V un espace vectoriel (de dimension finie) sur K

et u ∈ L (V ) .On dit que u est diagonalisable, s’il existe une base de V formée de
vecteurs propres de u.On dit que u est semi-simple si pour tout sous-espace vectoriel
E de V stable par u, il existe un sous-espace vectoriel F supplémentaire de E dans
V stable par u.
Si K est algébriquement clos, u est semi-simple si et seulement si u est diago-
nalisable.Le théorème suivant est fort utile dans l’étude des endomorphismes d’un
espace vectoriel.
Théorème : II-2-4-2 Soit V un espace vectoriel de dimension finie sur un corps

K algébriquement clos, de caractéristique zéro et soit u ∈ L (V ) .
Alors, il existe, un couple unique (s, n), d’endomorphismes de V satisfaisant aux
conditions suivantes :
(i) Les endomorphismes s et n sont permutables et
u = s + n.
(ii) L’endomorphisme s est semi-simple et l’endomorphisme n est nilpotent.

(iii) Il existe des polynômes
P (X) et Q (X) dans K [X]
sans termes constants, tels que
s = P (u) et n = Q (u) .
En particulier s et n commutent à tout endomorphisme qui commute à u.
Démonstration Existence de s et n.Soit Pu (X) = (λ1 − X)α 1... (λr − X)α r le

polynôme caractéristique de u, où λ1 , ..., λr sont les valeurs propres distinctes de u et
α1 , ..., αr leurs ordres de multiplicité.Posons Vj = Ker ((u − λj I)α j) , 1 ≤ j ≤ roù
Lr
I est l’identité de L (V ).Alors u (Vj ) ⊂ Vj , dim (Vj ) = αj et V = Vj (cf. [3],
j=1
§35, Théorème 2).
Si uj désigne la restriction de u au sous-espace Vj , le polynôme caractéristique
de uj est (λj − X) αj .
126
En effet, si λ 6= λj , λ − X et (λj − X) αj sont premiers entre eux ; d’après

l’identité de Bezout, il existe deux polynômes U1 (X ) et U2 (X) dans K [X] tels
que (λ − X) U1 (X) + U2 (X) (λj − X)α j = 1.Si v ∈ Vj , on a
(λI − u) ◦ U1 (u) (v) + U2 (u) ◦ (λj I − u)α j (v) = v = (λI − u) ◦ U1 (u) (v) .
Donc (λI − u) est inversible dans Vj et par suite la seule valeur propre de uj est λj .Il
existe donc une base de Vj par rapport à laquelle la matrice de uj est triangulaire
supérieure :  
λj ∗
 .. 
 . 
Aj =  . 
 0 .. 
λj
Posons  
λj
 ... 
 0 
Sj =  .. 
 0 . 
λj
et  
0 ∗
 .. 
 . 
Nj = Aj − Sj =  ... 
 0 
0
Alors
Aj = Sj + Nj ,
où Sj est semi-simple, Nj est nilpotente et [Sj , Nj ] = 0.
Lr
Comme V = Vj , on obtient une base de V en réunissant des bases de V1 , ..., Vr ;
j=1
par rapport
 à cette base, la matrice
 de u est de la forme
A1
 .. 
 . 0 
A= ... où Aj est la matrice de la restriction de u à Vj .
 0 
Ar
   
S1 N1
 ..   .. 
 . 0   . 0 
En posant S =  ...  et N =  ...  il vient
 0   0 
Sr Nr
A = S+N,où S est une matrice semi-simple, N est une matrice nilpotente et [S, N ] =
127
0Si s et n sont les endomorphisme dont les matrices sont S et N respectivement,

s est semi-simple, n est nilpotent, [s, ] n = 0 et on a u = s + n, ce qui démontre
(i) et (ii).Posons fi (X) = (λPi −X)
u (X)
α .Comme les λi sont deux à deux distincts, les
i
plynômes fi (X) , 1 ≤ i ≤ r,sont premiers entre eux dans leur ensemble ; d’après
P
r
l’identité de Bezout, il existe des plynômes gi ∈ K [X] tels que fj (X) gj (X) =
j=1
P
r
1.D’où fj (u) ◦ gj (u) (v) = v pour tout v ∈ V .Si, en particulier v ∈ Vi , il vient
j=1
P
r
fj (u) ◦ gj (u) (v) = v = fi (u) ◦ gi (u) (v) .En effet, si i 6= j, le polynôme fj (X)
j=1
contient le facteur (λi − X)α i, donc fj (u) (v) = 0 et par suite fj (u) ◦ gj (u) (v) =
gj (u) ◦ fj (u) (v) = gj (u) (0) = 0.Posons
r
X
P (X) = λj fj (X) gj (X)
j=1
Q (X) = X −P (X) .Alors pour tout v ∈ Vi , on a P (u) (v) = λi vpour 1 ≤ i ≤ r,donc

Lr
P (u) = ssur chaque sous-espace Vi . Comme V = Vi ,il s’ensuit que P (u) = s.On
i=1
a d’autre part, Q (u) = u − P (u) = u − s = n.Montrons que P (donc Q) n’a pas de
terme constant.
Si u est inversible, son polynôme caractéristique Pu possède un terme constant
non nul et le Théorème de Hamilton-Cayley montre que I est un polynôme en u
sans terme constant. Donc si I apparaît dans P (u) = s, en substituant ce polynôme
à I, on voit que l’on peut choisir P (0) = 0, d’où Q (0) = 0.Si u n’est pas inversible,
Ker (u) 6= {0}et est stable par n ; donc la restriction de n à Ker (u) est nilpotente.
On en conclut qu’il existe un vecteur non nul x ∈ Ker (u) tel que u (x) = n (x) =
0.La relation n = Q (u)montre alors que Q (0) = 0, d’où P (0) = 0.Comme s et n
sont de splynômes en u, s et n commutent à tout endomorphisme qui commute à u.
Il reste à prouver l’unicité de la décomposition.Supposons qu’il existe deux
couples (s, n) et (s0 , n0 ) d’endomorphismes de V satisfaisant aux conditions (i),
(ii) et (iii). On a donc s − s0 = n0 − n.Comme s0 et n0 commutent à u, ils commutent
à s = P (u) et à n = Q (u) .
Ainsi les endomorphismes s et s0 sont semi-simples et ils commutent ; donc s − s0 est
semi-simple. Cela résulte du fait que si deux endomorphismes diagonalisables (donc
semi-simples) sont permutables, il sont simultanément diagonalisables (c’est-à-dire,
il existe une base formée de vecteurs propres communs).
De même les endomorphismes n et n0 sont nilpotents et ils commutent ; donc
n0 − n est nilpotent comme on le voit facilement à l’aide de la formule du binôme
de Newton.Ainsi s − s0 − n0 − n = 0 puisqu’un endomorphisme à la fois semi-simple
et nilpotent est nul.
128
Définition II-2-4-3 La décompositon
u=s+n (II-5-1)
s’appelle la décomposition de Jordan de u. Les endomorphismes s et n s’appellent

respectivement la composante semi-simple et la composante nilpotente de u.
Corollaire II.5.4 Soit V un espace vectoriel de dimension finie n sur un corps K

algébriquement clos de caractéristique zéro et soit u ∈ L (V ) .
Si u = v+w est la décomposition de Jordan de u, où v est semi-simple et w nilpotent,
alors
adu = adv + adw
est la décomposition de Jordan de adu.
Démonstration Comme [v, w] = 0, on a
ad [v, w] = [adv, adw] = 0;
donc les endomorphismes adv et adw commutent. D’après le Lemme II.3.1, adw
est nilpotent. Montrons que adv est semi-simple.
Soit (e1 , ..., en ) une base de V formée de vecteurs propres de v et considérons
la base canonique (Eij )1≤i,j≤n . de L (V ) définie par les égalités Soit λi la valeur
propre de v associée au vecteur propre ei . Nous avons
(adv) Eij = vEij − Eij v,
(vEij − Eij v) ek = 0 si k 6= j,
(vEij − Eij v) ej − v (ei ) − λj ei = (λi − λj ) ei .Donc
(adv) Eij = (λi − λj ) Eij ,
ce qui montre que les Eij sont les vecteurs propres de adv associés aux valeurs
propres λi − λj . Ainsi adv est diagonalisable, i e. semi-simple.Voici maintenant le
dernier pas avant d’arriver au Théorème de Cartan.
Lemme II-2-4-5 : Soit V un espace vectoriel de dimension finie m sur un corps

K algébriquement clos de caractéristique zéro.
Soient A et B deux sous-espaces vectoriels de g` (V ) tels que B ⊂ A. Posons
M = {u ∈ g` (V ) : [u, A] ⊂ B} .
Si l’élément u de M est tel que T r (uv) = 0 pour tout v ∈ M, u est nilpotent.
129
Démonstration Soit u = s + n la décomposition de Jordan de u, où s est semi-

simple et n nilpotent. Soit (ei , ..., em ) une base de V telle que
s (ei ) = λi ei avec λi ∈ K.
K étant de caractéristique zéro, son corps premier est isomorphe au corps Q des
nombres rationnels et K peut être considéré comme espace vectoriel sur Q. Soit
E ⊂ K l’espace vectoriel sur Q engendré par les λi .
Pour montrer que u est nilpotent, il suffit de montrer que s = 0, donc que
E = {0} ou encore que le dual E ∗ = {0}.
Pour cela, considérons une forme Q-linéaire f sur E et soit v l’endomorphisme
semi-simple de V défini par
v (ei ) = f (λi ) ei , 1 ≤ i ≤ m. (II-5-3)
Si (Eij )1≤j≤m est la base canonique de g` (V ) associée à la base (ei , ..., em ), on a (cf.
démonstration du Corollaire II.5.4),
(ads)k Eij = (λi − λj )k Eij , k = 0, 1, ....
(adv) Eij = (f (λi ) − f (λj )) Eij .Il existe un polynôme P (X) ∈ K [X] sans terme
constant tel que P (λi − λj ) = f (λi ) − f (λj )quels que soient i et j car si λi − λj =
λk − λr on a f (λi ) − f (λj ) = f (λk ) − f λr et si λi − λj = 0, f (λi ) − f (λj ) =
0.Utilisant l’expression de (ads) Eij , nous voyons que (adv) Eij = f (λi − λj ) Eij =
P (λi − λj ) Eij = P (ads) Eij ;d’où
adv = P (ads) .
Comme ads est un polynôme en adu sans terme constant (Corollaire II.5.4, adv
est un polynôme en adu. Donc, puisque (adu) (A) ⊂ B,on aaussi (adv) (A) ⊂
B,c’est-à-dire v ∈ M .D’après l’hypothèse, on a 0 = T r (uv) = T r (sv + nv) =
Pm
T r (sv) = λi f (λi )puisque nv est nilpotent, donc de trace nulle.On en déduit
m i=1
P P
m
0 = f λi f (λi ) = f (λi )2 ,ce qui entraîne f (λi ) = 0 pour tout i,donc
i=1 i=1
f = 0 ∈ E ∗ Comme f est arbitraire, on a bien E ∗ = {0} et le lemme est démontré.
Théorème II-2-4-6 (Critère de Cartan) Soient V un espace vectoriel de di-

mension finie sur un corps K algébriquement clos de caractéristique zéro, et L une
sous-algèbre de Lie de g` (V ). Alors L est résoluble si et seulement si T r (uv) = 0
quels que soient u ∈ L et v ∈ D1 L.
130
Démonstration Supposons d’abord que L soit résoluble. D’après le Corollaire

II.3.9, il existe une base de V par rapport à laquelle la matrice de chaque élément
de L est triangulaire Supérieure. Donc tout élément y de D1 L admet une matrice
strictement triangulaire supérieure dans la base considérée. Alors pour tout u ∈ L
et pour tout v ∈ D1 L, la matrice de uv est triangulaire supérieure stricte ; d’où
T r (uv) = 0.Réciproquement, supposons que T r (uv) = 0 quels que soient u ∈ L
et v ∈ D1 L.Appliquons le Lemme II.5.5 en prenant A = L et B = D1 L.Alors
M = {u ∈ g` (V ) : [u, L] ⊂ D1 L} .Si u ∈ M et si x et y sont dans L, on a [u, x] ∈
D1 Ldonc, d’après l’hypothèse, T r (u ◦ [x, y]) = T r ([u, x] ◦ y) = 0.Par linéarité, on
conclut que T r (uv) = 0pour tout u ∈ M et pour tout v ∈ D1 L. Comme on le voit
facilement, D1 L ⊂ M ; donc (Lemme II.5.5) tout élément de D1 L est nilpotent. Il
s’ensuit que D1 L est une algèbre de Lie nilpotente (Corollaire II.3.3), et d’après le
Corollaire II.3.10, L est résoluble.
Remarque II-2-4-7 Le Théorème II.5.6 reste vrai si le corps K n’est pas algé-
briquement clos.
En effet,L si K n’est pas algébriquement
L clos, soit K̄ sa clôture algébrique. Soient
V = K̄ K V
0
et L = K̄ K Lles amplifications de V et L par extension de
0
K à K̄.On déduit de T r (uv) = 0pour tout u ∈ L et pour tout v ∈ D1 L, que

T r (u0 v 0 ) = 0 quels que soient u0 ∈ L0 et v 0 ∈ D1 L, donc L0 est résoluble et par
suite L est résoluble.
Corollaire II-2-4-8 Soit L une algèbre de Lie sur un corps K algébriquement clos
de caractéristque zéro et soit π une représentation linéaire de L dans le K -espace
vectoriel V . Alors l’algèbre de Lie π (L) est résoluble si et seulement si L et D1 L
sont orthogonaux pour la forme bilinéaire β associée à π.
Démonstration En effet, π (L) est résoluble si et seulement si T r (u ◦ v) = 0quels

que soient u ∈ π (L) et v ∈ D1 π (L) ,donc si et seulement si L et D1 L sont
orthogonaux pour la forme bilinéaire β comme le montre la relation
β (x, [y, z]) = T r (π (x) ◦ π ([y, z])) = T r (π (x) ◦ [π (y) , π (z)]) .
Corollaire II-2-4-9 Soit L une algèbre de Lie sur un corps K algébriquement

clos de caractéristique zéro. Alors L est résoluble si et seulement si L et D1 L sont
orhogonaux pour la forme de Killing sur L.
Démonstration C’est une conséquence immédiate du Corollaire II.5.8. Il suffit

de prendre pour la représentation adjointe de L et de remarquer que π (L) = ad (L)
est isomorphe à LZ, où Z, le centre de L, est résoluble car c’est une algèbre de
Lie commutative. Donc ad (L) est résoluble si et seulement si L est résoluble.
131
Corollaire II-2-4-10 Soit L une albèbre de Lie sur un corps K algébriquement

clos,
de caractéristique zéro. Alors, L est résoluble si et seulement si la forme de Killing
est nulle sur D1 L.
Démonstration Soit β la forme de Killing de L. Si L est résoluble, on a β (L, D1 L) =

0 (CorollaireII.5.9),d’où β (D1 L, D1 L) = 0.Réciproquement, si β (D1 L, D1 L) =
0,on a β (D1 L, D2 L) = 0,donc ad (D1 L) est résoluble (Corollaire II.5.8).Comme
ad (D1 L) = D1 ad (L) , ad (L) est résoluble et par suite L est résoluble (Théorème
II.2.4 a) ).
132
§ II-3 ALGEBRES DE LIE SEMI-SIMPLES
Dans ce chapitre, nous allons étudier les algèbres de Lie semi-simples sur un
corps commutatif K de caractéristique nulle. Cette classe d’algèbres de Lie joue un
rôle essentiel dans l’étude de la structure et de la classification des algèbres de Lie.
II-3-1. Propriétés élémentaires des algèbres de Lie

semi-simples. Rappelons qu’une algèbre de Lie L sur K est dite semi-simple
si son radical est nul. Une algèbre de Lie L est dite simple si [L, L] 6= {0} et si les
seuls idéaux de L sont {0} et L.
Théorème II-3-1-1 Soit L une algèbre de Lie sur K. Les conditions suivantes
sont équivalentes :
(i) L est semi-simple ;
(ii) Tout idéal abélien de L est nul.
Démonstration (i) =⇒ (ii) : Comme tout idéal abélien est résoluble, la

conditon (i) entraîne (ii).
(ii)=⇒ (i) : Supposons que tout idéal abélien de L soit nul et que le radical R
de L soit non nul. Comme R est résoluble, il existe un entier n tel que R ⊃ D1 R ⊃
... ⊃ Dn R = {0} avec Dn−1 R 6= {0} ..Alors Dn−1 R est un idéal abélien non nul de
L, ce qui est absurde donc R = {0} et (ii) =⇒ (i).
On déduit immédiatement de ce théorème les propirétes suivantes :
a) Le centre d’une algèbre de Lie semi-simple L est nul, donc la représentation
adjointe de L est fidèle.
b) Une algèbre de Lie résoluble non nulle ne peut être semi-simple.
Exemple II-3-1-2 Une algèbre de Lie simple est semi-simple.

Soit en effet ; l une algèbre de Lie simple.
Si L n’est pas semi-simple, elle contient un idéal abélien non nul I qui coïncide
avec L puisque L est simple. Donc L est abélienne et par suite tout sous-espace
vectoriel de L est un idéal, contrairement à l’hypothèse.
Théorème II-3-1-3 Soient L une algèbre de Lie semi-simple, A et B deux idéaux

de L. Les conditions suivantes sont équivalentes :
(i) A ∩ B = {0} ;
133
(ii) [A, B] = {0} ;

(iii) A et B sont orthogonaux pour la forme de Killing β de L.
Démonstration (i) =⇒ (ii) : On a [A, B] ⊂ A ∩ B;donc (i) entraîne (ii).

(ii) =⇒ (iii) : Supposons la condition (ii) vérifiée.Si x ∈ A, y ∈ B, z ∈ L,alors
[y, z] ∈ B et [x, [y, z]] ∈ [A, B] = {0} ;donc adx ◦ adz = 0et par suite β (x, y) =
0,d’où la condition (iii).
(iii) =⇒ (i) ; : Si la condition (iii) est vérifiée, la forme de Killing est identiquement
nulle sur l’idéal A ∩ B qui est donc résoluble d’après le Théorème II.4.3. Comme L
est semi-simple, on a A ∩ B = {0} ce qui prouve la condition (i).
Théorème II-3-1-4 Pour qu’une algèbre de Lie L soit semi-simple, il faut et il

suffit
que sa forme de Killing soit non dégénérée.
Démonstration Notons R le radical de L et β la forme de Killing de L.Supposons

R 6= {0} et β non dégénérée. Nous allons montrer qu’il existe un idéal abélien non nul
contenu dans le noyau de β. Comme ce noyau est nul puisque β est non dégnénérée,
cela conduit à une contradiction.
Donc si β est non dégénérée, R = {0} et L est semi-simple.Comme R est
résoluble, il existe un entier n ≥ 0 tel que Dn R = {0} et Dn−1 R 6= {0} .Alors
I = Dn−1 R est un idéal abélien non nul de L.
Montrons que I est contenu dans le noyau de β. Soient a, x ∈ L et y ∈ I, y 6= 0;
alors [y, a] ∈ I, [x, [y, a]] ∈ I, [ y, [x, [y, a]]] = 0car I est abélien. On en déduit.
ady ◦ adx ◦ ady = 0;d’où (adx ◦ ady)2 = 0.Autrement dit, adx ◦ ady est nilpotent,
donc T r (adx ◦ ady) = 0,i.e. β (x, y) = 0quels que soient x ∈ L, y ∈ I.
Comme x est un élément arbitraire de L, y est bien dans le noyau de β, donc
I est contenu dans ce noyau.
Réciproquement, supposons L semi-simple. Le noyau N de β est un idéal de
L (Théorème II.4.3. a) et on a par définition de N T r (adx ◦ ady) = β (x, y) =
0quels que soient x ∈ N et y ∈ D1 N.
Donc, d’après le Corollaire (II.5.8), adN est résoluble ; la représentation adjointe
étant fidèle, l’idéal N est résoluble et par suite N ⊂ Rad L = {0}ce qui montre que
β est non dégénérée.
Corollaire II-3-1-5 {Soit L une algèbre de Lie semi-simple sur un corps K de

caractéristique nulle et soit π une représentation fidèle de L dans un K-espace
vectoriel V de dimension finie.
Alors la forme bilinéaire associée à π : (x, y) 7−→ T r (π (x) ◦ π (y))est non dégé-
née.
134
Démonstration Le noyau N de de la forme bilinéaire β associée à π est un

idéal de L et la démonstration du théorème précédent montre que π (N ) est une
sous-algèbre résoluble de g` (V ). Alors, π éétant fidèle, N est résoluble et par suite
N = {0}, i.e. β est non dégénérée.
Théorème II-3-1-6 Soit L une algèbre de Lie semi-simple. Soient I un idéal d

L et I ⊥ l’orthogonal de I par rapport à la forme de Killing β de l.Alors :
(i) L est somme directe de I et I ⊥ ;
(ii) Les algèbres de Lie I et LI sont semi-simples.
Démonstration (i) : β étant non dégénérée, I ∩ I ⊥ est un idéal abélien de L

(Théorème II.4.3 a) donc I ∩ I ⊥ = {0}comme dim (L) = dim (I) + dim I ⊥ ,on a
M
L=I I ⊥.
(ii) : D’après le Lemme II.4.4, la restriction de β à l’idéal I est la forme

de Killing de I. β est non dégénérée sur I car si un vecteur x de I est telLque
β (x, y) = 0 sur tout y ∈ I,alors β (x, z) = 0 pour tout z ∈ L puisque L = I I⊥
et I et I ⊥ sont orthogonaux. Comme L est semi-simple, β est non dégénérée, donc
x = 0. Par suite la forme de Killing de I étant non dégénérée, l’algèbre de Lie I est
semi-simple. On démontrerait de même que I ⊥ est semi-simple. Puisque LI est
isomorphe à I ⊥ , on voit que LI est semi-simple.
Théorème II-3-1-7 Soit L une algèbre de Lie semi-simple. Alors D1 L = L.
Démonstration Nous savons (Théorème III.1.6. (ii)) que l’algèbre de Lie LD1 L
est semi-simple ; comme elle est abélienne, donc résoluble, on a nécessairement
LD1 L = {0} ,c’est-à-dire L = D1 LNotons que la réciproque de ce théorème est
fausse .
Théorème II-3-1-8 Soit L une algèbre de Lie sur K.Les conditins suivantes sont
équivalentes :
(i) L est semi-simple ;
(ii) M M M
L = L1 L2 ... Lm
où les Li sont des idéaux de L qui sont des algèbres de Lie simple. De plus, cette
décomposition d’une algèbre de Lie semi-simple est unique.
135
Démonstration (i) =⇒ (ii) : Supposons L semi-simple et démontrons (ii) par

récurrence sur la dimension de L. Si L est simple, le théorème est évident.
Si L n’est pas simple, soitLL1⊥un idéal minimal non nul de L. D’après le Théo-
rème
⊥ III.1.6.,
on a L = L 1 L 1 avec L1 et L⊥
1 semi-simples. Comme L 1 , L⊥
1 =
L1 , L1 = {0} ,tout idéal de L1 est un idéal de L, donc L1 est simple car un
idéal minimal d’une algèbre de Lie semi-simple n’est pas commutatif. L LPar récur-
rence sur la dimension, nous avons une décomposition L⊥ 1 = L2 ... Lm ,où les
Li , 2 ≤ i ≤ m, sont
L L L des idéaux de L ⊥
1 (donc de L) qui sont des algèbres
L simples.
L Donc
on a L = L1 L2 ... Lm .(ii) =⇒ (i) : Supposons que L = L1 ... Lm ,où les
Li sont des idéaux simples. Comme [Li , Lj ] ⊂ Li ∩ Lj = {0} ,le Théorème III.1.3
montre que les idéaux Li sont deux à deux orthogonaux par rapport à la forme de
Killing qui est non dégénérée sur chacun d’eux. Donc la forme de Killing de L est
non dégénérée et par suite, L est semi-simple.Pour montrer que la décomposition
M M
L = L1 ... Lm .
D’une algèbre de Lie semi-simple L est unique, il suffit de démontrer que si I est un
idéal simple de L, alors I coïncide avec l’un des Li .
Soit donc I un idéal simple de L. Alors [I, L] est un idéal non nul de I puisque
L L
Z (L) = {0} .Donc [I, L] = I puisque I est simple. Mais comme [I, L] = [I, L1 ] ... [I, Lm ] ,
on a nécessairement [I, Lk ] = I pour un k ∈ [1, m]. Alors la relation I = [I, Lk ] ⊂
I ∩ Lk montre que I ⊂ Lk , donc I = Lk car Lk est simple. Les idéaux simples d’une
algèbre de Lie semi-simple L s’appellent les composantes simples de L.
Corollaire II-3-1-9 Soit L une algèbre de Lie semi-simple sur K. Alors L est
somme directe de ses idéaux simples Li et tout idéal de L est somme directe de
certains des Li .
Démonstration On a M M
L = L1 ... Lm ,
où les Li sont des idéaux simples de L. Soit I un idéal de L. Notons J l’ensemble des
indices j tels que I ∩ Lj 6= {0}et K l’ensemble des indices k tels que I ∩ Lk = {0} .Si
j ∈ J, I ∩ Lj est un idéal non nul de Lj , donc I ∩ Lj = Lj puisque Lj est simple.
L P
M
Alors Lj ⊂ I.Si a ∈ I, on peut écrire a = ai , avec ai ∈ Li .Si k ∈ K on a,
j∈J I+1
pour tout y ∈ Lk , [ak , y] = [a, y] ∈ I ∩ Lk = {0} ,ce qui montre que ak est dans le
centre de Lk ; donc ak = 0 car Lk est simple. Ainsi les composantes ak , k ∈ K,sont
nulles. On a donc M
I= Lj .
j∈J
136
Théorème II-3-1-10 Soient L, L0 deux algèbres de Lie sur K, R et R0 leurs radi-

caux, et f un homomorphisme de L sur L0 . Alors :
(i) R0 = f (R) ;
(ii) Si L est semi-simple, L0 est semi-simple.
Démonstration (i) : Nous savons (Corollaire II.2.3) que f (R) est un idéal réso-
luble de L0 , donc f (R) ⊂ R0 .
Il reste à montrer que R0 ⊂ f (R) .
Pour cela, il suffit, d’après le Théorème II.2.8 de montrer que L0 f (R) est semi-
simple.
Soit I le noyau de f . Pour tout x ∈ L, l’application σ définie par
σ (ẋ) = f (x)+f (R) est un isomorphisme de l’algèbre de Lie L (R + I) sur l’al-
gèbre de Lie L0 f (R) .D’après le Théorème II.2.7, l’algèbre LR est semi-simple.
Donc L (R + I) ,qui est isomorphe à l’algèbre quotient (LR) ((R + I) R) ,est
semi-simple. Par suite, L0 f (R)est semi-simple et on a bien R0 ⊂ f (R) .(ii) résulte
aussitôt de (i).
Théorème II-3-1-11 Si L est une algèbre de Lie semi-simple, toute dérivation de

L est une dérivation intérieure.
Démonstration Si d est une dérivation de L, l’application x 7−→ T r (d ◦ adx)est

une forme linéaire sur L. Comme la forme de Killing β est non dégénérée sur L,
il existe a ∈ L tel que β (a, x) = T r (d ◦ adx)pour tout x ∈ L. Posons E = d −
ada.Alors E ∈ Der (L)et on a pour tout x ∈ L
T r (E ◦ adx) = T r (d ◦ adx) − T r (ada ◦ adx)
= T r (d ◦ adx) − β (a, x) = 0.Si y ∈ L, nous pouvons écrire :
β (E (x) , y) = T r (adE (x) ◦ ady) = T r ([E, adx] ◦ ady) = T r (E ◦ adx ◦ ady)−T r (adx ◦ E ◦ ady)
= T r (E ◦ adx ◦ ady)−T r (E ◦ ady ◦ adx) = T r (E ◦ [adx, ady]) = T r (E ◦ ad [x, y]) = 0
où l’on a utilisé l’égalité ad E (x) = [E, adx](voir I.3.2) et la relation T r (E ◦ adx) =

0pour tout x ∈ L.
Comme β est non dégénérée, ceci entraîne E = 0, donc d = ada est une dérivation
intérieure.
137
Exemple II-3-1-12 Soit L = s` (2, K)l’algèbre de Lie formée des matrices carrées
d’ordre deux de trace nulle. Les matrices (écrites dans cet ordre)

0 1 0 0 1 0
x= , y= , h=
0 0 1 0 0 −1
forment une base de L avec le crochet définie par [h, x] = 2x, [h, y] = −2y, [x, y] = h.
Les matrices de adx, ady et adh sont respectivement
     
0 0 −2 0 0 0 2 0 0
 0 0 0  ,  0 0 2  , et  0 −2 0  .
0 1 0 −1 0 0 0 0 0
Un calcul
 élémentaire montre que la matrice de la forme de Killing β de L est
0 4 0
M =  4 0 0  .Comme dét (M ) = −128, β est non dégénérée, donc L est
0 0 8
semi-simple.Montrons que L est simple. Soit I un idéal non nul de L et soit z =
a1 x + a2 y + a3 hun élément non nul de I. Supposons, par exemple que a1 6= 0.
Comme (ady)2 (z) = −2a1 , y,on a y ∈ I. Alors [x, y] = h ∈ Iet x = 12 [h, x] ∈ I, i.e
. I = L.Si on suppose que a2 6= 0, comme (adx)2 (z) = −2a2 x,on verrait de même
que I = L.Enfin si a1 = a2 = 0, comme l’élément non nul a3 h ∈ I, on a h ∈ I ;
alors x = 21 [h, x] ∈ I et y = − 12 [h, y] ∈ I,d’où I = L. L est bien une algèbre de
Lie simple.
138
II-3-2. Réductibilité complète des représentations

Dans ce paragraphe, nous allons étudier la réductibilité complète des représentations
des algèbres de Lie semi-simples et nous démontrerons, en particulier, le célèbre théo-
rème de H. Weyl qui énonce qu’une algèbre de Lie L est semi-simple si et seulement
si tout L-module est complètement réductible.
Lemme II-3-2-1 Soient L une K-algèbre de Lie semi-simple et π une représen-

tation linéaire fidèle non nulle de L dans un espace vectoriel V de dimension finie.
Soit β La forme bilinéaire symétrique associée à π :
β (x, y) = T r (π (x) ◦ π (y)) , x, y ∈ L.
Soient (e1 , ..., en ) une base de L, et (f1 , ..., fn ) la base duale relativement à β, c’est-
à-dire telle que β (ei , fj ) = δ ij . Alors
Pn
(i) L’opérateur C = π (ei ) ◦ (fi ) commute à tous les π (x) , x ∈ L, et
i=1
on a T r (C) = n = dim (L) .(ii) Si π est irréductible, l’opérateur C {est un
automorphisme de V .
Démonstration (i) : La forme bilinéaire β est non dégénérée Corollaire III.1.5.

Si (e1 , ..., en ) est une base de L, il existe donc une base duale unique (f1 , ..., fn ) telle
que β (ei , fj ) = δ ij ,où δ ij est le symbole de Kronecker.
Posons, pour tout x ∈ L,
P n Pn
[x, ei ] = aji ej et [x, fi ] = bji fj et montrons que aji = −bij .On a β ([x, ei ] , fj ) =
j=1 j=1
n
P Pn
β aki eK , fj = aki β (ek , fj ) = aji .Or, la forme bilinéaire β étant invariante,
k=1 k=1
On a donc bien aji = −bij .
En utilisant cette égalité et l’identité [u, v w] = [u, v] w +v [u, w]dans L (V ) , nous
avons, pour tout x ∈ L,
" n
# n n
X X X
[π (x) , C] = π (x) , π (ei ) ◦ π (fi ) = [π (x) , π (ei )] π (fi ) + π (ei ) [π (x) , π (fi )]
i=1 i=1 i=1
n
X n
X
= π ([x, ei ]) π (fi ) + π (ei ) π ([x, fi ])
i=1 i=1
Xn Xn
= aji π (ej ) π (fi ) + bji π (ei ) π (fj ) = 0
i,j=1 i,j=1
Donc l’endomorphisme C commute à tous les π (x) quel que soit x ∈ L. D’autre
139
part, on a
n
X n
X
T r (C) = T r (π (ei ) ◦ π (fi )) = β (ei , fi ) = n = dim (L) .
i=1 i=1
(ii) : Comme l’endomorphisme C commute à tous les π (x), son noyau Ker (C)
est invariant par tous les π (x) , x ∈ L.
En vertu de l’irréductibilité de, π on a Ker (C) = {0} ou Ker (C) = V.Si Ker (C) =
V,alors C = 0, donc 0 = T r (C) = nce qui est absurde puisque π est non nulle. Par
suite Ker (C) = {0}et C est un automorphisme de V .
Définition II-3-2-2 L’opérateur C du Lemme III.2.1 s’appelle l’opérateur de

Casimir de la représentation π .
Remarque III-3-2-3 Si π n’est pas une représentation fidèle, le noyau N de π est

un idéal de L. Si N est l’idéal supplémentaire de N dans L (Théorème III.1.8) la
restriction de π à N 0 est une représentation fidèle de N encore notée π et la forme
bilinéaire symétique β (x, y) = T r (π (x) ◦ π (y)) , x, y ∈ N 0 est non dégénérée. En
prenant deux bases duales (ei , ..., em ) et (f1 , ..., fm ) de N 0 , on construirait comme
précédemment l’opérateur de Casimir de π. Il commute à tous les π (x) , x ∈ L.
Remarque II-3-2-4 Soient L une algèbre de Lie sur K,I un idéal de L et soit π
une représentation linéaire de L dans un K-espace vectoriel V de dimension finie.
Si on suppose que la restristion à I × I de la forme bilinéaire-associée à π est non
dégénérée, si (ei , ..., em ) et (f1 , ..., fm ) sont deux bases duales de I, l’opérateur
de Casimir de la représentation π (associé à I) est donné par
n
X
C= π (ei ) ◦ π (fi ) .
i=1
140
II-3-3. Sous-algèbres de Cartan d’une algèbre de Lie

Dans ce paragraphe, K désignera un corps commutatif, algébriquement clos, de ca-
ractéristique O; tous les K-espaces vectoriels seront de dimension finie.
Définition II-3-3-1 Soient L une algèbre de Lie sur K, et π une représentation

linéaire de L dans un K-espace vectoriel V . On dit qu’une forme linéaire λ sur L
est un poids de la représentation π, s’il existe un vecteur non nul v de V tel que
π (x) v = λ (x) v pour tout x ∈ L.
D’après le Théorème de Lie, si L est résoluble alors toute représentation de L
dans un espace vectoriel non nul possède au moins un poids.
Soient V un espace vectoriel sur K et T un endomorphisme de V . Si I est
l’identité de End (V ) et si λ ∈ K, on note V (T, λ) le sous espace vectoriel de V
formé des vecteurs v ∈ V tels que (T − λ.I)n v = 0pour un entier n ≥ 0.
Soient L une algèbre de Lie sur K et π une représentation linéaire de L dans
V . Si λ est une forme linéaire sur L, on notera V (L, λ) ou simplement V λ , le sous-
espace vectoriel de V formé des vecteurs v de V tels que (π (x) − λ (x) I)n v = 0pour
un entier n ≥ 0 et pour tout x ∈ L.
On a évidemment \
Vλ = V (π (x) , λ (x)) .
x∈L
Théorème II-3-3-2 Soit L une algèbre de Lie nilpotente et soit ,V une représen-
tation linéaire de L. Alors :
(i) Les sous-espaces V λ sont stables par les opérateurs π (x) , x ∈ L.
(ii) Si V λ 6= {0} , λ est un poides de π et c’est le seul poids de la restriction
de π à V . λ
(iii) L’espace V est somme directe des sous-espaces V λ .

Pour la démonstration, voir M. Naïmark et A. Stern [ ], Proposition II, page
403. P
Puisque dim (V ) = dim V λ , il y a au plus n = dim (V ) poids distincts.
Considérons maintenant le cas particulier où π est la représentation adjointe de
l’algèbre de Lie L.
Soit H une sous-algèbre de Lie nilpotente de L et soit ρ la restriction de π à
la sous-algèbre de Lie H. On appelle racine de l’algèbre de Lie L par rapport à la
sous-algèbre de Lie H, tout poids de ρ.
Ainsi, la forme linéaire α sur H est une racine de L par rapport à H s’il existe
un vecteur non nul x ∈ L tel que
(adh) (x) = [h, x] = α (h) x pour tout h ∈ H.
Le sous-sepace Lα de L formé des x ∈ L tels que
(adh − α (h) I)n x = 0
141
pour un entier n ≥ 0 et pour tout h ∈ H, s’appelle le sous-espace des racines associé

à la racine α.
D’après le Théorème III.3.2, L est somme directe de sous-espaces Lα corres-
pondant aux différentes racines α de L par rapport à H.
Il est clair que α = 0 est racine de L par rapport à H puisque H est nilpotente.
D’autre part, on a H ⊂ L0 . En effet, puisque H est une algèbre de Lie nilpotente,
il existe un entier n tel que (adh)n = 0 pour tout h ∈ H (Corollaire II.2.4). Donc
pour tout x ∈ H,
(adh)n ([h, x]) = 0, i.e . (adh)n+1 (x) = 0,
ce qui montre que x ∈ L0 et par suite H ⊂ L0 .
Théorème II-3-3-3 Soient H une sous-algèbre de Lie nilpotente d’une algèbre de

Lie L, α et β deux racines de L par rapport à H. Alors :
(i) On a
α β α β
L , L ⊂ Lα+β et L , L = {0} si α + β
n’est pas racine de L par rapport à H.

(ii) L0 est une sous-algèbre de Lie de L.
Démonstration (i) ; Par linéarité, il suffit de montrer que si u ∈ Lα et v ∈

Lβ ,alors [u, v] ∈ Lα+β .Posons D = adh, pour tout h ∈ H.
On a
(D − (α (h) + β (h)) I) ([u, v]) = [(D − α (h) I) u, v] + [u, (D − β (h) I) v] .
D’où, par récurrence sur n :

n
X h i
n
(D − (α (h) + β (h)) I) ([u, v]) = Cnj (D − α (h) I)j u, (D − β (h) I)n−j v .
j=0
Pour n assez grand, tous les termes du membre de droite sont nuls ; donc [u, v] ∈
α + β n’est pas racine de L par rapport à H, on a L = {0} , d’où
α+β α+β
L
α .Si
L , L = {0} .(ii) résulte aussitôt de (i).
β
Définition II-3-3-4 Soit L une algèbre de Lie sur K.

On appelle sous-algèbre de Cartan de L toute sous-algèbre de Lie nilpotente de
L égale à son normalisateur.
Théorème II-3-3-5 Pour qu’une sous-algèbre de Lie nilpotente H de L soit une

sous-algèbre de Cartan, il faut et il suffit que H = L0 .
142
Démonstration Supposons que H = L0 .

Si h ∈ H et x ∈ NL (H) , (adh) (x) ∈ H Puisque H est nilpotente, il existe un
entier n tel que (adh)n = 0, d’où (adh)n ([h, x]) = 0,soit (adh)n+1 (x) = 0;on en
déduit que x ∈ L0 = Het par suite NL (H) ⊂ L0 .Comme H ⊂ NL (H) ⊂ L0 , H est
une sous-algèbre de Cartan.
Réciproquement, sout H une sous-algèbre de Cartan de L. Pour tout h ∈ H,
l’endomorphisme
adh : L0 −→ L0
laisse H stable. D’après la définition de L0 , adh induit sur l’espace vectoriel L0 H
un endomorphisme nilpotent. Si on avait H 6= L0 , il existerait, d’après le Théorème
d’Engel, un vecteur x ∈ L0 , x ∈ / H, tel que (adh) (x) ∈ H pour tout h ∈ H, i.e
. [x, H] ⊂ H, ce qui montre que x ∈ NL (H) .
Comme x ∈ / H, H ne serait pas une sous-algèbre de Cartan, ce qui est absurde.
Donc H = L0 .
Remarque II-3-3-6 Une sous-algèbre de Cartan d’une algèbre de Lie L est une
sous-algèbre de Lie nilpotente maximale de L.
Exemple II-3-3-7 Si L est une algèbre de Lie nilpotente, alors L est la seule
sous-algèbre de Cartan de L car L = L0 .
Soit x un élément de l’algèbre de Lie L, et soit L0x le sous-espace vectoriel de
L formé des vecteurs y ∈ L tels que (adx)ny = 0 pour un entier n ≥ 0. Comme
x ∈ L0x , L0x 6= {0} si x 6= 0.
Le nombre r = inf dim (L0x )s’appelle le rang de l’algèbre de Lie L. On dit qu’un
x∈L
élément x ∈ L est régulier si dim (L0x ) = r.
Notons que toute algèbre de Lie non nulle L contient au moins
un élément régu-
lier. En effet, si x0 est un élément non nul de L et si dim
L x0 n’est pas minimale,
0
il existe un élément non nul x1 de L tel que dim L0x1 < dim L0x0 .En répétant
ce raisonnement, on aboutit à un élément xr pour lequel dim L0xr est minimale
puisque L est de dimension finie.
Théorème II-3-3-8 (Existence des sous-algèbres de Cartan).

Si x est un élément régulier de l’algèbre de Lie L, alors L0x est une sous-algèbre
de Cartan de L et sa dimension est égale au rang de L.
Pour la démonstration, voir Arthur A. Sagle et Ralph E. Walde [ ], Proposition
13.2.
Corollaire II-3-3-9 Toute algèbre de Lie contient une sous-algèbre de Cartan.
143
Théorème II-3-3-10 Soit H une sous-algèbre de Cartan de l’algèbre de Lie L. Si

H contient un élément régulier x de L, alors H = L0x .
Démonstration Puisque H est nilpotente, il existe un entier n tel que (adx)n y =

0pour tout y ∈ H. Donc y ∈ L0x et par suite H ⊂ L0x .
Le raisonnement utilisé dans la démonstration du Théorème III.3.5 montre que
H = L0x .
Nous admettrons le Théorème suivant (on pourra consulter J.P Serre [ ] pour la
démonstration).
Théorème II-3-3-11 Soient H et H 0 deux sous-algèbres de Cartan de l’algèbre

de Lie L. Alors, il existe un automorphisme intérieur σ de L tel que
σ (H) = H 0
On en déduit aussitôt :
Corollaire II-3-3-12 Soit L une algèbre de Lie. Alors toute sous-algèbre de Car-
tan H de L est de la forme L0x , où x est un élément régulier de L.
Démonstration : Soit x un élément régulier de L. L0x est une sous-algèbre de

Cartan de L, donc il existe un automorphisme intérieur σ de L tel que σ (L0x ) = H.En
particulier σ (x) est un élément régulier appartenant à H, donc H = L0σ(x) .
144
Chapitre 3
THEORIE DES REPRESENTATIONS
§.III-1 - Représentations des groupes topologiques

III-1-1. Représentations des groupes topologiques localement com-
pact
Soient G un groupe localement compact unimodulaire et H un espace de Hilbert
complexe séparable.
Définition III-1-1-1. On appelle représentation unitaire continue de G, un ho-

momorphisme x −→ U (x) de G dans le groupe des opérateurs unitaires de l’espace
de Hilbert H tel que l’application (x, ζ) −→ U (x) ζ est continue sur G × H.Cette
condition est équivalente à la suivante :
Il existe un sous-ensemble H0 de H dense dans H, tel que l’application

x −→ U (x) ζ 0 soit continue en x = 1 (élément neutre de G) pour tout ζ 0 ∈ H.On
appelle coefficient de U , toute fonction x 7−→ (U (x) ζ, η) ou ζ et η sont deux vec-
teurs donnés dans H.
Lorsque H = L2 (G), on définit deux représentations unitaires L et R dans H, en

posant pour f ∈ H et x, y ∈ G (U (x) f ) (y) = f (x−1 y) , V (x) f (y) = f (yx) .On
appelle L (resp R) la représentation régulière gauche (resp. droite) .
La représentation U est dite triviale si Ux = I pour tout x ∈ G.L’espace H est
appelé l’espace de la représentation.La représentation U est dite bornée si sup kUx k <
∞.Ainsi toute représentation d’un groupe localement compact est bornée sur tout
compact K ⊂ G.
Exemple III-1-1-2 : Soit G = R. Considérons les applications

1) R 3 x 7−→ Tx = exp [i p x] I, p ∈ R et
145
CHAPITRE 3. THEORIE DES REPRESENTATIONS
2) R 3 x 7−→ Tx0 = exp [ p x] I, p ∈ R.
T et T 0 sont des représentations de R . La représentation T 0 n’est pas bornée
sur R, mais bornée sur tout sous-ensemble borné de R.
Exemple 2 : Soit G un groupe de transformations qui opère continûment sur un

espace S localement compact laissant la mesure µ invariante. Soient H = L2 (S, µ)
et l’application x −→ Tx définie par : (Tx u) (s) = u (x−1 s) , ∀ u ∈ H, s ∈ S et
x ∈ Gl’opérateur Tx est linéaire ie.

[Tx (Ty u)] (s) = (Ty u) x−1 s = u y −1 x−1 s = (Txy u) (s)
ie Txy = Tx Ty et Te = 1 Comme la mesure µ est invariante on a : (Tx u, Tx v) =
R
u (x−1 s) v(x−1 s) dµ (s) = (u, v)i.e. Tx est isométrique et comme Dom (Tx ) = H
alors Tx est unitaire.Si u ∈ K (S) , Sup |u (x−1 s) − u (s)| −→ 0 à cause de l’uni-
forme continuité de u.
D’autre part, il existe un compact K ⊂ S contenant les supports de u et
Tx u tel que :
Z 1/2
−1
2
kTx u − xk = u x s − u (s) dµ (s)
S
p
≤ max |u (x−1 s) − u (s)| µ (K) −→ 0 Si u ∈ L2 (S, µ) et ε > 0, il existe un
s∈K x−→e
v ∈ K (S) tel ku − vk ≤ ε.Alors kTx u − uk ≤ kTx (u − v)k + kTx v − vk + kv − uket
kTx u − uk ≤ 2 ε + kTx v − vk
Ainsi kTx u − uk ≤ 3 ε si x −→ e. Par conséquent T est une représentation unitaire
continue de G dans L2 (S, u)
Si S = G on obtient la représentation régulière gauche.Si S = G/K où K

est un sous-groupe fermé de G, la représentation T est dite quasi-régulière.Une re-
présentation x −→ Tx est dite fidèle , si l’application x −→ Tx est injective.
Soit T une représentation du groupe G dans l’espace de Hilbert H. Soit S

un isomorphisme borné de H sur un espace de Hilbert H 0 . L’application ϕ : x −→
Tx0 = STx S −1 définit une représentation de G dans H 0 .
0
Txy = STx S −1 STy S −1 = Tx0 Ty0 , Te0 = 1
et
Tx0 u0 − Ty0 u0 = S Tx S −1 u0 − Ty S −1 u0
≤ kSk kTx u − Ty uk −→ 0 si x −→ y
On peut donc construire une nouvelle classe de représentations à partir de la repré-
sentation T de G dans le même espace où dans un espace isomorphe à celui de T .
D’où la notion de l’équivalence des représentations.
146
Définition III-1-1-3 Deux représentations U dans H et V dans H 0 sont dites
équivalentes s’il existe un isomorphisme S de H sur H 0 tel que : S U (x) =
V (x) S, ∀ x ∈ G.On dit que S entrelace U et V .
Définition III-1-1-4 Deux représentations U dans H et V dans H sont dites

unitairement équivalentes s’il existe un isomorphisme unitaire S de H sur H 0 qui
entrelace U et V .
Exemple III-1-1-5 Soit L (resp.R) la représentation régulière gauche (resp. droite)

d’un groupe G.Considérons l’application I : u (x) −→ u (x−1 ).
I est un opérateur unitaire de H. On a

(I Rx u) (y) = (Rx u) y −1 = u x−1 y = I u y −1 x
= (Ly Iu ) (x) donc I Rx = Lx I.
Proposition III-1-1-6 Deux représentations unitaires équivalentes sont unitaire-

ment équivalentes.
Preuve : Soit S un isomorphisme borné de H sur H 0 tel que STx = Tx0 S.On a en
prenant l’adjoint des deux membres Tx S ∗ = S ∗ Tx0 donc
SS ∗ Tx0 = STx S ∗ = Tx0 SS ∗ .
Ainsi√Tx0 commute avec l’opérateur hermitien positif SS ∗ et donc avec

A = SS ∗ L’opérateur A−1 S est un opérateur unitaire qui entrelace T et T 0 .
Par conséquent T et T 0 sont unitairement équivalentes Etudions l’irréductibilité
et la réductibilité des représentations.
Soit T une représentation du groupe G dans un espace de Hilbert H. Un

sous-espace ou un sous-ensemble H1 de H est dit invariant pour T si pour tout
u ∈ H1 , Tx u ∈ H1 .
Toute représentation admet au moins deux (∀ x ∈ G) sous-espaces invariants :

Le sous-espace {0} et l’espace entier H. Ces deux sous-espaces sont dits triviaux.
Les sous-espaces ou sous-ensembles invariants non triviaux est dits propres.
Nous allons introduire le concept d’irréductible qui joue un très grand rôle dans
la théorie des représentations.
Définition III-1-1-7 Une représentation T d’un groupe G dans H est dite alge-
briquement irréductible, s’il n’admet pas de sous-ensembles propres invariants.
147
Définition III-1-1-8 Une représentation T d’un groupe topologique G dans H est
dite topologiquement irréductible si elle n’admet pas de sous-espaces propres fermés
invariants.
Remarque III-1-1-9 L’irréductibilité algébrique entraîne l’irréductibilité topo-

logique.Une représentation qui admet des sous-espaces propres invariants est dite
réductible.On peut donc construire au moins deux nouvelles représentations. La pre-
mière est obtenue par restriction de Tx au sous-espace fermé H1 .Cette représentation
est appelée sous-représentation de T et est notée H1 T . La seconde peut être réalisée
dans l’espace quotient H/H1 , car si H1 est invariant, Tx (u + H1 ) = Tx u+H1 ∈ H/H1 ;
alors H/H1 est aussi invariant. Cette représentation est appelée une représentation
quotient de T .Le complémentaire orthogonal H1⊥ du sous-espace invariant H1 n’est
pas en général invariant.H1⊥ est invariant si la représentation est unitaire.
Proposition III-1-1-10 Soit T une représentation unitaire d’un groupe G dans

un espace de Hilbert H.Soient H1 un sous-espace de H et P1 la projection orthogo-
nale de H sur H1 .Alors :
1) Le complémentaire orthogonal H1⊥ du H1 est invariant si et seulement si
H1 est invariant.
2) H1 est invariant si et seulement si P1 Tx = Tx P1 ∀ x ∈ G.
Preuve : 1) Supposons que H1 est invariant.
∀ u ∈ H1 , v ∈ H1⊥ on a
(Tx v, u) = (v, Tx∗ u) = (v, Tx−1 u) = 0 car Tx−1 u ∈ H1 .Donc H1⊥ est invariant La
réciproque est évidente.
2) Soit H1 un sous-espace invariant et u ∈ H. Alors on a : Tx P1 u ∈ H1 ∀ x ∈
G et P1 Tx P1 u = Tx P1 udonc P1 Tx P1 = Tx P1 . En prenant l’adjoint on a :
P1 Tx∗ P1 = P1 Tu∗ ou P1 Tx−1 P1 = P1 Tx−1 Posons y = x−1 , on a : P1 Ty =
P1 Ty P1 = Ty P1 , ∀ y ∈ G.Réciproquement si P1 Tx = Tx P1 ∀ x ∈ G,
on a pour u1 ∈ H1 , Tx u1 = Tx P1 u1 = P1 Tx u1 ∈ H1 .Ainsi H1 est invariant.
Exemple III-1-1-11 Soit G = R et H un espace de Hilbert réel de dimension 2

avec le produit scalaire défini par : (u, v) = u1 v1 + u2 v2 .On représente G dans H par
les matrices non-unitaires triangulaires ie

1 x u1 u1 + x u2
x −→ Tx = , Tx =
0 1 u2 u2
148

u1
Le sous-espace H1 des vecteurs est invariant par T alors son complémentaire
0
0
orthogonal H1⊥ des vecteurs u n’est pas invariant.
u1
P Un espace de Hilbert H est somme directe des sous-espaces H1 , H2 , ... notée
⊕Hi si les conditions suivantes sont vérifiées.
i
1) Hi ⊥ Hj 0 ∀ i 6= j 0
2) Tout élément u ∈ H se décompose en série convergente
X
u= ui où ui ∈ Hi
i
Définition III-1-1-12 Une représentation T de G dans un espace de Hilbert H

est somme directe de représentations
P Ti de G dans Hi si les Hi sont des sous-espaces
invariants de H tels que H = ⊕Hi et que chaque Ti est une sous-représentation
de T. P
On la note : T = ⊕Ti
i
Une représentation T de G dans H est dite complétement réductible ou
discrètement décomposable si elle peut s’exprimer comme somme directe de sous-
représentations irréductibles.
Les représentations de dimension finie qui sont reductible mais non discrè-
tement réductible sont dites indécomposables (Voir l’exemple précédent).
La représentation matricielle d’une représentation complétement réductible

est de la forme
 1 
D (x) 0 ··· 0 0
 .. 
 0 D2 (X) . 
 . .. 
D (x) = 
 ··· ··· .. . 

 . 
 0 Di (x) .. 
0
où chaque Di (x) est irréductible.
Proposition III-1-1-13 Une représentation unitaire de dimension finie d’un groupe

est complètement réductible.
Preuve : Si H1 est un sous-espace invariant propre de H, H1⊥ est aussi invariant

et
149
H = H1 ⊕ H1⊥ .
Si H1 ou H1⊥ contient un sous-espace propre invariant, on le décompose en

somme directe avec son orthogonal ainsi de suite (la dimension de H étant finie).
Les propositions suivantes sont fondamentales dans la théorie de représen-

tations de groupes. Il s’agit des lemmes de Schur.
Proposition (Lemme de Schur) : III-1-1-14 Soient T et T 0 deux représenta-

tions unitaires irréductibles de G dans H et H 0 respectivement.
Si S est un opérateur linéaire borné de H dans H 0 qui entrelace T et T 0 alors S

est un isomorphisme d’espaces de Hilbert ou S = 0.
Preuve : Si pour tout x ∈ G, STx = Tx0 S alors on a : T S ∗ = S ∗ T 0 . Ainsi l’opé-

rateur hermitien V = S ∗ S défini positif commute avec T .
R
Soit V = λ d E (λ) la décomposition spectrale de V , on a T E (λ) = E (λ) T . Ainsi
tout sous-espace fermé H (λ) = E (λ) H est invariant.
Comme H est irréductible, H (λ) = H ou H (λ) = {0}.Donc V = λI. De

même V 0 = SS ∗ = λ0 I.
Comme λS = SS ∗ S = λ0 S, on a λ = λ0 si S 6= 0 ou S = 0.
Supposons S 6= 0 et posons U = λ−1/2 S, on a : U ∗ U = I et U U ∗ = I donc S est
un isomorphisme de H sur H 0 et T ' T 0 .
Dans le cas de dimension finie, on considère Ker S et Im S. Ce sont des

sous-espaces invariants fermés de H1 et H2 . Si Ker S = H1 ou si Im S = {0}, alors
T = 0. La seule autre possibilité est que Ker S = {0} et Im S = H2 , autrement dit,
T est un isomorphisme.
Ce lemme de Schur conduit aux critères d’irréductibilité suivants.
Proposition (Lemme de Schur) : III-1-1-15 Une représentation unitaire T

de G dans H est irréductible si et seulement si les seuls opérateurs qui commutent
avec Tx sont les multiples scalaires de l’opérateur identité.
Preuve : Si S Tx = Tx S, alors S ∗ Tx = Tx S ∗ .Ainsi les opérateurs auto-adjoints

S1 = 12 (S + S ∗ ) et S2 = 2i1 (S − S ∗ ) commutent aussi avec Tx . Donc S = λ1 I + λ2 I =
λI.
150
Réciproquement si tout opérateur S commutant avec T est de la forme λI,

alors le projecteur P qui commute avec T est soit I ou 0. Ainsi les seuls sous-
espaces invariants fermés sont {0} ou l’espace entier H.Par conséquent T est irré-
ductible.Nous pouvons donc donner une autre définition de l’irréductibilité.
Définition : III-1-1-16 Une représentation unitaire T de G dans H est dite ir-

réductible si les seuls opérateurs qui commutent avec Tx sont les multiples scalaires
de l’opérateur identité.
En considérant une représentation de dimension finie non nécéssairement unitaire

on a la proposition suivante :
Proposition (Lemme de Schur) III-1-1-17 Soit T une représentation irréduc-

tible de G dans H, avec dim H < ∞.Les seuls opérateurs qui commutent avec tout
Tx sont des multiples scalaires de l’opérateur identité.
Preuve : Pour tout x ∈ G, S Tx = Tx S,Soit N = {u ∈ H, Su = 0}.

On a donc {0} = Tx S N = S Tx N. Ainsi Tx N ⊂ N ie N est un sous-espace invariant
de H.Comme T est irréductible, N = {0} ou H. Donc S est un isomorphisme ou
S = 0.Soit S un isomorphisme qui commute avec tout Tx et soit λ 6= 0 une valeur
propre de S.
S − λI n’est pas un isomorphisme de H par conséquent S − λI = 0.Notons

R (T ) , l’algèbre des opérateurs d’entrelacement de T et CR (T ) son centre.
Définition III-1-1-18 Une représentation T est dite primaire si le centre CR (T )

est réduit aux homothéties de H.
On dit que T est isotypique si elle est primaire et s’il existe une sous-représentation
irréductible de T non triviale.
Soit Ĝ l’ensemble des classes de représentations unitaires continues irréduc-

tibles équivalentes de G.
Soit T une représentation unitaire continue de G dans H et supposons que

H soit somme hilbertienne de sous-espaces Ek tels que la restriction de T à Hk
soit irréductible. Pour tout δ ∈ Ĝ, soit Mδ , la somme hilbertienne des Hk tels que
151
Uk ∈ δ.
On dit que Mδ non réduits à {0} sont les composantes isotypiques de H. Le
nombre nδ (fini ou ∞) de représentations de classe δ dont la restriction de T à
Mδ est somme hilbertienne est appelé la multiplicité de δ dans T .
Il est clair que toute représentation irréductible est primaire.
Proposition III-1-1-19 Soit T une représentation primaire qui contient une sous-
représentation irréductible V . Alors, il existe un entier n ∈ N∗ tel que T ' nV =
| ⊕ V ⊕ .............
V {z ⊕ V}
n terme
Définition III-1-1-20 Un groupe est dit de type I ou isotypique s’il n’admet que
des représentations isotypiques.Ces représentations sont très utiles pour la reduction
du produit sensorielle des représentations.
On obtient aussi une autre classe de représentations si le centre CR (T ) est

aussi large que possible, ie, coïncide avec R (T ).
Définition III-1-1-21 Une représentation T est dite sans multiplicité (multiplicity-

free) si R (T ) est commutative.
Notons que si T est primaire et sans multiplicité alors R (T ) = {λI} ie T

est irréductible d’après le lemme de Schur.
P
Si T est sans multiplicité et discrètement décomposable, alors T = ⊕T i ,
i
où les T i sont
P deuxi à deux inéquivalentes et irréductibles
i.e si T = ⊕ni T alors ni = 1 ∀i .
i
Un vecteur v ∈ H est dit cyclique pour la représentation U si le plus petit

sous-espace invariant contenant v est H tout entier ; une représentation est dite cy-
clique si elle possède un vecteur cyclique.
Si U est irréductible, tout vecteur non nul de H est cyclique. Inversement,

si tout vecteur non nul est cyclique, alors la représentation est irréductible.
En effet si H1 est un sous-espace propre invariant, et si v1 ∈ H , v1 6= 0, alors

U (g) v1 ∈ H1 pour tout g ∈ G, et donc v1 n’est pas cyclique.
152
Proposition III-1-1-22 Soient (U, H) et (U 0 , H0 ) deux représentation unitaires
cycliques de G, de vecteurs cycliques v et v 0 . Si
∀g ∈ G H = H0 .
alors U et U 0 sont unitairement équivalentes.
En effet, soit (gi )i∈I un sous-ensemble fini de points de G, et (λi )i∈I des scalaires.
Alors
2
X X X
λi U (gi ) v = < λi U (gi ) v , λj U (gj ) v >
i∈I i∈I j∈I
XX X X
= λi λ̄j = λi λ̄j 
i∈I j∈I i∈I j∈I
2
X X X
= λi λ̄j =0 0
λi U (gi ) v 0
i∈I j∈I i∈I

P P
En particulier, si λi U (gi ) v = 0 alors λi U 0 (gi ) v 0 = 0.
i∈I i∈I
On peut donc définir sans ambiguité une application linéaire S sur le sous-
espace vectoriel engendré par les {U (g) v}g∈G ,en posant
!
X X
S λi U (gi ) v = λi U 0 (gi ) v 0 .
i∈I i∈I
Comme kSuk2 = kuk2 , pour tout u dans ce sous-espace, qui est donc dans H, on
étend S en un opérateur unitaire de H sur H. Enfin, il est immédiat sur la formule de
définition que S ◦ U (g) = U 0 (g) ◦ S sur le sous-espace engendré par les {U (g) v}g∈G ;
on en déduit par continuité un opérateur unitaire entrelaçant U et U 0 .
Nous allons étudier les liens avec les représentations des algèbres de groupe.On
suppose maintenant que G est un groupe localement compact ; on note dx sa mesure
de Haar.
Soit (U, H) une représentation unitaire (continue) de G.

R A toute mesure bornée µ
sur G, on associe l’opérateur U (µ) défini par U (µ) = G U (g) dµ (g). Plus précisé-
ment, pour v et w ∈ H, la fonction g −→ est continue, et bornée
par kvk . kwk.
153
R
L’application (v, w) −→ dµ (g) est bilinéaire et Rcontinue. Il existe
donc un opérateur continu, noté U (µ) tel que = G 
dµ (g) .De plus, comme || ≤ kµk . kvk . kwk, on en déduit kU (µ)k ≤
kµk .Si µ et v sont deux
R mesures bornées, on a U (µ ∗ v) = U (µ) ◦ U (v) .En effet
 = G d (µ ∗ v) (g)
Z Z Z Z
0 0
= dµ (g) d (g ) = dµ (g) dv (g 0 )
Z Z Z
= dµ (g) dv (g 0 ) =
0
 dv (g 0 )
G G
= .
Enfin U (µ∗ ) = U (µ)∗ R

R
En effet ∗
 dµ (g) = −1
 dµ (g)
Z Z
∗
= < w, U (g) v > dµ (g) = dµ (g)
= = < v, U (µ)∗ w > .
Si (χ, ∗) est une algèbre de Banach involutive, on appelle représentation de χ un

homomorphisme continu T de χ dans l’algèbre des opérateurs bornés d’un espace de
Hilbert H, vérifiant T (µ∗ ) = T (µ)∗ pour toute µ de χ. Une telle représentation est
dite non dégénérée si ξ ∈ χ, T (µ) ξ = 0 pour tout µ ∈ χ =⇒ ξ = 0.Si l’algèbre χ
possède une unité e, alors T (e) = II, et donc toute représentation est non dégénérée.
Proposition III-1-1-23 1) Il y a correspondance biunivoque entre les repré-

sentations de l’algèbre involutive (unitaire) M 1 (G) et les représentations unitaires
du groupe G.
2) Il y a correspondance biunivoque entre les représentations non dégénérées de

l’algèbre involutive L1 (G) et les représentations unitaires du groupe G.
Preuve : Si U est une représentation unitaire, on vient de voir que µ −→ U (µ)

est une représentation de l’algèbre involutive M 1 (G). Se restreignant à L1 (G), on
obtient une représentation de cette algèbre ; pour voir qu’elle est non dégénérée,
on utilise une technique fondamentale, l’approximation de l’identité. Pour cela, soit
V une base de voisinages compacts de l’origine e du groupe, et pour tout V de V,
soit
R ϕV une fonction positive, à support contenu dans V , mesurable et telle que
ϕV (g) dg = 1.
154
Si f ∈ L1 alors
Z

ϕV ∗ f (g) = ϕV (g 0 ) f g 0−1 g dg 0 pour presque tout g ∈ G,
Z
= ϕV (g 0 ) (Lg0 f ) (g) dg 0
V
R R
Par suite ϕV ∗ f (g) − f (g)R |=| V ϕV (g0 ) (Lg0 f ) (g) dg 0 − V ϕV (g 0 ) dg 0 f (g) ,
d’où kϕV ∗ f − f k1 ≤ ϕV (g 0 ) dg 0 sup kLg0 f − f k = sup kLS f − f k1 .
g 0 ∈V g∈V
Mais l’application g −→ Lg f est continue. Il en résulte que, pour tout f ∈

L1 , ϕV ∗ f −→ f dans L1 . Une démonstration analogue montre que f ∗ ϕV −→ f .
V →(e) V →(e)
La famille {ϕV }V ∈V constitue une approximation de l’identité (à droite et à gauche)
de l’algèbre L1 .
Revenant à la démonstration, soit v0 ∈ H,tel que U (f ) v0 = 0, pour toute f ∈ L1 .

Soit {ϕV }V ∈V une approximation de l’identité, comme ci-dessus. Alors, pour tout
v ∈ V.
Z Z Z
U (ϕV ) v − v = ϕV (g) .U (g) v dg − ϕV (g) dg .v = ϕV (g) (U (g) v − v) dg.
De la continuité de l’application g 7−→ U (g) v, on déduit que kU (g) v − vk < ε

pour g ∈ V, V assez petit,. D’où U (ϕV ) v −→ v, quand V −→ {e}. En particulier,
comme U (ϕV ) v0 = 0, il vient v0 = 0, et par conséquent la représentation de L1 est
bien non dégénérée.
La démonstration dans l’autre sens est plus délicate. Soit d’abord T une représen-
tation de l’algèbre M 1 (G) ; on pose, pour g ∈ G,
U (g) = T (δ g−1 ).Alors

U (gg 0 ) = T δ (gg0 )−1 = T (δ g−1 ∗ δ g0−1 ) = T (δ g−1 ) ◦ T (δ g0−1 ) = U (g) U (g 0 ) .
De plus, comme (δ g−1 )∗ = δ g , il vient U (g −1 ) = T (δ g ) = T ((δ g−1 )∗ ) =

(T (δ g−1 ))∗ = U (g)∗ ; donc U est bien une représentation unitaire de G, seule restant
à vérifier la continuité qui se démontre aisément Si on est parti d’une représenta-
tion T de l’algèbre L1 . La construction de U n’est pas aussi immédiate. Soit H1 le
sous-espace vectoriel engendré par les vecteurs du type T (f ) v, où f parcourt L1 (G)
et v parcourt H. H1 est dense dans H, car si v0 est dans l’orthogonal de H1 , on a
pour tout f dans L et tout v dans H, 0 = < T (f ) v, v0 > = < v, T (f ∗ ) v0 > ; d’où
T (f ∗ ) v0 = 0 pour toute f ∈ L1 ; mais comme la représentation est non-dégénérée,
cela implique v0 = 0.
155
Cela étant, soit v un vecteur
de la forme T (f ) w, avec w ∈ H et f dans L .
1
On pose U (g) T (f ) w = T Rg0−1 f w. Noter que si
n n
! n
X X X
T (f ) wi = 0, alors 0 = T (Rg ϕV ) T (fI ) wi = T (Rg ϕV ∗ fi ) wi ,
i=1 i=1 i=1
et comme Rg ϕV ∗ fi −→ fi dans L1 , on en déduit par passage à la limite que

n V →{e}
P
U (g) T (fi ) wi = 0 ; cela montre que U (g) est défini sans ambiguité sur H1 .
i=1
De plus, comme T est continue, il existe une constante C telle que kT (Rg ϕV )k ≤ C ;
l’opérateur U (g) satisfait donc kU (g) wk ≤ C kwk pour tout H1 .
On peut le prolonger par continuité à H tout entier ; pour vérifier que U est
une représentation, il suffit de vérifier que si w ∈ H1 .
Alors U (gg 0 ) w = (U (g) ◦ U (g 0 )) w ; mais c’est immédiat pour w = T (f ) v, d’après

la formule de définition de U . Pour voir que U est unitaire, on choisit ϕV telle que
ϕ∗V = ϕV , et alors T (Rg−1 ϕV )∗ = T ((Rg−1 ϕV )∗ ) = T (Lg−1 ϕV ) .Sur H1 , on voit fa-
cilement que T (Lg−1 ϕV ) −→ U (g −1 ) ; d’où U (g)∗ = U (g −1 ) sur H1 , et donc partout
par continuité.Reste à montrer la continuité de la représentation ; comme la repré-
sentation U est unitaire, il suffit de vérifier que pour v ∈ H, g −→ U (g) v est une
fonction continue. Il suffit même de le faire pour un sous-espace dense de H, soit H1 .
Soit donc v = T (f ) w, où f ∈ L1 et w ∈ H ; alors U (g) (T (f ) w) = T (Rg−1 f ) w ;
mais g −→ Rg−1 f est continu de G dans L1 (G) ; comme T est continu, le résultat
s’en déduit.
Les notions d’équivalence, d’opérateurs d’entrelacement, de sous-espace in-

variant, d’irréductibilité s’étendent aux représentations des algèbres de Banach in-
volutives. Et la proposition établissant une correspondance entre les représentations
unitaires du groupe G et les représentations de L1 (G) ou M 1 (G) admet des ana-
logues. En particulier les classes d’équivalence de représentations unitaires irréduc-
tibles du groupe G sont en correspondance biunivoque avec les classes d’équivalence
de représentations irréductibles de L1 (G).
Terminons ces rappels par la proposition suivante, contenant des critères

utiles pour la théorie des fonctions sphériques.
Proposition III-1-1-24 Soit U une représentation unitaire de G dans H. Les

conditions suivantes sont deux à deux équivalentes :
a) U est irréductible ;
156
b) le commutant de U est scalaire ;
c) les combinasons linéaires des opérateurs U (x) , x ∈ G, sont fortement partout

denses dans l’espace L (H) des opérateurs bornés sur H ;
d) les opérateurs U (f ) , f ∈ K (G), sont fortement partout denses dans L (H) .
Preuve : L’équivalence entre a) et b) n’est autre que le lemme de Schur-Naimark

(rappelons que la démonstration de la partie ”condition nécessaire” est facile si on
utilise le théorème spectral).
L’inclusion : b) → c) est le célèbre théorème de densité de Von Neumann (voir

pour une démonstration, S.A. Gaal, Linear analysis and representation theory, Springer-
Verlag, Berlin, 1973, th. 10, p. 131), appliqué à l’algèbre engendrée par les U (x) , x ∈
G. On a c) → d), car U (x) est limite forte des opérateurs U (L (x) fn ), si (fn )n≥1
est une unité approchée. Enfin, d) → b), puisque le commutant de L (H) est scalaire.
Outre l’ouvrage qui vient d’être cité, on pourra consulter le livre suivant pour
les résultats généraux sur la théorie des représentations :N. Naimark & A. Stern,
Théorie des représentations des groupes, Editions Mir, Moscou, 1979.
Soient T 1 et T 2 deux représentations de dimension finie de G dans H1 et H2

respectivement.On
définit une représentation
de G dans H1 ⊕ H2 par la formule :
Tg ⊕ Tg (a1 ⊕ a2 ) : = Tg a1 ⊕ Tg a2 La représentation T 1 ⊕ T 2 est appelée
1 2 1 2
produit sensoriel des représentations T 1 et T 2 .
Remarque III-1-1-25 Si T 1 et T 2 sont irréductibles, le produit sensoriel T 1 ⊕ T 2

est en général réductible.
i.e Tg1 ⊗ Tg2 ' mλ Tgλ où T λ sont des représentations irréductibles de G et mλ

la multiplicité de T λ dans le produit tensoriel T 1 ⊕ T 2 .
La détermination de mλ est le problème de ”série de GLebsch-Gordan”. Ce pro-
blème a été résolu pour certains groupes, mais n’est pas complétement résolu pour
le groupe de Lorentz.
Soit T une représentation unitaire du groupe G dans l’espace de Hilbert H.

En physique, on considère surtout la composante irréductible de T (λ) de T .
En général, la décomposition d’une représentation unitaire réductible en

somme directe de représentations irréductibles est impossible, on utilise alors le
157
concept d’intégral direct de représentations et de leur espace. (Voir BARUT) [1].Nous
allons étudier les représentations irréductibles et les caractères des groupes abéliens
localement compacts.
Proposition III-1-1-26 Toute représentation unitaire irréductible d’un groupe

abélien G est de dimension 1.
Preuve : Pour tout x ∈ G et y un élément fixé de G.on a : Tx Ty = Txy =

Tyx = Ty Tx D’après le lemme de Schur Ty = α (y) I, α (y) ∈ C.
Par conséquent, tout sous-espace H1 de H dimension 1 est invariant par T .

Comme T est irréductible, H1 coïncide avec H et dim H = 1.
Un caractère d’un groupe abélien localement compact G est une fonction

continue x̂ : G −→ C qui vérifie les conditions suivantes :
1) |x̂ (x)| = 1
2) x̂ (x1 x2 ) = x̂ (x1 ) x̂ (x2 ) .On déduit de 1) et 2) que : x̂ (e) = 1 et x̂ (x−1 ) =
x̂ (x)−1 Ainsi un caractère est une représentation unitaire continue de dimension 1.
L’espace dual Ĝ du groupe G est l’ensemble des classes d’équivalence des

représentations unitaires continues irréductibles de G.
D’après la proposition précédente, le groupe abélien Ĝ est l’ensemble des carac-

tères de G.
Soient x̂1 , x̂2 ∈ Ĝ On a :
1) |(x̂1 x̂2 ) (x)| = 1
2) x̂1 x̂2 (xy) = x̂1 (xy) x̂2 (xy) = x̂1 x̂2 (x) x̂1 x̂2 (y) .
D’autre part x̂−1 (x) = x̂ (x)−1 . Ĝ est donc un groupe abélien.
Exemples III-1-1-27 1) Soit G = Rn . Tout caractère x̂ est de la forme : x̂ (x) =

exp i (x̂1 x1 + ...... + x̂n xn ) = exp [i (x̂.x)] x̂ ∈ Rn Ainsi Ĝ est isomorphe à G.
2) Soit G = U (1) = {z ∈ C / |z| = 1 }. Tout caractère x̂ est de la forme : x̂ (x) =
exp (i n θ) , n ∈ Zsi x = exp (i θ). Ainsi Ĝ est isomorphe à Z. Nous allons énoncer
le théorème de SNAG.
Théorème de Stone, Naïmark, Ambrose et de Godement III-1-1-28

Soit T une représentation continue unitaire d’un groupe abélien localement com-
pact G dans un espace de Hilbert H. Alors il existe sur le dual Ĝ, une mesure
158
spectrale E (.) telle que :
Z
Tx = < x, x̂ > d E (x̂)
Ĝ
(Voir BARUT [1] pour une démonstration).
L’application x̂ −→ < x, x̂ > définit une fonction continue sur Ĝ qui vérifie
les conditions précédentes.n Donc, tout b̂
o x ∈ G définit un caractère x du groupe Ĝ,
b̂ b̂ x ∈ G .
par conséquent G ⊂ G = x,
b̂
Théorème III-1-1-29 L’application x −→ xb̂ de G dans G est un isomorphisme
b̂
topologique, G ' G.(C’est le théorème de dualité de Pontryagin).
Remarque III-1-1-30 Le théorème de SNAG a été démontré en 1930-1932 par

STONE pour G = Rn , plus tard Naimark (1943), Ambrose (1944) et Godement
(1944) ont démontré une extension de ce théorème pour un groupe abélien quel-
conque localement compact.
159
III-1-2 - Représentations des Groupes Compacts.
G désigne dans tout ce paragraphe un groupe compact.Il existe alors une mesure
de Haar, invariante à droite et à gauche.
Comme sa masse totale est finie, on la choisit de sorte que sa masse vaille 1. L’exis-
tence de cette mesure va entraîner des conséquences importantes.
Théorème III-1-2-1 Soit (U, H) une représentation continue du groupe G dans

un espace de Hilbert H, alors il existe sur H un produit hilbertien définissant une
norme équivalente à la norme donnée, et telle que U soit unitaire pour ce nouveau
produit hilbertien.
R
Preuve : Soit < , > le produit hilbertien initial, et posons < v , w >1 = G dg.On vérifie aisément qu’on définit ainsi une forme sesquilinéaire
positive ; si < v, v >1 = 0, cela implique = 0 pour presque
tout g ∈ G ; d’où v = 0.
Par construction, le produit est invariant par la représentation U , en effet, pour

tout g0 ∈ G,
Z
 = dg
G
Z Z
= dy = dγ = < v, w > .
G G
Soient kk et kk1 les normes associées aux produits < , > et < >1 .Par définition de
la continuité de U , et comme G est compact, on a ∀v ∈ H sup kU (g) vk < +∞.Du
g∈G
théorème de Banach-Steinhaus, on déduit l’existence d’une constante C > 0, telle
que pour tous g ∈ G,et v ∈ H, kU (g) vk ≤ C kvk .Appliquant cette inégalité au
vecteur w = U (g)−1 v, on en déduit
1
∀g ∈ G, ∀v ∈ H kU (g) vk ≥ kvk
C
L’équivalence des normes entraîne immédiatement que H est complet pour la norme
kk1 ; on obtient aussi la continuité de la représentation pour cette norme.
Dans l’étude des représentations d’un groupe compact, on peut donc dans
une large mesure se restreindre aux représentations unitaires. Voici un lemme décisif
pour leur étude.
160
Lemme III-1-2-2 Soit (U, H) une représentation unitaire de G, et v unR élé-
ment non nul de H . Soit Kv l’opérateur défini par ∀w ∈ H R Kv (w) = G <
w, U (g) v > U (g) v dg,c’est à dire < Kv (w) , w0 > = G < w, U (g) v > dg.
Alors 1) Kv est un opérateur borné de l’espace H.
2) Kv∗ = Kv
3) Kv ◦ U (g) = U (g) ◦ Kv , pour tout g ∈ G
4) Kv est un opérateur compact.
Preuve : Pour 1), on a élémentairement |Kv w| ≤ kvk2 kwk .

Pour 2), on a successivement :
Z
0
< Kv (w) , w >= < w, U (g) v > dg
Z G
= < w0 , U (g) v > dg

G
= < Kv (w0 ) , w >=< w, Kv (w0 ) >
Pour 3), on a pour tout w ∈ H, et g0 ∈ G :

Z
Kv (U (g0 ) w) = U (g) v dg
G
Z Z
−1
= < w, U (g0 ) < w, U g0−1 g v > U (g) v dg
U (g) v >
ZG G
Z
= < w, U (g) v > U (g0 g) v dg = U (g0 ) < w, U (g) v > U (g) v dg
G G
= U (g0 ) (Kv (w)) .
Pour 4), on note d’abord que, puisque G est compact, l’ensemble {U (g) v}g∈G est un
compact de H. Il en est de même de son enveloppe convexe disquée Γv (on appelle
ainsi le plus petit sous-ensemble fermé convexe et stable par multiplication par un
nombre complexe de module inférieur ou égal à 1). Or, pour tout w ∈ H, tel que
kwk ≤ 1, Kv (w) ∈ kvk . Γv .
L’image de la boule-unité de H est contenue dans le compact kvk . Γv ; autrement

dit l’opérateur Kv est compact.
Corollaire III-1-2-3 Toute représentation unitaire de G contient une sous-représentation

de dimension finie.
161
Preuve : Choisissons en effet un vecteur v ∈ H, v 6= 0, et considérons l’opérateur
Kv associé. D’après un résultat classique sur les opérateurs hemitiens, il existe un
scalaire λ (qu’on peut choisir non nul puisque Kv 6= 0), et un sous-espace propre
correspondant Hλ = Ker (Kv − λ id) non réduit à {0} ; la propriété 3) montre que
Hλ est un sous-espace invariant par la représentation U ; enfin 4) implique que Hλ
est de dimension finie.
Théorème III-1-2-4 Toute représentation unitaire irréductible d’un groupe com-

pact est de dimension finie.
Théorème (de complète réductibilité) III-1-2-5 Toute représentation uni-

taire d’un groupe compact est somme directe de représentations unitaires irréduc-
tibles.
Preuve : Le premier théorème découle immédiatement du résultat précédent.
Pour le deuxième, soit (U, H) une représentation unitaire de G. Alors elle

contient une sous-représentation irréductible. Soit E l’ensemble des sous-espaces in-
variants irréductibles, et considérons les sous-familles de E formées de sous-espaces
invariants irréductibles, deux à deux orthogonaux. La relation d’inclusion est clai-
rement un ordre inductif sur ces familles. D’après le lemme de Zorn, il existe un
élément maximal, soit (Ei )i∈I ; posons L = ⊕ Ei (somme directe hilbertienne).
i∈I
Si L =6 H, soit L l’orthogonal de L. Comme L est invariant par U, L⊥ aussi ;

⊥
donc il existe un sous-espace invariant irréductible E0 contenu dans L⊥ ; mais alors

L ne serait pas maximal ; d’où contradiction. Par suite L = H est bien somme de
sous-espaces invariants irréductibles.
Les relations d’orthogonalité III-1-2-6.

Soit (U, H) une représentation unitaire irréductible (donc de dimension finie) du
groupe G. Soit v un vecteur non nul de H ; l’opérateur Kv introduit précédemment
commute à la représentation, et donc d’après le lemme de Schur, il existe un scalaire
λv , tel que Kv = λv id. On en déduit que
Z
< w, U (g) v > dg = λv < w, v > .
G
R
Echangement v et w, il vient |< w, U (g) v >|2 dg = λ < v, v > . < w, w > .
Soit maintenant {e1 , ..., en } une base orthonormée de H (n = dim H) .
162
Alors {U (g) e1 , ..., U (g) en } est encore une base orthonormée ; donc
n
X Z X
n
2
|| = < w, w > et ||2 = < w, w >
i=1 i=1
Intégrant par rapport à g, et utilisant la formule précédente, il vient

n Z
X Z X
n
2
|< w, U (g) ei >| = λ < w, w > < ei , ei > = n λ < w.w > .
i=1 i=1
On en déduit λ = n1 . D’où la relation :

Z
1
|< w, U (g) v >|2 dg = < v, v > . < w, w > .
n
Passant aux formes bilinéaires associées, on en déduit, pour tous v, v 0 ∈ H, w, w0 ∈
H. Z
1
 dg = < v, v 0 > . < w, w0 > .
G n
Théorème (relations d’orthogonalité de Schur I) III-1-2-7 Soit U une re-

présentation de dimension n du groupe compact G et {uij }1≤i≤n sa représentation
1≤j≤n
matricielle par rapport à une base orthonormée. Alors, pour tous 1 ≤ i, j, k, ` ≤ n,
Z
1
uij (g) uk` (g)dg = δ ik δ j`
n
C’est un cas particulier de la formule précédente
Ce théorème permet de réaliser la représentation U comme une sous-représentation

de la représentation régulière droite.
Théorème III-1-2-8 Toute représentation unitaire irréductible d’un groupe com-

pact est équivalente à une sous-représentation de la représentation régulière droite.
Preuve √ : Avec les notations du théorème précédent, posons sur 1 ≤ j ≤ n

ej = n u1j , et soit H̃ le sous-espace de L2 (G) engendré par les {ej }1≤j≤n : les
{ej }1≤j≤n forment une base orthonormée de H̃.
163
De plus, de la relation U (g) U (g0 ) = U (gg0 ), on déduit que
n
X
u1j (gg0 ) = u1i (g) uij (g0 ) , d’où
i=1
Xn
ej (gg0 ) = uij (g0 ) ei (g) .
i=1
Le sous-espace H̃ est donc invariant par la représentation régulière droite, et sa

restriction à H̃ s’exprime dans la base {ej }1≤j≤n par la matrice (uij ). Autrement
dit, elle est équivalente à (U, H).
Théorème III-1-2-9 Soit (U, H) une représentation unitaire irréductible du groupe

compact G. Soit E le sous-espace de L2 (G) engendré par les coefficients de la re-
présentation U . Soit (uij ) une représentation matricielle de U dans une base ortho-
normée, et soit Ei (1 ≤ i ≤ n) le sous-espace de L2 (G) engendré par les coefficients
de la ième ligne. Alors
1 ◦) E = ⊕Ei (1 ≤ i ≤ n)
i
2 ◦) Chaque Ei est invariant par la représentation régulière droite, et la res-
triction de la représentation régulière droite à Ei est équivalente à U .
Preuve : Ce théorème est une conséquence du précédent et des relations

d’orthogonalité : noter de plus que le sous-espace E ne dépend que de la classe
d’équivalence de U .
On peut symétriquement utiliser la représentation régulière gauche, et les

colonnes de la matrice si Fj (1 ≤ j ≤ n) est le sous-espace de L2 (G) engendré par
les coefficients de la jème colonne, alors Fj est invariant pa la représentation régulière
gauche, et la restriction de la représentation régulière gauche à Fj est équivalente à
U 0 (représentation adjointe de U ). On part de la relation

U g0−1 g = U (g0 )−1 = U (g) = U (g0 )∗ U (g) , d’où
Xn Xn
−1
−1

uij g0 g = uik g0 ukj (g) = uki (g0 ) ukj (g)
k=1 k=1
La suite de la démonstration est identique à la précédente.
Théorème (relation d’orthogonalité de Schur II) III-1-2-10 Soient (U, H)

et (U 0 H0 ) deux représentations unitaires irréductives non équivalentes du groupe G.
Alors tout coefficient de U est orthogonal à tout coefficient de U 0 , c’est à dire :
Z
 = 0| (∀v, w ∈ H)
G ∀v, w0 ∈H0
164
Preuve : Soit A un opérateur linéaire de H dans H0 , et posons
Z
Ã = U 0 (g)∗ A U (g) dg
G
Parl un changement de variable, on voit que
∀g ∈ G; U 0 (g) Ã = Ã U (g)
D’après le lemme de Schur, cela implique Ã = 0 . Donc, pour tous vecteurs v ∈ H ,

v 0 ∈ H0 Z
 dg = 0
G
Choisissant pour A l’opérateur de rang 1 donné par v 7−→< v.w > w0 , on en déduit
la relation cherchée.
Le théorème de Peter-Weyl III-1-2-11 Soit Ĝ l’ensemble des classes d’équi-

valence de représentations unitaires irréductibles, et soit pour chaque Λ ∈ Ĝ , EΛ
le sous-espace engendré par les coefficients d’une représentation quelconque de la
classe Λ. Alors :
L2 (G) = ⊕ EΛ (somme directe hilbertienne)

Λ∈Ĝ
Preuve : On sait déjà que les espaces EΛ sont deux à deux orthogonaux, d’après
les relations d’orthogonalité précédentes. Soit L le sous-espace fermé engendré par
les (EΛ )Λ∈Ĝ , et soit H = L ⊥ . L est invariant par la représentation régulière droite ;
il en est le même de L⊥ = H ; si H 6= {0} on peut trouver un sous-espace invariant
irréductible H1 ; soit Λ la classe d’équivalence de la restriction de la représentation
régulière droite à H1 ; choisissons v ∈ H1 , v 6= 0 , et posons
Z
u (x) = v (yx) v (y) dy =< Rx v, v > .
La fonction u n’est pas identiquement nulle, puisque u (e) = kvk2 > 0 et u est
continue comme convolée de deux fonctions de carré sommable. Maintenant u ∈ L⊥ ,
car si uij est un coefficient d’une représentation, on a
Z Z Z
u (x) uij (x) dx = v (yx) v̄ (y) uij (x) dx dy
Z Z n Z Z
X
−1

= v (z) v (y) uij y z dx dz = v (z) v̄ (y) uik y −1 ukj (z) dz
k=1
165
R
et par hypothèse v (z) ukj (z) dz = 0 pour tout k.
Enfin u ∈ εΛ , puisqu’on peut écrire u = < Rx v, v > .
D’où une contradiction.
On peut préciser le théorème en choisissant dans chaque classe d’équivalence

une représentation particulière et une base orthonormée.
Théorème (Peter-Weyl bis) III-1-2-12 Pour chaque Λ ∈ Ĝ, soit UΛ un re-

présentant de la classe Λ, eΛi 1 ≤ dΛ une ase orthonormée de l’espace HΛ de la
représentation, avec dΛ = dim HΛ , et soit uΛij (g) = < UΛ (g) eΛj , eΛi >, la représen-
tation matricielle de U . Alors pour toute f ∈ L2 (G) ,
X dΛ
X dΛ
X Z
f= dΛ f (g) uΛij (g) dg uΛij ,
Λ∈Ĝ i=1 j=1
où la convergence de la série s’entend au sens de l’espace de Hilbert L2 (G) .

R
En particulier, posant fîjΛ = G f (g) uΛij (g)dg, on a la formule de Plancherel
Z X X 2
|f (g)|2 dg = dΛ fîjΛ .
Λ∈Ĝ 1≤i,j≤dΛ
Corollaire III-1-2-13 Toute représentation unitaire irréductible de G apparaît

dans la décomposition de la représentation régulière droite (resp. gauche), avec une
multiplicité égale à sa dimension.
Soit U une représentation unitaire de dimension finie ; on appelle caractère de

la représentation U, la fonction χU définie par χU (g) = tr (U (g)) ; elle ne dépend
que la classe d’équivalence.
Si (uij (g)) est la représentation matricielle de U dans une base orthonormée,

alors n
X
χU (g) = uii (g)
i=1
Théorème III-1-2-14 Si U et U 0 sont deux représentations irréductibles de G,

alors R
1◦ ) U ' U 0 ⇐⇒ R χU (g) χ̄U 0 (g) dg = 0
2◦ ) U ' U 0 ⇐⇒ XU (g) χ̄U 0 (g) dg = 1.
166
C’est une conséquence immédiate des relations d’orthogonalité.
Pour tout Λ ∈ Ĝ, soit PΛ le projecteur orthogonal sur le sous-espace EΛ . Alors, pour
tout f ∈ L2 , PΛ f = dλ XΛ ∗ f , où dΛ est la dimension d’une représentation de
la classe Λ. En effet
X Z
PΛ f (x) = dΛ uc
ij (x) f (y) c
uij (y) dy
i, j G
Z X
−1

= dλ f (y) uc c
ij (x) uji y dy
i, j
Z X Z

= dλ f (y) cii xy −1 dy = dΛ
u f (y) XΛ xy −1 dy
i
Z

= dΛ XΛ (Z) f z −1 x dz = dΛ XΛ ∗ f.
Théorème (Peter-Weyl ) III-1-2-15 Pour toute f ∈ L2 (G) ,

X
f= dΛ XΛ ∗ f.
Λ∈Ĝ
Etudions la transformation de Fourier sur un groupe compact.

Pour chaque classe de représentations unitaires irréductible Λ ∈ Ĝ on choisit un
représentant particulier UΛ . Si µ est une mesure bornée sur G, on appelle transformée
de Fourier de µ, la collection d’endomorphismes (µ̃ (Λ))Λ∈Ĝ , définie par
Z
µ̃ (Λ) = UΛ (g) dµ (g) .
On a les formules suivantes :

∗
g
µ ∗ v (Λ) = µ̃ (Λ) ◦ ṽ (Λ) e∗ ]
µ (Λ) = µ (Λ)

g
L x µ (Λ) = UΛ (x) ◦ µ̃ (Λ)
g
Rx µ (Λ) = µ̃ (Λ) ◦ UΛ x
−1
PropositionIII-1-2-16
X
∀ f ∈ L2 (G) f (x) = dΛ tr f˜ (Λ) ◦ UΛ (x)−1
Λ∈Ĝ
Z X 2
|f (x)|2 dx = dΛ f˜ (Λ) ,
2
Λ∈Ĝ
où k|A|k désigne la norme de Hilbert-Schmidt de la matrice A.Cette proposition

n’est qu’une réformulation du théorème de Peter-Weyl.
167
Théorème III-1-2-17 : La transformation du Fourier est injective.
Soit en effet µ ∈ M1 (G), telle que µ̃ (Λ) = 0 pour tout Λ ∈ Ĝ. Pour tout f ∈
L , µ ∗ f ∈ L2 , et µ]
2
∗ f (Λ) = µ̃ (Λ) ∗ f˜ (Λ) = 0.D’après la proposition précédente,
cela implique µ ∗ f = 0. En particulier,
R si f−1est une fonction continue, alors µ ∗ f est
continue, et par suite (µ ∗ f ) (e) = f (x ) dµ (x) = 0 ; µ est donc orthogonale
à toute fonction continue ; d’où µ = 0.
Corollaire III-1-2-18 Etant donnés deux points g1 et g2 de G, il existe une

représentation unitaire irréductible U telle que U (g1 ) 6= U (g2 ) .
Théorème III-1-2-19 Les combinaisons linéaires des coefficients des représenta-

tions unitaires irréductibles forment une algèbre dense dans l’algèbre des fonctions
continues.
Preuve : On a déjà remarqué que le produit de deux coefficients de représentations

unitaires est un coefficient du produit tensoriel de deux représentations ; décompo-
sant le produit tensoriel de deux représentations unitaires irréductibles en somme
de représentations unitaires irréductibles, on voit que l’espace considéré est bien
une algèbre ; elle est stable par conjugaison (utiliser la représentation adjointe), en-
fin d’après le résultat précédent, cette algèbre sépare les points de G. Le théorème
résulte alors du théorème de Stone-Weierstrass.
Théorème III-1-2-20 Soit T un opérateur borné de L2n , tel queo T ◦ Lx = Lx ◦ T ,

pour tout x ∈ G ; il existe une famille d’endomorphismes T̃ (Λ) telle que
Λ∈Ĝ
1) ∀ f ∈ L2 Tff (Λ) = f˜ (Λ) ◦ T̃ (Λ)
2) sup T̃ (Λ) = kT k .
Λ∈Ĝ
Preuve : Remarquons d’abord que pour toute mesure bornée µ, on a T (µ ∗ f ) =

µ ∗ T f.En effet,
Z Z
T (µ ∗ f ) = T Ly f dµ (y) = (T uLy ) f dµ (y)
Z
= Ly (T f ) dµ (y) = µ ∗ T f.
Soit maintenant U une représentation de la classe Λ, et (uij (g)) sa représentation

matricielle dans la base orthonormée. Et soit, pour 1 ≤ i ≤ dΛ
168
EiΛ le sous-espace engendré par les coefficients de la ième ligne. Le projecteur ortho-
gonal sur Ei est donné par f 7−→ dΛ uii ∗ f . En effet
Z n
X Z
−1

dΛ uii ∗ f (x) = dΛ uii xz f (z) dz = dΛ uij (x) uij (z) f (z) dz ;
j=1
ceci montre que si f est orthogonale à Ei , alors uii ∗ f = 0, et que, pour toute
f, uii ∗ f ∈ Ei ; enfin, appliquant la formule trouvée à l’un des uij , pour 1 ≤ j ≤ dΛ0 ,
on √
obtient le résultat
√ désiré.On déduit de ce qui précède que, pour tout f ∈ L
2
T dΛ uii ∗ f = dΛ uii ∗ T f , de sorte que

T Ei ⊂ EiΛ , et donc il existe une matrice T̃ (Λ)i telle que
Λ
dΛ
X
T uij = T̃ (Λ)i uik ; mais
kj
k=1
X dΛ
X
−1
T Lx uij = T uik x ukj = uik x−1 T ukj
j=1
dΛ
X dΛ
X dΛ
X
= Lx T uij = (T (Λ)i )kj Lx uik = (T (Λ)i )kj ui` x−1 u`k
k=1 k=1 `=1
Ceci étant vrai pour tout x de G, et les {uik }1≤k≤dΛ étant indépendants, on en
PdΛ
déduit que T ukj = T̃ (Λ)i uk` ; T (Λ)i est donc indépendant de i, et pour
k=1 `j
tout 1 ≤ i, j ≤ dΛ , on a
dΛ
X
T uij = T uij = uik T̃ (Λ)kj
k=1
ce qui n’est rien d’autre que l’égalité matricielle
T ◦ UΛ = UΛ◦ T̃ (A)
Par intégration, on en déduit Tff (Λ) = f˜ (Λ) ◦ T̃ (Λ) .

Appliquant cette formule à un coefficient quelconque de la représentation
UΛ , on voit que T̃ (Λ) ≤ kT k. Enfin, grâce à la formule de Plancherel, on voit
facilement que, pour toute f de L2 ,
!
kT f k2 ≤ sup T̃ (Λ) kf k2 .
Λ∈Ĝ
169
Le théorème admet une réciproque : si on se donne une famille d’opérateurs
T̃ (Λ), avec sup T̃ (Λ) < +∞, l’opérateur T définie par
Λ∈Ĝ
X
T f (x) = dΛ tr f˜ (Λ) ◦ T̃ (Λ) ◦ UΛ X −1 ,
Λ∈Ĝ
est une opérateur borné de L2 (G), d’après la formule de Plancherel. Enfin, il com-
mute aux translations à gauche, car

tr L]x0 f (Λ) ◦ T̃ (Λ) ◦ UΛ x
−1
= tr UΛ x−1 ◦ L ]x0 f (Λ) ◦ T̃ (Λ) ,
−1
tr UΛ x−1 ◦ UΛ (x0 ) ◦ f˜ (Λ) ◦ T̃ (Λ) = tr f˜ (Λ) ◦ T̃ (Λ) ◦ UΛ x−1 0 x ,
où l’on a utilisé le fait que tr (AB) = tr (BA) pour tous endomorphisme A et B et

]
la formule L ˜
x0 f (Λ) = UΛ (x0 ) ◦ f (Λ).
On a une caractérisation analogue des opérateurs bornés de L2 (G) qui com-

mutent à l’action à droite : ils sont donnés par
f (Λ) = S̃ (Λ) ◦ f˜ (Λ) , où sup S̃ (Λ) < +∞.

Sf
Λ∈Ĝ
Etudions l’algèbre des fonctions centrales

Une fonction (disons continue) sur G est dite centrale si ∀ x, y ∈ G, f (xyx−1 ) =
f (y) .Une mesure bornée µ est dite centrale si elle est invariante par les automor-
phismes intérieurs, c’est-à-dire si
Z Z
−1

∀ f ∈ C (G) , f xyx dµ (y) = f (y) dµ (y) .
RR
RR Si µ est centrale et v une mesure bornée quelconque, alors f (xy) dµ (x) dv (y) =
f (yx) dµ (x) dv (y) ,et par suite µ ∗ v = v ∗ µ. Une mesure centrale appartient
donc au centre de l’algèbre de convolution M 1 (G) .
Le produit de convolution de deux mesures centrales est encore cen-

tral ; par conséquent, les mesures centrales forment une algèbre commutative. Si µ
est centrale, il en est de même de µ∗ . Par conséquent, les mesures centrales forment
une algèbre involutive commutative.
Si maintenant UΛ est une représentation unitaire irréductible de la classe Λ,

l’endormorphisme µ̃ (UΛ ), où µ est une mesure centrale est scalaire. En effet, il doit
170
commuter avec tous les f˜ (Λ), où f ∈ L2 , c’est-à-dire à tous les endomorphismes de
l’espace de la représentation.
Notons
R µ̃λ le scalaire ainsi obtenu. En particulier en prenant la trace, on
a µ̃λ = dΛ XΛ (g) dµ (g). L’application µ −→ µ̃Λ est un caractère de l’algèbre
1
M 1 (G).Si f est une fonction de carré sommable, le théorème de Peter-Weyl montre

que f admet un développement suivant les caractères χΛ . Ceux-ci forment une base
orthonormée de l’espace des fonctions centrales de carré sommable.
Les combinaisons linéaires de caractères forment une algèbre

(noter que XU ⊕V = XU .XV ), qui est dense dans l’espace des fonctions centrales
continues.Enfin, un opérateur borné de L2 qui commute à la fois aux translations à
droite et à gauche s’écrit Tff (Λ) = mΛ f˜ (Λ), où mΛ ∈ C et sup |mΛ | = kT k. Ceci
résulte de l’étude des opérateurs invariants à gauche (ou à droite) et du fait que si
A et B sont deux endomorphismes tels que AX = XB pour tout endomorphisme
X, alors A = B = λ1.
171
§.III-1-3 - Applications aux groupes de Heisenberg
1) Représentation du groupe de Heisenberg
On identifie tout point (x, y) ∈ R2n avec le point z = x + iy dans Cn et on

définit la forme symplectique [.] sur Cn par :
[z, w] = 2 Im (z.ω̄) ∀ z, ω ∈ Cn
où
z = (z1 , z2 , ..., zn )
w = (w1 , w2 , ..., wn )
P
n
et z.ω̄ = zj .ω̄ j
j=1
Cette forme vérifie des propriétés suivantes :
∀ z, ξ et ω ∈ Cn et λ, µ ∈ R on a :
i) [λξ + µz, w] = λ [ξ, w] + µ [z, w]

ii) [ξ, λz + µw] = λ [ξ, z] + µ [ξ, w]
iii) [z, w] = − [w, z] + µ [z, w]
iv) [z, z] = 0.
On définit la multiplication sur Cn × R par
(z, y) . (w, s) = (z + w, t + s + [z, w])
∀ (z, t) , (w, s) ∈ Cn × R.On munit ainsi Cn × R d’une structure de groupe multipli-

catif.
Ce groupe est noté Hn et est appelé le groupe de Heisenberg. (Car l’espace des
champs de vecteurs invariants à gauche sur Hn vérifient les relations de commuta-
tion canonique en mécanique quantique dû à Heisenberg.
Pour tout réel λ, on définit une application Rλ de Hn dans le groupe G des

opérateurs unitaires sur L2 (R) par :
∀ (z, t) ∈ Hn où z = x + iy. On montre aisémént que Rλ (z, t) est un opérateur
unitiare sur L2 (Rn ) , pour tout (z, t) ∈ Hn .
Rλ (z, t) f (ξ) = eiλ(xξ+1/2xy+ 4 t) f (ξ + x)

1
Proposition III-1-3-1 Soit λ un nombre réel fixé. Alors

i) Rλ : Hn −→ G est un homomorphisme de groupe
ii) Rλ (z, t) f tend vers f dans L2 (Rn ) si (z, t) tend vers (0, 0) .
172
Preuve : Soient de Hn et f ∈ L2 (Rn ). Alors on a :

Rλ (z, t) Rλ (z, t) f (ξ)
= eiλ(x.ξ+1/2x.y+ 4 t) Rλ (z 0 , t0 ) f (x + ξ)
1
= eiλ(x.ξ+1/2x.y+1/4t) eiλ(x .ξ+1/2x .y + 4 t ) f (ξ + x + x0 )

0 0 0 1 0
pour tout ξ ∈ Rn .
On a aussi
Rλ ((z, t) (z 0 , t0 )) f (ξ) = Rλ (z + z 0 , t + t0 + [z, z 0 ]) f (ξ)
0 0 0 0 0
= eiλ((x+x ).ξ+1/2(x+x ).(y+y )+1/4(t+t +[z,z ])) f (ξx + x0 )
or [z, z 0 ] = 2 Im (x + iy) (x0 − iy 0 ) = 2 (x0 .y − x.y 0 ) donc
Rλ ((z, t) . (z 0 , t)) f (ξ) =
0 0 0 0 0 +1/2(q 0 .p−q.p0 )
= (eiλ(x+x ).ξ+1/2x.y+1/2xy +1/2x .y+1/2x .y +1/4(t+t) f (ξ + x + x0 )).
Par conséquent Rλ (z, t) Rλ (z 0 , t0 ) = Rλ ((z, t) . (z 0 , t0 )) .Montrons ii) Soit f ∈

L2 (Rn ). Pour tout
(z, t) = (x + iy, t) ∈ Hn , on a :
Z
2 2
Rλ (z, t) f − L2 (Rn )
= Rλ (z, t) f (ξ) − f (ξ) dξ
Z Rn
2
eiλ(x.ξ+ 2 x.y+1/2t) f (ξ + x) − f (x) dx
1
=
ZR
n
eiλ(x.ξ+ 2 x.y+1/4t) {f (ξ + x) − f (x)}

1
=
Rn
2
+eiλ(x.ξ+ 2 x.y+1/4t) f (x) − f (x) dx
1
Z
≤ 2 |f (ξ + x) − f (ξ)|2 dx
Rn Z
1/2 2
eiλ(x.ξ+ 2 x.y+ 14 t) f (x) − f (x) dx
1
+2
Rn
R
et par continuité Rn
|f (ξ + x) − f (ξ)|2 dx −→ 0 et pour tout x ∈ Rn (presque)
p−→0
2
eiλ(x.ξ+ 2 x.y+1/4t) f (x) − f (x)
1
≤ 4 |f (x)|2 −→ 0 .
(z,t)−→(0,0)
173
2
et eiλ(x.ξ+ 2 x.y+1/4t) f (x) − f (x) ≤ 4 |f (x)|2 .Ainsi, d’après le théorème de conver-
1
R 2
gence dominée on a : Rn eiλ(x.ξ+ 2 x.y+1/4t) f (x) − f (x) dx −→ 0 et par conséquent
1
(z,t)−→0
Rλ (z, t) f − f −→ 0
L2 (Rn ) (z,t)−→(0,0)
.
Proposition III-1-3-2 Soit λ un nombre réel fixé. Alors la représentation unitaire

Rλ de Hn dans L2 (Rn ) est irréductible.
Preuve : Il suffit de montrer que tout opérateur linéaire borné sur L2 (Rn ) qui
entrelace Rλ (z, t) (∀ (z, t) ∈ Hn ) est un multiple scalaire de l’opérateur identité sur
L2 (Rn ) .
Soit M un sous-espace fermé de L2 (Rn ), invariant pour Rλ (z, t) , ∀ (z, t) ∈
Hn , alors l’orthogonal M ⊥ est aussi invariant pour Rλ (z, t) .
Soient f ∈ M ⊥ et g ∈ M ., on a

Rλ (z, t) f, g = f, Rλ (−z, −t) g = 0 ∀ (z, t) ∈ Hn
Soit P la projection orthogonale de L2 (Rn ) sur M . Alors pour tout (z, t) ∈ H n et

f ∈ L2 (Rn ) P Rλ (z, t) f = P Rλ (z, t) (f1 + f2 ) où f = f1 + f2 .avec f1 ∈ M et
f2 ∈ M ⊥ . Comme M et M ⊥ sont invariants par Rλ (z, t) , (z, t) ∈ Hn ,
on a :
P Rλ (z, t) f = P Rλ (z, t) f1 = Rλ (z, t) f1 et

P Rλ (z, t) f = Rλ (z, t) P car Rλ (z, t) P f = Rλ (z, t) f1 .
Ainsi P est un multiple scalaire de l’opérateur identité. Par conséquent
M = L2 (Rn ) ou M = {0} .
Considérons maintenant un opérateur linéaire borné sur L2 (Rn ) qui entrelace Rλ (z, t) , (z, t) ∈
Hn
i.e. Rλ (z, t) Af (x) = A Rλ (z, t) f (x) , ∀ x ∈ Rn et (z, t) ∈ Hn .
D’autre part : eiλ(x.ξ+ 2 x.y+ 4 t) A f (ξ + x) = A eiλ(x.ξ+ 2 x.y+ 4 t) f (ξ + x) pour tous x ∈
1 1 1 1
Rn et (z, t) ∈ Hn .
Soit q = 0 et t = 0. Alors
(Tx A) f (ξ) = ((ATx ) f (ξ)) x, p ∈ Rn
donc A commute avec les translations sur Rn . Il existe donc une fonction T ∈ L2 (Rn )
telle que : (Af )Λ = τ fˆ, f ∈ L2 (Rn ) .
174
Si p = t = 0 on a : (Mλx A) f (ξ) = ((AMλx ) f ) (ξ) , ξ, x ∈ Rn où

pour toute fonction mesurable g sur Rn , Mλx (g) est la fonction sur Rn définie par :
Mλx g (ξ) = eiλx.ξ g (ξ) i.e. A commute par modulation sur Rn . Par conséquent on
a:
Z Z
(AMλx ) f (ξ) = (2π) −x/2 iξ.η Λ
e τ (η) (Mλx f ) (η) dη = (2π) −n/2
eiξ.η τ (η) fˆ (η − λx) dη
ZR R
n n
= (2π) −n/2
eiξ.(β−λx)
τ (β + λx) fˆ (β) dβ
Rn Z
= eiξ.λx (2π)−n/2 eiξ.η τ (β + λx) fˆ (β) dβ, ξ ∈ Rn

Rn
pour tout f ∈ S (Rn ) .On a donc

Z
(Mλx A) f (ξ) = e iξ.λx −n/2
(2π) eiξ.β τ (β) fˆ (β) dβ
Ainsi on a τ (β + λx) = τ (β) pour presque tout β et x ∈ Rn et τ est une

constante sur Rn presque partout.
Par conséquent, A est un multiple scalaire de l’opérateur identité et Rλ est

irréductible.
Proposition III-1-3-3 Deux représentations Rλ et Rµ de H n dans L2 (Rn ) sont

unitairement équivalentes si et seulement si λ = µ.
Preuve : Il suffit de montrer que si Rλ ' Rµ alors λ = µ.Soit U un opérateur

unitaire tel que U Rλ (z, t) = Rµ (z, t) U, (z, t) ∈ Hn .Posons z =0 on a :
U e1/4iλt = e1/4µt U , t ∈ R par conséquent λ = µ.
Remarque III-1-3-4 D’après un théorème de STONE et de VON NEUMANN,

les seules représentations unitaires irréductibles de Hn dans L2 (Rn ) sont
λ
R , λ ∈ R et {Rα,β , α, β ∈ Rn }
où
Rα,β (z, t) f (ξ) = ei(αx+βy)f (ξ) , α, β ∈ Rn
ξ ∈ Rn , f ∈ L2 (Rn ) et (z, t) = (x + iy, t) dans H n .
Ainsiles seules représentations non triviales unitaires irréductibles de H n sur L2 (Rn )
sont Rλ , λ ∈ R .
175
2) Représentation de Bargmann du groupe de Heisenberg.
Soit λ un nombre réel non nul. L’espace de Bargmann R Hλ est l’espace des fonc-
2
tions ϕ analytiques dans Cn qui vérifient la condition : Cn e−|λ| kξk |ϕ (ξ)|2 d ξ < ∞
Muni de la norme kϕkλ définie par
n Z
2 |λ| 2
kϕkλ = e−|λ| kξk |ϕ (ξ)|2 dξ,
π Cn
l’espace Hλ est un espace de Hilbert.
Pour deux multiindices α et β. Considérons les monômes ϕ1 (ξ) = ξ α ,

ϕ2 (ξ) = ξ β . Leur produit scalaire est égal à :
n Y n Z
|λ| 2
e−|λ| |ξj | ξ αj
−β j
(ϕ1 , ϕ2 ) = j ξj gξ j
π j=1 C
n Y n Z ∞ Z απ
|λ|
= e −|λ|r2 αj+β j
r rdr ei(αj −β j )θ dθ
π j=1 0 0
= δ αβ α ! |λ|−|α|
Ainsi les monômes

q constituent un système orthogonal et les fonctions uα définies
|λ||α| α
par uα (ξ) = α!
ξ constituent une base hilbertienne de Hλ .
P
La norme d’une fonction ϕ de Hλ ϕ (ξ) = aα ξ α est donnée par la
α∈Nn
formule : X
kϕk2λ = α ! |λ|−|α| |aα |2
α∈Nn
La représentation Tλ de Bargmann du groupe de Heisenberg Hn dans Hλ est définie

par :
2
Tλ (z, w) ϕ (ξ) = eλ(iw− 2 kzk −z.ξ) ϕ (ξ + z) si λ > 0
1
et
Tλ (z, w) = T−λ (z̄; w) si λ < 0
Supposons que n = 1 et que λ = 1/2. Notons U = U1/2 la représentation du
groupe de Heisenberg H1 dans L2 (R) , H = H 1/2 l’espace de Bargmann de H1 dans
H.Considérons l’opérateur A défini sur L2 (R) par :
Z
2
−1/4 1/2η 2
A f (η) = π e e−1/2(ξ−η) f (ξ) dξ.
R
176
Proposition III-1-3-5 L’opérateur A est un opérateur unitaire de L2 (R) dans
H qui entrelace les représentations U et T.
Preuve : Montrons que A est unitaire.

On a : Z
A f (η) = A (η, ξ) f (ξ) dξ
R
avec
2 − 1 (ξ−η)2 2 1 2 2
A (η, ξ) = π −1/4 e1/4η 2 = π −1/4 e1/2ξ e− 2 ξ .eξη−1/4η
X∞ m X ∞
2 1 ξ
= π −1/4 e1/4ξ Hm (ξ) = um (η) ψ m (ξ)
m=0
m ! 2 m=0
avec um (η) = (2m m !)−1/2 η m

√ −1/2ξ2
ψ m (ξ) = 2m m ! π Hm (ξ)
Ceci montre que A ψ m = um . C’est à dire A transforme la base hilbertienne {ϕm }
de L2 (R) en la base hilbertienne {um } de H.
D’autre part pour z = x + iy on a :
Z
T (z, 0) (A f ) (η) = π −1/4 e−1/4(x +y ) e− 2 (x−iy) e(η+x+iy)
2 2 1 2 2
e−1/2(ξ−η−x−iy)
Z R
2 2
= π −1/4 e1/4η e−1/2(ξ−η) ei/2(xy+2yξ) f (ξ + x) dξ
R
= A [U (z, 0) f ] (η) .
Supposons n ≥ 1 et λ = 1/2. L’opérateur d’entrelacement A de L2 (Rn ) dans H est
défini de la même façon
Z
tη t
A f (η) = π −1/2η e−1/2(ξ−η) (ξ−η) f (ξ) dξ.
Rn
Pour montrer que A est unitaire, on remarque que le noyau An (η, ξ) de l’opérateur
A s’exprime sous la forme d’un produit :
Yn

An (η, ξ) = A1 η j , ξ j
j=1
où A1 désigne le noyau de l’opérateur A dans le cas où n = 1, par suite :

Yn X∞

An (η, ξ) = Um η j ψ m ξ j
j=1 m=0
∞
X
= uα (η) ψ α (ξ)
α∈Nn
177
où on a posé ψ α (ξ) = ψ α1 (ξ 1 ) ...ψ αn (ξ n ) .
On démontre comme dans le cas où n = 1 que A entrelace la représentation

U et T et nous avons Aψ α = uα .
Soit U (n) le groupe unitaire de Cn , ie le groupe des transformations linéaires

de C qui préservent la forme hermitienne
n
|z1 |2 + ... + |zn |2
C’est aussi le groupe des matrices d’ordre n à coefficients complexes qui vérifient
t−
U ∗ = U −1 où U ∗ = U .
Soit u ∈ U (n). L’application (z, w) 7−→ (uz, ω) est un automorphisme du

groupe de Heisenberg Hn . Une fonction f définie sur le groupe Hn est dite radiale
si elle est invariante
par U (n). Une fonction radiale f est de la forme f (z, w) =
F kzk2 , w où F est une fonction réelle.
∀ U ∈ U (n) et ϕ ∈ Hλ , on pose :

τ u ϕ (ξ) = u. ϕ (ξ) = ϕ u−1 ξ
Le groupe U (n) agit ainsi dans l’espace de Bargmann et nous avons :
τ u Tλ (z, w) τ u−1 = Tλ (uz, w) .
Cette relation montre que la représentation Tλ se prolonge au produit semi-direct G

de Hn par U (n) , G = Hn × U (n) .Le produit dans ce groupe est défini par :
∀ ((z, w) , u) , ((z 0 , w0 ) , u0 ) ∈ G
((z, w) , u) . ((z 0 , w0 ) , u0 ) = (z, w) . ((u z 0 , w0 ) , u u0 ) et le prolongement T̃λ de la re-

présentation Tλ au groupe G est donnée par :
T̃λ ((z, w) , u) = Tλ (z, w) τ u
L’espace Pm des polynômes en n variables homogènes de degré m est invariant par

U (n) et est irréductible sous son action.
Les espces Pm sont des sous-espaces de Hλ deux à deux orthogonaux et Hλ =
L∞
Pm .
m=0
178
§.III-2 REPRESENTATIONS INDUITES

III-2-1 - Représentations différentiables Soient G un groupe de Lie dé-
nombrable à l’infini et dG une mesure de Haar à gauche.
√
Soit G l’algèbre de Lie de G, GC = G ⊕ −1G la complexifiée de G., A
l’algèbre universelle enveloppante de Gc . (Les éléments de A sont consédérés comme
des opérateurs différentiels invariants à gauche sur G.
Soit E un espace vectoriel topologique localement convexe séparé com-

plet où la topologie est définie à partir de la famille de semi-normes continues
{|.|α , α ∈ U}.Considérons une représentation U continue de G dans E.
Définition III–2-1-1 : Un vecteur a ∈ E est dit différentiable pour U si l’appli-

cation x 7−→ U (x) a est un élément de C ∞ (G, E).
Exemple III–2-1-2 Soit U la représentation régulière gauche de G dans L2 (G).

Si f ∈ CC∞ (G) = D (G), alors f est différentiable pour U .
Il suffit de montrer que pour tout X ∈ G on a :
Z 2
lim t−1 [f (exp (t X) x) − f (x)] − Xf (x) dx = 0.
t→0 G G
2
Posons M2 = Sup |Xf (x)| .Si t est tel que 0 < |t| ≤ 1 alors
x∈G
2
t−1 [f (exp (−tX) x) − f (x)] − Xf (x)
2
≤ 2 t−1 [f (exp (−tX) x) − f (x)] + 2 |Xf (x)|2 ≤ 4 M
d’après le théorème de convergence bornée, on peut faire passer la limite sous le
signe somme. D’où le résultat.
Soit E∞ l’ensemble des vecteurs différentiables dans E pour U .

E∞ est stable par U . En effet :
Soient a ∈ E∞ , f ∈ CC∞ (G) , U (f ) a ∈ E∞ .On identifie l’application ã : x −→

U (x) a à un élément de L (Cc∞ (G) , E) .
x −→ U (x) U (f ) a = ã ∗ fˇ (x) ∈ C ∞ (G, E) .
Soit U un représentation continue de G dans E, E∞ l’espace des vecteurs diffé-
rentiables de E.
179
On va munir E∞ d’une topologique plus fine que celle héritée de E.
Considérons l’application a 7−→ ã de E∞ dans C ∞ (G, E).Cette application identifie

E∞ à un sous-espace fermé de C ∞ (G, E) .
Si (ãn ) converge vers f dans C ∞ (G, E) (an ∈ E∞ ) .Alors pour tout x ∈ G, f (x) =
U (x) f (1) (car ãn (x) = U (x) ãn (1)) .
Ainsi f est la fonction ã associée à a = f (1) dans E∞ .Ainsi nous allons munir E∞
d’une topologique induite par celle de C ∞ (G, E) (par l’identification a 7−→ ã). Alors
E∞ est complet pour cette topologique et est un espace de Fréchet si E est de Fréchet.
Les opérateurs U (x) , x ∈ G restreints à E∞ définissent une représentation

continue de G dans E∞ .
Définition III–2-1-3 La restriction U∞ de U à E∞ est appelée représentation

différentiable associée à U .
Soit U une représentation continue de G dans E. Alors U se prolonge à une repré-
sentation de A dans E∞ définie par
U (exp (tX) a) − a
U∞ (X) a = lim
t→0 t
Alors U∞ (X) a ∈ E∞ si a ∈ E∞ , X ∈ G et l’application X −→ U∞ (X) est une
représentation de G dans l’ensemble des endomorphismes continus de E∞ . L’exten-
sion de U à A sera notée de la même façon. Nous allons étudier une importante
extension d’un résultat familier d’Analyse Harmonique.
Soit E un espace vectoriel topologique complet séparé et localement convexe

dont la topologique est définie par une formule de semi-normes continues {|.|α , α ∈ U } .
Soit {ai , i ∈ I} unePfamille d’éléments de E.
On dit que la serie ai converge si, pour tout voisinage P de zéro, dans E, il existe
i∈I
un sous-ensemble finis
PFP ⊂ IPtel que si F1 , F2 sont deux sous-ensembles finis de I
contenant FP , on a ai − ai ∈ P.En ordonnant les sous-ensembles finis de I
i∈F1 i∈F2
par
l’inclusion, l’ensemble
P
sF = ai , F un sous-ensemble fini de I doit converger vers une limite s dans
i∈I
E, E étant complet.
180
P
On écrit s = ai . Les séries sont dites absolument convergentes si
i∈I
X
|ai |α < ∞ ∀α ∈ U.
i∈I
Soit K un groupe de Lie compact, U une représentation continue de K dans E.,

K̂ le dual unitaire de K. Pour chaque δ ∈ K̂, soient ξ δ le caractère
R de δ, d (δ) le
degré de δ et χδ = d (δ) ξ δ . Posons P (δ) = U (χ̄δ ) = d (δ) ξ δ (k) U (k) dk, dk
une mesure de Haar normalisée sur K.
Comme χδ ∗ χδ = χδ (relation d’orthogonalité de Schur), P (δ) est une

projection continue de E sur E (δ) = P (δ) E
(E (δ) est le K-sous-module isotypique de E) .
Théorème (Harish - Chandra)P III–2-1-4 Soit a un vecteur différentiable dans

E (pour U ). La série de Fourier P (δ) a converge absolument vers a.
δ∈K̂
Preuve : Comme K est compact, il existe une forme quadratique Q sur l’algèbre
de Lie K = Lie (K) qui est invariante sous l’action de la représentation adjointe de
une base orthonomale de K suivant Q.
K.Soient X1 , ...XnP
On pose Ω = 1 − n1 Xi2 . Ω appartient au centre de K. (l’agèbre universelle enve-
loppante de Kc ).
Fixons uδ ∈ δ. D’après le lemme de Schur, µδ (Ω) = c (δ) uδ (1) où c (δ) ∈ C. Comme

µδ (Xi ) est un opérateur anti hermitien, alors c (δ) est réel et c (δ) ≥ 1, d’autre part
Ωξ δ = c (δ) ξ δ . Donc P (δ) U∞ (Ω) a = c (δ) P (δ) a (a ∈ E∞ ).
Lemme 1 III–2-1-5 Fixons α ∈ U . Il existe un α0 ∈ U tel que

|P (δ) a|α ≤ c (δ)−m d (δ)2 |U∞ (Ωm ) a|α0 pour δ ∈ K̂, m ≥ 0 et a ∈ E∞ .
Preuve : Comme K est compact, l’ensemble {U (k) , k ∈ K} est équicontinu. Il

existe donc α0 ∈ U tel que
|U (k) b|α ≤ |b|α0 , ∀b ∈ E, k ∈ K et
|P (δ) b|α = |U (χ̄δ ) b|α ≤ d (δ)2 |b|α0 .

Car Sup |χδ | ≤ d (δ)2 .Nous venons donc de voir que si a est différentiable, alors
P (δ) a = c (δ)−m P (δ) U∞ (Ωm ) a (m ≥ 0)
donc le lemme est démontré.
181
P
Lemme III–2-1-6 (Conservons les notations précédentes) .Alors d (δ)2 c (δ)−m <
δ∈K̂
∞ pour m assez grand.
Preuve : Supposons que K est connexe. Soit K0 la composante neutre de K et

N = [K : K0 ] l’indice de K0 dans K.
Si δ ∈ K̂, δ 0 ∈ K̂ et [δ, δ 0 ] le nombre de fois que δ 0 est contenue dans la

restriction de δ à K0 . n o
Pour chaque δ ∈ K̂, posons K̂ (δ 0 ) = δ ∈ K̂ ; [δ : δ 0 ] ≥ 1 .D’après le théo-
rème de réciprocité de Frobénius on a :
X
[δ : δ 0 ] d (δ) = N d (δ 0 ) .
δ∈K̂(δ 0 )
Ωξ δ0 = c (δ 0 ) ξ δ0 où c (δ 0 ) = c (δ) pour toute δ ∈ K̂ (δ 0 ) donc

X X X X
c (δ)−m d (δ)2 ≤ c (δ 0 )−m d (δ)2 ≤ N 2 c (δ)−m d (δ 0 )2
δ∈K̂ δ∈K̂0 δ∈K̂(δ 0 ) δ∈K̂0
Ce qui montre qu’on doit s’assurer que K est connexe.

P
Preuve du Théorème : D’après le lemme précédent, P (δ) a converge ab-
δ∈K̂
solument. P
Posons a0 = P (δ) a.Pour chaque δ 0 ∈ K̂, on a P (δ 0 ) (a0 − a) = P (δ 0 ) a−P (δ 0 )
δ∈K̂
a = 0.  
X
P (δ 0 ) a0 = P (δ 0 ) P (δ) a = P (δ 0 ) a .
δ∈K̂
Lemme : Soit b ∈ E et supposons que P (δ) b = 0 ∀δ ∈ K̂. Alors b = 0.
Preuve : Fixons α ∈ U et choisissons un α0 ∈ U tel que |U (k) b|α ≤ |b|α0 ∀k ∈

K.Fixons ε > 0. il existe un voisinage Oε de 1 dansR K tel que |U (k) b − b|α <
ε , ∀k ∈ Oε .Choisissons f ∈ C (K) tel que f ≥ 0, K f (k) dk = 1 et f = 0 en
dehors de Oε .
Donc |U (f ) b − b|α ≤ ε.En utilisant le théorème de Peter - Weyl, il existe
une fonction K-finie h ∈ C (K) telle que Sup |h (k) − f (k)| ≤ ε.
k∈K
182

Donc |U (f ) b − U (h) b|α ≤ ε |b|α0 si |U (h) b − b|α ≤ ε |b|α0 + 1 .D’autre part,
comme
P h est K-fini, on peut trouver un sous-ensemble fini F de K̂ tel que h =
χ̄ ∗ h. Donc χ̄δ ∈ Z (L1 (K)) .Ainsi
δ∈F
P (δ) U (h) b = U (χ̄δ ∗ h) b = U (h) P (δ) b = 0

X
et U (h) b = P (δ) U (h) b = 0
δ∈F

donc |b|α ≤ ε |b|α0 + 1 ∀ε > 0 et b = 0 (α (b) = 0 =⇒ b = 0) .
Remarque III–2-1-7 Ce théorème montre qu’il existe D∞ ∈ Z (U P(Kc )) avec la

propriété suivante :Pour tout α ∈ U, ∃ α0 ∈ U tel que α ∈ E∞ |P (δ) a|α ≤
δ∈F
|U∞ (D∞ ) a|α0 .En particulier si U est une représentation de Banach de K, il existe D∞
tel que pour tout a ∈ E∞ on a :
X
kP (δ) ak ≤ kU∞ (D∞ ) ak .
δ∈k̂
On sait que la représentation

régulière
de G dans C ∞ (G) (ou Cc∞ (G)) est diffé-
rentiable.En identifiant χδ δ ∈ K̂ à un élément de Mc (G) .
On a : PL (δ) f = χδ ∗ f (L (χ̄δ )) PR (δ) f = f ∗ χδ (R (χ̄δ )) .On a les
résultats suivants :
Fixons f ∈ P C ∞ (G) . P
Les séries χδ ∗ f et f ∗ χδ ,convergent absolument vers f ∈ C ∞ (G),
δ∈K̂ δ∈K̂
(valable aussi pour f ∈ C0∞ (G)) .
P
Théorème III–2-1-8 L’espace E∞ ∩ E (δ) est dense dans E.
δ∈K̂
Preuve : On sait que l’espace de Garding (ensemble des combinaisons linéaires

des vecteurs U (f ) a où f ∈ C0∞ (G) , a ∈ E) est dense dans E. Par conséquent,
si α ∈ U, ε > 0 et a ∈ E, il existe f ∈ C0∞ (G) tel que |U (f ) a − a|α ≤ ε. Choi-
sissons
R un compact ω de G tel que Kω = ω et sup (f ) ⊂ ω et posons µ (g) =
G
|g| d G (x) (g ∈ C0∞ (G)). Alors µ est une semi-norme continue sur C0∞ (G).Pour
P
tout ensemble fini F de K̂ , posons χ̄F = χ̄δ .Alors supp (f − χF ∗ f ) ⊂ ω donc
δ∈F
|U (f − χ̄F ∗ f ) a|α ≤ c µ (f − χ̄F ∗ f ) .

où c = Sup |U (x) a|α < ∞.On peut donc choisir F tel que µ (f − χ̄F ∗ f ) ≤ ε/c.Par
conséquent |U (χ̄PF ∗ f ) a − a|α ≤ |U (f − χ̄F ∗ f ) a|α + |U (f ) a − a|α < 2ε et comme
U (χ̄F ∗ f ) a ∈ E∞ ∩ E (δ) on a le résultat.
δ∈F
183
Proposition III–2-1-9 Soit Ẽ un sous-espace de E stable pour {U (k) , k ∈ K}

Posons Ẽ (δ) = Ẽ ∩ E (δ) δ ∈ K̂ .
P
Si Ẽ (δ) est dense dans E, Alors Ẽ (δ)cl = E (δ) .
δ∈E
P
Preuve : Ẽ (δ) est K-stable (évident).Soit a ∈ E (δ) et supposons an −→ a
δ∈K̂
ou an ∈ Ẽ.
Comme P (δ) est une application continue, P (δ) an −→ P (δ) a = a,mais P (δ) an ∈
Ẽ (δ) donc Ẽ (δ) = E (δ) .
Par conséquent E∞ ∩ E (δ) = E (δ) .
P
Remarques * EK = E (δ) , E (δ) ⊂ Eω si dim (E (δ)) < ∞
δ∈K̂
et X
Ẽ (δ) est dense dans E.
δ∈K̂
* EK est dense dans E.

* Eω est dense dans E si 0 < dim E (δ) < ∞.
184
§.III-2-2 Représentation unitairement induite
d’un groupe de Lie
Soient G un groupe de Lie dénombrable à l’infini, H un sous-groupe fermé de
G, L une représentation unitaire de H dans un espace de Hilbert E.
L’objectif de ce paragraphe est de construire une représentation U L de G à partir
de L appelée représentation unitairement induite par L.
L’espace E L de U L sera définie comme un espace de fonctions localement sommables

sur G à valeurs dans E.
Définition III-2-2-1 Soit E L l’espace vectoriel des fonctions de G dans E telles

que
(1) f est dG -mesurable
1/2
(ii) f (xζ) = δ H (ζ) /δG (ζ) L ζ −1 f (x) , ∀ζ ∈ H, x ∈ G.
(iii) kf (.)k2 est localement sommable.

Il est clair que l’application x 7−→ kf (x)k2 est dG -mesurable f ∈ E L et
grâce à l’identité de polarisation, l’applicationx 7−→ (f (x) , g (x)) est dG -mesurable
et localement sommable pour tous f, g ∈ E L .
R
Soit φ ∈ Cc (G) , φ̇ (ẋ) = H φ (xζ) dH ζ, ẋ = xH.
Alors l’application φ 7−→ φ̇ est une surjection continue de Cc (G) sur Cc (G/H) .
Lemme III-2-2-2 Soit f, g ∈ ξ L . On peut définir une mesure de Radon µf,g sur
G/H par
Z Z
(f (x) , g (x)) φ (x) dG x = φ̇ (ẋ) dµf,g (ẋ) = µf,g φ̇
G/H
185

Preuve : Montrons que : φ̇ = 0 =⇒ µf,g φ̇ = 0. Fixons Ψ ∈ Cc (G) et
R R −1
−1

φ̇ = 0 H φ (xζ) dH ζ = H φ xζ δH ζ dH ζ = 0.On a :
Z Z

0 = (f (x) , g (x)) Ψ (x) φ xζ −1 δ H ζ −1 dH ζ dG x.
ZG ZH

= (f (x) , g (x)) φ (x) φ (x) φ xζ −1 δ H ζ −1 dG ξ dH (x)
ZH ZG

= (f (xζ) , g (xζ)) Ψ (xζ) φ (x) δ G (ζ) δ H ζ −1 dG x dH ζ
ZH G Z
= (f (x) , g (x)) φ (x) Ψ (xζ) dH ζ dG x
G H
R
Il suffit de prendre Ψ telle que H Ψ (xζ) dH ζ = 1 sur le support de φ.Soit E L le
sous-ensemble de E L des fonctions f telles que
µf,f (G/H) < ∞.

Grâce à la relation kf (.) + g (.)k2 ≤ 2 kf k2 + 2 kg.k ∀ f, g ∈ E L E L est un sous-
espace vectoriel de E L .On a évidemment : f, g ∈ E L =⇒ µf,g (G/H) < ∞Posons
(f, g) = µf,g (G/H) ∀ f, g ∈ E L
(, ) est une forme semi-définie positif et en identifiant les fonctions qui sont presque
partout égales, la forme (.) permet de munir E L d’une structure préhilbertienne.
Nous allons établir que l’espace E L est complet.
Lemme III-2-2-3 Pour chaque compact ω de G, il existe une constante Ωω telle

que Z
L
∀f ∈ E , kf (x)k dG x ≤ Ωω kf k .
ω
R
Preuve : Soit φ ∈ Cc+ (G) tel que φ ≡ 1 sur ω.Alors ω
kf (x)k2 dG x ≤
R
G
2
φ (x) kf (x)k dG x = µf,f φ̇ ≤ kφk∞ kf k2
et d’après l’inégalité de Cauchy-Schwartz on a :
Z 1/2
Ωω = kφk∞ dG (x)
ω
Proposition III-2-2-4 L’espace E L est complet.
186
Preuve : Soit {fn } une suite de Cauchy dans E L telle que kfn − fn+1 k < 2−n .Soit
ω un compact de G. - On a :
Z
kfn (x) − fn+1 (x)k dG n < 2−n Ωω .
ω
Z ∞
!
X
= kfn (x) − fn+1 (x)k dG n < 2−n Ωω
ω 1
donc pour tout x ∈ ω, {fn (x)} est de Cauchy dans E. Posons f (x) = limfn (x) .f
n
est dG -mesurable et vérifie
1/2
δ H (ζ)
f (xζ) = L ζ −1 f (x) ζ ∈ H, x ∈ H
δ G (ζ)
Montrons que kf (.)k2 et localement sommable, kf k < ∞ et kfn − f k −→ 0.

Soit φ ∈ Cc+ (G). D’après l’égalité du parallélogramme dans E on a :
Z
kfn (x) − fn+m (x)k2 φ (x) dG (x)
G
∞
X Z
≤ 2i
kfn+i−1 (x) − fn+i (x)k2 φ (x) dG x
1 G
∞
X
≤ 2i kfn+i−1 (x) − fn+i (x)k2 φ̇ < 2−2n+2 φ̇
∞ ∞
1
R
D’après le lemme de Fatou, G
kfn (x) − f (x)k2 φ (x) dG x ≤ 2−2n+2 φ̇ En suppo-
∞
2
sant φ = 1 sur ω, on a kfn (.) − f (.)k est sommable sur ω et donc fn − f ∈ E L =⇒
f ∈ E L. .D’autre part, φ étant arbitraire, on a kfn − f k ≤ 2−2n+2 =⇒ f ∈ E L donc
fn −→ f dans E L .
Montrons que E L contient suffisamment d’éléments.

Considérons les deux espaces vectoriels topologiques séparés E et F .
On dit que f est un morphisme strict si la bijection canonique de E/f −1 (0) sur F
est un isomorphisme topologique. Pour cela il faut et il suffit que f soit continue et
ouverte. Il convient de modifier quelques hypothèses.
Soit E un espace de Frechet et L une représentation différentiable de H dans
E.Considérons l’espace L C ∞ (G, E) des fontions f sur G à valeurs dans E telles que

a) f (xζ) = ρH (ζ)1/2 L ζ −1 f (x) , ∀ζ ∈ H, x ∈ G
b) L’image canonique dans G/H
du support de f est compact (ie sup p f est compact module H).
187
c) f ∈ C ∞ (G, E) .

δ H (ζ)
En particulier ρH (ζ) = δ G (ζ)
On munit L C ∞ (G, E) de la topologie suivante :Soit ω un sous-ensemble compact de
G. Soit L Cω∞ (G, E) le sous-espace de
C (G, E) des fonctions dont le support est contenu dans ωH. MunissonsL Cω∞ (G, E)
L ∞
de la topologie induite par celle de C ∞ (G, E). Pour cette topologie L Cω∞ (G, E) est
un espace de Frechet.On munit donc L C ∞ (G, E) de la ! topologie limite inductive
de celle de L Cω∞ (G, E) L ∞

C (G, E) = U L ∞
Cω (G, E) . .Soit f ∈ Cc∞ (G, E),
ω⊂G
compact
posons : Z
f L (x) = ρH (ζ)−1/2 L (ζ) f (xζ) dH (ζ) ∀ x ∈ G.
H
Lemme III-2-2-5 L’application π L : f −→ f L , est une surjection continue de

Cc∞ (G, E) sur L C ∞ (G, E). (un morphisme stricte).
Preuve : f L vérifie a) et b). Pour tout X ∈ G,

Z
L −1/2 f (exp (−tX) xζ) − f (xζ)
Xf (x) = lim ρH (ζ) L (ζ) dH ζ
t→0 H t
Comme spt (f ) est compact et les opérateurs L (ζ) constituent un ensemble équi-
continue quand ζ décrit un sous-ensemble compact de H, la limite existe. Ainsi
f L ∈ C ∞ (G, E) et pour tout opérateur différentiel invariant à droite D ∈ A on a :
Z
L
Df (x) = ρH (ζ)−1/2 L (ζ) Df (xζ) dH (ζ)
H
En plus si f ∈ Cω∞ (G, E), alors f L ∈L Cω∞ (G, E) pour tout ω compact de G. Mon-
trons que l’application : f 7−→ f L est continue.
Il suffit de montrer que l’application f 7−→ f L de Cω ∞ (G, E) dans L Cω∞ (G, E) est
continue.
Supposons fn −→ 0 dans Cω∞ (G, E). Montrons que fn −→ 0 dans L Cω∞ (G, E).
Donc pour tout compact ω 1 de G, montrons que DfnL −→ 0 sur ω 1 .
Soit P1 un voisinage convexe fermé de zéro dans E. Pour P1 , soit P2 un

voisinage de zéro dans E tel que : a ∈ P2 , ζ ∈ ω −11 ω ∩ H =⇒ L (ζ) a ∈ P1 (en
effet la fonction ζ 7−→ f (xζ) , f ∈ Cω∞ (G, E) a son support dans ω −1
1 ω ∩ H si
188
0 dans Cω (G, E)) donc

∞
x ∈ ω 1 .). ∃n0 / ∀ n ≥ n0 = Dfn (x) ∈ P2 (fn −→
R −1/2
∃n0 / ∀ n ≥ n0 , . D fnL (x) ∈ ρ (ζ)
ω2 H 1 ω 1 H pour
dH (ζ) P1 , ω 2 = ω −1
x ∈ ω.
D’où la continuité de l’application f 7−→ f L .Montrons que f 7−→ f L est

surjective.
Si α ∈ Cc∞ (G/H) et h ∈L C ∞ (G, E), la fonction x 7−→ α (ẋ) h (x) est encore
dans L C ∞ (G, E) .Ainsi L C ∞ (G, E) est un Cc∞ (G/H)-module.
En considérant G comme un espace fibré principal au dessus de G/H, choi-

sissons un recouvrement d’ouverts {Oi } de G/H et sur chaque Oi , il existe une
section de classe C ∞ , ẋ 7−→ si (ẋ) de π −1 (Oi ) .
Soit {Oi } une partition C ∞ de l’unité subordonnée à ce recouvrement et
Z
Ψ ∈ Cc (H) telle que
∞
ρH (ζ)−1/2 Ψ (ζ) dH (ζ) = 1
H
Pour tout h ∈L C ∞ (G, E), posons

X
L h (x) = φi (ẋ) Ψ si (ẋ)−1 x L x−1 si (ẋ) h (si (ẋ))
i
Alors L h ∈ Cc (G, E) , h −→L h est une application continue de C (G, E)

∞ L ∞
dans L Cc∞ (G, E) et L hL = h donc h −→L h est une inverse à droite continue de
f −→ f L . Par conséquent f −→ f L de Cc∞ (G, E) dans L C ∞ (G, E) est un morphisme
strict.
Retournons à la situation initiale en prenant L une représentation unitaire de H

dans un espace de Hilbert E. Soit L∞ la représentation différentiable de H dans E∞
canoniquement associée à L. E∞ est un espace de Frechet.
On peut donc considérer l’espace L∞ C ∞ (G, E∞ ).On a donc
L∞ ∞
C (G, E∞ ) ⊂L C (G, E) ⊂ E L .
On rappelle que la topologie de E∞ n’est pas la topologie induite par E mais celle
induite par celle de C ∞ (H, E) par l’identification
a 7−→ ã , ã (ζ) = L (ζ) a (a ∈ E∞ , ζ ∈ H)
Lemme III-2-2-6 L’injection de L∞ C ∞ (G, E∞ ) dans E L est continue et admet

donc une extension continue à L C (G, E).
D’autre part L∞ C ∞ (G, E∞ ) est dense dans E L
189
•
Preuve : Soit φ ∈ CC+ (G) tel que φ̇ = 1 sur sup \ p f , f ∈ Cc∞ (G, E) .Soit g ∈ E L .
Comme f L∞ s’annule en dehors de ωH (ω = sup p (f )), la mesure µ f L∞ , g doit
être portée par s\up (f ). En utilisant le théorème de Fubini on a :
Z Z

f L∞ , g =µ f L∞ , g (G/H) = φ (x) f L∞ (x) , g (x) dG x = (f (x) , g (x)) dG x.
G
donc
f L∞ , g ≤ ΩSpt(f ) kf k∞ kgk =⇒ f L∞ ≤ Ωspt(f ) kf k∞ .
donc l’injection de L∞ C ∞ (G, E∞ ) dans E L est continue et admet donc une extension
continue à L C (G, E) d’après le lemme précédent.
En effet l’application f −→ f L∞ de Cc∞ (G, E∞ ) sur L∞ C ∞ (G, E∞ ) admet une in-

verse à droite continue h −→ h , h ∈L∞ C (G, E∞ ) .
L∞
Ainsi si hn −→ 0 dans L∞ C ∞ (G, E∞ ) .Montrons que hn −→ 0 dans E L . Comme

hn −→ 0 dans Cc∞ (G, E∞ ) donc hn −→ 0 dans Cc∞ (G, E∞ ) .Choisissons un compact
L∞
ω ⊂ G tel que spt hn ⊂ ω (∀n ) et on a donc

L∞
L∞
hn = khn k ≤ Ωω hn −→ 0
L∞ L∞
Soit f ∈ Cc∞ (G) , a ∈ E∞

R
Alors (f ⊗ a)L∞ (x) = H ρH (ζ)−1/2 f (xζ) L∞ (ζ) adH (ζ) .
Pour montrer que L∞ C ∞ (G, E∞ ) est dense dans E L , il suffitde montrer que
L∞
(f ⊗ a) engendre un sous-espace dense de E L E L étant complet .
⊥
Montrons (f ⊗ a)L∞ = {0} .Si (f ⊗ a)L∞ , g = 0 pour toute
R
g ∈ E L ( f ∈ Cc∞ (G) , a ∈ E∞ )on a G
f (x) (a, g (x)) dG (x) = 0, ∀ f ∈ Cc∞ (G)
et a ∈ E∞
donc (a, g (x)) = 0 pp sur G donc g (x) = 0 ∀ x ∈ G et g = 0 CQF D
Par conséquent si a ∈ E et ε > 0, x ∈ G, alors il existe une fonction différen-

tiable f dans E L telle que
kf (x) − ak < ε
190
Remarque III-2-2-7 Soit S un sous-ensemble total dans E.
Alors (f ⊗ a)L∞ (f ∈ Cc∞ (G) , a ∈ S) est total dans E L .
Définissons la représentation U L de G induite par la représentation unitaire

L de H dans E.L’espace de la représentation de U L sera l’espace de Hilbert E L et
U L est définie par :
∀ f ∈ E L , U L (x) f = f ◦ Lx−1
* U L (xy) = U L (x) U L (y) , ∀ x, y ∈ G et U L (1) = 1
* U L (x) f = kf k ∀ x ∈ G et f ∈ E L .
En effet : Fixons x ∈ G , f ∈ E L et posons g = U L (x) f.Pour toute φ ∈
K (G) ,
Z Z
2
µg,g (φ) = φ (y) kg (y)k dG (y) = φ (xy) kf (y)k2 dG (y) = µxf,f φ̇
G G
donc µg,g = µxf,f =⇒ µg,g (G/H) = µxf,f (G/H) < ∞ donc
g ∈ E L et U L (x) f = kf k

* L’application x −→ U L (x) f, f est continue sur G pour
f ∈ E L .Il suffit de
montrer que l’application : x −→ U L (x) (f ⊗ a)L∞ , (f ⊗ a)L∞ est continue sur
G, pour toute f ∈ Cc∞ (G) et a ∈ E∞ .D’autre part
Z
U L (x) (f ⊗ a)L∞ , (f ⊗ a)L∞ = f x−1 y a, (f ⊗ a)L∞ (y) dG y.
G
Comme le terme de droite est évidemment continue en x, l’application consi-

dérée est donc continue.
Par conséquent U L est une représentation unitaire de G dans l’espace de

Hilbert E L .On dit que U L est une représentation unitairement induite par L. Elle
est notée G U L ou Ind L.
H ↑G
Remarques III-2-2-8 1) - Pour différent choix de mesure de Haar, on obtient

le même E de même norme à une constante près.
L
2) - Soit α un homéomorphisme de G sur G.

Si L est une représentation unitaire de H, U L la représentation unitairement
α
induite correspondante, alors U L est unitairement équivalente à U L où Lα est la
représentation de α (H) définie par :

Lα (ζ) = L α−1 (ζ) , ζ ∈ α (H) .
191
Exemples III-2-2-9 1) - Si H = {1} , L la représentation triviale de dimen-
sion 1 de H, alors U L est la représentation regulière gauche de G dans L2 (G) .
2) - Pour une certaine classe de groupes, toute représentation unitaire

irréductible est unitairement équivalente à une représentation unitaire induite par
une représentation d’un de ses sous-groupes. C’est le cas où G est un groupe de Lie
connexe, simplement connexe et nilpotent.
Nous allons étudier le rapport entre les mesures de type positif et les repré-
sentations unitairement induites.
La fonction rho (rho-function) est une fonction complexe ρ localement som-

mable sur G telle que :

δ H (ζ)
ρ (xζ) = ρ (x) , ∀ ζ ∈ H.
δ G (ζ)
Pour une fonction ρ, on peut définir une mesure µρ sur G/H par la formule :
Z Z Z
f (x) ρ (x) dG x = dµρ (ẋ) f (x ζ) dH ζ ∀ f ∈ Cc (G) .
G G/H H
Lemme III-2-2-10 Soient α une mesuresur Het f un élément de Cc (G).

Pour tout x ∈ G., posons φfx (ζ) = δδHG (ζ)
(ζ)
f (xζ) , ∀ζ ∈ H
et Z
∗
(x)
ρf = φfx ∗ φfx (ζ) dα (ζ) ∀ x ∈ G.
H
Alors ρf est une fonction-rho continue sur G.
D’autre part, la mesure µρf correspondant sur G/H a un support compact.
Z 1/2 !
δ G (ζ)
µρf (G/H ) = (f ∗ ∗ f ) (ζ) dα (ζ) .
H δ H (ζ)
Preuve
R : a) - Pour toute f ∈ Cc (G), il est claire que la fonction x −→
δ (ζ) /δH (ζ) f (xζ) dH ζ est une fonction rho continue sur G et la mesure cor-
H G
respondant sur G/H a un support compact.
b) - Un calcul direct montre que

Z 1/2 Z
δ G (ζ) ∗
(f ∗ f ) (ζ) dα (ζ) = g (x) dG (x)
H δ H (ζ) G
192
où Z

g (x) = f (x) (δ H (ζ) δ G (ζ))1/2 f xζ −1 dα (ζ) ∀ x ∈ G.
H
La fonction g ∈ Cc (G), donc on peut appliquer a) à g.
Soit ρf la fonction rho obtenue à partir de g, on a :
Z Z
δ G (ζ) ∗
ρf (x) = g (xζ) dH (ζ) = φfx ∗ φfx (ζ) dα (ζ)
H δ H (ζ) H
d’où le lemme.
Corollaire III-2-2-11 Soit α une mesure de type positif sur H, β l’injection de

(δ G /δH )1/2 α dans G.
Alors β est une mesure de type positif.
Z 1/2 !
δ G (ζ)
∀ f ∈ Cc (H) , β (f ) = f (ζ) dα (ζ) .
H δ H (ζ)
∗
Preuve : Comme α est de type positif, on a, en particulier, α φfx ∗ φfx ≥
0 ∀ x ∈ G et f ∈ Cc (G) .
D’où
µρf (G/H ) = β (f ∗ ∗ f ) ≥ 0 ∀ f ∈ Cc (G)
Théorème de Blattner III-2-2-12 Soit α une mesure de type positif sur le

sous-groupe fermé H de G ; β l’injection de (δ G /δH )1/2 α dans G. Alors β est une
mesure de type sur G. Soit A la représentation unitaire de H engendré par α, B la
représentation unitaire de G engendrée par β. Alors la représentation unitairement
induite U A de G est unitairement équivalente à B.
Preuve : Rappelons la construction de A et B. Soient

Iα = {f ∈ Cc (H) , α (f ) = 0}
et Iβ = {f ∈ Cc (H) , β (f ) = 0} deux ideaux de Cc (H) .
Soient les surjections canoniques
π α : Cc (H) −→ Cc (H) /Iα
et π β : Cc (H) −→ Cc (H) /Iβ .
L’espace Eα de la représentation de A est le completé de Cc (H) /Iα avec le produit
interne
Z
(π α (f1 ) , π α (f2 )) = (f2∗ ∗ f1 ) (ζ) dx (ζ) où fi ∈ Cc (H) i = 1, 2.
H
193
et l’espace Eβ de la représentation B est le completé de Cc (H) /Iβ avec le produit
interne
Z 1/2
δ G (ζ)
(π β (f1 ) , π β (f2 )) = ∗
(f2 ∗ f1 ) (ζ) dα (ζ) où fi ∈ Cc (G) i = 1, 2.
H δ G (ζ)
Soit f ∈ Cc (G) .
1/2
δ G (ζ)
∀ x ∈ G, notons φfx (ζ) = f (xζ) ζ ∈ H donc φfx ∈ Cc (H) .
δ H (ζ)

Posons φf (x) = π α φfx , x ∈ G.
Alors φf est une fonction sur G à valeurs dans Eα vérifiant :
1/2
δ H (ζ)
φf (xζ) = A ζ −1 φf (x) , ζ ∈ H, x ∈ G.
δ G (ζ)
Comme φf est continue à support compact modulo H, alors φf ∈ E A .Ainsi l’appli-

cation φ : f 7−→ φf est une application linéaire de Cc (G)
dans E A .
Montrons que si f ∈ Cc (G) , alors φf dans E A = kπ β (f )k dans Eβ . Par la
définition de kφkf on a :
2
φf = µρf (G/H )
2
où ρf (x) = π α φfx
Z
∗
= φfx ∗ φfx (ζ) dα (ζ) ∀x ∈ G
H
et d’autre part, d’après le lemme µρf (G/H ) = kπ β (f )k2 .On peut donc définir une
isométrie Q de Eβ dans E A telle que
Q (π β (f )) = φf , f ∈ Cc (G) .
Q entrelace B et U A . Il suffit de montrer que Q est une isométrie linéaire

de Eβ dans E A . Pour cela, il faut montrer que φ (Eβ ) = E A .
Montrons que Im (Q) contient un élément de E A de la forme (f ⊗ π α (g))A

(f ∈ Cc (G)) , g ∈ Cc (H)en utilisant la remarque précédente.
R 1/2
Soient f ∈ Cc (G) , g ∈ Cc (H)et h : x −→ H δδHG (ζ)
(ζ)
f (xζ) g ζ −1 dH (ζ) ∀ x ∈
GOn a : φ (h) = (f ⊗ π α (g))A .Par conséquent Q (Eβ ) est dense dans E A .
194
III–2-3 Système d”Imprimitivité
Soient G un groupe localement compact séparable et K un sous-groupe compact
de G., L une représentation de K dans H et U L la représentation induite G dans
H L (selon Mackey).
Soient Z un sous-ensemble de Borel de X = K \ G et χZ la fonction caracté-

ristique de Z. Pour tout u ∈ H L , posons (E (Z) u) g := χZ (ġ) , ġ = Kg,Cette
fonction est faiblement mesurable.D’autre part, pour tout k ∈ K, on a :
E (Z) u (kg) := χZ (ġ) u (kg) = LK (χZ (ġ) u (g)) = Lk E (Z) u (g)

R R R
et X kχZ (ġ) u (g)k2 dµ (ġ) = X χZ (ġ) ku (g)k2 dµ (ġ) = Z ku (ġ)k2 dµ (ġ) < ∞.Ainsi
E (Z) u ∈ H L .
D’autre part :
E (X) = I , E (φ) = 0
E (Z1 ∩ Z2 ) = E (Z1 ) E (Z2 )
et
E ∗ (Z) = E (Z)
et ∞
X
E (U Zi ) = E (Zi ) ou Zi ∩ Zσ = φ
1
∀i 6= σ.

Par conséquent l’application Z 7−→ E (Z)∈ L H définit sur X une mesure
L
spectrale et on a UgL0 E (Z) UgL0−1 u (g) = E Zg −1 u (g) .En effet

0

UgL0 E (Z) UgL0−1 u (g) = E (Z) UgL−1 u (gg0 )
0
• •
c0
= γ Z gg UgL−1 u (gg0 ) = χZ gg
c0 u (g)
0

= E Zg0−1 u (g)
car χZ (gg
c0 ) = χZ −1
(ġ)
g0
donc UgL E (Z) UGL−1 = E (Zg−1 ) ~
Ainsi à toute représentation induite U L de G, on peut lui associer une mesure spec-
trale E (Z) qui vérifie la propriété de transformation ~.
195
En général, soient X l’espace homogène du groupe G et U une représentatio-

nunitaire de G dans un espace Hilbertien H. Si E (Z) (Z ⊂ X) est une mesure
spectraleà valeurs dans L (H) qui vérifie ~, alors E (Z) est appelé système d’im-
primitivitépar U base sur X. Si l’action de G sur X est transitive alors E (Z) est
appelé systèmed’imprimitivité transitif.Une représentation qui admet au moins un
système d’imprimitivité est dite imprimitive.Le système d’imprimitivité donné par
la fonction spectral (∗∗) est appelé système d’imprimitivité canonique.
Avant de donner un exemple, nous allons énoncer et démontrer un théorème de

STONE.
Théorème III–2-3-1 Considérons G = Rn un groupe vectoriel additif et T une

représentation unitaire continue de G dans un espace de Hilbert H. Alors il existe
une ensemble unique d’opérateurs autoadjoints Y1 , Y2 , ...Yn qui commutent deux à
deux tel que
Yn
Tx = exp (i xk Yk ) ((1))
k=1
Preuve : On sait que tout caractère x̂ de G est de la forme :
x̂ (x) = exp i (x̂1 (x1 ) + ... + x̂n (xn ))

= exp i (x̂ (x)) , x̂ ∈ Rn
Ainsi le groupe dual Ĝ est isomorphe à G.Ainsi d’après le théorème de SN AG ,

Z
Tx = exp [i (x1 x̂1 + ... + xn x̂n )] dE (x̂) .
R
On a donc
n Z
Y
Tx = exp [i xk x̂k ] dE (x̂) ((2))
k= Rn
YZ Y
= exp [i xk x̂k ] dE (x̂k ) = exp [i xk Yk ]
Z R Z
où dE (x̂k ) = dE (x̂) et Yk = x̂k dE (x̂k ) .
Rn−1
196
Exemple III–2-3-2 Soit G = T 3,1 le groupe des translations de l’espace de
Minkowski M 4 et soit x −→ Tx une représentation unitaire de G dans un espace de
Hilbert H. L’espace dual Ĝ est identifié en physique à l’espace moment P qui est
isomorphe à M 4 . Ainsi la formule (1) peut s’écrire sous la forme
Z 3
X
Tx = exp (i xp ) dE (p) , xp = µµ pµ
P µ=0
où E (.) est une mesure spectrale sur l’espace moment. L’ensemble des opérateurs
auto-adjoints définis par (2) est dans ce cas :
Z
Pµ = pµ dE (p) , µ = 0, 1, 2, 3
p
et représente le moment énergie.
Supposons que pµ est l’opérateur moment d’un particule (relativiste) et soit

Λ −→ UΛ une représentation unitaire du groupe de Lorentz dans l’espace de Hilbert
H des fonctions de Wave. La décomposition spectrale (3) est de la forme :
Z
Pµ = pµ dE (p) où E (p)
p2 =m2
est la mesure spectrale associée aux moments Pµ . Comme Pµ est un opérateur ten-
soriel, d’après [1], on a :
3
X
UΛ−1 Pµ = UΛ−1 Pµ UΛ = Λµ−1γ = Λ−1
µ Pi
i=0
Ainsi
Z
ν
UΛ−1 Pµ UΛ = Λ−1
µ Pν d E (p)
2 −m2
Zp
= p0µ d E (Λp0 )
p0 2 =m2
et d’autre part on a :
Z

UΛ−1 Pµ UΛ = pµ d UΛ−1 E (p) UΛ
Par conséquent pour tout sous-ensemble de Borel Z, on a
UΛ−1 E (Z) UΛ = E (ΛZ) .
197
Ainsi, la mesure spectrale de l’opérateur moment est un système d’imprimitivité
pour U basé sur l’espace moment.
Nous allons étudier l’inéductibilité et l’équivalence des représentations in-

duites à partir d’un système d’imprimitivité.
Soit g −→ UgL une représentation unitairement induite d’un groupe locale-

ment compact G dans un espace de Hilbert H L . L’espace linéaire des combinaisons
linéaires des vecteurs de U(ϕ)
L
v pour ϕ ∈ C0 (G) et v ∈ H L est appelé espace de
Garding (noté DG ) de la représentation U L .
L’espace DG est un sous-espace dense de H L et invariant par Ug .

Un vecteur v ∈ H L est dit continu s’il peut être représenté comme une
fonction vectorielle continue sur G. (ie g 7−→ Ug v est continue) .
Lemme III–2-3-3 Soit µ (.) une mesure quasi-invariante sur K \G et sa dérivée

de Radon Nikodym continue. Alors tout vecteur v ∈ DG est une fonction vectorielle
continue sur G.
Lemme III–2-3-4 L’ensemble {v (e) , v ∈ DG } est dense dans l’espace H de la

représentation L du sous-groupe K.
(Voir [1] pour une démonstration)
Soient deux représentations T et T 0 de G dans H (T ) et H (T 0 ) respective-

ment, R (T, T 0 ) l’ensemble des opérateurs d’entrelacement.
R (T, T 0 ) est une espace vectoriel.
Si T = T 0 , R (T, T ) est une sous-algèbre fermée de L (H) .Si R (T, T 0 ) contient

un opérateur unitaire Ṽ , alors Ṽ Tg Ṽ −1 = Tg0
∀g ∈ G, par conséquent T et T 0 sont unitairement équivalentes.
0
Théorème III–2-3-5 Soient U L et U L deux représentations de G dans les es-
0
paces de Hilbert H L et H L induites par les représentations L et L0 du sous-groupe
fermé K ⊂ G.
Soit E (Z) (resp E 0 (Z)) le système d’imprimitivité canonique correspondant, où Z
est un sous-espace de Borel de K \ G. Alors l’espace R (L, L ) est
0
L0
isomporphe à l’espace S des opérateurs V ∈ L H , H L
tels que :
0 0
1) UgL V = V UgL pour tout g ∈ G i.e V ∈ R U L , U L
198
2) E 0 (Z) V = V E (Z) pour tout Z ⊂ K \ G.
Preuve : Construisons un isomorphisme ϕ de R (T, T 0 ) sur S.

Soit R ∈ R (L, L0 ) et v ∈ H L .Posons R̃v (g) . = Rv (g) , g∈G

0
Montrons que R̃ v ∈ H L .* R̃v (g) est faiblement mensurable.

∀ k ∈ K, R̃v (kg) = Rv (kg) = RLk v (g) = L0k Rv (g) = L0k R̃v (g)
d’autre part comme

Z Z
R̃v (g) , R̃v (ġ) dµ (ġ) = (Rv (g) , Rv (g)) dµ (ġ)
X X
Z
≤ kRk2 (v (g) , v (g)) dµ (g) = kRk2 (v, v)
X
L0
on a donc R̃ v ∈ H . l’opérateur R̃ est linéaire et
R̃ v ≤ kRk kvk , ie R̃ ≤ kRk

0
Ainsi R̃ ∈ L H L , H L . Montrons que R̃ ∈ S.
0
L
Ug0 R̃v (g) = R̃v (gg0 ) = Rv (gg0 )

= R UgL0 v (g) = R̃ UgL0 v (g) .
D’autre part pour tout ensemble de Borel Z de K \ G

on a

E 0 (Z) R̃v (g) = χZ (ġ) R̃v (g)
= χZ (ġ) (Rv) (gg0 )

= R (E (Z) v) (g) = R̃ E (Z) v (g)
On définit donc ϕ de la façon suivante.

ϕ : R (T, T 0 ) −→ S
R −→ R̃.
Il suffit de montrer que ϕ est surjective ie
∀ V ∈ S, ∃ R ∈ R (T, T 0 ) tel que ϕ (R) = V.

0
Soient DG et DG0
les sous-espaces de Garding de U L et U L respectivement et V ∈ S.
D’après la condition (1) on a V DG ⊂ DG 0
0.
199
Soient v ∈ DG et Z un sous-ensemble quelconque de X. De la condition 2)

on a Z
2
(Vv ) (g) , (V v) dµ (ġ) = kE 0 (Z) V vk
Z
= kV E (Z) vk2 ≤ kV k2 kE (Z) vk2

Z
== kV k2 (v (g) , v (g)) dµ (ġ) .
Comme les fonctions sous l’intégrale sont continues (Lemme 1), alors
((V v) (g) , V v (g)) ≤ kV k2 (v (g) , v (g))
pour tout g ∈ G.
En particulier kV v (e) vk kV k kv (e)k et du lemme 2, il existe une applica-

tion linéaire R̃ ∈ L (H, H 0 ) telle que V v (e) = R̃ v (e) .
Montrons que 0
R̃ ∈ R (L, L ) :
h 0 i
∀ g ∈ G, (V v) (g) = UgL V v (e) = V UgL v (e)

= R̃ UgL v (e) = R̃ vg et pour tout k ∈ k
L0k R̃ v (e) = L0k (V v) (e) = (V v) (k)
= R̃ v (k) = R̃ Lk v (e)
Ainsi, d’après le lemme 1, L0k R̃ = R̃ Lk , ∀ k ∈ K
i.e. R̃ ∈ R (L, L ). Par conséquent
0

V v = ϕ R̃ v et V = ϕ R̃ car D̄g = H L . C, Q, F, D.
Remarque III–2-3-6 L’irréductible de L ne garantie pas celle de U L . Cependant

dans certains cas comme le groupe produit semi-direct,
si L est irréductible alors U L l’est.
Soit U L une représentation induite dans H L et E (Z) le système d’imprimi-

tivité canonique correspondant.
On rappelle que la paire U L , E est irréductible, si
pour tout V ∈ L H , g ∈ G et un sous-ensemble de Borel Z ⊂ X, on a
L

V UgL = UgL V
=⇒ V = λ I
V E (Z) = E (Z) V

Le théorème suivant donne le critère d’irréductibilité de la paire U L , E .
200
Théorème III–2-3-7 Soit U L une représentation d’un groupe localement compact
induitepar une représentation L du sous-groupe compact K de G. Alors la paire
U L , E est irréductible si et seulement si la représentation L est irréductible.
Preuve : Appliquons le théorème précédent pour le cas où L = L0 . On a, d’après

la définition de l’irréductibilité que :

U L , E est irréductible ⇐⇒ S = {λ I, λ ∈ C}
et L est irreductible ⇐⇒ R (L, L) = {λ I, λ ∈ C}
Comme R (L, L) est isomorphe à S, on a donc le théorème.

0
Définition III–2-3-8 La paire U L , E est équivalente à la paire U L , E 0 , s’il
existe un opérateur unitaire V : H L −→ H L tel que
~
0
V UgL V −1 = UgL , ∀ g ∈ G,
V E (Z) V −1 = E 0 (Z) pour tout sous-ensemble de Borel Z ⊂ X.
Théorème III–2-3-9

U L , E ' U L E 0 ⇐⇒ L ' L0
Preuve :
U L , E ' U L E 0 ⇐⇒ L ' L
⇐⇒ ∃ V unitaire qui vérifie ~
L ' L ⇐⇒ ∃ un opérateur unitaire d’entrelacement R ∈ R (L, L0 ) .
0
D’après () , R est unitaire si seulement si V = ϕ (R) est unitaire. On a donc le

théorème d’après () .
0
Remarque ? III–2-3-10 De ce théorème, si L ' L0 alors U L ' U L .Ces différents
théorème ne donnent pas le critère d’irréductibilité de U L .
Néanmoins dans le cas où le système d’imprimitivité E (Z) est associé à une mesure
spectrale d’une représentation d’un sous-groupe communtatif N de G (comme le cas
du produit semi-direct G = N × M ) on a l’irréductibilité de U L .
201
III-2-4 - Théorème de Réciprocité de Frobenius

Considérons un groupe fini G. Nous allons énoncer le théorème de réciprocité de
Frobenuis.
i
Théorème III–2-4-1 Soit G un groupe fini et K un sous-groupe de G. Soit U L
une représentation de G induite par une représentation irréductible Li de K.
i
Alors la multiplicité d’une représentation U j de G dans U L est égale à la multi-
plicité de la représentation U i dans la restriction de U j à K.
Ce théorème joue un rôle très important dans la théorie des représentations des
groupes finis et leurs applications.
Nous allons étudier une généralisation de Mackey du théorème de réciprocité

d’une représentation induite d’un groupe localement compact.
Considérons la matrice :
 
n (1, 1) ... ... ... n (1, s)
 n (2, 1) ... ... ... n (2, s) 
 .. 
 
 . 
 .. 
 . 
n (r, 1) n (r, s)
où les lignes sont indexées par i qui désignent les représentations irréductibles Li
i
de K et les colonnes par j qui désignent es représentations irréductible U j de G et
i
n (i, j) la multiplicité de U j dans U L .
C’est une fonction de K̂ × Ĝ dans N.

Le théorème de réciprocité peut s’énoncer comme suite :
Théorème III–2-4-2 Il existe une fonction n (., .) du groupe dual K̂ × Ĝ dans N

telle que X X
i
UGL = n (i, j) UKj = n (h, j) Lh
j∈Ĝ h∈K̂
Supposons que G et K sont des groupes non compacts.

Soient Z1 et Z2 deux espaces de Borel et α une mesure finie sur Z1 × Z2 .
Soient α1 et α2 les projections de α sur Z1 et Z2 respectivement ie pour tout borelien
202
E1 ⊂ Z1 et E2 ⊂ Z2 on a :
α1 (E1 ) = α (E1 × Z2 ) , α2 (E2 ) = α (Z1 × E2 )
Grâce au théorème de désintégration de la mesure, il existe une mesure de Borel

finie β x dans Z2 telle que : Z
α= β x dα1 (x) .
Z1
ie pour tout borelien E ⊂ Z1 × Z2 , on a :

Z
α (E) = β x {y : (x, y) ∈ E} dα1 (x)
Z1
R
de même une mesure de Borel finie γ y dans Z1 telle que α = Z2 γ y dα2 (y) .On peut
donc énoncer la généralisation du théorème de réciprocité de Frobenius.
ThéorèmeIII–2-4-3 Soit K un sous-groupe fermé d’un groupe localement com-

pact G. On suppose que G et K sont de type I et leur dual respectif Ĝ et K̂. Soit
x
U L une représentation irréductible Lx de K. Alors il existe une mesure de Borel
finie α sur Ĝ × K̂ dans N ∪ {+∞} telles que :
1) - Les projections α1 et α2 de α sur K̂ et Ĝ sont équivalentes aux mesures

définies par la représentation régulière de K et G respectivement.
x R
2) - Pour tout x ∈ K̂ on a U L ' Ĝ n (x, y) U y dβ x (y) ou U y sont des repré-
sentations irréductibles de G et la mesure β x associée à α.
3) - Pour tout y ∈ Ĝ
Z
UKy ' n (n, y) Lx dγ y (x)
K̂
où γ y est associée à α.Voir la démonstration dans Mackey [1] .Si G est compact, les
intégrales directes de 2/ et 3) se réduit aux sommes directes et on a :
i
X X
UGL ' n (i, j) UGj et UKj = n (h, j) LhK
j∈Ĝ h∈K̂
On a ainsi une extension du cas des groupes finis.
203
Exemple III–2-4-4 Soit G un groupe compact et g −→ Ug la représentation
régulière G dans l’espace de Hilbert H = L2 (G). Nous avons vu que cette représen-
tation se considère comme une représentation U L de G induite par la représentation
identité L = Id du sous-groupe K = {e} où e est l’élément neutre de G.
Comme la multiplicité de L dans une représentation irréductible U j de G

restreint à K est égal à dim U j , alors d’après le théorème précédent mpt U j , U L =
dim U j .
Si G est un groupe de Lie simple non-compact, on sait que toute représenta-

tion unitaire non triviale est de dimension infinie. Ainsi toute représentation unitaire
irréductible non triviale contenu dans la représentation régulière y est contenu un
nombre infini de fois.
Exemple III–2-4-5 Soit G = T 4 ∆ S0 (3, 1) le groupe de Poincaré et le sous-

groupe K = T 4 ∆ S0 (3) .
Déterminons la mulplicité de la représentation n̂L : (a, r) −→ n̂ (a) L1r de K

dans la représentation U n̂L de G induite par la représentation n̂L de K.
On sait que U n̂L est irréductible cf []. Ainsi la représentation U n̂L restreint
à K contient n̂L au plus une fois.
Quelques commentaire III–2-4-6

La technique de représentations induites permet une classification des représenta-
tions unitaires irréductibles des produits semi-directs réguliers. Dixmier a montré en
1957 que toute représentation unitaire irréductible d’un groupe nilpotent connexe
G est induite par une représentation de dimension 1.
Kirillov a étudié en 1962 la théorie des représentations induites des groupes

nilpotent par la méthode des orbites.
Il y a en une extension de cette méthode à d’autres classes de groupes par

Bernat en 1965, Kostant en 1965, Pukansky en 1968 etc...
En particulier Auslander et Moore en 1966 ont donné une classification de la repré-

sentation induite de certain groupes de Lie résolubles.
Cette méthode des orbites est souvent utilisée en mécanique quantique.

La généralisation de la théorie des représentations induites aux extensions de groupe
à été élaborée par Mackey en 1958.
204
Chapitre 4
FONCTIONS SPHERIQUES
§.IV-1 :- GENERALITES SUR LES FONCTIONS SPHERIQUES
Soient G un groupe topologique localement compact, K un sous-groupe compact

de G. On note K\ (G) l’algèbre de convolution des fonctions complexes continues à
support compact et biinvariantes par le sous-groupe compact K de G. On suppose
dans toute la suite que (G, K) est une paire de Guelfand et on notera µK la mesure
de Haar normalisée de K.
IV-1-1 Notions de base
Définition IV-1-1-1 Une fonction sphérique (ou fonction zonale sphérique) sur
G relativement à K est une fonction ϕ continue sur G, biinvariante par K, telle
que l’application Z

f 7−→ χ (f ) = f (x) ϕ x−1 dµ (x) ,
G
soit un caractère de l’algèbre de convolution K \ (G), c’est-dire que
χ (f ∗ g) = χ (f ) χ (g) ; ∀ f, g ∈ K\ (G) .
Remarques IV-1-1-2 En général, une fonction sphérique n’est pas nécessaire-

ment à support compact.
Proposition IV-1-1-3 Soit ϕ une fonction continue sur G, biinvariante par K,

non identiquement nulle. La fonction ϕ est sphérique si et seulement si :
Z
∀ f, g ∈ G, ϕ (xky) dµK (k) = ϕ (x) ϕ (y) ,
K
205
CHAPITRE 4. FONCTIONS SPHERIQUES
où µK désigne la mesure de Haar normalisée du sous-groupe compact K. En parti-
culier ϕ (e) = 1.
Preuve : Pour une fonction f de K\ (G) posons :

Z

ϕ (f ) = f (x) ϕ x−1 dµ (y) .
G
Soit g une fonction de K (G) , \
Z

f ∗ g (x) = f (y) g y −1 x dµ (y)
G
et
Z Z Z
−1

ϕ (f ∗ g) = (f ∗ g) (x) ϕ x x dµ (x) = f (y) g (x) ϕ x−1 dµ (y) .
G G×G
Z Z

ϕ (f ) φ (g) = f (y) g (x) ϕ x−1 ϕ y −1 dµ (x) dµ (y) ϕ (f ∗ g) − ϕ (f ) ϕ (g)
G×G
Z Z

= ϕ x−1 y −1 − ϕ x−1 f (y) g (x) dµ (x) dµ (y)
Z ZG×G Z
−1 −1
−1
−1

= ϕ x ky dµK (k) − ϕ x ϕ y f (y) g (x) dµ (x) dµ (y)
G×G K
Z Z Z
−1

= ϕ xk y dµK (k) − ϕ (x) ϕ (y) f y −1 g x−1 dµ (x) dµ (y) .
G×G K
Si ϕ est sphérique alors :

ϕ (f ∗ g) − φ (f ) ϕ (g) = 0
donc Z
ϕ (xky) dµK (k) = ϕ (x) ϕ (y)
K
localement presque partout.Réciproquement si :
Z
ϕ (xky) dµK (k) = ϕ (x) ϕ (y)
K
alors ϕ (f ∗ g) = ϕ (f ) φ (g) pour f et g de K\ (G) et ϕ est sphérique C.Q.F.D.
Proposition IV-1-1-4 Soit ϕ une fonction continue sur G, biinvariante par K.ϕ
est sphérique si et seulement si :
(i) ϕ (e) = 1
(ii) Pour toute fonction f de K\ (G), on a f ∗ϕ = χ (f ) .ϕ.
206
Preuve Soit ϕ une fonction sphérique sur G.
(i) ϕ (e) = 1 En effet, d’après la proposition V-I-3, on a
ϕ (y) = ϕ (e) ϕ (y) ∀y ∈ G, par conséquent ϕ (e) = 1
(ii) soit f une fonction de K \ (G) . ∀y ∈ G

Z

f ∗ ϕ (x) = f (y) ϕ y −1 x dµ (y)
ZG Z

= dµK (k) f k −1 u ϕ u−1 k x dµ (u) en posant u = ky
ZK ZG Z Z
−1
−1

= dµK (k) f u k x dµ (u) = f (u) ϕ u k x dµK (k) dµ (u)
ZK G G
Z K

= f (u) ϕ u−1 ϕ (x) dµ (u) = ϕ (x) f (u) ϕ u−1 dµ (u) = ϕ (x) χ (f ) ∀x ∈ G
G G
et f ∗ ϕ = χ (f ) .ϕ
Réciproquement supposons (i) et (ii) soient vérifiées
Z Z Z
−1

χ (f ∗ g) = (f ∗ g) (x) ϕ x dµ (x) = f (x) g u−1 x ϕ x−1 dµ (x) dµ (y)
ZG Z G×G

= f (y) ϕ x−1 g y −1 x dµ (x) dµ (y)
ZG G Z
−1

= f (y) (g ∗ ϕ) y dµ (y) = f (y) χ (g) ϕ y −1 dµ (y)
G Z G

= χ (g) f (y) ϕ y −1 dµ (y) = χ (g) χ (f ) ∀f, g ∈ K\ (G)
G
donc χ est un caractère de l’algèbre de convolution .

Il en résulte que ϕ est sphérique C.Q.F.D.
Proposition IV-1-1-5. Soit L1 (G)\ l’algèbre de convolution des fonctions inté-

grables sur G biinvariantes par K. Tout caractère non nul de L1 (G)\ est de la
forme : Z

χ (f ) = f (x) ϕ x−1 dµ (x)
G
où ϕ est une fonction sphérique bornée.
Preuve : Soit χ un caractère non nul de L1 (G)\ .
207
On sait que tout caractère non nul d’une algèbre de Banach commutative est
une forme linéaire continue de norme 1 au plus. Or toute forme linéaire continue sur
L0 (G)\ s’écrit : Z
f 7−→ f ϕ0 dµ
où ϕ0 est une fonction de L∞ (G). Par conséquent on peut poser :

Z

χ (f ) = f (x) ϕ0 x−1 dµ (x) et |χ| = kϕ0 k∞ ≤ 1.
G
Soit f0 une fonction de K\ (G) telle que χ (f0 ) 6= 0.

Pour toute fonction g ∈ K\ (G) on a :
Z Z
−1 −1
χ (g) = χ (f0 ) χ (g ∗ f0 ) = (f0 ) g (y) f0 y −1 x ϕ0 x−1 dµ (x) dµ (y)
G×G
Z

= g (y) ϕ y −1 dµ (y)
G
R
où l’on a posé ϕ (y) = χ (f0 )−1 G f0 (y x) ϕ0 (x−1 ) dµ (x). La fonction ϕ est biinva-
riante par K et ϕ (e) = 1.
Z Z

χ (f ∗ g) = f (y) g y −1 x ϕ x−1 dµ (x) dµ (y)
Z ZG×G

= f (y) g (x) ϕ x−1 y −1 dµ (x) dµ (y)
Z G×G

= g ∗ ϕ y −1 dµ (y)
G Z

χ (g) χ (f ) = χ (g) f (y) ϕ y −1 x dµ (y)
Z

0 = χ (f ∗ g) − χ (f ) χ (g) = g ∗ ϕ y −1 − χ (g) ϕ y −1 f (y) dµ (y)
G
Ceci étant vrai pour toutes fonctions f et g de K\ (G) donc :

g ∗ ϕ (x) = χ (g) ϕ (x)
presque partout et d’après la proposition V-1-4, ϕ est presque partout égale à une
fonction sphérique.
Remarque IV-1-1-6 Supposons G commutatif et considérons la paire de Guel-

fand (G, {e}). On peut alors identifier l’espace K\ (G) à l’espace K (G). L’équation
fonctionnelle des fonctions sphériques devient
ϕ (x.y) = ϕ (x) ϕ (y) ,
208
autrement dit, une fonction sphérique sur G relativement à {e} est un homomor-
phisme continu de G dans le groupe U des nombres complexes de valeur absolue 1.
On appelle encore ces homomorphismes, les caractères du groupe commutatif loca-
lement compact G.
Notons ∆ l’opérateur de Laplace, si f1 et f2 sont deux fonctions de classe C 2 sur En

avec f1 à support compact, on montre que :
∆ (f1 ∗ f2 ) = ∆f1 ∗ f2 = f1 ∗ ∆f2 .
Proposition IV-1-1-7 Soit ϕ une fonction sur G = SO (n) ∆Rn biinvariante

par K = SO (n), elle peut être considérée comme une fonction radiale sur En . Pour
qu’elle soit une fonction sphérique, il faut et il suffit qu’elle vérifie :
(i) ϕ est de classe C ∞
(ii) Il existe un nombre complexe λ tel que
∆ϕ = λϕ
(iii) ϕ (0) = 1
Preuve : Supposons ϕ sphérique. Pour toute fonction radiale f , continue et à

support compact, on a d’après la proposition V-1-4 la relation :
f ∗ ϕ = χ (f ) ϕ ((1))
R
où χ (f ) = G
f (x) ϕ (−x) dµ (x) .
Si f est une fonction de classe C ∞ et χ (f ) 6= 0, d’après (1), ϕ est aussi de classe

C et on a :
∞
∆f ∗ ϕ = χ (∆f ) ϕ = f ∗ ∆ϕ = χ (f ) ∆ϕ
donc
χ (∆f ) ϕ = χ (f ) ∆ϕ.
et
χ (∆f )
∆ϕ = λϕ avec λ=
χ (f )
Réciproquement montrons que ϕ est sphérique. Soit f une fonction radiale sur En
continue et à support compact.
209
La fonction ψ = f ∗ ϕ est radiale comme composée de deux fonctions radiales et
de classe C ∞ .
∆ψ = ∆ (f ∗ ϕ) = f ∗ ∆ϕ = λ (f ∗ ϕ) = λψ
donc ψ est solution de l’équation ∆ψ = λψ, par conséquent ψ = Cϕ où C est un
nombre ne dépendant que de f , c’est-à-dire C = χ (f ) et par suite :
f ∗ ϕ = χ (f ) ϕ
D’après la proposition V-1-4, ϕ est sphérique. C.Q.F.D.
2/ Fonctions sphériques de type positif

On suppose que (G, K) est une paire de Guelfand. Nous allons définir les fonctions
de type positif, les fonctions pures et nous montrerons que les fonctions continues
de type positif ϕ biinvariantes par K vérifiant ϕ (e) = 1 qui sont pures sont les
fonctions sphériques.
Définition IV-1-1-8 Une fonction continue ϕ définie sur G est dite de type positif
si quels que soient les éléments x1 , x2 ...xN de G et les nombres complexes c1 , c2 ...cN
on a :
XN

ϕ x−1 i x j ci cj ≥ 0
i.j=1
Remarque IV-1-1-9 * Une fonction de type positif possède la symétrie hermi-

tienne :
ϕ x−1 = ϕ (x) et de plus |ϕ (x)| ≤ ϕ (e)
* Dans les espaces euclidiens, l’ensemble des fonctions sphériques de type positif
est égal à l’ensemble des fonctions sphériques bornées.
Proposition IV-1-1-10 Soit π une représentation unitaire continue de G dans

un espace de Hilbert H. Pour tout u de H,
ϕ : x 7−→ (u / π (x) u)
est continue et de type positif, on dit que ϕ est une fonction de type positif associée
à π.
210
Preuve : ϕ est continue à cause du fait que la représentation π est continue et
unitaire.
Montrons que ϕ est de type positif.
∀x1 , x2 ...xn ∈ G et c1 , c2 ...cn ∈ C on a :
n
X n
X n
X

ϕ x−1
i x j ci cj = u/π x−1
i x j u ci cj = u / π x−1
i π (xj ) u ci cj
i,j=1 i,j=1 i,j=1
n n n
!
X X X
= (ci π (xj ) u / cj π (xj ) u) = ci π (xj ) u / cj π (xj ) u
i,j=1 i=1 j=1
n 2
X
= ci π (xj ) u ≥0
i=1
et la proposition en résulte.
Proposition IV-1-1-11 Soit ϕ une fonction continue de type positif, biinvariante

par K. Il existe une représentation unitaire (π ϕ , Hϕ ) de G admettant un vecteur u
K-invariant et cyclique telle que :
ϕ (x) = (u / π ϕ (x) u) .
On dit que π ϕ est la représentation unitaire associée à ϕ.
Preuve : Soient ϕ une fonction continue sur G de type positif et biinvariante par
K et M0 (G) l’espace des mesures sur G de support fini, c’est-à-dire des mesures de
P
n
la forme µ = ai δ xi , δ xi étant la mesure de Dirac au point xi .Posons
i=1
Vϕ = {= µ ∗ ϕ / µ ∈ M0 (G)} ,
P
n P
n
où µ ∗ ϕ (x) = ai ϕ x−1
i x = ai xi ϕ (x) .Pour deux fonctions f = µ ∗ ϕ et
i=1 i=1
Pn P
n
g = ν ∗ ϕ de l’espace Vϕ avec µ == ai δ xi et ν == bi δ yi Posons
i=1 j=1
Z
(f /g) = µ ∗ ϕ (x) dν (x)
G
n
X Z n X
X n

(f / g) == ai ϕ x−1
i x dν (x) == ai bj ϕ x−1
i yj
i=1 G i=1 j=1
211
Muni de ce produit scalaire, Vϕ est un espace préhilbertien. On définit la représen-
tation π de G dans Vϕ par : [π (x) f ] (y) = f (x−1 y). Si f et g sont deux fonctions
de Vϕ on a : (π (x) f / π (x) g) = (f / g) .En effet : (π (x) f / π (x) g) = (x f / x g)
et pour tout élément y ∈ G on a :
n
X

xf
−1
(y) = f x y = µ ∗ ϕ x y = −1
ai ϕ (xxi )−1 y
i=1
n
X

xg (y) = g x−1 y = ν ∗ ϕ x−1 y = bi ϕ (xyi )−1 y
j=1
n X
X n

(x f / x g) = ai bj ϕ x−1 −1
i x xyj = (f / g)
i=1 i=1
Soit H l’espace de Hilbert complèté de l’espace préhilbertien Vϕ . La représentation

π se prolonge à H en une représentation unitaire. Nous noterons (π, H) la représen-
tation ainsi définie. Si u est l’élément de Hϕ correspondant à ϕ on a :
(u / π ϕ (x) u) = ϕ (x)
et le vecteur u est K-invariant et cyclique. C.Q.F.D.
Soient ϕ une fonction continue de type positif, biinvariante par K et (π, H) la

représentation unitaire associée à ϕ, admettant un vecteur u K-invariant et cyclique
telle que :
ϕ (x) = (u / π (x) u)
\
Lemme IV-1-1-12 Si ϕ est sphérique R alors pour toute fonction f de L (G) on
0
a : π (f ) u = χ (f ) u où π (f ) u = G π (y) u f (y) dµ (y) .
Preuve : Pour tout x de G on a :

Z Z
(π (f ) u / π (x) u) = π (y) u f (y) dµ (y) / π (x) u = (π (y) u / π (x) u) f (y) dµ (y)
G G
Z Z
−1
= u / π (y) π (x) u f (y) dµ (y) = u / π y −1 x u f (y) dµ (y)
ZG G

= ϕ y −1 x f (y) dµ (y) = f ∗ ϕ (x) = χ (f ) .ϕ (x)
G
= χ (f ) (u / π (x) u) = (χ (f ) u / π (x) u) .
212
et comme u est cyclique on a :
Z Z
(π (f ) u / π (x) u) = π (y) u f (y) dµ (y) / π (x) u = (π (y) u / π (x) u) f (y) dµ (y)
G G
Z Z
−1
= u / π (y) π (x) u f (y) dµ (y) = u / π y −1 x u f (y) dµ (y)
ZG G

= ϕ y −1 x f (y) dµ (y) = f ∗ ϕ (x) = χ (f ) .ϕ (x)
G
= χ (f ) (u/π (x) u) = (χ (f ) u / π (x) u) .
et comme u est cyclique on a : π (f ) u = χ (f ) u C.Q.F.D.

Soit (π, H) une représentation unitaire continue de G.
A toute mesure bornée µ sur G, on associe l’opérateur π (µ) défini par
Z
π (µ) = π (s) dµ (s) .
G
Plus précisément pour deux vecteurs v et w de H l’application

Z
(π (µ) v / w) 7−→ (π (s) v / w) dµ (s)
G
est bilinéaire et continu. Il existe donc un opérateur continu noté π (µ) tel que
Z
(π (µ) v / w) = (π (s) v / w) dµ (s)
G
Lemme IV-1-1-13 L’opérateur P = π (µK ) est le projecteur orthogonal sur le

sous espace HK des vecteurs K-invariants dans H.
Preuve : Nous allons montrer que P 2 = P, P ∗ = P et pour tout vecteur V de

H P v ∈ HK .
a) Soit v un vecteur de H
Z Z
π (k) P v = π (k) π (t) v dµK (t) = π (kt) v dµK (t)
Z K K
= π (t) v dµK (t) = P v donc P v ∈ HK

K
b) P 2 v = π (µK ) π (µK ) v = π (µK ∗ µK ) v = π (µK ) v = P v car µK ∗ µK =

µK et alors P 2 = P.
213
c) Soient u et v deux vecteurs de H
Z
∗
(P u / v) = (u / P v) = u / π (k) v dµK (k)
K
Z Z

= (u / π (k) v) dµK (k) = π k −1 u / v dµK (k)
K K
= (P u / v) donc P ∗ = P
Par conséquent P est le projecteur orthogonal sur HK .
Lemme IV-1-1-14 Si (π, H) est une représentation unitaire irréductible de G

alors dim HK = 1.
Preuve : Supposons que (π, H) est une représentation unitaire irréductible de G.

Le sous-espace HK est stable pour les opérateurs π (f ) lorsque f parcourt l’al-
gèbre K\ (G).
En effet, pour tout k ∈ K et tout x ∈ HK on a alors pour tout y ∈ H :

Z Z
(π (k) π (f ) x / y) = f (s) (π (k) π (s) x / y) dµ (s) = f (s) (π (ks) x / y) dµ (s)
ZG Z G

= f k −1 s (π (s) x / y) dµ (s) = f (s) (π (s) x / y) dµ (s)
G G
= (π (f ) x / y)
d’où π (k) π (f ) x = π (f ) x ∈ HK .
Nous obtenons ainsi une représentation π \ de l’algèbre commutative K\ (G) dans

l’espace HK :
π \ K\ (G) −→ L (HK )
f 7−→ π (f ) /HK
supposons que dim HK > 1.
Soient HK = F1 ⊕ F2 une décomposition de HK en deux sous-espaces propres

fermés invariants par π \ et orthogonaux, et u1 un vecteur non nul de F1 .
Posons :
H1 = {π (f ) u1 , f ∈ K (G)}
214
H1 est un sous-espace de H invariant pour π. Montrons que H1 est orthogonal à F2 .
Soit u2 un vecteur non nul de F2 on a :
π (k) u1 = u1 et π (k 0 ) u2 = u2 ∀k, k 0 ∈ K.
On peut donc écrire :
Z Z
(π (f ) u1 / u2 ) = (π (f ) π (k) u1 / π (k 0 ) u2 ) dµ (k) dµK (k 0 )
K×K
Z Z

= π k −1 π (f ) π (k) u1 / u2 dµK (k) dµK (k 0 )
Z ZK×K

= (π (εk−1 ∗ f ∗ εk−1 ) u1 / u2 ) dµK (k) dµK (k 0 ) = π f \ u1 / u2 = 0
K×K
car f \ ∈ K\ (G) et F1 est invariant par π \ .
Par conséquent H1 est orthogonal à F2 , donc distinct de H, et il est ainsi distinct

de {0} puisqu’il contient u1 et π n’est pas irréductible (contracdiction). Par suite
dim HK = 1. (car HK 6= {0}) .
C.Q.F.D.
Proposition IV-1-1-15 Soit π une représentation unitaire irréductible de G ad-

mettant un vecteur unitaire x0 K-invariant. La fonction ϕ définie sur G par
ϕ (x) = (π (x) x0 / x0 ) est continue, de type positif et sphérique.
Preuve : La fonction ϕ est continue et de type positif (Proposition II.2.3).Montrons

que ϕ est sphérique.
Z Z Z
−1

ϕ (xky) dµK (k) = (π (xky) x0 / x0 ) dµK (k) = π (ky) x0 dµK (k) / π x x0
K K K
R
Comme K
π (ky) x0 dµK (k) est K-invariant alors il existe un nombre complexe Cy
tel que Z
π (ky) x0 dµK (k) = Cy x0 .
K
Par suite
Z

ϕ (xky) dµK (k) = Cy x0 / π x−1 x0 = Cy ( π (x) x0 / x0 ) = Cy ϕ (x)
K
en posant x = e on a = Cy = ϕ (y) .
D’autre part ϕ est biinvariante par K par conséquent ϕ est sphérique.
C.Q.F.D.
215
Définition IV-1-1-16 Une fonction ϕ continue de type positif sur G est
dite pure si la représentation unitaire π ϕ est irréductible.
Théorème IV-1-1-17 Soit ϕ une fonction continue de type positif biinvariante

par K telle que ϕ (e) = 1. Les deux propriétés suivantes sont équivalentes
(i) ϕ est sphérique
(ii) ϕ est pure.
Preuve : Soit (π, H) la représentation unitaire associée à ϕ. Nous savons qu’il

existe dans H, un vecteur cyclique u K-invariant tel que
ϕ (x) = (u/π (x) u) .

R
Supposons que ϕ soit sphérique. Soit v ∈ H, P v = K π (k) v dµK (k) et si v =

π (f ) u avec f ∈ L1 (G)\ on a : P v = π f \ u.
En effet :
Z Z Z
Pv = π (k) π (f ) u dµK (k) = π (k) π (y) u f (y) dµK (k) dµ (y)
K
Z Z G K Z Z

= π (ky) u f (y) dµK (k) dµ (y) = π (x) u f k −1 x dµK (k) dµ (x)
ZG K G K

= π (x) u f (x) dµ (x) = π f u (car G unimodulaire).
\ \
G

D’après le lemme , π f \ u = χ f \ u donc :

P v = χ f \ u.
Ce qui montre que dim HK = 1 et par conséquent (π, H) est irréductible c’est-à-dire
que ϕ est pure.
Réciproquement si la fonction ϕ est pure (c’est-à-dire que la représentation

(π, H) est irréductible) d’après la proposition II.2.8, ϕ est sphérique.
3/ Exemples de fonctions sphériques
Exemple 1 Considérons la paire de Guelfand (G, K) où G = R et K = {0}. Les

fonctions sphériques sur G relativement à K sont les fonctions exponentielles
de la forme : ϕ (x) = eiλx où λ ∈ R.
216
Exemple 2 Soient z un nombre complexe et u un vecteur unitaire de En . La
fonction ϕz définie par :
Z
ϕz (x) = ez(u/x) dσ (u)
S n−1
où S n−1 est la sphère unité de En et σ une mesure de Haar normalisée sur S n−1 , est
une fonction sphérique sur SO (n) × Rn relativement à SO (n) .
En effet, posons :
f (x) = ez(u/x)
donc Z
ϕz (x) = f (x) dσ (u) .
S n−1
Comme
∆f = z 2 f alors ∆ϕz (x) = z 2 ϕz (x)
et Z
ϕz (0) = dσ (u) = 1.
S n−1
Il résulte de la proposition II.1.7 que ϕz est une fonction sphérique.
Exemple 3 Soient l’espace HS` des harmoniques sphériques de degré ` c’est-à-

dire l’espace des fonctions sur S n−1 qui sont restrictions à la sphère-unité des poly-
nômes harmoniques homogènes de degré ` et ϕ` la fonction zonale de HS` telle que
ϕ` (e0 ) = 1.
La fonction ϕ` peut être considérée comme une fonction sur SO (n + 1) biinva-

riante par SO (n) et ϕ` est une fonction sphérique.
En effet : Soit f une fonction continue sur SO (n + 1), biinvariante par SO (n).
Posons ψ = f ∗ ϕ` . La fonction ψ est biinvariante par SO (n) et considérée comme
une fonction sur S n , c’est donc une harmonique sphérique de degré ` et zonale.
Z

∀x ∈ G, ψ (x) = f ∗ ϕ` (x) = f (y) ϕ` y −1 x dµ (y) .
G
Comme les zonales de HS` constituent un espace vectoriel de dimension 1, ψ est

proportionnelle à ϕ` .
ψ = f ∗ ϕ` = χ` (f ) ϕ`
217
avec Z

χ` (f ) = f (y) ϕ` y −1 dµ (y)
G
et d’après la proposition, ϕ` est sphérique.
218
IV-1-2 FONCTIONS SPHERIQUES SUR UN GROUPE DE LIE
RESOLUBLE
I. Les paires de Gelfand résolubles
Dans ce chapitre il s’agit d’étudier les paires de Gelfand sur un groupe de Lie
résoluble connexe, simplement connexe. Mais nous nous intéresserons d’abord aux
paires de Gelfand sur un groupe de Lie nilpotent connexe, simplement connexe.
Soit N un groupe de Lie nilpotent connexe, simplement connexe d’algèbre de Lie

N . On a
N = exp(N ).
Soit K un sous-groupe compact du groupe des automorphismes de N . K est aussi
un sous-groupe compact du groupe des automorphismes de N et on a la relation
exp(k(X)) = k(exp X) ∀X ∈ N , k ∈ K.
Soit la série centrale descendante de N :
N = N (0) ⊃ N (1) ⊃ ........ ⊃ N (r) ⊃ ........ ⊃ N (n) = {0}
n étant la classe de nilpotence de N et N (r) = [N , N (r−1) ] pour r ≥ 1. Les idéaux

N (r) sont K− invariants et correspondent aux sous-groupes distingués

N (r) = N, N (r−1) de N.
Fixons une structure euclidienne K−invariante sur N . Posons alors :
N (r−1) = Nr ⊕ N (r) pour r ≥ 1,
où
Nr est l’orthogonal de N (r) dans N (r−1) .
Lemme IV-1-2-1 Soit N un groupe de Lie nilpotent connexe, simplement connexe

de classe n ≥ 3, alors
[N1 , N (n−2) ] 6= {0}
Preuve :
N (n−1) = [N , N (n−2) ] = [N1 + N (1) , N (n−2) ]
= [N1 , N (n−2) ] + [N (1) , N (n−2) ]
or
[N (1) , N (n−2) ] = [[N , N ], N (n−2) ]

⊂ [N , [N , N (n−2) ]] = [N , N (n−1) ] = N (n) = {0}
219
donc N (n−1) = [N1 , N (n−2) ]et comme N (n−1) 6= 0,alors
[N1 , N (n−2) ] 6= 0
Théorème IV-1-2-2 Soit N un groupe de Lie nilpotent connexe, simplement

connexe. K un sous-groupe compact du groupe des automorphismes de N . Si (N, K)
est une paire de Gelfand alors N est de classe ≤ 2; c’est à dire : N (2) = {e} (ou
N (2) = {0})
Preuve : Soit n le pas de N, alors N (n−1) 6= {e}c’est-à-dire
N (n−1) 6= {0}
Supposons n > 2 et soit X ∈ N1 , Y ∈ Nn−1 tel que [X, Y ] 6= 0. Ce qui est possible
puisque :
[N1 , N (n−2) ] = [N1 , Nn−1 + N (n−1) ]

= [N1 , Nn−1 ] + [N1 , N (n−1) ]
et [N1 , N (n−1) ] ⊂ [N , N (n−1) ] = N (n) = {0}c’est-à-dire [N1 , N (n−2) ] = [N1 , Nn−1 ] 6=

0 d’après le Lemme II.1.1.
(N ,K) étant une paire de Gelfand , d0 après le Théorème I .2.8, il existe k, l ∈ K tel
que : exp(Y ) exp(X) = k(exp X)l(exp(Y )) .Ce qui s’écrit encore exp(Y ) exp(X) =
exp(k(X)) exp(l(Y ))et en utilisant la formule de Baker-Campbel Hausdorf on a :
exp(X + Y + 21 [Y, X]) = exp(k(X) + l(Y ) + 21 [k(X), l(Y )])soit X + Y + 21 [Y, X] =
k(X)+l(Y )+ 12 [k(X), l(Y )].Les idéaux N (r) étant K−invariants l(Y ) ∈ N (n−2) car Y ∈
Nn−1 ⊂ N (n−2) .Ainsi X − k(X) = l(Y ) − Y − 12 [Y, X] + 12 [k(X), l(Y )] ∈ N (n−2) .La
structure éuclidienne étant choisie K-invariante, X − k(X) ∈ N1 . Comme N (n−2) ⊆
N (1) il vient que
X − k(X) = 0
car N1 et N (1) sont des sous-espaces supplémentaires orthogonaux.Donc (??) devient
Y + 21 [Y, X] = l(Y ) + 12 [X, l(Y )],soit
1 1
l(Y ) − Y = [Y, X] − [X, l(Y )]. (4.1)
2 2
on a l(Y ) − Y ∈ Nn−1 mais X ∈ N et Y ∈ N (n−2) (puisque N1 ⊂ N et Nn−1 ⊂
N (n−2) ).
Donc[X, Y ] ∈ N (n−1) ainsi que [X, l(Y )]. Ce qui implique que l(Y ) − Y ∈ N (n−1) .
220
Par conséquent l(Y ) − Y = 0 puisque Nn−1 et N (n−1) sont des sous-espaces supplé-
mentaires othogonaux, et la relation (4.1) devient
[Y, X] = [X, Y ]
soit 2[X, Y ] = 0 ce qui entraîne [X, Y ] = 0 Donc contradiction.

Nous allons étudier la théorie de Mackey et les paires de Gelfand nilpotentes.
Soit N un groupe de Lie nilpotent, connexe et simplement connexe. K un sous-

groupe compact du groupe des automorphismes de N . Si π et π 0 sont deux repré-
sentations unitaires irréductibles de N , nous noterons π∼π 0 pour dire que π et π 0
sont unitairement équivalentes. Notons N b l’ensemble des classes d’équivalence des
b de la façon suivante :
représentations unitaires irréductibles de N . K agit sur N
∀k ∈ K, ∀x ∈ G, π k (x) = π(k(x)).
Soit Kπ = {k ∈ K; π k ∼π}le stabilisateur de π sous cette action. Pour chaque k ∈ Kπ

il existe un opérateur d’entrelacement unitaire Wπ (k) tel que
π k (x) = Wπ (k)π(x)Wπ (k)−1 ∀x ∈ N.
L’application Wπ : k 7−→ Wπ (k) de Kπ dans U(Hπ ) définit une représentation

projective de Kπ . En effet si k1 et k2 sont deux éléments de Kπ , on a d’une part :
π k1 k2 (x) = Wπ (k1 k2 ) π(x)Wπ (k1 k2 )−1 d’autre part :
π k1 k2 (x) = π k1 (k2 (x))

= Wπ (k1 )π(k2 (x))Wπ (k1 )−1
= Wπ (k1 )Wπ (k2 )π(x)Wπ (k2 )−1 Wπ (k1 )−1
donc
Wπ (k1 k2 )π(x)Wπ (k1 k2 )−1 = Wπ (k1 )Wπ (k2 )π(x)Wπ (k2 )−1 Wπ (k1 )−1
Soit
[Wπ (k1 )Wπ (k2 )]−1 Wπ (k1 k2 )π(x) = π(x)[Wπ (k1 )Wπ (k2 )]−1 Wπ (k1 k2 )
et d’après le lemme de Schur : [Wπ (k1 )Wπ (k2 )]−1 Wπ (k1 k2 ) = σ(k1 , k2 )IHπ où σ(k1 , k2 )
est un scalaire et IHπ est l’identité sur Hπ .
Soit encore Wπ (k1 k2 ) = σ(k1 , k2 )Wπ (k1 )Wπ (k2 ).Ce qui montre que Wπ est une re-
présentation projective avec pour multiplicateur
σ : Kπ × Kπ −→ C.
221
On va considérer dans la suite Wπ comme une représentation unitaire de Kπ . Kπ
étant compact, Wπ se décompose en P somme directe de représentations unitaires
irréductibles de Kπ ,c’est-à-dire Wπ = mtp(T, Wπ )T où mtp(T, Wπ ) est la multi-
cπ
T ∈K
plicité de T dans Wπ .
D’après la théorie de Mackey, si nous choisissons une représentation unitaire irréduc-
tible ρ de Kπ , alors la représentation R du produit semi-direct Kπ B N dans Hρ ⊗Hπ
définie par : R(k, x) = ρ(k) ⊗ π(x)Wπ (k); k ∈ Kπ , x ∈ N où ρ est la représenta-
tion contragrédiente de ρ ; est irréductible.La représentation induite indKBN
Kπ BN (R) est
aussi irréductible et toute représentation unitaire irréductible de K B N s’obtient de
cette manière et on a : indKBNKπ BN (R)/K ∼indKπ (R/Kπ ) = indKπ (ρ ⊗ Wπ ). Le résultat
K K
suivant est une caractérisation très utile des paires de Gelfand.
Théorème IV-1-2-3 Soit N un groupe de Lie nilpotent connexe, simplement

connexe et K un sous-groupe compact du groupe des automorphismes de N . Alors
(N, K) est une paire de Gelfand si et seulement si pour toute π ∈ Nb ; la représen-
b
tation Wπ de Kπ se décompose sur Kπ avec des multiplicités inférieures ou égales à
1.Pour la preuve (sens direct) nous avons besoin des deux Lemmes suivants :
Lemme IV-1-2-4 Pour toute π ∈ N b et ρ ∈ K b π on a mtp(1K , indKBN (R)/K ) =

Kπ BN
mtp(ρ, Wπ ) où 1K est la représentation triviale.
Preuve :
R(k, x) = ρ(k) ⊗ π(x)Wπ (k), k ∈ Kπ , x ∈ N
P
Posons δ = ρ ⊗ Wπ et écrivons δ = mtp(ϕ, δ)ϕ .Alors
bπ
ϕ∈K
X
indK
Kπ (δ) = mtp(ϕ, δ)indK
Kπ (ϕ)
bπ
ϕ∈K
P
et mtp(1K , indK
Kπ (δ)) = Kπ (ϕ)) en utilisant la réciprocité
mtp(ϕ, δ)mtp(1K , indK
bπ
ϕ∈K
de Frobénius on a :
mtp(1K , indK
Kπ (ϕ)) = mtp(ϕ, 1K /Kπ )
222

1 si ϕ = 1Kπ
or mtp(ϕ, 1K /Kπ ) = mtp(ϕ, 1Kπ ) = il s’ensuit que mtp(1K , indK
Kπ (δ)) =
0 sinon
mtp(1Kπ , δ) déterminons mtp(1Kπ , δ). Ecrivons
X
Wπ = mtp (T, Wπ ) T
bπ
T ∈K
P
Alors δ = ρ ⊗ Wπ = mtp (T, Wπ ) ρ ⊗ T et
bπ
T ∈K
X
mtp(1Kπ , δ) = mtp (T, Wπ ) mtp(1Kπ , ρ ⊗ T ) (4.2)
bπ
T ∈K
Pour toute irréductible T de Kπ , le module Hρ∗ ⊗ HT , est équivalent au module

Hom(HT , Hρ ) et donc la triviale apparaît dans ρ ⊗ T si et seulement si T ∼ρ. Donc
on a mtp(1Kπ , δ) = mtp(ρ, Wπ )mtp(1Kπ , ρ ⊗ ρ). En outre comme les opérateurs
d’entrelacement pour ρ sont uniques à un scalaire près, on voit donc que la triviale
apparaît une seule fois dans ρ ⊗ ρ. Ainsi on a mtp(1Kπ , δ) = mtp(ρ, Wπ ) et par suite
on a mtp(1K , indK Kπ (δ)) = mtp(ρ, Wπ ) et comme indKπ (δ) ∼ indKπ BN (R) /K
K KBN
alors on a le résultat.
Lemme IV-1-2-5 Soient G un groupe localement compact et K un sous-groupe

compact de G. Si (G, K) est une paire de Gelfand alors pour toute représentation
unitaire irréductible (π, Hπ ) de G, le sous-espace HK de H formé des vecteurs
K−invariants est de dimension ≤ 1.
Preuve : (π,H) une représentation unitaire irréductible de G.
HK = {h ∈ H : π (k) h = h, ∀k ∈ K}
On notera aussi π la représentation sur L1 (G). Si f ∈ L1 (G\\K), π(f ) laisse stable

le sous-espace HK . On obtient ainsi une représentation π ] de l’algèbre L1 (G\\K)
dans l’espace HK .
π ] : L1 (G\\K) −→ U(HK )
f 7−→ π(f )/HK
Montrons que cette représentation est irréductible. Soit U un sous-espace fermé de
HK invariant pour π ] . Supposons U 6= {0} et posons
V = U ⊥.
223
On a : HK = U ⊕ V soit u1 un vecteur non nul de U . Posons

H1 = π(f )u1 / f ∈ L1 (G)
H1 est un sous-espace de H invariant pour la représentation π sur L1 (G) donc dense

dans H. Soit u2 ∈ V et f ∈ L1 (G)
R R R R 0
< π(f ] )u1 , u2 > = RG fR] (x)
R < π(x)u 1 , u2 > dx = G K K
f (kxk
R ) < π(x)u1 , u2 > dkdk 0 dx
0
= K K G f (x) < π(x)u1 , u2 > dxdkdk = G f (x) < π(x)u1 , u2 > dx
= < π(f )u1 , u2 >
donc < π(f )u1 , u2 >=< π(f ] )u1 , u2 > comme f ] ∈ L1 (G\\K) et u1 ∈ U alors
π(f ] )u1 ∈ U
et < π(f )u1 , u2 >= 0 .Ainsi V = H1⊥ = {0} puisque H1 = H. Par suite
HK = U
Ce qui montre que π ] est irréductible et comme L1 (G\\K) est commutative, alors
dimHK ≤ 1
Preuve du théorème IV-1-2-3 (=⇒)Soit (N, K) une paire de Gelfand alors

c et ρ ∈ K
(K B N, K) est une paire de Gelfand. Soit π ∈ N b π . Alors R0 = indKBN (R)est
Kπ BN
une représentation unitaire irréductible de K B N.
Ainsi d’après le Lemme II.1.5, le sous-espace des vecteurs K-invariants par R0 est
de dimension inférieure ou égale à1. C’est-à-dire mtp(1K , R0 /K) ≤ 1et par suite
d’après le Lemme II.1.4
mtp(ρ, Wπ ) ≤ 1.(⇐=) supposons que π ∈ N c satisfait la condition de multiplicité.
Ecrivons X
Hπ = Hρ
b
ρ∈K π
où les Hρ sont des sous-espaces Kπ irréductibles.(Si ρ n’est pas une sous-représentation

de Wπ alors Hρ = {0}). Soit f ∈ L1K (N ). Pour tout k ∈ Kπ on a
Z Z Z Z
π k (f ) = π k (x)f (x)dx = π(k(x))f (x)dx = π(x)f (k −1 (x))dx = π(x)f (x)dx = π(f )
N N N N
et comme
Wπ (k) ◦ π k (x) = π(x) ◦ Wπ (k), ∀x ∈ N
224
alors Wπ (k) ◦ π k (f ) = π(f ) ◦ Wπ (k) donc
Wπ (k) ◦ π(f ) = π(f ) ◦ Wπ (k)
comme pour toute ρ ∈ K b π , mtp(ρ, Wπ ) ≤ 1, alors chaque Hρ apparaît au plus
une fois dans la décomposition de Hπ et par suite π(f ) préserve chaque Hρ. Ainsi
Wπ (k)/Hρ ◦ π(f )/Hρ = π(f )/Hρ ◦ Wπ (k)/Hρ et Wπ/Hρ étant irréductible alors d’après
le Lemme de Schur
π(f )/Hρ = λ idHρ avec λ ∈ C.
c’est à dire que π(f ) agit comme un opérateur scalaire sur chaque Hρ . Il s’ensuit
que pour f et g ∈ L1K (N ), π(f ) et π(g) commutent. D’où
π(f ∗ g) = π(g ∗ f )
b , on conclut que f ∗ g = g ∗ f. ce qui
et cette égalité étant vraie pour toute π ∈ N
achève la démonstration.
IV-2-2 Fonctions Sphériques sur un groupe de Lie résoluble
Soit S un groupe de Lie résoluble connexe, simplement connexe unimodulaire et

S son algèbre de Lie. Soit NS le nilradical de S, K un sous-groupe compact du
groupe des automorphismes de S. Posons S0 = {X ∈ S : k (X) = X, ∀k ∈ K} .
Théorème V.2.6 Si K est connexe alors S = S0 + NS
Preuve : Soit SC = S⊗R C le complexifié de S. Tout automorphisme de S peut être

prolongé en un automorphisme de SC . Donc K ⊆ Aut(SC ). On a aussi (S0 )C = (SC )0
et NSC = (NS )C . Ainsi on peut supposer S complexe. Si K est abélien, posons pour
tout caractère χ :
Sχ = {X ∈ S : k (X) = χ (k) X, ∀k ∈ K} .
Alors on a X X
S= Sχ = S0 + Sχ .
b
χ∈K χ6=1
Soit X un élément non nul de Sχ avec χ 6= 1 et λ une valeur propre de adX, alors il
existe Y ∈ S, Y 6= 0 tel que : ad (X) (Y ) = λY c’est-à-dire [X, Y ] = λY. Pour tout
k ∈ K, on a
k (λY ) = k ([X, Y ]) = [k (X) , k (Y )]
= χ (k) ad (X) (k (Y ))
225
soit
ad (X) (k (Y )) = χ (k)λk (Y )
Ainsi χ (k)λ est aussi une valeur propre de ad (X) pour tout k ∈ K. Comme S est
de dimension finie et χ 6= 1 alors λ = 0 et par suite ad (X) est nilpotent pour tout X.
Donc Sχ est nilpotent pour tout χ 6= 1, par conséquent Sχ ⊂ NS pour tout χ 6= 1
et S = S 0 + NS . Revenons au cas général ; K étant compact et connexe, alors K est
réunion de ses tores maximaux . Soit X ∈ S, pour tout k ∈ K il existe T ⊂ K tel que
k ∈ T. D’après ce qui précède S = S 00 + NS où S00 = {X ∈ S : t(X) = X, ∀t ∈ T} .
On a donc
R k(X) ≡ X(mod NS ), pour tout k ∈ K. Il s’ensuit que
X0 = K k(X)dk ≡ X(mod NS ) et comme X0 ∈ S0 et X quelconque alors
S = S 0 + NS .
Soit X ∈ S, on définit iX ∈ Aut(S) par iX (y) = exp(X)y exp(−X), pour tout
y ∈ S. Notons N le groupe de Lie connexe associé à NS .
Théorème IV-1-2-7 Supposons K connexe. Alors (S, K) est une paire de Gelfand
si et seulement si (N, K) est une paire de Gelfand et pour tout X ∈ S0 et y ∈ S il
existe k ∈ K tel que iX (y) = k(y)
Preuve : (=⇒)Supposons que (S, K) est une paire de Gelfand. Alors en vertu du
Théorème I.2.8 on a pour tous x, y ∈ N ; xy ∈ (K.y) (K.x) (puisque N ⊂ S). N
étant nilpotent simplement connexe donc unimodulaire, on applique la réciproque
du Théorème I.2.8. et donc (N, K) est une paire de Gelfand. En outre si X ∈ S0
et y ∈ S, alors
exp (X) y ∈ (K.y)(K. exp(X)) = (K.y) exp(X)
Ainsi il existe k ∈ K tel que exp(X) y = k(y) exp(X), soit exp (X) y exp(−X) =
k(y), soit encore iX (y) = k(y).
(⇐=)Réciproquement supposons que (N, K) est une paire de Gelfand et pour tous
X ∈ S0 , y ∈ S il existe k ∈ K tel que iX (y) = k(y).
Notons que S = exp(S0 )N et soit X, Y ∈ S0 et x, y ∈ N
(K. exp(X)x)(K. exp (Y ) y) = exp(X) (K.x) exp (Y ) (K.y)

= exp(X) exp (Y ) exp (−Y ) (K.x) exp (Y ) (K.y)
= exp(X) exp (Y ) (K.x) (K.y)
en utilisant la deuxième condition.
(K. exp(X)x)(K. exp (Y ) y) = exp(X) exp (Y ) (K.y) (K.x)
226
car (N, K) est une paire de Gelfand.
(K. exp(X)x)(K. exp (Y ) y) = exp(X)(K. exp(Y )y) exp (−X) exp (X) (K.x)
= (K. exp(Y )y)(K. exp (X) x)
et comme S est unimodulaire on applique la réciproque du Théorème I.2.8 pour

conclure que (S, K) est une paire de Gelfand.
Corollaire IV-1-2-8 Si (S, K)est une paire de Gelfand alors S est de type−R.
Preuve : Supposons que (S, K)est une paire de Gelfand.Soit X ∈ S; Y ∈ S on a
iX (exp(Y )) = exp(X) exp(Y ) exp(−X)

= exp(Ad(exp(X))Y )
donc
iX (exp(Y ) = exp(exp(ad(X)(Y ))) (4.3)
(S, K) étant une paire de Gelfand si on prend X dans S0 alors d’après le Théorème
II.2.2, il existe k ∈ K tel que iX (exp(Y )) = k(exp (Y )) = exp (k (Y )) . D’après (4.3)
on a donc : exp (k (Y )) = exp(exp(ad(X)(Y ))),ce qui implique
k(Y ) = exp(ad(X)(Y )).
Par suite kY k = kexp(ad(X) (Y ))koù k.k est une norme K−invariante sur S. Ainsi
exp(ad(X)) est un opérateur orthogonal. Par conséquent les valeurs propres de
ad(X) sont dans iR pour tout X ∈ S0 . Maintenant prenons X dans NS , alors
ad(X) est nilpotent (puisque NS nilpotent) et par suite toutes les valeurs propres
de ad(X) sont nulles. Ce qui achève la démonstration puisque S = So + NS .
V-3. Exemples
a- Le groupe de Heisenberg
Soit Hn = Cn × R le groupe de Heisenberg de dimension 2n + 1, muni de la
multiplication :

0 0 0 0 1 0
(z, t) (z , t ) = z + z , t + t + Im (zz )
2
227
Soit U (n) le groupe unitaire de Cn . Tout k ∈ U (n) définit un automorphisme
de Hn :
k : Hn −→ Hn
(z, t) 7−→ (k (z) , t)
En effet
1 1
k ((z, t) (z 0 , t0 )) = k(z + z 0 , t + t0 + Im (zz 0 )) = (k(z) + k(z 0 ), t + t0 + Im (zz 0 ))
2 2
1
0 0
= (k(z) + k(z ), t + t + Im(k(z)k(z ))) = (k(z), t)(k(z 0 ), t0 )
0
2
car k conserve le produit scalaire hermitien. Donc k est un homomorphisme
et la bijection est due à k. Ainsi U (n) définit un groupe compact d’automor-
phismes de Hn . Les représentations irréductibles de Hn sont paramétrisées par
les
λ ∈ R∗ . Pour λ ∈ R∗ ,soit π λ un élément de H b n , il existe alors une réalisation
de π λ sur Hλ = {f : C −→ C, holomorphe :
n
Z
|f (w)|2 exp(−2|λ||w|2 )dw < +∞}.
Cn
Pour λ > 0 on a :
π λ (z, t)f (w) = exp(−iλt + λ(2 < w, z > −|z|2 )f (w − z)
et pour λ < 0 on a :

π λ (z, t)f (w) = exp −iλt − λ 2 < w, z > −|z|2 f (w − z)
où hw, zi est le produit scalaire hermitien sur Cn .
Déterminons Kπλ pour λ ∈ R∗ .Kπλ = {k ∈ U (n) : (π λ )k ∼π λ } . Tout k ∈ U (n)
définit un opérateur unitaire Wλ (k) de Hλ de la façon suivante :
Wλ (k) f (z) = f (k −1 (z)) avec f ∈ Hλ et z ∈ Cn et on montre que Wλ (k) est un
opérateur d’entrelacement de π λ et (π λ )k. En effet : pour λ > 0

Wλ (k) π λ k −1 (z) , t f (w) = π λ k −1 (z) , t f k −1 (w)

= exp(−iλt + λ(2 < w, z > − |z|2 ))f k −1 (w − z)
= exp(−iλt + λ(2 < w, z > − |z|2 ))Wλ (k) f (w − z)
= π λ (z, t) Wλ (k) f (w)
d’où Wλ (k) (π λ )k−1 (z, t) = π λ (z, t) Wλ (k) et par suite
(π λ )k (z, t) = Wλ (k) π λ (z, t) Wλ (k)−1 .
On montre de même cette relation pour λ < 0. Ainsi pour tout k ∈ U (n) , (π λ )k ∼π λ;
par conséquent Kπλ = U (n) pour tout λ ∈ R∗ . Si K est un sous-groupe compact de
U (n) alors le stabilisateur Kπλ = K, la représentation d’entrelacement étant Wλ /K .
228
Théorème IV-1-2-9 Soit K un sous-groupe fermé du groupe unitaire U (n). Les
propositions suivantes sont équivalentes.
(i) (Hn , K) est une paire de Gelfand.
(ii) K agit sans multiplicités sur l’espace des polynômes C[Cn ].
Preuve : Soit (z1 , ........, zn ) une base orthonormale de Cn . L’espace C[Cn ] est en-
gendré par les monômes z α , α ∈ Nn . Notons C[Cn ]r le sous-espace des polynômes
homogènes de dégré r(r ∈ N). Pour tout λ 6= 0, l’espace Hλ est somme directe
orthogonale des C[Cn ]r (r ∈ N). Soit ρ la représentation de K dans C[Cn ] associée
à l’action de K sur Cn , on a ρ (k) (P (z)) = P (k −1 (z)) = Wλ (k) P (z). ρ laisse les
C[Cn ]r invariants. Ainsi Wλ se décompose en somme directe des Wλr = Wλ /C[Cn ]r .
Si les C[Cn ]r ne sont pas irréductibles, on les décompose en somme directe de sous-
espaces irréductibles. Ainsi si (Hn , K) est une paire de Gelfand, d’après le Théorème
II.1.3, Wλ se décompose sur K b avec des multiplicités ≤ 1et il en est de même pour
ρ, par conséquent K agit sur C[Cn ] sans multiplicités. Réciproquement si K agit sur
C[Cn ] sans multiplicités alors Wλ se décompose sur K b avec des multiplicités ≤ 1 et
donc (Hn , K) est une paire de Gelfand en vertu du Théorème II.1.3.
b- Les fonctions polyradiales

Soit {b1 , ......., bn } une base orthonormale de Cn et soit K = Tn le sous-groupe
Pn
diagonal de U (n) qui agit sur Cn par k (z) = ti bi zi avec k = (t1 , ......, tn ) et
i=1
P
n
z= zi bi . Les monômes z , α ∈ N sont des vecteurs propres pour l’action de K. En
α n
i=1 P
effet si z = zi bi et k = (t1 , ......, tn ) on a k (z α ) = k (z)α or k (z) = (t1 z1 , ......, tn zn )
dans la base {b1 , ......., bn } donc k (z)α = (t1 z1 )α1 (t2 z2 )α2 ......... (tn zn )αn = k α z α avec
k α = tα1 1 ..........tαnn et z α = z1α1 ...........znαn où α1 + α2 + ....... + αn = |α| c’est-à-dire
k (z α ) = k α z α . Comme les z α engendrent C [Cn ] , les sous-représentations irréduc-
tibles de ρ (l’action de K sur C [Cn ]) sont les caractères χα : k 7−→ k α de K qui sont
tous différents. Ainsi K agit sans multiplicités sur C [Cn ]. Alors d’après le Théorème
II.2.1, (Hn , Tn ) est une paire de Gelfand. C’est-à-dire que l’algèbre des fonctions
polyradiales L1Tn (Hn ) est commutative. Si K 0 est un sous-groupe fermé de U (n)
contenant K = Tn alors (Hn , K 0 ) est aussi une paire de Gelfand.
3-Terminons ce paragraphe par un exemple de paire de Gelfand sur un groupe de
Lie résoluble qui ne soit pas nilpotent. Posons S = RBC avec R opérant sur
C de la façon suivante :
t : z 7−→ eit z, t ∈ R et z ∈ C et K = U (1) opérant sur C.
229
La loi du groupe est :

(t, z) (t0 , z 0 ) = t + t0 ; z + eit z 0 .
Ainsi le crochet est défini par :

0

[(t, z) , (t0 , z 0 )] = 0, z − z 0 + eit z 0 − eit z
On montre que D(2) S = {(0, 0)} et par suite S est un groupe de Lie ré-
soluble simplement connexe de classe 2 . On montre par contre que S n’est
pas nilpotent (∀n ∈ N, C (n) S = C). K = U (1) définit un groupe compact
d’automorphismes de S. Pour chaque k ∈ K, on a :
k : S −→ S
(t, z) 7−→ (t, k(z))
S =R ⊕ R2 est l’algèbre de Lie de S. On montre que N = C∗ et S0 = R

Comme (C∗ , U (1)) est une paire de Gelfand et ∀t0 ∈ R, ∀ (t, z) ∈ S on a :

0 0 it0
(t , 0) (t, z) (−t , 0) = t, e z = k (t, z)
0
avec k = eit et en vertu du Théorème II.2.2,(S, K) est une paire de Gelfand.
230
c. Fonctions sphériques sur les groupes de Lie nilpotents
Dans tout ce paragraphe N désignera un groupe de Lie nilpotent connexe, sim-

plement connexe et K un sous-groupe compact du groupe des automorphismes de
N . On supposera que (N, K) est une paire de Gelfand, dk la mesure de Haar nor-
malisée sur K et dx une mesure de Haar sur N .
Lemme IV-1-2-10 Soit φ une fonction K-sphérique bornée sur N . Alors il existe
b et un vecteur unitaire η ∈ Hπ telle que :
une représentation (π, Hπ ) ∈ N
Z
φ (x) = < π (k (x)) η, η > dk,
K
pour tout x ∈ N.
Preuve : φ étant K−sphérique, l’application

χφ : L1K (N R) −→ C
f 7−→ N f (x) φ (x) dx
est un caractère de L1K (N ). Comme L1 (N ) est une algèbre de Banach symétrique ; il

existe une représentation (e π , Hπe ) de L1 (N ) et un sous-espace Hφ de Hπe de dimension
1 telle que (eπ /L1K (N ) , Hφ ) soit équivalente à (χφ , C). Comme χφ est irréductible,
la représentation π e est aussi irréductible. Soit (π, Hπ ) la représentation unitaire
irréductible de N telle que (e π , Hπe ) soit la représentation associée à π sur L1 (N ).
C’est-à-dire
π (f ) = π e (f ) , ∀ f ∈ L1 (N )
Choisissons η ∈ Hφ avec kηk = 1. Alors pour chaque f ∈ L1K (N ) on a
e (f ) η = χφ (f ) η
π (f ) η = π
donc
Z
χφ (f ) = χφ (f ) < η, η >=< π (f ) η, η >= f (x) < π (x) η, η > dx
Z Z N Z Z
= f (x) < π (k (x)) η, η > dkdx = f (x) ( < π (k (x)) η, η > dk)dx
N K N K
c’est à dire
Z Z Z
φ(x)f (x) dx = f (x) ( < π (k (x)) η, η > dk)dx
N N K
231
Ceci étant vraie pour toute f ∈ L1K (N ) alors
Z
φ (x) = < π (k (x)) η, η > dk.
K
Dans la suite, pour toute π ∈ Nb et tout η ∈ Hπ on désignera par φπ,η la fonction

définie par : Z
x 7−→ < π (k (x)) η, η > dk
K
de N dans C.
Corollaire IV-1-2-11 Si φ est une fonction K−sphérique bornée sur N alors φ

est définie positive.
Preuve : φ étant K−sphérique bornée sur N , d’après le Lemme R III.2.1, il existe

c
une représentation π ∈ N et η ∈ Hπ de norme 1 telle que φ (x) = K < π (k (x)) η, η >
dk. Soient x1 , x2 , .........., xn éléments de G et c1 , c2 , ........, cn éléments de C
n
X n X
X n Z
ci cj φ(x−1
i xj ) = ci cj < π(k(x−1
i xj ))η, η > dk
i,j=1 i=1 j=1 K
Xn X n Z
= < cj π(k(xj ))η, ci π (k (xi )) η > dk
i=1 j=1 K
Z n
X n
X Z n
X
2
= < cj π(k(xj ))η, ci π (k (xi )) η > dk = ci π (k (xi )) η dk ≥ 0

K j=1 i=1 K i=1
donc φ est définie positive.

Pour π ∈ N b notons Kπ = {k ∈ K : π k ' π} et par Wπ la représentation d’en-
trelacement pour π (se conférer
P au paragraphe II.1). Si Hπ est l’espace de la repré-
sentation de π on a Hπ = Vα où chaque Vα est un sous-espace irréductible de
α
Hπ invariant par Wπ . Comme (N, K) est une paire de Gelfand les Vα en tant que
Kπ−modules, apparaissent au plus une fois.
b et k0 ∈ K. Si π 0 = π k0 alors Kπ0 = k0−1 Kπ k0 .

Lemme IV-1-2-12 Soit π ∈ N
232
Preuve Si k 0 ∈ Kπ0 alors π 0k0 ' π 0 et donc π 0k0 (x) = Wπ0 (k 0 ) π 0 (x) Wπ0 (k 0 )−1 pour
tout x ∈ N. Ainsi
−1 −1
π k0 k0 k0−1 (x) = π 0k0 (k0−1 (x)) = Wπ0 (k 0 ) π 0 (k0−1 (x))Wπ0 (k 0 )
= Wπ0 (k 0 ) π (x) Wπ0 (k 0 )
(4.4)
Ce qui montre que π k0 k0 k0−1 ' π c’est-à-dire k0 k 0 k0−1 ∈ Kπ soit Kπ0 ⊂ k0−1 Kπ0 k0 .Maintenant
soit k ∈ Kπ alors π k ' π et donc π k (x) = Wπ (k) π (x) Wπ (k −1 )Ainsi

π 0k−1 kk0 (x) = π kk0 (x) = Wπ (k) π (k0 (x)) W π k −1 = Wπ (k) π 0 (x) Wπ k −1 (4.5)
0
Ce qui implique k0−1 kk0 ∈ Kπ0 et par suite k0−1 Kπ k0 ⊂ Kπ0 De (A) et (B) on déduit
que k0−1 Kπ k0 = Kπ0 d’où la conclusion.
Corollaire IV-1-2-12 Si π 0 = π k0 alors Hπ et Hπ0 ont la même décomposition en

Wπ et en Wπ0 sous-espaces irréductibles respectivement.
Preuve Il suffit de montrer que tout sous-espace irréductible Vα invariant par Wπ

est aussi invariant par Wπ0 et vice-versa. D’après (4.4) et (??) on a
Wπ0 (k 0 ) = λWπ (k0 k 0 k0−1 ), λ ∈ C
Ainsi si Vα est invariant par Wπ alors Wπ0 (k 0 ) Vα = λWπ (k0 k 0 k0−1 )Vα ⊂ Vα .Supposons
maintenant que Vα est invariant par Wπ0 . De même d’après (4.5) et (??) on a
Wπ (k) = γWπ0 (k0−1 k 0 k0 ), γ ∈ Cpour tout k ∈ Kπ d’où le résultat attendu.
b et η ∈ Hπ
Théorème IV-1-2-13 Soit π ∈ N
(i) φπ,η est une fonction K-sphérique si et seulement si η ∈ Vα pour un certain α
et ||η|| = 1
(ii) φπ,η = φπ0 ,ξ si et seulement si il existe un k0 ∈ K tel que π 0 = π k0 , η et ξ
appartiennent à un même Vα .
Preuve Soit f ∈ L1K (N ) , π (f ) est un opérateur scalaire sur chaque Vα .(se conférer
à la réciproque du Théorème II.1.3 et remplacer Hρ par Vα ). Ainsi π (f ) = λf idVα
sur Vα avec λf ∈ C. Remarquons que :
λf = λf < η, η >=< λf η, η >=< π (f ) η, η > avec η ∈ Vα et kηk = 1
233
(i) (⇐=) Supposons η ∈ Vα et kηk = 1
Z
φπ,η (x) = < π (k (x)) η, η > dk
K
φπ,η est continue sur N , bornée et K−invariante. Il suffit de montrer que χφπ,η est
un caractère de L1K (N ) . Soit f ∈ L1K (N )
Z Z Z
χφπ,η (f ) = φπ,η (x) f (x) dx = < π (k (x)) η, η > f (x) dkdx
ZN N K
= < π (f ) η, η > dk =< π (f ) η, η > . (A0 )

K
Donc χφπ,η (f ) = λf . Ainsi si f et g sont dans L1K (N )
χφπ,η (f ∗ g) = < π (f ∗ g) η, η > (d’après (A’))

= < π (f ) π (g) η, η >= λf λg = χφπ,η (f ) χφπ,η (g)
donc χφπ,η est un caractère de L1K (N ) et par suite φπ,η est une fonction K−sphérique.
(=⇒) Réciproquement supposons P φπ,η K−sphérique avec η ∈ Hπ et π ∈ N b . On peut
supposer ||η|| = 1. Comme Hπ = Vα alors
α
X X
η= η 0α = tα η α avec η α ∈ Vα ; ||η α || = 1 et tα ≥ 0
α α
De plus
XX X X
||η||2 =< η, η >= tβ tα < η β , η α >= t2α < η α , η α >= t2α
β α α α
P2
ce qui entraine que tα = 1. Alors pour toute f ∈ L1K (N ) on a
α
χφπ,η (f ) = < π (f ) η, η > (A’)

X X
= t2α < π (f ) η α , η α >= t2α χφπ,η (f )
α
α α
Ce qui entraine X
χφπ,η = t2α χφπ,η
α
α
et X
φπ,η = t2α φπ,ηα .
α
234
φπ,η étant K-sphérique, définie positive alors φπ,η est pure, donc aussi extrémale.
(Se conférer à la Proposition 0.5.11). Ainsi φπ,η ne peut être une somme convexe de
fonctions K−sphériques. Donc φπ,η = φπ,ηα pour un certain α. Ce qui implique que
η = η α (tous les tβ étant nuls sauf tα = 1) donc η ∈ Vα pour un certain α.
(ii) (⇐=) Supposons qu’il existe k0 ∈ K tel que π 0 = π k0 et η, ξ appartiennent à un
même Vα ⊂ Hπ . Alors pour toute f ∈ L1K (N )
Z Z
χφπ,η (f ) = < π (f ) η, η >=< π (f ) ξ, ξ >= < π (k (x)) ξ, ξ > f (x) dkdx
Z Z N K
= < π (k0 k (x)) ξ, ξ > f (x) dkdx

ZN ZK
= < π 0 (k (x)) ξ, ξ > f (x) dkdx = χφπ0 ,ξ (f )
N K
donc φπ,η = φπ0 ,ξ . (=⇒) (Réciproque)

Rappelons la théorie de Mackey vue au Chapitre II. Soit π ∈ N b et ρ ∈ K bπ ,
R = ρ⊗πWπ , où ρ est la représentation contragrédiente de ρ et Wπ la représentation
d’entrelacement de π , est irréductible sur Kπ B N . Alors R e = indKBN (R)est une
KπBN
\
représentation unitaire irréductible de K B N et tout élément K B N est obtenue de
cette manière. Plus précisément toute représentation unitaire irréductible de K B N
est déterminée par la paire (π, ρ) avec π ∈ N b et ρ ∈ Kb π . Et si deux représentations
unitaires irréductibles de K B N déterminées par les paires (π, ρ) et (π 0 , ρ0 ) sont
équivalentes alors il existe k0 ∈ K : π 0 ' π k0 et ρ0 ' ρ ◦ ik0 où
ik0 : Kπ0 −→ Kπ = k0 Kπ0 k0−1
Nous avons vu que mtp(1Kπ ; ρ ⊗ Wπ ) = mtp(ρ; Wπ ). C’est-à-dire que ρ ⊗ Wπ a un
vecteur Kπ −invariant si et seulement si ρ est une sous représentation de Wπ . Ainsi
posons ρ = Wπ/Vα où Vα est un sous-espace Kπ −irréductible de Hπ invariant par
Wπ . Soit {v1 , ......., vm } une base orthonormale de Vα , posons
m
1 X
v=√ vi ⊗ vi ∈ HR = Vα ⊗ Hπ .
m i=1
pour k ∈ Kπ ,
m m
1 X 1 X
R (k) v = √ Wπ (k)vi ⊗ Wπ (k) vi = √ aij vj ⊗ aki vk ,
m i=1 m i,j,k
où A = (aij ) est la matrice de Wπ (k)/Vα dans la base choisie. Mais

m
X
aij aki = (AA∗ )kj = δ kj
i=1
235
puisque A est unitaire. Ainsi
m m m
1 XX 1 X 1 X
R (k) v = √ ( aij aki )vj ⊗ vk = √ δ kj vj ⊗ vk = √ vj ⊗ vj = v
m j,k i m j,k m j=1
Donc v est un vecteur Kπ −invariant pour R. Construisons un vecteur K-invariant

pour R e à l’aide de v.
Soit f : K BN −→ Vα ⊗Hπ définie par f (k, n) = (1⊗π(n))v. Montrons que f ∈ HRe .
En effet : pour tout (kπ , n) ∈ Kπ B N et k ∈ K on a :
f ((kπ , n) (k, e)) = f ((kπ k, n)) = (1 ⊗ π (n)) v
et
R (kπ , n) f (k, e) = R (kπ , n) (1 ⊗ π (e)) v = R (kπ , n) v = Wπ (kπ ) ⊗ π (n) Wπ (kπ ) v

= (1 ⊗ π (n)) R (kπ ) v = (1 ⊗ π (n)) v
donc R (kπ , n) f (k, e) = f ((kπ , n) (k, e)) Ainsi : pour tout
(kπ , n) ∈ Kπ B N et (k, g) ∈ K B N
f ((kπ , n) (k, g)) = f ((kπ , nkπ (g)) (k, e))

En utilisant deux fois (??),
f ((kπ , n) (k, g)) = R(kπ , nkπ (g))f (k, e) . = R((kπ , n) (e, g))f (k, e) = R (kπ , n) R(e, g)f (k, e)
= R(kπ , n)f ((e, g) (k, e)) = R(kπ , n)f (k, g)
donc f ∈ HRe . Pour k ∈ K,

e (k) f (k 0 , n) = f ((k 0 , n) (k, e)) = f (k 0 k, n) = (1 ⊗ π (n)) v = f (k 0 , n)
R
Donc f est un vecteur K-invariant pour R.e En plus

Z
kf k2 = < f, f >= < f (k, n) , f (k, n) >Vα ⊗Hπ dkdn
KBN/Kπ BN
Z
= < (1 ⊗ π (n)) v, (1 ⊗ π (n)) v >Vα ⊗Hπ dkdn
KBN/Kπ BN
Z Z Z
2 2
= k(1 ⊗ π (n)) vkVα ⊗Hπ dkdn = kvk dkdn = kvk2 dk = 1
KBN/Kπ BN KBN/Kπ BN K/Kπ
puisque
m m
1 X 1X
2
||v|| = || √ vi ⊗ vi ||2 = kvi ⊗ vi k2 = 1
m i=1 m i=1
236
(les vecteurs vi ⊗ vj forment un système orthonormal). Alors en se référant au Thèo-
rème III.1.5, l’application φe : x 7−→< R e (x) f, f > définit une fonction K-sphérique
sur K B N . Notons φ la restriction de φ eàN
Z Z
e
φ(n) = < R (n) f, f >= e
< R (n) f (k), f (k) > dk = < f ((k, e) (e, n)) , f (k) > dk
K/Kπ K/Kπ
Z Z
= < f (k, k (n)) , f (k) > dk = < (1 ⊗ π (k (n))) v, v > dk.
K/Kπ K/Kπ
Calculons < (1 ⊗ π (k (n))) v, v > . Pour k ∈ K,

1 P 1 P
< (1 ⊗ π (k (n))) v, v > = < (1 ⊗ π (k (n))) √ vi ⊗ vi , √ vj ⊗ vj >
m i m j
1P 1P
= < vi ⊗ π (k (n)) vi , vj ⊗ vj > = < π (k (n)) vi , vi >
m i,j m i
P
et pour k ∈ Kπ calculons < π (k (n)) vi , vi >;
i
P P
< π (k (n)) vi , vi > = < Wπ (k) π (n) Wπ (k)−1 vi , vi >
i i
P P
= < π (n) Wπ (k)−1 vi , Wπ (k)−1 vi > = < π (n) vi , vi >
i i
Ainsi
Z Xm Z X m
1 1
φ (n) = < π (k (n)) vi , vi > dk = < π (k (n)) vi , vi > dk
m K/Kπ i=1 m K i=1
Z m m
1 X 1 X
= < π (k (n)) √ vi , √ vj > dk = φπ,η0
K m i=1 m j=1
1 Pm
avec η 0 = √ vi . Ainsi φ = φπ,η0 . De même au couple (π 0 , Wπ0 /Vβ ), on peut
m i=1
construire une fonction K−sphérique φ e0 sur K B N dont la restriction φ0 = φe0
/N
0 0 1 P p
à N est égale à φπ0 ,ξ0 , avec ξ ∈ Vβ et ξ = √ ui où {u1 , ......, up } est une base
p i=1
orthonormale de Vβ . Pour tout η ∈ Vα et tout ξ ∈ Vβ on a φπ,η = φπ,η0 et φπ0 ,ξ = φπ0 ,ξ0 ,
d’après ce qui précède. Ainsi si φπ,η = φπ0 ,ξ alors φπ,η0 = φπ0 ,ξ0 et par suite φ = φ0 ce
qui implique φ e=φ e0 (puisque φ e (k, n) = φ e ((e, n) (k, e)) = φ (n)) on a alors R e' R e0
en vertu de la Proposition 0.5.12
Puisque R e est définie par la paire (π, Wπ/Vα ) et R e0 par la paire (π 0 , Wπ0 /V ) alors
β
il existe k0 ∈ K tel que
π 0 ' π ko
237
et Wπ0 /Vβ ' Wπ/Vα ◦ ik0 où ik0 : Kπ0 −→ k0 kπ0 k0−1 . Comme (N, K) est une paire de
Gelfand, chaque Kπ −module irréductible Vα apparaît au plus une fois dans Hπ0 .
Alors
Vβ = Vα .
d. Les fonctions sphériques sur les groupes de Lie résolubles
Soit S un groupe de Lie résoluble connexe, simplement connexe et unimodulaire

d’algèbre de Lie S, K un sous-groupe compact connexe du groupe des automor-
phismes de S.
S0 = {X ∈ S : k (X) = X, ∀ k ∈ K}
NS le nilradical de S et N = exp(NS ) on a S = S0 + NS . On supposera dans ce
paragraphe que (S, K) est une paire de Gelfand. Pour tout X, Y ∈ S0 , il existe un
k ∈ K tel qu’on ait exp (X)exp(Y ) exp (−X) = k(exp (Y )) en vertu du Théorème
II.2.2. Ce qui implique exp (X) exp (Y ) = exp (Y ) exp (X) et en appliquant la for-
mule de Baker-Campbell-Hausdorf on a : [X, Y ] = 0 pour tout X, Y ∈ S0 .
Soit X1 , X2 , ........., Xp une base de S01 ⊂ S0 un supplémentaire de N . Comme
S est simplement connexe, alors pour tout y ∈ S, il existe un unique n(y) ∈ N
P
p
et t(y) = (t1 (y), t2 (y), .., tp (y)) ∈ Rp tel que : y = n(y) exp ( ti (y)Xi ) soit encore
i=1
p
y = n(y) Π exp(ti (y)Xi ).
i=1
Théorème IV-1-2-14 Soit φ une fonction bornée, continue sur S et K−invariante.

φ est une fonction K−sphérique si et seulement si il existe une fonction K−sphérique
Ψ sur N et a ∈ Rp telle que φ(y) = Ψ(n(y)) exp(i < a, t(y) >).
Preuve (=⇒) Soit φ une fonction K−sphérique sur S , X, Y ∈ S0 et y ∈ S

on a
Z Z
φ(exp (X))φ(exp (Y )) = φ[exp (X) k(exp (Y ))]dk = φ[exp (X) exp(Y )]dk
K K
= φ[exp (X) exp (Y )].
238
Ainsi
Z
φ(y)φ(exp (X))φ(exp (Y )) = φ(y)φ[exp (X) exp (Y )] = φ[yk(exp (X) exp (Y ))]dk
Z K
= φ[y exp (X) exp (Y )]dk

K
On conclut donc :
φ(y)φ(exp (X))φ(exp (Y )) = φ(y exp (X) exp (Y )). (4.6)
La restriction de φ à N est une fonction K-sphérique sur N , on la notera Ψ. On

a: p
y = n(y) Π exp(ti (y)Xi )
i=1
p
Il vient, en vertu de (4.6), que : φ(y) = φ(n(y)) Π φ(exp(ti (y)Xi )). Mais pour tout
i=1
X ∈ S0 , l’application t 7−→ φ(exp (tX)) est un homomorphisme continu de R dans
C, Car
φ(exp((t + t0 )X)) = φ(exp (tX) exp (t0 X)) = φ(exp (tX))φ(exp (t0 X)).
Ainsi il existe a = (a1 , ......, ap ) ∈ Rp tel que :

p X
φ(y) = Ψ((n(y)) Π exp(iak tk (y)) = Ψ((n(y)) exp(i ak tk (y))
k=1
k
= Ψ(n(y)) exp(i < a, t(y) >).
(⇐=) Réciproquement, supposons qu’il existe Ψ une fonction K-sphérique sur N et

un a ∈ Rp tel que :
φ(y) = Ψ(n(y)) exp(i < a, t(y) >).
Si y = e alors n(y) = e et t(y) = 0; donc
φ (e) = Ψ (e) exp(i < a, 0 >) = Ψ (e) = 1
car Ψ est K-sphérique. Soit y et z éléments de S. On a

p p
y = n(y) Π exp(ti (y)Xi ) et z = n(z) Π exp(ti (z)Xi )
i=1 i=1
alors
p p
k (z) = k (n (z)) Π exp((ti (z)) k(Xi )) = k (n (z)) Π exp (ti (z) Xi ) .
i=1 i=1
239
p
Ainsi yk (z) = n(y)k (n (z)) Π exp[(ti (y) + ti (z))Xi ] et par suite
i=1
φ(yk (z)) = Ψ(n(y)k (n (z))) exp(i < a, t(y) + t (z) >)
alors
Z Z
φ(yk (z))dk = Ψ(n(y)k (n (z)))dk · exp(i < a, t(y) + t (z) >)
K K
= Ψ(n(y))Ψ (n (z)) exp(i < a, t(y) >) exp(i < a, t(z) >) = φ(y)φ (z)
donc φ est une fonction K−sphérique sur S.
240
Exemples
(1) G = Rn , K = {0}. Les fonctions sphériques sont les fonctions exponentielles

ϕ (x) = eiλ.x , λ ∈ Rn
et λ.x =< λ, x > où <, > est le produit scalaire euclidien sur Rn .
(2) Supposons maintenant que l’on soit dans la situation de la Proposition I.1.7 à
savoir G contient un sous-groupe fermé commutatif distingué A et un sous-
groupe compact K tels que l’application (t, s) 7−→ ts de K × A dans C soit
un homéomorphisme.
Soit α un homomorphisme continu de A dans le groupe C∗ . On définit sur G une
fonction de C (G\\K) en posant, pour x = ts avec t ∈ K et
Z

s ∈ A : ϕ (x) = α usu−1 dmK (u)
K
où mK est la mesure de Haar normalisée sur K. Montrons que ϕ est une fonction
K−sphérique sur G en vérifiant que
Z
ϕ (x) ϕ(y) = ϕ(xvy)dmK (v)
K
pour tous x, y ∈ G. Si x = t1 s1 , y = t2 s2 avec t1 , t2 dans K et s1 , s2 dans A, on a
pour v ∈ K
−1
xvy = t1 s1 vt2 s2 = t1 vt2 t−1 −1
2 v s1 vt2 s2 = t1 vt2 (((vt2 ) s1 vt2 )s2 )
Ainsi :
Z Z Z
ϕ(xvy)dmK (v) = α(u((vt2 )−1 s1 vt2 )s2 u−1 )dmK (u) dmK (v)
K ZK ZK
−1
= α vt2 u−1 s1 vt2 u−1 us2 u−1 dmK (u) dmK (v)
ZK ZK
−1
= ( α( vt2 u−1 s1 vt2 u−1 )dmK (v))α us2 u−1 dmK (u)
ZK Z K

= α(vs1 v −1 )α us2 u−1 dmK (u) dmK (v)
K K
en vertu du fait que K est unimodulaire. Donc

Z
ϕ(xvy)dmK (v) = ϕ (x) ϕ(y).
K
241
Prenons par exemple pour G le groupe des déplacements euclidiens de déterminant
1 formé des matrices :  
cos θ sin θ 0
 − sin θ cos θ 0 
x y 1
où θ ∈ [0,2π[,
 x, y ∈ R.  
 cos θ sin θ 0 
K=  − sin θ cos θ 0  , θ ∈ [0, 2π[ l’ensemble des matrices de G tels que
 
0  0 1  
 1 0 0 
x = y = 0 et A =  0 1 0  , x, y ∈ R l’ensemble des matrices de G tel que
 
x y 1
θ = 0. Une double classe KsK (s ∈ G) est formée des matrices de G pour lesquelles
x2 +y 2 a une même valeur rp 2
de sorte que les fonctions de C (G\\K) sont les fonctions
de la forme Ψ (r) avec r = x2 + y 2 et Ψ est une fonction continue dans [0, +∞[. Le
groupe A s’identifie à R2 et tout homomorphisme continu α de R2 dans C∗ est de
forme α : (x, y) 7−→ exp(λx + µy) où λ et µ sont des nombres R complexes arbitraires.
On a vu plus haut que la fonction ϕ définie par ϕ (x) = K α (usu ) dmK (u) est
−1
une fonction K−sphérique. usu−1 ∈ A c’est-à-dire

usu−1 = (x, y) avec x2 + y 2 = r2
et en posant x = r cos ϕ et y = r sin ϕ on déduit que les fonctions K−sphériques
sur G s’identifient aux fonctions Ψ continues sur [0, +∞[ définies par :
Z 2π
1
Ψ (r) = exp(r(λ cos ϕ + µ sin ϕ))dϕ
2π 0
(3)-N = Hn = Cn × R le groupe de Heisenberg de dimension 2n + 1. Nous avons vu
que les représentations unitaires irréductibles π λ (λ ∈ R∗ ) de Hn sont réalisées
dans l’espace :
Z
2 2
Hλ = f : C −→ C holomorphe :
n
|f (w)| exp(−2 |λ| |w| )dw < +∞
Cn
et
π λ (z, t) f (w) = exp(−iλt + λ(2 < w, z > − |z|2 ))f (w − z) , ∀ λ > 0.
On a montré que Kπ = K, pour tout sous-groupe compact K de U (n). Sup-
posons que K agit sans multiplicités sur C [Cn ] et notons <, >λ le produit
scalaire sur Hλ et soit Hλ = ⊕Vα , où Vα est un sous-espace Kπ −irréductible.
α
Alors d’après le Lemme III.2.1
Z
φπλ,f (z, t) = < π λ (k (z, t)) f, f > dk
K
242
est une fonction K−sphérique sur Hn dès que f est un vecteur unitaire ap-
partenant à un certain Vα . Comme Kπ = K alors ∀ k ∈ K,
π λ (k (z, t)) = Wλ (k) π λ (z, t) Wλ (k)−1
donc Z
φπλ,f (z, t) = < π λ (z, t) Wλ (k)−1 f, Wλ (k)−1 f >λ dk
K
Soit {f1 , ......., fm } une base orthonormale de Vα . Posons

1 X
f=√ fi
m i
alors
Z
1 X 1 X
φπλ,f (z, t) = < π λ (z, t) Wλ (k)−1 √ fi , Wλ (k)−1 √ fj >λ dk
K m i m j
Z X
1
= < π λ (z, t) Wλ (k)−1 fi , Wλ (k)−1 fj >λ dk
m K i,j
Z X
1
= < π λ (z, t) fj , fj >λ dk
m K j
Z
1X 1X 2
= < π λ (z, t) fj , fj >λ = π λ (z, t) fj (w) fj (w)e−2|λ||w| dw
m j m j Cn
Z
1X 2 2
= e−iλt+λ(2<w,z>−|z| fj (w − z) fj (w)e−2|λ||w| dw
m j Cn
1 −iλt X
= e < π λ (z, 0) fj , fj >λ
m j
Z
1 −iλt X 2
eλ(2<w,z>−|z| ) fj (w − z) fj (w)e−2|λ||w| dw
2
= e
m j Cn
= e−iλt φπλ,f (z, 0) = e−iλt Ψπλ,f (z)

1
Soit δ λ une dilatation définie par δ λ (z, t) = (λ 2 z, λt) et dλ : H1 −→ Hλ une
1
isométrie définie par dλ f (w) = f (λ 2 w), alors
1 1 1
dλ π 1 2 (δ λ (z, t)) f (w) = π 1 (δ λ (z, t)) f (λ 2 w) = π 1 (λ 2 z, λt)f (λ 2 w)
1 1 1 1
= exp(−iλt + (2 < λ 2 w, λ 2 z > −|λ 2 z|2 )f (λ 2 (w − z))
1
= exp(−iλt + λ(2 < w, z > − |z|2 ))f (λ 2 (w − z)) = π λ (z, t) dλ f (w)
.
243
Ainsi :
1X 1X
Ψπλ,f (z) = < π λ (z, 0) fi , fi >= < dλ π 1 (δ λ (z, o)) d−1
λ fi , fi >
m i m i
1X 1X
= < π 1 (δ λ (z, o)) d−1λ f ,
i λd−1
f i >= < π 1 (δ λ (z, o)) fi , fi >
m i m i
1X 1 1
= < π 1 (λ 2 z, o)fi , fi >= Ψπ1,f (λ 2 z),
m i
donc
1
φπλ ,f = exp(−iλt)Ψπ1,f (λ 2 z), ∀ λ > 0
∀ λ < 0,
1
φλ,f = φ|λ|,f = exp(−i |λ| t)Ψπ1,f (|λ| 2 z)
1
= exp(i |λ| t)Ψπ1,f (|λ| 2 z)
IV-1-3 - Transformation de Fourier Sphérique

Soit A une algèbre de Banach commutative ayant un élément unité e.
Définition IV-1-3-1 Pour tout x de A, on appelle transformée de Guelfand de x,

l’application gx de X (A) dans C définie par :
gx : X (A) −→ C
χ −→ χ (x) ou X (A) est le spectre de A.

L’application x 7−→ Gx de A dans CX(A) est appelée la transformation de Guelfand
associée à l’algèbre A..
Proposition IV-1-3-2 La transformation de Guelfand x 7−→ Gx est un homo-

morphisme continu de l’algèbre de Banach A dans l’algèbre de Banach CC (X (A))
des fonctions complexes continues sur X (A).
Preuve :
∀x ∈ A, kgxk = Sup |(gx) (χ)| = Sup |χ (X)| .
κ∈X(A) χ∈X(A)
et comme χ est une forme linéaire continue de norme 1, on en déduit que x 7−→ gx
est continue. D’autre part :
(g (x y)) (χ) = χ (x y) = χ (x) χ (y)

= (g x) (χ) . (g y) (χ) ∀x ∈ X (A)
244
donc
g (x y) = g x . g y
C.Q.F.D.
Remarque IV-1-3-3 La transformation de Guelfand n’est pas nécessairement

injective.
Exemple IV-1-3-4 Soient X un espace compact, métrisable et CC (X) l’algèbre

de Banach des fonctions continues complexes sur X. Considérons l’application
∀f ∈ CC (X) , CC (X) −→ C
f 7−→ f (x) = εx (f )
où εx est la mesure de Dirac au point x. Les mesures εx sont les caractères de CC (X),
l’application
g f : εX 7−→ εX (f ) = f (x)
est la transformée de Guelfand de f et l’application f 7−→ g f de CC (X) dans
C X (CC (X)) est la transformation de Guelfand.
Remarque IV-1-3-5 En identifiant X à X (CC (X)) par l’homéomorphisme x −→

εX , la transformation de Guelfand devient l’application identique.
Soient (G, K) une paire de Guelfand, S (G/K) l’espace des fonctions sphériques
bornées sur G relativement à K et µ une mesure de Haar à gauche.R Nous avons vu
que si ϕ appartient à S (G/K), l’application f 7−→ χϕ (f ) = G f (x) ϕ (x−1 ) dµ (x)
est un caractère de L1 (G)\ et tout caractère de L1 (G)\ est de cette forme. Par consé-
quent l’application ϕ −→ χϕ est bijective et permet d’identifier l’espace S (G/K)
au spectre de l’algèbre de Banach L1 (G)\ .

gf
X L1 (G)\ −→ C
& % Ff
S (G/K)
et F f ◦ F = g f.
F étant un homéormorphisme, d’après ce diagramme, la transformée de Guelfand
d’un élément f de L1 (G)\ peut être identifiée à la fonction complexe F f définie sur
S (G/K) par Z

F f (ϕ) = f (x) ϕ x−1 dµ (x)
G
d’où la définition suivante.
245
Définition IV-1-3-6 Soit f une fonction de L1 (G)\ .
On appelle transformée de Fourier sphérique de la fonction f, la fonction
F f définie sur S (G/K) par :
Z

(F f ) (ϕ) = f (x) ϕ x−1 dµ (x) .
G
On appelle cotransformée de Fourier sphérique de la fonction f , la trans-

formée de Fourier sphérique de la fonction
R fˇ, autrement dit la fonction
ˇ ¯
f f , notée f f définie par : F̄ f (ϕ) = G f (x) ϕ (x) dµ (x) .L’application
F : f 7−→ F f de L1 (G)\

dans CC X L1 (G)\ est appelée la transformation de Fourier sphérique.
C’est encore la transformation de Guelfand associée à l’algèbre de Banach
L1 (G)\ .
Remarque IV-1-3-7 a) Les fonctions complexes F f et F̄ f ont un support

non compact même si f est à support compact.
\
b) La fonction F f appartient à l’espace CC X L (G)
0 1
des fonctions

\
continues sur X L1 (G) tendant vers 0 à l’infini.
Proposition IV-1-3-8 Soient deux fonctions f et g de L1 (G)\ .

a) F (f ∗ g) = (F f ) (F g) et F̄ (f ∗ g) = F̄ f F̄ g
b) F (s f ) (ϕ) = ϕ (s−1 ) F f (ϕ) et F̄ (s f ) (ϕ) = ϕ (s) (F f ) (ϕ)

c) F (s f ) (ϕ) = ϕ (s) F f (ϕ) et F̄ (fs ) (ϕ) = ϕ (s−1 ) F̄ f (ϕ) .
Preuve : a) Montrons que :
F (f ∗ g) = (F f ) (F g) ∀f, g ∈ L1 (G)\
F (f ∗ g) (ϕ) = χϕ ( f ∗ g) = χϕ (f ) . χϕ (g)
= F f (ϕ) . F f (ϕ) = (F f ) (F g) (ϕ)
246
pour tout ϕ ∈ S (G/K) et f ∈ L1 (G)\
Z

F (s f ) (ϕ) = f s−1 x ϕ x−1 dµ (x)
ZG Z Z

= f (x) ϕ x−1 s−1 dµ (x) = f (x) ϕ x−1 dµK (t)
ZG Z G×K

= f (x) .ϕ x−1 t s−1 dµ (x) dµK (t)
G×K
Z Z

= f (x) ϕ x−1 ϕ s−1 dµ (x) = ϕ s−1 f (x) ϕ x−1 dµ (x)
G G

= ϕ s−1 (F f ) (ϕ) .
c) Montrons que
F (fs ) (ϕ) = ϕ (s) (F f ) (ϕ) ∀f ∈ L1 (G)
Z Z
−1

F (fs ) (ϕ) = f (x s) ϕ x dµ (x) = f (x) ϕ s x−1 dµ (x)
ZG Z G Z Z
−1

= f (x) ϕ s x dµ (x) dµK (t) = f (x t) ϕ s x−1 dµ (x) dµK (t)
Z G×K Z G×K

= f (x) ϕ s t x−1 dµK (t) dµ (x)
ZG K

ϕ (s) = f (x) ϕ x−1 dµ (x) = ϕ (s) F (f ) (ϕ) .
G
C.Q.F.D.
Proposition IV-1-3-9 Soient ϕ une fonction sphérique de type positif et

f ∈ L1 (G)\ on a :

F̄ (f ) (ϕ) = F f¯ (ϕ).
En effet
Z Z
F̄ (f ) (ϕ) = f (x) = f¯ (x) ϕ (x−1 )dµ (x)
ϕ (x−1 ) dµ (x)
G G

= F f¯ (ϕ) car ϕ x−1 = ϕ (x).
Proposition IV-1-3-10 Soient u et v deux fonctions de L1 (G) telles que

u soit invariante à droite et v invariante à gauche par K.
247
Alors :
F (u ∗ v) = (F u) (F v) . Et

F̄ (u ∗ v) = F̄ u F̄ v
En général ces égalités ne sont pas vraies si u est invariante à gauche et v à droite
par K.
Proposition IV-1-3-11 Soient ϕ une fonction continue de type positif et π ϕ une

représentation linéaire continue unitaire associée à ϕ.
Pour toute fonction f de L1 (G)\ , on appelle la trace de l’opérateur π ϕ (f ) notée

T r (π ϕ (f )) la cotransformée de Fourier sphérique de f en c’est-à-dire :
T r (π ϕ (f )) = F̄ (f ) (ϕ)
Proposition IV-1-3-12 Soient f et g deux fonctions de L1 (G)\ on a :

T r (π ϕ (f ) π ϕ (g)∗ ) = F̄ ǧ ∗ f (ϕ) ∀ϕ ∈ S (S/K)
Preuve : ∀f ∈ L1 (G)\ et ϕ ∈ S (S/K) on a :
F̄ (f ) (ϕ) = (π ϕ (f ) x0 , x0 )
où x0 est un élément cyclique de l’espace hibertien H
248
En effet :
Z Z
F̄ (f ) (ϕ) = f (x) ϕ (x) dµ (x) = f (x) (x0 / π ϕ (x) x0 ) dµ (x)
G G
Z Z
−1
−1

= f (x) π ϕ x x0 / x0 dµ (x) = f (x) π ϕ x x0 / x0 dµ (x)
G G
= (π ϕ (f ) x0 / x0 ) = (T r (π ϕ (f )))
T r (π ϕ (f ) π ϕ (g) ) = (π ϕ (f ) π ϕ (g)∗ x0 / x0 ) = (π ϕ (f ) x0 / π ϕ (g) x0 )
∗
Z Z
= f (x) π ϕ (x) x0 dµ (x) / g (y) π ϕ (y) x0 dµ (y)
Z ZG G
= f (x) g (y) (π ϕ (x) x0 / π ϕ (y) x0 ) dµ (x) dµ (y)

G×G
Z Z

= f (x) g (y) π ϕ y −1 x x0 / x0 dµ (x) dµ (y)
Z ZG×G

= f (x) ḡ (y) ϕ y −1 x dµ (x) dµ (y)
Z ZG×G

= f (x) ḡ xy −1 ϕ (y) dµ (x) dµ (y)
Z ZG×G

= f (x) ǧ y x−1 ϕ (y) dµ (x) dµ (y)
Z G×G

= ǧ ∗ f (y) ϕ (y) dµ (y) = F ǧ ∗ f (ϕ)
G
C.Q.F.D.
Définition IV-1-3-13 Soit v une mesure de Radon bornée sur G. On appelle

transformée de Fourier sphérique de la mesure v, la fonction complexe F v définie
sur S (G/K) par :
Z

F v (ϕ) = ϕ x−1 dv (x) ∀ϕ ∈ S (G/K)
G
La cotransformée de Fourier sphérique de v notée F̄ v , la transformée F v̌ c’est-à-

dire : Z
F̄ v (ϕ) = ϕ (x) dv (x) .
G
En particulier : Si v = εx la mesure de Dirac au point x on a :

F εx (ϕ) = ϕ x−1 et F̄ (εx ) (ϕ) = ϕ (x)
Remarque IV-1-3-14 La fonction F v n e tend pas nécessairement vers 0 à l’in-

fini. (Par exemple F εe = 1 nous donne la preuve).
249
Proposition IV-1-3-15 Pour toute fonction f de L1 (G)\ et v une mesure
bornée sur G on a :
F (v ∗ f ) = F (f ∗ v) = (F v) (F f )
Preuve : Nous savons que si une mesure v et une fonction f sont convolables alors
pour tout x ∈ G
Z

v ∗ f (x) = f s−1 x dv (s)
ZG Z Z
−1

F (v ∗ f ) ϕ = v ∗ f (x) ϕ x dµ (x) = f s−1 x ϕ x−1 dµ (x) dv (s)
ZG Z Z G×G

= ϕ (x) ϕ x−1 s−1 dµ (x) dv (s) dµK (t)
Z Z ZG×G×K

= f t−1 x ϕ x−1 t s−1 dµ (x) dv (s) dµK (t)
Z Z G×G×K

= f (x) ϕ x−1 ϕ s−1 dv (s) dµ (x)
Z G×G Z
−1

= ϕ s dv (s) f (x) ϕ x−1 dµ (x) = F v (ϕ) . F f (ϕ) .
G G
C.Q.F.D.
250
§ IV-2 FONCTION SPHERIQUE DE TYPE δ
IV-2-1 Fonction trace sphérique de type δ
Soient G un groupe localement compact unimodulaire, K un sous-groupe compact

de G, Kb l’ensemble des classes d’équivalence de représentations unitaires irréduc-
tibles de K.
Pour toute classe de K b , notons ξ δ le caractère de δ, d (δ) le degré de δ et

b
χδ = d (δ) ξ δ . Si δ̌ est la classe des représentations contragrédientes de δ dans K,
on a χδ = χδ̌ et on vérifie aisément grâce à la relation d’orthogonalité de Schur que
χδ̌ ∗ χδ̌ = χδ̌ .
Pour toute fonction f ∈ K (G), on pose :
Z
δ f (x) = χ̄ δ ∗ f (x) = χδ (k) f (kx) dk
ZK

fδ (x) = f ∗ χδ (x) = χδ k −1 f (xk) dk
K
(où dk est la mesure de Haar normalisée sur K).

et
Kδ (G) = {f ∈ K (G) , f = δ f = fδ̌ } .
On montre que Kδ (G) est une sous-algèbre de K (G) et que l’application f 7−→
χ̄δ ∗ f ∗ χ̄δ est une projection de K (G) sur Kδ (G) .
Soit U une représentation de Banach de G sur E, on pose P (δ) = U (χ̄δ ) et

E (δ) = P (δ) E.
Si g = χ̄δ ∗ f ∗ χ̄δ on a P (δ) U (f ) P (δ) = U (g) ∀f ∈ K (G), ainsi E (δ) est

stable pour U (f ) (f ∈ Kδ (G)) et en notant Uδ (f ) la restriction de U (f ) à E (δ),
on obtient une représentation f 7−→ Uδ (f ) de Kδ (G) sur E (δ) .
Soit Jc (G) l’ensemble des fonctions f de K (G) qui sont centrales par K
(i.e. f (kx) = f (xk) ∀k ∈ K et x ∈ G) .
251
est une sous-algèbre de K (G) et l’application f 7−→ fK ,avec fK (x) =
R Jc (G) −1
K
f (kxk ) dk, est une projection de K (G) sur Jc (G) .
Pour deux éléments f, g ∈ K (G), on a les propriétés suivantes : (fK ∗ g)K =
fK ∗ gK = (f ∗ gK )K .et
(χ̄δ ∗ f )K = χ̄δ ∗ fK , (f ∗ χ̄δ )K = fK ∗ χ̄δ .
Posons
Kδ (G) ∩ Jc (G) = Kδ\ (G) .
Kδ\ (G) est une sous-algèbre de K (G) et l’application f 7−→ χ̄δ ∗fK est une projection
de K (G) sur Kδ\ (G). (Cette algèbre non commutative Kδ\ (G) a été définie par G.
Warner dans.
Remarque IV–2-1-1 Si δ est une classe de représentations triviales de dimension

1 de K, tout élément de Kδ\ (G) est biinvariante par K. l’algèbre Kδ\ (G) s’identifie
donc à l’algèbre K\ (G) .
Proposition IV–2-1-2 Soit K un sous-groupe compact de G et U une

représentation de Banach topologiquement
irréductible
de G sur E. Alors
\
l’ensemble des opérateurs Uδ (f ) , f ∈ Kδ (G) est le centralisateur de la
représentation k 7−→ Uδ (k) de K sur E (δ) . cf. [16] Prop. 4.5.1.7 pour une
démonstration.
Remarque IV–2-1-3 Si la représentation k 7−→ Uδ (k) de K sur E (δ) se décom-

pose en m représentations irréductibles équivalentes, on montre que le centralisateur
est isomorphe à l’algèbre Mm (C) des matrices carrées d’ordre m. Par conséquent,
d’aprèsnla proposition précédente,
o il existe un isomorphisme Uδ (f ) 7−→ uδ (f ) de l’al-
\
gèbre Uδ (f ) , f ∈ Kδ (G) sur Mm (C) où (f ) 7−→ uδ (f ) est une représentation
irréductible de dimension m de Kδ\ (G) avec
tr (Uδ (f )) = d (δ) tr (uδ (f )) . ∀f ∈ Kδ\ (G) .
Défintion IV–2-1-4 Une paire de représentation u = (u1 , u2 ) est une représen-

tation double de K sur un espac de Banach E si E est un K-module e Banach à
gauche relativement à u1 et un K-module de Banach à droite relativement à u2 tel
que :
u1 (k) (x u2 (k)) = (u1 (k) x) u2 (k) ∀x ∈ E et k ∈ K.
252
Définition IV–2-1-5 Soit u = (u1 , u2 ) une représentation double de K sur un
espace de Banach de dimension finie E. Une fonction ϕ est dite u-sphérique si ϕ
est une fonction continue de G sur E telle que :
ϕ (k1 x k2 ) = u1 (k1 ) ϕ (x) u2 (k2 ) ∀k1 , k2 ∈ K x ∈ G.
Soit uδ̌ une représentation unitaire irréductible de K dans la classe duale δ̌ sur
un espace Eδ̌ . Pour tout endomorphisme T de Fδ̌ , on définit le nombre suivant
σ (T ) = d δ̌ tr (T ). On montre que pour tout
Z

T ∈ Fδ̌ = HomC (Eδ̌ , Eδ̌ ) on a : T = uδ̌ k −1 σ (uδ̌ (k) T ) dk.
K
Proposition IV–2-1-6 L’algèbre Kδ\ (G) est isomorphe à l’algèbre Uc,δ (G) des
fonctions continues à support compact ψ de G dans Fδ̌ = HomC (Eδ , Eδ ) et qui
vérifient la relation :
ψ (k1 x k2 ) = uδ̌ (k1 ) ψ (x) uδ̌ (k2 )

R
Preuve : Soit f ∈ Kδ\ (G). Posons ψ δf (x) = K uδ̌ (k1 ) f (kx) dk. On montre faci-
lement que ψ δf ∈ Uc,δ (G). L’application f 7−→ ψ δf est injective. En effet :
Z
\

∀f ∈ Kδ (G) , f (x) = χ̄δ ∗ f (x) = χδ̌ (k) f k −1 x dk
K
Z

= σ uδ̌ k −1 f (kx) dk = σ ψ δf (x)
K
f 7−→ ψ δf est surjective. En effet : Soit ψ ∈ Uc,δ (G). Posons f (x) = σ (ψ (x))

f kx k −1 = σ ψ kx k −1 = σ uδ̌ (k) ψ (x) uδ̌ k −1
= σ (ψ (x)) = f (x) donc f ∈ Jc (G)
Z Z

et χ̄δ ∗ f (x) = −1
χ̄δ (k) f k x dk = d δ̌ χδ̌ (k) tr ψ k −1 x dk
K Z K
−1

= d δ̌ tr (uδ̌ (k)) σ ψ k x dk
ZK

= d δ̌ tr (uδ̌ (k)) σ uδ̌ k −1 ψ (x) dk
K
= d δ̌ tr (ψ (x)) = f (x) donc f ∈ Kδ\ (G) .
253
Il suffit de prendre ψ δf = ψ et f 7−→ ψ δf est surjective. D’autre part :
Z

δ δ
ψ f ∗ ψ g (x) = ψ δf (xy) ψ δg y −1 d (y)
ZG Z Z
−1
−1
−1

= uδ̌ k1 f (k1 xy) dk1 uδ̌ k2 g k2 y dk2 dy
G K K
Z Z Z

= uδ̌ k1−1 k2−1 f (k1 xy) g k2 y −1 dk1 dk2 dy
ZK ZG ZK

= uδ̌ k1−1 k2−1 f (k1 xy k2 ) g y −1 dk1 dk2 dy
ZK ZG K Z
−1
−1

= uδ̌ k f (k xy) g y dy dk = uδ̌ k −1 f ∗ g (kx) dk
K G K
= ψ δf ∗g (x)
C.Q.F.D.
On considère une représentation de Banach irréductible U de G sur E.
b La fonction ψ U sur G définie par :

Définition IV–2-1-7 Soit δ ∈ K. δ
ψ Uδ (x) = tr (P (δ) U (x) P (δ))
est appelée fonction trace sphérique de type δ correspondant à la représentation U.
Si δ est contenue m fois dans la restriction de U à K alors ψ Uδ est dite de hauteur

m et est notée ht ψ Uδ = U/K : δ .
Proposition IV–2-1-8 Soit ψ Uδ une fonction trace sphérique sur G de type δ.

Alors :
(i) ψ Uδ (kx k −1 ) = ψ Uδ (x) ∀x ∈ G, k ∈ K.
(ii) χδ ∗ ψ δ (x) = ψ δ ∗ χδ (x) = ψ Uδ (x) ∀x ∈ G.
U U
cf. [16] Prop. 6.1.1.1. pour une démonstration.
Proposition IV–2-1-9 Soit ψ une fonction quasi-bornée sur G. La fonction ψ

est proportionnelle à une fonction trace sphérique de hauteur 1 si et seulement si
Z

ψ (1) ψ kx k −1 y dk = ψ (x) ψ (y) ∀x, y ∈ G.
K
On pourra retrouver une démonstration dans G. Warner [19] Th. 6.1.1.7.
254
Définition IV–2-1-10 Une semi-norme ρ sur G est une fonction positive semi-
continue inférieurement et bornée sur tout compact de G telle que :
ρ (x y) ≤ ρ (x) ρ (y) ∀x, y ∈ G.
Remarque IV–2-1-11 Soit ρ une semi-norme sur G. On désigne par ρK (G)

l’algèbre de Banach complètée de l’algèbre K (G) obtenue à partir de la ρ-norme
k.kρ définie par :
Z
kf kρ = kf (x)k ρ (x) dx ∀f ∈ K (G) .
G
On montre que le produit de convolution est continu pour cette norme k.kρ et on dé-
finit comme précédemment les sous-algèbres ρKδ\ (G) et ρKδ (G) de l’algèbre ρK (G) .
IV-2-2 Fonction sphérique de type δ
Définition IV–2-2-1 Une fonction f sur G à valeurs dans un espace de Banach

est dite quasi-bornée s’il existe une semi-norme ρ sur G telle que :
kf (x)k
sup <∞
x∈G ρ (x)
Définition IV–2-2-2 Soit δ ∈ K. b Une fonction sphérique φ (sur G) de type

δ est une fonction continue quasi-bornée sur G à valeurs dans HomC (E, E) , ( E
étant un espace vectoriel de dimension finie) telle que :
(i) φ (kx k −1 ) = φ (x) . (x ∈ G, k ∈ K)
(ii) χδ ∗ φ = φ = φ ∗ χδ R
(iii) L’application uφ : f 7−→ φ (f ) = G f (x) φ (x) dx est une représenta-
tion irréductible de l’algèbre Kδ\ (G) .
(La représentation uφ est continue pour la norme k.kρ ).

Deux fonctions sphériques φi (i = 1, 2) de type δ à valeurs dans HomC (Ei , Ei )
sont équivalentes s’il existe une bijection linéaire Q : E1 −→ E2 telle que
φ2 (x) = Q φ1 (x) Q−1 (∀x ∈ G) .
Remarque IV–2-2-3 Si δ est une classe triviale de dimension 1 de K, les fonctions

sphériques de type δ s’identifient aux fonctions zonales sphériques.
255
Proposition IV–2-2-4 Soit φ une fonction continue quasi-bornée sur G à valeurs
dans HomC (E, E) telle que
φK = φ et χδ ∗ φ = φ.
La fonction φ est sphérique de type φ si et seulement si :

Z

φ kx k −1 y dk = φ (x) φ (y) ∀x, y ∈ G.
K
Preuve Soit φ une fonction sphérique de type δ. Comme pour tout f ∈ K (G) ,
φK (f ) = φ (fK ) et χδ ∗φ (f ) = fˇ∗χδ ∗φ (1) = φ (χ̄δ ∗ f ) on a pour tout g ∈ K (G) ,
φ (fK ∗ g) = φ ((fK ∗ g)K ) = φ (fK ∗ gK ) = φ (χ̄δ ∗ fK ∗ gK ∗ χ̄δ ) = uφ (χ̄δ ∗ fK ∗ gK ∗χ̄ δ)

= uφ (χ̄δ ∗ fK ) uφ (gK ∗ χ̄δ ) = φ (f ) φ (g) .
Et comme K (G) est dense dans Mc (G) on a
∀µ, v ∈ Mc (G) : φ (µK ∗ v) = φ (µ) φ (v) et en posant µ = εx et v = εy on a :

Z

φ kx k −1 y dk = φ (x) φ (y) car εy (φ) = (εx )K φy = φy K (x) .
K
R R
Réciproquement si K φ (kx k −1 y) dk = φ (x) φ (y) l’application f 7−→ G f (x) φ (x) dx
est une représentation irrédutible de Kδ\ (G)
(cf. [16] Prop. 6.1.1) et par conséquent φ est sphérique de type δ.
C.Q.F.D.
Nous allons montrer que l’existence d’une fonction sphérique de type δ sur G
de hauteur non nulle est toujours liée à l’existence d’une représentation de Banach
irréductible du groupe G.
Proposition IV–2-2-5 Si U est une représentation irréductible de Banach de G

dans un espace E telle que δ soit contenue dans la restriction de U à K, alors il
existe une fonction φUδ définie sur G, sphérique de type δ.
La fonction φUδ est dite associée à la représentation U.
Preuve Soit l’algèbre I (δ) = C (K) ∗ χ̄δ = {f ∗ χ̄δ , f ∈ C (K)} qu’on identifie à
l’algèbre Md(δ) (C) des matrices carrées d’ordre d (δ) à coefficients complexes.
L’application bilinéaire (φ, f ) 7−→ φ ∗ f de I (δ) × Kδ\ (G) dans K (G) induit une
unique application linéaire du produit tensoriel I(δ) ⊗ Kδ\ (G) dans K (G) lequel
256
produit tensoriel est isomorphe à la sous-algèbre Kδ (G) de K (G) (voir [16] Propo.
4.5.1.8).
Si uδ est une représentation irréductible de Kδ\ (G) et si 1d(δ) est la représentation

triviale de l’algèbre I (δ) alors 1d(δ) ⊗uδ est une représentation irréductible de I (δ)⊗
Kδ\ (G) et réciproquement.
Ceci permet d’identifier l’espace E (δ) au produit tensoriel d’un K-module Eδ et

de l’espace E (δ) des représentations irréductibles f −→ uδ (f ) de Kδ\ (G) et par
conséquent les endomorphismes Uδ (f ) et 1 ⊗ uδ (f ) pour tout f ∈ Kδ\ (G) grâce au
diagramme suivant :
εδ ⊗ Eδ 1 ⊗ uδ (f ) εδ ⊗ Eδ
−−−−−−→
o↓ o↓
E (δ) Uδ (f ) E (δ)
−−−→
Soit ψ Uδ la fonction Uδ -sphérique sur G donnée par la formule :
ψ Uδ (x) = P (δ) U (x) P (δ) .

R
Posons ψ Uδ,K (x) = K Uδ (k) ψ Uδ (x) Uδ (k −1 ) dk.
Comme ψ Uδ,K (x) commute avec Uδ (k) (∀k ∈ K) ,
alors ψ δ,K (x) ∈ HomC (E (δ) , E (δ)) et il existe une fonction quasi-bornée φUδ sur
U
G à valeurs dans HomC (Eδ ; Eδ ) telle que

ψ Uδ,K (x) = 1 ⊗ φUδ (x) et qui vérifie les relations suivantes :

φUδ kx k −1 = φUδ (x) et χδ ∗ φUδ = φUδ .
En effet :
i) ∀x ∈ G, k ∈ G, 1 ⊗ φUδ (kx k −1 ) = ψ Uδ,K (kx k −1 )
R
= K Uδ (k 0 ) ψ Uδ (kx k −1 ) Uδ (k 0−1 ) dk 0
or ψ Uδ (kx k −1 ) = Uδ (k) ψ Uδ (x) Uδ (k −1 )
donc 1 ⊗ φδ (kx k ) = ψ Uδ,K (x) = 1 ⊗ φUδ (x) et φUδ (kx k −1 ) = φUδ (x) .
U −1
R
(ii) ∀x ∈ G, 1 ⊗ χδ ∗ φUδ (x) = 1 ⊗ K χδ (k) φUδ (k −1 x) dk
Z Z
−1

= U
χδ (k) ψ δ,K k x dk = χδ (k) Uδ k −1 x ψ Uδ,K (x) dk
K K
Z Z
U −1
U −1

= ψ δ,K (x) χδ (k) 1 ⊗ uδ k x dk = ψ δ,K (x) 1 ⊗ σ (uδ (k)) uδ k dk
K K
= ψ Uδ,K (x) = 1 ⊗ φUδ (x)
257
et χδ ∗ φUδ = φUδ .D’autre part si f ∈ Kδ\ (G) on a :
Z Z Z

1⊗ f (x) φUδ (x) dx = f (x) 1 ⊗ φUδ (x) dx = f (x) ψ Uδ (x) dx
G ZG Z G
U −1

= f (x) ψ δ kx k dk dx
G K
Z
= P (δ) f (x) U (x) dx P (δ) = U (χ̄δ ∗ f ∗ χ̄δ ) = Uδ (f ) = 1 ⊗ uδ (f ) .
G
R
Ainsi uδ (f ) = f (x) φUδ (x) dx, par conséquent φUδ est sphérique de type δ et
G
ψ Uδ : x 7−→ d (δ) tr φUδ (x) est a fonction trace sphérique de type δ correspondante.
C.Q.F.D.
Soit A une algèbre normée involutive complexe et Xm (A) l’ensemble des répré-
sentations unitaires irréductibles de A de dimension finie m.
Définition IV–2-2-6 Pour tout élément f de A, nous appelons transfor-

mée de Guelfand généralisée de f , l’application notée G f de Xm (A) dans
l’algèbre Mm (C) des matrices carrées d’ordre m définie par :
g f : Xm (A) −→ Mm (C)
u 7−→ u (f )
L’homomorphisme f 7−→ G f de A dans Mm (C)Xm (a) est appelé la transfor-
mation de Guelfand généralisée associée à l’algèbre A.
Si l’algèbre A est commutative, les représentations unitaires irréductibles de A

sont de dimension 1, donc s’identifient aux caractères de A et on retrouve la défini-
tion de la transformation de Guelfand usuelle.
Soit Sδm (G) l’ensemble des fonctions sphériques de type δ sur G de hauteur m.
Nous allons montrer
que
si φ est une fonction de Sδm (G), il existe une représenta-
R
tion uφδ ∈ Xm Kδ\ (G) telle que uφδ (f ) = G f (x) φ (x) dx et réciproquement. Ce

qui permettra d’identifier les espaces Sδm (G) et Xm Kδ\ (G) et ensuite définir la
transformation de Fourier sphérique de type δ.
Définition IV–2-2-7 Un idéal à gauche J dans une algèbre associative A est dit
régulier s’il existe un élément u ∈ A tel que xu ≡ x mod J pour tout x ∈ A.
258
Lemme IV–2-2-8 Soit ρ une semi-norme sur G, I un idéal à gauche régulier
maximal dans l’algèbre ρ Kδ (G) et J = {f ∈ρ K (G) , χ̄δ ∗ g ∗ f ∗ χ̄δ ∈ I, ∀g ∈ρ K (G)} .
J est idéal à gauche régulier maximal dans ρ K (G) , I = J ∩ρ Kδ (G)
et f ∗ χ̄δ ≡ f mod J ∀f ∈ρ K (G) .
Preuve : J est un idéal à gauche dans ρ K (G) (évident). Comme I est régulier, il
existe u ∈ρ Kδ (G) tel que k ∗ u ≡ k mod I ∀k ∈ρ Kδ (G).
∀f, g ∈ρ K (G) , χ̄δ ∗ g ∗ (f ∗ u − f ) ∗ χ̄δ = χ̄δ ∗ g ∗ f ∗ u ∗ χ̄δ − χ̄δ ∗ g ∗ f ∗ χ̄δ
= h ∗ u − h où
h = χ̄δ ∗ g ∗ f ∗ χ̄δ ∈ρ Kδ (G) donc f ∗ u − f ∈ J
et par conséquent J est régulier. Comme χ̄δ ∗g∗(f ∗ χ̄δ − f )∗ χ̄δ = 0 alors f ∗ χ̄δ −f ∈
J et f ∗ χ̄δ ≡ f mod J. Montrons que I = J ∩ρ Kδ (G) .
Comme I est un idéal maximal dans ρ Kδ (G) il suffit de montrer que J ∩ρ Kδ (G)
est non triviale et contenant I.
J ∩ρ Kδ (G) 6=ρ Kδ (G) car u ∈/ J sinon pour tout f ∈ρ K (G) , f ∗ u ∈ J et

f = (−f ∗ u + f ) + f ∗ u ∈ J ie J =ρ K (G) (contradiction) et si f ∈ I on a :
χ̄δ ∗ g ∗ f ∗ χ̄δ = χ̄δ ∗ g ∗ χ̄δ ∗ f ∈ I (∀g ∈ρ K (G))
alors f ∈ J ainsi donc I ⊂ J, par conséquent I = J ∩ρ Kδ (G). Montrons que J est

maximal.
Soit J 0 un idéal à gauche contenant J et tel que J 0 6=ρ K (G). D’après le même
raisonnement que précédemment I = J 0 ∩ρ Kδ (G) .
Soit f ∈ J 0 , f ∗ χ̄δ − f ∈ J ⊂ J 0 =⇒ f ∗ χ̄δ ∈ J 0
=⇒ χ̄δ ∗ g ∗ f ∗ χ̄δ ∈ J 0
=⇒ χ̄δ ∗ g ∗ f ∗ χ̄δ ∈ J 0 ∩ρ Kδ (G) = I
=⇒ f ∈ J.
C.Q.F.D.
259
Lemme IV–2-2-9 Soit une fonction continue ψ sur G telle que
ψ = ψ K , χδ ∗ ψ = ψ
Les conditions suivantes sont équivalentes :

(i) ψ (f ∗ g) = ψ (g ∗ f ) ∀f, g ∈ Kδ\ (G)
(ii) fˇ ∗ ψ = ψ ∗ fˇ ∀f ∈ Kδ\ (G)
Preuve : On sait que : ψ (f ) = fˇ ∗ ψ (1) = ψ ∗ fˇ (1) ∀f ∈ K (G)

(i)
⇐⇒ (f ∗ g)V ∗ ψ (1) = ψ ∗ (g ∗ f )V (1)

⇐⇒ ǧ ∗ fˇ ∗ ψ (1) = ψ ∗ fˇ ∗ ǧ (1)
⇐⇒ fˇ ∗ ψ (g) = ψ ∗ fˇ (g) . ∀f, g ∈ Kδ\ (G) .
C.Q.F.D.
Lemme IV–2-2-10 Soit une fonction continue ψ sur G telle que ψ = ψ K ,

χδ ∗ ψ = ψ. Soit ρ une semi-norme sur G telle que |ψ (x)| ≤ M ρ (x) ∀x ∈
G (M > 0) , ρK (G) l’algèbre de Banach correspondant à ρ. S’il existe une repré-
sentation irréductible de dimension finie uδ de Kδ (G) telle que :
ψ (f ) = f (δ) tr (uδ (f )) ∀f ∈ Kδ\ (G) . Alors :
(i) fˇ ∗ ψ =
ψ∗f
ˇ ∀f ∈ρ Kδ (G)
(ii) ˇ
Iψ = f ∈ ρ Kδ (G) , f ∗ ψ = 0 est un idéal bilatère régulier de ρ Kδ (G)
(iii) f ∈ Iψ ∩ Kδ (G) ⇐⇒ uδ (f ) = 0.
Preuve : (i) Si ψ (f ) = d (δ) T r (uδ (f )),

on a ψ (f ∗ g) = ψ (g ∗ f ) ∀f, g ∈ Kδ\ (G) et
fˇ ∗ ψ = ψ ∗ fˇ ∀f ∈ Kδ\ (G) (d’après II.II.4).
Comme K (G) est dense dans ρ K (G) et que l’application f 7−→ χ̄δ ∗ fK est une
projection continue de ρ K (G) sur ρ Kδ\ (G) alors Kδ\ (G) est dense dans ρ Kδ\ (G) et
fˇ ∗ ψ ˇ \
o L’égalité demeure si on remplace f par εk ∗ f (k ∈ K)
n = ψ ∗ f ∀f ∈ ρ Kδ (G).
car εk ∗ f ; f ∈ρ Kδ\ (G) est total dans ρ Kδ (G). (cf. [16] Th. 4.5.1.11).
260
(ii) La relation (i) et l’égalité (f ∗ g)V = ǧ ∗ fˇ pemettent d’affirmer que Iψ
est un idéal bilatère de ρ Kδ (G). Montrons que Iψ est régulier.
Prenons u ∈ Kδ\ (G) tel que uδ (u) soit l’opérateur identique dans l’espace de la
représentation uδ . Ainsi on a : ψ ∗ ǔ = ǔ ∗ ψ = ψ et si f ∈ ρ Kδ (G) alors
(f ∗ u − f )V ∗ ψ = ǔ ∗ fˇ ∗ ψ − fˇ ∗ ψ = ǔ = ψ ∗ fˇ − fˇ ∗ ψ = ψ ∗ fˇ − fˇ ∗ ψ = 0.
Par conséquent f ∗ u ≡ f mod Iψ .

(iii) f ∈ Iψ ∩ Kδ\ (G) =⇒ fˇ ∗ ψ = 0 =⇒ ǧ ∗ fˇ ∗ ψ (1) = 0 =⇒ ψ (f ∗ g) = 0.
=⇒ tr (uδ (f ) uδ (g)) = 0 ∀g ∈ Kδ\ (G)

=⇒ uδ (f ) = 0. La réciproque est évidente
C.Q.F.D.
Théorème IV–2-2-11 Soit ψ une fonction continue quasi-bornée sur G telle que
ψ K = ψ et χδ ∗ ψ = ψ.
ψ est une fonction trace sphérique de type δ et de hauteur m si et seulement si,
il existe une représentation irréductible uδ de dimension m de Kδ\ (G) telle que :
Z
ψ (f ) = f (x) ψ (x) dx = d (δ) tr (uδ (f )) ∀f ∈ Kδ\ (G)
G
Preuve : Soit ψ Uδ une fonction trace sphérique de type δ et de hauteur m cor-

respondant à la représentation de Banach
n U de G. D’aprèsoI.III.3, il existe un
isomorphisme F : Uδ (f ) 7−→ uδ (f ) de Uδ (f ) , f ∈ Kδ\ (G) sur Mm (C) où uδ
est une représentation irréductible de dimension finie m de l’algèbre Kδ\ (G) avec
tr (Uδ (f )) = d (δ) tr (uδ (f )) ∀f ∈ Kδ\ (G) et
ψ Uδ (f ) = tr (P (δ) U (f ) P (δ)) = tr (Uδ (f )) = d (δ) tr (uδ (f )) ∀f ∈ Kδ\ (G) .
Réciproquement, soient I une extension maximale régulière de Iψ (lemme II.II.5)

dans ρ Kδ (G) et J = {f ∈ρ K (G) , χ̄δ ∗ g ∗ f ∗ χ̄δ ∈ I, ∀g ∈ ρ K (G)}. Considérons
la représentation de Banach irréductible U de G sur E = ρ K (G) /J . La représen-
tation f 7−→ UI (f ) de ρ Kδ (G) sur ρ K (G) /I est équivalente à la représentation
f 7−→ Uδ (f ) de ρ Kδ (G) sur E (δ). En effet : la projection P (δ) est définie par :
P (δ) (f + J) = U (χ̄δ ) (f + J) = χ̄δ ∗ f + J.
261
D’autre part f ∗ χ̄δ ≡ f mod J ∀f ∈ ρ K (G). Donc f 7−→ f + J est un homomor-
phisme de ρ Kδ (G) sur E (δ) et comme I = J∩ ρ Kδ (G) alors UI ' Uδ .
Soit ψ Uδ la fonction trace sphérique de type δ correspondant à la représenta-

tion U de G sur E, on a ψ Uδ (f ) = tr (Uδ (f )) = tr (UI (f )) ∀f ∈ ρ Kδ (G). En
outre, comme Iψ est un idéal bilatère de ρ Kδ (G), on a pour tout élément f ∈ Iψ ∩
\
ρ Kδ (G) , UI (f ) = 0 (cf. II.II.5).
Soit n la hauteur de ψ Uδ , il existe une représentation irréductible de dimension

n, f 7−→ vδ (f ) de Kδ (G) telle que ψ Uδ (f ) = d (δ) tr (vδ (f )) ∀f ∈ Kδ\ (G) d’autre
part
∀f ∈ Iψ ∩ρ Kδ\ (G) ⇐⇒ uδ (f ) = 0 =⇒ UI (f ) = 0 =⇒ vδ (f ) = 0
par conséquent
uδ ≈ vδ alors m = n, ie htψ Uδ = ht ψ
et
ψ (f ) = d (δ) tr (uδ (f )) = d (δ) tr (vδ (f )) = ψ Uδ (f ) donc ψ = ψ Uδ .
C.Q.F.D.
Corollaire IV–2-2-12 Soit ψ une fonction continue quasi-bornée sur G. Si ψ est

proportionnelle à une fonction trace sphérique de type δ de hauteur 1 alors :

ψ (1) f ∗ ψ = d (δ) tr uδ fˇ ψ pour tout f ∈ K\ (G) . δ
Preuve : ∀f ∈ Kδ\ (G) .

Z Z Z
−1

f ∗ ψ (x) = f (y) ψ y x dy = dk f ky −1 k −1 ψ ky k −1 x dy
ZG Z K G

= ψ ky k −1 x dk f y −1 dy.
G K
Z
1
= ψ (y) ψ (x) f y −1 dy (d’après I.III.9)
ψ (1) G
ψ (x)
= d (δ) tr uδ fˇ .
ψ (1)
C.Q.F.D.
262
Corollaire IV–2-2-13 Soit ϕ une fonction continue quasi-bornée de G dans
HomC (E, E) où E est un espace vectoriel de dimension finie telle que
ϕK = ϕ et χδ ∗ ϕ = ϕ.
ϕ est sphérique de type δ si et seulement si pour toute fonction f ∈ Kδ\ (G), il existe
un endomorphisme uδ (f ) de Eδ tel que

f ∗ ϕ = uδ fˇ .ϕ.
Preuve : Supposons que ϕ est sphérique de type δ.

Z Z Z
\ −1

∀f ∈ Kδ (G) , f ∗ ϕ (x) = f (y) ϕ y x dy = dk f (y) ϕ y −1 x dy
G K G
Z Z Z Z

= f ky −1 −1
ϕ ky k x dy dk = f y −1
ϕ (y) ϕ (x) dy = ϕ (x) fˇ (y) ϕ (y) dy
G K G G

= ϕ (x) uδ fˇ

Réciproquement supposons que pour tout élément f de Kδ\ (G, ) , f ∗ ϕ = uδ fˇ .ϕ.
Z Z Z
−1

f ∗ ϕ (x) = f (y) ϕ y x dy = f ky −1 k −1 ϕ ky k −1 x dy dk
Z Z G K

= f y −1 ϕ ky k −1 x dy dk
G KZ

uδ fˇ ϕ (x) = ϕ (x) f y −1 ϕ (y) dy

f ∗ ϕ (x) = uδ fˇ ϕ (x)
Z Z

= f y −1
ϕ (x) ϕ (y) − ϕ ky k x dk dy = 0 ∀f ∈ Kδ\ (G, )
−1
G K
R
donc K
ϕ (ky k −1 x) dk = ϕ (x) ϕ (y) et la fonction ϕ est sphérique de type δ.
C.Q.F.D.
Ce corollaire II.II.8 donne une généralisation d’une propriété fondamentale des

fonctions zonales sphériques (proposition I.I.4).
263
IV-2-3 - Quelques propriétés différentielles
Soient G un groupe de Lie connexe unimodulaire, K un sous-groupe uniformément
large de G, A l’algèbre enveloppante universelle de la complexifiée Gc de l’algèbre de
Lie G du groupe de Lie G., ξ le centre de A et χ le centralisateur de Kc dans A.
La projection canonique de A sur χ est définie par :
Z
D 7−→ DK = Ad (k) D dk.
K
Théorème IV-2-3-1 Soient U une représentation T ⊂ I de Banach de G dans

E., KU le caractère infini tesimal de U, ψ Uδ la fonction trace sphérique de type δ
associée à U . Alors
Zψ Uδ = KU (Z) ψ Uδ ∀Z ∈ ξ.
Preuve : Soient a1 , a2 , ...an une base de E (δ) , zi une forme linéaire sur E (δ)
telle que zi (aj ) = δ ij .
Notons toujours zi le prolongement de zi à E.

On a donc X
ψ Uδ (x) = ∀x ∈ G.
i
Comme ai ∈ E (δ) et dim E (δ) < ∞, ai est analytique donc différentiable ie
ãi : x 7−→ U (x) ai ∈ C∞ (G, E) .
d
∀D ∈ a, D ãi (x) = U (x exp t X) = U (x) U∞ (D) ai
dt t=0
d
= U (x) U (exp t X)
dt t=0
donc
X X X
Zψ Uδ (x) = Z zi ◦ ãi (x) = zi ◦ Zãi (x) = zi ◦ [U (x) U∞ (Z) ai ]
i i i
X
= = KU (Z) ψ Uδ (x) .
i
264
Remarque IV-2-3-2 Soit U une représentation T ⊂ I de Banach de G sur E., Eω
l’espace des vecteurs analytiques dans E pour U on a
X
EK = E (δ) ⊂ Eω
b
δ∈K
Ceci montre que pour tout δ fixé dans K, b tel que δ soit contenue dans U/K les
fonctions ψ δ et φδ sont analytique sur G.
U U
Théorème IV-2-3-3 Soient U et V deux représentations T ⊂ I de G dans E et

F telles que δ soit contenue dans U/K et U/K . Soient U et V des représentations
de χ dans E (δ) et dans F (δ) obtenu par restriction UK et VK .
Alors si Uδ et Vδ sont algébriquement équivalentes alors U et V sont Naïmark

équivalentes.
Preuve : Il suffit de montrer que ψ Uδ = ψ Vδ .Comme ces fonctions sont analytiques,

il faut montrer que
Dψ Uδ (1) = Dψ Vδ (1) , ∀D ∈ a. (G étant connexe).Les fonctions sphériques de type δ
étant centrale, il suffit de montrer que Dψ Uδ (1) = Dψ Vδ (1) , ∀D ∈ χ.Ainsi
Dψ Uδ (1) = tr (Uδ (D)) = tr (Vδ (D)) = Dψ Vδ (1) .
Soient U une représentation T ⊂ I de Hilbert de G dans E, TU son caractère.

Considérons la composante de Fourier Tδ,V de TU (δ ∈ K) .
i.e. Tδ,V (f ) = TU (f ∗ χ̄δ ) ∀f ∈ D (G) .En utilisant le fait que les E (δ)
sont orthogonaux deux à deux, pour δ 0 fixé dans K b
on a :
X Z
TU,δ0 (f ) = TU (f ∗ χ̄δ ) = tr (P (δ) U (f ) P (δ 0 ) P (δ)) = f (x) ψ Uδ0 (x) dx
b G
δ∈K
Donc, au sens des distributions,

les composantes de Fourier TU,δ du caractère TU
b nécessairement analytiques.
sont des fonctions ψ δ δ ∈ K
U
Théorème IV-2-3-4 Soit φ une fonction sphérique sur G de type δ. Alors ∀D ∈

χ, Dφ = [Dφ (1)] où l’application D 7−→ Dφ (1) est une représentation irréductible
de χ.
265
Preuve : Pour tous x, y ∈ G, on a :
Z

φ kxk −1 y dk = ϕ (x) φ (y) .
K
Donc si T est un distribution sur G à support compact qui commute avec les δ k on
a: Z Z Z
−1

φ kxk y dk dT (f ) = ϕ (x) φ (y) dT (y)
G K G
R R
donc G φ (xy) dT (y) = φ (x) G ϕ (y) dT (y) .On note D −→ TD l’identification de
a avec, l’algèbre des distributions de support {1} . R
Si D ∈ χ, TD commute avec δ k et on a Dφ (X) = φ∗ŤD (x) = G φ (xy −1 ) dŤD (y) =
φ (x) [Dφ (1)] Notons uφ la représentation de χ définie par uφ (D) = Dφ (1) ,uφ est
irréductible si uφ (χ) = HomC (E, E) .
Supposons uφ (χ) 6= HomC (E, E). D’après le théorème de Hahn-Banach, il

existe une forme linéaire z : HomC (E, E) −→ C telle que

z|uφ(χ) = 0. Or φ Kδ\ (G) = Hom (E, E)
donc il existe f ∈ Kδ\ (G) telle que

Z
< φ (f ) , z >6= 0 ie f (x) < φ (x) , z > dx 6= 0
G
et z◦φ est une fonction analytique non nulle. Il existe donc D ∈ χ tel que D (z ◦ φ) 6=
0 ⇐⇒ z ◦ Dφ (1) 6= 0 et < Dφ (1) , z >6= 0 absurde.
ThéorèmeIV-2-3-5 Soit E un espace vectoriel de dimension finie sur C, φ :

G −→ HomC (E, E) une fonction sur G quasi-bornée et K-centrale de classe C ∞ .
On suppose qu’il existe une représentation irréductible uφ de χ dans E telle que
Dφ = φ uφ (D) où
uφ (D) = D φ (1) (D ∈ χ) .
b
Alors φ est une fonction sphérique sur G de type δ (pour une classe δ ∈ K).
Preuve : Nous allons montrer qu’il existe un δ R∈ K b telle que φ ∗ χδ = φ. Ce

qui
permettrad’établir que la représentation f 7−→ G f (x) φ (x) dx est irréductible
∀f ∈ Kδ\ (G) .
φ est analytique. En effet dim χφ < ∞ et χ contient un élément elliptique ∆.
266
P
n P
Il existe donc ck ∈ C, 0 ≤ k ≤ n tel que Ck ∆k φ = 0 comme Ck ∆k est
k=1 1
elliptique alors φ est analytique.
R
Montrons que φ (.k.k −1 ) dk = φ (.) φ (.) .
Fixons x ∈ G. Comme φ est analytique, il existe un voisinage O de zéro dans G
tel que pour tout Y ∈ O, on ait :
Z Z Z X ∞
1
φ xk exp Y k −1
dk = φ (x exp ( Ad (k) Y )) dk = (Ad (k) Y )m φ (x) dk
K K K m=0 m !
X∞ X∞
1 m 1
= (YK ) φ (x) = (x) (YK )m φ (1) = φ (x) φ (exp Y )
m=0
m! m=0
m!
car D φ (1) = DK φ (1) et φ est K-centrale et comme φ est analytique, on peut donc
l’étendre sur tout G.
Supposons que φ 0 et montrons qu’il existe un δ ∈ K b tel que φ ∗ χδ (1) 6= 0.
Z
∀x ∈ G, φ ∗ χδ (x) = φ (xk) χδ (k) dk
K
Z Z Z

= φ xk 0 k k 0−1 dk χδ (k) dk = φ (x) φ (k) χδ (k) dk = φ (x) φ ∗ χδ (1)
K K K
Si φ ∗ χδ (1) = 0 pour tout δ ∈ K, alors nécessairement φ ∗ χδ = 0 donc φ = 0

contradiction.
b tel que φ ∗ χδ (1) = 0.

Donc fixons δ ∈ K
Comme χδ est K-centrale alors on montre que φ ∗ χδ (1) est un opérateur sclaire
Mδ . Par conséquent :
φ Mδ = φ ∗ χδ = (φ ∗ χδ ) ∗ χδ = φ Mδ2
donc
Mδ = 1 et φ ∗ χδ = φ.
R
Comme φK = φ et φ ∗ χδ = φ alors f −→ G f (x) φ (x) dx est une représentation
de Kδ\ (G) dans E.
Montrons que cette représentation est irréductible. D (G) est faiblement dense
dans l’algèbre des distributions sur G à support compact.
267
Par conséquent, tout opérateur de la forme Dφ (1) (D ∈ χ) peut être approché

par les opérateurs φ (f ) où f ∈ D\δ (G) ., donc
Z
HomC (E, E) = f (x) φ (x) dG x, f ∈ Ic,δ (G) .
G
Remarque IV-2-3-6 Si m (δ) est un entier ≥ 1 tel que δ sont contenu au plus
m (δ) fois dans toute représentation de Banach T ⊂ I de G. Alors dim (E) ≤ m (δ) .
268
Bibliographie
[1] A. D. BARUT and R. RACZKA :Theory of group representations and appli-

cations. Polish Scientific publishers.
[2] N. BOURBAKI : Groupes et algèbres de Lie, Chapitre I, Hermann, Paris 1971.
[3] J. DIEUDONNE : Elément d’Analyse, Tome 2, 5 et 6, Grautierx - Villars, Paris
1974.
[4] J. DIXMIER :Algèbres enveloppantes, Gauthiers-Villars-Paris 1974.
[5] J. FARAUT : Groupes et Algèbres de Lie. Cours d’initiation Université Pierre
et Marie Curie.
[6] J. FARAUT, R. TAKAHASHI, J. CLERC : Analyse Harmonique. Les cours du
CIMPA, Université de Nancy I (1980).
[7] FULTON and J. HARRIS : Representation Theory, Springer - Verlag, New-
York, Inc 1991.
[8] R. GODEMENT : Cours d’algèbre, Hermann, Paris 1973.
[9] S. HELGASON : Groups and geometric Analysis - Academic press, inc (1984).
[10] S. HELGASON : Differential geometry, Lie groups and symmetric Spaces, Aca-
demic Press, New-York, 1978.
[11] J.E. HUMPHREYS :Introduction to Lie algebras and Representation Theory,
Springer, Verlag, New-York, 1972.
[12] K. KANGNI : Transformation et Distribution sphériques de types δ. Thèse de
Doctorat d’Etat.ABIDJAN (Mai 2000).
[13] K. KANGNI et S. TOURE : Transformation de Fourier Sphérique de type δ.
Applications aux groupes de Lie sémi-simples. Annales Mathématiques Blaise
Pascal Vol. 8 N◦ 2 (2001) pp77-88.
[14] K. KANGNI et S. TOURE : Représentation unitaire sphérique de type δ. Afrika
Matematika, Série 3, Vol 7 (1997) pp 95-104.
[15] K. KANGNI et S. TOURE : Transformation de Fourier Sphérique de type δ.
Annales Mathématiques Blaise Pascal Vol 3 N◦ 2 (1996) pp 117-133.
269
BIBLIOGRAPHIE
[16] A. A. KIRILLOV : Elements of the theory of Representations Springer - Verlag

Berlin Heidelberg New-York. (1976).
[17] K. MAURIN : General Eigenfunction Expansions and Unitary Representation
of topological group, Warszawa 1968.
[18] G.D. MOSTOW, J.H. SAMPSON, J.P. MEYER : Fundamental Structures of
Algebra, Mc Graw-Hill Book Company, New-York, 1963.
[19] M. NAIMARK, A. STERN : Théorie des représentations des groupes, Editions
de Moscou, 1979.
[20] R.D. POLLACK : Introduction to Lie algebras, Queen’s papers in pure and
applied mathematics, n◦ 23, 1969.
[21] A. A. SAGLE, R. E. WALDE : Introduction to Lie groups and Lie algebras,
Academic Press, New-York, 1973.
[22] S. TOURE : Introduction à la théorie des représentations des groupes topolo-
giques. Publications de l’IRMA, N◦ 17, Mai 1991.
[23] V. S. VARADARAJAN : Lie groups, Lie algebras and their representations.
Prentice - Hall, Inc. New-Jersey (1974).
[24] G. WARNER : Harmonic analysis on semi-simple Lie groups Tome I et II.
Springer-Verlag Berlin Heidelberg New York 1972.
[25] A. WAWRZYNCZYK : Group Representations and Special Functions. Reidel
Publishing Company 1984.
270

Anahar

Transféré par

Informations du document

Titre original

Copyright

Formats disponibles

Partager ce document

Partager ou intégrer le document

Options de partage

Avez-vous trouvé ce document utile ?

Ce contenu est-il inapproprié ?

Droits d'auteur :

Formats disponibles

Anahar

Transféré par

Droits d'auteur :

Formats disponibles

Troisième cycle

ANALY SE HARMO NIQUE AB STRAITE

Chapitre I : Groupes Topologiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .7

§ I-1 Généralités sur les groupes topologiques . . . . . . . . . . . . . . . . . . . . . . . . . . . 7

§ I-2 Groupes de Lie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 54

Chapitre II LES ALGEBRES DE LIE. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .89

§ II-1 Généralités sur les algèbres de Lie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 90

§ II-2 Algèbres de Lie nilpotentes et résolubles . . . . . . . . . . . . . . . . . . . . . . . 106

§ II-3 Algèbre de Lie semi-simples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 133

Chapitre III Théorie des Représentations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 145

§ III-1 Représentations des Groupes Topologiques . . . . . . . . . . . . . . . . . . . 145

§ III-2 Représentation Induite . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 179

Chapitre IV : Fonctions sphériques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 205

§ IV-1 Généralités sur les fonctions sphériques . . . . . . . . . . . . . . . . . . . . . . . . . 205

§ IV-2 Fonctions sphériques de Type δ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 251

L’analyse harmonique fut généralisée sous l’impulsion de A. Weil aux groupes

La plupart des théorèmes démontrés pour les séries et intégrales de Fourier

La connaissance d’un objet mathématique peut s’approfondir si on l’assimile à

[u, [v, w]] + [v, [w, u]] + [w, [u, v]] = 0

Si le groupe est matriciel, on choisit [u, v] = uv − vu.

La théorie de la représentation d’un groupe par des transformations linéaires est

La formulation mathématique rigoureuse unifiée de la mécanique quantique est dûe

Aussi, E. CARTAN déclare que la plupart de ses travaux mathématiques gra-

Dans le premier chapitre, nous introduisons les groupes topologiques, l’intégra-

On rappelle qu’une oscillation harmonique est un mouvement donné par une

est une superposition des oscillations harmonique.

Nous introduisons également la théorie des représentations induites des groupes

LES GROUPES TOPOLOGIQUES

§ I-1 GENERALITE SUR LES GROUPES TOPOLOGIQUES

I-1-1. Notions de base

Si U et V sont deux parties de G

On dit que U est symétrique si U = U −1 .

Pour tous x et y ∈ G et pour tout voisinage W de xy dans G, il existe des voi-

La condition c) de compatibilité des deux structures est équivalente à

Réciproquement supposons h continue. Soit V un voisinage de y −1 . Comme

Montrons que f est continue.

Exemple I-1-1-2 1) Le groupe additif R des nombres réels, muni de la topologie

Définissons un produit sur G × G de la façon suivante :

(x, y) . (x0 , y 0 ) = (xϕ (y) x0 , yy 0 ) où ϕ : G2 −→ Aud (G1 ) .

Quelques exemples de groupes produit semi-directs

SO (n) × Rn où ϕ est l’action naturelle de SO (n) sur Rn .

- Le groupe de Poincaré G = G0 (n) × Tn produit semi-direct du groupe de

C’est un ouvert de l’espace Mn (R) des matrices carrée d’ordre n.

Théorème I-1-1-3 Soient G un groupe topologique et a un élément fixé de G.

2) L’application x 7−→ x−1 et l’automorphisme intérieur x 7−→ axa−1 sont des

Preuve : L’application La est bijective (évident).

Corollaire I-1-1-4 Soit G un groupe topologique.

Remarque : I-1-1-5 Si A et B sont fermés alors AB n’est pas nécessairement

Si Z + θZ est un sous-groupe fermé de R, il existerait α ∈ R tel que

Il existe n ∈ Z tel que 1 = 2n et m ∈ Z tel que θ = 2m. Donc θ = m

Théorème I-1-1-6 Soit G un groupe topologique

ii) Pour tout voisinage U de e, il existe un voisinage V de e tel que V V −1 ⊂ U.

iii) Pour tout voisinage U de e et tout a ∈ G, il existe un voisinage W de

Preuve : i) Soit x ∈ G et V1 un voisinage ouvert de x. Comme l’application

iii) exprime la continuité de x 7−→ axa−1 au point e.

iv) Si G est séparé, {e} est fermée.

Réciproquement, s’il en est ainsi, et si x, y sont deux points distincts de G, il existe

Car la relation xw0 = yw” avec w0 , w” dans W entrainerait

donc G est séparé.

Théorème I-1-1-7 L’adhérence H̄ d’un sous-groupe (resp. d’un sous-groupe dis-

Preuve : L’image de H̄ × H̄ = H × H par l’application continue (x, y) −→ xy −1

De même, si H est distingué, l’image de H par l’application x 7−→ axa−1 (a

Enfin, si G est séparé et H commutatif, les fonctions continues xy et yx, étant