Vous êtes sur la page 1sur 54

Universit Pierre et Marie Curie Master de Mathmatiques

Groupes et Algbres de Lie


Jean-Franois Dat
2009-2010
Rsum
La thorie des groupes et algbres de Lie commence la n du 19me sicle avec
les travaux du mathmaticien norvgien Sophus Lie. Elle a connu de nombreuses
ramications (gomtries non euclidiennes, espaces homognes, analyse harmonique,
thorie des reprsentations, groupes algbriques, groupes quantiques...) et reste encore
trs active. Par ailleurs ces objets interviennent aussi dans des branches a priori plus
loignes des mathmatiques : en thorie des nombres, par le truchement des formes
automorphes et du programme de Langlands, et en physique thorique, notamment
dans la physique des particules ou la relativit gnrale.
Table des matires
1 Groupes topologiques et groupes de Lie linaires 3
1.1 Notions de base. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
1.2 Groupe linaire gnral . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
1.3 Groupes de Lie linaires. Exemples classiques. . . . . . . . . . . . . . . . . 13
2 Des groupes de Lie aux algbres de Lie 20
2.1 Complments sur lexponentielle . . . . . . . . . . . . . . . . . . . . . . . . 20
2.2 Lalgbre de Lie dun groupe de Lie . . . . . . . . . . . . . . . . . . . . . . 21
2.3 Exemples classiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
3 Structure des algbres de Lie 27
3.1 Algbres de Lie abstraites. Exemples. . . . . . . . . . . . . . . . . . . . . 27
3.2 Algbres de Lie nilpotentes . . . . . . . . . . . . . . . . . . . . . . . . . . . 30
3.3 Algbres de Lie rsolubles. . . . . . . . . . . . . . . . . . . . . . . . . . . . 32
3.4 Algbres de Lie semi-simples. . . . . . . . . . . . . . . . . . . . . . . . . . 35
3.5 Reprsentations irrductibles de sl
2
(C) . . . . . . . . . . . . . . . . . . . . 39
1
Universit Pierre et Marie Curie Master de Mathmatiques
4 Retour aux groupes : reprsentations et analyse harmonique 41
4.1 Reprsentations (gnralits) . . . . . . . . . . . . . . . . . . . . . . . . . . 41
4.2 Reprsentations de dimension nie . . . . . . . . . . . . . . . . . . . . . . 42
4.3 Reprsentations des groupes compacts . . . . . . . . . . . . . . . . . . . . 45
4.4 Analyse harmonique et dcomposition spectrale . . . . . . . . . . . . . . . 49
2
Universit Pierre et Marie Curie Master de Mathmatiques
1 Groupes topologiques et groupes de Lie linaires
1.1 Notions de base.
1.1.1 Dfinition. Un groupe topologique est un ensemble G muni dune loi de groupe
(x, y) xy et dune topologie vriant les axiomes suivants :
i) Lapplication produit (x, y) xy est une application continue de GG dans G.
ii) Lapplication inverse x x
1
est une application continue de G dans G.
Dans le point i), on munit bien-sr G G de la topologie produit. Une loi de groupe
continue est en particulier sparment continue au sens o, pour tout x G, les trans-
lations
x
: y xy et
x
: y yx sont des applications continues de G dans G. Une
consquence pratique du point ii) est que llment neutre e de G admet une base de
voisinages symtriques (i.e. tels que V = V
1
).
1.1.2 Quelques exemples.
i) Tout groupe abstrait muni de la topologie discrte. On dit alors que G est discret.
ii) Un produit de groupes topologiques, muni de la topologie produit, est encore un
groupe topologique. Par exemple, si G est ni, G
N
est un groupe topologique non
discret.
iii) Variante : limites projectives. Si (G
n
)
nN
est une suite de groupes (nis par exemple)
et si
n
: G
n
G
n1
est un morphisme de groupes, alors le sous -groupe
lim

(G
n
,
n
) := (x
n
)
nN

nN
G
n
, n N,
n
(x
n
) = x
n1

est un sous-groupe ferm (exercice) du produit

nN
G
n
. On lappelle limite projec-
tive du systme (G
n
,
n
)
nN
. On ne sintressera pas beaucoup ces exemples dans
ce cours, mais ce sont des constructions importantes en arithmtique. Voici deux
exemples :
Les nombres p-adiques Z
p
:= lim

n
(Z/p
n
Z,
n
) o p est un nombre premier et

n
: Z/p
n
Z Z/p
n1
Z est la projection canonique. Cest un groupe, et mme
un anneau topologique compact, trs utile en thorie des nombres.
Les groupes de Galois dextension algbriques de degr inni. Par exemple lho-
momorphisme naturel Gal(Q/Q) lim

n
Gal(K
n
/Q), o K
n
est une suite crois-
sante dextensions Galoisiennes de Q dunion Q, est un isomorphisme qui fait de
Gal(Q/Q) un groupe compact, objet de toutes les attentions de la recherche mo-
derne en thorie des nombres.
iv) Le groupe GL
n
(R) et ses sous-groupes ferms. Ce sont ces exemples qui nous intres-
seront dans ce cours.
1.1.3 Dfinition. Un (homo)morphisme f : G G

de groupes topologiques est un


homomorphisme de groupes abstraits (c--d tel que f(xy) = f(x)f(y)) qui est continu.
3
Universit Pierre et Marie Curie Master de Mathmatiques
Comme dhabitude, un homomorphisme de groupes topologiques f est appel isomor-
phisme sil admet un inverse (c-a-d un homomorphisme de groupes topologiques G

g
G
tel que f g = id
G
et g f = id
G
). Cela quivaut demander que f soit la fois un
isomorphisme de groupes abstraits et un homomorphisme.
1.1.4 Quelques proprits faciles.
i) Un homomorphisme f de groupes abstraits est continu ds quil lest en llment
neutre e de G.
ii) Un groupe topologique G est spar si (et seulement si) le point e est ferm. En
eet, soient x ,= y dans G. Le singleton x
1
y est ferm (par translation), donc
puisque x
1
y ,= e, il existe un voisinage 1 de e ne contenant pas x
1
y. Mais par
continuit de la loi de groupe, il existe un voisinage | de e tel que |.| soit inclus
dans 1. On a alors e / x||y
1
, donc x| y|
1
= . (Notation : si A et B sont
deux parties de G, A.B = AB dsigne lensemble des lments de la forme ab, o
a A, b B.)
iii) Si f est comme dans la dnition ci-dessus et si G est spar, alors Ker(f) est ferm
dans G. Par contre, Im(f) na pas de raison de ltre.
iv) Si H est ouvert dans G, il est automatiquement ferm. En eet, son complmentaire
est runion des classes gauche xH, x G, x / H. Par contre linverse nest pas
vrai !
v) Si H est ferm dans G, son normalisateur N(H) := x G, h H, xhx
1
H
est un sous-groupe ferm de G; idem pour son centralisateur Z(H) := x G, h
H, xhx
1
= h, donc pour le centre Z(G) de G.
vi) Si un sous-groupe de G, muni de la topologie induite, est discret, alors il est ferm.
En eet, soit 1 un voisinage ouvert symtrique de e tel que 1 = e, et soit
y (adhrence de ). Alors y1 est un voisinage ouvert de y donc y1 ,= .
Soit x dans cette intersection. On a donc y x1 . Comme x1 est ouvert, on a
x1 x1 = x. Donc y = x.
vii) La composante connexe G
0
de e (aussi appele composante neutre de G) est un sous-
groupe ferm normal (i.e. distingu : N(G
0
) = G). En eet, G
0
est ferm, comme
toute composante connexe. De plus, pour tout x dans G
0
, x
1
G
0
est connexe et
contient e, donc est contenu dans G
0
, qui est donc un sous-groupe ; de mme, x
1
G
0
x
est contenu dans G
0
. Notons que G
0
est ouvert si G est localement connexe.
viii) G
0
est contenu dans tout sous-groupe ouvert H de G. En eet, on crit G
0
= (G
0

H) .(G
0
(GH)) comme somme de deux ouverts (cf point iv)). Comme le premier
est non vide (il contient e), le second est ncessairement vide par connexit de G
0
,
et on a donc bien G
0
= G
0
H, i.e. G
0
H.
1.1.5 Lemme. Soient G un groupe topologique, et 1 un voisinage connexe de e. Alors,
G
0
est la runion des 1
n
:= x
1
x
2
...x
n
, x
i
1, o n parcourt N.
4
Universit Pierre et Marie Curie Master de Mathmatiques
Dmonstration. En eet, cette runion | densembles connexes dintersection non vide est
connexe, donc contenue dans G
0
. Posons alors J = 1 1
1
; cest un voisinage symtrique
de e, donc la runion des J
n
, n N, est un sous-groupe ouvert H de G, donc H
0
G
0
.
Noter alors que | H.
1.1.6 Dfinition. Soit H un sous-groupe du groupe topologique G. On dnit les-
pace topologique quotient G/H comme lensemble quotient (au sens des groupes abstraits),
muni de la topologie quotient, i.e. la topologie la plus ne rendant la projection canonique
: G G/H continue.
Concrtement, un sous-ensemble U G/H est donc ouvert si et seulement si
1
(U)
est ouvert dans G. On constate alors que :
i) est une application ouverte (cad qui envoie tout ouvert sur un ouvert). En eet, si
O G est ouvert, alors
1
((O)) =

hH
Oh est aussi ouvert.
ii) G/H est discret si et seulement si H est ouvert dans G. Exercice.
iii) G/H est spar si et seulement si H est ferm dans G. Seul le sens est non trivial.
Soient x, y G tels que xH ,= yH, cad x
1
y / H. Considrons lapplication continue
de G G dans G qui (g, g

) associe gx
1
yg

. Comme H est ferm et f(e, e) / H,


on peut trouver un voisinage ouvert 1 de e tel que f(1, 1) H = . Ceci quivaut
y1H x1
1
H = . Donc (y1H) et (x1
1
H) sont des voisinages respectifs de yH
et xH dintersection vide.
iv) Si G/H et H sont connexes, alors G est connexe. En eet, une application continue
f de G vers 0, 1 sera constante sur les classes gauche modulo H par connexit,
donc se factorisera par G/H en une application nouveau constante par connexit
de G/H. Donc f est ncessairement constante, et G est bien connexe.
v) Si G est localement compact et H est ferm, alors G/H est localement compact.
vi) Si H est distingu, G/H est un groupe topologique et est un morphisme de groupes
topologiques.
1.1.7 Attention !. Si f : G G

est un morphisme de groupes abstraits, il induit un


isomorphisme de groupes abstraits :
f : G/ Ker(f)

Im(f).
Supposons de plus que G et G

sont des groupes topologiques. Alors il est naturel de


munir G/ Ker(f) de la topologie quotient et de munir Im(f) de la topologie induite par
G

. Lapplication f est alors continue, mais gnralement pas un homomorphisme.


Exemple stupide : G = G

et f = id avec la topologie discrte sur G et une topologie


non discrte sur G

. Exemple moins stupide : enroulement irrationnel dune celle sur un


tore, cad injection continue de R dans R
2
/Z
2
. mditer.
Exercice : f est un homomorphisme si et seulement si pour tout voisinage 1 de e, f(1)
est un voisinage de e

dans Im(f).
5
Universit Pierre et Marie Curie Master de Mathmatiques
1.1.8 Lemme. Soit G un groupe topologique connexe, de centre Z = Z(G).
i) Tout sous-groupe distingu et discret N de G est contenu dans Z.
ii) Si Z est discret, le centre de G/Z est rduit son lment neutre.
Dmonstration. i) Pour tout lment n de N, lapplication : g gng
1
n
1
de G dans
G est continue. Elle envoie G dans N (puisque N est distingu), donc (G) est discret
dans G. Mais (G) est connexe et contient e = (n
1
). Donc (G) est rduit e, et n
commute tous les lments de G.
ii) Soit x un relev dans G dun lment du centre de G/Z. Alors, lapplication : g
gxg
1
x
1
envoie G dans Z, donc son image est e, et par consquent x Z.
1.1.9 Dfinition. Soient G et G

deux groupes topologiques. On appelle homomor-


phisme local de G vers G

toute application continue h, dun voisinage 1 de e dans G, vers


G

, telle que h(xy) = h(x)h(y) ds que x, y et xy sont dans 1.


Si un homomorphisme local induit un homomorphisme dun voisinage 1 de e sur un
voisinage 1

de e

dans G

, on dit que cest un isomorphisme local. Dans ce cas, f


1
: 1

1
est aussi un homomorphisme local et on dit que G et G

sont localement isomorphes. Noter


quen gnral, un homomorphisme local ne se prolonge pas en un homomorphisme de
groupes.
Exemple : la projection R R/Z est un authentique homomorphisme de groupes
topologiques. Cest aussi un isomorphisme local, bien quelle ne soit pas injective. Lhomo-
morphisme local inverse ne se prolonge pas en un homomorphisme R/Z R. (Exercice :
montrer quil nexiste pas de tel homomorphisme.)
Plus gnralement, si G est un sous-groupe ferm discret, lhomomorphisme quo-
tient G G/ est un isomorphisme local, mais nadmet en gnral pas dinverse global.
1.1.10 Actions continues de groupes topologiques. Rappelons quune action dun groupe
abstrait G sur un ensemble X est un homorphisme G

S(X) o S(X) dsigne le groupe
des bijections de X dans lui-mme. Alternativement, cest une application
GX X
(g, x) gx := (g)(x)
satisfaisant les axiomes usuels ex = x et (gg

)x = g(g

x) pour tous g, g

G et x X.
Dfinition. Soit G un groupe topologique et X un espace topologique. Une action
de G sur X est dite continue si lapplication (g, x) gx est continue.
En guise dexercice, on vriera que laction de G sur G/H est continue. Soit X comme
dans la dnition et soit x X. Notons G
x
son stabilisateur et G x son orbite. Laction
de G induit une bijection continue G/G
x

G x. En gnral, comme dans 1.1.7, ce nest


pas un homomorphisme. Il y a cependant un cas utile o cest un homomorphisme :
Proposition. Si G/G
x
est compact, la bijection G/G
x

G x est un homomor-
phisme.
6
Universit Pierre et Marie Curie Master de Mathmatiques
Dmonstration. En eet elle est alors ouverte (limage dun ouvert est le complmentaire
de limage du ferm complmentaire, laquelle est compacte puisque la bijection est continue
et la source est compacte).
Voici un autre rsultat gnral dans ce sens, que nous citons pour la culture.
Thorme. Supposons que G est localement compact et dnombrable linni (union
dnombrable de compacts), et que lorbite est localement compacte. Alors la bijection ci-
dessus est un homomorphisme.
Remarquons que lhypothse dnombrable linni est vrie par tout groupe loca-
lement compact connexe, en vertu du lemme 1.1.5.
Dmonstration. (Hors programme) Il sut de prouver que lapplication g G g x
G x est ouverte. Comme dhabitude, laide des translations, on se ramne prouver
que si | est un voisinage de e dans G, alors | x est un voisinage de x dans G x. Soit
J un voisinage compact symtrique de e tel que J
2
|. Lhypothse dnombrable
linni implique lexistence dune suite (g
n
)
nN
dlments tels que G =

nN
g
n
J. On a
donc aussi G x =

nN
g
n
J x. Chacun des g
n
J x est compact dans G x. Le thorme
de Baire (faire un tour sur wikipedia...), applicable G x puisquon suppose cette orbite
localement compacte, nous dit quau moins lun des g
n
J x est dintrieur non vide. Par
translation, J x est donc dintrieur non vide. Soit w x un point dans lintrieur de J x.
Par translation, x est dans lintrieur de w
1
J x |.x.
Un espace de la forme G/H pour G localement compact et H ferm est gnralement
appel espace homogne.
1.2 Groupe linaire gnral
Soit V un espace de Banach (c.a.d. un espace vectoriel norm complet) sur le corps
K = R ou C. Lespace L(V/K) des endomorphismes K-linaires continus de V , muni de
la norme [[[[ := sup[[(v)[[, v V, [[v[[ = 1 est aussi un espace de Banach.
1.2.1 Thorme. Le groupe G = GL(V/K) L(V/K) des endomorphismes conti-
nus inversibles est un ouvert dans L(V/K), et lapplication inverse g g
1
est continue.
En particulier G est un groupe topologique spar. Si de plus V est de dimension nie,
alors G est localement compact, et dense dans L(V/K).
On prendra garde au fait que inversible sous-entend inversible parmi les endomor-
phismes continus, cest--dire que que linverse doit aussi tre continu. En dimension nie,
bijectif implique inversible, mais pas en dimension innie.
Dmonstration. Soit L(V ) tel que [[[[ < 1. Puisque L(V ) est complet, la srie

nN

n
converge, et est inversible dinverse id
V
. Ainsi GL(V ) contient un voisinage
1 de id
V
dans L(V ). Soit alors g G un lment. La multiplication par g dans L(V ) est
continue, et ouverte puisque celle par g
1
est aussi continue. Ainsi g.1 est un voisinage
7
Universit Pierre et Marie Curie Master de Mathmatiques
de g dans L(V ) contenu dans G, qui est donc bien ouvert. De mme, la srie ci-dessus
dpendant continment de , on voit que lapplication inverse g g
1
est continue au
voisinage de id
V
. Par translation, elle est continue en tout point.
Reste voir la densit dans le cas de dimension nie. Soit M M
n
(K), considrons la
R-droite ane D
M
:= (M(t) := M tI
n
)
tR
dans M
n
(K). Il ny a quun nombre ni de
valeurs de t pour lesquelles M(t) nest pas inversible, donc D
M
GL
n
(K) est dense dans
D
M
.
Exercice. Si V est de dimension nie, montrer directement la continuit de g g
1
laide des formules de Cramer. Montrer aussi dans ce cas quune partie ferme de G est
compacte si et seulement sil existe un rel c > 0 tel que g , [[[[ c et det() > 1/c.
Remarque. Un espace de Banach V sur C fournit naturellement un espace de Banach

V sur R, muni dun automorphisme J de carr id

V
, ce qui permet didentier GL(V/C)
au sous-groupe ferm g GL(

V /R), gJ = Jg de GL(

V /R), et en particulier, GL
n
(C)
un sous-groupe ferm de GL
2n
(R).
Exercice. Voici deux applications de la densit de GL
n
(K) dans M
n
(K), bien connues
des agrgatifs, que nous laissons en exercice :
i) Si A, B M
n
(K), alors AB et BA ont mme polynme caractristique.
ii) Le centre de GL
n
(K) est exactement le groupe .id
K
n, K

des homo-
thties non nulles de lespace vectoriel K
n
.
Exercice. Vrier que laction de GL
n
(K) sur K
n
est continue. Soit P
n
(K) le sous-
groupe de GL
n
(K) form des matrices dont la dernire colonne est (0, , 0, 1) (parfois
appel sous-groupe mirabolique).
i) Utiliser le thorme 1.1.10 pour prouver que GL
n
(K)/P
n
(K) est homomorphe
K
n
0.
ii) Vrier que P
n
(K) est homomorphe au produit GL
n1
(K) K
n1
.
iii) En dduire par rcurrence que GL
n
(C) est connexe.
iv) Toujours par rcurrence, prouver que GL
n
(R) a exactement deux composantes connexes
et que sa composante neutre est GL
+
n
(R) = g GL
n
(R), det(g) > 0.
Cette tude de la connexit des groupes linaires utilise le thorme 1.1.10. On peut se
contenter en fait de la proposition 1.1.10 laide des dcompositions polaires qui ramnent
ltude des groupes linaires celles de certains sous-groupes compacts.
1.2.2 Lexponentielle. Soit u L(V/K). Rappelons que u
k
dsigne la compose u u
u (k fois). Comme la norme [[.[[ sur L(V/K) est sous-mutiplicative (i.e. [[u
k
[[ [[u[[
k
),
la srie
exp(u) :=

kN
u
k
k!
est normalement convergente, donc convergente dans L(V/K) puisque celui-ci est complet.
Pour les mmes raisons, elle dpend continment de u. Par ailleurs, on vrie facilement
8
Universit Pierre et Marie Curie Master de Mathmatiques
que si u et v commutent, on a exp(u + v) = exp(u)exp(v), de sorte que, en particulier, on
a exp(u)exp(u) = id
V
. On a donc obtenu une application continue
exp : L(V/K) GL(V/K).
Un passage la limite montre que pour tout g GL(V/K), on a exp(gug
1
) = gexp(u)g
1
.
Exercice. Si V est de dimension nie, on a det(exp(u)) = exp(tr(u)).
Dans lautre sens, considrons la srie
log(u) :=

k1
(id
V
u)
k
k
.
Elle converge normalement vers une fonction continue
log : B(id
V
, 1) L(V/K)
sur la boule ouverte B(id
V
, 1) = u, [[ id
V
u[[ < 1, qui est contenue dans GL(V/K).
On vrie formellement que exp log(u) = u pour tout u B(id
V
, 1). Inversement, on a
log exp(u) = u pour tout u B(0, log(2)) (la convergence du log tant ici assure par
[[ id
V
exp(u)[[ < exp([[u[[) 1 < 1). En termes moins prcis, on constate que exp ralise
un homomorphisme local dun voisinage de 0 sur un voisinage de id
V
.
Exercice. Vrier que exp nest pas injective. (Indication : en dimension 2 sur R,
calculer exp
_
0 2
2 0
_
.)
Exercice. Trouver un voisinage 1 de id
V
dans GL(V/K) qui ne contient pas de sous-
groupe non-trivial.
En dimension nie, on peut utiliser des techniques direntielles, qui seront trs utiles
par la suite.
Lemme. Supposons V de dimension nie. Alors
i) exp est K-analytique (donc en particulier de classe C

).
ii) exp ralise un diomorphisme local dun voisinage de 0 L(V/K) sur un voisinage
de id
V
GL(V/K).
Dmonstration. i) est clair. On peut aussi prouver la direntiabilit par le thorme de
drivation dune srie dont la somme des drives converge uniformment sur tout compact.
ii) On a exp(u)exp(0) = u+o(u), donc la direntielle en 0 est lidentit qui est inversible,
et on peut appliquer le thorme dinversion locale. Alternativement, on peut utiliser le
log.
9
Universit Pierre et Marie Curie Master de Mathmatiques
1.2.3 Rappels sur les dcompositions de Jordan. On suppose ici que V est de dimension
nie. De plus, si le corps de base K = R, on note V
C
le complexi de V .
Dfinition. Soit a L(V/K) un K-endomorphisme de V . Si K = R, notons a
C
lextension C-linaire de a V
C
. On dit que a est :
i) semi-simple si lune des conditions quivalentes suivantes est satisfaite :
(a) V
C
est somme directe de sous-espaces propres pour a
C
, cest--dire a
C
est dia-
gonalisable ;
(b) le polynme minimal m
a
(T) de a est sparable ( i.e. na que des racines simples
dans C), autrement dit : la K-algbre K[a] engendre par a dans End(V/K) est
isomorphe un produit de corps.
ii) nilpotent si une puissance de a est nulle (de faon equivalente, si toutes les valeurs
propres de a
C
sont nulles),
iii) unipotent si a id
V
est nilpotent (de faon equivalente, si toutes les valeurs propres
de a
C
sont gales 1).
Il est conseill de relire, si besoin est, les cours dalgbre linaire de L2-L3 pour se
convaincre de lquivalence des conditions. On rappelle aussi les proprits trs utiles de
diagonalisation ou trigonalisation simulanes : soit c L(V/K) une famille dendomor-
phismes trigonalisables (resp. diagonalisables) qui commutent deux deux, alors il existe
une base de V dans laquelle tous les lments de c sont triangulaires (resp. diagonaux).
Exercice. Montrer que lensemble L(V/K)
ss
des K-endomorphismes semi-simples de
V est ouvert et dense dans L(V/K). Montrer que lensemble L(V/K)
nilp
des endomor-
phismes nilpotents de V est ferm dans L(V/K). Montrer enn que lensemble GL(V/K)
unip
des automorphismes unipotents de V est ferm dans L(V/K).
Proposition. Lexponentielle induit un homomorphisme
exp : L(V/K)
nilp

GL(V/K)
unip
dont linverse est donn par la srie log.
Dmonstration. Si a est nilpotent, on a a
n
= 0 pour n = dim(V ). Donc la restriction
de lexponentielle L(V/K)
nilp
est donne par le polynme a

n
k=0
a
k
k!
. En particulier
id
V
exp(a) est nilpotent donc exp(a) est unipotent. Rciproquement si u est unipotent,
log(u) est donne par le polynme

n
k=1
(id
V
u)
k
k
et est clairement nilpotent. Ainsi exp :
L(V/K)
nilp
GL(V/K)
unip
et log : GL(V/K)
unip
L(V/K)
nilp
sont bien dnis. Un
calcul formel montre quils sont inverses lun de lautre.
Proposition. i) ( Jordan additif) Soit a un K-endomorphisme de V . Il existe un
unique couple (a
s
, a
n
) de K-endomorphismes de V , avec a
s
semi-simple, a
n
nilpotent
et a
s
a
n
= a
n
a
s
= a. De plus, a
s
et a
n
sexpriment comme des polynmes en a
coecients dans K, sans termes constants.
10
Universit Pierre et Marie Curie Master de Mathmatiques
ii) ( Jordan multiplicatif) Soit g un K-automorphisme de V . Il existe un unique couple
(g
s
, g
u
) de K-automorphismes de V , avec g
s
semi-simple, g
u
unipotent et g
s
g
u
=
g
u
g
s
= g. De plus, g
s
et g
u
sexpriment comme des polynmes en a coecients
dans K.
Dmonstration. Pour lexistence de ces dcompositions, et leur expression sous forme po-
lynmiale, voir le cours dalgbre de L3. Lunicit se dduit de la remarque suivante. Soit
a et b deux endomorphismes de V tels que ab = ba. Alors, si a et b sont nilpotents, a + b
est nilpotent ; si a et b sont unipotents, ab est unipotent ; si a et b sont semi-simples, ab et
a + b sont semi-simples. (En eet, a et b, ou le cas chant a
C
et b
C
, sont simultanment
diagonalisables).
Corollaire. Si K = C, lexponentielle exp : L(V/C) GL(V/C) est surjective.
Dmonstration. Soit g GL(V/C). Ecrivons g sous forme de Jordan g = g
s
g
u
. Soient

1
, ,
n
les valeurs propres de g. Choisissons un polynme P C[X] tel que P(
i
) =
log
i
pour tout i. Alors x
s
:= P(g
s
) est un logarithme de g
s
. Comme dans la premire
proposition, x
u
:= log(id
V
g
u
) est un polynme en g
u
, est nilpotent, et est un logarithme
de g
u
. Comme x
u
et x
s
sont des polynmes en g, ils commutent, et par consquent, posant
x = x
u
x
s
, on a exp(x) = exp(x
s
)exp(x
u
) = g
s
g
u
= g.
Si K = R, on vrie facilement que limage de lexponentielle est contenue dans la
composante neutre GL
+
(V/R). Pour n > 1, elle y est strictement contenue.
Exercice. Trouver un logarithme rel pour la matrice
_
1 0
0 1
_
, mais montrer que
la matrice
_
1 1
0 1
_
nest pas lexponentielle dune matrice relle.
1.2.4 Dcomposition polaire de GL
n
(R). Il sagit dun outil trs utile pour ltude
topologique de GL
n
(R). Soit O(n) = O
n
(R) le groupe des matrices n n orthogonales, et
soit SDP
n
lensemble des matrices n n symtriques dnies positives. Nous aurons aussi
besoin de lespace vectoriel S
n
R
n(n+1)/2
de toutes les matrices symtriques de taille n.
Lemme. i) O(n) est un sous-groupe compact (donc ferm) de GL
n
(R).
ii) SDP
n
est un demi-cne convexe de M
n
(R), ferm dans GL
n
(R).
iii) Lapplication exp induit un homomorphisme S
n

SDP
n
.
iv) Lapplication S S
2
est un homomorphisme de SDP
n
dans lui-mme.
Dmonstration. i) Le groupe O(n) est limage rciproque de I
n
par lapplication conti-
nue M
t
MM, donc il est ferm. Il est aussi born pour la norme euclidienne M
_
tr(
t
MM) sur M
n
(R), donc compact.
ii) tre un demi-cne signie simplement tre stable par homothties positives, ce
qui est vident pour SDP
n
. tre convexe signie que pour A, B SDP
n
, on a M(t) :=
tA + (1 t)B SDP
n
pour tout t [0, 1]. Il est clair que M(t) est symtrique. De plus
11
Universit Pierre et Marie Curie Master de Mathmatiques
pour tout x R
n
, on a M(t)x, x) = tAx, x) + (1 t)Bx, x) > 0, donc M(t) est bien
dnie positive. Enn, si une suite de matrices de SDP
n
converge vers S dans M
n
(R), alors
S est symtrique et ses valeurs propres de S sont 0. Donc si S est dans GL
n
(K), elle est
aussi dans SDP
n
.
iii) Si T est symtrique, alors ses valeurs propres sont relles. La matrice exp(T) est
clairement symtrique et ses valeurs propres sont les exponentielles de celles de T, donc
sont strictement positives. On a donc bien exp(T) SDP
n
. Prouvons la surjectivit. Soit
S SDP
n
. Elle est diagonalisable dans une base orthonorme et valeurs propres stricte-
ment positives. Elle est donc de la forme S = O.D(
1
, ,
n
).O
1
o O est une matrice
orthogonale et D(
1
, ,
n
) est la matrice diagonale des valeurs propres
i
> 0 de S. La
matrice (S) := O.D(log
1
, , log
n
).O
1
est symtrique et vrie S = exp((S)), do
la surjectivit. Pour linjectivit, xons T S
n
, posons S := exp(T), et montrons que
T = (S). Pour cela on remarque que (S) est un polynme en S (prendre un polynme
qui envoie chaque
i
sur log
i
). Il sensuit que T commute (S), puisquelle commute
S. On peut alors diagonaliser T et (S) dans une mme base. Comme elles ont les mmes
valeurs propres, elles sont donc gales.
Reste voir la continuit de la bijection rciproque S (S). Soit (S
i
)
iN
une suite
qui converge vers S. crivons chaque S
i
sous la forme O
i
D
i
O
1
i
avec O
i
orthogonale et
D
i
diagonale. Comme O(n) est compact, on peut extraire de la suite (O
i
)
iN
une suite
(O
(i)
)
iN
convergente. La suite (D
(i)
)
iN
converge alors vers D = D(
1
, ,
n
), et par
consquent la suite ((S
(i)
))
iN
converge vers (S).
iv) Lhomomorphisme rciproque est S

S := exp(
1
2
(S)).
Thorme. (Dcomposition polaire) Lapplication produit
O(n) SDP
n
GL
n
(R)
(O, S) OS
est un homomorphisme.
Dmonstration. Lapplication est videmment continue. Observons que si M = OS, alors
t
MM = S
2
. Rciproquement, si M M
n
(R), alors
t
MM est dnie positive et M.

t
MM
1
est orthogonale. Il sensuit que lapplication continue
GL
n
(R) O(n) SDP
n
M (M.

t
MM
1
,

t
MM)
est une (la) bijection rciproque de lapplication de lnonc.
Exercice. Vrier que laction de O(n) sur la sphre euclidienne S
n1
= x
R
n
, [[x[[
2
= 1 est continue. Soit SO(n) le groupe spcial orthogonal (dterminant 1). Utili-
ser la proposition 1.1.10 pour trouver un homomorphisme SO(n)/SO(n1)

S
n1
, o
lon voit SO(n 1) plong dans un bloc diagonal de SO(n). En dduire par rcurrence la
12
Universit Pierre et Marie Curie Master de Mathmatiques
connexit
1
de SO(n), puis le fait que O(n) a deux composantes connexes, et enn retrouver
les composantes connexes de GL
n
(R) grce la dcomposition polaire.
1.2.5 Dcomposition polaire de GL
n
(C). Celle-ci est analogue la prcdente, mais il
faut trouver un substitut au groupe orthogonal O(n, C), qui nest plus compact. Soit U(n)
le groupe des matrices nn unitaires (i.e. qui vrient
t
A.A = I
n
) et soit HDP
n
lensemble
des matrices n n hermitiennes dnies positives. Les deux rsultats suivants se prouvent
comme dans le cas rel. Nous avons aussi besoin de lespace vectoriel H
n
R
n
2
de toutes
les matrices hermitiennes de taille n.
Lemme. i) U(n) est un sous-groupe compact (donc ferm) de GL
n
(C).
ii) HDP
n
est un demi-cne convexe de M
n
(C), ferm dans GL
n
(C).
iii) Lapplication exp induit un homomorphisme H
n

HDP
n
.
iv) Lapplication M M
2
est un homomorphisme de HDP
n
dans lui-mme.
Thorme. Lapplication produit
U(n) HDP
n
GL
n
(C)
(U, H) UH
est un homomorphisme.
Exercice. Reprendre lexercice prcdent avec laction naturelle de U(n) sur la sphre
S
2n1
C
n
. En particulier on a un homomorphisme SU(n)/SU(n 1)

S
2n1
. On en
dduit par rcurrence la connexit
2
de U(n) et celle de SU(n).
1.3 Groupes de Lie linaires. Exemples classiques.
1.3.1 Dfinition. On appelle groupe de Lie linaire tout sous-groupe ferm dun
groupe linaire GL
n
(R).
Comme GL
n
(C) est un sous-groupe ferm de GL
2n
(R), on peut remplacer GL
n
(R) par
GL
n
(C), ou mme par GL(V/K) pour V de dimension nie, dans la dnition ci-desus.
Par commodit, nous parlerons souvent simplement de groupe de Lie. Il faut pr-
ciser ici que la notion de groupe de Lie que lon trouve dans la littrature avance est
plus gnrale et plus intrinsque que celle-ci, mais ncessite le vocabulaire de la gomtrie
direntielle que nous ne supposons pas connu.
Nous avons dj rencontr O(n) et U(n). Voici un tour dhorizon des groupes de Lie
dits classiques.
1
Par la mme mthode on peut montrer aussi que le groupe fondamental
1
(SO(n)) est un groupe
dordre 2, pour n 3. Le revtement universel Spin(n) de SO(n) est appel groupe spinoriel.
2
Par la mme mthode on prouve la simple connexit de SU(n) et on montre que le groupe fondamental
de U(n) est isomorphe
1
(U(1)) = Z.
13
Universit Pierre et Marie Curie Master de Mathmatiques
1.3.2 Groupes linaires spciaux et projectifs. Pour tout K-ev V de dimension nie,
le dterminant est un homomorphisme de groupes topologiques de GL(V/K) dans K

:=
GL
1
(K). Son noyau SL(V/K) sappelle le groupe spcial linaire de V . Il est ferm, non
compact, dans GL(V/K) (sauf SL
1
(K) = 1 qui est compact). Pour V = K
n
on note
SL
n
(K).
Pour n 2, le groupe SL
n
(R) est connexe
3
, de mme que le groupe SL
n
(C)
4
.
Exercice. Le centre de SL
n
(K) est form des homothties de dterminant 1, donc il
est isomorphe au groupe
n
(K) des racines n-imes de lunit dans K

(dordre n si K = C,
dordre 1 ou 2 si K = R).
Les groupes PGL
n
(K) := GL
n
(K)/(K

I
n
), PSL
n
(K) := SL
n
(K)/(
n
(K)I
n
) interviennent
naturellement en gomtrie projective. Il nest pas compltement vident de voir que ce
sont bien des groupes de Lie linaires. Voici une possibilit.
Exercice. Montrer que laction par conjugaison de GL
n
(K) sur V = M
n
(K) est
continue et induit un homomorphisme continu GL
n
(K) GL(V/K), dont le noyau est
le centre K

de GL
n
(K). Enn, montrer que ce morphisme identie PGL
n
(K) un sous-
groupe ferm de GL(V/K).
1.3.3 Groupes orthogonaux. Comme dhabitude K dsigne R ou C. Soit V un K-espace
vectoriel de dimension nie, et soit : V V R une forme bilinaire symtrique non
dgnre. On pose
O() := g GL(V/K), (gv, gw) = (v, w), v, w V .
Cest un sous-groupe ferm de GL(V/K) appel groupe orthogonal de . On vrie facile-
ment que deux formes quadratiques quivalentes ont des groupes orthogonaux isomorphes
(et mmes conjugus). Lorsque K = C, on sait que toutes les formes quadratiques sont
quivalentes, de sorte que O() est isomorphe au groupe orthogonal complexe usuel
O(n, C) = M M
n
(C),
t
MM = I
n
.
Exercice. Utiliser la dcomposition polaire pour exhiber un homomorphisme entre
O(n, C) et O(n) R
n(n1)/2
.
Lorsque K = R, le thorme de Sylvester arme lexistence dun entier p n et dune
base e
1
, , e
n
dans laquelle

_
n

i=1
x
i
e
i
,
n

i=1
y
i
e
i
_
=
p

i=1
x
i
y
i

i=p+1
x
i
y
i
.
3
connexe, mais pas simplement connexe ; ainsi, SL
2
(R) a un
1
isomorphe Z, et il nexiste aucun
homomorphisme continu injectif de son revtement universel dans un groupe linaire GL
n
(R). Ce revtemet
universel est un exemple de groupe de Lie non linaire.
4
qui, lui, est simplement connexe.
14
Universit Pierre et Marie Curie Master de Mathmatiques
Le couple dentiers (p, q := n p) sappelle la signature de . Ainsi O() est isomorphe
au groupe matriciel
O(p, q) :=
_
M M
p+q
(R),
t
M.D
p,q
.M = D
p,q
_
o D
p,q
= D(1, , 1, 1, , 1) est la matrice diagonale o 1 est rpt p fois et 1 lest
q fois. Pour p = n et p = 0, on retrouve le groupe orthogonal euclidien O(n, 0) = O(n) qui,
comme on la vu, est compact et agit continment sur la sphre euclidienne S
n1
. Les autres
groupes orthogonaux ne sont pas compacts ; ils agissent sur des espaces hyperboliques. Par
exemple O(1, n 1) est le groupe disomtrie de lhyperbolode H
n
= x R
n
,

n1
i=1
x
2
i

x
2
n
= 1. On a O(p, q) = O(q, p) et on montre que les O(p, q) pour q p sont deux deux
non isomorphes.
Exemple. Pour la forme xx

+ yy

+ zz

tt

sur lespace-temps R
4
, on obtient ainsi
le groupe de Lorentz O(3, 1) qui intervient dans la thorie de la relativit gnrale.
5
Exercice. Vrier que O(p, q) O(p +q) = O(p) O(q). Puis montrer que la dcom-
position polaire de GL
p+q
(R) se restreint en un homomorphisme
O(p, q) O(p) O(q) (O(p, q) SDP
p+q
).
laide de lexponentielle, vrier que O(p, q) SDP
p+q
est homomorphe un espace
ane R
d
. Ceci ramne ltude topologique des O(p, q) celles des O(n). En particulier, on
constate que O(p, q) a 4 composantes connexes ds que pq ,= 0.
Par ailleurs, on dnit les groupes spciaux orthogonaux par
SO(p, q) := O(p, q) SL
p+q
(R).
On peut montrer que SO(p, q) a deux composantes connexes et est dindice 2 dans O(p, q).
Lorsque la signature est (n, 0), la forme quadratique (v, v) est dnie positive et
O() est le groupe disomtries de lespace euclidien (V, ). Plus gnralement, soit V
un espace de Hilbert sur R, cest--dire un Banach dont la norme provient dun produit
scalaire. Le groupe orthogonal O(V ) est le groupe des isomtries de V , cest--dire des
automorphismes K-linaires g de V tels que [[g(v)[[ = [[v[[ pour tout v V , ou encore
tels que g.g

= g

.g = id
V
, o g

dsigne ladjoint de g pour le produit scalaire. Cest un


sous-groupe ferm de GL(V/K).
1.3.4 Groupes unitaires. Ici K = C. Soit donc V un C-espace vectoriel de dimension
nie, et soit : V V R une forme sesquinaire hermitienne non dgnre. On pose
U() := g GL(V/C), (gv, gw) = (v, w), v, w V .
Cest un sous-groupe ferm de GL(V/C) appel groupe unitaire de . Comme dans le cas
rel, deux formes hermitiennes quivalentes ont des groupes unitaires isomorphes. Ici aussi,
5
Le groupe spcial correspondant SO(3, 1) admet SL
2
(C) pour revtement universel.
15
Universit Pierre et Marie Curie Master de Mathmatiques
les formes hermitiennes sont classies par leur signature : le thorme de Sylvester arme
lexistence dun entier p n et dune base e
1
, , e
n
dans laquelle

_
n

i=1
x
i
e
i
,
n

i=1
y
i
e
i
_
=
p

i=1
x
i
y
i

i=p+1
x
i
y
i
.
Ainsi, posant q = n p, le groupe topologique U() est isomorphe au groupe matriciel
U(p, q) :=
_
M M
p+q
(C),
t
M.D
p,q
.M = D
p,q
_
Pour pq = 0, on retrouve le groupe unitaire habituel U(n, 0) = U(n) qui, comme on la vu,
est compact. Les autres groupes unitaires ne sont pas compacts. On a U(p, q) = U(q, p) et
on montre que les U(p, q) pour q p sont deux deux non isomorphes.
Exercice. Comme dans le paragraphe prcdent, la dcomposition polaire de GL
p+q
(C)
induit un homomorphisme
U(p, q) U(p) U(q) (U(p, q) HDP
p+q
),
que lon peut utiliser pour ramener ltude topologique des U(p, q) celle des U(n).
Remarque. Les groupes U(1, n 1) jouent un rle prpondrant dans des problmes
actuels de thorie des nombres.
De mme que prcdemment, on a le groupe spcial unitaire
SU(p, q) := U(p, q) SL
p+q
(C).
Exercice. Dterminer les centres de U(n), SU(n), O(n), SO(n).
En dimension innie, on dnit le groupe unitaire dun espace de Hilbert V comme le
groupe disomtrie du produit scalaire, qui est un sous-groupe ferm de GL(V/C), comme
dans le cas rel.
1.3.5 Groupe symplectique. nouveau, K dsigne R ou C. On considre cette fois
un K-ev de dimension nie V muni dune forme bilinaire : V V K, alterne et
non dgnre (aussi appele forme symplectique). Lexistence dune telle forme sur V
implique que la dimension de V est paire, disons dim(V ) = 2n. On dnit alors
Sp() := g GL(V/K), (gv, gw) = (v, w), v, w V .
Comme plus haut, ce groupe ne dpend, isomorphisme prs, que de la classe dquivalence
de . Or, on sait que toutes les formes symplectiques sont quivalentes. En particulier, il
existe une base e
1
, , e
2n
de V dans laquelle on a

_
n

i=1
x
i
e
i
,
n

i=1
y
i
e
i
_
=
n

i=1
(x
i
y
n+i
x
n+i
y
i
).
16
Universit Pierre et Marie Curie Master de Mathmatiques
En dautres termes, la matrice de dans cette base est la matrice antisymtrique J =
J
2n
=
_
0
n
I
n
I
n
0
n
_
. On voit alors que Sp() est isomorphe au groupe symplectique
Sp
2n
(K) = M GL
2n
(K),
t
MJM = J.
Ainsi, Sp
2
(K) = SL
2
(K). Plus gnralement, on dmontre que le dterminant dune matrice
symplectique vaut toujours 1, de sorte que pour tout n, Sp
2n
(K) est un sous-groupe ferm,
non compact, de SL
2n
(K).
Exercice. Montrer que la partie relle (resp. imaginaire) dune forme hermitienne sur
un espace vectoriel V/C est une forme R-bilinaire symtrique (resp. alterne) sur le R-
espace vectoriel sous-jacent

V . En dduire que dans GL
n
(C) P GL
2n
(R), P
1
J
2
P =
J
2
GL
2n
(R), on a U(n) = O(2n) Sp
2n
(R).
1.3.6 Quaternions. Soient H le corps des quaternions de Hamilton, lanti-involution
de Hdnie par (x+yi+zj+tk) = xyizjtk, de sorte que [[u[[ :=
_
(u).u dnit une
structure euclidienne sur H R
4
, et U le sous-groupe du groupe multiplicatif H

form par
les quaternions de norme 1. On peut voir H = C Cj C
2
comme un C-espace vectoriel
de dimension 2 , et [[.[[ comme un produit hermitien. Alors, lapplication : U GL
2
(C)
qui attache u U lautomorphisme C-linaire de H : h (u)(h) := hu
1
est un
homomorphisme de groupes injectif. Comme [[hu[[ = [[h[[.[[u[[ = [[h[[ pour tout h H,
son image est contenue dans le groupe unitaire U(2). En fait, pour u
1
= +j CCj
de norme + = 1, la matrice reprsentative de (u) dans la base 1, j de H est donne
par
_


_
=
_


_
1
, de sorte que tablit un isomorphisme U

SU(2).
Lespace Ri Rj Rk des quaternions purs, muni de [[.[[, sidentie lespace euclidien
usuel R
3
. Pour tout u U, lapplication Int(u) : h uhu
1
de H induit une isomtrie
de R
3
, do un homomorphisme de groupe : U SO
3
(R), appliquant u sur (u) =
(Int(u))[
R
3, de noyau U Z(H

) = 1. On montrera plus tard que est surjective, de


sorte que SO
3
(R) SU(2)/1
2
.
6
Dans le mme ordre dide, considrons H
n
comme un espace vectoriel droite sur
H, et soit GL
n
(H) le groupe des automorphismes H-linaires de H
n
. Avec lidentication
H
n
= C
n
+jC
n
, on a GL
n
(H) = P GL
2n
(C), PJ
2n
= J
2n
P. Son sous-groupe U
n
(H) =
U(2n) Sp
2n
(C) concide avec U SU(2) pour n = 1, mais cest en gnral un nouveau
groupe (compact, connexe et simplement connexe).
1.3.7 Groupes triangulaires. Soit V un K-ev de dimension n. Un drapeau complet dans
V est une suite strictement croissante
1 = (0 = 1
0
1
1
1
2
1
n1
1
n
= V )
6
En dautre termes, le groupe simplement connexe SU(2) est le revtement universel Spin(3) de SO(3).
17
Universit Pierre et Marie Curie Master de Mathmatiques
de K-sev de V . En particulier, on a dim
K
(1
i
) = i pour i = 0, , n. On pose
B(1/K) := g GL(V/K), g(1
i
) 1
i
, i = 0, , n.
et son sous-groupe
B
unip
(1/K) := g B(1/K), (g id
V
)(1
i
) 1
i1
, i = 1, , n.
On vrie facilement que ce sont des sous-groupes ferms de GL(V/K) et que B
unip
(1/K)
est distingu dans B(1/K).
Exercice. Montrer quil existe une base (e
1
, , e
n
) de V telle que pour tout i, on ait
1
i
= Vect(e
1
, , e
i
). En dduire que
i) si 1

est un autre drapeau, B(1/K) et B(1

/K) sont conjugus.


ii) B(V/K) B
n
(K) = matrices triangulaires suprieures GL
n
(K).
iii) B
unip
(1/K) B
unip
n
(K) = matrices triangulaires sup. unipotentes B
n
(K). On
vriera cette occasion quune matrice triangulaire est unipotente si et seulement
si ses termes diagonaux valent 1.
Rciproquement, nous verrons plus tard que tout sous-groupe de GL
n
(K) form de
matrices unipotentes est conjugu un sous-groupe de B
unip
n
(K) ; en dautres termes, un
tel sous-groupe est triangularisable.
Notons que le choix de la lettre B plutt que la lettre T (triangulaire) pour noter ces
groupes est une tradition et un hommage A. Borel, qui a beaucoup contribu la thorie
moderne des groupes de Lie.
Exercice. Vrier que lapplication x
_
1 x
0 1
_
est un isomorphisme du groupe
additif K sur le groupe matriciel B
unip
2
(K).
Exercice. Dterminer les composantes neutres de ces groupes, ainsi que leurs centres.
Remarque. Soit H le quotient de N
3
(R) par le sous-groupe discret, isomorphe
Z, engendr par llment
_
_
1 0 1
0 1 0
0 0 1
_
_
de son centre. H est le groupe de Heisenberg de
dimension 3. Il ne peut se plonger dans aucun groupe linaire GL
n
(R).
1.3.8 Tores. Le cercle unit S
1
sidentie au groupe topologique U(1) = z C, [z[ =
1, qui est isomorphe au groupe R/Z. Sa puissance n-ime (S
1
)
n
:= T
n
R
n
/Z
n
sappelle
le tore de dimension n. Cest un groupe ablien connexe compact [de revtement universel
R
n
, avec
1
(T
n
) Z
n
.]
On prendra garde, pour n > 1, ne pas confondre T
n
avec la sphre S
n
(= bord de la
boule unit de R
n+1
), ni S
n
avec lespace projectif P
n
(R). On a nanmoins les homomor-
phismes : S
1
SO(2) P
1
(R), S
2
P
1
(C), S
3
SU(2), S
4
P
1
(H).
18
Universit Pierre et Marie Curie Master de Mathmatiques
1.3.9 Dcompositions de Jordan. En guise dexercice, le lecteur pourra vrier que tous
les sous-groupes ferms G GL(V/K) que nous avons dcrits ci-dessus sont stables par
dcomposition de Jordan. Cela signie que si g G, et si g = g
u
g
s
est la dcomposition de
Jordan de g, alors g
u
G et g
s
G.
On peut dmontrer que tout sous-groupe algbrique (i.e. dni par des quations
algbriques) de GL(V/K) est stable par dcomposition de Jordan. Mais on peut aussi
exhiber des sous-groupes ferms de GL(V/K) qui ne le sont pas.
19
Universit Pierre et Marie Curie Master de Mathmatiques
2 Des groupes de Lie aux algbres de Lie
2.1 Complments sur lexponentielle
2.1.1 Sous-groupes un paramtre. Par dnition un sous-groupe un paramtre dun
groupe topologique G est un morphisme de groupes topologiques : (R, +) G.
Thorme. Soit V un K-ev de dimension nie et soit : R GL(V/K) un
sous-groupe un paramtre. Alors il existe un unique endomorphisme x L(V/K) tel que
t R, (t) = exp(tx).
En particulier, est C

et dtermin par sa drive x =

(0).
Dmonstration. Montrons dabord que est drivable. Par continuit de , on peut trouver
une fonction : R R
+
de classe (

, support compact et normalise par


_
R
(t)dt = 1,
vriant la condition
_
R
(t)[[(t) id
V
[[dt < 1.
Sous cette condition, lendomorphisme y =
_
R
(t)(t)dt est inversible car il vrie lin-
galit [[y id
V
[[ < 1. Posons alors
(t) :=
_
R
(t s)(s).
La fonction : R L(V/K) est C

(drivation sous le signe somme...), et un change-


ment de variable montre que
(t) =
_
R
(u)(t u)du = (t) y.
Donc est de classe C

. Mais alors la direntielle

est donne par

(t) = (t)

(0) pour
tout t R. On en dduit que
d
dt
(exp(t

(0))(t)) = 0, puis par intgration (t) = exp(tX)


avec X =

(0).
2.1.2 Crochet de Lie. Soit V de dimension nie sur K. Pour u, v L(V/K) on pose
[u, v] := uv vu, et on lappelle crochet de Lie de u et v. En notation matricielle, cela
donne [X, Y ] = XY Y X pour X, Y M
n
(K).
Lemme. Soient X et Y deux lments de M
n
(K). Alors,
i) lim
k+
(exp(
X
k
)exp(
Y
k
))
k
= exp(X +Y ) ;
ii) lim
k+
(exp(
X
k
)exp(
Y
k
)(exp(
X
k
)exp(
Y
k
))
k
2
= exp([X, Y ]).
Dmonstration. i) Un dveloppement limit fournit lestime
exp
_
X
k
_
exp
_
Y
k
_
= I +
(X +Y )
k
+O
_
1
k
2
_
.
20
Universit Pierre et Marie Curie Master de Mathmatiques
En particulier, pour k susamment grand, on peut prendre le logarithme et obtenir
k log
_
exp
_
X
k
_
exp
_
Y
k
__
= X +Y + O(
1
k
).
ii) On procde de la mme manire en passant par lestime
exp
_
X
k
_
exp
_
Y
k
_
exp
_
X
k
_
exp
_
Y
k
_
= I +
[X, Y ]
k
2
+O
_
1
k
3
_
.
Corollaire. Soit G un sous-groupe ferm de GL
n
(K). Lensemble
g := X M
n
(K), t R, exp(tX) G
est un sous-R-espace vectoriel de M
n
(K), stable par le crochet de Lie.
Dmonstration. Par dnition, g est stable par multipication par R. Puisque G est ferm,
la formule i) du lemme montre que g est stable par addition, donc cest un R-sev. La
formule ii) montre alors la stabilit par crochet.
Lorsque K = C, on prendra garde au fait que g nest pas ncessairement un K-sev de
M
n
(K).
2.2 Lalgbre de Lie dun groupe de Lie
Soit G GL
n
(K) un sous-groupe ferm. Lensemble g dni au corollaire prcdent
est appel algbre de Lie de G, et est parfois aussi not Lie(G). Avant dtudier la notion
abstraite dalgbre de Lie, explicitons les liens tnus entre G et son algbre de Lie.
2.2.1 Lie(G) est canonique. Tel que nous lavons dni, g semble dpendre non seule-
ment de G mais aussi du GL
n
(K) dans lequel on voit G. Or, en vertu du thorme 2.1.1,
lensemble g sinterprte comme lensemble des sous-groupes un paramtre de G, ce qui
en donne une dnition intrinsque. De plus, la structure de R-espace vectoriel sur g et le
crochet sont donns par les formules
(r.)(t) = (rt) pour r R,
( +)(t) = lim
k
((t/k)(t/k))
k
,
[, ](t) = lim
k
((1/k)(t/k)(1/k)(t/k))
k
2
.
Ces formules montrent que lespace vectoriel g muni de son crochet est canoniquement
attach G. En particulier, il ne dpend pas du plongement de G dans un GL
n
(K). Notons
cependant que ces formules nont pas ncessairement de sens pour un groupe topologique
quelconque.
21
Universit Pierre et Marie Curie Master de Mathmatiques
2.2.2 Changement de groupe. Lavantage de voir Lie(G) comme ensemble des sous-
groupes un paramtre est quon en dduit immdiatement que tout morphisme de groupes
topologiques G

H entre deux groupes de Lie linaires induit une application
d : Lie(G) Lie(H)
d() :=
Vu les dnitions de la structure de R-espace vectoriel sur Lie(G) et Lie(H), lapplication
d est R-linaire et compatible aux crochets.
Exercice. Si le noyau de est discret, montrer que d est injective. Nous allons voir
ci-dessous que la rciproque est vraie.
Remarque. Si lon xe des plongements G GL
n
(R) et H GL
m
(R) et que lon
identie Lie(G), resp. Lie(H), des espaces de matrices g M
n
(R) et h M
m
(R),
lapplication d est donne par
X g, d(X) =
d
dt|t=0
(t (exp(tX))).
2.2.3 Lexponentielle de G. Par dnition, lapplication exp dnie au paragraphe 1.2.2
pour le groupe GL
n
(K) envoie g dans G. On note parfois exp
G
: g G sa restriction.
Encore une fois, elle est intrinsque puisque, en termes de sous-groupes un paramtre,
elle est simplement donne par (1). Cette formulation nous montre dailleurs im-
mdiatement que si : G H est un morphisme de groupes topologiques entre deux
groupes de Lie linaires, alors on a :
exp
G
= exp
H
d.
Thorme. Lapplication exponentielle exp
G
tablit un homomorphisme local dun
voisinage de 0 dans g sur un voisinage de 1 dans G.
Dmonstration. Lapplication exp
G
est videmment continue. Puisque cest la restriction
de exp qui est localement injective, elle est elle-mme localement injective. Ce qui nest
pas vident par contre, cest pourquoi elle est localement surjective (ou plus prcisment,
pourquoi il existe un voisinage 1 de 0 dans g tel que la restriction de exp
G
1 soit ouverte).
Dans le cas de GL
n
(K) nous avions pu utiliser le logarithme. Mais ici, on ne sait pas a
priori si log(B(id
V
, 1) G) g.
Soit E un R-sous-espace vectoriel supplmentaire de g dans M
n
(R), et considrons
lapplication
F : g E M
n
(R), (X, Y ) exp(X)exp(Y ).
Sa direntielle en (0, 0) est inversible, donc il existe des voisinages |, 1 (resp. J) de 0
(resp. 1) dans g, E (resp. G) tels que F induise un diomorphisme de | 1 sur J.
Admettons un instant que
(*) : il existe un voisinage 1

1 de 0 dans E tel que exp(1

) G = I
n
.
22
Universit Pierre et Marie Curie Master de Mathmatiques
Posons alors J

= F(| 1

). Pour tout g J

G, il existe X |, Y 1

tels que
g = F(X, Y ). Mais alors, exp(Y ) = exp(X)g exp(1

) G = I
n
, do g = exp(X). Il
sensuit que exp induit un homomorphisme | sur J

G, comme voulu.
Reste prouver (*). Supposons le contraire. On peut alors trouver une suite (Y
n
)
nN
dlments non nuls de E tendant vers 0, telle que exp(Y
n
) G pour tout n. Quitte
extraire une sous-suite, on peut aussi supposer que la suite (Y
n
/[[Y
n
[[)
nN
a une limite Y
dans E (compacit de la sphre). Notons que Y ,= 0. Nous allons montrer que Y g, ce
qui contredira le fait que g E = 0. Pour cela nous devons prouver que exp(tY ) G
pour tout t R. Notons [x] la partie entire dun rel x, et crivons
exp(t/[[Y
n
[[ Y
n
) = exp(Y
n
)
[t/||Y
n
||]
exp((t/[[Y
n
[[ [t/[[Y
n
[[])Y
n
).
Comme le terme exp((t/[[Y
n
[[ [t/[[Y
n
[[])Y
n
) tend vers 1 lorsque n tend vers +, on voit
que
exp(tY ) = lim
n+
exp(Y
n
)
[t/||Y
n
||]
G.
On dduit de ce thorme que G est localement homomorphe R
d
, o d = dim
R
(g)
sappelle la dimension du groupe de Lie G. Nous dterminerons plus loin les dimensions
des groupes de Lie classiques.
Combin avec le lemme 1.1.5, le thorme ci-dessus entrane le corollaire important
suivant.
Corollaire. La composante neutre G
0
de G est engendre (comme sous-groupe
ferm) par limage de exp
G
. En particulier, si deux sous-groupes ferms G
1
et G
2
de GL
n
(R)
ont la mme algbre de Lie, leurs composantes neutres concident.
Notons que par dnition, on a Lie(G) = Lie(G
0
) pour tout sous-groupe ferm G de
GL
n
(K).
Exercice. Soit : G H un morphisme continu de groupes de Lie linaires.
i) Si d est injective, montrer que Ker est discret.
ii) Si d est surjective, montrer que Coker est discret. En particulier, si H est connexe
et d est surjective, alors est surjective.
Exemple. Nous pouvons maintenant (presque) terminer de prouver que lhomomor-
phisme SU(2)/1

SO(3) construit laide des quaternions est un homomorphisme.
On a dj vu quil est injectif et continu. Lapplication d est injective daprs un exercice
plus haut. En admettant que Lie(SU(2)) et Lie(SO(3)) ont mme dimension (ce que nous
vrierons plus loin), il sensuit que d est surjective. Mais puisque SO(3) est connexe,
est surjective et donc bijective. Enn, puisque SU(2) est compact, est aussi ouverte et
cest donc un homomorphisme.
Corollaire. Soient G un sous-groupe ferm connexe de GL
n
(R), dalgbre de Lie
g, et H un sous-groupe ferm connexe de G, dalgbre de Lie h. Alors,
23
Universit Pierre et Marie Curie Master de Mathmatiques
i) H Z(G) si et seulement si [h, g] = 0.
ii) H est distingu dans G si et seulement si on a [h, g] h (on dit alors que h est un
idal de g).
Dmonstration. i) Supposons H central. Le ii) du lemme 2.1.2 montre que pour tous t R,
X h et Y g, on a exp(t[X, Y ]) = 1. Prenant t assez petit, il vient [X, Y ] = 0.
Rciproquement, supposons [h, g] = 0. Alors pour X h, Y g, on a exp(X)exp(Y ) =
exp(Y )exp(X). On en dduit lexistence dun voisinage V de 1 dans G, resp. U de 1 dans
H tel que tout lment de V centralise tout lment de U. Mais alors le groupe engendr
par V centralise le groupe engendr par U, donc G centralise H.
ii) Supposons H distingu dans G. Alors le ii) du lemme 2.1.2 et le fait que H est
ferm montrent que [h, g] h. Rciproquement, supposons [h, g] h. Comme on suppose
H connexe, il sut de montrer que pour tout g G, on a Lie(gHg
1
) = Lie(H), i.e.
ghg
1
= h. Comme on suppose aussi G connexe, il sut de prouver ceci pour g dans un
voisinage de lidentit de 1 dans G. On peut donc supposer g = exp(X) pour X g. Mais
alors, on montre que pour tout Y h, on a
(*) exp(X)Y exp(X) = exp(ad(X))(Y )
o ad(X) L(M
n
(R)/R) est lendomorphisme de M
n
(R) dni par ad(X)(Y ) :=
[X, Y ]. En eet, notons Ad(g) GL(M
n
(R)/R) lautomorphisme intrieur x gxg
1
.
Alors on vrie que les deux sous-groupes un paramtre t Ad(exp(tX)) et t
exp(tad(X)) de GL(M
n
(R)/R) concident, car ils ont la mme direntielle en t = 0. Or
puisque ad(X)(h) h, on a aussi exp(ad(X))(h) h et par consquent exp(X)Y exp(X)
h comme voulu.
Lgalit (*) utilise dans la preuve se gnralise comme suit.
Exercice. Soit G un sous-groupe ferm de GL
n
(R) et g M
n
(R) son algbre de Lie.
i) Montrer que la conjugaison par un lment de G dans M
n
(R) stabilise g et dnit
un homomorphisme continu de groupes topologiques
Ad : G GL(g/R)
g Ad(g) : X gXg
1
ii) Montrer que dAd est lapplication
ad : g L(g/R)
Y ad(Y ) : X [Y, X]
.
On se servira de la formule de la remarque 2.2.2
dAd(Y ) =
d
dt|t=0
(t exp(tY )Xexp(tY )) .
iii) En dduire que Ad exp
G
= exp
GL(g/R)
ad.
24
Universit Pierre et Marie Curie Master de Mathmatiques
Remarque. Un sous-espace h de g stable par crochet (ou mme un idal) nest pas
ncessairement lalgbre de Lie dun sous-groupe ferm de G (considrer comme dhabitude
une droite h de pente irrationnelle dans lalgbre de Lie ablienne R
2
Lie((S
1
)
2
).)
2.3 Exemples classiques
De manire gnrale, on note avec des lettres gothiques les algbres de Lie des groupes
classiques. Par exemple Lie(GL
n
(R)) se note gl
n
(R). Par dnition, en tant que R-espace
vectoriel, on a gl
n
(R) = M
n
(R), et le crochet est donn par [X, Y ] = XY Y X. De mme,
gl
n
(C) est le R-espace vectoriel M
n
(C) muni de son crochet. De manire plus intrinsque,
si V est un K-ev de dimension nie, on note
gl(V/K) := Lie(GL(V/K)) = L(V/K), muni du crochet [u, v] := uv vu.
Tous les groupes classiques sont dnis dans un GL
n
ou un GL(V/K) convenable, et
le crochet de leur algbre de Lie est induit par celui de gl
n
ou de GL(V/K). Il nous sut
donc de dcrire les conditions qui dnissent les R-ev sous-jacents.
Par exemple, le premier exercice du paragraphe 1.2.2 nous dit que
sl(V/K) := Lie(SL(V/K) = u L(V/K), tr(u) = 0.
Remarquons que cest toujours un K-sev. En termes matriciels, cela donne
i) sl
n
(R) = X gl
n
(R), tr(X) = 0 (matrices de trace nulle). Sa dimension est n
2
1.
ii) sl
n
(C) = X gl
n
(C), tr(X) = 0. Sa dimension relle est 2n
2
1.
Par ailleurs, supposons G = g GL(V/K), (gv, gw), v, w V dni par une
forme bilinaire non dgnre (quelle soit symtrique, alterne ou hermitienne). En
dautres termes, si g

dsigne ladjoint de g pour , on a G = g G, gg

= id
V
. Comme
exp(u)

= exp(u

) (par passage la limite), on constate que


g = u L(V/K), u +u

= 0.
Notons dailleurs que cest toujours un K-espace vectoriel, sauf dans le cas unitaire, ou
K = C mais g nest quun R-espace vectoriel. En termes matriciels, cela donne :
iii) so
n
(R) = Lie(O(n)) = Lie(SO(n)) = X gl
n
(R), X +
t
X = 0 est lensemble des
matrices antisymtriques. Sa dimension est n(n 1)/2.
iv) so
n
(C) = Lie(O(n, C)) = X gl
n
(C), X+
t
X = 0. Sa dimension relle est n(n1).
v) u
n
= Lie(U(n)) = X gl
n
(C), X +
t
X = 0. Par exemple, u
1
= iR gl
1
(C) = C.
Sa dimension est n
2
.
vi) su
n
= Lie(SU(n)) = u
n
sl
n
(C). Sa dimension est n
2
1.
vii) sp
2n
(K) = Lie(Sp
2n
(K)) = X gl
2n
(K),
t
XJ
2n
+ J
2n
X = 0. Sa dimension est
n(n + 1)/2.
25
Universit Pierre et Marie Curie Master de Mathmatiques
Enn, si 1 est un drapeau complet dans V/K, on vrie que
b(1/K) := Lie(B(1/K)) = u L(V/K), u(1
i
) 1
i
, i = 0, , n
tandis que
b
nilp
(1/K) := Lie(B
unip
(1/K)) = u L(V/K), u(1
i
) 1
i1
, i = 1, , n.
En termes matriciels, cela donne :
viii) b
n
(K) = Lie(B
n
(K)) = X = (x
i,j
) gl
n
(K), i > j, x
i,j
= 0 (matrices triangu-
laires suprieures).
ix) Lie(B
unip
n
(K) := b
nilp
n
(K) = X = (x
i,j
) gl
n
(K), i j, x
i,j
= 0 (matrices triangu-
laires suprieures nilpotentes).
Enn, on vrie que :
x) Lie((S
1
)
n
) =(iR)
n
R
n
est une R-algbre de Lie ablienne. Le i rappelle quon
la voit comme une sous-algbre de Lie relle de lalgbre de Lie ablienne complexe
Lie((C

)
n
) = C
n
forme par les matrices diagonales de gl
n
(C).
Exercice. Montrer que lexponentielle exp induit un homomorphisme de b
nilp
n
(K) sur
B
unip
n
(K).
26
Universit Pierre et Marie Curie Master de Mathmatiques
3 Structure des algbres de Lie
Le fait quun sous-groupe ferm connexe de GL(V/K) soit dtermin par son algbre
de Lie, qui est un objet dalgbre linaire a priori plus simple que le groupe lui-mme,
est une motivation pour tudier ces nouveaux objets, aprs en avoir donn un fondement
axiomatique. Cest ce que nous commenons faire ici.
3.1 Algbres de Lie abstraites. Exemples.
Soit K un corps commutatif quelconque.
3.1.1 Dfinition. Une algbre de Lie g sur K est un K-espace vectoriel muni dune
loi de composition interne [, ] : g g g : (X, Y ) [X, Y ] qui est K-bilinaire, alterne
([X, X] = 0, donc [X, Y ] = [Y, X]), et qui vrie lidentit de Jacobi
X, Y, Z g , [X, [Y, Z]] + [Y, [Z, X]] + [Z, [X, Y ]] = 0.
Si K = R, on dira simplement algbre de Lie. La loi [, ] sappelle le crochet de Lie.
Pour tout lment X de g, on note ad(X) L(g/K) lendomorphisme du K-espace
vectoriel g : Y ad(X)(Y ) := [X, Y ]. On a donc
ad(X)([Y, Z]) = [ad(X)(Y ), Z] + [Y, ad(X)(Z)]. (3.1.1.1)
Un morphisme entre deux algbres de Lie est un homomorphisme f des K-espaces
vectoriels sous-jacents respectant leurs lois dalgbres de Lie : f([X, Y ]) = [f(X), f(Y )].
3.1.2 Dfinition. Un sous-K-espace vectoriel h de g est appel :
Une sous-algbre de Lie de g sil est stable sous le crochet de Lie, i.e. [h, h] h, ou
encore X, Y h, [X, Y ] h.
Un idal de g sil vrie [h, g] h, cest--dire X h, Y g, [X, Y ] h.
Exercice. Si h est un idal, lespace vectoriel quotient g/h est naturellement muni
dune structure dalgbre de Lie. Si h

h est un autre idal de g, limage h

/h de h

est
un idal de g/h et on a lisomorphisme canonique habituel g/h


(g/h)/(h

/h). Par
ailleurs, lorsque h

nest plus contenu dans h, la somme


h + h

:= X +Y, X h, Y h

est un idal de g, et on a un isomorphisme canonique h

/(h h

)

(h

+ h)/h.
Exercice. Pour tout morphisme dalgbre de Lie f : g g

, le noyau h = Ker(f) de
f est un idal de g, limage h

= Im(f) de f est une sous-algbre de Lie de g

, et f induit
un isomorphisme dalgbres de Lie de g/h sur h

.
27
Universit Pierre et Marie Curie Master de Mathmatiques
3.1.3 On appelle centre de lalgbre de Lie g lidal
Z(g) = X g, Y g, [X, Y ] = 0 = Ker(ad : g L(g/K))
de g. On dit que g est une algbre de Lie ablienne si Z(g) = g, cest--dire, si le crochet
de g est nul.
Si h et h

sont des idaux de g, lespace vectoriel


[h, h

] := Vect
K
([X, Y ], X h, Y h

)
est un idal de g contenu dans h h

, et appel produit de h et de h

.
Exercice. Montrer que [h, h

] = [h

, h] et [h, [h, h

]] = [h

, [h, h]].
Exercice. Montrer que lalgbre drive Dg := [g, g] est le plus petit idal de g (pour
linclusion) tel que g/Dg soit une algbre de Lie ablienne. On notera lanalogie avec la
notion de groupe driv.
Remarque. Lanalogie avec le vocabulaire plus familier des K-algbres associatives
commutatives (idaux, quotients, centre...) nest videmment pas fortuite. Les axiomes
dnissant ces deux structures sont essentiellement les mmes, sauf que laxiome de com-
mutativit xy = yx est remplac par un axiome danticommutativit [X, Y ] = [Y, X],
et celui dassociativit x(yz) = (xy)z est remplac par lidentit de Jacobi. Il existe une
thorie abstraite, appele thorie des oprades, qui permet de construire beaucoup dautres
notions dalgbre. Mais bien-sr, ces notions ne sont pas souvent aussi importantes que
les algbres associatives, ou de Lie.
Donnons maintenant deux manires de dnir des algbres de Lie.
3.1.4 Algbre de Lie associe une algbre associative. Soit A une algbre associative.
Munissons A du crochet [a, b] := ab ba.
Exercice. Vrier que (A, [, ]) est une algbre de Lie.
Le cas particulier qui nous intresse le plus est bien-sr A = L(V/K). Lexercice montre
que ce que nous avons appel jusquici algbre de Lie dun groupe de Lie linaire G est
bien une algbre de Lie au sens de la dnition prcdente. Par contre, pour G dirent de
GL(V/K), lalgbre de Lie g = Lie(G) ne provient pas dune algbre associative.
3.1.5 Drivations dune algbre. Soit A une K-algbre associative. Une drivation
de A est un endomorphisme du K-espace vectoriel sous-jacent A vriant la formule
de Leibniz : (ab) = (a)b + a(b). Lensemble Der(A) des drivations de A est un sous-
espace vectoriel de L(A/K). Le compos

de deux drivations ,

nest en gnral pas


une drivation (autrement dit, Der(A) nest pas une sous-algbre de lalgbre associative
L(A/K)), mais [,

] :=

est encore une drivation de A. Ainsi, Der(A) est une


sous-algbre de Lie de lalgbre de Lie gl(A/K).
7
7
Par exemple (voir cours de gomtrie direntielle), soient M une varit direntiable, et O(M) la
R-algbre des fonctions direntiables sur M. Le R-espace vectoriel (M, T M) des champs de vecteurs
28
Universit Pierre et Marie Curie Master de Mathmatiques
De mme, on dnit une drivation dune K-algbre de Lie g comme un lment de
L(g/K) vriant ([X, Y ]) = [X, Y ] +[X, Y ]. On remarque que la formule (3.1.1.1) qui
traduit lidentit de Jacobi signie nalement que pour tout X g, ad(X) Der(g)
gl(g/K).
3.1.6 Dfinition. Soit g une K-algbre de Lie. Une reprsentation de g est une paire
(V, ) compose dun K-espace vectoriel V de dimension nie et dun morphisme dalgbres
de Lie
: g gl(V/K).
Exemple. Considrons lapplication ad : g gl(g/K), X ad(X). La formule de
Jacobi scrit
ad([X, Y ])(Z) = [[X, Y ], Z] = [X, [Y, Z]] [Y, [X, Z]]
= ad(X)(ad(Y )(Z)) ad(Y )(ad(X)(Z))
= (ad(X)ad(Y ) ad(Y )ad(X))(Z) = [ad(X), ad(Y )](Z),
ce dernier crochet tant celui de lalgbre de Lie gl(g/K) attache L(g/K), de sorte que
ad([X, Y ]) = [ad(X), ad(Y )]. En dautres termes, (g, ad) est une reprsentation de lal-
gbre de Lie g, despace de reprsentation V = g elle-mme. On lappelle la reprsentation
adjointe de g. Elle est dautant plus intressante que le centre Z(g) = Ker(ad) de g est
petit.
Une reprsentation (V, ) se note souvent abusivement simplement V . On sous-entend
en notant X.v pour (X)(v).
Un K-sev W de V est dit stable par g si X g, X.(W) W. Le morphisme induit
donc un morphisme dalgbres de Lie, toujours not : g gl(W/K). La reprsentation
(W, ) ainsi obtenue est une sous-reprsentation de (V, ). De plus, induit un morphisme
g gl((V/W)/K) et la reprsentation (V/W, ) obtenue est appele reprsentation quo-
tient.
Exemple. Si (V, ) est une reprsentation de g, le K-sev
V
g
:= v V, X g, X.v := (X)(v) = 0
est stable par g. Laction de g sur V
g
est triviale
8
. Plus gnralement, si h est un idal de
g, le K-sev V
h
est stable par g. En eet, si X g, on a pour tout Y h et tout v V
h
lgalit
Y.(X.v) = Y.(X.v) X.(Y.v) = [Y, X].v = 0
puisque [Y, X] h. Noter que laction de g sur V
h
se factorise par g/h.
sur M, muni du crochet de Lie, est une sous-algbre de Lie de lalgbre de Lie Der(O(M)).
8
On a l un analogue des vecteurs xes dans une reprsentation dun groupe
29
Universit Pierre et Marie Curie Master de Mathmatiques
3.2 Algbres de Lie nilpotentes
3.2.1 Dfinition. Soit g une algbre de Lie sur un corps K. La suite centrale des-
cendante de g est la suite dcroissante (au sens large) didaux de G dnie par
C
1
(g) := g, et C
n
(g) := [g, C
n1
(g)], n > 1.
On dit que g est nilpotente sil existe n N tel que C
n
(g) = 0.
En dautres termes, C
n
(g) est le K-sev de g
C
n
(g) = Vect
K
([X
n
, [X
n1
, , [X
2
, X
1
] ]] , avec X
1
, , X
n
g) .
= Vect
K
(ad(X
n
)ad(X
n1
) ad(X
2
)(X
1
), avec X
1
, , X
n
g) .
Exercice. Vrier par rcurrence que [C
r
(g), C
s
(g)] C
r+s
(g), pour r, s N.
3.2.2 Lemme. Lalgbre de Lie g est nilpotente si et seulement si elle vrie lune
des deux proprits suivantes :
i) Il existe une suite didaux g = h
1
h
2
h
n
= 0 de g tels que [g, h
i
] h
i+1
pour tout i.
ii) Pour n assez grand et pout tout n-uple X
1
, , X
n
dlments de g,
ad(X
n
)ad(X
n1
) ad(X
2
)(X
1
) = 0.
Dmonstration. Laisse au lecteur.
Exercice. Dduire de la caractrisation i) que toute sous-algbre de Lie (resp. tout
quotient) dune algbre de Lie nilpotente est nilpotente.
Exercice. Soit V un K-ev de dimension nie, et soit 1 un drapeau complet dans V ,
comme dans le paragraphe 1.3.7. Montrer que [b(1/K), b(1/K)] = b
nilp
(1/K), et plus
gnralement que
C
k
(b(1/K)) = b
nilp
(1/K), k 1
En dduire que b(1/K) nest pas nilpotente. Montrer ensuite que
C
k
(b
nilp
(1/K)) = u L(V/K), u(1
i
) 1
ik
, i = k, , n.
En dduire que b
nilp
(1/K) est une algbre de Lie nilpotente.
3.2.3 Thorme. (Engel) Soit g une sous-algbre de Lie de gl(V/K) telle que tout
lment X de g soit un endomorphisme nilpotent de V . Alors, il existe un drapeau 1 de V
tel que g b
nilp
(1/K). En particulier, g est nilpotente.
[Autrement dit : si tous les lments de g sont trigonalisables et valeurs propres toutes
nulles, ils sont simultanment trigonalisables.]
30
Universit Pierre et Marie Curie Master de Mathmatiques
Dmonstration. Supposons que lon ait dj prouv lnonc suivant :
(*) Pour g gl(V/K) forme dlments nilpotents, on a V
g
,= 0.
Alors le thorme en dcoule par rcurrence sur dim(V ). En eet, soit v V
g
non nul.
Posons 1
1
:= K.v et notons p : V V

:= V/1
1
la projection de V sur son quotient par
la droite K.v = 1
1
. Soit g

limage de g par la reprsentation quotient g gl(V

/K).
Par hypothse de rcurrence, il existe un drapeau 1

dans V

tel que g

soit contenue dans


b
nilp
(1

/K). Rappelons que ceci signie simplement que g

.1

i
1

i1
pour tout i > 0.
Posons alors 1
i
:= p
1
(1
i+1
). On a bien g.1
i
1
i1
pour i > 1, et on a aussi g1
1
1
0
=
0 par construction de 1
1
. On a donc g b
nilp
(1/K) comme voulu.
Il faut maintentant prouver lnonc (*). Nous le ferons par rcurrence sur dim(g). Si
dim(g) = 1, on a V
g
= Ker(X) pour tout X non nul de g. Comme un tel X est suppos
nilpotent, son noyau est non nul, comme voulu. Supposons maintenant dim(g) > 1, et
supposons que lon dispose dun idal h non trivial, i.e. distinct de 0 et de g. Alors
lhypothse de rcurrence applique h gl(V/K) nous dit que V
h
,= 0. De plus, V
h
est stable par laction de g, laquelle se factorise par g/h. Ainsi lhypothse de rcurrence
applique limage de g par la sous-reprsentation g gl(V
h
) nous dit que (V
h
)
g/h
,= 0.
Or, on a V
g
= (V
h
)
g/h
.
Il reste donc prouver lexistence dun idal h non trivial. Choisissons pour cela une
sous-algbre de Lie propre h de g de dimension maximale. La reprsentation adjointe ad
de g restreinte h induit une reprsentation de h sur le quotient g/h. Limage de h par
cette reprsentation est forme dendomorphismes nilpotents. En eet, daprs lexercice
ci-dessous, pour tout X g, lendomorphisme ad(X) de g est nilpotent. On peut donc
appliquer notre hypothse de rcurrence pour en dduire lexistence dun lment X ,= 0
dans g/h annul par laction de h. Soit X g au-dessus de X. On a donc X / h et
[h, X] = ad(h)(X) h. Ceci implique que h K.X est une algbre de Lie contenant h
comme idal. Mais par maximalit de h, on a h K.X = g. Ainsi, h est un idal de g de
codimension 1.
Exercice. Soit A une K-algbre associative et ad(x)(y) = [x, y] := xy yx pour
x, y A. Montrer que ad(x)
n
(y) Vect
K
x
k
yx
nk
, k = 0, , n.
Voici une amlioration de la caractrisation ii) du lemme 3.2.2.
3.2.4 Corollaire. Une K-algbre de Lie de dimension nie g est nilpotente si et
seulement si pour tout X dans g, ad(X) est un endomorphisme nilpotent de g.
Dmonstration. La condition est ncessaire, vu la caractrisation ii) du lemme 3.2.2. Le
fait que la condition soit susante est plus surprenant. Il dcoule du thorme prcdent
appliqu limage de g par la reprsentation adjointe ad : g gl(g/K). En eet, ce
thorme assure lexistence dun drapeau 1 de g tel que ad(g)1
i
1
i1
. Posons h
i
:=
1
dim(V )i
. Alors, les h
i
sont des idaux de g tels que [g, h
i
] = ad(g)(h
i
) h
i+1
, et on
applique le point i) du lemme 3.2.2.
31
Universit Pierre et Marie Curie Master de Mathmatiques
Attention : le thorme et son corollaire ne signient pas quune sous-algbre de Lie
nilpotente de gl(V/K) est forme dendomorphismes nilpotents. Par exemple le centre de
gl(V/K) est certainement une algbre de Lie nilpotente puisquablienne, mais nagit pas
de manire nilpotente sur V !
3.3 Algbres de Lie rsolubles.
3.3.1 Dfinition. Soit g une algbre de Lie sur un corps K. La suite drive de g
est la suite dcroissante (au sens large) de sous-algbres de Lie de G dnie par
D
1
(g) := g, et D
n
(g) := [D
n1
(g), D
n1
(g)], n > 1.
On dit que g est rsoluble sil existe n N tel que D
n
(g) = 0.
On voit facilement que D
k
(g) C
k
(g) pour tout k, de sorte que toute algbre de Lie
nilpotente est rsoluble.
Exercice. Montrer que g est rsoluble si et seulement si on a lune des deux proprits
quivalentes suivantes :
i) il existe une suite didaux g = h
1
h
2
.... h
n
= 0 de g tels que [h
i
, h
i
] h
i+1
pour tout i.
ii) il existe une suite de sous-algbres de Lie g = h
1
h
2
.... h
n
= 0 de g telles que
pour i = 1, ..., n 1, h
i+1
est un idal de h
i
quotient h
i
/h
i+1
ablien.
En dduire que si h est un idal de g, alors g est rsoluble si et seulement si h et g/h le
sont.
Exercice. On dit quun groupe de Lie G est rsoluble sil admet une suite de sous-
groupes normaux ferms quotients successifs abliens. Montrer quun groupe de Lie
connexe G est rsoluble si et seulement si Lie(G) est une algbre de Lie rsoluble.
Exemple. Soit V un K-ev de dimension nie et 1 un drapeau complet de V . Les calculs
faits dans un exercice de la section prcdente montrent que b(1/K) est une algbre de
Lie rsoluble.
Dans la suite de cette section, nous supposons K = C. On pourrait plus gnralement
supposer K algbriquement clos de caractristique nulle : le point important est que sur
un tel corps, tout endomorphisme dun K-ev de dimension nie admet un vecteur propre.
3.3.2 Thorme. (Lie) Soit g une C-sous-algbre de Lie rsoluble de gl(V/C). Il
existe un drapeau 1 de V tel que g b(1/K).
Remarque. Ce thorme est une gnralisation du fait quune famille dendomor-
phismes dun C-ev de dimension nie qui commutent deux deux est simultanment trigo-
nalisable. En eet, le C-ev engendr par une telle famille est une algbre de Lie ablienne,
donc rsoluble.
32
Universit Pierre et Marie Curie Master de Mathmatiques
Dmonstration. Supposons que lon ait dj prouv lnonc suivant :
(*) Pour g gl(V/K) rsoluble, il existe un v V vecteur propre de tous les X g.
Alors le thorme en dcoule par rcurrence sur dim(V ). En eet, soit v un tel vecteur
propre. Posons 1
1
:= K.v et notons p : V V

:= V/1
1
la projection de V sur son quotient
par la droite K.v = 1
1
. Soit g

limage de g par la reprsentation quotient g gl(V

/K).
Par le premier exercice ci-dessus, g

est rsoluble. Par hypothse de rcurrence, il existe un


drapeau 1

dans V

tel que g

soit contenue dans b(1

/K), ce qui signie simplement que


g

.1

i
1

i
pour tout i 0. Posons alors 1
i
:= p
1
(1
i+1
). On a bien g.1
i
1
i
pour i > 0,
et on a aussi g1
1
1
1
par construction de 1
1
. On a donc g b
nilp
(1/K) comme voulu
Il nous faut maintenant prouver (*), ce que nous ferons par rcurrence sur dim(g). Si
dim(g) = 1, le rsultat est clair puisque tout endomorphisme dun C-ev de dimension nie
possde un vecteur propre. Supposons dim(g) > 1, et supposons lassertion (*) tablie
pour toutes les algbres de Lie rsolubles de dimension < dim(g). Soit h un hyperplan de g
contenant Dg (noter que g/Dg ,= 0). Alors, h est un idal de g, et lhypothse de rcurrence
fournit un vecteur propre v de V commun tous les lments de h. Soit la forme linaire
sur h dnie par X.v = (X)v pour tout X dans h. Posons
V

:= v V, X h, X.v = (X)v,
le sous-espace -propre de V sous laction de h, qui est donc non nul. Admettons un
instant que V

est stable par g. Soit Y un gnrateur dune droite supplmentaire de h


dans g. Comme K est algbriquement clos, Y admet un vecteur propre v

. Alors, v

,
qui est propre pour h, lest pour g toute entire, et le thorme est dmontr.
Il reste prouver que V

est stable par g. Par lgalit


X.Y.v = Y.X.v + [X, Y ].v = (X)Y.v +([X, Y ])v
valable pour tout X, Y, v dans h, g, V

, on est ramen prouver que ([X, Y ]) = 0 pour


tout X h, Y g. Pour cela, xons un vecteur w ,= 0 de V

, et notons W le sous-
espace de V engendr par les images de w sous tous les itrs Y
.k
de Y . La formule
X.Y
.k
.w = Y.X.Y
.(k1)
w + [X, Y ].Y
.(k1)
w montre par rcurrence que W est stable sous
h et que X.Y
.k
.w (X)Y
.k
.w modulo le sous-espace engendr par les Y
.k

.w, k

< k.
Donc tr(X
|W
) = dim(W).(X) pour tout X h. Mais X et Y agissent sur W, donc
dim(W).([X, Y ]) = tr([X
|W
, Y
|W
] = 0.
On en dduit une caractrisation de la rsolubilit en termes de reprsentations. On dit
quune reprsentation (V, ) est irrductible si ses seuls sous-espaces stables sont 0 et V .
3.3.3 Corollaire. Soit g une C-algbre de Lie. Alors g est rsoluble si et seulement
si toute reprsentation irrductible de g est de dimension 1.
Ce corollaire ne reste vrai pour les R-algbres de Lie que si lon se limite aux C-
reprsentations. Mais en gnral, il existe des R-reprsentations irrductibles de dimension
2.
33
Universit Pierre et Marie Curie Master de Mathmatiques
Exercice. Montrer que la reprsentation standard so
2
(R) gl
2
(R) est irrductible.
Les deux rsultats qui suivent sont, eux, encore valables pour les R-algbres de Lie.
Cela rsulte de lexercice suivant :
Exercice. Soit g une R-algbre de Lie, et soit g
C
sa complexie. Montrer que D
i
(g
C
) =
D
i
(g)
C
. En dduire que g est rsoluble si et seulement si g
C
lest.
3.3.4 Corollaire. Une algbre de Lie g est rsoluble si et seulement si son algbre
de Lie drive Dg est nilpotente.
Dmonstration. La condition est en eet susante daprs le premier exercice du para-
graphe. Pour montrer quelle est ncessaire, on peut supposer K = C. On applique alors le
thorme la sous-algbre de Lie ad(g) de gl(g/C). Le drapeau didaux h
i
quil fournit
vrie pour tout X Dg : ad(X)(h
i
) h
i+1
car gl((h
i
/h
i+1
)/C) = C est une algbre de
Lie ablienne. Ainsi, ad(X) agit de faon nilpotente sur g, donc aussi sur Dg, et on conclut
par le corollaire 3.2.4.
3.3.5 Corollaire. (Critre de Cartan 1) Soit g une C-sous-algbre de Lie de gl
n
(C)
telle que tr(XY ) = 0 pour tout X, Y g. Alors, g est rsoluble.
Dmonstration. Il sagit de voir que tout lment X de Dg gl
n
(C) est nilpotent, au-
trement dit, que ses valeurs propres sont nulles, ou encore, si D dsigne lendomorphisme
de V = C
n
donn, dans une base de V diagonalisant la partie semi-simple X
s
de X, par
la matrice complexe conjugue de D = X
s
, que tr(D.X) = 0. Comme X Dg est une
combinaison linaire de [Y, Z], et que
tr(D[Y, Z]) = tr([D, Y ]Z),
il sut de montrer que ad(D) laisse stable g. Mais ad(D) sexprime comme un polynme en
ad(D) = ad(X
s
), lequel vaut (ad(X))
s
, qui est lui mme un polynme en ad(X). Comme
ad(X) est un endomorphisme de lespace vectoriel gl
n
(C) laissant stable g, cest termin.
Remarque. On a utilis le fait que si X = X
s
+ X
u
est la dcomposition de Jor-
dan dun endomorphisme K-linaire dun K-ev V , alors ad(X) = ad(X
s
) + ad(X
u
) est
la dcomposition de Jordan de lendomorphisme ad(X) de L(V/K). En eet, on a dj
remarqu que ad(X
u
) est nilpotent et il est clair que ad(X
s
) et ad(X
u
) commutent. Il reste
donc vrier que ad(X
s
) est semi-simple. Pour cela, on peut supposer K = C et choisir
une base e
1
, , e
n
de V telle que X
s
e
i
=
i
e
i
. Soit alors E
ij
= e

j
e
i
la base de L(V/K)
correspondante. On calcule ad(X
s
)(E
ij
) = (
i

j
)E
ij
et on en dduit que ad(X
s
) est
diagonalisable.
34
Universit Pierre et Marie Curie Master de Mathmatiques
3.4 Algbres de Lie semi-simples.
Soit g une algbre de Lie sur un corps K de caractristique nulle. Daprs le premier
exercice du paragraphe prcdent, la somme de deux idaux rsolubles de g est rsoluble,
et on peut donc parler du plus grand idal rsoluble rad(g) de g, quon appelle le radical
de g.
3.4.1 Dfinition. On dit que g est semi-simple si elle vrie lune des proprits
quivalentes suivantes.
i) g nadmet pas didal ablien non nul.
ii) le radical de g est nul.
En particulier, une algbre de Lie semi-simple a un centre trivial, de sorte que sa reprsen-
tation adjointe est dle (cest--dire : injective).
On dit que lalgbre de Lie g est simple si elle na pas didal propre (cest--dire distinct
de 0 ou g) et si elle nest pas ablienne. Cette dernire condition nest l que pour viter
lalgbre de Lie triviale K ; on pourrait la remplacer par la condition dim(g) > 1.
Remarque. On peut montrer (voir TD) quune algbre de Lie simple est de dimension
au moins 3. De plus, sl
2
(C) est la seule algbre de Lie complexe simple de dimension 3,
tandis que sl
2
(R) et su
2
sont les seules algbres de Lie relles simples de dimension 3.
3.4.2 Dfinition. Soit : g gl(V/K) une reprsentation de g. On note B

la
forme K-bilinaire symtrique sur g
(X, Y ) g g B

(X, Y ) := tr((X)(Y ))
On vrie aisment la proprit suivante, parfois appele associativit
B

([X, Y ], Z) = B

(X, [Y, Z]), X, Y, Z g.


Il sensuit que lorthogonal h

relativement B

dun idal h de g est un idal de g. En


particulier, le radical (ou noyau) r
B

= g

de B

est un idal. Quand = ad est la


reprsentation adjointe, la forme B
ad
= B :
(X, Y ) g g B(X, Y ) := tr(ad(X)ad(Y ))
sappelle la forme de Killing de g.
Exemples : i) la forme de Killing de gl
n
(K) est B(X, Y ) = 2ntr(XY ) 2(tr X)(tr Y ). On
utilise ici le fait que tr(A XAY ) = tr(X) tr(Y ).
ii) les formes de Killing de sl
n
(K), so
n
(K), sp
2n
(K) sont respectivement donnes par
B(X, Y ) = c tr(XY ), avec c = 2n, n 2, 2n + 2 ;
iii) si h est un idal de g, la forme de Killing de lalgbre de Lie h est la restriction h
de la forme de Killing de g.
35
Universit Pierre et Marie Curie Master de Mathmatiques
3.4.3 Proposition. (Critre de Cartan 2) Une K-algbre de Lie g, de forme de
Killing B, est rsoluble si et seulement si B(g, Dg) = 0.
Dmonstration. La CN dcoule du thorme de Lie et du fait que b
n
.b
nilp
n
b
nilp
n
. Rcipro-
quement, supposons seulement que B(Dg, Dg) = 0. Par Cartan 1, ad(Dg) est alors une
sous-algbre de Lie rsoluble de gl(g). Comme Ker(ad) est ablienne, Dg est donc rsoluble,
donc g galement.
3.4.4 Thorme. (. Cartan) Soit g une K-algbre de Lie, de forme de Killing B,
de centre z(g). Les proprits suivantes sont quivalentes :
i) g est semi-simple.
ii) B est une forme bilinaire non dgnre.
iii) g est une somme directe didaux, qui sont des algbres de Lie simples.
iv) z(g) = 0, et la reprsentation adjointe de g est somme directe de reprsentations
irrductibles.
Dmonstration. (i) (ii). Daprs Cartan 1, limage par ad de lorthogonal g

de g
relativement B est rsoluble, donc g

lest aussi. Puisque g est suppose semi-simple,


lidal rsoluble g

doit tre nul. Or g

est le noyau de B, donc B est non dgnre.


(ii) (iii) Lorthogonal h

de tout idal h de g est un idal, qui, sous (ii), a pour


dimension la codimension de h dans g. Daprs Cartan 1, h

h est rsoluble. Supposons


que h

h sont non nul et soit r = D


k
(h

h) le dernier membre non nul de la suite drive


de h

h. Cest un idal ablien de g, donc pour X r, et tout Y g, lendomorphisme


ad(X)ad(Y ) de g envoie g dans r et r dans 0, donc est de carr nul, et en particulier de trace
nulle. Ainsi X g

= 0, ce qui contredit la non nullit de r et montre que lhypothse


h h

,= 0 tait absurde. Il sensuit que g = h h

. De plus, la forme de Killing de


h est non dgnre, car cest la restriction de B h, qui ne rencontre h

quen 0. Idem
pour h

. En itrant, on obtient donc une dcomposition g = h


1
... h
s
en somme directe
orthogonale didaux de g qui nadmettent pas didaux propres, et qui ne peuvent tre
de dimension 1 (car un facteur de dimension 1 serait contenu dans g

) ; ce sont donc des


algbres de Lie simples.
(iii) (iv) Sous (iii), z(g) =
i
z(h
i
) est nul puisque les h
i
sont des algbres de Lie
simples ; comme ce sont des idaux de g, ce sont des sous-reprsentations de ad, et comme
aucune na didal propre, cen sont des sous-reprsentations irrductibles.
iv) i) Comme une sous-reprsentation de ad est un idal de g, et est irrductible
si et seulement si cest un idal simple ou de dimension 1, (iv) implique que g est somme
directe didaux simples. Comme une somme directe dalgbres de Lie semi-simples est
semi-simple, on conclut que g est semi-simple.
Comme une algbre de Lie simple concide avec son idal driv, on dduit de (iii) que
g = Dg pour toute algbre de Lie semi-simple. Mais il existe des algbres de Lie vriant
cette proprit sans tre semi-simples.
36
Universit Pierre et Marie Curie Master de Mathmatiques
Remarque. (Classication) Le quotient dune algbre de Lie g par son radical r =
rad(g) est une algbre de Lie semi-simple, et on peut montrer (thorme de Levi) quil
existe une sous-algbre de Lie h g/r de g (qui nest en gnral pas un idal de g)
supplmentaire de r dans g. Le thorme de Cartan ramne donc essentiellement ltude
des algbres de Lie celle des algbres de Lie simples. Pour K = C, celles-ci ont t
entirement classies : cinq exceptions prs, toute algbre de Lie complexe simple est
du type sl
n
(C), n 2, so
n
(C), n 3, n ,= 4, ou sp
2n
(C). On dispose dune classication
similaire, mais bien sr plus longue, pour K = R.
Remarque. (Lien avec les groupes) La terminologie que nous avons introduite pour les
algbres de Lie en induit une pour les groupes de Lie connexes. On dit que G est nilpotent,
rsoluble, semi-simple, simple, rductif (cf. ci-desssous) si Lie(G) lest. Cette nomenclature
ne sut pas tout fait pour obtenir une classication des groupes de Lie linaires, car
plusieurs groupes de Lie connexes partagent la mme algbre de Lie (par exemple R et
R/Z). Cependant, on montre que toute algbre de Lie est lalgbre de Lie dun unique
groupe de Lie connexe et simplement connexe (pas ncessairement linaire, cependant),
do une classication pour ce type de groupes. Voici un exemple frappant de lien entre les
proprits du groupe et celles de son algbre de Lie (non dmontr ici). Soit G un groupe de
Lie connexe, dalgbre de Lie g/R. Si G est compact, g est rductive et la forme de Killing
de g/z(g) est dnie ngative. Si g est semi-simple et si sa forme de Killing est dnie, G
est compact.
Exercice. (Algbres de Lie rductives) En adaptant les arguments du thorme pr-
cdent, montrer lquivalence des proprits suivantes pour une algbre de Lie g :
i) Le radical r de g est rduit son centre z(g).
ii) Dg est une algbre de Lie semi-simple.
iii) g est somme directe didaux simples ou abliens.
iv) La reprsentation adjointe est somme directe de sous-reprsentations irrductibles.
Une algbre de Lie qui vrie ces proprits est dite rductive.
De mme que pour les algbres de Lie rsolubles, on peut caractriser les algbres de
Lie semi-simples par leurs reprsentations. On ainsi la proprit remarquable de complte
rductibilit suivante :
3.4.5 Thorme. (H. Weyl) Toute reprsentation de dimension nie dune algbre
de Lie semi-simple g est somme directe de reprsentations irrductibles.
Dmonstration. Soit V une reprsentation de g et W une sous-reprsentation. On veut
trouver un sous-espace supplmentaire g-stable de W. Pour cela, il sut de trouver un
g-morphisme p : V W qui soit un projecteur sur W, i.e. p
2
= p dans L(V/K), ou
encore p
|W
= id
W
. En eet on prendra Ker p comme supplmentaire g-stable de W.
Munissons Hom
K
(V, W) de laction de g donne par X. := X X. Par
dnition, une application linaire Hom
K
(V, W) est un g-morphisme si et seulement
37
Universit Pierre et Marie Curie Master de Mathmatiques
si elle appartient Hom
K
(V, W)
g
. Considrons le sous-espace A Hom
K
(V, W) form des
tels que
|W
K id
W
et le sous-espace B A des tels que
|W
= 0. Ce que lon veut
montrer est :
A
g
B ,= .
En eet si A
g
B, il existe a K

tel que
|W
= a id
W
et p := a
1
est alors un
projecteur g-quivariant sur W, comme voulu.
On constate facilement que gA B, de sorte que A et B sont des sous-reprsentations
de Hom
K
(V, W) dont le quotient A/B est la reprsentation triviale de dimension 1 de
g. Il nous sura donc de trouver une K-droite g-stable L, supplmentaire de B dans A,
puisqualors on aura L 0 A
g
B.
En dautres termes, on est ramen au problme initial sauf que maintenant W est
de codimension 1 dans V (remarquons que toute reprsentation de dimension 1 de g est
triviale, car g = Dg).
Par rcurrence sur dim
K
(V ), on peut supposer que W est irrductible. En eet, sinon
on choisit 0 ,= W

W, on applique lhypothse de rcurrence W/W

V/W

, do une
droite g-stable L

supplmentaire de W/W

dans V/W

, puis, notant V

la primage de
L

dans V (de sorte que L

= V

/W

), on applique nouveau lhypothse de rcurrence


W

pour trouver une droite g-stable L V

, complmentaire de W

dans V

, et donc
complmentaire de W dans V .
Il nous reste donc traiter le cas : W irrductible de codimension 1 dans V . Remarquons
que jusqu prsent nous navons pas utilis lhypothse g semi-simple ! Quitte remplacer
g par un de ses quotients (ncessairement semi-simple), on peut supposer que V est une
reprsentation dle, i.e. que : g gl(V ) est injective. Alors le mme raisonnement
que pour limplication i) ii) du thorme prcdent montre que la forme bilinaire B

sur g est non dgnre. Choisissons une base X


1
, , X
n
de g sur K et notons Y
1
, , Y
n
la
base duale pour B

. On appelle oprateur de Casimir de (V, ) lendomorphisme suivant :


C

:=
n

i=1
(X
i
)(Y
i
) L(V/K).
Notons que sa trace est donne par tr(C

) =

n
i=1
tr((X
i
)(Y
i
)) =

n
i=1
B

(X
i
, Y
i
) = n.
Daprs le lemme ci-dessous, C

est un g-endomorphisme de V . Comme (g)V W, on a


aussi C

V W, et en particulier W est stable par C

. Puisque W est irrductible, le lemme


de Schur nous dit que C
|W
est soit nul, soit inversible. Comme tr(C

) = tr(C
|W
) = n ,= 0,
on voit que C
|W
est inversible. Mais alors Ker(C

) est le supplmentaire g-stable de W


cherch.
Lemme. C

est un g-endomorphisme de V .
Dmonstration. Soit X g. On calcule
[(X), C

] =
n

i=1
[(X), (X
i
)(Y
i
)]
38
Universit Pierre et Marie Curie Master de Mathmatiques
=
n

i=1
[(X), (X
i
)](Y
i
) +
n

i=1
(X
i
)[(X), (Y
i
)]
=
n

i=1
([X, X
i
])(Y
i
) +
n

i=1
(X
i
)([X, Y
i
])
=

i,j
B

([X, X
i
], Y
j
)(X
j
)(Y
i
) +

i,j
B

([X, Y
i
], X
j
)(X
i
)(Y
j
)
et on conclut en remarquant que B

([X, X
i
], Y
j
) +B

([X, Y
j
], X
i
) = 0 pour tous i, j (asso-
ciativit de B

).
3.5 Reprsentations irrductibles de sl
2
(C)
On a vu que les reprsentations irrductibles dune algbre de Lie rsoluble sont toutes
de dimension 1. Nanmoins il en existe une innit non dnombrable. Par exemple pour
g C, engendre par un lment X, se donner une reprsentation (V, ) revient se
donner un endomorphisme (X) de V . Lorsque V est de dimension 1 cest simplement la
multiplication par un C. Il y a donc autant dirrductibles que de nombres complexes...
La situation est trs dirente pour les algbres de Lie semi-simples. On sait en gnral
classier leurs reprsentations irrductibles, et on montre quil ny en a quun nombre ni,
dimension xe.
On tudie ici lexemple de g = sl
2
(C). Celle-ci est de dimension 3, et en voici une base
pratique :
H =
_
1 0
0 1
_
, X =
_
0 1
0 0
_
, Y =
_
0 0
1 0
_
.
Le crochet y est donne par les relations
[H, X] = 2X , [H, Y ] = 2Y , [X, Y ] = H ().
La forme de Killing (x, y) 4 tr(xy) est non dgnre, donne par
B(H, X) = B(H, Y ) = 0, B(X, Y ) = 4, et B(H, H) = 8.
On connait dj 3 reprsentations irrductibles de g. La triviale (de dimension 1), la stan-
dard (i.e. linclusion g gl
2
(C), de dimension 2), et la reprsentation adjointe, de dimen-
sion 3 (qui est irrductible car sl
2
(C) est simple).
3.5.1 Thorme. Pour tout entier m N, il existe une reprsentation irrductible
(V
m
,
m
) de dimension m+ 1, et celle-ci est unique isomorphisme prs.
Dmonstration. Montrons dabord lunicit. Soit : sl
2
(C) gl(V/C) une reprsentation
irrductible,
0
une valeur propre de (H), de partie relle minimale, et v
0
un des vecteurs
propres correspondant. De la relation
H(X.v
0
) = X(H.v
0
) + [H, X].v
0
= X(
0
v
0
) + 2X(v
0
) = (
0
+ 2)X.v
0
,
39
Universit Pierre et Marie Curie Master de Mathmatiques
on dduit que si si v
1
= X.v
0
nest pas nul, cest un vecteur propre pour H, de valeur
propre
1
=
0
+ 2. En itrant, on obtient une suite v
j
, j = 0, ..., m de vecteurs propres
valeurs propres distinctes, o m dsigne le plus grand entier tel que v
m
,= 0. Alors, le
sous-espace vectoriel W engendr par les v
j
est stable sous H et X, mais aussi sous Y car
H(Y.v
0
) = Y (H.v
0
) + [H, Y ].v
0
= (
0
2)Y.v
0
,
donc Y.v
0
= 0 par minimalit de
0
, tandis quon vrie par rcurrence sur j, partir de la
relation Y X = XY H, que Y.v
j
= j(
0
+j 1)v
j1
. Par consquent, W = V . De plus,
sl
2
(C) = Dsl
2
(C), donc tr((H)) = 0, do
0
= m, et est nalement donne dans la
base v
j
de V par
(H)(v
j
) = (2j m)v
j
, (X)(v
j
) = v
j+1
, (Y )(v
j
) = j(mj + 1)v
j1
,
ou encore, dans la base w
j
= v
j
/[m(m1)...(mj + 1)] par
(H)(w
j
) = (2j m)w
j
, (X)(w
j
) = (mj)w
j+1
, (Y )(w
j
) = jw
j1
.()
Ceci montre lunicit. Pour lexistence, il faut dabord vrier que les relations ci-dessus
dnissent bien une reprsentation (i.e. ([x, y]) = [(x), (y)] pour tous x, y) ce qui est
lmentaire. Il faut ensuite vrier que cette reprsentation est bien irrductible. Or toute
sous-reprsentation non nulle W V doit contenir un vecteur propre pour H, i.e. lun des
v
j
. Mais alors les actions de X et Y montrent que W contient tous les v
j
.
Remarque. Nous mentionnerons au chapitre suivant un modle plus conceptuel pour
ces reprsentations (V
m
,
m
), en termes de drivations de lespace des polynmes homognes
2 variables de degr m. On peut aussi montrer que
m
est la reprsentations puissance
symtrique m-me de la reprsentation standard
1
. Plus prcisment, on dnit une
reprsentation de g sur le produit tensoriel V
1
V
1
V
1
(m facteurs) en posant
X

(v
1
v
m
) :=

n
i=1
v
1
Xv
i
v
m
. Le groupe symtrique S
m
agit par
permutation des facteurs, et les invariants (V
1
V
1
V
1
)
S
m
sont stables sous g et
forment une sous-reprsentation irrductible isomorphe (V
m
,
m
). Vu le Thorme de
complte rductibilit de Weyl, on peut nalement noncer : toute reprsentation complexe
de dimension nie de sl
2
(C) est isomorphe une somme directe de puissances symtriques
de la reprsentation standard.
Remarque. sl
2
(C) possde aussi des reprsentations irrductibles de dimension innie,
dont la classication est aussi connue. De telles reprsentations ne sont pas des objets si
exotiques, et ont leur importance en physique et en thorie des nombres.
40
Universit Pierre et Marie Curie Master de Mathmatiques
4 Retour aux groupes : reprsentations et analyse har-
monique
4.1 Reprsentations (gnralits)
4.1.1 Dfinition. Soit G un groupe topologique. Une reprsentation continue de G
est une paire (V, ) forme dun C-espace de Banach V et dun homomorphisme de groupes
topologiques : G GL(V/C).
Lorsque V est de dimension nie, se donner revient se se donner une action continue
GV V telle que pour tout g, lapplication (g) : v gv soit K-linaire.
Sous-entendant , on dit souvent que V est une reprsentation de G, et on crit laction
de G que induit sur V sous la forme (g)(v) = (g)v = g.v = gv.
4.1.2 Vocabulaire de base. Un vecteur v de V est dit invariant si gv = v pour tout g
dans G; notation : v V
G
.
Un C-ss-ev W de V est dit stable sous G si gw appartient W pour tout (g, w) GW.
Lorsque W est ferm dans V (automatique si V est de dimension nie), on dit que (W, )
est une sous-reprsentation de (V, ). Dans ce cas le quotient V/W est naturellement muni
dune action linaire continue de G que lon appelle reprsentation quotient.
On dit que est irrductible (parfois on prcise topologiquement irrductible) sil nexiste
aucun sous-espace ferm W de V stable sous G et distinct de 0 et de V .
Si V et W sont deux reprsentations continues de G, leur somme directe est la repr-
sentation V W dnie par g.(v w) = gv gw. Si une reprsentation V est somme
directe de deux sous-reprsentations propres, on dit quelle est dcomposable. Noter quune
reprsentation indcomposable nest pas forcment irrductible.
Un morphisme entre deux reprsentations V et W de G est un homomorphisme C-
linaire continu : V W tel que (g.v) = g.(v) pour tout (g, v) GV . On dit aussi
que est G-linaire, ou que cest un G-morphisme, ou encore que entrelace V et W. Les
reprsentations V et W sont dites quivalentes (ou simplement isomorphes) sil existe un
G-isomorphisme bi-continu de lune vers lautre (son inverse est encore un G-morphisme).
4.1.3 Reprsentations unitaires. Si V est un espace de Hilbert on dit que est unitaire
si (G) est contenu dans U(V ). Plus gnralement, une reprsentation continue est dite
unitarisable si elle est quivalente une reprsentation unitaire.
Exemple. Si G est ni, toute reprsentation (V, ) de dimension nie de G est uni-
tarisable. En eet, il nous faut trouver un produit scalaire hermitien : V V C
qui soit G-invariant, i.e. tel que (G) U(), ou encore tel que (gv, gw) = (v, w)
pour tous g G et v, w V . Or, si est un produit scalaire hermitien quelconque, la
forme sesqui-linaire dnie par (v, w) :=
1
|G|

gG
(gv, gw) est un produit hermitien
G-invariant comme voulu.
Nous gnraliserons ceci aux groupes compacts plus loin. En attendant, un des intrts
41
Universit Pierre et Marie Curie Master de Mathmatiques
des reprsentations unitaires est que tout sous-espace ferm stable admet un supplmentaire
ferm stable. Plus prcisment, si W V est ferm et stable, alors W

est ferm stable


et on a V = W W

. En particulier, une reprsentation unitaire est indcomposable si et


seulement si elle est irrductible. Une reprsentation unitaire de dimension nie est alors
compltement rductible (i.e. somme directe de sous-reprsentations irrductibles).
4.2 Reprsentations de dimension nie
Comme on peut sy attendre, la thorie est plus commode en dimension nie. On a
notamment le
Lemme. (Lemme de Schur) Soient V et W deux reprsentations complexes irrduc-
tibles de dimension nie dun groupe quelconque G, et un G-morphisme non identique-
ment nul de V vers W . Alors,
i) est un isomorphisme ;
ii) si V = W, il existe un scalaire C

tel que = .id


V
.
Dmonstration. Le noyau (resp. limage) de est un sous-espaces invariant de V (resp. W).
Lirrductibilit de ces reprsentations entrane la premire assertion. Sous les hypothses
de la seconde, admet au moins une valeur propre C (qui est algbriquement clos),
et il sut dappliquer la premire assertion au G-morphisme id
V
.
4.2.1 Reprsentations drives. Supposons que G est un groupe de Lie linaire, et soit
g son algbre de Lie. Daprs le paragraphe 2.2.2, toute reprsentation continue comme
ci-dessus induit une reprsentation d : g gl(V/K) de lalgbre de Lie g. De manire
explicite, on a la formule
d(X) =
d
dt|t=0
(t (exp(tX))) .
La thorie des reprsentations de G et celle de g sclairent mutuellement. On a par
exemple le lemme suivant :
Lemme. Supposons G connexe. Alors
i) un sous-espace W de V est stable par (G) si et seulement si il est stable par d(g).
En particulier, (V, ) est irrductible si et seulement si (V, d) est irrductible.
ii) un sous-espace W de V stable par (G) admet un supplmentaire stable par (G) si et
seulement si il en admet un stable par d(g). En particulier, (V, ) est indcomposable
si et seulement si (V, d) est indcomposable.
Dmonstration. i) Le sens dcoule de la dnition de d. Rciproquement, supposons
W stable par d(g). Alors lgalit exp
G
= exp
GL(V )
d montre que W est stable par
(exp
G
(g)). Mais puisque G est connexe, il est engendr par limage de exp
G
, et W est
donc stable par (G). ii) dcoule de i).
42
Universit Pierre et Marie Curie Master de Mathmatiques
Voici un corollaire remarquable.
Corollaire. Si G est un groupe semi-simple, toute reprsentation de dimension
nie de G est compltement rductible.
Dmonstration. Vu le lemme prcdent, cela dcoule du thorme de complte rductibilit
de Weyl pour les algbres de Lie semi-simples.
Notons que cela sapplique en particulier aux groupes classiques (spciaux linaires,
symplectiques, spciaux unitaires, spciaux orthogonaux). Dans le mme ordre dides,
voici un rsultat utile dans un but de classication :
Lemme. Si (V
1
,
1
), (V
2
,
2
) sont deux reprsentations de dimension nie dun groupe
de Lie connexe G, alors
1
et
2
sont quivalentes si et seulement si d
1
et d
2
le sont.
Dmonstration. Par dnition un isomorphisme C-linaire : V
1

V
2
est une quiva-
lence de
1
sur
2
si pour tout g G on a
2
(g) =
1
(g), et une quivalence de d
1
sur d
2
si pour tout X g on a d
2
(X) = d
1
(X). Par le yoga maintenant habituel
de lexponentielle, ces deux conditions sont quivalentes.
En guise dapplication, nous allons revisiter les reprsentations de sl
2
(C) et en dduire
une classication des reprsentations continues irrductibles de SL
2
(C), PGL
2
(C), SU
2
(C),
SL
2
(R) et SO
3
(R).
4.2.2 Classication des reprsentations irrducibles de SL
2
(C) et groupes alis. Soient
m un entier 0 et V
m
lespace des polynmes homognes de degr m en deux variables,
coecients dans C. Le groupe de Lie SL
2
(C) admet une reprsentation naturelle
m
sur
V
m
, donne, pour g =
_
a b
c d
_
et P = P(x, y) dans V
m
par

m
(g)(P) = g.P, avec (g.P)(x, y) = P(ax +cy, bx +dy).
Notons que V
m
est de dimension m+ 1.
Thorme. Pour G = SL
2
(C), SL
2
(R), ou SU(2), les reprsentations (
m
)
|G
, m N
sont irrductibles et deux deux non isomorphes.
Dmonstration. Soit d
m
: sl
2
(C) gl(V
m
/C) la reprsentation drive de
m
. Reprenons
la base (H, X, Y ) de sl
2
(C). Par dnition de
m
, on a les formules
m
(e
tH
)(P(x, y)) =
P(e
t
x, e
t
y),
m
(e
tX
)(P(x, y)) = P(x; tx + y) et
m
(e
tY
)(P(x, y)) = P(x + ty, y), de sorte
que
d
m
(H)(P) = (x

x
y

y
)(P), d
m
(X)(P) = x

y
(P), d
m
(Y )(P) = y

x
(P).
Dans la base P
j
(x, y) = x
j
y
mj
, j = 0, ..., m de V
m
, on a donc :
d
m
(H)(P
j
) = (2j m)P
j
, d
m
(X)(P
j
) = (mj)P
j+1
, d
m
(Y )(P
j
) = jP
j1
().
43
Universit Pierre et Marie Curie Master de Mathmatiques
On reconnait l les formules donnant laction de sl
2
(C) sur la reprsentation
m
du tho-
rme 3.5.1. On en dduit lirrductibilit de d
m
et donc celle de
m
. De plus, comme
les R-sous-algbres de Lie su(2) et sl
2
(R) engendrent sl
2
(C) par C-linarit, on voit que
(d
m
)
|su(2)
et (d
m
)
|sl
2
(R)
sont aussi irrductibles. Par consquent (
m
)
|SU(2)
et (
m
)
|SL
2
(R)
sont irrductibles.
Notons que
0
est la reprsentation triviale,
1
la reprsentation standard, et
2
la re-
prsentation adjointe de SL
2
(C). On sintresse maintenant la rciproque de ce thorme,
cest--dire la classication des reprsentations continues irrductibles de dimension nie
des groupes de Lie considrs.
4.2.3 Thorme. Toute reprsentation continue irrductible de dimension nie de
G = SU(2) ou G = SL
2
(R) est isomorphe une (et une seule) des reprsentations
(
m
)
|G
, m N.
Dmonstration. Soit (V, ) est une reprsentation (complexe) irrducible de G. Alors d
est une reprsentation irrductible complexe de la R-algbre de Lie g, donc stend en une
reprsentation irrductible de la C-algbre de Lie g
C
= sl
2
(C). Daprs le thorme 3.5.1,
il existe donc m tel que d (
m
)
|g
= (d
m
)
|g
= d(
m
)
|G
. Daprs le lemme ci-dessus, cela
implique que (
m
)
|G
.
Nous verrons au prochain paragraphe que toutes les reprsentations continues irrduc-
tibles du groupe compact SU(2) sont de dimension nie. Par contre, le groupe SL
2
(R),
tout comme sl
2
(C), possde des reprsentations irrductibles de dimension innie. Il ny
a nanmoins pas de relation aussi simple entre les reprsentations de dimension innie du
groupe et celles de son algbre de Lie.
Passons au groupe SL
2
(C). Les reprsentations
m
ne sont pas les seules irrductibles ;
elles ont une proprit particulire relativement la structure complexe de SL
2
(C). On les
appelle reprsentations holomorphes de SL
2
(C). Pour obtenir les autres, on remarque que
la conjugaison complexe induit un automorphisme du groupe de Lie SL
2
(C), dont la drive
est la conjugaison complexe de la R-algbre de Lie sl
2
(C). On dnit alors la conjugue
dune reprsentation (V, ) comme la reprsentation (V, ) obtenue en composant avec la
conjugaison de SL
2
(C).
4.2.4 Thorme. Toute reprsentation continue irrductible de dimension nie de
SL
2
(C) est isomorphe un produit tensoriel
m

n
, m, n N.
Dmonstration. (Esquisse) Soit (V, ) une reprsentation irrductible de SL
2
(C). Sa d-
rive d est une reprsentation irrductible de la R-algbre de Lie sl
2
(C) et stend la
complexie sl
2
(C)
C
sl
2
(C) sl
2
(C). On montre que les irrductibles dune somme di-
recte sobtiennent comme produits tensoriels des irrductibles de chacun des deux facteurs.
Par ailleurs le plongement sl
2
(C) sl
2
(C)
C
sl
2
(C) sl
2
(C) est donne par (id, id).
44
Universit Pierre et Marie Curie Master de Mathmatiques
Exercice. Montrer quune reprsentation
m
de SL
2
(R) se factorise par PSL
2
(R) si
et seulement si m est pair, et que la reprsentation ainsi obtenue est encore irrductible.
Montrer que toute les irrductibles de PSL
2
(R) sobtiennent ainsi.
Exercice. Classier les irrductibles de SO
3
(R).
Exercice. Classier les irrductibles de PSL
2
(C).
4.3 Reprsentations des groupes compacts
4.3.1 Mesures de Haar. Soit X un espace localement compact. Notons (
c
(X, R) le
R-espace vectoriel des fonctions continues support compact, muni de la topologie de
la convergence uniforme sur tout compact. Une mesure sur X est une forme linaire sur
(
c
(X, R) qui est positive sur les fonctions positives ; elle est alors automatiquement conti-
nue : cest en particulier une distribution sur X. Il est dusage de noter lvaluation dune
mesure sur une fonction f de lune des manires suivantes :
(f) = , f) =
_
X
fd =
_
X
f(x)d(x).
Si un groupe G agit sur X, il agit sur les fonctions par la formule (g.f)(x) := f(g
1
x),
et dualement sur les formes linaires et les mesures par la formule g(f) := (g
1
f), ce
que lon peut aussi noter
g(f) = g, f) = , g
1
f) =
_
X
g
1
fd =
_
X
f(gx)d(x).
Comme dhabitude, on dit que la mesure est invariante par G si = g pour tout g G.
Il nexiste pas toujours de mesure invariante sur X, et lorsquil en existe elles sont rarement
uniques. Mais voici un cas particulier trs utile.
Thorme. Supposons X = G, laction tant la multiplication gauche. Alors il
existe une mesure G-invariante sur X, et elle est unique multiplication par un rel positif
prs.
Nous admettrons ce rsultat. On peut lobtenir comme consquence dun thorme de
point xe danalyse fonctionnelle, d Markov et Kakutani. Dans le cas dun groupe de
Lie, on peut utiliser des techniques de gomtrie direntielle qui relient mesures sur une
varit et sections du br des formes direntielles de degr maximal, il reste alors voir
que ce dernier br est trivialisable dans le cas dun groupe de Lie.
Une mesure comme dans le thorme est appele mesure de Haar gauche sur G. De
mme il existe des mesures de Haar droite (relatives laction de G sur lui-mme par
multiplication droite), qui sont toutes gales un facteur prs. En gnral, une mesure
de Haar gauche ne lest pas droite. Voici cependant un rsultat notable, que nous
admettrons aussi :
Thorme. Si G est compact, ou si G est un groupe de Lie rductif, toute mesure
de Haar gauche est aussi mesure de Haar droite.
45
Universit Pierre et Marie Curie Master de Mathmatiques
Dans le cas o G est compact, il est dusage de normaliser la mesure de Haar de sorte
que (G) := (1
G
) = 1.
Exemple. Voici quelques exemples de mesures de Haar.
pour le groupe additif G = R
n
, la mesure de Lebesgue dx
1
dx
n
;
pour le groupe multiplicatif (R

)
n
, la mesure =
dx
1
x
1
dx
2
x
2

dx
n
x
n
pour G = GL
n
(R) x = (x
i,j
)
1i,jn
, la mesure = det(x)
1
dx
11
dx
12
dx
nn
pour G ni, = [G[
1

xG

x
, o
x
dsigne la mesure de Dirac au point x;
pour G = SO
2
(R) =
__
cos sin
sin cos
_
, R/2Z
_
, =
d
2
.
Voici maintenant une application cruciale de lexistence dune mesure de Haar sur un
groupe compact.
4.3.2 Corollaire. Soit G un groupe compact, et une reprsentation de G sur
un espace de Hilbert V (par exemple sur un espace de dimension nie). Alors il existe
un produit scalaire hermitien : V V C tel que (gv, gv) = (v, v) pour tout
g G, v V , autrement dit tel que soit une reprsentation unitaire pour ce produit
scalaire.
Dmonstration. Si : V V C est le produit scalaire initial sur V , alors, la forme
sesquilinaire
(v, w) :=
_
G
(xv, xw)d(x)
rpond la question puisque est une mesure de Haar droite. Cest dailleurs une
gnralisation directe de largument dj rencontr pour les groupes nis.
Le cas o V est de dimension nie a dj des consquences spectaculaires :
Corollaire. Tout sous-groupe compact de GL
n
(C) est contenu dans un conjugu
de U(n).
Dmonstration. En eet, tous les produits hermitiens sur C
n
sont quivalents, et leurs
groupes unitaires sont donc conjugus. Ainsi, avec les notations de la preuve prcdente,
U() est conjugu U(n)
On dmontre de mme que tout sous-groupe compact de GL
n
(R) esti contenu dans un
conjugu de O(n).
Corollaire. Toute reprsentation de dimension nie dun groupe compact est com-
pltement rductible.
Corollaire. Si G est un groupe de Lie compact, son algbre de Lie est rductive.
Dmonstration. Appliquer le corollaire prcdent la reprsentation adjointe et utiliser
lune des caractrisations des algbres de Lie rductives, cf Exercice 3.4.4.
46
Universit Pierre et Marie Curie Master de Mathmatiques
Remarque. Soit V un C-ev de dimension nie et V

le dual conjugu de V , i.e. le C-ev


des formes semi-linaires sur V . Tout produit hermitien sur V induit un isomorphisme
V

V

qui envoie v sur la forme semi-linaire (v, ). Si maintenant (V, ) est une
reprsentation de G, si le produit hermitien est G-invariant, et si lon munit V

de la
reprsentation

(g) := (g
1
), alors lisomorphisme V

V

est un G-isomorphisme.
Par le lemme de Schur, il sensuit que si (V, ) est irductible, alors il y a un seul produit
hermitien G-invariant sur V un facteur prs.
Le cas o V est de dimension innie est aussi trs intressant mais utilise un peu de
thorie spectrale, et plus prcisment la thorie des oprateurs autoadjoints dun espace
de Hilbert.
4.3.3 Application aux reprsentations unitaires. Soit H un espace de Hilbert sur C
de produit scalaire (, ) et de norme associe [.[. Par le thorme de reprsentabilit de
Riesz, lhomomorphisme H H

qui envoie un vecteur v sur la forme linaire continue


w (w, v) est une bijection (semi-linaire) de H sur son dual topologique H

. Il sensuit
que tout oprateur A L(H/C) admet un adjoint A

L(H/C) uniquement dni par


les relations (Av, w) = (v, A

w) pour tout v, w H. On dit que A est autoadjoint si


A

= A. Comme en dimension nie, on vrie que les valeurs propres dun oprateur A
autoadjoint sont relles, et que deux sous-espaces propres correspondant deux valeurs
propres distinctes sont orthogonaux. Ce qui nest pas clair en revanche, cest si A possde
eectivement des vecteurs propres.
En dimension nie, on sait quun endomorphisme autoadjoint (et plus gnralement,
normal) est diagonalisable dans une base orthonorme. Cela nest pas vrai en gnral en
dimension innie. On dit quun oprateur A est compact si limage par A de la boule
unit de H est dadhrence compacte (on dit aussi relativement compacte). Ceci quivaut
demander ce que limage de tout ensemble born soit dadhrence compacte.
Lemme. Soit A un oprateur autoadjoint compact sur un espace de Hilbert H. Alors
i) lensemble Sp(A) des valeurs propres de A contient [[A[[.
ii) pour toute valeur propre ,= 0, le sous-espace propre H() := Ker(Aid
H
) est de
dimension nie.
iii) H est somme directe Hilbertienne H =

Sp(A)
H() des sous-espaces propres de A.
Le point iii) signie que la somme directe est orthogonale et dense dans H (le chapeau
signie compltion). On peut montrer que Sp(A) est au plus dnombrable et sans point
daccumulation non nul.
Dmonstration. i) Choisissons une suite v
n
de points de H de norme 1 tels que [Av
n
[ tende
vers [[A[[ et que Av
n
admette une limite, disons w. Alors,
[A
2
v
n
[[A[[
2
v
n
[
2
= [A
2
v
n
[
2
2[[A[[
2
(A
2
v
n
, v
n
) +[[A[[
4
[[A[[
4
2[[A[[
2
[Av
n
[
2
+[[A[[
4
tend vers 0, donc v
n
tend vers le vecteur v := Aw/[[A[[
2
. On a par passage la limite
A
2
v = [[A[[
2
v, ou encore (A [[A[[ id
H
)(A + [[A[[ id
H
)v = 0, ce qui montre que soit v est
47
Universit Pierre et Marie Curie Master de Mathmatiques
vecteur propre de valeur propre [[A[[, soit v

:= Av +[[A[[v est vecteur propre de valeur


propre [[A[[.
ii) Le sous-espace propre H() est ferm, donc un sous-espace de Hilbert de H. Si
,= 0, sa boule unit est gale sa propre image par loprateur compact
1

A. Comme elle
est borne, elle est donc relativement compacte. Mais puisquelle est ferme, elle est mme
compacte. Il sensuit que H() est ncessairement de dimension nie.
iii) Soit F lorthogonal de la somme des espaces propres de A. La restriction de A F
est un oprateur auto-adjoint compact. Si F est non nul, on peut lui appliquer i) do une
contradiction. Ainsi F est nul, et par suite la somme des sous-espaces propres est dense.
Proposition. Toute reprsentation unitaire de G se dcompose en une somme di-
recte Hilbertienne de reprsentations irrductibles de dimension nie.
En particulier, une reprsentation unitaire irrductible de G est de dimension nie.
Dmonstration. Il sut de montrer que toute reprsentation unitaire de G contient une
sous-reprsentation de dimension nie. En eet, la proposition suivra en appliquant ceci
lorthogonal de la somme des sous-reprsentations de dimension nie (dont on sait dj
quelles sont sommes de sous-reprsentations irrductibles).
Pour le vrier, construisons un oprateur autoadjoint compact non nul A sur V , inva-
riant sous G, cest--dire tel que g.A := (g)A(g
1
) = A pour tout g G. Pour cela, soit

v
le projecteur orthogonal de V sur un vecteur v de norme 1 :
v
(w) := (w, v)v. Alors,
A =
_
G
x.
v
=
_
G
x
v
x
1
d(x) :
w A(w) =
_
G
(x
1
w, v)xvd(x) =
_
G
(w, xv)xvd(x)
[car (, ) est G-invariant] convient : puisque est une mesure de Haar, il est G-invariant, il
est, comme
v
, autoadjoint, et on vrie, en approchant lapplication continue x x.
v
par des applications localement constantes, quil est limite uniforme doprateurs de rang
ni, donc compact. Soit alors H() = Ker(Aid
V
) un des sous-espaces propres de A, de
dimension nie, fourni par la proposition prcdente. Comme les (g), g G, commutent
avec A, W est bien stable sous G.
La preuve ci-dessus nutilise pas la continuit de laction de G. Seulement le fait que
les applications g (w, gv) sont intgrables. Cette remarque permettra dappliquer ce
rsultat de dcomposition la reprsentation rgulire unitaire.
4.3.4 La reprsentation rgulire unitaire. Soit G un groupe localement compact.
Comme on la vu prcdemment, les espaces de fonctions raisonnables (continues, ou/et
bornes, ou/et support compact, etc...) sur G sont munis de deux actions naturelles de
G par translations gauche [gf(x) = f(g
1
x)] ou droite [gf(x) = f(xg)], parfois appe-
les reprsentations rgulires. Maintenant que lon dispose de mesures invariantes par
translation, on peut considrer des variantes L
2
de ces reprsentations. Par commodit
48
Universit Pierre et Marie Curie Master de Mathmatiques
pour la suite, nous choisirons laction par translations droite. Fixons donc une mesure
de Haar droite sur G. Sur lespace (
c
(G, C) des fonctions complexes continues sup-
port compact sur G on dispose dun produit scalaire hermitien, dit produit L
2
, dni par
f
1
, f
2
) =
_
G
f
1
(x)f
2
(x)d(x). Comme est invariante droite, on a lgalit (pour laction
par translations droite)
gf
1
, gf
2
) =
_
G
f
1
(xg)f
2
(xg)d(x) =
_
G
f
1
(x)f
2
(x)d(x) = f
1
, f
2
).
Lespace (
c
(G, C) nest pas complet pour la norme L
2
(il est simplement prhilbertien).
On note L
2
(G) = L
2
(G, C, ) lespace de Hilbert obtenu par compltion. La formule ci-
dessus montre que laction de G se prolonge L
2
(G) et prserve le produit scalaire. Elle
est donc donne par un homomorphisme G U(L
2
(G)). On prendra garde au fait que
cet homomorphisme nest cependant pas toujours continu, mme pour G compact. Nous
appellerons L
2
(G) la reprsentation rgulire unitaire ( gauche) de G.
Exemple. Pour G = R/Z, L
2
(G) est lespace L
2
sur le cercle, ou encore celui des
fonctions 1-priodiques de carr intgrable.
Cet exemple est fondamental pour comprendre les motivations de lanalyse harmonique
et de la thorie des reprsentations.
4.4 Analyse harmonique et dcomposition spectrale
4.4.1 Interprtation de la thorie de Fourier classique. toute fonction continue
f : R C admettant 1 pour priode, on peut attacher son dveloppement de Fourier

rZ
a
r
(f)e
2irt
, avec a
r
(f) =
_
1
0
f(t)e
2irt
dt pour tout r Z. Plus gnralement, si f est
de carr sommable sur [0, 1] (f L
2
([0, 1], C, dx)), cette srie est encore bien dnie, et
converge vers f en moyenne quadratique (cest--dire pour la norme L
2
).
Rinterprtons ces faits bien connus en termes du groupe de Lie compact G := R/Z
S
1
SO(2).
Une fonction continue 1-priodique R C sidentie une fonction continue G
C.
Parmi ces fonctions, celles de la forme t e
2irt
, r Z sidentient exactement
aux homomorphismes continus G C

= GL
1
(C) [Exercice : vrier que tout
homomorphisme continu est bien de cette forme]. Lues sur S
1
, elles scrivent
r
:
S
1
C

: g
r
(g) = g
r
.
La mesure de Lebesgue dt sur R induit la mesure de Haar normalise de G et on
peut identier L
2
([0, 1], C, dx) L
2
(G, C, ) = L
2
(G).
La variante L
2
de la thorie de Fourier classique nous dit alors : la famille des homo-
morphismes continus G C

forme une base hilbertienne de L


2
(G). Le coecient
de Fourier a
r
(f) nest autre que la composante f,
r
) de f contre
r
.
La thorie de Fourier ainsi reformule se gnralise facilement tout groupe compact
commutatif.
49
Universit Pierre et Marie Curie Master de Mathmatiques
Proposition. Soit G un groupe compact commutatif et

G lensemble des homo-
morphismes continus G C

. Alors

G est une base hilbertienne de L
2
(G). En dautres
termes, on a
f L
2
(G), f =

G
f, ).
On peut aussi obtenir des noncs pour les fonctions continues comme par exemple :
f (
c
(G, C), f(g) =

G
(g)
_
G
f(x)(x)d(x).
Le terme f, ) =
_
G
f(x)(x)d(x) mrite le nom de coecient de Fourier. Notons
dailleurs que, G tant compact, son image par

G est compacte donc contenue dans
S
1
C

, et on a donc (x) = (x)


1
pour tout g G.
4.4.2 Cas non-commutatif : caractres. Pour un groupe G compact mais non commu-
tatif, nous disposons dj de plusieurs ingrdients de la proposition prcdente : mesure
de Haar, espace de Hilbert L
2
(G) muni de son action de G. On dispose aussi des homo-
morphismes continus G C

mais cette fois, il est clair que de tels morphismes ne sont


pas susamment nombreux pour pouvoir constituer une base de Hilbert de L
2
(G). Par
exemple dans le cas extrme du groupe simple SO
3
(R), il ny a pas de tel homomorphisme
non trivial ! Du point de vue de la thorie des reprsentations, la spcicit des groupes
commutatifs parmi les compacts est que toute reprsentation irrductible dun groupe com-
pact commutatif est de dimension 1.
Lide est alors, pour obtenir un analogue de la proposition prcdente de considrer
lensemble

G des classes disomorphismes de reprsentations irrductibles de dimension
nie de G. Le problme vident qui surgit est : comment associer une fonction une
reprsentation. La rponse est
Dfinition. Soit (V, ) une reprsentation continue de dimension nie dun groupe
topologique G. On appelle caractre de la fonction (continue)

: g G tr((g)) C.
Lgalit classique tr(AB) = tr(BA) montre quun caractre est une fonction centrale
sur G, i.e. qui vrie f(ghg
1
) = f(h) pour tous g, h G (on dit aussi invariante par
conjugaison). Le sous-espace L
2
(G)
G
des invariants par conjugaison de L
2
(G) est ferm,
donc un espace de Hilbert. Par ailleurs, la mme galit classique montre que deux repr-
sentations quivalentes ont le mme caractre. La gnralisation souhaite de la proposition
snonce alors comme ceci :
4.4.3 Thorme. Soit G un groupe compact. Lensemble

,

G des caractres
de reprsentations irrductibles est une base hilbertienne de L
2
(G)
G
. En dautres termes,
50
Universit Pierre et Marie Curie Master de Mathmatiques
on a
f L
2
(G)
G
, f =

G
f,

.
Il existe aussi des variantes pour les fonctions continues comme :
f (
c
(G, C)
G
, f(g) =

(g)
_
G
f(x)

(x)d(x).
Ici aussi on voit que

(x) =

(x
1
) (mais ,=

(x)
1
) car les valeurs propres de (x)
sont ncessairement de module 1. Il existe par ailleurs des conditions sur la famille des
coecients de Fourier a

(f) =
_
G
f(x)

(x)d(x) pour que la convergence soit uniforme.


Remarque. Ce thorme est une motivation claire pour les deux problmes classiques
de thorie des reprsentations :
classier les reprsentations irrductibles,
calculer leur caractres.
Pour ces deux questions, les algbres de Lie sont un auxiliaire trs utile.
La partie la plus facile du thorme consiste prouver que les caractres irrductibles

,

G, forment une famille orthonorme de L
2
(G).
Lemme. Soient V et W deux reprsentations irrductibles de dimension nie de G.
i) si W nest pas isomorphe V :
V
,
W
) = 0 ;
ii) si W est isomorphe V :
V
,
V
) = 1.
Dmonstration. Considrons dabord le sous-espace U
G
des vecteurs invariants dune re-
prsentation (U,
U
) de dimension nie. Lendomorphisme p =
_
G

U
(x)d(x) de U est un
projecteur de U sur U
G
. Sa trace vaut donc : dim(U
G
) = tr(p) =
_
G
tr(
U
(x))d(x), qui
est le produit scalaire
U
, 1
G
). Appliquons ce rsultat la reprsentation U = Hom(V, W)
dnie par g :=
W
(g)
V
(g
1
). Daprs le lemme de Schur, Hom(V, W)
G
est de di-
mension 0 (resp. 1) si V et W ne sont pas (resp. sont) isomorphes. Ainsi
Hom(V,W)
, 1
G
) = 0
ou 1 suivant quon est dans le cas i) ou le cas ii). Pour conclure, il ne reste qu montrer
la formule
Hom(V,W)
=
V

W
. Celle-ci est lmentaire (choisir une base de V , une base
de W, et calculer dans la base de Hom(V, W) associe), si lon ne perd pas de vue que

V
(x) =
V
(x
1
) pour tout x.
Le reste du thorme 4.4.3 est une consquence du thorme de dcomposition spec-
trale suivant, qui prcise la dcomposition Hilbertienne de L
2
(G) de la proposition 4.3.3
en armant que toute reprsentation irrductible de G y apparat avec une multiplicit
gale son degr. Avant de lnoncer prcisment, un peu de terminologie.
Dfinition. Soit (V, ) une reprsentation de dimension nie de G. Un coecient
matriciel de est une fonction de la forme c
v,v
: g (gv, v

) o v V et v

(dual
de V , laccouplement entre lespace et son dual est donc not (v, v

)).
51
Universit Pierre et Marie Curie Master de Mathmatiques
Un coecient matriciel est continu donc appartient L
2
(G). Remarquons que le carac-
tre

est somme de coecients matriciels : si v


1
, , v
n
est une base de V de base duale
v

1
, , v

n
, alors

n
i=1
c
v
i
,v

i
.
Supposons maintenant irrductible, et notons L
2

(G) le sous-espace de L
2
(G) engendr
par les coecients matriciels de . Il est de dimension nie, au plus dim()
2
, puisquengen-
dr par les c
v
i
,v

j
. Par ailleurs il est stable sous G puisque g.c
v,v
= c
gv,v
.
4.4.4 Thorme. (Peter-Weyl) Soit G un groupe compact. Pour tout , L
2

(G) est
G-isomorphe V
dim()

, et on a une somme directe hilbertienne


L
2
(G) =

G
L
2

(G)
Dmonstration. Fixons une reprsentation irrductible (V, ) et choisissons un produit sca-
laire G-invariant ., .)
V
. On rappelle quun tel produit scalaire existe et est unique homo-
thtie prs. Pour v, v

on notera c
v,v
le coecient matriciel g gv, v

)
V
. Lespace L
2

(G)
est donc engendr par ces fonctions.
Soit (W, ) une autre reprsentation irrductible de G, et ., .)
W
un produit scalaire
invariant. Fixons v

V et w W. Considrons lapplication C-linaire

,w
: V W
v
_
G
gv, v

)
V
g
1
wd(g)
Comme est une mesure de Haar, cette application est un G-morphisme.
Premier cas : W nest pas isomorphe V . Dans ce cas, le lemme de Schur nous dit que

,w
= 0, donc pour tous v, v

V et w, w

W, on a
c
v,v
, c
w

,w
) =
_
G
gv, v

)
V
gw

, w)
W
d(g) =
_
G
gv, v

)
V
w, gw

)
W
d(g)
=
_
G
gv, v

)
V
g
1
w, w

)
W
d(g) =
v

,w
(v), w

)
W
= 0
Il sensuit que L
2

(G) et L
2

(G) sont orthogonaux.


Deuxime cas : V est isomorphe W. On suppose alors V = W, et on sait que
v

,w
est
un scalaire
v

,w
. Par construction, celui-ci dpend linairement de w et semi-linairement
de v

. Le calcul ci-dessus montre


c
v,v
, c
w

,w
) =
v

,w
v, w

)
V
.
Par symtrie on en dduit quil existe C tel que
c
v,v
, c
w

,w
) = w, v

)
V
v, w

)
V
.
En prenant v = w

et v

= w, on constate que > 0 et en particulier est non nul. Il


sensuit que, si e
1
, , e
n
est une base orthonorme de V , alors les c
e
i
,e
j
pour i, j = 1, , n
52
Universit Pierre et Marie Curie Master de Mathmatiques
forment une base orthogonale de L
2

(G), lequel est donc de dimension dim()


2
. On en dduit
que le G-morphisme surjectif
V
dim()

L
2

(G)
(v
1
, , v
n
)

n
i=1
c
v
i
,e

i
est aussi injectif, ce qui prouve la premire assertion du thorme.
On a dj prouv que la somme H
0
:=

G
L
2

(G) est orthogonale. Il ne reste plus


qu montrer quelle est dense, autrement dit que lorthogonal H

0
est nul. Supposons
le contraire. Alors puisque H

0
est stable sous G, il contient daprs 4.3.3 une sous-
reprsentation irrductible de dimension nie 1. Soit

G la classe disomorphisme de
1. Pour f non nulle dans 1, la fonction
F(g) =
_
G
f(xg)f(x)d(x) = g.f, f)
est un coecient matriciel de 1, donc appartient L
2

(G). Montrons quelle lui est ortho-


gonale, donc nulle. En eet, pour v, v

,
F, c
v,v
) =
_
G
F(g)gv, v

)
V
d(g) =
_
G
_
G
f(gx)f(x).gv, v

)
V
d(x)d(g)
=
_
G
_
G
f(h)f(x) hx
1
v, v

)
V
d(x)d(h)
=
_
G
f(x)
__
G
f(h)hx
1
v, v

)
V
d(h)
_
d(x)
=
_
G
f(x)f, c
x
1
v,v
)d(x) = 0
la deuxime ligne on a fait le changement de variable gx = h grce linvariance de
, la troisime ligne on a chang les deux intgrales, et la dernire ligne on utilise
lhypothse f H

0
. On a donc prouv que la fonction F est nulle. En particulier 0 =
F(e) =
_
G
[f(x)[
2
d(x), donc f aussi est nulle, contredisant lhypothse H

0
,= 0.
Au cours de la preuve, nous avons exhib une base orthogonale (c

i,j
)

G,1i,jdim()
de
L
2
(G). Cette base dpend du choix, pour chaque dune base orthonorme de V

. Nous
navons pas calcul les normes [[c

i,j
[[ mais nous avons montr quil existe

> 0 tel que


[[c

i,j
[[
2
=

pour tous 1 i, j dim(). On peut calculer

grce la relation [[

[[ = 1
dj prouve plus haut. En eet, lgalit

dim()
i=1
c

i,i
donne

=
1
dim()
.
Corollaire. La famille
_
_
dim()c

i,j
_

G,1i,jdim()
de L
2
(G) en est une base Hil-
bertienne.
53
Universit Pierre et Marie Curie Master de Mathmatiques
4.4.5 Fin de la preuve du thorme 4.4.3. On sait dj que les

forment une famille


orthonorme. Il reste voir que toute fonction centrale f telle que (f,

) = 0 pour toute
reprsentation irrductible (V, ) est nulle. Pour une telle V , posons
V
=
_
G
f(g)(g)d(g).
Comme f est centrale et que est galement invariante droite, on voit que
V
est un
G-morphisme de V dans V , donc par Schur, une homothtie. Mais sa trace vaut f,
V
),
donc est nulle, donc
V
= 0. En particulier, les coecients f, c
v,v
) pour v, v

V sont
tous nuls. Ceci tant valable pour toute irrductible, f est nulle.
54