Académique Documents
Professionnel Documents
Culture Documents
(G
n
,
n
) := (x
n
)
nN
nN
G
n
, n N,
n
(x
n
) = x
n1
nN
G
n
. On lappelle limite projec-
tive du systme (G
n
,
n
)
nN
. On ne sintressera pas beaucoup ces exemples dans
ce cours, mais ce sont des constructions importantes en arithmtique. Voici deux
exemples :
Les nombres p-adiques Z
p
:= lim
n
(Z/p
n
Z,
n
) o p est un nombre premier et
n
: Z/p
n
Z Z/p
n1
Z est la projection canonique. Cest un groupe, et mme
un anneau topologique compact, trs utile en thorie des nombres.
Les groupes de Galois dextension algbriques de degr inni. Par exemple lho-
momorphisme naturel Gal(Q/Q) lim
n
Gal(K
n
/Q), o K
n
est une suite crois-
sante dextensions Galoisiennes de Q dunion Q, est un isomorphisme qui fait de
Gal(Q/Q) un groupe compact, objet de toutes les attentions de la recherche mo-
derne en thorie des nombres.
iv) Le groupe GL
n
(R) et ses sous-groupes ferms. Ce sont ces exemples qui nous intres-
seront dans ce cours.
1.1.3 Dfinition. Un (homo)morphisme f : G G
g
G
tel que f g = id
G
et g f = id
G
). Cela quivaut demander que f soit la fois un
isomorphisme de groupes abstraits et un homomorphisme.
1.1.4 Quelques proprits faciles.
i) Un homomorphisme f de groupes abstraits est continu ds quil lest en llment
neutre e de G.
ii) Un groupe topologique G est spar si (et seulement si) le point e est ferm. En
eet, soient x ,= y dans G. Le singleton x
1
y est ferm (par translation), donc
puisque x
1
y ,= e, il existe un voisinage 1 de e ne contenant pas x
1
y. Mais par
continuit de la loi de groupe, il existe un voisinage | de e tel que |.| soit inclus
dans 1. On a alors e / x||y
1
, donc x| y|
1
= . (Notation : si A et B sont
deux parties de G, A.B = AB dsigne lensemble des lments de la forme ab, o
a A, b B.)
iii) Si f est comme dans la dnition ci-dessus et si G est spar, alors Ker(f) est ferm
dans G. Par contre, Im(f) na pas de raison de ltre.
iv) Si H est ouvert dans G, il est automatiquement ferm. En eet, son complmentaire
est runion des classes gauche xH, x G, x / H. Par contre linverse nest pas
vrai !
v) Si H est ferm dans G, son normalisateur N(H) := x G, h H, xhx
1
H
est un sous-groupe ferm de G; idem pour son centralisateur Z(H) := x G, h
H, xhx
1
= h, donc pour le centre Z(G) de G.
vi) Si un sous-groupe de G, muni de la topologie induite, est discret, alors il est ferm.
En eet, soit 1 un voisinage ouvert symtrique de e tel que 1 = e, et soit
y (adhrence de ). Alors y1 est un voisinage ouvert de y donc y1 ,= .
Soit x dans cette intersection. On a donc y x1 . Comme x1 est ouvert, on a
x1 x1 = x. Donc y = x.
vii) La composante connexe G
0
de e (aussi appele composante neutre de G) est un sous-
groupe ferm normal (i.e. distingu : N(G
0
) = G). En eet, G
0
est ferm, comme
toute composante connexe. De plus, pour tout x dans G
0
, x
1
G
0
est connexe et
contient e, donc est contenu dans G
0
, qui est donc un sous-groupe ; de mme, x
1
G
0
x
est contenu dans G
0
. Notons que G
0
est ouvert si G est localement connexe.
viii) G
0
est contenu dans tout sous-groupe ouvert H de G. En eet, on crit G
0
= (G
0
H) .(G
0
(GH)) comme somme de deux ouverts (cf point iv)). Comme le premier
est non vide (il contient e), le second est ncessairement vide par connexit de G
0
,
et on a donc bien G
0
= G
0
H, i.e. G
0
H.
1.1.5 Lemme. Soient G un groupe topologique, et 1 un voisinage connexe de e. Alors,
G
0
est la runion des 1
n
:= x
1
x
2
...x
n
, x
i
1, o n parcourt N.
4
Universit Pierre et Marie Curie Master de Mathmatiques
Dmonstration. En eet, cette runion | densembles connexes dintersection non vide est
connexe, donc contenue dans G
0
. Posons alors J = 1 1
1
; cest un voisinage symtrique
de e, donc la runion des J
n
, n N, est un sous-groupe ouvert H de G, donc H
0
G
0
.
Noter alors que | H.
1.1.6 Dfinition. Soit H un sous-groupe du groupe topologique G. On dnit les-
pace topologique quotient G/H comme lensemble quotient (au sens des groupes abstraits),
muni de la topologie quotient, i.e. la topologie la plus ne rendant la projection canonique
: G G/H continue.
Concrtement, un sous-ensemble U G/H est donc ouvert si et seulement si
1
(U)
est ouvert dans G. On constate alors que :
i) est une application ouverte (cad qui envoie tout ouvert sur un ouvert). En eet, si
O G est ouvert, alors
1
((O)) =
hH
Oh est aussi ouvert.
ii) G/H est discret si et seulement si H est ouvert dans G. Exercice.
iii) G/H est spar si et seulement si H est ferm dans G. Seul le sens est non trivial.
Soient x, y G tels que xH ,= yH, cad x
1
y / H. Considrons lapplication continue
de G G dans G qui (g, g
) associe gx
1
yg
dans Im(f).
5
Universit Pierre et Marie Curie Master de Mathmatiques
1.1.8 Lemme. Soit G un groupe topologique connexe, de centre Z = Z(G).
i) Tout sous-groupe distingu et discret N de G est contenu dans Z.
ii) Si Z est discret, le centre de G/Z est rduit son lment neutre.
Dmonstration. i) Pour tout lment n de N, lapplication : g gng
1
n
1
de G dans
G est continue. Elle envoie G dans N (puisque N est distingu), donc (G) est discret
dans G. Mais (G) est connexe et contient e = (n
1
). Donc (G) est rduit e, et n
commute tous les lments de G.
ii) Soit x un relev dans G dun lment du centre de G/Z. Alors, lapplication : g
gxg
1
x
1
envoie G dans Z, donc son image est e, et par consquent x Z.
1.1.9 Dfinition. Soient G et G
de e
dans G
1
est aussi un homomorphisme local et on dit que G et G
)x = g(g
x) pour tous g, g
G et x X.
Dfinition. Soit G un groupe topologique et X un espace topologique. Une action
de G sur X est dite continue si lapplication (g, x) gx est continue.
En guise dexercice, on vriera que laction de G sur G/H est continue. Soit X comme
dans la dnition et soit x X. Notons G
x
son stabilisateur et G x son orbite. Laction
de G induit une bijection continue G/G
x
G x est un homomor-
phisme.
6
Universit Pierre et Marie Curie Master de Mathmatiques
Dmonstration. En eet elle est alors ouverte (limage dun ouvert est le complmentaire
de limage du ferm complmentaire, laquelle est compacte puisque la bijection est continue
et la source est compacte).
Voici un autre rsultat gnral dans ce sens, que nous citons pour la culture.
Thorme. Supposons que G est localement compact et dnombrable linni (union
dnombrable de compacts), et que lorbite est localement compacte. Alors la bijection ci-
dessus est un homomorphisme.
Remarquons que lhypothse dnombrable linni est vrie par tout groupe loca-
lement compact connexe, en vertu du lemme 1.1.5.
Dmonstration. (Hors programme) Il sut de prouver que lapplication g G g x
G x est ouverte. Comme dhabitude, laide des translations, on se ramne prouver
que si | est un voisinage de e dans G, alors | x est un voisinage de x dans G x. Soit
J un voisinage compact symtrique de e tel que J
2
|. Lhypothse dnombrable
linni implique lexistence dune suite (g
n
)
nN
dlments tels que G =
nN
g
n
J. On a
donc aussi G x =
nN
g
n
J x. Chacun des g
n
J x est compact dans G x. Le thorme
de Baire (faire un tour sur wikipedia...), applicable G x puisquon suppose cette orbite
localement compacte, nous dit quau moins lun des g
n
J x est dintrieur non vide. Par
translation, J x est donc dintrieur non vide. Soit w x un point dans lintrieur de J x.
Par translation, x est dans lintrieur de w
1
J x |.x.
Un espace de la forme G/H pour G localement compact et H ferm est gnralement
appel espace homogne.
1.2 Groupe linaire gnral
Soit V un espace de Banach (c.a.d. un espace vectoriel norm complet) sur le corps
K = R ou C. Lespace L(V/K) des endomorphismes K-linaires continus de V , muni de
la norme [[[[ := sup[[(v)[[, v V, [[v[[ = 1 est aussi un espace de Banach.
1.2.1 Thorme. Le groupe G = GL(V/K) L(V/K) des endomorphismes conti-
nus inversibles est un ouvert dans L(V/K), et lapplication inverse g g
1
est continue.
En particulier G est un groupe topologique spar. Si de plus V est de dimension nie,
alors G est localement compact, et dense dans L(V/K).
On prendra garde au fait que inversible sous-entend inversible parmi les endomor-
phismes continus, cest--dire que que linverse doit aussi tre continu. En dimension nie,
bijectif implique inversible, mais pas en dimension innie.
Dmonstration. Soit L(V ) tel que [[[[ < 1. Puisque L(V ) est complet, la srie
nN
n
converge, et est inversible dinverse id
V
. Ainsi GL(V ) contient un voisinage
1 de id
V
dans L(V ). Soit alors g G un lment. La multiplication par g dans L(V ) est
continue, et ouverte puisque celle par g
1
est aussi continue. Ainsi g.1 est un voisinage
7
Universit Pierre et Marie Curie Master de Mathmatiques
de g dans L(V ) contenu dans G, qui est donc bien ouvert. De mme, la srie ci-dessus
dpendant continment de , on voit que lapplication inverse g g
1
est continue au
voisinage de id
V
. Par translation, elle est continue en tout point.
Reste voir la densit dans le cas de dimension nie. Soit M M
n
(K), considrons la
R-droite ane D
M
:= (M(t) := M tI
n
)
tR
dans M
n
(K). Il ny a quun nombre ni de
valeurs de t pour lesquelles M(t) nest pas inversible, donc D
M
GL
n
(K) est dense dans
D
M
.
Exercice. Si V est de dimension nie, montrer directement la continuit de g g
1
laide des formules de Cramer. Montrer aussi dans ce cas quune partie ferme de G est
compacte si et seulement sil existe un rel c > 0 tel que g , [[[[ c et det() > 1/c.
Remarque. Un espace de Banach V sur C fournit naturellement un espace de Banach
V
, ce qui permet didentier GL(V/C)
au sous-groupe ferm g GL(
V /R), gJ = Jg de GL(
V /R), et en particulier, GL
n
(C)
un sous-groupe ferm de GL
2n
(R).
Exercice. Voici deux applications de la densit de GL
n
(K) dans M
n
(K), bien connues
des agrgatifs, que nous laissons en exercice :
i) Si A, B M
n
(K), alors AB et BA ont mme polynme caractristique.
ii) Le centre de GL
n
(K) est exactement le groupe .id
K
n, K
des homo-
thties non nulles de lespace vectoriel K
n
.
Exercice. Vrier que laction de GL
n
(K) sur K
n
est continue. Soit P
n
(K) le sous-
groupe de GL
n
(K) form des matrices dont la dernire colonne est (0, , 0, 1) (parfois
appel sous-groupe mirabolique).
i) Utiliser le thorme 1.1.10 pour prouver que GL
n
(K)/P
n
(K) est homomorphe
K
n
0.
ii) Vrier que P
n
(K) est homomorphe au produit GL
n1
(K) K
n1
.
iii) En dduire par rcurrence que GL
n
(C) est connexe.
iv) Toujours par rcurrence, prouver que GL
n
(R) a exactement deux composantes connexes
et que sa composante neutre est GL
+
n
(R) = g GL
n
(R), det(g) > 0.
Cette tude de la connexit des groupes linaires utilise le thorme 1.1.10. On peut se
contenter en fait de la proposition 1.1.10 laide des dcompositions polaires qui ramnent
ltude des groupes linaires celles de certains sous-groupes compacts.
1.2.2 Lexponentielle. Soit u L(V/K). Rappelons que u
k
dsigne la compose u u
u (k fois). Comme la norme [[.[[ sur L(V/K) est sous-mutiplicative (i.e. [[u
k
[[ [[u[[
k
),
la srie
exp(u) :=
kN
u
k
k!
est normalement convergente, donc convergente dans L(V/K) puisque celui-ci est complet.
Pour les mmes raisons, elle dpend continment de u. Par ailleurs, on vrie facilement
8
Universit Pierre et Marie Curie Master de Mathmatiques
que si u et v commutent, on a exp(u + v) = exp(u)exp(v), de sorte que, en particulier, on
a exp(u)exp(u) = id
V
. On a donc obtenu une application continue
exp : L(V/K) GL(V/K).
Un passage la limite montre que pour tout g GL(V/K), on a exp(gug
1
) = gexp(u)g
1
.
Exercice. Si V est de dimension nie, on a det(exp(u)) = exp(tr(u)).
Dans lautre sens, considrons la srie
log(u) :=
k1
(id
V
u)
k
k
.
Elle converge normalement vers une fonction continue
log : B(id
V
, 1) L(V/K)
sur la boule ouverte B(id
V
, 1) = u, [[ id
V
u[[ < 1, qui est contenue dans GL(V/K).
On vrie formellement que exp log(u) = u pour tout u B(id
V
, 1). Inversement, on a
log exp(u) = u pour tout u B(0, log(2)) (la convergence du log tant ici assure par
[[ id
V
exp(u)[[ < exp([[u[[) 1 < 1). En termes moins prcis, on constate que exp ralise
un homomorphisme local dun voisinage de 0 sur un voisinage de id
V
.
Exercice. Vrier que exp nest pas injective. (Indication : en dimension 2 sur R,
calculer exp
_
0 2
2 0
_
.)
Exercice. Trouver un voisinage 1 de id
V
dans GL(V/K) qui ne contient pas de sous-
groupe non-trivial.
En dimension nie, on peut utiliser des techniques direntielles, qui seront trs utiles
par la suite.
Lemme. Supposons V de dimension nie. Alors
i) exp est K-analytique (donc en particulier de classe C
).
ii) exp ralise un diomorphisme local dun voisinage de 0 L(V/K) sur un voisinage
de id
V
GL(V/K).
Dmonstration. i) est clair. On peut aussi prouver la direntiabilit par le thorme de
drivation dune srie dont la somme des drives converge uniformment sur tout compact.
ii) On a exp(u)exp(0) = u+o(u), donc la direntielle en 0 est lidentit qui est inversible,
et on peut appliquer le thorme dinversion locale. Alternativement, on peut utiliser le
log.
9
Universit Pierre et Marie Curie Master de Mathmatiques
1.2.3 Rappels sur les dcompositions de Jordan. On suppose ici que V est de dimension
nie. De plus, si le corps de base K = R, on note V
C
le complexi de V .
Dfinition. Soit a L(V/K) un K-endomorphisme de V . Si K = R, notons a
C
lextension C-linaire de a V
C
. On dit que a est :
i) semi-simple si lune des conditions quivalentes suivantes est satisfaite :
(a) V
C
est somme directe de sous-espaces propres pour a
C
, cest--dire a
C
est dia-
gonalisable ;
(b) le polynme minimal m
a
(T) de a est sparable ( i.e. na que des racines simples
dans C), autrement dit : la K-algbre K[a] engendre par a dans End(V/K) est
isomorphe un produit de corps.
ii) nilpotent si une puissance de a est nulle (de faon equivalente, si toutes les valeurs
propres de a
C
sont nulles),
iii) unipotent si a id
V
est nilpotent (de faon equivalente, si toutes les valeurs propres
de a
C
sont gales 1).
Il est conseill de relire, si besoin est, les cours dalgbre linaire de L2-L3 pour se
convaincre de lquivalence des conditions. On rappelle aussi les proprits trs utiles de
diagonalisation ou trigonalisation simulanes : soit c L(V/K) une famille dendomor-
phismes trigonalisables (resp. diagonalisables) qui commutent deux deux, alors il existe
une base de V dans laquelle tous les lments de c sont triangulaires (resp. diagonaux).
Exercice. Montrer que lensemble L(V/K)
ss
des K-endomorphismes semi-simples de
V est ouvert et dense dans L(V/K). Montrer que lensemble L(V/K)
nilp
des endomor-
phismes nilpotents de V est ferm dans L(V/K). Montrer enn que lensemble GL(V/K)
unip
des automorphismes unipotents de V est ferm dans L(V/K).
Proposition. Lexponentielle induit un homomorphisme
exp : L(V/K)
nilp
GL(V/K)
unip
dont linverse est donn par la srie log.
Dmonstration. Si a est nilpotent, on a a
n
= 0 pour n = dim(V ). Donc la restriction
de lexponentielle L(V/K)
nilp
est donne par le polynme a
n
k=0
a
k
k!
. En particulier
id
V
exp(a) est nilpotent donc exp(a) est unipotent. Rciproquement si u est unipotent,
log(u) est donne par le polynme
n
k=1
(id
V
u)
k
k
et est clairement nilpotent. Ainsi exp :
L(V/K)
nilp
GL(V/K)
unip
et log : GL(V/K)
unip
L(V/K)
nilp
sont bien dnis. Un
calcul formel montre quils sont inverses lun de lautre.
Proposition. i) ( Jordan additif) Soit a un K-endomorphisme de V . Il existe un
unique couple (a
s
, a
n
) de K-endomorphismes de V , avec a
s
semi-simple, a
n
nilpotent
et a
s
a
n
= a
n
a
s
= a. De plus, a
s
et a
n
sexpriment comme des polynmes en a
coecients dans K, sans termes constants.
10
Universit Pierre et Marie Curie Master de Mathmatiques
ii) ( Jordan multiplicatif) Soit g un K-automorphisme de V . Il existe un unique couple
(g
s
, g
u
) de K-automorphismes de V , avec g
s
semi-simple, g
u
unipotent et g
s
g
u
=
g
u
g
s
= g. De plus, g
s
et g
u
sexpriment comme des polynmes en a coecients
dans K.
Dmonstration. Pour lexistence de ces dcompositions, et leur expression sous forme po-
lynmiale, voir le cours dalgbre de L3. Lunicit se dduit de la remarque suivante. Soit
a et b deux endomorphismes de V tels que ab = ba. Alors, si a et b sont nilpotents, a + b
est nilpotent ; si a et b sont unipotents, ab est unipotent ; si a et b sont semi-simples, ab et
a + b sont semi-simples. (En eet, a et b, ou le cas chant a
C
et b
C
, sont simultanment
diagonalisables).
Corollaire. Si K = C, lexponentielle exp : L(V/C) GL(V/C) est surjective.
Dmonstration. Soit g GL(V/C). Ecrivons g sous forme de Jordan g = g
s
g
u
. Soient
1
, ,
n
les valeurs propres de g. Choisissons un polynme P C[X] tel que P(
i
) =
log
i
pour tout i. Alors x
s
:= P(g
s
) est un logarithme de g
s
. Comme dans la premire
proposition, x
u
:= log(id
V
g
u
) est un polynme en g
u
, est nilpotent, et est un logarithme
de g
u
. Comme x
u
et x
s
sont des polynmes en g, ils commutent, et par consquent, posant
x = x
u
x
s
, on a exp(x) = exp(x
s
)exp(x
u
) = g
s
g
u
= g.
Si K = R, on vrie facilement que limage de lexponentielle est contenue dans la
composante neutre GL
+
(V/R). Pour n > 1, elle y est strictement contenue.
Exercice. Trouver un logarithme rel pour la matrice
_
1 0
0 1
_
, mais montrer que
la matrice
_
1 1
0 1
_
nest pas lexponentielle dune matrice relle.
1.2.4 Dcomposition polaire de GL
n
(R). Il sagit dun outil trs utile pour ltude
topologique de GL
n
(R). Soit O(n) = O
n
(R) le groupe des matrices n n orthogonales, et
soit SDP
n
lensemble des matrices n n symtriques dnies positives. Nous aurons aussi
besoin de lespace vectoriel S
n
R
n(n+1)/2
de toutes les matrices symtriques de taille n.
Lemme. i) O(n) est un sous-groupe compact (donc ferm) de GL
n
(R).
ii) SDP
n
est un demi-cne convexe de M
n
(R), ferm dans GL
n
(R).
iii) Lapplication exp induit un homomorphisme S
n
SDP
n
.
iv) Lapplication S S
2
est un homomorphisme de SDP
n
dans lui-mme.
Dmonstration. i) Le groupe O(n) est limage rciproque de I
n
par lapplication conti-
nue M
t
MM, donc il est ferm. Il est aussi born pour la norme euclidienne M
_
tr(
t
MM) sur M
n
(R), donc compact.
ii) tre un demi-cne signie simplement tre stable par homothties positives, ce
qui est vident pour SDP
n
. tre convexe signie que pour A, B SDP
n
, on a M(t) :=
tA + (1 t)B SDP
n
pour tout t [0, 1]. Il est clair que M(t) est symtrique. De plus
11
Universit Pierre et Marie Curie Master de Mathmatiques
pour tout x R
n
, on a M(t)x, x) = tAx, x) + (1 t)Bx, x) > 0, donc M(t) est bien
dnie positive. Enn, si une suite de matrices de SDP
n
converge vers S dans M
n
(R), alors
S est symtrique et ses valeurs propres de S sont 0. Donc si S est dans GL
n
(K), elle est
aussi dans SDP
n
.
iii) Si T est symtrique, alors ses valeurs propres sont relles. La matrice exp(T) est
clairement symtrique et ses valeurs propres sont les exponentielles de celles de T, donc
sont strictement positives. On a donc bien exp(T) SDP
n
. Prouvons la surjectivit. Soit
S SDP
n
. Elle est diagonalisable dans une base orthonorme et valeurs propres stricte-
ment positives. Elle est donc de la forme S = O.D(
1
, ,
n
).O
1
o O est une matrice
orthogonale et D(
1
, ,
n
) est la matrice diagonale des valeurs propres
i
> 0 de S. La
matrice (S) := O.D(log
1
, , log
n
).O
1
est symtrique et vrie S = exp((S)), do
la surjectivit. Pour linjectivit, xons T S
n
, posons S := exp(T), et montrons que
T = (S). Pour cela on remarque que (S) est un polynme en S (prendre un polynme
qui envoie chaque
i
sur log
i
). Il sensuit que T commute (S), puisquelle commute
S. On peut alors diagonaliser T et (S) dans une mme base. Comme elles ont les mmes
valeurs propres, elles sont donc gales.
Reste voir la continuit de la bijection rciproque S (S). Soit (S
i
)
iN
une suite
qui converge vers S. crivons chaque S
i
sous la forme O
i
D
i
O
1
i
avec O
i
orthogonale et
D
i
diagonale. Comme O(n) est compact, on peut extraire de la suite (O
i
)
iN
une suite
(O
(i)
)
iN
convergente. La suite (D
(i)
)
iN
converge alors vers D = D(
1
, ,
n
), et par
consquent la suite ((S
(i)
))
iN
converge vers (S).
iv) Lhomomorphisme rciproque est S
S := exp(
1
2
(S)).
Thorme. (Dcomposition polaire) Lapplication produit
O(n) SDP
n
GL
n
(R)
(O, S) OS
est un homomorphisme.
Dmonstration. Lapplication est videmment continue. Observons que si M = OS, alors
t
MM = S
2
. Rciproquement, si M M
n
(R), alors
t
MM est dnie positive et M.
t
MM
1
est orthogonale. Il sensuit que lapplication continue
GL
n
(R) O(n) SDP
n
M (M.
t
MM
1
,
t
MM)
est une (la) bijection rciproque de lapplication de lnonc.
Exercice. Vrier que laction de O(n) sur la sphre euclidienne S
n1
= x
R
n
, [[x[[
2
= 1 est continue. Soit SO(n) le groupe spcial orthogonal (dterminant 1). Utili-
ser la proposition 1.1.10 pour trouver un homomorphisme SO(n)/SO(n1)
S
n1
, o
lon voit SO(n 1) plong dans un bloc diagonal de SO(n). En dduire par rcurrence la
12
Universit Pierre et Marie Curie Master de Mathmatiques
connexit
1
de SO(n), puis le fait que O(n) a deux composantes connexes, et enn retrouver
les composantes connexes de GL
n
(R) grce la dcomposition polaire.
1.2.5 Dcomposition polaire de GL
n
(C). Celle-ci est analogue la prcdente, mais il
faut trouver un substitut au groupe orthogonal O(n, C), qui nest plus compact. Soit U(n)
le groupe des matrices nn unitaires (i.e. qui vrient
t
A.A = I
n
) et soit HDP
n
lensemble
des matrices n n hermitiennes dnies positives. Les deux rsultats suivants se prouvent
comme dans le cas rel. Nous avons aussi besoin de lespace vectoriel H
n
R
n
2
de toutes
les matrices hermitiennes de taille n.
Lemme. i) U(n) est un sous-groupe compact (donc ferm) de GL
n
(C).
ii) HDP
n
est un demi-cne convexe de M
n
(C), ferm dans GL
n
(C).
iii) Lapplication exp induit un homomorphisme H
n
HDP
n
.
iv) Lapplication M M
2
est un homomorphisme de HDP
n
dans lui-mme.
Thorme. Lapplication produit
U(n) HDP
n
GL
n
(C)
(U, H) UH
est un homomorphisme.
Exercice. Reprendre lexercice prcdent avec laction naturelle de U(n) sur la sphre
S
2n1
C
n
. En particulier on a un homomorphisme SU(n)/SU(n 1)
S
2n1
. On en
dduit par rcurrence la connexit
2
de U(n) et celle de SU(n).
1.3 Groupes de Lie linaires. Exemples classiques.
1.3.1 Dfinition. On appelle groupe de Lie linaire tout sous-groupe ferm dun
groupe linaire GL
n
(R).
Comme GL
n
(C) est un sous-groupe ferm de GL
2n
(R), on peut remplacer GL
n
(R) par
GL
n
(C), ou mme par GL(V/K) pour V de dimension nie, dans la dnition ci-desus.
Par commodit, nous parlerons souvent simplement de groupe de Lie. Il faut pr-
ciser ici que la notion de groupe de Lie que lon trouve dans la littrature avance est
plus gnrale et plus intrinsque que celle-ci, mais ncessite le vocabulaire de la gomtrie
direntielle que nous ne supposons pas connu.
Nous avons dj rencontr O(n) et U(n). Voici un tour dhorizon des groupes de Lie
dits classiques.
1
Par la mme mthode on peut montrer aussi que le groupe fondamental
1
(SO(n)) est un groupe
dordre 2, pour n 3. Le revtement universel Spin(n) de SO(n) est appel groupe spinoriel.
2
Par la mme mthode on prouve la simple connexit de SU(n) et on montre que le groupe fondamental
de U(n) est isomorphe
1
(U(1)) = Z.
13
Universit Pierre et Marie Curie Master de Mathmatiques
1.3.2 Groupes linaires spciaux et projectifs. Pour tout K-ev V de dimension nie,
le dterminant est un homomorphisme de groupes topologiques de GL(V/K) dans K
:=
GL
1
(K). Son noyau SL(V/K) sappelle le groupe spcial linaire de V . Il est ferm, non
compact, dans GL(V/K) (sauf SL
1
(K) = 1 qui est compact). Pour V = K
n
on note
SL
n
(K).
Pour n 2, le groupe SL
n
(R) est connexe
3
, de mme que le groupe SL
n
(C)
4
.
Exercice. Le centre de SL
n
(K) est form des homothties de dterminant 1, donc il
est isomorphe au groupe
n
(K) des racines n-imes de lunit dans K
(dordre n si K = C,
dordre 1 ou 2 si K = R).
Les groupes PGL
n
(K) := GL
n
(K)/(K
I
n
), PSL
n
(K) := SL
n
(K)/(
n
(K)I
n
) interviennent
naturellement en gomtrie projective. Il nest pas compltement vident de voir que ce
sont bien des groupes de Lie linaires. Voici une possibilit.
Exercice. Montrer que laction par conjugaison de GL
n
(K) sur V = M
n
(K) est
continue et induit un homomorphisme continu GL
n
(K) GL(V/K), dont le noyau est
le centre K
de GL
n
(K). Enn, montrer que ce morphisme identie PGL
n
(K) un sous-
groupe ferm de GL(V/K).
1.3.3 Groupes orthogonaux. Comme dhabitude K dsigne R ou C. Soit V un K-espace
vectoriel de dimension nie, et soit : V V R une forme bilinaire symtrique non
dgnre. On pose
O() := g GL(V/K), (gv, gw) = (v, w), v, w V .
Cest un sous-groupe ferm de GL(V/K) appel groupe orthogonal de . On vrie facile-
ment que deux formes quadratiques quivalentes ont des groupes orthogonaux isomorphes
(et mmes conjugus). Lorsque K = C, on sait que toutes les formes quadratiques sont
quivalentes, de sorte que O() est isomorphe au groupe orthogonal complexe usuel
O(n, C) = M M
n
(C),
t
MM = I
n
.
Exercice. Utiliser la dcomposition polaire pour exhiber un homomorphisme entre
O(n, C) et O(n) R
n(n1)/2
.
Lorsque K = R, le thorme de Sylvester arme lexistence dun entier p n et dune
base e
1
, , e
n
dans laquelle
_
n
i=1
x
i
e
i
,
n
i=1
y
i
e
i
_
=
p
i=1
x
i
y
i
i=p+1
x
i
y
i
.
3
connexe, mais pas simplement connexe ; ainsi, SL
2
(R) a un
1
isomorphe Z, et il nexiste aucun
homomorphisme continu injectif de son revtement universel dans un groupe linaire GL
n
(R). Ce revtemet
universel est un exemple de groupe de Lie non linaire.
4
qui, lui, est simplement connexe.
14
Universit Pierre et Marie Curie Master de Mathmatiques
Le couple dentiers (p, q := n p) sappelle la signature de . Ainsi O() est isomorphe
au groupe matriciel
O(p, q) :=
_
M M
p+q
(R),
t
M.D
p,q
.M = D
p,q
_
o D
p,q
= D(1, , 1, 1, , 1) est la matrice diagonale o 1 est rpt p fois et 1 lest
q fois. Pour p = n et p = 0, on retrouve le groupe orthogonal euclidien O(n, 0) = O(n) qui,
comme on la vu, est compact et agit continment sur la sphre euclidienne S
n1
. Les autres
groupes orthogonaux ne sont pas compacts ; ils agissent sur des espaces hyperboliques. Par
exemple O(1, n 1) est le groupe disomtrie de lhyperbolode H
n
= x R
n
,
n1
i=1
x
2
i
x
2
n
= 1. On a O(p, q) = O(q, p) et on montre que les O(p, q) pour q p sont deux deux
non isomorphes.
Exemple. Pour la forme xx
+ yy
+ zz
tt
sur lespace-temps R
4
, on obtient ainsi
le groupe de Lorentz O(3, 1) qui intervient dans la thorie de la relativit gnrale.
5
Exercice. Vrier que O(p, q) O(p +q) = O(p) O(q). Puis montrer que la dcom-
position polaire de GL
p+q
(R) se restreint en un homomorphisme
O(p, q) O(p) O(q) (O(p, q) SDP
p+q
).
laide de lexponentielle, vrier que O(p, q) SDP
p+q
est homomorphe un espace
ane R
d
. Ceci ramne ltude topologique des O(p, q) celles des O(n). En particulier, on
constate que O(p, q) a 4 composantes connexes ds que pq ,= 0.
Par ailleurs, on dnit les groupes spciaux orthogonaux par
SO(p, q) := O(p, q) SL
p+q
(R).
On peut montrer que SO(p, q) a deux composantes connexes et est dindice 2 dans O(p, q).
Lorsque la signature est (n, 0), la forme quadratique (v, v) est dnie positive et
O() est le groupe disomtries de lespace euclidien (V, ). Plus gnralement, soit V
un espace de Hilbert sur R, cest--dire un Banach dont la norme provient dun produit
scalaire. Le groupe orthogonal O(V ) est le groupe des isomtries de V , cest--dire des
automorphismes K-linaires g de V tels que [[g(v)[[ = [[v[[ pour tout v V , ou encore
tels que g.g
= g
.g = id
V
, o g
_
n
i=1
x
i
e
i
,
n
i=1
y
i
e
i
_
=
p
i=1
x
i
y
i
i=p+1
x
i
y
i
.
Ainsi, posant q = n p, le groupe topologique U() est isomorphe au groupe matriciel
U(p, q) :=
_
M M
p+q
(C),
t
M.D
p,q
.M = D
p,q
_
Pour pq = 0, on retrouve le groupe unitaire habituel U(n, 0) = U(n) qui, comme on la vu,
est compact. Les autres groupes unitaires ne sont pas compacts. On a U(p, q) = U(q, p) et
on montre que les U(p, q) pour q p sont deux deux non isomorphes.
Exercice. Comme dans le paragraphe prcdent, la dcomposition polaire de GL
p+q
(C)
induit un homomorphisme
U(p, q) U(p) U(q) (U(p, q) HDP
p+q
),
que lon peut utiliser pour ramener ltude topologique des U(p, q) celle des U(n).
Remarque. Les groupes U(1, n 1) jouent un rle prpondrant dans des problmes
actuels de thorie des nombres.
De mme que prcdemment, on a le groupe spcial unitaire
SU(p, q) := U(p, q) SL
p+q
(C).
Exercice. Dterminer les centres de U(n), SU(n), O(n), SO(n).
En dimension innie, on dnit le groupe unitaire dun espace de Hilbert V comme le
groupe disomtrie du produit scalaire, qui est un sous-groupe ferm de GL(V/C), comme
dans le cas rel.
1.3.5 Groupe symplectique. nouveau, K dsigne R ou C. On considre cette fois
un K-ev de dimension nie V muni dune forme bilinaire : V V K, alterne et
non dgnre (aussi appele forme symplectique). Lexistence dune telle forme sur V
implique que la dimension de V est paire, disons dim(V ) = 2n. On dnit alors
Sp() := g GL(V/K), (gv, gw) = (v, w), v, w V .
Comme plus haut, ce groupe ne dpend, isomorphisme prs, que de la classe dquivalence
de . Or, on sait que toutes les formes symplectiques sont quivalentes. En particulier, il
existe une base e
1
, , e
2n
de V dans laquelle on a
_
n
i=1
x
i
e
i
,
n
i=1
y
i
e
i
_
=
n
i=1
(x
i
y
n+i
x
n+i
y
i
).
16
Universit Pierre et Marie Curie Master de Mathmatiques
En dautres termes, la matrice de dans cette base est la matrice antisymtrique J =
J
2n
=
_
0
n
I
n
I
n
0
n
_
. On voit alors que Sp() est isomorphe au groupe symplectique
Sp
2n
(K) = M GL
2n
(K),
t
MJM = J.
Ainsi, Sp
2
(K) = SL
2
(K). Plus gnralement, on dmontre que le dterminant dune matrice
symplectique vaut toujours 1, de sorte que pour tout n, Sp
2n
(K) est un sous-groupe ferm,
non compact, de SL
2n
(K).
Exercice. Montrer que la partie relle (resp. imaginaire) dune forme hermitienne sur
un espace vectoriel V/C est une forme R-bilinaire symtrique (resp. alterne) sur le R-
espace vectoriel sous-jacent
V . En dduire que dans GL
n
(C) P GL
2n
(R), P
1
J
2
P =
J
2
GL
2n
(R), on a U(n) = O(2n) Sp
2n
(R).
1.3.6 Quaternions. Soient H le corps des quaternions de Hamilton, lanti-involution
de Hdnie par (x+yi+zj+tk) = xyizjtk, de sorte que [[u[[ :=
_
(u).u dnit une
structure euclidienne sur H R
4
, et U le sous-groupe du groupe multiplicatif H
form par
les quaternions de norme 1. On peut voir H = C Cj C
2
comme un C-espace vectoriel
de dimension 2 , et [[.[[ comme un produit hermitien. Alors, lapplication : U GL
2
(C)
qui attache u U lautomorphisme C-linaire de H : h (u)(h) := hu
1
est un
homomorphisme de groupes injectif. Comme [[hu[[ = [[h[[.[[u[[ = [[h[[ pour tout h H,
son image est contenue dans le groupe unitaire U(2). En fait, pour u
1
= +j CCj
de norme + = 1, la matrice reprsentative de (u) dans la base 1, j de H est donne
par
_
_
=
_
_
1
, de sorte que tablit un isomorphisme U
SU(2).
Lespace Ri Rj Rk des quaternions purs, muni de [[.[[, sidentie lespace euclidien
usuel R
3
. Pour tout u U, lapplication Int(u) : h uhu
1
de H induit une isomtrie
de R
3
, do un homomorphisme de groupe : U SO
3
(R), appliquant u sur (u) =
(Int(u))[
R
3, de noyau U Z(H
(0).
Dmonstration. Montrons dabord que est drivable. Par continuit de , on peut trouver
une fonction : R R
+
de classe (
(t) = (t)
(0) pour
tout t R. On en dduit que
d
dt
(exp(t
(0).
2.1.2 Crochet de Lie. Soit V de dimension nie sur K. Pour u, v L(V/K) on pose
[u, v] := uv vu, et on lappelle crochet de Lie de u et v. En notation matricielle, cela
donne [X, Y ] = XY Y X pour X, Y M
n
(K).
Lemme. Soient X et Y deux lments de M
n
(K). Alors,
i) lim
k+
(exp(
X
k
)exp(
Y
k
))
k
= exp(X +Y ) ;
ii) lim
k+
(exp(
X
k
)exp(
Y
k
)(exp(
X
k
)exp(
Y
k
))
k
2
= exp([X, Y ]).
Dmonstration. i) Un dveloppement limit fournit lestime
exp
_
X
k
_
exp
_
Y
k
_
= I +
(X +Y )
k
+O
_
1
k
2
_
.
20
Universit Pierre et Marie Curie Master de Mathmatiques
En particulier, pour k susamment grand, on peut prendre le logarithme et obtenir
k log
_
exp
_
X
k
_
exp
_
Y
k
__
= X +Y + O(
1
k
).
ii) On procde de la mme manire en passant par lestime
exp
_
X
k
_
exp
_
Y
k
_
exp
_
X
k
_
exp
_
Y
k
_
= I +
[X, Y ]
k
2
+O
_
1
k
3
_
.
Corollaire. Soit G un sous-groupe ferm de GL
n
(K). Lensemble
g := X M
n
(K), t R, exp(tX) G
est un sous-R-espace vectoriel de M
n
(K), stable par le crochet de Lie.
Dmonstration. Par dnition, g est stable par multipication par R. Puisque G est ferm,
la formule i) du lemme montre que g est stable par addition, donc cest un R-sev. La
formule ii) montre alors la stabilit par crochet.
Lorsque K = C, on prendra garde au fait que g nest pas ncessairement un K-sev de
M
n
(K).
2.2 Lalgbre de Lie dun groupe de Lie
Soit G GL
n
(K) un sous-groupe ferm. Lensemble g dni au corollaire prcdent
est appel algbre de Lie de G, et est parfois aussi not Lie(G). Avant dtudier la notion
abstraite dalgbre de Lie, explicitons les liens tnus entre G et son algbre de Lie.
2.2.1 Lie(G) est canonique. Tel que nous lavons dni, g semble dpendre non seule-
ment de G mais aussi du GL
n
(K) dans lequel on voit G. Or, en vertu du thorme 2.1.1,
lensemble g sinterprte comme lensemble des sous-groupes un paramtre de G, ce qui
en donne une dnition intrinsque. De plus, la structure de R-espace vectoriel sur g et le
crochet sont donns par les formules
(r.)(t) = (rt) pour r R,
( +)(t) = lim
k
((t/k)(t/k))
k
,
[, ](t) = lim
k
((1/k)(t/k)(1/k)(t/k))
k
2
.
Ces formules montrent que lespace vectoriel g muni de son crochet est canoniquement
attach G. En particulier, il ne dpend pas du plongement de G dans un GL
n
(K). Notons
cependant que ces formules nont pas ncessairement de sens pour un groupe topologique
quelconque.
21
Universit Pierre et Marie Curie Master de Mathmatiques
2.2.2 Changement de groupe. Lavantage de voir Lie(G) comme ensemble des sous-
groupes un paramtre est quon en dduit immdiatement que tout morphisme de groupes
topologiques G
H entre deux groupes de Lie linaires induit une application
d : Lie(G) Lie(H)
d() :=
Vu les dnitions de la structure de R-espace vectoriel sur Lie(G) et Lie(H), lapplication
d est R-linaire et compatible aux crochets.
Exercice. Si le noyau de est discret, montrer que d est injective. Nous allons voir
ci-dessous que la rciproque est vraie.
Remarque. Si lon xe des plongements G GL
n
(R) et H GL
m
(R) et que lon
identie Lie(G), resp. Lie(H), des espaces de matrices g M
n
(R) et h M
m
(R),
lapplication d est donne par
X g, d(X) =
d
dt|t=0
(t (exp(tX))).
2.2.3 Lexponentielle de G. Par dnition, lapplication exp dnie au paragraphe 1.2.2
pour le groupe GL
n
(K) envoie g dans G. On note parfois exp
G
: g G sa restriction.
Encore une fois, elle est intrinsque puisque, en termes de sous-groupes un paramtre,
elle est simplement donne par (1). Cette formulation nous montre dailleurs im-
mdiatement que si : G H est un morphisme de groupes topologiques entre deux
groupes de Lie linaires, alors on a :
exp
G
= exp
H
d.
Thorme. Lapplication exponentielle exp
G
tablit un homomorphisme local dun
voisinage de 0 dans g sur un voisinage de 1 dans G.
Dmonstration. Lapplication exp
G
est videmment continue. Puisque cest la restriction
de exp qui est localement injective, elle est elle-mme localement injective. Ce qui nest
pas vident par contre, cest pourquoi elle est localement surjective (ou plus prcisment,
pourquoi il existe un voisinage 1 de 0 dans g tel que la restriction de exp
G
1 soit ouverte).
Dans le cas de GL
n
(K) nous avions pu utiliser le logarithme. Mais ici, on ne sait pas a
priori si log(B(id
V
, 1) G) g.
Soit E un R-sous-espace vectoriel supplmentaire de g dans M
n
(R), et considrons
lapplication
F : g E M
n
(R), (X, Y ) exp(X)exp(Y ).
Sa direntielle en (0, 0) est inversible, donc il existe des voisinages |, 1 (resp. J) de 0
(resp. 1) dans g, E (resp. G) tels que F induise un diomorphisme de | 1 sur J.
Admettons un instant que
(*) : il existe un voisinage 1
) G = I
n
.
22
Universit Pierre et Marie Curie Master de Mathmatiques
Posons alors J
= F(| 1
). Pour tout g J
G, il existe X |, Y 1
tels que
g = F(X, Y ). Mais alors, exp(Y ) = exp(X)g exp(1
) G = I
n
, do g = exp(X). Il
sensuit que exp induit un homomorphisme | sur J
G, comme voulu.
Reste prouver (*). Supposons le contraire. On peut alors trouver une suite (Y
n
)
nN
dlments non nuls de E tendant vers 0, telle que exp(Y
n
) G pour tout n. Quitte
extraire une sous-suite, on peut aussi supposer que la suite (Y
n
/[[Y
n
[[)
nN
a une limite Y
dans E (compacit de la sphre). Notons que Y ,= 0. Nous allons montrer que Y g, ce
qui contredira le fait que g E = 0. Pour cela nous devons prouver que exp(tY ) G
pour tout t R. Notons [x] la partie entire dun rel x, et crivons
exp(t/[[Y
n
[[ Y
n
) = exp(Y
n
)
[t/||Y
n
||]
exp((t/[[Y
n
[[ [t/[[Y
n
[[])Y
n
).
Comme le terme exp((t/[[Y
n
[[ [t/[[Y
n
[[])Y
n
) tend vers 1 lorsque n tend vers +, on voit
que
exp(tY ) = lim
n+
exp(Y
n
)
[t/||Y
n
||]
G.
On dduit de ce thorme que G est localement homomorphe R
d
, o d = dim
R
(g)
sappelle la dimension du groupe de Lie G. Nous dterminerons plus loin les dimensions
des groupes de Lie classiques.
Combin avec le lemme 1.1.5, le thorme ci-dessus entrane le corollaire important
suivant.
Corollaire. La composante neutre G
0
de G est engendre (comme sous-groupe
ferm) par limage de exp
G
. En particulier, si deux sous-groupes ferms G
1
et G
2
de GL
n
(R)
ont la mme algbre de Lie, leurs composantes neutres concident.
Notons que par dnition, on a Lie(G) = Lie(G
0
) pour tout sous-groupe ferm G de
GL
n
(K).
Exercice. Soit : G H un morphisme continu de groupes de Lie linaires.
i) Si d est injective, montrer que Ker est discret.
ii) Si d est surjective, montrer que Coker est discret. En particulier, si H est connexe
et d est surjective, alors est surjective.
Exemple. Nous pouvons maintenant (presque) terminer de prouver que lhomomor-
phisme SU(2)/1
SO(3) construit laide des quaternions est un homomorphisme.
On a dj vu quil est injectif et continu. Lapplication d est injective daprs un exercice
plus haut. En admettant que Lie(SU(2)) et Lie(SO(3)) ont mme dimension (ce que nous
vrierons plus loin), il sensuit que d est surjective. Mais puisque SO(3) est connexe,
est surjective et donc bijective. Enn, puisque SU(2) est compact, est aussi ouverte et
cest donc un homomorphisme.
Corollaire. Soient G un sous-groupe ferm connexe de GL
n
(R), dalgbre de Lie
g, et H un sous-groupe ferm connexe de G, dalgbre de Lie h. Alors,
23
Universit Pierre et Marie Curie Master de Mathmatiques
i) H Z(G) si et seulement si [h, g] = 0.
ii) H est distingu dans G si et seulement si on a [h, g] h (on dit alors que h est un
idal de g).
Dmonstration. i) Supposons H central. Le ii) du lemme 2.1.2 montre que pour tous t R,
X h et Y g, on a exp(t[X, Y ]) = 1. Prenant t assez petit, il vient [X, Y ] = 0.
Rciproquement, supposons [h, g] = 0. Alors pour X h, Y g, on a exp(X)exp(Y ) =
exp(Y )exp(X). On en dduit lexistence dun voisinage V de 1 dans G, resp. U de 1 dans
H tel que tout lment de V centralise tout lment de U. Mais alors le groupe engendr
par V centralise le groupe engendr par U, donc G centralise H.
ii) Supposons H distingu dans G. Alors le ii) du lemme 2.1.2 et le fait que H est
ferm montrent que [h, g] h. Rciproquement, supposons [h, g] h. Comme on suppose
H connexe, il sut de montrer que pour tout g G, on a Lie(gHg
1
) = Lie(H), i.e.
ghg
1
= h. Comme on suppose aussi G connexe, il sut de prouver ceci pour g dans un
voisinage de lidentit de 1 dans G. On peut donc supposer g = exp(X) pour X g. Mais
alors, on montre que pour tout Y h, on a
(*) exp(X)Y exp(X) = exp(ad(X))(Y )
o ad(X) L(M
n
(R)/R) est lendomorphisme de M
n
(R) dni par ad(X)(Y ) :=
[X, Y ]. En eet, notons Ad(g) GL(M
n
(R)/R) lautomorphisme intrieur x gxg
1
.
Alors on vrie que les deux sous-groupes un paramtre t Ad(exp(tX)) et t
exp(tad(X)) de GL(M
n
(R)/R) concident, car ils ont la mme direntielle en t = 0. Or
puisque ad(X)(h) h, on a aussi exp(ad(X))(h) h et par consquent exp(X)Y exp(X)
h comme voulu.
Lgalit (*) utilise dans la preuve se gnralise comme suit.
Exercice. Soit G un sous-groupe ferm de GL
n
(R) et g M
n
(R) son algbre de Lie.
i) Montrer que la conjugaison par un lment de G dans M
n
(R) stabilise g et dnit
un homomorphisme continu de groupes topologiques
Ad : G GL(g/R)
g Ad(g) : X gXg
1
ii) Montrer que dAd est lapplication
ad : g L(g/R)
Y ad(Y ) : X [Y, X]
.
On se servira de la formule de la remarque 2.2.2
dAd(Y ) =
d
dt|t=0
(t exp(tY )Xexp(tY )) .
iii) En dduire que Ad exp
G
= exp
GL(g/R)
ad.
24
Universit Pierre et Marie Curie Master de Mathmatiques
Remarque. Un sous-espace h de g stable par crochet (ou mme un idal) nest pas
ncessairement lalgbre de Lie dun sous-groupe ferm de G (considrer comme dhabitude
une droite h de pente irrationnelle dans lalgbre de Lie ablienne R
2
Lie((S
1
)
2
).)
2.3 Exemples classiques
De manire gnrale, on note avec des lettres gothiques les algbres de Lie des groupes
classiques. Par exemple Lie(GL
n
(R)) se note gl
n
(R). Par dnition, en tant que R-espace
vectoriel, on a gl
n
(R) = M
n
(R), et le crochet est donn par [X, Y ] = XY Y X. De mme,
gl
n
(C) est le R-espace vectoriel M
n
(C) muni de son crochet. De manire plus intrinsque,
si V est un K-ev de dimension nie, on note
gl(V/K) := Lie(GL(V/K)) = L(V/K), muni du crochet [u, v] := uv vu.
Tous les groupes classiques sont dnis dans un GL
n
ou un GL(V/K) convenable, et
le crochet de leur algbre de Lie est induit par celui de gl
n
ou de GL(V/K). Il nous sut
donc de dcrire les conditions qui dnissent les R-ev sous-jacents.
Par exemple, le premier exercice du paragraphe 1.2.2 nous dit que
sl(V/K) := Lie(SL(V/K) = u L(V/K), tr(u) = 0.
Remarquons que cest toujours un K-sev. En termes matriciels, cela donne
i) sl
n
(R) = X gl
n
(R), tr(X) = 0 (matrices de trace nulle). Sa dimension est n
2
1.
ii) sl
n
(C) = X gl
n
(C), tr(X) = 0. Sa dimension relle est 2n
2
1.
Par ailleurs, supposons G = g GL(V/K), (gv, gw), v, w V dni par une
forme bilinaire non dgnre (quelle soit symtrique, alterne ou hermitienne). En
dautres termes, si g
= id
V
. Comme
exp(u)
= exp(u
= 0.
Notons dailleurs que cest toujours un K-espace vectoriel, sauf dans le cas unitaire, ou
K = C mais g nest quun R-espace vectoriel. En termes matriciels, cela donne :
iii) so
n
(R) = Lie(O(n)) = Lie(SO(n)) = X gl
n
(R), X +
t
X = 0 est lensemble des
matrices antisymtriques. Sa dimension est n(n 1)/2.
iv) so
n
(C) = Lie(O(n, C)) = X gl
n
(C), X+
t
X = 0. Sa dimension relle est n(n1).
v) u
n
= Lie(U(n)) = X gl
n
(C), X +
t
X = 0. Par exemple, u
1
= iR gl
1
(C) = C.
Sa dimension est n
2
.
vi) su
n
= Lie(SU(n)) = u
n
sl
n
(C). Sa dimension est n
2
1.
vii) sp
2n
(K) = Lie(Sp
2n
(K)) = X gl
2n
(K),
t
XJ
2n
+ J
2n
X = 0. Sa dimension est
n(n + 1)/2.
25
Universit Pierre et Marie Curie Master de Mathmatiques
Enn, si 1 est un drapeau complet dans V/K, on vrie que
b(1/K) := Lie(B(1/K)) = u L(V/K), u(1
i
) 1
i
, i = 0, , n
tandis que
b
nilp
(1/K) := Lie(B
unip
(1/K)) = u L(V/K), u(1
i
) 1
i1
, i = 1, , n.
En termes matriciels, cela donne :
viii) b
n
(K) = Lie(B
n
(K)) = X = (x
i,j
) gl
n
(K), i > j, x
i,j
= 0 (matrices triangu-
laires suprieures).
ix) Lie(B
unip
n
(K) := b
nilp
n
(K) = X = (x
i,j
) gl
n
(K), i j, x
i,j
= 0 (matrices triangu-
laires suprieures nilpotentes).
Enn, on vrie que :
x) Lie((S
1
)
n
) =(iR)
n
R
n
est une R-algbre de Lie ablienne. Le i rappelle quon
la voit comme une sous-algbre de Lie relle de lalgbre de Lie ablienne complexe
Lie((C
)
n
) = C
n
forme par les matrices diagonales de gl
n
(C).
Exercice. Montrer que lexponentielle exp induit un homomorphisme de b
nilp
n
(K) sur
B
unip
n
(K).
26
Universit Pierre et Marie Curie Master de Mathmatiques
3 Structure des algbres de Lie
Le fait quun sous-groupe ferm connexe de GL(V/K) soit dtermin par son algbre
de Lie, qui est un objet dalgbre linaire a priori plus simple que le groupe lui-mme,
est une motivation pour tudier ces nouveaux objets, aprs en avoir donn un fondement
axiomatique. Cest ce que nous commenons faire ici.
3.1 Algbres de Lie abstraites. Exemples.
Soit K un corps commutatif quelconque.
3.1.1 Dfinition. Une algbre de Lie g sur K est un K-espace vectoriel muni dune
loi de composition interne [, ] : g g g : (X, Y ) [X, Y ] qui est K-bilinaire, alterne
([X, X] = 0, donc [X, Y ] = [Y, X]), et qui vrie lidentit de Jacobi
X, Y, Z g , [X, [Y, Z]] + [Y, [Z, X]] + [Z, [X, Y ]] = 0.
Si K = R, on dira simplement algbre de Lie. La loi [, ] sappelle le crochet de Lie.
Pour tout lment X de g, on note ad(X) L(g/K) lendomorphisme du K-espace
vectoriel g : Y ad(X)(Y ) := [X, Y ]. On a donc
ad(X)([Y, Z]) = [ad(X)(Y ), Z] + [Y, ad(X)(Z)]. (3.1.1.1)
Un morphisme entre deux algbres de Lie est un homomorphisme f des K-espaces
vectoriels sous-jacents respectant leurs lois dalgbres de Lie : f([X, Y ]) = [f(X), f(Y )].
3.1.2 Dfinition. Un sous-K-espace vectoriel h de g est appel :
Une sous-algbre de Lie de g sil est stable sous le crochet de Lie, i.e. [h, h] h, ou
encore X, Y h, [X, Y ] h.
Un idal de g sil vrie [h, g] h, cest--dire X h, Y g, [X, Y ] h.
Exercice. Si h est un idal, lespace vectoriel quotient g/h est naturellement muni
dune structure dalgbre de Lie. Si h
/h de h
est
un idal de g/h et on a lisomorphisme canonique habituel g/h
(g/h)/(h
/h). Par
ailleurs, lorsque h
:= X +Y, X h, Y h
/(h h
)
(h
+ h)/h.
Exercice. Pour tout morphisme dalgbre de Lie f : g g
, le noyau h = Ker(f) de
f est un idal de g, limage h
, et f induit
un isomorphisme dalgbres de Lie de g/h sur h
.
27
Universit Pierre et Marie Curie Master de Mathmatiques
3.1.3 On appelle centre de lalgbre de Lie g lidal
Z(g) = X g, Y g, [X, Y ] = 0 = Ker(ad : g L(g/K))
de g. On dit que g est une algbre de Lie ablienne si Z(g) = g, cest--dire, si le crochet
de g est nul.
Si h et h
] := Vect
K
([X, Y ], X h, Y h
)
est un idal de g contenu dans h h
, et appel produit de h et de h
.
Exercice. Montrer que [h, h
] = [h
, h] et [h, [h, h
]] = [h
, [h, h]].
Exercice. Montrer que lalgbre drive Dg := [g, g] est le plus petit idal de g (pour
linclusion) tel que g/Dg soit une algbre de Lie ablienne. On notera lanalogie avec la
notion de groupe driv.
Remarque. Lanalogie avec le vocabulaire plus familier des K-algbres associatives
commutatives (idaux, quotients, centre...) nest videmment pas fortuite. Les axiomes
dnissant ces deux structures sont essentiellement les mmes, sauf que laxiome de com-
mutativit xy = yx est remplac par un axiome danticommutativit [X, Y ] = [Y, X],
et celui dassociativit x(yz) = (xy)z est remplac par lidentit de Jacobi. Il existe une
thorie abstraite, appele thorie des oprades, qui permet de construire beaucoup dautres
notions dalgbre. Mais bien-sr, ces notions ne sont pas souvent aussi importantes que
les algbres associatives, ou de Lie.
Donnons maintenant deux manires de dnir des algbres de Lie.
3.1.4 Algbre de Lie associe une algbre associative. Soit A une algbre associative.
Munissons A du crochet [a, b] := ab ba.
Exercice. Vrier que (A, [, ]) est une algbre de Lie.
Le cas particulier qui nous intresse le plus est bien-sr A = L(V/K). Lexercice montre
que ce que nous avons appel jusquici algbre de Lie dun groupe de Lie linaire G est
bien une algbre de Lie au sens de la dnition prcdente. Par contre, pour G dirent de
GL(V/K), lalgbre de Lie g = Lie(G) ne provient pas dune algbre associative.
3.1.5 Drivations dune algbre. Soit A une K-algbre associative. Une drivation
de A est un endomorphisme du K-espace vectoriel sous-jacent A vriant la formule
de Leibniz : (ab) = (a)b + a(b). Lensemble Der(A) des drivations de A est un sous-
espace vectoriel de L(A/K). Le compos
de deux drivations ,
] :=
:= V/1
1
la projection de V sur son quotient par
la droite K.v = 1
1
. Soit g
/K).
Par hypothse de rcurrence, il existe un drapeau 1
dans V
tel que g
.1
i
1
i1
pour tout i > 0.
Posons alors 1
i
:= p
1
(1
i+1
). On a bien g.1
i
1
i1
pour i > 1, et on a aussi g1
1
1
0
=
0 par construction de 1
1
. On a donc g b
nilp
(1/K) comme voulu.
Il faut maintentant prouver lnonc (*). Nous le ferons par rcurrence sur dim(g). Si
dim(g) = 1, on a V
g
= Ker(X) pour tout X non nul de g. Comme un tel X est suppos
nilpotent, son noyau est non nul, comme voulu. Supposons maintenant dim(g) > 1, et
supposons que lon dispose dun idal h non trivial, i.e. distinct de 0 et de g. Alors
lhypothse de rcurrence applique h gl(V/K) nous dit que V
h
,= 0. De plus, V
h
est stable par laction de g, laquelle se factorise par g/h. Ainsi lhypothse de rcurrence
applique limage de g par la sous-reprsentation g gl(V
h
) nous dit que (V
h
)
g/h
,= 0.
Or, on a V
g
= (V
h
)
g/h
.
Il reste donc prouver lexistence dun idal h non trivial. Choisissons pour cela une
sous-algbre de Lie propre h de g de dimension maximale. La reprsentation adjointe ad
de g restreinte h induit une reprsentation de h sur le quotient g/h. Limage de h par
cette reprsentation est forme dendomorphismes nilpotents. En eet, daprs lexercice
ci-dessous, pour tout X g, lendomorphisme ad(X) de g est nilpotent. On peut donc
appliquer notre hypothse de rcurrence pour en dduire lexistence dun lment X ,= 0
dans g/h annul par laction de h. Soit X g au-dessus de X. On a donc X / h et
[h, X] = ad(h)(X) h. Ceci implique que h K.X est une algbre de Lie contenant h
comme idal. Mais par maximalit de h, on a h K.X = g. Ainsi, h est un idal de g de
codimension 1.
Exercice. Soit A une K-algbre associative et ad(x)(y) = [x, y] := xy yx pour
x, y A. Montrer que ad(x)
n
(y) Vect
K
x
k
yx
nk
, k = 0, , n.
Voici une amlioration de la caractrisation ii) du lemme 3.2.2.
3.2.4 Corollaire. Une K-algbre de Lie de dimension nie g est nilpotente si et
seulement si pour tout X dans g, ad(X) est un endomorphisme nilpotent de g.
Dmonstration. La condition est ncessaire, vu la caractrisation ii) du lemme 3.2.2. Le
fait que la condition soit susante est plus surprenant. Il dcoule du thorme prcdent
appliqu limage de g par la reprsentation adjointe ad : g gl(g/K). En eet, ce
thorme assure lexistence dun drapeau 1 de g tel que ad(g)1
i
1
i1
. Posons h
i
:=
1
dim(V )i
. Alors, les h
i
sont des idaux de g tels que [g, h
i
] = ad(g)(h
i
) h
i+1
, et on
applique le point i) du lemme 3.2.2.
31
Universit Pierre et Marie Curie Master de Mathmatiques
Attention : le thorme et son corollaire ne signient pas quune sous-algbre de Lie
nilpotente de gl(V/K) est forme dendomorphismes nilpotents. Par exemple le centre de
gl(V/K) est certainement une algbre de Lie nilpotente puisquablienne, mais nagit pas
de manire nilpotente sur V !
3.3 Algbres de Lie rsolubles.
3.3.1 Dfinition. Soit g une algbre de Lie sur un corps K. La suite drive de g
est la suite dcroissante (au sens large) de sous-algbres de Lie de G dnie par
D
1
(g) := g, et D
n
(g) := [D
n1
(g), D
n1
(g)], n > 1.
On dit que g est rsoluble sil existe n N tel que D
n
(g) = 0.
On voit facilement que D
k
(g) C
k
(g) pour tout k, de sorte que toute algbre de Lie
nilpotente est rsoluble.
Exercice. Montrer que g est rsoluble si et seulement si on a lune des deux proprits
quivalentes suivantes :
i) il existe une suite didaux g = h
1
h
2
.... h
n
= 0 de g tels que [h
i
, h
i
] h
i+1
pour tout i.
ii) il existe une suite de sous-algbres de Lie g = h
1
h
2
.... h
n
= 0 de g telles que
pour i = 1, ..., n 1, h
i+1
est un idal de h
i
quotient h
i
/h
i+1
ablien.
En dduire que si h est un idal de g, alors g est rsoluble si et seulement si h et g/h le
sont.
Exercice. On dit quun groupe de Lie G est rsoluble sil admet une suite de sous-
groupes normaux ferms quotients successifs abliens. Montrer quun groupe de Lie
connexe G est rsoluble si et seulement si Lie(G) est une algbre de Lie rsoluble.
Exemple. Soit V un K-ev de dimension nie et 1 un drapeau complet de V . Les calculs
faits dans un exercice de la section prcdente montrent que b(1/K) est une algbre de
Lie rsoluble.
Dans la suite de cette section, nous supposons K = C. On pourrait plus gnralement
supposer K algbriquement clos de caractristique nulle : le point important est que sur
un tel corps, tout endomorphisme dun K-ev de dimension nie admet un vecteur propre.
3.3.2 Thorme. (Lie) Soit g une C-sous-algbre de Lie rsoluble de gl(V/C). Il
existe un drapeau 1 de V tel que g b(1/K).
Remarque. Ce thorme est une gnralisation du fait quune famille dendomor-
phismes dun C-ev de dimension nie qui commutent deux deux est simultanment trigo-
nalisable. En eet, le C-ev engendr par une telle famille est une algbre de Lie ablienne,
donc rsoluble.
32
Universit Pierre et Marie Curie Master de Mathmatiques
Dmonstration. Supposons que lon ait dj prouv lnonc suivant :
(*) Pour g gl(V/K) rsoluble, il existe un v V vecteur propre de tous les X g.
Alors le thorme en dcoule par rcurrence sur dim(V ). En eet, soit v un tel vecteur
propre. Posons 1
1
:= K.v et notons p : V V
:= V/1
1
la projection de V sur son quotient
par la droite K.v = 1
1
. Soit g
/K).
Par le premier exercice ci-dessus, g
dans V
tel que g
.1
i
1
i
pour tout i 0. Posons alors 1
i
:= p
1
(1
i+1
). On a bien g.1
i
1
i
pour i > 0,
et on a aussi g1
1
1
1
par construction de 1
1
. On a donc g b
nilp
(1/K) comme voulu
Il nous faut maintenant prouver (*), ce que nous ferons par rcurrence sur dim(g). Si
dim(g) = 1, le rsultat est clair puisque tout endomorphisme dun C-ev de dimension nie
possde un vecteur propre. Supposons dim(g) > 1, et supposons lassertion (*) tablie
pour toutes les algbres de Lie rsolubles de dimension < dim(g). Soit h un hyperplan de g
contenant Dg (noter que g/Dg ,= 0). Alors, h est un idal de g, et lhypothse de rcurrence
fournit un vecteur propre v de V commun tous les lments de h. Soit la forme linaire
sur h dnie par X.v = (X)v pour tout X dans h. Posons
V
:= v V, X h, X.v = (X)v,
le sous-espace -propre de V sous laction de h, qui est donc non nul. Admettons un
instant que V
. Alors, v
,
qui est propre pour h, lest pour g toute entire, et le thorme est dmontr.
Il reste prouver que V
, et notons W le sous-
espace de V engendr par les images de w sous tous les itrs Y
.k
de Y . La formule
X.Y
.k
.w = Y.X.Y
.(k1)
w + [X, Y ].Y
.(k1)
w montre par rcurrence que W est stable sous
h et que X.Y
.k
.w (X)Y
.k
.w modulo le sous-espace engendr par les Y
.k
.w, k
< k.
Donc tr(X
|W
) = dim(W).(X) pour tout X h. Mais X et Y agissent sur W, donc
dim(W).([X, Y ]) = tr([X
|W
, Y
|W
] = 0.
On en dduit une caractrisation de la rsolubilit en termes de reprsentations. On dit
quune reprsentation (V, ) est irrductible si ses seuls sous-espaces stables sont 0 et V .
3.3.3 Corollaire. Soit g une C-algbre de Lie. Alors g est rsoluble si et seulement
si toute reprsentation irrductible de g est de dimension 1.
Ce corollaire ne reste vrai pour les R-algbres de Lie que si lon se limite aux C-
reprsentations. Mais en gnral, il existe des R-reprsentations irrductibles de dimension
2.
33
Universit Pierre et Marie Curie Master de Mathmatiques
Exercice. Montrer que la reprsentation standard so
2
(R) gl
2
(R) est irrductible.
Les deux rsultats qui suivent sont, eux, encore valables pour les R-algbres de Lie.
Cela rsulte de lexercice suivant :
Exercice. Soit g une R-algbre de Lie, et soit g
C
sa complexie. Montrer que D
i
(g
C
) =
D
i
(g)
C
. En dduire que g est rsoluble si et seulement si g
C
lest.
3.3.4 Corollaire. Une algbre de Lie g est rsoluble si et seulement si son algbre
de Lie drive Dg est nilpotente.
Dmonstration. La condition est en eet susante daprs le premier exercice du para-
graphe. Pour montrer quelle est ncessaire, on peut supposer K = C. On applique alors le
thorme la sous-algbre de Lie ad(g) de gl(g/C). Le drapeau didaux h
i
quil fournit
vrie pour tout X Dg : ad(X)(h
i
) h
i+1
car gl((h
i
/h
i+1
)/C) = C est une algbre de
Lie ablienne. Ainsi, ad(X) agit de faon nilpotente sur g, donc aussi sur Dg, et on conclut
par le corollaire 3.2.4.
3.3.5 Corollaire. (Critre de Cartan 1) Soit g une C-sous-algbre de Lie de gl
n
(C)
telle que tr(XY ) = 0 pour tout X, Y g. Alors, g est rsoluble.
Dmonstration. Il sagit de voir que tout lment X de Dg gl
n
(C) est nilpotent, au-
trement dit, que ses valeurs propres sont nulles, ou encore, si D dsigne lendomorphisme
de V = C
n
donn, dans une base de V diagonalisant la partie semi-simple X
s
de X, par
la matrice complexe conjugue de D = X
s
, que tr(D.X) = 0. Comme X Dg est une
combinaison linaire de [Y, Z], et que
tr(D[Y, Z]) = tr([D, Y ]Z),
il sut de montrer que ad(D) laisse stable g. Mais ad(D) sexprime comme un polynme en
ad(D) = ad(X
s
), lequel vaut (ad(X))
s
, qui est lui mme un polynme en ad(X). Comme
ad(X) est un endomorphisme de lespace vectoriel gl
n
(C) laissant stable g, cest termin.
Remarque. On a utilis le fait que si X = X
s
+ X
u
est la dcomposition de Jor-
dan dun endomorphisme K-linaire dun K-ev V , alors ad(X) = ad(X
s
) + ad(X
u
) est
la dcomposition de Jordan de lendomorphisme ad(X) de L(V/K). En eet, on a dj
remarqu que ad(X
u
) est nilpotent et il est clair que ad(X
s
) et ad(X
u
) commutent. Il reste
donc vrier que ad(X
s
) est semi-simple. Pour cela, on peut supposer K = C et choisir
une base e
1
, , e
n
de V telle que X
s
e
i
=
i
e
i
. Soit alors E
ij
= e
j
e
i
la base de L(V/K)
correspondante. On calcule ad(X
s
)(E
ij
) = (
i
j
)E
ij
et on en dduit que ad(X
s
) est
diagonalisable.
34
Universit Pierre et Marie Curie Master de Mathmatiques
3.4 Algbres de Lie semi-simples.
Soit g une algbre de Lie sur un corps K de caractristique nulle. Daprs le premier
exercice du paragraphe prcdent, la somme de deux idaux rsolubles de g est rsoluble,
et on peut donc parler du plus grand idal rsoluble rad(g) de g, quon appelle le radical
de g.
3.4.1 Dfinition. On dit que g est semi-simple si elle vrie lune des proprits
quivalentes suivantes.
i) g nadmet pas didal ablien non nul.
ii) le radical de g est nul.
En particulier, une algbre de Lie semi-simple a un centre trivial, de sorte que sa reprsen-
tation adjointe est dle (cest--dire : injective).
On dit que lalgbre de Lie g est simple si elle na pas didal propre (cest--dire distinct
de 0 ou g) et si elle nest pas ablienne. Cette dernire condition nest l que pour viter
lalgbre de Lie triviale K ; on pourrait la remplacer par la condition dim(g) > 1.
Remarque. On peut montrer (voir TD) quune algbre de Lie simple est de dimension
au moins 3. De plus, sl
2
(C) est la seule algbre de Lie complexe simple de dimension 3,
tandis que sl
2
(R) et su
2
sont les seules algbres de Lie relles simples de dimension 3.
3.4.2 Dfinition. Soit : g gl(V/K) une reprsentation de g. On note B
la
forme K-bilinaire symtrique sur g
(X, Y ) g g B
(X, Y ) := tr((X)(Y ))
On vrie aisment la proprit suivante, parfois appele associativit
B
([X, Y ], Z) = B
relativement B
= g
de B
de g
relativement B est rsoluble, donc g
quen 0. Idem
pour h
tel que
|W
= a id
W
et p := a
1
est alors un
projecteur g-quivariant sur W, comme voulu.
On constate facilement que gA B, de sorte que A et B sont des sous-reprsentations
de Hom
K
(V, W) dont le quotient A/B est la reprsentation triviale de dimension 1 de
g. Il nous sura donc de trouver une K-droite g-stable L, supplmentaire de B dans A,
puisqualors on aura L 0 A
g
B.
En dautres termes, on est ramen au problme initial sauf que maintenant W est
de codimension 1 dans V (remarquons que toute reprsentation de dimension 1 de g est
triviale, car g = Dg).
Par rcurrence sur dim
K
(V ), on peut supposer que W est irrductible. En eet, sinon
on choisit 0 ,= W
V/W
, do une
droite g-stable L
supplmentaire de W/W
dans V/W
, puis, notant V
la primage de
L
= V
/W
, complmentaire de W
dans V
, et donc
complmentaire de W dans V .
Il nous reste donc traiter le cas : W irrductible de codimension 1 dans V . Remarquons
que jusqu prsent nous navons pas utilis lhypothse g semi-simple ! Quitte remplacer
g par un de ses quotients (ncessairement semi-simple), on peut supposer que V est une
reprsentation dle, i.e. que : g gl(V ) est injective. Alors le mme raisonnement
que pour limplication i) ii) du thorme prcdent montre que la forme bilinaire B
:=
n
i=1
(X
i
)(Y
i
) L(V/K).
Notons que sa trace est donne par tr(C
) =
n
i=1
tr((X
i
)(Y
i
)) =
n
i=1
B
(X
i
, Y
i
) = n.
Daprs le lemme ci-dessous, C
) = tr(C
|W
) = n ,= 0,
on voit que C
|W
est inversible. Mais alors Ker(C
est un g-endomorphisme de V .
Dmonstration. Soit X g. On calcule
[(X), C
] =
n
i=1
[(X), (X
i
)(Y
i
)]
38
Universit Pierre et Marie Curie Master de Mathmatiques
=
n
i=1
[(X), (X
i
)](Y
i
) +
n
i=1
(X
i
)[(X), (Y
i
)]
=
n
i=1
([X, X
i
])(Y
i
) +
n
i=1
(X
i
)([X, Y
i
])
=
i,j
B
([X, X
i
], Y
j
)(X
j
)(Y
i
) +
i,j
B
([X, Y
i
], X
j
)(X
i
)(Y
j
)
et on conclut en remarquant que B
([X, X
i
], Y
j
) +B
([X, Y
j
], X
i
) = 0 pour tous i, j (asso-
ciativit de B
).
3.5 Reprsentations irrductibles de sl
2
(C)
On a vu que les reprsentations irrductibles dune algbre de Lie rsoluble sont toutes
de dimension 1. Nanmoins il en existe une innit non dnombrable. Par exemple pour
g C, engendre par un lment X, se donner une reprsentation (V, ) revient se
donner un endomorphisme (X) de V . Lorsque V est de dimension 1 cest simplement la
multiplication par un C. Il y a donc autant dirrductibles que de nombres complexes...
La situation est trs dirente pour les algbres de Lie semi-simples. On sait en gnral
classier leurs reprsentations irrductibles, et on montre quil ny en a quun nombre ni,
dimension xe.
On tudie ici lexemple de g = sl
2
(C). Celle-ci est de dimension 3, et en voici une base
pratique :
H =
_
1 0
0 1
_
, X =
_
0 1
0 0
_
, Y =
_
0 0
1 0
_
.
Le crochet y est donne par les relations
[H, X] = 2X , [H, Y ] = 2Y , [X, Y ] = H ().
La forme de Killing (x, y) 4 tr(xy) est non dgnre, donne par
B(H, X) = B(H, Y ) = 0, B(X, Y ) = 4, et B(H, H) = 8.
On connait dj 3 reprsentations irrductibles de g. La triviale (de dimension 1), la stan-
dard (i.e. linclusion g gl
2
(C), de dimension 2), et la reprsentation adjointe, de dimen-
sion 3 (qui est irrductible car sl
2
(C) est simple).
3.5.1 Thorme. Pour tout entier m N, il existe une reprsentation irrductible
(V
m
,
m
) de dimension m+ 1, et celle-ci est unique isomorphisme prs.
Dmonstration. Montrons dabord lunicit. Soit : sl
2
(C) gl(V/C) une reprsentation
irrductible,
0
une valeur propre de (H), de partie relle minimale, et v
0
un des vecteurs
propres correspondant. De la relation
H(X.v
0
) = X(H.v
0
) + [H, X].v
0
= X(
0
v
0
) + 2X(v
0
) = (
0
+ 2)X.v
0
,
39
Universit Pierre et Marie Curie Master de Mathmatiques
on dduit que si si v
1
= X.v
0
nest pas nul, cest un vecteur propre pour H, de valeur
propre
1
=
0
+ 2. En itrant, on obtient une suite v
j
, j = 0, ..., m de vecteurs propres
valeurs propres distinctes, o m dsigne le plus grand entier tel que v
m
,= 0. Alors, le
sous-espace vectoriel W engendr par les v
j
est stable sous H et X, mais aussi sous Y car
H(Y.v
0
) = Y (H.v
0
) + [H, Y ].v
0
= (
0
2)Y.v
0
,
donc Y.v
0
= 0 par minimalit de
0
, tandis quon vrie par rcurrence sur j, partir de la
relation Y X = XY H, que Y.v
j
= j(
0
+j 1)v
j1
. Par consquent, W = V . De plus,
sl
2
(C) = Dsl
2
(C), donc tr((H)) = 0, do
0
= m, et est nalement donne dans la
base v
j
de V par
(H)(v
j
) = (2j m)v
j
, (X)(v
j
) = v
j+1
, (Y )(v
j
) = j(mj + 1)v
j1
,
ou encore, dans la base w
j
= v
j
/[m(m1)...(mj + 1)] par
(H)(w
j
) = (2j m)w
j
, (X)(w
j
) = (mj)w
j+1
, (Y )(w
j
) = jw
j1
.()
Ceci montre lunicit. Pour lexistence, il faut dabord vrier que les relations ci-dessus
dnissent bien une reprsentation (i.e. ([x, y]) = [(x), (y)] pour tous x, y) ce qui est
lmentaire. Il faut ensuite vrier que cette reprsentation est bien irrductible. Or toute
sous-reprsentation non nulle W V doit contenir un vecteur propre pour H, i.e. lun des
v
j
. Mais alors les actions de X et Y montrent que W contient tous les v
j
.
Remarque. Nous mentionnerons au chapitre suivant un modle plus conceptuel pour
ces reprsentations (V
m
,
m
), en termes de drivations de lespace des polynmes homognes
2 variables de degr m. On peut aussi montrer que
m
est la reprsentations puissance
symtrique m-me de la reprsentation standard
1
. Plus prcisment, on dnit une
reprsentation de g sur le produit tensoriel V
1
V
1
V
1
(m facteurs) en posant
X
(v
1
v
m
) :=
n
i=1
v
1
Xv
i
v
m
. Le groupe symtrique S
m
agit par
permutation des facteurs, et les invariants (V
1
V
1
V
1
)
S
m
sont stables sous g et
forment une sous-reprsentation irrductible isomorphe (V
m
,
m
). Vu le Thorme de
complte rductibilit de Weyl, on peut nalement noncer : toute reprsentation complexe
de dimension nie de sl
2
(C) est isomorphe une somme directe de puissances symtriques
de la reprsentation standard.
Remarque. sl
2
(C) possde aussi des reprsentations irrductibles de dimension innie,
dont la classication est aussi connue. De telles reprsentations ne sont pas des objets si
exotiques, et ont leur importance en physique et en thorie des nombres.
40
Universit Pierre et Marie Curie Master de Mathmatiques
4 Retour aux groupes : reprsentations et analyse har-
monique
4.1 Reprsentations (gnralits)
4.1.1 Dfinition. Soit G un groupe topologique. Une reprsentation continue de G
est une paire (V, ) forme dun C-espace de Banach V et dun homomorphisme de groupes
topologiques : G GL(V/C).
Lorsque V est de dimension nie, se donner revient se se donner une action continue
GV V telle que pour tout g, lapplication (g) : v gv soit K-linaire.
Sous-entendant , on dit souvent que V est une reprsentation de G, et on crit laction
de G que induit sur V sous la forme (g)(v) = (g)v = g.v = gv.
4.1.2 Vocabulaire de base. Un vecteur v de V est dit invariant si gv = v pour tout g
dans G; notation : v V
G
.
Un C-ss-ev W de V est dit stable sous G si gw appartient W pour tout (g, w) GW.
Lorsque W est ferm dans V (automatique si V est de dimension nie), on dit que (W, )
est une sous-reprsentation de (V, ). Dans ce cas le quotient V/W est naturellement muni
dune action linaire continue de G que lon appelle reprsentation quotient.
On dit que est irrductible (parfois on prcise topologiquement irrductible) sil nexiste
aucun sous-espace ferm W de V stable sous G et distinct de 0 et de V .
Si V et W sont deux reprsentations continues de G, leur somme directe est la repr-
sentation V W dnie par g.(v w) = gv gw. Si une reprsentation V est somme
directe de deux sous-reprsentations propres, on dit quelle est dcomposable. Noter quune
reprsentation indcomposable nest pas forcment irrductible.
Un morphisme entre deux reprsentations V et W de G est un homomorphisme C-
linaire continu : V W tel que (g.v) = g.(v) pour tout (g, v) GV . On dit aussi
que est G-linaire, ou que cest un G-morphisme, ou encore que entrelace V et W. Les
reprsentations V et W sont dites quivalentes (ou simplement isomorphes) sil existe un
G-isomorphisme bi-continu de lune vers lautre (son inverse est encore un G-morphisme).
4.1.3 Reprsentations unitaires. Si V est un espace de Hilbert on dit que est unitaire
si (G) est contenu dans U(V ). Plus gnralement, une reprsentation continue est dite
unitarisable si elle est quivalente une reprsentation unitaire.
Exemple. Si G est ni, toute reprsentation (V, ) de dimension nie de G est uni-
tarisable. En eet, il nous faut trouver un produit scalaire hermitien : V V C
qui soit G-invariant, i.e. tel que (G) U(), ou encore tel que (gv, gw) = (v, w)
pour tous g G et v, w V . Or, si est un produit scalaire hermitien quelconque, la
forme sesqui-linaire dnie par (v, w) :=
1
|G|
gG
(gv, gw) est un produit hermitien
G-invariant comme voulu.
Nous gnraliserons ceci aux groupes compacts plus loin. En attendant, un des intrts
41
Universit Pierre et Marie Curie Master de Mathmatiques
des reprsentations unitaires est que tout sous-espace ferm stable admet un supplmentaire
ferm stable. Plus prcisment, si W V est ferm et stable, alors W
V
2
est une quiva-
lence de
1
sur
2
si pour tout g G on a
2
(g) =
1
(g), et une quivalence de d
1
sur d
2
si pour tout X g on a d
2
(X) = d
1
(X). Par le yoga maintenant habituel
de lexponentielle, ces deux conditions sont quivalentes.
En guise dapplication, nous allons revisiter les reprsentations de sl
2
(C) et en dduire
une classication des reprsentations continues irrductibles de SL
2
(C), PGL
2
(C), SU
2
(C),
SL
2
(R) et SO
3
(R).
4.2.2 Classication des reprsentations irrducibles de SL
2
(C) et groupes alis. Soient
m un entier 0 et V
m
lespace des polynmes homognes de degr m en deux variables,
coecients dans C. Le groupe de Lie SL
2
(C) admet une reprsentation naturelle
m
sur
V
m
, donne, pour g =
_
a b
c d
_
et P = P(x, y) dans V
m
par
m
(g)(P) = g.P, avec (g.P)(x, y) = P(ax +cy, bx +dy).
Notons que V
m
est de dimension m+ 1.
Thorme. Pour G = SL
2
(C), SL
2
(R), ou SU(2), les reprsentations (
m
)
|G
, m N
sont irrductibles et deux deux non isomorphes.
Dmonstration. Soit d
m
: sl
2
(C) gl(V
m
/C) la reprsentation drive de
m
. Reprenons
la base (H, X, Y ) de sl
2
(C). Par dnition de
m
, on a les formules
m
(e
tH
)(P(x, y)) =
P(e
t
x, e
t
y),
m
(e
tX
)(P(x, y)) = P(x; tx + y) et
m
(e
tY
)(P(x, y)) = P(x + ty, y), de sorte
que
d
m
(H)(P) = (x
x
y
y
)(P), d
m
(X)(P) = x
y
(P), d
m
(Y )(P) = y
x
(P).
Dans la base P
j
(x, y) = x
j
y
mj
, j = 0, ..., m de V
m
, on a donc :
d
m
(H)(P
j
) = (2j m)P
j
, d
m
(X)(P
j
) = (mj)P
j+1
, d
m
(Y )(P
j
) = jP
j1
().
43
Universit Pierre et Marie Curie Master de Mathmatiques
On reconnait l les formules donnant laction de sl
2
(C) sur la reprsentation
m
du tho-
rme 3.5.1. On en dduit lirrductibilit de d
m
et donc celle de
m
. De plus, comme
les R-sous-algbres de Lie su(2) et sl
2
(R) engendrent sl
2
(C) par C-linarit, on voit que
(d
m
)
|su(2)
et (d
m
)
|sl
2
(R)
sont aussi irrductibles. Par consquent (
m
)
|SU(2)
et (
m
)
|SL
2
(R)
sont irrductibles.
Notons que
0
est la reprsentation triviale,
1
la reprsentation standard, et
2
la re-
prsentation adjointe de SL
2
(C). On sintresse maintenant la rciproque de ce thorme,
cest--dire la classication des reprsentations continues irrductibles de dimension nie
des groupes de Lie considrs.
4.2.3 Thorme. Toute reprsentation continue irrductible de dimension nie de
G = SU(2) ou G = SL
2
(R) est isomorphe une (et une seule) des reprsentations
(
m
)
|G
, m N.
Dmonstration. Soit (V, ) est une reprsentation (complexe) irrducible de G. Alors d
est une reprsentation irrductible complexe de la R-algbre de Lie g, donc stend en une
reprsentation irrductible de la C-algbre de Lie g
C
= sl
2
(C). Daprs le thorme 3.5.1,
il existe donc m tel que d (
m
)
|g
= (d
m
)
|g
= d(
m
)
|G
. Daprs le lemme ci-dessus, cela
implique que (
m
)
|G
.
Nous verrons au prochain paragraphe que toutes les reprsentations continues irrduc-
tibles du groupe compact SU(2) sont de dimension nie. Par contre, le groupe SL
2
(R),
tout comme sl
2
(C), possde des reprsentations irrductibles de dimension innie. Il ny
a nanmoins pas de relation aussi simple entre les reprsentations de dimension innie du
groupe et celles de son algbre de Lie.
Passons au groupe SL
2
(C). Les reprsentations
m
ne sont pas les seules irrductibles ;
elles ont une proprit particulire relativement la structure complexe de SL
2
(C). On les
appelle reprsentations holomorphes de SL
2
(C). Pour obtenir les autres, on remarque que
la conjugaison complexe induit un automorphisme du groupe de Lie SL
2
(C), dont la drive
est la conjugaison complexe de la R-algbre de Lie sl
2
(C). On dnit alors la conjugue
dune reprsentation (V, ) comme la reprsentation (V, ) obtenue en composant avec la
conjugaison de SL
2
(C).
4.2.4 Thorme. Toute reprsentation continue irrductible de dimension nie de
SL
2
(C) est isomorphe un produit tensoriel
m
n
, m, n N.
Dmonstration. (Esquisse) Soit (V, ) une reprsentation irrductible de SL
2
(C). Sa d-
rive d est une reprsentation irrductible de la R-algbre de Lie sl
2
(C) et stend la
complexie sl
2
(C)
C
sl
2
(C) sl
2
(C). On montre que les irrductibles dune somme di-
recte sobtiennent comme produits tensoriels des irrductibles de chacun des deux facteurs.
Par ailleurs le plongement sl
2
(C) sl
2
(C)
C
sl
2
(C) sl
2
(C) est donne par (id, id).
44
Universit Pierre et Marie Curie Master de Mathmatiques
Exercice. Montrer quune reprsentation
m
de SL
2
(R) se factorise par PSL
2
(R) si
et seulement si m est pair, et que la reprsentation ainsi obtenue est encore irrductible.
Montrer que toute les irrductibles de PSL
2
(R) sobtiennent ainsi.
Exercice. Classier les irrductibles de SO
3
(R).
Exercice. Classier les irrductibles de PSL
2
(C).
4.3 Reprsentations des groupes compacts
4.3.1 Mesures de Haar. Soit X un espace localement compact. Notons (
c
(X, R) le
R-espace vectoriel des fonctions continues support compact, muni de la topologie de
la convergence uniforme sur tout compact. Une mesure sur X est une forme linaire sur
(
c
(X, R) qui est positive sur les fonctions positives ; elle est alors automatiquement conti-
nue : cest en particulier une distribution sur X. Il est dusage de noter lvaluation dune
mesure sur une fonction f de lune des manires suivantes :
(f) = , f) =
_
X
fd =
_
X
f(x)d(x).
Si un groupe G agit sur X, il agit sur les fonctions par la formule (g.f)(x) := f(g
1
x),
et dualement sur les formes linaires et les mesures par la formule g(f) := (g
1
f), ce
que lon peut aussi noter
g(f) = g, f) = , g
1
f) =
_
X
g
1
fd =
_
X
f(gx)d(x).
Comme dhabitude, on dit que la mesure est invariante par G si = g pour tout g G.
Il nexiste pas toujours de mesure invariante sur X, et lorsquil en existe elles sont rarement
uniques. Mais voici un cas particulier trs utile.
Thorme. Supposons X = G, laction tant la multiplication gauche. Alors il
existe une mesure G-invariante sur X, et elle est unique multiplication par un rel positif
prs.
Nous admettrons ce rsultat. On peut lobtenir comme consquence dun thorme de
point xe danalyse fonctionnelle, d Markov et Kakutani. Dans le cas dun groupe de
Lie, on peut utiliser des techniques de gomtrie direntielle qui relient mesures sur une
varit et sections du br des formes direntielles de degr maximal, il reste alors voir
que ce dernier br est trivialisable dans le cas dun groupe de Lie.
Une mesure comme dans le thorme est appele mesure de Haar gauche sur G. De
mme il existe des mesures de Haar droite (relatives laction de G sur lui-mme par
multiplication droite), qui sont toutes gales un facteur prs. En gnral, une mesure
de Haar gauche ne lest pas droite. Voici cependant un rsultat notable, que nous
admettrons aussi :
Thorme. Si G est compact, ou si G est un groupe de Lie rductif, toute mesure
de Haar gauche est aussi mesure de Haar droite.
45
Universit Pierre et Marie Curie Master de Mathmatiques
Dans le cas o G est compact, il est dusage de normaliser la mesure de Haar de sorte
que (G) := (1
G
) = 1.
Exemple. Voici quelques exemples de mesures de Haar.
pour le groupe additif G = R
n
, la mesure de Lebesgue dx
1
dx
n
;
pour le groupe multiplicatif (R
)
n
, la mesure =
dx
1
x
1
dx
2
x
2
dx
n
x
n
pour G = GL
n
(R) x = (x
i,j
)
1i,jn
, la mesure = det(x)
1
dx
11
dx
12
dx
nn
pour G ni, = [G[
1
xG
x
, o
x
dsigne la mesure de Dirac au point x;
pour G = SO
2
(R) =
__
cos sin
sin cos
_
, R/2Z
_
, =
d
2
.
Voici maintenant une application cruciale de lexistence dune mesure de Haar sur un
groupe compact.
4.3.2 Corollaire. Soit G un groupe compact, et une reprsentation de G sur
un espace de Hilbert V (par exemple sur un espace de dimension nie). Alors il existe
un produit scalaire hermitien : V V C tel que (gv, gv) = (v, v) pour tout
g G, v V , autrement dit tel que soit une reprsentation unitaire pour ce produit
scalaire.
Dmonstration. Si : V V C est le produit scalaire initial sur V , alors, la forme
sesquilinaire
(v, w) :=
_
G
(xv, xw)d(x)
rpond la question puisque est une mesure de Haar droite. Cest dailleurs une
gnralisation directe de largument dj rencontr pour les groupes nis.
Le cas o V est de dimension nie a dj des consquences spectaculaires :
Corollaire. Tout sous-groupe compact de GL
n
(C) est contenu dans un conjugu
de U(n).
Dmonstration. En eet, tous les produits hermitiens sur C
n
sont quivalents, et leurs
groupes unitaires sont donc conjugus. Ainsi, avec les notations de la preuve prcdente,
U() est conjugu U(n)
On dmontre de mme que tout sous-groupe compact de GL
n
(R) esti contenu dans un
conjugu de O(n).
Corollaire. Toute reprsentation de dimension nie dun groupe compact est com-
pltement rductible.
Corollaire. Si G est un groupe de Lie compact, son algbre de Lie est rductive.
Dmonstration. Appliquer le corollaire prcdent la reprsentation adjointe et utiliser
lune des caractrisations des algbres de Lie rductives, cf Exercice 3.4.4.
46
Universit Pierre et Marie Curie Master de Mathmatiques
Remarque. Soit V un C-ev de dimension nie et V
qui envoie v sur la forme semi-linaire (v, ). Si maintenant (V, ) est une
reprsentation de G, si le produit hermitien est G-invariant, et si lon munit V
de la
reprsentation
(g) := (g
1
), alors lisomorphisme V
V
est un G-isomorphisme.
Par le lemme de Schur, il sensuit que si (V, ) est irductible, alors il y a un seul produit
hermitien G-invariant sur V un facteur prs.
Le cas o V est de dimension innie est aussi trs intressant mais utilise un peu de
thorie spectrale, et plus prcisment la thorie des oprateurs autoadjoints dun espace
de Hilbert.
4.3.3 Application aux reprsentations unitaires. Soit H un espace de Hilbert sur C
de produit scalaire (, ) et de norme associe [.[. Par le thorme de reprsentabilit de
Riesz, lhomomorphisme H H
. Il sensuit
que tout oprateur A L(H/C) admet un adjoint A
= A. Comme en dimension nie, on vrie que les valeurs propres dun oprateur A
autoadjoint sont relles, et que deux sous-espaces propres correspondant deux valeurs
propres distinctes sont orthogonaux. Ce qui nest pas clair en revanche, cest si A possde
eectivement des vecteurs propres.
En dimension nie, on sait quun endomorphisme autoadjoint (et plus gnralement,
normal) est diagonalisable dans une base orthonorme. Cela nest pas vrai en gnral en
dimension innie. On dit quun oprateur A est compact si limage par A de la boule
unit de H est dadhrence compacte (on dit aussi relativement compacte). Ceci quivaut
demander ce que limage de tout ensemble born soit dadhrence compacte.
Lemme. Soit A un oprateur autoadjoint compact sur un espace de Hilbert H. Alors
i) lensemble Sp(A) des valeurs propres de A contient [[A[[.
ii) pour toute valeur propre ,= 0, le sous-espace propre H() := Ker(Aid
H
) est de
dimension nie.
iii) H est somme directe Hilbertienne H =
Sp(A)
H() des sous-espaces propres de A.
Le point iii) signie que la somme directe est orthogonale et dense dans H (le chapeau
signie compltion). On peut montrer que Sp(A) est au plus dnombrable et sans point
daccumulation non nul.
Dmonstration. i) Choisissons une suite v
n
de points de H de norme 1 tels que [Av
n
[ tende
vers [[A[[ et que Av
n
admette une limite, disons w. Alors,
[A
2
v
n
[[A[[
2
v
n
[
2
= [A
2
v
n
[
2
2[[A[[
2
(A
2
v
n
, v
n
) +[[A[[
4
[[A[[
4
2[[A[[
2
[Av
n
[
2
+[[A[[
4
tend vers 0, donc v
n
tend vers le vecteur v := Aw/[[A[[
2
. On a par passage la limite
A
2
v = [[A[[
2
v, ou encore (A [[A[[ id
H
)(A + [[A[[ id
H
)v = 0, ce qui montre que soit v est
47
Universit Pierre et Marie Curie Master de Mathmatiques
vecteur propre de valeur propre [[A[[, soit v
A. Comme elle
est borne, elle est donc relativement compacte. Mais puisquelle est ferme, elle est mme
compacte. Il sensuit que H() est ncessairement de dimension nie.
iii) Soit F lorthogonal de la somme des espaces propres de A. La restriction de A F
est un oprateur auto-adjoint compact. Si F est non nul, on peut lui appliquer i) do une
contradiction. Ainsi F est nul, et par suite la somme des sous-espaces propres est dense.
Proposition. Toute reprsentation unitaire de G se dcompose en une somme di-
recte Hilbertienne de reprsentations irrductibles de dimension nie.
En particulier, une reprsentation unitaire irrductible de G est de dimension nie.
Dmonstration. Il sut de montrer que toute reprsentation unitaire de G contient une
sous-reprsentation de dimension nie. En eet, la proposition suivra en appliquant ceci
lorthogonal de la somme des sous-reprsentations de dimension nie (dont on sait dj
quelles sont sommes de sous-reprsentations irrductibles).
Pour le vrier, construisons un oprateur autoadjoint compact non nul A sur V , inva-
riant sous G, cest--dire tel que g.A := (g)A(g
1
) = A pour tout g G. Pour cela, soit
v
le projecteur orthogonal de V sur un vecteur v de norme 1 :
v
(w) := (w, v)v. Alors,
A =
_
G
x.
v
=
_
G
x
v
x
1
d(x) :
w A(w) =
_
G
(x
1
w, v)xvd(x) =
_
G
(w, xv)xvd(x)
[car (, ) est G-invariant] convient : puisque est une mesure de Haar, il est G-invariant, il
est, comme
v
, autoadjoint, et on vrie, en approchant lapplication continue x x.
v
par des applications localement constantes, quil est limite uniforme doprateurs de rang
ni, donc compact. Soit alors H() = Ker(Aid
V
) un des sous-espaces propres de A, de
dimension nie, fourni par la proposition prcdente. Comme les (g), g G, commutent
avec A, W est bien stable sous G.
La preuve ci-dessus nutilise pas la continuit de laction de G. Seulement le fait que
les applications g (w, gv) sont intgrables. Cette remarque permettra dappliquer ce
rsultat de dcomposition la reprsentation rgulire unitaire.
4.3.4 La reprsentation rgulire unitaire. Soit G un groupe localement compact.
Comme on la vu prcdemment, les espaces de fonctions raisonnables (continues, ou/et
bornes, ou/et support compact, etc...) sur G sont munis de deux actions naturelles de
G par translations gauche [gf(x) = f(g
1
x)] ou droite [gf(x) = f(xg)], parfois appe-
les reprsentations rgulires. Maintenant que lon dispose de mesures invariantes par
translation, on peut considrer des variantes L
2
de ces reprsentations. Par commodit
48
Universit Pierre et Marie Curie Master de Mathmatiques
pour la suite, nous choisirons laction par translations droite. Fixons donc une mesure
de Haar droite sur G. Sur lespace (
c
(G, C) des fonctions complexes continues sup-
port compact sur G on dispose dun produit scalaire hermitien, dit produit L
2
, dni par
f
1
, f
2
) =
_
G
f
1
(x)f
2
(x)d(x). Comme est invariante droite, on a lgalit (pour laction
par translations droite)
gf
1
, gf
2
) =
_
G
f
1
(xg)f
2
(xg)d(x) =
_
G
f
1
(x)f
2
(x)d(x) = f
1
, f
2
).
Lespace (
c
(G, C) nest pas complet pour la norme L
2
(il est simplement prhilbertien).
On note L
2
(G) = L
2
(G, C, ) lespace de Hilbert obtenu par compltion. La formule ci-
dessus montre que laction de G se prolonge L
2
(G) et prserve le produit scalaire. Elle
est donc donne par un homomorphisme G U(L
2
(G)). On prendra garde au fait que
cet homomorphisme nest cependant pas toujours continu, mme pour G compact. Nous
appellerons L
2
(G) la reprsentation rgulire unitaire ( gauche) de G.
Exemple. Pour G = R/Z, L
2
(G) est lespace L
2
sur le cercle, ou encore celui des
fonctions 1-priodiques de carr intgrable.
Cet exemple est fondamental pour comprendre les motivations de lanalyse harmonique
et de la thorie des reprsentations.
4.4 Analyse harmonique et dcomposition spectrale
4.4.1 Interprtation de la thorie de Fourier classique. toute fonction continue
f : R C admettant 1 pour priode, on peut attacher son dveloppement de Fourier
rZ
a
r
(f)e
2irt
, avec a
r
(f) =
_
1
0
f(t)e
2irt
dt pour tout r Z. Plus gnralement, si f est
de carr sommable sur [0, 1] (f L
2
([0, 1], C, dx)), cette srie est encore bien dnie, et
converge vers f en moyenne quadratique (cest--dire pour la norme L
2
).
Rinterprtons ces faits bien connus en termes du groupe de Lie compact G := R/Z
S
1
SO(2).
Une fonction continue 1-priodique R C sidentie une fonction continue G
C.
Parmi ces fonctions, celles de la forme t e
2irt
, r Z sidentient exactement
aux homomorphismes continus G C
= GL
1
(C) [Exercice : vrier que tout
homomorphisme continu est bien de cette forme]. Lues sur S
1
, elles scrivent
r
:
S
1
C
: g
r
(g) = g
r
.
La mesure de Lebesgue dt sur R induit la mesure de Haar normalise de G et on
peut identier L
2
([0, 1], C, dx) L
2
(G, C, ) = L
2
(G).
La variante L
2
de la thorie de Fourier classique nous dit alors : la famille des homo-
morphismes continus G C
. Alors
G est une base hilbertienne de L
2
(G). En dautres
termes, on a
f L
2
(G), f =
G
f, ).
On peut aussi obtenir des noncs pour les fonctions continues comme par exemple :
f (
c
(G, C), f(g) =
G
(g)
_
G
f(x)(x)d(x).
Le terme f, ) =
_
G
f(x)(x)d(x) mrite le nom de coecient de Fourier. Notons
dailleurs que, G tant compact, son image par
G est compacte donc contenue dans
S
1
C
: g G tr((g)) C.
Lgalit classique tr(AB) = tr(BA) montre quun caractre est une fonction centrale
sur G, i.e. qui vrie f(ghg
1
) = f(h) pour tous g, h G (on dit aussi invariante par
conjugaison). Le sous-espace L
2
(G)
G
des invariants par conjugaison de L
2
(G) est ferm,
donc un espace de Hilbert. Par ailleurs, la mme galit classique montre que deux repr-
sentations quivalentes ont le mme caractre. La gnralisation souhaite de la proposition
snonce alors comme ceci :
4.4.3 Thorme. Soit G un groupe compact. Lensemble
,
G des caractres
de reprsentations irrductibles est une base hilbertienne de L
2
(G)
G
. En dautres termes,
50
Universit Pierre et Marie Curie Master de Mathmatiques
on a
f L
2
(G)
G
, f =
G
f,
.
Il existe aussi des variantes pour les fonctions continues comme :
f (
c
(G, C)
G
, f(g) =
(g)
_
G
f(x)
(x)d(x).
Ici aussi on voit que
(x) =
(x
1
) (mais ,=
(x)
1
) car les valeurs propres de (x)
sont ncessairement de module 1. Il existe par ailleurs des conditions sur la famille des
coecients de Fourier a
(f) =
_
G
f(x)
,
G, forment une famille orthonorme de L
2
(G).
Lemme. Soient V et W deux reprsentations irrductibles de dimension nie de G.
i) si W nest pas isomorphe V :
V
,
W
) = 0 ;
ii) si W est isomorphe V :
V
,
V
) = 1.
Dmonstration. Considrons dabord le sous-espace U
G
des vecteurs invariants dune re-
prsentation (U,
U
) de dimension nie. Lendomorphisme p =
_
G
U
(x)d(x) de U est un
projecteur de U sur U
G
. Sa trace vaut donc : dim(U
G
) = tr(p) =
_
G
tr(
U
(x))d(x), qui
est le produit scalaire
U
, 1
G
). Appliquons ce rsultat la reprsentation U = Hom(V, W)
dnie par g :=
W
(g)
V
(g
1
). Daprs le lemme de Schur, Hom(V, W)
G
est de di-
mension 0 (resp. 1) si V et W ne sont pas (resp. sont) isomorphes. Ainsi
Hom(V,W)
, 1
G
) = 0
ou 1 suivant quon est dans le cas i) ou le cas ii). Pour conclure, il ne reste qu montrer
la formule
Hom(V,W)
=
V
W
. Celle-ci est lmentaire (choisir une base de V , une base
de W, et calculer dans la base de Hom(V, W) associe), si lon ne perd pas de vue que
V
(x) =
V
(x
1
) pour tout x.
Le reste du thorme 4.4.3 est une consquence du thorme de dcomposition spec-
trale suivant, qui prcise la dcomposition Hilbertienne de L
2
(G) de la proposition 4.3.3
en armant que toute reprsentation irrductible de G y apparat avec une multiplicit
gale son degr. Avant de lnoncer prcisment, un peu de terminologie.
Dfinition. Soit (V, ) une reprsentation de dimension nie de G. Un coecient
matriciel de est une fonction de la forme c
v,v
: g (gv, v
) o v V et v
(dual
de V , laccouplement entre lespace et son dual est donc not (v, v
)).
51
Universit Pierre et Marie Curie Master de Mathmatiques
Un coecient matriciel est continu donc appartient L
2
(G). Remarquons que le carac-
tre
1
, , v
n
, alors
n
i=1
c
v
i
,v
i
.
Supposons maintenant irrductible, et notons L
2
(G) le sous-espace de L
2
(G) engendr
par les coecients matriciels de . Il est de dimension nie, au plus dim()
2
, puisquengen-
dr par les c
v
i
,v
j
. Par ailleurs il est stable sous G puisque g.c
v,v
= c
gv,v
.
4.4.4 Thorme. (Peter-Weyl) Soit G un groupe compact. Pour tout , L
2
(G) est
G-isomorphe V
dim()
G
L
2
(G)
Dmonstration. Fixons une reprsentation irrductible (V, ) et choisissons un produit sca-
laire G-invariant ., .)
V
. On rappelle quun tel produit scalaire existe et est unique homo-
thtie prs. Pour v, v
on notera c
v,v
le coecient matriciel g gv, v
)
V
. Lespace L
2
(G)
est donc engendr par ces fonctions.
Soit (W, ) une autre reprsentation irrductible de G, et ., .)
W
un produit scalaire
invariant. Fixons v
,w
: V W
v
_
G
gv, v
)
V
g
1
wd(g)
Comme est une mesure de Haar, cette application est un G-morphisme.
Premier cas : W nest pas isomorphe V . Dans ce cas, le lemme de Schur nous dit que
,w
= 0, donc pour tous v, v
V et w, w
W, on a
c
v,v
, c
w
,w
) =
_
G
gv, v
)
V
gw
, w)
W
d(g) =
_
G
gv, v
)
V
w, gw
)
W
d(g)
=
_
G
gv, v
)
V
g
1
w, w
)
W
d(g) =
v
,w
(v), w
)
W
= 0
Il sensuit que L
2
(G) et L
2
,w
est
un scalaire
v
,w
. Par construction, celui-ci dpend linairement de w et semi-linairement
de v
,w
) =
v
,w
v, w
)
V
.
Par symtrie on en dduit quil existe C tel que
c
v,v
, c
w
,w
) = w, v
)
V
v, w
)
V
.
En prenant v = w
et v
L
2
(G)
(v
1
, , v
n
)
n
i=1
c
v
i
,e
i
est aussi injectif, ce qui prouve la premire assertion du thorme.
On a dj prouv que la somme H
0
:=
G
L
2
0
est nul. Supposons
le contraire. Alors puisque H
0
est stable sous G, il contient daprs 4.3.3 une sous-
reprsentation irrductible de dimension nie 1. Soit
G la classe disomorphisme de
1. Pour f non nulle dans 1, la fonction
F(g) =
_
G
f(xg)f(x)d(x) = g.f, f)
est un coecient matriciel de 1, donc appartient L
2
,
F, c
v,v
) =
_
G
F(g)gv, v
)
V
d(g) =
_
G
_
G
f(gx)f(x).gv, v
)
V
d(x)d(g)
=
_
G
_
G
f(h)f(x) hx
1
v, v
)
V
d(x)d(h)
=
_
G
f(x)
__
G
f(h)hx
1
v, v
)
V
d(h)
_
d(x)
=
_
G
f(x)f, c
x
1
v,v
)d(x) = 0
la deuxime ligne on a fait le changement de variable gx = h grce linvariance de
, la troisime ligne on a chang les deux intgrales, et la dernire ligne on utilise
lhypothse f H
0
. On a donc prouv que la fonction F est nulle. En particulier 0 =
F(e) =
_
G
[f(x)[
2
d(x), donc f aussi est nulle, contredisant lhypothse H
0
,= 0.
Au cours de la preuve, nous avons exhib une base orthogonale (c
i,j
)
G,1i,jdim()
de
L
2
(G). Cette base dpend du choix, pour chaque dune base orthonorme de V
. Nous
navons pas calcul les normes [[c
i,j
[[ mais nous avons montr quil existe
i,j
[[
2
=
grce la relation [[
[[ = 1
dj prouve plus haut. En eet, lgalit
dim()
i=1
c
i,i
donne
=
1
dim()
.
Corollaire. La famille
_
_
dim()c
i,j
_
G,1i,jdim()
de L
2
(G) en est une base Hil-
bertienne.
53
Universit Pierre et Marie Curie Master de Mathmatiques
4.4.5 Fin de la preuve du thorme 4.4.3. On sait dj que les
) = 0 pour toute
reprsentation irrductible (V, ) est nulle. Pour une telle V , posons
V
=
_
G
f(g)(g)d(g).
Comme f est centrale et que est galement invariante droite, on voit que
V
est un
G-morphisme de V dans V , donc par Schur, une homothtie. Mais sa trace vaut f,
V
),
donc est nulle, donc
V
= 0. En particulier, les coecients f, c
v,v
) pour v, v
V sont
tous nuls. Ceci tant valable pour toute irrductible, f est nulle.
54