Universit de Montral

Quotients dune varit algbrique par un groupe

algbrique linairement rductif et ses sous-groupes
maximaux unipotents
par

Robin Sirois-Miron
Dpartement de mathmatiques et de statistique
Facult des arts et des sciences

Mmoire prsent la Facult des tudes suprieures

en vue de lobtention du grade de
Matre s sciences (M.Sc.)
en mathmatiques
Orientation mathmatiques fondamentales

janvier 2010

Robin Sirois-Miron, 2009

Universit de Montral
Facult des tudes suprieures
Ce mmoire intitul

Quotients dune varit algbrique par un groupe

algbrique linairement rductif et ses sous-groupes
maximaux unipotents
prsent par

Robin Sirois-Miron
a t valu par un jury compos des personnes suivantes :
Khalid Benabdallah
(prsident-rapporteur)

Abraham Broer
(directeur de recherche)

Pavel Winternitz
(membre du jury)

Mmoire accept le:

18 janvier 2010

iii

RSUM ET MOTS CLS

RSUM
La construction dun quotient, en topologie, est relativement simple ; si G est un
groupe topologique agissant sur un espace topologique X, on peut considrer lapplication naturelle de X dans X/G, lespace dorbites muni de la topologie quotient. En
gomtrie algbrique, malheureusement, il nest gnralement pas possible de munir
lespace dorbites dune structure de varit. Dans le cas de laction dun groupe linairement rductif G sur une varit projective X, la thorie gomtrique des invariants
nous permet toutefois de construire un morphisme de varit dun ouvert U de X vers
une varit projective X//U, se rapprochant autant que possible dune application quotient, au sens topologique du terme.
Considrons par exemple X n , une k-varit projective sur laquelle agit un
groupe linairement rductif G et supposons que cette action soit induite par une action
b n+1 , le cne affine au dessus de X. Par un thorme
linaire de G sur n+1 . Soit X
de la thorie classique des invariants, il existe alors des invariants homognes f1 , ..., fr
b G tels que
k[X]
b G = k[ f1 , ..., fr ].
k[X]
On appellera le nilcone, que lon notera N, la sous-varit de X dfinie par le locus
b G ), le spectre projectif de lanneau des invariants.
des invariants f1 , ..., fr . Soit Proj( k[X]
Lapplication rationnelle
: X d Proj( k[ f1 , ..., fr ])
b G dans k[X]
b est alors surjective, constante sur les orbites
induite par linclusion de k[X]
et spare les orbites autant quil est possible de le faire ; plus prcisment, chaque
fibre contient exactement une orbite ferme. Pour obtenir une application rgulire

iv

satisfaisant les mmes proprits, il est ncessaire de jeter les points du nilcone. On
obtient alors lapplication quotient
: X\ N Proj( k[ f1 , ..., fr ]).
Le critre de Hilbert-Mumford, d Hilbert et repris par Mumford prs dun demisicle plus tard, permet de dcrire N sans connatre les f1 , ..., fr . Ce critre est dautant plus utile que les gnrateurs de lanneau des invariants ne sont connus que dans
certains cas particuliers. Malgr les applications concrtes de ce thorme en gomtrie algbrique classique, les dmonstrations que lon en trouve dans la littrature sont
gnralement donnes dans le cadre peu accessible des schmas. Lobjectif de ce mmoire sera, entre autres, de donner une dmonstration de ce critre en utilisant autant
que possible les outils de la gomtrie algbrique classique et de lalgbre commutative. La version que nous dmontrerons est un peu plus gnrale que la version originale de Hilbert [H] et se retrouve, par exemple, dans [K]. Notre preuve est valide sur
mais pourrait tre gnralise un corps k de caractristique nulle, pas ncessairement
algbriquement clos.
Dans la seconde partie de ce mmoire, nous tudierons la relation entre la construction prcdente et celle obtenue en incluant les covariants en plus des invariants. Nous
dmontrerons dans ce cas un critre analogue au critre de Hilbert-Mumford (Thorme 6.3.2). Cest un thorme de Brion [Br] pour lequel nous donnerons une version
un peu plus gnrale. Cette version, de mme quune preuve simplifie dun thorme
de Grosshans [G] (Thorme 6.1.7), sont les lments de ce mmoire que lon ne retrouve pas dans la littrature.

MOTS CLS
Groupes linairement rductifs, Sous-groupe maximaux unipotents, Sous-groupes
1 paramtre, Invariants, Covariants, Quotients, Critre de Hilbert-Mumford, Nilcone.

ABSTRACT AND KEY WORDS

ABSTRACT
The topological notion of a quotient is fairly simple. Given a topological group G
acting on a topological space X, one gets the natural application from X to the quotient
space X/G. In algebraic geometry, unfortunately, it is generally not possible to give
the orbit space the structure of an algebraic variety. In the special case of a linearly
reductive group acting on a projective variety X, the geometric invariant theory allows
us to get a morphism of variety from an open U of X to a projective variety X//G,
which is as close as possible to a quotient map, from a topological point of view.
As an example, let X n be a k-projective variety on which acts a linearly
reductive group G. Suppose further that this action is induced by a linear action of G
b n+1 be the affine cone over X. By an important theorem of the
on n+1 and let X
b G such
classical invariants theory, there exist homogeneous invariants f1 , ..., fr k[X]
as
b G = k[ f1 , ..., fr ].
k[X]
b G ) be the
The locus in X of f1 , ..., fr is called the nullcone, noted N. Let Proj( k[X]
projective spectrum of the invariants ring. The rational map
: X d Proj( k[ f1 , ..., fr ])
b G in k[X]
b is then surjective, constant on the orbits
induced by the inclusion of k[X]
and separates orbits as much as possible, that is, the fibres contains exactly one closed
orbit. A regular map is obtained by removing the nullcone ; we then get a regular map
: X\ N Proj( k[ f1 , ..., fr ])

vi

which still satisfy the preceding properties. The Hilbert-Mumford criterion, due to Hilbert and revisited by Mumford nearly half-century later, can be used to describe N
without knowing the generators of the invariants ring. Since those are rarely known,
this criterion had proved to be quite useful. Despite the important applications of this
criterion in classical algebraic geometry, the demonstrations found in the literature are
usually given trough the difficult theory of schemes. The aim of this master thesis is
therefore, among others, to provide a demonstration of this criterion using classical
algebraic geometry and of commutative algebra. The version that we demonstrate is
somewhat wider than the original version of Hilbert [H] ; a schematic proof of this
general version is given in [K]. Finally, the proof given here is valid for but could
be generalised to a field k of characteristic zero, not necessarily algebraically closed.
In the second part of this thesis, we study the relationship between the preceding
constructions and those obtained by including covariants in addition to the invariants.
We give a Hilbert-Mumford criterion for covariants (Theorem 6.3.2) which is a theorem from Brion [Br] for which we prove a slightly more general version. This theorem,
together with a simplified proof of a theorem of Grosshans [G] (Theorem 6.1.7), are
the elements of this thesis that cant be found in the literature.

KEY WORDS
Linearly reductive groups, Maximal unipotent subgroups, 1 parametre subgroups,
Invariants, Covariants, Quotients, Hilbert-Mumford criterion, Nullcone.

vii

TABLE DES MATIRES

RSUM ET MOTS CLS . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

iv

ABSTRACT AND KEY WORDS . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . vi

Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

0.0.1.

Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

0.0.2.

Classification des courbes elliptiques. . . . . . . . . . . . . . . . . . . . . . . . . . . . .

0.0.3.

Thorie classique des invariants . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

0.0.4.

Critre de Hilbert-Mumford . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

0.0.5.

Covariants . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

Chapitre 1.
1.1.

Prliminaires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12

Rsultats dalgbre commutative . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13

1.1.1.

Rsultats lmentaires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13

1.1.2.

Localisation et anneaux locaux . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15

1.1.3.

Anneaux gradus . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15

1.1.4.

Sries de puissances . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16

1.2.

Rsultats de gomtrie algbrique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18

1.2.1.

Spec et varits affines . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18

1.2.2.

Proj et varits projectives . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20

1.2.3.

Morphismes de varits . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21

1.2.4.

Varits normales et non singulires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22

1.2.5.

Compltion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23

1.3.

Groupes linairement rductifs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25

1.3.1.

Groupes linaires algbriques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25

viii

1.3.2.

Groupes linairement rductifs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26

1.3.3.

Caractres et sous-groupes 1 paramtre . . . . . . . . . . . . . . . . . . . . . . . . . 28

1.4.

Groupes semi-simples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32

Chapitre 2.

Quotient affine : cas o G est fini . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35

2.1.

Thorme de Hilbert pour un groupe fini . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36

2.2.

Construction dun quotient gomtrique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37

Chapitre 3.

Quotient affine . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39

3.1.

Classification des endomorphismes dun espace vectoriel . . . . . . . . . . . . . 39

3.2.

Thorme de finitude de Hilbert . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42

3.3.

Construction dun quotient affine . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43

3.4.

tude des fibres . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 47

Chapitre 4.

Quotient projectif . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49

4.1.

Construction globale . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 50

4.2.

Construction locale . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51

Chapitre 5.

Le critre de Hilbert-Mumford . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 54

5.1.

Le critre de Hilbert-Mumford . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 54

5.2.

Classification des courbes elliptiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 66

Chapitre 6.
6.1.

Gomtrie des covariants . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 69

Thorme de finitude pour les covariants . . . . . . . . . . . . . . . . . . . . . . . . . . . . 69

6.1.1.

Covariants de la reprsentation rgulire . . . . . . . . . . . . . . . . . . . . . . . . . 70

6.1.2.

Principe de transfert de Borel . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 75

6.1.3.

Thorme de finitude . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 77

ix

6.2.

Proprits de sparation des covariants . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 77

6.3.

Critre de Hilbert-Mumford-Brion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 80

Chapitre 7.

Rsultats en caractristique p . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 83

Bibliographie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 87

INTRODUCTION

0.0.1. Introduction
Un problme de moduli, en gomtrie algbrique, est la recherche dune varit
algbrique paramtrisant des classes dquivalence de certains objets mathmatiques.
Lintrt pour cette question remonte lpoque de lcole italienne de gomtrie algbrique, o elle sera aborde du point de vu de la gomtrie birationnelle. Citons,
par exemple, le problme de la classification des courbes algbriques de genre g fix
isomorphisme prs. Mme dans ce cas simple1, une description explicite de lespace
moduli nest connue que pour g 6 2. Nous discuterons dans cette introduction du cas
de la classification des courbes elliptiques (le cas g = 1)2.
Une fois traduit dans le langage de la gomtrie algbrique, ce type de problme
de classification peut souvent tre remplac par celui de la construction dun quotient
dune varit algbrique, affine ou projective, par un groupe algbrique linairement
rductif. La thorie gomtrique des invariants, introduite par Mumford autour de 1960
et reposant sur le formalisme des schmas de Grothendieck et Serre, donne un moyen
efficaces pour construire un tel quotient. Dans ce mmoire, nous rappellerons certains
rsultats cette thorie avec en tte la construction dun quotient projectif pour laction
dun groupe linairement rductif sur une varit projective.
0.0.2. Classification des courbes elliptiques
Pour obtenir une classification des courbes elliptiques isomorphisme prs, la premire tape consiste traduire le problme dans le langage de la gomtrie algbrique.
1

Par rapport au problme de la classification des surfaces algbriques par exemple.

Nous rfrerons le lecteur intress [M, Lecture II] pour un expos accessible sur le problme

gnral de la construction dun espace moduli pour les courbes algbriques de genre fix.

2
Formellement, une courbe elliptique est une courbe algbrique complte et non singulire de genre 1. Bien que projective, une telle varit nest pas, a priori, une sousvarit dun espace projectif. On peut par contre dmontrer que lensemble des courbes
elliptiques isomorphisme prs est isomorphe lensemble des courbes cubiques
planes non singulires transformation projective prs. Le problme de la construction
dun espace moduli pour les courbes elliptiques revient alors celui de la construction
dun espace quotient pour les classes dquivalence projectives des courbes cubiques
non singulires.
Commenons par un bref rappel sur les courbes cubiques. Considrons [x, y, z],
lanneau des polynmes en trois variables et notons [x, y, z]n la tranche constitue des
polynmes homognes de degr n. Soit f [x, y, z]n , un polynme homogne non
nul ; nous obtenons alors que f (x, y, z) = n f (x, y, x) pour tous , cest--dire
que les zros de f forment un cne de 3 . Parler des zros dun polynme homogne
de [x, y, z] dans le plan projectif 2 a donc un sens, et ce, mme si les lments de
[x, y, z]n ne sont pas des fonctions sur 2 . Soit f [x, y, z]3 , non nul ; la sousvarit projective dfinie par lensemble des zros de f dans 2 sera appele une
courbe cubique plane. Remarquons quune telle courbe peut toujours tre recouverte
par les courbes affines plane { f (1, y, z) = 0}, { f (x, 1, z) = 0} et { f (1, y, z) = 0}. Une
courbe projective plane sera dite singulire si une des courbes affines la recouvrant est
singulire. Par exemple, {x3 y2 z = 0} 2 est singulire en (1, 0, 0) puisque {x3 y2 =
0} 2 possde un point de rebroussement en (0, 0) alors que {x3 xz2 y2 z = 0}
2 est non singulire. Soit maintenant PGL3 ( ) une transformation projective de
2 . On notera ( C) la cubique obtenue partir de C par laction de sur 2 . Nous
dirons de deux cubiques C et C0 quelles sont projectivement quivalentes sil existe
une transformation projective PGL3 ( ) telle que C0 = ( C) et vrifierons que
cette relation dfinit une relation dquivalence.
Pour se ramener au problme de la construction dune varit quotient, il ne nous
reste plus qu construire une immersion de lensemble des courbes cubiques dans
un espace projectif. Autrement dit, nous voudrons considrer les cubiques non plus

3
comme sous-varits de 2 , mais plutt comme points dun espace projectif plus
grand en loccurrence 9 3.
Considrons C, une cubique dfinie par f [x, y, z]3 . On peut alors crire
f = 1 x3 + 2 x2 y + 3 x2 z + 4 xy2 + 5 xyz + 6 xz2 + 7 y3 + 8 y2 z + 9 yz2 + 10 z3 .
Puisque les coefficients 1 , ..., 10 et 1 , ..., 10 dfinissent la mme cubique, on obtient alors une bijection entre lensemble des cubiques et les points de 9 . Notons alors

(1 : ... : 10
), le point de 9 correspondant ( C). On peut alors tendre laction de

PGL3 ( ) une action sur 9 en posant (1 , ..., 10 ) = (1 : ... : 10

). Remarquons

que si C est une cubique correspondant au point x 9 , ( C) correspond alors au

point x. Notons X s lensemble des points de 9 correspondant des cubiques non
singulires. Nous obtenons alors les correspondances biunivoques suivantes.

Courbes
cubiques
1:1 9

/ PGL3 ( )

transformation projective prs

Courbes
elliptiques
Courbes
cubiques
non
singulires

1:1
1:1 s

X / PGL3 ( )

isomorphisme prs
transformation projective prs

Le problme de la construction dun espace moduli pour les courbes elliptiques est
alors remplac par le problme de la construction dun quotient de X s par PGL3 ( ),
cest--dire dune varit algbrique dont lespace sous-jacent sapproche dun espace
dorbite. Commencerons par construire un quotient de 9 par PGL3 ( ).
Nous utiliserons pour ce faire un rsultat important de la thorie classique des invariants. Remarquons dabord que laction, non linaire, de PGL3 ( ) sur 9 peut tre
remplace par une action de SL3 ( ) sur 10
induisant laction prcdente. Cette action est simplement laction naturelle de SL3 ( ) sur S3 ( 3 ), la puissance symtrique
des polynmes de degr 3. Nous utiliserons alors la thorie classique des invariants
pour trouver un systme de gnrateurs pour lalgbre des fonctions polynomiales sur
10
invariantes par laction de SL3 ( ). Dans le cas prsent, la construction dun tel
systme par Aronhold [Ar] remonte 1849.
3

Une autre approche consiste construire une immersion des cubiques dans lespace des ensembles

non ordonns de 4 points, les cycles de degr 4 de 1 , voir cet effet [M3, Chapitre 4].

4
Proposition 0.0.1. [1 , ..., 10 ] SL3 ( ) = [S , T ] o S et T sont des polynmes homognes dans 1 , ..., 10 de degr 4 et 6 respectivement4.
Les invariants T et S nous serviront construire une application rationnelle de 9
dans 1 . Considrons en effet x, un point de 9 , et x, un point de 10
au dessus de x.
On peut alors considrer
T 6 ( x)
S 4 ( x)

T6
S4

comme une fonction rationnelle sur 9 en posant

T 6 (x)
S 4 (x)

. Notons que cette dfinition ne dpend pas du choix du reprsentant, puisque T 6

et S 4 sont homognes de mme degr. On obtient alors lapplication rationnelle

: 9 d

S ( x)6
T ( x)4

invariante sous laction de PGL3 ( ) et dfinie sur tout 9 lexception des points
x pour lesquels T 6 ( x) et S 4 ( x) sont simultanment nuls. On appellera le nilcone, not
N, le cne de 10
constitu de ces points. Par abus de notation, on notera aussi N le
sous-ensemble de 9 correspondant. Nous obtiendrons alors lapplication
: 9 \ N

S ( x)6
T ( x)4

Un des objectifs de ce mmoire est de montrer quune telle application est surjective et quelle spare les classes dquivalences autant quil est possible de le faire.
Les points de 9 \ N, nots X ss , seront alors appels points semi-stables et on dira de
1 quil est un quotient projectif de X ss par PGL3 ( ), not X ss // PGL3 ( ). Dans le
cas prsent, il est possible de montrer que les points semi-stables correspondent aux
courbes elliptiques auxquelles on doit cependant ajouter les cubiques dont les singularits sont des points doubles tangentes distinctes. Nous dmontrerons ces faits dans
la section 5.2 laide du critre de Hilbert-Mumford5. Remarquons seulement que le
rsultat pour les courbes elliptiques suit de la proposition suivante :
Proposition 0.0.2. Soit x 9 et x 10
. Alors il existe un invariant classique D tel
que x reprsente une courbe elliptique si et seulement si D( x) = 0. De plus D sexprime
comme D = T 2 + 64S 3 .
4

On retrouvera une description explicite de S et T dans [S, p.191,192].

Mumford en donne une dmontstration explicite dans [M3, Chapitre 4] en utilisant les proprits

des invariants classiques P et Q obtenus par limmersion dans lespace des cycles de degr 4 de 1 .

5
Remarque 0.0.1. La premire partie de cette proposition est simplement une formulation des proprits du discriminant dune cubique.
Les courbes elliptiques sont donc semi-stables puisque D doit entre autre sannuler
sur les points o S et T sannulent simultanment. Considrons maintenant la restriction de aux cubiques non singulires :
|X s : X s

S ( x)6
T ( x)4

Il est possible de montrer que toutes les classes dquivalence sont alors spares
par |X s , cest--dire que |X s (X s ) est un espace dorbite. Malheureusement, lapplicaT2
tion nest plus surjective. Il sera en effet impossible dobtenir 3 = 64 puisque lon
S
aurait alors D = 0. On peut par contre vrifier que cest la seule valeur non admissible, de sorte que (X s ) est isomorphe la droite affine. On dira alors que 1 est un
quotient gomtrique affine pour les courbes elliptiques.
En rsum, il est possible dobtenir un espace moduli pour les courbes elliptiques,
mais celui-ci ne sera pas projectif. tant donn la structure projective de ces objets,
on prfrera souvent accepter en plus certaines courbes elliptiques dgnres pour
obtenir un espace projectif.
0.0.3. Thorie classique des invariants
Quelques mots maintenant sur la thorie classique des invariants, laquelle auront contribu certains des plus grands mathmaticiens du XIXme sicle, notamment
Sylvester, Cayley, Gordan, Clebsch, Capelli, Gordan et Hilbert6. Considrons laction
naturelle de SLn ( ) sur n . Cette action induit alors une action sur dn = Sd ( n ),
lespace vectoriel des polynmes homognes de degr d sur ( n ) . Dans le langage
de la thorie classique des invariants, on parlera de formes n-aires de degr d. On
appellera base de Hilbert un systme de gnrateurs pour k[ dn ] SLn ( ) , lalgbre des
invariants. La recherche dune telle base constitue le principal objet dtude de la thorie classique des invariants. Comme le suggre lexemple prcdent, ce problme est
li de trs prs au problme gomtrique de la classification des courbes algbriques.
6

Nous rfrerons le lecteur intress [O], pour un aperu plus complet de la thorie classique des

invariants.

6
Aprs les succs des mthodes constructives de Gordan qui dmontrera quune telle
base existe pour toutes les formes binaires, lintrt fut tous naturellement report sur
les formes ternaires, pour lesquelles le problme se rvlera beaucoup plus difficile7.
En 1891, dans un article marquant de lhistoire des mathmatiques [H], Hilbert dmontrera quune base de Hilbert existe toujours pour les invariants classiques8. Plus
prcisment, Hilbert dmontrera le thorme suivant.
Thorme 0.0.1 (Thorme de finitude de Hilbert classique). Tout systme fini de
polynmes homognes admet une base de Hilbert pour ses invariants comme pour ces
covariants.
Nous traiterons plus tard des covariants. Tous au long de ce mmoire, nous utiliserons la gnralisation suivante de la premire partie de ce thorme. Ce sera le
thorme 5.1.1.
Thorme 0.0.2 (Thorme de finitude de Hilbert). Soit G un groupe linairement
rductif agissant sur une varit affine X. Alors k[X]G , lalgbre des invariants, est de
type fini.
Considrons maintenant X n , une varit projective et G, un groupe linaireb le cne affine au dessus de X. Par le thorme
ment rductif agissant sur X et soit X
prcdent, on peut alors crire k[X]G = k[ f0 , ..., fn ] o deg( fi ) = di . Comme dans
b sur lesquels
lexemple prcdent, le nilcone, not N, dsignera aussi bien le cne de X
tous les gnrateurs sannulent que la sous-varit de X correspondante. Nous pourrons
alors construire les applications

- n

X N.

Aujourdhui encore, des systmes gnrateurs ne sont explicitement connus que pour les formes

binaires de degr 1 10 et 12 et pour les formes cubiques de degr 3.

8
Cest cette dmonstration non constructive qui inspirera Gordan son clbre commentaire Das
ist Theologie und nicht Mathematik, voir [O, p.40].

7
Nous aimerions pouvoir dcrire le nilcone sans connatre les gnrateurs de lanneau des invariants. Ironiquement, la rponse cette question, donne par la thorie
gomtrique des invariants, proviendra dune mthode dveloppe par Hilbert pour
construire explicitement, en rponse aux critiques de Gordan, un systme de gnrateurs.
0.0.4. Critre de Hilbert-Mumford
Pour donner une ide du critre de Hilbert-Mumford, commenons par le cas de
laction de PGL3 ( ) sur 9 . Comme nous lavons vu dans lexemple de la classification des courbes elliptiques, on peut linariser cette action vers une action de SL3 ( )
9
sur 10
, lespace affine au dessus de .

Remarquons premirement que 0 10

est dans le nilcone puisque tous les invariants homognes non constants sy annulent. Considrons maintenant x 9 et
x 10
un point au dessus de x. Supposons que 0 soit contenu dans la fermeture
de SL3 ( ) x. Par continuit des fonctions polynomiales, les invariants doivent aussi
sannuler sur x, cest--dire que x N. On montrera en fait dans ce mmoire quun
point de 10
est dans le nilcone si et seulement sil contient 0 dans la fermeture de son
orbite. Dans la pratique, il est cependant difficile de vrifier cette condition. Lide de
Hilbert sera alors de remplacer SL3 ( ) par des sous-groupes plus agrables.
Considrons T lensemble des sous-groupes de SL3 ( ) constitus des matrices de
la forme
1 ,2 ,3 (t) = diag(t1 , t2 , t3 )
o 1 , 2 , 3 tels que 1 + 2 + 3 . Si xi, j,k = xi y j zk o i + j + k = 3, est un monmes
de degr 3, on remarque alors que 1 ,2 ,3 (t)xi, j,k = ti1 + j2 +k3 xi y j zk do lon dduira
que

lim 1 ,2 ,3 (t)xi, j,k = 0 i1 + j2 + k3 > 0.

x0

Disposons maintenant les monmes xi, j,k de la base comme dans le diagramme
suivant9 :
9

On retrouvera par exemple ce diagramme dans larticle original de Hilbert, voir [H, p.291].

x3
x2 y
xy2
y3

x2 z
xz2

xyz
y2 z

yz2

z3

Soit x 10
. On remarque alors quil existe 1 ,2 ,3 tel que
lim 1 ,2 ,3 (t) x = 0
t0

si et seulement si les monmes apparaissant dans x sont strictement contenus dans

lintrieur dun des demi-plan dlimit par une droite passant par lorigine (xyz). Dans
la figure ci-dessous, nous avons reprsents en gras les monmes qui peuvent tre non
nul pour 1,2,3 .

x3
x2 y
xy2
y3

x2 z
xz2

xyz
y2 z

yz2

z3

Par exemple, pour x3 y2 z, on montre que 1,2,3 (x3 y2 z) = t3 x3 ty2 z 0 lorsque

t 0.
On possde donc un moyen efficace de dterminer si 0 est dans la fermeture de
T x. Un tel point est alors dans le nilcone puisque la fermeture T x est contenue
dans celle de SL3 ( ) x. Nous avons par exemple vrifi que x3 y2 z est dans le nilcone.
Le critre de Hilbert-Mumford montre que linverse est aussi vrai, conjugaisons prs
de T , cest--dire que si 0 nest pas contenu dans la fermeture de T 1 x pour tous
SL3 ( ), alors il nest pas non plus dans la fermeture de SL3 ( ) x. nonons
rigoureusement ce critre comme il apparat dans [GIT, Thorme 2.1].
Thorme 0.0.3 (Critre de Hilbert-Mumford). Soit G un groupe linairement rductif agissant sur une varit affine X et T un tore maximal G. Supposons en plus que
X possde un point fixe, not 0. Soit x, un point de X diffrent de 0. Alors, 0 est contenu
dans la fermeture de G x si et seulement sil existe : k T G et g G tels que
limt0 (t) g x = 0.

9
Hilbert donnera une dmonstration de ce critre, dans le cas de laction de SLn ( )
sur k , en utilisant les sries convergentes [H, p.276-292]. Mumford en donnera une
dmonstration dans le cas gnral en remplaant lutilisation des sries convergentes
par celle des sries formelles.
On peut aussi montrer une version plus gnrale de ce critre ou le point fixe est
remplac par nimporte quel point dorbite ferme. La dmonstration de ce critre
se retrouve par exemple dans [K, Thorme 1.4]. Une preuve de Richardson sur
utilisant les mthodes de la thorie des groupes de Lie est aussi donne dans [Bi].
Thorme 0.0.4 (Critre gnral de Hilbert-Mumford). Soit G un groupe linairement rductif agissant sur une varit affine X, y X un point de X dorbite ferme et
x, un point de X non contenu dans lorbite de y. Alors, la fermeture de G x intersecte
G y non trivialement si et seulement sil existe g G et : T un sous-groupe
1 paramtre tel que limt0 (t) g x = 0
Un des objectifs de ce mmoire est de donner une preuve relativement simple du
thorme 0.0.4 dans le cas de GLn ( ). Nous utiliserons pour cela des mthodes issues
de la gomtrie algbrique et un rsultat simple de la thorie des diviseurs lmentaires.
Notre preuve se trouvera mi-chemin entre celle de Hilbert et celle de Mumford. Nous
indiquerons aussi les modifications apporter pour obtenir la version de Mumford,
concernant essentiellement deux rsultats difficiles de gomtrie algbrique qui sont
ici remplac par des rsultats plus simples.

0.0.5. Covariants
Comme nous lavons vu prcdemment, la classification des courbes elliptiques
peut tre obtenue en recourant aux invariants. Dans la seconde partie de ce mmoire,
nous nous intresserons aux applications quoffre lutilisation des covariants dans les
problmes de classification.
Soit G un groupe algbrique agissant sur une varit affine X. Nous supposerons
encore que le corps est . Un covariantes de type V, pour V une reprsentation de G,
est une applications polynomiales G-quivariantes de X dans V. Dans le cas o V est
la reprsentation triviale de G dans , on retrouve la dfinition dun invariant.

10
Reconsidrons maintenant le cas de laction de laction de SL3 ( ) sur S3 ( 3 )
discut prcdemment. Un covariant classique est par exemple donn par la Hessienne
H : S3 ( 3 ) S3 ( 3 ),
o



 2 f /2 x 2 f /xy 2 f /xz


H( f ) = 2 f /yx 2 f /2 y 2 f /yz


2 f /zx 2 f /yz 2 f /2 z 
En 1869 [Go], Gordan donnera explicitement les gnrateurs des covariants, qui

sont au nombre de 34. Plus tard, Hilbert dmontrera que les covariants sont toujours
engendrs par un nombre fini de gnrateurs, voir le thorme 0.0.1.
Considrons U, le sous-groupe de SL3 ( ) constitu des matrices triangulaires
suprieures unipotentes. Les lments de [ S3 ( 3 )]U sont alors appels les semiinvariants. Nous montrerons plus tard que lalgbre des covariants est isomorphe
lalgbre des covariants.
Dans le cas dun groupe semi-simple G agissant sur une varit affine X, lalgbre
des covariants est aussi isomorphe [X]U . Nous obtiendrons un rsultat analogue au
thorme de finitude de Hilbert classique en dmontrant que [X]U est de type fini.
Supposons que [X]U = [ f1 , ..., fk ]. Dans [Br], Brion dmontre un rsultat analogue au thorme 0.0.3 pour dterminer les points de X o les covariants f1 , ..., fk
sannulent simultanment. Nous montrerons une version lgrement plus gnrale,
analogue au thorme 0.0.4, nous permettant de connatre les fibres de lapplication

- n

X N.
Nous retrouverons le thorme de Brion dans le cas o X possde un points fixe
sur lequel tous les covariants sannulent, par exemple lorsque X est le cne de r au
dessus dune sous varit projective de r1
.
Le chapitre 1 contient les rsultats de base qui seront ncessaires la dmonstration
des rsultats de ce mmoire. Nous y noncerons les rsultats lmentaires dalgbre

11
commutative de mme que les notions de gomtrie algbrique avec lesquels nous
serons amenes travailler. Nous rappellerons aussi les rsultats gnraux de la thorie de la reprsentation des groupes linaires algbriques, en particulier des groupes
linairement rductifs et semi-simples.
Nous discuterons dans le chapitre 2 des notions de base de la thorie gomtrique
des invariants travers lexemple de laction dun groupe fini sur une varit affine.
Nous dmontrerons une version du thorme 0.0.2 pour les groupes finis de mme que
lexistence dun quotient gomtrique. Nous naurons besoin pour cela que de quelques
rsultats lmentaires dalgbre commutative.
Dans le chapitre 3, nous gnraliserons les rsultats du chapitre 2 dans le cas de
laction dun groupe linairement rductif sur une varit affine. Nous dmontrerons
le thorme 0.0.2 de mme que lexistence dune varit quotient. Contrairement au
cas fini, nous montrerons quil est en gnral impossible dobtenir un espace dorbite.
Nous utiliserons ces rsultats dans le chapitre 4 pour construire un quotient projectif
dans le cas o la varit de dpart est projective.
La dmonstration du critre de Hilbert-Mumford se retrouve dans le chapitre 5.
Nous utiliserons les proprits des sries formelles dmontres dans les prliminaires
de mme quun certain nombre de rsultats de la gomtrie algbrique classique.
titre dapplication, nous tudierons plus en profondeur lexemple de la classification
des courbes elliptiques.
Dans le chapitre 6 nous nous intresserons aux proprits de sparation des covariants, les invariants dun sous-groupe maximal unipotent dun groupe semi-simple.
laide du principe de transfert de Borel, nous dduirons du thorme 0.0.2 un rsultat analogue pour lanneau des covariants. Suivant une ide de Brion, nous tenterons
dobtenir un rsultat analogue au thorme 0.0.4. Nous y parviendrons pour certains
cas particuliers.

Chapitre 1

PRLIMINAIRES

Afin dnoncer plus prcisment les rsultats de ce mmoire, nous aurons besoin
dun certain nombre de notions de gomtrie algbrique et de groupes linaires algbriques que nous rappellerons brivement dans cette section. Nous suggrons au
lecteur de passer ce chapitre plutt aride pour y revenir lorsque nous y ferons rfrence plus tard. Chaque fois que cela tait possible, nous avons privilgi les rsultats
les plus simples. Sauf exceptions, les ouvrages de rfrence seront [A] pour lalgbre
commutative, [M] et [M2] pour la gomtrie algbrique et [B] et [Hu] pour les groupes
linaires algbriques. Nous supposerons connus les rsultats et dfinitions lmentaires
de la thorie des anneaux et des espaces vectoriels.
Au lecteur souhaitant se faire une ide des rsultats qui seront utiliss plus tard,
nous suggrons : le survol de la sous-section 1.1.1 avant la lecture du chapitre 2, le
survol des sous-sections 1.3.1 et 1.3.2 avant la lecture du chapitre 3, un retour sur la
sous-section 1.2.2 avant la lecture du chapitre 4, un survol des thormes 1.1.10 et 1.2.5
et de la sous-section 1.3.3 avant la lecture du chapitre 5 de mme que lintroduction de
la section 1.4 avant la lecture du chapitre 6.
La section 1.1 contient les dfinitions et rsultats dalgbre commutative qui seront
utiliss tout au cours de ce mmoire. Nous y rfrerons frquemment dans les sections
et chapitres ultrieurs. Dans la section 1.2, nous rappellerons les dfinitions de varits
affines et projectives. Nous rappellerons brivement les notions de varits normales,
compltes et certains rsultats sur les morphismes de varits.

13
La section 1.3 est une introduction aux groupes linairement rductifs. Nous commencerons par quelques rappels sur les groupes linaires algbriques. Nous prsenterons ensuite les rsultats lmentaires de la thorie de la reprsentation des groupes
linairement rductifs et en dduirons quelques rsultats importants sur laction de tels
groupes sur une varit affine. Nous discuterons enfin des notions de caractre et de
sous-groupes 1 paramtre qui seront essentielles pour comprendre et dmontrer le
critre de Hilbert-Mumford.
Dans la section 1.4, nous noncerons enfin quelques rsultats sur les groupes semisimples. Nous y discuterons plus en dtail des groupes maximaux unipotents et du lien
les liant la thorie de la reprsentation. Ces derniers rsultats ne seront pas utiliss
avant le chapitre 6.
Sauf mention contraire, k sera un corps de caractristique nulle.

1.1. R `
Lalgbre commutative est le fondement de la gomtrie algbrique moderne. cet
gard, nous ne saurions trop conseiller au lecteur la lecture de lexcellent [A] pour une
comprhension plus profonde des notions de gomtrie algbrique prsentes dans la
section 1.2. Pour les dmonstrations des rsultats de la prsente section, nous rfrerons
la plus part du temps [A] et quelquefois [M] pour certains rsultats lmentaires
laisss en exercices dans [A].
1.1.1. Rsultats lmentaires
Dans toute la section, i : A , B sera un homomorphisme injectif de k-algbres et k
est un corps de caractristique nulle. Cet homomorphisme est dit fini si B est finiement
engendr comme A-module de type fini si B est finiement engendre comme k-algbre,
cest--dire quil existe f1 , ..., fn B tels que B = k[ f1 , ..., fn ]. Dans ce dernier cas, on
dira aussi que B une k-algbre de type fini. Par le thorme de la base de Hilbert [A,
Thorme 7.5], une k-algbre de type fini est noethrienne.
Un lment de B est dit entier sur A sil est une racine dun polynme mnique
coefficient dans A. Lhomomorphisme i : A , B est dit entier et lalgbre B entire
sur A si tous les lments de B sont entiers sur A. La fermeture intgrale de A dans

14
B, note A, est la plus petite sous-algbre de B telle que i : A , A soit entier. La
fermeture intgrale dune k-algbre intgre dans son corps de fraction K est appele sa
normalisation.
Les rsultats lmentaires suivants reviendront frquemment dans le reste du mmoire.
Lemme 1.1.1. Soit k A B. Supposons que B est de type fini sur k et est intgrale
sur A. Alors B est aussi de type fini sur k.
D. Voir [A], Thorme 7.8.

Lemme 1.1.2 (Normalisation de Noether). Soit k, un corps algbriquement clos et A

une k-algbre intgre de type fini. Alors il existe y1 , ..., yk R algbriquement indpendants tels que R est entire sur k[y1 , ..., yk ]
D. Voir [M] Chapitre 1, Section 1.

Lemme 1.1.3. Soit A et B des anneaux tels que B , A soit entire. Soit q un idal
de B et soit p et p0 des idaux premiers de B tels que p A = p0 A = q et tels que
p p0 . Alors p = p0 .
D. Voir [A], Thorme 5.16.

Lemme 1.1.4 (Going up). Soit A et B des anneaux tels que B , A soit entire. Soit
p1 ... pn une chane didaux premiers de A et q1 ... qm , o n > m, une chane
didaux premiers de B tels que qi A = pi . Alors la chane q1 ... qm peut tre
complter pour obtenir une chane q1 ... qn telle qi A = pi .
D. Voir [A], Thorme 5.11.

Lemme 1.1.5 (Nullstellensatz, version faible). Soit k un corps algbriquement clos,

alors les seuls idaux maximaux de k[X1 , ..., Xn sont les idaux de la forme (X1
a1 , ..., Xn an ), o a1 , ..., an k
D. Voir [M] Chapitre 1, Section 1.

Soit I un idal de k[X1 , ..., Xn ] et E un sous-ensemble de k[X1 , ..., Xn ]. On notera

V(I) lensemble des zros communs des lments I dans nk et I(E) lidal des fonctions polynomiales de k[X1 , ..., Xn ] sannulant sur E.

15
Lemme 1.1.6 (Nullstellensatz, version forte). Soit I un idal de k[X1 , ..., Xn ], alors

I( V(I)) = I.
D. Voir [M] Thorme 1, Chapitre 1, Section 2.

Lemme 1.1.7. Soit une courte squence exacte de A-modules :

0 M 0 M M 00 0
Alors sont quivalents :
(i) M est noethrien ;
(ii) M 0 et M 00 sont noethriens.
D. Voir [A], proposition 6.3.

Nous discuterons plus tard de linterprtation gomtrique de ces rsultats.

1.1.2. Localisation et anneaux locaux
Rappelons quun anneau est dit local sil possde un unique idal maximal. Soit
A un anneau intgre de corps de fraction K et p un idal premier de A. Lanneau
a

K : a A, b A p est appel la localisation de A. On vrifie que cest
Ap =
b
a

K : a p, b A p , voir [A, chapitre 3].
un anneau local didal maximal p =
b
Gomtriquement, on utilisera la localisation pour tudier une varit algbrique dans
un petit voisinage.
1.1.3. Anneaux gradus
Nous rappellerons dans cette section quelques rsultats sur les anneaux gradus.
Les proprits des anneaux gradus seront utilises dans la construction des varits
projectives et pour dmontrer certains rsultats en caractristique p en annexe. Rappelons quun anneau gradu est un anneau A muni dune famille (An )n>0 de sous-groupe
du sous-groupe additif de A telle que A = n>0 An et Am An Amn . Le sous-groupe An
est alors la tranche constitue des lments homognes de degr n. Un idal homogne, ou gradu, est un idal engendr par des lments homognes. On dfinira en
plus A+ =
n=1 An , lidal irrelevant de A.

16
Dfinition 1.1.1. Soit A =

L+
n=0

An un anneau gradu et I =

L+

I
n=0 n

un idal homo-

gne, alors A/I est gradu par (A/I)n = An /In . En particulier si I0 = 0, (A/I)+ = A+ /I.
L+
Proposition 1.1.1. Si A =
A est un anneau gradu tel que A0 est noethrien.
n=0 n
L+
Alors, les noncs suivants sont quivalents : (i) A est noethrien ; (ii) A+ =
A
n=1 n
est un idal finiement ; engendr (iii) A est une k-algbre de type fini.
D. Voir [A], Thorme 10.7

Dfinition 1.1.2. Soit f un lment homogne de A de degr d. On dfini alors la loh

calisation de A en f par A f = { k : h A}. Cest un anneau local dont lidal maximal
f
h
est m = { k : h A ( f )}.
f
On donne alors A f une structure danneau gradu en posant
(A f )n = {

h
: h An+dk }
fk

La tranche constitue des lments de degr 0 de A f est note (A f )0 et est sera

importante dans la construction de varits projectives. Plus prcisment, on dfinit
(A f )0 = {

h
: h Adk }
fk

Pour plus de dtail, voir [EGA, Chapitre II, Section 3].

1.1.4. Sries de puissances
Nous discuterons dans cette section de lanneau des sries de puissances en une
variable sur le corps des complexes. Les proprits de ces sries, en particulier la proposition 1.1.10, joueront plus tard un rle important dans la dmonstration du critre
de Hilbert-Mumford. Rappelons premirement quelques rsultats lmentaires.
Soit [[t]], lanneau des sries de puissances en une variable. On peut montrer que
[[t]] est un anneau local didal maximal (t). Notons ((t)) le corps de fraction de
[[t]]. Nous montrerons alors le rsultat lmentaire suivant :
Lemme 1.1.8. ((t)) est isomorphe [[t]][t1 ].
D. Soit f (t) [[t]] et soit k le premier entier tel que le k-me coefficient
est non nul. Quitte multiplier par une constante, on peut alors crire f (t) = tk (1
P i
P P in
1
ai t ). On obtient alors que f 1(t) = t1k (1 +

n=1 ( ai t ) ) [[t]][t ]

17
Utilisons le rsultat prcdant pour dfinir une application de ((t)) dans .

: ((t))
P
n
7
n=k an t

o ak est le premier coefficient non nul de la srie de puissances.

On remarque alors que ( f ) > 0 si et seulement si f [[t]]. On vrifie en fait
que dfinit une valuation sur [[t]]. Nous nutiliserons cependant pas ce rsultat ; le
lemme suivant nous suffira.
Lemme 1.1.9. Soit f, h ((t)) tels que ( f ) 6 (h). Alors
D. Soit f =

an tn et h =

f
[[t]].
h

bn tn o k 6 k0 . Quitte multiplier f
P
0
n
et h par une constante, on peut supposer que h = tk +
n=k0 +1 bn t . Posons maintenant
P
nk0
f = t(h) f et h = t(h) h o ( f) > 0 et h = 1 +
. Remarquons alors que f
n=k0 +1 bn t

f
f

et d h1 sont dans k[[t]], cest--dire que = k[[t]]
h h
n=k

n=k0

La proposition suivante est un rsultat de la thorie des diviseurs lmentaires et

sera utilise dans la dmonstration du critre de Hilbert-Mumford.
Lemme 1.1.10. Soit g(t) = (gi, j ), une matrice de GLn ( ((t))). Il existe alors des matrices a(t) et b(t) dans GLn ( [[t]]) telles que g(t) = a(t)d(t)b(t), o

t N1

t N2

d(t) =
..

Nn

et N1 6 N2 6 ... 6 Nn
D. Soit gik jl le coefficient de g(t) ayant la plus petite valuation. Quitte
multiplier g(t) gauche et droite par des matrices de permutations, on peut supposer
que g11 = gik jl . On a alors

1 0 . . . 0 g11 g12 . . . g1n 1 g12 . . . g1n g11

g11
g11

g21
.
0
.
0 1
.
g21

g11 1

.
.
= .
.
.
.

. . ..
..
..
..
..

gn1
0
g11
1 gn1
0
1

0 . . . 0

18
Par le lemme 1.1.9, matrices de part et dautre de g(t) sont coefficients dans
GLn ( [[t]]). On recommence ensuite lopration avec la sous-matrice obtenue, jusqu
lobtention dune matrice diagonale

d1

d2

d(t) =
..

dn

o (d1 ) 6 (d2 ) 6 ... 6 (dn ). Nous remarquons enfin que

d1
t(d1 )
t(d1 ) d1

(d2 )
(d2 )
d2
t
t
d2

..
..
..

.
.
.

(dn )
(dn )
dn
t
t
dn
et que t(di ) di GLn ( [[t]]).


1.2. R
Dans cette section, nous rappellerons certains rsultats de gomtrie algbrique ncessaire la comprhension de ce mmoire. Les varits affines et projectives seront
traites dans le formalisme des schmas. Comme nous le verrons, ce point de vu simplifiera de beaucoup la construction des morphismes de varit des prochains chapitres.
Rappelons dabord brivement les constructions Spec et Proj que nous utiliserons plus
tard.
1.2.1. Spec et varits affines
Il existe deux approches pour dfinir une varit algbrique affine sur un corps k.
Suivant lapproche classique, on peut dfinir les varits affines comme les zros dans
n dune famille de polynmes de k[x1 , ..., xn ]. Une seconde approche, plus abstraite,
consiste parcourir le chemin inverse et dfinir une varit affine partir dune kalgbre intgre de type fini. Cest cette seconde approche que nous suivrons. Pour les
dtails de cette construction, nous rfrons [H] et [M] mais surtout au chapitre I.1 de
[E2] pour les nombreux exemples.
Commenons par un rsultat lmentaire de gomtrie algbrique classique.

19
Thorme 1.2.1. Soit X une varit affine classique. Nous avons alors les correspondances biunivoques

{Points de X}

{Idaux maximaux de k[X]}

{Sous-varits irrductibles de X}

{Idaux premiers de k[X]}

D. Cest essentiellement un corollaire des lemmes 1.1.5 et 1.1.6. Voir

[M], proposition 2, Chapitre 1, Section 2.

Soit maintenant A une k-algbre intgre de type fini. Sur lensemble Spec(A) des
idaux premiers de A, nous dfinirons la topologie de Zariski en dsignant comme
ferms les sous-ensembles de la forme V(E) = { p Spec(A) : p E} pour E un
sous ensemble de A. Les ouverts seront alors les sous-ensembles de la forme D(E) =
Spec(A) V(E) pour E un sous-ensemble de A. Une base de cette topologie est alors
obtenue en prenant les ouverts distingus X f = Spec(A) V(( f )) pour f un lment de
A. Contrairement aux points de Spec(A) correspondant aux idaux maximaux de A, on
remarque que Spec(A) possde aussi des points non ferms correspondant aux idaux
premiers non maximaux. Par exemple, la fermeture du point correspondant lidal
premier (0) est la varit elle-mme. On notera m x lidal maximal correspondant x,
un point ferm de Spec(A).
Enfin, on dfinira sur cet espace topologique une structure de varit affine abstraite
en dfinissant sur les ouverts distingus une structure de faisceau danneaux, donne
par O(X f ) = A f , que lon tendra tous les ouverts.
A peut alors tre vu comme lanneau de coordonnes de Spec(A) ; si x Spec(A)
et f A la valeur de f (x) est donne par la valeur de f dans le corps A/ m x . Si k
est algbriquement clos, A/ m x  k par le Nullstellensatz et on retrouve la dfinition
classique de lanneau de coordonnes.
Exemple 1.2.1. Si on prend Spec(k[X, Y]), on retrouve alors la varit affine 2 avec
en plus les points gnriques correspondant aux courbes irrductibles de 2 et le point
gnrique associ lidal (0).
Remarque 1.2.1. Si on demande simplement que A soit un anneau commutatif avec
1, nous obtenons la dfinition plus gnrale de schma affine.

20
Pour un point x dune varit affine X, nous noterons O x la localisation de lanneau
de coordonn de X en lidal maximal m x . Remarquons que puisque O x est un anneau
local, limage de x est le seul point ferm de la varit Spec[ O x ]. La localisation en
gomtrie algbrique correspond donc lide de petit voisinage. Nous verrons plus
tard quil est possible dobtenir un plus petit voisinage encore par la compltion de O x .
Donnons maintenant la dfinition du produit de deux varits affines.
Dfinition 1.2.1. Si X = Spec(A) et Y = Spec(B) sont des varits affines sur k, on
dfinit le produit de X et Y par X Y = Spec(A k B). On vrifie que cette varit
satisfait la proprit universelle du produit et que lespace sous-jacent est isomorphe
au produit cartsien de X et de Y.
1.2.2. Proj et varits projectives
La construction de la varit projective Proj(S ) pour une k-algbre intgre gradu
S est trs semblable celle de Spec(A) pour une k-algbre intgre A. Les dtails de
cette construction se retrouvent par exemple dans [EGA, Chapitre II, Section 3 et 4].
Comme ensemble, Proj(S ) est constitu des idaux premiers gradus de S ne
contenant pas lidal irrelevant S + .
Tout comme nous lavons fait pour le Spec, on munie le lensemble Proj(S ) dune
topologie de Zariski. Les ferms de cette topologie sont alors les sous-ensembles de la
forme
V+ (E) = V(E) Proj(S ) o E est un sous-ensemble de S
Les ouverts tant alors les sous-ensembles de la forme D+ (E) := Proj(S ) V+ (E).
Les D+ ( f ) o f est un lment homogne de S sont les ouverts distings, nots X f , et
forment une base douvert pour la topologie de Zariski.
Comme dans le cas de Spec(A), on dfinit sur Proj(S ) une structure de varit
projective abstraite en fixant O(X f ) = S f,0 et en tendant ce faisceau aux autres ouverts.
Montrons que le Proj dune k-algbre gradue de type fini est une varit projective.
Proposition 1.2.1. Proj(k[x0 , ..., xn ])  n .
D. Voir [EGA], Thorme 2.4.3.

Proposition 1.2.2. Soit S un anneau gradu degr positif. Alors, pour tous d > 0,
Proj(S )  Proj(S (d) ).

21
D. Voir [EGA], Thorme 2.4.7.

Proposition 1.2.3. Soit S = k[ f1 , ..., fm ] une k-algbre gradue de type fini, o deg( fi ) =
ni . Alors Proj(S ) est une varit projective.
D. Soit n le plus grand commun multiple de n1 , ..., nm . On peut alors
crire S (d) = k[h1 , ..., hr ], o deg hi = n. Soit I, le noyau de lapplication
: k[h1 , ..., hr ] k[x1 , ..., xr ]
Lidal I est alors lidal des relations entre les hi et nous obtenons lisomorphisme
k[h1 , ..., hr ]  k[x1 , ..., xr ]/I.
Par le thorme prcdent nous obtenons donc que
Proj(S )  Proj(S (d) )  Proj(k[x1 , ..., xn ]/I)
Par la proposition 1.2.1, Proj(S ) est donc isomorphe la sous-varit de n1
dfinie par les zros communs des polynmes homognes de I.

1.2.3. Morphismes de varits
Dans cette section, nous noncerons quelques rsultats sur les morphismes de varits.
Rappelons quun morphisme : X Y de varit est une application continue
munie dune famille dhomomorphismes de k-algbres UV : O(U)Y O(V)X satisfaisant certaines conditions de compatibilit (voir par exemple [E2] o [M] pour
une dfinition plus complte). Les fibres de sont les sous-ensembles de X la forme
1 ((x)).
Soit X et Y des varits irrductibles. Un morphisme : X Y est dit dominant
si son image est dense dans Y, cest--dire ( X) = Y. Si est dominant, on montre
que : k[Y] k[X] est alors injectif faisant de k(X) une extension de corps de k(Y).
Un morphisme dominant est dit birationnel si induit un isomorphisme de k(Y)
dans k(X).
Thorme 1.2.2 (Thorme principal de Zariski). Un morphisme bijectif et birationnel entre 2 varit normales est un isomorphisme.

22
D. (Voir [M], Chapitre III, section 9, Proposition 1)

Exemple 1.2.2. Soit G un groupe algbrique agissant sur une varit algbrique X et
soit x X. Alors le morphisme x : G G x dfini par x (g) = g x est dominant.
1.2.4. Varits normales et non singulires
Dans cette section, nous rappellerons certaines proprits des varits normales.
nous montrerons entre autres quune courbe normale est non singulire. Nous montrerons aussi que les anneaux de coordonnes dune varit normale et dun ouvert de
cette varit concident si et seulement si le bord est assez petit. Le premier rsultat sera
de premire importance pour la dmonstration du critre de Hilbert-Mumford alors que
le second sera utilis dans la gnralisation de ce critre aux sous-groupes maximaux
unipotents.
Dfinition 1.2.2. Soit X = Spec(A) une varit affine. X est dite normale si tout anneaux local de A est entier dans son corps de fraction.
Rappelons maintenant la dfinition dun ple.
Dfinition 1.2.3. Soit X une varit algbrique normale et f k( X). Un ple de f est
une sous-varit irrductible ferme Z X de codimension 1 sur lequel f nest pas
dfinie.
Le lemme suivant nous indique limportance de telles sous-varits pour ltude
des varits normales.
Lemme 1.2.1. Soit X une varit normale et f k(X) une fonction globale non dfinie
sur un sous-ensemble ferm Z. Alors Z est un ple de f .
Exemple 1.2.3. Considrons la varit normale 2 . Le lemme prcdent nous indique
que les fonctions rgulires sur 2 sont aussi rgulires sur 2 \{(0, 0)}, cest--dire
que lanneau de coordonnes de 2 \{(0, 0)} est k[x, y]. En particulier, nous obtiendrons
que 2 \{(0, 0)} est une varit quasi affine.
Lexemple prcdent se gnralise tous les ouverts U dune varit normale X
telle que codim(X\U) > 2.
Lemme 1.2.2. Soit X une varit normale et U un ouvert de X tel que codimX (X
U) > 2. Alors k[ X] = [ Z].

23
D. Linclusion de i : k[ X] , k[U] dcoule du fait que i : U , X
est dominant. Montrons maintenant linclusion inverse. Soit f k[ X]. Remarquons
premirement que i induit un isomorphisme entre k(U) et k(X). On peut donc identifier
f un lment de k(X). Supposons que f ne soit pas un lment de k[X], cest--dire
quil existe un sous-ensemble ferm de X\U sur lequel f nest pas dfinie. Par le lemme
1.2.1, Z doit alors tre de codimention 1 dans X, une contradiction.

Soit X une varit algbrique. Un point x de X est dit non singulier si m x peut tre
engendr comme O x -module par r lments, o r est la dimension de Krull de O x . De
manire quivalente, les points non singuliers sont ceux o la dimension de lespace
tangent est minimale.
Proposition 1.2.4. Soit X une varit normale et S lensemble des points singuliers de
X. Alors codimX S > 2
D. Voir [M], Chapitre III, Section 8, Proposition 1.

En particulier, nous obtiendrons le lemme important suivant :

Corollaire 1.2.1. Une courbe algbrique normale est non singulire.
Dans le contexte de la dfinition 1.2.3, la proposition 1.2.4 nous indique que les
seules singularits dune varit normale sont contenues dans des ples.
1.2.5. Compltion
Dans cette section, nous discuterons de la notion de compltion dune varit affine.
Nous y nonons le thorme de Cohen sur lequel reposera notre preuve du critre de
Hilbert-Mumford.
Comme la plupart des notions de gomtrie algbrique, la compltion dune varit correspond une notion analogue dalgbre commutative. Soit A un anneau local
b est obtenue
didal maximal m. Rappelons que la compltion m-adique de A, note A,
en prenant la limite inverse de la filtration A0 A1 ... An ..., o An = mn , o
b = lim(A/ mn ).
An = mn , cest--dire A

Dfinition 1.2.4. Un anneau local A est dit complet dans la topologie m-adique sil est
gal sa completion m-adique.

24
Exemple 1.2.4. La compltion (t)-adique de k[t](t) est k[[t]] lanneau des sries for[  k[[t]]
melles en une variable. Par le lemme prcdent on obtient donc que k[[t]]
Nous rfrons [A, Chapitre 10] pour plus de dtail ce sujet.
Dfinition 1.2.5. Une varit X est dite complte si pour toute varit Y, la projection
pr X : X Y Y est ferme.
Exemple 1.2.5. Les varits projectives, en particulier n , sont compltes alors que
les varits affines, en particulier n , ne le sont pas.
Pour un espace Haussdorf, cette dernire notion correspond la notion varit compacte.
nonons maintenant le thorme de Cohen
Proposition 1.2.5. Soit X une -varit algbrique affine de dimension r et x un point
rgulier de X. Alors O x / mkx est isomorphe [[y1 , ..., yr ]]/(y1 , ..., yr )k pour tous k. En
particulier, c
O x est isomorphe [[y1 , ..., yr ]].


D. Voir [M2], proposition 1.27.

Corollaire 1.2.2. Soit X une courbe algbrique normale. Alors c

O x est isomorphe
[[t]].

D. Par la proposition 1.2.1, une courbe normale est rgulire. Le rsultat



est alors immdiat par la proposition prcdente.

Pour une courbe normale X, Nous obtiendrons les homomorphismes

: [X]

Ox

[[t]]

telle que ( )1 (t) = m x . Dun point de vu gomtrique, Spec( [[t]]) est un schma
affine constitu de deux points ; un point ferm associ lidal (t) et un point gnrique
associ (0). Nous obtenons alors un morphisme : Spec( [[t]]) X, tel que
= , envoyant le point ferm de Spec( [[t]]) sur x et le point gnrique sur celui
de X. Nous utiliserons une construction semblable dans la dmonstration du critre de
Hilbert-Mumford 5.1.1.

25

1.3. G
1.3.1. Groupes linaires algbriques
Dans cette section, nous discuterons des rsultats de la thorie des groupes linaires
algbriques que nous utiliserons tout au long du mmoire. Nous nous baserons essentiellement sur les classiques [Hu] et [B].
Soit G une varit algbrique dfinie sur k. On dira que G est un groupe linaire
algbrique si lensemble des points de G est munie dune dune structure de groupe
compatible avec la structure de varit de G. Plus prcisment, on demande lexistence
de morphisme de varits m : G G G, i : G G et dun lment identit e G
satisfaisant les axiomes usuels dun groupe. Un groupe linaire algbrique est dit affine
si la varit sous-jacente est affine. Tous les groupes tudis dans ce mmoire tant
affines, nous utiliserons groupe linaire algbrique au lieu de groupe linaire algbrique
affine.
Exemple 1.3.1. Le groupe des matrices inversibles nn coefficients dans k, GLn ( k),
1
].
est un groupe linaire algbrique dont lanneau de coordonnes est k[x1,1 , ..., xn,n ,
det
Le groupe des matrices n n dterminant 1, SLn ( k) est quant lui un groupe linaire algbrique dont lanneau de coordonnes k[x11 , ..., xn,m ]/(det1). Pour ces deux
groupes comme pour les groupes de matrices en gnral, lidentit sera note I
Le thorme suivant montre quen fait, tous les groupes linaires algbriques sont
isomorphes un sous-groupe ferm dun certain GLn .
Thorme 1.3.1. Soit G un groupe algbrique sur k. Alors G est isomorphe un sousgroupe de GLn ( k) pour une certaine valeur de n.
D. Voir [B], Proposition 1.10.

Limage de G est alors appele une ralisation de G dans GLn ( k). Ce thorme
nous permet de dfinir pour les groupes linaires les mmes notions que pour GLn ( k).
On dit alors quun lment x s de G est semi-simple si la matrice reprsentant x s dans
GLn ( k) est semi-simple, cest--dire x s est diagonalisable. De la mme faon, un lment xu de G est dit unipotent si cette matrice unipotente, cest--dire xu I est nilpotente. On montre que cette dfinition ne dpend pas de la ralisation de G choisie.

26
Un tore de G est un sous-groupe de G constitu dlments semi-simples. On
montre quun tore de dimension n est isomorphe n copies de GL1 ( k)  k . Un
tore maximal de G est un tore de dimension maximal. Un sous-groupe unipotent de
G est un sous-groupe de G constitu dlments unipotents ; un sous-groupe maximal
unipotent est un sous-groupe maximal unipotent de dimension maximale.
Soit G un groupe linaire algbrique et X = Spec(A) une varit affine. Une action
(rgulire) de G sur X est un morphisme de varit
:GX X
que lon note (, x) = x, satisfaisant les axiomes de laction dun groupe cest-dire tel que ( x) = x) et e x = x.
Le thorme suivant nous sera utile pour ltude des orbites.
Lemme 1.3.1. La dimension des orbites est donne par
dim(G x) = dim(G) dim(G x ).
D. Considrons lapplication x : G X ; g 7 g x. Nous avons alors
x (G) = G x. Les fibres de x sont alors des translats de G x et ont donc toutes la
mme dimension que G x . Un calcul de dimension nous donne alors que dim(G) =
dim(G x) + dim(G x )

Au lieu dtudier laction dun groupe G sur une varit affine X, il est parfois
prfrable dtudier la coaction induite sur lanneau de coordonnes de X. Cette action
est dfinie par lhomomorphisme

: A G A dfinit par ( f )(, x) := f ( x)

On montre que la coaction dfinit compltement laction du groupe.

1.3.2. Groupes linairement rductifs
Les groupes linairement rductifs sont agrables dans la mesure o les reprsentations de ces groupes sont bien comprises. Dans cette section, nous discuterons des
proprits de la reprsentation de ces groupes, telles que lexistence dun oprateur de
projection sur les invariants. Nous utiliserons plus tard les rsultats de cette section

27
pour mieux comprendre laction dun groupe linairement rductif sur une varit affine. Rappelons dabord quelques notions de la thorie de la reprsentation des groupes
linaires algbriques.
Dfinition 1.3.1. Une reprsentation (rationnelle) V dun groupe linaire algbrique
G est un espace vectoriel V de dimension finie muni dun morphisme de groupe algbrique : G GL(V). Une reprsentation induit une action linaire de G sur V,
dfinie par v = ()v. Les sous-reprsentations de V sont les sous-espaces G-stable
de V. Une reprsentation est dite irrductible si ses seules sous-reprsentations sont
elle-mme et 0. Enfin, une reprsentation est dite semi-simple si V est une somme
direct de sous-reprsentations irrductibles.
Nous pouvons maintenant donner la dfinition de groupe linaire algbrique que
nous utiliserons.
Dfinition 1.3.2. Un groupe linaire algbrique est dit linairement rductif si toutes
ses reprsentations rationnelles sont semi-simples
Remarque 1.3.1. En caractristique 0, on peut montrer cette notion concide avec la
notion de groupe rductif telle que dfinie dans [B] ou dans [Hu]. En caractristique
p > 0 cependant, les groupes linairement rductifs sont beaucoup moins nombreux
que les groupes rductifs. Nous traiterons du cas modulaire dans le chapitre 7.
Une des proprits les plus importantes des groupes linairement rductifs est
lexistence, pour chaque reprsentation rationnelle, dune projection G-quivalente de
V sur V G . Cette projection porte le nom doprateur de Reynold.
Dfinition 1.3.3. Soit G un groupe linairement rductif agissant sur un espace vectoriel V. Alors un oprateur de Reynold sur V est une application k-linaire R : V V
satisfaisant
(i) R( f ) = f
(ii) R( f ) = f

f VG ;
f V.

La proposition suivante suit alors directement de la dfinition dun groupe linairement rductif.
Proposition 1.3.1. Soit G un groupe linaire algbrique. Alors, pour toute reprsentation rationnelle V, il existe un unique oprateur de Reynold.

28
Le lemme suivant nous permet dappliquer les rsultats de la thorie de la reprsentation des groupes linairement rductifs ltude de laction dun tel groupe sur
une varit affine.
Lemme 1.3.2. Soit X = Spec(A) une varit sur laquelle agit un groupe algbrique G
et soit V A un sous-espace de dimension finie. Il existe alors un sous-espace W A
G-stable de dimension finie contenant V.
D. Voir [Hu], proposition 8.6.

On montre que le morphisme : G GL(V) dfini par (g)v = gv dfinit une

reprsentation. Nous pouvons maintenant gnraliser la proposition 1.3.1.
Corollaire 1.3.1. Soit G un groupe algbrique agissant sur une varit affine X =
Spec(A). Il existe alors un unique oprateur de Reynold R : A A.
D. Montrons lexistence dun tel oprateur. Soit f A. On dfinit alors
R : A A par R( f ) = RV ou V est une reprsentation contenant f et RV : V V
loprateur de Reynold associ V. Par lunicit de loprateur de Reynold, R( f ) ne
dpend pas du choix de V. Par construction de R, il est clair quil sagit dun oprateur
de Reynold. Montrons lunicit. Soit R0 : A A un autre oprateur de Reynold et soit
f A tel que R0 ( f ) , R( f ). Soit V une reprsentation rationnelle contenant f . Alors
R0 ( f ) |V et R( f ) |V sont deux oprateurs de Reynold diffrents, en contradiction avec
lunicit de loprateur de Reynold.

1.3.3. Caractres et sous-groupes 1 paramtre

Soit G un groupe linaire. Les caractres de G sont alors les morphismes de G dans
k . Lensemble des caractres de G est not X(G). Soit , 0 X(T ). On donne X(T )
une structure de groupe ablien en imposant 0 (g) = (g)0 (g) pour g G. Si T est
un tore, la structure de X(G) est donne par la proposition suivante :
Proposition 1.3.2. Soit T un tore de dimension k. Alors le groupe X(T ) des caractre
de T est isomorphe k .
D. Voir [B], Proposition 8.5.

29
Soit : G GL(V) une reprsentation rationnelle de G et soit un caractre de
G. On dfinit alors les sous-espaces
{V = v V | (g)v = (g)}
Les caractres pour lesquels les V sont non nuls sont appels les poids de G ; les
lments de V sont dit vecteurs de poids , ou alors semi-invariants de G.
Le lemme suivant sera alors utile.
Lemme 1.3.3. Les sous-espaces V sont linairement indpendants. En particulier, les
poids de G sont en nombre fini dans V.
D. Voir [B], Lemme 5.2.

Soit G un groupe linaire. Les sous-groupes 1-paramtre de G sont alors les

morphismes de k dans G. Soit : k G un tel morphisme. Limage de est alors
un sous-groupe de G paramtr par t. On note Y(T ) lensemble des sous-groupes de
1-paramtre.
Dfinition 1.3.4 (Sous-groupe 1 paramtre). Soit G un groupe linaire algbrique.
Un sous-groupe 1 paramtre de G est un morphisme de varits : k G.
Soit et 0 des sous-groupes 1-paramtre de G. On donne une structure de groupe
Y(T ) en dfinissant la multiplication par 0 (g) = (g)0 (g) pour g G. Contrairement aux caractres, ce groupe nest ablien que si G lest. Cest notamment le cas
dans le cas dun tore. Dans ce cas, on obtient un rsultat analogue la proposition
1.3.2.
Proposition 1.3.3. Soit T un tore de dimension k. Alors le groupe Y(T ) des sousgroupes de 1-paramtre de T est isomorphe k .
D. Voir [B], Proposition 8.5.

Le prochain rsultat nous permet alors de dcrire tous les sous-groupes 1-paramtre
de G en fonction de ceux, beaucoup plus simples, comme on vient de le voir, dun tore
maximal de G.
Lemme 1.3.4. Soit G un groupe linaire et T un tore maximal de G. Alors tous les
sous-groupes 1-paramtre de G sont conjugs aux sous-groupes 1-paramtre de T ,
cest--dire Y(G) = GY(T )G1

30
Nous montrons ici quil est possible didentifier Y(T ) avec lespace dual de X(T ).
Nous pourrons alors remplacer ltude des sous-groupes 1 paramtre par ltude des
caractres duaux, ce qui nous sera utile au chapitre 5
Soit X(T ) et Y(T ). La composition de et est donc un lment de
X(k), cest--dire (t) = tk . On dfinit une forme bilinaire X(T ) Y(T )
par h, i = k. Cette forme bilinaire induit alors un homomorphisme de groupe entre
Y(T ) et X(T ) . La proposition suivante nous dit quil sagit dun isomorphisme.
Proposition 1.3.4. Si T est un tore, alors lapplication bilinaire

X(T ) Y(T )
dfinie plus haut est un pairage dual.


D. Voir [B], Proposition 8.6

Terminons cette section par un rsultat que nous utiliserons au chapitre 6.

Lemme 1.3.5. Soit : GLn ( ) un sous-groupe 1 paramtre. Alors le sousgroupe P , form des matrices A de GLn ( ) pour lesquels la limite de (t)A(t)1
quand t tend vers 0 existe, est un sous-groupe parabolique.
D. On sait que limage de est contenue dans un tore maximal de GLn ( ),
disons T 0 . On a donc T = T 0 1 pour un certain GLn ( ).
Considrons maintenant 0 = 1 le sous-groupe 1 paramtre valeur dans T
donn par 0 (t) = (t)1 . En rechoisissant si ncessaire, on peut donc supposer
que

t1 I
n1

. . .

0
(t) = . . .
.
..

. . .

..
.

..
.
. . . . ..

...
...
.. 2
..
..
. t In2 .
.
..
.
..
.

o 1 > 2 > ... > m . Soit maintenant

...
...
0

...
.. . . ..
. .
.
..
.

...
0

0
...
0
...
0

...
.. m
. t Inm

31

A
11

. . .

A
21

A = . . .

. . .

A
n1

..
.
. A12 ..
..
.
..
.
..
.

...
..
.

...

..
.

...

..
. A1n

. . .

..

. . . GLn ( )

..

. . .

..
. A1n

...
.. . .
.
.

...

...

..
.

Alors

0 (t)A0 (t)1

A
11

. . .

t2 1 A
21

= . . .

. . .

n 1
t
An1

.. 1 2
.
. t
A12 ..
...
..
.

..
.
..
.
..
.

...

..
.

...

...
.. . .
.
.

...

...

..
.

.. 1 n
. t
A1n

. . .

..

. . . GLn ( )

..

. . .

..
.
A1n

Mais puisque i j > 0 i 6 j, limt0 0 (t)A0 (t)1 est dfinie si et seulement si

Ai j = 0 i > j.
On a donc

. . .

P0 = . . .

. . .

..
.
..
.
..
.
..
.

...

...
0
...
0

..
.
..
.
..
.
..
.

...

...

...
0

..
.
..
.
..
.
..
.

. . .

. . .

. . .

Un sous-groupe parabolique. De plus vrifie que P = 1 P1 . P est donc aussi

un sous-groupe parabolique.

32

1.4. G -
Nous dmontrons dans cette section quelques rsultats plus profonds de la thorie
des groupes linaires algbriques qui seront utiles dans le chapitre sur les sous-groupes
maximaux unipotents.
Dans le chapitre 6, nous nous restreindrons ltude de laction des sous-groupes
maximaux unipotents dun groupe semi-simple. Nous rappelons ici quelques rsultats
sur les groupes semi-simples. Nous rfrerons la plupart du temps au chapitre XI de
[Hu]. Le Chapitre 0 de [Hu2] prsente aussi un excellent rsum des proprits des
groupes semi-simples dont nous aurons besoins. La majorit des rsultats noncs dans
cette section restent vrais pour des groupes linairement rductifs.
Soit G un groupe semi-simple et H un sous-groupe de G. On peut alors considrer
laction de H sur G par translation droite. On montre quil sagit dune action de
groupe algbrique.
Thorme 1.4.1. Lespace dorbite de lexemple prcdent peut tre muni dune structure de varit.
D. Voir [Hu], Theorem 12.1.

La varit obtenue est alors note G/H. En gnral cependant, cette varit nest
ni affine ni projective.
Dfinition 1.4.1. Les sous-groupes paraboliques de G sont les sous-groupes P pour
lesquels G/P est une varit projective alors que les sous-groupes de Borel sont les
sous-groupes paraboliques minimaux de G, cest--dire qui ne contiennent pas dautres
sous-groupes paraboliques.
Exemple 1.4.1. Le sous-groupe de GLn constitu des matrices triangulaires suprieures, not Bn , est un sous-groupe de Borel. Un sous-groupe de GLn constitu de
matrices triangulaires suprieures par blocs est parabolique.
Rappelons aussi que deux tores maximaux dun parabolique P sont conjugs par
un lment de P. nonons maintenant un thorme fondamental de la thorie des
groupes linaires algbriques qui nous sera utile dans le chapitre 6
Thorme 1.4.2 (Dcomposition de Bruhat). Soit G un groupe (linairement) rductif, B un sous-groupe de Borel et W le groupe de Weil associ ce Borel. Alors

33
G est lunion disjointe des translats BwB ou w W. Autrement dit, nous avons la
F
dcomposition G = wW BwB.
D. Voir [Hu], thorme 28.3.

Corollaire 1.4.1. Lintersection de deux paraboliques contient un tore maximal.

D. Soit B et B0 , deux sous-groupes de Borel. Alors B = gB0 g1 pour un
certain g G. Soit T un tore maximal de B0 . Par le thorme de dcomposition de
F
Bruhat, on obtient G = W B0 B0 , ou W = NG (T )/T en particulier g = b1 b2 , avec
normalisant T et b1 , b2 B0 . On obtient alors
1 1
0 1 1
B = b1 b2 B0 b1
2 b1 = b1 B b1

do
1 1
0 1 1
b1 T b1
1 = b1 T b1 b1 B b1 = B

Mais b1 T b1
1 est aussi un tore maximal de B, ce qui complte la preuve

Soit G , le groupe semi-simple de rang 1 engendr par U et U . Nous utiliserons

dans le chapitre 6 les rsultats suivants :
Proposition 1.4.1. G est isomorphique SL2 o PGL2


t 0
0
1

Exemple 1.4.2. Soit G = SL3 et soit X(T ) tel 0 t2

0 = t1 t21 .

0 0 t1 t1
1 2

1 0 0
1 0 1

Soit G groupe engendr par U = 0 1 0 et U = 0 1 0

1 0 1
0 0 1

a 0 b

:
ad

ac
=
1
, isomorphe SL2 .
G est alors le sous ensemble

0
1
0

c 0 d
Proposition 1.4.2. Soit X(T ) et une racine telle que h, i = 0 et soit v V tel
D. Voir [B], Corollaire 32.3.

que U Gv . Alors U Gv .

34
D. Voir [G], Thorme 3.2.

Chapitre 2

QUOTIENT AFFINE : CAS O G EST FINI

Dans le cas dun groupe algbrique fini G agissant sur une varit affine X, la notion
de quotient de X par G est somme toute assez naturelle. Nous supposerons que k est
un corps quelconque. Dans ce cas, il est en effet possible de construire une varit
affine X//G dont lespace topologique sous-jacent satisfait les conditions dun quotient
topologique.
Commenons ce chapitre par lexemple simple de laction du groupe symtrique
n sur n par permutation des lments de la base.
Exemple 2.0.3 (Polynmes symtriques). Soit n le groupe des permutations de n
lments et considrons laction de n sur n , lespace affine n dimensions, dfinie par (x1 , ..., xn ) = (x(1) , ..., x(n) ). Cette action induit alors une action sur
k[ n ] = k[X1 , ..., Xn ] dfinie par ( f )(x1 , ..., xn ) = f ( (x1 , ..., xn )). Soit k[ n ]

lalgbre des polynmes invariants sous cette action. Par le thorme fondamental des
polynmes symtriques, voir [Kr, Theorem 4.6] les polynmes symtriques forment
n

alors un systme de gnrateurs de k[ n ] , cest--dire que

n

k[ n ] = k[ f1 , ..., fn ]
o fk =

n
X

xi1 ...xik .
16i1 6...6ik 6n

Considrons maintenant lapplication

: (n)
x
o x = (x1 , ..., xn )

7 ( f1 (x), ..., fn (x))

36
Puisque les fi sont n invariants, lapplication est constante sur les orbites. Dans
ce chapitre, nous montrerons en plus que limage de est ferme dans n et que cette
application spare les orbites distinctes.
Tous au long de ce chapitre, G dsignera un groupe algbrique fini et X une varit
affine sur laquelle agit G. Rappelons que cette action induit une action sur k[X], dfinie
par f (x) = f (x) et que lon nomme algbre des invariants la sous-algbre constitue
des lments de k[X] invariants par rapport cette action.
Dfinition 2.0.2. Lalgbre des invariants est la sous-algbre dfinie par
k[X]G := { f k[X] : f (x) = f (x) G et x X}

2.1. T` H
Contrairement lexemple prcdent, dans le cas gnral, on ne connat pas explicitement de systme de gnrateurs pour lalgbre des invariants. Le premier rsultat
que nous dmontrerons dans ce chapitre, d milie Noether, affirme quun tel systme existe nanmoins.
Thorme 2.1.1 (Hilbert-Noether). Soit G un groupe fini agissant sur une varit affine
X. Alors k[X]G est une k-algbre de type fini.
Nous aurons besoin du lemme suivant :
Lemme 2.1.1. Soit G un groupe fini agissant sur une varit affine k[X]. Alors k[X]
est entire sur k[X]G .
D. Soit f k[X]. Considrons le polynme F(x) =
dveloppant F, on obtient
F = xn a1 xn1 + ... + (1)n1 an1 x + an
o n est lordre de G et o
ak =

X
i1 <...<ik

On a alors

(i1 f )...(ik f )

G (x

f ). En

37

ak =

(i1 f )...(ik f )

i1 <...<ik

(i1 f )...(ik f ) = ak

i1 <...<ik

On conclut donc que F est coefficients dans k[X]G . Enfin f est une racine de F par
construction de ce dernier, ce qui termine la preuve.

D ` 2.1.1. Par le lemme prcdent, k[X]G est entire sur k[X]

et donc de type fini par le lemme 1.1.1.

2.2. C
Lalgbre des invariants k[X]G tant de type fini par le thorme 2.1.1, il est nous
est alors possible de considrer la varit affine Spec(k[X]G ). Nous montrerons que
cette varit satisfait les proprits que lon pourrait attendre dune varit quotient.
Plus prcisment, nous montrerons le thorme suivant :
Thorme 2.2.1. Soit Spec(k[X]G ) et : Spec(k[X]) Spec(k[X]G ) le morphisme
induit par linclusion de k[X]G dans k[X]. Alors satisfait les proprits suivantes :
(i) est un morphisme surjectif ;
(ii) est G-invariant ;
(iii) spare les orbites de G.
D. (i) Soit m Spec(k[X]G ). Par le lemme 2.1.1, on sait que i : k[X]G ,
k[X] est entire. Par le lemme 1.1.4 il existe donc m0 Spec(k[X]) tel que m0 k[X]G =
m cest--dire tel que ( m0 ) = m
(ii) Soit q Spec(k[X]). Soit maintenant f ( q) = q k[X]G et G. Alors
f = f q k[X]G . De lautre cot, si f ( q) = q k[X]G , alors
f = 1 f = f q k[X]G . On a donc ( q) = ( q)
(iii) Soit p Spec(k[X]G ) montrons dabord que G agit transitivement sur les
idaux de 1 ( p), par (ii), on aura alors que chaque fibre de contient exactement une
orbite.
Soit p Spec(k[X]G ) et q1 , q2 Spec(k[X]) tels que qi k[X]G = p, montrons
qualors, q1 = q2 pour un certain G. Soit f un lment de q1 . Alors h :=

38
Q

f est aussi dans q1 puisque q1 un idal. Mais par construction, h est un aussi

G-invariant et est donc dans q1 k[X]G = p, plus forte raison dans q2 . Mais puisque
q2 est premier, q2 doit contenir des facteur de h, disons f . Do f 1 q2 et q1
G q2 . Enfin, q1 tant premier, On doit avoir q1 q2 pour un certain G. Mais
q1 k[X]G = p et q2 k[X]G = p do q1 = q2 .

La paire constitue de la varit affine X//G := Spec(k[X]G ) et du morphisme de

varits affines sera appele un quotient gomtrique de X par G. Nous parlerons
aussi de X//G comme du quotient.
Dans le cas prsent, les orbites, constitues dun nombre fini de points, taient
fermes. Pour quun quotient gomtrique existe, nous montrerons que cette proprit
est en fait ncessaire. Comme nous le verrons dans le prochain chapitre, la proprit
davoir des orbites ferme nest en gnral pas respecte pour un groupe non fini. Nous
devrons par consquent rendre moins contraignante notre dfinition de quotient.

Chapitre 3

QUOTIENT AFFINE

Le but de ce chapitre est de gnraliser les rsultats du chapitre prcdent au cas

dun groupe linairement rductif G agissant sur une varit affine X. Nous supposerons que k est un corps de caractristique nulle, pas ncessairement algbriquement
clos. Commenons par lexemple suivant :

3.1. C
Lobjectif de cette section est la construction dune varit affine classifiant les
endomorphismes dun espace vectoriel de dimension n isomorphisme prs. Quitte
choisir une base de lespace vectoriel, on pourra considrer les endomorphismes
comme des lments de Matn ( ). Deux endomorphismes sont alors isomorphes sils
sont reprsents par des matrices A et B similaires, cest--dire sil existe GLn ( )
tels que B = A1 . Le problme de classification des endomorphismes est donc
remplac par le problme de la construction dun quotient de Matn ( ) par GLn ( ),
pour laction par conjugaison.
Considrons le morphisme
: Matn ( )
A

7 ( f1 (A), ..., fn (A))

o fi est la fonction polynomiale dfinie par fi (A) = ai et les ai sont les coefficients du
polynme caractristique de A, cest--dire pA (t) = tn + a1 tn1 + ... + an . On peut en
fait montrer que les fi forment un systme de gnrateurs pour lalgbre des invariants
[Kr, Thorme 2, p.22].

40
Puisque le polynme caractristique est un invariant de similitude, cest--dire que
pA (t) = pA1 (t), cette application est alors constantes sur les classes de conjugaison.
Montrons quelle est surjective. Si (a1 , ..., an ) n , nous considrerons alors la
matrice compagnon

A = 0

...

0 ... 0

0 ... 0

0 ... 0

... ... ... ...

0

0 ... 1

an

an1

an2

...

a1

ou

...

0 ... 0

0 ... 0

0 ... 0

... ... ... ...

0

0 ... 1

an

an1

an2

...

a1

dpendamment de si n est respectivement pair ou impair. Dans chacun des cas, le polynme caractristique de A sera donn par pA (t) = tn + a1 tn1 + ... + an , cest--dire que
(A) = (a1 , ..., an ). Les fibres sont donc constitues des matrices partageant le mmes
valeurs propre.
Par un thorme lmentaire de la thorie des matrices, chaque classe de conjugaison contient, permutation prs des blocs de Jordan, une unique matrice de forme
canonique de Jordan. Soit 1 (a), la fibre correspondants aux valeurs propre 1 , ..., 1 <
2 , ..., 2 < .... Toutes les orbites de cette fibre sont alors reprsente par une matrices
de Jordan de la forme

1 11
0

..

.
0
0
1

..

. 1k1

0
1

0
2
12

..

.
0
2
0

..

. 1k2

0
2

0
0
o i j = 0 ou 1. Une fois lordre des valeurs propres fix, on obtient donc les diffrent
orbites dune mme fibre en faisant varier les valeurs des i j . Rappelons ici quune
matrice est diagonalisable si et seulement si son orbite est ferme. Par ce qui prcde,

41
chaque fibre contient donc une unique orbite ferme reprsente par la matrice de Jordan dont les i j sont tous nuls.
Montrons que cette orbite est contenue dans la fermeture de chacune des autres orbites. Considrons B = diag(1 , 1 , ..., 1 , 2 , 2 , ..., 2 , ...) la matrice de Jordan contenue dans une orbite ferme et

1 11
0

..

.
1
0
0

...

1k1

0
1

0
2
12

..

.
0
0
2

..

. 1k2

0
2

0
0
la matrice de Jordan dune autre orbite de la mme fibre. Soit maintenant (t) =
diag(tn , tn1 , ..., t) GLn ( ). Nous obtenons alors que

t
0
11
1

..
.
0
1

...
t1k1

0
1

2 t12
0

..
.

0
2

...

t1k2

0
2

0
0

et donc que limt0 (t)A(t)1 = B. La fermeture de lorbite de A contient donc B et,

par continuit, lorbite de B.

42
Nous dirons de deux orbites de fermetures non disjointes quelles sont quivalentes
de fermeture. Nous venons donc montr que spare donc les classes dorbites quivalentes de fermeture. Nous dirons alors de n quil est un quotient de Matn ( ) par
GLn ( ). Nous dfinirons plus tard plus rigoureusement la notion de quotient.
On montre aussi quune matrice est nilpotente si et seulement si les i de la matrice
de forme de Jordan similaire sont identiquement nuls. On peut alors en dduire que le
nilcone compos des matrices nilpotentes.

3.2. T` H
Dans cette section, nous donnerons une gnralisation du thorme de HilbertNoether au cas dun groupe linairement rductif. Ce problme sera initialement pos
sous forme de conjecture par Hilbert lui-mme lors du congrs international de mathmatiques de 1900. Il constitue en fait le quatorzime des clbres 21 problmes de
Hilbert. La conjecture de Hilbert tait alors la suivante :
Conjecture 3.2.1. Soit k un corps, A = k[y1 , y2 , ..., yn ] une k-algbre de type fini et
K = k(y1 , y2 , ..., yn ), le corps de fraction de A. Alors A K est aussi de type fini.
Cette conjecture est en fait une gnralisation dun problme de la thorie classique
des invariants snonant comme suit.
Conjecture 3.2.2. Soit k un corps, A une k-algbre de type fini et G un groupe agissant
sur A. Alors AG est aussi de type fini.
On sait maintenant que ces deux conjectures sont fausses en gnral grce des
contre-exemples de Nagata [N, p.767]. Comme nous lavons vu au chapitre prcdent,
la dernire conjecture est vraie dans le cas ou le groupe est fini. Limportant thorme
de finitude de Hilbert montre quelle reste vraie dans le cas dun groupe linairement
rductif.
Thorme 3.2.1 (Thorme de finitude de Hilbert). Soit G un groupe linairement
rductif agissant rationnellement sur A une k-algbre de type fini. Alors AG est de type
fini.
La proprit suivante nous sera ncessaire pour montrer cet important thorme de
la thorie des invariants. Rappelons quil existe un oprateur de Reynold R : A AG .
Lemme 3.2.1. Soit I un idal G-stable de AG . Alors IA AG = I

43
D. Linclusion IA AG I est claire. Soit maintenant f IA AG ,
P
cest--dire f = hi fi avec hi I et fi A. On a alors
X
X
f = R( f ) = R( hi fi ) = hi R(
fi ) I
P
puisque R( fi ) AG

Lemme 3.2.2. Lalgbre AG est noethrienne.

D. Soit I1 I2 ... AG une chane didaux de AG . Alors AI1 AI2
... AG est une chane didaux de A. Puisque A est noethrien cette chane se stabilise
donc partir dune certaine valeur de i cest--dire il existe n tel que AIi = AIi+1 = ... =
A. Par le 3.2.1, la chane I1 I2 ... AG se stabilise donc aussi partir de i = n. AG
est donc noethrienne.

Nous sommes maintenant prts dmontrer le thorme de finitude de Hilbert.

D. Dmonstration du thorme 3.2.1 Supposons tout dabord que A est
une algbre gradue et que laction de G prserve la gradation. Par le lemme 3.2.2,
nous savons que AG est noethrien et donc de type fini AG par le lemme 1.1.1.

3.3. C
Soit X une varit affine sur laquelle agit un groupe linairement rductif G. Dans
cette section, en nous inspirant des rsultats obtenus pour la classification des endomorphismes, nous construirons une application de X dans une varit se rapprochant
le plus possible dun espace dorbite.
Nous avons montr dans la section prcdente que lanneau des invariants de type
fini. On peut donc prendre le spectre premier de cet anneau pour obtenir la varit
affine X//G := Spec(AG ). On considrera alors le morphisme de varits : X
X//G; m 7 m AG induit par linclusion AG A. Nous montrerons que la paire
( X//G, ) satisfait les proprits de ce que lon appellera un quotient de X par G. Dans
le cas fini, la varit que nous avons construite satisfaisait aussi les proprits dun
espace dorbite. La sparation des orbites est plus problmatique dans le cas rductif.
Il en effet naturel de demander que lapplication quotient soit un morphisme de varit. Les fibres de lapplication quotient doivent alors tre fermes puisquil sont les

44
primages des points ferms de X//G alors que les orbites dun groupe linairement
rductif ne le sont gnralement pas. Illustrons le problme par un exemple simple :
Exemple 3.3.1. Soit k agissant sur 2 par t(x, y) = (tx, ty). La seule orbite ferme est
lorigine alors que toutes les autres orbites sont les droites de 2 passant par lorigine,
prives de lorigine. La seule application quotient envisageable pour cette action est
lapplication triviale de 2 sur la varit dun seul point.
Exemple 3.3.2. Soit k agissant sur 2 par t(x, y) = (t1 x, ty). Lensemble des orbites
a
fermes est constitu de lorigine ainsi que les courbes dquation y = . Les deux
x
autres orbites, laxe des x priv de lorigine et laxe des y privs de lorigine, ne sont
pas fermes et ne peuvent donc pas constituer des fibres de lapplication quotient. En
fait, la continuit de lapplication quotient exige que ces deux orbites soient contenues
dans la mme fibre que lorigine puisque leur fermeture contient le point (0, 0).
Exemple 3.3.3. Soit B GL2 ( k) le sous-groupe de Borel des matrices triangulaires
suprieures 2 2 de dterminant non nul agissant par conjugaison sur b gl2 ( k) le
sous-groupe form des matrices triangulaires suprieures 2 2. Soit maintenant

a b
1 1
B et A =
b
=

b d
0 1

1 ab
et donc que O(A) = u, lensemble des matrices
On obtient alors que A =

0 1
unipotentes de gl2 .

1
doit
Par continuit, une fonction nulle sur toutes les matrices de la forme

0 1

1 0
1 0
. En particulier,
est contenu dans la fermeture de
aussi tre nulle sur

0 1
0 1

1
.
lorbite de
0 1
Ces exemples montrent qu cause de la continuit de lapplication quotient, on
ne peut pas demander lapplication quotient spare les orbites de fermeture non disjointes. Comme dans lexemple des endomorphismes, nous dirons que de telles orbites
quelles sont quivalentes de fermeture. Plus prcisment, des sous-ensembles W1 et
W2 seront dit quivalent de fermeture si W1 W2 , .

45
Les exemples prcdents nous poussent affaiblir la dfinition dun quotient dune
varit algbrique par un groupe linaire algbrique comme suit :
Dfinition 3.3.1. Soit X une varit algbrique et G un groupe linaire algbrique.
Alors un quotient de X par G est une paire constitue dune G varit algbrique X//G
sur laquelle G agit trivialement et dun morphisme : X X//G satisfaisant les
conditions suivantes :
(i) est G quivariant ;
(ii) est surjectif ;
(iii) spare les orbites fermes.
Nous vrifierons que la varit que nous venons de construire satisfait bien ces
conditions. Nous aurons pour cela besoin des rsultats suivants.
Lemme 3.3.1. Soit W1 = V(I1 ) et W2 = V(I2 ) des sous-ensembles ferms G-stables
disjoints de X. Alors 1 I1 + I2
D. Soit W1 = V(I1 ) et W2 = V(I2 ) des sous-ensembles ferms G-stables
disjoints de X. Par le Nullstellensatz on peut crire
p

I1 + I2 = I( V(I1 + I2 )) = I( V(I1 )) I( V(I2 )) = I() = k[ X].

En particulier, on obtient que 1

I1 + I2 et donc aussi que 1 I1 + I2 .

Lemme 3.3.2. Soit G un groupe linairement rductif agissant rationnellement sur un

anneau commutatif A et I1 et I2 des idaux G-stables. Alors (I1 + I2 )G = I1G + I2G
D. Linclusion (I1 + I2 )G I1G + I2G est claire. De lautre cot, soit f
(I1 + I2 )G . Alors f = f1 + f2 o fi Ii . En appliquant loprateur de Reynold, on obtient
alors
f = R( f ) = R( f1 + f2 ) = R( f1 ) + R( f2 ) I1G + I2G .

Lemme 3.3.3. Soit X une varit affine et W1 = V(I1 ) et W2 = V(I2 ) des sousensembles ferms G-stables disjoints de X. Alors, il existe f AG sparant W1 et W2 ,
cest--dire tel que f (W1 ) = 0 et f (W2 ) = 0.
D. Par le lemme 3.3.1, nous avons que 1 I1 + I2 . Puisque cest un
invariant, nous obtenons donc que 1 (I1 + I2 )G . Du lemme 3.3.2 suit que 1 I1G + I2G

46
et donc que 1 = f1 + f2 , o f1 I1G et f1 I1G . f1 = 1 f2 est alors linvariant
recherch.

Proposition 3.3.1. La paire ( X//G, ) satisfait les proprits dun quotient

D. (i) Montrons que est G-quivariant. Soit m un idal maximal de A
et soit f m AG = (m). Alors f = f m AG = (m). Inversement si
f m AG = ( m) alors f = 1 f = f m AG ( m) = ( m).
(ii) La surjectivit maintenant. Soit m AG et considrons m0 = A m. Par le lemme
3.2.1, nous avons que ( m0 ) = A m AG = m.
(iii) Montrons enfin que spare les orbites fermes. En fait, nous montrerons que
spare les sous-ensembles ferms G-stables disjoints. Soit W1 = V(I1 ) et W2 = V(I2 )
de tels sous-ensembles. Par le lemme 3.3.3, il existe f AG tel que f (W1 ) = 0 et
f (W2 ) = 0, cest--dire que f (W1 ) mais que f < (W2 ).

Nous voudrons montrer que les fibres de sont en correspondance biunivoque

avec les orbites fermes de G. Nous aurons pour cela besoin du thorme suivant de la
thorie des groupes linaires :
Proposition 3.3.2. Soit G un groupe algbrique agissant rationnellement sur une varit X. Alors, chaque orbite est une varit lisse ouverte dans sa fermeture dans X.
Sa frontire est une union dorbites de dimension strictement plus petite.
D. Voir [B], Proposition 1.8.

Thorme 3.3.1. Chaque classe dorbites quivalentes de fermeture contient exactement une orbite ferme, contenue dans la fermeture de toutes les autres orbites cette
classe.
D. Une classe dorbites quivalentes de fermeture contient au maximum
une orbite ferme puisque deux orbites fermes sont disjointes. Montrons maintenant
que chaque classe en contient au moins une. Soit O, une orbite de dimension minimale,
dans sa classe. Par la proposition 3.3.2, la frontire de O est une union dorbites de dimensions strictement plus petites, une contradiction avec la minimalit de la dimension
de O.

47
Corollaire 3.3.1. Lapplication quotient spare les classes dorbites quivalentes de
fermeture.

3.4.
En plus de satisfaire les proprits dun quotient, le morphisme satisfait certaines
belles proprits qui seront utiles pour la suite. Montrons quil sagit dun morphisme
ferm.
Proposition 3.4.1. Lapplication quotient est une application ferme.
D. Soit W une sous-varit ferme de X et soit z ( W) ( W). Alors
W et Z := 1 (z) sont ferms disjoints. Par le corollaire 3.3.3, il existe f AG tel que
f ( W) = 0 et f ( Z) , 0 ou algbriquement, tel que f m x x W et f < m x x Z.
Puisque f AG , on obtient aussi que f ( m x ) = m x (AG ) x W et f < ( m x ) =
m x (AG ) x Z.

Autrement dit, f spare aussi ( W) et (Z) = z, une contradiction avec la continuit

de f . On conclut donc que ( W) est ferm. Le lemme suivant nous permettra de mieux
comprendre la structure du quotient.
Lemme 3.4.1. Soit I, un idal G-stable de A. Alors (A/I)G = AG /I G .
D. Soit R : A A loprateur de Reynold associ A et soit R : A/I
A/I loprateur de Reynold associ A/I. Soit f A et f son image dans A/I. Nous
avons alors que R( f ) = R( f ). Si f (A/I)G , nous obtenons que f = R( f ) = R( f ).
Le rsultat suit alors du fait que R( f ) AG .

Donnons une interprtation gomtrique de ce rsultat. Soit Y une sous-varit

ferme, pas ncessairement irrductible, de la varit affine X = Spec(A). On peut
alors crire Y = Spec(A/I) o I est un idal radical de A. Nous obtenons alors le
diagramme commutatif
X = Spec(A)

- Spec(AG ) = X//G
6

|Y
Spec(AG /I G ) = Y//G
Y = Spec(A/I) -

48
Par contre, en considrant Y comme une varit, nous obtenons plutt lapplication
quotient

Y = Spec(A) - Spec((A/I)G ) = Y//G

Le lemme 3.4.1 nous assure que les quotients obtenus de ces deux faons sont
isomorphes.

Chapitre 4

QUOTIENT PROJECTIF

Dans le chapitre prcdent, nous avons discut de la construction du quotient dune

varit affine par un groupe linairement rductif. Comme en tmoigne lexemple important de la classification des courbes elliptiques prsent en introduction de ce mmoire, les varits pour lesquelles nous souhaiterons construire un quotient sont souvent projectives. Dans ce cas, il sera naturel de demander ce que la varit obtenue
soit elle aussi projective.
Illustrons notre dmarche laide dun exemple simple.
Exemple 4.0.1 (Polynmes symtriques revisits). Soit 2 = Proj( [x, y, z]). Nous
aimerions classifier les droites de 2 permutation prs des lments de la base de
2 , cest--dire, construire un quotient projectif de 2 par 3 . Une linarisation de
cette action est alors donne par laction 3 sur les lments de la base de 3 lespace
affine au dessus de 2 . Par le thorme de polynme symtrique, [Kr, Proposition
1.2], une base de Hilbert est donne par les polynmes symtriques
f1 = x + y + z
f2 = xy + yz + zx
f3 = xyz
cest--dire que [x, y, z] = [ f1 , f2 , f3 ]
3

On vrifie algbriquement que lorigine est le seul point de 3 o tous les invariants sont nuls et donc que N = .
Posons S = [ f1 , f2 , f3 ]. Linclusion de S dans [x, y, z] nous donnera alors le
morphisme de varit

50

U :

Proj( [x, y, z])

Proj(S )

mx S

mx

Puisque f1 , f2 et f3 ne sont pas de mme degr, Proj(S ) est un espace projectif

poids. Soit S (6) la tranche constitue des lment de degr 6, cest--dire S (6) =
[h1 , ..., h7 ] o h1 = f16 , h2 = f14 f2 , ..., h7 = f32 . Par le thorme 1.2.2 , nous obtenons
alors que

Proj(S )  Proj(S (6) )  Proj( [x1 , ..., x7 ]/I)

o I est lidal des relations entre les hi . La varit projective Proj(S ) peut donc tre
vu comme une sous-varit de 7 .
Dans ce chapitre, nous montrerons entre autres que 2 / 3 := Proj(S ) est un
quotient de 2 par 3 . Pour y arriver, nous considrerons le recouvrement de 2
par les ouverts affine fi = 0, stable sous laction de 3 . Nous prendrons ensuite les
quotients affines de ces ouverts. Il ne nous restera alors plus qu montrer que les
quotients ainsi obtenus forment un recouvrement affine de Proj(S ).
Par mthodes globales, nous entendrons les mthodes quil sera possible dutiliser
pour travailler avec des varits projectives sans passer par un recouvrement affine.
Nous utiliserons de telles mthodes dans la section 4.1 pour construire un quotient
projectif en nous inspirant de lexemple prcdent. Dans la section 4.2 nous montrerons
laide de mthodes locales que la varit ainsi obtenue satisfait bien les conditions
dun quotient.

4.1. C
Reconsidrons pour commencer lexemple des courbes cubiques laide des mthodes de gomtrie algbrique dveloppes jusqu prsent. Nous cherchions alors
construire un quotient projectif de 9 = Proj( [ 10
]) par PGL3 ( ).
Malheureusement, PGL3 ( ) nagit pas sur [ 10
]. Pour utiliser la thorie des
invariants, nous devions alors remplacer laction de PGL3 ( ) sur 9 par une linnarisation de cette action, cest--dire une action de SL3 ( k) sur 10
compatible avec
laction de PGL3 ( ).

51
Par un rsultat de la thorie classique des invariants, nous avions alors
[x1 , ..., x10 ] SL3 ( k) = [S , T ].
Les applications que nous avions alors dfinies correspondent maintenant aux applications

Proj( [X1 , ..., X10 ])

6

- Proj( [S , T ])
-

Proj( [X1 , ..., X10 ])\ N

induites par linclusion de [S , T ] dans [x1 , ..., x10 ]. Dans ce chapitre, nous montrerons que la paire (, Proj( [S , T ]) satisfait bien les conditions dun quotient donnes
au chapitre prcdent.
La gnralisation de cet exemple au cas gnral est immdiate. Considrons X
n , une varit projective sur laquelle agit un groupe linairement rductif G, et soit
b le cne de n+1 au dessus de X et x un point de X
b au dessus de x.
x X. Notons X
b
Alors X = Proj( k[X]).
Une linarisation de laction de G est une action linaire de G sur n+1 telle que
x = x pour tous x X. Sil existe une telle linarisation, nous pouvons alors
b G . Par le thorme 3.2.1, cette algbre est de type
parler de lalgbre des invariants k[X]
fini. Nous considrerons comme prcdemment les applications

b
Proj( [X])

- Proj( k[ X]
b G)
-

b N
Proj( [X])\

4.2. C
b G )) est un
Lobjectif de cette section est de dmontrer que la paire (, Proj( k[X]
b N par G. Nous devons donc montrer que lapplication est
quotient de Proj( [X])\

52
(i) constante sur les orbites (ii) surjective et (iii) spare les classes dorbites quivalentes de fermeture. Il serait possible de montrer ces proprits laide de mthodes
globales. Les mthodes locales que nous utiliserons dans cette section nous permettront
cependant dutiliser les rsultats sur les quotients affines obtenus prcdemment.
b N
Lide est alors la suivante : Nous construirons un recouvrement de Proj( [X])\
par des ouverts affines G-stables et montrerons que les quotients affines forment un
b G ). La vrification des proprits (i) (iii) sera alors immrecouvrement de Proj( k[X]
diate. Nous utiliserons pour cela les rsultats de [EGA] noncs dans la section 1.2.2
des prliminaires.
b G , cest--dire que k[X]
bG =
Considrons f1 , ..., fn , un systme de gnrateurs pour k[X]
b fi ,0 ) sont alors G-stables. En effet, si
k[ f1 , ..., fn ]. Les ouverts affines D+ ( fi )  Spec( k[X]
x D+ ( fk ) nous obtenons alors que alors fk ( x) = fk ( x) , 0 et donc que x D+ ( fk ).
b N. Puisque x < N, nous devons donc avoir
Soit maintenant x Proj( [X])\
fk ( x) , 0 pour un certain k et en particulier que x D+ ( fk ). Les D+ ( fi ) o i = 1, ...n
b N.
forment donc un recouvrement de Proj( [X])\
Considrons maintenant les quotients de ces ouverts affines par G, cest--dire
b fi ,0 )G ).
D+ ( fk )//G = Spec( k[(X]
b G ).
Nous voudrions alors montrer que ces ouverts affines forme un recouvrement de Proj( k[X]
Nous y parvenons grce au lemme suivant :
Lemme 4.2.1. Soit A une k-algbre gradue sur laquelle agit un groupe linairement
rductif G et f AG un polynme homogne G-invariant. Alors (AG ) f,0  (A f,0 )G .
D. Soit f AG un polynme homogne de degr n. Rappelons que
h
(AG ) f,0 = { r |h AG et deg(h) = nk} et que ( f,0 )G = (A f )G A f,0 o laction de
f
h
h
G sur A f est donn par r =
.
f
fr
h
h
h
h
Soit r (AG ) fi ,0 . Alors r =
= r puisque h, f (AGf ) et donc
r
f
f
f
f
h
(AG ) f,0 .
fr
h
h
h
De lautre cot, si r (AG ) f,0 , alors
= r , do lon tire que h AG . On
r
f
f
f
h
a donc r (A f )G

f

53
Par la proposition 1.2.1, on conclut que les D+ ( fk )//G forment un recouvrement
b G ). On vrifie enfin que (D+ ( f )) = D+ ( fk )//G. Posons X ss =
affine de Proj( k[X]
b N et X ss //G = Proj( k[X]
b G ). Nous obtenons alors les diagrammes comProj( [X])\
mutatifs
X ss

- X ss //G
6

i
D+ ( fi )
D+ ( fi )//G
S
S
n
n
o X ss = i=1 D+ ( fi ) et X ss //G = i=1 D+ ( fi )//G.

Nous avons donc montr le rsultat suivant :

Proposition 4.2.1. X ss //G est un quotient projectif de X ss par G.
D. La preuve suit de la nature des proprits (i) (iii).

Remarquons enfin que, par construction, X ss est ouvert dans X. Dans la mesure o
laction dun groupe linairement rductif sur une varit projective est linarisable, il
est toujours possible de construire un quotient projectif pour un ouvert de cette varit,
obtenu en jetant les points du nilcone. Dans le chapitre suivant, nous dmontrerons un
critre utile pour dterminer ces points.

Chapitre 5

LE CRITRE DE HILBERT-MUMFORD

5.1. L ` H-M
Dans ce chapitre, nous dmontrerons le critre de Hilbert-Mumford dans le cas de
laction de GLn ( ) sur une varit affine X. Lide derrire ce rsultat est de remplacer
ltude de laction de GLn ( ) par ltude de laction des sous-groupes 1 paramtre
de GLn ( ). La version du critre de Hilbert-Mumford que nous dmontrerons peut
snoncer comme suit : Si x et y sont des points de X et que lorbite de y est ferms
et contenue dans la fermeture de lorbite de x, alors il est possible de sapprocher de y
aussi prs que lon veut le long dune courbe (t) x X, o est un sous-groupe 1
paramtre de GLn ( ). La rductivit linaire de GLn ( ) nous assurera de la prsence
de suffisamment de sous-groupes 1 paramtre pour que cela soit au moins plausible.
Dans le cas o y = 0, on retrouvera la version du critre donne par Hilbert.
nonons prcisment le critre de Hilbert-Mumford.
Thorme 5.1.1 (Critre de Hilbert-Mumford). Considrons laction de GLn =
GLn ( ) sur X une varit affine. Soit x, y X, o y est un point dorbite ferme
ne contenant pas x. Alors lorbite de y est contenue dans la fermeture de lorbite
de x si et seulement sil existe un sous-groupe 1 paramtre Y( GLn ) tel que
limt0 (t) x GLn y.
Limplication () se dmontre aisment :

D (). Supposons quil existe Y( GLn ) tel que limt0 (t)x GLn y.
Les orbites GLn y et GLn x sont alors quivalentes de fermeture. Par hypothse,

55
lorbite de y est ferme et est donc contenue dans la fermeture de lorbite de x par le


thorme 3.3.1.

Limplication inverse est plus difficile. Donnons dabord une ide gnrale de la
dmonstration. Posons Z = GLn x et considrons x et y, des points de X comme dans
lnonc du thorme. Considrons le morphisme dominant

x : GLn

7 x

Nous voudrons alors construire une courbe normale C contenant un point y0 ainsi
quun diagramme commutatif.
C\y0

- GLn

?
-Z

tel que 0 (y0 ) = y

La completion de lanneau local dune courbe normale tant isomorphe [[t]]
(thorme 1.2.5), la completion en y0 nous donnera alors un diagramme commutatif

Spec( ((t)))

- GLn

Spec( [[t]])

?
-Z

tel que 0 () = y, o est lunique point ferm de Spec( [[t]]), correspondant lidal
maximal (t).
Nous verrons quun tel diagramme nous donne lexistence dune matrice g(t)
GLn ( ((t))) telle que
lim g(t)x = y.
t0

56
En utilisant le lemme 1.1.10, nous obtiendrons alors une matrice

t1

.
..
(t) =
GLn ( [[t]])

n
t
telle que limt0 a(t)(t)b(t) x = y avec a(t), b(t) GLn ( [[t]]). Nous pourrons alors
sauvegarder une partie de linformation contenue dans lgalit prcdente pour obtenir
lim (t)b x GLn y
t0

avec b GLn . Le sous-groupe 1 paramtre sera alors celui recherch.

Avant de dmontrer (), dmontrons dabord lexistence du diagramme commutatif prcdent. Nous utiliserons pour cela les lemmes suivants. Posons Z = GLn x, la
fermeture de lorbite de x et Y = Z\ GLn x, son bord.
Lemme 5.1.1. Soit x, y X, o y est un point dorbite ferme ne contenant pas x et
supposons que lorbite de y est contenue dans Z, la fermeture de lorbite de x. Il existe
alors une courbe de Z passant par y et intersectant non trivialement lorbite de x.
D. Soit k[x1 , ..., xr ], lanneau de coordonnes de Z. Par le thorme de
Normalisation de Noether, il existe alors des lments f1 , ..., fk k[Z] algbriquement
indpendants tels que linclusion : k[ f1 , ..., fk ] , k[X] soit entire. Gomtriquement, nous obtenons donc un morphisme fini
: X = Spec( k[Z]) Spec( k[ f1 , ..., fk ]) = k .
En particulier, est un morphisme ferm.
Posons y0 = (y), cest--dire que y0 = f1 (y), ..., fk (y), et posons Y 0 = (Y). Montrons dabord que r Y 0 est non vide. Par les lemmes 1.1.4 et 1.1.4, la dimension des
composante irrductibles de Z est prserv. Enfin, par le lemme 3.3.2, la dimension
des composantes irrductibles de Y est strictement plus petite que celle de Z et donc la
dimension de Y 0 doit donc aussi tre plus petite que celle de r .
Par ce qui prcde, peut donc choisir z, un point de r non contenu dans Y 0 . Soit
l, la droite de r passant par z et y0 . On peut alors crire l = V( p), avec p un idal
premier de k[y1 , ..., yk ]. Algbriquement, on obtient alors

57

my

k[X]
6
entire

my0

( k[y1 , ..., yk ]

Par le lemme 1.1.4, on peut complter la chane du haut par un idal premier q tel que
q k[ f1 , ..., fk ] = p.
Soit C = V( p0 ). Montrons que C est une courbe, cest--dire une varit de dimension 1. Remarquons premirement que la dimension de C est au moins gale 1
puisque p est contenu dans my . Supposons sa dimension soit plus grande que 1. Il existerait alors un idal premier q0 tel que q ( q0 ( my . En posant p0 = q0 k[ f1 , ..., fk ],
on aurait alors p ( p0 ( my0 , une contadiction puisque l est une courbe.
Enfin, par construction, C contient au moins y. De plus, C doit intersecter Z Y
puisque sinon l = ( C) ne pourrait contenir z.

Montrons maintenant quil existe une courbe de GLn dominant C. Comme prcdemment, Z dsignera la fermeture de lorbite de x et Y son bord.
Lemme 5.1.2. Dans la notation du lemme prcdent, pour toute courbe C de Z non
contenue dans Y, il existe une courbe de GLn dominant C sous le morphisme x .
D. Il faut montrer que la primage de C contient une courbe dominant
C. Soit z un point de C contenu dans GLn x et 1
x (z) la fibre au dessus de ce point.
1
Soit maintenant g 1
x ( C)\ x (z). Par la dmonstration du lemme prcdent, il existe

alors une courbe de GLn passant par g et intersectant 1

x (z). Supposons maintenant
que ne domine pas C, cest--dire que x () soit ferm dans C. Mais puisque C est
une courbe, x () devrait alors tre un point une contradiction puisque par construction, chevauche plus dune fibre.

laide des deux lemmes prcdents, nous montrerons maintenant le thorme suivant qui se retrouvera au coeur de notre dmonstration du critre de Hilbert Mumford.
Nous discuterons de limportance de ce rsultat dans la remarque 5.1.1.
Thorme 5.1.2. Soit x, y X comme dans lnonc du thorme 5.1.1 et supposons que lorbite de y est contenue dans la fermeture de lorbite de x. Il existe alors

58
Hom k ( Spec( ((t))), GLn ) et 0 Hom k ( Spec( [[t]]), Z) et un diagramme est
commutatif

Spec( ((t)))

- GLn

?
-Z

Spec( [[t]])

tel que le point ferm de Spec( [[t]]) est envoy sur y.

D. Soit x, y et x : GLn Z comme prcdemment. Par hypothse, y
est contenu dans la fermeture de x ( C).
Par les lemmes 5.1.1 et 5.1.2, on peut choisir une courbe C de Z passant par y et
une courbe de G dominant C.
Gomtriquement, nous obtenons le diagramme commutatif suivant :

GLn 

Z

Il sera plus utile de considrer la situation dun point de vue algbrique. Le diagramme prcdent se traduit alors par
0

[ GLn ]
6

- []
6

[Z]

- [ C]

Puisque domine C, nous obtenons linclusion de [ C] dans []. Considrons

]
alors [
C] = [ e
C], la normalisation de [ C] dans le corps de fraction de [] et
[
]
]
m 0 [
C] un idal maximal tel que m 0 [ C] = m . Considrons ensuite [
C],
y

[
[
]
]
la compltion my0 -adique de [
C]. Par le thorme 1.2.5 des prliminaires, [
C] est

59
alors isomorphe [[t]], (t), lunique idal maximal de [[t]] correspondant my0 ,
[
]
lunique idal maximal de [
C].
Nous obtenons donc la suite dhomomorphismes

[
]
]
[Z] [ C] [
C] [
C]  [[t]]
o my est la primage de (t), que lon peut complter vers le haut pour obtenir le
diagramme

[ GLn ]

- []
6

- ()
6

[Z]

- ((t))
6

- [ C]

- [
]
C]

[
- [
]
C]

[[t]]

ou, en rsum, le diagramme

[ GLn ]

- ((t))
6

[Z]

- [[t]]

tel que ( )1 ((t)) = my .

Gomtriquement, nous obtenons donc

Spec( ((t)))

- GLn

Spec( [[t]])

?
-Z

o le point ferm de Spec( [[t]]) est envoy sur y. Remarquons que les points gnriques de Spec( [[t]]) et Spec( ((t))) sont pour leur part envoys sur les points
gnriques de C et de respectivement.
Nous sommes maintenant prts dmontrer le critre de Hilbert-Mumford.

60
` 5.1.1 (). Soit x, y X comme dans lnonc du thorme 5.1.1 et supposons que Y est contenue dans la fermeture de lorbite de x. Par le
thorme prcdent, nous obtenons le diagramme commutatif suivant

Spec( ((t)))

- GLn

Spec( [[t]])

?
-Z

tel que le point ferm de Spec( [[t]]) est envoy sur y.

Montrons que cela implique lexistence dune matrice g(t) de GLn ( ((t))) telle que
limt0 g(t)x = y.
Comme -algbres de type fini, on peut exprimer les anneaux de coordonnes de
1
GLn et Z comme [ GLn ] = [xi j , det(x
] et [Z] = k[z1 , ..., zr ]. En terme algbriques,
i j)

le diagramme prcdent nous donne alors un diagramme commutatif

[xi j , 1/det(xi j )]

[x1 , ..., xr ]

- ((t))
6
i

- [[t]]

Posons alors gi j (t) := (xi j ) ((t)) et considrons la matrice g(t) = (gi j (t)), cest
dire la matrice dont les coefficients sont donns par limage des xi j . Nous obtenons
1
alors que ( det(x
)=
i j)

1
det(g(t))

; en particulier que g(t) = (gi j (t)) GLn ( ((t))). Lhomo-

morphisme correspond donc une matrice de GLn ( ((t))). Cest un des lments cl
de la preuve.
De la mme faon, posons vi (t) := 0 (zi ) k[[t]]. Soit V, un espace vectoriel GLn stable de dimension fini contenant z1 , ..., zr (un tel espace existe par le lemme 1.3.2).
Lhomomorphisme correspond alors v(t) = (v1 (t), ..., vr (t)) V [[t]].
Nous montrerons que v(0) = y. Remarquons premirement que lon peut crire
my = (z1 y1 , ..., zr yr ), ou y = (y1 , ..., yr ). On obtient alors que vi (t)yi = 0 ((zi yi ))
0 ( my ) (t) ; en particulier que vi (0) = yi , cest--dire v(0) = y.

61
Nous venons donc de dmontrer que lhomomorphisme i 0 correspond donc un
lment v(t) V ((t)) tel que limt0 v(t) = y. Il ne nous reste plus qua remarquer
que x correspond g(t)x V ((t)). En effet, nous obtenons que
( x (zi )) = x (zi )(g(t)) = zi ( x (g(t)) = zi (g(t)x) = (g(t)x)i
o laction de G sur V est tendue une action de G ((t)) sur V ((t)).
Par la commutativit du diagramme nous obtenons donc que g(t)x = v(t) ; en particulier que limt0 g(t)x = limt0 v(t) = y
Par le lemme 1.1.10 il existe alors a(t), b(t) GLn ( [[t]]) et

t1

.
.
(t) =
.
GLn ( [[t]])

tn
tels que limt0 a(t)(t)b(t)x = y o a(t)(t)b(t)x = v(t) o v(0) = y.
Remarquons que pour complter la dmonstration du thorme 5.1.1, il ne reste
plus qu montrer quil est possible de remplacer, dans lexpression prcdente, a(t) et
b(t) par des lments a et b de GLn .
Puisque v(t) = a(t)d(t)b(t)x, nous obtenons que d(t)b(t)x = a1 (t)v(t) et donc, en
valuant en 0, que
d(0)b(0)x = a1 (0)v(0) = a1 (0)x GLn x.
En crivant b(t) comme b(t) = b(0) + b1 t + ...bi ti + ..., on obtient alors que b(t)x =
b(0)x + b1 xt + ... + bi xti + ...
Soit maintenant V un sous-espace GLn -stable de dimension fini contenant x et soit
{e1 , ..., em } une base de V diagonalisant laction de d(t) cest--dire telle que d(t)ei =
ti ei . Dans cette base, on peut crire


(i)
(0) (1)
1
1 1
..
.. ..
.
. .


+ (1) t + ... + (i) ti + ...
b(t)x = (0)
j
j j
..
.. ..
.
. .

(0) (1)
(i)
m
m
m

62
On a alors

(0) t1 (1) t1 +1
(i) t1 +i

1
1
..

..
..
.

.
.

(1) j +1
(i) j +i

d(t)b(t)x = (0)
+
+
...
+
t j t
j t + ...
j

.
..
..

..
.
.

(i)
(0) (1)

m tm
m tm +1
m tm +i
On sait que limt0 d(t)b(t)x existe. Quitte changer lordre des lments de la base,
on peut supposer que

j > 0 pour j = 1, ..., k

j = 0 pour j = k + 1, ..., l

j < 0 pour j = l + 1, ..., m

Pour que la limite existe, il faut que les (i)
j , o j = k, ..., m, soient nuls pour tous
(n j )

i < j . Soit j

le premier coefficient non nul pour i.

On obtient alors que

(0)
k+1

...

(0)
lim d(t)b(t) x = l

t0
(nl+1 )
l+1
.
..

(nm )
m
En multipliant par d(t)1 et en prenant la limite encore une fois, on obtient

(0)
k+1

..

(0)
0 1

d(t ) (limt0 d(t)b(t)x) = l

(nl+1 ) t0l+1

l+1

..
.

(n )
m m t0m

(0)
k+1

t0 0
- ...

(0)
l

63

En posant (t) = diag(t1 ,...,tm ), on obtient alors que



lim
d(t ) lim d(t)b(t) x = lim (t)b(0) x
0
0 1

t 0

t0

t0

Enfin, puisque limt0 d(t)b(t) x = d(0)b(0)x = a1 (0)y et puisque lorbite de y est

ferme par hypothse, nous obtenons que


0 1
lim
d(t
)
lim
d(t)b(t)

x
GLn y
0

t 0

t0

Le sous-groupe 1 paramtre : T , o T est le tore maximal de GLn constitu

des matrices diagonales est alors un sous-groupe 1 paramtre tel que

lim (t)a1 x GLn y

t0

avec a1 GLn .
En remplaant par 0 = aa1 , le sous-groupe 1 paramtre dfini par 0 (t) =
a(t)a1 , nous obtenons alors un sous-groupe 1 paramtre 0 : GLn tel que

lim 0 (t) x GLn y

t0


Remarque 5.1.1. La preuve du thorme 5.1.1 qui apparat dans [GIT] repose, entre
autres, sur lutilisation du critre valuatif de propret, thorme important, mais abstrait, de la gomtrie algbrique. Ce thorme ce retrouve par exemple dans [EGA,
p.143] ou [H, Thorme 4.7 Chapitre II]. Notre dmonstration du critre de HilbertMumford nous offre la chance de mieux comprendre ce thorme.
Dans le contexte qui nous intresse, le critre valuatif de propret peut snoncer
comme suit :
Thorme 5.1.3 (critre valuatif de propret). Soit x comme dans le thorme prcdent. Si x nest pas un morphisme propre, alors il existe Hom k ( Spec(k((t))), G)
et 0 Hom k ( Spec(k[[t]]), ) tels que le diagramme

64

Spec(k((t)))

- GLn

Spec(k[[t]])

?
-Z

est commutatif et ne peut tre complt par un morphisme

Hom k ( Spec(k[[t]]), GLn )
Remarquons que le lemme 5.1.2 nous donne une dmonstration de ce thorme
dans le cas o GLn x nest pas ferm. Puisque x est propre si et seulement si GLn x est
ferm et ( GLn ) x est fini, il nous resterait plus qu considrer le cas o le stabilisateur
de x nest pas fini pour complter la preuve.
Remarque 5.1.2. En remplaant dans la dmonstration du thorme 5.1.1 le lemme
5.1.2 par le thorme 5.1.3 et le 1.1.10 par un thorme de dcomposition dIwahori
[GIT, Thorme p.52] dont on retrouve lnonc dans [GIT], nous obtiendrions une
preuve pour un groupe linairement rductif sur un corps de caractristique nulle.
Donnons maintenant une version du thorme 5.1.1 utile pour ltude des fibres de
lapplication quotient.
Thorme 5.1.4. Considrons laction de GLn = GLn ( ) sur X une varit affine.
Soit x, y X, o y est un point dorbite ferme ne contenant pas x. Alors lorbite de y
est contenue dans la fermeture de lorbite de x si et seulement sil existe un sous-groupe
1 paramtre Y( GLn ) tel que limt0 (t) x GLn y.
D. Supposons que f (x) = f (y) pour tous f [X] SLn ( ) . Par le corollaire
3.3.3, nous obtenons que f (x) = f (y) pour tous f [X] SLn ( ) si et seulement si les
orbites de x et de y sont quivalentes de fermeture, ce qui, par le thorme 3.3.1, est le
cas si et seulement si lorbite de y est contenue dans la fermeture de lorbite de x . La
dmonstration du thorme suit alors immdiatement du thorme 5.1.1.

Il est en gnral difficile de vrifier si la limite limt0 (t) x est contenu dans une
orbite ferme pour un certain sous-groupe 1 paramtre (t). En fait, plus lorbite est
grande, plus la vrification sera ardue. De fait, ltude dune fibre contenant un point

65
stabilis par laction du groupe sera dans la pratique beaucoup plus facile ltude dune
fibre gnrique. Nous tudions ce cas pour laction de SLn ( ) sur une varit affine.
Remarque 5.1.3. Gardons en tte ltude du nilcone. Dans le cas o SLn ( ) agit
linairement sur une varit projective X n , nous considrons laction de SLn ( )
sur le cne affine de n+1
au dessus X. Le nilcone est alors la fibre contenant lorigine
du plan affine, fix par laction de SLn ( ).
Thorme 5.1.5. Critre de Hilbert-Mumford pour un point fixe X, une varit affine
sur laquelle SLn ( ) agit rationnellement et soit y, un point de X possde un point fix
par laction de SLn ( ). Soit x, un point de X distinct de y. Les conditions suivantes
sont alors alors quivalentes : (i) f (x) = f (y) pour tous f [X] SLn ( ) ; (ii) il existe
: k T SLn ( ) et SLn ( ) tel que limt0 (t) g x = 0.


D. La preuve suit immdiatement du thorme 5.1.4

Si V est une reprsentation rationnelle de SLn ( ) et v V un point fixe sur lesquels

tous les invariants sannulent, il est alors possible dutiliser le pairage parfait entre
lespace des sous-groupes 1 paramtre dun tore maximal de SLn ( ) et lespace dual
de ses caractres pour obtenir une version facilement applicable du thorme 5.1.5.
Ltude de laction des sous-groupes 1 paramtre sera alors remplace par ltude du
diagramme de poids de V et on retrouvera alors la originale de Hilbert.
Thorme 5.1.6. Critre de Hilbert-Mumford pour SLn ( ) Soit V =

Vi une re-

prsentation rationnelle de SLn ( ), o Vi sont les reprsentations simples, et soit

L
v = vi
Vi . Alors les condition suivantes sont quivalentes : (i) f (x) = 0 pour
tous f [X] SLn ( ) ; (ii) les vi sont contenus dans lintrieur de lun des demi-espaces
dlimits par un hyperplan du diagramme de poids.
D. Soit T , le tore maximal de SLn ( ) compos des matrices diagonales
et un sous-groupe 1 paramtre de T . Soit () le caractre dual associ par
lisomorphisme tabli dans la proposition 1.3.4. Nous obtenons alors que limt0 (t)
v = 0 si et seulement si h, vi i > 0 i. Or, h, vi i est gal au produit scalaire de vi avec
(). Considrons P() lhyperplan de Y(T ) perpendiculaire (). On obtient alors
que h, vi i > 0 si et seulement si vi est dans lintrieur du demi-espace dlimit par
P() et contenant ().

66

5.2. C
Appliquons maintenant le critre obtenu lexemple de la classification des courbes
elliptiques trait en introduction de ce mmoire. Rappelons quune courbe cubique est
une courbe de 2 dfinie par un polynme de [x, y, z]3 et que lensemble des courbes
cubiques est isomorphe 9 . Laction de SL3 ( ) sur 2 induit alors une action sur
9
SL3 ( )
10
= [S , T ]
correspondant laction de PGL (3) sur . Soit [1 , ..., 10 ]

lanneau des invariants1. En appliquant les rsultats obtenus au chapitre 4, nous pouvons construire une application rationnelle

Proj( [S , T ])

9 d

Que lon peut rendre rgulire en jetant le nilcone :

9 \ N

Proj( [S , T ])

Par les rsultats obtenus au chapitre 4, nous savons maintenant que Proj( [S , T ])
est alors un quotient projectif de 9 \ N par PGL (3) . Dans lintroduction, nous avions
mentionn que le nilcone tait constitu des courbes singulires dont les singularits
taient pires que des points doubles de tangentes distinctes. Nous pouvons dsormais
dmontrer ce rsultat grce au critre de Hilbert-Mumford.
Plus prcisment, par le thorme 5.1.5, une courbe cubique
f = 1 x3 + 2 x2 y + 3 x2 z + 4 xy2 + 5 xyz + 6 xz2 + 7 y3 + 8 y2 z + 9 yz2 + 10 z3 .
est dans le nilcone si et seulement sil existe g SLn ( ) tel que les coefficients non
nuls de g f soient contenus dans lintrieur de lun des demi-plans du diagramme de
poids

x3
x2 y
xy2
y3
1

x2 z
xz2

xyz
y2 z

yz2

z3

Contrairement lintroduction, nous naurons pas besoin dune description explicite de S et T .

67
Supposons que ce soit le cas. un changement de coordonnes prs et donc
multiplication par un lment de SLn ( ) prs, on peut supposer que
f = 3 x2 z + 7 y3 + 8 y2 z + 9 yz2 + 10 z3
correspondant au cas

x3
x2 y
xy2
y3

x2 z
xz2

xyz
y2 z

yz2

z3

Par exemple, si f = y3 xz2 , on obtient une courbe nodale. Les autres cubiques
que lon peut obtenir par combinaison linaire des monmes en caractre gras sont
respectivement : une ligne tangente une ellipse, trois lignes scantes en un point, une
ligne scante une ligne double de mme quune ligne triple.
Inversement, pour chacune de ces courbes, quitte multiplier par un lment de
SLn ( ), on peut supposer que f correspond un des cas prcdent, voir par exemple
[Ne, p.112]. Le nilcone est donc constitu des courbes cubiques dont les singularits
sont pires que des points doubles tangentes distinctes, voir figure 5.1. Ce sont les
courbes quil faut jeter pour obtenir un quotient projectif. Les courbes semi-stables
sont les courbes elliptiques de mme que les cubiques dont les singularits ne sont pas
trop graves, cest--dire des points doubles scantes distinctes, voir figure 5.2.

68

F. 5.1

F. 5.2

Chapitre 6

GOMTRIE DES COVARIANTS

Rappelons un thorme important de la thorie classique des invariants nonc

dans lintroduction.
Thorme 6.0.1 (thorme de finitude de Hilbert classique). Tout systme fini de
polynmes homognes admet une base de Hilbert pour ses invariants comme pour ces
covariants.
Jusqu prsent, nous avons dmontr la premire partie de ce thorme dans le cas
plus gnral dun groupe linairement rductif agissant sur une k-algbre de type fini.
Dans ce chapitre, nous dmontrerons la seconde partie dans le cas dun groupe semisimple. Plus prcisment, pour un groupe semi-simple G agissant sur une varit affine
X, nous montrerons que lanneau des covariants est de type fini, cest dire quil existe
des covariants f1 , ... fn tels que tous les autres covariants sexpriment comme fonction
polynomiale dans les variables f1 , ... fn . Comme pour les invariants, nous pourrons alors
tudier lapplication rgulire
:X
x

7 ( f1 (x), ..., fn (x))

Nous dmontrerons enfin un critre analogue au thorme 5.1.1 pour dterminer

les fibres de .

6.1. T`
Soit V une reprsentation rationnelle de G . Un covariant de type V est alors une
application polynomiale : X V G-quivariante, cest--dire telle que ( x) =

70
()(x). Choisissons un sous groupe de Borel B, U un sous groupe maximal unipotent
de B et T un tore maximal normalisant B. Soit f k[X]U un vecteur de plus poids
et considrons la reprsentation simple V engendr par f sur G. Nous obtenons alors
un homomorphisme : V , k[X] que lon peut tendre un homomorphisme
: k[V ] , k[X].
Chaque lment de k[X]U dtermine donc un covariant : X V . On peut en fait
montrer que tous les covariants sont obtenus de cette faon, voir [P, Section 3.14] pour
une dmonstration. En utilisant des mthodes semblables, il est possible de montrer que
k[X]U est de type fini, voir [P, section 3.14]. Dans ce mmoire, nous dmontrerons ce
rsultat laide de mthodes plus gomtriques, ce qui nous permettra dobtenir une
version analogue au critre de Hilbert-Mumford pour les covariants. Dans le reste de
ce chapitre, nous parlerons donc des lments de k[X]U pour un sous-groupe maximal
unipotent fix pour parler des covariants.
Dans les prochaines sections, nous montrerons que si G est un groupe semi-simple
agissant linairement sur une varit affine X et si U est un sous-groupe maximal unipotent de G, alors k[X]U est de type fini. Ce rsultat se base sur le principe de transfert,
que nous dmontrerons dans la section 6.1.2, et sur le fait important que k[G]U est de
type fini, rsultat que nous dmontrerons dans la section 6.1.1.
6.1.1. Covariants de la reprsentation rgulire
La reprsentation rgulire de G est la reprsentation induite par laction de G sur
k[G], o G agit sur lui-mme par multiplication droite. k[G]U est alors lalgbre des
covariants pour cette reprsentation. Dans cette section, nous montrerons que cette kalgbre est de type fini.
Considrons G/U lespace dorbite. Dans [B], Borel montre les rsultats suivants :
Thorme 6.1.1. On peut donner G/U une structure de varit lisse quasi projective
D. Voir [B], Theorem 6.8.

Thorme 6.1.2. Lanneau de coordonnes de G/U est isomorphe k[G]U

D. Voir [B], Theorem 6.5.

71
Thorme 6.1.3. Soit X une varit, G un groupe linaire algbrique agissant sur X
et x X. Alors G x est lisse.


D. Voir [B], Theorem 6.7.

Nous utiliserons ces rsultats pour dmontrer que k[G]U est de type fini. Commenons en nonant un thorme important de Grosshans sur les groupes maximaux
unipotents.
Thorme 6.1.4. Soit G un groupe linairement rductif et U un sous-groupe maximal
unipotent de G. Alors, il existe une reprsentation : G GL(V) et un lment
v V U tel que (i) Gv  U et (ii) G v G v est de codimension 2 dans G v
Assumons pour linstant ce rsultat et dmontrons le thorme suivant :
Thorme 6.1.5. Soit G un groupe linairement rductif et U un sous-groupe maximal
unipotent de G. Alors k[G]U est de type fini.
D. Par le thorme 6.1.2, k[G]U  k[G/U] ; par le 1.2.2, la condition
(ii) du thorme 6.1.4 implique quant elle que k[ G v]  k[ G v] qui est de type
fini puisque G v est une varit affine. Il nous reste donc dmontrer que k[G/U] 
k[ G v]. Pour ce faire, nous dmontrerons que le morphisme

v : G/U G v
g

gv

est un isomorphisme. Par les thormes6.1.1 et 6.1.1, G/U et G v sont lisse et donc
normale. Enfin, v est bijectif par la condition (i) du thorme et lisomorphisme dcoule alors du Thorme principal de Zariski (1.2.2).

Il nous reste donc dmontrer le thorme 6.1.4 pour complter la preuve de 6.1.5.
La preuve de ce rsultat repose sur des proprits des sous-groupes maximaux unipotents que lon retrouve par exemple lorsque lon tudie les reprsentations du groupe
des matrices unipotentes suprieures dordre 2.
Exemple 6.1.1. Considrons U = U2 , le sous-groupe de G = SL2 constitu des matrices unipotentes suprieures et considrons laction de U sur G par multiplication
gauche.

72
Soit k[x11 , x12 , x21 , x22 ]/(det 1), lanneau de coordonnes de SL2 . On vrifie alors
que les invariants sont les lments de k[x11 , x21 ] et donc que k[G]U est de type fini.
Nous montrerons tout de mme quil est possible de construire une reprsentation de
U2 satisfaisant les conditions du thorme 6.1.4.
Considrons V = k2 et : G GL(V) la reprsentation dfinie par laction de G
sur V
droite et remarquons que
par multiplication

a b 1 a

c d 0 c

a
En posant v = , nous obtenons donc Gv = U.
c

a
Enfin, remarquons que lorbite de v est constitu de tous les vecteurs tels que
c
2
a et b ne soit pas tous deux nul et est donc isomorphe \{0, 0} dont le bord est de
codimension 2 dans 2 .
Exemple 6.1.2. Considrons U = Un , le sous-groupe de G = SLn constitu des matrices unipotentes suprieures et considrons laction de U sur G par multiplication
gauche.

1


0
ni
Soit Vi = k et vi = . .
..


0
Le groupe G agit alors sur Vi par multiplication droite par la sous-matrice infrieure
droite dordre n i, cest--dire
g1,1 g1,2 . . . g1,n

w g

1 1,ni . . . g1,n w1

g2,1 . . . . . . . . . . .
..
.. ..
.. = ..
.

.
. .

..
..
..

..

.
.
.

g
w
w
.
.
.
g

ni
ni,1
n,n
ni
gn,1 . . . . . . gn,n
Appelons i la reprsentation de G dans Vi dfinie par cette action.
Posons maintenant V = V0 ... Vn2 et v = (v0 , ..., vn2 ) et considrons la reprsentation de G dans V dfinie par = 0 ... n2 , cest--dire.
g w = (g w0 , ..., wn2 )
On a donc

73


g1,1

1

g1,1 g1,2 . . . g1,n 1
g2,2

0
g1,2

1 g2,3
gn1,n1
g2,1 . . . . . . . . . . 0
..

.
g v = .

..
..
.. . .. ... = . .. ...
..
. .
0
gn1,n
.
.
. . .

..
..

gn,1 . . . . . . gn,n 0
g2,n
0
g1,n
et en particulier que Gv = U.
De plus, on remarque G v = (V0 0) V1 ... Vn2 puisque les g1,1 , ..., g1,n
ne peuvent pas tous tre nuls en mme temps. On obtient donc que G v G v =
0 V1 ... Vn2 o 0 kn et donc que G v satisfait la condition de 2.
Montrons maintenant le thorme 6.1.4. Montrons premirement que U est le stabilisateur de v. Nous aurons pour cela besoin du lemme suivant :
Lemme 6.1.1. Soit g G. Alors g agit linairement sur vi i = 1, ..., n g B. En
particulier Gv B.
D. Soit g B = T U. Alors g agit linairement sur vi :
g v = t (u vi ) = t vi kvi
De lautre cot, soit g tel que g vi = i vi i = 1, ..., n. Par la dcomposition de Bruhat,
on peut crire g = b1 nb2 avec b1 , b2 B et n NG (T ). On a donc n vi = 0i vi . Laction
de n vu comme un lment du groupe de Weil sur la base {$1 , ..., $n } de X(T ) est alors
triviale puisque ntn1 vi = tvi i = 1, ..., n. On obtient donc n = IdW , cest--dire


n T . On en conclu que g B.
Corollaire 6.1.1. U = Gv
D. Montrons que U Gv . Soit u U, alors u v =

u vi =

vi = v

Montrons que U Gv . Soit Gv . Par le lemme prcdent, on peut alors crire

= tu o t T et u U. Mais alors t v = t v = tu v = v, et donc t vi = vi
i = 1, ..., n, cest--dire $i (t) = 1 i = 1, ..., n. Puisque $1 , ..., $n est une base de
caractres pour X(T ), on conclu que t = 1G , cest--dire que U

Montrons maintenant que le bord de G v est au moins de codimension 2 dans

sa fermeture. Lide de la preuve est la suivante : Nous montrerons que les lments

74
du bord de G v ont un stabilisateur dont la dimension est de 2 de plus que celle du
stabilisateur des lments de G v. La conclusion sera alors immdiate.
Nous utiliserons pour cela le lemme suivant :
Lemme 6.1.2. Les composantes irrductibles de G v\G v sont de la forme G w ou
w est de la forme w = (0, ..., 0, wm , ..., wn ).
D. Soit w = (w1 , ..., wn ) G v avec wi , 0 i = 1, ..., n. Considrons le
morphisme
: (V1 \{0}) ... (Vn \{0})

Proj(V1 ) ... Proj(Vn )

(w1 , ..., wn )

([w1 ], ..., [wn ])

Puisque w G v, on obtient que (w) (G v).

On voudrais avoir (w) (G v). k[X]U
Remarquons que limage de G v concide avec limage de la varit projective
G/B sous le morphisme
: G/B
g

Proj(V1 ) ... Proj(Vn )

([g v1 ], ..., [g vn ])

Cette image est donc ferm puisque G/B est complte, cest--dire : (G v) =
(G v).
On a donc (w) = (g v) pour un certain g G cest--dire : [wi ] = [g vi ]
i = 1, ..., n. On peut donc trouver des scalaires non nuls c1 , ..., cn tel que wi = ci g vi .
Soit maintenant t tel que i (t) = ci . On a alors w = (gt) v cest--dire w G v

Remarque 6.1.1. Dans lexemple 6.1.1, nous avions trouver w = 0 V alors que dans
lexemple 6.1.2, nous avions w = (0, v1 , ..., vn2 ) V0 ... Vn2 . Dans chacun des
cas, le nombre de composantes nulles tait dexactement une. Dans ([G], p.4, note 1),
Grosshans mentionne que ce rsultat est vrai en gnral.
Proposition 6.1.1. G v\G v a codimension > 2 dans G v
D. Soit G w une des composantes irrductibles de G v\G v. Par le
lemme prcdent, on sait que w = (0, ..., 0, wm , ..., wn ). Nous montrerons que dim(Gw ) >
dim(U) + 2. Nous aurons alors termin puisque

75

codimGv ( G w) = dim( G v) dim( G w)

= dim(G) dim(U) (dim(G) dim( G w))
= dim(Gw ) dim(U) > 2
Remarquons premirement que w V$1 puisque w1 = 0. Considrons maintenant
les groupes de racines U1 et U1 . Puisque w est dans la fermeture de lorbite de v,
Gw contient au U et doit donc contenir au moins un des 2 groupe de racines, disons
U1 . Par le lemme 1.4.2, il les contient donc tous les 2. Gw contient donc le groupe
de dimension 3 G1 . On obtient alors le rsultat en remarquant que G1 U est de
dimension 1.

D. Dmonstration du thorme 6.1.4 La condition (i) est satisfaite par le

corollaire 6.1.1 alors que la condition (ii) dcoule de la proposition 6.1.1.

6.1.2. Principe de transfert de Borel

Utilis depuis longtemps pour ltude des covariants, on doit entre autres Borel
lutilisation rcente du principe de transfert en gomtrie algbrique. Comme son nom
lindique, ce thorme permet dduire certaines informations sur les U-invariants de
ltude, plus simple, des covariants (les lments de k([G]U k k[X])G ).
Soit G un groupe semi-simple agissant rationnellement sur une varit affine X et
U un sous-groupe maximal unipotent de G. Dfinissons alors laction de G U sur
G X par (, ) (g, x) = (g1 , x) et posons G/U := Spec(k[G]H ). Avant de
montrer le principe de transfert, nonons dabord un lemme de Nagata.
Lemme 6.1.3. Soit G1 un groupe linaire algbrique agissant rationnellement sur une
k-algbre A1 tel que AG1 1 soit de type fini et G2 un groupe agissant rationnellement sur
une k-algbre A2 tel que AG2 2 soit de type fini. Alors (A1 A2 )G1 G2  AG1 1 AG2 2 o
laction de G1 G2 sur A1 A2 est dfinie par (, ) a1 a2 = a1 a2 .
Thorme 6.1.6. Soit G, un groupe semi-simple agissant rationnellement sur une varit affine X et H, un sous-groupe de G tel que k[G]H est une k-algbre de type fini.
Alors (k[G]H k[X])G  k[X]H .

76
D. Nous montrerons que (G X)GH est la fois isomorphe (k[G]H
k[X])G et k[X]H .
Commenons par (k[G] k[X])GH  (k[G]H k[X])G . Il est suffisant pour cela de
montrer que (k[G] k[X]){1}H  k[G]H k[X] ; nous naurons ensuite qu prendre
les invariants par G {1} de chaque ct. Pour cela, remarquons que (G X){1}H 
k[G]H k[X] est un cas particulier du lemme 6.1.3 (H nagit que sur k[G] et k[G]H est
de type fini par hypothse).
Montrons maintenant que (k[G] k[X])GH  (k[X])H . Montrons dabord que
(k[G] k[X])G{1}  k[G]H k[X] ; nous naurons ensuite qu prendre les invariants
par {1} H de chaque cot.
Considrons lapplication : k[G] k[X]){1}H k[X] dfinie par
P

fi hi 7

fi (e) hi . On dmontre que cette application est un homomorphisme de k-algbre.

P
Montrons linjectivit. Soit fi hi Ker(). Quitte remplacer ceux qui sont

linairement dpendants, on peut supposer que les hi sont linairement indpendant.

P
P
Puisque ( fi hi ) = fi (e) hi = 0, on doit avoir fi (e) = 0 i. Enfin, les fi tant
invariants sous laction de G, on obtient que fi (g) = fi (ge) = g fi (e) = 0 i cest--dire
P
que fi = 0 i et donc que fi hi = 0
La surjectivit enfin. Soit f k[X]. On peut considrer f comme un lment de
(k[G] k[X]) en posant f (g, x) = g1 x. Soit G et (g, x) G X. Alors,
f (g, x) = f (g, x) = f ((g)1 x) = f (g1 1 x) = f (g1 x) = f (g, x) cest--dire
f (k[G] k[X])(G{1}) . Enfin ( f )(x) = f (e x) = f (x), dmontrant la surjectivit. 

Remarque 6.1.2. Gomtriquement, le principe de transfert nous dit que le morphisme

(G U X)/G X/U dfini par (g, x) 7 g x est un isomorphisme de varit.
Dmontrons maintenant un rsultat important du chapitre 3 que lon retrouve en
partie grce au principe de transfert.
Thorme 6.1.7. AU /I U  (A/I)U

D. AU /I U  (k[G]U A)G /(k[G]U I)G  (k[G]U A/I)G  (A/I)U

77
Remarque 6.1.3. Dans ([G2], thorme 1.3), Grosshans dmontre par des mthodes
issues de la thorie des groupes linaires que si G est un groupe rductif (donc gomtriquement rductif) agissant rationnellement sur une k-algbre A et I un idal Ginvariant de A, alors (A/I)U est entire sur AU /I U . Remarquons quil serait aussi possible dobtenir ce rsultat partir de la dmarche prcdente partir des rsultats du
chapitre 7.
6.1.3. Thorme de finitude
En utilisant le principe de transfert, nous obtenons le thorme le plus important de
cette section.
Thorme 6.1.8. Soit G un groupe linairement rductif agissant sur une varit affine
X et U < G un sous-groupe maximal unipotent. Alors k[X]U est de type fini.
D. k[G]U k[X] est de type fini puisque k[X] et k[G]U sont de type fini.
Par le thorme de finitude de Hilbert, (k[G]U k[X])G est donc aussi de type fini. Le
thorme suit alors du principe de transfert.

6.2. P
Soit G, un groupe semi-simple agissant sur une varit affine X. Par le thorme
6.1.8, k[G]U est alors de type fini et comme au chapitre 3, on peut considrer la varit
affine Spec(k[ X]U ). Dans cette section, nous tudierons laide dexemples simples
quelques proprits gomtriques de lapplication U : X Spec(k[ X]U ) induite par
linjection de k[ X]U dans k[ X]. Nous observerons que contrairement au cas rductif, la
paire ( Spec(k[ X]U , U ) nest pas un quotient de X par U puisque les U-orbites fermes
ne sont pas spares par U .
Le lemme suivant nous indique quun quotient de X par U devrait tre un quotient
gomtrique.
Lemme 6.2.1 (Humphreys). Soit G un groupe linairement rductif agissant sur une
varit affine X et soit U un sous-groupe maximal unipotent de G. Pour tous x X,
lorbite U x est ferm.
D. Voir [Hu], Proposition 4.10

78
Les exemples suivants nous indiquent la proprit de sparation nest gnralement
pas satisfaite.
Exemple 6.2.1. Considrons laction de SL2 sur 2 dfinie par

a b x ax + by

c d y
cx + dy
Soit maintenant U2 , le sous-groupe de SL2 constitu des matrices triangulaires suprieures unipotentes. Un agit donc sur 2 par

1 b x x + by

0 1 y = y
Les orbites sont donc les ensembles de la forme


a

ou ,
0
b
cest--dire les points de laxe des x de mme que les droites parallles cet axe.
On vrifie que k[X]Un = k[y]. Lapplication quotient est donc la projection
U :

- 1

2
(x, y)

qui ne spare pas les points de laxe des x. La varit affine X//U ne satisfait donc pas
les proprits dun quotient.
Exemple 6.2.2. Dans le cas de laction de U3 sur 3 , les orbites sont les points de
laxe des x, les droites parallles laxe des x et les plans parallles au plan Oxy.
On vrifie que k[X]Un = k[z]. Lapplication quotient est donc la projection
U :

3
(x, y, z) 7

- 1

qui ne spare ni les points de laxe des x ni les droites parallles laxe des x. La
varit affine X//U ne satisfait donc pas les proprits dun quotient.

79
Dans les deux exemples prcdents, on voit que la proprit de sparation est toutefois obtenue si lon jette la fibre au dessus de 0. Ce nest malheureusement pas toujours
le cas. Considrons lexemple suivant.
Exemple 6.2.3. Reprsentation adjointe de SL2
Considrons laction de G = SL2 sur X = sl2 par conjugaison. Nous obtenons alors
que k[ sl2 ] SL2 = k[det]. Lapplication quotient est alors donne par
: sl2
A

7 det(A)

Suivant les rsultats obtenus dans la section 3.1, les G-fibres contenant une orbites
ferme de la forme

1 0

0 1
contiennent aussi lorbite ouverte

1 1

0 1
alors que les autres fibres ne contiennent quune seule orbite.
Considrons maintenant laction de U2 , le sous-groupe des matrices unipotentes
suprieurs de SL2 , sur sl2 induite par laction de SL2 . On vrifie alors que k[ sl2 ]U2 =
k[x21 , det]. Lapplication U est alors donne par
U :

sl2

- 2

a b

7 (c, ab cd)
c d
Considrons la fibre au dessus de (0, 1). Cette fibre contient entre autre les Uorbites disjointes

1 0 1

=
OU

0 1
0 1
et

80

1 0 1
=

OU

0 1
0 1
De mme, la fibre au dessus de (0, 1) contient entre autre les U-orbites disjointes

1 0 1
=

OU

0 1
0 1
et

1 1
1 u

OU
:
u
,
0
=

0 1

0 1
En fait, on vrifie de faon similaire que les fibres aux dessus des points (0, y)
contiennent tous plusieurs orbites disjointes. On peut aussi vrifier que les autres fibres
ne contiennent quune seule orbite. Louvert constitu des matrices (ai j ) de sl2 dont le
coefficient a12 est non nul admet donc un quotient gomtrique par U2 .
Remarque 6.2.1. Contrairement aux exemples 6.2.1 et 6.2.2, dans lexemple prcdent, les points problmatiques ntaient seulement les points ou tous les covariants
sannulaient, mais aussi ceux ou seul le covariants non invariant tait nul. Nous conjecturons quun quotient gomtrique peut toujours tre obtenu en jetant les points o
les covariants qui ne sont pas des covariants sannulent. Les deux premiers exemples
taient des cas particuliers o il ny avait pas dinvariants et satisfont donc cette conjecture.

6.3. C` H-M-B
Contrairement au cas rductif, nous remarquons dans les exemples de la section
prcdente que les points de la fibre au dessus de 0 ne sont pas les points contenant
0 dans la fermeture de leur orbite, dans lequel cas nous aurions eu 1
U (0) = {0} par
le lemme 6.2.1. Dans [Br] Brion utilise le principe de transfert vu au chapitre 6 pour
dduire du critre de Hilbert-Mumford un critre pour cette fibre.
Thorme 6.3.1 (Brion). Soit X une G-varit affine. Pour x X, les conditions suivantes sont alors quivalentes : (i) f (x) = 0 f [X]U ; (ii) hom( , T ) tel
que hv , $i i > 0 et u U tels que limt0 (t) u x = 0.

81
Un de nos objectifs tait dobtenir un critre semblable pour les U-fibres partir du
critre gnral de Hilbert-Mumford. Dans la preuve de Brion, le fait le T soit contenu
dans le stabilisateur de 0 joue un rle fondamental. Malheureusement, pour un point
y X en gnral, T nest pas contenu dans le stabilisateur de y. Nous navons pas
su contourner cette difficult. Nous obtenons donc un critre valable seulement pour
les U-fibres dont les points dorbite ferm sont stabiliss par T . Cette condition est
satisfaite au moins dans le cas des reprsentations adjointes. En fait, la condition T
Gy peut tre substantiellement affaiblie. Nous verrons quil est seulement ncessaire
que (t) Gy pour un sous-groupe 1 paramtre bien prcis.
Nous obtenons donc le thorme suivant :
Thorme 6.3.2 (Brion gnralis). Soit X une G-varit affine et soit x X tel que
G x est ferme et tel Gy v ( ). Pour x X, les conditions suivantes sont alors
quivalentes : (i) f (x) = f (y) f [X]U ; (ii) hom( , T ) tel que h, $i i > 0
et u U tels que limt0 (t)u x G y.
D. Soit v =

vi , ou vi ViU , Vi un G-module simple de plus haut poids

$i . Alors par le thorme 6.1.6, nous obtenons que lapplication

[G v X]G

[X]U

o ( f )(x) = f (v, x) est un isomorphisme dalgbre. La condition (i) implique donc

que f (v, x) = f (v, y) f [G v X]G .
On obtient donc que
f (v, x) = f (v, y) = f ((t)v, (t)y) = f ((t)v, y) = f (0, y)
pour tous f [G v X]G .
Par le critre de Hilbert-Mumford 5.1.1 appliqu G v X, il existe alors
hom( , T 0 ) pour un certain tore maximal T tel que limt0 (t) (v, x) G (0, y).
Il ne nous reste donc plus qu remplacer par un sous-groupe un paramtre de
T . Nous utiliserons pour cela le lemme 1.3.5.
Soit P = {g G| limt0 (t)g(t)1 existe}. Nous savons que P est parabolique
par le lemme 1.3.5 et donc que lintersection de P et de B contient un tore maximal,
disons T 00 (lemme 1.4.1).

82
Remarquons que T 0 est aussi un tore maximal de P puisque v ( ) T 0 . Ils sont
conjugs dans P , cest--dire que T 00 = gT 0 g1 pour un certain g P . Dun autre
cot, remarquons que T et T 00 deux tore maximaux de B et sont donc conjugs dans B,
cest--dire que T = uT 00 u1 pour un certain u U. On obtient donc finalement que
T = ugT 0 g1 u1 avec u U et g P .
Considrons maintenant le sous-groupe 1 paramtre 0 = ugg1 u1 hom( , T )
dfini par 0 (t) = ug(t)g1 u1 . Nous prtendons que limt0 0 (t) u (v, x) G y.
Nous obtenons en effet que
lim 0 (t) u(v, x) = lim ug(t)g1 u1 u(v, x) = lim ug(t)g1 (t)1 (t)(v, x).
t0

t0

t0

Par construction de 0 , nous savons que limt0 ug(t)g1 (t)1 existe et que
lim ug(t)(v, x) G y.
t0

La limite limt0 ug(t)g1 (t)1 (v, x) est donc dans G y et 0 (t) est alors le sousgroupe 1 paramtre que lon cherche puisque
lim 0 (t) v = 0 hv , $i i > 0
t0

et que
lim 0 (t) u x G y
t0


Corollaire 6.3.1 (de la preuve). Soit y X tel que G x est ferm et tel G x v ( ).
Soit G tel que G x v ( ). Alors f (x) = f (x) f [X]U
D. Soit f [X]U . Soit h [G v X]G tel que f (x) = h(v, x) x X.
Alors
f (x) = h(v, x) = h(v (t)v, v (t)x) = h(v (t)v, x) = h(0, x) = h((0, x)) = h(0, x) =
f (x)

Chapitre 7

RSULTATS EN CARACTRISTIQUE P

En caractristique nulle, les groupes linairement rductifs sont trs peu nombreux
en comparaison des groupes rductifs1. Les thormes de la thorie gomtrique des
invariants que nous venons de voir se limitent donc de facto au cas de caractristique
nulle. Dans la prface de la premire dition de [GIT], Mumford conjecture quun
groupe algbrique est rductif si et seulement sil est gomtriquement rductif. Cette
conjecture sera montre par Haboush [Ha, Thorme 5.2] et permettra dtendre la
thorie gomtrique en caractristique p pour les groupes rductifs2. La notion de
groupe gomtriquement rductif est en effet une gnralisation naturelle de la notion de groupe linairement rductif. Les proprits de ces groupes restent suffisantes
pour dmontrer les rsultats de la thorie gomtrique des invariants. Nous utilisons
dans cet appendice certaines mthodes dalgbre commutative nous permettant de pallier labsence doprateur de Reynold pour un groupe gomtriquement rductif. Nous
dmontrerons entre autres des versions des thormes3.2.1 et 7.0.3 pour ces groupes.
On retrouvera plus de dtails sur la construction dun quotient pour un groupe gomtriquement rductif dans [Ne] et en appendice de [GIT].
Dfinition 7.0.1 (Rductivit gomtrique). Un groupe algbrique linaire et gomtriquement rductif si pour toute reprsentation rationnelle V et pour tout v V G non
nul, il existe f k[V]G homogne de degr n tel que f (v) = 1.
1Nagata montrera dans [N] quen caractristique p, les seuls groupes linairement rductifs sont
les extensions de tore par un groupe dordre relativement premier p.
2
Voir par exemple la section A de lappendice au chapitre 1 de [GIT] pour un rappel historique des
rsultats concernant cette conjecture.

84
Lemme 7.0.1. Soit A une k-algbre et G un groupe gomtriquement rductif agissant
rationnellement sur A. Si I est un idal G-stable de A et si a (A/I)G alors an AG /I G
pour un certain n.
D. Soit a (A/I)G non nul. Par le lemme 1.3.2 il existe W un sous-espace
vectoriel de G-stable et de dimension finie W tel que a W. Clairement W I est aussi
G-stable et de dimension finie. Si e1 , ..., e s est une base pour W I, alors a, e1 , ..., e s est
une base pour V := ka + W I puisque a < I. Soit a V la forme linaire dfinie par
P
a (a) = 1 et a (ei ) = 0. Montrons que a est G-invariant. Soit v = a + i ei V et
G.
Alors a (ei ) = a (ei ) = 0 puisque ei W I et a (a) = a (a) puisque a a
W I (a (A/I)G ).
On a alors

a (v) = a (a) +

i a (ei ) = a (a) +

i a (ei ) = a (v)

Par hypothse sur G il existe donc f k[V ]G homogne de degr n tel que f (a ) =
P Q n
P
1, quon peut crire sous la forme f = an + i e j j ,o n j = n. On a alors

1 = f (a ) = a (a)n +

a (e j )n j = a (a)n =

et on peut rcrire f sous la forme f = an + v, ou v I. On a donc f AG tel que

f = a n , cest--dire a n AG /I G

Corollaire 7.0.2. Suivant la notation du thorme prcdent (A/I)G est entire sur
AG /I G .
D. Soit a (A/I)G . Alors a est une racine de xn an qui est lment de
AG /I G [x] par le thorme prcdent.

Thorme 7.0.3. Si A est une k-algbre gradue de type fini et G est un groupe gomtriquement rductif agissant sur A, alors AG est de type fini.
D. Considrons lensemble des idaux homogne G-stable I de A tels
que (A/I)G nest pas de type fini. Si = alors A = A/(0) est de type fini. On peut

85
donc supposer que , . possde alors un lment maximal, disons I0 , A tel que
(A/I0 )G nest pas de type fini. Posons B := A/I0 et soit a BG non nul.
Supposons pour commencer que a nest pas un diviseur de zro dans B et supposons, en plus, que ce nest pas une unit ((a(B)G )+ = a (B)G ). Par maximalit de I0 ,
B/a B = A/(I0 +aA) est de type fini. Mais comme (B/a B)G est entire sur BG /(a B)G (corollaire 7.0.2) alors BG /(a B)G est aussi de type fini et donc noethrien. Mais puisque
a nest pas un diviseur de zro, linclusion a BG , (a B)G est un isomorphisme et
BG /a(B)G est noethrien. Lidal irrelevant, (BG )+ /a(B)G (lemme 1.1.1) est alors finiement engendr sur BG /a(B)G , disons par x1 , ..., xn et (BG )+ est son tour finiement
engendr sur (BG ) par x1 , ..., xn , a . BG est donc de type fini (lemme 1.1.1), une contradiction.
Supposons maintenant que a est un diviseur de zro dans B, cest--dire (0 : a ) , .
Par maximalit de I0 , (B/(0 : a ))G = (A/(I0 + (I0 : a)))G est de type fini. Mais comme
(0 : a ) est le noyau de lhomomorphisme de k-algbre B a B, (a B)G = (B/(0 : a ))G
est aussi de type fini et donc noethrien comme anneau et donc comme BG module.
Comme prcdemment BG /AG est aussi noethrien comme anneau et donc comme BG
module. On a donc la courte squence exacte
0 (a B)G (B)G (B)G /(a B)G 0
Mais BG est alors noethrien comme BG module (lemme 1.1.7), cest--dire comme
anneau et donc de type fini (lemme 1.1.1), une contradiction.
Enfin, si BG ne contient que des units, alors BG = (BG )0 = k, clairement de type
fini, une contradiction.

La proprit dmontre par le corollaire 7.0.2 a des consquences gomtriques

importantes. On retrouve en effet la proprit de sparation que lon avait dans le cas
linairement rductif.
Montrons tous dabord le lemme suivant, une version affaiblie du lemme 3.3.2 mais
ayant les mmes consquences gomtriques.
Lemme 7.0.2. Soit I1 et I2 des idaux G-stables de R, et soit f (I1 + I2 )G . Il existe
alors n tel que f n I1G + I2G

86
D. Soit f (I1 +I2 )G , disons f = f1 + f2 , tels que f1 + f2 = f1 + f2 . On
remarque que fi (Ii /(I1 I2 ))G pour i = 1, 2. Puisque I1 et I2 sont aussi des k-algbre
sur lesquelles G agit rationnellement, en appliquant le lemme 7.0.1, nous obtenons
que fini IiG /(I1 I2 )G . Nous obtenons finalement que fini = hi + gi , o hi IiG et
gi (I1 I2 )G pour i = 1, 2, do f n1 n2 I1G + I2G .

Lemme 7.0.3. Soit W1 et W2 des ferms disjoints de X. Il existe alors f k[X]G tel
que f (W1 ) = 0 et f (W2 ) = 1.
D. Soit I1 et I2 tels Wi = V(Ii ) pour i = 1, 2. Par le Nullstellensatz, nous
obtenons alors que 1 I1 + I2 , do lon tire que 1 (I1 + I2 )G . Nous pouvons alors
appliquer le lemme prcdent pour obtenir que 1 I1G + I2G , disons 1 = f1 + f2 o fi Ii .


La fonction f1 est alors la fonction recherche.

En conclusion, comme pour un groupe linairement rductif, lapplication
: X

X//G

m 7 m AG
spare donc les orbites fermes et par continuit les classes dorbites quivalentes de
fermeture.

BIBLIOGRAPHIE

[A]

A, M F. ; M, I G. Introduction to commutative algebra,

Addison-Wesley Publishing Co.,London, 1969.

[Ar]

A, S Theorie der homogenen Functionen dritten Grades von drei Variabeln, in Journal fr die reine und angewandte Mathematik, Crelle, 97191, 1858.

[B]

B, A. Linear algebraic groups, Second edition, Springer-Verlag, New

York, 1991.

[Bi]

B, D. Orbits of linear algebraic groups, Annals of Mathematics, Second

Series, Volume 93, 459475, 1971.

[Br]

B, M. Invariants dun sous-groupe unipotent maximal dun groupe semisimple, Annales de lInstitut Fourier, Grenoble, Volume 33, no.1, 127, 1983.

[E]

E, D. Commutative algebra. With a view toward algebraic geometry,

Springer-Verlag, New York, 1995.

[E2]

E, D ; H, J. The geometry of schemes, Springer-Verlag, New York,

2000.

[EGA]

G, A. lments de gomtrie algbrique. II. tude globale lmentaire de quelques classes de morphismes., Publications Mathmatiques de lInstitut de Hautes tudes Scientifiques, No. 28, 1966.

[G]

G, F D. Algebraic homogeneous spaces and invariant theory, SpringerVerlag, New York, 1997.

[G2]

G, F D. The invariants of unipotent radicals of parabolic subgroups,

Inventiones Mathematicae, Volume 73, no. 1, 19, 1983.

[GIT]

M, D ; F, J ; K, F. Geometric invariant theory.

Third edition, Springer-Verlag, Berlin, 1994.

88
[Go]

G, P A. Ueber ternre Formen dritten Grades, Mathematische Annalen,

Volume 1, no. 1, 90128, 1869.

[H]

H, D. Hilberts invariant theory papers, Math Sci Press, Brookline, 1978.

[H]

H, R. Algebraic geometry, Springer-Verlag, New York, 1977.

[Ha]

H, W J. Reductive groups are geometrically reductive, Annals of Mathematics. Second Series, Volume 102, no. 1, 6783, 1975.

[He]

H, W H. Desingularizations of varieties of nullforms, Inventiones Mathematicae, Volume 55, no. 2, 141163, 1979.

[Hu]

H, J E. Linear algebraic groups, Springer-Verlag, New York, 1975.

[Hu2]

H, J E. Conjugacy classes in semisimple algebraic groups, American

Mathematical Society, Providence, 1995.

[K]

K, G R. Instability in invariant theory, Annals of Mathematics. Second

Series, Volume 108, no. 2, 299316, 1978.

[Kr]

K, H. Geometrische Methoden in der Invariantentheorie, Aspects of

Mathematics, Braunschweig, 1984.

[Kr]

K, H, P, C. Classical Invariant Theory, a Primer,

http ://www.math.unibas.ch/ kraft/, 2000.

[M]

M, D. The red book of varieties and schemes, Springer-Verlag, Berlin,

1988.

[M2]

M, D. Algebraic geometry. I. Complex projective varieties, SpringerVerlag, Berlin, 1981.

[M3]

M, D ; S, K. Introduction to the theory of moduli, dans Algebraic geometry, Oslo 1970, Proc. Fifth Nordic Summer-School in Math, 171222,
1972.

[Mu]

M, S. An introduction to invariants and moduli, Cambridge University

Press, Cambridge, 2003.

[N]

N, M. On the fourteenth problem of Hilbert, Proc. Internat. Congress

Math., 459462, 1958.

[N]

N, M. Complete reducibility of rational representations of a matrix

group, Journal of Mathematics of Kyoto University, Volume 1, 8799, 1962.

[Ne]

N, P E. Introduction to moduli problems and orbit spaces, Tata Institute

of Fundamental Research, Bombay ; Narosa Publishing House, New Delhi, 1978.

89
[O]

O, P J. Classical invariant theory, Cambridge University Press, Cambridge,

1999.

[P]

P, V L. Invariant theory, dans Algebraic geometry IV. Springer-Verlag,

Berlin, 1994.

[S]

S, G. A treatise on the higher plane curves. 3rd ed., Chelsea Publishing

Co., New York, 1960.

[U]

U, K. Algebraic geometry, American Mathematical Society, Providence,

1999-2003.

[U2]

S, Y ; U, K . Advances in moduli theory , American Mathematical

Society, Providence, 2003.