Vous êtes sur la page 1sur 270

Pierre COLMEZ

LMENTS DANALYSE ET
DALGBRE
Pierre COLMEZ
C.M.L.S., cole Polytechnique, 91128 Palaiseau Cedex, France.
LMENTS DANALYSE ET DALGBRE
Pierre COLMEZ
TABLE DES MATIRES
Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
Notations standard . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2
Bibliographie sommaire . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
I. Espaces de Banach . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
I.1. Espaces de Banach . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
1. Premires proprits . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
2. Espaces de suites . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
3. Espaces de fonctions continues . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
4. Compltion despaces vectoriels norms . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
5. Applications linaires continues entre espaces de Banach . . . . . . . . . . . . . . . . . . 11
6. Le dual dun espace de Banach . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
I.2. Espaces de Hilbert . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14
1. Espaces prhilbertiens . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14
2. Espaces de Hilbert . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
3. Le thorme de projection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
4. Le dual dun espace de Hilbert . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
5. Bases hilbertiennes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18
6. Sries de Fourier . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
I.3. Exercices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20
1. Espaces de Banach . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20
2. Espaces de Hilbert . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21
3. Sries de Fourier . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22
II. Intgration . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
II.1. Intgrale de Lebesgue . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
vi TABLE DES MATIRES
1. Dallages et fonctions en escalier . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
2. Ensembles de mesure nulle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27
3. Dnition de lintgrale de Lebesgue . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29
4. Intgration sur un sous-ensemble mesurable de R
m
. . . . . . . . . . . . . . . . . . . . . . . . 31
5. Les thormes de convergence monotone et de convergence domine . . . . . . . . 32
6. Existence de lintgrale de Lebesgue . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34
6.1. Le thorme de convergence domine pour les fonctions en escalier bornes
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34
6.2. Mesure et mesure extrieure des ensembles mesurables . . . . . . . . . . . . . . . . 37
6.3. Le thorme de convergence monotone pour les fonctions mesurables bornes
support compact . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38
6.4. Limites simples p.p. de fonctions mesurables . . . . . . . . . . . . . . . . . . . . . . . . . . 39
6.5. Le thorme de convergence monotone . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40
II.2. Applications de lintgrale de Lebesgue . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40
1. Intgrales dpendant dun paramtre . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40
2. Intgrales multiples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43
3. La formule du changement de variable . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45
II.3. Exercices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 47
III. Transforme de Fourier . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49
III.1. Quelques espaces fonctionnels . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49
1. Lespace L
1
(X) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49
2. Lespace L
2
(X) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 50
3. Comparaison entre la convergence dans L
1
et dans L
2
. . . . . . . . . . . . . . . . . . . . . . 51
4. Espaces L
p
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 53
III.2. Transforme de Fourier dans L
1
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 54
1. Dnition et premires proprits . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 54
2. Le thorme de Riemann-Lebesgue . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 55
3. Formules dinversion dans L
1
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 55
4. Transforme de Fourier et drivation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56
5. La formule de Poisson . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 57
III.3. Transforme de Fourier dans L
2
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58
1. Transforme de Fourier des fonctions en escalier . . . . . . . . . . . . . . . . . . . . . . . . . . . . 59
2. Dnition de la transforme de Fourier dans L
2
. . . . . . . . . . . . . . . . . . . . . . . . . . . . 60
3. Comparaison des transformes de Fourier dans L
1
et L
2
. . . . . . . . . . . . . . . . . . . . 61
4. Drivation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 62
III.4. Exercices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63
TABLE DES MATIRES vii
IV. Fonctions holomorphes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 65
IV.1. Fonctions holomorphes et fonctions analytiques complexes . . . . . . . . . . . . . . . . 65
1. Sries entires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 65
2. Rayon de convergence dune srie entire . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 66
3. Premires proprits des fonctions holomorphes . . . . . . . . . . . . . . . . . . . . . . . . . . . . 68
3.1. Dnition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 68
3.2. Thorme des zros isols et unicit du prolongement analytique . . . . . . 70
3.3. Principe du maximum . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 71
IV.2. La formule intgrale de Cauchy et ses consquences . . . . . . . . . . . . . . . . . . . . . . . . 72
1. Gnralits sur les chemins . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 72
2. Intgration le long dun chemin . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 73
3. Holomorphie des fonctions drivables au sens complexe . . . . . . . . . . . . . . . . . . . . 75
4. Construction de fonctions holomorphes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 77
4.1. Sries et produits innis de fonctions holomorphes . . . . . . . . . . . . . . . . . . . . 77
4.2. Fonctions holomorphes dnies par une intgrale . . . . . . . . . . . . . . . . . . . . . . 79
IV.3. Structure locale des fonctions holomorphes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 80
1. Le thorme dinversion locale holomorphe . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 80
2. Logarithme et fonctions puissances . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 82
V. La formule de Cauchy et celle des rsidus (de Cauchy) . . . . . . . . . . . . . . . . 85
V.1. Homotopie de lacets et formule de Cauchy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85
1. Vocabulaire de topologie algbrique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85
2. Un cas particulier de la formule de Stokes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 86
3. Dmonstration de la formule de Cauchy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 90
4. Primitives . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91
V.2. La formule des rsidus de Cauchy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 92
1. Fonctions holomorphes sur une couronne . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 92
2. Fonctions holomorphes sur un disque point ; rsidus . . . . . . . . . . . . . . . . . . . . . . 95
3. Indice dun lacet par rapport un point . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 97
3.1. Dnition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 98
3.2. Dtermination visuelle de lindice dun lacet par rapport un point . . . . 98
4. La formule des rsidus . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 101
5. Exercices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 101
VI. Sries de Dirichlet . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 105
VI.1. Sries de Dirichlet . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 105
1. Gnralits . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 105
viii TABLE DES MATIRES
2. Demi-plan de convergence dune srie de Dirichlet . . . . . . . . . . . . . . . . . . . . . . . . . . 106
3. Sries de Dirichlet coecients positifs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 108
VI.2. Sries de Dirichlet et transforme de Mellin . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 109
1. La fonction dans le plan complexe . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 109
2. Une formule intgrale pour les sries de Dirichlet . . . . . . . . . . . . . . . . . . . . . . . . . . 111
VI.3. La fonction zta de Riemann . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 114
1. Sries de Dirichlet attaches des fonctions multiplicatives . . . . . . . . . . . . . . . . 114
2. Prolongement analytique de la fonction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 115
3. quation fonctionnelle de la fonction zta . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 116
4. Les zros de la fonction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 119
VI.4. Fonctions L de Dirichlet . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 120
1. Caractres de Dirichlet et Fonctions L de Dirichlet . . . . . . . . . . . . . . . . . . . . . . . . 120
2. Conducteur et sommes de Gauss . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 121
3. quation fonctionnelle des fonctions L de Dirichlet . . . . . . . . . . . . . . . . . . . . . . . . 122
VI.5. Autres exemples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 124
1. La fonction de Moebius . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 124
2. La fonction de Ramanujan . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 125
3. Exercices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 126
VII. Reprsentations des groupes nis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 133
VII.1. Reprsentations et caractres . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 134
1. Dnitions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 134
2. Premiers exemples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 136
2.1. Caractres linaires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 136
2.2. Sommes directes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 136
2.3. Reprsentations de permutation, reprsentation rgulire . . . . . . . . . . . . . . 136
3. Morphismes de reprsentations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 137
VII.2. Dcomposition des reprsentations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 138
1. Dcomposition en somme directe de reprsentations irrductibles . . . . . . . . . . 138
2. Le lemme de Schur et ses consquences immdiates . . . . . . . . . . . . . . . . . . . . . . . . 140
3. Orthogonalit des caractres . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 141
4. Applications du thorme principal . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 142
4.1. Nombre des reprsentations irrductibles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 142
4.2. La dcomposition canonique dune reprsentation . . . . . . . . . . . . . . . . . . . . . . 143
4.3. Un critre dirrductibilit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 144
4.4. La dcomposition de la reprsentation rgulire . . . . . . . . . . . . . . . . . . . . . . . . 144
5. Le cas des groupes commutatifs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 145
TABLE DES MATIRES ix
VII.3. Construction de reprsentations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 146
1. Reprsentations induites . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 146
1.1. Caractre dune reprsentation induite . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 146
1.2. La formule de rciprocit de Frobenius . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 147
1.3. Transitivit des inductions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 149
1.4. Les thormes dArtin et de Brauer . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 149
2. Constructions tensorielles de reprsentations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 150
2.1. Produit tensoriel despaces vectoriels de dimension nie . . . . . . . . . . . . . . . . 150
2.2. Produit tensoriel de reprsentations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 152
2.3. Carr symtrique et carr extrieur dune reprsentation . . . . . . . . . . . . . . 152
3. Exercices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 153
A. Le thorme des nombres premiers . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 157
A.1. Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 157
A.2. Les fonctions et
1
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 160
1. Thorme des nombres premiers et comportement de
1
en + . . . . . . . . . . . . 160
2. Une formule intgrale pour
1
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 161
A.3. Formules explicites . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 162
1. nonc du rsultat . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 163
2. Les fonctions L et
L

L
en dehors de la bande critique . . . . . . . . . . . . . . . . . . . . . . . . 165
3. La fonction L dans la bande critique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 166
4. La fonction
L

L
dans la bande critique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 167
5. Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 168
A.4. Dmonstration du thorme des nombres premiers . . . . . . . . . . . . . . . . . . . . . . . . 170
1. Non annulation sur la droite Re(s) = 1 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 170
2. Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 172
A.5. Complments . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 172
1. Lhypothse de Riemann et ses consquences . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 172
2. Lhypothse de Riemann et la fonction M de Mertens . . . . . . . . . . . . . . . . . . . . . . 173
3. Lhypothse de Lindelf . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 174
B. Groupes nis et reprsentations : exemples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 175
B.1. p-Groupes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 175
1. Gnralits sur les p-groupes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 175
2. Reprsentations des p-groupes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 176
3. Le thorme de Sylow . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 177
B.2. Reprsentations du groupe symtrique S
n
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 178
x TABLE DES MATIRES
1. Partitions de n et reprsentations de S
n
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 178
2. Diagrammes de Young et reprsentations de S
n
. . . . . . . . . . . . . . . . . . . . . . . . . . . . 180
3. Caractres de S
n
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 181
B.3. Reprsentations de GL
2
(F) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 182
1. Le groupe GL
2
(F) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 182
2. Construction de reprsentations de GL
2
(F) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 182
3. Les classes de conjugaison de GL
2
(F) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 184
4. La table des caractres de GL
2
(F) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 185
5. Dmonstrations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 186
C. Introduction au programme de Langlands . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 191
C.1. La conjecture dArtin . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 193
1. Le groupe G
Q
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 193
2. Reprsentations de G
Q
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 194
3. Fonctions L dArtin . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 196
4. Fonctions L de degr 2 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 197
4.1. Reprsentations impaires et formes modulaires . . . . . . . . . . . . . . . . . . . . . . . . 197
4.2. Reprsentations paires et formes de Maass . . . . . . . . . . . . . . . . . . . . . . . . . . . . 199
5. La thorie du corps de classes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 200
C.2. Le thorme de Kronecker-Weber revisit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 202
1. Adles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 203
1.1. Le thorme dOstrowski . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 203
1.2. Lanneau des adles de Q . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 204
1.3. Le groupe des idles de Q . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 205
2. La formule de Poisson adlique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 206
2.1. Transforme de Fourier sur Q
p
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 206
2.2. Transforme de Fourier adlique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 208
3. Transforme de Mellin adlique et fonctions L . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 209
3.1. Intgration sur Q

p
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 209
3.2. Intgration sur le groupe des idles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 209
3.3. Transforme de Mellin sur Q
p
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 210
3.4. La transforme de Mellin adlique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 211
3.5. Le thorme de Tate . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 212
4. Application aux fonctions L de Dirichlet . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 213
4.1. La fonction zta de Riemann . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 213
4.2. Fonctions L de caractres de A

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 214
4.3. Caractres de Dirichlet et caractres linaires continus des idles . . . . . . 215
TABLE DES MATIRES xi
C.3. Le programme de Langlands . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 216
1. Reprsentations automorphes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 216
2. Des formes modulaires aux reprsentations automorphes . . . . . . . . . . . . . . . . . . 218
2.1. Prliminaires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 218
2.2. La forme automorphe associe une forme modulaire . . . . . . . . . . . . . . . . . . 219
2.3. La dcomposition de GL
2
(A) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 220
3. Quelques autres aspects du programme de Langlands . . . . . . . . . . . . . . . . . . . . . . 220
D. Vocabulaire Mathmatique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 223
D.1. Thorie des ensembles et algbre . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 223
1. Logique lmentaire et thorie des ensembles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 223
1.1. Ensembles dnombrables . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 223
1.2. Paralllisme entre logique lmentaire et langage ensembliste . . . . . . . . . . 223
2. Relations dquivalence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 224
2.1. Relations dquivalence et partitions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 224
2.2. Quotients despaces vectoriels . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 225
2.3. Anneaux quotients . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 226
2.4. Groupe oprant sur un ensemble . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 226
2.5. Quotients de groupes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 227
3. Construction de nombres . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 228
3.1. Nombres rels . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 228
3.2. Nombres p-adiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 229
3.3. Lanneau Z
p
des entiers p-adiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 230
4. Groupes nis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 231
4.1. Le thorme de Lagrange et ses variantes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 231
4.2. Groupes abliens nis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 232
4.3. Groupe symtrique, groupe altern . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 232
D.2. Algbre linaire . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 233
1. Gnralits . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 234
1.1. Endomorphismes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 234
1.2. Le thorme de Cayley-Hamilton . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 234
1.3. Isomorphismes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 234
1.4. Matrices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 234
1.5. Espaces propres, espaces caractristiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 235
1.6. Mise sous forme de Jordan . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 235
2. Modules de torsion sur K[T] et rduction des endomorphismes . . . . . . . . . . . . 236
3. Modules de torsion sur les anneaux principaux . . . . . . . . . . . . . . . . . . . . . . . . . . . . 238
xii TABLE DES MATIRES
D.3. Topologie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 240
1. Espaces topologiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 240
1.1. Ouverts, ferms, voisinages . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 240
1.2. Comparaison de topologies . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 241
1.3. Continuit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 241
1.4. Intrieur, adhrence, densit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 242
1.5. Construction despaces topologiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 242
1.6. R/Z . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 242
2. Espaces mtriques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 243
2.1. Topologie dnie par une distance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 243
2.2. Semi-distances . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 244
2.3. Continuit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 244
3. Compacit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 244
3.1. Dnition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 244
3.2. Proprits de base des compacts . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 245
3.3. R et R
+
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 246
4. Connexit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 247
5. Compltude . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 248
5.1. Espaces mtriques complets . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 248
5.2. Compltion dun espace mtrique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 250
6. Espaces vectoriels norms . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 251
6.1. Normes et applications linaires continues . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 251
6.2. Applications bilinaires continues . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 252
Index . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 255
INTRODUCTION
Les mathmatiques sont la fois un outil dune puissance surprenante, utilis des
degrs divers par les autres sciences, et une des plus incroyables constructions collectives
de lhumanit, sappuyant sur des bases consolides gnration aprs gnration pour
permettre ldice de monter toujours plus haut.
Ce cours est une introduction trois des thories qui servent de socle aux mathma-
tiques. La premire (chap. I, II et III) est lanalyse fonctionnelle des annes 1900-1930
(espaces de Banach, intgration de Lebesgue, transforme de Fourier), dans laquelle se
sont illustrs R. Baire, S. Banach, M. Frchet, H. Hahn, D. Hilbert, H. Lebesgue, M. Plan-
cherel, F. Riesz, H. Steinhaus... Cette thorie, ne des proccupations du sicle prcdent
concernant les quations direntielles, les quations aux drives partielles..., forme la
base de lanalyse relle moderne. La seconde (chap IV, V et VI) est la thorie des fonctions
analytiques dune variable complexe, qui sest dveloppe entre les mains de A. Cauchy
dans les annes 1820-1840, mais a t revisite rgulirement depuis ; la prsentation suivie
dans ce cours doit beaucoup aux apports de K. Weierstrass et de H. Poincar datant de
la seconde moiti du XIX
e
sicle. Cette thorie est probablement, avec la thorie gnrale
des groupes, celle qui est utilise dans le plus grand nombre des autres branches des ma-
thmatiques ou de la physique thorique. Enn, la partie algbrique du cours (chap. VII)
est consacre la thorie des reprsentations des groupes nis et de leurs caractres, d-
veloppe dans les annes 1895-1905 par F. Frobenius, W. Burnside et I. Schur. Elle peut
tre considre comme une petite extension de lalgbre linaire, mais elle forme, avec
la transforme de Fourier, deux des piliers de lanalyse harmonique dont les applications
sont multiples.
Le problme majeur dun cours de ce type est que lon est conduit privilgier les
rsultats qui ont le plus dapplications futures et relguer en exercice tout ce qui fait
le sel des mathmatiques, ce qui revient un peu visiter une cathdrale en ne sintres-
sant quaux consolidations successives de la base de ses piliers. Pour essayer de lutter
contre cette tendance, nous avons privilgi des objets analytiques, issus de la thorie
des nombres, ayant la facult tonnante dinteragir avec quasiment tous les domaines des
2 INTRODUCTION
mathmatiques (voire de la physique thorique) et, ce faisant, de contribuer fortement au
dveloppement de ces domaines. Il sagit des fonctions L, dont la fonction zta de Riemann
(dnie par (s) =

+
n=1
1
n
s
pour Re(s) > 1) est le prototype. Lun des premiers rsul-
tats remarquables concernant ces objets est probablement la clbre formule (2) =

2
6
de L. Euler (1734). Le mme Euler a mis au jour un lien heuristique entre la fonction
et la rpartition des nombres premiers qui ne fut rigoureusement tabli quen 1896 par
J. Hadamard et C. de la Valle Poussin en suivant une stratgie suggre par B. Riemann
en 1858. Entre-temps, G. Dirichlet avait introduit en 1837 les premires fonctions L pour
dmontrer lexistence dune innit de nombres premiers dans les progressions arithm-
tiques. Lannexe A, consacre ces rsultats, fournit une illustration frappante de lutilit
des fonctions holomorphes pour attaquer des problmes qui en semblent fort loigns. De-
puis, le monde des fonctions L sest enrichi au point de former un dice imposant dont
lannexe C essaie de donner une ide en partant de la constatation que, pour apprcier
llgance et la majest de la vote de Notre-Dame, il nest nul besoin de comprendre
pourquoi elle ne scroule pas ni, a fortiori, comment on a fait pour la construire sans
que tout tombe au fur et mesure. Nous nous sommes restreint laspect analytique des
fonctions L; celui-ci fait intervenir dautres objets mathmatiques ayant un don dubi-
quit assez poustouant, savoir les formes modulaires que nous avons relgues dans
une srie dexercices en vertu du principe nonc plus haut. Nous avons rsist la tenta-
tion dexplorer les proprits arithmtiques de ces fonctions L : leurs valeurs aux entiers
cachent des trsors qui font lobjet de conjectures gnrales de P. Deligne (1977, dont la
conjecture met en perspective le
2
de la formule dEuler, et la non apparition de
3
pour
(3)), de A. Beilinson (1985, qui vise, en particulier, expliquer quels objets interviennent
dans (3)) et de S. Bloch et K. Kato (1989, dont la conjecture donne une formule tota-
lement gnrale fournissant, par exemple, une signication lapparition de 691 dans la
formule (12) =
691
12
3
6
5
3
7
2
1113
).
Notations standard
On note Nlensemble des entiers naturels, Z lanneau des entiers relatifs, Q le corps des
nombres rationnels, R le corps des nombres rels et C le corps des nombres complexes.
On note Q

, R

et C

les groupes multiplicatifs de Q, R et C.


On note R
+
(resp. R

+
) lensemble des nombres rels positifs (resp. strictement positifs)
et R

(resp. R

) lensemble des nombres rels ngatifs (resp. strictement ngatifs).


On note R = R la droite relle acheve, et R
+
= R
+
+ la demi-droite
relle acheve.
Si t R, on note [t] sa partie relle, et t = t [t], sa partie fractionnaire.
Si X est un ensemble, on note [X[ son cardinal.
Si A est un anneau, et si n N 0, on note M
n
(A) lanneau des matrices n n
coecients dans A, GL
n
(A) M
n
(A) le groupe des matrices inversibles (celles dont le
INTRODUCTION 3
dterminant est inversible dans A), et SL
n
(A) le sous-groupe de GL
n
(A) des matrices de
dterminant 1.
Bibliographie sommaire
Le lecteur dsirant approfondir
(1)
certains des thmes dvelopps dans ce cours est invit
consulter les ouvrages ci-dessous. Ces ouvrages partent peu prs au mme niveau que
le prsent cours, mais sont plus spcialiss, ce qui leur permet daller plus loin.
P. Biane, J-B. Bost et P. Colmez, La fonction zta, Presses de lcole Polytechnique.
Le lecteur y trouvera divers aspects de la fonction zta en lien avec larithmtique ou les
probabilits
(2)
J-B. Bost, Fonctions analytiques dune variable complexe, cole Polytechnique.
Couvre les chapitres IV VI, et une partie de lannexe A du cours, en suivant un rythme
moins ern, et propose des prolongements en direction de lanalyse.
D. Bump, Automorphic forms and representations, Cambridge University Press.
Version dveloppe de lannexe C; sa lecture demande un investissement non ngligeable.
H. Cartan, Thorie lmentaire des fonctions analytiques dune ou plusieurs variables
complexes, Hermann.
Couvre les chapitres IV et V du cours, et poursuit en direction de la gomtrie (surfaces de
Riemann, et fonctions de plusieurs variables).
W. Ellison, Les nombres premiers, Hermann.
Couvre lannexe A, et bien plus.
W. Fulton et J. Harris, Representation theory. A rst course, GTM 129, Springer-Verlag.
Dbute par le chapitre VII et lannexe B du cours, et poursuit en direction des reprsentations
des groupes de Lie.
R. Godement, Analyse mathmatique II, III et IV, Springer-Verlag.
Couvre lessentiel du cours, et de ce que jaurais voulu y mettre, en prenant son temps, ce
que son nombre de pages permet. Les formes modulaires y sont traites avec le respect quelles
mritent.
N. Koblitz, Introduction to elliptic curves and modular forms, GTM 97, Springer-Verlag.
Ore un voyage travers la thorie des nombres en prenant comme l conducteur le problme
des nombres congruents.
S. Patterson, An introduction to the theory of the Riemann Zeta-function, Cambridge
University Press.
Couvre lannexe A, et poursuit en direction des hypothses de Riemann et Lindelf.
W. Rudin, Real and complex Analysis, Mc Graw-Hill
(1)
La manire standard pour fabriquer des exercices est de prendre des rsultats dmontrs dans des
ouvrages plus spcialiss et de les dcouper en questions. Le lecteur trouvera donc dans ces ouvrages la
solution de la plupart des exercices de ce cours...
(2)
Le second texte de ce volume est loin dtre exempt de fautes de frappes ; admirer le pouvoir de la
double ngation...
4 INTRODUCTION
Un cours danalyse qui couvre en particulier la partie analyse du cours (chapitres I V), mais
ne sarrte pas l, loin sen faut.
J-P. Serre, Cours darithmtique, Presses Universitaires de France.
Un fort joli livre pour en apprendre plus sur les formes quadratiques coecients rationnels
et les formes modulaires.
J-P. Serre, Reprsentations linaires des groupes nis, Hermann
Couvre le chapitre VII et une partie de lannexe B, et continue sur des sujets plus pointus
concernant les reprsentations des groupes nis.
A. Weil, Elliptic functions according to Eisenstein and Kronecker, Springer-Verlag.
Un livre semi-historique trs agrable lire, illustrant un niveau lmentaire les liens entre
les fonctions holomorphes et la thorie des nombres.
CHAPITRE I
ESPACES DE BANACH
La thorie des espaces vectoriels norms complets (appels espaces de Banach en
raison du rle jou par ce dernier dans sa mise en forme) est issue des travaux du 19-ime
sicle sur les quations direntielles, les quations aux drives partielles ou les quations
intgrales du type u(x) +
_
b
a
K(x, y)u(y) dy = f(x), o u est une fonction inconnue. Il
sest coul une vingtaine dannes entre lintroduction par D. Hilbert de lespace qui
porte son nom (lespace
2
des suites de carr sommable), la ralisation lanne suivante,
par E. Fischer et F. Riesz, de ce que lespace des fonctions de carr sommable lui tait
isomorphe, et la forme dnitive de la thorie par lcole polonaise (S. Banach, H. Hahn,
H. Steinhaus). En retour, cette thorie a permis de nombreuses avances sur les problmes
qui lont motive. Le problme de la classication des espaces de Banach est toujours
dactualit
(1)
.
I.1. Espaces de Banach
Dans tout ce qui suit, K dsigne soit le corps R des nombres rels, soit le corps C des
nombres complexes. Le lecteur est renvoy au n
o
6 du D.3 pour le vocabulaire et les
proprits lmentaires des espaces vectoriels norms.
1. Premires proprits
Un espace vectoriel norm (E, | |), qui est complet (pour la distance associe la
norme), est appel un espace de Banach. Autrement dit (cf. rem. D.3.2), (E, | |) est un
espace de Banach si et seulement si toute srie normalement convergente a une limite
dans E (i.e. si

nN
|u
n
| < + implique que la suite des sommes partielles

in
u
i
a
une limite dans E). On rappelle (cf. alina 2.1 du D.3) que, si x E et si r R
+
, on
(1)
Un problme qui est rest ouvert pendant longtemps tait de savoir si un endomorphisme continu dun
C-espace de Banach possde toujours un sous-espace ferm invariant (cest le cas en dimension nie 2) ;
un contrexemple dans lespace
1
des suites sommables a t construit par Eno (1987), mais on ne sait
pas sil existe des contrexemples dans
2
ou, plus gnralement, dans des espaces rexifs (isomorphes au
dual de leur dual), ce que
1
nest pas.
6 CHAPITRE I. ESPACES DE BANACH
note B(x, r) ou B
E
(x, r) (resp. B(x, r

) ou B
E
(x, r

)) la boule ferme (resp. ouverte) de


centre x et de rayon r.
Un espace est dit sparable sil contient un sous-ensemble dnombrable dense
(2)
(i.e. sil
est pas trop gros ).
Exercice I.1.1. (i) Montrer quun sous-espace dun espace sparable est un espace sparable.
(ii) Montrer quun sous-espace vectoriel ferm dun espace de Banach est un espace de Banach.
Proposition I.1.2. Soit V un espace vectoriel de dimension nie sur K. Alors toutes
les normes sur V sont quivalentes et V est complet pour nimporte laquelle dentre elles.
Dmonstration. Soit (e
1
, . . . , e
n
) une base de V sur K. Comme K est complet, il sut
de prouver que toute norme sur V est quivalente la norme | |

dnie par
|x
1
e
1
+ + x
n
e
n
|

= sup([x
1
[, . . . , [x
n
[),
ce qui se fait par rcurrence sur la dimension de V. Si cette dimension est 1, il ny a rien
faire. Sinon, soit | | une norme sur V. On dduit de lingalit triangulaire que
|x
1
e
1
+ + x
n
e
n
| (|e
1
| + +|e
n
|) sup([x
1
[, . . . , [x
n
[),
do lune des deux ingalits vrier. Pour dmontrer lautre, raisonnons par labsurde.
Supposons quil existe une suite x
(k)
1
e
1
+ + x
(k)
n
e
n
qui tende vers 0 pour la norme | |
mais pas pour la norme | |

. Il existe alors C > 0, i 1, . . . , n et une sous-suite innie


telle que lon ait [x
(k)
i
[ C, et donc la suite de terme gnral v
k
=
x
(k)
1
x
(k)
i
e
1
+ +
x
(k)
n
x
(k)
i
e
n
tend encore vers 0 pour | |. On en dduit le fait que e
i
est dans ladhrence de W =
Vect(e
1
, . . . , e
i1
, e
i+1
, . . . , e
n
), qui est complet daprs lhypothse de rcurrence, ce qui
implique e
i
W et est absurde puisque les e
i
forment une base de V.
Remarque I.1.3. Lnonc de la prop. I.1.2 devient totalement faux en dimension in-
nie : les normes sur un espace E de dimension innie ne sont pas toutes quivalentes,
et E peut tre complet pour certaines dentre elles, mais il y en a beaucoup plus pour
lesquelles ce nest pas le cas.
Thorme I.1.4. (Riesz, 1918) Soit E un espace de Banach. Si la boule unit ferme
B(0, 1) est compacte, alors E est de dimension nie.
Dmonstration. Si B(0, 1) est compacte, on peut extraire un recouvrement ni du
recouvrement de B(0, 1) par les B(x, (
1
2
)

), pour x B(0, 1). Autrement dit, on peut


trouver un sous-ensemble ni {e
i
, i I} dlments de E tels que B(0, 1)
iI
B(e
i
,
1
2
).
Nous allons montrer que le sous-espace E
t
engendr par les (e
i
)
iI
est gal E, ce qui
permettra de conclure. Comme E
t
est ferm, puisque complet, car de dimension nie
(2)
La plupart des espaces de Banach de lanalyse fonctionnelle sont sparables ; une exception notable
tant lespace C
b
(R) des fonctions continues bornes sur R (cf. Ex. I.1.7) ou lespace

des suites
bornes.
I.1. ESPACES DE BANACH 7
(prop. I.1.2), il sut de montrer que E
t
est dense dans E. Soit donc x E, et soient a Z
et y E
t
tels que |x y| 2
a
(un tel couple existe : il sut de prendre y = 0 et a
assez petit pour que |x| 2
a
). On a 2
a
(x y) B(0, 1) et, par dnition de la famille
(e
i
)
iI
, il existe i I tel que |2
a
(x y) e
i
|
1
2
. Mais alors y
t
= y + 2
a
e
i
E
t
et
|xy
t
| 2
a1
. Ceci permet de construire, par rcurrence, une suite (y
n
)
nN
dlments
de E
t
vriant |xy
n
| 2
na
, ce qui prouve que x est dans ladhrence de E
t
, et permet
de conclure.
2. Espaces de suites
Exemple I.1.5. (i) On note

lensemble des suites bornes (x


n
)
nN
. Muni de la norme
| |

dnie par |(x


n
)
nN
|

= sup
nN
[x
n
[, lespace

est un espace de Banach. Lespace

0
, sous-espace de

des suites tendant vers 0 quand n tend vers + est un sous-espace


ferm de

, et donc aussi un Banach.


(ii) On note
1
lensemble des suites (x
n
)
nN
, telles que

nN
[x
n
[ < +. Muni de la
norme | |
1
dnie par |(x
n
)
nN
|
1
=

nN
[x
n
[, lespace
1
est un espace de Banach.
(iii) On note
2
lensemble des suites (x
n
)
nN
, telles que

nN
[x
n
[
2
< +. Muni de
la norme | |
2
dnie par |(x
n
)
nN
|
2
=
_
nN
[x
n
[
2
_
1/2
, lespace
2
est un espace de
Banach.
(iv) Si I est un ensemble dnombrable, on dnit de mme les espaces

(I),

0
(I),

1
(I) et
2
(I) ; ce sont aussi des espaces de Banach.
Dmonstration. Nous allons juste dmontrer que
1
est complet ; le reste est laiss en
exercice. Soit donc (x
(k)
)
kN
une suite dlments de
1
vriant

kN
|x
(k)
|
1
< +.
Chaque x
(k)
est une suite (x
(k)
n
)
nN
dlments de K, et la dnition de la norme | |
1
montre que lon a [x
(k)
n
[ |x
(k)
|
1
quel que soit n N, ce qui fait que, quel que soit
n N, la srie

kN
x
(k)
n
est normalement convergente dans K, et donc converge dans K
(puisque K est complet) ; nous noterons y
n
la somme de cette srie. Pour conclure, il sut
donc de prouver que y = (y
n
)
nN
appartient
1
, (ce qui suit de ce que [y
n
[

kN
[x
(k)
n
[,
et donc

nN
[y
n
[

kN
|x
(k)
|
1
< +), et que R
k
= |

ik
x
(i)
y|
1
tend vers 0
quand k tend vers +. Or [

ik
x
(i)
n
y
n
[

ik+1
[x
(i)
n
[, et donc R
k

ik+1
|x
(i)
|,
ce qui permet de majorer R
k
par le reste dune srie convergente. On en dduit le rsultat.
3. Espaces de fonctions continues
Si X est un espace topologique, on note C(X) lespace des fonctions continues de X
dans C.
Exemple I.1.6. (i) Si X est un espace mtrique (ou plus gnralement un espace to-
pologique), on peut munir lespace C
b
(X) des fonctions continues bornes de X dans C
de la norme | |

de la convergence uniforme dnie par ||

= sup
xX
[(x)[. Alors
8 CHAPITRE I. ESPACES DE BANACH
(C
b
(X), | |

) est un espace de Banach. En eet, la compltude de C


b
(X) est une traduc-
tion du thorme de taupe, selon lequel une limite uniforme de fonctions continues est
continue.
(ii) On note C
c
(X) lespace des fonctions continues sur X, nulles en dehors dun compact
(le c en indice signie support compact ). Comme une fonction continue sur un
compact a une image compacte et donc borne, on a C
c
(X) C
b
(X), et cette inclusion
est stricte sauf si X est compact auquel cas C
c
(X) = C
b
(X) = C(X). On note C
0
(X)
ladhrence de C
c
(X) dans C
b
(X) ; cest lespace des fonctions continues sur X tendant
vers 0 linni.
Exercice I.1.7. Si R, on note e

la fonction t e
2it
.
(i) Montrer que e

C
b
(R), et que |e

= 2 si ,= .
(ii) En dduire que C
b
(R) nest pas sparable.
Thorme I.1.8. (de Stone-Weierstrass, Stone (1948)) Si X est un espace compact,
et si A est une sous-algbre de C(X) qui contient les fonctions constantes, spare les
points et est stable par f f, alors A est dense dans C(X).
Dmonstration. Avant de faire la dmonstration de cet important thorme, explicitons
la condition A spare les points : elle signie que, si x ,= y, on peut trouver f A,
avec f(x) ,= f(y).
Maintenant, quitte remplacer A par son adhrence dans C(X), qui est encore une
algbre vriant les conditions du thorme, on peut supposer que A est complte et on
doit dmontrer qualors A = C(X).
Soit A
R
= A C(X, R). Cest une sous-algbre ferme (et donc complte) de C(X, R),
ensemble des fonctions continues sur X, valeurs dans R, et la condition A est stable
par f f entrane que A
R
spare les points puisque A
R
contient Re(f) =
1
2
(f +f) et
Im(f) =
1
2i
(f f), si f A. Comme C(X) = C(X, R) + iC(X, R), il sut de prouver
que A
R
= C(X, R). Nous aurons besoin du lemme suivant.
Lemme I.1.9. Il existe une suite (P
n
(t))
nN
de polynmes coecients rels tendant
vers [t[ uniformment sur [1, 1].
Dmonstration. La formule de Taylor avec reste intgral
f(x) = f(0) + xf
t
(0) + +
x
n
n!
f
(n)
(0) +
_
x
0
(x t)
n
n!
f
(n+1)
(t) dt
permet de montrer que, si > 0, la srie

+
n=0
(1)(n+1)
n!
x
n
tend vers (1 + x)

uniformment sur x [1, 1]. En particulier, pour =


1
2
et x = t
2
1, les sommes
partielles de cette srie fournissent une suite de polynmes tendant, uniformment sur
[1, 1], vers (1 + t
2
1)
1/2
= [t[.
Revenons la dmonstration du thorme.
I.1. ESPACES DE BANACH 9
Si f A
R
, il existe a R

+
tel que f prenne ses valeurs dans [a, a]. Mais alors
aP
n
(a
1
f) est une suite dlments de A
R
tendant uniformment vers [f[, et comme A
R
est complte, on en dduit que, si f A
R
, alors [f[ A
R
.
Maintenant, si f, g A
R
, on dduit de ce qui prcde, que sup(f, g) =
f+g
2
+
[fg[
2
et
inf(f, g) =
f+g
2

[fg[
2
appartiennent toutes les deux A
R
.
Soit alors h C(X, R). Fixons x X et > 0. Comme A
R
spare les points et
contient les constantes, on peut trouver, quel que soit y X, une fonction f
y
A
R
vriant f
y
(x) = h(x) et f
y
(y) = h(y). Comme h f
y
est continue, il existe un ouvert U
y
contenant y tel que [h(z) f
y
(z)[ < , si z U
y
. Comme X est compact, et comme les U
y
recouvrent X, on peut trouver un sous-ensemble ni Y de X tel que X =
yY
U
y
. Alors
g
x
= inf
yY
f
y
est un lment de A
R
, daprs le point prcdent, et g
x
vrie g
x
(x) = h(x)
et g
x
(z) h(z) + , quel que soit z X, puisque z appartient au moins lun des U
y
,
avec y Y.
Comme g
x
(x) = h(x) et comme g
x
est continu, il existe un ouvert V
x
contenant x tel
que [g
x
(z) h(z)[ , si z V
x
. Comme ci-dessus, on peut extraire du recouvrement de
X par les V
x
un sous-recouvrement (V
x
)
xX
, avec X
t
ni. Comme ci-dessus, la fonction
g = sup
xX
g
x
appartient A
R
et vrie g(z) h(z) + puisque cette ingalit est
vrie par tous les g
x
, et g(z) h(z) puisque z appartient au moins lun des U
x
,
avec x X
t
.
On a donc construit, quel que soit > 0, un lment g de A
R
vriant |g h|

, ce
qui prouve que h est dans ladhrence de A
R
, et donc dans A
R
. Ceci permet de conclure.
Exemple I.1.10. (i) Si I est un intervalle compact de R, alors les polynmes sont denses
dans C(I) (Weierstrass 1885).
(ii) Plus gnralement, si K est un compact de R
m
, les polynmes (en x
1
, . . . x
m
)
(3)
sont
denses dans C(K).
(iii) Les polynmes trigonomtriques (i.e. les fonctions de la forme

kI
a
k
e
2i kt
, o
I dcrit les sous-ensembles nis de Z) sont denses dans lespace C(R/Z) des fonctions
continues, priodiques de priode 1 (Weierstrass). Ils ne sont pas denses dans C([0, 1]) car
un lment de ladhrence doit vrier f(0) = f(1), les point 0 et 1 ntant pas spars
par les polynmes trigonomtriques.
Exercice I.1.11. Soit h : R R la fonction indicatrice de Q.
(i) Construire une suite double f
n,k
de fonctions continues de R dans R telle que, si n est x, alors la
suite f
n,k
tend simplement (i.e. f
n,k
(x) g
n
(x), quel que soit x R) vers une fonction g
n
quand k tend
vers +, et la suite g
n
tend simplement vers h quand n tend vers +. (En bref, h est limite simple de
limites simples de fonctions continues).
(3)
Attention au fait que, si D est le disque unit de C, les polynmes en z ne sont pas denses dans C(D) ;
en eet, un lment de ladhrence est une fonction holomorphe, comme nous le verrons. Le problme
vient de ce que les polynmes en z ne sont pas stables par f f.
10 CHAPITRE I. ESPACES DE BANACH
(ii) Montrer que h nest pas une limite simple de fonctions continues. (Si h
n
est une suite de fonctions
continues tendant simplement vers h, construire une suite extraite h
(n)
et une suite de segments emboits
[a
n
, b
n
] tels que limage de [a
n
, b
n
] par h
(n)
soit incluse dans [
1
4
,
3
4
] et en tirer une contradiction.)
4. Compltion despaces vectoriels norms
La manire la plus standard pour construire des espaces de Banach est de partir des-
paces vectoriels norms et de les complter
(4)
. On renvoie lalina 5.2 du D.3 pour
des considrations gnrales au sujet de la compltion dun espace mtrique. De manire
gnrale, on a le rsultat suivant.
Proposition I.1.12. (i) Si (E, | |) est un espace vectoriel norm, alors le complt

E de E (pour la distance associe | |) est un espace vectoriel. De plus, | | stend par


continuit en une norme sur

E, et (

E, | |) est un espace de Banach.


(ii) Si F est un espace de Banach, et si u : E F est linaire continue, alors u admet
un unique prolongement continu

E, et ce prolongement est linaire.
Dmonstration. Le (i) est un petit exercice utilisant de manire rpte la prop. D.3.8.
Par exemple, pour montrer que laddition s : E E E stend par continuit en une
addition s :

E, on peut munir EE de la norme |(x, y)| = sup(|x|, |y|). Alors


s : EE E

E est lipschitzienne de rapport 2, et donc stend par continuit

E.
Le (ii) est le cor. D.3.11.
Exemple I.1.13. Soit un ouvert de R
m
.
(i) Lespace L
1
() dni au n
o
1 du III.1 est un espace de Banach dans lequel C
c
()
est dense ; on peut donc aussi le dnir comme le complt de C
c
() pour la norme | |
1
dnie par ||
1
=
_

[(x)[ dx.
(ii) De mme, lespace L
2
() dni au n
o
2 du III.1 peut aussi tre dni comme le
complt de C
c
() pour la norme | |
2
dnie par ||
2
=
_ _

[(x)[
2
dx
_
1/2
.
(iii) Si k 1, on dnit lespace de Sobolev H
k
(R
m
) comme le complt de lespace C
k
c
(R
m
) des
fonctions de classe C
k
sur R
m
, nulles en dehors dun compact, pour la norme | |
H
k dnie par
||
H
k =
_

||k
(|

|
2
)
2
_
1/2
=
_

||k
_
R
m
[

(x)[
2
dx
_
1/2
,
(4)
Pour beaucoup de questions cest trs utile, car on obtient un espace dans lequel lanalyse devient plus
facile ; en particulier, il est nettement plus ais de dmontrer des rsultats dexistence dans un espace
complet. videmment, le problme est quil est dicile de retrouver ses petits aprs compltion. Par
exemple, il est impossible de montrer que deux nombres rels sont gaux (R est obtenu en compltant
Q) sauf si on sait par ailleurs que leur dirence est un entier ( multiplication prs par un nombre
rel explicite). De mme, il est nettement plus facile de dmontrer lexistence de solutions dquations
direntielles dans un espace de Sobolev H
k
, mais si ce qui nous intresse sont des solutions de classe C
k
,
il y a un travail supplmentaire pour vrier que les solutions obtenues conviennent.
I.1. ESPACES DE BANACH 11
o, si = (
1
, . . . ,
m
) N
m
, on a pos [[ =

m
j=1

j
, et not

loprateur direntiel

=
_

x
1
_

1

_

x
m
_

m
.
Par dnition, si = (
1
, . . . ,
m
) N
m
vrie [[ k, lapplication linaire

= (

x
1
)

1
(

x
m
)

m
: C
k
c
(R
m
) C
k||
c
(R
m
)
est continue (et mme 1-lipschitzienne) si on munit C
k
c
(R
m
) de la norme | |
H
k et C
k||
c
(R
m
) de la norme
| |
H
k|| . Elle stend donc, par continuit, en une application linaire, encore note

, de H
k
(R
m
) dans
H
k||
(R
m
).
Proposition I.1.14. Si k N, si N
m
vrie [[ k, si C
k
c
(R
m
), et si f H
k
(R
m
), alors
(5)
_
R
m
(

) f = (1)
||
_
R
m
(

f) .
Dmonstration. Les deux membres sont bien dnis car

, f,

f et sont de carr sommable. On


en dduit que
f L

(f) =
_
R
m
(

) f (1)
||
_
R
m
(

f)
est une forme linaire sur H
k
(R
m
), qui est continue car
[L

(f)[ |f|
2
|

|
2
+|

f|
2
||
2
(|

|
2
+||
2
)|f|
H
k.
Par ailleurs, une (suite d) intgration par partie montre que L

(f) = 0 si f C
k
c
(R
m
), et comme
C
k
c
(R
m
) est dense dans H
k
(R
m
), cela implique que L

est identiquement nulle sur H


k
(R
m
). Ceci permet
de conclure.
5. Applications linaires continues entre espaces de Banach
Thorme I.1.15. (Banach-Steinhaus, 1927) Soient E un espace de Banach, F un es-
pace vectoriel norm, et (u
n
)
nN
une suite dapplications linaires continues de E dans F.
Alors, de deux choses lune : soit la suite (|u
n
|)
nN
est borne
(6)
, et donc u
n
(x) est borne
pour tout x E, soit x E, sup
nN
|u
n
(x)|
F
= + est dense dans E.
Dmonstration. Il sagit de prouver que, si (|u
n
|)
nN
nest pas borne, et si on dnit
: E R
+
+ par (x) = sup
nN
|u
n
(x)|
F
, alors x E, (x) = + est un
G

dense. Pour cela, considrons, si N N, lensemble U


N
= x E, (x) > N. On
a U
N
=
nN
x E, |u
n
(x)|
F
> N, et comme chaque u
n
est continue, U
N
est une
runion douverts et donc est ouvert. Si U
N
nest pas dense, il existe x
0
E et r > 0
tel que |u
n
(x + x
0
)|
F
N, quel que soient x E, avec |x|
E
< r, et n N. Mais alors
|u
n
(x)|
F
= |u
n
(x + x
0
) u
n
(x
0
)|
F
2N, quel que soit x E, avec |x|
E
< r, et quel
que soit n N. Autrement dit, on a |u
n
|
2N
r
, quel que soit n N, contrairement
lhypothse. Cest donc que U
N
est un ouvert dense, quel que soit N N, et comme
(5)
Autrement dit, en anticipant sur le cours de distributions,

f est la drive -ime de f au sens des


distributions.
(6)
|u
n
| est la norme doprateur de u
n
. Rappelons quelle est dnie par |u
n
| = sup
x=0
|x|
1
E
|u
n
(x)|
F
,
cf. n
o
6 du D.3.
12 CHAPITRE I. ESPACES DE BANACH
x E, (x) = + =
NN
U
N
, le lemme de Baire (th. D.3.5) montre quil est dense
dans E, ce que lon cherchait dmontrer.
Remarque I.1.16. Il ressort de la dmonstration que, si |u
n
| nest pas borne, alors
x E, sup
nN
|u
n
(x)|
F
= + est une intersection dnombrable douverts denses. Une
intersection dnombrable douverts est appele un G

, et il rsulte du lemme de Baire


quun G

dense dans un espace de Banach E est non dnombrable. (Si X =


nN
U
n
est
dnombrable, alors en numrotant les lments x
n
de X, on voit que
nN
(U
n
x
n
) = ,
ce qui contredit le lemme de Baire si chacun des U
n
est dense car alors U
n
x
n
est
encore un ouvert dense de E.)
Le thorme de Banach-Steinhaus admet comme corollaire le trs utile rsultat suivant,
qui est un peu surprenant quand on pense ce qui se passe pour une limite simple de
fonctions continues
(7)
Corollaire I.1.17. Si E est un espace de Banach, et si F un espace vectoriel, alors
une limite simple dapplications linaires continues de E dans F est une application linaire
continue de E dans F.
Dmonstration. Soit (u
n
)
nN
une suite dapplications linaires continues de E dans F
telle que la suite (u
n
(x))
nN
ait une limite u(x) F, quel que soit x E. Si x E et
K, on a u(x) = lim
n+
u
n
(x) = lim
n+
u
n
(x) = lim
n+
u
n
(x) = u(x), et
de mme, u(x+y) = u(x)+u(y), quels que soient x, y E, ce qui prouve que u est linaire.
Maintenant, le fait que la suite (u
n
(x))
nN
a une limite quel que soit x E, implique,
daprs le thorme de Banach-Steinhaus, lexistence de M R
+
tel que |u
n
| M quel
que soit n N. On a donc |u
n
(x)|
F
M |x|
E
quels que soient n N et x E. On en
dduit, en passant la limite, que |u(x)|
F
M |x|
E
quel que soit x E, et donc que
u est continue, ce qui permet de conclure.
Thorme I.1.18. (de limage ouverte, Banach (1929)) Si E et F sont deux espaces
de Banach, et si u : E F est une application linaire continue surjective, alors il existe
> 0 tel que u(B
E
(0, 1

)) contienne B
F
(0,

).
Dmonstration. Si n N, soit A
n
ladhrence dans F de u(B
E
(0, n

)). Comme E est la


runion des B
E
(0, n

), pour n N, et comme u est suppose surjective, on a


nN
A
n
= F.
Le lemme de Baire implique donc lexistence de n tel que A
n
soit dintrieur non vide.
Ceci se traduit par lexistence de x
0
B
E
(0, n

) et de r > 0, tels que, si |y|


F
< r,
(7)
Bien que Cauchy ait russi dmontrer, dans son Cours danalyse, quune limite simple de fonctions
continues est continue, on sait bien, lheure actuelle, quil nen est rien, en gnral. Baire (1904) a
dmontr quune fonction f : R
n
R est limite simple de fonctions continues si et seulement si la
restriction de f tout ferm non vide a au moins un point o elle est continue. Cest cette occasion
quil a introduit son fameux lemme.
I.1. ESPACES DE BANACH 13
alors quel que soit > 0, il existe x B
E
(0, n

), avec |u(x) (u(x


0
) + y)|
F
< .
Comme x x
0
B
E
(0, 2n

), quitte faire une homothtie de rapport


1
4n
, on voit que
lon a dmontr le rsultat suivant (avec =
r
4n
) : il existe > 0 tel que, quel que soit
y B
F
(0,

) et quel que soit > 0, il existe x B


E
(0, (
1
2
)

) avec |y u(x)|
F
< .
Ce nest pas tout fait le rsultat cherch, mais presque. Si y B
F
(0,

), on peut
construire par rcurrence, en utilisant ce qui prcde, une suite (x
m
)
mN
dlments de
B
E
(0, (
1
2
)

), et une suite (y
m
)
mN
dlments de B
F
(0,

) vriant :
y
0
= y, |y
m
u(x
m
)|
F
<

2
, et y
m+1
= 2(y
m
u(x
m
)).
On a alors y = u(x
0
) + 2
1
u(x
1
) + + 2
m
u(x
m
) + 2
m1
y
m+1
, et comme la srie

+
m=0
2
m
x
m
converge dans E vers un lment x de B
E
(0, 1

), un passage la limite
montre que y = u(x). Ceci dmontre linclusion B
F
(0,

) u(B
E
(0, 1

)) que lon cher-


chait obtenir.
Remarque I.1.19. Si x E et r > 0, alors B
E
(x, r

) = x + rB
E
(0, 1

) et donc
u(B
E
(x, r

)) = u(x) + ru(B
E
(0, 1

)). Le thorme ci-dessus montre donc que, si u est


surjective, alors u(B
E
(x, r

)) contient un voisinage ouvert de u(x). On en dduit le fait


que, si U est un ouvert de E, alors u(U) est voisinage ouvert de u(x), quel que soit x U;
autrement dit u(U) est ouvert. Le thorme ci-dessus peut donc se reformuler sous la
forme limage dun ouvert par une application linaire continue surjective entre deux
espaces de Banach est un ouvert ; cest ce qui explique son nom.
Corollaire I.1.20. Si E et F sont deux espaces de Banach, et si u : E F est une
application linaire continue bijective, alors u
1
: F E est aussi continue.
Dmonstration. Si U est un ouvert de E, alors (u
1
)
1
(U) = u(U) est ouvert daprs
la remarque ci-dessus. Ceci permet de conclure.
Exercice I.1.21. (Thorme du graphe ferm)
Soient E et F deux espaces de Banach, et u : E F une application linaire. Soit
G E F le graphe de u (i.e. lensemble des couples (x, u(x)), pour x E).
(i) Montrer que E F muni de la norme |(x, y)| = sup(|x|
E
, |y|
F
) est un espace de
Banach et que les deux projections p
E
: E F E et p
F
: E F F sont continues.
(ii) Montrer que G est un sous-espace vectoriel de E F et que, si G est ferm dans
E F, alors u est continue.
(iii) Construire f : R R non continue dont le graphe est ferm.
6. Le dual dun espace de Banach
Si E est un espace vectoriel norm, on note E

le dual de E, cest--dire lensemble des


formes linaires continues sur E. Si : E K est une forme linaire continue, on rappelle
que lon dnit sa norme || comme la borne infrieure de lensemble des C R
+
tels
que [(x)[ C|x| quel que soit x E.
14 CHAPITRE I. ESPACES DE BANACH
Thorme I.1.22. Si E est un espace vectoriel norm, alors (E

, | |) est un espace
de Banach.
Dmonstration. Le fait que | | est une norme despace vectoriel est un exercice.
Maintenant, soit
n
une suite dlments de E

telle que

nN
|
n
| = C < +. Si
x E, la srie

nN

n
(x) est alors absolument convergente, et la somme (x) vrie
[(x)[

nN
[
n
(x)[ C|x|. Comme par ailleurs, il est facile de voir que x (x) est
linaire, la majoration ci-dessus montre que x (x) est aussi continue. On en dduit
que E

et que

nN

n
= , ce qui prouve que E est complet.
Thorme I.1.23. (Hahn-Banach, 1927) Si E est un espace vectoriel norm, si F est un sous-espace
vectoriel de E, et si f est une forme linaire continue sur F, alors il existe E

dont la restriction
F est f et qui vrie || = |f|.
Le thorme de Hahn-Banach, que nous ne dmontrerons pas, a un certain nombre de consquences
intressantes, dont le fait que E

,= 0. On en trouvera dautres dans les exercices suivants.


Exercice I.1.24. Montrer que ladhrence F de F dans E est lintersection des noyaux des formes
linaires, continues sur E, nulles sur F.
Exercice I.1.25. (i) Montrer que, si x
0
E, il existe E

, avec || = 1 et [(x
0
)[ = |x
0
|.
(ii) Montrer que E

spare les points (si x ,= y, il existe E

tel que (x) ,= (y).)


(iii) Montrer que lapplication (x) est une forme linaire continue sur E

et induit une isomtrie


de E dans (E

. (On dit quun espace de Banach E est rexif si cette isomtrie est bijective, et donc
si E sidentie au dual de son dual ; il peut arriver que (E

soit beaucoup plus gros que E, mais les


espaces de Hilbert sont rexifs daprs le thorme de Riesz (th. I.2.5)).
I.2. Espaces de Hilbert
1. Espaces prhilbertiens
Soit E un espace vectoriel sur K. Un produit scalaire (x, y) x, y) sur E est une
application de E E dans K qui est :
sesquilinaire, cest--dire linaire par rapport la seconde variable (i.e. x, y
1
+y
2
) =
x, y
1
) + x, y
2
) et x, y) = x, y), si K, x, y, y
1
, y
2
E), et semi-linaire
(8)
par
rapport la premire variable (i.e. x
1
+ x
2
, y) = x
1
, y) + x
2
, y) et x, y) = x, y), si
K, x, y, y
1
, y
2
E) ;
symtrique (i.e. y, x) = x, y), quels que soient x, y E) ;
dnie positive (i.e x, x) 0, si x E, et x, x) = 0, si et seulement si x = 0).
Un espace prhilbertien est un espace vectoriel muni dun produit scalaire. Si E est
prhilbertien, on munit E dune norme | | en posant |x| = x, x)
1/2
, et on a lingalite de
Cauchy-Schwarz [x, y)[ |x| |y| quels que soient x, y E. En particulier, lapplication
(x, y) x, y), de E E dans K, est continue.
(8)
Si K = R, on a x = x, et donc la sesquilinrarit nest autre que la bilinarit.
I.2. ESPACES DE HILBERT 15
On dit que x, y E sont orthogonaux si x, y) = 0. Si x et y sont orthogonaux, ils
vrient la relation de Pythagore
(9)
|x + y|
2
= |x|
2
+|y|
2
.
Si x et y sont quelconques, ils vrient lidentit de la mdiane
|x|
2
+|y|
2
= 2
_
_
x + y
2
_
_
2
+
1
2
|x y|
2
,
qui se dmontre sans problme en dveloppant le membre de droite.
2. Espaces de Hilbert
Un espace de Hilbert est un espace prhilbertien complet ; cest donc un cas particulier
despace de Banach.
Exemple I.2.1. (i) Un espace de dimension nie muni dun produit scalaire est un
espace de Hilbert.
(ii) Si E est un espace prhilbertien, son complt

E est un espace de Hilbert (le produit


scalaire stendant par continuit).
(iii)
2
et, plus gnralement,
2
(I) si I est dnombrable, sont des espaces de Hilbert.
(iv) Si est un ouvert non vide de R
n
, alors L
2
() est un espace de Hilbert.
(v) Les espaces de Sobolev H
k
(R
m
) sont des espaces de Hilbert.
3. Le thorme de projection
Rappelons que, si E est un espace vectoriel sur K, un sous-ensemble C de E est convexe
si C contient le segment [x, y] quels que soient x, y C. En particulier, si C est convexe,
et si x, y C, alors le milieu
x+y
2
de x et y appartient C. Le thorme suivant joue un
rle fondamental en analyse fonctionnelle.
Thorme I.2.2. Soient E un espace de Hilbert et C ,= un convexe ferm de E.
(i) Quel que soit x E, il existe p
C
(x) C unique (appel la projection de x sur C) tel
que d(x, p
C
(x)) d(x, y) quel que soit y C.
(ii) p
C
(x) est lunique point y de C tel que, quel que soit z C, langle (x y, z y)
soit obtus (i.e. Re(x y, z y)) 0).
(iii) Lapplication x p
C
(x) est 1-lipschitzienne.
Dmonstration. Notons d(x, C) la borne infrieure des d(x, y), pour y C. Si y
1
, y
2
ralisent cette borne infrieure, et si z =
y
1
+y
2
2
, alors z C, et lidentit de la mdiane
nous donne
|y
1
y
2
|
2
= 2|y
1
x|
2
+ 2|y
2
x|
2
4|z x|
2
= 4(d(x, C)
2
d(x, z)
2
) 0.
On a donc y
1
= y
2
, do lunicit de la projection.
(9)
Si K = R, la relation de Pythagore entrane lorthogonalit ( thorme de Pythagore, pauvre
Pythagore...) ; ce nest plus le cas si K = C.
16 CHAPITRE I. ESPACES DE BANACH
Passons lexistence
(10)
. Par dnition de d(x, C), il existe une suite (y
n
)
nN
dlments
de C, telle que d(x, y
n
) tende vers d(x, C) quand n tend vers +. Lidentit de la moyenne
se traduit, en notant z
n,m
le milieu de y
n
et y
m
, par
|y
n
y
n+p
|
2
=2|y
n
x|
2
+ 2|y
n+p
x|
2
4|z
n,n+p
x|
2
2(|y
n
x|
2
+|y
n+p
x|
2
2d(x, C)
2
).
Comme par hypothse, le membre de droite tend vers 0 quand n tend vers + et p N,
la suite (y
n
)
nN
est de Cauchy, et comme on a suppos C ferm dans un espace complet,
elle converge vers un lment p
C
(x). Par continuit de la norme, on a d(x, p
C
(x)) =
lim
n+
d(x, y
n
) = d(x, C), ce qui dmontre le (i).
Maintenant, soit z C. Si 0 < t < 1, le point y
t
= (1 t)p
C
(x) +tz appartient C, et
donc
|p
C
(x) x|
2
|y
t
x|
2
= |p
C
(x) x|
2
+t
2
|z p
C
(x)|
2
+2tRep
C
(x) x, z p
C
(x)).
En faisant tendre t vers 0, on en dduit lingalit Rex p
C
(x), z p
C
(x)) 0. Rcipro-
quement, si Rex y, z y) 0, alors
|z x|
2
= |y x|
2
+|z y|
2
2Rex y, z y) |y x|
2
,
ce qui montre que, si Rex y, z y) 0 quel que soit z C, alors y vrie la proprit
dnissant p
C
(x). On en dduit le (ii).
Finalement, si x, y E, on a
Rex p
C
(x), p
C
(y) p
C
(x)) 0 et Rey p
C
(y), p
C
(x) p
C
(y)) 0.
On en dduit, en faisant la somme, lingalit
Rex y, p
C
(y) p
C
(x)) Rep
C
(y) p
C
(x), p
C
(y) p
C
(x)) = |p
C
(y) p
C
(x)|
2
.
On conclut la dmonstration du (iii) en utilisant lingalit de Cauchy-Schwarz, selon
laquelle
Rex y, p
C
(y) p
C
(x)) [x y, p
C
(y) p
C
(x))[ |x y| |p
C
(y) p
C
(x)|.
4. Le dual dun espace de Hilbert
Dans ce n
o
, E est un espace de Hilbert. Si x E, on note
x
la forme linaire dnie
par
x
(y) = x, y).
Lemme I.2.3. Si x E, la forme linaire
x
est continue et |
x
| = |x|.
Dmonstration. Lingalit de Cauchy-Schwarz qui devient [
x
(y)[ |x| |y|, nous
donne la continuit de
x
ainsi que lingalit |
x
| |x|. Lingalit |
x
| |x|, se
dduit de ce que [
x
(x)[ = |x| |x|.
(10)
En dimension nie, un petit argument de compacit permettrait de la dmontrer (exercice).
I.2. ESPACES DE HILBERT 17
Proposition I.2.4. Soit E un espace de Hilbert.
(i) Si A est une partie de E, alors lorthogonal A

de A (i.e. lensemble des x E tels


que x, a) = 0, quel que soit a A) est un sous-espace vectoriel ferm de E.
(ii) Si F est un sous-espace vectoriel ferm de E, et si x E, alors x p
F
(x) F

, et
on a
(11)
E = F F

et (F

= F.
Dmonstration. (i) On a x, a) = 0 si et seulement si
a
(x) = 0, et comme
a
est
continue, son noyau H
a
est un hyperplan ferm de E, ce qui dmontre le (i) puisque
A

=
aA
H
a
.
(ii) Si x E, alors daprs le thorme de projection, on a Rexp
F
(x), z p
F
(x)) 0
quel que soit z F. En appliquant ceci z = a + p
F
(x) et z = a + p
F
(x) (et
z = ia + p
F
(x) et z = ia + p
F
(x), si K = C), on en dduit que x p
F
(x), a) = 0 quel
que soit a F, et donc que x p
F
(x) F

.
Maintenant, si x F F

, alors x, x) = 0, et donc x = 0 ; on en dduit que F F

=
0. Par ailleurs, si x E, alors x = (xp
F
(x))+p
F
(x), avec xp
F
(x) F

et p
F
(x) F.
On en dduit que E = F+F

et donc que E = FF

. Finalement, lunicit de la projection


sur un convexe ferm montre que p
F
(x) = x p
F
(x), et donc que x = p
F
(x) + p
F
(x).
Comme on a aussi x = p
F
(x) + p
(F

)
(x), on en dduit que p
(F

)
(x) = p
F
(x), quel que
soit x E, et nalement que (F

= F.
Thorme I.2.5. (Thorme de Riesz) Si E est un espace de Hilbert, alors lappli-
cation qui associe, x E, la forme linaire
x
, dnie par
x
(y) = x, y), est une
isomtrie de E sur son dual E

. Autrement dit,
(i) Si x E, la forme linaire
x
est continue et |
x
| = |x|.
(ii) Si : E K est une forme linaire continue, il existe (un unique) x E tel que
(y) = x, y) quel que soit y E.
Dmonstration. Le (i) a dj t dmontr (cest le contenu du lemme I.2.3). Passons
la dmonstration du (ii)
(12)
. Soit donc : E K une forme linaire continue que
(11)
Il ressort de ce thorme que tout sous-espace vectoriel ferm dun espace de Hilbert admet un sup-
plmentaire ferm. Rciproquement, J. Lindenstrauss et L. Tzafriri (1971) ont dmontr quun espace de
Banach sparable ayant cette proprit est isomorphe
2
.
Dans le mme genre dide, T.Gowers a reu la mdaille Fields en 1998, en grande partie pour avoir
dmontr quun espace de Banach sparable qui est isomorphe tous ses sous-espaces ferms de dimen-
sion innie, est isomorphe
2
(que
2
ait cette proprit dcoule de lexistence de bases hilbertiennes
(th. I.2.6)).
Une question ouverte concernant la classication des espaces de Banach sparables est de savoir si
2
est
le seul pour lequel le groupe des isomtries (applications linaires bijectives, vriant |u(z)| = |z|, quel
que soit z) agit transitivement sur la sphre unit (i.e. si, quels que soient x, y de norme 1, il existe une
isomtrie u, avec u(x) = y). En dimension nie, lnonc analogue est vrai, mais pas totalement vident.
(12)
Cest la partie non triviale du thorme et celle qui a les consquences les plus spectaculaires en
analyse fonctionnelle. On en dduit sans eort des tas de thormes dexistence.
18 CHAPITRE I. ESPACES DE BANACH
lon suppose non nulle sinon il ny a qu prendre x = 0. Soit H le noyau de . Cest
un hyperplan de E, qui est ferm puisque est continue. Soit h H

, non nul. Comme


H H

= 0, et comme H est le noyau de , on a (h) ,= 0. Soit y E et soit


z = y
(y)
(h)
h. On a (z) = 0, et donc z H, ce qui implique h, z) = 0 et se traduit
par h, y) =
|h|
2
(h)
(y) quel que soit y E. Autrement dit, si on pose x =
(h)
|h|
2
h, on a
(y) =
x
(y) quel que soit y E. Ceci permet de conclure.
5. Bases hilbertiennes
Dans ce n
o
, E est un espace de Hilbert sparable
(13)
de dimension innie. Une base
hilbertienne
(14)
(ou base orthonormale) de E est une famille orthonormale dnombrable
(e
i
)
iI
dlments de E (i.e. e
i
, e
j
) = 0 si i ,= j et e
i
, e
j
) = 1 si i = j) telle que le
sous-espace vectoriel de E engendr par les e
i
, pour i I, soit dense dans E.
Thorme I.2.6. (i) E admet des bases hilbertiennes.
(ii) Si (e
i
)
iI
est une base hilbertienne de E, lapplication x (e
i
, x))
iI
induit une
isomtrie de E sur
2
(I). Autrement dit,
(a) si x E, alors (e
i
, x))
iI

2
(I) et

iI
[e
i
, x)[
2
= |x|
2
(identit de Bessel-
Parseval) ;
(b) si (x
i
)
iI

2
(I), alors

iI
x
i
e
i
converge dans E et sa somme x vrie e
i
, x) =
x
i
quel que soit i I.
Dmonstration. (i) On construit une base hilbertienne partir dun sous-ensemble d-
nombrable dense A en utilisant le procd dorthonormalisation de Schmidt. On numrote
les lments de A, et on limine ceux qui se trouvent dans lespace vectoriel engendr par
les lments prcdents. On obtient de la sorte une base (b
i
)
iN
de lespace vectoriel E
t
engendr par A. Ensuite on construit, par rcurrence, une base orthogonale (f
i
)
iN
de
E
t
en posant f
i
= b
i

i1
j=0
f
j
,b
i
)
|f
j
|
2
f
j
(lorthogonalit est immdiate par rcurrence ainsi
que le fait que les f
j
, pour j i engendrent le mme espace vectoriel que les b
j
, pour
j i). Finalement, on norme cette base, en posant e
i
=
1
|f
i
|
f
i
. On obtient de la sorte une
famille orthonormale dlments de E engendrant le sous-espace E
t
qui est dense puisquil
contient A; autrement dit, on a construit une base hilbertienne de E.
(ii) Commenons par justier le Autrement dit : le (a) peut se reformuler en disant
que x (e
i
, x))
iI
est une isomtrie de E sur un sous-espace de
2
(I), tandis que le (b)
montre que
2
(I) est dans limage de x (e
i
, x))
iI
.
(13)
La thorie qui suit stend au cas des espaces de Hilbert non sparables, mais ceux-ci ne se rencontrent
pas en pratique. La seule dirence est quune base hilbertienne nest plus de cardinal dnombrable, si E
nest pas sparable.
(14)
On fera attention au fait quune base hilbertienne nest, en gnral, pas une base au sens algbrique.
Plus prcisment, une base hilbertienne est une base algbrique si et seulement si on est en dimension
nie, ce qui est rarement le cas en analyse fonctionnelle.
I.2. ESPACES DE HILBERT 19
Restent le (a) et le (b) dmontrer, pour lesquels on se ramne au cas I = N en
numrotant les lments de I. Pour dmontrer le (b), constatons que
|

n+p
j=0
x
j
e
j

n
j=0
x
j
e
j
|
2
=

n+p
j=n+1
[x
j
[
2
puisque la famille (e
j
)
jN
est orthonormale ;
sup
pN
(

n+p
j=n+1
[x
j
[
2
) tend vers 0 quand n tend + puisque (x
j
)
jN

2
.
On en dduit le fait que la suite (

n
j=0
x
j
e
j
)
nN
est de Cauchy dans E, et donc a une
limite x. De plus, comme e
i
,

n
j=0
x
j
e
j
) = x
i
, si n i, un passage la limite montre que
e
i
, x) = x
i
, quel que soit i N.
Reste le (a) dmontrer. Pour cela commenons par constater que, si on note F
i
le
sous-espace vectoriel de E engendr par les e
j
, pour j i, alors y
i
=

i
j=0
e
j
, x)e
j
est la
projection orthogonale p
F
i
(x) de x sur F
i
(en eet, on a e
j
, x y
i
) = 0, si j i puisque
la famille (e
j
)
jN
est orthonormale). Comme |p
F
(x)|
2
= |x|
2
|p
F
(x)|
2
|x|
2
, quel
que soit le sous-espace vectoriel ferm F de E, on a

i
j=0
[e
i
, x)[
2
= |y
i
|
2
|x|
2
, quel
que soit i N. On en dduit lappartenance de (e
i
, x))
iI

2
. Finalement, daprs le
(b), la srie

iN
e
i
, x)e
i
converge dans E, et si on note y sa somme, on a e
i
, y) = e
i
, x)
quel que soit i N. On en dduit que a, y x) = 0, quel que soit a lment de lespace
vectoriel engendr par les e
i
, pour i N. Or cet espace est dense dans E, puisque (e
i
)
iI
est une base hilbertienne de E, et on a donc a, yx) = 0, quel que soit a E. Autrement
dit, y x E

= 0, et y = x. Ceci permet de conclure.


6. Sries de Fourier
Soit L
2
(R/Z) le complt de C(R/Z) pour la norme | |
2
dnie par |f|
2
=
_
1
0
[f(t)[
2
dt.
Cest un espace de Hilbert par construction (de produit scalaire f, g) =
_
1
0
f(t)g(t) dt).
Proposition I.2.7. Les e
2i nt
, pour n Z forment une base hilbertienne de L
2
(R/Z).
Dmonstration. Un calcul immdiat montre que cest une famille orthonormale, et
lespace quelle engendre est lespace des polynmes trigonomtriques. Si f L
2
(R/Z),
et si > 0, il existe, par dnition de L
2
(R/Z), une fonction continue g sur R/Z avec
|fg|
2
<

2
. Par ailleurs, lespace des polynmes trigonomtriques est dense dans C(R/Z)
daprs le thorme de Stone-Weierstrass (cf. (iii) de lex. I.1.10) ; il existe donc P, poly-
nme trigonomtrique, tel que |P g|

<

2
. Comme |h|
2
|h|

, si h C(R/Z), on
a |f P|
2
< , ce qui prouve que toute boule ouverte de L
2
(R/Z) contient un polynme
trigonomtrique, et donc que lespace engendr par les e
2i nt
, pour n Z, est dense dans
L
2
(R/Z). Ceci permet de conclure.
Corollaire I.2.8. Si on note
c
n
(f) = e
2i nt
, f) =
_
R/Z
f(t)e
2i nt
dt =
_
1
0
f(t)e
2i nt
dt,
20 CHAPITRE I. ESPACES DE BANACH
le n-ime coecient de Fourier de f, alors f =

nZ
c
n
(f)e
2i nt
dans
(15)
L
2
(R/Z) et

nZ
[c
n
(f)[
2
= (|f|
2
)
2
=
_
1
0
[f(t)[
2
dt.
Proposition I.2.9. Si f C
1
(R/Z), alors f(t) =

nZ
c
n
(f)e
2i nt
quel que soit
t R/Z.
Dmonstration. Si n ,= 0, une intgration par partie nous donne
c
n
(f) =
_
1
0
f(t)e
2i nt
dt =
1
2i n
_
1
0
f
t
(t)e
2i nt
dt =
1
2i n
c
n
(f
t
).
Maintenant

n,=0

1
2i n
c
n
(f
t
)

n,=0
1
4
2
n
2
_
1/2
_

n,=0
[c
n
(f
t
)[
2
_
1/2
< +,
puisque
_
n,=0
[c
n
(f
t
)[
2
_
1/2
|f
t
|
2
. La srie

nZ
c
n
(f)e
2i nt
converge donc normale-
ment dans C(R/Z) (muni de | |

), et la somme g est donc une fonction continue. De


plus, comme |h|
2
|h|

, la srie

nZ
c
n
(f)e
2i nt
converge vers g aussi dans L
2
(R/Z).
Par ailleurs, il rsulte du cor. I.2.8 que la srie converge aussi vers f dans L
2
(R/Z), et
donc que f = g dans L
2
(R/Z). Ceci se traduit par
_
1
0
[f(t) g(t)[
2
dt = 0 et, f et g tant
continues, cela implique que f g est identiquement nulle. Ceci permet de conclure.
I.3. Exercices
1. Espaces de Banach
Exercice I.3.1. Montrer quun espace de Banach possdant une famille gnratrice d-
nombrable est de dimension nie. (Si (e
n
)
nN
est une telle famille, on pourra considrer
le sous-espace F
n
engendr par les e
i
, pour i n.)
Exercice I.3.2. Soient f continue et priodique de priode 1 et irrationnel. Montrer
que lon a
lim
N+
1
N
N

n=1
f(n) =
_
1
0
f(t) dt
(commencer par un polynme trigonomtrique).
Exercice I.3.3. a) La forme linaire f
_

f(t)dt = I(f) sur C


c
(R) stend-elle en
une forme linaire continue sur L
2
(R) ?
(15)
On prendra garde au fait que cette convergence dans L
2
(R/Z) (convergence en moyenne quadratique)
nimplique la convergence en aucun point ; de fait, rien nempche a priori que tout rarrangement de la
srie diverge en tout point sauf celui o on sest dbrouill pour le faire converger.
I.3. EXERCICES 21
b) Soit e
n
la fonction valant
1
n
sur [0, n], et 0 ailleurs. Montrer que e
n
L
2
(R), et que
la suite (e
n
)
n1
tend vers 0 dans L
2
. En dduire que le sous-espace f C
c
(R) : I(f) = 0
est dense dans L
2
(R).
c) Relation entre a) et b) ?
Exercice I.3.4. Soit I un intervalle de R, et soit (f
n
)
nN
une suite de fonctions continues
sur I tendant simplement vers une fonction f. Si j N, soit
F
n,j
=
pn
x I, [f
n+p
(x) f
n
(x)[ 2
j
.
(i) Montrer que F
n,j
est ferm et que
nN
F
n,j
= I.
(ii) Soient U
n,j
lintrieur de F
n,j
et U
j
=
nN
U
n,j
. Montrer que U
j
est dense dans I.
(iii) Montrer que si x U
j
, il existe V
x
ouvert contenant x tel que [f(x) f(y)[ 2
2j
,
si y V
x
. En dduire que f est continue en au moins un point de I.
2. Espaces de Hilbert
Exercice I.3.5. Soit (a
n
)
nN
une suite de nombres complexes telle que, quelle que soit
(b
n
)
nN

2
, la srie

+
n=0
a
n
b
n
converge. Montrer que

+
n=0
[a
n
[
2
< +. (On pourra
considrer la suite de formes linaires
k
:
2
C, pour k N, dnie par
k
((b
n
)
nN
) =

k
n=0
a
n
b
n
. Les nostalgiques des classes prparatoires pourront considrer la suite de terme
gnral b
n
=
a
n
P
n
i=0
[a
i
[
2
.)
Exercice I.3.6. Soit E un espace de Hilbert de dimension innie.
(i) Montrer que la boule unit de E nest pas compacte.
(ii) Construire un sous-ensemble ferm F de E tel que 0 nait pas de projection sur F
(cest--dire tel quil nexiste pas dlment de F de norme minimale).
Exercice I.3.7. Soit E un espace de Hilbert et (e
n
)
nN
une famille orthonormale. Soit
(a
n
)
nN
une suite de rels positifs. Montrer que C = B(0, 1)

+
n=0
x
n
e
n
[ x
n
[a
n
, a
n
]
est compact si et seulement si

+
n=0
a
2
n
< +.
Exercice I.3.8. Soit (E, | |) un espace de Hilbert.
(i) Soient a, x, y des points de E vriant
|x a|, |y a| r
2
et |
x + y
2
a| r
1
.
Montrer que |x y| 4(r
2
2
r
2
1
).
(ii) Soit (C
n
)
nN
une suite dcroissante de convexes ferms non vides. Vrier que
C =
+
n=0
C
n
est un convexe ferm. Montrer que C est non vide si et seulement si
sup
nN
d(0, C
n
) < +. On montrera en particulier que sous cette condition, si x E,
alors P
C
n
(x) tend vers P
C
(x).
(iii) Soit : E R une fonction convexe (cest--dire telle que (tx + (1 t)y)
t(x) + (1 t)(y) quels que soient t [0, 1] et x, y E) telle que lim
|x|
(x) = +.
Montrer que est borne infrieurement sur E et atteint son minimum.
22 CHAPITRE I. ESPACES DE BANACH
Exercice I.3.9. Quelle est la valeur maximale de
_
1
1
xf(x)dx pour f L
2
([1, 1])
soumis aux conditions
_
1
1
f(x)dx = 0 et
_
1
1
f(x)
2
= 1.
Exercice I.3.10. (Polynmes de Legendre) On note P
n
le polynme
d
n
dx
n
(1x
2
)
n
. Mon-
trer que les P
n
forment une famille orthogonale dans L
2
([1, 1]), et que les P
n
/|P
n
|
2
forment une base hilbertienne de L
2
([1, 1]).
Exercice I.3.11. Soit L
2
([0, 1]) le complt de C([0, 1]) pour le produit scalaire f, g) =
_
1
0
f(t)g(t) dt.
(i) Soient X
1
, . . . , X
n
des variables. Montrer que le dterminant de la matrice des
(
1
X
i
+X
j
)
1i,jn
est

n
(X
1
, . . . , X
n
) =

i<j
(X
i
X
j
)
2

i,j
(X
i
+ X
j
)
.
(ii) Soit 1 a
1
< a
2
< . . . une suite dentiers strictement croissante. Si n N, notons
Vect(x
a
1
, . . . , x
a
n
) le sous-espace de C([0, 1]) engendr par les x
a
i
, pour 1 i n. Montrer
que, si k N, alors
d(x
k
, Vect(x
a
1
, . . . , x
a
n
))
2
=

n+1
(k +
1
2
, a
1
+
1
2
, . . . , a
n
+
1
2
)

n
(a
1
+
1
2
, . . . , a
n
+
1
2
)
.
(iii) Montrer que les x
a
i
engendrent un sous-espace dense de L
2
([0, 1]), si et seulement
si

+
n=1
1
a
i
= +.
Exercice I.3.12. (i) Soit C
c
([1, +[) lespace des : [1, +[ C, continues, sup-
port compact. Montrer que (f, g) f, g) =
_
+
1
f(t)g(t)
dt
t
2
est un produit scalaire sur
C
c
([1, +[), pour lequel C
c
([1, +[) nest pas complet.
(ii) On note E le complt de C
c
([1, +[) pour ce produit scalaire. Si n est un entier 2,
soit
n
: [1, +[C la fonction dnie par
n
(t) = [
t
n
]
[t]
n
. Montrer que
n
E.
(iii) Montrer que ladhrence dans E de lespace engendr par les
n
, pour n 2,
contient lespace des fonctions constantes sur [1, +[. (Indication : consulter lex. VI.5.2.)
3. Sries de Fourier
Exercice I.3.13. Soit f la fonction priodique de priode 1 telle que lon ait f(x) = x
si x ]
1
2
,
1
2
]. Calculer les coecients de Fourier de f ; en dduire la valeur de

+
n=1
1
n
2
.
Si f C(R/Z), et si N N, soit
N
(f) =

N
k=N
c
k
(f). Plus gnralement, si
x R/Z, soit
N,x
(f) =

N
k=N
c
k
(f)e
2i kx
. Notre but est dtudier la convergence
des sommes partielles symtriques
N,x
(f) de la srie de Fourier de f vers f(x).
Comme question prliminaire, on montrera que
N
est une forme linaire continue sur
C(R/Z), et on tablira la formule
N
(f) =
_
1
0
S
N
(t)f(t) dt, o S
N
(t) =
sin (2N+1)t
sin t
.
I.3. EXERCICES 23
Exercice I.3.14. (i) Montrer que |
N
| = |S
N
|
1
.
(ii) Montrer que |
N
| tend vers +; en dduire que lensemble des f C(R/Z) tels
que sup
NN
[
N
(f)[ = + est un G

dense dans C(R/Z).


(iii) Montrer que, si r Q, lensemble des f C(R/Z) tels que sup
NN
[
N,r
(f)[ = +
est un G

dense dans C(R/Z). En dduire quil existe un G

dense X de C(R/Z) tel que


sup
NN
[
N,r
(f)[ = + quels que soient f X et r Q.
(iv) Montrer que, si f X, et si M N, alors lensemble des x R/Z tels que
sup
NN
[
N,x
(f)[ > M est un ouvert contenant Q/Z. En dduire que, si f X, il existe
un G

dense Y
f
de R/Z tel que sup
NN
[
N,x
(f)[ = +, quel que soit
(16)
x Y
f
.
Exercice I.3.15. Soit L
1
(R/Z) le complt de C(R/Z) pour la norme |f|
1
=
_
1
0
[f(t)[ dt.
(i) Montrer que, si k Z, f c
k
(f) stend par continuit L
1
(R/Z).
(ii) Montrer que, si f L
1
(R/Z), alors c
k
(f) 0 quand [k[ +.
(iii) On suppose f hlderienne dexposant > 0 (i.e il existe C > 0 tel que lon ait
[f(x) f(y)[ C[x y[

quels que soient x, y [0, 1]). Montrer que, si x R, alors la


suite de terme gnral

N
k=N
c
k
(f)e
2ikx
tend vers f(x).
(16)
Autrement dit, il existe un sous-ensemble non dnombrable dense X de C(R/Z) tel que, si f X,
alors la srie de Fourier de f diverge en tout point dun sous-ensemble non dnombrable dense de R/Z.
Malgr ce rsultat peu encourageant, Carleson (prix Abel 2006) a dmontr en 1965 que, si f C(R/Z)
(et mme si f L
2
(R/Z)), alors
N,x
(f) f(x) pour presque tout x (au sens du chapitre suivant). Par
contre, Kolmogorov (1926) a montr quil existe des lments de L
1
(R/Z) dont la transforme de Fourier
diverge en tout point.
CHAPITRE II
INTGRATION
II.1. Intgrale de Lebesgue
Lintgrale de Lebesgue (1902-1904) est une extension de lintgrale de Riemann dune
extrme souplesse. On peut intgrer plus de fonctions, et les problmes de convergence
dintgrales ou dinterversions de limites et dintgrales sont nettement plus simples quavec
lintgrale de Riemann grce au thorme de convergence domine de Lebesgue (th. II.1.25).
De plus, tous les noncs classiques de lintgrale de Riemann (continuit et drivabilit
dune intgrale dpendant dun paramtre, thorme de Fubini) stendent avec des d-
monstrations souvent simplies. Il est toutefois toujours aussi dicile de calculer expli-
citement les intgrales dont on a montr lexistence, mais cest un autre problme...
1. Dallages et fonctions en escalier
Soit Z[
1
2
] lanneau des nombres dyadiques (i.e. des nombres rationnels dont le dnomina-
teur est une puissance de 2). Une dalle de R
m
est un sous-ensemble de R
m
de la forme
(1)

m
j=1
[r
j
, s
j
[, o r
j
< s
j
, pour 1 j m, sont des nombres dyadiques. Un dallage est une
runion nie de dalles. Une dalle lmentaire (de taille 2
r
) est un ensemble de la forme
D
r,k
, o r N, k = (k
1
, . . . , k
m
) Z
m
, et D
r,k
=

m
j=1
[
k
j
2
r
,
k
j
+1
2
r
[.
Lemme II.1.1. (i) Si D
1
et D
2
sont deux dalles lmentaires (pas forcment de mme
taille), alors de deux choses lune : soit D
1
et D
2
sont disjointes, soit lune est incluse
dans lautre
(2)
.
(ii) Si k Z
m
, alors D
r,k
est la runion disjointe des D
r+1,2k+a
, pour a 0, 1
m
.
(iii) Toute dalle (et mme tout dallage) est runion disjointe dun nombre ni de dalles
lmentaires de mme taille.
Dmonstration. Exercice.
(1)
Le lecteur est invit supposer m = 1 ou m = 2, et faire des dessins ; cela rend les noncs qui
suivent parfaitement vidents.
(2)
Autrement dit, les dalles lmentaires se comportent comme des billes de mercure.
26 CHAPITRE II. INTGRATION
On dnit la mesure (D
r,k
) dune dalle lmentaire D
r,k
par la formule (D
r,k
) = 2
mr
.
Si D est un dallage quelconque, runion disjointes des D
r,k
i
, pour i I ensemble ni, on
dnit (D) par (D) =

iI
(D
r,k
i
). On vrie que cela ne dpend pas du choix de
la taille des dalles lmentaires choisies pour recouvrir D, en utilisant le (ii) du lemme
prcdent.
Si r N, et si k Z
m
, on note e
r,k
la fonction caractristique de D
r,k
. Si r N,
on note Esc
r
(R
m
), lespace vectoriel des combinaisons linaires des e
r,k
, pour k Z
m
;
cest lensemble des fonctions en escalier sur R
m
, constantes sur les dalles lmentaires
de taille 2
r
. Les e
r,k
, pour k Z
m
, ayant des supports disjoints, forment en fait une base
de Esc
r
(R
m
).
Comme e
r,k
=

a0,1
m
e
r+1,2k+a
, on a Esc
r
(R
m
) Esc
r+1
(R
m
), si r N. La runion
Esc(R
m
) des Esc
r
(R
m
), pour r N, est donc un espace vectoriel ; cest lespace vectoriel
des fonctions en escalier sur R
m
. (On notera quune combinaison linaire tant une somme
nie, une fonction en escalier est support compact.)
Si X R
m
, on note Esc(X) lensemble des fonctions en escalier sur X; il peut se voir
comme lensemble des fonctions en escalier sur R
m
qui sont nulles en dehors de X. Plus
gnralement, si X R
m
, et si U C, on note Esc(X, U) lensemble des fonctions, en
escalier sur X, prenant leurs valeurs dans U. On a donc Esc(X) = Esc(X, C).
Si Esc(R
m
), il existe r Ntel que lon puisse crire sous la forme =

iI

i
e
r,k
i
,
et on dnit son intgrale
_
par
_
=

iI

i
(D
r,k
i
) = 2
rm

iI

i
. On vrie, en
utilisant la formule e
r,k
=

a0,1
m
e
r+1,2k+a
, que cela ne dpend pas du choix de r, et
que lon a dni de la sorte une forme linaire sur Esc(R
m
). Suivant le contexte, lintgrale
de sera note indiremment
_
=
_
R
m
=
_
R
m
d =
_
R
m
(x) dx =
_
R
m
(x) dx
1
dx
m
.
Si C
c
(R
m
) est une fonction continue support compact, et si on note
r
la fonc-
tion en escalier

kZ
m
(
k
2
r
)e
r,k
prenant la valeur (
k
1
2
r
, . . . ,
k
m
2
r
) sur la dalle lmentaire

m
j=1
[
k
j
2
r
,
k
j
+1
2
r
[, quel que soit k Z
m
, alors
r
en norme | |

(i.e. uniformment
(3)
).
Ceci permet de montrer que la suite (
_

r
)
rN
converge, et on dnit lintgrale de Rie-
mann
_
comme la limite de cette suite. Lintgrale de Lebesgue va tre dnie de la
mme manire, mais en relachant
(4)
la condition de convergence uniforme, remplace par
la condition de convergence simple presque partout, ce qui permet datteindre beaucoup
plus de fonctions.
(3)
Cest une consquence de luniforme continuit dune fonction continue sur un compact.
(4)
Comme la convergence uniforme implique la convergence simple presque partout dnie plus loin, les
intgrales de Riemann et de Lebesgue dune fonction continue support compact concident, et lintgrale
de Lebesgue est bien une extension (en fait une compltion) de lintgrale de Riemann.
II.1. INTGRALE DE LEBESGUE 27
2. Ensembles de mesure nulle
On dnit la mesure extrieure
+
(A) dun ensemble A comme la borne infrieure
des

nN
(D
n
), o (D
n
)
nN
dcrit lensemble des suites de dallages de R
m
telles que
A
nN
D
n
. En dcomposant les dallages D
n
en dalles lmentaires disjointes de taille
dcroissante avec n, et en liminant les dalles lmentaires de D
n
incluses dans un des D
i
,
pour i n1, on peut se ramener au cas o les D
n
sont des dalles lmentaires disjointes.
Exercice II.1.2. (i) Montrer que
+
([0, 1]) = 1 (pas si vident que
+
([0, 1]) ,= 0...).
(ii) Un pav de R
m
est un ensemble de la forme

m
j=1
I
j
, o I
j
est un intervalle de
nimporte quel type (ouvert ou ferm chacune des extrmits). Montrer que, si P =

m
j=1
I
j
est un pav, alors
+
(P) =

m
j=1
(I
j
), o (I
j
) est la longueur de lintervalle I
j
[i.e. si a b sont deux rels, alors (]a, b[) = ([a, b[) = (]a, b]) = ([a, b]) = b a].
Proposition II.1.3. (i) Si B A, alors
+
(B)
+
(A).
(ii) Si A
n
R
m
, pour n N, alors
+
(
nN
A
n
)

nN

+
(A
n
).
Dmonstration. Le (i) est une vidence. Le (ii) est vident si

nN

+
(A
n
) = +. Dans
le cas contraire, soit A =
nN
A
n
, et soit > 0. Pour tout n N, on peut trouver une suite
(D
n,k
)
kN
de dallages de R
m
tels que A
n

kN
D
n,k
et

kN
(D
n,k
)
+
(A
n
)+2
1n
.
Mais alors A
k,nN
D
n,k
et

k,nN
(D
n,k
)

nN
(
+
(A
n
) + 2
1n
) = +

nN

+
(A
n
).
On en dduit que
+
(A) +

nN

+
(A
n
) quel que soit > 0, ce qui permet de
conclure.
On dit que A est de mesure nulle si
+
(A) = 0. En revenant la dnition, on voit que
A est de mesure nulle si et seulement si, quel que soit > 0, il existe une suite (D
n
)
nN
de dallages de R
m
tels que A
nN
D
n
et

nN
(D
n
) < .
Proposition II.1.4. (i) Tout sous-ensemble dun ensemble de mesure nulle est de
mesure nulle.
(ii) Une runion dnombrable densembles de mesure nulle est de mesure nulle.
Dmonstration. Cest une consquence immdiate de la prop. II.1.3.
Exercice II.1.5. Montrer que, si A est de mesure nulle dans R
n
, alors A R
m
est de
mesure nulle dans R
n+m
.
Exercice II.1.6. (i) Montrer que la diagonale dans R
2
est de mesure nulle.
(ii) Montrer, plus gnralement, que le graphe dans R
2
dune application continue
f : R R est de mesure nulle, et quun hyperplan est de mesure nulle dans R
m
.
(iii) Limage dans R
2
de [0, 1] par une application continue est-elle ncessairement de
mesure nulle ?
28 CHAPITRE II. INTGRATION
On dit quune proprit est vraie presque partout, ou bien est vraie pour presque tout
x R
m
, ou encore est vraie p.p., si lensemble des points ne la vriant pas est de mesure
nulle. Par exemple, lensemble des rationnels tant dnombrable, presque tout rel est
irrationnel.
Exercice II.1.7. Montrer que presque tout
(5)
nombre complexe est transcendant. (Un
nombre complexe est algbrique sil est racine dun polynme unitaire coecients dans Q.
Un nombre complexe non algbrique est un nombre transcendant.)
Remarque II.1.8. Il ne faudrait pas croire quun sous-ensemble de R de mesure nulle
est forcment dnombrable. Par exemple, xons une bijection n r
n
de Nsur Q, et soient
U
k
=
nN
]r
n
2
nk
, r
n
+2
nk
[, si k N, et A =
kN
U
k
. Alors A est de mesure nulle
puisquil est inclus dans U
k
, pour tout k, et que
+
(U
k
)

+
n=0
2
1nk
= 2
2k
peut tre
rendu arbitrairement petit. Dun autre ct, U
k
est un ouvert dense pour tout k, et donc A
est dense et non dnombrable daprs le lemme de Baire (cf. th. D.3.5). En particulier, A
contient bien dautres lments que les rationnels, ce qui nest pas totalement transparent
sur sa construction.
Exercice II.1.9. Montrer quune fonction continue, qui est nulle p.p., est identiquement
nulle.
Thorme II.1.10. (Borel-Cantelli) Si (A
n
)
nN
est une suite de sous-ensembles de
R
m
telle que

nN

+
(A
n
) < +, alors presque tout x R
m
nappartient qu un
nombre ni de A
n
.
Dmonstration. Il sagit de prouver que lensemble A des x R appartenant une
innit de A
n
est de mesure nulle. Or x A si et seulement si, quel que soit n N, il
existe p n tel que x A
p
; autrement dit, on a A =
nN
_

pn
A
p
). On en dduit
que
+
(A)

pn

+
(A
p
), quel que soit n N, et comme la srie

nN

+
(A
n
) est
suppose convergente, son reste tend vers 0, ce qui permet de conclure.
Exercice II.1.11. (i) Montrer que, si > 0 et C > 0, alors pour presque tout
(6)
nombre
rel x, lensemble des couples dentiers (p, q), tels que [x
p
q
[ Cq
2
, est ni.
(5)
Au vu de ce rsultat, il est raisonnable de penser quun nombre nayant pas de bonnes raisons dtre
algbrique est transcendant. Dmontrer quun nombre donn est transcendant ou mme irrationnel est,
en gnral, trs dicile. Par exemple, il a fallu attendre 1979 pour que R. Apery dmontre que (3) est
irrationnel, et il ny a aucun entier n impair 5, pour lequel on sache prouver que (n) est irrationnel.
Le seul rsultat dans cette direction est un rsultat de T. Rivoal (2000) qui a dmontr que (n) est
irrationnel pour une innit de n impairs, et quau moins un des 9 nombres (5), , (21) est irrationnel
(amlior depuis par W. Zudilin : au moins un des 4 nombres (5), (7), (9), (11) est irrationnel).
(6)
K. Roth a obtenu la mdaille Fields en 1958 pour avoir dmontr que les nombres algbriques ont cette
proprit (cest vident pour les rationnels ou les nombres algbriques de degr 2 (si est un nombre
algbrique, le degr de est le minimum des degrs des polynmes P Q[X] non nuls, avec P() = 0),
mais le cas gnral reprsente un tour de force). On ne sait pas dmontrer que vrie cette proprit.
II.1. INTGRALE DE LEBESGUE 29
(ii) Montrer que lensemble des nombres de Liouville est de mesure nulle, non dnom-
brable, et dense dans R. (Un rel x est de Liouville si ce nest pas un nombre rationnel et
si, quel que soit n N, il existe un couple dentiers (p, q), q 2, tels que [x
p
q
[ q
n
.)
3. Dnition de lintgrale de Lebesgue
Une fonction f : R
m
C est dite mesurable si elle est limite p.p. dune suite de
fonctions en escalier. Autrement dit, f est mesurable sil existe A R
m
de mesure nulle,
et une suite (f
n
)
nN
dlments de Esc(R
m
) tels que lim
n+
f
n
(x) = f(x), quel que soit
x / A. Un sous-ensemble A de R
m
est mesurable si sa fonction caractristique 1
A
est
une fonction mesurable. Si A est mesurable, et si (f
k
)
kN
est une suite de fonctions en
escalier tendant simplement vers 1
A
en dehors de B, o B est de mesure nulle, on a aussi
1
X
k
1
A
en dehors de B, si X
k
est le dallage des x R
m
vriant [f
k
(x) 1[
1
2
.
Autrement dit, A est mesurable si et seulement si il existe une suite de dallages (X
k
)
kN
telle que 1
X
k
tende vers 1
A
p.p.
Exercice II.1.12. (i) Montrer que les fonctions mesurables forment une algbre (i.e.
que f, f + g et fg sont mesurables si C, f, g mesurables).
(ii) Montrer que, si f est mesurable sur R
n
et g est mesurable sur R
m
, alors h(x, y) =
f(x)g(y) est mesurable sur R
n+m
.
(iii) Montrer que, si f et g sont mesurables, alors inf(f, g) et sup(f, g) sont mesurables.
(iv) Montrer quune fonction continue est mesurable.
On note Mes(R
m
) le C-espace vectoriel des fonctions mesurables sur R
m
. Plus gnra-
lement, si D R
m
et F C (ou F R
+
), on note Mes(D, F) lensemble des fonctions
mesurables sur R
m
, qui sont nulles en dehors de D et qui prennent leurs valeurs dans F.
Proposition II.1.13. Une limite simple p.p. de fonctions mesurables est mesurable.
Dmonstration. Cette proposition est moins vidente quil ny parat comme le suggre
lexercice I.1.11. La dmonstration sera faite lalina 6.4.
Lexistence de lintgrale de Lebesgue repose sur la rsultat suivant que lon peut voir
comme un embryon de thorme de convergence domine.
Dans le mme genre dides, si x est un nombre rel non rationnel, on peut prendre son dveloppement
en fractions continues (il sagit de la suite dentiers (a
n
)
nN
dnie par lalgorithme x
0
= x, a
n
= [x
n
],
x
n+1
=
1
x
n
a
n
; les nombres rationnels
u
n
v
n
, obtenus en crivant x en termes de a
0
, , a
n1
et x
n
, et
en remplaant x
n
par a
n
dans lexpression, sont les meilleures approximations de x par des nombres
rationnels). On montre facilement que, pour presque tout nombre rel x, la suite a
n
nest pas borne, ce
qui quivaut la nullit de la borne infrieure de lensemble des q[qx p[, pour p, q Z, q 1. Si x est
algbrique de degr 2, la suite a
n
devient priodique partir dun certain rang et donc est borne. On
est persuad que si x est algbrique de degr 3, alors la suite a
n
nest pas borne, mais on ne sait le
dmontrer dans aucun cas.
30 CHAPITRE II. INTGRATION
Proposition II.1.14. Soit D R
m
un dallage, soit M 0, soit f Mes(D, [0, M]),
et soit (f
n
)
nN
une suite dlments de Esc(D, [0, M]) qui converge vers f p.p. Alors
_
f
n
a une limite
_
f qui ne dpend que de f, et
_
f = 0 si et seulement si f = 0 p.p.
Dmonstration. La dmonstration de cette proposition est assez dlicate (en tout cas
plus que la dmonstration de lexistence de la limite pour les sommes de Riemann associes
une fonction continue) ; nous la ferons plus loin (cf. alina 6.1).
Dnition II.1.15. (Intgrale de Lebesgue
(7)
)
(i) Si f Mes(D, [0, M]), on dnit
_
f R
+
comme la limite, quand n tend vers +
de
_
f
n
, o (f
n
)
nN
est nimporte quelle suite dlments de Esc(D, [0, M]) qui converge
vers f p.p.
(ii) Si f Mes(R
m
, R
+
), on dnit
_
f R
+
comme la limite, quand N tend vers +,
de la suite croissante de terme gnral
_
D
N
inf(f, N), o D
N
est la dalle
(8)
de sommets
(N, . . . , N).
(iii) On dit que f Mes(R
m
, C) est sommable, si
_
[f[ < +. On note L
1
(R
m
)
Mes(R
m
) lensemble des fonctions sommables.
(iv) Si f et g sont deux lments de Esc(R
m
, R
+
) telles que f g partout, alors
_
f
_
g. On en dduit, par passage la limite, que si f, g Mes(R
m
, R
+
) vrient
f g p.p., alors
(9)
_
f
_
g. En particulier, si f L
1
(R
m
), alors les fonctions
(10)
Re
+
(f), Re
+
(f), Re
+
(if) et Re
+
(if) sont sommables puisque majores par [f[, et on
(7)
La prsentation choisie dans ce texte fait ressembler beaucoup lintgrale de Lebesgue celle de Rie-
mann : on part des fonctions en escalier, on dnit lintgrale dune fonction mesurable par passage
la limite, et enn on dnit la notion densemble mesurable et de mesure dun ensemble. Lapproche
originelle de Lebesgue tait inverse. Son point de dpart tait le suivant : pour calculer laire dune sur-
face sous le graphe dune fonction dun intervalle [a, b] dans R
+
, on peut soit dcouper verticalement (ce
que fait Riemann), soit horizontalement (ce que fait Lebesgue). Comme le dit Lebesgue, pour calculer la
quantit dargent dans un tas contenant des pices de direntes valeurs, lintgrale de Riemann consiste
prendre chaque pice son tour et ajouter sa valeur au total, alors que lintgrale de Lebesgue consiste
commencer par trier les pices et compter combien il y en a de chaque sorte. videmment, en dcoupant
horizontalement, on tombe sur des ensembles nettement plus compliqus que verticalement comme un
petit dessin le prouvera aisment. Lapproche originelle de Lebesgue a lavantage de stendre telle quelle
une thorie de la mesure valable dans un cadre trs gnral (et indispensable en thorie des probabilits).
Celle suivie dans ce texte permet dviter certains aspects un peu rbarbatifs de thorie des ensembles.
Elle a linconvnient dtre limite des espaces ressemblant (au moins localement) R
n
.
(8)
On aurait pu prendre nimporte quelle suite croissante de dallages dont la runion est R
m
, au lieu de
la suite des D
N
.
(9)
Si f
n
f p.p., et g
n
g p.p., alors inf(f
n
, g
n
) f p.p. et sup(f
n
, g
n
) g p.p.
(10)
Si z C, on note Re
+
(z) le nombre rel sup(0, Re(z)) ; on a alors
z = Re
+
(z) Re
+
(z) + iRe
+
(iz) iRe
+
(iz).
II.1. INTGRALE DE LEBESGUE 31
pose
_
f =
_
Re
+
(f)
_
Re
+
(f) + i
_
Re
+
(if) i
_
Re
+
(if).
Remarque II.1.16. (i) Lintgrale est linaire sur les fonctions en escalier. On en dduit
quelle est linaire sur L
1
(R
m
) en commenant par montrer, par un passage la limite,
que lon a
_
af + bg = a
_
f + b
_
g si a, b R
+
et f, g Mes(D, [0, M]).
(ii) Par construction, lintgrale dune fonction positive appartient R
+
. On en dduit,
que si f, g sont sommables valeurs relles, et si f g p.p., alors
_
f
_
g.
(iii) Si f est sommable, si
_
f = e
i
, et si h est dnie par f = [f[e
ih
p.p., alors
_
[f[ [
_
f[ = Re
_
_
[f[ [
_
f[
_
= Re
_
_
[f[
_
e
i
f
_
= Re
_
_
[f[(1e
ihi
)
_
0,
puisque la fonction Re([f[(1 e
ihi
)) est positive. En rsum, [
_
f[
_
[f[.
(iv) Si f L
1
(R
m
), on dnit sa (semi)-norme |f|
1
par |f|
1
=
_
[f[. Il rsulte de la
prop. II.1.14 que lon a |f|
1
= 0 si et seulement si f = 0 p.p. On dit que f
k
tend vers f
dans L
1
(R
m
) (ou que f
k
tend vers f en moyenne), si |f
k
f|
1
0. Comme | |
1
est une
semi-norme et pas une norme, la limite dune suite nest pas unique ; de fait si f
k
f
dans L
1
(R
m
), alors f
k
g dans L
1
(R
m
) pour tout g tel que g f = 0 p.p.
Il rsulte du (iii) que [
_
f[ |f|
1
, et donc que f
_
f est linaire continue (et mme
1-lipschitzienne) sur L
1
(R
m
).
4. Intgration sur un sous-ensemble mesurable de R
m
Si X est un sous-ensemble de R
m
, on dit que X est mesurable, si la fonction caract-
ristique 1
X
de X est mesurable
(11)
Si X est mesurable, on dnit la mesure (de Lebesgue)
(X) de X par (X) =
_
R
m
1
X
R
+
. On a le rsultat suivant dont la dmonstration se
trouve lalina 6.2.
(11)
S. Banach et A. Tarski (1924) ont construit un dcoupage dune boule de rayon 1 dans R
3
en un
nombre ni de morceaux (5 morceaux susent), tel que si on rarrange ces morceaux (i.e. si on les bouge
par des isomtries de R
3
), on obtient deux boules de rayon 1 (paradoxe de Banach-Tarski). videmment,
ces morceaux ne sont pas mesurables, et la construction de Banach et Tarski utilise laxiome du choix.
Dun autre ct, R. Solovay (1966) a dmontr, que si on sinterdit laxiome du choix non dnombrable,
tout en gardant laxiome du choix dnombrable, on peut, sans introduire de contradiction supplmentaire
aux mathmatiques, supposer que tout ensemble est mesurable (en analyse, on peut dicilement se
passer de laxiome du choix dnombrable, qui est de toute faon assez raisonnable : on peut parfaitement
imaginer que face au problme de choisir un nombre dnombrable dlments, on devienne de plus en plus
performant, et donc arriver choisir tous ces lments en un temps ni ; avec un nombre non dnombrable
dlments, ceci est vou lchec, si on doit les choisir un par un). La leon retenir de ce rsultat est,
quen pratique, toutes les fonctions rencontres en analyse sont mesurables et quil est inutile de passer
son temps vrier quelles le sont ; le problme est dirent en thorie des probabilits o un mme
vnement peut tre mesurable ou non mesurable suivant les conditions.
32 CHAPITRE II. INTGRATION
Proposition II.1.17. Si X est mesurable, alors (X) =
+
(X). En particulier, X est
de mesure nulle si et seulement si (X) = 0.
Exercice II.1.18. (i) Montrer que si X est mesurable, alors R
m
X est mesurable.
(ii) Montrer quune runion dnombrable et une intersection dnombrable densembles
mesurables sont mesurables.
(iii) Montrer que, si X est mesurable dans R
n
et Y est mesurable dans R
m
, alors XY
est mesurable dans R
n+m
.
(iv) Montrer quun ouvert est mesurable, quun ferm est mesurable.
(v) Montrer que, si S [0, 1] est un systme de reprsentants de R/Q (i.e. tout lment
de R peut scrire de manire unique sous la forme s + q, avec s S et q Q), alors S
nest pas mesurable.
Remarque II.1.19. Si f est une fonction mesurable sur R, valeurs dans R
+
, et si
_
f < +, alors lensemble A des points o f est inni est de mesure nulle. En eet, on
a f M1
A
quel que soit M R
+
, et donc M(A)
_
f quel que soit M R
+
.
Soit X un sous-ensemble mesurable de R
m
. On dit que : X C est mesurable si
la fonction obtenue en prolongeant par 0 R
m
est mesurable. Lensemble Mes(X) des
fonctions mesurables sur X est donc naturellement un sous-espace de Mes(R
m
), et on
dnit L
1
(X) comme lintersection de Mes(X) avec L
1
(R
m
).
Si L
1
(R
m
), alors 1
X
L
1
(X), et lapplication 1
X
est une projection de
L
1
(R
m
) sur son sous-espace L
1
(X). On note
_
X
, si L
1
(R
m
), lintgrale
_
R
m
1
X
.
5. Les thormes de convergence monotone et de convergence domine
Dans tout ce qui suit, X est un sous-ensemble mesurable de R
m
.
Thorme II.1.20. (de convergence monotone)
(i) Si (f
n
)
nN
est une suite croissante dlments de Mes(X, R
+
), alors la limite est
mesurable et lim
n+
_
f
n
=
_
lim
n+
f
n
.
(ii) Si (u
n
)
nN
est une suite dlments de Mes(X, R
+
), alors la somme de la srie est
mesurable et
_
nN
u
n
=

nN
_
u
n
.
Dmonstration. On dduit le (ii) du (i) en considrant les sommes partielles ; le (i) est
dmontr lalina 6.5.
Corollaire II.1.21. Si (u
n
)
nN
est une suite dlments de L
1
(X) telle que

nN
_
[u
n
[ < +, alors lensemble des x tels que

nN
[u
n
(x)[ = + est de mesure
nulle ; autrement dit, la srie

nN
u
n
(x) converge (absolument) p.p.
Dmonstration. Si

nN
_
[u
n
[ < +, alors, daprs le thorme de convergence mo-
notone,
_
nN
[u
n
[ < +. La remarque II.1.19 permet de conclure.
II.1. INTGRALE DE LEBESGUE 33
Exercice II.1.22. Si 2
k
n < 2
k+1
, soit f
n
la fonction caractristique de [
n2
k
2
k
,
n+12
k
2
k
[.
Montrer que f
n
0 dans L
1
([0, 1]), mais que f
n
(x) ne tend vers 0 pour aucun x [0, 1[.
Ce rsultat nest-il pas en contradiction avec le corollaire prcdent ?
Exercice II.1.23. Soit f : R R
+
dnie par f(x) =
1

[x[
, si 0 < [x[ < 1, et f(x) = 0,
sinon.
(i) Montrer que f est sommable.
(ii) Soit n r
n
une bijection de N sur Q. Soit F(x) =

+
n=0
2
n
f(x r
n
) R
+
.
Montrer que F(x) < + p.p., et que F est sommable. quoi ressemble le graphe de F?
Proposition II.1.24. (Lemme de Fatou) Si f
n
Mes(X, R
+
), alors
_
(liminf f
n
) liminf
_
f
n
.
Dmonstration. Soit g
n
= inf
kn
f
k
. Alors g
n
est mesurable comme limite simple de
fonctions mesurables, et g
n
liminf f
n
en croissant, par dnition de la limite infrieure.
Daprs le thorme de convergence monotone, on a donc
_
g
n

_
liminf f
n
. Par ailleurs,
_
g
n

_
f
n
quel que soit n. On a donc
_
liminf f
n
= lim
_
g
n
= liminf
_
g
n
liminf
_
f
n
,
ce quil fallait dmontrer.
Thorme II.1.25. (de convergence domine)
Si (f
n
)
nN
est une suite dlments L
1
(X) vriant :
il existe g L
1
(X) telle que, quel que soit n N, on a [f
n
[ g p.p. (domination),
f
n
converge simplement presque partout,
alors la limite presque partout f de la suite (f
n
)
nN
est sommable, et f
n
tend vers f
dans L
1
(X) ; en particulier lim
n+
_
f
n
=
_
f.
Dmonstration. f est mesurable comme limite simple p.p. de fonctions mesurables et
sommable car [f[ g p.p. Dautre part, quitte modier g et les f
n
sur un ensemble de
mesure nulle, on peut supposer que lon a [f
n
[ g partout. On a alors [f
n
f[ 2g, et
on peut appliquer le lemme de Fatou h
n
= 2g [f
n
f[. Comme h
n
2g, on obtient
_
2g liminf
_
2g [f
n
f[ =
_
2g limsup
_
[f
n
f[,
et comme
_
2g est ni, on en tire limsup
_
[f
n
f[ 0, et donc
_
[f
n
f[ 0, puisque
_
[f
n
f[ 0, quel que soit n N. Ceci permet de conclure.
Remarque II.1.26. On peut transformer une srie en une intgrale en associant une
suite (u
n
)
nN
, la fonction valant u
n
sur [n, n +1[ et 0 sur R

. Ceci permet de dduire du


thorme de convergence domine un thorme de convergence domine pour les sries.
34 CHAPITRE II. INTGRATION
Soit I un ensemble dnombrable, et soient (a
n,i
)
nN,iI
des nombres complexes. On sup-
pose quil existe b
i
R
+
et a
i
C, pour i I tels que [a
n,i
[ b
i
quels que soient
n N et i I, lim
n+
a
n,i
= a
i
, quel que soit i I, et

iI
b
i
< +, alors
lim
n+

iI
a
n,i
=

iI
a
i
.
Exercice II.1.27. Dmontrer le rsultat ci-dessus sans utiliser le thorme de conver-
gence domine.
Exercice II.1.28. Si n 1, soient f
n
= n1
[0,1/n]
et g
n
=
1
n
1
[0,n]
. Montrer que f
n
0
p.p et g
n
0 p.p., et que
_
f
n
=
_
g
n
= 1. Peut-on en dduire que 1 = 0 ?
Exercice II.1.29. Soient (X
n
)
nN
une suite de sous-ensembles mesurables de R
m
, B =

nN
X
n
et C =
nN
X
n
.
(i) Montrer que si la suite X
n
est croissante, alors (B) = lim
n+
(X
n
).
(ii) Montrer que si la suite X
n
est dcroissante et si (X
0
) < +, alors (C) =
lim
n+
(X
n
). Le rsultat est-il toujours valable sans lhypothse (X
0
) < +?
Exercice II.1.30. Soit X R
m
mesurable de mesure nie. Montrer que, quel que soit
[0, 1], il existe B X mesurable tel que (B) = (X).
6. Existence de lintgrale de Lebesgue
Ce n
o
est consacr la dmonstration des rsultats rests en suspens au cours du II.1.
Sa lecture est rserve aux masochistes.
6.1. Le thorme de convergence domine pour les fonctions en escalier bornes
Cet alina est consacr la dmonstration de la prop. II.1.14 sous la forme renforce ci-dessous (le fait
que
_
h = 0 si et seulement si h = 0 p.p. suit de la rem. II.1.36 et du lemme II.1.40).
Dans tout ce qui suit, D est un dallage de R
m
, et M R
+
.
Proposition II.1.31. Soit h Mes(D, [0, M]) et soit (h
n
)
nN
une suite dlments de Esc(D, [0, M])
tendant vers h p.p. Alors
_
h
n
a une limite note
_
h qui ne dpend que de h. De plus, [h h
n
[
Mes(D, [0, M]), et
_
[h h
n
[ 0.
Lemme II.1.32. Si A est de mesure extrieure nie, alors, quel que soit > 0, il existe un ouvert U
contenant A et tel que
+
(U)
+
(A) + .
Dmonstration. Si D =

m
j=1
[a
j
, b
j
[ est une dalle, on peut, quel que soit > 0, trouver un pav
ouvert P =

m
j=1
]a

j
, b
j
[ contenant D, tel que
+
(P) (D) + . Soit alors (D
n
)
nN
une suite de dalles
lmentaires telle que A
nN
D
n
, et
+
(A)

nN
(D
n
) +

2
. Daprs la discussion prcdente,
il existe P
n
, pav ouvert contenant D
n
, tel que
+
(P
n
) (D
n
) +

2
n+3
, et U =
nN
P
n
rpond aux
exigences du lemme.
Lemme II.1.33. Si (X
n
)
nN
est une suite dcroissante de dallages telle que
nN
X
n
est de mesure
nulle, alors lim
n+
(X
n
) = 0.
II.1. INTGRALE DE LEBESGUE 35
Dmonstration. Soit L la runion des hyperplans de la forme x
i
= r, pour 1 i m et r Z[
1
2
].
Comme 1, . . . , mZ[
1
2
] est dnombrable, L est de mesure nulle. Maintenant, si n N, et si X
n
dsigne
ladhrence de X
n
, on a X
n
X
n
L, et donc

nN
X
n

nN
(X
n
L) (
nN
X
n
) L;
on en dduit que
nN
X
n
est de mesure nulle.
Soit alors > 0. Comme
nN
X
n
est de mesure nulle, il existe un ouvert U

contenant
nN
X
n
, avec

+
(U

) < . Soit F

le complmentaire de U

dans X
0
. On a F

(
nN
X
n
) = , ce qui implique quil
existe n
0
Ntel que F

(
nn
0
X
n
) = car X
0
est compact et F

et les X
n
sont ferms dans X
0
. Comme
la suite (X
n
)
nN
est dcroissante, on en dduit le fait que F

X
n
0
= , et donc que X
n
X
n
U

, quel
que soit n n
0
. On a donc prouv que, quel que soit > 0, il existe n
0
, tel que (X
n
)
+
(U

) < , si
n n
0
. Ceci permet de conclure.
Lemme II.1.34. Si (h
n
)
nN
est une suite dcroissante dlments de Esc(D, [0, M]), tendant vers 0
presque partout, alors lim
n+
_
h
n
= 0.
Dmonstration. Si > 0, et si n N, soit X
n,
= x D, h
n
(x) . Alors (X
n,
)
nN
est une
suite dcroissante de dallages, et
nN
X
n,
est de mesure nulle puisque h
n
tend vers 0 presque partout.
Daprs le lemme II.1.33, ceci implique que lim
n+
(X
n,
) = 0 ; et donc quil existe n N tel que
(X
n+p,
) , si p N. Comme h
n+p
(x) M, si x X
n+p,
, et h
n+p
(x) , si x / X
n+p,
, on a
_
h
n+p
((D) + M), quel que soit p N. Ceci permet de conclure.
Lemme II.1.35. Si (h
n
)
nN
est une suite dlments de Esc(D, [0, M]), tendant vers 0 presque partout,
telle que

nN
_
[h
n+1
h
n
[ < +, alors lim
n+
_
h
n
= 0.
Dmonstration. Supposons le contraire. Il existe alors C > 0 et une innit de n N tels que
_
h
n
C. Quitte extraire une sous-suite de la suite h
n
, on peut donc supposer que
_
h
n
C quel que
soit n N (cela ne change pas la condition

nN
_
[h
n+1
h
n
[ < + car, si : N N est strictement
croissante, on a [h
(n+1)
h
(n)
[

(n+1)1
k=(n)
[h
k+1
h
k
[). Comme la srie

nN
_
[h
n+1
h
n
[ converge,
on peut, quitte rempacer n par n + n
0
, supposer de plus que

kN
_
[h
k+1
h
k
[
C
2
. Soit alors
g
n
= inf
kn
h
k
. Par construction, g
n
est une suite dcroissante dlments de Esc(D, [0, M]), qui tend
vers 0 presque partout car g
n
h
n
. Daprs le lemme II.1.34, cela implique lim
n+
_
g
n
= 0. Par
ailleurs, on a g
n
(x) h
0
(x)

n1
k=0
[h
k+1
(x) h
k
(x)[ (avec galit si et seulement si la suite (h
n
(x))
nN
est dcroissante). On en dduit que
_
g
n

_
h
0

n1
k=0
_
[h
k+1
h
k
[ C
C
2
, quel que soit n N.
Do une contradiction qui permet de conclure.
Passons la dmonstration de la prop. II.1.31. Si n p, soient
f
n,p
= inf
nkp
h
k
et g
n,p
= sup
nkp
h
k
.
Alors, quand n est x, f
n,p
(resp. g
n,p
) est une suite dcroissante (resp. croissante) dlments de
Esc(D, [0, M]), alors que quand p est x f
n,p
(resp. g
n,p
) est croissante (resp. dcroissante). En par-
ticulier, si n est x, la suite
_
f
n,p
(resp.
_
g
n,p
) est une suite dcroissante (resp. croissante) dlments
de [0, M(D)] ; elle admet donc une limite et est de Cauchy. On peut donc trouver
0
(n) n tel que,
quels que soient p
1
, p
2

0
(n), on ait

_
f
n,p
1

_
f
n,p
2

2
n
et

_
g
n,p
1

_
g
n,p
2

2
n
.
36 CHAPITRE II. INTGRATION
On note a
n
la limite, quand p tend vers + de la suite croissante
_
g
n,p
f
n,p
, et on choisit : N N,
avec (n)
0
(n), et
_
u
n

1
2
a
n
, o u
n
= g
n,(n)
f
n,(n)
. Par construction, u
n
Esc(D, [0, M]), et
u
n
0 p.p. car h
n
a une limite p.p.
Si n N, et si p (n),
_
[g
n+1,(n+1)
g
n,(n)
[
_
[g
n+1,(n+1)
g
n+1,p
[ +
_
[g
n+1,p
g
n,p
[ +
_
[g
n,p
g
n,(n)
[.
Maintenant, par hypothse, on a
_
[g
n+1,(n+1)
g
n+1,p
[ +
_
[g
n,p
g
n,(n)
[ 2
n1
+ 2
n
2
1n
,
et comme la suite (g
n,p
)
np
est dcroissante, on a [g
n+1,p
g
n,p
[ = g
n,p
g
n+1,p
. On en dduit, quel que
soit p max
nN
(n), la majoration
N1

n=0
_
[g
n+1,(n+1)
g
n,(n)
[
N1

n=0
_
2
1n
+
_
g
n,p
g
n+1,p
_
4 +
_
g
0,p
g
N,p
4 + M(D),
la dernire ingalit venant de ce que g
0,p
g
N,p
Esc(D, [0, M]). On montre de mme que
N1

n=0
_
[f
n+1,(n+1)
f
n,(n)
[ 4 + M(D).
On en dduit que
+

n=0
_
[u
n
u
n+1
[
+

n=0
_
_
[f
n+1,(n+1)
f
n,(n)
[ +[g
n+1,(n+1)
g
n,(n)
[
_
8 + 2M(D) < +,
ce qui permet dutiliser le lemme II.1.35 pour montrer que
_
u
n
0 et donc que a
n
0. Or on a
a
n
= sup
pn
__
_
sup
nkp
h
k
_

_
_
inf
nkp
h
k
__

_
sup
kn
_
h
k
_

_
inf
kn
_
h
k
_
.
On en dduit que les limites infrieure et suprieure de la suite (
_
h
n
)
nN
sont gales et donc que
(
_
h
n
)
nN
a une limite.
Maintenant, si on part de suites (h
n
)
nN
et (h

n
)
nN
dlments de Esc(D, [0, M]) convergeant vers h
p.p., on peut fabriquer une troisime suite (h

n
)
nN
dlments de Esc(D, [0, M]) convergeant vers h p.p.,
en posant h

2n
= h
n
et h

2n+1
= h

n
, si n N. Lexistence de la limite de
_
h

n
quand n tend vers +
implique lgalit de lim
n+
_
h
n
et lim
n+
_
h

n
, ce qui prouve que la limite ne dpend que de h et
pas de la suite (h
n
)
nN
.
Finalement, on peut appliquer ce qui prcde f
n
= inf
kn
h
k
= lim
p+
f
n,p
et g
n
= sup
kn
h
k
=
lim
p+
g
n,p
qui sont des lments de Mes(D, [0, M]) par construction. Daprs ce qui prcde, on a
_
g
n
f
n
= lim
p+
_
g
n,p
f
n,p
= a
n
, et a
n
0. Comme par ailleurs, f
n
h
n
g
n
, et f
n
h g
n
p.p, ce qui implique [h h
n
[ g
n
f
n
p.p., on a
_
[h h
n
[ a
n
, et donc
_
[h h
n
[ 0.
Ceci termine la dmonstration de la proposition.
Remarque II.1.36. Si h = 0 p.p., on peut prendre h
n
= 0, quel que soit n N pour calculer
_
h, et
donc
_
h = 0, si h = 0 p.p..
II.1. INTGRALE DE LEBESGUE 37
6.2. Mesure et mesure extrieure des ensembles mesurables
Cet alina est consacr la dmonstration de la prop. II.1.17, selon laquelle (A) =
+
(A) pour tout
ensemble mesurable A. Si A est mesurable, et si A
N
= A [N, N[
m
, alors (A) = lim
n+
(A
N
) par
dnition. Par ailleurs, on dduit des (i) et (ii) de la prop. II.1.3, que
+
(A) = sup
NN

+
(A
N
). Il sut
donc de prouver que (A
N
) =
+
(A
N
) pour tout N pour prouver que (A) =
+
(A). Autrement dit, on
peut supposer que A est born.
Dans le reste de cet alina, on xe un dallage D de R
m
, et tous les ensembles considrs sont inclus
dans D. On dit que A D est dallable sil existe une suite (D
n
)
nN
de dalles lmentaires disjointes telles
que A =

nN
D
n
; une telle dcomposition de A est une dcomposition en dalles lmentaires.
Lemme II.1.37. (i) Si A D est dallable, alors A est mesurable et
+
(A) = (A) =

nN
(D
n
),
pour toute dcomposition A =

nN
D
n
de A en dalles lmentaires.
(ii) Si A D, alors
+
(A) = inf (B), o B dcrit lensemble des ensembles dallables, avec A B D.
(iii) Si A et B sont mesurables, alors AB et AB sont mesurables et (AB)+(AB) = (A)+(B).
Dmonstration. Si n N, soit f
n
=

in
1
D
i
. Alors (f
n
)
nN
est une suite dlments de Esc(D, [0, 1])
tendant vers 1
A
en tout point, et donc
_
f
n
=

in
(D
i
) tend vers
_
1
D
= (D), daprs la prop. II.1.31.
On en dduit que A est mesurable et que (A) =

nN
(D
n
). Le (ii) sen dduit en revenant la
dnition de
+
(A), et lgalit
+
(A) = (A) du (i) est alors une consquence immdiate du (ii).
Finalement, le (iii) suit de ce que 1
AB
= sup(1
A
, 1
B
) et 1
AB
= inf(1
A
, 1
B
) sont mesurables, et de ce
que 1
AB
+1
AB
= 1
A
+1
B
.
Lemme II.1.38. (i) Si (A
n
)
nN
est une suite croissante de sous-ensembles dallables de D, alors A =

nN
A
n
est dallable, et (A) = sup
nN
(A
n
).
(ii) Si (A
n
)
nN
est une suite croissante de sous-ensembles de D, et si A =
nN
A
n
, alors
+
(A) =
sup
nN

+
(A
n
).
Dmonstration. (i) crivons chaque A
n
comme une runion disjointe dnombrable de dalles lmen-
taires D
n,i
, pour i I
n
. Si x A, soit D
x
la plus grande dalle lmentaire contenant x parmi les D
n,i
,
pour n N et i I
n
(lexistence de D
x
vient de ce que les dalles lmentaires se comportent comme des
billes de mercure). Soit J
nN
_
n I
n
_
lensemble des (n, i) tels quil existe x A avec D
x
= D
n,i
.
Alors A est la runion disjointe des D
n,i
, pour (n, i) J, et donc A est dallable. (On remarquera que lon
na pas utilis le fait que la suite (A
n
)
nN
est croissante dans cette partie de la dmonstration.)
Maintenant, lingalit (A) sup
nN
(A
n
) est immdiate puisque A contient chacun des A
n
. Rci-
proquement, si J

est un sous-ensemble ni de J, alors

(n,i)J

D
n,i
est inclus dans un des A
m
, et on a

(n,i)J

(D
n,i
) sup
nN
(A
n
), quel que soit J

J ni. En passant la limite, on obtient lingalit


(A) sup
nN
(A
n
) qui termine la dmonstration du (i).
(ii) Lingalit
+
(A) sup
nN

+
(A
n
) est immdiate. Montrons lingalit dans lautre sens. Si > 0,
on peut, quel que soit n N, trouver D
n
dallable tel que (D
n
)
+
(A
n
) +

2
n+1
. Soit D

n
=
in
D
i
.
Alors D

n
est un ensemble dallable (comme runion nie densembles dallables), contenant A
n
, et la suite
D

n
est croissante par construction. De plus, on a
(D

n+1
)
+
(A
n+1
) = (D

n
) + (D
n+1
) (D

n
D
n+1
)
+
(A
n+1
) (D

n
)
+
(A
n
) +

2
n+1
,
car D

n
D
n+1
contient A
n
. On en dduit, par rcurrence, que (D

n+1
)
+
(A
n+1
) (1
1
2
n+1
).
Maintenant, daprs le (i), D =
nN
D

n
, qui contient A, est dallable, et (D) = sup
nN
(D

n
)
+ sup
nN

+
(A
n
). On a donc
+
(A) + sup
nN

+
(A
n
), quel que soit > 0. Ceci permet de
conclure.
38 CHAPITRE II. INTGRATION
Revenons la dmonstration de la proposition II.1.17. Si B est un ensemble dallable contenant A, on
a (A) (B) puisque 1
A
1
B
. En prenant la borne infrieure sur tous les B dallables contenant A, on
obtient (A)
+
(A), daprs le (ii) du lemme II.1.37.
Pour prouver lautre ingalit, considrons une suite (X
k
)
kN
de dallages contenus dans D, tels que
1
X
k
1
A
p.p. Alors, par dnition, (A) = lim
k+
(X
k
). Soit A

=
kN

k
X

. Par construction,
on a 1
A
= liminf 1
X
k
, et donc 1
A
= 1
A
p.p. On en dduit les galits (A) = (A

) et
+
(A) =
+
(A

).
Maintenant,
+
(
k
X

) inf
k
(X

), puisque X

est un dallage contenant


k
X

, si k ; comme la
suite
k
X

est croissante, on a
+
(A

) = sup
kN

+
(
k
X

) sup
kN
inf
k
(X

) = liminf (X
k
) =
(A). Ceci permet de conclure.
6.3. Le thorme de convergence monotone pour les fonctions mesurables bornes support compact
Lemme II.1.39. Si f Mes(R
m
, R
+
), et si a R
+
, il existe Y mesurable tel que
x, f(x) > a Y x, f(x) a.
Dmonstration. Soit (f
k
)
kN
une suite dlments de Esc(R
m
, R
+
) tendant vers f en dehors de B,
avec B de mesure nulle. Soit X
k
= x R
m
, f
k
(x) > a. Alors X
k
est un dallage, quel que soit k N,
et il existe X tel que, si x / B, alors 1
X
k
(x) 1
X
(x), et donc 1
X
k
1
X
p.p., ce qui prouve que X est
mesurable. Or X contient x, f(x) > a B et est contenu dans x, f(x) a B, et il sut de poser
Y = (X (X B)) (x, f(x) a B) pour obtenir un ensemble mesurable (Y dire de X par un
ensemble de mesure nulle) ayant les proprits requises.
Lemme II.1.40. Si (h
n
)
nN
est une suite dlments de Mes(R
m
, R
+
) tendant simplement vers h
p.p., et si
_
h
n
0, alors h = 0 p.p.
Dmonstration. h est la limite p.p. de toute suite extraite de la suite (h
n
)
nN
, ce qui permet, quitte
extraire une sous-suite, de supposer que lon a
_
h
n
2
n
quel que soit n N. Pour montrer que h = 0
p.p., il sut de montrer que, quel que soit j N, lensemble X
j
des x tels que h(x) > 2
j
est de mesure
nulle. Si n N, soit X
j,n
un ensemble mesurable vriant xh
n
(x) > 2
j
X
n,j
xh
n
(x) 2
j
(le
lemme II.1.39 assure lexistence dun tel X
n,j
). Comme 2
j
1
X
j,n
h
n
, on a (X
j,n
) 2
j
_
h
n
2
jn
.
Comme

2
jn
< +, lensemble des x tels que h
n
(x) > 2
j
pour une innit de n N est de mesure
nulle daprs le thorme de Borel-Cantelli, et comme X
j
est inclus dans cet ensemble ( lensemble prs
des x tels que h
n
(x) , h(x), qui est de mesure nulle), cela permet de conclure.
Lemme II.1.41. Si (g
n
)
nN
est une suite dlments de Esc(R
m
), telle que

nN
_
[g
n
[ < +, alors
la srie

nN
g
n
(x) converge absolument p.p.
Dmonstration. Soit C =

nN
_
[g
n
[. Si M R
+
, soit X
M,n
lensemble des x R
m
tel que

kn
[g
k
(x)[ M. Alors X
M,n
est une suite croissante de dallages, et on a
M(X
M,n
)
_
X
M,n

kn
[g
k
[
_

kn
[g
k
[ =

kn
_
[g
k
[ C,
quel que soit n N. On en dduit que
+
(
nN
X
M,n
) M
1
C, et comme lensemble A des x R
m
tels
que

nN
[g
n
(x)[ = + est lintersection des X
M,n
, pour M R
+
, on a
+
(A) M
1
C quel que soit
M R
+
. Ceci implique que A est de mesure nulle, et permet de conclure.
Lemme II.1.42. Si (h
k
)
kN
est une suite croissante dlments de Mes(D, [0, M]), alors la limite h
de la suite (h
k
)
kN
est mesurable, et
_
h = lim
_
h
k
= sup
_
h
k
.
II.1. INTGRALE DE LEBESGUE 39
Dmonstration. La suite
_
h
k
est croissante et majore par M(D) ; elle admet donc une limite nie,
et, quitte extraire une sous-suite, on peut supposer que
_
h
k
2
k
, quel que soit k N.
Maintenant, comme h
k
est suppose mesurable, il existe une suite de fonctions en escalier f
k,
tendant
vers h
k
p.p. Comme h
k
est support dans D et valeurs dans [0, M], on peut, quitte remplacer f
k,
par
la fonction valant 0 si x / D, ou si Re(f
k,
(x)) 0, valant Re(f
k,
(x)) si Re(f
k,
(x)) [0, M] et x D,
et valant M si Re(f
k,
(x)) M et x D, supposer que f
k,
Esc(D, [0, M]). Daprs la prop. II.1.31,
lim
+
_
[h
k
f
k,
[ = 0 ; il existe donc (k) tel que, si on pose f
k
= f
k,(k)
, alors
_
[f
k
h
k
[ 2
k
. On
a donc
_
[f
k+1
f
k
[
_
[f
k+1
h
k+1
[ +
_
[h
k+1
h
k
[ +
_
[h
k
f
k
[ 3 2
k
,
et comme

kN
3 2
k
< +, le lemme II.1.41 montre que f
k
(x) a une limite simple f(x) p.p. La
fonction f est alors mesurable comme limite simple p.p. de fonctions en escalier, et
_
f
k

_
f daprs la
prop. II.1.31. Comme
_
f
k
et
_
h
k
ont mme limite, il sut, pour terminer la dmonstration, de prouver
que f = h p.p. Or f h est la limite p.p. de f
k
h
k
et
_
[f
k
h
k
[ 0 par construction, ce qui permet
dutiliser le lemme II.1.40 pour conclure.
6.4. Limites simples p.p. de fonctions mesurables
Le but de cet alina est de dmontrer la prop. II.1.13 selon laquelle une limite simple p.p. de fonctions
mesurables est mesurable. Le lemme ci-dessous nous permet de nous ramener au cas o toutes les fonctions
considres sont positives.
Lemme II.1.43. (i) f : R
m
C est mesurable si et seulement si les fonctions Re
+
(f), Re
+
(f),
Re
+
(if) et Re
+
(if) sont mesurables.
(ii) Une fonction positive est mesurable si et seulement si elle est limite simple p.p. de fonctions en
escalier positives.
Dmonstration. Cela suit de ce que Re
+
(g) est en escalier, si g est en escalier et de ce que Re
+
est
continue.
Lemme II.1.44. Soit f une fonction positive sur R
m
, et si j N, soit D
j
le dallage de sommets
(2
j
, . . . , 2
j
).
(i) Si 1
D
j
f est mesurable pour tout j N, alors f est mesurable.
(ii) Si 1
D
j
inf(f, N) est mesurable pour tous j, N N, alors f est mesurable.
Dmonstration. (i) Soit (f
j,k
)
kN
, si j N, une suite de fonctions en escalier tendant vers 1
D
j
f p.p.
Soit g
k
la fonction en escalier, nulle en dehors de D
k
et gale f
j,k
sur D
j
D
j1
, si j k. On a donc
g
k
(x) = f
j,k
(x) si x D
j
D
j1
et k j, ce qui permet de prouver que g
k
tend vers f p.p. On en dduit
le (i).
(ii) Pour dmontrer le (ii), compte tenu du (i), on peut supposer que f est support dans D
j
, et donc
que 1
D
j
inf(f, N) = inf(f, N). Soit (f
N,k
)
kN
, si N N, une suite de fonctions en escalier tendant vers
inf(f, N) p.p. Soit g
k
la fonction en escalier valant f
1,k
si f
1,k
< 1, f
2,k
si f
1,k
= 1 et f
2,k
< 2, f
3,k
si
f
1,k
= 1, f
2,k
= 2 et f
3,k
< 3, . . ., et valant k si f
i,k
= i quel que soit i k. Soit A
N
lensemble des points
tels que f
N,k
ne tende pas vers inf(f, N), et soit A =
NN
A
N
. Alors A est un ensemble de mesure nulle
comme runion dnombrable densembles de mesure nulle, et si x / A, on a g
k
(x) = f
i,k
(x), si k est assez
grand et f(x) ]i 1, i[, et g
k
(x) f
i,k
(x), f
i1,k
(x), si k est assez grand et f(x) = i. On en dduit
que g
k
(x) tend vers f(x) si x / A, ce qui permet de conclure.
Passons la dmonstration de la prop. II.1.13. Soit donc (
k
) une suite de fonctions mesurables
positives ayant une limite p.p. Pour montrer que est mesurable, il sut, daprs le lemme II.1.44 de
40 CHAPITRE II. INTGRATION
montrer que 1
D
j
(sup(, N)) est mesurable, quels que soient j, N N. Comme 1
D
j
(sup(, N)) est la limite
p.p. de 1
D
j
(sup(
k
, N)), on peut supposer que et les
k
sont support dans D
j
et valeurs dans [0, N].
Or on a dmontr (lemme II.1.42) quune suite croissante dlments h
n
de Mes(D
j
, [0, N]) est mesu-
rable ; il en est de mme pour une suite dcroissante comme on le voit en remplaant h
n
par N h
n
.
Comme
k
p.p., est aussi la limite infrieure de
k
et donc est mesurable en tant que limite p.p.
de la suite croissante g
k
= inf
k

, o chaque g
k
est mesurable comme limite de la suite dcroissante
g
k,n
= inf
kn

. Ceci permet de conclure.


6.5. Le thorme de convergence monotone
Thorme II.1.45. Si (f
n
)
nN
est une suite croissante de fonctions mesurables positives sur R
m
,
alors lim
n+
_
f
n
=
_
lim
n+
f
n
.
Dmonstration. Notons f la limite de la suite f
n
; cest un lment de Mes(R
m
, R
+
). Si n, N N, soit
a
n,N
=
_
D
N
inf(f
n
, N). Par dnition, on a
_
f
n
= lim
N+
a
n,N
, et donc
_
f
n
= sup
NN
a
n,N
puisque la
suite est croissante. Par ailleurs, comme f
n
f p.p., cela implique que inf(f
n
, N) inf(f, N) p.p. sur D
N
,
et comme la suite inf(f
n
, N) est croissante, il rsulte du lemme II.1.42 que
_
D
N
inf(f, N) = sup
nN
a
n,N
.
On a donc
_
f = sup
NN
(sup
nN
a
n,N
) = sup
(n,N)NN
a
n,N
= sup
nN
( sup
NN
a
n,N
) = sup
nN
_
f
n
,
et comme la suite (
_
f
n
)
nN
est croissante, on a aussi sup
nN
_
f
n
= lim
n+
_
f
n
, ce qui permet de
conclure.
II.2. Applications de lintgrale de Lebesgue
1. Intgrales dpendant dun paramtre
De nombreuses fonctions sont dnies comme intgrales de fonctions plus simples
(12)
, et
le thorme de convergence domine permet, bien souvent, de dmontrer leur continuit
et leur drivabilit.
Thorme II.2.1. (Continuit dune intgrale dpendant dun paramtre) Soit X un
espace mtrique, et soit x
0
X. Soit f : X R
m
C vriant :
la fonction t f(x, t) est mesurable, quel que soit x X;
pour presque tout t R
m
, la fonction x f(x, t) est continue en x
0
;
il existe h L
1
(R
m
) tel que, quel que soit x X, on ait [f(x, t)[ h(t) p.p.
Alors, si x X, lintgrale
_
R
m
f(x, t) dt est bien dnie et la fonction F : X C dnie
par F(x) =
_
R
m
f(x, t) dt est continue en x
0
.
Dmonstration. La fonction t f(x, t) appartient L
1
, quel que soit x X, puisquon
la suppose mesurable et majore en module par un lment de L
1
(R
m
). La fonction
F est donc bien dnie. Pour montrer que F est continue en x
0
, il sut (car X est un
(12)
Cest par exemple le cas de la fonction dEuler dnie par (s) =
_
R
+
e
t
t
s dt
t
, ou de la transforme
de Fourier

f dune fonction sommable f dnie (en une variable) par

f(x) =
_
R
e
2ixt
f(t) dt.
II.2. APPLICATIONS DE LINTGRALE DE LEBESGUE 41
espace mtrique) de prouver que pour toute suite (y
n
)
nN
convergeant vers x
0
, la suite
(F(y
n
))
nN
tend vers F(x
0
), cest--dire
lim
n+
_
R
m
f(y
n
, t) dt =
_
R
m
f(x
0
, t) dt.
Posons g
n
(t) = f(y
n
, t), et g(t) = g(x
0
, t). On a alors
lim
n+
g
n
(t) = g(t) p.p., car x f(x, t) est continue en x
0
, pour presque tout
t R
m
;
[g
n
(t)[ h(t), si t nappartient pas
nN
t, [f(y
n
, t)[ > h(t), qui est un ensemble
de mesure nulle comme runion dnombrable densembles de mesure nulle.
On est donc dans les conditions dapplication du thorme de convergence domine, et
lim
n+
_
R
m
g
n
(t) dt =
_
R
m
g(t) dt, ce qui permet de conclure.
Thorme II.2.2. (de drivation sous le signe somme) Soient I un intervalle de R et
f : I R
m
C vriant :
t f(x, t) est sommable, quel que soit x I ;
il existe un ensemble de mesure nulle A R
m
et h : R
m
R
+
sommable, tels que
f
x
(x, t) existe en tout point de R
m
A et [
f
x
(x, t)[ h(t), quels que soient
(13)
x I et
t / A.
Alors la fonction F dnie sur I par F(x) =
_
R
m
f(x, t) dt est drivable et, quel que soit
x I, on a
F
t
(x) =
_
R
m
f
x
(x, t) dt.
Dmonstration. Quitte remplacer f par la fonction valant f(x, t), si t / A, et valant 0,
si t A, ce qui ne change pas la valeur des intgrales, on peut supposer que A = .
Fixons x I. Soit (x
n
)
nN
une suite dlments de I x tendant vers x quand n tend
vers +. Soit g(t) =
f
x
(x, t), et si n N, soit g
n
(t) =
f(x
n
,t)f(x,t)
x
n
x
. Alors g
n
tend vers g
simplement, et daprs le thorme des accroissement nis, on a
[g
n
(t)[ sup
01

f
x
(x + (x
n
x), t)

h(t),
quel que soit t R
m
. On est donc dans les conditions dapplication du thorme de
convergence domine, et lim
n+
_
R
m
g
n
=
_
R
m
g. Autrement dit, on a
lim
n+
F(x
n
) F(x)
x
n
x
=
_
R
m
f
x
(x, t) dt,
(13)
La drivabilit tant une proprit locale, pour dmontrer la drivabilit sur un intervalle I, il sut
de la dmontrer sur une suite dintervalles dont la runion est I. En dautre termes, on na pas vraiment
besoin dune majoration sur I tout entier, mais sur une suite dintervalles dont la runion est I. Cette
remarque sapplique aussi au cor. II.2.3 pour lequel on peut aussi commencer par diminuer .
42 CHAPITRE II. INTGRATION
pour toute suite (x
n
)
nN
dlments de I x tendant vers x quand n tend vers +.
On en dduit le rsultat.
Si = (
1
, . . . ,
n
) N
n
, on pose [[ =
1
+ +
n
, et

= (

x
1
)
k
1
(

x
n
)
k
n
.
Corollaire II.2.3. Soient un ouvert de R
n
, k N et f : R
m
C vriant :
t f(x, t) est sommable, quel que soit x ;
il existe un ensemble de mesure nulle A R
m
et h : R
m
R
+
sommable, tels que,
si t R
m
A, la fonction x f(x, t) est de classe C
k
sur , et [

f(x, t)[ h(t), quels


que soient x , N
n
, avec [[ k, et t / A.
Alors la fonction F dnie sur par F(x) =
_
R
m
f(x, t) dt est de classe C
k
et, quels
que soient N
n
, avec [[ k, et x , on a

F(x) =
_
R
m

f(x, t) dt.
Dmonstration. Cela se dduit du thorme de drivation sous le signe somme par une
rcurrence immdiate.
Exercice II.2.4. Soit I =]0, 1[, et soit f : I R R dnie par f(x, t) = 0 si t 0 ou
si t x, et f(x, t) = 1 si 0 < t < x. Calculer explicitement F(x) =
_
R
f(x, t) dt et F
t
(x).
Expliquer pourquoi le thorme de drivation sous le signe somme ne permet pas den
dduire 1 = 0. A quel endroit cela intervient-il dans la dmonstration du dit thorme ?
Exercice II.2.5. (Fonction dEuler)
(i) Montrer que lintgrale (s) =
_
+
0
e
t
t
s dt
t
est bien dnie si s R

+
.
(ii) Montrer que est de classe C

sur R

+
et tend vers + en s = 0.
(iii) Montrer que (s + 1) = s(s) si s > 0 ; en dduire que (n + 1) = n!, si n N.
(iv) Formule de Stirling : montrer que (s + 1) (
s
e
)
s

2s au voisinage de +. On
fera le changement de variable t = s + u

s, et on montrera que
u

s + s log(1 +
u

s
)
_

u
2
2
si

s < u 0,
u + log(1 + u) si u 0 et s 1.
(v) En dduire la formule de Gauss :
1
(s)
= lim
n+
s(s+1)(s+n)
n!n
s
, si s R

+
.
Exercice II.2.6. (i) Montrer que lintgrale
_
+
0
sin t
t
dt est semi-convergente (cest--
dire que
sin t
t
est sommable sur [0, T], pour tout T, et que
_
T
0
sin t
t
dt a une limite quand
T +).
(ii) On dnit F() pour R
+
, par F() =
_
+
0
e
t sin t
t
dt. Montrer que F est de
classe C
1
sur R

+
et calculer F
t
().
(iii) Montrer que F tend vers 0 en +; en dduire F(), pour > 0.
(iv) Montrer que F est continue en 0 ; en dduire la valeur de
_
+
0
sin t
t
dt.
II.2. APPLICATIONS DE LINTGRALE DE LEBESGUE 43
2. Intgrales multiples
Si on a une somme nie

j,k
a
j,k
, on peut calculer la somme en commenant par sommer
sur j puis sur k ou bien on peut commencer par sommer sur k puis sur j. Le thorme de
Fubini ci-dessous dit quil en est de mme pour des intgrales ( condition que tout soit
sommable).
Lemme II.2.7. (Fubini pour les fonctions en escalier) Lapplication f
_
R
n
f (resp.
f
_
R
m
f) est une application linaire de Esc(R
n+m
) dans Esc(R
m
) (resp. Esc(R
n
)), et
on a
_
R
m

_
R
n
f

_
R
n+m
[f[ et
_
R
n

_
R
m
f

_
R
n+m
[f[
_
R
m
_
_
R
n
f
_
=
_
R
n+m
f =
_
R
n
_
_
R
m
f
_
.
Dmonstration. La linarit est une consquence de la linarit de lintgrale. Mainte-
nant, soit r N, et soient j = (j
1
, . . . , j
n
) Z
n
et k = (k
1
, . . . , k
m
) Z
m
. On note (j, k)
llment (j
1
, . . . , j
n
, k
1
, . . . , k
m
) de Z
n+m
. Un calcul immdiat montre alors que
_
R
n
e
r,(j,k)
= 2
rn
e
r,k
,
_
R
m
e
r,(j,k)
= 2
rm
e
r,j
,
_
R
m
_
_
R
n
e
r,(j,k)
) = 2
rn
_
R
m
e
r,k
= 2
r(n+m)
=
_
R
n+m
e
r,(j,k)
=
_
R
n
_
_
R
m
e
r,(j,k)
).
Il nest pas trs dicile den dduire le rsultat en dcomposant f sous la forme f =

(j,k)
a
(j,k)
e
r,(j,k)
, pour r assez grand (la somme tant une somme nie).
Thorme II.2.8. (Fubini)
(i) Si f L
1
(R
n+m
), alors f(, y) L
1
(R
m
) p.p (resp. f(x, ) L
1
(R
n
) p.p) et
y
_
R
n
f(x, y)dx L
1
(R
m
) (resp. x
_
R
m
f(x, y)dy L
1
(R
n
)). De plus,
_
R
m
_
_
R
n
f(x, y) dx
_
dy =
_
R
n+m
f(x, y) dx dy =
_
R
n
_
_
R
m
f(x, y) dy
_
dx.
(ii) Si f : R
n+m
R
+
est mesurable, alors les fonctions
y
_
R
n
f(x, y)dx et x
_
R
m
f(x, y)dy,
valeurs dans R
+
, sont mesurables, et
_
R
m
_
_
R
n
f(x, y) dx
_
dy =
_
R
n+m
f(x, y) dx dy =
_
R
n
_
_
R
m
f(x, y) dy
_
dx.
Remarque II.2.9. Si X R
n
et Y R
m
sont mesurables, alors X Y est mesurable
dans R
n+m
, et on a un nonc analogue celui ci-dessus, en remplaant R
n
par X, R
m
par Y et R
n+m
par X Y. Il se dduit de celui sur R
n+m
en crivant une intgrale sur
X Y sous la forme
_
R
n+m
1
XY
.
44 CHAPITRE II. INTGRATION
Dmonstration. Soit (f
k
)
kN
une suite dlments de Esc(R
n+m
), tendant vers f dans L
1
(R
n+m
),
et telle que

kN
|f
k+1
f
k
|
1
< +. Il rsulte du lemme II.2.7 que la srie

kN
_
R
n
(f
k+1
f
k
)
est termes dans Esc(R
m
), converge normalement dans L
1
(R
m
), et que, si on note g L
1
(R
m
), la
limite, alors
_
R
n
g =
_
R
n+m
f. Le problme est donc de montrer que, pour y en dehors dun ensemble B
de mesure nulle, la fonction x f(x, y) appartient L
1
(R
n
), et g(y) =
_
R
n
f(x, y) dx. Nous aurons
besoin du lemme suivant.
Lemme II.2.10. Si A R
n+m
est de mesure nulle, alors les ensembles A
1
et A
2
dnis par
A
1
= x R
n
, A (x R
m
) nest pas de mesure nulle,
A
2
= y R
m
, A (R
n
y) nest pas de mesure nulle,
sont de mesure nulle dans R
n
et R
m
respectivement.
Dmonstration. Par symtrie (entre n et m), il sut de le prouver pour A
1
. Soit > 0. Comme
A est de mesure nulle, on peut trouver une suite (D
k
)
kN
de dalles de R
n
, et une suite (E
k
)
kN
de
dalles de R
m
, telles que A
kN
D
k
E
k
, et

kN
(D
k
)(E
k
) . Si r N et j N, soit B
,r,j
lensemble des x R
n
tels que

kj, xD
k
(E
k
) > 2
r
; cest un dallage de R
n
, et on a 2
r
(B
,r,j
)

kj
(D
k
)(E
k
) . De plus, la suite des (B
,r,j
)
jN
est une suite croissante de dallages nis, et donc

+
(
jN
B
,r,j
) = lim
j+
(B
,r,j
) 2
r
. Or lensemble B
r
des x R
n
tel que
+
(A(x R
m
)) >
2
r
est inclus dans
jN
B
,r,j
, quel que soit > 0 ; cest donc un ensemble de mesure nulle puisque de
mesure extrieure 2
r
quel que soit > 0. Finalement, A
1
=
rN
B
r
est de mesure nulle, en tant que
runion dnombrable densembles de mesures nulles.
Revenons la dmonstration du thorme de Fubini. Comme

kN
|f
k+1
f
k
|
1
< +, il rsulte du
cor II.1.21, que la srie

kN
f
k+1
(x, y) f
k
(x, y) converge absolument vers f(x, y) pour tout (x, y) en
dehors dun ensemble de mesure nulle A. Par ailleurs, daprs le lemme II.2.10, il existe un sous-ensemble
de mesure nulle B
1
de R
m
tel que, si y / B
1
, alors A(R
n
y) est de mesure nulle dans R
n
. Si y / B
1
,
on a donc f
k
(x, y) f(x, y) pour x en dehors dun ensemble de mesure nulle.
De mme, comme

kN
_
R
n
(f
k+1
f
k
) dx converge normalement dans L
1
(R
m
) vers g, il existe
B
2
R
m
tel que, si y / B
2
, alors
_
R
n
f
k
(x, y) dx g(y).
Maintenant, en appliquant Fubini pour les fonctions en escalier u
k
= [f
k+1
f
k
[, puis deux fois de
suite le thorme de convergence monotone, on obtient :

kN
_
R
n+m
[u
k
(x, y)[ dxdy =

kN
_
R
m
_
_
R
n
[u
k
(x, y)[ dx
_
dy
=
_
R
m
_

kN
_
R
n
[u
k
(x, y)[ dx
_
dy
=
_
R
m
_
_
R
n

kN
[u
k
(x, y)[ dx
_
dy.
Comme on a fait lhypothse que

kN
_
R
n+m
[u
k
(x, y)[ dxdy < +, lensemble B
3
des y R
m
tels que
_
R
n

kN
[u
k
(x, y)[ dx = + est de mesure nulle. Si y / B
3
, la fonction h
y
(x) =

kN
[u
k
(x, y)[ est
donc sommable, et comme f
k
=

k1
j=0
u
k
, on a [f
k
(x, y)[ h
y
(x) quel que soit k N.
Si B = B
1
B
2
B
3
, et si y / B, on est dans les conditions dapplication du thorme de convergence
domine, et donc
g(y) = lim
k+
_
R
n
f
k
(x, y) dx =
_
R
n
_
lim
k+
f
k
(x, y)
_
dx =
_
R
n
f(x, y) dx.
Ceci permet de terminer la dmonstration du (i).
II.2. APPLICATIONS DE LINTGRALE DE LEBESGUE 45
Le (ii) est une consquence du (i) sauf si
_
R
n+m
f(x, y) dxdy = +. Mais, dans ce cas, il sut
de prendre une suite (f
k
)
kN
dlments de L
1
tendant vers f en croissant, de constater que les trois
membres de lidentit dpendent de manire croissante de f, et dutiliser le thorme de convergence
monotone pour montrer que lim
k+
_
R
n+m
f
k
(x, y) dxdy = +, et en dduire que les trois membres
sont gaux +. Ceci permet de conclure.
Exercice II.2.11. Soit f : R
+
R
+
R dnie par f(x, y) = e
xy
si x y, et
f(x, y) = e
yx
, si y < x. Calculer
_
+
0
_
_
+
0
f(x, y) dx
_
dy et
_
+
0
_
_
+
0
f(x, y) dy
_
dx.
Peut-on en dduire que 1 = 1 ?
3. La formule du changement de variable
Soit un ouvert de R
m
, et soit : () un diomorphisme de sur un ouvert
() de R
m
, cest--dire une application bijective de classe C
1
dont linverse est aussi de
classe C
1
. Lapplication scrit, en coordonnes
(x) =
_

1
(x
1
, . . . , x
m
), . . . ,
m
(x
1
, . . . , x
m
)
_
,
et la condition est de classe C
1
se traduit par le fait que les drives partielles

i
x
j
sont
continues sur . On dnit la matrice jacobienne Jac

(x) de f au point x par Jac

(x) =
(

i
x
j
(x))
1i,jm
. On dnit le jacobien J

(x) de au point x comme le dterminant de


Jac

(x) ; le fait que soit un diomorphisme implique que Jac

(x) est inversible, et donc


que J

(x) ,= 0, pour tout x .


Thorme II.2.12. Si f est une fonction mesurable sur (), alors f est sommable
si et seulement si la fonction x f((x)) J

(x) est sommable sur , et on a


_
()
f(y) dy =
_

f((x)) [J

(x)[ dx.
Remarque II.2.13. En dimension 1, la matrice jacobienne de nest autre que la dri-
ve
t
de , et on tombe sur la formule
_
(]a,b[)
f(y) dy =
_
]a,b[
f((x))[
t
(x)[ dx. Comme

t
ne sannule pas sur ]a, b[, il y a deux cas : soit
t
> 0 sur ]a, b[ et (]a, b[) =](a), (b)[,
soit
t
< 0 sur ]a, b[ et (]a, b[) =](b), (a)[. Dans le premier cas, la formule de-
vient
_
(b)
(a)
f(y) dy =
_
b
a
f((x))
t
(x) dx, et dans le second, elle devient
_
(b)
(a)
f(y) dy =

_
b
a
f((x))
t
(x) dx; on retombe donc bien, dans les deux cas, sur la formule classique.
Dmonstration. Commenons par regarder ce qui se passe dans le cas = R
m
et
ane (i.e. de la forme x A x + b, avec A GL
m
(R), et b R
m
). Dans ce cas, la
matrice jacobienne de est constante gale A; on a donc J

(x) = [ det A[ pour tout x.


46 CHAPITRE II. INTGRATION
Par ailleurs, si r N et si k Z
m
, alors (D
r,k
) est un translat de (D
r,0
) et donc a
mme volume
(14)
. On en dduit lexistence de C(A) R

+
tel que ((D
r,k
)) = 2
r
C(A),
quels que soient r Net k Z
m
. Par linarit on a
_
R
m
(x) dx = C(A)
_
R
m
(Ax+b) dx,
quel que soit Esc(R
m
). Par continuit, cette galit stend L
1
(R
m
). Pour conclure
dans le cas ane, il reste vrier que C(A) = [ det A[, ce qui constitue linterprtation
gomtrique du dterminant
(15)
, et fait lobjet de lexercice II.2.14 dans la note ci-dessous.
On dmontre le cas gnral en utilisant le fait que, plus on regarde de prs autour
dun point x, plus ressemble lapplication ane h (x) + Jac

(x) h, et donc que


quand r tend vers +, limage de x + D
r,0
ressemble de plus en plus au paralllpipde
(x) + Jac

(x) D
r,0
, dont le volume est [J

(x)[(D
r,0
).
De manire plus prcise, on dmontre, en utilisant la continuit uniforme de x Jac

(x) (et de
x Jac

1(x)), que si K est compact, il existe une suite de fonctions


K,r
: K R
+
, pour r assez
grand, tendant uniformment vers 0 sur K, telle que, quel que soit x K, on ait
(x) + (1
K,r
(x))Jac

(x) D
r,0
(x + D
r,0
) (x) + (1 +
K,r
(x))Jac

(x) D
r,0
.
On en dduit lexistence de

K,r
, tendant uniformment vers 0 sur K, telle que, quel que soit x K, on
ait ((x + D
r,0
)) = (1 +

K,r
(x))[J

(x)[(x + D
r,0
). Maintenant, on peut crire comme une runion
croissante de dallages D
n
dont ladhrence est contenue dans , et il sut de prouver que la formule du
thorme est valable pour une fonction en escalier f support dans un des D
n
, car ces fonctions forment
un sous-espace dense dans L
1
(). Par linarit, on est ramen prouver que ((D)) =
_
D
[J

(x)[ dx, si
D est une dalle lmentaire dont ladhrence K est incluse dans . Si r est assez grand, D est la runion
disjointe des D
r,k
contenues dans D, et comme D
r,k
=
k
2
r
+D
r,0
, on tire de la discussion ci-dessus lidentit
((D)) =

D
r,k
D
((
k
2
r
+ D
r,0
)) =

D
r,k
D
(1 +

K,r
(
k
2
r
))[J

(
k
2
r
)[(D
r,k
) =
_
D

r
(x) dx,
(14)
Si on translate par un lment de R
m
dont toutes les coordonnes sont des nombres dyadiques, on
dmontre directement, en revenant la dnition, que les deux ensembles ont mme mesure extrieure, et
donc aussi mme mesure, daprs la prop. II.1.17. On en dduit le cas gnral en utilisant le thorme de
convergence domine en prenant une suite (v
n
)
nN
dlments de R
m
coordonnes dyadiques tendant
vers le vecteur v de la translation : la suite des fonctions caractristiques de v
n
+(D
r,0
) tend simplement
vers la fonction caractristique de v +(D
r,0
) en dehors des faces, mais celles-ci sont de mesure nulle ((ii)
de lex. II.1.6, par exemple)
(15)
Le volume du paralllpipde support par des vecteurs v
1
, . . . , v
m
de R
m
est gal la valeur absolue
du dterminant de ces vecteurs.
Exercice II.2.14. (i) Prouver que C(AB) = C(A)C(B), quels que soient A, B GL
m
(R).
(ii) Montrer que C(A) = [ det A[ si A est une matrice diagonale ou une matrice de permutation (i.e. si
x A x induit une permutation des vecteurs de la base canonique de R
m
).
(iii) Montrer que toute matrice unipotente suprieure ou infrieure (i.e. triangulaire avec des 1 sur la
diagonale) peut scrire sous la forme DUD
1
U
1
, avec D diagonale, et U unipotente suprieure ou
infrieure. En dduire que C(A) = 1 si U est unipotente infrieure ou suprieure.
(iv) En utilisant la mthode du pivot, montrer que GL
m
(R) est engendr par les matrices diagonales, les
unipotentes infrieures et suprieures et les matrices de permutation.
(v) En dduire que C(A) = [ det A[ quel que soit A GL
m
(R).
II.3. EXERCICES 47
o
r
est la fonction en escalier sur D valant (1 +

K,r
(
k
2
r
))[J

(
k
2
r
)[, sur D
r,k
. Comme

K,r
, tend unifor-
mment vers 0 sur K,
r
tend uniformment vers [J

(x)[ sur D. On en dduit le rsultat.


II.3. Exercices
Exercice II.3.1. (Convolution de deux fonctions sommables) Soient f, g L
1
(R
m
).
(i) Montrer que
_ _
[f(x y)g(y)[ = |f|
1
|g|
1
.
(ii) En dduire que, pour presque tout x la fonction y f(x y)g(y) est sommable et
que f g dnie p.p. par f g(x) =
_
f(x y)g(y) dy est elle aussi sommable.
(iii) Montrer que (f, g) f g induit une application bilinaire continue de L
1
(R
m
)
L
1
(R
m
) dans L
1
(R
m
), et que lon a f g = g f et f (g h) = (f g) h, si
f, g, h L
1
(R
m
).
(iv) Montrer que, si k N, et si g est C
k
support compact, alors f g est C
k
.
Exercice II.3.2. (Volume de la boule unit de R
m
)
Soit m 1. On munit R
m
de la norme euclidienne standard | |. Si R
+
, soit B()
la boule unit ferme de centre 0 et de rayon . On note C
m
le volume de B(1).
(i) Montrer que (B()) = C
m

m
, si R
+
.
(ii) Soit
r
=

2
r
k=1
(
k
2
r
)
1m
1
B(
k
2
r
)B(
k1
2
r
)
. Montrer que
_
R
m

r

_
B(1)
|x|
1m
dx.
(iii) En dduire que
_
B(1)
|x|
1m
dx = mC
m
.
(iv) Montrer que, si Esc(R
+
), alors mC
m
_
R
+
(t) dt =
_
R
m
|x|
1m
(|x|) dx.
En dduire que L
1
(R
+
) si et seulement si |x|
1m
(|x|) L
1
(R
m
), et que lon a
mC
m
_
R
+
(t) dt =
_
R
m
|x|
1m
(|x|) dx, quel que soit L
1
(R
m
).
(v) Soit s R. Montrer que
_
|x|1
|x|
s
< + si et seulement si s > m et que
_
|x|1
|x|
s
< + si et seulement si s < m.
(vi) En appliquant ce qui prcde la fonction t
m1
e
t
2
, et en utilisant la dnition
de = C
2
, en dduire la valeur de
_
R
e
x
2
dx, et montrer que C
m
=

m/2
(1+
m
2
)
.
Exercice II.3.3. Soit N N 0, et soit : R
2
R
2
lapplication dduite de
z z
N
de C dans C, en identiant R
2
C. On rappelle par anticipation (cf. (i) de la
rem. IV.1.10) que le jacobien de en z
0
C est [Nz
N1
0
[
2
. Montrer que, si f est sommable
sur R
2
, alors
_
R
2
f(u, v) dudv = N
_
R
2
f((x, y))(x
2
+ y
2
)
N1
dx dy.
CHAPITRE III
TRANSFORME DE FOURIER
La reprsentation dune fonction priodique comme somme dune srie de Fourier (n
o
6
du I.2) est un outil trs ecace pour la rsolution de certaines quations aux drives
partielles. La formule dinversion de Fourier, qui permet dcrire une fonction raisonnable
sur R
m
comme somme continue de caractres linaires unitaires
(1)
continus, rend le mme
genre de services
(2)
pour des quations aux drives partielles sur R
m
. Cette boite
outils de Fourier sadapte tout groupe commutatif localement compact ; nous en
verrons des illustrations dans le cadre des groupes nis (n
o
5 du VII.2), de Q
p
ou du
groupe des adles de Q (cf. n
o
2 du C.2).
III.1. Quelques espaces fonctionnels
1. Lespace L
1
(X)
Dans tout ce qui suit, X est un sous-ensemble mesurable de R
m
. Lespace L
1
(X) muni
de la semi-norme | |
1
nest pas spar puisque deux fonctions dirant dune fonction nulle
presque partout sont distance nulle. On note L
1
(X) le spar (cf. alina 2.2 du D.3)
de L
1
(X). Comme |f|
1
= 0 si et seulement si f = 0 p.p., L
1
(X) est le quotient de L
1
(X)
par le sous-espace Npp(X) des fonctions nulles presque partout ; on peut donc penser
L
1
(X) comme tant lespace L
1
(X) des fonctions sommables, en considrant comme
gales deux fonctions qui sont gales presque partout
(3)
.
(1)
Un caractre linaire de R
m
est une fonction : R
m
C

vriant (x + y) = (x)(y), quels que


soient x, y R
m
; un tel caractre est unitaire si [(x)[ = 1, quel que soit x R
m
.
(2)
Cf. cours de F. Golse et I. Gallagher en seconde anne.
(3)
Cette reprsentation mentale de L
1
(X) est probablement la plus facile dutilisation ; il faut quand mme
faire attention quun lment de L
1
(X) a beau tre dni presque partout, il na de valeur prcise en aucun
point puisquon peut modier arbitrairement sa valeur sur un ensemble de mesure nulle. Autrement dit,
on peut parler de f(x), o x est pens comme une variable (par exemple pour les changements de variable
dans les intgrales, ou pour dnir le produit dune fonction de L
1
(X) et dune fonction borne), mais
pas de f(x
0
).
50 CHAPITRE III. TRANSFORME DE FOURIER
Remarque III.1.1. Lintgrale f
_
f est bien dnie sur L
1
(X) car
_
(f g) = 0 si
f = g p.p. (cf. (iv) de la rem. II.1.16). De plus, f
_
f, qui est linaire puisquelle lest
sur L
1
(X), est continue car [
_
f[
_
[f[ = |f|
1
.
Thorme III.1.2. Lespace L
1
(X) est un espace de Banach.
Dmonstration. On sest dbrouill pour que | |
1
soit une norme sur L
1
(X) ; il sut
donc de prouver que L
1
(X) est complet. Soit donc (u
n
)
nN
une suite dlments de L
1
(X),
telle que

nN
|u
n
|
1
< +. Daprs le cor. II.1.21 (et sa dmonstration), il existe A
de mesure nulle tel que, si t / A, alors h(t) =

nN
[u
n
(t)[ < +, et si on prolonge h
par 0 A, alors
_
h < +. Soit S la fonction dnie par S(t) =

nN
u
n
(t), si t / A,
et S(t) = 0 si t A. Si N N, soit S
N
=

nN
u
n
la somme partielle de la srie. On
a [S
N
(t)[ h(t) quels que soient t / A et N N, et donc [S(t)[ h(t), quel que soit
t / A. On en dduit le fait que S est sommable. De plus, on a [S
N
S[ 2h en dehors
de A et [S
N
(t) S(t)[ 0, si t / A. Comme A est de mesure nulle, on est dans les
conditions dapplication du thorme de convergence domine, ce qui permet de montrer
que
_
[S
N
S[ 0, et permet de conclure au fait que S
N
admet S comme limite dans
L
1
(X). Autrement dit la srie

nN
u
n
converge dans L
1
(X). On en dduit le rsultat.
Corollaire III.1.3. Si (f
n
)
nN
est une suite dlments de L
1
(X) tendant vers f
dans L
1
(X), alors on peut extraire de la suite (f
n
)
nN
une sous-suite convergeant p.p.
vers f.
Dmonstration. Extrayons de (f
n
)
nN
une sous-suite (g
n
)
nN
telle que |f g
n
|
1
2
n
,
quel que soit n N. Soit u
n
= g
n
g
n1
, si n 1, et u
0
= g
0
. Alors |u
n
|
1
|g
n
f|
1
+
|g
n1
f|
1
2
1n
, et donc

nN
|u
n
|
1
< +. Daprs la dmonstration du th. III.1.2,
la srie

nN
u
n
(x) converge presque partout, la limite presque partout g appartient
L
1
(X), et g
n
=

n
i=0
u
i
tend vers g dans L
1
(X). Comme g
n
f dans L
1
(X), on en
dduit que f = g p.p., et donc que g
n
tend vers f p.p., ce qui permet de conclure.
Exercice III.1.4. (Fubini dans L
1
) Montrer quil existe une unique application linaire
continue f
_
R
n
f (resp. f
_
R
m
f) de L
1
(R
n+m
) dans L
1
(R
m
) (resp. L
1
(R
n
)) conci-
dant avec lapplication du mme nom sur Esc(R
n+m
), et que lon a
_
R
m
_
_
R
n
f
_
=
_
R
n+m
f =
_
R
n
_
_
R
m
f
_
.
2. Lespace L
2
(X)
Si X est un sous-ensemble mesurable de R
m
, on note L
2
(X) lensemble des f : X C
mesurables et de carr sommable (i.e. telles que
_
X
[f(t)[
2
dt < +). Il est immdiat que
L
2
(X) est stable par multiplication par un scalaire, et un peu moins quil est stable par
addition, mais cela rsulte de lingalit [a +b[
2
2[a[
2
+2[b[
2
, si a, b C dont on dduit
III.1. QUELQUES ESPACES FONCTIONNELS 51
que
_
X
[f + g[
2
(2
_
X
[f[
2
+ 2
_
X
[g[
2
), si f, g Mes(X). Autrement dit, L
2
(X) est un
espace vectoriel.
Maintenant, comme [ab[
1
2
([a[
2
+[b[
2
), si a, b C, on en dduit que, si f, g L
2
(X),
alors fg L
1
(X), ce qui permet de dnir f, g) C par f, g) =
_
X
fg. Lapplication
, ) vrie toutes les proprits dun produit scalaire, sauf celle dtre dnie. En eet,
on a
f, f) = 0
_
X
[f(t)[
2
= 0 f Npp(X).
Autrement dit, lapplication f |f|
2
= f, f)
1/2
dnit une semi-norme hilbertienne
sur L
2
(X). On note L
2
(X) lespace spar associ ; daprs ce qui prcde, cest le quo-
tient de L
2
(X) par Npp(X). Ceci permet, comme pour L
1
(X), de penser L
2
(X) comme
tant lespace L
2
(X) des fonctions de carr sommable, en considrant comme gales deux
fonctions qui sont gales presque partout. Comme f, g) = 0, si f ou g est nulle p.p., la
forme sesquilinaire , ) passe au quotient, et induit un produit scalaire sur L
2
(X), tant
donn quon a fait ce quil fallait pour la rendre dnie.
Thorme III.1.5. (Fischer-Riesz, 1907) Lespace L
2
(X), muni de la norme | |
2
d-
nie par |f|
2
=
_ _
X
[f[
2
_
1/2
, est un espace de Hilbert.
Dmonstration. Daprs la discussion prcdant le thorme, il sut de prouver que
L
2
(X) est complet, et pour cela, il sut de prouver quune srie normalement convergente
a une limite. La dmonstration, trs analogue celle du th. III.1.2, fait lobjet de lexercice
ci-dessous. La convergence dans L
2
(X) est dite en moyenne quadratique.
Exercice III.1.6. Soit (u
n
)
nN
une suite dlments de L
2
(X) telle que

nN
|u
n
|
2
<
+, et soit h : X R
+
dnie par h(t) = (

nN
[u
n
(t)[)
2
.
(i) Montrer que
_
X
h < +. En dduire quil existe A X de mesure nulle tel que, si
t X A, la srie

nN
u
n
(t) converge absolument.
(ii) On note S(t) la somme de la srie

nN
u
n
(t), si t / A, et on prolonge S par 0
A, et, si N N, on note S
N
(t) la somme partielle

nN
u
n
(t). Montrer que [S S
N
[
2
est
major par 4h quel que soit N N.
(iii) Montrer que S L
2
(X) et que S
N
S dans L
2
(X).
(iv) Montrer que, si f
n
f dans L
2
(X), on peut extraire de la suite (f
n
)
nN
une
sous-suite convergeant p.p. vers f.
3. Comparaison entre la convergence dans L
1
et dans L
2
Remarque III.1.7. (i) Les espaces L
1
(X) et L
2
(X) nont a priori rien voir. Toutefois,
comme ils sont tous deux obtenus en prenant le quotient dun sous-espace de Mes(X)
par Npp(X), nous commettrons labus de notations de dsigner par L
1
(X) +L
2
(X) (resp.
L
1
(X) L
2
(X)) le quotient de L
1
(X) + L
2
(X) (resp. L
1
(X) L
2
(X)) par Npp(X).
Autrement dit, nous verrons un lment de L
1
(X) L
2
(X) comme une fonction qui est
52 CHAPITRE III. TRANSFORME DE FOURIER
la fois sommable et de carr sommable, addition prs dune fonction nulle presque
partout.
(ii) Il ny a dinclusion dans aucun sens entre L
1
(R
m
) et L
2
(R
m
). Par contre, si X est
de mesure nie, alors L
2
(X) L
1
(X). En eet, lingalit de Cauchy-Schwarz montre que,
si f est de carr sommable sur X, alors
_
X
[f[
_
_
X
1
_
1/2
_
_
X
[f[
2
_
1/2
< +.
En fait, lingalit ci-dessus montre que linclusion de L
2
(X) dans L
1
(X) est continue, et
que lon a || (X)
1/2
.
Lemme III.1.8. Soit X un ouvert de R
m
.
(i) Soient L
1
(X), et g C(X). On suppose quil existe une suite (
j
)
jN
dlments
de L
1
(X) tendant vers dans L
1
(X), telle que
j
(x) g(x) p.p. Alors g L
1
(X) et g =
p.p.
(ii) On a le mme rsultat en remplaant L
1
(X) par L
2
(X)
Dmonstration. La dmonstration est exactement la mme dans les deux cas. Quitte
extraire une sous-suite de la suite (
j
)
jN
, on peut supposer (cf. cor. III.1.3 et (iv) de
lex. III.1.6) que
j
(x) (x) p.p., ce qui permet de conclure.
Thorme III.1.9. Si X est un ouvert de R
m
, et si E est un des espaces Esc(X),
C
c
(X), C
k
c
(X), avec k N, ou C

c
(X), alors E est dense dans L
1
(X) et L
2
(X). De plus,
si L
1
(X) L
2
(X), il existe une suite dlments de E convergeant vers , la fois
dans L
1
(X) et dans L
2
(X).
Dmonstration. Si D
n
est la runion des dalles lmentaires de taille 2
n
incluses dans
X ([2
n
, 2
n
[
m
), alors X est la runion croissante des dallages D
n
, pour n N. Soit F
un des espaces L
1
(X), L
2
(X) ou L
1
(X) L
2
(X), et soit F (on munit L
1
(X) L
2
(X)
de la norme sup(| |
1
, | |
2
). Si n N, soit
n
la fonction valant (x), si x D
n
et
[
n
(x)[ n, et valant 0 si x / D
n
ou si [(x)[ > n. Alors
n
(x) (x) quel que soit
x X, et comme [
n
[ [[ et [
2
n
[ [
2
[, cela implique que
n
converge vers dans F,
daprs le thorme de convergence domine. On peut donc, si j N, trouver n
j
tel que
|
n
j
|
F
2
j
. Maintenant, comme
n
j
est une fonction mesurable borne support
born, il existe f
j
Esc(D
n
j
) tel que |f
j

n
j
|
F
2
j
. On a donc |f
j
|
F
2
1j
.
On en dduit la densit de Esc(X) dans F, ce qui prouve le thorme pour E = Esc(X).
Le reste sen dduit en utilisant lexistence de fonctions C

sympathiques (cf. exercice


ci-dessous).
Exercice III.1.10. On admet que la fonction
0
dnie par
0
(x) = 0 si x 0 et

0
(x) = e
1/x
si x > 0 est une fonction C

sur R.
(i) A partir de
0
, construire successivement :

1
: R [0, 1], de classe C

sur R, nulle en dehors de [0, 1], avec


_
1
0

1
= 1 ;
III.1. QUELQUES ESPACES FONCTIONNELS 53

2
: R [0, 1], de classe C

sur R, valant 0 si x 0 et 1 ; si x 1 ;

: R [0, 1], nulle en dehors de [0, 1] et valant 1 sur [, 1 ].


(ii) Terminer la dmonstration du thorme III.1.9.
Exercice III.1.11. Montrer que L
1
(X) et L
2
(X) sont sparables, si X est un sous-
ensemble mesurable de R
m
.
Exercice III.1.12. Soit une fonction C

sur R
m
, support dans [1, 1]
m
, valeurs
dans R
+
, et vriant
_
R
m
= 1. Si > 0, soit

dnie par

(x) =
m
(
x

).
(i) Montrer que
_
R
m

= 1, et que

est support dans [, ]


m
.
(ii) Montrer que, si f est une fonction en escalier, alors f

tend simplement vers f


p.p, quand tend vers 0.
(iii) Montrer que, si f est une fonction en escalier, alors f

tend vers f dans L


1
(R
m
),
quand tend vers 0.
(iv) Montrer que, si f L
1
(R
m
), alors f

tend vers f dans L


1
(R
m
), quand tend
vers 0.
(v) Montrer que, si f L
1
(R
m
)+L
2
(R
m
) vrie
_
R
m
f = 0 quel que soit C

c
(R
m
),
alors f = 0 p.p.
4. Espaces L
p
Les espaces L
1
(X) et L
2
(X) vivent dans une famille L
p
(X), pour p [1, +], despaces de Banach
introduits par F. Riesz en 1910, obtenus comme spars de sous-espaces L
p
(X) de Mes(X) (de fait, dans
tous les cas, on passe de L
p
(X) L
p
(X) en quotientant par Npp(X)). Les espaces L
p
(X) sont dnis
comme suit.
Si 1 p < +, on dnit L
p
(X) comme le sous-espace de Mes(X) des f tels que [f[
p
soit sommable.
Lingalit de Minkowski (
_
[f +g[
p
)
1/p
(
_
[f[
p
)
1/p
+(
_
[g[
p
)
1/p
permet de montrer que L
p
(X) est un
espace vectoriel et que f |f|
p
= (
_
[f[
p
)
1/p
est une semi-norme sur L
p
(X).
Si p = +, on dnit lespace L

(X) comme le sous-espace de Mes(X) des f qui sont essentiellement


bornes, cest--dire quil existe A X de mesure nulle et M R
+
tels que [f(t)[ M, quel que soit
t XA. On note |f|

la borne suprieur essentielle de [f[, cest--dire la borne infrieure de lensemble


des M R
+
, tels quil existe A X de mesure nulle tel que [f(t)[ M, quel que soit t X A. Alors
| |

est une semi-norme sur L

(X).
Si X est un ouvert de R
m
, et si p < +, les fonctions en escalier sont denses dans L
p
(X). Ce nest plus
le cas si p = +, ladhrence des fonctions en escalier tant lensemble des fonctions bornes tendant
vers 0 linni.
Lespace L
2
(X) tant un espace de Hilbert, il est son propre dual daprs le thorme de Riesz. Dans
le cas gnral, on note q [1, +] lexposant conjugu de p, dni par 1/p + 1/q = 1. Lingalit de
Hlder
_
[fg[ |f|
p
|g|
q
montre que si g L
q
(X), alors f
_
fg dnit une forme linaire
g
continue
sur L
p
(X), et que lon a |
g
| |g|
q
(le rsultat est trivial si p = 1 ou p = +). Si p ,= +, on peut
54 CHAPITRE III. TRANSFORME DE FOURIER
montrer quen fait g
g
est une isomtrie
(4)
de L
q
(X) sur le dual de lespace de Banach L
p
(X). Par
contre, le dual de L

(R
m
) est nettement plus gros que L
1
(R
m
).
III.2. Transforme de Fourier dans L
1
1. Dnition et premires proprits
Si x = (x
1
, . . . , x
m
) et t = (t
1
, . . . , t
n
) sont deux lments de R
m
, on note xt leur produit
scalaire

m
i=1
x
i
t
i
. Rappelons que, si A M
m
(R), on note
t
A la matrice transpose de A.
On a alors
t
Ax t = x At quels que soient x, t R
m
.
Si f L
1
(R
m
), on a [e
2i xt
f(t)[ = [f(t)[ quels que soient x, t R
m
; lintgrale
_
R
m
e
2i xt
f(t) dt est donc bien dnie pour toute valeur de x R
m
. On appelle trans-
forme de Fourier de f la fonction

f dnie, pour x R
m
, par

f(x) =
_
R
m
e
2i xt
f(t) dt.
Elle ne dpend que de la classe de f dans L
1
(R
m
), ce qui permet de dnir la transforme
de Fourier dun lment de L
1
(R
m
) par la mme formule. On note souvent, pour des
raisons typographiques, Ff au lieu de

f, la transforme de Fourier de f, et on dnit
Ff par Ff(x) =

f(x).
Exemple III.2.1. La transforme de Fourier de 1
[
1
2
,
1
2
[
est (x) =
sin x
x
, comme le
montre un calcul immdiat.
Dautre part, un petit changement de variable montre que, si f L
1
(R
m
), si a R

,
si b, c R
m
, et si g(t) = e
2i ct
f(at + b), alors
g(x) = [a[
m
e
2i a
1
(xc)b

f(a
1
(x c)).
Autrement dit, la transforme de Fourier change les translations et les multiplications
par un caractre, et tranforme une dilatation en dilatation de rapport inverse.
Exercice III.2.2. Montrer plus gnralement, que, si f L
1
(R
m
), si A GL
m
(R), si
b, c R
m
, et si g(t) = e
2i ct
f(At +b), alors g(x) = [ det A[
1
e
2i
t
A
1
(xc)b

f(
t
A
1
(x c)).
Exercice III.2.3. Soit f une fonction continue borne et sommable sur R, et soit x
0

R. Montrer que, quand tend vers 0
+
, la fonction
F() =
_
+

e
2i x
0
y[y[

f(y)dy
(4)
On remarquera que, si X est de mesure nie, les L
p
(X) forment une famille dcroissante despaces de
Banach (on a L
p
(X) L
p

(X) si p p

), alors que leurs duaux L


q
(X) forment une famille croissante.
Autrement dit, plus lespace fonctionnel est petit, plus son dual est gros, ce qui est un peu trange quand
on pense au cas des espaces vectoriels de dimension nie, mais conduit (cf. cours de F. Golse en seconde
anne) la construction des distributions pour laquelle L. Schwartz a obtenu la medaille Fields (1950).
III.2. TRANSFORME DE FOURIER DANS L
1
55
tend vers une limite que lon calculera. En dduire que si

f est identiquement nulle, alors
f est identiquement nulle.
Exercice III.2.4. Soit f L
1
(R). Montrer que lim
T+
T
1
_
T
T
[

f(x)[
2
dx = 0.
2. Le thorme de Riemann-Lebesgue
Proposition III.2.5. (i) Si r N, et si k Z
m
, alors
e
r,k
(x) = 2
rm
m

j=1
_
e
2
1r
i(k
j
+
1
2
)x
j
(2
r
x
j
)
_
.
(ii) Si f est une fonction en escalier, alors

f est une fonction continue sur R
m
, tendant
vers 0 linni.
Dmonstration. Le (i) est une consquence de la formule
e
r,k
(t) =
m

j=1
1
[
1
2
,
1
2
[
(2
r
t
j
k
j

1
2
),
de la formule de lexemple III.2.1, et des formules pour les dilatations-translations. Le (ii)
est une consquence du (i), de ce que les e
r,k
forment une famille gnratrice de Esc(R
m
),
et de ce que est une fonction continue sur R, tendant vers 0 linni.
Thorme III.2.6. Lapplication f

f est une application linaire 1-lipschtzienne
de L
1
(R
m
) dans C
0
(R
m
). Autrement dit, si f L
1
(R
m
), alors

f est une fonction continue
sur R
m
, tendant vers 0 linni, et on a |

f|

|f|
1
.
Dmonstration. La linarit de f

f suit de la linarit de lintgration, et lingalit
|

f|

|f|
1
suit de la majoration

_
R
m
e
2i xt
f(t) dt

_
R
m
[e
2i xt
f(t)[ dt =
_
R
m
[f(t)[ dt = |f|
1
.
Maintenant, si f est une fonction en escalier, la prop. III.2.5, montre que

f C
0
(R
m
).
Comme les fonctions en escalier sont denses dans L
1
(R
m
), comme f

f est linaire
continue de L
1
(R
m
) dans lespace B(R
m
) des fonctions bornes sur R
m
(muni de la
norme | |

) dans lequel C
0
(R
m
) est ferm, on en dduit que

f C
0
(R
m
) quel que soit
f L
1
(R
m
). Ceci permet de conclure.
3. Formules dinversion dans L
1
Proposition III.2.7. Si f, g L
1
(R
m
), alors
_
R
m
g

f =
_
R
m
f g.
56 CHAPITRE III. TRANSFORME DE FOURIER
Dmonstration. Remarquons que les deux membres sont bien dnis car

f et g sont
bornes puisqulments de C
0
(R
m
). Soit h(x, t) = g(x)f(t)e
2i xt
. Alors h est sommable
sur R
m
R
m
, car daprs le thorme de Fubini pour les fonctions positives, on a
_
R
m
R
m
[h(x, t)[ dx dt =
_
R
m
R
m
[f(t)[[g(x)[ dx dt =
_
R
m
_
_
R
m
[f(t)[[g(x)[ dx
_
dt
=
_
R
m
|g|
1
[f(t)[ dt = |g|
1
|f|
1
< +.
Une application immdiate du thorme de Fubini montre alors que les deux membres
sont gaux
_
R
m
R
m
h(x, t) dx dt, ce qui permet de conclure.
Proposition III.2.8. Si f L
1
(R
m
) a une transforme de Fourier sommable, alors
f = F

f.
Dmonstration. La dmonstration est donne sous forme dexercice (utilisant la convo-
lution introduite dans les ex. II.3.1 et III.1.12) ci-dessous. On trouvera une autre dmons-
tration en passant par la transforme de Fourier dans L
2
au n
o
3 du III.3.
Exercice III.2.9. (Formule dinversion)
1) Soit h : R R dnie par h(t) = e
[t[
, et, si > 0, soit h

(t) = h(t). Soit (x) =

h(x).
a) Calculer (x) et vrier que
_
R
= 1 et que

h

(x) =

(x), avec

(x) =
1

(x/).
b) Soit f L
1
(R). Montrer que |f

f|
L
1
0
0. (Commencer par une fonction
en escalier.)
c) En dduire quil existe une suite
n

n+
0, telle que f

n
(x)
n+
f(x) pour
presque tout x R.
d) Montrer que (f

)(x) =
_
R
h(t)

f(t)e
2i tx
dt.
2) On suppose de plus que

f L
1
(R). On pose g(x) =
_
R

f(t)e
2i tx
dt. Vrier que g est
continue, borne, que
_
R
h(t)

f(t)e
2i tx
dt g(x), quand 0, quel que soit x R. En
dduire que f(x) = g(x), pour presque tout x R.
4. Transforme de Fourier et drivation
Une des proprits fondamentales de la transforme de Fourier est dchanger la rgu-
larit et la dcroissance linni (i.e. plus une fonction est rgulire, plus sa transforme
de Fourier est petite linni, et rciproquement, plus une fonction est petite linnie
et plus sa transforme de Fourier est rgulire). On a en particulier le rsultat suivant.
Thorme III.2.10. (i) Si f C
k
(R
m
) a toutes ses drives partielles dordre k
sommables, alors (1+|x|
2
)
k/2

f(x) tend vers 0 linni, et F(

f) = (2ix)


f si N
m
vrie
(5)
[[ k.
(5)
On rappelle que (2i x)

m
j=1
(2i x
j
)

j
, si x = (x
1
, . . . , x
m
) et = (
1
, . . . ,
m
).
III.2. TRANSFORME DE FOURIER DANS L
1
57
(ii) Si (1 + |t|
2
)
k/2
f(t) est sommable, alors

f est de classe C
k
, et on a


f(x) =
(2i)
[[
F(t

f), si [[ k.
Dmonstration. Si f C
k
c
(R
m
), la formule F(

f) = (2ix)


f sobtient en intgrant
par partie (on intgre

f et on drive e
2i xt
). Pour traiter le cas f gnral, choisissons
C
k
c
(R
m
) valant 1 sur [1, 1]
m
, et dnissons f
j
par f
j
(x) = f(x)(2
j
x), si j N.
Alors f
j
C
k
c
(R
m
) et un petit calcul utilisant la formule de Leibnitz pour la drive
dun produit montre que

f
j
tend simplement vers

f et que

f
j
est majore par une
somme de drives k-imes de f, avec [k[ [[, ce qui implique que

f
j
tend vers

f
dans L
1
(R
m
). Ceci permet de dduire lidentit F(

f) = (2ix)


f par passage la limite
(en utilisant la continuit de

(x) qui dcoule de la continuit de

de L
1
(R
m
)
dans C
0
(R
m
)). On en dduit le (i) car F(

f) tendant vers 0 linni quel que soit


N
m
vriant [[ k, il en est de mme de [x[


f, et donc aussi de [(1 +|x|
2
)
k/2

f(x)[
car (1 +|x|
2
)
k/2
(1 +

m
j=1
[x
j
[)
k
.
Le (ii) est, quant lui, une simple application du thorme de drivation sous le signe
somme.
5. La formule de Poisson
On note S(R
m
) lespace (de Schwartz) des fonctions de classe C

sur R
m
, qui sont
dcroissance rapide linni ainsi que toutes leur drives. (g est dcroissance rapide
linni si, (1 + |t|
2
)
N
g(t) est borne sur R
m
, quel que soit N N.) On dduit du
th. III.2.10 et de la prop. III.2.8 le rsultat suivant
(6)
.
Corollaire III.2.11. La transforme de Fourier f

f induit un isomorphisme de
S(R
m
) sur S(R
m
).
Thorme III.2.12. (Formule de Poisson) Si f S(R), alors

nZ
f(n) =

nZ

f(n).
Dmonstration. Soit F(t) =

nZ
f(n + t). La srie converge pour tout t grce
lhypothse de dcroissance rapide de f linni, et la fonction F est priodique de
priode 1. De plus, sur [0, 1], la srie des f
(k)
(n + t) converge normalement pour tout
k, ce qui implique que F C

(R/Z). On en dduit, en utilisant la prop. I.2.9, que F est


somme de sa srie de Fourier en tout point. Or, si k Z, on a (linterversion de lintgrale
(6)
Ce rsultat, combin avec la formule de la prop. III.2.7, est la base de la dnition de la transforme
de Fourier dune distribution (cf. cours de F. Golse en seconde anne)
58 CHAPITRE III. TRANSFORME DE FOURIER
et de la srie ci-dessous est justie par la convergence uniforme sur [0, 1])
c
k
(F) =
_
1
0
e
2i kt
F(t) dt =
_
1
0
e
2i kt
_

nZ
f(n + t)
_
dt =

nZ
_
1
0
e
2i kt
f(n + t) dt
=

nZ
_
n+1
n
e
2i kt
f(t) dt =
_
+

e
2i kt
f(t) dt =

f(k).
On en dduit la formule du thorme en comparant la srie donnant F(0) avec la srie de
Fourier de F en 0.
Remarque III.2.13. La formule de Poisson se gnralise en dimension suprieure (avec
la mme dmonstration), sous la forme

f() =
1
Vol()

f(),
o les objets apparaissant dans cette formule sont :
une fonction f dans lespace de Schwartz S(R
m
),
un rseau de R
m
(cest--dire un sous-groupe de R
m
de la forme Zv
1
+ +Zv
m
,
o (v
1
, . . . , v
m
) est une base de R
m
),
le volume Vol() de dni par Vol() = [ det(v
1
, . . . , v
m
)[ (qui est aussi le volume
de R
m
/),
le rseau dual

de , ensemble des x R
m
tels que x, ) Z, quel que soit
(cest le rseau Zv

1
+ +Zv

m
, o (v

1
, . . . , v

m
) est la base de R
m
duale de (v
1
, . . . , v
m
) ;
elle est caractrise par le fait que v

i
, v
j
) = 1 si i = j et v

i
, v
j
) = 0 si i ,= j).
Exercice III.2.14. Soit (v
1
, . . . , v
m
) une base de R
m
, et soit (v

1
, . . . , v

m
) sa base duale.
Soit A (resp. B) la matrice dont la j-ime colonne est le vecteur v
j
(resp v

j
) dans la base
canonique. Montrer que B =
t
A
1
.
Exercice III.2.15. Comparer ce que donnent la formule du th. III.2.12 et celle de la
rem. III.2.13 pour valuer

nZ
f(n), avec R

.
III.3. Transforme de Fourier dans L
2
Si L
2
(R
m
) nest pas sommable, lintgrale
_
R
m
e
2i xt
(t) dt ne converge pour aucune
valeur de x. Malgr ce petit problme, on peut dnir la transforme de Fourier dun lment de
L
2
(R
m
), par un passage la limite, et ce quon obtient fournit une thorie ayant des proprits
nettement plus agrables que dans L
1
(R
m
). Il y a des tas de manires darriver au rsultat. Nous
avons choisi de privilgier les fonctions en escalier jusquau bout. On trouvera dautres approches
dans les exercices.
III.3. TRANSFORME DE FOURIER DANS L
2
59
1. Transforme de Fourier des fonctions en escalier
Commenons par quelques calculs en dimension 1.
Lemme III.3.1. (i) Si > 0, la transforme de Fourier de e
[t[ sin t
t
est
1

_
arctg(
2x + 1

) arctg(
2x 1

)
_
.
(ii) La transforme de Fourier de
sin
2
t
(t)
2
est
1
2
([x + 1[ +[x 1[ 2[x[).
Dmonstration. (i) On cherche calculer
_
R
e
2i xt
e
[t[ sin t
t
dt. Or
sin t
t
est la transforme
de Fourier de 1
[
1
2
,
1
2
[
, alors que la transforme de Fourier de e
2i xt
e
[t[
est
y
_
R
e
2i (x+y)t
e
[t[
dt =
_
+
0
e
t(+2i(x+y))
+ e
t(2i(x+y))
dt
=
1

_
1
+ 2i(x + y)
+
1
2i(x + y)
_
=
2
(
2
+ 4(x + y)
2
)
.
Il rsulte donc de la prop. III.2.7 que
_
R
e
2i xt
e
[t[ sin t
t
=
_
1
2
1
2
2
(
2
+4(x+y)
2
)
dy. On conclut
en utilisant le fait que la primitive de
2
(
2
+4(x+y)
2
)
est
1

arctg(
2(x+y)

).
(ii) Nous allons plutt calculer la transforme de Fourier de e
[t[ sin
2
t
(t)
2
, pour > 0, et en
dduire le rsultat en faisant tendre vers 0. Si x R, et 0, soit
G
x
() =
_
R
g
x
(, t) dt, avec g
x
(, t) = e
2i xt
e
[t[
sin
2
t
(t)
2
.
Comme la fonction
sin
2
t
(t)
2
est un majorant sommable de g
x
(, t) pour tout 0, et comme
g
x
(, t) est continu sur R
+
, pour tout t 0, le thorme de continuit dune intgrale
dpendant dun paramtre montre que G
x
est continue sur R
+
. La quantit qui nous intresse
G
x
(0) est donc la limite, quand 0, de G
x
().
On va utiliser la prop. III.2.7, avec f = 1
[
1
2
,
1
2
[
et g = e
2i xt
e
[t[ sin t
t
, puisque G
x
() =
_
R

fg. En utilisant le (i), on obtient G


x
() =
_
R
f g =
1

_
1/2
1/2
h
x
(, y) dy, avec
h
x
(, y) =
_
arctg(
2(x + y) + 1

) arctg(
2(x + y) 1

)
_
.
Maintenant, [h
x
(, y)[ est major par quel que soit > 0, et comme arctg(
a

) tend vers
sign(a)

2
, quand 0
+
, on obtient, en utilisant le thorme de continuit dune intgrale
dpendant dun paramtre,
G
x
(0) =
1
2
_
1/2
1/2
(sign(2(x + y) + 1) sign(2(x + y) 1)) dy.
On conclut en utilisant la formule
_
1/2
1/2
sign(2y + a) dy = [
a+1
2
[ [
a1
2
[.
Proposition III.3.2. Soit m 1.
(i) Si r N, et si k Z
m
, alors e
r,k
L
2
(R
m
).
60 CHAPITRE III. TRANSFORME DE FOURIER
(ii) Si k, k
t
Z
m
, alors
e
r,k
, e
r,k
) =
_
0 si k ,= k
t
2
rm
si k = k
t
= e
r,k
, e
r,k
).
(iii) Lapplication

induit une isomtrie de Esc(R
m
), muni de la norme | |
2
, sur un
sous-espace de L
2
(R
m
).
Dmonstration. Le (i) est une consquence du fait que (t) =
sin t
t
est de carr sommable
dans R, et de la formule de la prop. III.2.5 exprimant e
r,k
en terme de .
Un calcul immdiat montre que e
r,k
, e
r,k
) est nul si k ,= k
t
, et vaut 2
rm
si k = k
t
. Par
ailleurs, en partant de la formule
e
r,k
(x) =
m

j=1
_
2
r
e
2
1r
i(k
j
+
1
2
)x
j
(2
r
x
j
)
_
de la prop. III.2.5, on obtient (aprs une application immdiate du thorme de Fubini),
e
r,k
, e
r,k
) =2
2rm
m

j=1
_
_
R
e
2
1r
i(k

j
k
j
)x
j
(2
r
x
j
)
2
dx
j
_
=2
rm
m

j=1
_
_
R
e
2i(k

j
k
j
)u
j
(u
j
)
2
du
j
_
.
On reconnat dans la parenthse la transforme de Fourier de
2
(t) =
sin
2
t
(t)
2
, ce qui permet
dutiliser le (ii) du lemme III.3.1 pour montrer que
_
R
e
2i(k

j
k
j
)u
j
(u
j
)
2
du
j
est nul si k
j
,= k
t
j
,
et vaut 1 si k
j
= k
t
j
. On en dduit le (ii).
Finalement, le (iii) suit (en utilisant le fait que les e
r,k
, pour k Z
m
, forment une base
orthogonale de Esc
r
(R
m
)) du (ii) et de ce que Esc(R
m
) est la runion des Esc
r
(R
m
), pour
r N.
2. Dnition de la transforme de Fourier dans L
2
Thorme III.3.3. La transforme de Fourier F : Esc(R
m
) L
2
(R
m
) se prolonge par
continuit en une isomtrie de L
2
(R
m
) sur L
2
(R
m
) dont linverse est F, avec F(x) =
F(x). Autrement dit, on a
(i) F
1
, F
2
) =
1
,
2
), si
1
,
2
L
2
(R
m
) (F est une isomtrie),
(ii) F(F)(x) = (x), si L
2
(R
m
) (formule dinversion de Fourier dans L
2
).
De plus, les formules du n
o
III.2.1, pour les dilatations, translations et multiplications par un
caractre, sont encore valables dans L
2
(R
m
), et si L
1
(R
m
) L
2
(R
m
), les deux dnitions de
F concident.
Dmonstration. Il rsulte du (iii) de la prop. III.3.2 et de la densit de Esc(R
m
) dans L
2
(R
m
),
que F peut se prolonger par continuit, de manire unique, en une isomtrie de L
2
(R
m
) sur un
sous-espace
(7)
de L
2
(R
m
). De plus, les formules pour les dilatations, translations et multiplica-
tions par un caractre stendent L
2
(R
m
) par continuit.
(7)
Comme on est en dimension innie, linjectivit nimplique pas, a priori, la surjectivit.
III.3. TRANSFORME DE FOURIER DANS L
2
61
Maintenant, si L
1
(R
m
)L
2
(R
m
), notons (provisoirement), F
1
(resp. F
2
) la transforme
de Fourier de dans L
1
(R
m
) (resp. L
2
(R
m
)). Soit (f
j
)
jN
une suite dlments de Esc(R
m
)
convergeant vers la fois dans L
1
(R
m
) et dans L
2
(R
m
) (cf. th. III.1.9). Alors F
1
f
j
= F
2
f
j
tend
uniformment vers la fonction continue F
1
et en norme | |
2
vers F
2
. Daprs le lemme III.1.8,
cela implique F
1
L
2
(R
m
) et F
1
= F
2
p.p.
Pour conclure, il sut donc de prouver lon a F F = s, o s : L
2
(R
m
) L
2
(R
m
) est
lapplication dduite de celle sur L
2
(R
m
) et envoyant sur s(), avec s()(x) = (x). En
eet ceci prouve la fois la surjectivit et le fait que F est linverse de F. Par continuit des
applications F F et s, il sut de vrier quelles concident sur Esc(R
m
), qui est un sous-
espace dense, et par linarit, il sut de le prouver pour une famille gnratrice de Esc(R
m
), par
exemple la famille des e
r,k
, pour r N, et k Z
m
. Finalement, comme les e
r,k
sont obtenues
par translation et dilatation partir de la fonction
m
(t) =

m
j=1
1
[
1
2
,
1
2
[
(t
j
), il sut de prouver
que F(F
m
)(t) =
m
(t) dans L
2
(R
m
). Or on a (F
m
)(x) =

m
j=1
sin x
j
x
j
, et on est ramen
calculer la transforme de Fourier de

m
j=1
sin x
j
x
j
. Les arguments tant les mmes pour m = 1
que pour m quelconque, nous ne traiterons que le cas m = 1, ce qui a pour avantage de raccourcir
un peu les expressions.
On doit donc calculer la transforme de Fourier de (t) =
sin t
t
. Comme nest pas sommable,
on ne peut pas utiliser lexpression (x) =
_
R
e
2i xt
(t) dt pour faire le calcul. Pour contourner
le problme, constatons que

(t) = e
[t[
(t) tend vers dans L
2
(R
m
), quand tend vers 0,
car

est major, pour tout 0, par qui est de carr sommable, et

(t) tend vers (t)


quand tend vers 0, pour tout t R. Par continuit de F, on en dduit que F

tend vers
F dans L
2
quand tend vers 0. Or on a calcul F

(cf. III.3.1), et il est apparent sur la


formule que F

(x) tend vers 1


[
1
2
,
1
2
[
(x), quand tend vers 0, pour tout x ,=
1
2
. Ceci montre
que F = 1
[
1
2
,
1
2
[
, ce qui permet de conclure.
Remarque III.3.4. On a t confront, au cours de la dmonstration, au problme du calcul
de la transforme de Fourier dune fonction , de carr sommable, mais non sommable. On sen
est sorti par un passage la limite, en multipliant par e
([t
1
[++[t
m
[)
, et en faisant tendre
vers 0. Une autre manire de procder est de prendre une suite croissante (X
N
)
NN
densembles
borns dont la runion est R
m
, et dcrire F comme la limite de F(1
X
N
) quand N tend
vers + (en eet, 1
X
N
tend vers dans L
2
(R
m
) daprs le thorme de convergence domine,
et 1
X
N
est sommable puisque de carr sommable et support born).
Corollaire III.3.5. Si f, g L
2
(R
m
), alors
_
R
m
g

f =
_
R
m
f g.
Dmonstration. Posons
1
= Ff, et
2
= g. On a F
1
= f, et donc
_
R
m
g

f =
1
,
2
) = F
1
, F
2
) =
_
R
m
f g,
ce quil fallait dmontrer.
3. Comparaison des transformes de Fourier dans L
1
et L
2
Proposition III.3.6. Si f
1
L
1
(R
m
) et f
2
L
2
(R
m
) ont mme transforme de Fourier,
alors f
1
= f
2
.
62 CHAPITRE III. TRANSFORME DE FOURIER
Dmonstration. Si C

c
(R
m
), alors F L
1
(R
m
) L
2
(R
m
) daprs le cor. III.2.11 ;
en particulier, F(F) = . Comme f et g ont mme transforme de Fourier, on dduit de la
prop. III.2.7 et du cor. III.3.5, utiliss pour g = F, que
_
R
m
f
1
=
_
R
m
f
2
. Daprs lexer-
cice III.1.12, ceci implique f
1
= f
2
.
Proposition III.3.7. (Formule dinversion de Fourier dans L
1
) Si L
1
(R
m
) a une trans-
forme de Fourier sommable, alors = F

.
Dmonstration. Par hypothse,

L
1
(R
m
). Par ailleurs, on sait que

est borne puisque
L
1
(R
m
). Donc [

[
2
|

[, et

L
2
(R
m
), ce qui fait que F

est un lment de
L
2
(R
m
) ayant mme transforme de Fourier que (grce la formule dinversion de Fourier
dans L
2
(R
m
)). La prop. III.3.6 permet de conclure.
4. Drivation
Thorme III.3.8. (i) Si f H
k
(R
m
), alors (1 + |x|
2
)
k/2

f(x) est de carr sommable,
F(

f) = (2ix)


f si N
m
vrie [[ k, et |(1 +|x|
2
)
k/2

f|
2
(1 +
m
2
)
k
|f|
H
k.
(ii) Rciproquement, si (1 + |t|
2
)
k/2
f(t) est de carr sommable, alors

f H
k
(R
m
), on a


f(x) = (2i)
[[
F(t

f), si [[ k, et |

f|
H
k (2)
k
|(1 +|t|
2
)
k/2
f|
2
.
Remarque III.3.9. (i) Le (i) sapplique en particulier une fonction de classe C
k
dont toutes
les drives partielles dordre k sont de carr sommable.
(ii) On dduit du thorme une dnition par Fourier de lespace de Sobolev H
k
(R
m
). Cest
lensemble des f L
2
(R
m
) tel que (1 + |x|
2
)
k/2

f L
2
(R
m
). On peut tendre cette dnition
k R
+
, et parler de lespace de Sobolev H
s
(R
m
), pour s R
+
(et mme pour s R en
supprimant la condition f L
2
(R
m
), mais on tombe alors sur un espace de distributions).
Dmonstration. On sait dj que F(

f) = (2ix)


f, si f C
k
c
(R
m
). Maintenant, F

: H
k
(R
m
)
L
2
(R
m
) est continue, comme compose de

: H
k
(R
m
) H
k||
(R
m
), qui est continue daprs le n
o
4
du I.2, de linclusion de H
k||
(R
m
) dans L
2
(R
m
) qui est 1-lipschitzienne, et de F : L
2
(R
m
) L
2
(R
m
)
qui est une isomtrie. Comme C
k
c
(R
m
) est dense dans H
k
(R
m
) par construction, cela permet den dduire
que F(

f) = (2ix)


f, quel que soit f H
k
(R
m
). En utilisant le fait que F : L
2
(R
m
) L
2
(R
m
) est
une isomtrie, on obtient alors (en dveloppant (1 +

m
j=1
[x
j
[)
k
sous la forme

||k
a

[x[

),
|(1 +|x|
2
)
k/2

f|
2
|(1 +
m

j=1
[x
j
[)
k

f|
2


||k
a

|x


f|
2
=

||k
a

(2)
||
|

f|
2
.
On conclut la dmonstration du (i) en majorant chaque |

f|
2
par |f|
H
k, et en remarquant que

||k
a

(2)
||
= (1 +
m
2
)
k
.
Passons la dmonstration du (ii). Soit E lensemble des f tels que (1 + |t|
2
)
k/2
f soit de carr
sommable. On munit E de la norme | |
E
dnie par |f|
E
= |(1+|t|
2
)
k/2
f|
2
. Par dnition, lapplication
f (1 +|t|
2
)
k/2
f induit une isomtrie de E sur L
2
(R
m
), ce qui fait que E est un espace de Hilbert.
Maintenant, si f est de la forme (1+|t|
2
)
k/2
g, o g est une fonction en escalier, alors (1+|t|
2
)
k/2
f est
sommable, et il rsulte du (ii) du thorme III.2.10, que

f est de classe C
k
, et que


f = (2i)
||
F(t

f),
si [[ k. En utilisant le fait que F : L
2
(R
m
) L
2
(R
m
) est une isomtrie, on obtient alors
|

f|
H
k = sup
||k
|


f|
2
= sup
||k
(2)
||
|t

f|
2
(2)
k
|(1 +|t|
2
)
k/2
f|
2
= (2)
k
|f|
E
.
III.4. EXERCICES 63
Autrement dit, f

f est une application (2)
k
-lipschitzienne de (1 + |t|
2
)
k/2
Esc(R
m
) muni de la
norme | |
E
dans H
k
(R
m
) muni de la norme | |
H
k. Comme Esc(R
m
) est dense dans L
2
(R
m
), lespace
(1 +|t|
2
)
k/2
Esc(R
m
) est dense dans E, et comme H
k
(R
m
) est complet, on en dduit que f

f induit
une application (2)
k
-lipschitzienne de E dans H
k
. Autrement dit, si (1+|t|
2
)
k/2
f est de carr sommable,
alors

f H
k
(R
m
) et |

f|
H
k (2)
k
|(1 +|t|
2
)
k/2
f|
2
.
Il reste prouver que lon a


f = (2i)
||
F(t

f), quel que soit f E, sachant que que cest vrai


pour f dans un sous-espace dense. Or

F : E L
2
(R
m
) est continue, puisque lon vient de prouver
que F : E H
k
(R
m
) est continue et que

: H
k
(R
m
) H
k||
(R
m
) L
2
(R
m
) est continue. De mme,
f t

f est continue (et mme 1-lipschitzienne) de E dans L


2
(R
m
), et donc f (2i)
||
F(t

f) est
continue de E dans L
2
(R
m
). On a deux applications continues concidant sur un sous-espace dense ; elles
sont donc gales, ce qui permet de conclure.
III.4. Exercices
Exercice III.4.1. Soient f, g L
2
(R
n
).
(i) Montrer que |f g|

|f|
2
|g|
2
.
(ii) Montrer que f g est continue et tend vers 0 linni. (commencer par des fonctions
en escalier)
(iii) Montrer que si A et B sont deux sous-ensembles de R
n
de mesure strictement
positive, alors A + B contient un ouvert.
(iv) Construire un ferm dintrieur vide et de mesure non nulle.
Exercice III.4.2. Pour f fonction relle, on note f
y
(x) = f(x y) pour y R.
(i) Soit g une fonction continue support compact. Montrer que y g
y
est uniform-
ment continue de R dans L
p
(R) (pour p = 1 ou 2)
(ii) Prouver le mme rsultat pour f L
p
(R) (p = 1 ou 2).
Exercice III.4.3. Soient f L
1
(R) et T R

+
. Montrer que f
T
(x) =

nZ
f(x + nT)
converge presque partout et que f
T
est sommable sur [0, T].
Exercice III.4.4. Soit S(R) lespace de Schwartz de R.
(i) Montrer, en utilisant la formule de Poisson, que si f S, si T > 0, et si x R,
alors

nZ
f(x + nT) =
1
T

nZ

f(
n
T
)e
2inx
T
.
(ii) Faire tendre T vers + dans la formule ci-dessus pour retrouver la formule din-
version de Fourier pour les lments de S.
Exercice III.4.5. Soit f : R R dnie par f(t) = e
t
2
.
(i) Montrer que

f est C

sur R, et vrie lquation direntielle



f
t
(x) = 2x

f(x).
En dduire, en utilisant la formule
_
R
e
t
2
dt = 1, que

f(x) = e
x
2
.
(ii) Si u R

+
, calculer la transforme de Fourier de f
u
dnie par f
u
(t) = e
ut
2
.
(iii) Si u R

+
, et si F(u) =

nZ
e
n
2
u
, montrer que F(u) =
1

u
F(
1
u
).
64 CHAPITRE III. TRANSFORME DE FOURIER
Exercice III.4.6. (i) Montrer que (
d
dx
)
n
e
x
2
= e
x
2
H
n
(x), o H
n
est un polynme de
degr exactement n et dont on calculera le coecient du terme de plus haut degr.
(ii) On dnit une fonction
n
par la formule
n
(x) = e

x
2
2
H
n
(x). Calculer le produit
scalaire
n
,
m
)
L
2.
(iii) Soit f L
2
(R) orthogonale aux
n
. Montrer que g dnie par g(x) = e

x
2
2
f(x)
est sommable et que g est identiquement nulle. En dduire que les
n
engendrent un
sous-espace dense de L
2
(R).
(iv) En utilisant le fait que la transforme de Fourier de e
t
2
est e
x
2
, calculer, par
rcurrence, la transforme de Fourier de
n
. En dduire une construction de la transforme
de Fourier dans L
2
(R), et dmontrer la formule dinversion de Fourier dans L
2
(R).
Exercice III.4.7. (i) Montrer quune fonction est mesurable si et seulement si elle est
limite simple p.p. dune suite de fonctions continues.
(ii) En dduire quune limite simple p.p. de limites simples p.p. de fonctions continues
est limite simple p.p. dune suite de fonctions continues. Comparer avec lexercice I.1.11.
CHAPITRE IV
FONCTIONS HOLOMORPHES
IV.1. Fonctions holomorphes et fonctions analytiques complexes
1. Sries entires
Soit K un corps. Une srie entire (ou srie formelle) coecients dans K est une
expression du type

+
n=0
a
n
T
n
, o les a
n
sont des lments de K. Lensemble K[[T]] des
sries entires coecients dans K contient lanneau K[T] des polynmes coecients
dans K, et on munit K[[T]] dune structure danneau tendant celle de K[T] en posant
_
+

n=0
a
n
T
n
_
+
_
+

n=0
b
n
T
n
_
=
+

n=0
(a
n
+b
n
)T
n
,
_
+

n=0
a
n
T
n
__
+

n=0
b
n
T
n
_
=
+

n=0
_
n

k=0
a
k
b
nk
_
T
n
.
On dnit la valuation v
T
(F) de F =

nN
a
n
T
n
comme tant le plus petit lment
de lensemble des n N vriant a
n
,= 0, si F ,= 0, et comme tant +, si F = 0.
On a v
T
(FG) = v
T
(F) + v
T
(G), et v
T
(F + G) inf(v
T
(F), v
T
(G)). En dnissant [ [
T
,
par [F[
T
= e
v
T
(F)
, cela se traduit par [FG[
T
= [F[
T
[G[
T
et [F + G[
T
sup([F[
T
, [G[
T
).
Cette dernire ingalit (ultramtrique), plus forte que lingalit triangulaire, montre que
d(F, G) = [F G[
T
est une distance sur K[[T]]. On vrie facilement, que K[[T]] est
complet pour cette distance, quune srie

nN
F
n
converge, si et seulement si [F
n
[
T
0
(ce qui quivaut v
T
(F
n
) +), et que K[T] est dense dans K[[T]], ce qui prouve que
K[[T]] est le complt de K[T] pour la (distance associe la) valuation v
T
. Ceci fournit
une construction topologique
(1)
de K[[T]] partir de K[T].
Si F =

+
n=0
a
n
T
n
K[[T]], on dnit la drive F
t
de F par la formule F
t
=

+
n=1
na
n
T
n1
. Et on dnit par rcurrence la drive k-ime F
(k)
comme la drive
de F
(k1)
, en posant F
(0)
= F. La drive seconde F
(2)
est souvent aussi note F
tt
. Un
(1)
On obtient une construction algbrique en remarquant que F K[[T]] est dtermine si on connat
ses n premiers coecients, quel que soit n N. Autrement dit F est dtermine par ses images F
n
dans
K[T]/(T
n
), pour n N, et lapplication F (F
n
)
nN
permet didentier K[[T]] la limite projective
lim

K[T]/(T
n
) des K[T]/(T
n
), ensemble des suites (F
n
)
nN
, o F
n
K[T]/(T
n
), et F
n+1
K[T]/(T
n+1
)
a pour image F
n
modulo T
n
, quel que soit n N.
66 CHAPITRE IV. FONCTIONS HOLOMORPHES
calcul immdiat montre que
1
k!
F
(k)
=

+
n=0
_
n+k
k
_
T
n
, o
_
X
k
_
est le polynme binomial
(2)
de degr k dni par
_
X
0
_
= 1 et
_
X
k
_
=
X(X1)(Xk+1)
k!
, si k 1.
On ne sintressera, par la suite, quau cas K = C, en lien avec les fonctions holo-
morphes, mais les exemples qui suivent ont un sens sur un corps K de caractristique 0
quelconque.
Exemple IV.1.1. La srie exponentielle. Si C, on note exp(T) la srie formelle

+
n=0

n
n!
T
n
. Cest la solution formelle de lquation direntielle F
t
= F dont le terme
constant est 1, et on a exp(T) exp(T) = exp(( + )T).
Les sries puissances. Si N, alors (1 +T)

+
n=0
_

n
_
T
n
, daprs la formule du
binme, et lannulation de
_

n
_
, pour n > . Par analogie, on dnit (1+T)

, pour C,
comme la srie entire

+
n=0
_

n
_
T
n
. Si , N, on a
+

n=0
_
n

k=0
_

k
__

n k
_
_
T
n
= (1 + T)

(1 + T)

= (1 + T)
+
=
+

n=0
_
+
n
_
T
n
,
ce qui se traduit par le fait que les polynmes en 2 variables
_
X + Y
n
_
et
n

k=0
_
X
k
__
Y
n k
_
prennent les mmes valeurs sur N N. Par suite, ils sont gaux, ce qui permet de d-
montrer que (1 + T)

(1 + T)

= (1 + T)
+
quels que soient , C.
La srie du logarithme. On dnit log(1 + T) comme la srie

+
n=1
(1)
n1
n
T
n
.
Exercice IV.1.2. (i) Montrer que log(exp(T)) = T dans C[[T]].
(ii) Montrer que (1 + T)

= exp(log(1 + T)) dans C[[T]]. (On pourra appliquer


loprateur (1 + T)
d
dT
aux deux membres.)
2. Rayon de convergence dune srie entire
Si z
0
C et si r > 0, on note D(z
0
, r) le disque ferm de centre z
0
et de rayon r (i.e.
lensemble des z C vriant [z z
0
[ r), et D(z
0
, r

) le disque ouvert de centre z


0
et
de rayon r (i.e. lensemble des z C vriant [z z
0
[ < r).
Rappelons que, si F =

+
n=0
a
n
T
n
C[[T]], il existe un unique (F) R
+
, appel rayon
de convergence de F, tel que, si [z[ < , la srie

+
n=0
a
n
z
n
soit normalement convergente,
et si [z[ > (F), la suite a
n
z
n
ne soit pas borne (et donc la srie soit divergente). On a
par ailleurs (F)
1
= limsup[a
n
[
1/n
.
Si z D(0, (F)

), on note F(z) la somme de la srie



+
n=0
a
n
z
n
. La vrication du
rsultat suivant est laisse au lecteur.
(2)
Ce polynme doit son nom au fait que
_
n
k
_
=
n!
k!(nk)!
est un coecient du binme (1 + X)
n
, si n est
un entier k ; si n 0, . . . , k 1, on a
_
n
k
_
= 0.
IV.1. FONCTIONS HOLOMORPHES ET FONCTIONS ANALYTIQUES COMPLEXES 67
Lemme IV.1.3. Si F, G C[[T]], alors
(F + G) inf((F), (G)) et (FG) inf((F), (G)),
et on a
(F + G)(z) = F(z) + G(z) et (FG)(z) = F(z)G(z), si [z[ < inf((F), (G)).
Exemple IV.1.4. Si C, alors (exp(T)) = +.
(log(1+T)) = 1, et ((1+T)

) = 1, si / N (sinon on a aaire un polynme dont


le rayon de convergence est inni). En eet, si CN, alors [
_

n+1
_
/
_

n
_
[ = [
n
n+1
[ 1,
et donc [
_

n
_
[
1/n
1 (version multiplicative de la moyenne de Csaro).
La srie
(3)

+
n=0
(1)
n
n!T
n
a un rayon de convergence nul.
Remarque IV.1.5. Comme (1+T)

(1+T)

= (1+T)
+
dans C[[T]], et comme les trois
sries entires ci-dessus ont un rayon de convergence 1, on a (1+z)

(1+z)

= (1+z)
+
quels que soient z D(0, 1

), et , C. En particulier, si m N0, alors (1+z)


1/m
est une racine m-ime de 1 + z, quel que soit z D(0, 1

).
Exercice IV.1.6. Soit RN
(4)
.
(i) Exprimer
_

n
_
en termes de la fonction .
(ii) En dduire, en utilisant la formule de Stirling (ex. II.2.5), quil existe C() C tel
que
_

n
_
C()(1)
n
n
1
.
Proposition IV.1.7. (i) Si F =

+
n=0
a
n
T
n
C[[T]], alors (F
(k)
) (F), quel que
soit k N, et si [z
0
[ +[z z
0
[ < (F), alors
F(z) =
+

k=0
_
+

n=0
_
n + k
k
_
a
n+k
z
n
0
_
(z z
0
)
k
=
+

k=0
F
(k)
(z
0
)
k!
(z z
0
)
k
.
(ii) Si [z
0
[ < (F), alors lim
zz
0
F(z)F(z
0
)
zz
0
= F
t
(z
0
).
Dmonstration. Si [z
0
[ +[z z
0
[ < (F), on a
+

k=0
_
+

n=0
_
n + k
k
_
[a
n+k
z
n
0
[
_
[z z
0
[
k
=
+

m=0

n+k=m
_
m
k
_
[a
m
[[z
n
0
[[z z
0
[
k
=
+

m=0
[a
m
[([z
0
[ +[z z
0
[)
m
< +,
ce qui montre que la srie double de la proposition est absolument convergente. En xant
k, on en dduit que F
(k)
converge si [z
0
[ < (F), et donc (F
(k)
) (F). De plus, on peut
(3)
Cest la srie de Taylor en 0 de la fonction f(x) =
_
+
0
e
t
1+tx
dt, qui est C

sur R
+
, ce qui faisait dire
Euler que

+
n=0
(1)
n
n! =
_
+
0
e
t
1+t
dt.
(4)
Les rsultats de cet exercice stendent C N, une fois que lon dispose de la fonction dans
le plan complexe (cf. th. VI.2.1 et prop. VI.2.3).
68 CHAPITRE IV. FONCTIONS HOLOMORPHES
rordonner les termes comme on veut, et commencer par sommer sur n + k = m, puis
sommer sur m N. La somme pour n+k = m tant

n+k=m
_
m
n
_
a
m
z
k
0
(z z
0
)
n
= a
m
z
m
,
cela dmontre le (i).
Le (i) permet, en faisant le changement de variables z = z
0
+h, de supposer que z
0
= 0
pour dmontrer le (ii). Or on a

F(h) F(0)
h
F
t
(0)

h
+

n=2
a
n
h
n2

[h[
_
+

n=2
[a
n
[((F)/2)
n2
_
, si [h[ < (F)/2,
et comme

+
n=2
[a
n
[((F)/2)
n2
< +, on en dduit que
F(h)F(0)
h
F
t
(0) tend vers 0
quand h 0, ce qui permet de conclure.
Remarque IV.1.8. On peut reformuler le (ii) de la proposition prcdente en disant que,
si F C[[T]] est de rayon de convergence non nul, alors F est drivable au sens complexe
dans D(0, (F)

), et que la drive au sens complexe de F est F


t
. Une rcurrence immdiate
permet donc de montrer que F est de classe C

au sens complexe sur D(0, (F)

), et que
la drive k-ime au sens complexe de F est la fonction associe la srie entire F
(k)
.
3. Premires proprits des fonctions holomorphes
3.1. Dnition
Soit un ouvert de C, et soit f : C. Si z
0
, si r > 0, et si D(z
0
, r

) , on
dit que f est dveloppable en srie entire sur D(z
0
, r

), sil existe F C[[T]] de rayon


de convergence r, telle que f(z) = F(z z
0
), si z D(z
0
, r

). Il rsulte du (i) de la
prop. IV.1.7 que si f est dveloppable en srie entire sur D(z
0
, r

), et si D(z
1
, r

1
)
D(z
0
, r

), alors f est dveloppable en srie entire sur D(z


1
, r

1
).
On dit que f est dveloppable en srie entire autour de z
0
sil existe r > 0 tel que f
soit dveloppable en srie entire sur D(z
0
, r

), et on dit que f est analytique sur ou


encore que f est holomorphe sur , si f est dveloppable en srie entire autour de tout
point de . Il rsulte de la rem. IV.1.8 quune fonction analytique sur est de classe C

au sens complexe sur .


Exemple IV.1.9. (i) Un polynme est une fonction holomorphe sur C.
(ii) exp(z) est holomorphe sur C, quel que soit C.
(iii)
1
z
est holomorphe sur C0.
(iv) log(1 + z) et (1 + z)
s
, si s C, sont holomorphes sur D(0, 1

).
(v) Si f et g sont holomorphes sur , alors f + g et fg sont holomorphes sur .
(vi) Si f :
1

2
est holomorphe, et si g :
2
C est holomorphe, alors g f est
holomorphe sur
1
.
(vii) Si f :
1

2
est holomorphe bijective, alors sa rciproque f
1
:
2

1
est
holomorphe.
IV.1. FONCTIONS HOLOMORPHES ET FONCTIONS ANALYTIQUES COMPLEXES 69
(viii) Une fonction rationnelle est holomorphe sur louvert de C complmentaire de ses
ples.
Dmonstration. Le (i) est vident. Le (ii) et le (iv) suivent de lexemple IV.1.4. Le
(iii) se dmontre en constatant que
1
z
=

+
n=0
(z
0
z)
n
z
n+1
0
, si [z z
0
[ < [z
0
[. Le (v) suit du
lemme IV.1.3. Le (vi) et (vii) pourraient se dmontrer directement, mais nous attendrons
den savoir plus pour en donner une dmonstration lgante (cf. cor. IV.2.7). Finalement,
le (viii) se dduit des (i), (iii) et (v) et (vi).
Remarque IV.1.10. (i) On peut aussi considrer f comme une fonction, valeurs complexes, des
variables x = Re(z) et y = Im(z). En notant P et Q les parties relle et imaginaire de f, cela permet
de voir f comme une fonction de classe C
1
(et mme de classe C

) dun ouvert de R
2
dans R
2
. La
drivabilit de f au sens complexe en z
0
sexprime alors par le fait que la direntielle de f en z
0
est une
similitude, ce qui se traduit par les relations de Cauchy-Riemann
P
x
(z
0
) =
Q
y
(z
0
) = Re(f

(z
0
)) et
P
y
(z
0
) =
Q
x
(z
0
) = Im(f

(z
0
))
entre les drives partielles des parties relle et imaginaire de f en z
0
. Le jacobien de f en z
0
est alors
[f

(z
0
)[
2
; en particulier, sa nullit est quivalente celle de f

(z
0
).
(ii) Comme les similitudes ont comme proprit de conserver les angles de vecteurs (mais pas les
longueurs), une fonction holomorphe f hrite de cette proprit, et donc conserve les angles, ce qui
signie, par exemple, quelle transforme deux courbes se coupant angle droit en z
0
en deux courbes se
coupant angle droit en f(z
0
), si f

(z
0
) ,= 0.
(iii) Rciproquement, soit f : C une fonction, de classe C
1
en tant que fonction de x et y. Soient

z
et

z
, les oprateurs direntiels dnis par

z
=
1
2
_

x
i

y
_
et

z
=
1
2
_

x
+ i

y
_
.
Ces notations sont justies par les formules

z
z = 1,

z
z = 0 et

z
z = 0,

z
z = 1.
On en dduit que lon a f(z
0
+ h) = f(z
0
) +
f
z
(z
0
) h +
f
z
(z
0
) h + o([h[) au voisinage de h = 0.
La direntielle de f est une similitude, si et seulement si
f
z
(z
0
) = 0, et donc f est drivable au sens
complexe en z
0
, si et seulement si
f
z
(z
0
) = 0. Ceci permet de voir une fonction de classe C
1
au sens
complexe, comme une fonction qui ne dpend que de z et pas de z
(5)
, et permet dexpliquer un peu
le miracle de la prop. IV.2.6.
Exercice IV.1.11. (i) Soit P C[X] de degr 2. Montrer que, si P ne sannule pas dans C, alors
1/P et ses drives partielles par rapport x et y sont de carrs sommables sur C

= R
2
. En dduire que
la transforme de Fourier de 1/P (vu comme fonction de x et y) est identiquement nulle, puis que C est
algbriquement clos.
(ii) Adapter largument ci-dessus pour nutiliser que la transforme de Fourier dans L
1
(C).
(5)
Ceci ne doit pas tre pris littralement vu que z et z ne sont pas indpendants, mais se comprend bien
si on regarde un polynme en x =
1
2
(z +z) et y =
1
2i
(z z) comme un polynme en z et z : on voit que
P(x, y) dnit une fonction holomorphe si et seulement si le polynme Q(z, z) = P(
1
2
(z + z),
1
2i
(z z))
na pas de terme en z.
70 CHAPITRE IV. FONCTIONS HOLOMORPHES
3.2. Thorme des zros isols et unicit du prolongement analytique
Si f est analytique sur , et si z
0
, on dnit lordre du zro v
z
0
(f) N+ de
f en z
0
comme la valuation v
T
(F) de la srie entire F telle que f(z) = F(z z
0
). Si cet
ordre est +, cest que la fonction f est identiquement nulle dans un voisinage de z
0
(i.e.
il existe r > 0 tel que f(z) = 0 si z D(z
0
, r

)). Si cet ordre est ni, gal k, on peut


factoriser F sous la forme F = T
k
G, avec G(0) ,= 0. Par continuit, G(z z
0
) ne sannule
pas dans un voisinage de z
0
, ce qui prouve que z
0
est le seul zro de f dans ce voisinage.
Thorme IV.1.12. (des zros isols) Soit un ouvert connexe de C. Si f est une
fonction holomorphe sur qui nest pas identiquement nulle, et si z
0
est un zro de
f, alors il existe r > 0 tel que z
0
soit le seul zro de f sur D(z
0
, r).
Dmonstration. Daprs la discussion prcdant le thorme, z
0
est un zro non isol
si et seulement si v
z
0
(f) = +. Lensemble des zros non isols est donc ferm car cest
lintersection des ferms z, f
(n)
(z) = 0, pour n N, et ouvert car si f
(n)
(z
0
) = 0
pour tout n, alors f est identiquement nulle dans D(z
0
, r

), si f est dveloppable en srie


entire dans D(z
0
, r

). Comme est suppos connexe, on en dduit que lensemble des


zros non isols est soit (auquel cas f est identiquement nulle), soit lensemble vide.
Ceci permet de conclure.
Exercice IV.1.13. Peut-on trouver une fonction C

, non identiquement nulle, sup-


port compact dans R, dont la transforme de Fourier soit support compact ?
Corollaire IV.1.14. (Unicit du prolongement analytique) Soient
t
deux ou-
verts non vides de C. Si
t
est connexe, et si f et g sont deux fonctions analytiques sur

t
ayant la mme restriction , alors f = g sur
t
tout entier.
Dmonstration. Il sut dappliquer le thorme des zros isols f g.
Remarque IV.1.15. Soit f une fonction holomorphe sur un ouvert de C, et soit
t
un ouvert connexe de C contenant . Il est, en gnral, impossible de trouver une fonction
holomorphe g sur
t
dont la restriction soit f. Dans le cas o cest possible, le corollaire
prcdent montre que g est unique ; elle est appele le prolongement analytique de f
t
.
On prendra garde au problme suivant. Si
1
et
2
sont deux ouverts connexes, conte-
nant , sur lesquels f admet des prolongements analytiques f
1
et f
2
, on ne peut pas en
conclure, en gnral, que f
1
= f
2
sur
1

2
(le problme tant que
1

2
na aucune
raison dtre connexe). Le logarithme fournira un exemple de ce phnomne. videmment,
si f admet un prolongement analytique C tout entier, ce prolongement analytique est
vritablement unique.
IV.1. FONCTIONS HOLOMORPHES ET FONCTIONS ANALYTIQUES COMPLEXES 71
Exemple IV.1.16. La fonction analytique f dnie sur D(0, 1

) par f(z) =

+
n=0
z
n
admet un prolongement analytique C1 : en eet, elle concide
(6)
, sur D(0, 1

), avec
1
1z
qui est holomorphe sur C 1. Cet exemple nest qu moiti convaincant car on
est parti de la fonction
1
1z
qui est visiblement holomorphe sur C 1, mais on verra
des exemples moins banals plus tard (ex. IV.2.17 et th. VI.3.4 et VI.4.4, par exemple).
3.3. Principe du maximum
Thorme IV.1.17. (Principe du maximum) Si est un ouvert connexe de C, si
z
0
, si f holomorphe sur , et si [f[ admet un maximum local en z
0
, alors f est
constante sur .
Dmonstration. Si f nest pas constante sur , la fonction f f(z
0
) nest pas identi-
quement nulle sur , et tant connexe, le dveloppement en srie entire de f f(z
0
)
autour de z
0
nest pas identiquement nul. Il existe donc k N0 et C

tels que
f(z) = f(z
0
) + (z z
0
)
k
+ (z z
0
)
k

0
(z), avec lim
zz
0

0
(z) = 0.
Si f(z
0
) = 0, alors z
0
est un zro isol de f, et [f(z)[ > [f(z
0
)[, quel que soit z dans
un voisinage de z
0
; en particulier, [f[ nadmet pas de maximum local en z
0
.
Si f(z
0
) ,= 0, soit avec
k
=
1
f(z
0
). On a alors f(z
0
+t) = f(z
0
)(1+t
k
+t
k

1
(t)),
avec lim
t0

1
(t) = 0. Ceci implique que [f(z
0
+ t)[ > [f(z
0
)[, si t > 0 est assez petit, et
donc que [f[ nadmet pas de maximum local en z
0
.
Ceci permet de conclure.
Remarque IV.1.18. Le principe du maximum est souvent utilis sous la forme : une
fonction holomorphe atteint son maximum au bord. Autrement dit, si K est un compact
et si f est holomorphe sur un ouvert contenant K, alors le maximum de [f[ sur K est
atteint sur la frontire de K.
Exercice IV.1.19. Soit P C[X] non constant. Montrer que, si P ne sannule pas sur C,
alors [1/P[ atteint son maximum en un point de C. En dduire que C est algbriquement
clos.
(6)
On a donc envie dcrire 1 +2 +4 +8 + = 1, ce quEuler aurait fait sans aucun scrupule. Dans la
mme veine, on a (ex. VI.3.5)
1+1+1+1+ = (0) =
1
2
, 1+2+3+4+ = (1) =
1
12
, 1+4+9+16+ = (2) = 0,
Manipuler des sries divergentes est amusant mais demande un certain doigt. Par exemple, il ne faut
pas confondre

+
n=0
1 = 1 +(0) =
1
2
avec

+
n=1
1 = (0) =
1
2
. Les physiciens ont acquis une dextrit
certaine en la matire ; les mathmaticiens ont plus de complexes depuis que Cauchy a dclar, dans
son Cours danalyse lcole polytechnique, paru en 1821 : Je me suis vu forc dadmettre plusieurs
propositions qui paraitront peut-tre un peu dures au premier abord. Par exemple (. . .) quune srie
divergente na pas de somme.
72 CHAPITRE IV. FONCTIONS HOLOMORPHES
Exercice IV.1.20. Soient a < b R, et soit f une fonction holomorphe dans un voi-
sinage ouvert de la bande verticale B = z C, a Re(z) b. On suppose que f est
borne sur les droites Re(z) = a et Re(z) = b.
(i) Montrer que, sil existe C > 0 et c > 0 tels que [f(z)[ Ce
c[Im(z)[
, quel que soit
z B, alors f est borne sur B. (On considrera la fonction e
z
2
f(z).)
(ii) Montrer de mme que, sil existe C > 0, c > 0, et N Ntels que [f(z)[ Ce
c[Im(z)[
N
,
quel que soit z B, alors f est borne sur B.
(iii) Construire une fonction holomorphe sur C, borne sur chacune des droites Re(z) =
a et Re(z) = b, et non borne sur B (penser des exponentielles dexponentielles).
Exercice IV.1.21. (Lemme de Schwarz) Soit D = z C, [z[ < 1, et soit f holo-
morphe de D dans D vriant f(0) = 0.
(i) Montrer que [f(z)[ [z[, quel que soit z D.
(ii) Montrer que, si [f
t
(0)[ = 1, alors f(z) = f
t
(0)z quel que soit z D.
(iii) Montrer que si f est une bijection holomorphe de D dans D, et si f(0) = 0, alors
il existe [0, ] tel que f(z) = e
2i
z, quel que soit z D.
Exercice IV.1.22. Soit H = z C, Im(z) > 0 le demi-plan de Poincar.
(i) Vrifer que, si =
_
a b
c d
_
SL
2
(R) (groupe des matrices 2 2, coecients dans
R, de dterminant 1), alors z =
az+b
cz+d
H , et que lon a
1

2
z =
1
(
2
z).
(ii) En dduire que

, o

est la transformation z z, est un morphisme


de groupes de SL
2
(R) dans le groupe Aut(H ) des bijections holomorphes de H .
(iii) Montrer que, si z H , il existe SL
2
(R), avec z = i. En dduire que, si
Aut(H ), alors il existe SL
2
(R) tel que i soit un point xe de

.
(iv) Soit h(z) =
iz
i+z
. Montrer que h est une bijection holomorphe de H dans D dont
la rciproque h
1
est donne par la formule h
1
(z) = i
1z
1+z
.
(v) Montrer, en utilisant le lemme de Schwarz (ex. IV.1.21), que si Aut(H ) xe i,
alors il existe [0, ] tel que (z) =
zcos+sin
z sin +cos
. (On considrera = h h
1
.)
(vi) Montrer que

induit une surjection de SL


2
(R) sur Aut(H ) ; en dduire que
Aut(H ) est isomorphe SL
2
(R)/1.
IV.2. La formule intgrale de Cauchy et ses consquences
1. Gnralits sur les chemins
Un chemin (sous-entendu C
1
par morceaux) dans un ouvert de Cest une application
: [a, b] , continue et C
1
par morceaux, dun intervalle compact [a, b] de R dans .
Le point (a) est lorigine de et (b) en est lextrmit. On dit que est un lacet si son
origine et son extrmit concident. Si t [a, b] est un point o les drives droite et
gauche de sont distinctes, on dit que (t) est un point anguleux de . Par hypothse,
na quun nombre ni de points anguleux.
IV.2. LA FORMULE INTGRALE DE CAUCHY ET SES CONSQUENCES 73
Si (t) = x(t) + iy(t), on dnit la longueur lg() de par la formule
lg() =
_
b
a
_
x
t
(t)
2
+ y
t
(t)
2
dt =
_
b
a
[
t
(t)[ dt.
La longueur est invariante par reparamtrage (un reparamtrage de est un chemin de
la forme
1
= , o : [a
1
, b
1
] [a, b] est une bijection croissante de classe C
1
). En
eet, on a
lg(
1
) =
_
b
1
a
1
_
(x )
t
(t)
2
+ (y )
t
(t)
2
dt =
_
b
1
a
1
_
(x
t
)(t)
2

t
(t)
2
+ (y
t
)(t)
2

t
(t)
2
dt
=
_
b
1
a
1
_
(x
t
)(t)
2
+ (y
t
)(t)
2

t
(t) dt =
_
b
a
_
x
t
(s)
2
+ y
t
(s)
2
ds = lg().
Si : [a, b] est un chemin, on dnit le chemin oppos
opp
: [a, b] de , par

opp
(t) = (a + b t).
Si
1
: [a
1
, b
1
] et
2
: [a
2
, b
2
] sont deux chemins, on dit que
1
et
2
sont
composables si lorigine de
2
concide avec lextrmit de
1
, et on dnit le chemin

1

2
: [a
1
, b
2
a
2
+ b
1
] , compos de
1
et
2
, en posant
1

2
(t) =
1
(t), si
t [a
1
, b
1
] et
1

2
(t) =
2
(t a
2
+ b
1
), si t [b
1
, b
2
a
2
+ b
1
].
Exemple IV.2.1. (chemins standard)
Si z
0
C et r > 0, on note C(z
0
, r) : [0, 1] C le chemin t z
0
+ re
2it
; cest le
cercle de centre z
0
et de rayon r parcouru dans le sens direct. Sa longueur est 2r.
Si a, b C, on note [a, b] : [0, 1] C le chemin t a + t(b a) ; cest le segment
dorigine a et dextrmit b. Sa longueur est [b a[.
2. Intgration le long dun chemin
On identie C R
2
, en crivant z sous la forme z = x +iy. Une 1-forme sur un ouvert
de C est une expression
(7)
du type Pdx+Qdy, o P, Q sont des fonctions continues sur
(7)
Plus gnralement, si est un ouvert de R
n
, et si p n, une p-forme sur est une expression du type
=

i
1
<i
2
<<i
p
f
i
1
,...,i
p
dx
1
dx
i
p
,
o les f
i
1
,...,i
p
sont des fonctions continues sur . (Une 0-forme est juste, par convention, une fonction
continue sur .) On voit aussi souvent une p-forme sur comme une fonction x
x
, continue sur ,
valeurs dans les formes p-linaires alternes : si u
1
, . . . , u
p
sont p vecteurs de R
n
, avec u
i
= (u
i,1
, . . . , u
i,n
),
et si x , alors

x
(u
1
, . . . , u
p
) =

i
1
<i
2
<<i
p
f
i
1
,...,i
p
(x)

S
p
sign()u
(1),i
1
u
(p),i
p
.
Ces objets jouent un rle trs important en gomtrie direntielle (cf. cours de C. Viterbo en seconde
anne et J. Barge en troisime anne). Lexemple le plus simple est la 1-forme df, si f est de classe C
1
sur . Sa valeur en un point x est la forme linaire u lim
t0
f(x+tu)f(x)
t
=

n
i=1
f
x
i
(x) u
i
.
74 CHAPITRE IV. FONCTIONS HOLOMORPHES
. Si f est une fonction de classe C
1
sur , la direntielle df de f peut tre vue comme
une 1-forme : on a df =
f
x
dx +
f
y
dy.
Si = Pdx +Qdy est une 1-forme sur , et si : [a, b] est un chemin dans , on
dnit lintgrale
_

par la formule
_

=
_
b
a
P((t))d(x((t)))+Q((t))d(y((t)) =
_
b
a
P((t))(x)
t
(t)+Q((t))(y)
t
(t)) dt.
Dans lintgrale ci-dessus, (x)
t
(t) et (y)
t
(t) sont bien dnis sauf aux points anguleux,
mais comme ceux-ci sont en nombre ni, cela naecte pas lintgrale.
Thorme IV.2.2. (i)
_

est invariante par reparamtrage : si : [a


1
, b
1
] [a, b]
une bijection croissante de classe C
1
, et si
1
= , alors
_

1
=
_

.
(ii)
_

opp
=
_

.
(iii) Si
1
et
2
sont composables, alors
_

2
=
_

1
+
_

2
.
(iv) Si = df, alors
_

= f((b)) f((a)).
Dmonstration. Le (i) rsulte du calcul suivant :
_

1
=
_
b
1
a
1
_
P( (t))(x )
t
(t) + Q( (t))(y )
t
(t)
_
dt
=
_
(b
1
)
(a
1
)
_
P((s))(x )
t
(s) + Q((s))(y )
t
(s)
_
ds =
_

.
Le (ii) suit, via le changement de variable t a+bt, de ce que les bornes dintgration
sont changes.
Le (iii) est immdiat.
Le (iv) suit du calcul suivant :
_

df =
_
b
a
_
f
x
((t))(x )
t
(t) +
f
y
((t))(y )
t
(t)
_
dt
=
_
b
a
(f )
t
(t) dt = f((b)) f((a)).
On note dz la direntielle dx + i dy. Si f est une fonction continue sur , la 1-forme
f(z)dz nest donc autre que f(x + iy) dx + if(x + iy) dy. Si : [a, b] est un chemin
C
1
par morceaux, on a alors
_

f(z) dz =
_
b
a
f((t))
_
(x )
t
(t) + i(y )
t
(t)
_
dt =
_
b
a
f((t))
t
(t) dt.
La majoration du lemme suivant est immdiate, via la formule lg() =
_
b
a
[
t
(t)[ dt.
Lemme IV.2.3. [
_

f(z) dz[ lg() sup


z([a,b])
[f(z)[.
IV.2. LA FORMULE INTGRALE DE CAUCHY ET SES CONSQUENCES 75
Exemple IV.2.4. (Intgration sur les chemins standard)
(i) Si z
0
C et r > 0, alors
_
C(z
0
,r)
f(z) dz = 2ir
_
1
0
f(z
0
+ re
2it
)e
2it
dt.
(ii) Si a, b C, alors
_
[a,b]
f(z) dz = (b a)
_
1
0
f(a + t(b a)) dt.
3. Holomorphie des fonctions drivables au sens complexe
Thorme IV.2.5. (Formule intgrale de Cauchy, 1825) Soit f de classe C
1
au sens
complexe sur , ouvert de C, et soient z
0
et r > 0, tels que D(z
0
, r) . Alors, pour
tout z D(z
0
, r

), on a
f(z) =
1
2i
_
C(z
0
,r)
f(w)
w z
dw.
Ce thorme, dont nous ferons la dmonstration plus loin (n
o
3 du V.1), a des cons-
quences totalement surprenantes pour quelquun de familier avec la thorie des fonctions
dune variable relle
(8)
. La prop. IV.2.6 ci-dessous en est un premier exemple, puisquil
montre quune fonction de classe C
1
au sens complexe est en fait holomorphe (et donc,
a fortiori, de classe C

). Le (i) de la rem. IV.2.8 et le th. IV.2.11 fournissent dautres


exemples de phnomnes un peu miraculeux.
Proposition IV.2.6. Si f vrie la formule de Cauchy, et si on dnit a
n
C, pour
n N, par
a
n
=
1
2i
_
C(z
0
,r)
f(w)
(w z
0
)
n+1
dw,
la srie F(T) =

+
n=0
a
n
T
n
a un rayon de convergence r, et on a f(z) = F(z z
0
) quel
que soit z D(z
0
, r

).
Dmonstration. Soit M = sup
wC(z
0
,r)
[f(w)[ (M est ni car f est continue sur le
compact C(z
0
, r)). On a alors
[a
n
[
1
2
lg(C(z
0
, r))
_
sup
wC(z
0
,r)

f(w)
(w z
0
)
n+1

_
Mr
n
.
(8)
La fonction
0
(x) = e
x
2
, prolonge par continuit en 0, est classe C

sur R, mais nest pas


dveloppable en srie entire autour de 0, puisque toutes ses drives sont nulles en 0 et
0
(x) > 0 si
x ,= 0.
La fonction
1
x
2
+1
est analytique sur R, mais nest pas dveloppable en srie entire sur ] (1+), 1+[,
si > 0, car le dveloppement de Taylor

+
n=0
(x
2
)
n
en 0 a un rayon de convergence gal 1.
Il existe des fonctions continues sur Rnayant de drive en aucun point (Weierstrass, 1875) ; en prenant
la primitive dune telle fonction cela montre quil existe des fonctions de classe C
1
sur R qui ne sont pas
de classe C
2
et donc a fortiori, pas analytiques sur R.
Dun autre ct, la thorie des fonctions holomorphes a t dveloppe avant la thorie des fonctions dune
variable relle, et cest les pathologies de cette dernire qui ont beaucoup surpris les mathmaticiens du
19-ime sicle (et un peu ceux du 20-ime). Par exemple, H. Poincar a eu quelques ennuis avec les
fonctions C

qui ne sont pas somme de leur srie de Taylor...


76 CHAPITRE IV. FONCTIONS HOLOMORPHES
On en dduit que (F) r. De plus, si [z z
0
[ < r, alors
+

n=0
a
n
(z z
0
)
n
=
1
2i
+

n=0
_
C(z
0
,r)
(z z
0
)
n
f(w)
(w z
0
)
n+1
dw
=
1
2i
_
C(z
0
,r)
+

n=0
(z z
0
)
n
f(w)
(w z
0
)
n+1
dw =
1
2i
_
C(z
0
,r)
f(w)
w z
dw.
On conclut en utilisant la formule intgrale de Cauchy. (Pour justier lchange des signes
_
et

ci-dessus, on peut, par exemple, faire appel au thorme de convergence domine


en majorant [

N
n=0
(zz
0
)
n
f(w)
(wz
0
)
n+1
[ sur C(z
0
, r) par M

+
n=0
[zz
0
[
n
r
n+1
=
M
r[zz
0
[
.)
Corollaire IV.2.7. (i) Si f est holomorphe et ne sannule pas sur , alors 1/f est
holomorphe sur .
(ii) Si f :
1

2
est holomorphe et si g :
2
C est holomorphe, alors gf :
1
C
est holomorphe.
(iii) Si f :
1

2
est holomorphe bijective, et si f
t
ne annule pas
(9)
dans , alors sa
rciproque f
1
:
2

1
est holomorphe.
Dmonstration. Il sut de recopier la dmonstration du cas rel pour montrer que 1/f
(resp. g f, resp. f
1
) est C
1
au sens complexe sur (resp. sur
1
, resp. sur
2
) ; la
prop. IV.2.6 permet den dduire lholomorphie de 1/f (resp. g f, resp. f
1
). (On aurait
aussi pu dmontrer directement que 1/f (resp. g f, resp. f
1
) est dveloppable en srie
entire autour de chaque point, mais a aurait t nettement plus fatigant.)
Remarque IV.2.8. (i) La formule f(z) = F(zz
0
) montre que les a
n
sont les coecients
du dveloppement de Taylor de f en z
0
. Autrement dit, une fonction f, holomorphe sur un
ouvert , est somme de sa srie de Taylor en z
0
sur tout disque ouvert D(z
0
, r

) contenu
dans . De plus, on a
1
n!
f
(n)
(z
0
) =
1
2i
_
C(z
0
,r)
f(w)
(w z
0
)
n+1
dw.
On en dduit la majoration (appele ingalit de Cauchy)
[
1
n!
f
(n)
(z
0
)[ r
n
sup
wC(z
0
,r)
[f(z)[ = r
n
sup
[0,2]
[f(z
0
+ re
i
)[.
(ii) Plus gnralement, si K est un compact, si U est un ouvert contenant K et
dont ladhrence U est un compact contenu dans , alors, quel que soit n N, il existe
M = M(n, K, U), tel que
sup
zK
[f
(n)
(z)[ Msup
zU
[f(z)[.
(9)
Cette hypothse est en fait inutile (cf. rem. IV.3.3, deuxime point).
IV.2. LA FORMULE INTGRALE DE CAUCHY ET SES CONSQUENCES 77
En eet, si r d(K, U), alors C(z, r) U quel que soit z K, et le (i) montre
que M = n!r
n
convient.
Corollaire IV.2.9. (Thorme de Liouville) Si f est une fonction holomorphe sur
C tout entier, et si f est borne, alors f est constante.
Dmonstration. Par hypothse, il existe M > 0 tel que [f(z)[ M, quel que soit z C.
On dduit de lingalit de Cauchy que, si n N, alors [
1
n!
f
(n)
(0)[ r
n
M, quel que soit
r > 0. En faisant tendre r vers +, on en dduit que f
(n)
(0) = 0, si n 1. Or f tant
holomorphe sur C tout entier, est somme de sa srie de Taylor en 0 en tout point de C
et donc f(z) = f(0), pour tout z C. Ceci permet de conclure.
Exercice IV.2.10. (i) Soit f holomorphe dans un ouvert connexe de C. Montrer que
si f
t
est identiquement nulle, alors f est constante.
(ii) En dduire une autre dmonstration du thorme de Liouville.
(iii) Montrer que C est algbriquement clos.
4. Construction de fonctions holomorphes
4.1. Sries et produits innis de fonctions holomorphes
Thorme IV.2.11. Soit un ouvert de C.
(i) Si (f
n
)
nN
est une suite de fonctions holomorphes sur convergeant uniformment
sur tout compact de , alors la limite f de la suite f
n
est holomorphe sur et, pour tout
k, la suite (f
(k)
n
)
nN
converge uniformment vers f
(k)
sur tout compact de .
(ii) Si (u
n
)
nN
est une suite de fonctions holomorphes sur telle que la srie

nN
u
n
converge uniformment (resp. normalement) sur tout compact de , alors la somme f de
la srie est holomorphe sur et, pour tout k, la srie

nN
u
(k)
n
converge uniformment
(resp. normalement) vers f
(k)
sur tout compact de .
Dmonstration. Le (i) se dduit du (ii), et pour montrer le (ii), il sut de prouver
que f est holomorphe, le reste sen dduisant en utilisant le (ii) de la remarque IV.2.8
ci-dessus.
Soit z
0
, et soit r > 0 tel que D(z
0
, r) . Alors, daprs la formule de Cauchy, on
a, pour tout z K,
f(z) =

nN
u
n
(z) =
1
2i

nN
_
C(z
0
,r)
u
n
(w)
w z
dw
=
1
2i
_
C(z
0
,r)

nN
u
n
(w)
w z
dw =
1
2i
_
C(z
0
,r)
f(w)
w z
dw,
linterversion des signes
_
et

ci-dessus tant justie par la convergence uniforme
(resp. normale) de la srie

nN
u
n
(z) sur le compact C(z
0
, r). La prop. IV.2.6 permet
den dduire lholomorphie de f dans D(z
0
, r

), ce qui permet de conclure.


78 CHAPITRE IV. FONCTIONS HOLOMORPHES
Exercice IV.2.12. Soient un ouvert de C et (f
n
)
nN
une suite de fonctions holo-
morphes sur tendant simplement vers f. Montrer que, si pour tout compact K de , il
existe M
K
> 0 tel que [f
n
(z)[ M
K
, pour tout n N et z K, alors f est holomorphe.
Exercice IV.2.13. (i) Montrer que si K est un compact de C, il existe n(K) telle que la
srie

+
n=n(K)
_
1
z+n
+
1
zn
_
soit uniformment convergente sur K. En dduire que la srie
1
z
+

+
n=1
_
1
z+n
+
1
zn
_
dnit une fonction F, holomorphe sur CZ.
(ii) Montrer que G(z) = F(z) cotg z est impaire et priodique de priode 1.
(iii) Montrer que G se prolonge par continuit en une fonction holomorphe sur C.
(iv) Montrer que G est borne sur C; en dduire que
1
z
+

+
n=1
_
1
z+n
+
1
zn
_
= cotg z,
si z CZ.
(v) Soit

+
n=0
B
n
t
n
n!
le dveloppement de Taylor de
t
e
t
1
en t = 0, et, si k est un
entier 1, soit (2k) =

+
n=1
1
n
2k
. Montrer que
(2k) =
1
2
B
2k
(2i)
2k
(2k)!
.
En dduire que
2k
(2k) est un nombre rationnel (Euler, 1734).
Thorme IV.2.14. Soit un ouvert connexe de C, et soit (u
n
)
nN
une suite de
fonctions holomorphes sur C telle que la srie

nN
u
n
converge normalement sur tout
compact de . Alors le produit inni

nN
(1 +u
n
) converge uniformment sur tout com-
pact ; sa limite f est une fonction holomorphe sur , et f(z) = 0 si et seulement si il
existe n N tel que 1 +u
n
(z) = 0. Plus prcisment, on a v
z
(f) =

nN
v
z
(1 +u
n
), quel
que soit z .
Dmonstration. Si K est un compact de , et si g est une fonction continue sur ,
notons |g|
K
le sup de [g(z)[, pour z K. Soit C(K) = exp(

nN
|u
n
|
K
) ; cest une
quantit nie, par hypothse. Si n N et si z K, on a alors

n+1

k=0
(1 + u
k
(z))
n

k=0
(1 + u
k
(z))

= [u
n+1
(z)[

k=0
(1 + u
k
(z))

|u
n+1
|
K
n

k=0
(1 +|u
k
|
K
) C(K)|u
n+1
|
K
.
On en dduit, grce la convergence de

nN
|u
n
|
K
, la convergence uniforme du produit
sur K. La limite f est donc holomorphe sur daprs le th. IV.2.11.
Maintenant, si z
0
, on peut choisir r > 0 tel que K = D(z
0
, r) , et N N tel
que |u
n
|
K

1
2
, si n > N. En particulier, 1 + u
n
ne sannule pas sur K, et [1 + u
n
(z)[
1 |u
n
|
K
e
2|u
n
|
K
, quel que soit z K = D(z
0
, r). Soit f
N
=

nN+1
(1 + u
n
). On
dduit de ce qui prcde la minoration [f
N
(z)[ exp
_
2

+
n=N+1
|u
n
|
K
_
, ce qui permet
IV.2. LA FORMULE INTGRALE DE CAUCHY ET SES CONSQUENCES 79
de prouver que f
N
ne sannule pas sur K. On en dduit que
v
z
0
(f) = v
z
0
_
f
N
N

n=0
(1 + u
n
)
_
=
N

n=0
v
z
0
(1 + u
n
) =
+

n=0
v
z
0
(1 + u
n
),
ce qui permet de conclure.
Exercice IV.2.15. Dmontrer, sous les hypothses du th. IV.2.14, que la srie

+
n=0
u

n
1+u
n
converge normalement sur tout compact de sur lequel f ne sannule pas, et que
f
t
(z)
f(z)
=
+

n=0
u
t
n
(z)
1 + u
n
(z)
, si f(z) ,= 0.
4.2. Fonctions holomorphes dnies par une intgrale
Thorme IV.2.16. Soit X un sous-ensemble mesurable de R
m
, et soit un ouvert
de C. Soit F : X C. On suppose que :
z F(z, t) est holomorphe sur , quel que soit t X;
t F(z, t) est mesurable quel que soit z et, quel que soit z
0
, il existe r
z
0
> 0
et g
z
0
L
1
(X) tels que D(z
0
, r
z
0
) et [F(z, t)[ g
z
0
(t) quels que soient z D(z
0
, r
z
0
)
et t X.
Alors la fonction f : C dnie par f(z) =
_
X
F(z, t) dt est holomorphe sur . De
plus, si k N, alors
_

z
_
k
f(z) =
_
X
_

z
_
k
F(z, t) dt.
Dmonstration. Lholomorphie tant une proprit locale, il sut de prouver que, quel
que soit z
0
, il existe r > 0 tel que f soit holomorphe sur D(z
0
, r

). Fixons donc z
0
,
et soit r = r
z
0
. Comme z F(z, t) est holomorphe, quel que soit t X, on tire de la
formule de Cauchy lidentit
f(z) =
1
2i
_
X
_
_
C(z
0
,r)
F(w, t)
w z
dw
_
dt, si z D(z
0
, r

).
Or on a [
F(w,t)
wz
[
g
z
0
(t)
r[zz
0
[
, si (w, t) (C(z
0
, r) X). Comme g
z
0
est sommable sur X, la
fonction [
F(w,t)
wz
[ est sommable sur C(z
0
, r) X, ce qui permet dutiliser le thorme de
Fubini pour permuter les deux intgrations. On obtient
f(z) =
1
2i
_
C(z
0
,r)
_
_
X
F(w, t)
w z
dt
_
dw =
1
2i
_
C(z
0
,r)
f(w)
w z
dw, si z D(z
0
, r

).
La prop. IV.2.6 permet den dduire lholomorphie de f sur D(z
0
, r

).
Maintenant, on a
1
k!
f
(k)
(z
0
) =
1
2i
_
C(z
0
,r)
f(w)
(wz
0
)
k+1
dw daprs le (i) de la rem. IV.2.8.
En majorant [
F(w,t)
(wz
0
)
n+1
[ par r
k1
g
z
0
(t) qui est sommable sur C(z
0
, r) X, ce qui permet
dutiliser Fubini dans lautre sens, on obtient
1
k!
f
(k)
(z
0
) =
_
X
_
1
2i
_
C(z
0
,r)
F(w, t)
(w z
0
)
k+1
dw
_
dt =
_
X
1
k!
_

z
_
k
F(z
0
, t) dt.
80 CHAPITRE IV. FONCTIONS HOLOMORPHES
Ceci permet de conclure.
Exercice IV.2.17. (La fonction dans le plan complexe).
(i) Montrer que F(z) =
_
+
0
e
t
t
z dt
t
converge si Re(z) > 0, et que F(z) est holomorphe
sur le demi-plan Re(z) > 0.
(ii) Montrer que, quel que soit n N, on a F(z) =
F(z+n+1)
z(z+1)(z+n)
, si Re(z) > 0. En
dduire quil existe une unique fonction , mromorphe sur C, holomorphe en dehors de
ples simples aux entiers ngatifs, telle que (z) = F(z) si Re(z) > 0.
(iii) Montrer que F(z) est borne dans toute bande verticale 0 < a Re(z) b < +;
en dduire que est dcroissance rapide linni dans toute bande verticale de largeur
nie, cest--dire que, quels que soient a < b R et N N, il existe C(a, b, N) tel que
lon ait
[(z)[ C(a, b, N)[Im(z)[
N
, si a Re(z) b et [Im(z)[ 1.
IV.3. Structure locale des fonctions holomorphes
1. Le thorme dinversion locale holomorphe
Soient
1
,
2
deux ouverts de C. Une application :
1

2
est biholomorphe, si elle
est bijective et si et
1
sont holomorphe. (On verra plus tard (rem. IV.3.3) quil sut
que soit injective et holomorphe pour quelle soit biholomorphe.)
Thorme IV.3.1. (dinversion locale pour les fonctions holomorphes) Soient un
ouvert de C, f holomorphe sur , et z
0
. Si f
t
(z
0
) ,= 0, il existe un voisinage ouvert
U de z
0
dans et un voisinage ouvert V de f(z
0
) dans C tels que f soit biholomorphe de
U sur V.
Dmonstration. Commenons par supposer que z
0
= 0, f(z
0
) = 0 et f

(z
0
) = 1 ; nous allons
construire lapplication rciproque g de f par une mthode du point xe (cf. th.D.3.3) en partant du fait
que g est point xe de f + z.
Il existe C tel que f(z) = z + z
2
+ O([z[
3
), ce qui fait que,
h(u, v) = f(u v) f(u) + v = (v
2
2uv) + O(([u[ +[v[)
3
).
Soit r
0
<
1
2
(f). On dduit du dveloppement limit ci-dessus, lexistence de C > 0, tel que [h(u, v)[ <
C[u[ [v[ si [v[ [u[ r
0
. Comme f(z) z = O([z[
2
), on peut quitte diminuer r
0
imposer de plus que
[f(z) z[
1
4
[z[ si [z[ r
0
, et on peut aussi imposer r
0

1
2C
.
Soit r =
2
3
r
0
. On construit, par rcurrence, deux suites de fonctions (g
n
)
n1
et (u
n
)
n1
, en posant
g
1
(z) = z ; u
n
(z) = f(g
n
(z)) z ; g
n+1
(z) = g
n
(z) u
n
(z). Nous allons montrer que g
n
et u
n
sont
holomorphes sur D(0, r

), et que
(
1
2
+
1
2
n
)[z[ [g
n
(z)[ (
3
2

1
2
n
)[z[ et [u
n
(z)[
1
2
n+1
[z[, quel que soit z D(0, r

).
Le rsultat est vident pour n = 1 puisque g
1
(z) = z et u
1
(z) = f(z) z. Si la proprit est vrie
pour n, alors lencadrement de [g
n+1
(z)[ est une consquence immdiate de lencadrement pour [g
n
(z)[ et
IV.3. STRUCTURE LOCALE DES FONCTIONS HOLOMORPHES 81
de la majoration pour [u
n
(z)[. Par ailleurs, comme [g
n
(z)[
3
2
[z[ < r
0
< (f), f(g
n
(z)) est bien dnie
et holomorphe sur D(0, r

), et donc u
n+1
est holomorphe sur D(0, r

). Maintenant, on a
u
n+1
(z) = f(g
n
(z) u
n
(z)) z = h(g
n
(z), u
n
(z)) + f(g
n
(z)) u
n
(z) z = h(g
n
(z), u
n
(z)).
Comme [u
n
(z)[
1
2
n+1
[z[ (
1
2
+
1
2
n
)[z[ [g
n
(z)[, on a
[u
n+1
(z)[ [h(g
n
(z), u
n
(z))[ C[g
n
(z)[ [u
n
(z)[
3C[z[
2

[z[
2
n+1
Cr
0
[z[
2
n+1

[z[
2
n+2
.
Ceci montre que lhypothse de rcurrence est vrie au rang n + 1.
On dduit de la majoration [g
n+1
(z)g
n
(z)[ = [u
n
(z)[
r
2
n+1
la convergence uniforme de la suite g
n
sur
D(0, r

). La limite est donc une fonction holomorphe sur D(0, r

) qui vrie g(z) = g(z) (f(g(z)) z).


Autrement dit, on a construit une fonction holomorphe g sur D(0, r

) telle que f(g(z)) = z si z D(0, r

).
Dans le cas gnral, on peut appliquer ce qui prcde F(z) = f

(z
0
)
1
(f(z + z
0
) f(z
0
)) (et donc
f(z) = f

(z
0
)(F(z z
0
) + f(z
0
)). On en dduit lexistence de r
0
> 0, et de G holomorphe sur D(0, r

0
),
tels que F(G(z)) = z, si z D(0, r

0
). Si on dnit g sur D(f(z
0
), r

), o r = [f

(z
0
)[r
0
, par g(z) =
z
0
+G(f

(z
0
)
1
(z f(z
0
))), un calcul immdiat montre que f(g(z)) = z, si z D(f(z
0
), r

). Autrement,
dit, on peut trouver un voisinage V
0
de f(z
0
) et g holomorphe sur V
0
tels que f g = id sur V
0
. Ceci
implique en particulier que g est injective sur V
0
. De plus, on a f

(g(z))g

(z) = 1, si z V
0
, et donc
g

(f(z
0
)) ,= 0. En appliquant ce qui prcde g au lieu de f, on en dduit lexistence dun voisinage U de
z
0
(que lon peut supposer inclus dans ), et de h : U V
0
holomorphe, tels que g h = id sur U. Soit
V = h(U). Comme g h = id sur U, on a g(V) = U, et comme g est injective sur V
0
, on a V = g
1
(U),
ce qui prouve que V est un ouvert (dans V
0
et donc aussi dans C puisque V
0
est ouvert dans C) qui
contient z
0
= h(f(z
0
)). Finalement, on a f = f (g h) = (f g) h = h sur U, et f g = id sur V
(puisque V V
0
) et g f = g h = id sur U. En rsum, f induit une bijection holomorphe de U sur V
dont linverse g est aussi holomorphe. Ceci permet de conclure.
Thorme IV.3.2. Soient un ouvert connexe de C et f une fonction holomorphe
non constante sur . Si z
0
, et si m = v
z
0
(f f(z
0
)), il existe un voisinage ouvert U
de z
0
dans , un rel r > 0 et : U D(0, r

) biholomorphe, avec (z
0
) = 0, telle que
f(z) = f(z
0
) + (z)
m
, quel que soit z U.
Dmonstration. Par dnition de m, on a, dans un voisinage U
0
de z
0
,
f(z) f(z
0
) = (z z
0
)
m
(a
m
+ a
m+1
(z z
0
) + ),
avec a
m
,= 0. Soit C

une racine m-ime de a


m
, et soit
g =
f(z) f(z
0
)
a
m
(z z
0
)
m
= 1 + b
1
(z z
0
) + .
La fonction g est holomorphe dans U
0
, et comme elle vaut 1 en z
0
, il existe un voisinage
ouvert U
1
de z
0
tel que g(z) D(1, 1

) si z U
1
. Mais alors la fonction h = g
1/m
est holomorphe sur U
1
et vrie h
m
= g (cf. rem. IV.1.5). Ceci montre que, si on pose
(z) = (z z
0
)h(z), alors est holomorphe sur U
1
, et on a f(z) = f(z
0
) + (z)
m
quel que soit z U
1
. Finalement, comme
t
(z
0
) = ,= 0, le thorme dinversion locale
holomorphe montre quil existe un voisinage ouvert U de z
0
dans U
1
et r > 0 tels que
induise une bijection biholomorphe de U sur D(0, r

).
82 CHAPITRE IV. FONCTIONS HOLOMORPHES
Remarque IV.3.3. Si m 1, lapplication z z
m
induit une surjection de D(0, r

),
sur D(0, (r
m
)

), et tout point de D(0, (r


m
)

) 0 a exactement m antcdents. On en
dduit (grce au th. IV.3.2), les rsultats suivants.
Si est un ouvert connexe de C, et si f est holomorphe non constante sur ,
alors f() est un ouvert (thorme de lapplication ouverte). En eet, en reprenant les
notations du thorme, on voit que si z
0
, alors il existe r > 0 tel que f() contienne
D(f(z
0
), (r
m
)

).
Si est un ouvert de C, et si f est holomorphe injective sur , alors f est biholo-
morphe de sur f() (inversion globale). En eet, si f est injective, on doit avoir m = 1
dans les notations du thorme
(10)
, et donc f
t
ne sannule pas sur . Le thorme din-
version locale montre alors que f
1
est holomorphe au voisinage de tout point de louvert
f().
Exercice IV.3.4. Montrer quil nexiste pas de fonction holomorphe f : D(0, 1

) C
qui soit bijective.
2. Logarithme et fonctions puissances
Soit R. Lapplication exponentielle est injective sur la bande z, < Im(z) <
+ 2, et son image est C priv de la demi-droite R
+
e
i
dargument (ou + 2, ce
qui revient au mme). Daprs le thorme dinversion globale ((ii) de la rem. IV.3.3), son
inverse
log

: CR
+
e
i
z, < Im(z) < + 2.
est une fonction holomorphe.
Comme exp(log

(z)) = z sur CR
+
e
i
, on obtient, en drivant cette relation, que la
drive de log

sur CR
+
e
i
est
1
z
, et donc que log

vrie les proprits que lon est en


droit dattendre dune fonction logarithme. Le seul problme est quon ne peut pas dnir
le logarithme comme une fonction holomorphe sur C

tout entier, cause de la discon-


tinuit le long de la demi-droite R
+
e
i
(les limites gauche et droite dirent
de 2i, le long de cette demi-droite). Ce problme
(11)
est dans la nature des choses : le
logarithme est une fonction holomorphe multivalue sur C

, et chacune des fonctions log

ci-dessus correspond au choix dune dtermination du logarithme, holomorphe dans un


ouvert aussi grand que possible. La dtermination principale du logarithme est la fonction
log

; cest donc la dtermination du logarithme, dnie sur C priv de la demi-droite


(10)
Si m 2, et si 0 < [u f(z
0
)[ < r
m
, alors u a m antcdents par f dans U, savoir les images
rciproques par des m racines m-imes de u f(z
0
).
(11)
Il a fortement perturb nos anctres. Bernoulli et Leibnitz se sont battus (pistolairement), en 1712-
1713, sur la valeur de log(1), lun soutenant que log(1) devait tre gal 0 car 2 log(1) = log(1)
2
=
log 1 = 0, et lautre que log(1) devait tre imaginaire car log(1) = 2
2
2
2

2
3
3
ne converge pas...
Il a fallu attendre 1749 pour quEuler explique quun nombre complexe a une innit de logarithmes.
IV.3. STRUCTURE LOCALE DES FONCTIONS HOLOMORPHES 83
relle ngative R

, et qui vaut 0 en 1 ; ses valeurs ont une partie imaginaire dans linter-
valle ] , [. Dans la pratique, on ne met pas le en indice, ce qui demande de faire
attention ce que signie exactement log z dans la situation que lon considre ; les valeurs
possibles de log z tant les 2i k + log

z, pour k Z.
Exercice IV.3.5. Soit log la dtermination principale du logarithme.
(i) Montrer que log(1 + z) =

+
n=1
(1)
n1
n
z
n
, si [z[ < 1.
(ii) Montrer que log z = log [z[ + i arg z, o arg z ] , [ est largument principal
de z.
(iii) Soient z
1
, z
2
C R

, tels que z
1
z
2
C R

. Dterminer, suivant les cas, la


valeur de log(z
1
z
2
) log z
1
log z
2
.
Si s C

, on dnit z
s
par la formule z
s
= exp(s log z). Comme la fonction log z est
multivalue, il en est de mme de z
s
, et il faut donc bien faire attention au choix que lon
a fait de log z. Si a est une valeur possible de z
s
, les autres sont les e
2iks
a, pour k Z.
En particulier, on peut se dbrouiller, par un choix convenable de la dtermination de
log z, pour que z
s
soit holomorphe dans CR
+
e
i
, mais, si s / Z, la fonction z
s
ne peut
pas se prolonger en une fonction holomorphe sur C

. Mme si on prend la dtermination


principale du logarithme, il nest pas toujours vrai que z
s
1
z
s
2
= (z
1
z
2
)
s
. Par contre, la
fonction s z
s
est, elle, holomorphe sur C tout entier, et on a z
s
1
+s
2
= z
s
1
z
s
2
(si on ne
samuse pas changer la valeur de log z). En particulier, si m N 0, alors z
1/m
est
une racine m-ime de z, quelle que soit la dtermination du logarithme choisie.
Exercice IV.3.6. (i) Soit = C [0, 1]. Montrer quil existe deux fonctions f, holo-
morphes sur , dont le carr est z z(z 1).
(ii) Soient a
1
, . . . , a
2n
, des lments distincts de C. Montrer quil existe une permutation
de 1, . . . , 2n telle que les segments [a
(2i1)
, a
(2i)
], pour 1 i n soient disjoints.
Montrer que si est louvert complmentaire de ces segments, il existe deux fonctions f,
holomorphes sur , dont le carr est z

2n
i=1
(z a
i
).
CHAPITRE V
LA FORMULE DE CAUCHY ET CELLE DES
RSIDUS (DE CAUCHY)
Le lecteur a dj pu apprcier la puissance de la formule de Cauchy pour ltude des
fonctions holomorphes. La formule des rsidus, qui en est une extension, est la fois
un outil pratique permettant de calculer sans douleur certaines intgrales, et un outil
thorique extrmement souple dont nous verrons certaines utilisations au chap. VI et
dans lannexe A. Par ailleurs, les ides quelle met en oeuvre sont le point de dpart de
constructions plus gnrales permettant dassocier des invariants aux varits de dimen-
sion quelconque. Par exemple, on peut utiliser (les ides intervenant dans) la formule des
rsidus, pour dmontrer quun ouvert de R
2
nest pas homomorphe un ouvert de R
n
,
si n ,= 2. Dmontrer, ce qui est vital si on veut pouvoir parler de dimension dun point
de vue topologique, quun ouvert de R
n
nest pas homomorphe un ouvert de R
m
, si
n ,= m, peut se faire en gnralisant (grandement) ces ides
(1)
.
V.1. Homotopie de lacets et formule de Cauchy
1. Vocabulaire de topologie algbrique
Soient X et Y deux espaces topologiques et f : X Y et g : X Y deux applications
continues. On dit que f et g sont homotopes si on peut passer continment de f
g . De manire prcise, f et g sont homotopes, sil existe u : [0, 1] X Y continue,
telle que u(0, x) = f(x) et u(1, x) = g(x), quel que soit x X. Si on note f
t
: X Y
lapplication f
t
(x) = u(t, x), alors f
t
est continue, quel que soit t [0, 1], t f
t
est une
application continue de [0, 1] dans lespace des applications continues de X dans Y (muni
de la topologie de la convergence simple), et t f
t
connecte f = f
0
g = f
1
.
Un ouvert de C est contractile sil est homotope un point, cest--dire, sil existe
z
0
tel que id : est homotope, dans , lapplication constante z z
0
, quel
que soit z . Autrement dit, est contractile, sil existe z
0
et u : [0, 1] ,
continue, telle que u(0, z) = z et u(1, z) = z
0
, quel que soit z .
(1)
Cf. cours de J. Barge en troisime anne.
86 CHAPITRE V. LA FORMULE DE CAUCHY ET CELLE DES RSIDUS (DE CAUCHY)
Un ouvert est toil sil existe z
0
tel que, quel que soit z , le segment [z
0
, z] est
inclus dans . En particulier, un ouvert convexe est toil ; Cpriv dune demi-droite Y est
toil (on peut prendre pour z
0
nimporte quel lment de lautre demi-droite de la droite
contenant Y). Un ouvert toil est contractile : il sut de poser u(t, z) = z(1 t) + tz
0
;
la condition selon laquelle [z
0
, z] fait que u est bien valeurs dans .
Si est un ouvert de C, une homotopie de lacets dans de
0
: (R/Z) sur
1
:
(R/Z) est une application continue u : [0, 1](R/Z) , vriant u(0, t) =
0
(t) et
u(1, t) =
1
(t) ; on peut aussi voir u comme une application continue u : [0, 1] [0, 1]
telle que u(s, 0) = u(s, 1), quel que soit s [0, 1]. On dit quun lacet : (R/Z) est
contractile dans , sil existe une homotopie de lacets de sur un lacet constant. Si est
contractile
(2)
, alors tout lacet est contractile dans .
2. Un cas particulier de la formule de Stokes
Soient A = (0, 0), B = (1, 0), C = (1, 1) et D = (0, 1) les sommets du carr [0, 1]
2
. On
note ([0, 1]
2
) le bord orient du carr [0, 1]
2
; cest la runion des segments [A, B], [B, C],
[C, D] et [D, A].
Proposition V.1.1. Si = Pds + Qdt est une 1-forme sur [0, 1]
2
, avec P et Q de
classe C
1
, alors
(3)
_
([0,1]
2
)
=
_
[0,1]
2
_

P
t
+
Q
s
_
ds dt.
(2)
Plus gnralement, un espace topologique connexe X est simplement connexe, si tout lacet dans X
est contractile. Daprs un clbre thorme nonc par B. Riemann (1851) et vraiment dmontr par
P. Koebe en 1914, (le thorme de reprsentation conforme de Riemann), un ouvert simplement connexe
de C, non gal C, est biholomorphe au disque unit D = D(0, 1

) ou, ce qui revient au mme (cf.


ex. IV.1.22), au demi-plan de Poincar. En particulier, cela permet de montrer que tout ouvert U simple-
ment connexe de R
2
est diomorphe R
2
(i.e. il existe une bijection de classe C
1
de U sur R
2
dont la
rciproque est aussi de classe C
1
). Comme une fonction holomorphe prserve les angles, on voit que lon
peut transformer (lintrieur d) un cercle en (lintrieur d) un triangle en conservant les angles...
(3)
La formule qui suit est un cas particulier de la formule de Stokes
_

d =
_

, qui est une des formules


mathmatiques les plus esthtiques, et aussi une des plus utiles. Dans la formule de Stokes, est une
p-forme sur un compact K de dimension p +1, d est sa direntielle, est lintrieur de K et est la
frontire oriente de (et donc aussi celle de K). Donner un sens prcis ce qui prcde demande un peu
de travail (en particulier dnir une orientation sur la frontire, ce qui nest pas toujours possible, cf. cours
de C. Viterbo et J. Barge). Si p = 0, la formule de Stokes est le thorme fondamental de lintgration
_
b
a
df = f(b) f(a), et si p = 1 et si est de dimension 2, la formule de Stokes est aussi connue sous le
nom de thorme de Green (on a alors d(Pdx + Qdy) = dP dx + dQ dy =
_

P
y
+
Q
x
_
dx dy, en
tenant compte de ce que est bilinaire altern ; on retombe donc bien sur la formule de la proposition).
V.1. HOMOTOPIE DE LACETS ET FORMULE DE CAUCHY 87
Dmonstration. En revenant la dnition dune intgrale curviligne, on obtient
_
[A,B]
=
_
1
0
P(s, 0) ds,
_
[C,D]
=
_
1
0
P(1 v, 1) dv =
_
1
0
P(s, 1) ds,
_
[B,C]
=
_
1
0
Q(1, t) dt,
_
[D,A]
=
_
1
0
Q(0, 1 v) dv =
_
1
0
Q(0, t) dt.
Ceci nous donne
_
([0,1]
2
)
=
_
1
0
(P(s, 0) P(s, 1)) ds +
_
1
0
(Q(1, t) Q(0, t)) dt
=
_
1
0
_
_
1
0
P
t
(s, t) dt
_
ds +
_
1
0
_
_
1
0
Q
s
(s, t) ds
_
dt
=
_
[0,1]
2
_

P
t
+
Q
s
_
dsdt.
Si est un ouvert de C, si u : [0, 1]
2
est une application de classe C
1
, et si
f : C est de classe C
1
, on dnit la 1-forme u

(f(z) dz) sur [0, 1]


2
, par la formule :
u

(f(z) dz) = f(u(s, t)) d(u(s, t)) = f(u(s, t))


_
u
s
(s, t) ds +
u
t
(s, t) dt
_
.
Lemme V.1.2. Soit un ouvert de C. Si f : C est une fonction de classe C
1
au sens complexe, si u : [0, 1]
2
est une application de classe C
2
, et si u

(f(z) dz) =
P(s, t) ds + Q(s, t) dt, alors
P
t
+
Q
s
= 0.
Dmonstration. Comme f est holomorphe
(4)
, on a
f(u(s + h, t)) = f(u(s, t) + h
u
s
(s, t) + o(h)) = f(u(s, t)) + f
t
(u(s, t))
_
u
s
(s, t)h
_
+ o(h).
On en dduit que (avec le mme argument pour

t
)
(f u)
s
=
u
s
f
t
u et
(f u)
t
=
u
t
f
t
u.
Comme P =
u
s
f u et Q =
u
t
f u, on obtient

P
t
+
Q
s
=

2
u
ts
f u
u
s
u
t
f
t
u +

2
u
st
f u
u
t
u
s
f
t
u
=
_


2
u
ts
+

2
u
st
_
f u = 0.
(4)
Une dmonstration plus savante, mais plus naturelle, consisterait remarquer que lon a dune part
(
P
t
+
Q
s
) ds dt = d(u

(f(z) dz)), et dautre part que d(u

(f(z)dz)) = u

(d(f(z) dz)), et
f
z
= 0,
puisque f est holomorphe, et donc d(f(z) dz) =
f
z
dz dz = 0.
88 CHAPITRE V. LA FORMULE DE CAUCHY ET CELLE DES RSIDUS (DE CAUCHY)
Thorme V.1.3. Soient un ouvert de C et f une fonction de classe C
1
au sens
complexe sur . Alors, si
0
,
1
sont deux lacets homotopes dans , on a
_

0
f(z) dz =
_

1
f(z) dz.
Remarque V.1.4. Si est un lacet constant, on a
_

= 0 quelle que soit la 1-forme .


On en dduit, si = f(z) dz, avec f holomorphe sur , les rsultats suivants.
(i) Si est un lacet contractile dans , alors
_

f(z) dz = 0.
(ii) Si est contractile (en particulier, si est toil), alors
_

f(z) dz = 0, quel que


soit le lacet dans .
Dmonstration. Commenons par supposer quil existe, dans , une homotopie de
lacets, de classe C
2
, de
0
sur
1
. Autrement dit, il existe u : [0, 1]
2
de classe C
2
,
telle que u(0, t) =
0
(t), u(1, t) =
1
(t), et u(s, 0) = u(s, 1) quel que soit s [0, 1]. Notons
la 1-forme f(z) dz. crivons u

, sous la forme Pds +Qdt. Daprs le lemme V.1.2, on


a
P
t
+
Q
s
= 0. On dduit donc de la proposition V.1.1, la nullit de
_
([0,1]
2
)
u

. En
notant, A = (0, 0), B = (1, 0), C = (1, 1) et D = (0, 1) les sommets du carr [0, 1]
2
, on
voit que
_
[B,C]
u

=
_
1
0
Q(1, t) dt =
_
1
0
f(u(1, t))
u
t
(1, t) dt =
_
1
0
f(
1
(t))
t
1
(t) dt =
_

1
f(z) dz.
De mme,
_
[D,A]
u

=
_

0
f(z) dz. Par ailleurs, on a
_
[A,B]
u

+
_
[C,D]
u

= 0, puisque
u(s, 0) = u(s, 1), quel que soit s [0, 1]. On obtient donc
0 =
_
([0,1]
2
)
u

=
_
[A,B]
u

+
_
[B,C]
u

+
_
[C,D]
u

+
_
[D,A]
u

=
_

1
f(z) dz
_

0
f(z) dz,
ce qui permet de conclure dans le cas particulier o
0
et
1
sont homotopes dans par
une homotopie de classe C
2
.
Passons au cas gnral. Les chemins
0
et
1
sont C
1
par morceaux, et on dispose de
u : [0, 1]
2
, continue, telle que u(0, t) =
0
(t), u(1, t) =
1
(t), et u(s, 0) = u(s, 1) quel
que soit s [0, 1]. Lide est dapproximer u par des fonctions de classe C
2
, en rgularisant
comme dans lex. III.1.12, et de passer la limite. La mise en uvre de cette stratgie
demande de prendre un peu de prcautions pour sassurer que les approximations que lon
considre sont bien des homotopies de lacets valeurs dans .
On note [x] la partie entire de x R. Soit u : [1, 2]
2
dnie par
u(s, t) =
_

_
u(0, t [t]), si s 0,
u(s, t [t]), si 0 s 1,
u(1, t [t]), si s 1.
Par construction, u est continue, concide avec u sur [0, 1]
2
, est la restriction dune fonction priodique
(en t) de priode 1, et son image concide avec celle de u. Comme [1, 2]
2
est compact, son image K par
V.1. HOMOTOPIE DE LACETS ET FORMULE DE CAUCHY 89
u est compacte, et la distance d(K, C) de K au ferm C est > 0. Il existe donc > 0 tel que
contienne K

= z C, d(z, K) . Maintenant, si > 0, soit


() = sup
(s

,t

,s,t)[1,2]
4
, |s

s|, |t

t|
[ u(s

, t

) u(s, t)[.
Comme [1, 2]
2
est compact, u est uniformment continue sur [1, 2]
2
, ce qui se traduit par () 0
quand 0. On choisit
0

1
2
, tel que () , si
0
. Finalement, on choisit : R R
+
, de classe
C
2
, nulle en dehors de [1, 1], avec
_
R
= 1, et on dnit

, par

(x) =
1
(
1
x), ce qui fait de

une fonction positive de classe C


2
sur R, nulle en dehors de [, ], avec
_
R

= 1.
On note
[2]

: R
2
R
+
la fonction dnie par
[2]

(s, t) =

(s)

(t). Si
0
, soit u

la restriction
de u
[2]

[
1
2
,
3
2
]. On a donc
u

(s, t) =
_
s+
s
_
t+
t
u(x, y)

(s x)

(t y) dy dx.
Comme [ u(x, y) u(s, t)[ (), si x [s , s + ] et y [t , t + ], on obtient
[u

(s, t) u(s, t)[ =

_
s+
s
_
t+
t
( u(x, y) u(s, t))

(s x)

(t y) dy dx

_
s+
s
_
t+
t
[ u(x, y) u(s, t)[

(s x)

(t y) dy dx

_
s+
s
_
t+
t
()

(s x)

(t y) = (),
ce qui montre que u

est valeurs dans K

, si
0
, et prouve que u

tend uniformment vers u


sur [
1
2
,
3
2
]
2
quand tend vers 0.
Par ailleurs, comme
[2]

est de classe C
2
sur R
2
et support compact, il en est de mme de u
[2]

, et
comme u(s, t +1) = u(s, t), si s [1, 2], et t [2, 0], on a u

(s, t +1) = u

(s, t), si
1
2
, si s [
1
2
,
3
2
],
et si t [
1
2
,
1
2
]. Ceci sapplique en particulier t = 0 ; on en dduit que
s,
= u

(s, ), est un lacet de


[0, 1] dans , pour tout s [
1
2
,
3
2
], et tout
0
. En rsum, on a prouv que, si
0
, u

est une
homotopie de lacets dans , de classe C
2
. On en dduit que
_

s,
f(z) dz ne dpend pas de s [
1
2
,
3
2
].
En particulier, on a
_

1/2,
f(z) dz =
_

3/2,
f(z) dz, quel que soit
0
.
Or, par construction, u(s, t) =
0
(t), si s 0. On en dduit que

1/2,
(t) =
_
1/2+
1/2
_
t+
t

0
(t)

(
1
2
x)

(t y) dxdy =
_
t+
t

0
(t)

(t y) dy = (
0

)(t),
et donc que

1/2,
=

. On a dj montr que
1/2,
(t) = u

(
1
2
, t) tend vers u(
1
2
, t) =
0
(t) ; les
mmes arguments montrent que

1/2,
(t)

0
(t), si t nest pas un point anguleux de
0
. Finalement,
si t [0, 1], on a
[f(
1/2,
(t))

1/2,
(t)[ sup
zK

[f(z)[ sup
t[0,1]
[

0
(t)[,
ce qui permet de dduire du thorme de convergence domine que, quand 0,
_

1/2,
f(z) dz =
_
1
0
f(
1/2,
(t))

1/2,
(t) dt
_
1
0
f(
0
(t))

0
(t) dt =
_

0
f(z) dz.
On montre de mme que
_

3/2,
f(z) dz
_

1
f(z) dz, et un passage la limite permet den conclure que
_

0
f(z) dz =
_

1
f(z) dz. Ceci termine la dmonstration du thorme.
90 CHAPITRE V. LA FORMULE DE CAUCHY ET CELLE DES RSIDUS (DE CAUCHY)
3. Dmonstration de la formule de Cauchy
Reprenons les notations du th. IV.2.5. Si ]0, r [z z
0
[[, soit
u(s, t) = (1 s)(z
0
+ re
2i t
) + s(z + e
2i t
) = (1 s)z
0
+ sz + ((1 s)r + s)e
2i t
.
Alors
s
(t) = u(s, t) est le cercle de centre c(s) = (1 s)z
0
+ sz et de rayon r(s) =
(1 s)r + s, parcouru dans le sens direct. On a donc
0
= C(z
0
, r) et
1
= C(z, ). Par
ailleurs, on a u(s, 0) = u(s, 1) quel que soit s [0, 1], et
[u(s, t) z[ [r(s) [c(s) z[[ = s + (1 s)(r [z z
0
[) ,
[u(s, t) z
0
[ [c(s) z
0
[ + r(s) = r s(r [z z
0
[ ) r,
ce qui prouve que u est une homotopie de lacets dans D(z
0
, r) D(z,

) z, de
C(z
0
, r) sur C(z, ).
u(0, )
1
4
u( , )
1
2
1
4
u( , )
1
2
1
2
u(0 , )
1
2
u( , )
1
2
3
4
u(1, )
1
2
z
0

c(1/4)
c(1/2)
c(3/4)
r(1/2)
r(1/4)
r
u( , )
3
4
1
4
u( , )
3
4
1
2
u( , )
3
4
3
4
u(1, )
3
4
z
u(0, )
3
4
u(0,0)
u(1,0)
u(1, )
1
4
L'homotopie de C(z
0
,r) sur C(z,)
Comme
f(w)
wz
est de classe C
1
au sens complexe (en w) sur z, on dduit du
th. V.1.3, que
1
2i
_
C(z
0
,r)
f(w)
w z
dw =
1
2i
_
C(z,)
f(w)
w z
dw, quel que soit > 0.
V.1. HOMOTOPIE DE LACETS ET FORMULE DE CAUCHY 91
Or C(, r) est le chemin t z + e
2i t
, et donc
1
2i
_
C(z,)
f(w)
wz
dw =
_
1
0
f(z + e
2i t
) dt
tend vers
_
1
0
f(z) dt = f(z) quand tend vers 0 (continuit dune intgrale dpendant
dun paramtre, f tant continue en z puisque holomorphe dans un voisinage de z). En
passant la limite, on en dduit la formule
1
2i
_
C(z
0
,r)
f(w)
wz
dw = f(z) que lon cherchait
tablir.
4. Primitives
Soit un ouvert connexe de C. Si f est holomorphe sur , on dit que F : C est
une primitive de f, si F est holomorphe sur et si F
t
= f. Si : [a, b] est un chemin
de classe C
1
, alors (F )
t
(t) = f((t))
t
(t), quel que soit t [a, b].
Une fonction holomorphe admet toujours localement une primitive. En eet, si f est ho-
lomorphe sur D(z
0
, r

), on a f(z) =

+
n=0
f
(n)
(z
0
)
n!
(z z
0
)
n
, daprs le (i) de la rem. IV.2.8,
et f admet la fonction F, dnie par F(z) =

+
n=0
f
(n)
(z
0
)
(n+1)!
(z z
0
)
n+1
, comme primitive
sur D(z
0
, r

). Par contre, une fonction holomorphe sur un ouvert quelconque nadmet


pas toujours une primitive sur tout .
Proposition V.1.5. Soit un ouvert connexe de C. Si f est holomorphe sur , les
conditions suivantes sont quivalentes :
(i) f admet une primitive F sur ;
(ii)
_

f(z) dz = 0, quel que soit le lacet de classe C


1
par morceaux, contenu dans .
Dmonstration. Si f admet une primitive F sur , alors f(z) dz = dF. On en dduit,
en utilisant le (iv) du th. IV.2.2, que si : [a, b] est C
1
, alors
_

f(z) dz = F((b))
F((a)). En particulier, si est un lacet,
_

f(z) dz = 0, puisque (b) = (a). Do


limplication (i)(ii). Passons la dmonstration de la rciproque. Fixons a , et
dnissons F : C, par F(b) =
_

f(z) dz, o est nimporte quel chemin C


1
par
morceaux dans , dextrmits a et b. Si
1
et
2
sont deux tels chemins, alors on obtient
un lacet en composant
1
avec loppos de
2
; on a donc
_

1
f(z) dz
_

2
f(z) dz =
_

f(z) dz = 0, par hypothse, ce qui prouve que F(b) ne dpend pas du chemin reliant a
b que lon a choisi, et donc que F est bien dnie.
Il sut de prouver que F est drivable au sens complexe, et quen tout point de sa
drive est f(z
0
), car la prop. IV.2.6 montre qualors F est holomorphe. Soit donc z
0
,
et soit r > 0 tel que D(z
0
, r

) . Si on xe un chemin
0
joignant a z
0
dans , et si
b D(z
0
, r

), on fabrique un chemin
b
joignant a b dans , en rajoutant le segment
[z
0
, b] au chemin
0
. On a alors
F(b) F(z
0
)
b z
0
=
1
b z
0
_
_

0
f(z) dz +
_
[z
0
,b]
f(z) dz F(z
0
)
_
=
_
1
0
f(z
0
+ t(b z
0
)) dt,
92 CHAPITRE V. LA FORMULE DE CAUCHY ET CELLE DES RSIDUS (DE CAUCHY)
et la continuit de f en z
0
permet de montrer (par exemple en utilisant le thorme
de continuit dune intgrale dpendant dun paramtre), que
F(b)F(z
0
)
bz
0
f(z
0
) quand
b z
0
. Ceci permet de conclure.
Remarque V.1.6. (i) Daprs le (ii) de la rem. V.1.4, la condition (ii) est automati-
quement vrie si est un ouvert toil ou, plus gnralement, contractile. Il en rsulte
quune fonction holomorphe sur un ouvert contractile possde une primitive.
(ii) Si a C, et si 0 < R
1
< R
2
, la fonction 1/(z a) est holomorphe sur la couronne
C(a, R
1
, R
2
), mais on a
_
C(a,r)
dz
za
= 2i ,= 0 si R
1
< r < R
2
. La fonction 1/(z a)
nadmet donc pas de primitive sur la couronne C(a, R
1
, R
2
).
Exercice V.1.7. Soit un ouvert contractile de C, et soit f holomorphe sur ne
sannulant pas sur . Montrer quil existe h holomorphe sur , telle que f = e
h
.
Exercice V.1.8. (Thorme de Morera) Soient z
0
C et r > 0.
(i) Montrer que, si f est holomorphe sur D(z
0
, r

), alors,
(1)
_
[a,b]
f(z) dz +
_
[b,c]
f(z) dz +
_
[c,a]
f(z) dz = 0 quels que soient a, b, c D(z
0
, r

).
(ii) Soit f : D(z
0
, r

) Ccontinue, et vriant la proprit (1). Soit F(z) =


_
[z
0
,z]
f(z) dz.
Montrer que
1
h
(F(z + h) F(z)) tend vers f(z), quand h tend vers 0. En dduire que F
et f sont holomorphes.
(iii) Soit un ouvert de C. Montrer que f : C est holomorphe si et seulement si
f est continue et
_
[a,b]
f(z) dz +
_
[b,c]
f(z) dz +
_
[c,a]
f(z) dz = 0 quels que soient a, b, c
tels que le triangle plein (i.e. avec son intrieur) de sommets a, b et c soit inclus dans .
V.2. La formule des rsidus de Cauchy
1. Fonctions holomorphes sur une couronne
Si z
0
C et si 0 R
1
, < R
2
, on note C(z
0
, R
1
, R
2
) la couronne ouverte des z C, avec
R
1
< [z z
0
[ < R
2
. Si R
1
= 0, on obtient le disque point ouvert de centre z
0
et de rayon
R
2
(i.e. D(z
0
, R

2
) z
0
).
Lemme V.2.1. Si f est holomorphe sur la couronne C(z
0
, R
1
, R
2
), si z C(z
0
, R
1
, R
2
),
et si R
1
< r
1
< [z z
0
[ < r
2
< R
2
, alors
f(z) =
1
2i
_
C(z
0
,r
2
)
f(w)
w z
dw
1
2i
_
C(z
0
,r
1
)
f(w)
w z
dw.
Dmonstration. Le lecteur est invit suivre les arguments qui suivent
(5)
sur un dessin.
(5)
Il peut aussi prfrer utiliser la forme gnrale de la formule de Stokes, dont on dduit directement que
_
C(z
0
,r
i
)
f(w)
wz
dw =
_

i
f(w)
wz
dw, car f est holomorphe sur louvert dlimit par C(z
0
, r
i
) et
i
.
V.2. LA FORMULE DES RSIDUS DE CAUCHY 93
R
2
R
1 r
1
r
2
R
z
0
r
z
b
a

0
'
'
2
1
Soit r < inf(r
2
[z z
0
[, [z z
0
[ r
1
) de telle sorte que D(z, r) C(z
0
, r
1
, r
2
). Soit
R ][z z
0
[ r, [z z
0
[ +r[ de telle sorte que le cercles C(z
0
, R) et C(z, r) sintersectent en
deux points a et b. Soit
0
larc du cercle C(z
0
, R) lextrieur de D(z, r), parcouru dans
le sens direct ; quitte changer les noms de a et b, cest un chemin allant de b a. Soit
t
1
(resp.
t
2
) larc du cercle C(z, r) lintrieur (resp. lextrieur) de D(z
0
, R), parcouru dans
le sens rtrograde (resp. direct) ; cest un chemin allant de a b. Si i 1, 2, soit
i
le
lacet dans C(z
0
, r
1
, r
2
) z obtenu en composant
0
, avec
t
i
; cest un lacet homotope
(6)
dans C(z
0
, R
1
, R
2
) z C(z
0
, r
i
). On a donc
_
C(z
0
,r
2
)
f(w)
w z
dw
_
C(z
0
,r
1
)
f(w)
w z
dw =
_

2
f(w)
w z
dw
_

1
f(w)
w z
dw
=
_

2
f(w)
w z
dw
_

1
f(w)
w z
dw =
_
C(z,r)
f(w)
w z
dw.
(6)
Cest parfaitement vident sur un dessin, mais on peut aussi crire une formule dhomotopie explicite.
Par exemple, pour aller de
2
C(z
0
, r
2
), on paramtre
0
par
0
(t) = z
0
+ Re
2i(t)
, o est choisit
pour que
0
(t) = b, et t [0, ], avec < 1 vriant
0
() = a, puis on paramtre

2
sous la forme

2
(t) = z + re
2i(t+)
, avec t [, 1], ce qui nous fournit un paramtrage t
2
(t), avec t [0, 1],
de
2
. Finalement, on paramtre C(z
0
, r
2
) sous la forme t (t) = z
0
+ r
2
e
2i(t)
, avec t [0, 1], et
on fabrique une homotopie u(s, t) de
2
sur C(z
0
, r
2
), en posant u(s, t) = (1 s)
2
(t) + s(t). Il reste
vrier que cette homotopie a bien lieu dans C(z
0
, R
1
, R
2
) z, ce qui est vident sur un dessin (on sest
dbrouill pour que langle entre
2
(t)z
0
et (t)z
0
soit petit, et u(s, t) parcourt le segment [
2
(t), (t)]
quand s varie de 0 1).
94 CHAPITRE V. LA FORMULE DE CAUCHY ET CELLE DES RSIDUS (DE CAUCHY)
r
2
z
0
z

2
R
1
r
1
z
0
z

1
r
2
z
0
z

2
r
1
z
0
z

1
r
1
r
2
z
0
z
-
=
-
=
On conclut en utilisant la formule de Cauchy pour la fonction f, qui est holomorphe
sur D(z, r

).
Corollaire V.2.2. Si f est holomorphe sur C(z
0
, R
1
, R
2
), il existe une unique suite
(a
n
)
nZ
dlments de C vriant
(i)

+
n=0
a
n
z
n
converge si [z[ < R
2
et

1
n=
a
n
z
n
converge si [z[
1
< R
1
1
;
(ii) f(z) est somme de la srie (de Laurent)

nZ
a
n
(z z
0
)
n
, si z C(z
0
, R
1
, R
2
).
De plus, quel que soient r ]R
1
, R
2
[ et n Z, on a
a
n
=
1
2i
_
C(z
0
,r)
(w z
0
)
n1
f(w) dw.
V.2. LA FORMULE DES RSIDUS DE CAUCHY 95
Dmonstration. Si r, r
t
]R
1
, R
2
[, les cercles C(z
0
, r) et C(z
0
, r
t
) sont homotopes dans
C(z
0
, R
1
, R
2
). Comme (z z
0
)
n1
f(z) est holomorphe dans C(z
0
, R
1
, R
2
), cela permet de
montrer que
1
2i
_
C(z
0
,r)
(z z
0
)
n1
f(z) dz ne dpend pas du choix de r ]R
1
, R
2
[ ; notons
le a
n
. Maintenant, daprs le lemme V.2.1, si R
1
< r
1
< [z z
0
[ < r
2
< R
2
, on a
f(z) =
1
2i
_
C(z
0
,r
2
)
f(w)
w z
dw
1
2i
_
C(z
0
,r
1
)
f(w)
w z
dw.
Par ailleurs,
1
w z
=
_

+
n=0
(zz
0
)
n
(wz
0
)
n+1
, si [w z
0
[ = r
2
,

+
n=0
(wz
0
)
n
(zz
0
)
n+1
=

1
n=
(zz
0
)
n
(wz
0
)
n+1
, si [w z
0
[ = r
1
.
On en dduit, en reportant les dveloppements ci-dessus dans lintgrale comme dans la
dmonstration de la prop. IV.2.6, la convergence normale (pour la norme uniforme) de la
srie

nZ
a
n
(z z
0
)
n
vers f(z) sur la couronne r
1
< [z z
0
[ < r
2
. On conclut en faisant
tendre r
1
vers R
1
et r
2
vers R
2
.
2. Fonctions holomorphes sur un disque point ; rsidus
Soient un ouvert de C, z
0
, et f holomorphe sur z
0
. Soit r > 0 tel que
D(z
0
, r

) . La fonction f est donc holomorphe sur le disque point D(z


0
, r

) z
0

qui peut aussi tre vu comme la couronne C(z


0
, 0, r). On peut donc lui appliquer les
rsultats du n
o
1, et on en dduit lexistence dune suite (a
n
)
nZ
de nombres complexes
vriant les proprits suivantes :
la srie g(z) =

+
n=0
a
n
(z z
0
)
n
converge sur D(z
0
, r

) ;
la srie h(z) =

n1
a
n
(z z
0
)
n
converge, et dnit une fonction holomorphe, sur
Cz
0
;
f(z) =

nZ
a
n
(z z
0
)
n
, quel que soit z D(z
0
, r

) z
0
.
La srie h(z) est la partie singulire de f en z
0
, et le coecient a
1
de (z z
0
)
1
est le
rsidu Res(f, z
0
) de f en z
0
.
On dit que f est holomorphe
(7)
en z
0
, si h = 0. Plus gnralement, on dit que f est
mromorphe en z
0
, sil existe k Z, avec a
n
= 0, si n k. Si k est un entier 1, on dit
que f a un ple dordre k en z
0
, si a
k
,= 0 et a
n
= 0, quel que soit n < k
(8)
. On dit
que f a une singularit essentielle en z
0
si elle nest pas mromorphe en z
0
.
On peut reformuler les dnitions ci-dessus en terme de la valuation v
z
0
(f) de f en z
0
dnie par
v
z
0
(f) = inf
nZ, a
n
,=0
Z .
(7)
Cest un abus de langage, mais cela veut dire que la fonction f peut se prolonger par continuit en z
0
,
et que la fonction obtenue est holomorphe sur D(z
0
, r

).
(8)
Une fonction est donc mromorphe si et seulement si elle est holomorphe ou a un ple dordre k, avec
k N
96 CHAPITRE V. LA FORMULE DE CAUCHY ET CELLE DES RSIDUS (DE CAUCHY)
On a alors :
v
z
0
(f) = f a une singularit essentielle en z
0
;
v
z
0
(f) > f est mromorphe en z
0
;
v
z
0
(f) = k, k N0 f a un ple dordre k en z
0
;
v
z
0
(f) 0 f est holomorphe en z
0
;
v
z
0
(f) = 0 f est holomorphe et ne sannule pas en z
0
;
v
z
0
(f) = k, k N f a un zro dordre k en z
0
;
v
z
0
(f) = + f est nulle dans la composante connexe de z
0
dans .
Dans les quivalences prcdentes, la seule que ne soit pas une reformulation de la d-
nition est la dernire, qui est une reformulation du thorme des zros isols (th. IV.1.12).
Si est un ouvert de C, on dit que f : C est mromorphe sur , si f est
mromorphe en tout point de .
Exercice V.2.3. Montrer que f est mromorphe sur , si et seulement si tout point z
0
de a un voisinage
(9)
ouvert U sur lequel f peut scrire sous la forme f =
g
h
, avec g et
h holomorphes sur U.
Exercice V.2.4. Soit H = z C, Im(z) > 0 le demi-plan de Poincar, et soit
f : H C une fonction holomorphe, priodique de priode 1.
(i) Montrer quil existe

f : D(0, 1

) 0 C, holomorphe, telle que f(z) =



f(e
2i z
).
(ii) En dduire quil existe une suite (a
n
(f))
nZ
de nombres complexes, telle que lon ait
f(z) =

nZ
a
n
(f)e
2i nz
, quel que soit z H , la srie tant normalement convergente
sur toute bande horizontale a Im(z) b, avec 0 < a < b < +.
Exercice V.2.5. Soit (x
n
)
nN
une suite dlments de C

tendant vers linni, et soit


(k
n
)
nN
une suite dlments de N.
(i) Montrer quil existe a
n
N tel que, si [z[ <
[x
n
[
2
, alors

_
_
1
z
x
n
_
e
z
x
n
+
z
2
2x
n
++
z
a
n
a
n
x
n
_
k
n
1

2
n
.
(ii) En dduire lexistence dune fonction f holomorphe sur C dont les zros sont les x
n
avec multiplicit k
n
.
(iii) Montrer que toute fonction mromorphe sur C est quotient de deux fonctions
holomorphes sur C.
(iv) Montrer, en adaptant la mthode, que toute fonction mromorphe sur D(0, 1

) est
quotient de deux fonctions holomorphes sur D(0, 1

).
Exercice V.2.6. Soient R > 0 et f holomorphe sur D(z
0
, R

) z
0
. Montrer que :
(9)
On peut montrer que lon peut crire f =
g
h
, avec g et h holomorphes sur tout entier, mais cest loin
dtre vident si est un ouvert quelconque.
V.2. LA FORMULE DES RSIDUS DE CAUCHY 97
(i) f est holomorphe en z
0
, si et seulement si f est borne dans D(z
0
, r) z
0
, quel
que soit r ]0, R[ (on pourra sintresser
1
2i
_
C(z
0
,r)
(z z
0
)
1n
f(z) dz) ;
(ii) f est mromorphe non holomorphe en z
0
si et seulement si [f(z)[ tend vers +
quand z tend vers z
0
;
(iii) f a une singularit essentielle en z
0
si et seulement si limage de D(z
0
, r

) z
0

par f est dense


(10)
dans C, quel que soit r ]0, R[.
Exercice V.2.7. (i) Soit f : C C holomorphe. Montrer, en utilisant lexercice pr-
cdent, que si f nest pas un polynme, alors f(C D(0, n)) est un ouvert dense de C,
quel que soit n N. En dduire que f nest pas injective.
(ii) Montrer que si f : C C est holomorphe bijective, alors il existe a C

et b C
tels que f(z) = az + b, quel que soit z C.
Pour un certain nombre dapplications, il est important de savoir calculer explicitement
le rsidu Res(f, z
0
) de f en z
0
. Lexercice ci-dessous fournit quelques recettes
(11)
.
Exercice V.2.8. Soient un ouvert de C et z
0
.
(i) Si f est holomorphe en z
0
, alors Res(f, z
0
) = 0.
(ii) Si f =
g
h
, o g et h sont holomorphes sur , si g(z
0
) ,= 0, et si h a un zro simple
en z
0
, alors Res(f, z
0
) =
g(z
0
)
h

(z
0
)
.
(iii) Si f a un ple simple en z
0
, et si g est holomorphe en z
0
, alors Res(gf, z
0
) =
g(z
0
)Res(f, z
0
).
(iv) Si k 1, et f = (z z
0
)
k
g, o g est holomorphe sur , alors Res(f, z
0
) =
g
(k1)
(z
0
)
(k1)!
.
(v) Si f est mromorphe sur , alors
f

f
est mromorphe sur , avec des ples simples
aux ples et zros de f, et on a
Res(
f
t
f
, z
0
) = v
z
0
(f), quel que soit z
0
.
Exercice V.2.9. Soit R

+
. Calculer Res(
1
z
2
+
2
e
1/z
, 0).
3. Indice dun lacet par rapport un point
Soit z
0
C, et soit un lacet ne passant pas par z
0
. Notre but est de dnir math-
matiquement le nombre de tours que fait autour de z
0
.
(10)
Le grand thorme de Picard arme quen fait limage de D(z
0
, r

) z
0
par f contient C au
plus un point prs (lexemple de e
1/z
montre que ce rsultat est optimum). La dmonstration repose sur
des techniques un peu plus sophistiques que celles introduites dans ce cours (cf. cours Revtements et
surfaces de Riemann de J. Lannes en seconde anne).
(11)
Si f a une singularit essentielle, il est en gnral impossible de trouver une expression nie du
rsidu. Cest une des raisons qui fait que certaines intgrales rsistent la mthode des rsidus (cf.
exercices du n
o
5).
98 CHAPITRE V. LA FORMULE DE CAUCHY ET CELLE DES RSIDUS (DE CAUCHY)
3.1. Dnition
Lemme V.2.10. Soit : [a, b] C z
0
un chemin C
1
par morceaux. Si t [a, b],
soit
t
la restriction de [a, t], et soit f(t) =
_

t
dz
zz
0
. Alors e
f(t)
((t)z
0
) est constante
sur .
Dmonstration. Par dnition, on a f(t) =
_
t
0

(u)
(u)z
0
du, et donc f
t
(t) =

(t)
(t)z
0
, si t
nest pas un point anguleux de . La drive de e
f(t)
((t) z
0
) est donc
f
t
(t)e
f(t)
((t) z
0
) + e
f(t)

t
(t) = e
f(t)
(

t
(t)
(t) z
0
((t) z
0
) +
t
(t)) = 0,
ce qui montre que f est constante par morceaux, et comme elle est continue cela permet
de conclure.
Corollaire V.2.11. Si : [a, b] C est un lacet C
1
par morceaux, ne rencontrant
pas z
0
, alors I(, z
0
) =
1
2i
_

dz
zz
0
est un entier.
Dmonstration. En reprenant les notations du lemme, on voit que e
f(b)
= e
f(a)
(b)z
0
(a)z
0
,
et, comme est un lacet, que exp(
_

dz
zz
0
) = e
f(b)
= e
f(a)
= 1, ce qui permet de conclure.
Lentier I(, z
0
) dni ci-dessus est lindice de par rapport z
0
. Par exemple, si
est le chemin C(a, r), et si [z
0
a[ < r, la formule de Cauchy utilise pour la fonction
constante 1, montre que I(C(a, r), z
0
) = 1. Par contre, si [z
0
a[ > r, le cercle C(z
0
, r)
est homotope a dans C z
0
, et comme
1
zz
0
est holomorphe sur C z
0
, on a
I(C(a, r), z
0
) = 0. Autrement dit, si z
0
est lintrieur du cercle parcouru dans le sens
direct, alors lindice du cercle par rapport z
0
est 1, alors que si z
0
est lextrieur, cet
indice est 0, ce qui est en accord avec lide selon laquelle I(, z
0
) reprsente le nombre de
tours que fait autour de z
0
. On fera attention au fait que, si le cercle est parcouru dans
le sens rtrograde, son indice par rapport un point lintrieur est 1.
3.2. Dtermination visuelle de lindice dun lacet par rapport un point
Dans les applications que lon verra dans ce cours, les lacets considrs seront sans point
double, et un thorme de Jordan arme quun tel lacet dcoupe le plan en deux rgions,
lune lintrieur du lacet et lautre lextrieur du lacet, auquel cas on se retrouve dans
le mme cas de gure que pour le cercle. Dans le cas gnral, dterminer sur un dessin
lindice dun lacet par rapport un chemin peut donner le tournis, mais la prop. V.2.12
ci-dessous fournit un procd permettant un calcul en regardant toujours droit devant
soi. La recette est la suivante. On choisit un point a C assez grand pour que que
D(0, [a[

), et on trace un chemin u allant de a z


0
. Alors I(, z
0
) = n
g
n
d
, o n
g
V.2. LA FORMULE DES RSIDUS DE CAUCHY 99
(resp. n
d
) est le nombre de points dintersections de u et , o arrive de la gauche
(12)
(resp. de la droite), quand on va de a z
0
.
a
0
1
1
2
2
3
3 z
0
z
1
1
0
1
0
1
0
1
0
b

I(,z
0
)=3 I(,z
1
)=1
-1
0
z
2
I(,z
2
)=1
c
Soit un lacet dans C. Comme est compact (en tant quimage dun intervalle compact par une
application continue), son complmentaire est ouvert, et chacune des composantes connexes du compl-
mentaire est un ouvert. Dautre part, si R est assez grand, est inclus dans D(0, R), et comme CD(0, R)
est connexe, une (et une seule) des composantes connexes de C contient C D(0, R), pour R assez
grand. Cette composante connexe est la composante connexe de linni.
Proposition V.2.12. Soit un lacet C
1
par morceaux.
(i) z I(, z) est constant sur chacune des composantes connexes de C.
(ii) I(, z) = 0 si z est dans la composante connexe de linni de C.
(iii) Soit t (t), t [a, b] un paramtrage de , C
1
par morceaux, et soit t
0
]a, b[ tel que (t
0
) soit
un point simple de , et

(t
0
) ,= 0. Si h C vrie Im(h) > 0, et si > 0 est assez petit, alors
(t
0
) + h

(t
0
) et (t
0
) h

(t
0
) nappartiennent pas ,
(12)
Pour que ceci ait un sens, il vaut mieux prendre quelques prcautions ; par exemple, imposer que u
et ne sintersectent quen des points simples non anguleux de , et que les tangentes et u en un
point dintersection ne soient pas colinaires.
100 CHAPITRE V. LA FORMULE DE CAUCHY ET CELLE DES RSIDUS (DE CAUCHY)
I(, (t
0
) + h

(t
0
)) I(, (t
0
) h

(t
0
)) = 1.
Dmonstration. Le thorme de continuit dune intgrale dpendant dun paramtre montre que
z
0
I(, z
0
) est continue sur C, et comme I(, z
0
) est valeurs dans Z, qui est discret, cela dmontre
le (i).
Si D(0, R), et si [z
0
[ > R, alors est homotope un point dans Cz
0
(et mme dans D(0, R),
puisque D(0, R) est contractile), et comme
1
zz
0
est holomorphe sur C z
0
, on a
_

dz
zz
0
= 0. On en
dduit le (ii) pour [z
0
[ > R, et le (i) permet de terminer la dmonstration du (ii).
Passons la dmonstration du (iii). Choisissons h C, avec Im(h) > 0. On a donc 0 < arg(h) < .
Quitte faire une translation sur la variable, on peut supposer t
0
= 0, et quitte transformer la situation
par la similitude z

(t
0
)
1
(z (t
0
)), on peut supposer que (t
0
) = 0, et

(t
0
) = 1, ce qui permet de
simplier un peu les formules. On a alors lim
t0
t
1
(t) = 1, ce qui implique quil existe > 0 tel que,
quel que soit t [, ] 0,
[arg(t
1
(t))[ <
1
2
inf(arg(h), (arg(h)),
[t
1
(t) 1[ 1/2.
Par ailleurs, comme 0 = (0) est un point simple de , il existe > 0 tel que d(0, (t)) , si
t [a, b]] , [. On en dduit que, si 0 < < [h[
1
, alors h nest pas de la forme (t), avec
t [a, b]] , [. Par ailleurs, h nest pas non plus de la forme (t), avec t [, ], puisque h ,= 0
et arg(
h
(t)
) ,= 0, si t [, ] 0, daprs le choix de . En rsum, si 0 < < [h[
1
, alors h
nappartient pas .
Maintenant, on a I(, h) I(, h) = I
1
() + I
2
(), o lon a pos
I
1
() =
1
2i
_
([a,]([,b])
dz
z h

dz
z + h
et I
2
() =
1
2i
_
([,])
dz
z h

dz
z + h
.
On a lim
0
+ I
1
() = 0, puisque
1
zh

1
z+h
tend vers 0 et est major en module par
2
|h|
. Comme
I(, h) I(, h) Z, il sut donc, pour montrer que I(, h) I(, h) = 1, si > 0 est assez petit,
de prouver que lim
0
+ I
2
() = 1. Pour cela, crivons 2iI
2
() sous la forme
2iI
2
() =
_
([,])
2h
z
2

2
h
2
dz =
_

2h

(t)
(t)
2

2
h
2
dt =
_
/
/
2h

(t)

2
(t)
2
h
2
dt.
Lexpression sous lintgrale tend vers
2h
t
2
h
2
quand tend vers 0 et t R. Par ailleurs, daprs le choix de
, il existe c > 0 tel que 2c > arg(h
2
(u)
2
) > c, si u [, ] ; on en dduit lexistence de C > 0 (avec
C = 1, si cos c 0, et C = [ sin c[, si cos c 0) tel que [(t)
2
h
2
[ Csup([(t)
2
[, [h
2
[), quels que
soient , R
+
. Comme [(u)[
1
2
[u[, et comme il existe M 0 tel que [

(u)[ M, si u [, ], on
peut majorer, en module,
2h

(t)

2
(t)
2
h
2
sur [/, /], par
2|h|M
Csup(t
2
/4,|h|
2
)
, qui est une fonction sommable
sur R, indpendante de . On obtient donc, via le thorme de continuit dune intgrale dpendant dun
paramtre,
lim
0
+
2iI
2
() =
_
+

2h
t
2
h
2
dt.
Finalement, en posant h = + i, avec > 0 par hypothse, cette dernire intgrale devient.
_
+

dt
t h

dt
t + h
=
_
+

(t ) + i
(t )
2
+
2

(t + ) i
(t + )
2
+
2
dt
=
_
1
2
log
(t )
2
+
2
(t + )
2
+
2

+ i
_
artg
t

+ artg
t +

= 2i,
ce qui permet de conclure. (On peut fabriquer (exercice) une dmonstration de ce que I
2
() 1 en
remarquant quau voisinage de 0, est le graphe dune fonction, ce qui permet dcrire 2i I
2
() comme
V.2. LA FORMULE DES RSIDUS DE CAUCHY 101
lintgrale de
dz
z
sur un contour C

ressemblant un paralllogramme de sommets h, priv des


cots verticaux (dont la longueur tend vers 0). La formule des rsidus montre que lintgrale sur C

est
gale 2i. On vite de cette manire les majorations ci-dessus.)
4. La formule des rsidus
Thorme V.2.13. Soient un ouvert de C, F un ensemble ni de points de ,
f une fonction holomorphe sur F, et un lacet de , contractile dans , et ne
rencontrant pas F. Alors
_

f(z) dz = 2i

aF
I(, a)Res(f, a).
Dmonstration. Si a F, et si r
a
> 0 est tel que D(a, r

a
) est inclus dans et ne
contient aucun autre point de F, alors il existe une suite (c
a,n
)
nZ
dlments de C, telle
que f(z) =

nZ
c
a,n
(z a)
n
, si z D(a, r

a
). De plus, la srie

n2
c
a,n
(z a)
n
dnit une fonction holomorphe g
a
dans Ca, et g
a
admet G
a
(z) =

n2
c
a,n
(za)
n+1
n+1
comme primitive sur Ca. Soit alors h = f

aF
(g
a
+
c
a,1
za
). Par construction, h est
holomorphe sur F, et a une singularit ctive en tous les points de F; elle se prolonge
donc, par continuit, en une fonction holomorphe sur tout entier. On a alors

f(z) dz =
_

h(z) dz +

aF
_

g
a
(z) dz +

aF
c
a,1
_

dz
za
;

h(z) dz = 0 puisque h est holomorphe dans et est contractile dans ;

g
a
(z) dz = 0, si a F, puisque g
a
a une primitive sur a qui contient ;
c
a,1
= Res(f, a) et
_

dz
za
= 2i I(, a), par dnition.
Ceci permet de conclure.
5. Exercices
Exercice V.2.14. Soit f dnie sur Rpar f(t) = e
t
2
. On rappelle que
_
R
e
t
2
dt = 1.
(i) Montrer que f se prolonge analytiquement en une fonction (encore note f) holo-
morphe sur C.
(ii) Si a R et R R
+
, soit
a,R
le lacet compos des segments [R, R], [R, R + ai],
[R + ai, R + ai] et [R + ai, R]. Que vaut
_

a,R
f(z) dz ?
(iii) En dduire, en faisant tendre R vers +, que

f(a) = e
a
2
.
Exercice V.2.15. Calculer les intgrales suivantes par la mthode des rsidus :
(a)
_
R
dx
(x
2
+1)(x
2
+2)(x
2
+3)
et
_
R
dx
(x+i)(xi)(x2i)(xni)
. (On prendra un lacet form du
segment [R, R] et dun demi-cercle convenable.)
(b) lim
R+
_
R
R
x
5
(x
2
+1)(x
2
+2)(x
2
+x+1)
dx.
(c)
_
+
0
x
a
x
b
+1
dx, avec a, b N et b a + 2. (On prendra un lacet form du segment
[0, R], dun arc de cercle convenable, et dun segment [Re
i
, 0], avec bien choisi.)
102 CHAPITRE V. LA FORMULE DE CAUCHY ET CELLE DES RSIDUS (DE CAUCHY)
Exercice V.2.16. Soit
,R
le lacet compos du segment [, R], du demi-cercle C
+
(0, R) :
[0, ] C, donn par t Re
it
, du segment [R, ], et demi-cercle C
+
(0, )
opp
, donn
par t e
i(t)
. (Faire un dessin.)
(i) Calculer
_

,R
e
iz
z
dz via la formule des rsidus.
(ii) Montrer que
_
C
+
(0,R)
e
iz
z
dz 0 quand R +.
(iii) Calculer la limite de
_
C
+
(0,)
opp
e
iz
z
dz quand 0.
(iv) En dduire que
_
+
0
sin x
x
dx =

2
.
Exercice V.2.17. (transformes de Fourier de fonctions rationnelles)
(i) Calculer
_
R
e
2i t
t
2
+1
dt et
_
R
e
2i t
(t+i)
2
dt par la mthode des rsidus. (On prendra un
lacet form du segment [R, R] et dun demi-cercle convenable
(13)
)
(ii) Calculer de mme lim
R+
_
R
R
t e
2i t
t
2
+t+1
dt.
Exercice V.2.18. Nous nous proposons de calculer
_
+
0
t
s
t
2
+t+1
dt, pour 1 < Re(s) < 1
par la mthode des rsidus (on peut adapter ce qui suit pour calculer les intgrales du
type
_
+
0
f(t)t
s
dt, o f est une fraction rationnelle). Si r > 0, on note C
+
(0, r) le demi-
cercle re
i
, pour [0, ] et C

(0, r) le demi-cercle re
i
, pour [, 0]. Si
0 < < R, soit
+
,R
le lacet obtenu en composant C
+
(0, R), [R, ], C
+
(0, )
opp
et [, R]
(faire un dessin !), et soit

,R
le lacet obtenu en composant C

(0, R), [R, ], C

(0, )
opp
et [, R].
(i) Calculer
_

+
,R
(z)
s
z
2
+z+1
dz et
_

,R
(z)
s
z
2
+z+1
dz en utilisant la formule des rsidus, avec
log(z) R, si z R

. (Attention la dtermination du logarithme !).


(ii) Montrer que les intgrales sur les demi-cercles tendent vers 0 quand tend vers 0
et R vers +.
(iii) Conclure, si s ,= 0, en considrant
_

+
,R
(z)
s
z
2
+z+1
dz +
_

,R
(z)
s
z
2
+z+1
dz.
(iv) En dduire le cas s = 0. (Ce nest srement pas la mthode la plus rapide si on doit
tout justier, mais une fois quon a compris comment elle marche, on peut se contenter
du calcul des rsidus, et cest trs ecace).
Exercice V.2.19. Soit P C[X] unitaire de degr n. Calculer
lim
R+
1
2i
_
C(0,R)
P
t
(z)
P(z)
dz.
En dduire que C est algbriquement clos.
Exercice V.2.20. (Localisation des zros dune fonction holomorphe) Soit un ouvert
connexe de C, et soient z
0
et r > 0 tels que D(z
0
, r) . Soit f une fonction
(13)
Une manire de voir que lon a pris le bon demi-cercle est de vrier que ce quon obtient tend vers 0
quand [[ +; il faut aussi faire attention lindice du lacet par rapport aux ples...
V.2. LA FORMULE DES RSIDUS DE CAUCHY 103
holomorphe non identiquement nulle sur . On suppose que C(z
0
, r) ne contient aucun
zro de f.
(i) Montrer que
1
2i
_
C(z
0
,r)
f

(z)
f(z)
dz est le nombre de zros de f, compts avec multiplicit,
dans D(z
0
, r

).
(ii) Soit f
n
une suite de fonctions holomorphes tendant vers f uniformment sur tout
compact de . Montrer quil existe N(z
0
, r) tel que, si n N(z
0
, r), alors f et f
n
ont le
mme nombre de zros, compts avec multiplicit, dans D(z
0
, r

).
(iii) Montrer que, si f
n
est injective sur , pour tout n assez grand, il en est de mme
de f.
Exercice V.2.21. Soit la fonction mromorphe sur C, holomorphe en dehors de ples
simples en les entiers ngatifs, dnie par (z) =
_
+
0
e
t
t
z dt
t
, si Re(z) > 0. On rappelle
(cf. ex. IV.2.17) que lon a (z) =
(z+n+1)
z(z+1)(z+n)
, quel que soit n N.
(i) Montrer que lim
zn
(z + n)(z) =
(1)
n
n!
.
(ii) Montrer que, si x > 0, et si c / N, alors I
c
(x) =
_
c+i
ci
x
z
(z) dz converge.
(iii) Si n N, calculer I
1
(x) I1
2
n
(x) par la mthode des rsidus.
(iv) Montrer que I1
2
n
(x) 0. En dduire que
1
2i
_
1+i
1i
x
z
(z) dz = e
x
.
(v) Retrouver le rsultat en utilisant la transforme de Fourier.
Exercice V.2.22. Si N N, soit C
N
le carr de sommets (2N + 1)(1 i) parcouru
dans le sens direct, et soit I
N
=
_
C
N
dz
z
2
(e
z
1)
.
(i) Calculer I
N
en utilisant la formule des rsidus.
(ii) Montrer que I
N
0 quand N +.
(iii) En dduire la formule (2) =

2
6
.
(iv) Soient B
n
, pour n N, dnis par
z
e
z
1
=

+
n=0
B
n
z
n
n!
. Adapter ce qui prcde pour
calculer (2k), pour k N0, en fonction des B
n
. En dduire que
2k
(2k) Q.
Exercice V.2.23. Calculer
_
R
e
2i t e
t
e
2t
+1
dt de deux manires : dune part en intgrant
e
2i z e
z
e
2z
+1
dz sur un rectangle convenable, en faisant tendre les sommets vers linni,
dautre part en crivant
e
t
e
2t
+1
comme une srie en e
t
ou e
t
suivant que t est ngatif
ou positif. Comparer avec lex. IV.2.13.
CHAPITRE VI
SRIES DE DIRICHLET
Une srie de Dirichlet gnrale est une expression de la forme

+
n=1
a
n
e

n
s
, o les a
n
sont des nombres complexes, et les
n
sont des nombres complexes dont la partie relle
tend vers +. (Si
n
= n1 pour tout n, on retombe, modulo le changement de variable
e
s
= z, sur le cas des sries entires (avec une indexation bizarre), ce qui permet de voir
les sries de Dirichlet gnrales comme une gnralisation des sries entires.) Dans ce
chapitre, nous ne nous intresserons quau cas o
n
= log n, pour tout n, qui est le cas
originellement considr par Dirichlet, mais le cas gnral intervient naturellement quand,
par exemple, on essaie de dnir le dterminant dun oprateur en dimension innie, ce
qui a de multiples applications en physique et en mathmatiques. Comme illustration de
ce procd de zta-rgularisation , mentionnons la formule
1 2 3 4 5 =

2,
quivalente

+
n=1
log n =
1
2
log 2, dans laquelle le membre de gauche sinterprte
comme la drive en 0 de la fonction dnie par (s) =

+
n=1
1
n
s
, si Re(s) > 1, et
prolonge analytiquement
(1)
C1.
VI.1. Sries de Dirichlet
1. Gnralits
On appelle srie de Dirichlet une srie de la forme L(a, s) =

+
n=1
a
n
n
s
, o s C et
a = (a
n
)
n1
est une suite de nombres complexes (et n
s
= exp(s log n), o log n R
+
).
Une srie de Dirichlet peut ne converger pour aucune valeur de s, mais si elle converge
pour s
0
, on a en particulier, a
n
n
s
0
0, et donc [a
n
[ = o(n
Re(s
0
)
). Rciproquement,
si [a
n
[ = O(n

), pour un certain R, alors



+
n=1
a
n
n
s
converge normalement sur
tout demi-plan de la forme Re(s) > + 1 + , avec > 0 ; elle dnit donc une fonction
holomorphe sur le demi-plan Re(s) > +1. De mme, si

+
n=1
a
n
n
s
converge absolument
(1)
Lexistence de ce prolongement analytique fait lobjet du th. VI.3.4, et une dmonstration de la formule

(0) =
1
2
log 2 est propose dans lex. VI.3.8.
106 CHAPITRE VI. SRIES DE DIRICHLET
pour s = s
0
, alors elle converge normalement sur le demi-plan Re(s s
0
) 0, puisque
[a
n
n
s
[ [a
n
n
s
0
[ sur ce demi-plan ; elle dnit donc une fonction holomorphe sur le
demi-plan ouvert Re(s s
0
) > 0, qui se prolonge par continuit au demi-plan ferm
Re(s s
0
) 0.
La discussion prcdente amne naturellement dnir les lments suivants de R :

conv
= infRe(s), L(a, s) converge abscisse de convergence ;

abs
= infRe(s), L(a, s) converge absolument abscisse de convergence absolue ;

hol
= inf R, L(a, s) admet un prolongement holomorphe sur Re(s) > .
= inf R, a
n
= O(n

).
Le nombre na pas de signication particulire, mais des quantits prcdentes, cest
la plus facile calculer ; de plus la discussion ci-dessus nous fournit les encadrements :

conv

abs
+ 1.
Contrairement au cas des sries entires, on a, en gnral
(2)
,
conv
,=
abs
, et la dtermina-
tion de
conv
peut cacher des dicults redoutables... Dautre part, daprs le cor. VI.1.4
ci-dessous, on a
hol

conv
, et le cas des fonctions L de Dirichlet (th. VI.4.4) montre
que, contrairement au cas des sries entires, on na pas toujours galit. La quantit
hol
est trs souvent extrmement dicile calculer. Une grande partie du programme de
Langlands (cf. annexe C) est destine prouver que pour beaucoup de sries de Dirichlet
issues de la thorie des nombres, on a
hol
= (autrement dit que ces sries ont un
prolongement analytique tout le plan complexe).
2. Demi-plan de convergence dune srie de Dirichlet
Ltude de la convergence des sries de Dirichlet repose sur lemme suivant.
Lemme VI.1.1. Soient , R, avec 0 < < . Soit z = x + iy, avec x, y R, et
x > 0. Alors
[e
z
e
z
[

z
x

(e
x
e
x
).
Dmonstration. On a e
z
e
z
= z
_

e
tz
dt, et donc
[e
z
e
z
[ [z[
_

e
tx
dt =

z
x

(e
x
e
x
).
(2)
Supposons par exemple que a
n
1, pour tout n 1. On a alors
abs
= 1. Pour tudier
conv
, on
peut utiliser la formule sommatoire dAbel : on pose A
n
=

n
k=1
a
k
de telle sorte que
N

n=1
a
n
n
s
=
A
N
(N + 1)
s
+
N

n=1
A
n
(n
s
(n + 1)
s
) =
A
N
(N + 1)
s
+
N

n=1
A
n
n
s+1
_
n
_
1
_
1 +
1
n
_
s
__
.
On en dduit le fait que, si A
n
= O(n

), avec < 1, alors


conv
. Or Hausdor (1913) a dmontr
que, presque srement (en considrant les a
n
comme des variables alatoires indpendantes valeurs
dans 1 muni de lquiprobabilit), A
n
= O(n
1/2+
), quel que soit > 0, et donc
conv
1/2 presque
srement (et 1/2 est srement dirent de 1).
VI.1. SRIES DE DIRICHLET 107
En appliquant ce lemme = log n, = log(n+1) et z = s s
0
, on obtient le rsultat
suivant.
Corollaire VI.1.2. Si n 1, et si Re(s s
0
) > 0, alors
[n
(ss
0
)
(n + 1)
(ss
0
)
[
[s s
0
[
Re(s s
0
)
(n
Re(ss
0
)
(n + 1)
Re(ss
0
)
).
Thorme VI.1.3. Soit L(a, s) =

+
n=1
a
n
n
s
une srie de Dirichlet, et soit s
0
C.
(i) Si la suite des sommes partielles A
n
(s
0
) =

n
k=1
a
k
k
s
0
est borne, alors L(a, s)
converge uniformment dans tout compact du demi-plan Re(s s
0
) > 0.
(ii) Si la srie

+
n=1
a
n
n
s
0
converge, alors L(a, s) converge uniformment dans tout
secteur angulaire [arg(s s
0
)[ <

2
du demi-plan Re(s s
0
) 0.
Dmonstration. La dmonstration est la mme dans les deux cas et repose sur la formule
sommatoire dAbel. Si p, q N vrient p q, soit
M
p,q
= sup
pnq
[B
n,p
[, avec B
n,p
= A
n
(s
0
) A
p1
(s
0
)
(et A
0
(s
0
) = 0, puisquune somme vide est nulle par convention). On a
q

n=p
a
n
n
s
=
q

n=p
(B
n,p
B
n1,p
)n
(ss
0
)
=B
q,p
q
(ss
0
)
+
q1

n=p
B
n,p
(n
(ss
0
)
(n + 1)
(ss
0
)
).
Si Re(s s
0
) > 0, en utilisant la majoration du cor. VI.1.2, lingalit 1
[ss
0
[
Re(ss
0
)
, et la
dnition de M
p,q
, on en dduit la majoration

n=p
a
n
n
s

M
p,q
_
q
Re(ss
0
)
+
[s s
0
[
Re(s s
0
)
q1

n=p
(n
Re(ss
0
)
(n + 1)
Re(ss
0
)
)
_
M
p,q
[s s
0
[
Re(s s
0
)
p
Re(ss
0
)
.
Maintenant, si [A
n
(s
0
)[ M, quel que soit n N, on a M
p,q
2M quels que soient
p q. Par ailleurs, si K est un compact du demi-plan Re(s s
0
) > 0, alors il existe
a > 0 et b > 0 tels que [s s
0
[ a et Re(s s
0
) b, quel que soit s K. On a donc

q
n=p
a
n
n
s

2Mab
1
p
b
, si s K, ce qui prouve que la srie

n1
a
n
n
s
satisfait au
critre de Cauchy uniforme sur K. On en dduit le (i).
Pour dmontrer le (ii), il sut de constater que lhypothse selon laquelle

n1
a
n
n
s
0
converge est quivalente M
p,q
0 quand p + daprs le critre de Cauchy. Comme
[ss
0
[
Re(ss
0
)
est major par tg sur le secteur angulaire [arg(s s
0
)[ <

2
du demi-
plan Re(s s
0
) 0, et comme p
Re(ss
0
)
1 sur le demi-plan, on en dduit que la
108 CHAPITRE VI. SRIES DE DIRICHLET
srie

n1
a
n
n
s
satisfait au critre de Cauchy uniforme sur le secteur angulaire, ce qui
dmontre le (ii).
Corollaire VI.1.4. Soit L(a, s) =

n1
a
n
n
s
une srie de Dirichlet, et soit
conv
R
labscisse de convergence de L(a, s). Alors L(a, s) converge en tout s du demi-plan Re(s) >

conv
et dnit une fonction holomorphe sur ce demi-plan, et donc
hol

conv
.
Dmonstration. Par dnition de
conv
, il existe, quel que soit > 0, s

C, avec
Re(s

)
conv
+ , tel que L(a, s

) soit convergente. Alors, daprs le th. VI.1.3, la srie


L(a, s) converge pour tout s du demi-plan Re(s) >
conv
+ , car ce demi-plan est une
runion de secteurs angulaires de sommet s

, et comme ceci est vrai pour tout > 0,


cela prouve que L(a, s) converge en tout s du demi-plan Re(s) >
conv
. Lholomorphie
de L(a, s) sur ce demi-plan suit de ce quune fonction qui est limite uniforme sur tout
compact de fonctions holomorphes est elle-mme holomorphe (th. IV.2.11).
3. Sries de Dirichlet coecients positifs
Thorme VI.1.5. (Landau) Soit L(a, s) =

n1
a
n
n
s
une srie de Dirichlet coe-
cients positifs (i.e. a
n
R
+
, quel que soit n 1). Supposons que labscisse de convergence

abs
de L(a, s) est nie. Alors
abs
na aucun voisinage dans C sur lequel L(a, s) admet
un prolongement analytique
(3)
.
Corollaire VI.1.6. Si L(a, s) =

n1
a
n
n
s
est une srie de Dirichlet coecients
positifs, alors
hol
=
conv
=
abs
.
Dmonstration. Le corollaire est immdiat. Passons la dmontration du thorme.
Posons =
abs
, et supposons, par labsurde, quil existe > 0 tel que L(a, s) admette un
prolongement analytique au disque D(, 3

). Alors L(a, s) est holomorphe sur louvert


runion de D(, 3

) et du demi-plan Re(s) > . Comme contient D( + , 3

),
L(a, s) est somme de sa srie de Taylor en + sur ce disque, et en particulier, on a
L(a, ) =

+
k=0
L
(k)
(a,+)
k!
(2)
k
. Par ailleurs, comme + est dans le demi-plan de
convergence de L(a, s), on peut, daprs le th. IV.2.11, calculer L
(k)
(a, + ) en drivant
terme terme la srie de Dirichlet. On obtient donc
L(a, ) =
+

k=0
L
(k)
(a, + )
(2)
k
k!
=
+

k=0
_
+

n=1
a
n
(log n)
k
n
+
_
(2)
k
k!
.
(3)
Il arrive que L(a, s) admette un prolongement mromorphe comme le montre le cas de la fonction zta
de Riemann (cf. th. VI.3.4), mais alors
abs
est un ple de ce prolongement.
VI.2. SRIES DE DIRICHLET ET TRANSFORME DE MELLIN 109
En faisant rentrer le
(2)
k
k!
lintrieur de la parenthse, on obtient une srie double
termes positifs, ce qui permet dchanger lordre des sommations, et dobtenir :
L(a, ) =
+

n=1
a
n
n
+
_
+

k=0
(2 log n)
k
k!
_
=
+

n=1
a
n
n
+
n
2
=
+

n=1
a
n
n

.
On en dduit que L(a, s) converge en , ce qui est contraire la dnition de . Ceci
permet de conclure.
VI.2. Sries de Dirichlet et transforme de Mellin
1. La fonction dans le plan complexe
On rappelle que la constante dEuler est la limite de log n+

n
k=1
1
k
, quand n +.
Thorme VI.2.1. (i) Le produit
f(z) = z e
z
+

k=1
_
_
1 +
z
k
_
e
z/k
_
est uniformment convergent sur tout compact de C, et concide avec
1

sur R

+
.
(ii) La fonction complexe dnie par (z) =
1
f(z)
est mromorphe sur C, holomorphe
en dehors de ples simples aux entiers ngatifs, de rsidu
(1)
n
n!
en n, si n N. De plus,
on a (z + 1) = z(z), quel que soit z C(N).
Dmonstration. La fonction h(z) = z
2
((1 +z)e
z
1) est holomorphe sur C, et donc
est borne sur tout compact. En particulier, il existe M tel que [(1 + z)e
z
1[ M[z
2
[,
si [z[ 1. Maintenant, si K est un compact, il existe R(K) tel que [z[ R(K), quel que
soit z K, et on a [
_
1 +
z
k
_
e
z/k
1[
MR(K)
2
k
2
, si k R(K) et z K. On en dduit la
convergence uniforme du produit sur K, et le th. IV.2.14, montre que f est une fonction
holomorphe sur C avec des zros simples en 0 et les k, pour k N 0. En passant
linverse, cela montre que est mromorphe sur C, holomorphe en dehors de ples
simples aux entiers ngatifs.
Maintenant, si x R

+
, on a, daprs la formule de Gauss (cf. ex.II.2.5),
1
(x)
= lim
n+
x(x + 1) (x + n)
n!n
x
= x lim
n+
e
xlog n
n

k=1
_
1 +
x
k
_
= xe
x
_
lim
n+
e
(1++1/n)x
n

k=1
_
1 +
x
k
_
_
= x e
x
lim
n+
n

k=1
_
_
1 +
x
k
_
e
x/k
_
,
ce qui permet de montrer que f concide avec
1

sur R

+
.
110 CHAPITRE VI. SRIES DE DIRICHLET
Finalement, les fonctions (z+1) et z(z) sont holomorphes sur C(N), et concident
sur R

+
; elle concident donc sur C(N). Comme (1) = 1, cela permet de montrer, par
rcurrence sur n, que lon a lim
zn
(z + n)(z) =
(1)
n
n!
. Ceci termine la dmonstration
du thorme.
Exercice VI.2.2. (i) tablir la formule des complments (z)(1z) =

sin z
(on pren-
dra la drive logarithmique des deux membres, et on utilisera lex. IV.2.13). En dduire
une dmonstration de lidentit
_
+

e
t
2
dt = 1.
(ii) tablir de mme la formule de multiplication : si p N0, et si z C(N),
alors
p1

j=0

_
z + j
p
_
= (2)
(p1)/2
p
z+1/2
(z).
Proposition VI.2.3. Sur tout secteur angulaire de la forme [arg(z)[ < , avec < ,
on a les dveloppement suivants au voisinage de [z[ = :
(i)

(z)
(z)
= log z
1
2z
+ O(
1
z
2
) ;
(ii) log (z) = z log z z +
1
2
(log(2) log z) + O(
1
z
), o log (z) =
_
[1,z]

(z)
(z)
est le
logarithme de (z), holomorphe dans le secteur angulaire, prenant la valeur 0 en z = 1.
(formule de Stirling complexe).
Dmonstration. On part de la formule

(z)
(z)
=
1
z
+

+
k=1
_
1
k

1
z+k
_
, qui dcoule (ex. IV.2.15)
de la dnition de
1

comme un produit convergent. Si z / R

, on peut rcrire cette formule sous la


forme (o [t] dsigne la partie entire de t et t = t [t], sa partie fractionnaire)

(z)
(z)
=
1
z
+
_
+
1
_
1
[t]

1
z + [t]
_
dt
=
1
z
+
_
+
1
_
1
[t]

1
t

1
z + [t]
+
1
z + t
_
dt +
_
+
1
_
1
t

1
z + t
_
dt
=
1
z
+
_
+
1
t
t[t]
dt
_
+
1
t
(z + t)(z + [t])
dt +
_
log
t
z + t

+
1
.
Maintenant,
_
log
t
z+t

+
1
= log(z + 1) = log z +
1
z
+ O(
1
z
2
) et C =
_
+
1
{t}
t[t]
dt est une constante.
Finalement, on peut crire
_
+
1
{t}
(z+t)(z+[t])
dt sous la forme
_
+
1
t
(z + t)(z + [t])
dt =
_
+
1
t
(z + t)
2
dt +
_
+
1
t
2
(z + t)
2
(z + [t])
dt
=
1
2(z + 1)
+
_
+
1
t 1/2
(z + t)
2
dt +
_
+
1
t
2
(z + t)
2
(z + [t])
dt,
et une intgration par parties nous donne
_
+
1
t 1/2
(z + t)
2
dt =
_
t
2
t
2(z + t)
2

+
1
+
_
+
1
t
2
t
(z + t)
3
dt =
_
+
1
t
2
t
(z + t)
3
dt.
En utilisant la minoration
[z + u[
2

1 + cos
2
([z[ + u)
2
, si u R
+
et [arg(z)[ ,
VI.2. SRIES DE DIRICHLET ET TRANSFORME DE MELLIN 111
cela permet de majorer en module les quantits
_
+
1
{t}
2
(z+t)
2
(z+[t])
dt et
_
+
1
{t}
2
{t}
(z+t)
3
dt par
_
2
1
1
(|z|2)
3
dt+
_
+
2
(
2
1+cos
)
3/2 1
(|z|+t1)
3
dt. On en dduit que ces deux intgrales sont des O(
1
z
2
) et comme il en est de
mme de
1
2(z+1)

1
2z
, on obtient nalement :

(z)
(z)
= log z + C
1
2z
+ O(
1
z
2
).
En intgrant, on en dduit quil existe C

C, tel que au voisinage de linni, on ait log (z) = z log z


z + (C )z
1
2
log z + C

+ O(
1
z
). La formule de Stirling relle :
log((x + 1)) = xlog x x +
1
2
log(2x) + o(1), au voisinage de +
permet alors den dduire que C = 0 et C

=
1
2
log 2, ce qui permet de conclure.
Corollaire VI.2.4. Quand [[ tend vers +, on a
[( + i)[ =

2[[

1
2
e
[[/2
(1 + O(
1

)),
uniformment dans toute bande verticale de largeur nie.
Dmonstration. Si s = + i, et a b, o a, b R sont xs, alors
log s = log i +

i
+ O(
1

2
) = log [[ +
i
2


[[
+

i
+ O(
1

2
).
En utilisant le (ii) de la prop. VI.2.3 et la formule ci-dessus, on en dduit que
Re(log ( + i)) = log [[
[[
2
+
1
2
log [[ +
1
2
log 2 + O(
1

).
Ceci permet de conclure.
2. Une formule intgrale pour les sries de Dirichlet
Le changement de variable u = t montre que, si R

+
, et si Re(s) > 0, alors
1

s
=
1
(s)
_
+
0
e
t
t
s
dt
t
.
Cette simple remarque va se rvler extrmement utile pour tudier le prolongement
analytique de certaines sries de Dirichlet.
Soit L(a, s) =

n1
a
n
n
s
une srie de Dirichlet dabscisse de convergence absolue
abs
<
+. En particulier, il existe R tel que a
n
= O(n

), ce qui fait que la srie entire


F
a
(z) =

+
n=1
a
n
z
n
est de rayon de convergence au moins 1, et que f
a
(t) = F
a
(e
t
) est
C

sur R

+
et O(e
t
) au voisinage de + (et donc dcroissance rapide).
Lemme VI.2.5. Si Re(s) > sup(
abs
, 0), la fonction f
a
(t)t
s1
est sommable sur R

+
,
et on a
L(a, s) =
1
(s)
_
+
0
f
a
(t)t
s
dt
t
.
112 CHAPITRE VI. SRIES DE DIRICHLET
Dmonstration. Si Re(s) = > sup(
abs
, 0), on a
_
+
0
[f
a
(t)t
s1
[ dt
_
+
0
_
+

n=1
[a
n
[e
nt
_
t

dt
t
=
+

n=1
[a
n
[
_
+
0
e
nt
t

dt
t
= ()
+

n=1
[a
n
[
n

< +,
ce qui prouve que f
a
(t)t
s1
est sommable sur R

+
et que la srie

+
n=1
a
n
e
nt
t
s1
converge
dans L
1
(R

+
) vers f
a
(t)t
s1
. On a donc
_
+
0
f
a
(t)t
s1
dt =
+

n=1
_
+
0
a
n
e
nt
t
s1
dt =
+

n=1
a
n
(s)
n
s
.
Ceci permet de conclure.
Remarque VI.2.6. (i) Si f : R

+
C, la fonction s Mel(f, s) =
_
+
0
f(t)t
s dt
t
est
la transforme de Mellin de f. Le changement de variable t = e
u
montre que, sur une
droite verticale Re(s) = , la transforme de Mellin concide, homothtie prs, avec la
transforme de Fourier de f(e
u
)e
u
, ce qui permet de dduire un grand nombre de ses
proprits de celles de la transforme de Fourier.
(ii) La fonction f
a
(t) =

+
n=1
a
n
e
nt
est C

sur R

+
, mais na aucune raison, a priori,
dtre trs sympathique en 0. De fait, les proprits de prolongement analytique de la srie
de Dirichlet

+
n=1
a
n
n
s
sont troitement lies la rgularit de f
a
en 0. La prop. VI.2.7 ci-
dessous donne une illustration frappante de ce phnomne.
Proposition VI.2.7. Soit f une fonction C

sur R
+
, dcroissance rapide lin-
ni.
(i) La fonction M(f, s) =
1
(s)
_
+
0
f(t)t
s dt
t
, dnie pour Re(s) > 0, admet un prolon-
gement holomorphe C tout entier
(4)
.
(ii) Si k N, alors M(f, k) = (1)
k
f
(k)
(0).
(iii) Si a b sont deux rels, il existe C
a,b
(f) > 0 tel que
[M(f, s)[ C
a,b
(f)(1 +[[)
1
2
a
e

2
||
, si s = + i et a b.
Dmonstration. Soit une fonction C

sur R
+
, valant 1 sur [0, 1] et 0 sur [2, +[. On
a f = f + (1 )f et M(f, s) = M(f, s) + M((1 )f, s). Comme (1 )f est nulle
dans un voisinage de 0 et dcroissance rapide linni, lintgrale
_
+
0
(1(t))f(t)t
s dt
t
dnit, comme le montre le th. IV.2.16, une fonction holomorphe sur C tout entier, et
comme
1
(s)
est holomorphe sur C, cela montre que M((1)f, s) admet un prolongement
analytique C tout entier.
(4)
La distribution f M(f, s) que ceci permet de dnir, est une partie nie de Hadamard. Le (ii) montre
que si k N, alors M( , k) est la drive k-ime de la masse de Dirac en 0 (cf. cours de F. Golse en
seconde anne).
VI.2. SRIES DE DIRICHLET ET TRANSFORME DE MELLIN 113
Par ailleurs, une intgration par partie nous donne M(f, s) = M((f)
t
, s + 1), si
Re(s) > 0. On a donc, plus gnralement, M(f, s) = (1)
n
M((f)
(n)
, s+n), si Re(s) > 0
et n N. Comme la fonction (1)
n
M((f)
(n)
, s +n) est, comme le montre le th. IV.2.16,
holomorphe sur le demi-plan Re(s) > n, et concide avec M(f, s) sur le demi-plan
Re(s) > 0, cela prouve que M(f, s) admet un prolongement holomorphe au demi-plan
Re(s) > n, et comme ceci est vrai quel que soit n N, cela permet de dmontrer le (i).
Le (ii) suit de ce que M((1 )f, k) = 0 puisque
1

a des zros simples en tous les


entiers ngatifs, et de ce que
M(f, k) = (1)
k+1
M((f)
(k+1)
, 1) = (1)
k+1
_
+
0
(f)
(k+1)
(t) dt
= (1)
k+1
[(f)
(k)
]
+
0
= (1)
k
(f)
(k)
(0) = (1)
k
f
(k)
(0).
Passons la dmonstration du (iii), et choisissons n N tel que n + a > 0. On a [M(f, s)[
[M(f, s)[ +[M((1 )f, s)[. Maintenant, si s = + i, avec a b, alors
[M(f, s)[
1
[(s + n)[
_
+
0
[(f)
(n)
(t)[t
+n
dt
t

1
[(s)[
1
[s(s + 1) (s + n 1)[
_
+
0
[(f)
(n)
(t)[ sup(t
a+n
, t
b+n
)
dt
t
[M((1 )f, s)[
1
[(s)[
_
+
0
[(1 (t))f(t)[t

dt
t

1
[(s)[
_
+
0
[(1 (t))f(t)[ sup(t
a
, t
b
)
dt
t
.
On en dduit lexistence de C > 0 tel que [(s)[ [M(f, s)[ C, si a Re(s) b. Par ailleurs, daprs le
cor. VI.2.4, il existe T > 0 tel que
[(s)[
1

2
(1 +[[
1
2

)e

2
||

2

2
(1 +[[
1
2
a
)e

2
||
, si [[ T et a b.
On en dduit que la fonction
(1 +[[

1
2
+a
)e

2
||
[M(f, s)[
est borne sur s = + i, [[ T, a b, et comme elle est continue sur la bande a Re(s) b,
elle est aussi borne sur la bande toute entire. Ceci permet de conclure.
Corollaire VI.2.8. Si L(a, s) a une abscisse de convergence nie, et si f
a
est C

sur R
+
, alors L(a, s) admet un prolongement holomorphe C tout entier. De plus, si
k N, on a L(a, k) = (1)
k
f
(k)
a
(0).
Dmonstration. Cest une consquence directe de la prop. VI.2.7 puisque f
a
est
dcroissance rapide linni (cf. discussion prcdent le lemme VI.2.5).
Remarque VI.2.9. (i) La formule L(a, k) = (1)
k
f
(k)
a
(0) montre que lon obtient la
mme vakeur pour la somme de la srie divergente

n1
a
n
n
k
, en prenant la valeur de
L(a, s) en k ou la limite de

+
n=1
a
n
n
k
x
n
en x = 1

.
114 CHAPITRE VI. SRIES DE DIRICHLET
(ii) Comme f
a
et toutes ses drives sont dcroissance rapide linni, on peut
simplier la dmonstration de la proposition VI.2.7 en faisant lintgration par partie
entre 0 et +; on obtient alors une majoration meilleure dans le (iii) : pour tout k N,
il existe C
a,b,k
(f) tel que [L(a, s)[ C
a,b,k
(f)(1 +[[)
1
2
k
e

2
[[
, si s = + i et a b.
VI.3. La fonction zta de Riemann
1. Sries de Dirichlet attaches des fonctions multiplicatives
On note P lensemble des nombres premiers.
Une fonction n a(n) de N0 dans C est multiplicative, si a(1) = 1, et si a(nm) =
a(n)a(m) pour tous n et m premiers entre eux ; elle est strictement multiplicative, si
a(1) = 1, et a(nm) = a(n)a(m), quels que soient m, n 1. On remarquera quune
fonction strictement multiplicative est dtermine par les a(p), pour p P puisque, si
n =

iI
p
k
i
i
est la dcomposition de n en facteurs premiers, on a a(n) =

iI
a(p
i
)
k
i
. Par
contre, pour une fonction multiplicative, on a besoin de connatre les a(p
k
), pour p P
et k 1. On a alors a(n) =

iI
a(p
k
i
i
)
Proposition VI.3.1. Si n a(n) est multiplicative, et si L(a, s) =

n1
a(n)
n
s
a
une abscisse de convergence absolue
abs
< +, alors pour tout s dans le demi-plan
Re(s) >
abs
, on a :
(i) 1 +
a(p)
p
s
+
a(p
2
)
p
2s
+ est absolument convergent quel que soit p P;
(ii) le produit

pP
(1 +
a(p)
p
s
+
a(p
2
)
p
2s
+ ) converge uniformment sur tout demi-plan
Re(s) > c >
abs
, et sa valeur est L(a, s).
Dmonstration. Le (i) et la convergence absolue du produit viennent de ce que

pP

a(p)
p
s
+
a(p
2
)
p
2s
+

pP
_

a(p)
p
s

a(p
2
)
p
2s

+
_

n=2

a(n)
n
s

< +,
puisque L(a, s) converge absolument par hypothse.
Si X R
+
, soit P(X) lensemble des nombres premiers X, et soit I(X) lensemble des
entiers dont tous les diviseurs premiers sont dans P(X). Si k N, soit I(X, k) lensemble
des entiers de la forme

pP(X)
p
k
p
, avec 0 k
p
k. Lensemble I(X, k) est donc un
ensemble ni. Par ailleurs, la multiplicativit de n a(n) fait que lon a

pP(X)
(1 +
a(p)
p
s
+ +
a(p
k
)
p
ks
) =

nI(X,k)
a(n)
n
s
.
Comme toutes les sries qui interviennent sont majores, en valeur absolue, par la srie
sommable

n1

a(n)
n
s

, le thorme de convergence domine pour les sries montre, en


VI.3. LA FONCTION ZTA DE RIEMANN 115
faisant tendre k vers +, que

pP(X)
(1 +
a(p)
p
s
+
a(p
2
)
p
2s
+ ) =

nI(X)
a(n)
n
s
,
puis, en faisant tendre X vers +, que

pP
(1 +
a(p)
p
s
+
a(p
2
)
p
2s
+ ) =

n1
a(n)
n
s
,
ce que lon cherchait tablir.
Remarque VI.3.2. (i) Le facteur 1 +
a(p)
p
s
+
a(p
2
)
p
2s
+ du produit est le facteur dEuler
en p de la fonction L(a, s), et la formule L(a, s) =

pP
(1 +
a(p)
p
s
+
a(p
2
)
p
2s
+ ) est la
dcomposition de L(a, s) en produit de facteurs dEuler (ou en produit eulrien).
(ii) Si a est compltement multiplicative, les facteurs dEuler sont donns par des sries
gomtriques et on a L(a, s) =

pP
1
1a(p)p
s
.
2. Prolongement analytique de la fonction
La srie de Dirichlet L(1, s) =

n1
1
n
s
a 1 comme abscisse de convergence absolue
(et comme abscisse de convergence puisquelle est coecients positifs (cor. VI.1.6)). De
plus n 1 est on ne peut plus strictement multiplicative ; on dduit donc de la thorie
gnrale le rsultat suivant (d Euler).
Proposition VI.3.3. Si Re(s) > 1, alors

n1
1
n
s
=

pP
1
1p
s
, et le produit est
absolument convergent.
Thorme VI.3.4. Il existe une unique fonction, note (fonction zta de Riemann),
vriant :
est mromorphe sur C tout entier, holomorphe en dehors dun ple simple en s = 1,
de rsidu 1 ;
(s) = L(1, s), si Re(s) > 1.
Dmonstration. Si f
1
(t) =

+
n=1
e
nt
=
1
e
t
1
et si g(t) = tf
1
(t), on dduit du lemme VI.2.5
que, quel que soit s, avec Re(s) > 1,
L(1, s) =
1
(s)
_
+
0
f
1
(t)t
s
dt
t
=
1
(s 1)(s 1)
_
+
0
tf
1
(t)t
s1
dt
t
=
1
s 1
M(g, s 1).
Comme g(t) est C

sur R

+
, holomorphe au voisinage de 0 (et donc C

sur R
+
), et
dcroissance rapide linni, la prop. VI.2.7 sapplique. On en dduit que M(g, s) a
un prolongement analytique C tout entier, avec M(g, 0) = g(0) = 1. Le rsultat sen
dduit.
116 CHAPITRE VI. SRIES DE DIRICHLET
Exercice VI.3.5. Soit

+
n=0
B
n
t
n
n!
le dveloppement de Taylor
(5)
de g(t) =
t
e
t
1
en 0.
(i) Calculer g(t) g(t). En dduire B
2k+1
= 0, si k 1.
(ii) Montrer que (n) = (1)
n
B
n+1
n+1
, si n N. En dduire que prend des valeurs
rationnelles aux entiers
(6)
ngatifs, et a des zros en les entiers pairs < 0.
(iii) Montrer que g(z)
2i
z2i
+
2i
z+2i
est holomorphe sur D(0, (4)

). En dduire des
quivalents de
B
2n
(2n)!
et de (1 2n) quand n +.
3. quation fonctionnelle de la fonction zta
Thorme VI.3.6. La fonction vrie lquation fonctionnelle
(s) = 2 (2)
s1
(1 s) sin
s
2
(1 s).
Remarque VI.3.7. (i) Soit (s) =

s
2
(
s
2
)(s). Modulo les formules classiques (ex. VI.2.2)
(s)(1 s) =

sin s
,
_
s
2
_

_
s + 1
2
_
= 2
1s

_
1
2
_
(s), et
_
1
2
_
=

,
on peut dduire de lquation fonctionnelle de que vrie lquation fonctionnelle
(s) = (1 s).
(ii) Lquation fonctionnelle de la fonction peut stablir directement (cf. ex. VI.5.8),
mais la dmonstration ci-dessous a lavantage de se gnraliser plus facilement aux fonc-
tions L de Dirichlet. De plus, cest sous la forme du th. VI.3.6 que nous utiliserons lqua-
tion fonctionnelle de dans la dmonstration du thorme des nombres premiers (an-
nexe A).
Dmonstration. Si c > 0, soit
c
le contour obtenu en composant la demi-droite (+, c]
suivi du carr C
c
de sommets c(1 i) parcouru dans le sens direct et de la demi-droite
[c, +). Soit
F
c
(s) =
1
2i
_

c
f
1
(z)(z)
s
dz
z
,
(5)
Les B
n
sont des nombres rationnels, appels nombres de Bernoulli, et quon retrouve dans toutes les
branches des mathmatiques. On a en particulier
B
0
= 1, B
1
=
1
2
, B
2
=
1
6
, B
3
= 0, B
4
=
1
30
, . . . , B
12
=
691
2730
, . . .
Un test presque infaillible pour savoir si une suite de nombres a un rapport avec les nombres de Bernoulli
est de regarder si 691 apparat dans les premiers termes de cette suite.
(6)
Les valeurs aux entiers de la fonction zta, ou plus gnralement des fonctions L de la gomtrie
arithmtique, recellent une quantit impressionante dinformations arithmtiques. Kummer fut lun des
premiers exploiter cette information, ce qui lui a permis de montrer (1852) que, si p est un nombre
premier 3 ne divisant pas le numrateur de (1), (3), . . ., (2 p), alors lquation a
p
+ b
p
= c
p
na pas de solution en nombres entiers avec abc ,= 0 (i.e. le thorme de Fermat est vrai pour un tel p
(dit rgulier)). Jusqu 100, les seuls nombres premiers irrguliers sont 37, 59 et 67.
VI.3. LA FONCTION ZTA DE RIEMANN 117
o f
1
(z) =
1
e
z
1
, et (z)
s
= exp(s log(z)), la dtermination du logarithme choisie tant
celle dont la partie imaginaire est comprise entre et ; en particulier, on a (z)
s
=
e
is
z
s
de + c et (z)
s
= e
is
z
s
de c + (aprs avoir parcouru le carr). Comme
1
e
z
1
est dcroissance rapide linni, on dduit du th. IV.2.16 que la fonction F
c
(s) est
holomorphe sur C, pour tout c non de la forme 2k, avec k N 0 (pour viter les
ples de
1
e
z
1
).
(-1+i)c (1+i)c
(-1-i)c (1-i)c
le chemin
C
0
c
La dmonstration du thorme va consister faire tendre c vers 0 pour rcuprer (s),
et vers + pour faire apparatre (1 s). Pour tudier la variation de F
c
(s) avec c,
nous allons utiliser la formule des rsidus. (Un peu plus de familiarit avec les fonctions
holomorphes permettrait de se passer de la cuisine peu ragotante qui suit et de dmontrer
directement que F
d
(s) F
c
(s) est la somme des rsidus de la fonction f
1
(z)
(z)
s
z
(qui est
mromorphe sur C [0, +)) en les points lintrieur du chemin
c,d
compos de C
d
,
[d, c], C
c
parcouru en sens oppos, et [c, d].)
Les chemins sur lesquels on intgre ne sont pas vraiment contenus dans un ouvert sur lequel la fonction
quon intgre est mromorphe ; pour se ramener ce cas, on va tre forc de tout dcouper en morceaux.
On note g
+
s
(resp. g

s
) la fonction g
+
s
(z) = f
1
(z)
(z)
s
z
sur louvert
+
(resp.

) obtenu en enlevant
la demi-droite [0, i) (resp. [0, +i)) C, la dtermination de log(z) tant celle prenant des valeurs
relles sur la demi-droite [0, ). Les fonctions g
+
s
et g

s
sont mromorphes sur
+
et

respectivement,
et concident sur le demi-plan Re(s) < 0 ; par contre, sur le demi-plan Re(s) > 0, on a g

s
(z) = e
2is
g
+
s
(z).
On note C
+
c
(resp. C

c
) le morceau de C
c
contenu dans le demi-plan Im(s) 0 (resp. Im(s) 0). On
a donc C
+
c
= [c, (1 +i)c] [(1 +i)c, (1 +i)c] [(1 +i)c, c], et C

c
= [c, (1 i)c] [(1 i)c, (1 i)c]
[(1 i)c, c]. Soit
+
c
(resp.

c
) le chemin compos de (+, c] et C
+
c
(resp. de C

c
et [c, +)), et soient
F
+
c
(s) =
1
2i
_

+
c
g
+
s
(z) dz et F

c
(s) =
1
2i
_

c
g
+
s
(z) dz, de telle sorte que F
c
(s) = F
+
c
(s) + F

c
(s).
Si c < d, soient
+
c,d
le lacet C
+
d
[d, c] (C
+
c
)
opp
[c, d] et
+
c,d
le lacet C

d
[d, c] (C

c
)
opp
[c, d],
o (C
+
c
)
opp
et (C

c
)
opp
dsignent les chemins C
+
c
et C

c
parcourus dans le sens oppos.
118 CHAPITRE VI. SRIES DE DIRICHLET
(-1+i)d (1+i)d
(-1-i)d (1-i)d
-n2i
n2i
2i
-2i
(-1-i)d (1-i)d
-n2i
-k2i
(1-i)c
(-1-i)c
d -d -c
c
-c
c
d -d
2i
n2i
(k+1)2i
k2i
(1+i)c (-1+i)c
(-1+i)d (1+i)d

c,d
-

c,d
+
-2i
0
0
0
=
k2i
-k2i
(-1-i)c (1-i)c
(-1+i)c (1+i)c
2i
-2i
0

c,d

c,d
- =
+
- +
+
On a
F
+
d
(s) F
+
c
(s) =
1
2i
_

+
c,d
g
+
s
(z) dz
1
2i
_
[d,c]
g
+
s
(z) dz
F

d
(s) F

c
(s) =
1
2i
_

c,d
g

s
(z) dz
1
2i
_
[c,d]
g

s
(z) dz,
comme on peut le voir sur le dessin ci-dessus. Comme g
+
s
(z) = g

s
(z) sur [c, d], lintgrale sur [c, d]
disparat quand on fait la somme des deux galits ci-dessus, et on obtient
F
d
(s) F
c
(s) =
1
2i
_

+
c,d
g

s
(z) dz +
1
2i
_

c,d
g
+
s
(z) dz.
Le membre de droite peut se calculer grce la formule des rsidus. La fonction g
+
s
est
mromorphe sur
+
, avec des ples simples aux 2ik, pour k N0, et comme e
z
1
a une drive gale 1 en 2ik, on a Res(g
+
s
, 2ik) =
(2ik)
s
2ik
= (2k)
s1
e
i
s1
2
. De
mme, g

s
est mromorphe sur

, avec des ples simples aux 2ik, pour k N0, et


on a Res(g

s
, 2ik) =
(2ik)
s
2ik
= (2k)
s1
e
i
s1
2
. Par ailleurs, lindice de
+
c,d
par rapport
2ik est 1, si c < 2k < d, et 0 sinon ; lindice de

c,d
par rapport 2ik est 1, si
VI.3. LA FONCTION ZTA DE RIEMANN 119
c < 2k < d, et 0 sinon. On obtient donc, en utilisant la formule des rsidus,
F
d
(s) F
c
(s) =

c<2k<d
2 cos
s 1
2
(2k)
s1
.
On en conclut, en particulier, que F
c
ne dpend pas de c dans lintervalle ]0, 2[, et donc
que F

(s) = lim
c0
+ F
c
(s). Si Re(s) > 1, quand c tend vers 0, lintgrale sur C
c
tend
vers 0, et on obtient, en passant la limite,
F

(s) =
1
2i
_
e
is
_
0
+
1
e
t
1
t
s
dt
t
+ e
is
_
+
0
1
e
t
1
t
s
dt
t
_
=
sin s

(s) (s).
Maintenant, quand N tend vers +, la fonction F
(2N+1)
(s) tend vers 0 quand Re(s) < 0
(cela rsulte de ce que [
1
e
z
1
[
1
1e
(2N+1)

1
2
sur le carr C
(2N+1)
). En utilisant la
formule ci-dessus pour F
d
(s) F
c
(s), avec d = (2N + 1) et c = , et en passant la
limite quand N +, on obtient, si Re(s) < 0,
F

(s) = 2 cos(
s 1
2
) (2)
s1
(1 s).
Comme F

et sont mromorphes sur C tout entier, on en dduit que


sin s (s) (s) = F

(s) = cos
s 1
2
(2)
s
(1 s),
pour tout s qui nest pas un ple dune des fonctions ci-dessus. En utilisant la formule
sin s = sin (s1) = 2 sin
s1
2
cos
s1
2
, on peut rcrire cette quation fonctionnelle
sous la forme
(1 s) = 2(2)
s
sin
s 1
2
(s) (s),
et on obtient lquation fonctionnelle du thorme en appliquant lquation fonctionnelle
ci-dessus 1 s au lieu de s.
Exercice VI.3.8. On note la constante dEuler comme dans le th. VI.2.1.
(i) Montrer que
t
(1) = .
(ii) Montrer que (s)
1
s1
=

+
n=1
_
n+1
n
_
1
n
s

1
t
s
_
dt, si Re(s) > 1. En dduire que
lim
s1
(s)
1
s1
= , puis que

(0)
(0)
= log 2 et
t
(0) =
1
2
log 2.
4. Les zros de la fonction
Le thorme VI.3.6 permet une bonne localisation des zros de la fonction dans le
plan complexe.
Corollaire VI.3.9. Les seuls zros de la fonction qui ne sont pas dans la bande
verticale 0 Re(s) 1 sont des zros simples aux entiers pairs < 0.
120 CHAPITRE VI. SRIES DE DIRICHLET
Dmonstration. (s) est donne (prop. VI.3.3) par le produit absolument convergent

pP
1
1p
s
sur le demi-plan Re(s) > 1. Comme aucun des termes du produit ne sannule
sur ce demi-plan, la fonction ne sannule pas sur le demi-plan Re(s) > 1. Dautre part,
si Re(s) < 0, on a (1 s) ,= 0, et, daprs ce qui prcde, (1 s) ,= 0. Lquation
fonctionnelle du th. VI.3.6 montre donc que les zros de sur le demi-plan Re(s) < 0 sont
les mmes que ceux de sin
s
2
. Ceci permet de conclure.
On appelle zros triviaux les zros aux entiers pairs < 0. La bande critique est la
bande verticale 0 Re(s) 1 ; cest un monde mystrieux, o il est dicile de voir
clair. Riemann, qui on doit la dmonstration ci-dessus de lquation fonctionnelle de la
fonction a, le premier (en 1858), dans un mmoire qui est un des grands classiques des
mathmatiques, montr comment la rpartition des zros dans cette bande critique est
relie la rpartition des nombres premiers (cf. annexe A). Ce mmoire contient aussi
lhypothse de Riemann, toujours non rsolue ce jour, et dont la tte est mise prix
pour un million de dollar, selon laquelle tous les zros de dans la bande critique sont
sur la droite Re(s) =
1
2
.
VI.4. Fonctions L de Dirichlet
1. Caractres de Dirichlet et Fonctions L de Dirichlet
Si D est un entier, un caractre de Dirichlet modulo D est un morphisme de groupes
: (Z/DZ)

. Limage dun caractre de Dirichlet est un sous-groupe ni de C

,
et donc est incluse dans le groupe des racines de lunit. On note 1
D
le caractre trivial,
dni par 1
D
(a) = 1, quel que soit a (Z/DZ)

.
Si est un caractre de Dirichlet modulo D, on considre aussi souvent comme une
fonction priodique sur Z de priode D, en composant avec la projection naturelle
de Z sur Z/DZ, et en tendant par 0 sur les entiers non premiers D. La fonction
(n) est alors strictement multiplicative : en eet, si m et n sont premiers D, alors
(mn) = (m)(n) par multiplicativit de la rduction modulo D et celle de , tandis
que si m ou n nest pas premier D, alors mn non plus, et on a (mn) = 0 = (m)(n).
La fonction L de Dirichlet attache est alors la srie de Dirichlet L(, s) =

n1
(n)
n
s
.
Comme [(n)[ = 1, si (n, D) = 1, labscisse de convergence absolue de L(, s) est 1, et on
a la proposition suivante.
Proposition VI.4.1. Soit un caractre de Dirichlet modulo D.
(i) Si Re(s) > 1, alors L(, s) =

pP
1
1(p)p
s
, et le produit est absolument convergent.
(ii) Si ,= 1
D
, labscisse de convergence de L(, s) est 0.
VI.4. FONCTIONS L DE DIRICHLET 121
Dmonstration. Le (i) suit juste de la thorie gnrale (cf. prop. VI.3.1). Maintenant,
si ,= 1
D
, il existe a (Z/DZ)

, tel que (a) ,= 1. On a alors


(a)

x(Z/DZ)

(x) =

x(Z/DZ)

(ax) =

x(Z/DZ)

(x),
puisque x ax est une bijection de (Z/DZ)

. On en dduit

x(Z/DZ)

(x) = 0, et
donc

(k+1)D
n=kD+1
(n) = 0. Ceci implique que la suite des sommes partielles

n
k=1
(k) est
borne (par D en valeur absolue), et permet dutiliser le (i) du th. VI.1.3 pour dmontrer
le (ii).
2. Conducteur et sommes de Gauss
Si D
t
est un diviseur de D et est un caractre de Dirichlet modulo D
t
, on peut aussi
voir comme un caractre de Dirichlet modulo D en composant avec la projection
(Z/DZ)

(Z/D
t
Z)

. On dit que est primitif, si on ne peut pas trouver de diviseur


D
t
de D distinct de D, tel que provienne dun caractre modulo D
t
. On dit que est
de conducteur D, si cest un caractre de Dirichlet modulo D qui est primitif. Si est de
conducteur D et si N est un multiple de D, on note
N
le caractre modulo N obtenu en
composant avec la projection (Z/NZ)

(Z/DZ)

.
Lemme VI.4.2. On a L(
N
, s) = L(, s)

p[N
(1 (p)p
s
).
Dmonstration. Il sut dutiliser la dcomposition en produit de facteurs dEuler.
Comme 1(p)p
s
est une fonction holomorphe sur C ayant tous ses zros sur la droite
Re(s) = 0, on voit que ltude des proprits analytiques des fonctions L de Dirichlet se
ramne celle des fonctions L associes aux caractres primitifs.
Si est un caractre de Dirichlet modulo D, on note le caractre de Dirichlet modulo
D dni par (n) = (n) si n (Z/DZ)

. Comme (n) est une racine de lunit, on a


aussi (n) = (n)
1
.
Si D est un entier, si est un caractre de Dirichlet de conducteur D et si n Z, on
dnit la somme de Gauss tordue G(, n) par la formule
G(, n) =

a mod D
(a)e
2i
na
D
,
et on pose G() = G(, 1).
Lemme VI.4.3. Si n N, alors G(, n) = (n)G()
Dmonstration. Si (n, D) = 1, alors n est inversible dans (Z/DZ)

, ce qui permet
dcrire
G(, n) =

a mod D
(a)e
2i
na
D
= (n)

an mod D
(an)e
2i
na
D
= (n)G().
122 CHAPITRE VI. SRIES DE DIRICHLET
Si (n, D) = d > 1, on peut crire D = dD
t
et n = dn
t
. Comme est de conducteur D, il
existe b 1 mod D/d tel que (b) ,= 1 (sinon serait de conducteur divisant D
t
). On a
alors
e
2i
nab
D
= e
2i
na
D
e
2i
n(b1)a
D
= e
2i
na
D
,
puisque n est divisible par d et b 1 par D/d. On en dduit que
(b)G(, n) =

a mod D
(ab)e
2i
nab
D
=

a mod D
(a)e
2i
na
D
= G(, n),
et donc, comme (b) ,= 1, que G(, n) = 0 = (n)G(). Ceci permet de conclure.
Thorme VI.4.4. Si est un caractre de Dirichlet de conducteur D ,= 1, alors
L(, s) admet un prolongement analytique C tout entier. De plus, L(, s) = M(f

, s),
o f

: R
+
C est donne par la formule
f

(t) =
1
G()
D1

b=1
(b)
e

2ib
D
e
t
1
.
Dmonstration. Il rsulte du lemme VI.2.5, que L(, s) = M(f, s), o f est dnie par
f(t) =

+
n=1
(n)e
nt
. Si on utilise lidentit
(7)
(n) =
G(,n)
G()
du lemme VI.4.3, on obtient
f(t) =
+

n=1
_
1
G()

b mod D
(b)e
2i
nb
D
_
e
nt
=
1
G()
D1

b=1
(b)
e

2ib
D
e
t
1
= f

(t).
(La dernire galit venant de ce que (n) = 0 si n est un multiple de D, ce qui fait que 0
mod D ne contribue pas la somme). Maintenant, f

est dcroissance rapide linni,


et e
2i
nb
D
,= 1, si 1 b D1, ce qui fait que f

est C

sur R
+
. On conclut en utilisant
la prop. VI.2.7.
3. quation fonctionnelle des fonctions L de Dirichlet
Thorme VI.4.5. Si est un caractre de Dirichlet de conducteur D ,= 1, alors
L(, s) vrie lquation fonctionnelle
L(, s) =
_
2 G() D
s
(2)
s1
(1 s) sin
s
2
L(, 1 s) si (1) = 1,
2i G() D
s
(2)
s1
(1 s) cos
s
2
L(, 1 s) si (1) = 1.
Dmonstration. La dmonstration est trs semblable celle de lquation fonctionnelle
de la fonction , et nous reprenons les notations de cette dernire en indiquant les points
o largument dire. Soit F
c
(, s) =
1
2i
_

c
f

(z)(z)
s dz
z
. Comme f

(z) est dcroissance


rapide linni, la fonction F
c
(s) est holomorphe sur C pour tout c qui nest pas de la
forme
2b
D
+ 2k, avec k N et b D premier D (pour viter les ples de f

). Comme
(7)
On a quand mme besoin de vrier que G() ,= 0 (cf. ex. VI.4.7).
VI.4. FONCTIONS L DE DIRICHLET 123
f

na pas de ple lintrieur du carr de sommets


2
D
(1i), on a F
c
(, s) = F
/D
(, s),
quel que soit c ]0,
2
D
[. En faisant tendre c vers 0, on en dduit, si Re(s) > 1, la formule
F
/D
(, s) =
1
2i
_
e
is
_
0
+
f

(t)t
s
dt
t
+ e
is
_
+
0
f

(t)t
s
dt
t
_
=
sin s

(s) L(, s).


Maintenant, quand N tend vers +, la fonction F
N
(, s) tend vers 0 quand Re(s) < 0.
La dirence entre F
/D
(s) et F
N
(s) peut se calculer grce au thorme des rsidus. La
fonction f

(z)
(z)
s
z
a des ples en les z =
2ik
D
, avec 1 k ND 1 dans le contour
dlimit par la dirence entre
N
et
/D
. Si 1 k ND1, on a
Res
_
f

(z)
(z)
s
z
,
2ik
D
_
=
(k)
G()
(2ik/D)
s
(2ik/D)
=
(k)
G()

_
2k
D
_
s1
e
i
s1
2
Res
_
f

(z)
(z)
s
z
,
2ik
D
_
=
(k)
G()
(2ik/D)
s
(2ik/D)
=
(k)
G()

_
2k
D
_
s1
e
i
s1
2
On obtient donc
1
2i
(F
N
(, s) F
/D
(, s)) =
1
G()
ND1

k=1
_
2k
D
_
s1
((k)e
i
s1
2
+ (k)e
i
s1
2
_
.
En faisant tendre N vers +, on en dduit, si Re(s) < 0, les formules
F
/D
(, s) =
1
G()
_
(2i)
_
2
D
_
s1

_
2 cos
s1
2
_
L(, 1 s) si (1) = 1,
(2i)
_
2
D
_
s1

_
2i sin
s1
2
_
L(, 1 s) si (1) = 1.
On en tire lquation fonctionnelle
sin s (s) L(, s) =
1
G()
_
(2)
s
D
1s
cos
s1
2
L(, 1 s) si (1) = 1,
i(2)
s
D
1s
sin
s1
2
L(, 1 s) si (1) = 1,
qui peut aussi se mettre sous la forme
L(, 1 s) =
_
2G() (2)
s
D
s1
sin
s1
2
(s) L(, s) si (1) = 1,
2iG() (2)
s
D
s1
cos
s1
2
(s) L(, s) si (1) = 1.
Lquation fonctionnelle du thorme sobtient en appliquant lquation fonctionnelle ci-
dessus au lieu de et 1 s au lieu de s.
Remarque VI.4.6. (i) Si est un caractre de Dirichlet de conducteur D ,= 1, posons
w() =
_
G()

D
si (1) = 1,
G()
i

D
si (1) = 1,
(, s) =
_
(
s
2
)
_
D

_
s/2
L(, s) si (1) = 1,
(
s+1
2
)
_
D

_
(s+1)/2
L(, s) si (1) = 1.
124 CHAPITRE VI. SRIES DE DIRICHLET
Un petit calcul permet de dduire de lquation fonctionnelle de L(, s) que (, s) vrie
lquation fonctionnelle
(, s) = w()(, 1 s).
(ii) La fonction L(, s) est holomorphe sur C tout entier et ne sannule pas sur le
demi-plan Re(s) > 1 sur lequel elle est donne (prop. VI.4.1) par un produit absolument
convergent dont aucun des termes ne sannule. Elle ne sannule pas non plus sur la droite
Re(s) = 1 (cf. ex. A.4.4), ce qui est nettement plus profond. Lquation fonctionnelle
du th. VI.4.5 montre donc que, en dehors de la bande 0 < Re(s) < 1, les seuls zros de
L(, s) sont des zros (dit triviaux) aux entiers ngatifs pairs (resp. impairs), si (1) = 1
(resp. (1) = 1). On conjecture (hypothse de Riemann gnralise, GRH en abrvia-
tion anglaise) que tous les zros de L(, s) dans la bande 0 < Re(s) < 1 se trouvent sur
la droite Re(s) =
1
2
. Ceci aurait des implications profondes sur la rpartition des nombres
premiers entre les direntes progressions arithmtiques
(8)
.
Exercice VI.4.7. Soit un caractre de conducteur D ,= 1. Montrer que :
(i) G() = (1)G() ;
(ii) G()G() = (1)D;
(iii) [w()[ = 1.
VI.5. Autres exemples
1. La fonction de Moebius
Soit la fonction de Moebius. Elle est dnie par (n) = 0 si n est divisible par le
carr dau moins un nombre premier, et (n) = (1)
r
, si n = p
1
p
r
, o les p
i
sont des
nombres premiers distincts. Cest une fonction multiplicative, et on a
(s)
1
=

pP
(1 p
s
) =

nN
(n)n
s
= L(, s).
On en dduit que L(, s) a un prolongement mromorphe tout le plan complexe. Il
est facile de voir que son abscisse de convergence absolue
abs
est 1, mais son abscisse
de convergence
conv
est inconnue. On conjecture que
conv
=
1
2
, mais cest quivalent
lhypothse de Riemann (cf. n
o
2 du A.5).
Exercice VI.5.1. (Formule dinversion de Moebius)
(i) Montrer que

d[n
(d) = 0, si n 2.
(ii) Soit F : [0, +[ C, vriant F(x) = 0, si x < 1, et soit G : [0, +[ C dnie
par G(x) =

+
n=1
F(
x
n
). Montrer que G(x) = 0, si x < 1, et que F(x) =

+
n=1
(n)G(
x
n
).
(iii) Montrer que

+
n=1
(n)[
x
n
] = 1, si x 1.
(8)
En particulier, sur la taille du plus petit nombre premier dans une progression arithmtique, ce qui
intervient naturellement dans beaucoup de questions ; par exemple en cryptographie.
VI.5. AUTRES EXEMPLES 125
Exercice VI.5.2. (Critre de Bez-Duarte)
Soit E lespace de Hilbert, spar de lespace L
2
([1, +[,
dt
t
2
) des : [1, +[C telles
que t t
1
(t) soit de carr sommable, muni du produit scalaire f, g) =
_
+
0
f(t)g(t)
dt
t
2
.
(i) Vrier que t t
1s
appartient E, si Re(s) >
1
2
, et quil en est de mme de
n
,
dnie par
n
(t) = [
t
n
]
[t]
n
, si n est un entier 2.
(ii) Montrer que
_
+
1
tt
s1
dt =
1
s1

(s)
s
, si Re(s) > 1.
(iii) Montrer que s
_
+
1
tt
s1
dt est holomorphe sur Re(s) > 0. En dduire que
_
+
0
tt
s1
dt =
(s)
s
, si 0 < Re(s) < 1.
(iv) Montrer que t
1s
,
n
) =
_
1
n
s

1
n
_
(s)
s
, si n 2, et si Re(s) >
1
2
.
(v) En dduire que si ladhrence dans E du sous-espace engendr par les
n
, pour
n 2, contient les fonctions constantes sur [1, +[, alors lhypothse de Riemann est
vraie
(9)
.
2. La fonction de Ramanujan
La fonction de Ramanujan. Elle est dnie par lidentit
q
+

n=1
(1 q
n
)
24
=
+

n=1
(n)q
n
.
S. Ramanujan a fait deux conjectures son sujet. La premire, dmontre peu aprs par
L. Mordell (1917) peut snoncer sous la forme
L(, s) =

pP
1
1 (p)p
s
+ p
112s
.
En particulier, est une fonction multiplicative ! Sa dmonstration repose sur le fait que
(z) = q

+
n=1
(1q
n
)
24
, avec q = e
2i z
, est une forme modulaire de poids 12 pour SL
2
(Z)
(cf. ex. VI.5.5 et VI.5.13).
La seconde conjecture de Ramanujan peut se formuler sous la forme : les ples du
facteur dEuler en p de la fonction L(, s) sont tous sur la droite Re(s) =
11
2
. Elle peut
aussi snoncer sous la forme [(p)[ 2p
11/2
, si p P. Il a fallu attendre 1973 pour que
P. Deligne dmontre la conjecture de Ramanujan (gnralise sous le nom de conjecture
de Ramanujan-Petersson aux formes modulaires quelconques) comme consquence de sa
dmonstration (qui lui a valu la mdaille Fields en 1978) de lhypothse de Riemann
(9)
On peut montrer, mais cest plus dicile, que si lhypothse de Riemann est vraie, alors ladhrence
dans E du sous-espace engendr par les
n
, pour n 2, contient les fonctions constantes sur [1, +[.
Il sagit dune variante du critre de Nyman-Beurling (1955) due Bez-Duarte (2003). Il est noter
que la question (iii) de lex. VI.5.1 et la formule

+
n=1
(n)
n
= (1)
1
= 0, permettent de montrer que

+
n=1
(n)
n

n
(t) = 1, si t 1, mais la srie ne converge probablement pas dans E. La convergence de la
srie

+
n=1
(n)
n
est plus dlicate quil ny parat ; elle est plus ou moins quivalente la non annulation
de la fonction sur la droite Re(s) = 1.
126 CHAPITRE VI. SRIES DE DIRICHLET
pour les varits sur les corps nis, conjecture par A. Weil vers la n des annes 1940.
La dmonstration de Deligne est laboutissement dun norme programme mis sur pied
par A. Grothendieck entre 1958 et 1964, et qui a totalement rvolutionn la gomtrie
algbrique.
3. Exercices
Les exercices qui suivent explorent certaines proprits des formes modulaires, qui ne
semblent avoir aucune raison particulire dexister, mais se retrouvent, un peu inexpli-
cablement, jouer un rle dans les questions les plus varies (cf. note 3 du chap. VII, ou
note 1 de lannexe B, par exemple). Ils sont loccasion dutiliser les rsultats des chapitres
prcdents en dmontrant une srie de jolis rsultats comme le thorme des 4 carrs.
Soit H = z, Im(z) > 0 le demi-plan de Poincar. On rappelle (ex. V.2.4) que si
f : H C est holomorphe et priodique de priode 1, alors il existe une suite (a
n
(f))
nZ
de nombres complexes telle que lon ait f(z) =

nZ
a
n
(f)e
2i nz
, quel que soit z H . Il
est dusage de poser e
2i z
= q et dappeler q-dveloppement de f la srie

nZ
a
n
(f) q
n
.
On dnit alors v

(f) Z comme linf. de lensemble des n tels que a


n
(f) ,= 0
(en particulier, v

(f) = + si et seulement si f = 0).


Si k Z, une fonction modulaire de poids k est une fonction holomorphe f sur H , et
qui vrie :
f(z + 1) = f(z), quel que soit z H ,
f(z) = z
k
f(1/z), quel que soit z H ,
v

(f) > .
Si v

(f) 0, on dit que f est une forme modulaire de poids k, et si v

(f) > 0, on dit


que f est parabolique (ou cuspidale).
Soit louvert z H , [z[ > 1 et
1
2
< Re(z) <
1
2
. Si a, b H vrient [a[ = [b[ = 1,
et si C
+
est le demi-cercle de centre 0 et rayon 1 contenu dans H , on note A(a, b) larc de
C
+
allant de a b. Soit = e
i/3
. Le bord de est alors la runion des demi-droites
verticales [, +i) et [
2
,
2
+i), et de larc de cercle A(
2
, ). On note D la runion
de , de la demi-droite [, + i) et de larc de cercle A(i, ).
Exercice VI.5.3. (formule
k
12
) Soit f une forme modulaire de poids k non nulle. Le but
de cet exercice est de prouver la formule suivante.
v

(f) +
1
2
v
i
(f) +
1
3
v

(f) +

zDi,
v
z
(f) =
k
12
.
(i) On suppose que f ne sannule pas sur . Si T 2, soit
T
le lacet compos des
segments [, + iT], [ + iT,
2
+ iT], [
2
+ iT,
2
], et de larc de cercle A(
2
, ). On
note
df
f
la 1-forme
f

(z)
f(z)
dz.
Montrer que
1
2i
_
[+iT,
2
+iT]
df
f
tend vers v

(f) quand T +.
VI.5. AUTRES EXEMPLES 127
Montrer que
_
[,+iT]
df
f
+
_
[
2
+iT,
2
]
df
f
= 0.
Montrer que
_
A(
2
,i)
df
f
=
_
A(i,)
_
df
f
+
k
z
dz
_
. En dduire que
1
2i
_
A(
2
,)
df
f
=
k
12
.
Montrer que v

(f) +

z
v
z
(f) =
k
12
.
(ii) Montrer que, si on ne suppose pas que f ne sannule pas sur , alors
v

(f) +

z
v
z
(f) +
1
2

z,
2

v
z
(f) +
1
6
(v

(f) + v

2(f)) =
k
12
.
(Si f sannule en z , modier le chemin
T
au voisinage de z en le remplaant par
un arc de cercle, lintrieur de , de centre z et de rayon tendant vers 0.)
(iii) Conclure.
La formule
k
12
a beaucoup de consquences intressantes. En voici quelques-unes.
Exercice VI.5.4. (Dimension des espaces de formes modulaires)
(i) Montrer quune forme modulaire de poids 0 est constante.
(ii) Montrer quil ny a pas
(10)
de forme modulaire de poids 2 ou de poids impair.
(iii) Montrer que lensemble M
k
des formes modulaires de poids k est un espace vectoriel
et que f (a
n
(f))
0n
k
12
est une application linaire injective de M
k
dans C
d(k)
, avec
d(k) = 1 + [
k
12
]. En dduire que M
k
est de dimension nie et que dimM
k
1 + [
k
12
].
Exercice VI.5.5. (fonction L dune forme modulaire)
Soit Y = z C, Im(z)
1
2
, [Re(z)[
1
2
. Soit f =

+
n=1
a
n
q
n
une forme modulaire
parabolique de poids 2k, et soit F(z) = Im(z)
k
[f(z)[.
(i) Montrer quil existe M > 0 tel que [F(z)[ M, quel que soit z Y.
(ii) Montrer que F(z + 1) = F(z) et F(1/z) = F(z).
(iii) Montrer que, si [Re(z
0
)[
1
2
et si 0 < Im(z
0
)
1
2
, alors il existe z
1
vriant
[Re(z
1
)[
1
2
, Im(z
1
) 2Im(z
0
), et F(z
1
) = F(z
0
). En dduire que F(z) M, quel que soit
z vriant [Re(z)[
1
2
.
(iv) Montrer que a
n
=
_
1/2
1/2
f(x +
i
n
)e
2i(nx+i)
dx. En dduire que [a
n
[ e
2
Mn
k
.
(v) Soit L(f, s) =

+
n=1
a
n
n
s
. Montrer que L(f, s) a une abscisse de convergence nie,
possde un prolongement analytique C tout entier, que L(f, n) = 0, si n N, et
que (f, s) =
(s)
(2)
s
L(f, s) vrie lquation fonctionnelle (f, s) = (1)
k
(f, 2k s). (On
sintressera
_
+
0
f(iy)y
s dy
y
.)
Lexercice suivant montre que lon nest pas en train de faire la thorie de lensemble
vide (dont les lments ont, comme chacun sait, beaucoup de proprits miriques...).
Exercice VI.5.6. (Sries dEisenstein)
(i) Montrer que [mz + n[ inf(y,
y
[z[
) sup([m[, [n[), si z = x + iy H et m, n Z.
(10)
Ce rsultat intervient de manire cruciale dans la dmonstration de Wiles du thorme de Fermat.
128 CHAPITRE VI. SRIES DE DIRICHLET
(ii) Montrer que, si k 3, la srie

(m,n)Z
2
(0,0)
1
(mz+n)
k
converge uniformment sur
tout compact de H .
(iii) Si z H , soit G
k
(z) =
(k)
2 (2i)
k

(m,n)Z
2
(0,0)
1
(mz+n)
k
. Montrer que G
k
est une
fonction holomorphe sur H et que
G
k
_
az + b
cz + d
_
= (cz + d)
k
G
k
(z), quel que soit
_
a b
c d
_
SL
2
(Z).
(iv) Montrer que, si k est impair, alors G
k
= 0, et que si k est pair, G
k
est une forme
modulaire de poids k non nulle.
Exercice VI.5.7. (q-dveloppement des sries dEisenstein)
Le but de cet exercice est de prouver que, si k est un entier pair 3, le q-dveloppement
de G
k
est donn par la formule suivante
(11)
:
G
k
=
(k)
(2i)
k
(k) +
+

n=1

k1
(n) q
n
, o
k1
(n) =

d[n, d1
d
k1
.
Soit k un entier 2.
(i) Montrer que la srie

nZ
1
(z+n)
k
converge uniformment sur tout compact de H .
En dduire que sa somme A
k
(z) est une fonction holomorphe sur H .
(ii) Montrer que A
k
est priodique de priode 1. Dduire du (i) que x A
k
(x +iy) est
somme de sa srie de Fourier

nZ
a
n
(y)e
2i nx
pour tout x R.
(iii) Calculer a
n
(y) par la formule des rsidus.
(iv) En dduire que
(k)
(2i)
k
A
k
(z) =

n1
n
k1
e
2i nz
.
(v) Montrer que G
k
(z) =
(k)
(2i)
k
_
(k) +

m1
A
k
(mz)
_
, et en dduire le rsultat.
Exercice VI.5.8. (La fonction thta de Jacobi)
(i) Montrer que (z) =

nZ
e
in
2
z
converge normalement sur tout compact de H . En
dduire que est holomorphe sur H .
(ii) Montrer, en utilisant le fait que la transforme de Fourier de e
t
2
est e
x
2
(cf. ex. III.4.5), que (iu) =
1

u
(
i
u
), si u R

+
.
(iii) En dduire que lon a (z) =
_
i
z
(
1
z
), si z H (o

z est la racine carre de z
holomorphe sur CR

, et valant 1 en 1).
(iv) On pose (s) =
(s/2)

s/2
(s), o est la fonction zta de Riemann. Montrer que, si
Re(s) > 1, alors (s) =
1
2
_
+
0
((iy) 1)y
s/2 dy
y
.
(11)
On remarquera que tous les termes de ce q-dveloppement sont visiblement, lexception du terme
constant, des nombres rationnels. On peut utiliser ceci pour (modulo un certain travail) en dduire quil
en est de mme du terme constant, ce qui permet de donner une dmonstration du rsultat dEuler sur
les valeurs aux entiers pairs de la fonction zta.
VI.5. AUTRES EXEMPLES 129
(v) En dduire que, si Re(s) > 1, alors
(s) =
1
s
+
1
s 1
+
1
2
_
+
1
((iy) 1)(y
s/2
+ y
(1s)/2
)
dy
y
,
puis que admet un prolongement mromorphe C, holomorphe en dehors de ples
simples en s = 0 et s = 1, et vrie lquation fonctionnelle (s) = (1 s).
(vi) Montrer que (s) = O(
1
Im(s)
) dans toute bande verticale de largeur nie.
Exercice VI.5.9. (La srie dEisenstein de poids 2)
Soit G
2
la fonction holomorphe sur H , priodique de priode 1, dont le q-dveloppement
est donn par
(12)
G
2
=
1
24
+
+

n=1
(n) q
n
, o (n) =

d[n, d1
d.
Nous allons montrer
(13)
que G
2
est presque modulaire ; plus prcisment, G
2
vrie lqua-
tion fonctionnelle z
2
G
2
(1/z) = G
2
(z)
1
4i z
.
On rappelle (ex. V.2.21) que
1
2i
_
c+i
ci
(s)y
s
= e
y
, si y R

+
et c > 0, lintgrale
tant absolument convergente.
(i) Montrer que, si L(a, s) =

+
n=1
a
n
n
s
a une abscisse de convergence nie, alors F
a
(z) =

+
n=1
a
n
e
2i nz
est holomorphe sur C, et si c > sup(0,
abs
), alors
1
2i
_
c+i
ci
(s)
(2)
s
L(a, s)y
s
ds = F
a
(iy), si y R

+
.
(ii) Soit (n) =

d[n, d1
d. Montrer que L(, s) = (s)(s 1).
(iii) Soit H(s) =
(s)
(2)
s
(s)(s 1). Montrer que H(s) =
s1
4
(s)(s 1). En dduire
que H(2 s) = H(s), que H(s) tend vers 0 linni dans toute bande verticale de
largueur nie, et que H est holomorphe sur C en dehors de ples simples en 0, 1 et 2 de
rsidus respectifs
1
24
,
1
4
et
1
24
, (On pourra utiliser les formules (0) =
1
2
, (1) =
1
12
et
(2) =

2
6
.)
(iv) Montrer que, si y > 0, alors G
2
(iy) + y
2
G
2
(i/y) =
1
24

1
4 y
+
1
24y
2
. (On intgrera
H(s)y
s
sur le rectangle de sommets 3 iT, 3 + iT, 1 + iT et 1 iT.)
(v) Conclure.
(12)
Si on reprend lexercice VI.5.7, et quon utilise la formule (2) =

2
6
, on voit que G
2
(z) est la somme
des
(2)
(2i)
2
(mz+n)
2
en sommant dabord sur n puis sur m.
(13)
La mthode de lexercice consiste dduire une quation fonctionnelle reliant (1/z) et (z),
partir dune quation fonctionnelle reliant (2 s) et (s), o (s) =
_
+
0
(iy)y
s dy
y
. Cette mthode a
beaucoup dautres applications. On peut par exemple montrer que la fonction dont le q-dveloppement
est celui de G
k
est une forme modulaire, sans passer par la construction de G
k
et le calcul de son
q-dveloppement.
130 CHAPITRE VI. SRIES DE DIRICHLET
Exercice VI.5.10. Cet exercice est un prliminaire pour le thorme des 4 carrs. Son
but est de dmontrer que si (a
n
)
n2
est une suite de nombres complexes vriant :
il existe c N tel que a
n
= O(n
c
),
F(z) =

+
n=2
a
n
e
i nz
vrie lquation fonctionnelle z
4
F(1/z) = F(z), si z H ,
alors a
n
= 0 pour tout n 2.
(i) Montrer que F(z) = O(e
2Im(z)
) dans Y = z C, [Re(z)[ 1, Im(z) 1.
(ii) Montrer que F(1 1/z) = O(Im(z)
c+1
) dans Y.
(iii) Soit k un entier pair. Si f : H C est une fonction, et si =
_
a b
c d
_
SL
2
(R),
on dnit f
[
k
: H C par la formule f
[
k
(z) = (cz +d)
k
f
_
az+b
cz+d
_
. Vrier que ceci est
bien dni et que (f
[
k

1
)
[
k

2
= f
[
k

2
, pour tous
1
,
2
SL
2
(R).
(iv) Soient I =
_
1 0
0 1
_
, S =
_
0 1
1 0
_
et T =
_
1 1
0 1
_
. Vrier que S
2
= (TS)
3
= I ; en
dduire que pour toute fonction f : H C, on a f
[
k
S
2
= f
[
k
(TS)
3
= f.
(v) Montrer que F
[
4
TS = F
[
4
TST. (On pourra sintresser F
[
4
T
2
STSTS
2
.)
(vi) En dduire
(14)
que F
[
4
(TS)
2
= F
[
4
T et que, si G = F F
[
4
TS F
[
4
(TS)
2
, alors
G
[
12
S = G
[
12
T = G et G = O(Im(y)
c+14
e
4Im(y)
) dans Y.
(vii) En dduire que G est une forme modulaire de poids 12, que v

(G) 2, et conclure.
Exercice VI.5.11. (Sommes de 4 carrs)
Le but de cet exercice est de dmontrer la formule suivante (C. Jacobi, 1829), dont on
dduit une forme eective du thorme de Lagrange (1770) : tout nombre entier positif
est somme dau plus 4 carrs de nombres entiers,
[(a, b, c, d) Z
4
, a
2
+ b
2
+ c
2
+ d
2
= n[ = 8

d[n, 4d
d.
On note r(n) la quantit [(a, b, c, d) Z
4
, a
2
+b
2
+c
2
+d
2
= n[ ; autrement dit r(n) est
le nombre de dcompositions de n en somme de quatre carrs. On note =

nZ
e
in
2
z
la fonction thta de Jacobi de lex. VI.5.8.
(i) Montrer que

+
n=0
r(n)e
i nz
= (z)
4
.
(ii) Soit F(z) = (z)
4
8(G
2
(
z
2
) 4G
2
(2z)). Montrer que F
[
2
S = F et F
[
2
T
2
= F. (On
utilisera lex. VI.5.9.)
(iii) Montrer que r(n) (1 + 2

n)
4
et (n)
n(n+1)
2
. En dduire que, si F(z) =

+
n=1
a
n
e
i nz
, alors a
n
= O(n
2
).
(iv) En dduire, en utilisant lex. VI.5.10, que
4
(z) = 8(G
2
(
z
2
) 4G
2
(2z)), et conclure.
(14)
Ces calculs cachent les rsultats suivants. Le sous-groupe de SL
2
(R) engendr par S et T est SL
2
(Z),
et celui engendr par S et T
2
est le sous-groupe de SL
2
(Z) des matrices dont limage dans SL
2
(Z/2Z)
est I ou S. Comme [SL
2
(Z/2Z)[ = 6, lindice de dans SL
2
(Z) est 3, et I, TS, (TS)
2
forment un systme
de reprsentants de SL
2
(Z).
VI.5. AUTRES EXEMPLES 131
On a en particulier (car (4) =

2
90
et (6) =

6
3
3
57
, cf. ex. IV.2.13)
G
4
=
1
240
+

n1

3
(n)q
n
et G
6
=
1
504
+

n1

5
(n)q
n
.
On dnit alors la forme discrimant et linvariant modulaire
(15)
j par
=
1
1728
_
(240G
4
)
3
(504G
6
)
2
_
et j =
(240G
4
)
3

.
Exercice VI.5.12. (La forme modulaire et linvariant modulaire j)
(i) Montrer que est une forme parabolique non nulle de poids 12 et, en utilisant la
formule
k
12
, que ne sannule pas sur D ou sur .
(ii) Montrer que j induit une bijection de D sur C.
(iii) Montrer que le seul zro de G
4
dans D est et le seul zro de G
6
dans D est i.
(iv) Montrer que, si (z) = 0, (z + n) = 0 quel que soit n Z et (1/z) = 0. En
dduire que si (z
0
) = 0, et si [Re(z
0
)[
1
2
et [z
0
[ < 1, alors il existe z
1
H , vriant
(z
1
) = 0, Im(z
1
) > Im(z
0
) et [Re(z
1
)[
1
2
.
(v) Montrer que ne sannule pas sur H , et que j est une fonction modulaire de
poids 0.
Exercice VI.5.13. (La formule de Jacobi pour )
Soit F(q) = q

+
n=1
(1q
n
)
24
. Notre but est de prouver que (z) = F(e
2iz
). On utilisera
pleinement le rsultat de lex. VI.5.9.
(i) Soit f(z) = log(F(e
2iz
)). Montrer que
1
2i
f
t
(z) = 24G
2
(z).
(ii) Soit g(z) = f(1/z) 12 log z. Montrer que g
t
(z) = f
t
(z).
(iii) En dduire que, si on pose H(z) = F(e
2iz
), alors
z
12
H(1/z)
H(z)
est constante sur H ,
puis que H est une forme modulaire de poids 12.
(iv) Conclure.
(15)
Son q-dveloppement j = q
1
+ 744 + 196884q + 21493760q
2
+ recle des trsors (cf. note 3 du
chap. VII).
CHAPITRE VII
REPRSENTATIONS DES GROUPES FINIS
Si G est un groupe, une reprsentation V de G est un espace vectoriel sur un corps K
(ou plus gnralement un module sur un anneau A) muni dune action linaire de G (i.e.
on demande que x g x soit une application linaire de V dans V, quel que soit g G).
Il arrive souvent que G et V soient munis de topologies, et on demande alors, en gnral,
que (g, x) g x soit continue de GV dans V.
Les reprsentations de groupes interviennent de multiples faons en mathmatique,
en physique, ou en chimie. Par exemple, une des motivations initiales de la thorie des
reprsentations des groupes nis, dont il sera question dans ce chapitre, est venue de
la cristallographie. La physique des particules utilise grandement les reprsentations des
groupes de Lie
(1)
comme le groupe SU
2
(C) des isomtries de dterminant 1 de C
2
(muni
du produit scalaire usuel (x
1
, x
2
), (y
1
, y
2
)) = x
1
y
1
+x
2
y
2
), ou encore le groupe dHeisen-
berg des matrices 3 3 unipotentes suprieures (i.e. triangulaires suprieures avec des 1
sur la diagonale), coecients rels.
Si G est un groupe, la connaissance des reprsentations de G fournit des tas dinforma-
tions sur G, et certains groupes ne sont accessibles qu travers leurs reprsentations. Par
exemple, lexistence du monstre, le plus grand des groupes nis simples sporadiques
(2)
, de
cardinal
2
46
3
20
5
9
7
6
11
2
13
3
17 19 23 29 31 41 47 59 71,
(1)
Voir le cours Groupes et reprsentations de D. Renard, en troisime anne.
(2)
Un groupe G est simple si ses seuls sous-groupes distingus sont 1 et G. Si un groupe ni nest pas
simple, il possde un sous-groupe distingu non trivial H, et H et G/H sont deux groupes plus petits
que G partir desquels G est construit. En ritrant ce procd, cela permet de casser nimporte quel
groupe ni en une famille nie de groupes simples. La classication des groupes nis se ramne donc
celle des groupes nis simples, et comprendre comment on peut composer ces groupes simples pour
fabriquer des groupes plus gros. La classication des groupes nis simples sest acheve au dbut des
annes 1980 (elle court sur quelques milliers de pages, et personne nen matrise vraiment la totalit...).
Il y a un certain nombre de familles innies comme les Z/pZ, pour p premier, les groupes alterns A
n
,
pour n 5, les quotients de SL
n
(F
q
) par leur centre (F
q
est le corps q lment), et quelques autres
dcouvertes par C. Chevalley en 1954. A ct de ces familles, il y a 26 groupes isols, dit sporadiques.
134 CHAPITRE VII. REPRSENTATIONS DES GROUPES FINIS
na t dmontre en 1982, par R. Griess, que grce la construction dune de ses re-
prsentations
(3)
(de dimension 199883), alors que lexistence du monstre avait t prdite
en 1973 par R. Griess et B. Fischer (il y a une ressemblance certaine avec la chasse aux
particules lmentaires).
De mme, on na de prise sur G
Q
, groupe des automorphismes du corps Q des nombres
algbriques (cf. annexe C) qu travers ses reprsentations. Celles-ci fournissent de pr-
cieuses informations sur Q, et permettent de rsoudre des problmes classiques de tho-
rie des nombres. Par exemple, la dmonstration du thorme de Fermat par A. Wiles
(1994) consiste relier, de manire en tirer une contradiction, deux types de repr-
sentations de G
Q
: dune part celles provenant des solutions (dans Q) de lquation
y
2
= x(x a
p
)(x + b
p
), o a
p
+ b
p
= c
p
est un contrexemple potentiel au thorme
de Fermat, et dautre part, des reprsentations provenant des formes modulaires
(4)
.
Lexemple de G
Q
agissant sur Q est en fait assez typique. Si on a un ensemble X sur
lequel un groupe G agit, et si on connat bien les reprsentations de G, alors on peut
esprer en tirer des informations nes sur X.
Nous ne considrerons que les reprsentations complexes des groupes nis dans ce cours.
Ce cas prsente lavantage dtre la fois simple et tout fait reprsentatif du genre
dnoncs que lon peut esprer dans dautres situations.
VII.1. Reprsentations et caractres
1. Dnitions
Le lecteur est renvoy au n
o
1 du D.2 et aux alinas 2.4, 2.5 du D.1 pour le vocabulaire
et les rsultats de base dalgbre linaire et de thorie des groupes.
(3)
Cest la plus petite des reprsentations non triviales du monstre ; le dbut de la liste des dimensions
des reprsentations irrductibles du monstre est le suivant :
f
1
= 1, f
2
= 199883, f
3
= 21296876, f
4
= 842609326, f
5
= 18538750076, f
6
= 19360062527, . . .
J. McKay a remarqu en 1977, que 199883 avait un rapport avec les coecients de Fourier de la fonction
modulaire j de lex. VI.5.12 : si on crit j(z) sous la forme j(z) =
1
q
+744+

n1
c
n
q
n
, avec q = e
2i z
, alors
c
1
= f
2
+f
1
, c
2
= f
3
+f
2
+f
1
, c
3
= f
4
+f
3
+2f
2
+2f
4
... Vu la taille des nombres en prsence, il y avait peu
de chance que ceci soit une concidence fortuite. Ce mystre, connu sous le nom de monsters moonshine,
a t rsolu par R. Borcherds en 1992, en utilisant des objets venant de la physique mathmatique, ce qui
lui a valu la mdaille Fields (1998). Lexpression monsters moonshine est moins potique que ce quelle
suggre, car moonshine doit tre pris dans le sens de btise, faribole, comme dans la citation suivante
de E. Rutherford : The energy produced by the breaking down of the atom is a very poor kind of thing.
Anyone who expects a source of power from the transformations of these atoms is talking moonshine. .
(4)
Voir le cours de J. Tilouine Thorme de Fermat, Courbes elliptiques et formes modulaires en troi-
sime anne pour plus de dtails.
VII.1. REPRSENTATIONS ET CARACTRES 135
Soit G un groupe ni dlment neutre 1 et de loi de groupe (g, h) gh. Une repr-
sentation V de G est un C-espace vectoriel muni dune action ( gauche) de G agissant
de manire linaire. Une telle reprsentation est quivalente la donne dun morphisme
de groupes
V
de G dans GL(V) : si g G, lapplication v g v est linaire bijective
et donc nous dnit un lment
V
(g) de GL(V), et lidentit g (h v) = gh v, valable
quels que soient g, h G et v V, se traduit par lidentit
V
(gh) =
V
(g)
V
(h). Dans la
suite on parlera indiremment de la reprsentation V de G ou de la reprsentation
V
de
G, suivant quon veut mettre laccent sur lespace vectoriel de la reprsentation ou sur le
morphisme de G dans GL(V). On notera aussi parfois
V,g
llment
V
(g) de GL(V), de manire
pouvoir crire
V,g
(v) au lieu de
V
(g)(v) limage g v de v V sous laction de g G.
La dimension dimV dune reprsentation V est juste la dimension de lespace vecto-
riel V. Si dimV = d et si (e
1
, . . . , e
d
) est une base de V, on note R
V
(g) ou R
V,g
la matrice
de
V
(g) dans la base (e
1
, . . . , e
d
) (qui dpend du choix de la base bien que a napparaisse
pas dans la notation). Alors R
V
: G GL
d
(C) est un morphisme de groupes.
Le caractre
V
de V est lapplication de G dans C dnie par
V
(g) = Tr(
V
(g)), o
Tr(
V
(g)) dsigne la trace de lendomorphisme
V
(g) ; cest aussi la trace de la matrice
R
V
(g) dans nimporte quelle base de V, et cest aussi la somme des valeurs propres de

V
(g) comptes avec multiplicit. On a en particulier
V
(1) = Tr(1) = dimV, ce qui
montre que lon peut retrouver la dimension de V partir de son caractre. De plus,
comme Tr(AB) = Tr(BA), si A et B sont deux lments de M
d
(C), on a
Tr(
V
(hgh
1
)) = Tr(
V
(h)
V
(g)
V
(h)
1
) = Tr(
V
(g)),
ce qui montre que
V
est une fonction centrale sur G (i.e.
V
est constante sur chacune
des classes de conjugaison de G : on a
V
(hgh
1
) =
V
(g) quels que soient h, g G).
Remarque VII.1.1. Comme G est un groupe ni, tout lment de g est dordre ni. Si
g est dordre n, et si V est une reprsentation de G, on a
V
(g)
n
=
V
(g
n
) = 1. Comme
le polynme X
n
1 na que des racines simples, cela prouve que
V
(g) est diagonalisable.
Bien sr, il nexiste pas, en gnral, de base de V dans laquelle toutes les matrices R
V
(g),
pour g G, soient diagonales, si G nest pas commutatif.
De plus, les valeurs propres de
V
(g) sont des racines de lunit. En particulier, elles
sont de module 1, et donc
1
= , si est une valeur propre de
V
(g). Comme les valeurs
propres de
V
(g
1
) =
V
(g)
1
sont les inverses de celles de
V
(g), et comme la trace est
la somme des valeurs propres, on en dduit que
V
(g
1
) =
V
(g), quel que soit g G.
Exercice VII.1.2. (i) Soient V un espace vectoriel de dimension nie sur C, et u
1
, u
2
deux endomor-
phismes diagonalisables de V commutant lun lautre. Montrer que tout espace propre de u
1
est stable
par u
2
. En dduire quil existe une base de V dans laquelle les matrices de u
1
et u
2
sont toutes les deux
diagonales.
(ii) Soit G un groupe commutatif, et soit V une reprsentation de G. Montrer quil existe une base
de V dans laquelle les matrices R
V
(g), pour g G, sont toutes diagonales. En dduire quil existe une
dcomposition de V en somme directe de droites stables par laction de G.
136 CHAPITRE VII. REPRSENTATIONS DES GROUPES FINIS
2. Premiers exemples
2.1. Caractres linaires
Une reprsentation de dimension 1 est donne par un morphisme de groupes : G
C

; un tel morphisme est aussi souvent appel un caractre linaire de G. On note



G
lensemble de ces caractres linaires. Par exemple, si G = (Z/DZ)

, alors

G est lensemble
des caractres de Dirichlet modulo D.
Si V est une reprsentation de dimension 1 correspondant au caractre linaire , on
a
V
= de manire vidente. Autrement dit, le caractre dun caractre linaire est le
caractre linaire lui-mme.
La reprsentation triviale, note 1, est la reprsentation de dimension 1 correspondant
au caractre : G C

pour lequel on a (g) = 1, quel que soit g G (cest le caractre


trivial).
Si V est une reprsentation de G, et si

G, on note V() ou V la tordue de V par
le caractre linaire : cest la reprsentation dnie par
V()
(g) = (g)
V
(g) (lespace
vectoriel de V() est V, mais laction est tordue par ; la matrice R
V()
(g) est le produit
de R
V
(g) par (g)). On a
V()
(g) = (g)
V
(g), si g G.
Exercice VII.1.3. (Orthogonalit des caractres linaires) Soient G un groupe ni et


G. Montrer que
1
[G[

gG
(g) vaut 1 si est le caractre trivial, et 0 sinon. En
dduire que, si
1
,
2


G, et si
1
,
2
) =
1
[G[

gG

1
(g)
2
(g), alors
1
,
2
) = 1 si

1
=
2
, et
1
,
2
) = 0 si
1
,=
2
.
2.2. Sommes directes
Si V
1
et V
2
sont deux reprsentations de G, on peut considrer la reprsentation V
1
V
2
,
somme directe de V
1
et V
2
; il sagit de lespace vectoriel V des (v
1
, v
2
), avec v
1
V
1
et
v
2
V
2
, muni de laction de G donne par g (v
1
, v
2
) = (g v
1
, g v
2
). Si on choisit une base
e
1
, . . . , e
m
de V
1
et une base f
1
, . . . , f
n
de V
2
, alors (e
1
, 0), . . . , (e
m
, 0), (0, f
1
), . . . , (0, f
n
)
est une base de V, et la matrice R
V
(g) dans cette base est la matrice diagonale par blocs
_
R
V
1
(g) 0
0 R
V
2
(g)
_
, dont la trace est la somme des traces de R
V
1
(g) et R
V
2
(g). On a donc

V
1
V
2
=
V
1
+
V
2
.
2.3. Reprsentations de permutation, reprsentation rgulire
Si X est un ensemble ni muni dune action ( gauche) de G donne par (g, x) gx, on
dnit la reprsentation de permutation V
X
, associe X, comme lespace vectoriel V
X
de
dimension [X[, de base (e
x
)
xX
, muni de laction linaire de G donne, sur les vecteurs de la
base, par ge
x
= e
gx
. Si g
1
, g
2
G, et si x X, on a g
1
(g
2
e
x
) = g
1
e
g
2
x
= e
g
1
g
2
x
= g
1
g
2
e
x
,
ce qui prouve que la formule prcdente dnit bien une action de G sur V
X
. Dans la base
(e
x
)
xX
, la matrice de g est une matrice de permutation (i.e. a exactement un 1 par ligne
et par colonne, et tous les autres coecients sont nuls), et le terme diagonal a
x,x
est gal
1 si et seulement si g x = x (i.e. si x est un point xe de g), sinon, il vaut 0. On en
VII.1. REPRSENTATIONS ET CARACTRES 137
dduit que la trace de la matrice de g est le nombre de points xes de g agissant sur X.
Autrement dit, on a

V
X
(g) = [x X, g x = x[.
Un cas particulier intressant est celui o X = G et laction de G est donne par
la multiplication gauche (i.e. g h = gh). La reprsentation V
G
ainsi obtenue est la
reprsentation rgulire de G. Comme gh = h implique g = 1, on voit que le caractre de
la reprsentation rgulire est donn par la formule

V
G
(1) = [G[, et
V
G
(g) = 0, si g G1.
3. Morphismes de reprsentations
Soient V
1
et V
2
deux reprsentations de G, et soit u : V
1
V
2
une application linaire.
Si g G, on dnit g u : V
1
V
2
par la formule (g u)(v) = g u(g
1
v), quel que soit
v V
1
. Si g
1
, g
2
G, et si v V
1
, on a
(g
1
(g
2
u))(v) = g
1

_
(g
2
u)(g
1
1
v)
_
= g
1

_
g
2
u(g
1
2
g
1
1
v)
_
= g
1
g
2
u((g
1
g
2
)
1
v) = (g
1
g
2
u)(v),
et donc g
1
(g
2
u) = g
1
g
2
u, ce qui prouve que lon a dni de la sorte une action de G
sur lespace Hom(V
1
, V
2
) des applications linaires de V
1
dans V
2
.
Si g G, lendomorphisme
Hom(V
1
,V
2
),g
de Hom(V
1
, V
2
) est alors donn par la formule :

Hom(V
1
,V
2
),g
(u) =
V
2
,g
u
1
V
1
,g
, si u Hom(V
1
, V
2
).
Remarque VII.1.4. Notons Hom
G
(V
1
, V
2
) lensemble des applications linaires de V
1
dans V
2
commutant laction de G. Cest un sous-espace vectoriel de Hom(V
1
, V
2
) et
un lment u de Hom(V
1
, V
2
) est dans Hom
G
(V
1
, V
2
), si et seulement si on a g u(v) =
u(g v), quel que soit v V
1
. Appliqu g
1
v, ceci peut aussi se rcrire sous la forme
g u(g
1
v) = u(v), quel que soit v V
1
, ou encore, sous la forme g u = u. Autrement dit,
Hom
G
(V
1
, V
2
) est le sous-espace vectoriel de Hom(V
1
, V
2
) des lments xes sous laction
de G. Les lments de Hom
G
(V
1
, V
2
) sont souvent appels des oprateurs dentrelacement.
Proposition VII.1.5. Si V
1
et V
2
sont deux reprsentations de G, et si g G, alors

Hom(V
1
,V
2
)
(g) =
V
1
(g)
V
2
(g).
Dmonstration. Si g est x, on peut choisir une base (e
i
)
iI
de V
1
et une base (f
j
)
jJ
de
V
2
dans lesquelles les actions de g sont diagonales. Il existe donc des nombres complexes

i
, pour i I, et
j
, pour j J, tels que g e
i
=
i
e
i
, si i I, et g f
j
=
j
f
j
, si j J.
On a alors
V
1
(g) =

iI

i
et
V
2
(g) =

jJ

j
.
Si (i, j) I J, soit u
i,j
: V
1
V
2
lapplication linaire dnie par u
i,j
(e
i
) = f
j
, et
u
i,j
(e
i
) = 0, si i
t
,= i. Les u
i,j
, pour (i, j) I J forment une base de Hom(V
1
, V
2
), et on
138 CHAPITRE VII. REPRSENTATIONS DES GROUPES FINIS
a g u
i,j
=
1
i

j
u
i,j
=
i

j
u
i,j
. On a donc

Hom(V
1
,V
2
)
(g) =

(i,j)IJ

j
=
_

iI

i
__

jJ

j
_
=
V
1
(g)
V
2
(g).
Ceci permet de conclure.
Remarque VII.1.6. Si V
1
= V et si V
2
est la reprsentation triviale, la reprsentation
Hom(V
1
, V
2
) = Hom(V, C) est la reprsentation duale V

de V. On a
V
=
V
, daprs
la prop. VII.1.5.
On dit que deux reprsentations V
1
et V
2
de G sont isomorphes, sil existe un iso-
morphisme linaire u : V
1
V
2
commutant laction de G, (autrement dit, sil existe
u Hom
G
(V
1
, V
2
) bijectif). Traduit en termes des morphismes
V
1
: G GL(V
1
) et

V
2
: G GL(V
2
) attachs V
1
et V
2
, cette relation devient u
V
1
(g) =
V
2
(g) u, quel
que soit g G. Traduit en termes matriciels (aprs avoir choisi des bases de V
1
et V
2
),
cela se traduit par lexistence de T GL
d
(C), tel que TR
V
1
(g) = R
V
2
(g) T, quel que soit
g G, ce qui peut encore se mettre sous la forme R
V
2
(g) = TR
V
1
(g) T
1
. En particulier,

V
1
(g) =
V
2
(g) quel que soit g G.
Remarque VII.1.7. On verra plus loin que la rciproque est vraie : si V
1
et V
2
ont
mmes caractres, alors elles sont isomorphes, ce qui peut sembler un peu surprenant, le
caractre ne permettant, a priori, que de calculer la trace des endomorphismes. Lexercice
ci-dessous rend le rsultat un peu plus envisageable.
Exercice VII.1.8. Soit V une reprsentation de G, et soit g G. Montrer que, si
P
g
(T) = T
dimV
Car

V
(g)
(T
1
) = T
dimV
det(T
1

V
(g)), on a lidentit des sries formelles
+

n=0

V
(g
n
)T
n
=
P
t
g
(T)
P
g
(T)
.
En dduire que
V
permet de dterminer
V
(g) conjugaison prs.
VII.2. Dcomposition des reprsentations
1. Dcomposition en somme directe de reprsentations irrductibles
Soit V une reprsentation de G. Une sous-reprsentation de V est un sous-espace vec-
toriel de V stable par G. On dit que V est irrductible si V ne possde pas de sous-
reprsentation autre que 0 ou V. De manire quivalente, V est irrductible si, quel que
soit v V0, le sous-espace vectoriel de V engendr par les g v, pour g G, est gal
V.
Nous allons prouver que toute reprsentation de G est somme directe de reprsentations
irrductibles, ce qui revient, en choisissant une base de chacune de ces reprsentations
irrductibles, chercher une base de V dans laquelle les lments g de G se mettent
VII.2. DCOMPOSITION DES REPRSENTATIONS 139
simultanment sous une forme diagonale par blocs
(5)
, la taille des blocs tant la plus
petite possible. (Cest un peu analogue la forme minimale dune matrice de rotation
dans R
n
.)
Nous aurons besoin du rsultat suivant.
Thorme VII.2.1. Soit V une reprsentation de G. Il existe sur V un produit sca-
laire hermitien , )
V
invariant sous laction de G.
Dmonstration. Partons dun produit scalaire hermitien quelconque , ) sur V, et
dnissons , )
V
comme la moyenne des transforms de , ) sous laction de G. Autrement
dit, on a
v
1
, v
2
)
V
=
1
[G[

gG
g v
1
, g v
2
).
Laction de G tant linaire, le rsultat est bien linaire par rapport v
2
et sesquilinaire
par rapport v
1
. De plus, v, v)
V

1
[G[
v, v), ce qui prouve que , )
V
est dni positif.
Finalement, si h G, on a
h v
1
, h v
2
)
V
=
1
[G[

gG
g (h v
1
), g (h v
2
)) =
1
[G[

gG
gh v
1
, gh v
2
) = v
1
, v
2
)
V
,
car g gh induit une bijection de G sur lui-mme. Ceci permet de conclure.
Thorme VII.2.2. (Maschke, 1899) Toute reprsentation de G est somme directe
de reprsentations irrductibles.
Dmonstration. La dmonstration se fait par rcurrence sur la dimension. Si V est de
dimension 1 ou est irrductible, il ny a rien faire. Si V est de dimension 2 et nest pas
irrductible, alors V possde une sous-reprsentation V
1
distincte de 0 et V. Si , )
V
est un
produit scalaire hermitien sur V, invariant sous laction de G, le supplmentaire orthogonal
V
2
de V
1
est lui-aussi stable par G puisque que v orthogonal V
1
quivaut g v
orthogonal g V
1
= V
1
par invariance du produit scalaire. On a alors V = V
1
V
2
, et
V
1
et V
2
sont de dimensions strictement infrieures celle de V. Lhypothse de rcurrence
permet de les dcomposer comme des sommes directes de reprsentations irrductibles,
ce qui prouve quon peut en faire autant de V.
(5)
Cest assez particulier aux reprsentations des groupes nis sur un corps de caractristique 0. Mme
dans le cas des groupes nis, si on considre des reprsentations sur un corps de caractristique > 0, le
mieux que lon puisse esprer est une mise sous forme triangulaire suprieure par blocs. Par exemple, si
V est la reprsentation de dimension 2 de G = Z/pZ sur le corps F
p
= Z/pZ, la matrice de n Z dans
une base (e
1
, e
2
) tant
_
1 n
0 1
_
, alors le sous-espace V
1
, engendr par e
1
, est stable (et mme xe) par G,
mais il est facile de voir que cest le seul sous-espace propre de V ayant cette proprit. La reprsentation
V nest donc pas irrductible, mais nest pas somme directe de reprsentations irrductibles.
140 CHAPITRE VII. REPRSENTATIONS DES GROUPES FINIS
Remarque VII.2.3. Si G est cyclique engendr par g, la dcomposition de V en somme
de reprsentations irrductibles est quivalente une dcomposition de V en droites in-
variantes sous laction de g. On sait bien que si g a une valeur propre de multiplicit > 1,
cette dcomposition nest pas unique. Par contre, la dcomposition en sous-espaces propres
est, elle, parfaitement canonique. On verra plus loin que la situation est la mme en ce qui
concerne la dcomposition en somme de reprsentations irrductibles dune reprsentation
dun groupe ni quelconque.
2. Le lemme de Schur et ses consquences immdiates
Thorme VII.2.4. (Lemme de Schur, 1905) Soient V
1
, V
2
deux reprsentations ir-
rductibles de G.
(i) Si V
1
et V
2
ne sont pas isomorphes, alors Hom
G
(V
1
, V
2
) = 0.
(ii) Si V
1
= V
2
, alors Hom
G
(V
1
, V
2
) est la droite des homothties.
Dmonstration. Soit u Hom
G
(V
1
, V
2
). Le fait que u commute laction de G, montre
que Ker(u) V
1
et Im(u) V
2
sont stables par G. Comme par hypothse, V
1
et V
2
sont
irrductibles, on a soit Ker(u) = V
1
, auquel cas u = 0, soit Ker(u) = 0, auquel cas
Im(u) ,= 0 et donc Im(u) = V
2
. On en dduit que, si u ,= 0, alors u est la fois injective
(puisque Ker(u) = 0) et surjective, et donc est un isomorphisme. Cela dmontre le (i).
Passons au (ii). Comme on travaille avec des C-espaces vectoriels, u admet une valeur
propre . Donc u, qui commute laction de G puisque u le fait et quune homothtie
commute tout, a un noyau non nul. Le mme raisonnement quau (i) montre que ce
noyau doit donc tre gal V
1
, ce qui se traduit par le fait que u est une homothtie de
rapport . Ceci permet de conclure.
Exercice VII.2.5. Soit G un groupe ni commutatif.
(i) Montrer que toute reprsentation irrductible de G est de dimension 1.
(ii) Soit V une reprsentation de G. Montrer que V admet une dcomposition en somme
directe de droites stables par G.
Proposition VII.2.6. (i) Si V
1
et V
2
sont irrductibles, non isomorphes, et si u
Hom(V
1
, V
2
), alors M(u) =
1
[G[

gG
g u = 0.
(ii) Si V est irrductible, et si u Hom(V, V), alors M(u) =
1
[G[

gG
g u est lhomo-
thtie de rapport
1
dimV
Tr(u).
(iii) Si V est irrductible, et si est une fonction centrale sur G, alors

gG
(g)
V
(g)
est lhomothtie de rapport
1
dimV

gG
(g)(g).
Dmonstration. Si V
1
et V
2
sont deux reprsentations de G, si u Hom(V
1
, V
2
), et
si h G, on a h (

gG
g u) =

gG
hg u. Comme g hg est une bijection de
G sur lui-mme, cette dernire quantit est aussi gale

gG
g u. On en dduit que
M(u) =
1
[G[

gG
g u appartient Hom
G
(V
1
, V
2
).
VII.2. DCOMPOSITION DES REPRSENTATIONS 141
Le (i) est donc une consquence du (i) du lemme de Schur. Le (ii) du lemme de Schur
montre, quant lui, que M(u) est une homothtie, si u Hom(V, V) et V est irrductible.
Pour dterminer le rapport de cette homothtie, il sut den calculer la trace et de diviser
par dimV. Or on a M(u) =
1
[G[

gG

V
(g)u
V
(g)
1
, et donc M(u) est la moyenne de [G[
termes dont chacun a pour trace Tr(u), puisque la trace est invariante par conjugaison.
On a donc Tr(M(u)) = Tr(u), ce qui permet den dduire le (ii).
Finalement, si est une fonction centrale (i.e., si (hgh
1
) = (g) quels que soient
h, g G), si u

gG
(g)
V
(g) Hom(V, V), et si h G, on a
h u

=
V
(h)
_

gG
(g)
V
(g)
_

V
(h)
1
=

gG
(g)(hgh
1
)
=

gG
(hgh
1
)(hgh
1
) =

gG
(g)
V
(g) = u

.
On conclut comme ci-dessus que u

est lhomothtie de rapport


1
dimV
Tr(u

) =
1
dimV

gG
(g)Tr(
V
(g)) =
1
dimV

gG
(g)
V
(g),
ce qui permet de conclure.
3. Orthogonalit des caractres
On note R
C
(G) lespace vectoriel des fonctions centrales. Cet espace contient lensemble
R
+
(G) des caractres des reprsentations de G qui lui-mme, contient lensemble Irr(G)
des caractres irrductibles de G (i.e. les caractres des reprsentations irrductibles de G).
Finalement, on note R
Z
(G) le groupe des caractres virtuels de G; cest le sous-groupe
(additif) de R
C
(G) engendr par R
+
(G).
Exercice VII.2.7. Montrer que R
+
(G) est stable par addition et que R
Z
(G) est len-
semble des
1

2
, avec
1
,
2
R
+
(G).
On munit R
C
(G) du produit scalaire hermitien , ) dni par

1
,
2
) =
1
[G[

gG

1
(g)
2
(g).
Thorme VII.2.8. (Frobenius, 1897) Les caractres irrductibles forment une base
orthonormale de lespace des fonctions centrales.
Dmonstration. Soient
1
et
2
deux caractres, et soient V
1
et V
2
des reprsentations
de G dont les caractres sont
1
et
2
. En utilisant la prop. VII.1.5, on peut rcrire

1
,
2
) sous la forme

1
,
2
) =
1
[G[

gG

1
(g)
2
(g) =
1
[G[

gG

Hom(V
1
,V
2
)
(g).
142 CHAPITRE VII. REPRSENTATIONS DES GROUPES FINIS
Comme
Hom(V
1
,V
2
)
(g) est, par dnition, la trace de g agissant sur Hom(V
1
, V
2
), cela
permet de voir
1
,
2
) comme la trace de lapplication linaire u
1
[G[

gG
g u = M(u)
dnie dans la prop. VII.2.6. On dduit alors des (i) et (ii) de cette proposition les faits
suivants.
Si
1
et
2
sont irrductibles et distincts, alors M est identiquement nul, et donc

1
,
2
) = Tr(M) = 0.
Si est irrductible, et si V est une reprsentation de caractre , alors M est
lapplication associant u Hom(V, V) lhomothtie de rapport
1
dimV
Tr(u). On en dduit
que M admet comme valeurs propres 1 avec multiplicit 1, lespace propre correspondant
tant la droite des homothties, et 0 avec multiplicit (dimV)
2
1, le noyau de M tant
lhyperplan des endomorphismes de trace nulle. La trace de M est donc 1, ce qui se traduit
par , ) = 1.
Il rsulte des deux points ci-dessus que les caractres irrductibles forment une fa-
mille orthonormale. Il reste vrier quils forment une base de R
C
(G), et pour cela, il
sut de vrier quune fonction centrale , qui est orthogonale tous les lments de
Irr(G), est nulle. Pour cela, considrons la reprsentation rgulire V
G
de G, que lon
dcompose en somme directe V
1
V
r
de reprsentations irrductibles. Si est une
fonction centrale orthogonale
V
i
, il rsulte du (iii) de la prop. VII.2.6, que lendomor-
phisme

gG
(g)
V
i
(g) de V
i
est nul. Donc, si est orthogonale tous les caractres
irrductibles, lendomorphisme

gG
(g)
V
G
(g) de V
G
est nul. En faisant agir cet endo-
morphisme sur e
1
V
G
, on en dduit que 0 =

gG
(g)g e
1
=

gG
(g)e
g
. Or les e
g
,
pour g G, forment une base de V
G
; la nullit de

gG
(g)e
g
implique donc celle de
(g), quel que soit g G, et donc aussi celle de . Ceci permet de conclure.
Remarque VII.2.9. Si V
1
et V
2
sont irrductibles et non isomorphes, lapplication M est
identiquement nulle et donc Tr(M) = 0. Or il rsulte de la dmonstration du th. VII.2.8
que Tr(M) =
V
1
,
V
2
). On en dduit en particulier que
V
1
,=
V
2
. Autrement dit,
lapplication W
W
est une injection de lensemble des reprsentations irrductibles de
G ( isomorphisme prs) dans Irr(G). Comme, par dnition de Irr(G), cette application
est surjective, cest une bijection, ce qui permet de voir Irr(G) aussi comme lensemble
des reprsentations irrductibles de G. Cest cette interprtation de Irr(G) qui est utilise
dans la suite.
4. Applications du thorme principal
Le thorme VII.2.8 a des tas de consquences agrables.
4.1. Nombre des reprsentations irrductibles
Corollaire VII.2.10. Le nombre de reprsentations irrductibles de G est gal au
nombre [Conj(G)[ de classes de conjugaison dans G. En particulier, il est ni.
VII.2. DCOMPOSITION DES REPRSENTATIONS 143
Dmonstration. Daprs le th. VII.2.8, le nombre de reprsentations irrductibles de
G est gal la dimension de lespace R
C
(G) des fonctions centrales. Or une fonction est
centrale si et seulement si elle est constante sur chaque classe de conjugaison ; une fonction
centrale peut donc scrire de manire unique sous la forme =

CConj(G)

C
1
C
, o
1
C
est la fonction indicatrice de C, et
C
C (on a
C
= (g), o g est nimporte quel
lment de C). Les 1
C
, pour C Conj(G) forment donc une base de R
C
(G) qui, de ce
fait, est de dimension [Conj(G)[. Ceci permet de conclure.
Remarque VII.2.11. Lensemble des reprsentations irrductibles de G et celui des
classes de conjugaison dans G ont le mme cardinal mais il ny a, en gnral, aucune
bijection naturelle entre ces deux ensembles. Les groupes symtriques constituent une
exception remarquable (cf. n
o
B.2).
4.2. La dcomposition canonique dune reprsentation
Corollaire VII.2.12. Si V est une reprsentation de G, si V = W
1
W
k
est une
dcomposition de V en somme directe de reprsentations irrductibles, et si W Irr(G),
alors le nombre m
W
de W
i
qui sont isomorphes W est gal
W
,
V
). En particulier,
il ne dpend pas de la dcomposition, et V

=
WIrr(G)

W
,
V
)W.
Dmonstration. On a
V
=
W
1
+ +
W
k
, et donc

W
,
V
) =
W
,
W
1
) + +
W
,
W
k
).
Or
W
,
W
i
) est gal 1 ou 0 suivant que W
i
est ou nest pas isomorphe W; on a donc

W
,
V
) = m
W
. Ceci permet de conclure.
Corollaire VII.2.13. Deux reprsentations V
1
et V
2
de G ayant mme caractre
sont isomorphes.
Dmonstration. Elles sont toutes les deux isomorphes
WIrr(G)

W
, )W, daprs le
cor. VII.2.12.
Corollaire VII.2.14. (Dcomposition dune reprsentation en composantes isoty-
piques) Si V est une reprsentation de G, et si W Irr(G), alors
p
W
=
dimW
[G[

gG

W
(g)
V
(g),
est un projecteur commutant laction de G. De plus, toutes les reprsentations irrduc-
tibles de G apparaissant dans la dcomposition de p
W
(V) sont isomorphes W, et V est
la somme directe des p
W
(V), pour W Irr(G).
Dmonstration. Soit V = W
1
W
k
une dcomposition de V en somme directe
de reprsentations irrductibles. Daprs le (iii) de la proposition VII.2.6, la restriction de
144 CHAPITRE VII. REPRSENTATIONS DES GROUPES FINIS
p
W
W
i
est lhomothtie de rapport
dimW
[G[ dimW
i

gG

W
(g)
W
i
(g) =
dimW
dimW
i

W
,
W
i
).
Daprs les relations dorthogonalit des caractres, cela implique que p
W
est lidentit
sur W
i
, si W
i

= W, et est nulle dans le cas contraire. Le rsultat sen dduit.
4.3. Un critre dirrductibilit
Corollaire VII.2.15. Une reprsentation V de G est irrductible, si et seulement si

V
,
V
) = 1
Dmonstration. Si V

=
WIrr(G)
m
W
W, alors

V
,
V
) =

WIrr(G)
m
W

W
,

WIrr(G)
m
W

W
) =

WIrr(G)
m
2
W
.
Comme les m
W
sont des entiers naturels, on en dduit que
V
,
V
) = 1 si et seulement
si tous les m
W
sont gaux 0, sauf un qui est gal 1. Ceci permet de conclure.
Exercice VII.2.16. Soit R
Z
(G). Montrer que les conditions suivantes sont quiva-
lentes.
(i) Irr(G).
(ii) , ) = 1 et (1) 0.
4.4. La dcomposition de la reprsentation rgulire
Corollaire VII.2.17. (i) Si W est irrductible, alors W apparat dans la reprsen-
tation rgulire avec la multiplicit dimW.
(ii) On a

WIrr(G)
(dimW)
2
= [G[ (formule de Burnside
(6)
).
(iii) Si g ,= 1, alors

WIrr(G)
dimW
W
(g) = 0.
Dmonstration. Le caractre
V
G
de la reprsentation rgulire est donn (alina 2.3
du VII.1) par
V
G
(1) = [G[ et
V
G
(g) = 0, si g ,= 1. Or la multiplicit de W dans V
G
est, daprs le cor.VII.2.12, gale

W
,
V
G
) =
1
[G[

gG

W
(g)
V
G
(g) =
1
[G[

W
(1)[G[ =
W
(1) = dimW,
ce qui dmontre le (i). On en dduit que
V
G
=

WIrr(G)
dimW
W
. En appliquant cette
identit g = 1, on en dduit le (ii), et g ,= 1, on en dduit le (iii).
(6)
Dans le cas de S
n
, on dispose dune dmonstration directe de cette formule, cf. note 2 de lannexe B
VII.2. DCOMPOSITION DES REPRSENTATIONS 145
5. Le cas des groupes commutatifs
Thorme VII.2.18. Si G est commutatif, toute reprsentation irrductible de G est
de dimension 1. Autrement dit Irr(G) concide avec lensemble

G des caractres linaires
de G.
Dmonstration. Si G est commutatif, les classes de conjugaison sont rduites un
lment, et donc [Conj(G)[ = [G[. Comme [Irr(G)[ = [Conj(G)[ daprs le cor. VII.2.10,
comme

WIrr(G)
(dimW)
2
= [G[, daprs le (ii) du cor. VII.2.17, et comme dimW 1,
quel que soit W Irr(G), on en dduit que dimW = 1, quel que soit W Irr(G), ce que
lon voulait dmontrer.
Corollaire VII.2.19. Si G est commutatif, toute fonction de G dans C est combi-
naison linaire de caractres linaires.
Dmonstration. Daprs le th. VII.2.8, toute fonction centrale (et donc toute fonc-
tion puisque G est commutatif) est combinaison linaire de caractres irrductibles. Le
th. VII.2.18 permet de conclure
(7)
.
Corollaire VII.2.20. Soit D 2. Toute fonction : (Z/DZ)

C est combinai-
son linaire de caractres de Dirichlet modulo D.
Il sut dappliquer le cor. VII.2.19 au groupe (Z/DZ)

.
Comme les caractres linaires dun groupe commutatif G forment une base orthonor-
male des fonctions de G dans C, il est trs facile de dcomposer une fonction quelconque
comme une combinaison linaire de caractres linaires. Si est une fonction sur G, on
dnit la transforme de Fourier

comme la fonction dnie sur

G par

() = , ) =
1
[G[

gG
(g)(g) =
1
[G[

gG
(g)
1
(g).
La formule dinversion de Fourier sexprime alors sous la forme
=

b
G

() ;
cest une consquence immdiate du fait que les , pour

G, forment une famille
orthonormale.
Si a est premier D, si on applique ce qui prcde la fonction
a
: (Z/DZ)

C
valant 1 en a et 0 ailleurs, on a

a
() =
1
(D)
(a), o (D) = [(Z/DZ)

[ est la fonction
(7)
Des dmonstrations plus terre--terre sont proposes dans les ex. VII.1.2 et VII.2.5.
146 CHAPITRE VII. REPRSENTATIONS DES GROUPES FINIS
indicatrice dEuler. On en dduit la formule ci-dessous qui est un des ingrdients de la
dmonstration de Dirichlet du thorme de la progression arithmtique (cf. annexe A)
1
(D)

Dir(D)
(a)(n) =
_
1 si n a mod D,
0 sinon.
VII.3. Construction de reprsentations
1. Reprsentations induites
1.1. Caractre dune reprsentation induite
Soit H un sous-groupe de G, et soit V une reprsentation de H. On dnit lespace
vectoriel Ind
G
H
V par
Ind
G
H
V = : G V, (hx) = h (x), quels que soient h H et x G.
Soit S G un systme de reprsentants de HG. Si x G, il existe alors un unique
h
x
H tel que h
1
x
x S. Ceci permet dtablir un isomorphisme de Ind
G
H
V sur lespace
V
S
des applications de S dans V, en envoyant sur ((s))
sS
; la bijection rciproque
envoie (v
s
)
sS
V
S
sur lapplication : G V dnie par (x) = h
x
v
h
1
x
x
. Pour vrier
que est bien un lment de Ind
G
H
V, il sut de constater que, si h H, alors h
hx
= hh
x
,
et donc
(hx) = hh
x
v
(hh
x
)
1
hx
= hh
x
v
h
1
x
x
= h (h
x
v
h
1
x
x
) = h (x).
On munit Ind
G
H
V dune action de G en dnissant g comme la fonction x (xg). Si
h H, on a
(g )(hx) = (hxg) = h (xg) = h ((g )(x)),
ce qui prouve que g est bien lment de Ind
G
H
V. De plus, si g
1
, g
2
G, alors
(g
1
(g
2
))(x) = (g
2
)(xg
1
) = (xg
1
g
2
) = (g
1
g
2
)(x),
ce qui prouve que lon a bien dni une action de groupe de G sur Ind
G
H
V. La reprsentation
de G ainsi obtenue est la reprsentation induite de H G de la reprsentation V. Liso-
morphisme de Ind
G
H
V sur V
S
montre que la dimension de Ind
G
H
V est [S[dimV =
[G[
[H[
dimV.
Par exemple, si H = 1, et V = 1 est la reprsentation triviale, la reprsentation Ind
G
H
V
est lespace des fonctions : G C. Il admet comme base les fonctions
h
, pour h G,
dnies par
h
(x) = 1, si xh = 1, et
h
(x) = 0, si xh ,= 1. Si g G, on a alors
(g
h
)(x) =
h
(xg) =
gh
(x). On en dduit que Ind
G
1
1 est la reprsentation rgulire
de G.
Remarque VII.3.1. Les reprsentations induites partir de reprsentations de sous-
groupes sont la principale source de reprsentations dun groupe G. Lun de leurs intrts
VII.3. CONSTRUCTION DE REPRSENTATIONS 147
est que leur caractre se calcule trs facilement (cf. annexe B pour un certain nombre
dapplications).
Thorme VII.3.2. Soient H G deux groupes nis, S G un systme de repr-
sentants de HG, V une reprsentation de H, et W = Ind
G
H
V. Alors, quel que soit g G,
on a

W
(g) =

sS
sgs
1
H

V
(sgs
1
) =
1
[H[

sG
sgs
1
H

V
(sgs
1
).
Dmonstration. On utilise lisomorphisme de W avec V
S
=
sS
V
s
. Dans cet iso-
morphisme, si est limage de (v
s
)
sS
, on a (x) = h
x
v
h
1
x
x
, et g senvoie sur
((g )(s))
sS
= ((sg))
sS
, ce qui fait que lon obtient
g (v
s
)
sS
= (h
sg
v
h
1
sg
sg
)
sS
.
Choisissons une base (e
i
)
iI
de V, et notons e
i,s
llment (v
t
)
tS
de V
S
dni par v
s
= e
i
, et
v
t
= 0, si t ,= s. Les e
i,s
, pour i I, forment une base de V
s
, et les e
i,s
, pour (i, s) I S,
forment une base de V
S
. La matrice de g dans cette base est constitue de blocs indexs par
(s, s
t
) S S, le bloc correspondant (s, s
t
) tant nul sauf si s = h
1
s

g
s
t
g. En particulier,
les seuls blocs qui vont contribuer la trace sont ceux pour lesquels s = h
1
sg
sg, ce qui
peut se rcrire sous la forme h
sg
= sgs
1
. Laction de g sur le V
s
correspondant concide
alors avec celle de h
sg
= sgs
1
, et sa contribution la trace est donc
V
(sgs
1
). On
en dduit la premire galit du thorme. La seconde sen dduit en remarquant que

V
(hs g (hs)
1
) =
V
(h(sgs
1
)h
1
) =
V
(sgs
1
), si h H et sgs
1
H, et en crivant
s G sous la forme h
1
s
s.
Exercice VII.3.3. Retrouver la formule dim(Ind
G
H
V) =
|G|
|H|
dimV en utilisant le th. VII.3.2.
1.2. La formule de rciprocit de Frobenius
Soient H G deux groupes nis. On dnit des applications linaires
Res
H
G
: R
C
(G) R
C
(H) et Ind
G
H
: R
C
(H) R
C
(G),
de la manire suivante. Si R
C
(G), alors Res
H
G
est juste la fonction centrale sur H,
restriction de H, et si R
C
(H), alors Ind
G
H
est la fonction centrale sur G donne
par la formule
_
Ind
G
H

_
(g) =
1
[H[

sG
sgs
1
H
(sgs
1
).
Il est immdiat que, si W est une reprsentation de G, alors Res
H
G

W
est le caractre de la
reprsentation de H obtenue en ne considrant que laction du sous-groupe H de G. Dans
lautre sens, si V est une reprsentation de H, alors Ind
G
H

V
est, daprs le th. VII.3.2, le
caractre de la reprsentation induite Ind
G
H
V.
148 CHAPITRE VII. REPRSENTATIONS DES GROUPES FINIS
Pour les distinguer, on note , )
H
et , )
G
les produits scalaires sur R
C
(H) et R
C
(G).
On a alors le rsultat suivant.
Thorme VII.3.4. (formule de rciprocit de Frobenius) Si
1
R
C
(H) et
2

R
C
(G), alors

1
, Res
H
G

2
)
H
= Ind
G
H

1
,
2
)
G
.
Dmonstration. Par dnition, on a
Ind
G
H

1
,
2
)
G
=
1
[G[

gG
Ind
G
H

1
(g)
2
(g)
=
1
[G[

gG
_
1
[H[

sG
sgs
1
H

1
(sgs
1
)
_

2
(g).
En posant h = sgs
1
, et donc g = s
1
hs, on peut rcrire la somme ci-dessus sous la
forme
1
[G[ [H[

hH, sG

1
(h)
2
(s
1
hs),
et comme
2
est une fonction centrale sur G, on a
2
(s
1
hs) =
2
(h), quel que soit s G.
On obtient donc
Ind
G
H

1
,
2
)
G
=
1
[H[

hH

1
(h)
2
(h) =
1
, Res
H
G

2
)
H
,
ce qui permet de conclure.
Exercice VII.3.5. (i) Montrer que, si V, V
1
, V
2
sont des reprsentations de G, alors
Hom
G
(V, V
1
V
2
) = Hom
G
(V, V
1
) Hom
G
(V, V
2
)
Hom
G
(V
1
V
2
, V) = Hom
G
(V
1
, V) Hom
G
(V
2
, V).
(ii) En dduire que, si V et V
t
sont deux reprsentations de G, alors dim(Hom
G
(V, V
t
)) =

V
,
V
).
(iii) Soit H un sous-groupe de G, et soient W une reprsentation de H et V une repr-
sentation de G. Si u Hom
H
(W, Res
H
G
V), on note
u
: Ind
G
H
W V lapplication qui
un lment : G W de Ind
G
H
W, associe
u
() =
1
[G[

gG
g
1
u((g)). Montrer que

u
Hom
G
(Ind
G
H
W, V).
(iv) Montrer que u
u
, de Hom
H
(W, Res
H
G
V) dans Hom
G
(Ind
G
H
W, V), est une in-
jection linaire. En dduire que cest un isomorphisme (rciprocit de Frobenius pour les
reprsentations).
VII.3. CONSTRUCTION DE REPRSENTATIONS 149
1.3. Transitivit des inductions
Proposition VII.3.6. Soient K H G des groupes nis.
(i) Si R
C
(K), alors Ind
G
H
(Ind
H
K
) = Ind
G
K
.
(ii) Si W est une reprsentation de K, alors Ind
G
H
(Ind
H
K
W) = Ind
G
K
W.
Dmonstration. Le (ii) est, modulo le fait quune reprsentation est dtermine par son
caractre (cor. VII.2.13), une consquence du (i) appliqu =
W
. Pour dmontrer le
(i), on part de la formule
Ind
G
H
(Ind
H
K
)(g) =
1
[H[

sG
sgs
1
H
(Ind
H
K
)(sgs
1
)
=
1
[H[

sG
sgs
1
H
1
[K[

hH
hsgs
1
h
1
K
(hsgs
1
h
1
).
On pose alors hs = t de telle sorte que s = h
1
t, ce qui permet de rcrire la somme
ci-dessus sous la forme
1
[H[ [K[

hH, tG
tgt
1
K, h
1
tgt
1
hH
(tgt
1
).
Comme la condition h
1
tgt
1
h H est automatique, si tgt
1
K et h H, la somme
ci-dessus se simplie et devient
1
[K[

tG
tgt
1
K
(tgt
1
) = (Ind
G
K
)(g),
ce qui permet de conclure.
1.4. Les thormes dArtin et de Brauer
Thorme VII.3.7. (Artin, 1930) Soit G un groupe ni, et soit V une reprsentation
de G, alors il existe un entier non nul d
V
, et une famille nie de couples (C
i
,
i
), pour
i I, o C
i
est un sous-groupe cyclique de G, et
i


C
i
est un caractre linaire de C
i
,
tels que lon ait
d
V

V
=

iI
n
i
Ind
G
C
i

i
, avec n
i
Z, si i I.
Dmonstration. Commenons par dmontrer que les Ind
G
C
, o C dcrit les sous-groupes
cycliques de G, et les lments de

C, forment une famille gnratrice de R
C
(G). Dans
le cas contraire, il existe R
C
(G) non nulle, orthogonale tous les Ind
G
C
. En utilisant
la formule de rciprocit de Frobenius, on en dduit que , )
C
= 0, quel que soit

C.
Soit alors c G. Le sous-groupe C de G engendr par c est cyclique par dnition. Comme
un groupe cyclique est en particulier commutatif, les

C engendrent lespace vectoriel
des fonctions de C dans C (cor. VII.2.19). Si
c
: C C est la fonction valant 1 en c, et
150 CHAPITRE VII. REPRSENTATIONS DES GROUPES FINIS
0 ailleurs, on a donc 0 = ,
c
)
C
=
1
[C[
(c), et donc (c) = 0. On en dduit le fait que
est identiquement nulle, ce qui permet de prouver notre armation selon laquelle les
Ind
G
C
forment une famille gnratrice de R
C
(G).
Extrayons-en une base e
i
= Ind
G
C
i

i
, pour i I. Si Irr(G), on a , e
i
) N, puisque
, e
i
) est la multiplicit de la reprsentation correspondant dans la dcomposition
de Ind
G
C
i

i
en reprsentations irrductibles. De plus, on a e
i
=

Irr(G)
, e
i
) . La
matrice de passage de la base des e
i
, pour i I, celle des , pour Irr(G) est donc
coecients rationnels, et comme
V
a, pour la mme raison que prcdemment, des
coordonnes entires dans la base des , pour Irr(G), cela implique que
V
a des
coordonnes rationnelles dans la base des e
i
, pour i I. Il sut alors de prendre pour d
V
le p.p.c.m. des dnominateurs des coordonnes de
V
dans la base des e
i
, pour i I, pour
obtenir la dcomposition voulue. Ceci permet de conclure.
Thorme VII.3.8. (R. Brauer, 1947) Soit G un groupe ni, et soit V une reprsen-
tation de G, alors il existe une famille nie de couples (H
i
,
i
), pour i I, o H
i
est un
sous-groupe de G, et
i


H
i
est un caractre linaire de H
i
, tels que lon ait

V
=

iI
n
i
Ind
G
H
i

i
, avec n
i
Z, si i I.
La principale dirence avec le thorme dArtin est la disparition de lentier d
V
, ce qui
a des consquences assez remarquables (une de ces consquences est voque au n
o
3 du
C.1). Lautre dirence est que lon ne peut pas se restreindre aux groupes cycliques
(R. Brauer montre que lon peut se restreindre aux groupes lmentaires : un groupe ni H
est dit lmentaire sil existe un nombre premier p tel que H soit le produit dun p-groupe
(un groupe dordre une puissance de p) par un groupe cyclique dordre premier p). La
dmonstration demande dutiliser des proprits dintgralit des
V
(g), et dborde un
peu le cadre de ce cours. Signalons que ces proprits dintgralit permettent aussi de
dmontrer le rsultat suivant.
Proposition VII.3.9. Si G est un groupe ni et si V est une reprsentation irrduc-
tible de G, alors dimV divise [G[.
2. Constructions tensorielles de reprsentations
2.1. Produit tensoriel despaces vectoriels de dimension nie
Soient V
1
, V
2
deux espaces vectoriels de dimension nie, et soient (e
1
, . . . , e
n
) une base
de V
1
et (f
1
, . . . , f
m
) une base de V
2
. Soit V
1
V
2
le produit tensoriel de V
1
et V
2
: cest
lespace vectoriel de base
(8)
les e
i
f
j
, pour 1 i n et 1 j m Si x =

n
i=1

i
e
i
V
1
(8)
On aurait pu noter g
i,j
la base de V
1
V
2
, mais la notation e
i
f
j
est plus parlante pour la suite.
VII.3. CONSTRUCTION DE REPRSENTATIONS 151
et y =

m
j=1

j
f
j
V
2
, on note x y llment de V
1
V
2
dni par la formule
x y =
n

i=1
m

j=1

j
e
i
f
j
.
Exemple VII.3.10. (i) Si X est un ensemble ni, on note C
X
lensemble des fonctions
: X C. Cest un espace vectoriel dont une base est lensemble des
x
, pour x X, o

x
(y) = 1, si y = x et
x
(y) = 0, si y ,= x. Il est facile de vrier que, si I et J sont deux
ensembles nis, alors C
I
C
J
= C
IJ
, et que
i

j
=
(i,j)
, si i I et j J.
(ii) Si V
1
, V
2
sont deux espaces vectoriels, et si V

1
et V

2
sont leur duaux (V

i
est lespace
des formes linaires sur V
i
), alors V

1
V

2
est lespace des formes bilinaires sur V
1
V
2
.
Si
1
V

1
et
2
V

2
, alors
1

2
est la forme bilinaire (x, y)
1
(x)
2
(y).
Exercice VII.3.11. Montrer que V

1
V
2
= Hom(V
1
, V
2
).
Par construction, (x, y) xy est une application bilinaire de V
1
V
2
dans V
1
V
2
.
Le lemme suivant montre que V
1
V
2
est universel pour les applications bilinaires
(9)
sur
V
1
V
2
.
Lemme VII.3.12. Si W est un espace vectoriel, et si u : V
1
V
2
W est bilinaire,
alors il existe une unique application linaire u : V
1
V
2
W, telle que u(xy) = u(x, y),
quels que soient x V
1
et y V
2
.
Dmonstration. On dnit u par ses valeurs sur les lments de la base des e
i
f
j
,
en posant u(e
i
f
j
) = u(e
i
, f
j
). Un calcul immdiat montre alors que la bilinarit de u
est quivalente la relation u(x y) = u(x, y), quels que soient x V
1
et y V
2
. Ceci
permet de conclure.
Maintenant, si u
1
End(V
1
) et u
2
End(V
2
), alors (x, y) u
1
(x)u
2
(y) est bilinaire
de V
1
V
2
dans V
1
V
2
. Daprs le lemme VII.3.12, il existe u
1
u
2
End(V
1
V
2
)
unique, tel que (u
1
u
2
)(x y) = u
1
(x) u
2
(y), quels que soient x V
1
et y V
2
.
Si A = (a
i,j
)
1i,jn
M
n
(C) est la matrice de u
1
, et B = (b
i

,j
)
1i

,j

m
M
m
(C)
est la matrice de u
2
, alors la matrice A B M
nm
(C) de u
1
u
2
, dans la base des
e
i
f
i
= g
(i1)m+i
, est la matrice des c
(i1)m+i

,(j1)m+j
, avec 1 i, j n et 1 i
t
, j
t
m
et c
(i1)m+i

,(j1)m+j
= a
i,j
b
i

,j
. En particulier, on a
Tr(u
1
u
2
) =

1knm
c
k,k
=
n

i=1
m

=1
a
i,i
b
i

,i
=
_
n

i=1
a
i,i
__
m

=1
b
i

,i

_
= Tr(u
1
) Tr(u
2
).
(9)
On peut en donner une construction naturelle, sans choisir de base, en prenant le quotient de lespace
de base les e
x,y
, pour (x, y) V
1
V
2
, par les relations e
x,y
1
+y
2
= e
x,y
1
+ e
x,y
2
, e
x
1
+x
2
,y
= e
x
1
,y
+ e
x
2
,y
et e
x,y
= e
x,y
= e
x,y
. Alors x y est limage de e
x,y
dans le quotient. La construction du texte est
moins canonique mais plus concrte...
152 CHAPITRE VII. REPRSENTATIONS DES GROUPES FINIS
Finalement, on dduit du lemme VII.3.12 que, si u
t
1
, u
tt
1
End(V
1
), et si u
t
2
, u
tt
2
End(V
2
),
alors
(u
t
1
u
tt
1
) (u
t
2
u
tt
2
) = (u
t
1
u
t
2
) (u
tt
1
u
tt
2
).
(Il sut de comparer limage de x y par les endomorphismes dans les deux membres.)
2.2. Produit tensoriel de reprsentations
Soit maintenant G un groupe ni, et soient V
1
, V
2
deux reprsentations de G. Daprs ce
qui prcde, V
1
V
2
est une reprsentation de G, laction de G tant telle que g (xy) =
(g x) (g y). La formule ci-dessus pour la trace de u
1
u
2
montre que

V
1
V
2
(g) =
1
(g)
2
(g).
Si V
2
est de dimension 1, on retrouve la construction de la tordue dune reprsentation
par un caractre linaire (alina 2.1 du VII.1).
Remarque VII.3.13. (i) Si G
1
et G
2
sont deux groupes nis, et si V
1
et V
2
sont des
reprsentations de G
1
et G
2
, on peut dnir de la mme manire une reprsentation V
1
V
2
de G
1
G
2
, en faisant agir g = (g
1
, g
2
) G
1
G
2
sur xy par g (xy) = (g
1
x)(g
2
y).
(ii) Si G
1
= G
2
= G, la reprsentation V
1
V
2
de G dnie prcdemment est la
restriction G, vu comme ensemble des couples (g, g) de G G, de la reprsentation
V
1
V
2
de GG.
Exercice VII.3.14. Montrer que R
+
(G) est stable par produit, et que R
Z
(G) est un
anneau.
2.3. Carr symtrique et carr extrieur dune reprsentation
Si V est une reprsentation dun groupe ni G, la reprsentation V V nest pas
irrductible. En eet, les tenseurs symtriques (i.e. les expressions de la forme xy =
1
2
(x y +y x), avec x, y V, et donc xy = yx, si x, y V) et les tenseurs alterns (les
x y = x y y x, avec x, y V, et donc x y = y x, si x, y V) sont stables
sous laction de G; il en est donc de mme des sous-espaces de V V quils engendrent.
On note Sym
2
V le carr symtrique de V; cest le sous-espace de V V engendr par
les tenseurs symtriques. Si V est de dimension d, de base (e
1
, . . . , e
d
), alors Sym
2
V est
un espace de dimension
d(d+1)
2
dont une base est constitue des e
i
e
j
, pour 1 i j d.
On note
2
V le carr extrieur de V; cest le sous-espace de V V engendr par les
tenseurs alterns. Cest un espace de dimension
d(d1)
2
dont une base est constitue des
e
i
e
j
, pour 1 i < j d.
De plus, on a V V = Sym
2
V
2
V.
Exemple VII.3.15. Si V

est le dual de V, alors Sym


2
V

est lespace des formes bili-


naires symtriques sur V et
2
V

est celui des formes bilinaires alternes.


VII.3. CONSTRUCTION DE REPRSENTATIONS 153
Remarque VII.3.16. Ce que lon a fait avec deux copies de la mme reprsentation V de G peut se
gnraliser n copies de V. On note
n
V le produit tensoriel de n copies de V (avec une dnition
vidente). On note S
n
le groupe des permutations de 1, . . . , n, et sign : S
n
1 la signature. Un
tenseur symtrique est un tenseur de la forme
x
1
x
n
=
1
n!

S
n
x
(1)
x
(n)
,
et un tenseur altern est un tenseur de la forme
x
1
x
n
=

S
n
sign() x
(1)
x
(n)
.
La puissance symtrique n-ime de V est le sous-espace Sym
n
V de
n
V engendr par les tenseurs sym-
triques, et la puissance extrieure n-ime de V est le sous-espace
n
V de
n
V engendr par les tenseurs
alterns. Alors Sym
n
V et
n
V sont des reprsentations de G de dimensions respectives
_
d+n1
n
_
et
_
d
n
_
.
(Sym
n
V
n
V est un sous-espace strict de
n
V, ds que n 3.)
En particulier,
n
V = 0 si n > d, et
d
V est de dimension 1 ; cette reprsentation est souvent note
det V, laction de g sur det V tant la multiplication par det
V
(g).
Proposition VII.3.17. Si V est une reprsentation de G, et si g G, alors

Sym
2
V
(g) =
1
2
(
V
(g)
2
+
V
(g
2
)) et

2
V
(g) =
1
2
(
V
(g)
2

V
(g
2
)).
Dmonstration. Choisissons une base (e
1
, . . . , e
d
) de V forme de vecteurs propres de g.
On a alors g e
i
=
i
e
i
, g
2
e
i
=
2
i
e
i
, et g e
i
e
j
=
i

j
e
i
e
j
, g e
i
e
j
=
i

j
e
i
e
j
. On
en dduit que

Sym
2
V
(g) =

ij

j
et

2
V
(g) =

i<j

j
,
et comme

V
(g
2
) =

2
i
et
V
(g)
2
=
_

i
_
2
=

2
i
+ 2

i<j

j
,
le rsultat sen dduit.
3. Exercices
On rappelle que S
n
(resp. A
n
) dsigne le groupe symtrique (resp. altern), cf. alina 4.3
du D.1.
Exercice VII.3.18. Soit n un entier 1. Quelles sont les reprsentations irrductibles
de Z/nZ?
Exercice VII.3.19. (i) Montrer quun groupe non commutatif dordre 6 a deux repr-
sentations irrductibles de dimension 1 et une de dimension 2.
(ii) Dresser la table des caractres de S
3
.
154 CHAPITRE VII. REPRSENTATIONS DES GROUPES FINIS
Exercice VII.3.20. (i) Montrer quun groupe non commutatif dordre 8 a quatre repr-
sentations irrductibles de dimension 1 et une de dimension 2.
(ii) Soit D
4
le groupe des symtries du carr. Montrer que D
4
est dordre 8, et dresser
la table des caractres de D
4
.
(iii) Soit H
4
le groupe des quaternions. Cest lensemble des matrices
_
a b
b a
_
, avec
a, b 0, 1, 1, i, i, et a = 0 ou b = 0. Montrer que H
4
est un groupe dordre 8
non isomorphe D
4
, et dresser sa table de caractres.
Exercice VII.3.21. Soient G
1
, G
2
deux groupes nis, et soit G = G
1
G
2
.
(i) Montrer que, si V
1
et V
2
sont des reprsentations irrductibles de G
1
et G
2
, alors
V
1
V
2
(cf. rem. VII.3.13) est une reprsentation irrductible de G.
(ii) Montrer que toute reprsentation irrductible de G est obtenue de cette manire.
Exercice VII.3.22. (o) Quelles sont les classes de conjugaison de S
4
?
(i) Montrer que C = 1, (12)(34), (13)(24), (14)(23) est un sous-groupe distingu de
S
4
, et que S
4
/C = S
3
. (On pourra faire agir S
4
sur C 1 par conjugaison.)
(ii) En dduire lexistence dune reprsentation irrductible de S
4
de dimension 2 et de
deux de dimension 1.
(iii) On fait agir S
4
sur C
4
par permutation des lments de la base canonique. Montrer
que lhyperplan V = x
1
+x
2
+x
3
+x
4
= 0 est stable par S
4
, et calculer le caractre
V
.
(iv) Montrer que V est irrductible et non isomorphe V sign. En dduire la table
des caractres de S
4
.
(v) Dresser la table des caractres de A
4
.
Exercice VII.3.23. (o) Montrer que S
5
a 7 classes de conjugaison, et calculer le cardinal
de chaque classe.
(i) On note U la reprsentation de S
5
sur lhyperplan

5
i=1
x
i
= 0 de C
5
. Calculer
U
,
et montrer que U et U sign sont irrductibles non isomorphes.
(ii) Calculer

2
U
et montrer que
2
U est irrductible.
(iii) Calculer
Sym
2
U
et montrer que Sym
2
U = 1 U V, o V est irrductible.
(iv) Dresser la table des caractres de S
5
.
Exercice VII.3.24. Soit n 3, et soient D
n
le groupe des symtries dun polygone
rgulier n sommets et C
n
D
n
le sous-groupe des rotations.
(i) Montrer que C
n
est un groupe cyclique dindice 2 dans D
n
. Montrer que, si n est
pair (resp. impair), les symtries forment deux (resp. une) classes de conjugaison, et les
rotations
n
2
+ 1 (resp.
n+1
2
).
(ii) Montrer que, si on identie la rotation dangle avec la multiplication par e
i
dans
le plan complexe, les reprsentations irrductibles de C
n
sont les
a
, pour a Z/nZ,
dnies par
a
(e
i
) = e
a i
.
(iii) Si a Z/nZ, calculer le caractre
a
de Ind
D
n
C
n

a
.
(iv) Calculer
a
,
a
) ; en dduire dans quel cas Ind
D
n
C
n

a
est irrductible.
VII.3. CONSTRUCTION DE REPRSENTATIONS 155
(v) Dresser la table des caractres de D
n
.
Exercice VII.3.25. Soit G un groupe ni, et soit V une reprsentation dle de G (i.e.

V
(g) ,= 1 si g ,= 1).
(i) Montrer que
V
(g) ,= dimV, si g ,= 1.
(ii) Soit W une reprsentation irrductible de G. Montrer que

+
n=0

W
,
n
V
) T
n
est une
fraction rationnelle, mais nest pas un polynme.
(iii) En dduire que W apparat dans la dcomposition en reprsentations irrductibles
dune innit de
n
V.
Exercice VII.3.26. Soit G un groupe ni, soit H un sous-groupe de G, et soit V la
reprsentation de permutation associe laction de G sur G/H.
(i) Montrer que

gG

V
(g) = [G[.
(ii) Montrer que V nest pas irrductible ; en dduire que
1
[G[

gG

V
(g)
2
2. (On
remarquera que
V
est valeurs relles.)
(iii) Soit Y lensemble des g [G[ vriant
V
(g) = 0. Montrer que

gG
(
V
(g) 1)(
V
(g) [G/H[) [G/H[ [Y[.
(iv) En dduire que [Y[ [H[.
(v) Soit X un ensemble sur lequel G agit transitivement (i.e., quels que soient x, y X,
il existe g G, tel que y = g x). Montrer que la proportion des g G agissant sans point
xe sur X est suprieure ou gale 1/[X[.
ANNEXE A
LE THORME DES NOMBRES PREMIERS
A.1. Introduction
Ce chapitre est consacr la dmonstration du thorme des nombres premiers et du
thorme de la progression arithmtique. On sait depuis les grecs quil existe une innit de
nombres premiers. Leur rpartition na cess depuis de fasciner les mathmaticiens. Voici,
par exemple, ce qucrivait Euler en 1747 : Les mathmaticiens ont tch jusquici en
vain dcouvrir un ordre quelconque dans la progression des nombres premiers, et on a
lieu de croire, que cest un mystre auquel lesprit humain ne saurait jamais pntrer.
Pour sen convaincre, on na qu jeter les yeux sur les tables des nombres premiers,
que quelques personnes se sont donn la peine de continuer au-del de cent-mille : et on
sapercevra dabord quil ny rgne aucun ordre ni rgle. Cette circonstance est dautant
plus surprenante, que larithmtique nous fournit des rgles sres, par le moyen desquelles
on est en tat de continuer la progression de ces nombres aussi loin que lon souhaite,
sans pourtant nous y laisser apercevoir la moindre marque dun ordre quelconque. . Le
mme Euler a, entre autres :
dmontr que

n
k=1
1
k
diverge comme log n, (et mme que log n+

n
k=1
1
k
tend vers
une limite appele depuis constante dEuler ),
factoris

nN
1
n
sous la forme

pP
(1 +
1
p
+
1
p
2
),
remarqu que le logarithme du produit tait

1
p
une somme convergente prs.
Ceci lui a fourni une nouvelle dmonstration de lexistence dune innit de nombres
premiers (puisque la somme de leurs inverses diverge). De plus, en partant de la formule

1
p
log(

n
1
n
), il en avait dduit que

px
1
p
log log x. Maintenant, si x est petit
devant x, les nombres premiers entre x et x +x sont tous de taille x. Si on note (x) le
nombre de nombres premiers x, on a donc log log(x + x) log log x
(x+x)(x)
x
.
Comme la drive de log log x est
1
xlog x
, on en dduit que la densit des nombres
premiers autour de x est de lordre de
1
log x
, et donc que
(1)
(x) Li(x) =
_
x
2
dt
log t
. Il a
(1)
La fonction Li est le logarithme intgral ; au voisinage de linni, on a Li(x)
x
log x
(faire une intgration
par partie, en intgrant 1 et en drivant
1
log t
). On peut donc reformuler le thorme des nombres premiers
158 ANNEXE A. LE THORME DES NOMBRES PREMIERS
fallu attendre plus dun sicle pour que ce rsultat soit rigoureusement
(2)
dmontr, ce
qui fut fait en 1896 par J. Hadamard et de la Valle Poussin indpendamment.
Thorme A.1.1. (des nombres premiers) (x)
x
log x
.
Les dmonstrations de J. Hadamard et C. de la Valle Poussin reposent sur la stratgie
suggre par B. Riemann, utilisant le lien entre les zros de la fonction et la rparti-
tion des nombres premiers. Lingrdient fondamental est la non existence de zros de la
fonction sur la droite Re(s) = 1, o la convergence du produit eulrien cesse, ce qui ne
permet pas de conclure quoi que ce soit de la non annulation de chacun de ses facteurs. De
fait, le thorme des nombres premiers est quivalent (cf. ex. A.4.6) la non annulation
de sur la droite Re(s) = 1.
Si P est un polynme, et sil ny a aucune obstruction arithmtique ce que les valeurs
de P aux entiers puissent tre des nombres premiers
(3)
, on peut partir du principe que
P(n) a autant de chance dtre premier quun nombre de mme taille pris au hasard, soit
1
log P(n)

1
deg P

1
log n
. Cest ce genre dheuristique qui mne la conjecture de Bateman et
Horn ci-dessous.
Soient P
1
, , P
k
des polynmes distincts, coecients entiers, irrductibles dans
Q[X], dont le coecient dominant est > 0, et soit P = P
1
P
k
. Si p P, on note
N
p
(P) le nombre de solutions de lquation P(x) = 0 dans le corps F
p
= Z/pZ, et on
dnit une constante
(4)
C(P) par
C(P) =

pP
_
_
1
1
p
_
k
_
1
N
p
(P)
p
_
_
.
Conjecture A.1.2. (Bateman-Horn, 1962) Si C(P) ,= 0, alors lensemble des n N
tels que P
1
(n), . . . , P
k
(n) soient simultanment premiers est inni, et on a
[n x, P
1
(n) P, . . . , P
k
(n) P[
C(P)
deg P
1
deg P
k

x
(log x)
k
.
sous la forme plus parlante (x)
x
log x
; cest sous cette forme que nous le dmontrerons, mais Li(x) est
une bien meilleure approximation (cf. prop. A.5.1) de (x) que
x
log x
.
(2)
Le lecteur pourra vrier que, si M =
k1
[2
2
k
, 2
2
k
+1
[, alors

nNM, nx
1
n
log log x, mais que
|{nNM, nx}|
x/ log x
na pas de limite.
(3)
Par exemple 12n + 9, n(n
2
+ 1) ou n(n 1) + 2 ne peuvent prendre quun nombre ni de valeurs
premires pour des raisons videntes.
(4)
La convergence du produit dnissant C(P) nest pas du tout vidente (ce nest pas une convergence
absolue), mais peut se dmontrer ; en particulier, C(P) ,= 0 si N
p
(P) ,= p pour tout p P. Cette
convergence traduit le fait que le nombre de solutions modulo p de lquation P(x) = 0, pour P Z[X]
sans racine double, est, en moyenne, le nombre de facteurs de la dcomposition de P en produit de facteurs
irrductibles.
A.1. INTRODUCTION 159
Le thorme des nombres premiers correspond au cas k = 1, P = X de la conjecture. Le
seul autre rsultat que lon ait conrmant cette conjecture est celui o k = 1, et P = P
1
est de degr 1. Dans ce cas, P est de la forme Dx + a, o D 2, et a est premier D,
sinon il existe un nombre premier p pour lequel Dx + a est identiquement nul modulo p,
et C(P) = 0. Si p [ D, alors N
p
(P) = 0, et si p D, alors N
p
(P) = 1. La constante C(P) de
la conjecture de Bateman et Horn est donc

p[D
_
1
1
p
_
1
=

p[D
p
p 1
=

p[D
p
v
p
(D)
(p 1)p
v
p
(D)1
=
D
(D)
,
o (D) = [(Z/DZ)

[ est la fonction indicatrice dEuler. La conjecture de Bateman et


Horn est donc, dans ce cas, consquence du rsultat suivant (appliqu Dx au lieu de x).
Thorme A.1.3. (de la progression arithmtique) Si D 2, si a est premier D,
et si (D, a, x) = [p P, p a mod D, p x[, alors (D, a, x)
1
(D)

x
log x
On peut paraphraser ce thorme en disant que les nombres premiers squirpartissent
dans les progressions arithmtiques dans lesquelles ils peuvent exister
(5)
. Sous la forme
du thorme, le rsultat est d de la Valle Poussin, mais nest quune petite extension
du thorme des nombres premiers, si on utilise les ides de Dirichlet (1837) qui avait
dj dmontr un rsultat dquirpartion des nombres premiers dans les progressions
arithmtiques (nettement moins n, mais quand mme spectaculaire : dmontrer, la
main, lexistence dune innit de nombres premiers de la forme 7n + 3 (par exemple),
nest pas si facile...). La dmonstration du th. A.1.3 suit celle du thorme des nombres
premiers, en utilisant toutes les fonctions L de Dirichlet (que celui-ci avait prcisment
introduites pour dmontrer son thorme), au lieu de la seule fonction . Nous lavons
transforme en une srie dexercices.
Le thorme de la progression arithmtique est aussi le seul cas o on sache prouver
lexistence dune innit de n tel que P
1
(n), . . . , P
k
(n) soient simultanment premiers (ici
k = 1). Par exemple, on ne sait pas dmontrer lexistence dune innit de p P tel que
p + 2 soit premier (problme des nombres premiers jumeaux
(6)
; il correspond k = 2,
(5)
Dans la rubrique nombres premiers et progressions arithmtiques , mentionnons que B. Green et
T. Tao ont dmontr en 2004 quil existait des progressions arithmtiques de longueur arbitraire (mais
pas innie...) dans lensemble des nombres premiers, ce qui joua un rle certain dans lattribution de
la mdaille Fields T. Tao en 2006. P. Erds avait espr que lon pourrait dmontrer ce rsultat en
utilisant juste que la somme des inverses des nombres premiers diverge. Malgr les eorts de pas mal de
gens rputs pour leur astuce (dont Roth, Gowers, Bourgain et Tao), on ne sait toujours pas dmontrer
(ou inrmer...) que si X N 0 ne contient pas de progression arithmtique de longueur 3 (i.e. il
nexiste pas a, b, c X distincts, tels que a + c = 2b), alors

nX
1
n
< +. Le meilleur rsultat dans
cette direction est un rsultat de J. Bourgain (1999) selon lequel [n X, n N[ = O(
N

log log N

log N
).
(6)
Il a fallu attendre 2005 pour que D. Goldston et C. Yildirim dmontrent que liminf
p
n+1
p
n
log n
= 0, si
p
n
dsigne le n-ime nombre premier, ce qui constitue un pas encourageant en direction du problme des
160 ANNEXE A. LE THORME DES NOMBRES PREMIERS
P
1
= X, P
2
= X + 2). De mme, on ne sait pas dmontrer quil existe une innit de
nombres premiers de la forme n
2
+ 1
(7)
.
A.2. Les fonctions et
1
1. Thorme des nombres premiers et comportement de
1
en +
La fonction (x) nest pas relie directement la fonction , ce qui nous conduit
introduire les fonctions auxiliaires suivantes.
La fonction de von Mangolt dnie par

+
n=1
(n)
n
s
=

(s)
(s)
. Si Re(s) > 1, on a
(s) =

pP
1
1p
s
, daprs la prop. VI.3.3, et donc (ex. IV.2.15),

t
(s)
(s)
=

pP
p
s
log p
1 p
s
=

pP
+

=1
log p
p
s
, si Re(s) > 1.
On en dduit que (n) = 0, si n nest pas une puissance dun nombre premier, et (n) =
log p, si n = p

, et 1.
La fonction dnie par (x) =

nx
(n).
La fonction
1
dnie par
1
(x) =
_
x
0
(t) dt.
Lemme A.2.1. Les noncs suivants sont quivalents au voisinage de +.
(i) (x)
x
log x
.
(ii) (x) x.
(iii)
1
(x)
1
2
x
2
.
Dmonstration. Par dnition, (x) =

x
log p. Or, p

x implique en particulier

log x
log 2
, et 2 implique p

x. On en dduit lencadrement

px
log p (x)

px
log p + (

x log x)/ log 2 (x) log x + (

x log x)/ log 2.


Par ailleurs, si < 1, et x

p, on a log p log x. On en dduit que

px
log p log x(((x) (x

)),
et comme (x

) x

, on obtient, quel que soit < 1, lencadrement


((x) log x x

log x) (x) (x) log x + (

x log x)/ log 2.


nombres premiers jumeaux. (La division par log n se justie par le fait que p
n
est de lordre de nlog n et
lcart moyen entre p
n+1
p
n
est log n.)
(7)
On sait, depuis Fermat, que tout nombre premier de la forme 4k + 1 est somme de deux carrs ; on
en dduit quil existe une innit de nombres premiers de la forme n
2
+ m
2
, avec n, m N. Il a fallu
attendre 1998 pour que J. Friedlander et H. Iwaniec dmontrent lexistence dune innit de nombres
premiers de la forme n
2
+ m
4
; on est encore loin de n
2
+ 1...
A.2. LES FONCTIONS ET
1
161
On en dduit lquivalence entre (i) et (ii).
Limplication (ii)(iii) est immdiate par intgration. Pour dmontrer la rciproque,
constatons que est une fonction croissante, et donc que lon a

1
(x)
1
((1 )x)
x
(x)

1
((1 + )x)
1
(x)
x
,
quel que soit > 0. Maintenant, si
1
(x) =
1
2
x
2
+ x
2
(x), avec lim
x+
(x) = 0, on
obtient, en divisant lencadrement ci-dessus par x, lencadrement suivant :
1

2
+
(x) ((1 )x)


(x)
x
1 +

2
+
((1 + )x) (x)

.
En faisant tendre x vers +, on en dduit que liminf
(x)
x
1

2
et limsup
(x)
x
1 +

2
.
Comme ceci est vrai quel que soit > 0, cela prouve que (x) x, ce qui permet de
conclure.
Exercice A.2.2. Si D 2, si a est premier D, et si x 1, soient
(D, a, x) =

nx, na mod D
(n) et
1
(D, a, x) =
_
x
0
(D, a, t) dt.
Montrer que les deux noncs suivants sont quivalents au thorme de la progression
arithmtique : (D)(D, a, x) x et (D)
1
(D, a, x)
x
2
2
.
2. Une formule intgrale pour
1
Lemme A.2.3. Si c > 0 et x > 0, alors
1
2i
_
c+i
ci
x
s+1
s(s + 1)
ds =
_
0 si x < 1,
x 1 si x 1.
Dmonstration. Cest un calcul de rsidus parfaitement standard. La fonction
x
s+1
s(s+1)
est mromorphe sur C, holomorphe en dehors de deux ples simples en s = 0 et s = 1,
de rsidus respectifs Res(
x
s+1
s(s+1)
, 0) = x et Res(
x
s+1
s(s+1)
, 1) = 1.
Si x 1, on intgre sur le lacet
T
constitu du segment [c iT, c + iT], et de
C
+
(T), arc de cercle c + Te
i
, avec variant de

2

3
2
. Si T > c + 1, le lacet
T
a pour
indice 1 par rapport aux deux points 0 et 1. On dduit de la formule des rsidus que
1
2i
_

T
x
s+1
s(s+1)
ds = x 1, si T > c + 1. Par ailleurs, sur C
+
(T), on a [x
s+1
[ x
c+1
et
[
1
s(s+1)
[
1
(Tc)(Tc1)
. On en dduit que
_
C
+
(T)
x
s+1
s(s+1)
ds tend vers 0 quand T vers +, et
donc que
1
2i
_
c+i
ci
x
s+1
s(s + 1)
ds = lim
T+
1
2i
_
[ciT,c+iT]
x
s+1
s(s + 1)
ds
= x 1 lim
T+
_
C
+
(T)
x
s+1
s(s + 1)
ds = x 1.
162 ANNEXE A. LE THORME DES NOMBRES PREMIERS
Si x < 1, on intgre sur le lacet
T
constitu du segment [c iT, c +iT], et de C

(T),
arc de cercle c+Te
i
, avec variant de

2


2
. Dans ce cas
T
a pour indice 0 par rapport
aux deux points 0 et 1, et la formule des rsidus nous donne
1
2i
_

T
x
s+1
s(s+1)
ds = 0, quel
que soit T > 0. Le reste de largument est le mme que ci-dessus.
Corollaire A.2.4. Soit L(a, s) =

+
n=1
a
n
n
s
une srie de Dirichlet dabscisse de conver-
gence absolue
abs
,= +. Alors, si c > sup(0,
abs
) et x > 0, on a
1
2i
_
c+i
ci
L(a, s)x
s+1
s(s + 1)
ds =
_
x
0
_

nt
a
n
_
dt.
Dmonstration. Par hypothse, la srie

+
n=1
a
n
n
s
converge normalement sur la droite
c+iR, et comme la fonction
1
s(s+1)
est sommable sur cette droite, on peut changer somme
et intgrale. Par ailleurs, on a
1
2i
_
c+i
ci
1
n
s
x
s+1
s(s + 1)
ds =
_
0 si x < n,
n(
x
n
1) = x n si x n.
On en dduit que
1
2i
_
c+i
ci
L(a, s)x
s+1
s(s + 1)
ds =

nx
a
n
(x n) =
_
x
0
_

nt
a
n
_
dt,
ce qui permet de conclure.
Corollaire A.2.5. Si c > 1, et si x > 1, alors
1
(x) =
1
2i
_
c+i
ci

(s)
(s)
x
s+1
s(s+1)
ds.
Exercice A.2.6. Si D 2, notons Dir(D) lensemble des caractres de Dirichlet mo-
dulo D. On utilisera le rsultat suivant dmontr dans le n
o
5 du VII.2 :
Si a est premier D, alors

Dir(D)
(a)(n) =
_
(D) si n a mod D,
0 sinon.
tablir, si c > 1 et x > 1, la formule
(D)
1
(D, a, x) =
1
2i

Dir(D)
(a)
_
c+i
ci
L
t
(, s)
L(, s)
x
s+1
s(s + 1)
ds.
A.3. Formules explicites
La formule du cor. A.2.5 est, en elle-mme, assez peu utile en ce qui concerne la dmons-
tration du thorme des nombres premiers. La seule information quon puisse en tirer est,
semble-t-il, en majorant brutalement ce quon intgre, lexistence, pour tout c > 1, dune
constante C(c) telle que
1
(x) C(c)x
1+c
, ce qui tait vident ds le dpart. Pour obtenir
des rsultats plus ns, on va dplacer la ligne dintgration vers la gauche (de manire
diminuer le c). La traverse de la bande critique est un peu prilleuse cause de la
A.3. FORMULES EXPLICITES 163
prsence des zros de qui entrane lexistence de nombreux ples pour la fonction

, ce
qui fait que la fonction

est loin dtre assez petite pour quon puisse se dispenser de


prendre des prcautions en se dplaant. On va donc tre forc de majorer cette fonction

dans la bande critique, et le miracle des fonctions holomorphes fait que la connaissance
de la fonction des deux cts de la bande critique permet de contrler un peu ce qui
se passe lintrieur (on matrise bien la fonction dans le demi-plan Re(s) < 0 grce
lquation fonctionnelle et la formule de Stirling).
1. nonc du rsultat
An de pouvoir appliquer les rsultats de ce aux fonctions L de Dirichlet, nous al-
lons partir dune fonction L mromorphe sur C, holomorphe en dehors dun ple simple
ventuel en s = 1, et qui vrie les conditions (L1)(L3) ci-dessous :
(L1) Si a > 1, il existe c(a), tel que, si Re(s) a, on ait
[L(s)[ c(a), [L(s)
1
[ c(a),

L
t
(s)
L(s)

c(a).
En particulier, L ne sannule pas sur le demi-plan Re(s) > 1.
(L2) Il existe A C

, B R

+
et c [0, 2[ tels que L vrie lquation fonctionnelle
L(s) = A B
s
(1 s) sin
(s c)
2
L(1 s), o L est dnie par L(s) = L(s).
(L3) Quels que soient a b rels, il existe C(a, b) > 0 et c(a, b) > 0 tels que, si a b
et [[ 1, alors
[L( + i)[ C(a, b)e
c(a,b)[[
.
Lemme A.3.1. La fonction vrie les proprits (L1)(L3).
Dmonstration. Si Re(s) > a, on a
[(s)[ =

pP
1
[1 p
s
[


pP
1
1 p
Re(s)


pP
1
1 p
a
(a),
[(s)
1
[ =

pP
[1 p
s
[

pP
(1 + p
a
)
(a)
(2a)
,

t
(s)
(s)
[

nN
(n)[n
s
[

nN
(n) n
a
=

t
(a)
(a)
,
ce qui montre que vrie (L1), avec c(a) = sup((a),

(a)
(a)
). Les proprits (L2) et (L3)
sont nettement plus dlicates mais ont dj t dmontres (la proprit (L2) fait lobjet
du th. VI.3.6, et le (iii) de la prop. VI.2.7 (alli la formule (s) =
1
s1
M(
t
e
t
1
, s1) de la
dmonstration du th. VI.3.4) montre que lon peut prendre nimporte quoi de >

2
pour
c(a, b)).
164 ANNEXE A. LE THORME DES NOMBRES PREMIERS
Exercice A.3.2. (i) Montrer que, si est primitif, alors L(, s) vrie les proprits
(L1)(L3).
(ii) Montrer que, si est primitif de conducteur divisant D, si c > 1, et si x > 1, alors
1
2i
_
2+i
2i
_
L
t
(
D
, s)
L(
D
, s)

L
t
(, s)
L(, s)
_
x
s+1
s(s + 1)
ds =

p[D

log x
log p
()(x p

).
En dduire que
1
2i
_
2+i
2i
_
L

(
D
,s)
L(
D
,s)

L

(,s)
L(,s)
_
x
s+1
s(s+1)
ds est un O(x log x).
Soit donc L une fonction mromorphe sur C, holomorphe en dehors dun ple simple
ventuel (ce ple simple ventuel pouvant en fait tre un zro) en s = 1, et vriant les
proprits (L1)-(L3). Si x > 1, on note F
x
la fonction F
x
(s) =
L

(s)
L(s)
x
s+1
s(s+1)
. Cest une
fonction mromorphe sur C, holomorphe en dehors de ples en 0, 1, ventuellement
en 1, et en les zros de L. Comme L ne sannule pas sur Re(s) > 0 et vrie lquation
fonctionnelle de la proprit (L2), les seuls zros de L en dehors de la bande 0 Re(s) 1
(bande critique) sont les c 2k, pour k N0, ce qui peut inclure 1. On note Y(L)
lensemble des zros dans la bande critique, distincts de 0 et 1.
Soient a
0
= x
1
Res(F
x
, 0) et a
1
= Res(F
x
, 1)
(8)
. Le rsultat que nous avons en
vue est la formule explicite suivante (dans laquelle v
z
(L) Z dsigne la valuation
(i.e. lordre du zro) de L au point z).
Thorme A.3.3. (i) La srie

Y(L)
v

(L)
(+1)
est absolument convergente.
(ii) Si x > 1, alors
1
2i
_
2+i
2i
L

(s)
L(s)
x
s+1
s(s+1)
ds est aussi gal
v
1
(L)
x
2
2
+ a
0
x + a
1

Y(L)
v

(L)x
+1
( + 1)

k1, c2k,=1
x
1+c2k
(2k c)(2k c 1)
,
les deux sries ci-dessus tant absolument convergentes.
La dmonstration va demander un peu de prparation, mais on peut tout de mme
remarquer que lexpression nale peut se rcrire sous la forme plus compacte
(9)
1
2i
_
2+i
2i
L
t
(s)
L(s)
x
s+1
s(s + 1)
ds =

Re()<2
Res(F
x
, ),
lexpression du thorme tant obtenue en explicitant le rsidu de F
x
en tous ses ples
(qui sont simples sauf peut-tre 0 et 1). De plus, comme [x
+1
[ x
3
, si Re() < 2,
(8)
Si 0 nest pas un zro de L, alors a
0
=
L

(0)
L(0)
. Si 0 est un zro de L, alors 0 est un ple double de F,
et a
0
est de la forme a
0,0
+ a
0,1
log x.
Si c ,= 1, alors 1 est un ple simple de F, et a
1
=
L

(1)
L(1)
. Si c = 1, alors 1 est un ple double de F, et
a
1
est de la forme a
1,0
+ a
1,1
log x.
(9)
Formellement, cette formule nest autre que la formule des rsidus si on considre la droite Re(s) = 2
comme un lacet entourant le demi-plan Re(s) < 2.
A.3. FORMULES EXPLICITES 165
la convergence des sries suit juste de la convergence absolue des sries

Y(L)
v

(L)
(+1)
et

k1
1
(2kc)(2kc1)
. Il sut donc de dmontrer le (i) et la forme compacte ci-dessus.
2. Les fonctions L et
L

L
en dehors de la bande critique
Lemme A.3.4. Si a < 0, la fonction (s a +1)
a
3
2
(s 1)L(s) est borne sur la droite
Re(s) = a.
Dmonstration. Sur la droite Re(s) = a, la fonction F(s) = (s a + 1)
a
3
2
(s 1)L(s)
est continue. Par ailleurs, si t R, on a
L(a + it) = AB
a+it
sin(
(a c + it)
2
)(1 a it)L(1 a it).
Or AB
a+it
L(1 a it) est borne pour t R, et e
[t[/2
[ sin
(ac+it)
2
[ tend vers
1
2
quand
[t[ tend vers +, ce qui permet de dduire du cor. VI.2.4 que
[ sin(
(a c + it)
2
)(1 a it)[ [t[

1
2
+a
est born quand [t[ tend vers +. Donc [F(a + it)[ = [(it + 1)
a
3
2
(a + it 1)L(a + it)[
est born quand [t[ tend vers +, et comme F(a +it) est continue sur R, elle est borne
sur R. Ceci permet de conclure.
Lemme A.3.5. Soit (t
+
n
)
n2
(resp. (t

n
)
n2
) une suite de rels vriant n t
+
n
n+1
(resp. n1 t

n
n). Soient b
+
n
= 1+it
+
n
(resp. b

n
= 1+it

n
) et c
+
n
= c+12n+it
+
n
(resp. c

n
= c +1 2n +it

n
). Alors il existe C > 0 tels que,

(s)
L(s)
[ C+log n, quels que
soient n 2 et s [b
+
n
, c
+
n
] [c
+
n
, c

n
] [c

n
, b

n
].
Dmonstration. On part de lquation fonctionnelle (L2) dont on dduit lidentit
L
t
(s)
L(s)
= log B +
i
2

e
i(sc)/2
+ e
i(sc)/2
e
i(sc)/2
e
i(sc)/2


t
(1 s)
(1 s)

L
t
(1 s)
L(1 s)
.
Maintenant, quand s dcrit [b
+
n
, c
+
n
] [c
+
n
, c

n
] [c

n
, b

n
], on a Re(1 s) 2.
Or [
L

(1s)
L(1s)
[ c(2), si Re(1 s) 2, daprs la proprit (L1).
Daprs la prop. VI.2.3, il existe C
1
> 0 tel que [

(1s)
(1s)
log(1 s)[ C
1
, si
Re(1 s) 2. On en dduit, si s [b
+
n
, c
+
n
] [c
+
n
, c

n
] [c

n
, b

n
], que
[

t
(1 s)
(1 s)
[ +C
1
+log [1s[ +C
1
+log
_
(2n c)
2
+ (n + 1)
2
+C
1
+log 3+log n.
Si s appartient [b
+
n
, c
+
n
] ou [c

n
, b

n
], on a [Im(s)[ n, et donc
[
e
i(sc)/2
+ e
i(sc)/2
e
i(sc)/2
e
i(sc)/2
[
e
n/2
+ e
n/2
e
n/2
e
n/2

1 + e

1 e

.
166 ANNEXE A. LE THORME DES NOMBRES PREMIERS
Si s [c
+
n
, c

n
], et si s = c + 1 2n + it, alors
[
e
i(sc)/2
+ e
i(sc)/2
e
i(sc)/2
e
i(sc)/2
[ = [
e
t/2
e
t/2
e
t/2
+ e
t/2
[ 1
1 + e

1 e

.
On en dduit que [
L

(s)
L(s)
[ log B + c(2) + + C
1
+ log 3 +

2
1+e

1e

+ log n, si s
[b
+
n
, c
+
n
] [c
+
n
, c

n
] [c

n
, b

n
]. Ceci permet de conclure.
3. La fonction L dans la bande critique
Lemme A.3.6. Si a < 0, la fonction (s a +1)
a
3
2
(s 1)L(s) est borne sur le demi-
plan Re(s) a.
Dmonstration. Comme
3
2
a 1 et comme L est borne sur le demi-plan Re(s) 1a,
la fonction F(s) = (s a + 1)
a
3
2
(s 1)L(s) est borne sur le demi-plan Re(s) 1 a.
Par ailleurs, la fonction F est borne sur la droite Re(s) = a, daprs le lemme A.3.4.
Finalement, la fonction F est holomorphe dans la bande a Re(s) 1a et la proprit
(L3) montre que, si > 0, alors F(s)e
s
2
tend vers 0 quand s tend vers linni dans cette
bande, puisque Re(s
2
) Im(s)
2
tend vers beaucoup plus vite que c(a, b)[Im(s)[.
Daprs le principe du maximum, cela implique que [F(s)e
s
2
[ atteint son maximum sur la
droite Re(s) = a ou sur la droite Re(s) = 1 a. En notant M le maximum de [F[ sur les
deux droites Re(s) = a et Re(s) = 1a, on en dduit que [F(s)e
s
2
[ Msup(e
a
2
, e
(1a)
2
),
quels que soient > 0, et s dans la bande a Re(s) 1 a. En faisant tendre vers 0,
cela montre que [F[ est majore par M sur la bande, ce qui permet de conclure.
Lemme A.3.7. Il existe C
1
> 0 tel que sup
sD(2+it,12)

L(s)
L(2+it)

C
1
[t[
21/2
, si t R et
[t[ 15.
Dmonstration. On dduit du lemme A.3.6 (avec a = 10) lexistence dune constante
C
t
1
telle que
[L(s)[ C
t
1
[s + 11[
23/2
[s 1[
, si Re(s) 10.
Maintenant, si s D(2 + it, 12), on a [s + 11[ [t[ + 25, et [s 1[ [s[ 1 [t[ 13.
Comme de plus, [L(2 + it)
1
[ c(2), daprs la proprit (L1), on obtient, si [t[ > 13,
sup
sD(2+it,12)

L(s)
L(2 + it)

c(2)C
t
1
([t[ + 25)
23/2
[t[ 13
.
Le rsultat sen dduit sans problme.
A.3. FORMULES EXPLICITES 167
4. La fonction
L

L
dans la bande critique
Lemme A.3.8. Soient un ouvert de C, R > 0 tel que D(0, R) , et f holomorphe
sur , avec f(0) = 0. Si A = sup
[s[=R
Re(f(s)), alors

f
(k)
(s)
k!

4AR
(R [s[)
k+1
, quels que soient k N et s D(0, R

).
Dmonstration. On a F(s) =

+
n=1
a
n
s
n
sur D(0, R). En crivant a
n
sous la forme
[a
n
[e
i
n
, on obtient Re(f(Re
i
)) =

+
m=1
[a
m
[R
m
cos(m +
m
) et
_
2
0
(1 + cos(n +
n
))Re(f(Re
i
)) d
=
+

m=1
[a
m
[R
m
_
2
0
(1 + cos(n +
n
)) cos(m +
m
) d = [a
n
[R
n
.
Comme 0 1 + cos(n +
n
) 2, on en tire la majoration [a
n
[R
n
4A et donc
[a
n
[ 4AR
n
. (En particulier, A 0.) Maintenant, si [s[ < R, on a

f
(k)
(s)
k!

n=0
_
n + k
k
_
a
n+k
s
n

4A
+

n=0
_
n + k
k
_
[s[
n
R
n+k
=
4AR
(R [s[)
k+1
.
Ceci permet de conclure.
Lemme A.3.9. Soient un ouvert de C, R > 0 tel que D(0, 3R) , et f holomorphe
sur , avec f(0) = 1. Soit M = sup
sD(0,3R)
[f(s)[, et soit Y lensemble des zros de f
dans D(0, R). Alors :

Y
v

(f)
log M
log 2
et

f
t
(s)
f(s)

Y
v

(f)
s

4Rlog M
(R [s[)
2
, quel que soit s D(0, R

).
Dmonstration. Soit g(s) = f(s)

Y
(1 s/)
v

(f)
. Par construction, g ne sannule
pas sur D(0, R), et g(0) = 1 ; il existe donc (cf. ex V.1.7) un ouvert
t
contenant
D(0, R) et h holomorphe sur
t
, avec h(0) = 0, tels que g = e
h
sur
t
. Soit N =

Y
v

(f).
Comme [1 s/[ 2, si [s[ = 3R, on a [g(s)[ 2
N
M, si [s[ = 3R. Par le principe du
maximum (rem. IV.1.18) cela implique que 1 = [g(1)[ 2
N
M, et donc que N
log M
log 2
.
Finalement, on a [g(s)[ M, si [s[ = 3R et donc, daprs le principe du maximum,
sup
[s[=R
[g(s)[ M et sup
[s[=R
Re(h(s)) log M. Le lemme A.3.8 permet den dduire que
[h
t
(s)[
4Rlog M
(R[s[)
2
, si [s[ < R, et comme h
t
(s) =
f

(s)
f(s)

Y
v

(f)
s
, cela permet de conclure.
Si n N, notons Z
n
lensemble des zros de L dans le disque D(2 + in, 4).
Corollaire A.3.10. Il existe des constantes C
2
, C
3
, telles que, si [n[ est assez grand :
(i)

Z
n
v

(L) C
2
log [n[ ;
(ii)

(s)
L(s)

C
3
log [n[ + C
2
log [n[(inf
Z
n
[s [)
1
, si s D(2 + in,

10).
168 ANNEXE A. LE THORME DES NOMBRES PREMIERS
Dmonstration. On applique le lemme A.3.9 f(s) =
L(s+(2+in))
L(2+in)
, et R = 4 ; dans les
notations de ce lemme, on peut prendre M = C
1
[n[
21/2
, daprs le lemme A.3.7. On en
dduit que

Z
n
v

(L)
21
2
log n + log C
1
log 2
et

L
t
(s)
L(s)

16(
21
2
log n + log C
1
)
4

10
+

Z
n
v

(L)
[s [
,
si [s (2 + in)[

10. Le rsultat sen dduit.


Corollaire A.3.11. Il existe C
4
> 0, tel que, si n N est assez grand, il existe
t
+
n
[n, n + 1] et t

n
[n 1, n], tels que
sup
s[2+it
+
n
,1+it
+
n
]
[
L
t
(s)
L(s)

C
4
(log n)
2
et sup
s[1+it

n
,2+it

n
]
[
L
t
(s)
L(s)

C
4
(log n)
2
.
Dmonstration. Comme [Z
n
[ C
2
log n, les segments ]Im()
1
2C
2
log n
, Im()+
1
2C
2
log n
[,
pour Z
n
ne recouvrent pas compltement [n, n+1], puisque leur runion est un ouvert
de longueur 1. Il existe donc t
+
n
tel que [Im() t
+
n
[
1
2C
2
log n
, quel que soit Z
n
. On
a alors inf
Z
n
[s [ inf
Z
n
[Im(s )[
1
2C
2
log n
, quel que soit s [2 +it
+
n
, 1 +it
+
n
].
De mme il existe t

n
[n 1, n] tel que inf
Z
n
[s [
1
2C
2
log n
, quel que soit
s [1 +it

n
, 2 +it

n
]. Le (ii) du lemme A.3.9 permet de conclure (avec C
4
= 2C
2
2
+1 par
exemple).
5. Conclusion
Passons la dmonstration du th. A.3.3. Pour prouver la convergence absolue de la
srie

Y(L)
v

(L)
(+1)
, constatons que lensemble Z
t
n
des lments de Y(L) dont la partie
imaginaire est comprise entre n et n+1 est inclus dans le disque D(2 +in, 4), et donc est
un sous-ensemble de Z
n
. Comme

Z
n
v

(L) C
2
log [n[, si n est assez grand, on dduit
la convergence absolue de

Y(L)
v

(L)
(+1)
de celle de

+
n=1
log n
n
2
.
Maintenant, choisissons, pour tout n assez grand, des rels t
+
n
et t

n
vriant les conclu-
sions du cor. A.3.11. Soient a
+
n
, b
+
n
, c
+
n
les points 2 + it
+
n
, 1 + it
+
n
, c + 1 2n + it
+
n
, et
a

n
, b

n
, c

n
les points 2 + it

n
, 1 + it

n
, c + 1 2n + it

n
. On note
V
n
le segment vertical [c
+
n
, c

n
],
A
+
n
et A

n
les segments horizontaux [b
+
n
, c
+
n
] et [c

n
, b

n
],
B
+
n
et B

n
les segments horizontaux [a
+
n
, b
+
n
] et [b

n
, a

n
],
R

n
le chemin compos B
+
n
A
+
n
V
n
A

n
B

n
,
R
+
n
le segment vertical [a

n
, a
+
n
].
Alors R
n
= R
+
n
R

n
est le rectangle de sommets a

n
, a
+
n
, c
+
n
et c

n
parcouru dans le sens
direct. On note Y
n
lensemble des ples de F
x
se trouvant lintrieur du rectangle R
n
.
A.3. FORMULES EXPLICITES 169

c
n
+
b
n
+
a
n
+
R
n
+
a
n
_
b
n
_
A
n
_
c
n
_
2 -1 1 0 -2 2-2n 1-2n -2n
B
n
_
B
n
+
A
n
+
it
n
+
it
n
_
= ples de
'

Le chemin R
n
dans le cas de
V
n
La formule des rsidus nous donne alors
_
R
n
F
x
(s) ds =

Y
n
Res(F
x
, ).
Maintenant,
_
R
n
F
x
(s) ds =
_
R
+
n
F
x
(s) ds+
_
B
+
n
F
x
(s) ds+
_
A
+
n
V
n
A

n
F
x
(s) ds+
_
B

n
F
x
(s) ds.

_
R
+
n
F
x
(s) ds tend vers
_
2+i
2i
L

(s)
L(s)
x
s+1
s(s+1)
ds.
Sur B
+
n
et B

n
, F
x
(s) est, daprs le cor. A.3.11, majore en valeur absolue, si x 1,
par C
4
(log n)
2 x
3
[Im(s)[[Im(s+1)[

x
3
C
4
(log n)
2
n
2
. Donc
_
B
+
n
F
x
(s) ds et
_
B

n
F
x
(s) ds sont majors
en valeur absolue par 3
x
3
C
4
(log n)
2
n
2
et tendent vers 0 quand n tend vers +.
170 ANNEXE A. LE THORME DES NOMBRES PREMIERS
Sur A
+
n
V
n
A

n
, F
x
(s) est, daprs le lemme A.3.5, majore en valeur absolue, si
x 1, par (C
0
+log n)
x
3
[s(s+1)[
(C
0
+log n)
x
3
n
2
, et comme la longueur de A
+
n
V
n
A

n
est
2(2n 2) + t
+
n
t

n
6n 2, on en dduit que
_
A
+
n
V
n
A

n
F
x
(s) ds tend vers 0 quand n
tend vers +.
On en dduit le thorme en faisant tendre n vers +, et en remarquant que lensemble
des ples de F
x
est la runion croissante de Y
n
, et donc que

Y
n
Res(F
x
, ) tend vers

Re()<2
Res(F
x
, ).
Exercice A.3.12. On note N (T) le nombre de zros s de la fonction dans la bande
critique, vriant 0 Im(s) T. Montrer que N (T) =
T
2
log
T
2

T
2
+O(log T). (Intgrer

(s)
(s)
ds sur le rectangle de sommets 2 +i, a
+
n
, b
+
n
et 1 +i, o (s) =
(s/2)

s/2
(s), et utiliser
lquation fonctionnelle satisfaite par (rem. VI.3.7 ou ex. VI.5.8), la formule de Stirling
dans le plan complexe (prop. VI.2.3) et les majorations du cor. A.3.11.)
A.4. Dmonstration du thorme des nombres premiers
1. Non annulation sur la droite Re(s) = 1
Lemme A.4.1. Si , C, et si [z[ < inf(1, [[
1
, [[
1
, [[
1
), alors
1 z
2
(1 z)(1 z)(1 z)(1 z)
=
+

n=0
(1 + + +
n
)(1 + + +
n
)z
n
.
Dmonstration. Si on multiplie par (1z)(1z)(1z)(1z) les deux membres de
lidentit dmontrer, on obtient des sries du type

+
n=0
P
n
(, )z
n
et

+
n=0
Q
n
(, )z
n
,
o les P
n
et Q
n
sont des polynmes (en deux variables). On est ramen prouver que
P
n
= Q
n
pour tout n. Or pour prouver que P
n
= Q
n
, il sut de prouver que P
n
= Q
n
sur un ouvert, le reste sen dduisant par prolongement analytique. On peut donc se
restreindre au cas o 1, , et sont tous distincts. Dans ce cas, la fraction rationnelle
F(z) =
1z
2
(1z)(1z)(1z)(1z)
na que des ples simples, ce qui rend sa dcomposition en
lments simples particulirement facile calculer. Soient
a
1
=lim
z1
(1 z)F(z) =
1
(1 )(1 )(1 )
=
1
(1 )(1 )
,
a

= lim
z
1
(1 z)F(z) =
1
1

(1
1
)(1
1
)(1 )
=

(1 )(1 )
,
a

= lim
z
1
(1 z)F(z) =
1
1
(1
1
)(1
1
)(1 )
=

(1 )(1 )
,
a

= lim
z
1

1
(1 z)F(z) =
1
1

1
(1
1

1
)(1
1
)(1
1
)
=

(1 )(1 )
.
A.4. DMONSTRATION DU THORME DES NOMBRES PREMIERS 171
Alors
F(z) =
a
1
1 z
+
a

1 z
+
a

1 z
+
a

1 z
=
1
(1 )(1 )
_
1
1 z


1 z


1 z
+

1 z
_
=
1
(1 )(1 )
+

n=0
_
1
n+1

n+1
+ ()
n+1
_
z
n
=
+

n=0
(1
n+1
)(1
n+1
)
(1 )(1 )
z
n
=
+

n=0
(1 + + +
n
)(1 + + +
n
)z
n
.
Proposition A.4.2. Si t R, alors F(s) = (2s)
1
(s)
2
(s + it)(s it) est une
srie de Dirichlet coecients positifs.
Dmonstration. En utilisant la factorisation de en facteurs dEuler, on obtient
F(s) =

pP
(1 p
2s
)
(1 p
s
)
2
(1 p
sit
)(1 p
s+it
)
.
On peut alors utiliser le lemme A.4.1 avec z = p
s
, = p
it
et = p
it
pour obtenir la
formule
F(s) =

pP
_
+

k=1
[1 + p
it
+ + p
ikt
[
2
p
ks
_
,
ce qui permet de conclure.
Thorme A.4.3. La fonction ne sannule pas sur la droite Re(s) = 1.
Dmonstration. Supposons, par labsurde quil existe t R, avec (1 + it) = 0. On a
alors (1 it) = (1 + it) = 0. La fonction (s + it)(s it) a donc un zro double en
s = 1, ce qui fait que F(s) = (2s)
1
(s)
2
(s + it)(s it) est holomorphe en s = 1, le
zro double contrebalanant le ple double de (s)
2
. De mme, les zros de (s) en 1 +it
et 1 it contrebalancent les ples de (s + it) en 1 it et (s it) en 1 + it. On en
dduit que F(s) est holomorphe dans le demi-plan Re(s) >
1
2
. De plus, comme (2s)
1
est holomorphe au voisinage de s =
1
2
, et comme F est coecients positifs, il suit du
thorme de Landau (th. VI.1.5) que labscisse de convergence absolue de F est <
1
2
. On
aboutit une contradiction car, dune part F(
1
2
) = 0 puisque (2s)
1
= 0, et dautre
part F(
1
2
) > 0 comme somme dune srie termes positifs non tous nuls. Ceci permet de
conclure.
Exercice A.4.4. Soit un caractre de Dirichlet de conducteur D.
(i) Montrer que
D
(2s)
1

D
(s)
2
L(, s +it)L(, s it) est une srie de Dirichlet coe-
cients positifs (
D
dsigne la fonction prive de ses facteurs dEuler en les p divisant D,
i.e.
D
(s) =

pP, pD
1
1p
s
).
172 ANNEXE A. LE THORME DES NOMBRES PREMIERS
(ii) En dduire que L(, s) ne sannule pas sur la droite Re(s) = 1.
2. Conclusion
Daprs le lemme A.2.1, pour dmontrer le thorme des nombres premiers, il suf-
t de prouver que
1
(x)
x
2
2
. Maintenant, comme vrie les proprits (L1)(L3)
(cf. lemme A.3.1), le cor. A.2.5 et le th. A.3.3 nous fournissent la formule explicite

1
(x) =
x
2
2


t
(0)
(0)
x +

t
(1)
(1)

Y()
v

()x
+1
( + 1)

+

r=1
x
12r
2r(2r 1)
.
Il en rsulte que
1
(x)
x
2
2
est quivalent lim
x+

Y()
x
1
(+1)
= 0 . Comme
ne sannule pas sur la droite Re(s) = 1, on a Re(1) < 0, et donc lim
x+
x
1
(+1)
= 0,
quel que soit Y(). Comme de plus [
v

()x
1
(+1)
[ [
v

()
(+1)
[, et comme la somme des
[
v

()
(+1)
[ est convergente, on peut utiliser le thorme de convergence domine pour les
sries pour intervertir sommes et limites, ce qui permet de conclure.
Exercice A.4.5. Adapter les arguments ci-dessus pour dmontrer le thorme de la
progression arithmtique.
Exercice A.4.6. On se propose de montrer, en partant de la formule explicite ci-dessus,
et en utilisant la convergence absolue de la srie

Y()
v

()
(+1)
, que le thorme des
nombres premiers implique la non annulation de sur la droite Re(s) = 1. On numrote
les zros de sur la droite Re(s) = 1 sous la forme = 1+i
n
, avec n I, I sous-ensemble
de N, et on pose a
n
=
v
1+i
n
()
(1+i
n
)(2+i
n
)
.
(i) Montrer que, si
1
(x)
x
2
2
, alors lim
x+

nI
a
n
x
i
n
= 0.
(ii) En dduire que lim
U+
1
U
_
U
0
[f(u)[
2
du = 0, o f(u) =

nI
a
n
e
i(n)u
.
(iii) Exprimer lim
U+
1
U
_
U
0
[f(u)[
2
du = 0 en fonction des a
n
.
(iv) Conclure.
A.5. Complments
1. Lhypothse de Riemann et ses consquences
Si on suppose que lhypothse de Riemann est vraie, tous les apparaissant dans la
dmonstration ci-dessus ont une partie relle gale
1
2
, ce qui permet de majorer [
v

()x
+1
(+1)
[
par x
3/2
[
v

()
(+1)
[, et comme la srie

Y()
v

()
(+1)
est absolument convergente, on en dduit
que
1
(x) =
1
2
x
2
+ O(x
3/2
).
Un peu plus de travail montre, en partant de lencadrement
1
(x)
1
(x1) (x)
(x+1)(x), et de la formule explicite pour
1
(x), que lon a (x) = x+O(x
1/2
(log x)
2
).
A.5. COMPLMENTS 173
Finalement, en utilisant lexercice A.5.2 ci-dessous, on en dduit le rsultat suivant, qui
montre que lhypothse de Riemann a des implications profondes sur la rpartition des
nombres premiers.
Proposition A.5.1. Si lhypothse de Riemann est vraie, alors
(x) =
_
x
2
1
log t
dt + O(x
1/2
log x).
Exercice A.5.2. On suppose lhypothse de Riemann vraie, ce que lon utilisera sous
la forme (x) = x + O(x
1/2
(log x)
2
). Soient A(x) =

px
log p et B(x) = A(x) x.
(i) Montrer que (x) A(x) = O(x
1/2
log x) ; en dduire quil existe C > 0 tel que
B(x) Cx
1/2
(log x)
2
, si x 2.
(ii) Montrer que (x) =

2nx
A(n)A(n1)
log n
.
(iii) En dduire que
(x) =
_

2nx
1
log n
_
+
B([x])
log([x] + 1)
+
_
[x]

n=2
B(n)
_
1
log n

1
log(n + 1)
_
_
.
(iv) Conclure.
2. Lhypothse de Riemann et la fonction M de Mertens
On rappelle que lon note la fonction de Moebius dnie par
+

n=1
(n)
n
s
= (s)
1
=

pP
(1 p
s
),
si Re(s) > 0. On a donc (n) = 0 si n est divisible par le carr dun nombre premier
et (n) = (1)
r
, si n = p
1
p
r
, o les p
i
sont des nombres premiers distincts. La
fonction M de Mertens est dnie par M(x) =

nx
(n), et F. Mertens a conjectur que
[M(x)[

x, si x > 1. Cette conjecture, si elle avait le bon got dtre vraie, impliquerait
lhypothse de Riemann. En eet, la formule de sommation dAbel nous donne
(s)
1
=
+

n=1
M(n)(n
s
(n + 1)
s
),
et lhypothse [M(n)[

n implique que la srie est absolument convergente pour Re(s) >


1
2
, et donc que ne sannule pas pour Re(s) >
1
2
.
On ne connat aucun contrexemple explicite la conjecture de Mertens, mais celle-ci
nest pas trs raisonnable cause de la loi du logarithme itr (Khinchine 1924), selon
laquelle, si a
n
1 et A
n
=

n
k=1
a
n
, alors presque srement
limsup
A
n

2n log log n
= 1 et liminf
A
n

2n log log n
= 1.
174 ANNEXE A. LE THORME DES NOMBRES PREMIERS
De fait, A. Odlyzko et H. te Riele ont dmontr en 1985 que la conjecture de Mertens
est fausse et on sait quil existe des contrexemples plus petits que 3, 21 10
64
. Par contre,
la mme loi du logarithme itr, ou le rsultat de Hausdor mentionn dans la note 2
du chap. VI rendent lhypothse de Riemann tout fait plausible. Dun autre ct, le
rsultat de Odlyzko et te Riele relativise quelque peu les conrmations numriques de
lhypothse de Riemann (on a vri que les 10
13
premiers zros de la fonction dans la
bande critique sont eectivement sur la droite Re(s) =
1
2
).
3. Lhypothse de Lindelf
Cest une conjecture implique par lhypothse de Riemann, mais qui est a priori plus
faible. Elle est quivalente un des noncs suivants (il faut travailler pas mal pour
dmontrer lquivalence de ces noncs).
On a [(
1
2
+ it)[ = O(t

) au voisinage de +, quel que soit > 0.


Si >
1
2
, et si N (, T) est le nombre de zros de la fonction vriant Re(s) et
0 Im(s) T, alors N (, T + 1) N (, T) = o(log T) quand T +.

nt
n
(
1
2
+2i t)
= O(t

), au voisinage de +, quel que soit > 0.


Le deuxime de ces noncs, que lon peut comparer avec lex. A.3.12, est une cons-
quence de lhypothse de Riemann qui peut snoncer sous la forme N (, T) = 0, quels
que soient >
1
2
et T 0. Le troisime ne fait intervenir que des sommes nies et donc
a lair parfaitement innocent.
Contrairement lhypothse de Riemann, il y a des progrs intervalles rguliers concer-
nant lhypothse de Lindelf. Par exemple, G. Kolesnik a prouv en 1982 que
(1/2 + it) = O(t
1/61/216+
), quel que soit > 0.
F. Bombieri et H. Iwaniec ont dmontr en 1986 que
(1/2 + it) = O(t
1/61/28+
), quel que soit > 0.
ANNEXE B
GROUPES FINIS ET REPRSENTATIONS :
EXEMPLES
B.1. p-Groupes
1. Gnralits sur les p-groupes
Soit p un nombre premier. Un p-groupe est un groupe dordre un puissance de p.
Proposition B.1.1. (i) Si G est un p-groupe, alors le centre de G est non trivial.
(ii) Si G est un p-groupe non commutatif, alors G contient un sous-groupe commutatif
distingu contenant strictement le centre de G.
Dmonstration. (i) On fait agir G sur lui mme par conjugaison. Les orbites sont
alors les classes de conjugaison et le centre Z est lensemble des c G dont la classe
de conjugaison est rduite un point. On sait que Z contient llment neutre, et notre
problme est de montrer quil existe dautres classes de conjugaison rduites un point.
Maintenant, si O est une classe de conjugaison, et si x O, alors O = G/Z
x
, o Z
x
est
lensemble des lments de G commutant x; on a alors [O[ =
[G[
[Z
x
[
, ce qui prouve que
[O[ est une puissance de p ; en particulier, [O[ est divisible par p sauf si [O[ = 1. Comme
[G[ est divisible par p, et est aussi la somme des cardinaux des orbites, on en dduit que
lensemble des orbites rduites un point a un cardinal divisible par p. Autrement dit,
[Z[ est divisible par p, et comme [Z[ 1, on a [Z[ p, ce qui dmontre le (i).
(ii) Supposons maintenant G non commutatif (et donc G ,= Z), et soit H = G/Z. Alors
H est un p-groupe, et son centre Y est non trivial. Soit y un lment du centre de H
distinct de llment neutre, soit y) le sous-groupe de Y engendr par y, et soit A limage
inverse de y) dans G. Comme y) est distingu (car central) dans H, cela implique que A
est un sous-groupe distingu de G, et comme A contient strictement Z, il sut de vrier
que A est commutatif. Soit a lordre de y, et soit y A ayant pour image y dans H. Alors
les lments de y) sont les y
i
, avec 0 i a 1, et tout lment de A peut scrire sous
la forme y
i
z, avec 0 i a 1 et z Z. Si x
1
= y
i
1
z
1
et x
2
= y
i
2
z
2
, on a, en tenant
compte du fait que les lments de Z commutent tout,
x
1
x
2
= y
i
1
z
1
y
i
2
z
2
= y
i
1
y
i
2
z
1
z
2
= y
i
1
+i
2
z
2
z
1
= y
i
2
z
2
y
i
1
z
1
= x
2
x
1
,
176 ANNEXE B. GROUPES FINIS ET REPRSENTATIONS : EXEMPLES
ce qui permet de conclure.
2. Reprsentations des p-groupes
Remarque B.1.2. Soit G un groupe ni. Si A est un sous-groupe distingu de G, si W
est une reprsentation de A, et si g G, on peut fabriquer une reprsentation W
g
de A
en posant
W
g (a) =
W
(g
1
ag), ce qui a un sens puisque g
1
ag A si a A et g G,
par dnition dun sous-groupe distingu. Il est immdiat que W
g
est irrductible si et
seulement si W lest, et on obtient de la sorte une action (g, )
g
de G sur Irr(A). [Si
Irr(A) est un caractre irrductible, on a
g
(a) = (g
1
ag).]
Proposition B.1.3. Soit G un groupe ni, et soit A un sous-groupe distingu de G.
Si V est une reprsentation irrductible de G dont la restriction Res
A
G
V A nest pas
isotypique, alors il existe un sous-groupe H de G contenant A et strictement inclus dans
G, et une reprsentation irrductible W de H, tels que V = Ind
G
H
W.
Dmonstration. Dcomposons Res
A
G
V en la somme directe
X
V

, avec X Irr(A),
de ses composantes isotypiques. Par hypothse, on a [X[ 2. Si X, si g G, et si
a A, on a a (g V

) = g (g
1
ag V

), ce qui prouve que g V

est stable par a, et


que
gV

(a) =
V

(g
1
ag). On en dduit que G envoie la composante isotypique V

sur
la composante isotypique V

g , et donc permute les lments de X.


Soit
0
X, et soient W la composante isotypique de Res
A
G
V correspondant
0
, et
H G le stabilisateur de
0
. Alors W est stable par H et peut donc tre considre comme
une reprsentation de H. Maintenant

gG
gW =
gG/H
V

g
0
est stable par G, et donc est
gal V puisquon a suppos V irrductible. On en dduit que X = G/H, et donc que H ,=
G, et que V et Ind
G
H
W ont mme dimension [X[dimW. Par ailleurs, Hom
H
(W, V) est non
nul, et donc Hom
G
(Ind
G
H
W, V) est aussi non nul (ex. VII.3.5). Comme V est irrductible,
et comme Ind
G
H
W et V ont mme dimension, tout lment non nul de Hom
G
(Ind
G
H
W, V)
induit un isomorphisme de Ind
G
H
W sur V. Ceci permet de conclure.
Proposition B.1.4. Si G est un p-groupe, et si V est une reprsentation irrductible
de G, alors il existe un sous-groupe H de G et un caractre linaire

H, tels que
V = Ind
G
H
.
Dmonstration. La dmonstration se fait par rcurrence sur [G[. Si G est commutatif,
alors toute reprsentation irrductible est de dimension 1, et il ny a rien dmontrer.
Supposons donc G non commutatif, et soit V une reprsentation irrductible de G.
Si le noyau N de
V
est non trivial, alors
V
se factorise travers G
t
= G/N, et
on peut appliquer lhypothse de rcurrence G
t
: il existe H
t
G
t
et

H
t
tel que
V = Ind
G

H
, en tant que reprsentation de G
t
. Si H est limage inverse de H
t
dans G, on
peut voir comme un lment de

H en composant avec la projection H H
t
, et on a
V = Ind
G
H
, ce qui permet de conclure dans ce cas.
B.1. P-GROUPES 177
Si le noyau de
V
est trivial, considrons un sous-groupe commutatif A de G, distingu,
et non contenu dans le centre de G (cf. (ii) de la prop. B.1.1). En particulier, il existe a A
et g G, avec ag ,= ga, et comme le noyau de
V
est trivial, on a
V
(a)
V
(g) ,=
V
(g)
V
(a).
Ceci implique que
V
(a) nest pas une homothtie et, A tant commutatif, que Res
A
G
V
nest pas isotypique. On en dduit, en utilisant la prop. B.1.3, lexistence dun sous-groupe
H de G, contenant A et distinct de G, et dune reprsentation irrductible W de H, tels
que V = Ind
G
H
W. Lhypothse de rcurrence applique H nous fournit un sous-groupe
H
t
de H et

H
t
, tels que W = Ind
H
H
. On a donc
V = Ind
G
H
(Ind
H
H
) = Ind
G
H
,
ce qui permet de conclure.
Exercice B.1.5. Soient p un nombre premier et G un groupe non commutatif dordre p
3
.
Montrer que G a p
2
reprsentations irrductibles de dimension 1 et p 1 de dimension p.
3. Le thorme de Sylow
Cauchy a dmontr que, si G est un groupe ni dordre divisible par p, alors G contient
un lment dordre p (et donc un sous-groupe (cyclique) dordre p) ; autrement dit, si
v
p
([G[) 1, alors G contient un p-groupe non trivial. Dun autre ct, lordre dun sous-
groupe divisant toujours lordre du groupe, tout sous-p-groupe de G est dordre p
a
, avec
a v
p
([G[). Un p-Sylow de G est un sous-groupe dordre p
v
p
([G[)
. (Dans le cas v
p
([G[) = 0,
un tel sous-groupe est donc rduit llment neutre.)
Lemme B.1.6. Si G est un groupe commutatif dordre divisible par p, alors G contient
un sous-groupe cyclique dordre p.
Dmonstration. Si x G, soit n
x
lordre de x. Par dnition cela signie que le
morphisme de groupes de Z dans G envoyant a Z sur x
a
admet pour noyau n
x
Z, et
donc induit un isomorphisme de Z/n
x
Z sur le sous-groupe de G engendr par x. Soit alors
X G engendrant G (on peut prendre X = G par exemple). Comme G est commutatif,
lapplication
xX
(Z/n
x
Z) G, envoyant (a
x
)
xX
sur

xX
x
a
x
est un morphisme de
groupes, et comme X engendre G, ce morphisme est surjectif. Lordre de G est donc un
diviseur de

xX
n
x
. Comme p divise [G[, cela implique que p divise un des n
x
, et alors
y = x
n
x
/p
est dordre p et le sous-groupe de G engendr par y est dordre p. Ceci permet
de conclure.
Thorme B.1.7. (Sylow, 1872) Si G est un groupe ni, lensemble des p-Sylow de
G est non vide. De plus :
(i) Tous les p-Sylow de G sont conjugus.
(ii) Si Q est un sous-p-groupe de G, alors il existe un p-Sylow de G contenant Q; en
particulier, tout lment dordre p est contenu dans un p-Sylow de G.
178 ANNEXE B. GROUPES FINIS ET REPRSENTATIONS : EXEMPLES
Dmonstration. La dmonstration se fait par rcurrence sur [G[, le cas [G[ = 1 tant
vident (et vide). Soit Z le centre de G, et soit k = v
p
([G[).
Si p divise lordre de Z, alors Z contient, daprs le lemme B.1.6, un sous-groupe
cyclique C dordre p. On peut appliquer lhypothse de rcurrence H = G/C qui est
dordre mp
k1
. Si P
H
est un p-Sylow de H, limage inverse de P
H
dans G est un sous-groupe
dordre [P
H
[ [C[ = p
k1
p = p
k
; cest donc un p-Sylow de G.
Si p ne divise pas [Z[, on fait agir G par conjugaison intrieure (g x = gxg
1
) sur
G. Par dnition du centre, les orbites (qui ne sont autres que les classes de conjugaison
de G) ne comportant quun seul lment pour cette action, sont exactement les c, pour
c Z. Comme [Z[ est premier p et comme [G[ est divisible par p, il y a une orbite
O, non rduite un lment, de cardinal premier p. Si x O, et si H est lensemble
des lments de G commutant x, on a O = G/H. On en dduit que [H[ =
[G[
[O[
. Comme
v
p
([O[) = 0, on a v
p
([H[) = v
p
([G[) = k, et comme [O[ > 1, on a [H[ < [G[. Lhypothse
de rcurrence montre que H contient un sous-groupe dordre p
k
, et donc que G aussi.
Maintenant, si P est un p-Sylow de G, et si Q est un sous-p-groupe de G, on peut
faire agir Q sur G/P par translation gauche. Comme G/P est de cardinal premier p,
puisque P est un p-Sylow, au moins une des orbites O a un cardinal premier p. Mais O
est de la forme Q/H, o H est un sous-groupe de Q, et comme Q est un p-groupe, on a
[Q/P[ premier p si et seulement si H = Q. Il existe donc x G/P xe par Q tout entier.
En prenant un reprsentant x de x dans G, cela se traduit par Q xP xP, ou encore par
Q xP x
1
.
Si Q est un p-Sylow, on en dduit que Q = xP x
1
pour des raisons de cardinal, ce qui
dmontre le (i). Si Q est un sous-p-groupe quelconque, cela montre que Q est contenu dans
un sous-groupe dordre p
k
, cest--dire dans un p-Sylow. Ceci dmontre le (ii) et permet
de conclure.
B.2. Reprsentations du groupe symtrique S
n
La thorie des reprsentations de S
n
fait intervenir une combinatoire assez amusante,
qui est loin dtre triviale. Nous nous contenterons de dcrire les rsultats, et de renvoyer
le lecteur des ouvrages plus spcialiss (comme le livre de Fulton et Harris cit dans
lintroduction) pour les dmonstrations (quil peut aussi voir comme une srie de ds...).
1. Partitions de n et reprsentations de S
n
Soit n un entier 1. Une partition = (
1
, . . . ,
r
) de n est une dcomposition de n
sous la forme n =
1
+ +
r
, avec
1

2

r
1. Le nombre de partitions
(1)
de
(1)
Ltude de la fonction p(n) a donn lieu de nombreux travaux ; la plupart ont pour point de dpart
la formule
+

n=1
p(n)T
n
=
+

=1
1
1 T

,
B.2. REPRSENTATIONS DU GROUPE SYMTRIQUE S
n
179
n est traditionnellement not p(n). Par exemple, les partitions de 1, 2, 3, 4, 5 et 6 sont
donnes par
1 4 5 6
3 + 1 4 + 1 5 + 1
2 2 + 2 3 + 2 4 + 2
1 + 1 2 + 1 + 1 3 + 1 + 1 4 + 1 + 1
1 + 1 + 1 + 1 2 + 2 + 1 3 + 3
3 2 + 1 + 1 + 1 3 + 2 + 1
2 + 1 1 + 1 + 1 + 1 + 1 3 + 1 + 1 + 1
1 + 1 + 1 2 + 2 + 2
2 + 2 + 1 + 1
2 + 1 + 1 + 1 + 1
1 + 1 + 1 + 1 + 1 + 1
et on a p(1) = 1, p(2) = 2, p(3) = 3, p(4) = 5, p(5) = 7 et p(6) = 11.
On munit lensemble des partitions de n de lordre lexicographique dni par =
(
1
, . . . ,
r
) > k = (k
1
, . . . , k
s
) si et seulement si
i
> k
i
, si i est le plus petit indice
tel que
i
,= k
i
. Les partitions de 1 2, 3, 4, 5 et 6 donnes ci-dessus sont ranges en ordre
dcroissant pour lordre lexicographique. (Cest le meilleur moyen pour ne pas en oublier.)
Il y a une bijection naturelle C

entre les partitions de n et les classes de conjugaison


de S
n
: si = (
1
, . . . ,
r
), alors C

est la classe de conjugaison de S


n
constitue des
permutations dont la dcomposition en cycles est (
1
, . . . ,
r
) (ce qui, rappelons-le,
signie que est le produit de r cycles
1
, . . . ,
r
de longueurs respectives
1
, . . . ,
r
, et
dont les supports sont disjoints).
De manire remarquable, il y a aussi une bijection naturelle entre les partitions de n
et les reprsentations irrductibles de S
n
. Si = (
1
, . . . ,
s
) est une partition de n, soit
S


= S

1
S

s
le sous-groupe de S
n
constitu des permutations laissant globalement
stable chacun des sous-ensembles
1, . . . ,
1
,
1
+ 1, . . . ,
1
+
2
, . . . ,
1
+ +
s1
+ 1, . . . ,
1
+ +
s

de 1, . . . , n, et soit U

= Ind
S
n
S

1. Par exemple :
Si = (n), alors U

est la reprsentation triviale.


Si = (n 1, 1), alors U

est la reprsentation standard de S


n
sur C
n
obtenue en
permutant les lments de la base canonique ; elle se dcompose sous la forme 1V
(n1,1)
,
qui se dmontre en remarquant que
1
1T

+
i=0
T
i
, et en dveloppant brutalement le second membre.
Cette formule fait intervenir linverse de la fonction de Dedekind dnie par (q) = q
1/24

+
=1
(1 q

),
avec q = e
2i z
et z variant dans le demi-plan de Poincar. En utilisant les proprits de la fonction , qui
se trouve tre une forme modulaire de poids
1
2
, on peut par exemple obtenir lquivalent asymptotique
suivant de p(n) : on a p(n)
1
4

3n
e

2n/3
, ce qui montre que p(n) crot assez vite avec n.
180 ANNEXE B. GROUPES FINIS ET REPRSENTATIONS : EXEMPLES
o 1 est la droite de C
n
engendre par (1, . . . , 1) et V
(n1,1)
est lhyperplan dquation

n
i=1
x
i
= 0.
Si = (1, . . . , 1), on a S

= 1, et donc U
(1,...,1)
est la reprsentation rgulire de S
n
.
Comme le montre dj lexemple de U
(n1,1)
, la reprsentation U

nest pas irrduc-


tible, mais sa dcomposition en reprsentations irrductibles fait apparatre une unique
reprsentation irrductible V

qui napparat pas dj dans les U

, pour > . On peut


dailleurs donner une construction directe de V

(voir plus bas).


2. Diagrammes de Young et reprsentations de S
n
Si = (
1
, . . . ,
r
) est une partition de n, on note Y

le diagramme de Young attach


: cest le sous-ensemble du carr n n obtenu en prenant les
1
premires cases de la
1
`ere
ligne, les
2
premires cases de la 2
`eme
ligne, . . ., les
r
premires cases de la r-ime
ligne. Si

= (

1
, . . . ,

s
) est la partition de n conjugue de , obtenue en dnissant

i
comme le nombre de
j
qui sont i (et donc

1
= r, et s =
1
), alors Y

est aussi
obtenu en prenant les

1
premires cases de la 1
`ere
colonne, les

2
premires cases de la
2
`eme
colonne,... En particulier, les diagrammes de Young de et

sont symtriques par


rapport la diagonale.
La reprsentation V

admet la construction directe suivante : on remplit le diagramme


de Young associ avec les nombres de 1 n (on obtient de la sorte un tableau de
Young). Ceci permet de dnir deux sous-groupes A et B de S
n
, en prenant pour A
(resp. pour B) lensemble des permutations de 1, . . . , n qui prserve globalement chaque
ligne (resp. chaque colonne). Alors V

est la sous-reprsentation de la reprsentation


rgulire
S
n
Ce

de S
n
engendre par le vecteur

aA, bB
sign(b)e
ab
. Le sous-espace
engendr par

aA, bB
sign(b)e
ab
dpend du tableau de Young, mais il est facile de voir
que, isomorphisme prs, la reprsentation obtenue nen dpend pas ; elle ne dpend que
de la partition .
Par exemple, si = (1, . . . , 1), on a A = 1 et B = S
n
. La reprsentation V

est
engendre par v =

S
n
sign()e

, et comme g v = sign(g) v, si g S
n
(ne pas
oublier que sign(g) 1), cette reprsentation est la reprsentation de dimension 1
correspondant au caractre linaire sign de S
n
. Plus gnralement, il est facile, sur la
construction ci-dessus, de voir que V

= V

sign.
La dimension de V

est donne par la formule des querres. Si a est une case du


diagramme de Young de , lquerre E
a
de sommet a, est la runion des cases se trouvant
droite, sur la mme ligne que a, ou en dessous, sur la mme colonne que a (en incluant a) ;
la longueur lg(E
a
) est le nombre de ses lments. On a alors
dimV

=
n!

aY

lg(E
a
)
.
B.2. REPRSENTATIONS DU GROUPE SYMTRIQUE S
n
181
Exercice B.2.1. Calculer les dimensions des reprsentations irrductibles de S
3
, S
4
et
S
5
, et comparer les rsultats avec les ex. VII.3.19, VII.3.22 et VII.3.23.
3. Caractres de S
n
Les caractres de U

et V

ont des expressions compactes assez miraculeuses : si =


(
1
, . . . ,
r
), et si = (
1
, . . . ,
s
), alors

(C

) = coecient de X

1
n
X

n
n
dans P

(C

) = coecient de X

1
+n1
1
X

n
n
dans P

i<jn
(X
i
X
j
),
o P

(X
1
, . . . , X
n
) = (X

1
1
+ + X

1
n
) (X

r
1
+ + X

r
n
), et o on a pos
i
= 0 si
s + 1 i n.
La formule pour
U

est assez facile tablir car U

est une reprsentation induite,


ce qui permet dutiliser le th. VII.3.2. Le passage de U

utilise la combinatoire des


polynmes de Schur.
Si = (
1
, . . . ,
s
) est une partition de n, on note encore la famille (
1
, . . . ,
n
), avec

i
= 0 si s + 1 i n. On dnit le polynme de Schur Sch

par
Sch

(X
1
, . . . , X
n
) =
det
_
_
_
X

1
+n1
1
. . . X

n
+n1
n
.
.
. X

j
+ni
j
.
.
.
X

1
1
. . . X

n
n
_
_
_
det
_
_
_
X
n1
1
. . . X
n1
n
.
.
. X
ni
j
.
.
.
1 . . . 1
_
_
_
Si = (
1
, . . . ,
r
) est une autre partition de n, on dnit le nombre de Kostka K
,
comme le coecient de X

1
1
X

r
r
dans Sch

(X
1
, . . . , X
n
).
On a U

K
,
V

, et K
,
= 0, si < , K
,
= 1. Cest comme a que lon
vrie que V

napparat pas dans les U

, pour > . Comme de plus U


(1,...,1)
est
la reprsentation rgulire, on dduit du cor. VII.2.17, et de la formule ci-dessus, que
dimV

= K
,(1,...,1)
.
Le nombre K
,
a aussi une interprtation combinatoire : cest le nombre de manires
de remplir le diagramme de Young de avec
1
fois le nombre 1,
2
fois le nombre 2,. . .,

r
fois le nombre r, de telle sorte que chaque ligne soit croissante (au sens large) et chaque
colonne soit strictement croissante.
En utilisant la formule ci-dessus pour la dimension de V

, on en dduit que dimV

est
le nombre de tableaux de Young pour la partition dans lesquels les lignes et les colonnes
182 ANNEXE B. GROUPES FINIS ET REPRSENTATIONS : EXEMPLES
sont croissantes ; un tel tableau de Young est dit standard
(2)
. Il nest pas totalement vident
de prouver, combinatoirement, que ceci concide avec la formule des querres.
B.3. Reprsentations de GL
2
(F)
1. Le groupe GL
2
(F)
Soit F un corps ni de cardinal q. Il existe alors un nombre premier p tel que lon
ait p = 0 dans F, ce qui fait que F est un F
p
-espace vectoriel de dimension nie (avec
F
p
= Z/pZ), et donc que q est une puissance de p.
Soit G = GL
2
(F) le groupe des matrices 2 2, coecients dans F, de dterminant
non nul. Si g =
_
a b
c d
_
M
2
(F), alors g G, si et seulement si les vecteurs colonnes de la
matrice sont linairement indpendants sur F, ce qui signie que le premier vecteur est
non nul et que le second nest pas dans la droite engendre par le premier. On en dduit
que [GL
2
(F)[ = (q
2
1)(q
2
q).
Le corps F a une unique extension K de degr 2
(3)
. Si p ,= 2
(4)
, on choisit F

qui
nest pas un carr dans F

, et une racine carre de dans K. On peut alors associer


z = x + y la matrice C
z
=
_
x y
y x
_
de la multiplication par z dans la base 1, de K
sur F
(5)
. La conjugaison par
_
1 0
0 1
_
envoie C
z
, avec z = x +y, sur C
z
, avec z = x y,
comme le montre un calcul immdiat.
2. Construction de reprsentations de GL
2
(F)
On cherche faire la liste des reprsentations irrductibles de G. Le thorme de Brauer
(th. VII.3.8) montre que lon peut les obtenir partir dinduites de caractres linaires
de sous-groupes. Par ailleurs, comme les dimensions des reprsentations irrductibles ont
tendance tre assez petites, on a intrt induire partir des sous-groupes les plus gros
(2)
C. Schensted (1961) a tabli une bijection entre les paires de tableaux dYoung standard de mme
forme et les permutations, ce qui fournit une dmonstration combinatoire de la formule de Burnside ((ii)
du cor. VII.2.17) dans le cas de S
n
(modulo la formule des querres).
(3)
Il y a q
2
polynmes unitaires de degr 2 coecients dans F parmi lesquels q ont une racine double
et
q(q1)
2
ont deux racines distinctes. Il y a donc q
2
q
q(q1)
2
=
q(q1)
2
> 0 polynmes irrductibles de
degr 2, ce qui prouve que F a au moins une extension de degr 2. Maintenant, une telle extension K a
q
2
lments, et K

est dordre q
2
1, ce qui prouve que tout lment inversible x de K vrie x
q
2
1
= 1,
et donc que tout lment de K est racine de X
q
2
X = 0. Comme un polynme de degr q
2
a au plus
q
2
racines dans un corps commutatif, on en dduit lunicit (si on avait deux extensions distinctes K
1
et
K
2
, X
q
2
X aurait trop de racines dans lextension compose K
1
K
2
).
(4)
Si p = 2, il faut modier un peu ce qui suit, car un polynme de la forme X
2
nest jamais
irrductible. On choisit F qui nest pas dans limage de x x
2
+ x, et K vriant
2
+ = .
On peut alors associer z = x + y la matrice C
z
=
_
x y
y x+y
_
de la multiplication par z dans la base 1,
de K sur F. La conjugaison par
_
1 1
0 1
_
envoie C
z
, avec z = x + y, sur C
z
, avec z = x + ( + 1)y.
(5)
On remarquera la similarit avec la reprsentation matricielle des nombres complexes.
B.3. REPRSENTATIONS DE GL
2
(F) 183
possibles. Toutes les reprsentations ci-dessous sont obtenues avec ces considrations en
tte.
Reprsentations de dimension 1. Si

F

est un caractre linaire de F

, on fabrique
un caractre linaire det de G en composant avec le dterminant.
La steinberg et ses tordues. On note P
1
(F) lensemble des droites vectorielles de
F
2
; cest un ensemble q + 1 lments sur lequel G agit. Il lui correspond donc une
reprsentation de permutation V
P
1
(F)
=
xP
1
(F)
Ce
x
, qui nest pas irrductible puisque
la droite engendre par

xP
1
(F)
e
x
est xe par G. On note St la reprsentation de G sur
lhyperplan

xP
1
(F)

x
e
x
,

xP
1
(F)

x
= 0 ; cest une reprsentation de dimension q.
Plus gnralement, si

F

, on peut considrer la reprsentation St(det) obtenue


en tordant laction de G sur St par le caractre linaire det.
La srie principale. Soit B le sous-groupe de Borel de G; cest lensemble des matrices
triangulaires suprieures inversibles. Si
1
,
2


F

sont deux caractres linaires de F

,
on note
1

2
le caractre linaire de B dni par
(
1

2
)
_
a b
0 d
_
=
1
(a)
2
(d).
Si
1
,=
2
, la reprsentation Ind
G
B

1

2
est dite de la srie principale.
(6)
Autres reprsentations. Comme nous le verrons les reprsentations prcdentes sont
irrductibles, mais ne susent pas remplir la liste des reprsentations irrductibles de
G. Les reprsentations qui suivent ne sont pas irrductibles (on induit partir dun sous-
groupe trop petit), mais contiennent les reprsentations qui nous manquent.
Soit C G limage de K

par lapplication z C
z
. Cest un sous-groupe
(7)
de G de
cardinal q
2
1. Si

K

, on peut aussi considrer comme un caractre de C, en utilisant


lisomorphisme z C
z
de K

sur C, et nous aurons considrer la reprsentation Ind


G
C
.
Soit ZU B le sous-groupe des matrices ayant une seule valeur propre (Z est l pour
dsigner le centre, qui est lensemble des matrices dhomothties de rapport non nul, et U
est le groupe des matrices triangulaires suprieures avec des 1 sur la diagonale ; une telle
matrice est unipotente). On xe un caractre linaire non trivial

F de F, et si

F

est un caractre linaire de F

, on note le caractre linaire de ZU dni par


( )
_
a b
0 a
_
= (a)(a
1
b).
Nous aurons considrer la reprsentation Ind
G
ZU
. En fait, le cas qui nous intressera
est celui o on part dun lment de

K

, que lon restreint F

(nous nous permettrons


de garder le mme nom pour la restriction).
(6)
Le lecteur pourra vrier que Ind
G
B
= V
P
1
(F)
( det), ce qui explique que lon ne sintresse
pas au cas
1
=
2
.
(7)
Un tel sous-groupe est un sous-groupe de Cartan non dploy, un sous-groupe de Cartan dploy tant
un sous-groupe conjugu au sous-groupe des matrices diagonales.
184 ANNEXE B. GROUPES FINIS ET REPRSENTATIONS : EXEMPLES
3. Les classes de conjugaison de GL
2
(F)
Comme F a une unique extension de degr 2, la classication, conjugaison prs par
une matrice inversible, des matrices 2 2 coecients dans F est identique ce qui se
passe sur R. Il y a quatre types distincts :
type I : A est la matrice dune homothtie, et donc de la forme a
x
=
_
x 0
0 x
_
, avec
x F;
type II : A a une unique valeur propre x F, mais nest pas diagonalisable ; elle est
alors conjugue b
x
=
_
x 1
0 x
_
;
type III : A a deux valeurs propres x ,= y dans F, et donc est conjugue b
x,y
=
_
x 0
0 y
_
,
et donc aussi b
y,x
;
type IV : A na pas de valeurs propres dans F, et donc a deux valeurs propres z ,= z
dans K, et A est conjugue c
z
et c
z
.
Comme on sintresse aux classes de conjugaison de G, il faut ne garder que les matrices
inversibles dans lnumration ci-dessus. On aboutit la liste de paramtres de la g. 1.
description cardinal
E
I
F

q 1
E
II
F

q 1
E
III
(x, y) F

, x ,= y/(x, y) (y, x)
1
2
(q 1)(q 2)
E
IV
z K

, z ,= z/z z
1
2
q(q 1)
Fig. 1. Paramtres des classes de conjugaison de GL
2
(F)
Proposition B.3.1. La liste des classes de conjugaison de GL
2
(F) est celle de la
gure 2
type nombre classe reprsentant cardinal
I q 1 a
x
, x E
I
A
x
=
_
x 0
0 x
_
1
II q 1 b
x
, x E
II
B
x
=
_
x 1
0 x
_
q
2
1
III
(q1)(q2)
2
b
x,y
, (x, y) E
III
B
x,y
=
_
x 0
0 y
_
q(q + 1)
IV
q
2
q
2
c
z
, z = x + y E
IV
C
z
=
_
x y
y x
_
q
2
q
Fig. 2. Classes de conjugaison de GL
2
(F)
Dmonstration. La seule chose qui ne suive pas directement de la discussion prcdant la
proposition, est la dtermination du cardinal de chacune des classes. De manire gnrale,
si G est un groupe, et x G, la classe de conjugaison de x est lorbite O
x
de x sous
laction de G par conjugaison intrieure (g x = gxg
1
) ; si Z
x
est le centralisateur de
B.3. REPRSENTATIONS DE GL
2
(F) 185
x dans G (i.e. est lensemble des lments de G commutant x), on a O
x
= G/Z
x
, et
donc [O
x
[ =
[G[
[Z
x
[
. On est donc ramen au problme de dterminer lensemble des matrices
inversibles commutant une matrice donne. Or, si A M
2
(F), lensemble des matrices
M M
2
(F) qui commutent A sont :
M
2
(F) tout entier, si A est la matrice dune homothtie,
le sous-espace vectoriel engendr par
_
1 0
0 1
_
et A, si A nest pas la matrice dune
homothtie
(8)
.
On dduit de cette discussion les rsultats suivants :
Tout commute A
x
et donc il y a un seul lment dans a
x
.
Les matrices commutant B
x
sont de la forme
_
a b
0 a
_
, avec a, b F, et une telle matrice
est inversible si et seulement si a ,= 0. Le centralisateur de B
x
est donc de cardinal q(q 1)
et le nombre dlments de b
x
est
(q
2
1)(q
2
q)
q(q1)
= q
2
1.
si x ,= y, les matrices commutant B
x,y
sont de la forme
_
a 0
0 b
_
, avec a, b F, et une
telle matrice est inversible si et seulement si a ,= 0 et b ,= 0. Le centralisateur de B
x,y
est
donc de cardinal (q 1)
2
et le nombre dlments de b
x,y
est
(q
2
1)(q
2
q)
(q1)
2
= q(q + 1).
si z KF, les matrices commutant C
z
sont de la forme C
z
, avec z
t
K, et une
telle matrice est inversible si et seulement si z
t
,= 0. Le centralisateur de C
z
est donc de
cardinal q
2
1 et le nombre dlments de c
z
est
(q
2
1)(q
2
q)
q
2
1
= q(q 1).
Ceci permet de conclure.
4. La table des caractres de GL
2
(F)
On suppose dornavant que q nest pas une puissance de 2 (il y a des petites modica-
tions (cf. note 4) faire dans le cas p = 2 ; nous les laissons en exercice). Les caractres
de G se paramtrent de manire parallle aux classes de conjugaison de G. Il y a aussi 4
types paramtrs par les ensembles E

I
, E

II
, E

III
et E

IV
de la gure 3.
description cardinal
E

q 1
E

II

q 1
E

III
(
1
,
2
)

F

,
1
,=
2
/(
1
,
2
) (
2
,
1
)
1
2
(q 1)(q 2)
E

IV


K

,= /


1
2
q(q 1)
Fig. 3. Paramtres des caractres de GL
2
(F)
(8)
Un calcul brutal montre que lespace des solutions est de dimension 2 si A nest pas une homothtie,
et comme I et A commutent A, et sont linairement indpendantes, cela permet de conclure. Cet
argument est raisonnable en dimension 2, mais pour dterminer le commutant dune matrice en dimension
quelconque, il vaut mieux utiliser le point de vue du n
o
2 du D.2.
186 ANNEXE B. GROUPES FINIS ET REPRSENTATIONS : EXEMPLES
Dans le tableau ci-dessus, on a not

le caractre linaire z (z), si



K

.
Thorme B.3.2. La table des caractres de GL
2
(F) est celle donne par la gure 4.
type I II III IV
nombre q 1 q 1
(q1)(q2)
2
q(q1)
2
caractre

, E

, E

II

1
,
2
, (
1
,
2
) E

III

, E

IV
dimension 1 q q + 1 q 1
a
x
(x)
2
q(x)
2
(q + 1)
1

2
(x) (q 1)(x)
b
x
(x)
2
0
1

2
(x) (x)
b
x,y
(xy) (xy)
1
(x)
2
(y) +
1
(y)
2
(x) 0
c
z
(z z) (z z) 0 ((z) +

(z))
Fig. 4. Table des caractres de GL
2
(F)
Dmonstration. On note X lensemble des fonctions centrales apparaissant dans le
tableau (et donc de la forme

1
,
2
ou

). Comme il y a autant de paramtres


pour les lments de X que pour les classes de conjugaison de G, il sut de vrier que
les correspondant deux paramtres distincts sont dirents (lemme B.3.6) et que
Irr(G), si X. Pour vrier ce deuxime point, il sut, daprs lex. VII.2.16, de
vrier que
(1) 0 (ce qui est vident),
, ) = 1 (ce qui fait lobjet du lemme B.3.5),
R
Z
(G) (ce qui fait lobjet du lemme B.3.4).
Remarque B.3.3. (i) Remplacer le couple (
1
,
2
) par (
2
,
1
) ne change rien dans la
colonne du type III, ce qui montre que lon peut eectivement passer au quotient par la
relation dquivalence (
1
,
2
) (
2
,
1
).
(ii) De mme, remplacer par

ne change rien dans la colonne du type IV (car

(x) = (x), si x F

), ce qui montre que lon peut eectivement passer au quotient


par la relation dquivalence

.
5. Dmonstrations
Lemme B.3.4. (i) Si

F

, alors

= det.
(ii) Si

F

, alors

est le caractre de St ( det).


(iii) Si (
1
,
2
) E
III
, alors

1
,
2
est le caractre de Ind
G
B

1

2
.
(iv) Si E
IV
, alors

= Ind
G
ZU
Ind
G
C
.
B.3. REPRSENTATIONS DE GL
2
(F) 187
Dmonstration. Le (i) est immdiat. Pour dmontrer le reste, nous noterons (e
1
, e
2
) la
base canonique de F
2
.
Pour dmontrer le (ii), il faut commencer par calculer le caractre
St
de St. Pour ce
faire, on commence par calculer le caractre
P
1
(F)
de la reprsentation de permutation
V
P
1
(F)
, et on est ramen (alina 2.3 du VII.1) calculer le nombre de points xes de
laction de g G sur P
1
(F). Comme les points xes sont exactement les droites propres
de F
2
sous laction de g, on voit que le nombre de points xes de A
x
est q + 1, celui de
B
x
est 1 (la droite Fe
1
), celui de B
x,y
est 2 (les droites Fe
1
et Fe
2
) et celui de C
z
est
0. Comme V
P
1
(F)
= St 1, on a
St
=
P
1
(F)
1, et donc
St
(A
x
) = q,
St
(B
x
) = 0,

St
(B
x,y
) = 1 et
St
(C
z
) = 1. Le (ii) sen dduit en tordant par le caractre det.
Passons au (iii). Soit = Ind
G
B

1

2
, avec
1
,
2


F

. Pour calculer , on part de


la formule du th. VII.3.2
(g) =
1
[B[

sG, sgs
1
B

2
(sgs
1
).
Comme A
x
est dans le centre de G qui est inclus dans B, on a sA
x
s
1
B et

2
(sA
x
s
1
) =
1

2
(x), quel que soit s G. On en dduit que
(A
x
) =
[G[
[B[

2
(x) = (q + 1)
1

2
(x).
On a sB
x
s
1
B si et seulement si sB
x
s
1
(e
1
) Fe
1
, et donc si et seulement si
B
x
(s
1
(e
1
)) Fs
1
(e
1
). Comme Fe
1
est la seule droite propre de B
x
, cela quivaut
s
1
(e
1
) Fe
1
et donc s B. Comme
1

2
(sB
x
s
1
) =
1

2
(x), si s B, on obtient
(B
x
) =
1
[B[

sB

2
(x) =
1

2
(x).
On montre de mme que sB
x,y
s
1
B, si et seulement si B
x,y
(s
1
(e
1
)) Fs
1
(e
1
), et
donc si et seulement si s
1
(e
1
) Fe
1
ou s
1
(e
1
) Fe
2
. Le premier cas quivaut s B
comme ci-dessus, et on a
1

2
(sB
x,y
s
1
) =
1
(x)
2
(y) ; le second quivaut s Bw, o
w =
_
0 1
1 0
_
, et on a
1

2
(sB
x,y
s
1
) =
1
(y)
2
(x). On obtient donc
(B
x,y
) =
1
[B[
_

sB

1
(x)
2
(y) +

sBw

1
(y)
2
(x)
_
=
1
(x)
2
(y) +
1
(y)
2
(x).
Si z K

, il nexiste aucun s G tel que sC


z
s
1
B, et donc (C
z
) = 0.
Finalement, venons-en au (iv). Soit

K

, soient
1
et
2
les caractres de Ind
G
ZU

et Ind
G
C
, et soit =
1

2
. Daprs le th. VII.3.2,

1
(g) =
1
[ZU[

sG, sgs
1
ZU
(sgs
1
) et
2
(g) =
1
[C[

sG, sgs
1
C
(sgs
1
).
188 ANNEXE B. GROUPES FINIS ET REPRSENTATIONS : EXEMPLES
Comme A
x
ZU et A
x
C, on a, comme ci-dessus,

1
(A
x
) =
[G[
[ZU[
(x) = (q
2
1)(x) et
2
(A
x
) =
[G[
[C[
(x) = (q
2
q)(x),
et donc (A
x
) = (q 1)(x).
Comme aucun lment de ZU nest conjugu B
x,y
ou C
z
, on a
1
(B
x,y
) = 0 et

1
(C
z
) = 0.
Comme aucun lment de C nest conjugu B
x,y
ou B
x
, on a
2
(B
x,y
) = 0 et

2
(B
x
) = 0.
On a ZU B. Or on a vu plus haut que sB
x
s
1
B implique s B. De plus, comme
B
x
a une seule valeur propre, il en est de mme de sB
x
s
1
, et donc sB
x
s
1
ZU si et
seulement si s B. Maintenant, on a
_

0
__
x 1
0 x
__

0
_
1
=
_
x +x
0 x
__

1
0
1
_
=
_
x
1
0 x
_
.
On en dduit que

1
(B
x
) =
1
[ZU[

,F

, F
(x)(
1
) =
(x)
q 1

,F

(
1
).
En faisant le changement de variable
t
=
1
,
t
= , et en utilisant le fait que

F
(
t
) = 0 puisque lon a suppos non trivial, on obtient nalement

1
(B
x
) = (x)((0)) = (x) et (B
x
) = (x).
Si sC
z
s
1
C, alors sC
z
s
1
est gal C
z
ou C
z
(le polynme caractristique de C
z
est gal X
2
(z +z)X+zz, et donc celui de sC
z
s
1
aussi). Si sC
z
s
1
= C
z
, alors s est
dans le centralisateur de C
z
qui, comme on la vu (dm. de la prop. B.3.1), est gal C; si
sC
z
s
1
= C
z
, alors s
_
1 0
0 1
_
C
z
_
1 0
0 1
_
s
1
= C
z
, et donc s
_
1 0
0 1
_
est dans le centralisateur
de C
z
, et s C
_
1 0
0 1
_
. On en dduit que

2
(C
z
) =
1
[C[
(

sC
(z) +

sC
(z)) = (z) +

(z) et (C
z
) = ((z) +

(z)).
Ceci permet de conclure
Lemme B.3.5. Si X, alors , ) = 1.
Dmonstration. Si est une fonction centrale sur G, il rsulte de la table des classes
de conjugaison, que
[G[, ) =

xF

[(a
x
)[
2
+ (q
2
1)

xF

[(b
x
)[
2
+q(q + 1)

(x,y)(F

)
2
, x=y
mod (x,y)(y,x)
[(b
x,y
)[
2
+ q(q 1)

zK

mod zz
[(c
z
)[
2
B.3. REPRSENTATIONS DE GL
2
(F) 189
Il nous faut vrier que [G[, ) = [G[ = (q
2
1)(q
2
q), si est un des caractres
apparaissant dans la table 4.
Pour un caractre du type det, il ny a rien faire puisque lon a aaire au caractre
dune reprsentation de dimension 1 qui est automatiquement irrductible.
On remarque que, si est le caractre de la reprsentation St ( det), les contri-
butions des classes b
x,y
et c
z
sont les mmes que pour det. Il sut donc de vrier que

xF

[(a
x
)[
2
+(q
2
1)

xF

[(b
x
)[
2
a la mme valeur que dans le cas = det, ce
qui est immdiat, les deux sommes valant (q 1)q
2
.
Dans le cas o =

1
,
2
, avec
1
,
2


F

et
1
,=
2
, la somme valuer devient
(q 1)(q + 1)
2
+ (q 1)(q
2
1) + q(q + 1)

(x,y)(F

)
2
, x=y
mod (x,y)(y,x)
[
1
(x)
2
(y) +
2
(x)
1
(y)[
2
.
En remarquant que (a) = (a)
1
= (a
1
), on peut crire [
1
(x)
2
(y) +
2
(x)
1
(y)[
2
sous
la forme
2 +
1
(x)
2
(y)
2
(x)
1
(y) +
1
(x)
2
(y)
2
(x)
1
(y) = 2 + (
1
/
2
)(x/y) + (
2
/
1
)(y/x).
Ceci permet de mettre

[
1
(x)
2
(y) +
2
(x)
1
(y)[
2
sous la forme
(q 1)(q 2) +

(x,y)(F

)
2
, x=y
(
1
/
2
)(x/y) = (q 1)(q 2) +

(x,y)(F

)
2
(
1
/
2
)(x/y) (q 1).
Maintenant, comme
1
,=
2
, on a

(x,y)(F

)
2
(
1
/
2
)(x/y) = 0. La somme valuer est
donc, nalement, gale
(q 1)(q +1)
2
+(q 1)(q
2
1) +q(q +1)(q 1)(q 3) = (q
2
1)(q +1+q 1+q(q 3)) = (q
2
1)(q
2
q),
ce que lon voulait.
Dans le cas o =

, avec

K

et ,=

, la somme valuer est


(q 1)(q 1)
2
+ (q 1)(q
2
1) + q(q 1)

zK

, mod zz
[(z) +

(z)[
2
.
Les mmes calculs que ci-dessus (en utilisant le fait que

(z) = (z)) permettent de


mettre

zK

, mod zz
[(z) +

(z)[
2
sous la forme
q(q 1) +

zK

(/

)(z) = q(q 1) +

zK

(/

)(z) (q 1),
et comme ci-dessus

zK

(/

)(z) = 0 puisque ,=

. La somme valuer est donc,


nalement, gale
(q 1)(q 1)
2
+ (q 1)(q
2
1) + q(q 1)(q 1)
2
= (q 1)
2
(q 1 + q + 1 + q(q 1))
= (q 1)
2
(q
2
+ q) = (q
2
1)(q
2
q),
ce que lon voulait.
190 ANNEXE B. GROUPES FINIS ET REPRSENTATIONS : EXEMPLES
Lemme B.3.6. Si et
t
sont deux lments de X tels que =
t
, alors les paramtres
de et
t
sont gaux.
Dmonstration. Si =
t
, on a en particulier (1) =
t
(1), ce qui implique que et

t
sont de mme type.
Dans les cas des types I et II, il sut de regarder la valeur en les b
x,y
, pour prouver
que les paramtres de et
t
sont les mmes.
Pour traiter le cas du type III, associons un couple (
1
,
2
) dlments

, le caractre
linaire
1

2
de F

dni par (
1

2
)(x, y) =
1
(x)
2
(y). Si (
1
,
2
) et (
t
1
,
t
2
) sont
deux lments de E
III
tels que

1
,
2
=

1
,

2
, on voit, en regardant ce que cela signie sur
les b
x,y
et les b
x
, que les caractres linaires
1

2
,
2

1
,
t
1

t
2
et
t
2

t
1
sont lis
par la relation

2
+
2

1
=
t
1

t
2
+
t
2

t
1
.
En utilisant lorthogonalit des caractres, cela prouve que
1

2
est gal un des deux
caractres
t
1

t
2
ou
t
2

t
1
, et donc que les lments (
1
,
2
) et (
t
1
,
t
2
) de E
III
sont gaux.
Le cas du type IV se traite de la mme manire. Si
1
et
2
sont deux lments de E
IV
tels que

1
=

2
, alors en regardant ce que cela signie sur les c
z
et les b
x
, on voit que
lon a
1
+

1
=
2
+

2
sur K

. On en dduit, en utilisant lorthogonalit des caractres,


que
1
est gal
2
ou

2
, et donc que
1
et
2
sont gaux dans E
IV
.
Ceci permet de conclure.
ANNEXE C
INTRODUCTION AU PROGRAMME DE
LANGLANDS
Un titre plus honnte pour ce chapitre, qui contient beaucoup dnoncs magniques,
mais peu de dmonstrations
(1)
, serait Introduction lexistence du programme de Lan-
glands , une vraie introduction au programme de Langlands pouvant dicilement se faire
avant le M2.
On peut faire remonter les thmes menant au programme de Langlands la loi de
rciprocit quadratique conjecture par Euler (1783) et dmontre par Gauss (1801). Le
problme est, tant donn un nombre premier ou, plus gnralement, un entier d Z di-
visible par le carr daucun nombre premier, de dcrire lensemble des nombres premiers p
tels que d soit un carr dans F
p
. De manire quivalente, il sagit de dterminer le nombre
de zros dans F
p
du polynme X
2
d. La surprise est que la rponse ne dpend que de la
classe de p modulo D, avec D = d si d 1 mod 4, et modulo D = 4d si d 2, 3 mod 4.
Plus prcisment, il existe un caractre de Dirichlet
D
de conducteur D et valeurs dans
1 tel que le nombre de zros de X
2
d dans F
p
soit gal 1 +
D
(p).
Du point de vue qui va nous intresser dans ce chapitre, cette loi de rciprocit peut
sencoder dans une identit multiplicative entre fonctions L. On note P
D
le polynme
X
2
X +
1d
4
, si d 1 mod 4, et X
2
d, si d 2, 3 mod 4. Dans tous les cas, ce
polynme est coecients entiers, son discriminant est D, et ses racines sont
1

d
2
ou

d suivant la congruence de d modulo 4. On note A


D
lanneau Z[X]/(P
D
). On a donc
A
D
= Z[
1+

d
2
], si d 1 mod 4, et A
D
= Z[

d], si d 2, 3 mod 4. On dnit la fonction

A
D
(s) par la formule
A
D
(s) =

n
1
[A
D
/n[
s
, o n dcrit lensemble des idaux de A
D
tels
que lanneau A
D
/n soit un anneau ni.
(2)
Un peu de thorie algbrique des nombres
(1)
Les seules dmonstrations, outre celles esquisses en notes de bas de page, se trouvent dans le C.2 o
lon tend aux adles la transforme de Fourier du chap. III et la transforme de Mellin du VI.2, qui
en est lanalogue multiplicatif. Comme le lecteur le constatera, la plupart des dicults sont concentres
sur les nombres rels, les nombres p-adiques se comportant plutt comme des groupes nis.
(2)
On remarquera que si on remplace A
D
par Z dans la dnition prcdente, on tombe sur la fonction
zta de Riemann.
192 ANNEXE C. INTRODUCTION AU PROGRAMME DE LANGLANDS
permet de montrer que la srie de Dirichlet
A
D
(s) converge pour Re(s) > 1, et que la loi
de rciprocit quadratique est quivalente la factorisation
A
D
(s) = (s)L(
D
, s).
Par exemple, si d = 1 (et donc D = 4 et A
D
= Z[i]), le caractre
D
est donn par

D
(n) = 1 si n 1 mod 4, et
D
(n) = 1 si n 3 mod 4. On en dduit la relation
(3)
1
4

(n,m)Z
2
(n,m)=(0,0)
1
(n
2
+ m
2
)
s
= (s)L(
4
, s) =
1
1 2
s

p1 mod 4
1
(1 p
s
)
2

p3 mod 4
1
1 p
2s
,
et en identiant les termes en p
s
des deux cts, on retrouve le rsultat de Fermat selon
lequel un nombre premier impair est somme de deux carrs si et seulement si il est de la
forme 4n + 1.
La dnition de
A
D
ci-dessus se gnralise tout anneau A = Z[X
1
, . . . , X
d
]/(P
1
, . . . , P
r
),
o P
1
, . . . , P
r
sont des polynmes en X
1
, . . . , X
d
coecients dans Z, ce qui permet dasso-
cier un tel anneau une fonction zta de Hasse-Weil
A
(s) =

n
1
[A/n[
s
comme ci-dessus.
Comme un anneau ni de cardinal n est de manire unique un produit danneaux de
cardinaux p
v
p
(n)
(lemme des restes chinois), la fonction
A
(s) admet une dcomposition
en produit de facteurs dEuler
A
(s) =

pP

A,p
(s), et A. Weil a conjectur en 1949
que
A,p
(s) est une fonction rationnelle de p
s
ce qui fut dmontr par B. Dwork en
1959. Weil a aussi conjectur que cette fonction rationnelle a une factorisation sous une
forme indpendante de p, et ne dpendant que de la gomtrie de lespace des solutions
P
1
(z
1
, . . . , z
d
) = = P
r
(z
1
, . . . , z
d
) dans C
d
, ce qui fut dmontr par A. Grothendieck
(4)
comme aboutissement dun norme programme ayant totalement rvolutionn la gom-
trie algbrique. A la factorisation des facteurs dEuler correspond une factorisation de la
fonction
A
en fonctions L, et lun des buts principaux du programme de Langlands est de
comprendre chacune de ces fonctions L en vue, en particulier, de dmontrer la conjecture
de Hasse-Weil selon laquelle les fonctions zta de Hasse-Weil possdent un prolongement
mromorphe tout le plan complexe.
Lexemple le plus clbre est probablement A = Z[X, Y]/(Y
2
X
3
X
2
X ),
avec , , Z. Dans ce cas, A. Wiles (1994, dans le cas semi-stable ) et C. Breuil,
B. Conrad, F. Diamond et R. Taylor (1999, dans le cas gnral) ont dmontr, ce qui avait
t conjectur de manire vague par Y. Taniyama en 1956, et prcis par A. Weil en 1966,
quil existe une forme modulaire primitive f (cf. n
o
4.1 du C.1) telle que
A
(s) =
(s1)
L(f,s)
,
multiplication prs par un nombre ni de facteurs dEuler innocents. Ceci a permis
A. Wiles, en utilisant des rsultats antrieurs de K. Ribet (1987), den dduire la non
(3)
Lanneau Z[i] est principal, et si n +mi Z[i] est non nul, lanneau Z[i]/(n +mi) est ni de cardinal
n
2
+ m
2
; le facteur
1
4
sexplique par le fait que , , i et i engendrent le mme idal, si =
n + mi Z[i] 0.
(4)
Cela lui a valu une mdaille Fields en 1966 ; P. Deligne en a obtenu une en 1978 pour avoir dmontr
la dernire des conjectures de Weil, lhypothse de Riemann sur les corps nis, selon laquelle les zros et
les ples de
A,p
(s) se rpartissent sur un nombre ni de droites verticales explicites.
C.1. LA CONJECTURE DARTIN 193
existence dun A de la forme ci-dessus avec X
3
+ X
2
+ X + = X(X a
p
)(X + b
p
),
o a
p
+ b
p
= c
p
est un contrexemple au thorme de Fermat, et donc de dmontrer le
thorme de Fermat.
C.1. La conjecture dArtin
1. Le groupe G
Q
Rappelons que x C est algbrique sil existe P Q[X], non nul, tel que P(x) = 0. De
manire quivalente, x C est algbrique si et seulement si la sous-Q-algbre Q[x] de
C engendre par x est de dimension nie sur Q; cest alors un sous-corps
(5)
de C. Ceci
permet de montrer que, si x et y sont algbriques, alors x + y et xy sont algbriques
(6)
.
On en dduit que lensemble Q des nombres algbriques est un sous-corps de C.
On note G
Q
lensemble des automorphismes de corps de Q, cest--dire lensemble des
permutations de Q telles que lon ait
(x + y) = (x) + (y) et (xy) = (x)(y), quels que soient x, y Q.
Muni de la composition, G
Q
est un sous-groupe du groupe des permutations de Q; cest
mme un sous-groupe du groupe des automorphismes Q-linaires
(7)
de Q.
Le groupe G
Q
est un groupe gigantesque et extrmement mystrieux, mais dont la
comprhension serait cruciale pour beaucoup de problmes. Le simple fait quil existe est
dj trs utile.
Le seul lment de G
Q
que lon sache dcrire est la conjugaison complexe, que nous
noterons frob

. On a (frob

)
2
= 1, et Artin (1924) a dmontr que tout lment dordre
ni de G
Q
est conjugu 1 ou frob

, et donc est dordre 1 ou 2.


Si P Q[X] est irrductible de degr n, et si
1
, . . . ,
n
Q sont les racines de P,
alors quel que soient i, j 1, . . . , n, il existe
(8)

i,j
G
Q
, avec
i,j
(
i
) =
j
, ce qui
montre quil y a bien dautres lments que frob

dans G
Q
.
Si H est un sous-groupe de G
Q
, alors lensemble Q
H
des lments de Q xes par H
est un sous-corps de Q. Rciproquement, si K est un sous-corps de Q, lensemble G
K
des
G
Q
xant tous les lments de K est un sous-groupe ferm
(9)
de G
Q
. On obtient de la
(5)
Si z Q[x]0, la multiplication par x sur Q[x] est injective et Q-linaire ; comme on est en dimension
nie, elle est surjective, et donc x a un inverse.
(6)
En eet, x + y et xy sont tous deux lments de Q[x, y], qui est engendr par les x
i
y
j
, avec i n 1
et j m1, si les x
i
, avec n 1 (resp. les y
j
, avec j m1), engendrent Q[x] (resp. Q[y]). On en
dduit que Q[x + y] et Q[xy] sont de dimensions nies sur Q puisquinclus dans Q[x, y].
(7)
On commence par montrer que (1) = 1, puis que (n) = n, quel que soit n Z, et nalement que
induit lidentit sur Q.
(8)
Cest une consquence de la thorie de Galois (cf. cours dY. Laszlo Thorie de Galois en seconde
anne).
(9)
On met sur G
Q
la topologie de Krull qui, par dnition, est la plus faible rendant continue laction
de G
Q
sur Q muni de la topologie discrte. Ceci signie que, si
0
G
Q
, et si Q, lensemble
194 ANNEXE C. INTRODUCTION AU PROGRAMME DE LANGLANDS
sorte
(10)
une bijection entre les corps de nombres (i.e. les sous-corps de Qdont la dimension
sur Q est nie), et les sous-groupes ferms dindice
(11)
ni de G
Q
, et on a Q
G
K
= K, si K
est un corps de nombres et G
Q
H = H, si H est un sous-groupe ferm dindice ni de G
Q
.
On conjecture que G
Q
est tellement compliqu que tout groupe ni G est un quo-
tient
(12)
de G
Q
(problme inverse de Galois). On sait montrer
(13)
que cest vrai pour tout
groupe dordre impair (I. Shafarevich, 1954), pour S
n
et A
n
quel que soit n, pour le
monstre... ; je ne pense pas quon sache le dmontrer pour SL
3
(F
9
) par exemple (F
9
est
le corps 9 lments), bien quil soit beaucoup plus petit que le monstre.
2. Reprsentations de G
Q
Comme nous lavons mentionn au chap. VII, on na de prise sur G
Q
qu travers ses
reprsentations. Nous ne nous intresserons quaux reprsentations complexes ; celles-ci
jouent un rle fondamental mais sont, pour des raisons topologiques
(14)
, un peu trop rigides
pour beaucoup dapplications, et on est aussi amen considrer des reprsentations de
G
Q
sur dautres corps (et mmes sur des anneaux) que C, comme le corps Q
p
des nombres
p-adiques. Comme il est expliqu dans la note 14, si V est une reprsentation complexe
de G
Q
, alors G
Q
agit travers un groupe ni, ce qui permet dutiliser les rsultats du
U

(
0
) = G
Q
, () =
0
() est un ouvert de G
Q
, et les U

(
0
), pour
0
G
Q
et Q forment
une base douverts de G
Q
. En particulier, tout ouvert de G
Q
contenant 1 contient U

(1), pour un certain


Q, et donc contient un sous-groupe dindice ni.
(10)
Cest encore une consquence de la thorie de Galois.
(11)
Rappelons que, si H G sont des groupes, lindice [G : H] de H dans G est le cardinal de G/H.
(12)
Si cest vrai, alors G G est aussi un quotient de G
Q
et donc G est un quotient de G
Q
dune
innit de manires direntes.
(13)
Pour montrer un nonc de ce type, on peut procder de la manire suivante. Si P Q[X], si Q
vrie P() = 0, et si G
Q
, alors 0 = (P()) = P(()) (car xe les coecients de P). On
obtient de la sorte un morphisme de groupes de G
Q
dans le groupe des permutations des racines de P.
La description de limage Gal
P
(qui, par construction, est un quotient de G
Q
) fait lobjet de la thorie
de Galois. Si P est irrductible de degr n, alors Gal
P
est un sous-groupe de S
n
, en gnral gal S
n
; il
faut pas mal dastuce pour construire des polynmes irrductibles P tels que Gal
P
ne soit pas un groupe
symtrique. Par exemple, la construction dun polynme P tel que Gal
P
soit le monstre utilise un mlange
de gomtrie complexe, de topologie algbrique, de thorie des groupes nis, de gomtrie algbrique et
de thorie des nombres.
(14)
Si : G
Q
GL
n
(C) est un morphisme continu de groupes, on a (1) = 1, et la continuit de
implique (cf. note 9) quil existe un sous-groupe H dindice ni de G
Q
tel que, si g H, alors (g) 1 a
toutes ses coordonnes a
i,j
vriant [a
i,j
[
1
2n
. En appliquant ceci g
k
, on en dduit que [Tr((g)
k
)n[
1
2
quel que soit k Z, et il nest pas trs dicile den conclure que ceci implique que toutes les valeurs
propres de (g) sont gales 1, puis que (g) = 1. En conclusion, le noyau de contient un sous-groupe
dindice ni, et donc (G
Q
) est un groupe ni. En particulier, chaque reprsentation complexe de G
Q
ne
fournit de renseignements que sur une toute petite partie de G
Q
. La situation est nettement plus favorable
sur Q
p
, et la dnition naturelle des fonctions L apparaissant dans la factorisation de la fonction zta de
Hasse-Weil
A
de A = Z[X
1
, . . . , X
d
]/(P
1
, . . . , P
r
) utilise des reprsentations de G
Q
que Grothendieck a
associes la varit dquation P
1
= = P
r
= 0.
C.1. LA CONJECTURE DARTIN 195
chap. VII. De plus, tous les calculs eectuer pour expliciter les objets apparaissant dans
la conjecture dArtin du n
o
3 se font dans le corps de nombres K, x par le noyau de
V
,
ce qui explique quils soient faisables bien quon ne matrise pas du tout G
Q
.
Si P Q[X], alors G
Q
permute les racines de P, ce qui nous fournit une reprsentation
de permutation V
P
de G
Q
. On peut montrer que toute C-reprsentation irrductible de
G
Q
apparat comme une composante irrductible dune reprsentation V
P
, mais essayer
de comprendre G
Q
en numrant les lments P de Q[X], et en dcomposant les V
P
en composantes irrductibles est peu prs aussi ecace que desprer tomber sur une
dmonstration de lhypothse de Riemann en faisant la liste de toutes les propositions
logiques. Il y a quand mme deux exemples de reprsentations intressantes de G
Q
que
lon peut obtenir de cette manire.
Racines carres. Si d Q

nest pas un carr dans Q, alors



d / Q, et si G
Q
, il
existe
d
() 1 tel que (

d) =
d
()

d, et il est facile de vrier que


d
()
est un caractre linaire de G
Q
.
Racines de lunit. Soit D un entier 3, et soit = e
2i/D
. Alors
D
= 1 et
d
,= 1
pour tout diviseur strict d de D. Maintenant, si G
Q
, alors ()
D
= (
D
) = 1 et
()
d
= (
d
) ,= 1, pour tout diviseur strict de D. On en dduit lexistence de
cycl,D
()
(Z/DZ)

tel que () = e
2i
cycl,D
()/D
=

cycl,D
()
. On a alors (
n
) =
n
cycl,D
()
, quel
que soit n Z; on en dduit que
cycl,D
: G
Q
(Z/DZ)

est un morphisme de groupes


(15)
.
Ceci permet dassocier une reprsentation continue

de G
Q
, de dimension 1, tout
caractre de Dirichlet primitif : si est un tel caractre, et si D est son conducteur, alors

=
cycl,D
est un morphisme de groupes de G
Q
dans C

.
Thorme C.1.1. (Kronecker-Weber) Toute reprsentation de dimension 1 de G
Q
est
de la forme

, o est un caractre de Dirichlet primitif.


Ce thorme a t nonc par Kronecker (1853), mais il a fallu attendre 1886 pour une
dmonstration (presque) juste (par Weber).
Au vu du thorme de Kronecker-Weber, on peut se demander ce qui se passe si on
considre les reprsentations de dimension 1 de G
K
, o K est un corps de nombres, ou
bien si on considre les reprsentations de dimension n de G
Q
, avec n x, ou encore si on
mlange les deux problmes et on considre les reprsentations de dimension n de G
K
, o
K est un corps de nombres et n est x. La description des reprsentations de dimension
1 de G
K
est ce quon appelle la thorie du corps de classes (qui a occup les arithmticiens
pendant une bonne trentaine dannes au dbut du 20-ime sicle).
La dimension n 2 a longtemps t considre comme sans espoir.
(15)
Cest le caractre cyclotomique.
196 ANNEXE C. INTRODUCTION AU PROGRAMME DE LANGLANDS
3. Fonctions L dArtin
Soit P lensemble des nombres premiers. Si p P, on note [ [
p
la norme p-adique sur
Q, et on choisit
(16)
une extension de [ [
p
en une norme sur Q. On note alors G
Q
p
lensemble
des G
Q
qui sont des isomtries pour [ [
p
. On note I
p
le sous-groupe de G
Q
p
des tels
que (e
2i/D
) = e
2i/D
, quel que soit D premier p. On dit quun lment de G
Q
p
est
un frobenius en p, si (e
2i/D
) = e
2ip/D
, quel que soit D premier p. Par dnition de I
p
,
deux frobenius en p ne dirent que par un lment de I
p
. On choisit un frobenius frob
p
en p.
Soit V une reprsentation de G
Q
de dimension n. Si p est un nombre premier, on
note V
I
p
le sous-espace de V xe par I
p
. On dmontre
(17)
que lon a V
I
p
= V pour
presque tout
(18)
p. Laction de frob
p
sur V
I
p
ne dpend alors pas du choix de frob
p
, et
E
p
(V, T) = det(1T
V
I
p (frob
p
)) ne dpend ni du choix de frob
p
, ni de celui de lextension
de [ [
p
Q. Cest un polynme de degr dimV
I
p
, et donc E
p
(V, T) est un polynme de
degr n pour presque tout p. On dnit alors la fonction L dArtin L(V, s) attache V
par le produit eulrien
L(V, s) =

pP
E
p
(V, p
s
)
1
.
Exemple C.1.2. (i) Si V = 1 est la reprsentation triviale, alors V
I
p
= V et E
p
(V, T) =
1 T quel que soit p. On a donc L(1, s) =

pP
(1 p
s
)
1
= (z).
(ii) Plus gnralement, si est un caractre de Dirichlet primitif, on a L(

, s) = L(, s).
(iii) Soit d Z divisible par le carr daucun nombre premier, et soient D et
D
le
caractre de Dirichlet modulo D valeurs dans 1 apparaissant dans lintroduction.
La loi de rciprocit explicite de lintroduction peut se reformuler comme une galit
L(
d
, s) = L(
D
, s) entre une fonction L dArtin et une fonction L de Dirichlet.
(iv) Si V
1
et V
2
sont deux reprsentations de G
Q
, et si V = V
1
V
2
, alors L(V, s) =
L(V
1
, s)L(V
2
, s). Par exemple, la reprsentation V = Ind
G
Q
G
Q[

d]
1, se dcompose sous la
forme V = 1
d
, et lidentit
A
D
(s) = (s)L(
D
, s) de lintroduction est une traduction
de lidentit L(V, s) = L(1, s)L(
d
, s).
Le degr dune fonction L dArtin est la dimension de la reprsentation de G
Q
sous-
jacente ; cest aussi le degr de presque tous les facteurs dEuler. Daprs le thorme
de Kronecker-Weber, les fonctions L de Dirichlet (en incluant la fonction zta) dcrivent
lensemble des fonctions L dArtin de degr 1. Il rsulte des th. VI.3.4 et VI.4.4, que :
(16)
Dmontrer quil en existe demande un peu de travail ; cela fait partie de la thorie algbrique des
nombres (cf. le cours de J. Tilouine Thorme de Fermat, Courbes elliptiques et formes modulaires en
3-ime anne). On dmontre aussi que si on a deux extensions [ [
p,1
et [ [
p,2
de [ [
p
Q, alors il existe
G
Q
tel que [x[
p,2
= [(x)[
p,1
, quel que soit x Q, ce qui explique que ce qui suit ne dpend pas du
choix de cette extension.
(17)
Cest encore un rsultat de thorie algbrique des nombres.
(18)
Lexpression pour presque tout p signie lexception dun nombre ni de p .
C.1. LA CONJECTURE DARTIN 197
Thorme C.1.3. Une fonction L dArtin de degr 1 possde un prolongement m-
romorphe C tout entier, holomorphe en dehors dun ple simple en s = 1, si L = .
Conjecture C.1.4. (Artin, 1923) Si V est irrductible de dimension 2, alors
L(V, s) a un prolongement holomorphe C tout entier.
Cette conjecture est trs loin dtre dmontre, mais il y a eu rcemment des progrs
spectaculaires en dimension 2.
La thorie du corps de classes permet (cf. th. C.1.8 et C.1.9) de prouver que, si K est
un corps de nombres, et si est un caractre linaire de G
K
, alors L(Ind
G
Q
G
K
, s) est une
fonction mromorphe sur C, holomorphe en dehors dun ple simple en s = 1, si = 1.
Artin lui-mme a dmontr, en utilisant ce rsultat et la thorie des reprsentations
des groupes nis (plus prcisment le th. VII.3.7 dont ctait la motivation principale
(19)
)
quune puissance de L(V, s) a un prolongement mromorphe C tout entier. Si on utilise
le thorme de Brauer (th. VII.3.8) au lieu du thorme dArtin, on peut montrer (et
ctait la motivation principale de Brauer) que L(V, s) a un prolongement mromorphe
C tout entier.
R. Langlands (1967) a propos un gigantesque programme dont un des buts est la
dmonstration de la conjecture dArtin.
4. Fonctions L de degr 2
4.1. Reprsentations impaires et formes modulaires
Soit D un entier, et soit
0
(D) lensemble des matrices
_
a b
c d
_
coecients dans Z,
vriant ad bc = 1 et c 0 modulo D. Cest le sous-groupe de SL
2
(Z), image inverse
du groupe des matrice triangulaires suprieures dans SL
2
(Z/DZ).
Si k 1 est un entier, et si est un caractre de Dirichlet modulo D, une forme
quasi-modulaire f de poids k, niveau
(20)
D et caractre est une fonction holomorphe
sur H , telle que f
_
az+b
cz+d
_
= (d)(cz + d)
k
f(z) quel que soit
_
a b
c d
_

0
(D). Une forme
quasi-modulaire est en particulier priodique de priode 1, et donc a un dveloppement
(19)
Soit H le noyau de
V
, et soit G = G
Q
/H; cest un groupe ni, et V peut tre considre comme une
reprsentation de G. Daprs le th. VII.3.7, il existe d
V
N, une famille (C
i
,
i
, n
i
), pour i I, o C
i
est un
sous-groupe (cyclique) de G,
i
est un caractre linaire de C
i
, et n
i
Z, telle que
V
=

iI
n
i
Ind
G
C
i

i
.
Soit alors K
i
le corps de nombres tel que G
K
i
soit limage rciproque de C
i
dans G
Q
. On peut considrer

i
comme un caractre linaire de G
K
i
, et on dduit du (iv) de lexemple C.1.2, la relation
L(V, s)
d
V
=

iI
L(Ind
G
Q
G
K
i

i
, s)
n
i
.
(20)
Si D = 1, on a
0
(D) = SL
2
(Z) et = 1. Comme SL
2
(Z) est engendr par
_
1 1
0 1
_
et
_
0 1
1 0
_
, la
condition de quasi-modularit est quivalente aux conditions f(z + 1) = f(z) et z
k
f(1/z) = f(z)
utilise dans les exercices du VI.5.
198 ANNEXE C. INTRODUCTION AU PROGRAMME DE LANGLANDS
de Fourier (q-dveloppement) du type
f(z) =

nZ
a
n
(f)q
n
, avec q = e
2i z
.
On dit que f est une forme modulaire parabolique (ou cuspidale) de poids k, niveau D et
caractre si elle est quasi-modulaire, et si elle est dcroissance rapide linni, ce qui
signie que Im(z)
N
(cz + d)
k
f
_
az+b
cz+d
_
est borne sur le demi-plan Im(z) 1, quels que
soient
(21)
N N et
_
a b
c d
_
SL
2
(Z). On note S
k
(D, ) lespace de ces formes.
Si f S
k
(D, ), on a en particulier a
n
(f) = 0, si n 0 cause de la condition de
dcroissance linni, et on dmontre comme dans lex. VI.5.5 que a
n
(f) = O(n
k/2
), ce
qui permet dassocier f une fonction L dnie par
L(f, s) =
(2)
s
(s)
_
+
0
f(iy)y
s
dy
y
=
+

n=1
a
n
(f)
n
s
.
Un petit calcul montre que f f
[
k
w, o f
[
k
w est dnie par (f
[
k
w)(z) = z
k
f(1/Dz),
envoie S
k
(D, ) dans S
k
(D, ). Ceci permet, en coupant, comme dans les ex. VI.5.5, VI.5.8,
lintgrale ci-dessus en

D, de dmontrer que L(f, s) a un prolongement holomorphe
C tout entier et vrie une quation fonctionnelle reliant s et k s. On dit que f est
primitive, si L(f, s) admet
un dveloppement en produit de facteurs dEuler
L(f, s) =

p[D
1
1 a
p
(f)p
s

pD
1
1 a
p
(f)p
s
+ (p)p
k12s
,
une quation fonctionnelle du type (f, k s) = w(f

, s), o f

(z) = f(z), w est


un nombre complexe de module 1, et
(f, s) =
(s)
(2)
s
D
s/2
L(f, s).
Lexistence de formes modulaires primitives relve du miracle, mais Atkin et Lehner
ont dmontr que les f(
az+b
d
), o f dcrit les formes primitives de poids k, et a, b, d les
entiers (a ,= 0 et d ,= 0) forment une famille gnratrice de lespace vectoriel engendr par
les formes paraboliques de poids k de tout niveau.
Thorme C.1.5. Si : G
Q
GL
2
(C) est une reprsentation irrductible impaire
(22)
, alors il existe une forme modulaire primitive f, de poids 1, telle que L(f, s) = L(, s).
En particulier, la conjecture dArtin est vrie pour une telle reprsentation.
(21)
Comme f
_
az+b
cz+d
_
= (d)(cz + d)
k
f(z), si
_
a b
c d
_

0
(D), il sut de vrier ceci pour un systme de
reprsentants de
0
(D)SL
2
(Z), qui est un ensemble ni.
(22)
Cela signie que (frob

) ,= 1 et donc que det (frob

) = 1, ce qui est, de loin, le cas le plus


frquent. Si det (frob

) = 1, la reprsentation est dite paire.


C.1. LA CONJECTURE DARTIN 199
Ce thorme est tout rcent ; il date de janvier 2007. Le cas o limage
(23)
de dans
PGL
2
(C) est un groupe didral remonte aux annes 30, et suit des travaux de Artin et
Hecke. Lun des premiers succs du programme de Langlands a t de dmontrer un tel
rsultat dans le cas o limage nest pas A
5
(Langlands (1980) et J. Tunnell (1981)). Ceci
couvre en particulier le cas o limage de dans GL
2
(C) est le groupe
(24)
GL
2
(F
3
), qui
a servi de point de dpart Wiles pour dmontrer le thorme de Fermat. Les mthodes
de Wiles ont t transformes en une machine trs ecace, par des mathmaticiens de
toute la plante, pour passer dun point un autre dans lensemble des reprsentations
de dimension 2 de G
Q
. La touche nale vient dtre apporte
(25)
par M. Kisin (australien
en poste Chicago), C. Khare (indien en poste Salt Lake City) et J-P. Wintenber-
ger (Strasbourg). Un des points amusants de la dmonstration est quelle passe par une
rcurrence sur lensemble des nombres premiers.
4.2. Reprsentations paires et formes de Maass
Les formes de Maass sont des objets beaucoup plus rcents que les formes modulaires
puisquelles nont t introduites, par H. Maass, quen 1949.
Une forme de Maass f de niveau D, caractre et valeur propre C est une fonction
C

sur H (vu comme un ouvert de R


2
) et vriant les conditions suivantes :
(i) f(
az+b
cz+d
) = (d)f(z), quel que soit
_
a b
c d
_

0
(D) ;
(ii) f = f, o = y
2
_

2
x
2
+

2
y
2
_
est le laplacien hyperbolique.
(iii) f est dcroissance rapide linni.
Un telle forme a un dveloppement de Fourier du type
(26)
f(z) =

nZ0
a
n
(f)

yK

(2[n[y)e
2inx
,
(23)
Limage de dans GL
2
(C) peut tre arbitrairement grande car on peut toujours tordre une reprsen-
tation par un caractre linaire attach un caractre de Dirichlet. Par contre, si on regarde limage de
dans le quotient PGL
2
(C) de GL
2
(C) par le sous-groupe des homothties, on tue ce degr de libert,
et limage de est soit de type didral (groupe des symtries dun polygone rgulier), soit isomorphe
A
4
, S
4
ou A
5
. Le cas le plus dicile est celui de A
5
car ce groupe est simple contrairement aux autres
groupes de la liste qui se dvissent en une suite de groupes commutatifs.
(24)
Les reprsentations du type IV dans la gure 4 de lannexe B sont de dimension 2 pour GL
2
(F
3
).
(25)
Ils obtiennent ce rsultat en dmontrant une conjecture plus ne et plus gnrale de J-P. Serre(1986)
qui a servi de l conducteur pour tous les rsultats du sujet postrieurs ceux de Langlands et Tunnell,
dont la dmonstration du thorme de Fermat.
(26)
Lquation aux drives partielles satisfaite par f se traduit en une quation direntielle du second
ordre pour les coecients de Fourier, et une seule des solutions (a multiplication prs par une constante)
nexplose pas linni.
200 ANNEXE C. INTRODUCTION AU PROGRAMME DE LANGLANDS
o
1
4

2
= et K

(y) =
1
2
_
+
0
e
y(t+t
1
)/2
t
dt
t
est une fonction de Bessel dont une des
vertus est de vrier, si Re(s) > [Re()[,
_
+
0
K

(y)y
s
dy
y
= 2
s2

_
s +
2
_

_
s
2
_
.
On dit que f est paire si f(z) = f(z) et impaire si f(z) = f(z) ; toute forme de
Maass peut scrire comme somme dune forme paire et dune forme impaire. On peut
attacher une fonction L une forme de Maass f par la formule L(f, s) =

+
n=1
a
n
(f)
n
s
, et
on a
_
+
0
f(iy)y
s1/2
dy
y
=
s

_
s +
2
_

_
s
2
_
L(f, s), si f est paire,
_
+
0
1
4i
f
x
(iy)y
s+1/2
dy
y
=
s

_
s + 1 +
2
_

_
s + 1
2
_
L(f, s), si f est impaire.
On dit quune forme de Maass f est primitive, si sa fonction L possde :
un dveloppement en produit de facteurs dEuler
L(f, s) =

p[D
1
1 a
p
(f)p
s

pD
1
1 a
p
(f)p
s
+ (p)p
k12s
,
une quation fonctionnelle du type (f, k s) = w(f

, s), o f

(z) = f(z), w est


un nombre complexe de module 1, c = 0 ou 1 suivant que f est paire ou impaire, et
(f, s) =
s

_
s + c +
2
_

_
s + c
2
_
D
s/2
L(f, s).
Conjecture C.1.6. Si : G
Q
GL
2
(C) est une reprsentation irrductible paire,
il existe une forme de Maass primitive f, de valeur propre
1
4
, telle que L(f, s) = L(, s).
Cet nonc impliquerait la conjecture dArtin pour une telle reprsentation. On sait le
dmontrer, grce aux travaux de Langlands et J. Tunnell sus-mentionns, si limage de
dans PGL
2
(C) nest pas A
5
.
5. La thorie du corps de classes
Soit F un corps de nombres
(27)
. Lensemble O
F
des x K annuls par un polynme
unitaire P Z[X] (dpendant de x) est un sous-anneau de F appel anneau des entiers.
Par exemple, si d Z nest divisible par le carr daucun nombre premier, lanneau des
entiers Q(

d) est lanneau A
D
de lintroduction.
Un tel anneau nest pas forcment principal, mais tout idal n non nul de O
F
peut
scrire de manire unique sous la forme
(28)
p
n
1
1
p
n
r
r
, o les p
i
sont des idaux premiers
(27)
Tous les noncs qui suivent sont des rsultats de base de thorie algbrique des nombres, ce qui ne
signie pas, loin de l, quils sont faciles tablir.
(28)
Un anneau ayant cette proprit est un anneau de Dedekind.
C.1. LA CONJECTURE DARTIN 201
distincts
(29)
. Deux idaux a, b de O
F
sont premiers entre eux (ce qui signie que a + b =
O
F
), si et seulement si il ny a pas didal premier de O
F
apparaissant la fois dans la
dcomposition de a et b en idaux premiers.
On peut gnraliser les notions de caractre de Dirichlet et de fonctions L de Dirichlet
aux corps de nombres. Si f est un idal de O
F
, on note I
f
lensemble des idaux de O
F
premiers f. Un caractre de Hecke (dordre ni) modulo f est une fonction multiplicative
: I
f
C

, telle que, si O
F
est positif
(30)
, et si 1 f, alors (n) = 1, si n est
lidal principal engendr par . La fonction L de Hecke attache un caractre de Hecke
(dordre ni) modulo f est alors dnie par
L(, s) =

nI
f
(n)
N(n)
s
, o N(n) = [O
F
/n[.
Comme est multiplicatif et comme n N(n) est aussi multiplicatif, les mmes argu-
ments que pour les fonctions L de Dirichlet montrent que lon a une dcomposition en
produit de facteurs dEuler
L(, s) =

pP
F
1
1 (p)N(p)
s
=

pP
_

p[(p)
1
1 (p)N(p)
s
_
,
et comme

p[(p)
N(p) = p
[F:Q]
pour presque tout p, le facteur

p[(p)
_
1 (p)N(p)
s
_
est
un polynme de degr [F : Q] en p
s
, sauf pour un nombre ni de p.
Ce qui prcde sapplique en particulier au caractre trivial envoyant tout idal n de O
F
sur 1. La fonction L de Hecke associe
F
(s) =

n
1
N(n)
s
avait t considre longtemps
auparavant par R. Dedekind ; cest la fonction zta de Dedekind de F.
Exemple C.1.7. (i) Si F = Q, on retombe sur la fonction zta de Riemann.
(ii) Si F = Q[

d], on retombe sur la fonction


A
D
de lintroduction.
Thorme C.1.8. (Hecke, 1920) Si est un caractre de Hecke primitif, alors L(, s)
admet un prolongement mromorphe C tout entier, holomorphe en dehors dun ple
simple en s = 1 si est le caractre trivial.
La situation est donc exactement la mme pour un corps de nombres quelconque que
pour Q. La dmonstration du thorme de Hecke repose sur les mmes ides que celles
utilises dans lex. VI.5.8 pour dmontrer lexistence dun prolongement mromorphe pour
(29)
Si I et J sont deux idaux dun anneau A, le produit IJ de I et J est lidal de A engendr par les
lments de la forme ab, avec a I et b J. Par exemple, si I et J sont principaux engendrs par et ,
alors IJ est lidal principal engendr par . Par ailleurs, un idal p est premier si la condition ab p
implique a p ou b p.
(30)
Cela signie que () > 0 si G
Q
et () est rel ; il ny a pas de condition si () nest pas un
nombre rel.
202 ANNEXE C. INTRODUCTION AU PROGRAMME DE LANGLANDS
la fonction zta de Riemann. La prsence dunits dans O
F
rend toutefois les arguments
un peu plus dlicats.
Le thorme principal de la thorie du corps de classes est alors le suivant.
Thorme C.1.9. Si est une reprsentation de dimension 1 de G
F
, alors il existe
un caractre de Hecke dordre ni de F tel que L(Ind
G
Q
G
F
, s) = L(, s).
Le thorme de Kronecker-Weber est dj un thorme profond, mais sa dmonstration
est grandement facilite par lexistence des racines de lunit qui donne une construction
systmatique des extensions abliennes de Q (ce sont les corps de nombres xs par le
noyau dun caractre linaire de G
Q
). Dans le cas dun corps de nombres gnral, on ne
connat pas de tel procd pour construire ces extensions
(31)
, ce qui explique, en grande
partie, quon ait mis tant de temps dmontrer le thorme ci-dessus (il a dj fallu
beaucoup de temps pour arriver concevoir son nonc). Lhistoire a commenc dans la
n des annes 1880 avec L. Kronecker et H. Weber, sest continue avec Hilbert
(32)
autour
de 1900, et le thorme ci-dessus date de la n des annes 1920, avec des contributions
essentielles de P. Furtwngler, T. Takagi, E. Artin et H. Hasse
(33)
. Grce aux eorts de
tous ces mathmaticiens et de ceux des trois dcennies suivantes, on a maintenant une
thorie puissante, parfaitement bien comprise, aux noncs compacts, et qui peut trs bien
sutiliser comme une boite noire. Elle fait rgulirement lobjet de cours fondamentaux de
troisime cycle.
C.2. Le thorme de Kronecker-Weber revisit
C. Chevalley sest demand sil existait un groupe naturel, construit directement partir
de Q (resp. de F, o F est un corps de nombres), dont les reprsentations de dimension 1
seraient exactement les caractres de Dirichlet (resp. les caractres de Hecke dordre ni
de F) primitifs. Cela la men la construction (1940) du groupe des idles
(34)
esquisse
ci-dessous. Nous allons aller lenvers de lordre historique (les adles sont ns, de la
main dArtin et Whaples, 5 ans plus tard que les idles (sous le nom fort peu potique de
valuation vectors)), mais ce sont toujours les ides simples qui viennent en dernier
(35)
. Les
adles sont construits en considrant simultanment tous les complts de Q (resp. dun
(31)
Cest un des derniers problmes (le liebster Jugendtraum de Kronecker) noncs par D. Hilbert en
1900 quon ne sait toujours pas rsoudre.
(32)
3 des problmes de Hilbert (les 9-ime, 11-ime et 12-ime) sont relis la question.
(33)
Lcole allemande a jou un rle absolument primordial dans le sujet, et tous les articles de lpoque
(y compris ceux du mathmaticien japonais T. Takagi) sont en allemand.
(34)
Le mot idle vient du mot idal (dans tous les sens du terme...) ; il a donn naissance 20 ans plus
tard au mot adle, et J. Roubaud a fait dAdle et Idle des jumelles dans La belle Hortense.
(35)
Comme le dit A. Weil : Pour franchir toutes ces tapes, un bon tudiant ne met gure plus de jours
prsent quil ny a fallu dannes lpoque...
C.2. LE THORME DE KRONECKER-WEBER REVISIT 203
corps de nombres F), et J. Tate a montr dans sa thse (1950), sous la direction dE. Artin,
comment lanalyse de Fourier sur les adles permet de dmontrer naturellement toutes
les proprits analytiques des fonctions L de Dirichlet (resp. de Hecke) rencontres au
chap. VI (resp. mentionnes au n
o
5 du C.1).
1. Adles
1.1. Le thorme dOstrowski
Si K est un corps, une norme sur K est une application x [x[ de K dans R
+
vriant
les trois proprits suivantes :
(i) [x[ = 0 x = 0, (ii) [xy[ = [x[[y[, (iii) [x + y[ [x[ +[y[.
Si K est un corps muni dune norme [ [, et x, y sont deux lments de K, on pose
d(x, y) = [x y[. Les proprits (i) et (iii) des normes assurent que d est une distance sur
K et donc dnit une topologie sur K. Deux normes sur un corps K sont dites quivalentes
si elle dnissent la mme topologie. Une norme est dite triviale si elle induit la topologie
discrte sur K (on a alors [x[ = 1 quel que soit x ,= 0).
En dehors de la norme usuelle que nous noterons [ [

, on peut dnir, pour chaque


nombre premier p, une norme p-adique [ [
p
sur Q. Rappelons que celle-ci est dnie
(cf. alina 3.2 du D.1) par la formule [
a
b
[
p
= p
v
p
(a)+v
p
(b)
, si a, b Z 0, et v
p
(n) est
le plus grand entier v tel que p
v
divise n.
Thorme C.2.1. (Ostrowski, 1918) Une norme non triviale sur Q est quivalente
la norme usuelle [ [

ou la norme p-adique [ [
p
pour un unique nombre premier p.
Dmonstration. Commenons par supposer quil existe k N tel que |k| > 1. Comme |1| = 1,
lingalit triangulaire implique |k| k et il existe ]0, 1] tel que lon ait |k| = k

. Soit m N. On
peut crire m en base k sous la forme m =

n
i=0
a
i
k
i
avec a
i
0, 1, . . . , k 1 et a
n
,= 0 de telle sorte
que lon a m k
n
. Comme |a
i
| a
i
k 1 et |k
i
| = |k|
i
, on obtient la majoration
|m| (k 1)
n

i=1
k
i
=
k 1
k

1
(k
(n+1)
1)
k

(k 1)
k

1
k
n
Cm

,
o C =
k

(k1)
k

1
est indpendant de m. On peut appliquer cette ingalit m
n
, ce qui nous donne
|m|
n
Cm
n
et, prenant la racine n-ime de cette galit et passant la limite, lingalit |m| m

.
Par symtrie, on en dduit le fait que si |m| > 1, alors cette ingalit est une galit.
Maintenant, si m N 0 est quelconque, il existe n N tel que lon ait |k
n
m| > 1. On a alors
|m| = |k
n
|
1
|k
n
m| = k
n
(k
n
m)

= m

, ce qui montre que lon a galit quel que soit m N puis,


utilisant la multiplicativit de la norme et le fait que | 1| = 1, que |x| = [x[

quel que soit x Q.


On en dduit que sil existe k N tel que |k| > 1, alors | | est quivalente la norme usuelle.
Dans le cas contraire, on a || 1 pour tout nombre premier . Comme on a suppos | | non triviale,
il existe au moins un nombre premier p tel que |p| < 1. Si il en existe un autre q, alors quel que soit
n N, on peut, daprs le thorme de Bezout, trouver u
n
, v
n
Z tels que lon ait u
n
p
n
+v
n
q
n
= 1 On
obtient donc
1 = |1| = |u
n
p
n
+ v
n
q
n
| |u
n
| |p|
n
+|v
n
| |q|
n
|p|
n
+|q|
n
,
204 ANNEXE C. INTRODUCTION AU PROGRAMME DE LANGLANDS
ce qui est impossible pour n assez grand. Il existe donc un et un seul nombre premier p tel que |p| < 1
et | | est quivalente la norme p-adique. Ceci termine la dmonstration.
Le rsultat suivant est une consquence immdiate de lunicit de la dcomposition
dun entier en produit de facteurs premiers, mais est trs important ; cest ce qui justie
la normalisation utilise pour [ [
p
.
Thorme C.2.2. (Formule du produit) Si x Q

, alors
[x[

p premier
[x[
p
= 1.
1.2. Lanneau des adles de Q
On renvoie lalina 3.2 du D.1 pour ce qui concerne la construction des nombres
p-adiques et leurs proprits lmentaires.
Soit v = P. Les lments de V sont les places de Q. La place est la place
linni et les p P sont les places nies. Si v V , on note Q
v
le complt de Q
correspondant ; on a donc Q

= R.
Daprs le thorme dOstrowski, les complts de Q sont exactement les Q
v
, pour
v V . Il est donc naturel
(36)
dessayer de considrer tous ces complts ensemble. On
peut plonger Q diagonalement dans

vV
Q
v
, cest--dire en envoyant a Q sur (x
v
)
vV
,
avec x
v
= a, quel que soit v V . On a alors x
p
Z
p
sauf si p divise le dnominateur
de a, ce qui montre que limage de Q est incluse dans le sous-anneau de

vV
Q
v
des
x = (x

, . . . , x
p
, . . . ), avec x
p
Z
p
pour presque tout p. Cet anneau est lanneau des
adles A de Q; cest le produit restreint des Q
v
relativement aux Z
p
, pour p P. On
note souvent (x

, x
][
) un lment x de A, et x
][
est la partie nie (i.e. en dehors
de ) de x. Si v V , on peut identier Q
v
au sous-anneau de A des x dont toutes les
composantes sont nulles sauf la composante en v.
On munit A de la topologie du produit restreint obtenue en prenant comme base dou-
verts les

vS
U
v

p/ S
Z
p
, o S dcrit les parties nies de V contenant , et U
v
, pour
v S, dcrit les ouverts de Q
v
. Les propositions C.2.3 et C.2.4 ci-dessous montrent que
Q est discret dans A, mais nest pas loin dtre dense.
Proposition C.2.3. (i) Tout lment x de A peut scrire de manire unique sous la
forme x = + y, avec Q et y [0, 1[

Z, o

Z =

pP
Z
p
.
(ii) Q est discret dans A et A/Q est isomorphe (R/Z)

Z, et est compact.
Dmonstration. (i) Commenons par dmontrer quune telle criture, si elle existe, est unique. Si

1
+ y
1
=
2
+ y
2
, avec
1
,
2
Q et y
1
, y
2
[0, 1[

Z, alors en particulier, on a
2

1
Z
p
quel que
soit p P, et donc
2

1
Z. Mais alors
1
+y
1,
=
2
+y
2,
implique, puisque y
1,
, y
2,
[0, 1[,
que
2
=
1
, et donc aussi que y
2
= y
1
. Do lunicit.
(36)
Cest naturel, mais il sest coul plus de 50 ans entre la construction des nombres p-adiques par
K. Hensel et les constructions qui vont suivre.
C.2. LE THORME DE KRONECKER-WEBER REVISIT 205
Passons lexistence. Soit S un sous-ensemble ni de P tel que x
p
Z
p
, si p / S. Comme Z[
1
p
] est
dense dans Q
p
daprs le th. D.1.5, il existe, pour tout p S, un lment
p
de Z[
1
p
] tel que x
p

p
Z
p
.
Mais alors x

= x

pS

p
R

Z, et il sut de poser = [x

] +

pS

p
et y = x

[x

] (o
[x

] est la partie entire de la composante x

en de x

) pour obtenir une dcomposition de x sous la


forme souhaite. Ceci termine la dmonstration du (i).
Le fait que Q est discret suit de ce que, si x A, le voisinage ouvert x+(]
1
2
,
1
2
[

Z) de x contient au
plus un lment de Q, vu que la dirence de deux de ses lments est dans ] 1, 1[

Z qui ne contient
que 0 comme lment de Q. Lisomorphisme A/Q

= (R/Z)

Z est une consquence immdiate du (i),


et la compacit de A/Q suit alors du fait quun produit dnombrable de compacts est compact.
Si S = p
1
, . . . , p
s
est un sous-ensemble ni de P, on note Z[S
1
] le sous-anneau
Z[
1
p
1
, . . . ,
1
p
s
] de Q obtenu en rendant p
1
, . . . , p
s
inversibles.
Proposition C.2.4. Si S P est ni, alors Z[S
1
] est dense dans

pS
Q
p
.
Dmonstration. Comme les p
n
i
sont premiers entre eux deux deux, il existe, daprs le thorme des
restes chinois, a
i,n
Z congru 1 modulo p
n
i
, et 0 modulo p
n
j
, pour tout j S i. Si maintenant
y
i
Q
p
i
, on peut trouver x
i,n
Z[
1
p
i
] tel que [x
i,n
y
i
[ p
n
i
car Z[
1
p
i
] est dense dans Q
p
i
daprs le
th. D.1.5. En posant x
n
=

s
j=1
a
j,n
x
j,n
, cela fournit une suite dlments de Z[S
1
] vriant
[x
n
y
i
[
p
i
=

a
i,n
x
i,n
y
i
+

j=i
a
j,n
x
j,n

p
i
=

a
i,n
(x
i,n
y
i
) + (a
i,n
1)y
i
+

j=i
a
j,n
x
j,n

p
i
sup
_
[a
i,n
[
p
i
[(x
i,n
y
i
)[
p
i
, [(a
i,n
1)[
p
i
[y
i
[
p
i
, sup
j=i
[a
j,n
[
p
i
[x
j,n
[
p
i
_
.
Maintenant, on a [x
j,n
[
p
i
1, si j ,= i, et comme [(x
i,n
y
i
)[
p
i
, [(a
i,n
1)[
p
i
et [a
j,n
[
p
i
, si j ,= i, sont
tous p
n
i
, on voit que x
n
tend vers (y
1
, . . . , y
s
) dans

pS
Q
p
. Ceci permet de conclure.
1.3. Le groupe des idles de Q
Le groupe des idles A

de Q est le groupe des lments inversibles de lanneau A; cest


donc lensemble des (x
v
)
vV
, avec x
v
Q

v
, et x
p
Z

p
pour presque tout p. Autrement
dit, A

est le produit restreint des Q

v
relativement aux Z

p
, pour p P, et on le munit
de la topologie du produit restreint dont une base douverts est constitue des

vS
U
v

p/ S
Z

p
, o S dcrit les parties nies de V contenant , et U
v
les ouverts de Q

v
, si v S.
Si Q

, on a Z

p
sauf si p divise le dnominateur ou le numrateur de , ce qui
prouve que llment (, , . . . ) de

vV
Q
v
appartient A

, et permet didentier Q


un sous-groupe de A

. Si v V , on peut identier Q

v
au sous-groupe de A des x dont
toutes les composantes sont gales 1 sauf la composante en v.
Si x = (x
v
)
vV
A

, on a [x
p
[
p
= 1 pour presque tout p, ce qui permet de dnir [x[
A
par [x[
A
=

vV
[x
v
[
v
. Il rsulte de la formule du produit (th. C.2.2) que [[
A
= 1, quel
que soit Q

.
Lemme C.2.5. (i) Tout lment x de A

peut scrire de manire unique sous la forme


x = b

b
][
, avec Q

, b

+
, et b
][

, o

Z

pP
Z

p
.
(ii) A

/Q


= R

.
206 ANNEXE C. INTRODUCTION AU PROGRAMME DE LANGLANDS
Dmonstration. On peut et doit poser = sign(x

pP
p
v
p
(x
p
)
, et alors b =
1
x
vrie les conditions b

R
+
et b
][

pP
Z

p
. On en dduit le (i), et le (ii) en est une
consquence immdiate.
2. La formule de Poisson adlique
2.1. Transforme de Fourier sur Q
p
Si p P, on note S(Q
p
) lespace (de Schwartz) des fonctions valeurs dans C,
localement constantes, support compact dans Q
p
. Soit S(Q
p
). Comme est
support compact (et donc born), il existe m Z tel que (x) = 0 si [x[
p
> p
m
;
autrement dit, il existe m Z tel que (x) = 0 si x / p
m
Z
p
. Par ailleurs, comme
est localement constante, il existe pour tout x p
m
Z
p
, un entier n
x
N tel que soit
constante sur B(x, p
n
x
) = x + p
n
x
Z
p
. Comme p
m
Z
p
est compact, on peut extraire un
recouvrement ni du recouvrement de p
m
Z
p
par les x + p
n
x
Z
p
. En notant n le minimum
des n
x
intervenant dans le sous-recouvrement ni, on voit quil existe n N tel que
soit constante sur x + p
n
Z
p
, quel que soit x p
m
Z
p
. En notant 1
a+p
n
Z
p
la fonction
caractristique de a + p
n
Z
p
, et en utilisant la densit de Z[
1
p
] dans Q
p
, on en dduit le
rsultat suivant.
Proposition C.2.6. S(Q
p
) est le C-espace vectoriel engendr par les 1
a+p
n
Z
p
, pour
a Z[
1
p
] et n N. De plus, les relations entre les 1
a+p
n
Z
p
sont engendres par les relations
suivantes :
1
a+p
n
Z
p
= 1
b+p
n
Z
p
, si b a + p
n
Z,
1
a+p
n
Z
p
=

p1
i=0
1
a+ip
n
+p
n+1
Z
p
,
la seconde traduisant le fait quil y a p possibilits pour le reste de la division par p
n+1
, si
on connat le reste de la division par p
n
.
Si S(Q
p
), on dnit
_
Q
p
(x) dx par linarit, en posant
_
Q
p
1
a+p
n
Z
p
(x) dx = p
n
,
quels que soient a Z[
1
p
] et n N, ce qui revient demander que Z
p
ait mesure 1 et que
lintgration soit invariante par translation. Que ce soit possible suit du fait que les seules
relations entre les 1
a+p
n
Z
p
sont celles ci-dessus.
Si x Q
p
, il existe Z[
1
p
] tel que x Z
p
(cest une consquence de la densit de
Z[
1
p
] dans Q
p
), et est bien dtermin addition prs dun lment de Z[
1
p
] Z
p
= Z.
On en dduit que e
2i
ne dpend que de x, et pas du choix de , ce qui nous autorise
le noter e
2i x
. Il est alors immdiat que x e
2i x
est un caractre linaire de Q
p
(e
2i(x+y)
= e
2i x
e
2i y
), localement constant (et mme constant sur a + Z
p
, quel que soit
a Q
p
).
On dnit alors la transforme de Fourier

= F
p
de S(Q
p
) par la formule

(y) =
_
Q
p
(x)e
2i xy
dx,
C.2. LE THORME DE KRONECKER-WEBER REVISIT 207
ce qui a un sens car x (x)e
2i xy
a mme support que et est localement constante
comme produit de deux fonctions localement constantes.
Exemple C.2.7. (i) La transforme de Fourier de 1
Z
p
est 1
Z
p
. En eet, si y Z
p
, on a
e
2ixy
= 1 quel que soit x Z
p
, et donc
_
Q
p
1
Z
p
(x)e
2i xy
dx =
_
Q
p
1
Z
p
(x) dx = 1.
Par contre, si v
p
(y) = n < 0, le caractre linaire x e
2i xy
de Z
p
est non trivial et
constant modulo p
n
Z
p
; on a donc
_
Q
p
1
Z
p
(x)e
2i xy
dx =
_
Q
p

aZ
p
/p
n
Z
p
e
2i ya
1
a+p
n
Z
p
(x) dx = p
n

aZ
p
/p
n
Z
p
e
2i ya
= 0,
daprs lorthogonalit des caractres linaires dun groupe ni, puisque a e
2i ya
est un
caractre linaire non trivial de Z
p
/p
n
Z
p

= Z/p
n
Z.
(ii) Les mmes calculs montrent que, si est constante modulo p
n
Z
p
, et support dans
p
m
Z
p
, alors

est constante modulo p
m
Z
p
, et support dans p
n
Z
p
.
(iii) Soit : (Z/p
n
Z)

un caractre de Dirichlet de conducteur p


n
, avec n 1.
En utilisant lisomorphisme Z
p
/p
n
Z
p

= Z/p
n
Z, on peut associer une fonction

support dans Z
p
(et mme dans Z

p
), constante modulo p
n
Z
p
, en posant

(x) = 0
si x pZ
p
, et

(x) = (x), si x Z

p
et x est limage de x modulo p
n
Z
p
. Alors la
transforme de Fourier de

est donne par la formule

(y) =
G()
p
n

(p
n
y), o G() =

a(Z/p
n
Z)

(a)e
2i
a
p
n
est la somme de Gauss introduite au n
o
2 du VI.4. En eet,

tant constante modulo


p
n
Z
p
, la fonction

est nulle en dehors de p


n
Z
p
, et si v
p
(y) n, la formule vrier
est quivalente celle du lemme VI.4.3.
La transforme de Fourier sur Q
p
vrie les mmes proprits que sur R en ce qui
concerne les dilatations, translations... De manire prcise, on a le rsultat suivant.
Proposition C.2.8. (i) Si a Q

p
et b, c Q
p
, alors
F
p
((ax))(y) =[a[
1
p

(a
1
y),
F
p
((x + b))(y) = e
2i by

(y), et F
p
(e
2i cx
(x))(y) =

(y + c).
(ii) (F
p
F
p
)(x) = (x) (formule dinversion de Fourier).
Dmonstration. Si a Q

p
et b, c Q
p
, soit u
a,b,c
: S(Q
p
) S(Q
p
) lapplication dnie par
(u
a,b,c
)(x) = e
2i cx
(ax+b). Un changement de variable immdiat dans lintgrale dnissant F
p
u
a,b,c
montre que
F
p
u
a,b,c
= [a[
1
p
e
2i
bc
a
u
a
1
,a
1
c,a
1
b
F
p
.
208 ANNEXE C. INTRODUCTION AU PROGRAMME DE LANGLANDS
On en dduit le (i). En appliquant le (i) deux fois, on montre que F
p
F
p
u
a,b,c
= u
a,b,c
F
p
F
p
. Soit
Y le sous-espace de S(Q
p
) des tels que F
p
F
p
= u
1,0,0
. Comme u
a,b,c
u
1,0,0
= u
1,0,0
u
a,b,c
,
on voit que Y est stable par les u
a,b,c
. Par ailleurs, Y contient 1
Z
p
, et u
p
n
,p
n
a,0
1
Z
p
= 1
a+p
n
Z
p
; on en
dduit que Y contient les 1
a+p
n
Z
p
pour a Q
p
et n Z, et donc Y = S(Q
p
). Ceci permet de conclure.
2.2. Transforme de Fourier adlique
Soit S(A) lespace de Schwartz de A. Cest lensemble des combinaisons linaires des
fonctions de la forme (x) =

vS

v
(x
v
)

p/ S
1
Z
p
(x
p
), o S dcrit les parties nies de V
contenant , et
v
S(Q
v
), si v S. Une telle fonction sera aussi note
vV

v
, tant
sous-entendu que
p
= 1
Z
p
pour presque tout p P.
Comme les 1
a+p
n
Z
p
engendrent S(Q
p
), on voit que S(A) est aussi engendr par des
fonctions de la forme

(x

pS
1
a
p
+p
n
p
Z
p
(x
p
)

p/ S
1
Z
p
(x
p
) =

(x

)1
a+N
b
Z
(x
][
),
o N =

pS
p
n
p
et a est un lment de Z[S
1
] tel que a a
p
Z
p
, quel que soit p S
(lexistence dun tel a est garantie par le lemme C.2.4). De plus, les relations entre ces
gnrateurs sont engendres par les relations (en notant plus simplement

1
a+N
b
Z
llment de S(A) apparaissant dans le membre de droite ci-dessus) :

1
a+N
b
Z
=

1
b+N
b
Z
, si a b NZ,

1
a+N
b
Z
=

M1
i=0

1
a+iN+NM
b
Z
, si a Q, M, N N0.
Si S(A), on dnit
_
A
dx par linarit en imposant que
_
A

1
a+N
b
Z
dx =
1
N
_
R

(x

) dx

, ce qui revient demander que la mesure de [0, 1[

Z soit 1, et que
lintgration sur A soit invariante par translation. On remarquera que si =
vV

v
,
alors
_
A
dx =

vV
_
Q
v

v
(x
v
) dx
v
, et presque tous les termes du produit valent 1.
Si x = (x
v
)
vV
A, on dnit e
2i x
par e
2i x
= e
2i x

pP
e
2i x
p
, et presque
tous les termes du produit sont gaux 1. Il est immdiat sur la formule que lon a
e
2i(x+y)
= e
2i x
e
2i y
, si x, y A. De plus, on vrie sans peine que e
2i(x+)
= e
2i x
, si
Z ou si est de la forme
1
p
n
, avec p P et n N. Comme tout lment de Q peut
scrire comme une somme dlments de ce type (dcomposition en lments simples),
on en dduit que x e
2i x
est priodique de priode Q.
On dnit la transforme de Fourier adlique

= F
A
de S(A) par la formule

(y) =
_
A
(x)e
2i xy
dx. Il est clair que si =
vV

v
, alors F
A
=
vV
F
v

v
, (ce qui
a un sens puisque, pour presque tout p, on a F
p

p
= 1
Z
p
).
On dduit des formules locales (i.e. sur R et sur Q
p
) dinversion de Fourier et des
formules locales pour les dilatations, que
(F
A
F
A
)(y) = (y), et F
A
((bx))(y) = [b[
1
A

(b
1
y), si b A

.
Thorme C.2.9. (Formule de Poisson) Soit S(A). Alors
(i)

Q
() =

().
C.2. LE THORME DE KRONECKER-WEBER REVISIT 209
(ii) Plus gnralement, si b A

, alors

Q
(b) = [b[
1
A

(b
1
).
Dmonstration. Par linarit, on peut supposer que =

1
a+N
b
Z
, avec a Q, et N N. Dans ce
cas,

(y) = N
1

(y

)e
2i ay
][
1
N
1b
Z
, et on est ramen prouver lidentit

a+NZ

() =
1
N

N
1
Z
e
2ia

(),
ce qui suit de la formule de Poisson classique (th. III.2.12) applique la fonction f : R C, dnie par
f(x) =

(Nx + a), dont la transforme de Fourier est



f(y) =
1
N
e
2i
ay
N

(
y
N
).
Le (ii) suit de ce que la transforme de Fourier de
b
dnie par
b
(x) = (bx) est

b
(y) = [b[
1
A

(b
1
y).
3. Transforme de Mellin adlique et fonctions L
3.1. Intgration sur Q

p
Soit L
0
(Q

p
) lensemble des : Q

p
C, localement constantes et support compact
dans Q

p
(autrement dit, L
0
(Q

p
) est le sous-espace de S(Q
p
) des vriant (0) = 0).
Si L
0
(Q

p
), on dnit
_
Q

p
(x) d

x par la formule
_
Q

p
(x) d

x =
p
p 1
_
Q
p
(x) [x[
1
p
dx,
ce qui revient demander que la mesure de Z

p
soit 1 et que lintgration sur Q

p
soit
invariante par x bx, si b Q

p
.
Soit L(Q

p
) lensemble des : Q

p
C, support compact dans Q
p
, dont la restriction
p
n
Z

p
= x, [x[
p
= p
n
appartient, quel que soit n Z, L
0
(Q

p
), et qui sont
sommables, ce qui signie que

nZ
_
p
n
Z

p
[(x)[ d

x < +. Si L(Q

p
), on dnit
_
Q

p
(x) d

x par la formule
_
Q

p
(x) d

x =

nZ
_
p
n
Z

p
(x) d

x.
3.2. Intgration sur le groupe des idles
Soit L(R

) lensemble des : R

dcroissance rapide linni et telles


que
_
R

[(t)[ d

t < +, o lon a pos d

t =
dt
[t[
. La mesure d

t est invariante par le


changement de variable t bt, si b R

.
Soit L
0
(A

) lespace engendr par les fonctions de la forme (x) =

vV

v
(x
v
), o

L(R

),
p
L
0
(Q

p
) et
p
= 1
Z

p
pour presque tout p. On notera une fonction de
ce type sous la forme
vV

v
, ce qui sous-entend que
p
= 1
Z

p
pour presque tout p. Si
L
0
(A

), on dnit
_
A

(x) d

x par linarit en imposant que


_
A

vV

v
d

x =

vV
_
_
Q

v
(x
v
) d

x
v
_
,
o presque tous les termes du produit sont gaux 1. Cela revient demander que la
mesure de [1, a[

soit log a et que d

x soit invariante par x bx, si b A

.
210 ANNEXE C. INTRODUCTION AU PROGRAMME DE LANGLANDS
On note L(A

) lespace des fonctions dont la restriction R

appartient L
0
(A

),
quel que soit Q

, et qui sont sommables, i.e.



Q

_
R

+
b
Z

[(x)[ d

x < +. Si
L(A

), on dnit
_
A

(x) d

x par la formule
_
A

(x) d

x =

_
R

+
b
Z

(x) d

x.
Proposition C.2.10. Soit
v
L(Q

v
), pour v V , vriant :

p
= 1 sur Z

p
pour presque tout p,

vV
_ _
Q

v
[
v
(x
v
)[ d

x
v
_
< +.
Alors : A

C dnie par (x) =

vV

v
(x
v
) est un lment de L(A

), et
_
A

(x) d

x =

vV
_ _
Q

v
(x
v
) d

x
v
_
.
Dmonstration. Si Q

, la restriction de R

est le produit de 1
R

sign()

et des 1
p
v
p
()
Z

p
,
et comme v
p
() = 0 pour presque tout p, et
p
= 1 sur Z

p
pour presque tout p, cette restriction est
visiblement lment de L
0
(A

).
Le reste se dmontre comme la prop. VI.3.1. Soit P(X) lensemble des nombres premiers X, I(X)
lensemble des Q

, positifs ou ngatifs, dont la dcomposition en facteurs premiers ne fait intervenir


que des lments de P(X) et, si k N, soit I(X, k) lensemble ni des I(X) tels que k v
p
() k,
si p P(X). En notant C
p
(k, k) la couronne x Q
p
, p
k
[x
p
[ p
k
, on obtient

I(X,k)
_
R

+
b
Z

[(x)[ d

x =
_
R

Q
pX
C
p
(k,k)
Q
p>X
Z

p
[(x)[ d

x.
Or (x) =

vV

v
(x
v
), ce qui permet de mettre le membre de droite sous la forme
_
_
R

(x

)[ d

pX
_
_
C
p
(k,k)
[
p
(x
p
)[ d

x
p
_
,
si X est assez grand pour que
p
= 1 sur Z

p
, pour tout p > X. En faisant tendre k vers +, on en dduit

I(X)
_
R

+
b
Z

[(x)[ d

x =
_
_
R

(x

)[ d

pX
_
_
Q

p
[
p
(x
p
)[ d

x
p
_
,
et en faisant tendre X vers +, on obtient

+
_
R

+
b
Z

[(x)[ d

x =

vV
_
_
Q

v
[
v
(x
v
)[ d

x
v
_
< +,
et donc est sommable. En particulier la srie

Q

_
R

+
b
Z

(x) d

x est absolument convergente,


ce qui permet, en reprenant les calculs ci-dessus sans les valeurs absolues, de dmontrer la formule
_
A

(x) d

x =

vV
_ _
Q

v
(x
v
) d

x
v
_
, que lon cherchait obtenir.
3.3. Transforme de Mellin sur Q
p
Lemme C.2.11. Si est un caractre linaire continu de Q

p
, il existe n N 0
tel que = 1 sur 1 + p
n
Z
p
.
Dmonstration. Comme est continu, il existe n > 0 tel que [(x) 1[ 1/2, si [x 1[
p
p
n
. Or
B(1, p
n
) = 1 + p
n
p
Z
p
, est un sous-groupe dindice ni de Z

p
(cest limage rciproque de 1 (Z/p
n
Z)

par la projection naturelle Z

p
(Z
p
/p
n
Z
p
)

= (Z/p
n
Z)

). Comme est un morphisme de groupes,


C.2. LE THORME DE KRONECKER-WEBER REVISIT 211
limage de 1 + p
n
Z
p
est un sous-groupe de C

inclus dans le disque D(1, 1/2) ; on en dduit que cette


image est rduite 1, ce qui permet de conclure.
On dit que est non rami si = 1 sur Z

p
. Si est rami, on note n() le plus
petit entier n tel que = 1 sur 1 + p
n
Z
p
; alors p
n()
est le conducteur de .
Si G est un groupe, un caractre linaire : G C

est unitaire si [(g)[ = 1, quel


que soit g G. On a alors (g
1
) = (g), pour tout g G.
Proposition C.2.12. Soit : Q

p
C

un caractre linaire unitaire continu.


(i) Si S(Q
p
), alors x (x)(x)[x[
s
p
L(Q

p
), si Re(s) > 0.
Si Re(s) > 0, soit M
p
(, , s) =
_
Q

p
(x)[x[
s
p
d

x la transforme de Mellin de .
(ii) M
p
(1
Z
p
, , s) =
1
1(p)p
s
, si est non rami, et M
p
(1
Z
p
, , s) = 0, si est rami.
(iii) Dans le cas gnral, M
p
(, , s) est un polynme en p
s
et p
s
si est rami, et
de la forme
(0)
1(p)p
s
+R(s), o R(s) est un polynme en p
s
et p
s
, si est non rami.
Dmonstration. On crit sous la forme (0)1
Z
p
+ , o L
0
(Q

p
). Il existe alors n N tel
que soit constant modulo p
n
Z
p
, ce qui permet de lcrire sous la forme

aI

a
1
a+p
n
Z
p
. On a alors
M
p
(, , s) =

aI

a
p
1n
p1
[a[
s1
p
, et comme [a[
p
p
Z
, cela montre que M
p
(, , s) est un polynme en
p
s
et p
s
.
Maintenant, on a
_
p
n
Z

p
[[x[
s
p
[ d

x = p
nRe(s)
. On en dduit que x 1
Z
p
(x)(x)[x[
s
p
est sommable si
Re(s) > 0. De plus, on a
M
p
(1
Z
p
, , s) =
+

n=0
_
p
n
Z

p
(x)[x[
s
p
d

x =
+

n=0
_
Z

p
(p
n
x)[p
n
x[
s
p
d

x
=
+

n=0
(p)
n
p
ns
_
Z

p
(x) d

x =
1
1 (p)p
s
_
Z

p
(x) d

x,
et le rsultat suit de ce que
_
Z

p
(x) d

x = 1 si = 1 sur Z

p
et est nul si nest pas trivial sur Z

p
,
puisquil se factorise alors travers le groupe ni (Z/p
n()
Z)

, et que la somme des valeurs dun caractre


linaire non trivial dun groupe ni est nulle (orthogonalit des caractres linaires).
3.4. La transforme de Mellin adlique
Proposition C.2.13. Soit un caractre continu de A

, et si v V , soit
v
la
restriction de Q

v
. Alors, pour presque tout p P, on a
p
= 1 sur Z

p
, et, si x A

,
(x) =

vV

v
(x
v
).
Dmonstration. Comme est continu sur A

, il est continu sur



Z

=

pP
Z

p
, et par dnition
de la topologie produit, il existe S P ni et, si p S, n
p
N 0, tels que [(x) 1[ 1/2, si
x U =

pS
(1 + p
n
p
Z
p
)

p/ S
Z

p
. Or U est un sous-groupe de

Z

, et donc son image par est un


sous-groupe de C

inclus dans le disque D(1, 1/2) ; on en dduit que cette image est rduite 1. En
particulier, on a
p
= 1 sur Z

p
pour tout p / S.
Maintenant, si x A

, on a
v
(x
v
) = 1 pour presque tout v, ce qui fait que

(x) =

vV

v
(x
v
)
est bien dni, et que

est un caractre linaire continu de A

. On conclut en remarquant que

et
concident sur le sous-groupe des idles dont presque toutes les composantes sont gales 1, et en
utilisant la densit de ce sous-groupe dans A

. (Si U est un ouvert de A

, il contient un ouvert de la
212 ANNEXE C. INTRODUCTION AU PROGRAMME DE LANGLANDS
forme

vS
U
v

p/ S
Z

p
, et donc contient des lments dont toutes les composantes en dehors de S
sont gales 1.)
Si L(R

), et si est un caractre linaire unitaire continu de R

, la transforme
de Mellin M

(, , s) de est la fonction s
_
R

(t)(t)[t[
s
d

t, qui est holomorphe


dans le demi-plan Re(s) > 0, comme le montre le th. IV.2.16.
Proposition C.2.14. Soit un caractre unitaire continu de A

et, si v V , soit

v
la restriction de Q

v
.
(i) Si S(A), alors x (x)(x)[x[
s
A
L(A

), si Re(s) > 1.
(ii) La transforme de Mellin M
A
(, , s) =
_
A

(x)(x)[x[
s
A
d

x de est holomorphe
sur le demi-plan Re(s) > 1.
(iii) Si =
vV

v
, et si Re(s) > 1, alors M
A
(, , s) =

vV
M
v
(
v
,
v
, s).
Dmonstration. Commenons par supposer que =
vV

v
, o
v
S(Q
v
), et
p
= 1
Z
p
, pour
presque tout p. Soit
v
=
v

v
[x
v
[
s
. Il rsulte de la prop. C.2.12 que, si Re(s) > 0, alors
v
L(Q
v
)
quel que soit v V , et que
_
Q

p
[
p
[ d

x
p
=
1
1p
Re(s)
pour presque tout p. Comme le produit des
1
1p
Re(s)
est convergent pour Re(s) > 1, et comme
p
= 1 sur Z

p
pour presque tout p, daprs la prop. C.2.13, on est
dans les conditions dapplication de la prop. C.2.10. On en dduit que

vV

v
= (x)(x)[x[
s
A
L(A

),
si Re(s) > 1, et que
M
A
(, , s) =

vV
_
Q

v
(x
v
) d

x
v
=

vV
M
v
(
v
,
v
, s).
Comme chacune des M
v
(
v
,
v
, s) est holomorphe sur Re(s) > 0, et comme le produit est absolument
convergent sur tout demi-plan Re(s) > c, si c > 1, on en dduit (th. IV.2.14) lholomorphie de M
A
(, , s)
sur le demi-plan Re(s) > 1. Ceci termine la dmonstration dans le cas o est un produit. Les (i) et (ii)
dans le cas gnral sen dduisent par linarit. Ceci permet de conclure.
3.5. Le thorme de Tate
Soit un caractre unitaire continu de A

, et soit
v
, si v V , la restriction de Q

v
.
Soit S(), lensemble des p tels que
p
soit rami. Daprs la prop. C.2.13 ci-dessus, cet
ensemble est ni. On dnit le conducteur D() de par la formule D() =

pS()
p
n(
p
)
.
Par ailleurs, la restriction de

+
est unitaire continue ; il existe donc t() R
tel que

(x) = x
it()
, si x R

+
.
Thorme C.2.15. (Tate, 1950) Si S(A), et si : A

est un carac-
tre linaire unitaire continu, trivial sur Q

, alors M
A
(, , s) admet un prolongement
mromorphe C tout entier, holomorphe en dehors de ples simples en s = it() et
s = 1 it(), si D() = 1, de rsidus respectifs (0) et

(0), et vrie lquation
fonctionnelle M
A
(, , s) = M
A
(

, , 1 s).
Dmonstration. Si Re(s) > 1, on a
M
A
(, , s) =
_
A

(x)(x)[x[
s
A
d

x =

_
R

b
Z

(x)(x)[x[
s
A
d

x
C.2. LE THORME DE KRONECKER-WEBER REVISIT 213
Or d

x et (x)[x[
s
A
sont invariants par x x, ce qui permet de rcrire lexpression
prcdente sous la forme

_
+
0
_
b
Z

(x)(x)[x[
s
A
d

x =
_
+
0
_
b
Z

_

Q

(x)
_
(x)[x[
s
A
d

x,
lchange des signes

et
_
tant justie par la sommabilit de (x)(x)[x[
s
A
sur A

.
Maintenant, comme Q

= Q 0, la formule de Poisson adlique (th. C.2.9) permet


dcrire

(x) sous la forme


(0) +

Q
(x) = (0) +[x[
1
A

(x
1
) =

(0)[x[
1
A
(0) +[x[
1
A

(x
1
).
On peut alors couper lintgrale
_
+
0
en
_
1
0
+
_
+
1
, remplacer

Q

(x) par lex-


pression ci-dessus dans
_
1
0
, faire le changement de variable x x
1
dans
_
1
0
, et utiliser
lidentit (x
1
) = (x) car est unitaire. Comme
_
1
0
_
b
Z

[x[
u
A
(x)d

x =
_
_
1
0
x
u+it()

dx

__

pP
_
Z

p
(x
p
) d

x
p
_
=
_
0 si D() ,= 1,
1
u+it()
si D() = 1,
(si p[D(), alors
_
Z

p
(x
p
) d

x
p
= 0), on obtient
M
A
(, , s) =
_
+
1
_
b
Z

_
(x)(x)[x[
s
A
+

(x)(x)[x[
1s
A
_
d

x,
si D() ,= 1, auquel il faut rajouter
(0)
s+it()


(0)
1sit()
, si D() = 1. On en dduit le
thorme car

_
(x)(x)[x[
s
+

(x)(x)[x[
1s
_
est sommable pour toute valeur
de s, et dnit une fonction holomorphe de s sur C tout entier, et la formule

(x) = (x)
montre que ce quon obtient ne change pas si on remplace simultanment par

, par
et s par 1 s (on a t() = t()).
4. Application aux fonctions L de Dirichlet
Le th. C.2.15 permet de redmontrer lexistence de prolongements analytiques et dqua-
tions fonctionnelles pour les fonctions L de Dirichlet. En ce qui concerne les fonctions L de
Dirichlet, le gain nest pas agrant, mais les calculs adliques ne sont pas plus compliqus
pour les fonctions L de Hecke, et dans ce cas, le gain par rapport la mthode originelle
de Hecke devient trs apprciable.
4.1. La fonction zta de Riemann. Le rsultat suivant a dj t dmontr, et la
dmonstration propose ci-dessous nest quune traduction adlique de celle de lex. VI.5.8.
Proposition C.2.16. Soit (s) =
(s/2)

s/2
(s). Alors (s) a un prolongement mro-
morphe C, holomorphe en dehors de ples simples en s = 0 et s = 1, de rsidus
respectifs 1 et 1, et vrie lquation fonctionnelle (1 s) = (s).
214 ANNEXE C. INTRODUCTION AU PROGRAMME DE LANGLANDS
Dmonstration. Soit =
v

v
S(A), avec

(t) = e
t
2
, et
p
= 1
Z
p
, quel que
soit p Z
p
. On a

v
=
v
, quel que soit v, et donc

= . De plus (0) =

(0) = 1.
Il rsulte donc du th. C.2.15 que M
A
(, 1, s) admet un prolongement mromorphe C,
holomorphe en dehors de ples simples en s = 0 et s = 1, de rsidus respectifs 1 et 1,
et vrie lquation fonctionnelle M
A
(, 1, 1 s) = M
A
(, 1, s).
Par ailleurs, on a M
A
(, 1, s) =

vV
M
v
(
v
, 1, s), si Re(s) > 1, daprs le (iii) de la
prop. C.2.14. Or M
p
(
p
, 1, s) =
1
1p
s
, si p P, daprs le (ii) de la prop. C.2.12, et donc

pP
M
p
(
p
, 1, s) = (s). Finalement,
M

, 1, s) = M

(e
t
2
, 1, s) =
_
R

e
t
2
t
s
dt
[t[
=
_
+
0
e
u
u
s/2
du
u
=
(s/2)

s/2
.
On en dduit que (s) = M
A
(, 1, s), ce qui permet de conclure.
4.2. Fonctions L de caractres de A

Soit un caractre linaire unitaire continu de A

, trivial sur Q

, dont le conducteur
D() est dirent de 1, et soit
v
la restriction de Q

v
, si v V .
Comme on a suppos que est unitaire, on a soit

(x

) = [x

[
it()
, soit

(x

) =
sign(x

)[x

[
it()
. Dans le premier cas, on dit que est pair, dans le second, quil est
impair. On pose
w

() =
_
1 si pair,
i si impair,
c() =
_
0 si pair,
1 si impair.
On dnit (, s) par la formule (, s) =

v

v
(, s), avec

v
(, s) =
_
w

() si v = ,
w
p
()p
n(
p
)s
si p P,
, o w
p
() =
_
1 si p D(),

p
(p
n(
p
)
)G(
p
) si p [ D().
On a donc (, s) =
_
v
w
v
()
_
D()
s
. (La somme de Gauss G(
p
) est la somme de
Gauss du caractre de Dirichlet de conducteur p
n(
p
)
obtenu en utilisant lisomorphisme
(Z
p
/p
n(
p
)
Z
p
)


= (Z/p
n(
p
)
Z)

.)
Finalement, on dnit la fonction L de par L(, s) =

pD()
1
1
p
(p)p
s
, si Re(s) > 1.
Proposition C.2.17. La fonction (, s) =
((s+it()+c())/2)

(s+it()+c())/2
L(, s) admet un prolon-
gement holomorphe C, et vrie lquation fonctionnelle (, s) = (, s)(, 1 s).
Dmonstration. Soit =
v

v
, on lon a pos

(t) = e
t
2
, si est pair, et

(t) = t e
t
2
, si est impair,

p
= 1
Z
p
, si p D(),

p
= 1
Z

p
, si p [ D().
Nous allons calculer les facteurs M
v
(
v
,
v
, s) et M
v
(

v
,
v
, 1 s), pour tout v.
On a

= w

()

. En eet, si est pair, ceci est quivalent au fait que la


transforme de Fourier de e
t
2
est e
x
2
. Si est impair, ceci quivaut au fait que la
C.2. LE THORME DE KRONECKER-WEBER REVISIT 215
transforme de Fourier de te
t
2
est ixe
x
2
, ce qui peut se vrier en remarquant que
2te
t
2
est la drive de e
t
2
et donc sa drive est 2ix fois la transforme de Fourier
de e
t
2
. On en dduit que
M

, s) =
((s + it() + c())/2)

(s+it()+c())/2
et M

, s) = w

()
((s + it() + c())/2)

(s+it()+c())/2
,
par un petit calcul analogue celui que lon a fait pour dterminer M

(e
t
2
, 1, s).
Si p D(), on a

p
= 1
Z
p
, et donc, daprs le (ii) de la prop. C.2.12, si Re(s) > 0,
M
p
(
p
,
p
, s) =
1
1
p
(p)p
s
et M
p
(

p
,
p
, s) =
1
1
p
(p)p
s
.
Si p [ D(), on M
p
(
p
,
p
, s) = 1, comme le montre un calcul immdiat. Par ailleurs,
on a

p
(x) =
G(
p
)
p
n(
p
)

p
(p
n(
p
)
x)1
p
n(
p
)
Z

p
(x), daprs le (iii) de lex. C.2.7, et donc
M
p
(

p
,
p
, 1 s) =
G(
p
)
p
n(
p
)
_
p
n(
p
)
Z

p
(p
n(
p
)
x)
p
(x)[x[
1s
p
d

x
=
G(
p
)
p
n(
p
)

p
(p
n(
p
)
)p
n(
p
)(1s)
_
p
n(
p
)
Z

p
d

x = w
p
()p
n(
p
)(s)
.
On a donc, si Re(s) > 1,
M
A
(, , s) =

vV
M
v
(
v
,
v
, s) =
((s + it() + c())/2)

(s+it()+c())/2

pD()
1
1
p
(p)p
s
= (, s).
De mme, si Re(s) < 0, alors M
A
(

, , 1 s) =

vV
M
v
(

v
,
v
, 1 s) est aussi gal
w

()
((1 s + it() + c())/2)

(1s+it()+c())/2
_

p[D()
w
p
()p
n(
p
)(s)
_

pD()
1
1
p
(p)p
(1s)
,
cest--dire (, s)(, 1s). Le rsultat suit donc du th. C.2.15, en utilisant le fait que
(0) =

(0) = 0 car
p
(0) =

p
(0) = 0, si p [ D().
4.3. Caractres de Dirichlet et caractres linaires continus des idles
A un caractre de Dirichlet de conducteur D, on peut associer, grce au lemme C.2.5,
un caractre linaire
A
de A

, continu, dordre ni (et donc unitaire), par la formule

A
(x) = (
D
(b
][
))
1
, si x = b

b
][
, o Q

, b

+
, b
][

, et o lon note

D
:

Z

(Z/DZ)

la projection naturelle
(37)
. On remarquera que
A
est trivial sur Q

par construction.
Lemme C.2.18. L(
A
, s) = L(, s).
(37)
On envoie Z

p
sur 1, si p D, et Z

p
sur (Z
p
/p
v
p
(D)
Z
p
)

= (Z/p
v
p
(D)
Z)

, si p [ D, et on utilise
lisomorphisme (Z/DZ)

p|D
(Z/p
v
p
(D)
Z)

fourni par le thorme des restes chinois.


216 ANNEXE C. INTRODUCTION AU PROGRAMME DE LANGLANDS
Dmonstration. On note
p
la restriction de
A
Q

p
, et il sagit de vrier que si
p D, alors (p) =
p
(p). Soit x (resp. y) lidle dont toutes les composantes sont 1
(resp. p
1
) sauf la composante en p qui est gale p (resp. 1). On a alors
p
(p) =
A
(x)
par dnition, et comme x = py, on a
p
(p) = (
D
(y
][
))
1
. Or y
][
a toutes ses
composantes en les divisant D gales p
1
; on en dduit que
D
(y
][
) = p
1
, et donc
que
p
(p) = (p
1
)
1
= (p), ce qui permet de conclure.
On dduit de ce lemme, et de la prop. C.2.17, une dmonstration adlique de lexistence
dun prolongement analytique et dune quation fonctionnelle pour L(, s). Par ailleurs, ce
lemme permet aussi de reformuler le thorme de Kronecker-Weber sous la forme suivante.
Thorme C.2.19. Si est une reprsentation de dimension 1 de G
Q
, il existe un
caractre linaire unitaire continu () de A

= GL
1
(A), trivial sur Q

= GL
1
(Q), tel
que L(, s) = L((), s).
C.3. Le programme de Langlands
Le programme de Langlands consiste remplacer 1 par n dans lnonc du th. C.2.19
ci-dessus. (Cest plus facile dire qu faire...)
1. Reprsentations automorphes
Notons G le groupe GL
n
, et donc G(A), G(Q), G(R) G(Q
p
) et G(Z
p
) dsignent respec-
tivement les groupes GL
n
(A), GL
n
(Q), GL
n
(R), GL
n
(Q
p
) et GL
n
(Z
p
). Alors G(A) est
le produit restreint des G(Q
v
), pour v V , relativement aux G(Z
p
), pour p P; autre-
ment dit, un lment x de G(A) est de la forme (x
v
)
vV
, avec x
v
G(Q
v
), et x
p
G(Z
p
)
pour presque tout p. On crit aussi x sous la forme (x

, x
][
), o x
][
= (x
p
)
pP
est la
partie de x en dehors de . Comme dhabitude, G(Q
v
) sidentie un sous-groupe de
G(A), si v V .
Soit A
0
(G(Q)G(A)) le C-espace vectoriel des formes automorphes
(38)
cuspidales pour
G(A), cest--dire des fonctions : G(A) C vriant :
(i) (x) = (x) quels que soient G(Q) et x G(A),
(ii) il existe K

dindice ni dans

pP
G(Z
p
) tel que (xh) = (x) quels que soient
x G(A) et h K

, et les (xh), pour


(39)
h O
n
(R), engendrent un espace de dimension
nie,
(iii) il existe caractre linaire unitaire continu de A

, trivial sur Q

, tel que (A
z
x) =
(xA
z
) = (z)(x), si A
z
est la matrice de lhomothtie de rapport z A

,
(38)
Lautomorphie traduit la condition (i) qui est la plus subtile des conditions (i)-(v) ci-dessus, et la
cuspidalit correspond la condition (v).
(39)
Le groupe O
n
(R) est le groupe des isomtries de R
n
; cest un sous-groupe compact de G(R), et il
est maximal pour cette proprit, de la mme manire que G(Z
p
) est un sous-groupe compact de G(Q
p
),
et est maximal pour cette proprit.
C.3. LE PROGRAMME DE LANGLANDS 217
(iv) Si x
][
est x, (x

, x
][
) est une fonction de classe C

des coordonnes de x

,
vecteur propre de tous les oprateurs direntiels commutant laction de G(R).
(v) est dcroissance rapide linni (en un sens que nous ne prciserons pas).
On fait agir g G(A) sur les fonctions : G(A) C par translation droite sur
la variable, cest--dire que lon pose g (x) = (xg). Alors A
0
(G(Q)G(A)) nest pas
stable par laction de G(A), mais presque
(40)
, et nous allons un peu tricher en prten-
dant quil lest (cf. note 40 pour un nonc correct), et donc que A
0
(G(Q)G(A)) est
une reprsentation de G(A). Alors A
0
(G(Q)G(A)) se dcompose en somme directe de
reprsentations irrductibles (ses composantes irrductibles sont les reprsentations auto-
morphes cuspidales). Le thorme ci-dessous reprsente un travail certain (d, pour n = 2,
H. Jacquet et R. Langlands(1969), et pour n 3, R. Godement et H. Jacquet(1972)).
La dmonstration de lexistence et du prolongement analytique des fonctions L auto-
morphes a fortement t inspire par la mthode introduite par J. Tate pour tudier les
fonctions L de Dirichlet et de Hecke.
Thorme C.3.1. Soit une reprsentation automorphe cuspidale de degr n. Alors
(i) admet une factorisation
(41)
sous la forme =
t
vV

v
, o
v
est une reprsen-
tation irrductible (de dimension innie) de G(Q
v
).
(40)
Il est stable par G(A
][
), par O
n
(R), mais pas par G(R) cause de la condition (iii) imposant
que les (xh), pour h O
n
(R), engendrent un espace de dimension nie. Par contre, il est stable par
laction innitsimale de G(R), cest--dire par les oprateurs direntiels
A
, pour A M
n
(R), avec

A
(x) = lim
t0
t
1
((xe
tA
) (x)), et e
tA
=

+
n=0
t
n
A
n
n!
G(R) est lexponentielle de la matrice tA.
Il y a des conditions de compatibilit videntes que doivent satisfaire les actions de O
n
(R) et M
n
(R)
car e
tA
O
n
(R) si (et seulement si) A est antisymtrique. Dans ce qui suit, nous commettrons labus
dappeler reprsentation de G(R) (resp. de G(A)) un C-espace vectoriel muni dactions de O
n
(R) et
M
n
(R) vriant les relations de compatibilit voques ci-dessus.
(41)
Le groupe G
A
est essentiellement un produit. Or on a vu, dans le cas des groupes nis, que si
G = G
1
G
2
, alors toute reprsentation irrductible de G se factorise sous la forme V
1
V
2
o V
i
est
une reprsentation irrductible de G
i
, si i = 1, 2. Il est donc naturel de penser quune reprsentation
irrductible de G
A
va aussi admettre une factorisation, et cest ce que prtend le (i) du th. C.3.1. Dun
autre ct, il nest pas trs raisonnable de faire le produit tensoriel dune innit despaces vectoriels, et
le produit tensoriel du thorme est un produit tensoriel restreint. (On a dj vu des exemples de cette
notion : S(A) est le produit tensoriel restreint des S(Q
v
), pour v V , relativement aux fonctions 1
Z
p
,
pour p P; de mme, L
0
(A

) est le produit tensoriel restreint de L(R

) et des L
0
(Q

p
), pour p P,
relativement aux fonctions 1
Z

p
, pour p P.) De manire prcise, pour tout p tel que le polynme E
p
du (ii) du thorme soit de degr n, la reprsentation
p
possde un vecteur privilgi x
p
(bien dtermin
multiplication prs par un lment de C

, mais cette indtermination est sans importance) qui est xe


par G(Z
p
). Alors le produit tensoriel restreint
vV

v
relativement aux vecteurs x
p
est engendr par
des lments de la forme
vV
y
v
, avec y
p
= x
p
pour presque tout p. On remarquera que g G
A
agit
naturellement sur un lment de ce type par la formule g (
vV
y
v
_
=
vV
(g
v
y
v
), comme dans le
cas du produit tensoriel de reprsentations de deux groupes, le point tant que g
p
G(Z
p
) pour presque
tout p et donc que g
p
y
p
= x
p
, pour presque tout p.
218 ANNEXE C. INTRODUCTION AU PROGRAMME DE LANGLANDS
(ii) admet une fonction L se factorisant sous la forme
(42)
L(, s) =

vV
L(
v
, s),
o L(

, s) est un produit de fonctions qui ne dpend que de

, et L(
p
, s) =
1
E
p
(p
s
)
,
o E
p
(X) est un polynme de degr n et de degr n pour presque tout p, dont le terme
constant est 1, et qui ne dpend que de
p
.
(iii) L(, s) admet un prolongement holomorphe tout le plan complexe, et admet une
quation fonctionnelle du type L(, s) = (s)L(

, 1 s), o

est une autre reprsen-


tation automorphe cuspidale (contragrdiente de ), et (s) est de la forme A B
s
, avec
A C

et B R

+
.
Conjecture C.3.2. (Langlands, 1968) Si est une reprsentation irrductible de
dimension n de G
Q
, il existe une reprsentation automorphe cuspidale de degr n telle que
L(, s) = L((), s).
Au vu du thorme ci-dessus, cette conjecture implique la conjecture dArtin, mais va
en fait bien au-del. Ce nest quun petit bout de ldice dont Langlands conjecture
lexistence.
Nous montrerons comment transformer une forme modulaire primitive ou une forme
de Maass primitive en une reprsentation automorphe cuspidale de GL
2
(A) dans le n
o
2,
ce qui permet de voir les reprsentations automorphes cuspidales comme une vaste g-
nralisation des formes modulaires (ou de Maass) primitives. Notons quen degr 3, il
ne semble pas forcment y avoir dquivalents des formes modulaires ou de Maass, et le
recours au langage des reprsentations devient dicilement contournable.
2. Des formes modulaires aux reprsentations automorphes
2.1. Prliminaires
Si D N, soit K
D
le sous-groupe de GL
2
(

Z) =

pP
GL
2
(Z
p
) des h =
_
a b
c d
_
, avec
c D

Z. Si est un caractre de Dirichlet modulo D, on fabrique un caractre linaire


de K
D
, en posant (h) = (d), o lon a not d limage de d dans (

Z/D

Z)

= (Z/DZ)

.
On a alors () = (d), si =
_
a b
c d
_

0
(D).
Proposition C.3.3. (i) Tout lment de GL
2
(A) peut scrire sous la forme g

,
avec GL
2
(Q), g

GL
2
(R)
+
= g GL
2
(R), det g > 0, et K
D
.
(ii) Cette criture est unique multiplication prs de droite par
0
(D) et de
g

et gauche par
1
.
Dmonstration. Cf. alina 2.3.
(42)
Ces fonctions L automorphes sont de vastes gnralisations des fonctions L de Dirichlet.
C.3. LE PROGRAMME DE LANGLANDS 219
2.2. La forme automorphe associe une forme modulaire
Soit f S
k
(D, ). On peut utiliser la dcomposition de GL
2
(A) ci-dessus pour attacher
f une fonction
f
sur GL
2
(A), grce la formule,

f
(x) = (h)
1
_
(a

)
1/2
c

i + d

_
k
f
_
a

i + b

i + d

_
, si x = g

h et g

=
_
a

_
.
Le (ii) de la prop. C.3.3 et le fait que (cz + d)
k
f
_
az+b
cz+d
_
= (d)f(z), si
_
a b
c d
_

0
(D),
montrent que ceci ne dpend pas de la dcomposition de x choisie. Il nest pas trs dicile
de vrier que
f
est une forme automorphe cuspidale.
On procde de mme avec une forme de Maass f, de caractre et valeur propre
pour
0
(D) en dnissant
f
par la formule
f
(x) = (h)
1
f(g

).
Dans les deux cas, on note
f
le sous-espace de A
0
(GL
2
(Q)GL
2
(A)) engendr par

f
sous laction de GL
2
(A). Le thorme ci-dessous peut tre considr comme le point
de dpart du programme de Langlands.
Thorme C.3.4. (i) Si f est primitive, alors
f
est une reprsentation automorphe
cuspidale de degr 2, et donc admet une factorisation sous la forme
f
=
vV

f,v
.
(ii) Si f est de niveau D, et si p ne divise pas D, la reprsentation
f,p
est compltement
dcrite par le facteur dEuler E
p
(f, s) en p de la fonction L(f, s), et L(
f,p
, s) = E
p
(f, s).
Pour prciser le (ii), factorisons le facteur dEuler E
p
(f, s) sous la forme
_
E
p
(f, s +
k1
2
) = (1
p
p
s
)(1
p
p
s
) si f est une forme modulaire de poids k,
E
p
(f, s) = (1
p
p
s
)(1
p
p
s
) si f est une forme de Maass.
Ceci permet de dnir deux caractres
1
,
2
de Q

p
par la formule
1
(x) =
v
p
(x)
p
et

2
(x) =
v
p
(x)
p
. La reprsentation
f,p
est alors la reprsentation I(
1
,
2
) obtenue en
faisant agir GL
2
(Q
p
), par translation droite sur la variable, sur lespace des fonctions
localement constantes sur GL
2
(Q
p
) telles que

__
a b
0 d
_
x
_
=
1
(a)
2
(d)

a
d

1/2
(x), si a, d Q

p
, b Q
p
, et x GL
2
(Q
p
).
La construction ci-dessus nest pas sans rappeler la construction des reprsentation in-
duites pour les groupes nis (cf. n
o
2 du B.3) et, si on note B le sous-groupe de Borel de
GL
2
(Q
p
), (i.e. le sous-groupe des matrices triangulaires suprieures), alors I(
1
,
2
) est
linduite localement constante G du caractre linaire
_
a b
0 d
_

1
(a)
2
(d)

a
d

1/2
de B.
La reprsentation
f,p
, pour p divisant D est plus subtile dcrire. Sa description rentre
dans le cadre de la correspondance de Langlands locale (cf. n
o
3).
220 ANNEXE C. INTRODUCTION AU PROGRAMME DE LANGLANDS
2.3. La dcomposition de GL
2
(A)
Lemme C.3.5. Si K est un corps, et si A SL
2
(K), il existe t, x, y, z K tels que
lon ait A =
_
1 0
t 1
__
1 x
0 1
__
1 0
y 1
__
1 z
0 1
_
.
Dmonstration. On part de la formule
_
1 x
0 1
__
1 0
y 1
__
1 z
0 1
_
=
_
1+xy x+z+xyz
y 1+yz
_
. On en dduit que si A =
_
a b
c d
_
SL
2
(K) vrie c ,= 0, alors A est le produit des 3 matrices ci-dessus, avec y = c, x = c
1
(a 1)
et z = c
1
(d 1) et on peut prendre t = 0. Si c = 0, il sut de multiplier A par une matrice de la forme
_
1 0
t 1
_
1
=
_
1 0
t 1
_
, pour obtenir une nouvelle matrice qui peut scrire comme produit de 3 matrices
comme ci-dessus. Ceci permet de conclure.
Lemme C.3.6. Si S est un sous-ensemble ni de P, alors SL
2
(Z[S
1
]) est dense dans

pS
SL
2
(Q
p
).
Dmonstration. Soit A = (A
p
)
pS


pS
SL
2
(Q
p
). Daprs le lemme C.3.5, on peut crire A
p
sous la forme A
p
=
_
1 0
t
p
1
__
1 x
p
0 1
__
1 0
y
p
1
__
1 z
p
0 1
_
, avec t
p
, x
p
, y
p
, z
p
Q
p
. Comme Z[S
1
] est dense dans

pS
Q
p
, on peut trouver des suites (t

n
)
nN
, (x

n
)
nN
, (y

n
)
nN
et (z

n
)
nN
dlments de Z[S
1
] tendant
respectivement vers t
p
, x
p
, y
p
et t
p
, pour tout p S. Si on pose A

n
=
_
1 0
t

n
1
__
1 x

n
0 1
__
1 0
y

n
1
__
1 z

n
0 1
_
, alors
(A

n
)
nN
est une suite dlments de SL
2
(Z[S
1
]) tendant vers A dans

pS
SL
2
(Q
p
). Ceci permet de
conclure.
Venons-en la dmonstration de la prop. C.3.3. Soit g GL
2
(A). Comme det g A

,
on peut crire det g de manire unique sous la forme b, o b = (b

, b
][
), avec Q

,
b

+
et b
][


pP
Z

p
. Mais alors h =
_

1
0
0 1
_
g
_
b
1
0
0 1
_
SL
2
(A). Soit S le sous-
ensemble de P constitus des p divisant D et des p tels que h
p
/ SL
2
(Z
p
). Daprs le
lemme C.3.6, on peut trouver
0
SL
2
(Z[S
1
]) aussi proche que lon veut de (h
p
)
pS
;
en particulier, on peut trouver
0
SL
2
(Z[S
1
]) tel que
1
0
h
p
=
_
a
p
b
p
c
p
d
p
_
SL
2
(Z
p
) quel
que soit p S, et vrie v
p
(c
p
) v
p
(D), quel que soit p divisant D. Alors =
_
0
0 1
_

0
,
g

=
1
0
h

_
b

0
0 1
_
et =
1
0
h
][
_
b
][
0
0 1
_
fournissent une dcomposition de g ayant les
proprits voulues. Ceci dmontre le (i).
Le (ii) suit juste du fait quun lment =
_
a b
c d
_
dans lintersection de GL
2
(Q) et
de GL
2
(R)
+
K
D
est coecients dans Z ainsi que son inverse, de dterminant positif, et
vrie v
p
(c) v
p
(D) quel que soit p P. Autrement dit, cest un lment de
0
(D).
3. Quelques autres aspects du programme de Langlands
Le programme de Langlands a plusieurs autres facettes. En particulier, on peut rem-
placer Q par un corps de nombres F dans tout ce quon a fait ; lanneau des adles de F
tant construit de la mme manire, partir de tous les complts F
v
de F.
La correspondance de Langlands locale. Il sagit dune correspondance entre les repr-
sentations irrductibles de dimension n de G
Q
p
et certaines reprsentations irrductibles
C.3. LE PROGRAMME DE LANGLANDS 221
(les reprsentations cuspidales) de GL
n
(Q
p
). Cette correspondance a nalement t ta-
blie, en toute gnralit
(43)
, par M. Harris (Paris 7) et R. Taylor (Harvard) en 1999, et
simplie par G. Henniart (Orsay), toujours en 1999. Ceci fournit une description indirecte
fort utile du groupe G
Q
p
.
La correspondance de Langlands pour les corps de fonctions. Fixons un nombre pre-
mier p. On peut considrer, au lieu de Q et des corps de nombres, les extensions nies
K du corps F
p
(X) des fractions rationnelles coecients dans F
p
. Lanneau des adles
de K est dni partir des complts de F
p
(X) pour les direntes normes que lon peut
mettre sur F
p
(X) ; une dirence avec le cas des corps de nombres est que ces complts se
ressemblent beaucoup : ils sont tous de la forme F
q
((T)), corps des fractions de lanneau
des sries formelles coecients dans F
q
, o F
q
est le corps ni q lments et q est une
puissance de p. Dans ce cadre, la correspondance de Langlands a t tablie par L. Laf-
forgue (I.H.E.S., Bures sur Yvette) en 1999, ce qui lui a valu la mdaille Fields (2002). La
dmonstration utilise, entre autres, de puissants outils de gomtrie algbrique introduits
par A. Grothendieck dans les annes 60 ; le cas n = 2 avait t tabli par V. Drinfeld
(mdaill Fields en 1990) dans les annes 70, et la dmonstration de L. Laorgue est une
vaste gnralisation de celle de V. Drinfeld.
La fonctorialit de Langlands. Du ct galoisien, on dispose de tas de constructions
donnant de nouvelles reprsentations partir de reprsentations connues. Par exemple, si
F K sont deux corps de nombres, et si est une reprsentation de G
F
(resp. de G
K
),
on peut considrer la restriction (resp. linduction) de G
K
(resp. G
F
). Toutes ces
constructions devraient avoir des analogues du ct automorphe, mais on est encore bien
loin de comprendre vraiment ce qui se passe.
La correspondance de Langlands gomtrique (qui semble beaucoup intresser larme
amricaine). Elle ne fait pas partie du programme initial de Langlands : cest une extension
(due lcole russe autour de V. Drinfeld et A. Beilinson (maintenant Chicago tous les
deux)) dont la motivation vient de la physique mathmatique en lien avec la thorie des
cordes. Il sagit dune correspondance pour les corps de fonctions o on remplace le corps
ni F
p
par le corps C des nombres complexes.
(43)
De la mme manire que lon peut considrer un corps de nombres au lieu de Q, on peut considrer
un complt F
v
dun corps de nombres au lieu de Q
p
.
ANNEXE D
VOCABULAIRE MATHMATIQUE
Ce chapitre est une espce de dictionnaire rassemblant des dnitions et des noncs
(sans dmonstration) dusage constant, dont beaucoup ont t vus en classe prparatoire
(souvent sous une forme appauvrie). Il contient aussi quelques complments prsentant
un point de vue un peu dirent sur des notions abordes en classe prparatoire. Comme
dans un dictionnaire, il nest pas rare que certains passages fassent appel des notions
dnies ultrieurement.
D.1. Thorie des ensembles et algbre
1. Logique lmentaire et thorie des ensembles
Si X est un ensemble, on note [X[ son cardinal.
1.1. Ensembles dnombrables
Un ensemble est dnombrable sil est ni ou sil peut tre mis en bijection avec N.
Un sous-ensemble dun ensemble dnombrable est dnombrable.
Une runion dnombrable densembles dnombrables est dnombrable.
Un produit ni densembles dnombrables est dnombrable.
R nest pas dnombrable ; si E est inni, lensemble P(E) des parties de E nest
pas dnombrable ; un produit inni densembles ayant au moins deux lments est non
dnombrable
(1)
.
1.2. Paralllisme entre logique lmentaire et langage ensembliste
La ngation p p correspond au passage au complmentaire : x, p(x) est le
complmentaire de x, p(x).
(et) correspond lintersection : x, p(x) q(x) = x, p(x) x, q(x).
(ou) correspond la runion : x, p(x) q(x) = x, p(x) x, q(x).
(1)
Enn, si on admet laxiome du choix, sinon, il pourrait fort bien tre vide...
224 ANNEXE D. VOCABULAIRE MATHMATIQUE
La formule p q = pq (resp. p q = pq) devient : le complmentaire de la runion
(resp. lintersection) est lintersection (resp. la runion) des complmentaires.
correspond linclusion : p q si et seulement si x, p(x) x, q(x).
correspond une intersection : x, i I, p
i
(x) =
iI
x, p
i
(x).
correspond une runion : x, i I, p
i
(x) =
iI
x, p
i
(x).
Considrons, par exemple, deux espaces mtriques X et Y, et une suite de fonctions
(f
n
)
nN
de X dans Y. Soit A lensemble des x X tels que f
n
(x) converge. Alors A peut
scrire sous la forme :
A =x X, y Y, j N, N N, n N, d(f
n
(x), y) < 2
j

=
yY

jN

NN

nN
f
1
n
(y
t
Y, d(y, y
t
) < 2
j
).
Si Y est complet, on peut utiliser le critre de Cauchy au lieu de donner un nom la
limite, et on obtient [en notant f
n,p
: X Y Y la fonction x (f
n
(x), f
p
(x))] :
A =x X, j N, N N, n, p N, d(f
n
(x), f
p
(x)) < 2
j

=
jN

NN

n,pN
f
1
n,p
_
(y, y
t
) Y Y, d(y, y
t
) < 2
j

_
.
La seconde formulation a lavantage de ne faire intervenir que des intersections et runions
indexes par des ensembles dnombrables.
2. Relations dquivalence
2.1. Relations dquivalence et partitions
Si E est un ensemble, une partition de E est une famille de sous-ensembles non vides
de E, deux deux disjoints, dont la runion est E.
Une relation R sur E est un sous-ensemble de EE. Si (x, y) EE, on crit souvent
xRy pour signier (x, y) R.
Une relation R sur E est une relation dquivalence si elle est rexive (xRx quel que
soit x E), symtrique (xRy implique yRx) et transitive (xRy et yRz impliquent xRz).
Si R est une relation dquivalence sur E, et si x E, la classe dquivalence de x est
lensemble C
x
= y E, yRx. Un sous-ensemble C de E est une classe dquivalence
(pour R), sil existe x E tel que C = C
x
. Si x, y E, alors C
x
C
y
,= si et seulement
si xRy, et on a alors C
x
= C
y
. Les classes dquivalence forment donc une partition de E,
et on dnit le quotient E/R de E par la relation dquivalence R comme lensemble des
classes dquivalence. On note souvent x E/R la classe dquivalence de x. Si f : E X
est une application, la relation
f
dnie sur E par x
f
y si et seulement si f(x) = f(y)
est une relation dquivalence, et de manire un peu tautologique, f induit une bijection
de E/
f
sur Im(f). Un sous-ensemble S de E est un systme de reprsentants de E/R,
sil contient un et un seul lment de chaque classe dquivalence.
D.1. THORIE DES ENSEMBLES ET ALGBRE 225
Cette manire de dnir de nouveaux objets en passant au quotient par une relation
dquivalence est une des plus universelles qui soit
(2)
. Pour le petit enfant, le nombre 5
est la classe dquivalence des ensembles pouvant tre mis en bijection avec lensemble
un,deux,trois,quatre,cinq (ce nest pas une raison pour le lui dnir de cette manire...).
Pour le commun des mortels, un nombre rel est un nombre avec une innit de chires
derrire la virgule, et comme certains nombres ont deux critures, il faut passer au quo-
tient...
En gnral, on aime bien que E/R hrite des proprits que pouvait avoir E (i.e. on
aime bien que les proprits de E passent au quotient), ce qui impose des contraintes aux
relations dquivalence que lon peut considrer.
2.2. Quotients despaces vectoriels. Soit E un espace vectoriel sur un corps K, soit R
une relation dquivalence sur E, et soit F E la classe dquivalence de 0. Pour que la
structure despace vectoriel de E passe au quotient, on doit en particulier avoir x F si
K et x F (puisque 0 = 0 dans E/R) et x + y F si x, y F (puisque 0 + 0 = 0
dans E/R) ; en dautres termes, F doit tre un sous-espace vectoriel de E. De plus, comme
a + 0 = a dans E/R, les classes dquivalence doivent tre de la forme a + F.
Rciproquement, si F est un sous-espace vectoriel de E, la relation
F
, dnie sur E
par x
F
y si et seulement si x y F, est une relation dquivalence. Le quotient E/
F
est traditionnellement not E/F. Comme x y F x y F , et comme
x y F et x
t
y
t
F (x + x
t
) (y + y
t
) F , la structure despace vectoriel
sur E passe au quotient.
Si F
t
E est un sous-espace vectoriel supplmentaire de F, les classes dquivalence pour
F
sont les a + F, pour a F
t
, et lapplication naturelle F
t
E/F est un isomorphisme despaces
vectoriels. En dautres termes, dans le cas des espaces vectoriels, un quotient est toujours iso-
morphe un sous-objet, mais il est trs souvent nocif de remplacer, dans les raisonnements, un
quotient par un sous-objet qui lui est isomorphe. Par exemple, si F est un sous-espace vectoriel
dun espace vectoriel E, le dual F

de F (i.e. lensemble des formes linaires de F dans K) est


naturellement un quotient du dual E

de E (on peut restreindre une forme linaire sur E F, et


(2)
Lexprience montre que les premiers passages au quotient que lon rencontre sont un peu traumatisants,
mais on nit par sy faire... Il fut un temps pas si lointain, o lon dnissait Z comme le quotient de
NN par la relation dquivalence (a, b) (a

, b

) si et seulement si a+b

= a

+b, lide tant que (a, b)


reprsente lentier relatif a b. Au bout de 3 semaines, on avait enn le droit dcrire 2 3 +5 7 = 3,
ce que nimporte qui ayant regard un thermomtre comprend trs bien. Pour en arriver l, il avait fallu
passer par (2, 0) + (0, 3) + (5, 0) + (0, 7) = (7, 10) = (0, 3), puis par (+2) + (3) + (+5) + (7) = (3).
On achevait de traumatiser les lves (et leur parents) en dnissant, en classe de 4
me
, un vecteur
comme une classe dquipollence de bipoints (un bipoint (i.e. un couple de points) (A, B) est quipollent
(C, D), si (A, B, D, C) est un paralllogramme). Dans une priode plus rcente, les alas de la conjoncture
ayant provoqu un tarissement des vocations de professeurs de mathmatiques, on sest retrouv avec
une pnurie que lon a traite en diminuant lhoraire de mathmatiques dans lenseignement, et on en a
prot pour jeter allgrement la poubelle toutes ces horribles mathmatiques modernes...
226 ANNEXE D. VOCABULAIRE MATHMATIQUE
F

est le quotient de E

par le sous-espace des formes linaires identiquement nulles sur F), et


nest pas, en gnral, un sous-espace de E

, de manire naturelle.
Dans le cas gnral, si u : E E
t
est une application linaire, alors u se factorise
travers E/Ker u (ce qui signie quil existe u : E/Ker u Imu telle que u = u , o :
E E/Ker u est lapplication associant x E sa classe dquivalence x modulo Ker u),
et lapplication induite u : E/Ker u Imu est un isomorphisme despaces vectoriels.
2.3. Anneaux quotients. Soit A un anneau commutatif, soit R une relation dquiva-
lence sur A, et soit I E la classe dquivalence de 0. Pour que la structure danneau de
A passe au quotient, on doit en particulier avoir x I si A et x I (puisque 0 = 0
dans A/R) et x + y I si x, y I (puisque 0 + 0 = 0 dans A/R) ; en dautres termes, I
doit tre un idal de A. De plus, comme a + 0 = a dans A/R, les classes dquivalence
doivent tre de la forme a + I.
Rciproquement, si I est un idal de A, la relation
I
, dnie sur E par x
I
y si et
seulement si x y I, est une relation dquivalence. Le quotient A/
I
est tradition-
nellement not A/I. Comme x y I et x
t
y
t
I (x + x
t
) (y + y
t
) I , et
comme x y I et x
t
y
t
I xx
t
yy
t
= x(y y
t
) +y
t
(x x
t
) I la structure
danneau sur A passe au quotient.
Dans le cas gnral, si f : A A
t
est un morphisme danneaux, alors Ker f est un idal
de A, f se factorise travers A/Ker f et lapplication induite f : A/Ker f Imf est un
isomorphisme danneaux.
Par exemple
(3)
, C = R[X]/(X
2
+ 1), en notant, si P est un polynme, (P) lidal
engendr par P (prendre le quotient de R[X] par lidal (X
2
+ 1) revient rajouter R
un lment X vriant X
2
+ 1 = 0, et donc X devient une racine carre de 1 dans le
quotient). Autres exemples, le corps F
p
, quotient de Z par lidal pZ (p tant un nombre
premier) ou lanneau Z/nZ quotient de Z par lidal nZ (n entier quelconque), ou encore
Z[X]/(10X1) lanneau des nombres dcimaux (prendre le quotient de Z[X] par (10X1)
revient rajouter Z un lment X vriant 10X = 1).
2.4. Groupe oprant sur un ensemble. Soient G un groupe et X un ensemble. On dit
que G opre gauche sur X si on a une application (g, x) g x de G X dans X
telle que 1 x = x, quel que soit x X (on dsigne par 1 llment neutre de G), et
g (g
t
x) = gg
t
x, quels que soient g, g
t
G et x X. On dit que G opre droite sur
X si on a une application (g, x) x g de G X dans X telle que x 1 = x, quel que
soit x X, et (x g) g
t
= x gg
t
, quels que soient g, g
t
G et x X. On peut toujours
transformer une action gauche en action droite (et vice-versa), en posant xg = g
1
x.
Si G opre ( gauche ou droite) sur X, et si x X, un translat de x est un point de
X dans limage de G x, et lorbite O
x
de x est lensemble des translats de X (i.e.,
(3)
Cette dnition de C est due Cauchy.
D.1. THORIE DES ENSEMBLES ET ALGBRE 227
limage de G x dans X). Une orbite pour laction de G est un sous-ensemble O de
X de la forme O
x
pour un certain x X; on a alors O = O
y
, quel que soit y O, ce
qui fait que les orbites forment une partition de X. La relation dquivalence associe
G
est dnie par x
G
y si et seulement si il existe g G tel que y = g x (si laction est
gauche) ou y = x g (si laction est droite). Lespace quotient X/
G
, ensemble des
orbites, est traditionnellement not GX si laction est gauche, et X/G si laction est
droite. Un systme de reprsentants de GX ou X/G dans X est souvent appel
(4)
un
domaine fondamental.
Si x X, le stabilisateur G
x
de x est le sous-groupe des g G xant x.
On peut faire oprer G sur lui-mme ( gauche) par conjugaison intrieure gx = gxg
1
.
Lorbite de x G est alors la classe de conjugaison de x, et lensemble Conj(G) des orbites
est lensemble des classes de conjugaison de G. Le stabilisateur Z
x
de x pour cette action
est appel le centralisateur de x; cest lensemble des g G qui commutent x. Le centre
Z de G est le groupe des x G commutant tout lment de G; cest aussi lensemble
des x G dont la classe de conjugaison est rduite un point.
2.5. Quotients de groupes. Si G est un groupe, et si H est un sous-groupe de G, on
peut utiliser la multiplication dans G pour faire agir H sur G gauche (h x = hx) et
droite (x h = xh). Une classe gauche est alors de la forme Hx, pour x G, et une
classe droite, de la forme xH, pour x G. Les quotients HG ( gauche) et G/H (
droite) de G par H ne sont, en gnral, pas des groupes, mais la multiplication dans G les
munit dactions de G ( droite pour HG et gauche pour G/H). Rciproquement, si R
est une relation dquivalence sur G telle que la multiplication dans G induise une action
gauche (resp. droite) de G sur G/R, et si H est la classe dquivalence de e, alors H
est un sous-groupe de G et G/R = G/H (resp. G/R = HG).
Si G opre ( gauche) sur un ensemble X, si x X, et si G
x
est le stabilisateur
de x dans G, alors g g x induit un isomorphisme de G/G
x
sur lorbite O
x
de x
(cest un isomorphisme densembles munis dune action de G). En particulier, la classe de
conjugaison de x est isomorphe G/Z
x
, o Z
x
est le centralisateur de x.
Pour que la structure de groupe de G passe au quotient G/H, il faut et il sut que,
quels que soient x, x
t
G et h, h
t
H, on puisse trouver h
tt
H tel que xhx
t
h
t
= xx
t
h
tt
.
Comme h
tt
(h
t
)
1
= (x
t
)
1
hx
t
, on voit que la condition prcdente est quivalente ce que
H soit laiss stable par la conjugaison h ghg
1
, quel que soit g G. Si ceci est le cas
on dit que H est distingu (normal en franglais) dans G.
Un groupe simple est un groupe dont les seuls sous-groupes distingus sont 1 et le
groupe lui-mme.
(4)
Du moins dans le cas o X est un espace topologique, laction de G est continue, et le systme de
reprsentants nest pas trop moche...
228 ANNEXE D. VOCABULAIRE MATHMATIQUE
Si u : G G
t
est un morphisme de groupes, alors Ker u est distingu dans G et u
induit un isomorphisme de groupes de G/Ker u sur Imu. Si G est simple, alors u est soit
injectif soit trivial (u(g) = 1, quel que soit g G).
3. Construction de nombres
3.1. Nombres rels
Il a fallu attendre 1872 pour que Weierstrass saperoive que les nombres rels navaient
pas t dnis, ce qui aurait pu avoir des consquences fcheuses... En partant des entiers
naturels, on fait les constructions suivantes.
On construit Z comme quotient de NN par la relation dquivalence (a, b) (a
t
, b
t
)
si et seulement si a + b
t
= a
t
+ b, lide tant que (a, b) reprsente lentier relatif a b.
On construit Q comme quotient de Z (Z 0) par la relation dquivalence
(a, b) (a
t
, b
t
) si et seulement si ab
t
= a
t
b, lide tant que (a, b) reprsente le nombre
rationnel
a
b
.
Pour construire R partir de Q, on dispose essentiellement de trois possibilits.
On peut utiliser les coupures de Dedekind, cest--dire lensemble des couples (A, B)
de parties de Q telle que A B = Q, et tout lment de A est tout lment de B.
Lide tant que si r R, alors r correspond la coupure (A
r
, B
r
) donne par A
r
= x
Q, x r et B
r
= x Q, x r. Les rationnels sidentient aux coupures (A, B) telles
que A B est non vide. Il est alors facile de montrer que lensemble R ainsi construit
vrie la proprit de la borne suprieure (toute partie majore non vide admet une borne
suprieure), puis quil est complet.
On peut aussi, comme G. Cantor, complter Q pour la valeur absolue, en rajoutant de
force les limites des suites de Cauchy dlments de Q. Cela peut se faire, par exemple, de
la manire suivante. On considre lensemble Cauchy(Q) des suites de Cauchy dlments
de Q (i.e. lensemble des suites (a
n
)
nN
, avec a
n
Q, telles que, pour tout j N, il
existe N
j
N tel que [a
p
a
n
[ < 2
j
, quels que soient n, p N
j
). Alors Cauchy(Q) est
un anneau pour laddition et la multiplication terme terme dans lequel lensemble I des
suites tendant vers 0 est un idal. On dnit alors R comme le quotient de Cauchy(Q)
par I, ce qui revient (moralement) identier deux suites de Cauchy ayant mme limite
(i.e. dont la dirence tend vers 0), et donc identier une suite de Cauchy avec sa
D.1. THORIE DES ENSEMBLES ET ALGBRE 229
limite . Le rsultat R est un corps
(5)
, muni dune relation dordre stricte < totale
(6)
, dans
lequel Q (identi limage des suites constantes) est dense
(7)
.
On peut aussi utiliser la construction de lhomme de la rue qui part du fait quun
rel a un dveloppement dcimal. Cela conduit dnir R comme lensemble des dvelop-
pements dcimaux a
n
. . . a
0
, a
1
a
2
. . . avec un nombre ni de chires avant la virgule et
un nombre inni aprs, modulo la relation dquivalence , identiant a
n
. . . a
m
999999 . . .
a
n
. . . a
m+1
(a
m
+1)00000 . . . , si a
m
,= 9. Nous laissons au lecteur le soin de dnir lad-
dition et la multiplication de deux rels de lhomme de la rue ...
3.2. Nombres p-adiques
La construction de R de G. Cantor, bien que plus complique, est nettement plus
souple que celle de Dedekind, et se gnralise facilement. Il na fallu que 25 ans aprs
la construction des nombres rels (qui avait pris quelque deux millnaires...), pour que
K. Hensel envisage la construction des nombres p-adiques, et une petite dizaine dannes
pour quil leur donne une forme maniable. De nos jours, on procde de la manire suivante.
Soit p premier. Si a Z 0, on dnit v
p
(a) comme le plus grand entier v tel que
p
v
divise a. On a v
p
(ab) = v
p
(a) +v
p
(b) si a, b Z 0, ce qui permet dtendre v
p
Q
en posant v
p
(
a
b
) = v
p
(a) v
p
(b), si a, b Z0, et v
p
(0) = +. On a alors v
p
(x +y)
min(v
p
(x), v
p
(y)), si x, y Q car, si x et y sont divisibles par p
v
, il en est de mme de
x +y. On en dduit le fait que, si on pose [x[
p
= p
v
p
(x)
, alors [x +y[
p
sup([x[
p
, [y[
p
) et
donc que [ [
p
est une distance sur Q, lingalit ci-dessus, dite ultramtrique, tant plus
forte que lingalit triangulaire.
On dnit Q
p
, corps des nombres p-adiques, comme le complt de Q pour la norme
[ [
p
, cest--dire que lon prend, comme pour dnir R, lanneau des suites de Cauchy
(pour la norme [ [
p
) dlments de Q, et on quotiente par lidal des suites tendant vers 0.
Si x Q
p
, et si (a
n
)
nN
est un reprsentant de x, alors [a
n
[
p
tend vers une limite dans
R (et mme dans p
Z
0, car tous ses termes sont dans p
Z
0 qui est ferm dans
R
+
) qui ne dpend que de x, et quon note [x[
p
. Alors, par construction, [ [
p
est une
norme ultramtrique sur Q
p
, ce qui signie que [x[
p
= 0 si et seulement si x = 0, que
[xy[
p
= [x[
p
[y[
p
, quels que soient x, y Q
p
, et que [x + y[
p
sup([x[
p
, [y[
p
).
(5)
si (a
n
)
nN
est une suite de Cauchy qui ne tend pas vers 0, alors a
n
,= 0 si n n
0
, et la suite
(1, . . . , 1, a
1
n
0
, . . . , a
1
n
, . . . ) est une suite de Cauchy dont limage dans R est linverse de celle de la suite
(a
n
)
nN
.
(6)
Si a, b R, on dit que a < b, si a ,= b et si, pour tous reprsentants (a
n
)
nN
et (b
n
)
nN
de a et b,
on a a
n
< b
p
si n et p sont assez grands ; on constate sans problme que si cest vrai pour un choix de
reprsentants, alors cest vrai pour tous.
(7)
Cela signie quentre deux lments de R on peut toujours trouver un lment de Q. Si a < b sont
deux lments de R, et si (a
n
)
nN
et (b
n
)
nN
sont des reprsentants de a et b, alors a
n
< b
p
, si n, p n
0
,
et r =
a
n
0
+b
n
0
2
est un lment de Q vriant a < r < b.
230 ANNEXE D. VOCABULAIRE MATHMATIQUE
Remarque D.1.1. Dans Q
p
, une suite (x
n
)
nN
converge si et seulement si x
n+1
x
n
tend vers 0 et une srie

nN
u
n
converge si et seulement si u
n
tend vers 0. En eet,
daprs lingalit ultramtrique, on a [x
n+k
x
n
[
p
sup
0ik1
[x
n+i+1
x
x+i
[
p
, ce qui
montre que si [x
n+1
x
n
[
p
tend vers 0, alors la suite est de Cauchy. La compltude de Q
p
permet de conclure (largument est le mme pour une srie). Par exemple, si p = 2, la
srie 1 + 2 + 4 + 8 + converge dans Q
2
et sa somme est 1.
La topologie de Q
p
possde quelques autres proprits un peu droutantes au premier
abord.
Proposition D.1.2. (i) Tout point dune boule de Q
p
en est le centre.
(ii) Deux boules de Q
p
sont soit disjointes soit lune est contenue dans lautre (comme
des billes de mercure).
(iii) Les boules de Q
p
sont la fois ouvertes et fermes.
(iv) La topologie de Q
p
est totalement discontinue.
Dmonstration. Si x
1
B(x
0
, r) (boule ouverte ou ferme), et si y B(x
1
, r), alors d(x
0
, y)
sup(d(x
0
, x
1
), d(x
1
, y)) r (ou < r si on parle de boules ouvertes), et donc B(x
1
, r) B(x
0
, r). Linclusion
dans lautre sens sobtient en changeant les rles de x
0
et x
1
, ce qui permet de dmontrer le (i). Daprs
le (i), si deux boules ont une intersection non vide, tout lment de lintersection est le centre des deux
boules, ce qui dmontre le (ii). Le (iv) est une consquence immdiate du (iii), et si B est une boule
ouverte de rayon r, le complmentaire de B contient la boule ouverte de rayon r autour de chacun de ses
points daprs le (ii), ce qui montre que ce complmentaire est ouvert et donc que B est ferme. Si B est
une boule ferme de rayon non nul, alors B est un voisinage de chacun de ses points puisque ceux-ci en
sont le centre.
3.3. Lanneau Z
p
des entiers p-adiques
Soit Z
p
= x Q
p
, [x[
p
1. La multiplicativit de [ [
p
montre que Z
p
est stable par
multiplication et lingalit ultramtrique montre que Z
p
est stable par addition. Cest
donc un sous-anneau ferm de Q
p
contenant Z. Pour les mmes raisons, lensemble des
x Z
p
vriant [x[
p
< 1 est un idal de Z
p
, et comme [x[
p
< 1 implique [x[
p
p
1
,
cest lidal pZ
p
. Le sous-groupe Z

p
des units de Z
p
est lensemble des x Z
p
vriant
[x[
p
= 1 (puisqualors linverse x
1
de x dans Q
p
vrie [x
1
[
p
[x[
p
= 1, et donc [x
1
[
p
= 1,
ce qui prouve que x
1
Z
p
) ; cest donc aussi Z
p
pZ
p
.
Lemme D.1.3. Lapplication naturelle de Z/p
n
Z dans Z
p
/p
n
Z
p
est un isomorphisme.
Dmonstration. Si x est un lment de Zp
n
Z
p
, on a v
p
(x) n, ce qui signie que x est divisible par
p
n
dans Z. On en dduit linjectivit. Prouvons la surjectivit. Soit x Z
p
/p
n
Z
p
et x Z
p
ayant pour
image x modulo p
n
. Comme Q est dense dans Q
p
, il existe r Q vriant v
p
(x r) n; en particulier
v
p
(r) 0. crivons r sous la forme
a
b
avec a, b Z. Comme v
p
(r) 0, on a v
p
(b) v
p
(a) et quitte tout
diviser par p
v
p
(b)
, on peut supposer (b, p) = 1. Soit c linverse de b dans Z/p
n
Z et c Z dont la rduction
modulo p
n
est c. On a alors v
p
(r ac) = v
p
(a) + v
p
(1 bc) n et donc v
p
(x ac) n, ce qui prouve
que ac a pour image x dans Z
p
/p
n
Z
p
, et permet de conclure.
D.1. THORIE DES ENSEMBLES ET ALGBRE 231
Remarque D.1.4. (criture en base p dun nombre p-adique)
Si n N, alors 0, . . . , p
n
1 est un systme de reprsentants de Z/p
n
Z. Soit alors
x Q
p
, et soit k N tel que [x[
p
p
k
de telle sorte que y = p
k
x Z
p
. Si n k,
soit y
n
0, . . . , p
n+k
1 le reprsentant de limage de y dans Z
p
/p
n+k
Z
p

= Z/p
n+k
Z
(en particulier, y
k
= 0). Alors y
n+1
y
n
est divisible par p
n+k
, ce qui permet de dnir
a
n
0, . . . , p1 par a
n
= p
nk
(y
n+1
y
n
). On a alors y
n
=

n+k1
i=0
a
ik
p
i
; autrement
dit, a
n1
a
n2
. . . a
k
est lcriture de y
n
en base p. Par suite, a
n1
. . . a
0
, a
1
. . . a
k
est
lcriture de x
n
= p
k
y
n
en base p. Or y
n
p
k
x p
n+k
Z
p
par construction, ce qui se
traduit par [y
n
p
k
x[
p
p
(n+k)
, ou encore par [x
n
x[
p
p
n
, et montre que x
n
x
dans Q
p
. On a donc x =

+
i=k
a
i
p
i
(la somme converge puisque son terme gnral tend
vers 0), et lcriture en base p de x est
x = . . . a
n1
. . . a
0
, a
1
. . . a
k
.
Une dirence avec les nombres rels est quil y a une innit de chires avant la virgule
et un nombre ni aprs. Une autre dirence (agrable) est que lcriture est unique. Les
lments de Z
p
sont ceux dont lcriture en base p na pas de chire aprs la virgule (du
point de vue de lcriture en base p, ils correspondent au segment [0, 1] de R).
Thorme D.1.5. (i) Z
p
est compact et Q
p
est localement compact.
(ii) Z est dense dans Z
p
et Z[
1
p
] est dense dans Q
p
.
Dmonstration. Le (ii) suit de lexistence de lcriture en base p dun nombre p-adique (si on coupe
cette criture au n-ime chire avant la virgule, on obtient un lment x de Z (resp. Z[
1
p
]), si on est parti
dun lment de Z
p
(resp. Q
p
), et la suite de nombres ainsi obtenue converge vers x).
Passons la dmonstration du (i). Une boule ouverte B(a, r

) de Q
p
est aussi de la forme a + p
n
Z
p
,
o n est le plus grand lment de Z tel que p
n
< r, et donc est homomorphe Z
p
. Il sut donc de
prouver que Z
p
est compact, ce qui se fait en recopiant la dmonstration de la compacit de [0, 1] vue en
classe prparatoire. Comme Z
p
est un espace mtrique, il sut de vrier que toute suite dlments de Z
p
admet une sous-suite convergeant dans Z
p
. Soit donc (x
n
)
nN
une telle suite, et soit

+
i=0
a
n,i
p
i
lcriture
de x
n
en base p. Il existe alors a
0
0, . . . , p 1 tel que a
n,0
= a
0
pour une innit de n. Ceci permet
dextraire de la suite (x
n
)
nN
une sous-suite (x

0
(n)
)
nN
telle que a

0
(n),0
= a
0
, quel que soit n N. Pour
la mme raison, il existe alors a
1
0, . . . , p 1, et une sous-suite (x

1
(n)
)
nN
, extraite de (x

0
(n)
)
nN
,
telle que a

1
(n),0
= a
1
, quel que soit n N. Par rcurrence, cela permet de dnir a
k
0, . . . , p 1
et une sous-suite (x

k
(n)
)
nN
extraite de (x

k1
(n)
)
nN
, tels que a

k
(n),i
= a
i
, quels que soient n N
et i k. La suite (x

n
(n)
)
nN
est alors extraite (procd dextraction diagonale) de (x
n
)
nN
et, par
construction, on a a

n
(n),i
= a
i
, si i n, ce qui se traduit par [x

n
(n)

+
i=0
a
i
p
i
[
p
p
n1
, et montre
que x

n
(n)

+
i=0
a
i
p
i
dans Z
p
. Ceci permet de conclure.
4. Groupes nis
4.1. Le thorme de Lagrange et ses variantes
Si G est un groupe ni, et si H est un sous-groupe de G, alors G permute les classes
droite xH qui, de ce fait, ont toutes le mme cardinal [H[. Comme G est la runion
232 ANNEXE D. VOCABULAIRE MATHMATIQUE
disjointe des xH, pour x G/H, on en dduit la formule
[G[ = [G/H[ [H[.
En particulier, [H[ divise [G[, ce qui se traduit par le thorme de Lagrange : si G est un
groupe ni, alors lordre de tout sous-groupe de G divise celui de G. On peut spcialiser
cela au sous-groupe engendr par un lment x de G : lordre de ce sous-groupe est, par
dnition, lordre de x (cest aussi le plus petit entier n ,= 0, tel que x
n
= 1), et donc,
dans un groupe ni lordre dun lment divise lordre du groupe. Finalement, on remarque
que [G/H[ aussi divise [G[. Si X est un ensemble sur lequel G agit, cela se traduit par :le
cardinal dune orbite divise lordre du groupe. En particulier, en appliquant ceci laction
de G sur lui-mme par conjugaison intrieure, on en dduit que lordre dune classe de
conjugaison divise lordre du groupe.
4.2. Groupes abliens nis
Soit P lensemble des nombres premiers. Daprs le thorme des restes chinois, si
n N0, alors Z/nZ

=
pP
(Z/p
v
p
(n)
Z). La somme ci-dessus est en fait une somme
nie car v
p
(n) = 0, sauf pour un nombre ni de nombres premiers. Ce rsultat se gnralise
tous les groupes abliens nis sous la forme (cf. n
o
3 du D.2 pour la dmonstration).
Thorme D.1.6. (Kronecker, 1867) Soit G un groupe ablien ni et, si p P, soit
G
p
lensemble des lments de G dordre une puissance de p.
(i) G
p
est un sous-groupe de G, nul pour presque tout p, et G =
pP
G
p
.
(ii) Si p P, il existe une suite nie dentiers a
p,i
1, dcroissante et uniquement
dtermine, telle que lon ait G
p

=
i
(Z/p
a
p,i
Z).
4.3. Groupe symtrique, groupe altern
Si n N0, on note S
n
le groupe des permutations de 1, . . . , n. Une permutation
S
n
est un k-cycle sil existe i
1
, . . . , i
k
distincts, tels que
(i
1
) = i
2
, (i
2
) = i
3
, . . . , (i
k
) = i
1
, et (j) = j, si j / i
1
, . . . , i
k
.
Par permutation circulaire, on peut sarranger pour que i
1
soit le plus petit lment de
i
1
, . . . , i
k
, auquel cas, on note (i
1
, i
2
, . . . , i
k
) le k-cycle dni ci-dessus, et on dnit
le support du cycle (i
1
, i
2
, . . . , i
k
) comme tant lensemble i
1
, . . . , i
k
. Il est commode
dtendre la notation ci-dessus aux cycles de longueur 1 (qui sont tous gaux lidentit...).
Une permutation peut scrire comme un produit de cycles de supports disjoints : en
eet, si est une permutation, on fabrique une partition de 1, . . . , n en prenant les
orbites O
1
, . . . , O
s
sous laction de (i.e. sous laction du sous-groupe cyclique de S
n
engendr par ). Si O
i
est une de ces orbites, de cardinal k
i
, on peut considrer le cycle
c
i
= (a, (a), . . . ,
k
i
1
(a)), o a est le plus petit lment de O
i
; cest un cycle de longueur
k
i
et de support O
i
, et est le produit des c
i
, pour i 1, . . . , s. Comme des cycles
ayant des supports deux deux disjoints commutent entre eux, on peut faire le produit
D.2. ALGBRE LINAIRE 233
dans nimporte quel ordre dans la dcomposition dune permutation en cycles de supports
disjoints. Par exemple, soit S
6
la permutation (1) = 3, (2) = 2, (3) = 5, (4) = 6,
(5) = 1 et (6) = 4. Alors on a = (1, 3, 5)(4, 6)(2) = (4, 6)(2)(1, 3, 5)... Trs souvent
on omet les cycles de longueur 1 de la dcomposition ; on crit plutt la permutation
prcdente sous la forme = (1, 3, 5)(4, 6) = (4, 6)(1, 3, 5).
La conjugaison
1
par un lment de S
n
revient renumroter les lments
de S
n
, et donc transforme un k-cycle i
1
i
2
i
k
i
1
, en le k-cycle (i
1
)
(i
2
) (i
k
) (i
1
). Ceci permet de montrer que tout lment de S
n
est conjugu
un unique lment de la forme
(1, . . . ,
1
)(
1
+ 1, . . . ,
1
+
2
) (
1
+ +
s1
+ 1, . . . ,
1
+ +
s1
+
s
),
o (
1
, . . . ,
s
) est une partition de n, cest--dire une suite dcroissante dentiers 1 dont
la somme est n. Do une bijection naturelle entre les classes de conjugaison de S
n
et les
partitions de S
n
(cf. n
o
1 du B.2 pour des complments).
Une transposition est un 2-cycle. Si S
n
vrie (n) ,= n, alors ((n), n) xe n, et
donc peut tre vu comme un lment de S
n1
. Ceci permet de montrer, par rcurrence,
que S
n
est engendr par les transpositions, et mme que tout lment de S
n
est produit
dau plus n 1 transpositions. (La mme mthode montre que S
n
est engendr par les
transpositions (1, 2), (2, 3), . . . , (n 1, n).)
Si S
n
, on dnit la signature sign() de par la formule
sign() =

1i<jn
(i) (j)
i j
.
Alors sign : S
n
1 est un morphisme de groupes.
En eet, si , S
n
, on a
sign() =

1i<jn
(i) (j)
i j
= (

1i<jn
(i) (j)
(i) (j)
__

1i<jn
(i) (j)
i j
_
.
Le second terme est gal sign(), et le premier sign() car on a
(i)(j)
(i)(j)
=
(j)(i)
(j)(i)
, ce qui
permet dcrire le produit sous la forme

1(i)<(j)n
((i))((j))
(i)(j)
= sign().
On dnit le groupe altern A
n
comme le noyau de sign. Un k-cycle est dans A
n
si et
seulement si k est impair, et la mme rcurrence que pour S
n
montre que A
n
est engendr
par les 3-cyles.
D.2. Algbre linaire
Dans le n
o
1, on rappelle (et complte) sans dmonstration les rsultats vus en classe pr-
paratoire concernant la rduction des endomorphismes (diagonalisation, mise sous forme
de Jordan...). Au n
o
2, on explique comment on peut retrouver ces rsultats en utilisant
le thorme de structure des modules de torsion sur les anneaux principaux dmontr au
234 ANNEXE D. VOCABULAIRE MATHMATIQUE
n
o
3. Lintrt de cette nouvelle approche est de ne rien supposer sur le corps K, alors que
lapproche vue en classe prparatoire impose plus ou moins K dtre algbriquement
clos (ce qui est le cas de C, cf. ex. IV.1.19, IV.2.10, V.2.19, IV.1.11...).
1. Gnralits
Soit K un corps. Dans tout ce qui suit, V est un K-espace vectoriel de dimension nie.
1.1. Endomorphismes
On note End(V) lensemble des endomorphismes de V, cest--dire, lensemble des
applications u : V V qui sont linaires. Muni de laddition dnie par (u
1
+ u
2
)(v) =
u
1
(v) + u
2
(v), et de la composition des endomorphismes, End(V) est un anneau non
commutatif (sauf en dimension 1), possdant un lment unit (que nous noterons 1) en la
personne de lapplication identit id : V V. Lhomothtie de rapport est lapplication
v v. On la note simplement , ce qui est compatible avec le fait que lidentit (que
lon a note 1) peut aussi tre vue comme lhomothtie de rapport 1.
1.2. Le thorme de Cayley-Hamilton
Si u End(V), on note det(u) K son dterminant. On a det(u
1
u
2
) = det(u
1
) det(u
2
),
si u
1
, u
2
End(V). On note Car
u
(X) le polynme caractristique Car
u
(X) = det(X u)
de u. Si V est de dimension d, cest un polynme de degr d, dont le dveloppement est
donn par
Car
u
(X) = X
d
Tr(u)X
d1
+ + (1)
d
det(u),
o Tr(u) est, par dnition, la trace de u. On a Tr(u
1
u
2
) = Tr(u
2
u
1
), si u
1
, u
2
End(V).
Lensemble des P K[X] tels que P(u) = 0 est un idal de K[X] non nul car End(V) est
de dimension (dimV)
2
, et donc 1, u, . . . , u
(dimV)
2
forment une famille lie. On note Min
u
le gnrateur unitaire de cet idal. Cest le polynme minimal de u et, daprs le thorme
de Cayley-Hamilton, Car
u
annule u; autrement dit, Car
u
est un multiple de Min
u
.
1.3. Isomorphismes
Si u End(V), le noyau Ker(u) = v V, u(v) = 0 et limage Im(u) = v V, v
t

V, u(v
t
) = v de u sont des sous-espaces vectoriels de V, et
det u ,= 0 Ker(u) = 0 u est injectif u est bijectif u est surjectif Im(u) = V.
Un automorphisme de V est un lment de End(V) vriant les conditions ci-dessus. On
note GL(V) End(V) lensemble des automorphismes de V; cest un groupe pour la loi
multip