Complments de thorie spectrale et

danalyse harmonique
Frdric Paulin
Version prliminaire
Cours de deuxime anne de magistre
Anne 2011-2012
1
Table des matires
1 Thorie spectrale des oprateurs borns des espaces de Hilbert 4
1.1 Rappels de terminologie sur les espaces vectoriels norms . . . . . . . . . . . 4
Espaces vectoriels norms et applications linaires continues . . . . . . . . 4
Dualit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6
Application multilinaires continues . . . . . . . . . . . . . . . . . . . . . 9
Espaces vectoriels norms de dimension nie . . . . . . . . . . . . . . . . 10
1.2 Rappels sur les espaces de Hilbert . . . . . . . . . . . . . . . . . . . . . . . . 10
Produits scalaires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
Projection sur un convexe ferm . . . . . . . . . . . . . . . . . . . . . . . 14
Dual dun espace de Hilbert . . . . . . . . . . . . . . . . . . . . . . . . . . 16
Thormes de Lax-Milgram et de Stampacchia . . . . . . . . . . . . . . . 17
Bases hilbertiennes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18
Convergence faible dans les espaces de Hilbert . . . . . . . . . . . . . . . 21
1.3 Spectre des oprateurs continus . . . . . . . . . . . . . . . . . . . . . . . . . 23
1.4 Oprateurs compacts. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32
1.5 Oprateurs auto-adjoints . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38
Adjoint dun oprateur continu . . . . . . . . . . . . . . . . . . . . . . . . 38
Proprits lmentaires des oprateurs auto-adjoints . . . . . . . . . . . . 40
Dcomposition spectrale des oprateurs auto-adjoints compacts . . . . . . 45
1.6 Calcul fonctionnel continu . . . . . . . . . . . . . . . . . . . . . . . . . . . . 46
Algbres stellaires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 47
Calcul fonctionnel continu . . . . . . . . . . . . . . . . . . . . . . . . . . . 49
Spectre essentiel dun oprateur auto-adjoint . . . . . . . . . . . . . . . . 53
1.7 Rsolution spectrale des oprateurs auto-adjoints . . . . . . . . . . . . . . . 55
Rsolutions de lidentit . . . . . . . . . . . . . . . . . . . . . . . . . . . . 55
Rsolutions spectrales et calcul fonctionnel born . . . . . . . . . . . . . . 57
Mesures spectrales . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61
1.8 Exercices rcapitulatifs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 62
2 Quelques aspects des fonctions harmoniques 63
2.1 Lespace vectoriel des fonctions harmoniques planes . . . . . . . . . . . . . . 63
2.2 Noyau et intgrale de Poisson sur le cercle . . . . . . . . . . . . . . . . . . . 64
La mesure de Lebesgue du cercle unit . . . . . . . . . . . . . . . . . . . . 64
Le noyau de Poisson . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 65
Lintgrale de Poisson . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 66
Analycit des applications harmoniques . . . . . . . . . . . . . . . . . . . 70
Proprit de la valeur moyenne et principe du maximum . . . . . . . . . . 70
Ingalits de Harnack et thorme de Harnack . . . . . . . . . . . . . . . 72
2.3 Introduction la thorie du potentiel dans le plan . . . . . . . . . . . . . . 74
Problme de Dirichlet sur les domaines de Jordan . . . . . . . . . . . . . 74
Fonctions harmoniques positives et frontire de Martin . . . . . . . . . . . 78
Fonctions harmoniques bornes et frontire de Poisson . . . . . . . . . . . 80
2.4 Spectre du laplacien des ouverts borns de R
m
. . . . . . . . . . . . . . . . 81
Les espaces de Sobolev W
1,2
() et W
1,2
0
() . . . . . . . . . . . . . . . . . 81
Loprateur de Green . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 86
2
Dcomposition spectrale du laplacien . . . . . . . . . . . . . . . . . . . . . 89
2.5 Introduction lanalyse harmonique des sphres . . . . . . . . . . . . . . . . 90
Mesure de Lebesgue des sphres . . . . . . . . . . . . . . . . . . . . . . . 90
Loprateur laplacien sphrique . . . . . . . . . . . . . . . . . . . . . . . . 92
Dcomposition spectrale du laplacien sphrique . . . . . . . . . . . . . . . 93
Introduction aux polynmes sphriques . . . . . . . . . . . . . . . . . . . 97
Annexes 104
A Dmonstrations des rappels sur les espaces de Hilbert 104
Dmonstration de la proposition 1.9 (ingalit de Cauchy-Schwarz) . . . . 104
Dmonstration du thorme 1.10 (compltion dun espace prhilbertien) . 104
Dmonstration du thorme 1.11 (projection sur un convexe ferm) . . . . 106
Dmonstration du thorme de dualit de Riesz-Frchet 1.13 . . . . . . . 107
Dmonstration des thormes de Lax-Milgram 1.15 et de Stampachia 1.16 108
Dmonstration du thorme 1.17 (galit de Parseval) . . . . . . . . . . . 109
Dmonstration du thorme 1.21 de compacit faible de la boule unit
ferme des espaces de Hilbert . . . . . . . . . . . . . . . . . . . . . . 110
B Rappels sur les fonctions holomorphes 112
Dnitions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 112
Applications analytiques relles . . . . . . . . . . . . . . . . . . . . . . . . 112
Quelques proprits des fonctions holomorphes . . . . . . . . . . . . . . . 113
Index 115
Bibliographie 118
3
1 Thorie spectrale des oprateurs borns des espaces de Hil-
bert
Les rfrences globales recommandes pour ce chapitre sont [Rud2, Hal, Lev].
1.1 Rappels de terminologie sur les espaces vectoriels norms
Nous renvoyons [Dix, Die1] pour les dmontrations non rappeles dans cette partie.
Nous conseillons au lecteur lusage de lindex nal pour retrouver facilement quel endroit
une notion a t dnie.
Espaces vectoriels norms et applications linaires continues.
Soit K = R ou K = C. Toutes les algbres seront des algbres sur K unifres (cest--dire
munies dune unit (lment neutre pour la multipication) note 1 ou id) et les morphismes
dalgbres prservent les units. Si E est un espace vectoriel norm sur K, nous appelerons
parfois topologie forte sur E la topologie induite par la norme de E (ceci pour la distinguer
dventuelles autres topologies plus faibles qui peuvent tre introduites sur E). Sauf
mention explicite du contraire, tout espace vectoriel norm rel ou complexe sera muni de
sa topologie forte.
Exemple. Si X est un espace mtrique compact non vide, notons C(X; K) lespace
vectoriel sur K des applications continues de X dans K, muni de la norme uniforme
|f|

= sup
xX
[f(x)[ = max
xX
[f(x)[ .
Cest un espace de Banach
1
et sa topologie forte est aussi appele la topologie de la conver-
gence uniforme. Rappelons le rsultat de densit suivant (voir par exemple [Die1]).
Thorme 1.1 (Thorme de Stone
1
-Weierstrass
1
) Soit X un espace mtrique non
vide compact. Toute sous-algbre sparante
2
et invariante par conjugaison complexe de lal-
gbre C(X; C) des applications continues de X dans C est dense pour la norme uniforme.

Soient E et F deux espaces vectoriels norms sur K. Si f : E F est une application

linaire, rappelons que la norme doprateur de f est
|f| = sup
xE{0}
|f(x)|
|x|
= sup
xE, x1
|f(x)| = sup
xE, x=1
|f(x)| .
1
Hilbert Banach Stone Weierstrass
(1892-1945) (1862-1943) (1903-1989) (1815-1897)
2
Un ensemble A dapplications dun ensemble E dans C est sparant si pour tous x = y dans E, il
existe f A telle que f(x) = f(y).
4
Rappelons que f est continue si et seulement si sa norme doprateur |f| est nie, et que
lespace vectoriel sur K des applications linaires continues de E dans F, muni de la norme
doprateur, est un espace vectoriel norm, not L(E, F). Rappelons de plus que si F est
un espace de Banach, alors L(E, F) lest aussi. Un oprateur (linaire) continu de E dans
F est un lment de L(E, F), et un oprateur (linaire) continu de E est un lment de
L(E) = L(E, E).
Une algbre norme sur K est une algbre A sur K munie dune norme, telle que
|uv| |u| |v|
pour tous u, v dans A. Une algbre de Banach sur K est une algbre norme complte sur
K. Par exemple, si E est un espace vectoriel norm sur K, alors lespace vectoriel norm
L(E) muni de la composition des applications est une algbre norme sur K, qui est une
algbre de Banach si E est un espace de Banach. Cette proprit de la norme doprateur
est cruciale, mme en dimension nie, o il existe de trs nombreuses normes intressantes
sur les oprateurs linaires (ou leurs matrices dans une base donne), mais qui ne vrient
pas toutes cette proprit (voir par exemple [Cia]).
Proposition 1.2 (1) Soient E un espace de Banach sur K et (x
n
)
nN
une suite dans
E. Si la srie

nN
x
n
est normalement convergente (cest--dire si la suite relle

nN
|x
n
| converge), alors la srie

nN
x
n
converge dans E, et

nN
x
n

nN
|x
n
| .
(2) Soient A une algbre de Banach et x A. Si |x| < 1, alors llment 1 x de A est
inversible, dinverse

nN
x
n
.
(3) Soient A une algbre de Banach, et A

lensemble des lments inversibles de A.

Alors A

est un ouvert de A, et lapplication x x

1
de A

dans A

est continue.
(4) Soient A une algbre de Banach, et (x
n
)
nN
une suite dans A

qui converge vers

x / A

. Alors |x
1
n
| converge vers + quand n +.
En particulier, soient E et F deux espaces de Banach sur K. Si u L(E) vrie
|u| < 1, alors par lassertion (2) applique lalgbre de Banach L(E), lapplication
linaire id u est bijective, dinverse

nN
u
n
continu. Soit GL(E, F) lensemble des iso-
morphismes linaires, continus et dinverses continus, de E dans F (mais pas ncessairement
isomtriques). Alors GL(E, F) est un ouvert de L(E, F), et lapplication u u
1
de
GL(E, F) dans GL(F, E) est continue. En eet, ceci dcoule de lassertion (3) applique
A = L(F) car pour tout u
0
GL(F, E) lapplication de GL(F, E) dans GL(F, F)
dnie par u u u
1
0
est un homomorphisme et u
1
= u
1
0

_
u u
1
0
_
1
.
Dmonstration. (1) La convergence normale de

nN
x
n
implique que la suite des t
n
=

n
k=0
|x
k
| est convergente, donc de Cauchy
3
dans R. La suite des y
n
=

n
k=0
x
k
est donc
de Cauchy dans E, car
|y
n+p
y
n
| =

i=1
x
n+i

i=1
|x
n+i
| = [t
n+p
t
n
[ .
Donc la suite des y
n
est convergente par compltude de E.
5
(2) La srie

u
k
dans lespace de Banach A est normalement convergente, car |u
k
|
|u|
k
, donc converge vers v A. Comme u v = v u = v 1 par passsage la limite,
llment v est linverse de 1 u.
(3) Soient x
0
A

et x A tels que |x x
0
| <
1
x
1
0

. Posons y = 1 x
1
0
x. Alors
|y| |x
1
0
| |x x
0
| < 1 , ()
donc 1 y = x
1
0
x est inversible par (2), donc x est inversible, ce qui montre que A

contient une boule ouverte centre en chacun de ses points. De plus,

|x
1
x
1
0
| |(1 y)
1
1| |x
1
0
| =
_
_
_
+

n=1
y
n
_
_
_ |x
1
0
| |y|
|x
1
0
|
1 |y|
,
qui tend vers 0 quand x tend vers x
0
, car alors |y| tend vers 0 par (*). La continuit en
tout point de A

de x x
1
en dcoule.
(4) Supposons, quitte extraire, que la suite (|x
1
n
|)
nN
soit borne. Posons z
n
=
1 x
1
n
x. Alors la suite des |z
n
|
_
_
x
1
n
||x
n
x| converge vers 0, donc la norme de z
n
est strictement infrieure 1 si n est assez grand. Pour un tel n, llment 1 z
n
est donc
inversible, par lassertion (2). Do x est inversible.
Dualit.
Rappelons que le dual topologique dun espace vectoriel norm E sur K est lespace
vectoriel sur K des formes linaires continues de E dans K, norm par la norme doprateur,
appele dans ce cas la norme duale
|| = sup
xE{0}
[(x)[
|x|
= sup
x1
[(x)[ = sup
x=1
[(x)[ .
Cet espace vectoriel norm est not E

(ou parfois E

), et cest un espace de Banach (car

E

= L(E, K) et K est complet). Le dual topologique du dual topologique de E est appel

le bidual topologique de E, et not E

(ou parfois E

).
Nous admettrons ici la consquence suivante du thorme de Hahn-Banach (voir par
exemple [Bre]).
Proposition 1.3 Soient E un espace vectoriel norm sur K, et x E. Alors
|x| = sup
E

, 1
[(x)[ = max
E

, 1
[(x)[ .
Corollaire 1.4 Soit E un espace vectoriel norm sur K. Lapplication de E dans E

dnie par
x ev
x
: (x)
est une application linaire isomtrique. Si E est un espace de Banach, alors son image est
ferme.
6
En dimension nie, par un argument dgalit de dimensions, cette application est un
isomorphisme. Mais ceci nest pas vrai en gnral.
Dmonstration. Pour tout x dans E, lapplication ev
x
: E

K est clairement une forme

linaire sur E

, de norme au plus |x| par la dnition de la norme duale (ce qui montre
quelle est continue), et en fait exactement gale |x| par la proposition prcdente.
Lapplication x ev
x
de E dans E

est clairement linaire, et isomtrique par ce qui

prcde. Son image est donc complte dans E

si E lest. Par consquent, elle est ferme

si E est un espace de Banach.
Si u L(E, F), alors lapplication
t
u : F

(aussi note u

: F

, voire u

)
dnie par, pour tout F

,
t
u() : x (u(x)) ,
est une application linaire continue, appele ladjoint de u.
Pour expliquer la notation
t
u, considrons E et F des espaces vectoriels de dimension
nie, (e
i
)
1im
une base de E et (f
j
)
1jn
une base de F. Notons (e

i
)
1im
la base duale
de (e
i
) (pour tout i = 1, . . . , m, la forme linaire e

i
est lunique forme linaire telle que
e

i
(e
k
) =
i,k
pour tout k = 1, . . . , m, o
i,k
est le symbole de Kronecker
3
, valant 1 si i = k,
et 0 sinon). Lexplication de la notation vient du fait que si u L(E, F) a pour matrice
M dans les bases (e
i
) et (f
j
), alors
t
u L(F

, E

) a pour matrice, dans les bases duales

(f

j
)
1jn
et (e

i
)
1im
, prcisment la matrice
t
M transpose de M.
Lapplication linaire u
t
u de L(E, F) dans L(F

, E

) est isomtrique
u L(E, F), |u| = |
t
u| . (1)
En eet, par la proposition 1.3, nous avons
|u| = sup
xE, x1
|u(x)| = sup
xE, x1
_
sup
F

, 1
[ u(x)[
_
= sup
F

, 1
_
sup
xE, x1
[
t
u()(x)[
_
= sup
F

, 1
|
t
u()| = |
t
u| .
Ladjoint de ladjoint de u concide avec u sur le plongement canonique de E dans son
bidual topologique E

, au sens suivant : pour tout x dans E,

t
(
t
u)(ev
x
) = ev
u(x)
. (2)
En eet, pour tout F

, nous avons
t
(
t
u)(ev
x
)() = ev
x
(
t
u()) = ev
x
( u) = (u(x)) = ev
u(x)
() .
Rappelons les deux exemples fondamentaux de calculs despace duaux. Nous renvoyons
[Rud1, Coh] pour les notions ncessaires de thorie de la mesure et dintgration. En
particulier, une mesure est -nie si lespace est runion dnombrable de parties mesurables
de mesures nies.
Exemples 1. Lune des familles les plus importantes dexemples despaces de Banach en
analyse est la suivante.
Soient (X, A , ) un espace mesur et p [1, +]. On note q, et on appelle exposant
conjugu de p, llment de [1, +] tel que
1
p
+
1
q
= 1 .
7
Notons que si p = 1, alors q = + et si p = +, alors q = 1.
Si p < +, notons L
p
(X, A , ) (ou L
p
() si (X, A ) est sous-entendu) lespace des
classes dquivalences dapplications f de X dans K, mesurables pour A, telles que [f[
p
soit intgrable, modulo la relation dquivalence f g si f g est presque partout nulle.
On pose alors, pour tout f dans L
p
(X, A , ),
|f|
p
=
_
_
xX
[f(x)[
p
d(x)
_
1/p
.
Si p = + et si est -nie, notons L

(X, A , ) (ou L

() si (X, A ) est sous-

entendu) lespace des classes dquivalences dapplications f de X dans K, mesurables
pour A, nies en dehors dun ensemble de mesure nulle, modulo la relation dquivalence
f g si f g est presque partout nulle. Pour tout f dans L

(X, A , ), on dnit alors

la norme essentielle de f par
|f|

= inf
_
M 0 : (x X : [f(x)[ > M) = 0
_
.
Notons T : L
q
(X, A , ) L
p
(X, A , )

lapplication dnie par

f
_
g
_
xX
f(x)g(x) d(x)
_
.
Le fait que cette application soit bien dnie est contenu dans le rsultat suivant.
Thorme 1.5 Soient (X, A , ) un espace mesur et p [1, +].
Alors L
p
(X, A , ) est un espace de Banach pour la norme | |
p
.
Si p < +, en supposant que soit -nie si p = 1, alors T : L
q
(X, A , )
L
p
(X, A , )

est un isomorphisme linaire qui est une isomtrie entre la norme | |

q
et la norme duale de la norme | |
p
.
Si est -nie, lapplication T : L
1
(X, A , ) L

(X, A, )

est une application

linaire isomtrique, en gnral non surjective.
Si p < +, si est -nie, si la tribu (-algbre) A est engendre par une partie
dnombrable, alors L
p
(X, A , ) est sparable.
Dans la suite de ces notes, pour tout p [1, +[, on identiera L
p
(X, A , )

avec
L
q
(X, A , ) par lisomtrie linaire T
1
, o q est lexposant conjugu de p, et en particulier
L
1
(X, A , )

avec L

(X, A , ).
Exemples 2. Soient X un espace mtrique compact et A la tribu (-algbre) des borliens
de X. Rappelons quune mesure complexe sur X est une application : A C qui
est -additive (cest--dire telle que (

iN
A
i
) =

iN
(A
i
) pour toute suite (A
i
)
iN
dlments deux deux disjoints de A), telle que () = 0. Rapelons que [[ : A [0, +[
est alors la mesure (borlienne positive) dnie en demandant que [[(A), pour tout A A,
soit la borne suprieure des

n
i=1
[(A
i
)[ sur les partitions (A
i
)
1in
de X par lments de
A. Notons M
C
(X) lespace vectoriel complexe des mesures complexes sur X de variation
totale
|| = [[(X)
nie. Voir par exemple [Coh, page 220] pour une dmonstration du thorme suivant.
8
Thorme 1.6 (Thorme de reprsentation de Riesz)
3
Lespace vectoriel com-
plexe C(X; C) des fonctions continues de X dans C muni de la norme
|f|

= max
xX
[f(x)[ ,
ainsi que lespace vectoriel complexe M
C
(X) muni de la variation totale | |, sont des
espaces de Banach. Lapplication de M
C
(X) dans C(X; C)

dnie par

_
f (f) =
_
xX
f(x) d(x)
_
est un isomorphisme linaire isomtrique pour la norme de la variation totale sur M
C
(X)
et la norme duale sur C(X; C)

.
En particulier, pour toute forme linaire continue sur C(X; C), il existe une et une
seule mesure complexe =

telle que
_
X
f d = (f) pour tout f C(X; C).
Applications multilinaires continues.
Soient E, F, G trois espaces vectoriels norms, tous trois rels ou tous trois complexes,
et f : E F G une application bilinaire. Posons
|f| = sup
xE{0},yF{0}
|f(x, y)|
|x| |y|
= sup
x1,y1
|f(x, y)| = sup
x=1,y=1
|f(x, y)| .
Rappelons que f est continue si et seulement si |f| est nie, et que f |f| est une
norme sur lespace vectoriel (rel ou complexe) des applications bilinaires continues de E
dans F. Cet espace vectoriel norm est not L(E, F; G), et cest un espace de Banach si
G lest.
La dmonstration de la premire armation est la suivante. Si f est continue, donc
continue en (0, 0) avec f(0, 0) = 0, alors il existe > 0 tel que si |x| et |y| , alors
|f(x, y)| 1 ; puisque
|f(x, y)| =
|x| |y|

f
_
x
|x|
,
y
|y|
_

,
nous avons donc |f|
1

2
. Rciproquement, si c = |f| est nie, alors
|f(x, y) f(x
0
, y
0
)| = |f(x x
0
, y) +f(x
0
, y y
0
)|
c |x x
0
| |y| +c |x
0
| |y y
0
| ,
qui tend vers 0 lorsque x tend vers x
0
et y tend vers y
0
(car y reste alors dans une partie
borne).
3
Cauchy Riesz Kronecker Schwarz
(1880-1956) (1789-1857) (1823-1891) (1843-1921)
9
Plus gnralement, pour tout n N 0, si E
1
, . . . , E
n
, F sont des espaces vecto-
riels norms, tous rels ou tous complexes, on dnit de manire similaire la norme dune
application n-linaire f de E
1
E
n
dans F
|f| = sup
x
i
E
i
{0}
|f(x
1
, . . . , x
n
)|
|x
1
| . . . |x
n
|
= sup
x
i
1
|f(x
1
, . . . , x
n
)| = sup
x
i
=1
|f(x
1
, . . . , x
n
)| ,
(qui est nie si et seulement si f est continue), et lespace vectoriel norm L(E
1
, . . . , E
n
; F)
des applications n-linaires continues de E
1
E
n
dans F (qui est un espace de Banach
si F lest).
Espaces vectoriels norms de dimension nie.
Nous concluons ces rappels par le rsultat suivant (voir par exemple [Dix] pour une
dmonstration), qui rend les espaces vectoriels norms de dimension nie beaucoup plus
faciles manipuler que ceux, pourtant omniprsents, de dimension innie !
Thorme 1.7 (Thorme de Riesz) Soit E un espace vectoriel norm rel ou com-
plexe. Les conditions suivantes sont quivalentes.
(1) E est localement compact ;
(2) la boule unit ferme de E est compacte ;
(3) les compacts de E sont les ferms borns de E ;
(4) E est de dimension nie.
Nous aurons besoin de la consquence suivante du thorme de Riesz plus loin.
Corollaire 1.8 Soit E un espace vectoriel norm rel ou complexe. Si F est un sous-espace
vectoriel de dimension nie, alors F est ferm dans E.
Dmonstration. Soit (x
n
)
nN
une suite dans F convergeant vers x E. En particulier,
(x
n
)
nN
est une suite borne dans lespace vectoriel F muni de la restriction de la norme
de E. Par le thorme de Riesz, les compacts de F tant ses ferms borns, la suite des
(x
n
)
nN
admet une sous-suite convergente vers un lement y dans F, donc dans E, puisque
la norme de F est la restriction de la norme de E. Par unicit des limites dans lespace
mtrique E, nous avons x = y. Donc x appartient F, ce qui montre le rsultat.
1.2 Rappels sur les espaces de Hilbert
Nous renvoyons lappendice pour des dmonstrations des rsultats non dmontrs
ci-dessous.
Produits scalaires.
Soit H un espace vectoriel complexe.
Un produit scalaire sur H est une forme sesquilinaire, hermitienne, dnie positive
sur H , cest--dire une application B : H H C telle que
(1) [linarit gauche]
x, x

, y H , C, B(x +x

, y) = B(x, y) +B(x

, y) ,
10
(2) [semi-linarit droite]
x, y, y

H , C, B(x, y +y

) = B(x, y) +B(x, y

) ,
(3) [hermitienne]
x, y H , B(y, x) = B(x, y) ,
(4) [dnie positive]
x H , B(x, x) 0 ,
et B(x, x) = 0 si et seulement si x = 0.
Remarquons que les proprits (1) et (3) impliquent la proprit (2), et donc quil
ntait pas ncessaire dinclure celle-ci dans la dnition. Une application B : H H C
vriant les proprits (1) et (2) est appele une forme sesquilinaire.
Nous noterons
B(x, y) = x, y) = x, y)
H
,
ce dernier lorsque lon veut prciser H . Lapplication de H dans R dnie par x |x| =
_
x, x) est appele la norme associe au produit scalaire , ) (voir la proposition 1.9 pour
la justication de la terminologie), et note x |x|
H
lorsquon veut prciser H .
Deux lments x et y de H sont dit orthogonaux (pour le produit scalaire considr) si
x, y) = 0, et on note alors parfois x y. La relation tre orthogonal est symtrique.
Soient E et F deux sous-espaces vectoriels de H ; on dit que E et F sont orthogonaux si
tout lment de E est orthogonal tout lment de F. Si E est un sous-espace vectoriel
de H , on appelle orthogonal de E le sous-espace vectoriel
E

= x H : y E, x, y) = 0
des lments de H orthogonaux tout lment de E.
Formulaire. Soient x et y dans H . La norme associe un produit scalaire vrie, par
les caractres sesquilinaire et hermitien,
|x +y|
2
= |x|
2
+|y|
2
+ 2 Re x, y) .
En particulier, elle vrie lidentit de Pythagore : si x et y sont orthogonaux, alors
|x +y|
2
= |x|
2
+|y|
2
,
et par rcurrence, si x
1
, . . . , x
n
H sont deux deux orthogonaux, alors
|x
1
+ +x
n
|
2
= |x
1
|
2
+ +|x
n
|
2
.
Elle vrie lidentit de la mdiane :

x +y
2

2
+

x y
2

2
=
1
2
_
|x|
2
+|y|
2
_
,
ainsi que
|x +y|
2
|x y|
2
= 4 Re x, y) .
La proposition suivante a dj t dmontre lanne dernire.
11
Proposition 1.9 Soit , ) un produit scalaire sur H . Sa norme associe est une norme
sur H . Elle vrie lingalit de Cauchy-Schwarz
3
x, y H , [ x, y) [ |x| |y| ,
Par CauchySchwarz !!
Par Toutatis?
avec galit si et seulement si x et y sont colinaires.
En particulier, pour tous x, y dans H , il dcoule de lingalit de Cauchy-Schwarz et
en considrant y = x/|x| si x ,= 0 que
|x| = sup
y=1
x, y) .
De plus, lingalit de Cauchy-Schwartz montre que le produit scalaire, en tant quappli-
cation de H H dans C, est continu lorsque H est muni de la norme associe son
produit scalaire, car pour tous x, y, x
0
, y
0
dans H , on a
[x, y) x
0
, y
0
)[ = [x x
0
, y) +x
0
, y y
0
)[ |x x
0
| |y| +|x
0
| |y y
0
| .
En particulier, lorthogonal dun sous-espace vectoriel est ferm, en tant quintersection de
ferms.
Une norme prhilbertienne sur H est une norme associe un produit scalaire sur H .
Elle dtermine le produit scalaire, par la premire formule du formulaire ci-dessus, et la
relation Im x, y) = Re x, i y). Un espace prhilbertien (complexe) est un espace vectoriel
complexe muni dun produit scalaire.
Deux espaces prhilbertiens H
1
et H
2
sont isomorphes sil existe un isomorphisme
linaire : H
1
H
2
prservant les produits scalaires, cest--dire tel que
x, y H
1
, (x), (y))
H
2
= x, y)
H
1
.
Puisque quune norme prhilbertienne dtermine son produit scalaire, il est quivalent de
demander quun isomorphisme linaire : H
1
H
2
prserve les produits scalaires ou
quil prserve les normes associes, cest--dire que
x H
1
, |(x)|
H
2
= |x|
H
1
,
ou quil est isomtrique, cest--dire quil prserve les distances associes aux normes, au
sens que
x, y H
1
, |(x) (y)|
H
2
= |x y|
H
1
,
Si H est un espace prhilbertien, on note U(H ) le groupe des automorphismes uni-
taires de H , cest--dire des isomorphismes linaires de H dans H prservant le produit
scalaire.
12
Une norme hilbertienne est une norme prhilbertienne complte. Un espace de Hilbert
1
(complexe) est un espace prhilbertien complet (pour la norme associe).
En particulier, muni de sa norme hilbertienne, cest un espace de Banach. Mais la
classe des espaces de Hilbert est une classe trs particulire despaces de Banach, et lon
se gardera bien de gnraliser les proprits des premiers aux seconds.
Rappelons quelques exemples cruciaux, avant dnoncer le reste des proprits dont
nous aurons besoin. Rappelons quun espace mtrique est sparable sil admet une partie
dnombrable dense.
Exemples. (1) Pour tout n N, lespace vectoriel complexe C
n
muni du produit scalaire,
dit hermitien standard,
x, y) =
n

i=1
x
i
y
i
o x = (x
1
, . . . , x
n
) et y = (y
1
, . . . , y
n
), est un espace de Hilbert (complexe) de dimension
nie n, donc est sparable (lensemble dnombrable des lments de C
n
coordonnes dans
Q[i] est dense).
(2) Plus gnralement, si n N0, si H
1
, . . . , H
n
sont des espaces de Hilbert, alors
lespace vectoriel produit H
1
H
n
, muni du produit scalaire
x, y) =
n

i=1
x
i
, y
i
)
H
i
o x = (x
1
, . . . , x
n
) et y = (y
1
, . . . , y
n
), est un espace de Hilbert (complexe), qui est
sparable si H
1
, . . . , H
n
sont sparables (lensemble des lments de H
1
H
n
dont
le i-me coordonne appartient une partie dnombrable dense xe de H
i
, pour tout
i = 1, . . . , n, est dnombrable et dense).
(3) Soit (X, A , ) un espace mesur non vide (voir par exemple [Rud1, Coh]). Rappe-
lons que L
2
(X, A , ) est lespace vectoriel complexe des classes dquivalences dapplica-
tions f de lensemble X dans C, mesurables pour la tribu (-algbre) A, telles que [f[
2
soit intgrable, modulo la relation dquivalence f g si f g est presque partout nulle.
On pose, pour tout f dans L
2
(X, A , ),
|f|
2
=
_
_
xX
[f(x)[
2
d(x)
_
1/2
.
Alors lespace vectoriel complexe L
2
(X, A , ), muni du produit scalaire
f, g) =
_
xX
f(x) g(x) d(x) ,
est un espace de Hilbert (complexe), de norme associe | |
2
, qui est sparable si est
-nie et si la tribu A est engendre par une partie dnombrable (voir [Coh, page 110]).
En particulier, pour tout r N 0 et tout ouvert non vide de R
r
, lespace L
2
()
(pour la mesure de Lebegue dx sur ), muni du produit scalaire
f, g) =
_
x
f(x) g(x) dx
13
est un espace de Hilbert sparable (car =

nN
B(0, n), la mesure de Lebesgue de la
boule B(0, n) de centre 0 et de rayon n est nie, et le tribu des borliens de est engendre
par les intersections avec des cubes rationnels

n
i=1
[a
i
, b
i
] avec a
i
et b
i
coordonnes
rationelles). Par exemple, pour tout a > 0,
U
a
: u
_
x
1
a
r/2
u
_
x
a
_
_
est un automorphisme unitaire de L
2
(R
r
).
(4) Soit (H
n
)
nN
une suite despaces de Hilbert complexes. Soit H lensemble des
suites (x
n
)
nN


nN
H
n
, dont la suite des carrs des normes est sommable, cest--dire
telles que la srie

nN
|x
n
|
2
converge. Alors il est facile de vrier que H est un sous-
espace vectoriel de lespace vectoriel produit

nN
H
n
, puisque |x
n
|
2
= [[
2
|x
n
|
2
et
|x
n
+y
n
|
2
2
_
|x
n
|
2
+|y
n
|
2
_
. Par lingalit de Cauchy-Schwarz, pour tous x
n
, y
n
dans
H
n
,
[x
n
, y
n
)[ |x
n
| |y
n
|
1
2
_
|x
n
|
2
+|y
n
|
2
_
.
Donc si
(x
n
)
nN
, (y
n
)
nN
)
H
=

nN
x
n
, y
n
)
Hn
,
alors cette srie converge absolument, et lexercice ci-dessous dit en particulier que , )
H
est un produit scalaire sur H .
Si H
n
= H
0
pour tout n N, alors H muni de ce produit scalaire est not
2
(H
0
).
Exercice E.1 Montrer que H est un espace de Hilbert. Montrer que si H
n
est sparable
pour tout n N, alors H est encore sparable.
(5) Il existe une manire canonique de plonger un espace prhilbertien dans un espace
hilbertien.
Thorme 1.10 Soit H un espace prhilbertien. Il existe un espace de Hilbert

H et une
application linaire isomtrique i : H

H dimage dense. Si

H

est un autre espace de

Hilbert muni dune application linaire isomtrique i

: H

H

dimage dense, alors il

existe un unique isomorphisme linaire prservant les produits scalaires j :

H

H

tel
que j i = i

.
Tout tel couple (i,

H ) (et par abus

H ) est appel un complt de H . On identie H
avec son image dans

H par i.
On identie deux complts de H par lunique tel isomorphisme j, ce qui permet de
parler du complt de H . On note souvent par le mme symbole la norme et le produit
scalaire de H et ceux de son complt

H .
Projection sur un convexe ferm.
Pour tout 0, rappelons quune application f : X Y entre deux espaces m-
triques est -lipschitzienne si pour tous x, y dans X, nous avons d
_
f(x), f(y)
_
d(x, y).
Rappelons que si X est un espace mtrique, et C une partie non vide de X, la distance
dun point x X la partie C est dnie par
d(x, C) = inf
yC
d(x, y) .
14
Thorme 1.11 Soient H un espace de Hilbert complexe et C un convexe ferm non vide
de H . Alors pour tout x H , il existe un unique y = p
C
(x) dans C tel que
|x y| = min
zC
|x z| .
De plus, lapplication p
C
: H C est 1-lipschitzienne, et p
C
(x) est lunique lment y de
H tel que
y C et z C, Re x y, z y) 0 .
Si C est un sous-espace vectoriel ferm de H , alors p
C
est linaire, et p
C
(x) est lunique
lment y de C tel que x y soit orthogonal tout lment de C.
On appelle y = p
C
(x) la projection (orthogonale ou
hilbertienne) de x sur C, qui est donc lunique point de
C tel que
d(x, y) = d(x, C) .
Pour tout z C, langle en y des vecteurs xy et zy est
obtu.
d(x, C)
x
y
z
C
Lexistence et lunicit des projections sont des proprits cruciales des espaces de
Hilbert. Par exemple dans lespace de Banach R
2
muni de la norme
|(x, y)|

= max[x[, [y[ ,
une projection dun point x sur un convexe ferm non vide C existe certes par un argument
de compacit d la dimension nie, mais elle nest pas forcment unique. Plus prcisment,
le sous-espace C des points (x, y) R
2
tels que y = 1 est un sous-espace ane (en
dimension nie), donc convexe ferm non vide. Lensemble des projections de x = (0, 0)
sur C (cest--dire des points de C minimisant la distance x) est exactement le segment
[1, 1] 1.
x
C
(R
2
, [[ [[

)
0
y
S(0, 1)
Corollaire 1.12 Soient H un espace de Hilbert complexe, et E un sous-espace vectoriel
de H .
(1) Si E est ferm, alors E

est un supplmentaire ferm de E :

H = E E

.
(2) Le sous-espace E est dense dans H si et seulement si E

= 0.
15
La premire proprit est spcique aux espaces de Hilbert. En fait, tout espace de
Banach qui nadmet pas disomorphisme linaire continu valeurs dans un espace de
Hilbert contient un sous-espace vectoriel ferm nadmettant pas de supplmentaire ferm
(voir [LT1]).
Dmonstration. (1) Nous avons dj vu que E

est ferm. Montrons que cest un sup-

plmentaire de E. Puisque le produit scalaire de H est dni positif, E E

= 0. De
plus, si p
E
est la projection orthogonale sur E (qui existe parce que E est suppos ferm),
alors pour tout x dans H , x = p
E
(x) + (x p
E
(x)) et x p
E
(x) E

par la dernire
assertion du thorme 1.11, donc H = E +E

.
(2) Par continuit du produit scalaire, E

= E

, et le rsultat dcoule alors de (1).

Exercice E.2 Soit E un sous-espace vectoriel dun espace de Hilbert complexe H . Mon-
trer que E
_
E

, et que
_
E

= E si et seulement si E est ferm.

Dual dun espace de Hilbert.
Si E est un espace vectoriel complexe, notons E, et appelons espace vectoriel conjugu
de E, lespace vectoriel E o la multiplication par un scalaire est remplace par
(, x) x .
Remarquons que toute norme de E est une norme de E et rciproquement, et que tout sous-
espace vectoriel de E est un sous-espace vectoriel de E et rciproquement. Une forme ses-
quilinaire a : H H C est une forme bilinaire a : H H C. En particulier, comme
rappel dans la partie 1.1, elle est continue si et seulement si |a| = sup
x,yH{0}
|a(x,y)|
xy
est ni.
Le rsultat suivant dit que le dual topologique dun espace de Hilbert complexe est
son espace vectoriel norm conjugu. Il est facile de vrier que lapplication de H

dans
(H )

qui la forme linaire sur H associe la forme linaire : x (x) sur H est bien
dnie et un isomorphisme linaire de lespace vectoriel conjugu du dual H

dans lespace
vectoriel dual du conjugu (H )

, par lequel ces deux espaces vectoriels sont identis.

Thorme 1.13 (Thorme de Riesz-Frchet
4
) Soient H un espace de Hilbert com-
plexe, et H

le dual topologique de son conjugu. Lapplication H H

dnie par
x y x, y) est un isomorphisme linaire et une isomtrie entre la norme de H et
la norme duale de H

.
Voici un corollaire du thorme 1.13 de Riesz-Frchet.
4
Lax Stampacchia Frchet
(1878-1973) (1926- ) (1922-1970)
Fourier
(1768-1830)
16
Corollaire 1.14 Soient H un espace de Hilbert complexe, et a : H H C une forme
sesquilinaire continue. Alors il existe un unique u L(H ) tel que
x, y H , u(x), y) = a(x, y) .
Si de plus a est hermitienne, alors u est auto-adjoint, cest--dire
x, y H , u(x), y) = x, u(y)) .
Dmonstration. Pour tout x dans H , lapplication y a(x, y) de H dans C est linaire
continue. Donc par le thorme 1.13 de Riesz-Frchet, il existe un unique lment u(x) H
tel que u(x), y) = a(x, y) pour tout y dans H . Par unicit et linarit gauche de a,
lapplication u est linaire. Comme |u(x)|
2
= a(x, u(x)) |a| |x| |u(x)|, lapplication
linaire u est continue.
La dernire armation dcoule de ce que, pour tous les x et y dans H ,
u(x), y) = a(x, y) = a(y, x) = u(y), x) = x, u(y)) .
Thormes de Lax
4
-Milgram et de Stampacchia
4
.
Soient H un espace de Hilbert complexe et f : H H C une forme sesquilinaire.
Comme vu ci-dessus, f est continue si et seulement sil existe c 0 telle que
x, y H , [f(x, y)[ c |x| |y| .
Lapplication f sera dite coercive sil existe c

> 0 telle que

x H , f(x, x) c

|x|
2
.
Cette condition demande en particulier que pour tout x H , llment f(x, x) de C soit
un nombre rel. En particulier, si f est coercive, alors x f(x, x) est positive ou nulle, et
ne sannule quen x = 0.
Thorme 1.15 (Thorme de Lax-Milgram) Soient H un espace de Hilbert com-
plexe et a : H H C une forme sesquilinaire continue et coercive. Pour toute forme
linaire continue H

, il existe un unique u dans H tel que
v H , a(u, v) = (v) . ()
De plus, si a est hermitienne, alors u est lunique lment de H tel que
1
2
a(u, u) Re (u) = min
vH
_
1
2
a(v, v) Re (v)
_
. ()
Le thorme de Lax-Milgram est un cas particulier du thorme suivant (prendre C =
H et utiliser le fait que si et

sont deux formes linaires sur H telles que Re Re

,
alors =

).
17
Thorme 1.16 (Thorme de Stampacchia) Soient H un espace de Hilbert com-
plexe, a : H H C une forme sesquilinaire continue et coercive, et C un convexe
ferm non vide de H . Pour tout H

, il existe un unique u dans C tel que
v C, Re a(u, v u) Re (v u) .
De plus, si a est hermitienne, alors u est lunique lment de C tel que
1
2
a(u, u) Re (u) = min
vC
_
1
2
a(v, v) Re (v)
_
.
Ce rsultat est un outil simple et assez ecace pour la rsolution des quations aux
drives partielles linaires elliptiques. Le lien entre lquation (*) et le problme de mini-
misation (**) est souligner. Dans le vocabulaire du calcul des variations, on dit que (*)
est lquation dEuler associe au problme de minimisation (**) : lapplication F : H C
dnie par
F : u
1
2
f(u, u) (u)
est direntiable (en un sens que nous ne prcisons pas ici), lquation (*) tant alors
exactement lquation
F

(u) = 0 .
Cette relation, gnralise dans le thorme de Stampacchia, est souvent utilise, en phy-
sique (principe de moindre action, minimisation dnergie, ...), en mcanique (forme dune
nappe lastique tendue au-dessus dun obstacle) ou en nance (optimisation sous contrainte
de stocks). Le point noir est quelle ne permet de traiter convenablement que des problmes
linaires, et que la plupart des phnomnes naturels (mtorologie, mcanique des uides,
...) ne le sont pas.
Bases hilbertiennes.
Soient H un espace de Hilbert complexe et (E
n
)
nN
une suite de sous-espaces vectoriels
ferms de H . On dit que H est la somme hilbertienne de (E
n
)
nN
si
les sous-espaces vectoriels E
n
sont deux deux orthogonaux,
le sous-espace vectoriel engendr par les E
n
est dense (ou, de manire quivalente par
le corollaire 1.12 (2), dorthogonal nul) dans H ,
et on note (certains ouvrages omettant la barre)
H =

nN
E
n
.
Attention, on ne confondra pas somme hilbertienne et somme directe.
Par exemple, soient (H
n
)
nN
une suite despaces de Hilbert complexes et H lespace
de Hilbert de lexemple (4) ci-dessus. Notons E
n
le sous-ensemble de H form des lments
de H dont tous les termes sauf peut-tre le n-me est nul.
Exercice E.3 Montrer que E
n
est un sous-espace vectoriel ferm de H , isomorphe
lespace de Hilbert H
n
, et que H est somme hilbertienne de (E
n
)
nN
.
Le rsultat suivant gnralise, pour les sommes hilbertiennes, le thorme de Pythagore
pour les sommes directes orthogonales.
18
Thorme 1.17 Soit H un espace de Hilbert complexe, somme hilbertienne dune suite
(E
n
)
nN
de sous-espaces vectoriels ferms. Pour tout x dans H , posons x
n
= p
En
(x) la
projection hilbertienne de x sur le sous-espace vectoriel ferm E
n
. Alors pour tout x dans
H , les sries

+
n=0
x
n
et

+
n=0
|x
n
|
2
sont convergentes et
x =
+

n=0
x
n
,
|x|
2
=
+

n=0
|x
n
|
2
(egalite de Parseval) .
Rciproquement, pour toute suite (x
n
)
nN
dans H telle que x
n
E
n
pour tout n, si la
srie

+
n=0
|x
n
|
2
converge, alors la srie

+
n=0
x
n
est convergente, et si x =

+
n=0
x
n
,
alors x
n
= p
En
(x).
Remarquons que la srie

+
n=0
x
n
nest en gnral pas normalement convergente (cest-
-dire que la srie

+
n=0
|x
n
| nest pas forcment convergente).
Soit H un espace de Hilbert complexe. Si H est de dimension nie, une base hilber-
tienne de H est par dnition une base orthonorme de H . Si H est de dimension innie,
une base hilbertienne de H est une suite (e
n
)
nN
dans H de vecteurs orthonorms qui
engendre un sous-espace vectoriel dense de H :
p N, |e
p
| = 1; p, q N, p ,= q e
p
, e
q
) = 0 ; Vect
C
(e
n
: n N) = H .
Autrement dit, une base hilbertienne de H (lorsque H est de dimension innie) est une
suite (e
n
)
nN
de vecteurs unitaires de H telle que H soit somme hilbertienne des droites
vectorielles Ce
n
:
H =

nN
Ce
n
.
Attention, on ne confondra pas base hilbertienne et base (vectorielle) : en dimension innie,
on peut montrer quune base hilbertienne nest jamais une base vectorielle. On sautorisera
indexer les bases hilbertiennes par dautres ensembles dnombrables que N ou 0, . . . , n.
Remarques. (1) Si un espace de Hilbert H admet une base hilbertienne, alors H
est sparable. En eet, lensemble des combinaisons linaires (nies), coecients dans
Q[i], des lments dune base hilbertienne de H est dense dans H . Nous montrerons la
rciproque dans le thorme 1.18.
(2) Il dcoule du thorme 1.17 que si (e
n
)
nN
est une base hilbertienne de H , alors
pour tout u dans H , il existe une unique suite (
n
)
nN
dans C telle que les sries

nN

n
e
n
et

nN
[
n
[
2
convergent, et
u =

nN

n
e
n
et |u|
2
=

nN
[
n
[
2
.
En eet,
n
est lunique scalaire tel que p
Cen
(u) =
n
e
n
, cest--dire

n
= u, e
n
) .
19
La suite (
n
)
nN
est appele la suite des coordonnes hilbertiennes de u dans la base hilber-
tienne (e
n
)
nN
. Attention, on ne confondra pas coordonnes hilbertiennes et coordonnes
vectorielles.
(3) Si (e
n
)
nN
est une base hilbertienne dun espace de Hilbert H , alors un oprateur
continu u L(H ) est dtermin par les valeurs quil prend sur les lments de cette base
hilbertienne : si (x
n
)
nN
est la suite des coordonnes hilbertiennes dun lment x de H ,
alors
u(x) = u
_

nN
x
n
e
n
_
=

nN
x
n
u(e
n
) .
Exemple. La suite
_
e
n
: t
1

2
e
nit
_
nZ
est une base hilbertienne de lespace de
Hilbert L
2
([0, 2]; C) des applications mesurables de [0, 2] dans C, de carr intgrable
pour la mesure de Lebesgue, modulo galit presque partout. En eet, cest clairement
une suite orthonorme de vecteurs, dont lespace vectoriel engendr est dense pour la
norme uniforme dans C([0, 2]; C) par le thorme de Stone-Weierstrass 1.1 ; de plus, la
convergence uniforme implique la convergence L
2
, et le sous-ensemble C([0, 2]; C) est
dense dans lespace de Hilbert L
2
([0, 2]; C) (voir [Rud1] ou [Coh]).
Pour toute fonction f dans L
2
([0, 2]; C), les coordonnes hilbertiennes (c
n
(f))
nN
de
f dans cette base hilbertienne sont par dnition les coecients de Fourier
4
de f
c
n
(f) = f, e
n
) =
1

2
_
2
0
f(t) e
nit
dt .
Par le thorme 1.17, on obtient la formule de transformation de Fourier inverse
f =

nZ
c
n
(f) e
n
=
1

nZ
c
n
(f) e
nit
(attention, la convergence de cette srie est dans L
2
([0, 2]; C)) et la formule de Parseval
pour les sries de Fourier
|f|
2
=
__
2
0
[f(t)[
2
dt
_
1/2
=
_

nZ
[c
n
(f)[
2
_
1/2
.
Thorme 1.18 Tout espace de Hilbert sparable admet une base hilbertienne.
Si H est de dimension nie, le rsultat est connu, et la mthode usuelle se gnralise
en dimension innie, comme indiqu ci-dessous.
Dmonstration. Soit (v
n
)
nN
une suite dense dans H . Si H est de dimension innie,
quitte extraire, nous pouvons supposer que v
n+1
nappartient pas au sous-espace vectoriel
engendr par v
0
, . . . , v
n
. Le procd dorthonormalisation de Gram
5
-Schmidt
5
fournit
alors une suite (e
n
)
nN
dans H de vecteurs orthonorms qui engendre le mme sous-espace
vectoriel que (v
n
)
nN
.
5
Schmidt Gram
(1850-1916) (1876-1959)
Zorn
(1906-1993)
Steinhaus
(1887-1972)
20
Corollaire 1.19 Deux espaces de Hilbert sparables de dimension innie sont isomorphes.
Dmonstration. Soient (e
n
)
nN
et (f
n
)
nN
deux bases hilbertiennes de deux espaces
de Hilbert sparables H et G respectivement, qui existent par le thorme prcdent.
Alors lapplication linaire qui envoie e
n
sur f
n
est un isomorphisme linaire isomtrique
dun sous-espace vectoriel dense de H dans un sous-espace vectoriel dense de G, donc
se prolonge en un isomorphisme linaire isomtrique de H dans G (voir le thorme de
prolongement A.1).
La notion de base hilbertienne stend aux espaces de Hilbert non sparables, en prenant
des familles de vecteurs indexes par des ensembles non dnombrable (voir par exemple
[Dix, chap. VIII, XI]). En utilisant le thorme de Zorn
5
, le thorme 1.18 reste valide
pour les espaces de Hilbert non sparables.
Convergence faible dans les espaces de Hilbert.
Soit H un espace de Hilbert complexe. Nous dirons quune suite (f
n
)
nN
dans H
converge faiblement vers f H si pour tout g H , les produits scalaires f
n
, g)
convergent vers f, g) dans C. Nous noterons cette convergence par le symbole pour
la distinguer de la convergence forte (cest--dire pour la norme hilbertienne) :
f
n
f |f
n
f|
n+
0 .
f
n
f g H , f
n
, g) f, g) .
Proposition 1.20 (1) Une suite dans H qui converge fortement vers f H converge
aussi faiblement vers f.
(2) La proprit toute suite dans H qui converge faiblement vers f H converge
fortement vers f est vraie si et seulement si la dimension de H est nie.
(3) Toute suite faiblement convergente est borne.
(4) Si E et F sont des espaces de Hilbert complexes, et si u L(E, F), alors limage
par u de toute suite dans E faiblement convergente vers un lment x E est faiblement
convergente dans F vers u(x).
Dmonstration. (1) Ceci dcoule de la continuit (forte) du produit scalaire.
(2) Si H est de dimension nie, xons une base orthonorme (e
1
, . . . , e
k
) de H . Une
suite (f
n
)
nN
de vecteurs de H converge vers f si et seulement si les coordonnes de
f
n
convergent vers les coordonnes de f. Or les formes coordonnes sont exactement les
applications g g, e
i
) pour 1 i k. Donc si (f
n
)
nN
converge faiblement vers g, alors
(f
n
)
nN
converge vers g.
Rciproquement, si H est de dimension innie, alors H admet un sous-espace vectoriel
ferm sparable H
0
de dimension innie (prendre ladhrence du sous-espace vectoriel
engendr par une suite (v
n
)
nN
de vecteurs de H tels que v
n+1
nappartienne pas lespace
vectoriel engendr par v
0
, . . . , v
n
, qui existe puisque la dimension de H est innie). Si
(e
n
)
nN
est une base hilbertienne de H
0
, alors la suite des e
n
converge faiblement vers 0
dans H quand n tend vers linni (car pour tout g H , si g = g
0
+ g
1
o g
0
H
0
et g
1
H

0
, alors la suite (
n
)
nN
des coordonnes hilbertiennes de g
0
dans la base
hilbertienne (e
n
)
nN
tend vers 0 par sommabilit des carrs, et e
n
, g) = e
n
, g
0
) =
n
).
Mais |e
n
| = 1 pour tout n N, donc la suite des e
n
ne converge pas fortement vers 0.
21
(3) Soit (f
n
)
nN
une suite faiblement convergente vers f H . Lapplication
n
: H
H dnie par g g, f
n
) est une forme linaire continue sur H , de norme gale |f
n
|
par lingalit de Cauchy-Schwarz et puisque
n
(
fn
fn
) = |f
n
|. Pour tout g H , puisque
g, f
n
) tend vers g, f), nous avons sup
nN
|
n
(g)| < +. Par le thorme de Banach-
Steinhaus
5
(voir par exemple [Bre]), nous avons donc sup
nN
|
n
| < +, donc la suite
_
|f
n
|
_
nN
est borne.
(4) Nous verrons plus tard, dans la proposition 1.37 (et le lecteur vriera quil ny a
pas de boucle logique), que pour tout u L(E, F), il existe u

L(F, E) tel que

x E, y F, u(x), y)
F
= x, u

(y))
E
.
Soit (x
n
)
nN
une suite faiblement convergente vers x dans E. Alors pour tout y F,
les produits scalaires u(x
n
), y)
F
= x
n
, u

(y))
E
convergent vers x, u

(y))
E
= u(x), y)
F
.
Donc la suite
_
u(x
n
)
_
nN
converge faiblement vers u(x) dans F.
Remarque. Si H est sparable de dimension innie, si (e
k
)
kN
est une base hilbertienne
de H , si (f
n
)
nN
converge faiblement vers f H alors, pour tout k, la suite des k-mes
coordonnes hilbertiennes c
k
(f
n
) = f
n
, e
k
) de f
n
dans cette base hilbertienne converge vers
la k-me coordonne hilbertienne c
k
(f) de f quand n tend vers +. Mais la rciproque
est fausse : si g =

nN
1
n
e
n
(qui converge bien dans H par le thorme de Parseval), et
si f
n
= n
2
e
n
, alors lim
nN
e
k
, f
n
) = 0 pour tout k N, mais lim
nN
g, f
n
) = lim
nN
n =
+, donc la suite (f
n
)
nN
ne converge pas faiblement vers 0 (elle nest mme pas borne).
Le rsultat crucial suivant est une consquence du thorme de Riesz-Frchet et du
thorme de Banach-Alaoglu (voir [Bre], ou lappendice pour une dmonstration conden-
se).
Thorme 1.21 (Thorme de compacit faible de la boule unit ferme des
espaces de Hilbert) Si H est un espace de Hilbert, alors toute suite borne dans H
admet une sous-suite faiblement convergente.
Quitte rpter des arguments de la proposition 1.20, insistons sur limportance de
prendre bien garde ne pas confondre convergence faible et convergence forte : toute suite
qui converge fortement converge aussi faiblement, par continuit du produit scalaire. Mais
la rciproque est fausse : si H nest pas de dimension nie, le thorme de Riesz 1.7
implique quil existe toujours (au moins) une suite borne dans H (et mme contenue
dans la boule unit ferme) qui nadmet pas de sous-suite fortement convergente, ce qui
contredit le thorme ci-dessus. Pour un exemple explicite, dans
2
(C) (voir lexemple (4)
ci-dessus), considrons la suite (e
n
)
nN
dans
2
(C) telle que, pour tout n dans N, e
n
soit
la suite dans C dont tous les coecients sont nuls sauf le n-me, gal 1. Alors la suite
(e
n
)
nN
est borne : les e
n
sont de norme 1. Mais la suite ne converge pas : il est facile
de voir quelle converge faiblement vers 0, et donc si elle convergeait fortement quitte
extraire vers un lment x de
2
(C), celui-ci devrait tre gal 0 ; mais par continuit de
la norme, il devrait aussi tre de norme 1, ce qui est impossible.
Nanmoins, le thorme 1.21 a une grande importance, car lutilisation de techniques
de compacit peut tre extrmement utile, en particulier pour rsoudre des problmes
dextrma de fonctionnelles sur les espaces de Hilbert (nous en verrons un exemple dans la
proposition 2.20 de la partie 2.4). Cest en grande partie grce ce thorme 1.21 quil est
22
bien plus facile de travailler dans les espaces de Hilbert que dans des espaces de Banach
quelconques.
La proposition suivante donne parfois un moyen de passer de la convergence faible la
convergence forte dans un espace de Hilbert.
Proposition 1.22 Soient H un espace de Hilbert et (x
n
)
nN
une suite convergeant fai-
blement vers x H . Si (|x
n
|)
nN
converge vers |x|, alors (x
n
)
nN
converge fortement
vers x.
La rciproque est bien sr vraie, par continuit de la norme et lassertion (1) de la
proposition 1.20.
Dmonstration. Lhypothse implique que le second membre de lgalit |x
n
x|
2
=
|x
n
|
2
+|x|
2
2 Re x
n
, x) converge vers 0.
Une partie A de H est dite faiblement ferme si pour toute suite (x
n
)
nN
dans A qui
converge faiblement vers x, llment x appartient encore A. Par lassertion (1) de la
proposition 1.20, toute partie faiblement ferme de H est ferme. La rciproque est fausse
en gnral, car si H est sparable, de dimension innie, si (e
n
)
nN
est une base hilbertienne
de H , alors e
n
: n N est une partie ferme de H , mais non faiblement ferme. Une
rciproque partielle est fournie par la premire assertion de la proposition suivante.
Une application f : H R est dite convexe si pour tous x, y H et t [0, 1], nous
avons f(tx + (1 t)y) tf(x) + (1 t)f(y).
Proposition 1.23 (1) Tout convexe ferm de H est faiblement ferm.
(2) Toute application continue convexe f : H R est faiblement semi-continue inf-
rieurement, cest--dire que pour toute suite (x
n
)
nN
faiblement convergente vers x, nous
avons liminf
n+
f(x
n
) f(x).
Dmonstration. (1) Les demi-espaces ferms H
w,a
dnis, pour tous w H et a R,
par
H
w,a
= z H : Re w, z) a ,
sont clairement faiblement ferms, et toute intersection de parties faiblement fermes est
encore faiblement ferme. Or tout convexe ferm est lintersection des demi-espaces ferms
le contenant : par le thorme 1.11, pour tout convexe ferm non vide C, pour tout x / C,
si y est la projection de x sur C, si w = x y et si a = Re w, y), alors C est contenu dans
H
w,a
(car Re x y, z y) 0) qui ne contient pas x (car Re w, x) a = [[x y[[
2
> 0
pour tout z C). Le rsultat en dcoule.
(2) Pour tout R, soit C = x H : f(x) , qui est un convexe ferm de
H , car f est continue et convexe. Alors C est faiblement ferm par (1), ce qui montre le
rsultat.
1.3 Spectre des oprateurs continus
Soient E un espace vectoriel norm complexe et u un oprateur continu de E (cest--
dire un lment de L(E), voir les rappels de terminologie 1.1).
Une valeur rgulire de u est un lment C tel que u id soit inversible dans
L(E). Lensemble des valeurs rgulires de u est appel lensemble rsolvant de u. Un
23
lment de C qui nest pas une valeur rgulire de u est appel une valeur spectrale de u.
Lensemble des valeurs spectrales est appel le spectre de u, et not Sp(u). Lapplication
R
u
: C Sp(u) L(E) dnie par (u id)
1
sappelle lapplication rsolvante de
u. Le rayon spectral de u est
(u) = sup
Sp(u)
[[
(avec la convention usuelle que (u) = si Sp(u) est vide).
Une valeur propre de u est un lment C tel que le noyau de u id soit non nul
(ou, de manire quivalente, tel que lapplication linaire u id ne soit pas injective).
Le sous-espace vectoriel Ker(u id) est alors appel lespace propre de u associ .
La dimension de cet espace propre (qui peut tre innie) est appel la multiplicit de .
Un lment non nul de Ker(u id) est appel un vecteur propre de u associ la valeur
propre . Lensemble des valeurs propres est not Vp(u), et aussi appel le spectre ponctuel
de u.
Le spectre rsiduel de u est lensemble, not Sp
res
(u), des C non valeurs propres
tels que limage de u id ne soit pas dense dans E.
Par exemple, si E ,= 0 et si u est loprateur nul, alors Sp(u) = Vp(u) = 0 et
Sp
res
(u) = . Si E ,= 0 et si u est loprateur identit, alors Sp(u) = Vp(u) = 1 et
Sp
res
(u) = .
Remarques. (1) Si E est de dimension nie n, alors tout oprateur linaire de E
est continu et tout sous-espace vectoriel de E est ferm. Donc u id est inversible si
et seulement si u id est injectif, si et seulement si u id est surjectif. Le spectre
rsiduel est donc vide. Les valeurs spectrales de u sont donc les valeurs propres de u,
et aussi les valeurs propres de la matrice U de u dans nimporte quelle base de E. Ce
sont les (n en comptant avec multiplicit) racines complexes du polynme caractristique
det(u X id) = det(U X I
n
), la multiplicit dune valeur spectrale tant la multiplicit
de la racine correspondante. Le rayon spectral de u est alors la plus grande valeur absolue
dune racine de son polynme caractristique.
(2) Rappelons le thorme suivant (voir par exemple [Bre] pour une dmonstration),
qui implique quun lment de L(E) est inversible dans L(E) si et seulement sil est
bijectif.
Thorme 1.24 (Thorme de Banach) Soient E et F deux espaces de Banach rels
ou complexes et f : E F une application linaire continue bijective. Alors f
1
: F E
est aussi continue.
En particulier, si E est un espace de Banach complexe, alors un nombre complexe
est une valeur rgulire dun oprateur continu u si et seulement si u id est bijectif, et
cette remarque est souvent utile, et sera utilise sans plus de commentaire dans la suite de
ces notes.
(3) Puisque bijectif implique injectif, toute valeur propre est une valeur spectrale :
Vp(u) Sp(u) .
En dimension nie, nous venons de voir que cette inclusion est une galit. Mais cette
inclusion peut tre stricte en dimension innie, voir les exercices E.6 et E.7 ci-dessous.
24
(4) Si limage de u id nest pas dense, alors u id nest pas surjectif. Puisque
bijectif implique surjectif, le spectre rsiduel est donc contenu dans le spectre :
Sp
res
(u) Sp(u) ,
et par hypothse, on a mme Sp
res
(u) Sp(u) Vp(u).
(5) Pour tout dans C 0, nous avons
Sp(u) = Sp(u); Vp(u) = Vp(u); Sp
res
(u) = Sp
res
(u)
et
(u) = [[ (u) .
(6) Pour tout dans C, nous avons
Sp(u +id) = + Sp(u), Vp(u +id) = + Vp(u), Sp
res
(u +id) = + Sp
res
(u) .
(7) Soient E
1
et E
2
deux espaces de Banach. Deux oprateurs continus u
1
L(E
1
)
et u
2
L(E
2
) sont dit conjugus sil existe un isomorphisme despaces de Banach (cest-
-dire un isomorphisme linaire continu, donc dinverse continu) v : E
1
E
2
tel que le
diagramme suivant soit commutatif
E
1
u
1
E
1
v

v
E
2
u
2
E
2
(cest--dire tels que u
2
= v u
1
v
1
). Un tel isomorphisme v est appel une conjugaison
entre u
1
et u
2
. La relation tre conjugu est clairement une relation dquivalence sur
L(E
1
).
Lorsque E
1
et E
2
sont de plus des espaces de Hilbert complexes, nous dirons que v
comme ci-dessus est une conjugaison unitaire entre u
1
et u
2
si de plus elle est isomtrique.
Nous dirons alors que u
1
et u
2
sont unitairement conjugus . La relation tre unitairement
conjugu est encore une relation dquivalence sur L(E
1
).
Si deux oprateurs continus u
1
L(E
1
) et u
2
L(E
2
) sont conjugus, alors ils ont
mme spectre, mme spectre ponctuel, et mme spectre rsiduel :
Sp(u
1
) = Sp(u
2
), Vp(u
1
) = Sp(u
2
), Sp
res
(u
1
) = Sp
res
(u
2
), .
En eet, si v est une conjugaison unitaire entre u
1
et u
2
, alors u
1
id est inversible
(respectivement injectif, non injectif dimage non dense) si et seulement si v (u
1
id)
v
1
= u
2
id est inversible (respectivement injectif, non injectif dimage non dense).
Exercice E.4 Soient E un espace de Banach complexe et u L(E). Soient n N0
et E
1
, . . . , E
n
des sous-espaces ferms de E tels que u(E
i
) E
i
pour i = 0, . . . , n et
E =

n
i=1
E
i
. Montrer que
Sp(u) =
n
_
i=1
Sp(u
|E
i
), Vp(u) =
n
_
i=1
Vp(u
|E
i
), Sp
res
(u) =
n
_
i=1
Sp
res
(u
|E
i
) .
25
Attention, le rsultat de cet exercice nest plus vrai si on remplace somme directe par
somme hilbertienne (voir par exemple lexercice E.6).
Thorme 1.25 Soient E un espace de Banach complexe et u L(E).
(i) Le spectre Sp(u) de u est un compact de C, contenu dans la boule de centre 0 et de
rayon |u| :
(u) |u| .
(ii) Le spectre Sp(u) de u est non vide si et seulement si E ,= 0.
(iii) Si Sp(u) est non vide, alors
(u) = lim
n+
|u
n
|
1
n
= inf
nN{0}
|u
n
|
1
n
.
Dmonstration. (i) Montrons que le rayon spectral de u est au plus |u|. Soit C tel
que [[ > |u|. Soit v =
u

L(E), alors |v| < 1. Donc par la proposition 1.2 (2), id v

est inversible dans L(E). Do u id = (id v) est inversible dans L(E) car ,= 0.
Par consquent, est une valeur rgulire.
Montrons que lensemble rsolvant de u est ouvert. Ceci dcoule de la proposition 1.2
(3), mais donnons-en une dmonstration directe. Soit
0
une valeur rgulire de u, posons
v
0
= (u
0
id)
1
. Pour tout C tel que [
0
[ <
1
v
0

, soit v = (
0
)v
0
L(E),
qui vrie |v| < 1. Donc par la proposition 1.2 (2), id v est inversible dans L(E). Do
le produit de deux lments inversibles
(u
0
id) (id v) = (u
0
id)
_
id (
0
)(u
0
id)
1
_
= (u
0
id) (
0
) id
= u id
est inversible dans L(E). Par consquent, est une valeur rgulire de u.
Il en dcoule que le spectre de u est ferm (son complmentaire, lensemble rsolvant,
est ouvert) et born (contenu dans la boule de centre 0 et de rayon |u|). Donc Sp(u) est
compact.
(ii) Pour montrer les deux dernires assertions du thorme 1.25, nous avons besoin que
E soit un espace de Banach complexe, car nous allons utiliser des arguments dapplications
analytiques complexes. Par contre, le premier point du thorme 1.25 reste valable si E
est un espace de Banach rel. Dans ce cours, il ny a que dans cette dmonstration que
nous aurons besoin de tels arguments, donc un lecteur qui na pas suivi de cours danalyse
complexe peut simplement admettre les assertions (ii) et (iii) du thorme 1.25, et passer
la suite.
Soient E un espace de Banach complexe, et U un ouvert de C. Rappelons (voir par
exemple [Die1]) quune application f : U E est analytique complexe si pour tout z
0
U,
il existe r > 0 et une suite (c
n
)
nN
dans E tels que B(z
0
, r) U et la srie entire

nN
(z z
0
)
n
c
n
converge normalement sur B(z
0
, r), de somme gale f(z), pour tout
z B(z
0
, r). Une telle suite (c
n
)
nN
est alors unique. Une application analytique complexe
est en particulier continue. Nous aurons aussi besoin du rsultat suivant.
Thorme 1.26 (Thorme de Liouville, voir par exemple [Die1, 9.11.1].) Si f : C E
est une application analytique complexe borne, alors f est constante.
26
Ces techniques danalyse complexe pourront tre appliques dans notre cadre grce au
rsultat suivant. Rappelons que L(E), muni de la norme doprateur, est un espace de
Banach complexe, si E lest.
Proposition 1.27 Soient E un espace de Banach complexe et u L(E). Lapplication
rsolvante R
u
: CSp(u) L(E), dnie par (u id)
1
, est analytique complexe.
Dmonstration. Reprenons les arguments utiliss pour montrer que lensemble rsolvant
de u est ouvert. Soit
0
une valeur rgulire de u, posons v
0
= (u
0
id)
1
. Pour tout
C tel que [
0
[ <
1
v
0

, nous avons vu que u id est inversible, dinverse

(u id)
1
= (id (
0
)v
0
)
1
(u
0
id)
1
=
_

nN
(
0
)
n
v
n
0
_
v
0
,
par la proposition 1.2 (2). Puisque [
0
[ <
1
v
0

, la srie

nN
(
0
)
n
v
n+1
0
est normale-
ment convergente. Donc lapplication R
u
(qui est dveloppable en srie entire sur le disque
ouvert B(
0
,
1
v
0

) pour tout
0
CSp(u) ) est, par dnition, analytique complexe sur
son domaine de dnition C Sp(u) (qui est ouvert par lassertion (i) du thorme 1.25).

Revenons la dmonstration de lassertion (ii) du thorme 1.25. Supposons que E ne

soit pas rduit au vecteur nul. Montrons par labsurde que le spectre de u est non vide. Si
ce nest pas le cas, lensemble rsolvant de u est gal C tout entier, et donc lapplication
rsolvante R
u
est dnie sur tout C. En particulier, u = u0 id est inversible, donc |u| , = 0.
Montrons que lapplication R
u
est borne. Si [[ > |u|, alors par la proposition 1.2 (2),
(u id)
1
=
1
(id
1
u)
1
=
1

nN

n
u
n
(3)
Si [[ > 2|u|, il en dcoule que
|(u id)
1
| [
1
[

nN
[[
n
|u|
n
= [
1
[
1
1 [[
1
|u|
=
1
[[ |u|

1
|u|
< + .
Lapplication R
u
est donc borne en dehors du disque ferm de centre 0 et de rayon 2|u|.
Puisquelle est continue, elle est aussi borne sur ce disque, donc R
u
est borne.
Par le thorme de Liouville 1.26, lapplication R
u
, analytique complexe (par la propo-
sition 1.27) et borne sur C, est constante. Donc R
u
()
1
= u id est constante.
Ceci est visiblement absurde : soit x un lment non nul de E, alors u(x) ,= u(x) x, donc
u 0 id ,= u 1 id (en fait, lapplication u id est injective (densemble de dpart
ayant au moins deux lments)).
Notons que si E = 0, alors L(E) a un seul lment (lapplication nulle), donc pour
tout C, nous avons uid
E
= id
E
, qui est inversible. Donc Sp(u) est vide si E = 0.
Lassertion (ii) du thorme 1.25 en dcoule.
(iii) Montrons la dernire formule du thorme 1.25 sur le rayon spectral de u. Nous
aurons besoin dautres rsultats sur les applications analytiques complexes.
27
Thorme 1.28 (Dveloppement de Laurent) (voir par exemple [Die1, 9.14]) Soient
E un espace de Banach complexe et f : B(0, r) 0 E une application analytique
complexe du disque ouvert dans C de centre 0 et de rayon r > 0 priv de lorigine valeurs
dans E. Alors il existe une et une seule suite (c
n
)
nZ
dans E telle que
la srie

nN
z
n
c
n
converge pour tout z B(0, r),
la srie

nN{0}
z
n
c
n
converge pour tout z ,= 0, et
pour tout z dans B(0, r) 0, nous ayons f(z) =

nZ
z
n
c
n
.
La srie

nZ
z
n
c
n
est appele le dveloppement de Laurent de f.
Si (c
n
)
nN
est une suite dans E, rappelons que le rayon de convergence R [0, +]
de la srie entire

nN
(z z
0
)
n
c
n
est la borne suprieure des r > 0 tels que la srie

nN
(z z
0
)
n
c
n
converge pour tout z dans B(z
0
, r), et que
1
R
= limsup
n+
|c
n
|
1
n
. (4)
Aprs ces rappels, montrons lassertion (iii) du thorme 1.25. Par dnition de (u)
et par la proposition 1.27, lapplication f : z
1
z
R
u
(
1
z
) est dnie et analytique complexe
sur B(0,
1
(u)
) 0. Par la formule (3) o lon pose =
1
z
, elle concide sur le disque
point B(0,
1
u
) 0, avec la srie entire

nN
z
n
u
n
(qui converge si [z[
1
u
. Par
unicit du dveloppement de Laurent et puisque (u) |u|, cette srie entire est donc le
dveloppement de Laurent de f sur B(0,
1
u
) 0. Et puisque f est dnie et analytique
complexe sur B(0,
1
(u)
) 0, cette srie entire converge en tout point z de ce disque, par
les proprits du dveloppement de Laurent. Par dnition du rayon de convergence R de
cette srie entire, nous avons donc R
1
(u)
.
Rciproquement, si [[ >
1
R
, alors la srie

nN

n
u
n
converge, par dnition du
rayon de convergence R. Donc u id est inversible (dinverse
1

nN

n
u
n
, par un
calcul immdiat), et donc nappartient pas au spectre de u. Ceci tant vrai pour tout
C tel que [[ >
1
R
, nous avons donc (u)
1
R
, et par consquent (u) =
1
R
.
Par la formule (4), nous avons donc (u) = limsup
n+
|u
n
|
1
n
. Puisque |u
n+m
|
|u
n
| |u
m
| pour tous n, m dans N par les proprits de la norme doprateur, le fait que
(u) = limsup
n+
|u
n
|
1
n
= lim
n+
|u
n
|
1
n
= inf
nN{0}
|u
n
|
1
n
dcoule de lexercice classique suivant, en prenant le logarithme.
Lemme 1.29 Soit (a
n
)
nN
une suite de rels qui est sous-additive, cest--dire telle que
a
n+m
a
n
+ a
m
pour tous n, m dans N. Alors la suite (
an
n
)
nN
converge dans R, vers
inf
nN{0}
an
n
.
Dmonstration. Fixons m N non nul. Pour tout n dans N, la division euclidienne
dit quil existe un unique couple (q
n
, r
n
) N
2
tels que n = mq
n
+ r
n
et 0 r
n
< m.
En particulier, puisque r
n
ne prend quun nombre ni de valeurs, lim
n+
qn
n
=
1
m
et
lim
n+
arn
n
= 0. Or
a
n
= a
mqn+rn
q
n
a
m
+a
rn
28
par sous-additivit. Donc limsup
n+
an
n

am
m
. En prenant la borne infrieure sur m,
nous avons donc limsup
n+
an
n
inf
mN{0}
am
m
. Do
inf
nN{0}
a
n
n
liminf
n+
a
n
n
limsup
n+
a
n
n
inf
mN{0}
a
m
m
.
Les termes extrmaux de cette suite dingalits tant gaux, les limites infrieures et
suprieures sont gales, et gales la borne infrieure. Le lemme en dcoule.
Ceci conclut la dmonstration du thorme 1.25.
Contrairement au cas des oprateurs auto-adjoints des espaces de Hilbert que nous
verrons plus tard (proposition 1.38 (v)), il nest pas toujours vrai que le rayon spectral de
u soit toujours gal la norme de u : si n 2 et u : C
n
C
n
est une application linaire
non nulle, de matrice triangulaire suprieure stricte dans la base canonique de C
n
, alors la
seule valeur propre de u tant 0, le spectre de u est rduit 0 ; cet oprateur continu u
est donc de norme non nulle (car non nul), mais de rayon spectral nul. Voir aussi lexercice
E.11.
Exercice E.5 Soient E un espace de Banach complexe non rduit 0 et u, v L(E)
deux oprateurs continus qui commutent (cest--dire tels que u v = v u). Montrer que
(u v) (u)(v) .
Comme le montre lexercice suivant (en traitant part le cas de la partie vide), tout
compact de C est le spectre dau moins un oprateur linaire continu (car tout compact C
de C est sparable : il sut de prendre pour partie dnombrable dense la runion

nN
A
n
o A
n
est une partie nie
1
n
-dense dans C, pour tout n N; rappelons quune partie P
dun espace mtrique X est -dense si tout point de X est distance au plus dun point
de P).
Exercice E.6 Soit H un espace de Hilbert complexe sparable de dimension innie, soit
(e
n
)
nN
une base hilbertienne de H , soit C un compact non vide de C, et soit (
n
)
nN
une suite dense dans C (cest--dire telle que
n
: n N soit une partie dense de C).
Montrer quil existe un et un seul oprateur continu u L(H ) tel que u(e
n
) =
n
e
n
pour tout n N. Un tel oprateur continu est appel un oprateur diagonal dans la base
hilbertienne choisie.
Montrer que le spectre de u est le compact C prescrit :
Sp(u) = C ,
que ses valeurs propres sont les
n
(dont on calculera les espaces propres) :
Vp(u) =
n
: n N ,
et que le spectre rsiduel de u est vide :
Sp
res
(u) = .
29
Exercice E.7 Soit H un espace de Hilbert complexe sparable de dimension innie, soit
(e
n
)
nN
une base hilbertienne de H , et soit u L(H ) loprateur linaire dni par

iN
x
i
e
i


iN
x
i
e
i+1
. (Cet oprateur est appel loprateur de dcalage dans la base
hilbertienne choisie.)
Montrer que u est continu, quil na pas de valeur propre :
Vp(u) = ,
que son spectre est le disque unit ferm :
Sp(u) = z C : [z[ 1 ,
et que son spectre rsiduel est le disque unit ouvert :
Sp
res
(u) = z C : [z[ < 1 .
Lapplication qui un oprateur continu associe son spectre vrie une proprit de
semi-continuit. Rappelons quune application f dun espace mtrique X dans R est semi-
continue suprieurement en un point x
0
de X si elle vrie lune des deux assertions qui-
valentes suivantes :
pour tout > f(x
0
), il existe un voisinage ouvert V de x
0
dans X tel que pour tout
x V , on ait f(x) ;
pour toute suite (x
i
)
iN
qui converge vers x
0
dans X, nous avons
limsup
i+
f(x
i
) f(x
0
) .
Bien sr, si f est continue en 0, alors f est semi-continue suprieurement en x
0
. Une
application f : X R est dite semi-continue suprieurement si elle est semi-continue
suprieurement en tout point de X. Un exemple typique dapplication semi-continue su-
prieurement, mais non continue, est lapplication de R dans R, qui est nulle sauf au point
0, et vaut 1 en 0. On montre aussi facilement que la borne infrieure f = inf
iI
f
i
dune
famille (f
i
)
iI
dapplications semi-continues suprieurement (par exemple continues) est
encore semi-continue suprieurement. (Voir par exemple [Dix, Die2] pour ces notions et
des complments.)
Proposition 1.30 Soit E un espace de Banach complexe.
(1) Si (u
i
)
iN
est une suite dans L(E) qui converge vers u, si
i
est un point du spectre
de u
i
pour tout i N, si la suite (
i
)
iN
converge vers un point dans C, alors appartient
au spectre de u.
(2) Si E ,= 0, lapplication rayon spectral : L(E) R dnie par u (u), est
semi-continue suprieurement.
Dmonstration. (1) Par contrapose, si nappartient pas au spectre de u, alors uid
est inversible. Donc pour i susamment grand, loprateur continu u
i

i
id, qui est proche
de u id, est encore inversible (voir la proposition 1.2 (3)). Donc
i
nappartient pas au
spectre de u
i
, ce qui contredit les hypothses. Cette premire proprit est encore vraie si
E est un espace de Banach rel.
30
(2) Tout dabord, les spectres des oprateurs continus despaces de Banach complexes
non nuls tant non vide, lapplication est bien dnie. Donnons deux dmonstrations de
ce rsultat.
Pour la premire dmonstration, lapplication du produit L(E)
n
dans L(E), dnie
par (u
1
, . . . , u
n
) u
1
u
n
, est continue. En eet, par rcurrence, il sut de le faire
pour le cas n = 2. Le rsultat dcoule alors du fait que si u est susamment proche de u
0
et si v est susamment proche de v
0
, alors |v| |v
0
| + 1, et
|u v u
0
v
0
| = |(u v u
0
v) + (u
0
v u
0
v
0
)|
|u u
0
| |v| +|u
0
| |v v
0
|
|u u
0
|
_
|v
0
| + 1
_
+|u
0
| |v v
0
| ,
qui est proche de 0. Par composition avec lapplication continue de L(E) dans L(E)
n
dnie par u (u, u, . . . , u), lapplication u u
n
est donc continue. Donc, par le thorme
1.25 (3), lapplication
: u inf
nN{0}
|u
n
|
1
n
,
qui est une borne infrieure dapplications continues, est semi-continue suprieurement.
Pour la deuxime dmonstration, nous allons utiliser le point (1) de la proposition 1.30.
Puisque L(E) est un espace vectoriel norm, donc un espace mtrique, nous utilisons le
critre de semi-continuit suprieure rappel ci-dessus. Soit (u
i
)
iN
une suite dans L(E)
qui converge vers u L(E).
Notons = limsup
i+
(u
i
). Tout dabord, est ni, car la suite (u
i
)
iN
convergeant
vers u, la suite
_
|u
i
|
_
iN
converge vers |u|, donc reste borne, et (u
i
) |u
i
|. Soit
(u
i
k
)
kN
une suite extraite telle que = lim
k+
(u
i
k
).
Puisque le spectre de u
i
est non vide et compact, il existe
i
Sp(u
i
) tel que [
i
[ =
(u
i
). La suite (
i
k
)
kN
, qui reste dans un born de C, converge, quitte extraire une
nouvelle fois, vers un lment de C not . Par le point (1) de la proposition 1.30, llment
appartient au spectre de u, donc le rayon spectral (u) est au moins gal [[. Do
= lim
k+
(u
i
k
) = lim
k+
[
i
k
[ = [[ (u) ,
ce quil fallait dmontrer.
En dimension nie, lapplication rayon spectral est mme continue, ainsi que lapplica-
tion qui un oprateur linaire associe son spectre, au sens suivant.
Exercice E.8 a) Soient X un espace mtrique (de distance note d), et P
c
(X) lensemble
des ferms borns non vides de X. Considrons lapplication d
H
: P
c
(X) P
c
(X)
[0, +[ dnie par
d
H
(K, K

) = max
_
sup
xK
d(x, K

), sup
x

d(x

, K)
_
= inf
_
> 0 : K V

(K

) et K

(K)
_
.
Montrer que d
H
est une distance sur P
c
(X), invariante par les isomtries de X : pour
toute isomtrie f de X, nous avons d
H
(f(K), f(K

)) = d
H
(K, K

). Cette distance, qui

dpend bien sr de la distance d sur X, est appele la distance de Hausdor sur P
c
(X).
31
b) Soit E un espace vectoriel norm complexe de dimension nie. Montrer que lappli-
cation de L(E) dans P
c
(C) dnie par u Sp(u) est continue.
c) Pour tenir compte des multiplicits, on peut montrer aussi le rsultat plus prcis
suivant. Notons M
C
(C) lensemble des mesures complexes sur C, qui est un espace de
Banach pour la norme || = [[(C), o [[ est la mesure positive associe (voir par
exemple [Coh, Chap. 4]). Pour tout x C, notons
x
la masse de Dirac unit en x. Soit E
un espace vectoriel norm complexe de dimension nie. Montrer que lapplication de L(E)
dans M
C
(C) dnie par u

Sp(u)
m
u
()

est continue, o m
u
() est la multiplicit
dune valeur propre de u.
d) Soit E un espace vectoriel norm de dimension nie non nulle. Montrer que lappli-
cation rayon spectral : L(E) R, dnie par u (u), est continue.
1.4 Oprateurs compacts.
Soient E et F deux espaces vectoriels norms complexes. Notons
B
E
= x E : |x| 1
la boule unit ferme de E. Un lment u de L(E, F) est dit compact sil vrie lune des
trois conditions quivalentes suivantes :
u( B
E
) est dadhrence compacte dans F (pour la topologie forte),
limage par u de tout born de E est dadhrence compacte dans F,
pour tout suite (x
n
)
nN
dans E telle que |x
n
| 1 pour tout n N, la suite
(u(x
n
))
nN
admet une sous-suite convergente dans F.
Il est immdiat que la seconde condition entrane la premire. Pour montrer limplication
inverse, soit B un born de E. Alors B est contenu dans une boule ferme de centre 0
et de rayon r pour un certain r > 0. Or u(B(0, r)) = ru(B
E
) par linarit de u. De
plus, les homothties x rx tant des homomorphismes, u(B(0, r)) est dadhrence
compacte puisque u( B
E
) lest par hypothse. Maintenant, u(B), en tant que partie de la
partie dadhrence compacte u( B(0, r)), est dadhrence compacte, car tout ferm dans
un compact est compact. Il est immdiat que la premire condition implique la troisime.
Rciproquement, si la troisime condition est vrie, et si (y
n
)
nN
est une suite dans
ladhrence de u( B
E
), alors pour tout n N, soit x
n
B
E
tel que d(u(x
n
), y
n
)
1
n
. Par
la troisime condition, la suite (u(x
n
))
nN
admet une sous-suite convergente, donc (y
n
)
nN
aussi.
Ces trois conditions sont bien sr quivalentes demander que limage par u de toute
suite borne dans E admet une sous-suite convergente dans F.
Remarque. La dnition a aussi un sens pour les espaces vectoriels norms rels, et les
propositions 1.33, 1.34, 1.35, 1.36 restent valable dans ce cadre.
Exemples. (1) Un lment u de L(E, F) est dit de rang ni si son image est de dimension
nie. Par le thorme de Riesz 1.7 (et le fait que limage de u(B
E
) soit contenue dans
B
F
(0, |u|) ), un lment de L(E, F) de rang ni est compact.
En particulier, si F est de dimension nie, alors tout lment de L(E, F) est compact.
De nouveau par le thorme de Riesz 1.7, si E est de dimension innie, alors lidentit de
E dans E nest pas un oprateur compact.
32
(2) Soient X, Y deux espaces mtriques compacts, une mesure positive borlienne
nie sur Y et N C(X Y ; C). Notons E, F les espaces de Banach C(Y ; C), C(X; C)
respectivement (pour les normes uniformes | |

). Pour tout f E, notons Kf = K

N
f
F lapplication dnie par
Kf(x) =
_
yY
N(x, y) f(y) d(y) ,
pour tout x X. Alors K = K
N
L(E, F) est un oprateur compact, dit oprateur
noyau, de noyau N.
Avant de montrer ce rsultat, rappelons deux thormes qui seront utiles. Nous ren-
voyons la dmonstration du thorme 1.10 dans lappendice A pour des rappels sur les
applications uniformment continues.
Thorme 1.31 (Thorme de Heine) Soient X et Y deux espaces mtriques, tels
que X soit compact. Toute application continue de X dans Y est uniformment continue.

Soient X un espace mtrique, et K = R ou K = C. Une partie A de C(X; K) est dite

quicontinue si pour tous > 0 et x
0
X, il existe un voisinage U de x
0
dans X tel que
x U, f A, [f(x) f(x
0
)[ < .
Limportant est que le voisinage U ne dpende pas de llment f de A (attention lordre
des quanticateurs ! !).
Thorme 1.32 (Thorme dArzela-Ascoli) Soient X un espace mtrique, et K = R
ou K = C. Soit A une partie de C(X; K) telle que
A est quicontinue,
pour tout x dans X, lensemble A(x) = f(x) : f A est dadhrence compacte
dans K.
Alors ladhrence de A est compacte (et quicontinue) dans C(X; K) pour la norme uni-
forme.
Montrons maintenant que les oprateurs noyaux dnis ci-dessus sont compacts.
Remarquons que
[Kf(x) Kf(x

)[ |f|

_
yY
[N(x, y) N(x

, y)[ d(y)
pour tous x, x

dans X. Comme est nie, et par continuit uniforme en y de x N(x, y)

(par le thorme de Heine 1.31), ceci montre que Kf est bien dnie et continue, et
que limage par K de la boule unit ferme de E est quicontinue. Lapplication K est
clairement linaire, et continue car
|Kf|

|| |N|

|f|

.
Ceci montre aussi que les images des applications Kf pour f B
E
restent dans un compact
x de C. Donc lapplication linaire K est compacte, par le thorme dArzela-Ascoli 1.32.
33
(3) Soient (X, A , ) et (Y, B, ) deux espaces mesurs, E, F les espaces de Hilbert
complexes L
2
(), L
2
() respectivement, et N L
2
_
(X, A , )(Y, B, )
_
. Pour tout f E,
notons Kf = K
N
f F lapplication dnie par
Kf(x) =
_
yY
N(x, y) f(y) d(y) ,
pour (presque) tout x X. Alors K = K
N
L(E, F) est un oprateur compact, dit
oprateur noyau de type Hilbert-Schmidt, de noyau N.
En eet, par le thorme de Fubini, lapplication N
x
: y N(x, y) est dans E = L
2
()
pour -presque tout x X. Par lingalit de Cauchy-Schwarz, pour tout f E, nous
avons
[Kf(x)[ |N
x
|
2
|f|
2
pour -presque tout x X. De nouveau par le thorme de Fubini, |Kf|
2
|N|
2
|f|
2
.
Donc lapplication K est bien dnie, clairement linaire, et continue (de norme doprateur
infrieure ou gale |N|
2
). Soit (f
n
)
nN
une suite dans B
E
, et montrons que, quitte
extraire, la suite (Kf
n
)
nN
converge fortement dans F. Par le thorme 1.21, nous pouvons
supposer quitte extraire que (f
n
)
nN
converge faiblement vers f E. En particulier, pour
-presque tout x, nous en dduisons que Kf
n
(x) = f
n
, N
x
)
E
converge vers f, N
x
)
E
=
Kf(x). Puisque |f
n
| 1, nous avons [Kf
n
(x)[ |N
x
|
2
pour -presque tout x X et
pour tout n N. Par le thorme de convergence domine de Lebesgue, |Kf
n
|
2
converge
donc vers |Kf|
2
. De plus, Kf
n
converge faiblement vers Kf, puisque K est continue, par
lassertion (4) de la proposition 1.20. Par la proposition 1.22, nous avons donc que Kf
n
converge fortement vers Kf. Le rsultat en dcoule.
Exercice E.9 Soient I un intervalle ouvert born de R et p N. Notons | |
0
la norme
uniforme sur C(I; C) et D
(p)
(I) lespace vectoriel complexe des applications f : I C
de classe C
p
, de drives dordre au plus p bornes sur I, muni de la norme |f|
p
=

p
i=0
|f
(i)
|
0
. Montrer que D
(p)
(I) est un espace de Banach complexe et que pour p 1,
linjection f f de D
(p)
(R) dans D
(p1)
(R) est un oprateur compact.
Proposition 1.33 Le sous-ensemble K (E, F) des oprateurs compacts de E dans F est
un sous-espace vectoriel de L(E, F), qui est ferm si F est un espace de Banach. De plus, si
u L(E, F) est compact, si G
1
et G
2
sont des espaces vectoriels norms, si v L(G
1
, E)
et si w L(F, G
2
), alors w u v L(G
1
, G
2
) est compact.
En particulier, par lexemple (1), toute limite dune suite doprateurs de rang ni
est un oprateur compact (lorsque lespace darrive est un espace de Banach). Mais on
connait des exemples doprateurs compacts qui ne sont pas limites doprateurs de rang
ni (voir par exemple [LT2]). Voir toutefois la proposition suivante pour le cas des espaces
de Hilbert (aussi valable dans le cas rel).
Si E est un espace de Banach, lensemble des oprateurs compacts de E dans lui-mme
est donc un idal bilatre ferm dans lalgbre de Banach L(E), et en particulier, une
sous-algbre (non unifre, cest--dire ne contenant pas lidentit) ferme de L(E).
Dmonstration. Il est immdiat (en utilisant la troisime dnition des oprateurs com-
pacts) que lensemble des oprateurs compacts est stable par combinaisons linaires. Si un
oprateur continu u L(E, F) est compact, si v L(G
1
, E) et w L(F, G
2
), alors
34
v(B
G
1
) est born car |v| est ni, donc u v(B
G
1
) est contenu dans un compact car u est
compact, donc w u v(B
G
1
) est contenu dans un compact, car limage dun compact par
une application continue valeurs dans un espace mtrique est encore compact. Puisque
tout ferm dans un compact est compact, w u v(B
G
1
) est donc dadhrence compacte.
Pour montrer la fermeture de lensemble des oprateurs compacts, soit (u
n
)
nN
une
suite doprateurs compacts de E dans F, convergeant vers u dans L(E, F). Montrons
que u(B
E
) est dadhrence compacte. Puisque F est complet, par le thorme de Bolzano-
Weierstrass, il sut de montrer que pour tout > 0, on peut recouvrir u(B
E
) par un
nombre ni de boules de rayon . Soit n N tel que |u
n
u| <

2
. Puisque loprateur
continu u
n
est compact, il existe y
1
, . . . , y
k
F tels que u
n
(B
E
)

k
i=1
B(y
i
,

2
). Mais
alors par ingalit triangulaire, u(B
E
)

k
i=1
B(y
i
, ) : pour tout x B
E
, soit i N[1, k]
tel que u
n
(x) B(y
i
,

2
) ; alors
|u(x) y
i
| |u(x) u
n
(x)| +|u
n
(x) y
i
| <

2
+

2
= .
Proposition 1.34 Si F est un espace de Hilbert complexe, alors tout oprateur compact
u de E dans F est limite doprateurs continus de E dans F de rang ni.
Dmonstration. Pour tout > 0, par le thorme de Bolzano-Weierstrass, puisque u(B
E
)
est compact, il existe y
1
, . . . , y
n
F tels que u(B
E
)

n
i=1
B(y
i
,

2
). Notons p la projec-
tion orthogonale sur le sous-espace vectoriel engendr par y
1
, . . . , y
n
(qui est ferm par le
corollaire 1.8), et v = p u, qui est linaire continue (comme composition de deux appli-
cations linaires continues), et de rang ni. Pour tout x B
E
, soit i N [1, n] tel que
u(x) B(y
i
,

2
). Alors, comme p(y
i
) = y
i
et puisque |p| 1 (voir le thorme 1.11), nous
avons par ingalit triangulaire
|u(x) v(x)| |u(x) y
i
| +|p(y
i
) p(u(x))|

2
+

2
= .
Donc |u v| . Ainsi, u peut tre approch arbitrairement prs par des oprateurs
continus de rang ni.
Lexercice suivant donne des approximations explicites (modulo le choix dune base
hilbertienne) doprateurs compacts par des oprateurs de rang ni.
Exercice E.10 Soient H un espace de Hilbert complexe, sparable, de dimension innie,
(e
n
)
nN
une base hilbertienne de H , et u L(H ).
(1) Montrer que si u est compact, alors limage par u dune suite faiblement convergente
est (fortement) convergente.
Notons F
n
= Vect(e
0
, . . . , e
n
) lespace vectoriel engendr par e
0
, . . . , e
n
,
n
= |u
|F

n
|
la norme de la restriction de u lorthogonal de F
n
, et u
n
: H H lapplication dnie
par
u
n
: x
n

i=0
x, e
i
)u(e
i
) .
(2) Pour tout n N, montrer que u
n
L(H ) est un oprateur continu de rang
ni, que lapplication u u
n
appartient L(L(H )), et est de norme au plus 1, et que

n
= |u u
n
|.
35
(3) Soit (y
n
)
nN
une suite dans H , telle que |y
n
| = 1 et y
n
F

n
pour tout n N.
Montrer que (y
n
)
nN
converge faiblement vers 0.
(4) Montrer que u est compact si et seulement si la suite (
n
)
nN
converge vers 0.
(5) Montrer que si u transforme toute suite faiblement convergente en une suite conver-
gente, alors u est compact.
Proposition 1.35 (Thorme de Schauder) Si un oprateur continu u L(E, F) est
compact, alors son adjoint
t
u L(F

, E

) (voir la partie 1.1) est compact. Si F est un

espace de Banach, alors u L(E, F) est compact si et seulement si
t
u L(F

, E

) est
compact.
Dmonstration. Soit u L(E, F) un oprateur compact. Notons X lespace mtrique
compact u( B
E
), et considrons lespace de Banach C(X; C) (muni de la norme uniforme
| |

). Notons A le sous-ensemble de C(X; C) des restrictions X des lments de B

F
.
Alors A est quicontinu (ses lments sont 1-lipschitziens), et pour tout x dans X, A(x) est
born (par |u|). Par le thorme 1.32 dArzela-Ascoli, le sous-ensemble A est dadhrence
compacte dans C(X; C).
Soit (
n
)
nN
une suite dans B
F
. Quitte extraire, la suite des lments
n|X
de A est
donc convergente, donc de Cauchy, dans C(X; C). Comme
|
t
u(
n
)
t
u(
m
)|
E
= sup
xB
E
[
t
u(
n
)(x)
t
u(
m
)(x)[
= sup
xB
E
[
n
(u(x))
m
(u(x)) [ |
n|X

m|X
|

,
la suite
_
t
u(
n
)
_
nN
, qui est de Cauchy dans lespace de Banach E

, converge. Donc lop-

rateur continu
t
u est compact (par la troisime dnition des oprateurs compacts).
Pour montrer la dernire assertion, si
t
u est compact, alors loprateur continu
t
(
t
u)
est compact par ce qui prcde. Identions E avec son image dans E

par x ev
x
(voir
la partie 1.1), et de mme avec F. Alors F est ferm dans F

par le corollaire 1.4 et par

la formule (2), nous avons
t
(
t
u)( B
E
) = u( B
E
) .
Donc u(B
E
), contenu dans limage par
t
(
t
u) dun born, est dadhrence compacte dans
F

, donc dans F qui est ferm.

Les proprits lmentaires du spectre des oprateurs compacts sont regroupes dans
le rsultat suivant (aussi valable pour les espaces de Banach rels). Elles sont toutes im-
mdiates pour les applications linaires entre deux espaces vectoriels de dimension nie, le
but de la dmonstration est de montrer quelles stendent aux oprateurs compacts.
Proposition 1.36 Soient E un espace de Banach complexe, et u L(E) un oprateur
compact.
(1) Le noyau de id u est de dimension nie.
(2) Limage de id u est ferme.
(3) Si id u est injective, alors id u est surjective, donc inversible dans L(E).
(4) Toute valeur spectrale non nulle de u est une valeur propre de u de multiplicit
nie, isole dans Sp(u).
(5) Si E est de dimension innie, alors 0 est une valeur spectrale, et donc
Sp(u) = 0 Vp(u) .
36
En particulier, si u L(E) est compact, alors Sp(u) est ou bien ni, ou bien la runion
de 0 et de limage dune suite (
n
)
nN
convergente vers 0.
Le spectre rsiduel dun oprateur compact u est ou bien vide (par exemple pour
loprateur nul), ou bien gal 0 (voir lexercice E.11).
Dmonstration. Notons v = id u et N = Ker(v).
(1) Pour tout x N, nous avons u(x) = x. La boule unit ferme B
N
= B
E
N de N
est ferme dans E car N est ferm. Elle est dadhrence compacte dans E, donc compacte,
car B
N
u( B
E
) et u est compact. Donc par le thorme 1.7 de Riesz, la dimension de N
est nie.
(2) Soit (x
n
)
nN
une suite dans E telle que v(x
n
) converge vers un point y dans E.
Montrons que y appartient limage de v. Pour tout n N, puisque N est de dimension
nie, lintersection N B(x
n
, d(x
n
, N) + 1) est compacte (toujours par le thorme 1.7
de Riesz). Puisque toute application continue, dnie sur un espace compact et valeurs
relles, atteint sa borne infrieure, il existe z
n
N tel que d(x
n
, N) = d(x
n
, z
n
).
Supposons par labsurde que d(x
n
, N) tende vers +. Posons w
n
=
1
d(xn,N)
(x
n
z
n
),
qui est de norme 1. Puisque loprateur continu u est compact, quitte extraire, la suite
_
u(w
n
)
_
nN
converge vers w dans E. Or w
n
u(w
n
) = v(w
n
) =
1
d(xn,N)
v(x
n
) converge
vers 0 (car v(z
n
) = 0, v(x
n
) converge vers y et le dnominateur tend vers +). Donc w
n
converge vers w et w Ker(v) = N par continuit de v. Or d(w
n
, N) = 1 par dnition de
z
n
, et donc d(w, N) = 1 par continuit, ce qui est une contradiction.
Donc quitte extraire, la suite (d(x
n
, N) = |x
n
z
n
|)
nN
reste borne. Puisque u est
compact, quitte extraire, u(x
n
z
n
) converge vers un point y

dans E. Donc x
n
z
n
=
u(x
n
z
n
) v(x
n
z
n
) = u(x
n
z
n
) v(x
n
) converge vers y

+y. Par continuit de v,

y = lim
n+
v(x
n
) = lim
n+
v(x
n
z
n
) = v(y

+y)
appartient alors limage de v, ce quil fallait dmontrer.
(3) Soient E
0
= E et E
1
= v(E
0
). Supposons par labsurde que v est injectif et que
E
1
,= E
0
. Par (2), E
1
est un sous-espace ferm de E
0
, stable par u (qui commute avec
v). La restriction u
|E
1
de u E
1
est encore un oprateur compact de lespace de Banach
E
1
, car E
1
est ferm dans E
0
. De plus, id
E
1
u
|E
1
= v
|E
1
est injective, car v lest. Par
rcurrence la suite (E
n
= v
n
(E
0
))
nN
est une suite de sous-espaces vectoriels ferms de E,
qui est strictement dcroissante puisque v est injectif. Soient x
n
E
n
E
n+1
et x

n
E
n+1
tels que d(x
n
, x

n
) 2 d(x
n
, E
n+1
) (ce qui est possible car x
n
nappartenant pas au ferm
E
n+1
, nous avons d(x
n
, E
n+1
) > 0). Posons y
n
=
1
xnx

(x
n
x

n
). Pour tous m > n, nous
avons y
m
+v(y
n
) v(y
m
) E
n+1
par construction des E
k
. Donc
|u(y
n
) u(y
m
)| =

_
y
n
v(y
n
)
_

_
y
m
v(y
m
)
_

y
n

_
y
m
+v(y
n
) v(y
m
)
_

d(y
n
, E
n+1
) =
d(x
n
, E
n+1
)
|x
n
x

n
|

1
2
.
Or puisque u est compact et |y
n
| = 1, la suite
_
u(y
n
)
_
nN
doit avoir une sous-suite
convergente, contradiction.
(4) Soit C 0 une valeur spectrale qui nest pas une valeur propre. Alors
1

u
est un oprateur compact tel que id
1

u soit injective (sinon serait une valeur propre)

37
et non surjective (sinon u id serait inversible, et ne serait pas une valeur spectrale).
Ceci contredit (3).
Soit une valeur propre non nulle. Comme
1

u est compact, le noyau de id

1

u est de
dimension nie par (1), donc la multiplicit de est nie.
Montrons que est isole dans Sp(u). Sinon, soit (
n
)
nN
une suite de valeurs propres
de u non nulles deux deux distinctes, convergeant vers . Pour tout n N, soit e
n
un
vecteur propre unitaire de valeur propre
n
, et E
n
le sous-espace vectoriel de E engendr
par e
0
, . . . , e
n
. Alors (E
n
)
nN
est une suite strictement croissante de sous-espaces vectoriels
ferms (car de dimensions nies, voir le corollaire 1.8) de E stables par u. Comme ci-
dessus, pour tout n 1, puisque d(e
n
, E
n1
) > 0, soit e

n
E
n1
tel que d(e
n
, e

n
)
2d(e
n
, E
n1
). Posons y
n
=
ene

n
ene

, qui est unitaire et appartient E

n
. Si n > m, alors
z = u
_
e

n
nene

_
u
_
ym
m
_
E
n1
, donc

u
_
y
n

n
_
u
_
y
m

m
_

u
_
e
n

n
|e
n
e

n
|
_
z

e
n
|e
n
e

n
|
z

d(e
n
, E
n1
)
|e
n
e

n
|

1
2
,
ce qui, avec la convergence de
n
vers ,= 0, contredit aussi que u est compact, car limage
par u de la suite borne
_
yn
n
_
nN
na pas de sous-suite convergente par la minoration
prcdente.
(5) Si 0 / Sp(u), alors u
1
existe et est continu. Puisque u est compact, B
E
=
u
1
(u( B
E
)) est compact, ce qui implique par le thorme 1.7 de Riesz que la dimension
de E est nie.
Exercice E.11 Soient H un espace de Hilbert complexe sparable de dimension innie,
et (e
n
)
nN
une base hilbertienne de H .
Montrer quil existe un et un seul oprateur continu u L(H ) tel que u(e
n
) =
1
n+1
e
n+1
pour tout n N.
Montrer que u est un oprateur compact, nayant pas de valeur propre. En dduire que
le spectre de u est rduit 0. Calculer |u|, et remarquer que cette norme est non nulle.
Montrer que le spectre rsiduel de u est 0.
1.5 Oprateurs auto-adjoints
Adjoint dun oprateur continu.
Soient E, F et G des espaces de Hilbert complexes (mais tous les noncs de cette partie
sont valables pour les espaces de Hilbert rels, sauf la remarque (4) prcdant lexercice
E.12).
Proposition 1.37 Pour tout u L(E, F), il existe une unique application u

L(F, E)
telle que
u

(y), x)
E
= y, u(x))
F
pour tous x E et y F. Lapplication u u

est involutive (cest--dire (u

= u),
anti-linaire (cest--dire (u + v)

= u

+ v

), isomtrique (cest--dire |u

| = |u|) et
vrie id

= id et (u v)

= v

pour tous u L(E, F) et v L(G, E). Loprateur

continu u

est inversible si et seulement si u lest, et alors (u

)
1
= (u
1
)

.
De plus, |u u

| = |u

u| = |u|
2
.
38
Lapplication u

est appele ladjoint de u pour les produits scalaires de E et de F.

Lorsque lon identie un espace de Hilbert et le dual topologique de son conjugu par la
dualit de Riesz-Frchet (thorme 1.13), cette notion dadjoint correspond celle intro-
duite dans la partie 1.1 (voir aussi ci-dessous), ce qui explique la terminologie.
Dmonstration. Lunicit de u

est claire, car un vecteur de E orthogonal tout vecteur

de E est nul. Elle implique les proprits dinvolution, danti-linarit, et la relation de
contravariance (u v)

= v

.
Pour lexistence, soient
E
: E E

et
F
: F F

les isomorphismes de Riesz-
Frchet (voir le thorme 1.13), et
t
u : u ladjoint de u au sens de la partie 1.1,
considr comme une application (linaire, continue) de F

= F

dans E

= E

. Alors
u

=
1
E

t
u
F
(5)
convient. En eet, en appliquant pour =
E
puis =
F
la relation (a)(b) = a, b)
pour des a et b dans E puis F bien choisis, nous avons, pour tous x E et y E,
x,
1
E

t
u
F
(y)) =
1
E

t
u
F
(y), x) =
t
u
F
(y)(x) =
F
(y)(u(x)) = y, u(x))
= u(x), y) .
Comme les isomorphismes de Riesz-Frchet sont des isomtries, et par la partie 1.1,
nous avons |u

| = |
t
u| = |u|. [On peut aussi utiliser le fait que pour tout y F, par lingalit
de Cauchy-Schwarz,
|u

(y)|
2
= u

(y), u

(y))
E
= u(u

(y)), y)
F
|u| |u

(y)| |y| ,
ce qui implique que |u

| |u|. Comme (u

= u, en remplaant u par u

, on a donc |u

| = |u|.]
Nous avons donc
|u

u| |u

| |u| = |u|
2
.
De plus, pour tout x E, par lingalit de Cauchy-Schwarz,
|u(x)|
2
= u(x), u(x))
F
= u

u(x), x)
E
|u

u| |x|
2
,
donc |u|
2
|u

u|. Do |u

u| = |u|
2
, et en remplaant u par u

, nous avons donc

|u u

| = |u

|
2
= |u|
2
.
Exemple. Soient (X, A , ) et (Y, B, ) deux espaces mesurs, et N L
2
_
(X, A , )
(Y, B, )
_
. Notons N

L
2
_
(Y, B, ) (X, A , )
_
lapplication dnie par N

: (y, x)
N(x, y). Alors ladjoint de loprateur K
N
: L
2
() L
2
() de type Hilbert-Schmidt de
noyau N est exactement loprateur K
N
: L
2
() L
2
() de type Hilbert-Schmidt de
noyau N

. En eet, pour tous f L

2
() et g L
2
(), nous avons, par le thorme de
Fubini,
K
N
f, g) =
_
xX
_
_
yY
N(x, y)f(y) d(y)
_
g(x) d(x)
=
_
yY
f(y)
_
_
xX
N(x, y) g(x)
_
d(y) = f, K
N
g) .
En particulier, si (X, A , ) = (Y, B, ), si N est rel et symtrique, alors loprateur de
type Hilbert-Schmidt de noyau N est auto-adjoint (cest--dire gal son adjoint).
Soit H un espace de Hilbert complexe. Un oprateur continu u L(H ) est dit
39
auto-adjoint (ou hermitien) si u = u

,
positif si u(x), x) 0 pour tout x H ,
normal si uu

= u

u,
unitaire si uu

= u

u = id,
un projecteur si u
2
= id.
Remarques. (1) Si H est de dimension nie, et si (e
i
)
1in
est une base orthonorme,
si M est la matrice de u L(H ) dans cette base, alors la matrice M

de u

dans cette
base est la matrice transpose de sa matrice conjugue : M

=
t
M. Donc u L(H ) est
auto-adjoint si et seulement si sa matrice M dans cette base est hermitienne (cest--dire
M =
t
M). En particulier, si M est relle symtrique, alors u est auto-adjoint.
(2) Un oprateur auto-adjoint ou unitaire est normal. De nombreuses proprits des
oprateurs auto-adjoints ci-dessous sont valables pour les oprateurs normaux (voir par
exemple [Rud2]), mais nous nous restreignons au cas auto-adjoint dans ce cours.
(3) Pour tout u L(H ), lapplication (x, y) u(x), y) est une forme sesquilinaire,
qui est hermitienne si et seulement si u est auto-adjoint, et positive si et seulement si u est
positif.
(4) Cette remarque est particulire au cas des espaces de Hilbert complexes. Un opra-
teur continu positif dun espace de Hilbert complexe est auto-adjoint. En eet, en posant
a(x, y) = u(x), y), qui est une forme sesquilinaire, il sut de montrer que a est hermi-
tienne, cest--dire que pour tous x, y dans H , nous avons Re(a(x, y) a(y, x)) = 0 et
Im(a(x, y) +a(y, x)) = 0 . La seconde galit dcoule de
a(x, y) +a(y, x) = a(x +y, x +y) a(x, x) a(y, y) R
et la premire de cette galit o x est remplac par ix.
(5) Par exemple, id est auto-adjoint positif et unitaire, et pour tout u dans L(H ), les
oprateurs continus u+u

, i(uu

) (celui-ci nest bien dni que lorsque H est un espace

de Hilbert complexe), u

u et uu

sont auto-adjoints, par les proprits danti-linarit,

danti-multiplicativit et dinvolution, et u

u et uu

sont positifs.
Exercice E.12 Soit H un espace de Hilbert complexe sparable de dimension innie,
soit (e
n
)
nN
une base hilbertienne de H , et soit (
n
)
nN
une suite borne dans C. Notons
u L(H ) lunique oprateur continu tel que u(e
n
) =
n
e
n
pour tout n N (voir lexercice
E.6).
Montrer que ladjoint de u est lunique oprateur continu u

tel que u

(e
n
) =
n
e
n
pour tout n N. En dduire que u est auto-adjoint si et seulement si
n
est rel pour tout
n N.
Montrer que tout compact non vide K de R est le spectre dun oprateur auto-adjoint
de H .
Proprits lmentaires des oprateurs auto-adjoints.
Les proprits lmentaires principales des oprateurs auto-adjoints sont rsumes dans
la proposition suivante. Certaines dentre elles ont dj t vues les annes prcdentes dans
les espaces de Hilbert de dimension nie.
40
Proposition 1.38 Soient H un espace de Hilbert complexe et u L(H ).
(i) Le spectre de ladjoint u

de u est lensemble des conjugus des lments du spectre

de u :
Sp(u

) = Sp(u) .
Si u est inversible, alors le spectre de son inverse u
1
est lensemble des inverses des
lments du spectre de u :
Sp(u
1
) = Sp(u)
1
.
(ii) Lorthogonal de limage de u est le noyau de son adjoint :
_
u(H )
_

= Ker(u

) et Ker(u) =
_
u

(H )
_

.
En particulier, u

est injectif si et seulement si u est dimage dense.

(iii) Loprateur continu u est compact si et seulement si son adjoint u

lest.
(iv) Si u est auto-adjoint, et si F est un sous-espace vectoriel de H invariant par u
(cest--dire tel que u(F) F), alors F

est aussi invariant par u.

(v) Supposons que H ,= 0. Si u est auto-adjoint, si M = sup
x=1
u(x), x) et m =
inf
x=1
u(x), x), alors m et M appartiennent au spectre de u, Sp(u) [m, M], et
(u) = |u| = sup
x=1
[u(x), x)[ = maxM, m .
En particulier, le rayon spectral de u est gal sa norme, et si Sp(u) = 0, alors u = 0.
(vi) Si u est auto-adjoint, alors son spectre rsiduel est vide :
Sp
res
(u) = .
(vii) (Critre de Weyl) Lensemble (u) des C tels quil existe une suite (x
n
)
nN
dans H telle que |x
n
| = 1 et lim
n+
|u(x
n
) x
n
| = 0, est contenu dans le spectre
de u. Si u est auto-adjoint, alors cette inclusion est une galit : le spectre Sp(u) de u est
gal (u).
La proprit que (u) = |u| implique en particulier quun oprateur auto-adjoint est
nul si et seulement si son rayon spectral est nul, donc si et seulement si son spectre est gal
0. Mais il existe des oprateurs continus non nuls de spectre rduit 0 (qui ne sont
pas auto-adjoint, donc), comme loprateur de matrice
_
0 1
0 0
_
dans la base canonique
de lespace de Hilbert C
2
. Voir par exemple lexercice E.13 pour un exemple en dimension
innie.
Dmonstration. (i) Loprateur continu u id est inversible si et seulement si son
adjoint, qui est u

id, est inversible.

Si u est inversible, alors 0 nappartient ni au spectre de u ni celui de u
1
; de plus,
pour tout nombre complexe non nul , loprateur continu u
1
id est inversible si et
seulement si u
1

id =
1

u(u
1
id) est inversible.
(ii) Nous avons x u(H )

si et seulement si u(y), x) = 0 pour tout y dans H , si

et seulement si y, u

(x)) = 0 pour tout y dans H , donc si et seulement si x Ker(u

).
La seconde galit de (ii) dcoule de la premire en remplaant u par u

et en utilisant la
proprit dinvolution de u

.
41
(iii) Ceci dcoule du thorme de Schauder (proposition 1.35), par la formule (5) dans
la dmonstration de la proposition 1.37 et par la formule (1) dans la partie 1.1 :
|u

| = |
t
u| = |u| .
(iv) Soit x F

. Pour tout y F, nous avons u(y) F, donc u(x), y) = x, u(y)) = 0.

Do u(x) F

.
(v) Notons que u(x), x) est rel, car u est auto-adjoint donc u(x), x) = x, u(x)) =
u(x), x), et de valeur absolue majore par |u| par lingalit de Cauchy-Schwarz si |x|
1. En particulier, M et m sont des nombres rels bien dnis (car H nest pas rduit
0). La dmonstration de lassertion (v) dcoulera des points suivants.
Montrons que Sp(u) est rel.
Si est une valeur propre de u, et x un vecteur propre (non nul) de u de valeur propre
, alors
x, x) = u(x), x) = x, u(x)) = x, x) ,
donc est relle.
Soit C R. Posons v = u id. Pour tout x dans H , nous avons Imv(x), x) =
Im
_
u(x), x) x, x)
_
= Im |x|
2
. Donc par lingalit de Cauchy-Schwarz,
[ Im[ |x|
2
|v(x)| |x| .
Le rsultat suivant montre donc que v est injective (ce que nous savons dj, car nest
pas une valeur propre de u) et que limage de v est ferme, puisque Im ,= 0.
Lemme 1.39 Soient E, F deux espaces vectoriels norms sur K, o K = R ou K = C, et
E est complet, et soit v L(E, F). Sil existe c > 0 tel que c|x| |v(x)| pour tout x
dans E, alors limage de v est ferme, et v : E v(E) est un homomorphisme.
Dmonstration. Soit (x
n
)
nN
une suite dans E telle que v(x
n
) converge vers y dans F.
Alors
_
v(x
n
)
_
nN
est de Cauchy, donc par lhypothse, la suite (x
n
)
nN
est de Cauchy dans
E. Elle converge donc par compltude de E vers x E, tel que v(x) = y par continuit de
v. Do y appartient limage de v.
La condition c|x| |v(x)| pour tout x dans E implique que le noyau de v est rduit
au vecteur nul, et que la norme de la bijection rciproque de v : E v(E) est au plus
1
c
,
ce qui montre la dernire assertion. (Si F est un espace de Banach, alors son sous-espace
vectoriel v(E), ferm dans F, est aussi un espace de Banach (pour la restriction de la
norme), et la continuit de v
1
dcoule aussi du thorme de Banach.)
Par (ii), lorthogonal de limage de v est gal au noyau de u

id = uid. Ce noyau
est rduit 0, car , ntant pas rel, nest pas une valeur propre de u. Donc limage de
v est dense dans F par le corollaire 1.12 (2). Comme elle ferme par le lemme ci-dessus,
lapplication v est surjective, donc bijective, et nest pas une valeur spectrale.
Montrons que Sp(u) ] , M]. En remplaant u par u, ceci montrera que
Sp(u) [m, +[, donc que Sp(u) [m, M].
Pour tout R, soit v

= id u. Alors lapplication (x, y) v

(x), y) de H H
dans C est continue, sesquilinaire. Si > M, alors cette application est coercive : pour
tout x dans H , nous avons v

(x), x) = x, x) u(x), x) (M)|x|

2
. En particulier,
42
lapplication v

est injective. Elle est aussi surjective. En eet, pour tout y dans H ,
lapplication z y, z) appartient H

. Donc par le thorme 1.15 de Lax-Milgram,
il existe x dans H tel que v

(x), z) = y, z) pour tout z dans H . Ceci implique que

v

(x) = y, donc que v

est surjective. Par consquent, nappartient pas au spectre de u.

Montrons que M Sp(u). En remplaant u par u, ceci montre que m Sp(u).
Soit v = M id u, qui est auto-adjoint. La forme sesquilinaire (x, y) v(x), y) est
hermitienne, et positive par dnition de M. Par lingalit de Cauchy-Schwarz (seul le cas
dgalit ncessitait la condition dnie (positive), voir la dmonstration de la proposition
1.9), nous avons, pour tous les x, y H ,
[v(x), y)[
2
v(x), x)v(y), y) .
Rappelons que |x

| = sup
y=1
[x

, y)[ pour tout x

H . Donc par lingalit de Cauchy-

Schwarz,
|v(x)|
2
= sup
y=1
[v(x), y)[
2
v(x), x) sup
y=1
v(y), y) v(x), x) |v| .
Soit (x
n
)
nN
une suite dans H telle que |x
n
| = 1 et u(x
n
), x
n
) converge vers M. Alors
v(x
n
), x
n
) converge vers 0 et donc |v(x
n
)| aussi. Si M nappartient pas au spectre de u,
alors v est inversible et donc x
n
= v
1
(v(x
n
)) converge vers 0, ce qui nest pas possible.
Soit = sup
x=1
[u(x), x)[, montrons que |u|.
Pour tous x et y dans H de norme 1, puisque u est auto-adjoint, nous avons
[4 Re u(x), y)[ = [u(x +y), x +y) u(x y), x y)[

_
|x +y|
2
+|x y|
2
_
= 2
_
|x|
2
+|y|
2
_
= 4
Par homognit, pour tous x et y dans H , nous avons donc [ Re u(x), y)[ |x| |y|.
Donc |u(x)|
2
= Re u(x), u(x)) |x| |u(x)|, ce qui implique que |u| .
Par la proposition 1.25 et ce qui prcde, nous avons
|u| (u) = maxM, m = sup
x=1
[u(x), x)[ |u| .
Lassertion (v) en dcoule.
(vi) Soit une valeur spectrale non valeur propre de u. Puisque u est auto-adjoint,
est relle par (v). Limage de u id est dense, car son orthogonal est nul par (ii). Donc
nappartient pas au spectre rsiduel, et celui-ci est vide.
(vii) Si / Sp(u), alors x
n
= (uid)
1
(u(x
n
)x
n
) tend vers 0 quand |u(x
n
)x
n
|
tend vers 0, donc / (u).
Rciproquement, supposons u auto-adjoint, et soit Sp(u), qui en particulier est
rel. Si est une valeur propre, alors (u) (en considrant une suite constante en un
vecteur propre unitaire). Sinon, dune part v = u id est injective, dautre part v est
dimage dense par (vi). Si par labsurde / (u), alors il existe N N 0 tel que
|v(x)|
1
N
pour tout vecteur unitaire x de H . Par homognit, |v(x)|
1
N
|x| pour
tout x H . Par le lemme 1.39, limage de v est ferme, donc gale H car dense dans
H . Donc v est surjective, et injective, ce qui contredit que Sp(u).
43
Corollaire 1.40 Soient H un espace de Hilbert complexe et u L(H ) un oprateur
auto-adjoint. Alors u est positif si et seulement si son spectre Sp(u) est positif (cest--dire
contenu dans [0, +[).
Dmonstration. Par lassertion (v) de la proposition 1.38, nous avons inf
x=1
u(x), x) =
min Sp(u). Comme u est positif si et seulement si inf
x=1
u(x), x) est positif ou nul, le
rsultat en dcoule.
Exercice E.13 Soit H lespace de Hilbert complexe L
2
([0, 1]). Pour tout f H , on pose
V f : x
_
x
0
f(t) dt .
(1) Montrer que V : H H est un oprateur compact (appel oprateur de Volterra).
(2) Montrer que V na pas de valeur propre non nulle, et que Sp(V ) = 0.
(3) Calculer ladjoint V

de V .
(4) Montrer que pour presque tout x dans [0, 1], nous avons
V

V f(x) =
_
1
0
f(t) dt x
_
x
0
f(t) dt
_
1
x
tf(t) dt , (6)
et calculer les valeurs propres de V

V . Donner une base hilbertienne de H forme de
vecteurs propres de V

V .
(5) En dduire |V

V | ainsi que |V |.
Soit maintenant H
0
lespace de Hilbert complexe L
2
([1, 1]). Pour tout f H , on
pose
V
0
f : x
_
x
x
f(t) dt .
(6) Montrer que V
0
: H H est un oprateur compact (appel oprateur de Volterra
anti-symtrique).
(7) Montrer que V
0
V
0
= 0 et que Sp(V
0
) = 0.
(8) Pour toute application f : [1, 1] C, on note f
asym
, f
sym
: [0, 1] C les applica-
tions dnies par
f
asym
: x
1

2
_
f(x) f(x)
_
et f
sym
: x
1

2
_
f(x) +f(x)
_
.
Montrer que lapplication de lespace de Hilbert L
2
([1, 1]) dans lespace de Hilbert pro-
duit L
2
([0, 1]) L
2
([0, 1]), dnie par f (f
asym
, f
sym
), est un isomorphisme linaire
isomtrique. En dduire la norme de V
0
en fonction de la norme de V .
Exercice E.14 Soit H un espace de Hilbert complexe sparable, soit F un sous-espace
vectoriel ferm de H de codimension innie, soit (e
n
)
nN
une base hilbertienne de lor-
thogonal F

de F, et soit (
n
)
nN
une suite de rels strictement positifs convergeant vers
0.
Montrer quil existe un et un seul oprateur auto-adjoint positif compact u L(H )
tel que u sannule sur F et u(e
n
) =
n
e
n
pour tout n.
Montrer que les valeurs propres de u sont les
n
(de multiplicits nies)
Vp(u) =
n
: n N ,
44
que le spectre de u est
Sp(u) = 0 Vp(u) .
Le but de la partie suivante est de montrer que tous les oprateurs auto-adjoints com-
pacts positifs de rang inni sont comme dans lexercice, cest--dire diagonalisables en base
hilbertienne (lorsque lespace de Hilbert est sparable).
Dcomposition spectrale des oprateurs auto-adjoints compacts
Le rsultat suivant dit en particulier quun oprateur auto-adjoint compact dun espace
de Hilbert sparable est diagonalisable en base hilbertienne. Il reste valable pour les espaces
de Hilbert rels.
Thorme 1.41 Soit u un oprateur auto-adjoint compact dun espace de Hilbert com-
plexe H . Il existe deux suites nies ou innies, ventuellement vides, dcroissantes, de
rels strictement positifs (
n
)
nN, n<N
+
et (
k
)
kN, k<N

, convergeant vers 0 si N
+
= +
(resp. N

= +), telles que si E

= Ker(u id) pour tout R, alors

(1) les
k
,
n
sont des valeurs propres de multiplicits nies de u, qui sont les seules
valeurs spectrales non nulles de u;
(2) |u| = max
0
,
0
si u ,= 0 ;
(3) H est somme hilbertienne de E
0
et des E

k
, E
n
;
(4) (Principe de Rayleigh) si k < N
+
et n < N

, alors

k
= max
x
_
E
0

L
k1
i=0
E

i
_

, u=1
u(x), x) et
n
= min
x
_
E
0

L
n1
i=0
E
i
_

, u=1
u(x), x) .
Bien sr, 0 peut tre ou ne pas tre une valeur propre. Il dcoule immdiatement de ce
rsultat que 0 nappartient pas au spectre de u si et seulement si H est de dimension nie
et si u est bijectif ; de plus u na pas de valeur propre non nulle si et seulement si u = 0.
Dmonstration. (1) Par les propositions 1.36 (4) et 1.38 (v), lensemble des valeurs spec-
trales non nulles de u est form de valeurs propres relles isoles bornes de multiplicits
nies. En sparant les positives et les ngatives, elles forment donc deux suites nies ou in-
nies de rels strictement positifs dcroissants (
k
)
kN, k<N
+
et de rels strictement ngatifs
croissants (
n
)
nN, n<N

. Ces suites convergent vers 0 si N

+
= + (resp. N

= +),
par fermeture du spectre.
(2) Ceci dcoule de la proposition 1.38 (v).
(3) Montrons tout dabord que ces sous-espaces (qui sont ferms) sont orthogonaux
deux deux. Si x, y H et u(x) = x et u(y) = y avec ,= deux nombres rels, alors
puisque u est auto-adjoint
x, y) = u(x), y) = x, u(y)) = x, y) ,
donc x et y sont orthogonaux, ce qui montre le rsultat.
Notons F le sous-espace vectoriel de H engendr par ces sous-espaces, et montrons
que F est dense dans H .
Par construction, F est invariant par u, donc F

est invariant par u par la proposition

1.38 (iv). Loprateur linaire continu v = u
|F
est auto-adjoint compact, et par construc-
tion il na pas de valeur propre non nulle, donc par la proposition 1.36 (5), son spectre est
45
rduit 0. Par la proposition 1.38 (v), loprateur continu v est nul (car de norme nulle),
donc F

est contenu dans E

0
, donc est nul. Par le corollaire 1.12, F est donc dense.
(4) Quitte changer u en u, il sut de montrer la premire galit. Notons F
k
=
E
0
E

0
E

1
E

k1
, qui est invariant par u. Alors F

k
lest aussi, et u
|F

k
est
auto-adjoint compact, de plus grande valeur spectrale
k
. Le rsultat dcoule donc de la
proposition 1.38 (v).
Corollaire 1.42 (1) Soit u un oprateur auto-adjoint compact positif de rang inni dans
un espace de Hilbert complexe H . Alors il existe une suite dcroissante (
n
)
nN
de rels
strictement positifs convergente vers 0, qui sont des valeurs propres de u de multiplicits
nies, telle que, en posant E

= Ker(u id) pour tout R,

Sp(u) = 0
n
: n N , H = E
0

nN
E
n
(somme directe hilbertienne)
et
0
= sup
x=1
u(x), x) = sup
xKer(u)

, x=1
u(x), x) .
(2) Soit u un oprateur auto-adjoint compact dans un espace de Hilbert sparable H .
Alors H admet une base hilbertienne forme de vecteurs propres de u.
Dmonstration. (1) Cette assertion dcoule immdiatement du thorme 1.41, car le
spectre dun oprateur autoadjoint positif est positif par la proposition 1.38 (v). Notons
que pour tout oprateur auto-adjoint v dun espace de Hilbert H , pour tout x H , pour
tout y dans le noyau de v, nous avons
v(x +y), x +y) = v(x), x) +v(x), y) = v(x), x) +x, v(y)) = v(x), x) .
Ceci explique pourquoi prendre la borne suprieure sur x H ou sur x Ker(u)

na pas
dimportance, la seconde possibilit pouvant simplier la recherche de la borne suprieure.
(2) Avec les notations du thorme 1.41, chaque E
0
, E

k
, E
n
est un espace de Hilbert
sparable (de dimension nie sauf peut-tre E
0
), donc en mettant bout bout des bases
orthonormes des E

k
, E
n
et en y intercalant les lments dune base hilbertienne de E
0
,
on obtient le rsultat.
1.6 Calcul fonctionnel continu
Si une matrice M M
n
(C) est hermitienne, nous savons depuis notre plus tendre
enfance quelle est diagonalisable en base orthonorme de C
n
. Les matrices M
2
ou exp M
sont aussi diagonalisables dans cette mme base, le spectre de M
2
est lensemble des carrs
des lments du spectre de M, et le spectre de exp M est lensemble des exponentielles des
lments du spectre de M. De nombreux autres exemples de spectres de matrices peuvent
tre ainsi obtenus. Le but de cette partie, et de la suivante, est de gnraliser ces calculs
(dits fonctionnels) de spectres aux oprateurs auto-adjoints des espaces de Hilbert.
Notre approche sera lmentaire. Nous renvoyons par exemple [Bou, Rud2] pour une
dduction du calcul fonctionnel continu et du calcul fonctionnel born partir du thorme
de Gelfand-Neumark, et [Die2, Chap. XV] pour une dduction de ces calculs partir du
thorme de Plancherel-Godement. Nous nous restreindrons aux oprateurs auto-adjoints,
mais la thorie stend aux oprateurs normaux (voir les rfrences ci-dessus).
46
Algbres stellaires.
Les proprits de lalgbre de Banach L(H ) o H est un espace de Hilbert, munie
de linvolution u u

, sont synthtises dans les dnitions suivantes (voir par exemple

[Bou]). Sauf mention contraire, toute algbre sera une algbre complexe unifre (cest--dire
admetttant un lment unit (en gnral not 1) pour la multiplication), et tout morphisme
dalgbre prserve les units.
Soit A une algbre. Le spectre dun lment x de A est lensemble, not Sp(x) ou
Sp
A
(x), des C tels que x ne soit pas inversible dans A. Si x est inversible, alors
Sp(x
1
) = Sp(x)
1
. Notons que si : A B est un morphisme dalgbres, alors, pour
tout u dans A, nous avons
Sp
B
((u)) Sp
A
(u) : (7)
si u est inversible, alors (u) = (u ) lest aussi. En particulier, si est un
isomorphisme dalgbres, alors Sp
B
((u)) = Sp
A
(u).
Une algbre involutive est une algbre complexe A munie dune application u u

de
A dans A telle que, pour tous u, v A et C,
(u

= u (involutive),
(u +v)

= u

+v

(anti-linaire),
(uv)

= v

(anti-multiplicative).
On appelle u

ladjoint de u. Il dcoule de ces proprits que 1

= 1, que (u
n
)

= (u

)
n
pour tout n N, et que u

est inversible dans A si et seulement si u lest, et qualors

(u

)
1
= (u
1
)

.
Un lment u dune algbre involutive A est dit auto-adjoint (ou hermitien) si u = u

,
normal si uu

= u

u, et unitaire si uu

= u

u = 1. Par exemple, les lments auto-adjoints

et unitaires sont normaux, lunit 1 est auto-adjointe et unitaire, et pour tout u dans A,
les oprateurs continus u + u

, i(u u

), u

u et uu

sont auto-adjoints. Si u et v sont

auto-adjoints et commutent dans A, alors uv est auto-adjoint. Si u est unitaire, alors u est
inversible et u
1
= u

. Nous avons Sp(u

) = Sp(u).
tant donn deux algbres involutives A et B, un morphisme dalgbres involutives de
A dans B est un morphisme dalgbres : A B tel que (u

) = (u)

pour tout u A.
Une algbre norme involutive est une algbre involutive A munie dune norme | |
telle que, pour tous u, v A,
|uv| |u||v| (sous-multiplicativit de la norme),
|u

| = |u| (isomtrie de ladjoint).

Par exemple, pour K un espace mtrique compact, lensemble L

(K) = L

(K; C)
des applications mesurables bornes de K dans C, munie de la structure dalgbre pour les
addition, multiplication et multiplication par un scalaire point par point, de linvolution
f f, et de la norme |f|

= sup
xK
[f(x)[, est une algbre norme involutive.
Une algbre stellaire (appele C

-algbre sauf par quelques irrductibles gaulois) est

une algbre norme involutive complte A telle que, pour tout u A,
|uu

| = |u|
2
.
Exemples. (1) On vrie facilement, par la proposition 1.37, que si H est un espace de
Hilbert, alors lespace vectoriel L(H ) muni du produit uv = u v, de linvolution x x

et de la norme doprateur, est une algbre stellaire.

47
(2) On vrie facilement que si X est un espace mtrique compact non vide, alors
lespace vectoriel C(X) = C(X; C) des applications continues de X dans C, muni du
produit point par point (f, g) fg, de linvolution f f, et de la norme |f|

=
max
xX
[f(x)[, est une algbre stellaire.
(3) Si Aest une algbre stellaire, et si E est une partie de A, alors la sous-algbre stellaire
engendre par E est ladhrence de la sous-algbre de E engendre par les lments de E
et leurs adjoints. Munie des restrictions des lois dalgbres, de linvolution et de la norme,
cest une algbre stellaire.
Pour tout lment u dune algbre norme involutive A, nous appellerons rayon spectral
de u le nombre rel (bien dni par le lemme 1.29)
(u) = lim
n+
|u
n
|
1
n
= inf
nN{0}
|u
n
|
1
n
.
Proposition 1.43 Soit u un lment dune algbre norme involutive complte A.
(1) Si A ,= 0, alors Sp(u) ,= .
(2) (u

) = (u) |u|.
(3) (u) = minr [ 0, |u| ] : Sp(u) B
C
(0, r).
(4) Si u est auto-adjoint et si A est une algbre stellaire, alors
(u) = |u| .
Dmonstration. (1) La dmonstration est analogue celle du thorme 1.25 (ii).
(2) Cest immdiat.
(3) Si A = 0, alors (u) = 0 et Sp(u) = , donc le rsultat est vrai. Si A ,= 0, alors
la dmonstration est analogue celle du thorme 1.25 (iii).
(4) Nous avons alors |u|
2
= |u

u| = |u
2
| et par rcurrence |u|
2
n
= |u
2
n
|, donc
(u) = lim
n+
|u
2
n
|
1
2
n
= |u|.
Proposition 1.44 (1) Si A est une algbre involutive munie dune norme complte sous-
multiplicative telle que |u|
2
|uu

| pour tout u A, alors A est une algbre stellaire, et

|uu

| = |u

u|.
(2) Soient A et B deux algbres stellaires. La norme de tout morphisme dalgbres
involutives de A dans B est au plus 1 (et en particulier, est continu).
Dmonstration. (1) Les proprits quil reste vrier pour que A soit une algbre
stellaire sont lisomtrie de ladjoint et lingalit inverse |uu

| |u|
2
. Pour tout u A,
nous avons |u|
2
|uu

| |u||u

|, donc |u| |u

|. Do |u

| = |u| en changeant u
en u

. Il en dcoule que |uu

| = |u|
2
et |uu

| = |(u

| = |u

|
2
= |u|
2
.
(2) Par la proposition 1.43 (4), puisque (u)

(u) = (u

u) et u

u sont auto-adjoints,
et puisque Sp
B
((u)) Sp
A
(u) par la formule (7), nous avons
|(u)|
2
= |(u

u)| =
_
(u

u)
_
(u

u) |u

u| = |u|
2
.
Exercice E.15 Soient A une algbre stellaire et u un lment unitaire de A. Montrer que
le spectre de u est contenu dans le cercle unit de C.
48
Nous renvoyons par exemple [Con, KR, Tak] pour de nombreux autres complments
sur les algbres stellaires.
Calcul fonctionnel continu.
Le rsultat suivant permet de calculer le spectre de certains oprateurs continus, en les
exprimant comme polynmes, ou plus gnralement comme fonctions continues, dopra-
teurs auto-adjoints de spectres connus.
Thorme 1.45 (Calcul fonctionnel continu) Soient H un espace de Hilbert com-
plexe non rduit 0 et u L(H ) un oprateur auto-adjoint de H .
Il existe un et un seul morphisme dalgbres involutives de C
_
Sp(u)
_
dans L(H )
tel que (id) = u, o id : Sp(u) C est lapplication .
De plus, pour tout f C
_
Sp(u)
_
,
(i) est isomtrique, dimage la sous-algbre stellaire engendre par u (qui est commu-
tative) ;
(ii) nous avons Sp((f)) = f(Sp(u)) ;
(iii) loprateur continu (f) est auto-adjoint si et seulement si f est valeurs relles, et
positif si et seulement si f est valeurs positives ou nulles ;
(iv) loprateur continu (f) est inversible si et seulement si f ne sannule pas sur Sp(u)
et alors (f)
1
= (
1
f
) ;
(v) (f) est loprateur nul si et seulement si f est nulle sur Sp(u) ;
(vi) si est une valeur propre de u, alors f() est une valeur propre de (f) et lespace
propre Ker(u id) de u associ est contenu dans lespace propre Ker((f)
f() id) de (f) associ f().
Dans la suite, nous notons f(u) loprateur continu (f), pour tout f C
_
Sp(u)
_
.
Lapplication f f(u) de C
_
Sp(u)
_
dans L(H ) vrie donc, pour tous f, f

C
_
Sp(u)
_
et C,
(f +f

)(u) = f(u) +f

(u),
f(u)

= f (u),
(ff

)(u) = f(u) f

(u) et id(u) = u,
f(u) est inversible si et seulement si f ne sannule pas sur Sp(u), et alors f(u)
1
=
1
f
(u),
|f(u)| = |f|

,
en notant f(Sp(u)) = f(x) : x Sp(u), nous avons
Sp(f(u)) = f(Sp(u)) .
Dmonstration. Puisque H ,= 0, le spectre Sp(u) est un compact non vide de C, donc
C(Sp(u)) est une algbre involutive (stellaire).
Pour tout polynme complexe P =

n
i=0
a
i
X
i
C[X] et tout v L(H ), posons
P =

n
i=0
a
i
X
i
C[X] et P(v) =

n
i=0
a
i
v
i
L(H ). Lapplication P P(v) est un
morphisme dalgbres de C[X] dans L(H ) tel que P(v)

= P(v

).
En particulier, puisque u est auto-adjoint, lapplication P P(u) de C[X] dans L(H )
est un morphisme dalgbres involutives. Si est une solution du thorme, alors doit
concider avec ce morphisme sur les fonctions polynomiales restreintes Sp(u). Lide de
49
la dmonstration qui suit est de montrer que ce morphisme stend de manire unique
tout C(Sp(u)).
Nous noterons de la mme manire un polynme et sa restriction Sp(u). Le calcul du
spectre et de la norme de loprateur continu P(u), qui est un cas particulier du thorme
1.45, est eectu dans le lemme suivant.
Lemme 1.46 (a) P C[X], Sp(P(u)) = P(Sp(u)).
(b) P C[X], |P(u)| = sup
Sp(u)
[P()[.
Dmonstration. (a) Montrons tout dabord que P(Sp(u)) est contenu dans Sp(P(u)).
Soient Sp(u) et Q C[X] tels que P P() = (X )Q. Alors P(u) P() id =
(u id) Q(u) = Q(u) (u id). Comme u id est non surjective ou non injective,
loprateur continu P(u) P() id lest aussi. Donc P() Sp(P(u)), ce qui montre le
rsultat.
Rciproquement, soit Sp(P(u)), montrons que P(Sp(u)). Si P est constant gal
, ceci dcoule du fait que Sp(u) est non vide (car H ,= 0). Sinon, par le thorme
de dAlembert, il existe n dans N et a,
1
, . . . ,
n
dans C tels que a ,= 0 et P =
a

n
k=1
(X
k
), donc P(u) id = a(u
1
id) (u
n
id). Si aucun
i
nest dans
Sp(u), alors P(u) id est inversible, ce qui contredit le fait que Sp(P(u)). Donc, par
exemple,
1
Sp(u), et P(
1
) = 0, ce qui montre le rsultat.
(b) Pour obtenir la suite dgalits ci-dessous, nous utilisons pour la seconde galit,
le fait que le rayon spectral dun oprateur auto-adjoint est gal sa norme ; pour la
troisime galit, le fait que P(u)

= P(u) car u est auto-adjoint ; pour la quatrime

galit, lassertion (a) ; et pour la dernire galit, le fait que le spectre dun oprateur
auto-adjoint est rel :
|P(u)|
2
= |P(u)P(u)

| = sup
Sp
_
P(u)P(u)

_
[[ = sup
Sp
_
(PP)(u)
_
[[
= sup
Sp(u)
[(P P)()[ = sup
Sp(u)
[P()[
2
.
Montrons lunicit de . Si un tel morphisme dalgbres involutives existe, alors pour
tout polynme P C[X], nous avons (P) = P(u). Lunicit dcoule donc de la continuit
de , voir la proposition 1.44 (2), et de la densit des polynmes complexes dans C
_
Sp(u)
_
,
par le thorme de Stone-Weierstrass 1.1.
Montrons lexistence de . Puisque u est auto-adjoint, lapplication P P(u) est un
morphisme dalgbres involutives isomtrique (par le lemme 1.46 (b)) de lalgbre norme
involutive des fonctions polynomiales de Sp(u) dans C, valeurs dans L(H ). Il stend
donc par le thorme de prolongement A.1 en un morphisme dalgbres involutives isom-
trique de C
_
Sp(u)
_
dans L(H ), par compltude de L(H ) et par densit des fonctions
polynomiales dans C
_
Sp(u)
_
. Ce morphisme convient, et il est isomtrique.
Montrons la seconde partie de lassertion (i). Puisque est isomtrique et puisque
C
_
Sp(u)
_
est complet, son image est ferme (voir par exemple le lemme 1.39), donc cest
une sous-algbre stellaire de L(H ). Puisquelle contient u, elle contient la sous-algbre
stellaire de L(H ) engendre par u. Rciproquement, puisque u est auto-adjoint, celle-ci
est ladhrence de lalgbre engendre par u, et tout polynme en u est dans limage de ,
ce qui montre linclusion inverse.
50
Montrons lassertion (ii). Nous allons utiliser le lemme suivant.
Lemme 1.47 Soient B une sous-algbre ferme dune algbre de Banach complexe A.
Pour tout x B, nous avons
(1) Sp
A
(x) est contenu dans Sp
B
(x) ;
(2) la frontire de Sp
A
(x) contient la frontire de Sp
B
(x) ;
(3) Sp
B
(x) est la runion de Sp
A
(x) et de certaines composantes connexes bornes de
C Sp
A
(x) ;
(4) si Sp
A
(x) est rel, alors Sp
A
(x) = Sp
B
(x).
Dmonstration. (1) Ceci dcoule de la formule (7) applique linclusion de B dans A.
(2) Soit un lment de la frontire de Sp
B
(x). Alors appartient Sp
B
(x) (qui
est ferm par la proposition 1.2 (3)) et il existe une suite (
n
)
nN
dans C Sp
B
(x) qui
converge vers . Puisque les lments inversibles y
n
= x
n
convergent vers llment non
inversible x dans lalgbre de Banach B, les normes |y
n
1
| convergent vers +, par
la proposition 1.2 (4).
Posons z
n
=
yn
1
yn
1

, qui est de norme 1. Notons que

|z
n
(x )| = |z
n
(x
n
) +z
n
(
n
)|
1
|y
n
1
|
+[
n
[
converge vers 0 quand n +. Si x est inversible dans A, alors
1 = |z
n
| = |z
n
(x )(x )
1
| |z
n
(x )||(x )
1
| ,
qui converge vers 0 quand n +, ce qui est impossible. Donc appartient Sp
A
(x),
mais pas lintrieur de Sp
A
(x), qui est contenu dans lintrieur de Sp
B
(x), par lassertion
(1).
(3) Soit U une composante connexe de C Sp
A
(x). Puisque U Sp
A
(x) est vide,
louvert U ne contient pas de point frontire du ferm Sp
A
(x), donc pas de point frontire
de Sp
B
(x) par lassertion (2). Donc U Sp
B
(x) et U (U Sp
B
(x)) sont deux ferms de
U de runion U. Comme U est connexe, lun de ces deux ferms est vide, cest--dire que
ou bien U ne rencontre pas Sp
B
(x), ou bien U est contenu dans Sp
B
(x), qui est born (car
si [[ > |u|, alors par la proposition 1.2 (2), llment 1
u

est inversible dans lalgbre

de Banach B, donc u aussi).
(4) Si Sp
A
(x) est rel, alors louvert CSp
A
(x) na quune seule composante connexe,
qui est non borne.
Finissons maintenant la dmonstration de lassertion (ii). Notons que
Sp
C(Sp(u))
(f) = f(Sp(u)) ,
car f est inversible dans lalgbre C(Sp(u))) (dinverse
1
f
) si et seulement si
nappartient pas limage de f.
Linclusion f(Sp(u)) Sp((f)) dcoule alors de la formule (7), puisque est un
morphisme dalgbres.
51
Pour montrer linclusion rciproque, supposons tout dabord que f soit relle. Alors
(f)

= (f) = (f), donc (f) est auto-adjoint, donc son spectre est rel par la pro-
position 1.38 (v). Notons B limage de (qui est une sous-algbre ferme, car est iso-
mtrique). Par le lemme 1.47 (4), et puisque : C(Sp(u)) B est un isomorphisme
dalgbres (toujours car est isomtrique), nous avons
Sp
L(H )
((f)) = Sp
B
((f)) = Sp
C(Sp(u))
(f) = f(Sp(u)) .
Maintenant, si f est quelconque, et si Sp((f)), alors v = (f)id est inversible.
Donc v

et v

v = ([f [
2
) sont inversibles, et donc 0 nappartient pas au spectre de
([f [
2
). Comme [f [
2
est relle et par le cas prcdemment trait, ceci implique que
0 nappartient pas limage de [f [
2
, donc que nappartient pas limage de f.
Montrons lassertion (iii). Si f est valeurs relles, alors (f)

= (f) = (f), donc

(f) est auto-adjoint. Rciproquement, si (f) est auto-adjoint, alors son spectre est rel
par la proposition 1.38 (v), donc f(Sp(u)) = Sp((f)) est contenu dans R, et f est
valeurs relles.
Si loprateur continu (f) est positif, alors il est auto-adjoint (par la remarque (4)
prcdant la proposition 1.38), et son spectre Sp((f)) est contenu dans [0, +[ par la
proposition 1.38 (v). Donc f(Sp(u)) = Sp((f)) est contenu [0, +[ , et f est valeurs
positives ou nulles. Rciproquement, si f est valeurs positives ou nulles, alors f est
relle, et Sp((f)) = f(Sp(u)) est contenu [0, +[ . Donc (f) est auto-adjoint par ce qui
prcde, de spectre contenu dans [0, +[ . Par le corollaire 1.40, loprateur continu (f)
est donc positif.
Montrons lassertion (iv). Loprateur continu (f) est inversible si et seulement si 0
nappartient pas Sp((f)) = f(Sp(u)), donc si et seulement si f ne sannule pas sur
Sp(u). Comme lapplication f
1
f
vaut alors 1 sur Sp(u), et puisque est un morphisme
dalgbres, nous avons immdiatement que linverse de (f) est (
1
f
).
Montrons lassertion (v). Si (f) = 0, alors f(Sp(u)) = Sp((f)) = 0 (car H ,= 0),
donc f est nulle sur Sp(u). Rciproquement, si f est nulle, alors comme est un morphisme
dalgbres, nous avons (f) = 0.
Montrons la dernire assertion (vi). Si x H est vecteur propre de u pour la valeur
propre , alors pour tout polynme complexe P, nous avons (P)(x) = P(u)(x) = P()x.
Le fait que (f)(x) = f()x pour tout f C(Sp(u)) dcoule alors de la densit des
applications polynomiales dans C(Sp(u)), et de la continuit de .
Exercice E.16 Soient H un espace de Hilbert complexe et u L(H ) un oprateur
auto-adjoint de H .
(1) Montrer que si le spectre de u est rduit un point, alors u est un multiple rel de
lidentit.
(2) Montrer que si le spectre de u est rduit deux point, alors il existe un projecteur
orthogonal non nul P et (a, b) R

R tels que u = aP +b id.

(3) Montrer que si C est une composante connexe ouverte de Sp(u), alors il existe un
oprateur auto-adjoint v commutant avec u tel que Sp(v) = C.
Exercice E.17 Soit H un espace de Hilbert complexe.
52
(1) Soient v un oprateur auto-adjoint de H , et / Sp(v). Montrer que
|(v id)
1
| =
1
d(, Sp(v))
=
1
supr > 0 : B(, r) Sp(v) =
,
cest--dire que la norme de linverse de v id est gale la borne infrieure de linverse
du rayon dun disque de centre contenu dans le complmentaire du spectre de v.
Supposons que H soit la somme directe orthogonale nie ou hilbertienne dune suite
nie ou dnombrable (H
n
)
0n<N
(o N N +) de sous-espaces ferms de H .
(2) Pour tout indice n, notons u
n
un oprateur continu de H
n
, et supposons la suite
(|u
n
|)
0n<N
borne. Montrer quil existe un unique oprateur continu u de H dont la
restriction H
n
soit u
n
pour tout indice n. Montrer que la restriction de u

H
n
est
gale u

n
.
(3) Soit u un oprateur auto-adjoint de H , prservant chaque H
n
. Montrer que
Sp(u) =
_
0n<N
Sp(u
|Hn
) .
Spectre essentiel dun oprateur auto-adjoint.
Le spectre des oprateurs auto-adjoints admet une autre dcomposition, que nous d-
crivons maintenant.
Soient H un espace de Hilbert complexe, et u L(H ) un oprateur auto-adjoint.
Le spectre essentiel de u est lensemble, not Sp
ess
(u), des R tels quil existe une suite
(x
n
)
nN
dans H telle que
(1) |x
n
| = 1,
(2) la suite (x
n
)
nN
na pas de sous-suite convergente,
(3) la suite (u(x
n
) x
n
)
nN
converge vers 0.
Proposition 1.48 Soient H un espace de Hilbert complexe, et u L(H ) un oprateur
auto-adjoint. Alors
Sp(u) = Sp
ess
(u) Vp(u)
et Sp(u)Sp
ess
(u) est exactement lensemble des valeurs propres de multiplicit nie isoles
dans le spectre de u.
Dmonstration. Le fait que le spectre essentiel de u est contenu dans le spectre de u
dcoule du critre de Weyl (proposition 1.38 (vii)).
Montrons par contraposition que tout point de Sp(u) Sp
ess
(u) est isol dans Sp(u). Si
Sp(u) nest pas isol, alors il existe une suite (
n
)
nN
dlments de Sp(u) convergeant
vers , telle que
n
,= pour tout n N. Par le critre de Weyl (proposition 1.38 (vii)),
puisque
n
est une valeur spectrale, pour tout n N, il existe un vecteur unitaire x
n
dans
H tel que |u(x
n
)
n
x
n
|
|n|
n
. Alors |x
n
| = 1 et |u(x
n
) x
n
| |u(x
n
)
n
x
n
|+
[
n
[ |x
n
| tend vers 0 quand n +. Pour montrer que appartient Sp
ess
(u), il sut
donc de montrer que (x
n
)
nN
na pas de sous-suite convergente. Supposons par labsurde
53
que, quitte extraire, (x
n
)
nN
converge vers x H . Alors |x| = 1 et u(x) x = 0, par
continuit. Donc
(
n
)x
n
, x) = (
n
)x
n
, x) +x
n
, (u id)(x))
= (
n
)x
n
, x) +(u id)(x
n
), x) = u(x
n
)
n
x
n
, x) .
Par lingalit de Cauchy-Schwarz, par la construction de x
n
et puisque
n
,= , nous avons
donc [x
n
, x)[
1
n
, pour tout n N. Mais ceci contredit le fait que (x
n
)
nN
converge vers
le vecteur unitaire x.
Lemme 1.49 Soient H un espace de Hilbert complexe, et v L(H ) un oprateur auto-
adjoint. Toute valeur spectrale de v isole dans le spectre de v est une valeur propre de
v. Si Sp(u) est discret ou (de manire quivalente) ni, alors Sp(u) = Vp(u).
Dmonstration. Lapplication f valant 1 en et 0 ailleurs est continue et non identi-
quement nulle sur Sp(v), et x (x )f(x) est lapplication nulle. Donc par le calcul
fonctionnel continu, (v id) f(v) = 0. Donc limage de f(v), qui nest pas rduite 0
car f(v) nest pas loprateur nul (par lassertion (v) du thorme 1.45), est contenue dans
le noyau de v id. Donc est une valeur propre de v. Comme un espace compact est
discret si et seulement sil est ni, et que toute partie nie de C est compose de points
isols, la dernire assertion en dcoule.
Par ce lemme et ce qui le prcde, tout point de Sp(u) Sp
ess
(u) est donc une valeur
propre. Si par labsurde lespace propre E

de tait de dimension innie, il existerait

une suite orthonorme (e
n
)
nN
dans E

. Celle-ci nadmettrait pas de sous-suite conver-

gente, serait unitaire et vrierait u(e
n
) e
n
= 0, donc appartiendrait Sp
ess
(u), une
contradiction.
Rciproquement, soit une valeur propre de u, isole dans Sp(u), despace propre E

de dimension nie.
Puisque loprateur continu u est auto-adjoint et prserve E

, il prserve lorthogonal
E

, et u
|E

est auto-adjoint. Montrons tout dabord par labsurde que nappartient pas
Sp(u
|E

). Sinon, comme Sp(u

|E

) est contenu dans Sp(u) (voir par exemple lexercice

E.4), le nombre rel serait une valeur spectrale isole de u
|E

, non valeur propre, ce qui

contredirait le lemme 1.49. Donc u
|E

id
|E

est inversible, et nous notons c la norme

de son inverse.
Montrons maintenant que nappartient pas au spectre essentiel de u. Soit (x
n
)
nN
une suite quelconque de vecteurs unitaires de H telle que la suite (u(x
n
) x
n
)
nN
converge vers 0. Montrons que (x
n
)
nN
admet une sous-suite convergente, ce qui entrane
que / Sp
ess
(u). crivons x
n
= y
n
+z
n
avec y
n
E

et z
n
E

. Puisque E

est un espace
vectoriel de dimension nie et |y
n
| |x
n
| = 1 pour tout n N, la suite (y
n
)
nN
admet
une sous-suite convergente, vers y H . De plus, |z
n
| c |u(z
n
)z
n
| = c |u(x
n
)x
n
|,
donc la suite (z
n
)
nN
converge vers 0. Donc (x
n
)
nN
admet une sous-suite convergente (vers
y), ce qui montre le rsultat.
Le fait (nonc dans le lemme 1.49) que tout point isol de Sp(u) est une valeur propre
de u est une des justications lappellation de spectre ponctuel pour dsigner len-
semble des valeurs propres de u. Mais on prendra bien garde quil peut y avoir des l-
ments non isols de Sp(u) qui sont aussi des valeurs propres de u : la runion dans lgalit
Sp(u) = Sp
ess
(u) Vp(u) nonce dans la proposition 1.48 nest pas forcment disjointe.
54
Exercice E.18 Soient H un espace de Hilbert complexe, et u L(H ) un oprateur
auto-adjoint compact. Pour tout C, notons p

la projection orthogonale de H sur le

sous-espace vectoriel (ferm) E

= Ker(u id).
(1) Pour toute application f C(Sp(u)) telle que f(0) = 0 si 0 Sp(u), montrer que
loprateur continu f(u) est compact.
(2) Montrer que u =

Sp(u)
p

.
(3) Pour toute application f C(Sp(u)) valeurs relles telle que f(0) = 0, montrer
que f(u) =

Sp(u)
f() p

.
Lcriture u =

Sp(u)
p

obtenue dans cet exercice sappelle la rsolution spectrale

de loprateur auto-adjoint compact u. Le but de la partie suivante est de montrer que
tout oprateur auto-adjoint admet une telle dcomposition, quitte remplacer somme par
intgrale (son spectre ntant pas forcment dnombrable).
1.7 Rsolution spectrale des oprateurs auto-adjoints
Le but de ce chapitre est, outre dtendre le calcul fonctionnel continu des fonctions
plus gnrales, de dcrire un oprateur auto-adjoint dun espace de Hilbert complexe par
des quantits dnies sur son spectre.
Rsolutions de lidentit.
Un rle important pour notre but va tre jou par les projecteurs orthogonaux.
Proposition 1.50 Soient H un espace de Hilbert complexe, et P L(H ). Alors P est
la projection orthogonale sur un sous-espace vectoriel ferm de H si et seulement si P est
un oprateur auto-adjoint idempotent (cest--dire P
2
= P) de H . De plus, P est alors
positif (et P(x), x) = |P(x)|
2
pour tout x H ), et P est la projection orthogonale sur
son image P(H ).
Dmonstration. Si P est la projection orthogonale sur un sous-espace vectoriel ferm F
de H , alors pour tous x et y dans H , les vecteurs P(x) et y P(y), ainsi que P(x) x
et P(y), sont orthogonaux, et donc P(x), y) = P(x), P(y)) = x, P(y)). Ceci montre que
P est auto-adjoint, et positif, car P(x), x) = P(x), P(x)) 0. Comme la restriction de
P F est lidentit, P est idempotent.
Rciproquement, soit P un oprateur auto-adjoint idempotent. Si y = P(x), alors
P(y) = P
2
(x) = P(x) = y. Donc limage P(H ) est contenue dans le noyau de id P, donc
gal ce noyau (car rciproquement, si x ker(id P), alors x = P(x), donc x appartient
limage de P), et en particulier, P(H ) est ferm. Puisque P est auto-adjoint, pour tous
x, y dans H , P(y), x P(x)) = y, P(x) P
2
(x)) = 0. Donc P(x) est un vecteur de
P(H ) tel que P(x) x soit orthogonal P(H ), ce qui montre le rsultat.
Dnition 1.51 Soit H un espace de Hilbert complexe. Une famille (P

)
R
doprateurs
auto-adjoints de H est appel une rsolution de lidentit de H si
(a) P

= P
min{,}
;
(b) P

= 0 si est assez petit, et P

= id si est assez grand ;

(c) pour tout x dans H , lim

+ P

(x) = P

(x).
55
Remarquons que par la proposition 1.50, puisque P

est idempotent (P

= P

par
la condition (a)), loprateur P

est un projecteur orthogonal.

La premire proprit sappelle la proprit de croissance, la troisime la proprit de
continuit faible droite. Lorsque lon sintresse des oprateurs linaires continus dont
le domaine de dnition nest pas tout lespace de dpart (dit non borns), la condition (b)
est remplace par lim

(x) = 0 et lim
+
P

(x) = x, pour tout x H .

Exemple. Soit u un oprateur auto-adjoint compact dun espace de Hilbert complexe
H . Pour tout R, notons E

= Ker(u id). Par le thorme 1.41, ces sous-espaces

vectoriels sont ferms, deux deux orthogonaux, et rduits 0 sauf pour au plus un
ensemble dnombrable dentre eux. Notons P

la projection orthogonale sur la somme

hilbertienne des E

pour . Alors (P

)
R
est une rsolution de lidentit.
Soient H un espace de Hilbert complexe et (P

)
R
une rsolution de lidentit de
H . Il dcoule des proprits (a), (b), (c) des rsolutions de lidentit et des proprits des
projections orthogonales que pour tout x dans H , lapplication de R dans R dnie par
P

(x), x)
est une application nulle au voisinage de , gale |x|
2
au voisinage de +, continue
droite, et croissante (car pour tout x H , si , alors
P

(x), x) = |P

(x)|
2
= |P

(x)|
2
|P

(x)|
2
= P

(x), x)
puisque P

est de norme au plus 1).

Le rsultat suivant est montr par exemple dans [Coh, page 23].
Thorme 1.52 Si F : R R est une fonction borne, croissante, continue droite,
nulle sur ] , m[ et constante sur ]M, +[, alors il existe une unique mesure positive
borlienne nie sur R, support contenu dans [m, M], telle que (] , ]) = F() pour
tout R.
Une telle mesure est appele une mesure de Stieljes, et note dF. Par unicit, si t 0 et
G : R R est une telle autre fonction, alors F +tG est aussi borne, croissante, continue
droite, nulle sur ] , m[ et constante sur ]M, +[, et d(F +tG) = dF +tdG. De plus,
|dF| = lim
+
F() = max F.
Pour tout x H , nous noterons dP

(x), x) la mesure de Stieljes de lapplication

P

(x), x), qui vrie les hypothses du thorme ci-dessus.

Proposition 1.53 Soient H un espace de Hilbert complexe, (P

)
R
une rsolution de
lidentit, et f C(R; C). Il existe un unique oprateur continu u L(H ) tel que, pour
tout x H ,
u(x), x) =
_
R
f() dP

(x), x) .
Cet oprateur continu est auto-adjoint si f est valeurs relles, et positif si f est valeurs
positives.
Cet oprateur continu sera not
u =
_
R
f() dP

.
56
Dmonstration. Pour tout x H , notons q(x) =
_
R
f() dP

(x), x). Par les propri-

ts des mesures de Stieljes, la mesure dP

(x), x) est de norme gale |x|

2
et son support
est compact, contenu dans [m, M] si P

= 0 pour < m et P

= id pour > M. Donc

q(x) est bien dni, et si C = max
[m,M]
[f()[ (qui est ni), alors pour tout x dans
H , nous avons [q(x)[ C|x|
2
. Par les proprits des mesures de Stieljes, lapplication
a : H H C dnie par
a(x, y) =
1
2
_
q(x +y) q(x) q(y)
_
+
i
2
_
q(x +iy) q(x) q(y)
_
est sesquilinaire, et hermitienne si f est relle. Donc pour tous x, y dans H de norme 1,
nous avons [a(x, y)[ 6C, donc a est continue.
Le rsultat dcoule alors du corollaire 1.14 au thorme de dualit de Riesz-Frchet,
qui dit quil existe un unique u L(H ) tel que u(x), y) = a(u, y) pour tous x, y H .

Lun des buts de la partie suivante est de montrer que tout oprateur (linaire continu)
auto-adjoint sur un espace de Hilbert complexe est de cette forme.
Rsolutions spectrales et calcul fonctionnel born.
Thorme 1.54 Soient H un espace de Hilbert complexe non rduit 0 et u L(H )
un oprateur auto-adjoint de H .
A (Rsolution spectrale) Il existe une et une seule rsolution de lidentit (P

)
R
,
appele la rsolution spectrale de u, telle que, pour tout f C
_
Sp(u)
_
,
f(u) =
_
Sp(u)
f() dP

. (8)
B (Calcul fonctionnel born) Il existe un et un seul morphisme dalgbres involutives
de L

_
Sp(u)
_
dans L(H ) tel que (id) = u, vriant la proprit de continuit (#) :
si g L

_
Sp(u)
_
est limite simple dune suite (g
n
)
nN
dans L

_
Sp(u)
_
uniformment
borne, alors (g
n
)(x) converge vers (g)(x) dans H , pour tout x H .
De plus, pour tout g L

_
Sp(u)
_
,
(i) la restriction de C
_
Sp(u)
_
est ;
(ii) la norme de est au plus 1 ;
(iii) si g est valeurs relles, alors loprateur continu (g) est auto-adjoint ; si g est
valeurs positives ou nulles, alors loprateur continu (g) est positif ;
(iv) (g) commute avec tout oprateur continu commutant avec u;
(v) si est une valeur propre de u, alors g() est une valeur propre de (g) et lespace
propre Ker(u id) de u associ est contenu dans lespace propre Ker((g)
g() id) de (g) associ g().
Nous utiliserons dans la suite la notation g(u) au lieu de (g), pour tout lment
g L

_
Sp(u)
_
. Lapplication g g(u) de L

_
Sp(u)
_
dans L(H ) vrie donc, pour
tous g, g

_
Sp(u)
_
et C,
(g +g

)(u) = g(u) +g

(u),
57
g(u)

= g (u),
(gg

)(u) = g(u) g

(u) et id(u) = u,
|g(u)| |g|

,
Dmonstration. Lassertion (i) est immdiate, par la proprit dunicit du calcul fonc-
tionnel continu , car
|C(Sp(u))
: C
_
Sp(u)
_
L(H ) est un morphisme dalgbres invo-
lutives envoyant id sur u.
Montrons lunicit de . Puisque toute fonction mesurable borne de Sp(u) dans
[0, +[ est limite croissante de fonctions continues de Sp(u) dans [0, +[ , lunicit r-
sulte de lassertion (i), de la proprit de continuit (#), et de la linarit de (en crivant
g L

(Sp(u)) comme g = g
1
g
2
+ i(g
3
g
4
) avec g
1
, g
2
, g
3
, g
4
mesurables bornes de
Sp(u) dans [0, +[ , par exemple g
1
= max0, Re g).
Montrons lexistence de . Par le calcul fonctionnel continu, pour tous x, y dans H ,
lapplication de C(Sp(u)) dans C dnie par f f(u)x, y) (en notant pour allger les
notations f(u)x = f(u)(x)) est une forme linaire continue, de norme au plus |x||y|
(par lingalit de Cauchy-Schwarz et puisque |f(u)| = |f|

). Donc par le thorme de

reprsentation de Riesz 1.6, il existe une unique mesure borlienne complexe
x,y
sur le
compact Sp(u) telle que, pour tout f C(Sp(u)),
_
Sp(u)
f d
x,y
= f(u)x, y) .
Nous allons montrer les proprits suivantes :
(1) |
x,y
| |x||y| ;
(2)
x+x

,y
=
x,y
+
x

,y
;
(3)
y,x
=
x,y
;
(4) pour tout h C(Sp(u)), nous avons h d
x,y
= d
h(u)x,y
.
Les trois premires proprits signient que lapplication (x, y)
x,y
est une application
sesquilinaire continue de norme au plus 1 de H H dans lespace de Banach complexe
M
C
_
Sp(u)
_
des mesures borliennes complexes sur Sp(u).
La premire assertion dcoule de la dnition de la norme dune mesure complexe sur
Sp(u), comme norme duale de la forme linaire continue sur C(Sp(u)) quelle dnit. La
seconde est immdiate par unicit. Si f est valeurs relles, alors f(u) est auto-adjoint,
donc pour tous x, y dans H , nous avons f(u)x, y) = x, f(u)y) = f(u)y, x) ; deux me-
sures complexes qui donnent les mmes valeurs aux fonctions continues valeurs relles
concident ; la troisime assertion en dcoule. Enn, la dernire assertion vient du fait que
(fh)(u) = f(u) h(u) pour tous f, h C(Sp(u)).
Pour toute application mesurable borne g : Sp(u) C, lapplication de H H dans
C dnie par (x, y)
_
Sp(u)
g d
x,y
est une forme sesquilinaire par les assertions (2) et
(3), qui entranent que
x,y+y
=
x,y
+
x,y
. Cette forme sesquilinaire est continue
en 0 par lassertion (1) et puisque g est borne, donc est continue. Donc par le corollaire
1.14 du thorme de Riesz-Frchet, il existe un unique oprateur continu (g) L(H )
tel que, pour tous x et y dans H ,
(g)x, y) =
_
Sp(u)
g d
x,y
.
58
Notons que (g) = g(u) si g est continue, et en particulier (id) = u. Par unicit, lappli-
cation : g (g) de L

_
Sp(u)
_
dans L(H ) est linaire. Nous avons, pour tous x et
y dans H ,
(g)x, y) =
_
Sp(u)
g d
x,y
=
_
Sp(u)
g d
y,x
= (g)y, x) = (g)

x, y) ,
donc (g) = (g)

. Soient f et g dans L

_
Sp(u)
_
, montrons que (fg) = (f) (g).
Pour tous x et y dans H , pour tout h C(Sp(u)), nous avons par lassertion (4),
_
Sp(u)
fh d
x,y
=
_
Sp(u)
f d
h(u)x,y
= (f)
_
h(u)x
_
, y) = h(u)x, (f)

y)
=
_
Sp(u)
h d
x,(f)

y
.
Les mesures complexes f d
x,y
et d
x,(f)

y
sont donc gales, donc
(fg)x, y) =
_
Sp(u)
fg d
x,y
=
_
Sp(u)
g d
x,(f)

y
= (g)x, (f)

y) = (f)(g)x, y) .
Nous avons donc montr que est un morphisme dalgbres involutives entre les algbres
stellaires L

_
Sp(u)
_
et L(H ). En particulier, par la proposition 1.44 (2), lapplication
est de norme au plus 1, ce qui montre (ii).
Montrons que vrie la proprit de continuit (#). Soit (g
n
)
nN
une suite unifor-
mment borne dans L

_
Sp(u)
_
convergeant simplement vers g L

_
Sp(u)
_
. Pour
tous x et y dans H , le thorme de convergence domine de Lebesgue implique que
(g
n
)x, y) =
_
Sp(u)
g
n
d
x,y
converge vers (g)x, y) =
_
Sp(u)
g d
x,y
. Donc ((g
n
)x)
nN
converge faiblement vers (g)x dans H . De plus (g
n
g
n
)
nN
tant une suite uniform-
ment borne convergeant simplement vers gg, et puisque est un morphisme dalgbres
involutives, nous avons que
|(g
n
)x|
2
= (g
n
)

(g
n
)x, x) = (g
n
g
n
)x, x)
n+
(gg)x, x) = |(g)x|
2
.
Par le critre de convergence forte 1.22, la suite ((g
n
)x)
nN
converge donc vers (g)x
dans H .
Montrons lunicit dune rsolution spectrale de u. Si (P

)
R
est une rsolution de
lidentit vriant lquation (8), alors pour tout x H , la mesure de Stieljes dP

(x), x)
est uniquement dtermine (par lunicit dans le thorme de reprsentation de Riesz 1.6).
Or une mesure de Stieljes dtermine uniquement la fonction F qui la dnit, puisque
F() = (] , ]) pour tout R. Donc P

(x), x) est uniquement dtermin, et les

produits scalaires
P

(x), y) =
1
2
_
P

(x +y), x +y) P

(x), x) P

(y), y)
_
+
1
2i
_
P

(ix +y), ix +y) P

(x), x) P

(y), y)
_
(car P

est auto-adjoint) sont uniquement dtermins, donc la rsolution de lidentit

(P

)
R
est uniquement dtermin.
59
Montrons lexistence dune rsolution spectrale de u. Pour tout R, notons

la
fonction caractristique de lintervalle ] , ] (qui est mesurable borne), et posons P

=
(

). Remarquons que

=
inf{,}
, que

vaut 0 (respectivement 1) sur le compact

Sp(u) de R si est assez petit (respectivement assez grand), et que

converge simplement
vers

quand tend vers par valeurs suprieures, et que les

sont uniformment
bornes par 1. Puisque est un morphisme dalgbres vriant la proprit de continuit
(#), la famille (P

)
R
est donc une rsolution de lidentit. Puisque le support de
x,x
est
contenu dans Sp(u), nous avons
P

(x), x) =
_
Sp(u)

d
x,x
=
x,x
(] , ])
pour tout x dans X. Par unicit, la mesure de Stieljes dP

(x), x) est donc gale

x,x
.
Ceci montre en particulier que la mesure
x,x
est positive. La formule (8) dans la partie A
du thorme 1.54 dcoule alors de la dnition des mesures
x,y
.
Montrons lassertion (iii). Si g est valeurs relles, puisque est un morphisme dal-
gbres involutives, nous avons (g)

= (g) = (g), donc (g) est auto-adjoint. Si g

est valeurs positives, puisque
x,x
est une mesure positive, nous avons (g)x, x) =
_
Sp(u)
g d
x,x
0 pour tout x H , donc (g) est positive.
Montrons lassertion (iv). Si v L(H ) commute avec u, alors v commute avec
P(u) pour tout polynme u, donc avec f(u) pour tout f C(Sp(u)) par densit et par
continuit du calcul fonctionnel continu . Par la proprit de continuit (#), pour tous
g L

(Sp(u)) et x H , par continuit de v, nous avons donc (g)(v(x)) = v((g)x),

donc v commute avec (g).
Montrons la dernire assertion (v). Si x H est un vecteur propre de u associ
la valeur propre , alors, par les proprits du calcul fonctionnel continu, (f)(x) =
f(u)(x) = f()x pour tout f C(Sp(u)). Comme toute fonction mesurable borne est
limite simple croissante de fonctions continues, la proprit de continuit (#) implique que
(g)(x) = g()x pour tout g L

(Sp(u)).
Exercice E.19 Soient H un espace de Hilbert complexe et u L(H ).
(1) Montrer que si u est inversible, alors il existe un unique couple (v, w) dlments
de L(H ) tels que v soit unitaire et w positif.
(2) Montrer que si u est auto-adjoint, alors il existe un couple (v, w) dlments de
L(H ) tels que v soit unitaire, w soit positif, et u, v et w commutent deux deux.
Ce couple (v, w) est appel la dcomposition polaire de u, si u est inversible, et une
dcomposition polaire de u, si u est auto-adjoint. Remarquons quil ny a pas unicit en
gnral dans lassertion (2), car loprateur nul 0 est auto-adjoint, et scrit v 0 pour tout
oprateur unitaire v.
Lorsque H = C, tout oprateur linaire inversible u est la multiplication par un nombre
complexe non nul z, et v et w sont les multiplications par respectivement
z
|z|
= e
i arg z
et [z[.
Si H = C
n
, le rsultat (i) est dj connu : pour tout lment M de GL
n
(C), il existe un
unique couple (U, P) U(n) Herm
+
(n) tel que M = UP, o U(n) est le groupe unitaire
de C
n
(des matrices U GL
n
(C) telles que U
1
= U

) et Herm
+
(n) est le sous-ensemble
de M
n
(C) des matrices hermitiennes dnies positives (des matrices P telles que P = P

et valeurs propres strictement positives).

60
Mesures spectrales.
Soient H un espace de Hilbert complexe, et u L(H ) un oprateur auto-adjoint
de H . Pour tout x H , il existe une et une seule mesure borlienne positive nie
x
sur R de support contenu dans Sp(u) telle que, pour toute application mesurable borne
f : Sp(u) C, nous ayons
f(u)x, x) =
_
Sp(u)
f() d
x
() . (9)
Elle est appele la mesure spectrale de x pour loprateur auto-adjoint u. Lunicit de

x
dcoule de lunicit dans le thorme de reprsentation de Riesz 1.6. Pour lexistence,
il sut de remarquer que la mesure note
x,x
dans la dmonstration du thorme 1.54
convient. Si (P

)
R
est la rsolution spectrale de u, alors comme vu dans la dmonstration
ci-dessus,
x
est la mesure de Stieljes de lapplication P

(x), x) : avec les notations

dj vues,
d
x
() = dP

(x), x) .
Un vecteur x de H est dit cyclique (ou totalisateur) pour un oprateur lineaire continu
v L(H ) si le sous-espace vectoriel ferm de H engendr par les v
n
(x) pour n N est
gal H . Un oprateur lineaire continu v L(H ) est dit (topologiquement) irrductible
si H nadmet pas de sous-espace vectoriel ferm dirent de 0 et H invariant par v.
Si v est irrductible, alors v admet un vecteur cyclique : tout vecteur non nul x de H est
un vecteur cyclique pour v, car le sous-espace vectoriel ferm engendr par les v
n
(x) pour
n N est non nul et invariant par u, par linarit et continuit de u. Mais la rciproque
nest pas vraie en gnral.
Exercice E.20 Soient H un espace de Hilbert complexe sparable et u L(H ) un
oprateur auto-adjoint. Montrer que H est somme directe orthogonale nie ou hilbertienne
dune suite nie ou dnombrable (H
n
)
0n<N
(o N N+) de sous-espaces vectoriels
ferms de H , invariants par u et admettant un vecteur cyclique pour la restriction de u.
Les proprits fondamentales des mesures spectrales (outre leur dnition) sont rsu-
mes dans le rsultat suivant.
Proposition 1.55 Soient H un espace de Hilbert complexe, u L(H ) un oprateur
auto-adjoint de H , x H et
x
la mesure spectrale de x pour u.
(a) La masse totale de la mesure spectrale
x
est |x|
2
.
(b) Pour toute application mesurable borne g L

(Sp(u)), la mesure spectrale

g(u)x
de g(u)x pour u est absolument continue par rapport la mesure spectrale de x et
d
g(u)x
d
x
= [g[
2
.
(c) Si x est un vecteur cyclique pour u, alors le support de la mesure spectrale
x
est gal
au spectre de u.
(d) Si H est sparable, alors le spectre de u est gal ladhrence de la runion des
supports des mesures spectrales des lments de H .
61
Dmonstration. (a) Il sut de prendre la fonction constante gale 1 dans lquation
(9) dnissant la mesure spectrale.
(b) Le calcul fonctionnel born tant un morphisme dalgbres involutives, nous avons,
pour tout h C(Sp(u)),
_
Sp(u)
h d
g(u)x
= h(u)g(u)x, g(u)x) = g(u)

h(u)g(u)x, x) = (ghg)(u)x, x)
=
_
Sp(u)
ghg d
x
=
_
Sp(u)
h [g[
2
d
x
,
ce qui montre le rsultat, par lunicit dans le thorme de reprsentation de Riesz 1.6.
(c) Voir par exemple [Lev].
(d) Ceci dcoule de (c) et des exercices E.20 et E.17.
1.8 Exercices rcapitulatifs
Exercice E.21 Soient H un espace de Hilbert complexe, et v et w deux lments de
L(H ) tels que w v soit un oprateur compact. Montrer que
Sp(w) Vp(w) Sp(v) .
Exercice E.22 Soit H un espace de Hilbert complexe.
(1) Pour tout oprateur positif u L(H ) et pour tout n N 0, montrer quil
existe un et un seul oprateur positif v L(H ) tel que v
n
= u, que nous noterons v =
n

u
(et v =

u si n = 2). Calculer le spectre de
n

u en fonction du spectre de u. Montrer que

n

u est inversible si u lest, et calculer linverse de

n

u en fonction de linverse de u.
(2) Pour tout u L(H ), montrer que

u

u est lunique oprateur positif v L(H )

tel que |v(x)| = |u(x)| pour tout x H .
62
2 Quelques aspects des fonctions harmoniques
Loprateur laplacien =

n
i=1

2
x
2
i
et ses variantes interviennent dans de nombreux
domaines en mathmatique et en physique : thorie du potentiel (analyse harmonique et
sous-harmonique), gomtrie riemannienne (spectre du laplacien), processus stochastique
(mouvement brownien), thorie de la diusion (quation de la chaleur), dynamique des
uides (quation de Navier
6
-Stokes
6
pour les ots incompressibles), lectromagntisme
(quation des ondes).
Les rfrences particulirement recommandes pour ce chapitre sont [Rud1, Bre, Far].
2.1 Lespace vectoriel des fonctions harmoniques planes
Nous identions R
2
dont un point gnrique est not (x, y) avec C dont un point
gnrique est not z, par lapplication (x, y) z = x+iy. Nous notons

x
et

y
les drives
par rapport la premire coordonne et la seconde coordonne dans R
2
respectivement,
ainsi que
=
1
2
_

x
i

y
_
et =
1
2
_

x
+i

y
_
.
Loprateur laplacien (de lespace euclidien de dimension 2) est
=

2
x
2
+

2
y
2
= 4 = 4 ,
comme le montre immdiatement un petit calcul et le lemme de Schwarz (de commutation
de

x
et

y
). Il est linaire et la premire formule montre quil envoie toute fonction relle
(deux fois direntiable) sur une fonction relle.
Une fonction harmonique est une application deux fois direntiable f : C, o
est un ouvert de C, telle que
f = 0 .
Cette quation sappelle lquation de Laplace
6
dans .
Exemples. (1) Toute fonction holomorphe est harmonique, car une application holo-
morphe est deux fois direntiable, et si f = 0, alors f = 0. Par exemple, lapplication
z Re z de C dans C est harmonique, mais pas holomorphe.
(2) Une application dun ouvert de C dans C est harmonique si et seulement si sa
partie relle et sa partie imaginaire le sont.
Lensemble Harm() des fonctions harmoniques de dans C est un sous-espace vec-
toriel de lespace vectoriel des applications de dans C, stable par conjugaison et par
passage aux parties relles et imaginaires.
Le produit des applications harmoniques z z et z z est lapplication non harmo-
nique z [z[
2
(car (zz) = z = 1).
6
Stokes
(1819-1903)
Navier
(1785-1836) (1749-1827)
Laplace Poisson
(1781-1840) (1875-1945)
Lebesgue
63
(3) Soient U et V deux ouverts de C, f : U V une fonction holomorphe et h : V C
une application de classe C
2
. Alors
(h f) = (h) f [f

[
2
.
En eet,
(h f) =
_
h f f +h f f
_
=
_
h f f

_
=
_

2
h f f +h f f
_
f

.
En particulier, si f est holomorphe et si h est harmonique, alors leur application compose
h f est harmonique.
Par exemple, la compose des deux fonctions harmoniques z Re z de CiR dans C

et z ln [z[ de C

dans C est lapplication non harmonique z ln [ Re z[ (car localement

ln [z[ =
1
2
(ln z + ln z) = 0 et (ln [ Re z[) =

2
x
2
ln[x[ =
1
x
2
,= 0).
2.2 Noyau et intgrale de Poisson sur le cercle
Le but de cette partie est dtudier lespace des fonctions harmoniques dnies sur le
disque unit ouvert du plan.
Notons D = z C : [z[ < 1 le disque unit ouvert, D = z C : [z[ 1 le disque
unit ferm et S
1
= D = z C : [z[ = 1 le cercle unit de C.
La mesure de Lebesgue
6
sur le cercle unit.
La mesure de Lebesgue sur S
1
est lunique mesure borlienne positive de masse totale
2, invariante par rotations. Si est la mesure de Lebesgue sur R et si : [0, 2[ S
1
est lapplication e
i
, alors =

est la mesure image de (la restriction [0, 2[

de) par , cest--dire que pour tout borlien A du cercle, (A) = (
1
(A)), ou, de
manire quivalente, pour toute fonction continue f : S
1
C, en notant de manire usuelle
d = d(),
_
S
1
f() d() =
_
2
0
f(e
i
) d .
Bien sr, par invariance par translations de , nous pouvons remplacer lintervalle [0, 2]
par nimporte quel intervalle de longueur 2. De plus, f est intgrable pour (cest--dire
appartient L
1
(S
1
, ; C)) si et seulement si lapplication f(e
i
) est intgrable pour la
mesure de Lebesgue sur [0, 2] (cest--dire appartient L
1
([0, 2], ; C)), et alors lgalit
prcdente est encore vrie.
Rappelons quun automorphisme conforme (ou biholomorphisme) dun ouvert de C
est une bijection de dans , holomorphe et dinverse holomorphe. Muni de la composition
des applications, lensemble Aut() des automorphismes conformes de est un groupe.
Rappelons (voir par exemple [Rud1, chap. 12]) que lensemble Aut(D) des automorphismes
conformes du disque ouvert D est lensemble des applications

,a
: z e
i
z a
1 az
o R/2Z et a D.
64
Il est facile de voir que cette application
,a
est holomorphe sur D, et mme holomorphe
sur le disque ouvert strictement plus grand z C : [z[ <
1
|a|
. Elle prserve le disque
ouvert unit D et le cercle unit S
1
car le rel

z a
1 az

2
=
[z[
2
2 Re(za) +[a[
2
1 2 Re(az) +[a[
2
[z[
2
est gal 1 (respectivement est strictement infrieur 1) si [z[ = 1 (respectivement [z[ < 1).
Elle est bijective de D dans D, dinverse
,ae
i : w e
i z+a e
i
1+a e
i
z
. Elle envoie le point a
sur le point 0. En particulier, les automorphismes conformes de D xant 0 sont exactement
les rotations
,0
: z e
i
z.
La mesure de Lebesgue sur S
1
est invariante par les rotations, mais elle nest pas
invariante par tous les automorphismes conformes de D. En eet, par le thorme de
changement de variable en posant e
is
=
,a
(e
it
), nous avons, pour tout f C(S
1
; C),
_
2
0
f(e
is
) ds =
_
2
0
f
,a
(e
it
)

,a
(e
it
)

dt .
Pour tout S
1
, le jacobien en de lapplication holomorphe
,a
pour la mesure de
Lebesgue existe donc et vaut
d(
,a
)

d
() =

,a
()

=
1 [a[
2
[1 a[
2
=
1 [a[
2
[ a[
2
,
puisque = 1 / . Ce jacobien nest pas constant gal 1 si a ,= 0 (il vaut alors par exemple
1 + [a[ > 1 au point =
a
|a|
). Ce jacobien, qui est indpendant de , sera not P
a
(), et
sera appel le noyau de Poisson de D dans ce qui suit.
Le noyau de Poisson.
6
Le noyau de Poisson de D est lapplication continue P : DS
1
]0, +[ dnie par
(z, ) P
z
() =
1 [z[
2
[ z[
2
.
Des petits calculs donnent les expressions suivantes du noyau de Poisson, o = e
it
S
1
et z = r e
i
D :
P
z
() = Re
_
+z
z
_
(10)
=
1 r
2
1 2r cos(t ) +r
2
(11)
=

nZ
r
|n|
e
in(t)
. (12)
(Utiliser Re
a
b
=
1
2
(
a
b
+
a
b
) =
1
2
ab+ab
|b|
2
pour obtenir la formule (10). Remplacer z par re
i
et
par e
it
dans la dnition de P pour obtenir (11). Pour la formule (12), il sut dcrire
la srie absolument convergente

nZ
r
|n|
e
int

en sparant les n < 0, n = 0, n > 0 ; deux

sries gomtriques apparaissent, et la somme de cette srie est alors
r e
it

1r e
it

+1+
r e
it

1r e
it

.)
65
nonons les proprits de base du noyau de Poisson. La formule (12), ou directement
le thorme de changement de variable, montre que
_
S
1
P
z
() d() =
_
S
1
d = 2 .
La dnition du noyau de Poisson montre que
P
z
() = P
z
( ) ,
que si

S
1
et r [0, 1[ , alors, en utilisant le fait que w
1
= w si w S
1
,
P
r
() = P
r
(

) = P
r
(

) ,
et que, par lingalit triangulaire,
1 [z[
1 +[z[
P
z
() =
(1 [z[)(1 +[z[)
[ z[
2

1 +[z[
1 [z[
.
La formule (10) montre que, pour tout S
1
, lapplication z P
z
() de D dans R est
harmonique, comme partie relle dune application holomorphe. La formule (11) montre que
lapplication t P
z
(e
it
) est strictement dcroissante sur lintervalle [, +] si z = r e
i
.
Remarquons que pour tous
0
, S
1
, nous avons
lim
z
0
P
z
() =
_
0 si
0
,=
+ sinon .
De plus, la convergence vers 0 de P
z
() quand z tend vers
0
est uniforme pour en dehors
de tout voisinage de
0
.
Remarque. En terme de mesures, ceci entrane que la mesure de probabilit
1
2
P
z
() d()
sur S
1
converge (pour la convergence faible-toile, dite aussi vague) vers la masse de Dirac
en
0
quand z
0
. Rappelons quune suite (
n
)
nN
de mesures borliennes de probabilit
sur un espace topologique compact X converge vaguement vers une mesure de probabilit
sur X si et seulement si, pour tout f C(X; C), la suite
_

n
(f) =
_
X
f d
n
_
nN
converge
vers (f) =
_
X
f d dans C.
Lintgrale de Poisson.
Si f L
1
(S
1
, ; C) est une application intgrable du cercle dans C, nous appellerons
intgrale de Poisson de f lapplication Pf = P[f] : D C dnie par
Pf(z) =
1
2
_
S
1
P
z
()f() d() .
Si est une mesure borlienne complexe sur S
1
, nous appellerons intgrale de Poisson de
lapplication P = P[] : D C dnie par
P(z) =
_
S
1
P
z
() d() .
Certaines rfrences (dont [Rud1]) mettent un facteur
1
2
devant cette intgrale. Bien sr,
si f L
1
(S
1
, ; C), alors d() =
1
2
f() d() est une mesure borlienne complexe sur
S
1
, et P = Pf.
66
Par les proprits de continuit des intgrales paramtres, le noyau de Poisson tant,
pour tout compact K de D, uniformment continu sur K S
1
, lintgrale de Poisson est
continue sur D (nous verrons que la rgularit est bien plus importante, en particulier C

,
par le thorme de Poisson 2.1 (1) et la proposition 2.3).
Notons que P est une application linaire de lespace vectoriel M
C
(S
1
) des
mesures borliennes complexes sur S
1
valeurs dans lespace vectoriel C(D; C) des ap-
plications continues de D dans C, et donc que f Pf est une application linaire de
L
1
(S
1
, ; C) dans C(D; C). Lorsque C(D; C) est munie de la topologie de la convergence
uniforme sur les compacts, ces applications sont continues : pour tout compact K de D, si
c
K
= sup
(z,)KS
1
P
z
(), nous avons, pour tous M
C
(S
1
) et f L
1
(S
1
, ; C),
sup
zK
[P(z)[ c ||
M
C
(S
1
)
et sup
zK
[Pf(z)[ c |f|
L
1
(S
1
,

2
; C)
Thorme 2.1 (Thorme de Poisson) (1) Pour toute mesure borlienne complexe
sur S
1
, lapplication P : D C est harmonique, valeurs relles (respectivement
positives) si est une mesure relle (respectivement positive).
(2) Si f L
1
(S
1
, ; C) est continue en un point
0
S
1
, alors lapplication u : D
0

C, qui concide avec Pf sur D et vaut f(
0
) en
0
, est continue.
(3) Si u : D C est une application continue sur D et harmonique sur D, alors u
concide sur D avec lintgrale de Poisson de sa restriction S
1
: pour tout z D,
u(z) = P[u
|S
1
](z) =
1
2
_
S
1
P
z
() u() d() . (13)
En particulier, si u est relle, alors u est gale sur D la partie relle de lapplication
holomorphe z
_
S
1
+z
z
u() d().
Il dcoule de (1) que pour tout f L
1
(S
1
, ; C), lapplication Pf : D C est harmo-
nique ; de plus, Pf est valeurs relles ou positives si f lest.
Il dcoule de (2) que si f C(S
1
; C) est une application continue du cercle dans C,
alors lapplication u : D C qui concide avec f sur S
1
et avec Pf sur D est continue.
La formule (13) est appele la formule de Poisson.
Dmonstration. (1) Si est une mesure relle, alors pour tout z D, nous avons
P(z) = Re
_
_
S
1
+z
z
d()
_
.
Donc P est harmonique, comme partie relle dune application holomorphe (ceci par la
proposition B.1 de lappendice B, ou par le thorme de dpendance holomorphe en le
paramtre dune intgrale paramtres). Comme toute mesure complexe scrit
1
+i
2
o
1
et
2
sont des mesures relles, le premier rsultat en dcoule par linarit. Comme
le noyau de Poisson est valeurs positives, les autres armations sont immdiates.
(2) Rappelons que la famille (P
z
)
zD
dapplications continues de S
1
dans R vrie les
proprits suivantes des familles rgularisantes :
P
z
0,
|P
z
|
L
1
(S
1
,

2
)
= 1,
67
pour tout > 0 x, P
z
() converge vers 0, uniformment sur S
1
: [
0
[ ,
quand z tend vers
0
.
Par cette dernire proprit, et par continuit en
0
de f, pour tout > 0, il existe
> 0 tel que, pour tout S
1
tel que [
0
[ , nous ayons [f() f(
0
)[ et tel
que, pour tout z susamment proche de
0
et pour tout S
1
tel que [
0
[ , nous
ayons P
z
() . Alors
[Pf(z) f(
0
)[ =

_
S
1
(f() f(
0
))P
z
()
d()
2

_
S
1
[f() f(
0
)[P
z
()
d()
2

_
sup
|
0
|
P
z
()
_
_
|
0
|
[f() f(
0
)[
d()
2
+
_
sup
|
0
|
[f() f(
0
)[
_
_
|
0
|
P
z
()
d()
2

_
|f|
L
1
(S
1
,

2
)
+[f(
0
)[ + 1
_
,
ce qui montre le rsultat.
(3) Par linarit, en crivant une fonction valeurs complexes comme somme de sa
partie relle et de sa partie imaginaire multiplie par i, nous pouvons supposer que u est
valeurs relles. Notons v = u P[u
|S
1
], qui est continue sur D, nulle sur S
1
et harmonique
sur D, par les assertions (2) et (1). Montrons que v = 0. Par labsurde, supposons quil
existe un point z
0
D en lequel v ne sannule pas. Quitte remplacer u par u, nous
pouvons supposer que v(z
0
) > 0. Posons =
v(z
0
)
8
> 0. Lapplication w : D R dnie
par
w(z) = v(z) +(Re(z z
0
))
2
4
est continue sur D, ngative ou nulle sur S
1
(car [z z
0
[ [z[ + [z
0
[ 2), et strictement
positive en z
0
, par dnition de . Elle atteint donc son maximum sur le compact D en
un point z
1
de D. En particulier, les drives

2
w
x
2
et

2
w
y
2
sont ngatives ou nulles en z
1
.
Donc w(z
1
) 0. Mais un petit calcul, puisque v est harmonique en z
1
, montre que
w(z
1
) = 2 > 0, une contradiction.
Une premire consquence immdiate du thorme de Poisson est la possibilit de
rsoudre lquation de Laplace avec des valeurs continues donnes au bord, dans le cas du
disque. Nous reviendrons sur ce problme pour des ouverts plus gnraux dans la partie
2.3.
Corollaire 2.2 (Problme de Dirichlet dans les disques) Soient = B(a, r) le dis-
que ouvert de centre a C et de rayon r > 0, et f : = S(a, r) C une application
continue du cercle de centre a et de rayon r dans C. Il existe une et une seule application
continue u : = B(a, r) C du disque ferm de centre a et de rayon r dans C telle que
u
|
soit de classe C
2
et
_
u = 0 dans
u
|
= f.
Dmonstration. Lapplication v = z a + rz de C dans C est holomorphe, bijective
dinverse holomorphe. Elle envoie D sur B(a, r). Lapplication u valant f sur S(a, r) et
valant P[f v
|S
1
] v
1
sur B(a, r) convient par les assertions (1) et (2) du thorme de
68
Poisson (et parce que prcomposer par une application holomorphe prserve le caractre
harmonique). Cest la seule solution au problme de Dirichlet,
7
par lassertion (3) applique
u v.
Exercice E.23 Le demi-plan suprieur est louvert H = z C : Imz > 0 de C.
(1) Montrer que lapplication Q : HR ]0, +[ dnie par
(z, t) Q
z
(t) =
Imz
[z t[
2
est continue, et vrie :
_
tR
Q
z
(t) dt = ,
Q
z
(t) = Im
_
1 +tz
t z
_
1
1 +t
2
.
En dduire que pour tout t R, lapplication z Q
z
(t) est harmonique, strictement
positive. Pour tout t
0
R, montrer que Q
z
(t
0
) converge vers + quand z tend vers t
0
radialement (cest--dire en restant dans le domaine w C : Imw > (sin )[ Re wt
0
[,
pour tout ]0, [ ) et que Q
z
(t) tend vers 0 quand z tend vers t
0
,= t, uniformment pour
t R en dehors de tout voisinage de t
0
. Montrer que Q
z
(t) tend vers 0 quand [z[ tend vers
+, uniformment pour t dans un compact de R.
(2) Notons la mesure de Lebesgue sur R (et comme dhabitude dt = d(t)). Pour tout
f L
1
(R, ; C), montrer que lapplication P
H
f = P
H
[f] : H C dnie par
P
H
f : z
1

_
tR
Q
z
(t) f(t) dt
est harmonique ; montrer que P
H
f est valeurs relles (respectivement positives) si f lest.
(3) Une application g : A C, o A est une partie de C, est dite nulle linni, si
g(z) converge vers 0 quand z A et [z[ tend vers +. Si f L
1
(R, ; C) est continue en
un point t
0
R, montrer que lapplication u : H t
0
C, qui concide avec P
H
f sur
H et vaut f(t
0
) en t
0
, est continue. En dduire que si f est continue et intgrable, alors
lapplication u : H R C, qui concide avec P
H
f sur H et vaut f sur R, est continue ;
montrer de plus que u est nulle linni si f est nulle linni.
(4) Pour tout z
0
H, montrer que lapplication h = h
z
0
de z C : Imz > 1 dans
[0, +[ dnie par z
_
Im
zz
0
(z+i)(z
0
+i)
_
2
est C

, nulle en z
0
, majore par 4 en tout point
de H R, et de laplacien strictement positif sur H. Montrer que h(z) converge vers une
valeur strictement infrieure 1 quand [z[ tend vers +.
(5) Montrer que si u : H R C est une application continue, harmonique sur H,
intgrable sur R (pour la mesure de Lebesgue) et nulle linni, alors pour tout z H,
u(z) = P
H
[u
|R
](z) =
1

_
tR
Q
z
(t) u(t) dt .
7
Dirichlet
(1805-1859)
Jordan
(1838-1922)
Carathodory
(1873-1950)
Riemann
(1826-1866)
69
Dans les sous-parties suivantes, nous dduisons du thorme de Poisson plusieurs pro-
prits des fonctions harmoniques.
Analycit des applications harmoniques.
Nous avions vu quune application holomorphe est harmonique, mais que la rciproque
nest pas vraie. Nous montrons maintenant que toute fonction harmonique relle est locale-
ment la partie relle dune application holomorphe (ce qui dcoule facilement du thorme
de Poisson), et donc vrie des proprits de rgularits bien plus forte que dtre de classe
C
2
.
Proposition 2.3 Soient un ouvert de C et u : C une fonction harmonique.
Si u est valeurs relles, pour tout z , il existe un ouvert U de C et une application
holomorphe f : U C tels que z U et u = Re f sur U.
Lapplication u est de classe C

sur , et mme analytique relle.

Lapplication u vrie le principe du prolongement analytique : si est connexe, et si
u et toutes ses drives partielles de tous ordres sannulent en un point z
0
de , alors u
est lapplication nulle.
Dmonstration. Pour tout z
0
, soit r > 0 tel que le disque ferm B(z
0
, r) soit contenu
dans . Supposons que u soit valeurs relles, et montrons que u est la partie relle dune
fonction holomorphe sur le disque ouvert B(z
0
, r). Quitte prcomposer u par lapplication
holomorphe z z
0
+rz (ce qui prserve le caractre harmonique), nous pouvons supposer
que z
0
= 0 et r = 1. Alors sur D, lapplication harmonique u, qui est continue sur D,
concide avec P[u
|S
1
] par lassertion (3) du thorme de Poisson. Cest donc la partie relle
dune application holomorphe, comme nous lavons vu dans la dmonstration de lassertion
(1) du thorme de Poisson.
Rappelons (voir lappendice B) quune application holomorphe est analytique relle,
quune application valeurs dans C est analytique relle si et seulement si ses parties relles
et parties imaginaires le sont, et quune application analytique relle vrie le principe du
prolongement analytique. Ceci conclut.
Proprit de la valeur moyenne et principe du maximum.
Le rsultat suivant donne une caractrisation purement continue des fonctions harmo-
niques u, qui permet en particulier dviter davoir vrier en pralable quelles sont de
classe C
2
: il faut et il sut que u soit en tout point z gale sa moyenne sur des cercles
de rayons susamment petits centrs en z. Le caractre ncessaire de cette condition est
une application immdiate du thorme de Poisson.
Thorme 2.4 (Formule de la moyenne) Soient un ouvert de C et u : C une
application continue. Alors u est harmonique si et seulement si, pour tout z
0
, il existe
r
0
> 0 tel que pour tout r ]0, r
0
],
u(z
0
) =
1
2
_
2
0
u(z
0
+r e
i
) d .
Nous montrerons que cette proprit est en fait vraie pour tout r
0
> 0 tel que le disque
B(z
0
, r
0
) soit contenu dans .
70
Nous montrerons ce rsultat en mme temps que le suivant, rapprocher bien sr du
principe du maximum pour les applications holomorphes : une fonction harmonique relle
qui atteint sa borne suprieure en un point (intrieur) dun ouvert connexe est constante.
Thorme 2.5 (Principe du maximum) Soient un ouvert connexe de C et u :
C une fonction harmonique. Supposons quil existe un point z
0
et un voisinage

de
x
0
dans tels que
z

, [u(z)[ [u(z
0
)[
ou, si u est valeurs relles, tel que
z

, u(z) u(z
0
) .
Alors u est constante sur .
Avant de dmontrer ce rsultat, donnons un corollaire immdiat du thorme 2.5, aussi
parfois appel principe du maximum.
Corollaire 2.6 Soient un ouvert born non vide de C et u : C une application
continue, harmonique dans . Alors [u[ et Re(u) atteignent leur maximum en au moins
un point de la frontire de .
Il est important de faire attention la formulation de ce rsultat : par exemple, si u est
constante, alors [u[ et Re(u) atteignent aussi leur maximum en un point intrieur de .
Dmonstration. Puisque u est continue et compact, [u[ (respectivement Re(u)) atteint
bien son maximum sur . Si ce maximum est atteint en un point intrieur z
0
, alors,
par le principe du maximum, u (respectivement Re(u)) est constante sur la composante
connexe
0
de z
0
, donc sur son adhrence par continuit. Donc [u[ (respectivement Re(u))
atteint aussi son maximum en un point de la frontire de
0
, qui est contenue dans celle
de .
Dmonstration des thormes 2.4 et 2.5. Notons que puisque est ouvert, et u
continue, lintgrale dans lnonc du thorme de la moyenne est bien dnie pour r
0
assez petit.
tape 1. Supposons que u soit harmonique sur , et montrons que u vrie la proprit
de la valeur moyenne.
Pour tout z
0
, soit r
0
> 0 tel que B(z
0
, r
0
) soit contenu dans , et montrons que
la formule de la moyenne est vrie pour tout r ]0, r
0
[ . Supposons tout dabord que
z
0
= 0 et que r = 1. Alors r
0
> 1, et u est continue sur D et harmonique sur D. Par le
thorme de Poisson (3), et puisque P
0
() = 1 pour tout S
1
, nous avons donc
u(0) = P[u
|S
1
](0) =
1
2
_
2
0
u(e
i
) d ,
ce qui montre le rsultat. Le cas gnral sen dduit, en prcomposant u par lapplication
holomorphe z z
0
+rz.
tape 2. Supposons que u vrie la proprit de la valeur moyenne, et montrons que u
vrie le principe du maximum.
71
Soit z
0
vriant lune des deux conditions de lnonc du thorme 2.5. Quitte
multiplier u par un nombre complexe de module 1 dans le premier cas, ou quitte ajouter
u une constante susamment grande dans le second cas, nous pouvons supposer que
u(z
0
) 0. Notons A lensemble des points z tels que u(z) = u(z
0
). Il est non vide, et
ferm car u est continue. Montrons quil est ouvert, ce qui conclut par connexit de .
Soit z A. Soit r
0
> 0 tel que B(z, r
0
) . Par la proprit de la valeur moyenne,
quitte diminuer r
0
, pour tout r ]0, r
0
[, nous avons
u(z
0
) = u(z) =
1
2
_
2
0
u(z +r e
i
) d

_
1
2
_
2
0
[u(z +r e
i
)[ d [u(z
0
)[ = u(z
0
) dans le premier cas
u(z
0
) dans le second cas.
Les cas dgalits entranent donc que u(z + r e
i
) est rel positif, gal u(z
0
). Donc
B(z, r
0
) A, et A est ouvert, ce quil fallait dmontrer.
tape 3. Supposons que u vrie la proprit de la valeur moyenne, et montrons que u
est harmonique.
Soient a et R > 0 tels que le disque ferm B(a, R) soit contenu dans . Notons
v : B(a, R) C la solution du problme de Dirichlet sur le disque B(a, R) telle que
v
|S(a,R)
= u
|S(a,R)
(voir le corollaire 2.2). Alors v u est continue sur B(a, R) et vrie la
proprit de la valeur moyenne dans B(a, R), par ltape (1) et par linarit. Par ltape
(2), v u vrie donc le principe du maximum. Le corollaire 2.6, dont la dmonstration
nutilise que le principe du maximum, peut tre appliqu v u. Donc [v u[ atteint son
maximum sur la frontire du disque (connexe) B(a, R). Comme u = v sur cette frontire,
ce maximum est nul, donc 0 [uv[ 0 : lapplication u concide donc avec v sur B(a, R),
et par consquent u est harmonique sur B(a, R). Comme la proprit dtre harmonique
est locale, ceci conclut ltape 3.
La combinaison des tapes 1 et 2 montre le thorme 2.5 du principe du maximum.
Ltape 1 est le sens direct du thorme 2.4 de la formule de la moyenne, et ltape 3 en
est le sens rciproque.
Le but de lexercice suivant est de montrer quune fonction harmonique relle h na pas
de zro isol, cest--dire que si h(z) = 0, alors il existe une suite (z
n
)
nN
qui converge vers
z, telle que z
n
,= z et h(z
n
) = 0 pour tout n N.
Exercice E.24 Soient un ouvert de C et u : R une application harmonique relle.
Pour tout z
0
tel que u(z
0
) = 0, pour tout disque ouvert D de centre z
0
et dadhrence
contenue dans , montrer que u sannule sur D. En dduire quune fonction harmonique
relle na pas de zro isol.
Ingalits de Harnack et thorme de Harnack.
Le but de cette partie est de montrer des thormes de compacit pour les fonctions
harmoniques. Le lemme crucial consiste montrer quune fonction harmonique ne peut
pas avoir de variations trop brutales : plus prcisment, si une application est harmonique
au voisinage dun disque, alors ses valeurs au bord de ce disque sont contrles en fonction
du rayon de ce disque et de la valeur au centre du disque.
72
Lemme 2.7 (Ingalits de Harnack) Soit u : B(z
0
, R) C une fonction harmonique
positive. Pour tous r [0, R[ et R/2Z, nous avons
R r
R +r
u(z
0
) u(z
0
+r e
i
)
R+r
Rr
u(z
0
) .
Dmonstration. Par passage la limite quand tend vers 0, il sut de montrer que pour
tous ]0, R[, r [0, R [ et R/2Z, nous avons
R r
R +r
u(z
0
) u(z
0
+r e
i
)
R +r
R r
u(z
0
) .
Traitons tout dabord le cas particulier o z
0
= 0 et R = 1. Alors, puisque 1 = R < R,
lapplication u est harmonique sur D et continue sur D. Par le thorme de Poisson (3),
nous avons donc, puisque r < R = 1,
u(r e
i
) =
1
2
_
S
1
P
r e
i () u() d() .
Comme
1 [z[
1 +[z[
P
z
()
1 +[z[
1 [z[
,
et puisque u(0) =
1
2
_
S
1
u() d() par la formule de la moyenne, nous en dduisons
donc que
1 r
1 +r
u(0) u(r e
i
)
1 +r
1 r
u(0) ,
ce qui montre le cas particulier considr. Le cas gnral sy ramne, en prcomposant u
par lapplication holomorphe z z
0
+ (R )z (ce qui prserve le caractre harmonique
positif) et en appliquant le cas particulier r/(R ) < 1.
Voici les proprits fondamentales de convergence des fonctions harmoniques. La pre-
mire assertion dit que le sous-espace vectoriel Harm() de lespace C(; C) des applica-
tions continues de dans C, constitu de celles qui sont harmoniques, est ferm pour la
topologie de la convergence uniforme sur les compacts (aussi appele topologie compacte-
ouverte). Le second rsultat est souvent utile pour obtenir des applications harmoniques
comme solutions de problmes de minimisation.
Thorme 2.8 (Thorme de Harnack) Soient un ouvert de C et (u
n
)
nN
une suite
de fonctions harmoniques de dans C.
(1) Si (u
n
)
nN
converge vers une application u : C uniformment sur les compacts
de , alors u est harmonique.
(2) Si est connexe, si u
n
est valeurs relles pour tout n N et si la suite (u
n
)
nN
est croissante, alors ou bien elle converge uniformment sur les compacts vers une
fonction harmonique u : C, ou bien (u
n
(z))
nN
converge vers + pour tout
z .
Bien sr, en prenant les opposs, si la suite (u
n
)
nN
est dcroissante et si les appli-
cations u
n
sont valeurs relles, alors sur toute composante connexe de , ou bien elle
converge uniformment sur les compacts vers une fonction harmonique u : C, ou bien
(u
n
(z))
nN
converge vers pour tout z .
73
Dmonstration. (1) Soient z
0
et r
0
> 0 tel que le disque ouvert B(z
0
, r
0
) soit contenu
dans . Pour tous r ]0, r
0
[ et n N, par la formule de la moyenne (voir le thorme 2.4),
nous avons
u
n
(z
0
) =
1
2
_
2
0
u
n
(z
0
+re
i
) d .
Puisque u
n
converge vers u uniformment sur le compact B(z
0
, r), et par passage la limite
dans lgalit ci-dessus, lapplication u vrie aussi la proprit de la valeur moyenne, donc
est harmonique.
(2) Quitte remplacer u
n
par u
n
u
1
, nous pouvons supposer que u
1
0. En particulier,
u
n
est harmonique positive. Notons u = sup
nN
u
n
et A = z : u(z) = +. Pour
tout z
0
dans , soit R = R
z
0
> 0 tel que B(z
0
, R) . Par les ingalits de Harnack,
nous avons, pour tout n N, pour tout r [0,
R
2
] (et comme
R+r
Rr

R+R/2
RR/2
= 3,
Rr
R+r

RR/2
R+R/2
=
1
3
),
1
3
u
n
(z
0
) u
n
(z
0
+r e
i
) 3 u
n
(z
0
) .
Donc en prenant la borne suprieure sur n N, nous en dduisons que A et le compl-
mentaire de A sont ouverts. Par connexit de , nous en dduisons que ou bien A = , ce
qui est lune des alternatives souhaites, ou bien A = , et donc pour tout z , la suite
croissante (u
n
(z))
nN
converge vers un nombre rel que nous notons u(z).
Pour tous n, p N tels que n p, par lingalit de Harnack applique la fonction
harmonique positive u
n
u
p
, nous avons, pour tout z B(z
0
, R/2),
u
n
(z) u
p
(z) 3
_
u
n
(z
0
) u
p
(z
0
)
_
.
En faisant tendre n vers linni, nous avons donc u(z) u
p
(z) 3
_
u(z
0
) u
p
(z
0
)
_
. La
convergence au point z
0
implique alors que la suite (u
n
)
nN
converge uniformment vers u
sur B(z
0
, R/2). Puisque tout compact de K de peut tre recouvert par un nombre ni de
boules ouvertes B(z, R
z
/2) o z parcourt K, la suite (u
n
)
nN
converge donc uniformment
vers u sur tout compact de . Par lassertion (1), lapplication u est harmonique.
2.3 Introduction la thorie du potentiel dans le plan
Problme de Dirichlet dans un domaine de Jordan.
7
Soit un ouvert de C. Pour toute application continue f : C de la frontire de
dans C, le problme de Dirichlet sur (pour lquation de Laplace) de donne frontire
f consiste tudier lexistence et de lunicit dune application continue u : C,
harmonique sur , dont la restriction la frontire de est gale f, cest--dire tudier
lexistence et lunicit dune application continue u : C vriant le systme dquations
_
u = 0 sur (equation de Laplace sur )
u
|
= f (valeurs au bord) .
Nous avons vu dans le corollaire 2.2 que si est un disque ouvert, alors le problme
de Dirichlet admet une et une seule solution, pour toute application continue donne sur
la frontire du disque. Le but de cette partie est dtendre ce rsultat dautres ouverts
de C, en utilisant le thorme de reprsentation conforme de Riemann.
7
74
Rappelons quune courbe ferme dans est une application continue f du cercle S
1
dans . Elle est dite simple, et appele une courbe de Jordan, si elle est injective (par
compacit, cest alors un homomorphisme sur son image). Elle est dite homotope zro
dans si elle se prolonge continment en une application du disque dans , cest--dire
sil existe une application continue F : D telle que F
|S
1
= f.
Louvert de C est dit simplement connexe sil est connexe et si toute courbe ferme
dans est homotope zro dans (voir la proposition B.2 de lappendice B pour des
conditions quivalentes).
Un domaine de Jordan dans C est un ouvert born de C dont la frontire est
une courbe de Jordan. Le rsultat suivant, que nous admettrons, dit en particulier quun
domaine de Jordan est simplement connexe.
Voici quelques exemples (et un intrus !) de courbes de Jordan et de domaines de Jordan.
75
Thorme 2.9 (Thorme de Jordan) Le complmentaire dune courbe de Jordan
dans C admet exactement deux composantes connexes, lune borne, homomorphe D et
dadhrence homomorphe D, lautre non borne, et est la frontire de chacune dentre
elles.
Rappelons que deux ouverts
1
et
2
de C sont conformment quivalents sil existe
une application holomorphe bijective f de
1
dans
2
. La bijection rciproque est alors
76
holomorphe (voir par exemple [Rud1, Theo. 10.32+10.34]), et donc la relation tre confor-
mment quivalent est une relation dquivalence sur les ouverts de C. Rappelons le
rsultat suivant (voir par exemple [Rud1, Theo. 14.8]).
Thorme 2.10 (Thorme de reprsentation de Riemann) Tout ouvert simple-
ment connexe de C, dirent de C, est conformment quivalent au disque D.
Toute application holomorphe bijective : D est appele une reprsentation
conforme de . Si
1
et
2
sont deux reprsentations conformes, alors
1
1

2
est un au-
tomorphisme conforme du disque ouvert D (voir la partie 2.2). Donc une reprsentation
conforme est unique modulo prcomposition par un automorphisme conforme du disque.
Exercice E.25 Soit un ouvert de C.
(1) Montrer que si f : C est holomorphe ne sannulant pas, alors ln [f[ : R
est harmonique.
(2) Montrer que est simplement connexe si et seulement si toute fonction harmonique
sur valeurs relles est la partie relle dune application holomorphe sur .
Le rsultat suivant donne un critre pour quune reprsentation conforme dun ouvert
simplement connexe stende continuement la frontire.
Thorme 2.11 (Thorme dextension de Carathodory
7
) Soit un domaine de
Jordan. Alors toute reprsentation conforme : D stend en un homomorphisme
D .
Corollaire 2.12 (Problme de Dirichlet dans les domaines de Jordan) Soient
un domaine de Jordan et f : C une application continue. Il existe une et une seule
solution du problme de Dirichlet sur de donne frontire f.
Dmonstration. Soit : D une reprsentation conforme de . Par le thorme de
Carathodory 2.11, lapplication stend en un homomorphisme de D dans , que nous
notons encore . Alors f
|D
est une application continue de S
1
dans C. Par le corollaire
2.2, il existe une unique application continue u : D C, harmonique sur D, qui concide
avec f
|D
sur D. La prcomposition par une application holomorphe conservant le
caractre harmonique, lapplication u
1
est une solution au problme de Dirichlet sur
de donne au bord f. Lunicit est immdiate, que ce soit par lunicit dans le cas du
disque, ou par le thorme du maximum.
Le but de lexercice suivant est
de montrer quil y a toujours unicit pour le problme de Dirichlet dans les ouverts
borns,
de donner un exemple o, par contre, il ny a pas existence,
de caractriser les fonctions harmoniques relles sur le disque point D

= D0,
en montrant que celles qui ne sont pas des parties relles dapplications holomorphes
sur D

ont une singularit logarithmique en 0. Comme D

nest pas simplement

connexe, ceci montre de manire explicite pourquoi la conclusion de lassertion (2)
de lexercice E.25 nest pas vrie pour = D

.
77
Exercice E.26 (1) Soient un ouvert born de C et f : C une application continue.
Montrer que le problme de Dirichlet sur de donne frontire f, admet au plus une
solution.
(2) Pour 0 r
1
< r
2
+, notons A(r
1
, r
2
)
lanneau z C : r
1
< [z[ < r
2
. Une applica-
tion u : A(r
1
, r
2
) C est dite radiale si elle est
invariante par rotations ou, de manire quiva-
lente, sil existe une application v : ]r
1
, r
2
[ C
telle que u(z) = v([z[
2
) pour tout z A(r
1
, r
2
).
r
2
r
1
Montrer que pour toute application harmonique radiale u de A(r
1
, r
2
) dans C, il existe
a, b C tels que
z A(r
1
, r
2
), u(z) = a +b ln([z[) .
(3) Soient D

= D 0 le disque point, et f : D

R lapplication telle que

f(0) = 1 et f() = 0 pour tout S
1
.
a) Soit u : D

C une application continue, harmonique sur D

, telle que u
|D
= f.
Pour tout S
1
, montrer que les applications u et z u(z) de D

dans C sont gales.

b) En dduire que le problme de Dirichlet sur D

, de donne frontire f, nadmet pas

de solution.
(4) Soit u : D

= D 0 C une fonction harmonique.

a) Montrer que u : D

C est holomorphe.
b) Soient

nZ
c
n
z
n
le dveloppement en srie de Laurent de u (voir par exemple
le thorme 1.28), et f : D

C lapplication dnie par f(z) =

nZ, n=1
2cn
n+1
z
n+1
.
Montrer que si u est valeurs relles, alors il existe une constante c C telle que
z D

, u(z) = Re f(z) + 2c
1
ln [z[ +c .
c) En dduire quil existe une application harmonique v : D C et a C tels que
u(z) = v(z) +a ln [z[ pour tout z D

.
Fonctions harmoniques positives et frontire de Martin.
Le but de cette sous-partie est de dcrire les fonctions harmoniques positives sur le
disque D : ce sont exactement les intgrales de Poisson des mesures borliennes positives
nies sur le cercle S
1
.
Nous noterons M
C
(S
1
) lespace de Banach complexe des mesures borliennes complexes
sur S
1
, qui contient le cne M(S
1
) des mesures borliennes positives nies sur S
1
. Nous no-
terons Harm
+
(D) le cne des fonctions harmoniques positives sur D, dans lespace vectoriel
complexe Harm(D).
Thorme 2.13 Lapplication de M
C
(S
1
) dans Harm(D), dnie par P, est un
isomorphisme linaire de M
C
(S
1
) sur le sous-espace vectoriel des fonctions harmoniques h
sur D telles que
sup
0r<1
_
S
1
[h(r )[ d() < + . (14)
De plus, cette application est une bijection ane de M(S
1
) dans Harm
+
(D).
78
Dmonstration. Nous avons dj vu que lapplication P est linaire, et quelle
envoie M
C
(S
1
) dans Harm(D) et M(S
1
) dans Harm
+
(D).
Montrons quelle est injective. Soit M
C
(S
1
) telle que P = 0. Alors pour tout
f C(S
1
; C), par compacit de D et par le thorme de Poisson 2.1, lapplication Pf(r

)
converge vers f(

) quand r tend vers 1 dans [0, 1[ , uniformment en

S
1
. Donc par le
thorme de Fubini et puisque le noyau de Poisson vrie P
r
() = P
r
(

), nous avons
_
S
1
f d = lim
r1

S
1
Pf(r

) d(

)
= lim
r1

S
1
1
2
_
S
1
P
r
()f() d() d(

)
= lim
r1

1
2
_
S
1
_

S
1
P
r
(

) d(

) f() d()
= lim
r1

1
2
_
S
1
P(r)f() d() = 0 .
Comme une mesure complexe, donnant une intgrale nulle toute fonction continue, est
nulle, ceci montre linjectivit.
Si M
C
(S
1
), alors par le thorme de Fubini, puisque le noyau de Poisson vrie 0
P
r
(

) = P
r
(

) pour tous r [0, 1[ et ,

S
1
, par invariance par les rotations et par la
conjugaison complexe de la mesure de Lebesgue du cercle, et puisque
_
S
1
P
r
(

) d(

) =
2, nous avons
_
S
1
[P(r)[ d()
_
S
1
_

S
1
P
r
(

) d[[(

) d()
=
_

S
1
_
S
1
P
r
(

) d() d[[(

)
=
_

S
1
2 d[[(

) = 2|| < + .
Donc h = P vrie la condition (14).
Rciproquement, soit h une fonction harmonique sur D vriant la condition (14).
Montrons que h est une intgrale de Poisson. Notons M = sup
0r<1
_
S
1
[h(r )[ d().
Pour tout n N, notons
n
: C(S
1
; C) C lapplication dnie par

n
(f) =
_
S
1
h
_
n 1
n

_
f() d() .
Alors
n
est une forme linaire sur lespace de Banach C(S
1
; C) (pour la norme uniforme),
qui est continue car de norme au plus M. Par le thorme de Banach-Alaoglu de compacit
des boules du dual topologique de C(S
1
; C) pour la convergence faible-toile (voir par
exemple [Bre]), il existe donc une sous-suite (n
k
)
kN
et une forme linaire continue sur
C(S
1
; C) telle que pour tout f C(S
1
; C), nous ayons (f) = lim
k+

n
k
(f). Par le
thorme de reprsentation de Riesz (voir le thorme 1.6), il existe donc une (unique)
mesure borlienne complexe sur lespace compact S
1
telle que (f) =
_
S
1
f d pour tout
f C(S
1
; C). Posons r
k
=
n
k
1
n
k
, qui tend vers 1 quand k +. Notons que lapplication
z h(r
k
z) de D dans C est continue, et harmonique sur D. Pour tout z D, nous avons
79
la suite dgalits suivantes, la premire par dnition de , la seconde par la formule de
Poisson (thorme 2.1 (3)), la dernire par continuit de h en z :
1
2
_
S
1
P
z
() d() = lim
k+
1
2
_
S
1
P
z
()h(r
k
) d() = lim
k+
h(r
k
z) = h(z) .
Donc h = P[

2
], ce qui est le rsultat cherch.
Remarquons que si h est une fonction harmonique positive sur D, alors par la formule de
la moyenne,
_
S
1
[h(r)[ d() =
_
2
0
h(r e
i
) d = 2 h(0), et donc h vrie la condition
(14). Ceci montre la dernire assertion du thorme 2.13.
Fonctions harmoniques bornes et frontire de Poisson.
Le but de cette sous-partie est de dcrire les fonctions harmoniques bornes sur le
disque D : ce sont exactement les intgrales de Poisson des applications essentiellement
bornes sur le cercle S
1
.
Rappelons que L

(S
1
, ) est lespace de Banach complexe des applications mesurables
de S
1
dans C, bornes en dehors dun ensemble de mesure de Lebesgue nulle, modulo les
applications presque partout nulles, de norme f |f|

. Nous noterons Harm

b
(D) le sous-
espace vectoriel (de lespace vectoriel complexe Harm(D)) form des fonctions harmoniques
bornes de D dans C. Nous munirons Harm
b
(D) de la norme uniforme :
|h|

= sup
zD
[h(z)[ .
Thorme 2.14 Lapplication de L

(S
1
, ) dans Harm
b
(D), dnie par f Pf, est un
isomorphisme linaire isomtrique.
Dmonstration. Par nitude de la mesure de Lebesgue sur S
1
, nous avons L

(S
1
, )
L
1
(S
1
, ), et donc lapplication f Pf est bien dnie sur L

(S
1
, ), et elle est valeurs
dans lespace des applications harmoniques sur D par le thorme de Poisson 2.1 (1). Nous
avons vu quelle est linaire, et puisque le noyau de Poisson est positif, dintgrale gale
2, nous avons
|Pf|

= sup
zD
1
2

_
S
1
P
z
()f() d()

|f|

, (15)
donc Pf Harm
b
(D) si f L

(S
1
, ).
Ltape cruciale de la dmonstration du thorme 2.14 est le rsultat suivant de Fatou
8
sur la convergence radiale des fonctions harmoniques, que nous admettons dans ces notes
(voir par exemple [Rud1, chap. 11]).
Thorme 2.15 (Thorme de Fatou) Pour toute mesure borlienne complexe sur
S
1
, lintgrale de Poisson P(r) admet une limite nie quand r [0, 1[ tend vers 1 pour
8 (1878-1929) (1908-1989) (1854-1912)
Fatou Sobolev Poincar
80
presque tout S
1
(pour la mesure de Lebesgue de S
1
). De plus, si f L
1
(S
1
, ; C), alors
pour presque tout dans S
1
, nous avons
lim
r1

Pf(r) = f() .
En particulier, toute fonction harmonique qui vrie la condition (14) (comme par
exemple toute fonction harmonique borne), qui scrit comme lintgrale de Poisson dune
mesure borlienne complexe par le thorme 2.13, admet des limites radiales en presque
tout point.
Donc pour toute application harmonique borne h sur D, notons
h
: S
1
C sa fonction
limite radiale, bien dnie en presque tout point de S
1
. Puisque
h
() = lim
r1
h(r)
pour presque tout S
1
, lapplication
h
est clairement essentiellement borne, et
|
h
|

|h|

. (16)
Par la seconde assertion du thorme de Fatou, pour tout f L
1
(S
1
, ; C), nous avons

Pf
= f. Lapplication f Pf est isomtrique (donc injective) car
|f|

= |
Pf
|

|Pf|

|f|

par les inquations (16) et (15).

Enn, pour montrer la surjectivit de cette application, il sut de montrer que h =
P[
h
] pour tout h Harm
b
(D). Pour tout r < 1, puisque z h(rz) est continue sur D et
harmonique sur D, la formule de Poisson donne, pour tout z D,
h(rz) =
1
2
_
S
1
P
z
()h(r) d() .
Puisque h(r) est uniformment born en r, et converge pour presque tout vers
h
()
quand r tend vers 1, le thorme de convergence domine de Lebesgue montre que le
second membre de lgalit prcdente converge vers P[
h
](z). Comme le premier membre
converge vers h(z), le rsultat en dcoule.
2.4 Spectre du laplacien des ouverts borns de R
m
Le but de cette partie est dtudier les proprits spectrales de loprateur laplacien
=

m
i=1

2
x
2
i
.
La premire tape est de dnir les espaces de Hilbert sur lesquels les oprateurs conti-
nus utiles cette tude vont agir.
Les espaces de Sobolev
8
W
1,2
() et W
1,2
0
().
Soient m N0 et un ouvert non vide de R
m
. Rappelons que le produit scalaire
de lespace de Hilbert complexe L
2
() des applications mesurables de dans C, de carr
sommable (pour la mesure de Lebesgue sur ), modulo applications presque partout
nulles, est dni par f, g)
L
2 =
_

fg d. Pour tout k N, nous munirons L

2
()
k
de la
structure usuelle despace de Hilbert produit (voir lexemple (2) de la partie 1.2) et nous
noterons encore , )
L
2 son produit scalaire, et | |
L
2 sa norme. Lensemble C

c
(; C) des
applications C

support compact de dans C est un sous-espace vectoriel dense de

L
2
().
81
Notons W
1,2
() le sous-espace vectoriel complexe des applications f L
2
() telles
quil existe des applications
f
x
i
L
2
() pour i = 1, . . . , m vriant
C

c
(; C),
f
x
i
, )
L
2 = f,

x
i
)
L
2 , (17)
muni du produit scalaire
f, g)
W
1,2 = f, g)
L
2 +
m

i=1

f
x
i
,
g
x
i
_
L
2
.
Remarquons quune application
f
x
i
L
2
() vriant la condition (17), si elle existe,
est unique (car deux lments g et g

dans L
2
() tels que g g

, h)
L
2 = 0 pour tout
h C

c
(; C) concident, par densit de C

c
(; C) dans L
2
()). Cette application est
appele la i-me drive partielle au sens des distributions de f. Nous noterons
f =
_
f
x
1
, . . . ,
f
x
m
_
L
2
()
m
,
appel le gradient de f, de sorte que
|f|
L
2 =
_
m

i=1
_
_
_
f
x
i
_
_
_
2
L
2
_
1/2
.
Lapplication , )
W
1,2 est bien dnie, et est bien un produit scalaire sur W
1,2
(), de
norme associe
|f|
W
1,2 =
_
|f|
2
L
2
+|f|
2
L
2
_
1/2
(18)
(car si |f|
W
1,2 = 0, alors |f|
L
2 = 0).
Proposition 2.16 Lespace prhilbertien complexe W
1,2
() est sparable, complet.
La notation H
1
() est frquemment utilise pour dsigner lespace de Hilbert W
1,2
(),
mais nous ne le ferons pas dans ces notes, car elle est en conit avec la notation pour
dsigner lun des espaces de Hardy (outre le premier groupe de cohomologie de louvert
!).
Dmonstration. Lapplication f
f
x
i
de W
1,2
() dans L
2
() est linaire, par unicit
et par la linarit de la condition (17). Par construction, lapplication de W
1,2
() dans
L
2
()
m+1
dnie par f (f,
f
x
1
, . . . ,
f
xm
) est un isomorphisme despaces prhilbertiens
sur son image. Pour montrer que W
1,2
() est complet, il sut donc de montrer que son
image est ferme : elle sera alors complte. Soit (f
k
)
kN
une suite dans W
1,2
() telle que
(f
k
,
f
k
x
1
, . . . ,
f
k
xm
) converge vers (f, g
1
, . . . , g
m
) dans L
2
()
m+1
quand k +. Pour tous
C

c
(; C) et 1 i m, nous avons, par convergence faible,
g
i
, )
L
2 +f,

x
i
)
L
2 = lim
k+

f
k
x
i
, )
L
2 +f
k
,

x
i
)
L
2 = 0 .
Ceci montre que f W
1,2
() et que g
i
=
f
x
i
par unicit. Le rsultat en dcoule, car tout
sous-espace dun espace mtrique sparable est sparable
9
.
9
Si P est une partie dnombrable dense dun espace mtrique X et si Y est une partie de X, pour tous
rationnel r > 0 et p P, notons yp,r un point de B(p, r) Y si cette intersection est non vide. Alors
lensemble (dnombrable) de ces yp,r est dense dans Y , car pour tout y Y , pour tout > 0, si r est un
rationnel tel que 0 < r <

2
, il existe p P tel que d(y, p) < r et d(y, yp,r) d(y, p) + d(p, yp,r) < 2r <
82
Par intgration par partie, les applications f de classe C

support compact de dans

C vrient lquation (17), en prenant, pour les drives partielles au sens des distributions
de f, ses drives partielles usuelles. Donc C

c
(; C) est contenu dans W
1,2
().
Nous noterons W
1,2
0
() ladhrence dans W
1,2
() du sous-espace vectoriel C

c
(; C).
Muni de la restriction du produit scalaire de W
1,2
(), cest un espace de Hilbert complexe.
La notation H
1
0
() est frquemment utilise pour le dsigner, mais nous ne le ferons pas
dans ces notes. Les rsultats danalyse sur W
1,2
0
() qui nous seront le plus utile par la suite
sont les suivants.
Thorme 2.17 (Ingalit de Poincar
8
) Si est born, alors il existe une constante
c = c

> 0 telle que, pour tout u W

1,2
0
(), nous ayons
|u|
L
2 c |u|
L
2 .
Notons que la restriction u W
1,2
0
() au lieu de u W
1,2
() est ncessaire, car les
applications constantes non nulles, qui sont dans L
2
() puisque est born, ne vrient
pas lingalit de Poincar.
Remarquons que lingalit de Poincar implique alors, pour tout u W
1,2
0
(), que
|u|
W
1,2
_
1 +c
2

|u|
L
2 .
Dmonstration. Nous ne ferons la dmonstration que si m = 1, en renvoyant [Bre]
pour une dmonstration gnrale. Si m = 1, soient a, b R tels que [a, b], et tendons
sur R par 0 les applications support compact dans .
Par densit, il sut de montrer le rsultat pour u C

c
(; C). Pour tout x , nous
avons, puisque u(a) = 0, et par lingalit de Cauchy-Schwarz
u(x)
2
=
_
x
a
2u(t)u

(t) dt 2|u|
L
2 |u

|
L
2 .
En intgrant sur pour la mesure de Lebesgue , nous avons donc
|u|
2
L
2
2()|u|
L
2 |u

|
L
2 ,
ce qui montre le rsultat.
Le rsultat de compacit suivant, un analogue L
2
du thorme dAscoli (et plus pr-
cisment de lexercice E.9 de la partie 1.4), sera utile. Il dit que linclusion (dnie par
x x) de W
1,2
0
() dans L
2
() (qui est continue de norme au plus 1 par lingalit de
gauche prcdente) est un oprateur compact.
Thorme 2.18 (Thorme de Rellich-Kondrakov) Si est born, alors toute suite
borne (f
n
)
nN
dans W
1,2
0
() admet une sous-suite convergente dans L
2
().
Avant de commencer la dmonstration, rappelons quelques proprits du produit de
convolution . Si f, g L
2
(R
m
), si est la mesure de Lebesgue sur R
m
, notons dy = d(y)
et
f g(x) =
_
yR
m
f(y)g(x y) dy .
83
Par lingalit de Cauchy-Schwarz et par linvariance de la mesure de Lebesgue par trans-
lations, lapplication f g : R
m
C est bien dnie, et
|f g|
L
|f|
L
2 |g|
L
2 .
De plus, si g C

c
(R
m
; C), alors par le thorme de drivation des intgrales paramtres,
f g C

(R
m
; C) et pour 1 r m

x
r
(f g) = f
g
x
r
.
Lingalit suivante est plus dlicate.
Lemme 2.19 Si f L
2
(R
m
) et g L
1
(R
m
), alors f g L
2
(R
m
) et
|f g|
L
2 |f|
L
2 |g|
L
1 .
En particulier, pour tout g L
1
(R
m
), lapplication f f g de L
2
(R
m
) dans lui-mme
est linaire, continue, de norme au plus |g|
L
1 .
Dmonstration. Puisque [f g[ [f[[g[, nous pouvons supposer que f et g sont valeurs
positives ou nulles, et par homognit que |g|
L
1 = 1. Rappelons (voir par exemple [Rud1,
Theo. 3.3]) lingalit de Jensen qui dit que si (X, B, ) est un espace de probabilit,
h : X R une application intgrable et : R R une application continue convexe,
alors

_
_
X
h d
_

_
X
h d .
En lappliquant : t t
2
, X = R
m
, d(y) = g(x y) d(y), pour tout x R
m
et
h L
1
(R
m
; R), nous avons
h g(x)
2

_
yR
m
h(y)
2
g(x y) d(y) .
Prenons pour h les lments dune suite de fonctions positives dans L
1
(R
m
) convergeant
simplement en croissant vers f (par exemple h =
B(0,n)
f o
B(0,n)
: R
m
R est la
fonction caractristique de B(0, n), qui vrie |h|
L
1 |
B(0,n)
|
L
2 |f|
L
2 < +). Nous
avons alors, par le thorme de convergence monotone de Lebesgue,
f g(x)
2

_
yR
m
f(y)
2
g(x y) d(y) .
Donc par le thorme de Fubini et un changement de variable x

= x y,
|f g|
2
L
2

_
yR
m
f(y)
2
_
xR
m
g(x y) dx dy = |f|
2
L
2
|g|
L
1 .
Puisque |g|
L
1 = 1, le rsultat en dcoule.
Dmonstration du thorme 2.18. Nous prolongeons tout R
m
les fonctions dans
L
2
() par la valeur 0 en dehors de .
84
Soit C

c
(R
m
; C) une application positive ou nulle, support dans la boule unit,
dintgrale 1 pour la mesure de Lebesgue. Pour tout i N, posons
i
: x 2
mi
(2
i
x),
qui est un lment de C

c
(R
m
, C), et encore dintgrale 1. Pour tout i N x, puisque
|f
n

i
|
L
|f
n
|
L
2 |
i
|
L
2 |f
n
|
W
1,2 |
i
|
L
2 ,
la suite dapplications continues (f
n

i
)
nN
est uniformment majore. Puisque pour
1 r m,
_
_
_

x
r
(f
n

i
)
_
_
_
L

=
_
_
_f
n


i
x
r
_
_
_
L

|f
n
|
L
2
_
_
_

i
x
r
_
_
_
L
2
|f
n
|
W
1,2
_
_
_

i
x
r
_
_
_
L
2
est born uniformment en n, et par le thorme des accroissements nis, pour tout i N,
il existe c
i
> 0 tel que pour tous x, y R
m
et n N,

f
n

i
(x) f
n

i
(y)

c
i
|x y| .
Puisque est born, son adhrence est compacte. Par le thorme dAscoli, pour tout
i N, la suite (f
n

i
)
nN
dapplications quicontinues, uniformment majores sur le
compact , admet une sous-suite qui converge uniformment sur ce compact. Par extraction
diagonale, il existe donc une suite strictement croissante (n
k
)
kN
telle que, pour tout i N,
la suite dapplications continues (f
n
k

i
)
kN
converge uniformment sur , et en particulier
est uniformment de Cauchy, donc est de Cauchy dans L
2
().
Montrons que |f
n
f
n

i
|
L
2 converge vers 0 quand i tend vers + uniformment
en n. Comme
|f
n
k
f
n

|
L
2 |f
n
k
f
n
k

i
|
L
2 +|f
n
k

i
f
n

i
|
L
2 +|f
n

i
f
n

|
L
2 ,
ceci montrera que la suite (f
n
k
)
kN
est de Cauchy dans L
2
(), donc converge par compl-
tude, ce qui conclut.
Posons c

= max
1rm
_
R
m
[x
r
[(x) dx ]0, +[ . Montrons que pour tout f
W
1,2
0
(), nous avons
|f f
i
|
L
2
mc

2
i
|f|
L
2 , (19)
ce qui conclut (car |f|
L
2 |f|
W
1,2 et la suite (f
n
)
nN
est borne dans W
1,2
()).
Par continuit (voir en particulier lassertion suivant le lemme 2.19), il sut de montrer
lingalit (19) pour f dans le sous-espace dense dans W
1,2
0
() des applications C

support compact dans . Rappelons que pour toute application de classe C
1
de R
m
dans
C, nous avons, pour tous x, y R
m
,
f(y) f(x) =
_
1
0
d
dt
(f(x +t(y x))) dt =
m

r=1
_
1
0
(y
r
x
r
)
f
x
r
(x +t(y x)) dt .
Donc pour tout x R
m
, puisque
_

i
(x y) dy = 1, par le thorme de Fubini et en
85
faisant le changement de variable y

= x +t(y x) (de sorte que dy =

dy

t
m
), nous avons
f
i
(x) f(x) =
_
yR
m
(f(y) f(x))
i
(x y) dy
=
m

r=1
_
1
0
_
yR
m
f
x
r
(x +t(y x))(y
r
x
r
)
i
(x y) dy dt
=
m

r=1
_
yR
m
f
x
r
(y

)
_
1
0
x
r
y

r
t

i
_
x y

t
_
dt
t
m
dy

=
m

r=1
f
x
r

r,i
(x) ,
o
r,i
(x) =
_
1
0
x
r

i
(
x
t
)
dt
t
m+1
. Or, par le thorme de Fubini et en faisant le changement
de variable x

= 2
i x
t
,
|
r,i
|
L
1
_
xR
m
_
1
0
[x
r
[
i
_
x
t
_
dt
t
m+1
dx =
_
1
0
_
xR
m
[x
r
[ 2
mi

_
2
i
x
t
_
dx
dt
t
m+1
=
_
1
0
dt
_
xR
m
2
i
[x

r
[(x

) dx

2
i
.
Par le lemme 2.19, nous avons donc
|f
i
f|
L
2 m max
1rm
_
_
_
f
x
r

r,i
_
_
_
L
2
m max
1rm
_
_
_
f
x
r
_
_
_
L
2
|
r,i
|
L
1
mc

2
i
|f|
L
2 .
ce qui dmontre lingalit (19).
Loprateur de Green.
Nous introduisons maintenant un oprateur autoadjoint compact qui va permettre dap-
pliquer les rsultats spectraux de la partie 1.5.
Le l directeur de cette partie est le problme de la rsolution (en un certain sens qui
sera prcis) de lquation de Poisson
u = f
sur un ouvert de R
m
, o f : C est une application donne ( la rgularit qui
sera prcise), avec des conditions au bord, de type Dirichlet, dannulation (en un sens
qui sera prcis) de la fonction inconnue u, ces conditions frontires tant utiles pour
avoir des proprits dunicit. Une interprtation possible de cette quation provient de
llectrostatique : tant donn une distribution de charges f dans un domaine , dont la
frontire est mise la masse (cest--dire que son potentiel est maintenu 0 volts), le
potentiel lectrique u dans ce domaine, engendr par la distribution de charge f, est la
solution de lquation de Poisson sannulant au bord.
Bref, nous allons construire un inverse (en un sens qui sera prcis) de loprateur
moins laplacien, qui sera appel loprateur de Green. Comme trs souvent dans ce type
de problmes, nous allons trouver ces solutions (en un certain sens qui sera prcis) en
minimisant une certaine fonctionnelle, que nous introduisons maintenant.
86
Soient m N 0 et un ouvert born non vide de R
m
. Pour tous u W
1,2
0
() et
f L
2
(), notons
Q
f
(u) =
1
2
|u|
2
L
2
Re f, u)
L
2 .
Il faut penser la fonctionnelle Q
f
comme une nergie, somme dune nergie cintique
et dune nergie potentielle.
Proposition 2.20 Soit f L
2
().
(1) Lapplication Q
f
: W
1,2
0
() R est continue, strictement convexe (cest--dire que
Q
f
(tu + (1 t)v) < tQ
f
(u) + (1 t)Q
f
(v) pour tous t ]0, 1[ et u ,= v dans W
1,2
0
()), et
propre (cest--dire que [Q
f
(u)[ tend vers + lorsque |u|
W
1,2 tend vers +).
(2) Lapplication Q
f
admet un et un seul minimum.
(3) Un lment u W
1,2
0
() est un minimum de Q
f
si et seulement si u est une
solution faible (ou au sens des distributions) de lquation u = f, cest--dire si
C

c
(; C), u, )
L
2 = f, )
L
2 .
Notons que toute solution u C

c
(; C) dune quation de Poisson u = f (o f
doit donc appartenir C

c
(; C)) en est une solution faible, car par intgration par partie,
pour tout C

c
(; C),
0 = u f, )
L
2 = u, )
L
2 f, )
L
2 = u, )
L
2 f, )
L
2 .
Dmonstration. (1) Lapplication Q
f
est bien dnie et valeurs relles. Sa continuit est
immdiate : pour tous u, v W
1,2
0
(), par les ingalits triangulaire et de Cauchy-Schwarz,

Q
f
(u) Q
f
(v)

1
2

|u|
2
L
2
|v|
2
L
2

+[f, u v)
L
2 [

1
2
(|(u v)|
L
2 )(|u|
L
2 +|v|
L
2 ) +|f|
L
2 |u v|
L
2

_
1
2
|u|
L
2 +
1
2
|v|
L
2 +|f|
L
2
_
|u v|
W
1,2 .
Pour montrer que Q
f
est strictement convexe, par sesquilinarit du produit scalaire et
linarit de , il sut de montrer que dans tout espace de Hilbert, lapplication x |x|
2
est strictement convexe. Or lapplication de R dans R dnie par t at
2
+ bt + c est
strictement convexe pour tous a > 0 et b, c R, et
|tx + (1 t)y|
2
= |t(x y) +y|
2
= t
2
|x y|
2
+ 2t Re u, v) +|y|
2
.
Pour montrer que Q
f
est propre, il sut dappliquer les ingalits de Cauchy-Schwarz
et de Poincar (voir le thorme 2.17) : pour tout u W
1,2
0
(), puisque |u|
L
2 |u|
W
1,2
et |u|
2
W
1,2
= |u|
2
L
2
+|u|
2
L
2
(1 +c
2

)|u|
2
L
2
, nous avons
Q
f
(u)
1
2
|u|
2
L
2
|f|
L
2|u|
L
2
1
2(1 +c
2

)
|u|
2
W
1,2
|f|
L
2|u|
W
1,2 ,
qui tend videmment vers + quand |u|
W
1,2 tend vers +.
(2) Ceci dcoule immdiatement (et sans mme besoin de la question (1)) du thorme
de Lax-Milgram 1.15 appliqu aux fonctions a et suivantes. Lapplication a : W
1,2
0
()
87
W
1,2
0
() C dnie par a(u, v) = u, v)
L
2 est sesquilinaire et hermitienne. Elle est
continue par lingalit de Cauchy-Schwarz
[a(u, v)[ |u|
L
2|v|
L
2 |u|
W
1,2|v|
W
1,2 ,
et coercive par lingalit de Poincar 2.17 :
[a(u, u)[ = |u|
2
L
2

1
1 +c
2

|u|
2
W
1,2
.
De plus, lapplication : W
1,2
0
() C dnie par u f, u)
L
2 est anti-linaire, et
continue par lingalit de Cauchy-Schwarz :
[(u)[ |f|
L
2|u|
L
2 |f|
L
2 |u|
W
1,2 .
Mais voici une dmonstration utilisant la question (1), qui peut tre utile dans dautres
contextes. Si u et v taient deux minima distincts de Q
f
, de valeur minimale a = Q
f
(u) =
Q
f
(v), alors par stricte convexit de Q
f
, nous aurions Q
f
(
u+v
2
) <
Q
f
(u)+Q
f
(v)
2
= a, une
contradiction.
Puisque Q
f
est propre, soit R > 0 tel que Q
f
(u) 0 si |u|
W
1,2 R. Pour montrer
lexistence dun minimum, puisque Q
f
(0) = 0, il sut de montrer que Q
f
admet un
minimum dans la boule ferme B(0, R) : ce sera un minimum de Q
f
sur W
1,2
0
(). Soit
(x
n
)
nN
une suite dans B(0, R) telle que lim
n+
Q
f
(x
n
) = inf
yB(0,R)
Q
f
(y). Quitte
extraire, nous pouvons supposer quelle converge faiblement vers x (voir le thorme 1.21).
Lapplication Q
f
est continue et convexe, donc faiblement semi-continue infrieurement
(voir la proposition 1.23). Do Q
f
(x) lim
n+
Q
f
(x
n
) = inf
yB(0,R)
Q
f
(y), et x est un
minimum de Q
f
.
(3) Pour tout u W
1,2
0
() et pour tout C

c
(; C), nous avons
d
dt |t=0
Q
f
(u +t) =
d
dt |t=0
_
1
2
(u +t), (u +t))
L
2 Re f, u +t)
L
2
_
= Re u, )
L
2 Re f, )
L
2 .
Donc en remplaant par i pour obtenir les parties imaginaires, si u est un minimum de
Q
f
, alors u est une solution faible de lquation u = f.
Rciproquement, si u est une solution faible de lquation u = f, alors pour tout
C

c
(; C) 0, la valeur t = 0 est le minimum (qui est le seul extremum) de la
fonction strictement convexe et propre t Q
f
(u + t). Par densit de C

c
(; C) dans
W
1,2
0
(), ceci implique que u est un minimum de Q
f
.
Nous noterons G : L
2
() L
2
() lapplication qui un lment f de L
2
() associe
lunique lment u de W
1,2
0
() qui minimize Q
f
, ou de manire quivalente, lunique solu-
tion faible u W
1,2
0
() de lquation de Poisson u = f. Nous appellerons G loprateur
de Green de . Notons que limage de G est bien plus petite que L
2
() : elle est contenue
dans W
1,2
0
(), ce qui sera crucial pour le rsultat suivant.
Proposition 2.21 Loprateur de Green G : L
2
() L
2
() est linaire, continu, auto-
adjoint, positif, compact, dimage contenue dans W
1,2
0
().
88
Dmonstration. La linarit de G dcoule de lunicit et de la linarit en (u, f) des
quations u, )
L
2 = f, )
L
2 pour C

c
(; C).
Montrons que G est continu. Si G(f) = u, alors u minimisant Q
f
, nous avons
0 =
d
dt |t=1
Q
f
(tu) = |u|
2
L
2
Re f, u)
L
2 .
Donc par lingalit de Cauchy-Schwarz, |u|
2
L
2
|f|
L
2|u|
L
2 . Par lingalit de Poincar,
|u|
2
L
2
c
2

|u|
2
L
2
c
2

|f|
L
2|u|
L
2 .
Do G est continu (de norme au plus c
2

).
Montrons que Gest auto-adjoint. Soient f, g L
2
(), notons u = G(f) et v = G(g), qui
appartiennent W
1,2
0
(). Par construction, nous avons u, )
L
2 = f, )
L
2 pour tout
C

c
(; C), donc par densit de C

c
(; C) dans W
1,2
0
(), nous avons u, v)
L
2 =
f, v)
L
2 . En prenant les conjugus, nous avons v, f)
L
2 = v, u)
L
2 , et de mme en
changeant f et g, ce qui change u et v. Donc
G(g), f)
L
2 = v, f)
L
2 = v, u)
L
2 = u, v)
L
2 = u, g)
L
2 = g, u)
L
2 = g, G(f))
L
2 .
Montrons que Gest positif, et mme strictement positif, cest--dire que G(f), f)
L
2 > 0
pour tout lment non nul f de L
2
(). Comme vu ci-dessus,
G(f), f)
L
2 =
_
_

_
G(f)
__
_
2
L
2
,
qui est positif et nul seulement si G(f) est nul, par lingalit de Poincar 2.17, donc
seulement si f est nulle par unicit, car si lapplication nulle est une solution faible de
lquation de Poisson u = f, alors f est nulle.
Montrons enn que G est un oprateur compact, cest--dire que limage par G de
toute suite borne de L
2
() admet une sous-suite convergente dans L
2
(). Comme G
est continue, dimage contenu dans W
1,2
0
(), le rsultat dcoule du thorme de Rellich-
Kondrakov 2.18.
Dcomposition spectrale du laplacien.
Soient m N0 et un ouvert non vide de R
m
. Loprateur laplacien nest pas
dni sur tout lespace de Hilbert L
2
(), mais a priori seulement de son sous-espace dense
C

c
(; C) dans lui-mme. Il est la premire instance de ce qui est appel un oprateur non
born (voir par exemple [Bre, Yos]), mais nous nen dvelopperons pas la thorie gnrale.
Nous allons montrer quil existe une base hilbertienne de L
2
() formes de vecteurs propres
de loppos du laplacien, de valeurs propres associes positives qui convergent vers linni.
Thorme 2.22 Soient m N0 et un ouvert born non vide de R
m
. Il existe une
suite (
i
)
iN
de rels strictement positifs, croissante, convergente vers +, et une base
hilbertienne (f
i
)
iN
de L
2
() telle que pour tout i N, lapplication f
i
soit une solution
C

de lquation f
i
=
i
f
i
.
89
Dmonstration. Puisque loprateur de Green G : L
2
() L
2
() est autoadjoint,
strictement positif, compact (et L
2
() est de dimension innie), il est diagonalisable en
base hilbertienne, valeurs propres strictement positives dcroissantes tendant vers 0 : il
existe une suite (
i
)
iN
de rels strictement positifs, dcroissante, convergente vers 0, et une
base hilbertienne (f
i
)
iN
de L
2
() telle que G(f
i
) =
i
f
i
pour tout i N. Posons
i
=
1

i
.
Alors par dnition de loprateur de Green, (f
i
)
iN
est une base hilbertienne de L
2
()
telle que f
i
soit une solution faible de lquation f
i
=
i
f
i
, pour tout i N.
Nous ne montrerons pas ici que les applications f
i
sont en fait C

(proprit dite
de rgularit elliptique, dcoulant dun principe du maximum, voir par exemple [Bre]).
Lapplication f
i
est alors une vraie solution de lquation f
i
=
i
f
i
.
2.5 Introduction lanalyse harmonique des sphres
La rfrence de base pour cette partie est [Far, Chap. IX].
Dans toute cette partie, nous noterons n un lment de N tel que n 1, (e
0
, e
1
, . . . , e
n
)
la base canonique de R
n+1
, (x
0
, x
1
, . . . , x
n
) les coordonnes dans la base canonique dun
lment x de R
n+1
, , ) et | | le produit scalaire usuel et la norme euclidienne usuelle
sur R
n+1
, B
n+1
= x R
n+1
: |x| 1 la boule unit ferme et
S
n
= x R
n+1
: |x| = 1
la sphre unit de R
n+1
. Nous noterons O(n+1) le groupe orthogonal de lespace euclidien
R
n+1
, cest--dire le groupe des automorphismes linaires de R
n+1
prservant son produit
scalaire :
g O(n + 1), x, y R
n+1
, gx, gy) = x, y) .
Ce sont les applications linaires de R
n+1
dans lui-mme dont les matrices dans la base
canonique sont inversibles, dinverse gale leur transpose. Bien sr, laction linaire de
O(n + 1) sur R
n+1
prserve la sphre S
n
:
g O(n + 1), x S
n
, gx S
n
.
Laction de O(n + 1) est transitive sur S
n
, et de mme celle de
SO(n + 1) = g O(n + 1) : det g = 1 :
pour tous x, y S
n
, il existe (au moins) une rotation envoyant x sur y. En eet, si x = y,
alors lapplication u u convient. Si x ,= y, alors lapplication xant lorthogonal
du plan orient de base (x, y), valant sur ce plan la rotation dangle [0, [ tel que
cos = x, y) ou celle dangle , convient.
En tant que ferm et born de lespace vectoriel rel L(R
n
) muni de la norme dop-
rateur, le groupe O(n + 1) est un espace topologique compact. Pour tout h O(n + 1),
les applications g hg et g gh
1
de O(n + 1) dans lui-mme, appeles la translation
gauche par h et la translation droite par h, sont des homomorphismes, dinverses les
translations gauche et droite par h
1
.
Le but de cette partie est dtudier les proprits spectrales dun oprateur laplacien
sur S
n
.
Mesure de Lebesgue des sphres.
90
Nous commenons par gnraliser aux sphres de dimensions suprieures la construction
de la mesure de Lebesgue sur le cercle (voir la partie 2.2). Rappelons quune mesure sur
un espace mesurable (X, A ) est invariante par une transformation mesurable g : X X
si g

= , o g

est la mesure image de par g, dnie par g

(A) = (g
1
(A)) pour
toute partie mesurable A, ou, de manire quivalente, si pour toute application mesurable
f : X R, nous avons
_
X
f g d =
_
X
f d .
Proposition 2.23 Il existe une et une seule mesure borlienne de probabilit
n
sur S
n
invariante par les rotations.
Dmonstration. Montrons tout dabord lexistence de
n
. Pour tout borlien A de S
n
,
notons c(A) = tx : t [0, 1], x A le cne sur A de centre 0, qui est encore un borlien.
Le cne commute avec les oprations boolennes :
c
_
_
iI
A
i
_
=
_
iI
c(A
i
), c
_

iI
A
i
_
=

iI
c(A
i
), c(S
n1
A) = B
n
c(A) .
Si
n+1
est la mesure de Lebesgue de R
n+1
, et si
n+1
=
n+1
(B
n+1
), alors par invariance
de la mesure de Lebesgue de R
n+1
par rotations, la mesure
n
(A) =
1

n+1

n+1
(c(A))
convient.
Montrons maintenant lunicit de
n
, en commenant par une remarque prliminaire.
Le thorme de Stone-Weierstrass 1.1 implique la densit des combinaisons linaires dap-
plications y e
ix,y
(o x R
n+1
) dans les fonctions continues de R
n+1
dans C pour
la convergence uniforme sur les compacts. Puisque deux mesures borliennes positives sur
R
n+1
, donnant mme intgrale toute fonction continue support compact, concident,
il en dcoule quune mesure de probabilit sur R
n+1
est uniquement dtermine par sa
fonction caractristique
: x
_
yR
n+1
e
ix,y
d(y) .
Soient et deux mesures de probabilit sur R
n+1
, support dans S
n
, invariantes par
rotations. Pour tous g O(n + 1) et x R
n+1
, nous avons
(gx) =
_
yR
n+1
e
igx,y
d(y) =
_
yR
n+1
e
ix,g
1
y
d(y) = (x) .
Donc les fonctions caractristiques de et de sont invariantes par rotations. Pour tout
r 0, nous avons, en rappelant que e
0
est le premier vecteur de la base canonique de R
n+1
,
puisque est une mesure de probabilit de support S
n
,
(re
0
) =
_
Sn
(re
0
) d(x) =
_
Sn
(rx) d(x) =
_
R
n+1
(rx) d(x)
=
__
(x,y)R
n+1
R
n+1
e
irx,y
d(y) d(x) .
Puisque le dernier terme est symtrique en et par le thorme de Fubini, nous en
dduisons donc que les fonctions caractristiques et concident sur la demi-droite R
+
e
0
,
donc sur R
n+1
par invariance par rotations. Do = par la remarque prliminaire.
91
La mesure de probabilit
n
sera appele la mesure de Lebesgue (normalise) de S
n
.
Dans la suite, nous noterons L
2
(S
n
) = L
2
(S
n
,
n
; C). Avec la notation de la partie 2.2,
nous avons
1
=

2
.
Loprateur laplacien sphrique.
Rappelons que le laplacien est loprateur linaire, agissant sur les fonctions de classe
C

dun ouvert de R
n+1
valeurs dans C, dni par
=
n

i=0

2
x
2
i
.
Pour tout k (N 0) , une application f : S
n
C est dite de classe C
k
si
lapplication f : R
n+1
0 C dnie par x f(
x
x
) est de classe C
k
. Par exemple, la
restriction S
n
de toute application de classe C
k
dnie sur un voisinage ouvert de S
n
est
de classe C
k
, par le thorme de drivation des applications composes. Nous renvoyons
un cours de gomtrie direntielle (par exemple [Laf]) pour une dnition intrinsque de
la proprit dtre de classe C
k
sur S
n
.
Le laplacien sphrique
S
est loprateur linaire, agissant sur les applications de classe
C
2
de S
n
dans C, dni par

S
f =
_
f
_
|Sn
.
Nous donnons dans la n de cette partie quelques proprits du laplacien.
Loprateur laplacien possde des proprits de symtries importantes. Il est clairement
invariant par permutation des coordonnes. Mais en fait, il admet beaucoup plus de sym-
tries, comme le montre le rsultat suivant. Mme si cela napparatra pas clairement dans
la suite, ce sont ces proprits de symtries qui vont nous permettre de diagonaliser en
base hilbertienne loprateur laplacien sphrique, de manire explicite.
Proposition 2.24 Le laplacien est invariant par O(n + 1) : pour tout f : R
n+1
C de
classe C
2
, nous avons
g O(n + 1), (f g) = (f) g .
Il dcoule de la proposition 2.24 que le laplacien sphrique est invariant par O(n +1) :
pour toute application f : S
n
C de classe C
2
, pour tout g O(n + 1), nous avons
f g = f g et
S
(f g) = (
S
f) g.
Dmonstration. Soient U un ouvert de R
n+1
invariant par rotations, f : U C une
application C
2
, g O(n + 1) et x U. Notons H
x
f =
_

2
f
x
i
x
j
(x)
_
0i,jn
la matrice
hessienne de f en x, cest--dire la matrice (symtrique) dans la base canonique de lap-
plication bilinaire direntielle seconde d
2
f
x
de f en x. Par dnition, nous avons
f (x) = trace H
x
f .
Par linarit de g, nous avons, pour tous v, w R
n+1
,
d(f g)
x
(v) = df
g(x)
(g(v)) et d
2
(f g)
x
(v, w) = d
2
f
g(x)
(g(v), g(w)) .
92
Si G est la matrice de g dans la base canonique de R
n+1
, nous avons donc H
x
(f g) =
t
G H
g(x)
f G. Par les proprits de la trace, nous avons donc
trace H
x
(f g) = trace
_
t
G H
g(x)
f G
_
= trace
_
G
t
G H
g(x)
f
_
= trace
_
H
g(x)
f
_
.
Ceci montre le rsultat.
Une application f : R
n+1
0 C est dite radiale si elle est invariante par rotations
(cest--dire si f(gx) = f(x) pour tous x R
n
0 et g O(n + 1)), ou, de manire
quivalente, sil existe une application F : ]0, +[ C telle que f(x) = F(|x|). Une telle
application F est unique, car nous avons alors F(r) = f(r e
0
) pour tout r > 0. De plus,
ceci montre que F est de classe C
2
si f lest. Par exemple, pour tout k Z, lapplication
x |x|
k
est radiale.
Proposition 2.25 Soient f : R
n+1
0 C une application radiale C
2
, et F : ]0, +[
C telle que f(x) = F(|x|). Alors pour tout x R
n+1
0,
f(x) = LF(|x|) ,
o LF(r) =
d
2
F
dr
2
(r) +
n
r
dF
dr
(r).
Dmonstration. Notons r = |x| =
_

n
i=0
x
2
i
. Pour 0 i n, nous avons
f
x
i
=

_
F(r)
_
x
i
=
x
i
r
F

(r) , (20)
et en drivant une nouvelle fois,

2
f
x
2
i
=
x
2
i
r
2
F

(r) +
_
1
r

x
2
i
r
3
_
F

(r) .
Le rsultat en dcoule, par sommation.
Dcomposition spectrale du laplacien sphrique.
Nous noterons i = (i
0
, i
1
. . . , i
n
) les lments de N
n+1
(appels multi-entiers), ainsi
que [ i [ = i
0
+ i
1
+ + i
n
(appel la longueur de i) et i! = i
0
! i
1
! . . . i
n
! . Pour tout
x = (x
0
, x
1
, . . . , x
n
) R
n+1
, posons x
i
= x
i
0
0
x
i
1
1
. . . x
in
n
.
Notons P lalgbre complexe des applications polynomiales de R
n+1
dans C, et, pour
tout m N,
P
m
=
_
x R
n+1

i N
n+1
: | i | =m
a
i
x
i
: a
i
C
_
son sous-espace vectoriel complexe des applications polynomiales homognes de degr m.
Les applications x x
i
pour i N
n+1
sont appeles les applications monomiales, et
forment une base de lespace vectoriel complexe P. Remarquons que P =

mN
P
m
et
que si p P
m
et q P

, alors pq P
m+
. Nous noterons
m
la dimension de lespace
vectoirel complexe P
m
.
Notons H
m
le sous-espace vectoriel complexe de P
m
des applications polynomiales
harmoniques
H
m
= p P
m
: p = 0 ,
93
et HS
m
lespace vectoriel des restrictions des lments de H
m
S
n
. Remarquons que
lapplication de restriction de H
m
dans HS
m
est un isomorphisme linaire, car une appli-
cation polynomiale p, homogne de degr m, qui est nulle sur la sphre unit est nulle, par
la formule p(x) = |x|
m
p
_
x
x
_
. Les espaces vectoriels complexes H
m
et HS
m
sont donc
de mme dimension, note d
m
. Les espaces H
m
et HS
m
sont stables par la conjugaison
complexe (et donc par passage aux parties relle et imaginaire). Les lments de HS
m
sappellent les harmoniques sphriques de degr m.
Nous notons [t] = supn Z : n t la partie entire dun lment t R et
Q : (x
0
, . . . , x
n
) x
2
0
+ +x
2
n
, qui appartient P
2
.
Proposition 2.26 (1) Pour toute application polynomiale p homogne de degr m, il existe
h
k
H
m2k
pour 0 k [
m
2
] tels que
p =
[
m
2
]

k=0
Q
k
h
k
.
(2) Pour tout m N, les espaces vectoriels complexes P
m
, H
m
et HS
m
sont de
dimension nie, gales

m
= dim
C
P
m
=
_
m+n
n
_
d
m
= dim
C
H
m
= dim
C
HS
m
= (2m +n 1)
(m +n 2)!
(n 1)!m!
.
Dmonstration. Dnissons un produit scalaire hermitien , )) sur lespace vectoriel
complexe P par
p, q)) =

iN
n+1
i! p
i
q
i
,
o p : x

iN
n+1 p
i
x
i
et q : x

iN
n+1 q
i
x
i
(ces sommes nont quun nombre ni de
termes non nuls). Montrons que ladjoint pour ce produit scalaire de loprateur linaire
: P P est loprateur de multiplication par Q : x x
2
0
+x
2
1
+ +x
2
n
:
p, q P, p, q)) = p, Qq)) . (21)
En itrant et par sommation, il sut de vrier que ladjoint de loprateur

x
k
est lopra-
teur de multiplication par x
k
pour 0 k n. Par linarit, il sut pour cela de vrier la
formule lorsque p est une application monomiale quelconque x x
i
, o i = (i
0
, i
1
, . . . , i
n
).
Posons i

= (i
0
, . . . , i
k1
, i
k
1, i
k+1
, . . . , i
n
). Comme
x
i
x
k
= i
k
x
i

et (x
k
q)
i
= q
i
, le
rsultat en dcoule par la dnition du produit scalaire.
(1) Montrons que P
m
= H
m
QP
m2
si m 2. Les applications polynomiales de
degr 0 ou 1 tant harmoniques, lassertion (1) en dcoule par rcurrence. Ceci montre
aussi que dim
C
H
m
= dim
C
P
m
dim
C
P
m2
, cest--dire
d
m
=
m

m2
.
Il sut de montrer que lorthogonal dans P
m
(pour la restriction de , )) P
m
) du
sous-espace vectoriel QP
m2
est le sous-espace vectoriel H
m
. Soit p P
m
. Alors par la
formule dadjonction (21), nous avons p, Qq)) = 0 pour tout q P
m2
si et seulement si
94
p, q)) = 0 pour tout q P
m2
, ce qui quivaut p = 0, car le laplacien envoie P
m
dans P
m2
. Ceci montre le rsultat.
(2) Comme lapplication de restriction induit un isomorphisme linaire de H
m
dans
HS
m
, nous avons dim
C
H
m
= dim
C
HS
m
. Par lexpression ci-dessus de d
m
, il sut de
calculer la valeur de
m
. Or
m
est le nombre de (n+1)-uplets i = (i
0
, i
1
. . . , i
n
) dans N
n+1
tels que [ i [ = i
0
+ i
1
+ + i
n
= m, qui vaut le nombre darrangements
_
m+n
n
_
, car
le choix de n lments dune suite ordonne de n +m lments dtermine n +1 intervalles
ordonns dont la somme des longueurs est m.
i
0
i
1
i
2
i
3

i
n1
n +m

Le rsultat suivant implique que loprateur laplacien sphrique

S
, qui est dni
sur le sous-espace dense de L
2
(S
n
) form des applications C

, est diagonalisable en base

hilbertienne de L
2
(S
n
).
Thorme 2.27 Lespace de Hilbert complexe L
2
(S
n
) est somme hilbertienne des sous-
espaces vectoriels de dimension nie HS
m
pour m N, et tout lment de HS
m
est un
vecteur propre de loppos du laplacien sphrique
S
associ la valeur propre m(m +
n 1) :
f HS
m
,
S
f = m(m+n 1) f .
Remarquons que ces valeurs propres sont deux deux distinctes, et de multiplicits
nies.
Dmonstration. (1) Montrons tout dabord lorthogonalit de HS
m
et HS

si m ,= .
Rappelons la formule de Green. Si f est une application C
2
dun voisinage ouvert de
B
n+1
valeurs dans C, nous noterons, pour tout x S
n
,
f

(x) = df
x
(x)
la drive radiale de u en x. Notons
n+1
la mesure de Lebesgue de B
n+1
. La formule de
Green dit que si u et v sont deux applications C
2
dun voisinage ouvert de B
n+1
valeurs
dans C, alors
_
B
n+1
_
uv vu
_
d
n+1
=
n+1
_
Sn
_
u
v

v
u

_
d
n
.
Rappelons la formule dEuler
10
: si f : R
n+1
C est une application polynomiale
homogne de degr m, alors, pour tout x R
n+1
, nous avons
df
x
(x) = m f(x) .
10
Par linarit, il sut de la montrer lorque f est une application monomiale (x0, . . . , xn) x
i
0
0
. . . x
in
n
,
auquel cas le rsultat est immdiat par la formule dfx(x) =
P
n
i=0
xi
f
x
i
. Pour une autre mthode, driver
en t = 1 lquation f(tx) = t
m
f(x), vrie pour tous t [0, +[ et x R
n+1
si f est homogne de degr
m.
95
Pour tous p H
m
et q H

, nous avons donc

(m) p
|Sn
, q
|Sn
)
L
2 =
_
Sn
(mp q p q ) d
n
=
_
Sn
_
q
p

p
q

_
d
n
=
1

n+1
_
B
n+1
_
q p p q
_
d
n+1
= 0 ,
ce qui montre le rsultat.
(2) Montrons que le sous-espace vectoriel
mN
HS
m
est dense dans L
2
(S
n
), ce qui,
avec lassertion (1), montre que L
2
(S
n
) est somme hilbertienne des HS
m
pour m N.
Par densit pour la norme L
2
des applications continues dans L
2
(S
n
), et puisque la conver-
gence uniforme dapplications continues implique leur convergence L
2
par nitude de la
mesure, il sut de dmontrer que
mN
HS
m
est dense dans C(S
n
; C) pour la norme
uniforme. Les fonctions coordonnes appartiennent P, donc lensemble des restrictions
S
n
des lments de P est une sous-algbre sparante de C(S
n
; C). Par le thorme
de Stone-Weierstrass 1.1, cet ensemble est donc dense pour la norme uniforme. Comme
toute application polynomiale est somme dapplications polynomiales homognes, il sut
de montrer que toute application polynomiale homogne concide, en restriction S
n
, avec
une somme dapplications polynomiales harmoniques. Ceci dcoule de la proposition 2.26
(1), car lapplication Q vaut 1 sur S
n
.
(3) Montrons que tout lment de HS
m
est un vecteur propre de
S
associ la
valeur propre m(m+n 1).
Rappelons la formule de Leibnitz qui dit que si U est un ouvert de R
n+1
et si u, v :
U C sont deux applications C
2
, alors
(uv) = (u)v + 2
n

i=0
u
x
i
v
x
i
+u(v) .
Soit f un lment de HS
m
, restriction de p H
m
. En particulier, pour tout x R
n1
non nul, en notant r = |x|, nous avons
f(x) = p
_
x
r
_
=
p(x)
r
m
.
Lapplication u : x
1
r
m
est radiale. Par lquation (20) et la formule dEuler, nous avons
donc
n

i=0
u
x
i
p
x
i
=
n

i=0

mx
i
r
m+2
p
x
i
=
m
r
m+2
n

i=0
x
i
p
x
i
=
m
r
m+2
dp
x
(x) =
m
2
r
m+2
p(x) .
Par la proposition 2.25, nous avons
u =
m(m+ 1)
r
m+2

mn
r
m+2
.
Par la formule de Leibnitz, et puisque p est harmonique, nous avons donc
f = (up) = (m(m+ 1) +mn + 2m
2
)
1
r
m+2
p .
96
Donc
S
f = m(m+n 1)f.
Le but de la partie suivante est de donner une description des harmoniques sphriques,
cest--dire des lments de HS
m
pour tout m, ou encore des vecteurs propres de
S
pour la valeur propre m(m+n 1).
Introduction aux polynmes sphriques.
Notons K le stabilisateur dans O(n +1) du dernier vecteur e
n
de la base canonique de
R
n+1
:
K =
__
A 0
0 1
_
: A O(n)
_
.
Notons que K est un sous-groupe ferm de O(n + 1), donc un sous-groupe compact de
GL
n+1
(R). Lapplication A
_
A 0
0 1
_
est un isomorphisme de groupes et un homo-
morphisme de O(n) dans K.
Pour tout sous-groupe compact G de GL
n+1
(R), pour toute mesure (borlienne) de
probabilit sur G, nous dirons que est invariante gauche par G si pour tout g G,
pour toute application continue f : G C, nous avons
_
hG
f(gh) d(h) =
_
hG
f(h) d(h) .
Nous dirons que est invariante droite par G si pour tout g G, pour toute application
continue f : G C, nous avons
_
hG
f(hg) d(h) =
_
hG
f(h) d(h) .
Le rsultat ci-dessous est un cas particulier de lexistence et de lunicit, sur tout sous-
groupe compact de GL
n+1
(R), dune mesure de probabilit invariante par translations
droite et gauche (voir par exemple [Coh, 9]).
Proposition 2.28 Pour tout n N, il existe une et une seule mesure (borlienne) de
probabilit
n
sur O(n) invariante par translations gauche.
De plus,
n
est invariante par translations droite, mais nous ne nous servirons pas de
ce fait.
Dmonstration. Puisque O(1) = 1, notons
0
la mesure dquiprobabilit sur O(1),
qui est bien invariante par translations gauche.
Par rcurrence, supposons
n
construite, et notons
K
la mesure sur K image de
n
par
A
_
A 0
0 1
_
. Pour toute application continue f : S
n
R, lapplication de O(n+1) dans
C dnie par g
_
K
f(gk) d
K
(k) est continue. Puisque
n
, et donc
K
, est invariante
par translations gauche, cette application passe au quotient pour donner une application
continue f : O(n + 1)/K R, qui est constante gale 1 si f lest.
Rappelons que lapplication g ge
n
de O(n+1) dans S
n
, qui est continue et surjective,
induit par passage au quotient une bijection continue de O(n+1)/K dans S
n
. Par compa-
cit, cette application est un homomorphisme, quivariant pour les actions de O(n + 1),
97
par laquelle nous identions ces deux espaces. Lapplication f
_
xSn
f(x) d
n
(x) est
une forme linaire positive sur C(O(n+1); R). Par le thorme de reprsentation de Riesz
1.6, elle dnit une mesure
n+1
sur O(n + 1), telle que, pour tout f C(O(n + 1); R),
_
O(n+1)
f d
n+1
=
_
xSn
f(x) d
n
(x) .
Il est immdiat de voir que
n+1
est une mesure de probabilit invariante par translations
gauche, ce qui conclut la rcurrence.
Pour montrer lunicit, soient
n
et

n
deux mesures de probabilit invariantes par
translations gauche sur O(n). Posons

n
=
1
2
(
n
+

n
), qui est aussi une mesure de
probabilit invariante par translations gauche sur O(n). Pour toute application continue
f : O(n) R, nous avons, en utilisant respectivement
le fait que

n
est une mesure de probabilit,
linvariance par translations gauche de
n
en remplaant x par y
1
x,
le thorme de Fubini,
linvariance par translations gauche de
n
en remplaant y par xy,
le fait que
n
est une mesure de probabilit,
_
xO(n)
f(x) d
n
(x) =
_
yO(n)
_
xO(n)
f(x) d
n
(x) d

n
(y)
=
_
yO(n)
_
xO(n)
f(y
1
x) d
n
(x) d

n
(y)
=
_
xO(n)
_
yO(n)
f(y
1
x) d

n
(y) d
n
(x)
=
_
xO(n)
_
yO(n)
f(y
1
) d

n
(y) d
n
(x)
=
_
yO(n)
f(y
1
) d

n
(y) .
Puisque le dernier terme est inchang par le remplacement de
n
par

n
, nous avons
_
xO(n)
f(x) d
n
(x) =
_
xO(n)
f(x) d

n
(x) pour toute application continue f : O(n) R.
Donc
n
=

n
, ce qui montre le rsultat.
Dans la suite, nous notons
K
la mesure image de
n
par lapplication A
_
A 0
0 1
_
,
qui est lunique mesure (borlienne) de probabilit sur K invariante par translations
gauche : pour tous k

K et f C(K; C),
_
kK
f(k

k) d
K
(k) =
_
kG
f(k) d
K
(k) .
Une application p : R
n+1
C (ainsi que sa restriction S
n
) est dite invariante par un
sous-groupe G de O(n +1) si p g = p pour tout g G. Un ensemble E dapplications de
R
n+1
(ou de S
n
) dans C est dit invariant par G si p g E pour tous g G et p E.
Exemples. (1) Une application f : R
n+1
C est invariante par K si et seulement si
f(x) ne dpend que de la dernire coordonne de x, pour tout x R
n+1
(car K contient
toutes les rotations daxe Re
n
).
98
(2) Si p P
m
, alors p est invariant par O(n + 1) si et seulement si sa restriction S
n
lest.
(3) Le lemme suivant dtermine les polynmes invariants par tout le groupe orthogonal.
Lemme 2.29 Soit q : R
n
C une application polynomiale en n 1 variables relles,
invariante par le groupe orthogonal O(n). Alors il existe
0
, . . . ,

C tels que
q(x
0
, x
1
, . . . , x
n1
) =

j=0

j
(x
2
0
+x
2
1
+ +x
2
n1
)
j
.
Dmonstration. Lapplication f : R C dnie par t q(ty) est polynomiale (en une
variable relle) et ne dpend pas de y S
n1
, par lhypothse et la transitivit de laction
de O(n) sur S
n1
. En particulier (en remplaant y par y), lapplication f est paire. Elle
scrit donc f : t

j=0

j
t
2j
. Donc pour tout x = (x
0
, x
1
, . . . , x
n1
) R
n
, nous avons
q(x) = f(|x|) =

j=0

j
(x
2
0
+x
2
1
+ +x
2
n1
)
j
.
Considrons les applications de R
n+1
dans C dnies par
q
m
: x = (x
0
, . . . , x
n
) (x
n
+ix
0
)
m
et
p
m
: x
_
kK
q
m
(k
1
x) d
K
(k) .
Lapplication p
m
est appele le m-me polynme sphrique. Notons
m
: R C lapplica-
tion dnie par

m
: t p
m
(te
n
) .
Rappelons lexpression de la clbre fonction Gamma, dnie sur ]0, +[ par
: s
_
+
0
t
s1
e
t
dt .
Elle vrie (1) = 1 et par intgration par partie (s + 1) = s(s) (donc en particulier
(n) = n! pour tout n N 0).
Thorme 2.30 (1) Lapplication p
m
est une application polynomiale en n + 1 variables
relles, homogne de degr m, invariante par K, harmonique telle que p
m
(e
n
) = 1. En
particulier,
m
est une application polynomiale paire (en une variable relle) et p
m
(x) =

m
(x
n
).
(2) Lensemble HS
m
K
des lments de HS
m
invariants par K est la droite vectorielle
complexe engendre par la restriction p
m|Sn
de p
m
S
n
:
f HS
m
: k K, f k = f = C p
m|Sn
.
(3) Tout sous-espace vectoriel de HS
m
invariant par O(n + 1) est gal 0 ou
HS
m
.
(4) Tout lment de HS
m
est de la forme

j=1

j
(p
m
g
j
)
|Sn
, o N,
j
C et
g
j
O(n + 1).
(5) (Formule de Rodriguez) Pour tout n 4 et tout t R (avec prolongement par
continuit en t = 1), nous avons

m
(t) =
(1)
m
(
m
2
)
2
m
(
m
2
+m)
1
(1 t
2
)
n
2
1
d
m
dt
m
_
(1 t
2
)
n
2
1+m
_
.
99
Il dcoule en particulier de lassertion (1) que
m
dtermine p
m
.
Dmonstration. (1) Lapplication q
m
est polynomiale, homogne de degr m, harmonique
car

2
x
2
n
(x
n
+ ix
0
)
m
= m(m 1)(x
n
+ ix
0
)
m2
=

2
x
2
0
(x
n
+ ix
0
)
m
si m 2, et vrie
q
m
(e
n
) = 1. Par intgration, puisque x q
m
(k
1
x) est une application polynomiale en
x, dont les coecients dpendent de manire continue de k, lapplication p
m
est donc
polynomiale et homogne de degr m. Elle vrie p
m
(e
n
) = 1 car K xe e
n
et
K
est
une mesure de probabilit. Elle invariante par K (cest--dire que p
m
(k

x) = p
m
(x) pour
tous x R
n+1
et k

K), par la construction de p

m
et linvariance par translations
gauche de
K
. Par dnition de K, ceci implique que p
m
(x) ne dpend que de la dernire
coordonne de x. Donc si x = (x
0
, . . . , x
n
), nous avons p
m
(x) = p
m
(x
n
e
n
) =
m
(x
n
). Par
la proposition 2.24, lapplication q
m
k
1
est harmonique pour tout k K. Donc par
intgration, lapplication p
m
est harmonique.
(2) Soit f HS
m
K
, restriction S
n
dun polynme p harmonique homogne de degr
m invariant par K ; montrons que f est un multiple scalaire de p
m|Sn
. En dveloppant
suivant les puissances de x
n
, crivons
p =
m

j=0
a
j
(x
0
, x
1
, . . . , x
n1
)x
j
n
o a
j
est une application polynomiale en n variables relles, homogne de degr mj. Pour
tout A O(n), pour tout x = (x
0
, x
1
, . . . , x
n1
) R
n
et pour tout x
n
R, nous avons
p(Ax, x
n
) = p(x, x
n
) puisque p est invariant par K. Puisque deux applications polynomiales
en une variable relle x
n
sont gales si et seulement si leurs coecients le sont, nous en
dduisons que a
j
est invariant par O(n) pour 0 k m. Par le lemme 2.29 et puisque
a
j
est homogne de degr m j, nous avons donc a
j
= 0 si m j est impair et il existe

j
C tel que a
m2j
(x
0
, . . . , x
n1
) =
j
(x
2
0
+x
2
1
+ +x
2
n1
)
j
, pour 0 j [
m
2
]. Donc,
pour tout x S
n
,
f(x) = p(x) =
[
m
2
]

j=0

j
(1 x
2
n
)
j
x
m2j
n
.
Pour tout N, notons f

: S
n
C lapplication dnie par x x
n

, qui est la restriction

S
n
dune application polynomiale homogne de degr . La restriction f de p S
n
est
donc une combinaison linaire de f
0
, f
1
, . . . , f
m
. Par la proposition 2.26 (1), nous avons
f

j=0
HS
j
. Puisque f HS
m
et par orthogonalit des HS
j
pour le produit scalaire
de L
2
(S
n
), nous avons donc que f est un multiple de la projection orthogonale
m
de f
m
sur HS
m
. En particulier, HS
m
K
est contenu dans la droite vectorielle C
m
. Puisque
p
m|Sn
est un lment non nul de HS
m
K
par lassertion (1), il engendre donc cette droite,
et HS
m
K
= C p
m|Sn
, ce qui montre le rsultat.
(3) Par la proposition 2.24, la prcomposition dune application harmonique p : R
n1

C par un lment g de O(n +1) est encore harmonique : (p g) = (f) g = 0. Comme

p g P
m
si p P
m
, ceci montre que HS
m
est invariant par O(n + 1). Le sous-espace
nul est trivialement invariant par O(n + 1).
Rciproquement, soit E un sous-espace vectoriel non nul de HS
m
invariant par le
groupe O(n + 1), et montrons que E = HS
m
. Notons E

lorthogonal de E dans HS
m
100
pour le produit scalaire de L
2
(S), qui est aussi invariant par O(n + 1), puisque O(n + 1)
prserve le produit scalaire de L
2
(S) (par invariance de la mesure de Lebesgue des S
n
).
Soient f un lment non nul de E et x
0
S
n
tels que f(x
0
) ,= 0. Soit g O(n + 1) tel
que x
0
= ge
n
. Alors f
1
= f g E et f
1
(e
n
) ,= 0. Notons f
2
: S
n
C lapplication dnie
par
x
_
K
f
1
(k
1
x) d
K
(k) .
Puisque K xe e
n
, nous avons f
2
(e
n
) = f
1
(e
n
) ,= 0. Comme vu prcdemment, f
2
est
invariante par K, et est la restriction S
n
dune application polynomiale harmonique
homogne de degr m. Donc f
2
appartient HS
m
K
. Montrons que f
2
appartient E. Il
sut de montrer que f
2
est orthogonal tout lment h E

. Or, par le thorme de

Fubini et par invariance de la mesure de Lebesgue
f
2
, h)
L
2 =
_
Sn
f
2
(x) h(x) d
n
(x) =
_
K
_
Sn
f
1
(k
1
x) h(x) d
n
(x) d
K
(k)
=
_
K
f
1
, h k)
L
2 d
K
(k) = 0 .
Puisque f
2
est non nul, ceci montre que E contient la droite vectorielle HS
m
K
.
Si E

est non nul, le mme raisonnement que ci-dessus montre que E

contient aussi
la droite vectorielle HS
m
K
, ce qui contredit le fait que E E

= 0. Donc E

= 0 et
le rsultat en dcoule.
(4) Lespace vectoriel engendr par les (p
m
g)
|Sn
pour g O(n + 1) est non nul (car
p
m
,= 0), invariant par O(n + 1) et contenu dans HS
m
, donc gal HS
m
par lassertion
(3). Le rsultat en dcoule.
(5) Commenons par le lemme suivant donnant lexpression de la mesure de Lebesgue
dune sphre en coordonnes sphriques par rapport ses ples.
Lemme 2.31 Pour tout n 1, lapplication de S
n1
]0, [ dans S
n
e
n
dnie par
(u, ) x = cos e
n
+ sin u
est un homomorphisme, et, en posant
n
= Vol(B
n
) la mesure de Lebesgue de la boule
unit, et
n
=
nn
(n+1)
n+1
, nous avons
d
n
(x) =
n
sin
n1
d
n1
(u)d .
x
u
S
n1

r
s
x
n
e
n
101
Dmonstration. La mesure de Lebesgue
n+1
de R
n+1
sexprime facilement en fonction
de la mesure de Lebesgue
n
de R
n
:
d
n+1
= d
n
dx
n
.
Pour tout x = (x
0
. . . , x
n
) R
n+1
Re
n
, posons r = |x| > 0, notons ]0, [ langle
entre e
n
et x, et posons s = |x x
n
e
n
|, de sorte que
x
n
= r cos et s = r sin .
En particulier, puisque dx
n
= cos dr r sin d et ds = sin dr +r cos d, nous avons
ds dx
n
= r d dr .
En posant
n
= n
n
, par la construction de la mesure de Lebesgue des sphres, nous avons
d
n
=
n
s
n1
d
n1
ds et d
n+1
=
n+1
s
n
d
n
dr .
Donc

n+1
s
n
d
n
dr = d
n+1
= d
n
dx
n
=
n
s
n1
d
n1
ds dx
n
=
n
sin
n1
r
n1
r d
n1
d dr .
Le rsultat en dcoule.
Maintenant, considrons le produit scalaire sur C[X] dni par
P, Q) =
n
_
1
1
P(t) Q(t)(1 t
2
)
n
2
1
dt .
Remarquons que, en posant t = cos , puisque
n1
est une mesure de probabilit, et par
le lemme prcdent,
P, Q) =
n
_

0
P(cos ) Q(cos ) sin
n1
d
=
n
_

0
_
uS
n1
P(cos ) Q(cos ) sin
n1
d
n1
(u) d
=
_
xS
n1
P(x
n
) Q(x
n
) d
n
(x) .

Posons R
n
=
1
(1t
2
)
n
2
1
d
m
dt
m
(1 t
2
)
n
2
1+m
, qui est un polynme de degr au plus m.
Nous avons vu dans lassertion (2) que
m
est lunique polynome de degr au plus m
tel que
m
(1) = 1 et que lapplication x
m
(x
n
) soit orthogonale dans L
2
(S
n
,
n
) aux
applications x x
j
n
pour 0 j < m. Or, en crivant (1 t
2
) = (1 t)(1 + t) et en
appliquant la rgle de Leibnitz, on obtient, puisque les termes sont nuls sauf celui obtenu
en drivant systmatiquement 1 t,
R
m
(1) = (1)
m
)2
m
(
n
2
1 +m)(
n
2
1 +m1) (
n
2
1 + 1) = (1)
m
)2
m
(
n
2
+m)
(
n
2
)
.
102
De plus, on vrie par m 1 intgrations par parties que R
m
, t
j
) = 0 si 0 j < m.
Puisque HS
m
K
est de dimension 1 par lassertion (2) du 2.30, nous avons
m
=
Rm
Rm(1)
,
ce qui montre le rsultat.
Remarques. (1) Considrons la suite (f
j
)
jN
, o f
j
est la restriction S
n
de lapplication
x x
j
n
, pour j N. Notons (
j
)
jN
la suite dapplications de S
n
dans C obtenue en
appliquant le procd dorthogonalisation de Gram-Schmidt la suite (f
j
)
jN
pour le
produit scalaire de L
2
(S
n
,
n
) :
0
= f
0
,

j
f
j
+ Vect(f
0
, f
1
, . . . , f
j1
)
et
j
,
j
)
L
2
(Sn,n)
= 0 si 0 j < j

. Alors la dmonstration de lassertion (2) du thorme

2.30 montre que le m-me polynme sphrique p
m
est lunique multiple de
m
tel que
p
m
(e
n
) = 1. Cette remarque permet de calculer facilement les polynmes sphriques.
(2) Par la dmonstration de lassertion (5) du thorme 2.30, la suite (
m
)
mN
dans
C[X] est lunique suite obtenue par le procd dorthogonalisation de Gram-Schmidt
partir de la base canonique (x
m
)
mN
de C[X] pour le produit scalaire
P, Q) =
_
1
1
P(t) Q(t)(1 t
2
)
n
2
1
dt ,
vriant la condition de normalisation
m
(1) = 1.
(3) Soit G un sous-groupe ferm de GL
N
(R). Une reprsentation (linaire de dimension
nie) de G est un morphisme de groupes continu de G dans GL(V ) o V est un espace
vectoriel de dimension nie. Un sous-espace vectoriel E de V est invariant par (ou par G
quand est sous-entendue) si (g)(E) E pour tout g G. Le sous-espace xe de V par
(ou par G quand est sous-entendue) est le sous-espace vectoriel des lments x de V
tels que (g)(x) = x pour tout g G. Une reprsentation linaire de G est dite irrductible
si les seuls sous-espaces vectoriels de V invariants par sont 0 et V .
Lassertion (3) du thorme 2.30 dit que la reprsentation linaire de O(n+1) sur HS
m
est irrductible.
Nous renvoyons par exemple [Far, Chap. IX] pour de nombreuses autres proprits
des harmoniques sphriques, et dautres polynmes orthogonaux.
103
Annexes
A Dmonstrations des rappels sur les espaces de Hilbert
Dmonstration de la proposition 1.9.
Soient u et v dans H . Lingalit de Cauchy-Schwarz (ainsi que son cas dgalit) est
immdiate si u, v) = 0. Sinon, pour tout X dans R, posons = X
u,v
| u,v |
. Alors
|u +v|
2
= |u|
2
+[[
2
|v|
2
+ 2 Re
_
u, v)
_
= |u|
2
+X
2
|v|
2
+ 2 X[ u, v) [ .
Ce polynme quadratique rel en X tant positif, est de discriminant (rduit) ngatif, donc
[u, v)[
2
|u|
2
|v|
2
0, ce qui montre lingalit de Cauchy-Schwarz. Sil y a galit dans
lingalit de Cauchy-Schwarz, alors ce polynme a une racine double, donc il existe K
tel que |u +v|
2
= 0, ce qui implique que u et v sont colinaires.
Il est immdiat que |u|
2
= [[
2
|u|
2
, et, par lingalit de Cauchy-Schwarz,
|u +v|
2
= |u|
2
+|v|
2
+ 2 Re u, v) |u|
2
+|v|
2
+ 2 [ u, v) [
|u|
2
+|v|
2
+ 2 |u| |v| =
_
|u| +|v|
_
2
.
Comme le produit scalaire est dni positif, ceci montre que | | est une norme sur H .
Dmonstration du thorme 1.10.
Faisons tout dabord quelques rappels. Soient X et Y deux espaces mtriques. Rappe-
lons quune application f de X dans Y est uniformment continue si
> 0, > 0, x, y X, d(x, y) < = d(f(x), f(y)) < ,
quon peut remplacer toute ingalit stricte par une ingalit large dans cette dnition,
quune application uniformment continue est en particulier continue et quune application
uniformment continue envoie une suite de Cauchy sur une suite de Cauchy. Rappelons
quune injection isomtrique dun espace mtrique dans un autre est une application f :
X Y entre deux espaces mtriques telle que
x, y X, d(f(x), f(y)) = d(x, y) .
Elle est injective et uniformment continue.
Thorme A.1 (Thorme de prolongement) Soient X et Y deux espaces mtriques,
tels que Y soit complet, et soit A une partie dense de X. Toute application uniformment
continue f de A dans Y se prolonge, de manire unique, en une application continue g de
X dans Y . De plus, g est uniformment continue sur X.
Pour mmoire, dire que g prolonge f signie que g(x) = f(x) pour tout x dans A. On
note souvent encore f le prolongement obtenu. Par passage la limite, si f : A Y est
une injection isomtrique, alors g : X Y est aussi une injection isomtrique.
Dmonstration. Supposons que g
1
et g
2
soient deux prolongements continus de f. Pour
tout x dans X, soit (x
n
)
nN
une suite dans A qui converge vers x. Alors la suite (f(x
n
))
nN
104
converge vers g
1
(x) et vers g
2
(x) par continuit de g
1
et g
2
, donc g
1
(x) = g
2
(x) par unicit
des limites. Ceci montre lunicit de g.
Montrons lexistence dun prolongement uniformment continu. Pour tout x dans X,
xons une suite (a
x,n
)
nN
dans A qui converge vers x. La suite (f(a
x,n
))
nN
est de Cauchy
dans Y , par uniforme continuit de f sur A. Elle converge donc vers un point g(x) de Y ,
car Y est complet, avec g(x) = f(x) si x A, par continuit de f sur A. Montrons que
lapplication g convient.
Puisque f est uniformment continue, pour tout > 0, soit > 0 tels que pour tous
x, y A, si d(x, y) < alors d(f(x), f(y)) . Pour tous x, y dans X, par continuit de
la distance, pour n assez grand, nous avons d(a
x,n
, a
y,n
) < , donc d(f(a
x,n
), f(a
y,n
)) ,
et par passage la limite des ingalits larges, d(g(x), g(y)) . Donc g est uniformment
continue, donc continue.
Thorme A.2 Soit X un espace mtrique. Il existe un espace mtrique complet

X et
une injection isomtrique i : X

X dimage dense. Si

X

est un autre espace mtrique

complet muni dune injection isomtrique i

: X

X

dimage dense, alors il existe une

unique isomtrie j :

X

X

telle que j i = i

, ou autrement dit telle que le diagramme

suivant soit commutatif
X
i

X
i

j

.
Tout tel couple (i,

X) (et par abus

X) est appel un complt de X. On identie X avec
son image dans

X par i. La proprit dunicit modulo unique isomorphisme des complts
fait que lon peut parler du complt au lieu dun complt : on identie deux complts
de X par lunique telle isomtrie j.
Dmonstration. La proprit dunicit est immdiate par le thorme de prolongement
A.1 : lapplication de i(X) dans i

(X) dnie par i(x) i

(x) pour tout x dans X est

une isomtrie, donc se prolonge de manire unique en une application continue j de

X
dans

X

, qui est une application isomtrique par passage la limite. En appliquant le

mme raisonnement en changeant i et i

, et comme la seule application continue de

X
dans

X (resp. de

X

dans

X

) tendant lidentit de i(X) (resp. i

(X)) est lidentit de

X
(resp.

X

), on en dduit que j est bijective, donc une isomtrie.

Pour montrer lexistence de (i,

X), nous pouvons supposer que X est non vide. Notons
d la distance de X. Munissons lespace vectoriel rel C
b
(X, R) des applications continues
bornes de X dans R de la norme uniforme |f|

= sup
xX
[f(x)[. Il nest pas dicile de
montrer quelle est complte. Notons : X C
b
(X, R) lapplication dnie par
x
x
: z d(z, x) d(z, x
0
) .
Remarquons que
x
est continue, par continuit de la distance un point, et borne par
d(x, x
0
), par lingalit triangulaire inverse. Pour tous x, y dans X, on a
|
x

y
|

= sup
zX
[
x
(z)
y
(z)[ = sup
zX
[d(z, x) d(z, y)[ d(x, y)
par lingalit triangulaire inverse. En prenant z = x, la dernire ingalit est en fait une
galit. Donc est une injection isomtrique. Posons

X = (X), qui est complet, car
105
ferm dans lespace de Banach C
b
(X, R). Avec i : X

X la restriction de , le rsultat en
dcoule.
Passons la dmonstration proprement dite du thorme 1.10. Par le thorme A.2,
soit

H un complt de lespace mtrique H pour la distance dnie par sa norme, avec
H une partie dense de

H . Les applications (x, y) x +y de H H dans H , x x
de H dans H , (, x) x de C H dans H , et (x, y) x, y)
H
de H H dans C
sont uniformment continues sur tous les borns : en eet, pour tous x, y, x

, y

dans H ,
par les proprits des normes,
|(x +y) (x

+y

)| |x x

| +|y y

| , |(x) (x

)| = |x x

| ,
|x

| [

[ |x| +[

[ |x x

| ,
[x, y) x

, y

)[ = [x x

, y) +x

, y y

)[ |x x

| |y| +|x

| |y y

| .
Notons que

H ,

H ,

H , C sont complets et que H H , H , CH , H H sont denses
dans

H

H ,

H , C

H ,

H

H respectivement. Donc par le thorme du prolongement
A.1, ces applications se prolongent en des applications continues + :

H

H

H ,
:

H

H , : C

H

H , et , ) :

H

H C, respectivement. Par passage la
limite des identits, ceci munit lespace mtrique

H dune structure despace prhilbertien
dont la distance (complte) est associe la norme associe au produit scalaire. Le rsultat
en dcoule facilement.
Dmonstration du thorme 1.11.
Soit (y
n
)
nN
une suite dans C telle que
lim
n
|x y
n
| = inf
zC
|x z| = d(x, C) .
Comme |u +v|
2
|u v|
2
= 4 Re u, v), il vient
|y
m
y
n
|
2
= |y
m
x|
2
+|y
n
x|
2
2 Re y
m
x, y
n
x)
= |y
m
x|
2
+|y
n
x|
2

1
2
|2x y
m
y
n
|
2
+
1
2
|y
m
y
n
|
2
.
Comme
yn+ym
2
appartient C par convexit, on a |x
yn+ym
2
| d(x, C). Donc
1
2
|y
m
y
n
|
2
|y
m
x|
2
+|y
n
x|
2
2 d(x, C)
2
.
Comme le membre de droite tends vers 0 quand n + et m n, et puisque le membre
de gauche est positif, on en dduit donc que (y
n
)
nN
est une suite de Cauchy dans C.
Puisque H est complet, elle converge vers un point y H . Celui-ci appartient C, car
C est ferm, et il vrie |x y| = inf
zC
|x z| par passage la limite ; en particulier
cette borne infrieure est atteinte, en au moins un point, que nous noterons p
C
(x).
Pour tout y C, par convexit de C, en raisonnant par quivalence, nous avons
z C, |x z|
2
|x y|
2
si et seulement si
z C, t [0, 1] |x
_
tz + (1 t)y
_
|
2
|x y|
2
106
si et seulement si
z C, t [0, 1] |x y t(z y)|
2
|x y|
2
si et seulement si
z C, t [0, 1] 2t Re x y, z y) +t
2
|z y|
2
0
si et seulement si
z C, t [0, 1] Re x y, z y)
t
2
|z y|
2
si et seulement si
z C, Re x y, z y) 0 .
Montrons que, pour tous x, x

H , si y = p
C
(x) et y

= p
C
(x

), alors |yy

| |xx

|
(ce qui en particulier montrera lunicit de la projection de x sur C). En eet, par ce qui
prcde, on a
Re x y, y

y) 0 et Re x

, y y

) 0 .
Donc en additionnant, on a
Re (x y) (x

), y

y) 0 Re x x

, y

y) +|y

y|
2
0 ,
ce qui implique par lingalit de Cauchy-Schwarz que
|y

y|
2
Re x x

, y

y) |x x

| |y

y| .
On en dduit que p
C
est 1-lipschitzienne.
Supposons que C soit un sous-espace vectoriel ferm. Cest donc un convexe ferm non
vide, et la dirence de deux lments de C appartient encore C. Donc la projection
y = p
C
(x) dun point x de H est lunique lment y de C tel que pour tous z C, nous
ayons Re x y, z) 0. Comme C est stable par passage loppos et par multiplication
par i, le point y est lunique lment de C tel que pour tous z C, nous ayons xy, z) = 0.
La linarit de p
C
dcoule alors de cette unicit : si x, x

H et C, alors p
C
(x) +
p
C
(x

) C et pour tout z C, nous avons (x + x

)
_
p
C
(x) + p
C
(x

)
_
, z) =
x p
C
(x), z) +x

p
C
(x

), z) = 0, donc par unicit p

C
(x +x

) = p
C
(x) +p
C
(x

).
Dmonstration du thorme 1.13 de Riesz-Frchet.
Il est immdiat que, pour tout x dans H , lapplication
x
: y x, y) est une forme
linaire sur H . Elle est continue car |
x
| |x| par lingalit de Cauchy-Schwarz. Lap-
plication x
x
est clairement linaire, et isomtrique car
x
(x) = |x|
2
, donc injective.
Montrons quelle est surjective, ce qui concluera.
Soit H

, que nous pouvons supposer non nulle, et N =
1
(0) son noyau, qui est
un hyperplan vectoriel ferm de H . Par le corollaire 1.12 (1), le sous-espace vectoriel N

est donc une droite vectorielle supplmentaire N. Soit z un vecteur de N

de norme 1.
Pour tout u dans H , nous pouvons donc crire u = v +z o v N, C. Nous avons
(u) = (z) et z, u) = |z|
2
= .
107
Donc = (z)
z
=
(z) z
, ce quil fallait dmontrer.
Dmonstration des thormes de Lax-Milgram 1.15 et de Stampachia 1.16.
Puisque et v a(u, v), pour tout u dans H , sont des formes linaires continues sur
H , par le thorme de Riesz-Frchet 1.13, il existe un unique w dans H et, pour tout u
dans H , un unique A(u) dans H tels que, pour tous u, v dans H , on ait
(v) = w, v) et a(u, v) = A(u), v) .
Soit c 1 tel que, pour tous u, v dans H , on ait
[a(u, v)[ c |u| |v| et a(u, u)
1
c
|u|
2
.
Il est immdiat que A : H H est linaire, par unicit. Pour tout u dans H , puisque
A(u) et v a(u, v) ont la mme norme par le thorme de Riesz-Frchet, et puis par
coercivit de a, nous avons
|A(u)| c |u| et A(u), u)
1
c
|u|
2
.
Si r > 0 est assez petit (par exemple r =
1
c
3
), alors k =
_
1
2r
c
+c
2
r
2
[0, 1[ . Notons
S : H H lapplication u p
C
(u rA(u) +rw). Alors, comme p
C
est 1-lipschitzienne,
|S(u) S(v)|
2
|u v rA(u v)|
2
= |u v|
2
2r Re u v, A(u v)) +r
2
|A(u v)|
2
k
2
|u v|
2
.
Donc S est strictement contractante. Par le thorme du point xe de Banach, puisque
H est complet, lapplication S admet un unique point xe u. Par dnition de p
C
, nous
avons u = p
C
(u rA(u) +rw) si et seulement si u C et
v C, Re (u rA(u) +rw) u, v u) 0 ,
et cette ingalit est quivalente Re A(u), v u) Re w, v u). La premire assertion
du thorme 1.16 en dcoule donc, par dnition de w et de A(u).
Supposons maintenant que la forme sesquilinaire a soit hermitienne. Alors a est un
produit scalaire sur lespace vectoriel complexe H , et, puisque a est continue et coercive,
sa norme associe u
_
a(u, u) est quivalente la norme de H . Donc H , muni du
produit scalaire a, est encore un espace de Hilbert, et est encore une forme linaire
continue sur H pour ce produit scalaire. Par le thorme de Riesz-Frchet 1.13, il existe
donc un unique w

dans H tel que, pour tout v dans H , on ait (v) = a(w

, v).
Donc u C vrie
v H , Re a(u, v u) Re (v u)
si et seulement si u C vrie
v H , Re a(w

u, v u) 0
108
donc si et seulement si u C est la projection de w

sur C pour le produit scalaire a. Par

les proprits de cette projection, u est donc lunique point de C tel que
_
a(w

u, w

u) = min
vC
_
a(w

v, w

v) .
En prenant les carrs, en dveloppant et en simpliant par a(w

, w

), le point u est donc

lunique point de C tel que
a(u, u) 2 Re a(w

, u) = min
vC
_
a(v, v) 2 Re a(w

, v)
_
.
En divisant par 2 et en utilisant la dnition de w

, le rsultat en dcoule.
Dmonstration du thorme de Parseval 1.17.
Pour tout k N, soit S
k
=

k
i=0
p
E
i
, qui est une application linaire de H dans H .
Par orthogonalit deux deux des E
n
et par lgalit de Pythagore, nous avons, pour tout
x H ,
|S
k
(x)|
2
=
k

i=0
|x
n
|
2
. ()
Comme x x
n
est orthogonal x
n
(par les proprits de la projection orthogonale sur un
sous-espace vectoriel ferm), nous avons x, x
n
) = |x
n
|
2
, donc par sommation
x, S
k
(x)) = |S
k
(x)|
2
.
Do, par lingalit de Cauchy-Schwarz, pour tout x H , nous avons |S
k
(x)| |x|.
Soit x H . Par densit du sous-espace vectoriel F engendr par les E
k
, pour tout
> 0, il existe y F tel que |x y| <

2
. Pour k assez grand, y E
0
+ + E
k
, donc
S
k
(y) = y. Par consquent,
|S
k
(x) x| = |S
k
(x) S
k
(y) +y x| |S
k
(x y)| +|y x| 2|y x| < .
Donc S
k
(x) converge vers x. Ceci montre la premire galit.
La seconde dcoule par passage la limite de (*).
Pour montrer la rciproque, soit (x
k
)
kN
une suite dans H telle que x
k
E
k
pour tout
k et la srie

+
k=0
|x
k
|
2
converge. Posons y
n
=

n
k=0
x
k
, qui vrie par orthogonalit des
E
n
et lgalit de Pythagore,
|y
n+p
y
n
| =
_
_
_
n+p

k=n+1
x
k
_
_
_
2
=
n+p

k=n+1
|x
k
|
2
.
Donc la suite (y
n
)
nN
dans H est de Cauchy, donc est convergente vers un lment x de
H , car H est complet. La srie

x
k
est donc convergente, de somme x. Puisque p
n
est
continue (car 1-lipschitzienne), par passage la limite, on a bien p
n
(x) = x
n
.
109
Dmonstration du thorme 1.21 de compacit faible de la boule unit ferme
des espaces de Hilbert.
Il sut de montrer que toute suite dans la boule unit ferme B
H
de H admet une
sous-suite qui converge faiblement.
Fixons donc une suite (x
n
)
nN
dans B
H
, et montrons quelle admet une sous-suite
faiblement convergente. Quitte remplacer H par ladhrence H
0
du sous-espace vectoriel
engendr par les x
n
, (qui est sparable, car les combinaisons linaires (nies) coecients
dans Q[i] des x
n
sont denses dans H
0
), nous pouvons supposer que H est sparable.
Soit donc (y
i
)
iN
une suite dnombrable dense dans H ; nous pouvons supposer que
y
i
,= y
j
si i ,= j, et que y
i
,= 0. Considrons lespace mtrique produit X =

iN
s C :
[s[ |y
i
|, muni de la distance produit dnombrable usuelle
d((s
i
)
iN
, (s

i
)
iN
) =

iN
2
i
max1, [s
i
s

i
[ .
Comme produit dnombrable despaces mtriques compacts, lespace X est compact, par
le procd dextraction diagonal.
Considrons lapplication : B
H
X dnie par x (x, y
i
))
i
. Elle est bien
valeurs dans X, par le thorme de Cauchy-Schwarz.
Lemme A.3 (1) Si une suite (z
n
)
nN
dans B
H
converge faiblement vers z, alors z ap-
partient B
H
.
(2) Une suite (z
n
)
nN
dans B
H
converge faiblement vers z si et seulement si la suite
_
(z
n
)
_
nN
converge vers (z) dans X.
(3) Limage de est ferme.
Dmonstration. (1) Puisque |z| = z,
z
z
) = lim
n+
[z
n
,
z
z
)[, le rsultat dcoule
du thorme de Cauchy-Schwarz.
(2) Remarquons quune suite (z
n
)
nN
dans B
H
converge faiblement vers z H si
et seulement si, pour tout i dans N, la suite (z
n
, y
i
))
nN
converge vers z, y
i
) dans C.
En eet, la premire condition implique la seconde immdiatement. Et si la seconde est
vrie, alors pour tout y H , pour tout > 0, soit i N tel que |y
i
y|

2(1+z)
. Soit
N N tel que pour tout n N, nous ayons [z
n
, y
i
) z, y
i
)[

2
. Alors par lingalit
triangulaire et le thorme de Cauchy-Schwarz, pour tout n N,
[z
n
, y) z, y)[ [z
n
, y
i
) z, y
i
)[ +[z
n
, y
i
y)[ +[z, y
i
y)[
[z
n
, y
i
) z, y
i
)[ +|z
n
| |y
i
y| +|z| |y
i
y| .
Ceci montre que z
n
, y) converge vers z, y) quand n tend vers +.
Rappelons que si pr
i
: X s C : [s[ |y
i
| est la projection sur le i-me
facteur (dnie par (s
j
)
jN
s
i
), alors une suite (z
n
)
nN
dlments de X converge vers
un lment z de X si et seulement si pour tout i dans N, la suite
_
pr
i
(z
n
)
_
nN
converge
vers pr
i
(z) dans C.
[En eet, supposons la seconde condition vrie. Alors pour tout > 0, soit N N tel que

+
i=N+1
2
i

2
. Pour tout i = 0 . . . , N, soit N
i
N tel que, pour tout n N
i
, nous ayons
[ pr
i
(z
n
) pr
i
(z)[

2(N+1)
. Alors, pour tout n max
1iN
N
i
,
d(z
n
, z)
N

i=0
2
i
[ pr
i
(z
n
) pr
i
(z)[ +
+

i=N+1
2
i

i=0

2(N + 1)
+

2
= .
110
Donc (z
n
)
nN
converge vers z, pour la distance d, quand n tend vers +. Rciproquement, sup-
posons que
_
d(z
n
, z)
_
nN
converge vers 0. Fixons i N. Pour tout > 0, soit N N tel que
d(z
n
, z) < 2
i
pour tout n N. Alors, pour tout n N, nous avons 2
i
max1, [ pr
i
(z
n
)
pr
i
(z)[ d(z
n
, z) < 2
i
, donc [ pr
i
(z
n
) pr
i
(z)[ < .]
Lassertion (2) en dcoule.
(3) Soit s = (s
i
)
iN
un lment de X tel quil existe une suite (z
n
)
nN
dans B
H
telle
que (z
n
) converge vers s quand n tend vers +. Montrons quil existe z B
E
tel que
(z) = s. Puisque |y
i
y
j
| > 0 si i ,= j, pour tout n N assez grand, nous avons
[ s
i
s
j
[ [z
n
, y
i
) z
n
, y
j
)[ +|y
i
y
j
| 2|y
i
y
j
| ,
cette dernire ingalit dcoulant du thorme de Cauchy-Schwarz, car |z
n
| 1. Donc
lapplication y
i
s
i
est une application 2-lipschitzienne dnie sur la partie y
i
: i N
de H , qui est dense dans H , valeurs dans lespace mtrique complet C. Par le thorme
du prolongement A.1, elle se prolonge donc en une application 2-lipschitzienne : H C.
Soient y, y

H et C. Par densit, pour tout > 0, il existe des lments i, j, k dans N

tels que |y y
i
|, |y

y
j
| et |(y +y

) y
k
| soient infrieurs ou gaux . En particulier,
|y
k
(y
i
+y
j
)| |y
k
(y +y

)| +|y y
i
| +[[|y

y
j
| (2 +[[) .
Alors puisque est 2-lipschitzienne et par lingalit de Cauchy-Schwarz,
[(y +y

) (y) (y

)[ [(y
k
) (y
i
) (y
j
)[ + 2( + +[[)
= lim
n+
[z
n
, y
k
) z
n
, y
i
) z
n
, y
j
)[ + 2(2 +[[)
= lim
n+
[z
n
, y
k
y
i
y
j
)[ + 2(2 +[[)
|y
k
y
i
y
j
| + 2(2 +[[) 3(2 +[[) .
En faisant tendre vers 0, en notant H lespace de Hilbert conjugu de H , lapplication
: H C est donc une forme linaire continue. Par le thorme de Riesz-Frchet
1.13, il existe donc z H tel que (y) = z, y) pour tout y H . En particulier,
z, y
i
) = (y
i
) = s
i
. Par densit et puisque [s
i
[ = lim
n+
[z
n
, y
i
)[ |y
i
| (toujours par
lingalit de Cauchy-Schwarz), nous avons
|z| = sup
yH {0}
[z,
y
|y|
)[ = sup
iN
[z,
y
i
|y
i
|
)[ = sup
iN
[s
i
[
|y
i
|
1 .
Donc z B
E
et (z) = s, ce quil fallait dmontrer.
Terminons maintenant la dmonstration du thorme 1.21 de compacit faible. Par
compacit de lespace mtrique X, quite extraire, la suite
_
(x
n
)
_
nN
converge dans X.
Par le lemme A.3 (3), il existe x B
H
tel que la limite soit de la forme (x). Par le lemme
A.3 (2), la suite (x
n
)
nN
converge donc faiblement vers x, ce qui montre le rsultat.
111
B Rappels sur les fonctions holomorphes
Nous renvoyons par exemple [Rud1, Die1] pour les dmonstrations de ces rappels et
dautres rsultats. Nous xons un espace de Banach complexe E dans tout cet appendice.
Pour tous a C et r > 0, nous noterons B(a, r) = z C : [z a[ < r la boule ouverte
de centre a et de rayon r dans C.
Dnitions.
Rappelons les oprateurs
=
1
2
_

x
i

y
_
et =
1
2
_

x
+i

y
_
,
agissant sur les fonctions direntiables sur les ouverts de C valeurs dans E. Ce sont des
drivations (des applications linaires D vriant la rgle de Leibnitz D(fg) = (Df)g +
f(Dg)), de lalgbre des fonctions une fois direntiables dun ouvert de C dans E, valeurs
dans lalgbre des fonctions de cet ouvert dans E. Nous avons f = f et
(f g) = f g g +f g g et (f g) = f g g +f g g .
Les condition suivantes, portant sur une application f : E, o est un ouvert de
C, sont quivalentes :
f est holomorphe, cest--dire que pour tout a , la limite
f

(a) = lim
za
f(z) f(a)
z a
existe dans E.
f est analytique complexe sur , cest--dire que pour tout a , il existe r > 0 et
une suite (c
n
)
nN
dans E tels que B(a, r) et la srie entire

nN
(z a)
n
c
n
converge normalement sur B(a, r), de somme gale f(z), pour tout z B(a, r).
f est direntiable en tout point de et vrie lquation de Cauchy-Riemann
f = 0 .
Une suite (c
n
)
nN
comme dans lassertion (2) est alors unique. Nous avons alors f

= f.
Applications analytiques relles.
Soient m N0, F un espace de Banach rel et un ouvert non vide de R
m
. Pour
tout n = (n
1
, . . . , n
m
) N
m
et tout x = (x
1
, . . . , x
m
) R
m
, notons
[n[ = n
1
+ +n
m
, n! = n
1
! . . . n
m
! , x
n
= x
n
1
1
. . . x
nm
m
et
n
=

|n|
x
n
1
1
. . . x
nm
m
.
Une application f : F est dite analytique relle ( m variables) si pour tout a dans
, il existe un voisinage U de a dans et une famille (c
n
)
nN
m F
N
m
dlments de F
indexe par N
m
telle que la srie

nN
m(x a)
n
c
n
converge normalement dans F pour
112
tout x dans U, de somme gale f sur U. On montre que lapplication f est alors de classe
C

dans et que pour tout n N

m
,

n
f (a) = n! c
n
.
En particulier, une famille (c
n
)
nN
m comme ci-dessus est unique, et f vrie le principe
du prolongement analytique : si est connexe, et si f et toutes ses drives partielles
sannulent en un point x a de , alors f est lapplication nulle.
Si F est de dimension nie, alors une application de dans F est analytique relle si
et seulement si ses coordonnes dans une base xe de F sont analytiques relles.
Si est un ouvert de C, alors toute application analytique complexe de dans E est
analytique relle ( deux variables) lorsque lon considre contenu dans R
2
et E muni
de sa structure despace de Banach rel induite.
Quelques proprits des fonctions holomorphes.
Le rsultat suivant (voir par exemple [Rud1, Theo. 10.7]), dont nous aurons besoin
en lui-mme, est en fait lune des tapes pour montrer quune application holomorphe est
analytique complexe.
Proposition B.1 Soient un ouvert de C, (X, A ) un espace mesurable, une mesure
complexe sur (X, A ), f L
1
(X, A , ; E) une fonction intgrable de X dans E pour la
mesure , et : X C une application mesurable dont limage ne rencontre pas . Alors
lapplication u : E dnie par
u(z) =
_
X
f()
() z
d()
est analytique complexe sur .
En particulier, si est une mesure complexe sur le cercle, alors lapplication du disque
ouvert B(0, 1) dans C, dnie par
z
_
S
1
+z
z
d() =
_
S
1

z
d() +z
_
S
1
1
z
d() ,
est analytique complexe sur B(0, 1).
Nous renvoyons par exemple [Rud1, Theo. 13.18] pour les dnitions quivalentes
suivantes dun ouvert simplement connexe.
Proposition B.2 Soit un ouvert connexe de C. Les conditions suivantes sont quiva-
lentes :
(1) est simplement connexe (voir la partie 2.3),
(2) est homomorphe au disque D,
(3) le complmentaire C de dans C est connexe,
(4) toute application holomorphe de dans C admet une primitive (cest--dire une
application holomorphe F : C telle que F

= f),
(5) toute application holomorphe de dans C ne sannulant pas admet un logarithme
(cest--dire une application holomorphe F : C telle que exp F = f),
113
(6) toute application holomorphe de dans C ne sannulant pas admet une racine carre
(cest--dire une application holomorphe F : C telle que F
2
= f),
Nous concluons cet appendice par le rappel du rsultat suivant, pour lequel nous ren-
voyons aussi [Rud1].
Thorme B.3 (Thorme de limage ouverte) Soient un ouvert de C et f :
C une application holomorphe non constante. Alors f() est ouvert.
114
Index
adjoint, 7, 39, 47
algbre
de Banach, 5
involutive, 47
norme, 47
norme, 5
sparante, 4
stellaire, 47
unifre, 4
application
analytique
complexe, 26, 112
relle, 112
convexe, 23
de classe C
k
, 92
faiblement semi-continue infrieurement, 23
invariante, 98
-lipschitzienne, 14
nulle linni, 69
propre, 87
radiale, 78, 93
rsolvante, 24
semi-continue suprieurement, 30
en un point, 30
strictement convexe, 87
uniformment continue, 104
auto-adjoint, 40, 47
automorphisme conforme, 64
base
duale, 7
hilbertienne, 19
bidual topologique, 6
biholomorphisme, 64
C

-algbre, 47
C(), 48
C(; ), 4
calcul fonctionnel
born, 57
continu, 49
coecients de Fourier, 20
coercive, 17
complt, 14, 105
conformment quivalents, 76
conjugaison, 25
unitaire, 25
conjugu, 16
conjugus, 25
continuit uniforme, 104
convergence
vague, 66
faible, 21
radiale, 69
coordonnes hilbertiennes, 20
courbe
de Jordan, 75
ferme, 75
homotope zro, 75
simple, 75
cyclique, 61
dcomposition polaire, 60
demi-plan suprieur, 69
drive
partielle au sens des distributions, 82
radiale, 95
dveloppement de Laurent, 28
distance de Hausdor, 31
domaine de Jordan, 75
dual topologique, 6
E

, 6
ensemble rsolvant, 23
quation
dEuler, 18
de Cauchy-Riemann, 112
de Laplace, 63
de Poisson, 86
quicontinuit, 33
espace
de Hilbert, 13
isomorphes, 12
prhilbertien, 12
propre, 24
vectoriel conjugu, 16
exposant conjugu, 7
faiblement ferm, 23
fonction
caractristique, 91
Gamma, 99
harmonique, 63
holomorphe, 112
forme sesquilinaire, 11
coercive, 17
hermitienne, 11
formule
dEuler, 95
de Green, 95
de la moyenne, 70
de Leibnitz, 96
115
de Parseval, 20
de Poisson, 67
de Rodriguez, 99
, 99
gradient, 82
harmonique sphrique, 94
hessienne, 92
idempotent, 55
identit
de la mdiane, 11
de Pythagore, 11
ingalit
de Cauchy-Schwarz, 12
de Harnack, 73
de Jensen, 84
de Poincar, 83
injection isomtrique, 104
intgrale de Poisson, 66
invariante, 91
irrductible, 61
isomtrique, 12
L(E), 5
L(E, F), 5
L(E, F; G), 9
L

(), 47
laplacien, 63
sphrique, 92
mesure
complexe, 8
de Lebesgue
des sphres, 92
du cercle, 64
de Stieljes, 56
invariante, 91
invariante gauche, 97
invariante droite, 97
-nie, 7
spectrale, 61
morphisme dalgbres involutives, 47
multiplicit, 24
normal, 40, 47
normalement convergente, 5
norme
associe un produit scalaire, 11
doprateur, 4
duale, 6
essentielle, 8
hilbertienne, 13
prhilbertienne, 12
uniforme, 4
noyau de Poisson, 65
nulle linni, 69
oprateur
noyau, 33
de type Hilbert-Schmidt, 34
auto-adjoint, 40
compact, 32
continu, 5
de dcalage, 30
de Green, 88
de rang ni, 32
de Volterra, 44
anti-symtrique, 44
diagonal, 29
hermitien, 40
idempotent, 55
irrductible, 61
laplacien, 63
normal, 40
positif, 40
projecteur, 40
unitaire, 40
orthogonal, 11
orthogonalit, 11
Poisson, 6567
polynme
sphrique, 99
principe du maximum, 71
problme de Dirichlet, 68, 74, 77
produit
de convolution, 83
scalaire, 10
hermitien standard, 13
projecteur, 40
projection, 15
prolongement, 104
analytique, 70, 113
propre, 87
radiale, 78
radialement, 69
rayon
de convergence, 28
spectral, 24, 48
reprsentation
conforme, 77
linaire, 103
irrductible, 103
rsolution
de lidentit, 55
116
spectrale, 57
Riesz, 9, 10
semi-continue suprieurement, 30
sparable, 13
sparante, 4

n
, 92
solution
au sens des distributions, 87
faible, 87
somme hilbertienne, 18
sous-algbre stellaire engendre, 48
sous-espace
invariant, 103
spectre, 24, 47
essentiel, 53
ponctuel, 24
rsiduel, 24
Sp(), 24
Sp
ess
(), 53
Sp
res
(), 24
suite sous-additive, 28
symbole de Kronecker, 7
thorme
dArzela-Ascoli, 33
dextension de Carathodory, 77
de Banach, 24
de Harnack, 73
de Heine, 33
de Jordan, 76
de limage ouverte, 114
de la moyenne, 70
de Lax-Milgram, 17
de Poisson, 67
de prolongement, 104
de Rellich-Kondrakov, 83
de reprsentation
de Riemann, 77
de Riesz, 9
de Riesz, 10
de Riesz-Frchet, 16
de Schauder, 36
de Stampacchia, 18
de Stone-Weierstrass, 4
des limites radiales de Fatou, 80
du calcul fonctionnel
born, 57
continu, 49
du maximum, 71
topologie
de la convergence uniforme, 4
forte, 4
transformation de Fourier inverse, 20
unifre, 4
uniformment continue, 104
unitaire, 12, 40, 47
unitairement conjugus, 25
valeur
propre, 24
rgulire, 23
spectrale, 24
vecteur
cyclique, 61
propre, 24
totalisateur, 61
Vp(), 24
W
1,2
(), 82
W
1,2
0
(), 83
117
Rfrences
[Bou] N. Bourbaki, Thorie spectrale, Hermann, 1967.
[Bre] H. Brezis, Analyse fonctionnelle, Masson, 1983.
[Cia] P. Ciarlet, Introduction lanalyse numrique matricielle et loptimisation, Dunod, 1998.
[Coh] D. Cohn, Measure theory, Birkhuser, 1980.
[Con] A. Connes, Gomtrie non commutative, InterEditions, 1990 ; Noncommutative geometry,
Academic Press, 1994.
[Die1] J. Dieudonn, lments danalyse t. 1 : fondements de lanalyse moderne, Gauthier-Villars,
1971.
[Die2] J. Dieudonn, lments danalyse t. 2 : chapitres XII XV, Gauthier-Villars, 1974.
[Dix] J. Dixmier, Topologie gnrale, PUF, 1981.
[Far] J. Faraut, Analyse sur les groupes de Lie, Calvage & Mounet, 2006.
[Hal] P. R. Halmos, A Hilbert space problem book, Grad. Texts Math. 19, 2nd ed., Springer-
Verlag, 1982.
[KR] R. Kadison, J. Ringrose, Fundamentals of the theory of operator algebra, I Elementary
theory, Academic Press, 1983 ; II Advanced theory, Academic Press, 1986 ; III Special topics,
Birkhuser, 1991 ; IV Special topics, Birkhuser, 1992.
[Laf] J. Lafontaine, Introduction aux varits direntielles, Press. Univ. Grenoble, 1996.
[Lev] P. Lvy-Bruhl, Introduction la thorie spectrale, Dunod, 2003.
[LT1] J. Lindenstrauss, L. Tzafriri, On the complemented subspace theorem, Israel J. Math. 9
(1971) 263-269.
[LT2] J. Lindenstrauss, L. Tzafriri, Classical Banach spaces, I Sequence spaces, Ergeb. Math. 92,
Springer-Verlag, 1977 ; II Function spaces, Ergeb. Math. 97, Springer-Verlag, 1979.
[Rud1] W. Rudin, Real and complex analysis, 3rd ed., Mc Graw-Hill (1990).
[Rud2] W. Rudin, Functional analysis, 2nd ed., Mc Graw-Hill (1991).
[Tak] M. Takesaki, Theory of operator algebras, Encyc. Math. Sciences 124, 125, 127, Springer
Verlag, 2001-2002
[Yos] K. Yosida, Functional analysis, 6th Ed., Springer Verlag, 1980.
118