Vous êtes sur la page 1sur 331

Otared Kavian

Introduction ` a la
Theorie des
Points Critiques
et Applications aux Probl`emes Elliptiques
Springer-Verlag
Berlin Heidelberg NewYork
London Paris Tokyo
Hong Kong Barcelona
Budapest
Avant propos
Les pages
1
qui suivent sont le developpement dun cours de DEA enseigne pen-
dant les annees universitaires 19871988 et 19911992 ` a lUniversite de Nancy I.
Il nous a semble utile de regrouper dans un premier chapitre intitule Quelques
outlis de base divers resultats quil est bon de connatre lorsque lon aborde
letude des probl`emes semilineaires soit par les methodes variationnelles, soit
par dautres methodes. Nous navons pas hesite, au risque de paratre trop
elementaire, ` a rappeler des resultats qui sont peut-etre du niveau dune troisi`eme
ou quatri`eme annee detudes universitaires. Cependant le lecteur interesse par les
methodes variationnelles peut survoler les deux premiers chapitres et commencer
son etude par le chapitre 3.
Nous devrions egalement insister sur le fait que ces notes sont destinees avant
tout aux etudiants et chercheurs de dierents niveaux qui commencent letude
des techniques de points critiques. Par consequent sur bon nombre de points
il ny a pas de reference aux derniers resultats connus et nous ne dressons
pas letat de lart. Cest aussi la raison qui nous a pousse ` a inclure un grand
nombre dExercices comme des complements de cours ou des pretextes ` a un
entranement. Malheureusement, faute despace et contrairement ` a notre inten-
tion de depart, nous navons pas pu inclure un chapitre dIndications pour la
resolution des exercices ni un chapitre de Solutions.
Les dierents lemmes, propositions, theor`emes, corollaires, exemples et re-
marques dune part, et les formules dautre part, sont numerotes dans chaque
chapitre, par paragraphe, de mani`ere sequentielle. Par ailleurs une reference du
type lemme 1.4.8 ou bien lequation 3.(9.4) se reporte au lemme 4.8 du
chapitre 1 ou ` a lequation (9.4) du chapitre 3.
Je dois remercier mes amis Philippe Bougerol, Thierry Cazenave, Gerard
Kerk Yacharian, Claude Morlet, Bernard Roynette avec qui jai eu des discus-
sions plus ou moins nombreuses et toujours fort utiles lorsquils mont fait part de
leur sentiment de non-specialistes des methodes variationnelles, ainsi que Bopeng
Rao qui ma fait lamitie de lire une grande partie de la premi`ere version. Elisa-
beth Rouy, avec une patience et une ecacite sans pareilles, a enti`erement relu
le texte et ma suggere de nombreuses ameliorations de style ; je suis neanmoins
le seul responsable des erreurs et imperfections que lon rencontrera par la suite.
1
Cet ouvrage a ete redige avec laide du Minist`ere de lEnseignement Superieur et de
la Recherche, Delegation ` a lInformation Scientique et Technique (DIST).
VI Avant propos
Jean Michel Coron ma sans cesse encourage de terminer la redaction de ces
notes, et a toujours fait semblant de me croire lorsque je lui disais quil aurait
les notes denitives dans deux ou trois mois, promesses qui ont ete repetees une
dizaine de fois. . . Je lui exprime ici toute mon amitie, et je le remercie pour les
remarques quil a faites sur divers points du texte qui suit. Enn je remercie
Henri Berestycki et Thierry Gallouet qui ont soutenu le projet de parution de
ces notes dans la collection de la SMAI.
Je ne pourrais pas nir cet Avant Propos, sans exprimer toute ma tendresse
pour Elisabeth, Azadeh et Niloufar qui ont notamment tolere que le petit bureau
familial soit envahi par une multitude darticles, de notes et de brouillons :
Niloufar a toujours pense que le bureau etait susamment ordonne, Azadeh a
range reguli`erement, souvent trop bien, et enn Elisabeth sy est resignee avec
philosophie.
O.K.
Nancy, le 20 Juillet 1993
Table des mati`eres
Avant-propos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . v
Chapitre 1. Quelques outils de base . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
1. Motivations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
2. Espaces reexifs, espaces de Hilbert . . . . . . . . . . . . . . . . . . . . . . . . 5
3. Espaces de fonctions continues . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
4. Quelques crit`eres de convergence . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
5. Theor`eme de changement de variable . . . . . . . . . . . . . . . . . . . . . . . 14
6. La mesure supercielle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18
7. La formule dintegration par parties . . . . . . . . . . . . . . . . . . . . . . . . 19
8. Espaces de Sobolev . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23
9. Operateurs elliptiques du second ordre . . . . . . . . . . . . . . . . . . . . . 38
10. Principes du maximum . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42
11. Theor`emes de regularite . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 44
12. Valeurs propres . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 48
13. Derivees et points critiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 52
14. Multiplicateurs de Lagrange . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 55
15. Fonctions convexes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58
16. Quelques operateurs continus . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60
17. Quelques fonctionnelles dierentiables . . . . . . . . . . . . . . . . . . . . . . 63
Exercices du chapitre 1 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 70
Chapitre 2. Le degre topologique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 97
1. Degre topologique de Brouwer . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 97
2. Proprietes du degre . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 102
3. Quelques applications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 107
4. Le genre . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 115
5. Degre topologique de Leray-Schauder . . . . . . . . . . . . . . . . . . . . . . 120
6. Proprietes du degre de Leray-Schauder . . . . . . . . . . . . . . . . . . . . . 125
7. Exemples dapplication . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 126
Exercices du chapitre 2 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 131
Chapitre 3. Points critiques sans contrainte . . . . . . . . . . . . . . . . . . . . 135
1. Fonctionnelles minorees . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 135
2. Exemples dapplication . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 139
VIII Table des mati`eres
3. Le theor`eme de Ky Fan-von Neumann . . . . . . . . . . . . . . . . . . . . . . 145
4. Une application du theor`eme de min-max . . . . . . . . . . . . . . . . . . . 149
5. Ensembles de niveau et points critiques . . . . . . . . . . . . . . . . . . . . . 153
6. Condition de Palais-Smale . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 156
7. Le lemme de deformation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 164
8. Le theor`eme du col . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 169
9. Points critiques multiples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 175
Exercices du chapitre 3 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 185
Chapitre 4. Points critiques avec contraintes . . . . . . . . . . . . . . . . . . . 195
1. Pourquoi des contraintes ? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 195
2. La condition de Palais-Smale . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 199
3. Champ de pseudo-gradient tangent . . . . . . . . . . . . . . . . . . . . . . . . 204
4. Le Lemme de deformation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 207
5. Quelques applications du principe de min-max . . . . . . . . . . . . . . 209
Exercices du chapitre 4 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 216
Chapitre 5. Fonctionnelles sans symetrie . . . . . . . . . . . . . . . . . . . . . . . 223
1. La situation du probl`eme . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 223
2. Perturbations de fonctionnelles paires . . . . . . . . . . . . . . . . . . . . . . 224
3. Comportement des valeurs critiques . . . . . . . . . . . . . . . . . . . . . . . . 228
4. Un probl`eme semilineaire non homog`ene . . . . . . . . . . . . . . . . . . . . 233
5. Probl`emes de demi-valeurs propres . . . . . . . . . . . . . . . . . . . . . . . . . 239
6. Existence de demi-valeurs propres . . . . . . . . . . . . . . . . . . . . . . . . . 242
Exercices du chapitre 5 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 245
Chapitre 6. Probl`emes sans compacite . . . . . . . . . . . . . . . . . . . . . . . . . 249
1. Compacite des fonctions ` a symetrie spherique . . . . . . . . . . . . . . . 250
2. Lidentite de Pohozaev et ses consequences . . . . . . . . . . . . . . . . . . 253
3. Symetrisation de Schwarz ou rearrangement . . . . . . . . . . . . . . . . . 259
4. Existence dun etat fondamental . . . . . . . . . . . . . . . . . . . . . . . . . . . 266
5. Le Cas de la dimension deux . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 276
6. Le lemme de Lieb . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 279
7. Une application du lemme de Lieb . . . . . . . . . . . . . . . . . . . . . . . . . 280
8. La methode de concentration-compacite . . . . . . . . . . . . . . . . . . . . 285
9. Lexemple de lequation de champ . . . . . . . . . . . . . . . . . . . . . . . . . 294
10. Lexposant limite de Sobolev . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 298
Exercices du chapitre 6 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 302
Bibliographie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 311
Index des notations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 320
Index . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 321
1 Quelques outils de base
1. Motivations
La resolution de lequation Ax b = 0 o` u A, une matrice symetrique dordre
n 1, et b R
n
sont donnes, revient ` a chercher un point x
0
R
n
tel que la
derivee de la fonction
x
1
2
(Ax|x) (b|x)
sannule en x
0
(o` u par (|) on designe le produit scalaire de R
n
). Ce point de
vue, qui en apparence semble plus laborieux (du moins dans le cas o` u n = 1), a
lavantage de se generaliser ` a un grand nombre de probl`emes lineaires ou non-
lineaires dans un cadre abstrait ; dautre part (considerer le cas o` u n 2 sur cet
exemple), au lieu detudier loperateur x Ax b de R
n
dans R
n
on etudiera
une fonction de R
n
` a valeurs dans R, ce qui pourrait etre plus simple. Par ailleurs
un grand nombre dequations aux derivees partielles decrivant des mod`eles de la
physique, de la chimie ou de la mecanique peuvent etre etudiees avec ce point de
vue : par exemple une solution qui correspond ` a un etat dequilibre est obtenue
comme un point de minimum dune fonctionnelle denergie.
Cette approche variationnelle a ete notamment employee pour la resolution
de lequation de Laplace qui intervient en particulier en electro-statique et, en
fait, sur cet exemple on voit precisement le type de dicultes que lon rencontre
dans le calcul des variations (voir R. Courant [49] o` u on trouvera egalement les
probl`emes lies aux applications conformes et aux surfaces minimales). Soit un
domaine borne de R
3
de fronti`ere . Si est une fonction continue denie sur
, il sagit de resoudre :
(1.1)
_
u = 0 dans
u = sur .
Comme on la remarque depuis Gauss, lord Kelvin et Dirichlet, en posant :
J(v) :=
_

|v(x)|
2
dx, K
0
:=
_
v C
2
() ; v = sur
_
,
si lon parvient ` a trouver une fonction u K
0
telle que J(u) J(v) lors-
que v parcourt K
0
, alors u est solution de (1.1). En eet, pour toute fonction
w C
2
c
() et tout t > 0 on a u tw K
0
et :
2 Chapitre 1. Quelques outils de base
J(u) J(u tw) = J(u) 2t
_

u(x) w(x)dx +t
2
J(w),
ce qui entrane que tJ(w) 2
_

u(x) w(x)dx 0. En faisant tendre t vers


zero et nalement par integration par parties on voit que :
0 =
_

u(x) w(x)dx =
_

u(x) w(x)dx.
Comme cela est vrai pour tout w C
2
c
(), on en conclut, en n de compte, que
u = 0 dans ; par ailleurs puisque u K
0
, on a aussi u = sur le bord ,
et par consequent u est solution de (1.1).
Le fait que lon puisse trouver la solution de (1.1) par ce procede a ete utilise
par Riemann, qui la appele principe de Dirichlet, alors que la fonction J porte
le nom de lintegrale de Dirichlet. Cependant Weierstrass a objecte en 1869 quil
y avait une faille dans le principe de Dirichlet. En eet, sil est vrai que la borne
inferieure
:= inf
vK0
J(v),
est un reel positif ou nul, il nest pas du tout clair pourquoi elle serait atteinte.
Autrement dit, il nest pas evident quune suite minimisante (u
n
)
n
de K
0
, i.e.
telle que u
n
K
0
et J(u
n
) , converge dans lensemble K
0
, ni meme quelle
soit bornee dans lespace C
2
(). En fait, dans certains cas, on sait montrer
que (1.1) admet une solution qui nappartient pas ` a K
0
ce qui, compte tenu de
lunicite de la solution, montre que la borne inferieure nest pas atteinte.
En verite, si le principe de Dirichlet donne un moyen elegant pour resoudre
lequation de Laplace (1.1), une premi`ere diculte est de choisir lensemble K
0
o` u on va minimiser la fonction J, et la diculte essentielle est de montrer que la
borne inferieure est atteinte, i.e. que est un minimum. Pour montrer quune
borne inferieure est atteinte, on doit disposer de crit`eres de compacite assur-
ant que les suites minimisantes sont relativement compactes pour une certaine
topologie, susamment riche et maniable pour etre exploitee dans le cadre de
la fonctionnelle ` a minimiser. Par exemple, dans le cas ci-dessus, il faudra rem-
placer dans la denition de K
0
, lespace C
2
() par lespace de Hilbert obtenu
en completant C
2
() pour la norme :
v
1,2,
:=
__

_
|v(x)|
2
+ |v(x)|
2
_
_
1/2
.
Aux chapitres 3, 4 et 6 nous etudierons la minimisation de fonctionnelles, sous
diverses hypoth`eses concernant la fonctionnelle ou lensemble o` u on cherche le
minimum.
Un autre exemple o` u les methodes variationnelles constituent un bon cadre,
cest lorsque lon souhaite montrer la multiplicite de solutions, par exemple
lexistence dune innite de solutions, comme dans le probl`eme suivant. Sup-
posons que est un ouvert regulier de R
3
et que lon sinteresse ` a la question
de savoir si lequation :
1. Motivations 3
(1.2)
_
u = u
3
u = 0
dans
sur .
admet des solutions non-triviales (ou non-banales), i.e. des solutions dierentes
de la solution nulle. Un moyen simple pour voir lexistence dau moins une solu-
tion, est de considerer lintegrale de Dirichlet J, denie plus haut, sur lensemble :
S :=
_
v H
1
0
() ;
_

v
4
(x)dx = 1
_
.
Ici lespace H
1
0
() est lespace de Hilbert de fonctions o` u lintegrale de Dirichlet
peut etre consideree comme le carre dune norme, plus precisement le complete
de C
1
c
() pour la norme
1,2,
. Alors, en montrant que la borne inferieure :
:= inf
vS
J(v)
est atteinte en un point v
0
S, on peut montrer quil existe un multiplicateur
de Lagrange R tel que :
v
0
= v
3
0
.
En multipliant (au sens du produit scalaire de L
2
()) les deux membres de cette
egalite par v
0
et en eectuant une integration par parties, on voit que :
= J(v
0
) =
_

|v
0
(x)|
2
dx =
_

v
0
(x) v
0
(x)dx
=
_

v
4
0
(x)dx = .
Cela implique que = > 0, et en posant u
0
:=
1/2
v
0
, on peut verier que
u
0
0 est solution de (1.2). Noter quici la construction de u
0
par homothetie ` a
partir de v
0
est rendue possible parce que la non-linearite u u
3
est homog`ene.
Expliquons pourquoi on sattend ` a ce que (1.2) admette une innite de
solutions. Sur lespace
2
:=
2
(N) des suites de carre sommable, considerons
loperateur :
Au := ((n + 1)
2
u
n
)
n0
deni sur le domaine D(A) :=
_
u
2
; Au
2
_
. Pour u
2
, designons par
u
3
la suite denie par : u
3
:= (u
3
n
)
n0
. Alors lequation (1.2) ressemble dune
certaine mani`ere ` a :
(1.3)
_
Au = u
3
u D(A).
On voit tout de suite que si e
k
:= (
k
n
)
n0
, alors pour tout k 0 la suite
u := (k + 1)e
k
est solution de . On peut considerer que e
k
minimise la fonction
v (Av|v) sur lensemble
M
k
:=
_
v
2
; v
i
= 0 pour 0 i k 1, et

i=k
|v
i
|
4
= 1
_
,
4 Chapitre 1. Quelques outils de base
et que la valeur de ce minimum est precisement (k +1)
2
; ensuite par le procede
dhomothetie que nous venons de signaler on verie que (k + 1)e
k
est solution
de (1.3).
Naturellement lequation (1.2) ne se prete pas aussi simplement ` a letude,
mais cependant lidee de trouver des solutions en construisant des valeurs cri-
tiques pour lintegrale de Dirichlet J(v) sur des ensembles topologiquement
dierents peut etre conservee. Pour lequation (1.3) les ensembles M
k
sont
toplogiquement dierents en ce sens que lespace vectoriel engendre par M
k
est de codimension k. Nous verrons que pour (1.2) la notion adequate pour dis-
tinguer topologiquement les ensembles nest plus celle detre de codimension k,
mais plut ot celle detre de genre k.
Dans le cours qui suit, nous ne traitons systematiquement que des probl`emes
semilineaires faisant intervenir le laplacien ou un operateur auto-adjoint dordre
deux (et le plus souvent avec la condition de Dirichlet) ; mais un examen
rapide des methodes employees permet de voir que beaucoup dautres probl`emes,
o` u loperateur sous-jacent est auto-adjoint, peuvent etre traites par les memes
procedes (en particulier les probl`emes faisant intervenir le bilaplacien
2
pour
les probl`emes de plaques, le p-laplacien div(|u|
p2
u), un grand nombre de
probl`emes vectoriels, etc.).
Dans la suite de ce chapitre nous regroupons quelques resultats de base qui
seront utilises dans les chapitres suivants, ou quil nous semble utile de connatre
pour etudier les probl`emes non-lineaires. Par commodite nous avons inclus des
resultats qui sont en r`egle generale supposes acquis ou du domaine du grand
public, mais dont il nest pas facile de trouver dans les manuels les plus courants
une demonstration accessible. Certains resultats enonces mais non demontres
dans le texte sont traites sous forme dExercices ` a la n du chapitre.
Au chapitre 2 nous introduirons la notion de degre topologique qui permet
de montrer entre autres choses le theor`eme de Borsuk-Ulam qui conduit ` a la
denition du genre. Nous donnerons egalement dans la liste des Exercices un
certain nombre de cas o` u on peut utiliser la notion du degre topologique pour
resoudre des equations semilineaires.
Le chapitre 3 est consacre aux probl`emes de minimisation sans contrainte (ou
avec une contrainte convexe), et plus generalement on y aborde les techniques
de recherche de points critiques pour des fonctionnelles denies sur un espace
de Banach, sans imposer de contrainte. Comme exemple dapplication de ces
techniques nous resoudrons quelques probl`emes semilineaires du type u =
g(x, u). Au chapitre 4 nous aborderons une etude analogue mais sur dierents
types de contrainte.
Au chapitre 5 nous etudierons quelques probl`emes sans symetrie, o` u on peut
montrer neanmoins lexistence de solutions multiples. Enn au chapitre 6 nous
aborderons les probl`emes de minimisation sans compacite.
2. Espaces reexifs, espaces de Hilbert 5
2. Espaces reexifs, espaces de Hilbert
Dans la suite on ne consid`ere que des espaces de Banach reels, meme si certaines
notions se generalisent sans peine au cas complexe. Lorsque X est un espace de
Banach, nous designerons par X

son dual topologique ; si x X et X

, la
valeur de en x, ou laction de sur x, sera notee , x ou encore (x). Si (x
n
)
n
est une suite delements de X on dira que (x
n
)
n
(ou x
n
) converge faiblement
vers x

si pour toute f X

on a
f, x
n
= f(x
n
) f(x

) = f, x

.
On ecrira alors x
n
x

ou bien x
n
x

dans X
w
. Lorsquon dit que (x
n
)
n
ou
x
n
converge (ou converge fortement) vers x

, on entend par-l` a que la convergence


a lieu au sens de la norme de X, i.e. x

x
n
0 lorsque n .
Si X est un espace de Banach et X

son dual, on dit quune suite (f


n
)
n
de X

tend vers f dans X

-faible

(et on ecrit f
n

f dans X

w
), si pour tout x X
on a f
n
, x f, x. On notera que (f
n
)
n
etant une suite de X

et (x
n
)
n
une
suite de X, alors si f
n
f dans X

et x
n
x dans X
w
, on a f
n
, x
n
f, x.
Le meme resultat subsiste si f
n

f dans X

w
et x
n
x dans X. Il est
egalement utile de savoir que si x
n
x, alors on a :
(2.1) x liminf
n
x
n
.
Soit X un espace de Banach ; comme X

est ` a son tour un espace de Banach,


on peut considerer son dual X

:= (X

(on dit que X

est le bidual de X).


On voit alors facilement quil existe une injection canonique de X dans X

. On
dit que X est un espace reexif si cette injection est une bijection : on identie
alors X et X

. Par exemple un espace de Hilbert est reexif et en fait, dans ce


cas, si on est dans une situation abstraite o` u il ny a quun seul espace de Hilbert
qui intervient, on identie non seulement lespace de Hilbert et son bidual, mais
aussi lespace de Hilbert et son dual (gr ace au theor`eme de Riesz). Cependant il
faut prendre garde de ne pas identier simultanement les espaces duals de deux
espaces de Hilbert dont lun est contenu dans lautre. Plus precisement soient
H
0
et H
1
deux espaces de Hilbert distincts dont les normes sont designees par

0
et
1
. On suppose que pour une constante positive c :
H
1
H
0
, et u H
1
, u
0
c u
1
,
et que de plus H
1
est dense dans H
0
. On peut donc identier H

0
, dual de H
0
, ` a
une partie de H

1
, dual de H
1
, et ecrire H

0
H

1
avec injection continue. Il est
clair que si, par exemple, on decide didentier par le theor`eme de Riesz H
0
et
H

0
, alors on ne peut plus ` a la fois considerer H
1
comme un sous-espace de H
0
et identier H
1
et H

1
. Souvent, lorsque H
0
est lespace de Lebesgue L
2
(), on
decide didentier H
0
et H

0
, et de ce fait on sinterdit didentier un espace de
Hilbert plus petit (cest ` a dire contenu dans L
2
()) ` a son dual.
Les espaces reexifs jouent un r ole important dans les methodes variationnel-
les ` a cause de la propriete suivante (voir par exemple K. Yosida [165, Appendix
to chapter V, 4] ou H. Brezis [28, theor`emes III.27 et III.28]) :
6 Chapitre 1. Quelques outils de base
2.1 Theor`eme (Eberlein-Shmulyan). Un espace de Banach X est reexif
si, et seulement si, toute suite bornee (x
n
)
n
de X contient une sous-suite (x
ni
)
i
qui converge faiblement dans X.
Dans la pratique on utilise ce resultat lorsquon sait que lespace dans lequel
on travaille est reexif et que lon souhaite montrer quune certaine suite est
relativement compacte (au moins pour une topologie raisonnablement maniable).
On commence alors par remarquer que, gr ace ` a ce theor`eme, cette suite est
relativement compacte pour la topologie faible de X. Ensuite, il reste ` a montrer,
mais evidemment cela nest pas vrai en general, que cette sous-suite faiblement
convergente est en realite fortement convergente dans X (ou dans un espace
de Banach plus grand). En general lune des grandes dicultes des probl`emes
semilineaires (ou non-lineaires) reside dans ce passage de la convergence faible ` a
la convergence forte.
2.2 Remarque. Lorsque X est un espace de Banach quelconque, toute suite
(f
n
)
n
bornee dans X

contient une sous-suite (f


ni
)
i
qui converge dans X

-faible

.
Cela est particuli`erement utilise dans le cas o` u X est lespace L
1
() et par
consequent X

est lespace L

(). De mani`ere generale la seule convergence


faible maniable dans L

() est la convergence faible

des suites.
Si H est un espace de Hilbert, on note par sa norme et par (|) son
produit scalaire. Soit a(, ) une forme bilineaire denie sur H H ` a valeurs
reelles. Dire que a(, ) est continue, signie que :
(2.2) M := sup{ a(u, v) ; u, v H, u = v = 1} < .
En particulier pour tous u, v H on a la majoration :
|a(u, v)| Mu v.
On dit que a(, ) est coercive ou uniformement elliptique sur H sil existe > 0
tel que :
(2.3) u H, a(u, u) u
2
.
Rappelons le lemme de Lax-Milgram, qui est fondamental pour la resolution de
probl`emes du type de celui de lequation de Laplace (P.D. Lax & A.N. Milgram
[94], pour la demonstration voir le livre de H. Brezis [28] ou Exercices).
2.3 Lemme de Lax-Milgram. Soient H un espace de Hilbert et a(, ) une
forme bilineaire continue et coercive sur H. Alors pour tout f H

, il existe un
unique u H tel que :
(2.4) v H, a(u, v) = f, v.
De plus lapplication f u est continue de H

dans H et les constantes , M


etant donnees par (2.2), (2.3) on a :
u
M

f.
3. Espaces de fonctions continues 7
De plus si a(, ) est symetrique (i.e. a(, ) = a(, ) pour tous , H), et
si J(v) :=
1
2
a(v, v) f, v, alors la solution de (2.4) est donnee par le probl`eme
de minimisation :
trouver u H, v H, J(u) J(v).
3. Espaces de fonctions continues
Nous donnons ici les notations et conventions utilisees dans la suite en ce qui
concerne les espaces de fonctions continues ou k fois derivables. Soit un ouvert
(ou un ferme) de R
N
. On notera C() (ou parfois C
0
()) lespace des fonctions
continues de ` a valeurs dans R. Lensemble des fonctions continues de dans
R
m
sera note C(, R
m
) ou (C())
m
. Rappelons dabord un lemme topologique
classique (cest le theor`eme de prolongement de Tietze-Urysohn, voir par exemple
J. Dieudonne [57, theor`eme 4.5.1] ou Exercices).
3.1 Lemme (Tietze-Urysohn). Soient A un ensemble ferme de R
N
et f :
A R
m
une application continue et bornee. Il existe alors un prolongement
continu

f de f deni sur R
N
` a valeurs dans R
m
(i.e. tel que

f = f sur A et

f(R
N
) R
m
). De plus pour 1 j m on a :
sup
xR
N

f
j
(x) = sup
xA
f
j
(x), inf
xR
N

f
j
(x) = inf
xA
f
j
(x).
Ce lemme permet de voir que si est un ouvert borne et f : R
m
une application continue, alors il existe une suite de fonctions reguli`eres (i.e. de
classe C

) (f
i
)
i
telle que
sup
x
|f(x) f
i
(x)| 0,
lorsque i +. En eet il sut de regulariser par convolution le prolongement

f et de la tronquer.
On designe par C
b
() lensemble des fonctions continues et bornees sur
(on notera que cet espace est distinct de C() lorsque est non borne) ; C
b
()
est muni de la norme

i.e.
u

:= u
,
:= sup
x
|u(x)|.
On designe enn par C
0
() lensemble des fonctions continues sur et qui sont
nulles sur la fronti`ere de (si est non borne, cela signie que ces fonctions
tendent vers zero ` a linni).
Si 0 < 1 et est un ouvert (ou un ferme) de R
N
, C
0,
() est lensemble
des fonctions h olderiennes dexposant en tout point x
0
de :
, M > 0 x B(x
0
, ), |u(x) u(x
0
)| M|x x
0
|

.
8 Chapitre 1. Quelques outils de base
Si = 1 on dit aussi que u est lipschitzienne en x
0
. On dit que u est uniformement
h olderienne dexposant sur , sil existe une constante M > 0 telle que pour
tous x, y on ait |u(x) u(y)| M|x y|

.
On note C
0,
b
() lensemble des fonctions uniformement h olderiennes et
bornees sur . Cet espace est muni de la norme :
u
C
0,
b
()
:= u

+ sup
x,y
x=y
|u(x) u(y)|
|x y|

.
Pour k 1 entier et un ensemble ouvert R
N
, C
k
() est lespace des
fonctions u qui sont k fois derivables et dont la derivee dordre k, notee D
k
u, est
continue sur . C
k
c
() est lensemble des fonctions de C
k
() dont le support est
compact et contenu dans . Pour ]0, 1] on designe par C
k,
() les fonctions
de C
k
() telles que les derivees dordre k sont h olderiennes dexposant au
voisinage de tout point x
0
.
Pour k 0 entier et ouvert de R
N
, nous denissons C
k
() comme
lensemble des restrictions ` a des elements de C
k
(R
N
). On notera ici quil
y a une dierence fondamentale entre la denition de C
k
() et celle de C
k
().
Parfois, dans certains ouvrages, C
k
() est deni comme etant lensemble des
u C
k
() telles que pour tout j

0
k
, et tout x
0
la limite lim
xx0
D
j
u(x)
existe et depend contin ument de x
0
. Bien que dune certaine mani`ere ce point de
vue soit plus naturel, dans la plupart des cas concrets que nous rencontrerons par
la suite, la denition que nous avons adoptee est plus utile et, comme on pourra
le voir dans les Exercices, lorsque est regulier les deux denitions concident.
On designera par
i
u la derivee u/x
i
, et pour un multi-indice N
N
de
longueur || :=
1
+
2
+ +
N
k, on pose :

u :=
1
1

2
2

N
N
u.
Lespace C
k
b
() (des elements u C
k
() tels que D
j
u C
b
() pour 0 j k)
est muni de la norme :
u
C
k
b
()
:=
k

j=0
D
j
u

,
o` u de fa con generale, si
X
est une norme, on adopte la convention :
D
j
u
X
:= max
N
N
||=j

u
X
.
Pour ]0, 1], lespace C
k,
b
() est lensemble des fonctions u C
k,
()
telles que les derivees dordre k sont h olderiennes dexposant dans , et la
fonction u ainsi que ses derivees dordre inferieur ou egal ` a k sont dans C
b
().
La norme de C
k,
b
() est denie par :
u
C
k,
b
()
:=

0jk
D
j
u

+D
k
u
C
0,
b
()
.
4. Quelques crit`eres de convergence 9
Il faut savoir que si est susamment regulier (au sens deni plus loin au
paragraphe 6) et si k + < k

, alors on a linclusion C
k,
() C
k

().
Mais pour un ouvert quelconque cela est faux comme on peut le voir sur
lexemple de lExercice 2.
De fa con generale, en ce qui concerne les inclusions entre espaces de fonc-
tions denies sur un ouvert de R
N
, il faut toujours avoir ` a lesprit quil est
necessaire de faire des hypoth`eses adequates sur la regularite de . Dans toute
la suite, dans la mesure o` u nous nous interesserons uniquement ` a la resolution
des equations aux derivees partielles par des methodes variationnelles sans nous
preoccuper des conditions de regularite optimales, nous supposerons que louvert
est susamment regulier pour que les situations pathologiques soient evitees.
Par le theor`eme dAscoli, lorsque est un ouvert connexe, borne et de classe
C
k
(au sens deni au paragraphe 7), linjection de C
k
() dans C
k1
() est
compacte (rappelons aussi que C
k
() est dense dans C
k1
()).
Par ailleurs comme on peut le voir ` a lExercice 3, si 0 < 1, les espaces
C
k,
() ne sont pas separables. Cela empeche en particulier, lorsquon travaille
dans les espaces de fonctions h olderiennes, de faire des raisonnements utilisant
la densite des fonctions reguli`eres. De plus, pour k + > j +, lespace C
k,
()
nest pas dense dans C
j,
(). Enn si est un ouvert connexe, borne et de
classe C
k,
, linjection de C
k,
() dans C
j,
() est compacte si k + > j +.
4. Quelques crit`eres de convergence
Nous regroupons ici les resultats qui permettront de manipuler les differentes
notions de convergence de suites dans les espaces L
p
(). Les demonstrations de
ces resultats peuvent etre trouvees en r`egle generale dans les livres sur la theorie
de la mesure et lintegration. On pourra notamment consulter W. Rudin [145] et
E. Hewitt & K. Stromberg [82]. Nous enon cons systematiquement ce qui suit en
considerant un borelien de R
N
et la mesure de Lebesgue notee dx. Cependant
la plupart de ces resultats sont vrais pour des espaces mesures et des mesures
-nies plus generales. Pour 1 p , la norme de L
p
() sera notee
p
.
4.1 Theor`eme de la convergence monotone. Soit (f
n
)
n1
une suite crois-
sante de fonctions mesurables positives. En notant f(x) := lim
n
f
n
(x) =
sup
n1
f
n
(x), on a :
_

f(x)dx = lim
n
_

f
n
(x)dx.
4.2 Lemme de Fatou. Soit (f
n
)
n
une suite de fonctions mesurables positives.
Alors : _

liminf
n
f
n
(x)dx liminf
n
_

f
n
(x)dx.
4.3 Theor`eme de la convergence dominee de Lebesgue. Soit (f
n
)
n
une
suite de fonctions de L
1
() convergeant presque partout vers une fonction
10 Chapitre 1. Quelques outils de base
mesurable f. On suppose quil existe g L
1
() telle que pour tout n 1,
on ait |f
n
| g p.p. sur . Alors f L
1
() et :
lim
n
f f
n

1
= 0,
_

f(x)dx = lim
n
_

f
n
(x)dx.
Le theor`eme dEgorov, que nous rappelons maintenant, etablit une relation
entre la convergence presque partout et la convergence uniforme.
4.4 Theor`eme dEgorov. On suppose que est de mesure nie et que (f
n
)
n
est une suite de fonctions mesurables convergeant presque partout vers f. Alors
pour tout > 0 il existe A mesurable tel que :
mes (A
c
) < , lim
n
sup
xA
|f(x) f
n
(x)| = 0.
De meme il est interessant de savoir quil existe une certaine relation entre
la notion de mesurabilite et celle de continuite. On dispose en eet du theor`eme
de Lusin que voici (voir par exemple W. Rudin [145]) :
4.5 Theor`eme de Lusin. Soient f une fonction mesurable denie sur et
A un ensemble mesurable et de mesure nie tel que f(x) = 0 si x A
c
.
Alors pour tout > 0 il existe une fonction

f C
c
() telle que :
mes
_
x ; f(x) =

f(x)
_
< , sup
x
|

f(x)| sup
x
|f(x)|.
En particulier si |f| M p.p. sur , il existe une suite (f
n
)
n
, telle que f
n

C
c
(), |f
n
| M et f
n
f p.p. sur .
Soient 1 p < et (f
n
)
n
une suite bornee de L
p
() convergeant p.p. vers
une fonction f. Comme dapr`es le lemme de Fatou on a :
_

|f(x)|
p
dx =
_

liminf
n
|f
n
(x)|
p
dx liminf
n
_

|f
n
(x)|
p
dx
sup
n1
f
n

p
p
,
on voit que f L
p
(). La question que lon peut se poser est de savoir sil est
possible davoir une precision supplementaire sur la norme de f dans L
p
(). A
ce propos on dispose dun ranement du lemme de Fatou, d u ` a H. Brezis &
E. H. Lieb [33].
4.6 Lemme (Brezis-Lieb). Soient 1 p < et (f
n
)
n
une suite bornee de
fonctions de L
p
() convergeant p.p. vers f. Alors f L
p
() et :
f
p
p
= lim
n
_
f
n

p
p
f f
n

p
p
_
.
Demonstration. Soit M := sup
n1
f
n

p
. Remarquons en premier lieu que
pour tout > 0 il existe une constante C

dependant de p et de telle que pour


tout s R on ait :
4. Quelques crit`eres de convergence 11
(4.1)

|s + 1|
p
|s|
p
1

|s|
p
+C

.
En eet pour voir que cette inegalite est vraie, il sut de remarquer que :
lim
|s|
|s + 1|
p
|s|
p
1
|s|
p
= 0.
On deduit de (4.1) que pour a, b R on a :
(4.2)

|a + b|
p
|a|
p
|b|
p

|a|
p
+C

|b|
p
.
Pour un > 0 xe, posons :
u
n
:=

|f
n
|
p
|f
n
f|
p
|f|
p

, Z
n
:= (u
n
|f
n
f|
p
)
+
.
On sait que Z
n
tend vers zero p.p. et que, gr ace ` a (4.2), 0 Z
n
C

|f|
p
.
Par consequent, dapr`es le theor`eme de la convergence dominee de Lebesgue,
Z
n

1
0 lorsque n . De plus on a presque partout : 0 u
n
|f
n

f|
p
+Z
n
, ce qui donne
u
n

1
f
n
f
p
p
+Z
n

1
2
p
M
p
+Z
n

1
.
On en deduit nalement que u
n

1
tend vers zero, ce qui etablit le resultat
annonce.
Un corollaire immediat de ce resultat est le suivant :
4.7 Corollaire. Soient 1 p < , f L
p
() et (f
n
)
n
une suite de L
p
(). On
suppose que :
f
n
f p.p. et lim
n
f
n

p
= f
p
.
Alors on a : lim
n
f f
n

p
= 0.
Voici maintenant un lien entre la convergence presque partout et la conver-
gence faible dans les espaces L
p
(). Remarquons que pour 1 < p < , les
espaces L
p
() etant reexifs, si la suite (f
n
)
n
est bornee dans L
p
(), on peut
en extraire une sous-suite (f
ni
)
i
convergeant dans L
p
()-faible vers une certaine
fonction g L
p
(). Comme le montre le lemme suivant, si on sait que f
n
f
p.p. on a necessairement g = f.
4.8 Lemme. Soient 1 < p < et (f
n
)
n
une suite bornee de L
p
() convergeant
p.p. vers f. Alors f
n
f dans L
p
()-faible.
Demonstration. En eet, dapr`es ce que nous venons de dire plus haut il existe
une sous-suite (f
ni
)
i
convergeant vers g L
p
(). Soit alors :

n
:= {x ; k n, |f
k
(x) f(x)| 1}.
Si n 1 est xe et L
p

() est ` a support compact et telle que supp ()


n
,
en utilisant le theor`eme de la convergence dominee on voit que :
_

g(x)(x)dx = lim
i
_

f
ni
(x)(x)dx =
_

f(x)(x)dx.
12 Chapitre 1. Quelques outils de base
En faisant tendre n vers linni, on deduit que
_

g(x)(x)dx =
_

f(x)(x)dx
pour toute fonction ` a support compact dans . On en conclut que g = f, et
par consequent cest toute la suite (f
n
)
n
qui converge faiblement vers f.
4.9 Remarque. Le resultat precedent ne subsiste pas si p = 1. Par exemple sur
:=]0, 1[, la suite :
f
n
(x) := ne
nx
,
tend vers zero presque partout, est bornee dans L
1
(0, 1) et
_
1
0
f
n
(x)dx converge
vers 1 ; par consequent (f
n
)
n
ne contient aucune sous-suite convergeant dans L
1
-
faible. Notons aussi que pour 1 < p < , les espaces L
p
() etant uniformement
convexes et reexifs, si f
n
f dans L
p
() faible et f
n

p
f
p
, alors on a
f
n
f dans L
p
() fort : en utilisant le lemme 4.8, on retrouve ainsi le resultat
du corollaire 4.7.
4.10 Remarque. Naturellement si une suite (u
n
)
n
converge faiblement dans
L
p
(), en general on ne peut rien dire de sa convergence presque partout. Par
exemple la suite u
n
(x) := e
inx
converge faiblement vers zero dans L
2
(0, 1), alors
que |u
n
(x)| = 1.
Il est souvent utile de connatre une reciproque partielle du theor`eme de la
convergence dominee (voir Exercices pour la demonstration).
4.11 Proposition. Soient 1 p < , f L
p
() et (f
n
)
n
une suite de fonc-
tions de L
p
() telles que lim
n
f f
n

p
= 0. Alors il existe une fonction
g L
p
() et une sous-suite (f
ni
)
i
telles que :
|f
ni
| g p.p., f
ni
f p.p.
Il faut bien noter que dans ce resultat on arme uniquement lexistence dune
sous-suite convergeant presque partout, et on peut donner des exemples de suites
convergentes dans L
p
() qui ne convergent pas presque partout.
Une notion importante concernant une suite de fonctions integrables est celle
dequi-integrabilite que nous introduisons ici (cette notion est ` a comparer avec
celle dune famille equi-continue de fonctions).
4.12 Denition. On dit que (f
n
)
n
, une suite de fonctions de L
1
(), est equi-
integrable si la condition suivante est satisfaite : pour tout > 0 il existe un
ensemble mesurable A, de mesure nie et > 0 tels que
(4.3)
_

_
n 1, on a
_
A
c
|f
n
(x)|dx < ;
E , mesurable avec mes(E) < ,
_
E
|f
n
(x)|dx < .
4. Quelques crit`eres de convergence 13
On remarquera que dans le cas particulier o` u est de mesure nie, lequi-
integrabilite se reduit ` a la deuxi`eme condition.
Intuitivement, par exemple lorsque = R
N
, la premi`ere condition exprime le
fait que la suite (f
n
)
n
est equi-negligeable ` a linni, alors que la seconde condition
exprime le fait que la famille de mesures E
_
E
|f
n
(x)|dx est equi-continue.
Par exemple une famille nie (f
i
)
1in
est equi-integrable. On veriera aussi
que si (f
n
)
n1
et (g
n
)
n1
sont deux suites equi-integrables, alors la reunion de
ces deux suites (i.e. (h
n
)
n1
, avec h
2k
= f
k
et h
2k+1
= g
k
) est equi-integrable.
Le theor`eme de Vitali que nous allons rappeler maintenant est partic-
uli`erement utile pour les situations o` u on dispose dune suite de fonctions con-
vergeant presque partout et dont on souhaite montrer la convergence dans L
1
().
4.13 Theor`eme de Vitali. Soit (f
n
)
n
une suite de fonctions de L
1
() con-
vergeant presque partout vers une fonction mesurable f. Alors (f
n
)
n
tend vers
f dans L
1
() si et seulement si la suite (f
n
)
n
est equi-integrable.
Demonstration. Notons avant tout que si (f
n
)
n
est equi-integrable, alors elle
est bornee dans L
1
(). En eet si > 0 est xe, et lensemble A et le nombre
> 0 sont donnes par (4.3), on peut recouvrir A par un nombre ni m 1
densembles mesurables de mesure . On a ainsi :
_

|f
n
(x)|dx
_
A
|f
n
(x)|dx +
_
A
c
|f
n
(x)|dx m +.
Par ailleurs gr ace au theor`eme dEgorov 4.4, il existe un ensemble mesurable
E A, avec mes(E
c
) < , tel que f
n
tend uniformement vers f sur E. On peut
donc ecrire :
_

|f(x) f
n
(x)|dx
_
E
|f(x) f
n
(x)|dx +
_
E
c
|f(x) f
n
(x)|dx
+
_
A
c
|f(x) f
n
(x)|dx
mes(E) sup
xE
|f(x) f
n
(x)| + 4,
ce qui permet de conclure que f f
n

1
tend vers zero lorsque n .
Reciproquement, soit une suite (f
n
)
n
convergeant p.p. et dans L
1
() vers
f. Alors pour > 0 donne, il existe n
0
1 tel que pour tout n n
0
on ait
f f
n

1
/2. De meme il existe un ensemble mesurable A de mesure nie
tel que
_
A
c
|f(x)|dx < /2. On sait egalement quil existe > 0 tel que pour
tout ensemble mesurable E tel que mes(E) < , on ait
_
E
|f(x)|dx < /2. Par
consequent on voit que pour n n
0
et de tels ensembles E, on a :
_
A
c
|f
n
(x)|dx f f
n

1
+
_
A
c
|f(x)|dx < ,
_
E
|f
n
(x)|dx f f
n

1
+
_
E
|f(x)|dx < .
14 Chapitre 1. Quelques outils de base
On voit donc que (f
n
)
nn0
est equi-integrable et on deduit quil en est de meme
de la suite (f
n
)
n1
.
Comme exemple dapplication du theor`eme de Vitali 4.13, on peut mon-
trer (voir Exercices) cette variante du theor`eme de la convergence dominee de
Lebesgue, qui est parfois utile.
4.14 Corollaire. Soient (f
n
)
n1
et (g
n
)
n1
deux suites de fonctions de L
1
()
telles que f
n
f et g
n
g p.p. On suppose de plus que :
|f
n
| |g
n
| p.p., lim
n
g
n
g
1
= 0.
Alors lim
n
f
n
f
1
= 0 et |f| |g| presque partout.
Pour nir ce paragraphe, nous rappelons le crit`ere de compacite de Kolmo-
gorov qui permet de demontrer en particulier des resultats du type du theor`eme
de Rellich-Kondrachov (voir par exemple H. Brezis [28, theor`eme IV.25]). Ici et
dans la suite on notera :

h
(u) := u( +h) ,
et la notation
0
signie que
0
est relativement compact dans .
4.15 Theor`eme de Kolmogorov. Soient 1 p < , un ouvert de R
N
et

0
un ouvert tel que
0
. On suppose quune famille bornee (f
i
)
iI
de
L
p
() est telle que pour tout > 0 il existe > 0 veriant < dist (
0
,
c
)
et :
h R
N
, |h| < , i I, on a
h
(f
i
) f
i
.
Alors la famille (1
0
f
i
)
iI
est relativement compacte dans L
p
(
0
).
5. Theor`eme de changement de variable
Nous montrons ici le theor`eme de changement de variable dans lintegrale
de Lebesgue. Dans ce paragraphe m designe la mesure de Lebesgue sur R
N
.
Nous commencerons par un resultat algebrique de decomposition des matrices
(decomposition de Cartan). Rappelons quune matrice orthogonale est une ma-
trice R telle que
R

R = RR

= I,
o` u I est la matrice identite.
5.1 Lemme. Si T est une matrice inversible, il existe deux matrices orthogo-
nales R
1
et R
2
et une matrice diagonale inversible D telles que T = R
1
DR
2
.
Demonstration. La matrice T

T, etant auto-adjointe et denie positive, est


diagonalisable et peut secrire sous la forme T

T = U

U o` u U est une matrice


orthogonale et une matrice diagonale ` a coecients diagonaux strictement
positifs. En posant
5. Theor`eme de changement de variable 15
D :=
1/2
, R
2
:= U, R
1
:= TR

2
D
1
,
on verie sans peine que R

1
R
1
= I et T = R
1
DR
2
.
Dans un premier temps nous considerons des changements de variables
lineaires.
5.2 Lemme. Soit T une matrice carree dordre N inversible. Si (x) := Tx et
R
N
est un borelien, alors on a
m(()) = | det(T)| m().
Demonstration. Posons m
1
() := m(()). On verie que m
1
est une mesure
invariante par translation, et par consequent m
1
est un multiple de m i.e.
(5.1) c(T) > 0, mesurable, m
1
() = c(T)m().
On peut voir facilement que c(T
1
T
2
) = c(T
1
)c(T
2
), pour deux matrices inversibles
T
1
et T
2
. Si R est une matrice orthogonale, la boule unite de R
N
est inchangee
sous laction de R, et par consequent
c(R) = 1.
En prenant pour le pave ]0, 1[
N
et pour D la matrice diagonale telle que
D
ii
=
i
, on verie que
c(D) =
N

i=1
|
i
| = | det(D)|.
Or, dapr`es le lemme 5.1, toute matrice inversible T a une decomposition sous
la forme T = R
1
DR
2
, o` u R
1
et R
2
sont des matrices orthogonales et D est une
matrice diagonale. Dans (5.1) on a donc c(T) = c(D) = | det(D)| = | det(T)| et
le lemme est demontre.
Nous montrons ensuite le theor`eme de changement de variable dans le cas
regulier o` u la fonction de changement de variable est de classe C
2
. Rappelons
que lorsque et sont des ouverts de R
N
et si de dans est une fonction
de classe C
1
, une matrice representant

(x) est appelee matrice jacobienne de


au point x, et on note J

(x) le jacobien de , cest ` a dire le determinant de

(x). On a donc :
J

(x) := det

(x) = det
_
_

i
x
j
_
1i,jN
_
.
Lorsque , sont deux ouverts, on ecrira pour signier que est
compact et .
16 Chapitre 1. Quelques outils de base
5.3 Proposition. Soient et deux ouverts de R
N
et : un
dieomorphisme de classe C
2
. Alors en posant J

(x) := det(

(x)), pour toute


fonction mesurable positive f : R on a :
(5.2)
_

f(y)dy =
_

f((x))|J

(x)|dx.
Demonstration. Il sut de montrer (5.2) pour des fonctions etagees, ou encore
pour des fonctions f := 1
A
o` u A est un borelien de . Plus precisement, comme
la tribu borelienne de est engendree par les paves P et que est un
dieomorphisme de sur , on voit que la tribu borelienne de est engendree
par les ensembles (P), lorsque P parcourt lensemble des paves compacts de .
En n de compte, il sut de montrer (5.2) lorsque la fonction f est la fonction
indicatrice dun ensemble (P), o` u P est un pave du type :
P :=
N

i=1
[a
i
, b
i
[.
Soit n 1 un entier et h := 1/n. En decomposant chaque intervalle [a
i
, b
i
[ en n
intervalles disjoints de longueur (b
i
a
i
)h, on obtient une decomposition de P
en une reunion disjointe de paves P
j
:
P =
_
1jM
P
j
, P
i
P
j
= si j = i, M := n
N
.
Comme est bijective, on a
(5.3) m((P)) =
M

j=1
m((P
j
)).
Soient x
j
le centre du pave P
j
et T
j
:=

(x
j
). Pour x P
j
, il existe un P
j
tel que :
(5.4) (x) = (x
j
) +T
j
(x x
j
) +
1
2

()(x x
j
, x x
j
).
Introduisons les notations suivantes : si > 0 et Q est une partie de R
N
, on
notera
(5.5)
_
_
_
Q
+

=
_
x R
N
; dist(x, Q)
_
,
Q

=
_
x R
N
; dist(x, Q
c
)
_
.
Posons ensuite := sup
P

(), et
:=

2
_
max
1jM
diam (P
j
)
_
2
, Q
j
:= (x
j
) +T
j
(P
j
x
j
).
On voit alors que pour h assez petit (ou encore pour n assez grand) on a
5. Theor`eme de changement de variable 17
(Q
j
)

(P
j
) (Q
j
)
+

,
et comme il existe une constante C dependant uniquement de P telle que
C h
2
, cela implique, puisque m(Q
j
) = m(T
j
P
j
) :
|m((P
j
)) m(T
j
P
j
)| m
_
(Q
j
)
+

_
m
_
(Q
j
)

_
C h
N1
C h
N+1
.
(Ici et dans la suite C designe une constante dont on precise la dependance
ou lindependance par rapport ` a divers param`etres). En posant J

(x
j
) :=
det

(x
j
) = det T
j
, et en utilisant le lemme (5.2) on obtient, pour une con-
stante C independante de h :
C h
N+1
+ |J

(x
j
)|m(P
j
) m((P
j
)) |J

(x
j
)|m(P
j
) +C h
N+1
.
On a donc, en faisant la somme sur j :
(5.6) MCh
N+1
m((P))
M

j=1
|J

(x
j
)|m(P
j
) MCh
N+1
.
Dautre part, en utilisant le theor`eme de la convergence dominee on obtient, en
faisant tendre h vers zero, ou n vers linni :
lim
n+
M

j=1
|J

(x
j
)|m(P
j
) = lim
n+
_

j=1
1
P
j
(x)|J

(x
j
)|dx
=
_

1
P
(x)|J

(x)|dx,
Finalement, puisque M h
N+1
= h, on deduit de (5.6) que
m((P)) =
_

1
P
(x)|J

(x)|dx,
et le theor`eme de changement de variable est montre lorsque est de classe
C
2
.
Pour le cas general, si la fonction est de classe C
1
, on lapproche par une
suite de fonctions reguli`eres pour obtenir le resultat suivant :
5.4 Theor`eme. Soient et deux ouverts de R
N
et : un dieo-
morphisme de classe C
1
. Alors en denissant le jacobien de par J

(x) :=
det(

(x)), on a pour toute fonction mesurable positive f : R


+
,
_

f(y)dy =
_

f((x)) |J

(x)|dx.
Demonstration. Il est clair quil sut de montrer le theor`eme pour le cas o` u
la fonction f est la fonction indicatrice dun ensemble (P) o` u P est un
pave. Si > 0 est xe et Q := P
+

au sens de la notation (5.5), pour > 0 assez


18 Chapitre 1. Quelques outils de base
petit on a Q et il existe une suite (
n
)
n
de dieomorphismes de classe C
2
telle que :

n
dans C
1
(Q).
On a donc, dapr`es la proposition 5.3,
m(
n
(P)) =
_

1
P
(x) |J
n
(x)|dx.
Or il est clair que m(
n
(P)) m((P)) lorsque n et que (en utilisant le
theor`eme de la convergence dominee)
_

1
P
(x) |J
n
(x)|dx
_

1
P
(x) |J

(x)|dx.
Par consequent on a m((P)) =
_

1
P
(x) |J

(x)|dx et le theor`eme est demon-


tre.
6. La mesure supercielle
Soient un ouvert de R
N1
et F de dans R
N
une fonction de classe C
1
. On dit
que F est un plongement si F et F

sont injectives (dire que F

(x) est injective


signie que pour tout x la matrice F

(x) est de rang N 1). Remarquons


que si F est un plongement, alors F

(x)

(x) est une matrice carree dordre


N 1, denie positive et delements generiques (
i
F(x)|
j
F(x)), o` u (|) designe
le produit scalaire de R
N
. La mesure supercielle est denie comme suit.
6.1 Denition. Soient R
N1
un ouvert, F une fonction de classe C
1
de
dans R
N
. On suppose que F est un plongement et on note S := {F(x) ; x }.
Si u est une fonction continue de S dans R et ` a support compact, on pose
(6.1)
_
S
u()d :=
_

u(F(x)) (det(F

(x)

(x)))
1/2
dx
La mesure d est appelee la mesure supercielle sur S.
Pour que cette denition ait un interet, il faut naturellement quelle depende
uniquement de S et non pas du plongement F. Autrement dit il faut verier que
si R
N1
est un ouvert et G de dans R
N
est un plongement tel que
S = {F(x) ; x } = {G(x) ; x } ,
alors les deux mesures supercielles denies ` a partir de F et de G concident.
7. La formule dintegration par parties 19
6.2 Proposition. La mesure supercielle donnee par la denition 6.1 sur S est
independante du plongement F.
Demonstration. En eet soient un ouvert de R
N1
et G de dans R
N
un
plongement tel que S = G(). Alors h := F
1
G est un dieomorphisme de
sur . Soit maintenant u une fonction continue ` a support compact de S dans
R ; en designant par d

la mesure supercielle denie ` a laide de G on a


_
S
u()d

=
_

u(G(y)) [det G

(y)

(y)]
1/2
dy.
Mais G = F h, et G

(y) = F

(h(y))h

(y) ; par consequent en utilisant le theo-


r`eme de changement de variable on peut ecrire successivement
_
S
u()d

=
_

u(F h(y)) [det F

(h(y))

(h(y))]
1/2
| det h

(y)|dy
=
_

u(F(x)) [det F

(x)

(x)]
1/2
dx
=
_
S
u()d,
o` u on a utilise de fa con naturelle le changement de variable
x := h(y), dy = | det h

(y)|
1
dx.
Tr`es souvent on est amene ` a integrer une fonction sur le bord dun ouvert de
R
N
. Dans ce cas le bord sera en general deni localement par un plongement et
par consequent la mesure supercielle aura une denition locale. Au paragraphe
suivant, lors de la demonstration de la formule dintegration par parties nous
precisons ce que nous entendons par ouvert regulier et nous serons egalement
amenes ` a utiliser la denition locale de la mesure supercielle.
7. La formule dintegration par parties
Ici, et dans la suite, lorsque est un ouvert de R
N
on designera par son
bord ou sa fronti`ere. Si x R
N
, on ecrira x = (x

, x
N
) avec x

R
N1
.
Louvert est dit de classe C
k
pour k 1, si pour tout point
0
on
peut trouver un voisinage ouvert
0
de
0
, une boule B(0, r) R
N
, une bijection
: B(0, r)
0
et une application continue de B(0, r)
_
R
N1
{0}
_
dans
R tels que :
(0) =
0
, , et
1
sont de classe C
k
; (7.1)
_

0
=
_
B(0, r)
_
R
N1
[0, +[
__
,

0
=
_
B(0, r)
_
R
N1
{0})
__
;
(7.2)
_
_
_
R
0
matrice de rotation et b
0
R
N
tels que :

0
R
0
__
(y

, y
N
) R
N
; y
N
(y

)
__
+b
0
,

0
R
0
__
(y

, y
N
) R
N
; y
N
= (y

)
__
+b
0
.
(7.3)
20 Chapitre 1. Quelques outils de base
Si la premi`ere condition de regularite (7.1) est remplacee par : , et
1
sont
lipschitziennes (ou de classe C
k,
), alors on dit que est lipschitzien (ou de
classe C
k,
). Si , et
1
sont uniformement lipschitziennes on dira que est
uniformement lipschitzien. Cela est en particulier le cas si louvert est borne
et lipschitzien, car dans ce cas sa fronti`ere est compacte. Il faut aussi retenir
que si est un ouvert lipschitzien alors, localement, est situe dun seul c ote
de sa fronti`ere. Parfois, par un abus de langage, au lieu de parler dun ouvert de
classe C
k
(ou C
k,
, ou lipschitzien) on parle dun ouvert ` a fronti`ere C
k
. Mais il
faut savoir quun meme ensemble := pouvant etre la fronti`ere de plusieurs
ouverts, certains etant de part et dautre de , il faut eviter cet abus de langage
qui peut engendrer des confusions.
7.1 Remarque. Pour les besoins qui vont apparatre plus bas, nous ferons
egalement remarquer que si est de classe C
1
au voisinage de
0
= (0), alors
lapplication F(y

) := R
0
(y

, (y

)) +b
0
, denie sur B(0, r)
_
R
N1
{0}
_
, est
un plongement.
Avec les notations ci-dessus, lorsque est de classe C
k
, la normale exterieure
` a en un point := R
0
(y, (y)) +b
0
de
0
est donnee par
(7.4) n() := R
0
((y), 1)
_
1 + |(y)|
2
.
Pour 1 i N, on designe par n
i
() la i-`eme composante de n(), et on
lappelle parfois le i-`eme cosinus directeur de en . On veriera que n()
depend uniquement de et non pas du choix particulier de et .
Enn si u est une fonction de classe C
1
au voisinage de , la derivee normale
de u en est denie par
(7.5)
u
n
() := u() n() := (u()|n()).
Nous sommes maintenant en mesure de montrer la formule dintegration par
parties (ou formule de Stokes, ou encore formule de Green).
7.2 Theor`eme. Soit un ouvert de classe C
1
. Si u C
1
c
(R
N
; R), pour 1
i N on a la formule dintegration par parties :
(7.6)
_

i
u(x)dx =
_

u() n
i
()d.
De fa con equivalente, si u C
1
c
(R
N
; R
N
) et div u :=

N
i=1

i
u
i
, on a
(7.7)
_

div(u(x))dx =
_

u() n()d.
Demonstration. Nous allons proceder en trois etapes.
1) Dans un premier temps, nous supposons que louvert et son bord sont
denis par :
7. La formule dintegration par parties 21
(7.8) := {(x

, x
N
) ; x
N
> (x

)} , := {(x

, x
N
) ; x
N
= (x

)} ,
o` u : R
N1
R est une fonction de classe C
1
. Supposons que 1 i N1,
et soient :
g(x

, x
N
) :=
_
x
N

i
u(x

, s)ds, f(x

, x
N
) :=
_
x
N

u(x

, s)ds.
On notera que u etant ` a support compact, il existe > 0 tel que pour tout
x R
N
veriant |x

| , on ait : g(x) = f(x) = 0. On peut donc ecrire :


(7.9)
_

i
u(x)dx =
_
R
N1
_
+
(x

i
u(x

, x
N
)dx
N
dx

=
_
R
N1
g(x

, (x

))dx

.
Par ailleurs, si h(x

) := f(x

, (x

)), puisque 1 i N 1, on a :

i
h(x

) = g(x

, (x

)) +u(x

, (x

))
i
(x

),
et, comme h est ` a support compact, on en conclut que
_
R
N1

i
h(x

)dx

= 0,
de sorte que nalement :

_
R
N1
g(x

, (x

))dx

=
_
R
N1
u(x

, (x

))
i
(x

)dx

=
_
R
N1
u(x

, (x

))n
i
(x

, (x

))
_
1 + |(x

)|
2
dx

=
_

u()n
i
()d. (7.10)
Ici, outre la denition de n() au moyen de , pour representer , nous avons
utilise le plongement deni par F(x

) := (x

, (x

)), et le fait que (voir Exer-


cices) det F

(x

(x

) = 1 + |(x

)|
2
. En comparant (7.9) et (7.10), on voit
que la formule dintegration par parties est prouvee dans le cas o` u est donne
par (7.8) et 1 i N 1.
En supposant toujours que est donne par (7.8), mais que i = N, on voit, de
fa con un peu plus simple, du fait que le N-`eme cosinus directeur de la normale
est donnee par n
N
(x

, (x

)) = (1 + |(x

)|
2
)
1/2
,
_

N
u(x)dx =
_
R
N1
_
+
(x

N
u(x

, x
N
)dx
N
dx

=
_
R
N1
u(x

, (x

))dx

=
_

u()n
N
()d.
22 Chapitre 1. Quelques outils de base
Cela montre la formule dintegration par parties (7.6), et de mani`ere equivalente
la relation (7.7), lorsque est donne par (7.8).
2) Maintenant nous supposons que louvert est du type de celui donne
par (7.8), mais que cet ouvert a subi une rotation et une translation. Plus
precisement soient R une matrice de rotation et b R
N
xes et, la fonction
et etant comme plus haut dans (7.8), posons :
(7.11)
0
:= R +b,
0
= R +b.
Ici, en designant par d
0
la mesure supercielle de
0
et par n
0
sa normale
exterieure, il sagit de voir que si u C
1
c
(R
N
, R
N
), alors on a :
(7.12)
_
0
div (u(x))dx =
_
0
u(
0
) n
0
(
0
)d
0
.
En posant y := R

(x b) et v(y) := u(Ry + b), on a Du(x) = Dv(y)R

.
Mais puisque
div u(x) = tr(Du(x)) = tr(Dv(y)R

) = tr(R

Dv(y)),
(o` u on note tr(A) la trace dune matrice A), on conclut que :
_
0
div(u(x))dx =
_

tr(Dv(y)R

)dy =
_

tr (D[R

v(y)]) dy.
Or, dapr`es la premi`ere partie de la demonstration :
_

tr(D[R

v(y)])dy =
_

[R

v()] n()d
=
_

[u(R +b)] Rn()d


=
_
0
u(
0
) n
0
(
0
)d
0
,
o` u on utilise le fait que la normale ` a
0
est obtenue par rotation de la normale
` a .
3) Pour montrer le theor`eme dans le cas general, en chaque point de on peut
trouver un ouvert
0,
et des fonctions

et

remplissant les conditions (7.1)


(7.3). On peut alors recouvrir supp(u) par un nombre ni douverts
k
:=

k
pour 1 k n. On consid`ere ensuite une partition de lunite (
k
)
0kn
telle que lon ait supp(
k
)
k
et :
si k 1, supp(
k
) est compact,
n

k=0

k
(x) 1.

0
;
_
0kn

k
; x
_
0kn

k
.
On peut donc ecrire :
8. Espaces de Sobolev 23
_

i
u(x)dx =
n

k=0
_

i
(u(x)
k
(x))dx.
Or pour 1 k n, la fonction u
k
a son support dans
k
et dapr`es la deuxi`eme
etape de la demonstration on a :
_

i
(u(x)
k
(x))dx =
_

u()
k
() n
i
()d.
Par ailleurs comme le support de u
0
est compact et contenu dans , on a :
_

i
(u(x)
0
(x))dx =
_
R
N

i
(u(x)
0
(x))dx = 0.
Finalement puisque pour on a
0
() = 0, on conclut la demonstration
en faisant la somme de ces egalites pour k variant de zero ` a n.
7.3 Corollaire (formule de Green). Soient un ouvert de classe C
1
et u, v
deux fonctions de classe C
2
c
(R
N
). Alors on a :
_

[v(x)u(x) u(x)v(x)] dx =
_

_
u
n
()v()
v
n
()u()
_
d ,

v(x)u(x)dx =
_

u(x) v(x)dx
_

u
n
()v()d .
Dans le paragraphe suivant nous allons introduire les espaces de Sobolev et
generaliser la formule dintegration par parties pour les fonctions qui admet-
tent des derivees dans un sens plus faible. Lintegration par parties est un outil
fondamental pour letude des equations aux derivees partielles, ainsi que pour
prouver la quasi-totalite des inegalites utilisees dans les methodes variationnelles
(inegalites de Sobolev, Gagliardo-Nirenberg, Poincare, Hardy, Korn, etc.). No-
tons aussi que la formule dintegration par parties peut setendre ` a des ouverts
qui sont seulement lipschitziens, sachant quune fonction lipschitzienne de R
N
dans R est derivable presque partout et sa derivee est dans L

(voir par exemple


E. Stein [153, chapter V, 6.2]).
8. Espaces de Sobolev
Dans ce paragraphe nous regroupons, pour faciliter la t ache du lecteur, un certain
nombre de resultats concernant les espaces de Sobolev qui nous seront utiles dans
la suite. Pour une presentation plus compl`ete des espaces de Sobolev, ou pour
la demonstration des resultats que nous annon cons ici, on pourra consulter par
exemple H. Brezis [28, chapitres 8 et 9], R.A. Adams [2], J.L. Lions & E. Magenes
[102], V.G. Mazja [115] et E. Stein [153, chapter V]. En particulier les livres de
R.A. Adams et de V.G. Mazja sont des references generales pour toutes les
questions concernant les espaces de Sobolev.
24 Chapitre 1. Quelques outils de base
Soient un ouvert de R
N
et 1 i N. Une fonction u L
1
loc
() a une
i-`eme derivee faible dans L
1
loc
() sil existe f
i
L
1
loc
() telle que pour tout
C

c
() on ait
_

u(x)
i
(x)dx =
_

f
i
(x)(x)dx.
Cela revient ` a dire que la i-`eme derivee au sens des distributions de u appartient
` a L
1
loc
(). Si f
i
est donnee par la relation ci-dessus, on posera

i
u :=
u
x
i
:= f
i
.
Lorsque N
N
, on note || :=
1
+
2
+ +
N
la longueur de et on note

u :=
1
1

N
N
u. Dans la suite

u designe la derivee faible dune fonction


u L
1
loc
(). Pour 1 p , lespace de Sobolev W
m,p
() est deni par :
(8.1) W
m,p
() :=
_
u L
p
() ; N
N
, || m,

u L
p
()
_
.
Lespace L
p
() etant muni de la norme u
L
p
()
:= u
p
(o` u pour 1 p < on
note u
p
p
:=
_

|u(x)|
p
dx), on munit lespace de Sobolev W
m,p
() de la norme
(8.2) u
m,p
:= u
W
m,p
()
:= u
m,p,
:=
_
_

||m

u
p
p
_
_
1/p
.
On montre alors que W
m,p
() est un espace de Banach, et on voit que si 0
m n linjection W
n,p
() W
m,p
() est continue. En posant :
D
m
u
p
:=
_
_

||=m

u
p
p
_
_
1/p
,
on obtient une semi-norme sur W
m,p
() et on peut montrer que u u
p
+
D
m
u
p
denit une norme, equivalente ` a celle que lon vient de denir en (8.2),
lorsque est susamment regulier.
Dans le cas particulier o` u p = 2, traditionnellement les espaces de Sobolev
W
m,2
() sont notes H
m
() et on les appelle parfois espaces denergie. Dans
le cas particulier o` u louvert est lespace tout entier R
N
, en utilisant la trans-
formation de Fourier on peut voir aisement que :
(8.3) H
m
(R
N
) =
_
u L
2
(R
N
) ; (1 + | |
2
)
m/2
u L
2
(R
N
)
_
,
o` u u est la transformee de Fourier de u et | | designe la fonction ||. On
montre aussi que la norme (1+| |
2
)
m/2
u
2
est equivalente ` a u
W
m,2
(R
N
)
(pour
cette approche voir J.L. Lions & E. Magenes [102] et Exercices).
De meme on peut montrer (voir E. Stein [153, chapter V, 6.2] et Exercices)
que les fonctions de W
1,
(R
N
) sont precisement les fonctions bornees et lips-
chitziennes sur R
N
. En particulier une fonction lipchitzienne sur R
N
est presque
8. Espaces de Sobolev 25
partout derivable et sa derivee est dans L

(R
N
). Ces resultats sont valides pour
W
1,
(), o` u est un ouvert borne et de classe C
1
ou lipchitzien.
Les fonctions de W
m,p
() peuvent etre caracterisees de la fa con suivante.
Tout dabord si u est un element de L
p
(), notons par u le prolongement par
zero de u, cest ` a dire :
(8.4) u(x) :=
_
u(x)
0
si x ,
si x ,
puis, pour h R
N
, posons :

h
(u)(x) := u(x + h).
On peut alors enoncer le resultat suivant, pour la caracterisation des elements de
W
1,p
() (voir par exemple H. Brezis [28, theor`eme IX.3]). Precisons que pour
1 p on designe par p

son conjugue de H older i.e. p

:=
p
p1
.
8.1 Proposition. Soient 1 < p et u L
p
(). Alors les trois proprietes
suivantes sont equivalentes :
(i) u W
1,p
().
(ii) Il existe C > 0 telle que pour tout i

1
N
et tout C
1
c
() on ait :

u(x)
i
(x)dx

C
p
.
(iii) Il existe une constante C > 0 telle que pour tout ouvert relativement
compact dans et tout h R
N
veriant |h| < dist(,
c
), on ait :

h
(u) u
L
p
()
C |h|.
Par ailleurs, si p = 1 les proprietes (ii) et (iii) sont equivalentes, et (i) implique
(ii).
On notera que si u W
1,p
(), la meilleure (i.e. la plus petite) constante C
dans (ii) est precisement
i
u
p
, alors que la meilleure constante dans (iii) est
u
p
.
Lespace C

c
() (ou D()) designant lensemble des fonctions de classe C

` a support compact contenu dans , on note, pour p 1 et p < :


(8.5) W
m,p
0
() := C

c
()
W
m,p
()
.
(Naturellement H
m
0
() nest autre que W
m,2
0
()). En ce qui concerne la car-
acterisation des fonctions de W
1,p
0
(), on dispose du resultat suivant.
26 Chapitre 1. Quelques outils de base
8.2 Proposition. Soient un ouvert de classe C
1
et u L
p
() avec 1 < p <
. Alors les proprietes suivantes sont equivalentes :
(i) u W
1,p
0
().
(ii) Il existe C > 0 telle que pour tout i

1
N
et tout C
1
c
(R
N
) on ait :

u(x)
i
(x)dx

C
p
.
(iii) u W
1,p
(R
N
) (rappelons que u est deni en (8.4)).
Par ailleurs, si u W
1,p
0
(), on a
i
u =

i
u.
8.3 Remarque. Il faut retenir que W
m,p
(R
N
) = W
m,p
0
(R
N
). Dans le cas general
o` u m 2, pour caracteriser lespace W
m,p
() ou W
m,p
0
(), on peut obtenir un
resultat semblable en appliquant les propositions 8.1 et 8.2 aux derivees dordre
k m 1. Il est important de noter que la denition des espaces W
m,p
0
()
comme ladherence de C

c
() dans W
m,p
() necessite que p < .
Comme, pour 1 p < , lespace D() est par denition dense dans
W
m,p
0
(), on peut identier le dual de W
m,p
0
() ` a un sous-espace de lespace
des distributions D

() (le dual de L
p
() etant identie ` a L
p

()). On note :
W
m,p

() := (W
m,p
0
())

.
(On notera H
m
() le dual de H
m
0
()). Les elements de W
m,p

() sont car-
acterises par la proposition suivante (voir par exemple H. Brezis [28, proposition
VIII.13] pour adapter la demonstration) :
8.4 Proposition. Dire quune distribution T D

() est un element de
W
m,p

() equivaut ` a dire quil existe, pour des multi-indices N


N
avec
|| m, des fonctions f

L
p

() telles que pour tout D() :


T, =

||m
_

(x)

(x)dx,
et T
W
m,p

()
= max
||m
f

p
. De plus si est borne on peut prendre
f
0
= 0.
Si cela avait un sens, intuitivement, W
m,p
0
() serait lensemble des fonc-
tions de W
m,p
() qui, dune certaine mani`ere, sannulent sur le bord . En
eet de fa con plus precise on a la propriete suivante (voir par exemple H. Brezis
[28, theor`eme IX.17]) :
8.5 Proposition. Soient un ouvert de classe C
1
et 1 p < . On consid`ere
une fonction u W
1,p
() C(). Alors :
u = 0 sur u W
1,p
0
().
Par exemple si N := 1 et :=]0, 1[, on peut voir que si u W
1,p
(0, 1), alors
u est continue sur [0, 1] et on a u W
1,p
0
(0, 1) si et seulement si u(0) = u(1) = 0.
8. Espaces de Sobolev 27
Cependant si louvert nest pas regulier, on ne peut pas parler de la restriction
de u au bord, et dire que u est nulle sur le bord na pas de sens. En realite, lors-
que louvert est de classe C
1
, on peut donner un sens ` a la notion de restriction
sur le bord dune fonction de W
1,p
() : cest la notion de trace que nous allons
voir dans un instant, apr`es avoir vu que si on fait des hypoth`eses adequates sur
la regularite de louvert, les fonctions reguli`eres sont denses dans W
1,p
() (le
cas m 2 peut se traiter par applications successives de ce resultat).
En tenant compte de la mise en garde precedente, on utilise souvent une ver-
sion faible de la notion de restriction sur le bord dune fonction de W
1,p
(),
en utilisant la denition suivante.
8.6 Denition. Soient un ouvert de R
N
et u, W
1,p
(). On dit que u =
sur au sens de W
1,p
(), si on a u W
1,p
0
().
De mani`ere generale, pour etudier les proprietes des espaces de Sobolev
W
m,p
() il est important de faire des hypoth`eses convenables sur la regularite
de louvert , au sens du paragraphe 7. Dailleurs, comme nous lavons vu
au paragraphe 3, cela est le cas meme lorsquon est en presence des fonctions
continues h olderiennes. Pour des contre-exemples concernant les resultats qui
suivent, lorsque nest pas susamment regulier, voir le livre de R.A. Adams
[2] (et aussi les Exercices).
On montre la plupart des resultats de regularite concernant les espaces de
Sobolev en supposant dabord que := R
N
. Puis, pour le cas general, on
construit un operateur de prolongement qui ` a une fonction u W
m,p
() fait
correspondre un prolongement u W
m,p
(R
N
) tel que, pour une constante C
dependant uniquement de , m, p, on ait u
|
= u et
u
0,p,R
N Cu
0,p,
, et u
m,p,R
N Cu
m,p,
.
Comme nous lavons signale ` a la proposition 8.2, cest le prolongement par zero
qui est loperateur de prolongement adequat dans le cas des fonctions W
1,p
0
().
Louvert le plus simple permettant de construire assez facilement un operateur
de prolongement est le demi-espace := R
N
+
:= R
N1
]0, [ (cf. Exercices).
Dans un cadre plus general, pour construire cet operateur, du moins lorsque
est borne, on peut par exemple supposer que louvert est de classe C
m
(mais
ce nest pas la regularite minimale que lon puisse exiger).
Comme on peut le voir assez facilement (voir Exercices), les techniques clas-
siques de troncature et de regularisation permettent de montrer que lespace
C

c
(R
N
) est dense dans W
m,p
(R
N
), pour m 1 et p < . Lorsque est su-
isamment regulier pour que lon puisse construire un operateur de prolongement,
on en deduit le resultat de densite (ii) de la proposition suivante :
8.7 Proposition. (i) Soient un ouvert de R
N
et 1 p < . On note
X
m,p
() := { C

() ;
m,p,
< }. Alors X
m,p
() est dense dans
W
m,p
().
(ii) Soient un ouvert de classe C
m
` a fronti`ere bornee et 1 p < . Alors
pour toute fonction u W
m,p
() il existe une suite
n
de C

c
(R
N
) telle que si
u
n
est la restriction de
n
sur , on ait :
28 Chapitre 1. Quelques outils de base
lim
n+
u u
n

m,p,
= 0 et, si || m,

u
n

u p.p. sur .
La propriete de densite (i) du theor`eme est d ue ` a N. Meyers & J. Serrin [116]
(voir aussi R.A. Adams [2, theorem 3.16]). Il faut noter que cette proprite nest
pas vraie pour p = : par exemple si :=] 1, +1[ et u(x) := |x|, evidemment
u W
1,
(1, +1) mais si C
1
(1, +1) on a u

1/2.
Gr ace au resultat de densite (ii) de la propostion 8.7, on peut voir que si
est de classe C
1
, alors les fonctions de W
1,p
() admettent une trace sur . De
fa con plus precise, lapplication
(8.6)
0
(u) := u
|

,
denie sur C
1
(), verie une inegalite du type :

0
(u)
L
p
()
Cu
1,p,
et par consequent se prolonge, par densite, en une application continue de
W
1,p
() dans L
p
() (cf. Exercices). Il faut aussi savoir que cette applica-
tion nest ni surjective, ni injective et que W
1,p
0
() est precisement le noyau de

0
:
W
1,p
0
() = ker (
0
).
Limage de
0
est egalement un espace de Sobolev (voir R.A. Adams [2, chapter
7]) et on note :
W
m
1
p
,p
() :=
0
(W
m,p
()) .
De meme, en remarquant que si u W
2,p
(), les derivees de u sont dans
W
1,p
(), on peut denir la derivee normale de u :
(8.7)
1
(u) :=
0
(u) n =:
u
n
,
o` u n designe la normale exterieure ` a et
0
(u) est le vecteur de composantes

0
(
i
u) pour 1 i N. On a alors le resultat suivant quil est utile de connatre
(voir R.A. Adams [2, theorem 7.53]) :
8.8 Proposition. Soient un ouvert de classe C
2
` a fronti`ere bornee et 1 <
p < . Les operateurs de trace
0
et
1
etant denis en (8.6) et (8.7), pour
u W
2,p
() on pose (u) := (
0
(u),
1
(u)). Alors :
: W
2,p
()/ker () W
2
1
p
,p
() W
1
1
p
,p
()
est un isomorphisme despaces de Banach.
Une fois que lon sait que les fonctions de W
1,p
() admettent une trace sur
, en utilisant la formule dintegration par parties que nous avons etablie au
paragraphe 7, on peut montrer la formule dintegration par parties pour des
fonctions de W
1,p
().
8. Espaces de Sobolev 29
8.9 Proposition. Soit un ouvert de classe C
1
` a fronti`ere bornee. Alors pour
toute fonction u W
1,1
() on a :
_

i
u(x)dx =
_

u()n
i
()d.
Il faut remarquer quici, dans un but de simplication, nous avons suppose
que louvert est ` a fronti`ere bornee et de classe C
1
; cependant pour des ouverts
plus generaux le meme resultat subsiste pourvu que lon dispose dun theor`eme
de densite de C
1
c
() dans W
1,1
().
La proposition 8.8 et la formule dintegration par parties permettent de don-
ner un sens ` a certains probl`emes aux limites non homog`enes, sans que lon ait ` a
faire des hypoth`eses de regularite parfois trop contraignantes. Par exemple si
est un ouvert borne de classe C
1
et si u L
2
() est tel que u L
2
(), alors
on peut donner un sens ` a
0
(u) et
1
(u). Plus precisement (voir par exemple
J.L. Lions [100, pages 168171]) en designant par
H(; ) :=
_
u L
2
() ; u L
2
()
_
lespace de Hilbert muni de la norme u
_
u
2
2
+u
2
2
_
1/2
, on peut montrer
que lapplication de la proposition 8.8 (lorsque p = 2) se prolonge en une appli-
cation lineaire continue de H(; ) dans H
1/2
()H
3/2
() o` u H

()
designe le dual de H

() (comme toujours on identie L


2
() et son dual).
On peut meme donner un sens ` a
0
(u), comme element de H
1/2
(), pourvu
que u L
2
() et u H
1
().
Un resultat fondamental concernant les espaces de Sobolev est linegalite, ou
le theor`eme dinjection, de Sobolev que nous allons voir maintenant.
8.10 Proposition. Soient m 1 un entier et 1 p < .
(i) Si mp < N, on pose p
m
:=
pN
Nmp
. Alors on a W
m,p
(R
N
) L
p
m
(R
N
).
Plus precisement il existe une constante C(m, p, N) > 0 telle que pour tout
u C

c
(R
N
) on ait linegalite de Sobolev :
(8.8) u
p
m C(m, p, N) D
m
u
p
.
(ii) Si mp = N, pour tout q p il existe une constante C(m, q, N) telle que
pour tout u W
m,p
(R
N
) on ait :
u
q
C(m, q, N) u
m,p
.
(iii) Si mp > N, en posant := 1
N
mp
, on a W
m,p
(R
N
) C
0,
0
(R
N
) et il existe
une constante C(m, p, N) telle que pour tout u W
m,p
(R
N
) on ait linegalite
de Morrey-Sobolev :
x, y R
N
, |u(x) u(y)| C(m, p, N) u
m,p
|x y|

.
30 Chapitre 1. Quelques outils de base
(iv) Si est un ouvert de classe C
m
` a fronti`ere bornee, les proprietes (ii)
et (iii) sont vraies en rempla cant R
N
par et la constante C par une constante
C(m, p, ), alors que si mp < N, il existe une constante C(m, p, ) telle que :
u
p
m C(m, p, ) u
m,p,
.
8.11 Remarque. Les inegalites de Sobolev sont fortement liees aux proprie-
tes regularisantes du semi-groupe de la chaleur. Rappelons (voir par exemple
K. Yosida [165, chapter IX] ou Th. Cazenave & A. Haraux [40]) que lequation
de la chaleur
_
_
_
u
t
u = 0
u(x, 0) = u
0
(x)
sur R
N
]0, +[,
sur R
N
,
admet une solution unique pour tout u
0
L
p
(R
N
) donnee (ici 1 p ), et
on a u(, t)
p
u
0

p
. En realite on peut voir facilement que si u
0
L
1
(R
N
),
alors u(x, t) := G(, t) u
0
o` u G(x, t) := (4t)
N/2
exp(|x|
2
/4t) est le noyau de
la chaleur sur R
N
, ce qui implique
(8.9) u(, t)

(4t)
N/2
u
0

1
.
En notant S(t)u
0
:= u(, t), on a ainsi un semi-groupe (S(t))
t0
qui envoie
L
1
(R
N
) dans L

(R
N
) ` a t > 0 (on dit que S(t) est un semi-groupe ultracontrac-
tif ). Or on peut montrer (voir M. Fukushima [68] et N.Th. Varopoulos [162])
que si N > 2 linegalite (8.9) est equivalente ` a linegalite de Sobolev

2
2N/(N2)
C(N)
2
2
,
pour C

c
(R
N
). De meme linegalite de Nash, i.e.

(2N+4)/N
2
C
2
(N)
4/N
1

2
2
,
est equivalente ` a linegalite (8.9) (et peut etre deduite de fa con evidente de
linegalite de Sobolev). De mani`ere generale soit (A, D(A)) un operateur non
borne et auto-adjoint sur L
2
() au sens du paragraphe 9, qui engendre un
semi-groupe S(t) (voir le livre de Th. Cazenave & A. Haraux [40] pour plus
de precision). Supposons que pour 1 p le semi-groupe S(t) soit un
semi-groupe de contractions dans les espaces L
p
() (en fait pourrait etre
nimporte quel espace mesure), et que les fonctions positives soient preservees
par S(t). Alors si, pour un reel > 0, on consid`ere les trois proprietes suivantes
(o` u (|) designe le produit scalaire L
2
) :
t > 0, f L
1
(), S(t)f

c
1
t
/2
f
1
, (8.10)
D(A) L
1
(),
(2+4)/
2
c
2

4/
1
(A|), (8.11)
D(A),
2
2/(2)
c
3
(A|), (8.12)
on peut montrer que (8.10) est equivalente ` a (8.11) (voir J. Nash [122] et
E.B. Fabes & D.W. Strook [63]), et que ces deux inegalites sont equivalentes
8. Espaces de Sobolev 31
` a (8.12) lorsque > 2 (voir M. Fukushima [68] et N.Th. Varopoulos [162]).
Cela est surtout interessant dans les situations o` u on ne peut pas montrer les
inegalites de Sobolev par un calcul direct (ou bien lorsque lon ne peut pas mon-
trer la propriete dultracontractivite (8.10) par un calcul explicite, comme on
peut le faire pour lequation de la chaleur dans R
N
). Pour plus de precisions sur
toutes ces questions, voir le livre de E.B. Davies [55, chapter 2] o` u les inegalites
de Sobolev logarithmiques sont egalement traitees.
Les inegalites de la proposition 8.10 impliquent lexistence dinjections con-
tinues des espaces de Sobolev W
m,p
() dans des espaces L
q
() ou C
0,
(),
suivant les valeurs respectives de m, p et N. En utilisant linegalite de Sobolev
et linegalite de H older, on obtient les inegalites de Gagliardo-Nirenberg (en
realite la formulation dorigine de ces derni`eres est plus precise que celle que
nous donnons ici. Voir Gagliardo [69], L. Nirenberg [123], et Exercices).
8.12 Proposition. Soient un ouvert de R
N
, 1 p N et 1 r . Il
existe une constante C(p, , N) telle que pour tout u W
1,p
0
() L
r
() on ait :
u
q
C u
1
r
u

p
,
o` u 0 1, avec > 0 si p = N 2, et :
1
q
:=
_
1
p

1
N
_
+
1
r
.
Pour se souvenir de la relation qui existe entre les divers exposants de cette
inegalite, on pourra proceder comme suit. Si u W
1,p
(R
N
) et > 0, on pose :
u

(x) := u(x),
et on ecrit linegalite pour la fonction u

. Ensuite on calcule les dierentes normes


qui interviennent dans linegalite en fonction de celles de u et de :
u

q
=
N
q
u
q
, u

r
=
N
r
u
r
, u

p
=
1
N
p
u
p
.
Si linegalite est vraie pour tout u W
1,p
(R
N
) et tout > 0, on doit necessaire-
ment avoir :
N
q
=
_
N
p
1
_
+
(1 )N
r
.
Le meme argument montre que si mp < N, alors p
m
:=
pN
Nmp
est le
seul exposant q tel que pour tout u C
m
c
(R
N
), on puisse avoir u
q,R
N
C D
m
u
p,R
N.
8.13 Remarque. Lorsque p < N, on pose p

:= p
1
:=
pN
Np
. Linegalite de
Sobolev montre que si par exemple est de classe C
1
` a fronti`ere bornee, lespace
W
1,p
() est contenu dans L
p

() avec injection continue. Toujours en supposant


que p < N, mais sans aucune hypoth`ese de regularite sur louvert , la denition
meme de W
1,p
0
(), comme adherence de C

c
() pour la norme de W
1,p
(),
montre que si C est la constante intervenant dans la proposition 8.10 (i), on a :
32 Chapitre 1. Quelques outils de base
(8.13) u W
1,p
0
(), u
p
C u
p
.
En eet il sut de passer ` a la limite dans (8.8) en se restreignant aux fonctions
de C

c
(). Toutefois, comme nous le verrons par la suite, la meilleure constante
dans cette inegalite est independante de louvert et depend uniquement de p
et de N. Naturellement cette remarque est egalement valable pour m 2.
Cependant il faut bien noter que les injections de Sobolev pour les espaces
W
m,p
() dependent, ` a travers un resultat de prolongement, de la regularite de
louvert . De fait, on peut donner des exemples douverts non reguliers en
un seul point tels que W
m,p
() ne soit contenu dans aucun espace L
q
() pour
q > p (voir R.A. Adams [2, theorem 5.32]). De meme si est un ouvert non
borne de mesure nie, alors W
m,p
() nest contenu dans aucun L
q
() avec q > p
(voir [2, theorem 5.30]).
Quand est un ouvert borne, on voit facilement que linegalite de Gagliardo-
Nirenberg ne peut pas etre vraie pour les fonctions u W
1,p
() (car les con-
stantes sont dans cet espace). Cependant en utilisant un theor`eme de prolonge-
ment on peut montrer le resultat suivant (voir Exercices pour la demonstration).
8.14 Proposition. Soient un ouvert borne connexe de classe C
1
, 1 p N
et 1 r . Il existe une constante C dependant de p, , telle que pour tout
u W
1,p
() L
r
() on ait :
u
q
C u
1
r
u

W
1,p
()
,
o` u 0 1, avec > 0 si p = N 2, et :
1
q
:=
_
1
p

1
N
_
+
1
r
.
Par ailleurs si m(u) := mes()
1
_

u(x)dx est la moyenne de u sur et


mes() > 0, avec les notations ci-dessus, pour une constante C dependant de
p, , , , on a pour tout u W
1,p
() :
u m(u)
q
C u
1
r
u

p
.
On retiendra aussi que dans le cas limite o` u p = N, on a p

= , mais d`es
que N 2, lespace W
1,N
0
() nest pas contenu dans L

(), meme si linclusion


W
1,N
0
() L
q
() est vraie pour tout q p (voir Exercices). En fait, lorsque
est borne, on peut montrer que (voir R.A. Adams [2, theorem 8.25]) :
u
L
q C(N) mes() q
1
1
N
u
1,N,
.
En utilisant le developpement en serie de s exp(s
N
N1
), et cette derni`ere
estimation, on peut etablir linegalite de Trudinger-Moser :
8. Espaces de Sobolev 33
8.15 Proposition (Trudinger-Moser). Soit un ouvert borne de classe C
1
.
Il existe une constante dependant de N et de mes () telle que pour tout
u W
1,N
() on ait :
(8.14)
_

exp
_
_
|u(x)|
u
1,N,
_ N
N1
_
dx 1.
De meme en posant
(s) := exp(s
N
N1
)
N2

j=0
1
j!
s
jN
N1
,
il existe une constante dependant uniquement de N telle que pour tout u
W
1,N
(R
N
) on ait :
(8.15)
_
R
N

_
|u(x)|
u
N
_
dx 1.
Un autre resultat particuli`erement important dans letude des methodes vari-
ationnelles est le theor`eme de Rellich-Kondrachov qui concerne la compacite de
linjection des espaces de Sobolev W
m,p
0
() et W
m,p
() dans certains espaces
L
q
(). Nous enon cons ce resultat pour le cas m = 1, mais comme nous lavons
signale plus haut le cas general sen deduit facilement. Pour la demonstration
voir H. Brezis [28, theor`eme IX.16], D. Gilbarg & N.S. Trudinger [74 7.10], ou
Exercices. Rappelons que si p < N on a deni lexposant de Sobolev p

par :
p

:=
pN
N p
.
8.16 Theor`eme (Rellich-Kondrachov). Soit un ouvert borne de R
N
et
p 1.
(i) Si p < N, alors pour tout q 1 tel que q < p

, linjection de W
1,p
0
() dans
L
q
() est compacte.
(ii) Si p = N, alors pour tout q < , linjection de W
1,N
0
() dans L
q
() est
compacte.
(iii) Si p > N et 0 < < 1
p
N
, alors linjection de W
1,p
0
() dans C
0,
() est
compacte.
(iv) Lorsque est un ouvert borne de classe C
1
, les resultats ci-dessus sont
vrais en rempla cant W
1,p
0
() par W
1,p
().
(v) Lorsque N = 1, linjection de W
1,1
() dans C() est continue et non
compacte, mais toute suite bornee (u
n
)
n
contient une sous-suite (u
nj
)
j
telle que
pour tout x , la suite
_
u
nj
(x)
_
j
est convergente.
8.17 Remarque. Les resultats de compacite que nous venons de donner sont
optimaux dans le sens o` u, bien que linjection continue de W
1,p
0
() dans L
p

()
(ou dans C
0,1
N
p
() lorsque p > N) existe, cette injection nest pas compacte.
En eet, dans le cas o` u p < N, en supposant que est un ouvert borne et 0 ,
34 Chapitre 1. Quelques outils de base
considerons une boule B(0, R) , une fonction C

c
(B(0, R)) et, pour
> 0 destine ` a tendre vers linni, denissons la famille de fonctions

par :

(x) :=
N
p
1
(x).
On verie que la famille (

est bornee dans W


1,p
() et que :

L
q
()

L
q
(R
N
)
=

L
q
()
avec :=
N
p

N
q
1.
Par consequent si q < p

, on a < 0 et

tend vers zero dans L


q
() lorsque
+. Si (

avait une valeur dadherence dans L


p

(), elle ne pourrait


etre que la fonction nulle. Or si 0, pour tout > 1 on a supp(

)
B(0,
R

) et :

L
p

()
=
L
p

()
> 0.
De meme, lorsque est non borne, en general linjection de W
1,p
0
() dans
L
p
() nest pas compacte. Par exemple si := R
N
(ou un ouvert invariant par
translation dans une direction) et si C

c
(R
N
), pour toute suite (x
n
)
n
telle
que |x
n
| +, la suite :
u
n
(x) := (x +x
n
)
verie u
n

1,p
=
1,p
, alors que u
n
0 dans L
q
(R
N
)-faible et u
n

q
=

q
> 0. Par consequent (u
n
)
n
ne peut etre relativement compacte dans L
q
,
pour aucun q.
Il faut cependant remarquer que la perte de compacite dans le cas de
linjection de W
1,p
0
() dans L
p

() est de nature locale, alors que dans le cas o` u


louvert est non-borne (par exemple lespace tout entier) la perte de compacite
provient de linvariance du domaine par translation, et de fait si est un ouvert
quelconque et p < N alors pour tout q < p

et tout ouvert borne linjection :


W
1,p
0
() L
q
()
est compacte. On exprime ce fait en disant que linjection W
1,p
0
() dans L
q
loc
()
est compacte pour q < p

, alors quelle ne lest pas si q = p

.
Dans certains cas, la norme de W
1,p
0
() peut etre simpliee gr ace ` a linegalite
de Poincare. On dira quun ouvert est borne dans une direction sil existe un
vecteur e R
N
, avec (e|e) = 1 et a, b R tels que pour tout x on a
(x|e) ]a, b[.
8.18 Proposition (inegalite de Poincare). On suppose que est un ouvert
borne dans une direction. Alors il existe une constante C telle que pour tout
u W
1,p
0
() :
(8.16) u
p
C u
p
.
Linegalite (8.16) est vraie si on suppose seulement que est de mesure nie.
Demonstration. Si est borne dans une direction, on peut supposer sans perte
de generalite quil est contenu dans R
N1
]0, a[. Ainsi, en notant (x

, x
N
) :=
x R
N
, pour u C
1
c
() on peut ecrire :
8. Espaces de Sobolev 35
|u(x

, x
N
)|
p
= p
_
x
N
0
|u(x

, t)|
p2
u(x

, t)
N
u(x

, t)dt
p
_
a
0
|u(x

, t)|
p1
|
N
u(x

, t)|dt.
En integrant dabord en x
N
sur ]0, a[ puis en x

R
N1
, et utilisant le fait que
le support de u est contenu dans , on obtient :
_

|u(x)|
p
dx pa
_

|u(x)|
p1
|
N
u(x)|dx pau
p1
p

N
u
p
,
o` u, pour la derni`ere estimation, on a utilise linegalite de H older.
Lorsque est de mesure nie, pour C
1
c
() on part de linegalite de
Sobolev dans R
N
(o` u 1

:=
N
N1
) :

L
1

C(N)
L
1.
Si maintenant u C
1
c
() est donnee, en appliquant cette inegalite ` a :=
|u|
p1
u, on obtient u
p
p
=
L
1 mes()
1
N

L
1

et nalement :
u
p
p
(mes ())
1/N

1
C(p, ) |u|
p1
u
1
C(p, ) u
p1
p
u
p
,
ce qui, joint ` a largument classique de densite, etablit linegalite de Poincare.
8.19 Remarque. Si est borne dans une direction ou est de mesure nie, on
posera :

1
:=
1
() := inf
__

|u(x)|
2
dx ; u H
1
0
(),
_

|u(x)|
2
dx = 1
_
.
Lorsque linjection de H
1
0
() dans L
2
() est compacte on peut montrer (et nous
le verrons par la suite) que
1
est atteint, cest ` a dire quil existe
1
H
1
0
()
telle que
1

2
= 1, et
1

2
=
1
. On peut dej` a verier que si
1
est atteint
pour une certaine fonction
1
, alors on doit avoir :

1
=
1

1
,
au moins au sens des distributions. En eet pour t > 0 et v C

c
(), on a :

1
(1 + 2t(
1
|v) +t
2
v
2
) =
1

1
+ tv
2

1
+tv
2

1
+ 2t(
1
|v) +t
2
v
2
,
do` u, en simpliant et faisant tendre t vers zero, on deduit que (
1
|v) =

1
(
1
|v) et nalement que
1
verie lequation
1
=
1

1
au sens des dis-
tributions.
De meme si on denit
1,p
par :
36 Chapitre 1. Quelques outils de base

1,p
:= inf
__

|u(x)|
p
dx ; u W
1,p
0
(),
_

|u(x)|
p
dx = 1
_
,
on sait que si est tel que linegalite de Poincare est vraie pour W
1,p
0
(), alors

1,p
> 0. Dans le cas o` u linjection de W
1,p
0
() dans L
p
() est compacte, on
peut montrer que
1,p
est atteint pour une certaine fonction
1,p
W
1,p
0
()
veriant
1,p

p
= 1 et :
div
_
|
1,p
|
p2

1,p
_
=
1,p
|
1,p
|
p2

1,p
au sens de D

().
Nous reviendrons sur ces questions plus loin, lors de letude des multiplicateurs
de Lagrange et des methodes variationnelles.
En utilisant la proposition 8.18, on obtient limportant resultat suivant :
8.20 Corollaire. Si est borne dans une direction ou sil est de mesure nie
alors, sur lespace W
1,p
0
(), u u
p
est une norme equivalente ` a celle induite
par W
1,p
().
Lorsque cela nest pas precise, la norme canonique de W
1,p
0
() est supposee
etre u
p
.
Dans le cas de lespace W
1,p
() on dispose de linegalite de Poincare-
Wirtinger, dont on pourra voir la demonstration dans les Exercices.
8.21 Proposition (inegalite de Poincare-Wirtinger). Soient un ouvert
borne et connexe de classe C
1
et 1 < p < . Alors si est mesurable
avec mes() > 0 et m(u) := mes()
1
_

u(x)dx, il existe une constante C > 0


dependant uniquement de , et p telle que pour tout u W
1,p
() on ait :
(8.17) u m(u)
p
C u
p
.
En particulier sur lespace V
0
:=
_
v W
1,p
() ; m(u) = 0
_
, u u
p
est une
norme equivalente ` a celle induite par la norme de W
1,p
().
En realite, avec les notations ci-dessus, linegalite de Poincare-Wirtinger pro-
prement dite correspond au cas o` u p = 2 et = .
Une propriete importante des fonctions de W
1,p
() est le fait quelles peu-
vent secrire comme la dierence de deux fonctions positives de W
1,p
(). Plus
precisement on a (voir par exemple G. Stampacchia [152, lemme I.1] et Exer-
cices) :
8.22 Proposition. Soient 1 p et un ouvert de R
N
. Alors pour
u W
1,p
(), on a |u| W
1,p
() et :
|u| = 1
[u>0]
u 1
[u<0]
u.
En particulier u
+
:= max(u, 0) et u

:= max(u, 0) sont des elements de


W
1,p
().
Gr ace ` a cette propriete on voit que :
8. Espaces de Sobolev 37
u
+
= 1
[u>0]
u, u

= 1
[u<0]
u.
Cependant il faut savoir que la propriete est specique aux espaces W
1,p
() et
ne se generalise pas aux espaces W
m,p
() avec m 2. A ce sujet voir L. Hedberg
[78, theorem 3.1 et la remarque added in proof , page 238] o` u le resultat suivant
est prouve.
8.23 Proposition. Soient un ouvert de R
N
, m 1 un entier, p > 1 un reel et
u W
m,p
(R
N
) telle que D

u = 0 sur
c
pour tout N
N
tel que || m1.
Alors pour tout > 0 il existe une fonction veriant 0 1 sur R
N
et
(x) = 1 sur un voisinage de
c
{}, telle que
u
W
m,p
(R
N
)
< .
De plus on peut choisir C

(R
N
) ou bien telle que (1 )u L

(R
N
).
En particulier, si u W
m,p
0
() et u 0 presque partout, il existe une suite
de fonctions u
n
C

c
() telles que u
n
0 et u u
n

W
m,p
0
()
tend vers zero
lorsque n .
Le resultat suivant (inegalite de Kato) est tr`es utile pour obtenir des esti-
mations a priori. On pourra en voir la demonstration dans les Exercices. On
rappelle que si T
1
, T
2
D

(), on ecrit T
1
T
2
si pour toute fonction positive
D() on a T
1
, T
2
, . On note enn sgn(t) la fonction signe qui vaut
+1 pour t > 0, zero pour t = 0 et 1 pour t < 0.
8.24 Lemme (inegalite de Kato). Soit u L
1
loc
() telle que u L
1
loc
().
Alors on a :
|u| sgn(u)u au sens de D

().
En utilisant la proposition 8.22 et la denition 8.6, pour u W
1,p
() on
peut denir une notion de maximum de u sur au sens W
1,p
() de la fa con
suivante.
8.25 Denition. Soient un ouvert de R
N
, R et u W
1,p
(). On
dit que u sur au sens de W
1,p
() si (u )
+
W
1,p
0
(). Pour tout
u W
1,p
(), on pose alors :
sup

u := inf
_
R, ; u sur au sens de W
1,p
()
_
,
(o` u par convention inf := +) et de meme
inf

u := sup

(u).
38 Chapitre 1. Quelques outils de base
9. Operateurs elliptiques du second ordre
Soient E, F deux espaces de Banach. Un operateur lineaire sur E (` a valeurs)
dans F est un couple (A, D(A)) o` u D(A) E est un sous-espace vectoriel de E
et A est une application lineaire de D(A) dans F. On dit alors que D(A) est le
domaine de loperateur. Le graphe de A est deni par :
G(A) := {(u, Au) ; u D(A)} E F.
Si (A, D(A)) et (B, D(B)) sont deux operateurs de E dans F, on ecrit A B
lorsque D(A) D(B) et, pour tout u D(A), on a Au = Bu. Lorsquon dit
que A = B, cela signie que A B et B A.
On dit que loperateur (A, D(A)) est ferme si G(A) est ferme dans E F.
Cela revient ` a dire que si (u
n
)
n
est une suite de D(A) telle que u
n
u dans
E et Au
n
f dans F, alors u D(A) et f = Au. Par exemple si A est une
application lineaire continue de E dans F, alors (A, E) est un operateur ferme
au sens que nous venons dintroduire. De meme si (A, D(A)) est un operateur
ferme de E dans F et B est une application lineaire continue de E dans F,
alors (A+B, D(A)) est ferme (voir Exercices). Un autre cas particuli`erement
interessant pour la suite est le suivant. Si B est une application lineaire continue
et injective de F dans E, alors en posant D(A) := R(B) := Im(B) (i.e. image
de B), et A := B
1
, on obtient un operateur ferme (A, D(A)) de E dans F.
En eet on voit que G(A) est ferme dans E F, puisque G(A) nest autre que
limage de G(B) dans lisometrie canonique entre E F et F E.
Lorsque (A, D(A)) est ferme, on munit D(A) de la norme du graphe :
u
D(A)
:= u
A
:= u
E
+Au
F
.
On peut verier qualors D(A) muni de cette norme est un espace de Banach
dont linjection dans E est continue ; de plus A est continu de D(A) (muni de
cette norme) dans F.
On dit que (A, D(A)) est fermable si ladherence G(A) de G(A) dans E F
est le graphe dun operateur lineaire, i.e. si (u, f) G(A) et (u, g) G(A) alors
on a f = g. Cela revient ` a dire que si une suite (u
n
)
n
de D(A) est telle que
u
n
0, et Au
n
f alors f = 0.
Voici un exemple typique dun operateur ferme sur L
2
() que nous utiliserons
par la suite. Soient un ouvert de R
N
et a := (a
ij
)
1i,jN
, une matrice denie
presque partout sur veriant la condition de coercivite :
(9.1)
_

_
> 0, tel que R
N
, p.p. sur ,
(a(x)|) =
N

i,j=1
a
ij
(x)
j

i
||
2
.
On suppose de plus que a
ij
L

() pour 1 i, j N. Si u H
1
0
(),
alors a
ij

j
u est un element de L
2
() ; lorsque

N
i,j=1

i
(a
ij

j
u), qui nest deni
que comme distribution, est un element de L
2
(), on peut denir un operateur
(A, D(A)) par :
9. Operateurs elliptiques du second ordre 39
(9.2)
D(A) :=
_
_
_
u H
1
0
() ;
N

i,j=1

i
(a
ij

j
u) L
2
()
_
_
_
Au :=
N

i,j=1

i
(a
ij

j
u) = div(a()u) ,
et verier quil est ferme. On dit que A est un operateur elliptique du second
ordre sous forme divergentielle. On remarquera que dans la denition de D(A)
on demande que la somme des
i
(a
ij

j
u), et non pas chacun de ces termes, soit
dans L
2
(). Dans la suite et (|) designent la norme et le produit scalaire
de L
2
().
9.1 Lemme. Soient un ouvert de R
N
, a une matrice ` a coecients dans
L

() veriant (9.1) et (A, D(A)) loperateur deni par (9.2). Alors :


(i) pour tout f L
2
() il existe un unique u D(A) tel que : u +Au = f. De
plus (I +A)
1
est continue de L
2
() dans lui-meme et on a u f, et si
est borne (I +A)
1
est un operateur compact de L
2
() dans lui-meme.
(ii) Loperateur (A, D(A)) est ferme sur L
2
().
(iii) D(A) est dense dans L
2
().
Demonstration. Pour u, v H
1
0
(), posons
a
0
(u, v) := (u|v) +
N

i,j=1
_

a
ij
(x)
j
u(x)
i
v(x)dx.
On verie sans peine que a
0
(, ) est une forme bilineaire continue sur H
1
0
()
et quelle est coercive puisque a
0
(u, u) min(1, ) u
2
H
1
()
: par consequent,
dapr`es le lemme de Lax-Milgram(lemme 2.3), pour tout f L
2
() le probl`eme :
trouver u H
1
0
(), tel que v H
1
0
(), a
0
(u, v) = (f|v),
admet une solution unique qui verie u f. Or pour D() on a, en
designant par , le crochet de dualite entre D

() et D() :
u +Au, = a
0
(u, ) =
_

f(x)(x)dx,
et par consequent |u + Au, | f , ce qui implique, en utilisant la
densite de D() dans L
2
() et le theor`eme de Riesz, que u + Au est dans
L
2
(), cest-` a-dire que u D(A) et u +Au = f.
On voit ainsi que (I+A)
1
est une injection continue de L
2
() dans lui-meme
et que son image est precisement D(A). Comme nous lavons signale plus haut
(voir aussi Exercices), (I +A, D(A)) est un operateur ferme et on en deduit que
(A, D(A)) est ferme. Par ailleurs si est borne, linjection de H
1
0
() dans L
2
()
est compacte (theor`eme de Rellich-Kondrachov 8.16) ; comme par denition on
a D(A) H
1
0
(), on en conclut que (I + A)
1
est compact de L
2
() dans
lui-meme.
40 Chapitre 1. Quelques outils de base
Pour voir que D(A) est dense dans L
2
(), il sut de montrer que D(A)

=
{0} ; soit donc f L
2
() tel que pour tout v D(A) on ait (f|v) = 0. En
prenant u D(A) tel que u +Au = f, alors :
0 = (f|u) = (u +Au|u) u
2
,
cest ` a dire que u = 0 et f = 0. Ce qui montre que D(A) = L
2
().
9.2 Remarque. Nous devons faire remarquer quen general, si on suppose
seulement que les coecients a
ij
sont dans L

() sans aucune hypoth`ese de


regularite supplementaire, meme en dimension N = 1, les fonctions reguli`eres
C

c
ne sont pas necessairement contenues dans D(A) (voir Exercices).
Considerons maintenant un operateur lineaire (A, D(A)) tel que D(A) soit
dense dans E ; on denit ladjoint de A (note (A

, D(A

))) de la fa con suivante.


On pose :
D(A

) := { F

; C 0 t.q. u D(A), , Au Cu}.


Cela signie que D(A

) est precisement lensemble des elements F

tels que
lapplication u , Au peut se prolonger, par densite, en une forme lineaire f
continue sur E. Pour un tel on posera : A

:= f. On peut montrer facilement


que (A

, D(A

)) est un operateur ferme sur F

mais, en general, D(A

) nest
pas dense dans F

(cependant si F est reexif, alors D(A

) est dense dans F

).
Lorsque E est un espace reexif et F := E

, un operateur (A, D(A)) de E dans


E

est dit auto-adjoint si A = A

.
Nous allons montrer que loperateur (A, D(A)) deni ci-dessus par (9.2) est
auto-adjoint, lorsque la matrice a est symetrique.
9.3 Proposition. Soient un ouvert de R
N
et a une matrice ` a coecients
dans L

() veriant (9.1) telle que pour 1 i, j N on ait : a


ij
= a
ji
p.p. sur
. Alors loperateur (A, D(A)) deni par (9.2) est auto-adjoint sur L
2
().
Demonstration. Nous savons que D(A) est dense dans L
2
() et ainsi on peut
denir loperateur (A

, D(A

)). Montrons dabord linclusion A A

. Si u
D(A), alors pour D(A), par une integration par parties et en utilisant le
fait que a

= a, on a :
(u|A) =
_

u(x) div (a(x)(x)) dx


=
_

a(x)(x) u(x)dx
=
_

a(x)u(x) (x)dx = (Au|). (9.3)


Cela implique que pour D(A), on a |(u|A)| Au , cest ` a dire que u
est dans le domaine de A

. Par ailleurs la relation (9.3) montre que (A

u|) =
(Au|) pour tout dans D(A), et par densite de D(A) dans L
2
() on conclut
que A

u = Au.
9. Operateurs elliptiques du second ordre 41
Soit maintenant v D(A

) et posons f := v + A

v L
2
(). Dapr`es le
lemme 9.1, on sait quil existe u D(A) tel que u+Au = f. Or puisque A A

,
on a :
f = v +A

v = u +Au = u +A

u,
cest ` a dire que (u v) +A

(u v) = 0. Soit D(A) tel que +A = u v.


On a :
0 = (u v +A

(u v)|) = (u v| +A) = u v
2
,
et donc v = u, cest ` a dire que v est dans D(A), ce qui montre que A = A

.
Pour dautres exemples doperateurs non bornes construits avec des opera-
teurs differentiels, voir Exercices.
9.4 Remarque. Soient H et H
0
deux espaces de Hilbert, tels que H H
0
avec
injection continue et dense, le dual H

0
etant identie ` a H
0
, et a(, ) une forme
bilineaire continue et coercive sur H. Dapr`es le lemme de Lax-Milgram, on sait
que pour tout f H

, il existe un unique u H tel que pour tout v H on


ait a(u, v) = f, v. On sait quil existe une application lineaire continue

A de
H dans H

telle que a(u, v) =

Au, v et que lapplication f u =



A
1
f est
lineaire continue de H

dans H. En particulier si H
0
, on conclut quil existe
u

tel que pour tout v H on ait a(u

, v) = (|v), o` u (, ) est le produit scalaire


de H
0
. Si on pose B := u

, on a ainsi un operateur lineaire continu et injectif


de H
0
dans H, et en posant D(A) := B(H
0
) et Au := B
1
(u) pour u D(A), on
obtient un operateur A non borne et ferme sur H
0
. En particulier on peut voir
facilement que si u H est tel que

Au H
0
, alors u D(A) et Au =

Au. On
dit parfois que

A est une extension de A ` a H. Dans ces conditions, tr`es souvent,
pour u H on ecrit, par un abus de notation, (Au|u) =

Au, u = a(u, u). Dans


certains cas (quand il ny a pas risque de confusion) meme pour u H on ecrit
Au au lieu de

Au. Lorsque la forme bilineaire a(, ) est symetrique, alors on peut
verier que A et

A sont auto-adjoints et positifs.
Un exemple typique est le suivant. Sur H := H
1
0
(), o` u est un ouvert
borne, on consid`ere la forme bilineaire :
a(u, v) :=
_

i,j=1
a
ij
(x)
j
u(x)
i
v(x)dx,
en supposant que les coecients a
ij
sont dans L

() et que pour un > 0 on a

N
i,j=1
a
ij
(x)
j

i
||
2
. Alors en posant H
0
:= L
2
(), loperateur A est celui
que nous avons deni en (9.2), alors que

A est lapplication qui ` a u H
1
0
()
fait correspondre la distribution

Au :=

N
i,j=1

i
(a
ij

j
u) element de H
1
().
Sur cet exemple on voit que pour u H
1
0
(), il nest pas tr`es genant decrire
Au au lieu de

Au, du moment que lon sait que ce dernier doit etre interprete
au sens des distributions.
42 Chapitre 1. Quelques outils de base
10. Principes du maximum
Un tr`es grand nombre de resultats de regularite, dunicite ou dexistence de
solutions dans les probl`emes elliptiques du second ordre peuvent etre etablis
en utilisant (on pourrait dire uniquement) le principe du maximum, dont nous
donnons les enonces ci-dessous (pour illustrer cette approche dans letablissement
des resultats de regularite voir A. Brandt [25] ainsi que les references donnees
plus loin). Par ailleurs les dierents type de principes du maximum (tr`es souvent
on dit le principe du maximum) sont tr`es utiles pour etablir des estimations a
priori sur deventuelles solutions.
Soient un ouvert de R
N
, a() := (a
ij
())
1i,jN
une matrice, b() :=
(b
i
())
1iN
et () := (
i
())
1iN
deux vecteurs, et c une fonction. On con-
sid`ere A et L deux operateurs du second ordre denis par :
Au :=
N

i,j=1

i
(a
ij

j
u) +
N

j=1

j
(
j
u) +b u +cu, (10.1)
Lu :=
N

i,j=1
a
ij

ij
u +b u +cu , (10.2)
et avec des hypoth`eses sur les coecients on precisera les domaines de ces
operateurs. On dit que A est un operateur du second ordre ` a partie principale
divergentielle. Remarquons en premier lieu que si par exemple les coecients a
ij
et
i
sont dans W
1,
(), loperateur A est du meme type que L. Il est egalement
` a noter que dans loperateur L on peut supposer sans perte de generalite que
a
ij
= a
ji
, car
ji
u =
ij
u et :
N

i,j=1
a
ij

ij
u =
N

i,j=1
a
ji

ij
u =
N

i,j=1
a
ij
+a
ji
2

ij
u.
En revanche, il faut bien noter quen general les deux operateurs A et L sont de
natures dierentes, et quen particulier les proprietes (surtout celles qui concer-
nent le spectre) de loperateur A dependent de mani`ere essentielle de la symetrie
ou non de la matrice a(). En r`egle generale on supposera que la matrice a()
verie la condition de coercivite (ou dellipticite) :
(10.3)
_

_
> 0, R
N
, p.p. sur ,
a(x) =
N

i,j=1
a
ij
(x)
j

i
||
2
.
Rappelons aussi que sup

u a ete deni pour u H


1
() ` a la denition 8.25,
et que sup

u designe la borne superieure essentielle de u sur , i.e.


sup

u := inf { R ; u p.p. sur } .


10. Principes du maximum 43
10.1 Theor`eme (principe du maximum faible). Soient un ouvert borne
connexe et a
ij
,
i
, b
i
, c dans L

(). On suppose que la condition (10.3) est


satisfaite et que
c + = c +
N

i=1

i
0 dans D

().
Si u H
1
() verie Au 0 au sens de D

() alors :
sup

u sup

u
+
.
Voir D. Gilbarg & N.S. Trudinger [74, theorem 8.1] ou Exercices pour la
demonstration (cf. egalement G. Stampacchia [152, theor`eme 3.7] pour le cas
o` u les coecients b
i
,
i
sont dans L
N
() et c L
N/2
()). On notera que le
principe du maximum faible implique que si Au = f 0 au sens de D

() et
u H
1
0
(), alors u 0, et quen particulier on obtient un resultat dunicite pour
des equations du type Au = f et u H
1
0
() : en eet si Au = 0 et u H
1
0
(),
en appliquant le principe du maximum faible ` a u et ` a u, on obtient sup

u 0
et sup

(u) 0, i.e. u 0. La version forte du principe du maximum (voir


D. Gilbarg & N.S. Trudinger [74, theorem 8.19]) est donnee par :
10.2 Theor`eme (principe du maximum fort). Soient un ouvert borne
connexe et a() une matrice veriant la condition de coercivite (10.3). On suppose
que les coecients a
ij
,
i
, b
i
et c sont dans L

() et que c 0 dans
D

(). Si u H
1
() verie Au 0 au sens de D

(), et si pour une boule


B on a :
sup
B
u = sup

u 0,
alors u est constante sur et on a = div = c.
En ce qui concerne les operateurs comme L donne par (10.2) on a le resultat
suivant (voir D. Gilbarg & N.S. Trudinger [74, 3.1 et 3.2], M.H. Protter &
H.F. Weinberger [133]) :
10.3 Theor`eme (principe du maximum classique). Soient un ouvert
borne connexe et L comme dans (10.2). On suppose que c 0, que (10.3) est
satisfaite et que a
ij
, b
i
, c C(). Si u C
2
() C() verie Lu 0 alors on
a :
max
x
u(x) max

u
+
().
Comme nous lavons signale plus haut, ce theor`eme permet de montrer que pour
f C() et C() la solution du probl`eme de Dirichlet
_
Lu = f
u =
dans ,
sur ,
est unique dans C() C
2
().
Voici une version plus precise du principe du maximum (cette version est d ue
` a E. Hopf [83] ; cf. D. Gilbarg & N.S. Trudinger [74, theorem 3.5]) :
44 Chapitre 1. Quelques outils de base
10.4 Theor`eme (principe du maximum de Hopf ). Soient un ouvert
borne connexe et L comme dans (10.2). On suppose que c 0, que (10.3) est
satisfaite et que a
ij
, b
i
, c C(). Si u C
2
() C() verie Lu 0 et si u
atteint un maximum 0 ` a linterieur de , alors u est constante sur .
Finalement nous donnerons une version du principe du maximum pour
loperateur L, en aaiblissant les hypoth`eses de regularite (cf. D. Gilbarg &
N.S. Trudinger [74, theorem 9.1]) :
10.5 Theor`eme (principe du maximum dAleksandrov). On consid`ere
un ouvert borne connexe et L un operateur elliptique comme dans (10.2). On
suppose que c 0, que (10.3) est satisfaite et que a
ij
, b
i
, c sont dans C() et
f L
N
(). Il existe une constante C > 0 dependant uniquement de N, b
L
N
()
et du diam`etre de telle que si u W
2,N
loc
() C() verie Lu f on a :
sup
x
u(x) sup

u() +C f
L
N
()
.
10.6 Remarque. Ici nous navons pas traite le cas o` u louvert est non borne.
Cependant en imposant un certain comportement ` a linni, et en utilisant les
techniques utilisees pour etablir les resultats precedents on peut enoncer des
principes du maximum pour les ouverts non bornes. Un exemple typique et
interessant est le suivant (voir Exercices) :
10.7 Proposition. On suppose que pour 1 i, j N les coecients a
ij
sont
dans L

(R
N
) et verient la condition (10.3), c(x) > 0 p.p. Si u H
1
(R
N
)
verie

i,j=1

i
(a
ij

j
u) +cu 0,
alors u 0 presque partout.
11. Theor`emes de regularite
Lorsquon aborde la resolution dune equation aux derivees partielles par une
methode variationnelle, en r`egle generale on le fait en changeant peu ou prou la
notion de solution : alors que tr`es souvent dans les applications on a besoin de
trouver des solutions reguli`eres (ou classiques) des equations que lon rencontre,
les methodes variationnelles, et cest l` a lune de leurs limitations, ne permettent
de trouver que des solutions faibles.
Typiquement si lon consid`ere lequation de Laplace (1.1), ou encore lexemple
du probl`eme de Dirichlet u = f dans un ouvert borne et regulier et u = 0
sur le bord , meme si f C

(), lapplication du lemme de Lax-Milgram` a ce


probl`eme ne donne quune solution u dans H
1
0
() : on dit quau lieu de chercher
une solution au sens classique, on cherche dabord une solution faible, alors que
11. Theor`emes de regularite 45
dautres techniques, plus nes ou plus laborieuses, permettent de montrer lexis-
tence dune solution u C

().
On voit donc quil est indispensable de boucler la boucle en se demandant dans
quelles circonstances la solution faible ainsi trouvee est solution classique. Na-
turellement cela nest pas toujours vrai, car il existe des probl`emes pour lesquels
il ny a pas de solution classique, mais qui poss`edent tout de meme une solu-
tion faible. A linverse, il existe aussi des equations qui admettent une solution
classique, mais qui ne peuvent pas etre traitees directement par une methode
variationnelle, en cherchant dabord une solution faible. Il faut donc disposer
en plus des methodes variationnelles, que nous etudierons plus loin, de resultats
permettant de prouver que les solutions variationnelles sont (du moins dans cer-
tains cas) solutions reguli`eres du probl`eme etudie. Par ailleurs il faut savoir quil
y a plusieurs notions de regularite, meme si elles se recouvrent en partie.
Il y a dune part la regularite au sens classique des espaces C
k
ou C
k,
pour 0 < < 1, et dautre part la regularite au sens des espaces de Sobolev
W
m,p
. Pour passer de cette derni`ere notion ` a la premi`ere, comme nous le ferons
un peu plus loin sur un exemple, on essaie de prouver que la solution u du
probl`eme est dans un espace W
m,p
() pour un couple de reels m, p tels que
mp > N, puis on utilise le fait que (pour un ouvert susamment regulier)
on a W
m,p
() C
0,
(), dapr`es le theor`eme dinclusion de Morrey-Sobolev
(proposition 8.10, (iii)).
En general les theor`emes de regularite sont prouves en distinguant la regu-
larite ` a linterieur de celle au bord de louvert. Pour la regularite ` a linterieur,
apr`es localisation (qui consiste essentiellement ` a considerer la fonction u o` u
est une fonction de troncature reguli`ere), on se ram`ene ` a un probl`eme dans R
N
et on se base sur un theor`eme disant que si Au = f ou Lu = f, si les coecients
a
ij
,
i
, b, c et la donnee f sont susamment reguliers sur R
N
, et si on sait que
u est dans un espace de fonctions de regularite minimale et bien adaptee au
probl`eme, alors u est plus reguli`ere que ce que lon savait.
Ensuite, pour montrer la regularite jusquau bord, on etablit le meme genre
de resultats en rempla cant R
N
par le demi-espace
R
N
+
:= R
N1
]0, [,
et on utilise des cartes locales pour transformer le probl`eme au voisinage du
bord en un probl`eme sur le demi-espace R
N
+
. Le theor`eme suivant peut etre
utilise comme point de depart (voir par exemple E. Stein [153, Chapter V, 3.3,
theorem 3]) :
11.1 Theor`eme. Soient 1 < p < et f L
p
(R
N
). Alors si u L
1
loc
(R
N
)
verie
u +u = f dans D

(R
N
),
alors pour une constante independante de f on a
u
W
2,p
(R
N
)
C f
L
p
(R
N
)
.
46 Chapitre 1. Quelques outils de base
Notons enn que les resultats de regularite, joints ` a des resultats dunicite,
permettent aussi de montrer lexistence de solutions pour un grand nombre de
probl`emes elliptiques du second ordre. Dans ce paragraphe, nous reunissons
quelques resultats concernant la regularite des solutions des equations aux
derivees partielles elliptiques du second ordre qui seront utiles par la suite. Nous
commen cons par enoncer le theor`eme de regularite de Schauder (voir par exemple
D. Gilbarg & N.S. Trudinger [74, theorem 6.6], E. Giusti [75], O.A. Ladyzenskaja
& N.N. Uralceva [92] ou A. Brandt [25]).
11.2 Theor`eme de Schauder. Loperateur Letant deni par la relation (10.2),
on suppose que les coecients a
ij
, b et c sont dans C
k,
() pour un ]0, 1[ et
un entier k 0, que c 0 et que la condition de coercivite (10.3) est satisfaite.
Alors si louvert est borne et de classe C
k+2,
et C
k+2,
() ainsi que
f C
k,
() sont donnees, il existe une unique fonction u C
k+2,
() telle que
_
Lu = f
u =
dans ,
sur ,
et de plus, pour une constante C dependant seulement de , , ainsi que des
normes des coecients a
ij
, b
i
, c dans C
k,
(), on a
u
C
k+1
()
C
_
f
C
k
()
+
C
k
()
_
,
D
2
u
C
k,
()
C
_
f
C
k,
()
+
C
k+2,
()
_
.
(On notera que ce theor`eme nest pas valable pour = 0 ni pour = 1 ; voir
Exercices).
Toujours pour des operateurs comme L donne par (10.2), mais operant dans
les espaces L
p
(), on a le resultat suivant (voir par exemple le livre de D. Gilbarg
& N.S. Trudinger [74, theorem 9.15 & lemma 9.17], ou O.A. Ladyzenskaja &
N.N. Uralceva [92]).
11.3 Theor`eme. Loperateur L etant donne par (10.2), on suppose que les
coecients a
ij
sont dans C(), b et c dans L

(), que c 0 et que la condition


de coercivite (10.3) est satisfaite. Alors si louvert est borne et de classe
C
1,1
et f L
p
() est donnee pour 1 < p < , il existe une unique fonction
u W
2,p
() W
1,p
0
() telle que
_
Lu = f
u = 0
dans ,
sur ,
et de plus, pour une constante C independante de f, u on a
u
W
2,p
()
C f
L
p
()
.
En particulier si p >
N
2
et C() il existe une unique solution u C()
W
2,p
loc
() du probl`eme de Dirichlet Lu = f dans et u = sur .
Considerons maintenant loperateur A deni en (10.1) ; en r`egle generale,
lorsque lon resout une equation du type Au = f dans et u = sur ,
11. Theor`emes de regularite 47
lequation Au = f est entendue au sens de D

() et la condition au bord est


interpretee au sens u H
1
0
(). De plus, contrairement ` a ce qui se passe
pour les operateurs comme L deni en (10.2), la condition c 0 ne sut pas
` a montrer lexistence dune solution. Cest pourquoi nous enon cons le theor`eme
qui suit sans aborder la question de lexistence de solution (voir D. Gilbarg &
N.S. Trudinger [74, theorems 8.12 & 8.13]).
11.4 Theor`eme. Soit A comme en (10.1), la condition de coercivite (10.3)
etant satisfaite. On suppose que, pour un entier k 0, est de classe C
k+2
,
que les coecients a
ij
,
j
sont dans C
k,1
(), b
i
, c sont dans L

() si k = 0 et
dans C
k1,1
() si k 1. Si f H
k
(), H
k+2
() et u H
1
() sont telles
que Au = f et u H
1
0
(), alors u H
k+2
(), et pour une constante C
dependant uniquement de , k, et des normes de a
ij
,
j
, b
i
, c on a :
u
H
k+2
()
C
_
u
L
2
()
+ f
H
k
()
+
H
k+2
()
_
.
De plus si est de classe C

et f, , a
ij
,
j
, b
i
, c sont dans C

(), alors u
C

().
11.5 Remarque. Comme nous lavons signale au debut de ce paragraphe, on
peut donner des versions locales des theor`emes de regularite que nous venons
de voir. Nous renvoyons aux ouvrages cites en reference pour ces aspects ; en
particulier pour des domaines polyg onaux (ou ayant des coins) il faut savoir
quen general les estimations interieures sont vraies mais que les solutions peu-
vent presenter des singularites au voisinage des coins. Pour une analyse de ces
questions voir P. Grisvard [76].
11.6 Exemple. Voici un exemple typique de lutilisation des theor`emes de
regularite que nous venons de voir. Supposons que est un ouvert de classe
C
2,
pour un ]0, 1[, et que u H
1
0
() verie lequation semilineaire :
u = a(x)|u|
q1
u
o` u a L

() et q 1 est un reel tel que (N 2)q N + 2.


Si N = 1, comme H
1
0
() C
0,1/2
(), on conclut que u L

(), et par
consequent u W
2,
() et en particulier u C
1,1
() ; si a C() on deduit
que u est de classe C
2
.
Si N = 2, alors, dapr`es les injections de Sobolev, pour tout p < on a
u L
p
() et a()|u|
q1
u L
p
(). Dans ce cas le theor`eme 11.3 implique que
u W
2,p
() pour tout p < , et dapr`es linegalite de Morrey-Sobolev on
conclut que u C
1,1
(). De plus si a C
0,
() pour un ]0, 1[, le theor`e-
me 11.2 permet de conclure que u C
2,
().
Si N 3, alors H
1
0
() L
2

() avec 2

= 2N/(N 2). Par consequent


en posant p
0
:= 2

/q et f := a()|u|
q1
u, on a f L
p0
() et le theor`eme 11.3
permet de conclure que u W
2,p0
() (on remarquera que p
0
> 1). Si 2p
0
> N,
alors dapr`es linegalite de Morrey-Sobolev u C
0,
() avec := 1
N
2p0
.
48 Chapitre 1. Quelques outils de base
Si 2p
0
= N, alors pour tout p < on a u L
p
() et dapr`es le theor`e-
me 11.3, comme u L
p
() on a u W
2,p
() pour tout p ni, donc u C
0,
pour tout < 1. Finalement si 2p
0
N, on sait que u est h olderienne et de
nouveau en utilisant le fait que u satisfait lequation, on conclut que u W
2,p
()
pour tout p et quen particulier u C
1,1
.
Si 2p
0
< N, sachant que dapr`es les inegalites de Sobolev on a u L
r1
()
avec r
1
> 2

donne par
1
r
1
=
1
p
0

2
N
,
on peut armer que u = f = a|u|
q1
u L
p1
() avec p
1
:= r
1
/q > p
0
et
par consequent u W
2,p1
(). Ainsi en repetant cette procedure un nombre ni
de fois (par exemple k fois), on construit une suite p
0
< p
1
< < p
k
telle que
u L
p
k
() avec 2p
k
> N et on arrive ` a voir que u W
2,p
k
() ; nalement,
comme ci-dessus, on conclut que u W
2,p
() pour tout p ni et u C
1,1
.
De plus si a C
0,
(), le theor`eme 11.2 permet de conclure que u C
2,
().
Ce procede, appele argument de bootstrap
1
, est constamment utilise pour passer
dune solution faible (obtenue par exemple par une methode variationnelle) ` a
une solution classique.
Un autre resultat tr`es utile pour etablir la regularite des solutions est le
lemme suivant d u ` a H. Brezis & T. Kato [32] (voir aussi Exercices).
11.7 Theor`eme (Brezis-Kato). Soient un ouvert de R
N
, avec N 3 et
V L
1
loc
(). On suppose que V
+
L
N
2
() +L

(). Il existe alors


1
R, tel
que si >
1
et g L
2
() L

(), lequation
u H
1
0
(), u +u = V u +g dans D

(),
admet une solution unique telle que V

u L
1
loc
(). De plus si g 0 on a u 0,
et u L
p
() pour 2 p < .
En particulier si u H
1
0
() verie V

u L
1
loc
() et u = V u dans D

(),
alors pour tout p < et p 2, on a u L
p
().
12. Valeurs propres
Si E est un espace de Banach complexe et (A, D(A)) est un operateur lineaire de
E dans lui-meme, on appelle ensemble resolvant de A et on note (A), lensemble
des C tels que limage de loperateur (I A, D(A)) est dense dans E et de
plus loperateur (I A)
1
peut etre prolonge (par densite) en un operateur con-
tinu de E dans lui-meme. On notera quen particulier si (A, D(A)) est ferme, et
(A), alors (I A)
1
est un operateur lineaire continu de E dans lui-meme
dont limage est precisement D(A). Si (A), loperateur (IA)
1
est appele
1
Bootstrap en anglais designe une lani`ere ou languette de cuir sur une botte permettant
de tirer dessus pour la chausser ; bootstrapping veut dire, famili`erement, reussir une
action sans laide dautrui.
12. Valeurs propres 49
la resolvante de A (pour toutes ces questions voir par exemple K. Yosida [165,
chapter VIII]). Le complementaire de lensemble resolvant, (A) := C \ (A)
est appele le spectre de A (parfois note Sp(A)). Si (A) est tel quil existe
u D(A), u = 0 veriant Au = u, on dit que est une valeur propre de A ;
lensemble des valeurs propres est appele le spectre ponctuel de A. Rappelons
aussi que r(A) := sup{|| ; (A)} est le rayon spectral de A, et que dans le
cas particulier o` u A est un operateur continu, (A) est un ouvert non borne et
on a :
r(A) = lim
n
A
n

1/n
.
La resolvante de A est souvent notee
R() := R(, A) := (I A)
1
,
et R() est une fonction holomorphe denie sur (A) ` a valeurs dans L(E),
i.e. lensemble des operateurs lineaires continus de E dans lui-meme. On peut
verier facilement que si , (A), on a lidentite :
(12.1) R() R() = ( )R()R().
En utilisant cette relation on montre le resultat suivant (voir Exercices) :
12.1 Lemme. Soient E un espace de Banach complexe et A L(E). Si (
n
)
n
est une suite de (A) convergeant vers C, alors
(A) lim
n
R(
n
) = +.
Notons enn que si || > r(A), alors R() =

n=0

(n+1)
A
n
, et que si
0
C
est un p ole dordre m 1 de R(), alors
0
est une valeur propre de A.
12.2 Remarque. Lorsque lespace de Banach E est reel, pour etudier le spectre
dun operateur A agissant dans E, comme on le fait lors de letude du spectre
dune matrice carree reelle, il est plus commode de considerer le complexie
de E, i.e. lespace

E := E iE, et loperateur

A deni de fa con naturelle par

A(u + iv) := Au + iAv agissant sur



E. Nous procederons toujours de cette
mani`ere pour etudier le spectre dun operateur reel agissant sur un espace de
Banach reel.
Letude du spectre est particuli`erement simpliee lorsque loperateur est com-
pact, ou bien lorsquil est ` a resolvante compacte, i.e. pour un
0
(A), la
resolvante R(
0
) est compacte (voir Exercices). Rappelons que si E est un espace
de Banach complexe de dimension innie et T est un operateur lineaire de E dans
E, on dit que T est compact si limage de la boule unite B(0, 1) E par T est
relativement compacte dans E. En eet dans ce cas le theor`eme (ou lalternative)
de Fredholm implique que si T est un operateur compact, alors 0 (T), tous les
elements non nuls de (T) sont des valeurs propres de T, et chaque valeur pro-
pre a un sous-espace propre de dimension nie ; plus precisement (T) \ {0} est
soit vide, soit un ensemble ni, soit une suite innie delements
n
convergeant
50 Chapitre 1. Quelques outils de base
vers zero (voir par exemple H. Brezis [28, theor`eme VI.8], K. Yosida [165, chap-
ter VIII] ou F. Riesz & B. Sz.-Nagy [142, chapitre VI]).
En ce qui concerne les operateurs elliptiques du second ordre que nous avons
consideres plus haut en (10.1) et (10.2), bien que ces operateurs soient non
bornes, dans un grand nombre de cas on peut etudier leur spectre en se ramenant
` a letude du spectre dun operateur compact.
Par exemple considerons loperateur A donne par (10.1), o` u on suppose que
les coecients a
ij
,
i
, b
i
, c sont dans L

() et que pour un > 0 on a, pour


tout R
N
et p.p. sur ,

i,j
a
ij
(x)
i

j
||
2
. En supposant que est
borne et que le domaine de A est donne par
D(A) :=
_
u H
1
0
() ; Au L
2
()
_
,
on peut voir facilement quil existe
0
R tel que pour tout
0
et tout
u H
1
0
() on ait Au +u, u

2
u
2
(cest un cas particulier de linegalite
de Garding ; voir par exemple K. Yosida [165, VI.8] et aussi Exercices). On en
deduit tout de suite que (A +
0
I)
1
est un operateur continu de L
2
() dans
lui-meme et que son image est precisement D(A). Comme dapr`es le theor`eme
de Rellich-Kondrachov 8.16 linjection de H
1
0
() dans L
2
() est compacte, on
conclut que (A +
0
I)
1
est compact de L
2
() dans lui-meme : on voit que A
est ` a resolvante compacte. Par consequent, puisque zero nest pas valeur propre
de (A +
0
I)
1
, il existe une suite (
n
)
n1
delements non nuls de C telle que

n
0, chaque
n
etant une valeur propre de multiplicite nie, et le spectre
de (A+
0
I)
1
est donne par {0} {
n
; n 1}. Finalement on conclut que le
spectre de A est donne par
(A) = {
n
; n 1} , avec
n
:=
1

0
.
On remarquera que |
n
| + ; en fait on peut donner une estimation sur la
fa con dont |
n
| tend vers linni (voir chapitre 5).
On peut montrer, en procedant de mani`ere analogue mais en utilisant le
theor`eme de Schauder 11.2, que loperateur L donne par (10.2) agissant dans
lespace C
0,
(), avec le domaine
D(L) :=
_
u C
2,
() ; u = 0 sur
_
,
poss`ede un spectre discret : (L) := {
n
; n 1} et |
n
| + lorsque n
(voir Exercices).
Dans le cas des operateurs elliptiques que nous considerons ici, la premi`ere
valeur propre joue un r ole particulier. En eet sous les hypoth`eses habituelles
que nous avons faites jusquici, on peut montrer que si de plus louvert est
connexe, alors la premi`ere valeur propre est simple et poss`ede une fonction propre
positive. Ce resultat est base sur le theor`eme de Krein-Rutman que nous allons
enoncer dans un instant dans le cadre particulier des espaces C() et L
p
() (voir
M.G. Krein & M.A. Rutman [89], et pour le cas general voir H.H. Schaefer [147,
Appendix, 2] ou E. Zeidler [166, 7.8]) ; pour faciliter la t ache du lecteur, dans
12. Valeurs propres 51
ce qui suit nous donnons, en le resumant, lexpose que donne H.H. Schaefer.
Dans la suite de ce paragraphe nous supposons que
(12.2)
_
_
_
est un ouvert borne connexe,
E = C() et de classe C
2
,
ou bien E = L
p
(), et 1 < p < .
La norme de E sera designee par (noter quici E est un espace de Banach
reel ; cf. remarque 12.2). Rappelons que si B L(E) est un operateur lineaire
et continu de E dans lui-meme, on dit que B est positif si pour toute fonction
f E telle que f 0, on a Bf 0 ; dans ce cas on ecrit B 0. Comme tout
element f E peut secrire f = f
+
f

et que f = |f| , on peut verier


facilement que si B L(E) est positif, alors on a :
B = sup
fE
f=1
Bf = sup
fE, f0
f=1
Bf.
On en conclut en particulier que le c one des operateurs positifs dans L(E) est
normal cest ` a dire que si B
1
, B
2
L(E) sont deux operateurs positifs alors
B
1
B
1
+B
2
. Rappelons enn que si X est un espace de Banach complexe
et z f(z) est une fonction holomorphe (sur un ouvert du plan complexe C)
` a valeurs dans X, un point z
0
est un point regulier de f sil existe un disque
D(z
0
, R) et une fonction

f holomorphe sur D(z
0
, R) telle que f =

f sur .
Un point qui nest pas regulier est dit un point singulier. On peut alors montrer
facilement le lemme suivant (voir H.H. Schaefer [147, Appendix, Theorem 2.1]
et Exercices).
12.3 Lemme. Soient B
n
L(E) une famille doperateurs positifs telle que la
serie enti`ere f(z) =

n=0
B
n
z
n
ait un rayon de convergence r
0
> 0 dans L(E).
Alors r
0
est un point singulier de f ; de plus si ce point singulier est un p ole, il
est dordre maximal sur le cercle {z C ; |z| = r
0
}.
Si B L(E) est un operateur positif, avec r(B) > 0, en appliquant ce lemme ` a
la fonction
f(z) := R(r(B)/z, B) =

n=0
_
z
r(B)
_
n+1
B
n
,
(denie sur le disque |z| < 1) on conclut que r(B) est un point singulier de la
resolvante R(, B), et que par consequent r(B) (B). (On notera que
si r(B) = 0, alors (B) = {0} ; on dit que B est topologiquement nilpotent).
De plus si on suppose que B est positif et compact, avec r(B) > 0, le rayon
spectral r(B) est necessairement une valeur propre de B : cest le theor`eme de
Krein-Rutman que nous enon cons maintenant.
12.4 Theor`eme de Krein-Rutman. Soient E lun des espaces de Banach
donnes dans (12.2) et B un operateur compact et positif de E dans lui-meme de
rayon spectral r(B) > 0. Alors r(B) est un p ole de la resolvante R(, B) (donc
valeur propre de B), dordre maximal sur le cercle
52 Chapitre 1. Quelques outils de base
{z C; |z| = r(B)} ,
et il existe u E \ {0} avec u 0 telle que Bu = r(B)u. De plus le meme
resultat est vrai dans E

pour ladjoint B

, i.e. r(B) est valeur propre de B

et
il existe v E

\ {0} avec v 0 tel que B

v = r(B)v.
Pour illustrer lutilisation du theor`eme de Krein-Rutman dans le cas des
operateurs elliptiques, considerons par exemple loperateur L donne par (10.2),
en supposant que les coecients a
ij
, b
i
, c sont dans C() et que c 0 (on suppose
ici que est connexe, borne et regulier) et que p N. Comme les hypoth`eses du
theor`eme 11.3 sont satisfaites, dapr`es ce dernier theor`eme pour tout f L
p
()
il existe un unique u W
2,p
() W
1,p
0
() telle que Lu = f. De plus le principe
du maximum dAleksandrov 10.5 implique que si f 0 alors u 0 : autrement
dit loperateur B := L
1
deni par Bf := u est un operateur positif et compact
de L
p
() dans lui-meme puisque son image est contenue dans W
1,p
0
() (dont
linjection en particulier dans L
p
() est compacte dapr`es le theor`eme 8.16). Par
consequent dapr`es le theor`eme de Krein-Rutman 12.4, le rayon spectral r(B) est
valeur propre de B pour une fonction propre 0. En posant
1
:= 1/r(B), on
voit que est fonction propre de L et satisfait L =
1
. En fait cette relation,
en utilisant le theor`eme 11.3 et les injections de Morrey-Sobolev, implique que
si les coecients sont de classe C

, alors C

(). Pour montrer ce resultat


dans le cas N 3, on peut se baser sur le lemme de Brezis-Kato 11.7 (on notera
que pour N 2, on a H
1
0
() L
p
() pour 2 p < ).
De meme en utilisant le principe du maximum de Hopf 10.4, on deduit que
> 0 et on peut egalement montrer que
1
, qui est la plus petite valeur propre
de L, est simple (voir Exercices).
La caracterisation suivante de la premi`ere valeur propre dun operateur
comme L donne par (10.2) est interessante, car dans ce cas il ny a pas de car-
acterisation variationnelle des valeurs propres (voir par exemple M.H. Protter
& H.F. Weinberger [133, Chapter 2, 8], et Exercices).
12.5 Theor`eme. Soient un ouvert borne connexe de R
N
, et L un operateur
du second ordre comme dans (10.2). On suppose que les coecients a
ij
, b
i
et c
sont dans C(). Soit 0, une fonction de C
2
() C() qui verie = 0 sur
et Lu = . Alors pour toute fonction v C
2
() C() telle que v(x) > 0
dans on a :
inf
x
Lv(x)
v(x)
.
En particulier si =
1
, la premi`ere valeur propre de L, alors

1
= sup
_
R ; v C
2
() C(), v > 0 dans , Lv v
_
.
13. Derivees et points critiques
Il existe plusieurs notions de derivees pour des fonctions denies sur des espaces
de Banach. Nous commen cons par celle de la derivee directionnelle.
13. Derivees et points critiques 53
13.1 Denition. Soient une partie dun espace de Banach X et F : R
une fonction ` a valeurs reelles. Si u et z X sont tels que pour t > 0 assez
petit on a u + tz , on dit que F admet (au point u) une derivee dans la
direction z si la limite
lim
t0
+
F(u +tz) F(u)
t
existe. On notera cette limite F

z
(u).
On notera quune fonction F peut avoir une derivee directionnelle dans toute
direction z X, sans pour autant etre continue. Lorsque la derivee directionnelle
de F existe pour certains z X on introduit la notion de derivee au sens de
G ateaux.
13.2 Denition. Soient une partie dun espace de Banach X et F : R.
Si u , on dit que F est derivable au sens de G ateaux (ou G-derivable ou
encore G-dierentiable) en u, sil existe X

tel que dans chaque direction


z X o` u F(u +tz) existe pour t > 0 assez petit, la derivee directionnelle F

z
(u)
existe et on a :
lim
t0
+
F(u +tz) F(u)
t
= , z.
On posera F

(u) := .
On remarquera de nouveau quune fonction G-derivable nest pas necessaire-
ment continue. On introduit enn la derivee classique (ou la derivee au sens de
Frechet). (On utilise la notation de Landau o(x) pour designer une fonction de
x telle que lim
x0
o(x)/x = 0).
13.3 Denition. Soient X un espace de Banach, un ouvert de X et F : R
une fonction. Si u , on dit que F est dierentiable (ou derivable) en u (au
sens de Frechet) sil existe X

, tel que :
v F(v) F(u) = , v u +o(v u).
Si F est dierentiable, est unique et on note F

(u) := . Lensemble des fonc-


tions dierentiables de R sera note C
1
(, R).
On notera que si F est dierentiable au sens de Frechet, alors F est continue.
En general il est plus commode de travailler avec la notion de G-derivee, car on
na qu` a considerer lapplication t F(u+tw) (pour w xe dans X) denie dans
un intervalle [0, [. Cest pour ne pas alourdir ce qui suit que lon nintroduira pas
des notations dierentes pour distinguer la G-derivee et la derivee de Frechet.
Sil y a risque de confusion, on precisera dans quel sens la notation F

(u) doit
etre comprise. Une autre raison de ne pas introduire des notations dierentes,
cest quil y a de fa con naturelle un lien entre ces deux notions de derivee. En
eet on a le resultat suivant :
54 Chapitre 1. Quelques outils de base
13.4 Proposition. Soit F une fonction continue de dans R et G-derivable
dans un voisinage de u . On designe par F

(v) la G-derivee de F en v et on
suppose que lapplication v F

(v) est continue au voisinage de u. Alors


F(v) = F(u) +F

(u), v u +o(v u),


cest ` a dire que F est dierentiable au sens de Frechet et sa derivee (classique)
concide avec F

(u).
Demonstration. En considerant, pour u xe et v assez voisin de u,
lapplication t F(u +t(v u)) denie sur lintervalle [0, 1], on peut ecrire :
F(v) = F(u) +F

(u), v u +h(u, v u),


o` u, par commodite, on a pose :
h(u, v u) :=
_
1
0
F

(u +t(v u)) F

(u), v udt.
Il sagit donc de voir que h(u, vu) est un o(vu). Or w F

(w) etant continue


au voisinage de u, pour tout > 0 donne, il existe > 0 tel que :
w u < =F

(w) F

(u) < .
Par consequent si v u < , on a pour tout t [0, 1],
|F

(u +t(v u)) F

(u), v u| F

(u +t(v u)) F

(u)
v u
v u,
ce qui, en integrant sur [0, 1], donne |h(u, vu)| vu, pourvu que vu <
.
Voici enn les notions de point critique et de valeur critique qui nous occu-
peront dans la suite de ce cours :
13.5 Denition. Soient X un espace de Banach, X un ouvert et J
C
1
(, R). On dit que u est un point critique de J, si J

(u) = 0. Si u nest
pas un point critique, on dit que u est un point regulier de J.
Si c R, on dit que c est une valeur critique de J, sil existe u tel que
J(u) = c et J

(u) = 0. Si c nest pas une valeur critique, on dit que c est une
valeur reguli`ere de F.
Souvent, lorsque X est un espace fonctionnel et lequation J

(u) = 0 corre-
spond ` a une equation aux derivees partielles, on dit que J

(u) = 0 est lequation


dEuler satisfaite par le point critique u.
Lexemple le plus simple de point critique dune fonction J C
1
(, R) est un
point extremal , cest ` a dire un point o` u F atteint un minimum ou un maximum,
local ou global. Une classe importante de fonctions atteignant leur minimum
est constituee par (certaines) fonctions convexes que nous etudierons un peu
plus loin, apr`es avoir vu ce que signient une valeur critique ou un point cri-
tique pour une fonctionnelle denie sur une variete, en introduisant la notion de
multiplicateurs de Lagrange.
14. Multiplicateurs de Lagrange 55
14. Multiplicateurs de Lagrange
Tr`es souvent, trouver la solution dune equation aux derivees partielles revient ` a
minimiser une fonctionnelle sur un ensemble de contraintes ou sur une variete.
Cest pourquoi on doit preciser le sens quon donne ` a un point critique ou ` a une
valeur critique sur un ensemble de contraintes.
14.1 Denition. Soient X un espace de Banach, F C
1
(X, R) et un ensemble
de contraintes :
S := {v X; F(v) = 0} .
On suppose que pour tout u S, on a F

(u) = 0. Si J C
1
(X, R) (ou bien
de classe C
1
sur un voisinage de S ou encore C
1
sur S) on dit que c R est
valeur critique de J sur S sil existe u S, et R tels que J(u) = c
et J

(u) = F

(u). Le point u est un point critique de J sur S et le reel


est appele multiplicateur de Lagrange pour la valeur critique c (ou le point
critique u).
Lorsque X est un espace fonctionnel et lequation J

(u) = F

(u) correspond
` a une equation aux derivees partielles, on dit que J

(u) = F

(u) est lequation


dEuler-Lagrange (ou lequation dEuler) satisfaite par le point critique u sur la
contrainte S.
Cette denition est justiee par le resultat suivant qui etablit lexistence de
multiplicateurs de Lagrange. Rappelons auparavant le theor`eme des fonctions
implicites (voir par exemple J. Dieudonne [57, theor`eme 10.2.1]) :
14.2 Theor`eme. Soient X, Y, Z trois espaces de Banach, un ouvert de XY
et f C
1
(, Z). On suppose que (x
0
, y
0
) est tel que f(x
0
, y
0
) = 0 et
que
y
f(x
0
, y
0
) est un homeomorphisme (lineaire) de Y sur Z. Il existe alors
X voisinage connexe de x
0
et une unique application C
1
(, Y ) telle
que (x
0
) = y
0
et pour tout x on ait f(x, (x)) = 0. De plus si x et
f(x, y

) = 0 alors y

= (x). La derivee

est donnee par :

(x) = (
y
f(x, (x)))
1
(
x
f(x, (x))) .
14.3 Proposition. Sous les hypoth`eses et notations de la denition 14.1, on
suppose que u
0
S est tel que J(u
0
) = inf
vS
J(v). Alors il existe R tel
que :
J

(u
0
) = F

(u
0
).
Demonstration. Comme F

(u
0
) = 0, il existe w X tel que
F

(u
0
), w = 1.
Si X
0
:= kerF

(u
0
), on a X = X
0
Rw. Soit alors la fonction de X
0
R dans
R, denie par :
(v, t) := F(u
0
+v +tw).
On a (0, 0) = 0 et
56 Chapitre 1. Quelques outils de base

t
(0, 0) = F

(u
0
), w = 1,
v
(0, 0) = F

(u
0
)
|X
0
= 0.
Le theor`eme des fonctions implicites 14.2 applique ` a et au point (0, 0) de
X
0
R, permet de voir que dans un voisinage de 0 X
0
, il existe T : R
telle que (v, T(v)) = 0 pour tout v et on a : T(0) = 0, T

(0) = 0. Donc il
existe un voisinage X de u
0
, tel que
u et F(u) = 0 u = u
0
+v +T(v)w avec v .
Si

J : R, est denie par

J(v) = J(u
0
+v + T(v)w), on voit que

J atteint
son minimum en 0 . Par consequent

(0), v = 0 pour tout v X


0
. Or
dapr`es la denition de

J et la propriete de T, on sait que si v X
0
on a

(0), v = J

(u
0
), v. On en conclut que J

(u
0
), v = 0 pour tout v X
0
et
que kerJ

(u
0
) kerF

(u
0
) : par consequent il existe R tel que J

(u
0
) =
F

(u
0
).
14.4 Remarque. En fait, comme on peut le voir au cours de la demonstration,
il sut que u
0
soit un extremum local pour que le resultat soit encore vrai.
Pour montrer lexistence de multiplicateurs de Lagrange dans le cas o` u
lensemble S est deni par un nombre ni de contraintes, on aura besoin du
lemme algebrique suivant (voir Exercices pour la demonstration).
14.5 Lemme. Soient X un espace vectoriel et des formes lineaires f
0
, f
1
, . . . , f
m
sur X. On suppose que :

1jm
ker(f
j
) ker(f
0
).
Alors il existe des reels (
j
)
1jm
tels que : f
0
=

m
j=1

j
f
j
.
En utilisant ce lemme et en procedant comme dans la demonstration ci-
dessus, on peut montrer la generalisation suivante de lexistence dun multipli-
cateur de Lagrange.
14.6 Lemme. Soient F
1
, . . . , F
m
C
1
(X, R) et :
S := {u X; 1 j m F
j
(u) = 0} .
Soit J une fonction de classe C
1
dans un voisinage de S ` a valeurs dans R. On
suppose que u
0
S est tel que J(u
0
) = min
vS
J(v) et que les formes lineaires
F

1
(u
0
), F

2
(u
0
), . . . , F

m
(u
0
) sont lineairement independantes. Alors il existe des
reels
1
, . . . ,
m
tels que
J

(u
0
) =
m

j=1

j
F

j
(u
0
).
14.7 Remarque. Sous les hypoth`eses de la proposition 14.3, supposons que S
soit deni par une contrainte dinegalite :
14. Multiplicateurs de Lagrange 57
S := {v X ; F(v) 0} .
Si u
0
S est un point critique de J sur S (par exemple un point de minimum
de J sur S) et si on a F(u
0
) > 0, on dit que la contrainte F nest pas saturee.
Dans ce cas on peut montrer que le multiplicateur de Lagrange est nul.
14.8 Exemple. Soient H un espace de Hilbert et B = B

un operateur auto-
adjoint compact sur H tel que (Bv
0
|v
0
) > 0 pour un v
0
H. Soient F(u) :=
(u|u)1 et J(u) := (Bu|u). Alors S := {u ; F(u) = 0} est precisement la sph`ere
unite de H, et on peut montrer quil existe u
0
S tel que
J(u
0
) =
1
:= max
vS
J(v).
En eet, si (u
n
)
n
est une suite de S telle que J(u
n
)
1
, on peut supposer
(en extrayant au besoin une sous-suite notee encore (u
n
)
n
) que u
n
u
0
dans
H-faible et B etant compact on a Bu
n
Bu
0
dans H. Par consequent J(u
n
)
J(u
0
), ce qui signie que J(u
0
) =
1
> 0 et que u
0
= 0. Par ailleurs dapr`es
(2.1), si := u
0
, on a 0 < liminf
n
u
n
= 1. On ne peut pas avoir
< 1, car sinon en posant u := u
0
/, on aurait u S et J( u) =
2

1
>
1
,
contrairement ` a la denition de
1
. On en conclut que u
0
S et que
1
est
atteint par u
0
.
Par consequent, dapr`es la proposition 14.3, il existe R tel que J

(u
0
) =
2u
0
ou encore Bu
0
= u
0
et u
0
= 1. En multipliant (au sens du produit
scalaire de H) cette derni`ere egalite par u
0
on en deduit :

1
:= (Bu
0
|u
0
) = (u
0
|u
0
) =
ce qui signie que =
1
est une valeur propre de B (dailleurs cest la plus
grande). En fait, comme on le verra au chapitre 4, on peut montrer que toutes
les valeurs propres de B peuvent etre obtenues comme valeurs critiques de J sur
S, par un procede de minmax.
14.9 Exemple. Soient un ouvert borne regulier de R
N
et p > 1 tel que
(N 2)p < N + 2. On consid`ere, sur lespace H
1
0
() :
S :=
_
v H
1
0
() ; F(v) = 0
_
, avec F(v) :=
_

|v(x)|
p+1
dx 1 ,
J(v) :=
_

|v(x)|
2
dx.
Montrons dabord quil existe u
0
S tel que
J(u
0
) = := min
vS
J(v).
En eet en considerant une suite minimisante (v
n
)
n
, dapr`es linegalite de Poin-
care 8.18 on sait que cette suite est bornee dans H
1
0
() et on peut supposer que
v
n
v
0
dans H
1
0
()-faible. On a donc dapr`es (2.1)
58 Chapitre 1. Quelques outils de base
(14.1) J(v
0
) liminf
n
J(v
n
) = .
Par ailleurs, puisque (N 2)(p + 1) < 2N, dapr`es le theor`eme de Rellich-
Kondrachov 8.16, linjection de H
1
0
() dans L
p+1
() est compacte et on en
deduit que v
n
v
0
dans L
p+1
(). En particulier F(v
0
) = 0, v
0
S et par
denition de on a J(v
0
) : ce qui joint ` a (14.1) montre que est atteint
sur S.
Alors dapr`es la proposition 14.3 on sait quil existe R tel que J

(v
0
) =
(p + 1)|v
0
|
p1
v
0
, ou encore :
2v
0
= (p + 1)|v
0
|
p1
v
0
.
En multipliant par v
0
, en integrant et en eectuant une integration par parties
sur le terme de gauche, on obtient :
2J(v
0
) = (p + 1) = 2.
On en tire =
2
p+1
, cest ` a dire v
0
= |v
0
|
p1
v
0
au sens de D

(). Comme
> 0, en posant u :=
1
p1
v
0
on obtient une solution non nulle de lequation :
_
u = |u|
p1
u
u = 0
dans ,
sur .
Dailleurs, on peut montrer que lon peut choisir la suite minimisante (v
n
)
n
telle
que v
n
0 et on obtient ainsi une solution u 0 et de classe C

dans (voir
Exercices).
On notera que la premi`ere partie de largument ci-dessus fonctionne lorsque
p = 1, mais dans ce cas on obtient =
1
la premi`ere valeur propre et
1
= v
0
une premi`ere fonction propre du laplacien avec condition de Dirichlet sur .
15. Fonctions convexes
On rappelle ci-dessous quelques proprietes bien connues des ensembles et des
fonctions convexes.
15.1 Denition. Soit X un espace vectoriel. On dit quune partie K de X est
convexe si :
x, y K, [0, 1], x + (1 )y K.
Lorsque K est convexe et J : K R est une fonction, on dit que J est convexe
si :
x, y K, [0, 1], J(x + (1 )y) J(x) + (1 )J(y).
On dit que J est strictement convexe si pour tous x, y K avec x = y et ]0, 1[
on a :
J(x + (1 )y) < J(x) + (1 )J(y).
En utilisant le theor`eme de Hahn-Banach (cf. par exemple H. Brezis [28, theo-
r`eme III.7]) on montre le resultat suivant :
15. Fonctions convexes 59
15.2 Proposition. Soient X un espace de Banach et K X un convexe. Alors
K est ferme si, et seulement si, K est faiblement ferme.
Pour R, on note :
(15.1) [J ] := {x K ; J(x) } .
On dit que J est semi-continue inferieurement (en abrege s.c.i.) lorsque pour
tout R, les ensembles [J ] sont fermes dans X. Il est facile de verier
que si J est convexe, alors pour tout R les ensembles [J ] sont convexes,
mais la reciproque est fausse.
Rappelons quune fonction : [0, 1] R est convexe si pour 0 <
1
<
2
< 1
on a :
(
1
) (0)

(
2
) (0)

2
.
Noter aussi que si J est convexe, alors la fonction
J((1 )x +y)
denie sur [0, 1] (pour x, y K xes), est convexe. On en deduit que pour
0 <
1
<
2
on a
(15.2)
J(x +
1
(y x)) J(x)

J(x +
2
(y x)) J(x)

2
.
On peut egalement montrer quune fonction convexe semi-continue inferieure-
ment denie sur un ensemble convexe dinterieur non vide est continue, et meme
localemment lipschitzienne. Pour toutes ces proprietes voir Exercices. La car-
acterisation suivante de certaines fonctions convexes est utile.
15.3 Lemme. Soient K un convexe et J : K R une fonction G-derivable.
Alors les proprietes suivantes sont equivalentes :
(i) J est convexe.
(ii) Pour tous x, y K on a J(y) J(x) +J

(x), y x.
(iii) J

est monotone cest ` a dire que :


x, y K, J

(y) J

(x), y x 0.
Demonstration. (i) =(ii) : En eet si ]0, 1[, alors linegalite de convexite
secrit
J(x +(y x)) J(x) (J(y) J(x))
do` u lon deduit (ii) en divisant par et en le faisant tendre vers 0.
(ii) = (iii) : En echangeant le r ole de x et de y dans (ii) on a :
J

(x), y x J(y) J(x)


J

(y), x y J(x) J(y)


ce qui, en additionnant, donne (iii).
(iii) = (i) : Pour [0, 1], soit () := J(x +(y x)). Comme
60 Chapitre 1. Quelques outils de base

() = J

(x +(y x)), y x,
la propriete (iii) exprime le fait que

est croissante : en particulier

(s)

(s) pour 0 , s 1. Par consequent on a


() (0) =
_

0

()d =
_
1
0

(s) ds ((1) (0)),


ce qui signie que J est convexe.
Pour les fonctions strictement convexes on a la caracterisation suivante (voir
Exercices).
15.4 Lemme. Soient K un convexe et J : K R une fonction G-derivable.
Alors les proprietes suivantes sont equivalentes :
(i) J est strictement convexe.
(ii) Pour tous x, y K, avec x = y, on a J(y) > J(x) +J

(x), y x.
(iii) J

est strictement monotone i.e.


x, y K, x = y J

(y) J

(x), y x > 0.
16. Quelques operateurs continus
Dans letude de nombreuses equations aux derivees partielles nous aurons ` a
considerer des operateurs locaux denis par des fonctions de R dans R.
Soit un ouvert de R
N
. Nous dirons quune fonction (x, s) f(x, s), denie
sur R ` a valeurs dans R, est mesurable en x, continue en s si la condition
suivante est satisfaite :
(16.1)
_
s R, la fonction f(, s) est mesurable sur ;
p.p. en x la fonction f(x, ) est continue sur R.
On dit parfois que f est une fonction de Caratheodory. On a le resultat suivant :
16.1 Lemme. Soient un ouvert de R
N
, 1 p, q < des reels et f une
fonction de R dans R veriant (16.1). On suppose quil existe b 0 et
a L
q
() tels que la condition de croissance :
(16.2) pour tout s R et p.p. sur , |f(, s)| a() +b|s|
p/q
est satisfaite. Pour toute fonction u mesurable de dans R, on denit un
operateur B en posant (Bu)(x) := f(x, u(x)). Alors B est continue de L
p
()
dans L
q
().
Demonstration. Soit (u
n
)
n
une suite de L
p
() convergeant vers u. Dapr`es
la reciproque partielle du theor`eme de la convergence dominee de Lebesgue (cf.
proposition 4.11) il existe g L
p
() et une sous-suite (u
ni
)
i
telles que
u
ni
u, |u
ni
| g p.p. dans .
16. Quelques operateurs continus 61
On en deduit que p.p. sur on a f(x, u
ni
(x)) f(x, u(x)) et
|f(x, u
ni
(x))| a(x) +b|g(x)|
p/q
.
En utilisant le theor`eme de la convergence dominee on conclut que Bu
ni
Bu
dans L
q
(). Ainsi la suite (Bu
n
)
n
est relativement compacte dans L
q
() et
admet comme unique point limite Bu : par consequent toute la suite (Bu
n
)
n
converge vers Bu dans L
q
(), ce qui prouve que B est continu de L
p
() dans
L
q
().
On remarquera que la condition (16.2) est tout simplement lexpression du
fait que si u L
p
() alors Bu (qui est denie presque partout sur ) est dans
L
q
(). Le lemme precedent montre que si loperateur B est deni partout sur
L
p
(), il y est continu. En realite on peut montrer la reciproque du lemme
16.1 : si B envoie L
p
() dans L
q
(), alors la condition de croissance (16.2) est
satisfaite (et en particulier B est continu). Ici nous nous bornerons ` a demontrer
cette reciproque dans le cas plus simple o` u la fonction f ne depend pas de x, i.e.
f(, s) f(s) pour tout s R (pour le cas general voir Krasnoselskii [90, pages
2032]).
16.2 Lemme. Soient un ouvert de R
N
, 1 p, q < et f : R R une
fonction continue. Pour toute fonction u denie p.p. sur on denit (Bu)(x) :=
f(u(x)). On suppose que si u L
p
(), on a Bu L
q
(). Il existe alors a
0, b 0 tels que
(16.3) s R, |f(s)| a +b|s|
p/q
.
En particulier B est continu de L
p
() dans L
q
().
Demonstration. En rempla cant f(s) par f(s) f(0) on peut se ramener au
cas o` u f(0) = 0, ce que nous allons faire pour la suite (remarquer que si nest
pas de mesure nie on doit necessairement avoir f(0) = 0). Si la condition de
croissance (16.3) nest pas satisfaite, alors pour tout n 1 il existe s
n
R tel
que |s
n
| 1 et :
|f(s
n
)| n
1/q
(1 + |s
n
|
p/q
).
Il est clair que lon peut supposer que la suite |s
n
| est croissante et que |s
n
| .
Par consequent on peut choisir une partie mesurable
0
de mesure nie et
des ensembles mesurables A
n

0
deux ` a deux disjoints tels que mes(A
n
) =
mes(
0
)/[(1 + |s
n
|
p
)n
2
]. En considerant la fonction u :=

s
n
1
An
, on voit que
u L
p
(). Mais on a :
_

|f(u(x))|
q
dx =

n1
_
An
|f(s
n
)|
q

n1
n(1 + |s
n
|
p/q
)
q
mes(A
n
)

n1
n(1 + |s
n
|
p
)mes(A
n
) = +,
ce qui signie que Bu L
q
() : autrement dit B, en tant quoperateur de L
p
()
dans L
q
(), nest pas deni en u. On en conclut donc que la fonction f satisfait
la condition de croissance (16.3) et, dapr`es le lemme 16.1, B est continu.
62 Chapitre 1. Quelques outils de base
16.3 Remarque. Loperateur B deni ci-dessus est un operateur local en ce sens
que la valeur de (Bu)(x) depend uniquement de celle de u au point x. Dans la
litterature des operateurs locaux comme loperateur B deni au lemme 16.1 sont
parfois appeles operateurs de Nemitsky ou encore operateurs de superposition.
On peut montrer, en admettant lhypoth`ese du continu, quen fait tout operateur
local, en ce sens que B(1
A
u) = 1
A
Bu pour tout ensemble mesurable A, est un
operateur de superposition. Pour des references concernant les diverses proprietes
de ce type doperateurs suivant celles de la fonction f, on pourra consulter
J. Appell [7].
16.4 Remarque. Des operateurs B du type de ceux que lon vient de voir ne
sont pas continus de L
p
()-faible dans L
q
()-faible, sauf si f est ane, cest ` a
dire que f(, s) = a() + b()s, avec a L
q
et b L
r
(), o` u r :=
p
pq
et q p
(voir Exercices).
Sur lexemple suivant on voit quil nest pas aise de construire des operateurs
locaux du type precedent qui soient de classe C
1
.
16.5 Exemple. Soient :=]0, 1[, et (Bu)() := sin(u()). On voit facilement
que B est continu de L
2
(0, 1) dans L
2
(0, 1). Montrons quil nest pas de classe
C
1
sur L
2
(0, 1). En eet si B etait dierentiable au sens de Frechet sur L
2
(0, 1)
` a lorigine, on devrait avoir :
Bu = Lu +o(u, u
L
2)
o` u L est un operateur lineaire continu de L
2
(0, 1) L
2
(0, 1). Mais on remarque
que si lapplication u Bu est consideree de L

(0, 1) dans lui-meme, alors elle


est dierentiable en 0 et pour tout u L

(0, 1) on a :
Bu = u +o(u, u

)
et par consequent on doit avoir L = I, lapplication identite. (Ici on fait ap-
paratre le fait que le terme o(u, u) depend de la norme de lespace dans lequel
on consid`ere loperateur B). Par ailleurs considerant la suite : u
n
:= 1
]0,1/n[
on
a u
n

L
2 0 et :
Bu
n
u
n

2
=
1
n
(sin(1) 1)
2
= u
n

2
L
2
(1 sin(1))
2
ce qui montre que Bu
n
u
n
nest pas un o(u
n
, u
n

L
2).
Cependant on peut montrer que si est de mesure nie et 1 q < p ,
alors Bu := sin(u()), considere comme operateur de L
p
() dans L
q
(), est de
classe C
1
. En eet si 0 < 2 est tel que (1 +)q p, on sait quil existe une
constante C() > 0 telle que pour tout z R on ait | sin(z) z| C()|z|
1+
.
On en conclut que pour tout u L
p
() on a :
Bu u
q
C() u
1+
(1+)q
C(, p, q, ||) u
1+
p
,
ce qui montre que B est dierentiable au sens de Frechet ` a lorigine et que
B

(0) = I, linjection canonique de L


p
() dans L
q
(). On montre de la meme
mani`ere que B est dierentiable en un point quelconque de L
p
().
17. Quelques fonctionnelles dierentiables 63
En fait il ny a pas beaucoup doperateurs du type precedent qui soient de
classe C
1
de L
2
() dans lui-meme. Il est clair que si f(x, s) := a(x)+b(x)s, avec
a L
2
() et b L

(), alors B est de classe C


1
. Cependant on peut montrer
que ce sont les seuls operateurs de ce type de classe C
1
, comme lindique le
resultat suivant (voir Exercices pour la demonstration) :
16.6 Propostion. Soient un ouvert de R
N
et f : R R une fonction
veriant (16.1). On pose Bu := f(, u()). Alors B est de classe C
1
de L
2
()
dans L
2
() si, et seulement si, il existe a L
2
() et b L

() tels que
f(, s) = a() +b()s.
Signalons enn le resultat suivant d u ` a M. Marcus & V.J. Mizel [110113] ;
voir aussi L. Boccardo & F. Murat [23, theor`eme 4.2] (on pourra consulter
egalement larticle de revue de J. Appell [7]) :
16.7 Theor`eme. Soient 1 q p < N, un ouvert de R
N
et f une fonction
de R R. On pose Bu := f(u()), pour une fonction de R. Alors
B est un operateur continu de W
1,p
() dans W
1,q
() si, et seulement si, f
est localement lipschitzienne et sa derivee (qui existe presque partout sur R)
satisfait la condition de croissance
a, b 0, s R, |f

(s)| a +b|s|
N(pq)/(qNqp)
.
Si 1 p , et f est lipschitzienne sur R, alors pour tout u W
1,p
() on a
B(u) W
1,p
() et B(u) = f

(u)u p.p. sur ; de plus lorsque 1 p < ,


loperateur B est continu de W
1,p
() dans lui-meme (lorsque p = en general
B nest pas continu sur W
1,
()).
Dans le paragraphe suivant nous considerons certaines fonctionnelles sur les
espaces de Sobolev, denies ` a laide dune fonction de R dans R.
17. Quelques fonctionnelles dierentiables
Dans un premier temps nous considerons des fonctionnelles denies sur les es-
paces L
p
(). Soit f : R R une fonction mesurable en x, continue en s,
cest ` a dire veriant la condition de Caratheodory (16.1). On pose
(17.1) F(x, s) :=
_
s
0
f(x, )d.
De meme, lorsque cela a un sens, on denit une fonctionnelle V par
(17.2) V (u) :=
_

F(x, u(x))dx.
Nous allons preciser dans quelles conditions u V (u) est continue ou de classe
C
1
. Notons tout dabord le resultat suivant qui decoule du lemme 16.1 :
64 Chapitre 1. Quelques outils de base
17.1 Lemme. On suppose quil existe a L
1
(), b 0 et 1 p < et F une
fonction de R dans R veriant :
(17.3) s R, p.p. sur , |F(x, s)| a(x) +b|s|
p
.
Alors si F verie (16.1), V denie par (17.2) est continue sur L
p
.
En particulier si f : R R verie (16.1), et sil existe a
0
L
p

(), avec
1 < p < et p

:= p/(p 1), et b
0
0 tels que :
(17.4) s R, p.p. sur , |f(, s)| a
0
() +b
0
|s|
p1
,
alors F et V etant donnees par (17.1) et (17.2), V est de classe C
1
sur L
p
() et
on a V

(u) = f(, u()).


Demonstration. Si F verie la condition (17.3), le lemme 16.1 dit que lapp-
lication u F(, u()) est continue de L
p
() dans L
1
() et par consequent V
est continue sur L
p
().
Lorsque lhypoth`ese porte sur f, la condition (17.4) implique :
|F(x, s)| a
0
(x)|s| +
1
p
b
0
|s|
p

1
p

|a
0
(x)|
p

+
1
p
(1 +b
0
)|s|
p
,
o` u on utilise linegalite de Young
1
p

p
+
1
p

. On en deduit, en utilisant la
premi`ere partie du lemme, que V est continue de L
p
() dans R. Pour montrer
que V est de classe C
1
, on va montrer que V est G-derivable et que la G-derivee
est continue de L
p
() dans L
p

(). En posant
(t, x) :=
F(x, u(x) +tv(x)) F(x, u(x))
t
f(x, u(x))v(x),
on a
V (u +tv) V (u)
t

_

f(x, u(x))v(x)dx =
_

(t, x)dx.
Or il existe (t, x) ]0, 1[ tel que :
|(t, x)| = |f (x, u +(t, x)tv(x)) f(x, u(x))| |v(x)|.
Ainsi, dune part on a (t, x) 0 lorsque t 0, p.p. en x et dautre part,
on a la majoration :
|(t, x)| 2
_
a
0
(x) +b
0
(|u(x)| + |v(x)|)
p1
+b
0
|u(x)|
p1
_
|v(x)|.
Comme le second membre de linegalite ci dessus est dans L
1
(), le theor`eme
de la convergence dominee de Lebesgue permet de dire que
lim
t0
_
V (u +tv) V (u)
t

_

f(x, u(x)) v(x)dx


_
=
_

lim
t0
(t, x)dx = 0.
17. Quelques fonctionnelles dierentiables 65
Ainsi la G-derivee V

(u) existe et on a pour tout v L


p
() :
V

(u), v =
_

f(x, u(x))v(x)dx,
i.e. V

(u) = f(, u). De plus la condition de croissance (17.4) imposee ` a f et le


lemme 16.1 impliquent que loperateur u f(, u) (cest ` a dire V

) de L
p
()
dans L
p

() est continu. Finalement la proposition 13.4 implique que V est


de classe C
1
sur L
p
() (on aura note que ce dernier resultat nest pas vrai si
p = 1).
Bien que les resultats qui suivent puissent sexprimer de mani`ere generale
pour les espaces W
1,p
() ou W
1,p
0
(), pour les besoins de la suite du cours,
on va surtout etudier la fonctionnelle V sur les espaces H
1
() ou H
1
0
() (voir
Exercices pour le cas general). Rappelons que pour N 3, on a pose 2

:=
2N
N2
et que les inegalites de Sobolev expriment le fait que H
1
0
() L
2

() et que
cette injection est continue ; de meme si louvert est, par exemple, borne et
de classe C
1
(voir paragraphe 8), alors on a H
1
() L
2

() et linjection est
continue. En utilisant le lemme 17.1, on peut montrer facilement (on notera que
(2

= 2N/(N + 2)) :
17.2 Corollaire. Soient un ouvert de R
N
, avec N 3, et F : R dans
R une fonction veriant (16.1), V etant denie par (17.2). On suppose quil
existe a L
1
() et b 0 tels que p.p. sur et pour tout s R on ait
|F(x, s)| a(x) + b|s|
2

. Alors V est continue sur H


1
0
(). En particulier si
f : R R verie (16.1), F etant denie par (17.1), sil existe a
0
L
2N
N+2
()
et b
0
0 tels que
s R, p.p. sur , |f(x, s)| a
0
(x) +b
0
|s|
N+2
N2
,
alors V est de classe C
1
sur H
1
0
() et on a V

(u) = f(, u). Si de plus est de


classe C
1
et borne, les memes proprietes sont vraies en rempla cant H
1
0
() par
H
1
().
Lorsque N = 2, on sait que pour tout p 2 ni, on a H
1
0
() L
p
() et
par consequent, si f verie la condition (17.4) pour un p 2, la fonction V est
de classe C
1
sur H
1
0
() (un resultat analogue subsiste pour H
1
() si est par
exemple borne et de classe C
1
). En utilisant linegalite de Trudinger-Moser, on
peut montrer le resultat suivant (voir Exercices) :
17.3 Proposition. Soient un ouvert de R
2
, F : R dans R une fonction
veriant (16.1) et V denie par (17.2). On suppose que pour tout > 0 il
existe a L
1
() et b 0 tels que pour tout s R et p.p. sur on ait
|F(x, s)| a(x) + b exp
_
|s|
2
_
. Alors V est continue sur H
1
0
(). En particulier
si f : R R verie (16.1), F etant denie par (17.1), en supposant que
pour tout > 0 il existe > 0, a
0
L
1+
() et b
0
0 tels que
s R, p.p. sur , |f(x, s)| a
0
(x) +b
0
exp
_
|s|
2
_
,
66 Chapitre 1. Quelques outils de base
alors V est de classe C
1
sur H
1
0
() et on a V

(u) = f(, u). Si de plus est de


classe C
1
et borne, les memes proprietes sont vraies en rempla cant H
1
0
() par
H
1
().
Il faut noter que le cas de la dimension N = 1 est tr`es particulier car dans ce
cas on a H
1
(R) C
0,1/2
0
(R) et par suite sans imposer une quelconque condition
de croissance ` a linni sur s f(, s), la fonction V est de classe C
1
sur H
1
().
Plus precisement (voir Exercices pour la demonstration) :
17.4 Proposition. Soit un intervalle ouvert de R et f : R R
satisfaisant la condition (16.1). On suppose de plus que f(, ) verie, pour tout
s R
p.p. sur , |f(, s)| a() +b()g(s)
o` u a, b L
1
() et g : R R
+
est continue et telle que g(s) = O(s) lorsque
s 0.
Alors F et V etant denies par (17.1) et (17.2), V est de classe C
1
sur H
1
().
De fa con analogue on peut montrer la proposition suivante (rappelons que si
X
1
, X
2
sont deux sous-espaces vectoriels dun espace vectoriel Z, on note X
1
+X
2
le sous-espace des elements z Z qui secrivent comme z = x
1
+ x
2
avec x
i

X
i
) :
17.5 Proposition. Soit un ouvert de R
N
et f : R R veriant (16.1).
(i) Si N 3, on suppose quil existe a L
N
2
() +L

() et b R
+
tels que :
s R, p.p. sur , |f(, s)| a()|s| +b|s|
N+2
N2
.
(ii) Si N = 2, on suppose que pour tout > 0 il existe > 0 et a L
1+
() +
L

(), b R
+
tels que :
s R, p.p. sur |f(, s)| a()|s| +b exp
_
|s|
2
_
.
Alors F et V etant denies par (17.1) et (17.2), V est de classe C
1
sur H
1
0
().
Si est borne et de classe C
1
, alors V est de classe C
1
sur H
1
(). Dans chaque
cas on a V

(u) = f(, u).


Nous allons ensuite montrer le resultat suivant qui est important pour la suite.
17.6 Proposition. Soient un ouvert de R
N
, p > 2 et f : R R
satisfaisant la condition (16.1) et f(, 0) = 0. On suppose que p.p. en x ,
lapplication s f(x, s) est de classe C
1
et quil existe a L
p/(p2)
() et b 0
tels que :
s R, p.p. sur , |
s
f(, s)| a() +b|s|
p2
.
Alors F et V etant denies par (17.1) et (17.2), V est de classe C
2
sur L
p
()
alors que V

: L
p
() L
p/(p1)
() est uniformement lipschitzienne sur les
bornes de L
p
() et on a V

(u) = f(, u), et V

(u) =
s
f(, u). Plus precisement
pour , L
p
() on a :
17. Quelques fonctionnelles dierentiables 67
V

(u)[, ] =
_

s
f(x, u(x))(x)(x)dx.
Demonstration. Commen cons par remarquer que la condition de croissance
sur la derivee de f implique, pour tout s R :
p.p. sur , |f(, s)| a()|s| +
b
p 1
|s|
p1
.
Par consequent le lemme 17.1 montre que V est de classe C
1
sur L
p
() et que
V

(u), =
_

f(x, u(x))(x)dx.
Pour montrer que V

est G-derivable sur L


p
(), pour 0 < t < 1 et , dans
L
p
() on ecrit :
1
t
[ V

(u +t) V

(u), ]
_

s
f(x, u(x))(x)(x)dx
=
_

[
s
f(x, u(x) +(t, x)(x))
s
f(x, u(x))] (x)(x)dx,
o` u (t, x) ]0, 1[. En prenant la valeur absolue dans les deux membres et en
utilisant la majoration
| [
s
f(x, u(x) +(t, x)(x))
s
f(x, u(x))] (x)(x)|
2
_
a(x) +b(|u|
p2
+ ||
p2
)
_
|(x)(x)|, (17.5)
on voit que comme on a , L
p
() et que
p2
p
+ 2
1
p
= 1, dapr`es linegalite
de H older le second membre de linegalite (17.5) est dans L
1
(). On conclut
comme precedemment, en faisant tendre t vers zero et en utilisant le theor`eme
de la convergence dominee, que V

(u)[, ] existe et on obtient nalement :


V

(u)[, ] =
_

s
f(x, u(x))(x)(x)dx.
Pour voir enn que V

est uniformement lipschitzienne sur les bornes de L


p
(),
on ecrit :

(u +) V

(u),

_
1
0
_

s
f(x, u(x) +t(x))(x)(x)dxdt

_
1
0
_

_
a(x) +b(|u(x)| + |(x)|)
p2
|(x)(x)|

dxdt,
do` u on deduit, en utilisant linegalite de H older, que si
p
R :
V

(u +) V

(u)
L
p

()
C(u
p
, R)
p
,
et on voit ainsi que u V

(u) est uniformement lipschitzienne sur les bornes de


L
p
(). Pour voir que V

est de classe C
1
, il sut de montrer que la derivee de
68 Chapitre 1. Quelques outils de base
G ateaux V

(u) est continue de L


p
() dans lespace des formes bilineaires sur
L
p
(). En eet pour u, w, , L
p
(), et
p
,
p
1 on a :
|(V

(u +w) V

(u)) [, ]|

s
f(, u +w)
s
f(, u) p
p2

p
.
Donc en designant par L
2
lespace des formes bilineaires continues sur L
p
(),
on a
V

(u +w) V

(u)
L2

s
f(, u +w)
s
f(, u)
p/(p2)
,
et comme dapr`es lhypoth`ese (i) et le lemme 16.1, loperateur u
s
f(, u())
est continu de L
p
() dans L
p/(p2)
(), on conclut que V

est continue.
17.7 Remarque. Il faut bien noter quen general, des fonctionnelles du type de
V ne sont pas de classe C
2
sur L
2
(). Par exemple si
F(s) := 1 cos(s), et V (u) :=
_

(1 cos(u(x)))dx,
on voit facilement que V est de classe C
1,1
sur L
2
() mais nest pas de classe
C
2
: en eet comme nous lavons signale plus haut dans lexemple 16.5, on sait
que V

(u) = sin(u) nest pas dierentiable au sens de Frechet sur L


2
().
En utilisant le theor`eme dinjection de Sobolev, et en appliquant la propo-
sition 17.6 avec p := 2

on obtient le resultat suivant :


17.8 Corollaire. Soient un ouvert de R
N
, N 3 et f : R R
satisfaisant la condition (16.1) et f(, 0) = 0. On suppose que p.p. en x ,
lapplication s f(x, s) est de classe C
1
et quil existe a L
N
2
() +L

() et
b 0 tels que :
s R, p.p. sur , |
s
f(, s)| a() +b|s|
4/(N2)
.
Alors F et V etant denies par (17.1) et (17.2), V est de classe C
2
sur H
1
0
()
et V

: H
1
0
() L
2N/(N+2)
() est uniformement lipschitzienne sur les bornes
de H
1
0
(). Si est borne et de classe C
1
, alors V poss`ede les memes proprietes
en rempla cant H
1
0
() par H
1
(). Dans chaque cas on a V

(u) = f(, u) et
V

(u) =
s
f(, u), i.e. pour , H
1
0
() (ou bien dans H
1
()) on a :
V

(u)[, ] =
_

s
f(x, u(x))(x)(x)dx.
Lorsque N = 2, on a un resultat semblable, sauf que la croissance de f(, s)
en s peut etre exponentielle.
17.9 Proposition. Soient un ouvert de R
2
, et f : R R satisfaisant
la condition (16.1) et f(, 0) = 0. On suppose que p.p. en x , lapplication
s f(x, s) est de classe C
1
et que pour tout > 0 il existe > 0 et a
L
1+
() +L

(), b 0 tels que


17. Quelques fonctionnelles dierentiables 69
s R, p.p. sur , |
s
f(, s)| a() +b exp(|s|
2
).
Alors F et V etant denies par (17.1) et (17.2), V est de classe C
2
sur H
1
0
()
et V

est uniformement lipschitzienne sur les bornes de H


1
0
(). Si est borne
et de classe C
1
, alors V poss`ede les memes proprietes en rempla cant H
1
0
() par
H
1
(). Dans chaque cas on a V

(u) = f(, u) et V

(u) =
s
f(, u) i.e. pour
, H
1
0
() (ou bien dans H
1
()) on a :
V

(u)[, ] =
_

s
f(x, u(x))(x)(x)dx.
Demonstration. La demarche est la meme que dans la preuve de la proposi-
tion 17.6, sauf quau lieu de (17.5), on a
| [
s
f(x, u(x) +(t, x)(x))
s
f(x, u(x))] (x)(x)|
2
_
a(x) +b exp
_
(|u(x)| + |(x)|)
2
__
|(x)(x)|,
et de nouveau le second membre de cette inegalite est dans L
1
(), parce que
pour tout q ni, on a || L
q
() et pour r 1 convenablement choisi (en fait
r = q

) et > 0 susamment petit, on sait que


exp
_
(|u(x)| + |(x)|)
2
_
L
r
().
pour u, , dans H
1
0
(), dapr`es linegalite de Trudinger-Moser.
Exercices du chapitre 1
Exercice 1. (Theor`eme de Stampacchia). Soient H un espace de Hilbert et K
un convexe ferme non vide de H.
1) Montrer que pour tout u H il existe un unique u
0
K tel que uu
0
=
min
vK
u v. Ce point sera note P
K
u, projection de u sur K.
2) Montrer que ce point est caracterise par
_
u
0
K, v K
(u u
0
|v u
0
) 0,
et en deduire que P
K
est une contraction de H sur K.
3) Soit A une application de H dans lui-meme telle que pour des constantes
, C
0
> 0 on ait pour tous u, v H :
(Au Av|u v) u v
2
, Au Av C
0
u v.
Pour f H xe on consid`ere lapplication
(v) := P
K
(f Av +v) .
Montrer que si > 0 est assez petit, est une contraction stricte de K dans
lui-meme et admet un point xe unique u K.
4) En deduire que pour f H donne, linequation variationnelle
_
trouver u K tel que v K
(Au|v u) (f|v u) ,
admet une solution unique.
5) En appliquant ce qui prec`ede dans le cas o` u K = H et A est determine
par une forme bilineaire continue et coercive a(, ) (i.e. (Au|v) = a(u, v)),
deduire le lemme de Lax-Milgram.
6) Generaliser les resultats des questions 3) et 4) au cas o` u loperateur
A est seulement lipschitzien sur les bornes de H (i.e. pour tout R > 0 il
existe une constante C
0
(R) telle que pour u, v R on ait Au Av
C
0
(R)u v).
Exercice 2. Soient N = 2 et louvert
:=
_
(x, y) R
2
; x
2
+y
2
< 1, y < |x|
1/2
_
.
Exercices du chapitre 1 71
On pose sgn(x) := 1 si x 0 et sgn(x) := 1 si x < 0 ; puis pour 1 < < 2 :
u(x, y) :=
_
sgn(x) y

si y > 0
0 si y 0
Verier que si < 2 < 2, alors u,
x
u et
y
u sont continues jusquau bord de
, mais que u C
0,
().
Exercice 3. Soient 0 < 1 et un ouvert borne de R
N
. Pour a , on pose
f
a
(x) := |x a|

. Montrer que si a = b, on a f
a
f
b

C
0,
()
2. En deduire
que pour k 0, lespace C
k,
() nest pas separable.
Exercice 4. Soit a(, ) une forme bilineaire sur un espace de Hilbert H. On
suppose quil existe
1
R tel que pour tout u X on ait : a(u, u)
1
u
2
.
Montrer que la fonction J denie par J(u) := a(u, u) u
2
est convexe
pour tout
1
, et que J est strictement convexe si <
1
.
Exercice 5. Soit a un element de R
n
, ecrit sous forme de vecteur colonne. On
pose A := aa

, la matrice delement generique a


i
a
j
pour 1 i, j n. Montrer
que les valeurs propres (
i
)
1in
de A sont donnees par

1
=
2
= =
n1
= 0,
n
= |a|
2
.
(Ici | | designe la norme euclidienne de R
n
). En deduire que :
det(I +A) = 1 + |a|
2
.
Exercice 6. Voici une application interessante du theor`eme de changement de
variable.
1) Soit A une matrice symetrique et denie positive dordre n. Montrer que
(det(A))
1/2
= (2)
n/2
_
R
n
exp [(Ax|x)/2] dx.
2) Soit S
+
n
lensemble des matrices symetriques et denies positives dordre
n. Montrer que S
+
n
est convexe et que la fonction A log det(A) est concave
sur S
+
n
(on dit que A det(A) est log-concave).
Exercice 7. Soient S la sph`ere unite de R
N
et d la mesure supercielle sur S.
En utilisant le fait que d est la seule mesure supercielle sur S invariante par
rotation, montrer que pour toute fonction f continue sur S on a (en notant
N
laire de la sph`ere S) :
_
S
f()d = (2)
N/2

N
_
R
N
f
_
x
|x|
_
exp(|x|
2
/2)dx.
Exercice 8. Soient E un espace de Banach, (u
n
)
n
une suite de E et (f
n
)
n
une
suite de E

. Montrer que si u
n
u dans E-faible et f
n
f dans E

, alors
f
n
, u
n
f, u.
72 Exercices du chapitre 1
Montrer que le meme resultat est vrai si u
n
u dans E et f
n
f dans
E

-faible

. Donner des contre-exemples montrant que si u


n
u et f
n
f alors
on na pas necessairement f, u = lim
n
f
n
, u
n
.
Exercice 9. Soient (u
n
)
n
, (v
n
)
n
deux suites de fonctions mesurables sur un
ensemble avec u
n
L

(), v
n
L
1
() et u
n
0, v
n
0. On suppose que
u
n
u dans L

()-faible

, et que v
n
v presque partout sur . Montrer que
_

u(x)v(x)dx liminf
n
_

u
n
(x)v
n
(x)dx.
Exercice 10. Soient F, G C(R, R) deux fonctions telles que
lim
|s|
F(s)
G(s)
= 0,
et (u
n
)
n
une suite de fonctions mesurables telle que F(u
n
(x)) tend vers v(x) p.p.
sur R
N
. On suppose que (F(u
n
))
n
et (G(u
n
))
n
sont bornees dans L
1
(R
N
).
1) Montrer que si B R
N
est mesurable borne, alors (F(u
n
))
n
est equi-
integrable sur B et
lim
n
_
B
|F(u
n
(x)) v(x)| dx = 0.
2) On suppose de plus que F(s)/G(s) 0 lorsque s 0, et que u
n
(x) tend
vers zero lorsque |x| , uniformement en n. Montrer que F(u
n
) tend vers
v dans L
1
(R
N
).
Exercice 11. Soit (f
n
)
n
une suite de Cauchy dans L
1
(), o` u est un ouvert
de R
N
.
1) Montrer quil existe une sous-suite (f
nj
)
j
telle que pour j 1 :
f
nj+1
f
nj

1
2
j
.
2) Soit u
k
:=

k
j=1
|f
nj+1
f
nj
|. Montrer que la suite (u
k
)
k
converge dans
L
1
() vers une fonction u, et que u < presque partout.
3) En deduire quil existe g L
1
() et une sous-suite (f
nj
)
j
de (f
n
)
n
, ainsi
quune fonction f L
1
() telles que
p.p. sur f
nj
f, et |f
nj
| g.
(Cest la reciproque partielle du theor`eme de la convergence dominee).
4) De mani`ere generale, montrer le resultat precedent pour une suite de
Cauchy dans L
p
(), avec 1 p < (on montre par la meme occasion que
les espaces L
p
() sont des espaces de Banach).
Exercice 12. On sait que tout entier n 1 peut secrire de fa con unique
n = 2
k
+j avec k 0 et 0 j 2
k
1. On consid`ere la suite (f
n
)
n
denie sur
[0, 1[ par
Exercices du chapitre 1 73
f
n
:= 1
[
j
2
k
,
j+1
2
k
[
si n = 2
k
+j, et 0 j 2
k
1.
Verier que f
n
0 dans L
1
(0, 1) mais ne converge pas p.p.
Exercice 13. Soit (f
n
)
n
une suite de L
p
(), avec 1 p < , telle que f
n
f
dans L
p
(). Est-ce quune inegalite du type
|f(x)| liminf
n
|f
n
(x)|,
est vraie en general ? (Considerer f
n
(x) := (1 cos(nx)) (x), o` u C

c
(0, 1)
est xee, et montrer que f
n
dans L
p
).
Exercice 14. Soit m 0 un entier. En utilisant la transformation de Fourier
montrer que u H
m
(R
N
) si, et seulement si, la fonction u verie (1+||
2
)
m/2
u
L
2
(R
N
). Verier egalement que pour des constantes c
1
, c
2
> 0 on a
c
1
u
H
m
(R
N
)
(1 + | |
2
)
m/2
u
L
2
(R
N
)
c
1
u
H
m
(R
N
)
.
Exercice 15. Sur R on consid`ere la fonction u(x) := (1 |x|)
+
. En utilisant la
caracterisation des espaces de Sobolev H
s
(R) par la transformation de Fourier,
determiner tous les s R tels que u H
s
(R).
Exercice 16. Soient un ouvert de R
N
, f une fonction mesurable de dans
R et 1 p < . On consid`ere :
K := {u L
p
() ; u f p.p. sur } .
Montrer que K est ferme pour la topologie faible de L
p
().
Exercice 17. On montre ici que les fonctions de W
1,
() sont les fonctions
lipschitziennes, pourvu que soit un ouvert de classe C
1
ou lipschitzien.
1) Montrer que si 1 p et u W
1,p
(R
N
) alors, pour i

1
N
, les derivees

i
u existent presque partout sur R
N
.
2) Montrer quune fonction u appartient ` a W
1,
(R
N
) si, et seulement si, u
est continue et :
(1) sup
xR
N
|u(x)| + sup
x,yR
N
x=y
|u(x) u(y)|
|x y|
< .
3) Montrer quune fonction u appartient ` a W
1,
(R
N
) si, et seulement si,
il existe une suite de fonctions (
n
)
n
de C

c
(R
N
) telles que
n
u uni-
formement sur tout compact de R
N
et (
n
)
n
est bornee dans W
1,
(R
N
).
4) Montrer que si est un ouvert borne de classe C
1
(ou lipschitzien), les
elements de W
1,
() sont precisement les fonctions lipschitziennes sur .
En deduire quune fonction lipschitzienne est presque partout derivable.
5) Soit :=] 1, +1[
2
\ ([0, 1] {0}) dans R
2
. Construire une fonction u,
ane sur :=]0, 1[]0, 1[, et nulle sur \ , telle que u W
1,
() et u
nest pas lipschitzienne sur .
74 Exercices du chapitre 1
Exercice 18. Soit la boule B(0, 1/2) de R
N
. Verier que la fonction
u(x) := |x|
N
|log |x||

,
est dans L
1
(), pour > 1.
1) Soit p > 1. En choisissant convenablement , exhiber une fonction qui est
dans L
1
(), mais qui nest pas dans L
p
(). Pour q < p, exhiber une fonction
de L
q
() qui ne soit pas dans L
p
().
2) De meme si 1 q < p, exhiber une fonction de W
1,q
() qui nest pas
dans W
1,p
().
Exercice 19. On va montrer ici les inegalites de Gagliardo-Nirenberg-Sobolev
(voir propositions 8.10 et 8.12) dans le cas particulier o` u p = 1 :
(1) u C
1
c
(R
N
), u
N/(N1)
C(N)
N

j=1

j
u
1/N
1
.
1) On suppose que N = 1. En ecrivant que u(x) =
_
x

u(s)ds, montrer
que u


1
2
u
x

1
.
Pour montrer (1), on va faire un raisonnement par recurrence : on suppose que
(1) est etablie pour N et on va la montrer pour N + 1. Le point generique de
R
N+1
sera note y := (t, x) R R
N
et on consid`ere u C
1
c
(R
N+1
). Pour
simplier, on prendra C(N) := 1, mais le lecteur patient est invite ` a calculer
une meilleure constante que 1.
2) Montrer que pour tout t R on a :
__
R
N
|u(t, x)|
N/(N1)
dx
_
(N1)/N

j=1
__
R
N
|
xj
u(t, x)|dx
_
1/N
.
3) En deduire que :
_
R
__
R
N
|u(t, x)|
N/(N1)
dx
_
(N1)/N
dt
N

j=1

xj
u
1/N
1
.
4) Verier que |u(t, x)|
(N+1)/N

__
R
|
t
u(s, x)|ds
_
1/N
|u(t, x)|, pour tout
(t, x).
5) En deduire que pour tout t R on a :
_
R
N
|u(t, x)|
N+1
N
dx
t
u
1/N
1
__
R
N
|u(t, x)|
N
N1
dx
_
N1
N
.
6) Deduire de 3) et 5), linegalite (1) pour N + 1.
7) Deduire de (1) les inegalites de Sobolev pour W
1,1
(R
N
), ainsi que pour
W
1,1
0
() lorsque est un ouvert quelconque.
Exercices du chapitre 1 75
Exercice 20. On reprend ici la demonstration des inegalites de Gagliardo-Ni-
renberg-Sobolev dans le cas general (voir propositions 8.10 et 8.12, ainsi que
Exercice 19). Soient 1 < p < N et p

:=
Np
Np
; en partant de linegalite (1) de
lExercice 19 on va montrer :
(2) u C
1
c
(R
N
), u
p
C(N, p)
N

j=1

j
u
1/N
p
.
1) Verier que si m > 1 est un reel et u C
1
c
(R
N
), alors |u|
m
C
1
c
(R
N
) et
on a :

j
(|u|
m
) = m sgn(u) |u|
m1

j
u.
2) En appliquant linegalite (1) de lExercice 19 ` a |u|
m
(pour m > 1),
montrer que :
u
m
mN/(N1)
mu
m1
(m1)p/(p1)
N

j=1

j
u
1/N
p
.
3) Trouver m tel que
mN
N1
=
(m1)p
p1
. Verier que m > 1 equivaut ` a 1 < p <
N.
4) En remarquant que m trouve dans la question precedente verie
mN
N1
=
p

, et en utilisant 2), etablir linegalite (2) avec la constante C(N, p) :=


p(N1)
Np
.
5) Deduire de (2) les inegalites de Sobolev pour W
1,p
(R
N
) ainsi que pour
W
1,p
0
() lorsque est un ouvert quelconque.
Exercice 21. Soient p > 1, m 1 tels que mp = N. Si designe la boule unite
de R
N
, on pose, pour x = 0 :
u(x) := log log
_
4
|x|
_
.
1) Montrer que u W
m,p
() mais que u nappartient pas ` a L

().
2) De meme en supposant que m := 1, trouver tous les > 0 tels que
v(x) := (log(4/|x|))

soit dans W
1,N
(). Verier que lexposant
N
N1
dans
linegalite de Trudinger-Moser (proposition 8.15) ne peut pas etre ameliore.
3) Lorsque est un ouvert quelconque et mp = N (avec p > 1 et m 1),
en utilisant la fonction u construire une fonction positive f W
m,p
() telle
que f soit non bornee au voisinage de tout point x
0
.
4) Dans R
2
on consid`ere louvert non borne et de mesure nie
:=
_
(x, y) R
2
; x R et 0 < y < exp(x
2
)
_
.
On xe p 1. Donner une fonction u denie sur telle que pour tout m 0
et tout q > p on ait u W
m,p
() et u L
q
() (on pourra considerer la
fonction exp
_
x
2
(1 +x
2
)
1/2
_
pour une valeur adequate de > 0).
76 Exercices du chapitre 1
Exercice 22. On se propose de montrer que C

c
(R
N
) est dense dans W
m,p
(R
N
)
pour m 0 entier et 1 p < . Soit
0
C

c
(R
N
) une fonction positive
telle que
0
(x) = 1 pour |x| 1 et
0
(x) = 0 pour |x| 2 ; on suppose de
plus que
_
R
N

0
(x)dx = 1. Pour n 1 entier on pose
n
(x) := n
N

0
(nx) et

n
(x) :=
0
(x/n).
1) Montrer que si u W
m,p
(R
N
) alors la tronquee u
n
:=
n
u tend vers u
dans W
m,p
(R
N
).
2) Soit u W
m,p
(R
N
) ` a support compact. Montrer que v
n
:= u
n
tend
vers u dans W
m,p
(R
N
).
3) Deduire de ce qui prec`ede que C

c
(R
N
) est dense dans W
m,p
(R
N
).
Exercice 23. On montre ici un theor`eme de prolongement pour dierentes
classes de fonctions denies sur un ouvert . Pour un aper cu plus general des
probl`emes de prolongement de fonctions denies sur une partie de R
N
on
pourra consulter E. Stein [153, chapter VI].
1) Soit k 0 un entier. Montrer quil existe une unique famille c
1
, c
2
, . . . c
k+1
de reels tels que pour 0 i k on ait
k+1

j=1
(j)
i
c
j
= 1.
On rappelle ` a ce propos que le determinant de Van der Monde
det
_
_
_
_
1 1 1
x
1
x
2
x
k+1
.
.
.
.
.
.
.
.
.
.
.
.
x
k
1
x
k
2
x
k
k+1
_
_
_
_
est nul si et seulement si x
m
= x

pour deux entiers m = . Pour k = 0, 1 ou


2, calculer les familles c
j
correspondantes.
Un element x R
N
+
:= R
N1
[0, +[ etant note (x

, x
N
), pour une fonction f
denie sur R
N
+
on denit son prolongement ` a R
N
par

P
k
(f) :=
_

_
f(x

, x
N
)
N

j=1
c
j
f
_
x

,
x
N
j
_
si x
N
0,
si x
N
< 0.
2) Montrer que le prolongement

P
k
est un operateur lineaire continu de
C
k,
(R
N
+
) dans C
k,
(R
N
), pour tout entier k 0 et 0 1.
3) Montrer que le prolongement

P
k
est un operateur lineaire continu de
W
k,p
(R
N
+
) dans W
k,p
(R
N
), pour tout entier k 0 et 1 p . Verier en
particulier que pour tout u W
k,p
(R
N
+
) L
q
(R
N
+
) avec 1 q on a
u
q,R
N
+

P
k
(u)
q,R
N C(k)u
q,R
N
+
.
Exercices du chapitre 1 77
4) Soient un ouvert borne de classe C
k,
et
1
un ouvert de R
N
tel
que
1
. Montrer quil existe une application lineaire continue P
k
de
C
k,
() dans C
k,
c
(
1
) telle que P
k
(u) = u sur . Verier egalement que
si une fonction u : R admet des derivees

u continues et de classe
C
0,
jusquau bord , pour des multi-indices tels que || k, alors
u a un prolongement dans C
k,
c
(
1
). (En particulier on voit que, dans ce
cas, les deux denitions que nous avons evoquees au paragraphe 3 sont
equivalentes).
5) Soient un ouvert borne de classe C
k
et
1
un ouvert de R
N
tel que

1
. Montrer que pour 1 p et k 0 entier il existe une application
lineaire continue P
k
de W
k,p
() dans W
k,p
0
(
1
) telle que P
k
(u) = u sur .
Verier en particulier que si u W
k,p
() L
q
() avec 1 q on a
u
q,
P
k
(u)
q,1
C(k)u
q,
.
En realite on peut construire un tel operateur de prolongement en supposant
seulement que est lipschitzien : cest le theor`eme de prolongement de
Calder on, mais la construction en est beaucoup moins simple (voir par ex-
emple R.A. Adams [2, theorem 4.32] et E. Stein [153, chapter VI, 3]).
6) Soient :=]0, 1[
N
le cube unite de R
N
et
1
un ouvert tel que
1
.
En prenant pour mod`ele le prolongement

P
k
de R
N
+
, montrer quil existe un
operateur de prolongement P
k
de C
k,
() dans C
k,
c
(
1
). Faire la meme
construction pour exhiber un operateur de prolongement de W
k,p
() dans
W
k,p
0
(
1
) (on notera quici nest pas de classe C
1
).
Exercice 24. Deduire du theor`eme de prolongement de la question 5) de lExer-
cice 23, que si est un ouvert borne de classe C
k
, alors C
k
() est dense dans
W
k,p
() pour 1 p < .
Exercice 25. Soient 1 p N et un ouvert borne de classe C
1
de R
N
.
En utilisant le theor`eme de prolongement de la question 5) de lExercice 23, on
etablira les resultats suivants (ici p

:= Np/(N p) si p < N et p

:= si
p = N).
1) Montrer linegalite de Sobolev pour les fonctions de W
1,p
() : si p < N
il existe une constante C(p, ) telle que
u
p
C u
W
1,p
()
.
2) Montrer linegalite de Gagliardo-Nirenberg pour les fonction de W
1,p
() :
il existe une constante C(p, , ) telle que pour tout u W
1,p
() L
r
()
avec 1 r on ait
u
q
C u
1
r
u

W
1,p
()
,
o` u q
1
= (p

)
1
+ (1 )r
1
et > 0 si p = N.
3) Montrer que linjection de W
1,p
() dans L
q
() est compacte pour q < p

.
78 Exercices du chapitre 1
4) En deduire que lorsque est connexe, si est de mesure strictement
positive et
m(u) :=
1
mes()
_

u(x)dx,
alors il existe une constante C > 0 telle que pour tout u W
1,p
() on ait
u m(u)
p
C u
p
.
(Cest linegalite de Poincare-Wirtinger. Considerer

2,p
:= inf
_
v
p
p
; v W
1,p
(), v
p
= 1, m(v) = 0
_
,
puis montrer que
2,p
est atteint et
2,p
> 0).
5) Deduire des questions precedentes la version suivante de linegalite de
Gagliardo-Nirenberg pour les fonction de W
1,p
() : si est de mesure
strictement positive, et est connexe, il existe une constante C(p, , , )
telle que pour tout u W
1,p
() L
r
() avec 1 r on ait
u m(u)
q
C u
1
r
u

p
,
o` u q
1
= (p

)
1
+ (1 )r
1
et > 0 si p = N.
Exercice 26. Montrer que pour une fonction u C
1
c
(R
N
) et 1 p < on a
_
R
N1
|u(x

, 0)|
p
dx

p
_
R
N
|
N
u(x)|
p
dx.
En deduire que si est un ouvert borne et connexe de classe C
1
, alors loperateur
de trace
0
(u)() := u() pour , deni pour les fonctions de C
1
(), se
prolonge en un operateur continu de W
1,p
() dans L
p
(), i.e.

0
(u)
L
p
()
C u
W
1,p
()
.
Exercice 27. Soient un ouvert borne connexe de classe C
1
et un ensemble

0
de mesure strictement positive (i.e.
_
0
d > 0). On pose
V
0
:=
_
v W
1,p
() ; v = 0 sur
0
_
.
1) Montrer que

1,p
(
0
) := inf
_
v
p
p
; v V
0
, v
p
= 1
_
est atteint et que
1,p
(
0
) > 0.
2) En deduire cette version de linegalite de Gagliardo-Nirenberg : si 1 p
N, il existe une constante C(p, ,
0
, ) telle que pour tout u V
0
L
r
()
avec 1 r on ait
u
q
C u
1
r
u

p
,
o` u q
1
= (p

)
1
+ (1 )r
1
et > 0 si p = N.
Exercices du chapitre 1 79
Exercice 28. Soit un ouvert borne de R
N
, connexe et de classe C
1
, et
m(u) := mes()
1
_

u(x)dx
la moyenne de u sur . On designe par
N
2
la deuxi`eme valeur propre du probl`eme
de Neumann :
_
_
_
u = u
u
n
= 0
dans ,
sur .
Montrer que si C est une constante de linegalite de Poincare-Wirtinger
u H
1
(), u m(u)
2
C u
2
,
alors on a
N
2
C
2
1, et que la meilleure constante est (
N
2
)
1/2
.
Dans le cas o` u N = 1 et :=]a, b[, trouver les meilleures constantes dans
linegalite de Poincare sur H
1
0
() ainsi que dans linegalite de Poincare-Wirtinger
sur H
1
().
Exercice 29. Si u : R
N
R
N
est une fonction on note
e
ij
(u) :=
1
2
(
i
u
j
+
j
u
i
) , |u|
2
:=
N

i,j=1
|
i
u
j
|
2
.
1) Montrer que si u C
2
c
(R
N
, R
N
) alors pour 1 i, j N on a :
_
R
N

i
u
j
(x)
j
u
i
(x)dx =
_
R
N

i
u
i
(x)
j
u
j
(x)dx.
2) En deduire que pour pour toute fonction u
_
H
1
(R
N
)
_
N
on a :
N

i,j=1
_
R
N
|e
ij
(u(x))|
2
dx =
1
2
_
R
N
|u(x)|
2
dx +
1
2
_
R
N
| u(x)|
2
dx.
(Ici u := div(u) :=

N
i=1

i
u
i
).
3) Soit un ouvert de R
N
. Montrer que pour toute fonction u
_
H
1
0
()
_
N
on a :
N

i,j=1
_

|e
ij
(u(x))|
2
dx =
1
2
_

|u(x)|
2
dx +
1
2
_

| u(x)|
2
dx.
(Si dans cette egalite on oublie le dernier terme de droite, on obtient linegalite
de Korn sur
_
H
1
0
()
_
N
).
Soit un ouvert borne de classe C
1
, ou meme lipschitzien. On peut montrer
(voir par exemple O.A. Oleinik, A.S. Shamaev & G.A. Yosian [124, chapter 1,
2]) que
80 Exercices du chapitre 1
u u
2
+
N

i,j=1
e
ij
(u)
2
est une norme equivalente ` a la norme de
_
H
1
()
_
N
, o` u est la norme de
_
L
2
()
_
N
(on a ainsi linegalite de Korn dans
_
H
1
()
_
N
). En particulier si

0
est de mesure (supercielle) positive et
V
0
:=
_
v
_
H
1
()
_
N
; v = 0 sur
0
_
,
alors pour des constantes c
k
> 0, pour tout u V
0
on a
c
1
u
2
H
1
()
c
2
u
2

i,j=1
e
ij
(u)
2
c
3
u
2
c
4
u
2
H
1
()
.
Exercice 30. Dans la suite, pour t R, on designe par sgn(t) le signe de t i.e.
sgn(t) :=
_
+1 si t > 0
0 si t = 0
1 si t < 0.
Soit un ouvert de R
N
. On rappelle que si T
1
et T
2
sont deux distributions sur
, on ecrit T
1
T
2
au sens de D

() si pour toute fonction D() telle que


0 on a T
1
, T
2
, . On se propose de montrer ici linegalite de Kato :
si u L
1
loc
(), alors on a |u| sgn(u)u au sens de D

().
1) Soient j(t) := |t| et pour > 0, j

(t) := (
2
+t
2
)
1/2
. Montrer que j

est convexe et que 0 j

(t) j(t). Verier aussi que pour t R xe, on a


lim
0
j

(t) = j(t), lim


0
j

(t) = sgn(t).
Quelle est la limite (dans un sens approprie) de j

(t) ?
2) Soit D() xee. Montrer que si u L
1
loc
() alors
lim
0
_

(u(x))(x)dx =
_

j(u(x))(x)dx.
3) Soient D() et u L
1
loc
() xees. On suppose quune derivee par-
tielle (au sens des distributions) u appartient ` a L
1
loc
(). Montrer que
lim
0
_

(j

(u(x))) (x)dx =
_

sgn(u(x))u(x)(x)dx.
4) Soit u L
1
loc
() telle que u L
1
loc
(). Verier que sgn(u)u denit
une distribution sur .
5) Soit u L
1
loc
() telle que u L
1
loc
(). Montrer que
|u| = sgn(u)u au sens de D

().
Exercices du chapitre 1 81
(Noter que |u|, =
_

|u|dx = lim
0
_

(u)dx, et utiliser ce
qui prec`ede).
6) Soit u L
1
loc
() telle que pour 1 i N,
i
u L
2
loc
() et u
L
1
loc
(). Calculer j

(u) et verier que cest un element de L


1
loc
(). En
deduire que si D() et 0, alors
_

(u(x))(x)dx
_

(u(x))u(x)(x)dx.
7) Montrer que si u L
1
loc
() et u L
1
loc
() alors j

(u)u sgn(u)u
dans D

().
8) Soit u L
1
loc
() telle que pour 1 i N,
i
u L
2
loc
() et u
L
1
loc
(). Montrer, en utilisant ce qui prec`ede, que lon a linegalite de Kato,
i.e.
|u| sgn(u)u au sens de D

().
9) Montrer, en utilisant la demarche precedente et un procede de regulari-
sation, que de mani`ere generale si u L
1
loc
() verie
ii
u L
1
loc
() pour un
entier i

1
N
, alors on a

ii
|u| sgn(u)
ii
u au sens de D

().
Exercice 31. On montre dans cet exercice le resultat de Brezis-Kato que nous
avons enonce au theor`eme 11.7 (voir H. Brezis & T. Kato [32]) : soient un
ouvert de R
N
, avec N 3 et V L
1
loc
(). On suppose que V
+
L

() +
L
N
2
(), et que u H
1
0
() verie V

u L
1
loc
() et
u +V

u = V
+
u + g dans D

(),
alors si g L
p
() pour tout p < et p 2, on a u L
p
(). On notera la
norme de L
2
() et
p
la norme de L
p
().
1) Soit q 0 une fonction de L
N
2
(). Montrer que pour tout > 0 il existe
C() > 0 tel que pour H
1
0
() on ait :
_

q(x)|(x)|
2
dx
2
+C()
2
.
(Ecrire q = q1
[q>]
+q1
[q]
pour > 0 et montrer que
_

q(x)|(x)|
2
dx q1
[q>]
N
2

2
2
+
2
,
puis utiliser linegalite de Sobolev). En deduire que pour tout > 0 il existe
une constante C

telle que
_

V
+
(x)|(x)|
2
dx
2
+C

2
.
2) Montrer que
82 Exercices du chapitre 1

1
:= inf
_

V (x)|(x)|
2
dx ; D(),
2
= 1
_
est ni.
3) Soient >
1
deni ci-dessus et V
+
k
:= min(V
+
, k) pour k > 0. Montrer
que si g L
2
(), alors il existe un unique w
k
H
1
0
(), avec V

|w
k
|
2

L
1
(), solution de
w
k
+V

w
k
+w
k
= V
+
k
w
k
+g.
4) On suppose que g L
2
() L
p
() avec p > 2 et pour k xe on note
(pour simplier les notations) = w
k
, et on suppose que L
p
(). On
supposera, bien que cela ne soit pas essentiel, que 0. En multipliant
lequation par |
n
|
p2

n
o` u

n
:= 1
[||n]
+n

||
1
[||>n]
,
montrer que
4(p 1)
p
2
_

_
|
n
|
p2
2

n
(x)
_

2
dx

V
+
k
(x)|||
n
(x)|
p1
dx +
_

|g(x)| |
n
(x)|
p1
dx.
5) En utilisant linegalite de Young (ab a
r
+C()b
r

avec r

:= r/(r 1))
et linjection de Sobolev, montrer que pour tout > 0 il existe une constante
C dependant uniquement de p, telle que

_
|
n
|
p2
2

n
_

2

_
|
n
|
p2
2

n
_

2
+Cg
p
p
+C
n

p
p
+k
_
[||>n]
|(x)|
p
dx.
6) En deduire que
p
2
2
C(p) (g
2
+g
p
).
7) Montrer que lorsque k , alors w
k
w dans H
1
0
()-faible, o` u w
H
1
0
() avec (V

|w|
2
L
1
()) est lunique solution de
w +V

w +w = V
+
w +g.
et en deduire que si g L
2
() L
p
(), alors w L
p
2
2

().
8) Deduire de letude precedente, le lemme de Brezis-Kato, et en particulier
verier que si u = V u et u H
1
0
(), alors pour 2 p < on a
u L
p
() pour tout p < .
Exercice 32. Soient un ouvert de R
N
, a() := (a())
1i,jN
une matrice ` a
coecients dans L

() et uniformement coercive, i.e. il existe > 0 tel que


pour tout R
N
et p.p. sur on a
Exercices du chapitre 1 83
N

i,j=1
a
ij
(x)
i

j
||
2
.
On suppose que des fonctions b
i
,
i
L

() +L
N
() et V L
1
loc
() telle que
V

() +L
N/2
() sont donnees. On pose
Au :=
N

i,j=1

j
(a
ij

j
u) +
N

i=1

i
(b
i
u) +
N

i=1

i
u +V u.
Montrer que pour tout > 0, il existe > 0 tel que pour tout u H
1
0
() tel
que V
+
u L
1
loc
() et V
+
u
2
L
1
(), on ait
Au, u +u
2
( )u
2
.
(Cest un cas particulier de linegalite de Garding. On pourra utiliser la ques-
tion 1) de lExercice 31).
Exercice 33. Soit un ouvert borne et connexe de R
2
, de classe C
1
. On sait
quen general lequation = f avec f L
1
() et = 0 sur nadmet pas
de solution appartenant ` a H
1
0
() (car L
1
() nest pas contenu dans H
1
()).
Cependant si f a une forme particuli`ere on peut resoudre cette equation dans
H
1
0
()C() (voir H. Wente [164], ou par exemple H. Brezis & J.M. Coron [31,
Appendix], dont nous suivons ici la demarche).
1) Soient u, v C
2
c
(R
2
) et f :=
1
u
2
v
2
u
1
v. En posant
(x) :=
1
2
_
R
2
f(y) log |x y|dy,
montrer que = f dans R
2
.
2) Soit x
0
R
2
xe. En utilisant les coordonnees polaires autour de x
0
, on
note x = x
0
+ (r cos , r sin) puis on pose g(r, ) := u(x) et h(r, ) := v(x).
Verier que

1
u
2
v
2
u
1
v =
1
r
(g
r
h

h
r
) ,
o` u g
r
:=
r
g et g

:=

g. En deduire que
(x
0
) =
1
2
_
2
0
_

0
[g
r
h

h
r
] (r, ) log r drd.
3) En notant que g
r
h

h
r
= (gh

)
r
(gh
r
)

, montrer que :
(x
0
) =
1
2
_
2
0
_

0
(gh

)
r
(r, ) log r drd
=
1
2
_
2
0
_

0
g(r, )h

(r, )
1
r
drd .
84 Exercices du chapitre 1
4) Soit g(r) := (2)
1
_
2
0
g(r, )d. On rappelle que dapr`es linegalite de
Poincare-Wirtinger on a :
g(r, ) g(r)
L
2
(0,2)
g

(r, )
L
2
(0,2)
.
En deduire que

_
2
0
g(r, )h

(r, )d

(r, )
L
2
(0,2)
h

(r, )
L
2
(0,2)
.
5) Deduire de la question precedente et de 3) que lon a :
|(x
0
)|
1
2
u
L
2
(R
2
)
v
L
2
(R
2
)
.
6) Soient u, v C
2
c
(R
2
). Montrer que lequation
(1)
_
=
1
u
2
v
2
u
1
v
= 0
dans ,
sur ,
admet une solution unique dans H
1
0
() C() et que :

()

1

u
L
2
(R
2
)
v
L
2
(R
2
)
.
(On pourra noter que () = 0, et utiliser le principe du maximum pour
conclure que
L

()

L

()
+
L

()
). En deduire que

L
2
()

1

u
L
2
(R
2
)
v
L
2
(R
2
)
.
Etablir le meme resultat lorsque u, v C
1
c
(R
2
).
7) On suppose que u, v C
1
(). Montrer que lequation (1) admet tou-
jours une solution unique H
1
0
() C() et que pour une constante
independante de u, v on a :

()
+
L
2
()
C u
L
2
()
v
L
2
()
.
(Utiliser un theor`eme de prolongement pour se ramener au cas precedent, et
remarquer que ne change pas si on remplace u et v par um(u) et vm(v)
respectivement, o` u m(w) := mes()
1
_

w(x)dx est la moyenne de w ; puis


utiliser linegalite de Poincare-Wirtinger dans H
1
()).
8) En utilisant ce qui prec`ede, conclure que pour u, v H
1
(), lequation (1)
admet une solution unique dans H
1
0
() C() et que

()
+
L
2
()
C u
L
2
()
v
L
2
()
.
9) En deduire que si u, v H
1
(), alors
1
u
2
v
2
u
1
v H
1
() et que

1
u
2
v
2
u
1
v
H
1
()
Cu
L
2
()
v
L
2
()
.
Exercices du chapitre 1 85
Montrer egalement que si w H
1
0
() L

(), on a

1
u
2
v
2
u
1
v, w =
_

(
1
u(x)
2
v(x)
2
u(x)
1
v(x)) w(x)dx
C u
L
2
()
v
L
2
()
w
L
2
()
.
10) Etablir le resultat precedent dans le cas o` u est borne mais quelconque
et u, v H
1
0
().
Exercice 34. Soit un ouvert borne de R
2
. On sait quen general si a
n
, b
n
sont deux suites de (L
2
())
2
qui convergent faiblement, on ne peut rien dire de
la convergence de la suite des produits (a
n
b
n
)
n
. Cependant dans certains cas
particuliers on peut etablir un resultat de convergence faible. Le resultat suivant
est un cas particulier dun theor`eme plus general disant que si, en plus, les suites
(div(a
n
))
n
et (rot(b
n
))
n
sont bornees dans L
2
(), alors a
n
b
n
converge dans
D

() (cest la compacite par compensation, voir F. Murat [121]). Dans la suite


on consid`ere deux suites (u
n
)
n
et (v
n
)
n
de H
1
0
() qui convergent faiblement
respectivement vers u et v dans H
1
0
().
1) Soit w W
1,p
0
(). Verier que si p > 2, alors u
n

i
w tend vers u
i
w dans
L
2
()-fort pour i = 1, 2.
2) Soient f
n
:=
1
u
n

2
v
n

2
u
n

1
v
n
et f :=
1
u
2
v
2
u
1
v. Montrer
que (f
n
)
n
est bornee dans H
1
() L
1
(), et que f
n
f dans W
1,q
()
pour tout q < 2 (voir Exercice 33, question 9). On notera que si p := q

:=
q/(q 1), pour w W
1,p
0
() on peut ecrire

1
u
n

2
v
n

2
u
n

1
v
n
, w =

[
1
w(x)
2
v
n
(x)
2
w(x)
1
v
n
(x)] u
n
(x)dx
et on utilisera la question precedente et lExercice 8).
3) En reprenant le resultat de la question 10) de lExercice 33, on sait quil
existe
n
H
1
0
() telle que

n
=
1
u
n

2
v
n

2
u
n

1
v
n
.
Montrer que (
n
)
n
est bornee dans H
1
0
(), et que si H
1
0
() est solution
de
=
1
u
2
v
2
u
1
v,
alors
n
dans H
1
0
()-faible.
4) Deduire des questions 2) et 3) que
1
u
n

2
v
n

2
u
n

1
v
n
tend faiblement
vers
1
u
2
v
2
u
1
v dans H
1
().
Exercice 35. On se propose de montrer que si 1 p et u W
1,p
(), alors
1
[u=0]
u = 0 presque partout sur . On suit ici la demonstration proposee par
F. Almgren & E.H. Lieb [3]. Dans la suite u W
1,p
() est xee.
1) Montrer que si est un ouvert de mesure nie de R alors il existe une
suite croissante de fonctions continues (f
n
)
n
telle que f
n
1

p.p. sur R.
86 Exercices du chapitre 1
2) Soient un ouvert de R de mesure nie et A := u
1
(). On pose
M(t) :=
_
t
0
1

(s)ds. En rempla cant dabord 1

par une suite (f


n
)
n
comme ` a
la question precedente, et M(t) par M
n
(t) :=
_
t
0
f
n
(s)ds, montrer que pour
1 i N et D() on a :
(1)
_

[u(x) M(u(x))]
i
(x)dx
=
_

(1 1
A
(x))
i
u(x) (x)dx.
3) Soit E R un ensemble de mesure nulle et A = u
1
(E). En considerant
une suite douverts
n
contenant E et telle que mes(
n
) tend vers zero,
deduire de (1) que pour tout D() on a :
_

u(x)
i
(x)dx =
_

(1 1
A
(x))
i
u(x) (x)dx.
En conclure que
_

1
A
(x)
i
u(x) (x)dx = 0 et que 1
A

i
u = 0 p.p. sur . En
particulier pour tout c R on a 1
[u=c]
u = 0 p.p. sur .
Exercice 36. Soient un ouvert de R
N
et T une application lineaire et continue
de L
2
() dans lui-meme. On dit que T est un operateur local si pour tout
u L
2
(), le support de Tu est contenu dans celui de u. On va montrer que T
est une multiplication, cest-` a-dire quil existe L

() telle que :
(1) u L
2
(), Tu = u.
1) Montrer que si A est mesurable et u L
2
(), alors : T(1
A
u) = 1
A
Tu.
2) On suppose que est de mesure nie et on pose := T(1

). Montrer
que

T, o` u
T := sup{Tu
2
; u
2
1} .
3) Montrer, dans le cas general, que := T(1

) est dans L

() et que (1)
est vraie. Exprimer T en fonction de .
4) Generaliser ce qui prec`ede au cas dun operateur local dun espace L
p
()
dans lui-meme.
5) Soient un ouvert de R
N
, de classe C
1
` a fronti`ere bornee et p > N. On
consid`ere, sur L
p
(), un operateur de multiplication T deni par Tu := u.
Montrer que T est un operateur continu de W
1,p
() dans lui-meme si, et
seulement si, est dans W
1,p
().
Exercice 37. Montrer que si E, F sont des espaces de Banach et A est une
application lineaire continue et injective de E sur F, alors (A
1
, A(E)) est un
operateur ferme. Donner un exemple dune application lineaire A continue de E
dans F et dun domaine D tels que (A, D) ne soit pas un operateur ferme.
Exercices du chapitre 1 87
Exercice 38. Dans lespace
1
:=
1
(N

) des suites sommables on consid`ere


loperateur (A, D(A)) deni par Au := (nu
n
)
n1
pour u dans le domaine
D(A) :=
_
(u
n
)
n1
; (nu
n
)
n1

1
_
.
Montrer que (A, D(A)) est un operateur ferme ` a domaine dense dans
1
.
Determiner (A

, D(A

)) ainsi que ladherence de D(A

) dans

.
Exercice 39. Soient E := C([0, 1]) et D(A) := C
3
([0, 1]). En considerant lope-
rateur Au := u

pour u D(A), montrer que (A, D(A)) nest pas un operateur


ferme sur E.
Exercice 40. Soient E := C([0, 1]) et Au := u

pour u D(A), o` u
D(A) :=
_
u C
2
([0, 1]) ; u(0) = u(1) = 0
_
.
Montrer que A est un operateur ferme.
Exercice 41. E := C([0, 1]), D(A) := C
2
([0, 1]) et Au := u

. Montrer que A
est un operateur ferme. Determiner son spectre.
Exercice 42. Soient E, F deux espaces de Banach, (A, D(A)) un operateur
ferme sur E ` a valeurs dans F et B une application lineaire continue de E dans
F. Montrer que (A + B, D(A)) est un operateur ferme. Donner un exemple de
deux operateurs fermes, ayant le meme domaine, tels que leur somme ne soit pas
un operateur ferme.
Exercice 43. Soient N 2 et la boule unite de R
N
. On consid`ere une fonction
C

([0, [) telle que 0 1 et :


(t) = 1 pour 0 t
1
2
, (t) = 0 si t
3
4
,
on pose ensuite (x) := x
1
x
2
(|x|) et, pour k 1,
k
(x) := (2
k
x), puis on
consid`ere les fonctions :
f(x) :=

k=1
1
k
()(2
k
x), u(x) :=

k=1
2
2k
k

k
(x).
1) Montrer que f C(), u C
1
(), alors quen dehors de lorigine u est
de classe C

et nulle sur .
2) Montrer que si |x
n
| = 2
n
, alors
12
u(x
n
) +lorsque n . Verier
que
ii
u C() pour 1 i N et que u = f dans .
3) Soient E := C(), D(A) :=
_
u C
2
() ; u = 0 sur
_
et Au :=
u. Deduire de ce qui prec`ede que A nest pas un operateur ferme sur E.
Montrer cependant que A est fermable.
Exercice 44. Soient 1 < p < et f L
p
(R
N
). On sinteresse ici ` a la resolution
(dans L
p
(R
N
)) de lequation :
88 Exercices du chapitre 1
(1) u +u = f dans D

(R
N
).
1) On suppose que f C

c
(R
N
). Montrer que (1) admet une solution u
C

(R
N
) et que u
p
f
p
(multiplier lequation par |u|
p2
u si p 2
et par (u
2
+ )
(p2)/2
u si p < 2, o` u est une fonction de troncture que
lon fera tendre vers 1, alors que 0). En deduire que pour f L
p
(R
N
)
lequation (1) admet une solution unique dans L
p
(R
N
).
2) De meme lorsque p 2, en remarquant que v :=
i
u verie v + v =

i
f, multiplier cette derni`ere equation par |v|
p2
v et eectuer une integration
par parties sur
_
R
N

i
f(x)|
i
v(x)|
p2

i
v(x)dx
pour montrer que lon a
_
R
N
|
i
u(x)|
2
|
i
u(x)|
p2
dx +
i
u
p
p
(p 1)
_
R
N
|f(x)| |
i
u(x)|
p2
|
ii
u(x)|dx.
3) En deduire que si p 2, pour une constante independante de p on a

i
u
p
C f
p
.
4) Montrer que si 2 p < , alors pour tout f L
p
(R
N
) lequation (1)
admet une solution unique dans W
1,p
(R
N
) et que
u
p
+u
p
C(N) f
p
.
5) Montrer que si 2 p < pour tous > 0 et f L
p
(R
N
), lequation
trouver u W
1,p
(R
N
), u +u = f,
admet une solution unique. (En fait en utilisant le theor`eme 11.1 on sait
que le resultat est vrai pour 1 < p < et que la solution appartient ` a
W
2,p
(R
N
)).
Exercice 45. Soient un ouvert borne regulier de R
N
et 1 < p < . On pose
Au := u pour u D(A) o` u
D(A) :=
_
u L
p
() W
1,p

0
() ; u L
p

()
_
.
Determiner p pour que (A, D(A)) soit un operateur ferme de L
p
() dans L
p

().
Determiner egalement (A

, D(A

)).
Exercice 46. Soient c L

(R
N
) une fonction positive et (a
ij
())
ij
une matrice
uniformement coercive sur R
N
` a coecients dans L

(R
N
). Montrer que si u
W
1,p
(R
N
) verie
Exercices du chapitre 1 89

i,j=1

i
(a
ij

j
u) +cu 0 dans D

(R
N
),
alors on a u 0 presque partout.
Exercice 47. Soit a(x) := 2 pour 1 x < 0 et a(x) := 1 pour 0 x 1. Sur
L
2
(1, +1) on consid`ere loperateur Au := (a(x)u

avec le domaine
D(A) :=
_
u H
1
0
(1, +1) ; Au L
2
(1, +1)
_
.
Verier que les fonctions C

c
(1, +1) ne sont pas toutes contenues dans D(A).
Si u D(A) et Au = f H
k
(1, +1), que peut-on dire de la regularite de u ?
Exercice 48. Soient E un espace de Banach complexe et A L(E). En utilisant
la relation R()R() = ()R()R(), satisfaite pour , (A), montrer
que si (
n
)
n
est une suite de (A) convergeant vers C, alors
(A) lim
n
R(
n
) = +.
Exercice 49. Soient E un espace de Banach et (A, D(A)) un operateur lineaire
sur E. Montrer que si pour un
0
(A) la resolvante R(
0
) est compacte, alors
R() est compacte pour tout (A).
Exercice 50. Soit a
n
0 une suite de nombres telle que la serie
f(z) :=

n=0
a
n
z
n
,
soit de rayon de convergence 1. Montrer que z
0
:= 1 est un point singulier de f,
et donner un exemple o` u neanmoins f(1) est ni. En deduire le lemme 12.3.
Exercice 51. Soient f L
2
(0, 1) et k R. On consid`ere lequation :
(1)
_
_
_
u

+ u = f dans L
2
(0, 1)
u(0) = u(1)
u

(1) u

(0) = k.
1) Soit V :=
_
v H
1
(0, 1) ; v(0) = v(1)
_
. Montrer que V est un sous-espace
ferme de H
1
(0, 1). Montrer que si u L
2
(0, 1) est solution de (1), alors u V
et pour tout v V on a :
(2)
_
1
0
(u

(x)v

(x) +u(x)v(x))dx =
_
1
0
f(x)v(x)dx +kv(0).
2) Pour f L
2
(0, 1) et k R, montrer que le probl`eme (2) admet une
solution unique. Verier que la solution de (2) appartient en fait ` a H
2
(0, 1)
et verie lequation (1).
90 Exercices du chapitre 1
Exercice 52. Soient un ouvert borne et regulier de R
N
, f L
2
() et k R.
On consid`ere lequation :
(1)
_
u +u = f dans L
2
()
u = constante sur ,
_

u
n
()d = k.
On remarquera que la valeur de u sur le bord fait partie des inconnues du
probl`eme. Comme toujours, /n designe la derivee normale exterieure sur .
1) Soit V :=
_
v H
1
() ; v est constante sur
_
. Montrer que V est un
sous-espace ferme de H
1
(). Si v V on notera m(v) la valeur de v sur .
Montrer que si u L
2
() est solution de (1), alors u V et pour tout v V
on a :
(2)
_

(u(x) v(x) +u(x)v(x)) dx =


_

f(x)v(x)dx +km(v).
2) Pour f L
2
() et k R, montrer que le probl`eme (2) admet une solution
unique. Verier que la solution de (2) appartient en fait ` a H
2
() et verie
lequation (1).
Exercice 53. Soient N 1 un entier et F R
N
un compact. On denit la
capacite de F dans R
N
par :
Cap F := inf
_

2
H
1
(R
N
)
; C

c
(R
N
), , = 1 au voisinage de F
_
.
Si R
N
est un ouvert borne connexe, de classe C
1
et F , on designe
par H
F
() la fermeture dans H
1
() de lensemble des fonctions de C
1
() qui
sannulent sur un voisinage de F.
1) Soient N 2, le cube unite 0 < x
i
< 1 pour 1 i N, et F la partie
du bord denie par x
N
= 0. Montrer linegalite de Poincare :
v H
F
(),
_

|v|
2
dx C
_

|v|
2
dx.
2) Soit comme dans 1). Montrer que linegalite correspondante est fausse
si F est reduit ` a un seul point, par exemple F = {0}. Montrer aussi (ce qui
est un peu plus delicat) que linegalite est fausse si N 3 et si F est la partie
du bord denie par x
N1
= x
N
= 0.
3) Soient un ouvert borne, connexe, de classe C
1
de R
N
et F
un ferme. Montrer que si Cap F = 0, alors H
F
() = H
1
() (remarquer
que si u C
1
(), et si
n
C
1
() est telle que
n

2
H
1
(R
N
)
Cap F,
alors (1
n
)u tend vers u dans H
1
()). Conclure que dans ce cas il ny a
pas dinegalite de Poincare
_

|v|
2
dx C
_

|v|
2
dx valide pour tout v
H
F
().
4) Soient F un compact de R
N
et g C

c
(R
N
) telle que g = 1 sur un
voisinage de F. On pose
K :=
_
v H
1
(R
N
) ; v g H
1
0
(R
N
\ F)
_
.
Exercices du chapitre 1 91
Montrer quil existe K telle que
Cap F =
_
R
N
_
|(x)|
2
+(x)
2

dx.
5) Montrer quil existe une mesure positive portee par F, telle que la
fonction trouvee en 4), verie + = au sens des distributions.
6) Montrer que la masse totale de est (F) = Cap F (noter que (F) =
_
F
d =
_
F
d pour tout tel que = 1 sur F).
Exercice 54. Un point generique de R
2
etant note (x
1
, x
2
), on consid`ere louvert
:= B(0, 4)\{(0, x
2
) ; x
2
2}. En partant dune fonction telle que (x) = 1
pour |x| 1 et (x) = 0 si |x| 2, montrer quune fonction u W
1,p
(R
2
) peut
verier u = 0 p.p. sur
c
, mais neanmoins u / W
1,p
0
().
Exercice 55. On suppose que u C
2
(]0, [) L

(0, ) est non identiquement


nulle et verie lequation dierentielle
(1) u

2cotg(x)u

= u.
Montrer que necessairement = k
2
1 pour un entier k 1 (en posant v(x) =
(x)u(x), trouver une fonction telle que v soit solution de v

= ( + 1)v,
avec v H
1
0
(0, )).
Exercice 56. Soient un ouvert borne et connexe de R
N
et (A, D(A)) un
operateur auto-adjoint de L
2
() dans lui-meme, deni par
Au := div (a()u) +c()u,
et D(A) :=
_
u H
1
0
() ; cu L
1
loc
(), Au L
2
()
_
o` u les coecients a
ij
sont
dans L

(), c L
1
loc
() et c

() + L
q
() avec q = + N/2 pour un
> 0. On suppose de plus que A satisfait le principe du maximum fort, en ce
sens que si Au = f 0 dans H
1
(), alors u > 0 dans , et on note

1
:= inf {(A|) ; D(A), = 1} .
1) Montrer que
1
est atteint.
2) On suppose que u D(A) verie Au =
1
u et u 0. Montrer que u
est de signe constant (si := u
+
0, montrer que (A|) =
1

2
, et en
deduire que A =
1
).
3) En deduire que
1
est valeur propre simple de A.
4) Soit L

() une fonction telle que > 0 p.p. et

1
() :=
_
(A|) ; H
1
0
(),
_

|(x)|
2
(x)dx
_
.
Montrer que
1
() est atteint, et que cest une valeur propre simple du
probl`eme A
1
=
1
()
1
.
92 Exercices du chapitre 1
5) Montrer que si 0 <
1

2
alors
1
(
2
)
1
(
1
). Montrer aussi que si

2

1
, on a
1
(
2
) <
1
(
1
).
Exercice 57. Soient un ouvert borne et connexe de classe C
1
et a() une
matrice symetrique ` a coecients dans W
1,
().
1) Montrer que

2
:= inf
__

a(x)(x) (x)dx ;
2
= 1,
_

(x)dx = 0
_
,
est atteint.
2) En deduire que
1
:= 0 est valeur propre simple du probl`eme
div (a()) = , (a()u()) n() = 0 sur .
Exercice 58. Soient un ouvert borne et connexe de R
N
de classe C
1
,
a
ij
, b
i
, c, des fonctions ` a valeurs reelles de C() o` u la matrice (a
ij
(x))
1i,jN
est symetrique et uniformement coercive sur , et (x)
0
> 0. On consid`ere
les operateurs L
0
et L denis par
L
0
u :=
N

i,j=1
a
ij

ij
u +b u, Lu := L
0
u +cu.
On suppose que C est telle que pour une fonction non nulle C
2
()C()
(` a valeurs complexes) on a
(1) L = dans , = 0 sur .
1) Soit v C
2
() C() une fonction telle que v(x) > 0 dans ; on pose
pour u C
2
() C()

Lu :=
N

i,j=1
a
ij

ij
u +b u
2
v
N

i,j=1
a
ij

j
v
i
u.
Montrer que si u = 0 sur et

Lu 0 dans , alors u 0.
2) Soit v C
2
() C() telle que v(x) > 0 dans . Montrer que si u :=
|/v|
2
, alors on a

Lu 2
Re() v Lv
v
u dans .
(En posant z := /v, calculer

Lz et

Lz en fonction de , v et L
0
, L
0
v, puis
verier que

Lu Re(z

Lz) +Re(z

Lz)).
3) On suppose que R est tel que pour une fonction v C
2
() C()
telle que v(x) > 0 dans on a Lv v dans . Montrer que Re().
4) En deduire que si est valeur propre de L pour le probl`eme (1), alors
pour toute fonction v C
2
() C() telle que v(x) > 0 sur , on a :
Exercices du chapitre 1 93
Re() inf
x
Lv(x)
(x)v(x)
.
On a ainsi une caracterisation de la premi`ere valeur propre du probl`eme de
Dirichlet L = avec = 0 sur , ` a savoir :

1
= sup
_
R ; v C
2
() C(), v > 0 dans , Lv v
_
.
Exercice 59. Soient X un espace vectoriel et f, g deux formes lineaires sur X.
On suppose que pour tout X tel que f, > 0, on a g, 0. Montrer
quil existe 0 tel que g = f.
Soient un ouvert de R
N
, u 0 et v deux elements de L
1
loc
(). On suppose
que :
C

c
(),
_

u(x)(x)dx > 0 =
_

v(x)(x)dx 0.
En deduire quil existe 0 tel que v = u.
Exercice 60. Soient X un espace vectoriel et f
0
, f
1
, . . . , f
m
des formes lineaires
sur X. On suppose que

1jm
ker(f
j
) ker(f
0
) .
1) Pour x X, on pose (x) := (f
0
(x), f
1
(x), . . . , f
m
(x)). Montrer que (X)
est ferme dans R
m+1
et que e
0
:= (1, 0, . . . , 0) / (X).
2) Montrer quil existe a R et := (
0
,
1
, . . . ,
m
) R
m+1
tels que pour
tout (X) on ait (ici designe le produit scalaire euclidien de R
m+1
) :
e
0
< a < .
3) Montrer quen realite a = 0, en deduire que
0
< 0, et que pour tout
x X on a

0
f
0
(x) +
m

j=1

j
f
j
(x) = 0 .
4) Conclure quil existe
1
,
2
, . . . ,
m
R tels que f
0
=

m
j=1

j
f
j
.
5) Prouver le lemme 14.6.
Exercice 61. Soient X un espace de Banach, K un convexe ouvert de X et
f : K R une fonction convexe et s.c.i. On se propose de montrer que f est
continue et meme localement lipschitzienne.
1) Donner un exemple de fonction convexe non continue (dans un espace de
dimension innie).
2) On suppose que 0 K, que f(0) = 0 et quil existe R
0
> 0 et M > 0 telles
que pour tout x B(0, R
0
) on ait f(x) M. Montrer que si 0 < R
0
,
alors pour tout x B(0, ), on a |f(x)| MR
1
0
. En deduire que pour tout
x B(0, R
0
) on a |f(x)| MR
1
0
x.
94 Exercices du chapitre 1
3) On suppose que pour tout x
0
K il existe M > 0 et R
0
> 0 telles que si
x B(x
0
, R
0
), on ait f(x) M. Montrer que
x B(x
0
, R
0
), |f(x) f(x
0
)| MR
1
0
x x
0
.
4) Soient x
0
K et R > 0 xes. Montrer quil existe x
1
B(x
0
, R), R
1
>
0 et n
1
entier tels que pour x B(x
1
, R
1
) on ait f(x) n
1
(on pourra
considerer pour n 1 entier, les ensembles
F
n
:=
_
x B(x
0
, R) ; f(x) n
_
,
et utiliser le theor`eme de Baire).
5) Montrer que f est localement lipschitzienne sur K.
Exercice 62. Soient 1 p < et pour x
p
:=
p
(N

) la fonction
f(x) :=

n=1
|x
n
|
np
.
Montrer que f est une fonction convexe continue sur
p
, mais nest pas bornee
sur les bornes.
Exercice 63. Soit un ouvert de R
N
et f : R R une fonction de
Caratheodory, telle que
s R, p.p. sur , |f(x, s)| a(x) +b|s|,
o` u a L
2
(), et b 0 est une constante. On suppose que loperateur Bu :=
f(, u()) est de classe C
1
de L
2
() dans lui-meme. En utilisant lExercice 36,
montrer quil existe deux fonctions a
0
L
2
() et b
0
L

() telle que f(x, s)


a
0
(x) +b
0
(x)s.
Exercice 64. Soient 1 p < et f L
p
loc
(R) une fonction de periode 1, i.e.
f(x + 1) = f(x) p.p. sur R. On denit la moyenne de f par
M(f) :=
_
1
0
f(x)dx.
1) Pour n 1 et x ]0, 1[, on pose u
n
(x) := f(nx). Montrer que si p > 1,
alors u
n
M(f) dans L
p
(0, 1)-faible.
2) On suppose que p = 1, et on consid`ere de nouveau la suite (u
n
)
n
. Pour
> 0, en approchant f par une fonction periodique g

(R) telle que


M(|f g

|) < , et en considerant v
n
(x) := g

(nx), montrer que u


n
M(f)
dans L
1
(0, 1)-faible.
3) Etudier les questions precedentes dans le cas particulier de la fonction f
donnee sur ]0, 1[ par
f := 1
]0,1/2[
+1
[1/2,1[
,
o` u , R sont xes.
Exercices du chapitre 1 95
4) Soient 1 p, q < et g C(R, R) telle que pour tout u L
p
(0, 1) on
ait g(u) L
q
(0, 1). On pose Bu := g(u()), et on suppose que loperateur
B est sequentiellement continu de L
p
(0, 1)-faible dans L
q
(0, 1)-faible, i.e. si
u
n
u dans L
p
(0, 1)-faible, alors Bu
n
Bu dans L
q
(0, 1)-faible. Montrer,
en utilisant la question 3), que la fonction g est ane.
Exercice 65. Soient k 0 un entier, p 1 et un ouvert de mesure nie.
Pour u L
p
() on pose V (u) :=
_

(1 cos(u(x)))dx. Determiner tous les p


pour lesquels V est de classe C
k
sur L
p
().
Exercice 66. Soient un ouvert de R
N
et S
N
lensemble des matrices
symetriques dordre N. On rappelle que si
1
,
2
S
N
, on ecrit
1

2
lorsque
la matrice
1

2
est semi-denie positive. On dit quune fonction
H : R R
N
S
N
R,
est un hamiltonien elliptique du second ordre si H nest pas constant en S
N
et si pour tout (x, u, ) R R
N
et
1
,
2
S
N
avec
1

2
, on a
H(x, u, ,
1
) H(x, u, ,
2
).
Si H est un hamiltonien elliptique on dit que lequation
H(x, u(x), u(x), D
2
u(x)) = f(x)
est une equation elliptique (non-lineaire en general).
1) Soient A, B S
N
, avec A denie positive et B semi-denie positive.
Montrer que tr(AB) 0.
2) Soit a() := (a
ij
())
1i,jN
une matrice symetrique denie positive sur
. On suppose que b
i
(pour 1 i N) et c ainsi que les coecients a
ij
sont
des elements de C() et on pose
H(x, u, , ) := tr(a(x)) +b(x) +c(x)u.
Deduire de la question precedente que H est un hamiltonien elliptique du
second ordre.
3) Soit un ouvert de R
N
et f : R une fonction. Trouver un hamil-
tonien H(, ) tel que lequation
(1)
_
1 + |u|
2
_
1/2
_
u +

i
u
j
u
1 + |u|
2

ij
u
_
= Nf(x),
secrive comme H(u, D
2
u) = f (si u est solution de lequation (1), la surface
representee par (x, u(x)) dans R
N+1
, lorsque x parcourt , a une courbure
moyenne qui est en chaque point egale ` a f(x)).
4) En reprenant les notations ci-dessus, trouver une fonctionnelle E, et
un espace de Banach X tels que tout point critique u de E sur X verie
H(u, D
2
u) = f (on pourra noter que si
96 Exercices du chapitre 1
J(u) :=
_

_
_
1 + |u(x)|
2
_
1/2
1
_
dx,
alors J

(u), v =
_

_
1 + |u(x)|
2
_
1/2
u(x) v(x)dx).
5) Interpreter lequation (1) et sa solution eventuelle, dans le cas particulier
o` u N = 1 et =]0, 1[.
2 Le degre topologique
Soient N 1 un entier, un ouvert de R
N
, f : R
N
une fonction continue
et b R
N
un point xe. Lidee du degre topologique est dassocier ` a la fonction
f, ` a louvert et au point cible b R
N
un entier dependant contin ument de f et,
dans une certaine mesure, de b tel que si cet entier est non nul, alors lequation :
x , f(x) = b,
admet une solution. Par exemple si N := 1, :=] 1, +1[ et f C([1, +1], R),
pour tout point b = f(1) on peut considerer le nombre
deg(f, , b) :=
1
2
_
sgn(f(1) b) sgn(f(1) b))

,
qui est evidemment un entier. On voit que si deg(f, , b) = 0, on a
(f(1) b)(f(1) b)) < 0,
et par consequent il existe x ] 1, +1[ tel que f(x) = b. On imagine aussi que
la situation pour N 2 est plus complexe.
En realite, le lecteur interesse par les methodes variationnelles, peut se borner
` a etudier la notion de genre que nous introduisons au paragraphe 4. Cepen-
dant, en utilisant les techniques variationnelles en meme temps que le degre
topologique on peut etablir des resultats plus ns en ce qui concerne lexistence
de solutions pour certaines equations. Par ailleurs, comme nous le verrons par la
suite, la connaissance du degre topologique de Leray-Schauder permet egalement
de resoudre des equations aux derivees partielles qui nont pas de formulation
variationnelle.
1. Degre topologique de Brouwer
Nous donnons ici la version de E. Heinz [79] de la denition du degre topologique
de Brouwer. La norme de R
N
sera notee | | ; bien que de fa con generale on nait
pas besoin de preciser de quelle norme il sagit, pour xer les idees on pourra
considerer que | | est la norme euclidienne de R
N
. Si est un ouvert de R
N
,
on designe par sa fronti`ere. Pour une fonction de classe C
1
denie sur un
ouvert de R
N
et ` a valeurs dans R
N
on designe par J
f
(x) le jacobien de f au
point x, i.e.
98 Chapitre 2. Le degre topologique
J
f
(x) := det f

(x) = det
_
f
j
x
i
(x)
_
1i,jN
.
1.1 Denition. Soient N 1 un entier, un ouvert borne de R
N
, une fonction
f C
1
(; R
N
) C(; R
N
) et b R
N
tel que b f(). On consid`ere 0 < <
dist(b, f()) et une fonction C(]0, [, R) ` a support compact contenu dans
]0, [, et telle que
_
R
N
(|x|)dx = 1.
On appelle le degre topologique de Brouwer de f dans par rapport au
point cible b le nombre
deg(f, , b) :=
_

(|f(x) b|)J
f
(x)dx.
Nous allons montrer que le nombre deg(f, , b) est independant de et de
et que cest un entier. Pour ce faire nous avons besoin de quelques lemmes
techniques.
1.2 Lemme. Soit g une fonction de classe C
2
de ` a valeurs dans R
N1
. On
pose :
B
i
:= det(
1
g, . . . ,
i1
g,
i+1
g, . . . ,
N
g).
Alors on a
(1.1)
N

i=1
(1)
i

i
B
i
= 0.
Demonstration. Pour 1 i N posons C
ii
:= 0 et pour j < i :
C
ij
:= det(
1
g, . . . ,
j1
g,
ij
g,
j+1
g, . . . ,
i1
g,
i+1
g, . . . ,
N
g),
et si j > i
C
ij
:= det(
1
g, . . . ,
i1
g,
i+1
g, . . . ,
j1
g,
ij
g,
j+1
g, . . . ,
N
g).
On peut alors voir que
i
B
i
=

N
j=1
C
ij
, et que par consequent, si designe le
membre de gauche de (1.1), on a :
:=
N

i=1
(1)
i

i
B
i
=

i,j
(1)
i
C
ij
.
Mais on peut remarquer quavec les notations ci-dessus on a C
ij
= (1)
j+i1
C
ji
.
En eet, en supposant par exemple j < i, on a :
C
ij
=
(1)
j1
det(
ij
g,
1
g,. . .,
j1
g,
j+1
g,. . .,
i1
g,
i+1
g,. . .,
N
g),
C
ji
= det(
1
g, . . . ,
j1
g,
j+1
g, . . . ,
i1
g,
ij
g,
i+1
g, . . . ,
N
g)
= (1)
i
det(
ij
g,
1
g,. . . ,
j1
g,
j+1
g,. . . ,
i1
g,
i+1
g,. . . ,
N
g).
1. Degre topologique de Brouwer 99
Cela implique nalement que :
=

i,j
(1)
j1
C
ji
=

i,j
(1)
j
C
ij
= ,
et le lemme est prouve.
1.3 Lemme. Soit f : R
N
une fonction de classe C
2
. On designe par
A
ij
(x) le cofacteur de
i
f
j
(x) dans J
f
(x). Alors pour tout j

1
N
xe on a :
N

i=1

i
A
ij
= 0.
Demonstration. Rappelons que le cofacteur A
ij
est donne par
A
ij
= (1)
i+j
det
_

f
k
_
k=j
=i
.
Pour j xe, en appliquant le lemme 1.2 ` a la fonction
g = (f
1
, . . . , f
j1
, f
j+1
, . . . , f
N
),
on obtient le resultat annonce.
1.4 Lemme. Soient un ouvert borne de R
N
, f C
1
(; R
N
) C(; R
N
)
et : [0, +[ R une fonction continue. On suppose que 0 f() et que
supp ]0, [ pour un 0 < < dist(0, f()), et
_

0
r
N1
(r)dr = 0.
Alors on a _

(|f(x)|)J
f
(x)dx = 0.
Demonstration. Lidee de la preuve est decrire la fonction x (|f(x)|)J
f
(x)
comme la divergence dune fonction nulle au voisinage du bord et de faire
ensuite une integration par parties. Supposons pour un instant que f C
2
. Soit
(0) := 0 et pour r > 0 :
(r) := r
N
_
r
0
t
N1
(t)dt.
Comme est continue et que son support est loin de lorigine, on voit facilement
que C
1
c
(]0, [, R) et que :
r

+N = .
Pour y R
N
posons F(y) := (|y|)y, de telle sorte que
(1.2) divF(y) = F(y) = |y|

(|y|) +N(|y|) = (|y|).


100 Chapitre 2. Le degre topologique
Si x on a, en utilisant le lemme 1.3 et ses notations :

j
A
ij
(x)F
j
(f(x)) =
=

j
(
i
A
ij
(x)) F
j
(f(x)) +

j
A
ij
(x)
i
_
F
j
(f(x))
_
=

j
A
ij
(x)

i
f
k
(x)
F
j
y
k
(f(x))
=

k
_

i
A
ij
(x)
i
f
k
(x)
_
F
j
y
k
(f(x)).
Or dapr`es la r`egle de Cramer on sait que :

N
i=1
A
ij
(x)
i
f
k
(x) =
kj
J
f
(x), ce
qui donne :

j
A
ij
(x)F
j
(f(x)) = J
f
(x) ( F) (f(x)).
On peut donc ecrire, en utilisant la relation ci-dessus et (1.2) :
(|f(x)|)J
f
(x) = J
f
(x)[r

(r) +N(r)]

r=|f(x)|
= J
f
(x) F

y=f(x)
=
N

i=1

i
N

j=1
A
ij
(x)F
j
(f(x)).
On deduit nalement de cette derni`ere egalite que
_

(|f(x)|)J
f
(x)dx =
N

i=1
_

i
_

j
A
ij
(x)F
j
(f(x))
_
dx.
Mais puisque F
j
(f(x)) = 0 dans un voisinage de la fronti`ere , une integration
par parties montre que la derni`ere integrale est nulle et le lemme est prouve, pour
une fonction f de classe C
2
. Le cas general se deduit par regularisation de f.
On va voir maintenant que la denition du degre est independante de et .
1.5 Proposition. Avec les hypoth`eses et notations de la denition 1.1, le degre
topologique deg(f, , b) est independant de et de la fonction , pourvu que
< dist(b, f()).
Demonstration. Soient
0
:= dist(b, f()) et 0 <
1
,
2
<
0
. Si
1
et
2
ont
leur support contenu dans respectivement dans ]0,
1
[ et ]0,
2
et sont telles que
_
R
N

1
(|x|)dx =
_
R
N

2
(|x|)dx = 1,
1. Degre topologique de Brouwer 101
alors en posant :=
1

2
, on a
_

0
r
N1
(r)dr = 0, et en appliquant le
lemme 1.4 ` a et x f(x) b on obtient
_

(|f(x) b|)J
f
(x)dx = 0.
Avant de voir que le degre topologique est un entier, nous allons montrer sa
stabilite par rapport ` a f.
1.6 Proposition. Soient un ouvert borne, f
1
, f
2
C
1
(; R
N
) C(; R
N
)
et b un point de R
N
. On suppose que b / f
1
() f
2
(). Alors si > 0 est tel
que
<
1
4
dist(b, f
1
() f
2
()), et f
1
f
2

< ,
on a deg(f
1
, , b) = deg(f
2
, , b).
Demonstration. Comme deg(f, , b) = deg(f b, , 0), on peut supposer, sans
perte de generalite, que b = 0. Soit : [0, [[0, 1] une fonction de classe C

telle que
(r) =
_
1 0 r ,
0 r 2.
En introduisant la fonction :
f
3
(x) := (1 (|f
1
(x)|))f
1
(x) +(|f
1
(x)|)f
2
(x),
on verie que pour 1 i, k 3 on a f
i
f
k

< et pour x , on a
|f
i
(x)| > 3. Dautre part le choix de implique :
f
3
(x) =
_
f
1
(x)
f
2
(x)
si |f
1
(x)| > 2,
si |f
1
(x)| < .
On va maintenant choisir les fonctions
1
et
2
pour denir le degre des fonctions
f
1
, f
2
de la fa con suivante :
supp(
1
) ]2, 3[,
_
R
N

1
(|x|)dx = 1,
supp(
2
) ]0, [,
_
R
N

2
(|x|)dx = 1.
Comme f
3
concide (en partie) avec f
1
ou avec f
2
, on a alors :

1
(|f
3
(x)|)J
f3
(x) =
1
(|f
1
(x)|)J
f1
(x) ,

2
(|f
3
(x)|)J
f3
(x) =
2
(|f
2
(x)|)J
f2
(x).
Cela implique de fa con evidente
deg(f
3
, , 0) = deg(f
1
, , 0), et deg(f
3
, , 0) = deg(f
2
, , 0).
Le resultat que lon vient de voir montre que le degre topologique est robuste
et permet en particulier detendre la denition du degre topologique aux fonc-
tions qui sont seulement continues.
102 Chapitre 2. Le degre topologique
1.7 Theor`eme & Denition. Soient un ouvert borne de R
N
et f
C(, R
N
). On consid`ere un point b / f() et (f
k
)
k
une suite de fonctions
de C
1
(; R
N
) C(; R
N
) telle que
f
k
f

0 sur ,
alors le degre topologique de f
k
existe pour k assez grand et le degre topologique
de f est deni par :
(1.3) deg(f, , b) := lim
k
deg(f
k
, , b).
Demonstration. En eet comme f f
k

0 sur , pour k k
0
as-
sez grand, b nappartient pas ` a f
k
() et par consequent le degre topologique
deg(f
k
, , b) est bien deni. Par ailleurs la proposition 1.6 implique que si k, j
sont assez grands pour que
f
k
f
j

<
1
4
dist (b, f
k
() f
j
()) ,
alors deg(f
k
, , b) = deg(f
j
, , b). On conclut que la suite des degres topologiques
(deg(f
k
, , b))
k
est stationnaire et la denition (1.3) a un sens. Ensuite on verie
facilement que cette denition est independante de la suite (f
k
)
k
.
Le degre topologique etant deni pour des fonctions continues, nous allons
en etudier quelques proprietes utiles pour la suite, et au cours de cette etude
nous verrons que le degre est un entier (element de Z).
2. Proprietes du degre
Nous regroupons ici les proprietes les plus importantes du degre topologique de
Brouwer. Lorsque cela nest pas precise, designe un ouvert borne de R
N
et
f : R
N
une fonction continue.
La premi`ere propriete importante du degre est sa stabilite, propriete qui nous
a permis detendre la denition 1.1 aux fonctions continues ; la demonstration
de la proposition suivante est evidente.
2.1 Proposition (Stabilite). Soient un ouvert borne de R
N
et b R
N
.
On suppose que f
1
, f
2
: R
N
sont deux fonctions continues telles que
b / f
1
() f
2
(). Alors si
f
1
f
2


1
4
dist(b, f
1
() f
2
()),
on a deg(f
1
, , b) = deg(f
2
, , b).
Un autre type de stabilite concerne les perturbations par rapport ` a la cible
b.
2. Proprietes du degre 103
2.2 Proposition (Stabilite par rapport `a la cible). Soient un ouvert
borne et f C(, R
N
). On suppose que b, b

R
N
sont dans la meme com-
posante connexe de f()
c
alors
deg(f, , b) = deg(f, , b

).
Demonstration. Il sut de voir que si b
1
R
N
est assez proche de b, alors le
degre est le meme. Soit > 0 tel que <
1
4
dist(b, f()), et posons
f
0
(x) := f(x) b, f
1
(x) := f(x) b
1
.
On voit que si dist(b
1
, b) < , alors f
0
f
1

< , et que par consequent dapr`es


la proposition precedente :
deg(f, , b) = deg(f
0
, , 0) = deg(f
1
, , 0) = deg(f, , b
1
).
2.3 Proposition (Additivite). Soient
1
,
2
deux ouverts bornes disjoints
de R
N
et f C(
1

2
, R
N
). Si b est un point de R
N
et b / f(
1
) f(
2
),
alors :
deg(f,
2

2
, b) = deg(f,
1
, b) + deg(f,
2
, b).
Demonstration. Si on suppose de plus que la fonction f est de classe C
1
,
la preuve decoule immediatement de la denition. Pour le cas general, il sut
dapprocher f par des fonctions reguli`eres.
Comme corollaire de la propostion 2.3 on a la propriete dexcision pour le
degre topologique.
2.4 Corollaire (Excision). Soient un ouvert borne, une fonction f
C(; R
N
), K un compact et b R
N
tel que b / f(K) f(). Alors :
deg(f, , b) = deg(f, K, b).
Le resultat suivant est tr`es souvent utilise pour montrer lexistence de solu-
tions pour des equations non lineaires dans R
N
. On lutilise en meme temps que
des arguments dhomotopie, comme nous le verrons plus loin.
2.5 Proposition. Soient un ouvert borne de R
N
, f C(; R
N
) et b un point
de R
N
nappartenant pas ` a f(). Si deg(f, , b) = 0, alors lequation f(x) = b
admet au moins une solution dans .
Demonstration. Il sut de montrer que si f
1
({b}) = , alors le degre
topologique deg(f, , b) est nul. Comme toujours, il sut de montrer le resultat
pour des fonctions reguli`eres. Soient 0 < < dist(b, f()) et une fonction
satisfaisant les conditions de la denition 1.1, telle que supp() ]0, [. Alors on
voit, dapr`es la denition, que deg(f, , b) = 0.
Par exemple en appliquant la denition 1.1 ` a lapplication identite I(x) := x,
on obtient :
104 Chapitre 2. Le degre topologique
2.6 Corollaire. Soient un ouvert borne et b R
N
. En designant par I
lapplication identite, on a :
deg(I, , b) =
_
1
0
si b ,
si b / .
On a aussi :
deg(I, , b) =
_
(1)
N
0
si b
si b / .
En utilisant les propositions 2.2 et 2.5 on deduit le resultat suivant :
2.7 Corollaire. Si H est un hyperplan de R
N
et f() H, alors pour tout
b / f() on a deg(f, , b) = 0.
En eet si b / H, alors le degre est nul de mani`ere evidente. Si b H, il sut
de prendre b

en dehors de H et assez voisin de b pour voir que le deg(f, , b) =


deg(f, , b

) = 0.
Soient X, Y deux espaces topologiques et f, g deux applications continues
de X dans Y . On dit que f est homotope ` a g dans Y sil existe une fonction
continue
H : X [0, 1] Y
telle que H(x, 0) = f(x) et H(x, 1) = g(x) pour tout x X. La fonction
H est alors appelee une homotopie. On verie sans peine que la relation f est
homotope ` a g dans Y est une relation dequivalence dans C(X, Y ). Linvariance
par homotopie du degre topologique est tr`es importante, parce quen particulier
elle permet de calculer le degre topologique de certaines fonctions en se ramenant
` a des cas o` u le calcul est facile.
2.8 Proposition (Invariance par homotopie). Soient H : [0, 1] R
N
une fonction continue et b / H( [0, 1]). Alors pour tout t [0, 1] on a :
deg(H(, t), , b) = deg(H(, 0), , b).
Demonstration. Verions tout dabord quil existe > 0 tel que si |t
1
t
2
|
alors
deg(H(, t
1
), , b) = deg(H(, t
2
), , b).
En eet soit :=
1
4
dist(b, H( [0, 1])) ; comme H(, ) est uniformement
continue sur le compact [0, 1], alors il existe > 0 tel que si |t
1
t
2
| ,
pour tout x on ait :
|H(x, t
1
) H(x, t
2
)| < .
Par consequent, dapr`es la proposition 2.1, on a
deg(H(, t
1
), , b) = deg(H(, t
2
), , b) ,
2. Proprietes du degre 105
pour tous t
1
, t
2
[0, 1] tels que |t
1
t
2
| . On deduit le resultat dinvariance
par homotopie en recouvrant le compact [0, 1] par des intervalles de longueur
.
Nous avons vu jusque-l` a que le bord de jouait un r ole particulier. En fait
en ce qui concerne le degre topologique on pourrait dire que tout se passe sur le
bord.
2.9 Proposition. Soient un ouvert borne de R
N
et deux fonctions f, g
C(, R
N
). On suppose que f = g sur et que b / f(). Alors on a
deg(f, , b) = deg(g, , b).
Demonstration. Il sut dutiliser linvariance par homotopie du degre topolo-
gique, en considerant lhomotopie
H(x, t) := tf(x) + (1 t)g(x).
Nous allons voir maintenant que le degre topologique est un entier (i.e. element
de Z).
2.10 Lemme. Soient un ouvert borne de R
N
et f C
1
(, R
N
) C(, R
N
).
On designe par S := {x ; J
f
(x) = 0} lensemble des points singuliers de f
et on suppose que b / f() f(S). Alors on a :
deg(f, , b) =

xf
1
(b)
sgn(J
f
(x)) Z.
Demonstration. Si f
1
({b}) = , on sait que le degre est nul et on na rien ` a
montrer. Supposons donc que f
1
({b}) = . On remarque en premier lieu quil
existe m 1 tel que f
1
({b}) = {x
1
, . . . , x
m
}. En eet f
1
({b}) est un compact
contenu dans \ S et de plus il est discret. Pour voir que f
1
({b}) est discret,
considerons un point x f
1
({b}) ; on sait, dapr`es le theor`eme des fonctions
implicites, quil existe un voisinage ouvert V
b
de b, et un voisinage ouvert V
x
de
x tels que f : V
x
V
b
soit un dieomorphisme : cela implique en particulier que
V
x
f
1
({b}) = {x}.
Soit r > 0 assez petit pour que B(b, r) (f() f(S)) = . On sait que
pour 1 i m, il existe un voisinage V
i
de x
i
tel que f soit un dieomorphisme
de V
i
sur B(b, r) et que f
1
(B(b, R)) =
1im
V
i
. Choisissons > 0 tel que
< min(r, dist(b, f() f(S))), et prenons une fonction C(]0, [, R) telle
que supp() ]0, [, et
_
R
N
(|x|)dx = 1. On a alors :
deg(f, , b) =
_

(|f(x) b|) J
f
(x)dx
=
m

i=1
_
Vi
(|f(x) b|) J
f
(x)dx.
En eectuant le changement de variable y := f(x) b, puisque J
f
(x) ne sannule
pas sur V
i
, on a
106 Chapitre 2. Le degre topologique
dy = |J
f
(x)|dx = sgn(J
f
(x
i
))J
f
(x)dx,
et on voit que
_
Vi
(|f(x) b|) J
f
(x)dx = sgn(J
f
(x
i
))
_
B(0,r)
(|y|)dy
= sgn(J
f
(x
i
)).
Pour obtenir le meme resultat pour le degre topologique des fonctions con-
tinues, on doit montrer que les cibles ne sont pas generiquement des valeurs
singuli`eres et ensuite utiliser la denition du degre pour les fonctions continues.
En ce qui concerne la notion intuitive selon laquelle il ny a pas trop de valeurs
singuli`eres, on dispose du theor`eme de Sard, dont nous donnons ci-dessous la
demonstration dune version limitee (mais susante pour nos besoins actuels).
2.11 Lemme de Sard. Soient ouvert borne et f C
1
(, R
N
) et
S := {x ; x , J
f
(x) = 0} ,
lensemble des points singuliers de f. Alors f(S) est de mesure nulle.
Demonstration. Il sut de considerer le cas o` u f C
1
(, R
N
) et est un
cube de c ote a. Pour k 1 entier, on divise le cube en k
N
cubes C
i
de c ote
a
k
(avec 1 i k
N
). Si i est tel que S C
i
= , soient x S C
i
et y C
i
.
Comme J
f
(x) = 0, cela signie que f

(x)
_
R
N
_
est contenu dans un hyperplan
de R
N
, soit H
x
. En designant par le module duniforme continuite de f

sur
, on a :
|f(y) f(x) f

(x) (y x)| |y x| (|y x|)

N
k
(|y x|) .
On en deduit que : dist(f(y), f(x)+H
x
)
a

N
k

_
a

N
k
_
. Par ailleurs, en posant
L := max
x
f

(x), le theor`eme des accroissements nis permet decrire, :


|f(y) f(x)| |y x| sup
0t1
|f

(x +t(y x)|
L
a

N
k
,
ce qui implique nalement que si C
i
S = , alors f(C
i
) est contenu dans
un pave depaisseur 2(a

N/k)a

N/k et dont la base a des c otes de longueur


2La

N/k. On en deduit lestimation :


mes (f(C
i
)) 2
_
a

N/k
_

N
k

_
2L
a

N
k
_
N1
et, puisquil y a k
N
cubes C
i
, on en deduit que pour tout k 1 on a :
mes (f(S)) 2
N
L
N1
(a

N)
N

_
a

N/k
_
.
En faisant tendre k +, on voit que mes (f(S)) = 0.
3. Quelques applications 107
2.12 Proposition. Soient un ouvert borne, f C(, R
N
) et b / f()
alors le degre deg(f, , b) est un entier (element de Z).
Demonstration. On peut prendre une fonction f
1
C
1
(, R
N
) C(, R
N
)
telle que
deg(f, , b) = deg(f
1
, , b).
Designons par S lensemble des points singuliers de f
1
. Puisque f
1
() est com-
pact, et que dapr`es le theor`eme de Sard f
1
(S) est de mesure nulle alors que
R
N
\f
1
() est un ouvert, on peut armer que R
N
\(f
1
() f
1
(S)) est dense
dans R
N
\f
1
(), et par consequent on peut choisir un point b
1
/ f
1
()f
1
(S),
tel que b et b
1
soient dans la meme composante connexe de R
N
\f
1
(). De cette
fa con, puisque le degre topologique est constant sur les composantes connexes
de f
1
()
c
(voir proposition 2.2) on voit que
deg(f
1
, , b) = deg(f
1
, , b
1
) Z,
et par consequent le degre topologique de f est un entier.
3. Quelques applications
Nous presentons ici un certain nombre dapplications du degre topologique.
Dans les Exercices, le lecteur trouvera dautres exemples dutilisation du degre
topologique, notamment pour la resolution de certaines equations non-lineaires.
3.1 Proposition (Non retraction de la boule). Soient B := B(0, 1) la boule
unite ouverte et S
N1
la sph`ere unite de R
N
. Il nexiste pas de fonction continue
: B S
N1
telle que

S
N1
= I.
Demonstration. Sinon dapr`es la proposition 2.9 (armant que tout se passe
sur le bord) on aurait
deg(, B, 0) = deg(I, B, 0) = 1.
On en deduit quil existe x B tel que (x) = 0, ce qui contredit lhypoth`ese
selon laquelle (x) appartient ` a la sph`ere S
N1
.
Chacun sait que si f : [1, +1] [1, +1] est une application continue,
alors il existe x [1, +1] tel que f(x) = x, i.e. f admet un point xe. La
demonstration, qui utilise des arguments de connexite et de continuite, nest pas
adaptable au cas dapplications f : B(0, 1) B(0, 1), si B(0, 1) est la boule
unite fermee de R
N
et N 2. Ce resultat important est prouve ` a laide du degre
topologique.
108 Chapitre 2. Le degre topologique
3.2 Theor`eme (theor`eme de point xe de Brouwer). Soit f : B(0, 1)
B(0, 1) une application continue. Alors f admet un point xe dans B(0, 1), i.e. :
x B(0, 1), f(x) = x.
Demonstration. Sil existe x S
N1
tel que f(x) = x, le resultat est prouve.
Sinon, pour tout x S
N1
, on a x f(x) = 0. Introduisons alors lhomotopie
H(x, t) := x tf(x) et soit B := B(0, 1). On va verier que pour tout t [0, 1]
et pour tout x S
N1
on a :
x tf(x) = 0.
En eet on le sait dej` a pour t = 1. Sil existait x S
N1
et 0 t < 1 tels que
xtf(x) = 0, on aurait alors t|f(x)| = 1, ce qui nest pas possible car |f(x)| 1
et t < 1. Par consequent le degre deg(H(, t), B, 0) est deni pour tout t [0, 1]
et
deg(H(, 1), B, 0) = deg(H(, 0), B, 0)
= deg(I, B, 0) = 1.
En utilisant la proposition 2.5, on conclut quil existe x B tel que x f(x) =
0.
Le lecteur pourra montrer, en exercice, la generalisation suivante du theor`eme
de point xe de Brouwer.
3.3 Proposition. Soit K un ouvert convexe borne et non vide de R
N
et f
C(K, K). Alors f admet un point xe dans K.
Voici un autre exemple typique de lutilisation du degre topologique.
3.4 Proposition. Si N est impair, il nexiste pas dhomotopie H telle que :
H C(S
N1
[0, 1]; S
N1
), H(, 0) = I et H(, 1) = I.
Demonstration. En eet, en utilisant le theor`eme de prolongement de Tietze-
Urysohn (cf. lemme 1.3.1) on peut prolonger H en une fonction continue

H : B(0, 1) [0, 1] B(0, 1) telle que



H(, t) = H(, t) sur S
N1
. Alors, en
designant par B la boule unite ouverte, dapr`es la proposition 2.9 et linvariance
par homotopie on obtient :
deg(

H(, 0), B, 0) = deg(

H(, 1), B, 0)
1 = deg(I, B, 0) = deg(I, B, 0) = (1)
N
,
(on utilise ici le corollaire 2.6) et ceci nest possible que si N est pair.
3.5 Remarque. Le theor`eme de point xe de Brouwer est equivalent ` a la non-
retraction de la boule unite. En eet, admettons le theor`eme de point xe de
Brouwer. Sil existe : B S
N1
telle que = I sur S
N1
, alors la fonction
f(x) := (x) na pas de point xe dans B. En eet si f(x) = x, on doit avoir
|x| = 1, et alors
3. Quelques applications 109
(x) = x = (x),
ce qui nest pas possible.
Reciproquement, admettons le theor`eme de la non-retraction de la boule
unite. Si le theor`eme de Brouwer etait faux, il existerait une fonction continue
f : B B telle que pour tout x B on ait f(x) = x. Soit alors pour x B,
:= (x) > 0 tel que lon ait (1 (x))f(x) +(x)x S
N1
. On peut montrer
que sous les hypoth`eses que nous avons ici x (x) est continue sur B (voir
Exercices) et quen particulier si x S
N1
, on a (x) = 1. En posant alors
(x) := f(x) +(x)(x f(x)),
on verie que est continue de B dans S
N1
et que = I sur S
N1
, ce qui
contredit la non-retraction de la boule unite.
Nous arrivons maintenant au type de resultats qui ont motive letude du
degre topologique en vue de son application dans la theorie des points critiques.
Si A est une partie dun espace vectoriel X, on note A lensemble :
A := {x ; x X, x A} .
On dit que A est symetrique (par rapport ` a lorigine), si on a : A = A. Si f
est une fonction denie sur un ensemble symetrique A ` a valeurs dans un espace
vectoriel Y , on dit que f est impaire si pour tout x A on a : f(x) = f(x) ;
si on a f(x) = f(x) pour tout x A, on dit que f est paire.
Le resultat suivant de Borsuk est tr`es important. Nous en donnons dabord
une version simple dans le cas des fonctions de classe C
1
puis, apr`es avoir
etabli quelques lemmes de prolongement nous donnerons la version compl`ete
du theor`eme de Borsuk.
3.6 Proposition (Borsuk). Soient un ouvert borne de R
N
, symetrique
par rapport ` a lorigine et f C(; R
N
) C
1
(; R
N
) une fonction impaire.
On designe par S lensemble des points singuliers de f et on suppose que 0 /
f(S) f(). Alors :
(i) si 0 , le degre deg(f, , 0) est un entier impair ;
(ii) si 0 / , le degre deg(f, , 0) est un entier pair.
Demonstration. Rappelons que f etant impaire on a f

(x) = f

(x) pour tout


x . Si 0 / , et si f
1
({0}) est vide, on sait, dapr`es la proposition 2.5, que
deg(f, , 0) est nul. Si f
1
({0}) est non vide, on a f
1
({0}) = {x
i
, x
i
; i =
1, . . . , m}, pour certains x
i
. On conclut donc que, gr ace au lemme 2.10 :
deg(f, , 0) =
m

i=1
_
sgn(J
f
(x
i
)) + sgn(J
f
(x
i
))
_
= 2
m

i=1
sgn(J
f
(x
i
)),
ce qui termine la preuve dans ce cas.
110 Chapitre 2. Le degre topologique
Si 0 , alors ou bien f
1
({0}) = {0} ou bien
f
1
({0}) = {0} {x
i
, x
i
; i = 1, . . . , m},
pour des x
i
et x
i
= 0. Dans le premier cas on a deg(f, , 0) = 1, alors que
dans le second on voit que
deg(f, , 0) = 1 +
m

i=1
_
sgn(J
f
(x
i
)) + sgn(J
f
(x
i
))
_
= 1 + 2
m

i=1
sgn(J
f
(x
i
)),
cest ` a dire que dans les deux cas le degre est un entier impair.
En realite, le resultat que nous venons de voir est vrai pour une fonction
continue et impaire de R
N
, pourvu que soit symetrique par rapport
` a lorigine et 0 / f(). Pour montrer le resultat dans le cas general, on doit
savoir ou bien que lon peut approcher une fonction impaire par des fonctions
impaires et de classe C
1
telles que zero est une valeur reguli`ere (cest un resultat
de transversalite), ou bien construire une fonction g, impaire et de classe C
1
,
telle que lorigine ne soit pas valeur singuli`ere de g et telle que f et g aient le
meme degre topologique ` a lorigine. Cest ce deuxi`eme point de vue que nous
adoptons, en suivant les notes de P.H. Rabinowitz [135] redigees et mise au
point par H. Berestycki (voir aussi E. Zeidler [166, chapter 16], o` u on trouvera
egalement dautres applications de ce resultat). Cependant le lecteur qui est
seulement interesse par les applications du theor`eme de Borsuk, peut eviter les
trois lemmes suivants.
3.7 Lemme. Soient k et N des entiers tels que k < N, A R
k
un compact et
f C(A; R
N
) une fonction telle que 0 / f(A). Alors si B est un cube ferme de
R
k
tel que A B, il existe g C(B; R
N
) telle que g(x) = f(x) pour tout x A
et 0 / g(B).
Demonstration. Soit := min
xA
|f(x)| ; comme > 0, il existe une fonction
h C
1
(B; R
N
) telle que
sup
xB
|h(x) f(x)| <
1
8
.
Si 0 / h(B), on peut prendre g := h. Sinon pour (x, y) B R
Nk
posons
H(x, y) := h(x). Comme Nk 1, il est clair que pour tout z BR
Nk
on a
det H

(z) = 0, et par consequent dapr`es le lemme de Sard H(BR


Nk
) h(B)
est de mesure nulle dans R
N
. On peut donc xer b
0
/ h(B) tel que |b
0
| < /8.
Maintenant, en posant h
0
(x) := h(x) b
0
, on sait que h
0
C
1
(B; R
N
) et
0 / h
0
(B), sup
xA
|h
0
(x) f(x)| <
1
4
.
Par ailleurs, en posant pour x B :
3. Quelques applications 111
h
1
(x) :=
_

_
h
0
(x)
h
0
(x)
2|h
0
(x)|
si |h
0
(x)|
1
2
,
si |h
0
(x)|
1
2
,
on verie sans peine que pour tout x B on a |h
1
(x)| /2 et que pour x A
on a h
1
(x) = h
0
(x), et par consequent :
sup
xA
|h
1
(x) f(x)| <
1
4
.
En considerant la fonction := h
1
f sur A, on sait par le theor`eme de pro-
longement de Tietze-Urysohn quil existe C(B; R
N
) telle que = sur A
et
sup
xB
| (x)| = sup
xA
|(x)| <
1
4
.
En posant nalement g := h
1
sur B, on voit sans diculte que g = f sur
A, et que pour tout x B on a |g(x)| /4 > 0, ce qui termine la preuve du
lemme.
Dans le lemme qui suit, nous montrons quil est possible de prolonger une
fonction impaire sur un ouvert symetrique de R
N
ne contenant pas lorigine,
de telle sorte que si la fonction ne sannule pas sur une partie de R
N1
, le
prolongement ne sy annule pas non plus, et en plus il est impair.
3.8 Lemme. Soient k et N des entiers tels que k < N, R
k
un ouvert borne
et symetrique tel que 0 / , et f C(; R
N
) une fonction impaire telle que
0 / f(). Alors il existe g C(; R
N
) telle que g(x) = f(x) pour tout x ,
g est impaire et 0 / g().
Demonstration. Si k = 1, alors on peut supposer que
[b, a] [a, b] ,
pour b > a > 0. Si f
0
:= f
|[a,b]
, le lemme 3.7 permet de dire que lon peut
prolonger f
0
en une fonction g
0
C([a, b]; R
N
) telle que 0 / g
0
([a, b]). En posant
alors
g(x) :=
_
g
0
(x)
g
0
(x)
si x [a, b] ,
si x [b, a] ,
on voit que g C(; R
N
) est une fonction impaire et 0 / g().
Lorsque k 2, supposons que le lemme est prouve pour un ouvert contenu
dans R
j
, avec j k 1. Nous allons montrer que le resultat du lemme est vrai
lorsque R
k
. Si x R
k
, on ecrira x = (x

, x
k
) avec x

R
k1
. On sait que
la fonction f est denie sur
_
(R
k1
{0})
_
, et lhypoth`ese de recurrence
permet de construire une fonction impaire f
1
C( (R
k1
{0}); R
N
), telle
que f
1
= f sur
_
(R
k1
{0}
_
, et 0 / f
1
( (R
k1
{0})). En realite,
comme f est denie sur , en posant :
112 Chapitre 2. Le degre topologique
f
2
(x) :=
_
f
1
(x)
f(x)
pour x (R
k1
{0}) ,
pour x ,
on peut voir que f
2
C
_
( (R
k1
{0})); R
N
_
est impaire et que
0 / f
2
_
( (R
k1
{0}))
_
.
En posant maintenant

+
:= {x ; x
k
> 0} ,

:= {x ; x
k
< 0} ,
et en prenant un cube B contenant
+
et inclus dans R
k1
R
+
, le lemme 3.7
permet de conclure quon peut prolonger f
2
en une fonction g
2
C(B; R
N
) telle
que 0 / g
2
(B). Il sut maintenant de poser
g(x) :=
_
g
2
(x)
g
2
(x)
pour x
+
,
pour x

,
on voit sans diculte que g C(; R
N
) est un prolongement impair de f ` a ,
et que 0 / g().
3.9 Lemme. Soient N 1 un entier, R
N
un ouvert borne et symetrique
par rapport ` a lorigine tel que 0 / et f C(; R
N
) une fonction impaire telle
que 0 / f(). Alors il existe un prolongement g de f tel que g C(; R
N
), g
est impaire et 0 / g
_
(R
N1
{0})
_
.
Demonstration. On sait que si f
0
:= f
|
((R
N1
{0}))
, en utilisant le lemme 3.8
on peut prolonger f
0
en une fonction impaire g
0
continue sur ladherence de
(R
N1
{0}), et nalement en une fonction impaire g
1
telle que
g
1
C
_
( (R
N1
{0})) ; R
N
_
,
0 / g
1
_
( (R
N1
{0}))
_
.
Maintenant, en utilisant le theor`eme de Tietze-Urysohn, on peut prolonger g
1
en une fonction continue g
2
telle que si

:= (R
N1
R

), on ait :
g
2
C
_

+
_
, 0 / g
2
_

_

+
(R
N1
{0})
_
.
En posant alors
g(x) :=
_
g
2
(x)
g
2
(x)
pour x
+
,
pour x

,
on peut verier facilement que g satisfait le cahier des charges.
Nous sommes maintenant en mesure de montrer le theor`eme de Borsuk dans
le cas general.
3. Quelques applications 113
3.10 Theor`eme de Borsuk. Soient un ouvert borne de R
N
, symetrique par
rapport ` a lorigine et f C(; R
N
) une fonction impaire telle que 0 / f().
Alors :
(i) si 0 , le degre deg(f, , 0) est un entier impair ;
(ii) si 0 / , le degre deg(f, , 0) est un entier pair.
Demonstration. Supposons dans un premier temps que 0 / . En utilisant le
lemme 3.9, on sait quil existe une fonction impaire g telle que g = f sur et
g C(; R
N
), 0 / g( (R
N1
{0})).
Soit > 0 deni par
:=
1
4
min
_
dist
_
0, g( (R
N1
{0}))
_
, dist (0, f())
_
.
Dapr`es la stabilite du degre topologique, on sait quil existe une fonction
reguli`ere , par exemple dans C(; R
N
) C
1
(; R
N
), telle que soit impaire
et g

/4. On a donc en particulier 0 / () et


deg(f, , 0) = deg(g, , 0) = deg(, , 0).
Mais comme 0 / ((R
N1
{0})) (` a cause du choix de ), en notant comme
ci-dessus

:= (R
N1
R

), on sait dapr`es la propriete dexcision que


lon a
deg(, , 0) = deg(, \ (R
N1
{0}), 0)
= deg(,
+
, 0) + deg(,

, 0) .
Maintenant, par le lemme de Sard, on peut armer quil existe b aussi voisin
de lorigine que lon veut, tel que b et b soient valeurs reguli`eres de et par
consequent
1
({b}) =: {x
1
, . . . , x
m
} avec x
j

+
(et x
j

). On
voit de la sorte que :
deg(,
+
, 0) = deg(,
+
, b) =
m

j=1
sgnJ

(x
j
)
deg(,

, 0) = deg(,

, b) =
m

j=1
sgnJ

(x
j
) .
Mais etant impaire, on sait que

(x
j
) =

(x
j
), ce qui nous permet de dire
que deg(,
+
, b) = deg(,

, b), et on voit nalement que deg(, , 0) =


deg(f, , 0) est un entier pair, dans le cas o` u ne contient pas lorigine.
Lorsque 0 , soit R > 0 assez petit pour que B(0, R) . En considerant
la fonction

f denie par :

f(x) :=
_
f(x)
x
si x ,
si x B(0, R) ,
on peut, par le theor`eme de prolongement de Tietze-Urysohn, trouver un pro-
longement g
1
C(; R
N
) de

f. En posant g(x) := (g
1
(x) g
1
(x)) /2, on
114 Chapitre 2. Le degre topologique
dispose dune fonction impaire et continue sur telle que g = f sur , et la
proposition 2.9 ainsi que la propriete dexcision permettent de dire :
deg(f, , 0) = deg(g, , 0)
= deg(g, \ B(0, R), 0) + deg(g, B(0, R), 0) .
Or deg(g, B(0, R), 0) = 1 car g = I sur B(0, R) (voir corollaire 2.6), alors
que deg(g, \ B(0, R), 0) est un entier pair, dapr`es la premi`ere partie de la
demonstration. On voit ainsi que le degre deg(f, , 0) est un entier impair lorsque
contient lorigine, et le theor`eme de Borsuk est prouve dans le cas general.
Si est symetrique et contient lorigine, on voit en particulier que le degre
deg(f, , 0) est non nul, pourvu que f soit une fonction impaire. Par consequent,
dans ce cas, si b appartient ` a la composante connexe de f()
c
qui contient
0, alors deg(f, , b) = 0 : on en conclut, dapr`es la proposition 2.5 que cette
composante connexe est contenue dans f(). On peut donc enoncer :
3.11 Corollaire. On suppose que est un ouvert borne et symetrique de R
N
,
contenant lorigine. Soit f C(, R
N
) une fonction impaire, telle que 0 / f().
Alors f() contient un voisinage ouvert de lorigine.
La notion qui decoule de celle du degre topologique et qui est la plus impor-
tante dans la theorie des points critiques est celle du genre, basee sur le theor`eme
de Borsuk-Ulam que nous enon cons ci-dessous.
3.12 Theor`eme (Borsuk-Ulam). Soient un ouvert symetrique borne de
R
N
, contenant lorigine, et C(; R
N
) impaire et telle que () E
0
, o` u
E
0
est un sous-espace ane de R
N
de dimension inferieure ou egale ` a N 1.
Alors il existe x tel que (x) = 0.
Demonstration. Soit comme dans le theor`eme. Dapr`es le theor`eme de
Tietze-Urysohn il existe un prolongement
0
C(, E
0
) tel que
0
= sur
. En posant
(x) :=

0
(x)
0
(x)
2
,
on a un prolongement impair de ` a , et () E
0
. Si on avait 0 / () =
(), dapr`es le corollaire 3.11, () contiendrait un voisinage ouvert de
lorigine, ce qui nest pas possible, puisque () est contenu dans E
0
, sous-
espace ane de dimension inferieure ou egale ` a N 1.
Souvent, on utilise le theor`eme de Borsuk-Ulam sous la forme suivante :
etant un ouvert borne et symetrique de R
N
contenant lorigine, soit f une fonc-
tion continue de dans R
N
telle que f() E
0
, sous-espace de dimension
au plus N 1. En posant
(x) :=
f(x) f(x)
2
,
on voit quil existe x tel que (x) = 0. Cela implique donc pour f,
lexistence de x tel que f(x) = f(x), cest ` a dire que f prend la meme
4. Le genre 115
valeur en deux points diametralement opposes (ou antipodaux). On vient donc
de prouver le corollaire suivant, qui est dailleurs equivalent au theor`eme de
Borsuk-Ulam :
3.13 Corollaire. Soient un ouvert symetrique borne de R
N
, contenant
lorigine, et f C(; R
N
). On suppose que f() E
0
, o` u E
0
est un sous-
espace de R
N
de dimension inferieure ou egale ` a N 1. Alors il existe x
tel que f(x) = f(x).
3.14 Exemple. Voici une application (peut-etre surprenante) de ce corollaire. Si
represente la Terre et que lon suppose que la temperature (x) et la pression
atmospherique p(x) au point x sont des fonctions dependant contin ument
de x, en posant
f(x) := ((x), p(x)),
on conclut quil existe un point x
0
sur la surface de la Terre telle que
((x
0
), p(x
0
)) = ((x
0
), p(x
0
)),
i.e. la temperature et la pression sont identiques en deux points antipodaux.
Le corollaire suivant permet de distinguer les dierents types de sph`eres S
n
pour n 0. En eet si m < n, on ne peut pas envoyer de fa con continue et
impaire S
n
dans S
m
, puisque toute application continue et impaire de S
n
dans
R
m
doit sannuler.
3.15 Corollaire. Soient n, m 0 des entiers tels que n > m. Alors il nexiste
pas dapplication continue et impaire de S
n
S
m
.
4. Le genre
On peut distinguer deux ensembles nis, en comparant le nombre de leurs
elements. Pour distinguer deux espaces vecoriels de dimension nie on com-
pare leur dimension : si E, F sont des espaces vectoriels de dimension n et m,
alors n > m, si, et seulement si, il ny a pas dapplication lineaire injective de E
dans F. Nous avons vu ` a la n du paragraphe precedent (corollaire 3.15) quun
certain analogue de ce point de vue est vrai pour les sph`eres S
n
. La notion de
genre que nous allons denir nous permet de distinguer deux ensembles A, B
fermes, symetriques et ne contenant pas lorigine, en regardant sil existe une
fonction continue et impaire de A dans B. Comme nous lavons dit au debut de
ce chapitre, en ce qui concerne les methodes variationnelles que nous etudierons
plus loin, le resultat le plus important de ce chapitre que lon doit connatre est
celui que nous presentons ici. Il faut egalement savoir que pour dierents types
de probl`emes, il faut introduire des notions adequates dindices topologiques ;
la notion de genre correspond ` a la notion dindice pour les ensembles invariants
sous laction du groupe Z
2
, et de ce fait joue un r ole important dans le cadre des
probl`emes variationnels qui ont une invariance sous laction de ce groupe. Voir
116 Chapitre 2. Le degre topologique
par exemple V. Benci [17], E.R. Fadell, S.Y. Husseini & P.H. Rabinowitz [64].
Pour avoir un aper cu de ce sujet dans dautres applications, en particulier dans
letude des syst`emes hamiltoniens, on pourra consulter le livre de J. Mawhin &
M. Willem [114], ainsi que les references quy sont donnees.
4.1 Denition. Soit E un espace de Banach. On designe par s(E) lensemble
des parties fermees symetriques de E ne contenant pas lorigine, plus precise-
ment :
s(E) := {A E ; A est fermee, non vide, 0 / A, A = A} .
Si A s(E) on appelle genre de A le nombre, note (A), deni par :
(A) := inf {n 1 ; : A R
n
\ {0} continue et impaire} .
Par commodite on posera () = 0.
Comme toujours, sil nexiste pas dentier n 1 et de fonction continue et
impaire de A dans R
n
\{0}, on pose (A) = +. On notera egalement que (A)
aurait pu etre deni par :
(A) := inf
_
n 1 ; il existe : A S
n1
continue et impaire
_
.
Il est important de noter que le genre nest deni que pour des ensembles fermes.
Voici quelques exemples concrets.
4.2 Exemple. Soit x
0
E, R < |x
0
| et A := B(x
0
, R) B(x
0
, R). Alors A est
de genre un : (A) = 1. En eet il sut de poser (x) := +1 si x B(x
0
, R), et
(x) := 1 si x B(x
0
, R).
4.3 Exemple. Voici une classe importante densembles de genre N. Soient E =
R
N
et un ouvert borne symetrique de E contenant lorigine. Alors () = N.
En eet on sait dej` a, gr ace ` a linjection canonique de dans R
N
, que ()
N. Si on avait () N 1, alors il existerait : R
N1
\ {0} impaire
et continue. Or dapr`es le theor`eme de Borsuk-Ulam doit sannuler quelque
part sur , ce qui est en contradiction avec le fait que prend ses valeurs dans
R
N1
\ {0}.
Nous regroupons ci-dessous les proprietes essentielles du genre que nous
serons amenes ` a utiliser frequemment.
4.4 Theor`eme (Proprietes du genre). Soit E un espace de Banach et A, B
s(E).
(i) Sil existe f : A B continue et impaire, alors (A) (B).
(ii) Si A B alors (A) (B).
(iii) Sil existe un homeomorphisme impair f : A B alors (A) = (B).
(iv) est sous-additif : (A B) (A) +(B).
(v) Si A est compact alors (A) < .
(vi) Si A est compact, alors il existe un voisinage ferme de A ayant le meme
genre que A. Plus precisement, il existe > 0 tel que si
4. Le genre 117
A

:= {x E ; dist(x, A) }
on a (A

) = (A).
(vii) Si (B) < , alors (A\ B) = (A B
c
) (A) (B).
Demonstration. (i) Si on a (B) = +, il ny a rien ` a prouver. Supposons
donc que B est de genre ni et posons n := (B). Il existe alors une fonction
: B R
n
\ {0} continue et impaire. On voit donc que
f : A R
n
\ {0}
est continue et impaire et par consequent (A) n, i.e. (A) (B).
(ii), (iii) On voit sans peine que ces proprietes decoulent de (i).
(iv) Si le genre de A, ou celui de B, est egal ` a linni, on na rien ` a prouver.
Supposons donc que A et B sont de genres nis et soient m := (A), n := (B).
Il existe alors deux fonctions , continues et impaires :
: A R
m
\ {0}, : B R
n
\ {0}.
Par le theor`eme de Tietze-Urysohn on peut prolonger et en des fonctions
continues et impaires denies sur E, i.e. il existe ,

telles que :
: E R
m
, continue et impaire, = sur A

: E R
n
,

continue et impaire,

= sur B.
Alors en posant f(x) := ( (x),

(x)), pour x AB, on a une fonction continue
et impaire de A B dans R
n+m
\ {0}. (Pour voir que pour tout x AB on a
f(x) = (0, 0), il sut de noter quun tel point x est dans A, ou bien dans B : par
exemple si x A alors (x) = (x) = 0). On conclut donc que (AB) n+m.
(v) Soit x A. Comme lorigine nappartient pas ` a A, on a x = 0 et en prenant
R(x) < |x| (par exemple R(x) :=
1
2
|x|) on a
B(x, R(x)) B(x, R(x)) = .
Posons alors (x) := B(x, R(x)) B(x, R(x)) et A(x) := (x). Dapr`es
lexemple 4.2 que nous avons vu ci-dessus, on sait que (A(x)) = 1. De fa con
evidente, la famille ((x))
xA
est un recouvrement ouvert de A et, celui-ci etant
compact, il existe n 1 et un nombre ni de points x
1
, x
2
, . . . , x
n
tels que
A
_
1in
(x
i
).
On en conclut en particulier que
A
_
1in
A(x
i
),
et la propriete de sous-additivite du genre (propriete (iv)) et le fait que A(x
i
)
est de genre 1, impliquent que (A) n, cest ` a dire que A est de genre ni.
118 Chapitre 2. Le degre topologique
(vi) On sait que A est de genre ni : soient n := (A), et une fonction : A
R
n
\ {0} continue et impaire. Par le theor`eme de Tietze-Urysohn il existe un
prolongement continu et impair de E dans R
n
. Lensemble A

etant comme
dans lenonce du theor`eme, comme A est compact et 0 / (A), il existe > 0
tel que
0 / (A

).
En eet sinon il existerait une suite (x
k
)
k
de E, et une suite (y
k
)
k
de A telles
que
(x
k
) = 0, d(x
k
, y
k
)
1
k
.
Puisque A est compact, modulo une extraction de sous-suite, on peut supposer
que la suite y
k
y A, et que par consequent x
k
y. On aurait alors
0 = (x
k
) (y), cest ` a dire que (y) = 0. Or y A et (y) = (y) et ne
sannule pas sur A.
Par consequent il existe > 0 tel que envoie A

dans R
n
\ {0} ; comme
est continue et impaire on a (A

) n, et dapr`es la propriete de croissance du


genre (propriete (ii)) :
n = (A) (A

) n.
(vii) On a A B (A\ B). En utilisant (ii) on voit que
(A) (B) +(A\ B),
et puisque (B) est ni, on a (A\ B) (A) (B).
4.5 Remarque. Si E est de dimension innie, alors A

nest pas compact, mais


cependant est de genre ni.
Lorsque est un ouvert borne et symetrique de R
N
et une application
continue et impaire de dans R
m
, on peut obtenir des informations sur la
taille de lensemble des solutions de lequation
x
0
, (x
0
) = 0,
en utilisant la notion de genre.
4.6 Proposition. Soient un ouvert borne symetrique de R
N
contenant
lorigine et une fonction continue et impaire de dans R
m
. On suppose
que m N 1 et on consid`ere lensemble :
A := {x ; (x) = 0}.
Alors on a : (A) N m.
Demonstration. Soit, pour > 0 :
B

:= {x ; |(x)| }.
On voit que : B

R
m
\ {0} est continue et impaire et, par consequent, on
a (B

) m. En utilisant la propriete (vii) du theor`eme 4.4, on conclut que :


4. Le genre 119
( \ B

) N (B

) N m.
Or \ B

= {x ; |(x)| } =: C

. Nous allons montrer que si > 0 est


assez petit, A

etant deni comme dans le theor`eme 4.4 (vi), alors :


(4.1) A C

,
ce qui, compte tenu des proprietes (ii) et (vi) du theor`eme 4.4, implique que :
(C

) = (A). Pour montrer (4.1), soit > 0 tel que (A

) = (A) ; alors il
existe > 0 assez petit tel que : C

. En eet si cela netait pas vrai, il


existerait une suite x
k
telle que
|(x
k
)|
1
k
, d(x
k
, A) > .
Le bord etant compact, on pourrait extraire une sous-suite (x
ki
)
i
telle que :
x
ki
x

lorsque i +. En passant ` a la limite on aurait donc :


(x

) = 0, d(x

, A) ,
ce qui est absurde, vu la denition de A. Cela montre les inclusions (4.1) et la
proposition est prouvee.
4.7 Remarque. Soit A s(E). On peut montrer (voir Exercices) que (A) = n
si, et seulement si, n est le plus petit entier k 1 tel que A peut etre recouvert
par k ensembles de genre 1. Cela est ` a rapprocher avec la notion de categorie
de Ljusternik-Schnirelman. Cette notion est denie comme suit. Si X est un
espace topologique et A est une partie fermee non vide de X on dit que A
est de categorie 1 dans X, et on ecrit cat
X
(A) = 1, sil existe une homotopie
H C(A [0, 1], X) et un point x
0
X tels que pour tout x A on ait :
H(x, 0) = x, et H(x, 1) = x
0
.
Ensuite, pour toute partie A fermee non vide de X on pose :
cat
X
(A) := inf
_
n 1 ; A
1
, . . . , A
n
fermes de X tels que
cat
X
(A
i
) = 1 et A
_
1in
A
i
_
.
Comme nous le verrons par la suite, la notion de categorie a ete utilisee par
L. Ljusternik & L. Schnirelman [107] pour montrer (notamment) que si F
C
1
(R
n
, R) est une fonction paire et J := F
|S
n1, alors J poss`ede au moins n
valeurs critiques sur S
n1
. Au chapitre 4 nous montrerons ce resultat en utilisant
la notion de genre. Dans certains probl`emes variationnels on peut utiliser la
notion de categorie pour montrer de tels resultats, mais en general, pour les
equations aux derivees partielles elliptiques semilineaires, il est plus commode
dutiliser la notion de genre.
120 Chapitre 2. Le degre topologique
5. Degre topologique de Leray-Schauder
Dans la resolution des equations aux derivees partielles, on est constamment
amene ` a utiliser des theor`emes de point xe, mais en r`egle generale ces theor`emes
doivent etre appliques dans des espaces de dimension innie. Au paragraphe 2,
nous avons vu que la notion du degre topologique dans un espace de dimension
nie permettait de prouver le theor`eme de point xe de Brouwer pour des appli-
cations continues dun convexe ferme dans lui-meme. Lexemple suivant permet
de comprendre quil nest pas possible detendre, telle quelle, la notion du degre
topologique de Brouwer aux espaces de dimension innie : on exhibe une appli-
cation continue de la boule unite de lespace de Hilbert
2
(N) dans elle-meme
qui na pas de point xe.
5.1 Exemple. Soient
2
(N) lespace des suites x := (x
n
)
n0
de carre sommable
et K la boule unite fermee de
2
(N). On designera par |x| la norme de x i.e.
|x|
2
:=

n=0
|x
n
|
2
.
Si x K on denit Tx par :
Tx := (
_
1 |x|
2
, x
0
, x
1
, . . . , x
n
, x
n+1
, . . .).
On verie sans peine que T est continue, que Tx K et que plus precisement
|Tx| = 1. Cependant T ne poss`ede aucun point xe dans K, car si x = Tx, on
doit avoir pour tout n 0, x
n+1
= x
n
et x
0
=
_
1 |x|
2
. Or |x| = |Tx| = 1 et
par consequent x
0
= 0 : do` u x = 0, ce qui contredit |x| = 1.
Rappelons aussi (cf. Exercices) que dans un espace de dimension innie, une
application continue peut tr`es bien etre non bornee sur les fermes bornes, ce qui
entrane des dicultes considerables dans letude des equations non lineaires.
En fait le bon cadre, pour introduire une notion de degre topologique et etablir
des theor`emes de point xe analogues au theor`eme de Brouwer, est celui des
operateurs compacts.
5.2 Denition. Soient X un espace de Banach et une partie de X. Si T :
X est un operateur continu, on dit que T est compact si pour toute partie
bornee B de , T(B) est relativement compact dans X.
On notera en particulier que si T est compact, alors T est borne sur les parties
bornees de X.
5.3 Exemple. Naturellement une application lineaire compacte lest aussi au
sens de la denition 5.2. De meme, si T
1
est un operateur continu borne de X
dans X et L un operateur lineaire compact, alors T := L T
1
est un operateur
compact au sens de la denition ci-dessus (rappelons quun operateur est dit
borne sil est borne sur les parties bornees).
On va denir un degre topologique pour des applications qui sont des per-
turbations compactes de lidentite, i.e. des operateurs du type := I T
5. Degre topologique de Leray-Schauder 121
o` u T est compact et I designe lapplication identite de X. Le point de depart
est toutefois le degre topologique de Brouwer. Sans perte de generalite, on peut
supposer que le point cible est lorigine.
On commence par quelques lemmes concernant les operateurs compacts.
Dans toute la suite X est un espace de Banach et sa norme est notee .
5.4 Lemme. Soit un ouvert borne de X. Si T : X est compact et na
pas de point xe sur , alors il existe > 0 tel que pour tout u on ait :
u Tu .
Demonstration. Sinon il existerait une suite (u
n
)
n
de telle que
u
n
Tu
n
0.
Or T etant compact et borne, on pourrait trouver une sous-suite (Tu
ni
)
i
et
y X tels que Tu
ni
y lorsque i +. On en deduit que u
ni
y et par
consequent, T etant continu, on a y Ty = 0, ce qui signie y est point xe de
T. Comme y , cela contredit lhypoth`ese sur T.
5.5 Lemme. Soit un ouvert borne de X et T : X un operateur
compact sans point xe sur . Alors si > 0 est tel que u Tu 4 pour
tout u , il existe un sous-espace vectoriel de dimension nie E

de X et un
operateur T

: E

tels que :
u , T

u Tu ,
u , u T

u 3.
Demonstration. On sait, dapr`es le lemme 5.4, quil existe > 0 tel que
u , u Tu 4.
Comme T() est relativement compact dans X, il existe x
1
, . . . , x
n
dans T()
tels que
T()
_
1in
B(x
i
, ).
Posons, pour x X,
i
(x) := ( x x
i
)
+
, puis pour x T() :
j

(x) :=

n
i=1

i
(x)x
i

n
i=1

i
(x)
.
Enn, en introduisant lespace vectoriel engendre par x
1
, . . . , x
n
, cest ` a dire
lespace E

:= R{x
1
, . . . , x
n
} et pour u lapplication :
T

(u) := j

(Tu),
T

: X est continu et T

() E

. Comme par ailleurs, pour tout x


T(), on a
i
(x)xx
i

i
(x), on en conclut sans diculte que xj

(x)
pour de tels x. Cela implique que si u , alors :
122 Chapitre 2. Le degre topologique
T

(u) T(u) .
Dautre part, si u on a :
u T

u = u Tu +Tu T

u
u Tu Tu T

u 3 > 0,
ce qui montre que T

repond aux exigences du lemme.


Nous allons maintenant voir que lapproximation T

et lespace de dimension
nie E

permettent de denir le degre topologique de I T. Pour cela nous


commen cons par montrer le lemme suivant.
5.6 Lemme. Soit un ouvert borne de X, et T : X un operateur compact
sans point xe sur , et > 0 tel que u Tu 4 sur . On suppose
que T
1
et T
2
sont deux approximations de T, telles que pour i = 1, 2 on ait :
T
i
() E

, o` u E

est un sous-espace de dimension nie de X, et de plus


T
i
Tu pour u , et u T
i
u 3 pour u . Alors, si F est un
s.e.v. de dimension nie de X contenant E

tel que
F
:= F = , on a :
deg(I T
1
,
F
, 0) = deg(I T
2
,
F
, 0).
Demonstration. Il faut preciser avant tout que I T
i
est considere comme
operateur deni sur
F
` a valeurs dans F, et de ce fait on peut parler de son
degre topologique (au sens de Brouwer).
Soit
F
= F le bord de
F
. Comme T
i
na pas de point xe sur ,
le degre de I T
i
en 0 est deni. Pour t [0, 1] soit :
H(u, t) := tT
1
(u) + (1 t)T
2
(u).
On voit sans peine que H(u, t) Tu pour tous t [0, 1], u et en
particulier pour u
F
; dautre part pour u , et donc pour u
F
, on
a
u H(u, t) = u Tu +Tu H(u, t) 3.
Par consequent H C(
F
[0, 1], F) est une homotopie admissible pour appli-
quer la propriete dinvariance par homotopie du degre topologique de Brouwer,
ce qui donne :
deg(I H(, 0),
F
, 0) = deg(I H(, 1),
F
, 0),
cest ` a dire le resultat annonce par le lemme.
Dans le lemme qui suit on va voir comment on peut lier les degres topologiques
dans des espaces de dimensions dierentes.
5. Degre topologique de Leray-Schauder 123
5.7 Lemme. Soient E
n
, E
p
deux sous-espaces de dimension nie et E
n
E
p
un ouvert borne. On identie E
n
{0} ` a E
n
et on suppose que

n
:= (E
n
{0}) = .
Soient C(, E
n
) et f(x, y) := (x (x, y), y) pour (x, y) E
n
E
p
. On
suppose que pour tout x tel que (x, 0) , on a (x, 0) = (x, 0), et on consid`ere
la fonction f
0
(x) = x (x, 0) denie sur
n
. Alors, en notant deg
n
, deg
n+p
les
degres topologiques dans E
n
et E
n+p
:= E
n
E
p
respectivement, on a :
deg
n+p
(f, , 0) = deg
n
(f
0
,
n
, 0).
Demonstration. Il faut remarquer que f() nest pas contenu dans E
n
, et que
dautre part les degres sont bien denis : en eet cela fait partie des hypoth`eses
pour f
0
(puisque
n
(E
n
{0})), et en ce qui concerne f, on peut voir
que :
(x, y) , f(x, y) = (0, 0),
implique ((x, y), 0) = (x, y), i.e. f
0
(x) = 0, avec(x, 0) , ce qui est exclu.
Soit (
j
)
j
une suite de C
1
(, E
n
) telle que
j
dans C(, E
n
). On pose
f
j
(x, y) := (x
j
(x, y), y) et f
0j
(x) := x
j
(x, 0).
Alors, pour j assez grand, on a
deg
n+p
(f, , 0) = d
n+p
(f
j
, , 0)
d
n
(f
0
,
n
, 0) = d
n
(f
0j
, , 0),
et par consequent, sans perte de generalite, on peut donc supposer que f est de
classe C
1
et que 0
n+p
(lorigine dans E
n
E
p
) est une valeur reguli`ere de f,
alors que 0
n
est valeur reguli`ere de f
0
. Pour calculer le degre de f il faut calculer
f

, ce qui donne :
f

(x, y) =
_
Inx(x,y) y(x,y)
0 Ip
_
.
Par ailleurs, comme on vient de le voir, f(x, y) = (0, 0) equivaut ` a y = 0 et
f
0
(x) = 0, do` u on conclut que J
f
(x, 0) = J
f0
(x). En utilisant le lemme 2.10, on
a :
deg
n+p
(f, , 0) =

(x,0)f
1
(0)
sgn(J
f
(x, 0))
=

xf
1
0
(0)
sgn(J
f0
(x))
= deg
n
(f
0
,
n
, 0),
et la preuve du lemme est terminee.
124 Chapitre 2. Le degre topologique
5.8 Theor`eme & Denition (Leray-Schauder). Soient X un espace de
Banach, un ouvert borne de X, T : X un operateur compact sans point
xe sur . Alors > 0, E

X, et T

: E

etant donnes par le lemme 5.5


on consid`ere F, un sous-espace vectoriel de dimension nie contenant E

et tel
que
F
:= F = . On denit le degre topologique de Leray-Schauder par :
deg(I T, , 0) := deg
F
(I
F
T

,
F
, 0
F
) .
Cette denition ne depend que de T et de . Si b X est tel que b / (IT)(),
le degre de I T dans par rapport ` a la cible b est deni comme etant :
deg(I T, , b) := deg(I T b, , 0).
Demonstration. Il faut remarquer que dapr`es les proprietes de , T

et E

on
a :
u , Tu T

u ,
u , u T

u 3 .
et par consequent si
F
= , dapr`es le lemme 5.6 le degre
deg(I
F
T

,
F
, 0
F
)
est bien deni. Pour voir que ce degre ne depend que de T et de , on va
considerer deux familles (pour i = 1, 2)
i
> 0, T
ii
, E
ii
et F
i
comme ci-dessus
et on va montrer que le degre est le meme. Pour cela on appliquera le lemme 5.7
dans un espace de dimension nie contenant F
1
et F
2
. Soient :
F := F
1
F
2
,
F
:= F.
Alors en designant par deg
F
le degre topologique de Brouwer dans F, on sait,
dapr`es le lemme 5.5 que :
deg
F
(I
F
T
11
,
F
, 0
F
) = deg
F
(I
F
T
22
,
F
, 0
F
).
Par ailleurs, le lemme 5.6 nous dit que pour i = 1, 2 on a :
deg
F
(I
F
T
ii
,
F
, 0
F
) = deg
F
i
(I
F
i
T
ii
,
F
i
, 0
F
i
).
Finalement on en conclut que :
deg
F
1
(I
F
1
T
11
,
F
1
, 0
F
1
) = deg
F
2
(I
F
2
T
22
,
F
2
, 0
F
2
).
On remarque egalement que si T est compact et b / (I T)(), lapplication
u b + Tu est compacte et na pas de point xe sur . Par consequent la
denition du degre de I T dans par rapport ` a b a un sens.
6. Proprietes du degre de Leray-Schauder 125
6. Proprietes du degre de Leray-Schauder
Dans ce paragraphe nous reunissons les proprietes les plus importantes du degre
topologique de Leray-Schauder. La demonstration de ces resultats decoule de
la denition du degre de Leray-Schauder, ainsi que des proprietes analogues du
degre de Brouwer. Cest pourquoi nous nous bornerons ` a enoncer les resultats
qui suivent sans demonstration. Dans toute la suite on suppose que X est un
espace de Banach, un ouvert borne de X et T : X un operateur
compact.
6.1 Proposition (additivite). Si
1
,
2
sont deux ouverts bornes disjoints et
T :
1

2
X est un operateur compact sans point xe sur
1

2
,
alors :
deg(I T,
1

2
, 0) = deg(I T,
1
, 0) + deg(I T,
2
, 0).
6.2 Proposition. Si b X est tel que pour tout u on a :
u Tu = b,
alors deg(I T, , b) = 0.
6.3 Corollaire. Si b X est tel que pour tout u on a u Tu = b et
deg(I T, , b) = 0,
alors il existe u tel que u Tu = b.
6.4 Proposition. Soient T
1
, T
2
des applications compactes de dans X et
b X tel que :
4 := dist (b, T
1
() T
2
()) > 0.
Alors si sup
u
T
1
u T
2
u , on a :
deg(I T
1
, , b) = deg(I T
2
, , b).
6.5 Corollaire. Soient b X et H : [0, 1] X une application compacte,
telle que pour tout (u, t) [0, 1] on ait : u H(u, t) = b. Alors le degre
deg(I H(, t), , b) est constant pour t [0, 1] :
deg(I H(, t), , b) = deg(I H(, 0), , b).
6.6 Proposition. Soient b, b

X tels que b, b

/ (I T)(). Alors si b et b

appartiennent ` a la meme composante connexe de X \ (I T)(), on a :


deg(I T, , b) = deg(I T, , b

).
126 Chapitre 2. Le degre topologique
7. Exemples dapplication
Au chapitre suivant nous verrons quelques utilisations du degre topologique de
Leray-Schauder, dans le cadre des techniques de points critiques. Cependant
dans un certain nombre de probl`emes semilineaires on peut utiliser directement
le degre topologique pour etablir lexistence de solutions. Comme les deux ap-
proches se compl`etent et permettent de mieux comprendre les diverses situa-
tions, dans ce paragraphe nous donnons deux exemples typiques de lutilisation
du degre topologique pour resoudre des probl`emes semilineaires.
Soient un ouvert borne de R
N
, une matrice a := (a
ij
)
1i,jN
coercive ` a
coecients dans L

(), telle que pour un > 0, on ait



a
ij

j
||
2
pour
tout R
N
. On sait dapr`es les resultats du paragraphe 1.9 que loperateur
(7.1)
_
Au :=

i,j

i
(a
ij

j
u),
D(A) :=
_
u H
1
0
() ; Au L
2
()
_
,
denit un operateur dinverse compact sur L
2
() ; en particulier on sait (cf.
paragraphe 1.12) que le spectre de A est une suite (
k
)
k1
telle que |
k
|
et que
1
> 0. Soit maintenant une fonction g : R R veriant :
(7.2) g C(R), lim
|s|
g(s)
s
=: R.
On va montrer le resultat suivant :
7.1 Proposition. On suppose que loperateur A est donne par (7.1) et que g
verie (7.2). Alors si / {
k
; k 1}, pour tout h L
2
() il existe au moins
une fonction u D(A) telle que
(7.3) Au = g(u) +h.
Demonstration. Il est clair quon peut supposer que g(0) = 0, sans perte de
generalite. Comme pour une constante C > 0 on a |g(s)| C (1 + |s|) pour tout
s R, loperateur u g(u) de L
2
() dans lui-meme est continu. Comme A
1
est compact sur L
2
() (car son image est precisement D(A) qui est contenu
dans H
1
0
(), lequel a une injection compacte dans L
2
() dapr`es le theor`eme de
Rellich-Kondrachov), en posant
H(u, t) := A
1
(tg(u) + (1 t)u +h) ,
pour 0 t 1, on a une homotopie compacte de L
2
() [0, 1] L
2
() (` a ce
propos on aura note que u g(u) est un operateur continu, borne sur les bornes
de L
2
()). Or la resolution de lequation (7.3) equivaut ` a trouver u L
2
()
telle que u = A
1
(g(u) +h), ou encore ` a :
(7.4) u L
2
(), u H(u, 1) = 0.
Comme u uH(u, 1) est une perturbation compacte de lidentite, si on trouve
une boule de L
2
(), par exemple B(0, R) pour un certain R > 0, telle que pour
tout t [0, 1] on ait 0 / H(B(0, R) [0, 1]), le corollaire 6.5 permet de dire que
7. Exemples dapplication 127
deg (H(, t), B(0, R), 0) = deg (H(, 0), B(0, R), 0) ,
et si on sait que ce dernier degre est non nul, le corollaire 6.3 implique que
lequation (7.4) admet au moins une solution.
Nous commen cons par etablir lexistence dune telle boule, autrement dit
nous allons montrer quil existe R > 0 tel que, etant la norme de L
2
(), on
ait :
(7.5) (u, t) L
2
() [0, 1], u H(u, t) = 0 =u < R.
Pour montrer cette estimation a priori nous allons raisonner par labsurde en
suppossant quil existe une suite (u
n
, t
n
) L
2
() [0, 1] telle que
u
n
H(u
n
, t
n
) = 0 et
n
:= u
n
n.
En posant v
n
:= u
n
/
n
, on sait que v
n
verie lequation
(7.6) v
n
D(A), v
n
= 1, Av
n
= t
n
g(
n
v
n
)

n
+ (1 t
n
)v
n
+
h

n
.
Comme g(s) C(1 + |s|), on conclut que le second membre de cette equation
est bornee dans L
2
() independamment de n et par consequent pour une con-
stante R
0
> 0 on a v
n

D(A)
R
0
. Puisque linjection de D(A) dans L
2
()
est compacte, en extrayant une sous-suite, encore notee (v
n
, t
n
), on peut donc
supposer que pour un v L
2
() on a v
n
v dans L
2
() et p.p. sur et que
t
n
t [0, 1] ; en particulier on notera que v = 1. En utilisant le theor`eme
de la convergence dominee de Lebesgue on peut facilement voir que g(
n
v
n
)/
n
converge vers v dans L
2
() ; ainsi dapr`es (7.6) on a
v
n
v dans L
2
(), Av
n
v dans L
2
(),
ce qui implique, A etant un operateur ferme, que v D(A) et Av = v. Or
v = 1, et cette derni`ere egalite implique que est une valeur propre de A, con-
trairement ` a lhypoth`ese. On conclut nalement que lestimation a priori (7.5)
est vraie.
Ainsi on peut donc armer que pour tout t [0, 1] le degre topologique
deg (H(, t), B(0, R), 0)
est bien deni et constant. Or pour t = 0, u u A
1
u est un operateur
lineaire et il est facile (voir Exercices) de verier que
deg (I H(, 0), B(0, R), 0) = deg
_
I A
1
, B(0, R), A
1
h
_
= 1.
On conclut enn la preuve de la proposition, en invoquant le corollaire 6.3.
7.2 Remarque. Si (A, D(A)) est un operateur ` a resolvante compacte agissant
dans L
2
(), le meme resultat (avec la meme demonstration) reste vraie : si
/ Sp(A) (le spectre de A) et g est comme dans (7.2), pour tout h L
2
(), il
128 Chapitre 2. Le degre topologique
existe u D(A) tel que Au = g(u) + h. On peut egalement remplacer lespace
L
2
() par L
p
() ou C().
On voit lors de cette demonstration que le point cle est lexistence dune es-
timation a priori sur deventuelles solutions de lequation (7.3). Mais cependant
la condition sur nest pas la plus generale possible, meme si elle est presque
optimale. Pour le voir considerons cette equation dans le cas particulier o` u A est
auto-adjoint, i.e. a
ij
= a
ji
, ecrite sous la forme
(7.7) Au = u +g
0
(u) +h,
o` u g
0
C(R) verie lim
|s|
g
0
(s)/s = 0. Par exemple si g
0
0, on sait que
toutes les valeurs propres de A sont reelles et que si est valeur propre, lequation
Au = u+h nadmet de solution que si h N(AI)

(ici N(AI) designe


le noyau de AI). Cela prouve que la resolubilite de (7.3) ou (7.7) pour tout
h L
2
() depend du fait que est valeur propre ou non. Nous allons neanmoins
etudier (7.7) dans le cas o` u est une valeur propre de loperateur auto-adjoint A
(ce resultat a ete prouve par E.M. Landesman & A.C. Lazer [93] dans le cas o` u
est une valeur propre simple ; nous suivons ici la demonstration plus generale
et plus simple donnee dans Th. Gallouet & O. Kavian [71]).
7.3 Proposition. Soient (A, D(A)) un operateur auto-adjoint ` a resolvante com-
pacte sur L
2
() et (
i
)
i1
la suite de ses valeurs propres. On suppose que
g
0
C(R) est telle que lim
|s|
g
0
(s)/s = 0 et que

g
0
(s)
+
pour
tout s R o` u on suppose que

:= lim
s
g
0
(s)
existent. Pour k 1 xe, si h L
2
() est tel que lequation :
(7.8) u D(A), Au =
k
u +g
0
(u) +h
admet une solution, alors pour tout N(A
k
I) \ {0} on a necessairement :
(h, ) :=
_

h(x)(x)dx +
_

+
(x)dx
_

(x)dx 0.
De plus si h est tel que (h, ) > 0 pour tout N(A
k
I) \ {0}, alors
lequation (7.8) admet au moins une solution.
Demonstration. En notant (|) le produit scalaire de L
2
(), si u est solution
de (7.8), en multipliant lequation par N(A
k
I), et en utilisant le fait
que A

= A on a :
(u|A) = (Au|) =
k
(u|) +
_

g
0
(u(x))(x)dx +
_

h(x)(x)dx,
ce qui, compte tenu du fait que A =
k
, et en ecrivant =
+

, donne :
7. Exemples dapplication 129
0 =
_

g
0
(u(x))
+
(x)dx
_

g
0
(u(x))

(x)dx +
_

h(x)(x)dx
0
_

+
(x)dx
_

(x)dx +
_

h(x)(x)dx = (h, ),
o` u on utilise le fait que

g(s)
+
: on voit donc que la condition (h, ) 0
est necessaire.
Nous allons montrer maintenant que si h est telle que (h, ) > 0 pour
tout N(A
k
I) \ {0}, il existe une estimation a priori sur les solutions
de (7.8). Plus precisement, soit > 0 tel que lintervalle ]
k
,
k
+] ne contienne
aucune valeur propre de A ; on va montrer quil existe R > 0 tel que pour tout
(u, t) D(A) [0, 1] on a
(7.9) Au =
k
u +tg
0
(u) + (1 t)u +h =u < R.
En eet sinon il y aurait une suite (u
n
, t
n
)
n
telle que
n
:= u
n
n. En posant
v
n
:= u
n
/
n
, on verie que
(7.10) Av
n
= (
k
+ (1 t
n
))v
n
+g
0
(
n
v
n
)/
n
+h/
n
,
et compte tenu de lhypoth`ese sur g
0
, on deduit que la suite Av
n
est bornee dans
L
2
() : cela signie que (v
n
)
n
est bornee dans D(A) et par consequent par un
argument de compacite, modulo une extraction de sous-suite, on peut supposer
que v
n
v dans L
2
() et p.p. sur , et t
n
t [0, 1]. Par le theor`eme de
la convergence dominee on verie facilement que Av
n
(
k
+ (1 t))v dans
L
2
(), et A etant ferme on conclut que v D(A) et Av = (
k
+ (1 t))v,
avec v = 1. Cela signie en particulier que
k
+ (1 t) est valeur propre de
A ; or par le choix de , la seule possibilite est davoir t = 1, ce qui implique
que v N(A
k
I). Maintenant en multipliant (7.10) par v au sens du produit
scalaire de L
2
() et utilisant le fait que A

= A et Av =
k
v, on voit que pour
n assez grand on a :
t
n
_

g
0
(
n
v
n
(x))v(x)dx +
_

h(x)v(x)dx
= (1 t
n
)
_

v
n
(x)v(x)dx 0.
Or on peut montrer facilement que
_

g
0
(
n
v
n
(x))v(x)dx
_

+
v
+
(x)

(x)
_
dx
lorsque n , do` u on conclut nalement que (h, v) 0 contrairement ` a
lhypoth`ese. Ainsi on voit que lestimation a priori (7.9) est vraie, et en posant
H(u, t) := (A I)
1
[(
k
)u +tg
0
(u) + (1 t)u +h] ,
o` u R est un element de la resolvante (A), la resolution de lequation (7.8)
equivaut ` a trouver u L
2
() tel que u H(u, t) = 0. En utilisant le fait que H
130 Chapitre 2. Le degre topologique
est une homotopie compacte, linvariance du degre topologique permet de voir
que
deg(I H(, 1), B(0, R), 0) = deg(I H(, 0), B(0, R), 0) = 1,
et ainsi de conclure la preuve de la proposition en utilisant le corollaire 6.3.
7.4 Remarque. Dans la proposition 7.3 nous avons suppose que

g
0
(s)

+
, ce qui a conduit ` a la condition (h, ) > 0 pour lexistence dune solution.
Dans le cas o` u on suppose que
+
g
0
(s)

, on peut montrer (cf. Exercices)


que la condition susante (et presque necessaire) pour lexistence dune solution
au probl`eme (7.8) est en fait

(h, ) :=
_

h(x)(x)dx +
_

+
(x)dx
_

(x)dx > 0,
pour tout N(A
k
I) \ {0} (noter que

(h, ) = (h, )).
Lorsque lon ne suppose plus que g
0
est compris entre ses valeurs limites

et
+
ou bien lorsque g
0
na pas de limite en (comme dans le probl`eme
du pendule force, cf. Exercices du Chapitre 3), la situation est beaucoup plus
complexe et ` a notre connaissance le probl`eme dans le cas general est ouvert.
Exercices du chapitre 2
Exercice 1. En utilisant la proposition 3.4 montrer le resultat suivant :
Theor`eme de la boule chevelue. Si n est un entier impair,
il nexiste pas, sur la sph`ere S
n1
, de champ tangent regulier ne
sannulant pas, cest ` a dire quil nexiste pas de fonction T continue
de S
n1
R
n
\ {0} telle que x Tx = 0 pour tout x S
n1
.
(Sinon, considerer : H(x, t) := (cos t)x + (sint)
Tx
|Tx|
).
Exercice 2. Montrer que la proposition 3.4 et le theor`eme de la boule chevelue
sont faux si n est pair.
Exercice 3. Soient un ouvert borne de R
N
, f C(, R
N
) et g C(R
N
, R
N
).
On pose h := g f, et on designe par (
i
)
i
la famille des composantes connexes
bornees de R
N
\ f(). On designe par deg(f, ,
i
) le degre topologique de f
dans par rapport ` a un point quelconque de
i
. Montrer que si b / h(),
alors
deg(h, , b) =

i
deg(f, ,
i
)deg(g,
i
, b),
o` u la somme est en fait nie (cest la formule de Leray pour la composition des
fonctions).
Exercice 4. Soient (A
i
)
1in
des ensembles mesurables et bornes de R
n
. On se
propose de montrer quil existe un hyperplan H de R
n
divisant chacun des A
i
en deux parties de meme mesure. (Lorsque n = 3, cest le probl`eme du partage
equitable dun sandwich, o` u A
1
represente le pain, A
2
la mortadelle, A
3
les
cornichons et H le couteau).
1) Pour S
n1
et t R, on designe par H(, t) lhyperplan orthogonal ` a
et de hauteur t, i.e. lensemble {x R
n
; (x|) = t}. Montrer quil existe
t
1
t
2
dependant de tels que si t < t
1
ou t > t
2
alors
mes {x A
1
; (x|) < t} = mes {x A
1
; (x|) > t} .
2) On pose t() := (t
1
+t
2
)/2 o` u t
1
, t
2
sont denis ` a la question precedente.
Verier que t() = t().
132 Exercices du chapitre 2
3) Pour 2 k n, on pose f
k
() := mes {x A
k
; (x|) > t()}. Montrer
que f
k
est continu de S
n1
dans R. Que peut-on dire si pour un S
n1
on a f
k
() = f
k
() ?
4) En considerant la fonction f := (f
2
, . . . , f
n
) sur S
n1
, et en utilisant le
theor`eme de Borsuk-Ulam (ou plut ot le corollaire 3.13), montrer quil existe
S
n1
tel que pour 1 i n lhyperplan H(, t()) divise tous les A
i
en
deux parties de meme mesure.
Exercice 5. En reprenant les notations de la remarque 3.5, o` u on montre par
un raisonnement par labsurde que le theor`eme de la non-retraction de la boule
implique le theor`eme de point xe de Brouwer, montrer que si f : B B est
continue et sans point xe dans B, pour tout x B il existe un unique (x) > 0
tel que (x) := f(x) +(x)[x f(x)] S
N1
, et que x (x) est continue (on
pourra expliciter (x) en calculant le carre de la norme euclidienne de (x)).
Montrer egalement que si x S
N1
alors (x) = 1.
Exercice 6. Soient un ouvert borne et symetrique de R
n
contenant lorigine,
et f C(; R
n
) une fonction qui est impaire sur . Montrer quil existe
x
0
, x
1
tels que f(x
0
) = 0 et x
1
= f(x
1
) (noter que f peut ne pas etre
impaire dans ).
Exercice 7. On sait que si f C([1, +1]; R), pour resoudre lequation f(x) = 0
dans ]1, +1[ il sut de savoir que f(1)f(+1) < 0. On peut se demander quelle
est la condition analogue en dimension n 2, i.e. lorsque f : B(0, 1) R
n
est
une fonction continue et n 2, quel renseignement de f sur le bord S
n1
de la
boule B(0, 1) permet de resoudre lequation f(x) = 0 dans B(0, 1). En fait, et
cela est surprenant, la reponse est tr`es simple : en supposant que pour x S
n1
on a f(x) = 0, montrer que si pour tout x S
n1
on a
f(x)
|f(x)|
=
f(x)
|f(x)|
,
alors il existe x
0
B(0, 1) tel que f(x
0
) = 0. (cest la version generale du
theor`eme de Borsuk, que lon appelle en allemand lantipodensatz (i.e. theor`eme
des antipodes) : que si f ne pointe pas dans la meme direction en deux points
antipodaux, alors f sannule dans la boule unite). Pour la demonstration, on
pourra considerer lhomotopie H(x, t) := (f(x) tf(x)) /(1+t) pour 0 t 1.
Exercice 8. Soit K un convexe ouvert et borne de R
n
et f C(K; K) ; on
suppose que 0 K.
1) Montrer que K est convexe et que si x K est tel que pour un > 1 on
a x K, alors x / K.
2) Montrer que si f na pas de point xe sur K, alors pour tout (x, t)
K [0, 1] on a x tf(x) = 0.
3) Montrer que toute fonction continue de K dans K admet un point xe
dans K. (Cest la version generale du theor`eme de point xe de Brouwer).
Exercices du chapitre 2 133
Exercice 9. Soient E un espace de Banach et T C
1
(E, E) un operateur
compact. Montrer que pour tout u
0
E, la derivee T

(u
0
) est une application
lineaire compacte de E dans E.
Exercice 10. Soient E un espace de Banach et T un operateur compact
et impair. Montrer que si est un ouvert borne et symetrique de E, alors
deg(I T, , 0) est un entier impair ou pair suivant que lorigine appartient ` a
, ou nappartient pas ` a (cest le theor`eme de Borsuk pour les perturbations
compactes de lidentite en dimension innie).
Exercice 11. Soient E un espace de Banach et T une application lineaire com-
pacte de E dans E, et = 0 tel que
1
nest pas valeur propre de T. Calculer,
en fonction des valeurs propres
i
de T qui sont superieures ` a
1
, le degre
deg(I T, B(0, R), 0).
Exercice 12. Soient K : [0, 1] [0, 1] R une fonction continue et p 1 un
reel. Pour u C([0, 1]) on pose :
Tu(x) :=
_
1
0
K(x, y)|u(y)|
p1
u(y)dy.
1) Montrer que T est un operateur compact sur C([0, 1]).
2) Montrer que T est de classe C
1
et calculer sa derivee au sens de Frechet.
3) On suppose que K 0 et K 0 et que R > 0 est donne. Calculer, pour
f C([0, 1]) xee, le degre deg(I T, B(0, R), f).
Exercice 13. Quel est le genre de Z
n
\ {0} pour n 1 ?
Exercice 14. Soit un ouvert borne et symetrique dun espace de Banach E
(de dimension nie ou innie), et contenant lorigine. Quel est le genre de
c
?
Exercice 15. Soient K un convexe compact de R
n
et T une fonction continue
de K dans R
N
.
1) En considerant la fonction f(x) := P
K
(x Tx), o` u P
K
designe la pro-
jection sur K (cf. Exercice 1 du Chapitre 1), et en utilisant le theor`eme de
point xe de Brouwer, montrer le theor`eme de Hartman-Stampacchia
u K, v K, (Tu|v u) 0.
2) Soient B la boule unite (ouverte) de R
n
et f C(B, B). Montrer le
theor`eme de point xe de Brouwer en utilisant le theor`eme de Hartman-
Stampacchia (considerer Tx = x f(x) ; si u B est tel que pour tout
v B on a (Tu|v u) 0, en distinguant les deux cas u B et u S
n1
,
montrer que Tu = 0. Pour le cas o` u u S
n1
, montrer dabord quil existe
0 tel que Tu = u, puis montrer que = 0).
Exercice 16. Soient n 1 un entier et f une fonction continue de R
n
dans R
n
.
On suppose quil existe R > 0 et un produit scalaire (|) sur R
n
tels que :
134 Exercices du chapitre 2
x R
n
, si |x| = R alors (f(x)|x) 0 .
Montrer quil existe x
0
R
n
avec |x
0
| R tel que f(x
0
) = 0 (sinon considerer
la fonction (x) := Rf(x)/|f(x)| dans la boule fermee B(0, R) et appliquer le
theor`eme de point xe de Brouwer).
Exercice 17. Soit F C(R
n
; R
n
) une fonction localement lipschitzienne. On
suppose que lorigine est asymptotiquement stable pour le syst`eme dierentiel
_
dx
dt
= F(x) ,
x(0) = x
0
,
i.e. quil existe R > 0 tel que si |x
0
| R, la solution partant de x
0
existe pour
tout t 0, que lim
t
x(t, x
0
) = 0, et que pour tout > 0 il existe > 0 tel
que si |x
0
| on a |x(t, x
0
)| pour tout t 0.
En considerant, pour 0 < 1, lhomotopie
H(, x
0
) :=
x(/(1 ), x
0
) x
0

,
montrer que H(0, x
0
) = F(x
0
) et que pour > 0 assez petit on a
deg (F, B(0, ), 0) = (1)
n
.
Exercice 18. Soient un ouvert borne de R
N
et g
0
C(R, R) une fonction
telle que les limites

:= lim
s
g
0
(s)
existent et g
0
(0) = 0. On suppose que (v
n
)
n
est une suite de L
2
() qui converge
vers v L
2
() et que v = 0. Montrer que si (
n
)
n
est une suite telle que

n
+, alors
lim
n
_

g
0
(
n
v
n
(x))dx =
_

+
v
+
(x)

(x)
_
dx .
Exercice 19. En reprenant les notations de la proposition 7.3, on suppose que

+
g
0
(s)

.
1) Montrer quune condition necessaire sur h pour que lequation (7.8) ad-
mette une solution est que pour tout N(A
k
I) on ait :

(h, ) :=
_

h(x)(x)dx +
_

+
(x)dx
_

(x)dx 0.
2) Montrer que si

(h, ) > 0 pour N(A


k
I)\{0}, alors lequation (7.8)
admet au moins une solution (on pourra prendre > 0 tel que [
k
,
k
[
ne contienne aucune valeur propre de A et pour 0 t 1 trouver une
estimation a priori des solutions de Au =
k
u +tg
0
(u) (1 t)u +h).
3 Points critiques sans contrainte
1. Fonctionnelles minorees
Si K est un espace topologique, rappelons quune fonction J de K dans R est
dite semi-continue inferieurement (en abrege s.c.i.) si pour tout R lensemble
[J ] := {x K ; J(x) } est ferme. On dit que J est semi-continue
superieurement (en abrege s.c.s.) si J est s.c.i. Introduisons la denition suiv-
ante :
1.1 Denition. Soient X un espace de Banach et une partie de X. Une
fonction J : R est dite faiblement sequentiellement s.c.i. si pour toute
suite (x
n
)
n
de convergeant faiblement vers x on a J(x) liminf
n
J(x
n
).
On peut montrer que, dans les espaces de Banach reexifs, les fonctions faible-
ment sequentiellement s.c.i. atteignent leur minimum, pourvu quelles tendent
vers + ` a linni.
1.2 Proposition. Soient X un espace de Banach reexif, K X un convexe
ferme et J : K R une fonction faiblement sequentiellement s.c.i. De plus,
si K est non borne, on suppose que pour toute suite (x
n
)
n
de K telle que
x
n
, on a J(x
n
) +. Alors J est bornee inferieurement et elle atteint
son minimum i.e.
u K, J(u) = inf
vK
J(v) = min
vK
J(v).
Demonstration. En eet si := inf
vK
J(v) et (u
n
)
n
est une suite mini-
misante, du fait que J tend vers linni ` a linni, (u
n
)
n
est bornee. Comme X
est reexif, il existe une sous-suite (u
ni
)
i
et u X tels que u
ni
u dans X-
faible ; K etant un convexe ferme, il est faiblement ferme et u K. Finalement :
J(u) liminf
i
J(u
ni
) = ,
car J est faiblement sequentiellement s.c.i. Ainsi = J(u) R et J atteint son
minimum en u K.
136 Chapitre 3. Points critiques sans contrainte
1.3 Lemme. Soient X un espace de Banach, K un convexe ferme de X et J
une fonction convexe s.c.i. de K dans R. Alors J est faiblement s.c.i.
Demonstration. Comme J est convexe s.c.i., pour R lensemble [J ] est
convexe et ferme : la proposition 1.15.2 montre alors que [J ] est faiblement
ferme et par consequent J est faiblement s.c.i.
1.4 Corollaire. Soient X un espace de Banach reexif, K un convexe ferme
de X et J : K R une fonction convexe s.c.i. Si K est non-borne, supposons
que pour toute suite (x
n
)
n
de K telle que x
n
, lorsque n , on a
J(x
n
) +. Alors J est bornee inferieurement et elle atteint son minimum
sur K :
u K, J(u) = inf
vK
J(v) = min
vK
J(v).
De plus si J est strictement convexe, u est unique.
Demonstration. En utilisant le lemme 1.3 et la proposition 1.2, on conclut que
J atteint son minimum en un point u K.
Si de plus J est strictement convexe et u
0
K verie J(u
0
) = := J(u), on
remarque que si u = u
0
on aurait
J
_
u +u
0
2
_
<
1
2
(J(u) +J(u
0
)) = ,
ce qui etablit lunicite du point de minimum.
1.5 Remarque. Comme on le verra plus loin sur un exemple, souvent dans les
applications, lorsquil sagit de minimiser une fonctionnelle non convexe J denie
sur un convexe ferme K dun espace de Banach, on essaie de la decomposer sous
la forme J = J
1
+ J
2
o` u J
1
est convexe s.c.i. et J
2
est dans un certain sens
contr olee ou dominee par J
1
, et on regarde si J
2
est faiblement sequentiellement
s.c.i.
Une caracterisation utile du point u K, o` u une fonction convexe J atteint son
minimum, est contenue dans la proposition suivante.
1.6 Proposition. Soient K X un convexe et J : K R une fonction
convexe G-derivable en tout point de K. Alors les deux proprietes suivantes sont
equivalentes :
(i) u K, et pour tout v K on a J(u) J(v) ;
(ii) u K, et pour tout v K on a J

(u), v u 0.
Si de plus pour tous v, w K, J

(v +(w v)) est continue sur [0,1], alors


les proprietes (i) et (ii) sont equivalentes ` a :
(iii) u K, et pour tout v K on a J

(v), v u 0.
Demonstration. (i) = (ii) : Comme u realise le minimum de J sur K, pour
0 < < 1 on a : 0 J(u + (v u)) J(u), ce qui, en divisant par > 0 et
faisant tendre vers zero, donne (ii).
(ii) = (i) : Dapr`es le lemme 1.15.3 (ii), on a
1. Fonctionnelles minorees 137
J(v) J(u) J

(u), v u 0.
(ii) = (iii) : On a, dapr`es le Lemme 1.15.3 (iii),
J

(v), v u J

(u), v u 0.
(iii) = (ii) : Pour 0 < < 1 on a
J

(u +(v u)), (u +(v u)) u 0,


ce qui, en divisant par , le faisant tendre vers zero et en utilisant la continuite
de J

sur les demi-droites (cest ce quon appelle lhemicontinuite de J

) donne
(ii).
1.7 Remarque. Sous les hypoth`eses ci-dessus, lorsque K est un sous-espace
vectoriel de X, en choisissant v := u + tw avec t R et w K dans la car-
acterisation (ii), on voit que J

(u), w = 0 pour tout w K, cest-` a-dire que


J

(u) K

. En particulier si K = X, on a J

(u) = 0 ; si de plus J
est strictement convexe, on sait donc que u est la seule solution de lequation
J

(v) = 0.
1.8 Remarque. Lorsque lon traite les probl`emes variationnels sur les es-
paces W
1,p
(), il existe un lien tr`es fort entre les fonctionnelles faiblement
sequentiellement s.c.i. et les fonctionnelles convexes. Soient N 1 un entier et
un ouvert borne de classe C
1
de R
N
. Considerons une fonction F : R
N
R
et un convexe ferme K de W
1,p
(), par exemple pour W
1,p
() donnee :
K :=
_
v ; v W
1,p
(), v = sur
_
.
Alors si J(v) :=
_

F(x, v(x))dx, et si F verie une condition de croissance du


type :
R
N
, p.p. sur , C
1
+C
2
||
p
F(x, ) C
3
(1 + ||
p
),
on peut voir facilement que J est minoree sur W
1,p
() et que toute suite min-
imisante (u
n
)
n
de K telle que J(u
n
) inf
vK
J(v), est bornee dans W
1,p
().
Ce qui est remarquable cest que J est faiblement sequentiellement s.c.i. si, et
seulement si, pour presque tout x , la fonction F(x, ) est convexe sur
R
N
(pour une demonstration de ce resultat dans un cas simple voir Exercices).
Dierentes versions de ce resultat sont connues depuis notamment L. Tonelli
[161], J. Serrin [149], mais la version generale suivante est due ` a P. Marcellini &
C. Sbordone [109] :
1.9 Theor`eme. Soient 1 p , un ouvert borne de classe C
1
et g
une fonction de R
+
R
+
` a valeurs dans R
+
telle que g(x, , ) et
g(x, , ) soient croissantes sur R
+
et g(, , ) est dans L
1
() pour (, )
xe. On consid`ere une fonction F : R R
N
` a valeurs dans R
+
, mesurable
en x et continue en (s, ) R R
N
. On suppose que :
(s, ) R R
N
, p.p. sur , 0 F(x, s, ) g(x, |s|, ||),
138 Chapitre 3. Points critiques sans contrainte
et on pose J(v) :=
_

F(x, v(x), v(x))dx, pour v W


1,p
(). Alors J est
faiblement sequentiellement s.c.i. si, et seulement si, la fonction F(x, s, )
est convexe sur R
N
.
(Comme toujours, lorsque p = , la notion de faible est remplacee par celle
de faible-, cest ` a dire que la dualite est celle de L

()L
1
()). On peut
egalement etudier des fonctionnelles J denies sur lespace
_
W
1,p
()
_
m
pour
un entier m 2. En eet si M
m,N
designe lensemble des matrices reelles ` a m
lignes et N colonnes, et F : R
m
M
m,N
R, est une fonction, on pose
pour v
_
W
1,p
()
_
m
:
J(v) :=
_

F(x, v(x), Dv(x)),


o` u Dv designe la matrice des derivees
j
v
i
pour 1 i m et 1 j N. Dans
beaucoup dapplications venant des probl`emes de la mecanique (probl`emes de
visco-elasticite notamment) la fonction F nest pas convexe, et cependant on
sinteresse ` a minimiser J sur un ensemble
K :=
_
v
_
W
1,p
()
_
m
; v = sur
_
,
(avec cette fois
_
W
1,p
()
_
m
). La bonne notion dans ce cadre est ce quon
appelle la quasi-convexite de F : on dit que F : R
m
M
m,N
R
+
est
quasi-convexe (en M M
m,N
) si pour tous (x, , M) R
m
M
m,N
on a :
v (C

c
())
m
, F(x, , M) mes ()
_

F(x, , M +Dv(y))dy.
On peut montrer quune fonction convexe est quasi-convexe en M M
m,N
. Bien
que cette condition ne soit pas facile ` a manier elle apparat de fa con naturelle
dans beaucoup de probl`emes, et dans le cas o` u m = 1 elle est equivalente ` a la con-
vexite en M. Lorsque F(x, , M) := F(M) satisfait une condition de croissance
du type C
1
+C
2
|M|
p
F(x, , M) C
3
(1 +|M|
p
), o` u |M| designe une norme
matricielle sur M
m,N
, un resultat d u ` a C.B. Morrey [118], arme que J est faible-
ment sequentiellement s.c.i. si, et seulement si, F est quasi-convexe (voir aussi
C.B. Morrey [119] pour plus de detail sur la quasi-convexite). Une generalisation
de ce resultat, qui est lanalogue du theor`eme 1.9, est due ` a E. Acerbi & N. Fusco
[1], et nous la citons ici :
1.10 Theor`eme. Soient 1 p , un ouvert borne de R
N
et F une
fonction de R
m
M
m,N
` a valeurs dans R, mesurable en x , continue
en (, M) R
m
M
m,N
. On suppose quil existe a L
1
() et une constante
C > 0 telle que p.p. sur et pour tout (, M) R
m
M
m,N
on ait :
0 F(x, , M) a(x) +C (||
p
+ |M|
p
) .
Alors la fonctionnelle J, denie par J(v) :=
_

F(x, v(x), Dv(x))dx, est faible-


ment sequentiellement s.c.i. sur
_
W
1,p
()
_
m
si, et seulement si, M F(x, , M)
est quasi-convexe.
2. Exemples dapplication 139
Au paragraphe suivant nous allons etudier sur des exemples concrets venant
des equations aux derivees partielles, comment on peut appliquer les resultats
que lon vient de voir.
2. Exemples dapplication
Dans tout ce qui suit on suppose que est un ouvert borne et regulier de R
N
et que a(x) := (a
ij
)
1i,jN
est une matrice symetrique ` a elements dans L

()
veriant la condition de coercivite uniforme
(2.1) R
N
, p.p. sur , (a(x)|) = a(x) ||
2
,
avec > 0 (cf. le lemme 1.9.1). On consid`ere alors loperateur elliptique
(2.2)
_
Au := div(a()u)
D(A) :=
_
u H
1
0
() ; Au L
2
()
_
.
Nous avons vu au paragraphe 1.9 que (A, D(A)) est un operateur auto-adjoint
sur L
2
(). Sur un exemple simple, nous allons voir le type de methodes que lon
peut employer pour resoudre des equations semilineaires.
2.1 Exemple. Soit g : R R une fonction continue en s R mesurable en
x (au sens de (1.16.1)). On suppose que g(x, ) est une fonction croissante,
p.p. en x , et (sans perte de generalite) que g(, 0) = 0. On sinteresse ` a la
resolution de lequation semilineaire :
(2.3)
_
Au +g(, u) = f dans
u = 0 sur .
On pose G(x, s) :=
_
s
0
g(x, t)dt et on introduit lenergie associee ` a lequation
(2.3) :
(2.4) E(v) :=
_

_
1
2
a(x)v(x) v(x) +G(x, v(x)) f(x)v(x)
_
dx.
Condiderons dabord le cas o` u g(x, s) := |s|
p1
s avec p 1. Alors on peut
facilement verier que E est une fonction strictement convexe de classe C
1
sur
H
1
0
() L
p+1
() pourvu que, par exemple, pour un reel q max(1,
2N
N+2
), la
donnee f soit dans L
q
(). Dans ces conditions L
q
() est contenu dans H
1
()
(dual de H
1
0
()), donc dans H
1
() + L
1+
1
p
() (dual de H
1
0
() L
p+1
()).
Par ailleurs en utilisant linegalite de H older et linegalite de Sobolev (1.8.8), on
sait que
_

|f(x)v(x)|dx f
q
v
q
C f
q
v
H
1
0
()
,
pour une certaine constante C ; on en deduit lestimation inferieure (toujours
dans le cas simple o` u g(x, s) = |s|
p1
s) :
140 Chapitre 3. Points critiques sans contrainte
E(v)

2
_

|v(x)|
2
dx +
1
p + 1
_

|v(x)|
p+1
dx Cf
q
v
H
1
0
()
.
Cela montre que si v
n

H
1
0
()
+ v
n

p+1
tend vers linni, alors E(v
n
) +.
Par consequent le corollaire 1.4 montre que E atteint son minimum sur H
1
0
()
L
p+1
() en un unique point u, et on a :
E

(u) = Au + |u|
p1
u f = 0 au sens de D

().
Comme par ailleurs u = 0 sur au sens des traces, on obtient ainsi une
solution (faible) de (2.3) dans le cas particulier o` u g(x, s) := |s|
p1
s. Cependant
en reprenant lidee de la demonstration de la proposition 1.2 on peut montrer
lexistence dune solution unique de lequation (2.3) dans un cadre plus general.
2.2 Proposition. Soit g : R R une fonction mesurable en x ,
continue et croissante en s R. On suppose que g(, 0) = 0, et que G(x, s) :=
_
s
0
g(x, )d est telle que pour tout s R, on a G(, s) L
1
loc
(). Pour f L
q
()
avec q
2N
N+2
si N 3, q > 1 si N = 2 et q 1 si N = 1, on consid`ere
lensemble :
K
0
:=
_
v H
1
0
() ; G(, v()) L
1
()
_
.
Alors E est strictement convexe sur K
0
et atteint son minimum en u K
0
.
Demonstration. Comme s g(x, s) est croissante sur R, et g(x, 0) = 0, la
fonction s G(x, s) est convexe et positive : par consequent K
0
est convexe,
et non vide parce que D() K
0
; de la meme fa con il est clair que sur K
0
,
lenergie E est strictement convexe. Dautre part pour voir que E est bornee
inferieurement sur K
0
, en utilisant comme ci-dessus les inegalites de H older et
de Sobolev et le fait que G(x, s) 0, il sut de remarquer que lon a :
(2.5) E(v)

2
v
2
H
1
0
()
C f
q
v
H
1
0
()

1
2
C
2
f
2
q
.
Soit maintenant := inf
vK0
E(v). Si (u
n
)
n
est une suite de K
0
telle que
E(u
n
) 1 + , et E(u
n
) on deduit de (2.5) que (u
n
)
n
est bornee dans
H
1
0
(). Il existe une sous-suite, notee encore (u
n
)
n
, telle que u
n
u dans
H
1
0
()-faible et meme dans L
2
() et p.p. sur , gr ace au theor`eme de Rellich-
Kondrachov 1.8.16 et ` a la propsosition 1.4.11. Si M := sup
n1
u
n

H
1
0
()
, on a
ainsi par le lemme de Fatou :
_

G(x, u(x))dx liminf


n
_

G(x, u
n
(x))dx 1 + +CMf
q
,
ce qui prouve que u K
0
. Finalement sachant que les termes quadratique et
lineaire intervenant dans E sont convexes et continus sur H
1
0
(), on conclut que
E(u) liminf
n
E(u
n
) = , cest ` a dire que est atteint en u.
2.3 Remarque. On peut montrer que u est solution faible de (2.3) si g(x, )
verie une condition de croissance supplementaire du type polyn omial, par ex-
emple (voir Exercices). Noter quici K
0
nest pas ferme dans H
1
0
() et que lon
2. Exemples dapplication 141
ne montre pas que E est s.c.i. : on montre que K
0
contient la limite de toute
suite minimisante, et quau point de minimum E est s.c.i. ; on na pas besoin
dautre chose pour montrer que E atteint son minimum, mais neanmoins on
peut montrer, en suivant exactement la meme demarche, que E est faiblement
sequentiellement s.c.i.
On notera egalement que la donnee f pourrait etre dans dautres espaces que
L
q
() avec q max(1,
2N
N+2
), pourvu que lon precise un peu plus la croissance
de G(x, s).
2.4 Remarque. Dans un grand nombre de situations o` u la fonctionnelle ` a min-
imiser est uniformement strictement convexe, on peut montrer que la conver-
gence faible de la suite minimisante implique sa convergence forte, ce qui est
particuli`erement interessant si lon veut calculer par un algorithme de minimisa-
tion le point de minimum. Pour etre plus precis, supposons que J : H
1
0
() R
est une fonction convexe s.c.i. et G-derivable telle que :
(2.6) J(v) J(u) +J

(u), v u +u v
2
H
1
0
()
,
pour un certain > 0 et tous u, v H
1
0
() (ici , designe la dualite entre
H
1
() et H
1
0
()). Alors J est bornee inferieurement et coercive (i.e. J(v)
+ si v
H
1
0
()
+), et on conclut quil existe une suite minimisante (u
n
)
n
telle que J(u
n
) := inf
vH
1
0
()
J(v) et que u
n
u dans H
1
0
()-faible, avec
J(u) = .
Pour voir que u
n
u
H
1
0
()
tend vers zero, il sut dappliquer linegalite (2.6)
` a v := u
n
pour obtenir :
J(u
n
) J(u) J

(u), u
n
u +u
n
u
2
,
et puisque J(u
n
) J(u) tend vers zero et que u
n
u 0 dans H
1
0
()-faible,
on deduit que u
n
u dans H
1
0
() (fort) : par consequent toute suite min-
imisante converge fortement vers u. On notera egalement que pour la validite de
ce raisonnement, il sut que la condition duniforme convexite (2.6) soit vraie
lorsque u est le point de minimum et v appartient ` a un borne de H
1
0
(). Tr`es
souvent pour montrer quune fonction J verie une condition du type (2.6), en
supposant quelle soit deux fois G-derivable, on essaie de montrer que la derivee
seconde J

(v) satisfait une condition du type :


J

(v)[, ] 2
2
H
1
0
()
,
puis en considerant la fonction t J(u + t(v u)) denie sur [0, 1], on
etablit (2.6). Par exemple si
J(v) :=
_

_
1
2
a(x)v(x) v(x) +
1
p + 1
|v(x)|
p+1
f(x)v(x)
_
dx,
on peut voir facilement que > 0 etant la constante de coercivite uniforme de
la matrice a(x), on a :
142 Chapitre 3. Points critiques sans contrainte
J

(v)[, ] =
_

_
a(x)(x) (x) +p|v(x)|
p1
(x)
2

dx

2
L
2
()
,
(pour eviter les dicultes, supposer ici que (N 2)p N + 2 et p 1). On en
conclut que J verie pour tous u, v H
1
0
() :
J(v) J(u) +Au + |u|
p1
f, v u +

2
v u
2
L
2
()
.
En particulier lorsque u est le point de minimum de J on a Au + |u|
p1
u = f,
et ainsi on deduit de cette inegalite que toute suite minimisante (u
n
)
n
verie
u u
n

2
2 [J(u
n
) J(u)] 0,
cest ` a dire que u
n
converge fortement dans H
1
0
() vers u. Pour le cas general
o` u p est quelconque voir Exercices.
2.5 Exemple. Soient a, b > 0, R, p > 1, q > 1 donnes et un ouvert borne
regulier. On cherche ` a resoudre, pour une fonction f : R xee (dont on
precisera les proprietes), lequation
(2.7)
_
u +a|u|
q1
u = u +b|u|
p1
u +f
u = 0
dans ,
sur .
Dans un premier temps on associe ` a cette equation la fonctionnelle denergie :
(2.8)
E(v) :=
1
2
v
2
2
+
a
q + 1
v
q+1
q+1


2
v
2
2

b
p + 1
v
p+1
p+1

f(x)v(x)dx.
On rappelle que si N 3, on a pose 2

:=
2N
N2
; on conviendra ici que si
N = 2, 2

designe nimporte quel reel de [1, +[, et que si N = 1, 2

:= .
On peut verier facilement que si r := max(p + 1, q + 1, 2

) et f L
r

() (o` u
r

:= r/(r 1)) alors E est de classe C


1
sur lespace X := H
1
0
() L
r
() et
que pour v X on a :
E

(v) = v +a|v|
q1
v v b|v|
p1
v f.
En particulier un point critique de E est une solution faible de lequation (2.7),
la condition aux limites etant satisfaite comme toujours au sens des traces.
2.6 Lemme. Soient a > 0, b > 0, 1 < p < q et E deni par (2.8). Alors si
r := max(q + 1, 2

), X := H
1
0
() L
r
() et f L
r

(), on a lestimation
inferieure
(2.9)
E(v)
1
2
v
2
2
+
a
q + 1
v
q+1
q+1
C
1
v
2
q+1
C
2
v
p+1
q+1
f
r
v
r
2. Exemples dapplication 143
o` u C
1
, C
2
0 dependent uniquement de , b, p, q et de (en fait C
1
= 0 si
0). En particulier inf {E(v) ; v X} > .
Demonstration. On peut commencer par minorer le terme de degre 1 de E,
i.e.
_

f(x)v(x)dx f
r
v
r
. Ensuite, si on a 0, on minore le terme
faisant intervenir v
2
2
par 0. Sinon il sut de remarquer que, etant borne, on
a L
2
() +L
p+1
() L
q+1
() et par consequent

2
_

|v(x)|
2
dx
b
p + 1
_

|v(x)|
p+1
dx

C
1
v
2
q+1
+C
2
v
p+1
q+1
.
Ce qui donne lestimation inferieure (2.9). Comme le membre de droite de lin-
egalite (2.9) est borne sur les bornes de X et que
1
2
v
2
2
+
a
q + 1
v
q+1
q+1
C
1
v
2
q+1
C
2
v
p+1
q+1
f
r
v
r
tend vers + lorsque v , on deduit que E est bornee inferieurement
(rappelons que la norme sur X est donnee par v
X
:= v
2
+v
r
).
On peut appliquer maintenant la proposition 1.2 pour montrer que le
probl`eme (2.7) admet (au moins) une solution.
2.7 Proposition. Soient a > 0, b > 0, R et 1 < p < q. Alors, si r :=
max(q + 1, 2

), pour tout f L
r

() lequation (2.7) admet au moins une


solution faible, obtenue comme le point o` u E atteint son minimum.
Demonstration. Posons J
1
(v) :=
1
2
v
2
2
+
a
q+1
v
q+1
q+1
et J
2
:= E J
1
. Il est
clair que J
1
est une fonction convexe et continue de X R, et par consequent
faiblement s.c.i. Montrons que si (u
n
)
n
est une suite convergeant faiblement vers
u dans X, alors J
2
(u
n
) converge vers J
2
(u). En eet, dapr`es le theor`eme de
Rellich-Kondrachov, linjection de H
1
0
() dans L
2
() etant compacte, linjec-
tion de X dans L
m
() est compacte pour tout m veriant 1 m < q + 1.
Par consequent, la suite (u
n
)
n
converge fortement dans L
m
() pour m = 2 et
m = p + 1 et on a
lim
n
J
2
(u
n
) = J(u).
On en deduit que E est faiblement sequentiellement s.c.i. sur X et, en utilisant
lestimation (2.9) ainsi que la proposition 1.2, on conclut que E atteint son
minimum sur X.
2.8 Remarque. Il faut retenir de cette etude que
nous avons pu decomposer E en la somme de deux fonctionnelles J
1
et J
2
, la
premi`ere etant convexe continue et la deuxi`eme faiblement sequentiellement
continue ;
nous avons utilise le fait que la croissance de J
1
est plus rapide que celle de
J
2
;
nous avons utilise le theor`eme de Rellich-Kondrachov sur la compacite de
linjection de H
1
0
() dans L
2
().
144 Chapitre 3. Points critiques sans contrainte
On peut resoudre de la meme fa con des equations plus generales o` u le laplacien
est remplace par un operateur auto-adjoint elliptique du second ordre et la fonc-
tion a|s|
q1
b|s|
p1
par une fonction g(x, s) ayant des proprietes semblables.
2.9 Remarque. On veriera sans diculte que, si dans la proposition precedente
on suppose p > q, alors inf
vX
E(v) = (considerer, pour un element v = 0,
la fonction t E(tv) de R dans R). De meme on a toujours sup
vX
E(v) = +.
Nous verrons ce dernier point plus loin, mais en prenant lexemple simple de la
dimension N = 1 o` u :=]0, [ et en posant
k
(x) := sin(kx), on peut voir tout
de suite que lim
k
E(
k
) = +. Lorsque p > q, il faudra donc utiliser des
methodes dierentes pour trouver des points critiques.
Avant de considerer des equations semilineaires un peu plus generales mon-
trons un resultat dunicite. Rappelons linegalite de Poincare (voir proposi-
tion 1.8.18 et remarque 1.8.19) : pour v H
1
0
() on a
1
v
2
2
v
2
2
o` u

1
:= inf
_
v
2
2
; v H
1
0
(), v
2
2
= 1
_
0
et, lorsque
1
> 0 est atteint par une fonction
1
(ce qui est le cas si est
borne), alors
1
est la premi`ere valeur propre du laplacien pour le probl`eme de
Dirichlet dans .
2.10 Lemme. On suppose que b = 0, a > 0 et
1
. Alors, si r = max(q +
1, 2

), pour tout f L
r

() lequation (2.7) admet une solution unique.


Demonstration. Comme
1
, la forme bilineaire
(u, v)
_

u(x) v(x)dx
_

u(x)v(x)dx
est semi-denie positive sur H
1
0
(). Par consequent
v v
2
2
v
2
2
est convexe (cf. Exercices) et E est strictement convexe. On en deduit que E
admet un unique point critique et que la solution de (2.7) est unique.
Pour voir que la condition
1
est indispensable pour avoir lunicite de la
solution de (2.7), montrons le resultat suivant.
2.11 Proposition. Soit un ouvert borne. On suppose que a > 0, b R,
>
1
et f = 0. Alors pour tout q > p > 1 lequation (2.7) admet au moins une
solution positive u H
1
0
() L
q+1
() (il y a donc au moins trois solutions :
0, u et u).
Demonstration. On sait dej` a quune solution u de (2.7) peut etre obtenue
comme le point u X := H
1
0
() L
q+1
() o` u on a E(u) = := inf
vX
E(v).
Notons que, dans la procedure de minimisation, on peut remplacer u
n
par |u
n
| ;
en eet, si E(u
n
) , alors (voir proposition 1.8.22) on a aussi |u
n
| X
et E(|u
n
|) E(u
n
), i.e. E(|u
n
|) . On peut donc supposer que la suite
3. Le theor`eme de Ky Fan-von Neumann 145
minimisante verie u
n
0 et que u 0 (ici on utilise le fait que si u
n
u dans
L
2
(), alors une sous-suite converge presque partout vers u). Si on montre que
= 0, alors on aura u 0. Or on sait quil existe
1
H
1
0
() telle que

1
=
1

1
,
1

2
2
= 1,
1

2
2
=
1
.
Si t > 0 on a
E(t
1
) =
(
1
)t
2
2
1
+at
q+1

q+1
q+1
bt
p+1

p+1
p+1
,
et par consequent, puisque >
1
et que q + 1 > p + 1 > 2, si t > 0 est assez
petit on a E(t
1
) < 0 et < 0.
3. Le theor`eme de Ky Fan-von Neumann
Nous avons vu jusqu` a present des fonctions bornees inferieurement qui at-
teignent leur minimum. Lexemple fondamental (et le plus simple) de telles fonc-
tions est celui des fonctions convexes. En ce qui concerne les fonctions qui ne sont
bornees ni inferieurement ni superieurement, on dispose du theor`eme de Ky Fan-
von Neumann, qui est lanalogue du corollaire 1.4 pour la classe des fonctions
qui sont convexes-concaves. Voici dabord la denition dun point-selle. Pour
une etude plus approfondie de ce type de fonctionnelles, ainsi que des exem-
ples dapplication ` a la resoltion de probl`emes non-lineaires, voir H. Brezis [27],
I. Ekeland & R. Temam [60] et R.T. Rockafellar [143].
3.1 Denition. Soient A et B deux ensembles et L : A B R une appli-
cation. On dit quun point (x

, y

) AB est un point-selle de L sur AB


si
x A, y B, L(x

, y) L(x

, y

) L(x, y

).
Par exemple si A = B := R et L(x, y) := x
2
y
2
, le point (0, 0) est un point-
selle de L sur R R. Une fonction quelconque denie sur un ensemble A B
nadmet pas necessairement de point-selle, meme si elle est continue et A et B
sont compacts. En fait on a la caracterisation suivante dun point-selle :
3.2 Lemme. Soient A, B deux ensembles et L : A B R une application.
Les deux proprietes suivantes sont equivalentes :
(i) L admet un point-selle sur AB.
(ii) On a legalite max
yB
inf
xA
L(x, y) = min
xA
sup
yB
L(x, y).
Demonstration. Pour montrer que (i) implique (ii), notons avant toute chose
que lon a toujours de fa con evidente :
sup
yB
inf
xA
L(x, y) inf
xA
sup
yB
L(x, y).
146 Chapitre 3. Points critiques sans contrainte
Il nous faut donc montrer linegalite inverse. Soit (x

, y

) AB un point-selle
de L. On a ainsi
sup
yB
L(x

, y) = L(x

, y

) = inf
xA
L(x, y

).
Mais comme
inf
xA
sup
yB
L(x, y) sup
yB
L(x

, y) = inf
xA
L(x, y

) sup
yB
inf
xA
L(x, y),
on en conclut que ces inegalites sont des egalites et que
sup
yB
inf
xA
L(x, y) = inf
xA
sup
yB
L(x, y) = L(x

, y

).
Par ailleurs comme
L(x

, y

) = sup
yB
L(x

, y) = min
xA
sup
yB
L(x, y)
et, de meme, L(x

, y

) = inf
xA
L(x, y

) = max
yB
inf
xA
L(x, y), (ii) est
veriee.
Pour montrer que (ii) implique (i), on denit x

A et y

B par
sup
yB
L(x

, y) = min
xA
sup
yB
L(x, y) =: m
inf
xA
L(x, y

) = max
yB
inf
xA
L(x, y) = m.
Comme L(x

, y

) sup
yB
L(x

, y) = m et
m = inf
xA
L(x, y

) L(x

, y

) ,
on en conclut que m = L(x

, y

). On a donc pour tous x A et y B


L(x

, y) L(x

, y

) L(x, y

),
cest-` a-dire que (x

, y

) est un point-selle de L sur AB.


3.3 Remarque. Il est clair quil existe des fonctions sans point-selle. Par exem-
ple, considerons la fonction
L(x, y) := sin(x +y),
avec A = B := [0, 2]. On a alors
sup
yB
inf
xA
L(x, y) = 1 et inf
xA
sup
yB
L(x, y) = +1.
On va maintenant montrer le theor`eme de Ky Fan-von Neumann sur lexis-
tence de points-selles pour des fonctions convexe-concave.
3. Le theor`eme de Ky Fan-von Neumann 147
3.4 Theor`eme de min-max de Ky Fan-von Neumann. Soient X, Y deux
espaces de Banach reexifs, K
1
X et K
2
Y deux convexes fermes. On
suppose que L : K
1
K
2
R est une fonction convexe-concave, i.e.
pour tout x K
1
, lapplication L(x, ) est concave s.c.s. sur K
2
;
pour tout y K
2
, lapplication L(, y) est convexe s.c.i. sur K
1
.
De plus on suppose que
1) si K
1
est non borne, il existe y
0
K
2
tel que
lim
x
L(x, y
0
) = +;
2) si K
2
est non borne, il existe x
0
K
1
tel que
lim
y
L(x
0
, y) = .
Alors L admet au moins un point-selle sur K
1
K
2
.
Demonstration. Nous procederons en trois etapes.
Etape 1. On suppose que les ensembles K
1
et K
2
sont bornes et que pour tout
y K
2
, la fonction x L(x, y) est strictement convexe.
Posons, pour y K
2
, F(y) := inf
xK1
L(x, y). Dans ce cas, dapr`es le corol-
laire 1.4, il existe un unique (y) K
1
tel que
L((y), y) = min
xK1
L(x, y) = F(y) .
Comme F est lenveloppe inferieure de fonctions concaves et s.c.s., elle est con-
cave et s.c.s. Par consequent K
2
etant borne et convexe, il existe, dapr`es le
corollaire 1.4, y

K
2
tel que F(y

) = max
yK2
F(y). Nous allons verier que
((y

), y

) est un point-selle de L sur K


1
K
2
. Posons
x

:= (y

), et pour (t, y) [0, 1] K


2
, x
t
:= ((1 t)y

+ty).
Dapr`es la concavite de L(x, ) on a pour tout x K
1
L(x, (1 t)y

+ty) (1 t)L(x, y

) +tL(x, y),
do` u on deduit successivement (puisque L(x
t
, y

) F(y

))
F(y

) F((1 t)y

+ty)) = L(x
t
, (1 t)y

+ty)
(1 t)L(x
t
, y

) +tL(x
t
, y)
(1 t)F(y

) +tL(x
t
, y),
ce qui donne en n de compte, pour tout y K
2
, F(y

) L(x
t
, y). En faisant
tendre t vers zero, K
1
etant un convexe borne dun espace de Banach reexif,
il existe une sous-suite t
n
0 et un point x K
1
tel que lon ait x
tn
x dans
X-faible. Pour y K
2
xe, L(, y) est convexe s.c.i., donc faiblement s.c.i., et
par consequent F(y

) liminf
tn0
L(x
tn
, y) L( x, y). Dautre part, puisque :
(1 t
n
)L(x
tn
, y

) +t
n
L(x
tn
, y) L(x
tn
, (1 t
n
)y

+t
n
y)
L(x, (1 t
n
)y

+t
n
y) ,
148 Chapitre 3. Points critiques sans contrainte
en prenant la liminf ` a gauche et la limsup ` a droite, on deduit que pour tout
x K
1
L( x, y

) L(x, y

).
Finalement L(, y

) etant strictement convexe, on doit avoir x = x

. On en
conclut que lorsque t 0, on a x
t
x

et
L(x

, y) inf
xK1
L(x, y

) = L(x

, y

) L(x, y

),
i.e. que (x

, y

) est point-selle de L sur K


1
K
2
.
Etape 2. Maintenant supposons seulement que les ensembles K
1
et K
2
sont
bornes. Si L(, y) nest pas strictement convexe, on peut la perturber pour la
rendre telle. A cet eet on utilisera le resultat suivant de E. Asplund [8] :
Theor`eme. Soit X un espace de Banach reexif. Il existe alors une
norme equivalente strictement convexe sur X, i.e. une norme telle que
si 0 < t < 1 et x
1
, x
2
X verient x
1
= x
2
= 1 et x
1
= x
2
, alors
tx
1
+ (1 t)x
2
< 1.
On supposera donc que X est muni dune norme strictement convexe . Pour
> 0 donne, on peut facilement verier que pour chaque y K
2
,
x L

(x, y) := L(x, y) +x
2
est strictement convexe sur K
1
. Le resultat de la premi`ere etape montre lexis-
tence dun point-selle (x

, y

) pour L

. On a donc, pour tous x K


1
et y K
2
:
L(x

, y) L(x

, y

) +x

2
L(x, y

) +x
2
.
En faisant tendre vers zero, K
1
et K
2
etant bornes et X, Y reexifs, on peut
extraire des sous-suites de x

, y

convergeant respectivement vers x

et y

. En
passant ` a la liminf et limsup dans L(x

, y) L(x, y

) + x
2
, on conclut que
L(x

, y) L(x, y

), cest ` a dire que (x

, y

) est un point-selle de L sur K


1
K
2
.
Etape 3. Considerons maintenant le cas general o` u K
1
ou K
2
ne sont pas bornes,
mais L verie les conditions 1) ou 2). Soient pour n 1, B
1
(0, n) et B
2
(0, n) des
boules fermees de centre 0 et de rayon n dans les espaces X et Y respectivement.
En posant
K
1n
:= K
1
B
1
(0, n), K
2n
:= K
2
B
2
(0, n),
Pour n assez grand on a K
1n
K
2n
= , et on sait dapr`es letape 2, quil existe
un point-selle (x
n

, y
n

) de L sur K
1n
K
2n
. Par consequent pour tous x K
1n
et y K
2n
on a
L(x
n

, y) L(x
n

, y
n

) L(x, y
n

).
Montrons que la suite (x
n

, y
n

) est bornee dans X Y . Si K


1
(resp. K
2
) est
borne, on sait que x
n

(resp. y
n

) est borne. Sinon, si K


1
nest pas borne et K
2
est borne, on designe par x
0
un point quelconque de K
1
et, y
0
etant donne par
la condition 1), on a, pour n assez grand, x
0
K
1n
, y
0
K
2n
et :
L(x
n

, y
0
) L(x
0
, y
n

) sup
yK2
L(x
0
, y) < +.
4. Une application du theor`eme de min-max 149
La condition 1) du theor`eme implique alors que la suite (x
n

)
n
est bornee dans
X.
On traite de mani`ere analogue le cas o` u K
1
est borne et K
2
nest pas borne
et celui o` u K
1
et K
2
ne sont pas bornes.
On peut donc extraire de (x
n

, y
n

)
n
une sous-suite convergeant faiblement
vers (x

, y

) et en passant, comme precedemment ` a la liminf et limsup dans


linegalite L(x
n

, y) L(x, y
n

), pour x et y xes, on conclut que (x

, y

) est un
point-selle de L sur K
1
K
2
.
Lorsque L est strictement convexe en x, ou strictement concave en y, on peut
aisement montrer que la composante x

ou y

du point-selle est unique. On a


ainsi :
3.5 Proposition. Soient (x

, y

) et (u, v) deux points-selles de L sur K


1
K
2
.
Si pour tout y K
2
, L(, y) est strictement convexe sur K
1
, alors on a x

= u.
Si pour tout x K
1
, L(x, ) est strictement concave sur K
2
, alors on a y

= v.
Lorsque L(, y) et L(x, ) sont G-derivables, on peut caracteriser un point-selle ` a
laide des G-derivees de ces fonctions.
3.6 Proposition. On suppose que L est convexe-concave sur K
1
K
2
et que
L(, y) et L(x, ) admettent des G-derivees notees respectivement
x
L(, y), et

y
L(x, ). Alors les deux proprites suivantes sont equivalentes.
(i) (x

, y

) K
1
K
2
est un point selle de L sur K
1
K
2
.
(ii) (x

, y

) K
1
K
2
et pour tout (x, y) K
1
K
2
on a

x
L(x

, y

), x x

0 et
y
L(x

, y

), y y

0.
Si de plus
x
L(, y) et
y
L(x, ) sont hemicontinues (i.e. continues sur les seg-
ments de droites), alors les proprietes ci-dessus sont equivalentes ` a
(iii) (x

, y

) K
1
K
2
et pour tout (x, y) K
1
K
2
on a

x
L(x, y

), x x

0 et
y
L(x

, y), y y

0.
La demonstration etant en tout point identique ` a celle de la proposition 1.6,
nous la laissons en exercice.
4. Une application du theor`eme de min-max
Soient R
N
un ouvert borne et A un operateur auto-adjoint de domaine D(A)
dense dans L
2
(). Par exemple, on peut prendre regulier et Au := u avec
la condition au bord de Dirichlet, auquel cas on a D() = H
1
0
() H
2
()
ou bien, de fa con plus generale, prendre A un operateur auto-adjoint elliptique
comme dans (2.2).
Un premier exemple dapplication du theor`eme de Ky Fan-von Neumann est
la resolution du probl`eme suivant : soient h L
2
(), et L

(), trouver
u D(A) solution de
150 Chapitre 3. Points critiques sans contrainte
(4.1) Au = u +h.
En supposant que linjection du domaine D(A), muni de la norme du graphe, est
compacte dans L
2
(), on sait (voir paragraphes 1.9 et 1.12) que A poss`ede
une suite de valeurs propres (
n
)
n
, chaque valeur propre etant de multiplicite
nie (dire que D(A) est compact dans L
2
() est equivalent ` a dire que A est
` a resolvante compacte). Pour le probl`eme qui nous preoccupe ici, on supposera
que
1
> 0 et que
n

n+1
pour n 1.
On peut resoudre lequation (4.1) en utilisant le theor`eme de min-max de Ky
Fan-von Neumann (comparer avec lapplication du lemme de Lax-Milgram).
On conviendra ici de poser
0
:= .
4.1 Proposition. Soit A un operateur auto-adjoint ` a domaine D(A) dense dans
L
2
(). On suppose que A est ` a resolvante compacte et que la suite de ses valeurs
propres
n
verie 0 <
1

n

n+1
. Soit L

() veriant
, R, k 0,
k
< (x) <
k+1
.
Alors pour toute h L
2
(), lequation (4.1) admet une solution unique.
Demonstration. On consid`ere H := D(A
1/2
) ; ici et par la suite, dans le
souci de simplier les notations, pour u, v H, on ecrit (Au|v) au lieu de
(A
1/2
u|A
1/2
v) et on munit H de la norme denie par u
H
:= (Au|u)
1/2
, o` u
(|) est le produit scalaire de L
2
(). Sur H on denit la fonction
(4.2) J(u) :=
1
2
(Au|u)
1
2
_

(x)|u(x)|
2
dx (h|u).
Il est clair que J est de classe C
1
sur H, et que lon a pour tout v H
(4.3) J

(u), v = (Au|v)
_

(x)u(x)v(x)dx
_

h(x)v(x)dx.
On peut voir facilement que si on a k 1, la derivee J

(u) = Au u h nest
pas monotone et la fonction J nest ni convexe, ni concave. Nous allons utiliser
le theor`eme de Ky Fan-von Neumann en decomposant H en deux sous-espaces
H
1
et H
2
de la fa con suivante : soit
n
D(A) une fonction propre telle que
A
n
=
n

n
et
n

2
= 1. On pose
H
1
:=

nk
R
n
, H
2
:=

nk+1
R
n
de sorte que, A etant auto-adjoint, H = H
1

H
2
et tout element v H peut
secrire de fa con unique v = v
1
+v
2
, avec v
i
H
i
. En posant
L(v
1
, v
2
) := J(v
1
+v
2
),
on va verier que L(, v
2
) est strictement concave sur H
1
, alors que L(v
1
, ) est
strictement convexe sur H
2
. En eet, en utilisant le fait que est compris entre
4. Une application du theor`eme de min-max 151
et et, en remarquant que pour z
1
:= v
1
w
1
H
1
on a (Az
1
|z
1
)
k
z
1

2
,
on peut voir que la G-derivee de v
1
J(v
1
+v
2
) verie
(4.4)

1
L(v
1
, v
2
)
1
L(w
1
, v
2
), v
1
w
1

= (A(v
1
w
1
) (v
1
w
1
)|v
1
w
1
)
(
k
)v
1
w
1

2
,
ce qui (cf. lemme 1.15.4) signie que L(, v
2
) est strictement concave. De mani`ere
analogue on peut etablir linegalite :
(4.5)

2
L(v
1
, v
2
)
2
L(v
2
, w
2
), v
2
w
2

= (A(v
2
w
2
) (v
2
w
2
)|v
2
w
2
)
(
k+1
)v
2
w
2

2
,
cest-` a-dire que L(v
1
, ) est strictement convexe sur H
2
. De plus ces inegalites
montrent que
lim
v1
L(v
1
, v
2
) = , lim
v2
L(v
1
, v
2
) = +.
Par consequent, dapr`es le theor`eme 3.4, L admet un point-selle unique
(u
1
, u
2
) sur H
1
H
2
et on verie sans peine que u := u
1
+ u
2
est solution
de lequation (4.1). En eet dapr`es la caracterisation du point-selle (proposi-
tion 3.6), et du fait que H
1
et H
2
sont des espaces vectoriels, on a pour tout
v
i
H
i
avec i = 1, 2 :
0 =
i
L(u
1
, u
2
), v
i
= J

(u
1
+u
2
), v
i
,
ce qui signie que pour tout v := v
1
+v
2
H on a J

(u), v = 0.
Pour montrer lunicite de la solution, on peut utiliser le fait que si u est
solution, alors (u
1
, u
2
) est point-selle de L. On peut aussi proceder directement.
En eet comme lequation est lineaire, pour montrer lunicite, supposons que
h := 0. On a, en notant que (Au
1
|u
2
) = 0,

k
u
1

2
(Au
1
|u
1
) = (u
1
|u
1
) + (u
1
|u
2
) u
1

2
+ (u
1
|u
2
),
mais comme on a aussi
_

u
1
u
2
dx = (Au
2
|u
2
) (u
2
|u
2
) (
k+1
)u
2
,
on conclut que :
0 (
k
)u
1

2
(
k+1
)u
2

2
0,
cest ` a dire que u
1
= u
2
= 0.
Soit maintenant une fonction g : R R. On souhaite resoudre une
version semilineaire du probl`eme precedent, i.e. lequation
(4.6) u D(A), Au = g(, u) +h.
152 Chapitre 3. Points critiques sans contrainte
On ne considerera ici que le cas o` u la fonction g est sous-lineaire et quelle ne
voit pas le spectre de A dans ce sens quil existe un entier k 0 et , R tels
que p.p. sur
(4.7) s, t R, avec s = t,
k
<
g(, s) g(, t)
s t
<
k+1
,
o` u on conviendra que
0
:= . On va montrer que pour toute fonction h
L
2
() donnee, lequation (4.6) admet une solution unique (rappelons que la
condition de Caratheodory signie que (x, s) g(x, s) est mesurable en x,
continue en s).
4.2 Proposition. Soit A un operateur auto-adjoint de domaine D(A) dense
dans L
2
(). On suppose que A est ` a resolvante compacte et que la suite de
ses valeurs propres
n
verie 0 <
1

n

n+1
. Soit g une fonction
de R dans R veriant la condition de Caratheodory (1.16.1) ainsi que la
condition (4.7). Alors pour toute h L
2
(), lequation (4.6) admet une solution
unique.
Demonstration. On consid`ere H := D(A
1/2
), et la fonction
(4.8) J(u) :=
1
2
(Au|u)
_

G(x, u(x))dx (h|u)


o` u (|) est le produit scalaire de L
2
() et G(x, s) :=
_
s
0
g(x, )d. Comme dans
la demonstration de la proposition 4.1, on munit H de la norme denie par
u
H
:= (Au|u)
1/2
, et il est clair que J est de classe C
1
sur H et que lon a pour
tout v H
(4.9) J

(u), v = (Au|v)
_

g(x, u(x))v(x)dx
_

h(x)v(x)dx.
Les points critiques de J sur H correspondent donc aux solutions de (4.6). Mais
ici encore J nest ni convexe, ni concave sur H et de plus si k 1 on a
inf
uH
J(u) = inf
tR
J(t
k
) = ,
sup
uH
J(u) = sup
tR
J(t
k+1
) = +.
En reprenant les notations precedentes on pose
L(v
1
, v
2
) := J(v
1
+v
2
),
et on va verier que L(, v
2
) est strictement concave sur H
1
, alors que L(v
1
, )
est strictement convexe sur H
2
. En eet, (4.7) implique que, presque partout sur
, on a
(4.10) (g(, v
1
+v
2
) g(, w
1
+v
2
)) (v
1
w
1
) (v
1
w
1
)
2
;
et puisque pour z
1
:= v
1
w
1
H
1
on a (Az
1
|z
1
)
k
z
1

2
, on peut calculer
la G-derivee de v
1
J(v
1
+v
2
) pour obtenir, en utilisant lingalite ci-dessus :
5. Ensembles de niveau et points critiques 153
(4.11)
1
L(v
1
, v
2
)
1
L(w
1
, v
2
), v
1
w
1
(
k
)v
1
w
1

2
,
ce qui signie que L(, v
2
) est strictement concave. De mani`ere analogue on peut
etablir linegalite :
(4.12)
2
L(v
1
, v
2
)
2
L(v
2
, w
2
), v
2
w
2
(
k+1
)v
2
w
2

2
,
cest ` a dire que L(v
1
, ) est strictement convexe sur H
2
. De plus les inegalites
(4.11) et (4.12) montrent que
lim
v1
L(v
1
, v
2
) = , lim
v2
L(v
1
, v
2
) = +.
Par consequent dapr`es le theor`eme de Ky Fan-von Neumann, L admet un unique
point-selle (u
1
, u
2
) sur H
1
H
2
. On conclut que pour tout (v
1
, v
2
) H
1
H
2
on a
J

(u
1
+u
2
), v
1
= 0, J

(u
1
+u
2
), v
2
= 0,
ce qui signie que si u := u
1
+u
2
, on a J

(u), v = 0, pour tout v = v


1
+v
2
H.
Par consequent u est solution de (4.6).
Il nous reste ` a montrer lunicite de la solution. Si z H etait une solution
distincte de u on aurait Aw = w, en posant w := u z = 0 et etant deni
par
(x) :=
_

_
g(x, u(x)) g(x, z(x))
u(x) z(x)

si u(x) = z(x) ,
si u(x) = z(x).
Comme on a
k
< (x) <
k+1
, la proposition 4.1 implique que w = 0,
contrairement ` a lhypoth`ese.
4.3 Remarque. Lorsque [g(, s) g(, t)] /(s t) et en supposant quil
existe une valeur propre
k
dans lintervalle [, ], la resolution de lequation (4.6)
devient plus complexe ; les conditions (sur la donnee h et , ) pour lesquelles on
peut trouver une solution ne sont connues que dans certains cas. A ce sujet voir
plus loin le chapitre 5, ainsi que A. Ambrosetti & G. Prodi [5], E.N. Dancer [53],
S. Fucik [66], B. Ruf [146], Th. Gallouet & O. Kavian [70].
5. Ensembles de niveau et points critiques
Si X est un ensemble et J : X R est une application on posera, pour a R
(5.1) [J a] := {u X ; J(u) a} .
De fa con analogue on denit les ensembles [J < a], [J a], [J > a] et les
ensembles de niveau [J = a].
Lorsque J est une fonction convexe s.c.i. denie sur un espace de Banach
reexif, on utilise deux choses pour montrer que J atteint sa borne inferieure
m :
154 Chapitre 3. Points critiques sans contrainte
m R est tel que [J < m] = ;
pour > 0 petit les ensembles [J m+ ] sont non-vides et faiblement
compacts.
En realite, le point crucial dans lexistence des points critiques est la dierence
topologique entre les ensembles [J < c] et [J c + ] pour certaines valeurs
de c R (en outre certaines hypoth`eses de compacite seront requises). Voici
quelques exemples pour illustrer ce point de vue.
1) Soit J(x) := x
3
3x pour x R ; la derivee J

sannule en 1 et en
posant c
1
:= J(1) = 2 et c
2
:= J(1) = 2, on remarque que
si a
1
< c
1
, lensemble [J a
1
] est du type ] ,
1
], pour un certain

1
R ;
si c
1
< a
2
< c
2
, on a [J a
2
] =] ,
2
] [
2
,
2
] avec
2
<
2
<
2
.
En particulier lensemble [J a
2
] a deux composantes connexes ;
enn si a
3
> c
2
, on a [J a
2
] =] ,
3
].
Dans chacun des cas, on peut voir facilement que a
i
etant choisi comme ci-dessus,
pour > 0 assez petit les ensembles [J a
i
] et [J a
i
+] sont homeomorphes
et peuvent etre deformes contin ument lun en lautre, alors quil nen est pas de
meme pour les ensembles [J c
i
] et [J c
i
+].
2) Soit J(x, y) := x
2
y
2
pour (x, y) R
2
; on sait que 0 est la seule valeur
critique de J. On verie sans diculte que si > 0, alors [J ] est connexe,
alors que [J ] a deux composantes connexes.
3) Mais la seule notion du nombre de composantes connexes ne sut pas
pour pouvoir dierencier susamment les ensembles [J a]. Considerons
pour (x, y) R
2
, la fonction J(x, y) := (x
2
+y
2
)
2
2(x
2
+y
2
). On verie que J
a deux valeurs critiques c
1
:= 1 et c
2
:= 0. On voit facilement que si a
1
< c
1
,
lensemble [J < a
1
] est vide, que pour c
1
< a
2
< c
2
lensemble [J a
2
] est un
anneau du type r
2
x
2
+y
2
R
2
avec r < R, alors que si a
3
> c
2
, [J a
3
]
est une boule B(0, R). Ici, lors du passage de la valeur critique c
2
= 0, le
nombre de composantes connexes des ensembles [J a] ne change pas, mais
[J a
3
] est simplement connexe alors que [J a
2
] ne lest pas. On constate
donc neanmoins que ces ensembles deviennent topologiquement dierents au
passage de c
2
= 0.
Bien que cet aspect topologique (theorie de Morse) soit tr`es riche et interessant ` a
etudier, nous naborderons pas son etude systematique ; pour les applications ` a
la resolution dequations aux derivees partielles, nous garderons seulement lidee
principale, ` a savoir que les valeurs critiques sont des valeurs c pour lesquelles
on ne peut pas deformer contin ument, pour > 0 assez petit, les ensembles
[J c + ] en les ensembles [J c ]. Pour une introduction ` a la theorie de
Morse on pourra consulter J.W. Milnor [117].
Pour preciser ce que nous entendons par deformer contin ument, nous pre-
sentons ici un lemme de deformation pour les fonctions J de R
n
dans R, sans
optimiser les hypoth`eses necessaires ` a sa demonstration.
5. Ensembles de niveau et points critiques 155
5.1 Lemme de deformation. Soient J C
1,1
loc
(R
n
, R), c R et
0
> 0 tels
que :
(i) lensemble [c
0
J c +
0
] est compact.
(ii) Il existe > 0 tel que x [c
0
J c +
0
], on a J

(x) .
Alors pour tout <
0
/2 il existe un homeomorphisme de R
n
R
n
tel que
([J c +]) [J c ].
Demonstration. Soit 0 < <
0
/2 ; posons := 2/
2
et
A := [J c
0
] [J c +
0
] B := [c J c + ].
Soit f : R
n
[0, 1] une fonction localement lipschitzienne telle que f(A) = {0}
et f(B) = {1} ; par exemple, d(, ) etant la distance dun point ` a un ensemble
ferme, on pourra prendre
f(x) :=
d(x, A)
d(x, A) +d(x, B)
.
Alors lequation dierentielle
(5.2)
_
_
_
dx
dt
= f(x(t))J

(x(t))
x(0) = x
0
admet une solution unique x(t) qui existe pour tout t R car x f(x)J

(x)
est localement lipschitzienne et uniformement bornee sur R
n
. De plus, dapr`es
la dependance continue de la solution dune equation dierentielle par rapport
aux donnees initiales, on sait que x
0
x(t) est continue. Nous noterons cette
solution (t, x
0
) := x(t). Notons que J decrot le long de la trajectoire (, x
0
),
en eet on a
(5.3)
d
dt
J((t, x
0
)) = J

((t, x
0
)),
d
dt
(t, x
0
)
= f((t, x
0
))J

((t, x
0
))
2
0.
On posera (x
0
) := (1, x
0
), pour tout x
0
R
n
. Pour verier que repond ` a la
question, soit x
0
[J c+] ; si on a J(x
0
) c, alors puisque t J((t, x
0
))
est decroissante, on aura (x
0
) [J c ]. Si pour tout t [0, 1[, (t, x
0
) est
dans lensemble [c < J c +], alors
J((1, x
0
)) = J(x
0
) +
_
1
0
d
dt
J((t, x
0
))dt
= J(x
0
)
_
1
0
f((t, x
0
))J

((t, x
0
))
2
dt
J(x
0
)
2
c ,
ce qui signie que la trajectoire de passant par x
0
sort, au plus tard au temps
t = 1, de lensemble [c < J c +] pour entrer dans [J c ].
156 Chapitre 3. Points critiques sans contrainte
5.2 Remarque. La fonction (, x
0
) denie par (5.2) est appelee le ot associe
` a J passant par le point x
0
. Noter quen inversant le sens du temps t on peut
deformer [J c ] en [J c +]. Il faut aussi attirer lattention sur le fait que
nous avons montre beaucoup plus que lexistence de lhomeomorphisme . En
eet le ot poss`ede les proprietes suivantes :
pour tout t [0, 1], x (t, x) est un homeomorphisme ;
pour tout x R
n
, (0, x) = x ;
si x [c
0
J c +
0
], on a pour tout t [0, 1], (t, x) = x ;
si x [c J c +], on a (1, x) [J c ].
De plus nous verrons plus loin que si c nest pas une valeur critique, alors [J
c ] est une deformation retracte de [J c +].
5.3 Remarque. Notons que comme R
n
est localement compact, si c R et J
sont tels que pour un
0
> 0 lensemble [c
0
J c +
0
] est borne et ne
contient pas de valeur critique de J, alors J

(x) est minoree sur cet ensemble


et on peut appliquer le lemme. On voit egalement que dans la pratique, pour
montrer lexistence dune valeur critique pour J, on essaie de construire une
valeur c R telle que pour diverses raisons, on sait que les ensembles [J c ]
et [J c +] ne sont pas homeomorphes.
On constate, lors de la demonstration de ce lemme de deformation, que lon
doit construire des trajectoires le long desquelles la valeur de J decrot. Dans
un espace de dimension nie, ou dans un espace de Hilbert, on voit quil faut
construire ces trajectoires dans la direction opposee au gradient de la fonction.
Mais si la fonction J est denie sur un espace de Banach X, la derivee J

(x) est
un element du dual X

et par consequent il faut denir des directions (presque)


parall`eles au gradient, dans un sens approprie. Lautre diculte provient de ce
que dans un espace de dimension innie, on na pas de compacite locale et une
fonction continue sur un ensemble borne ny est pas necessairement bornee, ce
qui complique leg`erement la construction du ot (, x).
6. Condition de Palais-Smale
Pour exprimer la compacite des suites minimisantes, ou de fa con generale des
suites qui convergent vers un point dont on esp`ere montrer que cest un point
critique, on a souvent recours ` a la condition de Palais-Smale.
6.1 Denition. Soient X un espace de Banach, et J : X R une fonction
de classe C
1
. Si c R, on dit que J verie la condition de Palais-Smale (au
niveau c), si toute suite (u
n
)
n
de X telle que
J(u
n
) c dans R, et J

(u
n
) 0 dans X

contient une sous-suite (u


n
k
)
k
convergente.
Intuitivement, ce que lon exige cest la compacite des suites qui ont tendance
` a realiser une valeur critique. Mais, meme si la fonction est bornee inferieurement
6. Condition de Palais-Smale 157
et c := inf J, il nest pas du tout evident que lorsque J(u
n
) c, alors J

(u
n
) tend
vers zero. Considerer par exemple la fonction J(x) := e
x
(2 + sin(e
2x
)) denie
sur R et c := 0. Comme on le verra ci-dessous lors de lapplication du lemme
dEkeland, il faudra en plus supposer que la fonction J verie la condition de
Palais-Smale. Si J verie la condition de Palais-Smale en c R, une consequence
importante est que lensemble :
K(c) := {u X ; J(u) = c, et J

(u) = 0} ,
est compact ; il en est de meme de
acb
K(c), pour tous a, b R.
En fait, tr`es souvent il faut adapter la denition de la condition de Palais-
Smale au probl`eme que lon veut resoudre. Une variante est la suivante : sil
existe (u
n
)
n
une suite de X telle que J(u
n
) tend vers c et J

(u
n
) 0 dans X

,
alors c est une valeur critique de J. On pourrait aussi, par exemple, donner une
condition analogue pour les fonctions denies seulement sur une partie de X, ou
restreindre lexistence de sous-suite convergente pour les (u
n
)
n
telles que J(u
n
)
c (i.e. J(u
n
) decrot vers c) et J

(u
n
) 0, ou bien encore se contenter davoir
une sous-suite convergente modulo une certaine transformation (par exemple,
si u
n
H
1
(R
N
), on exigera que la suite des translatees v
n
:= u
n
( + x
n
) soit
relativement compacte pour une suite x
n
de R
N
bien choisie), etc. Voir aussi
Exercices pour dautres variantes.
6.2 Exemple. La fonction J(x) = e
x
denie sur R, ne verie pas la condition
de Palais-Smale en 0.
6.3 Exemple. Voici un exemple plus interessant. Soit (A, D(A)) loperateur
auto-adjoint ` a resolvante compacte deni sur L
2
(), o` u est un ouvert borne,
par Au = u pour u D(A) avec
D(A) :=
_
u H
1
0
() ; u L
2
()
_
.
On designe par Sp(A) := (
k
)
k1
la suite des valeurs propres de A ; on rappelle
quen identiant L
2
() ` a son dual on a H
1
0
() L
2
() H
1
() avec injec-
tions continues et denses. Pour R et f H
1
() xes, soit la fonctionnelle
J denie sur H
1
0
() par (, designant le crochet de dualite entre H
1
() et
H
1
0
()) :
J(v) :=
1
2
_

_
|v(x)|
2
v
2
(x)
_
dx f, v.
Alors, si Sp(A), J satisfait la condition de Palais-Smale sur H
1
0
(). En eet
en notant

A lextension de A ` a H
1
0
() (voir remarque 1.9.3 ; en fait

Av = v
au sens des distributions, et souvent on utilisera cet abus de notation) alors on a
J

(v) =

Av v f et

AI est un homeomorphisme de H
1
0
() sur H
1
().
Si (u
n
)
n
est une suite de H
1
0
() telle que J(u
n
) c et
J

(u
n
) =

Au
n
u
n
f =
n
0 dans H
1
(),
alors u
n
= (

AI)
1
[f +
n
] u := (

AI)
1
f dans H
1
0
() (cela montre en
passant que la seule valeur critique de J est c = J
_
(

AI)
1
f
_
, ce que lon
peut aussi voir en utilisant la proposition 4.1).
158 Chapitre 3. Points critiques sans contrainte
Dautre part, il est interessant de noter que si =
k
pour un k 1 et si
par exemple f = 0, alors J ne satisfait pas la condition de Palais-Smale. En eet

k
0 etant une fonction propre associee ` a
k
, la suite (u
n
)
n
:= (n
k
)
n1
, ne
contient aucune sous-suite convergente, bien que J(n
k
) = 0 et J

(n
k
) = 0.
6.4 Exemple. Soient un ouvert borne de R
N
et p > 1 tel que (N2)p < N+2.
On consid`ere pour R xe, la fonctionnelle J denie sur H
1
0
() par :
(6.1) J(v) :=
1
2
_

|u(x)|
2
dx +

p + 1
_

|v(x)|
p+1
dx.
On va voir que J satisfait la condition de Palais-Smale. En eet si (u
n
)
n
est une
suite de H
1
0
() telle que :
J(u
n
) c, J

(u
n
) = u
n
+ |u
n
|
p1
u
n
0 dans H
1
(),
alors on a
J

(u
n
), u
n
=
_

|u
n
|
2
+
_

|u
n
(x)|
p+1
dx
= (p + 1)E(u
n
)
p 1
2
_

|u|
2
.
Or |J

(u
n
), u
n
| J

(u
n
)
H
1 u
n
, et on peut en deduire que (ici
designe la norme de L
2
()) :
p 1
2
u
n

2
(p + 1)E(u
n
) +J

(u
n
)
H
1 u
n
.
Comme p 1 > 0, cette inegalite montre que la suite (u
n
)
n
est bornee dans
H
1
0
() ; puisque est borne et que p +1 < 2

, linjection H
1
0
() dans L
p+1
()
est compacte (theor`eme de Rellich-Kondrachov) et, on peut extraire une sous-
suite v
i
:= u
ni
qui converge vers v dans H
1
0
()-faible ainsi que dans L
p+1
()-
fort.
En utilisant le lemme 1.16.1, on en conclut que |v
i
|
p1
v
i
|v|
p1
v dans
L
(p+1)/p
(), donc aussi dans H
1
(), et nalement :
v
i
= J

(v
i
) |v
i
|
p1
v
i
|v|
p1
v dans H
1
().
En appelant B loperateur qui ` a f H
1
() fait correspondre z solution de :
z H
1
0
(), z = f au sens H
1
(),
on sait que B est continu de H
1
() dans H
1
0
() (en fait, avec les notations de
lexemple precedent, B =

A
1
). On a donc :
v
i
= B(J

(v
i
) |v
i
|
p1
v
i
) B(|v|
p1
v) dans H
1
0
(),
ce qui signie que la suite (u
n
)
n
contient une sous-suite convergente. Naturelle-
ment, on obtient une information supplementaire : en eet puisque v
i
v, on
doit avoir v = B(|v|
p1
v), cest ` a dire que v H
1
0
() est solution de :
6. Condition de Palais-Smale 159
v +|v|
p1
v = 0 au sens H
1
().
Remarquer que dans cette approche il faut utiliser les deux informations J(u
n
)
est bornee et J

(u
n
) tend vers zero, pour deduire que la suite (u
n
)
n
est bornee.
Ensuite cest un theor`eme de compacite qui permet de conclure. Nous verrons
plus loin que si (N 2)p = N +2 avec N 3 et < 0, alors J ne verie pas la
condition de Palais-Smale (cependant pour le cas o` u > 0 et p > 1 quelconque,
voir Exercices).
6.5 Exemple. Nous traitons ici un cas qui va nous servir par la suite, et qui est
une generalisation de lexemple que nous venons de voir. Soit A un operateur el-
liptique du second ordre comme dans (2.2) et une fonction g de R dans R sat-
isfaisant la condition de Caratheodory (1.16.1). On pose G(x, s) :=
_
s
0
g(x, )d
et on consid`ere sur H
1
0
() la fonctionnelle :
(6.2)
J(v) :=
1
2
_

[a(x)v(x) v(x) +|v(x)|


2

dx
+
_

G(x, v(x))dx f, v,
o` u , R, = 0 et f H
1
() sont xes. On va montrer que si g satisfait des
conditions de croissance adequates, alors J verie la condition de Palais-Smale.
Nous commencerons par montrer le lemme suivant :
6.6 Lemme. Soient un ouvert borne de R
N
et m : R
+
telle que m > 0
p.p. sur . On suppose quil existe b
1
0 et b
0
L
p0
() avec p
0
>
2N
N+2
pour
N 2 et p
0
:= 1 si N = 1, et enn , p 1 tels que (N 2)p < N +2, veriant :
s R, p.p. sur , m(x)|s|

b
0
(x)|s| +b
1
_
1 + |s|
p+1
_
.
Alors pour tout > 0 il existe une constante C() > 0 telle que pour tout
u H
1
0
() :
_

|u(x)|
2
dx
_

|u(x)|
2
dx +C()
__

m(x)|u(x)|

dx
_
2/
.
Le meme resultat subsiste pour u H
1
(), si on suppose que est de classe
C
1
.
Demonstration. Nous montrons le lemme pour H
1
0
() et nous laissons en ex-
ercice le cas o` u cette inegalite est consideree sur lespace H
1
(). Si le resultat
netait pas vrai, puisquil sagit dune inegalite homog`ene de degre deux, il exis-
terait > 0 tel que pour tout n 1 il existe u
n
H
1
0
() veriant :
(6.3)
_

|u
n
(x)|
2
dx = 1 >
_

|u
n
(x)|
2
dx +n
__

m(x)|u
n
(x)|

dx
_
2/
.
En particulier (u
n
)
n
est bornee dans H
1
0
(), et en extrayant une sous-suite, en-
core notee (u
n
)
n
, on a, gr ace au theor`eme de compacite de Rellich-Kondrachov :
160 Chapitre 3. Points critiques sans contrainte
u
n
u dans H
1
0
()-faible, u
n
u dans L
2
() et p.p.
On en deduit que
_

u(x)
2
dx = 1. Dautre part, linegalite (6.3) montre que
(6.4) lim
n
_

m(x)|u
n
(x)|

dx = 0.
Mais puisque p
0
>
2N
N+2
lorsque N 2, on a p

0
= p
0
/(p
0
1) < 2

et par
consequent, par le theor`eme de Rellich-Kondrachov, u
n
tend vers u dans L
p

0
()
et
b
0
(u u
n
)
L
1
()
b
0

L
p
0()
u u
n

L
p

0()
,
ce qui implique en particulier que b
0
|u
n
| tend vers b
0
|u| dans L
1
() et p.p. sur .
De meme |u
n
|
p+1
tend vers |u|
p+1
dans L
1
() et presque partout. Finalement,
si
Z
n
(x) := b
0
(x)|u
n
(x)| +b
1
_
1 + |u
n
(x)|
p+1
_
,
Z(x) := b
0
(x)|u(x)| +b
1
_
1 + |u(x)|
p+1
_
,
on conclut que Z
n
tend vers Z dans L
1
() et presque partout. Comme on a
m|u
n
| Z
n
, dapr`es le corollaire 1.4.14 on peut conclure que m|u
n
|

tend vers
m|u|

dans L
1
() et que :
lim
n
_

m(x)|u
n
(x)|

dx =
_

m(x)|u(x)|

dx,
ce qui, joint ` a (6.4) et au fait que m > 0 presque partout, permet de dire que
u 0 p.p., ce qui est en contradiction avec le fait que
_

u(x)
2
dx = 1.
6.7 Proposition. Soit un ouvert borne. Si N 2 soit p
0
:= + N/2 pour
un > 0 et p
0
:= 1 si N = 1. Soit p > 1 tel que (N 2)p < N + 2 ; on suppose
que g satisfait les conditions suivantes :
b
0
L
p0
(), b
1
0, |g(x, s)| b
0
(x) +b
1
|s|
p
(6.5)
> 2, R > 0, t.q. si |s| R, 0 < G(x, s) sg(x, s). (6.6)
Alors si R, = 0, f H
1
(), la fonctionnelle J denie par (6.2) satisfait
la condition de Palais-Smale sur H
1
0
(). Si est un ouvert de classe C
1
et
f L
q
() avec q 2N/(N + 2), J verie la condition de Palais-Smale sur
H
1
().
Demonstration. On remarquera que la condition (6.6) exprime le fait que G
est ` a croissance sur-quadratique ` a linni. En eet si par exemple s R on a
s
1

g(x,s)
G(x,s)
et par consequent sur lintervalle [R, +[ on obtient G(x, s)
G(x, R)R

. On a donc, pour une fonction c


1
L
p0
(), pour (x, s) R :
(6.7) G(x, s) min(G(x, R), G(x, R))R

|s|

c
1
(x).
Il est egalement important de noter que la condition (6.5) implique que < 2

.
Pour voir que J satisfait la condition de Palais-Smale sur H
1
0
(), considerons
une suite (u
n
)
n
telle que J(u
n
) c et :
6. Condition de Palais-Smale 161
h
n
:= J

(u
n
) = Au
n
+u
n
+g(, u
n
) f 0 dans H
1
().
Comme dans lexemple precedent, on montre dabord que la suite (u
n
)
n
est
bornee dans H
1
0
(). En eet, puisque > 2, en utilisant le fait quil existe
c
2
L
p0
() tel que G(x, s) sg(x, s) + c
2
(x), pour une constante C > 0
independante de n, on peut ecrire :
_

G(x,u
n
(x))dx

1
2
_

[u
n
(x)g(x, u
n
(x)) 2G(x, u
n
(x))] dx +C
=
1
( 2)
[h
n
f, u
n
2J(u
n
)] +C
C (1 +u
n
) . (6.8)
Par ailleurs en posant m(x) := R

min(1, G(x, R), G(x, R)), le lemme 6.6 et


(6.7) donnent :
_

|u
n
(x)|
2
dx u
n

2
+C()(1 +u
n
)
2/
.
Finalement comme a(x) ||
2
, avec > 0, et que J(u
n
) est bornee, on
conclut, en supposant dabord que < 0 et en utilisant (6.8) :
u
n

2
2J(u
n
)+f
H
1
()
u
n
+ ||u
n

2
+ ||
_

G(x, u
n
(x))dx
C +u
n

2
+C()(1 +u
n
)
2/
.
Si > 0, comme dapr`es (6.7) on a
_

G(x, u
n
(x))dx C, on verie facile-
ment que la derni`ere inegalite est encore vraie. Ce qui, en choisissant > 0 assez
petit, implique que (u
n
)
n
est bornee dans H
1
0
(). Il existe une sous-suite (u
nj
)
j
faiblement convergente dans H
1
0
() et qui, en utilisant le fait que linjection de
H
1
0
() dans L
r
() est compacte pour (N 2)r < 2N, converge fortement dans
L
r
() et presque partout dans (voir proposition 1.4.11). En procedant comme
dans la demonstration du lemme 6.6, on montre que si r
0
:= min(p
0
, (p +1)/p),
alors g(, u
nj
()) tend p.p. et dans L
r0
(), donc dans H
1
(), vers g(, u()).
Dapr`es le lemme 1.16.1, g(, u
nj
()) tend vers g(, u()) dans L
(p+1)/p
(), donc
dans H
1
(). Comme nous lavons vu plus haut, en designant par

A le pro-
longement de A ` a H
1
0
(),

A est un isomorphisme de H
1
0
() sur H
1
() et on
a donc :
u
nj
=

A
1
_

nj
+ f +u
nj
+ g(, u
nj
())


A
1
[f +u +g(, u())] ,
cest ` a dire que (u
n
)
n
contient une sous-suite convergente dans H
1
0
().
162 Chapitre 3. Points critiques sans contrainte
Nous avons dit auparavant que si J est une fonction de classe C
1
bornee
inferieurement, en general il nest pas vrai que pour toute suite minimisante
(u
n
)
n
, la derivee J

(u
n
) tend vers zero. Cependant on a le lemme suivant d u ` a
I. Ekeland [59].
6.8 Lemme (I. Ekeland). Soient (X, d) un espace metrique complet et J une
fonction s.c.i. de X dans R. On suppose que J est bornee inferieurement et on
pose c := inf
xX
J(x). Alors pour tout > 0, il existe u

tel que :
(6.9)
_
c J(u

) c +,
x X, x = u

, J(x) J(u

) +d(x, u

) > 0.
Demonstration. Pour > 0 xe, considerons lepigraphe de J, i.e. lensemble :
A := {(x, a) X R ; J(x) a} .
A est ferme dans XR, puisque J est semi-continue inferieurement. Sur XR
on denit une relation dordre par :
(x, a) (y, b) a b +d(x, y) 0.
On va construire une suite densembles A
n
comme suit : pour x
1
X xe tel
que
c J(x
1
) c +,
on pose a
1
:= J(x
1
) et A
1
:= {(x, a) A ; (x, a) (x
1
, a
1
)}. En supposant que
(x
i
, a
i
) est determine et
A
i
:= {(x, a) A ; (x, a) (x
i
, a
i
)} ,
pour i n, on pose

A
n
:= {x X ; a R, tel que (x, a) A
n
} et c
n
:=
inf
x An
J(x). Supposons un instant que a
i
> c
i
pour i n ; il est clair quon
peut xer (x
n+1
, a
n+1
) A
n
tel que :
(6.10) 0 J(x
n+1
) c
n

1
2
(a
n
c
n
), a
n+1
:= J(x
n+1
).
On pose ensuite A
n+1
:= {(x, a) ; (x, a) (x
n+1
, a
n+1
)} et on verie que
A
n+1
A
n
, et que c c
n
c
n+1
:= inf
An+1
J(x). Do` u, en utilisant les re-
lations (6.10) :
0 a
n+1
c
n+1
a
n+1
c
n

1
2
(a
n
c
n
) 2
n
(a
1
c
1
).
Par ailleurs, dire que (x, a) A
n+1
signie que :
a a
n+1
+d(x, x
n+1
) 0.
On en conclut que d(x, x
n
) a
n+1
a a
n+1
J(x) a
n+1
c
n+1
et par
consequent :
6. Condition de Palais-Smale 163
d(x, x
n+1
) + |a a
n+1
| (1 +
1

) 2
n
(a
1
c
1
),
ce qui implique que le diam`etre de A
n+1
tend vers zero. Comme A est complet,
il existe un unique (u, b) A tel que
{(u, b)} =

n1
A
n
.
Soit (x, a) A tel que (x, a) (u, b) ; alors on a pour tout n 1, (x, a)
(x
n
, a
n
), ce qui implique que (x, a)

n1
A
n
, i.e. (x, a) = (u, b). Cela signie
que (u, b) est minimal dans A, i.e.
(x, a) A et (x, a) (u, b) =(x, a) = (u, b).
Dautre part on a (u, J(u)) (u, b), et compte tenu du fait que (u, b) est minimal
dans A, on conclut que b = J(u). Ainsi on voit que (u, J(u)) est minimal dans
A, cest ` a dire que :
(x, a) A, (x, a) = (u, J(u)) =a J(u) +d(x, u) > 0.
En particulier en prenant a = J(x) et x = u, et remarquant que J(u) J(x
1
)
c +, on conclut la demonstration du lemme.
Sil existe un entier n 1 tel que c
n
= a
n
= J(x
n
), alors A
n
= {(x
n
, a
n
)} :
en eet (x, a) A et (x, a) (x
n
, a
n
) signie, par denition de la relation :
c
n
= a
n
= J(x
n
) J(x) a, a a
n
+d(x, x
n
) 0 ;
on en deduit que a = a
n
et x = x
n
. On pose alors (u, b) := (x
n
, a
n
) et on verie
que (u, b) est minimal dans A comme ci-dessus.
Voici une application du lemme dEkeland.
6.9 Corollaire. Soient X un espace de Banach et J C
1
(X, R). On suppose
que J est bornee inferieurement et verie la condition de Palais-Smale au niveau
c := inf
xX
J(x). Alors J atteint son minimum c.
Demonstration. Dapr`es le lemme dEkeland, il existe u
n
X tel que
_

_
c J(u
n
) c +
1
n
,
v X, J(v) +
1
n
v u
n
J(u
n
).
En ecrivant J(v) = J(u
n
) +J

(u
n
), v u
n
+o(v u
n
), on en deduit que :
J

(u
n
)
1
n
,
cest ` a dire que J

(u
n
) 0, alors que J(u
n
) c. Puisque J satisfait la condition
de Palais-Smale, il existe une sous-suite (u
n
k
)
k
et u X tels que u
n
k
u.
Comme J est de classe C
1
, on a donc J(u) = c et J

(u) = 0.
164 Chapitre 3. Points critiques sans contrainte
6.10 Exemple. Soient a() une matrice symetrique ` a coecients dans L

(),
veriant (2.1) et g : R R une fonction mesurable en x et continue
en s R, satisfaisant les conditions (6.5), (6.6).
Alors pour toute f L
2
() (par exemple), la fonctionnelle
J(v) :=
1
2
_

a(x)v(x) v(x)dx +
_

[G(x, v(x)) f(x)v(x)] dx,


est de classe C
1
, satisfait la condition de Palais-Smale (voir proposition 6.7) et est
bornee inferieurement sur H
1
0
(). Dapr`es le corollaire precedent, J atteint son
minimum en un point u H
1
0
() et on obtient ainsi une solution de lequation
semilineaire :
_
div(a()u) +g(, u) = f
u = 0
dans ,
sur .
7. Le lemme de deformation
Comme nous lavons vu dans le lemme 5.1, il est possible de deformer un en-
semble du type [c < J c + ] en un ensemble [J c ], pourvu que c
ne soit pas valeur critique de J et que lon puisse construire un ot (t, x) dans
la direction opposee au gradient de J. En fait, dans un espace de Banach, on
dispose de la notion de pseudo-gradient que nous introduisons ici :
7.1 Denition. Soient X un espace de Banach et J C
1
(X, R). Si u X, on
dit que v X est un pseudo-gradient (en abrege p.g.) de J en u si on a :
(7.1) v 2J

(u), J

(u), v J

(u)
2
.
En designant par X
r
:= {u X ; J

(u) = 0} lensemble des points reguliers (i.e.


non critiques) de J, une application V de X
r
X est appelee champ de
pseudo-gradient de J si V est localement lipschitzienne sur X
r
et pour tout
u X
r
, V (u) est un pseudo-gradient de J en u.
Il faut noter quil existe dautres variantes de la denition de pseudo-gradient,
en particulier la constante 2 dans (7.1) pourrait etre remplacee par une constante
1 + avec > 0. Enn nous remarquerons que si v
1
et v
2
sont deux p.g. de J
en u, pour tout [0, 1], la combinaison convexe v
1
+ (1 )v
2
est egalement
un p.g. de J en u.
On notera aussi que si X est un espace de Hilbert et que X

est identie ` a X,
lorsque J C
1,1
loc
(X, R), on peut prendre comme champ de p.g. tout simplement
J

. Cependant, comme on exige que le champ de pseudo-gradient V soit locale-


ment lipschitzien sur X
r
, meme dans le cas o` u X est un espace de Hilbert, si J
est seulement de classe C
1
, lexistence dun champ de p.g. nest pas evidente. Le
resultat suivant est donc digne dinteret.
7. Le lemme de deformation 165
7.2 Lemme. Soient X un espace de Banach et J C
1
(X, R) une fonction non
constante. Il existe alors un champ de p.g. de J.
Demonstration. Soit u X
r
un point regulier de J. Comme par denition
J

(u) = sup
x=1
J

(u), x et que J

(u) = 0, il existe x
u
X tel que
J

(u), x
u
>
2
3
J

(u), et x
u
= 1. En posant alors v := v
u
:=
3
2
J

(u) x
u
, on
a :
v
u
=
3
2
J

(u) < 2J

(u),
J

(u), v
u
=
3
2
J

(u)J

(u), x
u
> J

(u)
2
,
et ainsi v
u
est un p.g. de J en u. Comme J

est continue, il existe


u
voisinage
ouvert de u,
u
X
r
, tel que pour tout x
u
, v
u
soit un p.g. de J en x. On va
ensuite utiliser le resultat topologique suivant qui exprime la paracompacite des
espaces metriques (voir par exemple N. Bourbaki [24, chapitre IX, 5, propo-
sition 6 et 3, proposition 3], J. Dieudonne [58, 12.6]). Soit Y un espace
topologique. Rappelons quun recouvrement (
j
)
jI
est dit localement ni si
pour tout x Y , il existe un voisinage (x) de x tel que (x)
j
= sauf
pour un nombre ni de j I. Un recouvrement (
j
)
jI
est dit plus n quun
recouvrement (

)
A
si pour tout j I il existe
j
A tel que
j

j
.
Lorsque (
j
)
jI
est un recouvrement ouvert de Y , on dit que (
j
)
jI
est une
partition de lunite subordonnee ` a (
j
)
jI
si 0
j
1, le support de
j
est
contenu dans
j
et

jI

j
(y) = 1 pour tout y Y . Si Y est un espace metrique
et si chaque
j
est localement lipschitzienne on dit que la partition est localement
lipschitzienne. On a alors le resultat suivant :
Theor`eme. Soient (Y, d) un espace metrique et (

)
A
un re-
couvrement ouvert de Y . Il existe un recouvrement ouvert (
j
)
jI
plus n que (

)
A
, localement ni et une partition localement
lipschitzienne de lunite (
j
)
jI
, subordonnee au recouvrement
(
j
)
jI
.
(Pour une demonstration de ce theor`eme dans le cas plus simple o` u Y est
separable, voir Exercices). Admettant ce resultat avec Y := X
r
, et le recou-
vrement (
u
)
uXr
deni plus haut, on peut donc trouver un recouvrement lo-
calement ni (
j
)
jI
et une partition localement lipschitzienne (
j
)
jI
de X
r
subordonnee ` a (
j
)
jI
. Comme chaque
j
est contenu dans un
uj
, pour un
u
j
X
r
, si on pose :
V (z) :=

jI

j
(z)v
uj
,
on peut voir que V est bien denie (puisque la somme est nie dans un voisinage
de tout point z), localement lipschitzienne et cest un champ de p.g. de J car l` a
o` u
j
= 0, v
uj
est un pseudo-gradient de J.
7.3 Lemme. Si X est un espace de Banach et J C
1
(X, R) est paire et non
constante, alors il existe V , un champ de p.g. de J, tel que pour tout x X
r
on
ait V (x) = V (x).
166 Chapitre 3. Points critiques sans contrainte
Demonstration. En eet, comme X
r
est symetrique par rapport ` a lorigine et
J

est impaire, si V
0
est un champ de p.g. de J, il en est de meme de V
1
(x) :=
V
0
(x). Pour obtenir un champ de p.g. impaire, il sut de poser V (x) :=
1
2
(V
0
(x) V
0
(x)).
Nous sommes maintenant en mesure denoncer le lemme de deformation.
7.4 Lemme de deformation. Soient X un espace de Banach, J C
1
(X, R)
une fonction non constante satisfaisant la condition de Palais-Smale et c R
une valeur reguli`ere de J. Alors on peut trouver
0
> 0 tel que pour 0 < <
0
il
existe une application C(RX, X), appelee le ot associe ` a J, satisfaisant
les conditions suivantes :
1) Pour tout u X, on a (0, u) = u.
2) Pour tous t R et u / [c
0
J c +
0
], on a (t, u) = u.
3) Pour tout t R, (t, ) est un homeomorphisme de X dans X.
4) Pour tout u X, la fonction t J((t, u)) est decroissante sur R.
5) Si u [J c +], alors (1, u) [J c ].
6) Si de plus J est paire, pour tout t R, (t, ) est un homeomorphisme
impair.
Demonstration. Puisque J satisfait la condition de Palais-Smale et que c nest
pas valeur critique de J, on voit facilement quil existe
1
> 0 et > 0 (on
prendra en plus 1) tels que :
u [c
1
J c +
1
], J

(u) .
On pose
0
:= min(
1
,
2
/8), et pour 0 < <
0
:
A := [J c
0
] [J c +
0
], B := [c J c +].
Comme A B = , la fonction (x) := d(x, A)/ (d(x, A) +d(x, B)) est locale-
ment lipschitzienne et verie = 0 sur A, = 1 sur B. On notera egalement
que si J est paire, les ensembles A, B sont symetriques par rapport ` a lorigine
et est une fonction paire.
On consid`ere maintenant V , un champ de pseudo-gradient de J, que lon
choisira impaire, si J est paire. En posant alors
W(x) := (x) min(1, 1/V (x))V (x)
pour x X, on verie sans diculte que W est bien denie sur X, quelle est
localement lipschitzienne et que W(x) 1. On remarquera egalement que si J
est paire, W est impaire. Dapr`es la theorie generale des equations dierentielles
(voir aussi Exercices), lequation :
(7.2)
_
_
_
d(t, x)
dt
= W((t, x))
(0, x) = x
7. Le lemme de deformation 167
admet une unique solution (, x) C
1
(R, X) et en fait (, ) est localement lip-
schitzienne sur RX. De plus comme pour t, s R on a (t, (s, x)) = (t+s, x),
on voit que pour chaque t R, (t, ) est un homeomorphisme de X dans X, son
inverse etant (t, ). Pour terminer la demonstration du lemme de deformation,
nous allons verier que satisfait les conditions 1) ` a 6).
Les conditions 1) et 3) sont satisfaites de fa con evidente. Si
u / [c
0
J c +
0
],
alors W(u) = 0, et lunicite de la solution de (7.2) implique que pour tout t R
on a (t, u) = u : la condition 2) est donc stisfaite. Pour la propriete 4), il sut
de calculer la derivee de t J((t, u)) (ici , designe le crochet de dualite
entre X

et X) :
d
dt
J((t, u)) = J

((t, u)),
d(t, u)
dt

= ((t, u)) min(1, 1/V ((t, u))) J

((t, u)), V ((t, u))


((t, u)) min(1, 1/V ((t, u))) J

((t, u))
2
, (7.3)
ce qui montre que J((t, u)) est decroissante sur R. Pour verier 5), considerons
u [J c +] et remarquons que si pour un t
0
[0, 1[ on a
(t
0
, u) [J c ],
dapr`es ce que nous venons de voir, (1, u) reste dans [J c ]. Supposons
donc que pour tout t [0, 1[, (t, u) soit dans [c < J c +]. Alors dapr`es
linegalite (7.3) et le fait que J

(x) V (x) 2J

(x), on a :
d
dt
J

((t, u))
1
4
min(1, 1/V ((t, u))) V ((t, u))
2

_
1
4

2
4
si V ((t, u)) 1,
si V ((t, u)) < 1.
Comme 1, on en conclut nalement que
J((1, u))
2
/4 +J(u)
2
/4 +c + ,
i.e. dapr`es la denition de
0
, J((1, u)) c : cela signie quau plus tard
au temps t = 1, la trajectoire de (t, u) entre dans lensemble [J c ]. Pour
nir, on remarque que la condition 6) est veriee, car W est impaire lorsque J
est paire et par consequent pour tout t R, (t, ) est impaire.
7.5 Remarque. Il existe dautres variantes de ce lemme de deformation ; essen-
tiellement, on modie la construction du ot en choisissant un autre facteur
que
(x) min(1, 1/V (x))
168 Chapitre 3. Points critiques sans contrainte
dans la denition de la fonction W(x) ou bien en evaluant (t, u) en un temps t
qui depend de u au lieu de prendre (1, u). De meme, tout ce que nous venons
de faire peut sadapter au cas dune fonction J qui est de classe C
1
dans un
voisinage de lensemble [c
0
J c +
0
]. Il existe egalement une variante de
ce lemme, lorsque J est denie sur un ensemble de contraintes (ou une variete) :
lidee centrale est la construction dun champ de pseudo-gradients tangent ; nous
reviendrons plus loin sur cet aspect.
Voici une version du lemme de deformation (il sagit du theor`eme de Morse),
qui est un peu plus precise. Rappelons que si E F sont deux parties dun
espace topologique, on dit que E est une deformation retracte de F, sil existe
C([0, 1] F, E) telle que (ici I designe lapplication identite) :
(0, ) = I, t [0, 1], (t, )
|E
= I, (1, F) = E.
7.6 Theor`eme (M. Morse). Soient X un espace de Banach, J C
1
(X, R)
une fonction non constante satisfaisant la condition de Palais-Smale, et c R. Si
c nest pas une valeur critique de J, alors il existe
0
> 0 tel que pour 0 < <
0
,
[J c ] est une deformation retracte de [J c +].
Demonstration. En eet si
0
est donne par le lemme 7.4, avec les notations
utilisees dans sa demonstration, (t, x) etant la solution de (7.2), il sut de
poser :
(t, u) :=
_
4t

2
(J(u) c +)
+
, u
_
.
On a evidemment (0, ) = I et (t, u) = u si u [J c ], alors que
[J c ] (1, [J c +]). Pour montrer linclusion inverse, soient u [c
< J c+] et > 0 tels que pour 0 t on ait (t, u) [c < J c+].
Alors comme on la fait dans la demonstration de la propriete 5) du lemme 7.4,
on deduit de (7.3) que :
c < J((, u)) J(u)

2
4
,
cest ` a dire que < 4 (J(u c +)) /
2
. Par consequent pour
t
0
:= 4 (J(u c +)) /
2
on a (1, u) = (t
0
, u) [J c ], ce qui ach`eve la preuve du theor`eme.
7.7 Remarque. Sous les hypoth`eses du theor`eme 7.6, on peut voir de la meme
mani`ere que si c nest pas valeur critique de J, alors pour assez petit lensemble
[J c +] est une deformation retracte de [J c ].
Le lemme de deformation est ` a la base de toutes les methodes variationnelles
utilisant le procede inf-sup ou min-max, dont le principe est le suivant :
8. Le theor`eme du col 169
7.8 Principe de min-max. Soient X un espace de Banach, J de X dans R
une fonction de classe C
1
veriant la condition de Palais-Smale et B une famille
non vide de parties non vides de X. On suppose que pour chaque c R et > 0
assez petit, le ot (1, ) construit dans le lemme de deformation 7.4 respecte B
(i.e. si A B, on a (1, A) B). On pose :
c := inf
AB
sup
vA
J(v).
Si c R, alors c est une valeur critique de J.
Demonstration. En eet si c nest pas valeur critique, en prenant > 0 assez
petit on peut choisir A B tel que c sup
vA
J(v) c+. Mais par hypoth`ese,
en posant B := (1, A) on a dune part B B, et dautre part B [J c ],
ce qui contredit la denition de c.
7.9 Exemple. Si B := { {x} ; x X}, alors
inf
AB
sup
vA
J(v) = inf
vX
J(v),
et on retrouve ainsi le corollaire 6.9 (dans ce cas B est le plus grand pos-
sible). De meme en prenant la plus petite classe possible B := {X}, alors
inf
AB
sup
vA
J(v) = sup
vX
J(v), et on retrouve le resultat precedent applique
` a J.
Comme on le voit, ce principe est relativement simple ` a mettre en uvre ;
cependant, et on le verra dans les exemples que nous traiterons par la suite,
pour chaque probl`eme il faudra choisir une classe de parties de X pour que
les dierentes conditions de ce principe soient satisfaites. Pour ce faire, on re-
garde en general les invariants topologiques (par exemple le genre, la categorie,
la classe dhomotopie, la classe dhomologie ou de cohomologie) qui sont sus-
ceptibles detre conserves sous laction du ot (voir par exemple lexpose de
R.S. Palais [127]). De meme on notera que lexigence que le ot respecte la
classe B pour tout c R est dans certains cas superue, et peut etre allegee.
8. Le theor`eme du col
Le premier exemple de construction de valeur critique par le procede de min-max
est le theor`eme du col de la montagne (en anglais mountain pass theorem) qui
exprime tr`es bien le contenu du resultat et sa demonstration : si on se trouve
en un point A dans une cuvette ` a une altitude h
0
, entouree de montagnes dune
altitude superieure ou egale ` a h > h
0
, et si on veut aller ` a un point B situee
en dehors de la cuvette au del` a des montagnes, et ` a une altitude h
1
< h, il
existe un chemin passant par un col et conduisant de A ` a B. Pour le trouver
il sut de prendre parmi tous les chemins allant de A ` a B celui qui monte
le moins haut. Voici ce resultat que nous appliquerons un peu plus loin ` a la
resolution de certaines equations semilineaires (nous suivons ici A. Ambrosetti
& P.H. Rabinowitz [6]).
170 Chapitre 3. Points critiques sans contrainte
8.1 Theor`eme du col. Soient X un espace de Banach, J C
1
(X, R) veriant
la condition de Palais-Smale. On suppose que J(0) = 0 et que :
(i) il existe R > 0 et a > 0 tels que si u = R, alors J(u) a ;
(ii) il existe u
0
X tel que u
0
> R et J(u
0
) < a.
Alors J poss`ede une valeur critique c telle que c a. De fa con plus precise, si
on pose
B := {([0, 1]) ; C([0, 1], X), (0) = 0, (1) = u
0
} ,
et :
c := inf
AB
max
vA
J(v),
alors c est une valeur critique de J, et c a.
Demonstration. Soient B (qui est evidemment non vide) et c denis comme
dans le theor`eme. Tout dabord notons que par connexite, pour tout A B, lin-
tersection A{u X ; u = R} est non vide, et par consequent max
vA
J(v)
a et nalement c a.
Si c nest pas une valeur critique de J, avec les notations du lemme de de-
formation 7.4, pour 0 < <
0
, on peut trouver A B tel que
A := ([0, 1]), c max
vA
J(v) c +.
En posant () := (1, ()) et B := ([0, 1]), on a B B. Mais la propriete 5)
du lemme de deformation 7.4 implique que B [J c ], ce qui contredit le
fait que, par denition de c, on a max
vB
J(v) c. On en conclut que c est une
valeur critique de J (et nous avons vu que c a).
8.2 Remarque. Pour faire un lien avec ce que nous avons dit plus haut au
sujet des valeurs critiques, ` a savoir que c est une valeur critique lorsquil y a un
changement dans la nature topologique des ensembles [J c +] et [J c ],
on pourra montrer par le meme procede que :
c := inf {b ; [J b] contient un chemin continu allant de 0 ` a u
0
} ,
est une valeur critique de J et que c a.
8.3 Exemple. Soit un ouvert borne de R
N
, g(, ) une fonction de R
dans R satisfaisant la condition de Caratheodory et Au := div(a()u) un
operateur auto-adjoint elliptique comme celui considere dans (2.2). On rappelle
que
1
, la premi`ere valeur propre de A, est caracterisee par :

1
:= inf
__

a(x)v(x) v(x)dx ; v H
1
0
(), v
2
= 1
_
.
On suppose que g satisfait les conditions (6.5) (avec, dans un souci de simpli-
cation, b
0
L

()), (6.6) et que G(, s), la primitive de g sannulant en zero,


verie :
8. Le theor`eme du col 171
(8.1) > 0, > 0, tel que si |s| , |G(, s)| |s|
2
.
Alors pour <
1
, il existe une solution non identiquement nulle de lequation :
(8.2)
_
Au = u +g(, u)
u = 0
dans
sur .
Pour le montrer, on consid`ere
J(v) :=
1
2
_
Av, v v
2

G(x, v(x))dx,
la fonctionnelle denergie associee ` a cette equation sur H
1
0
() et on va appliquer
le theor`eme du col. Remarquons que gr ace ` a la condition (8.1) de croissance
sur-quadratique en zero et la croissance sous-critique ` a linni (6.5) (avec ici
b
0
L

()), pour tout > 0 il existe une constante C

> 0 telle que :

G(x, v(x))dx

|G(x, v(x))|dx
v
2
+C

|v(x)|
p+1
dx
v
2
+C

v
p+1
On en deduit une minoration de J, pourvu que + 2 <
1
:
J(v)
1
2
_
Av, v v
2

v
2
C

v
p+1

(
1
2)
2
1
v
2
C

v
p+1
.
On voit ainsi que si R
p1
0
:= (
1
2)/(2
1
C

), et v = R < R
0
, alors
pour R > 0 il existe b := b(R) > 0 tel que J(v) b : autrement dit lorigine est
un minimum local de J sur H
1
0
().
Pour trouver un point u
0
de H
1
0
() tel que J(u
0
) < 0, rappelons tout dabord
que du fait de la croissance sur-quadratique de G ` a linni (6.6), linegalite (6.7)
est vraie : pour une fonction m L

() avec m > 0 p.p., on a G(x, s)


m(x)|s|

C
1
o` u > 2. Maintenant si
1
H
1
0
() (avec
1

2
= 1) est une
fonction propre associee ` a la premi`ere valeur propre
1
de A, on a A
1
=
1

1
et pour tout t > 0 on obtient la majoration :
J(t
1
)
1
2
(
1
)t
2
+C
2
t

m(x)|
1
(x)|

dx.
Par consequent pour t
0
> 0 assez grand on a J(t
0

1
) < 0. Comme dapr`es
la proposition 6.7 la fonctionnelle J satisfait la condition de Palais-Smale sur
H
1
0
(), J poss`ede une valeur critique c b > 0 et donc un point critique u = 0
qui est solution de (8.2), gr ace au theor`eme du col.
Dans lexemple que nous venons de voir, lhypoth`ese <
1
est importante
pour obtenir une minoration de J sur des sph`eres de rayon assez petit. En realite
172 Chapitre 3. Points critiques sans contrainte
on peut se passer de cette restriction, moyennant une hypoth`ese sur le signe de
G(, s) et en utilisant une variante plus generale du theor`eme du col, due ` a
P.H. Rabinowitz [137], que nous presentons ici.
8.4 Theor`eme. Soient X un espace de Banach, X
1
un sous-espace de dimension
nie et X
2
un sous-espace ferme de X tels que X = X
1
X
2
. On consid`ere
J C
1
(X, R) telle que J(0) = 0, veriant la condition de Palais-Smale et les
deux conditions suivantes :
(i) il existe R > 0, a > 0 tel que si u X
2
et u = R, alors J(u) a ;
(ii) il existe u
0
X
2
avec u
0
= 1, R
0
> R et R
1
> R tels que J(u) 0 pour
tout u o` u
:= {u
1
+ru
0
; u
1
X
1
, u
1
R
1
, 0 r R
0
} ,
et designe la fronti`ere de dans X
1
Ru
0
(noter que est un cylindre).
Alors J poss`ede une valeur critique c a. Plus precisement c est denie par :
c := inf
AB
max
vA
J(v) ,
o` u B := {() ; C(, X), (u) = u pour u }.
Demonstration. Remarquons en premier lieu que B = , puisque B.
Pour pouvoir montrer ensuite que c a, nous aurons besoin de la propriete
suivante :
8.5 Lemme. Si A B, il existe u X
2
A tel que u = R.
Admettant pour un instant ce resultat, on voit donc, par la condition (i), que
pour tout A B on a max
vA
J(v) a et par consequent c a. Pour montrer
que c est une valeur critique, en supposant que ce nest pas le cas, on peut
trouver, par le lemme de deformation 7.4,
0
> 0 assez petit et un ot (t, ) tel
que pour 0 < <
0
on ait (1, [J c + ]) [J c ]. Alors en prenant
0 <
0
< a/2, on peut xer <
0
et A B tels que c max
vA
J(v) c+. En
considerant alors B := (1, A) on a dune part max
vB
J(v) c , et dautre
part B B, ce qui est en contradiction avec la denition de c. Pour voir que B est
un element de B, notons que A := () o` u C(, X) et (v) = v si v .
En posant (v) := (1, (v)), on a evidemment C(, X) et B = (). Or
par la propriete 2) du lemme 7.4 on sait que si v [c
0
J c +
0
], alors
(1, v) = v, et dans le cas actuel, par la condition (ii) on sait que si v on
a v = (v) et J(v) 0 < c
0
. Par consequent (v) = v, pour tout v et
ainsi B B.
Pour terminer la demonstration du theor`eme, il nous reste ` a montrer le
lemme 8.5. Soit donc A B et designons par Pr la projection de X sur X
1
. On
doit resoudre lequation :
(8.3) trouver u A tel que Pr(u) = 0, u Pr(u) = R.
Si A := (), on consid`ere la fonction F : X
1
Ru
0
X
1
Ru
0
denie par :
8. Le theor`eme du col 173
F(x) := Pr ((x)) +(x) Pr ((x)) u
0
.
La resolution de (8.3) equivaut ` a trouver x tel que F(x) = Ru
0
. De mani`ere
evidente on voit que F C(X
1
Ru
0
, X
1
Ru
0
) et que F = I, lapplication
identite, sur ; il est tout aussi clair que Ru
0
. En utilisant le degre
topologique de Brouwer, par la proposition 2.2.9 on conclut que :
deg(F, , Ru
0
) = deg(I, , Ru
0
) = 1,
et par la proposition 2.2.5 on deduit que lequation F(x) = Ru
0
admet au moins
une solution x et le lemme 8.5, ainsi que le theor`eme 8.4 sont prouves.
8.6 Remarque. Le theor`eme du col 8.1 est un cas particulier du theor`eme 8.4,
en prenant X
1
:= {0}. Le lemme 8.5 exprime le fait que le bord de (ou de
mani`ere plus generale le bord dun element de B) et la sph`ere S
R
de rayon R
de X
2
sont enlaces, de sorte que toute surface reposant sur rencontre cette
sph`ere. Dans un vocabulaire image, on dit que tout element de B a une liaison
(en anglais link) avec la sph`ere S
R
.
Dans la pratique, pour utiliser le theor`eme du col 8.1, on montre que lorigine
est un point de minimum local, sans etre global ; on montre ensuite que J poss`ede
un point critique distinct de lorigine. De ce point de vue, le theor`eme 8.4 a
lavantage de ne pas exiger une telle situation : en eet il se peut tr`es bien que
lorigine soit un point de minimum local pour la restriction de J ` a X
2
, sans
etre un point de minimum local de J. Pour de tels exemples dans les probl`emes
semilineaires voir Exercices.
8.7 Exemple. Avec les hypoth`eses et notations de lexemple 8.3, supposons que
pour un entier k 1 on ait
k
<
k+1
o` u les (
n
)
n
designent les valeurs
propres de loperateur A considere en (2.2). En supposant que g verie :
(8.4) s R, p.p. sur , G(x, s) 0 ,
(ce qui est le cas si on a par exemple sg(x, s) 0 sur R), alors la fonc-
tionnelle J admet une valeur critique c > 0. En eet, en designant par
n
une fonction propre associee ` a
n
telle que
n

2
= 1, soient les sous-espaces
X
1
:= R{
1
, . . . ,
k
} et X
2
:= X

1
lorthogonal de X
1
dans H
1
0
(). Pour
verier que la condition (i) est satisfaite, on montre, comme nous lavons fait ` a
lexemple 8.3, que :
J(v)
1
2
_
Av, v v
2

v
2
C

v
p+1
,
pour tout v H
1
0
(). Mais si > 0 est assez petit pour que + 2 <
k+1
,
comme pour v X
2
on a Av, v
k+1
v
2
, on conclut que pour de tels v on
a
J(v)
(
k+1
2)
2
k+1
v
2
C

v
p+1
.
Par consequent si R
p1

:= (
k+1
2)/(2
k+1
C

), et v X
2
est tel que
v = R, pour 0 < R < R

, on a J(v) b := b(R) > 0.


174 Chapitre 3. Points critiques sans contrainte
Pour verier la condition (ii), remarquons que pour v := v
1
+ t
k+1
avec
v
1
X
1
et t 0 on a :
Av, v (
k
)v
1

2
+ (
k+1
)t
2
,
et par consequent dapr`es la condition (8.4), pour tout v
1
X
1
on a J(v
1
) 0 :
en particulier pour tous R
0
, R
1
> R, si est deni comme dans le theor`eme 8.4
et si v appartient au bord inferieur du cylindre, on a J(v) 0 (le bord
inferieur etant contenu dans X
1
). Par ailleurs, si v
1
X
1
est xe, en utilisant
lestimation (6.7) on voit que pour une constante C
1
et une fonction m L

()
et m > 0 p.p., on a :
(8.5) J(v
1
+t
k+1
)
1
2
(
k+1
)t
2
+C
1

m(x)|v
1
(x) +t
k+1
(x)|

dx.
Comme > 2, on peut xer (voir Exercices) R
1
> R assez grand pour que, si
v
1
X
1
et v
1
= R
1
, alors pour tout t 0 le second membre de (8.5) soit
negatif : de cette fa con J est negative ou nulle sur le bord lateral du cylindre
. Enn, pour le bord superieur de ce cylindre, R
1
etant ainsi xe, on peut
trouver de la meme mani`ere R
0
> R assez grand tel que pour tout v
1
X
1
, avec
v
1
R
1
, on ait :
J(v
1
+R
0

k+1
)

1
2
(
k+1
)R
2
0
+C
1

m(x)|v
1
(x) +R
0

k+1
|

dx
0.
Finalement on voit que J satisfait les conditions du theor`eme 8.4, et poss`ede
donc un point critique autre que zero, et le probl`eme :
(8.6)
_
Au = u +g(, u)
u = 0
dans
sur ,
admet une solution non identiquement nulle pour tout R, pourvu que g
verie les conditions (6.5), (6.6), (8.1), (8.4).
8.8 Remarque. On peut aborder par les memes techniques la resolution de
probl`emes du type Au = ()u + g(, u) o` u, par exmple, est dans L

().
Pour dautres exemples voir Exercices.
9. Points critiques multiples 175
9. Points critiques multiples
Soit un ouvert borne de R
N
, avec N 3. Pour R, nous avons vu que le
probl`eme :
(9.1)
_

_
u +u
3
= u
u = 0
u 0,
dans
sur
admet une solution si, et seulement si, >
1
, la premi`ere valeur propre du
laplacien avec condition de Dirichlet. On sait que les solutions de (9.1) peuvent
etre recherchees comme points critiques de
J(v) :=
1
2
_

|v(x)|
2
dx +
1
4
_

v(x)
4
dx

2
_

v(x)
2
dx
sur H
1
0
(), et que lequation (9.1) admet une solution positive obtenue comme
point de minimum de J.
En fait, en utilisant la notion de genre et le lemme de deformation, on peut
montrer que si >
k
(k-`eme valeur propre du laplacien avec condition de
Dirichlet), alors (9.1) admet au moins 2k solutions. En eet soit pour j 1,
S
j1
la sph`ere unite de R
j
et :
c
j
:= inf
ABj
max
vA
J(v),
o` u B
j
:=
_
h(S
j1
) ; h C(S
j1
, H
1
0
()), h impaire
_
.
Noter que, comme J est une fonction paire, on a
c
1
= inf
vH
1
0
()
J(v) = min
vH
1
0
()
J(v).
On va montrer que si c
j
< 0 alors c
j
est valeur critique de J. En eet on sait que
J verie la condition de Palais-Smale ; si c
j
< 0 et c
j
nest pas valeur critique
de J, soient
0
> 0 et (t, x) le ot impair en x associe ` a J par le lemme 7.4.
En prenant 0 < < min(
0
, |c
j
|/2) et A := h(S
j1
) B
j
tels que
c
j
max
vA
J(v) c
j
+ < 0,
on sait que dune part (1, [J c
j
+]) [J c
j
], et que dautre part si
B := (1, A) = ((1, ) h)(S
j1
) alors B B
j
, puisque (1, ) est impair. On
aurait donc c
j
max
vB
J(v) c
j
, ce qui est absurde (on notera quon
utilise linformation c
j
< 0 pour etre s ur que le point critique ainsi obtenu nest
pas zero : en eet si A B
j
et max
vA
J(v) < 0, alors 0 A).
Montrons maintenant que si j k, alors c
j
< 0. En eet, soient (
n
)
n1
la suite croissante des valeurs propres et (
n
)
n1
la suite des fonctions propres
du laplacien avec condition de Dirichlet, o` u (
n
|
m
) =
m
n
. Si, pour > 0, A

designe la sph`ere de rayon de lespace R{


1
,
2
, . . . ,
j
}, on a A

B
j
et il
176 Chapitre 3. Points critiques sans contrainte
existe une constante C > 0 independante de telle que, pour v :=

j
i=1

i

i

A

:
J(v) =
1
2
j

i=1
(
i
)
2
i
+
1
4
_

i=1

i
(x)

4
dx


2
2
(
j
) +C
4
.
On en conclut que si
j
< , alors c
j
max
vA
J(v) < 0 pour > 0 assez
petit.
Comme J est paire, ` a chaque c
j
< 0 correspondent (au moins) deux solu-
tions ; on va montrer quil y a au moins 2k solutions pour le probl`eme (9.1). Sil
y a k valeurs distinctes c
j
< 0, il ny a rien ` a montrer. En revanche si, pour un
entier n 1, on a
c
j
= c
j+1
= = c
j+n
< 0,
alors il y a une innite de solutions : en eet on peut montrer que lensemble
K(c
j
) :=
_
u H
1
0
() ; J(u) = c
j
, J

(u) = 0
_
est de genre (K(c
j
)) n + 1
(on notera que K(c
j
) est ferme dans H
1
0
(), symetrique par rapport ` a lorigine
et ne contient pas zero, donc son genre est bien deni).
Cependant au lieu de montrer cette propriete pour lexemple (9.1), nous
allons enoncer et montrer le resultat suivant d u ` a D.C. Clark [41]. Rappelons
(voir paragraphe 2.4) que si X est un espace de Banach, nous avons designe par
s(X) lensemble des parties A X qui sont fermees, symetriques (i.e. A = A)
et ne contiennent pas lorigine ; si A s(X), son genre est note (A). Pour un
entier n 1 on posera :
(9.2)
n
:= {A s(X) ; (A) n} .
Si J C
1
(X, R), et si c est une valeur critique de J, rappelons la notation :
K(c) := {u X ; J(u) = c, et J

(u) = 0} .
9.1 Theor`eme. Soient X un espace de Banach et J C
1
(X, R) une fonction
paire satisfaisant la condition de Palais-Smale. On suppose que J(0) = 0, et
pour j 1 on denit :
c
j
:= inf
Aj
sup
vA
J(v).
Alors c
j
c
j+1
, et si < c
j
< 0, c
j
est une valeur critique de J. De plus,
si pour un entier n 1, on a c
j
= c
j+1
= = c
j+n
et si < c
j
< 0, alors
(K(c
j
)) n + 1.
Demonstration. Le fait que la suite c
j
est croissante est evidente. Si <
c
j
< 0 nest pas valeur critique,
0
> 0 etant donne par le lemme de
deformation 7.4, pour 0 < < min(
0
, |c
j
|/2), il existe A
j
tel que
c
j
sup
vA
J(v) c
j
+ < 0. Alors le ot (t, x) etant comme dans le lemme
et B := (1, A), on sait que B [J c
j
], et par consequent B ne contient
pas lorigine. Comme (1, ) est un homeomorphisme, on a B
j
; on aurait
donc c
j
sup
vB
J(v) c
j
, ce qui est impossible.
9. Points critiques multiples 177
Si c
j
= c
j+n
pour un entier n 1, puisque J verie la condition de Palais-
Smale, K := K(c
j
) est compact et par consequent (K) est ni et il existe > 0
assez petit, tel que si
:= {v X ; dist(v, K) < }
et

K := , on ait

K s(X) et (

K) = (K) (voir theor`eme 2.4.4). Supposons


que (

K) n ; J veriant la condition de Palais-Smale, on peut trouver


1
> 0
assez petit et > 0 (avec 1) tels que :
v [J c
j
+
1
] \ ([J < c
j

1
] ) , J

(v) .
En prenant
0
< min(
1
,
2
/8, |c
j
|/2) assez petit et suivant la demarche de la
demonstration du lemme 7.4, pour 0 < <
0
, on choisit : X [0, 1] une
fonction localement lipschitzienne et paire telle que
(9.3)
(v) = 0 pour v [J c
j

0
]

K [J c
j
+
0
],
(v) = 1 pour v [c
j
J c
j
+] \ .
En considerant V un champ de pseudo-gradient impair de J, on construit le ot
(t, x) exactement comme en (7.2) et on conclut que
(1, [J c
j
+] \ ) [J c
j
].
Or on peut choisir A
j+n
tel que c
j
sup
vA
J(v) c
j
+ ; dapr`es la
propriete (vii) du theor`eme 2.4.4 on sait que :
(A\

K) (A) (

K) j +n n,
et puisque (1, ) est un homeomorphisme, en posant
B := (1, A\

K),
comme J(0) = 0 et sup
vB
J(v) c
j
< 0, lorigine nappartient pas ` a
B, qui est donc un element de s(X) : on en deduit que (B) j. On a donc
c
j
sup
vB
J(v) c
j
, ce qui nest pas possible.
On peut tenter dappliquer ce type dargument pour traiter le probl`eme suiv-
ant :
(9.4)
_

_
u = u +u
3
u = 0
u 0,
dans
sur
(o` u R
N
et N 3). Mais ici les solutions de lequation (9.4) correspondent
aux points critiques de la fonctionnelle :
E(v) :=
1
2
_

_
|v(x)|
2
v(x)
2

dx
1
4
_

v(x)
4
dx,
178 Chapitre 3. Points critiques sans contrainte
sur H
1
0
(). Or on peut voir facilement quici pour tout j 1 on a
inf
ABj
sup
vA
E(v) = .
On a alors la possibilite de chercher une fonctionnelle J bornee inferieurement,
satisfaisant la condition de Palais-Smale et dont les points critiques sont (ou
permettent de construire) des points critiques de E. Cest une approche que
nous aborderons plus tard lors de letude de fonctionnelles avec contraintes. On
peut aussi essayer de trouver une version multiple du theor`eme du col. Cela
est possible comme on le voit dans le theor`eme suivant :
9.2 Theor`eme. Soient X un espace de Banach de dimension innie et J
C
1
(X, R) une fonction satisfaisant la condition de Palais-Smale. On suppose que
J est paire et verie les deux conditions suivantes :
(i) J(0) = 0 et il existe R > 0, a > 0 tels que si u = R, alors J(u) a ;
(ii) si X
1
X est de dimension nie, alors {u X
1
; J(u) 0} est borne.
Alors J poss`ede une suite non bornee de valeurs critiques.
Demonstration. On doit construire une classe densembles B
j
stable par le
ot de J et telle que inf
ABj
sup
vA
J(v) soit nie. Pour cela on introduit les
notations suivantes ; S etant la sph`ere unite de X, on note s(X) lensemble des
parties non vides, symetriques et compactes de X et :
C
H
(X) := { C(X, X) ; homeomorphisme impair}
F
+
:= {(S) ; C
H
(X), (S) [J > 0]} , (9.5)
B
j
:= {A s(X) ; M F
+
, (A M) j} . (9.6)
On notera que F
+
= , car en posant (v) := Rv, on a (S) F
+
. Pour mon-
trer le theor`eme, nous allons enoncer les diverses proprietes utiles des ensembles
B
j
dans le lemme qui suit, et nous le prouverons un peu plus loin :
9.3 Lemme. Sous les hypoth`eses du theor`eme 9.2, F
+
et B
j
etant denis
en (9.5) et (9.6), on a les proprietes suivantes :
1) Pour tout j 1, B
j
= et B
j+1
B
j
.
2) Si A B
j+n
et B s(X) verie (B) n, alors A\ B B
j
.
3) Si : X X est un homeomorphisme impair tel que

1
([J > 0]) [J > 0],
alors pour tout A B
j
on a (A) B
j
.
En supposant le lemme etabli, on pose :
(9.7) c
j
:= inf
ABj
max
vA
J(v),
et on montre que c
j
est valeur critique de J. Cependant comme on a un resultat
de multiplicite supplementaire interessant, nous enoncerons la proposition :
9. Points critiques multiples 179
9.4 Proposition. Sous les hypoth`eses du theor`eme 9.2 :
1) la suite (c
j
)
j
denie par (9.7) est croissante et c
j
a ;
2) chaque c
j
est une valeur critique de J et si pour un entier n 0 on a
c
j
= c
j+n
, alors (K(c
j
)) n + 1 ;
3) de plus lim
j
c
j
= +.
(Rappelons que K(c
j
) := {u X ; J(u) = c
j
, J

(u) = 0}). Naturellement, puis-


que la suite B
j
est decroissante, la suite c
j
est croissante. Par ailleurs si A B
j
,
comme dapr`es lypoth`ese (i) du theor`eme 9.2, S
R
, la sph`ere de rayon R, est un
element de F
+
, on a AS
R
= et par consequent max
vA
J(v) a et c
j
a ;
la propriete 1) est ainsi prouvee.
Montrons la propriete 2). Soit K := K(c
j
) ; comme J satisfait la condition
de Palais-Smale, K est compact donc de genre ni. Si (K) n on peut trouver
> 0 assez petit tel que si
:= {v X ; dist(v, K) < } ,
et

K := , on ait

K s(X) et (

K) = (K) (ici on utilise le theor`eme 2.4.4


et le fait que c
j
a > 0 pour etre s ur que 0 /

K). Ensuite, exactement comme
dans la demonstration du theor`eme 9.1, on trouve
1
> 0 et > 0 assez petits
tels que :
v [J c
j
+
1
] \ ([J < c
j

1
] ) , J

(v) .
En prenant
0
< min(
1
,
2
/8, c
j
/2) assez petit et 0 < <
0
, on choisit une
fonction comme en (9.3) et on construit le ot impair de sorte que :
(1, [J c
j
+] \ ) [J c
j
].
Si A
0
B
j+n
est tel que c
j
max
vA0
J(v) c
j
+, on denit A := A
0
\

K ;
en utilisant la propriete 2) du lemme 9.3, on sait que A B
j
. Dautre part, en
posant (v) := (1, v), on sait que
1
(v) = (1, v) et comme t J((t, v))
est decroissante par construction, si J(v) > 0, alors
1
(v) [J(v) > 0]. On
en deduit, dapr`es la propriete 3) du lemme 9.3, que B := (A) B
j
. On a
donc dune part c
j
max
vB
J(v) et dautre part B [J c
j
], ce qui est
impossible.
Pour montrer que c
j
tend vers +, comme il sagit dune suite croissante, il
sut de montrer quon ne peut avoir :
(i) pour un entier m 1, c
j
= c
m
pour tout j m ;
(ii) pour un c > 0, c
j
c lorsque j +.
La possibilite (i) est exclue, puisque dans ce cas on aurait, dapr`es la pro-
priete 2) de la proposition 9.4, (K(c
m
)) = +, alors que K(c
m
) est compact
et donc de genre ni. Si la possibilite (ii) netait pas exclue soit :
K := {u X ; c
1
J(u) c, J

(u) = 0} .
180 Chapitre 3. Points critiques sans contrainte
Comme J satisfait la condition de Palais-Smale, K est compact donc de genre
ni, soit (K) =: n. En raisonnant comme plus haut, on peut trouver > 0
assez petit tel que si
:= {v X ; dist(v, K) < }
et

K := , on ait

K s(X) et (

K) = n. En xant
1
> 0 et > 0 comme
ci-dessus et
0
< min(
1
,
2
/8, c
1
/2, (c c
1
) /2), puis 0 < <
0
, on construit le
ot de sorte que (1, [J c +] \ ) [J c ].
Soit maintenant j 1 un entier tel que c
j
> c ; on peut prendre A
0

B
j+n
tel que max
vA0
J(v) c + , et en posant A := A
0
\ on sait, gr ace au
lemme 9.3, que A B
j
et aussi B := (1, A) B
j
: on a donc c
j
max
vB
J(v)
et B [J c ], ce qui est impossible puisque c < c
j
.
La proposition 9.4, et par consequent le theor`eme 9.2 sont ainsi prouves, si
on montre le lemme 9.3.
Demonstration du lemme 9.3. Le fait que B
j+1
B
j
est clair. Pour voir
que B
j
= , soit X
1
X un sous-espace de dimension nie j de X. Si B
r
est la
boule fermee de rayon r de X et si on pose A := X
1
B
r
, alors pour r > 0 assez
grand on a A B
j
. En eet X
1
[J > 0] est borne dapr`es lhypoth`ese (ii) du
theor`eme 9.2, et si on xe r > 0 assez grand, X
1
[J > 0] A ; par ailleurs si
M := (S) F
+
, on a M [J > 0] et M X
1
A. On a ainsi :
j (A M) (X
1
M) ( (X
1
(B
1
))) = j,
car X
1
(B
1
) est un voisinage symetrique et ferme de lorigine dans X
1
, et
par consequent sa fronti`ere est de genre j (= dim X
1
, voir exemple 2.4.3) ;
dautre part la fronti`ere (X
1
(B
1
)) est contenue dans X
1
M = X
1
(S).
Finalement on a donc pour tout M F
+
, (A M) = j, ce qui prouve bien
que A B
j
.
Pour montrer 2), on remarque que si A B
j+n
et (B) n, pour M F
+
,
on a (A\ B) M = A M B
c
et

_
A\ B M
_
=
_
(A M) \ B
_
(A M) (B) j.
Enn, si est un homeomorphisme impair tel que
1
([J > 0]) [J > 0], on
remarque que pour A B
j
, (A) est symetrique et compact et ((A) M) =

_
A
1
(M)
_
pour tout M F
+
. Mais comme M = (S) [J > 0] et que

1
conserve lensemble [J > 0], on a

M :=
1
(M) =
1
(S) F
+
. Par
consequent
_
A
1
(M)
_
j et (A) F
+
.
9.5 Remarque. On peut donner une autre demonstration du fait que si J satis-
fait les conditions du theor`eme 9.2, alors J poss`ede une valeur critique c a > 0,
en procedant de la mani`ere suivante : soit (F
j
)
j1
une suite de sous-espaces vec-
toriels de X telle que dim F
j
= j et F
j
F
j+1
. Dapr`es la condition (ii) du
theor`eme 9.2, on sait quil existe R
j
> 0 tel que :
9. Points critiques multiples 181
v F
j
, v R
j
=J(v) 0.
On peut aussi prendre R
j
< R
j+1
. On designera par B
j
la boule fermee de rayon
R
j
de F
j
. On introduit alors la classe M
j
de parties de X par :
(9.8) M
j
:= {(B
j
) ; C(B
j
, X), v B
j
[J 0], (v) = v} .
Dans ces conditions on peut montrer le lemme suivant :
9.6 Lemme. Sous les hypoth`eses et notations du theor`eme 9.2, M
j
etant deni
comme en (9.8), on pose :
c
j
:= inf
AMj
max
vA
J(v).
Alors pour tout j 1 on a c
j+1
c
j
a, et chaque c
j
est une valeur critique
de J.
Pour la demonstration voir Exercices. Nous devons cependant faire remar-
quer, que meme si dans certains cas on peut montrer que la suite c
j
est non
bornee, en general on ne peut pas etablir le resultat de multiplicite de la propo-
sition 9.4.
9.7 Exemple. Soient un ouvert borne de R
N
, A un operateur elliptique du
second ordre comme dans (2.2), g : R R une fonction satisfaisant les
conditions de la proposition 6.7 avec b
0
L

() pour simplier, ainsi que la


condition (8.1) (comme exemple typique prendre un ouvert borne regulier,
Au := u, pour u H
2
() H
1
0
(), g(x, s) := (x)|s|
p1
s avec p > 1,
L

(), > 0 p.p. et (N 2)p < N + 2). Alors pour tout <
1
(premi`ere
valeur propre de A), lequation :
(9.9)
_
Au = u +g(, u)
u = 0
dans ,
sur ,
admet une innite de solutions. En eet dapr`es les conditions de croissance
imposee ` a G(, s) en zero et ` a linni, pour > 0 assez petit pour que +2 <
1
,
et une constante C

> 0 on a :
(9.10)
_

G(x, v(x))dx
_

|v(x)|
2
dx +C

|v(x)|
p+1
dx.
Dautre part si
J(v) :=
1
2
_

_
a(x)v(x) v(x) |v(x)|
2

dx
_

G(x, v(x))dx,
on sait dapr`es la proposition 6.7 que J verie la condition de Palais-Smale et on
deduit de linegalite (9.10) que (on utilise ici linegalite de Gagliardo-Nirenberg
v
L
p+1
()
C v) :
J(v)
(
1
2)
2
1
v
2
C()v
p+1
,
182 Chapitre 3. Points critiques sans contrainte
ce qui montre que si v = R et que R > 0 est assez petit, alors il existe
b(R) > 0 tel que J(v) b(R), de sorte que J satisfait la condition (i) du
theor`eme 9.2. Pour voir que la condition (ii) est egalement satisfaite, rappelons
que J verie (6.7) et que par consequent si X
1
est un sous-espace vectoriel de
dimension nie de X et si v X
1
est tel que J(v) 0, alors pour des constantes
C
1
, C
2
, C
3
> 0 et une fonction m > 0 p.p. sur on a :
0 J(v) C
1
v
2
C
2
_

m(x)|v(x)|

dx +C
3
.
Comme sur lespace de dimension nie X
1
toutes les normes sont equivalen-
tes, on peut trouver une constante C
4
> 0 telle que pour tout v X
1
on ait
v

C
4
_

m(x)|v(x)|

dx et par consequent, pour v X


1
tel que J(v) 0,
on doit avoir :
_

m(x)|v(x)|

dx C
5
__

m(x)|v(x)|

dx
_
2/
+C
6
,
ce qui, sachant que > 2, implique que
_

m(x)|v(x)|

dx est bornee et par


consequent lensemble X
1
[J 0] est bornee dans H
1
0
() ; ainsi la condition (ii)
du theor`eme 9.2 est veriee.
9.8 Remarque. On voit de nouveau, comme dans lexemple que nous avons
donne en application du theor`eme du col 8.1, que la condition <
1
intervient
pour que lhypoth`ese (i) du theor`eme 9.2 soit veriee. Comme nous lavons vu au
theor`eme 8.4, on peut modier leg`erement la construction des valeurs critiques
c
j
pour se passer de cette condition technique. On dispose en realite de la version
suivante du theor`eme 9.2. (voir P.H. Rabinowitz [137], [138, theorem 9.12], [136],
V. Benci [16]).
9.9 Theor`eme. Soient X un espace de Banach, X
0
un sous-espace vectoriel de
dimension nie et X
2
un sous-espace ferme tels que X = X
0
X
2
. On consid`ere
J C
1
(X, R) telle que J(0) = 0, satisfaisant la condition de Palais-Smale ainsi
que les deux conditions suivantes :
(i) il existe R > 0 et a > 0 tels que si v X
2
et v = R alors J(v) a ;
(ii) si X
1
X est de dimension nie, alors {v X
1
; J(v) 0} est borne.
Alors J poss`ede une suite non bornee de valeurs critiques.
Demonstration. Supposons que dim X
0
=: m, et considerons une suite de
sous-espaces (F
j
)
j1
telle que X
0
F
j
F
j+1
et dim F
j
= m + j. On sait
quil existe R
j
> 0 tel que si v F
j
et v R
j
alors J(v) 0. On prendra
R
j
< R
j+1
et on designera par B
j
la boule fermee de F
j
de rayon R
j
; puis on
introduit les ensembles :
F
i
:= { ; C(B
i
, X) impaire, (v) = v si v = R
i
} ,
B
j
:=
_

_
B
i
\ A
_
; i j, F
i
, A s(X), (A) i j
_
. (9.11)
On peut alors montrer le lemme suivant qui reunit les proprietes utiles de B
j
:
9. Points critiques multiples 183
9.10 Lemme. Sous les hypoth`eses et notations ci-dessus on a :
1) Pour tout j 1, B
j
= , et B
j+1
B
j
.
2) Soit C(X, X) une fonction impaire telle que pour tout n j et tout
v B
n
, avec v = R
n
, on ait (v) = v. Alors pour tout A B
j
on a
(A) B
j
.
3) Si A B
j
et M s(X) est tel que (M) i j1, alors A\ M B
ji
.
4) Si j 1, et A B
j
, alors il existe v A X
2
tel que v = R.
Supposant ce lemme etabli (voir Exercices pour la demonstration), on con-
sid`ere les nombres c
j
denis par :
(9.12) c
j
:= inf
ABj
max
vA
J(v),
et on montre comme nous lavons fait plus haut la proposition :
9.11 Proposition. Sous les hypoth`eses du theor`eme 9.9, B
j
etant deni en
(9.11) et c
j
par (9.12), on a c
j+1
c
j
a et chaque c
j
est une valeur critique
de J. De plus on a lim
j
c
j
= +, et si pour un entier n 0 on a c
j
= c
j+n
,
alors (K(c
j
)) n + 1.
(Comme toujours, K(c) est lensemble des points critiques correspondant ` a
une valeur critique c). La demonstration est analogue ` a ce que nous avons vu
precedemment, et pour plus de detail voir Exercices.
9.12 Remarque. En utilisant le theor`eme 9.9, on peut montrer que le probl`eme
de lexemple 9.7 admet une innite de solutions, pour tout R, en supposant
en plus que G(x, s) 0 sur R. Pour cela, avec les notations dej` a introduites,
lorsque
1
, il sut de considerer un entier k 1 tel que
k
<
k+1
,
puis poser X
0
:= R{
1
, . . . ,
k
} et X
2
:= X

0
lorthogonal de X
0
dans H
1
0
(),
et reprendre la demarche de lexemple 8.7.
Cependant, il faut bien noter quil est essentiel de supposer que X
0
est de
dimension nie pour la demonstration du theor`eme 9.9. En particulier on ne
peut pas utiliser le resultat que nous venons de voir pour montrer lexistence
dune solution non nulle pour le syst`eme :
(9.13)
_

_
u = (u
2
+v
2
)
m
u v
v = (u
2
+v
2
)
m
v +u
u = v = 0
dans
dans
sur ,
o` u est un ouvert borne regulier de R
N
, m := (p 1)/2 pour un reel p > 1
veriant (N 2)p < N + 2 et > 0. En eet on peut voir facilement que les
solutions du syst`eme (9.13) peuvent etre obtenues comme points critiques de la
fonctionnelle denie sur X := H
1
0
() H
1
0
() par :
J(u, v) :=
_

_
|u(x)|
2
|v(x)|
2
+ 2u(x)v(x)

dx

1
m+ 1
_

_
u
2
(x) +v
2
(x)
_
m+1
dx
184 Chapitre 3. Points critiques sans contrainte
et que J satisfait la condition de Palais-Smale mais ne verie aucune des con-
ditions du theor`eme 9.9. Cependant, une version plus ne de ce theor`eme, due
` a V. Benci & P.H. Rabinowitz et utilisant une certaine notion de liaison ou
enlacement pour les ensembles, permet de montrer que J poss`ede une valeur
critique c > 0 sur H
1
0
() H
1
0
() (en particulier le syst`eme (9.13) admet une
solution (u, v) telle que u 0 et v 0). Pour lenonce precis de la generalisation
de la notion de linking (ou liaison) ainsi que pour une version du theor`eme 9.9
permettant ` a X
0
et X
2
detre de dimension innie, voir V. Benci & P.H. Rabi-
nowitz [19] o` u on trouvera egalement dautres exemples dapplication.
Exercices du chapitre 3
Exercice 1. Soient :=]0, 1[
N
le cube unite de R
N
et 1 < p < . Soient
W
1,p
() et
K

:=
_
v ; v W
1,p
(), v = sur
_
.
On consid`ere une fonction F : R
N
R de classe C
2
. On suppose quil existe
des constantes c
1
, c
2
, c
3
telles que
R
N
, c
1
+c
2
||
p
F() c
3
(1 + ||
p
) ,
et on pose J(v) :=
_

F(v(x))dx, pour v W
1,p
().
1) On suppose que le minimum de J sur K

est atteint en u K

. Montrer
que pour tout R
N
et p.p. sur on a :
N

i,j=1

j
F(u(x))
i

j
0.
(On pourra considerer J(u+tv), o` u v(x) := (x)(x/), avec C

c
() et
la fonction de periode 2 sur R denie par (s) := s sur [0, 1], et (s) := 2s
sur [1, 2]).
2) On suppose que J est faiblement sequentiellement s.c.i. sur lespace
W
1,p
(). Soient (Q
j
)
1j2
nN la decomposition de en 2
nN
cubes de c ote
2
n
, et x
j,n
le centre du cube Q
j
pour 1 j 2
nN
. Pour R
N
xe, on
pose (x) := x et on consid`ere pour v C

c
(), la suite
u
n,j
(x) := 2
n
v(2
n
(x x
j,n
)) + x.
Montrer que u
n,j
u dans W
1,p
()-faible si u(x) := x.
3) En passant ` a la limite sur la suite u
n,j
denie plus haut, montrer que :
mes() F() = J(u) liminf
n
J(u
n,j
) =
_

F( +v(x))dx.
4) Deduire de la question precedente que pour tous , R
N
on a
N

i,j=1

j
F()
i

j
0,
186 Exercices du chapitre 3
et en deduire que si J est faiblement sequentiellement s.c.i. sur W
1,p
(),
alors F est convexe.
5) On suppose maintenant que F est convexe. Montrer que J est faiblement
sequentiellement s.c.i. sur W
1,p
().
Exercice 2. Soient X un espace de Banach, J et F
j
: X R des fonctions de
classe C
1
pour 1 j m. Dans certains probl`emes de minimisation du type
u K, J(u) = min
vK
J(v), K := {v X ; 1 j m, F
j
(v) 0} ,
on peut montrer quil existe des multiplicateurs de Lagrange
j
tels que
(1) J

(u) =
m

j=1

j
F

j
(u).
En fait, sous des hypoth`eses adequates, on peut montrer que les multiplicateurs
de Lagrange
j
verient
(2)
j
0 pour 1 j m et
m

j=1

j
F
j
(u) = 0.
Lorsque u verie F
j
(u) = 0, on dit que la contrainte F
j
est saturee : la relation (2)
signie que le multiplicateur de Lagrange provenant dune contrainte non-saturee
est nulle. Les relations (1) et (2) sont connues sous le nom de relations de Kuhn-
Tucker. Ici nous supposerons que le point de minimum u K existe et nous
allons montrer ces relations dans le cas o` u toutes les fonctions F
j
sont des
fonctions anes, ou bien lorsque la condition suivante (que nous appellerons
condition (KH) pour simplier) est satisfaite : si u K est tel que lensemble
I := {j ; 1 j m, F
j
(u) = 0} est non vide, alors il existe w X tel que pour
tout j I on ait
_
F

j
(u), w 0 si F
j
est ane ,
F

j
(u), w > 0 si F
j
nest pas ane.
1) Soient f
0
, f
1
, f
2
, . . . , f
m
des formes lineaires sur X telles que si v X
verie f
j
, v 0 pour tout j

1
m
, alors f
0
, v 0. Montrer quil existe

1
, . . . ,
m
0 tels que
f
0
=
m

j=1

j
f
j
.
(Cest le lemme de Minkowski. Noter dabord que lon peut supposer que
f
1
, f
2
, . . . , f
m
sont lineairement independantes ; puis montrer que f
0
est com-
binaison lineaire de f
1
, . . . , f
m
. Pour etablir le fait que
j
0, montrer quil
existe v X tel que f
i
, v =
ij
pour 1 i m).
2) On suppose que pour 1 j m toutes les fonctions F
j
sont anes.
Montrer que si v X est tel que pour 1 j m on a F

j
(u), v 0, alors
Exercices du chapitre 3 187
pour > 0 assez petit, on a u + tv K pour 0 t ; en deduire que
J

(u), v 0. En utilisant la question 1) etablir les realations de Kuhn-


Tucker (1) et (2).
3) Montrer que si pour tout j

1
m
on a F
j
(u) > 0, alors J

(u) = 0.
4) On suppose quil existe j

1
m
tel que F
j
(u) = 0. Avec les notations de la
condition (KH), soit v X tel que pour
0
> 0 assez petit on ait v +w = 0
pour 0 < <
0
. On xe ; montrer quil existe
0
> 0 tel que pour tout j

1
m
on ait F
j
(u +(v +w)) > 0 pour 0 < <
0
. En deduire que J

(u), v 0
et etablir les relations (1) et (2) dans ce cas.
5) On suppose que la fonction J est convexe et que toutes les fonctions F
j
sont concaves. Verier que K est un convexe ferme. On suppose que u K
satisfait la conditions suivante : il existe
1
, . . . ,
m
0 tels que
m

j=1

j
F
j
(u) = 0, J

(u) =
m

j=1

j
F

j
(u).
Montrer que u realise le minimum de J sur K. (Cela montre que dans le cas
o` u J est convexe et les F
j
concaves, si la condition (KH) est satisfaite alors
les relations de Kuhn-Tucker caracterisent le point o` u J atteint son minimum
sur K).
6) Etudier le cas o` u on suppose seulement que les fonctions J et F
j
sont
G-derivables (les autres hypoth`eses etant inchangees).
Exercice 3. Soient un ouvert de R
N
avec N 3 et g : R dans R une
fonction mesurable en x , continue et croissante en s R telle que g(, 0) = 0.
On suppose quil existe une fonction de Caratheodory h, croissante en s R telle
que pour t, s R on ait |g(x, s + t) g(x, s)| h(x, t) p.p. sur et que pour
tout s R on ait h(, s) L
1
loc
(). Montrer que si f L
q
() et q
2N
N+2
, alors
J(v) :=
1
2
v
2
+
_

G(x, v(x))dx
_

f(x)v(x)dx
atteint son minimum sur K
0
:=
_
v H
1
0
() ; G(, v()) L
1
()
_
en un point
u K
0
tel que g(, u) L
1
loc
() et qui satisfait lequation
u +g(, u) = f dans D

().
Dans le cas particulier o` u N = 2, analyser soigneusement le type de croissance
que lon peut imposer ` a g.
Exercice 4. Soient un ouvert de R
N
, p 1 et
J(v) := v
2
+v
2
+v
p+1
p+1
f, v
denie sur X := H
1
0
() L
p+1
() avec f X

xee (ici est la norme


de L
2
()). Determiner toutes les valeurs de R pour lesquelles J est uni-
formement strictement convexe sur X.
188 Exercices du chapitre 3
Exercice 5. Soient un ouvert borne de R
N
et p > 0. Montrer que pour > 0
la fonction
J
0
(v) :=
1
2
_

|v(x)|
2
dx +

p + 1
_

|v(x)|
p+1
dx
satisfait la condition de Palais-Smale sur X := H
1
0
()L
p+1
(). Trouver toutes
les valeurs q 1 telles que pour f X

xee, la fonction
J(v) := J
0
(v)
1
q + 1
_

|v(x)|
q+1
dx f, v
satisfait la condition de Palais-Smale sur X.
Exercice 6. Soient un ouvert borne de R
N
avec N 3. Montrer que pour
> 0 la fonction
J(v) :=
1
2
_

|v(x)|
2
dx

p + 1
_

|v(x)|
p+1
dx
ne satisfait pas la condition de Palais-Smale si p := (N + 2)/(N 2). Lorsque
(N 2)p > N + 2, est-ce que J satisfait la condition de Palais-Smale sur X :=
H
1
0
() L
p+1
() ?
Exercice 7. Soient (X, d) un espace metrique separable et (
n
)
n1
un recou-
vrement ouvert de X. On pose
(x, y) := min(1, d(x, y)), f
n
(x) := (x,
c
n
).
1) Montrer que est une distance equivalente ` a d, que 0 f
n
1 et que
pour tous x, y X on a :
|f
n
(x) f
n
(y)| (x, y).
2) On pose h
1
(x) := 0 et
h
n
(x) := sup
i<n
f
i
(x), g
n
(x) := sup
in
f
i
(x), h(x) := sup
i1
f
i
(x).
Montrer que h
n
, g
n
et h sont lipschitziennes sur X (avec une constante de
Lipschitz egale ` a 1), et que 0 h
n
g
n
1.
3) Soit
n
:= g
n
h
n
. Montrer que 0
n
1 et que si x /
n
alors

n
(x) = 0 ; montrer par recurrence que pour tout x X on a :

in

i
(x) = g
n
(x),

n1

n
(x) = h(x) > 0.
4) Soient
n
(x) :=
n
(x)/h(x). Montrer que

n1

n
1 et que si

n
(x) := max
_
0,
n
(x)
1
2
sup
k1

k
(x)
_
,
alors
n
est localement lipschitzienne sur X.
Exercices du chapitre 3 189
5) Soient
j
:= [
j
> 0] et

j
(x) :=

j
(x)

n1

n
(x)
.
Montrer que (
j
)
j1
est un recouvrement localement ni et plus n que
(
n
)
n1
et que (
j
)
j1
est une partition de lunite localement lipschitzi-
enne subordonnee ` a (
j
)
j1
(en fait on peut montrer, sans hypoth`ese de
separabilite, que tout espace metrique est paracompact).
Exercice 8. Soient X un espace de Banach et F : X X une fonction bornee ;
on suppose que pour tout R > 0 il existe une constante L telle que
x, y B(0, R), F(x) F(y) Lx y.
1) Montrer que pour tout x X, lequation dierentielle
d
dt
= F(), (0) = x
admet une solution unique (t, x) qui existe pour tout t R (si
T
max
:= sup
_
T > 0 ; C
1
([0, T], X) solution sur [0, T]
_
,
en supposant que T
max
< , considerer une suite t
n
T
max
, et montrer
que ((t
n
, x))
n
est une suite de Cauchy qui converge vers un point x

, puis
resoudre lequation avec la donnee initiale x

).
2) Montrer que si x
n
x alors (t, x
n
) (t, x).
Exercice 9. Avec les hypoth`eses et notations du theor`eme du col 8.1, montrer
que
c := inf {b R ; [J b] contient un chemin continu allant de 0 ` a u
0
}
est une valeur critique de J et que a c c.
Exercice 10. Soient R
N
un ouvert borne de classe C
1
et p > 0 un reel.
Montrer que si X := H
1
() L
p+1
() et designe la norme de L
2
(), alors
J(v) :=
1
2
v
2
+
1
2
v
2
+
1
p + 1
v
p+1
p+1
f, v
satisfait, pour f X

, la condition de Palais-Smale sur X (on pourra utiliser le


lemme de Brezis-Lieb).
Exercice 11. Soient un ouvert borne de R
N
,
1
la premi`ere valeur propre
de sur H
1
0
() et p > 1 un reel tel que (N 2)p < N + 2. En utilisant le
theor`eme du col montrer que si <
1
, et f H
1
() a une norme assez petite
(dans un sens que lon precisera), alors lequation
u H
1
0
(), u = u + |u|
p1
u +f
190 Exercices du chapitre 3
admet au moins une solution (on notera que dans ce probl`eme lorigine nest pas
un point de minumum local de lenergie). Analyser egalement le cas o` u
1
.
Exercice 12. (Probl`eme du pendule force). Soient T > 0, a > 0 xes et f
L
1
(0, T). On consid`ere lensemble des fonctions T-periodiques de H
1
loc
(R) i.e.
H
1
(S
T
) :=
_
v H
1
loc
(R) ; t R, v(t +T) = v(t)
_
,
la norme de H
1
(S
T
) etant induite par celle de H
1
(0, T). On posera M(v) :=
1
T
_
T
0
v(t)dt. On sinteresse ` a la resolution (dans H
1
(S
T
)) du probl`eme :
(1)
_
u

= a sin(u) f
u(t) = u(t +T)
sur ]0, T[
pour tout t ]0, T[
On posera
J
0
(v) := a
_
T
0
cos(v(t))dt +
_
T
0
f(t)v(t)dt,
J(v) :=
1
2
_
T
0
|v

(t)|
2
dt +J
0
(v).
1) Montrer que lequation (1) nadmet de solution que si |M(f)| a.
Dans la suite on suppose que M(f) = 0.
2) Montrer quil existe une constante (dependant de T) telle que pour tout
v H
1
(S
T
) on ait :
v M(v)

Cv

L
2
(0,T)
.
3) Montrer que J
0
est faiblement sequentiellement continue sur lespace
H
1
(S
T
) et en deduire que J y est faiblement sequentiellement s.c.i.
4) Montrer que J est bornee inferieurement sur H
1
(S
T
) et quen particulier
elle atteint son minimum en un point u
0
H
1
(S
T
) tel que 0 M(u
0
) 2
(on notera que pour tout entier k Z on a J(v + 2k) = J(v)).
5) Soit u
0
comme ci-dessus et := J(u
0
) = min
vH
1
(S
T
)
J(v). On consid`ere
une suite (u
k
)
k
telle que J(u
k
) et u
k
u

dans H
1
(S
T
)-faible. Montrer
que
lim
k
u
k
u

H
1
(S
T
)
= 0.
(Remarquer que
u

k
u

2
L
2 = 2J(u
k
) 2J
0
(u
k
) +
_
T
0
|u

|
2
dt 2
_
T
0
u

k
u

dt
et passer ` a la limite).
6) Montrer que J satisfait cette variante de la condition de Palais-Smale :
si (u
n
)
n
est une suite de H
1
(S
T
) telle que J(u
n
) c et J

(u
n
) 0, alors il
existe une sous-suite (u
nj
)
j
, une suite ( u
j
)
j
et u H
1
(S
T
) tels que :
Exercices du chapitre 3 191
(ps) M( u
j
) M(u
nj
) = 0 (mod 2), u
j
u dans H
1
(S
T
).
7) Enoncer et etablir rapidement un analogue du theor`eme du col pour J.
8) Pour R > 0 on designe par (u
0
, R) la sph`ere de centre u
0
et de rayon
R dans H
1
(S
T
). On suppose quil existe R > 0 (et R < 2) tel que pour
tout v (u
0
, R) on ait J(v) > . Montrer quil existe > 0 tel que pour
tout v (u
0
, R) on ait J(v) + (raisonner par labsurde et utiliser la
question 5)).
9) On suppose que pour tout R, avec 0 < R < 2, il existe v (u
0
, R) tel
que J(v) = . En deduire qualors (1) admet une innite de solutions.
10) On suppose quil existe R, avec 0 < R < 2, tel que pour tout v
(u
0
, R) on ait J(v) > . En utilisant le theor`eme du col etabli en 7),
montrer quil existe une solution u

de (1) telle que J(u

) > .
11) En deduire que lequation (1) admet toujours au moins deux solutions
distinctes.
Exercice 13. Soient un ouvert borne et connexe de R
N
et (
n
)
n1
, (
n
)
n1
les suites des valeurs propres et vecteurs propres de loperateur sur H
1
0
().
On note X
1
:= R{
1
, . . .
k
} et on suppose que
k
<
k+1
, que m L

()
verie m > 0 p.p. sur , et pour > 2 et c 0 xes, on pose
F(t, v) :=
1
2
(
k+1
)t
2
+c
_

m(x)|v(x) +t
k+1
(x)|

dx.
Montrer que pour tout R > 0 donne, il existe R
1
> R tel que si v X
1
et
v = R
1
on ait F(t, v) 0 pour tout t 0.
Exercice 14. Soient un ouvert borne de R
N
, et L
1
loc
(). On suppose que

+
L

() +L
q
(), avec q > N/2 si N 2.
1) Montrer que si p > 1 et (N 2)p < N + 2, la fonction
J(v) :=
1
2
_

_
|v(x)|
2
(x)|v(x)|
2

dx
1
p + 1
_

|v(x)|
p+1
dx
satisfait la condition de Palais-Smale sur lespace des v H
1
0
() telles que

v
2
L
1
().
2) Etudier lexistence dune solution non nulle pour lequation :
u = u + |u|
p1
u, u H
1
0
(),
pour p > 1 et (N 2)p < N + 2 et dierentes valeurs de R.
3) Generaliser au cas o` u la non linearite est g(, u) au lieu de |u|
p1
u, et g
verie les hypoth`eses adequates introduites ` a lexemple 8.7.
4) Que se passe-t-il si on suppose que N 3 et
+
L
N/2
() ?
Exercice 15. Soient un ouvert borne de R
N
, > 0 et p > 1 des reels tels
que (N 2)p < N +2 et m := (p 1)/2. Sur H := H
1
0
() H
1
0
() on consid`ere
la fonction
192 Exercices du chapitre 3
J(u, v) :=
_

_
|u(x)|
2
|v(x)|
2
+ 2u(x)v(x)

dx

1
m+ 1
_

_
u
2
(x) +v
2
(x)
_
m+1
dx.
Montrer que J satisfait la condition de Palais-Smale sur H.
Exercice 16. Soient un ouvert borne de R
N
, R et p > 1. Montrer que si
E(v) :=
1
2
_

_
|v(x)|
2
|v(x)|
2

dx
1
p + 1
_

|v(x)|
p+1
dx,
alors en designant par B
j
lensemble des parties compactes A de H
1
0
() qui sont
symetriques, ne contiennent pas lorigine et telles que (A) j, on a :
inf
ABj
max
vA
E(v) = , sup
ABj
min
vA
E(v) = +.
Exercice 17. Montrer que les nombres c
j
introduits au lemme 9.6 sont des
valeurs critiques de J.
Exercice 18. Montrer en detail le lemme 9.10 et la proposition 9.11.
Exercice 19. Montrer que la fonctionnelle J(u, v) introduite ` a la remarque 9.12
satisfait la condition de Palais-Smale sur H
1
0
() H
1
0
().
Exercice 20. Soient un ouvert borne regulier de R
N
, p > 1 et Au :=
div
_
|u|
p2
u
_
pour u D(A), o` u D(A) :=
_
u W
1,p
0
() ; Au L
p
()
_
(ici | | designe la norme euclidienne de R
N
).
1) Montrer quil existe une constante
1,p
> 0 (dependant de p et de )
telle que pour tout <
1,p
et f L
p
(), lequation
Au = |u|
p2
u +f, u W
1,p
0
(),
admet une solution unique. Montrer aussi que lapplication f u de L
p
()
dans W
1,p
0
() est continue, et que si f 0 alors u 0.
2) Soient q > p et (N p)q < pN, et pour <
1,p
,
J(v) :=
1
p
_

[|v(x)|
p
|v(x)|
p
] dx
1
q
_

|v(x)|
q
dx.
Montrer que la fonction J est de classe C
1,1
loc
sur W
1,p
0
() et satisfait la
condition de Palais-Smale.
3) Montrer que sous les hypoth`eses de la question precedente, lequation
(1) Au = |u|
p2
u + |u|
q2
u, u W
1,p
0
(),
admet une solution u 0, et en plus u 0 sur .
4) Generaliser le resultat precedent au cas o` u est quelconque.
Exercices du chapitre 3 193
5) On suppose que g : R R verie g(0) = 0, quil existe des constantes
R > 0 et > p telles que 0 < G(s) sg(s) pour |s| R et que g est ` a
croissance sous-critique en ce sens que |g(s)| a(1+|s|
q
) pour une constante
a > 0 et pour q tel que (N p)q < pN. Montrer que lequation
Au = |u|
p2
u +g(u), u W
1,p
0
()
admet une solution non triviale (ici G(s) :=
_
s
0
g()d).
6) Montrer quen realite (1) admet une innite de solutions.
Exercice 21. Soit Au := u + |x|
2
u pour u D(A) et
D(A) :=
_
u L
2
(R
N
) ; Au L
2
(R
N
)
_
.
(Ici | | designe la norme euclidienne de R
N
; A est appele loperateur de
loscillateur harmonique). On consid`ere lespace H
1
deni par :
H
1
:=
_
u L
2
(R
N
) ;
_
R
N
_
|u(x)|
2
+ |x|
2
u
2
(x)
_
dx <
_
et on le munit de la norme
1
induite par le produit scalaire
(u|v)
1
:=
_
R
N
_
u(x) v(x) + |x|
2
u(x)v(x)
_
dx.
1) Montrer que linjection de H
1
dans L
q
(R
N
) est compacte pour 2 q < 2

.
2) Soit
1
:= inf
_
(u|u)
1
; u H
1
, u
2
L
2
(R
N
)
= 1
_
. Montrer que
1
est
atteint pour une fonction
1
0, que A
1
=
1

1
et
1
C

(R
N
).
3) Montrer que
1
est valeur propre simple de A et, en remarquant que
1
,
la transformee de Fourier de
1
, satisfait la meme equation, calculer
1
et

1
.
4) Montrer que pour tout p > 1 et > N, il existe une solution positive de
lequation
(2)
_
u + |u|
p1
u + |x|
2
u = u
u H
1
L
p+1
(R
N
) \ {0} .
5) Montrer que pour p > 1 tel que (N 2)p < N + 2 et tout R,
lequation :
(3)
_
u + |x|
2
u = u + |u|
p1
u
u H
1
\ {0}
admet une innite de solutions et quil nexiste de solution positive que si
< N.
194 Exercices du chapitre 3
4 Points critiques avec contrainte
1. Pourquoi des contraintes ?
Soient un ouvert de R
N
et p > 1 tel que (N 2)p < N + 2. Nous avons dej` a
vu que lequation :
(1.1)
_

_
u = |u|
p1
u
u = 0
u 0 ,
dans ,
sur ,
admettait une innite de solutions. En particulier il existe une solution positive
de cette equation obtenue en minimisant la fonctionnelle v v
2
=: J(v)
(puis en faisant une homothetie) sur lensemble S :=
_
v H
1
0
() ; v
p+1
= 1
_
(voir lexemple 1.14.9). On peut montrer aussi que (1.1) admet une innite de
solutions en montrant, comme nous le ferons plus loin, que la fonction J poss`ede
une innite de valeurs critiques sur S. De ce point de vue, il sagit de lapplication
dune generalisation dun theor`eme d u ` a L. Ljusternik & L. Schnirelman disant
quune fonction paire de classe C
1
denie sur S
n1
, la sph`ere unite de R
n
,
poss`ede au moins n valeurs critiques (dans le cas present nous avons une fonc-
tionnelle paire de classe C
1
sur une sph`ere de dimension innie).
Il est interessant detudier les solutions de certains probl`emes, en etudiant
une fonctionnelle adequate sur une contrainte bien choisie, pour de multiples
raisons : on peut placer le probl`eme en question dans le cadre dune famille
de probl`emes dependant dun ou de plusieurs param`etres et comprendre ainsi
certains phenom`enes qui ne paraissent pas clairs a priori ; on peut obtenir des
conditions necessaires pour lexistence de solutions ou bien eliminer des incon-
nues du probl`eme en les obtenant a posteriori comme des multiplicateurs de
Lagrange : cest le cas lorsque lon cherche des valeurs propres dun operateur
auto-adjoint A sur un espace de Hilbert, o` u les valeurs propres apparaissent
comme des mutiplicateurs de Lagrange pour les points critiques de v (Av|v)
sur la sph`ere unite de H. On peut aussi, dans certains cas, chercher une solution
ayant des proprietes particuli`eres parmi les solutions eventuelles dun probl`eme.
Par exemple, dans le cas de lequation (1.1), le fait de considerer J(v) := v
2
sur la sph`ere unite de L
p+1
() nous a permis demblee, et de mani`ere tr`es simple,
de construire une solution positive. Pour dautre exemples voir Exercices.
196 Chapitre 4. Points critiques avec contrainte
Dans le cas particulier que nous avons en (1.1), on peut egalement se poser
la question suivante : parmi les solutions de (1.1), y a-t-il une solution denergie
minimale ? Rappelons que les solutions de (1.1) sont les points critiques de la
fonctionnelle denie sur H
1
0
() par :
E(v) :=
1
2
_

|v(x)|
2
dx
1
p + 1
_

|v(x)|
p+1
dx
et la question est de savoir sil existe un point critique u de E tel que pour toute
autre solution u de (1.1) on ait E( u) E(u). Une telle solution est appelee etat
fondamental (en anglais ground state). La question nest pas superue car E
nest pas bornee inferieurement et poss`ede une innite de points critiques. Pour
repondre ` a cette question, notons que si u est solution de (1.1), alors on a (en
multipliant lequation par u et en eectuant une integration par parties) :
F(u) :=
_

|u(x)|
2
dx
_

|u(x)|
p+1
dx = 0,
i.e. u S
0
o` u on a pose :
(1.2) S
0
:=
_
v H
1
0
() \ {0}; F(v) = 0
_
.
Verions que F denit bien une contrainte au sens du paragraphe 1.14. Si
v S
0
, alors F

(v) = 2v (p +1)|v|
p1
v, et si on avait F

(v) = 0, on aurait
(en calculant F

(v), v et en faisant une integration par parties)


2v
2
= (p + 1)
_

|v(x)|
p+1
dx, et v
2
=
_

|v(x)|
p+1
dx,
ce qui impliquerait v 0, alors que par denition 0 S
0
. Il est ` a noter que cette
verication permet egalement de voir que pour tout v S
0
on a F

(v), v = 0.
Soit maintenant u S
0
realisant le minimum de E sur S
0
(comme on le verra
dans un instant un tel u existe) ; alors il existe un multiplicateur de Lagrange
R tel que E

( u) = F

( u). On obtient ainsi, en multipliant par u et en


notant que F(v) = E

(v), v :
0 = F( u) = E

( u), u = F

( u), u,
et ainsi = 0 et E

( u) = 0. On voit en meme temps que tout point critique de


E sur S
0
est un point critique de E sur H
1
0
(). Mais lavantage de considerer
E sur la contrainte S
0
est que la solution u, trouvee en minimisant E sur S
0
,
est necessairement denergie minimale (en plus on peut montrer que u peut etre
choisie positive). De plus E est bornee inferieurement sur S
0
, puisque si v S
0
,
alors E(v) =
p1
2(p+1)
v
2
, et on obtient ainsi une information supplementaire,
` a savoir que toute solution de (1.1) est denergie positive.
Montrons maintenant que E atteint son minimum sur S
0
. On commence
par noter que gr ace ` a linegalite de Sobolev (ou bien linegalite de Gagliardo-
Nirenberg) pour tout v S
0
on a v
p+1
Cv = Cv
(p+1)/2
p+1
, pour une
constante C dependant de N, p, . Comme v = 0, on en deduit que v
p+1
C
0
1. Pourquoi des contraintes ? 197
o` u C
0
> 0 est une constante dependant uniquement de N, p, . Cela signie que
S
0
est, au sens de L
p+1
() mais aussi au sens de H
1
0
(), loin de lorigine et en
particulier S
0
est ferme dans H
1
0
(). Soit :
m := inf
vS0
E(v) =
p 1
2(p + 1)
inf
vS0
_

|v(x)|
2
dx.
Si u
n
S
0
et E(u
n
) m, on voit immediatement que (u
n
)
n
est bornee dans
H
1
0
(). En utilisant le theor`eme de compacite de Rellich-Kondrachov, on peut
supposer que u
n
u dans L
p+1
() et, puisque u
n

p+1
C
0
, on a aussi
u
p+1
C
0
, ce qui signie en particulier que u = 0. Comme de plus E et
F sont faiblement sequentiellement s.c.i. sur H
1
0
(), on a aussi E( u) m et
F( u) 0.
Pour terminer il nous reste ` a montrer que u S
0
, cest ` a dire que F( u) = 0.
On sait dej` a que F( u) 0 ; si u
2
< u
p+1
p+1
(ce qui signie F( u) < 0), on
denit w() := u pour 0 1. On a
F(w()) =
2
u
2

p+1
u
p+1
p+1
,
or F(w(1)) = F( u) < 0, alors que si > 0 est assez petit on a F(w()) > 0.
On en conclut quil existe t tel que < t < 1 et F(w(t)) = 0. Ainsi on a
w := w(t) S
0
et :
m E(w) =
p 1
2(p + 1)
w
2
=
p 1
2(p + 1)
t
2
u
2
<
p 1
2(p + 1)
2
u
2
m,
ce qui est impossible. Par consequent on doit avoir u
2
= u
p+1
, i.e. u S
0
,
et E( u) = min
vS0
E(v). En fait on peut montrer (voir Exercices) que u
n
tend
vers u dans H
1
0
()-fort.
On peut enoncer et montrer facilement la proposition suivante que nous avons
utilisee et prouvee dans le cas particulier de lexemple 1.14.9 (en montrant quau
point de minimum de J sur S
0
, la fonction F est faiblement sequentiellement
continue sur S
0
).
1.1 Proposition. Soient X un espace de Banach reexif et F une fonction de
classe C
1
de X R. On consid`ere S := {v X ; F(v) = 0} et on suppose
que pour tout v S on a F

(v) = 0, et que F est faiblement sequentiellement


continue. Soit J une fonction minoree sur S, et faiblement sequentiellement s.c.i.
de S dans R. Si
lim
vS,v
J(v) = +,
alors J atteint son minimum sur S.
1.2 Exemple. Soient un ouvert borne de R
N
et g : R R une fonction
satisfaisant la condition de Caratheodory (1.16.1). On suppose que :
198 Chapitre 4. Points critiques avec contrainte
(1.3)
_
p 1, p
0
>
N
2
, b
0
L
p0
(), b
1
R
+
,
|g(x, s)| b
0
(x) +b
1
|s|
p
,
et on note G(x, s) :=
_
s
0
g(x, )d. Pour m R

donne on suppose que si


v H
1
0
() verie
_

G(x, v(x))dx = m, alors g(x, v(x)) 0 p.p. sur . Alors


en posant
_
_
_
F(v) :=
_

G(x, v(x))dx m,
S(m) :=
_
v H
1
0
() ; F(v) = 0
_
,
on verie facilement que gr ace ` a la condition (1.3) et au theor`eme de compacite
de Rellich-Kondrachov, F est faiblement sequentiellement continue sur H
1
0
().
Par consequent si
a(x) := (a
ij
(x))
1i,jN
,
est une matrice uniformement coercive et ` a coecients dans L

(), la fonction
J(v) :=
_

_
a(x)v(x) v(x) v
2
(x)

dx,
atteint son minimum sur S(m) pourvu que S(m) = et que lon ait :
(1.4) <
1
:= min
v=1
vH
1
0
()
_

a(x)v(x) v(x)dx.
(Ici designe la norme de L
2
()). Cela conduit ` a lexistence dun couple
(u, ) S(m) R tel que :
_

i,j=1

i
(a
ij

j
u) = g(, u)
u = 0
dans ,
sur .
Il faut noter quen general (u, ) depend de m et que dans certains cas on peut
alleger la limitation sur donnee par (1.4). On peut egalement remarquer que
dans le cas o` u s g(x, s) est impair, comme pour tout v S on a aussi |v| S
et que J(|v|) J(v) (voir proposition 1.8.22), on peut supposer que la suite
minimisante est positive et que u 0.
Il est instructif de mediter sur lexemple suivant o` u
g(x, s) := (x)|s|
p1
s,
avec L

() et > 0 p.p. sur . Dans ce cas on peut montrer que pour


tout m > 0 et tout R, J atteint son minimum sur S(m) en un point u et
que si Av := div (a()v), il existe R tel que Au u = |u|
p1
u. En
multipliant cette equation par u et en faisant une integration par parties, on voit
que J(u) = (p + 1)m, et on peut supposer que u 0.
2. La condition de Palais-Smale 199
Or si <
1
, pour tout v S(m) on a J(v) > 0 et par consequent > 0 :
dans ce cas, en posant u
0
:=
1/(p1)
u, on verie sans diculte que u
0
est
solution du probl`eme :
Au
0
u
0
= |u
0
|
p1
u
0
, u
0
H
1
0
(), u
0
0.
En revanche lorsque >
1
, si
1
H
1
0
() est telle que
_

(x)|
1
|
p+1
(x)dx = m et A
1
=
1

1
,
alors J(
1
) < 0. Par consequent inf
vS(m)
J(v) < 0 et < 0. Dans ce cas en
posant u
1
:= ||
1/(p1)
u, on verie que u
1
est solution du probl`eme :
Au
1
u
1
+|u
1
|
p1
u
1
= 0, u
1
H
1
0
(), u
1
0.
Enn dans le cas particulier o` u =
1
, la fonction
1
etant comme ci-dessus, on
peut voir que = inf
vS(m)
J(v) = 0, et que le point o` u J atteint son minimum
sur S(m) est precisement
1
.
Pour construire des points critiques sur des contraintes, nous allons reprendre
la demarche du chapitre 3, en adaptant les dierentes notions dont nous avons
eu besoin, en commen cant par la condition de Palais-Smale.
2. La condition de Palais-Smale
Soit X un espace de Banach. Dans toute la suite lorsque lon consid`ere une
contrainte du type :
(2.1) S := {v X ; F(v) = 0} ,
on suppose toujours que :
(2.2) F C
1
(X, R), et v S, F

(v) = 0.
2.1 Denition. Soient X un espace de Banach, F veriant (2.2), S deni
par (2.1) et J C
1
(X, R). Si c R, on dit que J
|S
verie la condition de Palais-
Smale (au niveau c), ou que J verie la condition de Palais-Smale sur S, si toute
suite (u
n
,
n
) S R telle que :
J(u
n
) c dans R, et J

(u
n
)
n
F

(u
n
) dans X

,
contient une sous-suite (u
n
k
,
n
k
)
k
convergeant vers (u, ) dans S R.
Naturellement, il nest pas indispensable que J soit denie dans X tout en-
tier : on peut denir une notion analogue lorsque J est denie dans un voisinage
de S ou meme seulement sur S, en precisant le sens de la derivee dune fonc-
tionnelle denie sur une variete. On notera que si J satisfait la condition de
Palais-Smale en c R, alors lensemble
200 Chapitre 4. Points critiques avec contrainte
{(u, ) S R ; J(u) = c, et J

(u) = F

(u)}
est compact dans X R et il en est de meme des ensembles
K(c) := {u S ; J(u) = c et R tel que J

(u) = F

(u)}
et
acb
K(c), pour tous a, b R. Nous allons illustrer cette denition par
quelques exemples.
2.2 Exemple. Soit (A, D(A)) un operateur auto-adjoint ` a resolvante compacte
deni sur un espace de Hibert H
0
et ` a valeurs dans H
0
. On suppose que pour tout
u D(A) on a (Au|u) 0, o` u (|) designe le produit scalaire de H
0
, identie ` a
son dual. On designe par H le domaine de A
1/2
, et on convient decrire (Au|u)
au lieu de (A
1/2
u|A
1/2
u). On rappelle qualors il existe une extension

A de A
telle que I +

A soit un isomorphisme entre H et H

(voir remarque 1.9.4). On


va montrer que J(u) := (Au|u), deni sur H, satisfait la condition de Palais-
Smale sur S := {v H ; (u|u) = 1}. En eet si (u
n
,
n
) S R est tel que
h
n
:=

Au
n

n
u
n
0 dans H

et J(u
n
) c R, tout dabord (en calculant
le produit h
n
, u
n
) on a J(u
n
)
n
0, i.e.
n
c. Ensuite on remarque
que (I +

A)u
n
= h
n
+ (
n
+ 1)u
n
est bornee dans H

et, (I +

A) etant un
isomorphisme entre H et H

, (u
n
)
n
est bornee dans H. Puis, comme A est ` a
resolvante compacte, linjection de H dans H
0
est compacte et par consequent,
il existe une sous-suite (u
ni
)
i
qui converge vers u dans H
0
et en particulier u S.
De plus linjection de H
0
dans H

est continue et on peut en deduire que


u
ni
= (I +

A)
1
[h
ni
+ (
ni
+ 1)u
ni
] (1 +c)(I +

A)
1
u dans H,
cest ` a dire que (u
n
)
n
contient une sous-suite convergeant vers u S. De plus

Au = cu : par consequent

Au H et

Au = Au, i.e. u est un vecteur propre de
A et c est une valeur propre. Ainsi J satisfait la condition de Palais-Smale sur
S.
2.3 Exemple. Soient X := H
1
(R
N
) et
S :=
_
v H
1
(R
N
) ; v
2
= 1
_
,
o` u designe la norme de L
2
(R
N
). Alors si J(v) := v
2
, J ne verie
pas la condition de Palais-Smale sur S. En eet si D(R
N
) S, en posant
u
n
(x) := n
N/2
(x/n), on a u
n
S, alors que J(u
n
) = n
2
J() 0, et u
n
=
n
2
; par consequent J

(u
n
) 0 dans H
1
(R
N
). On voit que la seule limite
possible pour u
n
est zero, et evidemment (u
n
)
n
ne contient aucune sous-suite
convergeant vers zero dans H
1
(R
N
).
2.4 Exemple. Soient un ouvert borne de R
N
, p 1 un reel tel que (N
2)p < N + 2 et enn L

(). On consid`ere sur H


1
0
() la fonction J(v) :=
v
2
+
_

(x)|v(x)|
2
dx et lensemble de contraintes
S :=
_
v H
1
0
() ; v
p+1
p+1
= 1
_
,
2. La condition de Palais-Smale 201
o` u est la norme de L
2
() et
p+1
celle de L
p+1
(). Alors J verie la
condition de Palais-Smale sur S. En eet si c R et (u
n
,
n
) S R est telle
que
_
J(u
n
) c
h
n
:= u
n
+u
n

n
|u
n
|
p1
u
n
0 dans H
1
(),
on voit tout dabord, puisque u
n
est bornee dans L
p+1
(), que u
n
est bornee
dans H
1
0
() (on aura note quici nous ne faisons aucune hypoth`ese sur le signe de
). Puis en calculant h
n
, u
n
, on voit que
n
= J(u
n
) h
n
, u
n
, do` u on deduit
que (
n
)
n
est bornee. Comme dapr`es le theor`eme de compacite de Rellich-
Kondrachov, linjection de H
1
0
() dans L
q
() est compacte pour q = 2 ou
q = p+1, on peut extraire une sous-suite (u
n
k
,
n
k
)
k
qui converge vers (u, ) dans
_
L
2
() L
p+1
()
_
R. En designant par B lapplication lineaire continue de
H
1
() dans H
1
0
() qui ` a f H
1
() fait correspondre la solution Z H
1
0
()
de Z = f, on conclut que
u
n
k
= B
_
h
n
k
u
n
k
+
n
k
|u
n
k
|
p1
u
n
k
_
B
_
u +|u|
p1
u
_
dans H
1
0
(). On obtient ainsi une solution du probl`eme u + u = |u|
p1
u
(et u H
1
0
(), u 0). Pour p = 1, ce dernier probl`eme correspond ` a un
probl`eme aux valeurs propres. Lorsque p > 1, certains auteurs, de fa con quelque
peu impropre, appellent ce genre dequations probl`eme aux valeurs propres non-
lineaires, ce qui na pas beaucoup de sens dans ce cadre puisque, par un argument
dhomothetie, on peut montrer (et nous le ferons au paragraphe 5) que pour
tout > 0 il existe une innite de solutions pour u + u = |u|
p1
u. Nous
verrons plus loin que si (N2)p = N+2 et N 3, alors en general J ne satisfait
pas la condition de Palais-Smale sur S ; cependant dans certains cas on peut
montrer que J poss`ede des valeurs critiques. Voir aussi Exercices, pour le cas o` u
L
q
(), avec q > N/2.
2.5 Exemple. Soient un ouvert borne de R
N
et g : R R une fonction
veriant la condition de Caratheodory (1.16.1), telle que p.p. en x , et
pour tout s R la derivee
s
g(x, s) existe et soit continue. On consid`ere alors
G(x, s) :=
_
s
0
g(x, )d et :
(2.3)
_

_
J(v) :=
_

_
1
2
_
a(x)v(x) v(x) v
2
(x)

G(x, v(x))
_
dx,
F(v) :=
_

__
a(x)v(x) v(x) v
2
(x)

g(x, v(x))v(x)
_
dx,
S :=
_
v H
1
0
() \ {0} ; F(v) = 0
_
.
On designe enn par A loperateur deni par Av := div(a(x)v) sur
D(A) :=
_
v H
1
0
() ; Av L
2
()
_
,
et par
1
la plus petite valeur propre de A, i.e.

1
:= min
_
Av, v ; v H
1
0
(), v
2
= 1
_
.
202 Chapitre 4. Points critiques avec contrainte
(Ici, et ` a chaque fois que lon ne le precise pas, a() est une matrice symetrique
` a coecients dans L

() et uniformement coercive).
Nous allons montrer que, sous des hypoth`eses convenables, la fonctionnelle J
verie la condition de Palais-Smale sur lensemble de contraintes S. Pour la clarte
de lexpose nous ne chercherons pas ` a donner les conditions les plus generales,
mais celles qui sont souvent remplies dans les applications courantes (voir aussi
Exercices).
2.6 Proposition. Soient un ouvert borne de R
N
, p > 1 un reel tel que
(N 2)p < N + 2. On suppose que la fonction g : R R admet, p.p.
sur , une derivee continue
s
g(x, s), est telle que g(x, 0) =
s
g(x, 0) = 0 et
verie la condition de Caratheodory (1.16.1) ainsi que les conditions suivantes
(on suppose que g(x, s) 0) :
b 0, |
s
g(x, s)| b(1 + |s|
p1
) (2.4)
> 2, tel que s R 0 G(x, s) sg(x, s) (2.5)

0
> 0, tel que s R, s
2

s
g(x, s) (1 +
0
)sg(x, s). (2.6)
Alors J, F, S etant denies par (2.3) et <
1
etant xe, on a les proprietes
suivantes :
(i) J est de classe C
2
et F est de classe C
1
sur H
1
0
().
(ii) S = et pour tout v S on a F

(v), v < 0 ; de plus il existe > 0 tel


que pour tout v S on ait v .
(iii) La fonction J verie la condition de Palais-Smale sur S.
Demonstration. Nous devons faire remarquer avant tout que F(v) = J

(v), v.
Du fait que
s
g(, ) verie la condition de croissance (2.4), en utilisant les
resultats du paragraphe 1.17, on voit facilement que J est de classe C
2
et
que F est de classe C
1
sur H
1
0
(), ce qui etablit (i).
La condition (2.6) et le fait que g 0 impliquent que S = . En eet, (par
exemple) il existe s
0
> 0 tel que g(x, s
0
) 0 et g(x, s
0
) 0. Alors dapr`es (2.6),
pour s s
0
on a g(x, s) g(x, s
0
)s
10
0
s
1+0
. Par consequent en posant
m(x) := g(x, s
0
)s
10
0
,
pour tout v H
1
0
() tel que v 0 et mv 0, pour une constante C 0 et
pour tout t > 0 on a :
(2.7)
F(tv) t
2
_

[a(x) v(x) v(x) v


2
(x)

dx
t
2+0
_

m(x)|v(x)|
2+0
dx +C,
ce qui montre que F(tv) < 0 pour t > 0 assez grand. Dautre part comme pour
tout > 0 il existe C() > 0 telle que
(2.8) s R, p.p. sur , sg(x, s) |s|
2
+C()|s|
p+1
,
2. La condition de Palais-Smale 203
on conclut, en prenant > 0 assez petit pour que + <
1
, que F(tv) > 0 si
t > 0 est assez petit. Par consequent il existe t
0
> 0 tel que t
0
v S.
Pour montrer (ii), commen cons par noter que si v S, i.e. F(v) = 0, alors
F

(v), v = 2
_

_
a(x)v(x) v(x) v
2
(x)

dx

_
v
2
(x)
s
g(x, v(x)) +v(x)g(x, v(x))

dx,
F

(v), v =
_

_
v
2
(x)
s
g(x, v(x)) v(x)g(x, v(x))

dx, (2.9)

0
_

v(x)g(x, v(x))dx
=
0
_

_
a(x)v(x) v(x) v
2
(x)

dx.
Par consequent puisque v = 0, et que <
1
, on a F

(v), v < 0. Par ailleurs


si > 0 est assez petit pour que + <
1
, en utilisant (2.8), linegalite de
Sobolev v
p+1
Cv et la denition de
1
, on a pour tout v S :
_

a(x)v(x).v(x)dx ( +)
_

v
2
(x)dx
+C

|v(x)|
p+1
dx,

1
_

a(x)v(x) v(x)dx
+C()v
p+1
,
ce qui donne nalement (
1
)/
1
C()v
p1
, en utilisant la coer-
civite de la matrice a(). Cela ach`eve la preuve de (ii).
Pour montrer que J satisfait la condition de Palais-Smale sur S, on consid`ere
une suite (u
n
,
n
) S R telle que J(u
n
) c et h
n
:= J

(u
n
)
n
F

(u
n
) 0
dans H
1
(). Dans un premier temps on va montrer que
n
tend vers zero et
que (u
n
)
n
est bornee dans H
1
0
(). Comme on a h
n
, u
n
=
n
F

(u
n
), u
n
, en
se rappelant legalite (2.9), on peut ecrire :
|
n
|
0
_

_
a(x)u
n
(x) u
n
(x) |u
n
(x)|
2

dx
= |
n
|
0
_

u
n
(x)g(x, u
n
(x))dx
|
n
|
_

_
|u
n
(x)|
2

s
g(x, u
n
(x)) u
n
(x)g(x, u
n
(x))
_
dx
= |
n
| F

(u
n
), u
n
= |h
n
, u
n
|
h
n

H
1
()
u
n
.
En utilisant le fait que <
1
, on deduit que pour une constante C >
0 on a |
n
| u
n
Ch
n

H
1
()
, cest ` a dire que
n
u
n
tend vers zero
204 Chapitre 4. Points critiques avec contrainte
dans H
1
0
(). Du fait que u
n
, on conclut que
n
tend vers zero
et
n
u
n
tend vers zero dans H
1
(). En utilisant le fait que 2J(u
n
) =
_

[u
n
(x)g(x, u
n
(x)) 2G(x, u
n
(x))] dx et en rappelant la condition (2.5), on
conclut que :
0 ( 2)
_

G(x, u
n
(x))dx 2J(u
n
).
Comme > 2, cela implique que
_

G(x, u
n
(x))dx est bornee et que par
consequent (u
n
)
n
est bornee dans H
1
0
(). En extrayant une sous-suite (u
ni
)
i
qui converge vers u dans H
1
0
()-faible et dans L
q
()-fort pour tout q tel que
(N 2)q < 2N, on dispose dune sous-suite telle que g(, u
ni
) et u
ni

s
g(, u
ni
)
convergent vers g(, u) et u
s
g(, u) dans L
(p+1)/p
() donc dans H
1
(). En
particulier
ni
F

(u
ni
) tend vers zero dans H
1
() et, si on designe encore par
A lextension de A comme isomorphisme entre H
1
0
() et H
1
(), on a
u
ni
= (AI)
1
[g(, u
ni
) +
ni
F

(u
ni
) +h
ni
]
(AI)
1
g(, u),
dans H
1
0
(), ce qui termine la preuve du point (iii).
2.7 Remarque. Lorsque
1
, lorigine est un point adherent de S. Cependant
on peut montrer que J verie la condition de Palais-Smale sur S ` a tout niveau
c > 0 (voir ` a ce sujet Exercices).
3. Champ de pseudo-gradient tangent
Soient X un espace de Banach, F C
1
(X, R) et S denie comme en (2.1) ;
on supposera, comme nous lavons dej` a dit, que F verie la condition (2.2). Si
J C
1
(X, R), pour tout x S on pose :
(3.1) J

(x)

= sup{J

(x), y ; y X, y = 1, et F

(x), y = 0} .
Noter que la condition J

(x)

= 0 et x S signie precisement que pour un


R on a J

(x) = F

(x), cest-` a-dire que x est un point critique de J sur S. En


dautres termes, J

(x)

est la norme de la projection de J

(x) sur lhyperplan


tangent ` a S en x. On notera que si X est un espace de Banach reexif, alors
J

(x)

est atteint en un point y


x
; si de plus la norme de X est strictement
convexe, alors y
x
est unique.
3.1 Denition. Soient X un espace de Banach, J, F C
1
(X, R), S denie
par (2.1), F veriant (2.2). Pour tout u S, on dit que v X est un pseudo-
gradient tangent (` a S) de J en u, si on a :
(3.2)
_
v 2J

(u)

,
J

(u), v J

(u)
2

, F

(u), v = 0.
En designant par S
r
:= {u S ; R, J

(u) F

(u) = 0} lensemble des


points reguliers (i.e. non critiques) de J sur S, une application V : S
r
X
3. Champ de pseudo-gradient tangent 205
est appelee champ de pseudo-gradient tangent de J si V est localement
lipschitzienne sur S
r
et pour tout u S
r
, V (u) est un pseudo-gradient tangent
de J en u.
On notera que lensemble des pseudo-gradients tangents de J en un point
xe u est convexe. Donc, si V
1
, V
2
sont deux champs de p.g. tangent de J, alors
pour tout [0, 1] il en est de meme de V
1
+ (1 )V
2
.
En ce qui concerne lexistence dun champ de p.g. tangent, on doit supposer
(du moins nous semble-t-il) que la fonction F denissant la variete S est un
peu plus que de classe C
1
. On designera par C
1,1
loc
(X, R) lensemble des fonctions
F C
1
(X, R) telles que F

est localement lipschitzienne de X dans X

.
3.2 Lemme. Soient X un espace de Banach, J C
1
(X, R), F C
1,1
loc
(X, R), S
denie par (2.1). On suppose que F verie (2.2) et que J nest pas constante sur
S. Alors il existe V , un champ de p.g. tangent de J sur S
r
, tel que V soit deni
et localement lipschitzien sur un voisinage ouvert

S
r
de S
r
. De plus si F et J
sont paires, on peut choisir

S
r
symetrique par rapport ` a lorigine et V impair.
Demonstration. Soit u
0
S
r
. Dapr`es la denition de J

(u
0
)

par (3.1), il
existe y
0
X tel que
y
0
= 1, F

(u
0
), y
0
= 0, et J

(u
0
), y
0

2
3
J

(u
0
)

.
En posant alors v
0
:=
5
3
J

(u
0
)

y
0
, on a donc :
_

_
v
0
=
5
3
J

(u
0
)

,
J

(u
0
), v
0

10
9
J

(u
0
)
2

, F

(u
0
), v
0
= 0.
Soit maintenant z
0
X tel que z
0
= 1 et
F

(u
0
), z
0

2
3
F

(u
0
).
(Un tel z
0
existe puisque par hypoth`ese u
0
S, donc F

(u
0
) = 0). Soit alors
x
0
:=
z
0
F

(u
0
), z
0

,
de sorte que F

(u
0
), x
0
= 1 et x
0
F

(u
0
) 3/2. Il est clair quil existe
R
1
:= R
1
(u
0
) > 0 tel que pour tout u B(u
0
, R
1
) on ait :
F

(u), x
0

1
2
et x
0
F

(u) 2.
Alors, en posant pour u B(u
0
, R) avec R := R(u
0
) < R
1
et R assez petit
v := v(u, u
0
) := v
0

(u), v
0

(u), x
0

x
0
,
206 Chapitre 4. Points critiques avec contrainte
on verie sans peine que v(u, u
0
) est un p.g. tangent de J en tout u
B(u
0
, R) S
r
et que u v(u, u
0
) est localement lipschitzienne sur B(u
0
, R(u
0
))
(cest ici que lon a besoin de lhypoth`ese sur F

). En considerant

S
r
:=

u0Sr
B(u
0
, R(u
0
)), comme

S
r
est paracompact (voir la demonstration du
lemme 3.7.4), on peut trouver un recouvrement localement ni (
j
)
jI
plus
n que (B(u
0
, R(u
0
)))
u0Sr
et une partition de lunite localement lipschitzienne
(
j
)
jI
subordonnee ` a (
j
)
jI
. Sachant que pour chaque j I il existe u
0j
S
r
tel que
j
B(u
0j
, R(u
0j
)), en posant :
V (u) :=

jI

j
(u)v(u, u
0j
),
on obtient un champ de pseudo-gradient tangent de J sur S
r
, deni et localement
lipschitzien sur un voisinage de S
r
.
Si on suppose que F et J sont paires, on peut verier sans diculte quen
rempla cant R(u
0
) par min (R(u
0
), R(u
0
)), on peut choisir

S
r
(tout comme
S
r
) symetrique par rapport ` a lorigine. Ensuite, V etant donne plus haut, en
posant V
2
(u) := V (u), V
2
est aussi un champ de p.g. tangent deni sur

S
r
.
En considerant alors V
1
(u) := (V (u) +V
2
(u)) /2, on obtient un champ de p.g.
tangent et impair.
3.3 Remarque. Nous devons attirer lattention sur le fait quici nous avons
enonce la denition de la condition de Palais-Smale et celle de champ pseudo-
gradient tangent dans le cadre particulier de S, mais on peut faire tout ce que
nous venons de voir lorsque lon souhaite travailler avec une variete M modelee
sur un espace de Banach. Cependant la construction du champ de p.g. tangent ` a
M est essentiellement la meme que celle que nous avons exposee, en utilisant des
cartes locales (voir par exemple R.S. Palais [125, 126, 127], J.T. Schwartz [148],
F.E. Browder [37]). De meme lorsque S est denie avec un nombre ni de con-
traintes, i.e.
S := {v X ; F
j
(v) = 0, 1 j m} ,
o` u les fonctions F
j
sont dans C
1,1
loc
(X, R) et sont telles que les F

j
(v) sont lineai-
rement independants pour tout v S, on peut facilement montrer lexistence
dun champ de p.g. tangent (voir Exercices).
Nous devons egalement insister sur le fait quen general, meme lorsque
lespace de Banach X est de dimension nie, pour la construction du ot de
J sur S de fa con unique et continue, on a besoin de lhypoth`ese supplementaire
que F

soit localement lipschitzienne. Cela revient ` a dire que les variations de la


normale ` a S sont contr olees de mani`ere localement lipschitzienne.
4. Le lemme de deformation 207
4. Le lemme de deformation
Nous sommes maintenant en mesure de prouver le lemme de deformation pour
une fonction J consideree sur une variete comme S denie en (2.1). Dans tout ce
qui suit on peut supposer que la fonction J : S R est de classe C
1
dans un
voisinage de S mais, pour la simplicite, on enonce les divers resultats pour une
fonction denie sur X. Rappelons que dans ce cadre [J a] designe lensemble
des x S tels que J(x) a.
4.1 Lemme de deformation. Soient X un espace de Banach, F C
1,1
loc
(X, R),
S denie par (2.1) et veriant (2.2). On suppose que E C
1
(X, R) et J := E
|S
verie la condition de Palais-Smale sur S ; on suppose enn que J nest pas
constante sur S et que c R nest pas valeur critique de J sur S. Alors on peut
trouver
0
> 0 tel que pour 0 < <
0
il existe une application C(RS, S)
satisfaisant les conditions suivantes :
1) Pour tout u S, on a (0, u) = u.
2) Pour tous t R et u / [c
0
J c +
0
], on a (t, u) = u.
3) Pour tout t R, (t, ) est un homeomorphisme de S dans S.
4) Pour tout u S, la fonction t J((t, u)) est decroissante sur R.
5) Si u [J c +], alors (1, u) [J c ].
6) Si J et F sont paires, pour tout t R, (t, ) est un homeomorphisme
impair.
Demonstration. On sait quil existe un voisinage ouvert

S
r
de S
r
(lensemble
des points reguliers de J sur S) et V un champ de pseudo-gradient tangent de
J tels que V est localement lipschitzien sur

S
r
(on prendra soin de choisir V
impair lorsque J et F sont paires). Comme c est une valeur reguli`ere de J sur S
et J satisfait la condition de Palais-Smale, il existe
1
> 0 et > 0 tels que :
u [c
1
J(u) c +
1
], J

(u)

.
On peut prendre de plus 1 et on pose
0
:= min(
1
,
2
/8). Pour v S
r
,
soit (v) := B(v,
1
2
d(v, (

S
r
)
c
)) et :=
vSr
(v). Puis pour 0 < <
0
, en
considerant :
A := [J c
0
] [J c +
0
]
c
, B := [c J c +],
on prend (x) := d(x, A)/ (d(x, A) +d(x, B)), de sorte que (x) = 1 pour tout
x B, et (x) = 0 pour tout x A, et est localement lipschitzienne sur X.
Lorsque F et J sont des fonctions paires, A et B sont symetriques par rapport
` a lorigine et est une fonction paire.
Soit alors W(x) := (x) min (1, 1/V (x)) V (x) pour x X. On peut verier
que W est localement lipschitzien sur X, et que W(x) 1, pour tout x X ;
par consequent pour tout x X donne, il existe une unique solution de lequation
dierentielle :
208 Chapitre 4. Points critiques avec contrainte
(4.1)
_
_
_
d(t, x)
dt
= W((t, x))
(0, x) = x
denie sur R. On sait aussi (voir la demonstration du lemme de deforma-
tion 3.7.4) que C
1
(R, X), que (t, (s, x)) = (t +s, x) et que pour chaque
t R, (t, ) est un homeomorphisme de X dans X. On verie sans diculte
que les proprietes 1) et 2) sont satisfaites. Pour la propriete 3), on doit verier
que si u S alors pour tout t R on a (t, u) S. Le seul cas o` u une diculte
pourrait surgir est lorsque u [c
0
J c +
0
]. Mais dans ce cas, comme
t (t, u) est continue et que u S
r
, pour t assez petit (t, u) reste dans
louvert

S
r
et on a :
d
dt
F((t, u)) = F

((t, u)),
d
dt
(t, u)
= () min(1, 1/V ()) F

(), V ().
Mais comme par denition du champ pseudo-gradient tangent on a
F

(), V () = 0 ,
on conclut que F((t, u)) est constant pour t assez petit, et par consequent (t, u)
reste nalement sur S pour tout t R. Les autres proprietes de se verient
en suivant point par point la demarche que nous avons suivie pour demontrer le
lemme de deformation 3.7.4.
Comme nous lavons vu au paragraphe 3.7, on peut montrer une version
plus precise du lemme de deformation 4.1, dont la demonstration est identique
` a celle du theor`eme 3.7.6 :
4.2 Theor`eme (M. Morse). Soient X un espace de Banach, F C
1,1
loc
(X, R)
et S comme en (2.1) et (2.2). Si E C
1
(X, R) et J := E
|S
nest pas constante
sur S, alors pour tout c R qui est valeur reguli`ere de J sur S, il existe
0
> 0
tel que pour 0 < <
0
, lensemble [J c ] est une deformation retracte de
[J c +].
On peut egalement enoncer un principe de min-max ou inf-sup sur les
varietes, et nous laissons la demonstration au lecteur (voir aussi theor`eme 3.7.8).
4.3 Principe de min-max. Soient X un espace de Banach, F C
1,1
loc
(X, R)
et S comme en (2.1) et (2.2). Soient E C
1
(X, R) telle que J := E
|S
nest pas
constante et verie la condition de Palais-Smale sur S et B une famille non vide
de parties non vides de S. On suppose que pour chaque c R et > 0 assez
petit, le ot (1, ) construit dans le lemme de deformation 4.1 respecte B (i.e.
si A B, on a aussi (1, A) B). On pose :
c

:= inf
AB
sup
vA
J(v).
Si c

R, alors c

est une valeur critique de J sur S.


Au paragraphe suivant nous allons etudier quelques exemples dapplication
de ce principe.
5. Quelques applications du principe de min-max 209
5. Quelques applications du principe de min-max
Comme nous lavons signale precedemment, les techniques que nous discutons
dans ce chapitre ont leur origine dans le resultat suivant de L. Ljusternik &
L. Schnirelman [107], demontre ` a lorigine en utilisant la notion de categorie
(sur lespace projectif P
n
(R)), mais que nous montrons ici en utilisant la notion
de genre (deni au paragraphe 2.4) :
5.1 Theor`eme (Ljusternick & Schnirelmann). Soit E une fonction de
classe C
1
de R
n
R. Sur la sph`ere S
n1
de R
n
(muni dune norme eucli-
dienne), on consid`ere la fonction J(u) := E(u) pour u S
n1
. Alors J admet
au moins n paires de points critiques sur S
n1
, i.e. il existe (au moins) n couples
(u
k
,
k
) avec u
k
S
n1
et
k
R tels que E

(u
k
) =
k
u
k
pour 1 k n
(naturellement (u
k
,
k
) poss`ede la meme propriete).
Demonstration. Rappelons que s(R
n
) designe lensemble des parties non vides,
fermees de R
n
ne contenant pas 0 et qui sont symetriques par rapport ` a lorigine,
et que (A) est le genre de A, lorsque A s(R
n
). Soit, pour 1 k n :
B
k
:=
_
A S
n1
; A s(R
n
) et (A) k
_
.
On a B
k
B
k+1
= si 1 k n1 (noter que B
n+1
= ). On denit alors :
c
k
:= inf
AB
k
max
vA
J(v).
En posant F(x) := x
2
1 pour x R
n
et S := S
n1
, les hypoth`eses du lemme
de deformation 4.1 sont remplies et B
k
est stable par le ot impair (1, ) de J
sur S
n1
. Par consequent, dapr`es le principe de min-max 4.3, chaque c
k
est une
valeur critique de J sur S
n1
. De plus c
k
c
k+1
si 1 k n 1 ; on voit donc
que si tous les c
k
sont distincts alors J poss`ede n valeurs critiques distinctes, i.e.
n paires de points critiques. Pour montrer le theor`eme, il nous reste ` a etablir
le lemme suivant (rappelons que si (A) 2 alors A contient une innite de
points) :
5.2 Lemme. Si pour des entiers 1 k n1 et 1 j nk on a c
k
= c
k+j
,
alors lensemble
K(c
k
) :=
_
u S
n1
; J(u) = c
k
et R tel que E

(u) = u
_
est de genre au moins j + 1 (i.e. (K(c
k
)) j + 1).
Comme ce resultat est vrai independamment du fait que lon soit dans le
cadre dun espace de dimension nie, nous allons montrer un resultat analogue
dans un cadre plus general.
5.3 Theor`eme. Soient X un espace de Banach, F C
1,1
loc
(X, R), S denie
par (2.1) et veriant (2.2), E C
1
(X, R) et J := E
|S
. On suppose que F et J
sont paires, que J nest pas constante, satisfait la condition de Palais-Smale sur
S et que 0 / S. Pour tout entier k 1 on pose :
210 Chapitre 4. Points critiques avec contrainte
B
k
:= {A s(X) ; A S, et (A) k} et c
k
:= inf
AB
k
sup
vA
J(v).
(i) Pour tout k 1 tel que B
k
= et c
k
R, c
k
est une valeur critique de J sur
S. De plus c
k
c
k+1
, et si pour un entier j 1 on a B
k+j
= et c
k
= c
k+j
R,
alors (K(c
k
)) j + 1, o` u :
K(c
k
) := {u S ; J(u) = c
k
, R, t.q. E

(u) = F

(u)} .
(ii) Si pour tout k 1 on a B
k
= et c
k
R, alors
lim
k
c
k
= +.
Demonstration. Comme la suite B
k
est decroissante, il est clair que c
k
c
k+1
,
chaque fois que B
k+1
= . Si c
k
R (en supposant B
k
= ), il est clair que le
ot construit dans le lemme de deformation 4.1 respecte B
k
en ce sens que si
A B
k
, alors (1, A) B
k
. Par consequent, dapr`es le principe de min-max 4.3,
c
k
est une valeur critique de J sur S.
Supposons que B
k+j
= et que c
k
= c
k+j
R. Comme J verie la condition
de Palais-Smale sur S, on sait que K(c
k
) est compact, donc de genre ni. En
raisonnant par labsurde nous allons montrer que (K(c
k
)) j+1. Si (K(c
k
))
j, on peut voir facilement (en utilisant la propriete (vi) du theor`eme 2.4.4)
quil existe > 0 tel que, si := {v S ; dist(v, K) < } et

K := , on ait
(

K) = (K(c
k
)). Ensuite (en utilisant de nouveau le fait que J satisfait la
condition de Palais-Smale), on montre quil existe
1
> 0 et > 0 (avec 1)
tels que :
v [J c
k
+
1
] \ ([J < c
k

1
] ) , J

(v)

.
Soit
0
:= min(
1
,
2
/8). Dapr`es le lemme 3.2, il existe un champ de pseudo-
gradient tangent V impair et un voisinage ouvert

S
r
symetrique par rapport ` a
lorigine sur lequel V est deni et localement lipschitzien. Soit enn R(v) :=
1
2
min(v, d(v, (

S
r
)
c
)) pour v S
r
, et
:=
vSr
B(v, R(v)).
Si 0 < <
0
, on choisit maintenant une fonction localement lipschitzienne
: X [0, 1] telle que :
(v) = 0 si v [J c
k

0
] [J c
k
+
0
]

K
c
,
(v) = 1 si v [c
k
J c
k
+ ] \ .
On construit ensuite le ot (t, x) comme solution de lequation differentielle :
d
dt
(t, x) = () min(1, 1/V ()) V (), (0, x) = x S
et, exactement comme dans la demonstration du lemme 4.1, on montre que (t, )
est un homeomorphisme impair de S dans S et que (1, [J c
k
+] \ )
5. Quelques applications du principe de min-max 211
[J c
k
]. Si A B
k+j
est tel que c
k
sup
vA
J(v) c
k
+ , dapr`es la
propriete (vii) du theor`eme 2.4.4, on a :

_
A\

K
_
(A) (

K) k +j j.
Mais en posant B :=
_
1, A\

K
_
, puisque (1, ) est un homeomorphisme de
S dans lui-meme, dapr`es linegalite ci-dessus on a B B
k
. Cela conduit donc
` a linegalite c
k
sup
vB
J(v) c
k
qui est impossible. Par consequent on a
(K(c
k
)) j + 1 et le point (i) du theor`eme est prouve.
Pour montrer le point (ii), remarquons tout dabord quil est impossible que
la suite soit stationnaire, i.e. que pour un entier k 1 on ait c
k
= c
k+j
pour
tout j 1. En eet on sait que J verie la condition de Palais-Smale et par
consequent K(c
k
) est compact, donc de genre ni, alors que si c
k
= c
k+j
on a
(K(c
k
)) j + 1, ce qui nest possible que pour un nombre ni de j. On en
conclut que si c
k
ne tend pas vers linni, la seule possibilite pour (c
k
)
k
est de
converger vers c R avec c > c
k
pour tout k 1. Mais dans ce cas :
K := {u S ; c
1
J(u) c, R tel que E

(u) = u} ,
est compact (car J verie la condition de Palais-Smale), donc de genre ni, par
exemple (K) =: n. En reprenant le raisonnement ci-dessus, on peut trouver
> 0 assez petit tel que si
:= {v S ; dist(v, K) < } ,
et

K := , alors (

K) = (K) = n. On trouve alors


1
et > 0 comme ci-dessus
et on pose
0
:= min
_

1
,
2
/8, c
1
/2, (c c
1
)/2
_
et ensuite pour 0 < <
0
on
construit le ot de sorte que (1, [J c + ] \ ) [J c ]. Maintenant
si k 1 est un entier tel que c
k
> c , on peut prendre A
0
B
k+n
tel
que sup
vA0
J(v) c + . Mais en posant A := A
0
\ , on sait que A B
k
et que M := (1, A) B
k
. On a donc c
k
sup
vM
J(v) et en meme temps
M [J c ], ce qui est impossible puisque par hypoth`ese c < c
k
.
5.4 Remarque. On peut denir les c
k
par
c
k
:= inf {c R ; ([J c]) k} ,
et on voit ainsi que les c
k
sont des valeurs pour lesquelles il y a un changement
qualitatif dans les ensembles [J c].
On notera aussi que, suivant le type de probl`emes ` a traiter, on peut changer
les conditions sur A dans la denition de B
k
. Par exemple, on peut exiger que
A soit exactement de genre k, ou que A soit compact, ou bien quil soit limage
dune sph`ere S
k1
de R
k
, etc. En ajoutant lhypoth`ese que les elements de B
k
sont compacts, on peut aussi remplacer inf sup par inf max dans la denition de
c
k
. Cependant il faut prendre garde de ne pas armer a priori que les dierents
c
k
construits de cette fa con sont identiques. De meme il se peut que le resultat
212 Chapitre 4. Points critiques avec contrainte
plus precis concernant la multiplicite des points critiques, lorsque c
k
= c
k+j
, ne
subsiste plus.
Comme dans un espace de dimension innie la sph`ere unite est de genre inni,
elle contient des ensembles de genre k, pour tout k 1 . On peut alors deduire du
theor`eme 5.3 cette generalisation du theor`eme de Ljusternik-Schnirelman dans
le cas dun espace de dimension innie :
5.5 Theor`eme. Soient H un espace de Hilbert de dimension innie, E
C
1
(H, R) une fonction paire et J := E
|S
o` u S est la sph`ere unite de H. On
suppose que J verie la condition de Palais-Smale sur S, est minoree et nest
pas constante. Alors J poss`ede une innite de (paires de) points critiques sur S.
Plus precisement, si B
k
:= {A s(H) ; A S, A compact et (A) k} et
c
k
:= inf
AB
k
max
vA
J(v),
c
k
est une valeur critique de J sur S, c
k
c
k+1
et si c
k
= c
k+j
alors (K(c
k
))
j + 1. De plus lim
k
c
k
= +.
5.6 Remarque. Comme toujours s(H) est lensemble des parties non vides et
fermees de H, ne contenant pas 0 et qui sont symetriques par rapport ` a lorigine.
Par ailleurs on notera que si H est un espace de Banach de dimension innie
telle que sa norme est de classe C
1,1
loc
sur H \ {0}, le resultat du theor`eme
ci-dessus reste vrai.
5.7 Exemple. Soit (A, D(A)) un operateur auto-adjoint ` a resolvante compacte
deni sur un espace de Hilbert separable H
0
et ` a valeurs dans H
0
. On suppose que
pour tout u D(A) on a (Au|u) 0, o` u (|) designe le produit scalaire de H
0
,
identie ` a son dual. On designe par H le domaine de A
1/2
, et on convient decrire
(Au|u) au lieu de (A
1/2
u|A
1/2
u). On a vu ` a lexemple 2.2 que J(u) := (Au|u),
deni sur H, satisfait la condition de Palais-Smale sur S := {v H ; (u|u) = 1}.
Par consequent pour tout entier k 1 tel que (S) k, le nombre :
c
k
:= inf
MB
k
max
vM
J(v) ,
o` u B
k
:= {M s(H) ; M compact S, (M) k}, est une valeur critique de
J, donc une valeur propre de A. Si H
0
est de dimension nie n on retrouve le
resultat bien connu concernant lexistence de n valeurs propres pour une matrice
symetrique n n (ou une application lineaire auto-adjointe de H
0
dans lui-
meme). Si H
0
est de dimension innie, on sait dapr`es le theor`eme 5.5 quil
existe une innite de c
k
(qui sont toutes valeurs propres de A) et que c
k
+
lorsque k +. En fait on peut montrer dans ce cas que toutes les valeurs
propres de A sont obtenues de cette fa con, i.e. que le spectre de A est precisement
Sp(A) = {c
k
; k 1}. En eet considerons les quotients de Rayleigh :
Q(v) :=
(Av|v)
(v|v)
,
5. Quelques applications du principe de min-max 213
pour v H et v = 0 ; on peut montrer le principe de Courant-Fischer qui
arme que les valeurs propres de A peuvent etre caracterisees par
(5.1)
_

k
:= inf
EF
k
sup
vE\{0}
Q(v) = inf
EF
k
sup
vES
J(v),
F
k
:= {E ; E s.e.v. de H, k dim(E) < }
(voir R. Courant [48], E. Fischer [65] et R. Courant & D. Hilbert [50], et Exer-
cices). Nous allons montrer que c
k
=
k
; en eet soient k 1 et u
i
S tel
que Au
i
= c
i
u
i
, pour un i

1
k
. On commence par remarquer que A etant auto-
adjoint, si c
i
= c
j
alors on a (u
i
|u
j
) = 0 et, si c
i
= c
j
, on peut choisir u
i
et u
j
tels que (u
i
|u
j
) = 0 dans le sous-espace propre associe ` a c
i
(qui est de dimension
nie). Si E
k
designe le sous-espace engendre par u
1
, . . . , u
k
, on a dim(E
k
) = k
et, par suite,
max
vE
k
S
J(v) = c
k
inf
EF
k
sup
vES
J(v) =
k
.
Dautre part, il est evident que pour tout E F
k
on a E S B
k
. On en
conclut donc que c
k

k
et, nalement, c
k
=
k
.
Nous ferons egalement remarquer que, pour denir les c
k
, on peut remplacer
les ensembles B
k
par toute autre famille susamment riche densembles de genre
au moins egal ` a k. Par exemple, si S
k1
est la sph`ere unite de R
k
et

B
k
:=
_
h(S
k1
) ; h C(S
k1
, S) impaire
_
,
on verie que c
k
= inf
B B
k
max
vB
J(v).
5.8 Remarque. On peut montrer directement, en considerant le champ de
pseudo-gradient tangent deni par V (u) := Au(Au|u)u, que
k
deni par (5.1)
est valeur critique de J sur S, donc valeur propre de A (voir Exercices).
5.9 Exemple. Si est un ouvert borne de R
N
, soient une matrice symetrique
a(x) := (a
ij
(x))
1i,jN
` a coecients dans L

() et uniformement coercive et
p 1 tel que (N2)p < N+2. Pour une fonction L

() xee et u H
1
0
(),
on consid`ere :
J(u) :=
_

_
a(x)u(x) u(x) +(x)u
2
(x)

dx
S :=
_
u H
1
0
() ;
_

|u(x)|
p+1
dx = 1
_
.
Nous avons vu ` a lexemple 2.4 que J verie la condition de Palais-Smale sur
S. Par consequent dapr`es le theor`eme 5.5, J poss`ede une innite de valeurs
critiques (c
k
)
k
sur S et de plus c
k
+. Si p = 1, les nombres c
k
et les points
critiques correspondants u
k
sont precisement les valeurs propres et fonctions
propres de loperateur elliptique
Lu := div (a()u) +()u,
214 Chapitre 4. Points critiques avec contrainte
sur le domaine D(L) :=
_
v H
1
0
() ; Lv L
2
()
_
. Si p > 1, il existe un
multiplicateur de Lagrange
k
R et u
k
S tels que J(u
k
) = c
k
et
Lu
k
=
k
|u
k
|
p1
u
k
. En multipliant par u
k
on voit que
k
= c
k
.
Si c
k
> 0, ce qui est le cas pour une innite dindices k, alors en posant
u
k
:= c
1/(p1)
k
u
k
on verie que u
k
est solution du probl`eme :
_
div (a(x) u
k
) +(x) u
k
= | u
k
|
p1
u
k
u
k
= 0
dans ,
sur ,
qui poss`ede donc une innite de solutions. Lorsque c
k
< 0, ce qui peut arriver
au plus pour un nombre ni (dependant de ), eventuellement nul, dindices k,
alors en posant v
k
:= |c
k
|
1/(p1)
u
k
on verie sans peine que v
k
est solution du
probl`eme :
_
div (a(x)v
k
) +(x)v
k
+ |v
k
|
p1
v
k
= 0
v
k
= 0
dans ,
sur .
5.10 Exemple. Avec les notations de lexemple 2.5, supposons que g satisfait les
hypoth`eses de la proposition 2.6 et que <
1
. Les fonctions J, F et lensemble
S etant denis par (2.3), si s g(x, s) est impaire de classe C
1,1
loc
, alors S est de
classe C
1,1
loc
, J est impaire, de classe C
2
et verie la condition de Palais-Smale
sur S. Supposons de plus, pour simplier la preuve de ce qui suit, que lon ait
(5.2) s R \ {0} , p.p. sur , G(x, s) > 0.
Alors, pourvu que lon montre que S contient des ensembles de genre k (pour
tout k 1), le theor`eme 5.5 implique que J poss`ede une innite de valeurs
critiques sur S, et donc il existe une suite (u
k
,
k
)
k1
S R telle que
J

(u
k
) =
k
F

(u
k
).
En calculant J

(u
k
), u
k
=
k
F

(u
k
), u
k
et sachant que pour tout v S on a
F

(v), v < 0 (cf. proposition 2.6 (ii)) et 0 = F(v) = J

(v), v, on conclut que


pour tout k 1 on a
k
= 0 et par consequent u
k
H
1
0
() est solution de
(5.3)
_

_
(a(x)u
k
) = u
k
+g(x, u
k
)
u
k
= 0
u
k
0.
dans ,
sur ,
Pour montrer que S contient des ensembles de genre quelconque considerons,
pour v H
1
0
() et v 0, la fonction t J(tv) =: f(t). En procedant comme
dans la preuve de la proposition 2.6, on voit que pour s > s
0
> 0 on a G(x, s)
G(x, s
0
)(s/s
0
)

et par consequent on conclut que pour t > 0 assez grand on a


f(t) < 0 et pour t > 0 assez petit f(t) > 0. On en deduit quil existe t := t(v) > 0
tel que
f(t(v)) = max
t>0
f(t) = max
t>0
J(tv).
5. Quelques applications du principe de min-max 215
Dautre part on a f

(t) = F(tv)/t, donc si f

(t

) = 0 on a t

v S et f

(t

) =
1
t
F

(t

v), v < 0 (cf. proposition 2.6 (ii)). Finalement, puisque f est de classe
C
2
sur R, on conclut quil existe un unique t(v) > 0 qui realise le maximum
de f ; on a donc f

(t(v)) = 0 et f

(t(v)) < 0. Par ailleurs comme t(v) =


t(v), le theor`eme des fonctions implicites permet de conclure que v t(v)v est
une fonction de classe C
1
et impaire de la sph`ere unite de H
1
0
() dans S ; le
theor`eme 2.4.4 (i) permet alors de conclure que S contient des ensembles de
tout genre k. En fait on peut montrer que meme si
1
, S contient de tels
ensembles (voir Exercices).
Exercices du chapitre 4
Exercice 1. Soient un ouvert borne de R
N
et p > 1 tel que (N2)p < N+2.
On note la norme de L
2
() et on pose
E(v) :=
1
2
v
2

1
p + 1
v
p+1
p+1
,
et F(v) := E

(v), v pour v H
1
0
(). On consid`ere enn
S
0
:=
_
v H
1
0
() ; v = 0, F(v) = 0
_
,
et une suite (u
n
)
n
de S
0
telle que E(u
n
) inf
vS0
E(v). Montrer que la suite
(u
n
)
n
est bornee dans H
1
0
(), et que si u
nj
u dans H
1
0
()-faible, alors u
nj

u fortement dans H
1
0
().
Exercice 2. Soient un ouvert borne de R
N
, un reel 1 < p < , et q > 1 tel
que (N p)q < Nq. On pose
E(v) :=
1
p
v
p
p

1
q
v
q
q
,
et F(v) := E

(v), v pour v W
1,p
0
(). On consid`ere enn
S
0
:=
_
v W
1,p
0
() ; v = 0, F(v) = 0
_
,
et une suite (u
n
)
n
de S
0
telle que E(u
n
) inf
vS0
E(v). Montrer que la suite
(u
n
)
n
est bornee dans W
1,p
0
(), et que si u
nj
u dans W
1,p
0
()-faible, alors
u
nj
u fortement dans W
1,p
0
(). Ecrire lequation satisfaite par u.
Exercice 3. Montrer la proposition 1.1.
Exercice 4. Soient N 2, un ouvert borne et connexe de R
N
. On pose
H
0,div
() :=
_
v
_
L
2
()
_
N
; v = div(v) = 0
_
,
o` u v est pris au sens de H
1
().
1) Montrer que H
0,div
() est un sous-espace ferme de
_
L
2
()
_
N
. Etudier la
densite des fonctions de (C

c
())
N
H
0,div
() dans H
0,div
().
Exercices du chapitre 4 217
2) Montrer que pour tout f
_
L
2
()
_
N
il existe un unique q H
1
0
() tel
que q = div(f) dans H
1
(). En deduire quil existe un couple unique
(v, q) H
0,div
() H
1
0
() tel que
f = v +q .
3) Avec la decomposition precedente montrer que si une suite (f
n
)
n
de
_
L
2
()
_
N
converge vers f, alors la suite (v
n
, q
n
)
n
converge vers (v, q) dans
H
0,div
() H
1
0
().
4) Generaliser cette decomposition au cas o` u f (L
p
())
N
et 1 < p < .
Exercice 5. Soit un ouvert borne et connexe de R
N
avec N 2. Montrer
que si f
_
L
2
()
_
N
est donnee, il existe une unique fonction u
_
H
1
0
()
_
N
solution du probl`eme de Stokes
_

_
u +p = f
u = 0
u = 0
dans ,
dans ,
sur .
(La fonction u represente la vitesse dun uide incompressible, et p la pression.
Lincompressibilite est exprimee par la condition u = 0). On pourra etudier
la fonction
J(v) :=
1
2
_

|v(x)|
2
dx
_

v(x) f(x)dx,
sur lespace H =
_
v
_
H
1
0
()
_
N
; v = 0
_
. Dans cette approche le terme
p est trouve comme un multiplicateur de Lagrange.
Exercice 6. En reprenant les notations de lexemple 1.2, on consid`ere une fonc-
tion L
q
(), o` u q 1 si N = 1, et q > 2

/(2

p 1) si N 2 (lorsque
N = 2 cela signie que q > 1). On suppose que > 0 presque partout ; montrer
que
J(v) :=
_

a(x)v(x) v(x)dx
_

|v(x)|
2
dx
atteint son minimum sur S :=
_
v H
1
0
() ;
_

(x)|v(x)|
p+1
dx = 1
_
, en un
point u
0
S, et ecrire lequation satisfaite par u
0
.
En supposant que est un ouvert borne de classe C
1
, etudier le meme
probl`eme en rempla cant H
1
0
() par H
1
().
Exercice 7. Soit R
N
un ouvert borne connexe de classe C
1
. Montrer que
les solutions (u, ) du probl`eme aux valeurs propres :
_

2
u = u
u =
u
n
= 0
u 0,
dans ,
sur ,
218 Exercices du chapitre 4
sont obtenues comme points critiques et valeurs critiques de J(v) := v
2
sur
S la sph`ere L
2
() de H
2
0
(), i.e.
S :=
_
v H
2
0
() ; v
2
= 1
_
,
o` u designe la norme de L
2
() (cest le probl`eme des vibrations propres dune
plaque encastree). Montrer quil existe une suite (
n
)
n1
de valeurs propres et
que
n
> 0.
Exercice 8. Soit R
N
un ouvert borne connexe de classe C
1
. Montrer que
les solutions (u, ) du probl`eme aux valeurs propres :
_

2
u = u
u =
u
n
= 0
u 0,
dans ,
sur ,
sont obtenues comme points critiques et valeurs critiques de J(v) := v
2
sur
la sph`ere H
1
0
() de H
2
0
(), i.e. sur
S :=
_
v H
2
0
() ; v
2
= 1
_
,
o` u designe la norme de L
2
() (cest le probl`eme du ambage dune plaque
encastree). Montrer quil existe une suite (
n
)
n1
de valeurs propres et que

n
> 0.
Exercice 9. Soit R
N
un ouvert borne connexe de classe C
1
. Montrer que
les solutions (u, ) du probl`eme aux valeurs propres :
_

_
u = 0
u
n
u = 0
u 0,
dans ,
sur ,
sont obtenues comme points critiques et valeurs critiques de J(v) := v
2
sur
la sph`ere L
2
() de H
1
(), i.e. sur
S :=
_
v H
1
() ;
_

|v()|
2
d = 1
_
.
(Cest le probl`eme de Steklov, correspondant aux vibrations propres dune mem-
brane elastique dont la masse est concentree sur le bord). Montrer quil existe
une suite (
n
)
n1
de valeurs propres et que pour n 2 on a
n
>
1
= 0.
Exercice 10. Soient un ouvert borne de R
N
, p > 1 tel que (N 2)p < N +2.
On consid`ere une fonction c L
q
(), o` u q 1 si N = 1, et q > 2

/(2

p 1)
si N 2 (lorsque N = 2 cela signie que q > 1), et telle que c > 0 presque
partout sur et la fonction
Exercices du chapitre 4 219
J(v) :=
_

a(x)v(x) v(x)dx +
_

(x)|v(x)|
2
dx,
o` u a() := (a
ij
())
1i,jN
est une matrice symetrique ` a coecients dans L

()
et uniformement coercive sur .
1) Montrer que si L
q0
() avec q
0
> N/2, alors J satisfait la condition
de Palais-Smale sur S :=
_
v H
1
0
() ;
_

c(x)|v(x)|
p+1
dx = 1
_
.
2) Dans ces conditions, en deduire lexistence dune innite de solutions pour
lequation
_
div (a()u) +u = c()|u|
p1
u
u = 0
dans ,
sur .
Exercice 11. Avec les notations de la proposition 2.6, on suppose que la fonction
g satisfait les hypoth`eses de cette proposition mais que R est quelconque.
Montrer que si une suite (u
n
,
n
) S R est telle que
J(u
n
) c > 0, J

(u
n
)
n
F

(u
n
) 0 dans H
1
(),
alors (u
n
,
n
)
n
contient une sous-suite convergente.
Exercice 12. Soient X un espace de Banach, J C
1
(X, R) et, pour 1 j m,
des fonctions F
j
C
1,1
loc
(X, R). On pose
S := {v X ; F
j
(v) = 0 pour 1 j m} .
1) On suppose que pour tout v S on a
dimR{F

1
(v), . . . , F

m
(v)} = m.
Montrer lexistence dun champ de p.g. tangent pour J sur S.
2) Lorsque J satisfait la condition de Palais-Smale sur S etablir le lemme
de deformation.
Exercice 13. Montrer que si (B
n
)
n
est une suite doperateurs compacts et auto-
adjoints convergeant vers B, alors les valeurs propres
(n)
k
de B
n
convergent vers

k
, valeur propre de B.
En fait de mani`ere generale, le spectre dun operateur depend contin ument
de loperateur, sans hypoth`ese de symetrie. Par exemple, on va montrer que les
valeurs propres dune matrice A dependent contin ument de ses coecients ou,
ce qui revient au meme, que les racines dun polyn ome dependent contin ument
de ses coecients. En eet soit dans C
n
la relation dequivalence denie par :
x R y ssi il existe une permutation de {1, . . . , n} telle que (x
i
)
i
= (y
(i)
)
i
. On
pose E := C
n
/R et on le munit de la distance
d(x, y) := inf
_
max
1in
(|x
i
y
(i)
|) ; permutation de {1, . . . , n}
_
.
220 Exercices du chapitre 4
On designe par F lensemble des polyn omes de degre n dont le coecient du
terme de plus haut degre est 1 ; F est muni de la topologie induite par C
n
. Soit
enn : E F denie par
(a) :=
n

i=1
(X a
i
).
1) Montrer que est bijective et continue ainsi que son inverse. En deduire
le resultat annonce.
2) En calculant les vecteurs propres normalises de la matrice
A
k
:=
_
1 +k
1
cos(2k) k
1
sin(2k)
k
1
sin(2k) 1 k
1
cos(2k)
_
,
verier quen general, on ne peut rien dire de la dependance des vecteurs
propres.
Exercice 14. Nous avons vu que la premi`ere fonction propre du laplacien, sur un
ouvert borne et connexe avec condition de Dirichlet, est positive. Mais on peut
donner des exemples doperateurs ressemblant au laplacien avec condition de
Dirichlet qui ne poss`edent pas cette propriete. Soit Au := u avec le domaine
D(A) :=
_
u H
1
0
() ; Au L
2
()
_
, o` u est un ouvert borne et connexe. On
designera par (
k
)
k1
la suite croissante des valeurs propres de A.
1) On pose B := A + A
1
pour > 0, avec D(B) := D(A). Montrer que
B est auto-adjoint et ses valeurs propres sont
k
:=
k
+
1
k
.
2) Montrer que si j 1 est xe, on peut choisir > 0 pour que, pour
k j 1, les fonctions propres de B correspondant ` a la valeur propre
k
ne
soient pas de signe constant.
Exercice 15. Soient R
N
un ouvert borne et connexe et L

() une
fonction telle que
+
0,

0 et || > 0 p.p. sur . On sinteresse au


probl`eme aux valeurs propres du probl`eme de Dirichlet :
(1) C, H
1
0
() \ {0} , = .
1) Montrer quil existe une suite (
j
)
j1
de valeurs propres pour le prob-
l`eme (1), que zero nest pas valeur propre et que |
j
| + lorsque j .
2) Verier que si = 0 est une fonction propre correspondant ` a
j
, alors on
a

j
_

(x)|(x)|
2
dx > 0 .
Dans la suite on pose S

:=
_
u H
1
0
() ;
_

(x)|u(x)|
2
dx = 1
_
, puis pour
k 1 en notant S
k1
la sph`ere unite de R
k
:
B
k,
:=
_
h(S
k1
) ; h C(S
k1
; S

), impaire
_
.
3) Montrer que pour tout k 1 on a B
k,
= .
Exercices du chapitre 4 221
4) Montrer que J(u) := u
2
verie la condition de Palais-Smale sur S
+
et sur S

.
5) Montrer que les nombres
c
k,
:= inf
BB
k,
max
uB
J(u) ,
sont valeurs critiques de J sur S

, que c
k,
> 0 et que c
k,
+ lorsque
k .
6) Verier que c
k,+
et c
k,
sont valeurs propres de (1), et que toutes les
valeurs propres
j
peuvent etre obtenues de cette mani`ere.
7) Montrer que letude precedente est valable lorsque L
q
() avec q >
max(1, N/2).
Exercice 16. Sur lintervalle ]0, 1[ on consid`ere la fonction denie par (x) := 1
si 0 < x < 1/2 et (x) := 1 si 1/2 < x < 1. Montrer que les valeurs propres du
probl`eme
C, H
1
0
(0, 1) \ {0} ,

= ,
sont donnees par
k
= 4
2
k
o` u les
k
> 0 sont solutions de tg(
k
)+th(
k
) = 0.
Determiner egalement les fonctions propres et leur regularite.
222 Exercices du chapitre 4
5 Probl`emes sans symetrie
1. La situation du probl`eme
Si g est une fonction monotone et croissante de R dans R, nous avons vu que
lequation
(1.1) u +g(u) = f,
admettait une solution unique u H
1
0
(), pourvu que, par exemple, soit
borne et que f L
2
(). De mani`ere plus generale, pour une classe assez large
doperateurs monotones A, des equations du type Au = f peuvent etre resolues,
soit par une methode variationnelle lorsque A est la derivee dune fonctionnelle
convexe, soit en utilisant la theorie generale des operateurs maximaux monotones
(voir par exemple H. Brezis [27], F.E. Browder [38], I. Ekeland & R. Temam [60],
R.T. Rockafellar [143], J.L. Lions [101]). Par contre d`es que la fonction g dans
lequation ci-dessus nest pas monotone croissante, on peut perdre lunicite de
la solution et, dans la plupart des cas, on nest pas en mesure den montrer
lexistence.
Par exemple si g(s) := s
3
s, suivant la position de vis ` a vis du spectre
du laplacien avec condition de Dirichlet, lequation (1.1) peut avoir une solution
unique ou plusieurs solutions dans H
1
0
(). En revanche, si par exemple est un
ouvert borne et regulier de R
3
, les techniques que nous avons vues ne permet-
tent pas de decider si lequation (1.1) admet une (ou plusieurs) solution lorsque
g(s) := s s
3
et f est une fonction de L
2
() ou meme C

c
(). Cependant,
nous avons vu que si f 0 on pouvait montrer lexistence dune innite de
solutions (u
j
)
j1
, dont la norme (ou lenergie) tend vers linni ; de meme, un
argument tr`es simple utilisant le theor`eme des fonctions implicites permet de
montrer que si f est petite au sens dune norme adequate, lequation en question
admet au moins une solution (voir Exercices). Ce resultat peut etre interprete
comme un resultat de stabilite de la solution nulle de lequation u = u
3
u
et on pourrait sattendre ` a avoir un resultat analogue pour les autres solutions
u
j
de cette equation. A notre connaissance, ce probl`eme demeure encore non
resolu, malgre les recherches actives de ces derni`eres annees.
Pour donner un exemple simple, si on consid`ere la fonction
224 Chapitre 5. Probl`emes sans symetrie
F

(t) := 2a
2
t
2
t
4
de R dans R pour a > 0 donne, on sait que F

admet trois points critiques a, 0


et a. Si maintenant, pour b R, on consid`ere la fonction F(t) := F

(t) bt, on
voit que lequation f(t) := a
2
t t
3
b = 0 admet trois solutions si b est assez
petit, plus precisement si 27b
2
< 4a
6
. Cela signie que, dans ces conditions, F
admet trois points critiques qui sont en quelque sorte les perturbes de ceux de
F

. Comme loperateur a des valeurs propres qui tendent vers linni, on


peut sattendre ` a ce que lequation u = u
3
+f admette au moins une solution
pour tout f L
2
() (par exemple lorsque R
3
).
Dans ce chapitre nous nous proposons de donner un resultat abstrait qui est
dune certaine mani`ere une generalisation du theor`eme 4.5.3 aux fonctionnelles
J qui ne sont pas paires. Cette generalisation peut etre interpretee comme un
resultat de stabilite des valeurs critiques dune fonctionnelle paire. Nous don-
nerons ensuite deux exemples dapplication de ce resultat.
Nous devons rappeler encore une fois quil nexiste pas, pour le moment, une
etude exhaustive des equations du type
(1.2)
_
u = g(u) +f
u = 0
dans ,
sur ,
o` u g(0) = 0 et g(s) se comporte ` a linni comme |s|
p1
s, mais ne poss`ede aucune
propriete de symetrie. Par exemple si f 0 et
g(s) := a(s
+
)
p1
b(s

)
p2
,
avec p
i
> 1 et (N 2)p
i
< N + 2 pour i = 1, 2 et a, b > 0, on ne sait pas si
lequation (1.2) admet une innite de solutions lorsque p
1
= p
2
, ni meme lorsque
p
1
= p
2
et a = b.
2. Perturbations de fonctionnelles paires
Soient X un espace de Banach de dimension innie, F C
1,1
loc
(X, R) une fonction
paire telle que :
(2.1) v X veriant F(v) = 0, on a F

(v) = 0.
Lorsque J
0
C
1
(X, R) est une fonction paire, nous avons vu que si s(X) designe
lensemble des parties fermees de X qui ne contiennent pas lorigine et sont
symetriques (par rapport ` a lorigine), en notant
M := {v X ; F(v) = 0} , (2.2)
B
k
:= {A M ; A s(X) et (A) k} ,
alors le nombre
c
k
:= inf
AB
k
sup
vA
J
0
(v)
2. Perturbations de fonctionnelles paires 225
est une valeur critique de J
0
sur M pourvu que J
0
satisfasse la condition de
Palais-Smale sur M, que B
k
= et que c
k
R. On a vu aussi dans les Exer-
cices du chapitre 4 que lon pouvait denir une autre suite de valeurs critiques
c
k
par
c
k
:= inf
A B
k
sup
vA
J
0
(v) ,
o` u la famille

B
k
est denie par :

B
k
:=
_
h(S
k1
) ; h : S
k1
M continue et impaire
_
.
De mani`ere claire on a c
k
c
k
(plus precisement chaque fois que

B
k
= et
c
k
R, alors c
k
est valeur critique de J
0
sur M). On peut meme prendre, dans
la denition des ensembles

B
k
, les fonctions h continues, impaires et injectives
et obtenir une valeur critique de J
0
. On dit souvent que c
k
ou c
k
sont des valeurs
critiques de J
0
correspondant aux ensembles dindice (ou de genre) k.
Il est interessant, pour la comprehension de ce qui suit, de remarquer
egalement que lon peut construire des valeurs critiques de J
0
en considerant des
images dhemisph`eres S
k
+
en procedant comme suit : tout dabord on xe une
famille libre (
j
)
j1
delements de S, la sph`ere unite de X. On notera (comme
dhabitude) S
k
la sph`ere unite de lespace euclidien R
k+1
, qui sera identie ` a
lespace R{
1
, . . . ,
k+1
}, et on considerera S
k1
comme lequateur de S
k
. Pour
k 1 on consid`ere lhemisph`ere nord de S
k
, cest ` a dire :
(2.3) S
k
+
:=
_
u S
k
; u =
k+1

i=1
u
i

i
, u
i
R, et u
k+1
0
_
,
puis on pose :
A
k
:=
_
h(S
k1
) ; h : S
k1
M, continue, impaire
_
, (2.4)
B
k
:=
_
h(S
k
+
) ; h : S
k
+
M, continue, h
|S
k1 impaire
_
. (2.5)
Alors J
0
etant comme ci-dessus une fonction paire et satisfaisant la condition de
Palais-Smale sur M, on peut facilement verier que les nombres
a
0
k
:= inf
AA
k
max
vA
J
0
(v), b
0
k
:= inf
BB
k
max
vB
J
0
(v)
sont des valeurs critiques de J
0
, pourvu que les ensembles A
k
, B
k
soient non
vides et que a
0
k
, b
0
k
soient dans R. En realite, sous des hypoth`eses adequates que
nous preciserons plus loin, on peut voir quun element quelconque A := h(S
k1
)
de A
k
est contenu dans un element B B
k
, ce qui implique que de fa con
generale pour une fonction J de M dans R on a
a
k
:= inf
AA
k
max
vA
J(v) inf
BB
k
max
vB
J(v) =: b
k
.
Dans le cas particulier que nous avons ici, i.e. J
0
paire, si h impaire et continue
de S
k
+
dans M est donnee, en posant
226 Chapitre 5. Probl`emes sans symetrie

h(u) :=
_
h(u)
h(u)
si u S
k
+
si u S
k
+
,
on voit tout de suite que

h est une fonction continue et impaire de S
k
dans M.
En posant B := h(S
k
+
) et

B :=

h(S
k
), on a B B
k
et

B A
k+1
. Or
max
vB
J
0
(v) = max
v B
J
0
(v),
et par consequent on peut conclure, lorsque B
k
= , que
a
0
k
a
0
k+1
= b
0
k
.
Nous allons montrer grosso modo que si a
0
k
< a
0
k+1
, on peut perturber leg`e-
rement la fonctionnelle paire J
0
en une fonctionnelle quelconque J (tout de
meme de classe C
1
et veriant la condition de Palais-Smale), de telle sorte que
J poss`ede encore une valeur critique correspondant ` a lindice k.
Pour simplier lexpose qui suit, nous allons supposer que M est essentielle-
ment une sph`ere en ce sens que tout point de X autre que lorigine peut etre
ramene sur M par une homothetie. Plus precisement
(2.6) v X \ {0}, t(v) > 0 unique tel que, F(t(v)v) = 0.
Par exemple dans le cas o` u X := H
1
0
(), avec un ouvert borne de R
N
, pour
q 2 et (N 2)q 2N on pourra prendre F(v) := v
q
q
1.
En realite, comme on peut le voir aisement lors de la demonstration du
theor`eme qui suit, on peut alleger une telle condition, mais cela naiderait pas
` a eclaircir la demarche que nous allons entreprendre ; de plus dans les exemples
que nous traiterons plus loin ou que lon rencontre dans la pratique, une telle
condition est satisfaite. On peut alors enoncer le resultat suivant :
2.1 Lemme. Soient X un espace de Banach de dimension innie et F une
fonction paire de X dans R satisfaisant la condition (2.6). On suppose de plus
que v t(v) est continue et paire. Alors les familles A
k
et B
k
denies par (2.4)
et (2.5) sont non vides et tout element A de A
k
est contenu dans un element B
de B
k
.
Demonstration. Tout dabord notons que M est de genre inni, car il contient
des ensembles de genre quelconque : en eet, si pour z S
k1
on pose g(z) :=
t(z)z, alors g(S
k1
) est de genre au moins egal ` a k et contenu dans M. En
particulier pour tout k 1, les familles A
k
et B
k
sont non vides. Soit A A
k
tel que A = h
0
(S
k1
), o` u h
0
C(S
k1
, M) est une fonction impaire. Comme A
est compact, donc de genre ni, et que M ne lest pas, on peut trouver v
0
M\A
tel que pour tout u A et 1 1 on ait u+v
0
= 0 (sinon M serait contenu
dans {u ; u A, || 1} qui est de genre ni). En ecrivant lelement generique
de S
k
+
sous la forme z := z
1
+
k+1
avec z
1
S
k1
(considere comme lequateur
de S
k
+
) et 0 1, soit
h(z) := t (h
0
(z
1
) +v
0
) [h
0
(z
1
) +v
0
] .
2. Perturbations de fonctionnelles paires 227
Il est clair que h est continue de S
k
+
dans M et que sa restriction ` a S
k1
est
precisement h
0
, donc impaire, et ainsi B := h(S
k
+
) B
k
et A B (nous
attirons lattention sur le fait que cest le seul point o` u nous avons besoin de
lhypoth`ese (2.6)).
Nous pouvons maintenant enoncer le resultat concernant lexistence de
valeurs critiques pour une fonction J qui nest pas necessairement paire.
2.2 Theor`eme. Soient X un espace de Banach de dimension innie, F
C
1,1
loc
(X, R) une fonction paire satisfaisant les conditions (2.1) et (2.6), la con-
trainte M denie par (2.2) et (pour un entier k 1 xe) les ensembles A
k
et
B
k
denis par (2.4) et (2.5). On suppose de plus que 0 / M, et que la fonction
v t(v) donnee par (2.6) est continue et paire.
Soient J C
1
(X, R) une fonction satisfaisant la condition de Palais-Smale
sur M et
(2.7) a
k
:= inf
AA
k
max
vA
J(v), b
k
:= inf
BB
k
max
vB
J(v).
On a a
k
b
k
et, si a
k
R et a
k
< b
k
, alors J admet un point critique c
k
b
k
correspondant ` a lindice k. Plus precisement, soit 2

:= b
k
a
k
; si A
0
A
k
verie max
vA0
J(v) a
k
+

, alors, en posant
C
k
:=
_
h(S
k
+
) ; h C(S
k
+
, M), h
|S
k1 impaire et h(S
k1
) = A
0
_
,
c
k
:= inf
CC
k
max
vC
J(v) ,
c
k
est valeur critique de J sur M et c
k
b
k
.
Demonstration. Sous les hypoth`eses du theor`eme, le lemme 2.1 implique que
tout element A de A
k
est contenu dans un element de B
k
, et reciproquement
tout element B de B
k
contient un element de A
k
; par consequent on a a
k
b
k
.
Supposons que a
k
R, ce qui implique en particulier que b
k
R, et soient
2

:= b
k
a
k
> 0 et A
0
A
k
tel que
a
k
max
vA0
J(v) a
k
+

= b
k

< b
k
.
Notons en premier lieu que la famille C
k
denie dans le theor`eme est non vide
et contenue dans B
k
; en eet il est clair que C
k
B
k
et que si A
0
= h
0
(S
k1
),
en procedant comme dans la demonstration du lemme 2.1, on peut prolonger h
0
` a S
k
+
en posant, pour z
1
S
k1
et 0 1,

h
0
(z
1
+
k+1
) := t (h
0
(z
1
) +v
0
) [h
0
(z
1
) +v
0
] ,
pour un v
0
M\A
0
xe de telle sorte que u+v
0
= 0 pour u A
0
et 0 1.
Dans ces conditions on voit que

h
0
(S
k
+
) C
k
.
On a donc c
k
b
k
> a
k
, et nous allons montrer que c
k
est valeur critique de
J sur M. Sinon, dapr`es le lemme de deformation 4.4.1, il existerait
0
> 0 avec

0
<

tel que pour 0 < <


0
on puisse construire un ot C(R M, M)
veriant (0, u) = u et
228 Chapitre 5. Probl`emes sans symetrie
(s, u) = u, pour tout (s, u) R [c
k

0
J c
k
+
0
]
c
,
(1, u) [J c
k
], pour tout u [J c
k
+].
On peut alors prendre C := h(S
k
+
) C
k
tel que max
vC
J(v) c
k
+ . Soit
maintenant

h(z) := (1, h(z)),



C :=

h(S
k
+
).
Si z S
k1
, considere comme lequateur de S
k
+
, on sait que h(z) A
0
et par
consequent
J(h(z)) a
k
+

= b
k

< b
k

0
c
k

0
.
On en conclut que si z S
k1
, on a (s, h(z)) = h(z) pour tout s R, et en
particulier que

h = h sur S
k1
. Cela prouve que

C C
k
; mais on aurait alors,
dapr`es la propriete du ot de deformer les ensembles [J c
k
+] en [J c
k
],
c
k
max
v C
J(v) c
k
,
ce qui est impossible. Par consequent c
k
est valeur critique de J sur M et le
theor`eme est prouve.
Dans la pratique, pour utiliser ce theor`eme, on proc`ede de la mani`ere suiv-
ante : on consid`ere que J est la perturbation dune fonction paire J
0
(par exemple
J
0
(v) := (J(v) +J(v)) /2), et en notant a
0
k
, b
0
k
= a
0
k+1
les nombres denis dans
le theor`eme pour la fonction J
0
, on essaie destimer dune part les dierences
a
k
a
0
k
et b
k
b
0
k
= b
k
a
0
k+1
, et dautre part la dierence a
0
k+1
a
0
k
, pour voir
si pour certains entiers k on a b
k
> a
k
. Dans la suite nous allons donner deux
exemples dapplication de ce theor`eme.
3. Comportement des valeurs critiques
Dans ce paragraphe nous regroupons quelques resultats auxiliaires concernant la
croissance des valeurs propres du laplacien, ainsi que celle des valeurs critiques
de la fonction J

(u) := u
2
sur lensemble
_
u H
1
0
() ; u
p+1
= 1
_
.
Ces resultats sont utiles dans dautres situations et peuvent etre utilises pour
etablir des estimations analogues pour dautres operateurs que le laplacien avec
condition de Dirichlet ; dans les Exercices on pourra en trouver quelques exem-
ples.
Nous commencerons par le resultat suivant concernant les valeurs propres du
laplacien avec condition de Dirichlet (voir R. Courant & D. Hilbert [50]).
3. Comportement des valeurs critiques 229
3.1 Lemme. Soient un ouvert borne de R
N
et (
k
)
k1
la suite des valeurs
propres de avec condition de Dirichlet sur , i.e.

k
:=
k
() := inf
AA
k
max
vA
v
2
,
A
k
:= A
k
() :=
_
h(S
k1
) ; h C(S
k1
, S) impaire
_
,
o` u S :=
_
u H
1
0
() ; u
2
= 1
_
et designe la norme de L
2
(). Il existe
alors deux constantes c
1
, c
2
> 0 telles que pour tout k 1 on ait
(3.1) c
1
k
2/N

k
c
2
k
2/N
.
Demonstration. Rappelons que la suite (
k
)
k1
denie ci-dessus est precise-
ment la suite des valeurs propres de sur H
1
0
() (voir exemple 4.5.7). Soient

1

2
deux ouverts ; si u H
1
0
(
1
), nous savons quen posant u(x) =
u(x) pour x
1
et u(x) = 0 pour x
2
\
1
, on a u H
1
0
(
2
) (voir
proposition 1.8.2). Par consequent, A
k
(
1
) A
k
(
2
) et
k
(
2
)
k
(
1
) (en
fait si
1
=
2
, on a une inegalite stricte ; cf. Exercices). En particulier on
conclut que, si
1
et
2
sont deux paves tels que
1

2
,

k
(
2
)
k
()
k
(
1
).
Pour prouver le theor`eme, il sut donc de montrer que le resultat du lemme est
vrai si est un pave. Or, si z R
N
et t > 0, on a

k
(z +) =
k
(),
k
(t) = t
2

k
(),
ce qui permet nalement de se ramener au cas o` u, pour des T
i
tels que 0 < T
i
1,
le pave est donne par
=
N

i=1
]0, T
i
[.
Or dans ce cas, un calcul elementaire montre que les valeurs propres et fonctions
propres de sur H
1
0
() sont donnees par

(x) :=
N

i=1
sin (
i
x
i
/T
i
) ,

:=
2
N

i=1

2
i
T
2
i
,
o` u N
N
est un multi-indice tel que || 1, et on a

. On peut
montrer facilement que pour des constantes positives
1
,
2
dependant unique-
ment des T
i
, on a pour tout R > 0

1
R
N/2
card
_
N
N
;

R
_

2
R
N/2
,
ce qui permet de conclure que si la suite des (

est rangee dans un ordre


croissant et appelee (
k
)
k1
, on a

1
R
N/2
card{j 1 ;
j
R}
2
R
N/2
,
230 Chapitre 5. Probl`emes sans symetrie
et nalement, en prenant R :=
k
on voit que
1

N/2
k
k
2

N/2
k
, ce qui
signie que c
1
k
2/N

k
c
2
k
2/N
pour des constantes c
1
, c
2
> 0 dependant de
.
3.2 Remarque. En fait on peut montrer que
lim
k
k
2/N

k
()
existe (et elle est positive) pour tout ouvert (il sagit dun theor`eme de
H. Weyl ; voir par exemple le livre de R. Courant & D. Hilbert [50], et M. Reed
& B. Simon [139, XIII.15]). Plus precisement en designant par
k
les valeurs
propres de sur H
1
0
() on a :
lim
R
R
N/2
card{j 1 ;
j
R} = (2)
N
mes([|x| < 1]) mes(),
pour un ouvert assez regulier .
Nous allons dans un deuxi`eme temps estimer les valeurs critiques de
(3.2) J

(v) := v
2
, sur M :=
_
v H
1
0
() ; v
p+1
= 1
_
.
On designera par (
k
)
k1
et (
k
)
k1
la suite des valeurs propres et fonctions
propres de sur H
1
0
(), et on supposera que
k
= 1.
3.3 Lemme. Soient un ouvert borne de R
N
, p > 1 un reel tel que (N2)p
N +2 et J

, M denis par (3.2). Les ensembles A


k
et B
k
etant denis par (2.4)
et (2.5), on pose
a

k
:= inf
AA
k
max
vA
J

(v), b

k
:= inf
BB
k
max
vB
J

(v).
Alors on a b

k
= a

k+1
et il existe une constante c
0
> 0 dependant uniquement de
p et telle que pour tout k 1 on ait
a

k
c
0
k

avec :=
2
N

p 1
p + 1
.
Demonstration. Nous avons dej` a vu que b

k
= a

k+1
. Si A A
k
alors, en notant
H
k1
le sous-espace engendre par
1
, . . . ,
k1
dans L
2
(), on a AH

k1
= .
En eet dans le cas contraire, en designant par P
k1
la projection orthogonale
de L
2
() sur H
k1
, on aurait P
k1
(A) H
k1
\ {0}, et A serait de genre
inferieur ou egal ` a k 1 (voir la propriete (i) du theor`eme 2.4.4 ; ici P
k1
est
une application continue et impaire). Or A est limage continue et impaire de
S
k1
, qui est de genre k, et par consequent le genre de A est au moins egal ` a k.
On voit donc que A H

k1
= .
Soient donc A A
k
et v
0
A H

k1
. On sait que
k
v
0

2
v
0

2
, et
par linegalite de Gagliardo-Nirenberg on a
v
0

p+1
C v
0

1
v
0

, o` u
1
p + 1
=
_
1
2

1
N
_
+
1
2
.
3. Comportement des valeurs critiques 231
Puisque v
0

p+1
= 1 et v
0

1/2
k
v
0
, on conclut nalement que
1
k

Cv
0

2
. Comme on a
k
c
1
k
2/N
et que =
N
2

N
p+1
, le resultat du lemme
est prouve.
Lestimation obtenue ici est loin detre optimale. En eet lorsque N 3 et
p = (N+2)/(N2), on a = 0 et lestimation precedente indique seulement que
a

k
c
0
; nous avons donne ce resultat pour la simplicite de sa demonstration et
aussi parce que les premi`eres etudes de lequation
(3.3)
_
u = |u|
p1
u +f
u = 0
dans ,
sur ,
par M. Struwe [155], A. Bahri [10] et A.Bahri & H. Berestycki [11] utilisaient
cette estimation pour montrer que (3.3) admet une innite de solutions lorsque p
est assez voisin de 1. En realite, comme lont prouve plus tard A. Bahri & P.L. Li-
ons [15] on peut obtenir une meilleure estimation sur la croissance de a

k
.
Rappelons que si V L
1
loc
() est telle que V

L
N/2
(), on peut denir
un operateur auto-adjoint L par
Lu := u +V u
sur le domaine D(L) :=
_
u H
1
0
() ; V u L
1
loc
(), Lu L
2
()
_
(voir par
exemple H. Brezis & T. Kato [32]). On a alors le resultat suivant (cest linegalite
de Rosenbljum-Lieb-Cwickel).
3.4 Theor`eme. Soient N 3 un entier, un ouvert de R
N
et V L
1
loc
() tel
que V

L
N/2
(). On designe par Lu := u + V u loperateur auto-adjoint
deni sur L
2
() avec D(L) deni ci-dessus, et par n(V ) le nombre de valeurs
propres negatives de L. Alors
n(V ) C(N)
_

|V

(x)|
N/2
dx,
o` u C(N) est une constante dependant de N. Le meme resultat est vrai lorsque
N = 2 si lexposant N/2 est remplace par 1 + pour un > 0.
Ce resultat est d u ` a G.V. Rosenbljum [144], E.H. Lieb [95] et M. Cwi-
ckel [51], lorsque = R
N
; on pourra consulter M. Reed & B. Simon [139,
theorem XIII.12] pour la demonstration de ce theor`eme. Cependant, comme on
peut le voir dans les Exercices, on peut facilement en deduire le resultat que nous
avons enonce. On notera en particulier que lon peut deduire de cette inegalite
une partie de linegalite (3.1) (voir Exercices).
Des estimations sur les moments des valeurs propres negatives de L, cest-` a-
dire sur

k
<0
|
k
|
m
,
o` u m > 0 et
k
est valeur propre de L, ont ete etablies par E.H. Lieb & W. Thir-
ring et nous renvoyons le lecteur interesse ` a [99].
232 Chapitre 5. Probl`emes sans symetrie
Si u
k
H
1
0
() est point critique de J

sur M correspondant ` a la valeur a

k
(et cest le cas lorsque p > 1 et (N 2)p < N + 2), on a
u
k
= a

k
|u
k
|
p1
u
k
,
et en etudiant le nombre de valeurs propres negatives ou nulles de loperateur L
deni par
Lv := v pa

k
|u
k
|
p1
v,
sur H
1
0
(), on peut alors montrer (voir A. Bahri & P.L. Lions [14, 15]) quil
existe un point critique u
k
associe ` a a

k
tel que loperateur L (qui nest autre que
la derivee seconde de J

en u
k
) poss`ede k valeurs propres negatives ou nulles.
Maintenant, en utilisant linegalite de Rosenbljum-Lieb-Cwickel, on obtient le
resultat suivant :
3.5 Lemme. Soient un ouvert borne de R
N
avec N 2, p > 1 un reel tel
que (N 2)p < N + 2 et J

, M denis par (3.2). Les ensembles A


k
et B
k
etant
denis par (2.4) et (2.5), on pose
a

k
:= inf
AA
k
max
vA
J

(v), b

k
:= inf
BB
k
max
vB
J

(v).
Alors on a b

k
= a

k+1
et il existe une constante c
0
> 0 dependant uniquement de
p et telle que pour tout k 1 on ait
a

k
c
0
k

, avec :=
2
N
si N 3,
et o` u on peut prendre = 1 avec > 0 arbitraire, lorsque N = 2.
3.6 Remarque. En utilisant un theor`eme de prolongement, on peut montrer
que si est un ouvert connexe de classe C
1
, les valeurs propres du probl`eme de
Neumann
_
_
_

k
=
N
k

k
n
= 0
dans ,
sur ,
verient egalement une estimation du type
c
1
k
2/N

N
k
c
2
k
2/N
,
pour des constantes c
1
, c
2
> 0 dependant de et pour tout k 2. De mani`ere
generale, en utilisant la caracterisation variationnelle des valeurs propres et des
theor`emes de prolongement, on peut trouver des estimations sur les valeurs pro-
pres dun operateur dierentiel A, qui est auto-adjoint et ` a resolvante compacte.
Voir Exercices pour des exemples, et la demonstration du resultat que nous
avons enonce pour le probl`eme de Neumann.
4. Un probl`eme semilineaire non homog`ene 233
4. Un probl`eme semilineaire non homog`ene
Dans ce paragraphe nous etudions lexistence de solutions pour lequation
(4.1)
_
u = |u|
p1
u +f
u = 0
dans ,
sur ,
lorsque est un ouvert borne de R
N
, pour une fonction f L
2
() xee et
p > 1 un reel tel que (N 2)p < (N + 2). On pourrait naturellement appli-
quer la methode presentee ici ` a dautres equations du type Au = g(, u) +f, o` u
A est un operateur auto-adjoint ` a resolvante compacte et g(, ) est une fonc-
tion sur-quadratique continue et ` a croissance sous-critique satisfaisant certaines
conditions techniques. Comme le traitement general de ces equations napporte
rien de particulier pour eclaircir la demarche ` a suivre, nous laisserons de telles
generalisations au lecteur.
Pour resoudre (4.1), en suivant S.I. Pohozaev [132] et A. Bahri [10] nous
allons introduire la fonction J denie par :
E(v) :=
1
2
v
2

1
p + 1
v
p+1
p+1

f(x)v(x)dx,
J(v) := max
>0
E(v). (4.2)
En fait S.I. Pohozaev denit J en prenant max
R
E(v), ce qui fait que la
fonction ainsi denie est paire. Mais etant donnee la forme particuli`ere de E
dans le cas que nous etudions ici, la fonction v max
R
E(v) nest pas de
classe C
1
sur H
1
0
(). Lavantage de J, comme nous allons le voir, est que cest
une fonction positive qui a les memes valeurs critiques que E.
4.1 Proposition. Soient un ouvert borne de R
N
, f H
1
(), p > 1 un reel
tel que (N 2)p N + 2 et J denie par (4.2). Alors J est de classe C
1
sur
[J > 0], et pour v [J > 0] il existe un unique (v) > 0 tel que J(v) = E((v)v).
De plus lapplication v (v) est de classe C
1
sur lensemble [J > 0] et on a
J

(v) = (v)E

((v)v).
En particulier si v [J > 0] est point critique de J, alors (v)v est point
critique de E. En notant M :=
_
v H
1
0
() ; v
p+1
= 1
_
, si v [J > 0] est
point critique de J sur M, alors v est point critique de J.
Demonstration. Remarquons tout dabord que [J > 0] est un ouvert non vide.
En eet puisque J est constante sur les demi-droites, pour determiner J(v), ou
verier que J(v) > 0, on peut supposer sans perte de generalite que v
p+1
= 1.
Ensuite on peut ecrire
E(v)
1
2
v
2

1
p + 1
f
H
1v,
234 Chapitre 5. Probl`emes sans symetrie
ce qui montre que si v est susamment grand, alors E(v) > 0 et par
consequent J(v) > 0. Pour voir que v (v) est bien denie, lorsque J(v) > 0,
il sut decrire
E(v) = g() :=

2
2
v
2


p+1
p + 1
v
p+1
p+1
f, v,
et de noter que si J(v) > 0, alors le maximum de g sur ]0, [ est atteint en un
point

tel que g

) = 0, i.e.
g

) = E

v), v =

v
2

v
p+1
p+1
f, v = 0.
Comme f, v <
1
2

v
2

1
p+1

v
p+1
p+1
, car J(v) > 0, on a
g

) <
p(p 1)
p + 1

p1

v
p+1
p+1
< 0.
Puisque g ne peut admettre quun unique maximum positif, en notant (v) :=

, sachant que g

) < 0, on conclut par le theor`eme des fonctions implicites


que v (v) est de classe C
1
, et il en est de meme de J sur lensemble ouvert
[J > 0]. On a egalement de fa con evidente :
J

(v), w = E

((v)v), w +E

((v)v), v

(v), w
= E

((v)v), w,
car g

((v)) = E

((v)v), v = 0 par la denition meme de (v). Notons enn


que si v [J > 0] est un point critique de J sur M :=
_
u H
1
0
() ; u
p+1
= 1
_
,
alors il existe R tel que J

(v) = |v|
p1
v, et en particulier en calculant
J

(v), v on voit que :


= J

(v), v = E

((v)v), v = 0,
ce qui signie que J

(v) = 0, i.e. que v est point critique de J.


Dans la suite on notera
(4.3) M :=
_
u H
1
0
() ; u
p+1
p+1
= 1
_
et, dans le cas particulier o` u f 0, on posera J
0
(v) := J(v), ainsi que
0
(v) :=
(v). Dans ce cas on a pour v = 0,
E
0
(v) :=
1
2
v
2

1
p + 1
v
p+1
p+1
,

0
(v) =
_
v
2
v
p+1
p+1
_
1/(p1)
, (4.4)
J
0
(v) =
p 1
2(p + 1)
_
v
v
p+1
_
2(p+1)/(p1)
. (4.5)
Nous avons les estimations suivantes pour relier J et J
0
:
4. Un probl`eme semilineaire non homog`ene 235
4.2 Lemme. Soit f H
1
(). Il existe des constantes R
0
, c > 0 dependant
uniquement de p > 1 et f
H
1 telles que si v M et v R
0
alors on a
J(v) > 0 et |(v)
0
(v)| 1, ainsi que
|J(v) J
0
(v)| c
_
1 +J(v)
1/(p+1)
_
,
|J(v) J
0
(v)| c
_
1 +J
0
(v)
1/(p+1)
_
.
Demonstration. En prenant v M, on a
0
:=
0
(v) = v
2/(p1)
, et en
notant g() := E(v), on voit que lon a
g

(
0
1) = v
2
[(
0
1)
p

p
0
] f, v.
Comme |f, v| f
H
1v, on peut voir sans diculte que
g

(
0
+ 1) (p 1)v
2
+f
H
1v,
car (
0
+ 1)
p

p
0
+ p
p1
0
. Par consequent on peut xer R
0
> 0 as-
sez grand (dependant uniquement de p > 1 et f
H
1) tel que pour tout
v M avec v R
0
on ait g

(
0
+ 1) < 0. De la meme mani`ere, si
0 < < 1 [(p + 1)/2p]
1/(p1)
=:

, alors
(1 )
p
< 1
p + 1
2
,
ce qui, pour := v
2/(p1)
<

, implique
g

(
0
1) v
2
+v
2p/(p1)
[1 (1 )
p
] f
H
1v

p 1
2
v
2
f
H
1v .
On en conclut, en augmentant eventuellement R
0
, que si v R
0
, on a
g

(
0
1) > 0, et nalement que
|(v)
0
(v)| 1.
Par ailleurs, on sait que
J(v) =
p 1
2(p + 1)
(v)
2
v
2

p
p + 1
(v)f, v
et en tenant compte de lestimation de (v) que lon vient dobtenir, on constate
que, si v R
0
pour un R
0
assez grand, on a J(v) > 0. On conclut la preuve
du lemme en rappelant que 2(p + 1)J
0
(v) = (p 1)
0
(v)
p+1
et donc
|J(v) J
0
(v)| c
_
1 +J
0
(v)
1/(p+1)
_
,
pour une constante c > 0 et pour tout v M tel que v R
0
; on peut voir
de la meme mani`ere que |J(v) J
0
(v)| C

_
1 +J(v)
1/(p+1)
_
.
236 Chapitre 5. Probl`emes sans symetrie
4.3 Lemme. On suppose que p > 1 verie (N2)p < N+2 et que f H
1
().
Alors R
0
etant donne par le lemme 4.2, la fonction J satisfait la condition de
Palais-Smale sur M en tout point de [v R
0
] [J ], pour tout > 0.
Plus precisement si c

> 0, toute suite (u


n
,
n
)
n
de MR telle que u
n
R
0
et
J

(u
n
) +
n
|u|
p1
u
n
0 dans H
1
(), J(u
n
) c

,
contient une sous-suite (u
nj
,
nj
)
j
telle que (u
nj
)
j
converge vers u dans H
1
0
()
et
nj
0.
Demonstration. Le lemme 4.2 implique en particulier que J
0
(u
n
) est bornee,
et donc que la suite (u
n
)
n
est bornee dans H
1
0
(). Par ailleurs
|
n
| =

(u
n
) +
n
|u
n
|
p1
u
n
, u
n

(u
n
) +
n
|u
n
|
p1
u
n

H
1 u
n
,
et
n
0. Posons v
n
:= (u
n
)u
n
; alors E

(v
n
) 0 dans H
1
(), (v
n
)
n
est
bornee dans H
1
0
() et E(v
n
) = J(v
n
) tend vers c

. Or en procedant comme
dans lexemple 3.6.4 on montre que E satisfait la condition de Palais-Smale sur
H
1
0
(). Par consequent on peut extraire une suite (v
nj
)
j
de (v
n
)
n
et une suite
((u
nj
))
j
de ((u
n
))
n
telles que v
nj
v dans H
1
0
() et E(v) = c

, et
(u
nj
)

. On en deduit que v = 0 et

= 0 ; puisque u
nj
= (u
nj
)
1
v
nj
tend vers (

)
1
v, le lemme est prouve.
Comme plus haut nous introduisons les suites de nombres
a
0
k
:= inf
AA
k
max
vA
J
0
(v), b
0
k
:= inf
BB
k
max
vB
J
0
(v), (4.6)
a
k
:= inf
AA
k
max
vA
J(v), b
k
:= inf
BB
k
max
vB
J(v), (4.7)
o` u A
k
et B
k
sont denis par (2.4) et (2.5) et M est deni en (4.3). En utilisant
le lemme 3.5 on peut montrer les estimations suivantes sur la croissance de ces
suites :
4.4 Lemme. Soit f H
1
(). Si = 2/N lorsque N 3 et = 1 pour
0 < < 1 arbitraire lorsque N = 2, alors il existe une constante c
1
> 0 telle
que a
0
k
c
1
k
(p+1)/(p1)
. De meme il existe k
0
1 et c > 0 tels que pour tout
k k
0
on ait :
a
k
ck
(p+1)/(p1)
.
Demonstration. La minoration de a
0
k
est une consequence directe du lemme 3.5,
puisque 2(p+1)J
0
(v) = (p1)J

(v)
(p+1)/(p1)
. On sait par ailleurs que si A A
k
,
il existe u A H

k1
o` u H
k1
est lespace engendre par {
1
, . . . ,
k1
}. En
particulier on a
max
vA
J
0
(v) J
0
(u), max
vA
J(v) J(u).
Mais puisque
k
u
2
u
2
, dapr`es linegalite de Gagliardo-Nirenberg on
peut ecrire
4. Un probl`eme semilineaire non homog`ene 237
1 = u
p+1
Cu
1
u

C
(1)/2
k
u,
avec = N
_
2
1
(p + 1)
1
_
< 1 ; on en deduit en particulier que si k k
0
on a u c
2

(1)/2
k0
, et quen prenant k
0
assez grand, R
0
etant donne par le
lemme 4.2, pour tout k k
0
xe on a u R
0
. Cela signie que pour k k
0
on a
a
0
k
= inf
AA
k
max{J
0
(v) ; v A, v R
0
} ,
a
k
= inf
AA
k
max{J(v) ; v A, v R
0
} .
Mais il est clair que lon peut trouver des constantes c
1
, c
2
> 0, dependant
uniquement de p et f
H
1, telles que pour v M et v R
0
on ait
J(v)
1
2
J
0
(v) c
1
, J
0
(v)
1
2
J(v) c
2
,
ce qui permet de conclure que a
k
a
0
k
/2 c
1
pour tout k k
0
et, en utilisant
lestimation dej` a etablie pour a
0
k
, on conclut la preuve du lemme (on aura note
que la constante 1/2 pourrait etre remplace par 1 pour tout > 0).
Letape suivante consiste ` a montrer une sorte de lemme de Gronwall discret.
4.5 Lemme. Soient p > 1 et une suite positive (
k
)
k1
telle que pour une
constante c
0
> 0 et un entier k
0
1 on ait
k k
0
,
k+1

k
+c
0
_
1 +
1/(p+1)
k
_
.
Alors il existe une constante c > 0 telle que pour tout k k
0

k
ck
(p+1)/p
.
Demonstration. Si c c

:= max
_
k
(p+1)/p

k
; k
0
k 2k
0
_
, linegalite
demandee est satisfaite. Supposons que la constante c est telle que pour un
entier j 2k
0
, on a
i
c i
(p+1)/p
pour k
0
i j. Alors on sait que
j+1

j
+c
0
_
1 + (c j
(p+1)/p
)
1/(p+1)

et par consequent :

j+1

k0
+c
0
j

k=k0
_
1 + c
1/(p+1)
k
1/p
_

k0
+ (j + 1 k
0
)c
0
+c
0
c
1/(p+1)
j

k=k0
k
1/p
.
Or on a
j

k=k0
k
1/p

_
j
k0
s
1/p
ds
p
p + 1
j
(p+1)/p
,
ce qui implique nalement

j+1

k0
+ (j + 1 k
0
)c
0
+
p
p + 1
c
0
c
1/(p+1)
j
(p+1)/p
.
238 Chapitre 5. Probl`emes sans symetrie
Pour prouver le lemme, on demande donc de trouver une constante c c

telle
que pour tout j 2k
0
on ait

k0
+ (j + 1 k
0
)c
0
+
p
p + 1
c
0
c
1/(p+1)
j
(p+1)/p
c(j + 1)
(p+1)/p
,
ce qui est possible en prenant c c

assez grand.
Nous pouvons maintenant enoncer et prouver le theor`eme suivant :
4.6 Theor`eme. Soient un ouvert borne de R
N
avec N 1, et p > 1 tel que
(N 2)p < N. Alors pour tout f H
1
(), lequation (4.1) admet une innite
de solutions (u
k
)
k
telles que u
k
tend vers linni.
Demonstration. Comme nous lavons fait remarquer plus haut, la fonction J
etant denie par (4.2), il sut de montrer que J poss`ede une innite de points
critiques, par exemple sur M. Comme J satisfait la condition de Palais-Smale
sur M [v R
0
] [J ] pour > 0, dapr`es le theor`eme 2.2, il nous reste
` a montrer que pour une innite de k 1 on a a
k
< b
k
, ces nombres etant
denis par (4.7).
Comme a
k
b
k
et que a
k
lorsque k , on sait que pour k assez
grand on a a
k
. Supposons quil existe un entier k
0
1 tel que pour tout
k k
0
on ait a
k
= b
k
. Dapr`es le lemme 4.2 on a
J
0
(v) J(v) +c
1
_
1 +J(v)
1/(p+1)
_
,
J(v) J
0
(v) +c
2
_
1 +J
0
(v)
1/(p+1)
_
,
ce qui permet de conclure que
a
0
k+1
= b
0
k
b
k
+c
1
_
1 +b
1/(p+1)
k
_
,
a
k+1
a
0
k+1
+c
2
_
1 + (a
0
k+1
)
1/(p+1)
_
,
et nalement, si on avait a
k
= b
k
pour tout k k
0
, comme a
k
, pour
une constante positive c
3
on devrait avoir pour tout k k
1
(o` u k
1
k
0
est
susamment grand) :
a
k+1
a
k
+c
3
_
1 +a
1/(p+1)
k
_
.
Le lemme 4.5 implique alors quil existe une constante c
4
> 0 telle que a
k

c
4
k
(p+1)/p
pour tout k k
1
. Mais le lemme 4.4 donne une estimation inferieure
a
k
c
0
k

avec := (p+1)/(p1) o` u = 2/N si N 3 et = 1 si N = 2,


et cela necessite que, par exemple si N 3,
2(p + 1)
N(p 1)

p + 1
p
,
cest ` a dire p N/(N2), ce qui est contraire ` a lhypoth`ese. Lorsque N = 2, en
prenant > 0 assez petit, on aboutit ` a une contradiction de la meme mani`ere.
5. Probl`emes de demi-valeurs propres 239
Dans le cas o` u N = 1, lestimation imprecise obtenue au lemme 3.3, implique
que a
0
k
c
1
k

avec := (p + 3)/(p 1), et comme pour tout p > 1 on a


(p + 3)/(p 1) > (p + 1)/p, on conclut que lon ne peut pas avoir a
k
= b
k
pour
tout k k
1
.
4.7 Remarque. Le resultat que nous venons de voir a ete prouve, indepen-
damment et par des methodes dierentes, par M. Struwe [155] et A. Bahri
& H. Berestycki [11], (voir aussi P.H. Rabinowitz [138]) pour le cas o` u 1 < p < p
0
,
avec p
0
la plus grande solution de lequation (2p
0
+1)/p
0
= 2(p
0
+1)/(N(p
0
1))
(cela est d u ` a lutilisation de lestimation imprecise du lemme 3.3). Lorsque
(N 2)p < N, comme nous lavons dej` a evoque, le resultat est d u ` a un ane-
ment de lestimation sur la croissance de la suite a
0
k
, par A. Bahri & P.L. Li-
ons [15]. Comme par ailleurs on peut prouver que lestimation du lemme 3.5 est
optimale (voir [15] et Exercices), la methode que nous avons exposee ne semble
pas permettre de prouver que lequation (4.1) admet une solution pour tout p tel
que (N 2)p < N + 2 et tout f H
1
(). Nous devons egalement dire quun
resultat de A. Bahri [10] arme que lorsque (N 2)p < N + 2, lensemble des
f H
1
() pour lesquels (4.1) admet une innite de solutions est un ensemble
G

-dense de H
1
() (rappelons quon dit quun ensemble est G

-dense sil est


une intersection denombrable douverts denses).
5. Probl`emes de demi-valeurs propres
Lorsque lon sinteresse ` a la resolution de probl`emes du type :
(5.1) trouver u D(L), Lu = g(u) +h,
o` u h L
2
() est donnee, g : R R est une fonction continue et L : D(L)
L
2
() est un operateur auto-adjoint ` a resolvante compacte, nous avons vu aux
chapitres 2 et 3 que les comportements de g aux voisinages de zero, + et
determinent, en quelque sorte, lexistence ou la non-existence de solutions
pour (5.1). Ici nous nous interessons au cas o` u la non-linearite g est demi-
lineaire ` a linni en ce sens que :
lim
s+
g(s)
s
=: a R, lim
s
g(s)
s
=: b R.
Ainsi on peut ecrire g(s) = as
+
bs

+g
0
(s) o` u s
+
:= max(s, 0), et s

:= (s)
+
(de sorte que s = s
+
s

) et
lim
|s|
g
0
(s)
s
= 0.
Si lintervalle ferme [a, b] (ou [b, a]) ne contient aucune valeur propre de L,
alors un argument dhomotopie compacte et le degre de Leray-Schauder per-
mettent de prouver lexistence dau moins une solution, pour toute h L
2
()
240 Chapitre 5. Probl`emes sans symetrie
donnee. Lorsque a = b Sp(L), on dit que (5.1) est en resonance par analo-
gie avec le cas lineaire o` u le probl`eme est resolu par lalternative de Fredholm
, et E.M. Landesman & A.C. Lazer [93] ont observe que (5.1) a une solution
si pour tout N(L aI) {0} :
_

h(x)(x)dx < g
0
(+)
_

+
(x)dx g
0
()
_

(x)dx.
o` u g
0
() := lim
s
g
0
(s) et on suppose que g
0
(+)g
0
() 0 (ici N(L
aI) designe le noyau de L aI, cest ` a dire le sous-espace propre associe ` a a ;
pour ces aspects voir paragraphe 2.7). En fait dans [93] il est suppose que a = b
est une valeur propre simple, mais des demonstrations ulterieures de ce resultat
nutilisent pas cette hypoth`ese (voir par exemple H. Brezis & L. Nirenberg [35],
P. Hess [81], Th. Gallouet & O. Kavian [71]). Ces deux derni`eres references
donnent une demonstration simple du resultat cite. (cf. [71, remark 1, p. 336] et
paragraphe 7 du chapitre 2).
Lorsque a = b et le couple (a, b) chevauche une valeur propre de L, i.e.
lintervalle [a, b] contient des elements de Sp(L), la situation est tout ` a fait
dierente parce que, en general, on ne peut trouver destimation a priori des
solutions eventuelles de (5.1). En eet meme lorsque g
0
0 et h = 0, il se peut
que lequation homog`ene
(5.2) u D(L), Lu = au
+
bu

,
admette une solution u = 0 et de ce fait lensemble des solutions de (5.2) pour-
rait contenir une demi-droite R
+
u. En realite pour que lon puisse utiliser des
arguments dhomotopie compacte, il faut savoir si (5.2) a des solutions autres
que la solution nulle (mais cela ne sut pas pour conclure).
Le premier resultat dans le cas o` u a = b a ete celui de A. Ambrosetti &
G. Prodi [5] ; ces auteurs consid`erent le cas L := avec D(L) := H
2
()
H
1
0
(), b <
1
< a <
2
et est un ouvert borne regulier. Dans ce cas, il
est facile de verier que (5.2) na pas de solution autre que zero et que, par
consequent, on peut trouver des estimations a priori des solutions eventuelles
de (5.2) (voir Exercices). Mais il y a une nouvelle diculte due au fait quen
zero, le degre de Leray-Schauder de loperateur u uL
1
[g(u) +h] est nul, et
par consequent il faut regarder de plus pr`es limage de loperateur u Lug(u).
Une analyse precise permet alors de dire que cette image est (parfois convexe)
dierente de L
2
(), et que suivant la donnee h L
2
(), il y a zero, une ou deux
solutions.
Il y a eu ensuite les travaux de S. Fucik [66, 67], E.N. Dancer [5254], J.L. Kaz-
dan & F.W. Warner [88] (sans etre exhasutif) o` u (5.1) et le probl`eme homog`ene
associe (5.2) sont etudies sous diverses hypoth`eses sur la nature de la valeur
propre
k
chevauchee par (a, b) et lorsque la dierence |b a| est assez petite.
En particulier S. Fucik etudie le cas o` u L correspond ` a un probl`eme de Sturm-
Liouville en dimension un, et E.N. Dancer etudie dierentes situations o` u le
probl`eme (5.2) est suppose ne pas avoir de solution non nulle ; il prouve alors
5. Probl`emes de demi-valeurs propres 241
que (5.1) a une solution lorsque (a, b) peut etre relie ` a un point de la diagonale
de R
2
, dierent dune valeur propre de L.
Puis B. Ruf [146] et Th. Gallouet & O. Kavian [70] independamment et
par des methodes dierentes , ont montre que si
k
est une valeur propre
simple de L, il existe dans le carre
(5.3)
k
:= [
k1
,
k+1
] [
k1
,
k+1
]
de R
2
, deux courbes
1
k
et
2
k
(lune etant symetrique de lautre par rapport ` a
la diagonale de R
2
) telles que pour (a, b)
k
, lequation (5.2) a une solution
si, et seulement si, (a, b)
1
k

2
k
. Lorsque (5.2) na pas de solution autre que
zero on peut alors montrer que :
Si (a, b) appartient ` a une composante connexe de
k
\ (
1
k

2
k
) rencontrant
la diagonale, alors pour tout h donnee dans L
2
(), le probl`eme (5.1) admet
une solution (cette situation arrive en particulier lorsque
1
k
=
2
k
, auquel
cas il y a deux composantes connexes qui contiennent toutes deux une partie
de la diagonale).
Sinon cest la situation du probl`eme resolu par A. Ambrosetti & G. Prodi
dans [5] qui se presente : suivant la donnee h, le probl`eme (5.1) peut avoir
zero, (au moins) une ou (au moins) deux solutions.
Lorsque (5.2) admet des solutions non nulles alors il y a resonance et chevau-
chee dune valeur propre simple et Th. Gallouet & O. Kavian [71] ont donne
une condition susante sur h, generalisation naturelle de celle de Fredholm et
de Landesman-Lazer, qui assure lexistence dune solution pour (5.1).
Quand (a, b) chevauche
k
, une valeur propre multiple de L, les methodes
employees dans [146] et [70] ne peuvent plus etre appliquees. Dans ce cas nous
allons montrer au paragraphe suivant, par une methode variationnelle utilisant le
theor`eme 2.2, lexistence dans le carre
k
dune famille de deux courbes continues
et monotones
_

1
k
,
2
k
_
k
(symetriques lune de lautre, mais eventuellement on
peut avoir
1
k
=
2
k
) qui se coupent au point (
k
,
k
) et qui sont contenues dans
le spectre demi-lineaire (on dit aussi spectre de Fucik) de L i.e. dans lensemble
(5.4) Sdl(L) :=
_
(a, b) R
2
; u D(L) \ {0} , Lu = au
+
bu

_
.
On pourrait alors donner des resultats dexistence ou de non-existence de solu-
tions pour (5.1) mais neanmoins ces resultats ne sont pas aussi precis que dans
le cas de la chevauchee (sans resonance) dune valeur propre simple, du fait que
nous ne savons pas si Sdl(L) est compose exactement des courbes
1
k
,
2
k
(et de
leurs prolongements ` a R
2
).
Ces questions sont interessantes dans la mesure o` u lorsque g est asymp-
totiquement lineaire ` a linni, le probl`eme (5.1) est un premier exemple de
probl`eme non-lineaire sans symetrie et sans monotonie. Il sagit donc de com-
prendre comment une non-linearite u g(u) aecte limage dun operateur
lineaire comme L.
242 Chapitre 5. Probl`emes sans symetrie
6. Existence de demi-valeurs propres
Dans toute la suite L designe un operateur auto-adjoint ` a resolvante compacte
deni sur D(L) L
2
(), ` a valeurs dans L
2
() (o` u est un ouvert de R
N
,
muni de la mesure de Lebesgue ou dune mesure reguli`ere, absolument continue
par rapport ` a la mesure de Lebesgue, mais que nous noterons toujours dx).
On rappelle que D(L) est dense dans L
2
() ; de plus, L ` a resolvante compacte
signie que linjection de D(L) (muni de la norme du graphe
D(L)
) dans L
2
()
est compacte ; la norme de L
2
() sera notee et son produit scalaire (|).
Sans perdre de generalite en ce qui concerne letude de (5.1) ou de (5.2) on peut
supposer (et nous le ferons) que L est inversible i.e. 0 Sp(L). Dans un souci de
simplication de lexpose (voir Exercices pour le cas general) on supposera que
le spectre de L est inferieurement borne, ce qui revient ` a dire dans le cas present
que si (
k
)
k1
est la suite croissante des valeurs propres de L on a
1
> 0. Les
cas o` u L nest pas ` a resolvante compacte par exemple loperateur des ondes
en dimension un avec conditions periodiques en temps, Dirichlet en espace ou
lorsque le spectre de L est reparti sur ] , +[ peuvent etre traites de fa con
analogue mais plus laborieuse. La multiplicite de chaque valeur propre
k
sera
designee par m
k
1 et le sous-espace propre associe par N(L
k
I).
Pour u L
2
() on designe par u
k
sa projection sur N(L
k
I), i.e.
u
k
:= proj
|N(L
k
I)
(u)
et par H le domaine de L
1/2
cest ` a dire lespace
H := {u L
2
() ;

k1

k
u
k

2
< }.
Enn H

etant le dual de H (de telle sorte que H L


2
() H

), L sera
considere parfois comme une bijection de H sur H

et par commodite, si u H,
on ecrira (Lu|u) := L
1/2
u
2
. On denit le spectre demi-lineaire de L par (5.4).
Comme (a, b) Sdl(L) si, et seulement si, (b, a) Sdl(L), il sut de trouver des
points de Sdl(L) tels que b a 0. Remarquons qualors
Lu +tu

= cu (c, t +c) Sdl(L),


et ainsi, pour t 0 donne, nous nous attacherons ` a trouver c(t) R tel que
(6.1) u D(L) \ {0}, Lu +tu

= c(t)u.
Le premier resultat dans ce domaine est :
6.1 Theor`eme. Soit
k
une valeur propre de L de multiplicite m
k
1 et

k1
<
k
la plus proche valeur propre inferieure ` a
k
, en convenant de poser

0
:= . Il existe alors deux fonctions c
i
k
(i = 1,2) denies de [0,
k

k1
]
[
k1
,
k
], continues et decroissantes telles que c
i
k
(0) =
k
et les courbes :

1
k
:=
_
(c
1
k
(t), t +c
1
k
(t)) ; 0 t
k

k1
_
,

2
k
:=
_
(c
2
k
(t) t, c
2
k
(t)) ; 0 t
k

k1
_
,
6. Existence de demi-valeurs propres 243
sont contenues dans Sdl(L). Plus precisement Pour chaque t xe dans [0,
k

k1
], c
1
k
(t) (resp. c
2
k
(t)) est une valeur critique de la fonction J
t
(u) := (Lu|u)
tu

2
(resp. J
t
(u) := (Lu|u) tu
+

2
) sur M, la sph`ere unite de L
2
().
Demonstration. Il est clair que J
t
est une fonction de classe C
1
et quelle satis-
fait la condition de Palais-Smale sur M et nous allons appliquer le theor`eme 2.2.
Pour k 1 on consid`ere une suite de fonctions propres (
k,i
)
1im
k
de L telles
que L
k,i
=
k

k,i
et (
k,i
|
j,
) =
kj

i
. En designant par H
k1
le sous-espace
H
k1
:=

1ik1
N(L
i
),
on notera j la dimension de H
k1
. Puis on denit les ensembles :
A
j
:=
_
h(S
j1
) ; h C(S
j1
, M) impaire
_
, (6.2)
B
j
:=
_
h(S
j
+
) ; h C(S
j
, M), h
|S
j1 impaire
_
, (6.3)
et les nombres
a
j
(t) := inf
AAj
max
uA
J
t
(u) (6.4)
b
j
(t) := inf
BBj+1
max
uB
J
t
(u). (6.5)
On notera que a
j
(t) et b
j
(t) sont nis, que a
j
(t) b
j
(t), et que a
j
(0) =
k1
et
b
j
(0) = a
j+1
(0) =
k
. Mais il est facile de voir que si t 0 on a
J
0
(u) t J
t
(u) J
0
(u),
et que par consequent

k1
t a
j
(t)
k1
,
k
t b
j
(t)
k
.
On en deduit que si 0 t <
k

k1
, on a a
j
(t) < b
j
(t), et le theor`eme 2.2
implique quen prenant A
0
A
j
tel que
a
j
(t) max
uA
J
t
(u) a
j
(t) +

,
o` u 2

:= b
j
(t) a
j
(t). En posant
c
1
k
(t) := inf
CC
k
max
uC
J
t
(u),
C
k
:=
_
h(S
j
+
) ; h(S
j
+
), h
|S
j1 impair et h(S
j1
) = A
0
_
,
alors c
1
k
(t) est valeur critique de J
t
et on a Lu + tu

= c
1
k
(t)u pour un u M.
Ainsi (c
1
k
(t), c
1
k
(t) + t) est un point de Sdl(L), et de plus on a c
1
k
(0) =
k
.
Finalement en appliquant les arguments ci-dessus ` a la fonction u (Lu|u)
tu
+

2
, on obtient la fonction c
2
k
(t) et lensemble
2
k
.
Comme pour > 0 et u = 1 on a J
t
(u) J
t+
(u) J
t
(u), on montre
facilement que c
i
k
(t) (pour i = 1, 2) est monotone decroissante et continue.
244 Chapitre 5. Probl`emes sans symetrie
6.2 Remarque. Lorsque
k
est une valeur propre simple, on peut meme montrer
que les fonctions c
i
k
(t) sont derivables. Dans ce cas (voir [85]), en parametrisant
la courbe
1
k
par a b(a) o` u (a, b(a))
1
k
, on peut montrer que si Lu =
au
+
b(a)u

avec u D(L) et u = 1, alors


b

(a) =
u
+

2
u

2
.
La meme approche peut etre utilisee pour montrer quil existe une famille de
deux courbes continues
1
k
,
2
k
dans R
2
telles que pour (a, b)
1
k

2
k
lequation
homog`ene
u W
1,p
0
() \ {0} , div
_
|u|
p2
u
_
= a|u
+
|
p1
b|u

|
p1
,
admet une solution, pour 1 < p < et un ouvert borne de R
N
.
Exercices du chapitre 5
Exercice 1. Soient un ouvert borne connexe de R
N
et 0 <
1

2
deux
fonctions de L
q
() avec q > N/2. Montrer que si a() := (a
ij
())
1i,jN
est une
matrice symetrique ` a coecients dans L

() et uniformement coercive, alors


les valeurs propres des probl`emes (pour i = 1, 2) :
_

_
div (a()
i,k
) =
i,k

i

i,k

i,k
= 0

i,k

2
= 1 ,
dans ,
sur ,
verient
2,k

1,k
.
Exercice 2. Soit un ouvert borne de R
N
. En utilisant le theor`eme du col,
montrer que si p > 1 est un reel tel que (N 2)p < N +2, alors il existe R

> 0
tel que pour tout f H
1
() avec f
H
1
()
< R

, lequation
u = |u|
p1
u +f
admet au moins une solution dans H
1
0
().
De meme en utilisant le theor`eme des fonction implicites montrer que si
(N 2)p N + 2 et la norme de f est assez petite, lequation ci-dessus admet
une solution.
Exercice 3. Soient
1
,
2
des ouverts bornes et connexes de R
N
. On designe
par
k
(
i
) les valeurs propres du laplacien avec condition de Dirichlet sur
i
pour i = 1, 2. Montrer que si
1

2
, alors
k
(
2
) <
k
(
1
) pour tout k 1.
Exercice 4. Soient un ouvert borne de R
N
, avec N 3 et V L
1
loc
()
une fonction telle que V

L
N/2
(). On consid`ere loperateur L deni par
Lu := u +V u avec
D(L) :=
_
u H
1
0
() ; V u L
1
loc
(), Lu L
2
()
_
.
1) En utilisant le theor`eme de Rosenbljum-Lieb-Cwickel dans R
N
, montrer
que n(V ), le nombre de valeurs propres negatives de L, peut etre estime par
n(V ) C(N)
_

|V

(x)|
N/2
dx
246 Exercices du chapitre 5
(sur R
N
considerer loperateur

Lf := f + 1

V f).
2) En deduire quil existe une constante c
0
(N) telle que les valeurs propres

k
du laplacien sur avec condition de Dirichlet, verient

k
c
0
(N) [mes()]
2/N
k
2/N
.
Exercice 5. Soit un ouvert de mesure nie et
1
() denie par

1
() := inf
_
u
2
; u H
1
0
(), u
2
= 1
_
.
(Lorsque est bornee,
1
() est la premi`ere valeur propre du laplacien avec
condition de Dirichlet sur ). Montrer que si mes() 0, alors
1
() +.
Exercice 6. Soit un ouvert borne dans une direction, par exemple contenu
dans ]0, a[R
N1
. Si
1
() est denie par

1
() := inf
_
u
2
; u H
1
0
(), u
2
= 1
_
,
montrer que lorsque a 0, alors
1
() +.
Exercice 7. Soit un ouvert borne de R
N
, connexe et de classe C
1
. On designe
par
D
k
() les valeurs propres du laplacien avec condition de Dirichlet sur , et
par
N
k
les valeurs propres du laplacien avec condition de Neumann sur .
1) Montrer que lon a toujours
N
k
()
D
k
().
2) Soit
1
un ouvert quelconque tel que
1
. En utilisant un theor`eme
de prolongement, montrer quil existe une constante c
0
dependant de ,
1
telle que pour tout k 2 on ait

N
k
() c
0

D
k
(
1
).
3) En deduire quil existe des constantes c
1
, c
2
telles que pour tout k 2 on
ait :
c
1
k
2/N

N
k
() c
2
k
2/N
.
Exercice 8. Soient un ouvert borne de R
N
et p > 2. On consid`ere la contrainte
S :=
_
u W
1,p
0
() ; u
p
= 1
_
et
B
k
:=
_
h(S
k1
) ; h : S
k1
S, continue et impaire
_
,
b
k
(p) := inf
BB
k
max
vB
v
p
p
.
Montrer que b
k
(p) c
0
k
m
o` u c
0
est une constante dependant de p, N, et m
est un reel dependant de p, N.
Exercice 9. Avec les notations introduites en (4.6), montrer que lestimation
obtenue au lemme 4.4 est optimale en ce sens que si N 3 alors pour tout k 1
on a :
a
0
k
c
2
k
(p+1)/(p1)
Exercices du chapitre 5 247
o` u := 2/N et c
2
est une constante.
Exercice 10. Soit (L, D(L)) un operateur auto-adjoint ` a resolvante compacte
sur L
2
(). Comme au paragraphe 6, on designe par H le domaine de L
1/2
, et
S := {v H ; v = 1}. Montrer que pour tout t R, la fonction
J
t
(u) := (Lu|u) +t u

2
,
satisfait la condition de Palais-Smale sur S.
Exercice 11. Trouver le spectre demi-lineaire de Au := u

avec D(A) :=
H
2
(0, 1) H
1
0
(0, 1), i.e. lensemble des (a, b) R tels quil existe une fonction
non-nulle u satisfaisant
u

= au
+
bu

, u(0) = u(1) = 0.
Exercice 12. On designe par H
m
per
(0, ) lensemble des fonctions de H
m
loc
(R) qui
sont periodiques de periode , et on le munit de la norme induite par H
m
(0, ).
Trouver le spectre demi-lineaire de Au := u

avec D(A) := H
2
per
(0, ), i.e.
lensemble des (a, b) R tels quil existe une fonction non-nulle u de periode
satisfaisant
_
u

= au
+
bu

u(x) = u(x +)
sur ]0, [ ,
pour tout x R.
248 Exercices du chapitre 5
6 Probl`emes sans compacite
Dans les chapitres precedents nous avons vu dierents resultats permettant de
resoudre en particulier les probl`emes elliptiques semilineaires, dans le cas o` u on
dispose dun resultat de compacite, par exemple lorsque lon a une injection
compacte de H
1
0
() dans L
2
(). Quand on resout ce type de probl`emes dans le
cas o` u est non borne, par exemple quand = R
N
ou quand est borne mais
p = 2N/(N2) et N 3, avec la perte de compacite de cette injection on ne peut
ni etablir des conditions du type Palais-Smale, ni montrer que le minimum de la
fonctionnelle denergie est atteint sur une contrainte appropriee. Pour illustrer
ce propos, rappelons que linjection de H
1
(R
N
) dans L
p
(R
N
) peut perdre sa
compacite de deux fa cons. Si p 1 et (N2)p 2N, en prenant D(R
N
) une
fonction non identiquement nulle et (x
j
)
j1
une suite de points de R
N
telle que
|x
j
| , on voit immediatement que la suite u
j
(x) := (x+x
j
) est bornee dans
H
1
(R
N
), tend p.p. vers zero, mais ne contient aucune sous-suite convergeant
dans L
p
(R
N
) (perte de compacite d ue au fait que le domaine va jusqu` a linni ;
cest la bosse allant ` a linni). De meme si N 3 et p = 2

= 2N/(N 2), la
famille u

(x) :=

(
1
(xx
0
)) avec := (N2)/2 est bornee dans H
1
(R
N
)
lorsque 0, tend p.p. vers zero mais ne contient aucune sous-suite convergeant
dans L
2

(R
N
) (cest la pointe allant vers une masse de Dirac en x
0
). Ce qui est
remarquable, cest que grosso modo ce sont presque les seules mani`eres de perdre
la compacite, et que tirant prot de ce fait, on peut changer leg`erement la notion
dextraction de sous-suite pour retrouver une certaine notion de compacite.
Pour xer les idees nous allons etudier le probl`eme semilineaire
_
u = g(u) dans R
N
u H
1
(R
N
),
essentiellement par trois methodes dierentes, ce qui permettra de voir dans
quelles situations on peut utiliser lune ou lautre approche. Pour aborder letude
de ce type de probl`emes sans compacite ` a linni, mais avec compacite locale, on
dispose de trois methodes ou outils (qui sont lies, comme on le verra, de fa con
naturelle) : on peut travailler dans lespace des fonctions ` a symetrie radiale
(lemme de W. Strauss), on peut changer la notion dextraction de sous-suite
en eectuant une extraction de sous-suites suivie dune suite de translations
(lemme de E.H. Lieb), ou enn utiliser la methode de concentration-compacite
(introduite par P.L. Lions) qui consiste ` a analyser ce que fait une suite de mesures
bornees qui tend vers zero faiblement.
250 Chapitre 6. Probl`emes sans compacite
On commence par le lemme de W. Strauss concernant les fonctions radiales.
1. Compacite des fonctions `a symetrie spherique
Rappelons quune fonction u L
p
(R
N
), avec N 2, est dite ` a symetrie
spherique si pour toute matrice de rotation S agissant sur R
N
on a :
p.p. sur R
N
, u(Sx) = u(x).
On dit alors que u est radiale, car pour tout r > 0, en posant f(r) := u(x) pour
un x R
N
tel que |x| = r, on denit p.p. sur R
+
une fonction f qui permet de
reconstruire enti`erement u. Si la fonction f est decroissante sur ]0, +[, on dit
alors que u est radiale decroissante. On notera egalement que pour une fonction
radiale ou ` a symetrie spherique, en designant par
N
la mesure supercielle de
la sph`ere unite S
N1
de R
N
, on a :
u
p
L
p =
N
_

0
|f(r)|
p
r
N1
dr.
On designera par H
1
rad
(R
N
) le sous-espace ferme des fonctions radiales de
H
1
(R
N
). Si u H
1
rad
(R
N
) et f(r) = u(x) pour |x| = r, on peut voir sans
diculte que
u
2
H
1
(R
N
)
=
N
_

0
_
|f(r)|
2
+ |f

(r)|
2
_
r
N1
dr,
et que les fonctions radiales de C

c
(R
N
) sont denses dans H
1
rad
(R
N
).
1.1 Lemme. Soit N 2. Si u H
1
rad
(R
N
), on a p.p. sur R
N
:
|u(x)|
1/2
N
|x|
(N1)
2
u
H
1
(R
N
)
,
et de plus |x|
N1
2
u(x) 0 lorsque |x| . Par ailleurs dans la classe
dequivalence p.p. de u il existe une fonction h olderienne en dehors de lorigine.
Demonstration. Compte tenu de la densite des fonctions radiales de C

c
(R
N
)
dans H
1
rad
(R
N
), il sut de montrer le lemme pour les fonctions reguli`eres. Si
C

c
([0, [) on a :
(r)
2
= 2
_

r

(s)(s)ds
2
_

r
s
(N1)
|

(s)| |(s)|s
N1
ds
r
(N1)
_

r
_
|

(s)|
2
+ |(s)|
2
_
s
N1
ds,
et en particulier si u H
1
rad
(R
N
) C

c
(R
N
) et (r) := u(x) pour |x| = r,
on deduit linegalite du lemme. Pour voir que dans la classe dequivalence de
1. Compacite des fonctions ` a symetrie spherique 251
u H
1
rad
(R
N
) il existe une fonction continue en dehors de lorigine, en posant
f(r) := u(x) si r = |x|, il sut de voir comme ci-dessus que pour |x| > |y| > 0
on a :
|u(x) u(y)|
_
|x|
|y|
|f

(s)|ds
| |x| |y| |
1/2
_
_
|x|
|y|
|f

(s)|
2
ds
_
1/2
,
| |x| |y| |
1/2
|y|
(N1)
2

1/2
N
u,
ce qui montre que u est h olderienne en dehors de lorigine.
1.2 Theor`eme (W. Strauss). Soient N 2, p > 1 et (N2)p < N+2. Alors
linjection de H
1
rad
(R
N
) dans L
p+1
(R
N
) est compacte.
Demonstration. Soit (u
n
)
n
une suite de H
1
rad
(R
N
) convergeant faiblement vers
u H
1
rad
(R
N
). Si v
n
:= u
n
u, il sagit de montrer que v
n

p+1
tend vers zero.
Dapr`es le lemme 1.1, en designant par C diverses constantes independantes de
n, on a pour tout R > 0 :
_
|x|R
|v
n
(x)|
p+1
dx v
n
1
[|x|R]

p1

v
n

2
L
2
(R
N
)
C R
(p1)(N1)
2
,
ce qui, en xant R > 0 assez grand, permet darmer que pour tout n 1 :
v
n
1
[|x|R]

L
p+1
(R
N
)
.
Par ailleurs comme dapr`es le theor`eme de Rellich-Kondrachov 1.8.16 linjec-
tion de H
1
([|x| < R]) dans L
p+1
([|x| < R]) est compacte (rappelons que (N
2)(p + 1) < 2N), on peut xer n
0
1 assez grand tel que pour n n
0
on ait
v
n

L
p+1
([|x|<R])
. Ainsi pour n n
0
, on a v
n

L
p+1
(R
N
)
2, et le theor`eme
est prouve.
En utilisant le lemme 1.1, on voit que pour lanneau
:=
_
x R
N
; R
1
< |x| < R
2
_
,
lespace H
1
rad
() est contenu dans C
0,1/2
() : on en deduit aisement le resultat
suivant que nous laissons en exercice.
1.3 Corollaire. Soient N 2 un entier, 0 < R
1
< R
2
deux reels, lanneau
:=
_
x R
N
; R
1
< |x| < R
2
_
,
et 1 q < . Alors les injections de H
1
rad
() dans L
q
() et dans C() sont
compactes.
1.4 Exemple. Louvert etant, comme dans le corollaire ci-dessus, un anneau
et p > 1 etant xe, lequation
252 Chapitre 6. Probl`emes sans compacite
_
u = |u|
p1
u
u = 0
dans
sur ,
admet une innite de solutions dans H
1
0
() ; de plus ces solutions sont de classe
C
2,
pour < 1.
1.5 Exemple. Soient N 2, m > 0 un reel et p > 1 tel que (N 2)p < N + 2.
Pour resoudre dans R
N
lequation :
(1.1) u +mu = |u|
p1
u
dans H
1
(R
N
), il sut de minimiser la fonctionnelle
J(v) :=
_
R
N
_
|v(x)|
2
+m|v(x)|
2
_
dx,
sur lensemble S :=
_
v H
1
rad
(R
N
) ; v
p+1
= 1
_
. Il est clair que J atteint
son minimum sur S, car J est minoree, faiblement sequentiellement s.c.i. ; les
suites minimisantes sont necessairement bornees puisque m > 0 et, gr ace au
theor`eme 1.2, la fonction v v
p+1
est faiblement sequentiellement continue
sur H
1
rad
(R
N
). Il existe donc R et u
0
S tels que :
J(u
0
) = min
vS
J(v), u
0
+mu
0
= |u
0
|
p1
u
0
.
En multipliant cette equation par u
0
, on voit que = J(u
0
) > 0 et, en posant
u :=
1/(p1)
u
0
, on obtient une solution de (1.1). On notera egalement que
u
0
, donc u, peut etre supposee positive car J(|u
0
|) = J(u
0
). En fait comme il
est montre par B. Gidas, W.M. Ni & L. Nirenberg [72, 73] dans un cadre plus
general, toute solution positive de (1.1) est radiale decroissante (par rapport ` a
un point donne x
0
de R
N
). Par ailleurs M.K. Kwong [91] a montre que modulo
le choix de ce point x
0
la solution radiale decroissante est unique.
Le lecteur pourra montrer (voir Exercices) que J satisfait la condition de
Palais-Smale sur S, et quelle y poss`ede une innite de points critiques.
1.6 Remarque. Lequation (1.1) peut etre egalement resolue par une methode
non variationnelle appelee methode du tir. En supposant que la solution recher-
chee est radiale, posons f(r) := u(x) pour r = |x| ; en supposant que u est
derivable en zero, f satisfait lequation dierentielle ordinaire :
_

_
f

(r) +
N 1
r
f

(r) = mf(r) |f(r)|


p1
f(r)
f(0) =
f

(0) = 0.
pour r > 0
On peut alors montrer (voir par exemple H. Berestycki, P.L. Lions & L.A. Pele-
tier [22]) que, pour une valeur bien precise du param`etre , cette equation admet
une solution globale et positive.
2. Lidentite de Pohozaev et ses consequences 253
Avant de donner un exemple plus general dequation semilineaire pouvant
etre resolue en utilisant le resultat de compacite du theor`eme 1.2, nous allons in-
troduire lidentite de Pohozaev satisfaite par les solutions de certaines equations
semilineaires.
2. Lidentite de Pohozaev et ses consequences
Le resultat suivant a ete remarque par S.I. Pohozaev [131] dans le cas particulier
o` u louvert est borne. Ce resultat a des consequences importantes que nous
verrons dans un instant.
2.1 Proposition (Identite de Pohozaev). Soient un ouvert de classe C
1
,
g une fonction continue de R dans lui-meme dont on designera par G la primitive
sannulant en zero et u H
1
0
() H
2
loc
() une fonction satisfaisant lequation
u = g(u).
Si de plus G(u) L
1
() et n() designe la normale exterieure ` a , alors pour
tout z

R
N
xe, u satisfait lidentite
(2.1)
N 2
2
_

|u(x)|
2
dx +
1
2
_

|u()|
2
( z

) n()d
= N
_

G(u(x))dx.
En particulier si = R
N
, pour 1 j N on a
_

|
j
u(x)|
2
dx =
_

|
1
u(x)|
2
dx,
(N 2)
_

|
j
u(x)|
2
dx = 2
_

G(u(x))dx.
Demonstration. Soit une fonction
0
de classe C

sur [0, [ telle que


0
(t) =
1 pour 0 t 1, et
0
(t) = 0 pour t 2. En posant, pour j 1 entier,

j
(x) :=
0
_
|x|
j
_
,
on verie facilement que |
j
(x)| C, une constante independante de j et que :
|x||
j
|
|x|
j
|

0
(|x|/j) | C

.
On peut alors, pour un indice i xe, multiplier les deux membres de lequation
u = g(u) par (x
i
z

i
)
i
u(x)
j
(x). En integrant par parties le terme de
droite on obtient
254 Chapitre 6. Probl`emes sans compacite
_

g(u(x))(x
i
z

i
)
i
u(x)
j
(x)dx =
_

(x
i
z

i
)
j
(x)
i
G(u(x))dx
=
_

j
(x)G(u(x))dx

(x
i
z

i
)
i

j
(x)G(u(x))dx,
et par un passage ` a la limite o` u on utilise le theor`eme de la convergence dominee
et le fait que
i

j
(x) tend vers zero lorsque j , on obtient :
(2.2) lim
j
_

g(u(x))(x
i
z

i
)
i
u(x)
j
(x)dx =
_

G(u(x))dx.
Dautre part, on int`egre par parties le terme de gauche de lequation et on
obtient :

u(x) ((x
i
z

i
)
i
u(x))
j
(x)dx =

((
i
z

i
)
i
u())
j
()u() n()d
+
_

u(x) [(x
i
z

i
)
i
u(x)
j
(x)] dx.
Or le dernier terme secrit :
_

u(x)[(x
i
z

i
)
i
u(x)
j
(x)] dx = (2.3)
1
2
_

(x
i
z

i
)
j
(x)
i
_
|u(x)|
2

dx
+
_

|
i
u(x)|
2

j
(x)dx
+
_

(x
i
z

i
)
i
u(x)u(x)
j
(x)dx.
En appelant dans lordre E
1j
, E
2j
et E
3j
les trois termes de droite dans (2.3),
on a, lorsque j :
(2.4) E
3j
0, et E
2j

_

|
i
u(x)|
2
dx.
Dautre part, en integrant par parties, E
1j
secrit :
E
1j
=
1
2
_

|u(x)|
2

i
[(x
i
z

i
)
j
(x)] dx
+
1
2
_

|u()|
2
(
i
z

i
)
j
()n
i
()d,
et donc lorsque j , on a
2. Lidentite de Pohozaev et ses consequences 255
E
1j

1
2
_

|u(x)|
2
dx +
1
2
_

|u()|
2
(
i
z

i
)n
i
()d.
Finalement en reportant cette derni`ere limite ainsi que (2.4) dans la rela-
tion (2.3), on a gr ace ` a (2.2) :
1
2
_

|u(x)|
2
dx +
_

|
i
u(x)|
2
dx (2.5)
+
1
2
_

|u()|
2
(
i
z

i
) n
i
()d

(
i
z

i
)
i
u()u() n()d
=
_

G(u(x))dx,
ce qui, en faisant la somme sur i et sachant que lorsque u = 0 sur le bord alors le
gradient u() est parall`elle ` a n() (i.e. u() = (u() n()) n()), conduit
` a :
N 2
2
_

|u(x)|
2
dx +
1
2
_

|u()|
2
( z

) n()d
= N
_

G(u(x))dx.
Si = R
N
, alors = de sorte que la relation (2.5) et le fait que
N 2
2
_
R
N
|u(x)|
2
dx = N
_
R
N
G(u(x))dx
impliquent
i
u
2
L
2
(R
N
)
=
1
u
2
L
2
(R
N
)
pour 1 i N ; cela termine la preuve
de la proposition.
2.2 Remarque. Ici, pour la simplicite de lexpose nous avons suppose que u
etait dans L
2
loc
() pour donner un sens aux termes du type x
i

i
uu ainsi qu` a
u() sur le bord . Mais dans un grand nombre de cas, en particulier lorsque
= R
N
, des hypoth`eses adequates de croissance sur g impliquent que si u
H
1
() satisfait lequation u = g(u), alors localement
i
u est dans un espace
L
p
loc
avec p > 2 et u est dans L
p

loc
(avec (p 1)p

= p), de sorte que lon peut


proceder comme dans la demonstration ci-dessus (voir Exercices pour de tels
exemples). Typiquement, si |g(s)| C
_
|s| + |s|
N+2
N2
_
, et N 3, on peut ecrire
u = V u,
avec V L

() + L
N
2
(). Alors le lemme de Brezis-Kato 1.11.7 implique que
u L
p
() pour tout p < , et on peut donc conclure que u satisfait lidentite de
Pohozaev. Dans les exemples que nous traiterons par la suite, on peut toujours
verier que les solutions que nous considerons satisfont cette identite.
256 Chapitre 6. Probl`emes sans compacite
2.3 Remarque. Dans le cas particulier o` u = R
N
, on peut obtenir lidentite
de Pohozaev, connue chez les physiciens sous le nom de theor`eme de viriel
1
,
par un raisonnement formel simple qui doit etre justie. Cette fa con de proceder
est surtout utile pour se souvenir des coecients intervenant dans lidentite, et
aussi dans dautres circonstances o` u a priori on ne voit pas par quoi multiplier
lequation pour obtenir une identite interessante. Soit en eet
(2.6) E(v) :=
1
2
_
R
N
|v(x)|
2

_
R
N
G(v(x))dx.
Une solution de u = g(u), avec u H
1
(R
N
), est un point critique de E sur
cet espace ; en particulier la derivee de E en u, dans nimporte quelle direction,
est nulle. Si pour > 0, on pose u

(x) := u(x/) et f() := E(u

) on doit avoir
f

(1) = 0, pourvu que f soit derivable au voisinage de = 1. Or de mani`ere


claire on a :
f() =

N2
2
_
R
N
|u(x)|
2
dx
N
_
R
N
G(u(x))dx
f

(1) =
N 2
2
_
R
N
|u(x)|
2
dx N
_
R
N
G(u(x))dx.
Ce quil faut justier ici, cest le fait que u

decrit bien une courbe de classe


C
1
dans H
1
(R
N
), ce qui peut etre fait dans la plupart des cas reellement
interessants, car on peut alors montrer que les solutions de u = g(u) ont
une decroissance exponentielle ` a linni du type |u(x)| +|Du(x)| C exp(|x|)
pour certaines constantes C, > 0 (voir aussi Exercices).
2.4 Remarque. Toujours dans le cas o` u = R
N
, en multipliant lequation
u = g(u) par u on deduit :
_
R
N
|u(x)|
2
dx =
_
R
N
u(x)g(u(x))dx,
ce qui donne avec lidentite de Pohozaev :
(2.7)
_
R
N
_
N 2
2N
u(x)g(u(x)) G(u(x))
_
dx = 0.
Cela implique en particulier que s
N2
2N
sg(s) G(s) doit prendre des valeurs
positives et negatives, si elle nest pas identiquement nulle. Par exemple si g(s) =
|s|
p1
s avec p 1 et = 0 on en deduit que, si N 3, le seul exposant p
pour lequel lequation u = |u|
p1
u peut avoir une solution non nulle dans
H
1
(R
N
) est p =
N+2
N2
, alors que si N = 2 lequation na aucune solution non
nulle. Il est aussi interessant de noter que cet argument applique ` a p := 1 permet
de voir que le laplacien na pas de fonction propre sur H
1
(R
N
). Mais pour ce
cas particulier, on dispose du resultat suivant de T. Kato [84] :
1
Dans le cas o` u N = 3, le viriel dun point materiel situe en M et soumis ` a une force

F est le scalaire

F

OM, o` u O est un point arbitraire choisi comme origine.


2. Lidentite de Pohozaev et ses consequences 257
2.5 Theor`eme. Soit q L

(R
N
). On suppose que lorsque |x| tend vers linni
on a q(x) = o(|x|
1
). Alors, si > 0 et u L
2
(R
N
) verient
u +q(x)u = u dans D

(R
N
) ,
on a u 0.
Dans les Exercices on pourra voir dautres exemples o` u lidentite de Pohozaev
permet de conclure ` a la non existence de solutions.
On peut montrer (voir en particulier J. Serrin [150] o` u, lorsque le probl`eme
est pose dans une boule, ce resultat est essentiellement prouve, sans etre ex-
plicitement proclame, ainsi que B. Gidas, W.M. Ni & L. Nirenberg [72, 73])
que si u > 0 est solution de u = g(u) et si g est localement lipschitzi-
enne, alors u est radiale decroissante (si g est supposee seulement continue le
resultat ne subsiste plus). Notons aussi que la relation
i
u
L
2 =
1
u
L
2 satis-
faite par une solution quelconque, implique que, pour toute direction e de R
N
,
on a
e
u
L
2 =
1
u
L
2, mais on ne sait pas si toute solution est radiale (ici

e
u := e u et |e| = 1).
2.6 Remarque. Soient un ouvert borne regulier, et g(s) := |s|
p1
s. Lidentite
de Pohozaev implique que si u H
1
0
() H
2
() verie u = |u|
p1
u, comme
on a aussi
_

[u(x)]u(x)dx =
_

|u(x)|
2
dx =
_

|u(x)|
p+1
dx,
alors :
_
N 2
2

N
p + 1
__

|u(x)|
p+1
dx (2.8)
+
1
2
_

|u()|
2
( z

) n()d = 0.
Supposons que louvert est etoile par rapport ` a un point z

de R
N
, par exemple
(pour simplier) z

:= 0 ; plus precisement supposons que pour tout ,


on a n() > 0. On deduit de (2.8) que si
N2
2

N
p+1
> 0 alors u 0. Si
N2
2
=
N
p+1
alors u = 0 sur , et si de plus u 0, alors par le theor`eme de
Green
0 =
_

u() n()d =
_

u(x)dx =
_

u(x)
p
dx,
ce qui implique que u 0 : cest le resultat de S.I. Pohozaev [131] (en fait on
peut montrer que meme si on ne suppose pas que u 0, alors u 0 ; voir Exer-
cices). Nous attirons lattention sur le fait que le resultat de non-existence de
solution non nulle est specique au cas o` u g(s) = |s|
p1
s, p =
N+2
N2
est lexposant
critique de Sobolev et est etoile.
En eet, toujours pour le cas o` u g(s) = |s|
p1
s, nous venons de voir que si
:= [R
1
< |x| < R
2
] est un anneau, alors pour tout p > 1, le probl`eme
258 Chapitre 6. Probl`emes sans compacite
_
u = |u|
p1
u
u = 0
dans ,
sur ,
admet une innite de solutions. Cela prouve que la nature geometrique, ou plut ot
topologique, de louvert joue un r ole essentiel dans lexistence de solutions
pour le probl`eme de Dirichlet que nous considerons ici. Un resultat de A. Bahri
& J.M. Coron [13] montre que si est un ouvert regulier et non contractible
alors il existe une solution au probl`eme
_

_
u = u
p
u = 0
u > 0
dans ,
sur ,
dans ,
o` u N = 3 et p :=
N+2
N2
est lexposant critique de Sobolev (le resultat general dit
que pour N 3, sil existe un entier d 1 tel que lhomologie H
d
(; Z
2
) de
est non nulle, alors le probl`eme precedent a une solution. On pourra consul-
ter J.R. Munkres [120, chapter 1] pour la denition de H
d
(; Z
2
)).
Dautre part comme il a ete remarque par H. Brezis & L. Nirenberg [36] et
comme nous le verrons plus loin, il existe

> 0 tel que si


1
designe la premi`ere
valeur propre du laplacien avec condition de Dirichlet sur louvert borne alors,
pour tout ]

,
1
[, le probl`eme :
_

_
u +u = u
p
u = 0
u > 0
dans ,
sur ,
dans
admet une solution (en fait si N 4 alors

= 0). Cela montre que le resultat


de Pohozaev que nous avons evoque plus haut depend fortement de la forme
particuli`ere de la non-linearite.
2.7 Remarque. Lorsque = R
N
les solutions de lequation
_
u = g(u)
u = 0,
dans R
N
verient (pourvu quelles soient dans H
1
(R
N
) H
2
loc
(R
N
) et G(u) L
1
(R
N
)) :
N 2
2
_
R
N
|u(x)|
2
dx = N
_
R
N
G(u(x))dx.
Donc, pour les solutions eventuelles, E etant denie par (2.6), on a
E(u) =
_
1
2

N 2
2N
__
R
N
|u(x)|
2
dx =
1
N
_
R
N
|u(x)|
2
dx,
ce qui implique en particulier que, sur lensemble des solutions, laction E est
positive. Do` u la question suivante : y a-t-il une solution daction (ou denergie)
minimale parmi toutes les solutions eventuelles ? Une telle solution est appelee un
3. Symetrisation de Schwarz ou rearrangement 259
etat fondamental (ground state en anglais). Avant de repondre ` a cette question
et montrer (sous des hypoth`eses adequates) quune telle solution existe et quelle
est ` a symetrie spherique, nous allons consacrer un paragraphe ` a la symetrisation
de Schwarz.
3. Symetrisation de Schwarz ou rearrangement
Dans tout ce paragraphe, lorsque nous ne le precisons pas, les fonctions con-
siderees sont positives et mesurables au sens de Lebesgue sur R
N
. Pour denir
le rearrangement ou la symetrisation de Schwarz dune fonction f de R
N
dans
R
+
, on commence par considerer les fonctions etagees (voir ` a ce sujet M. Cot-
lar & R. Cignoli [47, chapter V, 1.5], ou encore G.H. Hardy, J.E. Littlewood
& G. P olya [77, chapter X, 10.1210.14]). On designera par | | la norme
euclidienne de R
N
et par [|x| < R] la boule B(0, R) de R
N
pour cette norme.
3.1 Denition. Soient A
1
, . . . , A
n
des boreliens de R
N
deux ` a deux disjoints
de mesure nie, et 0 < a
n
< a
n1
< < a
1
des reels. Si f est une fonction
etagee telle que f =

n
i=1
a
i
1
Ai
, alors on denit son rearrangement par
f

=
n

i=1
a
i
1
[Ri1|x|<Ri]
,
o` u R
0
:= 0 et R
i
R
i1
sont donnes par la relation
mes([R
i1
|x| < R
i
]) = mes(A
i
).
3.2 Remarque. Soit f une fonction etagee prenant un nombre ni de valeurs
a
1
> a
2
> > a
n
> 0. Si A
i
:= [f = a
i
], alors f =

n
i=1
a
i
1
Ai
. On peut aussi
ecrire
(3.1) f =
n

i=1

i
f
i
o` u f
1
f
2
f
n
et les
i
sont donnes par la relation
f
i
:= 1
[fai]
,
i
:= a
i
a
i+1
pour 1 i n, a
n+1
:= 0 .
De cette fa con le rearrangement de f est donne par
f

=
n

i=1

i
f

i
et on a f

1
f

2
f

n
. En eet il sut de remarquer que lon a (
i
f
i
)

i
f

i
=
i
1
[|x|<Ri]
, o` u R
i
verie mes(A
i
) = mes([R
i1
|x| < R
i
]) et :
mes([|x| < R
i
]) = mes([f a
i
]) = mes(A
i
) + + mes(A
n
).
Comme
i
= a
i
a
i+1
, on conclut facilement que
260 Chapitre 6. Probl`emes sans compacite
f

=
n

i=1
a
i
1
[Ri1|x|<Ri]
=
n

i=1

i
1
[|x|<Ri]
=
n

i=1

i
f

i
=
_
n

i=1

i
f
i
_

.
Cela est interessant dans la mesure o` u lapplication f f

nest pas lineaire,


mais neanmoins dans le cas particulier o` u f secrit sous la forem (3.1) le
rearrangement de f est la somme des rearrangements
i
f

i
.
Le theor`eme suivant permet de denir le rearrangement dune fonction pos-
itive et mesurable quelconque.
3.3 Theor`eme & Denition. Soient 1 p et f L
p
(R
N
) une fonction
positive. Il existe une fonction unique f

L
p
(R
N
) telle que f

0 et pour tout
> 0
mes([f ]) = mes([f

]),
et o` u lensemble [f

] est une boule B(0, R

). La fonction f

est radiale
decroissante et on lappelle le rearrangement decroissant, ou la symetrisee
de Schwarz de la fonction f. De plus pour toute fonction continue et croissante
G : R
+
R
+
, telle que G(0) = 0 on a
(3.2)
_
R
N
G(f(x))dx =
_
R
N
G(f

(x))dx.
Demonstration. On consid`ere lapplication f f

de la denition 3.1. Re-


marquons qualors si f et g sont etagees et f g alors f

. En eet si a
i
, b
j
et A
i
, B
j
sont tels que 0 < a
n
< < a
1
et 0 < b
m
< < b
1
, les A
i
etant deux
` a deux disjoints, ainsi que les B
j
, si
f :=
n

i=1
a
i
1
Ai
g :=
m

j=1
b
j
1
Bj
,
alors pour tout i

1
n
xe il existe un indice j
i
tel que b
ji+1
< a
i
b
ji
(on posera
b
m+1
:= 0). Par ailleurs si
f

:=
n

i=1
a
i
1
[Ri1<|x|Ri]
, g

:=
m

j=1
b
j
1
[R

j1
<|x|R

j
]
,
et x
0
est tel que f

(x
0
) = a
i
, on a par denition R
i1
< |x
0
| R
i
et
mes (B(0, R
i
)) = mes ([f a
i
])
mes ([g a
i
]) = mes
_
B(0, R

ji
)
_
.
Cela implique que R
i
R

ji
et par suite x
0
B(0, R

ji
) et g

(x
0
) b
ji
a
i
, i.e.
f

. On a aussi (pour une fonction etagee) de fa con evidente f


p
p
= f

p
p
.
Si maintenant f L
p
(R
N
) et f 0, il existe une suite de fonctions etagees (f
n
)
n
3. Symetrisation de Schwarz ou rearrangement 261
telle que f
n
f
n+1
f et f
n
f presque partout. Par consequent dapr`es ce
que nous venons de remarquer, la suite (f

n
)
n
est une suite croissante, et si on
designe par f

:= lim
n
f

n
, cette limite etant a priori ` a valeurs dans [0, +],
on a dapr`es le theor`eme de la convergence monotone
_
R
N
|f
n
(x)|
p
dx =
_
R
N
|f

n
(x)|
p
dx,
_
R
N
|f(x)|
p
dx = lim
n
_
R
N
|f

n
(x)|
p
dx =
_
R
N
|f

(x)|
p
dx,
ce qui implique en particulier que f

L
p
(R
N
) et par consequent f

<
presque partout. Dautre part les suites densembles
[f
n
] et [f

n
]
etant croissantes, on a
[f ] =
_
n
[f
n
] et [f

] =
_
n
[f

n
],
ce qui conduit ` a :
mes([f ]) = lim
n
mes([f
n
]) = lim
n
mes([f

n
])
= mes([f

]).
Enn comme lensemble [f

n
] est une boule B(0, R
n,
) et que R
n,

R
n+1,
, on voit aussi que lensemble [f

] est une boule B(0, R

), o` u
R

:= lim
n
R
,n
. Lidentite (3.2) etant claire pour chacune des fonctions
f
n
, f

n
, on conclut la preuve du theor`eme en faisant tendre n vers linni.
3.4 Proposition. Soient 1 p, q, r et f L
p
(R
N
), g L
q
(R
N
) et
h L
r
(R
N
) des fonctions positives.
1) Si
1
p
+
1
q
= 1, alors
_
R
N
f(x)g(x)dx
_
R
N
f

(x)g

(x)dx.
2) Si
1
p
+
1
q
+
1
r
= 2, alors on a linegalite de F. Riesz
__
R
N
R
N
f(x)g(y)h(x y)dydx
__
R
N
R
N
f

(x)g

(y)h

(x y)dxdy.
Demonstration. Pour montrer 1), il sut de le faire pour des fonctions etagees.
Si on a
f = a1
A
, g = b1
B
,
en posant A

:= B(0, R
1
) et B

:= B(0, R
2
), avec mes(A

) = mes(A) et
mes(B

) = mes(B), on a
262 Chapitre 6. Probl`emes sans compacite
_
fg =
_
1
A
1
B
=
_
1
AB
min(mes(A), mes(B))
=
_
1
A

B
=
_
1
A
1
B
=
_
f

,
et la propriete est prouvee pour cette situation. Comme nous lavons vu ` a la
remarque 3.2, si f et g sont deux fonctions etagees, on peut toujours les ecrire
sous la forme
f =
n

i=1

i
f
i
, g =
m

j=1

j
g
j
,
o` u les fonctions f
i
= 1
Ai
, g
j
= 1
Bj
verient
0 < f
n
f
1
, et 0 < g
m
g
1
,
de telle sorte que f

n
i=1

i
f

i
et g

m
j=1

j
g

j
. Ainsi, dapr`es ce que nous
venons de dire :
_
fg =

i,j

j
_
f
i
g
j

i,j

j
_
f

i
g

j
=
_
f

.
Linegalite donnee par 2) est d ue ` a F. Riesz [141], et on peut en trouver une
preuve, tr`es technique, dans G.H. Hardy, J.E. Littlewood & G. P olya [77, chap-
ter X, 10.1410.15, theorem 379], dans le cas o` u N = 1. Une demonstration
plus simple, ainsi quune generalisation de cette inegalite au cas o` u il y a plus de
trois fonctions et N 1, a ete donnee par H.J. Brascamp, E.H. Lieb & J.M. Lut-
tinger [26], et nous y renvoyons le lecteur.
3.5 Remarque. Au lieu de prendre les ensembles de [f

] comme etant
des boules euclidiennes ayant meme mesure que [f ], on pourrait les choisir
comme les homothetiques dune boule xee de R
N
pour une distance autre que la
distance euclidienne. Plus precisement, si K

est un convexe ouvert, symetrique


par rapport ` a lorigine et tel que 0 K

, en designant par K(R) le convexe


{Rx ; x K

}, on peut construire une symetrisee f


K
de f en disant que pour
tout > 0, lensemble [f
K
] est une boule K(R

) ayant meme mesure que


[f ]. On peut montrer alors que f
K
est determinee de mani`ere unique, que
pour 1 p on a f
K

p
= f
p
et que la propriete 1) de la proposition 3.4
est satisfaite. Mais nous ne savons pas si lanalogue de linegalite de Riesz est
satisfaite, meme en rempla cant la convolution de R
N
par une convolution dans
un sens approprie pour laction dun autre groupe, lorsque K

est une boule


adaptee ` a cette action.
On deduit aisement de la premi`ere propriete donnee par la proposition 3.4
que la symetrisation est une contraction dans le c one des fonctions positives de
L
2
(R
N
).
3. Symetrisation de Schwarz ou rearrangement 263
3.6 Corollaire. Si f, g sont deux fonctions positives de L
2
(R
N
), alors on a :
f

f g.
Nous allons prouver un lemme sur la caracterisation de lespace H
1
(R
N
)
avant de montrer que la symetrisation de Schwarz conserve cet espace (et quelle
y est meme continue lorsque N = 1, comme la montre J.M. Coron [46], ou
quelle lest parfois, lorsque la fonction symetrisee satisfait une certaine condition
de regularite, comme lont prouve F. Almgren & E.H. Lieb [3]). Dans la suite
nous noterons pour t > 0
G
t
(x) := (4t)
N/2
exp
_
|x|
2
4t
_
,
le noyau de la chaleur sur R
N
. Si u
0
L
2
(R
N
), alors la fonction u := G
t
u
0
denie par convolution entre G
t
et u
0
verie lequation de la chaleur

t
u = u sur ]0, [R
N
,
et que u(t, ) u
0
dans L
2
(R
N
) lorsque t 0. Tout cela peut se montrer par
transformation de Fourier en notant que
_

G
t
u
0
_
() = exp(t||
2
) u
0
(),
o` u v designe la transformee de Fourier de v L
2
(R
N
). On a alors le resultat
suivant (ici et (|) designent la norme et le produit scalaire de L
2
(R
N
)) :
3.7 Lemme. Soit v L
2
(R
N
). Alors v H
1
(R
N
) si, et seulement si
lim
t0
J
t
(v) < , o` u J
t
(v) :=
1
t
_
v
2
(v|G
t
v)
_
.
Plus precisement lorsque v H
1
(R
N
) on a v
2
= lim
t0
J
t
(v).
Demonstration. Rappelons en premier lieu (cf. paragraphe 1.8) que v
H
1
(R
N
) si, et seulement si, on a :
_
R
N
| v()|
2
(1 + ||
2
)d < .
Or dapr`es lidentite de Parseval on peut ecrire :
J
t
(v) =
1
t
_
v
2
( v|

G
t
v)
_
=
1
t
_
| v()|
2
_
1 exp(t||
2
)
_
d.
On voit donc que si v H
1
(R
N
), puisque
1
t
_
1 exp(t||
2
)
_
||
2
,
264 Chapitre 6. Probl`emes sans compacite
par le theor`eme de la convergence dominee on a lim
t0
J
t
(v) < et plus
precisement
lim
t0
J
t
(v) =
_
R
N
| v()|
2
||
2
d =
_
R
N
|v(x)|
2
dx.
Dautre part si v / H
1
(R
N
), alors
_
R
N
| v()|
2
||
2
d = +, et comme
1
t
_
1 exp(t||
2
)
_

||
2
1 +t||
2
,
gr ace au theor`eme de la convergence monotone, on voit que
lim
t0
_
R
N
| v()|
2
||
2
1 +t||
2
d =
_
R
N
||
2
| v()|
2
d = +,
et par consequent lim
t0
J
t
(v) = +.
3.8 Proposition. Soit u H
1
(R
N
) une fonction positive. Alors la symetrisee
u

appartient ` a H
1
(R
N
) et on a :
_
R
N
|u

(x)|
2
dx
_
R
N
|u(x)|
2
dx.
Demonstration. Nous suivons ici la demonstration de E.H. Lieb [96]. Soit
u H
1
(R
N
) ; avec les notations introduites au lemme 3.7, on sait que
u
2
= lim
t0
J
t
(u),
et pour montrer que u

H
1
(R
N
), il sut de montrer que la limite de J
t
(u

) est
nie lorsque t 0. Or dapr`es linegalite de F. Riesz vue ` a la proposition 3.4 2)
on a
__
R
N
R
N
u(x)G
t
(x y)u(y)dxdy
__
R
N
R
N
u

(x)G

t
(x y)u

(y)dxdy,
mais comme G
t
G

t
, on en deduit que J
t
(u) J
t
(u

). On obtient donc
facilement le resultat annonce en faisant tendre t vers zero, et en utilisant le
lemme 3.7.
3.9 Remarque. Pour 1 p < on peut montrer que u

L
p u
L
p
(voir par exemple F. Almgren & E.H. Lieb [3]).
3.10 Remarque. Comme le montre G. Talenti [160], en utilisant les techniques
de symetrisation et le calcul des variations on peut voir que, pour 1 p < N,
dans linegalite de Sobolev
u
L
p

C(p, N) u
L
p
legalite est realisee par une fonction radiale et on peut calculer la meilleure
constante C(p, N). Dans le cas o` u 1 < p < N, cette constante est donnee par
3. Symetrisation de Schwarz ou rearrangement 265
C(p, N) :=
1/2
N
1/p
_
p 1
N p
_
(p1)/p
_
(N)[(N + 2)/2)]
(N/p)[(p +pN N)/p]
_
1/N
et linegalite de Sobolev devient une egalite pour les fonctions
(x) :=
_
a +b|x|
p/(p1)
_
(pN)/p
, a, b > 0.
Voici une application de ces techniques, pour voir que parmi tous les corps
de volume donne, la sph`ere a la plus petite supercie (ou dans R
2
, parmi toutes
les gures de supercie donnee, le cercle a le plus petit perim`etre).
Si est un ensemble mesurable de R
N
, on sait que
mes
N
() = sup
__
R
N
1

(x)(x)dx ; C
1
c
(R
N
), |(x)| 1
_
.
Si N 2, pour denir mes
N1
() la mesure supercielle ` a N 1 dimension
de (ou encore le perim`etre de si N = 2), on peut proceder comme suit. Si
u L
1
loc
(R
N
), on denit sa variation totale par :
VT(u) := sup
__
R
N
u(x) (x)dx ; (C
1
c
(R
N
))
N
, |(x)| 1
_
,
o` u | | designe la norme euclidienne de R
N
. Lensemble des fonctions ` a variation
totale bornee est designee par BV(R
N
). On verie facilement que, par exemple
si u L
1
loc
(R
N
) et Du L
1
(R
N
), alors :
VT(u) = u
L
1
(R
N
)
.
Lorsque est un ensemble mesurable, pour denir la mesure supercielle (ou
laire) de , on pose
mes
N1
() := VT(1

)
= sup
__
R
N
1

(x) (x)dx ; (C
1
c
(R
N
))
N
, |(x)| 1
_
.
En eet si est un ouvert borne et de classe C
1
, en designant par n() la
normale exterieure ` a , par une integration par parties on peut ecrire :
VT(1

) = sup
__

(x)dx ; (C
1
c
(R
N
))
N
, |(x)| 1
_
= sup
__

() n()d ; (C
1
c
(R
N
))
N
, |(x)| 1
_
=
_

d,
et on retrouve ainsi la denition classique de la mesure (supercielle) de .
Linegalite isoperimetrique
266 Chapitre 6. Probl`emes sans compacite
[mes
N
()]
(N1)/N

[ ((N + 2)/2)]
1/N
N

mes
N1
()
exprime simplement le fait que pour un ensemble mesurable on a
1

L
N
N1
C(1, N)VT(1

) ;
et legalite est vraie si, et seulement si, est une boule. Cette inegalite peut
naturellement sobtenir de linegalite de Sobolev
u
L
N/(N1) C(1, N) u
L
1
o` u, pour trouver la meilleure constante C(1, N), on peut se borner ` a minimiser
u
L
1 sous la contrainte u
L
N/(N1) = 1 parmi les fonctions radiales.
4. Existence dun etat fondammental
Nous reprenons ici lequation mod`ele :
(4.1)
_
u = g(u)
u = 0,
dans R
N
,
dont on cherche une solution dans H
1
(R
N
). Nous avons vu que u est un point
critique de la fonctionnelle :
E(u) :=
1
2
_
R
N
|u(x)|
2
dx
_
R
N
G(u(x))dx,
que les solutions raisonnables de cette equation satisfont lidentite de Pohozaev
N 2
2
_
R
N
|u(x)|
2
dx = N
_
R
N
G(u(x))dx
et quun etat fondamental est une solution u telle que pour toute autre solution
v on ait E(u) E(v). Comme ici
E(u) =
1
N
_
R
N
|u(x)|
2
dx > 0,
on va montrer que sous des hypoth`eses presque optimales on peut trouver une
telle solution. Pour en montrer lexistence, on a alors (au moins) deux possi-
bilites :
1) soit minimiser E ou plut ot, ce qui revient au meme, la fonction J(v) :=
v
2
, sous la contrainte de Pohozaev, cest ` a dire sur lensemble
S
P
:=
_
v H
1
(R
N
) \ {0} ; V (v) = 0
_
,
o` u on a pose
4. Existence dun etat fondammental 267
V (v) := (N 2)
_
R
N
|v(x)|
2
dx 2N
_
R
N
G(v(x))dx,
pourvu que S
P
soit non vide et contienne la limite de la suite minimisante ;
2) soit minimiser J(v) := v
2
sur lensemble
_
v H
1
(R
N
) \ {0} ;
_
R
N
G(v(x))dx = N 2
_
.
Dans ce paragraphe nous allons adopter la deuxi`eme methode et nous renvoyons
aux Exercices pour etudier la premi`ere. Aussi, nous separons leg`erement la ques-
tion de lexistence dune solution ` a (4.1) du probl`eme de minimisation de J sur
la contrainte mentionnee.
Nous commen cons notre etude par le cas o` u N 3, parce que la preuve de
lexistence dune solution dans le cas N = 1 peut etre traite par une methode
dequation dierentielle oridinaire (rappelons aussi que le theor`eme 1.2 nest
valable que pour N 2), et enn le cas N = 2 est plus delicat. Soient donc
(4.2)
_

_
S :=
_
v H
1
(R
N
) ; G(v) L
1
(R
N
),
_
R
N
G(v(x))dx = 1
_
,
J(v) :=
_
R
N
|v(x)|
2
dx.
Nous introduisons les conditions suivantes sur la fonction G, la primitive de g
sannulant en zero.
G C(R, R), et s
0
> 0 tel que G(s
0
) > 0 , (4.3)
m > 0, t.q. G

(0) = m, lim
|s|
|s|
2

G
+
(s) = 0, (4.4)
o` u 2

= 2N/(N 2) et G
+
:= max(G, 0) est la partie positive de G. Alors on a
le resultat suivant.
4.1 Proposition. Soit N 3. On suppose que la fonction G est deux fois
derivable en zero, verie G(0) = G

(0) = 0, que les conditions (4.3) et (4.4) sont


satisfaites et que S, J sont denies par (4.2). Si de plus on suppose que G est
paire, alors la fonctionnelle J atteint son minimum sur S en un point v S tel
que v est une fonction positive et radiale decroissante.
Demonstration. Commen cons par remarquer que S = car, s
0
> 0 etant
comme dans (4.3), en prenant D(R
N
) telle que
(x) = s
0
si |x| 1, et (x) = 0 si |x| 1 +,
on voit facilement que pour > 0 assez petit on a
_
R
N
G((x))dx > 0. Il sut
alors de choisir convenablement > 0 pour que si

(x) := (x/), on ait


_
R
N
G(

(x)) dx = 1.
268 Chapitre 6. Probl`emes sans compacite
Notons aussi que si v S, comme on suppose que G est paire, |v| S et
J(|v|) = J(v). On peut donc considerer une suite minimisante ( v
n
)
n
sur S telle
que v
n
0 et
J( v
n
) := inf
vS
J(v).
Gr ace ` a la proposition 3.8, on sait que si on consid`ere la symetrisee v
n
:= ( v
n
)

,
alors v
n
S et
J(v
n
) J( v
n
) = inf
vS
J(v).
Soit G
0
(s) := G(s) +
m
2
s
2
. Nous allons montrer que :
G
+
0
(v
n
) G
+
0
(v) dans L
1
(R
N
),
en montrant tout dabord que la suite
_
G
+
0
(v
n
)
_
n
est equi-integrable. En eet,
compte tenu des conditions (4.4), pour tout
0
> 0, il existe une constante
C := C(
0
) > 0 telle que pour tout s R on ait
G
+
0
(s)
0
|s|
2
+C|s|
2

.
Mais, de linegalite de Sobolev v
n

L
2

C v
n
, on deduit :
1 +
m
2
v
n

2
+
_
R
N
G

0
(v
n
(x))dx =
_
R
N
G
+
0
(v
n
(x))dx (4.5)

0
v
n

2
+Cv
n

,
ce qui, en prenant 2
0
< m, implique que (v
n
)
n
est bornee dans L
2
(R
N
) et,
v
n
etant egalement bornee, on conclut nalement que (v
n
)
n
est bornee dans
H
1
(R
N
).
De meme, pour tout
1
> 0 il existe , M > 0 telles que pour tout s R on
ait
(4.6)
_
G
+
0
(s)
1
s
2
G
+
0
(s)
1
|s|
2

pour |s| ,
pour |s| M.
Comme v
n
est radiale decroissante, dapr`es le lemme 1.1 on a
|v
n
(x)| C|x|
(N1)
2
v
n

H
1 C|x|
(N1)
2
.
Pour voir que (G
+
0
(v
n
))
n
est equi-integrable on doit montrer tout dabord que
pour tout > 0 il existe R > 0 tel que :
(4.7) n 1
_
|x|R
G
+
0
(v
n
(x))dx ,
ce qui est manifestement vrai gr ace ` a la premi`ere propriete de (4.6). Ensuite il
reste ` a montrer que R > 0 etant xe comme ci-dessus, la suite
_
G
+
0
(v
n
)1
[|x|<R]
_
n
est equi-integrable. Or si A [|x| < R] est mesurable, en utilisant linegalite de
Sobolev et (4.6), pour tout
1
> 0 on a
4. Existence dun etat fondammental 269
_
A
G
+
0
(v
n
(x))dx
1
_
R
N
|v
n
(x)|
2
dx +
1
C v
n

+ mes(A) max
|s|M
G
+
0
(s).
On voit donc (cf. denition 1.4.12) que pour tout > 0, si
1
et mes(A) sont
susamment petits, on a
_
A
G
+
0
(v
n
(x))dx ,
et nalement cela implique que la suite
_
G
+
0
(v
n
)
_
n
est equi-integrable.
Maintenant, moyennant une extraction de sous-suite, on peut supposer que
la suite (v
n
)
n
converge faiblement dans H
1
(R
N
) et presque partout sur R
N
vers v H
1
(R
N
). Le theor`eme de Vitali 1.4.13 permet alors de conclure que
G
+
0
(v
n
) G
+
0
(v) dans L
1
(R
N
), et en appliquant le lemme de Fatou dans la
relation (4.5) on voit que
(4.8) 1 +
_
R
N
G

0
(v(x)) dx +
m
2
v
2
dx
_
R
N
G
+
0
(v(x)) dx,
et en particulier on conclut que G(v) L
1
(R
N
). Dautre part, J etant faiblement
sequentiellement s.c.i. sur H
1
(R
N
), on a J(v) . Si on montre que v S, alors
on aura = J(v). Si on avait une inegalite stricte dans (4.8), cela signierait
que
_
R
N
G(v(x))dx > 1 ; mais alors en posant v

(x) := v(x/) pour > 0, on a


_
R
N
G(v

(x))dx =
N
_
R
N
G(v(x))dx,
et il existerait ]0, 1[ tel que v := v

soit dans S. Cela nest pas possible car


on aurait
J( v) =
N2
J(v) < .
On doit donc avoir v S, et cela montre que J atteint son minimum sur S.
4.2 Remarque. Recemment O. Lopes [108] a montre, de mani`ere tr`es simple,
quen general le point o` u J atteint son minimum est ` a symetrie spherique. Plus
precisement, soient F et G des fonctions de classe C
2
(ou meme C
1,1
loc
) de R
m
dans R, et
S :=
_
v (H
1
0
())
m
; F(v) L
1
(R
N
),
_
R
N
F(v(x))dx = 1
_
= ,
J(v) :=
1
2
_
R
N
|v(x)|
2
dx +
_
R
N
G(v(x))dx.
Si on suppose que u S realise le minimum de J sur S, i.e.
J(u) = inf
vS
J(v) ,
alors u est ` a symetrie spherique. Il est interessant de noter quici F et G ne sont
pas necessairement paires, et que dans le cas o` u m 2 on ne peut pas utiliser
270 Chapitre 6. Probl`emes sans compacite
la symetrisation de Schwarz meme en supposant que F et G sont paires. Voir
aussi la n de la remarque 2.4 et B. Gidas, W.M. Ni & L. Nirenberg [72, 73].
Nous allons montrer maintenant que la fonction v S trouvee dans la propo-
sition precedente conduit, moyennant un changement dechelle x x/, ` a une
solution denergie minimale de lequation (4.1). Dans la suite on posera
(4.9) S
+
:=
_
v H
1
(R
N
) ; G(v) L
1
(R
N
),
_
R
N
G(v(x))dx 1
_
.
4.3 Lemme. Soient G C
1
(R, R) une fonction veriant les hypoth`eses de la
proposition 4.1 et v S telle que
J(v) = min
wS
J(w).
On suppose de plus que g(v) L
1
loc
(R
N
) et quil existe une constante C > 0 et
une fonction continue H telles que H(0) = 0 et
(4.10) s, t R |g(s +t)| C |g(s)| +H(t).
Alors il existe > 0 tel que v = g(v) dans D

(R
N
).
Demonstration. Notons en premier lieu que
inf
wS+
J(w) = min
wS
J(w).
En eet comme nous lavons vu ` a la n de la demonstration de la proposition 4.1,
si w S
+
et w / S, il existe ]0, 1[ tel que, si w

(x) := w(x/), on ait w

S
et J(w

) < J(w) ; par consequent la borne inferieure de J est atteinte sur S.


Dautre part si on avait g(v) 0, comme v H
1
(R
N
), on peut facilement voir
par exemple que
_
R
N
G(v(x))dx = 0, ce qui est contraire ` a lhypoth`ese sur v.
Maintenant si D(R
N
) est tel que
g(v), =
_
R
N
g(v(x))(x)dx > 0
(on notera que de telles fonctions existent), gr ace ` a lhypoth`ese (4.10) la
fonction t
_
R
N
G(v(x) + t(x))dx est derivable et sa derivee en t = 1 est
precisement g(v), . Alors il existe t

> 0 tel que pour 0 < t < t

on ait
v +t S
+
. Par consequent
J(v) J(v +t) = J(v) + 2t
_
R
N
v(x) (x)dx + t
2
J(v),
ce qui, apr`es simplication et division par t, puis en faisant tendre t vers zero,
implique que
_
R
N
v(x) (x)dx 0. Rappelons alors le resultat suivant (voir
aussi lexercice 59 du chapitre 1) :
4. Existence dun etat fondammental 271
Lemme. Soient f, g deux formes lineaires sur un espace de Ba-
nach X telles que pour tout X, f, > 0 implique g, 0.
Alors il existe 0 tel que g = f.
On conclut en utilisant ce lemme quil existe 0 tel que v = g(v) dans
D

(R
N
). Si = 0, on aurait v = 0 et v H
1
(R
N
), donc v 0, ce qui nest
pas vrai. Par consequent > 0 et le lemme 4.3 est prouve.
4.4 Remarque. Lhypoth`ese (4.10) limite la croissance de la fonction g : par
exemple une fonction qui a une croissance du type s exp(s
2
) ne peut pas
satisfaire une telle condition, mais une croissance du type s exp(|s|) ou
encore s |s|
p
, avec > 0 et p > 1, est acceptable. On doit supposer une telle
condition pour armer que si D(R
N
), alors G(v + ) L
1
(R
N
). En eet,
pour le voir il sut decrire
G(v(x) +(x)) = G(v(x)) +g(v(x) +(x)(x)) (x),
pour un (x) [0, 1]. On notera aussi que la condition de croissance donnee
dans (4.4), ne porte que sur G
+
, la partie positive de G. Cependant la condi-
tion (4.10) est susamment simple et generale pour que nous ne nous attardions
pas ici ` a donner une condition optimale (voir aussi Exercices).
Avant denoncer le theor`eme concernant la resolution du probl`eme (4.1), nous
allons nous interesser ` a la regularite et la decroissance ` a linni des solutions qui
sont dans H
1
(R
N
).
4.5 Proposition. Soient N 1 et g C(R, R) avec g(0) = 0. On pose q
0
:=
N+2
N2
lorsque N 3, et q
0
> 1 quelconque lorsque N 2. On suppose que pour
des constantes a, , m > 0, en posant g
0
(s) := g(s) + ms, la condition suivante
est satisfaite :
(4.11)
_
s R, [sgn(s)g
0
(s)]
+
a|s|
q0
,
pour |s| , on a sgn(s)g
0
(s) 0.
On suppose que u H
1
(R
N
) satisfait lequation u = g(u) et u L
1
loc
(R
N
).
Alors on a u C
1,
0
(R
N
) pour tout < 1 et il existe une constante C > 0 telle
que
x R
N
, |u(x)| C exp
_

_
1 +m|x|
2
_
.
De plus si g est de classe C
1
, alors u est de classe C
2,
pour tout < 1, et pour
une constante C > 0 on a :
x R
N
, |Du(x)| C exp
_

_
1 +m|x|
2
_
.
Demonstration. Nous commen cons par prouver que u est de classe C
1,
et
tend vers zero ` a linni. Comme u + mu = g
0
(u), si on montre que pour
p < susamment grand on a g
0
(u) L
p
(R
N
), le theor`eme de regularite 1.11.1
permet de dire que u W
2,p
(R
N
) et, cet espace etant contenu dans C
1,
0
(R
N
)
dapr`es linegalite de Morrey-Sobolev, le but sera atteint.
272 Chapitre 6. Probl`emes sans compacite
Tout dabord, en utilisant linegalite de Kato (voir lemme 1.8.24 ainsi que
lexercice 30 du chapitre 1), on a dans D

(R
N
), en posant p
0
:= 2N/(N + 2)
lorsque N 3 et p
0
> 1 quelconque lorsque N 2 :
(4.12) |u| +m|u| sgn(u)u + m|u| = sgn(u)g
0
(u) a|u|
q0
.
Comme dapr`es linegalite de Sobolev on a |u|
q0
L
p0
(R
N
), on sait quil existe
un unique w W
2,p0
(R
N
) satisfaisant
w +mw = a|u|
q0
.
Or le principe du maximum (applique ` a loperateur + mI) permet de dire
que |u| w. Si 2p
0
N, alors on sait que w L
p
(R
N
) pour 2 p < , ce qui
implique aussi que u L
p
(R
N
) pour de tels p. Lorsque 2p
0
< N, les inegalites
de Sobolev (voir proposition 1.8.10) permettent alors de conclure que si
q
1
:=
p
0
N
N 2p
0
et p
1
:=
2Nq
1
N + 2
,
on a w L
q1
(R
N
) et par consequent u L
q1
(R
N
). En reprenant ce procede on
montre que w W
2,p1
(R
N
) et un argument de bootstrap (cf. lexemple 1.11.6)
conduit nalement ` a : u L
p
(R
N
) pour tout p < et w, u sont dans W
2,p
(R
N
).
En utilisant linegalite de Morrey-Sobolev on conclut que u C
1,
0
(R
N
) pour
tout ]0, 1[, et u et Du tendent vers zero ` a linni (on voit aussi que si g
0
est
de classe C
0,
pour un ]0, 1[, le theor`eme de regularite de Schauder implique
que que u est de classe C
2,
).
Pour montrer la decroissance exponentielle de u ` a linni, considerons :
(4.13) z(x) := exp
_

_
1 +|x|
2
_
,
pour des constantes , > 0 que nous xerons dans un instant. Un calcul
elementaire permet de voir que :
z +mz =
_
N + (N 1)(1 +|x|
2
)
(1 +|x|
2
)
3/2
+
m+ (m)|x|
2
1 +|x|
2
_
z
de sorte que
(4.14) z +mz
m+ (m)m|x|
2
1 +|x|
2
z.
En prenant maintenant := m, comme u est continue et tend vers zero ` a linni,
on en deduit que sgn(u(x))g
0
(u(x)) est negatif pour |x| > R assez grand, et ainsi
on peut trouver > 0 tel que pour tout x R
N
on ait
sgn(u(x))g
0
(u(x))
m
1 +m|x|
2
z(x) =
mexp
_

_
1 +m|x|
2
_
1 +m|x|
2
.
On en conclut, en utilisant (4.12) et (4.14) que lon a
4. Existence dun etat fondammental 273
|u| +m|u| z +mz,
et le principe du maximum implique que |u| z.
Pour montrer la decroissance exponentielle de Du, en posant v :=
i
u pour
un indice i xe, on remarque que v satisfait
v +mv = g

0
(u)v
et de nouveau par linegalite de Kato et du fait que g

0
(u(x)) 0 pour |x| R
assez grand, on peut trouver > 0 pour que
|v| +m|v| g

0
(u)|v| m(1 +m|x|
2
)
1
z z +mz,
ce qui donne encore, par le principe du maximum
|v(x)| exp
_

_
1 +m|x|
2
_
.
4.6 Remarque. En fait on constate dans la demonstration ci-dessus que si g est
de classe C
0,
loc
, on peut conclure que u est de classe C
2,
. On notera egalement
que le resultat enonce est vrai independamment du fait que u est radiale ou
non. Cependant, lorsque lon consid`ere une solution radiale, on peut montrer
facilement quen dehors de lorigine u est de classe C
2
et si f(r) := u(x) pour
r = |x|, en zero on a f

(0) = g(u(0))/N : par consequent lorsque g est continue,


les solutions radiales sont de classe C
2
(voir Exercices). Par ailleurs dans ce cas,
un simple raisonnement sur lequation dierentielle ordinaire satisfaite par f, ` a
savoir
f

N 1
r
f

+mf = g
0
(f),
permet de conclure que si u, ou f, est ` a decroissance exponentielle ` a linni, il
en est de meme de f

et f

.
Nous verions dans le lemme suivant que la minimisation de J sur S fournit
bien un etat fondamental de (4.1).
4.7 Lemme. Soient S et J denies par (4.2), N 3 et S = . On suppose que
v S verie :
J(v) = min
wS
J(w), > 0 tel que v = g(v),
et que v satisfait lidentite de Pohozaev. En posant u(x) := v(
1/2
x), pour
x R
N
, alors u est solution de (4.1) et pour toute autre solution w H
1
(R
N
)
de cette equation satisfaisant lidentite de Pohozaev on a E(u) E(w).
Demonstration. Remarquons en premier lieu que dapr`es lidentite de Poho-
zaev, pour toute fonction z S telle que
g(z) L
1
loc
(R
N
) et z = g(z),
on a 2

= J(z). Par consequent, on a en particulier . Soit maintenant


w H
1
(R
N
) une solution quelconque de (4.1) satisfaisant lidentite de Pohozaev.
274 Chapitre 6. Probl`emes sans compacite
En posant b :=
_
R
N
G(w(x))dx, de cette identite on deduit 2

b = J(w) > 0, et
en notant z(x) := w(b
1/N
x), on verie que
z = b
2/N
g(z), z S.
En particulier, si on note a :=
_
R
N
G(u(x))dx, on deduit que v = a
2/N
g(v),
et dapr`es ce que nous venons de dire on doit avoir a b. Mais, toujours dapr`es
lidentite de Pohozaev, on a
E(u) =
2
N 2
_
R
N
G(u(x))dx =
2a
N 2

2b
N 2
=
2
N 2
_
R
N
G(w(x))dx = E(w),
ce qui montre le resultat du lemme.
Nous pouvons maintenant enoncer le theor`eme concernant la resolution
de (4.1), sans toutefois chercher ` a donner les conditions les plus generales sur la
fonction g.
4.8 Theor`eme. Soit g C(R, R) une fonction impaire telle que |g(s)|
C (|s| + |s|
q0
) o` u q
0
:=
N+2
N2
. On designe par G la primitive de g sannulant
en zero, et on suppose que les conditions (4.3) et (4.4) sont satisfaites. Alors
lequation (4.1) admet une solution positive u H
1
rad
(R
N
), qui est un etat fon-
damental, de calsse C
2
et ` a decroissance exponentielle ` a linni.
Demonstration. Sous les hypoth`eses que nous avons ici, celles de la proposi-
tion 4.1 et du lemme 4.3 sont satisfaites : par consequent, on sait quil existe
> 0 et v dans S H
1
rad
(R
N
) tels que v = g(v) et J(v) = min
wS
J(w).
En posant alors
u(x) := v
_
x

_
,
on verie que u est solution de (4.1). La proposition 4.5 montre alors que u
est de classe C
2
et ` a decroissance exponentielle ` a linni. Enn u est un etat
fondamental, car dapr`es lhypoth`ese de croissance sur g, toute solution w
H
1
(R
N
) de lequation (4.1) verie les conditions du lemme 4.7, et ce lemme
prouve que E(u) E(w).
4.9 Remarque. Pour voir que les conditions imposees ` a g ne sont pas loin detre
optimales, remarquons en premier lieu que pour lexistence dune solution, il
faut que G prenne une valeur strictement positive. Par ailleurs, la condition de
croissance sous-critique est presque necessaire en ce sens que lequation
u +mu = |u|
p1
u,
nadmet pas de solution pour m > 0 et (N 2)p N + 2. Reste ` a montrer que
la premi`ere condition de (4.4) est presque necessaire en ce sens que si G

(0) =
g

(0) = m > 0, lequation (4.1) na pas de solution radiale dans H


1
rad
(R
N
). En
4. Existence dun etat fondammental 275
eet si u 0 est une telle solution, alors u tend vers zero ` a linni au moins
comme |x|
(N1)/2
. Or en posant g
0
(s) := g(s) ms, on voit que la fonction
q(x) :=
g
0
(u(x))
u(x)
est, gr ace au lemme 1.1, un o(|x|
1
) lorsque |x| et N 3. Cela contredit
le theor`eme de Kato 2.5 qui dit que
u +q(x)u = mu
na pas de solution dans L
2
(R
N
) autre que la solution nulle.
On peut aussi montrer ce resultat sans utiliser le theor`eme 2.5 mais en
analysant lequation dierentielle ordinaire que satisfait (r) := u(x) pour
r = |x| ; voir Exercices pour le cas general. Cependant dans le cas de la di-
mension N = 2 voici un resultat plus precis.
4.10 Lemme. Soient N := 2, g une fonction continue et G sa primitive
sannulant en zero. On suppose quil existe des reels > 0 et > 0 tels que
0 G(s) s
2
si 0 < |s| . Alors (4.1) na pas de solution dans H
1
rad
(R
2
).
Demonstration. En eet si u etait une telle solution, en posant (r) := u(x)
pour r = |x|, on aurait :

+
1
r

+g() = 0.
En multipliant cette equation par

et en integrant de r ` a on obtient
1
2
|

(r)|
2
+
_

r
|

(s)|
2
ds
s
G((r)) = 0.
En posant alors F(r) :=
_

r
|

(s)|
2
s
1
ds, sachant par le lemme 1.1 que |(r)|
pour r r
0
et un certain r
0
assez grand, on a donc pour r r
0
:
1
2r
_
r
2
F(r)
_

=
1
2
rF

(r) +F(r) 0.
Cela implique que r
2
F(r) r
2
0
F(r
0
) =: c
0
> 0. Mais alors
r|

(r)|
2
+ 2rG((r)) = rF(r)
c
0
r
,
ce qui, en integrant sur [r
0
, [, permet de voir que
_

r0
_
|

(r)|
2
+ 2|(r)|
2
_
rdr
_

r0
_
|

(r)|
2
+ 2G((r))
_
rdr = ,
et par consequent u nest pas dans H
1
rad
(R
2
).
276 Chapitre 6. Probl`emes sans compacite
5. Le cas de la dimension deux
Il y a deux dicultes pour traiter le cas de la dimension N = 2. Tout dabord il
faut chercher la solution du probl`eme de minimisation sur lensemble
(5.1) S:=
_
v H
1
(R
2
) \ {0} ; G(v) L
1
(R
N
),
_
R
N
G(v(x)) = 0
_
,
et par consequent il faut sassurer que la suite qui minimise J(v) := v
2
sur
S, ne converge pas vers zero. Mais il y a une diculte supplementaire, car non
seulement J et S sont invariants par les translations de R
2
(i.e. J (v( +z)) =
J(v)) mais de plus, pour tout > 0 et v S on a, en posant v

(x) := v(
1
x),
v

S et J(v

) = J(v).
En realite, mettant ` a prot cette deuxi`eme invariance on peut surmonter la
premi`ere diculte et montrer que J atteint son mimimum sur S, du moins dans
le cas o` u G satisfait des conditions raisonnables (voir H. Berestycki, Th. Gallouet
& O. Kavian [20]).
De mani`ere generale, comme nous le verrons par la suite, lorsquune fonc-
tionnelle et la contrainte sur laquelle on veut la minimiser sont invariantes sous
laction dun groupe non compact, en faisant agir ce groupe de mani`ere adequate
sur une suite minimisante, on peut (dans la plupart des cas) sarranger pour
obtenir une nouvelle suite minimisante et relativement compacte.
5.1 Theor`eme. On suppose que G verife la condition (4.3), est deux fois
derivable en zero, G

(0) = 0 et G

(0) = m < 0 et que pour tout > 0


on a :
lim
|s|
exp
_
|s|
2

G(s) = 0.
Si de plus on suppose que G est paire, alors J atteint son minimum sur S
deni par (5.1), en un point v S tel que v est une fonction positive et radiale
decroissante.
Demonstration. Il sut de remarquer quon a seulement besoin de savoir que
pour une suite minimisante on evite la convergence faible vers zero. Si ( z
n
)
n
est
une suite minimisante sur S, du fait que G est paire, on voit quil en est de meme
de la suite des valeurs absolues (z
n
)
n
:= (| z
n
|)
n
. De plus en considerant la suite
des symetrisees (z

n
)
n
, on dispose dune suite minimisante de fonctions radiales
decroissantes et positives. Il est clair quen prenant
n
> 0 de mani`ere adequate,
et en posant
v
n
(x) := z

n
_
x

n
_
,
on peut sarranger pour que
_
R
N
|v
n
(x)|
2
dx = 1, et on aura toujours
v
n
S, J(v
n
) = J(z

n
) inf
uS
J(u),
et de plus, en notant g
0
(s) := g(s) +ms et par G
0
sa primitive, on a :
5. Le cas de la dimension deux 277
(5.2)
_
R
N
G
+
0
(v
n
(x))dx =
m
2
+
_
R
N
G

0
(v
n
(x))dx.
On commence par montrer, en utilisant le theor`eme de Vitali et linegalite de
Trudinger-Moser que G
+
0
(v
n
) tend vers G
+
0
(v) dans L
1
(R
N
), du moins pour une
sous-suite.
En eet pour tout > 0 donne, comme la suite (v
n
)
n
est bornee dans H
1
(R
2
),
dapr`es le lemme 1.1 on peut xer R > 0 assez grand pour que
_
[|x|R]
G
+
0
(v
n
(x))dx .
Notons ensuite que pour tous
0
, > 0 il existe
0
> 0 et M > 0 tels que
_
G
+
0
(s)
0
|s|
2
G
+
0
(s)
0
exp
_
|s|
2

pour |s|
0
,
pour |s| M.
Dautre part, si A B(0, R) =: B
R
est un ensemble mesurable, on peut ecrire
_
A
G
+
0
(v
n
(x))dx
0
_
BR
|v
n
(x)|
2
dx (5.3)
+
0
_
BR
exp
_
|v
n
(x)|
2

dx
+ |A| max
0|s|M
G
+
0
(s).
Or dapr`es linegalite de Trudinger-Moser on sait que pour tout R > 0 il existe
des constantes C
0
> 0 et
0
> 0 telles que

H
1
(BR)
1 =
_
BR
exp
_

0
|(x)|
2

C
0
.
En supposant quici v
n

H
1 C
1
et en prenant :=
0
/C
2
1
, dans linegali-
te (5.3), on voit que pour une constante C independante de n,
0
on a
_
A
G
+
0
(v
n
(x))dx
0
C + |A| max
0|s|M
G
+
0
(s),
et donc la suite (G
+
0
(v
n
))
n
est equi-integrable (voir la denition 1.4.12). Comme
(modulo une extraction de sous-suite) v
n
v p.p. sur R
N
et v
n
v dans
H
1
(R
N
)-faible, en utilisant le fait que G
+
0
(v
n
) converge vers G
+
0
(v) dans L
1
(R
N
)
(theor`eme de Vitali) et en appliquant le lemme de Fatou ` a (5.2), on a :
_
R
N
G
+
0
(v(x))dx
m
2
+
_
R
N
G

0
(v(x))dx > 0,
ce qui conrme que v 0 et J(v) inf
uS
J(u). Il reste ` a montrer que v S.
Or, du fait de lhypoth`ese de croissance sur G, la proposition 1.17.3 implique
que la fonction
278 Chapitre 6. Probl`emes sans compacite
f() :=
_
R
N
G
0
(v(x))dx,
est continue sur [0, 1]. Si on avait v / S, comme f(0) = 0 et f(1) > m/2,
il existerait
0
]0, 1[ tel que f(
0
) = m/2, et v
0
:=
0
v S. Cela nest pas
possible car
0 < J(v
0
) =
2
0
J(v) < inf
uS
J(u).
On doit donc avoir v S et le theor`eme est prouve.
5.2 Remarque. Ici nous navons pas cherche ` a donner les meilleures conditions
sur G pour prouver lexistence dun point de minimum de J sur S. En particulier
la condition de croissance sur G peut etre allegee et imposee uniquement ` a G
+
0
.
Nous verrons par la suite que sous des conditions adequates sur la fonction g,
on peut montrer que la fonction v trouvee dans le theor`eme precedent conduit,
moyennant un changement dechelle, ` a un etat fondamental de lequation u =
g(u). Par exemple (cf. Exercices) si on suppose que pour tout > 0 on a
|g(s)| C()
_
|s| + exp
_
|s|
2
_
,
alors le point de minimum v verie v = g(v) pour un multiplicateur de
Lagrange R. Comme < 0 est impossible dapr`es le lemme 4.10 et que
= 0 impliquerait v 0, on doit avoir > 0. Par consequent, si
u(x) := v
_
x

_
,
on a u = g(u). Si w H
1
(R
2
)\{0} est une autre solution, on a naturellement
G(w) L
1
(R
N
) et g(w) L
2
loc
(R
N
). De sorte que w satisfait lidentite de
Pohozaev et w S. En particulier J(u) = J(v) J(w) et comme 2E(w) = J(w),
on voit que E(u) E(w) et donc que u est un etat fondamental de lequation
w = g(w).
On notera egalement que la demonstration vue plus haut montre quen fait
chercher les points critiques de J sur S revient ` a les chercher sur lensemble
:=
_
u H
1
rad
(R
2
) ;
_
R
N
G(u(x))dx = 0 et
_
R
N
u
2
(x)dx = 1.
_
.
Et de fait comme il a ete prouve dans [20], on peut montrer que J poss`ede une
innite de points critiques sur H
1
rad
(R
2
).
Lidee de minimiser une fonctionnelle invariante par changement dechel-
le peut etre utilisee pour montrer lexistence dun etat fondamental pour les
equations de champ meme dans le cas N 3, ou encore dans des domaines
cylindriques du type R
Nk
o` u est un ouvert borne de R
k
, avec 0 k N2
(voir plus loin et O. Kavian [86]).
6. Le lemme de Lieb 279
6. Le lemme de Lieb
Dans certains cas on ne peut pas montrer a priori que le minimum de la fonction-
nelle que lon etudie est realise par une fonction radiale. On peut alors utiliser le
lemme de E.H. Lieb [97] que nous allons montrer dans un instant. Auparavant
voici un lemme technique, que nous enon cons dans le cas particulier des espaces
H
1
, mais que le lecteur pourra facilement traduire dans le cadre des espaces
W
m,p
. On note toujours la norme de L
2
.
6.1 Lemme. Soit N 1. Il existe une constante C
0
> 0 telle que pour tout
u H
1
(R
N
) tel que u 0 et u 1 il existe y
0
R
N
tel que :
_
2 +u
2
_
mes
_
B(y
0
) supp(u)

C
0
,
o` u B(y) :=

N
i=1
]y
i

1
2
, y
i
+
1
2
[ pour y R
N
.
Demonstration. Tout dabord, notons que sous les hypoth`eses sur u il existe
y
0
R
N
tel que
_
R
N
|u(x)|
2
1
B(y
0
)
(x)dx <
_
1 +u
2
_
_
R
N
|u(x)|
2
1
B(y
0
)
(x)dx.
En eet sinon on pourrait recouvrir R
N
par des cubes B(y
n
) disjoints et en
faisant la somme sur n on obtiendrait :
1
_
R
N
|u(x)|
2
dx
_
1 +u
2
_
_
R
N
|u(x)|
2
dx > 1.
Ensuite supposons que N 3 (le cas N = 2 ou N = 1 est analogue et on le
laisse en exercice). Si 2

=
2N
N2
, par linegalite de Sobolev on a :
C
0
u1
B(y
0
)

2
L
2

_
B(y
0
)
_
|u(x)|
2
+ |u(x)|
2
_
dx

_
2 +u
2
_
_
B(y
0
)
|u(x)|
2
dx.
Or en appliquant linegalite de H older on voit que :
u1
B(y
0
)

2
u1
B(y
0
)

2
L
2

_
mes
_
B(y
0
) supp(u)
_
1
2
2

,
do` u on deduit le resultat du lemme.
6.2 Lemme (E.H. Lieb). Soit (u
n
)
n
une suite de H
1
(R
N
) telle que u
n

R. On suppose quil existe , > 0 tels que :
(6.1) n 1, mes ([|u
n
| > ]) .
Alors il existe une suite (y
n
)
n
de R
N
telle que si v
n
(x) := u
n
(x + y
n
), aucune
sous-suite de (v
n
)
n
ne converge faiblement vers zero.
Demonstration. Sans perte de generalite on peut supposer que u
n
1.
En appliquant le lemme 6.1 ` a la fonction
280 Chapitre 6. Probl`emes sans compacite
_
|u
n
|

2
_
+
,
et en notant que
_
R
N

_
|u
n
(x)|

2
_
+

2
dx
_
|un|>

_
|u
n
(x)|

2
_
+

2
dx


2
4
mes [|u
n
| > ]
1
4

2
,
on voit quainsi
_
|u
n
(x)|

2
_
+

2
4
1

2
et donc
_
2 + 4
1

2
_
mes
_
B(y
n
) supp
_
|u
n
|

2
_
+
_
C
0
.
Comme supp
_
|u
n
|

2
_
+
= [|u
n
| > /2], on conclut que
mes
_
B(y
n
)
_
|u
n
| >

2
__
C(, ) > 0,
o` u C(, ) :=
2
/(4 + 2
2
) est independante de n. En particulier si v
n
(x) :=
u
n
(x +y
n
), on verie facilement que
_
B(0)
|v
n
(x)|
2
dx
_
B(y
n
)[|un|>/2]
|u
n
(z)|
2
dz

1
4

2
C(, ) > 0 ,
ce qui prouve que (v
n
)
n
ne contient aucune sous-suite convergeant faiblement
vers zero dans H
1
(R
N
).
7. Une application du lemme de Lieb
Pour illustrer le lemme de Lieb, nous allons lappliquer ` a une variante du
probl`eme de minimisation que nous avons etudie aux paragraphes precedents,
mais cette fois sans utiliser la compacite des fonctions radiales (voir H. Brezis
& E.H. Lieb [34] et O. Kavian [86]). Dans un premier temps soient N 3 et
m 1 des entiers. On pose
(7.1)
_

_
F(u) := G(u)
1
2
N

i=3
|
i
u|
2
,
S
0
:=
_
u ; F(u) L
1
(R
N
),
_
R
N
F(u)(x)dx 0
_
,
S
+
:= S
0

_
H
1
(R
N
)
_
m
\ {0} ,
J(u) :=
_
R
N
_
|
1
u(x)|
2
+ |
2
u(x)|
2
_
dx.
7. Une application du lemme de Lieb 281
On rappelle que les solutions de u = g(u) qui verient lidentite de Pohozaev
sont dans S
+
; plus precisement elles satisfont
_
R
N
F(u)(x)dx = 0.
En particulier on a 2E(u) = J(u), et la minimisation de J sur S
+
fournit bien
un etat fondamental de lequation u = g(u).
On suppose que G satisfait les conditions suivantes :
G C
1
(R
m
, R) , G(0) = 0, (7.2)
limsup
|s|
|s|
2

G
+
(s) = 0, (7.3)
a
0
> 0,
0
> 0 tels que G(s)
a
0
2
|s|
2
si |s|
0
. (7.4)
s
0
R
m
, G(s
0
) > 0. (7.5)
7.1 Theor`eme. Soient N 3 et G satisfaisant (7.2)(7.5) et g = G

. On
suppose quil existe une constante C > 0 telle que pour s R
m
on ait |g(s)|
C(|s| + |s|
N+2
N2
) et que pour tout > 0 il existe une fonction continue H avec
H(0) = 0 telle que pour s, t R
m
on ait
(7.6) |G(s +t) G(s)|
_
|G(s)| + |s|
2

_
+H(t).
Alors J et S
+
etant denis par (7.1), J atteint son minimum sur S
+
en un point
u tel que
_
R
N
F(u)(x)dx = 0. De plus il existe > 0 tel que si
u(x) := u
_
x
1

,
x
2

, x
3
, . . . , x
N
_
,
on a u = g( u) et u est un etat fondamental de cette equation.
Demonstration. La condition (7.5) implique que S
+
= . Soient :=
inf
vS+
J(v) et ( v
n
)
n
S
+
une suite minimisante. On peut xer
n
> 0 tel
que si
v
n
(x) := v
n
(
n
x
1
,
n
x
2
, x
3
, . . . , x
N
) ,
on ait a
0
v
n

2
+

N
i=3

i
v
n

2
= 2. Comme v
n
S
+
et J(v
n
) = J( v
n
), on
dispose dune suite minimisante (v
n
)
n
qui est bornee dans H
1
(R
N
).
Nous allons montrer dans un premier temps que la suite (v
n
)
n
est loin de
zero. En eet pour tout > 0 il existe t > 0 tel que G
+
(s) |s|
2

pour |s| t.
On en deduit
1
_
R
N
G
+
(v
n
(x))dx
a
0
2
_
[|vn|0]
|v
n
(x)|
2
dx
+
_
[0<|vn|<t]
G
+
(v
n
(x))dx
+
_
[|vn|t]
|v
n
(x)|
2

dx,
282 Chapitre 6. Probl`emes sans compacite
ce qui, en utilisant linegalite de Sobolev, montre que pour une constante C
dependant uniquement de N on a :
1 max
0|s|t
G
+
(s) mes ([|v
n
|
0
]) +Cv
n

.
En prenant nalement > 0 assez petit pour que Cv
n

1/2, on voit que


mes ([|v
n
|
0
]) max
0|s|t
G
+
(s)
1
2
.
On peut appliquer maintenant le lemme de Lieb 6.2 pour conclure quil existe
une suite y
n
de R
N
telle que si
u
n
(x) := v
n
(x +y
n
),
alors (u
n
)
n
ne contient pas de sous-suite convergeant vers zero dans H
1
(R
N
)-
faible. Moyennant une extraction de suite, u
n
u dans H
1
(R
N
)-faible et pour
tout q < 2

_
0 < J(u) ,
u
n
u dans L
q
loc
(R
N
) et p.p.
Verions tout dabord que G(u) L
1
(R
N
). On a, pour , > 0 xes comme
plus haut :
_
R
N
_
G(u
n
(x)) +
a
0
2
|u
n
(x)|
2
_
+
dx
_
R
N
|u
n
(x)|
2
dx
+ max
0|s|R
_
G(s) +
a
0
2
|s|
2
_
+
mes ([|u
n
| > ]) .
Or mes ([|u
n
| > ])
2

_
R
N
|u
n
(x)|
2

dx C ; par consequent
_
R
N
_
G(u
n
(x)) +
a
0
2
|u
n
(x)|
2
_
+
dx C
et le lemme de Fatou implique que
_
G(u) +
a0
2
|u|
2
_
+
L
1
(R
N
). Par ailleurs de
fa con claire :
1 +
_
R
N
_
G(u
n
(x)) +
a
0
2
|u
n
(x)|
2
_

dx

_
R
N
_
G(u
n
(x)) +
a
0
2
|u
n
(x)|
2
_
+
dx,
et de nouveau le lemme de Fatou montre que
_
G(u) +
a0
2
|u|
2
_

est dans L
1
(R
N
),
et nalement G(u) L
1
(R
N
).
On notera ici que si on savait que la suite
_
G(u
n
) +
a0
2
|u
n
|
2
_
+
est equi-
integrable, on pourrait conclure que u S, et alors la preuve du theor`eme serait
nie (cest cette information que nous fournissait la lemme 1.1, lorsquon se
contentait de travailler avec les fonctions radiales). Mais du fait quici on ne sait
7. Une application du lemme de Lieb 283
rien du comportement ` a linni des fonctions u
n
, on ne peut pas dire que la suite
_
G(u
n
) +
a0
2
|u
n
|
2
_
+
est equi-negligeable ` a linni.
Pour montrer que u S on va montrer le lemme suivant, qui est un cas
particulier des relations de Kuhn-Tucker ; voir Exercice 2 du chapitre 3. On
posera
(7.7) V (u) :=
_
R
N
F(u)(x)dx, V

(u) := g(u) +
N

i=3

ii
u.
et on notera
1
:= (
1
,
2
), pour une fonction H
1
(R
N
).
7.2 Lemme. Soit V denie par (7.7). Alors pour (D(R
N
))
m
on a :
V

(u), > 0 =
_
R
N

1
u(x)
1
(x)dx 0.
En particulier il existe > 0 tel que : (
11
+
22
) u = V

(u).
En admettant un instant ce lemme, nous pouvons conclure que u S et
J(u) = , le minimum de J sur S. En eet compte tenu du fait que > 0, on
verie facilement que si on pose
u(x) := u
_
x
1

,
x
2

, x
3
, . . . , x
N
_
,
alors on a u = g( u), et lhypoth`ese de croissance sur g permet dafrmer
que u satisfait lidentite de Pohozaev et en particulier V ( u) = 0. Comme on a
V (u) = V ( u), et sachant que J(u) , on conclut que u S
+
, et J(u) = .
Par la meme occasion on note que u est un etat fondamental de lequation
v = g(v).
Il nous reste ` a montrer le lemme 7.2.
Demonstration du lemme 7.2. On notera dabord que gr ace ` a lhypoth`ese
de croissance sur g, la fonctionnelle V est de classe C
1
sur H
1
(R
N
) et que sa
derivee est precisement V

donnee par (7.7). Ensuite notons que V

(u) = 0 (car
u 0, voir aussi Exercices), et que par consequent il existe (D(R
N
))
m
telle
que V

(u), > 0. Pour une telle fonction xee, il existe t

> 0 tel que pour


t ]0, t

[ on ait
V (u +t) V (u) > 0.
Soit t ]0, t

[ xe. Si on montre quil existe n


0
1 tel que
(7.8) n n
0
V (u
n
+t) V (u
n
) 0,
alors le lemme est prouve. En eet si cette propriete est etablie, pour n n
0
on
a u
n
+t S
+
et
J(u) J(u
n
+t) = J(u
n
) + 2t
_
R
N

1
(x)
1
u
n
(x)dx +t
2
J().
284 Chapitre 6. Probl`emes sans compacite
Ce qui, en faisant tendre n vers linni et utilisant le fait que u
n
u dans
H
1
(R
N
)-faible, implique que
2
_
R
N

1
(x)
1
u(x)dx +tJ() 0.
Maintenant, en faisant tendre t vers zero, on obtient
_
R
N

1
(x)
1
u(x)dx 0,
et largument que nous avons evoque ` a la n de la demonstration du lemme 4.3
permet de conclure que (
11
+
22
) u = V

(u) pour un 0. Or = 0
impliquerait u 0, contrairement ` a ce que nous savons de u. On a ainsi > 0
et le lemme 7.2 est prouve.
Reste donc ` a montrer (7.8) ; pour ce faire on va montrer que
lim
n
V (u
n
+t) V (u
n
) = V (u +t) V (u).
Or si supp() B := B(0, R) pour un R > 0, on peut ecrire
V (u
n
+t) V (u
n
) =
_
R
N
[F(u
n
(x) +t(x)) F(u
n
(x))] dx
=
_
B
[F(u
n
(x) +t(x)) F(u
n
(x))] dx.
Du fait de la stucture de F et puisque u
n
u dans H
1
(R
N
)-faible, on doit
essentiellement verier que
z
n
:= G(u
n
+t) G(u
n
),
tend vers z := G(u + t) G(u) dans L
1
(B). On sait dej` a que z
n
z presque
partout et que |G(u
n
)| est bornee dans L
1
. Montrons lequi-integrabilite de la
suite (z
n
)
n
. Dapr`es lhypoth`ese (7.6) sur G on peut ecrire, pour tout ensemble
mesurable A B,
_
A
|z
n
(x)|dx
_
A
_
|G(u
n
(x))| + |u
n
(x)|
2
_
dx +
_
A
H(t(x))dx.
Comme G(u
n
) et |u
n
|
2

sont bornees dans L


1
(R
N
), en prenant dabord > 0
petit, puis mes(A) petite, on conclut que (z
n
)
n
est equi-integrable. Enn le
theor`eme de Vitali permet de dire que z
n
z dans L
1
(B) et la propriete (7.8)
est prouvee.
7.3 Remarque. Nous laissons au lecteur le soin denoncer et etablir un resultat
analogue dans le cas o` u N = 2 : en eet la seule chose qui change est que lon
peut autoriser une croissance exponentielle ` a g.
De meme si R
k
est un ouvert borne et := R
Nk
avec Nk 2, on
peut traiter le probl`eme de lexistence dune solution u H
1
0
() de lequation
8. La methode de concentration-compacite 285

i=1

ii
u
N

i,j=

i
(a
ij
(y)
j
u) = g(y, u),
o` u := N k +1, y et (a
ij
)
i,jN
est une matrice symetrique et coercive.
Voir Exercices pour letude dune telle equation.
7.4 Remarque. On aura note que dans le theor`eme 7.1 on ne suppose pas que
G est paire, et que dans le cas de lequation scalaire o` u m = 1, on ne dit rien
du signe de u, contrairement ` a letude precedente utilisant les fonctions radiales.
On rappelle aussi que la solution u est ` a decroissance exponentielle ` a linni,
cest ` a dire que la proposition 4.5 est valable pour la solution donnee par le
theor`eme 7.1, en supposant toutefois que g satisfait la condition (4.11) (dans le
cas o` u m 2, pour s R
m
, on note sgn(s) := 0 si s = 0 et sgn(s) := s/|s|
sinon). Enn la condition de croissance imposee ` a g dans le theor`eme 7.1 peut
etre allegee.
8. La methode de concentration-compacite
Cette methode introduite par P.L. Lions [103106] est basee sur le lemme suivant,
et cest la methode la plus generale pour traiter les probl`emes de minimisation
qui interviennent dans les domaines les plus varies (

Equations aux Derivees


Partielles, Analyse Harmonique, Calcul des Variations, etc.). Nous commen cons
par montrer le premier lemme de concentration-compacite de P.L. Lions, puis
nous introduirons le principe de concentration-compacite.
8.1 Lemme de concentration-compacite. Soit > 0 xe. On consid`ere une
suite de fonctions positives (
n
)
n
telle que pour tout n 1
_
R
N

n
(x)dx = .
Il existe alors une sous-suite (
ni
)
i
telle quune seule des trois possibilites suiv-
antes se presente.
1) Compacite : il existe une suite (y
i
)
i
de R
N
telle que pour tout > 0 il
existe R < veriant
i 1,
_
B(y
i
,R)

ni
(x)dx .
2)

Evanescence : pour tout R < xe on a
lim
i
_
sup
yR
N
_
B(y,R)

ni
(x)dx
_
= 0.
3) Dichotomie : il existe ]0, [ tel que pour tout > 0, il existe des
fonctions positives
1,i
,
2,i
L
1
(R
N
) et i
0
1 tels que pour tout i i
0
on
ait :
286 Chapitre 6. Probl`emes sans compacite
_
R
N
|
ni
(x) [
1,i
(x) +
2,i
(x)]| dx ,

_
R
N

1,i
(x)dx

_
R
N

2,i
(x)dx ( )

,
lim
i
dist (supp(
1,i
), supp(
2,i
)) = +.
Demonstration. Pour toute fonction positive de L
1
(R
N
) on denit sa
fonction de concentration de P. Levy par :
(8.1) Q(t) := sup
yR
N
_
B(y,t)
(x)dx.
Q est une fonction croissante bornee : on a Q(0) = 0 et Q() =
_
R
N
(x)dx. On
notera Q
n
la fonction de concentration associee ` a
n
. Rappelons le lemme suivant
(dont on peut trouver une demonstration elementaire dans les Exercices) :
Lemme. Soient , T des reels positifs et nis et (f
n
)
n
une suite
de fonctions croissantes de [0, T] dans [0, ]. Alors il existe une
sous-suite (f
ni
)
i
et une fonction croissante f de [0, T] dans [0, ]
telles que f
ni
(t) f(t), sauf pour une innite denombrable de
t [0, T].
En utilisant ce lemme, on conclut que (Q
n
)
n
contient une sous-suite (Q
ni
)
i
convergeant p.p. vers Q, et on a naturellement :
(8.2) Q(0) = 0, := Q() = lim
t
Q(t) [0, ].
Si Q() = = 0, alors la propriete 2) est veriee. De meme si = , alors
cest la propriete 1) qui est satisfaite. En eet soit

2
et < . Il existe
R := R() tel que pour tout i 1, on ait Q
ni
(R) > . Comme
Q
ni
(R) = sup
yR
N
_
B(y,R)

ni
(x)dx,
il existe y
i
() tel que
_
B(y
i
(),R)

ni
(x)dx > .
En posant y
i
:= y
i
(/2) et

R := R(/2), on constate que pour tous >

2
(avec
< ) et i 1 on a
| y
i
y
i
()|

R +R().
(Car sinon on aurait B( y
i
,

R) B(y
i
(), R()) = et cela conduirait ` a
_
B(y
i
, R)

ni
(x)dx +
_
B(y
i
(),R())

ni
(x)dx >

2
+ >
qui contredit lhypoth`ese
_
R
N

ni
(x)dx = ). On voit donc quen posant R
0
() :=
2R() +

R, pour

2
< < on a
8. La methode de concentration-compacite 287
_
B(y
i
,R0())

ni
(x)dx > ,
ce qui montre la propriete 1).
Enn si ]0, [, soit > 0 xe. On peut prendre R > 0 tel que Q(R) >

1
4
, et alors il existe i
0
1 tel que pour tout i i
0
on ait


4
< Q
ni
(R) < +

4
.
On peut egalement trouver y
i
R
N
tel que pour i i
0
on ait :


4
<
_
B(y
i
,R)

ni
(x)dx < +

4
.
Alors si
1,i
:=
ni
1
B(y
i
,R)
, on a de fa con claire :

_
R
N

1,i
(x)dx


4
.
Par ailleurs il existe R
i
> R tel que lorsque i on ait R
i
+et Q
ni
(R
i
)
. En posant
2,i
:=
ni
1
B(y
i
,Ri)
c, on verie facilement que :
_
R
N
[
ni
(x) (
1,i
(x) +
2,i
(x))] dx =
_
[R|xy
i
|<Ri]

ni
(x)dx
Q
ni
(R
i
) Q
ni
(R) +

2
.
Finalement comme dist (supp(
1,i
), supp(
2,i
)) +, et que
<
_
B(y
i
,Ri)

ni
(x)dx < +,
on conclut que les conditions donnees par la propriete 3) sont satisfaites et le
lemme est prouve.
8.2 Remarque. On notera que les conclusions du lemme 8.1 sont valides si on
suppose que
_
R
N

n
(x)dx =
n
,
o` u
n
> 0 : en eet il sut dappliquer le lemme ` a la suite
n
/
n
. De
meme lors de la construction des suites
1,i
et
2,i
, on peut remarquer quil est
possible de remplacer 1
B(y
i
,R)
et 1
B(y
i
,Ri)
c par des fonctions de troncature de
classe C

. Plus precisement si
i
,
i
C

(R
N
) verient
0
i
1,
i
= 1 sur B(y
i
, R),
i
= 0 sur B(y
i
, R +
i
)
c
,
0
i
1,
i
= 0 sur B(y
i
, R
i

i
),
i
= 1 sur B(y
i
, R
i
)
c
,
alors on peut xer
i
> 0 assez petit pour que
1,i
:=
ni

i
et
2,i
:=
ni

i
remplissent les conditions de la propriete 3). Comme nous le verrons par la suite,
288 Chapitre 6. Probl`emes sans compacite
linteret de ces nouvelles fonctions reside dans le fait que
1,i
et
2,i
conservent
la meme regularite que
ni
(par exemple si les
ni
sont dans H
1
(R
N
), il en est
de meme de
j,i
pour j = 1, 2).
8.3 Remarque. Un examen rapide de la preuve du lemme 8.1 montre que
lorsque lon traite des probl`emes variationnels dans des espaces sur lequels
dautres groupes que celui des translations agissent, il faut changer leg`erement
la denition de la fonction de concentration Q(R), en prenant par exemple
dautres ouverts B(y, R) qui recouvrent lespace o` u lon travaille. Cela est par-
ticuli`erement vrai pour les probl`emes de minimisation venant de lAnalyse Har-
monique o` u lespace sous-jacent est un groupe de Lie non compact ou non com-
mutatif.
Pour utiliser le lemme de concentration-compacite et montrer par exemple
que les suites minimisantes sont relativement compactes, en general on proc`ede
en montrant que la suite reste loin de zero dans un sens approprie (cela pour
eviter le cas 2 du lemme qui correspond ` a levanescence) et que la masse totale
des elements de la suite na pas interet ` a se scinder en deux pour realiser le
minimum.
En ce qui concerne le cas de levanescence, on dispose du lemme suivant de
P.L. Lions qui est ` a comparer avec le lemme de Lieb 6.2.
8.4 Lemme. Soient 1 < p , 1 q < et N 1 un entier. Lorsque N > p,
on suppose de plus que q = p

. Soit (u
n
)
n
une suite bornee de L
q
(R
N
) telle que
(|u
n
|)
n
est bornee dans L
p
(R
N
) ; sil existe R > 0 tel que
lim
n
_
sup
yR
N
_
B(y,R)
|u
n
(x)|
q
dx
_
= 0,
alors u
n
tend vers zero dans L
r
(R
N
) si min(q, p

) < r < max(q, p

) (on convient
que p

= si p N).
Demonstration. Dans un premier temps supposons que la suite (u
n
)
n
est
bornee dans L

(R
N
) et que N > p. Alors il est clair que pour m > min(q, p

)
on a
lim
n
_
sup
yR
N
_
B(y,R)
|u
n
(x)|
m
dx
_
= 0.
En appliquant linegalite de H older, on voit que si (1)p

> min(q, p

) et > q
(ici p

(p 1) = p), alors
lim
n
_
sup
yR
N
_
B(y,R)
|u
n
(x)|
1
|u
n
(x)|dx
_
= 0,
et en posant z
n
:= |u
n
|

, et utilisant linegalite de Sobolev, on sait que pour


> 1 et (N 1) < N on a
8. La methode de concentration-compacite 289
_
B(y,R)
|z
n
(x)|

dx C
_
_
B(y,R)
(|z
n
(x)| + |z
n
(x)|) dx
_

,
C
1
n
_
B(y,R)
(|z
n
(x)| + |z
n
(x)|) dx.
o` u
n
:=
_
B(y,R)
(|z
n
(x)| + |z
n
(x)|) dx tend vers zero lorsque n +. En
supposant que les B(y, R) sont des cubes

N
i=1
]y
i

R
2
, y
i
+
R
2
[, et en recouvrant
R
N
par une suite disjointe de cubes B(y
j
, R) on conclut que
_
R
N
|z
n
(x)|

dx C
1
n
_
R
N
(|z
n
(x)| + |z
n
(x)|) dx C
1
n
.
On conclut que u
n
tend vers zero dans L
r
(R
N
), si = r, et le lemme est prouve
dans le cas o` u on sait que (u
n
)
n
est bornee dans L

(R
N
).
Pour le cas general, on voit sans peine que si t > 0, la suite
v
n
:= min(|u
n
|, t),
satisfait les hypoth`eses precedentes, et par consequent v
n

r
0 si min(q, p

) <
r < max(q, p

). Or pour > r et compris entre q et p

, on sait que (u
n
)
n
est
bornee dans L

(R
N
), et en ecrivant
_
R
N
|u
n
(x)|
r
dx
_
R
N
|v
n
(x)|
r
dx +
_
[|un|>t]
|u
n
(x)|
r
dx

_
R
N
|v
n
(x)|
r
dx +t
r
_
R
N
|u
n
(x)|

dx,
en faisant tendre n puis t vers linni et en prenant la limsup dans cette inegalite,
on conclut que u
n

r
tend vers zero.
Pour ce qui est de la question de dichotomie, nous allons expliquer de fa con
heuristique ce quil faut faire. Considerons le probl`eme de minimisation
(8.3) inf {J(v) ; v X, F(v) = 1} ,
o` u X est un espace de Banach de fonctions denies sur R
N
, et A, B etant des
operateurs de X dans dautres espaces fonctionnels Y, Z, on suppose que
J(v) :=
_
R
N
j(x, Av(x))dx, F(v) :=
_
R
N
f(x, Bv(x))dx,
et j : R
N
R
m
R et f : R
N
R
n
R
+
verient j(x, 0) = f(x, 0) = 0 et
j(x, y) j

(y) et f(x, z) f

(z) lorsque |x| et y R


m
, z R
n
sont
xes. On denit deux nouvelles fonctionnelles ` a linni J

et F

comme plus
haut en rempla cant j et f par j

et f

respectivement. Puis pour > 0 on


associe au probl`eme (8.3) les deux probl`emes de minimisation
I

:= inf {J(v) ; v X, F(v) = } ,


I

:= inf {J

(v) ; v X, F

(v) = } .
290 Chapitre 6. Probl`emes sans compacite
On suppose que les ensembles o` u on cherche la borne inferieure sont non vides et
que les fonctions u telles que F(u) = peuvent etre approchees par des fonctions
` a support compact veriant la meme contrainte. De plus pour 0 < 1 on
admet que I

> , et on suppose (ou on pose) I


0
= 0.
On remarque tout dabord que lon a toujours linegalite large
(8.4) [0, [, I

+I

.
En eet, pour > 0, on peut choisir u

et v

` a support compact tels que F(u

) =
, F(v

) = et
I

J(u

) I

+, I

(v

) I

+.
Alors si e R
N
, |e| = 1 et v
n,
(x) := v

(x + ne), on peut voir, du fait que les


supports u

et v
n,
sont disjoints pour n assez grand, que lon a
lim
n
J(u

+v
n,
) = J(u

) +J

(v

),
lim
n
F(u

+v
n,
) = F(u

) +F

(v

) = ,
o` u on utilise le fait que J

et F

sont invariantes par les translations de R


N
.
Finalement on conclut que pour n n
0
assez grand on a
I

+I

J(u

+v
n,
) I

+I

+ 3
et en prenant w
n
(` a support compact) assez proche de u

+v
n,
tel que F(w
n
) =
et |J(w
n
)J(u

+v
n,
)| , on voit que comme I

J(w
n
), on a linegalite (8.4).
En realite largument que nous venons dutiliser montre aussi que si on a I

=
I

+I

pour un ]0, [, alors les suites minimisantes ne sont pas relativement


compactes : en eet on peut verier facilement que
_
R
N
w
n
(x)(x)dx 0 pour
tout D(R
N
) et
lim
n
J(w
n
) = I

+I

= I

,
alors que la suite (w
n
)
n
ne contient aucune sous-suite convergeant dans lensemble
des contraintes {u X ; F(u) = }.
Lorsque les fonctions F et J sont invariantes sous laction des translations
de R
N
, on a I

= I

, et tout ce que lon peut esperer est que les suites


minimisantes soient relativement compactes modulo une suite de translations.
On peut ainsi enoncer un principe de concentration-compacite disant que les
conditions
[0, [, I

< I

+I

, (8.5)
]0, [, I

< I

+I

(8.6)
empechent les suites minimisantes de se diviser en deux morceaux, ce qui evite
le cas 3) du lemme 8.1. Au paragraphe suivant nous verrons, en appliquant
cette methode au probl`eme de minimisation que nous avons dej` a etudie, que les
conditions (8.5) ou (8.6) sont susantes pour que toute suite minimisante soit
8. La methode de concentration-compacite 291
relativement compacte (dans le cas o` u cest la condition (8.6) qui est satisfaite,
ce sera une compacite modulo les translations).
8.5 Exemple. Pour voir concr`etement la demarche ` a suivre, considerons pour
> 0 :
S

:=
_
u H
1
(R
N
) ;
_
R
N
|u(x)|
p+1
dx =
_
,
J(u) :=
_
R
N
_
|u(x)|
2
+ |u(x)|
2
_
dx,
pour N 1 et (N 2)p < (N + 2) (avec p > 1). Alors si
I

:= inf
vS

J(v),
on voit facilement que I

=
2
p+1
I
1
. Notons dabord que I
1
> 0, et par
consequent I

> 0 pour tout > 0. En eet si on avait I


1
= 0, pour une suite
(u
n
)
n
de S
1
telle que J(u
n
) I
1
= 0, on aurait en particulier u
n

p+1
0, ce
qui contredit la contrainte u
n
S
1
.
Ensuite remarquons que, si 0 < < et, par exemple, , on a :

2
p+1
<


2
p+1
=
2
p+1
+


2
p+1
<
2
p+1
+




( )
2
p+1
,
ce qui montre (puisque I
1
> 0) linegalite stricte
(8.7) I

< I

+I

pour 0 < < ;


cette inegalite empeche lapparition de dichotomie dans les suites minimisantes
et on peut montrer quelles sont relativement compactes modulo des translations.
En eet, en appliquant le lemme 8.1 ` a
n
:= |u
n
|
p+1
o` u (u
n
)
n
est une suite
de S

telle que J(u


n
) I

, comme I

> 0, on peut dire que pour tout R > 0


la suite
Q
n
(R) := sup
yR
N
_
B(y,R)
|u
n
(x)|
p+1
dx
ne tend pas vers zero. En eet sinon pour un R > 0 on aurait (en utilisant
linegalite de H older)
lim
n
_
sup
yR
N
_
B(y,R)
|u
n
(x)|
q
dx
_
= 0,
pour tout q < p + 1, et par consequent, (u
n
)
n
etant bornee dans H
1
(R
N
), le
lemme 8.4 impliquerait u
n

p+1
0, ce qui contredirait la contrainte u
n
S

.
On en conclut que levanescence, i.e. le cas 2) du lemme de concentration-com-
pacite 8.1, ne se presente pas pour la suite
n
.
292 Chapitre 6. Probl`emes sans compacite
De meme nous allons verier quil ny a pas de dichotomie. En eet dans
le cas present, en supposant que Q
n
(R) Q(R), que u
n
u dans H
1
(R
N
)-
faible et que u
n
u dans L
q
loc
(R
N
) et p.p. (avec (N 2)q < 2N), on peut
verier que le cas 3) du lemme 8.1 se traduit par lexistence dun ]0, [ tel
que Q() =: ]0, [. Pour > 0 xe assez petit, en prenant R
0
> 0 tel que
Q(R
0
) , il existe y
n
R
N
et une suite R
n
tels que
2
_
B(y
n
,R0)
|u
n
(x)|
p+1
dx +, et Q
n
(R
n
) +.
Soit maintenant

(R) une fonction decroissante avec 0

1,

(t) =
1 pour t 1,

(t) = 0 si t 2 et |

(t)| 2. Introduisons les fonctions


(x) :=

(|x|) et

n
(x) :=
_
x y
n
R

_
,
n
(x) := 1
_
x y
n
R
n
_
,
puis u
1,n
:=
n
u
n
, et u
2,n
:=
n
u
n
; R

> max(R
0
, 1) sera xe assez grand
pour que pour tout n 1 on ait 4R
1

u
n

H
1 . On peut alors verier sans
diculte que pour tout n tel que R
n
R

on a :

_
R
N

n
(x)
2
|u
n
(x)|
2
dx
_
R
N
|(
n
u
n
)(x)|
2
dx

_
R
N

n
(x)
2
|u
n
(x)|
2
dx
_
R
N
|(
n
u
n
)(x)|
2
dx

.
Par ailleurs comme
n
+
n
1
B(y
n
,2R)
+ 1
B(y
n
,Rn)
c, on voit que
J(u
n
) J(u
1,n
) + J(u
2,n
) 2.
De plus
_
R
N

_
x y
n
R

_
|u
n
(x)|
p+1
dx Q
n
(2R

) +,
_
R
N

_
x y
n
R
n
_
|u
n
(x)|
p+1
dx
_
B(y
n
,Rn)
|u
n
(x)|
p+1
dx ,
ce qui permet enn de verier linegalite
u
n
u
1,n
u
2,n

p+1
p+1

_
R
N
_

_
x y
n
R

_
x y
n
R
n
__
|u
n
(x)|
p+1
dx
2.
Ainsi, puisque

u
1,n

p+1
p+1

et

u
2,n

p+1
p+1
()

, on en conclut, en
prenant v
1,n
S

et v
2,n
S

telles que u
i,n
v
i,n

2
H
1
(avec i = 1, 2),
que pour n assez grand et > 0 assez petit on a :
J(u
n
) J(v
1,n
) +J(v
2,n
) 4 I

+I

4,
8. La methode de concentration-compacite 293
ce qui conduit ` a I

+I

, contrairement ` a linegalite (8.7).


Finalement la seule possibilite pour
n
= |u
n
|
p+1
est de satisfaire la con-
dition 1) du lemme 8.1, cest ` a dire quil existe une sous-suite (notee encore)
(u
n
)
n
et une suite de points y
n
R
N
telles que pour tout > 0, il existe R > 0
veriant pour tout n 1 :
_
B(y
n
,R)
|u
n
(x)|
p+1
dx .
En posant v
n
(x) := u
n
(x + y
n
), et en supposant que v
n
v dans H
1
(R
N
)-
faible, p.p. sur R
N
et dans L
q
loc
(R
N
) pour tout q 1 tel que (N 2)q < 2N, on
verie sans peine que v S

et J(v) I

, donc que J(v) = I

. Cet argument
montre en meme temps quen realite v
n
v dans H
1
(R
N
)-fort et que toute
suite minimisante est relativement compacte, modulo une suite de translations
de R
N
.
8.6 Remarque. Il est utile de noter que dans lexemple ci-dessus on ne suppose
pas que la suite minimisante poss`ede une quelconque symetrie, ni quelle est pos-
itive. Nous attirons egalement lattention sur le fait quici N 1 est quelconque,
et que pour N = 1, on ne peut pas utiliser les fonctions ` a symetrie radiale pour
minimiser J sur S

.
Enn on aura remarque que si p = 1, alors I

= I

+ I

, et aucune suite
minimisante nest relativement compacte.
Le second lemme de concentration-compacite concerne le cas limite des in-
jections de Sobolev dans le cas des espaces W
m,p
(R
N
) et L
p
m
(R
N
) (voir pour
la demonstration P.L. Lions [105, lemma I.1]). Plus precisement pour 1 p <
on note D
m,p
(R
N
) ladherence de D(R
N
) pour la norme D
m

L
p
(R
N
)
;
cet espace est muni de la norme D
m
u
p
. Linegalite de Sobolev implique en
particulier que si N > mp, alors D
m,p
(R
N
) L
p
m
(R
N
) o` u p
m
:=
Np
Nmp
. On
notera
S(m, p, N) := inf
_
D
m
u
p
p
; u D
m,p
(R
N
), u
p
m = 1
_
> 0.
Lespace des mesures de Radon bornees sur etant note M(), nous dirons
quune suite de mesures (
n
)
n
tend faiblement vers dans M(), si :
C
c
(), lim
n

n
, = lim
n
_

d
n
=
_

d = , .
On ecrira alors
n
dans M()-faible (on dit aussi que la suite (
n
)
n
converge vaguement vers ). De meme on dira quune suite de mesures (
n
)
n
de
M() converge etroitement vers (et on ecrira
n
etroitement) si :
C
b
(), lim
n

n
, = lim
n
_

d
n
=
_

d = , .
8.7 Second Lemme de Concentration-compacite. Soient un entier m 1,
un reel 1 p <
N
m
; on note p
m
:=
Np
Nmp
et := 1
mp
N
. On suppose que la
294 Chapitre 6. Probl`emes sans compacite
suite (u
n
)
n
de D
m,p
(R
N
) converge faiblement vers u D
m,p
(R
N
) et quil existe
deux mesures bornees et telles que |D
m
u
n
|
p
dans M(R
N
)-faible et
|u
n
|
p
m
etroitement. Alors :
1) Il existe un ensemble au plus denombrable J, des points (x
j
)
jJ
et des
reels (a
j
)
jJ
tels que a
j
> 0 et
= |u|
p
m
+

jJ
a
j

xj
.
2) De plus il existe des reels b
j
> 0 tels que S(m, p, N)a

j
b
j
et
|D
m
u|
p
+

jJ
b
j

xj
et

jJ
a

j
< .
3) Si v D
m,p
(R
N
) et |D
m
(u
n
+v)|
p
dans M(R
N
)-faible, alors
L
1
(R
N
) et
|D
m
(u +v)|
p
+

jJ
b
j

xj
.
4) Si u 0 et 0 <
_
d S(m, p, N)
_
d, alors J est reduit ` a un seul
element et il existe c > 0 et x
0
R
N
tels que
= c
x0
et = S(m, p, N)c
1+

x0
.
9. Lexemple de lequation de champ
Nous reprenons ici le probl`eme que nous avons traite dans les paragraphes
precedents, en utilisant cette fois le lemme de concentration-compacite de P.L. Li-
ons. Soient m 1 un entier et, pour > 0, les ensembles

:=
_
u ; G(u) L
1
(R
N
),
_
R
N
G(u(x))dx =
_
,
S

:= (H
1
(R
N
))
m

. (9.1)
On supposera que G satisfait les conditions suivantes :
G C (R
m
, R) , G(0) = 0, (9.2)
lim
|s|
|s|
2

G(s) = 0, (9.3)
a
0
> 0,
0
> 0 tels que G(s)
a
0
2
|s|
2
si |s|
0
. (9.4)
s
0
R
m
, G(s
0
) > 0. (9.5)
9.1 Theor`eme. Soient N 3 et G une fonction veriant les conditions (9.2)
(9.5). Si J(u) := u
2
, S

est deni par (9.1) et


9. Lexemple de lequation de champ 295
I

:= inf {J(v) ; v S

} ,
alors pour tout ]0, [, on a I

< I

+I

, et cette inegalite stricte est une


condition susante pour que toute suite minimisante soit relativement com-
pacte (modulo des translations) dans (H
1
(R
N
))
m
. En particulier J atteint son
minimum sur S

pour tout > 0.


Demonstration. On sait que la condition (9.5) implique que S

= . Par
ailleurs si u S
1
, en posant v(x) := u(
1/N
x), on a v S

, et on voit de cette
mani`ere que I

=
(N2)/N
I
1
. De meme nous attirons lattention sur le fait que
la condition (9.4) implique que toute suite minimisante (u
n
)
n
est bornee dans
H
1
(R
N
).
Verions dabord que I

> 0 pour tout > 0. En eet en posant G


0
(s) :=
G(s) +
a0
2
|s|
2
, on sait que pour tout > 0 il existe C() > 0 telle que
G
+
0
(s) |s|
2
+C()|s|
2

,
pour tout s R
m
. En utilisant linegalite de Sobolev on peut donc ecrire, pour
tout u S

a
0
2
u
2
+
_
R
N
G
+
0
(u(x))dx u
2
+C()u
2

,
ce qui, en prenant > 0 assez petit, permet de voir quil existe une constante
C() > 0 telle que pour tout u S

on ait J(u) C(), et ainsi I

C() > 0.
Soit maintenant := 1
2
N
. Comme 0 < < 1 et que I

I
1
> 0, on
remarque que pour 0 < < , en supposant par exemple que , on
peut ecrire :

<

<




( )

,
cest ` a dire que nalement on a linegalite stricte
(9.6) ]0, [, I

< I

+I

.
Nous allons prouver que cette inegalite stricte empeche lapparition de di-
chotomie pour les suites minimisantes.
Plus precisement posons
n
:= |u
n
|
2
+ |u
n
(x)|
2
et
Q
n
(R) := sup
yR
N
_
B(y,R)
_
|u
n
(x)|
2
+ |u
n
(x)|
2
_
dx.
Rappelons que (u
n
)
n
est bornee dans H
1
(R
N
) ; admettons que Q
n
(R) Q(R),
u
n
u dans H
1
(R
N
)-faible et u
n
u p.p. et dans L
q
loc
(R
N
) pour q < 2

.
Comme
0 < I

< J(u
n
)
_
R
N

n
(x)dx =: b
n
,
296 Chapitre 6. Probl`emes sans compacite
on peut appliquer le lemme 8.1 ` a
n
(ou ` a
n
/b
n
), en supposant que b
n
b > 0.
Pour verier que le cas 2 du lemme 8.1, levanescence, ne se presente pas,
supposons que pour un R > 0 on ait
lim
n
_
sup
yR
N
_
B(y,R)
|u
n
(x)|
2
dx
_
= 0.
Rappelons que le lemme 8.4 implique que si 2 < q < 2

, alors u
n

L
q tend vers
zero. Dautre part, avec les notations ci-dessus, on sait que pour tout > 0 il
existe t > 0 et > 0 tels que
_
G
+
0
(s) |s|
2
G
+
0
(s) |s|
2

si |s| ,
si |s| t .
Ainsi il est clair que lon peut ecrire, pour une constante C := C(q, ),
G
+
0
(s) (|s|
2
+ |s|
2

) +C|s|
q
,
et en conclure que
0 <
_
R
N
G
+
0
(u
n
(x))dx
_
u
n

2
+u
n

L
2

_
+Cu
n

q
L
q .
Or, en se rappelant que u
n

2
+ u
n

L
2
est bornee par une constante C
0
independante de n, et en passant ` a la limsup dans cette inegalite, on ob-
tient 0 < C
0
. Cela est impossible car > 0 est arbitraire ; par consequent
levanescence ne se produit pas pour la suite
n
.
Sil y avait dichotomie, on aurait Q() = ]0, b[ et pour > 0 xe assez
petit (en particulier 4 < min(, b)), en prenant R
0
> 0 tel que Q(R
0
) ,
on peut trouver y
n
R
N
et une suite R
n
tels que
_
B(y
n
,R0)
_
|u
n
(x)|
2
+ |u
n
(x)|
2
_
dx 2,
et Q
n
(R
n
) +. Soit maintenant

(R) une fonction decroissante avec


0

1,

(t) = 1 pour t 1, (t) = 0 si t 2 et |

| 2. Introduisons,
comme nous lavons fait ` a lexemple 8.5, les fonctions (x) :=

(|x|) et

n
(x) :=
_
x y
n
R

_
,
n
(x) := 1
_
x y
n
R
n
_
,
puis u
1,n
:=
n
u
n
, et u
2,n
:=
n
u
n
. On peut choisir R

> max(R
0
, 1) assez
grand pour que, en supposant que R
n
> R

, on ait pour tout n :

_
R
N

n
(x)
2
|u
n
(x)|
2
dx
_
R
N
|(
n
u
n
)(x)|
2
dx

_
R
N

n
(x)
2
|u
n
(x)|
2
dx
_
R
N
|(
n
u
n
)(x)|
2
dx

,
9. Lexemple de lequation de champ 297
ce qui implique que
(9.7) J(u
n
) J(u
1,n
) +J(u
2,n
) 2 .
On doit egalement faire remarquer que u
n
etant proche de u
1,n
+ u
2,n
au sens
de la norme de H
1
(R
N
), gr ace aux hypoth`eses (9.3) et (9.4) on a
_
R
N
|G(u
n
(x)) G(u
1,n
(x)) G(u
2,n
(x))| dx (),
o` u () 0 lorsque 0. On denit, moyennant des extractions de sous-suites,

i
() := lim
n
_
R
N
G(u
i,n
(x))dx ;
ainsi on sait que |
1
()
2
()| (). Soit v
i,n
S
i()
, pour i = 1, 2, tels
que u
i,n
v
i,n

H
1
0
, pour
0
> 0 assez petit. En utilisant (9.7), on obtient
I

I
1()
+I
2()
4.
Finalement en faisant tendre vers zero, modulo des extractions de sous-
suites,
i
() tend

i
pour i = 1, 2 et
(9.8)

1
+

2
= , I

1
+I

2
.
On ne peut pas avoir

1
< 0 car dans ce cas on aurait

2
> , et on
obtiendrait I

2
> I

(car I

est strictement croissante). De meme il


est exclu davoir

2
< 0.
Si on avait

1
= 0, on aurait alors

2
= , et du fait que
lim
n
J(u
n
) = I

et que
_
R
N
G(u
2,n
(x))dx tend vers lorsque n et 0, on peut deduire
de (9.7) que pour n assez grand et assez petit on a
J(u
n
) J(u
1,n
) +I

4,
ce qui implique que J(u
1,n
) 0 lorsque n et 0. Comme pour tout >
0 il existe une constante C() telle que G
+
0
(s) |s|
2
+C()|s|
2

, linegalite de
Sobolev et le fait que (u
1,n
)
n
est bornee dans H
1
(R
N
) impliquent que G
+
0
(u
1,n
)
tend vers zero dans L
1
(R
N
) lorsque n et 0. Or en posant
1,n
:=
_
R
N
G(u
1,n
(x))dx, on sait que
_
R
N
G
+
0
(u
1,n
(x))dx =
1,n
+
_
R
N
G

0
(u
1,n
(x))dx +
a
0
2
_
R
N
|u
1,n
(x)|
2
dx,
et sachant que
1,n
0, on conclut que u
1,n
0 dans L
2
(R
N
), et nalement
que u
1,n
0 dans H
1
(R
N
) lorsque n et 0. Or dapr`es la construction
meme de u
1,n
on sait que
298 Chapitre 6. Probl`emes sans compacite
u
1,n

2
H
1
_
B(y
n
,R)

n
(x)dx >
3
4
> 0.
Par consequent on ne peut pas avoir

1
= 0. De la meme mani`ere on exclut que

2
= 0.
En conclusion, dans (9.8) on a

i
]0, [, et linegalite I

1
+I

2
contredit
linegalite stricte etablie plus haut en (9.6), et ainsi la dichotomie est exclue pour
la suite
n
= |u
n
|
2
+ |u
n
|
2
.
Le lemme de concentration-compacite 8.1, permet de conclure quil existe
une suite y
n
R
N
, telle que pour tout > 0 il existe R > 0 veriant
n 1, I


_
B(y
n
,R)
_
|u
n
(x)|
2
+ |u
n
(x)|
2
_
dx I

.
On en conclut quen posant v
n
(x) := u
n
(x+y
n
), on a J(v
n
) I

, et quil existe
v S

telle que v
n
v dans H
1
(R
N
). On voit par la meme occasion que toute
suite minimisante est relativement compacte dans H
1
(R
N
), modulo une suite de
translations.
9.2 Remarque. Dans les exemples que nous avons traites plus haut, nous
navons pas eu ` a utiliser toute la generalite du lemme de concentration-compacite.
En eet pour etablir la non-evanescence de la suite
n
, nous utilisons seulement
le fait que si pour un R > 0 on a
lim
n
_
sup
yR
N
_
B(y,R)
|u
n
(x)|
q
dx
_
= 0,
alors il y a une contradiction avec u
n
= 0. Cependant dans beaucoup dautres
probl`emes, surtout ceux o` u il y a un exposant limite, ou bien lorsque la non-
compacite est locale, la preuve de la non-evanescence est plus delicate.
10. Lexposant limite de Sobolev
Pour nir ce chapitre, nous dirons quelques mots sur les probl`emes qui font
intervenir lexposant limite de Sobolev, lorsque N 3. En fait dans le cas
general, il y a des probl`emes dans lesquels lespace naturel H, sur lequel on
minimise une fonctionnelle J, sinjecte de fa con continue mais non compacte
dans un espace de Banach X et de ce fait le probl`eme de minimisation est plus
delicat. Un exemple en dimension N = 1 en est la minimisation de
J(v) :=
_
1
0
_
|u

(x)|
2
+|u(x)|
2

(x)dx,
sur S :=
_
u ; u(1) = 0,
_
1
0
|u(x)|
m
(x)dx = 1
_
, o` u m := 2( + 1)/( 1) et
est une fonction continue sur [0, 1], telle que (x) > 0 pour x > 0 et, par
exemple, (x) x

au voisinage de zero pour un reel > 1.


10. Lexposant limite de Sobolev 299
Dans ce paragraphe nous voulons seulement montrer, sur un exemple simple,
comment il est possible de resoudre certains probl`emes de minimisation lorsque
lon na plus de compacite locale.
Lors de la presentation de lidentite de Pohozaev, nous avons dit que dans
un ouvert borne, regulier et etoile de R
N
et pour 0 xe, le probl`eme
(10.1)
_
u = u + |u|
p1
u
u = 0
dans ,
sur
nadmet pas de solution autre que zero lorsque N 3 et p :=
N+2
N2
. Nous allons
montrer ici un resultat d u ` a H. Brezis & L. Nirenberg [36] (voir aussi larticle
de Th. Aubin [9], ainsi que M. Struwe [156]), qui dit essentiellement que lequa-
tion (10.1) admet une solution positive si ]

,
1
[, o` u

est une constante


dependant de N et de louvert . A part les travaux que nous venons de citer, il y
a de nombreux autres qui traitent des probl`emes de ce type sans compacite locale
(conjecture de Yamabe, conjecture de Rellich, probl`eme de Plateau, H-syst`emes,
cristaux liquides, etc.). On pourra consulter ` a ce sujet le livre de M. Struwe [159],
ainsi que les articles de H. Brezis [29, 30].
Dans toute la suite on supposera que est un ouvert borne de R
N
, avec
N 3 et pour R on posera
J

(v) :=
_

_
|v(x)|
2
|v(x)|
2
_
dx, (10.2)
() := inf
_
J

(v) ; v H
1
0
(),
_

|v(x)|
2

dx = 1
_
. (10.3)
On rappelle que (0) est independant de et que (voir remarque 3.10)
(0) = 2(N 2)
_
(N/2)
(N)
_
2/N
.
De plus si
a,b
(x) :=
_
a +b|x|
2
_
(2N)/2
, on a
(0)
a,b

2
L
2

(R
N
)
=
a,b

2
L
2
(R
N
)
.
On designera egalement par
1
et
1
> 0 les premi`eres valeur propre et fonction
propre de sur H
1
0
(), i.e. (en notant la norme de L
2
())

1
:= min
_
v
2
; v H
1
0
(), v
2
= 1
_
.
10.1 Theor`eme. Soient N 3, un ouvert borne connexe de R
N
et J

et
() donnes par (10.2), (10.3). Si 0 < () < (0), alors () est un mimimum,
plus precisement il existe u
0
H
1
0
(), telle que u
0
0, u
L
2

()
= 1 et
J

(u
0
) = (). De plus toute suite minimisante est relativement compacte dans
H
1
0
(), et lequation (10.1) admet une solution positive u C

().
Demonstration. Remarquons en premier lieu que pour avoir () > 0, il faut
que <
1
. En eet comme dapr`es linegalite de Poincare J
1
(v) 0 pour tout
300 Chapitre 6. Probl`emes sans compacite
v H
1
0
() et que J
1
(
1
) = 0, on a (
1
) = 0, et il devient clair que pour

1
on a () (
1
) = 0.
Soit (u
n
)
n
une suite minimisante. Comme u
n

2
= 1, la suite est bornee
dans L
2
(), et par consequent dans H
1
0
(). Il existe donc uH
1
0
() telle que,
moyennant une extraction de sous-suite,
_
u
n
u
u
n
u
dans H
1
0
()-faible,
p.p. sur et dans L
q
() pour 1 q < 2

.
Le but est de prouver que u
2
= 1 ou encore, ce qui revient au meme, que
u
n
u dans L
2

() (voir le lemme de Brezis-Lieb 1.4.6 et le corollaire 1.4.7).


Soit v
n
:= u
n
u ; dapr`es le lemme de Brezis-Lieb 1.4.6, on a
1 =
_

|u
n
(x)|
2

dx =
_

_
|u(x)|
2

+ |v
n
(x)|
2

_
dx +(n),
o` u, ici et dans la suite, (n) designe dierentes suites de reels qui tendent vers
zero lorsque n . En utilisant le fait que lon a (a + b)

+ b

pour
0 < < 1 et a, b 0, on conclut que
(10.4) 1 +(n)
__

_
|u(x)|
2

+ |v
n
(x)|
2

_
dx
_
2/2

u
2
2
+v
n

2
2
.
Par ailleurs, comme v
n
0 dans H
1
0
()-faible, on sait que
J

(u) +v
n

2
= () +(n) ;
mais, pour n assez grand () + (n) > 0 et, en utilisant (10.4), on peut ecrire
() ()
_
u
2
2
+v
n

2
2

+(n) ; donc
J

(u) +v
n

2
()
_
u
2
2
+v
n

2
2

+(n)
J

(u) +()v
n

2
2
+(n)
puisque, par denition de (), pour tout H
1
0
() on a ()
2
2
J

().
Finalement on deduit de cette derni`ere inegalite, et du fait que v
n

(0)v
n

2
2
:
((0) ()) v
n

2
(n),
ce qui montre que v
n
tend vers zero dans H
1
0
()-fort, et par consequent u
n
u
dans H
1
0
().
Comme on peut remplacer la suite minimisante u
n
par |u
n
| et avoir encore
une suite minimisante, () est atteint en un point u
0
0 et u
0
0. On verie
alors facilement que
u
0
u
0
= ()u
p
0
,
o` u p := (N +2)/(N 2). Comme <
1
, le principe du maximum fort implique
que u
0
> 0 dans . Par ailleurs, on sait que u
p1
0
L
N/2
() et, dapr`es le lemme
de Brezis-Kato, on a u L
q
() pour tout q < . Finalement les theor`emes de
regularite classiques impliquent que u C() C

().
Nous allons maintenant voir que pour certaines valeurs de on a bien () <
(0).
10. Lexposant limite de Sobolev 301
10.2 Proposition. Avec les notations et hypoth`eses du theor`eme 10.1, est
continue et decroissante (au sens large) sur [0,
1
] et on a (
1
) = 0. En partic-
ulier il existe

0, avec

<
1
tel que pour

< <
1
on a () < (0)
(plus precisement si N 4 on a

= 0).
Demonstration. Nous avons dej` a vu que pour
1
on a () 0 et que
(
1
) = 0. Pour montrer les autres proprietes, notons que pour v H
1
0
() xe,
la fonction J

(v) est une fonction ane decroissante, et par consequent


(), qui est lenveloppe inferieure de ces fonctions anes, est une fonction
concave et decroissante. On a dej` a vu que () = (0) > 0 pour 0, et que
(
1
) = 0. Comme toute fonction concave de [0,
1
] dans R est continue, on en
conclut quil existe

> 0 avec

<
1
tel que 0 < () < (

) = (0) pour

< <
1
.
En realite on peut montrer, comme le font H. Brezis & L. Nirenberg dans [36],
quen prenant une fonction C

c
() telle que 1 dans un voisinage dun
point x
0
puis en posant
v

(x) := (x)
_
+ |x x
0
|
2
_
(2N)/2
et u

:= v

/v

2
,
on a, pour > 0 assez petit,
_
J

(u

) = (0) C
0
+O(
(N2)/2
)
J

(u

) = (0) C
0
| log()| +O()
si N 5
si N = 4,
pour une constante C
0
> 0. Dans le cas N = 3 et lorsque est une boule, ils
montrent egalement que

=
1
/4. Ces resultats sont obtenus en analysant les
dierentes integrales qui interviennent dans J

(u

), lorsque 0 et montrent
egalement que si 0 on a () = (0).
Exercices du chapitre 6
Exercice 1. On designe par C

c,rad
(R
N
) lensemble des fonctions radiales de
C

c
(R
N
). Montrer que C

c,rad
(R
N
) est dense dans H
1
rad
(R
N
).
Exercice 2. Soit u D
1,2
rad
(R
N
) (i.e. une fonction mesurable et radiale de R
N
dans R telle que
i
u L
2
(R
N
) pour i

1
N
, ou encore ladherence des fonctions
radiales de D(R
N
) pour la norme :=
L
2
(R
N
)
). Montrer quil
existe une constante C(N) telle que
x R
N
, |x| 1, |u(x)| C(N)|x|
(N2)
2
u
L
2
(R
N
)
.
(Si (r) := u(x) pour r = |x|, considerer la fonction
z(t) :=
_
e
t
_
exp(t) ,
denie pour t R et une valeur convenablement choisie de ; remarquer que
|z(t)| Cz
H
1
(R)
, puis calculer
_

0
r
N1
|

(r)|
2
dr en fonction de z

, z).
Exercice 3. On suppose que 1 < p < . Montrer quil existe une constante
C(p, N) telle que, pour u W
1,p
rad
(R
N
), on ait
|u(x)| C(p, N)|x|
(N1)
p
(u
p
+u
p
) .
Exercice 4. Pour 1 < p < , en utilisant lExercice 3, etudier lexistence dune
solution positive au probl`eme
div
_
|u|
p2
u
_
+|u|
p2
u = |u|
q2
u dans R
N
,
pour dierentes valeurs de , q (ici |u| designe la norme euclidienne de u dans
R
N
).
En supposant que > 0, p < q et (N p)q < Np, etudier lexistence dune
innite de solutions au probl`eme precedent.
Exercice 5. Soit R
N
un ouvert borne, connexe et de classe C
1
. Dans un
travail datant de 1971, J. Serrin [150] a montre que si une fonction positive u
satisfait u = f(u) dans et u = 0 sur , si en plus la derivee normale
u/n est constante sur , alors est une boule (en supposant toutefois que
Exercices du chapitre 6 303
f est assez reguli`ere ; en fait en utilisant la methode du meme article on peut
voir que si u = f(u) dans une boule et u = 0 sur le bord , alors u est
radiale decroissante par rapport au centre de la boule). Dans le cas particulier
o` u f(u) 1, H.F. Weinberger [163] a donne une demonstration simple de ce
fait, que nous presentons ici. Dans la suite on suppose que u = 1 dans et
u = 0 sur ; on supposera aussi que c := u/n est constante.
1) En utilisant lidentite de Pohozaev, montrer que
(1) (N + 2)
_

u(x)dx = c
2
Nmes() .
2) Soit z(x) := |u(x)|
2
+
2
N
u(x). En remarquant que :
(2) 1 = (u)
2
N
N

i=1
|
ii
u|
2
N
N

i,j=1
|
ij
u|
2
,
calculer z et montrer que z 0 dans .
3) Montrer que
_

z(x)dx = c
2
mes().
4) En utilisant le principe du maximum fort et la question precedente, mon-
trer que z c
2
dans .
5) Montrer que N

N
i,j=1
|
ij
u(x)|
2
1 dans , et que dans (2) on a egalite
partout. En deduire que si i = j, alors
ij
u = 0.
6) En utilisant linegalite de Cauchy-Schwarz et le fait que

N
i=1

ii
u = 1,
montrer que
ii
u = 1/N dans .
7) Montrer quil existe x
0
R
N
et A R tels que u(x) =
_
A|x x
0
|
2
_
/N
dans . Deduire du fait que u = 0 sur , que A > 0 et que si R
2
:= A alors
est la boule B(x
0
, R).
Exercice 6. Soit u W
1,p
(R
N
) veriant
(1) div
_
|u|
p2
u
_
= g(u).
1) On suppose que g(u) L
1
loc
(R
N
) et G(u) L
1
(R
N
), o` u G est la primitive
de g sannulant en zero. Montrer que u satisfait lidentite (de Pohozaev) :
N p
p
_
R
N
|u(x)|
p
dx = N
_
R
N
G(u(x))dx.
2) On suppose que p < N. En prenant pour exemple le cas p = 2 traite
au paragraphe 4 et en utilisant lExercice 3, donner les conditions les plus
generales sur g pour que lequation (1) admette un etat fondamental.
3) Traiter egalement la cas p = N, en utilisant toujours les fonctions radiales.
Exercice 7. Soient 1 < p < et , > 0. Enoncer et montrer le lemme de
Lieb 6.2 pour une suite de fonctions (u
n
)
n
de W
1,p
(R
N
) telles que (u
n

p
)
n
est bornee et
304 Exercices du chapitre 6
n 1, mes ([|u
n
| ]) .
Exercice 8. En utilisant lExercice 7, reprendre letude de lequation (1) de
lExercice 6 (sans utiliser les fonctions radiales).
Exercice 9. Soient N 2 un entier, 1 < p < 1 +
4
N
un reel et > 0. On
consid`ere S

:=
_
v H
1
(R
N
) ; u
2
=
_
o` u designe la norme de L
2
(R
N
).
On pose
G(s) :=
|s|
p+1
p + 1
, J(v) :=
_
R
N
_
1
2
|v(x)|
2
dx G(v(x))
_
dx.
On consid`ere le probl`eme de minimisation
I

:= inf
vS

J(v),
1) En utilisant linegalite de Gagliardo-Nirenberg, montrer que les suites
minimisantes de J sont bornees et que I

> .
2) En appliquant successivement les trois methodes vues au chapitre 6
(lemme de Strauss, lemme de Lieb, methode de concentration-compacite),
montrer que I

est atteint.
3) Generaliser au cas dune fonction G qui est un o(s
2
) en zero et qui est
equivalente ` a c
0
|s|
p+1
` a linni (avec c
0
> 0).
4) Montrer que si p := 1+
4
N
et est assez petit, le resultat de la question 2)
est encore vrai.
5) Verier que si p > 1 +
4
N
alors I

= .
Exercice 10. Soient k 1 un entier, un ouvert borne de R
k
et := R
Nk
.
On pose := N k +1, et on consid`ere (a
ij
(y))
i,jN
une matrice symetrique
carree dordre k ` a coecients dans L

() telle que
> 0, R
k
, p.p. sur ,
N

i,j=
a
ij
(y)
i

j
||
2
.
On designe par
1
() la plus petite valeur propre de loperateur
A
k
u :=
N

i,j=

i
(a
ij
(y)
j
u)
sur H
1
0
(). Montrer que si pour u H
1
0
() on consid`ere loperateur
Au :=
1

i,j=1

ii
u A
k
u,
alors
1
() = inf
_
A, ; H
1
0
(),
2
L
2
()
= 1
_
.
Exercices du chapitre 6 305
Exercice 11. Avec les notations et hypoth`eses de lExercice 10, x := (z, y)
designera le point generique de avec y . On consid`ere une fonction G
C
1
( R, R) telle que
D(),
_

_
G(y, (z, y))

1
()
2
|(z, y)|
2
_
dx > 0.
1) Enoncer et montrer lanalogue du lemme de Lieb sur .
2) En reprenant les hypoth`eses adequates du theor`eme 7.1 et en notant
g(, s) :=
s
G(, s), etablir lexistence dun etat fondamental pour lequation :
_
Au = g(, u)
u H
1
0
() \ {0} .
Exercice 12. Montrer, sous des hypoth`eses adequates sur la fonction G, que
pour N 3 les fonctions J(v) := v
2
et E(v) :=
1
2
J(v)
_
R
N
G(v(x))dx
atteignent leur minimum sur lensemble S
P
des fonctions non nulles v H
1
(R
N
)
telles que
(N 2)v
2
= 2N
_
R
N
G(v(x))dx
et qu on obtient ainsi une solution de u = g(u) o` u g := G

.
Exercice 13. Montrer, sous des hypoth`eses adequates sur la fonction G, que
pour N 1, la fonctionnelle denergie
E(v) :=
1
2
v
2

_
R
N
G(v(x))dx
atteint son minimum sur lensemble S
H
des fonctions v H
1
(R
N
) telles que
v = 0 et
v
2
=
_
R
N
g(v(x))v(x)dx,
et quon obtient ainsi une solution de u = g(u) (ici g := G

).
Exercice 14. Soit G C
1
(R
m
, R) telle que la condition (4.3) soit satisfaite et
que, pour un > 0, on ait G(s)
1
2
a
0
|s|
2
pour un a
0
> 0 xe et pour tout
s R
m
tel que |s| . On suppose que pour tout > 0, il existe C > 0 telle
que la derivee g := G

verie |g(s)| C
_
|s| + exp
_
|s|
2
_
pour tout s R
m
.
1) Montrer que tout point critique de J(v) := v
2
sur
:=
_
u H
1
rad
(R
2
) ;
_
R
2
G(u(x))dx = 0 et u
2
= 1.
_
permet dobtenir une solution de u = g(u) (on peut en fait montrer que
J poss`ede une innite de points critiques sur , en supposant toutefois que
G est de classe C
2
et paire).
306 Exercices du chapitre 6
2) Montrer que sil existe s
0
R
m
tel que G(s
0
) > 0, alors = et J
atteint son minimum sur , en utilisant successivement les fonctions radiales,
le lemme de Lieb et la methode de concentration-compacite.
Exercice 15. On montre ici le lemme suivant concernant une suite de fonctions
croissantes.
Lemme. Soit (f
n
)
n
une suite de fonctions croissantes de [0, 1]
dans [0, 1]. Alors il existe une sous-suite (f
ni
)
i
et une fonction
croissante f de [0, 1] dans lui-meme telles que f
ni
f en dehors
dune innite denombrable de points de [0, 1].
1) Soit une fonction croissante de [0, 1] dans [0, 1]. On designe par D()
lensemble des points de discontinuite de . Montrer que D() est denom-
brable (en posant
(x

) := lim
h0
+
(x h),
considerer les ensembles A
n
:=
_
x ; (x
+
) (x

)
1
n
_
).
2) Soit (a
j
)
j1
une suite dense dans [0, 1]. Par le procede de la suite diago-
nale, montrer quil existe une sous-suite (f
ni
)
i1
de la suite (f
n
)
n
telle que
pour tout j 1 xe la suite (f
ni
(a
j
))
i
soit convergente. La limite de cette
suite sera notee f(a
j
).
3) Pour x [0, 1] on pose f(x) := sup{f(a
j
) ; a
j
x}. Montrer que f est
croissante et que si x / D(f) alors f
ni
(x) tend vers f(x) lorsque i .
4) En deduire que de fa con generale, toute suite de BV(0, 1) contient une
sous-suite convergeant p.p. vers une fonction f appartenant ` a BV(0, 1).
Exercice 16. Soit f C(R, R) une fonction telle que
lim
t0
|t|
2

f(t) = 0, lim
|t|
|t|
2

f(t) = 0.
On suppose que (u
n
)
n
est une suite bornee de D
1,2
(R
N
) telle que pour un R > 0
xe on ait :
lim
n
_
sup
yR
N
_
B(y,R)
_
|u
n
(x)|
2
+ |u
n
(x)|
2

_
dx
_
= 0.
Montrer que
_
R
N
|f(u
n
(x))|dx tend vers zero lorsque n .
Exercice 17. En reprenant le probl`eme traite ` a lexemple 8.4, montrer que le
minimum de J est atteint sur S

, en appliquant le lemme de concentration-com-


pacite ` a la suite

n
(x) := |u
n
(x)|
2
+ |u
n
(x)|
2
(au lieu de |u
n
|
p+1
, comme on la fait dans cet exemple).
Exercice 18. On reprend ici les hypoth`eses et notations de lexemple traite au
paragraphe 9 et on pose
n
:= |G(u
n
)|, o` u u
n
S

est une suite minimisante.


Exercices du chapitre 6 307
1) En remarquant que |s|
2
|s|
2

+ C

|G(s)|, pour > 0 xe et une


constante C

> 0, montrer que si


(1) lim
n
_
sup
yR
N
_
B(y,R)
|G(u
n
(x))|dx
_
= 0,
alors pour tout p > 2 tel que p < 2

, on a u
n

L
p 0 et en conclure que (1)
nest pas possible.
2) Montrer que la dichotomie au sens de 3) du lemme de concentration-com-
pacite ne se presente pas pour
n
, et en deduire que J atteint son minimum.
Exercice 19. Soient N, m 1 des entiers et G C(R
m
, R) telle que G(0) = 0,
G(s
0
) > 0 pour un s
0
R
m
et :
a
0
> 0,
0
> 0 tels que G(s)
a
0
2
|s|
2
si |s|
0
.
Pour R, on designe par S

lensemble des u (H
1
(R
N
))
m
tels que G(u)
L
1
(R
N
) et
_
R
N
G(u(x)) = , et on pose J(v) := v
2
.
1) Montrer que pour tout R on a S

= .
2) Montrer que si < 0, alors I

:= inf
vS

J(v) = 0.
3) Montrer que si N 3, on a inf {J(v) ; v S
0
, v = 0} = 0.
4) Montrer que si N 2 et > 0, alors I

nest pas atteint.


Exercice 20. Soit Au := u + |x|
2
u pour u D(A) o` u
D(A) :=
_
u L
2
(R
N
) ; Au L
2
(R
N
)
_
.
(Ici | | designe la norme euclidienne de R
N
; A est loperateur de loscillateur
harmonique). On consid`ere lespace H
1
deni par :
H
1
:=
_
u L
2
(R
N
) ;
_
R
N
_
|u(x)|
2
+ |x|
2
u
2
(x)
_
dx <
_
,
et on le munit de la norme
1
induite par le produit scalaire
(u|v)
1
:=
_
R
N
_
u(x) v(x) + |x|
2
u(x)v(x)
_
dx.
1) Montrer que linjection de H
1
dans L
q
(R
N
) est compacte pour 2 q < 2

.
2) On consid`ere ici, pour , R, et = 1 lequation :
(1)
_
u +|x|
2
u = u +|u|
p1
u ,
u H
1
\ {0} .
Montrer que si u L
2
loc
(R
N
) et (N 2)p N + 2, alors on a lidentite de
Pohozaev :
308 Exercices du chapitre 6
N 2
2
_
R
N
|u(x)|
2
dx +
N + 2
2
_
R
N
|x|
2
u
2
(x)dx =
+N
_
R
N
_

2
u
2
(x) +

p + 1
|u(x)|
p+1
_
dx.
3) En deduire que si 0 et 0, alors lequation (1) na pas de solution
pour = 1.
4) Montrer que A admet une fonction propre positive pour la valeur propre

1
:= N.
5) Soient N 3, p := (N+2)/(N2) et = = 1. En utilisant la demarche
du paragraphe 10, montrer quil existe

tel que, pour

< < N,
lequation (1) admette une solution positive.
6) Calculer

en fonction de N.
7) On suppose que = = 1, N 1 et (N 2)p N + 2. Montrer que les
solutions de (1) verient
|u(x)| C exp(|x|
2
),
pour des constantes C, > 0.
Exercice 21. Soient N 1 et R tel que + N > 0. On designe par | | la
norme euclidienne de R
N
. En remarquant que
div |x|

x = ( +N)|x|

,
et par une integration par parties, montrer que si 1 < p < , on a linegalite de
Hardy :
_
R
N
|u(x)|
p
|x|

dx
p
p
( +N)
p
_
R
N
|x u(x)|
p
|x|

dx,
pour toute fonction u C
1
c
(R
N
), et en fait pour les fonctions u telles que
lintegrale
_
R
N
|u(x)|
p
|x|
+p
dx
est nie. Montrer egalement que la constante p
p
(+N)
p
est la meilleure possible
mais quelle nest pas atteinte.
Exercice 22. Comme nous lavons vu lors de la demonstration de linegalite
de Poincare et de linegalite de Hardy, le fait de pouvoir exprimer certaines
fonctions comme la divergence dautres fonctions, puis deectuer une integration
par parties, permet detablir des inegalites importantes dans lapplication des
methodes variationnelles. Nous en donnons un autre exemple ici sur R
N
(voir
M. Escobedo & O. Kavian [61]). Il sagit de trouver des solutions non nulles de
lequation :
(1) u x u = u +|u|
p1
u dans R
N
,
o` u = 1 est xe. Soient (x) := exp(|x|
2
/2) pour x R
N
, N 1 et, pour
m 1 :
Exercices du chapitre 6 309
L
2
() :=
_
f L
2
(R
N
) ;
_
R
N
|f(x)|
2
(x)dx
_
,
H
m
() :=
_
u L
2
() ; D

u L
2
(), pour || m
_
.
On designera par la norme de L
2
(), et on munira H
m
() de la norme denie
par u
2
m
:=

||m
D

u
2
.
1) Verier que L
2
() et H
m
() sont des espaces de Hilbert et que C

c
(R
N
)
est dense dans ces espaces.
2) En remarquant que |x|
2
(x) + N(x) = div (x(x)), montrer que pour
tout u H
1
() on a :
_
R
N
|u(x)|
2
|x|
2
(x)dx +N
_
R
N
|u(x)|
2
(x)dx 2
_
R
N
|u(x)|
2
(x)dx.
3) En deduire que linjection de H
1
() dans L
2
() est compacte.
Dans la suite, on pose Lu := u x u avec le domaine :
D(L) :=
_
u H
1
() ; Lu L
2
()
_
.
4) Montrer que L est un operateur auto-adjoint et inversible sur L
2
() (on
pourra noter que Lu =
1
div (u)).
5) En utilisant la question 3), montrer que L
1
est compact de L
2
() dans
lui-meme et admet un spectre discret (
k
)
k
, avec 0 <
k+1
<
k
.
6) En utilisant linegalite obtenue ` a la question 2), montrer que D(L) =
H
2
().
7) Montrer que si u D(L) verie Lu 0 alors u 0. En cherchant une
fonction propre du type
1
(x) := exp(|x|
2
), trouver la premi`ere valeur
propre
1
de L, ainsi quune fonction propre
1
.
8) Montrer que si (N 2)q 2N et q 2, alors H
1
() L
q
() avec
injection continue, o` u ce dernier espace designe lensemble des fonctions f
telles que |f|
1/q
L
q
(R
N
). Montrer aussi que cette injection est compacte
si (N 2)q < 2N.
9) En etudiant J(u) := u
2
u
2
sur une contrainte appropriee de
L
p+1
(), montrer que si = 1, alors lequation (1) admet une innite de
solutions dans H
1
().
10) Montrer que les solutions trouvees ` a la question precedente sont de classe
C
2
et tendent vers zero ` a linni. Montrer de mani`ere generale quil existe
> 0 telle que toute solution de (1) qui est dans H
1
() verie pour une
constante c
0
> 0 :
|u(x)| c
0
exp(|x|
2
).
11) En etudiant la fonctionnelle :
E(v) :=
1
2
v
2
+
1
p + 1
_
R
N
|v(x)|
p+1
(x)dx

2
v
2
310 Exercices du chapitre 6
sur H
1
() montrer que, si dans lequation (1) on prend = 1, cette equation
na pas de solution non nulle dans H
1
() si
1
. Montrer egalement que
si >
1
, alors (1) poss`ede une solution positive.
12) Etudier lexistence de solutions multiples de (1) lorsque = 1.
Exercice 23. Soient N 3 un entier et p := (N + 2)/(N 2). En utilisant la
technique que nous avons vue au paragraphe 10, et en reprenant les notations
et letude de lexercice precedent, on peut montrer quil existe

> 0 tel que si

< < N, lequation


(1) u x u = u +u
p
dans R
N
,
admet une solution u > 0 dans H
1
().
1) Montrer que si u H
1
() est solution, alors u satisfait une identite de
Pohozaev, ` a savoir :
N 2
2
_
R
N
|u(x)|
2
dx +
_
R
N
(x u(x))
2
dx =
_
R
N
_
N
p + 1
|u(x)|
p+1
+
N
2
|u(x)|
2
_
dx.
2) Montrer aussi que si u H
1
() est solution alors on a :
1
2
_
R
N
|u(x)|
2
dx +
N
2
_
R
N
|u(x)|
2
dx =
_
R
N
_
|u(x)|
p+1
+|u(x)|
2
_
dx.
3) En utilisant linegalite de Hardy (voir Exercice 21), montrer que si
N/2 et (N 2)p = N + 2, lequation (1) na pas de solution non nulle dans
H
1
().
4) Montrer, par les techniques vues au paragraphe 10, que si N 4 et
N/2 < < N, alors lequation (1) poss`ede une solution u > 0 dans H
1
().
Montrer que cette solution est de classe C

et u(x) exp(|x|
2
) pour un
> 0.
5) Montrer que si N = 3 et 2 < < 3, les conclusions de la question
precedente sont valides.
Bibliographie
1. E. Acerbi & N. Fusco : Semicontinuity problems in the calculus of
variations ; Arch. Rational Mech. & Analysis, 86 (1984), pp. 125145.
2. R.A. Adams : Sobolev Spaces ; Academic Press, New York 1975.
3. F. Almgren & E.H. Lieb : Symmetric rearrangement is sometimes
continuous ; J. Amer. Math. Soc., 2 (1989), pp. 683773.
4. A. Ambrosetti & G. Mancini : Sharp nonuniqueness results for some
nonlinear problems ; Nonlinear Analysis, Theory, Methods & Applica-
tions, 3 # 5 (1979), pp. 635645.
5. A. Ambrosetti & G. Prodi : On the inversion of some dierentiable
mappings with singularities between Banach spaces ; Annali di Matemat-
ica Pura & Applicata, 93 (1972), pp. 231246.
6. A. Ambrosetti & P.H. Rabinowitz : Dual variational methods in
critical point theory and applications ; J. Functional Analysis, 14 (1973),
pp. 349381.
7. J. Appell : The superposition operator in function spaces. A survey ;
Expositiones Mathematicae, 6 (1988), pp. 209270.
8. E. Asplund : Averaged norms ; Israel Journal of Mathematics, 5, (1967),
pp. 227233.
9. Th. Aubin : Equations dierentielles nonlineaires et probl`eme de Yamabe
concernant la courbure scalaire ; J. Math. Pures & Appl., (9) 55 (1976),
pp. 269293.
10. A. Bahri : Topological results on a certain class of functionals and ap-
plications ; J. Funct. Analysis, 41 (1981), pp. 397427.
11. A. Bahri & H. Berestycki : A perturbation method in critical point
theory and applications ; Trans. Amer. Math. Soc., 267 (1981), pp. 132.
12. A. Bahri & J.M. Coron : Une theorie des points critiques ` a linni pour
lequation de Yamabe et le probl`eme de Kazdan-Warner ; C.R. Acad. Sci.
Paris, Serie I, Math., 300 (1985), pp. 513516.
13. A. Bahri & J.M. Coron : On a nonlinear elliptic equation involving
the critical Sobolev exponent : The eect of the topology of the domain ;
Comm. Pure Appl. Math., 41 (1988), pp. 253294.
14. A. Bahri & P.L. Lions : Remarques sur la theorie variationnelle des
points critiques et applications ; C. R. Acad. Sci. Paris, 301 (1985), pp.
145147.
312 Bibliographie
15. A. Bahri & P.L. Lions : Morse index of some min-max critical points.
I. Application to multiplicity results ; Comm. Pure & Appl. Math., 41
(1988), pp. 10271037.
16. V. Benci : Some critical point theorems and applications ; Comm. Pure
& Appl. Math., 33 (1980), pp. 147172.
17. V. Benci : A geometrical index for the group S
1
and some applications to
the study of periodic solutions of ordinary dierential equations ; Comm.
Pure & Appl. Math., 34 (1981), pp. 393432.
18. V. Benci : On critical point theory for indenite functionals in the pres-
ence of symmetries ; Trans. Amer. Math. Soc., 274 (1982), pp. 533572.
19. V. Benci & P.H. Rabinowitz : Critical point theorems for indenite
functionals ; Inventiones Math., 52 (1979), pp. 241273.
20. H. Berestycki, Th. Gallouet & O. Kavian : Equations de champ
scalaire dans le plan ; C. R. Ac. Sc. Paris, 297 serie I (1983), pp. 307310
(voir aussi Publications du Laboratoire dAnalyse Numerique, Universite
Paris 6, # 83050).
21. H. Berestycki & P.L. Lions : Nonlinear scalar elds equations ; Arch.
Rat. Mech. & Analysis, 82 (1983), pp. 313376.
22. H. Berestycki, P.L. Lions & L.A. Peletier : An ODE approach to
the existence of positive solutions for semilinear problems in R
N
; Indiana
Univ. Math. J., 30 (1981), pp. 141157.
23. L. Boccardo & F. Murat : Remarques sur lhomogeneisation de cer-
tains probl`emes quasi-lineaires ; Portugaliae Mathematica, 41, fasc. 1-4
(1982), pp. 535562.
24. N. Bourbaki : Topologie Generale ; Editions Hermann, Paris 1974.
25. A. Brandt : Interior estimates for second order elliptic dierential (or
nite-dierence) equations via the maximum principle ; Israel J. Math.,
7 (1969), pp. 95121.
26. H.J. Brascamp, E.H. Lieb & J.M. Luttinger : A general rearrange-
ment inequality for multiple integrals ; J. Funct. Analysis, 17 (1974), pp.
227237.
27. H. Brezis : Operateurs Maximaux Monotones et Semi-Groupes de Contrac-
tion dans les espaces de Hilbert ; North Holland, Amsterdam 1973.
28. H. Brezis : Analyse Fonctionnelle, Theorie et Applications ; Editions Mas-
son, Paris 1983.
29. H. Brezis : Elliptic equations with limiting Sobolev exponents. The
impact of topology ; Proceedings of 50
th
Anniv. Courant Inst., Comm.
Pure & Appl. Math., 39, (1986), pp. 517539.
30. H. Brezis : Some variational problems with lack of compactness ; Proc.
Sympos. Pure Math., 45, Part I (1986), pp. 165201, Amer. Math. Soc.,
Providence, RI.
31. H. Brezis & J.M. Coron : Multiple solutions of H-systems and Rel-
lichs conjecture ; Comm. Pure & Appl. Math., 37 (1984), pp. 149187.
32. H. Brezis & T. Kato : Remarks on the Schr odinger operator with com-
plex potentials ; J. Math. Pures & Appli., 58 (1979), n

2, pp. 137151.
Bibliographie 313
33. H. Brezis & E.H. Lieb : A relation between pointwise convergence of
functions and convergence of functionals ; Proc. Amer. Math. Soc. 88
(1983), pp. 486490.
34. H. Brezis & E.H. Lieb : Minimum action solutions of some vector eld
equations ; Comm. Math. Phys., 96 (1984), # 1, pp. 93113.
35. H. Brezis & L. Nirenberg : Characterization of the ranges of some
nonlinear operators and applications to boundary value problems ; Ann.
Sc. Norm. Sup. Pisa, 4, volume V, n

2 (1978), pp. 225326.


36. H. Brezis & L. Nirenberg : Positive solutions of nonlinear elliptic
equations involving critical Sobolev exponent ; Comm. in Pure & Applied
Math., 36 (1983), pp. 437477.
37. F.E. Browder : Innite dimensional manifolds and nonlinear eigenvalue
problems ; Ann. of Math., (2) 82 (1965), pp. 459477.
38. F.E. Browder : Nonlinear maximal monotone operators in Banach
spaces ; Math. Ann., 175 (1968), pp. 89113.
39. A.P. Calder on : Spaces between L
1
and L

and the theorem of Mar-


cinkiewicz ; Studia Math., 26 (1966), pp. 273299.
40. Th. Cazenave & A. Haraux : Introduction aux Probl`emes dEvolution
Semi-Lineaires ; Collection Mathematiques & Applications de la Societe
de Mathematiques Appliquees & Industrielles (SMAI), Editions Ellipses,
Paris 1991.
41. D.C. Clark : A variant of the Ljusternik-Schnirelmann theory ; Indiana
Univ. Math. J., 22 (1972), pp. 6574.
42. C.V. Coffman : A minimum-maximum principle for a class of nonlinear
integral equations ; J. Analyse Math., 22 (1969), pp. 391419.
43. C.V. Coffman : On a class of nonlinear elliptic boundary value prob-
lems ; J. Math. Mech., 19 (1970), pp. 351356.
44. C.V. Coffman : Uniqueness of the ground state solution for u u +
u
3
= 0 and a variational characterization of other solutions ; Arch. Ra-
tional Mech. & Analysis, 46 (6) (1972), pp. 8195.
45. S. Coleman, V. Glazer & A. Martin : Action mimima among solu-
tions to a class of euclidian scalar eld equations ; Comm. Math. Phys.,
58 (1978), pp. 211221.
46. J.M. Coron : The continuity of the rearrangement in W
1,p
(R) ; Annali
Sc. Sup. Pisa, classe di Sci., serie 1V, vol. XI, 1 (1984), pp. 5785.
47. M. Cotlar & R. Cignoli : An Introduction to Functional Analysis ;
North-Holland Texts in Advanced Mathematics, Amsterdam 1974.
48. R. Courant :

Uber die Eigenwerte bei den Dierentialgleichungen der
mathematischen Physik ; Math. Z., 7 (1920), pp. 157.
49. R. Courant : Dirichlets Principle ; Interscience Publishers, Pure and
Applied Mathematics a series of Texts and Monographs, volume 3, New
York 1967.
50. R. Courant & D. Hilbert : Methods of Mathematical Physics ; Wiley,
New York 1953 (volume 1), 1962 (volume 2).
314 Bibliographie
51. M. Cwickel : Weak type estimates for singular values and the number
of bound states of Schr odinger operators ; Ann. Math., 106 (1977), pp.
93100.
52. E.N. Dancer : Boundary value problems for weakly nonlinear O.D.E. ;
Bull. Australian Math. Soc., 15 (1976), n

3, pp. 321328.
53. E.N. Dancer : On the Dirichlet problem for weakly nonlinear elliptic par-
tial dierential equations ; Proc. Royal Society Edinburgh, 76 A (1977),
pp. 283300.
54. E.N. Dancer : On the existence of solutions of certain asymptotically
homogeneous problems ; Math. Zeitschrift, 177 (1981), pp. 3338.
55. E.B. Davies : Heat Kernels and Spectral Theory ; Cambridge Tracts in
Mathematics # 92, Cambridge University Press, Cambridge, UK, 1989.
56. J. Deny & J.L. Lions : Les espaces de type Beppo Levi ; Annales Inst.
Fourier, 5 (19531954), pp. 305370.
57. J. Dieudonne :

Elements dAnalyse, volume 1 ; Gauthiers-Villars, Paris
1969.
58. J. Dieudonne :

Elements dAnalyse, volume 2 ; Gauthiers-Villars, Paris
1974.
59. I. Ekeland : On the variational principle ; Journal of Mathematical
Analysis & Applications, 47, (1974), pp. 324353.
60. I. Ekeland & R. Temam : Analyse Convexe et Probl`emes Variationnels ;
Editions Dunod-Gauthiers-Villars, Paris 1974.
61. M. Escobedo & O. Kavian : Variational problems related to self-similar
solutions of the heat equation ; J. Nonlinear Analysis, Theory, Methods
& Applications, 11 n

10 (1987), pp. 11031133.


62. L.C. Evans : Weak convergence methods for nonlinear partial dierential
equations ; Conference Board of the Mathematical Sciences Regional Con-
ference Series in Mathematics, # 74, 1990, AMS, Providence, RI.
63. E.B. Fabes & D.W. Strook : A new proof of Mosers parabolic Harnack
inequality via the old ideas of Nash ; Arch. Rat. Mech. Analysis, 96 (1986),
pp. 327338.
64. E.R. Fadell, S.Y. Husseini & P.H. Rabinowitz : Borsuk-Ulam theo-
rems for arbitrary S
1
-action and applications ; Trans. Amer. Math. Soc.,
274 (1982), pp. 345360.
65. E. Fischer :

Uber Quadratische Formen mit rellen Koezienten ;
Monatsh. Math. Phys., 16 (1905), pp. 234249.
66. S. Fu cik : Boundary value problems with jumping nonlinearities ; Cas.
Pest. Mat., 101 (1976), pp. 6987.
67. S. Fu cik : Solvability of Nonlinear Equations and Boundary Value Prob-
lems ; Mathematics & its Applications, volume 4, D. Reidel Publishing
Company, Dordrecht (Holland), 1980.
68. M. Fukushima : On an L
p
estimate of resolvents of Markov processes ;
Research Inst. Math. Science, Kyoto Univ., 13 (1977), pp. 277284.
69. E. Gagliardo : Propriet` a di alcune classi di funzioni in pi` u variabili ;
Ricerche di Mat., 7 (1958), pp. 102137 ; 8 (1959), pp. 2451.
Bibliographie 315
70. Th. Gallouet & O. Kavian : Resultats dexistence et de non-existence
de solutions pour certains probl`emes demi-lineaires ` a linni ; Annales de
la Faculte des Sciences de Toulouse, vol. III (1981), pp. 201546.
71. Th. Gallouet & O. Kavian : Resonance for jumping nonlinearities ;
Comm. in PDE, 7 # 3 (1982), pp. 325342.
72. B. Gidas, W.M. Ni & L. Nirenberg : Symmetry and related properties
via the maximum principle ; Comm. in Math. Phys., 68 (1979), pp. 209
243.
73. B. Gidas, W.M. Ni & L. Nirenberg : Symmetry of positive solutions
of nonlinear elliptic equations in R
N
; in Mathematical Analysis & Appli-
cations, part A, Advances in Math. Supplementary Studies, (L. Nachbin,
editor), 7 A (1981), pp. 369402.
74. D. Gilbarg & N.S. Trudinger : Elliptic Partial Dierential Equations
of Second Order ; Springer-Verlag, Heidelberg 1983.
75. E. Giusti : Equazioni Ellittiche del Secondo Ordine ; Pitagora Editrice,
Bologna 1978.
76. P. Grisvard : Singularities in Boundary Value Problems ; Masson, Collec-
tion RMA, Paris 1992.
77. G.H. Hardy, J.E. Littlewood & G. P olya : Inequalities ; Cambridge
University Press, London 1952.
78. L. Hedberg : Spectral synthesis in Sobolev spaces, and uniqueness of
solutions of the Dirichlet problem ; Acta Mathematica, 147 (1981), pp.
237264.
79. E. Heinz : An elementary analytic theory of the degree of mappings in
N-dimension space ; J. of Mathematics & Mechanics, vol. 8, n

2 (1959),
pp. 231247.
80. J.A. Hempel : Multiple solutions for a class of nonlinear boundary value
problems ; Indiana Univ. Math. J., 20 (1971), pp. 983996.
81. P. Hess : On a theorem by Landesman and Lazer ; Indiana Univ. Math.
J., 23 (1974), pp. 827829.
82. E. Hewitt & K. Stromberg : Real and Abstract Analysis ; Graduate
Texts in Mathematics, Springer Verlag, Heidelberg, 1982.
83. E. Hopf : Elementare Bemerkungen uber die L osungen partieller Dier-
entialgleichungen zweiter Ordnung von elliptischen Typus ; Ber. Preuss.
Akad. Wissensch. Berlin, Math.-Phys. Kl, 19, pp. 983996, (1927).
84. T. Kato : Growth properties of the reduced wave equation with a variable
coecient ; Comm. Pure & Appl. Math., 12 (1959), pp. 403425.
85. O. Kavian : Quelques remarques sur le spectre demi-lineaire de cer-
tains operateurs auto-adjoints ; Publications du Laboratoire dAnalyse
Numerique de lUniversite Paris VI, et Th`ese (1985).
86. O. Kavian : Minimum action solutions of nonlinear elliptic equations
in unbounded domains containing a plane ; Proc. Royal Soc. Edinburgh,
102 A (1986), pp. 327343.
87. O. Kavian & F.B. Weissler : Self-similar solutions of the pseudo-
conformally invariant nonlinear Schr odinger equation ; prepublications
de lInstitut Elie Cartan, Nancy, Mai 1992.
316 Bibliographie
88. J.L. Kazdan & F.W. Warner : Remarks on some quasi-linear elliptic
equations ; Comm. Pure & Appli. Math., 28 (1975), pp. 567597.
89. M.G. Krein & M.A. Rutman : Linear operators leaving invariant a
cone in a Banach space ; Amer. Math. Soc. Transl. 26 (1950) (larticle
original est en russe dans Uspehi Mat. Nauk (N.S.) 3, 1 (23), 1948, pp.
395).
90. M.A. Krasnoselskii : Topological Methods in the Theory of Nonlinear
Integral Equations ; Pergamon Press, London 1964.
91. K.M. Kwong : Uniqueness of positive solution of u u + u
p
= 0 in
R
n
; Arch. Rat. Mech. Analysis, 105 (1989), pp. 243266.
92. O.A. Ladyzenskaja & N.N. Uralceva : Equations aux Derivees Par-
tielles de type Elliptique ; Editions Dunod, Paris 1968.
93. E.M. Landesman & A.C. Lazer : Nonlinear perturbations of linear
elliptic boundary value problems at resonance ; J. Math. Mech., 19 (1970),
pp. 609623.
94. P.D. Lax & A.N. Milgram : Parabolic equations ; in Contributions to
the Theory of Partial Dierential Equations, Princeton 1954.
95. E.H. Lieb : The number of bound states of one-body Schr odinger oper-
ators and the Weyl problem ; Bull. Amer. Math. Soc., 82 (1976), pp.
751753.
96. E.H. Lieb : Existence and uniqueness of the minimizing solution of the
Choquards nonlinear equation ; Studies in Applied Maths., 57 (1977) pp.
93105.
97. E.H. Lieb : On the lowest eigenvalue of the laplacian for the intersection
of two domains ; Invent. Math., 74 (1983), pp. 441448.
98. E.H. Lieb : Sharp constants in the Hardy-Littlewood-Sobolev and related
inequalities ; Annals of Math., 118 (1983), pp. 349374.
99. E.H. Lieb & W. Thirring : Inequalities for the moments of the eigen-
values of the Schr odinger equation and their relation to Sobolev inequal-
ities ; in Studies in Mathematical Physics : Essays in Honor of Valentine
Bargmann (E.H. Lieb, B. Simon and A.S. Wightman editors), Princeton
Univ. Press, Princeton, New Jersey 1976.
100. J.L. Lions : Probl`emes aux Limites dans les

Equations aux Derivees Par-
tielles ; Presses de lUniversite de Montreal, Seminaires de Mathemati-
ques Superieures (

Ete 1962), Montreal 1965.


101. J.L. Lions : Quelques Methodes de Resolution des Probl`emes aux Limites
Non Lineaires ; Editions Dunod-Gauthiers-Villars, Paris 1969.
102. J.L. Lions & E. Magenes : Probl`emes aux Limites Non Homog`enes et
Applications (volume 1) ; Editions Dunod, Paris 1968.
103. P.L. Lions : The concentration-compactness principle in the calculus of
variations. The locally compact case, part 1 ; Ann. Inst. Henri Poincare,
Analyse non-lineaire, 1 (1984), pp. 109145.
104. P.L. Lions : The concentration-compactness principle in the calculus of
variations. The locally compact case, part 2 ; Ann. Inst. Henri Poincare,
Analyse non-lineaire, 1 (1984), pp. 223283.
Bibliographie 317
105. P.L. Lions : The concentration-compactness principle in the calculus of
variations. The limit case, part 1 ; Revista Matem atica Iberoamericana,
1, # 1 (1985), pp. 145201.
106. P.L. Lions : The concentration-compactness principle in the calculus of
variations. The limit case, part 2 ; Revista Matem atica Iberoamericana,
1, # 2 (1985), pp. 45121.
107. L. Ljusternik & L. Schnirelman : Methodes Topologiques dans les
Probl`emes Variationnels ; Hermann Editeur, Paris, 1934.
108. O. Lopes : A constrained minimization problem with integrals on the
entire space ; ` a paratre.
109. P. Marcellini & C. Sbordone : Semi-continuity problems in the cal-
culus of variations ; Nonlinear Analysis, Theory, Methods & Appl., 4
(1980), pp. 241257.
110. M. Marcus & V.J Mizel : Absolute continuity on tracks and mappings
of Sobolev Spaces ; Arch. Rat. Mech. & Analysis, 45 (1972), pp. 294320.
111. M. Marcus & V.J Mizel : Nemytskij operators on Sobolev spaces ;
Arch. Rat. Mech. & Analysis, 51 (1973), pp. 347370.
112. M. Marcus & V.J Mizel : Superposition mappings which operates on
Sobolev spaces ; Nonlinear Analysis, Theory, Methods & Appl., 2 (2)
(1978), pp. 257258.
113. M. Marcus & V.J Mizel : Complete characterization of functions which
act, via superposition, on Sobolev Spaces ; Trans. Amer. Mat. Soc., 251
(1979), pp. 187218.
114. J. Mawhin & M. Willem : Critical Point Theory & Hamiltonian Systems ;
Applied Mathematical Sciences #74, Springer-Verlag, New York, 1989.
115. V.G. Mazja : Sobolev Spaces ; Springer, Berlin (1985).
116. N. Meyers & J. Serrin : H = W ; Proc. Nat. Acad. Sci. USA, 51
(1964), pp. 10551056.
117. J.W. Milnor : Morse Theory ; Princeton University Press, Princeton,
NJ, (1963).
118. C.B. Morrey : Quasi-convexity and the semicontinuity of multiple in-
tegrals ; Pacic J. Math., 2 (1952), pp. 2553.
119. C.B. Morrey : Multiple Integrals in the Calculus of Variations ; Springer
Verlag, Berlin-Heidelberg-New York, 1966.
120. J.R. Munkres : Elements of Algebraic Topology ; Addison-Wesley, Menlo
Park (California), 1984.
121. F. Murat : Compacite par compensation ; Ann. Sc. Norm. Sup. Pisa,
Classe di Scienze, Serie IV, 5, n

3 (1978), pp. 489507.


122. J. Nash : Continuity of solutions of parabolic and elliptic equations ;
Amer. J. Math., 80 (1958), pp. 931954.
123. L. Nirenberg : On elliptic partial dierential equations ; Annali Sc.
Normale Sup. Pisa, 13 (1959), pp. 115162.
124. O.A. Oleinik, A.S. Shamaev & G.A. Yosifian : Mathematical Prob-
lems in Elasticity & Homogenization ; Studies in Mathematics and its Ap-
plications, # 26, North Holland, Amsterdam, 1986.
318 Bibliographie
125. R.S. Palais : Morse theory on Hilbert manifolds ; Topology, 2 (1963),
pp. 299340.
126. R.S. Palais : Lusternik-Schnirelman theory on Banach manifolds ;
Topology, 5 (1966), pp. 115132.
127. R.S. Palais : Critical point theory and the minimax principle ; Proceed-
ings of Symposia in Pure Mathematics (Global Analysis), 15 (1970),
AMS, Providence, RI.
128. R.S. Palais & S. Smale : A generalized Morse theory ; Bull. Amer.
Math. Soc., 70 (1964), 165171.
129. L.E. Payne : Isoperimetric inequalities and their applications ; SIAM
Review, 9, # 3 (July 1967), pp. 453488.
130. L.E. Payne : On two conjectures in the xed membrane eigenvalue prob-
lem ; Z. Angew. Math. Phys., 24 (1973), pp. 721729.
131. S.I. Pohozaev : Eigenfunctions of the equation u + f(u) = 0 ; Sov.
Math. Dokl., 6 (1965), pp. 14081411.
132. S.I. Pohozaev : On an approach to nonlinear equations ; Sov. Math.
Dokl., 20 (1979), n

4, pp. 912916.
133. M.H. Protter & H.F. Weinberger : Maximum Principles in Dieren-
tial Equations ; Springer-Verlag, New York 1984.
134. P.H. Rabinowitz : Variational methods for nonlinear eigenvalue prob-
lems ; Eigenvalues of Nonlinear Problems, (1974, G. Prodi editor) pp.
141195.
135. P.H. Rabinowitz : Theorie du Degre Topologique et Bifurcation ; notes
dun Cours de Troisi`eme Cycle, redigees par H. Berestycki ; publications
du Laboratoire dAnalyse Numerique de lUniversite Paris 6, Paris 1976.
136. P.H. Rabinowitz : Free vibrations for a semilinear wave equation ;
Comm. in Pure & Applied Math., 31 (1978), pp. 3168.
137. P.H. Rabinowitz : Some critical point theorems and applications to
semilinear elliptic partial dierential equations ; Ann. Scuola Norm. Sup.
Pisa, Classe Scienza, seria IV, 2 (1978), pp. 215223.
138. P.H. Rabinowitz : Minimax Methods in Critical Point Theory with Appli-
cations to Dierential Equations ; Conference Board of the Mathematical
Sciences, Regional Conference Series in Mathematics, # 65, published by
the AMS, 1986.
139. M. Reed & B. Simon : Methods of Modern Mathematical Physics (volume
IV Analysis of Operators) ; Academic Press, New York 1978.
140. M. Renardy & R.C. Rogers : An Introduction to Partia Dierential
Equations ; Texts in Mathematics # 1, Springer-Verlag, New York 1993.
141. F. Riesz : Sur une inegalite integrale ; J.L.M.S., 5, (1930), pp. 162168.
142. F. Riesz & B.Sz. Nagy : Le cons dAnalyse Fonctionnelle ; Sixi`eme
edition, Gauthiers-Villars, Paris 1972.
143. R.T. Rockafellar : Convex Analysis ; Princeton University Press,
Princeton 1970.
144. G.V. Rosenbljum: The distribution of the discrete spectrum for singular
dierential operators ; Soviet Math. Dokl., 13 (1972), pp. 245249.
145. W. Rudin : Analyse Reelle et Complexe ; Editions Masson, Paris 1975.
Bibliographie 319
146. B. Ruf : On nonlinear problems with jumping nonlinearities ; Annali di
Matematic` a Pura & Applicata, 28 (1981), pp. 133151.
147. H.H. Schaefer : Topological Vector Spaces ; Macmillan Series in Ad-
vanced Mathematics & Theoretical Physics, New York, 1966.
148. J.T. Schwartz : Generalizing the Lusternik-Schnirelman theory of crit-
ical points ; Comm. Pure & Applied Math., 17 (1964), pp. 307315.
149. J. Serrin : On the denition and properties of certain variational inte-
grals ; Trans. Amer. Math. Soc., 101 (1961), pp. 139167.
150. J. Serrin : A symmetry problem in potential theory ; Arch. Rat. Mech.
& Analysis, 43,# 4 (1971), pp. 304318.
151. S. Smale : Morse theory and a non-linear generalization of the Dirichlet
problem ; Ann. of Math., (2) 80 (1964), pp. 382396.
152. G. Stampacchia :

Equations Elliptiques du Second Ordre `a Coecients
Discontinus ; Presses de lUniversite de Montreal, serie Seminaires de
Mathematiques Superieures, #16, Montreal 1965.
153. E. Stein : Singular Integral Operators and Dierentiability of Functions ;
Princeton University Press, Princeton 1970.
154. W.A. Strauss : Existence of solitary waves in higher dimensions ;
Comm. Math. Phys., 55 (1977), pp. 149162.
155. M. Struwe : Innitely many critical points for functionals which are not
even and applications to superlinear boundary value problems ; Manuscri-
pta Math., 32 (1980), pp. 335364.
156. M. Struwe : A global compactness results for elliptic boundary value
problems involving limiting nonlinearities ; Math. Z., 187 (1984), pp.
511517.
157. M. Struwe : Large H-surfaces via the mountain pass lemma ; Math.
Ann., 270 (1985), pp. 441459.
158. M. Struwe : A generalized Palais-Smale condition and its applications ;
Proc. Sympos. Pure Math. (AMS, Providence, RI), 45, part 2, (1986),
pp. 335364.
159. M. Struwe : Variational Methods : Applications to Nonlinear PDE & Hamil-
tonian Systems ; Springer, Berlin 1990.
160. G. Talenti : Best constant in Sobolev inequality ; Ann. Mat. Pura Appl.,
110 (1976), pp. 353372.
161. L. Tonelli : La semicontinuit` a nel calcolo delle variazioni ; Rend. Circ.
Matem. Palermo, 44 (1920), pp. 167249.
162. N.Th. Varopoulos : Hardy-Littlewood theory for semigroups ; J. Func.
Analysis, 63 (1985), pp. 240260.
163. H.F. Weinberger : Remark on the preceding paper of Serrin ; Arch.
Rat. Mech. & Analysis, 43,# 4 (1971), pp. 319320.
164. H. Wente : An existence theorem for surfaces of constant mean curva-
ture ; J. Math. Analysis & Appl., 26 (1969), pp. 318344.
165. K. Yosida : Functional Analysis ; Springer-Verlag, Die Grundlehren der
Mathematischen Wissenschaften, #123, New York 1974.
166. E. Zeidler : Nonlinear Functional Analysis & its Applications. Volume I :
Fixed Point Theorems ; Springer-Verlag, New York 1986.
Index des notations
BV(R
N
) 265,
(C())
m
7,
C(, R
m
) 7,
C
0
() 7,
C
k
() 8,
C
k
() 8,
C
k
c
() 8,
C

c
() 25,
C

c,rad
(R
N
) 302,
C
0
() 7,
C
b
() 7,
C
0,
() 7,
C
0,
b
() 8,
C
k,
() 8,
C
k,
b
() 8,

i
u 8,
D() 25,
D
m,p
(R
N
) 293,
D
1,2
rad
(R
N
) 302,
H
m
() 24,
H
m
0
() 25,
H
m
() 26,
L(E) 49,

2
:=
2
(N) 3,
o(x) 53,
15,
Sp(A) 49,
W
m,p

() 26,
W
m,2
0
() 25,
W
m,p
() 24,
x
n
x

Index
additivite 103,
adjoint 40,
aire 265,
Aleksandrov 44,
argument de bootstrap 48,
Ascoli 9,
bilaplacien 4,
bootstrap 48,
borne dans une direction 34,
Borsuk 109, 113, 132, 133,
Borsuk-Ulam 114,
bosse 249,
Brezis-Kato 48,
Brezis-Lieb 10,
Brouwer 98, 108, 132,
calcul des variations 1,
capacite 90,
Caratheodory 60,
Cartan 14,
chaleur 30,
champ de pseudo-gradient 164,
champ de pseudo-gradient tangent 205,
changement de variable 14,
classe C
k
(ouvert de) 19,
coercive 6,
compacite 285,
compacite par compensation 85,
compact 49, 120,
complexie 49,
condition de coercivite 38,
condition de Palais-Smale 156, 199,
c one normal 51,
continue (forme bilineaire) 6,
contrainte 55,
convergence dominee 9,
etroite 293,
faible 5,
forte 5,
monotone 9,
vague 293,
convexe 58,
convexe-concave 145,
cosinus directeur 20,
Courant-Fischer 213,
courbure moyenne 95,
croissance des valeurs propres 228,
Cwickel 231, 245,
decomposition de Cartan 14,
deformation retracte 168,
deformer contin ument 154,
degre topologique 102,
degre topologique de Brouwer 98,
derivee de G ateaux 53,
directionnelle 52,
faible 24,
normale 20, 28,
determinant de Van der Monde 76,
322 Index
deuxi`eme valeur propre 79,
dichotomie 285,
Dirichlet 1, 2,
divergentielle (sous forme) 39,
Eberlein-Shmulyan 6,
Egorov 10,
elliptique (uniformement) 6,
enlace 173,
enlacement 184,
ensemble de niveau 153,
ensemble resolvant 48,
epigraphe 162,
equation dEuler 54,
dEuler-Lagrange 55,
de la chaleur 30,
de Laplace 6,
equi-integrabilite 12,
equi-negligeable 13,
equi-negligeable 283,
espace denergie 24,
etat fondamental 196, 259, 266,
Euler 54,
Euler-Lagrange 55,
evanescence 285,
excision 103,
exposant critique de Sobolev 257,
extension 41,
faible

5,
faiblement sequentiellement s.c.i. 135,
Fatou 9,
fermable 38,
ferme 38,
Fischer 213,
ambage 218,
ot 156, 166,
fonction de Caratheodory 60,
fonction de concentration 286,
fonctions implicites (theor`eme des) 55,
formule de Green 23,
formule de Stokes 23,
Frechet 53,
Fredholm 49,
G

-dense 239,
G-derivable 53,
Gagliardo 77,
Gagliardo-Nirenberg 31, 78,
Gagliardo-Nirenberg-Sobolev 74, 75,
Garding 50, 83,
G ateaux 53,
Gauss 1,
genre 115, 116,
graphe 38,
Green 20,
Gronwall 237,
ground state 196, 259,
hamiltonien elliptique 95,
Hardy 308,
Hartman-Stampacchia 133,
hemicontinue 149, 137,
h olderiennes 7,
homotope 104,
homotopie 104,
Hopf 43, 44,
identite de Pohozaev 253,
impaire 109,
indice 115,
inegalite de Gagliardo-Nirenberg 77,
78,
Garding 50, 83,
Hardy 308,
Kato 37, 80, 81,
Index 323
Korn 79, 80,
Nash 30,
Poincare 34,
Poincare-Wirtinger 36, 78, 79,
Rosenbljum-Lieb-Cwickel 231,
Sobolev 29,
Sobolev logarithmique 31,
Trudinger-Moser 32,
Young 64, 82,
integrale de Dirichlet 2,
invariance par homotopie 104,
jacobien 15,
jacobienne 15,
Kato 37, 80, 81,
Kelvin 1,
Kolmogorov 14,
Kondrachov 33,
Korn 79, 80,
Krein-Rutman 50, 51,
Kuhn-Tucker 186,
Ky Fan-von Neumann 145, 147,
Lagrange 55,
Landau 53,
Laplace 2, 6,
Lax-Milgram 6,
lemme de concentration-
compacite 285, 293,
de deformation 155, 166,
dEkeland 162,
de Lax-Milgram 6,
Lieb 279,
Gronwall 237,
Minkowski 186,
Sard 106,
Leray-Schauder 124,
Levy 286,
liaison 173, 184,
Lieb 10, 231,
Lieb-Cwickel 245,
Lieb-Thirring 231,
Lions (P.L.) 285, 293,
localement ni 165,
Lusin 10,
matrice jacobienne 15,
mesure supercielle 18, 265,
methode du tir 252,
Minkowski 186,
Morrey-Sobolev 29,
Morse 168, 208,
Moser 32, 33, 75,
mountain pass theorem 169,
multiplicateur de Lagrange 55,
Nash 30,
Nemitsky 62,
Nirenberg 31, 74, 75, 77, 78,
non retraction 107,
normal (c one) 51,
normale exterieure 20,
norme du graphe 38,
notation de Landau 53,
operateur de prolongement 27,
superposition 62,
operateur elliptique du second ordre
39,
lineaire 38,
local 60, 86,
de Nemitsky 62,
oscillateur harmonique 193, 307,
ouvert de classe C
k
19,
324 Index
p-laplacien 4,
paire 109,
Palais-Smale 156, 199,
paracompacite 165,
partie principale divergentielle 42,
partition de lunite 165,
pendule force 190,
perim`etre 265,
plaque encastree 218,
plongement 18,
plus n 165,
Poincare 34, 90,
Poincare-Wirtinger 36, 78, 79,
point cible 98,
point critique 54,
point regulier 54,
point-selle 145,
pointe 249,
positif (operateur) 51,
principe de concentration-
compacite 285, 290,
principe de Courant-Fischer 213,
Dirichlet 2,
min-max 169, 208,
du maximum classique 43,
maximum dAleksandrov 44,
maximum de Hopf 44,
maximum faible 43,
maximum fort 43,
probl`eme de Neumann 232,
probl`eme de Stokes 217,
prolongement 76,
pseudo-gradient 164,
pseudo-gradient tangent 204,
quasi-convexe 138,
quotient de Rayleigh 212,
radiale 250,
radiale decroissante 250,
rayon spectral 49,
rearrangement 259,
rearrangement decroissant 260,
reciproque partielle 12, 72,
reexif 5,
relations de Kuhn-Tucker 186,
Rellich-Kondrachov 33,
resolvante 49,
resolvante compacte 49,
restriction sur le bord 27,
robuste 101,
Rosenbljum-Lieb-Cwickel 231, 245,
Rutman 50, 51,
s.c.i. 59, 135,
s.c.s. 135,
sandwich 131,
saturee 186,
Schauder 46, 124,
Schwarz 259, 259,
semi-continue inferieurement 59, 135,
semi-continue superieurement 135,
semi-groupe ultracontractif 30,
Smale 156, 199,
Sobolev 29, 31, 74, 75, 257,
spectre 49,
spectre de Fucik 241,
spectre demi-lineaire 241,
spectre ponctuel 49,
stabilite 101, 102, 103,
Stampacchia 70, 133,
Steklov 218,
Stokes 20, 23,
superposition 62,
symetrie spherique 250,
Index 325
symetrique (ensemble)109,
symetrisation de Schwarz 259,
symetrisee de Schwarz 260,
theor`eme de Borsuk 132,
changement de variable 14,
du col 169, 170,
de Krein-Rutman 50, 51,
Ky Fan-von Neumann 147,
Strauss 251,
Morse 168,
point xe de Brouwer 108,
prolongement 76,
Rellich-Kondrachov 33,
viriel 256,
Weyl 230,
des fonctions implicites 55,
theorie de Morse 154,
Thirring 231,
Tietze-Urysohn 7,
topologiquement nilpotent 51,
trace 27, 28,
Trudinger-Moser 32, 33, 75,
Tucker 186,
Ulam 114,
ultracontractif 30,
ultracontractivite 31,
uniformement elliptique 6,
uniformement h olderienne 8,
uniformement strictement convexe 141,
valeur critique 54, 55,
valeur reguli`ere 54,
Van der Monde 76,
variation totale 265,
viriel 256,
visco-elasticite 138,
Vitali 13,
von Neumann 145, 147,
Wirtinger 36, 78, 79,
Young 64, 82,

Vous aimerez peut-être aussi