Vous êtes sur la page 1sur 51

Elements danalyse convexe

Cours de M1 Mathematiques Fondamentales


Universite Paul Sabatier
Pierre Marechal
Table des mati`eres
1 Preliminaires 2
1.1 Notations et denitions elementaires . . . . . . . . . . . . . . . . 2
1.2 Sous-espaces vectoriels . . . . . . . . . . . . . . . . . . . . . . . . 3
1.3 Sous-espaces anes . . . . . . . . . . . . . . . . . . . . . . . . . . 4
1.4 Sous-ensembles convexes . . . . . . . . . . . . . . . . . . . . . . . 5
1.5 Enveloppes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6
2 Proprietes topologiques et separation 8
2.1 Interieurs relatifs . . . . . . . . . . . . . . . . . . . . . . . . . . . 8
2.2 Separation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
3 Cones 22
3.1 Denitions et proprietes elementaires . . . . . . . . . . . . . . . . 22
3.2 Cones polaires . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
3.3 Theor`emes de Farkas et de Gordan . . . . . . . . . . . . . . . . . 26
4 Fonctions convexes 30
4.1 Generalites . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30
4.2 Fonctions convexes sci . . . . . . . . . . . . . . . . . . . . . . . . 33
4.3 Fermeture dune fonction . . . . . . . . . . . . . . . . . . . . . . 38
4.4 Fonctions concaves . . . . . . . . . . . . . . . . . . . . . . . . . . 39
5 Theorie dierentielle et dualite 40
5.1 Fonctions positivement homog`enes . . . . . . . . . . . . . . . . . 40
5.2 Derivees directionnelles . . . . . . . . . . . . . . . . . . . . . . . 42
5.3 Sous-dierentiabilite . . . . . . . . . . . . . . . . . . . . . . . . . 45
5.4 Conjugaison convexe . . . . . . . . . . . . . . . . . . . . . . . . . 48
1
Chapitre 1
Preliminaires
Ces notes de cours sont une introduction `a quelques notions fondamentales
en analyse convexe. Leur etude ne saurait en aucun cas remplacer une lecture
approfondie des ouvrages de reference suivants :
1. D. Aze,

Elements dAnalyse Convexe et Variationnelle, Ellipses, 1998.
2. M. Bergounioux, Optimisation et Controle des Syst`emes Lineaires, Du-
nod, 2001.
3. J.-B. Hiriart-Urruty, LOptimisation, Collection Que sais-je, Presses Uni-
versitaires de France, 1996.
4. J.-B. Hiriart-Urruty & C. Lemarechal, Convex Analysis and Minimization
Algorithms, I and II, Springer-Verlag, 1993.
5. R.T. Rockafellar, Convex Analysis, Princeton University Press, Princeton,
1970.
6. M. Willem, Analyse Convexe et Optimisation (troisi`eme edition),

Editions
Ciaco, Bruxelles, 1989.
1.1 Notations et denitions elementaires
Dans toute ce qui suit, d sera un entier strictement positif. On munit R
d
du
produit scalaire euclidien usuel et de la norme correspondante :
x, y) :=
d

j=1
x
j
y
j
, |x| :=
_
x, x).
Ladherence dun sous-ensemble E de R
d
est notee

E ou encore cl E. Linterieur
de E est note int E. On rappelle que
int E = x E [ > 0: B(x, ) E ,
2
o` u B(x, ) := y R
d
[ |y x| < . Lensemble de tous les sous-ensembles
de R
d
est note P(R
d
).
Nous denissons maintenant quelques operations sur les sous-ensembles de R
d
.
Si E, F P(R
d
), la somme de E et de F est lensemble
E + F := x +y [ x E, y F .
Si est un reel, lensemble E est lhomothetique de E de centre 0 et de rap-
port :
E := x [ x E .
En particulier, le symetrique de E de centre 0 est lensemble E = (1)E. Il
faut bien s ur eviter de confondre E F := E + (F) et
E F := x E [ x , F .
Si x = (x
1
, . . . , x
d
) R
d
et x

= (x

1
, . . . , x

d
) R
d

, o` u d

est un autre entier


strictement positif, on denit
(x, x

) = (x
1
, . . . , x
d
, x

1
, . . . , x

d
) R
d+d

.
Si E R
d
et E

R
d

, le produit cartesien de E par E

est lensemble
E E

:= (x, x

) [ x E, x

.
Lintersection de deux sous-ensembles E, F de R
d
est notee EF, et si (E

)
A
est une famille de sous-ensembles de R
d
(ici, A est un ensemble quelconque
dindices), lintersection des E

est lensemble

A
E

:=
_
x R
d

A, x E

_
.
1.2 Sous-espaces vectoriels
Un sous-ensemble V R
d
est un sous-espace vectoriel si et seulement si
(a) V ,= ;
(b) x, y V, , R, x + y V .
Une combinaison lineaire delements de R
d
est un vecteur de la forme
1
x
1
+
+
m
x
m
, o` u
m N

,
1
, . . . ,
m
R et x
1
, . . . , x
m
R
d
.
On dit quun sous-ensemble U de R
d
est stable par combinaison lineaire lorsque
m N

,
1
, . . . ,
m
R, x
1
, . . . , x
m
U,
1
x
1
+ +
m
x
m
U.
On rappelle que V est un sous-espace vectoriel si et seulement si V est non vide
et stable par combinaison lineaire. On note V (R
d
) lensemble de tous les sous-
espaces vectoriels de R
d
. Insistons sur le fait que , V (R
d
). Enn, il est facile
3
de voir que V (R
d
) est stable par intersection : si A est un ensemble quelconque
dindices,
(V

)
A
V (R
d
) =

A
V

V (R
d
).
Rappelons que, si V est un sous-espace vectoriel de R
d
, alors toutes les bases
de V ont le meme cardinal, appele la dimension de V . La dimension de V est
notee dimV .
1.3 Sous-espaces anes
Si x et y sont deux vecteurs distincts de R
d
, la droite passant par x et y est
lensemble (1 )x + y [ R. Un sous-ensemble A de R
d
est appele un
sous-espace ane lorsquil satisfait :
x, y A, R, (1 )x + y A.
Par exemple, et R
d
sont des sous-espaces anes. De meme, les singletons x,
les sous-espaces vectoriels, les droites, sont des sous-espaces anes. On note
A(R
d
) lensemble de tous les sous-espaces anes de R
d
.
Theor`eme 1. Soit A A(R
d
). Alors A est un sous-espace vectoriel si et seule-
ment si 0 A.
D emonstration. Il est evident que, si A V (R
d
), alors 0 A. Reciproque-
ment, supposons que 0 A. Alors,
x A, R, x = (1 )0 + x A,
et donc A est stable par multiplication par les scalaires reels. Si maintenant
x, y A, alors
x +y
2
=
_
1
1
2
_
x +
1
2
y A,
ce qui implique que x + y A. Donc A est aussi stable par addition. Ainsi,
A V (R
d
).
Theor`eme 2. Soient A A(R
d
) et x
0
R
d
. Alors A +x
0
A(R
d
). Autre-
ment dit, A(R
d
) est stable par translation.
D emonstration. Cest un exercice facile.
Un sous-espace ane A est dit parall`ele `a un sous-espace ane B sil existe
x
0
R
d
tel que B = A+x
0
. On ecrit alors A | B. On verie facilement que |
est une relation dequivalence dans A(R
d
).
4
Theor`eme 3. Tout sous-espace ane non vide A est parall`ele `a un unique sous-
espace vectoriel V , qui satisfait
V = AA = x y [ x A, y A .
D emonstration. Soit y un point quelconque de A. Dapr`es le theor`eme 2,
Ay A(R
d
). Puisque Ay contient 0, le theor`eme 1 montre quen fait
Ay V (R
d
). Lexistence est donc claire.
Pour montrer lunicite, supposons que V
1
, V
2
sont deux sous-espaces vectoriels
parall`eles `a A. Par transitivite de la relation |, on voit que V
1
| V
2
, et donc il
existe x
0
R
d
tel que
V
2
= V
1
+x
0
.
Puisque 0 V
2
, x
0
V
1
et donc x
0
V
1
. On en deduit que V
1
V
1
+x
0
=
V
2
. Par un raisonnement symetrique, V
2
V
1
, et donc V
2
= V
1
.
Finalement, lunicite qui vient detre etablie permet decrire que V = A y
pour tout y A, et donc que
V =
_
yA
_
Ay
_
= AA.
Une combinaison ane delements de R
d
est un vecteur de la forme
1
x
1
+ +

m
x
m
, o` u
m N

,
1
, . . . ,
m
R,
1
+ +
m
= 1 et x
1
, . . . , x
m
R
d
.
On montre que A est un sous-espace ane si et seulement si pour tout m N

,
pour tout (
1
, . . . ,
m
) R
m
tel que
1
+ +
m
= 1 et pour tous x
1
, . . . , x
m

A,

1
x
1
+ +
m
x
m
A.
On remarque que A(R
d
), et que A(R
d
) est stable par intersection. Enn, la
dimension dun sous-espace ane A est, par denition, la dimension de lunique
sous-espace vectoriel parall`ele `a A si A est non vide, et zero si A est vide. La
dimension de A est notee dimA.
1.4 Sous-ensembles convexes
Soient x et y deux points de R
d
. On appelle segment joignant x et y lensemble
[x, y] := (1 )x + y [ [0, 1] .
On dit quun sous-ensemble C de R
d
est convexe lorsque C contient tout segment
joignant deux de ses points, autrement dit, lorsque
x, y C, [x, y] C.
On note C(R
d
) lensemble de tous les sous-ensembles convexes de R
d
.
5
Theor`eme 4. Lintersection dune famille quelconque de sous-ensembles convexes
est convexe.
D emonstration. Soit (C

)
A
C(R
d
) (A est un ensemble quelconque din-
dices), et soit C = C

[ A. Soient x, y C et [0, 1]. Pour tout A,


x et y appartiennent `a C

, qui est convexe. On en deduit que


A, (1 )x + y C

.
Autrement dit, (1 )x + y C.
Theor`eme 5. (i) Soient C C(R
d
) et un reel. Alors C C(R
d
).
(ii) Soient C
1
, C
2
C(R
d
). Alors C
1
+ C
2
C(R
d
).
(iii) Soient C
1
R
d1
et C
2
R
d2
, o` u d
1
et d
2
sont deux entiers strictement
positifs. Alors C
1
C
2
C(R
d1+d2
).
D emonstration. Cest un exercice facile.
On appelle combinaison convexe delements de R
d
tout vecteur de la forme

1
x
1
+ +
m
x
m
, o` u
m N

,
1
, . . . ,
m
R
+
,
1
+ +
m
= 1 et x
1
, . . . , x
m
R
d
.
On appelle simplexe de R
m
lensemble

m
:=
_
(
1
, . . . ,
m
) R
m
+


1
+ +
m
= 1
_
.
On montre que C C(R
d
) si et seulement si C est stable par combinaison
convexe, cest-`a-dire,
m N

,
1
, . . . ,
m
R
+
:
1
+ +
m
= 1,
x
1
, . . . , x
m
C,
1
x
1
+ +
m
x
m
C.
1.5 Enveloppes
Soit E R
d
. Lenveloppe vectorielle de E (ou sous-espace vectoriel engendre
par E) est lintersection de tous les sous-espaces vectoriels de R
d
qui contien-
nent E. On la note vect E :
vect E =

_
V V (R
d
)

E V
_
.
Lenveloppe ane de E est lintersection de tous les sous-espaces anes de R
d
qui contiennent E. On la note a E :
a E =

_
A A(R
d
)

E A
_
.
6
Lenveloppe convexe de E est lintersection de tous les sous-ensembles convexes
de R
d
qui contiennent E. On la note co E :
co E =

_
C C(R
d
)

E C
_
.
On remarque que vect = 0, alors que a = co = .
Theor`eme 6. Soit E R
d
.
(i) Si E ,= , alors vect E est lensemble de toutes les combinaisons lineaires
delements de E ;
(ii) a E est lensemble de toutes les combinaisons anes delements de E ;
(iii) co E est lensemble de toutes les combinaisons convexes delements de E.
D emonstration. Les trois assertions se demontrent de mani`ere analogue, et
nous necrivons ici que la preuve de la troisi`eme. Posons
C :=
1
x
1
+ +
m
x
m
[ m N

, (
1
, . . . ,
m
)
m
, x
1
, . . . , x
m
E .
Il est clair que E C. Montrons que C est convexe. Soient x, y C et ,
deux reels positifs tels que + = 1. Alors,
x + y = (
1
x
1
+ +
m
x
m
) + (
1
y
1
+ +
p
y
p
),
o` u m, p N

, (
1
, . . . ,
m
)
m
, (
1
, . . . ,
p
)
p
, et
x
1
, . . . , x
m
, y
1
, . . . , y
p
E.
Il est facile de voir que (
1
, . . . ,
m
,
1
, . . . ,
p
)
m+p
. On en deduit
que x +y est une combinaison convexe delements de E, autrement dit, que
x + y C.
Puisque E C et C est convexe, co E C, et il reste `a etablir linclusion
opposee. Soit donc z C :
z =
1
z
1
+ +
q
z
q
,
o` u q N

, (
1
, . . . ,
q
)
q
et z
1
, . . . , z
q
E co E. On voit que z est une
combinaison convexe delements de co E, et comme co E est convexe (dapr`es le
theor`eme 4), il sensuit que z co E.
La notion denveloppe ane permet de denir la dimension dun sous-ensemble
quelconque de R
d
: si E est quelconque dans P(R
d
), on appelle dimension de
E la dimension de son enveloppe ane. On la note dimE.
7
Chapitre 2
Proprietes topologiques et
separation
2.1 Interieurs relatifs
Considerons, dans R
3
, le disque
D :=
_
(x, y, z) R
3

z = 0, x
2
+ y
2
1
_
.
Linterieur de D (dans la topologie usuelle) est evidemment vide. Cependant,
si lon regarde D comme un sous-ensemble du plan horizontal (cest-`a-dire, de
son enveloppe ane), les points de linterieur de D sont ceux qui satisfont la
condition x
2
+ y
2
< 1.
De mani`ere generale, on denit linterieur relatif dun sous-ensemble E de R
d
comme linterieur de E considere comme sous-ensemble de son enveloppe ane.
On le note ri E :
ri E := x E [ > 0:
_
B(x, ) a E
_
E. (2.1)
Dans lexemple introductif precedent, on a donc :
ri D =
_
(x, y, z) R
3

z = 0, x
2
+ y
2
< 1
_
.
On parle parfois de topologie relative `a lensemble E. Lequation (2.1) montre
que lon a toujours linclusion int E ri E, avec egalite lorsque a E = R
d
.
Par ailleurs, on peut se convaincre aisement que la fermeture de E nest pas
aectee par passage `a la topologie relative. Lorsque ri E = E, on dit que E est
relativement ouvert.
La notion dinterieur relatif est interessante surtout pour les ensembles convexes.
Nous verrons notamment que si C C(R
d
) est non vide, alors ri C est aussi
(convexe et) non vide.
Il est important de realiser que le passage `a linterieur relatif ne preserve pas, en
general, linclusion (contrairement au passage `a linterieur). Soient par exemple,
8
dans R
2
, les sous-ensembles
C := [0, 1]
2
et C

:= [0, 1] 0.
Lenveloppe ane de C est R
2
tout entier, alors que celle de C

est la droite
horizontale R0. Par consequent,
ri C = ]0, 1[
2
et ri C

= ]0, 1[ 0.
On voit donc que, bien que C

C, ri C

, ri C.
Enn, on appelle fronti`ere relative dun ensemble E lensemble
rbdE := cl E ri E.
Par exemple, rbdD = (x, y, z) R
3
[ z = 0, x
2
+ y
2
= 1.
Theor`eme 7. Soit C C(R
d
) tel que int C ,= . Soient x int C et y cl C.
Alors
[x, y[ := (1 t)x + ty [ t [0, 1[ int C.
De plus, int C = int cl C et cl C = cl int C.
D emonstration. Etape 1 : Nous montrons que si z := (1 t)x + ty avec
t ]0, 1[, alors z int C. Soit B une boule ouverte de centre x telle que B C.
Soient := (t 1)/t et h

lhomothetie de centre z et de rapport . On a :


h

(x) = z +
t 1
t
(x z)
= (1 t)x + ty +
t 1
t
(tx ty)
= y.
Comme h

est lineaire et inversible, h

(B) est un ouvert, et ce qui prec`ede


montre que h

(B) contient y. Cest donc un voisinage de y. Puisque y cl C,


on peut trouver un point x
0
dans C h

(B). Il existe alors z


0
B tel que
x
0
= h

(z
0
). Soit
:=

1
= 1 t ]0, 1[ ,
et soit h

lhomothetie de centre x
0
et de rapport . Alors,
h

(z
0
) = x
0
+ (1 t)(z
0
x
0
)
= z +
t 1
t
(z
0
z) + (1 t)
_
z
0
z +
1 t
t
(z
0
z)
_
= z +
t 1
t
(z
0
z) +
1 t
t
(z
0
z)
= z.
9
Puisque z
0
B, on deduit du calcul precedent que
z h

(B) = x
0
+ (1 t)
_
B x
0

_
= tx
0
+ (1 t)u [ u B C.
En resume, h

(B) est une boule ouverte contenant z, contenue dans C. On a


donc bien que z int C.
Etape 2 : Nous montrons maintenant que int C = int cl C. Comme C cl C,
il est clair que int C int cl C. Reciproquement, soit z int cl C, soit r > 0 tel
que cl B(z, r) cl C, et soit x int C tel que x ,= z. Choisissons t > 0 tel que
t|x z| r (donc z t(x z) cl B(z, r)). Dapr`es letape 1,
z t(x z) cl C
x int C
_
= [x, z t(x z)[ int C.
Puisque z [x, z t(x z)[, la derni`ere inclusion montre que z int C.
Etape 3 : Nous montrons nalement que cl C = cl int C. Comme int C C,
il est clair que cl int C cl C. Reciproquement, soit x cl C, et soit z int C.
Dapr`es letape 1,
x
n
:=
z
n
+
_
1
1
n
_
x int C.
Comme x
n
x lorsque n , on voit que x cl int C.
Corollaire 1. Soit C C(R
d
), et soient x ri C, y cl C. Alors [x, y[ ri C.
D emonstration. Il sut de passer `a la topologie relative, et dappliquer le
theor`eme.
Corollaire 2. Soit C C(R
d
) non vide. Il y a equivalence entre
(i) z ri C ;
(ii) x C, > 1: (1 )x + z C.
D emonstration. Si z ri C, il est clair que tout segment inclus dans C ayant
z comme une de ses extremites peut etre prolonge au-dela de z sans quitter C.
Cest la condition (ii).
Reciproquement, supposons (ii). Puisque ri C ,= , on peut choisir un point
x ri C. Soit alors y := (1 )x + z, avec > 1, tel que y C. Alors
z =
1

_
y (1 )x
_
= y + (1 )x, avec :=
1

]0, 1[ .
Le theor`eme 7 montre alors que z ri C.
Soit A := x
0
, . . . , x
k
R
d
. On dit que A est anement independant si
lensemble
ax
0
, . . . , x
k
= x
0
+ vectx
1
x
0
, . . . , x
k
x
0

10
est de dimension k. Bien s ur, dans legalite ci-dessus, le role donne `a x
0
aurait pu
etre donne `a nimporte quel autre element de A. On peut se convaincre aisement
quun sous-ensemble E de R
d
est de dimension k si et seulement si il contient
un ensemble x
0
, . . . , x
k
anement independant.
Lemme 1. x
0
, . . . , x
k
est anement independant si et seulement si le syst`eme
k

i=0

i
x
i
= 0,
k

i=0

i
= 0
admet pour solution unique
0
= . . . =
k
= 0.
D emonstration. Cest un exercice facile.
Lemme 2. Soit A := x
0
, . . . , x
k
R
d
un ensemble anement independant.
Soient H := u R
k+1
[

k
j=0
u
j
= 1 et : H a A denie par
(u) =
k

j=0
u
j
x
j
.
Alors est bijective et bicontinue.
D emonstration. Soient u, v H tels que (u) = (v). Alors,
k

j=0
(u
j
v
j
)x
j
= 0 et
k

j=0
(u
j
v
j
) = 0,
et le lemme precedent montre que u
j
v
j
= 0 pour tout j, cest-`a-dire, u = v.
Donc est injective. Soit maintenant x quelconque dans a A. Alors x est de
la forme
x = x
0
+
k

j=1

j
(x
j
x
0
) =
_
_
1
k

j=1

j
_
_
x
0
+
k

j=1

j
x
j
. (2.2)
Il est clair que (1

k
j=1

j
,
1
, . . . ,
k
) H, donc x (H). Outre la surjec-
tivite de , lequation (2.2) donne aussi lapplication inverse de :

1
_
_
x
0
+
k

j=1

j
(x
j
x
0
)
_
_
=
_
_
1
k

j=1

j
,
1
, . . . ,
k
_
_
.
La continuite de et de
1
est alors evidente.
11
Theor`eme 8. Soit C C(R
d
). Alors cl C, ri C C(R
d
). De plus,
a ri C = a C = a(cl C).
D emonstration. La convexite de cl C resulte immediatement de la formule
cl C =

>0
_
C + B(0, )
_
et du theor`eme 4, puisque C + B(0, ) est convexe pour tout (voir le theor`e-
me 5(ii)). La convexite de ri C est une consequence immediate du corollaire 1.
Montrons legalite a C = a cl C. Dune part, on a
C cl C = a C a(cl C).
Et dautre part, on a
C a C = cl C cl(a C) = a C = a(cl C) a C.
Reste `a montrer legalite a(ri C) = a C. Linclusion a(ri C) a C etant
evidente, il sut de montrer linclusion opposee. Soit k := dimC. Il existe un
ensemble A = x
0
, . . . , x
k
C anement independant. On consid`ere alors
:= cox
0
, . . . , x
k
.
Puisque C et dim = dimC, nous voyons que et C ont la meme
enveloppe ane. Soient H := u R
k+1
[

k
j=0
u
j
= 1 et : R
k+1
a C
lapplication lineaire denie par
(u) =
d

j=0
u
j
x
j
.
Soient encore
:=
_
_
_
u R
k+1
+

j=0
u
j
= 1
_
_
_
et

:=
_
_
_
u (R

+
)
k+1

j=0
u
j
= 1
_
_
_
.
Remarquons que (

) () = C a C = a A. Puisque

est ouvert
dans H et est bicontinue dapr`es le lemme 2, (

) est ouvert dans a C. Il


sensuit que (

) ri C de sorte que a (

) a(ri C). Or,


a (

) = a(cl (

)) = a (cl

) = a () = a = a C,
et linclusion a C a(ri C) est demontree.
Il resulte immediatement du theor`eme 8 que, si C C(R
d
), alors ri C, C et cl C
ont meme dimension, et que si C C(R
d
) est non vide, alors ri C ,= .
12
Theor`eme 9. Soit C C(R
d
). Alors cl(ri C) = cl C et ri(cl C) = ri C.
D emonstration. Puisque ri C C, cl ri C cl C. Reciproquement, soit y
cl C. On peut supposer C non vide. Dapr`es le theor`eme 8, on peut trouver
x ri C. Le theor`eme 7 montre alors que [x, y[ ri C, et donc que y cl(ri C).
La premi`ere egalite est etablie.
Puisque a C = a(cl C), linclusion C cl C implique linclusion ri C
ri(cl C). Reciproquement, soit z ri(cl C), et montrons que z ri C. Soit x
un point quelconque de ri C. On peut supposer que x ,= z, sinon z ri C
trivialement. Soit > 1, et soit
y := (1 )x + z = z ( 1)(x z).
Pour susamment proche de 1, y ri(cl C), donc y cl C. Alors, z =
(1 )x + y pour un certain ]0, 1[. Puisque x ri C et y cl C, le
theor`eme 7 montre que z ri C.
Proposition 1. (1) Soient C
1
, C
2
C(R
d
) tels que ri C
1
ri C
2
,= . Alors
cl(C
1
C
2
) = cl C
1
cl C
2
et ri(C
1
C
2
) = ri C
1
ri C
2
.
(2) Soient C
1
C(R
d1
) et C
2
C(R
d2
). Alors
a(C
1
C
2
) = a C
1
a C
2
et ri(C
1
C
2
) = ri C
1
ri C
2
.
D emonstration. En TD.
Theor`eme 10. Soit A: R
n
R
m
une application lineaire.
(1) Soit C C(R
n
). Alors
ri(AC) = A(ri C) et cl(AC) A(cl C).
(2) Soit C C(R
m
) tel que A
1
(ri C) ,= . Alors
ri(A
1
(C)) = A
1
(ri C) et cl(A
1
(C)) = A
1
(cl C).
D emonstration.
(1) Montrons tout dabord que A(cl C) cl(AC). Si A = 0, cest evident.
Supposons alors que A ,= 0 (donc que |A| > 0). En appliquant A `a
legalite
cl C =

>0
_
C + B(0, )
_
,
nous obtenons :
Acl C =

>0
_
AC + AB(0, )
_
,
13
o` u
AB(0, ) = Ax [ |x| < B(0, |A| ).
Par consequent,
Acl C

>0
_
AC + B(0, |A| )
_
=

>0
_
AC + B(0,

)
_
= cl(AC).
An de montrer legalite du point (1), montrons tout dabord linclusion
ri AC A(ri C). Dapr`es le debut de la demonstration,
cl A(ri C) A
_
cl(ri C)
_
= A(cl C) AC Ari C,
o` u legalite resulte du theor`eme 9. En prenant la fermeture, on obtient
que cl AC = cl A(ri C). Or il est facile de voir, en utilisant `a nouveau le
theor`eme 9, que deux convexes ont la meme fermeture si et seulement si
ils ont meme interieur relatif. Donc ri AC = ri A(ri C), ce qui montre que
ri AC A(ri C). Reciproquement, supposons que z A(ri C), et montrons
que z ri AC. Soit x AC. Alors
x = Ax

avec x

C et z = Az

avec z

ri C.
Dapr`es le corollaire 2, il existe > 1 tel que
(1 )x

+ z

C, donc A
_
(1 )x

+ z

_
AC.
Autrement dit, quel que soit x AC, il existe > 1 tel que (1)x+z
AC. Le corollaire 2 montre alors que z ri AC.
(2) Le graphe de A est lensemble gr A := (x, y) R
n+m
[ y = Ax. Cest
evidemment un sous-espace vectoriel de R
n+m
. On consid`ere aussi la pro-
jection canonique
P : R
n+m
R
n
(x, y) x,
et on peut ecrire A
1
C = P(gr A (R
n
C)). On a alors :
ri(A
1
C) = ri P(gr A (R
n
C))
= P
_
ri(gr A (R
n
C))
_
= P
_
ri(gr A) ri(R
n
C)
_
= P
_
gr A (R
n
ri C)
_
= A
1
(ri C),
o` u la seconde egalite resulte du point (1), et la troisi`eme de la proposi-
tion 1(1) (puisque ri(gr A) = gr A rencontre ri(R
n
C) = R
n
ri C, ri C
14
etant non vide). Enn,
cl(A
1
C) = cl P(gr A (R
n
C))
P
_
cl(gr A (R
n
C))
_
= P
_
cl(gr A) cl(R
n
C)
_
= P
_
gr A (R
n
cl C)
_
= A
1
(cl C),
o` u les seconde et troisi`eme lignes resultent encore du point (1) et de la
proposition 1(1). Reciproquement, C cl C entrane A
1
C A
1
(cl C),
le dernier ensemble etant bien s ur ferme (A est continue). On en deduit
que cl A
1
C A
1
(cl C).
Nous donnons maintenant un exemple pour lequel linclusion Acl C cl AC est
stricte. Soient C := (x, y) R
2
[ x > 0, y 1/x et
A: R
2
R
(x, y) x.
Il est facile de voir que C est ferme, que AC = ]0, [, de sorte que cl AC = [0, [,
alors que Acl C = AC = ]0, [.
Corollaire 3. Soient C
1
, C
2
C(R
d
) et , R. Alors lensemble convexe
C
1
+ C
2
satisfait :
ri(C
1
+ C
2
) = ri C
1
+ ri C
2
et cl(C
1
+ C
2
) cl C
1
+ cl C
2
.
D emonstration. On consid`ere lapplication lineaire
A: R
d
R
d
R
d
(x, y) x + y.
Alors A(C
1
C
2
) = C
1
+ C
2
. Dune part,
ri(C
1
+ C
2
) = ri A(C
1
C
2
)
= Ari(C
1
C
2
)
= A(ri C
1
ri C
2
)
= ri C
1
+ ri C
2
,
o` u les deuxi`eme et troisi`eme egalites resultent du theor`eme 10(1) et de la proposi-
tion 1(2), respectivement. Dautre part,
cl(C
1
+ C
2
) = cl A(C
1
C
2
)
Acl(C
1
C
2
)
= A(cl C
1
cl C
2
)
= cl C
1
+ cl C
2
,
15
o` u la deuxi`eme egalite resulte `a nouveau du theor`eme 10(1).
Nous donnons maintenant un exemple pour lequel linclusion cl C
1
+ cl C
2

cl(C
1
+ C
2
) est stricte. Soient
C
1
:=
_
(x, y) R
2

x > 0, y 1/x
_
, C
2
:= 0 ], 0]
et = = 1. Puisque C
1
et C
2
sont fermes, on a :
cl C
1
+ cl C
2
= C
1
+ C
2
= ]0, [ R [0, [ R = cl(C
1
+ C
2
).
2.2 Separation
Denitions 1.
(1) On appelle hyperplan de R
d
tout sous-espace ane de R
d
de dimension
d 1, autrement dit, tout ensemble de la forme
_
x R
d

b, x) =
_
,
avec b R
d
0 et R.
`
A un hyperplan H = x R
d
[ b, x) =
correspondent deux demi-espaces ouverts
_
x R
d

b, x) <
_
et
_
x R
d

b, x) >
_
,
et deux demi-espaces fermes
_
x R
d

b, x)
_
et
_
x R
d

b, x)
_
.
(2) On dit que E
1
, E
2
P(R
d
) sont separes sil existe un hyperplan H tel
que E
1
soit contenu dans lun des demi-espaces fermes associes `a H et E
2
dans lautre, autrement dit, sil existe b R
d
0 tel que
inf
xE1
b, x) sup
xE2
b, x) .
On remarque que tout sous-ensemble contenu dans un hyperplan est separe
de lui-meme par cet hyperplan.
(3) On dit que E
1
, E
2
P(R
d
) sont separes proprement sil sont separes
par un hyperplan tel quau moins un des deux sous-ensembles nest pas
contenu dans lhyperplan separateur, autrement dit, sil existe b R
d
0
tel que
inf
xE1
b, x) sup
xE2
b, x) et sup
xE1
b, x) > inf
xE2
b, x) .
On remarque quil est possible davoir deux sous-ensembles E
1
, E
2
tels que
E
1
E
2
qui sont separes proprement.
16
(4) On dit que E
1
, E
2
P(R
d
) sont separes fortement sil existe b R
d
0
tel que
inf
xE1
b, x) > sup
xE2
b, x) .
Il est facile de voir que E
1
et E
2
sont separes fortement si et seulement si
lon peut trouver > 0 tel que E
1
+B(0, ) et E
2
+B(0, ) soient separes.
Lemme 3. Soient E R
d
et x R
d
. Si E et x sont separes, alors x , int E.
D emonstration. Lhypoth`ese de separation secrit :
b R
d
0: sup
yE
b, y) b, x) (2.3)
Supposons, en vue dobtenir une contradiction, que x+b E pour un certain
> 0. On aurait alors
b, x + b) = b, x) + |b|
2
> b, x) ,
en contradiction avec la condition (2.3). On en deduit que x , int E.
Nous rappelons maintenant, sans demonstration, le theor`eme de projection sur
un convexe ferme dans un espace de Hilbert.
Theor`eme 11. Soit (F, , )) un espace de Hilbert reel. On note | | la norme
associee `a , ). Soient C F un sous-ensemble convexe ferme et x F. Alors, il
existe un unique x
0
C tel que
|x x
0
| = inf
yC
|x y| .
Le vecteur x
0
sappelle le projete de x sur C, et lon ecrit : x
0
= proj
C
(x). De plus,
il y a equivalence entre
(a) x
0
= proj
C
(x) ;
(b) pour tout y C, x x
0
, y x
0
) 0.
Theor`eme 12. Soient C C(R
d
) et x R
d
. Il y a equivalence entre
(a) x , cl C ;
(b) C et x sont separes fortement, autrement dit, il existe b R
d
0 tel
que
sup
yC
b, y) < b, x) .
D emonstration. Montrons tout dabord que (a) implique (b). Soit x
0
:=
proj
cl C
(x) et soit b := x x
0
,= 0. Dapr`es le theor`eme 11, pour tout y cl C,
x x
0
, y x
0
) = b, y x +b) 0.
17
Donc, pour tout y cl C, b, y) b, x) |b|
2
. Comme |b| > 0, on obtient :
sup
ycl C
b, y) < b, x) .
On conclut en remarquant que sup
ycl C
b, y) = sup
yC
b, y), par continuite de
b, ). Reciproquement, supposons que x cl C. Alors, pour tout b R
d
0,
sup
yC
b, y) = sup
ycl C
b, y) b, x) .
Corollaire 4. Tout sous-ensemble convexe ferme de R
d
est lintersection des
demi-espaces fermes qui le contiennent.
D emonstration. Si C = ou C = R
d
, lassertion est triviale (lintersection
dune famille vide de sous-ensembles de R
d
est, par convention, R
d
tout entier).
Soit donc C un convexe ferme non vide et dierent de R
d
. Alors, x C
c
si
et seulement si x et C sont separes fortement, et cette derniere condition
equivaut `a
x nappartient pas `a lintersection des demi-espaces fermes conte-
nant C.
Corollaire 5. Soit C C(R
d
). Alors cl C est lintersection des demi-espaces
fermes qui contiennent C.
D emonstration. Dapres le corollaire precedent, il sut de voir que la famille
des demi-espaces fermes qui contiennent C et celle des demi-espaces fermes qui
contiennent cl C sont les memes. Ceci resulte immediatement du fait que si
C D et D est ferme, alors cl C D.
Theor`eme 13. Soit C C(R
d
) tel que int C ,= . Alors il y a equivalence entre
(a) x , int C ;
(b) C et x sont separes proprement, cest `a dire, il existe b R
d
0 et
y
0
C tels que
sup
yC
b, y) b, x) et b, y
0
) < b, x) .
D emonstration. Le fait que (b) implique (a) resulte immediatement du
lemme 3. Montrons que (a) implique (b). Dapr`es le theor`eme 9, int C = int cl C,
donc (a) secrit aussi x , int cl C, soit encore x cl(cl C)
c
. Donc il existe une
suite (x
k
)
kN
(cl C)
c
qui converge vers x. Dapr`es le theor`eme 12, pour
chaque k, il existe b
k
R
d
0 tel que
sup
yC
b
k
, y) < b
k
, x
k
). (2.4)
18
En divisant b
k
par sa norme si necessaire, on peut supposer que |b
k
| = 1 pour
tout k. Comme la sph`ere unite de R
d
est compacte, on peut aussi supposer
(en prenant une sous-suite si necessaire) que la suite (b
k
)
kN
converge vers
un point b (de norme 1). On deduit de linegalite (2.4) que, pour tout y C,
b, y) b, x) et donc, que
sup
yC
b, y) b, x) .
Montrons par labsurde quil existe y
0
C tel que b, y
0
) < b, x). Supposons
que
inf
yC
b, y) = b, x) .
Alors C H := y R
d
[ b, y) = b, x), de sorte que a C H. Ceci est
absurde puisque a C = R
d
.
Proposition 2. Soit C un convexe de R
2
relativement ouvert ne contenant pas
lorigine. Alors il existe une droite vectorielle telle que C = .
D emonstration. Si dimC = 0, cest-`a-dire si C = ou C est un singleton,
le resultat est trivial. Supposons que dimC = 1. Alors a C est une droite.
Supposons tout dabord que a C contient lorigine, autrement dit, que a C
est une droite vectorielle. Si une autre droite vectorielle, alors C = car,
sinon, on aurait = a C, et a C ayant en commun 0 et un point x ,= 0.
Supposons maintenant que a C nest pas une droite vectorielle. Alors, le choix
= a Ca C convient, puisque a Ca C est la droite vectorielle parall`ele
`a a C.
Reste `a considerer le cas o` u dimC = 2. Alors C est un ouvert qui ne contient
pas lorigine. Dapr`es le theor`eme 13, C et 0 sont separes proprement par une
droite

. Soit D le demi-plan ferme associe `a

qui contient C. Puisque C est


ouvert, C D et D est ferme, il est clair que C int D, ce qui entrane que

C = . Il est alors evident que :=

convient.
Theor`eme 14. Soit C C(R
d
). Il y a equivalence entre
(a) x , ri C ;
(b) C et x sont separes proprement.
D emonstration. On peut supposer, en appliquant une translation si neces-
saire, que x = 0.
Supposons (a). Nous allons montrer quil existe alors un sous-espace vectoriel
de dimension d 1 qui ne rencontre pas ri C, ce qui etablira (b). Considerons la
propriete
(P
k
) V
k
V (R
d
): dimV
k
= k et V
k
ri C = .
19
La condition (a) nest autre que P
0
). Supposons que (P
k
) soit satisfaite pour
k < d 1, et montrons que (P
k+1
) est aussi satisfaite. Puisque V
k
ri C = et
0 V
k
,
0 , ri C V
k
ri C,
et puisque k d 2, V

k
contient un sous-espace vectoriel W de dimension 2.
Soit alors
C

:= W (ri C V
k
).
Lensemble C

ne contient pas 0. Montrons que C

est relativement ouvert. Si


C

est vide, cest trivial (ri = ). Si C

est non vide, alors


, = W (ri C V
k
) = ri W ri(ri C V
k
),
o` u legalite resulte du fait evident que W = ri W et du corollaire 3. La proposi-
tion 1(1) implique alors que
ri C

= ri
_
W (ri C V
k
)
_
= ri W ri(ri C V
k
)
= W (ri C V
k
)
= C

.
Dapr`es la proposition 2, il existe une droite vectorielle W telle que C

=
. Puisque W V

k
, V
k
+ est un sous-espace vectoriel de dimension k + 1.
Dautre part, V
k
+ ne rencontre pas ri C. Supposons en eet quil existe
x
0
(V
k
+) ri C. Alors x
0
= x +y ri C, avec x V
k
et y . Mais alors
y = x
0
x ri C V
k
, et comme y W, y C

, donc y C

. Mais
ceci est absurde, puisque C

= . On en deduit que (P
k+1
) est satisfaite.
Reciproquement, supposons que C est 0 soient separes proprement. Alors il
existe un demi-espace ferme D tel que
C D, 0 , int D et int D C ,= .
Remarquons que int D = ri D. Soit H la fronti`ere de D (H est lhyperplan
separateur). Montrons par labsurde que
ri C ri D ,= . (2.5)
Puisque ri C D, la condition ri Cri D = impliquerait la condition ri C H
et donc, puisque H est ferme, la condition cl ri C = cl C H, en contradiction
avec le caract`ere propre de la separation. Montrons nalement que 0 , ri C. En
vertu de la condition (2.5) ci-dessus, la proposition 1(1) implique que
ri C ri D = ri(C D) = ri C,
et donc que ri C ri D = int D. Comme 0 , int D il sensuit que 0 , ri C.
Corollaire 6. Soient C
1
, C
2
C(R
d
). Il y a equivalence entre
20
(a) ri C
1
ri C
2
= ;
(b) C
1
et C
2
sont separes proprement.
D emonstration. Soit C := C
1
C
2
. Dapr`es le corollaire 3, ri C = ri C
1
ri C
2
.
Donc
(a) 0 , ri C
1
ri C
2
0 , ri C.
Dautre part, pour tout b R
d
,
inf
xC
b, x) = inf
x1C1
b, x
1
) sup
x2C2
b, x
2
)
et
sup
xC
b, x) = sup
x1C1
b, x
1
) inf
x2C2
b, x
2
) .
Donc
(b)
_
_
_
inf
x1C1
b, x
1
) sup
x2C2
b, x
2
)
sup
x1C1
b, x
1
) > inf
x2C2
b, x
2
)
inf
xC
b, x) 0 et sup
xC
b, x) > 0
0 et C sont separes proprement.
21
Chapitre 3
Cones
3.1 Denitions et proprietes elementaires
Un sous-ensemble K de R
d
est un cone si R

+
K K, cest-`a-dire, si K est
stable par multiplication par les reels strictement positifs. Un cone est donc un
ensemble de demi-droites dextremite lorigine, contenant ou ne contenant pas
lorigine. Il est faile de voir que lintersection dune famille quelconque de cones
[resp. cones convexes, cones convexes fermes] est un cone [resp. cone convexe,
cone convexe ferme].
Exemple 1. Soit C R
d
un ensemble convexe ferme. On verie facilement
que, pour tout x C, lensemble
N
C
(x) :=
_
y R
d

z C, y, z x) 0
_
est un cone convexe ferme. On lappelle le cone normal `a C en x. Le theor`eme 11
montre que, pour x R
d
et x C, il y a equivalence entre
(a) x = proj
C
(x) ;
(b) x x N
C
( x).
De plus, on peut montrer que
(1) si x int C, N
C
(x) = 0 ;
(2) si C = E est un sous-espace vectoriel, alors N
E
(x) = E

pour tout x E ;
(3) si C est le demi-espace ferme x R
d
[ b, x) (o` u b R
d
0 et
R), alors N
C
(x) = R
+
b pour tout x H := y R
d
[ b, y) = .
Proposition 3. Soit K P(R
d
). Il y a equivalence entre
(a) K est un cone convexe ;
(b) K + K K et R

+
K K ;
(c)
1
x
1
+ +
q
x
q
[ q N

,
j
R

+
, x
j
K K ;
(d)
1
x
1
+ +
q
x
q
[ q N

,
j
R

+
, x
j
K = K.
22
D emonstration. Lequivalence entre (b), (c) et (d) etant evidente, montrons
lequivalence entre (a) et (b). Supposons que K est un cone convexe, et montrons
que K est stable par addition. Si x, y K, alors
x +y = 2
_
x
2
+
y
2
_
K,
puisque K est convexe et R

+
K K. Reciproquement, supposons (b), et mon-
trons que K est convexe. Si x, y K et ]0, 1[, alors (1 )x et y puisque
R

+
K K, et la stabilite par addition implique alors que
(1 )x + y K.
Proposition 4. (1) Soient E P(R
d
) et
K :=
_

1
x
1
+ +
q
x
q

q N

,
j
R

+
, x
j
E
_
.
Alors K est le plus petit cone convexe contenant E.
(2) Soient C C(R
d
) et K := x[ R

+
, x C. Alors K est le plus petit
cone convexe contenant C.
D emonstration.
(1) Il est facile de voir que K est un cone convexe contenant E. Soit K

un
autre un cone convexe contenant E, et montrons que K K

. Comme
E K

,
K
_

1
x
1
+ +
q
x
q

q N

,
j
R

+
, x
j
K

_
.
La proposition 3 montre que ce dernier ensemble nest autre que K

.
(2) Il est clair que K est un cone. Montrons que K est convexe. Soient x, y K
et ]0, 1[. Alors x =
1
x
0
avec
1
> 0 et x
0
C, et y =
2
y
0
avec

2
> 0 et y
0
C. On a :
(1 )x + y = (1 )
1
x
0
+
2
y
0
=
_
(1 )
1
+
2
_

_
(1 )
1
(1 )
1
+
2
x
0
+

2
(1 )
1
+
2
y
0
_
.
Lexpression entre crochets est une conbinaison convexe delements de C.
On en deduit que (1 )x + y K. Soit maintenant K

un autre cone
convexe contenant C, et montrons que K K

:
K = x[ R

+
, x C

1
x
1
+ +
q
x
q
[ q N

,
j
R

+
, x
j
C

1
x
1
+ +
q
x
q
[ q N

,
j
R

+
, x
j
K

,
puisque C K

. Mais la proposition 3 montre que ce dernier ensemble


est egal `a K

.
23
Le cone convexe engendre par E P(R
d
) est lensemble
PE :=
1
x
1
+ +
q
x
q
[ q N

,
j
R
+
, x
j
E
= 0
1
x
1
+ +
q
x
q
[ q N

,
j
R

+
, x
j
E.
Theor`eme 15. Soit a
1
, . . . , a
m
R
d
. Alors K := Pa
1
, . . . , a
m
est ferme.
D emonstration.

Etape 1. On montre tout dabord le resultat dans le cas o` u
0 , coa
1
, . . . , a
m
. Soit (x
k
)
kN
K une suite qui converge vers un point x,
et montrons que x K. En notant A la matrice de taille md dont la j-i`eme
ligne est egale au vecteur a

j
(j = 1, . . . , m), on remarque que
K = y
1
a
1
+ + y
m
a
m
[ y
1
, . . . , y
m
R
+
= A

R
m
+
.
Pour tout k N

, x
k
= A

y
k
avec y
k
R
m
+
. Supposons, en vue dobtenir une
contradiction, que la suite (y
k
)
kN
nest pas bornee. En prenant une sous-suite
si necessaire, cela revient `a supposer que
|y
k
|
1
, o` u |y|
1
:=
m

j=1
[y
j
[ .
Soit z
k
:= |y
k
|
1
1
y
k
. Par compacite de u R
d
[ |u|
1
= 1, on peut supposer,
en prenant `a nouveau une sous-suite si necessaire, que (z
k
)
kN
converge vers
un point z R
m
+
tel que

m
j=1
z
j
= 1. Alors,
m

j=1
z
j
a
j
= A

z = lim
k
A

z
k
= lim
k
1
|y
k
|
1
A

y
k
= 0,
puisque la suite des A

y
k
= x
k
est bornee. Ceci montre que 0 coa
1
, . . . , a
m
,
en contradiction avec lhypoth`ese. La suite (y
k
)
kN
est donc bornee. En prenant
encore une sous-suite si necessaire, on peut supposer que y
k
y R
m
+
lorsque
k . Alors, la suite (x
k
)
kN
converge vers A

y, ce qui montre que


x = A

y A

R
m
+
= K.

Etape 2. On montre ensuite que, si 0 coa


1
, . . . , a
m
, alors
K = Pa
1
, . . . , a
m
=
m
_
i=1
P
_
a
1
, . . . , a
m
a
i

_
=: K

.
Linclusion K

K est evidente. Soit donc x K, et montrons que x K

. Il
existe y R
m
+
tel que x = A

y. Soit R
m
+
tel que
m

j=1

j
= 1 et 0 =
m

j=1

j
a
j
, (3.1)
24
et soit J := j 1, . . . , m [
j
> 0. Il est clair que J ,= . On pose
:= min
jJ
y
j

j
.
Alors y
j

j
0 pour tout j 1, . . . , m et il existe i 1, . . . , m tel que
y
i

i
= 0. En utilisant la deuxi`eme egalite de (3.1), on voit que
x = A

y =
m

j=1
y
j
a
j
=
m

j=1
(y
j

j
)a
j
P
_
a
1
, . . . , a
m
a
i

_
.

Etape 3. On montre enn le theor`eme par recurrence.



Etant donne m N

,
on consid`ere la propriete suivante :
(P
m
) a
1
, . . . , a
m
R
d
, Pa
1
, . . . , a
m
est ferme.
Il est clair que (P
1
) est satisfaite, puisque R
+
a est soit une demi-droite
fermee, soit le singleton 0. Supposons (P
m
) satisfaite, et soit
a
1
, . . . , a
m+1
R
d
.
Si 0 , coa
1
, . . . , a
m+1
, alors Pa
1
, . . . , a
m+1
est ferme dapr`es letape 1.
Dans le cas contraire, letape 2 montre que
Pa
1
, . . . , a
m+1
=
m+1
_
i=1
P
_
a
1
, . . . , a
m+1
a
i

_
.
Par hypoth`ese de recurrence, P
_
a
1
, . . . , a
m+1
a
i

_
est ferme pour tout i. Il
sensuit que Pa
1
, . . . , a
m+1
est ferme, comme reunion nie de fermes.
3.2 Cones polaires
Soit K R
d
un cone. Le polaire de K est lensemble
K

:=
_
R
d

x K, , x) 0
_
.
Proposition 5. (1) Soit K un cone. Alors K

est un cone convexe ferme.


(2) Soit K un cone convexe. Alors K

= cl K.
D emonstration.
(1) On verie facilement que, pour tout x R
d
, R
d
[ , x) 0 est un
cone convexe ferme (cest soit un demi-espace ferme dont le bord contient
lorigine, soit R
d
tout entier). Le resultat decoule alors immediatement du
fait que
K

xK
_
R
d

, x) 0
_
.
25
(2) Soit x K. Pour tout K

, , x) 0. Donc x K

. Donc K K

,
et puisque K

est ferme, cl K K

. An de montrer linclusion opposee,


supposons que x , cl K. Dapr`es le theor`eme 12, x et K sont separes
fortement :
b R
d
0: sup
yK
b, y) < b, x). (3.2)
Pour tout y K et tout t > 0, ty K, de sorte que tb, y) < b, x),
dapr`es linegalite (3.2). En divisant par t, puis en faisant tendre t vers
linni, on voit que
sup
yK
b, y) 0.
Par ailleurs, choisissons z quelconque dans K. Alors, pour tout t > 0,
tz K, de sorte que sup
yK
b, y) tb, z). En faisant tendre t vers 0,
on voit que
sup
yK
b, y) 0.
Par consequent, sup
yK
b, y) = 0, ce qui montre que b K

. Comme
b, x) > 0, on voit que x , K

.
3.3 Theor`emes de Farkas et de Gordan
Le theor`eme suivant est souvent appele le lemme de Farkas
1
. Il est essentiel en
programmation lineaire, en particulier dans lapproche dite duale. Il intervient
aussi en programmation non lineaire, dans la preuve du theor`eme de Karush-
Kuhn-Tucker. Dans tout ce paragraphe, e
1
, . . . , e
m
designera la base cano-
nique de R
m
.
Theor`eme 16. Soit A M
mn
(R), et soit R
n
. Les assertions suivantes sont
equivalentes :
(a) pour tout x R
n
tel que Ax 0, , x) 0;
(b) il existe y R
m
+
tel que = A

y.
Autrement dit, x R
n
[ Ax 0

= A

R
m
+
.
D emonstration. On note a
jk
le coecient de la j-i`eme ligne et de la k-i`eme
colonne de A et a
j
:= (a
j1
, . . . , a
jn
)

R
n
. Rappelons que
A

R
m
+
= y
1
a
1
+ + y
m
a
m
[ y
1
, . . . , y
m
R
+
.
Montrons tout dabord linclusion A

R
m
+
x R
n
[ Ax 0

. Soit donc
z = y
1
a
1
+ + y
m
a
m
, o` u y = (y
1
, . . . , y
m
)

R
m
+
. Pour tout x R
n
tel que
Ax 0,
z, x) =
m

j=1
y
j
a
j
, x) 0,
1
Julius Farkas (1847-1930) : Mathematicien et physicien hongrois.
26
puisque a
j
, x) = (Ax)
j
0 pour tout j. Donc z x R
n
[ Ax 0

.
Reciproquement, montrons que, si x
0
, A

R
m
+
, alors x
0
, x R
n
[ Ax 0

.
Dapr`es le theor`eme 15, A

R
m
+
est un cone convexe ferme. Si x
0
, A

R
m
+
, on
peut separer x
0
et A

R
m
+
fortement : il existe b R
n
0 tel que
sup
zA

R
m
+
b, z) < b, x
0
) .
Puisque A

R
m
+
est un cone, b, tz) < b, x
0
) pour tout t > 0 et tout z A

R
m
+
.
En divisant la derni`ere inegalite par t, puis en faisant tendre t vers linni, on
obtient :
sup
zA

R
m
+
b, z) 0. (3.3)
En fait, le supremum ci-dessus est egal `a zero, puisque 0 A

R
m
+
, de sorte que
b, x
0
) > 0. Maintenant, en prenant z = A

e
1
, . . . , A

e
m
dans (3.3), on voit
que Ab, e
j
) 0 pour tout j, cest-`a-dire, Ab 0. Puisque b, x
0
) > 0, ceci
montre que x
0
, x R
n
[ Ax 0

.
Corollaire 7. Soient A M
mn
(R) et b R
m
. Les assertions suivantes sont
equivalentes :
(a) x R
n
[ Ax b , = ;
(b) si A

y = 0 avec y R
m
+
, alors b, y) 0.
D emonstration. Remarquons tout dabord que (a) equivaut `a la condition
b AR
n
+R
m
+
. Or, en notant a
j
la j-i`eme colonne de A,
AR
n
= x
1
a
1
+ + x
n
a
n
[ x
1
, . . . , x
n
R
= (s
1
t
1
)a
1
+ + (s
n
t
n
)a
n
[ s
1
, . . . , s
n
, t
1
, . . . , t
n
R
+

= Pa
1
, . . . , a
n
, a
1
, . . . , a
n
.
Il sensuit que
AR
n
+R
m
+
= Pa
1
, . . . , a
n
, a
1
, . . . , a
n
, e
1
, . . . , e
m

=
_
A; A; I
m

R
m
+
,
o` u I
m
designe la matrice identite de taille m m, et o` u C

:=
_
A; A; I
m


M
m(2n+m)
(R). On remarque au passage que, dapr`es le theor`eme 15, AR
n
+R
m
+
est un cone convexe ferme. Le theor`eme 16 montre que
AR
n
+R
m
+
= y R
m
[ Cy 0

=
_
y R
m

y = 0
_

,
o` u la deuxi`eme egalite resulte du fait que Cy 0 si et seulement si A

y 0,
A

y 0 et y 0 (cest-`a-dire, y R
m

et A

y = 0). Finalement, nous


27
avons :
(a) b AR
n
+R
m
+
y R
m

ker A

, b, y) 0
y R
m
+
ker A

, b, y) 0
(b).
Corollaire 8. Soient A M
mn
(R), C M
pn
(R), b R
m
et c R
p
. Les
assertions suivantes sont equivalentes :
(a) x R
n
[ Ax b, Cx = c , = ;
(b) si A

u + C

t = 0 avec u R
m
+
et t R
p
, alors b, u) +c, t) 0.
D emonstration. Puisque Cx = c si et seulement si Cx c et Cx c,
x R
n
[ Ax b, Cx = c = x R
n
[ Dx d ,
o` u D :=
_
A

; C

; C

et d :=
_
b

; c

; c

.
Dapr`es le corollaire 7, (a) equivaut `a limplication
_
A

; C

; C

_
u
v
w
_
= 0
_
u
v
w
_
R
m+2p
+
_

_
=
__
b
c
c
_
,
_
u
v
w
__
0.
En posant t := v w, et en remarquant que R
p
+
R
p
+
= R
p
, limplication
ci-dessus peut encore secrire
A

u + C

t = 0
u R
m
+
, t R
p
_
= b, u) +c, t) 0.
Theor`eme 17. [Gordan] Soit A M
mn
(R). Les assertions suivantes sont
equivalentes :
(a) x R
n
[ Ax < 0 , = ;
(b) ker A

R
m
+
= 0.
D emonstration. Supposons quil existe x R
n
tel que Ax < 0. Alors il existe
> 0 tel que Ax e, o` u e := (1, . . . , 1)

. Donc
x R
n
[ Ax e , = .
28
Dapr`es le corollaire 7, tout y R
m
+
tel que A

y = 0 satisfait :
e, y) =
m

j=1
y
j
0.
Donc ker A

R
m
+
= 0. Reciproquement, supposons que ker A

R
m
+
= 0 :
si A

y = 0 avec y R
m
+
, alors y = 0, de sorte que e, y) 0. Le corollaire 7
montre alors que
x R
n
[ Ax e , = ,
donc que x R
n
[ Ax < 0 , = .
29
Chapitre 4
Fonctions convexes
4.1 Generalites
Une fonction f : R
d
R est dite convexe lorsque
x, y R
d
, [0, 1] , f
_
(1 )x + y
_
(1 )f(x) + f(y). (4.1)
Il est facile de voir que f est convexe si et seulement si son epigraphe
epi f :=
_
(x, ) R
d+1

f(x)
_
est un sous-ensemble convexe. Cette caracterisation des fonctions convexes `a va-
leurs dans R permet detendre la denition aux fonctions `a valeurs dans la droite
reelle etendue

R := [, ] : on dit que f : R
d


R est convexe lorsque son
epigraphe est convexe. La denition ci-dessus de lepigraphe dune fonction reste
bien s ur valide pour les fonctions `a valeurs dans

R, alors que la denition (4.1)
pose probl`eme, lexpression etant non denie. Dans toute la suite, on
consid`ere des fonctions `a valeurs dans

R. Lanalogue de la condition (4.1) pour
de telles fonctions fait lobjet du theor`eme suivant.
Theor`eme 18. Soit f : R
d


R. Il y a equivalence entre
(a) f est convexe ;
(b) pour tous x, y R
d
et tout ]0, 1[, si f(x) < R et f(y) < R
alors f
_
(1 )x + y
_
< (1 ) + ;
(c) pour tous x, y R
d
et tout ]0, 1[, si f(x) < R et f(y) < R
alors f
_
(1 )x + y
_
(1 ) + .
D emonstration. Supposons que f est convexe, cest-`a-dire, que epi f est
convexe, et soient x, y R
d
et ]0, 1[. Si f(x) < R et f(y) < R, alors
deux cas peuvent se presenter : soit f(x), f(y) R, et alors (x, f(x)), (y, f(y))
epi f, soit f(x) ou (inclusif) f(y) vaut . Dans le premier cas, la convexite
de epi f implique que
(1 )(x, f(x)) + (y, f(y)) epi f,
30
cest-`a-dire, ((1 )x + y, (1 )f(x) + f(y)) epi f, et il sensuit que
f((1 )x + y) (1 )f(x) + f(y) < (1 ) + .
Dans le deuxi`eme cas, avec par exemple f(x) = et f(y) R, la convexite
de epi f implique que
a R, (1 )(x, a) + (y, f(y)) epi f,
cest-`a-dire, ((1 )x + y, (1 )a + f(y)) epi f pour tout a R; il
est clair que cette derni`ere condition implique que f((1 )x + y) = <
(1)+. Le fait que (b) implique (c) est evident. Supposons la condition (c)
satisfaite, et montrons (a). Soient (x, ), (y, ) epi f. On doit montrer que
((1 )x + y, (1 ) + ) epi f, cest-`a-dire, que
f
_
(1 )x + y
_
(1 ) + .
Cette derni`ere inegalite est fournie par (c) dans le cas o` u f(x) < et f(y) < ,
et reste vraie par passage `a la limite dans les cas o` u une inegalite au moins est
large.
On appelle fonction indicatrice dun sous-ensemble E de R
d
la fonction denie
par
(x[E) =
_
0 si x E,
sinon.
On verie aisement que (x[E) est convexe si et seulement si E est convexe.
Une fonction f : R
d


R est dite convexe sur C, o` u C C(R
d
), lorsque la
fonction qui concide avec f sur C et vaut sur son complementaire est convexe.
Ceci sexprime de mani`ere concise en disant que f + ([C) est convexe. La
proposition suivante donne une caracterisation des fonctions dune variable qui
sont convexes sur un intervalle ouvert. Sa demonstration est laissee en exercice.
Proposition 6. [Crit`ere des pentes croissantes] Soit : R

R une fonction et
I un intervalle de R sur lequel est nie. Alors, il y a equivalence entre :
(a) est convexe sur I ;
(b) pour tous x, y, z I tels que x < y < z,
(y) (x)
y x

(z) (x)
z x
;
(c) pour tous x, y, z I tels que x < y < z,
(y) (x)
y x

(z) (y)
z y
;
(d) pour tous x, y, z I tels que x < y < z,
(z) (x)
z x

(z) (y)
z y
.
31
On appelle domaine eectif (ou simplement domaine) dune fonction convexe
f : R
d


R lensemble
domf :=
_
x R
d

f(x) <
_
.
Il est facile de voir que domf est un sous-ensemble convexe de R
d
et que, si P
designe la projection canonique de R
d+1
sur R
d
, alors domf = P epi f.
Les fonctions constantes f et f sont des cas particuliers de fonctions
convexes, depigraphes respectifs et R
d+1
, et donc de domaines respectifs
et R
d
.
On dira quune droite de R
d+1
= R
d
R est verticale si elle est de la forme
x R avec x R
d
. On remarque que epi f contient une droite verticale si et
seulement si elle prend la valeur .
Une fonction convexe f : R
d


R est dite propre si f , et f ne prend pas
la valeur , autrement dit, si epi f ,= et epi f ne contient pas de droite
verticale. Dans le cas contraire, f est dite impropre.
On remarque que, si f est convexe propre, alors on peut `a nouveau ecrire sans
ambigute la condition
x, y R
d
, [0, 1] , f
_
(1 )x + y
_
(1 )f(x) + f(y).
Si legalite est stricte d`es que x, y domf, x ,= y et ]0, 1[, on dit que f est
strictement convexe.
Theor`eme 19. Soit f une fonction convexe impropre. Alors f(x) = pour
tout x ri domf.
D emonstration. Si f , alors domf = et il ny a rien `a montrer.
Supposons donc que f prenne la valeur en un certain x (de sorte que
x domf). Soit z ri domf. Dapr`es le corollaire 2, il existe > 1 tel que
y := (1 )x + z domf. Alors,
z =
1

_
( 1)x +y
_
= (1 )x + y avec :=
1

]0, 1[ .
Dapr`es le theor`eme 18, si f(x) < R et f(y) < R, alors
f(z) < (1 ) + .
Comme f(y) < , on peut xer (dans ]f(y), [), et comme f(x) = , on
peut faire tendre vers , ce qui montre que necessairement f(z) = .
Theor`eme 20. Soit f une fonction convexe sur R
d
. Alors
ri epi f =
_
(x, ) R
d+1

x ri domf, > f(x)


_
.
32
D emonstration. Soit P la projection canonique de R
d+1
sur R
d
. Puisque
domf = P epi f, le theor`eme 10 montre que
ri domf = P ri epi f. (4.2)
Pour tout x R
d
, P
1
x = x R est une droite (verticale), de sorte que
ri P
1
x = P
1
x. Par consequent, si x ri domf, ri P
1
x ri epi f est
non vide, et il resulte alors de la proposition 1 que
ri P
1
x ri epi f = ri(P
1
x epi f).
Or, P
1
x epi f = x R[ f(x). Nous avons donc montre que
x ri domf, P
1
x ri epi f = x R[ > f(x). (4.3)
Maintenant, soit (z, ) ri epi f. Alors z ri domf dapr`es (4.2) et > f(z)
dapr`es (4.3). Reciproquement, si z ri domf et si > f(z), (4.3) entrane
(z, ) ri epi f.
4.2 Fonctions convexes sci
Une fonction f de R
d
dans [, +] est dite semi-continue inferieurement en
un point x si lon a
f(x) liminf
yx
f(y) := lim
0
inf f(y) [ 0 < |y x| < ,
cest-`a-dire si pour toute suite (x
k
)
kN
convergeant vers x,
f(x) liminf
k
f(x
k
) := lim
k
inf f(x
j
) [ j k .
Une fonction f ayant cette propriete en tout point x R
d
est dite semi-continue
inferieurement (sci).
Exemple 2. [Transformee de Laplace] Soit une mesure de probabilite sur R
d
.
La transformee de Laplace de est la fonction denie sur R
d
par
G

() :=
_
e
x,
d(x).
Nous allons montrer que G

est semi-continue inferieurement. Soit (


k
)
kN
une
suite qui converge vers . Considerons les fonctions mesurables positives
g(x) := e
x,
et g
k
(x) := e
x,
k

, k N

.
La continuite de lapplication e
x,
implique que
liminf
k
g
k
(x) = lim
k
g
k
(x) = g(x).
33
Dapr`es le lemme de Fatou, on a alors
_
g(x) d(x) liminf
k
_
g
k
(x) d(x),
qui est precisement linegalite cherchee.
Dans le paragraphe precedent, la convexite dune fonction f sur R
d
etait denie
via la convexite de son epigraphe dans R
d+1
. Nous etablissons maintenant le
lien entre la semi-continuite inferieure de f et la topologie de epi f.
Theor`eme 21. Soit f : R
d


R. Il y a equivalence entre
(a) f est sci ;
(b) epi f est un ensemble ferme de R
d+1
.
(c) pour tout R, lensemble de niveau lev

(f) := x R
d
[ f(x) est
ferme.
D emonstration. Montrons tout dabord que (a) implique (b). Considerons
une suite (x
k
,
k
)
kN
epi f qui converge vers un point (x, ). Alors,
= lim
k

k
= liminf
k

k
liminf
k
f(x
k
) f(x).
Donc (x, ) epi f. Montrons ensuite que (b) implique (c). Soit R tel que
lev

(f) soit non vide. Soit (x


k
)
kN
lev

(f) une suite qui converge vers un


point x. Alors,
k N

, (x
k
, ) epi f.
La condition (b) implique que (x, ) epi f, cest-`a-dire, que x lev

(f).
Montrons enn, par contraposition, que (c) implique (a). Supposons donc quil
existe un point x tel que f ne soit pas sci en x. Alors, il existe une suite (x
k
)
kN

telle que
x
k
x lorsque k et f(x) > liminf
k
f(x
k
).
Donc, il existe une sous-suite (x
k
l
)
lN
et un reel tels que
x
k
l
x lorsque l et f(x
k
l
) < f(x).
Soit ], f(x)[. Pour l susamment grand, disons l L, f(x
k
l
) < f(x).
Donc lev

(f) contient la suite convergente (x


k
l
)
lN
et non sa limite.
Le theor`eme 21 et le corollaire 4 montrent que, si f est convexe et sci, son
epigraphe est lintersection des demi-espaces fermes qui le contiennent. Parmi
ces demi-espaces, il est clair quil ne peut y avoir aucun demi-espace inferieur,
cest-`a-dire, du type
_
(x, ) R
d+1

b, x)
_
avec b ,= 0.
34
Nous allons voir que, si f est convexe propre sci, on peut retirer de la famille
des demi-espaces fermes qui contiennent epi f tout ceux dont le bord est vertical
sans changer lintersection. Un hyperplan de R
d+1
est dit vertical sil est de la
forme
_
(x, ) R
d+1

b, x) =
_
avec b ,= 0.
Autrement dit, il sut pour obtenir epi f de considerer les demi-espaces fermes
qui sont des epigraphes de fonctions anes minorant f (appelees aussi mino-
rantes anes de f).
Theor`eme 22. Soit f : R
d
], +] une fonction convexe, propre et sci, et
soit (x
0
, y
0
) , epi f. Alors il existe une fonction ane dont le graphe separe epi f
et (x
0
, y
0
) fortement.
D emonstration. Dapr`es le theor`eme 21, epi f est un ensemble convexe ferme.
Le theor`eme 12 fournit alors un hyperplan H separant epi f et (x
0
, y
0
) forte-
ment. Cela signie quil existe (, ) R
d+1
(0, 0) et c R tels que
sup
(x,y)epi f
, x) + y c < 0 < , x
0
) + y
0
c. (4.4)
Lhyperplan separateur est ici lensemble H = (x, y) R
d+1
[ , x) +y = c.
Si ,= 0, H est le graphe de la fonction ane x (c , x))/, et le resultat
est etabli. Si = 0, H est alors un hyperplan vertical, et (4.4) peut secrire
sup
xdomf
, x) c < 0 < , x
0
) c. (4.5)
Dautre part, f admet au moins une minorante ane m puisquelle est convexe
propre sci. Dans le cas contraire, en eet, lensemble convexe ferme epi f serait
lintersection de demi-espaces fermes de fronti`ere verticale et, par consequent
serait vide ou contiendrait une droite verticale. On peut donc ecrire que, quel
que soit x R
d
,
m(x) :=
1
, x) c
1
f(x), (4.6)
Pour tout > 0, posons
m

(x) :=
_
, x) c
_
+
_

1
, x) c
1
_
.
Puisque , x
0
)c > 0, il est clair que, pour susamment grand, m

(x
0
) > y
0
.
Pour un tel , on a alors :
sup
(x,y)epi f
m

(x) y
sup
xdomf
, x) c + sup
(x,y)epi f

1
, x) c
1
y
< 0
< m

(x
0
) y
0
,
35
o` u la premi`ere inegalite stricte provient de (4.5) et (4.6). Le graphe de lappli-
cation ane m

est lhyperplan non vertical H

dequation m

(x) y = 0, et
les inegalites ci-dessus montrent que H

separe les ensembles epi f et (x


0
, y
0
)
fortement.
Corollaire 9. Toute fonction convexe propre sci sur R
d
est egale `a lenveloppe
superieure de ses minorantes anes.
D emonstration. Soit h lenveloppe superieure des minorantes anes de f.
Il est clair que h f. Supposons quil existe x
0
R
d
tel que h(x
0
) < f(x
0
).
Alors, (x
0
, h(x
0
)) , epi f, et le theor`eme 22 fournit une fonction ane m dont
le graphe separe epi f et (x
0
, h(x
0
)) fortement. Par consequent, m minore f et
m(x
0
) > h(x
0
), en contradiction avec la denition de h.
Nous allons maintenant denir la notion de regularisee sci dune fonction f. Re-
marquons tout dabord quun sous-ensemble E de R
d+1
= R
d
R est lepigraphe
dune fonction f : R
d


R si et seulement si E est la reunion densembles de la
forme
x R ou x [f(x), [ .
Autrement dit, il y a equivalence entre
(a) E est un epigraphe ;
(b) pour tout x R
d
, (x R) E est ferme et satisfait :
(x, ) E
>
_
= (x, ) E.
Lemme 4. Si E P(R
d+1
) est un epigraphe, alors cl E est un epigraphe.
D emonstration. Nous allons utiliser la caracterisation ci-dessus des epigra-
phes. Supposons que E soit un epigraphe. Il est clair que, pour tout x R
d
,
(xR)cl E est ferme, comme intersection de deux fermes. Soit (x, ) cl E
et > . Alors, (x, ) est la limite dune suite (x
k
,
k
)
kN
E. Comme E est
un epigraphe, (x
k
,
k
+ ) E pour tout k. Mais (x
k
,
k
+ ) (x, )
lorsque k , ce qui montre que (x, ) cl E.
Soit f : R
d


R. Dapr`es le lemme precedent, cl(epi f) est lepigraphe dune
fonction, que lon appelle la regularisee sci de f. On la note lsc f. La fonction f
est sci si et seulement si f et lsc f concident. En eet,
f sci epi f ferme
epi f = cl(epi f) = epi(lsc f)
f = lsc f.
Theor`eme 23. Soit f : R
d


R. Alors,
lsc f = sup
_
h: R
d

h est sci et h f
_
.
36
D emonstration. Remarquons tout dabord que h f equivaut `a epi f
epi h, et que si (h

)
A
est une famille de fonctions (A est un ensemble quel-
conque dindices), alors
epi sup
A
h

A
epi h

.
Maintenant, epi(lsc f) est, par denition, lintersection de la famille des fermes
qui contiennent epi f. Comme epi(lsc f) est un epigraphe ferme, on peut res-
treindre la famille aux fermes qui sont des epigraphes. On a donc :
epi(lsc f) =

epi h [ h est sci et h f .


Corollaire 10. Soit f : R
d


R. Alors, pour tout x dans R
d
,
(lsc f)(x) = min
_
f(x), liminf
yx
f(y)
_
D emonstration. Soit x R
d
. Puisque lsc f est sci et lsc f est majoree par f,
(lsc f)(x) liminf
yx
(lsc f)(y) liminf
yx
f(y),
de sorte que
(lsc f)(x) := min
_
f(x), liminf
yx
f(y)
_
Supposons, en vue dobtenir une contradiction, que (lsc f)(x) < . Alors, il
existe R tel que (lsc f)(x) < < . La condition < liminf
yx
f(y)
entrane lexistence dun > 0 tel que
inf f(y) [ 0 < |y x| < > .
Puisque f(x) > , on voit que f(y) > pour tout y B(x, ). Ainsi,
(y, t) := B(x, ) ], [ , f(y) > t.
On remarque que f(y) > t secrit aussi (y, t) , epi f. Lensemble ouvert est
alors un voisinage de (x, (lsc f)(x)) qui ne rencontre pas epi f, en contradiction
avec le fait que
_
x, (lsc f)(x)
_
epi(lsc f) = cl(epi f).
37
4.3 Fermeture dune fonction

Etant donnee une fonction f : R


d


R, on denit la fermeture convexe (ou
simplement fermeture, lorsque le contexte est susamment clair) de f comme
lenveloppe superieure des minorantes anes de f. On note cl f la fermeture
de f :
cl f := sup
_
h: R
d

h est ane et h f
_
.
Il est clair que, quelle que soit f, la fonction cl f est convexe sci. On dit que f
est convexe fermee (ou simplement fermee) lorsque f = cl f. Si f , alors
cl f , et si f prend la valeur , alors cl f .
Theor`eme 24. Soit f : R
d


R une fonction convexe propre. Alors cl f = lsc f,
cest-`a-dire, epi(cl f) = cl(epi f).
D emonstration. Dapr`es le corollaire 9, lsc f est egale `a lenveloppe superieure
de ses minorantes anes. Il sut donc de voir que, si f est convexe propre, alors
la famille M(f) des minorantes anes de f et la famille M(lsc f) concident.
Dune part, linclusion M(lsc f) M(f) resulte immediatement de linegalite
lsc f f. Dautre part, soit h M(f). Alors h est sci et h f. Dapr`es le
theor`eme 23, h lsc f. Donc h M(lsc f).
Nous allons voir que, si f est convexe propre, alors cl f et f ne peuvent dierer
que sur la fronti`ere relative de domf.
Theor`eme 25. Soit f : R
d


R une fonction convexe propre. Alors, pour tout
x ri(domf), f(x) = (cl f)(x).
D emonstration. On note comme dhabitude P la projection canonique de
R
d+1
sur R
d
. Soit x ri(domf). Nous allons montrer que
P
1
x epi f = P
1
x epi(cl f), (4.7)
ce qui etablira le theor`eme. Dapr`es le theor`eme 20,
P
1
x ri(epi f) = x R [ > f(x) , = .
Puisque P
1
x = ri(P
1
x) = cl(P
1
x),
cl(P
1
x epi f) = cl(P
1
x) cl(epi f) = P
1
x epi(cl f),
o` u la premi`ere egalite resulte de la proposition 1 et la deuxi`eme du theor`eme 24.
Lequation(4.7) decoule alors de ce que lensemble P
1
xepi f, qui nest autre
que x [f(x), [, est ferme.
38
4.4 Fonctions concaves
Une fonction g : R
d


R est dite concave lorsque g est convexe. On concoit
aisement que tout enonce concernant les fonctions convexes admet une formu-
lation analogue pour les fonctions concaves. Lobjectif de ce paragraphe est
de donner quelques denitions, notations et assertions relatives aux fonctions
concaves, qui resultent directement de leurs analogues convexes.
Lhypographe dune fonction quelconque g : R
d


R est lensemble
hypo g :=
_
(x, ) R
d+1

g(x)
_
.
Une fonction g : R
d


R est concave si et seulement si son hypographe est
convexe. Dans ce cas, son domaine eectif (ou simplement domaine, si le contexte
est susamment clair) est lensemble
domg := x R
d
[ g(x) > .
Les fonctions de R
d
qui sont `a la fois convexes et concaves sont les fonctions
anes et les fonctions constantes et . Si est ane, alors
dom = R
d
, que soit consideree comme une fonction convexe ou comme
une fonction concave. Par contre, si , dom = si est consideree
comme une fonction convexe et dom = R
d
si est consideree comme une
fonction concave. En general, le contexte ne laisse aucune ambigute sur le sens
de lexpression dom.
Une fonction g est dite concave propre lorsque g est convexe propre, cest-
`a-dire, lorsquelle ne prend pas la valeur et quelle nest pas identiquement
egale `a .
Par ailleurs, une fonction g : R
d


R (convexe ou non) est dite semi-continue
superieurement en un point x si g est sci en x, cest-`a-dire, si
g(x) limsup
yx
g(y) := lim
0
supg(y) [ 0 < |y x| < ,
ou encore, si pour toute suite (x
k
)
kN
convergeant vers x,
g(x) limsup
k
g(x
k
) := lim
k
supg(x
j
) [ j k .
Une fonction g ayant cette propriete en tout point x R
d
est dite semi-continue
superieurement (scs).
Une fonction g : R
d


R est scs si et seulement si son hypographe est ferme.
La regularisee scs dune fonction g est la fonction usc g dont lhypographe est
la fermeture de hypo g. La cloture cl g de g est lenveloppe inferieure de ses
majorantes anes. Si g est concave propre, alors usc g = cl g.
Enn, si f et g sont respectivement convexe propre et concave propre, f g est
bien denie, convexe, et
dom(f g) = domf domg.
39
Chapitre 5
Theorie dierentielle et
dualite
5.1 Fonctions positivement homog`enes
Denition 1. Une fonction f : R
d


R est dite positivement homog`ene de
degre a R lorsque
x R
d
, t > 0, f(tx) = t
a
f(x).
Une fonction positivement homog`ene de degre 1 est dite positivement homog`ene.
Remarque 1. Si f : R
d
], ] est positivement homog`ene de degre a ,= 0,
alors [f(0)[ 0, . En eet, pour tout t > 0,
f(0) = f(t0) = t
a
f(0).
Proposition 7. Soit f : R
d
], ] une fonction positivement homog`ene. Il
y a equivalence entre
(a) f est convexe ;
(b) pour tous x, y R
d
, f(x +y) f(x) + f(y) ;
(c) pour tout m 2 et tous x
1
, . . . , x
m
,
f(x
1
+ +x
m
) f(x
1
) + + f(x
m
).
En particulier, si f est convexe propre et positivement homog`ene, alors
x R
d
, f(x) + f(x) 0.
D emonstration. Lequivalence entre (b) et (c) est evidente. Pour voir que (a)
implique (b), il sut decrire que
f(x +y) = f
_
2
x +y
2
_
= 2f
_
x
2
+
y
2
_
2
_
f(x)
2
+
f(y)
2
_
= f(x) + f(y).
40
Reciproquement, supposons la condition (b) satisfaite. Soient x, y R
d
et soit
]0, 1[. Si f(x) < R et f(y) < R, alors
f
_
(1 )x + y
_
f
_
(1 )x
_
+ f
_
y
_
= (1 )f(x) + f(y)
< (1 ) + ,
et le theor`eme 18 montre que f est convexe. Supposons enn que f est convexe
propre et positivement homog`ene. Alors, pour tout x R
d
,
f(x) + f(x) f(x x) = f(0) 0, ,
o` u lon a fait usage de la remarque 1.
Proposition 8. Soit f : R
d
], ] une fonction convexe positivement ho-
mog`ene. Soient V un sous-espace vectoriel de R
d
et e
1
, . . . , e
m
une base de V .
Il y a equivalence entre
(a) f est lineaire sur V ;
(b) pour tout x V , f(x) = f(x) ;
(c) pour tout j 1, . . . , m, f(e
j
) = f(e
j
).
D emonstration. Il est evident que (a) implique (b) et que (b) implique (c).
Supposons donc (c). Alors, pour tout j 1, . . . , m, f(e
j
) R (puisque la
valeur est interdite). Montrons tout dabord que
R, j 1, . . . , m, f(e
j
) = f(e
j
).
Pour > 0, cest la positive homogeneite. Pour = 0, on a :
f(0e
j
) = f(0) = f(e
j
e
j
) f(e
j
) + f(e
j
) = f(e
j
) f(e
j
) = 0,
o` u linegalite provient de la proposition 7. Puisque f(0) 0, dapr`es la
remarque 1, on voit que necessairement f(0e
j
) = 0 = 0f(e
j
). Pour < 0, on a :
f(e
j
) = f([[ e
j
) = [[ f(e
j
) = [[ f(e
j
) = f(e
j
).
Pour montrer (a), nous devons montrer que pour tout x =
1
e
1
+ +
m
e
m
,
f(x) =
1
f(e
1
) + +
m
f(e
m
) = f(
1
e
1
) + + f(
m
e
m
).
Mais ceci decoule des inegalites suivantes :
f(
1
e
1
) + + f(
m
e
m
) f(x)
f(x)
f(
1
e
1
) f(
m
e
m
)
= f(
1
e
1
) + + f(
m
e
m
),
qui resultent toutes de la proposition 7.
41
5.2 Derivees directionnelles
Soient f : R
d


R une fonction quelconque et x R
d
tel que f(x) R.

Etant
donne y R
d
, le quotient
f(x + y) f(x)

(5.1)
est bien deni pour tout R

+
. Si ce quotient tend vers une limite, dans

R,
lorsque 0, la limite sappelle la derivee directionnelle de f en x de direction y.
On la note f

(x; y).
Theor`eme 26. Soit f : R
d


R une fonction quelconque, et soit x R
d
tel que
f(x) R. Si f est dierentiable en x, alors le quotient (5.1) tend vers une limite
pour tout y R
d
, cest-`a-dire, f

(x; ) est bien denie sur R


d
. De plus, f

(x; ) est
une fonction lineaire, et
f

(x; ) = f(x), ) .
D emonstration. Soit , ) la dierentielle de f en x. Alors, pour tout z R
d
,
f(z) = f(x) +, z x) + o(|z x|). Autrement dit,
f(z) f(x) , z x)
|z x|
0 lorsque z x.
En remplacant z par x + y, avec > 0 et y R
d
0, on obtient :
f(x + y) f(x) , y)
|y|
0 lorsque 0.
Ceci montre que la limite de
1
(f(x + y) f(x)) existe et vaut , y), et
que f

(x; ) est lineaire. Finalement, en notant (e


k
)
k{1,...,d}
la base canonique
de R
d
,

k
= , e
k
) = lim
0
f(x + e
k
) f(x)

= f

k
(x),
o` u f

k
(x) designe la derivee partielle de f par rapport `a la k-i`eme variable. Donc
= f(x).
Nous verrons plus bas que la limite existe aussi lorsque f est non dierentiable
mais convexe. Pour le montrer, nous aurons besoin des quelques lemmes qui
suivent.
Lemme 5. Soient E R
d+1
lepigraphe dune fonction f : R
d


R et t un reel
strictement positif. Alors tE est lepigraphe de la fonction
t
denie par

t
(x) = tf
_
x
t
_
.
42
D emonstration. On a :
(x, ) epi
t

t
(x) = tf
_
x
t
_


t
f
_
x
t
_

1
t
(x, ) epi f.
La fonction
t
est aussi notee ft, et lon parle parfois de multiplication scalaire
`a droite, ou de multiplication epigraphique.
Lemme 6. La limite ponctuelle dune suite de fonctions convexes de R
d
dans

R
est convexe.
D emonstration. Soit (f
k
)
kN
une suite de fonctions convexes qui converge
ponctuellement vers une fonction f. Soient x, y R
d
, ]0, 1[ et , deux
reels tels que > f(x) et > f(y). Pour k susamment grand, > f
k
(x) et
> f
k
(y), de sorte que, dapr`es le theor`eme 18,
f
k
_
(1 )x + y
_
(1 ) + .
Mais linegalite reste vraie par passage `a la limite, et le meme theor`eme montre
que f est convexe.
Lemme 7. Soit C R
d
un convexe qui contient lorigine. Alors lapplication de
R

+
dans C(R
d
) qui `a fait correspondre C est croissante. Autrement dit,

1
>
2
=
1
C
2
C.
D emonstration. Soit x
2
C. Alors x =
2
x
0
avec x
0
C. Puisque 0 C
et
2
/
1
]0, 1[,
x =
1

1
x
0
=
1
__
1

2

1
_
0 +

2

1
x
0
_

1
C.
Theor`eme 27. Soient f : R
d


R une fonction convexe et x R
d
tel que
f(x) R. Alors, pour tout y R
d
, la fonction

f(x + y) f(x)

, R

+
decrot lorsque decrot, de sorte que sa limite lorsque 0 existe (dans

R).
Autrement dit,
f

(x; y) = lim
0
f(x + y) f(x)

= inf
R

+
f(x + y) f(x)

.
43
D emonstration. Considerons la fonction h
x
(y) := f(x+y) f(x). Lepigra-
phe de h
x
sobtient par translation de vecteur (x, f(x)) de lepigraphe de f.
On voit aussi que h
x
(0) = 0, de sorte que (0, 0) epi h
x
. On consid`ere alors la
multiplication epigraphique de h
x
par
1
, avec R

+
:
h
x

1
(y) =
f(x + y) f(x)

.
Comme (0, 0) epi h
x
, le lemme 7 montre que
1
epi h
x
= epi(h
x

1
) crot
lorsque decrot.
`
A la croissance de epi(h
x

1
) correspond bien s ur la decrois-
sance de h
x

1
(y).
Theor`eme 28. Soient f : R
d


R une fonction convexe et x R
d
tel que
f(x) R. Alors f

(x; ) est convexe et positivement homog`ene. De plus,


f

(x; 0) = 0 et f

(x; y) f

(x; y) pour tout y R


d
.
D emonstration. La convexite de f

(x; ) est une consequence immediate du


lemme 6 puisque, pour tout > 0, h
x

1
(y) est une fonction convexe de y.
Montrons maintenant la positive homogeneite de f

(x; ). Pour tout t > 0,


h
x

1
(ty) = t
f(x + ty) f(x)
t
= t
f(x +

y) f(x)

,
o` u

= t. En faisant tendre vers zero dans lequation ci-dessus, on obtient :


f

(x; ty) = tf

(x; y).
Maintenant, pour tout > 0, h
x

1
(0) = 0. Il sensuit que f

(x; 0) = 0. Soit
enn y R
d
, et montrons que f

(x; y) f

(x; y). La convexite de f

(x; )
implique, via le theor`eme 18, que

1
> f

(x; y)

2
> f

(x; y)
_


1
2
+

2
2
f

_
x;
y
2
+
y
2
_
= f

(x; 0) = 0
1

2
.
Par consequent,
f

(x; y) = inf
1
[
1
> f

(x; y)
sup
2
[
2
> f

(x; y)
= inf
2
[
2
> f

(x; y)
= f

(x; y).
44
5.3 Sous-dierentiabilite
Soient f : R
d


R et x R
d
un point tel que f(x) R. Une minorante
ane m de f est dite exacte en x si m(x) = f(x). La fonction f est dite Sous-
dierentiable en x si elle admet une minorante ane exacte en x, autrement
dit, sil existe R
d
tel que
y R
d
, f(y) m(y) := f(x) +, y x). (5.2)
Un tel vecteur est appele un sous-gradient de f en x (ou une sous-derivee, si
d = 1). Linegalite (5.2) est appelee linegalite du sous-gradient. Lensemble de
tous les sous-gradients de f en x est appele le sous-dierentiel de f en x, et on
le note f(x).
Proposition 9. Soient f : R
d


R et x R
d
. Alors f(x) est un ensemble
convexe ferme (eventuellement vide).
D emonstration. Montrons tout dabord la convexite. Soient , f(x) et
[0, 1]. Pour tout y R
d
,
f(y) f(x) +, y x),
f(y) f(x) +, y x).
En multipliant la premi`ere inegalite par 1 et la seconde par , on obtient :
f(y) f(x) +(1 ) + , y x) ,
ce qui montre que (1) + appartient `a f(x). Reste `a montrer que f(x)
est ferme. Soit (
k
)
kN
f(x) une suite qui converge vers un point . Pour
tout y R
d
et tout k N

,
f(y) f(x) +
k
, y x) .
Puisque , y x) est continue, on peut passer `a la limite dans linegalite ci-
dessus, ce qui montre que f(x).
Remarquons quune fonction convexe impropre nest sous-dierentiable en au-
cun point. Pour une fonction convexe propre, f(x) = pour tout x , domf.
Theor`eme 29. Soit f : R
d
], ] une fonction convexe propre. Pour tout
x ri(domf), f(x) ,= .
D emonstration. Soit x ri(domf). Dapr`es le theor`eme 20, (x, f(x))
epi f ri(epi f). Dapr`es le theor`eme 14, il existe un hyperplan separant epi f et
(x, f(x)) proprement. Supposons, en vue dobtenir une contradiction, que H
soit vertical. Notons comme dhabitude P la projection canonique de R
d+1
sur R
d
. Alors PH est un hyperplan de R
d
separant
P(epi f) = domf et P(x, f(x)) = x
45
proprement. Le theor`eme 14 implique alors que x , ri(domf), en contradiction
avec lhypoth`ese. Lhyperplan H est donc le graphe dune minorante ane m
de f. Montrons enn que cette minorante est exacte en x. Puisque m minore f,
(x, f(x)) appartient au demi-espace superieur ferme associe `a H. Mais puisque H
separe (x, f(x)) et epi f, (x, f(x)) appartient aussi au demi-espace ferme oppose.
Par consequent, (x, f(x)) H.
Theor`eme 30. Soit f : R
d


R une fonction convexe, et soit x R
d
tel que
f(x) R. Il y a equivalence entre
(a) f(x) ;
(b) f

(x; y) , y) pour tout y R


d
.
D emonstration. on a :
(a) z R
d
, f(z) f(x) +, z x)
y R
d
, > 0, f(x + y) f(x) +, y)
y R
d
, > 0,
f(x + y) f(x)

, y)
y R
d
, inf
R

+
f(x + y) f(x)

, y)
(b),
o` u la derni`ere equivalence resulte du theor`eme 27.
Corollaire 11. Soit f : R
d
], ] une fonction convexe, et soit x R
d
tel
que f(x) R. Si f est dierentiable en x, alors f(x) = f(x).
D emonstration. Dapr`es le theor`eme 26, f

(x; y) existe pour tout y, et


f

(x; y) = f(x), y) .
Le theor`eme 30 montre alors que f(x) f(x). Dautre part,
f(x) y R
d
, f(x), y) , y)
f(x) = ,
o` u la deuxi`eme equivalence resulte encore du theor`eme 30. Donc f(x) est
lunique sous-gradient de f en x.
La reciproque du corollaire precedent est vraie : si f(x) est le singleton ,
alors f est dierentiable en x et f(x) = . La demonstration de ce resultat
est omise dans ce cours.
Proposition 10. Soient f : R
d


R et C un ouvert convexe de R
d
. On suppose
que f est nie et dierentiable sur C. Alors, il y a equivalence entre
46
(a) f est convexe sur C ;
(b) pour tous x, y C, f(y) f(x) +f(x), y x).
D emonstration. Le fait que (a) implique (b) resulte du corollaire 11 et de
linegalite du sous-dierentiel (appliquee `a la fonction f + ([C)). Reciproque-
ment, supposons la condition (b) satisfaite, et soient
y, z C, ]0, 1[ et x := (1 )y + z.
La condition (b) implique que
f(y) f(x) +f(x), y x)
et f(z) f(x) +f(x), z x),
do` u lon tire que
(1 )f(y) + f(z) f(x) +f(x), (1 )y + z x) = f(x).
Theor`eme 31. Soient f : R
d


R et C un ouvert convexe de R
d
. On suppose
que f est nie et deux fois dierentiable sur C. Alors, il y a equivalence entre
(a) f est convexe sur C ;
(b) pour tout x C,
2
f(x) est semi-denie positive.
D emonstration. Montrons tout dabord le theor`eme dans le cas o` u d = 1.
Soient : R

R et I R un intervalle ouvert sur lequel est nie et deux
fois derivable. Supposons convexe sur I, et soit t I. Dapr`es la proposition
precedente, pour tout h tel que t + h I,
(t + h) (t) +

(t)h. (5.3)
Or, (t +h) = (t)+

(t)h+

(t)h
2
/2+o(h
2
), et lequation (5.3) montre alors
que, pour tout h tel que t + h I,

(t)
h
2
2
+ o(h
2
) 0.
Cette derni`ere inegalite implique bien s ur que

(t) 0. Reciproquement, sup-


posons que, pour tout t I,

(t) 0. Alors,

est croissante sur I. Pour tous


x, y, z I tels que x < y < z, nous avons :
(y) (x)
y x
sup
t]x,y[

(t) inf
u]y,z[

(u)
(z) (y)
z y
.
Ici, les premi`ere et troisi`eme inegalites resultent du theor`eme des accroissements
nis, et la deuxi`eme de la croissance de

. La proposition 6 montre alors que


est convexe sur I.
47
Montrons maintenant le cas general. Supposons (a), et soit x C. Pour tout
y R
d
, la fonction (t) := f(x + ty) est convexe sur lintevalle ouvert
I
x,y
:= t R [ x + ty C .
On verie facilement que est aussi deux fois derivable sur I
x,y
, de derivee
seconde

(t) =
2
f(x + ty)y, y). Dapr`es la premi`ere partie de la preuve,

(t) 0 pour tout t I


x,y
. En particulier,

(0) =

2
f(x)y, y
_
0.
Cette derni`ere inegalite etant satisfaite pour tout y R
d
, il sensuit que
2
f(x)
est semi-denie positive. Reciproquement, supposons (b) et montrons que f est
convexe sur C. Soient x, z C et [0, 1]. Soient
y := z x et
x,y
() := f(x + y).
Pour tout I
x,y
:= t R[ x + ty C,

x,y
() =

2
f(x + y)y, y
_
0.
La premi`ere partie de la preuve implique que
x,y
est convexe sur I
x,y
[0, 1].
Donc
f((1 )x + z) =
x,y
()
(1 )
x,y
(0) +
x,y
(1)
= (1 )f(x) + f(z).
5.4 Conjugaison convexe
Soit f une fonction de R
d
dans

R. La conjuguee convexe de f est la fonction f

denie sur R
d
par
f

() = sup
xR
d
x, ) f(x) .
Cest lenveloppe superieure de la famille des fonctions anes
l
x
() = x, ) f(x).
Lepigraphe de f

est donc lintersection des epigraphes des fonctions l


x
, cest-
`a-dire lintersection dune famille de demi-espaces (superieurs) fermes de R
d+1
.
Lensemble epi f

est donc convexe ferme, ce qui montre que f

est une fonction


convexe sci. Bien s ur, on peut etendre la famille des l
x
ci-dessus aux fonctions
anes x, ) , avec f(x), sans que le supremum ne soit modie.
La biconjuguee de f est la conjuguee convexe de f

, cest-`a-dire la fonction f

de R
d
dans

R denie par
f

(x) = sup
R
d
x, ) f

() .
48
Dapr`es ce qui prec`ede, epi f

est lintersection des epigraphes des fonctions


anes
l() = , ) , avec f

().
Soit L := l : x , x) [ f

(). Par denition de la conjuguee


convexe, f

() si et seulement si
x R
d
, , x) f(x),
de sorte que L est en fait lensemble des minorantes anes de f. Par consequent,
f

nest autre que lenveloppe superieure des minorantes anes de f. Autre-


ment dit, f

= cl f, et si f est fermee (cest-`a-dire convexe, propre et sci ou


identiquement egale `a +), alors f

= f.
Theor`eme 32. Soit f : R
d


R. Il y a equivalence entre
(a) f(x) ;
(b) f(x) + f

() = , x).
Si de plus f

= f, les conditions (a) et (b) sont encore equivalentes `a


(c) x f

().
D emonstration. Montrons tout dabord lequivalence entre (a) et (b) :
f(x) z R
d
, f(z) f(x) +, z x)
z R
d
, , x) f(x) , z) f(z)
, x) f(x) = sup
zR
d
, z) f(z) = f

().
Si maintenant f

= f, (b) secrit f

() +f

(x) = x, ), et la premi`ere partie


du theor`eme montre alors que les assertions (b) et (c) sont equivalentes.
La conjuguee concave dune fonction g : R
d


R est denie sur R
d
par
g

() = inf
xR
d
x, ) g(x) .
Laissons au lecteur le soin de transposer `a la notion de conjuguee concave tout
ce qui a ete etabli `a propos de la conjuguee convexe.
Le theor`eme suivant, qui porte le nom du mathematicien allemand Werner Fen-
chel (1905-1988), est la pierre angulaire de la theorie de la dualite en analyse
convexe.
Theor`eme 33. [Fenchel] Soient f et g des fonctions de R
d
dans

R respectivement
convexe propre et concave propre telles que
ri domf ri domg ,= . (5.4)
On a alors
:= inf
xR
d
_
f(x) g(x)
_
= sup
R
d
_
g

() f

()
_
,
et le supremum est atteint (cest donc un maximum).
49
D emonstration. Par denition de la conjugaison, on a, pour tout x R
d
,
f

() x, ) f(x),
g

() x, ) g(x).
On en deduit que f(x) g(x) g

() f

() pour tout x R
d
, ce qui montre
que
= inf
xR
d
_
f(x) g(x)
_
sup
R
d
_
g

() f

()
_
. (5.5)
Si = , legalite est claire puisque, dans ce cas, g

() f

() = pour
tout R
d
. Supposons donc > . Comme dom(f g) = domf domg ,=
(cf. la condition (5.4)) on a aussi < , de sorte que R. Dapr`es le
theor`eme 20,
ri epi f =
_
(x, ) R
d+1

x ri domf, > f(x)


_
et ri hypo(g + ) =
_
(x, ) R
d+1

x ri domg, < g(x) +


_
.
Puisque f(x) g(x) pour tout x R
d
, on ne peut pas avoir simultanement
> f(x) et < g(x) + , et donc
ri epi f ri hypo(g + ) = .
Dapr`es le corollaire 6, il existe un hyperplan H separant epi f et hypo(g + )
proprement. Or, H ne peut pas etre vertical. En eet, si tel etait le cas, la pro-
jection de H sur R
d
serait un hyperplan separant domf et domg proprement.
Dapr`es le corollaire 6, ceci contredirait lhypoth`ese (5.4). Lhyperplan H est
donc le graphe dune fonction ane minorant f et majorant g + : il existe un
vecteur
0
et un reel tel que
x R
d
, f(x)
0
, x) g(x) + .
Par consequent, nous avons
sup
xR
d
_

0
, x) f(x)
_
= f

(
0
)
et + inf
xR
d
_

0
, x) g(x)
_
= g

(
0
).
En retranchant la premi`ere inegalite `a la deuxi`eme, nous obtenons
g

(
0
) f

(
0
) sup
R
d
_
g

() f

()
_
(cf. (5.5)), do` u le resultat.
50