Vous êtes sur la page 1sur 12

U:M:B:B: Faculte des Sciences 3eme Annee Optimisation non Lineaire 2020 2021

Chapitre1
Notions fondamentales

1. Eléments de topologie :
1.1. Distances et espace métrique :
Dé…nition 1 :
Soit E un espace vectoriel sur le corps des nombres réels.
Une distance sur lespace E est une application :

d: E ! R+
(x; y) 7 ! d (x; y)

ui véri…e les conditions suivantes:


i ) d (x; y) = d (y; x) 8x; y 2 E
ii ) d (x; y) = 0 , x = y
iii ) d (x; y) d (x; z) + d (z; y) 8x; y; z 2 E
E muni d’une distance d est appelé espace métrique, noté (E; d) :
Exemple :
On considère les applications d1 ; d2 ; d3 et d4 suivantes
1=2
Pn
2
d1 (x; y) = (xi yi ) (distance euclidienne).
i=1
d2 (x; y) = sup (jxi yi j)
1 i n
Pn
d3 (x; y) = (jxi yi j)
i=1
d4 (x; y) = inf (jxi yi j)
1 i n
On peut montrer que d1 ; d2 ; d3 sont des distances dans Rn , et que d4 ne l’est pas:
Dé…nition 2 :
Deux distances d1 et d2 sur un même espace E sont dites équivalentes s’il existe ; 2 R+ tels que

8 (x; y) 2 E 2 : d1 (x; y) d2 (x; y) et d2 (x; y) d1 (x; y)

1.2. Normes et espaces vectoriels normés :


Soient n un entier, n 1; et E un R-espace vectoriel.
Dé…nition 1 :
Une norme N (:) (ou k:k) sur un espace vectoriel E est une application N : E ! R+ véri…ant:
i ) N ( x) = j j N (x) 8 2 R; x 2 E:
ii ) N (x + y) N (x) + N (y)
iii ) N (x) = 0 , x = 0:
E muni d’une norme est appelé espace vectoriel normé (e:v:n) noté (E; N ) ou (E; k:k) :
Dé…nition 2 :
Deux nomes N1 et N2 sur un même espace E sont dites équivalentes s’il existe ; 2 R+ tels que

8x 2 E : N1 (x) N2 (x) et N2 (x) N1 (x)

1
Exemples :
1. L’application" valeur absolue" est une norme dans R.
2. Soit x 2 Rn
1=2
Pn
N kxk2 = x2i est une norme ( appelée norme euclidienne).
i=1
1=p
Pn
| kxkp = j xi jp est une norme ( appelée norme Hölderienne ).
i=1
• kxk1 = max jxj est une norme.
i
Remarque 1 : Ces trois normes sont équivalentes.
1=2
n
P
n
Remarque 2 : R muni de la norme euclidienne kxk2 = x2i est un e.v.n.
i=1
Remarque 3 : On peut associer à tout produit scalaire (:; :) ( ou < :; : >) une norme et, inversement,
on peut associer un produit scalaire à n’importe quelle norme.
Par exemple, le produit scalaire associé à la norme euclidienne dans Rn ;est dé…ni comme suit:
0 1
x1
B x2 C
B C X n
B . C
t
(x; y) =< x; y >= yx = y1 y2 yn B B C
C= xi yi
B . C i=1
@ . A
xn

1.3. Ouverts, fermés, et voisinages :


Dé…nition 1 :

Soit (E; d) un espace métrique.


On appelle boule ouverte ( resp. fermée ) de centre x0 2 E et de rayon r > 0; l’ensemble:

B (x0 ; r) = fx 2 E = d (x0 ; x) < rg ; resp. B (x0 ; r) = fx 2 E = d (x0 ; x) rg


On appelle sphère de centre x0 2 E et de rayon r; l’ensemble

S (x0 ; r) = fx 2 E = d (x0 ; x) = rg

Exemple :
Dans R; les boules se réduisent à des intervalles de longueurs …nies.
En e¤et, pour x; y donnés dans R; on a d (x; y) = jx yj et
B (x0 ; r) = fx 2 R = d (x0 ; x) = jx x0 j < rg = ]x0 r; x0 + r[
S (x0 ; r) = fx 2 R = d (x0 ; x) = jx x0 j = rg = fx0 r; x0 + rg :
Dé…nition 2 :
Soit a 2 E; une partie V de E est dite voisinage de a si elle contient une boule de centre a:
L’ensemble des voisinages de a est noté V (a) :
Soit A une partie donnée de E.
Dé…nition 3 :
Un point x0 2 A est dit point intérieur à A s’il existe r > 0 tel que B (x0 ; r) A:
L’ensemble des points intérieurs de A est noté A: On a A A:

2
Dé…nition 4 :
Un point x0 est dit point extérieur à A s’il existe r > 0 tel que B (x0 ; r) (E A) :
L’ensemble des points extérieurs à A est noté ext (A) : On a (E A) = ext (A)
Dé…nition 5 :
Un point x0 est dit point adhérent à A si 8 r >_0 , B (x0 ; r) \ A 6= ?:
L’ensemble des points adhérents à A est noté A et est appelé adhérence de A:
Dé…nition 6 :
Un point x0 est dit point frontière de A si 8 r > 0 , B (x0 ; r) \ A 6= ? et B (x0 ; r) \ (E A) 6= ?:
L’ensemble des points frontière de A est noté @A:
Dé…nition 7 :
Une partie A de E est dite ouverte si A = A,_
i:e: 8x 2 A; 9 r > 0 , B (x; r) A:
Une partie A de E est dite fermée si A = A :
Proposition :
Une partie A de E est un ouvert dans A ssi (E A) est fermé dans E:
Une partie A de E est un ouvert de E ssi A est un voisinage de chacun de ses points
Propriétés :
i ) E et ? sont ouverts et fermés dans E:
ii ) Toute réunion d’ouverts de E est un ouvert de E:
iii ) Toute réunion …nie de fermés de E est un fermé de E:
iv ) Toute intersection …nie d’ouverts de E est un ouvert de E:
v ) Toute intersection de fermés de E est un fermé de E:
Remarque :
Il existe des parties de Rn qui ne sont ni des ouverts ni des fermés et d’autres qui sont ouverts et
fermés simultanément, par exemple:
Dans R; ]0; 1] n’est ni ouvert ni fermé.
? et R sont ouverts et fermés.
Dé…nition 8:
Une partie A de E est dite bornée s’il existe x 2 A et un nombre r (0 < r < 1) ;tels que A B (x; r)
Ce qui est équivalent à dire :

9 M > 0; tel que kxk M pour tout x de A:

Exemple :
A = ]0; 1] est borné dans R car A B (0; 1) :
Remarque :
A borné ne signi…e pas A est fermé et A fermé ne signi…e pas A est borné.
Exemple :
R est fermé non borné.
]0; 1] est borné et non fermé.
Dé…nition 9 :
Un sous-ensemble A de Rn est dit compact si de toute suite in…nie (xk )k2N d’éléments de A, on peut
extraire une sous-suite (xl )l2L ; (L N) convergeant vers un élément de A:
Propriété :
Un sous-ensemble A de Rn est compact si et seulement si il est fermé et borné.

2. Fonctions di¤érentiables :

3
Rappel :
Soient f une fonction, f : I R ! R; et a un point de I.
f est dérivable en a;s’il existe un réel noté f 0 (a) tel que :

f (a + h) f (a) hf 0 (a)
lim =0
h!0Rn khk

2.1. Di¤érentiabilité dans Rn :


Dé…nition 1 :
Soient U un ouvert de Rn ; f : U ! R une fonction et a un point de U.
On dit que f est di¤érentiable au point a s’il existe une application linéaire

L : Rn ! R

telle que

f (a + h) f (a) L (h)
lim =0 (F)
h!0 h
re
f (a + h) f (a) = L (h) + khk (h) avec lim (h) = 0:
h!0

Dé…nition 2 :
Si f est di¤érentiable au point a; l’unique application linéaire L qui satisfait (F) est appelée
"di¤érentielle de f au point a"; on la note df (a) :

dfa : Rn ! R
h 7 ! dfa (h) = df (a) h
Dé…nition 3 :
Soit f une fonction, f : U ! R; U étant un ouvert de Rn :
f est di¤érentiable sur U si elle est di¤érentiable en tout point de U.
Théorème 1 :
Soit f une fonction, f : U ! R; U étant un ouvert de Rn
Si f est di¤érentiable sur U alors elle est continue sur U.
2.2. Dérivée suivant une direction (ou un vecteur) :
Soit d un vecteur non nul de Rn et f : U ! R une fonction di¤érentiable en un point a 2 U.
Dé…nition 3 :
On dit que f est dériable en a dans la direction d si et seulement si la fonction : t ! f
(a + td) est dérivable en 0.
Dans ce cas, on note
f (a + td) f (a)
dfa (d) = lim
t!0 t
et on appelle dfa (d) la dérivée de f au point a dans la direction d :
2.3. Dérivées partielles
En pratique, on utilise souvent des dérivées dans les directions e1 ; e2 ; ::::::::en ; où f e1 ; ::::::en g est la
base canonique de Rn :
On note
@f f (a + tek ) f (a)
(a) = dfa (ek ) = lim
@xk t!0 t

4
@f
(a) est appelée la dérivée partielle de f par rapport à la variable xk :
@xk
Expression de la di¤érentielle dfa (d) :
Soit a = (x1 ; x2 ; :::; xn ) alors a + tek = (x1 ; x2 ; :::; xk + t; ::; xn ) :
@f
Ainsi pour calculer (a), on calcule la limite :
@xk
f (x1 ; x2 ; :::; xk + t; :::; xn ) f (x1 ; x2 :::; xn )
lim
t!0 t
De plus h 2 Rn ; h = h1 e1 + ::: + hn en :
On a :
dfa (h) = dfa (h1 e1 + ::: + hn en )
= h1 dfa (e1 ) + h2 dfa (e2 ) + ::: + hn dfa (en )
@f @f @f
= h1 (a) + h2 (a) + :::hn (a) :
@xk @xk @xk
D’où, 0 1
h1
B : C
X
n
@f @f @f @f B C
dfa (h) = hi (a) = (a) (a) : : : (a) B : C
@xi @x1 @x2 @xn B C
i=1 @ : A
hn
0 @f 1
@x1
B : C
B C
On note rf = B
B : C le gradient de f; alors
C
@ : A
@f
@xn

df a (h) = t rf (a) :h = (h; rf )


Théorème 3 :
Si f est une fonction di¤érentiable en un point a de U alors toutes ses dérivées partielles d’ordre 1
existent en ce point, de plus la di¤érentielle de f en ce point est l’application

dfa : Rn ! R
dx ! dfa (x) =t rf (a) dx
où dx = (dx1 ; :::; dx2 )
Conséquences :
a) Si au moins une dérivée partielle de f n’existe pas en a; alors f n’est pas di¤érentiable en a:
b) Si f admet toutes ses dérivées partielles premières en a, alors f est di¤érentiable en a si et
seulement si
f (a + h) f (a) dfa (h)
lim =0
h!0 khk
Exemple :
f : R2 ! R telle que 8
< x2 y
si (x; y) 6= (0; 0)
f (x; y) = x2 + y 2
:
0 si (x; y) = (0; 0)

5
2.4. Fonctions continûment di¤érentiables
Dé…nition 4 :
Soit f : U ! R:
On dit que f est de classe C 1 sur U ( continûement di¤érentiable ) si ses dérivées partielles premières
existent et sont continues en tout point de U:
Théorème 4 :
Soient U un ouvert de Rn ; f : U ! R une fonction et a un point de U.
@f
Si les dérivées partielles de f exisent dans un voisinage V (a) de a et sont continues au point a,
@xi
alors f est di¤érentiable au point a:
2.5. Composition d’applications di¤érentiables
Théorème 5 :
Soient U un ouvert de Rn ; f : U ! R; g : I R !R deux fonctions et a un point de U.
Si f est di¤érentiable en a et g di¤érentiable en f (a) alors gof : U ! R est di¤érentiable en
a et on a :
da (gof ) = df (a) (g) :da f
3. Dérivées partielles d’ordre supérieur :

Dé…nition 5 :
@f
Soient U un ouvert de Rn ; a un point de U, et f : U ! R une fonction telle que existe au
@xi
voisinage de a
@f
Si la fonction admet une dérivée partielle au point a par rapport à la variable xj , on dira que
@xi
la fonction f admet une dérivée partielle d’ordre 2 au point a par rapport aux ieme et j eme variables
(prises dans cet ordre).
@2f
Celle-ci sera notée (a) ; on a donc
@xi xj

@2f @ @f
(a) = (a)
@xi xj @xj @xi

Dé…nition 6:
On dit que f est de classe C k (U) si toutes ses dérivées partielles d’ordre k existent et sont continues
sur U.
Dé…nition 7: Soit f 2 C 2 (U) ; a 2 U. On dé…nit par d2 f la matrice suivante:
0 1
@2f @2f @2f
2 (a) @x1 @x2
(a) : : : @x1 @xn
(a)
B @@x2 f1 @2f @2f
C
B (a) (a) : : : (a) C
B @x2 @x1 @x22 @x2 @xn C
2
@ f B : : C
2
df a= = B B C
@xi xj 1 i;j n : : C
B C
B : : : : : : C
@ A
2
@ f 2
@ f 2
@ f
@xn @x1
(a) @xn @x2
(a) : : : @x2
(a)
n

Cette matrice est appelée la matrice Hessienne de f en a: On la note: r2 fa ou Hf (a) :


Exemple:
f (x; y) = x4 + 2xy 3

6
On a f 2 C 2 (R2 ) et

4x3 + 2y 3 12x2 6y 2
rf (x; y) = ; r2 f (x; y) =
6xy 2 6y 2 12xy
Théorème 6 : (Théorème de Schwarz)
Soient U un ouvert de Rn ; f : U ! R une fonction et a un point de U:
@2f @2f @2f
Si et existent au voisinage de a et sont continues en a, alors (a) =
@xj @xi @xi@xj @xj @xi
@2f
(a) :
@xi@xj
Remarque :
Sous les conditions de Schwarz, la matrice Hessienne r2 fa est symetrique:
Corollaire 1 :
@kf @kf
Si f 2 C k (U) ; alors = , pour toute permutation
@xi1 @xi2 :::::@xip @x (i1 ) @x (i2 )::::::::::@x (in )
2 fi1 ; i2 ; ::::; in g :
Théorème 7 (Théorème des accroissements …nis) :
Soient U un ouvert de Rn et f : U ! R une fonction di¤érentiable sur U.
On considère deux points a et a+h de U, tels que le segment [a; a + h] U, alors il existe c = a+ h;
0 < < 1;
tel que :
Xn
@f
f (a + h) f (a) = (c) hi
i=1
@xi
Théorème 8 (Formule de Taylor dans R2 ) :
Soient U un ouvert de R2 et f : U ! R une fonction de classe C n+1 sur U
On considère deux points a et a + h de U, tels que le segment [a; a + h] U alors il existe c = a + h;
0 < < 1;
tel que :

Xn
1 @f @f 1 @f @f
f (a + h) f (a) = (h1 (a) + h2 (a))[k] + (h1 (a + h) + h2 (a + h))[n+1]
i=1
k! @x @y (n + 1)! @x @y


@f @f X p p k
k
p @ pf
(h1 (a) + h2 (a))[k] = Ck h1 :h2 (k = 1; :::; n + 1)
@x @y p=0
@xp @y k p

1
l’expression (n+1)! (h1 @f
@x
(a + h) + h2 @f
@y
(a + h))[n+1] est appelée "reste de Lagrange".
Cette formule est la formule de Taylor - Lagrange de f au voisinage de a à l’ordre n:
Exemples :
Formule de Taylor-Lagrange à l’ordre1 :

@f @f 1 @2f @2f @2f


f (a + h) = f (a) + h1 (a) + h2 (a) + (h21 2 + 2h1 h2 + h22 2 ) (a + h)
@x @y 2! @x @x@y @y
1t
ou encore : f (a + h) = f (a) +t h:rf (a) + 2
h:r2 f (a + h) :h:

7
Formule de Taylor-Lagrange d’ordre 2 :

1t 1 @3f @3f 3
2 @ f
3
3@ f
f (a + h) = f (a)+ t h:rf (a)+ h:r2 f (a) :h+ (h31 + 3h2
1 h2 + 3h1 h2 + h2 ) (a + h)
2 3! @x3 @x2 @y @x@y 2 @y 3

Remarque :
Sous les mêmes hypothèses, on obtient la formule de Taylor-Young à l’ordre n en remplaçant le reste
de Lagrange par le reste de Young :

khkn (h) avec lim (h) = 0:


h!0

Exemple :
Donner la formule de Taylor à l’ordre 2 en (0; 0) pour la fonction f dé…nie par

f (x; y) = ey sin x

4. Rappels d’algèbre linéaire :


Soit A = (aij )1 i;j n une matrice carrée d’ordre n.
t
A = (aji )1 j;i n est matrice tranposée de A:
Si t A = A on dit que est symétrique.
Dé…nition 8 (Mineurs principaux d’une matrice) :
Soit A = (aij )1 i;j n une matrice carrée d’ordre n.
Un mineur principal d’ordre k, noté Ak est le déterminant de la sous-matrice de A d’ordre k, obtenue
en supprimant les (n k) lignes disons i1; i2 ; :::; in k et les même (n k) colonnes j1 ; j2 ; :::; jn k
correspondantes de A:
Exemple:
Soit A une matrice d’ordre 3.
Les trois mineurs principaux d’ordre 1 de A sont: a11 ; a22 ; a33 :
a a a a a a
Les mineurs principaux d’ordre 2 de A sont: 11 12 ; 22 23 ; 11 13
a21 a22 a32 a33 a31 a33
a11 a12 a13
Le mineur principal d’ordre 3 est: a21 a22 a23
a31 a32 a33
Dé…nition 9 (Mineurs principaux diagonaux d’une matrice) :
Le mineur principal diagonal d’ordre k (noté Dk ) de la matrice A est le déterminant de la sous-
matrice de A obtenue en supprimant les (n k) dernières lignes et (n k) dernières colonnes de A:
Une matrice carrée d’ordre n admet n mineurs principaux digonaux.
Exemple :
Soit A une matrice d’ordre 3.
Le mineur principal diagonal d’ordre 1 de A est D1 = (a11 ) :
a11 a12
Le mineur principal diagonal d’ordre 2 de A est D2 =
a21 a22
a11 a12 a13
Le mineur principal diagonal d’ordre 3 de A est D3 = a21 a22 a23
a31 a32 a33

8
Dé…nition 10 :
Soit A une matrice symétrique d’ordre n:
A est dite Dé…nie Positive si t XAX > 0; 8 X 2 Rn ; X 6= 0:
A est dite Semi Dé…nie Positive si t XAX 0; 8 X 2 Rn :
A est dite Dé…nie Négative si t XAX < 0; 8 X 2 Rn ; X 6= 0:
A est dite Semi Dé…nie Négative si t XAX 0; 8 X 2 Rn :
t
Pn Pn
XAX = aij xixj est appelée forme quadratique.
j=1 i=1
Dé…nition 11 :
Soit 2 R; est dite valeur propre de A si det (A I) = 0:
Théorème 1 :
Soit A une matrice carrée d’ordre n symétrique.
A est Dé…nie Positive , ses mineurs principaux diagonaux Dk sont positifs (Dk > 0) ; k = 1; :::; n:
A est Dé…nie Négative , ses mineurs principaux diagonaux Dk , véri…ent ( 1)k Dk > 0; k = 1; :::; n:
C’est -à-dire ses n mineurs principaux diagonaux Dk sont alternativement négatifs (k impair) et
positifs (k pair) :
Remarque :
La conjecture naturelle de ce théorème est de remplacer Dé…nie Positive par Semi Dé…nie Positive et
Dé…nie Négative par Semi Dé…nie Négative et les inégalités strictes par des inégalités Cette conjecture
est fausse, considérons l’exemple suivant :
Exemple :
0 0 0 0
A= ; B= :
0 1 0 1
A et B sont symétriques, cependant D1A = D2A = D1B = D2B = 0:
Si cette conjecture était vraie alors A et B sont SDP et SDN, cependant,
8X 2 R2 ; t
XAX = x22 et t
XBX = x22
et donc, d’après la dé…nition10, A est SDP et B est SDN.
Théorème 2 :
Soit A une matrice carrée d’ordre n symétrique, on note par Ak ; 1 k n; ses mineurs principaux.
A est SDP , Ak 0; 8k:
Ak 0 si k impair
A est SDN ,
Ak 0 si k pair
Remarque 1 :
Il existe des matrices qui ne sont ni SDP, ni SDN, ces matrices sont appelées des formes quadratiques
indé…nies.
Exemple :
0 1
Soit A =
1 0
Pour X = (1; 1) ; on a t XAX = 2 > 0 et pour X = ( 1; 1) ; ona t XAX = 2 < 0; donc A ni
SDP ni SDN.
Remarque 2 :
La propriéte de symétrie est importante pour la validité de ces résultats.
1 3 1 3
A= , on a D1 = 1; D2 = = 1; donc logiquement A est DP. Mais pour
0 1 0 1
X = (1; 1) ; on a: t XAX = x21 + x22 3x1 x2 = 1; donc A n’est pas DP.
0 1
A= ; on a A1 = 0; A2 = 0; A3 = 0; donc A passe le test d’être soit SDP, soit SDN.
0 0

9
Cependant A n’est ni SDP, ni SDN.
En e¤et : t XAX = x1 x2 peut être positif ou négatif.
Propriétés :
Soit A une matrice carrée symétrique d’ordre n:
A est DP ssi A est DN
A est DP (resp. DN) ssi toutes ses valeurs propres sont strictement positives (resp. négatives).
A est SDP ssi toutes ses valeurs propres sont positives ou nulles.
A est SDN ssi toutes les valeurs propres de A sont négatives ou nulles.
A est DP ssi A = Lt L ( décompositionde Cholesky ).
S’il existe i 2 f1; 2; :::; ng telque aii 0 alors A n’est pas DP.
S’il existe i 2 f1; 2; :::; ng telque aii < 0 alors A n’est pas SDP.
S’il existe i 2 f1; 2; :::; ng telque aii 0 alors A n’est pas DN.
S’il existe i 2 f1; 2; :::; ng telque aii > 0 alors A n’est pas SDN.
S’il existe i 2 f1; 2; :::; ng telque aii = 0 et aij 6= 0 alors A n’est pas SDP.

5. Convexité :
5.1. Ensemble convexe :
K est un ensemble convexe si et seulement si

8x; y 2 K et 8 2 [0; 1] ; on a : x + (1 ) y 2 K:

autrement dit, le segment [x; y] est inclus dans K:


Exemples :
n
R est un ensemble convexe.
Un singleton fag est convexe.
Un intervalle [a; b] est convexe dans R:
Une rénunion disjointe d’intervalles de R n’est pas convexe ( exemple R ):
Proposition :
T
n
Soit une famille fKi gi=1;:::;n d’ensembles convexes et S = Ki alors S est convexe.
i=1
5.2. Fonction convexe, fonction concave :
Dé…nition 13 :
On dit qu’une fonction f : K ! R; dé…nie sur un convexe K; est convexe si elle véri…e:

8x; y 2 K; 8 2 [0; 1] ; f ( x + (1 ) y) f (x) + (1 ) f (y)

On dit qu’une fonction f : K ! R; où K est un convexe; est strictement convexe si elle véri…e:

8x; y 2 K; x 6= y; 8 2 ]0; 1[ ; f ( x + (1 ) y) < f (x) + (1 ) f (y)

Dans le cas de la dimension 1; i:e. R; cette dé…nition s’interprète comme suit :


Le graphe de la fonction est situé au dessous du segment reliant les points (x; f (x)) et (y; f (y)) :
Corollaire 2 :
Soit (x; y) 2 K 2 ; on dé…nit la fonction :

' : [0; 1] ! R
t 7 ! ' (t) = f (tx + (1 t) y)

alors on a l’équivalence: (' convexe sur [0; 1] 8 (x; y) 2 K 2 , f convexe sur K):

10
Preuve :
?
() Soient t1 ; t2 2 [0; 1] et 2 [0; 1] ; a-t-on ' ( t1 + (1 ) t2 ) ' (t1 ) + (1 ) '(t2 )?
8x; y 2 K, on a :
' ( t1 + (1 ) t2 ) = f (( t1 + (1 ) t2 ) x + (1 t1 + (1 ) t2 ) y)
= f ( (t1 x + (1 t1 ) y) + (1 ) (t2 x + (1 t2 )y)
f (t1 x + (1 t1 ) y) + (1 )f (t2 x + (1 t2 )y)
' (t1 ) + (1 ) '(t2 )
donc ' (t) est convexe.
?
))8 (x; y) 2 K 2 ; 8 2 : ]0; 1[ :a-t-on f ( x + (1 ) y) ? f (x) + (1 ) f (y)?

f ( x + (1 ) y) = ' ( )
= ' ( :1 + (1 ) :0)
' (1) + (1 ) ' (0)
f (x) + (1 ) f (y)
donc f est convexe.
Dé…nition 14 :
On dira qu’une fonction f; f : K ! R; dé…nie sur un ensemble convexe K est concave si
8 (x; y) 2 K 2 ; 8 2 [0; 1] : f ( x + (1 ) y) f (x) + (1 ) f (y)
Propriété : f est concave si ( f ) est convexe.
Dé…nition 15 :
f :K Rn ! R; l’épigraphe de fonction f ,noté epi (f ) est l’ensemble des vecteurs à (n + 1)
composantes (x; )
epi (f ) = f(x; ) 2 K R = f (x) g
Proposition : f est convexe , epi (f ) est convexe.
5.3. Caractérisation de la convexité en terme de Gradient - Hessien :
5.3.1.Convexité en terme de Gradient :
Théorème :
Soit f : K Rn ! R; f 2 C 1 (K) ; K est convexe. Alors
f est convexe si et seulement si f (y) f (x) + t rf (x) (y x) ; 8x; y 2 K:
f est strictement convexe si et seulement si f (y) > f (x) + t rf (x) (y x) ; 8x; y
2 K; x 6= y .
Dans R;le graphe d’une fonction convexe se trouve toujours au dessus de la tangente en un
point donné.
Preuve :
)) Supposons que f est convexe alors 8 (x; y) 2 K 2 ; 8 2 : [0; 1] :
f ( y + (1 ) x) f (y) + (1 ) f (x)
(f (y) f (x)) + f (x)
Ceci donne
f (x + (y x)) f (x)
f (y) f (x) ; 6= 0:

11
En passant à la limite, on obtient:

f (x + (y x)) f (x)
lim f (y) f (x)
!0

i:e: t rf (y x) f (y) f (x) ; d’où le résultat.


()??
5.3.2. Convexité en terme de Hessien :
On considèrera séparément les cas unidimensionnel, (i:e: n = 1) et pluridimensionnel (i:e:n 2) :
Théorème 1 : (n = 1)
Soient f : K R ! R; f 2 C 2 (K) ; K un ensemble convexe, on a :
f est convexe si et seulement si f " (x) 0; 8x 2 K:
Si f " (x) > 0; 8x 2 K alors f est strictement convexe.
Théorème 2 : (n 2)
Soient f : K Rn ! R; f 2 C2 (K) ; K est un ensemble convexe, on a alors
f est convexe si et seulement si la Hessienne r2 f (x) est Semi Dé…nie Positive (i:e: r2 f
(x) 0); 8x 2 K:
Si la Hessienne r2 f (x) est Dé…nie Positive ( noté r2 f (x) > 0); 8x 2 K; alors f est strictement
convexe.
Inversement : si f est strictement convexe alors la Hessienne r2 f (x) est Semi Dé…nie Positive
(i:e:
r2 f (x) 0; 8x 2 K ):
Si f est strictement convexe et quadratique alors la Hessienne r2 f (x) est Dé…nie Positive (i:e:
r2 f (x) > 0);
8x 2 K:
Preuve :
On dé…nit ' (t) = f (x + ty) : On a : '" (t) = t yr2 f (x + ty) y
D’après le théorème1, ' est convexe ssi '" (t) 0 8t; ceci implique que '" (t) =t yr2 f (x + ty) y
0; 8 (x; y) 2 K 2 :
On a f est convexe ssi t yr2 f (x + ty) y 0; d’où le résultat, (r2 f (x)) est Semi Dé…nie Positive.
Exemples :
N f (x; y) = x4 + y 4 ; on a f 2 C2 (R2 ) :
12x2 0
La Hessienne: r2 f (x) = ; les valeurs propres sont: 1 = 12x2 ; 2 = 12y 2 :
0 12y 2
On a: 8x; y , 1 0; 2 0; la Hessienne est SDP, d’ou f est convexe.
|f (x; y) = x2 + xy + y 2 ; on a: f 2 C 2 (R2 ) :
2 1
On a r2 f (x) = ; les mineurs principaux diagonaux sont: D1 = 2 > 0; D2 = 4 1 > 0
1 2
On a donc La Hessienne r2 f (x) est Dé…nie Positive; d’où, f est strictement convexe.
• Soit h une forme quadratique dé…nie par :

1t t
h (x) = XAX bX
2
h(x) est convexe ssi la matrice A est SDP.
h(x) est strictement convexe ssi la matrice A est DP.

12