Chapitre 1.

Introduction à l’optimisation et rappels

mathématiques.

Introduction
L’optimisation est une branche de mathématiques, qui vise à modéliser, à analyser et à
résoudre analytiquement ou numériquement des problèmes d’optimisation.

C’est quoi un problème d’optimisation ?

Un problème d’optimisation consiste étant donné une fonction, 𝑓: 𝑋 ⟶ ℝ à trouver son

minimum (resp. son maximum) 𝑣 dans ℝ et un point 𝑥 ∗ ∈ 𝑋 qui réalise ce minimum (resp. ce
maximum) c.-à-d. 𝑣 = 𝑓 (𝑥 ∗ )
On appelle :
 𝒇 : La fonction objectif ;
 𝒗 : La valeur optimale ;
 𝒙 : la variable de décision ;
 𝒙∗ : La solution optimale.
Formellement le problème d’optimisation s’écrit : min 𝑓(𝑥) (resp. max 𝑓 (𝑥 ))
𝑥∈𝑋 𝑥∈𝑋

Pour se fixer les idées nous allons illustrer la définition du « problème d’optimisation »
à travers l’exemple suivant :

Un étudiant doit réviser pour ses examens. Il a trois matières à passer 𝑚1 , 𝑚2 et 𝑚3 , et il

révise 𝑥𝑖 heures sur la matière 𝑚𝑖 pour 𝑖 ∈ {1,2,3}. La note 𝑛𝑖 de la matière 𝑚𝑖 dépend
uniquement du temps passé à la révision du cette matière 𝑥𝑖 .
𝑛1 (𝑥1 ) = 3 𝑥1 ; 𝑛2 (𝑥2 ) = 𝑥2 2 ; 𝑛3 (𝑥3 ) = 𝑥3 (100 − 𝑥3 )
Cet étudiant peut passer au plus 10 heures au total à réviser et il veut optimiser sa moyenne
1
totale 𝑓 (𝑥) = 3 (3 𝑥1 + 𝑥2 2 + 𝑥3 (100 − 𝑥3 )), 𝑥 = (𝑥1 , 𝑥2 , 𝑥3 ).

D’après les données de ce problème :

 𝑥 = (𝑥1 , 𝑥2 , 𝑥3 ) ne peut pas prendre n’importe quelles valeurs dans ℝ3 . On dit alors
que ce problème est contraint. 𝑥 doit appartenir à l’ensemble des contraintes 𝑋
𝑋 = {(𝑥1 , 𝑥2 , 𝑥3 ) ∈ ℝ3 , ∀ 𝑖, 𝑥𝑖 ≥ 0 et 𝑥1 + 𝑥2 + 𝑥3 ≤ 10}
Le problème d’optimisation de l’étudiant s’écrit :
max 𝑓 (𝑥 )
𝑥∈𝑋

1
 Face à la résolution d’un problème d’optimisation, il est important de bien identifier à
quelle catégorie ce problème appartient. En effet, les algorithmes développés sont conçus pour
résoudre un type de problème donné et sont souvent peu efficaces pour un type différent. La
classification des problèmes d'optimisation change d’un auteur à l’autre.

Dans ce cours, on se limitera aux problèmes d’optimisation mono-objectif (une unique

fonction objectif) à variables continues (les variables sont des réels) sans et sous contraintes.
Nous allons faire quelques rappels mathématiques, qui vont servir à comprendre les différents
théorèmes et méthodes d’optimisation qui vont faire l’objet de ce cours.

1.1. Rappels de quelques définitions mathématiques

Dans cette section, nous allons rappeler quelques notions mathématiques

fondamentales. Il ne s’agit pas de donner un aperçu exhaustif de toutes les notions
mathématiques utilisé en optimisation mais de préparer l’apprenant à quelques concepts qui
seront utilisés dans ce cours.
Définition 1.1. Espace euclidien

Pour tout 𝑛 ∈ ℕ∗ , ℝ𝑛 désigne l’espace euclidien ℝ × ℝ … × ℝ (produit 𝑛 fois ). En général

un vecteur 𝑥 ∈ ℝ𝑛 sera noté 𝑥 = (𝑥1 , 𝑥2 , … , 𝑥𝑛 )𝑇 (vecteur colonne).

Définition 1.2. Norme euclidienne

Pour tout 𝑥 = (𝑥1 , 𝑥2 , … , 𝑥𝑛 )𝑇 ∈ ℝ𝑛 , on note par ‖𝑥 ‖ ≥ 0 la norme euclidienne de 𝑥, donné
par :

‖𝑥 ‖ = √∑ 𝑥𝑖 2 .
𝑖=1

Définition 1.3. Boule ouverte

Pour tous 𝑥 ∈ ℝ𝑛 et 𝑟 > 0, on notera par 𝐵(𝑥, 𝑟) la boule ouverte du centre 𝑥 et du rayon 𝑟,
donnée par :
𝐵(𝑥, 𝑟) = {𝑦 ∈ ℝ𝑛 , ‖𝑦 − 𝑥 ‖ < 𝑟 }.

2
Définition 1.4. Ensemble ouvert
Un ensemble 𝑂 de ℝ𝑛 est dit ouvert si pour tout 𝑥 ∈ 𝑂, il existe une boule ouverte 𝐵(𝑥, 𝑟)
incluse dans 𝑂.

Définition 1.5. Ensemble fermé

Un ensemble 𝐹 de ℝ𝑛 est dit fermé si son complémentaire est ouvert.

Exemples
 Les ensemble ∅ et ℝ𝑛 sont ouverts sont ouverts, mais ils sont aussi fermés car leurs
complémentaires respectifs ℝ𝑛 et ∅ sont ouverts. Ce sont d’ailleurs les seuls exemples
d’ensembles à la fois ouverts et fermés.
 Les boules ouvertes sont des ouverts.
 Les intervalles de la forme ]𝑎, 𝑏[, −∞ < 𝑎 < 𝑏 < +∞ sont des ouverts
 Les intervalles de la forme [𝑎, 𝑏], −∞ ≤ 𝑎 < 𝑏 ≤ +∞ sont des fermés.

Remarques.
 Un ensemble est ouvert si et seulement s’il ne contient aucun élément de sa frontière.
 Un ensemble est fermé si et seulement s’il contient tous les éléments de sa frontière.
 Les ensembles qui contiennent une partie de leur frontière mais pas l’intégralité ne sont
ni ouvert ni fermé.

Définition 1.6. Minorant et majorant d’un ensemble

Soit 𝐸 un sous ensemble de ℝ.
 𝑚 ∈ ℝ ∪ {−∞, +∞} est un minorant de 𝐸 si et seulement si ∀𝑥 ∈ 𝐸, 𝑥 ≥ 𝑚.
 𝑀 ∈ ℝ ∪ {−∞, +∞} est un majorant de 𝐸 si et seulement si ∀𝑥 ∈ 𝐸, 𝑥 ≤ 𝑀.

Remarques.
 Si 𝐸 admet un minorant fini, alors 𝐸 est dit minoré.
 Si 𝐸 admet un majorant fini, alors 𝐸 est dit majoré.

Définition 1.7. Infimum et supremum d’un ensemble

Soit 𝐸 un sous ensemble de ℝ.
 L’infimum de 𝐸 noté inf(𝐸 ) est le plus grand des minorants de 𝐸.
 Le supremum de 𝐸 noté sup(𝐸 ) est le plus petit des majorants de 𝐸.

3
 Définition 1.8. Minimum et maximum d’un ensemble
Soit 𝐸 un sous ensemble de ℝ.
 L’ inf(𝐸 ) est appelé minimum de 𝐸 noté min(𝐸 ) si et seulement si inf(𝐸 ) ∈ 𝐸.
 Le sup(𝐸 ) est appelé maximum de 𝐸 noté max(𝐸 ) si et seulement si sup(𝐸 ) ∈ 𝐸.

Exemple
Considérons l’ensemble 𝐸 =]0,1]
 L’ensemble des minorants de 𝐸 est [−∞, 0] et L’ensemble des majorants de 𝐸 est [1, +∞]
 inf(𝐸 ) = 0, et sup(𝐸 ) = 1
 inf(𝐸 ) ∉ 𝐸, 𝐸 n’admet pas de minimum, et sup(𝐸 ) ∈ 𝐸, max(𝐸 ) = sup(𝐸 ) = 1.

Définition 1.9. Ensemble compact

Un ensemble 𝑋 de ℝ est un compact s’il est fermé et borné (admet un minimum et un
maximum).

1.2. Rappels sur les fonctions à plusieurs variables.

La résolution analytique ou numérique d’un problème d’optimisation fait appel à

quelques notions sur les fonctions à plusieurs variables.

Définition 1.10. Continuité d’une fonction à plusieurs variables

Soit 𝑋 ⊆ ℝ𝑛 un sous ensemble de ℝ𝑛 . La fonction à 𝑛 variables 𝑓 : 𝑋 ⟶ ℝ est dite continue
au point 𝑥 ∈ 𝑋 si : lim 𝑓 (𝑦) = 𝑓 (𝑥 ).
𝑦→𝑥

c.-à-d. ∀𝜀 > 0, ∃ 𝛿 > 0, ∀𝑦 ∈ 𝑋: ‖𝑦 − 𝑥 ‖ < 𝛿 on a |𝑓(𝑦) − 𝑓 (𝑥 )| < 𝜀.

𝑓 est continue sur 𝑋 si elle est continue en tout point de 𝑋.

Proposition 1.1. Limite d’une fonction à plusieurs variables

Soit 𝑓 : 𝑋 ⊆ ℝ𝑛 ⟶ ℝ. Soient 𝑎 ∈ 𝑋 et 𝑙 ∈ ℝ. Alors 𝑓 tend vers 𝑙 quand 𝑥 tend vers 𝑎

(lim 𝑓(𝑥 ) = 𝑙) si et seulement si pour toute suite (𝑈𝑛 )𝑛∈ℕ ∈ 𝑋 qui tends vers 𝑎 la suite
𝑥→𝑎

𝑓 (𝑈𝑛 ) tend vers 𝑙.

4
Exemple
0
Soit 𝑓 : ℝ2 \ ( ) ⟶ ℝ
0
𝑥 𝑥𝑦
(𝑦 ) ⟶ 2
𝑥 + 𝑦2
0
𝑓 est-elle continue au point ( ) ?
0
0
Supposons que : lim 𝑓 (𝑥 ) = 𝑙 = 𝑓 ( )
0
𝑥→( ) 0
0
1
1
Pour 𝑛 ∈ ℕ : 𝑈𝑛 = ( 𝑛 ) et 𝑉𝑛 = (𝑛1)
0 𝑛

0
On a : lim 𝑈𝑛 = lim 𝑉𝑛 = ( )
𝑛→+∞ 𝑛→+∞ 0
On peut vérifier facilement que :

lim 𝑓 (𝑈𝑛 ) = 0 = 𝑙
𝑛→+∞ 0
1 } 𝐜𝐨𝐧𝐭𝐫𝐚𝐝𝐢𝐜𝐭𝐢𝐨𝐧 (𝐩𝐫𝐨𝐩𝐨 𝟐. 𝟏), cela preuve que 𝑓 n′ admetpas de limite en ( )
lim 𝑓 (𝑈𝑛 ) = = 𝑙 0
𝑛→+∞ 2

Définition 1.11. Dérivée partielle de f en x

𝜕𝑓
Soit 𝑓 : ℝ𝑛 ⟶ ℝ une fonction continue, la fonction notée 𝜕 𝑥 (𝑥 ): ℝ𝑛 ⟶ ℝ, 𝑖 = 1, … , 𝑛, est
𝑖
ème
appelée i dérivée partielle de 𝑓 et est définie par :
𝑓(𝑥1 , … , 𝑥𝑖 + 𝛼, … , 𝑥𝑛 ) − 𝑓(𝑥1 , … , 𝑥𝑖 , … , 𝑥𝑛 )
lim
𝛼→0 𝛼

Cette limite peut ne pas exister.

Définition 1.12. fonction de classe 𝐶 𝑚

Soit 𝑓 : Ω ⊆ ℝ𝑛 ⟶ ℝ, on dit que 𝑓 est de classe 𝐶 𝑚 sur Ω (𝑓 ∈ 𝐶 𝑚 (Ω)) si toutes les dérivées
partielles de 𝑓 jusqu’à l’ordre 𝑚 existent et sont continues.

𝜕𝑓
Si la dérivée partielle (𝑥 ) existe pour tout 𝑖 = 1, … , 𝑛, alors le gradient de 𝑓 est
𝜕 𝑥𝑖

défini de la façon suivante.

5
 Définition 1.13. Gradient de 𝒇 en 𝒙 : 𝛁𝒇(𝒙)
Soit Ω ⊂ ℝ𝑛 un ouvert et 𝑓: Ω → ℝ une fonction continue, la fonction notée
∇𝑓 (𝑥 ): Ω ⟶ ℝ𝑛 est appelée le gradient de 𝑓 en 𝑥 et est défine par :
𝜕𝑓
(𝑥 )
𝜕 𝑥1
𝜕𝑓
(𝑥 )
𝜕 𝑥2
∇𝑓(𝑥 ) = . .
.
.
𝜕𝑓
(𝑥 )
(𝜕 𝑥 𝑛 )

∇𝑓 (𝑥 ) peut ne pas exister pour certains 𝑥 ∈ ℝ𝑛 .

Exemple
𝑓 (𝑥, 𝑦) = (𝑥 − 1)2 + 2 𝑦 2
 𝑓(𝑥, 𝑦) est de classe 𝐶 1 .
𝜕𝑓
(𝑥, 𝑦) 2𝑥−2
𝜕𝑥
 Le gradient de 𝑓 en (𝑥, 𝑦) ∈ ℝ2 : ∇ 𝑓 (𝑥, 𝑦) = (𝜕 𝑓 )=( )
(𝑥, 𝑦) 4𝑦
𝜕𝑦

0
 Le gradient de 𝑓 en (1,0) : ∇ 𝑓 (1,0) = ( )
0
Proposition 1.2. Gradient de la composée
Supposons qu’on deux ouverts Ω ⊂ ℝ𝑛 et U ⊂ ℝ et deux fonctions 𝑓: Ω → ℝ et 𝑔: U → ℝ
avec en plus 𝑓 (Ω) ⊂ 𝑈 (on peut alors définir 𝑔 ∘ 𝑓: Ω → ℝ ). Supposons 𝑔 et 𝑓 sont de classe
𝐶 1 , alors 𝑔 ∘ 𝑓 est aussi de classe 𝐶 1
𝛻 𝑔 ∘ 𝑓 (𝑥 ) = 𝑔′ (𝑓(𝑥)) 𝛻 𝑓 (𝑥 ), ∀ 𝑥 ∈ Ω

Exemple

𝑓 (𝑥1 , 𝑥2 ) = 𝑥1 2 𝑥2 + 2; 𝑔(𝑥 ) = 2𝑥 + 1
𝑔 ∘ 𝑓 (𝑥 ) = 𝑔(𝑥1 2 𝑥2 + 2) = 2(𝑥1 2 𝑥2 + 2) + 1 = 2 𝑥1 2 𝑥2 + 5 ;
4 𝑥1 𝑥2
𝛻 𝑔 ∘ 𝑓 (𝑥 ) = ( ).
2 𝑥1 2
 𝑔′ (𝑥 ) = 2; 𝑔′ (𝑓(𝑥)) = 2
2 𝑥1 𝑥2
 𝛻 𝑓 (𝑥 ) = ( )
𝑥1 2
2 𝑥1 𝑥2 4 𝑥1 𝑥2
𝑔 ′ (𝑥 )𝛻 𝑓 (𝑥 ) = 2 ( 2 ) =( ) = 𝜵 𝒈 ∘ 𝒇 (𝒙).
𝑥1 2 𝑥1 2

6
 Définition 1.14. Point critique de f
Soit 𝑓 : Ω ⊆ ℝ𝑛 ⟶ ℝ, on dit que 𝑥 ∗ ∈ 𝛺 est un point critique de 𝑓 si ∇𝑓 (𝑥 ∗ ) = 0.

Exemple
𝑓 (𝑥, 𝑦, 𝑧) = (𝑥 − 1)2 + 2 𝑦 2 + (𝑧 − 2)2
 𝑓(𝑥, 𝑦) est de classe 𝐶 1 sur ℝ3
2𝑥−2
 ∇ 𝑓 (𝑥, 𝑦) = 0 ⟺ ( 4𝑦 )
2 (𝑧 − 2)
2𝑥−2 =0 𝑥=1
⟹ { 4𝑦 = 0 ⟺ {𝑦 = 0
𝑧−2 =0 𝑧=2
1
Donc (0) est un point critique de 𝑓.
2

Les dérivées partielles d’une fonction à plusieurs variables décrivent le taux de variation
de cette fonction lorsqu’une de ses variable varie, et les autres restantent constantes. D’une
manière plus générale, on peut s’intéresser au taux de variation de la fonction lorsque toutes ses
variables varient dans une direction fixée.

Définition 1.15. Drivée directionnelle de 𝒇 en x en direction de 𝒅 ∈ ℝ𝒏

Soit 𝑓 : Ω ⊆ ℝ𝑛 ⟶ ℝ, 𝑥 ∈ 𝛺 et 𝑑 ∈ ℝ𝑛 on note
𝜕𝑓 𝑓(𝑥 + 𝑡𝑑 ) − 𝑓(𝑥)
(𝑥 ) = lim .
𝜕𝑑 𝑡→0 𝑡

La dérivée directionnelle de 𝑓 en 𝑥 de direction de 𝑑. Lorsque cette limite existe elle vaut

∇𝑓 (𝑥, 𝑦)𝑇 𝑑 .

La dérivée directionnelle de la fonction 𝑓 en 𝑥 de direction de 𝑑 permet de quantifier

la variation locale de 𝑓, en un point 𝑥 ∈ 𝛺 et le long de la direction 𝑑 dans l’espace de ces
variables.

7
Exemple
𝑓 (𝑥, 𝑦) = (𝑥 − 1)2 + 2 𝑦 2
 𝑓(𝑥, 𝑦) est de classe 𝐶 1 sur ℝ2
1

La dérivée directionnelle de 𝑓 en (0,0) en direction de 𝑑 = ( 2 1) :

−3

1 1
𝜕𝑓 1
)𝑇
(𝑥 ) = ∇𝑓(𝑥, 𝑦 𝑑 = ∇𝑓 (0,0 )𝑇 ( 1) = (−2 0) ( 2 1) = − .
2
𝜕𝑑 2
−3 −3

Définition 1.16. Fonction différentiable

Si pour tout 𝑑 ∈ ℝ𝑛 , la dérivée directionnelle de 𝑓 en 𝑥 de direction de 𝑑 existe, alors la
fonction 𝑓 est dite différentiable.

Définition 1.17. Direction de descente

Soit 𝑓: ℝ𝑛 ⟶ ℝ une fonction différentiable. Soient 𝑥, 𝑑 ∈ ℝ𝑛 la direction 𝑑 est une direction
de descente en 𝑥 si :
∇𝑓(𝑥 )𝑇 𝑑 < 0

Définition 1.18. Hessien de 𝒇 en 𝒙 : 𝜵𝟐 𝒇(𝒙)

Soit Ω ⊂ ℝ𝑛 un ouvert et 𝑓: Ω → ℝ. On note ∇2 𝑓(𝑥 ) le hessien de 𝑓, qui est une matrice
carrée d’ordre 𝑛 donnée par :
∇2 𝑓 (𝑥 ) = (∇2 𝑓 (𝑥 ))𝑖𝑗, 𝑖 = 1, … , 𝑛, 𝑗 = 1, … , 𝑛
𝜕2𝑓
(∇2 𝑓 (𝑥 ))𝑖𝑗 = , ∀ 𝑖 = 1, … , 𝑛, 𝑗 = 1, … , 𝑛
𝜕𝑥𝑖 𝜕𝑥𝑗

Exemple :

𝑓(𝑥, 𝑦, 𝑧) = 𝑒 𝑥1 + 𝑥1 2 𝑥3 − 𝑥1 𝑥2 𝑥3
 𝑓(𝑥1 , 𝑥2 , 𝑥3 ) est de classe 𝐶 2 sur ℝ2
𝑒 𝑥1 + 2 𝑥1 𝑥3 − 𝑥2 𝑥3
 𝛻 𝑓 (𝑥1 , 𝑥2 , 𝑥3 ) = ( −𝑥1 𝑥3 )
2
𝑥1 − 𝑥1 𝑥2
𝑥1
𝑒 + 2 𝑥3 −𝑥3 2 𝑥1 − 𝑥2
 𝛻 𝑓 𝑥, 𝑦 = ( −𝑥3
2 ( ) 0 −𝑥1 )
2 𝑥1 − 𝑥2 −𝑥1 0
Remarque :

Le hessien d’une fonction à plusieurs variables est toujours symétrique si 𝑓 est de classe C 2 .
8
1.3. Natures des matrices.
Définition 1.19. Nature d’une matrice carrée.
Une matrice carrée 𝐴 d’odre 𝑛 est
 définie positive (𝑨 ≻ 𝟎) si 𝑥 𝑇 𝐴 𝑥 > 0, ∀ 𝑥 ∈ ℝ𝑛 et ‖𝑥 ‖ ≠ 0.
 définie négative (𝑨 ≺ 𝟎) si 𝑥 𝑇 𝐴 𝑥 < 0, ∀ 𝑥 ∈ ℝ𝑛 et ‖𝑥 ‖ ≠ 0.
 semi définie positive (𝑨 ≽ 𝟎) si 𝑥 𝑇 𝐴 𝑥 ≥ 0 ∀ 𝑥 ∈ ℝ𝑛 .
 semi définie négative (𝑨 ≼ 𝟎) si 𝑥 𝑇 𝐴 𝑥 ≤ 0, ∀ 𝑥 ∈ ℝ𝑛 .

Exemple
2 1
𝑨 = (3 3)
1 2
3 3
Soit (𝑥, 𝑦)𝑇 ∈ ℝ2
2 1
𝑥 2 1 2 3
(𝑥, 𝑦) (31 3
) ( = 3 ((2 𝑥 + 𝑦) + 4 𝑥 2 ) > 0, pour (𝑥, 𝑦) ≠ (0,0)
2 𝑦)
3 3

Donc 𝑨 définie positive (𝑨 ≻ 𝟎)

Théorème1.1. Critère de Sylvester

 Pour qu’une matrice symétrique 𝑨 d’ordre 𝑛 soit définie positive, il est nécessaire et
suffisant que les 𝑛 principaux mineurs successif de 𝑨 soient strictement positifs.
 Pour qu’une matrice symétrique 𝑨 d’ordre 𝑛 soit définie négative, il est nécessaire et
suffisant que les 𝑛 principaux mineurs successif de 𝑨 alterne en signe, en commençant
par 𝑨𝟏𝟏 < 𝟎 .

Exemples
2 1 2
𝐵 = (1 3 0)
2 0 5
𝐵 est une matrice symétriques de taille 3.
Les mineurs principaux de 𝐵
 𝐵11 = 2 > 0
2 1
 𝐵22 = | |=5>0
1 3
2 1 2
 𝐵33 = |1 3 0| = 13 > 0
2 0 5
B est définie positive.

9
 −2 −1 −2
𝐶 = (−1 −3 0)
−2 0 −5
𝐶 est une matrice symétriques de taille 3.

Les mineurs principaux de 𝐶 :

 𝐶11 = −2 < 0
−2 −1
 𝐶22 = | |=5>0
−1 −3
−2 −1 −2
 𝐶33 = |−1 −3 0 | = −13 < 0
−2 0 −5
C est définie négative.

1.4. Convexité

L’optimisation convexe est une sous-discipline de l’optimisation mathématique, dans

laquelle la fonction à minimiser est convexe et l’ensemble des solutions admissibles est
convexe. Ces problèmes sont plus simples à analyser et à résoudre que les problèmes
d’optimisation non convexe.

Définition 1.20. Ensemble convexe.

Un ensemble non vide Ω ⊂ ℝ𝑛 est dit convexe si pour tout λ ∈ [0,1] et pour tous 𝑥, 𝑦 ∈ Ω,
on a :
λ x + (1 − 𝜆) 𝑦 ∈ Ω.

Exemple

10
 Définition 1.21. fonction convexe
Soit Ω un ensemble non vide convexe de ℝ𝑛 . Une fonction 𝑓: Ω → ℝ, définie sur Ω, est
convexe en 𝑥 ∈ Ω, si pour tout 𝑦 ∈ Ω et pour tout λ ∈ [0,1], on a :
𝑓 ( 𝜆 𝑥 + (1 − 𝜆 ) 𝑦 ) ≤ 𝜆 𝑓 (𝑥 ) + (1 − 𝜆 ) 𝑓 (𝑦 )
On dit que 𝑓 est convexe en Ω, si elle est convexe en tout point 𝑥 ∈ Ω.

Exemple

Théorème 1.2. Nature de Hessein et convexité

Soit Ω ⊂ ℝ𝑛 un ouvert et 𝑓: Ω → ℝ, si ∇2 𝑓(𝑥 ) ≼ 𝟎 ∀ 𝑥 ∈ Ω, alors 𝑓 est convexe sur Ω

Exemple
𝑓(𝑥, 𝑦) = −𝑥 2 − 2𝑥 𝑦 − 3 𝑦 2
On a :
−2 −2
𝛻 2 𝑓(𝑥, 𝑦) = ( )
−2 −6
−2 −2
−2 ≤ 0 et | | = 8 ≥ 0 donc 𝛻 2 𝑓(𝑥, 𝑦) ≼ 𝟎 par conséquant 𝑓 est convexe
−2 −6

11