Sous Diffrentialdefonctionsconvexescompoes

See discussions, stats, and author profiles for this publication at: https://www.researchgate.
net/publication/287995065
Sous-différential de fonctions convexes compoées
Data · December 2015
CITATIONS READS
3 372
3 authors, including:
Christophe Combari Mohamed Laghdir

Sapinola The Multidisciplinary Faculty El Jadida
10 PUBLICATIONS 249 CITATIONS 52 PUBLICATIONS 354 CITATIONS
SEE PROFILE SEE PROFILE
Some of the authors of this publication are also working on these related projects:
Nonsmooth dynamics View project
CONVEX ANALYSIS View project
All content following this page was uploaded by Mohamed Laghdir on 24 December 2015.
The user has requested enhancement of the downloaded file.

Ann. Sci. Math. Québec 18 (1994), no. 2, 119–148.
SOUS-DIFFÉRENTIELS DE FONCTIONS CONVEXES COMPOSÉES
C. COMBARI, M. LAGHDIR ET L. THIBAULT
RÉSUMÉ. Dans cet article nous étudions le sous-différentiel de la composition d’une

fonction convexe croissante avec une application à valeurs dans un espace vecto-
riel topologique ordonné (mais non nécessairement complètement ordonné). Les
résultats obtenus nous permettent d’établir des conditions nécessaires et suffisantes
d’optimalité pour les problèmes généraux d’optimisation convexe.
ABSTRACT. This paper studies the subdifferential of the composition of a nonde-

creasing convex function with a mapping taking values in an ordered topological
vector space. Necessary and sufficient conditions are derived for general convex
optimisation problems.
1. Introduction. Cet article est essentiellement consacré à l’étude du sous-différentiel

de la composition d’une fonction convexe croissante g avec une application convexe
h à valeurs dans un espace vectoriel ordonné (mais non complétement ordonné). Les
premiers travaux relatifs à cette étude semblent être ceux de Gol’shtein [7] et Levin
[16] où g et h sont supposées être continues. Ce résultat a été généralisé récemment par
Lemaire [15] en supposant que g est continue en un point de l’image de h (hypothèse du
type Moreau-Rockafellar [18] et [23]). Pour le cas où Y est supposé être complètement
ordonné nous renvoyons aux articles de Kutateladze [14] et Rubinov [24].
Notre but ici est d’affaiblir les hypothèses ci-dessus en utilisant une condition de
qualification du type de celle introduite par Attouch et Brézis [1]. Notre approche
est suffisament générale pour nous permettre de présenter d’une façon assez unifiée
le résultat aussi bien sous une condition du type Moreau-Rockafellar que sous une
condition du type Attouch-Brézis.
Dans le paragraphe 2 nous faisons les rappels nécessaires pour la suite de l’article et
dans le paragraphe 3 nous étudions une notion de semi-continuité inférieure séquentielle
pour les applications à valeurs vectorielles. Cette notion est aussi reliée à celle de
semi-continuité inférieure introduite par Penot et Théra [19]. Le paragraphe 4 est
consacré à l’étude du sous-différentiel de la composition ou plus précisément à la somme
d’une fonction convexe et d’une fonction convexe composée. Dans le paragraphe 5,
nous donnons une application de cette formule à l’existence de multiplicateurs de
Lagrange pour des problèmes généraux de programmation mathématique convexe et
Reçu le 5 octobre 1993 et, sous forme définitive, le 7 juin 1994.
Association
c mathématique du Québec
120 Sous-différentiels de fonctions convexes composées
une application à l’étude du sous-différentiel du maximum d’un nombre fini de fonctions

numériques convexes (non forcément continues).
2. Notations, définitions et préliminaires. On désigne par X et Y deux espaces
vectoriels topologiques réels et X ∗ et Y ∗ leurs duaux topologiques. S’il n’y a pas de
confusion à craindre, on notera dans toute la suite h·, ·i le crochet de la dualité de
(X, X ∗ ) et (Y, Y ∗ ). Soit Y+ un cône convexe de Y . On définit sur Y une relation de
préordre donnée par
y1 ≤Y y2 ⇐⇒ y2 − y1 ∈ Y+
avec y1 et y2 deux éléments de Y . On se permet aussi d’écrire y2 ≥Y y1 au lieu de
y1 ≤Y y2 . On associe à Y+ le cône polaire positif Y+∗ défini par
Y+∗ = { y ∗ ∈ Y ∗ : hy ∗ , yi ≥ 0, ∀ y ∈ Y+ } ;
Y+ et Y+∗ représentent respectivement les cônes des éléments positifs de Y et Y ∗ . On

adjoint à Y (resp. à R) un plus grand élément noté +∞.
Soit C un sous-ensemble convexe de Y , on appelle coeur ou intérieur algébrique de
C, noté Coeur C, le sous-ensemble de C défini par
Coeur C = { c ∈ C : ∀ y ∈ Y, ∃ ε > 0 : c + [−ε, ε] y ⊂ C }.
Il vérifie les relations suivantes :

int C 6= ∅ =⇒ int C = Coeur C
0 ∈ Coeur C ⇐⇒ R+ C = Y
où int C désigne l’intérieur topologique de C. Pour plus de détails sur la notion de
coeur voir [8] et [21].
Soit F : X → Y une multi-application. Le domaine et le graphe de F sont respec-
tivement les sous-ensembles de X et X × Y notés et définis par
dom F = { x ∈ X : F (x) 6= ∅ }
Graph F = { (x, y) ∈ X × Y : y ∈ F (x) }.
F est dite convexe (resp. fermée) si et seulement si Graph F est un sous-ensemble

convexe de X × Y (resp. fermé relativement à la topologie produit associée à X × Y ).
Le domaine effectif et l’image de F notée Im F sont les projections de Graph F
respectivement sur X et Y . De même, pour une application h : X → Y ∪ {+∞}, on
notera dom h son domaine effectif
dom h = {x ∈ X : h(x) ∈ Y }.
Remarque 2.1. F est à graphe convexe si et seulement si pour tous x1 , x2 ∈ dom F et

pour tout λ ∈ [0,1] on a

λF (x1 ) + (1 − λ)F (x2 ) ⊆ F λx1 + (1 − λ)x2 .
C. Combari, M. Laghdir et L. Thibault 121
Définition 2.2.
i) Une application h : X → Y ∪ {+∞} est dite Y+ -convexe si pour tout λ ∈ ]0, 1[
et pour tous x1 , x2 éléments de X on a

h λx1 + (1 − λ)x2 ≤Y λh(x1 ) + (1 − λ)h(x2 ).
ii) Une fonction g : Y → R ∪ {+∞} est dite Y+ -croissante si pour y1 , y2 ∈ Y on a
y1 ≤Y y2 =⇒ g(y1 ) ≤ g(y2 ).
3. Semi-continuité inférieure séquentielle des applications à valeurs vectorielles.

La notion de semi-continuité des applications à valeurs vectorielles a fait l’objet de
plusieurs travaux [5, 11, 19]. Dans cette partie, on formule une nouvelle définition de
cette notion en termes de suites ordinaires et on démontre qu’elle établit une carac-
térisation séquentielle de la définition donnée par Penot-Théra [19] qu’on rappelera
dans la suite.
Définition 3.1. Une application h : X → Y ∪ {+∞} est dite séquentiellement semi-
continue inférieurement en x̄ ∈ X si pour tout b ∈ Y vérifiant b ≤Y h(x̄) et pour toute
suite (xn ) de X convergeant vers x̄, il existe une suite (bn ) de Y convergeant vers b et
vérifiant bn ≤Y h(xn ) pour tout n ∈ N.
Remarques 3.2. 1) Une définition similaire peut être donnée pour la semi-continuité
supérieure séquentielle en inversant l’ordre. Dans toute la suite, on désignera par S-
s.c.i (resp. S-s.c.s) la semi-continuité inférieure séquentielle (resp. la semi-continuité
supérieure séquentielle).
2) Si l’ordre de Y est normal (voir [20]), on vérifie aisément que h est séquentiellement
continue en x̄ ∈ X avec h(x̄) ∈ Y si et seulement si h est S-s.c.i et S-s.c.s en x̄.
3) Si l : Z → X est une application continue en z0 et si h : X → Y ∪ {+∞} est une
application supposée S-s.c.i en l(z0 ), il est alors évident que l’application composée
h ◦ l est S-s.c.i en z0 .
4) On dit que h est S-s.c.i si elle est S-s.c.i en tout point de X. Il est évident que lorsque
X est métrisable et Y = R, la définition de la S-s.c.i coı̈ncide exactement avec la
définition classique de la semi-continuité inférieure et donc dans ce cas une fonction est
s.c.i si et seulement si son épigraphe est fermé dans X ×Y . Quand Y 6= R, on doit noter
que la fermeture de l’épigraphe d’une application n’entraı̂ne pas nécessairement que
cette application soit S-s.c.i. En effet, il est facile de voir que l’application h : R → R2
considérée dans [19] et définie par

 (0, 0) si x = 0,
h(x) = 1
 ( , −1) sinon
|x|
a son épigraphe fermé mais n’est pas S-s.c.i. (ici l’ordre considéré sur R2 est l’ordre
usuel).
Proposition 3.3. Soit h : X −→ Y ∪ {+∞} une application et soit x̄ ∈ X avec

h(x̄) ∈ dom h. Alors les deux assertions suivantes sont équivalentes.
i) h est S-s.c.i en x̄.
ii) Pour toute suite (xn ) de X convergeant vers x̄, il existe une suite (bn ) de Y
convergeant vers h(x̄) et vérifiant bn ≤Y h(xn ) pour tout n ∈ N.
Preuve. L’implication i) ⇒ ii) est immédiate. Réciproquement, soit b ≤Y h(x̄) avec
b ∈ Y quelconque et soit (xn ) une suite quelconque de X convergeant vers x̄. Par
hypothèse il existe une suite (zn ) de Y convergeant vers h(x̄) et vérifiant zn ≤Y h(xn )
pour tout n ∈ N. Posons bn = zn − h(x̄) + b. Comme b ≤Y h(x̄) et (zn ) converge vers
h(x̄), il en découle que la suite (bn ) converge vers b et que bn ≤Y zn ≤Y h(xn ). Ce
qui assure que h est S-s.c.i en x̄.
En vue de relier la semi-continuité inférieure séquentielle à la semi-continuité infé-
rieure de Penot-Théra [19], rappelons leur définition.
Définition 3.4. Une application h : X −→ Y ∪{+∞} est dite semi-continue inférieure-
ment en x̄ ∈ X au sens de Penot-Théra [19] si pour tout voisinage V de zéro et pour
tout b ∈ Y vérifiant b ≤Y h(x̄), il existe un voisinage U de x̄ dans X tel que

h(U ) ⊆ b + V + Y+ ∪ {+∞} .
Remarque 3.5. Lorsque h(x̄) ∈ Y , il a été démontré dans [19] que la définition 3.4 se
transforme d’une manière équivalente à : pour tout voisinage V de zéro, il existe un
voisinage U de x̄ tel que

h(U ) ⊆ h(x̄) + V + Y+ ∪ {+∞} .
La proposition suivante montre en effet que les deux définitions 3.1 et 3.4 sont
équivalentes lorsque X et Y sont des espaces vectoriels topologiques métrisables.
Proposition 3.6. Supposons que X et Y soient métrisables et soit h : X −→ Y ∪{+∞}
une application. Alors les deux propositions suivantes sont équivalentes.
i) h est S-s.c.i en x̄.
ii) h est s.c.i en x̄ (selon Penot-Théra).
Preuve. i) ⇒ ii). Supposons que h ne soit pas s.c.i en x̄, c’est-à-dire qu’il existe b
élément de Y vérifiant b ≤Y h(x̄) et il existe un voisinage V de zéro tels que pour tout
voisinage U de x̄ l’on ait

h(U ) 6⊆ b + V + Y+ ∪ {+∞} . (3.1)
Posons Un = B(x̄, 1/n), la boule ouverte de centre x̄ et de rayon 1/n avec n ∈ N ∗ .
Alors il existe xn ∈ B(x̄, 1/n) tel que pour chaque n ≥ 1, on ait

h(xn ) − b ∈
/ V + Y+ ∪ {+∞} .
Notons que la suite (xn ) converge vers x̄ quand n tend vers +∞. Si h était S-s.c.i en x̄
alors on aurait l’existence d’une suite (bn ) de Y convergeant vers b et vérifiant
bn ≤Y h(xn ), ∀n ≥ 1
et
lim bn = b.
n→+∞
Ainsi à partir d’un certain rang N on aurait
(bn − b) ∈ V, ∀ n ≥ N. (3.2)
En utilisant (3.2) et le fait que
bn − b ≤Y h(xn ) − b, ∀n ≥ N
on obtient alors
h(xn ) − b ∈ V + Y+ ∪ {+∞} , ∀n ≥ N
ce qui contredit (3.1).
ii) ⇒ i). Soit b ∈ Y vérifiant b ≤Y h(x̄) et soit une suite (xn ) de X qui converge vers
x̄. Pour chaque entier k ≥ 1 choisissons par la semi-continuité de h, un voisinage Uk
de x̄ tel que
1
h(Uk ) ⊆ b + B(x̄, ) + Y+ ∪ {+∞} . (3.3)
k
Comme la suite (xn ) converge vers x̄, il existe pour chaque k ≥ 1 un entier Nk tel que
xn ∈ Uk , ∀ n ≥ Nk . (3.4)
Considérons la suite strictement croissante d’entiers s(k) définie par récurrence par
s(1) = N1

s(k + 1) = max s(k) + 1, Nk .
Pour chaque entier k ≥ 1 et chaque entier n ∈ {s(k), . . . , −1 + s(k + 1) }, il existe

d’après (3.3) et (3.4) un élément vn,k ∈ B(x̄, 1/k) tel que
b + vn,k ≤Y h(xn ). (3.5)
Choisissons pour chaque entier non nul n < s(1) un élément bn ∈ Y tel que bn ≤Y
h(xn ). Comme la suite (yn ) définie par
y n = bn − b si n < s(1)
yn = vn,k si n ∈ [s(k), s(k + 1)[
converge vers zéro, la suite (bn ) définie par
bn = yn + b, ∀n ≥ 1
converge vers b et elle vérifie d’après (3.5) et ce qui précède
bn ≤Y h(xn ), ∀ n ≥ 1.
Ceci termine donc la preuve de la proposition.

Soient h : X −→ Y ∪ {+∞} et g : Y −→ R ∪ {+∞} deux applications. Nous

supposons que g est Y+ -croissante et nous convenons de définir de façon étendue la
fonction g ◦ h : X −→ R ∪ {+∞} par (g ◦ h)(x) = g(h(x)) si h(x) ∈ dom g et
(g ◦ h)(x) = +∞ sinon, ce qui revient à poser g(+∞) = +∞. Ainsi la fonction
composée g ◦ h est définie de X dans R ∪ {+∞} et son domaine effectif dom(g ◦ h)
est donné par
dom(g ◦ h) = dom h ∩ h−1 (dom g).
Proposition 3.7. Supposons que h soit S-s.c.i et que g soit Y+ - croissante, s.c.i et non
majorée sur Y . Alors la fonction g ◦ h est séquentiellement s.c.i sur X.
Preuve. Soient x̄ ∈ X et (xn ) une suite quelconque qui converge vers x̄. Soit a ≤
(g ◦ h)(x̄) avec a ∈ R. Nous allons étudier deux cas séparément.
Premier cas. h(x̄) ∈ Y . Puisque h est S-s.c.i en x̄, il existe une suite (bn ) de Y
convergeant vers h(x̄) et vérifiant
bn ≤Y h(xn ), ∀ n ∈ N.
La croissance de g assure que pour tout entier n ∈ N
g(bn ) ≤ (g ◦ h)(xn ).
Comme la suite (bn ) converge vers h(x̄) et que g est s.c.i en h(x̄) on a
(g ◦ h)(x̄) ≤ lim inf g(bn ) ≤ lim inf (g ◦ h)(xn ).
n→∞ n→∞
Deuxième cas. h(x̄) = +∞. Alors puisque h est S-s.c.i en x̄, pour tout b ∈ Y , il existe
une suite (bn ) de Y convergeant vers b et vérifiant pour tout entier n
bn ≤Y h(xn ).
À l’aide de la croissance de g et de sa semi-continuité inférieure en b, on obtient
g(b) ≤ lim inf (g ◦ h)(xn ). (3.6)
n→∞
Comme g n’est pas majorée sur Y et que (3.6) a lieu pour tout b ∈ Y , on a forcément
lim inf (g ◦ h)(xn ) = +∞ = (g ◦ h)(x̄). Ceci termine la preuve.
n→∞
Contre-exemple. L’exemple suivant illustre la raison pour laquelle on suppose que g
n’est pas majorée. Considérons deux fonctions g : R −→ R et h : R −→ R définies
par :
g(x) = 1, ∀ x ∈ R
et ( 1
si x > 0,
h(x) = x
+∞ sinon.
Alors g et h sont s.c.i mais g ◦ h : R −→ R ∪ {+∞} donnée (d’après notre convention)
par
1 si x > 0,

(g ◦ h)(x) =
+∞ sinon.
n’est pas s.c.i sur R car son épigraphe Epi(g ◦ h) = ]0, +∞[×{1} n’est pas fermé dans
R × R.
Proposition 3.8. Soient X et Y deux espaces vectoriels topologiques avec Y ordonné

par le cône positif Y+ . Soient Ψ1 , Ψ2 : X −→ Y ∪ {+∞} deux applications S-s.c.i.
Alors Ψ = Ψ1 + Ψ2 est S-s.c.i.
Preuve. Soit x̄ ∈ X et soit (xn ) une suite de X qui converge vers x̄. Soit c ≤Y Ψ(x̄)
avec c ∈ Y . Choisissons deux éléments a et b dans Y tels que a + b = c, a ≤Y
Ψ1 (x̄), b ≤Y Ψ2 (x̄). Il s’ensuit par la semi-continuité séquentielle inférieure de Ψ1
(resp. Ψ2 ) en x̄ qu’il existe une suite (an ) (resp. (bn )) de Y qui converge vers a (resp.
b) et vérifiant an ≤Y Ψ1 (xn ) (resp. bn ≤Y Ψ2 (xn )) pour tout n dans N. En posant
cn = an + bn on obtient que la suite (cn ) de Y converge vers c et vérifie cn ≤Y Ψ(xn )
pour tout n dans N. Ceci termine la preuve.
4. Etude du sous-différentiel de (f + g ◦ h). Dans toute la suite de ce papier, on
adoptera la convention établie précédement pour la définition de la composition de
deux applications. Dans son article [15], B. Lemaire a démontré à l’aide du théorème de
séparation géométrique de Hahn-Banach le résultat suivant (qui généralise les résultats
antérieurs de Gol’shtein [7] et Levin [16]).
Proposition 4.1 [15]. Soient X et Y des espaces de Banach réels, h : X −→ Y ∪{+∞}
une application Y+ -convexe et g : Y −→ R ∪ {+∞} une fonction convexe et Y+ -
croissante. Si g est continue en un point de l’image de h, alors
G
∂(g ◦ h)(x) = ∂(y ∗ ◦ h)(x) (4.1)
y ∗ ∈∂g(h(x))
pour tout x ∈ dom(g ◦ h).

L’objectif de cette section est d’étendre ce résultat au sous-différentiel de (f + g ◦ h)
en affaiblissant la qualification de contrainte de Moreau-Rockafellar. Plus précisément
on remplaçera cette condition par celle de Rockafeller [22] ou celle d’Attouch-Brézis [1].
La méthode qu’on utilisera ici repose sur l’étude du sous-différentiel en zéro d’une fonc-
tion de perturbation qu’on associera à la fonction (f + g ◦ h). Cette méthode a aussi
à nos yeux l’avantage de pouvoir être considérée pour les diverses conditions de quali-
fication. Ainsi elle joue un rôle unificateur.
Commençons par établir le lemme suivant.
Lemme 4.2. Soit g : Y −→ R ∪ {+∞} une fonction convexe et Y+ -croissante. Alors
∂g(y0 ) ⊆ Y+∗
pour tout y0 ∈ Y .
Preuve. Si g n’est pas sous-différentiable en y0 alors ∂g(y0 ) = ∅. Supposons que
∂g(y0 ) 6= ∅ et soit y ∗ ∈ ∂g(y0 ). Alors on a
y ∗ ∈ ∂g(y0 ) ⇐⇒ g(y) − g(y0 ) ≥ hy ∗ , y − y0 i, ∀ y ∈ Y. (4.2)
En prenant y ∈ Y+ et en remplaçant dans (4.2) y par y0 − y, on obtient alors
g(y0 − y) − g(y0 ) ≥ −hy ∗ , yi.
Puisque y0 − y ≤Y y0 et que g est Y+ -croissante, il s’ensuit pour tout y ∈ Y+ que
hy ∗ , yi ≥ 0 et donc y ∗ ∈ Y+∗ .
Le corollaire suivant découle immédiatement du lemme précédent.
Corollaire 4.3. Soient h : X −→ Y ∪ {+∞} Y+ -convexe et g : Y −→ R ∪ {+∞}

convexe et Y+ -croissante. Alors pour tout y ∗ ∈ ∂g(y0 ) la fonction y ∗ ◦ h est convexe.
Proposition 4.4. Soient f : X −→ R ∪ {+∞} convexe, g : Y −→ R ∪ {+∞} convexe
et Y+ -croissante et h : X −→ Y ∪ {+∞}, Y+ -convexe. Alors
G G
∂f (x̄) + ∂(y ∗ ◦ h)(x̄) ⊆ ∂(f + y ∗ ◦ h)(x̄) ⊆ ∂(f + g ◦ h)(x̄)
y ∗ ∈∂g(h(x̄)) y ∗ ∈∂g(h(x̄))
pour tout x̄ ∈ dom(f + g ◦ h).

Preuve. La première inclusion est un résultat classique de l’analyse convexe. Quant à
l’autre, soit y ∗ ∈ ∂g(h(x̄)) et soit x∗ ∈ ∂(f + y ∗ ◦ h)(x̄). Alors pour tout y ∈ Y on a
g(y) − g(h(x̄)) ≥ hy ∗ , y − h(x̄)i (4.3)
et pour tout x ∈ X
(f + y ∗ ◦ h)(x) − (f + y ∗ ◦ h)(x̄) ≥ hx∗ , x − x̄i. (4.4)
En posant y = h(x) dans (4.3) et en utilisant l’inégalité (4.4), on obtient pour tout
x∈X
(f + g ◦ h)(x) − (f + g ◦ h)(x̄) ≥ hx∗ , x − x̄i
et donc
x∗ ∈ ∂(f + g ◦ h)(x̄).
L’outil principal qu’on utilisera pour établir l’autre inclusion est basé sur la théorie
des perturbations qui consiste à étudier une famille de problèmes de minimisation
définis par
p(y) = inf k(x, y)
x∈X
où k : X × Y −→ R ∪ {+∞} est une fonction en (x, y) et y est la variable de

perturbation. Le choix de la fonction k dépend de la nature du problème à étudier et de
ce fait ce choix doit être fait d’une manière judicieuse selon le résultat que l’on désire
réaliser.
Concernant notre problème en question, son traitement sera basé principalement
sur l’étude de la continuité et de la sous-différentiabilité de la fonction marginale
y → p(y). Dans toute la suite de ce paragraphe, on supposera que f : X → R ∪ {+∞}
est convexe et propre, que g : Y → R ∪ {+∞} est convexe, propre et Y+ -croissante
et que h : X → Y ∪ {+∞} est Y+ -convexe et propre. Notons par (C.Q.M.R), (C.Q.R)
et (C.Q.A.B) les qualifications de contraintes attribuées respectivement à Moreau-
Rockafellar, Rockafellar [22] et Attouch-Brézis [1] :

X et Y sont des espaces vectoriels localement convexes,
(C.Q.M.R)
g est finie et continue en un point de h(dom f ∩ dom h).

X et Y sont des espaces de Fréchet, g et f sont s.c.i et h est S-s.c.i,
(C.Q.R)
0 ∈ Coeur [ dom g − h(dom f ∩ dom h)].
X et Y sont des espaces de Fréchet,



g et f sont s.c.i et h est S-s.c.i,

(C.Q.A.B)
 + [dom g − h(dom f ∩ dom h)] est un sous-espace
R
vectoriel fermé de Y
Évidemment la condition (C.Q.R) est un cas particulier de (C.Q.A.B), mais elle est
souvent plus facile à vérifier. Nous devons aussi préciser qu’elle a été considérée dans
[22] bien avant que (C.Q.A.B) ne soit apparue dans [1].
Soit x̄ ∈ dom(f + g ◦ h) et soit la fonction k : X × Y −→ R ∪ {+∞} définie par
f (x) + g(y + h(x))−f (x̄)−g(h(x̄))−hx∗ , x − x̄i si y + h(x) ∈ dom g

k(x, y) =
+∞ sinon
où x∗ ∈ X ∗ .
Nous considérons la fonction p : Y −→ R définie par
p(y) = inf k(x, y).

x∈X
Lemme 4.5.
1) p est convexe et Y+ - croissante.
2) Si l’on suppose que g est non majorée, s.c.i et que h est S-s.c.i, alors l’application
k est s.c.i sur X × Y .
3) Si x∗ ∈ ∂(f + g ◦ h)(x̄), alors p(0) = 0.
Preuve. 1) La convexité de k découle immédiatement de celles de f, g, h et de la
monotonie de g. Quant à la croissance de p, elle est une conséquence de celle de g. Soit
E l’image de l’épigraphe de k par la projection (x, y, α) −→ (y, α) où (x, y, α) ∈
X × Y × R. Alors
Epi(p) = { (y, α) ∈ Y × R : (y, β) ∈ E, ∀ β > α}.
Puisque Epi k est convexe et que la convexité est préservée par la projection, alors E
est convexe et l’écriture de Epi p montre que Epi p est convexe.
2) Pour montrer la semi-continuité inférieure de k sur X × Y , il est facile de remarquer,
d’après l’expression de k, qu’il suffit de montrer la semi-continuité de la fonction
Ψ(x, y) = g(y + h(x)) sur X × Y puisque la fonction x −→ f (x) − f (x̄) − g(h(x̄)) −
hx∗ , x − x̄i est s.c.i sur X. Pour cela, il est clair que l’application (x, y) −→ y + h(x)
est S-s.c.i sur X × Y et comme g est Y+ -croissante, non majorée et s.c.i alors d’après
la proposition 3.7, la fonction Ψ est s.c.i.
3) Par définition de p on a
p(0) = inf { (f + g ◦ h)(x) − (f + g ◦ h)(x̄) − hx∗ , x − x̄i },

x∈X
ce qui entraı̂ne p(0) ≤ 0 en prenant x = x̄. D’autre part comme
x∗ ∈ ∂(f + g ◦ h)(x̄)
on a
(f + g ◦ h)(x) − (f + g ◦ h)(x̄) ≥ hx∗ , x − x̄i ∀ x ∈ X,
on en déduit p(0) ≥ 0 et donc p(0) = 0.
Considérons maintenant le lemme suivant.
Lemme 4.6. Soit Y0 un sous-espace vectoriel de Y muni de la topologie induite et soit
p0 : Y0 −→ R la restriction de p à Y0 . Si la restriction de g est continue en un point de
Y0 ∩ h(dom f ∩ dom h) et si p(0) est finie alors ∂p0 (0) 6= ∅.
Preuve. Soit a ∈ dom f ∩ dom h tel que la restriction de g à Y0 soit continue en
b = h(a) ∈ Y0 . Il existe alors β ∈ R et un voisinage V de zéro dans Y0 tel que
g(b + v) ≤ β, ∀ v ∈ V.
Ainsi
k(a, v) ≤ α, ∀ v ∈ V,
où
α := β + f (a) − f (x̄) − g(h(x̄)) − hx∗ , a − x̄i ∈ R,

ce qui assure que

p(v) ≤ α, ∀ v ∈ V. (4.5)
Par conséquent, en vertu de certains résultats classiques de l’analyse convexe [6], la
convexité de p0 avec p0 (0) = p(0) et sa majoration par une constante sur un voisinage
de zéro (4.5) assurent la continuité de p0 en zéro qui à son tour entraı̂ne la non-vacuité
de ∂p0 (0).
Dans le but d’établir la non-vacuité de ∂p(0) sous les hypothèses (C.Q.M.R) et
(C.Q.A.B) prouvons le lemme suivant.
Lemme 4.7. On suppose que g est non majorée sur Y et soit F : X × R −→ Y la
multi-application définie par
F (x, λ) = { y ∈ Y : k(x, y) ≤ λ}
avec (x, λ) ∈ X × R. Alors

1) Graph(F ) est un sous-ensemble convexe et fermé de X ×R×Y pour la topologie
produit.
2) dom p = Im F = dom g − h(dom f ∩ dom h).
3) (x̄, 0) ∈ F −1 (0).
Preuve. 1) C’est une conséquence immédiate du fait que h est convexe et s.c.i.
2) On a dom p = Im F = dom g − h(dom f ∩ dom h) + Y+ . Puisque g est croissante,
il en découle que dom p = Im F = dom g − h(dom f ∩ dom h).
3) On a F (x̄, 0) = { y ∈ Y : k(x̄, y) ≤ 0 } et
k(x̄, 0) = 0 ⇐⇒ 0 ∈ F (x̄, 0) ⇐⇒ (x̄, 0) ∈ F −1 (0).
Rappelons maintenant le résultat suivant de Ursescu [27]. Un résultat similaire dans

le cadre d’espaces de Banach a été aussi prouvé par Robinson [21].
Lemme 4.8 [27]. Soient X et Y deux espaces de Fréchet. Soit F : X × R −→ Y une
multi-application dont le graphe est un sous-ensemble convexe et fermé de X × R × Y.
Soit U un voisinage de zéro dans X. Si Coeur(Im F ) 6= ∅, alors
F (x) ∩ Coeur(Im F ) ⊆ intF (x + U )
pour tout x ∈ dom F.

Remarque 4.9. Dans [27], le lemme est énoncé dans un cadre topologique plus général
avec X un espace de Fréchet et Y un espace tonnelé.
La preuve de la première partie du lemme suivant est inspirée de Robinson [21] et
d’Aubin et Ekeland [2].
Lemme 4.10. Soit X et Y deux espaces de Fréchet. Supposons que p(0) soit finie et
que la condition du type (C.Q.A.B) soit vérifiée. Alors ∂p(0) 6= ∅.
Preuve. Notons Y0 le sous-espace vectoriel fermé de Y défini par
Y0 = R+ [dom g − h(dom f ∩ dom h)].
Considérons la multi-application F : X × R −→ Y0 définie par
F (x, λ) = { y ∈ Y0 : k(x, y) ≤ λ}
où (x, λ) ∈ X × R. Si g est non majorée sur Y0 , alors en vertu du lemme 4.7, F vérifie
toutes les hypothèses du lemme 4.8. En particulier au point (x̄, 0) on a

0 ∈ F (x̄, 0) ∩ Coeur Im F ⊆ int F X× ] − 1, 1[ .
Donc, il existe un ouvert U de Y0 contenant zéro tel que

U ⊆ F X× ] − 1, 1[ .
Pour tout y ∈ U , il existe un élément (xy , λy ) ∈ X× ] − 1, 1[ tel que
y ∈ F (xy , λy )
c’est-à-dire
k(xy , y) ≤ λy .
Par conséquent pour tout y ∈ U on a
p0 (y) = inf k(x, y) ≤ k(xy , y) ≤ 1.

x∈X
Avec les mêmes arguments utilisés à la fin de la preuve du lemme 4.6, on obtient la
continuité de p0 en zéro qui assure à son tour la non-vacuité de ∂p0 (0).
Supposons maintenant que g soit majorée sur Y0 . Comme g est convexe, sa restriction
à Y0 est continue sur Y0 tout entier. Ainsi d’après le lemme 4.6 on a ∂p0 (0) 6= ∅.
Il en découle dans les deux cas que ∂p0 (0) 6= ∅. Soit y0∗ ∈ ∂p0 (0). D’après le
théorème de Hahn-Banach on peut prolonger y0∗ en y ∗ ∈ Y ∗ . On vérifie aisément que
dom p0 = dom p et donc il s’ensuit que y ∗ ∈ ∂p(0).
Proposition 4.11. Si l’une des deux conditions (C.Q.M.R) ou (C.Q.A.B) a lieu alors
on a:
i) G
∂(f + g ◦ h)(x̄) = ∂(f + y ∗ ◦ h)(x̄)
y ∗ ∈∂g(h(x̄))
pour tout x̄ ∈ X.
ii)
(f + g ◦ h)∗ (x∗ ) = min
∗ ∗
{g ∗ (y ∗ ) + (f + y ∗ ◦ h)∗ (x∗ )},
y ∈Y+
où g ∗ désigne la fonction conjuguée de Legendre-Fenchel de g.

Preuve. i) Soit x∗ ∈ ∂(f + g ◦ h)(x̄), considérons la fonction de perturbation p définie
antérieurement. Avec les hypothèses ci-dessus les lemmes 4.6 et 4.10 assurent la non-
vacuité de ∂p(0). Fixons y ∗ ∈ ∂p(0). Alors on a p(y) ≥ hy ∗ , yi pour tout y ∈ Y
sachant que p(0) = 0. La définition de p nous permet alors d’écrire
hy ∗ , yi ≤ f (x) + g(y + h(x)) − f (x̄) − g(h(x̄)) − hx∗ , x − x̄i (4.6)
pour tous x ∈ X et y ∈ Y . En remplaçant dans l’inégalité (4.6) y par y − h(x̄) et x par

x̄, on obtient y ∗ ∈ ∂g(h(x̄)). De même en prenant y = h(x̄) − h(x) pour x ∈ dom h,
dans (4.6) on obtient sans difficulté
x∗ ∈ ∂(f + y ∗ ◦ h)(x̄).
On a ainsi montré
G
∂(f + g ◦ h)(x̄) ⊆ ∂(f + y ∗ ◦ h)(x̄)
y ∗ ∈∂g(h(x̄))
et donc en vertu de la proposition 4.4 on a l’égalité

G
∂(f + g ◦ h)(x̄) = ∂(f + y ∗ ◦ h)(x̄).
y ∗ ∈∂g(h(x̄))
ii) D’après l’expression de la fonction marginale p et avec un calcul simple on obtient
p(0) = −(f + g ◦ h)∗ (x∗ ) + hx∗ , x̄i − (f + g ◦ h)(x̄) (4.7)
et pour y ∗ ∈ Y+∗ , on a
p∗ (y ∗ ) = (f + y ∗ ◦ h)∗ (x∗ ) + g ∗ (y ∗ ) − hx∗ , x̄i + f (x̄) + g(h(x̄)). (4.8)

Or d’après l’inégalité de Fenchel on a
p∗ (y ∗ ) + p(0) ≥ 0
c’est-à-dire
(f + y ∗ ◦ h)∗ (x∗ ) + g ∗ (y ∗ ) − (f + g ◦ h)∗ (x∗ ) ≥ 0 (4.9)
pour tout y ∗ ∈ Y+∗ . Si (f + g ◦ h)∗ (x∗ ) = +∞, alors ii) est une conséquence de (4.9).
Supposons donc (f + g ◦ h)∗ (x∗ ) finie, alors p(0) est finie d’après (4.7) et
inf { (f + y ∗ ◦ h)∗ (x∗ ) + g ∗ (y ∗ ) } ≥ (f + g ◦ h)∗ (x∗ ). (4.10)

y ∗ ∈Y ∗
Les hypothèses (C.Q.M.R) et (C.Q.A.B) assurent toutes les deux, en vertu des lemmes
4.6 et 4.10 que ∂p(0) 6= ∅ c’est-à-dire qu’il existe z ∗ ∈ ∂p(0) tel que
p∗ (z ∗ ) + p(0) = 0. (4.11)
Comme z ∗ ∈ Y+∗ (puisque ∂p(0) ⊆ Y+∗ d’après les lemmes 4.2 et 4.5), alors en
combinant (4.7), (4.8), (4.9), (4.10) et (4.11), on obtient
(f + g ◦ h)∗ (x∗ ) = min

∗ ∗
{g ∗ (y ∗ ) + (f + y ∗ ◦ h)∗ (x∗ )}
y ∈Y+
= g (z ) + (f + z ∗ ◦ h)∗ (x∗ )
∗ ∗
ce qui termine la preuve.

Corollaire 4.12. Supposons que h soit continue en un point de dom f et que l’une au
moins des trois qualifications de contrainte (C.Q.M.R), (C.Q.R.) ou (C.Q.A.B) ait lieu.
Alors G
∂(f + g ◦ h)(x̄) = ∂f (x̄) + ∂(y ∗ ◦ h)(x̄).
y ∗ ∈∂g(h(x̄))
Preuve. La continuité de h en un point de dom f assure pour chaque y ∗ ∈ Y ∗ celle

de y ∗ ◦ h en ce point et donc d’après le théorème de Moreau-Rockafellar sur le sous-
différentiel d’une somme de fonctions convexes on a
∂(f + y ∗ ◦ h)(x̄) = ∂f (x̄) + ∂(y ∗ ◦ h)(x̄).
Le résultat découle donc de l’assertion i) de la proposition 4.11.

Remarque 4.13. Supposons que R+ [dom h−dom f ] soit un sous-espace vectoriel fermé
de Y et que l’une des deux qualifications de contrainte (C.Q.R) ou (C.Q.A.B) soit
vérifiée. Alors les résultats du corollaire 4.12 sont préservés.
Les deux formules de la proposition 4.11 et celle du corollaire 4.12 offrent un domaine
plus large pour les applications et le calcul du sous-différentiel tout en englobant les
divers résultats qui existaient déjà dans la littérature. Établissons d’abord les deux
conséquences nouvelles suivantes.
Corollaire 4.14. Soit X et Y deux espaces de Fréchet. Soient h : X −→ Y ∪ {+∞}

et g : Y −→ R ∪ {+∞} deux applications respectivement S-s.c.i sur X et s.c.i. sur Y .
Si R+ [dom g − Im h] est un sous-espace vectoriel fermé, alors
G
∂(g ◦ h)(x̄) = ∂(y ∗ ◦ h)(x̄), ∀ x̄ ∈ X.
y ∗ ∈∂g(h(x̄))
Preuve. Il suffit de prendre f égale à la fonction nulle sur X tout entier et d’appliquer
la proposition 4.11.
Corollaire 4.15. Soient X, Y et Z trois espaces de Fréchet. Supposons que h soit
continue et que g soit s.c.i. Soit C un convexe de X qui est la projection d’un convexe
fermé de X × Z. Si R+ [dom g − h(C)] est un sous-espace vectoriel fermé de Y , alors
i)
G
∂(y ∗ ◦ h)(x̄) + N (x̄, C),

∂ g ◦ h + δ( . , C) (x̄) =
y ∗ ∈∂g(h(x̄))
où δ( . , C) est la fonction indicatrice de C et N (x̄, C) le cône normal de C au

point x̄.
ii) Si Y = X et si R+ [dom g − C] est un sous-espace vectoriel fermé de X, alors

∂ g + δ( . , C) (x̄) = ∂g(x̄) + N (x̄, C).
iii) Si f : X −→ R ∪ {+∞} est convexe, propre, s.c.i et si R+ [dom g − dom f ] est

un sous-espace vectoriel fermé de X, alors

∂ g + δ( . , dom f ) (x̄) = ∂g(x̄) + N (x̄, dom f ).
Preuve. i) Écrivons C = projX (K) avec K un sous-ensemble convexe fermé de X ×Z.

Considérons l’application continue h : X × Z −→ Y définie par h(x, z) = h(x). Ainsi
x∗ ∈ ∂ g ◦ h + δ( . , C) (x̄) ⇐⇒ hx∗ , x − x̄i ≤ (g ◦ h)(x) − (g ◦ h)(x̄) ∀ x ∈ C

⇐⇒ hx∗ , x − x̄i ≤ (g ◦ h)(x) − (g ◦ h)(x̄) + δ( . , K)(x, z) − δ( . , K)(x̄, z̄)

∀ (x, z) ∈ K
⇐⇒ hx∗ , x − x̄i ≤ (g ◦ h)(x, z) − (g ◦ h)(x̄, x̄) + δ( . , K)(x, z) − δ( . , K)(x̄, z̄)

∀ (x, z) ∈ K
G
⇐⇒ (x∗ , 0) ∈ ∂ g ◦ h + δ( . , K) (x̄) = ∂(y ∗ ◦h)(x̄, z̄)+N (x̄, z̄), K .

y ∗ ∈∂g(h(x̄,z̄))
Comme
∂(y ∗ ◦ h)(x̄, z̄) = ∂(y ∗ ◦ h)(x̄) × {0}
il existe
y ∗ ∈ ∂g(h(x̄, z̄)) = ∂g(h(x̄))
et
(u∗ , z ∗ ) ∈ N ((x̄, z̄), K)
tels que
(u∗ , 0) ∈ ∂(y ∗ ◦ h)(x̄) × {0} + (u∗ , z ∗ ).
Il en découle que
z∗ = 0 et (u∗ , 0) ∈ N ((x̄, z̄), K).
Ainsi si pour tout x ∈ C on choisit z ∈ Z vérifiant (x, z) ∈ K on obtient de la relation
(u∗ , 0) ∈ N ((x̄, z̄), K)
que
hu∗ , x − x̄i ≤ 0, ∀x ∈ C
et donc
x∗ ∈ N (x̄, C).
Par conséquent le premier membre de l’égalité i) est bien inclus dans le second membre.
Comme l’autre inclusion est immédiate, l’égalité i) est prouvée.
ii) C’est une conséquence immédiate de i) en prenant h = IX c’est-à-dire l’application
identité de X.
iii) L’épigraphe de f est un convexe fermé de X × R puisque f est convexe et s.c.i sur
X. Par conséquent C = dom f est convexe et il est la projection de Epi f sur R. On
obtient le résultat en appliquant ii).
Pour terminer ce paragraphe indiquons comment nos résultats englobent ceux qui
existaient antérieurement (voir [1, 2, 3, 8, 21, 22, 24, 26]).
Corollaire 4.16.
1) Si A est un opérateur linéaire continu de X dans Y et si l’une des conditions
(C.Q.M.R), (C.Q.R) ou (C.Q.A.B) est satisfaite pour h = A, alors pour tous
x∗ ∈ X ∗ et x̄ ∈ X on a
(f + g ◦ A)∗ (x∗ ) = min

∗ ∗
{ g ∗ (y ∗ ) + f ∗ (x∗ − A∗ y ∗ }
y ∈Y
et
∂(f + g ◦ A)(x̄) = ∂f (x̄) + A∗ (∂g(Ax̄)),
où A∗ : Y ∗ −→ X ∗ est l’opérateur adjoint de A défini par A∗ (y ∗ ) = y ∗ ◦ A
pour tout y ∗ ∈ Y ∗ .
2) Sous les hypothèses de l’assertion 1) avec A = IX on a
(f + g)∗ (x∗ ) = min

∗ ∗
{ g ∗ (y ∗ ) + f ∗ (x∗ − y ∗ ) } = (g ∗ f ∗ )(x∗ )
y ∈Y
où est l’opération inf-convolution qui est atteinte dans le cas présent.
Preuve. D’après la proposition 4.11 et le corollaire 4.12 pour Y+ = {0} les hypothèses
ci-dessus assurent les deux égalités suivantes
(f + g ◦ A)∗ (x∗ ) = min

∗ ∗
{ g ∗ (y ∗ ) + (f + y ∗ ◦ A)∗ (x∗ ) }
y ∈Y
et G
∂(f + g ◦ A)(x̄) = ∂f (x̄) + (y ∗ ◦ A)), ∀ x̄ ∈ X.
y ∗ ∈∂g(A(x̄))
Ainsi l’égalité des sous différentiels de la première assertion est vérifiée. Pour conclure
il suffit de remarquer que
(f + y ∗ ◦ A)∗ (x∗ ) = sup { hx∗ , xi − f (x) − hA∗ y ∗ , xi}
x∈X
= sup {hx∗ − A∗ y ∗ , xi − f (x)}
x∈X
=f (x − A∗ y ∗ ).
∗ ∗
5. Applications. Dans cette section nous allons présenter deux exemples d’applications
de la formule du sous-différentiel d’une fonction composée. Le premier exemple est
issu de la programmation convexe et le second est lié au calcul du sous-différentiel du
maximum d’un nombre fini de fonctions.
Premier exemple: Conditions d’optimalité. Il s’agit d’un problème abstrait, noté (P),
qui englobe toute une famille de problèmes de minimisation soumis à des contraintes
vectorielles et à valeurs dans un espace vectoriel de dimension finie ou infinie. Le
problème (P) est le suivant
inf f (x)
(
(P) h(x) ∈ −Y+
x∈C
où X et Y sont des espaces de Fréchet, f : X −→ R ∪ {+∞} est convexe, s.c.i, propre,
h : X −→ Y ∪ {+∞} est Y+ -convexe, propre et C est un sous-ensemble de X supposé
convexe fermé non vide de X. Nous supposerons ici que Y+ est fermé.
Lemme 5.1. Soit g : Y −→ R ∪ {+∞} la fonction définie par
g(y) = δ( . , −Y+ )(y)
où δ( . , −Y+ ) désigne la fonction indicatrice de (−Y+ ). g est alors Y+ -croissante,

convexe, s.c.i et propre.
Preuve. g est évidemment convexe, s.c.i. et propre puisque Y+ est un cône convexe
fermé non vide. Pour sa monotonie, prenons y1 et y2 éléments quelconques de Y
vérifiant y1 ≤Y y2 . Si y2 ∈/ −Y+ alors g(y2 ) = +∞ et on obtient g(y1 ) ≤ g(y2 ).
Supposons donc que y2 ∈ −Y+ . Comme y1 − y2 ∈ −Y+ , y2 ∈ −Y+ et que (−Y+ )
est un cône convexe, on a y1 ∈ −Y+ puisque y1 = (y1 − y2 ) + y2 . Par conséquent
g(y1 ) = g(y2 ) = 0. Ainsi g est bien Y+ -croissante.
Proposition 5.2. Soit x̄ un point admissible du problème (P) c’est-à-dire x̄ ∈ C ∩

h−1 (D). On suppose que h est S-s.c.i et que la condition de régularité suivante
R+ [Y+ + h(C)] est un sous-espace vectoriel fermé
est satisfaite. Alors x̄ est une solution optimale du problème (P) si et seulement s’il
existe y ∗ ∈ Y+∗ vérifiant hy ∗ , h(x̄)i = 0 et tel que
0 ∈ ∂ f + y ∗ ◦ h + δ( . , C) (x̄).

Preuve. On constate que toutes les hypothèses de la Proposition 4.11 sont vérifiées, ce
qui permet d’écrire
x̄ est une solution du problème (P) ⇐⇒

G
∂ f + δ( . , C) + y ∗ ◦ h (x̄)

0 ∈ ∂ f + δ( . , C) + δ( . , −Y+ ) ◦ h (x̄) =
y ∗ ∈N (h(x̄),−Y+ )
c’est-à-dire qu’il existe y ∗ ∈ Y+∗ vérifiant hy ∗ , h(x̄)i = 0 et tel que
0 ∈ ∂ f + δ( . , C) + y ∗ ◦ h (x̄).

Corollaire 5.3. Si en plus des hypothèses de la proposition 5.2 on suppose que f et

h sont finies et continues en un point de C, alors x̄ est solution optimale de (P) si et
seulement s’il existe y ∗ ∈ Y+∗ vérifiant hy ∗ , h(x̄)i = 0 et tel que
0 ∈ ∂f (x̄) + ∂(y ∗ ◦ h)(x̄) + N (x̄, C).
Preuve. C’est une conséquence directe de la proposition précédente.

Considérons le même problème (P) mais cette fois-ci Y est un produit de deux
espaces de Fréchet Y1 et Y2 , Y+ = Y1+ × {0} où Y1+ désigne le cône positif associé
à l’espace Y1 et h est remplacée par (g1 , g2 ). La convexité de (g1 , g2 ) par rapport à
Y1+ × {0} revient à demander à g1 d’être convexe et à g2 d’être affine. Ainsi g2 (x) =
Ax − b où A est un opérateur linéaire continu de X dans Y2 et b un élément de Y2 . Le
problème (P) devient alors
(Q) inf{ f (x) : g1 (x) ∈ −Y1+ , Ax = b et x ∈ C } .
Dans toute la suite de cet exemple f et g1 sont supposées finies et continues.

Corollaire 5.4. Soient X et Y deux espaces de Fréchet et x̄ un point admissible du
problème (Q). On suppose que la condition de régularité suivante
R+ [Y1+ × {0} + (g1 , g2 )(C)]est un sous-espace vectoriel fermé
est satisfaite. Alors x̄ est une solution optimale du problème (Q) si et seulement s’il
existe y1∗ ∈ Y1+∗
et y2∗ ∈ Y2∗ vérifiant hy1∗ , g1 (x̄)i = 0 et tels que
0 ∈ ∂f (x̄) + ∂(y1∗ ◦ g1 )(x̄) + A∗ y2∗ + N (x̄, C).

Preuve. On a h = (g1 , g2 ) continue sur X et avec ceci on constate que toutes les
hypothèses du corollaire 5.3 sont vérifiées et donc on obtient
0 ∈ ∂f (x̄) + ∂ (y1∗ ◦ g1 ) + (y2∗ ◦ g2 ) (x̄) + N (x̄, C),

y ∗ = (y1∗ , y2∗ ) ∈ N h(x̄); −Y+ ,

c’est-à-dire
0 ∈ ∂f (x̄) + ∂(y1∗ ◦ g1 )(x̄) + A∗ y2∗ + N (x̄, C),

y1∗ ∈ Y1+
∗
, hy1∗ , g1 (x̄)i = 0
y2∗ ∈ Y2∗ , hy2∗ , A(x̄)i = hy2∗ , bi.
Notons D, E et F les ensembles suivants
E ={x ∈ X : g1 (x) ∈ −Y1+ }

D ={x ∈ X : Ax = b }
F =C ∩ D ∩ E.
L’ensemble F représente l’ensemble des points admissibles du problème (Q). Dési-

gnons par (C.Q.A2 .B2 ), (C.Q.A3 .B3 ) et (C.Q.J.W) les trois qualifications de contraintes
suivantes

 f et g1 sont finies et continues,
(C.Q.A2 .B2 ) R+ [Y1+ + g1 (C ∩ D)] sous-espace vectoriel fermé,
R+ [A(C) − b] sous-espace vectoriel fermé.


f et g1 sont finies et continues,
(C.Q.A3 .B3 ) R+ [Y1+ + g1 (C ∩ D)] sous-espace vectoriel fermé,
R+ [C − D)] sous-espace vectoriel fermé.


f et g1 sont finies et continues,
(C.Q.J.W) ∃ x̄ ∈ F : g1 (x̄) ∈ −intY1+ ,
R+ [A(C) − b] sous-espace vectoriel fermé .

Notons que si x̄ ∈ F et g1 (x̄) ∈ −int[Y1+ ] alors on obtient 0 ∈ int[Y1+ + g1 (C ∩ D)],

qui entraı̂ne R+ [Y1+ + g1 (C ∩ D)] = Y1 . Il en découle que (C.Q.J.W) entraı̂ne toujours
(C.Q.A2 .B2 ) et aussi (C.Q.A3 .B3 ) si l’image de A est fermée.
Dans [13], V. Jeyakumar et H. Wolkowicz ont établi le résultat suivant qui caractérise
une solution optimale du problème (Q) dans le cas où X, Y1 et Y2 sont des espaces de
Banach réels.
Proposition 5.5 [27]. Supposons que C soit un convexe fermé, que l’image de A soit
un fermé et que la condition (C.Q.J.W) soit satisfaite. Alors x̄ ∈ F est une solution
optimale du problème (Q) si et seulement s’il existe y1∗ ∈ Y1+∗
et y2∗ ∈ Y2∗ vérifiant
∗
hy1 , h(x̄)i = 0 et
0 ∈ ∂f (x̄) + ∂(y1∗ ◦ g1 )(x̄) + A∗ y2∗ N (x̄, C),
où A∗ : Y2∗ −→ X ∗ est l’opérateur adjoint de A.

L’objectif de ce qui va suivre est de généraliser la proposition ci-dessus à des espaces
de Fréchet et surtout de montrer que les résultats de cette proposition seront préservés
en remplaçant la condition (C.Q.J.W) par la condition (C.Q.A2 .B2 ) sans supposer que
l’image de l’opérateur A soit un fermé.
Proposition 5.6. Soient X, Y1 et Y2 des espaces de Fréchet réels. Si la condition du
type (C.Q.A2 .B2 ) est satisfaite, alors x̄ est une solution optimale du problème (Q) si et
seulement s’il existe y1∗ ∈ Y1+∗
et y2∗ ∈ Y2∗ vérifiant hy1∗ , g1 (x̄)i = 0 et tels que
0 ∈ ∂f (x̄) + ∂(y1∗ ◦ g1 )(x̄) + A∗ y2∗ + N (x̄, C).
Preuve. Posons
f0 = f + δ( . , C) + δ( . , {0}) ◦ g2 ,
g = δ( . , −Y1+ ),
h = g1 .
Alors
R+ [dom g − h(dom f0 ∩ dom h)] = R+ [−Y1+ − g1 (C ∩ D)]
et donc la condition (C.Q.A2 .B2 ) assure que R+ [dom g − h(dom f0 ∩ dom h)] est un
sous-espace vectoriel fermé. Comme g1 est continue, il découle du lemme 5.1 et de la
proposition 4.11 que
G
∂(y1∗ ◦g1 )(x̄)

∂(f0 +g ◦h)(x̄) = ∂ f + δ( . , C) + δ( . , {0}) ◦ g2 (x̄) +
y1∗ ∈N (g1 (x̄),−Y1+ )
pour tout x̄ ∈ F . Compte tenu du fait que R+ [A(C) − b] est un sous-espace vectoriel
fermé (d’après (C.Q.A2 .B2 )) on obtient en appliquant le lemme 5.1 et la proposition 4.11
à nouveau qu’il existe y2∗ ∈ Y2∗ tel que
G
∂(f0 + g ◦ h)(x̄) = ∂f (x̄) + ∂(y1∗ ◦ g1 )(x̄) + A∗ y2∗ + N (x̄, C).
y1∗ ∈N (g1 (x̄),−Y1+ )
Par conséquent x̄ est une solution optimale si et seulement s’il existe y1∗ ∈ Y1+
∗ , y∗ ∈ Y ∗
2 2
∗
vérifiant hy1 , g1 (x̄)i = 0 et
0 ∈ ∂f (x̄) + ∂(y1∗ ◦ g1 )(x̄) + A∗ y2∗ + N (x̄, C).
Remarque 5.7. Ainsi dans la proposition 5.5 ci-dessus de Jeyakumar et Wolkowicz la

fermeture de l’image de A n’est pas nécessaire.
Proposition 5.8. Soient X, Y1 et Y2 des espaces de Fréchet. Si la condition du type

(C.Q.A3 .B3 ) est satisfaite, alors x̄ ∈ F est une solution optimale du problème (Q) si et
seulement s’il existe y1∗ ∈ Y1+ ∗ vérifiant hy ∗ , g (x̄)i = 0 et tel que
1 1
0 ∈ ∂f (x̄) + ∂(y1∗ ◦ g1 )(x̄) + N (x̄, D) + N (x̄, C).
Preuve. Il est facile de remarquer que le problème (Q) s’écrit de manière équivalente
comme
inf{ f (x) : x ∈ C ∩ D et g1 (x) ∈ −Y1+ }.
Compte tenu de cette remarque, posons f0 = f + δ( . ; C ∩ D), g = δ( . , −Y1+ ) et

h = g1 . Alors on a
R+ [dom g − h(dom f0 ∩ dom h)] = R+ [−Y1+ − g1 (C ∩ D)]
et donc la condition (C.Q.A3 .B3 ) entraı̂ne que R+ [dom g − h(dom f0 ∩ dom h)] est un
sous-espace vectoriel fermé. D’après la proposition 4.11, on obtient
G
∂ f + δ( . ; C ∩ D) + y1∗ ◦ g1 (x̄),

∂(f0 + g ◦ h)(x̄) =
y1∗ ∈N (g1 (x̄),−Y1+ )
et puisque f , g1 sont continues et que R+ [C − D] est un sous-espace vectoriel fermé,

on a alors
G
∂(f0 + g ◦ h)(x̄) = ∂f (x̄) + ∂(y1∗ ◦ g1 )(x̄) + N (x̄, C) + N (x̄, D).
y1∗ ∈N (g1 (x̄),−Y1+ )
Par conséquent x̄ ∈ F est une solution optimale du problème (Q) si et seulement s’il
existe y1∗ ∈ Y1+
∗ vérifiant hy ∗ , g (x̄)i = 0 et tel que
1 1
0 ∈ ∂f (x̄) + ∂(y1∗ ◦ g1 )(x̄) + N (x̄, C) + N (x̄, D).
Corollaire 5.9. Supposons que l’image de l’opérateur A soit fermée dans Y2 . Alors
sous la condition (C.Q.A3 .B3 ), x̄ est une solution optimale du problème (Q) si et
seulement s’il existe y1∗ ∈ Y1+
∗
et y2∗ ∈ Y2∗ vérifiant hy1∗ , g1 (x̄)i = 0 et
0 ∈ ∂f (x̄) + ∂(y1∗ ◦ g1 )(x̄) + A∗ y2∗ + N (x̄, C).
Preuve. Rappelons que D = {x ∈ X : Ax − b = 0 }. Il suffit de noter, puisque Im A

est fermée, que
N (x̄, D) = [ker A]⊥ = Im A∗ .
Deuxième exemple: Sous-différentiel du maximum d’un nombre fini de fonctions

convexes. La formule exprimant le sous-différentiel du maximum d’un nombre fini
de fonctions convexes partout finies et continues est bien connue. Pour la dimension
finie citons les travaux de A. D. Ioffe [10], B. S. Mordukhovich [17] et D. Ward et
J. M. Borwien [31] relatifs au cas de fonctions s.c.i. non forcément continues. Le cas
du maximum de deux fonctions convexes s.c.i définies sur un espace de Banach et à
valeurs dans R ∪ {+∞} a été étudié récemment par M. Volle [29] sous la condition
d’Attouch-Brézis en utilisant comme outil principal les propriétés du cône normal. (Le
cas où les fonctions ne sont pas partout finies a été moins étudié). Notre objectif est de
retrouver ce résultat et de l’étendre au cas de n fonctions sur un espace de Fréchet en
appliquant la formule du sous-différentiel donnée par la proposition 4.1.
Soient donc X un espace localement convexe réel et h1 , h2 , . . . , hn : X −→ R ∪

{+∞} n fonctions données. Considérons l’application h : X −→ Rn ∪ {+∞} définie
par
i=n

 h (x), h (x), . . . , h (x) si x ∈ \ dom h ,

1 2 n i
h(x) =
 i=1
+∞ sinon.

Considérons également pour Y = Rn la fonction g : Y → R définie par g(y) =

max1≤i≤n (yi ) pour tout y = (y1 , y2 , . . . , yn ) ∈ Y . Dans ce cadre le cône positif Y+
devient Y+ = Rn+ . Cette fonction est convexe, positivement homogène et continue.
Pour chaque ȳ ∈ Y , notons I(ȳ) le sous-ensemble de { 1, 2, . . . , n } défini par
I(ȳ) = { i : g(ȳi ) = max ȳj }.

1≤j≤n
Il est évident que I(ȳ) est toujours non vide. De plus, l’expression du sous-différentiel
∂g(ȳ) est donnée par
X
∂g(ȳ) = {(α1 , . . . , αn ) ∈ [0, 1]n : αi = 1; αi ≥ 0 si i ∈ I(ȳ)
i∈I(ȳ) et αi = 0 si i ∈
/ I(ȳ)}
Commençons par prouver le résultat suivant utilisé plus loin. Il fait appel à une condition
de qualification (C.Q.An .Bn ) qui est une adaptation de la notion d’ensembles convexes
en position générale introduite sous un nom différent dans [22, p. 56] et utilisée aussi
dans [3, 14, 24, 25, 26, 32].
Proposition 5.10. Soient hi : X −→ R ∪ {+∞} avec i ∈ {1, 2, . . . , n}, n fonctions

convexes et propres et soit ∆X n le sous-espace vectoriel réel de X n constitué de sa
diagonale, c’est-à-dire
∆X n = { (x, x, . . . , x) ∈ X n }.
Si la condition de régularité suivante est satisfaite


 i=n
Y
 les hi sont s.c.i et R+ [∆X n − dom hi ]


(C.Q.An .Bn ). i=1


 est un sous-espace vectoriel fermé de X n ,

X un espace de Fréchet,
alors pour tout x̄ ∈ X on a
∂ [h1 + · · · + hn ] (x̄) = ∂h1 (x̄) + · · · + ∂hn (x̄).
Preuve. Soit la fonction Φ : X n −→ R ∪ {+∞} définie par

i=n
X
Φ(x1 , x2 , . . . , xn ) = hi (xi ).
i=1
La fonction Φ est convexe, s.c.i et propre puisque les hi le sont. ∆X n est un sous-espace
vectoriel fermé. Sous la contrainte (C.Q.An .Bn ) on peut écrire, d’après la proposi-
i=n
\
tion 4.15, pour tout x̄ ∈ dom hi = dom Φ
i=1
∂ δ( . , ∆X n ) + Φ (x̄, . . . , x̄) = N (x̄, . . . , x̄); ∆X n + ∂Φ(x̄, . . . , x̄)

(5.1)
où
i=n
Y
∂Φ(x̄, . . . , x̄) = ∂hi (x̄).
i=1
Remarquons que pour
(u∗1 , u∗2 , . . . , u∗n ) ∈ N (x̄, . . . , x̄); ∆X n

on a pour tout x ∈ X
i=n
X
hu∗i , x − x̄i ≤ 0
i=1
d’où
i=n
X
u∗i = 0.
i=1
Soit x∗ ∈ ∂ [h1 + · · · + hn ] (x̄). On a alors pour tout x ∈ X
hx∗ , x − x̄i ≤ (h1 + · · · + hn )(x) − (h1 + · · · + hn )(x̄)
et donc pour tout (x1 , x2 , . . . , xn ) ∈ X n
hx∗ , x1 − x̄i ≤ δ( . , ∆X n ) + Φ (x1 , x2 , . . . , xn ) − δ( . , ∆X n ) + Φ (x̄, x̄, . . . , x̄)

ce qui entraı̂ne
(x∗ , 0, . . . , 0) ∈ ∂ δ( . , ∆X n ) + Φ (x̄, x̄, . . . , x̄).

D’après (5.1), il existe alors
(u∗1 , u∗2 , . . . , u∗n ) ∈ N (x̄, . . . , x̄), ∆X n

et
(x∗1 , x∗2 , . . . , x∗n ) ∈ ∂Φ(x̄, . . . , x̄)
vérifiant
 ∗
 x = x∗1 + u∗1
 x∗ + u∗ = 0, i ≥ 2

i i

i=n
X
u∗i = 0.




i=1
Il s’ensuit que
x∗ = x∗1 + x∗2 + · · · + x∗n
et donc
∂ [h1 + · · · + hn ] (x̄) ⊆ ∂h1 (x̄) + · · · + ∂hn (x̄).
i=n
\
Si x̄ ∈
/ dom hi alors (h1 + · · · + hn )(x̄) = +∞ et donc l’inclusion ci-dessus est
i=1
évidente. L’inclusion inverse étant immédiate, la preuve est terminée.
Avant d’établir la proposition suivante, évaluons l’expression de (α ◦ h)(x) pour
i=n
X
α = (α1 , α2 , . . . , αn ) ∈ Rn avec αi ≥ 0 et αi = 1. D’après ce qui précède la
i=1
proposition 3.7, on a pour x ∈ dom h
X X
(α ◦ h)(x) = αi hi (x) + δ(x, dom hi )
αi 6=0 αi =0
et pour x ∈
/ dom h on a
X X
(α ◦ h)(x) = +∞ = αi hi (x) + δ(x, dom hi ).
αi 6=0 αi =0
Ainsi en notant 0+ hi := δ( . , dom hi ), on a pour tout x ∈ X

X X
(α ◦ h)(x) = αi hi (x) + δ(x, dom hi )
αi 6=0 αi =0
X X
= αi hi (x) + 0+ hi (x).
αi 6=0 αi =0
Proposition 5.11. Soient hi : X −→ R ∪ {+∞} avec i ∈ {1, 2, . . . n}, n fonctions

n
Y
convexes et propres. Si les fonctions hi sont s.c.i et R+ [∆X n − dom hi ] est un sous-
i=1
espace vectoriel fermé de X n avec X de Fréchet, (resp. si (n − 1) des fonctions hi sont
i=n
\
finies et continues en un point du domaine de l’autre), alors pour tout x̄ ∈ dom hi
i=1
et pour tout α = (α1 , α2 , . . . , αn ) ∈ Rn+ on a
X X
∂(α ◦ h)(x̄) = αi ∂hi (x̄) + N (x̄, dom hi ).
αi >0 αi =0
Preuve. Si la condition (C.Q.Mn .Rn ) est satisfaite, alors dans la somme

X X
αi hi + δ( . , dom hi ) = α ◦ h
αi 6=0 αi =0
il y a nécessairement (n − 1) fonctions qui sont finies et continues en un point du

domaine de l’autre. Ainsi le résultat est une conséquence de la formule bien connue
de Moreau-Rockafellar. Supposons maintenant que la condition (C.Q.Mn .Rn ) ait lieu.
Quitte à renuméroter les indices nous pouvons supposer que

αi = 0 pour i = 1, . . . , n0 .
αi > 0 pour i = n0 + 1, . . . , n.
Considérons les fonctions suivantes Φi : X × R −→ R ∪ {+∞} définies pour tout
(x, r) ∈ X × R par

Φi (x, r) = δ (x, r), Epi hi si 1 ≤ i ≤ n0 .

Φi (x, r) = αi hi (x) si i ≥ n0 + 1
Il est facile de vérifier que Φi est convexe, s.c.i et propre et

∂Φi (x, r) = N (x, r), Epi hi si 1 ≤ i ≤ n0 et (x, r) ∈ Epi hi
∂Φi (x, r) = αi ∂hi × {0} si i ≥ n0 + 1. (5.2)
Comme (d’après les rappels ci-dessus) on a

i=n
X0 n
X
(α ◦ h)(x) = δ(x, dom hi ) + αi hi (x),
i=1 i=1+n0
on peut facilement vérifier pour r̄ = max hi (x̄) que

1≤i≤n
x∗ ∈ ∂(α ◦ h)(x̄)
⇐⇒
(x∗ , 0) ∈ ∂ [Φ1 + Φ2 + · · · + Φn ] (x̄, r̄). (5.3)
De plus, il n’est pas difficile de voir que, pour l’application J : X n × Rn −→ (X × R)n

définie par

J (x1 , . . . , xn ); (r1 , . . . , rn ) = (x1 , r1 ), . . . , (xn , rn )
on a
i=n i=n
" # " #!
Y Y
R+ ∆(X × R)n − dom Φi = J R+ ∆X n − dom hi × Rn .
i=1 i=1
Par conséquent, d’après la proposition 5.8 on a

∂ [Φ1 + · · · + Φn ] (x̄, r̄) = ∂Φ1 (x̄, r̄) + · · · + ∂Φn (x̄, r̄).
Les expressions (5.2) et (5.3) donnent
(x∗ , 0) = (x∗1 + · · · + x∗n , r1 + · · · + rn )
où
(x∗i , ri ) ∈ ∂Φ(x̄, r̄).
D’après la définition de Φi , on a alors
ri = 0 et x∗i ∈ αi ∂hi (x̄) si i ≥ n0 + 1.
Si j ∈ { 1, . . . , n0 } alors
(x∗j , rj ) ∈ N (x̄, r̄), Epi hj

c’est-à-dire pour tout (x, r) ∈ Epi hj

hx∗j , x − x̄i + rj (r − r̄) ≤ 0. (5.4)
Pour tout r ≥ 0 on a (x̄, r + r̄) ∈ Epi hj et donc rj r ≤ 0 pour tout r ≥ 0, d’où rj ≤ 0
pour j = 1, . . . , n0 . Comme de plus
n0
X n
X
rj = ri = 0
j=1 i=1
on obtient rj = 0 pour j = 1, . . . , n0 . La relation (5.4) devient alors

hx∗j , x − x̄i ≤ 0, ∀ x ∈ dom hi ,
c’est-à-dire
x∗j ∈ N (x̄, dom hi ),
ce qui termine la preuve.
Nous sommes maintenant en mesure d’établir le résultat suivant qui généralise
légèrement ceux de Volle [29] et [30] relatifs à une borne supérieure d’un nombre
fini de fonctions convexes. Par la suite nous noterons
X
M (x̄) := { α = (α1 , . . . , αn ) ∈ Rn : αi = 1; αi ≥ 0, ∀ i ∈ I(x̄);
i∈I(x̄) αi = 0 si i ∈
/ I(x̄) }
Proposition 5.12. Soient hi : X −→ R ∪ {+∞}, i = 1, . . . , n des fonctions convexes

et propres. Alors
i)
G
∂ max hi (x̄) = ∂ [α1 h1 + · · · + αn hn ] (x̄).
1≤i≤n X
αi = 1
i∈I(x̄)
αi ≥ 0+ si i ∈ I(x̄)
αi = 0+ si i ∈
/ I(x̄)
i=n
" #
Y
n
ii) Si de plus les hi sont s.c.i et R+ ∆X − dom hi est un sous-espace
i=1
vectoriel fermé de X n avec X Fréchet, (resp. si (n − 1) des fonctions hi
sont finies et continues en un point du domaine de l’autre), alors pour tout
i=n
\
x̄ ∈ dom hi on a
i=1
 
G i=n
X
∂( max hi )(x̄) = co  ∂hi (x̄) + N (x̄; dom hi ).
1≤i≤n
α∈I(x̄) i=1
Preuve. i) Puisque la fonction g définie au début de cette section est continue partout
sur Y = Rn , la qualification de contrainte de (C.Q.M.R) se trouve satisfaite et donc il
découle de la proposition 4.11 que
G
∂(g ◦ h)(x̄) = ∂(α ◦ h)(x̄).
α∈∂g(h(x̄))
D’après l’expression de ∂g(h(x̄)) et le rappel précédant la proposition 5.10, on obtient

alors
 
G X X
∂(g ◦ h)(x̄) = ∂ αi hi + δ( . , dom hi ) (x̄) (5.5)
α∈M (x̄) αi 6=0 αi =0
ce qui termine la preuve de i).

ii) Il est facile de vérifier que pour αi > 0 on a
αi ∂hi (x̄) + N (x̄, dom hi ) = αi ∂hi (x̄).

Alors en appliquant la relation (5.5) et la proposition 5.10, on obtient

 
G X X
∂(α ◦ h)(x̄) =  αi ∂hi (x̄) + N (x̄, dom hi )
α∈M (x̄) αi 6=0 αi =0
 
G X i=n
X
=  αi ∂hi (x̄) + N (x̄, dom hi )
α∈M (x̄) αi 6=0 i=1
 
G i=n
X
= co  ∂hi (x̄) + N (x̄, dom hi ).
α∈I(x̄) i=1
Corollaire 5.13. Soit X un espace de Fréchet réel et soient h1 et h2 : X −→ R∪{+∞}

deux fonctions convexes, s.c.i et propres telles que
R+ [dom h1 − dom h2 ] soit un sous-espace vectoriel fermé de X.
Pour tout x̄ ∈ X tel que ȳi = hi (x̄) ∈ R i = 1, 2, on a

∂h1 (x̄) + N (x̄, dom h2 ) si ȳ1 > ȳ2
∂ max(h1 h2 )(x̄) = co[∂h1 ∪ ∂h2 ](x̄) + N (x̄, dom h1 ) + N (x̄, dom h2 ) si ȳ1 = ȳ2
∂h2 (x̄) + N (x̄, dom h1 ) si ȳ1 < ȳ2

Preuve. Il est facile de remarquer que
R+ [∆X 2 − dom h1 × dom h2 ] = R+ [dom h1 − dom h2 ]
et donc il suffit d’appliquer la proposition précédente.

English extended abstract. This paper is devoted to the study of the subdifferential of
the composition of a nondecreasing convex function g with a convex mapping h taking
values in an ordered topological vector space. The first related papers seem to be those
by Gol’shtein [7] and Levin [16] where g and h are assumed to be continuous. This
result has been extended by Lemaire [15] where g is assumed to be continuous at some
point in the effective range of h (assumption in the line of Moreau-Rockaffelar [18] and
[23]). For the case where Y is an ordered complete vector space, we refer the reader to
the papers by Kutateladze [14] and Rubinov [24].
Here we weaken the above assumptions by using a constraint qualification in the line
of that of Attouch and Brézis [1]. Our approach is so general that we may establish, in a
unified way, the result under the Moreau-Rockafellar constraint qualification or under
the Attouch-Brézis constraint qualification.
Let Y be a topological vector space ordered by a convex cone Y+ . We put y1 ≤Y y2
in Y if y2 −y1 ∈ Y+ and we adjoin an abstract maximal element +∞ to Y . So a mapping
h : X −→ Y ∪ {+∞} is Y+ -convex if for all λ ∈]0, 1[, x1 , x2 ∈ X one has

h λx1 + (1 − λ)x2 ≤Y λh(x1 ) + (1 − λ)h(x2 ).
A mapping h : X −→ Y ∪ {+∞} is said to be sequentially lower semicontinuous

(S-l.s.c.) at x̄ ∈ X if for any b ∈ Y with b ≤Y h(x̄) and any sequence (xn ) in
X converging to x̄ there exists a sequence (bn ) in Y converging to b and satisfying
bn ≤Y h(xn ) for all n ∈ N. We study the connection between this notion and that
of lower semicontinuity introduced by Penot and Théra [19] and we establish several
stability results.
Let h be a mapping from X −→ Y ∪ {+∞}, f be a convex function from X
into R ∪ {+∞} and g : Y −→ R ∪ {+∞} be a Y+ -nondecreasing convex function
(i.e. y1 ≤Y y2 =⇒ g(y1 ) ≤ g(y2 )). The following constraint qualification (where
dom h := {x ∈ X : h(x) ∈ Y }) will be needed for the statement of the result below.

X and Y are locally convex vector spaces and
(C.Q.M.R)
g is finite and continuous at some point in h(dom f ∩ dom h).
 X and Y are Fréchet spaces,


g and f are l.s.c. and h is S-l.s.c.,

(C.Q.A.B)
 + [dom g − h(dom f ∩ dom h)] is a closed
R
vector subspace of Y .
Our main result in this paper is the following (see Proposition 4.11).
Proposition. If (C.Q.M.R) or (C.Q.A.B) is satisfied then one has
i) G
∂(f + g ◦ h)(x̄) = ∂(f + y ∗ ◦ h)(x̄)
y ∗ ∈∂g(h(x̄))
for every x̄ ∈ X.
ii)
(f + g ◦ h)∗ (x∗ ) = min
∗ ∗
{g ∗ (y ∗ ) + (f + y ∗ ◦ h)∗ (x∗ )},
y ∈Y+
where g∗ denotes the Legendre-Fenchel conjugate function of g.

We then apply this result to get existence of Lagrange multipliers for general convex
optimization problems and to study in Propositions 5.1 and 5.12 the subdifferential
of the pointwise supremum of a finite number of (non necessarily continuous) convex
functions. The result is the following.
Proposition. Let X be a locally convex vector space and hi : X −→ R ∪ {+∞}, i =
1, . . . , n, be n proper convex functions. Then
i) For any x̄ one has
G
∂ max hi (x̄) = ∂ [α1 h1 + · · · + αn hn ] (x̄),
1≤i≤n X
αi = 1
i∈I(x̄)
αi ≥ 0+ si i ∈ I(x̄)
αi = 0+ si i ∈
/ I(x̄)
i=n
" #
Y
ii) if furthermore the functions hi are l.s.c., R+ ∆X n − dom hi is a closed
i=1
vector subspace of X n and X is Fréchet, (resp. if (n − 1) functions hi are finite
and continuous at some point of the effective domain of the other one), then for
i=n
\
any x̄ ∈ dom hi , one has
i=1
 
G i=n
X
∂ max hi (x̄) = co  ∂hi (x̄) + N (x̄; dom hi ).
1≤i≤n
α∈I(x̄) i=1

(Here ∆X n denotes the diagonal of X n, I(x̄) := j : max hi (x̄) = hj (x̄) and
1≤i≤n
0+ hi := δ( . , dom hi ) is the indicator function of dom hi ).
BIBLIOGRAPHIE
1. H. Attouch et H. Brézis, Duality for the sum of convex functions in general Banach spaces,
Aspects of Mathematics and its Applications (J. Barroso, ed.), North Holland, Amsterdam,
1986, pp. 125–133.
2. J. P. Aubin et I. Ekeland, Applied Nonlinear Analysis,, Wiley, New York, 1984.
3. D. Aze et J. P. Penot, Operations on convergent families of sets and function, Optimization
21 (1990), 521–534.
4. J.M. Borwein, Convex relations in analysis and Optimization, Generalized concavity in
Optimization and Economics (S. Schaible and T. Ziemmba, eds.), Academic Press, New
York, 1981, pp. 335–376.
5. J. M. Borwein et M. Théra, Sandwich theorems for semi-continuous operators, Canad.
Math. Bul. 35 (1992), 463–474.
6. I. Ekeland et R. Teman, Convex Analysis And Variational Problems, North-Holland, Ams-
terdam, 1976.
7. E. G. Gol’shtein, Duality theory in mathematical programming and its applications, Nauka,
Moscou, 1971.
8. M. S. Gowda et M. Teboulle, A comparison of constraint qualification in infinite dimensional
convex programming, SIAM J. Control Optim. 28 (1990), 925–935.
9. R. H. Holmes, Geometric Functional Analysis and Applications, Springer, New York, 1975.
10. A. D. Ioffe, Approximate subdifferentials and Applications I. The finite dimensional theory,
Trans. Amer. Math. Soc. 281 (1984), 389–416.
11. V. Jalby, Semi-continuité, convergence et approximation des applications vectorielles. Loi
des grands nombres, À paraı̂tre.
12. V. Jeyakumar, Duality and infinite dimensional optimization, Nonlinear Anal. 15 (1990),
111–1122.
13. V. Jeyakumar et H. Wolkowicz, Generalisations of Slater’s constraint qualifications for
infinite convex programs, Math. Programming 57 (1992), 85–101.
14. S. S. Kutateladze, Convex operators, Russian Math. Surveys 34 (1979), 181–214.
15. B. Lemaire, Subdifferential of a convex composite functional. Application to optimal control
in variational inequalities. Nondifferentiable Optimization, Sopron (Sept 1984).
16. V. L. Levin, On the subdifferential of a composite functional, Soviet Math. Dokl. 11,
1194–1195.
17. B. S. Mordukhovitch, Approximation methods in problems of optimization and control,

Nauka, Moscou, 1988.
18. J. J. Moreau, Fonctionelles convexes, Séminaire «Equations aux dérivées partielles», Collège
de France (1966).
19. J.-P. Penot et M. Théra, Semicontinuous mappings in general topology, Arch. Math. (Basel)
38 (1982), 158–166.
20. A. L. Peressini, Ordered topological vector spaces, Harper, New York, 1967.
21. S.M. Robinson, Regularity and stability for convex multi-valued functions, Math.Oper.Res.
1 (1976.), 130–143.
22. R. T. Rockafellar, Conjugate duality and optimisation, SIAM Publications, Philadelphia,
1974.
23. , Convex Analysis, Princeton University Press, Princeton NJ, 1970.
24. B. Rodriguez et S. Simons, Conjugate functions and subdifferentials in nonnormed situa-
tions for operators with complete graphs, Nonlinear Anal. 12 (1988), 1069–1078.
25. A. M. Rubinov, Sublinear operators and their applications, Russian Math. Surveys 32
(1977), 115–175.
26. S. Simons, The occasional distributivity of ◦ over +e and the change of variable formula for
conjugate functions, Nonlinear Anal. 14 (1990), 111–1120.
27. C. Ursescu, Multifunctions with closed convex graph, Czechoslovak Math. J. 25 (1975),
438–441.
28. M. Valadier, Sous-differentiel d’une borne supérieure et d’une somme continue de fonctions
convexes, C. R. Acad. Sci. Paris Sér. A-B 268 (1969), A39–A42.
29. M. Volle, Some applications of the Attouch-Brézis condition to closedness criterion, opti-
mization and duality, Séminaire d’Analyse Convexe de Montpellier, 1992.
30. , A general formula for the subdifferential of an upper envelope of convex functionals,
À paraı̂tre.
31. D. E. Ward et J. M. Borwein, Nonsmooth calculus in finite dimensions, SIAM J. Control
Optim. 25 (1987), 1312–1340.
32. C. Zalinescu, On convex sets in general position, Linear Algebra Appl. 64 (1985), 191-198.
C. COMBARI, M. LAGHDIR ET L. THIBAULT

LABORATOIRE D’ANALYSE CONVEXE
DÉPARTEMENT DE MATHÉMATIQUES
UNIVERSITÉ MONTPELLIER II
MONTPELLIER 34095
FRANCE
View publication stats

Sous Diffrentialdefonctionsconvexescompoes

Transféré par

Informations du document

Titre original

Copyright

Formats disponibles

Partager ce document

Partager ou intégrer le document

Options de partage

Avez-vous trouvé ce document utile ?

Ce contenu est-il inapproprié ?

Droits d'auteur :

Formats disponibles

Sous Diffrentialdefonctionsconvexescompoes

Transféré par

Droits d'auteur :

Formats disponibles

See discussions, stats, and author profiles for this publication at: https://www.researchgate.

Sous-différential de fonctions convexes compoées

Data · December 2015

Christophe Combari Mohamed Laghdir

SEE PROFILE SEE PROFILE

Nonsmooth dynamics View project

CONVEX ANALYSIS View project

The user has requested enhancement of the downloaded file.

SOUS-DIFFÉRENTIELS DE FONCTIONS CONVEXES COMPOSÉES

C. COMBARI, M. LAGHDIR ET L. THIBAULT

RÉSUMÉ. Dans cet article nous étudions le sous-différentiel de la composition d’une

ABSTRACT. This paper studies the subdifferential of the composition of a nonde-

1. Introduction. Cet article est essentiellement consacré à l’étude du sous-différentiel

Reçu le 5 octobre 1993 et, sous forme définitive, le 7 juin 1994.

une application à l’étude du sous-différentiel du maximum d’un nombre fini de fonctions

Y+ et Y+∗ représentent respectivement les cônes des éléments positifs de Y et Y ∗ . On

Coeur C = { c ∈ C : ∀ y ∈ Y, ∃ ε > 0 : c + [−ε, ε] y ⊂ C }.

Il vérifie les relations suivantes :

F est dite convexe (resp. fermée) si et seulement si Graph F est un sous-ensemble

Remarque 2.1. F est à graphe convexe si et seulement si pour tous x1 , x2 ∈ dom F et

ii) Une fonction g : Y → R ∪ {+∞} est dite Y+ -croissante si pour y1 , y2 ∈ Y on a

3. Semi-continuité inférieure séquentielle des applications à valeurs vectorielles.

Proposition 3.3. Soit h : X −→ Y ∪ {+∞} une application et soit x̄ ∈ X avec

En utilisant (3.2) et le fait que

Pour chaque entier k ≥ 1 et chaque entier n ∈ {s(k), . . . , −1 + s(k + 1) }, il existe

b + vn,k ≤Y h(xn ). (3.5)

converge vers zéro, la suite (bn ) définie par

converge vers b et elle vérifie d’après (3.5) et ce qui précède

Ceci termine donc la preuve de la proposition.

Soient h : X −→ Y ∪ {+∞} et g : Y −→ R ∪ {+∞} deux applications. Nous

Proposition 3.8. Soient X et Y deux espaces vectoriels topologiques avec Y ordonné

pour tout x ∈ dom(g ◦ h).

Corollaire 4.3. Soient h : X −→ Y ∪ {+∞} Y+ -convexe et g : Y −→ R ∪ {+∞}

pour tout x̄ ∈ dom(f + g ◦ h).

g(y) − g(h(x̄)) ≥ hy ∗ , y − h(x̄)i (4.3)

(f + y ∗ ◦ h)(x) − (f + y ∗ ◦ h)(x̄) ≥ hx∗ , x − x̄i. (4.4)

où k : X × Y −→ R ∪ {+∞} est une fonction en (x, y) et y est la variable de

X et Y sont des espaces de Fréchet,

p(y) = inf k(x, y).

Epi(p) = { (y, α) ∈ Y × R : (y, β) ∈ E, ∀ β > α}.

p(0) = inf { (f + g ◦ h)(x) − (f + g ◦ h)(x̄) − hx∗ , x − x̄i },

ce qui entraı̂ne p(0) ≤ 0 en prenant x = x̄. D’autre part comme

ce qui assure que

avec (x, λ) ∈ X × R. Alors

k(x̄, 0) = 0 ⇐⇒ 0 ∈ F (x̄, 0) ⇐⇒ (x̄, 0) ∈ F −1 (0).

Rappelons maintenant le résultat suivant de Ursescu [27]. Un résultat similaire dans

F (x) ∩ Coeur(Im F ) ⊆ intF (x + U )

pour tout x ∈ dom F.

Y0 = R+ [dom g − h(dom f ∩ dom h)].

Considérons la multi-application F : X × R −→ Y0 définie par

Donc, il existe un ouvert U de Y0 contenant zéro tel que

Pour tout y ∈ U , il existe un élément (xy , λy ) ∈ X× ] − 1, 1[ tel que

p0 (y) = inf k(x, y) ≤ k(xy , y) ≤ 1.

où g ∗ désigne la fonction conjuguée de Legendre-Fenchel de g.

hy ∗ , yi ≤ f (x) + g(y + h(x)) − f (x̄) − g(h(x̄)) − hx∗ , x − x̄i (4.6)

pour tous x ∈ X et y ∈ Y . En remplaçant dans l’inégalité (4.6) y par y − h(x̄) et x par

et donc en vertu de la proposition 4.4 on a l’égalité

ii) D’après l’expression de la fonction marginale p et avec un calcul simple on obtient

p(0) = −(f + g ◦ h)∗ (x∗ ) + hx∗ , x̄i − (f + g ◦ h)(x̄) (4.7)

p∗ (y ∗ ) = (f + y ∗ ◦ h)∗ (x∗ ) + g ∗ (y ∗ ) − hx∗ , x̄i + f (x̄) + g(h(x̄)). (4.8)

Or d’après l’inégalité de Fenchel on a

(f + y ∗ ◦ h)∗ (x∗ ) + g ∗ (y ∗ ) − (f + g ◦ h)∗ (x∗ ) ≥ 0 (4.9)

inf { (f + y ∗ ◦ h)∗ (x∗ ) + g ∗ (y ∗ ) } ≥ (f + g ◦ h)∗ (x∗ ). (4.10)