Th eorie de Lyapunov, commande robuste et optimisation

D. Arzelier
LAAS-CNRS - UPR 8001 Toulouse

Quelques el ements de contexte

Algbre linaire

Thorie de la complexit
Thorie de linformation

R.E. Kalman Thorie de WienerHopfKalman Thorie des systmes dynamiques Analyse numrique Thorie de l interpolation Thorie des fonctions analytiques

A. Turing Perturbations Systme dynamique P( )

N. Wiener Sorties C. Shannon

Actions Loi de commande K

Mesures H. Black

H. Bode G. Zames J.L. Lagrange Thorie des oprateurs A. Lyapunov H. Nyquist

Programmation mathmatique

Th eorie de Lyapunov, commande robuste et optimisation

JNMACS 06/09/05

Le mod` ele standard

Le mod` ele standard : [Doyle 1983] Formulation g en erale et uni ee des probl` emes de mod elisation, danalyse et de synth` ese des syst` emes de commande ` a contre-r eaction multivariables
w z

Hypoth` ese : Le mod` ele g en eralis e P et le correcteur g en eralis e K sont des mod` eles LTI

P
u K y

Sch ema standard - Synth` ese des approches fr equentielles (outils graphiques, sensibilit e, robustesse) et espace d etat (Optimalit e, LQG, th eorie de Lyapunov) - Optimisation pour lanalyse de performance (analyse pire-cas) et description de lincertitude de mod elisation - Utilisation syst ematique des normes syst` emes (H , H2 ...)

Th eorie de Lyapunov, commande robuste et optimisation

JNMACS 06/09/05

Mod elisation incertaine, analyse et synth` ese robustes

w w u z

P
y

Probl` eme 1 (mod elisation incertaine) Choisir (w, u, z, y, z , w ), caract eriser la causalit e entr ee-sortie et d ecrire
w

Probl` eme 2 (synth` ese robuste) D eterminer K conf erant a ` linterconnexion stabilit e et performances robustes

w z

P( )
K

Probl` eme 3 (analyse robuste) Pour K donn e, d eterminer si linterconnexion est robuste en stabilit e et performance

Th eorie de Lyapunov, commande robuste et optimisation

JNMACS 06/09/05

Analyse et synth` ese robustes

- La synth` ese H [Zames 1981]
K K

min

Tzw (K )

Probl` eme dinterpolation de fonctions analytiques, techniques de Nevanlinna-Pick-Schur, th eorie des op erateurs de Sarason, AAK, BH, [FHZ 84], [Doyle 84] Probl` eme de Nehari-Hankel, th eorie de la factorisation, param etrisation de Youla, argument de s eparation [BSS80], [Glover 84], [DGKF 89] Emergence de la formulation LMI [Willems 71], [GA 94] - La -analyse : [Popov 61], [Sandberg 63], [Doyle 1982], [Safonov 1982] (P ) = 1 min { () : , det(1 P ) = 0}

Analyse fonctionnelle, th eorie des op erateurs [Zames 63], [Narendra 64] Optimisation globale et optimisation convexe [YD 90], [YND 91], [FTD 91], [Ferreres 99]

Th eorie de Lyapunov, commande robuste et optimisation

JNMACS 06/09/05

Analyse et synth` ese robustes

P 0 A (, K )P + P A(, K ) 0

- Th eorie de Lyapunov et stabilit e quadratique [LP 47], [Barmish 1985], [BPG 89] [BB 1991]

Alg` ebre des polyn omes et m ethodes graphiques [Yakubovich 62], [Kalman 63] Alg` ebre lin eaire et num erique [Willems 1971] Prog. SDP : PI [BF 63], [NN 1994] et appr. non di. [Kelley 1960], [Overton 88] Approches litt erales = Approches num eriques
a wide (but incomplete) class of linear controller design problems can be cast as convex optimization problems

Pb. de commande = Pb. de programmation math ematique + m ethode num erique ecace R esultats faibles = R esultats forts Complexit e calculatoire : P = NP ? et d emonstrabilit e globale : convexit e Probl` emes faciles : alternative num erique aux solutions litt erales usuelles Probl` emes durs : relaxations convexes
Nota : SIAM J. of Control devient SIAM J. of Control and Optimization en 1976

Th eorie de Lyapunov, commande robuste et optimisation

JNMACS 06/09/05

MPI + LMI = CR ? ou NLP + BMI = TC ?

Identication robuste : - Identication fr equentielle - Validation de mod` ele Synth` ese : - -synth` ese - Synth` ese multiobjectifs - Synth` ese avec contrainte de structure Analyse robuste en stabilit e et performance : - Mod` ele incertain LFT : th eorie du - Recherche de multiplieurs et th eorie de la s eparation des graphes - Analyse robuste par les IQCs Th eorie de Lyapunov, commande robuste et optimisation
JNMACS 06/09/05

Bcp. de probl` emes en commande robuste sont encore non convexes (BMI) [Safonov 1994]

Classes de probl` emes doptimisation non convexes

Probl` eme BMI : Probl` eme avec contrainte de rang :

min min sous cx

n n n

cx
n

sous Gi,j xi xj 0

F0 +
i=1

Fi xi
n

0 Gi xi ) N

F0 +
i=1

Fi xi +
i=1 j =i

rang(G0 +
i=1

Probl` eme de compl ementarit e conique :

Minimisation concave :

min sous

Trace(ZF ) (F , Z ) KF KZ

min sous

f (x)
n

F0 +
i=1

Fi xi

f concave

Th eorie de Lyapunov, commande robuste et optimisation

JNMACS 06/09/05

Exemple de probl` eme LMI sous contrainte de rang

10

Ensemble r ealisable : M P M < 2P rang(U P V ) = 1 1 x 0 P = x y 0 0 0 1

y

9 =3.5

=3

6 =2.7 5 =2.5 =2.3 =2.6 =2.2

0 1

0.5

0.5

1 x

1.5

2.5

Ensemble r ealisable non convexe et non connexe

Th eorie de Lyapunov, commande robuste et optimisation

JNMACS 06/09/05

Quelques approches usuelles

Les approches par relaxation :

10

- Dualit e et relaxation lagrangiennes Th eorie de Lyapunov, S -proc edure, lemme de Finsler et d elimination, relaxation de rang - Les relaxations hi erarchiques Polyn omes positifs, SOS, th eorie des moments - Les relaxations heuristiques Relaxations crois ees et algorithmes de descente coordonn ee Les approches algorithmiques : - La m ethode du gradient conditionnel - Les m ethodes de p enalit e et de barri` ere - Loptimisation non di erentiable - Loptimisation globale Th eorie de Lyapunov, commande robuste et optimisation
JNMACS 06/09/05

Dualit e et relaxation Lagrangiennes

p = inf sous
m

11

xX

f (x) hi (x) 0 i = 1, , m

Le Lagrangien : L(x, ) = f (x) +

i=1

i hi (x)

i 0

Le probl` eme dual : d = sup

R+m xX

inf

L(x, ) =

R m +

sup

()

- La fonction duale () est concave et semi-continue sup erieurement - R esoudre le dual du dual revient ` a r esoudre une relaxation convexe du pb. primal e forte, th eor` emes des alternatives - Dualit e faible p d , dualit - Dualit e SDP (Application de la dualit e conique)
JNMACS 06/09/05

Th eorie de Lyapunov, commande robuste et optimisation

Relaxation lagrangienne : la S-proc edure

Proposition 1 : f (x) 0 x = 0 X | hi (x) 0, i = 1, , m
m

12

Proposition 2 : i 0, i = 1, , m | f (x)
i=1

i hi (x) 0

S-procedure 1 ([Yakubovich 71]) Pour f (x) = x Ax, hi (x) = x Bi x, i = 1, , m et X = Rn : - Si x Rn tel que h1 (x) > 0 alors pour m = 1, la S -proc edure nest pas pessimiste - Si m = 2, la S -proc edure peut etre pessimiste Pessimisme de la S-proc edure = saut de dualit e [Fradkov 73]
m hi (x)0

inf

f (x) sup

j 0

xX

inf

f (x)
j =1

j hj (x)

Th eorie de Lyapunov, commande robuste et optimisation

JNMACS 06/09/05

Preuve de la S-proc edure : m = 1

Propri et es de convexit e de limage de B Kn par des transformations quadratiques [Toeplitz 1919], [Hausdor 1919] Th eor` eme 1 ([Dines 41]) Pour (A, B1 ) Sn Sn alors K = {(u, v ) = (x Ax, x B1 x) : x Rn } est un c one convexe ferm e de R2
v

13

Supposons que x Ax 0 x B1 x 0. K Q = o` u Q = {v 0, u < 0} 1 u 2 v < 0 , (u, v ) Q , 2 0 , 1 > 0 (u, v ) K , = 2 /1 0 , u v 0

JNMACS 06/09/05

111111111111111111111 000000000000000000000 000000000000000000000 111111111111111111111 000000000000000000000 111111111111111111111 000000000000000000000 111111111111111111111 000000000000000000000 111111111111111111111 000000000000000000000 111111111111111111111 000000000000000000000 111111111111111111111 000000000000000000000 111111111111111111111 000000000000000000000 111111111111111111111 000000000000000000000 u 111111111111111111111 000000000000000000000 111111111111111111111 000000000000000000000 111111111111111111111 000000000000000000000 111111111111111111111 K 000000000000000000000 111111111111111111111 000000000000000000000 111111111111111111111 000000000000000000000 111111111111111111111 000000000000000000000 111111111111111111111 000000000000000000000 111111111111111111111 000000000000000000000 111111111111111111111 000000000000000000000 111111111111111111111 000000000000000000000 111111111111111111111 000000000000000000000 111111111111111111111

Th eorie de Lyapunov, commande robuste et optimisation

Relaxation lagrangienne : th eor` emes des alternatives

Soit lapplication lin eaire A : E S Aadj : S E est lapplication adjointe x E, Z S, A(x), Z
S

14

= x, Aadj (Z )

Th eor` eme 2 (Alternative forte) Une des assertions suivantes est exactement v eri ee 1- x E tel que A(x) + A0 0
S

2- Z S+ telle que Aadj (Z ) = 0 et A0 , Z Th eor` eme 3 (Alternative faible) Une des assertions suivantes au plus est v eri ee 1- x E tel que A(x) + A0 0 2- Z S+ telle que Aadj (Z ) = 0 et A0 , Z

0 0 alors une seule des

De plus, si A0 = A(x0 ) pour x0 E ou si x E tel que A(x) assertions est exactement vraie.

Th eorie de Lyapunov, commande robuste et optimisation

JNMACS 06/09/05

Relaxation lagrangienne et th eorie de Lyapunov (I)

Soit la sous-r egion D du plan complexe C D = {s C : d 0 + d 1 s + d 1 s + d 2 s s < 0} A est D-stable ssi (A) D Caract erisation g en eralis ee de Lyapunov : P Sn | 1 A d0 d1 0 d1 d2 0 P 0

15

1 A

Formellement, s est remplac e par A et D par D P !

Th eorie de Lyapunov, commande robuste et optimisation

JNMACS 06/09/05

Relaxation lagrangienne et th eorie de Lyapunov (II)

Formulation equivalente du probl` eme de D-Stability : (A) D ssi > 0 avec =
s, q =0

16

min

q (A s1) (A s1)q s DC A 1 q p 0 A 1 q p

sous p = sq = min q p

p, q =0

sous q p

Th eorie de Lyapunov, commande robuste et optimisation

JNMACS 06/09/05

Relaxation lagrangienne et th eorie de Lyapunov (III)

Posant A = [A 1] et appliquant une relaxation lagrangienne A A q p q p D q p Si P S+ n telle que : q p

17

> trace P

alors > 0 et D P A A 0 Par application du lemme de projection, une condition susante est 1 0 1 A DP P Sn | A 0 P

La matrice de Lyapunov P une variable duale de Lagrange ou multiplieur de Lagrange Th eorie de Lyapunov, commande robuste et optimisation
JNMACS 06/09/05

Relaxation lagrangienne et th eorie de Lyapunov (IV)

D emonstration de la n ecessit e (saut de dualit e nul) Th eor` eme des alternatives pour Lyapunov g en eralis e [Balakrishnan 03] 1- P Sn A(P ) = 1 A DP 0
+ 2- (Z1 , Z2 ) S+ n Sn

18

1 A

0 P 0

Aadj (Z1 , Z2 ) = Z2 [1 A]D Z1 [1 A] = 0 Si la proposition 2 est v eri ee ( equivalent ` a la proposition 1 non v eri ee) alors le spectre de A nest pas enti` erement contenu dans D Th eorie de Lyapunov, commande robuste et optimisation
JNMACS 06/09/05

Relaxation lagrangienne et th eorie de Lyapunov (V)

Soient Q = [1 0], P = [0 1] et F (P ) = Q P d0 P d1 P d1 P d2 P Q P q =DP p )

19

La forme duale trace F (P )X = trace F D (X )P avec X = xx (x = = min trace A AX 0

X =0

sous F D (X ) X 0

rank X = 1 La relaxation de rang est duale de la relaxation lagrangienne

Th eorie de Lyapunov, commande robuste et optimisation

JNMACS 06/09/05

Relaxation lagrangienne : le lemme de Finsler

Soient H Cnm | rang(H ) = r < n et A Sn x Ax 0 pour tout x = 0 t.q. H x = 0 0 avec (H ) H = 0 0 0

20

(H ) AH

R | A + HH

X Cmn | A + XH + HX Application du th eor` eme des alternatives SDP :

1 R | HH + A 0 2 Z Sn : tr( H ZH ) = 0 et tr( AZ ) 0 ( H ) AH + 3 X Cmn | HX + XH + A 0 4 Z Sn + : ZH = 0 et tr(AZ ) 0 A + XH + HX

0 0

Nota : point de vue alg ebrique [Skelton 98] = point de vue de loptimisation (dualit e) Th eorie de Lyapunov, commande robuste et optimisation
JNMACS 06/09/05

Condition de stabilit e etendue

Th eor` eme 4 A est D-stable ssi P Sn , F Rnn et G Rnn t.q. F G 0 Nota : P et F G sont des variables issues de relaxations Lagrangiennes successives! + F G A 1 A DP + 1 0 0 P

21

Th eorie de Lyapunov, commande robuste et optimisation

JNMACS 06/09/05

Condition de stabilit e etendue : interpr etation

Th eor` eme 5 ([Ebihara 05]) A est D-stable ssi A1 (s) = s1 A est D-stable ssi F (s) multiplieur polyn omial t.q. A1 (s)F (s) + F (s)A1 (s) - Multiplieur polyn omial dordre 1 : F (s) = F s + G - Multiplieur dordre sup erieur : F (s) = s1 1 H11 H10 F11 F10 G11 G10 s1 1 s 1
2

22

s DC

Condition LMI equivalente :

0 0 0 1 0 1 1 0 0 0 DP 0 1 0 0 0 1 0 1 1 0 0 0 0 1 1 + He A 0 1 A 0 H11 H10 F11 F10 G11 G10

Th eorie de Lyapunov, commande robuste et optimisation

JNMACS 06/09/05

R eduction du pessimisme des relaxations

Th eor` eme 6 ([Peaucelle 00], [Ebihara 05]) A A = co {A1 , , AN } est D -stable de mani` ere robuste si Ai 1 F G
N

23

D Pi +

Ai

- Fonction de Lyapunov d ependant des param` etres P ( ) =

i=1

i Pi

0 0 0

0 1 1 0

0 D Pi 0 0 0 1 0

0 1 1 0

0 0 1

1 + He Ai 0

1 Ai

H11 H10 F11 F10 G11 G10

- Fonction de Lyapunov d ependant des param` etres P ( ) =

A ( ) 1

i Pi
i=1

A ( ) 1

Th eorie de Lyapunov, commande robuste et optimisation

JNMACS 06/09/05

Quelques enjeux de loptimisation en Automatique

Les enjeux th eoriques et num eriques li es ` a la non convexit e - Approches directes Lagrangien augment e (p enalit e [Apkarian 02], barri` ere [Ko cvara 02]) Optimisation non di erentiable [Oustry 00], [Overton 03] - Approches par relaxations convexes Evaluation syst ematique du pessimisme des relaxations (successives) [Nesterov 97], [Ben-Tal 00] LMI et SDP repr esentabilit e [Ben-Tal 01], [Helton 01] Au del` a de la dualit e SDP et Lagrangienne ? [Ramana 97] Les enjeux num eriques li es aux LMI de grande taille - Conditionnement num erique des probl` emes SDP [Miller 97], [Yildrim 03] - Temps de calcul, abilit e, exploitation de la structure [Vandenberghe 02] D emarche transversale m elant concepts et outils

24

Th eorie de Lyapunov, commande robuste et optimisation

JNMACS 06/09/05