MODELISATION IDENTIFICATION
DES PROCESSUS
Moindres-carrés récursifs
- principe du calcul récursif
- mise en oeuvre de la méthode récursive
- facteur de pondération, facteur d'oubli
Principe de la modélisation/estimation
Entrées
Sorties
Système réel
réelles
+ Erreur de
- modélisation
Sorties Critère
Critère
Modèle d'évaluation
d'évaluation
calculées
Ajustement du modèle
Variables
Observations
exogènes
Variables
+ +
endogènes
entrées sorties
Intérêt de la modélisation:
Note importante:
NOTION
DE
MODELE
Modèle
Modèle quantitatif
Un modèle est quantitatif lorsque les fonctions qui définissent les équations
sont spécifiées analytiquement.
Modèle paramétrique
Modèle de connaissance
Modèle de connaissance
Certains éléments du modèle peuvent ne pas être accessibles à l'identification.
Modèle de comportement
2 k
st = a0 a1 t a2 t ... a k t
- modélisation
Sorties
Modèle
Modèle Critère
Critère
modélisées
Sorties
Entrée
Système
Système
externe
+ Erreur de
- modélisation
Sorties
Modèle
Modèle Critère
Critère
modélisées
METHODES
DE
BASE
e t h t s t
s t = e∗h = ∫ e h t − d
0
1
Exemple du circuit du 1er ordre de la forme : L p =
1 p
1 1/
La réponse impulsionnelle est : S p = 1 . =
1p p 1/
1 −t /
D'où : s t = e
Réponse s
s0 Ke1
.
63%
Ke 1
s0
0 t
Le temps de réponse à 95% est environ de 3
Réponse
s0 a K t
st
.
s0
s0 a K t −
0
t
Master ASE1 – Identification des Processus – P. Bonnet 26
METHODES DE BASE
Méthode de Broïda
−Tp
réponse indicielle du 1er ordre H p = K
e avec retard
1 p
st
s0 Ke 1
40%
.
Ke 1
28%
s0
0 t
t 28 t 40
T = 2.8 t 28 − 1.8 t 40
= 5.5t 40 − t 28
Méthode de Strejc
K
réponse indicielle du 1er ordre H p = n
1 p
st
s0 Ke 1
.
Ke 1
s0
0 t
Tu Ta
Méthode de Strejc
Méthode fréquentielle
e t = A sin t st
ht
Excitation
A
Réponse
t0=0 t
j t
Ecriture complexe de l'entrée : e t = A e
j t
Le régime permanent de la sortie est : st = A H j e
Méthode fréquentielle
Elle permet de réaliser une excitation dans une large gamme de fréquences,
contrairement à l'échelon qui possède un spectre réduit. Le nombre de points
de mesure est élevé. L'analyse est donc beaucoup plus performante que
l'analyse temporelle.
∣H j ∣dB
arg H j
c = 1/ Log
∣H 0∣dB
Log
−45 °
c = 1/
−90°
Méthode fréquentielle
MODELE
AJUSTE
Objectif
Exemple : soit un ensemble de mesures expérimentales qui devraient suivre une loi affine
L'utilisateur trace le graphe des mesures, puis prend une règle (le modèle de la loi affine
ajustable en ordonnée et en pente) et tente l'ajuster "au mieux". La "qualité" de
l'ajustement diffère d'un opérateur à l'autre: le critère d'ajustement n'est pas
clairement exprimé; il est du domaine subjectif.
y1 y4 modèle ajustable x t
y0 y2 y3
0 1 2 3 4 .... t
y t i = x t i , a 1 , a 2 ... i
a 1 , a 2 ... = ∑ i 2
n1
n2
a 1 , a 2 ... = ∑ y t i − x t i , a 1, a 2 ...2
n1
Minimum du critère
1 2 0
1 0 0 0 0
1 0 0
8 0 0 0
8 0
6 0 0 0
6 0 4 0 0 0
min 4 0
2 0 0 0
0
2 0 0
0
0 2 4 6 8 1 0 1 2 1 4 1 6
a2 5
1 0
1 5
a1
1 0
1 5 5
a1
0
Recherche du minimum de
On suppose qu'il y a indépendance/orthogonalité des paramètres :
∂2 ∂2 ∂2
2
0 2
0 .... 2
0
∂a 1 ∂a 2 ∂a k
Note : Les méthodes de base ne tiennent pas compte des équations de contrainte;
ceci peut être une source d'erreur.
Resolution
Le minimum est obtenu pour un jeu de valeurs dites optimales pour le critère
considéré (critère des moindres-carrés)
Exemple d'application
Modélisation de 3 mesures successives par un modèle affine de la forme x t = a b t
y 1 =2 y 2=2
x t
y 0 =1
0 1 2 t
Méthode :
1°) Déterminer les valeurs prises par le modèle pour t = 0,1 ,2
Choix du modèle
Soit un modèle x t de variable explicative t caractérisé par un jeu de
paramètres p = {a 1 , a 2 ,... , a k }
Modèle linéaire
Le modèle est linéaire par rapport à ses paramètres s'il vérifie :
x t , 1 p1 2 p 2 = 1 x t , p1 2 x t , p2
Instants de n mesures :
t 1 , t 2 , ... , t n
x t 1 , x t 2 , ... , x t n
1 t1 y t 1 xt 1 = a 1 f 1 t 1 a 2 f 2 t 1 ... a k f k t 1
2 t2 y t 2 xt 2 = a 1 f 1 t 2 a 2 f 2 t 2 ... a k f k t 2
... ... ... ......
n tn y t n x t n = a 1 f 1 t n a 2 f 2 t n ... a k f k t n
n
= ∑ [ y t i − a 1 f 1 t i − a 2 f 2 t i −... − a k f k t i ]
2
i=1
∂ n
= − 2 ∑ f 1 t i [ y t i − a 1 f 1 t i − a 2 f 2 t i −... − a k f k t i ]
∂ a1 i=1
∂ n
= − 2 ∑ f 2 t i [ y t i − a 1 f 1 t i − a 2 f 2 t i −... − a k f k t i ]
∂ a2 i=1
....
∂ n
= − 2 ∑ f k t i [ y t i − a 1 f 1 t i − a 2 f 2 t i −... − a k f k t i ]
∂ ak i=1
∂ ∂ ∂
=0 =0 .... =0 a 1 , a 2 ,... , a k
∂ a1 ∂ a2 ∂ ak
Master ASE1 – Identification des Processus – P. Bonnet 44
AJUSTEMENT DU MODELE PAR LES MOINDRES-CARRES
Equations de minimisation :
n n n n
a1 ∑ f t i a 2 ∑ f 1 t i f 2 t i ... a k ∑ f 1 t i f k t i =
2
1 ∑ f 1 t i y t i
i=1 i=1 i=1 i=1
n n n n
2
a 1 ∑ f 1 t i f 2 t i a 2 ∑ f 2 t i ... a k ∑ f 2 t i f k t i = ∑ f 2 t i y t i
i=1 i=1 i=1 i=1
.....
n n n n
a 1 ∑ f 1 t i f k t i a 2 ∑ f 1 t i f 2 t i ... a k ∑ f t i = 2
k ∑ f k t i y t i
i=1 i=1 i=1 i=1
n
Présentation homogène du problème
∑ f 1 t i yi
i=1
n
Vecteur des
a1
Vecteur des Q = ∑ f 2 t i yi
paramètres = a2 mesures
i=1
...
à identifier ... pondérées n
ak ∑ f k t i yi
i=1
n n n
2
∑f 1 t i ∑ f 1 t i f 2 t i ... ∑ f 1 t i f k t i Matrice de
i=1 i=1 i=1
n n n pondération
R = ∑ f 2 t i f 1 t i ∑ f 22 t i ... ∑ f 2 t i f k t i symétrique
i=1 i=1 i=1
... ... ... ...
n n n
∑ f k t i f 1 t i ∑ f k t i f 2 t i ... ∑ f 2k t i
i=1 i=1 i=1
R = Q
= R−1 Q
x t 1 a1 f 1 t 1 a 2 f 2 t 1 ...a k f k t 1 yt 1
X = x t 2 = a1 f 1 t 2 a2 f 2 t 2 ...a k f k t 2 Y = yt 2
... ................ ...
x t n a1 f 1 t k a 2 f 2 t k ...ak f k t k yt n
f 1 t 1 f 2 t 1 ... f k t 1 a1
Posons: H =
f 1 t 2 f 2 t 2 ... f k t 2 = a2 ⇒ X = H
... ... ... ... ...
f 1 t n f 2 t n ... f k t n ak
L'erreur quadratique cumulée s'écrit: 1
n n
= ∑ yt i − xt i 2 = ∑ i2 = 1 2 ... n 2
...
i=1 i=1
n
Sachant que : = Y − X et que : X = H
∂
∂a 1
= H T H −1 H T Y
Exemple d'application
Modélisation de 3 mesures successives
par un modèle affine de la forme x t = a bt
y 1 =2 y 2=2
x t
y 0 =1
0 1 2 t
Méthode matricielle:
1°) Déterminer les valeurs prises par le modèle pour t = 0,1,2
2°) Construire le tableau des valeurs prises par le modèle
aux instants de mesure, le vecteur des observations.
T
3°) En déduire les matrices/vecteurs Y , H et = a , b
4°) Calculer la solution optimale
ANALYSE DE LA METHODE
DES MOINDRES-CARRES
= T Q
Avec Q matrice de pondération
- définie positive : toutes ses valeurs propres sont
positives strictement
- symétrique
Exemple :
1 0 ... 0
0 2 ... 0
Q =
... ... ... ...
0 0 ... n
On remarque que :
= 0 si et seulement si =0
53
Master ASE1 – Identification des Processus – P. Bonnet
ANALYSE DES MOINDRES-CARRES
Pondération du critère d'erreur quadratique cumulée :
= T Q
Minimisation du critère J par ajustement des paramètres :
= Y − H T
Q Y − H
∂ = − H T QY − H − Y − H T Q H
∂
∂ = =−2 H T QY − H = 0
∂
= H T Q H −1 H T Q Y
L'estimateur non-biaisé fournit une valeur non-décalée par rapport à la vraie valeur
T T
= H H H [ H v ]
−1
= H T H −1 H T v
−
] = H T H −1 H T E [v]
E [ −
Dans les cas usuels (bruit à valeur moyenne nulle), l'estimateur des
moindres-carrés est non-biaisé : la valeur estimée des paramètres est
proche de la vraie valeur en moyenne.
Il fournit une estimation non-décalée par rapport aux vraies valeurs.
2 2
= E [−
] avec
= E [] 1
Matrice de variance/covariance d'une grandeur vectorielle A = 2
...
A − A ]
A = E [ A − A T n
Terme de variance
[ ]
1 −1 2 1−1 2 −2 ... 1− 1 n −n
2
2 −2 1−1 2−2 ... 2− 2 n −n
A = E
... ... ... ...
n −n 1 −1 n −n 2 −2 ... n −n 2
Terme de covariance
Master ASE1 – Identification des Processus – P. Bonnet 57
ANALYSE DES MOINDRES-CARRES
= E [ − − T ]
= E [ [ H H H v][ H H H v] ]
T T T T T
−1 −1
= E [ H H H v v H H H ]
T −1 T T T −1 T
= [ H H H ] E [v v ] [ H H H ]
T −1 T T T −1 T
[ ]
2 2
v t1 0 ... 0 1 0 ... 0
2 2
T
E [v v ] = E
0 v t2 ... 0
=
0 2 ... 0
... ... ... ... ... ... ... ...
2 2
0 0 ... v tn 0 0 ... n
bruit = E [ v v T ]
= T Q = T −1
bruit
= H T −1 H −1
H T −1
bruit Y
bruit
X = H
E [ X X T ] = H H T
MOINDRES CARRES
RECURSIFS
yt 1 f 1 t 1 f 2 t 1 ... f k t 1
Y n = y t 2 X n = Hn =
f 1 t 2 f 2 t 2 ... f k t 2
... ... ... ... ...
y t n f 1 t n f 2 t n ... f k t n
n = H Tn H n −1 H Tn Y n
n T
= Y n− X n Y n − X n
Master ASE1 – Identification des Processus – P. Bonnet 63
MOINDRES-CARRES RECURSIFS
T
avec Rn = H n H n de dimension (kxk)
T
et Q n = H n Y n de dimension (kx1)
y t 1 f 1 t 1 f 2 t 1 ... f k t 1
y t 2 f 1 t 2 f 2 t 2 ... f k t 2
Y n1 = ... X n1 = H n1 = ... ... ... ...
y t n f 1 t n f 2 t n ... f k t n
y t n1 f 1 t n1 f 2 t n1 ... f k t n1
Posons :
Y n1 =
Yn
y t n1
X n1 =
Xn
x n1
=
Hn
hTn1
Posons :
H
T
n1 H n1 =
H
T
n h n1
Hn
T
hn1
T T T
H n1 H n1 = H n H n hn1 h n1
T
Calcul de H n1 Y n1 :
H
T
n1 Y n1 =
H
T
n h n1
Yn
y n1
H Tn1 Y n1 = H Tn Y n hn1 y n1
Master ASE1 – Identification des Processus – P. Bonnet 67
MOINDRES-CARRES RECURSIFS
Expression récursive de base:
T T T
n1 = H n H n h n1 h n1 H n Y n h n1 y n1
−1
En déduire n = R−1
n Q n estimation initiale au rang n
Posons T
P n = H n H n
−1
et
T
P n1 = H n H n hn1 hn1
T −1
Lemme d'inversion :
Soit A = B C A−1 = B−1 − B−1 C B−1 [ I B−1 C ]−1
P n1 = H Tn H n −1 − H Tn H n −1 h n1 h Tn1 H Tn H n −1 [ 1 hTn1 H Tn H n −1 h n1 ]−1
T T −1
= P n − P n h n1 h n1 P n [ 1 h n1 P n h n1 ]
= P n − P n h n1 [ 1 h Tn1 P n h n1 ]−1 h Tn1 P n
Master ASE1 – Identification des Processus – P. Bonnet 69
MOINDRES-CARRES RECURSIFS
Calcul récursif évolué :
−1
K n1 = P n h n1 [ 1 h n1 P n hn1 ]
T
1
T T T
n1 = H n H n h n1 h n1 H n Y n h n1 y n1
−1
T
P n hn1 h n1 Pn
P n1 = P n −
1 hTn P n hn1
P 1 = I − K 1 hT1 P 00
Itérer une deuxième fois
T −1
K 2 = P 1 h2 [1 h2 P 1 h 2 ]
T
2 = 1 K 2 y 2 − h 2 1
T
P 2 = I − K 2 h2 P 1
P n1 =
1
1
Pn −
P n h n1 hTn1 P n
T
1 / 2 h n1 P n h n1
Master ASE1 – Identification des Processus – P. Bonnet 75
MOINDRES-CARRES RECURSIFS
Introduction d'un facteur d'oubli
choix : 1 = cste 2 = 1
diminution du "poids" des anciennes mesures au profit des plus récentes
d'où le principe du "facteur d'oubli" du passé
Loi résultante:
n1 = H Tn H n hn1 hTn1 −1 H Tn Y n h n1 y n1 avec 01
A chaque étape de la récurrence, on multiplie le "poids" des anciennes mesures par le
facteur d'oubli
Récurrence obtenue :
[ T
n1 = n K n1 y n1 − hn1 n ]
P n hn1
K n1 =
hTn1 P n h n1
1
P n1 = I − K n1 hTn1 P n
Principale application : suivi des paramètres d'un système évoluant dans le temps
Exemple : suivi des paramètres d'un modèle linéaire par morceaux x = at b , pour
des données présentant des discontinuités de modèle .
tr P n1 =
1
1
tr P n −
P n h n1 h Tn1 P n
T
1 / 2 h n1 P n h n1
Les valeurs de 1 et 2 sont déduites de cette équation, le rapport 1 / 2 étant fixé à
une valeur constante
MOINDRES-CARRES
NON-LINEAIRES
y0
0 1 2 3 4 5 t
t
−
L'expression du modèle est : f t , = K 1 − e
T
avec = [ K , ]
la dépendance vis à vis du paramètre est non-linéaire , il n'est plus possible de
résoudre le système par la méthode linéaire (pas de matrice H )
[ ]
Etape initiale f t 1, 0
T f t 2, 0
Pour 0 = [ a 10 , a 20 , ...
, ] le modèle prend les valeurs : F t , 0 =
...
f t n , 0
L'erreur entre le modèle et les mesures est : = Y − F t , 0
Généralement, l'erreur cumulée sera importante , les conditions initiales étant éloignées
de la solution optimale.
∂
[ ]
∂ f t 1 ∂ f t 1 ∂ f t 1
...
∂ a1 ∂ a2 ∂ ak
∂ f t 2 ∂ f t 2 ∂ f t2
∂ F t , 0 ...
Avec : J 0 = = ∂ a1 ∂ a2 ∂ ak
∂
... ... ... ...
jacobienne de f/paramètres ∂ f t n ∂ f t n ∂ f t n
...
∂ a1 ∂ a2 ∂ ak
On en déduit la valeur de l'accroissement à faire sur les paramètres pour minimiser l'erreur:
−1
= [ J 0 . J 0 ] . J 0 Y −F t , 0
T T
Itération
On itère en définissant les nouvelles valeurs des paramètres 1 = 0 et les
nouvelles valeurs du modèle F t , 1 . La correction suivante à faire sera :
T −1 T
= [ J 1 . J 1 ] . J 1 Y − F t , 1
0 = . max [ J T J ]
Temps en s 0 1 2 3 4 5
y(t) 0.05 0.45 0.59 0.64 0.64 0.69
L'observation directe montre que le gain (valeur finale) est proche de 0.7 et la constante
de temps de l'ordre de la seconde (échelle de temps) t
−
T
Le modèle de la réponse indicielle est : f t , = K 1 − e avec = [ K , ]
La matrice du Jacobien est construite à partir des dérivées partielles de f par rapport à
−t −t
∂ f t , ∂ f t , t
= 1−e = −K 2 e
∂K ∂
Contrairement au cas d'un modèle linéaire/paramètres, les dérivées partielles dépendent
des paramètres eux-mêmes.
Il faut fixer une valeur initiale de K et pour donner une valeur à la matrice Jacobienne
Valeurs initiales proposées : K 0 = 1 0 = 1
Master ASE1 – Identification des Processus – P. Bonnet 86
MOINDRES CARRES NON-LINEAIRES
Méthode de Gauss-Newton
[ ] []
0. 0. 0.
0.63 −0.37 0.63
0.86 −0.27 0.86
La matrice Jacobienne est : J 0 = les valeurs du modèle : F 0 =
0.95 −0.15 0.95
0.98 −0.07 0.98
0.99 −0.03 0.99
MODELISATION
DES
SYSTEMES
Sorties
Entrée
Système
externe
+ Erreur de
- modélisation
Sorties
Modèle
modélisées
modèle de récurrence
Le membre de droite représente le modèle . Il est défini à partir des mesures , et non à
partir des valeurs modélisées précédentes. On remarque que c'est un modèle avec
erreur (la somme pondérée des erreurs faites sur chacune de observations faites aux
instants n-1, ...,n-p ) . De ce fait, le modèle est biaisé (erreur systématique si les
mesures sont corrélées)
instant N-k:
y N −k = −a1 y N −1−k − a 2 y N −2−k −...− a p y N − p−k
écriture matricielle
Les mesures sont liées à l'entrée par la relation :
[]
a1
[ ][ ] [ ]
yN − y N −1 ... − y N − p uN u N −q . N
y N −1 − y N −2 ... − y N − p−1 u N −1 u N −q−1 ap N −1
=
.. . ... ... ... ... ... b0 ...
y N −k − y N −1−k ... − y N − p−k u p1 u N −q−k . p1
bq
[]
a1
[ ]
yN .
Posons : vecteur y N −1 vecteur des
=
ap
des mesures
Y = para mètres
... b0
y N −k .
bq
[ ]
− y N −1 ... − y N − p uN u N −q
− y N −2 ... − y N − p−1 u N −1 u N −q−1
H =
... ... ... ... ...
− y N −1−k ... − y N − p−k u p1 u N −q−k
= H T −1 H T Y
La matrice H est :
[ ]
− y 1 u 1
−y 2 u 2
H=
... ...
− y n−1 u n−1
Les valeurs obtenues sont :
[
= −0.577
0.444 ]
Master ASE1 – Identification des Processus – P. Bonnet 99
MODELISATION DES SYSTEMES
Résolution par les moindres carrés récursifs:
Modèle à 2 paramètres a1 et b1 :
Valeurs initiales:
T
00 = [0 0]
P 00 =
[ 1000
0
0
1000 ]
Récurrence avec le vecteur
h n1 = [− y n u n]T