Vous êtes sur la page 1sur 102

Master ASE1 Identification des Processus P.

Bonnet
1
MODELISATION IDENTIFICATION
DES PROCESSUS
MASTER ASE 1re anne

Master ASE1 Identification des Processus P. Bonnet
2
Pierre BONNET
2010-2011

Master ASE1 Identification des Processus P. Bonnet
3
Prsentation
- objectifs du cours et domaines d'application
PLAN DU COURS
Notion de modle
- modle paramtrique
- modle de connaissance/modle de comportement
- modle de signal/modle de systme
Rappel des mthodes de base en Automatique
- rponse temporelle d'un systme
- identification directe partir de la rponse temporelle
- approche frquentielle
Principe d'ajustement du modle
- modle linaire par rapport aux paramtres
- minimisation du critre d'ajustement et calcul de la solution optimale
- criture matricielle de la mthode des moindres-carrs
Analyse de la mthode des moindres-carrs
- Biais d'estimation
- Variance de l'estimation
- estimateur du maximum de vraisemblance
- rejet des mesures aberrantes

Master ASE1 Identification des Processus P. Bonnet
4
Extension aux modles non-linaires
- mthode de Gauss
- analyse et amliorations
PLAN DU COURS
Moindres-carrs rcursifs
- principe du calcul rcursif
- mise en oeuvre de la mthode rcursive
- facteur de pondration, facteur d'oubli
Modlisation d'un systme
- choix d'un modle discret ARMA
- mise en place de la mthode des moindres-carrs
- comportement du modle vis vis du bruit
- le modle ARMAX

Master ASE1 Identification des Processus P. Bonnet
5
Bibliographie
- Identification des systmes - Ioan D. Landau - Herms 1998
- Estimation Prdiction - E. Duflos & Ph. Vanheeghe - Technip 2000
- Identification et commande numrique des procds industriels - R. Ben
Abdennour , P. Borne, M. Ksouri & F. M'sahli - Technip -2001
- Modlisation et Identification des Processus - P. Borne - Technip 1992
- Cours d'Identification de l'Universit de Lund (Sude)
http://www.control.lth.se/course/FRT041/
- Cours d'identification de l'EPFL (Suisse)
http://lawww.epfl.ch/page4230.html
PLAN DU COURS

Master ASE1 Identification des Processus P. Bonnet
6
OBJECTIFS DU COURS
Donner les principes fondamentaux de la modlisation et de l'estimation
de paramtres appliqus aux systmes rencontrs dans de nombreux
domaines scientifiques :
l'Automatique pour laquelle la connaissance du modle est indispensable
pour synthtiser une loi de commande
les Sciences Exprimentales, lorsque la validation d'une thorie se fait par
des manipulations exprimentales (physique atomique, microlectronique...)
la Biologie, l'Economie, les Statistiques
partout o des observations sont valides par un principe de
fonctionnement (rgles mathmatiques)

Master ASE1 Identification des Processus P. Bonnet
7
Systme rel
Sorties
relles
Erreur de
modlisation
Principe de la modlisation/estimation
Modle
+
-
Ajustement du modle
Critre
d'valuation
Critre
d'valuation
Sorties
calcules
Entres
OBJECTIFS DU COURS

Master ASE1 Identification des Processus P. Bonnet
8
Variables
endognes
entres sorties
+
Bruit sur les
entres
+
Bruit sur les
sorties
Evolution des paramtres
caractristiques
Perturbations du
systme
Variables
exognes
Observations
Diffrence entre modle et systme rel
Le modle ne prend pas en compte les grandeurs non mesurables
OBJECTIFS DU COURS

Master ASE1 Identification des Processus P. Bonnet
9
Intrt de la modlisation:
Fournir un modle mathmatique acceptable pour un systme dont on peut
"driver" de nombreuses informations relatives son fonctionnement dynamique :
calculer la drive du signal de sortie, les drives successives
dterminer un extremum (local) du signal
valuer des grandeurs endognes (observateur d'tat)
valuer la drive d'un systme
dtecter la dfaillance d'un systme
donner des valeurs estimes/filtres du signal de sortie
extrapoler/prdire le fonctionnement au del des observations faites
interpoler le fonctionnement entre deux points observs
OBJECTIFS DU COURS
donner des valeurs pour certains paramtres
caractristiques du processus tudi

Master ASE1 Identification des Processus P. Bonnet
10
Note importante:
Si vous estimez que ce cours manque d'exemples ou d'applications, il vous suffit
d'assister aux exposs en Amphi Maxwell ! (pas de grasse matine, le cours est
8h)
Les exemples vous sont prsents, avec dmonstration sur Matlab/Scilab et le
tableau noir est largement utilis pour complter ces transparents.
OBJECTIFS DU COURS

Master ASE1 Identification des Processus P. Bonnet
11
NOTION DE MODELE

NOTION DE MODELE
NOTION
DE
MODELE

Master ASE1 Identification des Processus P. Bonnet
12
NOTION DE MODELE
Modle
Un modle est une structure mathmatique pouvant reprsenter le systme
tudi. Cette structure doit comporter des lments d'ajustement.
la structure du modle reprsente la connaissance priori que l'utilisateur
souhaite placer dans le modle
F( p) =
N ( p)
D( p)
avec N ( p) et D( p) polynme en p
Exemple : les fonctions de transfert du type
peuvent reprsenter une partie des systmes linaires diffrentiels
coefficients constants (systmes SISO)

Master ASE1 Identification des Processus P. Bonnet
13
NOTION DE MODELE
Modle quantitatif
Un modle est quantitatif lorsque les fonctions qui dfinissent les quations
sont spcifies analytiquement.
Dans un modle quantitatif, une suite d'opration permet le calcul de la valeur
numrique des fonctions du modle partir de leurs arguments [et des
entres du systme]
Exemple : l'quation diffrentielle d'un systme est un modle quantitatif
(domaine temporel), de mme que la fonction de transfert d'un systme
diffrentiel coefficients constants (domaine symbolique de Laplace).
les systmes alatoires sont rgis par des modles stochastiques ; la
valeur d'une variable alatoire ne peut tre calcule un instant t .

Master ASE1 Identification des Processus P. Bonnet
14
NOTION DE MODELE
Modle paramtrique
Un modle quantitatif est paramtrique lorsque son expression analytique
comporte un nombre fini de constantes non-prcises numriquement appels
paramtres .
L'expression gnrale d'un modle paramtrique est:
avec variable explicative du modle
Les paramtres reprsentent les constantes d'ajustement du modle aux
mesures
X (t ) = f (t , a
1,
a
2,
... , a
k
)
t
K
t
p
F( p) =
K
1 +t p
Exemple : La fonction de transfert d'un systme diffrentiel du premier
ordre est un modle paramtrique, tout comme son quation diffrentielle.
et sont les paramtres du modle,
variable explicative du modle (variable complexe de Laplace)


Master ASE1 Identification des Processus P. Bonnet
15
NOTION DE MODELE
Modle de connaissance
Un modle de connaissance est un modle dont les paramtres reprsentent
des grandeurs caractristiques de la structure tudie.
Exemple : rponse impulsionnelle d'un systme du 1
er
ordre
reprsente le gain statique du systme
reprsente la constante de temps
les paramtres du modle seront dtermins par quelques caractristiques
graphiques de la rponse ou des mthodes plus complexes
s(t ) = K e
t /t
K
t

Master ASE1 Identification des Processus P. Bonnet
16
NOTION DE MODELE
Modle de connaissance
Certains lments du modle peuvent ne pas tre accessibles l'identification.
Exemple : systme lectrique du 1
er
ordre
s(t ) = K (1 e
t / t
)
K =
R
2
R
1
+ R
2
R
1
R
2
C
t =( R
1
// R
2
). C
La rponse indicielle (chelon unit) permet de dterminer K et
mais pas la valeur des 3 composants.
t

Master ASE1 Identification des Processus P. Bonnet
17
NOTION DE MODELE
Modle de comportement
Un modle de comportement est un modle dont la structure et les
paramtres sont sans rapport avec le systme rel
s(t) = a
0
+a
1
t +a
2
t
2
+...+a
k
t
k
Exemple : rponse impulsionnelle d'un systme du 2
me
ordre modlis par un
dveloppement en srie limit coefficients rels.
aucun des coefficients du modle ne reprsente les paramtres
caractristiques d'un second ordre (gain, amortissement et frquence
naturelle), mme pour un calcul d'ordre fini.

Master ASE1 Identification des Processus P. Bonnet
18
NOTION DE MODELE
Modlisation d'un systme sans entre
La dtermination des paramtres d'un systme sans entre se fait partir de
l'observation de sa sortie (signal de sortie)
l'outil de modlisation intgre la connaissance priori du processus
gnrateur.
Systme
Systme
Modle
Modle
Sorties Sorties
Sorties
modlises
Erreur de
modlisation
+
-
Critre
Critre

Master ASE1 Identification des Processus P. Bonnet
19
NOTION DE MODELE
Modlisation d'un systme avec entre
La dtermination des paramtres d'un systme se fait partir de
l'observation de sa sortie, compte-tenu de l'entre applique.
Systme
Systme
Modle
Modle
Entre
externe
Sorties Sorties
Sorties
modlises
Erreur de
modlisation
+
-
Critre
Critre
l'outil de modlisation doit donc prendre en compte
le signal de sortie ET le signal d'entre.
Le degr de complexit est donc augment.


Master ASE1 Identification des Processus P. Bonnet
20
METHODES DE BASE
METHODES
DE
BASE

Master ASE1 Identification des Processus P. Bonnet
21
METHODES DE BASE
Principe des mthodes de base
Les mthodes de base (graphique, Broda, Strecj, rponse harmonique...)
donnent usuellement un modle de comportement . Pour les systmes simples,
le modle de comportement correspond au modle de connaissance.
La dtermination des paramtres se fait partir de la seule observation
de la sortie . Ces mthodes s'apparentent donc des mthodes de modlisation
de signaux ou de donnes exprimentales.
Elles s'appuient sur l'analyse graphique des courbes exprimentales en
quelques points particuliers et ne tiennent pas compte de l'ensemble des mesures.
Leur robustesse au bruit de mesure est faible.

Master ASE1 Identification des Processus P. Bonnet
22
METHODES DE BASE
Relation entre, sortie et systme
La sortie d'un systme linaire est le produit de convolution entre le
signal d'entre et la rponse impulsionnelle du systme.
La sortie est caractristique du systme pour des signaux lmentaires
tels que l'impulsion de Dirac, l'chelon ou la rampe
.
h(t )
s(t )
e(t )
s(t ) =eh =

0
t
e(t)h(t t) d t

Master ASE1 Identification des Processus P. Bonnet
23
METHODES DE BASE
Relation entre, sortie et systme
Le signal d'excitation le plus courant est l'chelon. L'identification se
fait donc partir de la rponse indicielle.
Remarque : on peut passer de la rponse impulsionnelle la rponse indicielle
par intgration [numrique] des mesures
Si le systme prsente une intgration dans sa fonction de transfert
(ple nul), il suffit de driver [numriquement] les mesures pour obtenir la
rponse d'un systme quivalent sans intgration.

Master ASE1 Identification des Processus P. Bonnet
24
METHODES DE BASE
Relation entre, sortie et systme
Exemple du circuit du 1er ordre de la forme :
La rponse impulsionnelle est :
D'o :
L'intgration de la rponse impulsionnelle donne la rponse indicielle:
.
L( p) =
1
1 +t p
S ( p) = 1.
1
1 +t p
=
1/t
p +1/ t
s(t ) =
1
t
e
t /t

0
t
s( u) du =
1
t
|te
t /t

0
t
= 1 e
t /t

Master ASE1 Identification des Processus P. Bonnet
25
METHODES DE BASE
Mthode graphique directe
1er ordre soumis un chelon

.
s(t ) = K e
1
(1 e

t
t
) + s
0
H ( p) =
K
(1 + t p)
t
0
Rponse
s
s
0
63%
s
0
+ Ke
1
t
Ke
1
e(t ) = e
1
u(t )
Le temps de rponse 95% est environ de 3
t
Le temps de monte est:

Master ASE1 Identification des Processus P. Bonnet
26
METHODES DE BASE
Mthode graphique directe
1er ordre soumis une rampe

.
s(t ) = a Kte

t
t
+ a K(t t)
H ( p) =
K
(1 + t p)
e(t ) = a t u(t )
t
0
t
Rponse
s(t )
s
0
s
0
+ a K t
s
0
+ a K(t t)

Master ASE1 Identification des Processus P. Bonnet
27
METHODES DE BASE
Mthode de Broda
rponse indicielle du 1er ordre avec retard

.
H ( p) = K
e
Tp
(1 +t p)
t
0
s(t )
s
0
s
0
+ Ke
1
28%
40%
t
28
Ke
1
t
40
T = 2.8t
28
1.8t
40
t =5.5(t
40
t
28
)

Master ASE1 Identification des Processus P. Bonnet
28
METHODES DE BASE
Mthode de Strejc
rponse indicielle du 1er ordre

.
H ( p) =
K
(1 + t p)
n
t
0
s(t )
s
0
s
0
+ Ke
1
T
u
Ke
1
T
a

Master ASE1 Identification des Processus P. Bonnet
29
METHODES DE BASE
Mthode de Strejc
La mthode dfinit une valeur de n
non-entire ;
gnralement, on arrondit cette
valeur l'entier le plus proche.

.

Master ASE1 Identification des Processus P. Bonnet
30
METHODES DE BASE
Mthode frquentielle
La mthode frquentielle s'appuie sur la rponse harmonique du systme.
t
A
t
0
=0
Excitation
Rponse
h(t )
s(t )
e(t ) = Asin(ot )
s(t ) = AH( j o)e
j ot
Ecriture complexe de l'entre :
Le rgime permanent de la sortie est :
e(t ) = Ae
j ot

Master ASE1 Identification des Processus P. Bonnet
31
METHODES DE BASE
Mthode frquentielle
Elle permet de raliser une excitation dans une large gamme de frquences,
contrairement l'chelon qui possde un spectre rduit. Le nombre de points
de mesure est lev. L'analyse est donc beaucoup plus performante que
l'analyse temporelle.
Log o
H( j o)
dB
o
c
=1/t
H
0

dB
Log o
arg H( j o)
o
c
= 1/t
45
90
la dtermination des paramtres du systme se fait gnralement
graphiquement (asymptotes, coupure, rsonance...)

Master ASE1 Identification des Processus P. Bonnet
32
METHODES DE BASE
Mthode frquentielle
Utilisation d'un signal d'excitation large bande pour dterminer
directement la rponse frquentielle en une seule mesure :
La transforme de Fourier de la rponse impulsionnelle s'obtient par :
Il suffit donc de dterminer les transformes de Fourier de l'entre et la
sortie pour dterminer la rponse frquentielle du systme
La mthode est valide sous rserve d'absence de zro dans le spectre
du signal d'excitation.
On utilise un bruit blanc ou une SBPA pour l'excitation
s(t ) = eh =

0
t
e(t) h(t t) d t
S (o) = E(o). H(o)
H (o) =
S (o)
E(o)

Master ASE1 Identification des Processus P. Bonnet
33
MODELE AJUSTE
MODELE
AJUSTE

Master ASE1 Identification des Processus P. Bonnet
34
Objectif
L'ide est de reproduire le travail de l'homme lorsqu'il "ajuste" manuellement
/graphiquement le modle qu'il souhaite appliquer.
Exemple : soit un ensemble de mesures exprimentales qui devraient suivre une loi affine
L'utilisateur trace le graphe des mesures, puis prend une rgle (le modle de la loi affine
ajustable en ordonne et en pente) et tente l'ajuster "au mieux". La "qualit" de
l'ajustement diffre d'un oprateur l'autre: le critre d'ajustement n'est pas
clairement exprim; il est du domaine subjectif.
0 1 2
t
y
0
y
1
y
2
modle ajustable x (t )
y
3
3 4
....
y
4
MODELE AJUSTE

Master ASE1 Identification des Processus P. Bonnet
35
Critre d'valuation de l'erreur de modlisation
Soient : les observations faites sur le systme
les valeurs prises par le modles aux instants
d'observation
y(t
i
)
x(t
i
, a
1
, a
2
...)
e
i
y(t
i
) = x(t
i
, a
1
, a
2
...) +e
i
Posons cart [erreur] entre les mesures et le modle

e( a
1
, a
2
...) =

n
1
n
2
( y(t
i
) x (t
i
, a
1,
a
2
...))
2
L'erreur quadratique cumule est :
e( a
1
, a
2
...) =

n
1
n
2
e
i
2
MODELE AJUSTE
Note : il existe d'autres critres possibles (distance gnralise par exemple)

Master ASE1 Identification des Processus P. Bonnet
36
Minimum du critre
Le critre prsente une dpendance quadratique vis vis des
paramtres .
0 2 4 6 8 1 0 1 2 1 4 1 6
0
2 0
4 0
6 0
8 0
1 0 0
1 2 0
0
5
1 0
1 5
0
5
1 0
1 5
0
2 0 0 0
4 0 0 0
6 0 0 0
8 0 0 0
1 0 0 0 0
a
1
e
min
a
1
a
2
e
MODELE AJUSTE

Master ASE1 Identification des Processus P. Bonnet
37
Recherche du minimum de
On suppose qu'il y a indpendance/orthogonalit des paramtres :
Le critre d'erreur prsente un minimum pour :

et

e
a
1
=0
e
a
2
=0 ....
e
a
k
=0

2
e
a
1
2
>0

2
e
a
2
2
>0 ....

2
e
a
k
2
>0
e
e
Note : Les mthodes de base ne tiennent pas compte des quations de contrainte;
ceci peut tre une source d'erreur.
MODELE AJUSTE

Master ASE1 Identification des Processus P. Bonnet
38
Resolution
Le minimum est obtenu pour un jeu de valeurs dites optimales pour le critre
considr (critre des moindres-carrs)

Le modle le plus proche des mesures au sens du critre d'erreur est :
e
a
i
= 0
a
1
, a
2,
... , a
k
x(t ) = x (t , a
1
, a
2
, ... a
k
)
Rsolution des k quations
Note : Selon la nature du modle (linaire ou non-linaire par rapport aux
paramtres), la rsolution des quations peut poser problme . Ce cours porte
essentiellement sur les mthodes de base applicable aux modles linaires.
MODELE AJUSTE

Master ASE1 Identification des Processus P. Bonnet
39
Exemple d'application
Modlisation de 3 mesures successives par un modle affine de la forme

0 1 2 t
y
0
=1
y
1
=2
y
2
=2
x(t )
x (t ) = a + b t
t = 0,1,2
y
0
, y
1
, y
2
e
a
,
e
b
a ,

b
Mthode :
1) Dterminer les valeurs prises par le modle pour
2) Exprimer partir des valeurs de x(t) et des mesures
3) Former les drives partielles
4) Rsoudre le systme (Cramer) pour obtenir
e
MODELE AJUSTE

Master ASE1 Identification des Processus P. Bonnet
40
AJUSTEMENT DU
MODELE

Master ASE1 Identification des Processus P. Bonnet
41
x(t ) = a
1
f
1
(t ) + a
2
f
2
(t ) +...
f
1
(t ) , f
2
(t )...
Un modle linaire par rapport ses paramtres a une expression du type:
Les sont les "formants" du modle
Exemples :
x(t ) = a
0
+ a
1
t +a
2
t
2
... x(t ) = A cos(10t) + Bsin(10t)
Choix du modle
Soit un modle de variable explicative t caractris par un jeu de
paramtres
Modle linaire
Le modle est linaire par rapport ses paramtres s'il vrifie :

p =a
1
, a
2
, ... , a
k

x(t , \
1
p
1
+ \
2
p
2
) = \
1
x(t , p
1
) +\
2
x (t , p
2
)
x(t )
AJUSTEMENT DU MODELE PAR LES MOINDRES-CARRES

Master ASE1 Identification des Processus P. Bonnet
42
Cas du modle linaire/paramtres d'ajustement
Modle linaire k paramtres :
Instants de n mesures :
Mesures de la sortie du systme :
Expression du modle aux instants de mesures :
Critre d'erreur cumule optimiser

x(t ) = a
1
f
1
(t ) + a
2
f
2
(t ) +...+ a
k
f
k
(t )
t
1
, t
2
, ... , t
n
y(t
1
) , y(t
2
) , ... , y(t
n
)
x(t
1
) , x(t
2
) , ... , x(t
n
)
e( a
1
, a
2
...) =

i=1
n
( y(t
i
) x (t
i
))
2
AJUSTEMENT DU MODELE PAR LES MOINDRES-CARRES

Master ASE1 Identification des Processus P. Bonnet
43


n abcisse mesure modle
1 t
1
y(t
1
) x(t
1
) = a
1
f
1
(t
1
) + a
2
f
2
(t
1
) +...+ a
k
f
k
(t
1
)
2 t
2
y(t
2
) x(t
2
) = a
1
f
1
(t
2
) + a
2
f
2
(t
2
) +...+ a
k
f
k
(t
2
)
... ... ... ......
n t
n
y(t
n
) x(t
n
) = a
1
f
1
(t
n
) + a
2
f
2
(t
n
) +...+ a
k
f
k
(t
n
)
e =

i=1
n
| y (t
i
) a
1
f
1
(t
i
) a
2
f
2
(t
i
) ... a
k
f
k
(t
i
)
2
Prsentation des donnes du problme
AJUSTEMENT DU MODELE PAR LES MOINDRES-CARRES

Master ASE1 Identification des Processus P. Bonnet
44
Calcul des drives du critre quadratique
e
a
1
= 2

i=1
n
f
1
(t
i
)| y(t
i
) a
1
f
1
(t
i
) a
2
f
2
(t
i
) ... a
k
f
k
(t
i
)
e
a
2
= 2

i=1
n
f
2
(t
i
)| y (t
i
) a
1
f
1
(t
i
) a
2
f
2
(t
i
) ... a
k
f
k
(t
i
)
....
e
a
k
= 2

i=1
n
f
k
(t
i
)| y(t
i
) a
1
f
1
(t
i
) a
2
f
2
(t
i
) ... a
k
f
k
(t
i
)
e
a
1
=0
e
a
2
=0 ....
e
a
k
=0 - a
1
, a
2
, ... , a
k
Minimisation du critre d'erreur quadratique
AJUSTEMENT DU MODELE PAR LES MOINDRES-CARRES

Master ASE1 Identification des Processus P. Bonnet
45
Prsentation homogne du problme
Equations de minimisation :
a
1

i=1
n
f
1
2
(t
i
) + a
2

i=1
n
f
1
(t
i
) f
2
(t
i
) + ... + a
k

i=1
n
f
1
(t
i
) f
k
(t
i
) =

i=1
n
f
1
(t
i
) y (t
i
)
a
1

i=1
n
f
1
(t
i
) f
2
(t
i
) + a
2

i=1
n
f
2
2
(t
i
) + ... + a
k

i=1
n
f
2
(t
i
) f
k
(t
i
) =

i=1
n
f
2
(t
i
) y(t
i
)
.....
a
1

i=1
n
f
1
(t
i
) f
k
(t
i
) + a
2

i=1
n
f
1
(t
i
) f
2
(t
i
) + ... + a
k

i=1
n
f
k
2
(t
i
) =

i=1
n
f
k
(t
i
) y (t
i
)
AJUSTEMENT DU MODELE PAR LES MOINDRES-CARRES

Master ASE1 Identification des Processus P. Bonnet
46
Prsentation homogne du problme

Vecteur des Vecteur des
paramtres mesures
identifier pondres
Matrice de
pondration
symtrique
0 =
(
a
1
a
2
...
a
k
)
Q =
(

i=1
n
f
1
(t
i
) y
i

i =1
n
f
2
(t
i
) y
i
...

i=1
n
f
k
(t
i
) y
i
)
R =
(

i =1
n
f
1
2
(t
i
)

i =1
n
f
1
(t
i
) f
2
(t
i
) ...

i =1
n
f
1
(t
i
) f
k
(t
i
)

i=1
n
f
2
(t
i
) f
1
(t
i
)

i=1
n
f
2
2
(t
i
) ...

i=1
n
f
2
(t
i
) f
k
(t
i
)
... ... ... ...

i =1
n
f
k
(t
i
) f
1
(t
i
)

i=1
n
f
k
(t
i
) f
2
(t
i
) ...

i=1
n
f
k
2
(t
i
)
)
AJUSTEMENT DU MODELE PAR LES MOINDRES-CARRES

Master ASE1 Identification des Processus P. Bonnet
47
Prsentation homogne du problme

Les quations de minimisation peuvent s'crire:
La rsolution de cette quation matricielle donne la solution optimale pour le
modle :
sous rserve que la matrice R soit inversible
R0 = Q

0 = R
1
Q
AJUSTEMENT DU MODELE PAR LES MOINDRES-CARRES
Exemples : reprise de l'exercice de la page 32, autre exercice sur le signal sinusodal
Formules utiles
x=Asinot+Bcosot
cos
2
ot =(1+cos (2ot ))/ 2 sin
2
ot =(1cos( 2ot ))/ 2 sinot cos ot=1/ 2sin(2ot )

Master ASE1 Identification des Processus P. Bonnet
48
Ecriture matricielle du problme des moindres-carrs :

Soit x(t) le modle linaire par rapport ses paramtres:

Soit X l'ensemble des valeurs prises par le modle et Y les mesures:


Posons:
x(t ) = a
1
f
1
(t ) + a
2
f
2
(t ) +...+ a
k
f
k
(t )
X =
(
x(t
1
)
x(t
2
)
...
x(t
n
)
)
=
(
a
1
f
1
(t
1
)+a
2
f
2
(t
1
)+...+a
k
f
k
(t
1
)
a
1
f
1
(t
2
)+a
2
f
2
(t
2
)+...+a
k
f
k
(t
2
)
................
a
1
f
1
(t
n
)+a
2
f
2
(t
n
)+...+a
k
f
k
(t
n
)
)
H =
(
f
1
(t
1
) f
2
(t
1
) ... f
k
(t
1
)
f
1
(t
2
) f
2
(t
2
) ... f
k
(t
2
)
... ... ... ...
f
1
(t
n
) f
2
(t
n
) ... f
k
(t
n
)
)
0 =
(
a
1
a
2
...
a
k
)
Y =
(
y(t
1
)
y(t
2
)
...
y(t
n
)
)
X = H0
AJUSTEMENT DU MODELE PAR LES MOINDRES-CARRES

Master ASE1 Identification des Processus P. Bonnet
49
Ecriture matricielle du problme des moindres-carrs :
L'erreur quadratique cumule s'crit:


Sachant que : et que :
L'erreur cumule s'crit :

La minimisation du critre se fait pour :
e =
(
e
1
e
2
... e
n
)
(
e
1
e
2
...
e
n
)
e =

i=1
n
( y(t
i
) x(t
i
))
2
=

i=1
n
e
i
2
e = Y X X = H 0
e = (Y H 0)
T
(Y H 0)
e
0
=
(
e
a
1
e
a
2
...
e
a
k
)
= 0
AJUSTEMENT DU MODELE PAR LES MOINDRES-CARRES

Master ASE1 Identification des Processus P. Bonnet
50
Ecriture matricielle du problme des moindres-carrs :
La solution optimale sera obtenue pour :

En remarquant que est scalaire , on obtient :
La solution optimale est :
e
0
= 2 H
T
(Y H 0)
e
0
= H
T
(Y H 0) (Y H 0)
T
H

0 = ( H
T
H)
1
H
T
Y
e
AJUSTEMENT DU MODELE PAR LES MOINDRES-CARRES

Master ASE1 Identification des Processus P. Bonnet
51
Exemple d'application
Modlisation de 3 mesures successives
par un modle affine de la forme

x(t ) = a + bt
t = 0,1,2
0 = (a , b)
T
Mthode matricielle:
1) Dterminer les valeurs prises par le modle pour
2) Construire le tableau des valeurs prises par le modle
aux instants de mesure, le vecteur des observations.
3) En dduire les matrices/vecteurs Y , H et
4) Calculer la solution optimale

0
AJUSTEMENT DU MODELE PAR LES MOINDRES-CARRES
0 1 2 t
y
0
=1
y
1
=2
y
2
=2
x(t )

Master ASE1 Identification des Processus P. Bonnet
52
ANALYSE DES MOINDRES-CARRES ANALYSE DES MOINDRES-CARRES
ANALYSE DE LA METHODE
DES MOINDRES-CARRES

Master ASE1 Identification des Processus P. Bonnet
53
Pondration du critre J :
dfinition du critre d'erreur quadratique pondr :
Avec Q matrice de pondration
- dfinie positive : toutes ses valeurs propres sont
positives strictement
- symtrique
Exemple :
avec
On remarque que :
e = e
T
Q e
Q =
(
\
1
0 ... 0
0 \
2
... 0
... ... ... ...
0 0 ... \
n
)
\
1
>0 , \
2
>0 , ... , \
n
>0
e = 0 si et seulement si e=0
ANALYSE DES MOINDRES-CARRES ANALYSE DES MOINDRES-CARRES

Master ASE1 Identification des Processus P. Bonnet
54
Pondration du critre d'erreur quadratique cumule :

Minimisation du critre J par ajustement des paramtres :


La solution optimale est :
e = e
T
Q e
e = (Y H 0)
T
Q (Y H 0)
e
0
= H
T
Q(Y H0) (Y H0)
T
Q H
e
0
= =2 H
T
Q(YH 0) = 0

0 = ( H
T
Q H)
1
H
T
QY
ANALYSE DES MOINDRES-CARRES

Master ASE1 Identification des Processus P. Bonnet
55
ANALYSE DES MOINDRES-CARRES
Biais de l'estimation des paramtres:
Le biais d'un estimateur est l'esprance de l'cart entre l'estimation et les vraies valeurs.

L'estimateur non-biais fournit une valeur non-dcale par rapport la vraie valeur

0 = ( H
T
H)
1
H
T
| H

0 + v

0
X = H

0
Y = H

0 + v
v

0 = ( H
T
H)
1
H
T
v
Soit la valeur thorique des paramtres.

Le modle parfait a pour valeur :
Les mesures ont pour valeur : avec bruit de mesure
L'cart entre l'estimation et la vraie valeur des paramtres du modle est :

Master ASE1 Identification des Processus P. Bonnet
56
Biais de l'estimation des paramtres:
E|

0 = E|( H
T
H)
1
H
T
v
0
E|

0 = ( H
T
H)
1
H
T
E| v
ANALYSE DES MOINDRES-CARRES
Pour un bruit de mesure non corrl H , l'esprance sera :
Dans les cas usuels (bruit valeur moyenne nulle), l'estimateur des
moindres-carrs est non-biais : la valeur estime des paramtres est
proche de la vraie valeur en moyenne.
Il fournit une estimation non-dcale par rapport aux vraies valeurs.
L'esprance de l'erreur d'estimation est :

Master ASE1 Identification des Processus P. Bonnet
57
Variance de l'estimation des paramtres:
o
c
2
(o) = E|(o

o)
2
avec

o = E|o
I
A
= E|( A

A)( A

A)
T

A =
(
o
1
o
2
...
o
n
)
I
A
= E
|
(
(o
1


o
1
)
2
(o
1


o
1
)(o
2


o
2
) ... (o
1


o
1
)(o
n


o
n
)
(o
2


o
2
)(o
1


o
1
) (o
2


o
2
)
2
... (o
2


o
2
)(o
n


o
n
)
... ... ... ...
(o
n


o
n
)(o
1

o
1
) (o
n


o
n
)(o
2


o
2
) ... (o
n


o
n
)
2
)

Terme de variance
Terme de covariance
ANALYSE DES MOINDRES-CARRES
Variance d'une variable scalaire :
Matrice de variance/covariance d'une grandeur vectorielle

Master ASE1 Identification des Processus P. Bonnet
58
Variance de l'estimation des paramtres:
I
0
= E|(

0)(

0)
T

I
0
= E||( H
T
H)
1
H
T
v|( H
T
H)
1
H
T
v
T

I
0
= E|( H
T
H)
1
H
T
v v
T
H(( H
T
H)
1
)
T

I
0
= |( H
T
H)
1
H
T
E| v v
T
| H(( H
T
H)
1
)
T

ANALYSE DES MOINDRES-CARRES


Variance de l'estimateur des moindres-carrs (pour un bruit centr):



Pour un bruit non-corrl la matrice H , la matrice de variance-covariance de
l'estimation est :

Master ASE1 Identification des Processus P. Bonnet
59
Variance de l'estimation des paramtres:
Cas du bruit blanc sur les mesures
I
0
= c
Y
2
| ( H
T
H)
1

T
ANALYSE DES MOINDRES-CARRES
E| v v
T
= E
|
(
v
t1
2
0 ... 0
0 v
t2
2
... 0
... ... ... ...
0 0 ... v
tn
2
)

=
(
c
1
2
0 ... 0
0 c
2
2
... 0
... ... ... ...
0 0 ... c
n
2
)
c
Y
2
chaque mesure est suppose entache d'un bruit blanc additif
il n'y a pas de corrlation du bruit de mesure entre 2 mesures

Pour un bruit constant sur chaque mesure, de variance , le bruit sur
l'estimation des paramtres du modle est :

Master ASE1 Identification des Processus P. Bonnet
60
Estimateur du maximum de vraisemblance
On prend comme matrice de pondration l'inverse de la matrice de
variance-covariance du bruit, ce qui a pour effet de minimiser le poids des
mesures bruit lev.
ANALYSE DES MOINDRES-CARRES
I
bruit
= E| v v
T

e = e
T
Q e = e
T
I
bruit
1
e

0 = ( H
T
I
bruit
1
H)
1
H
T
I
bruit
1
Y


Master ASE1 Identification des Processus P. Bonnet
61
ANALYSE DES MOINDRES-CARRES
Rejet des mesures aberrantes
Le calcul des paramtres du modle permet de calculer

X = H

0
E|

X

X
T
= E| H

0

0
T
H
T

E|

X

X
T
= H I
0
H
T

La variance de l'estimation est :


E|

X

X
T
= c

X
2
= c
Y
2
H|( H
T
H)
1

T
H
T
Pour des mesures bruites par un bruit blanc :
y(t
i
) x(t
i
)
c

X
Rejet des mesures dont l'cart avec le modle est suprieur
avec K fix par l'utilisateur ( de l'ordre de 2 3)

Master ASE1 Identification des Processus P. Bonnet
62
MOINDRES-CARRES RECURSIFS
MOINDRES CARRES
RECURSIFS

Master ASE1 Identification des Processus P. Bonnet
63
MOINDRES-CARRES RECURSIFS
Calcul sur n mesures :

Y
n
=
(
y(t
1
)
y(t
2
)
...
y(t
n
)
)
X
n
= H
n
0 =
(
f
1
(t
1
) f
2
(t
1
) ... f
k
(t
1
)
f
1
(t
2
) f
2
(t
2
) ... f
k
(t
2
)
... ... ... ...
f
1
(t
n
) f
2
(t
n
) ... f
k
(t
n
)
)
0

0
n
= ( H
n
T
H
n
)
1
H
n
T
Y
n
la solution optimale calcule sur les n mesures est :
On dispose de n observations auxquelles correspondent n valeurs du modle
e
n
= (Y
n
X
n
)
T
(Y
n
X
n
)
elle minimise le critre calcul sur ces n mesures :

Master ASE1 Identification des Processus P. Bonnet
64
MOINDRES-CARRES RECURSIFS
Inconvnients de la mthode classique:

La dimension (nxk) de la matrice H crot avec le nombre n de mesures
L'ajout d'une (n+1)
me
mesure impose de recommencer la totalit du calcul

0
n
= ( H
n
T
H
n
)
1
H
n
T
Y
n

0
n
= R
n
1
Q
n
Q
n
= H
n
T
Y
n
R
n
= H
n
T
H
n
Mise en vidence de la solution
Utiliser la technique de calcul
avec de dimension (kxk)

et de dimension (kx1)

Master ASE1 Identification des Processus P. Bonnet
65
MOINDRES-CARRES RECURSIFS
Ajout de la (n+1)
me
mesure :

On dispose de n+1 observations auxquelles correspondent n+1 valeurs du
modle :
Y
n+1
=
(
y(t
1
)
y(t
2
)
...
y(t
n
)
y (t
n+1
)
)
X
n+1
= H
n+1
0 =
(
f
1
(t
1
) f
2
(t
1
) ... f
k
(t
1
)
f
1
(t
2
) f
2
(t
2
) ... f
k
(t
2
)
... ... ... ...
f
1
(t
n
) f
2
(t
n
) ... f
k
(t
n
)
f
1
(t
n+1
) f
2
(t
n+1
) ... f
k
(t
n+1
)
)
0
h
n+1
T
= | f
1
(t
n+1
) f
2
(t
n+1
) .... f
k
(t
n+1
)
Posons :

Master ASE1 Identification des Processus P. Bonnet
66
MOINDRES-CARRES RECURSIFS
Ajout de la (n+1)
me
mesure :

On dispose de n+1 observations auxquelles correspondent n+1 valeurs du
modle
Y
n+1
=
(
Y
n
y(t
n+1
)
)
X
n+1
=
(
X
n
x
n+1
)
=
(
H
n
h
n+1
T
)
0

0
n+1
= ( H
n+1
T
H
n+1
)
1
H
n+1
T
Y
n+1
Posons :

Master ASE1 Identification des Processus P. Bonnet
67
MOINDRES-CARRES RECURSIFS
Calcul de :


( H
n+1
T
H
n+1
)
H
n+1
T
Y
n+1
= H
n
T
Y
n
+ h
n+1
y
n+1
H
n+1
T
H
n+1
= H
n
T
H
n
+ h
n+1
h
n+1
T
( H
n+1
T
Y
n+1
)
H
n+1
T
H
n+1
=
(
H
n
T
h
n+1
)
(
H
n
h
n+1
T )
H
n+1
T
Y
n+1
=
(
H
n
T
h
n+1
)
(
Y
n
y
n+1
)
Calcul de :

Master ASE1 Identification des Processus P. Bonnet
68
h
n+1
T
= | f
1
(t
n+1
) f
2
(t
n+1
) .... f
k
(t
n+1
)
R
n+1
= R
n
+ h
n+1
h
n+1
T
Q
n+1
=Q
n
+ h
n+1
y
n+1
0
n+1
= R
n+1
1
Q
n+1
Itrer pour passer du rang n au rang n+1 :
Dterminer
Calculer (kxk) puis (kx1)
Et en dduire
MOINDRES-CARRES RECURSIFS
Expression rcursive de base:

0
n+1
= ( H
n
T
H
n
+ h
n+1
h
n+1
T
)
1
( H
n
T
Y
n
+ h
n+1
y
n+1
)

0
n
= R
n
1
Q
n
R
n
= H
n
T
H
n
Q
n
= H
n
T
Y
n
Construire la matrice H au rang n
Calculer de dimension (kxk)
Calculer de dimension (kx1)
En dduire estimation initiale au rang n

Master ASE1 Identification des Processus P. Bonnet
69
MOINDRES-CARRES RECURSIFS
Calcul rcursif volu :

Posons et

0
n+1
= ( H
n
T
H
n
+ h
n+1
h
n+1
T
)
1
( H
n
T
Y
n
+ h
n+1
y
n+1
)
P
n
= ( H
n
T
H
n
)
1
P
n
P
n+1
= ( H
n
T
H
n
+ h
n+1
h
n+1
T
)
1
P
n+1
A = B + C A
1
= B
1
B
1
C B
1
| I + B
1
C
1
P
n+1
= ( H
n
T
H
n
)
1
( H
n
T
H
n
)
1
h
n+1
h
n+1
T
( H
n
T
H
n
)
1
| 1+ h
n+1
T
( H
n
T
H
n
)
1
h
n+1

1
= P
n
P
n
h
n+1
h
n+1
T
P
n
| 1+ h
n+1
T
P
n
h
n+1

1
= P
n
P
n
h
n+1
| 1+ h
n+1
T
P
n
h
n+1

1
h
n+1
T
P
n
P
n+1
Quelle est la relation entre et ?
Lemme d'inversion :
Soit
Appliquons le lemme

Master ASE1 Identification des Processus P. Bonnet
70
MOINDRES-CARRES RECURSIFS
Calcul rcursif volu :
P
n+1
= P
n
P
n
h
n+1
| 1+ h
n+1
T
P
n
h
n+1

1
h
n+1
T
P
n
K
n+1
= P
n
h
n+1
|
1 + h
n+1
T
P
n
h
n+1

1
(1)

0
n+1
= ( H
n
T
H
n
+ h
n+1
h
n+1
T
)
1
( H
n
T
Y
n
+ h
n+1
y
n+1
)
P
n+1
= P
n
K
n+1
h
n+1
T
P
n
P
n+1
=( I K
n+1
h
n+1
T
) P
n
(3)
= ( P
n
K
n+1
h
n+1
T
P
n
) ( H
n
T
Y
n
+ h
n+1
y
n+1
)
= P
n
H
n
T
Y
n
+ P
n
h
n+1
y
n+1
K
n+1
h
n+1
T
P
n
H
n
T
Y
n
K
n+1
h
n+1
T
P
n
h
n+1
y
n+1

Master ASE1 Identification des Processus P. Bonnet
71
MOINDRES-CARRES RECURSIFS
Calcul rcursif volu :

0
n+1
=

0
n
+ K
n+1
( y
n+1
h
n+1
T

0
n
)
K
n+1
= P
n
h
n+1
|
1 + h
n+1
T
P
n
h
n+1

1
P
n+1
=( I K
n+1
h
n+1
T
) P
n
Rcurrence finale
est le gain matriciel de correction
K
n+1
Le gain de correction diminue mesure que n augmente
Les termes de la matrice P tendent vers 0 lorsque n augmente

Master ASE1 Identification des Processus P. Bonnet
72
MOINDRES-CARRES RECURSIFS
Calcul rcursif volu :

0
n+1
=

0
n
+ P
n+1
h
n+1
( y
n+1
h
n+1
T

0
n
)
P
n+1
= P
n

P
n
h
n+1
h
n+1
T
P
n
1 + h
n
T
P
n
h
n+1
Autre expression de la rcurrence finale
est le gain matriciel de correction
P
n+1
Le gain de correction diminue mesure que n augmente et tend vers 0

Master ASE1 Identification des Processus P. Bonnet
73
MOINDRES-CARRES RECURSIFS
Utilisation pratique de la rcurrence volue:

Poser les conditions initiales :
matrice carre kxk
vecteur colonne kx1
P
00

0
00
Choix de : la matrice a pour dfinition
avec inexistante (absence de ligne).
P
00
P
00
= ( H
00
T
H
00
)
1
H
00
Choix de : on propose le plus souvent

0
00

0
00
= 0
P
00
= G I
k
G = 10ou 100
P tant de dimension constante kxk , on propose le choix :
avec G gain d'adaptation ( par exemple)

Master ASE1 Identification des Processus P. Bonnet
74
MOINDRES-CARRES RECURSIFS
Pierre BONNET Modlisation Identification 74
Utilisation pratique de la rcurrence volue:


K
1
= P
00
h
1
|1 + h
1
T
P
00
h
1

0
1
=

0
00
+ K
1
( y
1
h
1
T

0
00
)
P
1
= ( I K
1
h
1
T
) P
00
Itrer une premire fois
K
2
= P
1
h
2
| 1 + h
2
T
P
1
h
2

0
2
=

0
1
+ K
2
( y
2
h
2
T

0
1
)
P
2
= ( I K
2
h
2
T
) P
1
Itrer une deuxime fois
Appliquer la rcurrence gnrale

Master ASE1 Identification des Processus P. Bonnet
75
MOINDRES-CARRES RECURSIFS
Loi propose:
Avec et
A chaque tape de la rcurrence, on multiplie le "poids" des anciennes mesures par le
facteur
P
n+1
= (\
1
H
n
T
H
n
+\
2
h
n+1
h
n+1
T
)
1
0\
1
1 0\
2
2
Pondration de la rcurrence
Objectif : - viter la dcroissance de ou vers 0
- diminuer le "poids" des anciennes mesures au profit des plus
rcentes
K
n+1
P
n+1
P
n+1
=
1
\
1
(
P
n

P
n
h
n+1
h
n+1
T
P
n
\
1
/ \
2
+ h
n+1
T
P
n
h
n+1
)

Master ASE1 Identification des Processus P. Bonnet
76
MOINDRES-CARRES RECURSIFS
Loi rsultante:
A chaque tape de la rcurrence, on multiplie le "poids" des anciennes mesures par le
facteur d'oubli

0
n+1
= (\ H
n
T
H
n
+ h
n+1
h
n+1
T
)
1
( H
n
T
Y
n
+h
n+1
y
n+1
) avec 0\<1
\
Introduction d'un facteur d'oubli
choix :
diminution du "poids" des anciennes mesures au profit des plus rcentes
d'o le principe du "facteur d'oubli" du pass
\
2
= 1 \
1
= cste
\
( n1)
\
n
\
A la (n+1) ime tape:
- la 1
re
estimation est pondre par
- la 2
me
est pondre par
- la n
ime
est pondre par
- la nouvelle est pondre par 1
La pondration suit une loi exponentielle

Master ASE1 Identification des Processus P. Bonnet
77
MOINDRES-CARRES RECURSIFS
Introduction d'un facteur d'oubli

Le facteur d'oubli est choisi de l'ordre de 0.95\1
Rcurrence obtenue :
K
n+1
=
P
n
h
n+1
\ +h
n+1
T
P
n
h
n+1

0
n+1
=

0
n
+ K
n+1
| y
n+1
h
n+1
T

0
n

P
n+1
=
1
\
( I K
n+1
h
n+1
T
) P
n
Principale application : suivi des paramtres d'un systme voluant dans le temps
Exemple : suivi des paramtres d'un modle linaire par morceaux , pour
des donnes prsentant des discontinuits de modle .
x =at +b

Master ASE1 Identification des Processus P. Bonnet
78
MOINDRES-CARRES RECURSIFS
Algorithme trace constante
si , on aura avec la matrice "explose" h
n+1
-0 P
n+1
P
n
/\ \1 P
n
trace( P
n+1
) = tr ( P
n
) = tr( P
0
)=Cste
L'algorithme trace constante a pour objectif de maintenir la somme des lments
diagonaux une valeur non nulle tout instant :
On choisit comme valeur de trace kG avec G gain initial et k nombre de paramtres
(valeurs typiques G = 1 4 ) :
tr ( P
n+1
) =
1
\
1
tr
(
P
n

P
n
h
n+1
h
n+1
T
P
n
\
1
/ \
2
+ h
n+1
T
P
n
h
n+1
)
Les valeurs de et sont dduites de cette quation, le rapport / tant fix
une valeur constante
\
1
\
2
\
1
\
2

Master ASE1 Identification des Processus P. Bonnet
79
MOINDRES CARRES NON-LINEAIRES
MOINDRES-CARRES
NON-LINEAIRES

Master ASE1 Identification des Processus P. Bonnet
80
MOINDRES CARRES NON-LINEAIRES
Position du problme
Dans de nombreuses applications , la fonction modle n'est pas linaire par rapport ses
paramtres.
Exemple : rponse indicielle d'un circuit du 1er ordre


0 1 2
t
y
0
y
1
y
2

f (t , 0)
3 4 5
y
3
y
5
y
5
L'expression du modle est :
avec
f (t , 0) = K(1 e

t
t
)
0 = | K , t
T
la dpendance vis vis du paramtre est non-linaire , il n'est plus possible de
rsoudre le systme par la mthode linaire (pas de matrice H )
t

Master ASE1 Identification des Processus P. Bonnet
81
MOINDRES CARRES NON-LINEAIRES
La proposition est de partir d'une valeur initiale des paramtres et de modifier
itrativement la valeur de d'un incrment de faon minimiser le critre d'erreur
quadratique cumule chaque tape.
0
0
6
0
e
0
Pour , le modle prend les valeurs : 0
0
=
|
a
10
, a
20
, ...

T
F(t , 0
0
) =
|
f (t
1,
0
0
)
f (t
2,
0
0
)
...
f (t
n
, 0
0
)

L'erreur entre le modle et les mesures est :


e = Y F(t , 0
0
)
L'erreur quadratique cumule est :
e(0
0
) = e
T
e = (Y F(t , 0
0
))
T
(Y F(t , 0
0
))
Mthode de Gauss-Newton (mthode de gradient)
Etape initiale
Gnralement, l'erreur cumule sera importante , les conditions initiales tant loignes
de la solution optimale.

Master ASE1 Identification des Processus P. Bonnet
82
MOINDRES CARRES NON-LINEAIRES
Mthode de Gauss-Newton
modification de la valeur de d'un incrment de faon minimiser le critre
d'erreur quadratique cumule
0
0
6
0
e
Pour , le modle prend les valeurs et l'erreur
0 = 0
0
+6
0
F(t , 0
0
+6
0
)
e(0
0
+6
0
)
6
0
e(0
0
+6
0
)
6
0
=0
Pour se placer au minimum d'erreur , on choisit tel que
Calcul du minimum de l'erreur cumule :

e(0
0
+6
0
)
6
0
= 2
|
F(t , 0
0
+6
0
)
6
0

T
(
Y F(t , 0
0
+6
0
)
)
= 0
Incrmentation

Master ASE1 Identification des Processus P. Bonnet
83
MOINDRES CARRES NON-LINEAIRES
Mthode de Gauss-Newton
Le dveloppement de Taylor du 1er ordre du modle permet d'approximer la nouvelle
valeur du modle chaque instant d'observation :
avec gradient de f en ligne
f (t
i
, 0
0
+6
0
) = f (t
i
, 0
0
) + J
i
(0
0
). 6
0
J
i
(0
0
) = ( f (t
i
, 0
0
))
T
F(t , 0
0
+6)=F(t , 0
0
) + J (0
0
). 6
0
L'extension l'ensemble des points de calculs prend la forme matricielle suivante :
Avec :

jacobienne de f/paramtres
J (0
0
) =
F (t , 0
0
+6
0
)
6
0
=
|
f (t
1
)
a
1
f (t
1
)
a
2
...
f (t
1
)
a
k
f (t
2
)
a
1
f (t
2
)
a
2
...
f ( t
2
)
a
k
... ... ... ...
f (t
n
)
a
1
f (t
n
)
a
2
...
f (t
n
)
a
k

Calcul de F(t , 0
0
+6
0
)

Master ASE1 Identification des Processus P. Bonnet
84
MOINDRES CARRES NON-LINEAIRES
Mthode de Gauss-Newton
D'o :
2 J
T
(
Y ( F(t , 0
0
)+J (0
0
). 6
0
)
)
= 0
Calcul du minimum de l'erreur cumule :

e(0
0
+6
0
)
6
0
= 2
|
F(t , 0
0
+6
0
)
6
0

T
(
Y F(t , 0
0
+6
0
)
)
= 0
Itration
On itre en dfinissant les nouvelles valeurs des paramtres et les
nouvelles valeurs du modle . La correction suivante faire sera :

0
1
= 0
0
+6
0
F(t , 0
1
)
6
0
=
|
J (0
1
)
T
. J (0
1
)

1
. J (0
1
)
T
(
YF(t , 0
1
)
)
On en dduit la valeur de l'accroissement faire sur les paramtres pour minimiser l'erreur:
6
0
=
|
J (0
0
)
T
. J (0
0
)

1
. J (0
0
)
T
(
Y F(t , 0
0
)
)

Master ASE1 Identification des Processus P. Bonnet
85
J
T
J
6
0
= | J
T
. J +\ I
1
. J
T
(Y F(t , 0))
\
\
0
= t. max | J
T
J
t
MOINDRES CARRES NON-LINEAIRES
Mthode de Gauss-Newton
Limitation : l'inversion de la matrice peut poser problme (matrice singulire).
Pour viter ce blocage, l'algorithme a t modifi par Levenberg-Marquardt:
Le paramtre joue le rle d'un amortissement de la correction; il doit tre ajust
chaque pas de calcul. Dans les cas simples, on peut se contenter d'un amortissement
constant, dont la valeur initiale a t propose par Marquardt:
est un paramtre de gain choisir convenablement (!)

Master ASE1 Identification des Processus P. Bonnet
86
MOINDRES CARRES NON-LINEAIRES
Mthode de Gauss-Newton

Exemple d'application : soit un systme du 1er ordre dont dsire connatre les paramtres
caractristiques (gain et constante de temps) par l'observation de la rponse indicielle.

Temps en s 0 1 2 3 4 5
y(t) 0.05 0.45 0.59 0.64 0.64 0.69
0 = | K , t
T
f (t , 0) = K (1 e

t
t
) Le modle de la rponse indicielle est : avec

La matrice du Jacobien est construite partir des drives partielles de f par rapport

0
f (t , 0)
K
= 1 e
t
t
f (t , 0)
t
= K
t
t
2
e
t
t
Contrairement au cas d'un modle linaire/paramtres, les drives partielles dpendent
des paramtres eux-mmes.
Il faut fixer une valeur initiale de K et pour donner une valeur la matrice Jacobienne 0
Valeurs initiales proposes :
K
0
=1
t
0
=1
L'observation directe montre que le gain (valeur finale) est proche de 0.7 et la constante
de temps de l'ordre de la seconde (chelle de temps)

Master ASE1 Identification des Processus P. Bonnet
87
MOINDRES CARRES NON-LINEAIRES
Mthode de Gauss-Newton
La matrice Jacobienne est : les valeurs du modle : J (0
0
) =
|
0. 0.
0.63 0.37
0.86 0.27
0.95 0.15
0.98 0.07
0.99 0.03

F (0
0
) =
|
0.
0.63
0.86
0.95
0.98
0.99

L'incrment faire sur les paramtres est :


6
0
=( J
T
J )
1
J
T
(Y F (0
0
)) =
|
0.33
0.06

La nouvelle valeur des paramtres est : 0


1
=
|
0.67
0.94

Aprs 10 itrations , la valeur des paramtres converge vers :


0
10
=
|
0.67
0.92

L'erreur quadratique cumule est de : e=0.42


L'erreur quadratique cumule est de : e=0.0035

Master ASE1 Identification des Processus P. Bonnet
88
MOINDRES CARRES NON-LINEAIRES
Mthode de Gauss-Newton
Attention : certaines valeurs initiales ne permettent pas l'algorithme de converger (par
exemple K = .1 et tau = .1 )!

Master ASE1 Identification des Processus P. Bonnet
89
MODELISATION DES SYSTEMES
MODELISATION
DES
SYSTEMES

Master ASE1 Identification des Processus P. Bonnet
90
Modlisation d'un systme discret
La dtermination des paramtres d'un systme partir de l'observation de sa
sortie, compte-tenu de l'entre applique.
le modle doit traduire la relation entre-sortie caractristique du
systme
Systme
Modle
Entre
externe
Sorties Sorties
Sorties
modlises
Erreur de
modlisation
+
-
MODELISATION DES SYSTEMES

Master ASE1 Identification des Processus P. Bonnet
91
MODELISATION DES SYSTEMES
Systme discret :
modle de rcurrence


y
m
( n) +a
1
y
m
( n1) + a
2
y
m
( n2) +...+ a
p
y
m
( np)
= b
0
u( n) + b
1
u( n1) +...+ b
q
u( nq)

Master ASE1 Identification des Processus P. Bonnet
92
MODELISATION DES SYSTEMES
Modle de rcurrence
la sortie du systme l'instant n se dduit
de la sortie aux instants ( n-1, n-2, ... ,n-p)
et de l'entre aux instants (n, n-1,n-2, ... ,n-q )
Ce modle est dit "Autorgressif " ou modle AR
y
m
( n) = a
1
y
m
(n1) a
2
y
m
(n2) ...a
p
y
m
(np)
+ b
0
u(n) + b
1
u(n1) +...+ b
q
u( nq)

Master ASE1 Identification des Processus P. Bonnet
93
MODELISATION DES SYSTEMES
Exemple de modle de rcurrence discrte :
Soit un systme du premier ordre de fonction de transfert :
L( p) =
Y ( p)
U( p)
=
K
p + o

y +o y = K u
Ce systme correspond une quation diffrentielle de la forme :
En approximant la drive par Euler :
y
n+1
y
n
T
e
+ o y
n
= K u
n
Le systme discrtis est dcrit par la rcurrence :
y(n+1) = (1 oT
e
) y(n) + KT
e
u(n)
Ou :
y(n) = (1 oT
e
) y(n1) + KT
e
u(n1)

Master ASE1 Identification des Processus P. Bonnet
94
MODELISATION DES SYSTEMES
modle de rcurrence :

La rcurrence s'applique aux mesures au bruit prs:
y( n) = a
1
y( n1) a
2
y(n2) ... a
p
y(np)
+ b
0
u(n) +b
1
u(n1) +...+b
q
u(nq) + e(n)
Le membre de droite reprsente le modle ARX .
Il est dfini partir des mesures , et non partir des valeurs modlises prcdentes.
On remarque que c'est un modle avec erreur (la somme pondre des erreurs faites
sur chacune de observations faites aux instants n-1, ...,n-p ) . De ce fait, le modle est
biais (erreur systmatique si les mesures sont corrles)

Master ASE1 Identification des Processus P. Bonnet
95
MODELISATION DES SYSTEMES
Observation du systme sur k chantillons :
instant N :
y ( N) = a
1
y ( N1) a
2
y( N2) ...a
p
y ( Np)
+ b
0
u( N) + b
1
u( N1) +...+ b
q
u( Nq) +e( N)
y ( N1) = a
1
y( N2) a
2
y ( N3) ... a
p
y ( Np1)
+ b
0
u( N1) + b
1
u( N2) +...+ b
q
u( Nq1) +e( N1)
instant N-1
y( Nk) = a
1
y( N1k) a
2
y( N2k) ... a
p
y( Npk)
+ b
0
u( Nk) + b
1
u( N1k) +...+ b
q
u( Nqk) + e( Nk)
instant N-k:

Master ASE1 Identification des Processus P. Bonnet
96
MODELISATION DES SYSTEMES
Observation du systme sur k chantillons :
criture matricielle
Les mesures sont lies l'entre par la relation :
|
y( N)
y( N1)
. . .
y( Nk)

=
|
y( N1) ... y( Np) u( N) u( Nq)
y( N2) ... y( Np1) u( N1) u( Nq1)
... ... ... ... ...
y( N1k) ... y( Npk) u ( p+1) u( Nqk)

|
a
1
.
a
p
b
0
.
b
q

+
|
e( N)
e( N1)
...
e( p+1)


Master ASE1 Identification des Processus P. Bonnet
97
MODELISATION DES SYSTEMES
Observation du systme sur k chantillons (ou plus):

Posons : vecteur vecteur des
des mesures para mtres
0 =
|
a
1
.
a
p
b
0
.
b
q

Y =
|
y( N )
y( N1)
. . .
y( Nk )

H =
|
y( N1) ... y( Np) u( N) u( Nq)
y( N2) ... y( Np1) u( N1) u( Nq1)
... ... ... ... ...
y( N1k ) ... y( Npk) u( p+1) u( Nqk )

Y = H 0 + e
Les mesures suivent la loi :
C'est un problme classique de rsolution par les moindres-carrs

Master ASE1 Identification des Processus P. Bonnet
98
MODELISATION DES SYSTEMES
Modlisation par les moindres carrs simples:

solution de base non rcursive

0 = ( H
T
)
1
H
T
Y
Exciter le systme avec un signal d'entre et relever la rponse :
- chelon
- bruit blanc
- signal binaire pseudo-alatoire (voir TP)
Dterminer par les moindres-carrs:
- former le vecteur des mesures Y
- former la matrice H partir des mesures et des valeurs d'entre
(tenir compte d'un retard ventuel)
- rsoudre le systme

0

Master ASE1 Identification des Processus P. Bonnet
99
MODELISATION DES SYSTEMES
Modlisation par les moindres carrs simples:

Exemple d'un premier ordre soumis un chelon d'amplitude 1 :
Valeurs releves pour y(i) : 0 , .4, .7, .95, .98 1, .97, .99, 1.02
Le modle retenu est :
Les matrices Y et H sont :
Les valeurs obtenues sont :
y
n
=a
1
y
n1
+b
1
u
n1
H =
|
y (1) u(1)
y ( 2) u(2)
... ...
y (n1) u( n1)

0 =
|
0.577
0.444

Y =
|
y(2)
y(3)
...
y (n)


Master ASE1 Identification des Processus P. Bonnet
100
MODELISATION DES SYSTEMES
Rsolution par les moindres carrs rcursifs:

La rsolution par les moindres-carrs rcursif apporte un outil de calcul efficace,
et surtout un moyen d'identification en ligne ,c'est dire au fur et mesure que les mesures
sont faites
Fixer l'ordre du modle, son retard et choisir les valeurs initiales :
- par exemple

0
00
=0
P
00
=1000
Exciter le systme avec un signal d'entre (chelon...)
- relever la rponse (et l'entre) ds le premier instant d'chantillonnage
- ajuster le modle par les MCR
- itrer pour obtenir les

0
n

Master ASE1 Identification des Processus P. Bonnet
101
MODELISATION DES SYSTEMES
Rsolution par les moindres carrs rcursifs:
Exemple du systme du premier ordre prcdent sans retard
Y= [0 .4 .7 .95 .98 1 .97 .99 1.02 ]';
Modle 2 paramtres a1 et b1 :
Valeurs initiales:

0
00
=| 0 0
T
P
00
=
|
1000 0
0 1000

Rcurrence avec le vecteur


h
n+1
=|y( n) u( n)
T
Les valeurs de convergent vers la valeur finale prcdente
La simulation "colle" aux mesures pour les premiers instants (rajustement du
modle sur les mesures) puis produit un effet de filtrage (le modle a converg)

0
n

Master ASE1 Identification des Processus P. Bonnet
102
MODELISATION DES SYSTEMES
Les problmes non traits dans ce cours :
La mthode introduit un biais d'estimation : les rsultats sont dcals lorsque le bruit
est important.
Il devient ncessaire d'introduire un modle du bruit pour "blanchir" l'erreur ou de
dcorrler observation/erreur (ARX, MCR gnraliss, variable instrumentale...)
La mthode de base suppose que le retard et l'ordre du systme sont connus.
Il est possible de dterminer automatiquement ces valeurs par minimisation de l'erreur
de modlisation.
La mthode peut s'appliquer un systme boucl dj rgul (rgulateur
classique). L'identification se fait sans intervention sur le process existant.
Le bouclage provoque un biais important des mesures. Des algorithmes permettent de
rsoudre cette problmatique.