Cours Identification des procédés industriels Badreddine LOUHICHI

ESTIMATION PARAMÉTRIQUE DES SYSTÈMES

DYNAMIQUES PAR LA MÉTHODE DE L’ERREUR DE

PRÉDICTION

1. Introduction
Ce chapitre est réservé à l’estimation paramétrique des systèmes dynamiques en utilisant la
méthode de l’erreur de prédiction et les techniques des moindres carrés, tout en se basant sur
la connaissance de plusieurs mesures (couples d’entrée-sortie) issues de ce système. Cette
méthode d’estimation consiste en la minimisation d’un critère quadratique portant sur l’erreur
de prédiction, en vue d’aboutir aux meilleurs paramètres estimés du modèle mathématique à
élaborer. Notons toutefois que l’erreur de prédiction correspond à l’écart entre la sortie
mesurée du système et la sortie prédite du modèle ajustable.

Nous considérons ici, plus particulièrement, les systèmes dynamiques opérant dans un
environnement déterministe, qui peuvent être décrits par la classe des modèles mathématiques
de type entrée-sortie, linéaires, monovariables, déterministes et à paramètres inconnus, mais
constants.

Deux stratégies d’identification d’un système dynamique peuvent être envisagées, à savoir :

1. identification en boucle ouverte, non commandé. Dans une telle stratégie d’identification,
le choix du signal d’entrée, qui est à appliquer à ce système, se fait librement;

2. identification en boucle fermée, commandé. Le signal d’entrée, qui est appliqué à ce

système, est délivré par le système de commande (régulateur, correcteur). Dans ce cas, le
signal d’entrée n’est pas choisi librement.

Ce cours d’automatique est réservé uniquement à la structure d’identification des systèmes

dynamiques en boucle ouverte.

2. Hypothèses retenues et formulation du problème

Considérons un système dynamique pouvant être décrit par un modèle mathématique de
type entrée-sortie DARMA légèrement bruité, tel que :

Chapitre 3 : Estimation paramétrique des systèmes dynamiques par la méthode de l’erreur de prédiction 19
Cours Identification des procédés industriels Badreddine LOUHICHI

A  q 1  y  k   B  q 1  u  k   e  k  (3.1)

où y(k) et u(k) désignent respectivement la sortie et l'entrée du système à l'instant discret k,

e(k) représente le bruit qui agit sur cette sortie et A  q 1  et B  q 1  sont des polynômes

définis par :

A  q 1   1  a1q 1  a2 q 2  ...  an q  n (3.2)

B  q 1   b1q 1  b2q 2  ...  bm q  m (3.3)

où ai et bj i = 1, … , n, j = 1, … , m, n  m sont des paramètres inconnus, mais constants.

Le niveau du bruit e(k) agissant sur le système est supposé faible (i.e., sa variance étant
assez faible) de façon qu’il n’ait pas beaucoup d’influence sur la qualité d’estimation et que
l’utilisation d’un algorithme d’estimation paramétrique déterministe permet de donner des
résultats satisfaisants.

Dans ce qui suit, nous allons formuler le problème d’estimation des paramètres intervenant
dans le modèle mathématique (3.1), en utilisant la méthode des moindres carrés ordinaires et à
partir de la connaissance de plusieurs valeurs mesurées de l’entrée et de la sortie du système
considéré. Mais, avant d’entamer la formulation de ce problème, nous allons présenter les
hypothèses de travail, qui sont nécessaires à cette formulation.

2.1. Hypothèses retenues

Nous retenons les hypothèses suivantes, qui sont, le plus souvent, admises lors de la
formulation du problème d’estimation paramétrique d’un système dynamique pouvant être
décrit par un modèle mathématique entrée-sortie :

1. le système est en boucle ouverte ;

2. le système est stable ;

3. le système est observable ;

4. la classe (linéaire, stochastique, etc.) et la structure (ordre, retard) du modèle

mathématique considéré sont bien connues ;

5. l’entrée appliquée au système est stationnaire et suffisamment ″riche″ ;

6. le nombre M de mesures expérimentales (entrée, sortie) issues du système considéré est

suffisamment ″grand″; il serait à la limite infiniment grand (M → ∞) ;

Chapitre 3 : Estimation paramétrique des systèmes dynamiques par la méthode de l’erreur de prédiction 20
Cours Identification des procédés industriels Badreddine LOUHICHI

7. le bruit agissant sur le système est supposé stationnaire, c’est-à-dire que son
comportement dynamique est invariant dans tout changement de l’origine du temps.

Il est important d’indiquer que la deuxième hypothèse, qui consiste à supposer que le
système considéré soit stable en boucle ouverte n’est pas stricte. Ainsi, il est parfois possible,
sous certaines conditions, d’estimer les paramètres d’un système instable.

2.2. Formulation du problème

La sortie y(k) du système dynamique considéré peut s’écrire sous la forme suivante :

y  k    a1 y  k  1    an y  k  n   b1u  k  1    bmu  k  m   e  k  (3.4)

ou de manière équivalente, en optant pour une forme matricielle

y  k    T  k   e  k  (3.5)

où θ est un vecteur de paramètres et ψ(k) est un vecteur d’observations, qui sont définis par :

 T   a1  an b1  bm  (3.6)

et

 T  k     y  k  1   y  k  n  u  k  1  u  k  m   (3.7)

Nous définissons la sortie prédite a priori y  k  du système considéré, qui correspond, en

fait, à la sortie du modèle ajustable, par l’expression suivante :

    
y  k   a1  k  1 y  k  1    an  k  1 y  k  n   b1  k  1 u  k  1    bm  k  1 u  k  m  (3.8)

où a1  k  1 désigne l’estimé du paramètre a1 à l’instant discret k − 1, etc.


Remarquons que la sortie prédite a priori y  k  est calculée à l’instant discret k, tout en se

basant sur les valeurs des paramètres estimés à l’instant discret k −1, et à partir de la
connaissance des informations accessibles à cet instant et aux instants antérieurs (i.e., y(k −1),
u(k −1), etc.).

Nous pouvons récrire la sortie prédite a priori y  k  sous la forme compacte suivante :

 
y  k    T  k  1  k  (3.9)

où   k  1 représente le vecteur des paramètres estimés à l’instant discret k – 1, tel que :

    
 T  k  1   a1  k  1  an  k  1 b1  k  1  bm  k  1  (3.10)

Chapitre 3 : Estimation paramétrique des systèmes dynamiques par la méthode de l’erreur de prédiction 21
Cours Identification des procédés industriels Badreddine LOUHICHI

Dans un contexte idéal, les mesures effectuées sur un système dynamique sont non bruitées
et les hypothèses de travail sont supposées parfaites. Dans ce cas, nous pouvons avoir :

y  k   y  k  . Cependant, dans un contexte réel ces mesures sont toujours entachées de

perturbations aléatoires. Il existe donc un certain écart, appelé erreur de prédiction, entre la
sortie du système et la sortie prédite du modèle ajustable. Nous définissons l’erreur de
prédiction a priori ε(k) par :

 k   y k   y k  (3.11)

qui peut se récrire comme suit :


  k   y  k    T  k  1  k  (3.12)

A partir des expressions (3.5) et (3.9), nous pouvons réécrire l’erreur de prédiction a priori
ε(k) sous la forme suivante :

 
  k    T  k     T  k  1  e  k  (3.13)

Il est donc bien évident que, si le vecteur  T  k  1 correspond à la meilleure estimation du

vecteur de paramètres  , alors l’erreur de prédiction a priori   k  correspond à la meilleure

estimation du bruit e(k). En d’autres mots, la valeur du bruit e(k), qui n’est pas mesurable à
l’instant discret k, peut être estimée à partir de calcul de la valeur de l’erreur de prédiction a
priori   k  à cet instant. Ainsi, nous pouvons écrire les deux expressions suivantes :

1 M 
lim   k    (3.14)
M  M  k
0 k 1 k0

et
M
1
lim   2 k    2 (3.15)
M  M  k
0 k 1 k0

où k0 est un instant discret, à partir duquel nous calculons la valeur de la moyenne statistique

du vecteur des paramètres estimés   k  , et 2 désigne la valeur de la variance du bruit e(k).

Le choix de la valeur de k0 doit être fait de façon appropriée.

La formulation du problème d’estimation des paramètres intervenant dans le vecteur θ, qui

est défini par (3.6), peut être menée en se basant sur la minimisation d’un critère portant sur
l’erreur de prédiction (k). Ce critère doit avoir certaines propriétés pour pouvoir aboutir à une
solution optimale unique.

Chapitre 3 : Estimation paramétrique des systèmes dynamiques par la méthode de l’erreur de prédiction 22
Cours Identification des procédés industriels Badreddine LOUHICHI

Par conséquent, le problème d’estimation paramétrique posé se ramène donc à un problème

d’optimisation. La méthode d’estimation paramétrique qui en résulte est appelée méthode de
l’erreur de prédiction, dans laquelle nous utilisons aussi la méthode des moindres carrés
ordinaires.

Nous représentons Figure 3.1 la structure d’estimation paramétrique d’un système

dynamique par la méthode de l’erreur de prédiction.

Figure 3.1. Structure d’estimation paramétrique par la méthode de l’erreur de prédiction

L’erreur de prédiction ε(k), telle que définie par (3.12), peut s’écrire sous la forme
développée suivante :
   
  k   y  k   a1  k 1 y  k 1    an  k  1 y  k  n   b1  k 1 u  k 1    bm  k  1 u  k  m  (3.16)

Nous proposons de développer un estimateur   k  optimal du vecteur de paramètres  , tel

que donné par (3.6), et ce, à partir de la minimisation du critère quadratique J(k) suivant :

k  2

J k     y  i    T  k   i   (3.17)
i  n 1


où   k  est le vecteur des paramètres estimés à l’instant discret k, qui est défini par :

    
 T  k    a1  k   an  k  b1  k   bm  k   (3.18)

Il est important d’indiquer que l’expression de ce critère quadratique J(k) est une fonction

linéaire par rapport aux paramètres estimés intervenant dans le vecteur   k  . Il en résulte

donc que la minimisation du carré de cette erreur de prédiction peut être faite en utilisant des
techniques d’optimisation simples et faciles à mettre en œuvre.

Chapitre 3 : Estimation paramétrique des systèmes dynamiques par la méthode de l’erreur de prédiction 23
Cours Identification des procédés industriels Badreddine LOUHICHI


Le terme  T  k   i  intervenant dans l’expression du critère J(k) peut être donné par :

    
 T  k   i   a1  k  y  i 1    an  k  y  i  n   b1  k  u i 1    bm  k  u  i  m  (3.19)

Nous pouvons mettre l’expression (3.19) sous la forme suivante :

  

 T  k   i   y i , T  k   (3.20)

Le terme  T  k   i  correspond donc à la sortie prédite à l’instant discret i, calculée à

partir de la connaissance des paramètres estimés à l’instant discret k, avec i ≤ k.

3. Méthode non récursive d’estimation paramétrique des

moindres carrés ordinaires
Nous allons nous intéresser ici à la formulation de l’algorithme non récursif d’estimation
paramétrique des moindres carrés ordinaires permettant d’estimer les paramètres intervenant
dans le modèle mathématique (3.4). Les conditions qui permettent à cet algorithme non
récursif de donner des paramètres estimés sans biais sont analysées, en donnant toutefois ses
limitations.

Nous pouvons réécrire le critère quadratique J(k), tel que décrit par (3.17), sous la forme
matricielle suivante :

J  k   ET  k  E k  (3.21)

où Ε(k) est le vecteur d’erreur de prédiction, défini par:


E  k   Y  k     k   k  (3.22)

dans lequel, nous avons :

E T  k     n  1    k  (3.23)

Y T  k    y  n  1  y  k   (3.24)

et

  y n  y  n  1   y 1 u n  u  n  1  u  n  1  m  
 
  y  n  1  y  n   y  2 u  n  1 u n  u  n  2  m 
 k   (3.25)
         
 
  y  k  1  y  k  2    y  k  n  u  k  1 u  k  2   u  k  m  

La matrice Ψ(k), définie par (3.25), peut se réécrire sous la forme compacte suivante :

Chapitre 3 : Estimation paramétrique des systèmes dynamiques par la méthode de l’erreur de prédiction 24
Cours Identification des procédés industriels Badreddine LOUHICHI

 T  n  1 
 T 
   n  2 
 k   (3.26)
  
 T 
   k  

L’objectif visé ici consiste en la détermination de l’estimé optimal   k  du vecteur de

paramètres  , tel que donné par (3.6), et ce, à partir de la recherche du minimum du critère

quadratique J(k), qui est défini par (3.21). En fait, l’estimé optimal   k  correspond à la

solution optimale de ce critère quadratique J(k). Nous sommes donc amenés à chercher cette
solution optimale en annulant la dérivée du critère quadratique J(k) par rapport au vecteur

  k  . Pour cela, nous proposons d’exprimer le critère quadratique J(k) sous la forme

développée suivante :
  
J  k   Y T  k  Y  k   2Y T  k    k    k    T  k   T  k    k   k  (3.27)

La dérivée de ce critère quadratique J(k) par rapport au vecteur   k  donne :

J  k  
  2   T  k    k    k    T  k  Y  k   (3.28)
  k 

L’estimé optimal   k  du vecteur de paramètres θ, tel que donné par (3.6), s’obtient donc

en annulant l’expression (3.28), soit :


T  k    k   k    T  k  Y  k  (3.29)

En supposant que la matrice  T  k    k  est régulière (i.e., inversible), nous pouvons

exprimer l’algorithme non récursif d’estimation paramétrique des moindres carrés ordinaires
permettant d’estimer les paramètres intervenant dans le modèle mathématique (3.4) comme
suit :
 1
  k     T  k    k    T  k  Y  k  (3.30)

Notons que le fait de supposer que la matrice  T  k    k  est régulière revient à dire que

cette matrice doit être de rand n + m. Ceci est possible si le nombre de mesures M est
suffisamment grand, ce qui permet à la matrice Ψ(k) d’avoir plus de lignes que de colonnes.

Dans le cas où la matrice Ψ(k) serait carrée, nous pouvons montrer aisément que
l’algorithme non récursif d’estimation paramétrique des moindres carrés ordinaires peut se
mettre sous la forme suivante :

Chapitre 3 : Estimation paramétrique des systèmes dynamiques par la méthode de l’erreur de prédiction 25
Cours Identification des procédés industriels Badreddine LOUHICHI


  k    1  k  Y  k  (3.31)

La condition de l’unicité de l’estimé optimal   k  peut être obtenue en calculant la dérivée

seconde du critère quadratique J(k) par rapport à   k  , soit :

2 J  k 
  2 T  k    k 
  k 
(3.32)
Il en résulte donc que si la matrice  T  k    k  est définie positive, alors le critère

quadratique J(k), défini par (3.21), peut admettre un estimé optimal unique   k  , qui

correspond à un minimum absolu.

Remarquons que la formulation de l’algorithme non récursif d’estimation paramétrique des

moindres carrés ordinaires (3.30) n’a pas nécessité l’utilisation des techniques de
programmation non linéaires. Les conditions d’identifiabilité du schéma d’identification sont
liées à la nature du signal d’entrée, qui doit être suffisamment ″riche″, et au nombre M de
mesures expérimentales (couples d’entrée-sortie) issues du système considéré (M >> n + m).

4. Méthode récursive d’estimation paramétrique des

moindres carrés ordinaires
Dans ce paragraphe nous allons développer une structure algorithmique permettant
d’estimer récursivement les paramètres intervenant dans le vecteur θ, tel que donné par (3.6).
Dans une telle structure d’estimation récursive, les nouveaux paramètres estimés sont calculés
à partir de la connaissance des estimés précédents plus un terme de correction; ceci peut être
illustré comme suit : ″Paramètres estimés à l’instant en cours″ = ″Paramètres estimés à
l’instant antérieur ″ + ″Correction″.

Ceci peut se traduire par l’expression suivante :

 
 T  k    T  k 1  C  k  (3.33)
 
dans laquelle  T  k  et  T  k  1 représentent les vecteurs des paramètres estimés aux deux

instants discrets k et k-1, respectivement, et C(k) désigne le terme de correction.

Pour le développement d’une structure algorithmique permettant d’estimer récursivement

les paramètres intervenant dans le vecteur θ, tel que donné par (3.6), nous allons reprendre le
problème de minimisation du critère quadratique J(k), qui est donné par (3.17). Le vecteur des

Chapitre 3 : Estimation paramétrique des systèmes dynamiques par la méthode de l’erreur de prédiction 26
Cours Identification des procédés industriels Badreddine LOUHICHI


paramètres estimés optimal  T  k  , qui correspond au minimum de ce critère quadratique,

s’obtient en résolvant la condition suivante :

J  k  k 
 2   y  i   T  k   i    i   0 (3.34)
  k  i n 1

Nous pouvons donc écrire :

k
 k T 
 y  i   i       i   i     k  (3.35)
i n1 i n1 
ou encore, en supposant que la somme des matrices   i  T  i  existe

  k T
1
 k
  k       i   i    y  i   i  (3.36)
i n1  in1
Nous avons supposé, jusqu’à maintenant, que l’estimation des paramètres intervenant dans
le vecteur , tel que donné par (3.6), se fait en se basant sur des valeurs mesurées (couples
d’entrée sortie) du système considéré, et ce, à partir de l’instant n + 1 jusqu’à l’instant k.
L’adjonction d’un nouveau couple d’entrée-sortie permet d’estimer ces paramètres à l’instant
discret k + 1. Ainsi, en considérant l’équation (3.36), nous pouvons écrire :

 k 1
  k  1  P  k  1  y  i   i  (3.37)
i n1

où la matrice P(k +1), que nous appellerons matrice de gain d’adaptation, est définie par :
1
 k 1 
P  k  1      i  T  i   (3.38)
i n1 
Nous pouvons écrire l’expression suivante :
k 1 k

 y  i   i    y  i   i   y  k 1  k 1 (3.39)

i n1 i n1

qui se réécrit, en considérant l’équation (3.35)

k 1
 k T 
 y  i   i       i   i     k   y  k  1  k  1 (3.40)
i n1 i n1 

En ajoutant et en retranchant la quantité   k  1 T  k 1   k  dans le membre droit de

l’équation (3.40), nous obtenons :

k 1
 k 1 T  T
 y  i   i       i   i     k    k  1  y  k  1    k   k  1  (3.41)
i n1 i n1 

Chapitre 3 : Estimation paramétrique des systèmes dynamiques par la méthode de l’erreur de prédiction 27
Cours Identification des procédés industriels Badreddine LOUHICHI

Des deux équations (3.12) et (3.38), il vient:

k 1
1

 y  i   i   P  k 1  k    k 1   k 1
i n1
(3.42)

Compte-tenu des deux expressions (3.37) et (3.42), nous pouvons exprimer le vecteur des

paramètres estimés optimal   k  sous la forme récursive suivante :

 
  k  1    k   P  k 1  k  1   k  1 (3.43)

De l’expression (3.43), nous remarquons que le calcul du vecteur des paramètres estimés
 
  k  1 se base sur la connaissance du vecteur des paramètres estimés   k  ; ceci constitue

bien un grand avantage. Cependant, ce calcul dépend de la matrice de gain d’adaptation

paramétrique P  k  1 , qui se détermine de façon non récursive à partir de l’expression

(3.38). Ainsi, pour avoir un vecteur des paramètres estimés optimal   k  sous une forme

totalement récursive, nous devons chercher une forme récursive pour la matrice de gain
d’adaptation paramétrique P  k  1 . Notons toutefois que cette matrice est symétrique définie

positive.

A partir de l’expression (3.38), nous pouvons écrire :

k
P1  k  1  T
   i   i    k 1  k 1T
(3.44)
i n1

ou encore
1
P  k  1   P1  k    k  1 T  k  1  (3.45)

où la matrice P(k) est définie par :

1
 k 
P  k       i  T  i   (3.46)
i n1 
Soient la matrice de gain d’adaptation P(k) et le vecteur d’observations ψ(k), nous pouvons
donc écrire la propriété d’inversion matricielle suivante:
1 1
 P1  k    k  T  k    P  k   P  k   k  1  T  k  P  k   k    T  k  P  k  (3.47)

En appliquant la propriété d’inversion matricielle (3.47) à l’équation (3.45), nous pouvons

exprimer la matrice de gain d’adaptation paramétrique P(k) sous la version récursive suivante:

Chapitre 3 : Estimation paramétrique des systèmes dynamiques par la méthode de l’erreur de prédiction 28
Cours Identification des procédés industriels Badreddine LOUHICHI

P  k 1  k  T  k  P  k  1
P  k   P  k 1  (3.48)
1  T  k  P  k 1  k 

Finalement, nous pouvons définir l’algorithme récursif d’estimation paramétrique des

moindres carrés ordinaires RLS (Recursive Least Squares), qui permet d’estimer les
paramètres intervenant dans le vecteur θ, tel que donné par (3.6), par le système d’équations
suivant :
 
   k     k  1  P  k   k    k 

 P  k 1  k  T  k  P  k  1
 P  k   P  k 1  (3.49)
 1  T  k  P  k 1  k 

   k   y  k    T  k 1  k 

Soulignons que le terme de correction C(k) intervenant dans l’expression (3.33) est tel que :
C  k   P  k   k    k  ; il représente donc le vecteur de correction dans l’algorithme récursif

d’estimation paramétrique des moindres carrés ordinaires RLS (3.49).

Pour tester les performances et les efficacités de l’algorithme récursif d’estimation

paramétrique des moindres carrés ordinaires RLS (3.49) lors de son application, en simulation
numérique, à un système dynamique pouvant être décrit par un modèle mathématique entrée-
sortie DARMA légèrement bruité de type (3.1), et pour évaluer globalement la qualité de
l’estimation paramétrique obtenue, nous pouvons considérer la distance paramétrique d(k),
définie par :

 n  a  a  k  2 m  b  b  k  2 
0.5

j j
d  k     i i       (3.50)
 i 1  ai  j 1  b j  

Nous pouvons montrer aisément que l’algorithme récursif d’estimation paramétrique des
moindres carrés ordinaires RLS (3.49) peut se mettre sous la forme suivante :
 
   k     k 1  K  k    k 

 P  k 1  k 
 K k  T
 1   k  P  k 1  k 
 (3.51)
T
 P k  P k 1  P  k 1  k   k  P  k  1
    
1  T  k  P  k 1  k 
 
   k   y  k    T  k 1  k 

où K(k) représente le vecteur de gain d’adaptation paramétrique.

Chapitre 3 : Estimation paramétrique des systèmes dynamiques par la méthode de l’erreur de prédiction 29
Cours Identification des procédés industriels Badreddine LOUHICHI

Il est important d’indiquer que la structure de l’algorithme récursif d’estimation

paramétrique des moindres carrés ordinaires RLS, qui peut être défini, soit par (3.49), soit par
(3.51), correspond bien à un schéma d’estimation de type ″série-parallèle″, comme illustré
Figure 3.2.

Figure 3.2. Structure de l’algorithme récursif d’estimation paramétrique des moindres carrés ordinaires RLS

3. Conclusion
Ce chapitre a traité de l’estimation paramétrique de systèmes dynamiques par la méthode
de l’erreur de prédiction, tout en se basant sur les techniques des moindres carrés ordinaires.
Nous avons considéré plus particulièrement les systèmes dynamiques pouvant être décrits par
la classe des modèles mathématiques entrée-sortie, linéaires, monovariables, déterministes ou
légèrement bruités et à paramètres inconnus, mais constants.

Chapitre 3 : Estimation paramétrique des systèmes dynamiques par la méthode de l’erreur de prédiction 30