Chapitre 3

Processus alatoires
1.

Introduction

Le mot signal dsigne lvolution temporelle dune grandeur physique

mesurable (courant, tension, force, temprature, pression, etc.). Ces signaux
physiques sont modliss par des fonctions mathmatiques x dpendant dune
variable reprsentant le temps t . En pratique un signal est issu dune mesure par
un capteur. Un signal est dit dterministe si son volution peut tre prdite en
utilisant un modle mathmatique. Cest le cas de la tension lectrique aux
bornes dune alimentation qui peut scrire x(t ) A cos( 2f 0 t ) . Si A et f0 sont
connus, on peut dterminer la valeur de lamplitude nimporte quel instant. Il
nen est plus de mme pour un signal tel que celui observ la sortie dun
microphone. Il semble que tout effort pour crire lquation dun tel signal, mme
avec un trs grand nombre de paramtres, soit vou lchec. Par contre on
imagine assez bien que, faute de pouvoir donner la valeur du signal un instant t,
il soit possible de prciser une distribution de valeurs possibles. Do lide
dutiliser des variables alatoires pour dcrire le phnomne tout instant [4,5].
2.

Dfinition

Un processus alatoire (ou stochastique) est une famille de fonction X (t ) ,

relles ou complexes, dfinies dans un espace de probabilit, cest--dire
dpendant de deux variables, lune est le temps t , lautre est la variable
dfinissant le hasard. Selon que les variables sont continues ou discrtes, on
parle de processus alatoires continus ou discrets.
2.1. Signaux alatoires
Pour une ralisation i donne, le processus alatoire X (t , ) se rduit une
fonction x(t , i ) que lon notera simplement xi (t ) , cest un signal alatoire. Par
convention, un signal alatoire x(t ) est considr comme un signal puissance
moyenne finie, dont la puissance est calcule par lquation :
1
T T

Px lim

A partir de

x (t )

T / 2

x(t )

dt

(1.1)

T / 2

, on peut dfinir la moyenne temporelle du signal :

1
T T

x lim

T / 2

x(t )dt

T / 2

2.2. Variables alatoires

23

(1.2)

A chaque instant t i , le processus alatoire X (t , ) se rduit une variable

alatoire X (t i , ) note X (t i ) ou simplement X i , dont le comportement
ncessite la connaissance de sa fonction de rpartition :
F X i ( x) F X ( x, t i ) prob ( X i x)

(1.3)

ou de sa densit de probabilit :
p X i ( x ) p X ( x, t i )

dF X i ( x )

(1.4)

dx

Pour valuer la moyenne X de la variable alatoire X , on peut calculer la

moyenne des N preuves :
1 N
X lim
Xn
(1.5)

N N
n 1
Si lon connait la loi de probabilit de X , lesprance mathmatique est donne
par :
E X

xp

(1.6)

( x ) dx

2.3. Vecteurs alatoires

Soient les variables alatoires X 1 , X 2 , , X k associes aux instants t1 , t 2 , , t k .
Ces variables alatoires forment un vecteur alatoire

X 1 , X 2 , , X k T

. Ce

vecteur est caractris par sa fonction de rpartition :

F X ( x1 , x 2 , , x k ) prob ( X 1 x1 , X 2 x 2 , , X k x k )

3.

(1.7)

Processus alatoire

Un processus alatoire X (t , ) est une famille de fonctions X (t ) , relles ou

complexes, dfinies dans un espace de probabilit, cest--dire dpendant de
deux variables, lune est le temps t , lautre est la variable dfinissant le
hasard [4,5].

24

Figure.1 Processus alatoire

-

X (t , ) est une variable alatoire si t est fixe, est variable.

X (t , ) est un signal alatoire (ralisation) si t est variable, est fixe.
X (t , ) est un nombre si t est fixe, est fixe.

X (t , ) est processus alatoire si t est variable, est variable.

Selon que les variables t et sont continues ou discrtes, on parle de
-

processus alatoires continus ou discrets comme suit :

- si t et sont continues alors X (t , ) est un processus alatoire continu
(continuous random process).
- si t est continu et est discret alors X (t , ) est un processus alatoire
discret (discrete random process).
- si t est discret et est continu alors X (t , ) est une squence alatoire
continue (continuous random sequence)
- si t est discret et est discret alors X (t , ) est une squence alatoire
discrte (discrete random sequence).
3.1. Statistiques dun processus alatoire
Lquation (1.7) caractrise les statiques dordre k du processus alatoire
X (t , ) . De faon gnrale, on sintresse des statistiques dordre 1 pour une
variable, et les statistiques dordre 2 pour un vecteur de deux variables
alatoires.
3.1.1.

Statistiques dordre 1

Soit X i une variable alatoire du processus alatoire X (t , ) linstant t i . Sa

fonction de rpartition est note F X ( x, t i ) prob ( X i x) et sa densit de
probabilit p X ( x, t i ) dF X i ( x) / dx .
On peut dfinir les diffrents moments statistiques :
Moment dordre 1 (moyenne) :
E X i

xp

Moment dordre

Xi

(1.8)

( x ) dx

E X in

Moment centr de degr ou dordre

(1.9)

p X i ( x ) dx

E ( X i E[ X i ]) n

( x E[ X

Moment centr dordre 2

25

]) n p X i ( x ) dx

(1.10)

Ce moment sappelle la variance. Elle est dfinie comme :

E ( X i E[ X i ]) 2

( x E[ X

]) 2 p X i ( x ) dx

(1.11)

La variance peut tre aussi sexprime sous la forme :

2 E[ X i2 ] m X2 i

(1.12)

La variance est une mesure de la dispersion de la variable alatoire autour de

sa moyenne. Sa racine carre est appele cart-type (standard dviation).
3.1.2.

Statistiques dordre 2

Soient les deux variables alatoires X 1 X (t1 ) , X 2 X (t 2 ) et la fonction de

rpartition :
(1.13)

F X ( x1 , x 2 ) prob ( X 1 x1 , X 2 x 2 )

et la densit de probabilit :
p X ( x1 , x 2 )

2 FX ( x1 , x 2 )
x1 x 2

(1.14)

T
On peut alors dfinir les diffrents moments du vecteur alatoire [ X 1 , X 2 ]
m
n
par E[ X 1 X 2 ] , en particulier, pour comparer les variables alatoires, on utilise la

fonction dautocorrlation statistique :

rx (t1 , t 2 ) E[ X 1 X 2 ]

x 2 p X ( x1 , x 2 ) dx1 dx 2

(1.15)

Et la fonction dautocovariance, qui nest autre que la fonction dautocorrlation

des variables centres :
c x (t1 , t 2 ) E[( X 1 m X 1 )( X 2 m X 2 )]

(x

X 1 )( x 2 X 2 ) p X ( x1 , x 2 ) dx1 dx 2

(1.16)

En dveloppant cette expression, on peut aboutir :

c x (t1 , t 2 ) rx (t1 , t 2 ) m X 1 m X 2

Remarque : Si t1 t 2 , on aura

(1.17)

3.2. Stationnarit et ergodicit

3.2.1.

Processus stationnaire au sens strict

Un processus alatoire est dit stationnaire au sens strict, si toutes ses

proprits statistiques sont invariantes un changement dorigine du temps.

26

3.2.2.

Processus stationnaire au sens large

Un processus alatoire est dit stationnaire au sens large, si toutes ses

proprits statistiques dordre 1 et 2 sont invariantes un changement dorigine
du temps.
Pour un processus alatoire stationnaire au sens strict, on a :
p X i ( x) p X j ( x ) p X ( x ), i, j

(1.18)

Pour un processus alatoire stationnaire au sens large, on a :

E X i E X X

(1.19)

(1.20)

rx (t1 , t 2 ) rx ( ), c x (t1 , t 2 ) c x ( ), t 2 t1

(1.21)

E X i2 E X 2 X2

3.2.3.

Processus ergodique

Un processus alatoire est dit ergodique (ergodic) si les valeurs moyennes

statistiques (densemble sur ) sont gales aux valeurs moyennes temporelles
(sur une seule ralisation). La consquence de cette hypothse est trs
importante en pratique. Elle permet de remplacer les calculs de moments
statistiques (qui supposent connues les densits de probabilit ou les fonctions
de rpartition) par les moyennes temporelles sur une seule ralisation
(observation). En pratique, faire une estimation de la moyenne temporelle sur une
fentre de taille infinie est impossible. Il faut se contenter dune approximation
calcule sur une fentre de taille finie, qui tendra asymptotiquement, avec la
taille
de
la
fentre,
vers
la
moyenne
statistique.
Cette hypothse dergodicit est cependant difficile vrifier. On admettra
frquemment que les processus alatoires usuels sont ergodiques [4,5].
Si le processus X (n) est ergodique, et on ne dispose quune seule ralisation,
alors la moyenne et la fonction dautocorrlation sont approximes par :

X
rX (m)

1 N
Xi
N i 1

(1.22)

1 N m 1
*
X i ( n) X i ( n m)
N m i 1

, m 0,1, , N 1

(1.23)

3.3. Autocorrlation et autocovariance des processus alatoires :

Pour un processus stationnaire, lautocorrlation statistique est dfinie par :
rx ( ) E X (t ) X (t )
27

(1.24)

On dfinit aussi lautocorrlation temporelle :

1
T T

x ( ) lim

T / 2

x(t ) x(t )dt

(1.25)

T / 2

Sous lhypothse dergodicit, on a donc :

x ( ) rx ( )

(1.26)

3.4. Coefficient dautocorrlation

Les coefficients de corrlation lautocovariance normalise :

X ( )

c x ( )
, X (0) 1
X2

(1.27)

Pour Autocovariance, cest lautocorrlation du processus centr. Si celui-ci est

stationnaire, on a :

c x ( ) E X (t ) m X X (t ) m X rx ( ) m X2

(1.28)

3.5. Proprits de la fonction dautocorrlation

Parit : Les fonctions dautocorrlation et dautocovariance sont paires pour des
processus rels :
rx ( ) rx ( ) , c x ( ) c x ( )

(1.29)

Valeur en = 0 : En 0 , on a :
c x (0) x2 et rx (0) x2 m X2

(1.30)

La quantit c x (0) correspond la puissance moyenne des fluctuations du signal,

alors que rx (0) correspond la puissance moyenne totale.
Ingalits :
rx ( ) rx (0) et c x ( ) c x (0)

(1.31)

Coefficients de corrlation : A partir des ingalits prcdentes, il est facile

de montrer que les coefficients de corrlation vrifient
1 X ( ) 1

(1.32)

Comportement pour : Pour un processus alatoire sans composante

priodique, on peut montrer que la dpendance entre X (t ) et X (t ) diminue
lorsque augmente. On a alors :

28

lim c x ( ) 0

(1.33)

Et
2
2
lim rx ( ) lim c x ( ) m X m X

(1.34)

3.6. Matrice de corrlation

Pour un vecteur alatoire X X 1 , X 2 , , X k , on peut dfinir une matrice de
T

corrlation dont les lments sont les fonctions de corrlation des composantes
deux deux :

R XX E XX T

R XX

(1.35)

E X 1 X 1 E X 1 X 2 E X 1 X k
E X X

2 1

E X k X k
E X k X 1

Le processus est suppos stationnaire, E X i X i rX (0) , E X i X j E X j X i , donc

la matrice R XX est symtrique et chaque diagonale est constitue dlments
identiques (matrice Teoplitz). Dans le cas complexe, la matrice R XX devient
R XX E XX H o XH est le transpos conjugue de X. La matrice de corrlation
nest plus symtrique, mais hermitienne.

4.

Processus alatoires temps discret

Un processus alatoire temps discret X (n) est une squence de variables

alatoires dfinies pour tout entier n . La valeur moyenne, la fonction
dautocorrlation et la fonction dautocovariance sont donnes par :
E X ( n) m X ( n )
rx ( n1 , n 2 ) E X (n1 ) X (n 2 )

(1.36)
(1.37)

c x (n1 , n2 ) E X (n1 ) m X (n1 ) X (n2 ) m X (n2 ) rx (n1 , n2 ) m X (n1 )m X (n2 ) (1.38)

Si le processus X (n) est stationnaire au sens large, alors la moyenne :
E X (n) m X const

est indpendante de

(1.39)

n , et la fonction dautocorrlation :
rx ( n, n k ) rx ( k ) c x ( k ) m X2
29

(1.40)

ne dpend que du dcalage temporel entre

n et

nk .

Matrice dautocorrlation
T
Soit un vecteur de M variables alatoires X X (n), X (n 1), X (n M 1) .
La matrice dautocorrlation de ce processus est :

R XX E XX T

R XX

5.

rX ( 0 )
rX (1)

rX ( M 1)

(1.41)

rX (1) rX ( M 1)

rX ( 0 )

Filtrage des processus alatoires

Les filtres linaires sont trs utiliss dans diverses applications du traitement
du signal. les entres de ces filtres sont gnralement des processus alatoires.
Donc cette opration de filtrage peut tre considre comme une opration de
modlisation dune squence alatoire. Les modles les plus rencontrs sont le
processus AR, le processus MA et le processus ARMA [1,4,5].
Soient X (n) , Y (n) et h(n) lentre du filtre, la sortie du filtre et la rponse
impulsionnelle du filtre respectivement.

Figure 2. Filtrage des processus alatoires

5.1. Processus AR
Un processus AR est represent par lequation aux difference suivante
p

X ( n ) a k X ( n k ) e( n )

(1.42)

k 1

o X (n) est la squence alatoire observe, a k , k 1, 2, , p , sont des

constantes appeles les paramtres du modle. e(n) est une squence de
2
variables alatoires gaussiennes, de moyenne nulle et de variance n . p est
lordre du filtre. Le mot autorgressif vient du fait que la valeur prsente du
processus est une combinaison linaire des valeurs passes du processus et un
terme de bruit. En prenant la transforme en Z de lquation (), on aboutit :

X ( Z ) 1 a1 Z 1 a 2 Z 2 a p Z p E ( Z )
30

(1.43)

Do la fonction de transfert du filtre est :

H (Z )

(1.44)

1 a k Z k
k 1

La structure du filtre est reprsente sur la figure (3).

Figure 3. Processus autorgressif dordre p

Pour dterminer la densit spectrale de puissance la sortie du filtre qui est
donne par :
n2

Sx ( f )

1 ak e

2
j 2fk

(1.45)

k 1

Nous avons besoin destimer les coefficients du modle ak ainsi que la variance
2
du bruit n .
En multipliant lequation (1.42) par X (n l )
p

E X ( n) X ( n l ) a k E X ( n k ) X ( n l ) E e( n ) X ( n l )
k 1

(1.46)

2
Le terme E e(n) X ( n l ) vaut n pour l 0 . Cependant pour l 0 ce terme est
nul du fait que les termes X (n l ) et e(n) sont idependants et E e( n) 0 . Le
premier terme de lequation () est la fonction dautocorrelation rx (l ) .

Donc :
p

rx (l ) a k rx (l k ), l 0
k 1

En mettant cette expression sous la forme matricielle :

31

(1.47)

rx (1)
rx ( 2)

rx ( p )

r X ( 0)
rX (1)

rX ( p 1)

rX ( 1) rX ( p 1) a 1
a

2 R x a rx

rX ( 0 ) a p

(1.48)

Ce sont les quations de Yule-Walker.

Les coefficients a k sont la solution du systme dquations.
(1.49)

a R x1 rx

Et la variance du bruit :
p

n2 rx (0) a k rx (k )

(1.50)

k 1

5.2. Processus MA
Un processus MA est dfinit par :
X ( n)

b e( n k ) , b
k 0

(1.51)

O b0 , b1 , bq sont les parametres du modele AR et e(n) est un bruit blanc

constituant lentr du filtre. En appliquant la transforme en Z, on aura :

X ( Z ) E ( Z ) 1 b1 Z 1 bq Z q

(1.52)

La figure montre un processus MA dordre q

Figure 4. Processus moyenne ajuste dordre q

5.3.

Processus ARMA

Le modele dun processus ARMA est donn par :

p

k 0

l 0

a k X (n k ) bl e(n l ) , a0 b0 1
Oubien sous la forme :
32

(1.53)

k 1

l 1

X (n) a k X (n k ) e(n) bl e(n l )

(1.54)

En prenant la transforme en Z, nous obtenons :

q

H (Z )

1 bl Z l
l 1
p

1 ak Z

(1.55)

k 1

La figure ci-dessous montre un processus ARMA dordre ( p, q )

Figure 5. Processus autorgressif moyenne ajuste dordre (p,q)

Le processus ARMA est vue comme un filtre de fonction de transfert H (z )
ayant des ples et des zros. Excit par une entr e(n) , le modle dlivre un
processus X (n) . Les polynmes A( z ) et B (z ) sont caractriss par le lieu de
leurs racines dans le plan complexe. Il est suppos que le polynme A(z ) toutes
racines lintrieur du cercle unitaire du plan complexe pour assurer que le filtre
soit stable, sinon la sortie du modle ne sera pas un processus stationnaire.
6.

Densits de probabilit usuelles

6.1. Loi gaussienne

Si la variable X suit une loi gaussienne (ou normale), de moyenne nulle et de
variance 2 , sa densit de probabilit scrit :
p X ( x)

x2
exp
2
2 2
2

(1.56)

6.2. Loi uniforme

Soit X une variable alatoire uniforme sur lintervalle [1/2,+1/2]. La densit de
probabilit scrit:
(1.57)

p X ( x) rect ( x )
33

Cette variable est centre, donc la variable X a une moyenne nulle :

E X

1 / 2

1 / 2

xp X ( x)dx

xdx 0

(1.58)

Le moment dordre deux est:

E X2

p X ( x)dx

1 / 2

1 / 2

dx

1
12

(1.59)

Puisque la moyenne est nulle, la variance et le moment dordre 2 sont gaux.

7.

Notion de bruit blanc

2
Un bruit blanc u (n) est un processus alatoire centr vrifiant : ru (0) u et
ru (k ) 0 pour k 0 . La densit spectrale de puissance est donc constante sur
tout laxe des frquences

Pu ( f ) u2 cte.

34