EXPOSE ORAL

------ Modle ARMA

. Srie Temporelle
. Processus stationnaire
.Modle ARMA
. Modlisation de Box et Jenkins
.Application

1
TANG Liyun et QIAN Yuan
 .. Srie Temporelle
S
.1 D Dfinition :
une srie temporelle est une suite de nombres rels , indexs
par les entiers relatifs tels que le temps. Pour chaque instant
du temps, la valeur de la quantit tudie Xt est appele
variable alatoire. L'ensemble des valeurs Xt quand t varie
est appel processus alatoire
{Xt , t T }

2
.. Srie Temporelle
S
.1 D
Dfinition
Une srie temporelle est une suite de nombres r els, indexs par
les entiers relatifs tels que le temps .
Pour chaque instant du temps , la valeur de la quantit tudie Xt
est appele variable alatoire . L'ensemble des valeurs X t quand t
varie est appel processus alatoire
{ Xt , t T }
 .2 Domaine d
dapplication

en astronomie (on the periodicity of sunspots, 1906),

en mt orologie ( time-seires regression of sea level on
weather , 1968)
en thorie du signal (Noise in FM receivers, 1963)
en biologie ( the autocorrelation curves of schizophrenic
brain waves and the power spectrum, 1960)
en conomie (time-series analysis of imports, exports and
other economic variables, 1971)...etc.
 En astronomie (on the periodicity of sunspots, 1906)

5
 .3 Objectif

Modliser les mouvements de la srie temporelle partir de

son histoire et des valeurs prsentes et passs dun Bruit Blanc

avec un modle linaire .

6
 ..4 Hist oire
Histoire
1927 G.U.Yule -- mod
modle AR
1931 G.T.Walker mod
modle MA et mod
modle ARMA
1970 G.E.P.Box et G.M.Jenkins
G.M.JenkinsBoxBox
BoxJenkins
Jenkins
Time
Time Series Analysis Forecasting and Control
Control
1982 ARCH
1985 GARCH

2013-3-21
.. Processus stationnaire

.. 1 conception de stationnarit
stationnarit
La stationnarit joue un rle central dans la thorie des processus
Processus fortement stationnaire(ou au sens strict) : la distribution de
probabilit est invariante par translation de laxe du temps
Processus faiblement stationnaire (ou stationnaire lordre 2) :
permanence des deux premiers moments (conditions utilises en
pratique)
1) EX t2 < , t T
2) EX t = , t T
3) Cov( X t , X t + k ) = k , t , k Z

8
 .. 2 Caract
Caractristiques d'une ssrie temporelle

Fonction dautocovariance :
k= Cov( X tX t + k )
Fonction dautocorrlation(ACF)
k
k = , k Z
0
Fonction dautocorrlation partielle (PACF) :

1 1 ... h 1
*
( h) ... ...
X ( h) = avec ( h ) = ... ... ... .
(h)
... ... ...
h 1 h2 ... 1

* (h) obtenue en remplaant la dernire colonne de R(h) par le vecteur [1, 2 ,.... h ]
'

9
 .. 3 Exemple de processus stationnaire : Bruit blanc

10
 .Modle ARMA
.1
.1 Oprateur retard
.1.1 Diffrence
xt = xt xt 1 k xt = xt xt k
p xt = p 1 xt p 1 xt 1
.1.2 Oprateur retard, not B

xt p = B p xt , p 1
B0 = 1
B ( c x t ) = c B ( x t ) = c x t 1 ,
B ( x t y t ) = x t 1 y t 1
B n xt = xt n
n
n i i n!
(1 B ) = ( 1) C n B i , C ni =
i=0 i! ( n i )!

11
 ..1.
1.33 Appliquer llop
oprat eur retard
rateur

p
p xt = (1 B ) p xt = (1) i C ip xt i
i =0
k
k xt = xt xt k = (1 B ) xt

12
 ..2 Cas particulier : AR(p)

xt = 0 + 1 xt 1 + 2 xt 2 + L + p xt p + t

p 0

E ( t ) = 0 Var ( t ) = 2
, E ( t s ) = 0, s t
Ex = 0, s < t
s t

( B) xt = t

( B) = 1 1 B 2 B 2 L p B p

13
 Proprit

Ext = E (0 + 1 xt 1 + L + p xt p + t )

Ext = , E(t ) = 0, t T
0
=
1 1 L p

14
 Fonction dautocovariance

E ( xt xt k ) = 1 E ( xt 1 xt k ) + L + p E ( xt p xt k ) + E ( t xt k )

E ( t xt k ) = 0

k = 1 k 1 + 2 k 2 + L + p k p , k = 1,2,L
0 = Var(X t )

15
 Fonction dautocorrlation

k
k =
0

k = 1 k 1 + 2 k 2 + L + p k p , k = 1,2, L

16
 Fonction dautocorrlation partielle

1 = k1 0 + k 2 1 + L + kk k 1
= + +L+
2 k1 1 k2 0 kk k 2 E[( xt E xt )( xt k E xkt )]
kk =
L L L L L L L L E[( xt k E xt k ) 2 ]
k = k1 k 1 + k 2 k 2 + L + kk 0

kk = 0 , k > p

17
 .3 Cas particulier : MA(q)

xt = (B)t
( B ) = 1 1 B 2 B 2 L q B q

18
 Proprit

Ext = E + t 1 t 1 2 t 2 L q t q
=

Var ( xt ) = Var ( + t 1 t 1 2 t 2 L q t q )
= (1 + 12 + L + q2 ) 2

19
 tudes des autocovariance k

(1 + 12 + L + q2 ) 2 , k = 0
q k

k = ( k + i k +i ) 2 , 1 k q
i =1
0, k >q

20
 Le Corrlogramme

1, k =0
qk
k + i k +i
i =1
k = 2 2
, 1 k q
1 + 1 + L + q
0, k >q

Si q<MA(q) stationnaire

21
 Le corrlogramme de MA(q) sannule partir de q+1

E[( t I l + k xt l k ) xt k ]
E{[ xt E ( xt )][ xt k E ( xt k )]} l =0
=
Var ( xt k | xt 1 , L, xt k +1 ) Var ( xt k )

E ( t xt k ) I l + k E ( xt l k xt k ) Il +k l
l =0 l =0
= 2 2 2
=
(1 + + L + )
1 q (1 + + L + q2 ) 2
1
2

car I
l =0
0
l +k l

22
.4 Modle ARMA
.4.1 Dfinition gnrale
Un processus stationnaire Xt suit un ARMA(p,q) s'il vrifie
la relation suivante :

X t = 0 + 1 X t 1 + L + p X t p + t 1 t 1 L q t q

p 0 q 0
2
t ~ BB(0 )

2013-3-21
 En introduisant l'oprateur retard, la relation s'crit :

( L) X t = ( L) t

avec ( L) = 1 L L2 L Lp
1 2 p

et ( L) = 1 L L2 L Lq
1 2 q

24
 .4.2 La th
thor
orme de Wold
Une version simple du thorme de Wold :

Soit T ralisations dun processus stationnaire centr.

{X t }Tt=1

t ~ BB (0, 2 ) et ( 0 , 1, 2 ,L)
avec 0 = 1 et lim i = 0
i

tels que X t = i t i = ( L) t
i =0

tout processus (Xt) stationnaire peut se mettre sous forme MA(),

25
 Approximation fractionnelle du th
thor
orme de Wold

Soit ( L) = 1 + 1L + L + q Lq et ( L) = 1 1L L p Lp

( L)
avec ( L)
( L)

Le processus X t peut tre rcrit sous la forme

( L) X t = ( L) t

ou ( L) : modlisation ARMA(p,q) de X t
Xt = t
( L)

ARMAapproximation de lcriture MA()

 Remarque : un modle ARMA stationnaire et inversible peut
toujours se rcrire sous la forme dun modle AR ou dun
modle MA

Cas particuliers
ARMA(p,0) ou AR(p) : X t = 1 X t 1 + t

ARMA(0,q) ou MA (q) : X t = t 1 t 1
ARMA(0,0) : bruit blanc

27
 . Modlisation de Box et Jenkins

Stationnarisation et Dessaisonalisation
Identification
Estimation
Validation et Test
Prvisions

28
 .1
.1 Stationnarisation et Dessaisonalisation
.1.1
.1.1 Tests de la stationnarit
stationnarit
Pour vrifier la stationnarit : plusieurs mthodes
Examen visuel de la srie

Pas stationnaire stationnaire

Calculs de la moyenne et de la variance sur des sous ensembles

de la serie et tests dgalit
Analyse visuelle de la dcroissance de la fonction dautocorrlation
Tests de recine unit (Dickey-Fuller, )
2013-3-21
 Tests de recine unit
unit
identification de llordre ddint
intgration des ssries
Le test de Dickey & Fuller propos de tester 3 situations
1. H0:yt est un pure RW
y t y t 1 = t y t = ( 1) y t 1 + t H 0 : = 1

2. H0:yt est un RW avec drive

y t y t 1 = + t y t = + ( 1) y t 1 + t H0 : = 1 = 0

3. H0:yt est un RW avec trend et drive

yt yt 1 = + t + t y t = + t + ( 1) y t 1 + t

H0 : = = 1 = 0
 Le test de Dickey & Fuller Augment
H0 : est intgr dordre au moins 1
H1 : le processus suit un modle AR(p)
A( L) yt = t H 0 : A(1) = 0
A( L) y t = + t H 0 : A(1) = = 0

A( L) y t = + t + t H 0 : A(1) = = = 0

Complments sur les tests de racine unit

Tests de Phillips et Perron
Ils proposent une correction non paramtrique des deux
statistique des test de Dickey et Fuller
Srie stationnaire Srie non stationnaire Srie non stationnaire
en moyenne en variance
 .1.
.1. 2 Transformation stationnarisante d
dun
processus non stationnaire

La ss
rie non stationnaire

processus TS(Trend stationary) prsente une non stationnarit de

nature dterministe
Yt f(t) = Zt stationnaire
processus DS (Difference stationnary) prsente une non
stationnarit de nature stochastique
(1 L)dYt = Zt stationnaire

33
 .1.2
.1.2 Si la srie nest pas stationnaire, il faut la stationnariser
par une mthode adapte
Processus TS
Xt = f(t) + Et avec f(t) = fonction dterministe du temps, Et :stationnaire
Dcomposition tendance dterministe - fluctuations
Exemples frquents :
- Trend linaire : X t = + 1t

- Tend quadratique : X t = + 1t + 2t 2

- Trend polynomial : X t = + 1t + 2t 2 + L + nt n

- Trend exponentiel : X t = e t Log ( X tTrend ) = Log ( ) + t

2013-3-21
 Dcomposition saisonnalit dterministe - fluctuations

s
Modle sans tendance : X t = i Di ,t + ut
i =1

s
Modle avec tendance : X t = t + i Di ,t + ut
i =1
 Processus DS
Les plus utilises :
La diffrence dordre d : dXt = (1-B)dXt

Trend stochastique
X t = ( X t X t 1 ) ~ I (0)
Saisonnalit stochastique
Saisonnalit
S X t = ( X t X t S ) ~ I (0)
Sries avec trend et saisonnalit
saisonnalit stochastiques
S X t = (1 L)(1 LS ) X t
= ( X t X t S ) ( X t 1 X t S 1 )
.2
.2 Identification
Objectif : dterminer d, p, q
Outils didentification :
ACF
PACF
Fonction dautocorrlation inverse
Mthode du coin
Critres dinformation AIC
la fonction dautocorrlation tendue (Tsay, & Ciao)
Mthode SCAN

37
 ACF et PACF

ACF PACF

AR(p) dcroissance kk=0

omtrique vers 0
gom pour k>p
MA(q) k=0 dcroissance
pour k>q omtrique vers 0
gom

ARMA(p,q) dcroissance dcroissance

omtrique vers 0 gom
gom omtrique vers 0
 Critres dinformation AIC
- Estimation de tous les modles ARMA(p,q) pour p p max
et q q max
On retient la forme ARMA(p, q) qui minimise au choix lun
des deux criteres AIC ou BIC suivants ( 2
)
= ( t t2 ) / T )

2( p + q )
critere AIC : AIC ( p, q) = log 2 +
T

log(T )
critere BIC : BIC ( p, q ) = log 2 + ( p + q )
T
 .3
.3 Estimation
Lestimateur du maximum de vraisemblance
H1 on suppose que la population des rsidus {t} peut tre
dcrite par un processus bruit blanc gaussien (0,2).

crivons alors la vraisemblance associe au vecteur de

ralisation (1,2, T).

40
 .4
.4 Validation et Test
Test sur les rsidus
Test dabsence d'autocorrlation des rsidus
le test de Box-Pierce
le test de Ljung-Box
le test de Durbin-Watson
Test dhomoscdasticit
le test de Goldfield et Quandt
le test de White
le test de Breusch et Pagan
Estimation rcursive et analyse de la stabilit du modle

41
 .4
.4 Validation et Test
Test dabsence d'autocorrlation des rsidus
le test de Box-Pierce et le test de Ljung-Box

Statistics :
h
Box-Pierce Qh = T k2
k =1
h
k2
Ljung-Box Qh = T (T + 2) 2(h)
k =1 T k

p>0.05, la srie est

statistiquement un bruit blanc

42
 .4
.4 Validation et Test
Test dabsence d'autocorrlation des rsidus
le test de Durbin-Watson
H0 : =0
H1 : il existe dautocorrlation
statistics :

Avec et la srie de rsidu,

T est le nombre dobservation

43
 Tests de normalit: Bera & Jarque (1984)
notonsk le moment dordre k de la distribution k = E([X E(X)]k )
3/ 2
Coefficient du skewness s = 3 / 2 et de la kurtosis k = 4 / 22

statistics:
BJ 12 (2) on rejette lhypothse H0 de normalit des rsidus au seuil

44
 Estimation rr
cursive et analyse de la stabilit
stabilit du mod
modle
Estimation rcursive du modle sur les sous-chantillons :
t = 1,,T*; t = 1, , T*+1; ., t = 1,,T-1
Calcul des rsidus rcursifs (one-step ahead forecast error)
t+1,t = yt +1 yt+1,t
On peut dmontrer le rsultats suivant :

t+1,t ~ N (0, 2 rt ) avec rt > 1 et lim rt = 1

t

Rsidus rcursifs normaliss

t+1,t iid
t +1,t = ~ N (0,1) t = T *,,T-1
rt
Statistique du CUSUM :
t
CUSUM t = +1, t = T *,,T-1
=T *
Calcul dun Intervalle de confiance pour le CUSUM partir des bornes tabules
de la statistique

45
 .5
.5 Prvisions

xt (k ) = E (1 xt + k 1 + L + p xt + k p + t + k 1 t + k 1 L q t + k q xt , xt 1 , L)
q

1 xt ( k 1) + L + p xt (k p ) i t + k i , k q
= i=k
x ( k 1) + L + x (k p ) , k >q
1 t p t

x (k ) , k 1
xt (k ) = t
xt + k , k 0

Var[et (k )] = (G02 + G12 + L + Gk21 ) 2

46
Incertitude associe aux prvisions
Critre de pouvoir prdicitf
Critre dinformation
Test s danticipations rationnelles
Limite de prdictibilit dun modle ARMA
les prvisions hors chantillon des modles ARMA convergent
vers la moyenne non conditionnelle du processus.
On peut calculer la limite de prdictibilit
Expliquer et prsenter

2013-3-21
 Incertitude associe aux prvisions
Critre de pouvoir prdicitf
Plusieurs indicateurs sontalors possibles :
(i) la variance du rsidu 2, ou la somme des carrs des
rsidus SCR
(ii) le coefcient de dtermination R2, correspondant
une normalisation de la variance
(iii) le coefficient de dtermination modifi adjust-R2
(iv) la statistique de Fisher (comme dans le cas du
modle linaire)
Le but est alors de minimiser (i), ou de maximiser (ii) ;
(iii) ou (iv).
2013-3-21
Incertitude associe aux prvisions
Critre dinformation

2( p + q )
AIC ( p, q ) = log 2 +
T

log(T )
BIC ( p, q) = log 2 + ( p + q )
T

valuation de plusieurs prvisions

comparer la prcision de prvisions non optimales:
lerreur de prvision et + h ,t = yt + h yt + h ,t
lerreur de prvision en pourcentage yt + h yt + h,t
pt + h,t =
yt + h

2013-3-21
 Critres Mean Error (ME) et Error Variance (EV):
1 T
ME = et + h ,t : mesure du biais (faible avec une bonne prvision)
T t =1
1 T
EV = (et + h,t ME ) 2
: dispersion des erreurs de pr visions (faible avec
T t =1
une bonne prvision)
Mesures globales de la prcision des prvisions: MSE et MSPE
1 T
MSE = (et + h,t ) 2 1 T
T t =1 MSPE = ( pt + h,t ) 2
T t =1
Des variantes de ces indicateurs (RMSE et RMSPE) permettent de
prserver les units des grandeurs prvues :
RMSE = MSE RMSPE = MSPE
Autres mesures : MAE et MAPE

1 T 1 T
MAE = et + h,t MAPE = pt + h,t
T t =1 T t =1

50
 .Application

Modle ARMA pour donnes des employs

Canadian
1961:1 1994:4
 Identification du modle par AIC
AIC analysis of models for series CAEMP
 Identification du modle par corrlogramme
57
 Prolongement du mod
modle ARMA

ARIMA(p,d,q) ( L)(1 L) d X t = ( L) t

SARIMA(p,d,q)(P,D,Q)s
p ( L) P ( Ls )(1 L) d (1 Ls ) D X t = q ( L) Q ( Ls ) t

59
 modle ARMA
Prolongement du mod
ARFIMA: processus mmoire longue
ARFIMA(p,d,q) :

TARMA: processus seuil

o u1t et u2t sont deux bruits blancs de variance respective 21et 22

FARMA: dXt suivent un processus ARMA(p, q) o d nest pas

entier, compris entre -1/2 et 1/2

ARCH : processus avec la variance volu dans le temps,

notamment pour les problmes montaire et financire
60