Seasonal Time Series

Handout 8
• “Periodic” is a better term; “seasonal” commonly used
Seasonal ARMA (SARIMA) Models
• Seasonal (periodic) model with S observations per period

 Monthly data has 12 observations per year

 Quarterly data has 4 observations per year
 Daily data has 5 or 7 (or some other number) of obser-
vations per week.
Class notes for Statistics 451: Applied Time Series
Iowa State University • Notes:
Copyright 2004 W. Q. Meeker.
 Sunspot data is cyclical, not seasonal, because distance
between peaks is random.
 Just because we have 12 observations per year, does not
March 2, 2006
mean that there is seasonal behavior (e.g., stock prices
12h 55min
show no regular seasonal patterns)

8-1 8-2

Energy Consumption Data Machine Tool Shipments

Residential and Commercial Energy Consumption 1982-1993 Machine-Tool Shipments 1968-1975

16000
14000
3000

12000
Thousands of Dollars
Quadrillion Btu

10000
2500

8000
2000

6000
4000

1982 1983 1984 1985 1986 1987 1988 1989 1990 1991 1992 1993 1968 1969 1970 1971 1972 1973 1974 1975

Year Year

8-3 8-4

US Gas and Oil Consumption Des Moines Precipitation

US Consumption of Gas and Oil 1967-1982 Des Moines Precipitation

10
8
80
Billions of Dollars

6
60

Inches

4
40

2
20

1967 1969 1971 1973 1975 1977 1979 1981 1983 1970 1975 1980 1985

Year Time

8-5 8-6
 Seasonal ARIMA Model (SARIMA)
Seasonal Differencing
The SARIMA(p, d, q) × (P, D, Q)S model is

• Seasonal differencing is usually needed. For example, ΦP (BS )φp (B)(1 − B)d(1 − BS )D Zt = ΘQ(BS )θq (B)at
ΦP (BS )φp (B)Wt = ΘQ(BS )θq (B)at
Wt = (1 − B12)Zt = Zt − B12Zt = Zt − Zt−12
Zt = Zt−12 + Wt For example using P = 1, p = 1, Q = 2, q = 1, S = 12 gives

Φ1(B12) = (1 − Φ1B12)
Wt = (1 − B)(1 − B12)Zt = Zt − Zt−1 − Zt−12 + Zt−13
φ1(B) = (1 − φ1B)
Zt = Zt−1 + Zt−12 − Zt−13 + Wt
Θ2(B12) = (1 − Θ1B12 − Θ2B24)

• More generally, the “working series” is θ1(B) = (1 − θ1B)

The modeling problem is to choose a transformation (γ and
Wt = (1 − B)d(1 − BS )D Zt
m), differencing (d and D), and the SARIMA model (p, q, P, Q)
Even more generally for the working series Wt. As before, use tsplot, range-mean
plot, ACF and PACF.
Wt = (1 − B)d (1 − BS1 )D1 (1 − BS2 )D2 Zt
and so on. The SARIMA model can be unscrambled to be in the ARMA
form: φ∗p∗ (B)Zt = θq∗∗ (B)at .
8-7 8-8

Data Analysis Strategy Strategy for Seasonal Time Series Modeling

Time Series Plot

Tentative
Range-Mean Plot • Plot data
Identification
ACF and PACF • Use a range-mean plot to see if a transformation might be
needed; choose tentative γ value.
Least Squares or • Choose differencing scheme(s).
Estimation
Maximum Likelihood
 Look at 3 × S + 3 lags on the ACF and PACF of Wt for
all combinations of d = 0, 1 and D = 0, 1.
Diagnostic Residual Analysis  Go higher with d or D as needed.
Checking and Forecasts
 Choose the stationary Wt with the smallest d and D.
Avoid over-differencing
No
Model • Tentatively identify models(s) from the ACF and PACF of
ok?
the chosen differencing scheme(s) [i.e., choose (p, d, q)(P, D, Q)].
Yes • Fit, check, and compare models.
Forecasting • Iterate as necessary
Use the Model Explanation • At the end, choose alternative value of γ, if needed
Control
8-9 8 - 10

Graphical Output from Function iden for the Airline Graphical Output from Function iden for the Airline
Data Log Transformation and No Differencing Data Log Transformation and 1 Regular Difference

International Airline Passengers

w= log(Thousands of Passengers)
International Airline Passengers
6.5

w= (1-B)^ 1 log( Thousands of Passengers )

6.0

0.2
w

5.5

0.0
w
5.0

-0.2

1949 1950 1951 1952 1953 1954 1955 1956 1957 1958 1959 1960 1961

time
1949 1950 1951 1952 1953 1954 1955 1956 1957 1958 1959 1960 1961
Range-Mean Plot ACF
time
1.0
0.5

ACF PACF
ACF

0.0
0.45

-1.0

1.0

1.0

0 10 20 30

Lag
Partial ACF
Range

0.40

ACF

PACF
0.0

0.0
1.0
0.5
Partial ACF
0.35

-1.0

-1.0
0.0

0 10 20 30 0 10 20 30
-1.0

4.8 5.0 5.2 5.4 5.6 5.8 6.0 6.2 0 10 20 30

Lag Lag
Mean Lag

8 - 11 8 - 12
 Graphical Output from Function iden for the Airline
Graphical Output from Function iden for the Airline
Data Log Transformation and 1 Regular and 1
Data Log Transformation and 1 Seasonal Difference
Seasonal Difference

International Airline Passengers

w= (1-B^ 12 )^ 1 log( Thousands of Passengers ) International Airline Passengers
w= (1-B)^ 1 (1-B^ 12 )^ 1 log( Thousands of Passengers )

0.10
0.2
w

0.0
w
0.0

-0.15
1950 1951 1952 1953 1954 1955 1956 1957 1958 1959 1960 1961
1950 1951 1952 1953 1954 1955 1956 1957 1958 1959 1960 1961
time
time

ACF PACF
ACF PACF
1.0

1.0

1.0

1.0
Partial ACF

Partial ACF
ACF

0.0

0.0

ACF

0.0

0.0
-1.0

-1.0

-1.0

-1.0
0 10 20 30 0 10 20 30
0 10 20 30 0 10 20 30
Lag Lag
Lag Lag

8 - 13 8 - 14

Methods of Obtaining the True ACF and PACF for

Seasonal Models
Example: Wt = (1 − Θ1B12)at = −Θ1at−12 + at

• Derivations similar to nonseasonal models. Use the un-

This is a special case of Model 1 from the Box and Jenkins
scrambled form of the model for Wt.
formula sheet with θ1 = 0. Everything is easy to derive.
• Formula sheets from Box and Jenkins give the ACF. Note
γ0 = E(Wt2) = (1 + Θ2 2
1)σa
the use of special cases (e.g., setting θ = 0 in model 1
γ1 = γ2 = · · · = γ11 = 0
gives the ACF of a particularly simple seasonal model Wt =
−Θ1at−S + at) γ12 = E(WtWt+12) = E[(−Θ1at−12 + at)(−Θ1at + at+12)]
= 0 + · · · + 0 + E(−Θ1a2 2
t ) = −Θ1σa
• PACF computed using the same Yule-Walker based “Durbin γ1 = γ2 = · · · = γ11 = 0
formula” as in the nonseasonal models
ρj = γj /γ0
• plot.true.acfpacf() S-PlusTS function. For example ρ1 = ρ2 = · · · = ρ11 = 0
plot.true.acfpacf(model=list(ma=c(.5,0,0,0,0, ρ12 = γ12/γ0 = −Θ1/(1 + Θ2 1)
0,0,0,0,0, 0,0.9,-.45)),nacf=38) or ρj = 0, j > 12.

plot.true.acfpacf(model=list(ma=c(.5,rep(0,10),.9,-.45)),nacf=38)

8 - 15 8 - 16

True ACF/PACF for Wt = −Θ1at−12 + at, Θ1 = .9

True ACF/PACF Wt = −Θ1at−12 + at, Θ1 = −.9
plot.true.acfpacf(model=list(ma=c(0,0,0,0,0, 0,0,0,0,0,
plot.true.acfpacf(model=list(ma=c(rep(0,11),-.9)),nacf=38)
0,0.9)),nacf=38)

True ACF
True ACF ma: 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, -0.9
ma: 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0.9
1.0
1.0

True ACF
True ACF

0.0
0.0

-1.0
-1.0

0 10 20 30
0 10 20 30
Lag
Lag

True PACF
True PACF ma: 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, -0.9
ma: 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0.9
1.0
1.0

True PACF
True PACF

0.0
0.0

-1.0
-1.0

0 10 20 30
0 10 20 30
Lag
Lag

8 - 17 8 - 18
 True ACF and PACF for Wt = +Φ1Wt−12 + at with
Example: (1 − Φ1B12)Wt = at, Wt = Φ1Wt−12 + at Φ1 = .9
plot.true.acfpacf(model=list(ar=c(rep(0,11),.9)),nacf=38)
This is a special case of Model 2 from the Box and Jenkins
formula sheet with θ1 = Θ1 = 0. True ACF
  ar: 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0.9
Φ2

1.0
γ0 = E(Wt2) = 1 + 1 σa2
1 − Φ2

True ACF
1

0.0
 
Φ2
γ12 = E(WtWt+12) = Φ1 1 + 1 σa2

-1.0
1 − Φ21
0 10 20 30
γ1 = γ2 = · · · = γ11 = 0 Lag

γj = Φ1γj−12, j > 12. True PACF

ar: 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0.9
ρj = γj /γ0

1.0
True PACF
ρ1 = ρ2 = · · · = ρ11 = 0

0.0
ρ12 = γ12/γ0 = Φ1

-1.0
ρj = Φ1ρj−12, j > 12. 0 10 20 30

Lag

8 - 19 8 - 20

True ACF and PACF for Wt = +Φ1Wt−12 + at with

Φ1 = −.9
plot.true.acfpacf(model=list(ar=c(rep(0,11),-.9)),nacf=38)
Example: Wt = (1 − θ1B)(1 − Θ1B12)at

True ACF
ar: 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, -0.9 This is Model 1 from the Box and Jenkins formula sheet.
1.0

Wt = (1 − θ1B)(1 − Θ1B12)at
True ACF

= (1 − θ1B − Θ1B12 + θ1Θ1B13)at

0.0

= −θ1at−1 − Θ1at−12 + θ1Θ1at−13 + at

-1.0

0 10 20 30
This is like an MA(13) and, again, everything is easy to de-
Lag
rive. For example,
True PACF
ar: 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, -0.9 γ11 = E(WtWt−11)
1.0

= 0 + 0 + · · · + E[(−Θ1at−12)(−θ1at−12)] + 0 + · · ·
True PACF

..
0.0

= θ1Θ1σa2
-1.0

0 10 20 30

Lag

8 - 21 8 - 22

True ACF/PACF for Wt = (1 − θ1B)(1 − Θ1B12)at, True ACF/PACF for Wt = (1 − θ1B)(1 − Θ1B12)at,
θ1 = .5, Θ1 = .9 θ1 = .1, Θ1 = .9
plot.true.acfpacf(model=list(ma=c(.5,rep(0,10),.9,-.45)),nacf=38) plot.true.acfpacf(model=list(ma=c(.1,rep(0,10),.9,-.09)),nacf=38)

True ACF True ACF

ma: 0.5, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0.9, -0.45 ma: 0.1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0.9, -0.09
1.0

1.0
True ACF

True ACF
0.0

0.0
-1.0

-1.0

0 10 20 30 0 10 20 30

Lag Lag

True PACF True PACF

ma: 0.5, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0.9, -0.45 ma: 0.1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0.9, -0.09
1.0

1.0
True PACF

True PACF
0.0

0.0
-1.0

-1.0

0 10 20 30 0 10 20 30

Lag Lag

8 - 23 8 - 24
 True ACF/PACF for Wt = (1 − θ1B)(1 − Θ1B12)at, True ACF/PACF for (1 − φ1B)(1 − Φ1B12)Wt = at ,
θ1 = −.5, Θ1 = −.9 φ1 = .5, Φ1 = .9
plot.true.acfpacf(model=list(ma=c(-.5,rep(0,10),-.9,-.45)),nacf=38) plot.true.acfpacf(model=list(ar=c(.5,rep(0,10),.9,-.45)),nacf=38)

True ACF True ACF

ma: -0.5, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, -0.9, -0.45 ar: 0.5, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0.9, -0.45
1.0

1.0
True ACF

True ACF
0.0

0.0
-1.0

-1.0
0 10 20 30 0 10 20 30

Lag Lag

True PACF True PACF

ma: -0.5, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, -0.9, -0.45 ar: 0.5, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0.9, -0.45
1.0

1.0
True PACF

True PACF
0.0

0.0
-1.0

-1.0
0 10 20 30 0 10 20 30

Lag Lag

8 - 25 8 - 26

True ACF/PACF for (1 − φ1B)(1 − Φ1B12)Wt = at , True ACF/PACF for (1 − φ1B)(1 − Φ1B12)Wt = at ,
φ1 = .1, Φ1 = .9 φ1 = −.5, Φ1 = −.9
plot.true.acfpacf(model=list(ar=c(.1,rep(0,10),.9,-.09)),nacf=38) plot.true.acfpacf(model=list(ar=c(-.5,rep(0,10),-.9,-.45)),nacf=38)

True ACF True ACF

ar: 0.1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0.9, -0.09 ar: -0.5, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, -0.9, -0.45
1.0

1.0
True ACF

True ACF
0.0

0.0
-1.0

-1.0

0 10 20 30 0 10 20 30

Lag Lag

True PACF True PACF

ar: 0.1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0.9, -0.09 ar: -0.5, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, -0.9, -0.45
1.0

1.0
True PACF

True PACF
0.0

0.0
-1.0

-1.0

0 10 20 30 0 10 20 30

Lag Lag

8 - 27 8 - 28

True ACF/PACF for (1 − Φ1B12)Wt = (1 − Θ1B12)at , True ACF/PACF for (1 − Φ1B12)Wt = (1 − Θ1B12)at ,
Φ1 = −.9,Θ1 = .9 Φ1 = .9,Θ1 = −.9

True ACF True ACF

ma: 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0.9 ar: 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, -0.9 ma: 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, -0.9 ar: 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0.9
1.0

1.0
True ACF

True ACF
0.0

0.0
-1.0

-1.0

0 10 20 30 0 10 20 30

Lag Lag

True PACF True PACF

ma: 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0.9 ar: 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, -0.9 ma: 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, -0.9 ar: 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0.9
1.0

1.0
True PACF

True PACF
0.0

0.0
-1.0

-1.0

0 10 20 30 0 10 20 30

Lag Lag

8 - 29 8 - 30
 Function esti Output for the Airline Data AR(1) Function esti Output for the Airline Data AR(1)
Model—Part 1 esti(airline.d, gamma=0,model = Model—Part 2 esti(airline.d, gamma=0,model =
model.pdq(p=1),y.range=c(100,1100)) model.pdq(p=1),y.range=c(100,1100))

International Airline Passengers

International Airline Passengers
Model: Component 1 :: ar: 1 on w= log( Thousands of Passengers ) Model: Component 1 :: ar: 1 on w= log( Thousands of Passengers )

Residuals vs. Time Actual Values * * * Fitted Values * * * Future Values

* * 95 % Prediction Interval * *
0.2

1000
0.1

800
Thousands of Passengers
Residuals

0.0

••

600
•• •
•• •
-0.1

•• • • •• •
• • •••••
••• • ••••

400
•• • • •••••••
• • ••••••••••
•• • ••• ••• • •• • •••
• •• •
•• • • ••• • ••• • • •
• •••
-0.2

•• • • ••• •
•
•• • •••• • • • • ••• •
• •• •

200
••• ••••• •
••• •••• •••• •••• • •
1949 1950 1951 1952 1953 1954 1955 1956 1957 1958 1959 1960 1961 • ••••• ••••••• •••••
•• •• •
Time
1950 1952 1954 1956 1958 1960 1962

Index

Residuals vs. Fitted Values 1.0 Residual ACF Normal Probability Plot
0.2

• •
•
• • • • • • •
• • •
• • • •

2
• • •
• • • • • ••
• • ••
• • •
• • •• • ••
•••
0.1

0.5

•• • •• •
•
• • • •••
•• • • ••
• •• •

1
• •
• •••
• • •••••

Normal Scores
• ••• • • • • • •••••
• • • • •
Residuals

• • • • ••
• • •
• • • • •• ••
••••
ACF

• •
0.0

0.0

• •
•• • ••• •

0
• •• • • • •• •••••
• • •••••
• • • • ••••
• • • •• ••• •• •
• • ••••
•
• •
•• ••••
•••

-1
• •
• ••
-0.1

• ••
-0.5

• • • ••
• • • •• • •••
• •
• • • •• • • ••
• • ••
• •• •• •
• ••

-2
• • •
• • •
• •
•
-0.2

•
-1.0

• •

5.0 5.5 6.0 0 10 20 30 -0.2 -0.1 0.0 0.1 0.2

Fitted Values Lag Residuals

8 - 31 8 - 32

The “Airline Model” Function esti Output for the Airline Data
SARMA(0, 1, 0)(0, 1, 1)12 Model—Part 1
Differencing d = 1 and D = 1 to give the working series
International Airline Passengers

Wt = (1 − B)(1 − B12)Zt
Model: Component 1 :: ndiff= 1 Component 2 :: period= 12 ndiff= 1 ma: 1 on w= log( Thousands of Passengers )

Residuals vs. Time

= Zt − Zt−1 − Zt−12 + Zt−13

0.10
0.05

Model for the working series Wt

Residuals

0.0

Wt = (1 − θ1B)(1 − Θ1B12)at
-0.05
-0.10

= −θ1at−1 − Θ1at−12 + θ1Θ1at−13 + at 1949 1950 1951 1952 1953 1954 1955 1956 1957 1958 1959 1960 1961

Time

The “unscrambled (multiplicative) airline model” for Zt is

Residuals vs. Fitted Values Residual ACF

Zt = Zt−1 + Zt−12 − Zt−13 − θ1at−1 − Θ1at−12 + θ1Θ1at−13 + at

1.0
• •
0.10

• • •
•

0.5
and has only 2 parameters. The “unscrambled (additive) •
•
• •
0.05

• • • •
• • • • • •
• • • • •• • •
• •
• • • • •
•••
Residuals

•• • •
• • •• • •

airline model” for Zt is • •

ACF
• •

0.0
•
•• • • • ••
0.0

• • • •
••• •• •• • •• • •• •
• • • • •
• • •• • • ••
• • •• •••• • •• • •
• • • •
• • • • • •
• • •
-0.05

• •

-0.5
• • •
•

Zt = Zt−1 + Zt−12 − Zt−13 − θ1at−1 − θ12at−12 − θ13at−13 + at

• • •
•
•
-0.10

-1.0

• •

5.0 5.5 6.0 6.5 0 10 20 30

has three parameters. Fitted Values Lag

8 - 33 8 - 34

Function esti Output for the Airline Data Function esti Output for the Airline Data
SARMA(0, 1, 1)(0, 1, 1)12 Model—Part 1 SARMA(0, 1, 1)(0, 1, 1)12 Model—Part 2
esti(airline.d, gamma=0,model=airline.model) esti(airline.d, gamma=0,model=airline.model)

International Airline Passengers

International Airline Passengers
Model: Component 1 :: ndiff= 1 ma: 1 Component 2 :: period= 12 ndiff= 1 ma: 1 on w= log( Thousands of Passengers ) Model: Component 1 :: ndiff= 1 ma: 1 Component 2 :: period= 12 ndiff= 1 ma: 1 on w= log( Thousands of Passengers )

Residuals vs. Time Actual Values * * * Fitted Values * * * Future Values

* * 95 % Prediction Interval * *
0.10

1000
0.05

800
Thousands of Passengers
Residuals

••
0.0

••
•
•• •
600

•
•• • • •
• ••
-0.05

• • •
•• • •• •
••• •
•• • •• •
• • ••• •
••• • ••••
400

•• • •
• •
•• • ••• ••• • •• •
-0.10

• •• •
•• • • ••• • ••• • • •
•• • • ••• • ••• •
•
•• • •••• • • • • ••• •
• •• •
200

••• • • ••••• •
••• •••• ••••• • • •
1949 1950 1951 1952 1953 1954 1955 1956 1957 1958 1959 1960 1961 • ••••• ••••••• •••••
•• •• •
Time
1950 1952 1954 1956 1958 1960 1962

Index

Residuals vs. Fitted Values Residual ACF Normal Probability Plot

1.0

• •
0.10

•
• • •
2

• • •
•
• • ••
• ••
• • •••
0.5
0.05

• ••
• •• • •
• •••
• • • ••
1

• • •
• • • • • • • •
•
•• • • • • •••
Normal Scores

• ••
•
•• ••••
• • • • ••••
Residuals

• • • • • • •• • •• • •••
••• ••
0.0

ACF

• •• • • •• • ••
0.0

• • ••
0

• •• • •• • • ••
• • • • • • • • • • ••••
• •
•• • • •• • • •• • ••
• • • • •••
• • • • • • • • • • ••••
• • •••
• • • •••
-0.05

• • •
-1

• •
•••
-0.5

• •••
• • • • •••
• • •
••
-2

•
-0.10

•
•
-1.0

• •

5.0 5.5 6.0 6.5 0 10 20 30 -0.10 -0.05 0.0 0.05 0.10

Fitted Values Lag Residuals

8 - 35 8 - 36
 Function esti Output for the Airline Data Additive Function esti Output for the Airline Data Additive
Airline Model—Part 1 Airline Model—Part 2
esti(airline.d, gamma=0,model=add.airline.model) esti(airline.d, gamma=0,model=add.airline.model)

International Airline Passengers

International Airline Passengers
Model: Component 1 :: ndiff= 1 ma: 1 12 13 Component 2 :: period= 12 ndiff= 1 on w= log( Thousands of Passengers ) Model: Component 1 :: ndiff= 1 ma: 1 12 13 Component 2 :: period= 12 ndiff= 1 on w= log( Thousands of Passengers )

Residuals vs. Time Actual Values * * * Fitted Values * * * Future Values

* * 95 % Prediction Interval * *
0.10

1000
0.05

800
Thousands of Passengers
Residuals

••
0.0

••
•
•• •

600
•
•• • • •
-0.05

• •• •
•• • • • ••
•• • • •• • •• • •
• • ••• •
••• • ••••

400
•• • •
• •
•• • ••• ••• • •• •
-0.10

• •• •
•• • • ••• • ••• • • •
•• • • ••• • ••• •
•
•• • •••• • • • • ••• •
• •• •

200
••• • • ••••• •
••• •••• ••••• • • •
1949 1950 1951 1952 1953 1954 1955 1956 1957 1958 1959 1960 1961 • ••••• ••••••• •••••
•• •• •
Time
1950 1952 1954 1956 1958 1960 1962

Index

Residuals vs. Fitted Values 1.0 Residual ACF Normal Probability Plot

• •
0.10

•
• •

2
• • • •
•
••
• • • ••
•• •••
0.5
0.05

• • • •• •
• •• • • • ••
• • •••

1
• • • • • • • • •
•
• • • ••••
•• •

Normal Scores
• •• •• • •• •••
• •• • •••••
Residuals

• • • • •• • •••
•• • •• • • •••
0.0

ACF

•• • ••
• • ••••
0.0

• • •••

0
• • • • •••
• • ••• • • • •• •
•• • •• • • • • •••••
•
• ••• • •••
• • • • • •• •••
• • • •• • • • • • ••
•••
-0.05

• • •

-1
•
• • •••
•••
-0.5

• • •• •
• • • ••
••
• ••

-2
-0.10

•
•
-1.0

• •

5.0 5.5 6.0 6.5 0 10 20 30 -0.10 -0.05 0.0 0.05 0.10

Fitted Values Lag Residuals

8 - 37 8 - 38

Function esti Output for the Airline Data Function esti Output for the Airline Data
SARMA(0, 1, 1)(0, 1, 1)12 Model with No SARMA(0, 1, 1)(0, 1, 1)12 Modell with No
Transformation—Part 1 Transformation—Part 2

International Airline Passengers

International Airline Passengers
Model: Component 1 :: ndiff= 1 ma: 1 Component 2 :: period= 12 ndiff= 1 ma: 1 on w= Thousands of Passengers Model: Component 1 :: ndiff= 1 ma: 1 Component 2 :: period= 12 ndiff= 1 ma: 1 on w= Thousands of Passengers

Residuals vs. Time Actual Values * * * Fitted Values * * * Future Values

* * 95 % Prediction Interval * *
40

1000
20

800
Thousands of Passengers
Residuals

••
••
0

••
600

•
• •
•• • •
• •• •
•• •• • • •
•• • • •• • • ••• •
•••
-20

• • •
••• • ••••
400

•• • •
• •
•• • ••• • •• ••• • •• •
•
•• • • ••• • ••• • • •
•• • • ••• • ••• •
•
•• • •••• • • • • ••• •
• •• •
200

••• • • ••••• •
••• •••• ••••• • • •
1949 1950 1951 1952 1953 1954 1955 1956 1957 1958 1959 1960 1961 • ••••• ••••••• •••••
•• •• •
Time
1950 1952 1954 1956 1958 1960 1962

Index

Residuals vs. Fitted Values Residual ACF Normal Probability Plot

1.0

• •
40

•
•
2

•
•
• ••
••
• • ••
0.5

• •••
20

• • ••
• • •• • • •••
1

• • •
• • • •• • ••••••
•• • ••
Normal Scores

•• • •
• • • ••••
• • •••••
Residuals

•• • • • ••
• • • •
•••
ACF

• • •• • • •
0.0

• • • • • • • •••
0

• •• • • • • •• ••
0

•
• • • • • • • •• • ••• • •• •••
• • • ••• • • •• •••
• •• • • • •••
•
• • •• •• • • ••••
• • • • •• •••
• • • •• •••
-1

• •
• • • • •••
-0.5

• •••
• •••
-20

• • ••
•
• •
-2

•
•
•
-1.0

• •

200 300 400 500 600 0 10 20 30 -20 0 20 40

Fitted Values Lag Residuals

8 - 39 8 - 40

Function esti Output for the Airline Data Function esti Output for the Airline Data
SARMA(0, 1, 1)(0, 1, 1)12 Model with γ = −.333 SARMA(0, 1, 1)(0, 1, 1)12 Modell with γ = −.333
Transformation—Part 1 Transformation—Part 2

International Airline Passengers

International Airline Passengers
Model: Component 1 :: ndiff= 1 ma: 1 12 13 Component 2 :: period= 12 ndiff= 1 on w= -( Thousands of Passengers ) ^ -0.3333 Model: Component 1 :: ndiff= 1 ma: 1 12 13 Component 2 :: period= 12 ndiff= 1 on w= -( Thousands of Passengers ) ^ -0.3333

Residuals vs. Time Actual Values * * * Fitted Values * * * Future Values

* * 95 % Prediction Interval * *
0.006

1000
0.002

800
Thousands of Passengers

••
Residuals

••
•
•
••
600

•
-0.002

• • •
•• • •• •
• • • •
•• • •• • • •
•• • •• • •
• • • • •
••• • ••••
400

•• • •
• •
•• • •• ••• •
-0.006

• ••• • •
• •
•• • • ••• • ••• • • •
•• • • ••• • ••• •
•
•• • •••• • • • • ••• •
• •• •
200

••• • • ••••• •
••• •••• ••••• • • •
1949 1950 1951 1952 1953 1954 1955 1956 1957 1958 1959 1960 1961 • ••••• ••••••• •••••
•• •• •
Time
1950 1952 1954 1956 1958 1960 1962

Index

Residuals vs. Fitted Values Residual ACF Normal Probability Plot

1.0

• •
0.006

•
• •
2

•
•
• • • • ••
••
• •• •
0.5

• • • ••
• • •••
• • • ••
1
0.002

• • •••
• • • • • • ••• •
• • • ••••
Normal Scores

• •
•• • • • ••
Residuals

• • •• • •• •• • • •• • • ••••
• •• • • ••• •• • ••••
ACF

• •• • • • •
0.0

•• • •• •
• • •••
0

• • • •• •••
• • • • •• • • • • •••
• • •• • • •• • • • •••
• •••
-0.002

• • •
•• • • ••
• • •• •• • •
•••
•• • • • •••••
-1

•
• ••
-0.5

• •••
• •••
• ••
• •
• ••
-2
-0.006

•
•
-1.0

• •

-0.20 -0.18 -0.16 -0.14 -0.12 0 10 20 30 -0.006 -0.002 0.002 0.006

Fitted Values Lag Residuals

8 - 41 8 - 42
 Graphical Output from Function iden for Simulated Graphical Output from Function iden for Simulated
Series #B with 1 Regular Difference Series #B with 1 Regular and 1 Seasonal Difference

Simulated Time Series #B Simulated Time Series #B

w= (1-B)^ 1 Sales w= (1-B)^ 1 (1-B^ 12 )^ 1 Sales

10
0 10
w

-10
-30
-20

30 40 50 30 40 50

time time

ACF PACF ACF PACF

1.0

1.0

1.0

1.0
Partial ACF

Partial ACF
ACF

ACF
0.0

0.0

0.0

0.0
-1.0

-1.0

-1.0

-1.0
0 10 20 30 0 10 20 30 0 10 20 30 0 10 20 30

Lag Lag Lag Lag

8 - 43 8 - 44

Function esti Output for Simulated Series #B Function esti Output for Simulated Series #B
SARMA(0, 1, 1)(0, 0, 0)12 Model—Part 2 SARMA(0, 1, 1)(0, 1, 1)12 Model—Part 2

Simulated Time Series #B Simulated Time Series #B

Model: Component 1 :: ndiff= 1 ma: 1 on w= Sales Model: Component 1 :: ndiff= 1 ma: 1 Component 2 :: period= 12 ndiff= 1 ma: 1 on w= Sales

Actual Values * * * Fitted Values * * * Future Values Actual Values * * * Fitted Values * * * Future Values
* * 95 % Prediction Interval * * * * 95 % Prediction Interval * *
250

250
200

200

••••••
•
•••••••••••
• • •••••••
• • • ••• •• • ••••••••••••••••••••••••• • • • ••• •• •
• •• •• • • • • • •• •• • • • •
• •• • •• • •• • ••
• •• • • •• •
Sales

Sales

• •• • ••• • • •• • ••• •
150

150

• • • •
• •
• • •• •
• • • • • •• •
• • •
•• ••• • •• ••• •
•••• • • •••• • •
•• •
• •• ••• •• •
• •• •••
• •
• • • •
••• •• • ••• •• •
• •• • ••
100

100

• • • •
• • • •
•• • •• • • • •• • •• • • •
•• • • • • • •• • • • • •
•
• ••• •• • • ••• • •• •••• •• •• • • •
• ••• •• • • ••• • •• •••• •• •• • •
• • •• • • • • • •• • • •
•• • • •• • •
• •• •
• • •• • •• •
• • ••
• •
• • • • • • • • • •
50

50

20 30 40 50 20 30 40 50

Index Index

Normal Probability Plot Normal Probability Plot

• •
• •
• •
• •
2
2

•• ••
•• • •
•• •••
•• • ••
•• ••
•• ••••
••• ••••
1
1

••• • ••
•••• ••••
Normal Scores

Normal Scores

•• •••
••• ••••
•••••
• •••
•• •
•••••
••• •••
••••
0

•••• •••
• ••• •••
••••• ••••
•• • •••
• •• •••
••• •••
-1

-1

••• ••••
••
••• •••
•• •••
• ••• ••
•
•• ••
•• •
-2

-2

• •
• •
• •

-20 -10 0 10 20 -30 -20 -10 0 10 20

Residuals Residuals

8 - 45 8 - 46

Ohio Power Consumption

Seasonal Over-Differencing
Ohio Electric Power Consumption

Assume that
70

(1 − B)Zt = at
so that Zt has a random walk model. Then
60
Billions of Kilowatt-hours

Wt = (1 − B)Zt = at
50

will follow a “trivial model” and we will not expect to see

anything in the ACF/PACF. What if we take seasonal differ-
40

ences?
30

Wt = (1 − B12)(1 − B)Zt = (1 − B12)at

= −a12 + at
20

which is a noninvertible MA(12)! 1954 1956 1958 1960 1962 1964 1966 1968 1970

Time

8 - 47 8 - 48
 Graphical Output from Function iden for the Ohio Graphical Output from Function iden for the Ohio
Power Consumption Data with No Differencing Power Consumption Data with 1 Regular Difference

Ohio Electric Power Consumption

w= Billions of Kilowatt-hours
Ohio Electric Power Consumption
w= (1-B)^ 1 Billions of Kilowatt-hours
70
60

5
50
w

40

0
30

-5
20

1954 1955 1956 1957 1958 1959 1960 1961 1962 1963 1964 1965 1966 1967 1968 1969 1970 1971

time
1954 1956 1958 1960 1962 1964 1966 1968 1970
Range-Mean Plot ACF
time

1.0
0.5
12

ACF PACF
ACF

0.0
10

-1.0

1.0

1.0
0 10 20 30

Lag

Partial ACF
Range

ACF
PACF

0.0

0.0
1.0
0.5
Partial ACF
6

-1.0

-1.0
0.0

0 10 20 30 0 10 20 30
-1.0
4

30 40 50 60 0 10 20 30
Lag Lag
Mean Lag

8 - 49 8 - 50

Graphical Output from Function iden for the Ohio Graphical Output from Function iden for the Ohio
Power Consumption Data with 2 Regular Differences Power Consumption Data with 3 Regular Differences

Ohio Electric Power Consumption Ohio Electric Power Consumption

w= (1-B)^ 2 Billions of Kilowatt-hours w= (1-B)^ 3 Billions of Kilowatt-hours
15

0 10
5
w

w
0

-20
-10

1954 1956 1958 1960 1962 1964 1966 1968 1970 1954 1956 1958 1960 1962 1964 1966 1968 1970

time time

ACF PACF ACF PACF

1.0

1.0

1.0

1.0
Partial ACF

Partial ACF
ACF

ACF
0.0

0.0

0.0

0.0
-1.0

-1.0

-1.0

-1.0

0 10 20 30 0 10 20 30 0 10 20 30 0 10 20 30

Lag Lag Lag Lag

8 - 51 8 - 52

Graphical Output from Function iden for the Ohio

Graphical Output from Function iden for the Ohio
Power Consumption Data with 1 Seasonal Difference
Power Consumption Data with 1 Seasonal Difference
and 1 Regular Difference

Ohio Electric Power Consumption

w= (1-B^ 12 )^ 1 Billions of Kilowatt-hours Ohio Electric Power Consumption
w= (1-B)^ 1 (1-B^ 12 )^ 1 Billions of Kilowatt-hours
10

2 4 6
5
w

-2
-5

-6

1955 1957 1959 1961 1963 1965 1967 1969 1971

1955 1957 1959 1961 1963 1965 1967 1969 1971
time
time

ACF PACF
ACF PACF
1.0

1.0

1.0

1.0
Partial ACF

Partial ACF
ACF

0.0

0.0

ACF

0.0

0.0
-1.0

-1.0

-1.0

-1.0

0 10 20 30 0 10 20 30
0 10 20 30 0 10 20 30
Lag Lag
Lag Lag

8 - 53 8 - 54
Function esti Output for the Ohio Power Consumption Function esti Output for the Ohio Power Consumption
Data SARMA(2, 0, 0)(0, 1, 0)12 Model—Part 1 Data SARMA(2, 0, 0)(0, 1, 0)12 Model—Part 2

Ohio Electric Power Consumption

Ohio Electric Power Consumption
Model: Component 1 :: ar: 1 2 Component 2 :: period= 12 ndiff= 1 on w= Billions of Kilowatt-hours Model: Component 1 :: ar: 1 2 Component 2 :: period= 12 ndiff= 1 on w= Billions of Kilowatt-hours

Residuals vs. Time Actual Values * * * Fitted Values * * * Future Values

* * 95 % Prediction Interval * *
6

80
4

• • • • • •
• •• • • • • •
2

Billions of Kilowatt-hours
• •
• •• • • ••
Residuals

• • •• • • • ••• • •• •
• • • • • •• • •• • ••
••

60
• •• •
0

•• • •• •
• • • ••• • •
•• • • • •
• • • ••
•••• • •• •
-2

• • •
•
•• • •• • • •• •• •• • • ••• •• •• • ••••
•
•• • • • •• • • •• • • •
• • • •••• ••• • • •• • • • • • •• •

40
• • •• ••••
-4

•• • ••• • • • • • • • • • •• • •
•
•
•• • ••• • • • •• • • • • • •
•• •
•
•• • • • •
•• •
1954 1955 1956 1957 1958 1959 1960 1961 1962 1963 1964 1965 1966 1967 1968 1969 1970 1971 • • •••• ••
•

20
Time
1955 1960 1965 1970

Index

Residuals vs. Fitted Values Residual ACF Normal Probability Plot

3
1.0
• •
6

• •
• •
•
••

2
• •
••
4

• • •••
•••
0.5

• • • • • •
• • • • • •••
• • • •• ••••
• • • • •••

1
• • • •••
• • •• •••••
2

• • • •
• •••

Normal Scores
•• • • ••
• • • • ••
• ••••
Residuals

•• •• • • • • • • •• •• •• •• •• • • •
• •••
• • • • •••
ACF

•• • • • • •
••• ••
0.0

• • •• •• ••
• ••••• • ••• • • •

0
• • • •• •• • • •••
0

• •• • •• • • • • •••
•• • ••
•• •• •••
• •• •• • • • • •
•
• ••••
•• • ••••
•• • •• • • • • • ••••••
• • • ••••

-1
•• • • • ••
•••
-2

•
• • • • • •••
-0.5

•
• •
•
••• •
• •
••
• • • •
••

-2
•
-4

• •
•
-1.0

• •

-3
30 40 50 60 70 0 10 20 30 -4 -2 0 2 4 6

Fitted Values Lag Residuals

8 - 55 8 - 56

Function esti Output for the Ohio Power Consumption Function esti Output for the Ohio Power Consumption
Data SARMA(2, 0, 0)(0, 1, 1)12 Model—Part 1 Data SARMA(2, 0, 0)(0, 1, 1)12 Model—Part 2

Ohio Electric Power Consumption

Ohio Electric Power Consumption
Model: Component 1 :: ar: 1 2 Component 2 :: period= 12 ndiff= 1 ma: 1 on w= Billions of Kilowatt-hours Model: Component 1 :: ar: 1 2 Component 2 :: period= 12 ndiff= 1 ma: 1 on w= Billions of Kilowatt-hours

Residuals vs. Time Actual Values * * * Fitted Values * * * Future Values

* * 95 % Prediction Interval * *
6

80
4

• •
• •• • •• • • •• ••
Billions of Kilowatt-hours

• • • •• • • •
• •• • • •• •
Residuals

• • •• • • • ••• • •• •
2

•
••
• • • • ••
60

• •• •
•• • •• •
0

• • • ••• • •
•• • • • •
• • • ••
• •
• • •••• • •• •
•• • • •• •• •• • • ••• •• •• • ••••
-2

•• • •
•• • • • •• • • •• • • •
• • • •••• ••• • • •• • • • • • •• •
40

• • •• ••••
•• • ••• • • • • • • • • • •• • •
•
-4

•
•• • ••• • • • •• • • • • • •
•• •
•
•• • • • •
•• •
1954 1955 1956 1957 1958 1959 1960 1961 1962 1963 1964 1965 1966 1967 1968 1969 1970 1971 • • •••• ••
•
20

Time
1955 1960 1965 1970

Index

Residuals vs. Fitted Values Residual ACF Normal Probability Plot

3
1.0

• •
•
6

• •
•
••
2

• •
•••
••
0.5

• ••
4

• •••
• • •••
• •••
1

• • • • •
•••••
Normal Scores

• • •• • • •
•••
• •• • • • ••
••••
Residuals

• • • • • • • •• ••
•
• • • •
•
• • •• • • • •••
••••
ACF

•
0.0

•• • • • •• •••
• •• • •
0

• • •
• • •
•• • • • •• • • • • • • • • • •••
• • •• • •• • •• •••
•• • • • • • • • •• • • • ••• • • • • • ••••
0

• •• • •• • •
• • • ••••
• • • • •• • ••• • •• • •••
•• • • •
• •• • •••
•• • •••
-1

•• • ••• • • •
• • • • • • •
• • ••
-0.5

• • ••
-2

• •• • • • ••
• •
• • • •••
• ••
••
-2

• •
-4

• •
-1.0

• •
-3

30 40 50 60 70 0 10 20 30 -4 -2 0 2 4 6

Fitted Values Lag Residuals

8 - 57 8 - 58

Function esti Output for the Ohio Power Consumption Function esti Output for the Ohio Power Consumption
Data SARMA(2, 0, 1)(0, 1, 1)12 Model—Part 1 Data SARMA(2, 0, 1)(0, 1, 1)12 Model—Part 2

Ohio Electric Power Consumption

Ohio Electric Power Consumption
Model: Component 1 :: ma: 1 ar: 1 2 Component 2 :: period= 12 ndiff= 1 ma: 1 on w= Billions of Kilowatt-hours Model: Component 1 :: ma: 1 ar: 1 2 Component 2 :: period= 12 ndiff= 1 ma: 1 on w= Billions of Kilowatt-hours

Residuals vs. Time Actual Values * * * Fitted Values * * * Future Values

* * 95 % Prediction Interval * *
6

80

••
4

• ••
• •• •
•
•• •• • • •
Billions of Kilowatt-hours

• • ••
• • •• •
• •• • • • • •
Residuals

• • •• • • • •••
2

•
••
• • • • ••
60

• ••
•• • •• • •
• • ••• • •
0

•• • • • • •
• • • ••
• •
• • •••• • •• •
•• • •• • • •• •• •• • • ••• •• •• • ••••
•
• • •• • • •
-2

•• • • • ••
• • • •••• ••• • • •• • • • • • •• •
40

• • •• ••••
•• • ••• • • • • • • • • • •• • •
•
•
•• • ••• • • • •• • • • • • •
-4

•• •
•
•• • • • •
•• •
1954 1955 1956 1957 1958 1959 1960 1961 1962 1963 1964 1965 1966 1967 1968 1969 1970 1971 • • •••• ••
•
20

Time
1955 1960 1965 1970

Index

Residuals vs. Fitted Values Residual ACF Normal Probability Plot

3
1.0

• •
•
•
6

••
2

••
•••
•••
••
0.5

• •••
4

• •••
• • •••
1

• •
•
•••••
•
Normal Scores

••
• • • • • • •••
••
Residuals

• • •
• • • • • • ••••
2

• • • • •
• • • • • • • •• • • • • ••••
ACF

•••
0.0

• •• • • • • • • • ••••
• • •• • • •• • • • • • •• • •• •• ••••
• • • • • ••••• • • ••• • • • • ••••
• • •• • • •••
• • •••
0

• ••
• ••
•• • • •
• • • • •• • • • • •
•
•
•••
• • • •••• •• • • • •• ••
• •
•••••
-1

••
•••• • •• •
•• • • • • • • ••
• • ••
-0.5

• • • • • • ••
• • • • ••• • • • • ••
-2

•
• • •••
• •
• • ••
••
-2

• • •
• • •
-4

-1.0

• •
-3

30 40 50 60 70 0 10 20 30 -4 -2 0 2 4 6

Fitted Values Lag Residuals

8 - 59 8 - 60
Function esti Output for the Ohio Power Consumption Function esti Output for the Ohio Power Consumption
Data SARMA(0, 1, 1)(0, 1, 1)12 (Airline) Model—Part 1 Data SARMA(0, 1, 1)(0, 1, 1)12 (Airline) Model—Part 2

Ohio Electric Power Consumption

Ohio Electric Power Consumption
Model: Component 1 :: ndiff= 1 ma: 1 Component 2 :: period= 12 ndiff= 1 ma: 1 on w= Billions of Kilowatt-hours Model: Component 1 :: ndiff= 1 ma: 1 Component 2 :: period= 12 ndiff= 1 ma: 1 on w= Billions of Kilowatt-hours

Residuals vs. Time Actual Values * * * Fitted Values * * * Future Values

* * 95 % Prediction Interval * *
6

80
4

•• ••
• • •• •• • • •
• •• • • • •• • • •

Billions of Kilowatt-hours
• • •
• •• • • • •
2
Residuals

• • •• • • • •••
•
••
• • • • ••

60
• ••
•• • •• • •
0

• • ••• • •
•• • • • • •
• • • ••
• •
• • •••• • •• •
•• • • •• •• •• • • ••• •• •• • ••••
-2

•• • •
•• • • • •• • • •• • • •
• • • •••• ••• • • •• • • • • • •• •

40
• • •• ••••
•• • ••• • • • • • • • • • •• • •
•
•
-4

•• • ••• • • • •• • • • • • •
•• •
•
•• • • • •
•• •
1954 1955 1956 1957 1958 1959 1960 1961 1962 1963 1964 1965 1966 1967 1968 1969 1970 1971 • • •••• ••
•

20
Time
1955 1960 1965 1970

Index

Residuals vs. Fitted Values Residual ACF Normal Probability Plot

3
1.0
• •
•
6

•
•
••

2
••
• •••
••
0.5
4

• •••
• ••••
• • ••
••

1
•
• • ••••
•••••

Normal Scores
• • • • • • •
• • •• • •
• • •••
2

• •
•••
Residuals

• • •
• • • •• ••• • • •
••
••••
ACF

•• • •
• •
0.0

• • •• • •• • •••

0
• • •• ••• • • • • • •• •• •••
• • •• •• •• • •• • •• •• •
•••
••
• •• •• • ••
•• •• • • • •••
• • ••••
0

• • •
• •• • • • • • •••
• • ••
•• • •• • • • ••••
• • • • •••
• • • ••
• ••••
•• • • • • • •••

-1
•• •• •
• • • • • • • •••
• • • •••
-0.5

• • • • • •
••
-2

•
•• • • •
• ••••
•
• • •
• • ••
• ••

-2
•
-4

• •
-1.0

• • •

-3
30 40 50 60 70 0 10 20 30 -4 -2 0 2 4 6

Fitted Values Lag Residuals

8 - 61 8 - 62

Function esti Output for the Ohio Power Function esti Output for the Ohio Power
Consumption Data with Log Transform and Consumption Data with Log Transform and
SARMA(0, 1, 1)(0, 1, 1)12 (Airline) Model—Part 1 SARMA(0, 1, 1)(0, 1, 1)12 (Airline) Model—Part 2

Ohio Electric Power Consumption

Ohio Electric Power Consumption
Model: Component 1 :: ndiff= 1 ma: 1 Component 2 :: period= 12 ndiff= 1 ma: 1 on w= log( Billions of Kilowatt-hours ) Model: Component 1 :: ndiff= 1 ma: 1 Component 2 :: period= 12 ndiff= 1 ma: 1 on w= log( Billions of Kilowatt-hours )

Residuals vs. Time Actual Values * * * Fitted Values * * * Future Values

* * 95 % Prediction Interval * *
0.10

80

•
0.05

•• •
• • •• • • • •
• •• • • •
• • •• • • •
Billions of Kilowatt-hours

• •
• •• • • • •
Residuals

• • •• • • • •••
•
••
• • • • ••
60
0.0

• •• •
•• • •• •
• • • ••• • •
•• • • • •
• • • ••
• • • •••• • •• •
•• • • •• • ••• •• •• • ••••
-0.05

•• •
•• • • • •• • •• • •• • • •
• • • • •• •• • •
• •••• ••• • • •• • • • •
40

•
• • •• ••••
•• • ••• • • • • • • • • • •• • •
•
•
•• • ••• • • • •• • • • • • •
•• •
•
•• • • • •
• •
•
1954 1955 1956 1957 1958 1959 1960 1961 1962 1963 1964 1965 1966 1967 1968 1969 1970 1971 • • •••• ••
•
20

Time
1955 1960 1965 1970

Index

Residuals vs. Fitted Values Residual ACF Normal Probability Plot

3
0.10

1.0

• •
• • •
•
••
2

•• ••
• • • •• •
•••
0.5
0.05

• • ••
• • •••
• • • • •••
• • • ••••
1

• • • •• • • • • • • ••••••
• • • •• • • •••
Normal Scores

• • •• •
• • •
• •• • ••••••
•
• • •• • •• • •
Residuals

•• • •
•••
• • • • • •
• • •••••
ACF

• • • ••••
0.0

• • • •• •
0

• • • ••••
0.0

• •• •• • • •
• • • • • •• • • ••••
•• • • •••
• • • •• •• •• •• • •
• • • • • ••••
• •• • • • • • •• • •
• •• •••••
• •• • •• • •••••
••• • • • • •••
-1

• • • • •• •• • • •••
•• • • •• ••••
-0.5

• • • ••••
•
-0.05

• • • • • ••
••
• • •••
• • ••
• ••
-2

•
• • •
• •
•
-1.0

• •
-3

3.2 3.4 3.6 3.8 4.0 4.2 0 10 20 30 -0.05 0.0 0.05 0.10

Fitted Values Lag Residuals

8 - 63 8 - 64

Contour Plot of SARMA(0, 1, 1)(0, 1, 1)12 (Airline) Contour Plot of SARMA(0, 1, 1)(0, 1, 1)12 (Airline)
Model -2[Log-likelihood] Surface for the Ohio Data Model Relative Likelihood Surface for the Ohio Data
0.75
1.0

-750 -800 -900 0.001

0.001 0.0001

-1000
0.70

-720
0.001
0.5

0.65

0.5 0.3
ma(12*1)

0.1
ma(12*1)

0.7
0.60

0.9
0.0

0.55
-0.5

0.50

-1000
0.45

0.001
-1.0

-1300 -1200 -1100 -1100 0.001 0.01 0.01

-1.0 -0.5 0.0 0.5 1.0 0.30 0.35 0.40 0.45 0.50 0.55 0.60

ma(1) ma(1)

8 - 65 8 - 66
 ACF of the Residuals for the Ohio Power using the
Perspective Plot of SARMA(0, 1, 1)(0, 1, 1)12 (Airline)
SARMA(0, 1, 1)(0, 1, 1)12 (Airline) Model
Model Relative Likelihood Surface for the Ohio Data
show.acf(ohio.model6.out$resid)
1

Lag 1 Lag 2 Lag 3 Lag 4

0.8

• • • • •
•• • • •• • • ••
•••• • ••• • •••• • • • • • • • • • ••

0.05

0.05

0.05

0.05

0.05
••
•••••
• • • •• • • • ••• •• •• • •••••••• • • •••• •
• • • •• •
• •• •••••• •••••• • ••••• •• •• • •• • •••• •••• •• • • • •

Series lag 1

Series lag 2

Series lag 3

Series lag 4
•••• • • • • • ••

timeseries
••••• • • ••• ••••• • •• ••••• • • •••• •• • • • •• • • • •••
• • •• • • •••••••••••• ••• •••
• • • • • • • •• •
•••••• •• ••• ••• •••• •• • • •• ••• • •••••••••• •• •••• •• ••
0.6

•
••••
• •
• • • ••• ••••••••• ••••• • •
• • • •• ••••••••• • •• • •••• • •• • • •••• • • •• • • • •
•••••• • •• ••• • •• • •••• •••• •••• •••••••• • • • • • ••••• • ••• • • • • • •• • •••• •••• •••••••• •• •••••• •
••••• • • •• • • • ••••• ••• •••• •••• ••••••• • ••• • •• • ••• • • •• • ••• ••••••••• ••••••• •••• •• • • • •• • • •••••••• ••••• •• ••••• • •
••••••• •
• •• • •••• • • •• • ••
• • •
• • • •• • • ••••••••• ••• ••• ••• • • • • •• • • •• ••• •• •• •• • • • • ••• •• • •• •• •
••••• • •• • ••••• •••• ••• • • • • •
• ••• •• •••••• • •• • • • •
• • •• •• • • • • •
••••• •• • ••• • ••• •• • •
Z

• ••• • •• ••• •

-0.05

-0.05

-0.05

-0.05

-0.05
•• • • • • •• • • • •
•••• •• •• •• • •• • • • • • •• • • •• ••
•• • • • • • • • • •• • •
0.4

••• • • • • • • • • • • • •
•• • • •• • • ••

-0.05 0.0 0.05 0.10 -0.05 0.0 0.05 0.10 -0.05 0.0 0.05 0.10 -0.05 0.0 0.05 0.10 -0.05 0.0 0.05 0.10

timeseries series series series series

0.2

Lag 5 Lag 6 Lag 7 Lag 8 Lag 9

0

• • • • •
•• • • • • • • • •
•• •• • • • •• • •• •• • • •• • • • • •• •

0.05

0.05

0.05

0.05

0.05
• • •• •
• • • • • •• • •• ••
• • •
• • • • •• • •••••••• •• •• •••
• • • •• •
• •• • ••••••• •• ••• • ••• •••••• ••• •• •• •

Series lag 5

Series lag 6

Series lag 7
• • ••••• •••••• •••••••• •

Series lag 8

Series lag 9
• • • • •••• •••••• •• • ••• • • • ••
• • • ••• •••• •• •••• •••• • • • •••• • ••••••• •• ••••• • • • •• •••••• •• ••• •• • • • •• •••••• •• •• • •••• • • •
••• • •• ••• •••••••••••••• •••• •
• • •• • •••• •• ••••••• • ••• • •• •
0.7 • • ••••••••••• •••••••••••• ••
• •••• •• • •
• • • •• ••• •• ••• ••• •• ••••• • ••
•• •••• •••• • ••• •
• •• • •
• •••• •••• ••••• •••••• ••• •• • ••
• •• •• ••••••• •••••••••••••••• • • •
• • • •• • • ••• • •• ••••••• •• • •
• • • •••• •••••• ••••• •
• •••••••• •• • • • •
•
• • •••• ••••••• •• •• • •••• ••• ••• • • • • ••••••••••••••••• ••••••• •••
••••• ••• •••••• •• •
•• ••••• • ••••••••• ••••• ••••••• ••
••••••••• •• • • ••••• ••
• • • • •••••• •••••••• • ••• •••• • • • • • •• •••••• •••• •••••• • •••••• • • • • •
• •• •• •• •• • ••••••• • ••• • • •• • • • •• •• • • • • • • •••• •• • • • • • ••• •••• • ••••• •

-0.05

-0.05

-0.05

-0.05

-0.05
• • • • • • ••
0.6 0.6 • ••• • • •
• ••• •• •
• •
•
• ••• • • • •
• • •
• •• • • •• •
• • ••
• ••• •• •••
•• •
• •
• • •• •
• • • ••

5 • •
•
• • • •
••
• • •
•
• •
•
• • •
••
•

0.55
• • •

0. -0.05 0.0 0.05 0.10 -0.05 0.0 0.05 0.10 -0.05 0.0 0.05 0.10 -0.05 0.0 0.05 0.10 -0.05 0.0 0.05 0.10
ma 6 0.5 series series series series series
(1 0.5
2*
1) 5 0.45 Lag 10 Lag 11 Lag 12 Lag 13 Series : timeseries
)
0.5 0.4 ma(1

1.0
• • • •
• • • • • • • •

0.35 ••• • • •• • • • • • • • • •

0.05

0.05

0.05

0.05
• • •• • • •• • • ••
•• • •• • • • • • • •• • • ••• • ••
0.4

Series lag 10

Series lag 11

Series lag 12

Series lag 13

0.6
• • •• • • ••• ••••• • •• • • • • • •••• •••• • •••• • ••• ••• • •• ••• •• • •
• • •• • • •••• • •
•
• •
• •• ••••••••• •• ••••••• •• ••
•
• •• •••••••••• •••••••• ••• ••• • •• • •••••• ••• • • • • •• • ••••••• • •• •• •• •• •
5 •
•• • ••• •••••• •••••• •• •• • • • ••

ACF
•• • ••• •• •• •• • •• •••••• • • • • • • ••• •• •• •• •••• •
•
• • • •• • •••• • • ••••• • • • • • • • • • • •• • • •
• • • • ••• ••• ••• • ••• • • • •
• • •• ••• • •••••• •••• •• •••••• •••• •• • •
• • •••• •••••••• ••••••••••• • • • • • • ••• • • •
• ••••••• ••••••••• •• ••••••• • • • • • • •
• • •• ••••••• ••••••••••• •• •• • • • ••••••••••••••••• •••••• • • • •• •• •••••••••••••••• ••• ••••••

0.2
• •
• • • • • •
•• • • • •• •••• ••• • • • • •• •• • ••• • •• • •• ••• • • •• • • •••••• •••• •• • •

-0.05

-0.05

-0.05

-0.05
• • • •• ••• ••• • • • •
• • • • • • •• • • ••• • ••
•
•• •• • • • • • • • • • •
• •• • •• •• • • •

-0.2
• • •• • • • •

-0.05 0.0 0.05 0.10 -0.05 0.0 0.05 0.10 -0.05 0.0 0.05 0.10 -0.05 0.0 0.05 0.10 0 5 10 15 20
Lag
series series series series

8 - 67 8 - 68