EXERCICE 1, PARTIE III : Modèle linéaire multiple

QUESTION 1 : Ecrire le modèle de régression sous forme matricielle.

Le modèle s’écrit :
Y(N ∗1) = X(N ∗(k+1)) ∗ B((k+1)∗1) + (N ∗1)
     
0 1 −2 −5 1
24 1 −1 4    2 
  
12 1 0
 b0  
 = 0 ∗ b1  + 3 
 
 8  1 0 −2  4 
  
12 1 1
 b2  
2   5 
16 1 2 1 6
La colonne de 1 dans la matrice des X représente la constante.

QUESTION 2 : Calculer B̂.

B̂ = (X t X)−1 ∗ X t Y
1. Calculons (X t X) = W  
1 −2 −5
  1 −1 4
1 1 1 1 1 1 
1

−2 0 0
−1 0 0 1 2 ∗
 
1 0 −2
−5 4 0 −2 2 1 
1

1 2
1 2 1

 
1+1+1+1+1+1 −2 − 1 + 0 + 0 + 1 + 2 −5 + 4 + 0 − 2 + 2 + 1
= −2 + −1 + 0 + 0 + 1 + 2 (−2)2 + (−1)2 + 0 + 0 + 1 + 22 (−2) ∗ (−5) + (−1) ∗ 4 + 0 + 0 + 2 + 2
−5 + 4 + 0 + −2 + 2 + 1 (−2) ∗ (−5) + (−1) ∗ 4 + 0 + 0 + 2 + 2 (−5)2 + (4)2 + 0 + (−2)2 + 22 + 1

 
6 0 0
W = 0 10 10
0 10 50

2. Inversons : W −1 = 1
det(W ) ∗ Com(W )t
Donc
det(W ) = 6 ∗ (10 ∗ 50 − 10 ∗ 10) + 0 + 0 = 2400

      
10 10 0 10 0 10
 10 50 − +
 0 50  0 10 

 
 0 0 6 0 6 0 
− 10 50 + 0 50 − 0 10 
Comatrice de W =  
      
 0 0 6 0 6 0 
+ − +
10 10 0 10 0 10

 
400 0 0
= 0 300 −60
0 −60 60

UNSA 1
  
400 0 0
Transposée de la Comatrice de W =  0 300 −60
0 −60 60
Donc
 
400 0 0
−1 1 t 1 
W = ∗ Com(W ) = 0 300 −60
det(W ) 2400
0 −60 60

 
1/6 0 0
= 0 1/8 −1/40
0 −1/40 1/40

3. Il reste à calculer X t Y  
0
  24
1 1 1 1 1 1  
12
= −2 −1 0 0 1 2 ∗ 
8

−5 4 0 −2 2 1  
12
16

 
0 + 24 + 12 + 8 + 12 + 16
=  0 + 24 ∗ −1 + 0 + 0 + 12 + 16 ∗ 2 
0 + 24 ∗ 4 + 0 + (−2) ∗ 8 + 2 ∗ 12 + 16


72
X t Y =  20 
120
4. Finalement :    
1/6 0 0 72
B̂ = (X t X)−1 + X t Y =  0 1/8 −1/40 ∗  20 
0 −1/40 1/40 120

 
72 ∗ (1/6)
=  (1/8) ∗ 20 + (−1/40) ∗ 120 
(−1/40) ∗ 20 + (1/40) ∗ 120

 
12
B̂ = −0, 5
2, 5

UNSA 2
 Matrice des variances/covariances :

V (B̂) = σ 2 (X t X)−1
avec
E(t ) Y t Y − B̂ t X t Y
σ̂ 2 = =
N − (k + 1) N − (k + 1)
 
0
24  
  72
1
12
σ̂ 2 =


∗[ 0 24 12 8 12 16 ∗   8  − 12
 −0, 5 2, 5 ∗  20  ]
6 − (2 + 1)  
12 120
16
02 + 242 + 122 + 82 + 122 + 162 − (12 ∗ 72 − 0, 5 ∗ 20 + 2, 5 ∗ 120)
σ̂ 2 =
6−3

30
σ̂ 2 = = 10
3
Donc  
1/6 0 0
V (B̂) = 10 ∗  0 1/8 −1/40
0 −1/40 1/40

 
5/3 0 0
V (B̂) =  0 5/4 −1/4
0 −1/4 1/4
Ecarts type : Les variances se trouvent sur la diagonale de la matrice de variances-covariances.
Nous en déduisons donc que :
r
2 5
σ̂b0 = = 1, 29
3
r
5
σ̂b21 = = 1, 11
4
r
1
σ̂b22 = = 0, 5
4

QUESTION 3 :
ˆi = yi −b0 −b1 x1i −b2 x2i
−0, 5 = 0 −12 + 0,5 −2 −2, 5 −5
1,5 = 24 −12 + 0,5 −1 −2, 5 4
1. Calcul des erreurs estimées : 0= 12 −12 + 0,5 0 −2, 5 0
1= 8 −12 + 0,5 0 −2, 5 −2
−4, 5 = 12 −12 + 0,5 1 −2, 5 2
2,5 = 16 −12 + 0,5 2 −2, 5 1
P
Nous pouvons vérifier que ˆi = 0

UNSA 3
 P
2. Verifier que i x1i = 0

ˆi * x1i
−0, 5 * −2 =1
1,5 *−1 =−1, 5
0*0 =0
1*0 =0
−4, 5 * 1 =−4, 5
2,5 * 2 =5
P
1 − 1, 5 + 0 + 0 − 4, 5 + 5 = 0 7→ i x1i = 0
P
3. Verifier que i x2i = 0

ˆi * x2i
−0, 5 * −5 =2,5
1,5 *4 =6
0*0 =0
1 * −2 =−2
−4, 5 * 2 =−9
2,5 * 1 =2,5
P
2, 5 + 6 + 0 − 2 − 9 + 2, 5 = 0 7→ i x2i = 0

4. Verifier que X t ˆi = 0

 
−0, 5
   1, 5 
1 1 1 1 1 1 
 0 

= −2 −1 0 0 1 2 ∗
  
1 
−5 4 0 −2 2 1 
−4, 5


2, 5
   
−0, 5 + 1, 5 + 0 + 1 − 4, 5 + 2, 5 0
= −0, 5 ∗ (−2) + 1, 5 ∗ (−1) + 0 + 0 − 4, 5 + 2, 5 ∗ 2 = 0
−0, 5 ∗ (−5) + 1, 5 ∗ 4 + 0 − 2 − 4, 5 + 2, 5 0

Ou plus simplement, nous venons de le faire juste au dessus :

 P   
ˆi 0
X t ˆi = P ˆi x1i  = 0
P
ˆi x2i 0

ˆi 2 = E(t ) = 30
P
5. Nous avons déjà calculé

UNSA 4
 6. Nous devons montrer que SCR = Y t Y − B̂ t X t Y
SCR = t  = (Y − X B̂)t ∗ (Y − X B̂)
= Y t Y − Y t X B̂ − (X B̂)t Y + (X B̂)t ∗ (X B̂)
= Y t Y − 2(X B̂)t Y + (X B̂)t ∗ (X B̂)

Or B̂ = (X t X)−1 X t Y ⇔ (X t X)B̂ = X t Y ⇔ (X)B̂ = Y

donc
= Y t Y − 2(X B̂)t Y + (X B̂)t ∗ (X B̂)
= Y t Y − 2(X B̂)t Y + (X B̂)t ∗ Y
= Y t Y − (X B̂)t Y
= Y t Y − B̂ t X t Y

De façon plus élégante :

= Y t Y − 2(X B̂)t Y + (X B̂)t ∗ X[(X t X)−1 X t Y ]

X(X t X)−1 X t = 1

= Y t Y − 2(X B̂)t Y + (X B̂)t ∗ Y

= Y t Y − (X B̂)t Y
= Y t Y − B̂ t X t Y

QUESTION 4 : Donner un estimateur sans biais de σ 2 :

Nous avons déjà calculé l’estimateur sans biais de σ 2 dans la question 2 :
E(t ) Y t Y − B̂ t X t Y
σ2 = = = 10
N − (k + 1) N − (k + 1)

QUESTION 5 : Calculer le R2 et interpréter le résultat :

SCR
R2 = 1 −
SCT
SCT = Y t Y − N ∗ Ȳ 2
= 1184 − 6 ∗ 122 = 320

X
SCR = ˆi 2 = 30

UNSA 5
 30
R2 = 1 − = 0, 902
320
L’ajustement linéaire réalisé est de bonne qualité :
QUESTION 6 : Tests avec α = 5% :
1. Tester la significativité de chaque coefficient : On effectue un test de Student pour chaque paramètre :
La statistique de table est
α=0,05
ttabN −(k+1)
= 3, 1824
• b0

H0 7→ b0 = 0
H1 7→ b0 6= 0

bˆ0 12
tc = p =p = 9, 28 > ttab
(V bˆ0 ) (5/3)

7→ on rejette H0
7→ le coefficient est significatif

• b1

H0 7→ b1 = 0
H1 7→ b1 6= 0

bˆ1 −0, 5
tc = p =p = −0, 448 < ttab
(V bˆ1 ) (5/4)

7→ on accepteH0
7→ le coefficient est non significatif

• b2

H0 7→ b2 = 0
H1 7→ b2 6= 0

bˆ2 2, 5
tc = p =p = 5 > ttab
ˆ
(V b2 ) (1/4)

7→ on rejetteH0
7→ le coefficient est significatif

UNSA 6
 2. On teste b2 = 2 :

H0 7→ b2 = 2
H1 7→ b2 6= 2

bˆ2 − bH0 2, 5 − 2
tc = p =p = 1 < ttab
ˆ
(V b2 ) (1/4)

7→ on accepteH0
7→ le coefficient est non significativement 6= 2

3. Tester b1 + b2 = 1

H0 7→ b1 + b2 = 1
H1 7→ b1 + b2 6= 1

bˆ1 + bˆ2 − 1
tc = q
V (bˆ1 + bˆ2 )

Nous calculons V (bˆ1 + bˆ2 ) :

5 1 −1
V (bˆ1 + bˆ2 ) = V (bˆ1 ) + V (bˆ2 ) + 2 ∗ COV (bˆ1 ; bˆ2 ) = + + 2 ∗ =1
4 4 4
Les valeurs utilisées dans le calcul de cette variance sont à retrouver dans la matrice des variances/cova-
riances calculées à la question 2.
La statistique de test est donc égale à :
−0, 5 + 2, 5 − 1
tc = =1
1
Rappel
α=0,05
ttabN −(k+1)
= 3, 1824
Nous acceptons H0 c’est à dire que b1 + b2 n’est pas statistiquement différent de 1.

UNSA 7