Académique Documents
Professionnel Documents
Culture Documents
Rachid MCHICH
I. Modèle de régression linéaire simple
y = β0 + β1 x + ε
~------------------x L------------------x
2
min ∑ (yi − ŷi )
b =
∑ (x − x )(y − y)
i i
1 b0 = y − b1 x
∑(x − x )
i
2
Exemple : Considérons les données collectées sur les
ventes mensuelles d’un échantillon de 10 restaurants d’une
chaîne de restaurants, par-rapport à la population locale :
yi − ŷi
2
SCres = ∑ (yi − ŷi )
D’autre part, pour estimer les yi sans utiliser les xi,
on utilise y la moyenne des yi. Ainsi, pour la ième
observation, yi − y fournit une mesure de l’erreur
commise en utilisant y pour estimer les ventes.
2
SCT = ∑ (yi − y )
Enfin, pour déterminer dans quelle mesure les
valeurs ŷ de la droite de régression dévient de la
moyenne ,yune autre somme des carrés est calculée.
2
SCreg = ∑ ( ŷi − y )
Ainsi, on a :
rxy = (signe de b1 ) r 2
IV. Hypothèses du modèle :
E(y) = β0 + β1 x
SCres
s = MCres =
n−2
V-1 Test t de Student :
H 0 : β1 = 0
H a : β1 ≠ 0
Espérance : E(b1 ) = β1
σ
Ecart type de b1 : σ b1 =
∑ i
(x − x ) 2
s
Ecart type estimé de b1 : sb1 =
∑ i
(x − x ) 2
Test de signification de Student dans le cadre
d’une régression linéaire simple :
H 0 : β1 = 0
H a : β1 ≠ 0
b1
Statistique de test : t=
sb1
Règle de rejet :
Approche par la valeur p : Rejet de H0 si p ≤ α
Approche par la valeur critique : Rejet de H0 si
t ≤ −tα /2 ou t ≥ tα /2
où tα /2 est basé sur la distribution de Student à (n-2) ddl.
Intervalle de confiance pour β1 :
SCreg SCreg
MCreg = =
Nbr de var. indépendantes 1
Test F de Fisher :
H 0 : β1 = 0
H a : β1 ≠ 0
Règle de rejet :
Approche par la valeur p : Rejet de H0 si p ≤ α
Approche par la valeur critique : Rejet de H0 si
F ≥ Fα
où Fαest basé sur la distribution de Fisher à 1 ddl au
numérateur et (n-2) ddl au dénominateur.
Tableau ANOVA :
SCres
Résidu SCres n-2 MCres =
n−2
+ % ( .
2
+ % 1 x ( .
Régression Linéaire II
b0 N + β0 ;σ + n .
%n 2 (
+
+ % ∑ ( xi − x ) ( .
.
* $ i=1 ' -
Pr. AIT BABRAM Mohamed
b0 − β0
z=
σ ( b0 )
z N (0,1)
Inférence sur b
Remarque : Dans le cas d’un petit échantillon, l’écart réduit suit une loi
de Student :
FSTG Marrakech
b0 − β 0
t= T (n − 2)
s ( b0 )
Régression Linéaire II
1/ 2
# &
% (
%1 x2 (
s (b0 ) = s% + (
n n
Pr. AIT BABRAM Mohamed
2
% ∑ ( xi − x) (
%
$ i =1
(
'
Remarque : Dans le cas où la taille de l échantillon est grande, la
distribution de l écart réduit est
b0 − β 0
t= N ( 0;1)
s ( b0 )
Intervalle de confiance pour β0 :
FSTG Marrakech
f(n-2)
1-α
Pr. AIT BABRAM Mohamed
α/2 α/2
- ta / 2;(n -2 ) t a / 2 ;( n - 2 )
Densité de probabilité de la loi
Student avec (n-2) degré de liberté
Exercice :
Considérons le tableau d’observations suivant:
xi 1 2 3 4 5
yi 3 7 5 11 14