Statistique et Econométrie I

Adrian Bruhin

Université de Lausanne

Automne 2019

3.Le modèle de régression simple (2/3).

1
Survol du cours
Hypothèses
OLS
Propriétés
stochastiques
Espérance et
variance
E(b) =
s2
S(b1 ) = P
(xi x̄)2 Régression linéaire simple
yi = β 0 + x i β 1 + ✏ i
P
(xi x̄ )(yi ȳ )
L’estimateur OLS: b1 = P
(xi x̄ ) 2

2
Qu’allons-nous faire aujourd’hui?
• Les propriétés stochastiques de l’estimateur OLS
– Très important. Tous les tests d’hypothèses sont basés là-
dessus.

Ø Vers quoi tend l’estimateur OLS si l’échantillon est large (N

tend vers l’infini) ?
Ø L’estimateur OLS suit-il une distribution connue?

• Les tests d’hypothèses

– Les principes d’un test.
– Le calcul basé sur les propriétés stochastiques de b.

3
Survol du cours
La loi des grands Un coefficient
Hypothèses Distribution nombres
OLS asymptotique p bk − k
z =p ⇡ N(0, 1)
Propriétés bk −
! k Les tests S(bk )
stochastiques Le théorème d’hypothèses
central de la limite
Espérance et b ⇡ N( , S(b))
variance
E(b) =
s2
S(b1 ) = P
(xi x̄)2 Régression linéaire simple
yi = β 0 + x i β 1 + ✏ i
P
(xi x̄ )(yi ȳ )
L’estimateur OLS: b1 = P
(xi x̄ ) 2

4
Les propriétés stochastiques de l’estimateur OLS
• Deux façons possibles de caractériser les propriétés
stochastiques

– Quelles sont les propriétés exactes de l’estimateur? Quelle

distribution suit-il?
Ø Très difficile. Lorsque c’est possible, on n’obtient que des
résultats pour des cas spéciaux.

– Quelles sont les propriétés approximatives si l’échantillon

est large?
Ø Beaucoup plus facile. On obtient des résultats clairs (mais
compliqués quand même).
5
Les propriétés asymptotiques
• Deux questions différentes

– Convergence: Vers quoi tend b1 si N tend vers l’infini?

Ø Il est important de savoir que ça converge vers β1.

– Distribution: Quelle est la distribution de l’estimateur?

Ø La base pour les tests d’hypothèses.

6
Convergence de l’estimateur OLS

Convergence en probabilité de b1
Sous les hypothèses 1 à 3, si N ! 1, l’estimateur OLS converge en proba-
bilité vers la vraie valeur de 1 :

p
b1 −
! 1

• Donc, si l’échantillon est large, l’estimateur OLS tend

vers la vraie valeur.

7
Convergence de l’estimateur OLS
Le terme centrale est
P
✏i (xi − x̄)
b 1 = β1 + P
(xi − x̄)2
p
Si N ! 1, la loi des grands nombres implique que x̄ ! µx

Par les règles de calcul on peut donc remplacer x̄ par µx dans

X p X
✏i (xi − x̄) ! ✏i (xi − µx )
X X
2 p
(xi − x̄) ! (xi − µx )2

P 1 P
p ✏i (xi − µx ) N ✏i (xi − µx )
b 1 ! β1 + P 2
= β1 + 1 P
(xi − µx ) (x − µ ) 2
N i x
8
Convergence de l’estimateur OLS
Considerons le numérateur

1 X p
✏i (xi − µx ) ! E (✏i (xi − µx ))
N
= EX [E (✏i |xi )(xi − µx )] = 0
| {z }
=0 De nouveau, le rôle central
de l’hypothèse 1 OLS
Et le dénominateur
1 X 2 p
(xi − µx ) ! V (xi ) = σX2
N
Donc, l’estimateur converge vers la vraie valeur β1 :

p 0
b 1 ! β 1 + 2 = β1
σX
9
La convergence de b1

• C’est un résultat très important.

– Ça veut dire que si l’échantillon est suffisamment large, b1
est égal au vrai paramètre.

• Ce résultat ne dépend que de l’hypothèse 1 des OLS.

– On pourrait trouver des lois des grands nombres plus
puissantes que celles que nous avons appliquées dans les
exercices.
– Par exemple, OLS converge même si la variance du résidu
n’est pas constante.
10
La distribution limite de b1
• Il est possible de caractériser la distribution limite de
l’estimateur OLS
– Cela nous permettra d’effectuer des tests d’hypothèses

• L’outil pour décrire la limite d’une distribution

d
Convergence en distribution : xn −
!x
xn converge en distribution vers x si sa fonction de répartition converge vers
celle de x :
d
! x si Fn (z) ! F (z) pour tous les z lorsque N ! 1
xn −

où Fn () est la fonction de répartition de xn et F () est la fonction de répartition

de x.
11
La distribution limite de b1
Le théorème central de la limite
Si xn est une séquence de variables aléatoires indépendantes avec espérance
µx et variance x2 ,
x¯n − µx d
p −! N(0, 1)
x / n

Voici ce qu’il se passe :

Le numérateur converge vers zéro (par la loi des grands nombres) mais
p
il est divisé par x / n qui tend aussi vers zéro.
La magie du théorème central de la limite est que cette fraction converge
vers la distribution normale standard.
Donc, la moyenne d’une variable á distribution quelconque converge vers
une distribution normale.
Le résultat est extrêmement important, et c’est pour cette raison que
nous l’appelons le théorème central de la limite

12
 La distribution limite de b1

La distribution limite de b1
Sous les hypothèses 1 à 3, l’estimateur OLS converge vers une distribution
normale

d σ✏2
b1 ! N(β1 , )
Nσx2 coïncide avec la
formule de la variance
σ✏2 conditionnelle de
La variance Nσx2
peut être estimée par l
estimateur OLS.

d 2 1 P 2
σ✏ N ei
= P
Nσx2 (xi − x̄)2

• C’est la magie du théorème central de la limite!

13
Les tests d’hypothèses
• Les propriétés stochastiques de l’estimateur OLS sont à
la base des tests d’hypothèses.
• Mais, pourquoi des tests d’hypothèses? Supposons que:
– Nous avons une théorie sur la relation entre X et Y, et
l’estimateur OLS trouve une telle relation dans les donnés.
Ø Est-ce que cela confirme la théorie?
– Nous n’avons aucune théorie sur la relation entre X et Y, mais
l’estimateur OLS découvre une relation négative.
Ø Cette relation est-elle réelle ou est-elle dû au hasard?

Ø Avec des tests d’hypothèses nous pouvons répondre à

ces questions. 14
Principe général d’un test d’hypothèses
1. On pose deux hypothèses:
– L’hypothèse alternative H1: on veut la confirmer.
– L’hypothèse nulle H0: elle contredit H1 et on veut la rejeter.

• Deux types des tests – unilatéraux et bilatéraux:

– Exemple pour un test unilatéral: Notre théorie postule une
relation négative entre X et Y, donc b1 < 0.
Ø H1: b1 < 0 (théorie juste) vs. H0: b1 = 0 (théorie fausse)

– Exemple pour un test bilatéral: Nous n’avons aucune théorie

et voulons savoir si la relation entre X et Y est réelle.
Ø H1: b1 ≠ 0 (relation réelle) vs. H0: b1 = 0 (aucune relation)
15
Principe général d’un test d’hypothèses
2. On utilise l’estimateur OLS pour estimer la relation: b1
3. Si b1 va dans la direction de H1, on doit quantifier si
l’évidence est assez forte pour confirmer H1.
– Si H0 est juste, quelle est la probabilité d’observer par hasard
la valeur b1 ou une valeur encore plus extrême dans la
direction de H1?
– On doit calculer cette probabilité (la valeur p) en utilisant les
propriétés stochastiques de l’estimateur OLS.
4. On décide.
– Si p est inférieur à a – le niveau « acceptable » pour rejeter a
tort une H0 juste – on rejette H0 et confirme H1.
– Autrement on ne peux pas rejeter H0 ni confirmer H1. 16
Ariely et al. (2009): Large Stakes and Big Mistakes
• Quel est l’effet des incitations financières sur la
performance des individus?
– Prédiction du modèle standard en économie: Le paiement rend
l’activité plus profitable
Ø Les incitations financières augmentent la performance.

– Mais une intuition psychologique qui contrecarre cette force:

Incitations fortes augmentent la pression interne de succès
Ø Cette force peut-elle contrebalancer le premier effet?

• Deux types de tests

– Test unilatéral: On suppose que l’intuition psychologique est juste.

– Test bilatéral: On ne veut pas faire de supposition sur le fait que le

modèle économique ou l’intuition psychologique est correct(e). 17
Ariely et al. (2009): Expérience
• Chaque individu participe à plusieurs tests.

– Tâche qui demande de la dextérité: Labyrinthe

– Tâche qui demande de la mémoire de travail: Simon

18
Ariely et al. (2009): Expérience
• Méthode de paiement
– Pour recevoir un paiement, il fallait atteindre un niveau
qualifié de « bon » dans chaque jeu.
• Plus qu’un certain nombre de points sur plusieurs tours

• Traitements: Trois niveaux d’incitations financières

– Faible: Paiement si le niveau bon est atteint: 4 Rs

– Fortes: Paiement si le niveau bon est atteint: 40 Rs

– Très Fortes: Paiement si le niveau bon est atteint: 400 Rs

19
Ariely et al. (2009): Expérience
• Les incitations financières étaient très fortes
– Les expériences ont été effectuées dans un petit village au
sud de l’Inde

– Dépenses mensuelles moyennes d’une famille: 495 Rs

Ø Dans le traitement aux incitations très fortes, on pouvait

gagner l’équivalent des dépenses mensuelles dans
chacune des tâches.

20
Ariely et al. (2009): Résultats descriptifs
• Les incitations financières semblent diminuer la
performance (N = 29 dans chaque traitement).

21
 Les tests unilatéraux : formulation des hypothèses
• L’évidence est-elle assez forte pour confirmer l’intuition
que les incitations financières réduisent la performance?
– Régression linéaire pour tester l’influence des incitations
financières: yi = β0 + xi β1 + ✏i

Où

yi : Nombre de points obtenus dans la tâche par individu i.

xi : xi 2 {4, 40, 400} /100 Rs si performance est bonne.
✏i : Résidu de l’individu i. E (✏|xi ) = 0, car l’allocation aux traitements
est aléatoire

=> Hypothèses : H1 : β1 < 0 et H0 : β1 = 0

22
 Les tests unilatéraux : estimation des paramètres
• Est l’évidence assez forte pour confirmer l’intuition que
les incitations financières réduisent la performance?
– Régression linéaire pour tester l’influence des incitations
financières: yi = β0 + xi β1 + ✏i
p
• Erreurs standards S(b1 ) entre parenthèses.

Résultats pour "Labyrinthe" : N = 87, R 2 = 0.11

yi = 6.50 0.316xi + ei
(0.226) (0.097)
100 Rs de plus
2
diminuent la per-
Résultats pour "Simon" : N= 87, R = 0.08 formance de ≈ 0.3
yi = 5.32 0.327xi + ei points
(0.28) (0.123)

23
 Les tests unilatéraux : calcul du valeur p
• Etant-donné H0, quelle est la probabilité d’observer par
hasard b1 ou une valeur plus extrême en direction de H1?
– Rappelons nous que b1 ! N(β1 , σ✏2 /(NσX2 ))
d

– Donc, si N > 50 la statistique de test sous H0:

b1 − 10 0
z=p ⇠ N(0, 1) , où 1 est la valeur de 1 sous H0
S(b1 )

– Donc, la valeur p est donnée par

! !
b − 0 b
p = Pr (Z  z) = p1 1
= p 1
S(b1 ) S(b1 )

Où () est la fonction de répartition de la distribution normale standard

– On peut rejeter H0 (et ainsi confirmer H1) si p < a 24

 Les tests unilatéraux : calcul du valeur p
• Etant-donné H0, quelle est la probabilité d’observer par
hasard b1 ou une valeur plus extrême en direction de H1?
0.4
0.3

!
b 0
p= p1 1
densité

S(b1 )
0.2
0.1
0.0

−3 −2 −1 0 1 2 3

b1 0
1
p
S(b1 ) 25
 Les tests unilatéraux : calcul du valeur p
• Attention: Si H1: b1 > 0, l‘alternative se trouve à droite!
0.4
0.3

!
b − 0
p = Pr (Z ≥ z) = 1 − p1 1
S(b1 )
densité

0.2
0.1
0.0

−3 −2 −1 0 1 2 3

b1 0
1
p
S(b1 ) 26
Les tests unilatéraux: décision
• Test de l’intuition psychologique
Résultats pour "Labyrinthe" : Test unilatéral H1 : β1 < 0 ?
0.316
z= = 3.26
0.097
p = ( 3.26) = 0.0005 < ↵ = 0.05

Résultats pour "Simon" : Test unilatéral H1 : β1 < 0 ?

0.327
z= = 2.66
0.123
p = ( 2.66) = 0.004 < ↵ = 0.05

Ø On peut rejeter H0: b1 = 0 et confirmer H1: b1 < 0

Ø Donc, l’évidence est assez forte pour confirmer l’intuition
psychologique 27
Les tests bilatéraux
• Dans le cas des incitations financières, deux
hypothèses contradictoires

– Économique: Les incitations ont un effet positif sur la

performance. (β1 > 0)

vs.

– Psychologique: Les incitations peuvent avoir un effet

négatif. (β1 < 0)

Ø Nous avons confirmé que β1 < 0.

Ø Mais, nous avons postulé par avance, que l’intuition
psychologique est plus plausible. 28
 Les tests bilatéraux
• Si on a deux hypothèses contradictoires, une approche
conservatrice est de postuler qu’il n’existe aucune
relation entre X et Y.
– On ne postule pas par avance, qu’une théorie est plus plausible
que l’autre.
– Donc: H1 : 1 6= 0 vs. H0 : 1 = 0

• Procédure dans ce cas

– La statistique de test reste inchangée:
b1 − 10 0
z=p ⇠ N(0, 1) , où 1 est la valeur de 1 sous H0
S(b1 )

– Mais le calcul du valeur p change, car il y a maintenant une

alternative de chaque coté, à gauche (b1 < 0) et à droite (b1 > 0).29
 Les tests bilatéraux : calcul du valeur p
• Etant-donné H0, quelle est la probabilité d’observer par
hasard b1 ou une valeur plus extrême en direction de H1?
� �! " � �!# � �!
�b − 0� �b − 0� �b − 0�
� 1 1� � 1 1� � 1 1�
p= − �p � + 1− �p � =2⇥ − �p �
� S(b1 ) � � S(b1 ) � � S(b1 ) �
( )
0.4
0.3
densité

0.2
0.1
0.0

−3 � −2 � −1 0 1 � 2 � 3
�b 0� �b − 0�
� 1 1� � 1 1�
�p � �p �
� S(b1 ) � � S(b1 ) � 30
Ariely et al. (2009): Test d’hypothèse bilatéral
• Test bilatéral sur l’influence des incitations financières
Résultats pour "Labyrinthe" : Test bilatéral H1 : β1 6= 0 ?
−0.316
z= = −3.26
0.097
p = 2 ⇥ (−| − 3.26|) = 0.001 < ↵ = 0.05

Résultats pour "Simon" : Test bilatéral H1 : β1 6= 0 ?

−0.327
z= = −2.66
0.123
p = 2 ⇥ (−| − 2.66|) = 0.008 < ↵ = 0.05

Ø On peut rejeter H0: b1 = 0 et confirmer H1: b1 ≠ 0

Ø L’évidence soutient l’intuition psychologique. 31
Différence importante entre les deux tests
• Le test bilatéral demande plus d’évidence en faveur
de H1 avant de nous laisser rejeter H0.
– Exemple: Valeurs critiques pour α = 0.05.

z0.05 z0.025

5% 2.5% 2.5%

32
 Qu’avons-nous fait aujourd’hui?
• Propriétés de l’estimateur OLS quand N tend vers l’infini.
– Convergence
– Distribution limite

– Ces résultats nous permettent de tester des hypothèses

concernant β.

• Deux types de tests

– Test unilatéral: H1: β1 < 0 (ou β1 > 0).
– Test bilatéral: H1: β1 ≠ 0.
Ø Nous verrons une application pendant les exercices (Gneezy et
Rustichini, 2000).
33
Qu’allons-nous faire?
• Exercices: série 2
– Les corrigés sont à rendre dimanche à 23h59

• Pas de vidéo cette semaine

• Lecture: chapitre 5 dans SW (chapitre 2 dans SWT)

– il n’y a rien d’autre à lire.

• La semaine prochaine
– Plus d’applications de tests.
– Les intervalles de confiance

– Que faire si la variance du résidu n’est pas constante?

34