TD1: Régression Linéaire Simple

2022-2023

Exercise I
Soient (Xi ) et (εi ) deux suites indépendantes de v.a.i.i.d. telles que Eε2i < ∞, EXi2 < ∞, Eεi = EXi = 0.
Pour un a ∈ R inconnu,on observe Xi et Yi , pouri ≤ n où

Yi = aXi + ϵi .

On souhaite estimer a.

1. On pose Pn
Yi
â1 = Pni=1 .
X
i=1 i

vers quoi converge â1 ?

2. Calculer â2 le minimiseur de

n
X
b 7→ |Yi − bXi |2
i=1

3. Montrer que â2 → a p.s.

4. vers quoi converge √

n(â2 − a)

Exercise II
Rappeler la formule définissant le coéfficient de détermination R2 et la developper pour montrer qu’il est
égal au carré du coéfficient de corrélation empirique entre x et y, noté ρx,y , c’est-à-dire qu’on a:
Pn !2
2 − x̄)(yi − ȳ)
i=1 (xi
R = pPn pPn
− 2 2
(x
i=1 i x̄) i=1 (yi − ȳ)

Exercise III
L’étude statistique suivante porte sur les mesure de concentration de deux enzymes p et f dans un même
organisme vivant

p 65 63 67 64 68 62 70 66 68 67 69 71
f 68 66 68 65 69 66 68 65 71 67 68 70

Aprés calculs on trouve:

12
X 12
X 12
X 12
X 12
X
pi = 800 p2i = 53418 pi fi = 54107 fi = 811 fi2 = 54849
i=1 i=1 i=1 i=1 i=1

1. calculer avec une simple calcultrice la droite de la moindre carré de la concentration de l’enzyme 2 en
fonction de la concentration de l’enzyme 1.

2. calculer avec une simple calcultrice la droite de la moindre carré de la concentration de l’enzyme 1 en
fonction de la concentration de l’enzyme 2.

3. Montrer que le produit des pentes des deux droites est égale à R2 .
Exercise IV
Nous souhaitons exprimer un parametre y en fonction d’un parametre x. on effectue 20 mesures des couples
(x, y) et on obtient

20 20 20
1 X 1 X 1 X
x̄ = 4, 53 ȳ = 8, 65 (xi − x̄)2 = 10, 97 (yi − ȳ)2 = 2, 24 (xi − x̄)(yi − ȳ) = 3, 77
20 i=1 20 i=1 20 i=1

1. On pose y = β̂0 + β̂1 x la droite de régression. calculer β̂0 et β̂0 .

2. Donner et commenter une mesure de la qualité de l’ajustement des données au modèle.