UNIVERSITE DE CARTHAGE

ECOLE NATIONALE D’INGENIEURS DE BIZERTE

Probabilités et Statistiques
Estimation ponctuelle des paramètres

Classes : 1ère année Correction du TD 4 March 6, 2022

Exercice 1 —

1. Montrer que X1 et Xn sont des estimateurs sans biais de m.

Réponse:
Les v.a. X1 et Xn sont des statistiques qui prennent leurs valeurs dans R. Le
paramètre m prend aussi ses valeurs dans R =⇒ X1 et Xn sont des estimateurs
de m.
E(X1 ) = m doncPnX1 est
un estimateur
Pn sans biaisP
de m.
n
E(Xn ) = E n1 k=1 Xk = n1 k=1 E (Xk ) = n1 k=1 m = m donc Xn est un
estimateur sans biais de m.

2. Calculer les risques de X1 et de Xn . Déduire que Xn est préférable à X1 .

Réponse:
On a :

R(X1 , m) = E (X1 − m)2 = E (X1 − E(X1 ))2 = V ar(X1 ) = σ 2 .

   

D’un autre côté :

R(Xn , m) = E (Xn − m)2 = E (Xn − E(Xn ))2 = V ar(Xn )

   

n
! n
!
1X 1 X
= V ar Xk = 2 V ar Xk .
n n
k=1 k=1

Puisque les v.a (Xk ), k = 1, . . . , n sont i.i.d. on obtient :

n
! n n
X X X
V ar Xk = V ar(Xk ) = σ 2 = nσ 2 .
k=1 k=1 k=1

Ainsi :
σ2
R(Xn , m) = .
n
Conclusion :R(Xn , m) ≤ R(X1 , m) donc Xn est préférable à X1 .

2
3. Montrer que Xn est un estimateur biaisé de m2 .

1
Réponse:

2
La v.a Xn est une statistique à valeurs dans [0, +∞[. De même, le paramètre

2
m2 prend ses valeurs dans [0, +∞[. Ainsi Xn est un estimateur de m2 .
 !2   !2 
n n
h
2 i 1 X 1 X
E Xn =E 2 Xk  = 2 E  Xk 
n n
k=1 k=1
 
n
1 X 2 X
= 2E Xk + Xk Xj 
n
k=1 j̸=k
 
1  X
= 2 nE[X12 ] + E[Xk Xj ]
n
j̸=k
 
1  X
= 2 nE[X12 ] + E[Xk ]E[Xj ]
n
j̸=k
 
1  X
= 2 nE[X12 ] + m2 
n
j̸=k
1
= 2 nE[X12 ] + n(n − 1)m2


n
1
E[X12 ] − m2 + n.m2


=
n
σ2
= m2 + .
n
h
2 i
2
E Xn ̸= m2 donc Xn est un estimateur biaisé de m2 .

2
Exercice 2 —
Soit (Xi )i≥1 une suite de variables aléatoires réelles indépendantes
p et identique-
ment distribuées (i.i.d.) telles que E(X12 ) < +∞ et σ = V ar(X1 ) > 0.
Pn
Soit Vn = n1 i=1 Xi2 − (Xn )2 .
1. Montrer que Vn est un estimateur fortement convergent biaisé de V ar(X1 ).

Réponse:
La v.a. Vn est une statistique car elle s’écrit uniquement en fonction de l’échantillon
(X1 , . . . , Xn ).
Pour montrer que c’est un estimateur de σ 2 = V ar(X1 ), il faut s’assurer qu’elle
á valeurs dans R+ puisque σ 2 > 0. Nous avons deux façons de montrer ceci.
1ère façon :
n n n
1X 2 1X 2 1X
Vn = Xi − (Xn )2 = Xi − Xi .(Xn )
n i=1 n i=1 n i=1
" n n
#
1 X 2 X
= X − Xi .(Xn )
n i=1 i i=1
" n n
! n n
#
1 X
2
X X
2
X
2
= Xi − Xi .(Xn ) − (Xn ) + (Xn )
n i=1 i=1 i=1 i=1

Or
n n n
X 1X X
(Xn )2 = n(Xn )2 = n(Xn ). Xi = (Xn )Xi .
i=1
n i=1 i=1

Ainsi :
" n n
! n n
#
1 X X X X
Vn = Xi2 − Xi .(Xn ) − (Xn ) + 2
(Xn ) 2
n i=1 i=1 i=1 i=1
" n n
! n n
#
1 X X X X
= Xi2 − Xi .(Xn ) − (Xn )Xi + (Xn )Xi
n i=1 i=1 i=1 i=1
" n n n
#
1 X X X
= Xi2 −2 (Xn )Xi + (Xn ) 2
n i=1 i=1 i=1
" n #
1 X
2
= Xi − Xn ≥0
n i=1

n−1
On remarque ici que V n = n σn .

2ème façon :
Ici, nous allons utiliser le résultat de convexité généralisée suivant :

3
Theorem 1 Si f : IP7→ R est convexe et si x1 , . . . , xn ∈ I et si les réels positifs
n
α1 , . . . , αn vérifient i=1 αi = 1 alors
n
! n
X X
f αi xi ≤ αi f (xi ) .
i=1 i=1

En appliquant la théorème précédent sur la fonction convexe f (t) = t2 et pour

αi = n1 , ∀ i = 1, . . . , n, on obtient :

n
!2 n
1X X 1 2
xi ≤ xi .
n i=1 i=1
n

En supposant que (x1 , . . . , xn ) est une réalisation de l’échantillon (X1 , . . . , Xn ),

on obtient : !2
n n
1X X 1 2
Xi = (Xn )2 ≤ Xi .
n i=1 i=1
n
Ainsi Vn ≥ 0.

Conclusion : On vient donc de montrer, par deux façons diffèrentes que Vn

est un estimateur de σ 2 .

Montrons maintenant que Vn est un estimateur fortement convergent de σ 2 :

Pn
On a Vn = Un − Wn avec Un = n1 i=1 Xi2 et Wn = (Xn )2 . Nous allons donc
déterminer les limites de presque sûres de Un et de Wn .
Limite presque sûre de Un :
Pn
On pose pour i = 1, . . . , n, Yi = Xi2 . On obtient Un = n1 i=1 Yi oû les
Yi , i = 1, . . . , n sont i.i.d. et intégrables. Par la loi des grand nombres (LGN),
on obtient donc :
n
1X
lim Yi = E(Y1 ) = E(X12 ) , p.s.
n→+∞ n
i=1

c’est-à-dire que la suite (Un ) converge presque sûrement (p.s) vers E(X12 ).

Limite presque sûre de Wn :

On au aussi par la LGN :
n
1X
lim Xn = lim Xi = E(X1 ) , p.s.
n→+∞ n→+∞ n
i=1

Par la continuité de la fonction f (t) = t2 , on obtient :

2
lim Xn = E 2 (X1 ) , p.s.
n→+∞

4
Conclusion:
La suite Vn converge presque sûrement vers E(X12 ) − E 2 (X1 ) = σ 2 . Ainsi, Vn
est un estimateur fortement convergent de σ 2 .

Montrons maintenant que Vn est un estimateur biaisé de Vn :

On a
n
! n
1X 2 2 1X
E Xi2 −E (Xn )2 = E X12 −E (Xn )2 .





E(Vn ) = E Xi − (Xn ) =
n i=1 n i=1

Dans l’exercice 1, on avait établi que :

h
2 i σ2
E Xn = m2 + .
n
Ainsi
σ2 σ2
 
n−1
X12 2
= σ2 − σ2 .


E(Vn ) = E −m − =
n n n
E(Vn ) ̸= σ 2 donc Vn est un estimateur biaisé de σ 2 .

2. Construire un estimateur fortement convergent sans biais de V ar(X1 ).

n n
D’après la question précédente : E( n−1 Vn ) = σ 2 . Ainsi n−1 Vn est un estima-
2
teur sans biais de σ .
n n
De plus, Vn converge p.s. vers σ 2 et limn→+∞ n−1 = 1 donc n−1 Vn converge
2 n
p.s vers σ . Ainsi n−1 Vn est un estimateur fortement convergent sans biais de
σ 2 = V ar(X1 ).
n
On remarquera que n−1 Vn = σn .