Vous êtes sur la page 1sur 5

Math F-105 Corrig Sance 11

Sance 11 : Estimateurs
Exercice 1
Soit (X
1
, X
2
, ..., X
n
) un chantillon simple extrait dune population de moyenne et de variance
2
.
1. Montrer que

X =
1
n

n
i=1
X
i
est un estimateur sans biais de .
2. Montrer que W =
1
n

n
i=1
(X
i


X)
2
est un estimateur biais de
2
et donner lexpression de ce biais.
3. Proposer un estimateur non biais de
2
qui est directement li W.
Solution
1. Grce la linarit de lesprance, un calcul immdiat permet dobtenir le rsultat. Ce rsultat reste-t-il
valable si lon ne suppose plus lindpendance des variables alatoires ?
2. Remarquons tout dabord que, vu que les X
i
sont i.i.d. de moyenne et de variance
2
, la moyenne

X est elle-mme de moyenne , mais de variance



2
n
( montrer). Ds lors, on a que
E(W) = E
_
1
n
n

i=1
(X
i


X)
2
_
=
1
n
E
_
n

i=1
X
2
i
n

X
2
_
=
1
n
_
n

i=1
E(X
2
i
) nE(

X
2
)
_
=
1
n
_
n(
2
+
2
) n(
2
+

2
n
)
_
=
n 1
n

2
=
2


2
n
,
et donc le biais correspond

2
n
. Notez quasymptotiquement ce biais est nul ; W est donc un esti-
mateur asymptotiquement sans biais de
2
.
3. De par la linarit de lesprance, il est clair que E(aX) = aE(X). Ds lors, pour se dbarrasser de la
fraction
n1
n
qui cre le biais, il sut de multiplier W par
n
n1
pour obtenir un estimateur non biais
de
2
. Cet estimateur se note
S
2
:=
1
n 1
n

i=1
(X
i


X)
2
.
Exercice 2
Les lments dune population possdent un caractre X qui suit une loi de probabilit dont la densit
est donne par
f

(x) =
_
kx
3

4
si 0 < x <
0 sinon,
o k est une constante et > 0 le paramtre dintrt.
1. Dterminer la constante k.
1
Math F-105 Corrig Sance 11
2. Montrer que la moyenne

X =
1
n

n
i=1
X
i
nest pas un estimateur sans biais du paramtre .
3. En dduire un estimateur non biais de .
Solution
1. En rsolvant lquation
_
R
f

(x)dx = 1, on obtient k = 4.
2. Calculons lesprance de

X :
E(

X) = E(X
1
) (pourquoi ?)
=
_

0
4x
4

4
dx
=
4
5
,
et on voit donc que

X nest pas un estimateur sans biais de .
3. Une simple multiplication de

X par
5
4
permet denlever le biais. Ainsi donc un estimateur sans biais
de est

=
5
4

X.
Exercice 3
Soit (X
1
, X
2
, ..., X
n
) (avec n > 10) un chantillon alatoire issu dune population suivant une loi de
Bernoulli de paramtre p. Considrons les 3 estimateurs suivants du paramtre p :
p
1
=

n
i=1
X
i
1
n
, p
2
=
1
n/2
n/2

i=1
X
2i
, p
3
=
1
10
10

i=1
X
i
.
Comparer ces 3 estimateurs sur base de chacune des 4 proprits destimateurs nonces dans le rappel.
Solution
Regardons dabord quels estimateurs sont sans biais (resp. sans biais asymptotique). Des calculs immdiats
montrent que
- E( p
1
) = p
1
n
, donc estimateur biais, mais sans biais asymptotique.
- E( p
2
) = p, estimateur sans biais (et donc sans biais asymptotique).
- E( p
3
) = p, estimateur sans biais (et donc sans biais asymptotique).
Considrons prsent la convergence de chacun de ces estimateurs. En tenant compte de lindpendance
des observations, on obtient que
- Var( p
1
) =
p(1p)
n
, donc estimateur convergent.
- Var( p
2
) =
p(1p)
n/2
, donc estimateur convergent.
- Var( p
3
) =
p(1p)
10
, qui nest clairement pas un estimateur convergent.
Finalement, comparons les 3 estimateurs sur base de leur ecacit, i.e. faisons une comparaison de leurs
variances (quon vient de calculer pour la convergence).
- Premirement, il est clair que
p(1p)
n
<
p(1p)
n/2
(car n > n/2) et que
p(1p)
n
<
p(1p)
10
(puisque n > 10) ;
on en dduit donc que p
1
est lestimateur le plus ecace des trois.
2
Math F-105 Corrig Sance 11
- La comparaison entre p
2
et p
3
en termes decacit dpend fortement du nombre dobservations. Ainsi,
p
3
est plus ecace que p
2
aussi longtemps que 10 > n/2, cest--dire pour n [11, 19]. Pour n = 20
et n = 21, les deux estimateurs sont aussi ecaces lun que lautre, et partir de n 22, p
2
est plus
ecace que p
3
.
Exercice 4
Considrons un chantillon de taille 1 issu dune population suivant une loi de Poisson de paramtre > 0
(ceci revient donc simplement considrer une variable alatoire X avec X P()).
1. Montrer que lestimateur (X) = 1
[X=0]
est non biais pour e

.
2. Montrer que cest le seul estimateur non biais de e

.
3. On cherche prsent estimer e
3
. Que pouvez-vous dire sur la statistique (2)
X
?
4. Proposer en toute gnralit un estimateur sans biais pour e
n
.
Solution
1. Rappelons aux distraits que si la variable alatoire X suit une loi de Poisson de paramtre , alors
P(X = k) = e

k
k!
pour tout k 0. Donc,
E((X)) = E(1
[X=0]
) =

k=0
1
[k=0]
P(X = k) = P(X = 0) = e

,
ce qui montre que (X) est un estimateur sans biais pour e

.
2. Pour montrer que (X) est lunique estimateur non biais de e

, il faut montrer que si g(X) est un


estimateur sans biais de e

dni sur tout R, alors ncessairement g(x) = (x) pour tout x N


(pourquoi lgalit sur N sut-elle ?).
N. B. Notez quici on a crit lgalit entre 2 fonctions et non pas entre deux variables alatoires et
ceci simplie considrablement le dbat. En eet, pour pouvoir crire une galit entre 2 fonctions de
v.a., il faut prciser la nature de cette galit (p.s., en probabilit, en distribution), or ici on cherche
montrer que les 2 fonctions doivent concider, et donc on travaille au niveau de variables relles.
Comme g(X) est sans biais pour e

, on a que E(g(X)) = e

. Cette galit donne alors lieu au


dveloppement suivant :
E(g(X)) = e

k=0
g(k)e

k
k!
= e

k=0
g(k)

k
k!
= 1.
Cette galit doit tre valable quel que soit le choix de > 0. On assiste donc lgalit entre deux
polynmes, ce qui ne peut se faire que si les coecients des deux sont gaux ; ainsi donc on obtient
g(0) = 1, g(k) = 0 k 1.
3
Math F-105 Corrig Sance 11
Donc quel que soit le comportement de g(x) sur R \ N, on obtient que
g(x) = (x) x N.
Ceci nous permet de conclure que lestimateur propos au point prcdent est bien le seul estimateur
sans biais de e

.
3. Pour voir si la statistique (2)
X
est un estimateur sans biais pour e
3
, il sut den calculer lesprance.
On obtient
E
_
(2)
X
_
=

k=0
(2)
k
e

k
k!
= e

k=0
(2)
k
k!
= e

e
2
= e
3
,
et donc (2)
X
est bien un estimateur sans biais pour e
3
. Toutefois cette statistique nest pas un bon
estimateur du paramtre, et donc on ne sintresse pas aux 3 autres proprits destimateurs.
4. Pour n = 0, il sut de prendre 1 comme estimateur de 1. Pour n = 1, on a vu que le seul estimateur
sans biais de e

est 1
[X=0]
. Pour n 2, on dduit par le point 3. que (1 n)
X
est un estimateur sans
biais de e
n
(ce qui se dmontre exactement de la mme manire quau point 3.).
Exercice 5 Moyenne usuelle VS Moyenne pondre
Soit (X
1
, X
2
, ..., X
n
) une population de moyenne et de variance
2
. La moyenne usuelle se note

X =
1
n

n
i=1
X
i
et la moyenne pondre

X
pond
=
P
n
i=1
a
i
X
i
P
n
i=1
a
i
, o a
i
1. Ces 2 moyennes estiment chacune le
paramtre .
1. Montrer que les 2 moyennes sont sans biais.
2. Comparer la moyenne usuelle et la moyenne pondre sur base de leur ecacit.
3. Sur base de la comparaison que vous venez deectuer, quelle moyenne serait plus favorable pour un
tudiant ?
Solution
1. Nous avons dmontr lexercice 1.1 que

X tait un estimateur sans biais pour ; il en va bien vi-
demment de mme pour

X
pond
.
2. Il sagit ici de comparer Var(

X) et Var(

X
pond
). Lintuition (ou le air ou le talent... ) nous indique que

2
n

2

n
i=1
a
2
i
(

n
i=1
a
i
)
2
.
Pour le prouver, il sut par exemple de remarquer que (aprs simplication par
2
) :
1
n

P
n
i=1
a
2
i
(
P
n
i=1
a
i
)
2
(

n
i=1
a
i
)
2
n(

n
i=1
a
2
i
)


ni>j1
2a
i
a
j
(n 1)

n
i=1
a
2
i
.
Arriv ce point, on remarque que dans le membre de droite on a une somme de carrs, o chaque
terme survient n1 fois, et qu gauche on a
n(n1)
2
doubles produits constitus par les mmes nombres
qu droite de lquation. On constate donc quon peut former
n(n1)
2
carrs parfaits en retranchant de
part et dautre tous les doubles produits, ce qui donne
0

ni>j1
(a
i
a
j
)
2
,
4
Math F-105 Corrig Sance 11
galit qui est toujours vraie. Donc on vient de montrer que la variance de la moyenne usuelle est
infrieure celle de la moyenne pondre, et donc la moyenne usuelle constitue un estimateur plus
ecace de .
3. La rponse cette question dpond fortement de ltudiant : un tudiant qui a rgulirement de trs
bons points na pas intrt ce quil y ait une grande uctuation par rapport sa moyenne, les chances
de voir sa moyenne diminuer tant plus grandes que les chances de la voir augmenter. Il aurait donc
une prfrence pour la moyenne usuelle. Bien videmment, la situation est tout fait inverse pour
un tudiant ayant des mauvaises notes, et il devrait avoir un penchant pour la moyenne pondre. La
situation est moins claire pour un tudiant qui se situe la frontire entre la russite et lchec.
De manire gnrale on peut dire que la moyenne usuelle est favorable aux tudiants ayant en gnral
des notes au-dessus de 13, quen-dessous de 11 la moyenne pondre est prfrable, et quentre 11 et
13 il ny a pas de vritable dirence (au niveau statistique et probabiliste) entre les deux moyennes.
5