Vous êtes sur la page 1sur 24

Estimation des paramètres

Abdallah BENABDALLAH
Université de Sfax
Institut Supérieur d’Informatique et de Multimédia de Sfax

Décembre 2018

Abdallah BENABDALLAH Université de Sfax Institut Supérieur d’Informatique


Estimation deset
paramètres
de Multimédia de Sfax
Plan du Chapitre 6

A. Estimation Par Point

1. Estimateur

2. Méthode des Moments

3. Maximum de Vraisemblance

B. Estimation Par Ensemble

1. Intervalle de Confiance pour une loi Normale

2. Intervalle de Confiance pour une loi de Bernoulli

C. Conclusion

Abdallah BENABDALLAH Université de Sfax Institut Supérieur d’Informatique


Estimation deset
paramètres
de Multimédia de Sfax
A. Estimation Par Point

1. Estimateur
On considère une expérience aléatoire d’univers Ω et mesure de
probabilité P.
Soit un échantillon aléatoire
X = (X1 , X2 , ..., Xn )
d’une v.a. X qui dépend d’un paramètre θ inconnu prenant ses
valeurs dans un ensemble Θ ⊂ Rk .
Exemple :
1 Si X suit la loi Binomiale B(n, p), alors θ = (n, p) et
Θ = N∗ ×]0, 1[.
2 Si X suit la loi Bernouilli de paramètre p, alors θ = p et
Θ =]0, 1[.
3 Si X suit la loi Normale N (µ, σ), alors θ = (η, σ) et
Θ = R×]0, +∞[.
Abdallah BENABDALLAH Université de Sfax Institut Supérieur d’Informatique
Estimation deset
paramètres
de Multimédia de Sfax
Définition
Un estimateur de θ est une variable aléatoire

W = h(X)

où h est une application de Rn vers Rk .

Ainsi, une estimation du paramètre θ est la valeur observée

θ̂ = w = h(X),

avec
X = (x1 , x2 , ..., xn ),
les valeurs observées après réalisation de l’expérience.

Abdallah BENABDALLAH Université de Sfax Institut Supérieur d’Informatique


Estimation deset
paramètres
de Multimédia de Sfax
Exemple 1: Le volume d’un certain parfum de haute qualité suit
une loi normale N (µ, σ) où µ et σ les deux inconnues. Un
échantillon de 10 bouteilles est contrôlé.
Un estimateur de µ est la variable aléatoire
10
1 X
X = Xk .
10
k=1

La valeur observée de la moyenne d’échantillon est x = 98ml.


Ainsi, une estimation de µ est alors

µ̂ = x = 98ml.

Question : Le volume convenu de la bouteille est 100ml. A quelle


degré, le fournisseur de parfum a-t-il respecté le volume convenu?

Abdallah BENABDALLAH Université de Sfax Institut Supérieur d’Informatique


Estimation deset
paramètres
de Multimédia de Sfax
Exemple 2: Une élection entre deux candidats A et B aura lieu
prochainement. Pour prévoir lequel des deux candidats A et B va
gagner, nous avons interrogé un échantillon de 500 électeurs. 240
électeurs vont votés pour A.

Soit p ∈]0, 1[, la vraie proportion de la population qui va votée


pour le candidat A.

Un estimateur de p est la moyenne d’échantillon


500
1 X
X = Xk ,
500
k=1

où Xi sont des variables aléatoires de Bernoulli de paramètre p.

Ainsi, une estimation p̂ de p est


240
p̂ = x = = 0, 48.
500

Question : Qui va gagné les élections?


Abdallah BENABDALLAH Université de Sfax Institut Supérieur d’Informatique
Estimation deset
paramètres
de Multimédia de Sfax
Définition
On dit que l’estimateur W = h(X) d’un paramètre θ est sans biais
si l’espérance
E(W ) = θ.

La qualité de l’estimateur est mesurée en calculant l’erreur :

E(W ) = E((W − θ)2 ) = V(W ).

Dans le meilleur des cas, on veut construire des estimateurs


sans biais,

avec petite erreur.

Soit U et W deux estimateurs sans biais de θ.


Si V(U) < V(W ), alors l’estimateur U est meilleur que W .
Si V(U) > V(W ), alors l’estimateur W est meilleur que U.
Abdallah BENABDALLAH Université de Sfax Institut Supérieur d’Informatique
Estimation deset
paramètres
de Multimédia de Sfax
2. Méthode des Moments :
Soit X une v.a. d’espérance µ et de variance σ 2 les deux inconnus.
Soit X = (X1 , X2 , ..., Xn ) un échantillon aléatoire de X .

Théorème 1
La moyenne et la variance d’échantillon
n n
1X 1 X
X = Xk , S 2 = (Xk − X )2 .
n n−1
k=1 k=1

sont respectivement des estimateurs sans biais de l’espérance µ et


la variance σ 2 .
Exemple 3: Donner une estimation µ̂ et σ̂ de µ et σ de l’exemple
1 et une estimation p̂ de p de l’exemple 2.

Abdallah BENABDALLAH Université de Sfax Institut Supérieur d’Informatique


Estimation deset
paramètres
de Multimédia de Sfax
3. Estimateur de Maximum de Vraisemblance :
Motivation : On a lancé 10 fois successives une pièce de monnaie,
on a obtenue l’observation ”O”
P, F , F , P, F , F , F , F , P, F .
Donner une estimation de p = P(”obtenir F ”).
Intuitivement, on pourra penser que p ' 0.7
Il y a une justification mathématique pour une telle intuition!!!!
La probabilité d’obtenir ses 10 observations est
L(p) = P(O) = p 7 (1 − p)3 ,
où p est un paramètre inconnue de ]0, 1[.
Le tableau de variation de L montre que L(p) est maximale en
p = 0.7:

L(p) ≤ L(0.7), ∀p ∈]0, 1[.


Abdallah BENABDALLAH Université de Sfax Institut Supérieur d’Informatique
Estimation deset
paramètres
de Multimédia de Sfax
Maximum de Vraisemblance
Le Principe :
Maximiser la probabilité d’observer ”O”

X = (x1 , x2 , ..., xn )

provenant de la v.a. X dépendant d’un paramètre inconnu θ de


densité de probabilité fθ (.).

La fonction de vraisemblance est définie par


Yn
∀θ ∈ Θ , LX (θ) = P(O) = fθ (xi ).
i=1

La méthode de maximum de vraisemblance consiste à trouver


u(X) ∈ Θ qui maximise LX (θ), θ ∈ Θ:
max LX (θ) = LX (u(X)).
θ∈Θ

Abdallah BENABDALLAH Université de Sfax Institut Supérieur d’Informatique


Estimation deset
paramètres
de Multimédia de Sfax
Ainsi, la variable aléatoire

M = u(X)

est l’estimateur de maximum de vraisemblance du paramètre θ.


De plus, pour les valeurs observées (x1 , ..., xn )

θ̂ = u(x1 , ..., xn )

est une estimation de θ.

Abdallah BENABDALLAH Université de Sfax Institut Supérieur d’Informatique


Estimation deset
paramètres
de Multimédia de Sfax
Estimateur de Vraisemblance de la loi exponentiel Soit
X1 , ..., Xn un échantillon aléatoire d’une v.a. X de loi exponentielle
de paramètre λ > 0 inconnu.
Déterminons l’estimateur de Vraisemblance de λ.
La fonction de vraisemblance est définie sur ]0, +∞[ par
n
Y
L(λ) = fλ (xi ),
i=1
Yn
= λe −λxi ,
i=1
n −λ( ni=1 xi )
P
= λ e .

En étudiant la variation de la fonction L(λ), on trouve que le


maximum est atteint en
1 Xn 
max L(λ) = L xi .
λ∈]0,+∞[ n
i=1

Abdallah BENABDALLAH Université de Sfax Institut Supérieur d’Informatique


Estimation deset
paramètres
de Multimédia de Sfax
Ainsi, l’estimateur de vraisemblance de λ est
n
1X
M= Xi = X .
n
i=1

Ainsi, une estimation de 1/λ est


n
1 1X
= xi = moyenne observée.
λ̂ n
i=1

Application : La durée de vie d’un composant électronique suit la


loi exponentielle de paramètre λ > 0 inconnu. Un échantillon de
10 composants est examiné. Nous avons obtenu les durées de vie
(en jour) suivants
122, 123, 190, 132, 135, 110, 200, 184, 204, 100.

1 Donner une estimation λ̂ de λ.


2 Un composant est choisit au hasard. Quelle est la probabilité
que sa durée de vie dépasse 200 jours?
Abdallah BENABDALLAH Université de Sfax Institut Supérieur d’Informatique
Estimation deset
paramètres
de Multimédia de Sfax
B. Estimation Par Intervalle de Confiance
Soit X = (X1 , ..., Xn ) un échantillon aléatoire d’une v.a. X qui
dépend d’un paramètre inconnu θ ∈ R que nous voulons l’estimer.

Soit α ∈]0, 1[.


Définition
Un intervalle [a, b] est appelé intervalle de confiance de θ de
valeur de confiance 1 − α, si

P(θ ∈ [a, b]) = 1 − α.

1 Une bonne estimation de θ est caractérisée par:


Une petite taille de l’intervalle de confiance.
Une grande valeur de confiance.

2 La valeur de confiance est généralement de la forme 1 − α, où


α ∈ {0.1, 0.05, 0.01}.
Abdallah BENABDALLAH Université de Sfax Institut Supérieur d’Informatique
Estimation deset
paramètres
de Multimédia de Sfax
1. Intervalle de Confiance pour la loi Normale

Soit X = (X1 , ..., Xn ) un échantillon aléatoire d’une v.a. X de loi


normale N (µ, σ), où µ et σ sont inconnus.

Soit α ∈]0, 1[.

Définition
On dit que [a, b] est un intervalle de confiance de µ de valeur
de confiance 1 − α si

P(µ ∈ [a, b]) = 1 − α.

Abdallah BENABDALLAH Université de Sfax Institut Supérieur d’Informatique


Estimation deset
paramètres
de Multimédia de Sfax
1 er Cas : Si σ est connue.

La moyenne de l’échantillon
n
1X
X = Xi
n
i=1
suit la loi normale N (µ, √σn ).

C’est à dire
X −µ
Z=
√σ
n
suit la loi normale centrée réduite N (0, 1).
Ainsi, 
P −zα/2 ≤ Z ≤ zα/2 = 1 − α,
où zα/2 est définie par
P(Z ≥ zα/2 ) = α/2,
ou bien zα/2 = φ−1 (1 − α/2).
Abdallah BENABDALLAH Université de Sfax Institut Supérieur d’Informatique
Estimation deset
paramètres
de Multimédia de Sfax

Figure: P −zα/2 ≤ Z ≤ zα/2 = 1 − α

Ainsi,
 σ σ 
P X − zα/2 √ < µ < X + zα/2 √ = 1 − α.
n n
D’où, x − zα/2 √σn , x + zα/2 √σn est un intervalle de confiance de µ
 

de valeur de confiance 1 − α.

Lorsqu’on estime la moyenne de la population µ, la marge


d’erreur est
σ
∆ = zα/2 √ .
n
Abdallah BENABDALLAH Université de Sfax Institut Supérieur d’Informatique
Estimation deset
paramètres
de Multimédia de Sfax
2 ème Cas : Si σ est inconnue.
On peut utiliser
X −µ
Tn−1 = √
S/ n
de loi de Student de degré de liberté n − 1 pour construire un
intervalle de confiance de µ.


Figure: P −tα/2,n−1 ≤ Tn−1 ≤ tα/2,n−1 = 1 − α

Abdallah BENABDALLAH Université de Sfax Institut Supérieur d’Informatique


Estimation deset
paramètres
de Multimédia de Sfax
Nous avons
 X −µ 
P − tα/2,n−1 < √ < tα/2,n−1 = 1 − α,
S/ n
avec P(Tn−1 > tα/2,n−1 ) = α/2 ou encore
−1
tα/2,n−1 = tn−1 (1 − α/2).

Ceci donne
 S S 
P X − tα/2,n−1 √ < µ < X + tα/2,n−1 √ = 1 − α.
n n

Théorème 2
Soit α ∈]0, 1[. Alors,
 
s s
x − tα/2,n−1 √ , x + tα/2,n−1 √
n n

est un intervalle de confiance pour µ de valeur de confiance 1 − α.


Abdallah BENABDALLAH Université de Sfax Institut Supérieur d’Informatique
Estimation deset
paramètres
de Multimédia de Sfax
Nous pouvons utiliser la variable aléatoire
n−1 2
K= S (X)
σ2
de loi Khi-2 de degré de liberté n − 1 pour construire un intervalle
de confiance de σ.
Soit χn−1 désigne la fonction de répartition de la loi Khi-2 de
degré de liberté n − 1

Théorème 3
Soit α ∈]0, 1[. Alors,
"s s #
(n − 1) (n − 1)
−1
s, −1
s
χn−1 (1 − α/2) χn−1 (α/2)

est un intervalle de confiance de σ de valeur de confiance 1 − α.

Abdallah BENABDALLAH Université de Sfax Institut Supérieur d’Informatique


Estimation deset
paramètres
de Multimédia de Sfax
Exercice 1: Lorsque nous envoyons un signale ayant la valeur µ à partir
d’une position A, la valeur reçue en B est une variable aléatoire normale
N (µ, 4). Pour réduire l’erreur, nous envoyons la même valeur dix fois.
Nous avons récu en B les valeurs
5, 8.5, 12, 15, 7, 9, 7.5, 6.5, 10.5, 9

1 Déterminer la moyenne d’échantillon observée.


2 Donner un intervalle de confiance de µ de valeur de confiance 0.95.
3 Avec une valeur de confiance 0.95, quelle est le nombre minimale n
de fois à envoyer le message pour que la marge d’erreur soit
inférieur à 0.2?

Exercice 2: A une entreprise de télémarketing, la longueur d’un


marketing par téléphone (en secondes) est une variable aléatoire
d’espérance µ et d’écart-type σ, tous les deux sont inconnus. Un
échantillon de 50 appels a une longueur moyenne m = 300 et une
variance s 2 = 3600.
1 Donner un intervalle de confiance de µ de valeur de confiance 0.9.
2 Donner un intervalle de confiance de σ de valeur de confiance 0.9.
Abdallah BENABDALLAH Université de Sfax Institut Supérieur d’Informatique
Estimation deset
paramètres
de Multimédia de Sfax
2. Intervalle de Confiance pour la loi de Bernoulli
Soit X = (X1 , ..., Xn ) un échantillon aléatoire d’une v. a. X de loi
Bernoulli de paramètre p ∈]0, 1[ inconnu.
Par le théorème de limite central la variable
X −p
Z=p
p(1 − p)/n
suit approximativement la loi normale N (0, 1). On peut utiliser Z
pour construire un intervalle de confiance p.
Théorème 4
Soit α ∈]0, 1[. L’intervalle
" r r #
x(1 − x) x(1 − x)
x + φ−1 (α/2) , x − φ−1 (α/2)
n n

est approximativement un intervalle de confiance de p de valeur de


confiance (1 − α).
Abdallah BENABDALLAH Université de Sfax Institut Supérieur d’Informatique
Estimation deset
paramètres
de Multimédia de Sfax
Exercice 3: Dans un échantillon de 1000 électeurs enregistrés
dans une certaine zone, 427 préfèrent le candidat A.

Construire un intervalle de la confiance pour la proportion de tous


les électeurs enregistrés dans la zone qui préfèrent A de valeur de
confiance 0.95.

Abdallah BENABDALLAH Université de Sfax Institut Supérieur d’Informatique


Estimation deset
paramètres
de Multimédia de Sfax
Bibliographie

Sheldon M. Ross
Introduction to Probability and Statistics for Engineers and
Scientists.
Elsevier Academic Press, 2004.

Douglas C. Montgomery, George C. Runger


Applied Statistics and Probability for Engineers.
John Wiley & Sons, 2003.

Abdallah BENABDALLAH Université de Sfax Institut Supérieur d’Informatique


Estimation deset
paramètres
de Multimédia de Sfax

Vous aimerez peut-être aussi