Estim Ponctuelle

Statistiques: estimation ponctuelle
Samy Tindel
Université de Lorraine
Telecom Nancy - Module MAP
Samy T. (IECN) TN - Estimation ponctuelle Module MAP 1 / 50

Plan
1 Introduction
2 Rappel: variables aléatoires usuelles
3 Définitions
4 Méthode des moments
5 Estimateurs du maximum de vraisemblance

Plan
1 Introduction
3 Définitions

Situation générique abstraite
Problème: Identification d’une famille de lois {µθ ; θ ∈ Θ}

Données: on dispose de données (x1 , . . . , xn )
Hypothèse fondamentale: les données sont issues d’un n-échantillon
de loi µθ pour θ ∈ Θ
Autrement dit:
on peut écrire (x1 , . . . , xn ) = (X1 (ω), . . . , Xn (ω)) pour
Un n-échantillon (X1 , . . . , Xn ) de loi µθ
Une expérience ω
Reformulation du problème: estimer θ à partir de (x1 , . . . , xn ) sous
l’hypothèse fondamentale.

Exemple
Tirage de dé: On souhaite savoir si un dé est pipé.

Pour cela, on s’intéresse à la proba d’obtenir 6 avec ce dé.
Expérience: on lance 10 fois le dé.
On pose xi = 1 si le 6 est obtenu au i ème lancer, 0 sinon
,→ (x1 , . . . , xn ) avec n = 10.
Exemple d’observation:
(x1 , . . . , x10 ) = (0, 0, 1, 0, 0, 0, 1, 0, 0, 0)
Hypothèse: (x1 , . . . , xn ) est la réalisation d’un n-échantillon
(X1 , . . . , Xn ) de loi {B(p); p ∈]0, 1[}.
But: A partir de (x1 , . . . , xn ), donner une estimation de p
afin de savoir si p = 1/6.

Type de critère considéré
Pour caractériser l’estimation de θ, on verra les critères suivants:

Convergence lorsque n → ∞ (forte consistence)
Convergence en moyenne (biais)
Maximisation probabiliste (maximum de vraisemblance)
Critère basé sur la variance (risque)

Plan
1 Introduction
3 Définitions

Loi de Bernoulli
Notation: B(p) pour p ∈]0, 1[
Ensemble des valeurs: E = {0, 1}
Loi:
P(X = 0) = 1 − p, P(X = 1) = p
Utilisation:
(i) Succès dans un jeu binaire
Exemple 1: pile/face. X = 1 si pile, X = 0 sinon ⇒ X ∼ B(1/2)
Exemple 2: jeu de dé. X = 1 si résultat = 3, X = 0 sinon
⇒ X ∼ B(1/6)
(ii) Réponse oui/non dans un sondage
Exemple: X = 1 si une personne approuve la loi Pécresse,
X = 0 sinon ⇒ X ∼ B(p), avec p inconnu

Loi Binomiale
Notation: Bin(n, p), pour n ∈ N∗ , p ∈]0, 1[
Ensemble des valeurs: E = {0, 1, . . . , n}
Loi: !
n k
P(X = k) = p (1 − p)n−k , 0≤k≤n
k
Utilisation:
(i) Nombre de succès dans une épreuve de Bernoulli
répétée n fois indépendemment
Exemple: On lance un dé 9 fois. X = nombre de 3 obtenus
⇒ X ∼ Bin(9, 1/6), P(X = 2) = 0.28
(ii) Comptage d’un caractère dans un tirage avec remise
Exemple: lot de 1000 pantalons dont 10% défectueux
On tire 15 pantalons avec remise.
X = nombre de pantalons défectueux obtenus ⇒ X ∼ Bin(15, 1/10)
Loi géométrique
Notation: G(p) pour p ∈]0, 1[

Ensemble des valeurs: E = N∗
Loi:
P(X = k) = p (1 − p)k−1 , k≥1
Utilisation:
Instant de 1er succès dans un jeu binaire
Exemple 2: jeu de dé.
X = 1er jancer pour lequel résultat = 6
⇒ X ∼ G(1/6), P(X = 5) = 0.08

Loi de Poisson
Notation: P(λ) pour λ ∈ R+

Ensemble des valeurs: E = N
Loi:
λk
P(X = k) = e −λ , k≥0
k!

Loi de Poisson (2)
Utilisation de la loi de Poisson (exemples):

Nombre de clients entrant dans un magasin de 14h à 17h
Nombre de bus passant à un arrêt en 35 mn
Nombre de requêtes sur un serveur de minuit à 6h
Règle empirique:
Si n → ∞, p → 0 et np → λ, on approche Bin(n, p) par P(λ).
En pratique, cette règle est appliquée pour
p ≤ 0.1 et np ≤ 5

Loi Exponentielle
Notation: E(λ), pour λ > 0
Ensemble des valeurs: E = R+
Densité:
fX (x ) = λe −λx 1R+ (x )
Utilisation: Temps d’attente entre

Arrivée de deux clients dans un magasin de 14h à 17h
Passage de deux bus à un arrêt sur une période de temps
Deux requêtes sur un serveur de minuit à 6h
Exemple de calcul: si X ∼ E(λ), alors pour x ≥ 0,

Z ∞
P(X > x ) = λ e −λz dz = e −λx
x

Loi gaussienne (ou normale)
Notation: N (µ, σ 2 ) pour µ ∈ R et σ 2 > 0
Ensemble des valeurs: E = R
Densité:
1 (x − µ)2
!
fX (x ) = √ exp −
2π σ 2 2σ 2
Utilisation:
Phénomènes dépendant d’un grand nombre de petits paramètres
Nombreux exemples en
Biologie
Physique et industrie
Economie
Problème: les primitives de fx ne sont pas directement calculables
,→ utilisation de tables pour les calculs de probabilité
Moments pour les v.a. usuelles
Tableau récapitulatif:
Loi E[X ] Var(X )

B(p) p p(1 − p)
Bin(n, p) n p n p(1 − p)
1 1−p
G(p) p p2
P(λ) λ λ
1 1
E(λ) λ λ2
N (µ, σ 2 ) µ σ2

Plan
1 Introduction
3 Définitions

Modèle statistique
Définition
On appelle modèle statistique ou expérience la famille
(Ω, A, X , E , (Pθ )θ∈Θ ), où
X , E : réalisation de la v.a. X définie sur (Ω, A)
Θ ≡ ensemble des paramètres
Pθ est une loi de proba pour tout θ ∈ Θ.

Modèle d’échantillonnage
Définition
On appelle modèle d’échantillonnage basé sur le modèle statistique
précédent une famille (Ω̃, Ã, Xn , E n , P̃θ ), où
Xn , E n : réalisation de la v.a. Xn := (X1 , . . . , Xn )
définie sur (Ω̃, Ã)
Θ ≡ ensemble des paramètres
P̃θ est une loi de proba sur E n pour tout θ ∈ Θ
,→ correspond à un n-échantillon (X1 , . . . , Xn ) de loi Pθ
Notation: l’espérance sous la proba Pθ se note Eθ .

Exemple
Tirage de dé: on a
Ω = {1, . . . , 6}
Ω̃ = {1, . . . , 6}n
E = {0, 1}
Xn = (X1 , . . . , Xn ), où (X1 , . . . , Xn ) est un n-éch. de loi B(p)
Θ =]0, 1[

Estimateur
Définition
Soit un modèle d’échantillonnage de loi {µθ ; θ ∈ Θ}.
θ̂n est un estimateur de θ s’il existe une fonction mesurable
dn : E n → Θ telle que
θ̂n (ω) = dn (X1 (ω), . . . , Xn (ω))
Remarques:
(1) A priori, n’importe quelle fonction de l’échantillon est un
estimateur. Il faut donc repérer les fonction utiles.
(2) Un estimateur est une variable aléatoire.

Exemple
Tirage de dé: on a n = 10, Θ =]0, 1[ et

(X1 , . . . , Xn ) est un n-éch. de loi B(p).
Observation: (x1 , . . . , x10 ) = (0, 0, 1, 0, 0, 0, 1, 0, 0, 0).
(1) Estimateur raisonnable:
1X n
d 1 : {0, 1}n → [0, 1], (x1 , . . . , xn ) 7→ x̄n = xi
n i=1
On a donc p̂n1 := X̄n . Sur nos donnés: p̂n1 (ω) = 2/10 = 0.2.

Exemple (2)
(2) Estimateur fantôme: pour n ≥ 5,
1
d 2 : {0, 1}n → [0, 1], (x1 , . . . , xn ) 7→ e −x5
2
On a donc p̂n2 := 21 e −X5 . Sur nos donnés: p̂n2 (ω) = 12 e 0 = 12 .
(3) Si pour une autre expérience ω̃ on a
(x1 , . . . , x10 ) = (0, 1, 0, 1, 0, 0, 1, 0, 0, 1)
alors
1
p̂n1 (ω̃) = 4/10 = 0.4, p̂n2 (ω̃) = e −1 = 0.18.
2
Donc
L’estimation dépend de l’observation.
L’estimateur est une variable aléatoire.
Forte consistance
Définition
Soit θ̂n un estimateur de θ.
On dit que θ̂n est fortement consistant si Pθ -presque sûrement,
lim θ̂n (ω) = θ,

n→∞
pour tout θ ∈ Θ.

Biais
Définition
Soit θ̂n un estimateur de θ.
Le biais est une fonction
bn : Θ → R, bn (θ) = Eθ [θ̂n ] − θ.
Si bn (θ) = 0 pour tout θ ∈ Θ, on dit que θ̂n est sans biais.

Si limn→∞ bn (θ) = 0 pour tout θ ∈ Θ, on dit que θ̂n est
asymptotiquement sans biais.
Interprétation: si l’estimateur est sans biais

,→ on ne se trompe pas en moyenne dans notre estimation.
Remarque: les deux dernières définitions
,→ deux critères pour savoir si un estimateur est raisonnable
Plan
1 Introduction
3 Définitions

Rappel: loi forte des grands nombres
Théorème
Soit (Xn ; n ≥ 1) un n-échantillon de v.a. à valeurs dans R
On suppose E [|X1 |] < ∞, E [X1 ] = m ∈ R.
Alors
X̄n (ω) −→ m, quand n → ∞, pour tout ω ∈ Ω
sauf sur un ensemble de probabilité nulle.
Définition
La convergence pour tout ω ci-dessus se nomme
convergence presque sûre.

Estimateurs et moyenne empirique
Proposition
On suppose que pour tout θ ∈ Θ, on a Eθ [|X1 |] < ∞ et Eθ [X1 ] = θ.
Soit θ̂n = X̄n = n1 ni=1 Xi .
P
Alors θ̂n est un estimateur fortement consistant et sans biais de θ.
Démonstration (consistance): D’après loi forte grands nombres,

p.s.
θ̂n = X̄n −→ Eθ [X1 ] = θ

Démonstration
Démonstration (biais): pour θ ∈ Θ,
1X n
" #
Eθ [θ̂n ] = Eθ [X̄n ] = Eθ Xi
n i=1
1X n
nθ
= Eθ [Xi ] = = θ.
n i=1 n
Donc
bn (θ) := Eθ [θ̂n ] − θ = 0,
pour tout θ ∈ Θ. L’estimateur est sans biais.

Exemple
Tirage de dé: on a n = 10, Θ =]0, 1[ et
(X1 , . . . , Xn ) est un n-éch. de loi B(p).
Application: si X1 ∼ B(p), on a bien Ep [X1 ] = p.
On est bien dans les conditions d’application de la proposition.
Estimateur raisonnable: p̂n1 = X̄n est f.c.s.b.
Estimateur fantôme:
p̂n2 = 12 e −X5 n’est ni f.c. ni s.b., ni asymptotiquement s.b.
Démonstration:
On a limn→∞ p̂n2 = 12 e −X5 , qui n’est pas déterministe
De plus,
1 h i 1
Ep [p̂n2 ] = Ep e −X5 = (1 − p) + pe −1 .
2 2
Donc Ep [p̂n2 ] 6= p si p 6= 1/[3 − 1/e].
Exemple (2)
Données: x1 , . . . , xn avec n = 12. Unité: M€.
,→ Chiffre d’affaire journalier d’une entreprise sur 12 jours ouvrables.
5.02 4.87 4.95 4.88 5.09 4.93 4.91 5.09 4.96 4.89 5.06 4.85
Modélisation: (x1 , . . . , xn ) = (X1 (ω), . . . , Xn (ω)) pour un

n-échantillon (X1 , . . . , Xn ) de loi N (µ, σ 2 )
,→ E = R et Θ = R × R+ . On note θ = (µ, σ 2 ).
Application: si X1 ∼ N (µ, σ 2 ), on a Eθ [X1 ] = µ.
Conclusion: µ̂n = X̄n est un estimateur f.c.s.b. de µ
Application numérique: µ̂n (ω) = X̄n (ω) = xn = 4.95 M€.

Estimateurs et variance empirique
Proposition
On suppose que pour tout θ ∈ Θ, on a Eθ [X12 ] < ∞ et Varθ [X1 ] = θ.
Soit
1 X n 2
θ̂n = Sn2 := Xi − X̄n .
n − 1 i=1
Alors θ̂n est un estimateur fortement consistant et sans biais de θ.
Démonstration: Voir Td.

Remarque: Sn2 se nomme variance empirique de l’échantillon.

Exemples
Données: Chiffre d’affaire entreprise, n = 12.
5.02 4.87 4.95 4.88 5.09 4.93 4.91 5.09 4.96 4.89 5.06 4.85

n-échantillon (X1 , . . . , Xn ) de loi N (µ, σ 2 )
,→ E = R et Θ = R × R+ . On note θ = (µσ 2 ).
Application: si X1 ∼ N (µ, σ 2 ), on a Varθ [X1 ] = σ 2 .


Exemples (2)
Conclusion: σ̂n2 = Sn2 est un estimateur f.c.s.b. de σ 2
Application numérique:
i=1 (xi − 4.95) = 6.10 × 10 (M€) .
1 P11 −3
σ̂n2 (ω) = Sn2 (ω) = 11 2 2
q
Remarque: Physiquement, il est préférable de considérer Sn = Sn2 .
Ici, sn := Sn (ω) = 0.078M€ ⇒ entreprise régulière.

Exemples (3)
Données: Nombre d’accidents sur une année pour n = 500 chauffeurs
de bus.
Nbe. Accidents 0 1 2 3 4 5+
Nbe. Chauffeurs 122 253 87 35 2 1

n-échantillon (X1 , . . . , Xn ) de loi P(λ)
,→ E = N et Θ = R∗+ .
Application 1: si X1 ∼ P(λ), on a Eλ [X1 ] = λ.

On est dans les conditions d’application de la première proposition.
Application 2: si X1 ∼ P(λ), on a Varλ [X1 ] = λ.

On est dans les conditions d’application de la deuxième proposition.
Exemples (4)
Conclusion: on a exhibé deux estimateurs f.c.s.b. de λ:
λ̂(1)
n = X̄n , et λ̂(1) 2
n = Sn
Application numérique: λ̂(1)

n (ω) = 1.09 et λ̂n (ω) = 0.71
(2)
Question: Comment choisir entre ces deux estimateurs?

Méthode des moments
Théorème
Hypothèse: il existe F : R × R+ → R telle que, pour tout θ ∈ Θ,
F est continue en tout point (Eθ [X1 ], Varθ (X1 )).
θ = F (Eθ [X1 ], Varθ (X1 ))
Soit
θ̂n = Sn2 := F X̄n , Sn2
Alors θ̂n est un estimateur fortement consistant de θ.
Démonstration:
(i) Loi forte des grands nombres
2 p.s.
⇒ X̄n , Sn −→ (Eθ [X1 ], Varθ (X1 )).
p.s.
(ii) Continuité de F ⇒ F X̄n , Sn2 −→ F (Eθ [X1 ], Varθ (X1 )) = θ.
Exemple
Données: Durée de vie de n = 20 ampoules identiques (heures)
0.57 0.41 0.31 1.61 0.60 1.46 1.46 1.53 0.12 0.42
1.17 0.06 1.53 1.16 1.01 1.23 0.56 0.72 1.16 0.52

n-échantillon (X1 , . . . , Xn ) de loi E(λ)
,→ E = R+ et Θ = R∗+ .
Application 1: si X1 ∼ E(λ), on a Eλ [X1 ] = 1/λ.
Donc λ = F1 (Eλ [X1 ]) avec F1 (u) = 1/u pour u > 0.
F1 continue sur R∗+ ⇒ Théorème s’applique
Application 2: si X1 ∼ E(λ), on a Varλ (X1 ) = 1/λ2 .
Donc λ = F2 (Varλ (X1 )) avec F2 (u) = 1/u 1/2 pour u > 0.
F2 continue sur R∗+ ⇒ Théorème s’applique

Exemple (2)
Conclusion: on a exhibé deux estimateurs f.c. de λ:
1 1
λ̂(1)
n = , et λ̂(1)
n =
X̄n Sn
Application numérique: λ̂(1)

n (ω) = 0.96 et λ̂n (ω) = 1.01
(2)
Question: Comment choisir entre ces deux estimateurs?

,→ nécessité d’autres critères de choix.
Remarque: on peut montrer que Eλ [λ̂(1) n (1)

n ] = n−1 λ ⇒ bn (λ) =
λ
n−1
Donc λ̂(1)
n est asymptotiquement sans biais.
De plus λ̂(3)
n = n λ̂n est un estimateur f.c.s.b de λ.
n−1 (1)

Plan
1 Introduction
3 Définitions

Vraisemblance
Définition
Soit (X1 , . . . , Xn ) un n-échantillon de loi {µθ ; θ ∈ Θ}.
On suppose X1 ∈ E , et soit (x1 , . . . , xn ) ∈ E n .
Si X1 est une variable aléatoire discrète, on pose
n
Y
Lθ (x1 , . . . , xn ) = Pθ (Xi = xi ).
i=1
Lorsque X1 admet une densité fθ , on pose

n
Y
Lθ (x1 , . . . , xn ) = fθ (xi ).
i=1
La fonction Lθ se nomme vraisemblance de l’échantillon (x1 , . . . , xn ).

Log-vraisemblance
Définition
Soit (X1 , . . . , Xn ) un n-échantillon de loi {µθ ; θ ∈ Θ}.
On suppose X1 ∈ E , et soit (x1 , . . . , xn ) ∈ E n .
Soit Lθ la vraisemblance de l’échantillon (x1 , . . . , xn ).
On pose
`θ (x1 , . . . , xn ) = ln (Lθ (x1 , . . . , xn )) .
La fonction `θ se nomme log-vraisemblance de l’échantillon
(x1 , . . . , xn ).

Exemple: loi de Bernoulli
Loi: on a E = {0, 1} et pour p ∈]0, 1[, x ∈ E
P(X = x ) = p x (1 − p)1−x
Vraisemblance: on obtient Lp : E n → [0, 1] avec

n Pn Pn
p xi (1 − p)1−xi = p x (1−xi )
Y
Lp (x1 , . . . , xn ) = i=1 i (1 − p) i=1 .
i=1
Log-vraisemblance: on obtient `p : E n → R− avec

n
!
p
`p (x1 , . . . , xn ) = ln xi + n ln(1 − p).
X
1 − p i=1

Log-vraisemblance des lois usuelles
Loi P(λ):
n n
ln(xi !) + ln(λ)
X X
`λ (x1 , . . . , xn ) = − xi − n λ.
i=1 i=1
Loi E(λ):
n
xi + n ln(λ).
X
`λ (x1 , . . . , xn ) = −λ
i=1
Loi N (µ, σ 2 ):
Pn
n i=1 (xi − µ)2
`λ (x1 , . . . , xn ) = − ln(2πσ 2 ) − .
2 2σ 2

Intuition du maximum de vraisemblance
Remarque: de manière générale, Lθ (x1 , . . . , xn ) représente

,→ la proba d’obtenir l’échantillon (x1 , . . . , xn ) sous la loi Pθ .
Idée: Choisir θ rendant l’échantillon (x1 , . . . , xn ) le plus probable.
Traduction: On choisit θ̂ = θ∗ maximisant
L(x1 , . . . , xn ) : Θ → R+
θ 7→ Lθ (x1 , . . . , xn )

EMV: définition
Définition
On dit que θ̂ est un
estimateur du maximum de vraisemblance (EMV) si
Lθ̂ (x1 , . . . , xn ) = sup Lθ (x1 , . . . , xn ).

θ∈Θ

EMV: caractérisation
Proposition
Pour tout (x1 , . . . , xn ) ∈ E n , supposons
L(x1 , . . . , xn ) : Θ → R+ différentiable et > 0.
Soit θ̂ l’EMV de θ. Alors
∂`θ̂
(x1 , . . . , xn ) = 0.
∂θ

Démonstration
(i) θ 7→ Lθ (x1 , . . . , xn ) différentiable.
⇒ l’EMV satisfait
∂θ Lθ̂ (x1 , . . . , xn ) = 0.
(ii) Si de plus Lθ (x1 , . . . , xn ) est > 0, on a
∂θ Lθ (x1 , . . . , xn )
∂θ `θ (x1 , . . . , xn ) = .
Lθ (x1 , . . . , xn )
Donc
∂θ `θ (x1 , . . . , xn ) = 0 ⇔ ∂θ Lθ (x1 , . . . , xn ) = 0,
et l’EMV satisfait
∂θ `θ̂ (x1 , . . . , xn ) = 0.

EMV pour les lois usuelles (1)
Loi B(p):
n
!
p
`p (x1 , . . . , xn ) = ln xi + n ln(1 − p).
X
1 − p i=1
L’EMV est p̂n = X̄n .
Loi P(λ):
n n
ln(xi !) + ln(λ)
X X
`λ (x1 , . . . , xn ) = − xi − n λ.
i=1 i=1
L’EMV est λ̂n = X̄n .

EMV pour les lois usuelles (2)
Loi E(λ):
n
xi + n ln(λ).
X
`λ (x1 , . . . , xn ) = −λ
i=1
L’EMV est λ̂n = 1/X̄n .
Loi N (µ, σ 2 ):
Pn
n i=1 (xi − µ)2
`λ (x1 , . . . , xn ) = − ln(2πσ 2 ) − .
2 2σ 2
Si σ 2 est connue: L’EMV est µ̂n = X̄n
Si µ est connue: L’EMV est σ̂n2 = Σ2n = n1 ni=1 (Xi − µ)2
P
Si µ, σ 2 inconnus: L’EMV est (µ̂n , σ̂n2 ) = (X̄n , B̂n2 ),

avec B̂n2 = n1 ni=1 (Xi − X̄n )2
P

Estimateurs pour les v.a. usuelles
Tableau récapitulatif:
Loi Méth. Moments EMV

B(p) X̄n X̄n
P(λ) X̄n ou Sn 2
X̄n
E(λ) 1/X̄n ou 1/Sn 1/X̄n
N (µ, σ 2 ), σ 2 connue X̄n X̄n
N (µ, σ ), µ connue
2
Sn 2
Σ2n
N (µ, σ 2 ) (X̄n , Sn2 ) (X̄n , Bn2 )
Remarque: l’EMV permet de choisir entre les estimateurs

dans le cas P(λ) ou E(λ)
,→ pour P(λ): X̄n plutôt que Sn2
pour E(λ): 1/X̄n plutôt que 1/Sn

Estim Ponctuelle

Transféré par

Informations du document

Titre original

Copyright

Formats disponibles

Partager ce document

Partager ou intégrer le document

Options de partage

Avez-vous trouvé ce document utile ?

Ce contenu est-il inapproprié ?

Droits d'auteur :

Formats disponibles

Estim Ponctuelle

Transféré par

Droits d'auteur :

Formats disponibles

Statistiques: estimation ponctuelle

Telecom Nancy - Module MAP

Samy T. (IECN) TN - Estimation ponctuelle Module MAP 1 / 50

2 Rappel: variables aléatoires usuelles

4 Méthode des moments

5 Estimateurs du maximum de vraisemblance

Samy T. (IECN) TN - Estimation ponctuelle Module MAP 2 / 50

2 Rappel: variables aléatoires usuelles

4 Méthode des moments

5 Estimateurs du maximum de vraisemblance

Samy T. (IECN) TN - Estimation ponctuelle Module MAP 3 / 50

Problème: Identification d’une famille de lois {µθ ; θ ∈ Θ}

Samy T. (IECN) TN - Estimation ponctuelle Module MAP 4 / 50

Tirage de dé: On souhaite savoir si un dé est pipé.

Samy T. (IECN) TN - Estimation ponctuelle Module MAP 5 / 50

Pour caractériser l’estimation de θ, on verra les critères suivants:

Samy T. (IECN) TN - Estimation ponctuelle Module MAP 6 / 50

2 Rappel: variables aléatoires usuelles

4 Méthode des moments

5 Estimateurs du maximum de vraisemblance

Samy T. (IECN) TN - Estimation ponctuelle Module MAP 7 / 50

Samy T. (IECN) TN - Estimation ponctuelle Module MAP 8 / 50

Notation: G(p) pour p ∈]0, 1[

Samy T. (IECN) TN - Estimation ponctuelle Module MAP 10 / 50

Notation: P(λ) pour λ ∈ R+

Samy T. (IECN) TN - Estimation ponctuelle Module MAP 11 / 50

Utilisation de la loi de Poisson (exemples):

Samy T. (IECN) TN - Estimation ponctuelle Module MAP 12 / 50

Utilisation: Temps d’attente entre

Exemple de calcul: si X ∼ E(λ), alors pour x ≥ 0,

Samy T. (IECN) TN - Estimation ponctuelle Module MAP 13 / 50

Loi E[X ] Var(X )

Samy T. (IECN) TN - Estimation ponctuelle Module MAP 15 / 50

2 Rappel: variables aléatoires usuelles

4 Méthode des moments

5 Estimateurs du maximum de vraisemblance

Samy T. (IECN) TN - Estimation ponctuelle Module MAP 16 / 50

Samy T. (IECN) TN - Estimation ponctuelle Module MAP 17 / 50

Notation: l’espérance sous la proba Pθ se note Eθ .

Samy T. (IECN) TN - Estimation ponctuelle Module MAP 18 / 50

Samy T. (IECN) TN - Estimation ponctuelle Module MAP 19 / 50

θ̂n (ω) = dn (X1 (ω), . . . , Xn (ω))

Samy T. (IECN) TN - Estimation ponctuelle Module MAP 20 / 50

Tirage de dé: on a n = 10, Θ =]0, 1[ et

(1) Estimateur raisonnable:

Samy T. (IECN) TN - Estimation ponctuelle Module MAP 21 / 50

(x1 , . . . , x10 ) = (0, 1, 0, 1, 0, 0, 1, 0, 0, 1)

lim θ̂n (ω) = θ,

Samy T. (IECN) TN - Estimation ponctuelle Module MAP 23 / 50

Si bn (θ) = 0 pour tout θ ∈ Θ, on dit que θ̂n est sans biais.

Interprétation: si l’estimateur est sans biais

2 Rappel: variables aléatoires usuelles

4 Méthode des moments

5 Estimateurs du maximum de vraisemblance

Samy T. (IECN) TN - Estimation ponctuelle Module MAP 25 / 50

Samy T. (IECN) TN - Estimation ponctuelle Module MAP 26 / 50

Alors θ̂n est un estimateur fortement consistant et sans biais de θ.

Démonstration (consistance): D’après loi forte grands nombres,

Samy T. (IECN) TN - Estimation ponctuelle Module MAP 27 / 50

Démonstration (biais): pour θ ∈ Θ,

Samy T. (IECN) TN - Estimation ponctuelle Module MAP 28 / 50

Modélisation: (x1 , . . . , xn ) = (X1 (ω), . . . , Xn (ω)) pour un

Samy T. (IECN) TN - Estimation ponctuelle Module MAP 30 / 50