Estimation pour le signal

• Estimation ponctuelle et propriétés des estimateurs.

• Estimation par intervalles de confiance.
– Définition
– Intervalle de confiance pour une moyenne
• Méthode des moments.
• Critère des moindres carrés. Exemple : filtrage de Wiener.
Estimateurs paramétriques de la D.S.P.
• Critère du Maximum de Vraisemblance
• Estimation bayésienne
• Méthodes de Monte-Carlo

TSE FISE2 36
 Introduction
• Les estimations ponctuelles n’apportent pas d’information
sur la précision des résultats, c’est-à-dire qu’elles ne
tiennent pas compte des erreurs dues aux fluctuations
d’échantillonnage. Pour évaluer la confiance que l’on peut
avoir en une valeur, il est nécessaire de déterminer un
intervalle contenant, avec une certaine probabilité fixée au
préalable, la vraie valeur du paramètre : c’est l’estimation
par intervalle de confiance.
• Ainsi, en estimant la moyenne μ dans une population par
la moyenne dans un échantillon, on fait habituellement
une erreur d’estimation qui est la différence entre et μ.
TSE FISE2 37
 Introduction
• On peut, par exemple, déterminer une marge d’erreur d
qui n’est pas dépassée 19 fois sur 20 si on répète la même
procédure d’estimation un grand nombre de fois. Ainsi, au
lieu d’affirmer que μ est égal à et se tromper dans la
plupart des cas, sinon dans tous les cas, on peut affirmer
que μ est à une distance d’au plus d de calculée à partir
des valeurs observées et se tromper dans 5% seulement
des cas.
• Dans un tel cas, on dit que l’intervalle est
un intervalle de confiance à 95% pour μ. La quantité d
représente alors la marge d’erreur avec un degré de
confiance de 95% lorsqu’on estime μ par x.
TSE FISE2 38
 Introduction
• Le degré de confiance est aussi appelé le niveau de
confiance ou le seuil de confiance.
• Il existe essentiellement deux façons de construire un
intervalle de confiance pour μ. On peut
– soit choisir une marge d’erreur puis déterminer le degré
de confiance.
– soit choisir un degré de confiance puis déterminer la
marge d’erreur.
• Les degrés de confiance qu’on utilise le plus souvent sont
99%, 95%, 90% et 80%.

TSE FISE2 39
 Formule essentielle
En notant par le degré de confiance
et par d la marge d’erreur, on doit avoir

où est l’estimateur de la moyenne à l’aide

de N observations. C’est à partir de cette
équation de base que sont déterminées toutes
les quantités qui entrent en jeu dans un
intervalle de confiance.

TSE FISE2 40
Estimation par intervalle de confiance
• Définition : Soit un N-échantillon aléatoire
et un paramètre inconnu de la loi des . Soit le seuil de
risque . S’il existe des v.a. réelles
et telles que

on dit alors que est

un intervalle de confiance pour , avec coefficient de
sécurité 1 − . On le note ou .
• Définition : 1 − est aussi appelé niveau de confiance de
l’intervalle

TSE FISE2 41
Intervalle de confiance pour une moyenne
• Cas d’une loi normale d’écart-type connu :
Soit . Un intervalle de la moyenne au seuil de
risque (c’est-à-dire au seuil de confiance 1- ) est :

où est le quantile d’ordre de la loi normale

centrée réduite .

TSE FISE2 42
Intervalle de confiance pour une moyenne
• Cas d’une loi normale d’écart-type inconnu :
Soit . Un intervalle de la moyenne au seuil de
risque (c’est-à-dire au seuil de confiance 1- ) est :

où est le quantile d’ordre de la loi de Student à

degrés de liberté et où est la valeur
observée de la variance d’échantillon .
TSE FISE2 43
 Cas des grands échantillons
• Lorsque la taille de l’échantillon est assez
grande, on peut approximer la loi de Student à
N − 1 degrés de liberté par la loi normale
centrée réduite. De manière générale, si la loi
de X est quelconque (et « raisonnable » ce qui
est implicitement supposé), les variables
aléatoires et suivent

approximativement la loi normale centrée

réduite dès que N est supérieur ou égal à 30.
TSE FISE2 44
 Cas des grands échantillons
• Intervalle de confiance au seuil de risque
Soit . Un intervalle de confiance de la
moyenne μ au seuil de risque (c-à-d au seuil de
confiance 1- ) est, dans le cas où l’écart-type est
connu

et, dans le cas où n’est pas connu,

où est le quantile d’ordre de la loi normale

centrée réduite TSE FISE2 45
 Exercice
voir exemple 19.2.5 cours Probas / Stats, J. Tugaut
voir exemple sur wikistat.fr « Estimation statistique »

TSE FISE2 46
 Bilan : Etude de la qualité d’un estimateur
(qui permet de justifier le choix d’un estimateur)
• Par ordre de difficultés décroissantes, déterminer :
– la densité de probabilité de l’estimateur pour une taille N donnée.
Souvent très dur.
– moyenne et variance pour une taille N donnée. Bornes de Cramer-Rao.
– loi asymptotique de l’estimateur (cf. TCL). Un plus est de calculer la
vitesse de convergence.
– moyenne et variance asymptotique de l’estimateur sans pouvoir
montrer que la loi asymptotique est normale intervalles de
confiance.
– pour une taille N donnée, la loi et les moments de l’estimateur
empiriquement à partir de tirages de Monte-Carlo. Même si on a pu
conduire les calculs analytiques précédents, cette étape est nécessaire
pour les valider.

TSE FISE2 47
Extrait cours L. Deneire