Vous êtes sur la page 1sur 93

ii

La redaction de ce polycopie a ete coordonnee par Jean-Francois Delmas, professeur res-


ponsable du module, et realisee par Jean-Pierre Raoult et lequipe des enseignants de lannee
universitaire 2004-2005 :
Jean-Yves Audibert, Ecole Nationale des Ponts et Chaussees.
Ali Chaouche, Ecole Nationale du Genie Rural et des Eaux et Forets.
Didier Chauveau, Universite de Marne-la-Vallee.
Olivier De Cambry, Ecole Superieure dIngenieurs en Electronique et Electrotech-
nique.
Jean-Francois Delmas, Ecole Nationale des Ponts et Chaussees.
Christian Derquenne, Electricite de France (Recherche et Developpement).
Marie-Pierre Etienne, Ecole Nationale du Genie Rural et des Eaux et Forets.
Benjamin Jourdain, Ecole Nationale des Ponts et Chaussees.
Vincent Lefieux, Reseau de Transport d Electricite.
ECOLE NATIONALE Eric Parent, Ecole Nationale du Genie Rural et des Eaux et Forets.
Pierre Vandekerkhove, Universite de Marne-la-Vallee.
DES PONTS ET CHAUSSEES
Annee universitaire 2004 2005 Le materiel pedagogique fourni a lappui de cet enseignement comprend aussi :
des feuilles dexercices sur les differents chapitres,
des guides de travaux pratiques sur ordinateur (logiciel Scilab).

COURS DE STATISTIQUE
et ANALYSE des DONNEES

21 fevrier 2005
iv PREAMBULE

Preambule

Le mot Statistique vient de lallemand Statistik, qui designe des donnees utiles a l Etat,
der Staat (dix-huitieme siecle). Ce premier sens renvoie donc a ce que nous appelons aujour-
dhui, au pluriel, des statistiques, cest-a-dire des donnees chiffrees, generalement de
grande ampleur, avec un accent sur le fait que ces donnees ne sont pas a transmettre brutes
a lutilisateur (le prince dans le sens initial) mais doivent etre triees, clarifiees et organisees
en fonction dusages bien precis.
On peut se mettre a parler, historiquement de Statistique(au singulier) en tant que
science quand, dans le courant du dix-neuvieme siecle, on prend en compte le fait que ces
donnees sont entachees daleatoire (en particulier en recourant au tirage dechantillons) et
que donc on modelise leur recueil par lusage des methodes mathematiques du calcul des
probabilites. Ce point de vue connat un grand essor dans la premiere moitie du vingtieme
siecle.
Dans la deuxieme moite du vingtieme siecle le progres des moyens de calcul permet de
faire subir des traitements simplificateurs a des masses de donnees de plus en plus grandes,
et ce eventuellement prealablement a la mise en place de modeles probabilistes ; cest alors
quemerge la terminologie Analyse des donnees, qui ne doit pas etre vue comme sop-
posant a Statistique mais complementaire, les deux points de vue setant largement in-
terpenetres dans leur progression commune jusquen ce debut du vingt-et-unieme siecle.
Dans tout ce cours nous designerons du vocable statisticien le praticien dont nous
decrirons et justifierons les techniques quil emploie face aux donnees qui lui sont fournies.

iii
vi TABLE DES MATIERES

II.9 Resume des procedures de test . . . . . . . . . . . . . . . . . . . . . . . . . 36


II.9.1 Le modele de Bernoulli . . . . . . . . . . . . . . . . . . . . . . . . . . 36
II.9.2 Le modele gaussien a variance connue . . . . . . . . . . . . . . . . . 36
II.9.3 Le modele gaussien a variance inconnue . . . . . . . . . . . . . . . . 37

III Modele lineaire gaussien 39


Table des matieres III.1 Generalites . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39
III.1.1 Plans dexperiences . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39
III.1.2 Le modele general . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39
III.1.3 Exemples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40
III.2 Statistique des echantillons gaussiens . . . . . . . . . . . . . . . . . . . . . 43
Preambule iii III.2.1 Theoreme de Cochran . . . . . . . . . . . . . . . . . . . . . . . . . . 44
III.2.2 Statistiques fondamentales . . . . . . . . . . . . . . . . . . . . . . . . 44
III.2.3 Intervalles de confiance et tests pour la moyenne . . . . . . . . . . . 45
A Introduction 1
III.2.4 Intervalles de confiance et tests pour la variance . . . . . . . . . . . . 46
I Lactivite du statisticien 3 III.2.5 Comparaison de moyennes de deux echantillons gaussiens . . . . . . 47
I.1 Le contexte . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 III.3 Analyse de la variance a un facteur . . . . . . . . . . . . . . . . . . . . . . 48
I.2 La demarche . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5 III.3.1 Comparaison de plusieurs echantillons gaussiens . . . . . . . . . . . . 48
I.3 Le modele . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5 III.3.2 Cadre general du modele lineaire gaussien . . . . . . . . . . . . . . . 50
III.3.3 Repartition de la variation . . . . . . . . . . . . . . . . . . . . . . . . 50
III.3.4 Test pour legalite des moyennes de k echantillons gaussiens . . . . . 51
B Statistique decisionnelle 7 III.4 Regression lineaire multiple . . . . . . . . . . . . . . . . . . . . . . . . . . 54
III.4.1 Definition du modele . . . . . . . . . . . . . . . . . . . . . . . . . . . 54
II Modele parametrique 9 III.4.2 Estimation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 55
II.1 Un exemple introductif . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9 III.4.3 Test de lutilite des regresseurs . . . . . . . . . . . . . . . . . . . . . 57
II.1.1 Presentation dun jeu de donnees . . . . . . . . . . . . . . . . . . . . 9 III.4.4 Interpretation geometrique . . . . . . . . . . . . . . . . . . . . . . . . 59
II.1.2 Remarques sur la modelisation . . . . . . . . . . . . . . . . . . . . . 9 III.5 Resume . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60
II.1.3 Quels questionnements peut-on soulever ? . . . . . . . . . . . . . . . 11 III.5.1 Analyse de la variance a un facteur . . . . . . . . . . . . . . . . . . . 60
II.2 Definitions et rappels . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12 III.5.2 Regression multiple . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61
II.2.1 Les modeles parametriques . . . . . . . . . . . . . . . . . . . . . . . . 12
II.2.2 Rappels sur la LFGN et le TCL . . . . . . . . . . . . . . . . . . . . . 13 IV Modeles discrets 63
II.3 Estimation ponctuelle : les estimateurs . . . . . . . . . . . . . . . . . . . . 13 IV.1 Problematique des modeles discrets . . . . . . . . . . . . . . . . . . . . . . 63
II.3.1 Proprietes des estimateurs . . . . . . . . . . . . . . . . . . . . . . . . 14 IV.2 Tests du 2 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 64
II.3.2 Lestimateur du maximum de vraisemblance . . . . . . . . . . . . . . 16 IV.2.1 Test dadequation a une loi discrete . . . . . . . . . . . . . . . . . . . 64
II.4 Resume des donnees : les statistiques exhaustives . . . . . . . . . . . . . . 17 IV.2.2 Test dadequation a une famille de lois discretes . . . . . . . . . . . . 67
II.5 Precision de lestimation : lintervalle de confiance . . . . . . . . . . . . . . 19 IV.3 La regression logistique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 68
II.6 Procedure de decision : les tests . . . . . . . . . . . . . . . . . . . . . . . . 23 IV.3.1 Exemple introductif . . . . . . . . . . . . . . . . . . . . . . . . . . . 69
II.7 Utiliser des donnees exterieures : lapproche bayesienne . . . . . . . . . . . 29 IV.3.2 Une solution raisonnable : la regression logistique . . . . . . . . . . . 71
II.8 Le modele gaussien . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31 IV.3.3 Comment tester linfluence de la variable explicative ? . . . . . . . . 73
II.8.1 Donnees reelles a loi gaussienne . . . . . . . . . . . . . . . . . . . . . 31 IV.4 Comparaison de proportions . . . . . . . . . . . . . . . . . . . . . . . . . . 75
II.8.2 Etude du modele . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32 IV.4.1 Presentation de la problematique sur un exemple . . . . . . . . . . . 75
II.8.3 Estimation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33 IV.4.2 Echantillons non apparies . . . . . . . . . . . . . . . . . . . . . . . . 75
II.8.4 Intervalle de confiance pour la moyenne . . . . . . . . . . . . . . . . 33 IV.4.3 Echantillons apparies . . . . . . . . . . . . . . . . . . . . . . . . . . . 79
II.8.5 Tests sur la moyenne . . . . . . . . . . . . . . . . . . . . . . . . . . . 34 IV.5 Resume des tests . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 80
II.8.6 Analyse des donnees reelles . . . . . . . . . . . . . . . . . . . . . . . 35 IV.5.1 Test dadequation a une loi discrete : le test du 2 . . . . . . . . . . 80
II.8.7 Approche bayesienne . . . . . . . . . . . . . . . . . . . . . . . . . . . 35 IV.5.2 Test dindependance entre deux variables qualitatives . . . . . . . . . 81

v
TABLE DES MATIERES vii viii TABLE DES MATIERES

IV.5.3 Regression logistique . . . . . . . . . . . . . . . . . . . . . . . . . . . 81 VI.3.2 Mesure de dissimilarite . . . . . . . . . . . . . . . . . . . . . . . . . . 125


IV.5.4 Comparaison de deux proportions sur echantillons non apparies . . . 82 VI.3.3 Inerties . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 126
IV.5.5 Comparaison de deux proportions sur echantillons apparies . . . . . 83 VI.3.4 Algorithmes de partitionnement : les centres mobiles . . . . . . . . 127
VI.3.5 Classification ascendante hierarchique (CAH) . . . . . . . . . . . . . 128
V Tests non parametriques 85 VI.3.6 Methodes mixtes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 130
V.1 Pourquoi la statistique non parametrique ? . . . . . . . . . . . . . . . . . . 85 VI.3.7 Caracterisation des classes . . . . . . . . . . . . . . . . . . . . . . . . 130
V.1.1 Se liberer du modele parametrique . . . . . . . . . . . . . . . . . . . 85 VI.4 Complementarite des deux techniques . . . . . . . . . . . . . . . . . . . . . 131
V.1.2 Quand faut-il utiliser du non parametrique ? . . . . . . . . . . . . . . 85 VI.5 Limites . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 133
V.1.3 Exemples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 86
V.2 Les outils statistiques du non parametrique . . . . . . . . . . . . . . . . . 88
V.3 Problemes a un seul echantillon . . . . . . . . . . . . . . . . . . . . . . . . 90 D Annexe 135
V.3.1 Ajustement a une loi : le test de Kolmogorov . . . . . . . . . . . . . 90
V.3.2 Un exemple . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 92 VII Rappels et complements de probabilites 137
V.3.3 Test de normalite . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 93 VII.1 Definitions et rappels generaux . . . . . . . . . . . . . . . . . . . . . . . . 137
V.4 Problemes a deux echantillons . . . . . . . . . . . . . . . . . . . . . . . . . 93 VII.1.1 Probabilite et loi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 137
VII.1.2 Variables aleatoires . . . . . . . . . . . . . . . . . . . . . . . . . . . . 141
V.4.1 Que signifie echantillon apparie, non apparie ? . . . . . . . . . . . . . 93
VII.1.3 Esperance-Variance . . . . . . . . . . . . . . . . . . . . . . . . . . . . 147
V.4.2 Deux echantillons apparies : le test de Wilcoxon . . . . . . . . . . . . 94
VII.1.4 Conditionnement, independance . . . . . . . . . . . . . . . . . . . . . 150
V.4.3 Deux echantillons non apparies . . . . . . . . . . . . . . . . . . . . . 97
VII.2 Lois de variables aleatoires remarquables . . . . . . . . . . . . . . . . . . . 156
V.4.4 Tests parametriques ou tests non parametriques ? . . . . . . . . . . . 102
VII.2.1 Variables aleatoires discretes . . . . . . . . . . . . . . . . . . . . . . . 156
V.5 Conclusions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 102
VII.2.2 Variables aleatoires absolument continues . . . . . . . . . . . . . . . 158
V.6 Annexe . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 102
VII.3 Theoremes limites . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 163
V.7 Resume . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 103
VII.3.1 Convergences . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 163
V.7.1 Test de Kolmogorov . . . . . . . . . . . . . . . . . . . . . . . . . . . 103
VII.3.2 Theoreme central limite . . . . . . . . . . . . . . . . . . . . . . . . . 164
V.7.2 Test de Wilcoxon . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 104
VII.3.3 Convergences en loi remarquables . . . . . . . . . . . . . . . . . . . . 165
V.7.3 Test de Kolmogorov-Smirnov . . . . . . . . . . . . . . . . . . . . . . 104
V.7.4 Test de Mann et Whitney . . . . . . . . . . . . . . . . . . . . . . . . 105 VIII Tables statistiques 167
VIII.1 Quantiles de la loi N (0, 1) . . . . . . . . . . . . . . . . . . . . . . . . . . . 167
VIII.2 Fonction de repartition de la loi N (0, 1) . . . . . . . . . . . . . . . . . . . 168
C Analyse exploratoire 107 VIII.3 Quantiles de la loi du 2 . . . . . . . . . . . . . . . . . . . . . . . . . . . . 169
VIII.4 Quantiles de la loi de Student . . . . . . . . . . . . . . . . . . . . . . . . . 170
VI Analyse des donnees 109
VIII.5 Quantiles de la loi de Fisher-Snedecor . . . . . . . . . . . . . . . . . . . . . 171
VI.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 109
VI.1.1 Objectif . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 109 Bibliographie et logiciels 173
VI.1.2 Notations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 110
VI.1.3 Exemple . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 110
VI.2 LAnalyse en Composantes Principales . . . . . . . . . . . . . . . . . . . . 115
VI.2.1 Problematique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 115
VI.2.2 Choix de la metrique . . . . . . . . . . . . . . . . . . . . . . . . . . . 115
VI.2.3 Moindre deformation du nuage . . . . . . . . . . . . . . . . . . . . . 116
VI.2.4 Principales relations entre variables . . . . . . . . . . . . . . . . . . . 121
VI.2.5 Dualite : imbrication des deux objectifs . . . . . . . . . . . . . . . . . 122
VI.2.6 Nombre daxes (ou de composantes) a analyser . . . . . . . . . . . . 123
VI.2.7 Elements supplementaires . . . . . . . . . . . . . . . . . . . . . . . . 123
VI.2.8 Aides a linterpretation . . . . . . . . . . . . . . . . . . . . . . . . . . 124
VI.3 Classification automatique . . . . . . . . . . . . . . . . . . . . . . . . . . . 125
VI.3.1 Problematique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 125
Premiere partie

Introduction

1
4 CHAPITRE I. LACTIVITE DU STATISTICIEN

Effectuer une certaine prevision de lavenir si se poursuit le phenomene enregistre


(ceci etant un cas particulier du point precedent dans le cas de series chronologiques,
mis en evidence en raison de son caractere important pratiquement).

Bien sur les distinctions faites ci-dessus ne sont pas aussi tranchees dans la pratique ;
Chapitre I donnons quelques exemples :

Le statisticien peut avoir participe a lelaboration du protocole de recueil des donnees :


Comment caracteriser lactivite du une meilleure education a la statistique de la population, en particulier chez les cher-
cheurs, les ingenieurs, les financiers . . . doit en particulier conduire a inciter les utili-

statisticien ? sateurs a associer le plus en amont possible le statisticien a lelaboration des conditions
de recueil des donnees sur lesquelles il doit travailler.
Le statisticien doit respecter les besoins de son interlocuteur, mais il peut laider a les
formaliser et le renseigner sur la possibilite de les satisfaire ou non au vu des donnees dis-
ponibles ; en particulier les demandes de son interlocuteur ont souvent une presentation
I.1 Le contexte qualitative (qui sera marquee par des guillements dans les exemples donnes ci-dessous) ;
le statisticien doit lui rendre sensible la necessite de quantifier le contexte de travail
a. Le statisticien ninvente pas son domaine dinvestigation, mais se trouve pour le rendre sujet a un traitement scientifique.
confronte a des donnees, qui peuvent etre de plusieurs natures : Le choix des resumes interessants des donnees est souvent lie a la fois au questionne-
donnees brutes telles que des enregistrements de qualite de pieces produites, de pheno- ment de linterlocuteur et au choix du modele.
menes meteorologiques, dobservations demographiques, de cours de bourse ... Enfin, evidemment, le mot interlocuteur est a prendre dans un sens tres large, celui-ci
donnees issues de protocoles experimentaux, tels que des experiences biologiques, agro- pouvant etre effectivement une personne physique mais aussi un concept abstrait tel
nomiques ... quune theorie scientifique soumise au feu de lexperimentation et dont v le statisticien
Dans tous les cas, de maniere plus ou moins explicite selon la connaissance des conditions doit assimiler les problematiques propres.
de recueil, et meme si ces donnees sont tres vastes, on peut considerer quil ne sagit que dune
connaissance imparfaite dune realite sous-jacente (en ceci la statistique ne differe pas
Il nen reste pas moins que cette presentation du travail du statisticien permet (meme si
dautres activites scientifiques experimentales).
les personnalites a casquettes multiples sont souvent les plus productives) de distinguer son
b. Le statisticien ninvente pas sa problematique, mais il a un interlocuteur, metier de ceux :
qui lui exprime, de maniere plus ou moins confuse, des attentes face a ces donnees : du mathematicien ; mais la caracterisation des modeles et des qualites des outils uti-
Clarifier les donnees pour en extraire des resumes pertinents. lises pour resoudre les questions degagees passe par lintermediaire des mathematiques
Modeliser la part dalea qui intervient dans le phenomene qui a conduit a et de lidealisation quelles permettent : on verra par exemple limportance des theore-
ces donnees ; insistons sur le fait quil ne sagit pas ici de modeliser la structure mes asymptotiques du calcul des probabilites qui, en renseignant sur ce qui se passe
(physique, biologique, economique . . . ) de ce phenomene. Dans la plupart des cas quand la taille dun echantillon tend vers linfini, justifient les techniques employees
cette modelisation prendra la forme dhypotheses sur une loi de probabilite pour des echantillons finis (ils le sont par essence meme) mais de taille assez grande ;
regissant le phenomene qui a conduit aux observations : le modele prend en de linformaticien ; mais la cooperation est indispensable pour elaborer les outils de
compte une plus ou moins vaste famille de lois de probabilite et le statisticien doit, au calcul degageant les caracteristiques pertinentes des grandes masses de donnees (cas de
vu des donnees, degager une sous-famille dans laquelle il conseillera de considerer beaucoup dobservations appartenant chacune a un espace de taille assez importante) ;
que se situe la loi du phenomene ; le type de sous-famille a mettre en evidence depend il y a lieu ici de se mefier de la mise sur le marche doutils purement informatiques
des besoins exprimes par linterlocuteur, et le conseil du statisticien ne pourra jamais pretendant au traitement automatique de donnees en faisant leconomie dhypotheses
etre considere comme premuni contre tout risque derreur. modelisatrices des phenomenes sous-jacents, ce que recouvre parfois le vocable nouveau
Prendre une decision, celle-ci pouvant etre operationnelle (interruption dune pro- et tres en vogue de fouille des donnees (en anglais data mining) ;
duction defectueuse, acceptation dun medicament, publication dun sondage ...) ou de du chercheur implique dans un domaine dapplication donne ; mais chaque
nature scientifique, typiquement le choix dune certaine modelisation (le mot etant pris branche scientifique a suscite des problematiques statistiques qui lui sont particulie-
ici dans un sens tres large, et pas seulement statistique) dont on fera ulterieurement rement utiles (et qui ont souvent migre ensuite vers dautres branches) et a donc
usage si se represente un contexte analogue. developpe des corps de specialistes dont la qualite tient a leur double competence :
econometres, biometres, demographes, fiabilistes industriels . . .
3
I.2. LA DEMARCHE 5 6 CHAPITRE I. LACTIVITE DU STATISTICIEN

I.2 La demarche on parlera donc du modele statistique (, P). Il est souvent possible de donner un sens
concret, dans le modele, a ce parametre (sinon, il est toujours possible mathematiquement
Les considerations ci-dessus justifient le plan des chapitres qui suivent. On procedera a la de prendre pour ensemble lensemble de celles des probabilites sur que lon considere
consideration des points suivants : susceptibles de regir le phenomene et decrire que P = ).
a. formalisation dun modele, Pour des raisons dordre mathematique (voir VII.1.1), il peut etre necessaire de preciser
b. reflexion sur les questionnements envisageables dans ce modele, la tribu F de parties de (appelees evenements dans ce modele) sur laquelle sont definies
c. elaboration doutils associes aux questionnements degages et exploration des qualites quon les probabilites P (mais nous omettrons la reference a F quand cela ne pretera pas a confu-
peut en attendre. sion). Dans le cadre dun tel modele, les statistiques (voir b. ci-dessus) ont la structure
Ces differents points se retrouveront a la fois dans la pratique de la resolution dun mathematique de variables aleatoires (v.a., voir VII.1.1) de (, F) dans un autre espace
probleme concret de statistique, une fois son contexte bien analyse, et dans les exercices (0 , F 0 ).
qui pourront etre proposes a des etudiants dans le cadre de ce cours. d. La succession des points evoques en I.2 ci-dessus ne doit pas etre consideree comme
Dans le chapitre II, nous nous efforcerons aussi de degager lenvironnement de telles rigide. Par exemple la formalisation du probleme permet de guider des choix de resumes, ou
etudes, ce qui peut comporter : bien les questionnements ont ete presentes par linterlocuteur du statisticien prealablement
a. une reflexion sur lorigine de ces donnees (nous pourrons par exemple fournir ici une au choix du modele (mais il importe de les interpreter dans ce cadre).
liste non limitative de conditions de recueil envisageables ; dautres peuvent etre imaginees en e. Un modele est certes un carcan dans lequel on senferme pour pouvoir mener une
cours), etude rigoureuse (en particulier mathematique) afin daffiner, au vu des donnees, notre
b. une reflexion sur les resumes de ces donnees qui paraissent pertinents, connaissance de la ou se situent, dans le cadre de ce modele, les caracteristiques essentielles
c. une interrogation sur la possibilite de prendre en compte des informations exterieures aux des observations ou bien la probabilite qui regit le phenomene (autrement dit, en general, ou
donnees. se situe la vraie valeur du parametre). Ceci ne doit pas bannir tout esprit critique sur
le choix du modele, et, en avancant dans letude, on peut mettre en evidence des anomalies
qui conduisent a reprendre le travail a partir dun modele different.
I.3 Le modele
Comme dans toute activite scientifique, lelement central dans cette demarche est celui
de la formalisation dun modele. Nous devons insister ici sur cinq points :
a. La premiere etape dune modelisation en statistique consiste en le choix de lensemble
de toutes les realisations possibles du phenomene etudie (ensemble souvent note ) ;
lobservation effective dont dispose le statisticien est donc vue comme un element de ce ,
ensemble qui peut etre tres gros et dont le choix fait intervenir a la fois des considerations
realistes et des considerations mathematiques : par exemple pour 1000 observations prenant
des valeurs entieres entre 0 et 120 (ages detres humains en annees) on poura prendre =
{0, . . . , 120}1000 , mais il pourra etre utile pour le traitement mathematique de plonger cet
espace dans R1000 .
b. Une fois adopte un tel modele, les resumes des donnees auxquels on sinteresse se
formalisent comme des applications de , dans un autre espace 0 . De telles applications
sont aussi appelees des statistiques. Le choix des resumes juges pertinents peut etre fonde
sur des considerations propres au observe (on est alors, comme ce sera le cas dans le cadre de
lanalyse des donnees, jadis appelee statistique descriptive) ou sur des considerations portant
sur le phenomene qui a donne naissance a ce (on est alors, comme ce sera le cas en II.1.1
et II.8.1, dans le cadre de la statistique inferentielle, quon aborde au point c qui suit).
c. Dans le cadre de la statistique inferentielle, le caractere fortuit de lobservation effective,
parmi toutes les realisations auxquelles aurait pu donner naissance le phenomene observe (et
dont lensemble a ete modelise par ), se traduit mathematiquement en completant le modele
par le choix dune famille de probabilites ; en ce sens, adopter un modele statistique
consiste a admettre (au moins jusqua revision de ce point de vue) que la vraie probabilite
qui regit le phenomene appartient a cette famille, classiquement notee P = {P ; } ;
Deuxieme partie

Statistique decisionnelle

7
10 CHAPITRE II. MODELE PARAMETRIQUE

machine qui la faconne) influent sur la qualite ; ces variations ne sont ni matrisables ni
descriptibles en detail, et seule la notion de probabilite de sortie dune piece defectueuse
peut en rendre compte ; les parametres de reglage de la machine pouvant evoluer au cours
du fonctionnement, il peut etre necessaire de ne pas considerer cette probabilite comme
constante ; une information, meme imparfaite, sur cette probabilite peut deboucher sur des
Chapitre II decisions de reglage de la machine.
B. Echantillonnage. Ici on ne se situe plus pendant le phenomene, mais apres celui-ci :
dans notre exemple, la masse de la production durant une certaine periode est consideree dans
son ensemble et on sinteresse a la proportion de pieces defectueuses dans cette production ;
Modele parametrique un echantillon est tire au hasard dans cette population et on observe les qualites des pieces
ainsi extraites ; en deduire une information, meme imparfaite, sur la proportion de pieces
defectueuses dans la production totale peut deboucher sur des decisions consistant a refuser
de mettre la production en vente telle quelle ou a arreter la production ; nous reviendrons en
II.1.3 ci-dessous sur de telles considerations de decision.
II.1 Un exemple introductif
Plus precisement, dans notre exemple, le modele i.i.d. propose peut se justifier dans
II.1.1 Presentation dun jeu de donnees les conditions experimentales suivantes, qui correspondent chacune a lun des deux types
Linterlocuteur du statisticien est ici un industriel, responsable dune machine qui produit daleatoire que nous venons devoquer ; le lecteur remarquera que linterpretation du
des pieces classees soit bonnes (ce qui est note 0), soit defectueuses (ce qui est note 1). parametre p de la loi de Bernoulli est differente dans les deux cas, mais que
Il a observe un lot de n pieces ; voici la suite des observations, pour n = 100 : celui-ci nest jamais connu du statisticien.
00010 10100 00000 00000 00000 01000 00100 00100 01000 00010 A. On a pris chronologiquement 100 pieces produites pendant un certain laps de temps ; on
10100 01000 00000 10100 00001 00101 00100 11010 00101 00000 admet que la production a ete stable durant cette periode, cette stabilite etant caracterisee
par la constance de la probabilite p pour chaque piece produite detre defectueuses ; on ad-
On notera x = (x1 , . . . , x100 ) la suite de 0 et de 1 observee. Le modele le plus simple que met aussi que les petites variations aleatoires pouvant influer sur la qualite des pieces ne
lon puisse proposer ici consiste a supposer que chaque x i X = {0, 1} est la realisation se repercutent pas dune piece a celles qui suivent ; le fait dintroduire des trous entre les
dune variable aleatoire (v.a.) X i de loi de Bernoulli (voir VII.2.1), ces v.a. etant supposees interventions sur la chane pour extraire les pieces a observer peut favoriser la satisfaction de
independantes et identiquement distribuees (i.i.d.) (on a de la chance : les initiales lexigence dindependance (voir VII.1.4), mais, en allongeant le temps global de recueil, il peut
sont les memes en francais et en anglais !). Lensemble des lois pour X i est lensemble des deteriorer lexigence de conservation de la loi. Le parametre p a ici un caractere theorique
lois de Bernoulli : P = {B(p), p [0, 1]}. Bien sur la vraie valeur du parametre est inconnue. qui explique quil ne puisse pas etre directement observable.
Lespace des observations est X n = {0, 1}n (avec n = 100), et on a, pour x X n , B. On dispose dune masse de N pieces produites, dans laquelle p est la proportion
P(X1 = x1 , . . . , Xn = xn ) = py (1 p)ny , de pieces defectueuses et on admet que, dans la procedure de tirage de lechantillon, le
P melange des pieces a ete bien effectue : ou bien chaque piece tiree est remise dans la masse
ou y = ni=1 xi est le nombre de pieces defectueuses. (qui est a nouveau bien melangee), ou bien elle nest pas remise mais alors N est suf-
Il est important de justifier le modele et de sassurer quil traduit bien les conditions fisamment grand devant 100 pour quon puisse approximativement considerer que les 100
dobtention des observations. observations sont independantes (en effet, en toute rigueur, chaque fois quon tire une piece,
la proportion de pieces defectueuses dans la population restante est influencee par la qualite
II.1.2 Remarques sur la modelisation de la piece tiree, mais cette influence est tres faible si N est tres grand). Le parametre p ici a
une situation concrete et serait atteignable si on voulait faire un recensement complet de la
Pour comprendre comment on peut justifier un tel modele, remarquons que, comme dans
production consideree ; mais le fait dextraire un echantillon est justement du a la volonte de
la plupart des problemes statistiques, linformation sur les conditions de recueil des observa-
ne pas faire un tel recensement (trop long, ou trop couteux, ou parfois meme irrealisable si il
tions debouche immediatement sur le questionnement suivant : Y a-t-il lieu de considerer
se trouve que toute observation deteriore la piece). Il est clair que, dans cette situation B, la
quest intervenue une part daleatoire ? si oui, ou se situe cette intervention du
masse de pieces produites ayant ete brassee, on a perdu toute possibilite de sinterroger sur
hasard ?
la stabilite de la production au cours de la periode de recueil.
Tres grossierement, on peut considerer que laleatoire peut en general avoir deux types de
provenance : Ces considerations montrent que lhypothese di.i.d., pourtant fort simplificatrice mathe-
A. Variabilite intrinseque du phenomene etudie. On peut imaginer, ici, que de matiquement, est souvent sujette a caution dans les applications. Par exemple elle ne serait
petites variations dans la fabrication (par exemple dans la position de la piece dans la sans doute pas utilisable dans les situations experimentales (realistes) suivantes :

9
II.1. UN EXEMPLE INTRODUCTIF 11 12 CHAPITRE II. MODELE PARAMETRIQUE

C. 100 pieces extraites sans replacement dune masse de 500 pieces ; que pb pa (et etre serein car il ny aurait pas de degradation) ou que p b > pa (et
D. 100 pieces extraites au hasard a des instants repartis sur un long laps de temps ; prendre des mesures car il y aurait degradation) ;
E. succession de m sous-echantillons de taille k chacun (avec k.m = 100), extraits
chacun dune certaine masse de pieces produites dans un laps de temps ou on peut considerer
la production comme stable (par exemple m = 2, k = 50, ou bien m = k = 10).
II.2 Definitions et rappels
II.1.3 Quels questionnements peut-on soulever ? II.2.1 Les modeles parametriques
On considere le modele des v.a. i.i.d. introduit dans II.1.1. On dit que la suite de variables aleatoires (v.a.) X = (X 1 , . . . , Xn ) forme un echantillon
a. Le statisticien peut avoir a proposer a son interlocuteur une valeur pour p, quon appellera (ou n-echantillon si on veut insister sur la taille de lechantillon) si les v.a. X 1 , . . . , Xn sont
lestimation ponctuelle de p. Lestimation ponctuelle sera presentee au paragraphe II.3 independantes et identiquement distribuees (i.i.d.) On note P la loi de X i , et par
Mais une telle information parat souvent un peu sommaire pour etre vraiment operation- convention la loi de X = (X1 , . . . , Xn ) est notee Pn . Il sagit de la loi produit. On suppose
nelle pour lindustriel ; il sait en effet que, partant dune realite floue car aleatoire, il ne que la loi inconnue P appartient a une famille de probabilites P = {P , }, ou est
peut pas esperer une reponse exacte ; il aura donc souvent besoin davoir un ordre de grandeur un parametre d-dimensionnel et un sous-ensemble de R d . On dit que le modele est pa-
de limprecision de la reponse. rametrique. Par exemple les familles
 P = {B(p); p [0, 1]}, ou B(p) est la loi de Bernoulli
b. Cet ordre de grandeur est fourni par un intervalle de confiance (familierement une (cf. paragraphe II.1.1), et P = N (, 2 ); R, > 0 , ou N (, 2 ) est la loi gaussienne de
fourchette) sur p : [p , p+ ]. Il faut alors considerer (sans que, ici encore, ce puisse etre une moyenne et de variance 2 , correspondent a des modeles parametriques. Dans le deuxieme
certitude) que cet intervalle, calcule a partir des observations, contient la valeur inconnue de cas le parametre = (, ) est bi-dimensionnel.
p. La construction des intervalles de confiance sera traitee au paragraphe II.5. Cet intervalle Nous etudierons dans ce chapitre des modeles parametriques domines , cest-a-dire quil
de confiance peut servir a etayer une decision (par exemple arreter la production si linter- existe une mesure -finie, , par rapport a la quelle toute les probabilites de P sont absolument
valle de confiance a une intersection non vide avec lintervalle [p 0 , 1] des valeurs de p jugees continues (i.e. possedent une densite). On note p(; ) la densite de P par rapport a . En
inadmissibles). particulier la densite de lechantillon X = (X 1 , . . . , Xn ), ou Xi , a valeur dans X , est de loi
c. Les procedures de decisions dependent des questions posees. Le statisticien peut avoir a P , est donnee par la densite produit :
expliciter en quoi consiste le renseignement le plus utile pour linterlocuteur (ici lindustriel) pn (x; ) = p(x1 ; ) p(xn ; ), ou x = (x1 , . . . , xn ) X n .
en vue dune decision que ce dernier a a prendre (mettre en vente ou non la production,
reparer ou non la machine ...) ; par exemple, lindustriel, pour des raisons de qualite, devrait Cette definition tres generale recouvre les deux cas particuliers que nous considererons
arreter la production sil apparaissait que la probabilite p de produire des pieces defectueuses essentiellement, a savoir :
etait montee au dessus dun certain seuil p 0 (par exemple 0.2) ; mais un arret coute cher, et il Les lois discretes ou la densite de lechantillon est la probabilite dobserver (x 1 , . . . , xn )
ne le fera que si le statisticien arrive a le convaincre de la necessite dy proceder ; tout ce qui (ici la mesure est la mesure de comptage sur X ). Plus particulierement, pour le modele
interesse lindustriel, au vu des donnees, cest donc de savoir sil doit considerer que p p 0 (et de Bernoulli, P = {B(p); p [0, 1]}, on a
continuer a produire) ou que p > p0 (et se resoudre a arreter). Une technique pour repondre a n
X
cette question sera appelee test de lhypothese nulle H 0 = {p p0 } contre lhypothese pn (x; p) = py (1 p)ny , ou y= xi et x = (x1 , . . . , xn ) {0, 1}n .
alternative (ou contre-hypothese) H 1 = {p > p0 }. Il sagit donc dassocier a la partition i=1
(H0 , H1 ), donnee dans lespace des parametres = [0, 1], une partition (X 0 , X1 ), fabriquee
dans lespace des observations X n = {0, 1}n , de telle sorte que lon conclue en faveur de Les lois a densite ou la densite de lechantillon correspond a la densite usuelle (ici la
H0 si x X0 et en faveur de H1 si x X1 . Lensemble X1 , ou on rejette H0 , est dite region mesure est la mesure de Lebesgue
 sur X = R ou X = R n ). Plus particulierement,
2
pour le modele gaussien P = N (, ); R, > 0 , on a
critique du test (ou zone de rejet). Les procedures de test seront traitees au paragraphe
II.6. 1 n 2 2
pn (x; , 2 ) = e i=1 (xi ) /2 , ou x = (x1 , . . . , xn ) Rn .
(2 2 )n/2
Remarque II.1. De meme, dans le cadre du modele E (avec 2 tranches de taille 50) on peut,
par exemple : La fonction reelle 7 pn (x; ) a x fixe est appelee la vraisemblance (likelihood en anglais)
chercher a proposer une estimation pour les parametres p a et pour pb , correspondant de lechantillon ou de la realisation x = (x 1 , . . . , xn ). (On utilise parfois la notation Ln (x; )
chacun a un des deux echantillons ; pour la vraisemblance.) Elle est definie sur . Cette fonction est dune grande importance
chercher a elaborer deux intervalles de confiance, respectivement pour p a et pour pb . pour les modeles parametriques, comme nous le verrons par la suite.
sinterroger sur lapparition dune degradation entre la premiere periode et la seconde ; Une statistique S est une fonction de lechantillon X = (X 1 , . . . , Xn ) reelle ou vectorielle.
tout ce qui interesse lindustriel, au vu des donnees, cest de savoir sil doit considerer Cette fonction est independante de P P.
II.3. ESTIMATION PONCTUELLE : LES ESTIMATEURS 13 14 CHAPITRE II. MODELE PARAMETRIQUE

P
Exemple II.2. Les fonctions S(X) = ni=1 Xi , S(X) = X1 , S(X) = (X1 X2 , X3 ) sont des Definition II.6. Un estimateur, Z, de g() est une statistique construite a partir de
statistiques de lechantillon (X 1 , . . . , Xn ). lechantillon (X1 , . . . , Xn ), a valeurs dans g().
Exemple II.7. Pour le modele de Bernoulli (cf. paragraphe II.1.1), 1/2, X 1 et Xn =
II.2.2 Rappels sur la LFGN et le TCL 1 P
n i=1 Xi sont des estimateurs de p. Evidemment ils ont des proprietes differentes.
Nous rappelons les deux theoremes fondamentaux des probabilites.P Le premier indique Dans le paragraphe qui suit nous donnons des proprietes que lon peut attendre dun
que pour un echantillon X1 , . . . , Xn , la moyenne empirique Xn = n1 ni=1 Xi converge vers la estimateur, et qui permettent de mesurer dune certaine maniere sa qualite dapproximation
moyenne = E[X1 ], pourvu que cette derniere existe. Le second precise quelle est la repartion, de la vraie valeur inconnue du parametre. Le paragraphe II.3.2 sera consacree a la construction
i.e. la loi, asymptotique de la moyenne empirique autour de la moyenne (voir VII.3.1 pour de lestimateur du maximum de vraisemblance qui possede en general de tres bonnes qualites.
les differentes notions de convergence de suites de v.a.).

Theoreme II.3 (Loi forte des grands nombres (LFGN)). Soit (X n , n N ) une suite II.3.1 Proprietes des estimateurs
de v.a. reelles ou vectorielles independantes, et identiquement
P distribuees (i.i.d.) et Estimateur sans biais
integrables (E[|Xn |] < ). Alors la moyenne empirique Xn = n1 nk=1 Xk converge presque
surement (p.s.) vers la moyenne = E[X 1 ]. Ainsi on a Le biais est lecart entre la moyenne de lestimateur et ce que lon cherche a estimer. Le
biais dun estimateur, Z, integrable (i.e. E [|Z|] < pour tout ) de g() est donne par
1X
n
p.s.
E [Z] g(). Lestimateur est dit sans biais si E [Z] = g() pour tout .
Xn = Xk . P
n
k=1
n Exemple II.8. Pour le modele de Bernoulli, X 1 et Xn = n1 i=1 Xi sont des estimateurs
sans biais de p. En effet, comme les v.a. X i sont des variables de Bernoulli de parametre p,
Theoreme II.4 (Theoreme central limite (TCL)). Soit (X n , n N ) une suite de v.a. on a Ep [X1 ] = p et Ep [Xn ] = p. En revanche 1/2 est un estimateur biaise de p.
reelles independantes et identiquement distribuees (i.i.d.). On suppose quelles sont de Labsence de biais est une propriete interessante, mais elle nest pas conservee par trans-
carre integrable (E[Xn2 ] < ). On pose = E[Xn ], 2 = Var(Xn ) et la moyenne empirique formation non affine. Ainsi dans lexemple precedent Xn est un estimateur sans biais de p,
n Pn
1X k=1 Xk n mais Xn (1 Xn ) nest pas un estimateur sans biais de la variance 2 = p(1 p). En effet,
Xn = Xk . La suite de v.a. n(Xn ) = converge en loi vers la loi
n
k=1
n on a Ep [Xn (1 Xn )] = p(1 p) n1 p(1 p).
gaussienne N (0, 2 ) :
Pn Risque
Xk
k=1 n en loi 2
n(Xn ) =
N (0, ). On peut egalement mesurer la precision dun estimateur, Z, de g() en regardant son
n n
ecart moyen avec g(). Une quantite traditionnellement utilisee est le risque quadratique 1
defini, si g() est reel, par R(Z; ) = E [(Z g())2 ]. Bien sur cette quantite na de sens que
Ce theoreme peut se generaliser au cas de v.a. vectorielles, voir le paragraphe VII.3.2.
si Z est de carre integrable (i.e. E [Z 2 ] < pour tout ).
Nous utiliserons egalement le resultat suivant qui est une consequence du theoreme de
On dit que Z1 est un estimateur preferable a Z 2 si son risque quadratique est plus faible :
Slutsky.
pour tout , on a
Theoreme II.5. Soit (Yn , n 1) une suite de v.a. reelles qui converge en loi vers la loi R(Z1 , ) R(Z2 , ).
gaussienne N (0, 2 ), ou 2 > 0. Soit (Zn , n 1) une de v.a. positives qui converge p.s. ou en Nous verrons au paragraphe II.4 une methode generale pour ameliorer les estimateurs, au
loi vers la constante 2 . Alors la suite (Yn / Zn , n 1) converge en loi vers la loi gaussienne sens du risque quadratique.
centree reduite N (0, 1).
Remarque II.9. Sauf dans des cas triviaux il nexiste pas destimateur preferable a tous
les autres. En effet supposons que Z soit un estimateur de preferable a tous les autres
II.3 Estimation ponctuelle : les estimateurs estimateurs. Entre autres Z est preferable a Z 0 = 0 . Donc on a
On considere un modele parametrique P = {P ; }, et un echantillon (X1 , . . . , Xn ), R(Z; 0 ) R(Z0 ; 0 ) = 0.
ou Xi est de loi P P inconnue. On notera E [f (X1 , . . . , Xn )] lesperance de f (X1 , . . . , Xn )
et P (A) la probabilite de levenement A, quand P = P . On en deduit donc que Z = P -p.s ! Cela implique que les densites p(; ) ont des supports
Nous avons vu dans lexemple introductif (paragraphe II.1.3) que le premier objectif est disjoints pour tout . Ainsi des que lon dispose dune seule observation, on peut en deduire
destimer le parametre inconnu. Plus generalement on peut chercher a estimer une fonction le vrai parametre p.s. Cela correspond aux cas triviaux de lestimation ponctuelle.
1
de ce parametre g(). On peut considerer dautres risques du type [(Z g())], ou est une fonction convexe.
II.3. ESTIMATION PONCTUELLE : LES ESTIMATEURS 15 16 CHAPITRE II. MODELE PARAMETRIQUE

1 P
Exemple II.10. Pour le modele de Bernoulli, lestimateur Xn = n i=1 Xi est preferable a Les resultats de normalite asymptotique decoulent souvent de resultats du type theoreme
lestimateur X1 pour lestimation de p. En effet, on a central limite. (Cette propriete est egalement conservee quand on considere une fonction de
la suite destimateur pourvu que la fonction soit derivable.)
R(X1 ; p) = Ep [(X1 p)2 ] = Varp (X1 ) = p(1 p) P
Exemple II.12. Pour le modele de Bernoulli, lestimateur Xn = n1 i=1 Xi est un estimateur
et 2
asymptotiquement normal de p de variance asymptotique (p) = p(1 p). Ceci decoule du
R(Xn ; p) = Ep [(Xn p)2 ] = Varp (Xn ) = p(1 p)/n. TCL (voir theoreme II.4) et du fait que Var p (X1 ) = p(1 p).

II.3.2 Lestimateur du maximum de vraisemblance
Estimateurs convergents Exemple II.13. Au cours dune enquete, on recherche un suspect dont la taille est denviron
En general, on desire que lestimation soit dautant plus precise que la taille de lechantillon 1m80. Afin dorienter rapidement les recherches doit-on interroger plutot un suspect masculin
est grande. Contrairement aux deux notions precedentes, on regarde maintenant le compor- ou feminin ?
tement asymptotique dune famille destimateurs construits a partir dechantillons de plus en On peut au vue des donnees (cf National Center for Health Statistics (1988-1994)) dire
plus grands. que la taille dun homme (aux U.S.A.) a pour loi une loi gaussienne de moyenne H =1m76
Soit (Zn , n 1) une suite destimateurs de g(), ou Z n est construit a partir du n- et decart type H =0m073, alors que la taille dune femme a pour loi une loi gaussienne
echantillon (X1 , . . . , Xn ). On dit que la suite (Zn , n 1), ou plus succintement Zn , est un de moyenne F =1m62 et decart type F =0m069. On note p(x; , 2 ) la densite de la loi
estimateur fortement convergent de g(), si pour tout , on a P -p.s. gaussienne N (, 2 ).
Si la taille du suspect est 1m80, alors on se concentre sur la recherche dun suspect
lim Zn = g(). masculin. Le choix est en fait guide par lallure de la densite. Et plus particulierement ayant
n
observe la taille x0 =1m80, il est raisonnable de supposer que le suspect est un homme
Si la convergence precedente a lieu seulement en probabilite, on parle destimateur faiblement 2 ) p(x ; , 2 ). On a choisit le parametre {( , 2 ), ( , 2 )} qui
car p(x0 ; H , H 0 F H F
F H F
convergent. En fait, dans ce cours nous considererons essentiellement que des estimateurs maximise la vraisemblance 7 p(x0 ; ).
fortement convergent, et par souci de simplicite on dira convergent pour fortement convergent.
(De nombreux auteurs utilisent le mot anglais consistant a la place de convergent.)
En general les resultats de convergence decoulent de resultats du type loi forte des grands
0.07
nombres. Remarquons de plus que cette propriete est conservee quand on considere une Homme
fonction de la suite destimateur (qui converge alors vers la fonction de la quantite estimee), Femme
pourvu que la fonction soit continue.
P
Exemple II.11. Pour le modele de Bernoulli, la moyenne empirique Xn = n1 i=1 Xi est un
estimateur convergent de p. Ceci decoule de la loi forte des grands nombres (voir theoreme
II.3). Par continuite de la fonction u 7 u(1 u), on a egalement que lestimateur Xn (1 Xn )
est un estimateur convergent de la variance p(1 p).

Normalite asymptotique
Enfin, pour des estimateurs convergents, il est interessant de preciser la vitesse de conver-
gence. Cela nous permettra de construire des intervalles de confiance asymptotiques (voir le 0.00
PSfrag replacements 140 150 160 170 180 190 200
paragraphe II.5).
Soit (Zn , n 1) une suite destimateurs de g(), ou Z n est construit a partir du n-
echantillon (X1 , . . . , Xn ). On dit que la suite (Zn , n 1), ou plus succintement Zn , est un
Fig. II.1 Densites gaussiennes pour la taille dun homme et dune femme.
estimateur asymptotiquement normal de , si pour tout , on a sous P
en loi
n(Zn ) N (0, ()),
n

ou () est la variance asymptotique (ou matrice de covariance asymptotique si le pa- Definition II.14. Supposons que pour tout x = (x 1 , . . . , xn ), il existe une et une seule
rametre est multidimensionnel). valeur de telle que la vraisemblance soit maximale. On note cette valeur n (x1 , . . . , xn ).
II.4. RESUME DES DONNEES : LES STATISTIQUES EXHAUSTIVES 17 18 CHAPITRE II. MODELE PARAMETRIQUE

La variable aleatoire n = n (X1 , . . . , Xn ), a valeurs dans , est appelee estimateur du Definition II.17. Une statistique S est exhaustive si la loi conditionnelle de lechantillon
maximum de vraisemblance (EMV) de . (X1 , . . . , Xn ) sachant S est independante du parametre .
On definit egalement la log-vraisemblance du modele comme le logarithme de la vrai- Le theoreme (admis) suivant permet dexhiber aisement des statistiques exhaustives.
semblance : cest la fonction Theoreme II.18 (de Halmos-Savage ou theoreme de factorisation). La statistique
n
X S = S(X1 , . . . , Xn ) est exhaustive si et seulement si la densite p n (x1 , . . . , xn ; ) de la loi de
7 `n (x; ) = log(pn (x; )) = log(p(xi ; )). lechantillon (X1 , . . . , Xn ) se factorise de la facon suivante : il existe des fonctions et l
i=1 telles que pour tout x = (x1 , . . . , xn ) X n , ,
Comme la fonction log est croissante, maximiser la vraisemblance ou la log-vraisemblance re- pn (x; ) = (S(x), )l(x).
vient au meme. Maximiser la log-vraisemblance donne lieu souvent a des calculs plus simples.
Sous des hypotheses de regularite assez generale, les EMV sont convergents et asymptoti- En particulier, sil existe une statistique exhaustive donnee par le theoreme de factori-
quement normaux. (Dans la plupart des exemples du cours, on pourra verifier directement ces sation, alors lestimateur du maximum de vraisemblance est une fonction de la statistique
deux proprietes.) En revanche les EMV sont en general biaises. Enfin, quitte a reparametriser exhaustive.
la famille de loi par g(), quand g est une bijection, il est clair que si n est lEMV de , alors Soit Z = Z(X1 , . . . , Xn ) un estimateur de g(). La loi de (X1 , . . . , Xn ) sachant une sta-
g(n ) est lEMV de g(). tistique exhaustive S est independante de . En particulier lesperance conditionnelle, voir
p. 152, E [Z|S] = E [Z(X1 , . . . , Xn )|S] est une fonction de S qui ne depend plus de . Cest
Exemple II.15. Pour le modele de Bernoulli, la vraisemblance est definie par donc un estimateur, et on le note E[Z|S], en supprimant lindice . Le theoreme suivant assure
que cette procedure permet dameliorer les estimateurs.
pn (x; p) = Pp (X1 = x1 , . . . , Xn = xn ) = py (1 p)ny ,
P Theoreme II.19 (de Rao-Blackwell). Soit Z un estimateur de g() que lon suppose de
ou x = (x1 , . . . , xn ) {0, 1}n et y = ni=1 xi . La log-vraisemblance est definie par carre integrable. Si S est une statistique exhaustive, alors lestimateur Z S = E [Z|S] est un
`n (x; p) = y log(p) + (n y) log(1 p). estimateur preferable a Z.
Nous retiendrons donc de ce theoreme quil est utile de construire des estimateurs a laide
On a `n (x; p)/p = y/p (n y)/(1 p). La derivee de la log-vraisemblance est croissante
de la statistique exhaustive.
sur [0, 1] et sannule en
Pnp = y/n. On en deduit donc que la log-vraisemblance atteint son
maximum pour p = i=1 xi /n. Lestimateur
P du maximum de vraisemblance est donc la Demonstration. On admet que si Z est de carre integrable alors Z S est aussi de carre
moyenne empirique : pn = Xn = n1 ni=1 Xi . Nous avons deja vu que cet estimateur est integrable. On a
sans biais, convergent
P et asymptotiquement normal. Pour les donnees du paragraphe II.1.1, R(Z; ) = E [Z 2 ] 2g()E [Z] + g()2 ,
on a n = 100, ni=1 xi = 22 et lEMV de p est pn = 0.22.
et
R(ZS ; ) = E [ZS2 ] 2g()E [ZS ] + g()2 .
II.4 Resume des donnees : les statistiques exhaustives Les proprietes de lesperance conditionnelle impliquent que E [ZS ] = E [Z] et que E [ZZS ] =
E [ZS2 ], voir p. 152. On en deduit donc que
Exemple II.16. Pour lexemple propose dans le paragraphe II.1.1, il semble naturel de
supposer que lordre dans lequel sont observees les pieces bonnes ou defectueuses napporte R(Z; ) R(ZS ; ) = E [Z 2 ] E [ZS2 ] = E [(Z ZS )2 ].
aucune information pertinente sur le parametre inconnu, P p. Et donc, on peut resumer la En particulier, R(Z; ) R(ZS ; ) pour tout . Lestimateur ZS est donc preferable a
suite observees (x1 , . . . , xn ) par le nombre total yn = ni=1 xi de pieces defectueuse. Pour
Z.
etayerPcette intuition, on calcule la loi de lechantillon, (X 1 , . . . , Xn ), P
conditionnellement a
Yn = ni=1 Xi . On a pour y {0, . . . , n} et x1 , . . . , xn {0, 1} tel que ni=1 xi = y, Exemple II.20. Dans le modele de Bernoulli, on a vu que X 1 etait egalement un estimateur
sans biais du parametre p. On desire ameliorer cet estimateur avec le theoreme de Rao-
Pp (X1 = x1 , . . . , Xn = xn ) py (1
p)ny 1
Pp (X1 = x1 , . . . , Xn = xn |Yn = y) = = y y = y. Blackwell. On a vu dans lexemple II.16 que Y n = nXn est une statistique exhaustive. Pour
Pp (Yn = y) Cn p (1 p)ny Cn
calculer E[X1 |Yn ], on rappelle que laP loi conditionnelle de (X 1 , . . . , Xn ) sachant Yn est la loi
uniforme sur {(x1 , . . . , xn ) {0, 1}n ; ni=1 xi = Yn }. Un calcul de denombrement elementaire,
P
Si ni=1 xi 6= y, on a Pp (X1 = x1 , . .P . , Xn = xn |Yn = y) = 0. En conclusion, on en deduit
n permet de verifier que la loi conditionnelle marginale de X 1 est la loi de Bernoulli de parametre
que la loi
P de (X1 , . . . , Xn ) sachant i=1 Xi = y est la loi uniforme sur {(x 1 , . . . , xn )
{0, 1}n ; ni=1 xi = y}. En particulier cette loi ne depend pas du parametre p. Ainsi toute Yn /n = Xn . En particulier, on a E[X1 |Yn ] = Xn . Sur cet exemple precis, la procedure
linformation sur p de lechantillon (X 1 , . . . , Xn ) est contenue dans la statistique Y n . Pour damelioration permet de retrouver lEMV.
toute etude sur p, on peut resumer lechantillon a Y n .
II.5. PRECISION DE LESTIMATION : LINTERVALLE DE CONFIANCE 19 20 CHAPITRE II. MODELE PARAMETRIQUE

II.5 Precision de lestimation : lintervalle de confiance Exemple II.24.PSuite du paragraphe II.1.1 sur le modele de Bernoulli. Rappelons que la loi
de Yn = nXn = ni=1 Xi est la loi binomiale de parametre (n, p).
Reprenons lexemple du paragraphe II.1.1. Il sagit dassocier a lobservation (x 1 , . . . , xn ) Pour construire des intervalles de confiance sur p de niveau 1 , on peut par exemple
un intervalle dans lequel P on considere que se trouve p. Ici encore les qualites de la moyenne definir Jn (p) (resp. In+ (p)) comme etant le quantile dordre /2 (resp. 1 /2) de la loi
empirique, xn = n1 ni=1 xi , en tant questimation ponctuelle de p, incitent a prendre un binomiale B(n, p). Comme la fonction de repartition de la loi binomiale nest pas continue,
intervalle [In , In+ ] auquel appartient xn . Comme toujours en contexte aleatoire, on ne peut on a
esperer affirmer avec certitude que p sera dans cet intervalle (a moins de prendre [0, 1], ce qui Pp (Yn Jn (p) 1) < /2 Pp (Yn Jn (p)),
est sans interet !). On choisit donc un niveau de confiance, proche de 1, note 1 , tel que
la probabilite quil contienne le parametre soit au moins egale au niveau de confiance : pour ou la derniere inegalite est, sauf valeur particuliere de , une inegalite stricte. On pose In (p) =
tout p [0, 1], max(0, Jn (p) 1), de sorte que pour tout p [0, 1], on a
Pp (p [In , In+ ]) 1 .
Pp (Yn [In (p), In+ (p)]) 1 .
On se trouve ici face a un dilemme : pour garantir le niveau de confiance, lintervalle ne doit
pas etre trop court mais, pour etre interessant, il ne doit pas etre trop long. On doit donc Les fonctions p 7 In (p) et p 7 In+ (p) sont croissantes. En effet, soit U 1 , . . . , Un des
chercher des intervalles aussi courts que possible, au niveau de confiance 1 impose, et ce v.a. independantes de loi uniforme P sur [0, 1]. Pour p [0, 1], la v.a. 1 {Ui p} est une v.a. de
uniformement en p, dou la difficulte du probleme. Bernoulli de parametre p. Ainsi ni=1 1{Ui p} est unePvariable aleatoire de loi binomiale de
On definit lintervalle de confiance pour lestimation dun parametre reel ou dune fonction parametre (n, p). Ainsi si p p0 , on a 1 ni=1 {Ui p} ni=1 1{Ui p0 } , et on en deduit
reelle dun parametre.
n
X n
X
Definition II.21. Soit x = (x1 , . . . , xn ) 7 I(x) une application de lensemble des observa- FB(n,p) (x) = P( 1{Ui p} x) P( 1{Ui p0 } x) = FB(n,p0 ) (x). (II.1)
tions a valeurs dans les intervalles. i=1 i=1
On dit que I est un intervalle de confiance par exces pour g() de niveau 1 si pour
tout , on a Ainsi la fonction de repartition de la loi binomiale de parametre (n, p), F B(n,p) , minore celle
P (g() I(X1 , . . . , Xn )) 1 . de la loi binomiale de parametre (n, p 0 ), FB(n,p0 ) . On deduit alors que pour tout r [0, 1], le
quantile dordre r de la loi binomiale de parametre (n, p) est superieur au quantile dordre
On dit que lintervalle aleatoire I est un intervalle de confiance de niveau 1 pour g()
r de la loi binomiale de parametre (n, p 0 ). (On dit que B(n, p) majore B(n, p0 ) pour lordre
si linegalite ci-dessus est une egalite (pour tout ).
stochastique, voir aussi p. 142.) On a ainsi verifie que les fonctions In et In+ sont croissantes
Si la taille de lechantillon est faible, une etude detaillee du modele permet dexhiber les en p (voir le graphique II.2).
intervalles de confiance, voir lexemple ci-dessous sur le modele de Bernoulli. (Il existe des
techniques specifiques pour etablir des intervalles de confiance, mais nous ne les detaillons
pas ici.) En revanche, dans le cas ou la taille de lechantillon est grande, on peut utiliser des
intervalles de confiance asymptotiques construits a partir des comportements asymptotiques
des estimateurs. 1

Definition II.22. Soit x = (x1 , . . . , xn ) 7 In (x), ou n N , une suite dapplications a


valeurs intervalles. On dit que la suite (I n , n 1) est un intervalle de confiance asymp-
FB(n,p0) FB(n,p)
totique pour g() de niveau asymptotique 1 , si pour tout , on a

lim P (g() In (X1 , . . . , Xn )) = 1 .
n

Nous aurons besoin de la notion de quantile dune loi. PSfrag replacements 2 0 2 4 6 8 10 12


q(p0) q(p0)
Definition II.23. Soit Y une variable aleatoire reelle de fonction de repartition F (x) =
P(Y x). Le quantile (on parle aussi de fractile), q r R, dordre r ]0, 1[ de la loi de Y
est defini par
q(p)
qr = sup{x; F (x) r},
et on a F (qr ) r. Si la fonction de repartition de Y est continue, alors F (q r ) = r. Si la Fig. II.2 Fonctions repartitions de B(n, p) et B(n, p 0 ), avec n = 10 et p p0 , ainsi que les
fonction de repartition est de plus strictement croissante au point q r , alors qr est lunique quantiles dordre correspondants : q (p) et q (p0 ).
solution de lequation F (x) = r.
II.5. PRECISION DE LESTIMATION : LINTERVALLE DE CONFIANCE 21 22 CHAPITRE II. MODELE PARAMETRIQUE

Il est maintenant facile de construire un intervalle de confiance (par exces) pour p de converge en loi vers la loi gaussienne centree reduite N (0, 1). En particulier, on a pour tout
niveau . En effet, on deduit de la croissance des fonctions In et In+ , que a R,
1 1 1 Pp (Zn [a, a]) P(G [a, a]),
n
Xn = Yn [ In (p), In+ (p)] p [In (Xn ), In+ (Xn )],
n n n ou G est de loi N (0, 1). Remarquons que
ou In et In+ sont les inverses des fonctions n1 In+ et n1 In . Donc pour tout p [0, 1], on a h a
p
Xn (1 Xn ) i
Zn [a, a] p Xn .
Pp (p [In (Xn ), In+ (Xn )]) 1 . n

Lintervalle aleatoire [In (Xn ), In+ (Xn )]


est donc un intervalle de confiance par exces de niveau On deduit donc de ce qui precede que si 1/2 est le quantile dordre 1 2 de la loi N (0, 1)
h i
1 . (Le fait que lintervalle de confiance soit par exces est du au fait que Xn est une Xn (1Xn )
(voir les tables du chapitre VIII), alors Xn 1/2 n est un intervalle de confiance
variable discrete.) Le calcul numerique des courbes I + et I repose simplement sur le calcul
asymptotique de niveau 1 .
des quantiles de la loi binomiale. Les logiciels scientifiques proposent des algorithmes pour
En conclusion, on fournit lintervalle de confiance asymptotique de niveau 1 pour p :
le calcul des quantiles. Cela permet de construire des abaques qui ont lavantage dapporter
p
une information visuelle (voir le graphique II.3). h 1/2 xn (1 xn ) i
I2 = xn . (II.3)
n
1

Moyenne empirique En fait cet intervalle de confiance est de bonne qualite pour np(1 p) grand (par exemple
In+(p) np(1 p) 5), voir le graphique II.4. La mauvaise qualite de lintervalle de confiance, pour
p ' 0 et p ' 1, est due a la mauvaisepestimation de 2 = p(1p) par Xn (1 Xn ). Remarquons

que la convergence de n(Xn p)/ p(1 p) vers la loi gaussienne centree, permet dassurer
que
PSfrag replacements
xn Intervalle de confiance p !
1/2 p(1 p)
In(p) lim Pp Xn [p ] = P(G [1/2 , a]1/2 ) = 1 .
n n
Parametre
0
0 1
En calcul elementaire permet dobtenir que
In(xn) p In+(xn) p
1/2 p(1 p)
Xn [p ] p [J (Xn ), J + (Xn )],
Fig. II.3 Construction des intervalles de confiance, [I n (xn ), In+ (xn )], de niveau de confiance n
95% (par exces) pour la loi de Bernoulli avec n = 10. ou, pour r [0, 1],
q
r + (2n)1 21/2 1 r(1 r) + 21/2 /4n
En conclusion, si lon observe les donnees (x 1 , . . . , xn ) qui proviennent deP
la realisation J (r) = 1/2 .
dun echantillon de Bernoulli, on estime le parametre inconnu p par x n = n1 ni=1 xi et on 1+ 21/2 /n n 1 + 21/2 /n
fournit lintervalle de confiance (par exces) de niveau 1 : On peut donc fournir lintervalle de confiance asymptotique suivant de niveau 1 pour p :
I1 = [In (xn ), In+ (xn )]. (II.2) I3 = [J (xn ), J + (xn )]. (II.4)

Le comportement des intervalles de confiance I 1 I2 et I3 est presente au graphique II.4.


Bien que les intervalles ci-dessus soient numeriquement calculables pour tout n, il est On remarque que lapproximation gaussienne est mediocre pour n petit. Et que lintervalle
interessant dutiliser une approche asymptotique si n est grand. En particulier, cela permet de confiance asymptotique I3 est meilleur, en particulier pour les valeurs extremes de p, que
davoir des ordres de grandeurs et de se forger une intuition. Pour cela, on utilise le fait que lintervalle de confiance asymptotique I 2 .
Xn est un estimateur asymptotiquement normal de p de variance asymptotique 2 = p(1 p) Si on fait lapplication numerique du paragraphe II.1.1, on obtient n = 100, x n = 0.22, et
(voir le paragraphe II.3). Remarquons que Xn (1 Xn ) est un estimateur convergent de 2 pour = 5%, il vient
(cest en fait lEMV de p(1 p)). On deduit du theoreme II.5, que la suite (Z n , n 1), ou
I1 = [0.144, 0.303], I2 ' [0.119, 0.301], I3 ' [0.150, 0.310].
Xn p
Zn = np ,
Xn (1 Xn )
II.6. PROCEDURE DE DECISION : LES TESTS 23 24 CHAPITRE II. MODELE PARAMETRIQUE

1.0 1.0
par
xn xn P (W ), H0 ,
ou par definition P (W ) = P ((X1 , . . . , Xn ) W ). Dans lexemple ci-dessus, lerreur de 1 ere
0.5 0.5
espece revient a arreter la production alors que le taux de pieces defectueuses est encore
acceptable.
p p
0.0 0.0
Lerreur de 2eme espece consiste a accepter H0 a tort (i.e. rejet H1 a tort) : elle est
0.0 0.5 1.0 0.0 0.5 1.0
definie par
1.0 1.0 1 P (W ), H1 .
xn xn
Dans lexemple ci-dessus, lerreur de 2 eme espece consiste a continuer la production alors que
0.5 0.5
le taux de defaillance est superieur au seuil p 0 fixe par lindustriel.
On definit la puissance dun test de region critique W comme la probabilite de rejetter
p p de H0 a raison : cest la fonction definie sur H 1 par 7 W () = P (W ). (La quantite
PSfrag replacements
0.0
0.0 0.5 1.0
0.0
0.0 0.5 1.0
1 W () represente lerreur de 2eme espece.)
Generalement les erreurs de 1ere et 2eme espece nont pas la meme importance. Par conven-
Fig. II.4 Intervalles de confiance de niveau 95% pour p dans un modele de Bernoulli, tion, on choisit H0 de sorte que lon desire minimiser en priorite lerreur de 1 ere espece.
avec n = 10 (en haut) et n = 100 (en bas) observations. La moyenne empirique est lue Ceci traduit le fait que rejeter H0 a tort est plus prejudiciable que rejeter H 1 a tort. Cette
en ordonnee. En coupant au niveau de la moyenne empirique on obtient un intervalle de raison entrane une dissymetrie entre lhypothese nulle et lhypothese alternative. Le statis-
confiance par exces (formule (II.2)) delimites par les courbes en trait plein, et un intervalle ticien doit bien comprendre le contexte, pour choisir correctement lhypothese
de confiance asymptotique (formule (II.3) a gauche, formule (II.4) a droite) delimites par les nulle et lhypothese alternative ! (En general, le but dun test est de rejeter H 0 . Quand
courbes en pointillees. on ne peut pas rejeter H0 , car lerreur de 1ere espece est trop importante, on peut utiliser un
autre test ou augmenter le nombre de mesures.)
Le niveau du test de region critique W est defini par

II.6 Procedure de decision : les tests W = sup P (W ).


H0

Exemple II.25. Comme nous lavons vu au paragraphe II.1.3, il est naturel pour lindustriel,
plutot que destimer la vrai valeur du parametre p, de repondre a la question suivante : est-ce Il sagit du maximum de lerreur de 1ere espece quand parcours H0 . On cherche donc en
que p [0, p0 ] (i.e. la production continue), ou bien est-ce que p ]p 0 , 1] (i.e. il faut arreter priorite des tests de niveau faible. Ceci se traduit par le principe de Neyman qui consiste
la production pour regler ou changer la machine). Ici p 0 est un seuil que lindustriel sest a ne retenir que les tests dont le niveau est inferieur a un seuil fixe a priori. La valeur
fixe pour le taux maximal de pieces defectueuses quil peut se permettre avant de devoir de est faible ; les valeurs typiques sont 10%, 5%, 1%,... Ensuite, parmi les tests de niveau
interrompre la production pour regler ou changer la machine. inferieur a , on cherche a minimiser lerreur de 2 eme espece. On recherche donc les tests de
niveau inferieur a et de puissance maximale.

Les tests dhypotheses sont des regles de decisions qui a partir des observations per- Remarque II.26. Il est clair que le choix de H 0 et de H1 dependent de la problematique.
mettent de considerer que le parametre inconnu appartient a H 0 = {p p0 } (hypothese Dans le cas du modele du paragraphe II.1.1, repris dans lexemple II.25, le choix de H 0 =
nulle ) ou H1 = {p > p0 } (hypothese alternative), (H0 , H1 ) formant une partition de {p p0 } et H1 = {p > p0 } implique que lon arrete la production (i.e. on rejette H 0 ) si lon
lensemble des parametres . Plus precisement, un test est defini par sa region critique, est vraiment convaincu (avec une marge derreur au plus egale au seuil du test) que le seuil,
notee ici W , qui est un sous ensemble de lensemble des observations possibles : si on observe p0 , de taux de pieces defectueuses est depasse. Ce choix correspond au cas ou larret de la
x = (x1 , . . . , xn ), alors production a un cout tres important.
soit x nest pas dans la region critique, on accepte alors H 0 et on rejette H1 (i.e. on Si en revanche on choisit H0 = {p p0 } et H1 = {p < p0 }, cela signifie que lon accepte de
dit que H0 ). continuer la production que si lon est vraiment convaincu (toujours avec une marge derreur
soit x est dans la region critique, on rejette alors H 0 et on accepte H1 (i.e. on dit au plus egale au seuil du test) que le seuil, p 0 , de taux de pieces defectueuses nest pas
que H1 ). encore atteint. Cest par exemple le point de vue dun acheteur ou dun organisme de controle
Bien sur, les donnees etant aleatoires, la decision peut etre erronee. Il convient de distinguer de la qualite (dans ce cas la qualite de la production est un enjeu qui prime sur le cout darret
deux types derreurs. Lerreur de 1ere espece consiste a rejeter H0 a tort : elle est definie de la production).
II.6. PROCEDURE DE DECISION : LES TESTS 25 26 CHAPITRE II. MODELE PARAMETRIQUE

En particulier, le choix de H0 et H1 depend directement des preoccupations de linterlo-


cuteur ! 1.0

Pp(Wn) = Pp(Xn > a/n)


Une bonne idee pour construire un test concernant g() consiste a utiliser lEMV de g(),
comme lillustre lexemple qui suit. 0.8

Exemple II.27. Nous poursuivons letude de lexemple II.25 concernant le modele de Ber- 0.6
noulli. H0 = {p p0} H1 = {p > p0}
On suppose que pour lindustriel, il est tres couteux darreter la production pour reparer
0.4
ou changer la machine. Dans ce cas, on ne veut absolument pas commettre (traduire par
on veut minimiser) lerreur suivante : arreter la production (i.e. rejeter p p 0 et accepter PSfrag replacements Region critique Wn
p > p0 ) si p p0 . On en deduit donc que lerreur de 1ere espece consiste a rejeter {p p0 } 0.2

a tort. Donc lhypothese nulle est H 0 = {p p0 } et lhypothese alternative H1 = {p > p0 }.


On considere lEMV de p, Xn . On a vu que Xn est un estimateur convergent de p. En 0.0
0.0 0.2 0.4 0.6 0.8
p 1.0
particulier, sous H0 , Xn prend des valeurs proches de p dans [0, p 0 ], et sous H1 des valeurs
proches de p dans ]p0 , 1, ]. Il est naturel de choisir la region critique suivante construite a
partir de lEMV :
Fig. II.5 Fonction p 7 Pp (Wn ) (erreur de 1ere sur H0 et puissance sur H1 ) et region critique
Wn = {(x1 , . . . , xn ); xn > a}
du test (II.5), avec = 5%, p0 = 0.2 et a = 27.
ou n est la taille de lechantillon, et a une constante a determiner.
Il faut maintenant calculer le niveau du test : Wn = suppp0 Pp (Xn > a). Intuitivement la
moyenne empirique a tendance a augmenter avec p. On sattend donc a ce que le supremum Il est interessant de remarquer qui si lon adopte le point de vue dun acheteur ou dun
soit atteint en p0 . Cest effectivement le cas, comme le demontre linegalite (II.1) (rappelons organisme de controle de la production, alors il est preferable de minimiser lerreur suivante :
que sous Pp , la loi de nXn est la loi binomiale de parametre (n, p)). On en deduit donc que continuer la production (i.e. rejeter p p 0 et accepter p < p0 ) si p p0 . Dans ce cas
Wn = Pp0 (Xn > a) = P(Z > na) = 1 P(Z na), on choisit H0 = {p p0 } et H1 = {p < p0 }. Des calculs similaires a ceux qui precedent
permettent detablir que le test de seuil et de puissance maximale construit a laide de
ou Z est de loi binomiale de parametre (n, p 0 ). En particulier si on se fixe un seuil , alors lEMV de p a pour region critique
il faut choisir a superieur ou egal a q 1 /n, ou q1 est le quantile dordre 1 de la loi n
X
binomiale de parametre (n, p0 ). Parmi tous les tests construits pour a q 1 /n, on recherche Wn0 = {(x1 , . . . , xn ); xi < q },
maintenant celui de puissance maximale. La puissance est donnee par la fonction definie sur i=1
]p0 , 1] par p 7 Pp (Xn > a). Il est clair que la puissance est maximale pour a le plus petit
possible, a savoir a = q1 /n. On en deduit donc que le test de seuil retenu est ou q est le quantile dordre de la loi binomiale de parametre (n, p 0 ). En particulier on
remarquera que le complementaire de W n0 Wn dans [0, 1] represente la zone ou lon accepte
n
X H0 que lon ait choisi H0 = {p p0 } ou H0 = {p p0 }.
Wn = {(x1 , . . . , xn ); xn > q /n} = {(x1 , . . . , xn ); xi > q1 }. (II.5)
i=1 Si lon peut ecrire la region critique, construite pour un echantillon de taille n, sous
Si on fait lapplication numerique du paragraphe II.1.1 avec p 0 = 0.2, on obtient n = 100, la forme W = {(x1 , . . . , xn ); S(x1 , . . . , xn ) a}, abrege par W = {S a} (ou sous la
P n forme W = {(x1 , . . . , xn ); S(x1 , . . . , xn ) a} = {S a} abrege par W = {S a}), ou
i=1 xi = 22, xn p0 et pour = 5%, on a q1 = 27. Il vient Wn = {xn > 0.27} et
Wn = Pp0 (Wn ) = 0.03 (le fait que Wn soit strictement inferieur a est du au fait que Xn S = S(X1 , . . . , Xn ) est une statistique, alors on dit que S est une statistique de test et que
est une v.a. discrete). La valeur observee nest pas dans la region critique. On accepte donc W est la region critique associee a la statistique de test S.
H0 au niveau de 5% (en fait au niveau de 3%). Dans ce cas, pour une observation xobs = (xobs obs
1 , . . . , xn ), on definit la p-valeur du test
Remarquons que plus p est proche de 0 (i.e. plus on est loin de H 1 ), plus lerreur de 1ere de region critique W = {S a} par
espece est faible. De meme, plus p est proche de 1 (i.e. plus on est loin de H 0 ), plus lerreur de
p-valeur = sup P (S S obs ),
2eme espece est faible et la puissance elevee. Enfin quand p H 1 se rapproche de p0 (i.e. de H0
H0 ), on remarque que lerreur de 2eme espece crot vers 1 Wn . Lerreur de 2eme espece est
loin detre negligeable. (On pourra verifier que les tests presentes dans les differents chapitres ou S obs = S(xobs ). Bien sur la p-valeur du test de region critique W = {S a} est donnee
possedent ce comportement). par supH0 P (S S obs ). La p-valeur traduit la probabilite, sous H 0 , dobserver pire que les
II.6. PROCEDURE DE DECISION : LES TESTS 27 28 CHAPITRE II. MODELE PARAMETRIQUE

observations dont on dispose. Si la p-valeur est tres faible, cela signifie que ce que lon observe 5. Comportement asymptotique sous H 1 . On deduit de la loi forte des grands nombres
est tres rare (sous H0 ). En particulier cela remet en cause lhypothese H 0 . Suivant la valeur que (Xn p0 , n 1) converge p.s. vers p p0 > 0. On en deduit donc que sous H0 , p.s.
de la p-valeur et le contexte qui permet de dapprecier le niveau de risque retenu, on pourra
alors rejeter H0 . En revanche si la p-valeur nest pas faible, cela signifie quil est raisonnable lim n = +.
n
dobserver cette valeur sous H0 . On acceptera alors H0 . La p-valeur est un indicateur de la
confiance que lon accorde a H0 , on peut egalement la voir comme linverse dune distance 6. Region critique du test. Vu le comportement asymptotique de la statistique de test sous
a H0 . Il est plus precis que la reaction binaire du rejet ou acceptation dependant dun niveau H0 et H1 , on considere la region critique
parfois arbitraire !
Enfin la construction des tests et des regions critiques est souvent facilitee quand on Wn = {n a}. (II.6)
regarde le comportement asymptotique des statistiques de test lorsque la taille de lechantillon
tend vers linfini. 7. Le test est de niveau asymptotique , si a = 1 , ou 1 est le quantile dordre 1
Si (Wn , n 1) est une suite de regions critiques ou W n correspond aux echantillons de de la loi N (0, 1). En effet, grace a (II.1), on deduit que pour p H 0 , on a
taille n, on dit que le test Wn est de niveau asymptotique , si
Pp (n a) Pp0 (n a).
lim sup P (Wn ) = . On deduit du TCL que limn Pp0 (n a) = P(G a), ou G est de loi N (0, 1). En
n H
0
particulier, on a
Le test est dit convergent si pour tout H 1 , on a lim sup Pp (n 1 ) = lim Pp0 (n 1 ) = .
n pH0 n

lim P (Wn ) = 1.
n
8. Le test est convergent. (Cela decoule du fait que la statistique de test converge vers
+ sous H1 .)
Un test convergent assure que quand n , si on est sous H 1 , alors les observations sont
p.s. dans la region critique. 9. La p-valeur du test est donnee par

Exemple II.28. Suite de lexemple II.27. On peut verifier que les tests W n et Wn0 sont p-valeur = P(G nobs ),
des tests convergents de niveau asymptotique . Plutot que de faire cette demonstration
ou nobs est la valeur de la statistique de test n P
evaluee en les observations (i.e. on
academique, on construit naturellement un test asymptotique a partir de la normalite asymp- 1 n
remplace Xn dans la definition de n par xobs
n = n
obs
i=1 xi ).
totique de Xn , lEMV de p.
On peut structurer la modelisation et la reponse du statisticien de la maniere suivante. Le statisticien peut alors fournir la p-valeur a son interlocuteur, et laider a conclure. Si on
fait lapplication numerique du paragraphe II.1.1, on obtient pour p 0 = 0.2, n = 100, et
1. Choix dun modele (issu de la discussion entre le statisticien et son interlocuteur) : le xn = 0.22, la p-valeur asymptotique de 0.31. (La p-valeur associee au test (II.5) est de 0.26.)
modele parametrique de Bernoulli : (X n , n 1) suite de v.a. i.i.d. de loi de Bernoulli En particulier on ne rejette pas H0 au seuil de 5% ni au seuil de 10%. On voit ici que le
p [0, 1]. calcul de la p-valeur donne une information plus complete que la simple acceptation de H 0
2. Choix des hypotheses (issues des preoccupations de linterlocuteur du statisticien) : au niveau de 5%.
H0 = {p p0 }, H1 = {p > p0 }, avec p0 ]0, 1[.
3. Choix de la statistique de test Comme dans lexemple precedent, nous ferons ressortir pour chaque test les 9 points
suivants :
Xn p0
n = n p . 1. Description du modele (guide par le contexte).
p0 (1 p0 )
2. Les hypotheses (guidees par le contexte).
4. Comportement asymptotique sous H 0 . On deduit de la loi forte des grands nombres 3. La statistique de test (utilisant lEMV ou les statistiques exhaustives dans les modeles
que pour p < p0 , Xn p0 converge p.s. vers p p0 < 0. On en deduit donc que pour parametriques).
p < p0 , on a p.s.
4. Loi ou comportement (en general asymptotique) sous H 0 .
lim n = .
n 5. Loi ou comportement (en general asymptotique) sous H 1 .
Pour p = p0 , on deduit du TCL la convergence en loi de ( n , n 1) vers N (0, 1). 6. Region critique du test.
II.7. UTILISER DES DONNEES EXTERIEURES : LAPPROCHE BAYESIENNE 29 30 CHAPITRE II. MODELE PARAMETRIQUE

7. Niveau (exact, par exces ou asymptotique) du test. son interlocuteur, mais ceci est souvent difficile a expliciter. De plus les calculs auxquels on
8. Puissance ou convergence du test. est conduit sont souvent difficiles (a telle enseigne que cest pour les resoudre quont ete
effectuees certaines des avancees les plus notables du calcul statistique sur ordinateur ces
9. Calcul de la p-valeur du test.
dernieres annees). On est donc souvent amene a faire jouer, pour le choix de la probabilite a
A lissu de ce travail, il faut conclure : si la p-valeur est faible, on rejette H 0 , sinon on priori, des considerations de nature mathematique visant a faciliter les calculs.
accepte H0 . La notion de p-valeur faible depend du contexte, elle nest pas la meme suivant Dans lexemple considere, on choisit volontiers pour loi a priori une loi Beta (voir p. 163),
quil sagit dun risque nucleaire, de la mise sur le marche dun medicament ou dune nouvelle de parametre (a, b) R+ . En particulier, si a = b = 1, il sagit de la loi uniforme sur [0, 1], qui
lessive. Enfin, si on rejette H0 , il faut aussi se poser des questions sur la pertinence du modele traduit une information a priori dite par antiphrase non informative. Sil en est ainsi, la loi
choisi. du couple (p, (x1 , . . . , xn )) admet pour densite, par rapport a la mesure produit [0,1] {0,1}n
Exercice II.29. Reprendre lexemple II.28 avec H 0 = {p p0 } et H1 = {p < p0 }. (Bien (ou [0,1] est la restriction a lintervalle [0, 1] de la mesure de Lebesgue sur R (voir VII.1.2)
sur, comme pn H0 , il est inutile de faire le test, car il nest pas raisonnable de rejeter H 0 .) et {0,1}n est la mesure de comptage sur {0, 1}n ) lapplication :
On verifiera que la p-valeur asymptotique est egale a 0.74. 
pa1 (1 p)b1 y
Exercice II.30. On reprend le modele decrit dans lexemple II.28 ainsi que les notations. (p, (x1 , . . . , xn )) 7 p (1 p)ny ,
B(a, b)
En considerant la statistique de test | n |, donner un test asymptotique pour H 0 = {p = p0 }
et H1 = {p 6= p0 }.  R1 P
ou B(a, b) = 0 pa1 (1 p)b1 dp et y = ni=1 xi = nxn . Un calcul elementaire permet den
Exemple II.31. On considere le probleme E pose au paragraphe II.1.1 : deux sous-echantil- deduire que la loi a posteriori est la loi Beta de parametre (a + y, b + n y).
lons chacun i.i.d., lun de parametre p a , lautre de parametre pb . Si on veut tester lhypothese On prend alors pour estimation ponctuelle de p (estimation dite bayesienne) lespe-
H0 = {pb pa }, des considerations de bon sens analogues aux precedentes conduisent a rance mathematique de la loi a posteriori, cest-a-dire apres un calcul elementaire
(a)
un rejet si xn , proportion observee sur le premier sous-echantillon, est significativement P
a + ni=1 Xi
plus elevee que xbn , proportion observee sur le second sous-echantillon. Les calculs, exacts ou pn = E[p|X1 , . . . , Xn ] = .
approches, en fonction du choix de seront presentes au chapitre IV. a+b+n
Pn a+y
Si on observe y = i=1 xi , lestimation de p est donc . Dans le cas particulier de
II.7 Utiliser des donnees exterieures : lapproche bayesienne a+b+n
1+y
la priori uniforme, on trouve pour estimation 2+n . Dans tous les cas, a a et b fixes, cette
a
Suite du paragraphe II.1.1 sur le modele de Bernoulli. estimation, quand n augmente, seloigne de a+b (esperance de la probabilite a priori) pour
Une critique qui est souvent faite a lensemble des traitements des observations issues tendre vers xn . On retrouve donc asymptotiquement lEMV de p. Ceci exprime que, plus la
du paragraphe II.1.1, est que toutes les valeurs de p appartenant a [0, 1] y soient traitees de taille de lechantillon est elevee, plus forte est linfluence des observations par rapport a lidee
maniere indifferente ; or il en est rarement ainsi dans la pratique. Certes on peut decider de a priori que lon se faisait sur le parametre.
restreindre lespace du parametre, , a un sous-intervalle de [0, 1], mais cela ne suffit pas : La recherche dun intervalle de confiance au niveau de confiance 1 se resout ici
souvent on a de bonnes raisons de penser que certaines zones de valeurs, pour p sont plus en fournissant un intervalle qui, pour la loi a posteriori, a une probabilite egale a 1 ; ceci
credibles que dautres. Ceci conduit naturellement a munir lensemble [0, 1] dune probabilite laissant une certaine faculte de choix, on le prendra en general symetrique en probabilite,
qui traduit cette credibilite ; notons la Q. Elle est appelee la probabilite a priori (ou en cest-a-dire laissant au dessus et au dessous des intervalles de probabilite a posteriori egale a

bref la priori). Cette demarche est dite bayesienne. 2 . Autrement dit lintervalle de confiance a pour extremites les quantiles a posteriori dordres

Lespace produit {0, 1}n est donc muni dune probabilite, soit R, relativement a 2 et 1 2 .
laquelle Q apparat comme une probabilite marginale (projection sur lensemble des Le probleme de test est aborde ici de maniere tout a fait differente de ce que lon avait
parametres) et Pp apparat comme une probabilite conditionnelle : loi de lobservation, fait en II.6. Puisque linterlocuteur sinterroge sur lappartenance de p a lintervalle [0, p 0 ],
conditionnellement au parametre. On peut donc donner, inversement, dans ce cadre, un sens a et quil avait ete capable de donner une valeur a priori (avant toute experimentation) a
la loi du parametre conditionnellement a lobservation. Cette probabilite est dite probabilite une probabilite de cet intervalle, on va lui fournir comme reponse a ses preoccupations la
a posteriori (ou en bref la posteriori) . Cest cette demarche que, au dix-huitieme siecle, valeur de la probabilite a posteriori de [0, p 0 ]. A lui den tirer profit ! Il peut en particulier,
T. Bayes avait qualifiee de recherche de la probabilite des causes. Elle peut etre vue comme sil doit absolument trancher entre lhypothese nulle H 0 et la contre-hypothese H1 , opter pour
une revision, a la lumiere des observations, de la credibilite qui avait ete choisie initialement celle des deux qui a la plus forte probabilite a posteriori. Cette attitude semble necessiter
sur . Dans cette logique, cest sur elle que vont reposer alors toutes les methodes statistiques. chez linterlocuteur du statisticien une meilleure familiarite avec les notions probabilistes que
La critique que lon peut faire a cette demarche est le caractere relativement arbitraire lattitude classique vue ci-dessus ; mais cette derniere, si elle semble moins exigeante, est
du choix de la probabilite a priori : le statisticien devrait en principe la faire exprimer par souvent source de malentendus.
II.8. LE MODELE GAUSSIEN 31 32 CHAPITRE II. MODELE PARAMETRIQUE

II.8 Le modele gaussien exemple determination sur le comportement ou sur lalcootest) ou interne a lenregistre-
ment (on aurait procede a des observations sur une plus grande masse de sujets et retenu
Nous illustrons les concepts des chapitres precedents sur le modele gaussien. Ce modele uniquement ceux pour lesquels le taux etait superieur ou egal a 10 dg/l, procedure dite de
est tres (trop ?) couramment utilise pour analyser des donnees continues. Cet usage frequent censure des donnees) ?
est du a la simplicite des calculs et a la generalite du TCL (sous des hypotheses tres faibles, Il est assez evident que, quelles que soient les conditions de recueil, elles ont du assurer
la somme de nombreux petits bruits suit asymptotiquement une loi gaussienne). lindependance des n v.a. Xi dont les observations resultent. Le probleme de lidentite
de leurs lois et du choix de la famille a laquelle serait supposee appartenir cette
II.8.1 Donnees reelles a loi gaussienne loi commune est plus delicat.
En tout etat de cause, si lon pose (comme nous allons le faire) un modele i.i.d., il faudra
On a enregistre le taux dalcool dans le sang (en dg/l) de n sujets : voici le tableau des retenir que la loi commune traduit une variabilite intrinseque et de mesure dans lensemble
observations, avec n = 30 (extrait de louvrage de D. Schwartz, Methodes statistiques a lusage des individus satisfaisant aux criteres retenus pour la population que les sujets testes sont
des medecins et des biologistes, Flammarion). censes representer, et celle-la seule (ici une certaine notion de letat debriete).
27 , 26 , 26 , 29 , 10 , 28 , 26 , 23 , 14 , 37 Nous lavons dit, les praticiens utilisent souvent dans un tel contexte une modelisation
16 , 18 , 26 , 27 , 24 , 19 , 11 , 19 , 16 , 18 avec pour loi commune une loi normale, de moyenne et variance 2 (non nulle) inconnues,
27 , 10 , 37 , 24 , 18 , 26 , 23 , 26 , 19 , 37 N (, 2 ). Le parametre est donc bi-dimensionnel = (, 2 ) R R+ . La probabilite
On notera (x1 , . . . , x30 ) cette suite de resultats observee. Les valeurs sechelonnant entre N (, 2 ) a pour support R tout entier, alors quici (comme presque toujours dans la pratique)
10 et 37, la precision etant lunite, il serait maladroit de modeliser ceci comme les realisations les donnees sont fondamentalement bornees ; cet usage suppose donc que, pour la zone de
de v.a. discretes : le nombre de valeurs distinctes envisageables devrait etre grand, de lordre valeurs de et envisageables, la probabilite du complementaire de lintervalle des valeurs
de la quarantaine, car rien ninterdit de penser quauraient pu etre observees des valeurs en effectivement atteignables par les taux dalcool soit negligeable. Cette condition de validite
dehors de lintervalle ici present. Il est plus raisonnable de considerer quil y a, sous-jacent serait incontestablement mise en defaut dans le cas de valeurs censurees evoque ci-dessus.
a ces observations, un phenomene a valeurs reelles, dont les observations recueillies sont une
discretisation, larrondi se faisant a la precision du decigramme par litre. II.8.2 Etude du modele
Les modeles les plus simples que lon puisse envisager ici sont des modeles dechantillonna- On considere donc un echantillon (X 1 , . . . , Xn ) de v.a. independantes et de meme loi
ge : on admet que lon a observe les realisations de n v.a. X i independantes et identiquement gaussienne : P = {N (, 2 ), = (, 2 ) R]0, [}. La densite de la loi N (, 2 ) est
distribuees. 1 2 /2 2
Pour voir si un tel modele est approprie, il faut dabord se demander comment a ete p(x1 ; , 2 ) = e(x1 ) .
2 2
constitue cet echantillon.
Le probleme essentiel est, comme dans le premier paragraphe, celui de la source de va- La vraisemblance du modele est pour x = (x 1 , . . . , xn ) Rn ,
riabilite (cause de laleatoire). Celle-ci a en fait ici plusieurs origines simultanees : variation n 2 2
pn (x; , 2 ) = (2 2 )n/2 e i=1 (xi ) /2
dindividu a individu et, pour chaque individu, imprecision de lappareil de mesure et effet de
(xn )2 +vn
lerreur darrondi. On peut esperer que la premiere cause est dominante, mais alors il reste = (2 2 )n/2 en 2 2 ,
a sinterroger sur les conditions de choix des individus sur lesquels a ete effectuee la prise de Pn Pn
1 1
sang. Voici quelques situations possibles : ou xn = n i=1 xi et vn = n i=1 (xi xn )2 . On deduit du theoreme de factorisation II.18
Experience scientifique controlee, par exemple faisant intervenir 30 sujets en bonne sante, que
n n n
ayant bu tous la meme quantite dalcool, dans des conditions dalimentation identiques, et 1X 1X 1X 2
Xn = Xi , et Vn = (Xi Xn )2 = Xi (Xn )2 .
testes dans un temps determine apres labsorption : on jauge alors la variabilite des reactions n n n
i=1 i=1 i=1
individuelles des organismes.
sont des statistiques exhaustives (i.e. elles contiennent toute linformation sur le parametre
Controle systematique apres un bon repas ou au sortir dun bote de nuit : on jauge alors
(, )). Traditionnellement, on considere
la variabilite de consommation de gens places dans un meme contexte social, mele a leffet
n n
individuel de cette consommation sur le sang. 1 X 1 X 2 n
Rapport de police : on jauge alors la variabilite du taux parmi des analyses sur des conduc- Sn2 = (Xi Xn )2 = Xi (Xn )2 ,
n1 n1 n1
i=1 i=1
teurs que la police a juge utile de citer, par exemple apres un premier filtrage a lalcootest.
Revenant a louvrage dou ont ete extraites ces donnees, nous lisons : 30 sujets en etat au lieu de Vn (car Sn2
est un estimateur sans biais de 2 ). Bien sur la statistique (Xn , Sn2 ) est
debriete. Nous savons donc que nous nous limitons a une categorie dont il faut donner la une statistique exhaustive.
definition exacte (non fournie dans le texte) : celle-ci est-elle externe a lenregistrement (par On enonce la proposition suivante qui sera demontree au paragraphe III.2.2.
II.8. LE MODELE GAUSSIEN 33 34 CHAPITRE II. MODELE PARAMETRIQUE

Proposition II.32. Soit X = (X1 , . . . , Xn ) un n-echantillon de N (, 2 ). Alors on a : Sn


on en deduit que [Xn tn1,1/2 ] est un intervalle de confiance de niveau 1 pour .
(i) Les v.a. Xn et Sn sont independantes. n
sn
(ii) La loi de (n 1)Sn2 / 2 est la loi du 2 a n 1 degre de liberte, note 2 (n 1). On remarque que la longueur de lintervalle de confiance [x n tn1,1/2 ], ou s2n =
n
Xn 1 Pn 2
n1 i=1 (xi xn ) tend bien vers 0 quand la taille de lechantillon tend vers linfini (a x n et
(iii) La loi de n est la loi de Student de parametre n 1, notee t(n 1).
Sn sn fixe). Il est aussi dautant plus long que s n est plus eleve (ceci est naturel : la fluctuation des
donnees contrarie la confiance que lon a en elles, confiance qui se traduirait par un intervalle
La loi du 2 et de Student sont definies p. 160 ; elles sont tabulees aux paragraphes VIII.3
de confiance assez court).
et VIII.4.
Exercice II.33. Si la variance est connue et egale a 02 , cest-a-dire si lon considere le modele
II.8.3 Estimation P = {N (, 02 ), R}, verifier que lintervalle de confiance de de niveau 1 est alors
0
Pour calculer lestimateur du maximum de vraisemblance de (, 2 ), on considere la log- [Xn 1/2 ], ou 1/2 est le quantile dordre 1 /2 de la loi N (0, 1). 
n
vraisemblance
n n (xn )2 + vn II.8.5 Tests sur la moyenne
`n (x; , 2 ) = log(2) log( 2 ) n .
2 2 2 2
On considere les hypotheses H0 = { = 0 } et H1 = { 6= 0 }, ou 0 est donne. (On parle
En calculant les derivees partielles, il vient dhypothese bilaterale, par opposition a lexercice II.35, ou parle dhypothese unilaterale). Il
xn est naturel de comparer la moyenne empirique avec moyenne proposee, 0 . Toutefois, sous
`n (x; , 2 ) = n ,
2 H0 , la loi de Xn 0 est la loi N (0, 2 /n), qui depend du parametre inconnu 2 . On considere
et donc la statistique de test
n (xn )2 + vn Xn 0
`n (x; , 2 ) = 2 + n . n = n .
2 2 2 4 Sn
En particulier, les derivees de la log-vraisemblance sannulent pour = x n et 2 = vn . La loi de la statistique de test sous H 0 est la loi de Student de parametre n 1. La loi de
Ensuite, on verifie sans difficulte que la log-vraisemblance atteint son maximum pour (, 2 ) = n sous H1 est la loi de Student decentree, mais nous ne lexpliciterons pas ici. On remarque
(xn , vn ). On en deduit donc que lEMV de = (, 2 ) est (Xn , Vn ). On deduit de la proposition que sous H1 , Xn 0 converge p.s. vers 0 6= 0 quand n . On a toujours que Sn
II.32 que E [Xn ] = et que E [Sn2 ] = 2 . (En revanche Vn est un estimateur biaise de 2 , converge p.s. vers 2 . On en deduit donc que sous H1 , p.s.
dou le choix traditionnel de Sn2 ). Ainsi lestimateur n = (Xn , Sn2 ) est un estimateur sans
biais de . lim |n | = +.
n
On peut demontrer quil nexiste pas destimateur sans biais de preferable (au sens du
risque quadratique) a Xn autre que lui meme. Et que parmi les estimateurs de la forme aS n2 , Il est donc naturel de considerer la region critique
n
n1 2 1 X
a > 0, de 2 , Sn = (Xi Xn )2 est lestimateur de risque quadratique le plus Wn = {(x1 , . . . , xn ); |n (x)| a}, (II.7)
n+1 n+1
i=1
Pn Pn
faible. ou n (x) = n xns
n
0
,
avec xn = 1
n i=1 xi et sn =
1
n1 i=1 (xi xn )2 .
Dapres le compor-
Par la loi forte des grands nombre Xn et Sn2 sont des estimateurs convergents. Ainsi n tement de la statistique de test sous H 1 , on en deduit que le test Wn est convergent. (En fait
est un estimateur convergent de . (On peut egalement verifier quil est asymptotiquement la statistique telle quelle a ete definie au paragraphe II.6 serait plutot | n |.)
normal, mais cela ne nous sera pas utile par la suite). Comme sous H0 , la loi de n est la loi de Student de parametre n 1, on en deduit que
le niveau du test Wn est
II.8.4 Intervalle de confiance pour la moyenne sup P (Wn ) = P(|Z| a),
H0
Xn
On deduit de la proposition II.32, que la loi de n est la loi t(n 1). La loi de ou Z est de loi t(n1). Pour obtenir un test de niveau , on choisit a = t n1,1/2 , le quantile
Sn
Student est symetrique, ainsi si t n1,1/2 est le quantile dordre 1 /2 de la loi t(n 1), dordre 1 /2 de loi de Student de parametre n 1.
alors tn1,1/2 est le quantile dordre /2. En particulier, une v.a. de loi t(n1) appartient La p-valeur du test est donnee par
a [tn1,1/2 , tn1,1/2 ] avec probabilite 1 . Comme
p-valeur = P(|Z| |nobs |), (II.8)
Xn Sn
n [tn1,1/2 , tn1,1/2 ] [Xn tn1,1/2 ], ou nobs est la statistique de test evaluee en les observations.
Sn n
II.8. LE MODELE GAUSSIEN 35 36 CHAPITRE II. MODELE PARAMETRIQUE

Remarque II.34. On peut etudier la reponse du test en fonction de n, x n et sn . Toutes les techniques statistiques en decoulent selon les principes vus au paragraphe II.7.
A n et sn fixes, si xn seloigne de 0 , alors |n | augmente et on a tendance a rejeter le En particulier lestimation bayesienne de est lesperance de la loi a posteriori, cest-a-dire
test. 02 + n 2 xn
. On constate que, quand n augmente, lestimation seloigne de lesperance de
A n et xn fixes, si sn diminue, alors |n | augmente et on a tendance a rejeter le test. 02 + n 2
Cela traduit le fait que si sn est petit alors la variabilite des donnees est petite et x n la loi a priori, , pour converger vers la moyenne empirique x n . Ceci sinterprete aisement :
donne une estimation precise du vrai parametre . Des petits ecarts entre x n et 0 plus on a de donnees, plus leur poids est predominant par rapport a lidee que lon se faisait
deviennent significatifs. a priori de la valeur de .
A xn et sn fixes, si n augmente, alors |n | augmente et on a tendance a rejeter le test. En
effet, plus la taille de lechantillon est grande est plus x n donne une estimation precise
II.9 Resume des procedures de test
du vrai parametre .
Nous resumons les tests vus pour les exemples presentes au paragraphe II.1.1 et II.8.1.
Exercice II.35. Ecrire le test pour les hypotheses unilaterales H 0 = { 0 } et H1 = { >
0 }.  II.9.1 Le modele de Bernoulli
Exercice II.36. Tester les hypotheses H 0 = { = 0 } et H1 = { 6= 0 }, ou 0 est donne 1. Modele : (Xk , 1 k n) suite de v.a. i.i.d. de loi de Bernoulli : P = {B(p), [0, 1]}.
dans le modele gaussien a variance connue : P = {N (, 02 ), R}.  2. H0 = {p p0 }, H1 = {p > p0 }, avec p0 ]0, 1[.
3. Statistique de test : Xn .
II.8.6 Analyse des donnees reelles
4. Comportement sous H0 : Xn proche de [0, p0 ].
On choisit le modele P = {N (, 2 ), R, > 0}. On obtient lestimation de (, 2 ) a 5. Comportement sous H1 : Xn proche de ]p0 , 1].
laide de (xn , s2n ) :
6. Region critique : Wn = {Xn > a}.
n n
1X 1 X 7. Niveau par exces : a = q1 /n, ou q1 est le quantile dordre 1 de B(n, p).
xn = xi = 22.9 et s2n = (xi xn )2 = 53.0.
n n1 8. Puissance du test Pp (Xn > a), p ]0, 1].
i=1 i=1

Lintervalle de confiance de niveau 95% de est donne par 9. p-valeur : Pp0 (Xn xobs
n ).
Xn p0
sn 10. Variante : test asymptotique (n grand), statistique de test : n = np . Sous
[xn tn1,1/2 ] = [20.2, 25.6]. p0 (1 p0 )
n
H0 , n converge p.s. vers ou en loi vers N (0, 1). Sous H 1 , n converge p.s. vers
La p-valeur associee au test de region critique (II.7), definie par (II.8), est pour 0 = 20, +. Region critique Wn = {n a}. Niveau asympotique : a = 1 , ou 1 est
xn 0 le quantile dordre 1 de N (0, 1). Le test est convergent. p-valeur : P(G nobs ) ou
p-valeur = P(|Z| nobs ) = 0.037, ou n = n = 2.18. G de loi N (0, 1).
sn
En particulier on rejette H0 = { = 0 } au niveau de 5%. II.9.2 Le modele gaussien a variance connue
1. Modele : (Xk , 1 k n) suite de v.a. i.i.d. de loi gaussienne a variance, 02 , connue :
II.8.7 Approche bayesienne
P = {N (, 02 ), R}.
Comme pour le cas discret (voir le paragraphe II.7), relevons que le fait davoir traite 2. H0 = { = 0 }, H1 = { 6= 0 }, avec 0 R.
indifferemment toutes les valeurs possibles de R et, sil y a lieu, de ]0, +[ est peu
Xn 0
conforme a la realite experimentale. On peut donc, ici aussi, envisager de munir lespace des 3. Statistique de test : n = n .
valeurs du parametre dune probabilite a priori. 0
Nous nous limitons ici au cas ou la variance 0 est connue (modele P = {N (, 02 ), 4. Loi sous H0 : N (0, 1).
R}) et ou on adopte pour loi a priori sur une loi normale N (, 2 ) (avec, bien sur, le 5. Loi sous H1 : gaussienne reduite decentree.
probleme pratique du choix de ces parametres et 2 de la loi a priori, qui sont qualifies 6. Region critique : Wn = {|n | a}.
dhyperparametres). On peut alors calculer la loi a posteriori, une fois observee une suite
2 + n 2 xn 2 2 7. Niveau exact : a = 1/2 , ou 1/2 est le quantile dordre 1 /2 de N (0, 1).
(x1 , . . . , xn ) de moyenne empirique xn ; cest la loi N ( 0 2 , 2 0 ). 8. Test convergent.
0 + n 2 0 + n 2
II.9. RESUME DES PROCEDURES DE TEST 37 38 CHAPITRE II. MODELE PARAMETRIQUE

9. p-valeur : P(|G| nobs ) ou G de loi N (0, 1).


10. Variante : H0 = { 0 }, H1 = { > 0 }. Meme statistique de test. Region critique :
Wn = {n a}. Niveau exact : a = 1 . Test convergent. p-valeur : P(G nobs ).

II.9.3 Le modele gaussien a variance inconnue


1. Modele : (Xk , 1 k n) suite de v.a. i.i.d. de loi gaussienne : P = {N (, 2 ),
R, > 0}.
2. H0 = { = 0 }, H1 = { 6= 0 }, avec 0 R.
Xn 0
3. Statistique de test : n = n .
Sn
4. Loi sous H0 : Student de parametre n 1.
5. Comportement asymptotique sous H 1 : n converge p.s. vers ou +.
6. Region critique : Wn = {|n | a}.
7. Niveau exact : a = tn1,1/2 , ou tn1,1/2 est le quantile dordre 1 /2 de la loi
de Student de parametre n 1.
8. Test convergent.
9. p-valeur : P(|T | nobs ) ou T de loi de Student de parametre n 1.
10. Variante : H0 = { 0 }, H1 = { > 0 }. Region critique : Wn = {n a}. Niveau
exact : a = tn1,1 . Test convergent. p-valeur : P(T nobs ).
40 CHAPITRE III. MODELE LINEAIRE GAUSSIEN

ou
X = (Xi )i=1,...,n designe les observations effectuees.
= (1 , . . . , p ) est un vecteur de parametres inconnu caracterisant les facteurs controles
que lon souhaite etudier a laide de ces observations.
= (i )i=1,...,n sont des variables aleatoires independantes et centrees, representant
Chapitre III lerreur experimentale. Le modele est gaussien si est un vecteur gaussien centre (voir
VII.2.2).
f () est une application connue qui fixe le modele. Ce modele est lineaire si f () est
une application 7 R ou R est une matrice. Le modele secrit alors matriciellement :
Modele lineaire gaussien X = R + .
Dans la suite nous considererons des modeles lineaires gaussiens. Ces deux hypotheses
(linearite et caractere gaussien de lerreur) doivent etre validees. Pour les verifier on peut,
III.1 Generalites soit utiliser la connaissance a priori que lon a du modele, soit construire des tests.
Dans certains cas, lorsquil y a plusieurs observations, le caractere gaussien peut etre une
III.1.1 Plans dexperiences consequence du theoreme de la limite centrale (voir VII.3.2). Enfin, dans de nombreux cas,
on peut rendre le modele gaussien et lineaire en modifiant le modele, ou en effectuant des
Le statisticien planifie une experience statistique en fonction dun objectif qui est sou- transformations sur les observations.
vent letude de leffet de certains facteurs de variabilite dun phenomene. Ces facteurs sont
presents sous plusieurs modalites.
III.1.3 Exemples
La technique de bon sens lorsque plusieurs facteurs sont a etudier est de ne modifier
quun facteur a la fois. Par exemple, si on dispose de 3 facteurs presents chacun sous p Dans ce paragraphe nous proposons des exemples illustrant la problematique precedente.
modalites, cette technique conduirait a fixer 2 facteurs puis etudier dans chacun des cas leffet Dans les sections suivantes, nous donnerons les elements permettant de resoudre ce type de
du troisieme facteur, soit 3p2 experiences. Dans beaucoup de cas le cout, lefficacite, ou les problemes.
possibilites effectives dexperimentation, recommandent de minimiser le nombre dexperiences
Exemple III.1. Le tableau ci-dessous represente des mesures de hauteurs darbres en metres
tout en conservant un cadre experimental rigoureux. En repondant a ces criteres, la methode
effectuees dans 3 forets distinctes. On rassemble dans un meme tableau les mesures effectuees
des plans dexperience initiee au debut du XX eme siecle par Ronald A.Fischersest imposee
dans les 3 forets dans le but de les comparer.
dans le cadre industriel pour tester des medicaments, des varietes de plantes, des procedes
Le facteur etudie est ici linfluence de la foret sur la hauteur de ces arbres. La variabilite
de fabrication, etc...
de la hauteur due ici au tirage dun echantillon aleatoire dans chaque foret se decompose donc
Lobjectif de la construction de plans dexperience est de mettre en place un dispositif
naturellement en une partie controlee, le facteur (foret), et une partie aleatoire, la variabilite
experimental permettant daboutir a une interpretation statistique des resultats notamment a
intrinseque a la pousse des arbres due au terrain, a la lumiere, a la presence ou non dun
laide de tests dhypotheses. Pour cela il faut construire un modele statistique qui distinguera
autre arbre a proximite...
parmi les facteurs de variabilite les facteurs controles et les facteurs aleatoires.
On peut supposer que les hauteurs des differents arbres sont independantes (ce qui exige
Les facteurs controles sont :
que lon ne mesure pas des arbres trop rapproches les uns des autres), et que, pour la foret
quantitatifs : on parle alors de facteurs explicatifs. numero k, la mesure dun arbre suit une loi gaussienne de moyenne m k et de variance k2 ;
qualitatifs : ils sont distingues dans ce cas par leur position dans le dispositif experi- on peut alors comparer les 3 echantillons 2 a 2. Mais si la variabilite des hauteurs des arbres
mental. peut etre consideree comme identique dune foret a lautre ( 12 = 22 = 32 = 2 ) on observe
Les facteurs aleatoires, ou erreur experimentale, representent la part de variabilite trois echantillons gaussiens de meme variance 2 et de moyennes differentes qui representent
non associee a un facteur controle de lexperience : erreurs de mesures, variabilite due leffet de chaque foret (les modalites du facteur foret) sur la pousse des arbres. Lhypothese
a un tirage aleatoire, etc... degalite des variances est appelee homoscedasticite. Avec ces hypotheses on peut alors
ecrire :
III.1.2 Le modele general Xi,j = mi + i,j pour la j-ieme mesure de la foret i, j = 1, . . . , n i , i = 1, 2, 3,
Ce type dexperience statistique peut etre decrit avec le modele general suivant : ou N (0, 2 ). Ceci secrit avec une notation matricielle :
X = f () + , X = R + ,

39
III.1. GENERALITES 41 42 CHAPITRE III. MODELE LINEAIRE GAUSSIEN

Foret 1 Foret 2 Foret 3 Annees 1956 1957 1958 1959 1960 1961 1962 1963 1964 1965
n1 = 13 arbres n2 = 14 n3 = 10 Jours 154 161 193 131 198 152 159 159 146 196
23.4 22.5 18.9 Hauteur 545 536 783 453 739 541 528 559 521 880
24.4 22.9 21.1
Annees 1966 1967 1968 1969 1970 1971 1972 1973 1974 1975
24.6 23.7 21.2
Jours 192 161 176 173 199 141 170 156 198 164
24.9 24.0 22.1
Hauteur 834 592 634 618 631 508 740 576 668 658
25.0 24.4 22.5
26.2 24.5 23.5 Annees 1976 1977 1978 1979 1980 1981 1982 1983 1984 1985
26.3 25.3 24.5 Jours 135 179 171 172 170 197 173 177 177 163
26.8 26.0 24.6 Hauteur 417 717 743 729 690 746 700 623 745 501
26.8 26.2 26.2 Annees 1986 1987 1988 1989 1990 1991 1992 1993 1994 1995
26.9 26.4 26.7 Jours 176 180 167 140 149 140 154 155 192 162
27.0 26.7 Hauteur 611 707 734 573 501 472 645 663 699 670
27.6 26.9
27.7 27.4
28.5 Tab. III.2 Jour et quantite de pluie par annees

Tab. III.1 Hauteurs darbres dans 3 forets Une representation sur un graphique (fig. III.1) des donnees avec en abscisse le nombre
de jours de pluie et en ordonnee la hauteur de pluie permet de constater que lensemble des
points forme un nuage allonge et que la quantite de pluie augmente lorsque le nombre de
ou est un vecteur aleatoire gaussien, et
jours de pluie augmente.
Le facteur hauteur de pluie est alors un facteur a expliquer par le facteur explicatif controle
X = (X1,1 , . . . , X1,n1 , X2,1 , . . . , X2,n2 , X3,1 , . . . , X3,n3 )t ,
nombre de jours de pluie.

1 0 0 900
.. .. .. 65
. . . 850
66
1 0 0
800
58

0 1 0 750 84 81
m1 78
88 7279 60

.. .. .. 77
87
R = . . . , = m2 700
80
82 94
95 74
0 1 0 m3 650
93
92
75
68 70
69 83
86
600
67
0 0 1 89 73
63
. . . 550
6156
.. .. .. 71
64 62
57

500 90 85
0 0 1 91
450 59

Ce probleme est un probleme danalyse de la variance a un facteur. Il sera etudie en III.3. 76


400
Pour repondre a la question existe-t-il un effet foret, on construira un test statistique dont 120 130 140 150 160 170 180 190 200 210

lhypothese nulle est :


Fig. III.1 Representation des donnees
H0 = {m1 = m2 = m3 }.


La question que lon se pose est de savoir si ces deux quantites sont liees par une relation
Exemple III.2. Le tableau suivant donne le nombre de jours de pluie et la hauteur de pluie affine, de calculer les parametres de cette relation et davoir une indication sur le caractere
en mm, observes pendant toute lannee a Paris de 1956 a 1995. predictif de ce modele (autrement dit, peut-on deduire de facon satisfaisante la hauteur de
pluie a partir du nombre de jours de pluie ?).
III.2. STATISTIQUE DES ECHANTILLONS GAUSSIENS 43 44 CHAPITRE III. MODELE LINEAIRE GAUSSIEN

Le modele statistique que lon propose est le suivant : Enfin, on utilise souvent la convention pratique suivante
P : si une v.a. X a pour loi F , on
note aF la loi de aX. Ainsi, on notera 2 2 (n) la loi de ni=1 Xi2 dans le cas ou (X1 , . . . , Xn )
Xi = + r i + i forment un n-echantillon de la loi N (0, 2 ).

ou :
III.2.1 Theoreme de Cochran
X = (Xi )i=1,...,n designe la hauteur de pluie.
(ri )i=1,...,n designe le nombre de jours de pluie Cest loutil fondamental pour letude des echantillons gaussiens et du modele lineaire
la droite dequation gaussien (la notation || || designe la norme euclidienne dans R n ).
x=r+
Theoreme III.6. Soit X = (X1 , . . . , Xn ) un n-echantillon de N (0, 1), et E1 , . . . , Ep une
est appelee droite de regression ; et sont a estimer a partir des observations. decomposition de Rn en p sous-espaces deux-a-deux orthogonaux, avec dim(E j ) = dj , j =
= (i )i=1,...,n represente les ecarts aleatoires entre les observations et la droite. On 1, . . . , p. Alors on a :
supposera que cest une suite de variables aleatoires independantes de loi N (0, 2 ). (i) Les composantes de X dans toute base orthonormale de R n forment encore un n-
Le modele peut alors secrire : echantillon de N (0, 1).
X = R +
(ii) Les vecteurs aleatoires XE1 , . . . , XEp , qui sont les projections de X sur E1 , . . . , Ep , sont
en notant : independants.
1 r1
1 r2   (iii) Les variables aleatoires ||X E1 ||, . . . , ||XEp || sont independantes, et
||XEj ||2 2 (dj ), j = 1, . . . , p.
R = . . , et =
.. ..
Une formulation equivalente consiste a dire (par exemple avec p = 2), que si P 1 et P2
1 rn
sont deux projecteurs orthogonaux de R n sur deux sous-espaces orthogonaux E 1 et E2 de
Cest un modele de regression lineaire simple qui sera etudie en III.4. dimensions d1 et d2 , alors P1 X = XE1 et P2 X = XE2 sont independants, et ||P1 X||2 et
||P2 X||2 sont independants et ont pour lois respectivement 2 (d1 ) et 2 (d2 ).

III.2 Statistique des echantillons gaussiens III.2.2 Statistiques fondamentales


Placons-nous donc dans le cas ou (X 1 , . . . , Xn ) est un n-echantillon de la loi N (, 2 ). Les
Nous avons deja etudie en II.8.1 la modelisation dobservations reelles (X 1 , . . . , Xn ) par
statistiques utiles pour les problemes de test ou dintervalle de confiance sur les parametres
une loi gaussienne de moyenne et de variance 2 , loi que nous notons N (, 2 ). Nous avons
et 2 sont fonction de la moyenne empirique, que nous notons
vu aussi la construction dintervalles de confiance et de tests pour ce type de situation. Nous
n
avons en particulier enonce que, dans le cadre gaussien, il nest pas necessaire de faire appel 1X
au theoreme de limite centrale pour approcher, pour n assez grand, la loi de la statistique X = Xi ,
n
i=1
dinteret, T = n(X )/S (ou X designe la moyenne empirique, et S la racine carree
de la variance empirique sans biais), par une loi normale centree reduite. En effet, si les et de la variance empirique, dont nous choisissons ici la version sans biais (voir II.8.1) :
observations Xi suivent la loi N (, 2 ), i = 1, . . . , n, on montre que T suit la loi de Student n
" n #
a n 1 degres de liberte, ce que nous notons T t(n 1), et ce pour tout n 2. Ce resultat 2 1 X 2 n 1X 2 2
S = (Xi X) = Xi X .
est precise en III.2.2 ci-dessous. n1 n1 n
i=1 i=1
Rappelons pour commencer les definitions des lois associees aux echantillons gaussiens
Utilisons le theoreme III.6 dans le cas ou p = 2 et ou on projette X sur le sous-espace E de
qui, comme la loi de Student, nous serons utiles dans la suite (voir VII.2.2).
dimension 1 engendre par le vecteur (norme) de R n , e1 = 1n 1n (ou on note 1n le vecteur

P III.3. Si (X1 , . . . , Xn ) est un echantillon de loi normale N (0, 1), alors la loi de
Definition de dimension n ayant toute ses coordonnees egales a 1). On obtient X E = nX 1n 1n . La
la v.a. ni=1 Xi2 est la loi du chi-deux a n degres de liberte, notee 2 (n). norme de la projection de X sur lorthogonal de E (de dimension n 1) est
Definition III.4. Si X N (0, 1), Y 2 (n) et que X et Y sont independantes, alors n
X
X t(n), loi de Student a n degres de liberte. ||X XE ||2 = (Xi X)2
Y /n
i=1

Definition III.5. Si X 2 (n), Y 2 (m) et que X et Y sont independantes, alors qui suit la loi 2 2 (n 1) (cest le point (iii) du theoreme de Cochran a ceci pres quil faut
X/n
Y /m F(n, m), loi de Fisher (ou de Fisher-Snedecor) a n et m degres de liberte. tenir compte de la variance 2 ). On en deduit les resultats suivants, utiles pour le statisticien :
III.2. STATISTIQUE DES ECHANTILLONS GAUSSIENS 45 46 CHAPITRE III. MODELE LINEAIRE GAUSSIEN

Proposition III.7. Soit X = (X1 , . . . , Xn ) un n-echantillon de N (, 2 ). Alors on a : c = tn1,1 pour le test de H0 contre H11
(i) Les v.a. X et S 2 sont independantes. c = tn1,1 pour le test de H0 contre H12
(ii) (n 1)S 2 2 2 (n 1). c = tn1,1/2 pour le test (bilateral) de H0 contre H13 .

n(X ) Remarque III.8. Lexpression test de lhypothese nulle H 0 = { = 0 } contre H11 = { >
(iii) t(n 1).
S 0 } implique que lespace des parametres (, 2 ) est [0 , +[R+ ; la technique de test
P
Remarquons que la v.a. ni=1 (Xi )2 suit elle-meme la loi 2 2 (n) mais, si est inconnu, utilisee reste valable pour tester, quand lespace des parametres est R R + , lhypothese nulle
son calcul nest pas accessible. Le point (ii) exprime intuitivement le fait que lon perd un H0 = { 0 } contre H11 = { > 0 } ; en effet, le fait que T ait tendance a prendre des
degre de liberte en raison du remplacement de , inconnu, par son estimateur X. De meme valeurs dautant plus grandes que est grand entrane que, si la probabilite de conclusion

la v.a. n(X )/ N (0, 1), autrement dit le point (iii) signifie que la loi de Student fausse ( > 0 ) est egale a si le parametre vaut 0 , elle est inferieure a si le parametre
remplace la loi normale comme loi de la moyenne empirique normalisee dans le cas ou est est inferieur a 0 .
inconnu et doit etre remplace par son estimateur S.
La proposition precedente permet de construire des intervalles de confiance et des tests
pour les parametres et 2 en presence dobservations (X1 , . . . , Xn ) i.i.d. de N (, 2 ), dans III.2.4 Intervalles de confiance et tests pour la variance
le cas ou les deux parametres sont inconnus.
Le raisonnement est identique dans le cas de la variance : la construction dintervalles de
III.2.3 Intervalles de confiance et tests pour la moyenne confiance ou de tests se fait a partir de la connaissance de la loi, sous lhypothese nulle ou a
la frontiere de celle-ci, de lestimateur du parametre dinteret.
La construction dintervalles de confiance et de tests pour la moyenne dans ce cadre a
deja ete vue en II.8.1. Intervalles de confiance

Intervalles de confiance Lestimateur (sans biais) de 2 est la variance empirique sans biais S 2 , et le point (ii) de
la proposition III.7 permet decrire par exemple que, si 2n,1 est le quantile dordre (1 )
Le point (iii) ci-dessus permet de proposer de la loi 2 (n),
   
S S (n 1)S 2
X tn1,1/2 ; X + tn1,1/2 P 2n1,/2 < < 2
n1,1/2 = 1 ,
n n 2
comme intervalle de confiance pour de niveau (1), ou t n,1 est le quantile dordre (1) dou lon deduit un intervalle de confiance pour la variance (bilateral dans cet exemple) de
de la loi de Student t(n), i.e. la valeur telle que P(T > t n,1 ) = si T t(n). On procedera niveau de confiance (1 ) :
de meme pour determiner des intervalles de confiance unilateraux (a droite ou a gauche), a " #
savoir     (n 1)S 2 (n 1)S 2
S S ; .
; X + tn1,1 et X tn1,1 ; + . 2n1,1/2 2n1,/2
n n

Tests Tests

Les tests de lhypothese nulle H0 = { = 0 } contre les trois alternatives possibles On peut aussi, en suivant la demarche introduite au chapitre II, construire des tests pour
des hypotheses relatives au parametre 2 . Considerons par exemple le test de
H11 = { > 0 }, H12 = { < 0 }, et H13 = { 6= 0 }
H0 = { 2 02 } contre H1 = { 2 > 02 }.
utilisent egalement le resultat de la proposition III.7(iii) : sous lhypothese nulle, la statis-

tique T = n(X 0 )/S t(n 1), et, si lhypothese alternative est H 11 , cette statistique a A la frontiere de H0 , i.e. lorsque la valeur du parametre est 02 , la statistique
tendance a crotre avec , cest-a-dire, avec la terminologie introduite en VII.1.2, a prendre
des valeurs dautant plus grandes que est plus grand ; de meme elle a tendance a decrotre (n 1)S 2
avec si lhypothese alternative est H 12 , et a secarter significativement de 0 si lhypothese Z= 2 (n 1).
02
alternative est H13 . On choisi donc, comme on la vu au chapitre II, des regions critiques (ou
regions de rejet) de rejet de la forme {T > c}, {T < c}, ou {|T | > c}, et on calibre c de Cette statistique aura tendance a crotre avec sous lhypothese alternative (et de plus
sorte que la probabilite de rejeter a tort soit egale au niveau que lon se donne pour chaque S 2 2 p.s. en vertu de la loi forte des grands nombres), dou le choix dune region de rejet
test. Ceci conduit a prendre pour c les quantiles suivants de la loi de Student : de la forme ]c, +[, ou c est calibre (le plus petit possible) de sorte que P 0 (Z > c) = .
III.2. STATISTIQUE DES ECHANTILLONS GAUSSIENS 47 48 CHAPITRE III. MODELE LINEAIRE GAUSSIEN

Ceci amene donc a choisir pour c le quantile dordre (1 ) de la loi 2 (n 1), autrement et elle est independante de U 2 (puisque Xi est independante de Si2 , i = 1, 2 par le theoreme
dit a conclure de Cochran). Le rapport de ces deux v.a. convenablement normalise, voir la definition III.4,
(n 1)S 2 suit donc une loi de Student. Or dans ce rapport le parametre de nuisance 2 selimine :
Rejet de H0 si > 2n1,1 .
02
Le lecteur pourra construire les tests relatifs aux situations suivantes : Z n1 + n 2 2 (X1 X2 (1 2 )) n1 + n2 2
= p t(n1 + n2 2).
U/ U 1/n1 + 1/n2
H0 = { 2 02 } contre H1 = { 2 < 02 },
H0 = { =2
02 } contre H1 = { 2 6= 02 }. Cette statistique est utilisable pour construire des intervalles de confiance pour 1 2 ,
selon la procedure decrite au chapitre I. Elle sert egalement a construire selon la procedure
habituelle des tests relatifs a des hypotheses portant sur 1 2 . Par exemple, le test de
III.2.5 Comparaison de moyennes de deux echantillons gaussiens
legalite des moyennes utilise la statistique de test
Nous considerons ici le probleme de la comparaison de parametres relatifs a deux popula-
tions, au vu de deux echantillons. Nous supposons disposer dobservations reelles, gaussiennes, (X1 X2 ) n1 + n2 2
T = p t(n1 + n2 2) sous H0 ,
de meme variance inconnue, et de moyennes eventuellement differentes, sur lesquelles vont U 1/n1 + 1/n2
porter les hypotheses nulles a tester. Cette situation peut etre vue comme un cas simple de
lanalyse de la variance traitee en III.3, et on peut se reporter en III.1 et a la section suivante et cette statistique a tendance a seloigner de 0 lorsque | 1 2 | crot. Le test de niveau
pour un exemple de problematique. rejette donc H0 lorsque |T | > tn1 +n2 2,1/2 . Si lon observe la valeur t pour la v.a. T , la
Lobservation consiste en deux echantillons independants entre eux (non apparies) p-valeur pour ce test est donnee par P(|T | > t), ou T t(n 1 + n2 2).

(X1,1 , . . . , X1,n1 ) i.i.d. N (1 , 2 ) Exemple III.9. Reprenons lexemple III.1, et supposons que lon ne dispose que des donnees
2 relatives aux forets 1 et 2. Le test de legalite des moyennes de ces forets donne :
(X2,1 , . . . , X2,n2 ) i.i.d. N (2 , ),
et on souhaite tester, par exemple, X1 = 25.97, S1 = 1.36, X2 = 25.38, S2 = 1.77, et t = 0.9542.

H0 = {1 = 2 } contre H1 = {1 6= 2 }. Cela correspond a la p-valeur p = 0.3491. On ne peut pas rejeter H0 (egalite des deux
moyennes) a tous les niveaux usuels (1%, 5%, 10%).
Comme dans le cas de la comparaison de proportions fondee sur des echantillons non apparies

(voir IV.4.2), il est pratique de faire porter le test sur lhypothese nulle equivalente
H0 = {1 2 = 0}. III.3 Analyse de la variance a un facteur
Puisque lon a fait lhypothese de modelisation que les deux populations sont de meme va-
riance 2 (hypothese simplificatrice, mais qui sera egalement celle de lanalyse de la variance), III.3.1 Comparaison de plusieurs echantillons gaussiens
la loi de la statistique dinteret, difference des moyennes empiriques des deux populations, La problematique qui conduit au modele lineaire gaussien, et plus precisement a lanalyse
est donc  1  de variance a deja ete introduite sur lexemple III.1 des forets. Voici un autre contexte donnant
1
X1 X2 N 1 2 , 2 + , lieu a la meme modelisation.
n1 n2 Une situation classique, par exemple en agronomie, consiste en levaluation du rendement
Pni
ou Xi = j=1 Xi,j /ni , i = 1, 2. Notons alors S12 et S22 les variances empiriques sans biais des de plusieurs varietes de ble et en la comparaison de ces rendements. Si lon souhaite comparer k
P i
deux populations, autrement dit (n i 1)Si2 = nj=1 (Xi,j Xi )2 , i = 1, 2. En appliquant le varietes de ble (V1 , . . . , Vk ), et que lon dispose de n parcelles identiques sur lesquelles on
resultat de la proposition III.7 (ii) a chaque echantillon on obtient leurs lois : (n i 1)Si2 peut planter les differentes varietes, on peut realiser lexperience suivante :
2 2 (ni 1), i = 1, 2. Les statistiques S1 et S2 etant independantes, on en deduit (voir 1. regrouper au hasard les n parcelles en k groupes, deffectifs n 1 , n2 , . . . , nk , de sorte que
Pk
VII.2.2, p. 160) que i=1 ni = n, les ni , i = 1, . . . , k netant pas necessairement egaux ;

U 2 = (n1 1)S12 + (n2 1)S22 2 2 (n1 + n2 2), 2. sur les ni parcelles du i-eme groupe, planter la variete V i et observer les rendements
Xi,1 , . . . , Xi,ni .
autrement dit U 2 / 2 2 (n 1 + n2 2) et donc U 2 /(n 1 + n2 2) est un estimateur sans biais
Il est alors raisonnable de supposer que le rendement observe sur une parcelle sur laquelle
de 2 . La loi de (X1 X2 ) centree reduite est
a ete plantee la variete Vi est la somme dun effet moyen du a la variete de ble, et dun
(X1 X2 ) (1 2 ) ensemble de facteurs imprevisibles, les perturbations, que lon modelise par les realisations
Z= p N (0, 1),
1/n1 + 1/n2 dune v.a. centree. Dans cet exemple, les perturbations aleatoires representent les variations
III.3. ANALYSE DE LA VARIANCE A UN FACTEUR 49 50 CHAPITRE III. MODELE LINEAIRE GAUSSIEN

entre parcelles dues au sol, au climat, a la maniere de semer. . . On admet frequemment que III.3.2 Cadre general du modele lineaire gaussien
ces perturbations sont convenablement modelisees par une loi gaussienne (car resultant de
Lintroduction generale et lexemple precedent permettent de degager le cadre formel ci-
laddition de nombreux effets), et que lamplitude de ces perturbations est la meme pour
dessous. On effectue n observations X = (X 1 , . . . , Xn ), et chaque observation est laddition
toutes les experiences (hypothese dite dhomoscedasticite).
dun effet moyen et dun bruit. Si on considere le vecteur des observations X R n , le
Ces considerations conduisent a poser
modele secrit
Xi,j = mi + i,j , i = 1, . . . , k, j = 1, . . . , ni , X = + ,
ou mi est le rendement moyen de la variete V i , qui est inconnu, et les i,j sont des v.a. et on fait les hypotheses (de modele) suivantes :
independantes de loi N (0, 2 ), ou 2 > 0 est inconnu egalement. Autrement dit, les ( i,j )
M 1 leffet moyen est inconnu et non observable, mais E, sous espace vectoriel de R n ,
forment un n-echantillon de la loi N (0, 2 ).
fixe et de dimension k ;

Notation vectorielle M 2 le vecteur aleatoire (non observable) a pour loi N (0, 2 In ) et le parametre 2 > 0 est
inconnu.
Rangeons les i,j en colonne par groupes, et notons le vecteur de R n obtenu. Ce vecteur
aleatoire t Estimation
= 1,1 , . . . , 1,n1 , 2,1 , . . . , 2,n2 , . . . . . . , k,1 , . . . , k,nk
est un vecteur gaussien de loi N (0, 2 In ) (ou In est la matrice identite a n lignes et n colonnes, Ayant observe X, le point de E le plus proche de X est sa projection sur E, X E = + E ,
voir VII.2.2, p.159). De meme, on note X le vecteur des n observations rangees dans le meme qui est lestimateur intuitif de . La projection sur lorthogonal de E, X X E = E
ordre : ne contient pas dinformation sur (elle est centree) : cest un indicateur de la dispersion
t
X = X1,1 , . . . , X1,n1 , X2,1 , . . . , X2,n2 , . . . . . . , Xk,1 , . . . , Xk,nk , des observations, quil est naturel dutiliser pour estimer 2 . On precise ceci dans le resultat
suivant, consequence directe du theoreme III.6.
et le vecteur des effets moyens associes aux observations :
t Proposition III.10. On observe X = + avec les hypotheses M 1 et M 2. Alors on a :
= m1 , . . . , m 1 , m 2 , . . . , m 2 , . . . . . . , m k , . . . , m k ,
| {z } | {z } | {z } (i) XE est un estimateur sans biais de .
n1 n2 nk
(ii) ||X XE ||2 /(n k) est un estimateur sans biais de 2 .
(on rappelle que t designe la transposition, de sorte que X et sont des matrices a n lignes
et 1 colonne). Le modele secrit alors vectoriellement sous la forme observation = moyenne (iii) XE et X XE sont independants.
+ bruit : (iv) ||XE ||2 2 2 (k) et ||X XE ||2 2 2 (n k).
X = + , Rn , N (0, 2 In ),
On peut montrer egalement que, pour tout vecteur u R n , le produit scalaire hu, XE i
autrement dit X N (, 2 In ), et le vecteur se trouve ici appartenir a un sous-espace
est lestimateur de hu, i sans biais de variance minimum.
vectoriel de Rn de dimension k < n, si bien que le parametre inconnu du modele, (, 2 ),
consiste en k + 1 parametres reels (avec 2 > 0).
III.3.3 Repartition de la variation
Test On peut avoir une idee intuitive des quantites (ou resumes) issues des donnees qui sont
Plus que lestimation de ces parametres inconnus, le probleme qui se pose souvent a pertinentes au regard de la decision a prendre (existe-t-il une difference entre les varietes de
lagronome est celui du test de lhypothese nulle H 0 : le facteur variete de ble na pas ble ?). Il est ainsi naturel de calculer les moyennes empiriques par groupe et de regarder
deffet, aussi appele test dhomogeneite des moyennes : si celles-ci sont assez differentes pour justifier le rejet de H 0 . Cette difference est a apprecier
relativement a la dispersion des donnees dans chaque groupe, cest-a-dire (avec les hypotheses
H0 : m 1 = m 2 = = m k contre H1 :cest faux. faites sur le modele) relativement au parametre 2 ou plutot a son estimation.
Lagronome choisit cette hypothese nulle car les donnees lui font penser quil y a au contraire Il est dusage de noter les differentes moyennes empiriques intervenant en remplacant par
une difference entre les varietes de ble. Il envisage donc de rejeter H 0 afin de sefforcer den un point lindice de sommation sur lequel se fait la moyenne. Les moyennes empiriques de
deduire ensuite la (les) variete(s) significativement la (les) meilleure(s), et ce rejet de H 0 a des chaque sous-echantillon (groupe) sont donc
consequences importantes puisquil lui faudra ensuite, par exemple, distribuer a ses clients la ni
variete jugee meilleure et retirer les autres. Le niveau du test borne ainsi la probabilite que 1 X
Xi, = Xi,j , i = 1, . . . , k
cette decision couteuse soit prise a mauvais escient. ni
j=1
III.3. ANALYSE DE LA VARIANCE A UN FACTEUR 51 52 CHAPITRE III. MODELE LINEAIRE GAUSSIEN

et la moyenne empirique de toutes les observations (la moyenne generale) est autrement dit, si on note 1n le vecteur dont toutes les composantes valent 1, H = {1 n , R}
qui est de dimension 1.
k
i n
1 XX Sous H0 , la projection de X sur H est XH = +H , et donc la projection sur lorthogonal
X, = Xi,j . de H dans E est XE XH = E H , projection du vecteur gaussien centre , dou ||X E
n
i=1 j=1
XH ||2 2 2 (k 1). Si au contraire on se place dans lhypothese alternative, il se produit un
La variation totale des observations est decentrage puisque XE XH = (H )+(E H ). Il est donc naturel dutiliser ||X E XH ||2
comme statistique de test puisquelle a tendance a crotre avec || H ||2 .
ni
k X
X Malheureusement la loi de ||XE XH ||2 nest connue sous H0 qua 2 pres. On procede
SST = (Xi,j X, )2 , donc comme pour le test de Student, en remplacant 2 par son estimateur
i=1 j=1
||X XE ||2
ou SST est lacronyme utilise par les logiciels de statistique anglo-saxons pour Total Sum of
nk
Squares. Cette variation totale est la somme de la variation interclasses, ecarts entre les
moyennes des groupes et la moyenne generale ponderes par les effectifs des groupes, qui est sans biais quelle que soit la localisation de dans E. Techniquement, ceci revient a
utiliser la loi dun rapport de v.a. convenablement normalise et dans lequel le parametre
k
X disparat : les v.a. ||X XE ||2 / 2 et ||XE XH ||2 / 2 sont independantes et suivent cha-
SSM = ni (Xi, X, )2 ,
i=1
cune une loi du chi-deux centree (sous H 0 seulement pour ||XE XH ||2 / 2 ), donc (voir la
definition III.5)
et de la variation intraclasses, donc a linterieur des groupes,
||XE XH ||2 /k 1
ni
k X F = F(k 1, n k) sous H0 .
X ||X XE ||2 /n k
SSE = (Xi,j Xi, )2 .
i=1 j=1 Sous lhypothese alternative ||XE XH ||2 / 2 suit une loi du chi-deux decentree, de decentrage
|| H ||2 / 2 . Le numerateur ||XE XH ||2 /k 1, comme F , ont tendance a crotre quand le
Il est intuitivement clair que la variation interclasses sera dautant plus grande que les
parametre de decentrage augmente (voir VII.2.2, p. 160) : F suit une loi de Fisher decentree.
moyennes empiriques des groupes seront eloignees les unes des autres. Cette variation in-
On verifie que le decentrage, et donc cette statistique de test, tend vers + lorsque n .
terclasses est pour cette raison souvent appelee variation expliquee par le modele, ce
Le test de niveau conduit ainsi a
qui justifie lacronyme SSM (Sum of Squares for the Model) souvent utilise. De meme, la va-
riation intraclasses mesure sur chaque groupe les ecarts entre les individus et la moyenne de rejeter H0 des que F > Fk1,nk,1 ,
leur groupe dappartenance. Sous lhypothese dhomoscedasticite, il sagit donc, a n i 1 pres,
de lestimateur de la variance 2 calcule sur le groupe i, puis somme sur tous les groupes. ou Fk1,nk,1 est le quantile dordre (1 ) de la loi de Fisher F(k 1, n k).
Remarquons que dans le cas k = 2 on retrouve la statistique U 2 utilisee en III.2.5 pour le Pour appliquer ce test, calculons la projection de X sur E. Considerons la base de E
cas de deux echantillons. Cette variation intraclasses est pour cette raison souvent appelee donnee par (1n1 , . . . , 1nk ), ou 1ni est le vecteur de Rn ayant ni coordonnees egales a 1 et
variation residuelle, ou encore chez les anglo-saxons SSE pour Sum of Squares of the Error. toutes les autres nulles, celles egales a 1 correspondant au groupe i dans la notation vectorielle
Par rapport a ce que lon a dit plus haut, on voit que plus la quantite SSM sera grande, du modele danalyse de la variance, autrement dit :
plus on aura tendance a rejeter H0 , et ceci est a moduler avec la quantite SSE qui est
liee a la dispersion. Nous verrons que ces quantites apparaissent dans la statistique du test 1 n1 = (1, . . . , 1, 0, . . . . . . , 0)t ,
| {z }
dhomogeneite. n1
1 n2 = (0, . . . , 0, 1, . . . , 1, 0, . . . . . . , 0)t ,
III.3.4 Test pour legalite des moyennes de k echantillons gaussiens | {z } | {z }
n1 n2
...
Le test de H0 : le facteur variete de ble na pas deffet, que nous avions deja exprime
comme le test de legalite des k moyennes des groupes, peut encore sexprimer comme 1 nk = (0, . . . . . . , 0, 1, . . . , 1)t ,
| {z }
nk
H0 = { H} contre H1 = { E \ H}, Pk Pk
de sorte que = i=1 mi 1ni , et XE = i=1 Xi, 1ni . On deduit du point (i) de la proposi-
ou H est le sous-espace vectoriel de E auquel appartient sous lhypothese nulle, cest-a- tion III.10 que Xi, est un estimateur sans biais de mi pour i = 1, . . . , k (remarquons que lon
dire lorsque nest constitue que dune seule valeur moyenne commune a tous les groupes ; pouvait deduire ce resultat directement de letude faite au chapitre II sur le modele gaussien
III.3. ANALYSE DE LA VARIANCE A UN FACTEUR 53 54 CHAPITRE III. MODELE LINEAIRE GAUSSIEN

en raisonnant sous-echantillon par sous-echantillon). Il sensuit que la norme de la projection Generalisation


sur lorthogonal de E est la residuelle :
Cette technique se generalise a tous les modeles du type
ni
k X
X X = + , Rn , N (0, 2 In )
||X XE ||2 = (Xi,j Xi, )2 = SSE.
i=1 j=1 ou il est stipule que E (sous-espace vectoriel de R n , de dimension k < n) et ou lhypothese
nulle est H (sous-espace vectoriel de E, de dimension h < k) ; il suffit de remplacer, dans
Dautre part, XH = X, 1n , dou
la table danalyse de la variance ci-dessus, k 1 par k h et alors F suit, sous lhypothese
k
X nulle, la loi F(k h, n k).
||XE XH ||2 = ni (Xi, X, )2 = SSM.
i=1
III.4 Regression lineaire multiple
Remarquons enfin que SST = ||X XH ||2 , et que SST = SSM + SSE est une consequence
Rappel de la problematique
du theoreme de Pythagore.
La problematique a ete introduite sur un exemple en III.1. Reprenons-la avec une autre
Table danalyse de la variance situation. Il sagit ici de modeliser un phenomene aleatoire observe par une combinaison
lineaire ou affine de variables explicatives, dont les valeurs sont deterministes et connues pour
Les resultats du test de lappartenance de a H, quand le modele stipule son appartenance chaque experience (ou observation) realisee. Par exemple, si lon souhaite expliquer la duree
a E, sont habituellement resumes dans une table danalyse de la variance, dont le format est dune certaine maladie (en jours) apres ladmission de patients a lhopital, on peut penser que
a peu de choses pres toujours le meme quel que soit le logiciel de statistique utilise. Dans le cette duree est liee a certaines variables quantitatives (i.e., a valeur numeriques). On relevera
cas du test dhomogeneite, cette table contient les elements suivants : par exemple les nombres de bacteries de certains types presentes dans lorganisme du patient
a son arrivee, ainsi que des indicateurs de son etat general (poids, temperature,. . . ).
Si lon dispose de n observations de ces variables explicatives ainsi que de la variable a
Variabilite SS DF MS Fisher p-valeur
expliquer (lobservation de la variable a expliquer est donc faite a posteriori dans cet exemple,
||XE XH ||2 M SM
Interclasse ||XE XH ||2 k1 M SM = f= P(F > f ) lorsque les n patients ont quitte lhopital) on peut etudier la pertinence de cette modelisation
k1 M SE
||X XE ||2 lineaire. Il est possible de tester la significativite du modele, et celle de certaines variables
Intraclasse ||X XE ||2 nk M SE = explicatives. Il est possible aussi destimer les liens entre variables explicatives et variable a
nk
Totale ||X XH ||2 n1 expliquer et eventuellement de faire ensuite de la prediction, cest a dire ici destimer la duree
dhospitalisation dun nouveau patient a partir de la connaissance des valeurs des variables
explicatives dans son cas.
Les acronymes utilises ici sont encore une fois ceux des logiciels de statistique anglo-
saxons : SS pour Sum of Squares, DF pour Degrees of Freedom et MS pour Mean Squares III.4.1 Definition du modele
(MS of the Model pour le carre moyen associe a la variation interclasses et MS of the Error
On observe un phenomene aleatoire X et lon suppose ce phenomene influence par p
pour celui associe a la variation intraclasses). La p-valeur est P(F > f ), calculee lorsque F
variables explicatives ou regresseurs, R 1 , . . . , Rp . Parfois, X est aussi appelee la variable
suit la loi sous lhypothese nulle F(k 1, n k).
dependante, et R1 , . . . , Rp les variables independantes (ou encore, en Econometrie, X est
Exemple III.11. Si on reprend lexemple III.1, on obtient la table suivante pour lanalyse appelee la variable exogene et les R j les variables endogenes).
de la variance des hauteurs darbre dans les 3 forets : On realise n observations, autrement dit X = (X 1 , . . . , Xn ), et on note Ri1 , . . . , Rip les
conditions experimentales pour la i-eme observation X i , cest a dire les valeurs (deterministes)
des p regresseurs lors de lexperience i. On fait comme on la dit lhypothese dune relation
Variabilite SS DF MS Fisher p-valeur lineaire ou affine entre les regresseurs et la variable a expliquer X et, comme en analyse de
Interclasse 49.25 2 24.62 7.18 0.0025 la variance, on suppose observer la somme de leffet de ces regresseurs et dun ensemble de
Intraclasse 116.566 34 3.43 perturbations non observables, que lon resume par un bruit gaussien centre. Ce modele
Totale 165.82 36 secrit ainsi
p
X p
X
On rejette donc H0 au niveau usuel de 5%, ainsi que pour tout niveau 0.0025. Leffet Xi = j Rij + i , ou bien Xi = + j Rij + i , i = 1, . . . , n,
du facteur foret est significatif. j=1 j=1
III.4. REGRESSION LINEAIRE MULTIPLE 55 56 CHAPITRE III. MODELE LINEAIRE GAUSSIEN

ou = (1 , . . . , n ) est un n-echantillon de la loi N (0, 2 ) (lhypothese dhomoscedasticite est Remarquons que, si lon note P le projecteur sur E (donc tel que X E = P X), celui-ci secrit
presente ici aussi, puisque 2 ne depend pas de i). Les parametres inconnus a estimer sont P = M (M t M )1 M t . La residuelle est ||X XE ||2 = hX, X XE i = X t (I P )X, soit
(, 1 , . . . , p , 2 ) dans le cas affine (on retire dans le cas lineaire sans constante).  
||X XE ||2 = X t I M (M t M )1 M t X.
Notation vectorielle 
Dapres le point (iv) de la proposition III.10, ||X X E ||2 2 2 n (p + 1) , et lon estime
Considerons par exemple le cas affine, et posons (sans biais) la variance par
||X XE ||2
1 R11 R1p 2 = .
.. .. .. = 1 R1 Rp  , n (p + 1)
M = . . . n
1 Rn1 Rnp Remarque : dans le cas de la regression sans constante, il suffit de retirer la colonne 1 n de M
et de remplacer p + 1 par p.
la matrice n(p+1) des regresseurs (la colonne de 1, 1 n , etant consideree comme un regresseur
particulier lorsquelle figure dans le modele). Posons aussi R p+1 le parametre du modele, Variances des estimateurs
ou = (, 1 , . . . , p )t . Le modele secrit vectoriellement :
On deduit immediatement de lexpression de que sa matrice de variances-covariances
X = M + , avec M E et N (0, 2 In ), (voir VII.1.3) est
Var() = 2 (M t M )1 .
ou E = {M u, u Rp+1 } est le sous-espace vectoriel de Rn engendre par les colonnes de M .
Ce modele sinscrit ainsi dans le cadre general du modele lineaire gaussien decrit en III.3.2, Exemple III.13. La regression simple (suite de lexemple III.12).
avec adoption des hypotheses M 1 et M 2 qui y ont ete faites. Il est facile de mener les calculs a la main dans le cas de la regression simple. La matrice
On suppose que la dimension de E est p + 1, cest a dire que les p regresseurs et 1 n sont des regresseurs est M = [1n R], dou
lineairement independants, ou ce qui revient au meme que rang(M ) = p + 1, ou encore que la  Pn P 
matrice symetrique M T M est elle-meme de rang p + 1. Cette hypothese nest pas une reelle 1 2
i=1 Ri ni=1 Ri
(M t M )1 = Pn P n ,
perte de generalite puisque, si elle nest pas verifiee, cela signifie que lun des regresseurs est n i=1 (Ri R)
2 i=1 Ri n
combinaison lineaire des autres ; il napporte alors pas dexplication supplementaire et il suffit
de le retirer. et le calcul de donne
Cov(R, X)
= , = X R,
Exemple III.12. La regression simple. Cest la situation ou lon dispose dun seul Var(R)
regresseur (p = 1) que nous notons simplement R. Le modele secrit Pn
ou R = i=1 Ri /n est la moyenne empirique de R, et
Xi = + Ri + i , i = 1, . . . , n, n n n
1X 1X 1X
Var(R) = (Ri R)2 , Cov(R, X) = (Ri R)(Xi X) = Ri Xi RX,
ce qui revient a dire que Xi N ( + Ri , 2 ). On visualise ce modele dans lespace des n n n
i=1 i=1 i=1
variables (R, X) par le fait que les observations tombent dans un tunnel gaussien dam-
plitude le long de la droite dequation x = + r. Lexemple III.2 des donnees de pluie est sont les variances et covariances empiriques (qui ont le sens de mesures descriptives ici puisque
de ce type. R nest pas aleatoire). On peut remarquer que ces estimateurs concident avec les estima-
teurs des moindres carres de la droite de regression de X sur R, cest a dire la pente
et la constante de la droite dequation X = b + aR qui minimisent les carres des ecarts
P n 2
III.4.2 Estimation i=1 (Xi b aRi ) .
On deduit immediatement de lexpression de Var( ) lexpression des variances de et ,
On applique dans ce cadre les resultats de la proposition III.10. La projection de X sur E ainsi que la covariance entre les deux estimateurs (ils ne sont pas independants). Comme ils
est lestimateur sans biais de M . Il secrit X E = M , ou Rp+1 est lestimateur sans sont des estimateurs sans biais des parametres quils estiment, et suivent des lois gaussiennes
biais de . Il est tel que X M est orthogonal a tout vecteur de E, autrement dit pour tout (car combinaisons lineaires de X), on a finalement :
vecteur u Rp+1 , hM u, X M i = 0, ce qui donne
   Pn 
2 2 2
i=1 Ri
= (M t M )1 M t X. N , Pn 2
, N , Pn .
i=1 (R i R) n i=1 (Ri R)2
III.4. REGRESSION LINEAIRE MULTIPLE 57 58 CHAPITRE III. MODELE LINEAIRE GAUSSIEN

Le projete est XE = 1n + R, et on peut ecrire directement la residuelle Table danalyse de la variance pour le modele de regression
n
X Lorsquils traitent un modele de regression, la plupart des logiciels de statistique calculent
SSE = ||X XE ||2 = (Xi Ri )2 ,
les estimateurs des parametres et effectuent des tests individuels de nullite de ces parametres
i=1
(p tests de Student de H0 : j = 0, j = 1, . . . , p, fondes sur les lois que nous avons donne
ecarts entre les valeurs observees et les valeurs ajustees par le modele. Elle suit la loi 2 2 (n plus haut). Ils fournissent egalement une table danalyse de variance associee au modele de
2), et lestimateur sans biais de la variance est ||X X E ||2 /(n 2) qui est independant de . regression. Il sagit du resultat du test de Fisher pour lhypothese nulle pas de modele de
La connaissance des lois des estimateurs de (, ), qui dependent de 2 , ainsi que de la loi de regression, autrement dit aucun regresseur nest significatif. Cest la realisation du test
lestimateur de 2 et cette propriete dindependance permet de construire des intervalles de ci-dessus pour H = {1n , R}.
confiance ou des tests pour et analogues aux intervalles de confiance et tests de Student
construits en III.2.4. Coefficient de determination

Lorsque il y a une constante dans la regression, on appelle coefficient de determination,
III.4.3 Test de lutilite des regresseurs ou R2 , le nombre
||XE X1n ||2
Dans le modele X = M + avec p regresseurs et la constante (cas affine), on souhaite R2 = [0, 1].
||X X1n ||2
souvent tester lutilite dune partie des regresseurs, autrement dit une hypothese nulle de la
forme Cest un indicateur de la qualite de la regression : plus le R 2 est proche de 1, meilleure est
H0 = {Rq+1 , . . . , Rp sont inutiles} contre H1 = {cest faux}, ladequation du modele aux donnees (on parle aussi de pourcentage de la variabilite expliquee
par le modele de regression).
ou 1 q < p, et ou on a eventuellement effectue une permutation de lordre des regresseurs. Remarquons que pour le test de Fisher associe a lhypothese nulle aucun regresseur
La contre-hypothese se comprend comme H 1 : lun des Rj , q + 1 j p au moins est utile. nest significatif, le sous-espace vectoriel H est celui engendre par 1 n ce qui entrane que
Lhypothese nulle, si elle nest pas rejetee, permet alors de simplifier le modele de regression, XH = X1n . Dans ce cas il existe un lien simple entre le R 2 et la statistique du test de Fisher :
en ne conservant quune partie des variables qui etaient a priori explicatives. Les hypotheses
peuvent se reformuler comme (n k) R2
F = .
H0 = {j = 0, j = q + 1, . . . , p} contre H1 = {il existe au moins un j 6= 0}, (k 1) 1 R2

autrement dit comme lappartenance, sous H 0 , de leffet moyen a un sous-espace vectoriel Exemple III.14. La regression simple, (suite et fin de lexemple III.13).
de E de dimension plus petite, ce qui nous ramene a la methode employee pour le test Nous terminons letude detaillee de la regression simple avec le test de non effet du seul
dhomogeneite en analyse de la variance (voir le passage Generalisation en III.3.4, p. 51). regresseur present dans le modele :
P
En effet, le sous-modele associe a H 0 secrit Xi = + qj=1 j Rij + i , i = 1, . . . , n, ou
vectoriellement (en indicant par 0 les quantites qui different sous lhypothese nulle) H0 = { = 0} contre H1 = { 6= 0}.

X = M0 0 + , M0 = [1n R1 Rq ], 0 = (, 1 , . . . , q )t , Remarquons que, ici, il est possible de construire ce test de deux manieres : a partir de la loi
de en utilisant la loi de Student (qui provient, rappelons-le, de lobligation destimer 2 par
et donc M0 0 H = {M0 w : w Rq+1 }, ou H est de dimension q + 1. On teste ainsi
la residuelle), ou bien a partir du test de Fisher. On verifie que les statistiques de ces deux
H0 = {M H} contre H1 = {M E \ H}. tests sont liees par la relation F = T 2 , et ils donnent la meme p-valeur. Nous allons utiliser
ici la seconde methode.
Sous H0 , on estime leffet moyen par la projection de X sur H cest a dire X H = M0 0
Sous H0 , le modele est simplement X = 1n + (il sagit donc dun n-echantillon de
avec 0 = (M0t M0 )1 M0t X. On procede ensuite comme pour le test dhomogeneite : sous
N (, 2 )), et XH = X1n . Nous avons deja precise lexpression de la residuelle dans ce cas.
H0 , ||XE XH ||2 2 2 (p q) mais est inconnu. On prend le rapport avec la residuelle
La somme des carres du modele est
normalisee qui, elle, suit toujours la loi 2 (n p 1), pour construire la statistique de test
n
X
||XE XH ||2 /(p q) SSM = ||XE XH ||2 = ( + Ri X)2 ,
F = F(p q, n p 1) sous H0 .
||X XE ||2 /(n p 1) i=1

La loi du 2 du numerateur (normalise convenablement) se decentre sous lhypothese alter- et la statistique de test
native, dou le test au niveau qui conduit a
||XE XH ||2
rejeter H0 des que F > Fpq,np1,1 . F = F(1, n 2) sous H0 .
||X XE ||2 /(n 2)
III.4. REGRESSION LINEAIRE MULTIPLE 59 60 CHAPITRE III. MODELE LINEAIRE GAUSSIEN

On rejette donc H0 au niveau si F > F1,n2,1 . Enfin, si on a observe la valeur f de la X


statistique F , la p-valeur de ce test est P(F > f ), ou F F(1, n 2).
Dans le cas de la regression simple, le coefficient de determination R 2 = SSM/SST est
aussi le carre du coefficient de correlation entre X et R.


Exemple III.15. Si on reprend lexemple III.2, on obtient les resultats suivants : E\H
Les estimations des parametres valent : = 4.55 et = 128.07. Sur le graphique
(fig. III.2) on a represente la droite de regression.
X
900 E
65

850 E
66 O
800
58

750 78 84 81
88 7279 60
77
700 82
87
94 XH
80 H
93 95 74
75
650 92
68 70
69 83
600
86 Fig. III.3 Le modele est represente par des pointilles ; son estimation par des traits pleins
67
89 73
63
(cest le chemin orthogonal joignant 0 a x en suivant la bissectrice de R n , lespace explicatif
H et le complementaire de celui-ci dans R n ).
550
6156 57
64 62
71 90 85
500
91
450 59

76
Sous H0 , le quotient
400
120 130 140 150 160 170 180 190 200 210
||XE XH ||2 /(p q)
F =
||X XE ||2 /(n p 1)
Fig. III.2 Droite de regression sur le nuage de points
suit une loi de Fisher F(p q, n p 1).
Les intervalles de confiance de Student sont : I 0.05 () = [3.40; 5.70] et I0.05 () =
[322; 66] Sous H1 , le modele complet ajoute quelque chose de significatif au modele nul. Ainsi
Le calcul du R2 et du test de H0 = { = 0} donnent : ||X XE || a tendance a etre petit vis-a-vis de ||X E XH || et le critere F a tendance a
prendre des valeurs elevees. On rejettera donc H 0 si F depasse le quantile 0.95 de la loi de
Fisher F(p q, n p 1).
R2 Fisher p-valeur
0.6294 64.52 < 104

donc on rejette clairement H0 .


III.5 Resume

III.5.1 Analyse de la variance a un facteur
III.4.4 Interpretation geometrique 1. Modele : pour i = 1 . . . k, j = 1 . . . ni ,
Nous donnons une interpretation geometrique du test dutilite de pq regresseurs develop-
pe au paragraphe precedent. Xij = mi + i,j ,
Soit E lespace de dimension p + 1 engendre par les vecteurs 1 n , R1 , . . . , Rp , et H lespace
de dimension q + 1 engendre par les regresseurs utiles (sous H 0 ) 1n , R1 , . . . , Rq . Lana- P
et les n = ki=1 ni v.a. i,j sont i.i.d. de loi N (0, 2 ). Les niveaux du facteur dinteret
logue dun theoreme de geometrie elementaire (theoreme des trois perpendiculaires) dit que m1 , . . . , mk R, et la variance 2 ]0, +[ sont inconnues.
les projections orthogonales de X et X E sur H sont confondues. Le triangle de sommets
(X, XE , XH ), rectangle en XE , contient toute linformation necessaire a lexecution des tests 2. H0 = {m1 = . . . = mk } (le facteur na pas dinfluence),
habituels du modele lineaire. H1 = {i 6= j; mi 6= mj }, (au moins un des niveaux du facteur a de linfluence).
III.5. RESUME 61 62 CHAPITRE III. MODELE LINEAIRE GAUSSIEN

||XE XH ||2 /(p q) 6. Region critique : Wn = {F > a}.


3. Statistique de test : F = , ou
||X XE ||2 /(n p 1) 7. Niveau : a = Fpq,np1,1 , ou Fpq,np1,1 est le quantile dordre 1 de la loi
k de Fisher F(p q, n p 1).
X
||XE XH ||2 = ni (Xi, X, )2 = SSM, 8. Le test est convergent.
i=1
9. p-valeur : P(F f obs ).
Xk
||X XE ||2 = ni (Xij Xi, )2 = SSE.
i=1

4. Comportement sous H0 : F suit une loi de Fischer : F(k 1, n k).


5. Comportement sous H1 : F quand ni pour i = 1 . . . k.
6. Region critique : Wn = {F > a}.
7. Niveau : a = Fk1,nk,1 , ou Fk1,nk,1 est le quantile dordre 1 de la loi de
Fisher F(k 1, n k).
8. Le test est convergent.
9. p-valeur : P(F f obs ).
10. Le test est resume par la table danalyse de la variance :

Variabilite SS DF MS Fisher p-valeur


||XE XH ||2 M SM
Interclasse ||XE XH ||2 k1 M SM = f= P(F > f obs )
k1 M SE
||X XE ||2
Intraclasse ||X XE ||2 nk M SE =
nk
Totale ||X XH ||2 n1

III.5.2 Regression multiple


1. Modele : pour i = 1 . . . n
p
X
Xi = + j Rij + i .
j=1

Les v.a. i , i = 1 . . . n sont i.i.d. de loi N (0, 2 ). Les coefficients de la regression


, 1 , . . . , p et la variance 2 sont inconnues.
2. H0 = {q+1 = . . . = p = 0} (les p q regresseurs R q+1 , . . . , Rp sont inutiles),
H1 = {j {q + 1, . . . , p}, j 6= 0} (un au moins des p q regresseurs R q+1 , . . . , Rp est
utile).
3. Statistique de test :
||XE XH ||2 /(p q)
F = ,
||X XE ||2 /(n p 1)
ou XE est la projection orthogonale de X sur lespace vectoriel, E, engendre par
1, R1 , . . . , Rp , et XH est la projection orthogonale de X sur lespace vectoriel, H, en-
gendre par 1, R1 , . . . , Rq .
4. Comportement sous H0 : F suit une loi de Fischer : F(p q, n p 1).
5. Comportement sous H1 : F quand n .
64 CHAPITRE IV. MODELES DISCRETS

Dans le dernier probleme, leffet du nouveau traitement peut sexprimer en terme de


succes ou dechec. Pour realiser le test, une solution raisonnable est de mesurer la proportion
de succes (ou dechecs) dans deux echantillons (apparies ou non apparies comme nous le
verrons par la suite). Lhypothese nulle sera relative a labsence deffet du traitement, cest-
a-dire a legalite statistique des deux proportions. Ce test est nomme : comparaison de deux
Chapitre IV proportions.

IV.2 Tests du 2
Modeles discrets IV.2.1 Test dadequation a une loi discrete
Le probleme
On observe n v.a. (Xi )1in , independantes et de meme loi, a valeurs dans un espace
IV.1 Problematique des modeles discrets fini A = {a1 , . . . , ak }. Cette loi, inconnue, est caracterisee par la suite p = (p 1 , . . . pk ) (avec
Pk
Est-ce que ce de est pipe ? j=1 pj = 1), ou pour tout j = 1, . . . , k, la quantite p j designe la probabilite dobserver a j
Est-ce que les etudes des enfants dependent de la categorie socioprofessionnelle du pere ? (independante de i en raison de lidentique distribution des X i ) ; soit pj = P(Xi = aj ). La loi
Est-ce que lage influence la presence de maladie cardiaque ? jointe du n-uplet X = (Xi )1in est : pour tout (x1 , , xn ) An ,
Est-ce que le nouveau traitement medical est plus efficace que le precedent ? n k
Y Y card({i ; xi =aj })
Pour repondre a ces quatre problemes bien reels, il est non seulement necessaire de disposer Pp (Xi = xi , 1 i n) = Pp (Xi = xi ) = pj .
de donnees, mais aussi de modeles statistiques adequats et de tests statistiques associes. Ici, i=1 j=1

les donnees sont discretes. Elles sont egalement nommees qualitatives ou encore categorielles.
Remarque IV.1. Il en est ainsi, par exemple, si on procede a un sondage dans une po-
Dans le premier probleme, il y a six modalites (les six faces numerotees, mais il pourrait pulation divisee en k categories, les tirages des n individus pouvant etre consideres comme
tres bien sagir de couleurs). Si le de nest pas pipe, la probabilite dapparition de chaque face independants, et, a chaque fois, la probabilite detre dans une categorie donnee etant egale a
doit etre proche de 1/6, ce sera notre hypothese nulle. Lexperience consistera a lancer ce la proportion (inconnue) dindividus de cette categorie dans la population totale. Cest bien
de un certain nombre de fois, et a evaluer la proportion observee dapparition de chaque face. le cas si on effectue des tirages avec remises et brassage de la population, mais un tel
On comparera alors la distribution observee (les six proportions observees) a la distribution modele durne, quoique traditionnel, nest pas tres realiste. Cependant, on peut considerer
theorique (les probabilites egales a 1/6). Pour cela, nous utiliserons un test dadequation a une quon est approximativement dans le modele propose si on fait porter le tirage sur des indivi-
loi discrete, ou la statistique du 2 associee mesure la distance entre ces deux distributions. dus distincts (tirage sans remise) mais dans un contexte ou la taille totale de la population
Dans le deuxieme exemple, les categories socioprofessionnelles (CSP) et les types detude est tres grande par rapport a celle de lechantillon.
correspondent a des noms. Les donnees sont generalement presentees sous forme dun tableau
a double entrees croisant ces deux variables. Les marges horizontale et verticale representent
On avance lhypothese que le parametre est p0 = (p01 , . . . , p0k ), ou p0j > 0, pour tout
respectivement les distributions des proportions observees des CSP et des types detude, alors
j = 1, . . . , k. Le but est de tester, a un niveau donne , cette hypothese nulle
qua linterieur du tableau les cases sont relatives a la distribution croisee observee. Pour
simple, H0 = {p = p0 }, contre lhypothese alternative H 1 = {p 6= p0 }.
tester lindependance de ces deux variables (ce sera notre hypothese nulle), on peut utiliser la
statistique du 2 dindependance qui mesure la distance entre la distribution croisee observee
et le produit des deux distributions marginales. Intuitions
P
Dans le troisieme exemple, la maladie cardiaque est soit presente, soit absente (type Pour tout j = 1, . . . , k on note Nj = card({i : Xi = aj }) = ni=1 1{Xi =aj } la variable
booleen), par contre lage est exprime numeriquement en annee. Pour chaque age, on considere aleatoire de comptage du nombres de fois ou letat a j est visite par les v.a. Xi , i = 1, . . . , n.
quil y a une probabilite davoir une maladie cardiaque. Lobjectif est alors de rechercher si La v.a. Nj suit une loi binomiale (voir VII.2.1, p. 156) de parametres (n, p j ). On rappelle que
N
cette probabilite crot ou decrot significativement avec lage. Notre hypothese nulle corres- E[Nj ] = npj , que la v.a. Pj = nj est un estimateur convergent sans biais de p j (voir le
pondra a labsence dune liaison. Cette analyse suit la meme demarche vue au chapitre III chapitre II).
dans le cadre du modele lineaire gaussien, la seule difference est que la variable a expliquer Il y a donc lieu de penser que, sil est vrai que p = p0 , la suite des effectifs observes
est booleenne, a la place detre numerique. La methode est nommee regression logistique. nj = card({i : xi = aj }) sera telle que la suite des frequences observees, p = (p 1 , . . . , pk ) =

63
IV.2. TESTS DU 2 65 66 CHAPITRE IV. MODELES DISCRETS

( nn1 , . . . , nnk ), sera proche (en raison de la loi forte des grands nombres citee precedemment) Interessons nous maintenant a la puissance de ce test, cest-a-dire considerons les si-
de la suite mise en test p0 = (p01 , . . . , p0k ). tuations ou p 6= p0 . On demontre (nous ladmettrons ) que, si la loi commune des v.a. X i
Qk nj
Avec cette notation, il vient que Pp (Xi = xi , 1 i n) = j=1 pj , ce qui met est caracterisee par la valeur p du parametre, alors la loi de n.D( P , p0 ) est bien approchee,
en evidence, par la methode de Halmos-Savage (voir le theoreme II.18), que la v.a. k- quand n tend vers linfini, par la loi dite du 2 decentre a k 1 degres de liberte, 2k1,
dimensionnelle N = (Nj )1jk est exhaustive, ce qui justifie que nous fassions porter (voir VII.2.2, p. 160), avec pour coefficient dexcentricite = n.D(p, p 0 ).
notre test sur cette suite des effectifs observes, ou, ce qui revient au meme, sur la suite des Il se produit alors une circonstance heureuse concernant la famille des lois 2k1, : elle
frequences observees P = (Pj )1jk . La loi de N est la loi multinomiale de parametres n et est, a nombre de degres de liberte fixe (ici k 1) stochastiquement croissante avec le
p = (p1 , . . . , pk ), notee M(n, p) (voir VII.2.1, p. 157). On peut verifier que P est lestimation coefficient dexcentricite , cest-a-dire que, pour tout t > 0, la probabilite quune v.a. suivant
par maximum de vraisemblance de p. la loi 2k1, depasse t est fonction croissante de .
On souhaite donc pouvoir caracteriser une distance entre la suite des frequences ob-
servees p et la suite des frequences theoriques p0 , de maniere a rejeter lhypothese nulle 0.15
si cette distance est superieure a une certaine valeur frontiere. Pour realiser ce programme, 0.125
il faut que : 0.1
la loi, sous lhypothese nulle, de cette distance soit (au moins approximati- 0.075
vement) connue de sorte que la frontiere sera le quantile dordre 1 de cette loi (le 0.05
rejet a tort de lhypothese nulle sera bien alors de probabilite approximativement egale
0.025
a ),
si lhypothese nulle nest pas satisfaite, cette distance ait tendance a prendre des 10 20 30 40

valeurs dautant plus grandes que la vraie valeur du parametre p est plus eloignee de
p0 (ce qui, la aussi, conduit a souhaiter disposer dune distance entre p et p0 , gouvernant Fig. IV.1 Densite du chi-2 a 5 degres de liberte avec decentrage de 0, 3 et 6.
la loi de la distance entre la v.a. P et p0 ).
Afin dillustrer davantage le phenomene dexcentricite engendre par nous pouvons rap-
Outils peler que E[2k, ] = k + et Var(2k, ) = 2(k + 2).
On definit la distance du 2 (ou distance du chi-deux) , entre deux probabilites sur
un ensemble fini a k elements, p = (p j )1jk et q = (qj )1jk , par : Generalisation a ladequation dune loi quelconque
k
X (pj qj )2 Soient n v.a. (Xi0 )1jn independantes, de meme loi inconnue Q, et a valeurs dans un
D(p, q) = .
qj espace mesurable (E 0 , E 0 ). On veut tester lhypothese que cette loi coincide avec une loi
j=1
proposee Q0 .
Remarquons que, faute de symetrie entre p et q, cet objet nest pas une distance au sens On suppose que lensemble E 0 est infini, ou bien fini mais a cardinal trop eleve pour
mathematique traditionnel du terme (on parle parfois de pseudo-distance du 2 ). quon puisse lui appliquer raisonnablement le test du 2 . Un artifice parfois pratique est
On demontre (nous ladmettrons) que, si lhypothese nulle est satisfaite, la loi de la de considerer une partition finie de E 0 , soit (A1 , . . . , Ak ), et de se contenter de tester si les
v.a. n.D(P , p0 ) tend, quand n tend vers linfini, vers la loi du chi-deux a k 1 degres de valeurs des PQ (X10 Aj ) sont egales aux PQ0 (X10 Aj ). Il suffit donc de relever, pour chaque
liberte (voir VII.2.2, p. 160). Ceci conduit, pour n assez grand (notion qui sera precisee observation x0i , a quelle partie Aj elle appartient, ce qui revient a considerer des v.a. X i =
empiriquement dans la suite), a fonder sur n.D( P , p0 ) le test, au niveau , de lhypothese j1{Xi0 Aj } a valeurs dans lensemble {1, . . . , k}. On se trouve ramene au probleme precedent,
H0 = {p = p0 }, le rejet ayant lieu si mais au prix dune certaine tricherie sur le probleme pose : on ne sait plus distinguer entre
deux lois differentes, mais identiques sur la partition choisie. En dautres termes, on teste
k
X (pj p0j )2 en fait lhypothese nulle selon laquelle la loi inconnue Q appartient a lensemble des lois qui
n 2k1,1 ,
j=1
p0j affectent a chacune des parties Aj la meme probabilite que Q0 ; lhypothese alternative est
alors le complementaire de cet ensemble dans lensemble de toutes les probabilites sur (E 0 , E 0 ).
ou 2k1,1 designe le quantile dordre 1 de la loi du chi-deux a k 1 degres de liberte, Si malgre cet inconvenient on decide de proceder ainsi, il reste a choisir la partition. Si
disponible dans des tables ou via les ordinateurs. Cest ce que lon appelle le test du 2 . son effectif k est fixe, on constate que lapproximation par la loi asymptotique de 2 sera
Critere pratique.On considere souvent que lapproximation fournie par la loi du 2 a k 1 dautant meilleure que la suite des P Q0 (Aj ) sera plus proche de la suite constante dont tous
degres de liberte pour la loi de n.D( P , p0 ) est valide si tous les produits np0j (1 p0j ) sont les elements valent k1 ; en effet cest ainsi que la plus forte des valeurs nP Q0 (Aj )(1 PQ0 (Aj ))
superieurs ou egaux a 5. sera la plus faible possible ; or ces valeurs sont les variances des effectifs N j et, pour chaque
IV.2. TESTS DU 2 67 68 CHAPITRE IV. MODELES DISCRETS

P Pk
j, plus cette variance est elevee, plus lestimation de p j par la frequence observee nj /n (qui ou necessairement, pour tout j, q j = m `=1 pj,` et, pour tout `, r` = j=1 pj,` . Les qj ca-
nous a servi a justifier heuristiquement le test) est mauvaise. racterisent la loi commune des v.a. Y i et les r` caracterisent la loi commune des v.a. Z i ; ces
Quant au choix de k, il sera lobjet dun compromis entre le desir delever k (pour ne pas lois sont appelees aussi premiere et seconde lois marginales des X i (voir VII.1.1, p. 139).
trop denaturer le probleme initial) et le desir delever n k1 (1 k1 ) (a rendre au moins egal a 5) Ainsi, sous lhypothese nulle, le parametre, caracterise dune part par les k valeurs
pour valider au mieux lapproximation par la loi du chi-deux. qj (de somme egale a 1) et dautre part par les m valeurs r ` (aussi de somme egale a 1),
Dans le cas particulier dune loi Q0 sur R admettant une densite et donc (voir VII.1.2) a appartient a un espace de dimension h = k + m 2. On supposera que les q j et les r` sont
fonction de repartition, soit F 0 , continue, on prendra generalement une partition (A 1 , . . . , Ak ) tous non nuls, ce qui assure que, sous lhypothese nulle, lensemble de parametrage est une
en intervalles (bornes ou non) tous de probabilite k1 , donc delimites par les points sj (ou partie ouverte de Rk+m2
1 j k 1) verifiant F 0 (sj ) = kj . Mais cette methode reste mediocre et les methodes de Etant observe un echantillon de taille n, soit (y i , zi )1in , notons, pour tout couple
n
type non-parametrique, qui seront vues au chapitre V, sont en general meilleures. (j, `), nj,` leffectif des observations egales a (a j , b` ) et pj,` leur frequence (pj,` = nj,` ).
On estimeP alors chaque q j de la premiere marge par la frequence marginale correspondante
qj = n1 m `=1 nj,` et de P
meme, pour la seconde marge, chaque r ` par la frequence marginale
IV.2.2 Test dadequation a une famille de lois discretes
correspondante r` = n1 kj=1 nj,` .
Presentation generale Alors, si lhypothese nulle est satisfaite, on estime, pour tout couple (j, `), p j,` , par
le produit des frequences marginales q j r` (pour mimer la formule dindependance citee plus
Le modele est ici le meme quen IV.2.1 : on observe n v.a. X i , independantes et de meme
haut).
loi, a valeurs dans un espace fini, soit A = {a 1 , . . . , ak }. Cette loi, inconnue, est caracterisee
par la suite p = (p1 , . . . pk ), ou, pour tout j (avec 1 j k), pj designe la probabilite Nous admettons que les conditions de validite de la methode sont satisfaites, q j et r` etant
dobserver aj . respectivement des estimateurs par maximum de vraisemblance de q j et r` . Le test, au seuil
Ici lhypothese a tester nest plus reduite a une valeur bien determinee p 0 , mais elle exprime , consiste donc a rejeter lhypothese dindependance si :
que le parametre appartient a une famille (p , ), ou lon note p = (p1, , . . . , pk, )
k X
m
un vecteur de poids de probabilite indexe par un parametre . Attention : nest pas ici X (pj,` qj r` )2
n 2(k1)(m1),1 ,
lensemble des parametres du modele tout entier mais parametrise seulement lhypothese qj r`
j=1 `=1
nulle.
Une idee naturelle est de reprendre la methode du test dadequation vue en IV.2.1 en y autrement dit
remplacant p0 par p , ou est une estimation de . Cest ce que lon appelle un test du 2 m
k X n n0j .n00
` 2
X ( nj,` n2
)
adaptatif. On demontre alors que si lensemble des valeurs possibles pour est n 2(k1)(m1),1 ,
n0j .n00
une partie ouverte dinterieur non vide de R h (avec h < k 1) la loi de nD(P , p ) tend, j=1 `=1 n2
`

sous lhypothese nulle, vers la loi du 2 a k h 1 degres de liberte, sous des conditions
de regularite que nous ne preciserons pas ici, mais qui sont satisfaites si est une ou :
estimation par maximum de vraisemblance. Donc on procede comme dans le test du 2 nj,` est
Ple nombre dobservations egales a (a j , b` ),
dadequation, en remplacant seulement le nombre de degres de liberte k 1 par n0j = m `=1 nj,` est le nombre dobservations dont la premiere composante est egale a
k h 1. aj ,
P
n00` = kj=1 nj,` est le nombre dobservations dont la seconde composante est egale a b ` ,
2(k1)(m1),1 est le quantile dordre 1 de la loi du 2 a (k 1)(m 1) degres de
Exemple : test du 2 dindependance
liberte (en effet km (k + m 2) 1 = (k 1)(m 1)).
Les v.a. i.i.d. Xi sont ici de la forme (Yi , Zi ), ou les premieres composantes Y i sont a
valeurs dans A = {a1 , . . . , ak }, et les secondes composantes Zi sont a valeurs dans B =
{b1 , . . . , bm }. IV.3 La regression logistique
On note, pour tout j = 1, . . . , k, et tout ` = 1, . . . , m, p j,` = P((Yi , Zi ) = (aj , b` )). Le
parametre est donc p = (pj,` )1jk,1`m . Au chapitre III le paragraphe III.4, portant sur la regression lineaire etait consacre a
On veut tester lhypothese que les 2 composantes sont independantes, autrement dit que un modele dans lequel une variable aleatoire absolument continue, de loi gaussienne, etait
la loi commune des couples (Yi , Zi ) est une loi produit, cest-a-dire encore que tous les p j,` expliquee par une ou plusieurs variables. Nous allons maintenant nous interesser a des
sont de la forme : situations ou la variable a expliquer est discrete, et meme, plus precisement ici (quoique ce
soit generalisable), dichotomique (aussi dite booleenne : elle ne peut prendre que deux valeurs,
(j, `) A B, pj,` = P(Yi = aj , Zi = b` ) = P(Yi = aj )P(Zi = b` ) = qj r` , notees conventionnellement 0 et 1).
IV.3. LA REGRESSION LOGISTIQUE 69 70 CHAPITRE IV. MODELES DISCRETS

Considerons tout dabord ce a quoi conduirait lapplication (evidemment maladroite) a


i Age CHD i Age CHD i Age CHD i Age CHD cette situation dune regression lineaire simple usuelle, cest-a-dire posons une relation affine
du type :
Y = 0 + 1 X + ,
1 20 0 26 35 0 51 44 1 76 55 1
2 23 0 27 35 0 52 44 1 77 56 1 ou  suivrait la loi normale N (0, 2 ). On supposerait de plus que les v.a. a expliquer Y i (ou
3 24 0 28 36 0 53 45 0 78 56 1 1 i 100) sont independantes. Notons que les observations explicatives x i nintervenant
4 25 0 29 36 1 54 45 1 79 56 1 qua titre de conditionnements dans le modele, il nest pas besoin de faire dhypothese de
5 25 1 30 36 0 55 46 0 80 57 0 nature probabiliste les concernant ; en fait elles peuvent etre selon les protocoles de recueil
6 26 0 31 37 0 56 46 1 81 57 0 des donnees aussi bien aleatoires (cas de sujets admis dans letude sans consideration prealable
7 26 0 32 37 1 57 47 0 82 57 1 de leur age) que deterministes (cas dun panel de sujets compose afin dequilibrer les ages).
8 28 0 33 37 0 58 47 0 83 57 1 On pourrait etre tente destimer ce modele a laide de la methode des moindres carres
9 28 0 34 38 0 59 47 1 84 57 1 comme dans le chapitre III ; alors on obtiendrait :
10 29 0 35 38 0 60 48 0 85 57 1
11 30 0 36 39 0 61 48 1 86 58 0 Y = 0 + 1 X = 0.5380 + 0.0218X.
12 30 0 37 39 1 62 48 1 87 58 1
13 30 0 38 40 0 63 49 0 88 58 1
14 30 0 39 40 1 64 49 0 89 59 1
15 30 0 40 41 0 65 49 1 90 59 1
16 30 1 41 41 0 66 50 0 91 60 0
17 32 0 42 42 0 67 50 1 92 60 1
18 32 0 43 42 0 68 51 0 93 61 1
19 33 0 44 42 0 69 52 0 94 62 1
20 33 0 45 42 1 70 52 1 95 62 1
21 34 0 46 43 0 71 53 1 96 63 1
22 34 0 47 43 0 72 53 1 97 64 0
23 34 1 48 43 1 73 54 1 98 64 1
24 34 0 49 44 0 74 55 0 99 65 1
25 34 0 50 44 0 75 55 1 100 69 1 Fig. IV.2 Regression lineaire de CHD avec lage
Tab. IV.1 Les donnees CHD
Cette regression signifierait que le fait davoir une annee de plus produirait un accroisse-
ment de 0,02 en terme de predisposition a avoir la maladie cardiaque (predisposition assimilee
IV.3.1 Exemple introductif a la probabilite davoir cette maladie cardiaque). On poserait par consequent, en termes de
probabilite conditionnele (voir VII.1.4, p. 152),
On dispose dun echantillon de 100 personnes sur lequel on a mesure deux variables (voir
tableau IV.1), lage du patient, X (note AGE dans le tableau et les graphiques ci-dessous) et p(x) = P(Y = 1|X = x).
la presence (1) ou labsence (0) dune maladie cardiaque, Y (notee CHD dans le tableau et
les graphiques ci-dessous). On voit alors, sur le graphique precedent, les inconvenients de ce modele lineaire en
Lobjectif de letude est de savoir si lage a un effet sur la presence de la maladie cardiaque. probabilite. Un accroissement constant de lage produit egalement un accroissement constant
Sur le graphique suivant, on observe deux bandes paralleles de points, ou chacun represente de p(x). De plus, p(x) peut tres bien alors sortir de lintervalle [0, 1], ce qui est logiquement
lage de lindividu avec la presence (Y = 1) ou labsence (Y = 0) de la maladie. On peut no- impossible pour une probabilite. En effet, dans notre exemple, nous voyons que la probabilite
tamment constater quil y a plus de points rassembles vers les jeunes pour Y = 0, alors quun estimee p(x) serait negative pour les patients ages de 25 ans et moins ; par exemple, pour une
regroupement se materialise plutot vers les plus ages pour Y = 1. Cependant, cette consta- personne ayant 23 ans, lestimation de la probabilite davoir une maladie cardiaque serait :
tation nest pas suffisante pour en deduire une relation significative entre la predisposition a
une maladie cardiaque et lage. p(23) = 0.5380 + 0.0218 23 = 0.036.
IV.3. LA REGRESSION LOGISTIQUE 71 72 CHAPITRE IV. MODELES DISCRETS

De meme, si lon voulait prevoir la probabilite davoir une maladie cardiaque pour une per- On voit que ces fonctions ont toutes une meme forme, et que donc, comme en regression
sonne de plus de 70 ans, alors les valeurs estimees seraient superieures a lunite. lineaire simple, tout ce quil y a a estimer consiste en un parametre de position ( 0 ) et un
De plus les residus pour un age fixe ne peuvent prendre que deux valeurs possibles : si parametre dechelle (1 ) ; on notera le couple (0 , 1 ).
Y = 0, alors (x) = p(x) et si Y = 1, alors (x) = 1 p(x), ce qui est contraire a lhypothese Ce modele possede de plus les proprietes suivantes :
de normalite (loi continue) des residus, introduite dans le cadre du modele lineaire gaussien. Variation : Si 1 = 0, la loi de la variable a expliquer ne depend pas de la variable
Par consequent, la loi de  nest pas continue, mais discrete : si Y = 1, alors  = 1 p(x) explicative (la fonction p est constante) ; sinon, p est strictement croissante (resp.
avec une probabilite p(x) et si Y = 0, alors  = p(x) avec une probabilite 1 p(x). Comme decroissante) si 1 > 0 (resp. 1 < 0).
 a une distribution desperance nulle, la variance de  est egale a p(x)(1 p(x)). Ce resultat Limites : Si 1 6= 0, et si x parcourait tout R (ce qui est en general impossible dans un
est a nouveau en contradiction avec lhypothese de variance constante des residus du modele modele realiste), alors p(x) parcourrait tout lintervalle ]0, 1[ ; si 1 > 0 (resp. 1 < 0), on
lineaire gaussien usuel, car ici la variance depend de lage. a limx p(x) = 0 et limx+ p(x) = 1 (resp. limx p(x) = 1 et limx+ p(x) =
En fait, a la lumiere de ces constatations, la distribution conditionnelle de Y suit une loi 0).
de Bernoulli avec une probabilite detre malade fournie par lesperance conditionnelle (voir Symetrie par rapport au point ( 01 , 1/2) : si x + x0 = 2 01 , alors p(x) + p(x0 ) = 1.
VII.1.4, p. 152) : La terminologie logistique vient de langlais LOGIT (LOGarithm of Inverse Transfor-
u
p(x) = E[Y |X = x]. mation) qui designe la fonction inverse de g, cest-a-dire h definie par h(u) = ln( 1u ).

On peut donc conclure, comme on pouvait sen douter, que la regression lineaire simple Les estimateurs
usuelle nest pas une bonne solution pour resoudre notre probleme.
Procedons maintenant a lestimation par maximum de vraisemblance dans ce modele du
exp(0 + 1 x)
IV.3.2 Une solution raisonnable : la regression logistique parametre = (0 , 1 ) ; on note desormais p (x) = g(0 + 1 x) = .
1 + exp(0 + 1 x)
Les v.a. Yi etant independantes et de lois de Bernoulli, calculons la vraisemblance (relati-
Le modele
vement a la mesure de comptage sur {0, 1} n , comme en II.2), associee a la suite dobservations
Soit Y une v.a. (dite a expliquer) dont la distribution conditionnelle est une loi de y = (y1 , . . . , yn ), pour la suite de valeurs explicatives x = (x 1 , . . . , xn ) :
Bernoulli dont le parametre, note p(x), depend de la valeur x dune variable reelle X dite
n
explicative : B(p(x)). On rappelle que son esperance mathematique est egale a p(x) et sa Y
L(y|x; ) = (p (xi ))yi (1 p (xi ))1yi .
variance egale a p(x)(1 p(x)). Avec une notation du type probabilite conditionnelle (voir
i=1
VII.1.4) et avec la convention 00 = 1, on pourra noter ceci :
Alors lestimateur du maximum de vraisemblance est la valeur (ici unique) de en laquelle
P(Y = y|X = x) = p(x)y (1 p(x))1y . prend son maximum la fonction L(y|x; ) ou, ce qui est plus pratique pour la resolution,
`(y|x; ), ou la log-vraisemblance ` est definie ici par :
Pour preciser le modele, il faut maintenant fixer une classe de fonctions a laquelle est
n
supposee appartenir lapplication x 7 p(x) (ce role etait joue, dans la tentative de modele X
`(y|x; ) = yi ln(p (xi )) + (1 yi ) ln(1 p (xi ))
lineaire ci-dessus, par les fonctions affines).
i=1
Une classe L de telles fonctions raisonnable pour modeliser p(x) doit satisfaire les
conditions suivantes : (avec la convention 0 ln(0) = 0).
valeurs dans lintervalle [0, 1], Cest la solution du systeme de deux equations a deux inconnues :
monotonie en x, n  
stabilite par changement dorigine et dechelle sur la variable explicative (comme en `(y|x; 0 , 1 ) X exp(0 + 1 xi )
= yi = 0,
regression lineaire) : si la fonction p appartient a L, il en est de meme des fonctions 0 1 + exp(0 + 1 xi )
i=1
x 7 p(b0 + b1 x). n  
`(y|x; 0 , 1 ) X exp(0 + 1 xi )
La regression logistique consiste en lemploi des fonctions du type = xi yi = 0.
1 1 + exp(0 + 1 xi )
i=1
p(x) = g(0 + 1 x)
Ces expressions sont non lineaires en 0 et 1 (contrairement a la situation correspondante
avec en regression lineaire), ce qui demande de faire appel a des methodes specifiques de resolution.
exp(t) Il sagit generalement de methodes de resolution numerique iterative (Newton-Raphson, Score
g(t) = . de Fisher et de Rao, moindres carres reponderes iteratifs). Nous ne detaillerons pas ces
1 + exp(t)
IV.3. LA REGRESSION LOGISTIQUE 73 74 CHAPITRE IV. MODELES DISCRETS

methodes dans le present cours ; les logiciels statistiques standards offrent ce type dalgo- forme suivante : H0 = {1 = 0} (pas dinfluence de la variable X sur Y ) et lhypothese
rithme. alternative est : H1 = {1 6= 0} (influence effective de la variable X sur Y ).
Quand la taille de lechantillon tend vers linfini, ces estimateurs sont convergents et Plusieurs tests ont ete proposes pour ce test, tous fondes sur une meme idee tres generale
asymptotiquement normaux. Leurs variances asymptotiques sont theoriquement connues en (qui valait deja pour le modele lineaire gaussien) et qui est la suivante : estimons par maximum
fonction de . Des approximations de ces variances sont donc obtenues, pour n assez grand, de vraisemblance le parametre dune part dans le modele general (ici le modele logistique),
en remplacant dans les formules donnant ces variances asymptotiques, par son estimation. dou lestimation = (0 , 1 ), et dautre part dans le modele restreint a lhypothese nulle,
dou lestimation H0 = (0 , 0) ; alors ces deux estimations ont tendance a etre proches si
Retour a lexemple lhypothese nulle est satisfaite et eloignees si elle ne lest pas. (On aurait pu aussi utiliser
un test construit sur la normalite asymptotique de 1 sous H0 .)
Dans notre exemple, lestimateur du maximum de vraisemblance donne : Les differentes techniques de test different par le choix de loutil statistique caracterisant
0 = 5.3095 , 1 = 0.1109 et `(y; 0 , 1 ) = 53.677. cette proximite. Nous detaillons ici seulement le test du rapport de vraisemblances,
Le modele estime est : qui consiste a considerer la difference des log-vraisemblances (ou plutot, pour des raisons de
exp(5.3095 + 0.1109x)
p(x) = . calcul precisees ensuite, son double), cest-a-dire :
1 + exp(5.3095 + 0.1109x)

Les estimations des variances sont Var( 0 ) = 1.2856 et Var(1 ) = 0.0005. (y|x) = 2(`(y|x; ) `(y|x; H0 )).
Cela nous permet de tracer la courbe logistique estimee de la presence de maladie car-
diaque en fonction de lage des patients. On voit nettement sur le graphique ci-dessous com- Remarquons que (y|x) est necessairement positif ou nul, car `(y|x, ) est le maximum
ment, dans ce modele, lestimation de la probabilite davoir une maladie cardiaque augmente de `(y|x; ) pris sur un ensemble qui contient celui utilise pour la recherche de H0 .
avec lage. Elle est, par exemple, de 0.073 a 25 ans, 0.194 a 35 ans, 0.421 a 45 ans, 0.688 a Il est clair alors que lon aura dautant plus tendance a rejeter lhypothese nulle que (y)
55 ans et 0.870 a 65 ans. sera plus grand. Ce test peut etre mis en uvre car (nous ladmettrons), sous lhypothese
nulle, la v.a. suit asymptotiquement (quand la taille de lechantillon, n, tend vers linfini)
une loi du 2 a 1 degre de liberte (autrement dit la loi du carre dune v.a. de loi normale
centree reduite).
Il reste a expliciter (y|x). Notons n 1 (resp. n0 ) le nombre
P dobservations Pde la variable
a expliquer egales a 1 (resp. 0) ; autrement dit soit n 1 = ni=1 yi et n0 = ni=1 (1 yi ) =
n n1 . Alors, rappelant que sous H0 , p est constant estime par n1 /n, et que sous H1 ,
exp(0 + 1 x)
p(x) = , il vient :
1 + exp(0 + 1 x)

n
X
(y|x) = 2[ (yi ln(p(xi )) + (1 yi ) ln(1 p(xi )) (n0 ln(n0 ) + n1 ln(n1 ) n ln(n))].
i=1

Fig. IV.3 Regression logistique de CHD avec lage


Pour notre exemple, nous obtenons n0 = 57, n1 = 43 et

Cependant cela ne nous permet pas daffirmer que la presence dune maladie cardiaque (y|x) = 2[53, 677 (57 ln(57) + 43 ln(43) 100 ln(100))] = 29.31
augmente statistiquement (significativement) avec lage. Pour repondre a cette question (et
preciser le sens de significativement) il convient davoir recours a des tests statistiques, alors la p-valeur associee a ces donnees est egale a 1 F 2 (1) (29.31), ou F2 (1) designe la
comme dans le cadre du modele lineaire gaussien. fonction de repartition de la loi du 2 a un degre de liberte. On constate que

1 F2 (1) (29.31) < 104 ,


IV.3.3 Comment tester linfluence de la variable explicative ?
Dans lexemple introductif, il sagit de savoir si statistiquement lage influe sur la presence de sorte que lhypothese nulle (non influence de lage sur la maladie cardiaque) serait rejetee
de maladie cardiaque. La demarche classique des tests, utilisee dans le cadre du modele (a condition quon accepte le modele de regression logistique comme modele general) meme a
lineaire gaussien au chapitre III, est la meme pour le modele logit. Lhypothese nulle a la un niveau de signification aussi severe que 10 4 .
IV.4. COMPARAISON DE PROPORTIONS 75 76 CHAPITRE IV. MODELES DISCRETS

IV.4 Comparaison de proportions H0 = {p1 = p2 } : identite des effets des deux traitements ; autrement dit on
cherchera a repondre a la question : les proportions de succes observees different-elles
IV.4.1 Presentation de la problematique sur un exemple significativement, a un niveau de signification choisi au prealable ?
H1 = {p1 > p2 } : le traitement 1 est plus efficace que le traitement 2 (en
Une situation classique, en statistique medicale, consiste en lappreciation des effets com-
dautres termes il a une plus forte probabilite de succes) ; autrement dit on cherchera a
pares de 2 traitements (ou lappreciation des effets dun traitement face a labsence dadminis-
repondre a la question : la proportion de succes observees avec le traitement 2 est-elle
tration de traitement) ; nous nous placons ici dans la situation la plus elementaire, ou les effets
significativement plus forte que celle du traitement 1, ce qui conduirait a refuter lhy-
des traitements sont simplement resumes en succes ou echec. Des equivalents peuvent
pothese que le premier etait meilleur, a un niveau de signification choisi au prealable ;
etre bien sur proposes pour des applications en sciences humaines, en agronomie, industrielles
cest ainsi en particulier que lon procede si le traitement 1 etait deja en usage et que
etc...
lon se demande si cela vaut vraiment la peine de mettre en usage le nouveau trai-
On se trouve ici typiquement en presence de deux echantillons de suites de 0 (echec) et de tement 2. (En fait, on pourra verifier que les tests mis en place pour cette hypothese
1 (succes), et nous supposerons que les v.a. observees, que nous noterons X 1,i (ou 1 i n1 ) alternative correspond egalement a lhypothese nulle H 0 = {p1 p2 } : le traitement 1
et X2,j (ou 1 j n2 ) sont independantes. Pour aller plus loin dans lelaboration du modele, nest pas meilleur que le traitement 2.)
il faut distinguer deux types de protocoles experimentaux, selon que les echantillons sont dits Nous serons amenes, comme au paragraphe II.6, a distinguer selon que les echantillons
apparies ou non apparies.
sont petits (et nous nous heurterons a des problemes de calculs de nature combinatoire)
Dans le cas dechantillons non apparies, on a pris independamment deux groupes ou grands (et nous aurons recours a lapproximation normale).
de sujets et on a applique le premier traitement a lun et le second traitement a lautre ; le
modele associe sera tres simple, mais on sinterdit alors toute prise en compte dinfluences
sur les sujets autres que la seule administration des traitements, et on risque ainsi de passer Petits echantillons non apparies : test bilateral
a cote de facteurs importants.
Considerons tout dabord le test de lhypothese nulle H 0 = {p1 = p2 }, situation de test
Dans le cas dechantillons apparies, necessairement de meme taille n, le protocole
dite bilaterale car on inclut dans la contre-hypothese, H 1 , aussi bien le cas {p1 < p2 } que
a consiste en la selection prealable de n situations comparables, dans chacune desquelles
le cas {p1 > p2 }.
on a administre chacun des deux traitements ; un tel cas serait, si ceci est techniquement
Le bon sens est que la refutation de lhypothese se fera si les proportions observees x 1
realisable, celui ou un meme individu a ete observe successivement sous le premier et sous le
et x2 sont suffisamment eloignees, cest-a-dire intuitivement si, dans le cas ou p 1 = p2 , la
second traitement, en admettant quil y ait eu un intervalle de temps suffisant pour que leffet
probabilite dobtenir un eloignement des deux proportions au moins aussi important que
du premier se soit estompe lors de ladministation du second, ceci etant en particulier le cas
celui enregistre est inferieure ou egale au seuil de signification choisi, ; la difficulte pour
si en fait le premier traitement consistait en labsence de traitement ; ou, plus simplement,
donner un sens a cette intuition est double :
on peut considerer que des sujets sont reunis par couples de maniere quils aient dans chaque
lhypothese nulle nest pas simple, cest-a-dire ne se reduit pas a une seule loi, mais se
couple des caracteristiques communes susceptibles dagir sur la receptivite aux traitements
compose de tous les couples (p, p) ou p [0, 1] (eventuellement p appartient a un inter-
(par ex. lage, certains elements du dossier medical . . . ) et que dans chaque couple les deux
valle plus petit delimite au prealable lors de la constitution du modele) ; en particulier
sujets recoivent des traitements differents.
la loi de X1 X2 depend de cette valeur commune inconnue p ;
il faut donner un sens a la notion deloignement des deux proportions au moins aussi
IV.4.2 Echantillons non apparies important que celui enregistre ; ne disposant pas de la loi de la difference x 1 x2 , il
nous est difficile de donner a ceci un sens symetrique, mais ce nest pas trop genant :
Le modele naturel ici est de considerer que les v.a. X 1,i , pour 1 i n1 , sont i.i.d., la nous nous contenterons de preciser la notion devenement consistant en un eloignement
loi commune etant de Bernoulli avec parametre p 1 , et les v.a. X2,j , pour 1 j n2 , sont au moins aussi important que celui observe et dans le meme sens, et procederons
i.i.d., la loi commune etant de Bernoulli avec parametre p 2 . Le parametre du modele est donc au rejet de lhypothese si les probabilites de cet evenement sont, sous lhypothese a
= (p1 , p2 ), qui appartient a = [0, 1]2 ( peut aussi, si on est suffisamment renseigne, etre tester, inferieures ou egales a 2 .
modelise comme une partie stricte de [0, 1] 2 ). La premiere difficulte se resout grace a la remarque suivante : introduisons la variable
On sait (voir lexemple II.16) que les proportions de 1 observees dans chacun des echantil- aleatoire Y = Y1 + Y2 (on rappelle que Y1 = n1 .X1 et Y2 = n2 .X2 ). Le nombre y est le
lons fournissent un resume exhaustif des donnees. Nous travaillerons donc systematiquement total de succes observes dans la reunion des deux echantillons. On constate alors que, sous
sur ces proportions x1 et x2 (ou, ce qui revient au meme, sur les effectifs y 1 = n1 .x1 et lhypothese nulle, la loi du couple (Y 1 , Y2 ), conditionnellement a Y , ne depend
y2 = n2 .x2 ). plus de p (= p1 = p2 ) ; un calcul elementaire montre en effet que, pour y 1 + y2 = y, on a :
Si on considere separement les deux echantillons, on se trouve dans la situation deja
etudiee au II.1.1 pour ce qui est destimations, tests, intervalles de confiance sur p 1 et p2 . y!(n1 + n2 y)!n1 !n2 !
Nous allons ici nous interesser aux tests des hypotheses nulles suivantes : Pp,p((Y1 , Y2 ) = (y1 , y2 )|Y = y) = ,
y1 !(n1 y1 )!y2 !(n2 y2 )!(n1 + n2 )!
IV.4. COMPARAISON DE PROPORTIONS 77 78 CHAPITRE IV. MODELES DISCRETS

cette probabilite conditionnelle etant evidemment nulle si y 1 + y2 6= y. Pratiquement, aux degres de precision couramment exiges par les praticiens, cela suppose
(Attention : il ne sagit pas dexhaustivite de Y dans le modele statistique considere, mais que n1 p1 (1 p1 ) 5 et n2 p2 (1 p2 ) 5, ou bien que lon dispose de renseignements
dune exhaustivite dans un modele qui serait restreint a lhypothese nulle.) prealables sur des ordres de grandeur de p 1 et p2 qui permettent daffirmer quil en est bien
Cette remarque conduit a une technique dite de test conditionnel. On considere la ainsi, ou bien on fait une verification approchee de ces conditions en y remplacant p 1 et p2
partition de lensemble de tous les couples (y 1 , y2 ) observables en les tranches y = par leurs estimations respectives x 1 et x2 .
{(y1 , y2 ); y1 + y2 = y} (y parcourant lensemble des valeurs pouvant etre prises par la v.a.
On deduit du TCL que les suites independantes n1 (X1 p1 ) et n2 (X2 p2 ) convergent
Y1 + Y2 , donc comprises entre 0 et n1 + n2 ) . On fabrique separement sur chaque y une respectivement en loi vers la loi N (0, p 1 (1 p1 )) et N (0, p2 (1 p2 )). Si p1 et p2 sont egaux
region de rejet Cy dont, si lhypothese nulle est satisfaite, la probabilite, conditionnellement a de valeur commune p, il est alors facile de verifier que si (n 1 (k), n2 (k))k est une suite qui
levenement {Y = y}, est inferieure ou egale a (le singulier la probabilite se justifiant ici en diverge vers linfini, telle
vertu de la remarque precedente). La region de rejet globale du test est alors C = ny=0
S 1 +n 2
Cy s que lim k n1 (k)/n2 (k) existe, et cette limite est finie et non nulle,
n1 (k)n2 (k)
et on a bien : alors la suite de v.a. (X1 X2 ) converge en loi vers N (0, p(1p)). De plus, on
n1 (k) + n2 (k)
nX
1 +n2 nX
1 +n2
a la convergence p.s. de X = (n1 X1 + n2 X2 )/(n1 + n2 ) vers p. On en deduit que la statistique
p ]0, 1[, Pp,p (C) = Pp,p(Y = y)Pp,p(Cy |Y = y) Pp,p(Y = y) = .
de test
y=0 y=0
s
n1 (k)n2 (k) X X2
Reperer si une observation deffectifs (y 1 , y2 ) conduit au rejet, cest-a-dire appartient a n1 ,n2 = p 1
Cy , ou y = y1 + y2 , est alors elementaire : n1 (k) + n2 (k) X(1 X)
si x1 = x2 (autrement dit ny11 = ny22 ), il ny a evidemment pas rejet ;
si x1 6= x2 , on repere quel est le sens de cette difference ; soit par exemple x 1 < x2 , converge en loi vers la loi N (0, 1).
autrement dit ny11 < ny22 ) ; on fait la liste de tous les couples pires (au sens large) que
Considerons tout dabord le test bilateral, dont lhypothese nulle est H 0 = {p1 =
(y1 , y2 ), a nombre total de succes, y, fixe, autrement dit tous les couples de la forme
p2 } et lhypothese alternative H1 = {p1 6= p2 }.
(y10 , y20 ) = (y1 j, y2 + j), ou j 0, avec bien sur y1 j 0 et y2 + j n2 ; les
probabilites conditionnelles de ces couples, sous lhypothese nulle, sont connues : elles Le rejet se fera alors si la distance |x 1 x2 | entre les proportions observees est assez elevee.
y!(n1 + n2 y)!n1 !n2 ! En effet, sous H1 , la statistique de test diverge p.s. vers + ou , car X1 X2 converge
valent 0 (il sagit des poids de probabilite dune loi
y1 !(n1 y10 )!y20 !(n2 y20 )!(n1 + n2 )! vers p1 p2 6= 0 et X(1 X) a une limite finie. On en deduit la region critique de la forme
hypergeometrique H(n1 + n2 , y1 + y2 , n1n+n 1
2
), voir VII.2.1, p. 157) ; il y a rejet si et ] , a] [a, [ pour a > 0. Le test est de niveau asympotique pour a = 1/2 , le
seulement si la somme de ces probabilites (qui est la p-valeur de ce test) est inferieure quantile dordre 1 /2 de la loi N (0, 1).
ou egale a 2 . r
n1 n2 |x1 x2 |
On rejette lhypothese si et seulement si nobs

1 ,n2
= p > 1/2 , ou
n1 + n2 x(1 x)
obs
Petits echantillons non apparies : test unilateral x = (n1 x1 + n2 x2 )/(n1 + n2 ). La p-valeur est donnee par P(|G| n1 ,n2 ), ou G est de loi
Considerons maintenant le test de lhypothese nulle H 0 = {p1 p2 } (situation de test N (0, 1). En dautres termes, designant la fonction de repartition
de la loi normale centree
dite unilaterale car la contre-hypothese est H 1 = {p1 < p2 }). reduite N (0, 1), il y a rejet si la p-valeur 2(1 ( nobs 1 ,n2
) est plus petite que ; on rappelle
Il ny aura evidemment pas rejet si les proportions observees vont dans le sens de que la p-valeur dune observation, pour une technique de test donnee, est le plus petit choix
lhypothese nulle, cest-a-dire si x 1 x2 . En revanche, il y aura rejet si on a une inegalite du niveau de signification pour lequel lobservation effectuee conduise au rejet.
x1 < x2 significativement nette, cest-a-dire, suivant la meme ligne que dans le cas du test
bilateral, si, quand on est a la situation frontiere p 1 = p2 , la probabilite, conditionnellement Passons au cas du test unilateral, dont lhypothese nulle est H 0 = {p1 p2 } et
au nombre total y de succes observes, dobtenir une situation pire que celle observee, est lhypothese alternative H1 = {p1 < p2 }.
inferieure ou egale a ; cette inegalite serait encore satisfaite, a fortiori, si on senfoncait dans Ici on rejette lhypothese nulle si x 2 est, au niveau de signification fixe, significativement
la contre-hypothese, cest-a-dire si on considerait des couples (p 1 , p2 ) tels que p1 < p2 . plus grand que x1 . On est donc conduit a la technique suivante, qui assure (aux approxima-
La technique est donc la meme que dans le cas bilateral, a ceci pres que la tions faites pres) une probabilite de rejet de si on est sur la frontiere entre hypothese nulle
comparaison de la somme de probabilites calculee se fait avec et non avec 2 . et hypothese alternative, cest-a-dire si p 1 = p2 , et une probabilite de rejet inferieure a si
on est au sein de lhypothese
r alternative, cest-a-dire si p 1 < p2 : on rejette lhypothese si et
Grands echantillons non apparies n1 n2 x x1
seulement si nobs,n
1 2
= p2 > 1 .
n1 + n2 x(1 x)
On considere que chacun des deux echantillons est assez grand pour quon applique a
la v.a. proportion de succes, dans chacun de ces echantillons, lapproximation normale. En dautres termes il y a rejet si la p-valeur 1 ( nobs
1 ,n2
) est plus petite que .
IV.4. COMPARAISON DE PROPORTIONS 79 80 CHAPITRE IV. MODELES DISCRETS

IV.4.3 Echantillons apparies le cas bilateral quon vient detudier, mais cette fois le rejet se fait quand z 1,0 (et non plus
inf(z0,1 , z1,0 )) est inferieur au quantile dordre (et non plus 2 ) de la loi B(z, 12 ).
Rappelons quil sagit de prendre en compte le fait que des facteurs variant de couple a
couple peuvent influer sur lefficacite de chacun des traitements, cest-a-dire quil y a en fait
autant de valeurs du parametre que de variables aleatoires. Nous modelisons donc n v.a. X 1,i Grands echantillons apparies
et n v.a. X2,i , supposees comme precedemment toutes independantes, la loi de X 1,i (resp.
Si la valeur observee de z est assez grande (en pratique, comme dhabitude, si z 12 (1 12 )
X2,i ) etant de Bernoulli avec parametre p 1,i (resp. p2,i ) : X1,i (resp. X2,i ) est le resultat obtenu
5, cest-a-dire z 20), on approxime la loi B(z, 12 ) par la loi normale N ( z2 , z4 ) ; autrement dit,
par application du traitement 1 (resp. 2) dans la paire i (ces v.a. valant 1 en cas defficacite, Z Z
0 dans le cas contraire). pour z grand, on approxime la loi, conditionnellement a Z = Z 0,1 + Z1,0 , de 0,1 1,0 par
Z0,1 +Z1,0
la loi N (0, 1) (en effet Z0,1 Z1,0 = 2Z0,1 Z).
Petits echantillons apparies Le test en resulte immediatement, qui consiste, dans le cas bilateral, a rejeter lhy-
|z0,1 z1,0 |
pothese nulle si 1/2 , ou 1/2 est le quantile dordre 1 2 de N (0, 1).
Nous presentons dabord le test bilateral de lhypothese de non influence dun z0,1 + z1,0
changement de traitement, lexperimentation se faisant sur des couples de sujets. Lhy- Nous laissons au lecteur le soin deffectuer ladaptation au cas unilateral.
pothese nulle est donc composee des n egalites p 1,i = p2,i (ou 1 i n). Lhypothese alter-
native est tres vaste, puisquelle comporte tous les couples de suites ((p 1,i )1in , (p2,i )1in )
ne verifiant pas ces n egalites (mais dans la pratique le test ne detectera bien, notion que lon IV.5 Resume des tests
pourrait traduire par la convergence du test, pour proceder a un rejet, que les situations ou
il existe un suffisamment grand nombre dinegalites bien marquees). La difficulte technique, IV.5.1 Test dadequation a une loi discrete : le test du 2
dans la fabrication du test, vient du fait que lhypothese nulle elle-meme est complexe, de Lobjectif est de determiner si les donnees discretes observees proviennent dune loi donnee
dimension n car le parametre sy compose de n couples (p i , pi ). ou non.
Il est intuitif que lon aura tendance a rejeter lhypothese nulle si on observe un suffisam-
ment grand nombre de couples ou les 2 traitements ne donnent pas le meme resultat, avec 1. Description du modele : (Xj , 1 j n) est une suite de v.a. i.i.d. a valeurs dans
parmi eux une tendance suffisamment nette en faveur de lun des deux traitements. Cette A = {a1 , . . . , ak }. Une loi Pp sur A est decrite par le parametre p = (p 1 , . . . , pk ), ou
intuition nous conduit a negliger, dans la fabrication du test, les couples a resultats iden- pi = Pp (X1 = ai ).
tiques (0, 0) ou (1, 1) et a recourir, comme dans le cas des echantillons non apparies, a une
2. Les hypotheses : H0 = {p = p0 } et H1 = {p 6= p0 }, ou p0 est donne.
technique de test conditionnel, le conditionnement se faisant cette fois relativement a la v.a.
Z = Z0,1 + Z1,0 , ou Z0,1 (resp. Z1,0 ) designe le nombre de couples pour lesquels a ete observe 3. La statistique de test :
(0, 1) (resp. (1, 0) ) ; en dautres termes, Z est la v.a. : nombre de couples pour lesquels les k
X (pi p0 )2i
deux resultats different. n = n ,
i=1
p0i
Un calcul elementaire etablit alors que, conditionnellement a levenement {Z = z}, et si
lhypothese nulle est satisfaite, la loi de Z 0,1 est la loi binomiale de parametres z et 12 (ce ou pi est le nombre doccurrence de ai divise par n.
qui equivaut au fait que la loi de Z1,0 est aussi la loi binomiale de parametres z et 12 ). Cest
4. Sous H0 , (n , n 1) converge en loi vers 2 (k 1).
naturel, puisque ceci traduit une situation dequilibre. Le rejet de lhypothese nulle, au seuil
, seffectuera alors si la valeur observee z 0,1 est en dehors de lintervalle des quantiles dordre 5. Sous H1 , (n , n 1) diverge vers +.
1
2 et 1 2 de la loi B(z, 2 ) ou, ce qui revient au meme, si inf(z 0,1 , z1,0 ) est inferieur au quantile 6. Region de critique du test asymptotique : [a, +[.
dordre 2 de la loi B(z, 12 ).

Ce test est appele test des signes, car souvent on marque du signe + les couples (0, 1), 7. Niveau asymptotique du test egal a : a est le quantile dordre 1 de la loi 2 (k 1).
du signe - les couples (1, 0) et du signe 0 les couples (0, 0) ou (1, 1), et on est donc amene a 8. Le test est convergent.
considerer la proportion de lun des signes + ou - sur lensemble des signes autres que 0.
9. La p-valeur asymptotique est donnee par
On peut aussi, de maniere equivalente, proceder en utilisant la p-valeur du test qui est ici
le double de la valeur en inf(z0,1 , z1,0 ) de la fonction de repartition de B(z, 12 ) : il y a rejet si p-valeur = P(Z nobs ),
elle est inferieure ou egale a .
Si on considere maintenant pour hypothese nulle la famille des inegalites ou Z est de loi 2 (k 1), et nobs est la statistique de test calculee avec les observations.
p1,i p2,i , le rejet se fera evidemment si le nombre de couples (1, 0) est significativement
faible devant le nombre de couples (0, 1) ; le principe du test est donc le meme que dans Le test asymptotique est considere valide si np 0i (1 p0i ) 5 pour tout i.
IV.5. RESUME DES TESTS 81 82 CHAPITRE IV. MODELES DISCRETS

IV.5.2 Test dindependance entre deux variables qualitatives 4. Sous H0 , n (Y |X) converge en loi vers 2 (1).
Lobjectif est de verifier si deux variables categorielles sont independantes ou non. 5. Sous H1 , n (Y |X) diverge vers +.

1. Description du modele : ((Yi , Zi ), 1 i n) est une suite de v.a. i.i.d. respective- 6. Region de critique du test asymptotique : [a, +[.
ment a valeurs dans A = {a1 , . . . , ak } et B = {b1 , . . . , bm }. Une loi commune Pp 7. Niveau asymptotique du test egal a : a est le quantile dordre 1 de la loi 2 (1).
des couples (Yi , Zi ) sur (A, B) est decrite par le parametre p = (p j,h )1jk,1lm ou 8. Le test est convergent.
pj,l = Pp ((Yi , Zi ) = (aj , bl )). 9. La p-valeur asymptotique est donnee par
2. Les hypotheses : H0 = {pj,l = qj rl }1jk,1lm et H1 = {j, l; pj,l 6= qj rl }, ou qj =
Pm Pk p-valeur = P(Z n (y obs |xobs ),
l=1 pj,l et rl = j=1 pj,l .
3. La statistique de test : ou Z est de loi 2 (1), et n (y obs |xobs ) est la statistique de test calculee avec les obser-
k X
m
X (pj,l qj rl )2 vations.
n = n ,
qj rl
j=1 l=1
IV.5.4 Comparaison de deux proportions sur echantillons non apparies
ou pj,l , qj et rl sont respectivement les nombres doccurrence de (a j , bl ), de aj et de bl
divise par n. 1. Description du modele : (X1,k , 1 k n1 ) et (X2,j , 1 j n2 ) sont deux suites
4. Sous H0 , (n , n 1) converge en loi vers 2 ((k 1)(m 1)). independantes de v.a. i.i.d., de loi de Bernoulli de parametres respectifs p 1 et p2 .
5. Sous H1 , (n , n 1) diverge vers +. 2. Les hypotheses : H0 = {p1 = p2 } et H1 = {p1 6= p2 }.
P n1
6. Region de critique du test asymptotique : [a, +[. 3. La
Pn2statistique de test : Y1 conditionnellement a Y = y ou Y1 = k=1 X1,k , Y2 =
7. Niveau asymptotique du test egal a : a est le quantile dordre 1 de la loi 2 ((k j=1 X2,j et Y = Y1 + Y2 .

1)(m 1)). 4. Sous H0 , la loi de Y1 conditionnellement a Y = y est la loi hypergeometrique H(n 1 +


n2 , y, p) ou p = n1 /(n1 + n2 ).
8. Le test est convergent.
5. Sous H1 , Y1 conditionnellement a Y = y a tendance a prendre de tres petites valeurs
9. La p-valeur asymptotique est donnee par
ou de tres grandes valeurs.
p-valeur = P(Z nobs ), 6. Region de critique du test : {y n2 , . . . , y 1} {y+ , . . . , n1 }.
ou Z est de loi 2 ((k 1)(m 1)), et nobs est la statistique de test calculee avec les 7. Niveau du test par exces egal a : y , resp. y+ , est le quantile dordre /2, resp.
observations. 1 /2, de la loi H(n1 + n2 , y, p).

Le test asymptotique est considere valide si nq j rl (1 qj rl ) 5 pour tout (j, l). 8. Puissance du test : non crucial.
9. p-valeur : si y1 /n1 < y2 /n2 (correspondant a H0 = {p1 p2 } et H1 = {p1 < p2 }), elle
IV.5.3 Regression logistique est donnee par
y1
X Cnr 1 Cnyr
2
Lobjectif est de savoir si une variable explique significativement ou non une variable ,
Cyr
reponse booleenne. r=max(yn2 ,0)

1. Description du modele : ((Xi , Yi ), 1 i n) est une suite de v.a. i.i.d. respectivement si y1 /n1 > y2 /n2 (correspondant a H0 = {p1 p2 } et H1 = {p1 > p2 }), elle est donnee
a valeurs dans R et dans {0 ;1}. La liason entre les deux variables est decrite par le par
exp(0 + 1 x) min(n1 ,y) r
X Cn Cnyr
modele logit : P(Yi = 1|Xi = x) = p (x) = , ou = (0 , 1 ) R2 . 1 2
.
1 + exp(0 + 1 x) Cyr
r=y
2. Les hypotheses : H0 = {1 = 0} et H1 = {1 6= 0}. 1

3. La statistique de test : 10. Variante pour grands echantillons : statistique de test


r
n (Y |X) = 2(`n (Y |X; ) `n (Y |X; H0 )) n1 n2 X X2
n1 ,n2 = p 1 ,
n1 + n2 X(1 X)
ou Y = (Y1 , . . . , Yn ), X = (X1 , . . . , Xn ), = (0 , 1 ) et H0 = (0 , 0) sont respec-
tivement les parametres estimes sous P le modele complet et sous le modele restreint a ou X1 = Y1 /n1 , X2 = Y2 /n2 et X = (Y1 + Y2 )/(n1 + n2 ) ; sous H0 , n1 ,n2 converge en
lhypothese nulle, et `n (Y |X; ) = ni=1 Yi ln p (Xi ) (1 Yi ) ln(1 p (Xi )). loi (n1 , n2 , n1 /n2 ]0, [) vers la loi N (0, 1) ; sous H1 , n1 ,n2 diverge
IV.5. RESUME DES TESTS 83 84 CHAPITRE IV. MODELES DISCRETS

vers + ou ; region critique ] , a] [a, +[ ; niveau asymptotique pour


a = 1/2 , le quantile dordre 1 /2 de la loi N (0, 1) ; le test est convergent ; p-valeur

egale a P(|G| nobs
1 ,n2
), ou G de loi N (0, 1).

IV.5.5 Comparaison de deux proportions sur echantillons apparies


1. Description du modele : ((X1,i , X2,i ), 1 i n) suite de v.a. independantes, X 1,i de loi
de Bernoulli de parametre p1,i , independante de X2,i , de loi de Bernoulli de parametre
p2,i .
2. Les hypotheses : H0 = {p1,i = p2,i ; 1 i n} et H1 = {p1,i significativement plus
grand (ou plus petit) que p2,i pour un nombre significatif dindices i}.
P
3. La statistique
Pn de test : Z0,1 conditionnellement a Z = z, ou Z0,1 = ni=1 1{X1,i =0,X2,i =1} ,
Z1,0 = i=1 1{X1,i =1,X2,i =0} et Z = Z0,1 + Z1,0 (Z represente le nombre de couples pour
lesquels les resultats different).
4. Sous H0 , la loi de Z0,1 conditionnellement a Z = z est la loi B(z, 1/2).
5. Sous H1 , conditionnellement a Z = z, Z0,1 a tendance a prendre de tres petites valeurs
ou de tres grandes valeurs.
6. Region de critique du test : {0, . . . , z 1} {z+ , . . . , n}.
7. Niveau du test par exces egal a : z (resp. z+ ) est le quantile dordre /2 (resp.
1 /2) de la loi B(z, 1/2).
8. Puissance du test : non crucial.
9. La p-valeur est 2P(W min(z0,1 obs , z z obs )), ou W est de loi B(z, 1/2) et z obs est la
0,1 0,1
statistique de test calculee avec les observations.
10. Variante pour grands echantillons, sous des hypotheses raisonnables sur les p j,i sous H0
et H1 : statistique de test
Z1,0 Z0,1
n = p ;
Z1,0 + Z0,1
sous H0 , n converge en loi vers la loi N (0, 1) ; sous H 1 , n diverge vers + ou ;
region critique ], a][a, +[ ; niveau asymptotique pour a = 1/2 , le quantile

dordre 1/2 de la loi N (0, 1) ; le test est convergent ; p-valeur egale a P(|G| nobs
1 ,n2
),
ou G de loi N (0, 1).
Le test asymptotique est considere valide si z > 20.
86 CHAPITRE V. TESTS NON PARAMETRIQUES

rellement le choix dun modele non parametrique (par exemple les donnees sont-elles gaus-
siennes ?) et une seconde situation dans laquelle on peut hesiter entre un modele parametrique
et un modele non parametrique (par exemple ces 2 series de donnees ont-elles la meme loi de
probabilite ?)
Dans ce dernier cas la difficulte est quil nexiste pas systematiquement un test non pa-
Chapitre V rametrique adapte a une situation donnee. Pour mettre en evidence cette difficulte, precisons
que le modele lineaire gaussien (voir chapitre 2) permet de traiter un nombre arbitraire de
facteurs explicatifs et de regresser sur un nombre quelconque de variables (la limite infor-
matique du nombre de variables sur un gros systeme est de lordre de 1 000). A contrario,
Tests non parametriques les methodes non parametriques danalyse de la variance ne permettent que de traiter deux
facteurs au plus (avec des contraintes dequilibre) et celles de regression non parametrique
ne peuvent etre mises en uvre que sur une seule variable ! On observe aussi que les tests
parametriques sont souvent plus puissants que les tests non parametriques equivalents mais
les tests non parametriques sont plus simples a mettre en uvre. La strategie a adopter est
V.1 Pourquoi la statistique non parametrique ? donc un compromis entre un modele avec de nombreux parametres mais un test plus puissant,
et un modele avec une variabilite plus grande mais un test plus simple.
V.1.1 Se liberer du modele parametrique
La statistique non parametrique cherche a faire le moins dhypotheses possible sur la forme V.1.3 Exemples
eventuelle du modele qui a donne naissance aux donnees observees. Elle se distingue donc
de la statistique dite parametrique declinee jusquici, qui etait caracterisee, dans le contexte Exemple V.1. Revenons sur lexemple II.8.1 concernant la mesure de taux dalcool dans le
general des modeles statistiques par une famille parametree de probabilites P = {P , }, sang. (en dg/l) de n sujets : voici le tableau des observations, avec n = 30 (extrait de louvrage
ou lensemble de parametres etait contenu dans R k , et on dit souvent dans un tel cas quil de D. Schwartz, Methodes statistiques a lusage des medecins et des biologistes, Flammarion).
sagit dun modele a k parametres (en sous-entendant ladjectif reels). En statistique non
27 26 26 29 10 28 26 23 14 37 16 18 26 27 24
parametrique, cette inclusion dans R k nest plus stipulee. La loi de probabilite des observations
appartient a un ensemble plus vaste, par exemple lensemble des lois absolument continues sur 19 11 19 16 18 27 10 37 24 18 26 23 26 19 37
R. Les buts restent neanmoins les memes : construire des tests. Pour cela, elle utilise des outils Tab. V.1 Taux dalcool dans le sang. (en dg/l) de n = 30 sujets
specifiques : essentiellement les rangs, les signes et les statistiques dordre des observations.
Les calculs impliques sont souvent bien plus simples que dans le cas parametrique.
Dans ce cours, nous insisterons sur les tests non parametriques. La grande diffe- Nous avons etudie ces donnees en supposant quelles etaient gaussiennes : grace aux tests
rence avec les tests parametriques precedents tient a la taille des hypotheses H 0 et H1 . Dans non parametriques et en particulier au test de Kolmogorov on peut valider cette hypothese.
le modele normal lineaire, par exemple, ces hypotheses sont decrites par un (petit) nombre Mais construire un test pour justifier du caractere gaussien des donnees ne peut se faire que
de parametres reels comme les moyennes dans les cas simples. Dans le cas non parametrique, dans le cadre non-parametrique car lhypothese alternative est naturellement lensemble de
par contre, la description des hypotheses nulles H 0 du type ces deux echantillons sont tires toutes les autres lois de probabilite.
dune meme loi ne peut pas se ramener a un nombre fini de parametres reels. Quant aux
hypotheses alternatives H1 , elles sont souvent tellement vastes quelles echappent a toute Exemple V.2. Des sociologues sinteressent a la maladie et a lanxiete qui en decoule. Des
tentative de description. Nous essaierons neanmoins de preciser dans certains cas la forme societes ou il existe une explication orale de la maladie (cest parce quon a mange du poison
possible dhypotheses alternatives afin de justifier la construction des tests. quon est malade, cest parce quon a recu un sort, etc...) sont-elles differentes de celles
ou aucune explication orale nexiste ? Des juges differents ont donne une note danxiete
V.1.2 Quand faut-il utiliser du non parametrique ? a chacune de ces societes ; elles sont consignees dans le tableau ci-apres, ou les effectifs des
deux echantillons sont respectivement m = 16 (societes sans explications orales) et n = 23
Le non parametrique (expression familiere pour modele non parametrique) permet (societes avec explications orales).
daborder des problemes complexes quil est difficile de modeliser correctement en utilisant un Dans cet exemple les notes nont pas une valeur intrinseque de mesure et il y a de plus
modele ou les relations doivent etre explicitees a laide de parametres reels : notations donnees beaucoup dex-aequo rendant difficile lassimilation de cette loi a une loi gaussienne. En
par des examinateurs ayant des baremes differents, petits echantillons quand on na aucun revanche le classement des societes les unes par rapport aux autres est significatif. Or nous
moyen de justifier lhypothese gaussienne, donnees quantitatives avec variance heterogenes. verrons que par leur construction les tests non-parametriques sont particulierement adaptes
Il existe 2 situations : la premiere situation est celle ou la question posee entraine natu- a la comparaison de deux echantillons par lintermediaire de leurs statistiques dordre.

85
V.1. POURQUOI LA STATISTIQUE NON PARAM ETRIQUE ? 87 88 CHAPITRE V. TESTS NON PARAMETRIQUES

Societes sans Notes Societes avec Notes V.2 Les outils statistiques du non parametrique
expl. orales danxiete expl. orales danxiete
Lapp 13 Marquesans 17 Les problemes de test, en statistique non-parametrique, conduisent souvent a ce que, sous
Chamorro 12 Dobuans 16 lhypothese nulle, les observations soient i.i.d. alors que sous lhypothese alternative, lune
Samoans 12 Baiga 15 au moins des hypotheses dindependance ou didentite des distributions est mise en defaut.
Arapesh 10 Kwoma 15 Ainsi, sous H0 , il est possible de contruire des statistiques de test dont la loi est calculable.
Balinese 10 Thonga 15 Les tests interessants seront ceux bases sur les statistiques dites libres :
Hopi 10 Alorese 14 Definition V.4. Une statistique est dite libre, pour des observations i.i.d., si sa loi ne depend
Tanala 10 Chagga 14 que de la taille de lechantillon (et non de la loi commune des observations composant cet
Paiute 9 Navaho 14 echantillon).
Chenchu 8 Dahomeans 13
Teton 8 Lesu 13 Pour de petits echantillons, on peut alors construire des tables et en deduire la construction
Flathead 7 Masai 13 de tests. Pour les grandes valeurs, on montre en general que la statistique etudiee converge
Papago 7 Lepeha 12 en loi (souvent vers une loi gaussienne ou la loi dune fonction simple dun vecteur gaussien).
Wenda 7 Maori 12 Ces statistiques sont souvent calculees a partir des signes et des rangs dun echantillon.
Warrau 7 Pukapukans 12 Considerons 3 observations x1 , x2 et x3 verifiant : x3 < x1 < x2 ; il est naturel de dire
Wogeo 7 Trobianders 12 que, en croissant, le premier est 3, le second est 1 et le troisieme est 2 ; en dautres
Ontong 6 Kwakiull 11 termes, le rang de 1 est r1 = 2, celui de 2 est r2 = 3 et celui de 3 est r3 = 1. Ceci nous
Manus 11 conduit a la notion generale de suite des rangs (r 1 , . . . rn ) associee a une suite dobservations
Chiricahua 10 reelles toutes distinctes (x1 , . . . , xn ) ; cest la permutation (application bijective de {1, . . . , n}
Comanche 10 dans lui-meme) dont la reciproque, soit (s 1 , . . . , sn ), verifie : xs1 < xs2 < . . . < xsn .
Siriono 10 Cette definition est bien etablie si les x i sont tous distincts. Sil nen est pas ainsi, il
Bena 8 faut remplacer les inegalites strictes dans la definition precedente par des inegalites larges, et
Slave 8 plusieurs permutations y satisfont en cas dex-aequo. Nous ne considererons que des situations
Kurtatchi 6 ou les observations i.i.d. sont de loi commune a fonction de repartition continue de sorte que
les variables aleatoires de rangs, R 1 , . . . , Rn seront uniquement definies sauf sur une partie
Tab. V.2 Tableau extrait de Siegel, 1956 : Angoisse dans les societes primitives. de probabilite nulle de Rn ; cest pourquoi nous naurons aucun probleme pour le calcul de
la loi de statistiques dans la definition desquelles interviendront les rangs des observations.
Dans ce contexte, on a :
Proposition V.5. Soit (X1 , . . . , Xn ) est un n-echantillon dune loi de fonction de repartition
F continue, de mediane1 . Alors les v.a.2 (signe (X1 ), . . . , signe(Xn )) sont i.i.d. avec
Exemple V.3. On cherche a etudier leffet dune certaine drogue sur la pression arterielle.
Huit personnes souffrant dhypertension sont tirees au hasard dans une population dhyper- 1
P(signe (Xi ) = +) = P(signe (Xi ) = ) = .
tendus. On mesure la pression arterielle de chacune delle, immediatement avant puis 2 heures 2
apres ladministration de cette drogue. Les resultats sont les suivants :
En outre les rangs R1 , . . . , Rn des Xi (1 i n) dans lordre croissant verifient que pour
toute permutation de {1, . . . , n},
N du patient 1 2 3 4 5 6 7 8
avant traitement X 192 169 187 160 167 176 185 179 1
P(R1 = (1), ..., Rn = (n)) = n!
apres traitement Y 196 165 166 157 170 145 168 177
Demonstration. Le premier resultat est une simple consequence de lindependance et de la
definition de la mediane.
Dans cet exemple, on a 2 petits echantillons apparies (c.f. paragraphe IV.4) : la statistique
1
non-parametrique permet de construire des tests simples (par exemple le test de Wilcoxon) La mediane dune v.a. X est le nombre tel que (X ) = (X ), ou lun de ces nombres sil
fondes sur le signe des differences entre les echantillons et le rang des differences, permettant ny a pas unicite, ce qui se produit sil existe un intervalle non reduit a un point sur lequel la fonction de
repartition de X prend la valeur 1/2.
de tester que les 2 distributions suivent la meme loi de probabilite. 2
signe (t) prend ses valeurs dans lensemble {, +}, en convenant que signe (0) = + ; cette convention nest
pas genante quand F est continue car alors (X = 0) = 0.
V.2. LES OUTILS STATISTIQUES DU NON PARAM ETRIQUE 89 90 CHAPITRE V. TESTS NON PARAMETRIQUES

Soit une permutation de 1, ..., n, alors X (1) , ..., X(n) est encore un nechantillon de la Un avantage inconteste du non parametrique est de permettre de travailler sur des don-
loi F . Donc pour une permutation , on a nees ordinales, cest-a-dire qui expriment lordre et ainsi de saffranchir de la quantification
absolue, car les echelles de quantifications et les procedures dattributions de mesures sont
P (R1 = (1), ..., Rn = (n)) = P(R (1) = (1), ..., R (n) = (n)). souvent peu robustes. Par exemple, dans des tests de degustation, on demande simplement
aux juges de classer les divers produits. Enfin, des notes, attribuees par differents notateurs
En prenant = on trouve que cette probabilite est egale a : P(R 1 = 1, ..., Rn = n). En nayant pas les memes baremes, a la fois en niveau moyen et en dispersion, posent dimportants
conclusion, tous les classements ont la meme probabilite, comme il y en a n!, cette probabilite problemes statistiques pour les ramener a un bareme commun. Il est tres souvent preferable
1
vaut n! . de considerer que la note en elle-meme na aucune valeur, mais quelle exprime seulement
les preferences du notateur : la note est consideree comme une donnee ordinale et le non
De ce theoreme on deduit le resultat fondamental suivant : Toute fonction g des rangs parametrique permet de saffranchir de nombreuses difficultes provenant de lechelle utilisee
g(R1 , ..., Rn ) a une loi qui ne depend pas de la fonction de repartition F mais pour la notation.
seulement de n. Ainsi g(R1 , ..., Rn ) est une statistique libre. Remarquons aussi que les
rangs sont invariants par transformation strictement croissante. Le resultat suivant
tres important permet de ramener le cas ou F est une fonction de repartition quelconque a
V.3 Problemes a un seul echantillon
celui de la loi uniforme sur [0, 1]. V.3.1 Ajustement a une loi : le test de Kolmogorov
Proposition V.6. Soit (X1 , . . . , Xn ) un n-echantillon suivant la loi de fonction de reparti- Cest un test dajustement a une loi, comme le test du 2 (voir VII.1.3), mais qui sapplique
tion F continue. Alors (F (X1 ), . . . , F (Xn )) est un n-echantillon suivant la loi uniforme sur a une variable quantitative. On veut tester lhypothe se selon laquelle les donnees observees
P n Pndes F (Xi ) sont p.s. les memes que ceux des Xi . Enfin p.s., t R,
[0, 1] et les rangs sont tirees dune loi dont la fonction de repartition est F 0 . Dans toute cette section, on
i=1 1{Xi t} = i=1 1{F (Xi )F (t)} . considere que la vraie fonction de repartion inconnue F et F 0 sont continues. Le test est
base sur la difference entre la fonction de repartition F 0 de cette loi theorique et la fonction
Demonstration. Nous allons effectuer la demonstration dans le cas ou F est strictement crois- de repartition empirique F dont on rappelle la definition (voir VII.1.3, p. 150) :
sante de R dans ]0, 1[, ce qui assure que cette fonction continue admet un inverse strictement
croissant et continu F 1 . Pour u ]0, 1[, Definition V.9. On definit la fonction de repartition empirique du n-echantillon X =
(X1 , ..., Xn ), par la fonction en escalier suivante :
P(F (Xi ) u) = P(Xi F 1 (u)) = F (F 1 (u)) = u, n
Card ({1 i n : Xi t}) 1X
FX (t) = = 1{Xi t} .
n n
ce qui assure que les variables aleatoires F (X i ) sont i.i.d. suivant la loi uniforme sur [0, 1]. i=1
Les deux autres assertions decoulent facilement de la croissance stricte de F .
Remarque V.10. Notons que FX est continue a droite.
Dans le cas general ou F nest pas strictement croissante, la preuve est donnee en annexe
en fin de chapitre. Le test de Kolmogorov permet de tester lhypothese H 0 : Les observations sont un
echantillon de la loi F0 contre sa negation. La statistique D X de ce test est alors basee sur
Definition V.7. Soit X = (X1 , X2 , ..., Xn ) un n-echantillon suivant
 la loi de fonction de la distance maximale entre F0 et F , cest a dire :
repartition continue F . Le vecteur aleatoire X(1) , X(2) , ..., X(n) obtenu en ordonnant les



valeurs des Xi par ordre croissant est appele statistique dordre de X. La variable X (k) est la DX = sup F0 (t) FX (t) .
t
k ieme statistique dordre.
Il sagit dun choix de distance raisonnable, car dapres le theoreme de Glivenko-Cantelli (voir
Proposition V.8. La fonction de repartition de la k ieme statistique dordre est VII.3.3, p. 165), sous H0 , DX converge p.s. vers 0 lorsque n tend vers linfini. La zone de

rejet est alors de la forme : DX > a . Notons que comme FX est constante et egale a i/n
n
 X sur lintervalle [X(i) , X(i+1) [ tandis que F0 est croissante sur cet intervalle,
P X(k) x = Cnj (F (x))j (1 F (x))nj .
j=k
i i

sup F0 (t) FX (t) = max(|F0 (X(i) ) |, |F0 (X(i+1) ) |).
t[X(i) ,X(i+1) [ n n
Demonstration. Par definition {X(k) x} signifie il y a au moins k valeurs dans X qui sont
inferieures a x. Soit j le nombre de valeurs effectivement inferieures a x ; il y a C nj facons On en deduit lexpression suivante tres utile en pratique
de choisir les Xi correspondants et la probabilite que ces X i soient inferieurs a x est bien : i1 i
F (x)j (1 F (x))nj . En combinant tous ces elements, on trouve le resultat. DX = max max(|F0 (X(i) ) |, |F0 (X(i) ) |).
1in n n
V.3. PROBLEMES A UN SEUL ECHANTILLON 91 92 CHAPITRE V. TESTS NON PARAMETRIQUES

La legitimite du choix de DX comme statistique de test repose sur la proposition suivante : Remarque V.15. On peut aussi envisager des contre-hypotheses plus fines, du type uni-
lateral : la loi des donnees a une fontion de repartition F telle que F F 0 au sens ou t R,
Proposition V.11. Sous H0 , DX est une statistique libre.
F (t) F0 (t) et t0 R, F (t0 ) < F0 (t0 ). Dans ce cas, la statistique de test secrit sans la
Demonstration. Dapres la proposition V.6, presque surement valeur absolue (et sa loi est differente).

n
1X
DX = sup F0 (t) 1{Ui F0 (t)}
t n
i=1

ou les variables Ui = F0 (Xi ) sont i.i.d. suivant la loi uniforme sur [0, 1]. Il suffit ensuite de V.3.2 Un exemple
faire le changement de variable u = F0 (t) pour conclure.

La loi de DX sous H0 a ete tabulee, ce qui donne des valeurs seuils a a ne pas depasser On dispose des 10 donnees suivantes :
pour que H0 soit acceptable au niveau . Les moyens actuels de calcul informatique per-
mettent egalement dapprocher la loi de D X a laide de simulations. Pour n grand, il existe
une approximation decrite par la proposition suivante :
x = (2.2 , 3.3 , 5.3 , 1.8 , 4.3 , 6.3 , 4.5 , 3.8 , 6.4 , 5.5)
Proposition V.12. Sous H0 , en posant n = nDX , on dispose du resultat asymptotique
suivant : la suite (n , n 1) converge en loi et pour tout y > 0, on a

X  La question nave ces observations proviennent-elles dune loi normale de moyenne 4 et
P(n y) (1)k exp 2k 2 y 2 .
n de variance 4 ? va etre formalisee sous lenonce : tester, au niveau de signification 0.05,
k=
lhypothese nulle selon laquelle ces observations, supposees independantes et identiquement
P
Demonstration. Comme pour t R, FX (t) = n1 ni=1 1{Xi t} ou les variables n1{Xi t} sont distribuees, ont pour loi commune la loi normale de moyenne 4 et variance 4 .

i.i.d. suivant la loi de Bernoulli B(F 0 (t)), le TCL entrane que n(F0 (t) FX (t)) converge en
loi vers Yt de loi normale centree N (0, F0 (t)(1 F0 (t))). Plus generalement, le theoreme de la

limite centrale multidimensionnel (voir VII.3.2) assure que n(F0 (t1 ) FX (t1 ), . . . , F0 (tk ) 1

FX (tk )) converge en loi vers un vecteur gaussien centre (Y t1 , . . . , Ytk ) de covariance donnee

Fonctions de rpartitions empirique et thorique


0.8

par Cov(Yti , Ytj ) = F0 (min(ti , tj )) F0 (ti )F0 (tj ). En fait le processus n(F0 (t) FX (t))t Fonction de rpartion thorique

converge en loi vers un processus gaussien centre tel que Cov(Y s , Yt ) = F0 (min(s, t)) 0.6
Lcart Maximun entre
les deux courbes vaut
0.163 en t=3.3

F0 (s)F0 (t) et on verifie que pour tout y > 0, Fonction de rpartion empirique

0.4

  X +

P sup |Yt | y = (1)k exp 2k 2 y 2 . 0.2

t
0

1 2 3 4 5 6 7
t


Proposition V.13. Sous H1 , n = nDX tend p.s. vers + avec n.
Le test est donc necessairement unilateral a droite (rejet des valeurs trop grandes). Fig. V.1 Le test de Kolmogorov sappuie sur la distance entre fonction de repartition
empirique et theorique.
Demonstration. Sous H1 la fonction de repartition commune des X i , notee F est differente
de F0 . Soit t1 R tel que F0 (t1 ) 6= F (t1 ). Dapres la loi forte des grands nombres FX (t1 ) =
1 Pn
 
n i=1 1{Xi t1 } convergep.s. vers E 1{Xi t1 } = F (t1 ). Donc n|F0 (t1 ) FX (t1 )| tend p.s.
vers + de meme pour nDX . On calcule la fonction empirique dessinee sur la figure V.1. Elle montre que D x = 0.163,
ecart maximal obtenu en t = 3.3. Cette valeur est-elle plausible, au niveau 0.05, sous lhy-
Remarque V.14. Si F0 est non continue (par exemple lorsquil sagit dune loi discrete), pothese H0 ? Les praticiens ont lhabitude de faire la transformation de laxe des abscisses
le test de Kolmogorov sous sa forme classique nest pas valide (la proposition 2 nest valable u = F (t). Cette transformation permet de travailler dans le carre [0, 1] [0, 1] (cf figure V.2)
que si F0 est continue) : on peut montrer que D X est alors plus concentree a proximite de ou DX mesure alors lecart de la fonction de repartition empirique par rapport a la premiere
zero que quand F est continue. bissectrice.
V.4. PROBLEMES A DEUX ECHANTILLONS 93 94 CHAPITRE V. TESTS NON PARAMETRIQUES

1
la note : la copie et le correcteur. Pour donner un sens a la problematique qui nous interesse
0.9
ici (comparaison des deux correcteurs), il faut donc modeliser la situation en introduisant
0.8

Fonctions de rpartitions empirique et thorique


pour chaque copie une notion de valeur intrinseque, de sorte que ce sont les variations
0.7

de chaque correcteur autour de cette valeur qui caracterisent ces correcteurs et dont il faut
0.6

0.5
comparer les lois (et non les lois des notes elles-memes, qui varient de copie a copie pour
0.4
chaque correcteur). Dans cette situation, la comparaison des baremes peut se faire par un
0.3
test de Wilcoxon.
0.2
Dans un second cas, les deux correcteurs se partagent le paquet et chaque copie nest
0.1
corrigee quune fois ; les deux paquets se composent respectivement de m et 400 m copies.
0
Le seul facteur identifiable est donc le correcteur et il ny a plus de notion dappariement
0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1
u=F(t)
qui ait un sens : on dit donc que les echantillons de notes sont non apparies. On suppose
implicitement que, globalement, ces deux paquets sont de meme valeur (un exemple celebre
de non respect de cette clause sest presente en France lors dun examen national dallemand
Fig. V.2 Presentation usuelle de la distance de Kolmogorov.
ou la repartition des copies etait faite par ordre alphabetique ; le rapport sur cet examen
setonnait ensuite que les zones de la fin de lalphabet, plus frequentes comme premiere lettre
En utilisant une table ou bien en approchant les quantiles de la loi de D X sous H0 par
du nom de famille dans les regions frontalieres de lAllemagne que dans le reste de la France,
simulation dun grand nombre de realisations suivant cette loi, on remarque que la valeur
recueillent significativement de meilleurs notes !). Ici, cest sur lensemble des notes de lun et
observee Dx = 0.163 est inferieure au quantile dordre 0.95 de la loi de D X : 0.410. (La
lautre paquets que lon fondera la comparaison des deux correcteurs. Dans cette situation,
p-valeur est de 0.963.)
la comparaison des baremes peut par exemple se faire par un test de Mann et Whitney.
Lhypothese de reference H0 est acceptee.

V.4.2 Deux echantillons apparies : le test de Wilcoxon


V.3.3 Test de normalite
Principe
Revenons a lexemple V.1 des mesures de taux dalcoolemie. On peut de la meme maniere
tester H0 : Les donnees suivent une loi gaussienne de moyenne 23 et de variance 49 contre Dans lexemple V.3 de letude dune drogue sur la pression arterielle, on desire savoir si
lalternative : cest faux . On trouve D x = 0.132 donc on ne rejette pas H0 pour les ladministration de cette drogue diminue la pression. On peut reformuler cette question de la
niveaux habituellement utilises (quantile asymptotique dordre 0.95 egal a 0.242, et p-valeur facon suivante : la loi de la pression arterielle des patients a-t-elle ete decalee vers les valeurs
asymptotique egale a 0.637). Dans ce probleme on pourrait tester H 0 : Les donnees suivent inferieures apres ladministration de la drogue ?
une loi gaussienne contre lalternative : cest faux, a laide du test de normalite de Pour y repondre, on se place dans le modele non parametrique de decalage suivant : on
Lilliefors : ce test utilise la statistique de Kolmogorov determinee par la distance entre la suppose que les variables (X1 , . . . , Xn ) (pressions avant administration de la drogue) sont i.i.d.
loi empirique et la loi gaussienne dont lesperance est la moyenne empirique et la variance, de fonction de repartition F continue et independantes des variables (Y 1 , . . . , Yn ) (pressions
la variance empirique. Les quantiles sont differents des quantiles du test de Kolmogorov et apres administration) i.i.d. de fonction de repartition F (t) = F (t ) ou R. Dans ce
peuvent etre calcules par simulation. Il existe de nombreux tests de normalite (test de Pearson modele, les variables Yi ont meme loi que les variables Xi + . En effet,
construit avec une approche de discretisation et un test du 2 , test de Shapiro-Wilk, . . . ).
P(Y1 t) = F (t ) = P(X1 t ) = P(X1 + t).

V.4 Problemes a deux echantillons On souhaite tester H0 = { = 0} contre H1 = { < 0} (cela revient au meme de choisir
H0 = { 0} contre H1 = { < 0}).
V.4.1 Que signifie echantillon apparie, non apparie ? Pour repondre a cette question, on presente le test de Wilcoxon 3 construit a partir de la
statistique de Wilcoxon. On ordonne les variables Z i = Xi Yi suivant lordre croissant des
La distinction entre echantillon apparie et echantillon non-apparie a deja ete faite dans valeurs absolues pour obtenir la suite Z (1) , . . . , Z(n) avec |Z(1) | |Z(2) | . . . |Z(n) |. On
IV.4 ; reprenons la avec un autre exemple. Deux correcteurs doivent corriger 400 copies et on calcule ensuite
souhaite savoir sils ont ou non le meme comportement (on dira aussi : le meme bareme) ;
deux modes de repartition des copies entre les correcteurs sont consideres.
n
Dans un premier cas, chacune des 400 copies est corrigee par les deux correcteurs, en X
aveugle, cest-a-dire que chaque correcteur ignore la note mise par son collegue. On enregistre T+ = k1{Z(k) >0} .
k=1
ensuite pour chaque copie ses deux notes, ce qui justifie la terminologie : les echantillons de
3
notes sont apparies ; en dautres termes, il y a deux facteurs identifies dans lelaboration de Ce test est egalement appele test des signes et rangs.
V.4. PROBLEMES A DEUX ECHANTILLONS 95 96 CHAPITRE V. TESTS NON PARAMETRIQUES

Lexpression de T + mele donc les rangs des valeurs absolues des differences Z i = Xi Yi La preuve de cette proposition est donnee en annexe en fin de chapitre.
et leur signes. Sous H0 , ces differences ont une loi symetrique autour de 0 : en effet, comme On etudie maintenant le comportement de la statistique de test sous H 1 . Comme |Z(1) |
Xi et Yi sont independantes et de meme loi, X i Yi a meme loi que Yi Xi . En outre comme |Z(2) | . . . |Z(n) |, pour 1 j k n, Z(k) + Z(j) est positif si et seulement si Z(k) lest.
F est continue, P(Zi = 0) = 0. P
Donc k1{Z(k) >0} = kj=1 1{Z(j) +Z(k) >0} et
La proposition suivante (assez intuitive), permet alors de determiner la loi de T + sous H0
puisquelle assure que les variables aleatoires (1 {Z(k) >0} , 1 k n) sont alors i.i.d. suivant X
T+ = 1{Z(j) +Z(k) >0} .
la loi de Bernoulli B( 12 ) : 1jkn

Proposition V.16. Si Z suit une loi symetrique autour de zero telle que P(Z = 0) = 0, Mais les doubletons {Z(j) , Z(k) } avec j k sont en bijection avec les doubletons {Z i , Zj } avec
alors sa valeur absolue et son signe sont independants. i j. Dou

Demonstration. La symetrie de la loi de Z, jointe au fait que P(Z = 0) = 0, exprime que si B X X


T+ = 1{Zi +Zj >0} = 1{Xi (Yi )+Xj (Yj )>2} ,
est une partie borelienne de R+ et quon note B sa symetrique (B = {x 0 : x B}), 1ijn 1ijn
on a :
ou les variables aleatoires Yi ont meme loi que les Xi . En utilisant cette expression, on
P(|Z| B) = P(Z B B) = 2 P(Z B). peut demontrer que lorsque n tend vers linfini, n tend p.s. vers ou + suivant que
> 0 ou < 0.
Il il en resulte pour le choix B = R+ que : Ainsi pour lexemple de letude de leffet dune drogue (H 1 = { < 0}), la zone critique
est de la forme [a, +[.
1
P(signe(Z) = +) = P(signe(Z) = ) =
2 Remarque V.18. Si on choisit comme hypothese alternative :
donc : H1 = { > 0}, la zone critique est de la forme ] , a],
H1 = { 6= 0} alors la zone critique est de la forme ] , a] [a, +[.
1
P (signe(Z) = +, |Z| B) = P(Z B) = P(|Z| B) = P(signe(Z) = +) P(|Z| B).
2

De meme, on a P (signe(Z) = , |Z| B) = P(signe(Z) = ) P(|Z| B). La definition de Pour les petits echantillons (n < 20), on consultera les tables pour trouver les valeurs
lindependance entre signe(Z) et |Z| est ainsi verifiee (voir VII.1.4, p. 153). seuils de T + ou on ecrira quelques lignes de programmation afin de simuler un grand nombre
de realisations de T + sous lhypothese nulle. Pour les grands echantillons (n 20), on utilisera
lapproximation gaussienne. Ce resultat reste approximativement valable quand les donnees
On deduit de la proposition precedente, que sous H 0 , les variables aleatoires 1{Z(k) >0}
comportant des ex-aequo. Voyons plus precisement comment traiter ces cas en pratique.
sont i.i.d. de loi de Bernoulli B( 12 ). On a ainsi

n (n + 1) Traitement des ex-aequo


E[T + ] =
4 Cest un des problemes permanents de la statistique non parametrique. En theorie, on
sait pourtant que si on travaille avec des lois F continues, il ne devrait pas apparatre dex-
 1 X 2 n (n + 1) (2n + 1) aequo (probabilite doccurrence nulle !). En pratique, on en trouve souvent et surtout quand
Var T + = k = .
4 24 on travaille sur des notes. Par exemple, si un ou plusieurs examinateurs notent 200 individus
de 1 a 20, on est assure de trouver des ex-aequo en grand nombre. Ce probleme est donc
Et meme si les differents termes de T + nont pas meme variance a cause du coefficient k,
incontournable en pratique. Nous donnons ci-dessous les trois principales reponses possibles
on peut neanmoins montrer la normalite asymptotique de T + . On considere la statistique de
et qui sappliquent a lensemble des tests de ce chapitre.
test
Randomisation : on departage tous les ex-aequo par un tirage au sort auxiliaire : on
T + n(n+1)
4
n = q . jette une piece en lair... Cette methode est la plus seduisante sur le plan theorique,
n(n+1)(2n+1)
24
cependant elle a linconvenient dintroduire un hasard exogene qui peut brouiller les
resultats pour les petits echantillons.
Proposition V.17. Sous H0 , la suite (n , n 1) converge en loi vers la loi normale centree Suppression : dans un test de signe, si on a deux donnees appariees egales, on supprime
reduite N (0, 1). la paire correspondante.
V.4. PROBLEMES A DEUX ECHANTILLONS 97 98 CHAPITRE V. TESTS NON PARAMETRIQUES

Rang moyen : dans les tests de rangs, quand plusieurs valeurs sont egales, on leur ou U1 = F (X1 ), ..., Um = F (Xm ) et V1 = F (Y1 ), ..., Vn = F (Yn ) sont deux echantillons
donne la moyenne des rangs quelles auraient si elles etaient differentes. Cest la independants de la loi uniforme sur [0, 1]. On conclut en effectuant le changement de variable
methode la plus employee dans les tests de rangs, et cest celle que nous u = F (t).
conseillons, et que nous utiliserons dans les exemples a venir. Elle nest pas parfai-
tement rigoureuse sur le plan theorique, mais pour la plupart des tests, il existe des Remarque V.21. En pratique, pour calculer D x,y on trie globalement les xi et les yj par
corrections pour tenir compte des egalisations. ordre croissant pour obtenir z = (z1 , . . . , zn+m ). En notant sk = 1/m si zk provient de x et
sk = 1/n si zk provient de y, on a
Exemple V.19. Revenons sur lexemple V.3 concernant letude de leffet dune certaine

drogue. Xk

Dx,y = max sl .
(X Y ) -4 +4 +21 +3 -3 +31 +17 +2 1kn+m
l=1
rang(|X Y |) 4.5 4.5 7 2.5 2.5 8 6 1
rang des dif. 0 4.5 7 2.5 8 6 1

La loi de Kolmogorov-Smirnov D(m, n) est tabulee pour des petites valeurs de m et n,


On en deduit t+ = 29. Des simulations ou une table de Wilcoxon donne la p-valeur
elle est aussi accessible facilement par simulation. Pour le cas m = n, et si D n,n designe une
sous H0 : P (T + 29) = 0.074. Au niveau de signification de 0.05 (comme pour tout niveau
v.a. de loi D(n, n), on dispose aussi de la formule (pour tout entier strictement positif k) :
inferieur a 0.074), t+ = 29 tombe dans la region dacceptation de H 0 ; la drogue na pas deffet
significatif sur la tension. [n/k]
P 2
(n!)
P(nDn,n > k) = 2 (1)j+1 (njk)!(n+jk)! .
j=1

V.4.3 Deux echantillons non apparies Pour les echantillons de grande taille, lorsque m et n tendent vers linfini, on a le com-
On dispose de deux echantillons X1 , ..., Xm et Y1 , ..., Yn , issus de variables aleatoires toutes portement asymptotique suivant.
independantes, de fonctions de repartition continues, notees respectivement F pour le premier, q
mn
et G pour le second. On veut tester lhypothese H 0 : F = G Nous allons pour cela decrire Proposition V.22. Si on pose m,n = m+n DX,Y , lorsque min(m, n) , on a
deux tests. Dans le test de Kolmogorov-Smirnov, lalternative est F 6= G. Pour le test de +
P
sous H0 , y > 0, P(m,n y) (1)k exp (2k 2 y 2 ),
Mann et Whitney, lalternative, un peu plus restrictive, sera precisee ulterieurement.
sous H1 , p.s. m,n tend vers +.
Test de Kolmogorov-Smirnov pour deux echantillons
Lexpression asymptotique de la fonction de repartition sous H 0 ne peut etre utilisee en
On decrit dabord le test de Kolmogorov-Smirnov qui generalise le test de Kolmogorov pratique que pour des valeurs assez elevees de m et n (de lordre de 40 au moins) car la
(voir ci-dessus V.3.1) au cas de deux echantillons. Ce test tres utilise vise donc a repondre a convergence annoncee est lente.
la question ces deux echantillons sont ils issus dune meme loi ?. Ce test de Kolmogorov-Smirnov est interessant dans le cas tres general ou lon ne connat
Comme dans le cas a un seul echantillon, ce test de Kolmogorov-Smirnov est base sur la aucun lien entre les deux echantillons. On propose maintenant un autre test, tres simple a
distance entre deux fonctions de repartition ; il sagit ici des fonctions de repartition empirique mettre en uvre.
FX associee a X et GY associee a Y :



Test de Mann et Whitney
DX,Y = sup FX (t) GY (t)
t Le test de Mann et Whitney est base sur lenchevetrement des observations des deux
echantillons. On note 1{Yj >Xi } la v.a. qui vaut 1 si Yj > Xi et 0 sinon. La statistique UY ,X
De meme, la zone de rejet de niveau est prise de la forme {D X,Y > a}, ou a est encore
du test secrit comme la somme des 1{Yj >Xi } .
independant de F sous H0 grace au resultat suivant.
Proposition V.20. Sous H0 , la statistique DX,Y est libre. On notera sa loi D(m, n).
X
Demonstration. Dapres la proposition V.6, UY ,X = 1{Yj >Xi }
i=1..m
1 m n
X j=1..n
1X
DX,Y = sup 1{Ui F (t)} 1{Vj F (t)}
t m i=1
n
j=1 Dans ces conditions, on a :
V.4. PROBLEMES A DEUX ECHANTILLONS 99 100 CHAPITRE V. TESTS NON PARAMETRIQUES

Proposition V.23. Sous H0 , la statistique UY ,X est libre. On notera sa loi U(m, n). En Remarque V.25. On peut expliciter des sous ensembles remarquables de lhypothese alter-
outre, P(Yj > Xi ) = 12 . native du test de Mann et Whitney.

Demonstration. Si H0 est vraie, on dispose dun (m + n)-echantillon de la loi de fonction de Soit W une v.a. de fonction de repartion F W et Z une v.a. de fonction repartition
repartition F : (X1 , . . . , Xm , Y1 , . . . , Yn ). Dapres la proposition V.6, (F (X 1 ) , . . . , F (Xm ) , FZ . On dit que la loi de W majore strictement pour lordre stochastique la loi Z, si
F (Y1 ) , . . . , F (Yn )) est un (m + n)-echantillon de la loi uniforme et p.s., FW (t) FZ (t) pour tout t R avec inegalite stricte pour au moins une valeur de t.
On le note alors Z W . Si de plus Z et W sont independantes, on a P(W > Z) > 12 .
X X
1{Yj >Xi } = 1{F (Yj )>F (Xi )} , Pour le test de Mann et Whitney, on peut donc considerer comme hypothese alternative
i=1..m i=1..m H1 = {Xi Yj } {Yj Xi } sans changer la region critique.
j=1..n j=1..n
On peut se placer dans un modele de decalage en supposant que la fonction de reparti-
ce qui assure que la statitisque UY ,X est libre. Comme P(Yj > Xi ) = P(F (Yj ) > F (Xi )) et tion commune des Yj est de la forme F (t) = F (t ) ou R, ce qui signifie que Y j
que F (Yj ) et F (Xi ) sont des v.a. independantes de loi uniforme sur [0, 1], on en deduit que a meme loi que Xi + . Alors pour > 0, Xi Yj tandis que pour < 0, Yj Xi .
On peut alors tester lhypothese H0 = { = 0} contre lhypothese H1 = { 6= 0} sans
Z
1 changer la region critique.
P(Yj > Xi ) = P(F (Yj ) > F (Xi )) = 1{u>v} dudv = .
[0,1]2 2 Enfin si on prend comme hypothese alternative H 1 = {P(Yj > Xi ) < 12 } ou H1 = {Yj
Xi } ou H1 = { < 0}, la region critique est de la forme ] , a] tandis que si on prend
H1 = {P(Yj > Xi ) > 12 } ou H1 = {Xi Yj } ou H1 = { > 0}, la region critique est de la
Si P(Yj > Xi ) < 12 , UY ,X va avoir tendance a etre plus petit que sous H 0 tandis que si forme [a, +[.
P(Yj > Xi ) < 12 , UY ,X va avoir tendance a etre plus grand que sous H 0 . Cela se voit au
niveau de lesperance car E[UY ,X ] = mnP(Yj > Xi ).
On choisit comme hypothese alternative H 1 = {P(Yj > Xi ) 6= 12 }. La region de rejet de
H0 = {F = G} contre H1 au niveau est de la forme : Des que m et n sont grands, le calcul de U sous la forme donnee ci-dessus devient fasti-
dieux. Dans ce cas, on utilise la methode suivante :
UY ,X nappartient pas a [u +
m,n,/2 , um,n,/2 ].
on classe globalement les Xi et Yj , dou une suite Z = (Z1 , . . . , Zn+m ),
pour tout j (ou 1
Pj n) on repere, et on note S j , le rang de Yj dans la suite Z,
Les valeurs de u +
m,n,/2 et um,n,/2 (quantiles dordre /2 et 1 /2 de la loi U(m, n)) on calcule RY = nj=1 Sj . On verifie elementairement que les v.a. U Y ,X et RY sont
ont ete calculees et tabulees pour les petites valeurs a partir de la loi uniforme.
liees par :
Lesperance mathematique et la variance dune v.a. U m,n de loi U(m, n) valent respective-
mn(m+n+1)
ment E[Um,n ] = mn 2 et Var(Um,n ) = 12 . Pour m et n superieurs a 10, lapproximation n(n + 1)
mn mn(m + n + 1) UY ,X = RY .
de la loi U(m, n) par la loi normale desperance mathematique et variance 2
2 12
est justifiee par la proposition suivante :
Le traitement des ex-aequo se fait par les memes methodes que pour les tests a un
m
Proposition V.24. Lorsque m et n tendent vers linfini de telle sorte que le rapport n ait echantillon.
une limite dans ]0, [, les v.a. definies par
mn
Um,n 2
m,n = q , Remarque V.26. On peut evidemment echanger le roles des deux echantillons. On considere
mn(m+n+1)
12 alors les statistiques UX,Y , calculee a partir du nombre de couples (i, j) tels que X i > Yj et
RX , calculee a partir de la somme des rangs des X i dans la suite Z ; elles verifient UX,Y =
ou Um,n est une v.a. de loi U(m, n), convergent en loi vers la loi normale centree reduite RX m(m+1) . Dautre part on a : RX + RY = (n+m)(n+m+1) .
2 2
N (0, 1).

On peut montrer que sous H1 = {P(Yj > Xi ) 6= 12 }, la statistique de test m,n tend p.s.
vers + ou lorsque m et n tendent vers linfini de telle sorte que le rapport m n ait une
limite dans ]0, [. La region critique est donc de la forme ] , a] sup[a, +[, et le test Exemple V.27. Revenons sur lexemple V.2 de langoisse dans les societes primitives. Pour
de Mann et Whithney est convergent. Pour un test de niveau asymptotique , on choisit tester lhypothese H0 : les deux types de societe sont differentes contre sa negation, nous
a = 1/2 , le quantile dordre 1 2 de la loi N (0, 1). allons utiliser les deux tests precedents. Le tableau des rangs est le suivant :
V.4. PROBLEMES A DEUX ECHANTILLONS 101 102 CHAPITRE V. TESTS NON PARAMETRIQUES

Societes sans Notes Rangs Societes avec Notes Rangs V.4.4 Tests parametriques ou tests non parametriques ?
expl. orales danxiete expl. orales danxiete
Les tests de Kolmogorov-Smirnov ou de Mann et Whitney sont le pendant non pa-
Lapp 13 20.5 Marquesans 17 39
rametrique du test parametrique de Student. Ces trois tests travaillent tous sur deux echan-
Chamorro 12 24.5 Dobuans 16 38
tillons mutuellement independants. Dans le cas ou toutes les hypotheses du test de Student
Samoans 12 24.5 Baiga 15 36
sont verifiees (meme variance, normalite...) on demontre quil est optimal. Dans ce cas precis,
Arapesh 10 16 Kwoma 15 36
lefficacite du test de Mann et Whitney par rapport au test de Student est de 96% ; cest a
Balinese 10 16 Thonga 15 36
dire quil y a une precision comparable. Des que lon a le moindre doute sur la validite des
Hopi 10 16 Alorese 14 33
hypotheses du test de Student, il vaut mieux faire un test non parametrique.
Tanala 10 16 Chagga 14 33
Un des avantages du test de Student est de fournir un estimateur de la difference entre
Paiute 9 12 Navaho 14 33 les deux populations ainsi quun intervalle de confiance.
Chenchu 8 9.5 Dahomeans 13 29.5
Teton 8 9.5 Lesu 13 29.5
Flathead 7 5 Masai 13 29.5 V.5 Conclusions
Papago 7 5 Lepeha 12 24.5
Wenda 7 5 Maori 12 24.5 Ces notes de cours sont loin detre exhaustives et pretendent simplement montrer quelques
methodes. Laffranchissement des hypotheses contraignantes des tests parametriques evite
Warrau 7 5 Pukapukans 12 24.5
beaucoup dhypotheses que lon sait rarement justifier mais se paye par labsence de methodes
Wogeo 7 5 Trobianders 12 24.5
generales. Chaque probleme donne lieu a une statistique particuliere, a des tables differentes.
Ontong 6 1.5 Kwakiull 11 20.5
Notons quavec les ordinateurs personnels, il est desormais tres facile de reconstruire les tables
Manus 11 20.5
en approchant par simulation les distributions des statistiques de test sous lhypothese nulle
Chiricahua 10 16
et den evaluer les valeurs critiques selon le niveau desire.
Comanche 10 16
Pour donner des recommandations generales demploi de la statistique non parametrique,
Siriono 10 16
on peut dire que, sil existe un test non parametrique qui repond au probleme que lon se pose
Bena 8 9.5 et que lon connat ce test, ce nest pas une mauvaise strategie que de lutiliser. Cependant,
Slave 8 9.5 ce serait une erreur deliminer sciemment un facteur ou un regresseur pertinent dans un
Kurtatchi 6 1.5 probleme pour rentrer dans le moule non parametrique.
Rx = 200 Ry = 580
m = 16 n = 23
V.6 Annexe
Preuve de la proposition V.6. On introduit le pseudo-inverse F 1 (u) = inf{x; F (x) u}.
Application du test de Kolmogorov-Smirnov. On calcule les fonctions de repartition Avec cette definition, on verifie facilement que pour F continue, on a
empiriques des deux echantillons, puis on trouve D x,y = 0.5516. Or dapres les tables de ce
test au niveau 0.01 (ou dapres les resultats fournis par les logiciels), on a : P(D x,y > 0.5045) = (x, u) R]0, 1[, F (x) < u x < F 1 (u) et F (F 1 (u)) = u. (V.1)
0.01. On peut donc rejeter, au seuil 0.01, lhypothese nulle et affirmer la difference entre les
deux societes. Soit u ]0, 1[. Lensemble {t R : F (t) = u} est ferme non vide par continuite de F et cest
un intervalle par croissance de F . On le note [tu , tu ]. Comme pour tout x R, P(Xi = x) = 0,
A-t-on le meme resultat en utilisant le test de Mann et Whitney ? on a alors
Application du test de Mann et Whitney. On trouve : U y,x = 580 12 23 =
P P(F (Xi ) = u) = P(Xi = tu ) + P(Xi ]tu , tu ]) = 0 + F (tu ) F (tu ) = 0. (V.2)
des rangs des X m(m+1)
580 276 = 304 de meme que Ux,y = 2 = 200 8 17 = 64.
Cette propriete implique que les variables F (X i ) sont presque surement distinctes ; leurs rangs
Lapproximation gaussienne a pour moyenne 16 23 = 184 et pour variance 35.02 2 . La
Uy,x 184 sont alors identiques a ceux des Xi . On en deduit egalement en utilisant les proprietes (V.1)
v.a. centree et reduite prend pour valeur 3.43 ce qui est tres grand pour une que
35.02
loi normale centree reduite, dont la fonction de repartition vaut 1 3.10 4 en 3.43. Par
P(F (Xi ) u) = P(F (Xi ) < u) + P(F (Xi ) = u) = P(Xi < F 1 (u)) + 0
consequent on met en evidence une difference, significative a tout niveau 3.10 4 , entre
les deux types de societes, de la meme maniere quavec le test de Kolmogorov. = P(Xi F 1 (u)) P(Xi = F 1 (u)) = F (F 1 (u)) 0 = u.
V.7. RESUME 103 104 CHAPITRE V. TESTS NON PARAMETRIQUES

Ainsi les variables F (Xi ) sont uniformement reparties sur [0, 1]. 5. Sous H1 , n tend p.s. vers +.
On note U = {u ]0, 1[: tu tu > 0}, ensemble qui est au plus denombrable puisque pour 6. Region critique : [a, +[, avec a > 0.
n N , {u [F (n), F (n)] : tu tu > 1/n} comporte au plus 2n2 + 2 elements. On a donc
en utilisant (V.2), 7. Test convergent pour n +.
! P+
8. Pour un niveau asymptotique , a est donne par k
exp(2k 2 a2 ) = 1 .
k= (1)
[ X
P Xi [tu , tu ] = P(F (Xi ) = u) = 0.  
2 obs 2 .
P+ k
uU uU 9. La p-valeur asymptotique du test est donnee par 1 k= (1) exp 2k n
S
P intervalles dePconstance de F , t R,
Comme pour x en dehors de lunion uU [tu , tu ] des
x t F (x) F (t), on conclut que p.s. t R, ni=1 1{Xi t} = ni=1 1{F (Xi )F (t)} .
V.7.2 Test de Wilcoxon
Preuve de la proposition V.17. Il suffit dapres le paragraphe VII.3.1 de verifier la conver-
1. Modele non parametrique de decalage : X = (X i , 1 i n) i.i.d. de fonction de
gence de la fonction caracteristique n (u) = E[eiun ] vers la fonction caracteristique de la
2 repartition F (t) continue independants de Y = (Y i , 1 i n) i.i.d. de fonction de
loi N (0, 1) : N (0,1) (u) = eu /2 , ou
repartition F (t) = F (t ) ou R (Yi a meme loi que Xi + ).
n
1 X n(n + 1)(2n + 1) 2. Hypotheses : H0 = { = 0} et H1 = { 6= 0}.
n = k(1{Z(k) >0} 1{Z(k) 0} ) et vn = .
2 vn 24 3. Statistique de Wilcoxon : On classe les variables Z i = Xi Yi suivant lordre croissant
k=1
des valeurs absolues et on note Z(1) , . . . , Z(n) les variables ainsi obtenues (|Z(1) |
Comme les variables aleatoires Z(k) sont i.i.d. de loi B(1/2), on a n
X
n  uk n
 Y   |Z(2) | . . . |Z(n) |) ; la statistique de Wilcoxon est T + = k1{Z(k) >0} .
Y i (1 1 ) uk k=1
n (u) = E e 2 vn {Z(k) >0} {Z(k) 0} = cos .
2 vn Statistique de test :
k=1 k=1
n(n+1)
T+ 4
Comme en 0, ln(cos(x)) + x2
= O(x4 ),il existe une constante C > 0 telle que n = q .
2 n(n+1)(2n+1)
24
n n

X u2 k 2 X u4 k 4
ln(n (u)) + C . 4. Sous H0 , lorsque n tend vers linfini, n converge en loi vers la loi N (0, 1).
8vn 16vn2
k=1 k=1
5. Sous H1 , n tend p.s. vers si > 0 ou vers + si < 0.
P Pn n5
En remarquant que 8v1n nk=1 k 2 = 12 et que 1
2
vn k=1 k
4 2
vn
tend vers 0 avec n, on conclut 6. Region critique : ] , a] [a, +[, avec a > 0.
que ln(n (u)) converge vers u2 /2. 7. Test convergent pour n +.
8. Pour un niveau asymptotique (on recommande n > 20), a est donne par le quantile
V.7 Resume dordre 1 /2 de la loi normale centree reduite.

V.7.1 Test de Kolmogorov 9. La p-valeur asymptotique du test est donnee par P |G| |nobs | ou G de loi N (0, 1).

1. Modele non parametrique : X = (X i , 1 i n) i.i.d. de fonction de repartition F 10. Variantes : H0 inchange,


continue. H1 = { > 0}, region critique ] , a] ou a est le quantile dordre 1 de la loi
normale centree reduite,
2. Hypotheses : H0 = {F = F0 } et H1 = {F 6= F0 } H1 = { < 0}, region critique [a, +[ ou a est le quantile dordre 1 de la loi
3. Statistique de Kolmogorov normale centree reduite.
 
i1 i
DX = max max |F0 (X(i) ) |, |F0 (X(i) ) |
1in n n V.7.3 Test de Kolmogorov-Smirnov
ou X(1) X(2) . . . X(n) est le reordonnement croissant des X i . 1. Modele non parametrique : X = (X i , 1 i m) i.i.d. de fonction de repartition

Statistique de test : n = nDX . F continue independants de Y = (Yj , 1 j n) i.i.d. de fonction de repartition G
4. Sous H0 , lorsque Pn tend vers linfini, n converge en loi vers la loi de fonction de continue
repartition 1{y>0} + k 2 2
k= (1) exp(2k y ). 2. Hypotheses : H0 = {G = F } et H1 = {G 6= F }.
V.7. RESUME 105 106 CHAPITRE V. TESTS NON PARAMETRIQUES

3. Statistique de Kolmogorov-Smirnov : 10. Variantes : H0 inchange


H1 = {P(Y1 > X1 ) < 12 }, region critique ] , a] ou a est le quantile dordre 1
Xk
de la loi N (0, 1).
DX,Y = max Sl
1kn+m H1 = {P(Y1 > X1 ) > 12 }, region critique [a, +[ ou a est le quantile dordre 1
l=1
de la loi N (0, 1).
ou pour 1 l m + n, Sl = 1/m si dans le reordonnement croissant des X i et des Yj ,
le l-ieme element provient de X et S l = 1/n sinon.
Statistique de test : r
mn
m,n = DX,Y .
m+n
4. Sous H0 , lorsque min(m,
P n) tend vers linfini, m,n converge en loi vers la loi de fonction
de repartition 1{y>0} + k
k= (1) exp(2k y ).
2 2

5. Sous H1 , m,n tend p.s. vers +.


6. Region critique : [a, +[, avec a > 0.
7. Test convergent pour min(m, n) +.
P+ k
8. Pour un niveau asymptotique , a est donne par k= (1) exp(2k 2 a2 ) = 1 .
 
2 obs 2
P+ k
9. La p-valeur asymptotique du test est donnee par 1 k= (1) exp 2k m,n .

V.7.4 Test de Mann et Whitney


1. Modele non parametrique : X = (X i , 1 i m) i.i.d. de fonction de repartition
F continue independants de Y = (Yj , 1 j n) i.i.d. de fonction de repartition G
continue.
2. Hypotheses : H0 = {F = G} et H1 = {P(Yj > Xi ) 6= 12 }.
3. Statistique de Mann et Whitney :
n
X n(n + 1)
UY ,X = Sj ,
2
j=1

ou Sj designe le rang de Yj dans le classement des Xi et Yk par ordre croissant.


Statistique de test :
UY ,X mn
2
m,n = q .
mn(m+n+1)
12
m
4. Sous H0 , lorsque m et n tendent vers linfini de telle sorte que le rappport n a une
limite dans ]0, +[, m,n converge en loi vers la loi N (0, 1).
5. Sous H1 , m,n tend p.s. vers si P(Yj > Xi ) < 12 , ou vers + si P(Yj > Xi ) > 12 .
6. Region critique : ] , a] [a, +[, avec a > 0.
m
7. Test convergent pour m, n + avec n admettant une limite dans ]0, +[.
8. Pour un niveau asymptotique , a est donne par le quantile dordre 1 /2 de la loi
N (0, 1).

obs | ou G de loi N (0, 1).
9. La p-valeur asymptotique du test est donnee par P |G| |m,n
Troisieme partie

Analyse exploratoire

107
110 CHAPITRE VI. ANALYSE DES DONNEES

VI.1.2 Notations
On dispose de p variables ou caracteres X 1 , . . . ,X j , . . . , X p , que lon observe sur n unites
statistiques - ou individus : on note X ij la valeur de la variable X j observee sur le i-ieme
individu. Cet ensemble de donnees dit actif peut donc etre mis sous la forme dun tableau X
a n lignes et p colonnes, et de terme courant X ij .
Chapitre VI Dans la suite - et cest tres generalement le cas en analyse des donnees, contrairement
aux autres domaines de la statistique - on confondra la notion de variable avec le vecteur de
dimension n qui la definit sur notre population active : X j ; de meme, chaque individu sera

Analyse des donnees assimile au vecteur de dimension p qui compile ses valeurs sur les variables
Chaque individu est affecte dun poids m i (tel que mi > 0 et
Pn actives : X i .
i=1 mi = 1). Ces
poids peuvent resulter dun plan de sondage, ou bien traduire une taille necessaire a la
problematique (nombre dhabitants dune ville, chiffre daffaire dune entreprise, etc.).

VI.1 Introduction VI.1.3 Exemple


VI.1.1 Objectif Nous choisirons ici un exemple emprunte a Michel Tenenhaus 1 , decrivant les caracteristi-
ques techniques de 24 modeles de voitures de lannee 1989.
Dans toute etude appliquee, la demarche premiere du statisticien est de decrire et dex- Cet exemple comporte volontairement un nombre reduit dindividus (voitures) et de va-
plorer les donnees dont il dispose, avant den tirer de quelconques lois ou modeles predictifs. riables (caracteristiques), pour en faciliter la comprehension.
Or la statistique traite generalement du grand nombre et, les outils informatiques aidant, les Pour comprendre ce quapportent les methodes danalyse de donnees, menons au prealable
bases de donnees deviennent de plus en plus volumineuses, tant en largeur (quantite din- une breve analyse descriptive de ce tableau, tant du point de vue des individus que des
formations recueillies) quen hauteur (nombre dunites sur lesquelles ces informations sont variables.
recueillies).

Cette phase dexploration descriptive des donnees nest en consequence pas aisee : si le
statisticien est deja outille pour analyser la distribution, sur la population detude, dune va-
riable quelconque, ou la relation entre deux variables quelles quelles soient - et quil peut donc
developper sequentiellement cette demarche a lensemble des informations presentes dans ses
donnees -, ces outils basiques ne permettent pas dapprehender ce vaste ensemble informatif
dans sa globalite. Il ne sagit naturellement pas den donner alors une vision exhaustive, mais
bien de repondre a lune des principales missions du statisticien : extraire dune masse de
donnees ce quil faut en retenir, en la synthetisant ou en simplifiant les structures - le tout
avec un souci de neutralite objective qui en garantit la credibilite.

Les techniques danalyse de donnees repondent a ce besoin, et en particulier les deux


presentees ici :
lAnalyse en Composantes Principales (ACP), anee des methodes danalyse factorielle
qui sappuient sur la reduction de rang decoulant des travaux de decomposition ma-
tricielle dEckart et Young (1936), determine les principales relations lineaires dans un
ensemble de variables numeriques ;
les methodes de classification automatique permettent de resoudre le probleme de
lapprehension des individus, en les regroupant au sein de classes homogenes, sur
la base dinformations communes.

Dans chaque cas, il sagit bien de reduire un ensemble complexe et de grande dimension
1
a ses principaux elements, de facon a en mieux comprendre les structures sous-jacentes. Tenenhaus M. (1994), Methodes statistiques en gestion, Dunod

109
VI.1. INTRODUCTION 111 112 CHAPITRE VI. ANALYSE DES DONNEES

Modele Cylindre Puissance Vitesse Poids Longueur Largeur


(cm3) (ch) (km/h) (kg) (cm) (cm)
Honda Civic 1396 90 174 850 369 166
Renault 19 1721 92 180 965 415 169
Fiat Tipo 1580 83 170 970 395 170
Peugeot 405 1769 90 180 1080 440 169
Renault 21 2068 88 180 1135 446 170
Citroen BX 1769 90 182 1060 424 168
Bmw 530i 2986 188 226 1510 472 175
Rover 827i 2675 177 222 1365 469 175
Renault 25 2548 182 226 1350 471 180
Opel Omega 1998 122 190 1255 473 177
Peugeot 405 Break 1905 125 194 1120 439 171
Ford Sierra 1993 115 185 1190 451 172
Bmw 325iX 2494 171 208 1300 432 164
Audi 90 Quattro 1994 160 214 1220 439 169
Ford Scorpio 2933 150 200 1345 466 176
Renault Espace 1995 120 177 1265 436 177
Nissan Vanette 1952 87 144 1430 436 169
VW Caravelle 2109 112 149 1320 457 184
Ford Fiesta 1117 50 135 810 371 162
Fiat Uno 1116 58 145 780 364 155
Peugeot 205 1580 80 159 880 370 156
Peugeot 205 Rallye 1294 103 189 805 370 157
Seat Ibiza SX I 1461 100 181 925 363 161
Citroen AX Sport 1294 95 184 730 350 160

Etude descriptive des individus


Vu le faible nombre de variables (qui seront souvent plus nombreuses, dans les problemati- Fig. VI.2 Graphiques en etoile des differents modeles
ques relevant de lanalyse des donnees), on peut representer chaque individu par un graphique
en etoile (cf. Fig.VI.1, Fig.VI.2), chaque valeur etant reportee sur la branche correspondante On constate que les etoiles sont plus ou moins grosses, mais generalement harmonieuses :
(qui va de la valeur minimale a la valeur maximale observee). chaque caracteristique evolue globalement dans le meme sens.
On peut cependant distinguer certains modeles, dont letoile a une forme particuliere :
les petites voitures sportives (en bas a droite), qui sont particulierement rapides par
rapport a leur gabarit ;
les vans (Nissan Vanette, VW Caravelle), qui sont particulierement lents pour le leur.

Etude descriptive des variables


Classiquement, on peut se livrer a une analyse de la distribution de chaque variable :

Fig. VI.1 Graphique en etoile


VI.1. INTRODUCTION 113 114 CHAPITRE VI. ANALYSE DES DONNEES

Cylindree Puissance Vitesse Poids Longueur Largeur


(cm3) (ch) (km/h) (kg) (cm) (cm)
Minimum 1116 50 135 730 350 155
1er quartile 1550 90 173 914 371 164
Mediane 1929 102 182 1128 436 169
3eme quartile 2078 131 196 1305 453 175
Maximum 2986 188 226 1510 473 184
Moyenne 1906 114 183 1111 422 169
Ecart-type 517 38 25 225 40 7

Ce tableau est cependant relativement peu parlant pour le non-specialiste, a cause notam-
ment de lheterogeneite des variables. Plus visuellement, pour mieux apprehender la forme
de ces distributions, on peut tracer des histogrammes (cf. Fig.VI.3).

Fig. VI.4 Scatter plot des differentes variables

Cylindree Puissance Vitesse Poids Longueur Largeur


Cylindree 1 0,86 0,69 0,90 0,86 0,71
Puissance 0,86 1 0,89 0,75 0,69 0,55
Vitesse 0,69 0,89 1 0,49 0,53 0,36
Fig. VI.3 Histogramme des differentes variables Poids 0,90 0,75 0,49 1 0,92 0,79
Longueur 0,86 0,69 0,53 0,92 1 0,86
Largeur 0,71 0,55 0,36 0,79 0,86 1
Plus interessant est sans doute letude de la relation entre ces differentes variables. Des
outils danalyse connus peuvent ainsi etre mis en uvre pour apprehender les distribu-
tions bivariees, comme le scatter plot (cf. Fig.VI.4), ou encore le calcul des coefficients
de correlation lineaire (Bravais-Pearson), apres avoir verifie que la forme lineaire des nuages
les legitimait. La correlation lineaire de deux variables dinteret Y = (Y i , 1 i n) et Toutes les correlations calculees sont positives, ce qui indique que les 6 variables sont
Z = (Zi , 1 i n) est donnee par globalement correlees - lharmonie des etoiles le laissait deja presager...
Pn   Ce tableau peut etre assimile a un tableau de proximites entre variables :
Cov (Y, Z) i=1 mi Yi Y Zi Z
Corr (Y, Z) = = qP q 2 , cylindree, poids et longueur sont particulierement proches ;
Y Z n 2 Pn
i=1 mi Yi Y i=1 mi Zi Z vitesse et puissance sont proches ;
P P longueur et largeur le sont aussi.
ou Y = ni=1 mi Yi et Z = ni=1 mi Zi .
Manquent cependant des outils de synthese, qui permettraient de degager la structure
Voici le tableau des correlations lineaires : essentielle de ces donnees : nous allons en developper deux, parmi les plus puissants.
VI.2. LANALYSE EN COMPOSANTES PRINCIPALES 115 116 CHAPITRE VI. ANALYSE DES DONNEES

VI.2 LAnalyse en Composantes Principales VI.2.3 Moindre deformation du nuage

VI.2.1 Problematique Pour visualiser le nuage des individus (et donc en connatre la forme, pour savoir comment
sont liees nos p variables), il est necessaire de reduire la dimension de lespace qui le porte.
On se place ici dans la situation ou les p variables dinteret ..., ..., X 1,
sont Xj, X p, Les methodes danalyse factorielle (dont lACP fait partie) reduisent cette dimension par
numeriques. Pour apprehender linformation contenue dans le tableau numerique X, on peut projection orthogonale sur des sous-espaces affines.
tenter de visualiser lun ou lautre des nuages de points qui en decoulent : les p variables,
dans Rn ; ou, plus classiquement2 , les n individus, dans Rp . Mais tres souvent, le nombre
dindividus n est grand (plusieurs centaines, voire plusieurs milliers), et le nombre de variables Inerties dun nuage de points
p peut atteindre quelques dizaines. Quoiquil en soit, meme avec des outils de visualisation
Definition VI.2. Soit G le barycentre dun nuage de points X 1 , . . . , Xn ponderes par les
performants, X ne peut etre apprehende de facon simple dans sa globalite, ni les relations
poids m1 , . . . , mn . L inertie du nuage X1 , . . . , Xn est donnee par
entre les variables.
La problematique est alors double : n
X
Comment visualiser la forme du nuage des individus ? I= mi kXi Gk2 .
Comment synthetiser les relations entre variables ? i=1
LACP permet justement de repondre a ce type de besoin.
L inertie JH du nuage autour du sous-espace affine H est donnee par
VI.2.2 Choix de la metrique n
X
La methode dAnalyse en Composantes Principales requiert un espace vectoriel muni JH = mi kXi Xi k2 ,
i=1
dun produit scalaire. Dans ce chapitre, nous considererons lespace euclidien R p muni de son
produit scalaire canonique. La metrique associee est donnee par ou Xi le projete orthogonal de Xi sur H.
p 
X 2
kXi Xi0 k2 = Xij Xij0 . Linertie JH autour de H mesure la deformation du nuage lorsque celui-ci est projete
j=1 orthogonalement sur H. Pour que la representation des donnees par leur projection sur un
Pn Pn  2 sous-espace affine ait un sens, il faut quelle modifie peu la forme du nuage de points, donc
j j
Definition VI.1. Soient X j = 2
i=1 mi Xi et j = i=1 mi Xi X j la moyenne et la quelle minimise linertie JH .
variance de la variable dinteret j
X . La representation reduite de lindividu i est donnee
par X1j , . . . , Xpj , ou pour tout 1 j p, Theoreme VI.3. Soit H une famille de sous-espaces affines invariante par translation (au-
trement dit, si H H, alors tout sous-espace affine parallele a H appartient a H). Soit H opt
Xij X j un sous-espace affine minimisant la deformation du nuage projete orthogonalement sur un
Xij = .
j element de H, au sens ou JHopt = minHH JH . Alors :
Le centre de gravite4 G du nuage de points appartient a Hopt .
Une ACP normee est une ACP menee sur la representation reduite.
Le sous-espace affine Hopt maximise linertie du nuage projete :
Les differentes variables X j pouvant etre heterogenes, et correspondre a des echelles de
mesure disparates, la representation reduite est utilisee pour eviter que le choix de ces unites IHopt = max IH ,
HH
ait une influence dans le calcul des distances. Cette representation rend les variables centrees
et de variance 1, et egale donc leur contribution au calcul des distances 3 Pn
ou IH = i=1 mi kXi
G k2
est l inertie du nuage projete orthogonalement sur
 2 H.
Xij Xij0
p
!2 p
X Xij X j0 X Pour H P H, la moyenne ponderee des carres des distances entre les points du nuage
kXi Xi0 k2 = i =
j j j2 projete, : i6=i0 mi mi0 kXi Xi0 k2 , est maximale pour H = Hopt .
j=1 j=1

Pour simplifier la presentation, on considerera dans la suite que les variables ont ete deja Demonstration. Soit H H. Soit G le projete orthogonal du barycentre G sur H, et H G le
reduites. sous-espace parallele a H passant par G. Par hypothese dinvariance par translation de H,
2
Cest en effet lextension de la demarche naturellement adoptee lors des analyses bivariees, ou la forme on a HG H. La projection orthogonale sur H G nest autre que celle sur H, translatee du
des nuages-individus dans une base de variables est la traduction geometrique des liaisons entre ces variables.
3 4
La metrique associee pour la representation initiale est dite inverse des variances. Dans la representation reduite, le centre de gravite est au centre du repere : G(X 1 , . . . , X p ) = O(0, . . . , 0).
VI.2. LANALYSE EN COMPOSANTES PRINCIPALES 117 118 CHAPITRE VI. ANALYSE DES DONNEES

vecteur G G , ou G est le projete orthogonal de G sur H. En consequence, on a En resume, la moindre deformation dun nuage de points par projection orthogonale
n
sur un sous-espace affine est obtenue, de maniere equivalente, par minimisation de linertie
X par rapport au sous-espace affine, par maximisation de linertie du nuage projete, ou par
J HG = mi kXi (Xi + G G )k2
i=1
maximisation de la somme des distances entre les points projetes 6 .
Xn
= mi k(Xi Xi ) (G G )k2 Resolution sequentielle et decomposition de linertie
i=1
Xn   Cette section montre que la recherche dun sous-espace affine de dimension fixee maxi-
= mi kXi Xi k2 2hXi Xi , G G i + kG G k2 misant linertie du nuage projete peut etre menee de maniere sequentielle et que linertie
i=1 se decompose en la somme des inerties du nuage projete sur des droites orthogonales, dites
n
X   directions principales de lACP.
= mi kXi Xi k2 kG G k2 , Puisque linertie du nuage projete sur un sous-espace affine est invariante par translation
i=1 de ce sous-espace, nous assimilerons dans cette section le sous-espace affine avec son sous-
espace vectoriel associe.
dou JHG = JH kG G k2 . De cette egalite, constituant le theoreme de Huyghens, decoule
la premiere assertion du theoreme 5 .
Designons
 par Hk lensemble des sous-espaces vectoriels de dimension k avec par conven-
tion H0 = {0} . Soit Hk le sous-espace vectoriel de Hk portant linertie maximale, au sens
Pour la deuxieme asssertion, considerons un sous-espace affine H passant par G. Par le
ou IHk = maxHHk IH .
theoreme de Pythagore, on a
Lorthogonal dun sous-espace vectoriel H de R p est defini par H = {u Rp : u H}.
n
X
JH = mi kXi Xi k2 Theoreme VI.4. Soit uk+1 le vecteur de Hk maximisant linertie du nuage projete sur la
i=1 droite (G, uk+1 ). On a
Xn
 Hk+1 = Hk uk+1 ,
= mi kXi Gk2 kXi Gk2
dou
i=1
Hk = u 1 u k .
= I IH ,
Ce theoreme est base sur la propriete suivante des inerties.
ou I est linertie du nuage, et IH linertie du nuage projete orthogonalement sur H. Linertie
I etant independante du sous-espace affine considere, on obtient quelle est maximale pour Proposition VI.5. Si E et F sont deux sous-espaces vectoriels orthogonaux, i.e. pour tout
H = Hopt . u E et v F on a hu, vi = 0, alors :
Pour la derniere assertion, il suffit de remarquer la relation suivante entre la moyenne
IEF = IE + IF .
ponderee des carres des distances entre les points du nuage projete, et linertie du nuage
projete : Preuve de la proposition. Soit O lorigine de notre espace R p . Soient M un point de Rp et
n X
n ME , MF et MEF les projetes respectifs de M sur les sous-espaces affines (O, E), (O, F ) et
X X
mi mi0 kXi Xi0 k2 = m i m i0 k(Xi G ) (Xi0 G )k2 (O, E F ). Le resultat decoule de la relation
i6=i0 i=1 i0 =1
n n n n OMEF = OME + OMF
X X X X
2 2
= m i0 mi kXi G k + mi mi0 kXi0 G k
et du theoreme de Pythagore.
i0 =1 i=1 i=1 i0 =1
* n n
+
X X Preuve du theoreme VI.4. Soit Ek+1 Rp un sous-espace vectoriel de dimension k + 1.
2 mi (Xi G ), mi0 (Xi0 G ) Comme dim Ek+1 = k + 1 et dim Hk = p k, on a : dim(Ek+1 Hk ) 1. Il existe donc un
i=1 i0 =1
vecteur non nul u appartenant a Ek+1 Hk . Soit F le supplementaire orthogonal de u dans
= IH + IH + 0 Ek+1 : F u et Ek+1 = F u. Par la Proposition VI.5, on a
= 2IH .
IEk+1 = IF + Iu
6
a une difference negligeable pres : pour les deux derniers criteres, lensemble des sous-espace affines solu-
5
Puisque nous travaillons dans la representation reduite, nous aurions pu omettre G. Par souci dho- tions est invariant par translation, tandis que pour le premier, le sous-espace affine passe necessairement par
mogeneite des formules, nous lavons conserve dans le calcul precedent. le centre de gravite G.
VI.2. LANALYSE EN COMPOSANTES PRINCIPALES 119 120 CHAPITRE VI. ANALYSE DES DONNEES

et ... p les valeurs propres triees par ordre decroissant, et u 01 , ..., u0p les vecteurs propres
IHk u = IHk + Iu . (VI.1) unitaires associes. Alors
p p
Comme Hk est par definition le sous-espace de dimension k portant linertie maximale, on X
2 X
2
Iu = j u, u0j 1 u, u0j = 1 ||u||2 = 1 .
a IHk IF , donc IHk u IEk+1 . Le resultat decoule alors de legalite (VI.1) et du fait que
j=1 j=1
u Hk .
Il suffit alors de choisir u = u01
pour maximiser Iu .
En consequence, toute solution au probleme de reduction de dimension sobtient de proche La meilleure droite de projection du nuage est celle de vecteur directeur u 1 , associe a la
en proche, par somme directe de droites portant des inerties maximales. plus grande valeur propre 1 de la matrice .
Soit la matrice de variance-covariance associee au nuage de points (dans la representa- Pour les directions suivantes, on repete le procede, en cherchant le vecteur directeur u 2
tion reduite, les moyennes X j sont nulles) : orthogonal a u1 portant linertie maximale. Pour tout vecteur u orthogonal a u 01 , on a
n
X p
X
mi Xi (Xi )t ,

2
= Iu = j u, u0j 2 .
i=1 j=2
Pn j j0 0
autrement dit j,j 0 = i=1 mi Xi Xi est la covariance entre les variables dinteret Xj et Xj . Donc le maximum est atteint pour u = u 02 , et ainsi de suite.
Au passage, on a egalement prouve la deuxieme assertion du theoreme : I uk = k . La
Theoreme VI.6. Les assertions suivantes caracterisent la resolution sequentielle du proble- troisieme assertion decoule alors de la Proposition VI.5 et du Theoreme VI.4.
me de reduction de dimension par moindre deformation.
Les vecteurs portant linertie maximale a chaque pas de la decomposition sont les vec- Linertie I du nuage de points est donc egale a la trace de matrice de variance-covariance,
teurs propres de la matrice de variance-covariance du nuage. Plus precisement, le vec- ce qui implique I = p, en ACP normee. (En ACP non normee, elle vaut la somme des
teur uk , defini dans le Theoreme VI.4, est un vecteur propre de associee a la k-ieme Ppropre : l = l /I. Linertie
variances.) On definit la part dinertie expliquee sur le l-ieme axe
plus grande valeur propre. portee par un sous-espace de dimension k est donc au mieux kl=1 l pour cent de linertie
La k-ieme plus grande valeur propre k de vaut linertie du nuage projete sur le totale I.
k-ieme axe propre uk :
I uk = k . Retour a lexemple
linertie sur Hk est la somme des inerties sur les k axes propres principaux : Sur notre exemple concernant les 24 modeles de voitures, on peut chercher a visualiser les
proximites (en termes de distance normee sur les 6 caracteristiques techniques) entre modeles
k
X sur le premier plan factoriel (u1 horizontalement, u2 verticalement) (cf. Fig.VI.5).
I Hk = l .
l=1

Demonstration. Cherchons dabord le vecteur unitaire, i.e. de norme 1, u maximisant linertie


du nuage projete sur u. Considerons la projection du nuage sur la direction donnee par le
vecteur unitaire u. Le projete Xi de lindividu i secrit

Xi = hu, Xi iu

et linertie du nuage projete (nous nous placons toujours dans le cadre de la representation
reduite) est
n
X n
X n
X
Iu = mi khu, Xi iuk2 = mi hu, Xi i2 = mi ut Xi (Xi )t u = ut u.
i=1 i=1 i=1

La matrice est symetrique, semi-definie positive ; elle est diagonalisable, a toutes ses valeurs
propres reelles, et il existe une base orthonormale de vecteurs propres de R p . Notons 1 Fig. VI.5 Projection des individus sur le premier plan factoriel
VI.2. LANALYSE EN COMPOSANTES PRINCIPALES 121 122 CHAPITRE VI. ANALYSE DES DONNEES

Dans cet exemple, linertie I = 6 (nombre de variables) se decompose sur les premiers Ces variables, dans lordre presente, sont donc celles qui resument le mieux les correlations
axes ainsi : I1 = 4, 66 (donc 1 = 78%), I2 = 0, 92 (donc 2 = 15%). On visualise donc de lineaires entre les X j .
facon simplifiee, mais optimale ( 12 = Iu1 u2 /I =93% de linertie representee sur ce plan), Pour visualiser les correlations entre les composantes principales
 et les X j , on etablit des
les proximites entre modeles, selon la distance choisie. representations planes ou, en prenant par exemple C , C comme base  orthogonale de  ce
Les vecteurs directeurs de ces deux premiers axes sexpriment ainsi, dans lancienne base : plan, chaque X j est figure par un vecteur de coordonnees Corr C , X j , Corr C , X j , a
linterieur du cercle unite8 , dit des correlations.
Vecteur propre Cylindree Puissance Vitesse Poids Longueur Largeur
u1 0,44 0,41 0,34 0,43 0,43 0,38 Retour a lexemple
u2 0,03 0,42 0,66 -0,26 -0,30 -0,48
On voit, dans cet exemple (cf. Fig.VI.6), que C 1 est tres correlee avec tous les X j , et
Reste a interpreter veritablement ces axes, et a comprendre quels sont les principales peut etre consideree comme un resume de la taille de la voiture : C 1 est minimale pour les
relations lineaires entre les caracteristiques techniques. . . voitures de faible cylindree, de faible poids, de faibles dimensions, de faible puissance. . . et
maximale pour les voitures grosses, grandes, puissantes, rapides.
Quant a C 2 , non correlee a C 1 , elle est maximale pour les voitures de petit gabarit mais
rapides et puissantes ; minimale pour celles qui sont imposantes, mais lentes.
VI.2.4 Principales relations entre variables
Les composantes principales
La diagonalisation vue precedemment permet de definir p nouvelles variables 7 appelees
composantes principales :
Xp
C = uj X j = Xu Rn ,
j=1

ou encore Ci = hXi , u i. Elles sont donc combinaisons lineaires des variables dinteret X j
initiales. Elles sont centrees puisque les X j le sont, et on a :
  X p
p X  
0 0
Cov C , C = uj uj Cov X j , X j = ut u = ut u .
j=1 j 0 =1


 0 si 6= ,
Donc Cov C , C =
si = .
On peut calculer la covariance entre les composantes principales et les variables initiales :
p  0  Xp
 X 0 0
Cov C , X j = uj Cov X j , X j = uj j 0 ,j = uj .
j 0 =1 j 0 =1

Il sensuit que 
 Cov C , X j p Fig. VI.6 Cercle des correlations pour le premier plan factoriel
Corr C , X j = p = uj .
Var(C ) Var(Xj )
Pp 
2
Donc j=1 Corr C , X = . j VI.2.5 Dualite : imbrication des deux objectifs
Autrement dit, la premiere composante principale C 1 est la combinaison lineaire unitaire Ecrivons : Ci = hXi , u i. Autrement dit, la valeur dun individu sur C vaut la coor-
des X j de variance maximale ; de meme, parmi les combinaisons lineaires des variables initiales donnee de cet individu en projection sur laxe (O, u ).
non correlees avec C 1 , C 2 est celle de variance maximale ; etc.
8
Ce vecteur est dans le cercle unite car, dans n muni du produit scalaire hx, yi = n


i=1 mi xi yi , cest le vec-
7
De meme que precedemment, on confondra sous le vocable variable la forme lineaire, et sa realisation sur teur projete orthogonal du vecteur unitaire X j sur le plan engendre par les vecteurs orthonormes C / Var(C )
nos n individus, soit encore le vecteur de n associe.
et C / Var(C ).
VI.2. LANALYSE EN COMPOSANTES PRINCIPALES 123 124 CHAPITRE VI. ANALYSE DES DONNEES

Les deux objectifs de depart sont donc equivalents, la recherche daxes dinertie maximale Individus : apres avoir transforme leurs valeurs sur les variables actives par centrage
pour le nuage des individus revenant a construire des combinaisons lineaires des variables de et, le cas echeant, reduction (avec les moyenne et ecart-type calcules sur les individus
variance maximale. actifs), on les projette sur les axes (O, u ).
Pour ce qui concerne notre exemple, les deux representations planes precedentes doivent Variables numeriques : on calcule leurs correlations avec les composantes principales,
etre considerees simultanement : plus une voiture se projette a droite plus sa valeur sur C 1 et on les projette a linterieur du cercle des correlations.
est elevee, donc plus elle est grosse et puissante ; et plus un modele se projette haut plus sa Variables nominales : on represente chaque modalite par le barycentre des individus qui
vitesse est remarquable pour ses dimensions. la prennent, dans lespace des individus.

VI.2.6 Nombre daxes (ou de composantes) a analyser VI.2.8 Aides a linterpretation


Si, pour les variables numeriques (actives comme supplementaires), la visualisation des
Combien daxes analyser ? Il existe plusieurs criteres de decision.
vecteurs a linterieur du cercle des correlations donne toute linformation necessaire a lana-
Le premier (Kaiser) veut quon ne sinteresse en general quaux axes dont les valeurs
lyse, il peut etre utile de definir, pour chaque individu, les aides suivantes :
propres sont superieures a la moyenne (qui vaut 1 en ACP normee).
La contribution a linertie du nuage, qui crot avec le poids et lexcentricite de lindividu :
Un second (dit du coude, ou de Cattell) utilise le resultat suivant : lorsque des variables
sont peu correlees, les valeurs propres de la matrice dinertie decroissent regulierement - et mi kXi Gk2
lACP presente alors peu dinteret. A linverse, lorsquil existe une structure sur les donnees, CT R (Xi ) =
I
on observe des ruptures dans la decroissance des valeurs propres (cf. Fig.VI.7). On cher-
chera donc a ne retenir que les axes correspondant aux valeurs qui precedent la decroissance La contribution a linertie portee par un axe (O, u ) :
reguliere. Analytiquement, cela revient a chercher un point dinflexion dans la decroissance
des valeurs propres, et de ne pas aller au-dela dans lanalyse. mi (Ci )2
CT R (Xi ) =
Ainsi, dans notre exemple, on ne sinteressera quaux 2 (voire 3) premiers axes.
Pn Pn
Par construction : i=1 CT R (Xi ) = 1, et i=1 CT R (Xi ) = 1. La valeur de ces
contributions depend donc fortement du nombre dindividus actifs : une contribution
de 5% sera consideree comme forte si lon manipule les donnees de milliers dindividus,
nettement moins si lon nen a quune vingtaine (de facon generale, on considerera que
lindividu i a une contribution importante si elle depasse son poids m i ).
La qualite de projection sur laxe (O, u ) est donnee par le carre du cosinus de langle :

(Ci )2
CO2 (Xi ) = .
kXi Gk2

Par orthogonalite des u , la qualite de projection dun individu sur un sous-espace


additive : CO2+ (Xi ) = CO2 (Xi ) + CO2 (Xi ). Dautre part, on re-
principal est P
Fig. VI.7 Representation des valeurs propres marque que p=1 CO2 (Xi ) = 1 ; de meme que precedemment, cette qualite depend
fortement du nombre initial de variables : on pourra etre exigeant si lon nen manipule
quune poignee, on le sera moins sil y en a davantage.
En tout etat de cause, le critere decisif est sans doute celui de linterpretabilite : inutile
de retenir un axe auquel on ne sait donner dinterpretation. Pour un axe donne, lexamen parallele des CT R et des CO2 des individus qui sy pro-
jettent peut donner lieu a quatre cas de figure, dont un pose probleme (CO2 faible-CT R
VI.2.7 Elements supplementaires forte), qui apparat lorsquun individu a un poids m i trop fort par rapport aux autres :

Toute lanalyse precedente sest fondee sur un tableau de donnees croisant individus et CT R faible CT R forte
variables numeriques, que lon appelle individus et variables actives, correspondant a une CO2 faible Element peu contributif Element tres contributif
problematique clairement enoncee. On peut souhaiter, apres cette premiere analyse, y integrer quasi independant de laxe mais peu illustratif de laxe
dautres informations : il sagit dinformation auxiliaire, ou delements supplementaires, qui CO2 forte Element peu contributif Element particulierement
peuvent revetir plusieurs formes. mais bien illustratif de laxe caracteristique de laxe
VI.3. CLASSIFICATION AUTOMATIQUE 125 126 CHAPITRE VI. ANALYSE DES DONNEES

VI.3 Classification automatique Indice de dissimilarite (1) (2)


Indice de distance (1) (2) (3)
VI.3.1 Problematique Ecart (1) (2) (4)
Distance (1) (2) (3) (4)
Lobjectif est a present doperer des regroupements homogenes au sein de notre population
Ecart ultrametrique (1) (2) (4) (5)
de n individus, sur la base de lobservation des p descripteurs X 1 , . . . , X j , . . . , X p , a present
Distance ultrametrique (1) (2) (3) (4) (5)
quelconques.
Malheureusement, le nombre de partitions augmente tres rapidement avec le nombre De nombreuses mesures sont ainsi proposees dans la litterature, dont les plus anciennes
dindividus n. Par exemple, pour n = 4 (A,B,C et D), il existe 15 partitions possibles : (comme lindice de distance de Jaccard, 1908) se fondaient sur le nombre de caracteristiques
(qualitatives) que i et j partagent ou non.
ABCD ABC D ABD C ACD B BCD A Le choix dune mesure depend essentiellement de la nature des descripteurs ; le plus sou-
AB CD AC BD AD BC AB C D AC B D vent, le choix se porte sur une distance euclidienne appropriee. Ainsi, si le tableau X est
AD B C BC A D BD A C CD A B ABCD numerique, on pourra utiliser la distance canonique M = I si lensemble des variables est
homogene, la distance inverse des variances M = diag 1/j2 si lensemble est heterogene,
Plus generalement, les quantites cherchees sont donnees par les nombres de Bell, dont ou la distance de Mahalanobis (M = V 1 , ou V est la matrice de variance-covariance) si lon
voici quelques valeurs, qui montrent bien que leur croissance est explosive : veut sphericiser le nuage.
Dans la suite, on utilisera des distances classiques quon notera k.k.
n 4 6 10
Pn 15 203 115 975
VI.3.3 Inerties

Or, en analyse des donnees, on a generalement a traiter des ensembles de plusieurs milliers Au centre des methodes les plus utilisees - car ayant de bonnes proprietes generalistes,
dindividus ! On concoit bien que, meme avec les outils de calcul modernes, il serait impossible et coherentes avec les methodes danalyse factorielle notamment -, on retrouve la notion
de comparer toutes les partitions possibles afin de choisir la meilleure, selon un critere quon dinertie : si lon a deja defini dans le cadre de lACP linertie totale I du nuage de points, et
se serait fixe. . . G son centre dinertie, on va ici definir de nouvelles notions.
Cest la raison pour laquelle ont ete developpees des methodes algorithmiques variees  Si lensemble
P
de
 nos points est regroupe en K classes (i.e. K sous-nuages N k ), de poids
repondant a cette problematique. Nous en presentons ici quelques unes 9 parmi les plus uti- Mk = iNk mi , de centre dinertie (Gk )1kK , et dinertie (Ik )1kK , on definit :
1kK
lisees, et indiquons comment les faire fonctionner au mieux. P
linertie intraclasse : IW = K I ,
PKk=1 k
linertie interclasse : IB = k=1 Mk kGk Gk2 .
VI.3.2 Mesure de dissimilarite Or on a (theoreme de Huyghens) :

La premiere etape, pour un tel probleme, est de definir une mesure de dissimilarite d : n
X
E E R+ , ou E est lensemble des individus. Diverses proprietes sont souhaitables pour I= mi kXi Gk2
une telle mesure, et notamment, (i, j, k) E E E : i=1
XK X h i
1. d (i, i) = 0, = mi kXi Gk k2 + kGk Gk2 + 2 hXi Gk , Gk Gi
k=1 iNk
2. d (i, j) = d (j, i),
K
X K
X
3. d (i, j) = 0 i = j, = Ik + Mk kGk Gk2
4. d (i, j) d (i, k) + d (k, j), k=1 k=1
= IW + IB .
5. d (i, j) max (d (i, k) , d (k, j)).
Un critere usuel de classification sera alors, a K fixe, de minimiser linertie intraclasse
(i.e. rendre les classes les plus homogenes possible) - ce qui revient donc a maximiser linertie
Selon les proprietes verifiees par d, la terminologie differe. On parle ainsi de :
interclasse (i.e. separer le plus possible les classes).
9
Les methodes derivees des reseaux de neurones et developpees par Kohonen, souvent appreciees pour La qualite dune classification pourra alors etre evaluee par le ratio I B /I, interpretable
laspect visuel de leurs resultats, ne seront ainsi pas abordees ici. comme une part dinertie des n points expliquee par leur synthese en K barycentres.
VI.3. CLASSIFICATION AUTOMATIQUE 127 128 CHAPITRE VI. ANALYSE DES DONNEES

VI.3.4 Algorithmes de partitionnement : les centres mobiles VI.3.5 Classification ascendante hierarchique (CAH)
Plusieurs algorithmes de classification sont dinspiration geometrique : ils sont connus Ce type dalgorithme produit des suites de partitions embotees, a n, n 1, . . . , 1 classes,
sous le nom de methodes de partitionnement, et leur principe est de partir dune partition par regroupements successifs10 . La partition en k classes est ainsi obtenue en agregeant les
arbitraire, amelioree iterativement jusqua convergence. Tous necessitent de choisir un nombre deux classes les plus proches (eventuellement reduites a un seul individu), au sens dune
de classes a priori. nouvelle distance ultrametrique a definir, parmi celles en k + 1 classes.
La plus connue de ces methodes est celle des centres mobiles, due principalement a Forgy Une fois cet algorithme termine, on ne recupere donc pas directement une partition, mais
(1965). Son principe est le suivant : si lon veut K classes, on choisit K points dans lespace une hierarchie de partitions, indicee par la distance entre elements agreges, et que lon
des individus ; on affecte ensuite chacun des n individus a celui de ces K points qui lui est le peut presenter sous formes de dendogrammes, ou mobiles de Calder. En analysant les indices
plus proche (au sens de la distance d choisie au depart) ; les K points de depart sont remplaces correspondant aux dernieres iterations, on decide de retenir la partition qui semble la meilleure
par les K (ou moins, si un point na attire personne. . . ) barycentres des individus affectes a - generalement celle qui precede une valeur de lindice brutalement plus elevee. Comme
chacun ; puis on reitere laffectation, jusqua convergence. en analyse factorielle, lanalyse visuelle de lhistorique des indices a pour but de detecter une
structure dans les donnees, autrement dit de choisir un K naturel.
Proposition VI.7. Cet algorithme fait diminuer a chaque iteration la variance intraclasse. Ce principe necessite donc que lon definisse au prealable une distance entre groupes
dindividus : cest ce quon appelle le choix dune strategie dagregation. De nombreuses ont
Demonstration. Soient Nkt les sous-nuages constitues et Ckt les points auxquels ils se rat- ete proposees dans la litterature, plus ou moins adaptees au type de donnees manipulees.
tachent (barycentres des Nkt1 ), a la t-ieme iteration. Considerons le critere suivant : Lune des plus simples est ainsi la strategie du minimum, ou on definit la distance entre
deux groupes A et B par : (A, B) = miniA,jB d (i, j). Elle a cependant linconvenient
K X de construire, par chanage, des classes filiformes, qui peuvent ne pas bien repondre a la
X 2
v (t) = mi Xi Ckt . recherche affichee dhomogeneite intraclasse.
k=1 iNkt Une autre strategie est tres frequemment adoptee en espace euclidien : il sagit de la
strategie moment-partition, encore appelee methode de Ward. Elle est definie par :
Linertie intraclasse secrit : mA mB
(A, B) = kGA GB k2
mA+ mB
K X
X 2
IW (t) = mi Xi Ckt+1 . ou mA et mB sont les poids de A et B, et GA et GB leurs barycentres respectifs.
k=1 iNkt Or si lon agrege A et B, la perte dinertie interclasse due a cette agregation vaut :

Dapres le theoreme de Huyghens, on a : IB = mA kGA Gk2 + mB kGB Gk2 mAB kGAB Gk2 .

K
X 2 Par ailleurs, on sait que, dapres Huyghens :
v (t) = IW (t) + Mk Ckt Ckt+1 .
k=1 mA kGA Gk2 + mB kGB Gk2
= mA kGA GAB k2 + mB kGB GAB k2 + (mA + mB ) kGAB Gk2 .
Par minimisation des distances pour chaque individu, on a egalement : I W (t) v (t + 1).
On obtient ainsi v (t + 1) IW (t) v (t), et donc IW (t + 1) IW (t). Donc on a

IB = mA kGA GAB k2 + mB kGB GAB k2


2 2
Cet algorithme a ete legerement sophistique dans deux autres methodes : les k-means
mA GA + m B GB
+ mB GB mA GA + mB GB

= mA G A
(les barycentres ne sont pas recalcules a la fin des affectations, mais apres chacune : lordre
mA+ mB mA+ mB
mA 2 mB
dapparition des individus nest donc pas neutre), et les nuees dynamiques (ou ce nest plus = kmB GA mB GB k + kmA GB mA GA k2
un seul point qui represente une classe). (mA+ mB )2 (mA+ mB )2
mA mB
Toutes ces methodes ont pour avantage de converger rapidement vers un minimum local = kGA GB k2 .
de linertie intraclasse. En revanche, leurs deux defauts principaux sont de devoir fixer K, et mA+ mB
surtout de converger vers un resultat qui depend des K points choisis initialement, souvent 10
La classification descendante hierarchique, operant par dichotomies successives, nest que rarement utilisee,
de facon arbitraire. car ses proprietes sont moins bonnes, et sa programmation plus hardue.
VI.3. CLASSIFICATION AUTOMATIQUE 129 130 CHAPITRE VI. ANALYSE DES DONNEES

Les classes obtenues pour ces deux possibilites sont indiquees Fig.VI.9.

Fig. VI.9 Partitions en 3 et 7 classes

Fig. VI.8 Methode de Ward appliquee a lexemple VI.3.6 Methodes mixtes


Les methodes mixtes, en cela quelles combinent efficacement les avantages des deux types
Autrement dit, avec la methode de Ward, on agrege a chaque iteration les classes dont dalgorithmes vus precedemment et permettent den annuler les inconvenients, sont finalement
lagregation fait perdre le moins dinertie interclasse : il sagit donc dune optimisation pas- les plus efficaces.
a-pas, qui a lavantage de ne pas dependre dun choix initial arbitraire, mais linconvenient Ces methodes ont pour cur algorithmique la CAH, suivie mais aussi parfois precedee
- outre sa gourmandise en temps de calcul - detre vraisemblablement assez eloigne dun dune methode de type centres mobiles :
optimum si le nombre de pas n K est trop eleve. Si le nombre dindividus n est eleve (plusieurs milliers), on lance plusieurs fois un
algorithme de type centres mobiles, en faisant varier le choix des K points de depart : le
Si lon applique a nos 24 modeles de voitures lalgorithme qui vient detre defini, avec produit des partitions obtenues permet dobtenir les groupes - eventuellement reduits
la meme distance que pour lACP - cest-a-dire la distance inverse des variances - et la a un singleton - dindividus toujours classes ensemble : cest ce que lon appelle des
methode de Ward, on obtient les regroupements successifs indiques Fig.VI.8. formes fortes. Leur nombre peut etre assez reduit (quelques dizaines, au plus quelques
centaines), et leur definition assez robuste si lespace de depart est bien balaye, et que
On peut ainsi constater que la perte dinertie interclasse (representee par le O) augmente le nombre dessais est suffisant.
lentement lors des premieres agregations ; le premier saut remarquable est situe au niveau On lance une CAH sur ces formes fortes, avec la methode de Ward : on chemine ainsi
de la 17eme iteration, et plus encore de la 18eme. Les pertes dinertie forment alors un plateau, vers une partition en K classes, en minimisant a chaque pas la perte dinertie interclasse.
pour augmenter fortement lors des deux dernieres iterations. On lance les centres mobiles sur la partition issue de la CAH, avec pour points de
Deux possibilites soffrent alors : depart les barycentres des K classes : on est ainsi assure daboutir a un optimum local,
si le besoin reside en une classification assez fruste, on peut pousser lalgorithme jusqua en autorisant quelques reaffectations individuelles - ce que nautorisait pas la CAH.
la 21eme iteration, et recuperer ainsi 3 classes. On conserve alors 1.429+3.072=4.501
dinertie interclasse, ce qui represente 75% de linertie totale ; VI.3.7 Caracterisation des classes
si lon souhaite une analyse un peu plus fine, on pourra par exemple sarreter apres la Une fois la classification aboutie, il faut linterpreter : pour cela, chaque classe est decrite
17eme iteration, et recuperer alors 7 classes. Linertie interclasse vaut alors 5.445, ce qui grace aux variables actives - celles sur lesquelles on a souhaite differencier les classes ; mais
represente 91% de linertie totale ; autrement dit, resumer un ensemble de 24 modeles aussi avec toute autre variable supplementaire (quel quen soit le type) dont on connat les
en 7 types ne fait perdre que 9% de linformation initiale 11 . valeurs sur notre population de n individus.
11
En analyse de donnees, le role pivot que joue linertie la rend pratiquement assimilable a un niveau Generalement, on commence par calculer la distance entre le barycentre de chaque classe
dinformation, en langage courant. et le barycentre global, afin de connatre lexcentricite globale de chaque groupe.
VI.4. COMPLEMENTARITE DES DEUX TECHNIQUES 131 132 CHAPITRE VI. ANALYSE DES DONNEES

Ensuite, on compare, pour chaque variable, sa distribution sur chaque classe et sur len- Classe Excentricite Caracteristiques Resume
semble de la population. Des tests probabilistes ont ete developpes (Lebart L., Morineau significatives moyennees generique
A., Piron M., Statistique exploratoire multidimensionnelle, Dunod, 2000, 3eme edition) dans Honda Civic 6,07 Longueur = 363 cm Petites
cette optique, qui different selon la nature des variables : Seat Ibiza SX I Poids = 827 kg sportives
Lorsque les variables sont numeriques, on compare leurs moyennes sur les differents Citroen AX Sport
groupes (en tenant compte des effectifs et des variances respectifs). Peugeot 205 Rallye
Lorsque les variables sont nominales, on compare, pour chaque modalite, sa proportion Fiat Uno 11,11 Largeur = 158 cm Petites
dans la classe a sa proportion dans la population, afin de determiner les modalites Peugeot 205 Vitesse = 146 km/h
significativement sur- (ou sous-) representees. Il est aussi possible de mesurer le pouvoir Ford Fiesta
caracteristique de la variable elle-meme (et non plus de chaque modalite) sur la classe. Fiat Tipo 0,63 Puissance = 89 ch Berlines
Globalement, il est alors possible de quantifier la force discriminante de chaque variable Renault 19 Poids = 1 042 kg moyennes
sur la classification dans son ensemble, afin de determiner quelles sont les caracteristiques Peugeot 405
expliquant le plus les differenciations construites. En fin de course, il est alors frequent de Renault 21
nommer chacune des classes obtenues par un qualificatif resumant la caracterisation. Citroen BX
Pour illustrer ce qui caracterise une classe, on peut aussi rechercher lindividu le plus Renault Espace 1,26 Largeur = 174 cm Volumineuses
typique (ou central) de la classe, ou bien encore un noyau dindividus la representant bien. Opel Omega Longueur = 450 cm
Sur notre exemple, les tableaux ci-dessous montrent le pouvoir discriminant des differentes Ford Sierra
caracteristiques techniques ainsi que la caracterisation de chacune des 7 classes. Peugeot 405 Break
Nissan Vanette 5,19 Vitesse = 146 km/h Vans
VW Caravelle Poids = 1 375 kg
Caracteristique Valeur moyenne (rappel) Pouvoir discriminant F Audi 90 Quattro 4,22 Puissance = 166 ch Routieres
Puissance 114 ch 48,8 Bmw 325iX Vitesse = 211 km/h
Poids 1111 kg 36,3 Ford Scorpio 11,51 Cylindree = 2 786 cm3 Grandes
Longueur 422 cm 33,6 Rover 827i Puissance = 174 ch routieres
Vitesse 183 km/h 32,9 Renault 25
Cylindree 1906 cm3 29,4 Bmw 530i
Largeur 169 cm 12,7
Tab. VI.2 Caracterisation de chacune des 7 classes.
Tab. VI.1 Pouvoir discrimminant des caracteristiques techniques.

relations complexes. En outre, la contrainte dorthogonalite des axes rend souvent lin-
terpretation delicate au-dela du premier plan factoriel, car les informations delivrees
VI.4 Complementarite des deux techniques sont alors residuelles, sachant les proximites deja observees sur les axes precedents.
Les methodes de classification, en revanche, prennent en compte lensemble des dimen-
LACP est un outil puissant pour analyser les correlations entre plusieurs variables ou, sions actives du nuage, et corrigent donc les distorsions des projections factorielles.
ce qui revient finalement au meme, degager les axes dallongement maximal dun nuage de Par la meme, elles compensent labstraction que lon peut reprocher a lanalyse facto-
points de grande dimension. Elle permet dobtenir des facteurs 12 orthonormes et hierarchises, rielle - qui se concentre sur le lien entre les variables et la recherche de composantes
ainsi que de nouvelles variables non correlees a forte variance (i.e. a fort pouvoir informatif). synthetiques - en apprehendant les individus tels quils sont en realite, et non tels quils
Elle possede cependant quelques limites, quune classification automatique menee sur les apparaissent en projection.
memes variables (ou sur une selection reduite de facteurs ) corrige avantageusement : Dautre part, linterpretation dune ACP se heurte au probleme de lespace numerique,
Du point de vue de linterpretation : si lACP permet de visualiser la structure des dont le continuum nest pas altere par lobtention de la nouvelle base par diagonalisa-
correlations, ces visualisations ne sont realisables que sur des plans, ce qui limite la tion ; tandis que la classification se traduit par une partition de cet espace en quelques
perception precise des phenomenes si les variables actives sont nombreuses et leurs zones, ce qui peut etre plus aise a decrire 13 .
12 13
Cette facon de proceder, tres courante, a lavantage de gommer les residus non structurels representes par Dailleurs, au-dela de linterpretation des composantes principales, il est toujours utile dobserver la forme
les derniers axes factoriels, et rend generalement le travail de classification plus robuste, car lheterogeneite de du nuage dindividus projete sur le plan factoriel : on determine ainsi des zones de repartition plus ou moins
la population est reduite par cet artifice. denses (qui sont a lorigine des correlations), qui peuvent etre mises en relation avec les groupes obtenus par
VI.5. LIMITES 133 134 CHAPITRE VI. ANALYSE DES DONNEES

Du point de vue des representations : Dans la methodes des centres mobiles 15 , le calcul des barycentres est directement
En tant quaides a linterpretation, les representations peuvent integrer la remarque affecte, ce qui modifie lensemble des affectations de la zone concernee
precedente, en faisant figurer sur les projections factorielles du nuage des individus la Lors dune CAH standard, un point extreme, par son eloignement, est bien souvent
partition obtenue par classification : il est ainsi possible de faire figurer ces classes par isole, et ne sagrege aux autres que tres tardivement. Certes, les premiers regroupe-
leur barycentre, et/ou par leur enveloppe, voire en remplacant chaque point projete ments ne sont pas perturbes par sa presence ; mais les classes finalement obtenues le
par le code de sa classe dappartenance, si le nombre de points est assez restreint. sont, si larret de la procedure est posterieur au premier rattachement de ce point
Cest dailleurs bien souvent la seule facon - avec les variables supplementaires quali- extreme.
tatives, dont les barycentres des modalites sont projetes - dinterpreter la projection Une solution efficace contre cette faiblesse est alors de modifier des le depart la topologie
factorielle des individus, tant leur nombre rend parfois impossible toute analyse directe. de lespace, de facon a attenuer les distances entre le(s) point(s) extreme(s) et les autres.
On peut ainsi, pour reprendre notre exemple, faire figurer sur le premier plan factoriel Dautre part, lACP est inadaptee aux phenomenes non lineaires qui plus est en grande
agremente de la signification des axes les enveloppes correspondant aux deux classifications dimension. Pour ce genre de probleme, dautres methodes ont ete developpees, comme lACPN
possibles, en sept ou trois classes, pour aboutir a un schema (cf. Fig.VI.10) resumant au (Analyse en Composantes Principales par Noyau), (voir a se sujet Kernel principal component
mieux linformation contenue dans le tableau initial. analysis, B. Scholkopf, A. Smola, and K.-R. Muller, 199).

Fig. VI.10 ACP et classification

VI.5 Limites
Il convient de citer en conclusion les principales limites des methodes developpees.
Une des principales faiblesses de ces techniques est la forte sensibilite aux points extremes :
En ce qui concerne lACP, ce manque de robustesse est notamment lie au role cen-
tral quy joue la correlation de Bravais-Pearson : les points extremes, en perturbant
les moyennes et correlations, polluent alors fortement lanalyse 14 - on peut cependant
envisager de les deplacer en point supplementaire.
Cette sensibilite naturelle aux valeurs extremes perturbe egalement les methodes de
classification :

methode de classification.
14 15
Et ce dautant que des quun axe est perturbe, tous les suivants sont affectes, dapres la contrainte dor- La methode parente des nuees dynamiques peut cependant evacuer ce probleme, car on ny calcule pas
thogonalite des axes. necessairement de barycentre, mais on utilise un noyau representatif.
Quatrieme partie

Annexe

135
138 CHAPITRE VII. RAPPELS ET COMPLEMENTS DE PROBABILITES

verifiant P() = 1 et additive (cest-a-dire telle que,Spour touteP famille finie ou infinie
denombrable devenements disjoints, soit (A i )iI , on a P( iI Ai ) = iI P(Ai )).
Dans la pratique de la modelisation, a partir des hypotheses faites sur le phenomene etudie,
on choisit les probabilites de certains evenements remarquables (autrement dit la valeur de
P(A) pour certains elements A de F) ; le calcul des probabilites consiste a en deduire les
Chapitre VII probabilites de certains autres evenements a la signification concrete jugee interessante.
Lexemple le plus elementaire de cette demarche est celui dun ensemble fini muni de
la tribu de toutes ses parties ; P est alors entierement determinee par les probabilites des
singletons (appeles en calcul des probabilites evenements elementaires) P({}) (souvent
Rappels et complements de note en bref P() et, pour tout evenement A, il vient
X
probabilites P(A) =
A
P() .

Un cas particulier de cette situation est celui ou on considere fondee lhypothese dite dequi-
probabilite : cela signifie que tout evenement elementaire {} verifie P() = 1/card() (ou
Ce chapitre est concu comme une succession de NOTICES sur des notions et resultats card() designe le nombre delements de ) ; alors on en deduit que, pour tout evenement
essentiels de Calcul des Probabilites, utiles pour le reste du cours. A, P(A) = card(A)/card().

Variable aleatoire (en bref v.a.)


VII.1 Definitions et rappels generaux
Etant donnes deux espaces mesurables (, F) et ( 0 , F 0 ), une variable aleatoire (ou,
Le lecteur est suppose connatre les definitions de base du calcul des probabilites : nous en termes generaux de theorie de la mesure, une application mesurable) du premier dans
rappelons ici la terminologie usuelle en langue francaise, en insistant sur le fait (essentiel le second est une application, soit X, de dans 0 , telle que limage reciproque de tout
pour leur usage en Statistique) quil sagit doutils de modelisation, ce qui implique que evenement A0 appartenant a F 0 (cest-a-dire { : X() A0 }) appartienne a F.
leur usage suppose a chaque fois des choix, effectues au vu de la realite concrete dont on En calcul des probabilites, il est frequent dadopter pour cette image reciproque la nota-
veut rendre compte, choix eventuellement revisables au cours dune etude et que lhonnetete tion {X A0 }, qui est en soi monstrueuse (letre mathematique X ne peut etre un element
scientifique et statistique devrait contraindre a toujours bien expliciter. de letre mathematique A0 ) et qui se lit : X prend ses valeurs dans A 0 . Concretement, lusage
dune variable aleatoire X traduit un affaiblissement (on pourrait dire aussi un filtra-
VII.1.1 Probabilite et loi ge) de linformation apportee par les eventualites de ; la condition de mesurabilite que
lon a imposee ({X A0 } F) assure que tous les evenements auxquels on peut vouloir
Espace mesurable, eventualites, evenements sinteresser sur cette information affaiblie peuvent sanalyser en termes devenements relatifs
On appelle espace mesurable tout couple (, F), ou F est une tribu (autrement dit a linformation complete apportee par lespace (, F).
une -algebre) de parties de ; est parfois appele univers ou referentiel ; les elements Une variante naturelle de la notation {X A 0 } est celle qui intervient si A0 est un
de sont appeles eventualites, ceux de F sont appeles evenements ; le fait que F est une evenement elementaire { 0 } ; on note alors {X = 0 } pour { : X() = 0 }. Remarquons
tribu signifie que le complementaire de tout evenement est un evenement et que, pour toute que, si 0 est fini ou infini denombrable, il suffit, pour demontrer la mesurabilite de X, de
famille finie ou infinie denombrable devenements, leur union et leur intersection sont encore sassurer que, pour tout 0 , {X = 0 } appartient bien a F ; ceci nest pas vrai dans le cas
des evenements. Dans la pratique les eventualites correspondent a la description la plus fine general.
possible, dans la modelisation choisie, de ce a quoi lon sinteresse dans le phenomene etudie.
Les evenements sont des sous-ensembles deventualites dont la realisation est susceptible Loi dune variable aleatoire (autrement dit probabilite image)
dinteresser les usagers de cette modelisation (un evenement est realise si leventualite qui Reprenant les notations de la notice precedente, la loi de la v.a. X (relativement a la
survient lui appartient). mesure de probabilite P) est la mesure de probabilite P X definie sur lespace darrivee de X,
(0 , F 0 ), par :
Mesure de probabilite PX (A0 ) = P({X A0 })
On appelle mesure de probabilite (ou loi de probabilite, ou encore en bref pro- (on notera en bref P(X A0 ) pour P({X A0 })). Concretement, A0 et {X A0 } representent
babilite), definie sur lespace mesurable (, F), toute application, soit P, de F dans [0, 1], le meme evenement (au sens intuitif du terme), meme si, mathematiquement, il sagit de

137
VII.1. DEFINITIONS ET RAPPELS GENERAUX 139 140 CHAPITRE VII. RAPPELS ET COMPLEMENTS DE PROBABILITES

sous-ensembles definis dans des espaces differents. Il importe donc quils aient bien nume- aleatoire projection, i . On dit aussi que Pi est la loi marginale (ou en bref marge) de P
riquement la meme probabilite, que lon porte son attention sur lespace ( 0 , F 0 ) (interet pour la composante dindice i .
pour linformation filtree par X) ou sur lespace ( , F) (information complete). PX est aussi Dans le cas particulier ou tous les espaces mesurables ( i , Fi ) sont identiques (soit ici
appelee probabilite image (ou mesure image) de P par X (terminologie de la theorie de (, F) cet espace commun) et ou I = {1, . . . , n}, on emploie la notation de type puissance,
la mesure et de lintegration) ; on la note alors aussi X(P). cest-a-dire (n , F n ) (ou bien, avec les notations du type produit tensoriel, ( n , F n ).
Q etant une mesure de probabilite sur 0 , la propriete Q est la loi de la v.a. X (autrement La construction ci-dessus (espace produit) intervient generalement dans des contextes ou
dit legalite PX = Q) se dit aussi : X suit la loi Q ; on note ceci : X Q. on considere une famille de v.a., X I = (Xi )iI , implicitement toutes definies sur un meme
Dans la pratique, il arrive frequemment que lon considere simultanement une famille de espace. Chaque Xi est a valeurs dans un espace (i , Fi ) et donc XI est a valeurs dans lespace
variables aleatoires, (Xi )iI , definies sur un meme espace mesurable. Il sera alors necessaire de (I , FI ).
bien preciser les espaces (i , Fi ) darrivee de chacune de ces v.a. mais souvent leur espace de
depart commun, ainsi que la mesure de probabilite dont il est muni, pourront etre seulement
Absolue continuite dune probabilite par rapport a une mesure -finie. Densite
evoques, par exemple comme lieu ou se formulent des hypotheses dindependance (voir ci-
dessous VII.1.4), sans recevoir de notation particuliere ; sil en est ainsi, on trouvera des Considerons sur (, F) a la fois une probabilite P et une mesure (application -additive
ecritures du type P(X B) (avec le graphisme conventionnel P) pour traduire lexpression : de F dans [0, +]) qui est supposee de plus -finie, cest-a-dire telle que ou bien () soit
probabilite que X prenne ses valeurs dans B. fini, ou bien il existe une partition de en une suite (F 1 , . . . , Fn , . . .) delements de F telle
que, pour tout n, (Fn ) soit fini. P est dite absolument continue par rapport a si tout
Espace mesurable produit, loi marginale evenement A verifiant (A) = 0 verifie aussi P(A) = 0. Ceci equivaut (theoreme de Radon-
Nikodym) a lexistence dune application mesurable, soit f , de (, F) dans ([0, +[, B), ou
Il est frequent que la realisation dun phenomene observe se decompose sous forme dune B est la tribu borelienne (voir si besoin VII.1.2, p. 141 ci-dessous), appelee densite de P par
famille dobservations plus elementaires ; en dautres termes on doit modeliser leventualite rapport a , telle que
comme une famille (i )iI (souvent I = {1, . . . , n} et = (1 , . . . , n )). On est donc amene Z
a associer a chaque observation elementaire un espace mesurable ( i , Fi ) et les eventualites A F P(A) = f ()d() .
Q A
completes sont des elements de lespaceQ produit I = iI i ; celui-ci peut etre muni
dune tribu, dite tribu produit, FI = iI Fi qui est la plus petite tribu On retiendra quune densite nest definie qua une egalite presque partout pres, cest-
Q contenant tous les
paves finis, cest-a-dire contenant toutes les parties de I de la forme iI Ai , ou pour tout a-dire que, si f est une densite de P par rapport a , il en est de meme de toute application
i, Ai Fi et Ai = i sauf pour un nombre fini dindice. mesurable, soit g, de (, F) dans ([0, +[, B) verifiant : ({; f () 6= g()}) = 0. En dautres
Q
Attention : En notation traditionnelle de theorie des ensembles, iI Fi designerait termes, la bonne notion pour la densite serait plutot celle dun element de L 1+ (), ensemble
des classes dequivalence pour la relation degalite presque-partout sur lensemble L 1+ ()
plutot lensembleNdes familles (Ai )iI ou, pour tout Q i, Ai Fi ; cest pourquoi certains
ouvrages notent iI Fi ce que nous avons note iI Fi et disent quil sagit du produit
des fonctions reelles positives ou nulles -integrables.
tensoriel des tribus Fi . Un cas elementaire dabsolue continuite est celui ou est fini ou infini denombrable,
Dans le cas de deux espaces (ou donc I = {1, 2}), on note la tribu produit F 1 F2 , ou muni, comme il est usuel alors, de la tribu de toutes ses parties. Alors on peut considerer sur
F1 F2 si on adopte la notation du type produit tensoriel. sa mesure de comptage (ou mesure de denombrement) : pour tout A, (A) est le
Concretement, cette definition exprime que lon definit bien un evenement dans I en nombre delements de A ; toute probabilite P est alors absolument continue par rapport ,
specifiant simultanement la realisation devenements relatifs a chacune des composantes i . et la densite (unique ici) est lapplication : 7 P({}) .
Si on veut specifier seulement la realisation devenements relatifs a certaines composantes Par extension, si X est une v.a. a valeurs dans un espace mesurable ( 0 , F 0 ) et 0 est une
Q
(disons les j , ou j J, avec J I), on considere dans I des parties de la forme iI Bi mesure -finie sur cet espace, on dit que X est absolument continue par rapport a 0 si sa loi
ou, si i J, Bi = Ai et, si i 6 J, BiQ= i . En particulier, dans I , un evenement relatif a PX lest ; la densite de PX par rapport a 0 est alors aussi appelee densite de X.
une unique composante j sexprime iI Bi ou Bj = Aj et, si i 6= j, Bi = i . ; en dautres
termes, cest limage reciproque de A j par lapplication projection de I sur j , soit j ; la Absolue continuite entre deux mesures -finies
definition de FI peut alors sinterpreter en disant que cest la plus petite tribu relativement
a laquelle toutes les projections j (ou j I) soient mesurables. Les definitions dabsolue continuite et de densite dune probabilite par rapport a une
Il est essentiel de retenir que la donnee dune probabilite individuelle P i sur mesure -finie setendent sans difficulte a celles dabsolue continuite et de densite dune
chacun des espaces (i , Fi ) ne suffit pas a determiner une probabilite sur lespace mesure -finie par rapport a une autre mesure -finie. Etant donne 3 mesures -finies ,
mesurable produit (I , FI ) ; tout ce que lon sait cest que toute modelisation coherente et , la propriete de transitivite suivante est immediate : si est absolument continue par
doit faire intervenir sur (I , FI ) une probabilite P dont, pour tout i, limage par la projection rapport a , avec f pour densite, et est absolument continue par rapport a , avec g pour
i est Pi ; en dautres termes, Pi = Pi , puisque cest la loi, relativement a P, de la variable densite, alors est absolument continue par rapport a , avec le produit gf pour densite.
VII.1. DEFINITIONS ET RAPPELS GENERAUX 141 142 CHAPITRE VII. RAPPELS ET COMPLEMENTS DE PROBABILITES

On emploie parfois une notation de type differentielle, bien adaptee pour rendre compte contient toutes les parties ouvertes et fermees pour la topologie usuelle de la droite reelle.
d(x) Les elements de B sont appeles parties boreliennes (ou en bref boreliens).
de cette propriete : notant la valeur en x de la densite de par rapport a , il vient :
d(x) Si A est une partie borelienne de R, on appelle encore tribu borelienne sur A, et on note
d(x) d(x) d(x) BA (ou simplement B sil ny a pas de risque de confusion sur A) la restriction a A de la tribu
= .
d(x) d(x) d(x) borelienne de R (nous lavons utilise ci-dessus, pour A = [0, +[, en VII.1.1).
Deux mesures -finies sont dites equivalentes si chacune est absolument continue par De nombreuses modelisations conduisent a considerer des eventualites appartenant a une
rapport a lautre. Si est absolument continue par rapport a , avec f pour densite, il faut et partie borelienne, soit A, de R, en particulier un intervalle ou un ensemble fini ou infini
il suffit, pour quinversement soit absolument continue par rapport a , que f soit -presque denombrable : voir par exemple une duree exprimee en nombre entiers dunites de temps
partout strictement positive, et alors 1/f definit une densite de par rapport a , ce qui se (minutes, jours, coups dans un jeu ...) qui sexprime dans N ; on peut indifferemment, sans
d(x) 1 que cela prete a confusion, considerer que la probabilite P qui regit ce phenomene est definie
note aussi : = d(x) .
d(x) sur lespace mesurable (A, BA ) ou sur (R, B), avec bien sur dans ce dernier cas P(A) = 1 (et
d(x)
donc P(A) = 0, ou A designe le complementaire de A dans R) ; on dit que P est concentree
Calcul de la densite de la loi dune v.a. sur A, ou portee par A.

Soit donne, sur un espace mesurable (, F), une mesure -finie et une probabilite P Fonction de repartition dune probabilite
absolument continue par rapport a ; soit f une densite de P par rapport a (voir p. 140).
Soit X une v.a. definie sur (, F), a valeurs dans un espace ( 0 , F 0 ). Il nest pas toujours Une probabilite P sur (R, B) est caracterisee par sa fonction de repartition, cest-a-dire
facile de calculer la densite de la loi de X, soit P X (aussi appelee probabilite image de P par lapplication, soit FP , de R dans [0, 1], definie par : FP (x) = P (] , x]) . Cette fonction
X), relativement a une mesure -finie 0 sur (0 , F 0 ) . est croissante, c.a.d.l.a.g. (cest-a-dire continue a droite et admettant une limite a gauche en
Un cas particulier ou ce calcul est elementaire est celui ou la densite f se factorise a tout point), sa limite en est 0 et sa limite en + est 1. Elle ne peut-etre discontinue
travers X et ou on prend pour mesure sur 0 la mesure image de par X, X(), qui est quau plus en une infinite denombrable de points et, en tout point de discontinuite x, le saut
definie par : de FP vaut P ({x}).
B F 0 (X())(B) = (X B) .
Variable aleatoire reelle (v.a.r.), fonction de repartition dune v.a.r., ordre sto-
Cela signifie quil existe g, application de 0 dans R+ telle que : f () = g(X()). Il
chastique
resulte alors immediatement de la definition de la densite que g est une densite de P X (loi de
X) par rapport a X(). Une application de , muni de la tribu F, dans R, soit X, est une v.a.r. (variable aleatoire
Il en est en particulier ainsi dans la situation suivante, que nous allons decrire dans le reelle) si, pour tout B B, limage reciproque de B par X (dont on rappelle quon la note
vocabulaire des applications mesurables plutot que dans celui des variables aleatoires : soit {X B} ) appartient a F ; il suffit en fait quil en soit ainsi pour tout B qui est une
une application bijective et bimesurable (cest-a-dire mesurable ainsi que sa reciproque 1 ) demi-droite infinie a gauche et fermee a droite ( ] , x] ) et on note alors naturellement
de dans 0 ; alors les densites f de P par rapport a et g de (P) par rapport a () sont {X x} pour {X ], x]} (on aura evidemment des notations analogues du type {X > x},
liees par les relations : {x X x0 } ...).
Si lespace mesurable (, F) est muni dune probabilite P , on appelle fonction de
f () = g(()) , g( 0 ) = f (1 ( 0 )) . repartition de X (relativement a P , sil y a lieu de le preciser) la fonction de repartition
(voir VII.1.2) de sa loi PX (voir VII.1.1), cest-a-dire lapplication F X de R dans [0, 1] definie
Un defaut de cette propriete est que, si a ete introduite naturellement lors dune par :
modelisation, son image () peut netre pas tres maniable (voir en VII.1.2 des situations ou FX (x) = FPX (x) = P (X x) = PX (] , x]) .
cette difficulte peut etre contournee).
La fonction de repartition sert a definir sur les variables aleatoires lordre stochastique :
etant donne, sur un meme espace mesurable (, F) muni dune probabilite P , deux v.a. X
VII.1.2 Variables aleatoires et Y , on dit que X est stochastiquement plus grande que Y (note Y  X) si, quel que soit
Tribu borelienne t R, la probabilite que X depasse t est superieure a celle que Y depasse t, autrement dit si

Lensemble R des nombres reels est systematiquement muni de la tribu dite borelienne, t R FX (t) FY (t).
notee B, qui est la plus petite tribu contenant les demi-droites infinies a gauche et fermees
a droite ( ] , x] ) ; elle contient alors aussi necessairement tous les intervalles, bornes ou Cette propriete sexprime aussi couramment par la phrase : X a tendance a prendre
non, quelle que soit leur nature (ouvert ou ferme) en leurs extremites ; plus generalement, elle de plus grandes valeurs que Y .
VII.1. DEFINITIONS ET RAPPELS GENERAUX 143 144 CHAPITRE VII. RAPPELS ET COMPLEMENTS DE PROBABILITES

Cette expression tendance a prendre de plus grandes valeurs semploie aussi quand on Mesure de Lebesgue, densite par rapport a la mesure de Lebesgue
considere une seule variable aleatoire X, mais deux probabilites, soit P 1 et P2 , sur lespace
Sauf mention contraire labsolue continuite (en bref a.c.) pour une probabilite P (ou
mesurable (, F) ; si on note FPi ,X (ou i vaut 1 ou 2) la fonction de repartition de X relative-
plus generalement une mesure -finie) sur R (ou sur un intervalle de R) sentend toujours
ment a la probabilite Pi , on dira que X a tendance a prendre de plus grandes valeurs
relativement a la mesure de Lebesgue, cest-a-dire la mesure, notee , qui a tout intervalle
sous P1 que sous P2 si
borne dextremites inferieure a et superieure b associe sa longueur b a, et donc a tout
t R FP1 ,X (t) FP2 ,X (t).
intervalle non borne (autrement dit toute droite ou demi-droite) associe la valeur +.
Si la probabilite P est a.c., sa fonction de repartition (voir p. 142) F P est continue (au-
Variable aleatoire reelle discrete trement dit, pour tout x, P ({x}) = 0) et est derivable sauf eventuellement aux points dun
Une v.a.r. X est dite discrete si elle ne prend ses valeurs que dansPune partie finie ou ensemble N verifiant (N ) = 0 ; on dit quelle est presque partout derivable, et pour tout
une infinie denombrable de R, soit B. Alors, pour tout t R, F X (t) = xB;xt P(X = x), choix realiste de P dans une modelisation, N est un ensemble fini, ou (plus rarement) infini
la notation
P
designant ici soit la sommation usuelle dun nombre fini de termes, soit la denombrable.
somme dune serie a termes positifs . Ce mode de calcul justifie une autre appellation, un peu On obtient alors une densite de P (sous-entendu : par rapport a ), soit f P , par
demodee, de la fonction de repartition, a savoir fonction de cumul (ou des probabilites derivation : on prend, pour tout x / N , f P (x) = FP0 (x) et, sil y a lieu, on prolonge
cumulees). arbitrairement a N . On remarque que, sur tout intervalle ouvert ]a, b[ tel que P (]a, b[) = 0
En particulier le calcul de PX (B) ne fait intervenir que des sommes finies si B est fini (no- (sil en existe), FP est constante et on prend fP nulle. On dispose alors, en tout point x en
tons B = {x1 , . . . , xk }, avec la suite (x1 , . . . , xk ) strictement croissante) ou infini denombrable, lequel FP est derivable, dune interpretation a la physicien de la densite : la probabilite
a condition dans ce dernier cas que les elements de B puissent etre ordonnes en croissant (no- dun petit intervalle de longueur x centre en x vaut approximativement f P (x)x.
tons B = {x1 , . . . , xk , . . .}). Il en est ainsi si X est a valeurs entieres positives ou nulles, Lintegration par rapport a la mesure de Lebesgue est lintegration usuelle et on a donc,
non bornees, ce qui est frequent dans la modelisation de phenomenes de duree. F X est alors pour tout intervalle, borne ou non, dextremites inferieure a et superieure b :
constante sur chacun des intervalles, fermes a gauche, ouverts a droite, [x i1 , xi [, ainsi que Z b
sur ] , x1 [ (ou elle vaut 0) et, sil y a lieu, sur [sup(B), +[ (ou elle vaut 1). En chaque P ([a, b]) = P ([a, b[) = P (]a, b]) = P (]a, b[) = F P (b) FP (a) = fP (x)dx .
xi , le saut de FX vaut pi = P(X = xi ). a

En particulier on reconstitue la fonction de repartition a partir de la densite :


Tribu borelienne puissance Z x
Etant donne un ensemble I, lensemble puissance R I (ensemble des familles (xi )iI ou, FP (x) = fP (t)dt .

pour tout i, xi R ) est muni de la tribu puissance (voir VII.1.1)
Q B I (ou B I ) qui est aussi
la plus petite tribu contenant toutes les parties de la forme iI ] , xi [, ou xi R {+} On remarque que si, comme on le fait dans certains ouvrages, on identifie la probabilite
et xi = + sauf pour un nombre fini dindice i I. P avec sa fonction de repartition F P , on obtient une grande similitude entre la notation
differentielle des densites (voir VII.1.1), dP (x)
d(x) , et la notation differentielle des deerivees
Variable aleatoire reelle multidimensionnelle ou vecteur aleatoire dFP (x)
dx .
La loi dune famille finie X = (Xi )iI de v.a.r. reelles soit PX , est entierement caracterisee Une v.a.r. X est dite absolument continue (ou plus succintement continue) sil en est ainsi
par sa fonction de repartition (I-dimensionnelle), cest-a-dire lapplication F X de RI dans de sa loi PX , et on appelle densite de X toute densite de P X (par rapport a ) ; soit fX une
[0, 1] definie par : densite de X ; alors, P designant ici la mesure de probabilite adoptee sur lespace mesurable
sur lequel est definie la v.a. X, il vient : Rb
\ Y P(a X b) = P(a X < b) = P(a < X b) = P(a < X < b) = a fX (x)dx
FX ((xi )iI ) = P(i Xi xi ) = P( {Xi xi }) = PX ( ] , xi ])
iI iI
et Z x
FX (x) = fX (t)dt .
Cette notion nous sert essentiellement dans le cas de variables n-dimensionnelles (cas ou
I = {1, , n} ). On dit alors quon a un vecteur aleatoire et on adopte souvent la notation
matricielle : Image de la mesure de Lebesgue
X1
.. Une situation techniquement importante est la suivante : soit un C 1 -diffeomorphisme
X = . .
(cest-a-dire une application bijective, continuement differentiable ainsi que sa reciproque
Xn 1 ) dun intervalle ouvert U dans un intervalle ouvert V de R. Alors la mesure image de U
VII.1. DEFINITIONS ET RAPPELS GENERAUX 145 146 CHAPITRE VII. RAPPELS ET COMPLEMENTS DE PROBABILITES

Q
(restriction de la mesure de Lebesgue a U ) par est absolument continue par rapport a la tout pave ni=1 [ai , bi [ (la nature des extremites etant en fait indifferente) associe son volume
Q
d() n
mesure de Lebesgue V et admet pour densite lapplication definie par : i=1 (bi ai ) (et donc a tout pave non borne associe la valeur +).
d Si P est a.c., sa fonction de repartition (voir p. 143) F P est continue et est presque
partout differentiable par rapport aux n variables. On obtient alors une densite de P (en
d() 1
(y) = |(1 )0 (y)| = 0 1 . sous-entendant : p.r.p. n ), soit fP , par derivation : on prend, pour tout (x 1 , . . . , xn ) pour
d | ( (y))| nF
lequel cela a un sens, fP (x1 , . . . , xn ) = x1 ...x
P
n
(x1 , . . . , xn ) et, sil y a lieu, on prolonge arbi-
Il en resulte (voir VII.1.1) que, si P est une probabilite sur R, concentree sur U (voir trairement a lensemble, de mesure nulle pour , pour lequel cette derivee nest pas definie. On
p. 141) et admettant f comme densite par rapport a , son image (P ) admet par rapport dispose alors, en tout point (x1 , . . . , xn ) en lequel FP est derivable par rapport aux n variables,
a la densite g definie par : dune interpretation a la physicien de la densite : la probabilite dun petit pave de volume
x1 . . . xn centre en (x1 , . . . , xn ) vaut approximativement fP (x1 , . . . , xn )x1 . . . xn .
d(P ) d(P ) d() Lintegration par rapport a la mesure de Lebesgue n-dimensionnelle est lintegration
g(y) = (y) = (y) (y) Q
d d() d usuelle des fonctions de n variables et on a donc, pour tout pave ni=1 [ai , bi [ :

cest-a-dire n
Y Z b1 Z an
f (1 (y)) P( [ai , bi [) = ... fP (x1 , . . . , xn )dx1 . . . dxn .
g(y) = f (1 (y))|(1 )0 (y)| = 0 1 . a1 an
| ( (y))| i=1

Inversement, on a : En particulier on reconstitue la fonction de repartition a partir de la densite :


f (x) = g((x))|0 (x)| . Z x1 Z xn
On fera le lien avec les calculs classiques par changement de variable en integration : FP (x1 , . . . , xn ) = ... fP (t1 , . . . , tn )dt1 . . . dtn .

soit B un evenement contenu dans V ; alors
Z Une v.a.r. n-dimensionnelle X = (X1 , . . . , Xn ) est dite absolument continue sil en est
((P ))(B) = 1B (y)g(y)dy ainsi de sa loi PX , et on appelle densite de X toute densite de P X (par rapport a ) ; soit fX
V une densite de X ; il vient :
dou, par le changement de variable y = (x), Z b1 Z an
Z Z P (i ai Xi bi ) = ... fX (x1 , . . . , xn )dx1 , . . . , dxn
a1 an
((P ))(B) = 1B ((x))g((x))|0 (x)| dx = g((x))|0 (x)| dx ;
U 1 (B)
(les inegalites larges etant remplacables par des inegalites strictes) et
or par definition de la probabilite image, (P ))(B) = P ( 1 (B))) et donc on a aussi : Z x1 Z xn
Z FX (x1 , . . . , xn ) = ... fX (t1 , . . . , tn )dt1 . . . dtn .

((P ))(B) = f (x)dx ;
1 (B)
Image de la mesure de Lebesgue multidimensionnelle
on a donc pour tout B
Nous generalisons au cas multidimensionnel les resultats donnes en VII.1.2 dans le cas
Z Z
0 unidimensionnel : soit un C 1 -diffeomorphisme dune partie ouverte U de R n dans une
g((x))| (x)| dx = f (x)dx , partie ouverte V de Rn . Alors la mesure image de nU (restriction de la mesure de Lebesgue
1 (B) 1 (B)
n-dimensionnelle a U ) par est absolument continue par rapport a la mesure de Lebesgue
ce qui est bien coherent avec legalite nV et admet pour densite lapplication d()
d definie par :

f (x) = g((x))|0 (x)| . d() 1


(y) = |det(J(1 )(y))| = ,
d |det(J())(1 (y))|
Mesure de Lebesgue multi-dimensionnelle
ou det signifie determinant et ou J()(x) est le jacobien de en x, cest-a-dire, si on note,
Sauf mention contraire labsolue continuite (en bref a.c.) pour une probabilite P sur pour x = (x1 , . . . , xn ) Rn , (x) = (1 (x), . . . , n (x)), la matrice, a n lignes et n colonnes,
Rn sentend toujours relativement a la mesure de Lebesgue n-dimensionnelle, cest- i
a-dire la mesure, notee n (ou simplement sil ny a pas de risque de confusion), qui a dont le terme general est (x) (et de meme pour J(1 )(y)).
xj
VII.1. DEFINITIONS ET RAPPELS GENERAUX 147 148 CHAPITRE VII. RAPPELS ET COMPLEMENTS DE PROBABILITES

R +
Il en resulte (voir VII.1.1) que, si P est une probabilite sur R n , concentree sur U (voir qui a toujours un sens (eventuellement + ou ), sauf si a la fois 0 xfX (x)d(x) = +
R0
p. 141) et admettant f comme densite par rapport a n , son image (P ) admet par rapport et xfX (x)d(x) = ; alors :
a n la densite g definie par : Z Z
+ 0
d(P ) d(P ) d(n ) E(X) = xfX (x)d(x) + xfX (x)d(x) .
g(y) = (y) = (y) (y) 0
dn d(n ) dn
Ceci conduit a deux modes de calcul :
cest-a-dire Calcul integral usuel si X est absolument continue p.r.p. la mesure de Le-
g(y) = f (1 (y))|det(J(1 )(y))| . besgue.
On a dans ce cas :
Inversement, on a : Z + Z 0
f (x) = g((x))|det(J())(x)| . E(X) = xfX (x)dx + xfX (x)dx ,
0
Comme dans le cas reel, voir p. 144, on peut faire le lien avec les calculs classiques par
changement de variable en integration a plusieurs variables. a mener soit par calcul de primitives (a condition que f X soit continue ou continue par
morceaux) soit par techniques de Monte-Carlo.
Calcul de sommes finies ou de sommes de series a termes positifs si X est
VII.1.3 Esperance-Variance discrete
Notion desperance mathematique, v.a.r. centree Dans ce cas X est (voir VII.1.1) absolument continue par rapport a la mesure de
comptage sur lensemble B (contenu dans R) des valeurs que prend X, lapplication
Soit X une v.a.r. definie sur lespace mesurable (, F), de loi P X ; on appelle esperance x 7 PX ({x}) sinterpretant comme une densite par rapport a cette mesure ; si on note
mathematique (ou en bref esperance) de X par rapport a P , et on note E(X) (ou E P (X) B + = {x B; x > 0} et B = {x B; x < 0}, on a dans ce cas :
sil est utile de preciser la probabilite P ) lintegrale (si elle a un sens) de X par rapport a P , X X
autrement dit (theoreme dit de transfert) lintegrale de lidentite par rapport a P X ; ceci E(X) = xPX ({x}) + xPX ({x}) ,
sexprime avec differentes notations (avec ou sans lettre muette) : xB + xB
P P
Z Z Z sauf si on a a la fois xB + xPX ({x}) = + et xB xPX ({x}) = , ceci ne
E(X) = X dP = X() dP () = x dPX (x) . +
pouvant se produire que si les ensembles B et B sont tous deux infinis denombrables.

Dans le cas (tres frequent dans les modelisations usuelles ; voir VII.1.2) ou B est fini
E(X) est definie (valant eventuellement + ou ) comme difference des esperances des (notons alors, en croissant, B = {x1 , , xk }) ou bien infini denombrable et tel que ses
deux v.a. positives X + (= sup(X, 0)) et X (= sup(X, 0)), sauf si E(X + ) = E(X ) = +. elements puissent etre ordonnes en croissant (notons de meme B = {x 1 , , xk , }),
On a alors : E(X) = E(X + ) E(X ). E(X) a necessairement P un sens et, notant p i = P (X = xi ) = PX ({xi }), il vient :
X est dite integrable (par rapport a P ) si < E(X) < +, ce qui equivaut a - si B est fini, E(X) = ki=1 xi pi , P P+
E(X + ) < + et E(X ) < +, autrement dit E(|X|) < +. Lensemble des v.a. integrables - si B est infini denombrable, E(X) = + i=1 xi pi = x1 + i=1 (xi x1 )pi (cette derniere
par rapport a P est note L1 (P ). somme etant celle dune serie a termes positifs).
E est, sur L1 (P ), un operateur lineaire (E(aX + bY ) = aE(X) + bE(Y )), positif (si X 0,
alors E(X) 0) et unitaire (E(1) = 1). Variance dune v.a. reelle
Lesperance est un indicateur de valeur centrale de la loi de X (usage justifie en particulier Si X est integrable, on definit la variance de X (relativement a P ) comme le nombre
par la propriete E(X a) = E(X) a). Si X est integrable, la v.a. X E(X) est dite deduite positif ou nul (eventuellement +), note ici Var(X) (ou Var P (X) sil est utile de preciser la
de X par centrage (une v.a.r. centree est une v.a.r. desperance nulle). probabilite P ) defini par :

Calcul de lesperance mathematique dune v.a.r. Var(X) = E((X E(X))2 ) = E(X 2 ) (E(X))2 .

Si la loi PX est absolument continue par rapport a une mesure -finie (voir VII.1.1) et La racine carree de la variance est appelee ecart-type de X (relativement a P ), note ici
de densite fX relativement a cette mesure, on a : (X) (ou P (X)).
Les proprietes et modes de calcul de la variance se deduisent de ceux des esperances.
Z + Lensemble des v.a.r. de variance finie (autrement dit de second moment, E(X 2 ), fini) est
E(X) = xfX (x)d(x) , note L2 (P ) (aussi dit : ensemble des v.a. de carre integrable).

VII.1. DEFINITIONS ET RAPPELS GENERAUX 149 150 CHAPITRE VII. RAPPELS ET COMPLEMENTS DE PROBABILITES

La variance et lecart-type sont des indicateurs de dispersion de la loi de X (usage justifie Variance dun vecteur aleatoire
en particulier par les proprietes (X a) = (X) et (bX) = |b|(X)). Si X est de variance
On appelle matrice de variances et covariances de X, ou en bref variance de X, la
finie, la v.a. (X E(X))/(X) est dite deduite de X par centrage et reduction (une v.a.r.
matrice a n lignes et n colonnes Var(X) de terme general v i,j tel que :
reduite est une v.a.r. decart-type egal a 1).
- pour tout i, vi,i = Var(Xi ),
Une v.a.r. de variance nulle est p.s. constante : sa loi est la loi de Dirac en un point x 0 ,
- pour tout (i, j) tel que i 6= j, vi,j = Cov(Xi , Xj ).
cest-a-dire portee par ce seul point.
Autrement dit, lesperance dune matrice aleatoire etant definie de maniere evidente dans
la ligne de lesperance dun vecteur aleatoire, on a Var(X) = E((X E(X))(X E(X)) t ), ou
Covariance de deux v.a. reelles le symbole t designe la transposition des matrices.
Var(X) est une matrice symetrique ; elle est positive, cest-a-dire que pour tout vecteur u
Soit X1 et X2 deux v.a.r. definies sur lespace mesurable (, F). Si X 12 et X22 sont
(element de Rn , represente par une matrice unicolonne a n lignes) elle verifie u t Var(X)u 0
integrables, il en est ainsi (en vertu de linegalite de Holder) du produit X 1 X2 et on definit
(ou ut est donc une matrice uniligne a n colonnes).
la covariance de X1 et X2 (relativement a P ) comme le nombre reel, note ici Cov(X 1 , X2 )
Var(X) nest pas necessairement de rang n (autrement dit elle nest pas necessairement
(ou CovP (X1 , X2 ) si necessaire) defini par :
definie positive). Si elle est de rang k < n, le support de la loi de X est contenu dans
lhyperplan affine, de dimension k, passant par E(X) et parallele a lhyperplan vectoriel
Cov(X1 , X2 ) = E((X1 E(X1 )(X2 E(X2 )) = E(X1 X2 ) E(X1 )E(X2 ) .
Im(Var(X)) (ensemble des vecteurs de la forme Var(X)u ou u parcourt R n ).
Si A est une matrice a m lignes et n colonnes, la variance du vecteur aleatoire m-
Etant donne n v.a. (X1 , . . . , Xn ), on a de maniere evidente legalite :
dimensionnel AX est : Var(AX) = A Var(X)A t ; en particulier, si m = 1, Y = AX est
n
X n
X X une v.a. reelle admettant pour variance le nombre positif ou nul Var(Y ) = A Var(X)A t (ce
Var( Xi ) = Var(Xi ) + 2 Cov(Xi , Xj ) . qui explique la positivite de Var(X) citee plus haut).
i=1 i=1 1i<jn
Emploi du terme empirique
Si X1 et X2 ne sont pas presque surement constantes (et donc de variance non nulle), on
appelle correlation de X1 et X2 (relativement a P ) le nombre, appartenant a lintervalle A toute suite finie (x1 , . . . , xn ) delements de R on associe la probabilite empirique,
[1, +1] (encore une consequence de linegalite de Holder), note ici Corr(X 1 , X2 ) (ou bien sur (R, B) definie par
CorrP (X1 , X2 ) si necessaire) defini par : Card({i : xi B})
B 7
n
Cov(X1 , X2 ) (autrement dit, on affecte la masse n1 a chaque xi , mais attention aux ex-aequo).
Corr(X1 , X2 ) = p .
Var(X1 ) Var(X2 ) Tout objet relatif a la probabilite empirique sera qualifie dempirique ; en voici des exem-
ples usuels :
n
La correlation est un indicateur de dependance entre X 1 et X2 (ce mot de dependance 1 1X
fonction de repartition empirique : t 7 card({i : xi t}) = 1{xi t} ,
etant pris ici dans un sens intuitif). En particulier la valeur absolue de la correlation est n n
i=1
maximale si il y a une relation affine entre X 1 et X2 , a condition quaucune des ces deux v.a. n
1X
ne soit constante : si X2 = aX1 + b avec a > 0, il vient Corr(X1 , X2 ) = +1 et, si X2 = aX2 + b esperance mathematique empirique : x n = xi ,
n
avec a < 0, il vient Corr(X1 , X2 ) = 1. i=1
n n
1X 1X 2
variance empirique : vn = (xi x)2 = xi x2 .
Esperance mathematique dun vecteur aleatoire n n
i=1 i=1

X1
VII.1.4 Conditionnement, independance
Soit X = ... un vecteur aleatoire (voir VII.1.2). On appelle esperance mathemati-

Conditionnement par un evenement
Xn

E(X1 ) Etant donne, sur un espace mesurable (, F), une mesure de probabilite P et un evenement

que de X, le vecteur E(X) = .. de probabilite non nulle B, la mesure de probabilite deduite de P par conditionnement
. .
par B, notee P B , est definie, sur le meme espace (, F), par :
E(Xn )
Il resulte de la linearite et de lunitarite de loperateur E pour les v.a.r. que, si A est une P(A B)
matrice a m lignes et n colonnes et B un vecteur de R m , alors E(AX + B) = AE(X) + B. PB (A) = .
P(B)
VII.1. DEFINITIONS ET RAPPELS GENERAUX 151 152 CHAPITRE VII. RAPPELS ET COMPLEMENTS DE PROBABILITES

Elle est concentree sur B (cest-a-dire que P B (B) = 1). PB (A) se lit, si on na pas besoin Conditionnement par une variable aleatoire : cas general
de faire reference a P, probabilite de A conditionnee par B, ou probabilite de A
Cette notice est assez difficile ; le lecteur peut se contenter de rechercher le calcul des lois
conditionnellement a B, ou encore probabilite de A sachant B, ou enfin (avec un
conditionnelles figurant en VII.1.4.
pleonasme) probabilite conditionnelle de A sachant B .
Soit donne, sur un espace mesurable (, F), une mesure de probabilite P et soit X une
On emploie aussi la notation P(A|B) (ou parfois P B (A)) la ou nous venons de noter
v.a. a valeurs dans (0 , F 0 ). Alors on appelle probabilite conditionnelle relativement a
PB (A).
X toute application de 0 dans lensemble des probabilites sur (, F) qui a tout 0 associe
Concretement, le remplacement de P par P B se presente quand un certain contexte din- 0
une probabilite, notee P[X= ] , qui verifie les deux proprietes obtenues dans le cas des v.a.
formations, relatif a une situation aleatoire, a conduit a la modelisation par (, F, P), puis que
discretes :
lon fournit linformation supplementaire que B est realise. Ceci conduit a affecter la valeur 0
concentration : pour presque tout 0 , la probabilite P[X= ] est portee par levenement
1 a la probabilite de B (autrement dit 0 a son complementaire) et a maintenir lequilibre 0
{X = },
interne entre les valeurs des probabilites des evenements inclus dans B ; cest bien ce que
reconstitution :
fait P B . Z
0
A F P(A) = P[X= ] (A) dPX ( 0 ) .
0
Conditionnement par une v.a. discrete
Comme dans le cas discret, on emploie aussi la notation P(A|X = 0 ) la ou nous venons
0
Dans la pratique de la modelisation intervient souvent la demarche inverse de celle decrite de noter P[X= ] (A).
ci-dessus : lanalyse de la situation concrete justifie de porter son attention sur une partition On en deduit que pour toute v.a. Y , P-integrable,
finie ou infinie denombrable de , soit (B i )iI et de choisir : Z Z Z
dune part les probabilites P(Bi ), Y ()dP() =
0
( Y ()dP[X= ] ())dPX ( 0 ) ,
dautre part, pour tout i tel que P(B i ) 6= 0, la probabilite conditionnelle sachant B i , 0
P Bi .
autrement ecrit de maniere condensee :
Alors, si on note J ( I) lensemble des j tels que P(B j ) 6= 0, on obtient P par la formule
des probabilites conditionnelles E(Y ) = EPX (EX (Y )) ;
X
A F P(A) = PBj (A)P(Bj ) . EX (Y ) est appele esperance conditionnelle de Y relativement a X. On emploie aussi la
jJ
notation E(Y |X = 0 ) pour ce qui, dans la logique de la notation que nous venons dintroduire,
0
secrit E[X= ] (Y ).
Remarquons que la donnee de la famille (P(B i ))iI peut sinterpreter comme la donnee
Insistons sur le fait quil sagit dune definition descriptive et non constructive : en general,
de la loi, PX , dune variable aleatoire X, a valeurs dans un espace ( 0 , F 0 ) et pour laquelle 0
P[X= ] ne peut pas etre obtenu de maniere elementaire car P(X = 0 ) peut fort bien valoir 0
lensemble des valeurs prises est indexe par I ; notons les x i , ou i I, de telle sorte que,
pour tout 0 (cest par exemple le cas si X est a valeurs reelles et de fonction de repartition
pour tout i, Bi = {X = xi } (notation introduite en VII.1.1) ; toute application de 0 dans
continue). Comme toute definition descriptive, celle-ci pose des problemes dexistence ; en
lensemble des probabilites sur (, F) qui, a tout x i , ou i J, associe P[X=xi ] est appelee
probabilite conditionnelle relativement a X ; notons la P X et remarquons que le fait fait, dans tous les cas qui nous seront necessaires, nous disposerons dun outil constructif en
0
que, pour tout 0 non egal a lun des xi (ou i J), P[X= ] soit arbitraire (et en particulier termes de densites (voir VII.1.4 ci-dessous) .
ne puisse pas sinterpreter comme une probabilite conditionnelle usuelle)Pnest pas genant car Un cas particulier utile est celui de la loi dun couple de v.a. (X 1 , X2 ), a valeurs dans un
P
lensemble de ces 0 est de probabilite nulle (en effet jJ P(X = xj ) = jJ PX ({xj }) = 1). espace produit 1 2 , que lon veut conditionner par X1 ; la loi conditionnelle de (X1 , X2 )
Dans ce contexte, la formule des probabilites conditionnelles secrit : est alors caracterisee par celle de X 2 , soit PXX21 , qui verifie
Z Z
[X =x ]
A F P(A) =
0
P[X= ] (A) dPX ( 0 ) , PX2 (A2 ) = PX2 1 1 (A2 )dPX1 (x1 )
1
0
autrement dit : et bien sur, sur lespace produit, P [X1 =x1 ] est portee par le fil {x1 } 2 .

A F P(A) = EPX (P X (A)) . Esperance conditionnelle


0
Rappelons par ailleurs que, pour presque tout 0,
la probabilite P[X= ]
est portee par Nous donnons ici une autre interpretation pour lesperance conditionnelle dune v.a.r., Z,
levenement {X = 0 }. de carre integrable par rapport a une v.a. X, notee E[Z|X]. La v.a.r. E[Z|X] sinterprete
0
On emploie aussi la notation P(A|X = 0 ) la ou nous avons note P[X= ] (A). comme la projection orthogonale, avec le produit scalaire defini sur lespace des v.a.r. de
VII.1. DEFINITIONS ET RAPPELS GENERAUX 153 154 CHAPITRE VII. RAPPELS ET COMPLEMENTS DE PROBABILITES

carre integrable par (Y, Z) = E[Y Z], sur lensemble, H X , des fonctions reelles mesurables de lindependance. Il en resulte que Var(X 1 + X2 ) = Var(X1 ) + Var(X2 ) (et cette egalite non
X de carre integrables. En particulier, la v.a.r. E[Z|X] est une fonction reelle mesurable de plus ne caracterise pas lindependance).
X, et pour tout (X) HX , on a pour toute fonction reelle , telle que (X) est de carre Si X1 est absolument continue par rapport a une mesure 1 sur (1 , F1 ), relativement a
integrable, laquelle elle admet une densite f1 et X2 est a.c. par rapport a une mesure 2 sur (2 , F2 ),
E[Z(X)] = (Z, (X)) = (E[Z|X], (X)) = E[E[Z|X](X)], relativement a laquelle elle admet une densite f 2 et si de plus X1 et X2 sont independantes,
alors le couple (X1 , X2 ) de v.a. independantes est aussi absolument continu par rapport
En particulier, comme 1 HX et E[Z|X] HX , on a
a la mesure produit 1 2 , relativement a laquelle il admet pour densite lapplication :
E[E[Z|X]] = E[Z] et E[ZE[Z|X]] = E[E[Z|X] 2 ]. (1 , 2 ) 7 f1 (1 )f2 (2 ).
Reciproquement, si la densite f de (X 1 , X2 ) par rapport a la mesure produit 1 2 secrit
Remarquons enfin que E[(X)|X] = (X), que lon peut comprendre en remarquant que si sous la forme f (1 , 2 ) = g1 (1 )g2 (2 ), les v.a. X1 et X2 sont independantes et leurs densites,
X est connu, alors (X) est aussi connu. par rapport respectivement a 1 et 2 , sont proportionnelles a g1 (1 ) et a g2 (2 ). Cette
propriete setend aux mesures -finies : si une mesure sur 1 2 admet par rapport a 1 2
Independance de 2 evenements une densite f de la forme f (1 , 2 ) = g1 (1 )g2 (2 ), elle est elle-meme une mesure produit,
soit 1 2 , et les densites de 1 (resp. 2 ) par rapport a 1 (resp. 2 ) sont proportionnelles
Deux evenements A et B sont dits independants (relativement a une probabilite P) si respectivement a g1 et g2 .
P(A B) = P(A)P(B). Sil sagit de v.a. reelles, une condition necessaire et suffisante dindependance sexprime
Si P(B) 6= 0, cette definition equivaut a P B (A) = P(A), ce qui justifie la terminologie a laide des fonctions de repartition (voir VII.1.2) : F (X1 ,X2 ) (x1 , x2 ) = FX1 (x1 )FX2 (x2 ).
independants ; en effet alors une information sur la realisation de B na aucune influence
sur la valeur de la probabilite affectee a A.
Independance de n evenements
Les evenements de probabilite 0 (dits presque impossibles) ou de probabilite 1 (dits
presque certains) sont independants de tout autre evenement. n (ou n 2) evenements A1 , . . . , An sont dits independants (on precise parfois inde-
pendants dans leurTensemble) Q si, pour toute sous-famille (A i )iI , ou I {1, . . . , n} et
Independance de 2 variables aleatoires card(I) 2, on a : P( iI Ai ) = iI P(Ai ) .
Alors, si J et K sont deux parties disjointes de {1, . . . , n}, tout evenement exprime a
Deux v.a., definies sur un meme espace (, F), sont dites independantes (relativement
partir de (Aj )jJ est independant de tout evenement exprime a partir de (A k )kK .
a une probabilite P sur cet espace ) si tout evenement exprime en termes de realisation de
X1 est independant de tout evenement exprime en termes de realisation de X 2 ; autrement
dit, X1 etant a valeurs dans (1 , F1 ) et X2 etant a valeurs dans (2 , F2 ), on a, pour tout Independance de n variables aleatoires
couple (B1 , B2 ), ou B1 F1 et B2 F2 , legalite Soit n 2. n variables aleatoires X i (ou 1 i n), definies sur un meme espace (, F),
sont dites independantes (relativement a une probabilite P sur cet espace ) si toute suite
P({X1 B1 } {X2 B2 }) = P(X1 B1 )P(X2 B2 ) .
devenements ({Xi Bi })1in est composee devenements independants,
T autrement
Q dit si,
Cette propriete peut se traduire aussi, a laide des lois de X 1 , X2 et de celle du couple pour toute famille (Bi )1in ou, pour tout i, Bi Fi , on a : P( ni=1 {Xi Bi }) = ni=1 P(Xi
(X1 , X2 ) (qui est definie sur lespace produit ( 1 2 , F1 F2 ) (voir VII.1.1), par legalite : Bi ) .
P(X1 ,X2 ) (B1 B2 ) = PX1 (B1 )PX2 (B2 ). On dit que la loi du couple (X1 , X2 ) est le produit des En dautres termes, si on note Pi la loi de Xi , lindependance des n variables aleatoires
lois de X1 et X2 . Cette notion de produit de probabilites setend immediatement au produit equivaut au fait que la loi PX de la variable
Q aleatoire
Q X = (Xi )1in , a valeurs dans
Q lespace
des mesures -finies : si 1 (resp. 2 ) est une mesure -finie sur 1 (resp. 2 ) il existe sur produit
Qn (voir VII.1.1) (I , FI ) = ( ni=1 i , ni=1 Fi ), verifie les egalites : PX ( ni=1 Bi ) =
1 2 une unique mesure notee 1 2 verifiant (1 2 )(B1 B2 ) = 1 (B1 )2 (B2 ) (ici Qi=1 Pi (Bi ) N
. On dit que PX est le produit des probabilites Pi et on la note donc aussi
n n
encore, si on adopte pour les tribus la notation tensorielle, on note 1 2 la ou nous avons i=1 Pi (ou i=1 Pi ). Dans le cas ou les n v.a. independantes sont a valeurs dans un meme
note 1 2 ). espace (, F) et de meme loi Q, on parlera de probabilite puissance Q n (ou Qn ) sur
Si X1 et X2 sont independantes, il en est de meme de tout couple de v.a. (X 1 ) et (X2 ). lespace puissance (n , F n ).
Si X1 et X2 sont independantes et integrables, on a E(X 1 X2 ) = E(X1 )E(X2 ) (mais cette Si, pour tout i, Xi admet la densite fi par rapport a une mesure -finie i sur i ,
egalite ne caracterise pas lindependance). lindependance des n variables aleatoires equivaut auQ fait que la loi P X de la v.a. (Xi )1in
Si X1 et X2 sont independantes et de carres integrables, on a (voir VII.1.3) Cov(X 1 , X2 ) = admet pour densite par rapport a la mesure produit ni=1 i , lapplication
0, autrement dit, si de plus Var(X1 ) > 0 et Var(X2 ) > 0, Corr(X1 , X2 ) = 0 ; ceci complete n
Y
linterpretation deja donnee de la correlation comme indicateur de dependance entre les 2 (1 , . . . , 1 ) 7 fi (i ) .
v.a. (on dit aussi quelles sont non correlees) : mais cette propriete ne caracterise pas i=1
VII.1. DEFINITIONS ET RAPPELS GENERAUX 155 156 CHAPITRE VII. RAPPELS ET COMPLEMENTS DE PROBABILITES

Si X1 , , Xn sont independantes et J et K sont deux parties disjointes de {1, . . . , n}, il VII.2 Lois de variables aleatoires remarquables
y a independance pour tout couple (((X j )jJ ), ((Xk )kK )) .
Les autres proprietes des familles de n v.a. (ou v.a.r.) independantes reproduisent celles VII.2.1 Variables aleatoires discretes
des couples ; nous ne les detaillons pas ici . Lexpression variable aleatoire discrete a ete introduite en VII.1.2 pour les v.a. reelles. On
lemploie pour toute v.a. X prenant ses valeurs dans un ensemble fini ou infini denombrable,
Calcul de la densite de la loi dune v.a. : cas dun espace produit soit 0 . Sa loi PX est donc entierement determinee par ses valeurs pour les evenements
elementaires, PX ({x}) (= P(X = x)), ou x 0 . Labus de notation consistant a noter
On sait (voir VII.1.1) que la densite de la loi dune variable aleatoire est souvent delicate PX (x) au lieu de PX ({x}) est frequent.
a calculer : un cas ou on dispose dune methode simple est celui dun couple (X 1 , X2 ) de v.a., Nous pouvons (voir VII.1.1) considerer lapplication x 7 P X (x) comme une densite de X ;
a valeurs dans un espace produit (1 1 , F1 F2 ). il ne sagit pas ici de la densite usuelle (cest-a-dire relativement a la mesure de Lebesgue,
Soit sur cet espace une mesure produit = 1 2 (cest-a-dire, comme pour les proba- que nous utiliserons pour les lois etudiees en VII.2.2 ci-dessous) mais de la densite relativement
bilites produits, que, pour tout pave mesurable A 1 A2 , on a (A1 A2 ) = 1 (A1 )2 (A2 )). a la mesure de comptage sur .
On suppose la loi P(X1 ,X2 ) de (X1 , X2 ) absolument continue par rapport a , et de densite f .
Alors il resulte du theoreme de Fubini que R la loi de X 1 admet pour densite par rapport a 1 Loi de Dirac
lapplication f1 definie par : f1 (x1 ) = 2 f (x1 , x2 )d2 (x2 ) (on est bien dans le cas general
annonce, en prenant pour X1 la projection de 1 1 sur 1 ). La loi dune variable aleatoire presque-surement constante a (autrement dit une proba-
Cette situation intervient en particulier dans des situations ou 1 = Rk1 , 2 = Rk2 et 1 et bilite concentree sur un evenement elementaire {a}) est appelee loi de Dirac en ce point et
2 sont les mesures de Lebesgue ; alors, si on note x 1 = (t1 , . . . , tk1 ) et x2 = (tk1 +1 , . . . , tk1 +k2 ), notee D(a), ou (a) : (D(a))({a}) = 1.
la densite de la loi de X1 secrit : Si a R et X D(a), on a E(X) = a et Var(X) = 0 (les v.a. reelles p.s. constantes sont
Z les seules de variance nulle)
f1 (t1 , . . . , tk1 ) = f (t1 , . . . , tk1 , tk1 +1 , . . . , tk1 +k2 )dtk1 +1 . . . dtk1 +k2 .
k2
Loi de Bernoulli

Calcul de la densite dune loi conditionnelle Nous la noterons B(p), ou p [0, 1] ; cest la loi de probabilite sur {0, 1} qui affecte la
valeur p a {1} et donc la valeur 1 p a {0} : (B(p))({1}) = p et (B(p))({0}) = 1 p.
Les deux cas de calcul de densite degages en VII.1.1 et p. 155 nous donnent des possibilites Si X B(p), on a E(X) = p et Var(X) = p(1 p).
de calcul de densite de probabilite conditionnelle relativement a la v.a. X ; on rappelle que, Dans le cas particulier ou p = 0 (resp. p = 1), il sagit de la loi de Dirac en 0 (resp. 1)
pour tout 0 appartenant a lespace darrivee de X et tout evenement A dans lespace de D(0) (resp. D(1)).
0
depart de X, on note P[X= ] (A) (ou P(A|X = 0 )) la probabilite de A sachant que X
prend la valeur 0 (voir p. 152 pour une definition rigoureuxe de cette notion). Loi Binomiale
a. Si la densite f se factorise a travers X, cest-a-dire que f () = g(X()), alors,
pour presque tout 0 , lapplication qui a tout {X = 0 } associe le quotient f ()/g( 0 ) Nous la noterons B(n, p), ou n est un entier strictement positif et p [0, 1] ; cest la
0
est une densite de P[X= ] par rapport a une mesure concentree sur {X = 0 } (dont nous ne loi de la somme de n v.a. independantes suivant toutes la loi de Bernoulli B(p). En dautres
detaillerons pas ici la construction). termes, cest la loi du nombre de succes dans une succession de n experiences independantes
b. Soit un couple (X1 , X2 ) de v.a. , a valeurs dans un espace produit ( 1 1 , F1 F2 ). resultant toutes en un succes, avec probabilite p, ou un echec.
La loi P(X1 ,X2 ) de (X1 , X2 ) admet f pour densite par rapport a 1 2 . Alors la loi de X2 Dans la terminologie du controle de qualite cest la loi du nombre de bonnes pieces
[X =x1 ] quand on observe successivement n pieces dune production supposee constante dans ses
conditionnelle relativement a X1 , PXX21 , est telle que, pour presque tout x1 , PX2 1 admet
[X =x ] [X =x ]
performances (la probabilite de production dune bonne piece est toujours p et celle dune
pour densite par rapport a 2 lapplication f2 1 1definie par : = ff(x1 (x
f2 1 1 (x2 )1 ,x2 )
1)
. piece defectueuse 1 p) et de telle sorte que la qualite de toute nouvelle piece observee
N.B. Le presque tout x1 qui figure dans cette propriete est destine a couvrir les cas ou ne soit pas affectee par celles des pieces observees anterieurement ; on parle aussi dans ce
il existe des valeurs x1 telles que f1 (x1 ) = 0 ; on na pas a en tenir compte sil ny pas de cas de tirage avec remise car ceci est equivalent a la situation ou on tire successivement n
telles valeurs x1 . pieces dun lot comportant une proportion p de bonnes pieces, en remettant a chaque fois
On remarque que dans le cas ou X1 et X2 sont independantes, et ou donc (voir la piece observee dans le lot et en brassant celui-ci de maniere a se retrouver pour chaque
[X =x ]
VII.1.4) on peut prendre f (x1 , x2 ) = f1 (x1 ).f2 (x2 ), on obtient que f2 1 1 (x2 ) = f2 (x2 ), ce tirage dans la situation initiale (ceci est transposable evidemment en termes, historiquement
qui est tres satisfaisant, car cela exprime que le conditionnement de X 2 par X1 na pas deffet classiques, durnes contenant 2 types de boules).
sur la densite de X2 . On remarque que B(1, p) = B(p).
VII.2. LOIS DE VARIABLES ALEATOIRES REMARQUABLES 157 158 CHAPITRE VII. RAPPELS ET COMPLEMENTS DE PROBABILITES

k C nk
Cm
B(n, p) a pour support lensemble dentiers {0, . . . , n}, et, pour tout k dans cet ensemble, N m
(autrement note P(X = k) = )On a aussi E(X) = np (comme pour B(n, p) ) et
si X B(n, p), on a  
k
CN
n k N n
P(X = k) = p (1 p)nk , Var(X) = np(1 p) (plus petit que pour B(n, p)).
k N 1
  Si N , on a pour tout k N, P(X = k) P(S = k), ou S B(n, p). Concretement,
n n!
ou = (coefficient binomial, aussi note C nk ). On a E(X) = np et Var(X) = pour le statisticien, ceci exprime quun tirage avec remise approxime dautant mieux un tirage
k k!(n k)!
sans remise que leffectif de la population est plus grand devant la taille n de lechantillon
np(1 p).
tire.
Si p = 0 (resp. p = 1), il sagit de la loi de Dirac en 0 (resp. n), D(0) (resp. D(1)).
La somme de deux variables aleatoires independantes binomiales, de lois respectives
B(n1 , p) et B(n2 , p) (meme valeur de p), suit la loi B(n 1 + n2 , p). Loi de Poisson
Nous la noterons P(), ou R+ (autrement dit est strictement positif).
Loi Multinomiale Son support est lensemble des entiers naturels N et si X P(), on a pour k N,
Nous la noterons M(n, p) , ou n est un entier strictement positif et p = (p 1 , . . . , pm ) est k
une probabilite sur un ensemble a m elements, autrement dit est une suite de m nombres P(X = k) = e ,
k!
positifs ou nuls de somme egale a 1.
Si on effectue n experiences independantes, a valeurs dans un ensemble a m elements, note ainsi que E(X) = et Var(X) = .
par exemple {a1 , . . . , am }, de telle sorte qua chaque experience la probabilite dobtention de P suivant des lois de Poisson de parametres 1 . . . , n
La somme de n v.a. independantes
aj (ou 1 j m) soit pj , M(n, p) est la loi de la suite des effectifs de resultats egaux suit la loi de Poisson de parametre ni=1 i .
respectivement a a1 , . . . , am .
M(n, p) a pour support lensemble des suites de longueur m dentiers positifs ou nuls VII.2.2 Variables aleatoires absolument continues
de somme egale a n. Pour toute telle suite x = (x 1 , . . . , xm ), on a si X = (X1 , . . . , Xm )
Dans toute cette partie, labsolue continuite (a.c.) sentend par rapport a la mesure de
M(n, p1 , . . . , pm ),
m Lebesgue sur R ou Rn (voir VII.1.2). Donc ici, si n = 1 (ce qui sera le cas sauf pour la loi
n! Y x
P(X = (x1 , . . . , xm )) = Qm pj j , de Gauss multi-dimensionnelle), si on considere une v.a. reelle X, elle admet une densite
x
j=1 j ! (definie a une egalite presque sure pres), cest-a-dire une fonction f de R dans R + liee a sa
j=1 Rx
ou n!
est appele coefficient multinomial. Pour tout j tel que 1 j m, X j B(n, pj ). fonction repartition F par les relations F (x) = P(X x) = f (t)dt et, pour presque tout
m
xj !
j=1 x, f (x) = F 0 (x) ; il en resulte que, pour tout couple (a, b) verifiant a b, on a :
Z b
Loi Hypergeometrique
P(a X b) = F (b) F (a) = f (t)dt
Nous la noterons H(N, n, p), ou N est un entier strictement positif, n est un entier stric- a
tement positif inferieur a N et p [0, 1], de sorte que m = pN soit un entier strictment (les inegalites larges pouvant etre remplacees par des inegalites strictes) et en particulier,
positif. pour tout x, P(X = x) = 0.
Dans la terminologie du controle de qualite (transposable evidemment en termes durnes
contenant 2 types de boules) cest la loi du nombre de bonnes pieces quand on tire avec Loi normale (ou de Gauss) unidimensionnelle
equiprobabilite un sous-ensemble de n pieces dans un lot de N pieces dans lequel la proportion
de bonnes pieces est p et celle de pieces defectueuses est 1 p ; on parle aussi dans ce Nous la noterons N (, 2 ), ou R et R+ ; on distingue 2 cas dans sa definition :
cas de tirage sans remise car ceci est equivalent a la situation ou on tire successivement si = 0, cest la loi de Dirac en , D() (et il ny a donc pas absolue continuite),
n pieces distinctes, de telle sorte que a chaque tirage toutes les pieces subsistantes aient la si 6= 0, elle admet pour densite lapplication definie sur R par :
meme probabilite detre tirees.
1 (x )2
Si on note m = pN , cette probabilite est concentree sur lensemble des entiers k verifiant x 7 exp( ).
sup(0, n + m N ) k inf(m, n) et , pour tout tel k, on a si X H(N, n, p), 2 2 2
  
m N m Une caracterisation unifiee (que soit nul ou non) peut-etre donnee par lutilisation de
k nk la fonction caracteristique, application de R dans C definie sur R par
P(X = k) =  
N 2 t2
n t 7 E[eitX ] = exp(it ),
2
VII.2. LOIS DE VARIABLES ALEATOIRES REMARQUABLES 159 160 CHAPITRE VII. RAPPELS ET COMPLEMENTS DE PROBABILITES

ou X N (, 2 ). On a aussi E(X) = et Var(X) = 2 . Si un vecteur aleatoire X suit la loi N (, ), on a E(X) = et Var(X) = (on rappelle
Un role central (voir ci-dessous VII.3.2) est joue par la loi normale centree reduite (voir VII.1.3) que Var(X) designe la matrice de variances et covariances du vecteur aleatoire
N (0, 1), que nous pourrons noter aussi plus simplement N . Il est clair que la loi N (, 2 ) X).
est caracterisee par le fait quelle est limage de N par lapplication de R dans R, affine Ces notations usuelles presentent une petite incoherence avec le cas unidimensionnel :
croissante : x 7 + x. Dans de nombreux ouvrages, la fonction de repartition de N est cest la matrice notee ci-dessus A qui generalise au cas n-dimensionnel lecart-type note par
2
notee et sa densite est notee : (x) = 12 exp( x2 ) ; le graphe de est appele courbe en la minuscule et cest la majuscule qui correspond a 2 .
cloche de Gauss. Une caracterisation unifiee (que soit ou non inversible ) peut-etre donnee par lutilisation
La somme de n v.a. independantes suivant lois normales de parametres ( 1 , 12 ) . . . de la fonction caracteristique definie sur R n :
P desP
(n , n2 ) suit la loi normale de parametre ( ni=1 i , ni=1 i2 ).  
t 1
u 7 E[ei u X ] = exp i ut ut u .
Loi normale (ou de Gauss) multidimensionnelle 2

Soit n un entier strictement positif ; on va considerer ici des probabilites sur R n , notees Limage de N (, ) par une application affine, x 7 C + Dx, est N (C + D , DD T ).
N (, ), ou Rn et est une matrice n n symetrique positive, mais non necessairement  X unvecteur aleatoire n-dimensionnel, de loi N (, ) ; decomposons le sous la forme
Soit
definie positive ; on rappelle (voir VII.1.3) que cela signifie que, pour tout u R n , ut u 0, X1
X = , ou X1 est n1 -dimensionnel et X2 est n2 -dimensionnel (avec n1 + n2 = n).
mais que u 6= 0 nimplique pas necessairement que u t u > 0 (la notation t designe la X2
   
transposition des matrices). Une v.a. X a valeurs dans R n et suivant une loi de Gauss sera 1 11 12
Soient M = et = (avec 21 = t12 ) les decompositions correspon-
appelee vecteur gaussien. 2 21 22
Cas particulier dantes de M et de . Alors X1 suit la loi N (1 , 11 ) et, si 11 est inversible, la loi de X2
Soit = 0n (vecteur nul de Rn ) et = In (matrice identite). Alors N (0n , In ) = conditionnellement a X1 (voir VII.1.4 pour la notion et pour le calcul) est :
(N (0, 1))n , cest-a-dire (voir VII.1.4) la puissance n-ieme de la loi normale unidimensionnelle
x1 7 N (2 + 21 1 1
11 (x1 1 ) , 22 21 .11 .12 ) .
centree reduite ; autrement dit N (0 n , In ) est la la loi dun n-uple de v.a. reelles independantes
et de meme loi normale desperance 0 et variance 1.
N (0n , In ) est donc absolument continue et admet pour densite par rapport a la mesure Loi du 2 (ou chi-deux ou khi-deux)
de Lebesgue n-dimensionnelle lapplication Nous noterons 2 (n) , et appellerons loi du 2 a n degres de liberte la loi de la somme
n des carres de n v.a. reelles independantes toutes de loi normale centree reduite.
Y 1 x2 Elle est concentree sur R+ , absolument continue par rapport a la mesure de Lebesgue, et
(x1 . . . , xn ) 7 exp( i ),
2 2 de densite :
i=1
1 x n
autrement ecrite x 7 n/2 e 2 x 2 1 1 + (x),
2 (n/2)
1 1 R +
x 7 exp( (xt .x)) . ou est la fonction eulerienne Gamma : (a) = 0 et ta1 dt.
(2)n/2 2 2
Si X (n), on a E(X) = n et Var(X) = 2n.
Cas general Il resulte de la definition que, si X 1 et X2 sont independantes, X1 2 (n1 ) et X2
etant symetrique positive, il existe A, matrice nn telle que AA t = . Alors N (, ) est 2 (n2 ), alors X1 + X2 2 (n1 + n2 ).
la loi de probabilite image de N (0n , In ) par lapplication affine de Rn dans Rn : x 7 + Ax.
On remarque que N (, ) est concentree sur limage de lapplication x 7 + Ax, cest- Loi du 2 decentre
a-dire le sous-espace affine passant par et parallele au sous-espace vectoriel Im(A). Ce La loi de la somme des carres de n v.a. reelles independantes X 1 , . . . , Xn , la
sous-espace est de dimension egale au rang de A, qui est aussi le rang de . N (, ) nest loi de Xi etant N (i , 1) (elles sont donc toutes reduites, mais pas de meme
donc absolument continue par rapport a la mesure de Lebesgue n-dimensionnelle n que si P esperance)
ne depend des parametres i quau travers du parametre dexcentricite = ni=1 2i . Nous
est de rang n, autrement dit inversible (autrement dit encore ici definie positive). Elle admet noterons cette loi 2 (n, ), et lappellerons loi du 2 decentre a n degres de liberte, et
alors pour densite lapplication, de R n dans R+ : de parametre dexcentricite .
1 1 On retrouve 2 (n) = 2 (n, 0).
x 7 p exp( (x )t 1 (x )) , La loi 2 (n, ) est concentree sur R+ , absolument continue par rapport a la mesure de
(2)n/2 det() 2
Lebesgue, mais nous ne donnerons pas lexpression de sa densite qui est trop compliquee pour
ou det() designe le determinant de la matrice (non nul car celle-ci est ici inversible). etre utilisable.
VII.2. LOIS DE VARIABLES ALEATOIRES REMARQUABLES 161 162 CHAPITRE VII. RAPPELS ET COMPLEMENTS DE PROBABILITES

Si X 2 (n, ), on a E(X) = n + et Var(X) = 2(n + 2). Loi uniforme


A n fixe, les lois 2 (n, ) forment une famille stochastiquement croissante en : on rappelle Etant donne un intervalle de longueur non nulle [a, b], on appelle loi uniforme sur [a, b],
(voir VII.1.2) que cela signifie que, pour tout x 0, lapplication 7 ( 2 (n, ))([x, +[) est et on note U([a, b]) la probabilite concentree sur [a, b] et de densite :
croissante : plus est grand, plus une v.a. qui suit la loi 2 (n, ) a tendance a prendre de
fortes valeurs. 1
x 7 1 (x).
Il resulte de la definition que, si X 1 et X2 sont independantes, X1 2 (n1 , 1 ) et X2 b a [a,b]
2 (n2 , 2 ), alors X1 + X2 2 (n1 + n2 , 1 + 2 ). On note en bref U pour U([0, 1]).
La fonction de repartition de U([a, b]) sexplicite elementairement : si a x b, elle vaut
xa
Loi de Student FU ([a,b]) (x) = .
ba
a+b (b a)2
On appelle loi de Student a n degres de liberte et on note T (n) la loi du quotient Si X U([a, b]), on a E(X) =
2
et Var(X) =
12
.
nX
, ou X et Y sont deux variables aleatoires independantes, suivant respec-
Y Loi exponentielle
tivement les lois N (0, 1) et 2 (n) (dans cette notation, le T est traditionnel, et non pas
linitiale S, pour des raisons historiques : Student lui-meme notait t, et nous pourrons aussi Etant donne > 0, on appelle loi exponentielle de parametre , et on note E() (ou
employer cette notation t dans ce cours). Exp()) la probabilite concentree sur R + et de densite :
Elle est absolument continue par rapport a la mesure de Lebesgue, et de densite :
x 7 ex 1 + (x).
1 x2 Si = 1, on note E pour E(1) (ou Exp pour Exp(1)) et on parle de loi exponentielle (tout
x 7 (1 + )(n+1)/2 ,
nB( 12 , n2 ) n court).
La fonction de repartition de E() sexplicite elementairement : si x 0, elle vaut
R1
ou B est la fonction eulerienne Beta : B(a, b) = 0 xa1 (1 x)b1 dx. FE() (x) = 1 ex .
n
Si X T (n), on a E(X) = 0 (a condition que n > 1) et Var(X) = n2 (a condition que
n > 2). Si X E(), on a E(X) = 1 et Var(X) = 12 .
Pour n = 1, on obtient la loi de Cauchy dont lesperance mathematique nest pas Une propriete remarquable de la loi exponentielle est quelle modelise les durees de vie
definie : si X suit une loi de Cauchy, on a E(X + ) = E(X ) = + (les notations X + et X sans vieillissement : si la loi de X est E(), il en est de meme, pour tout t > 0, de la loi de
ont ete definies en VII.1.3). X t conditionnellement a levenement (de probabilite non nulle) {X t}.

Loi Gamma
Loi de Fisher (ou de Fisher-Snedecor)
Etant donne a > 0 et > 0, on appelle loi Gamma de parametre (a, ), et on note
On appelle loi de Fisher a n et m degres de liberte et on note F(n, m) la loi du quo- G(a, ) (ou (a, )) la loi concentree sur R + et de densite :
mX
tient , ou X et Y sont deux variables aleatoires independantes, suivant respectivement a x a1
n Y x 7 e x 1 + (x) ,
les lois 2 (n) et 2 (m). (a)
Elle est concentree sur R+ , absolument continue par rapport a la mesure de Lebesgue, et R +
de densite : ou est la fonction eulerienne Gamma : (a) = 0 et ta1 dt.
On retrouve en particulier la loi exponentielle : G(1, ) = E().
1 xn/2 1
x 7 nn/2 mm/2 1 (x), Si = 1, on note G(a) pour G(a, 1) et on parle de loi Gamma de parametre (au singulier)
B(n/2, m/2) (m + nx)(n+m)/2 + a (ou en bref loi Gamma a).
a a
R1 Si X G(a, ), on E(X) = et Var(X) = 2 .
ou B est la fonction eulerienne Beta : B(a, b) = 0 xa1 (1 x)b1 dx.
m Si les v.a. X1 et X2 sont independantes et suivent respectivement les lois G(a 1 , ) et
Si X F(n, m), on a E(X) = (a condition que m > 2) ainsi que Var(X) = G(a2 , ), la v.a. X1 + X2 suit la loi G(a1 + a2 , ) ; en particulier, si a est un entier n, G(n, )
m2
2m2 (n + m 2) est la loi de la somme de n v.a. independantes toutes de loi exponentielle de parametre .
(a condition que m > 4). Il y a un lien entre les lois Gamma et du chi-deux : G( n2 , 12 ) = 2 (n).
n(m 4)(m 2)2
VII.3. THEOREMES LIMITES 163 164 CHAPITRE VII. RAPPELS ET COMPLEMENTS DE PROBABILITES

Loi Beta Rappelons quon dit quune suite (Xn )n de v.a. a valeurs dans Rd converge presque
surement (p.s.) vers la v.a. Y aussi a valeurs dans R d , si P(limn Xn = Y ) = 1.
Etant donne a > 0 et b > 0, on appelle loi Beta de seconde espece (mais, nen
Rappelons quon dit quune suite (Xn )n de v.a. a valeurs dans Rd converge en loi (ou
presentant pas ici dautre, nous dirons en bref loi Beta) de parametre (a, b), et on note
X converge faiblement) vers la v.a. Y , aussi a valeurs dans R d si, Pn designant le loi de Xn et
B (2) (a, b) (ou (a, b)) la loi du quotient X+Y , ou X et Y sont independantes et
Q celle de Y , on a, pour toute fonction, f , continue bornee de R d dans R, limn+ EPn (f ) =
suivent des lois Gamma, respectivement G(a) etG(b).
EQ (f ). En particulier la convergence p.s. implique la convergence en loi.
Elle est concentree sur [0, 1] et de densite :
La convergence en loi ne faisant intervenir que les lois des v.a., on dit aussi (un peu
1 improprement car il ne sagit pas dobjets de meme nature) que la suite (X n )n converge
x 7 xa1 (1 x)b1 1[0,1] ,
B(a, b) en loi vers Q, ou, plus correctement, que la suite des probabilites (P n )n converge
R1 etroitement vers Q.
ou B est la fonction eulerienne Beta : B(a, b) = 0 xa1 (1 x)b1 dx. Un resultat souvent utile est le suivant : si X n tend en loi vers Y et si est une application
Si a = b = 1, on retrouve la loi uniforme sur [0, 1] : B (2) (1, 1) = U. continue de Rn dans Rm , alors (Xn ) tend en loi vers (Y ) ; en dautres termes, si P n tend
a ab etroitement vers Q et si est une application continue de R n dans Rm , alors (Pn ) (image
Si X B (2) (a, b), on a E(X) = et Var(X) = .
a+b (a + b)2 (a + b + 1) de Pn par , autrement dit loi de relativement a P n ) tend etroitement vers (Q).
X
Pour memoire : X et Y etant prises comme dans la definition precedente, la loi de Y est Une caracterisation pratique de cette convergence, pour des v.a. reelles, est la suivante,
dite loi Beta de premiere espece de parametre (a, b). a laide de fonctions de repartition : P n tend etroitement vers Q si et seulement si, pour tout
point de continuite x de FQ , on a limn+ FPn (x) = FQ (x).
Loi de Weibull Le cas de Rd , avec d > 1, se ramene a celui de R, par le resultat suivant : P n tend
etroitement vers Q si et seulement si, pour toute application lineaire v de R d dans R, on a
Etant donne > 0 et > 0, on appelle loi de Weibull de parametre de forme et de
v(Pn ) qui tend etroitement vers v(Q).
parametre dechelle et on note W(, ) la probabilite concentree sur R + et de densite :
Une autre caracterisation pratique de cette convergence, utilise la fonction caracteristique :
x 7 x1 exp(x )1 + (x). Pn tend etroitement vers Q si et seulement si, pour u R d , on a la convergence de Pn (u) =
t t
E[eiu Xn ] vers P (u) = E[eiu Y ].
Si = 1, on retrouve la loi exponentielle de parametre ; si X W(, ), X suit la loi
exponentielle de parametre .
VII.3.2 Theoreme central limite
(1 + 1 ) (1 + 2 ) 2 (1 + 2 )
Si X W(, ), on a E(X) = 1 et Var(X) = 2 .
Theoreme central limite (ou de la limite centrale) unidimensionnel
Les lois de Weibull sont utilisees en fiabilite industrielle pour modeliser des lois de duree
de vie dappareils en raison de la propriete suivante : etant fixe t > 0, la probabilite que Soit (Xn )n une suite de v.a. reelles independantes et de meme loi, de second ordre,
lappareil vive encore au moins pendant la duree t sachant quil a deja atteint lage x est : cest-a-dire admettant une esperancemathematique et une variance finie 2 > 0 .
n
Xi
fonction croissante de x si < 1, Alors, quand n tend vers +, n ( i=1 n ) tend en loi vers la loi normale centree
fonction constante de x si = 1 (cas de la loi exponentielle), reduite N (0, 1).
fonction decroissante de x si > 1. n
Xi
En dautres termes, n( i=1 n ) tend en loi, quand n tend vers +, vers la loi
Elles sont donc utilisees pour modeliser des durees de vie dappareils en phase de jeunesse 2
normale centree N (0, ).
si < 1 (lelimination des defauts de jeunesse ameliore la probabilite de vivre au moins un Consequence elementaire (et historiquement premiere) : convergence des lois binomia-
certain temps), en phase de maturite si = 1 (pas de phenomene sensible damelioration ni Yn np
de vieillissement), en phase de vieillissement si > 1. les vers la loi normale . Si Yn suit une loi binomiale B(n, p), p tend en loi, quand
np(1 p)
n tend vers +, vers la loi normale centree reduite N .
VII.3 Theoremes limites
Theoreme central limite multidimensionnel
VII.3.1 Convergences
Soit (Xn )n une suite de v.a. a valeurs dans Rn , independantes et de meme loi, de second
Il existe plusieurs modes de convergence de variables aleatoires : presque-sure, en proba- ordre. Notons leur esperance mathematique
bilite, en loi, dans Lp (quadratique si p = 2). Le statisticien a besoin essentiellement de la Pn et leur matrice de variances et covariances.
Xi
convergence en loi, parfois de la convergence p.s., et nous ne traiterons pas ici des convergences Alors, quand n tend vers +, n( i=1 ) tend en loi vers la loi normale n-
n
dans Lp . dimensionnelle centree N (0, ) (voir VII.2.2).
VII.3. THEOREMES LIMITES 165 166 CHAPITRE VII. RAPPELS ET COMPLEMENTS DE PROBABILITES

VII.3.3 Convergences en loi remarquables


Convergence des lois de Student
La suite des lois de Student a n degres de liberte converge etroitement, quand n tend vers
linfini, vers la loi normale centree reduite.

Convergence des lois binomiales vers la loi de Poisson


Si Yn suit la loi de Bernouilli B(n, pn ) et limn npn = > 0 alors Yn tend en loi vers la
loi de Poisson P() (voir VII.2.1).
Ce theoreme fournit une meilleure approximation que le theoreme central limite pour les
lois binomiales a n grand et p petit.

Convergence des lois du chi-deux vers la loi normale



Si, pour tout n, Xn suit la loi 2 (n), la suite des lois des v.a.r. 2Xn 2n 1 converge
en loi, quand le nombre de degres de liberte n tend vers linfini, vers la loi normale centree
reduite.

Theoreme de Glivenko-Cantelli
n
1 PAn toute suite finie (x1 , . . . , xn ) R on associe la probabilite empirique x1 ,...,xn =
n i=1 D(x i ), ou D(x i ) est la mesure de Dirac en xi (voir VII.1.3 et VII.2.1). On note
Fx1 ,...,x1 la fonction de repartition empirique de la suite (x 1 , . . . , xn ), cest-a-dire la fonction
de repartition de la probabilite empirique :
1
t R Fx1 ,...,xn (t) = Card({i : xi t}).
n
Soit (Xn )n une suite infinie de v.a. i.i.d., de fonction de repartition commune F . Alors,
pour tout n N et tout t R, FX1 ,...,Xn (t) est une v.a. a valeurs dans [0, 1]. Le theoreme
de Glivenko-Cantelli enonce la convergence vers 0 (en loi, et meme presque surement) de la
suite des v.a. ;Sn = supt |FX1 ,...,Xn (t) F (t)|.
168 CHAPITRE VIII. TABLES STATISTIQUES

VIII.2 Fonction de repartition de la loi N (0, 1)


Soit X une v.a. de loi N (0, 1), on pose

Z x
2 /2 dy
Chapitre VIII
ey = P(X x) = .
2

PSfrag replacements

Tables statistiques La table donne les valeurs de en fonction de


x. Par exemple P(X 1.96) ' 0.97500.
0 x

Les tables qui suivent ont ete generees a laide du logiciel Scilab. 0.00 0.01 0.02 0.03 0.04 0.05 0.06 0.07 0.08 0.09

VIII.1 Quantiles de la loi N (0, 1) 0.0 0.50000 0.50399 0.50798 0.51197 0.51595 0.51994 0.52392 0.52790 0.53188 0.53586
0.1 0.53983 0.54380 0.54776 0.55172 0.55567 0.55962 0.56356 0.56749 0.57142 0.57535
0.2 0.57926 0.58317 0.58706 0.59095 0.59483 0.59871 0.60257 0.60642 0.61026 0.61409
Soit X une v.a. de loi N (0, 1), on pose 0.3 0.61791 0.62172 0.62552 0.62930 0.63307 0.63683 0.64058 0.64431 0.64803 0.65173
0.4 0.65542 0.65910 0.66276 0.66640 0.67003 0.67364 0.67724 0.68082 0.68439 0.68793
0.5 0.69146 0.69497 0.69847 0.70194 0.70540 0.70884 0.71226 0.71566 0.71904 0.72240
Z 0.6 0.72575 0.72907 0.73237 0.73565 0.73891 0.74215 0.74537 0.74857 0.75175 0.75490

2 /2 dy 0.7 0.75804 0.76115 0.76424 0.76730 0.77035 0.77337 0.77637 0.77935 0.78230 0.78524
2 ey = P(|X| x) = . 0.8 0.78814 0.79103 0.79389 0.79673 0.79955 0.80234 0.80511 0.80785 0.81057 0.81327
x 2 0.9 0.81594 0.81859 0.82121 0.82381 0.82639 0.82894 0.83147 0.83398 0.83646 0.83891
/2 /2

PSfrag replacements
1.0 0.84134 0.84375 0.84614 0.84849 0.85083 0.85314 0.85543 0.85769 0.85993 0.86214
x 0 +x
La table donne les valeurs de x en fonction de 1.1 0.86433 0.86650 0.86864 0.87076 0.87286 0.87493 0.87698 0.87900 0.88100 0.88298
. Par exemple P(|X| 0.6280) ' 0.53. 1.2 0.88493 0.88686 0.88877 0.89065 0.89251 0.89435 0.89617 0.89796 0.89973 0.90147
1.3 0.90320 0.90490 0.90658 0.90824 0.90988 0.91149 0.91309 0.91466 0.91621 0.91774
1.4 0.91924 0.92073 0.92220 0.92364 0.92507 0.92647 0.92785 0.92922 0.93056 0.93189
1.5 0.93319 0.93448 0.93574 0.93699 0.93822 0.93943 0.94062 0.94179 0.94295 0.94408
x 0.00 0.01 0.02 0.03 0.04 0.05 0.06 0.07 0.08 0.09
1.6 0.94520 0.94630 0.94738 0.94845 0.94950 0.95053 0.95154 0.95254 0.95352 0.95449
1.7 0.95543 0.95637 0.95728 0.95818 0.95907 0.95994 0.96080 0.96164 0.96246 0.96327
1.8 0.96407 0.96485 0.96562 0.96638 0.96712 0.96784 0.96856 0.96926 0.96995 0.97062
0.0 2.5758 2.3263 2.1701 2.0537 1.9600 1.8808 1.8119 1.7507 1.6954
1.9 0.97128 0.97193 0.97257 0.97320 0.97381 0.97441 0.97500 0.97558 0.97615 0.97670
0.1 1.6449 1.5982 1.5548 1.5141 1.4758 1.4395 1.4051 1.3722 1.3408 1.3106
0.2 1.2816 1.2536 1.2265 1.2004 1.1750 1.1503 1.1264 1.1031 1.0803 1.0581
2.0 0.97725 0.97778 0.97831 0.97882 0.97932 0.97982 0.98030 0.98077 0.98124 0.98169
0.3 1.0364 1.0152 0.9945 0.9741 0.9542 0.9346 0.9154 0.8965 0.8779 0.8596
2.1 0.98214 0.98257 0.98300 0.98341 0.98382 0.98422 0.98461 0.98500 0.98537 0.98574
0.4 0.8416 0.8239 0.8064 0.7892 0.7722 0.7554 0.7388 0.7225 0.7063 0.6903
2.2 0.98610 0.98645 0.98679 0.98713 0.98745 0.98778 0.98809 0.98840 0.98870 0.98899
0.5 0.6745 0.6588 0.6433 0.6280 0.6128 0.5978 0.5828 0.5681 0.5534 0.5388
2.3 0.98928 0.98956 0.98983 0.99010 0.99036 0.99061 0.99086 0.99111 0.99134 0.99158
0.6 0.5244 0.5101 0.4959 0.4817 0.4677 0.4538 0.4399 0.4261 0.4125 0.3989
2.4 0.99180 0.99202 0.99224 0.99245 0.99266 0.99286 0.99305 0.99324 0.99343 0.99361
0.7 0.3853 0.3719 0.3585 0.3451 0.3319 0.3186 0.3055 0.2924 0.2793 0.2663
2.5 0.99379 0.99396 0.99413 0.99430 0.99446 0.99461 0.99477 0.99492 0.99506 0.99520
0.8 0.2533 0.2404 0.2275 0.2147 0.2019 0.1891 0.1764 0.1637 0.1510 0.1383
2.6 0.99534 0.99547 0.99560 0.99573 0.99585 0.99598 0.99609 0.99621 0.99632 0.99643
0.9 0.1257 0.1130 0.1004 0.0878 0.0753 0.0627 0.0502 0.0376 0.0251 0.0125
2.7 0.99653 0.99664 0.99674 0.99683 0.99693 0.99702 0.99711 0.99720 0.99728 0.99736
2.8 0.99744 0.99752 0.99760 0.99767 0.99774 0.99781 0.99788 0.99795 0.99801 0.99807
2.9 0.99813 0.99819 0.99825 0.99831 0.99836 0.99841 0.99846 0.99851 0.99856 0.99861

La table suivante donne les valeurs de 1 pour les grandes valeurs de x.

x 2 3 4 5 6 7 8 9 10
1 2.28e-02 1.35e-03 3.17e-05 2.87e-07 9.87e-10 1.28e-12 6.22e-16 1.13e-19 7.62e-24

167
VIII.3. QUANTILES DE LA LOI DU 2 169 170 CHAPITRE VIII. TABLES STATISTIQUES

VIII.3 Quantiles de la loi du 2 VIII.4 Quantiles de la loi de Student

Soit Xn une variable aleatoire de loi de


Soit Xn une v.a. de loi 2 (n), on pose Student de parametre n. On pose


((n + 1)/2) 1

1 2 dy = (|Xn | t) = .
y 2 1 ey/2 dy = (Xn x) = .
n
n (n/2) (n+1)/2


t y2
x 2n/2 (n/2) 1+ n
/2 /2
PSfrag replacements

t 0 t
PSfrag replacements
0 x La table donne les valeurs de t en fonction de
La table donne les valeurs de x en fonction n et . Par exemple P(|X20 | 2.086) ' 0.05.
de n et . Par exemple P(X8 20.09) ' 0.01.

n\ 0.900 0.800 0.700 0.600 0.500 0.400 0.300 0.200 0.100 0.050 0.020 0.010 0.001
n\ 0.990 0.975 0.950 0.900 0.100 0.050 0.025 0.010 0.001
1 0.158 0.325 0.510 0.727 1.000 1.376 1.963 3.078 6.314 12.706 31.821 63.657 636.619
2 0.142 0.289 0.445 0.617 0.816 1.061 1.386 1.886 2.920 4.303 6.965 9.925 31.599
1 0.0002 0.0010 0.0039 0.0158 2.71 3.84 5.02 6.63 10.83
3 0.137 0.277 0.424 0.584 0.765 0.978 1.250 1.638 2.353 3.182 4.541 5.841 12.924
2 0.02 0.05 0.10 0.21 4.61 5.99 7.38 9.21 13.82
4 0.134 0.271 0.414 0.569 0.741 0.941 1.190 1.533 2.132 2.776 3.747 4.604 8.610
3 0.11 0.22 0.35 0.58 6.25 7.81 9.35 11.34 16.27
5 0.132 0.267 0.408 0.559 0.727 0.920 1.156 1.476 2.015 2.571 3.365 4.032 6.869
4 0.30 0.48 0.71 1.06 7.78 9.49 11.14 13.28 18.47
6 0.131 0.265 0.404 0.553 0.718 0.906 1.134 1.440 1.943 2.447 3.143 3.707 5.959
5 0.55 0.83 1.15 1.61 9.24 11.07 12.83 15.09 20.52
7 0.130 0.263 0.402 0.549 0.711 0.896 1.119 1.415 1.895 2.365 2.998 3.499 5.408
6 0.87 1.24 1.64 2.20 10.64 12.59 14.45 16.81 22.46
8 0.130 0.262 0.399 0.546 0.706 0.889 1.108 1.397 1.860 2.306 2.896 3.355 5.041
7 1.24 1.69 2.17 2.83 12.02 14.07 16.01 18.48 24.32
9 0.129 0.261 0.398 0.543 0.703 0.883 1.100 1.383 1.833 2.262 2.821 3.250 4.781
8 1.65 2.18 2.73 3.49 13.36 15.51 17.53 20.09 26.12
10 0.129 0.260 0.397 0.542 0.700 0.879 1.093 1.372 1.812 2.228 2.764 3.169 4.587
9 2.09 2.70 3.33 4.17 14.68 16.92 19.02 21.67 27.88
10 2.56 3.25 3.94 4.87 15.99 18.31 20.48 23.21 29.59
11 0.129 0.260 0.396 0.540 0.697 0.876 1.088 1.363 1.796 2.201 2.718 3.106 4.437
12 0.128 0.259 0.395 0.539 0.695 0.873 1.083 1.356 1.782 2.179 2.681 3.055 4.318
11 3.05 3.82 4.57 5.58 17.28 19.68 21.92 24.72 31.26
13 0.128 0.259 0.394 0.538 0.694 0.870 1.079 1.350 1.771 2.160 2.650 3.012 4.221
12 3.57 4.40 5.23 6.30 18.55 21.03 23.34 26.22 32.91
14 0.128 0.258 0.393 0.537 0.692 0.868 1.076 1.345 1.761 2.145 2.624 2.977 4.140
13 4.11 5.01 5.89 7.04 19.81 22.36 24.74 27.69 34.53
15 0.128 0.258 0.393 0.536 0.691 0.866 1.074 1.341 1.753 2.131 2.602 2.947 4.073
14 4.66 5.63 6.57 7.79 21.06 23.68 26.12 29.14 36.12
16 0.128 0.258 0.392 0.535 0.690 0.865 1.071 1.337 1.746 2.120 2.583 2.921 4.015
15 5.23 6.26 7.26 8.55 22.31 25.00 27.49 30.58 37.70
17 0.128 0.257 0.392 0.534 0.689 0.863 1.069 1.333 1.740 2.110 2.567 2.898 3.965
16 5.81 6.91 7.96 9.31 23.54 26.30 28.85 32.00 39.25
18 0.127 0.257 0.392 0.534 0.688 0.862 1.067 1.330 1.734 2.101 2.552 2.878 3.922
17 6.41 7.56 8.67 10.09 24.77 27.59 30.19 33.41 40.79
19 0.127 0.257 0.391 0.533 0.688 0.861 1.066 1.328 1.729 2.093 2.539 2.861 3.883
18 7.01 8.23 9.39 10.86 25.99 28.87 31.53 34.81 42.31
20 0.127 0.257 0.391 0.533 0.687 0.860 1.064 1.325 1.725 2.086 2.528 2.845 3.850
19 7.63 8.91 10.12 11.65 27.20 30.14 32.85 36.19 43.82
20 8.26 9.59 10.85 12.44 28.41 31.41 34.17 37.57 45.31
21 0.127 0.257 0.391 0.532 0.686 0