Vous êtes sur la page 1sur 4

Chapitre 6

Loi des grands nombres


Avec ce chapitre nous abordons le point essentiel du paradigme de lapplication du calcul des probabilit e qui a donn e son nom ` a ce calcul : la relation quil y a entre lobservation du nombre des succ` es lors de r ep etitions ind ependantes dune exp erience ` a lissue incertaine, tel lobtention dune face dans un tirage ` a pile ou face, et la chance de succ` es, dite probabilit e de r ealisation de l ev` enement. Nous commen cons par deux in egalit es qui nous serviront dans la preuve de ce point essentiel

6.1

Les in egalit es de Markov et Bienaym e-Tch ebiche

Au chapitre 4 nous avons dit que la variance est une mesure de la dispertion de la loi dun v.a. X loin de son esp erance. Lin egalit e de Bienaym e-Tchebiche1 pr ecise ce point. La preuve de cette in egalit e est diaboliquement simple, lid ee se g en eralisant directement ` a une situation un peu plus g en erale dite in egalit e de Markov. Proposition 6.1 (in egalit e de Markov) Soit Y une v.a. quelconque ; pour toute fonction h : R+ + R , a h(a), croissante strictement positive pour a > 0 telle que E(h(Y )) < +, et pour tout a > 0 on a 1 E(h(|Y |)). (6.1) P({|Y | a}) h(a) Preuve : Lid ee tient dans le fait de choisir l ecriture lin eaire de la probabilit e, ` a savoir P({|Y | a}) = E(I{|Y |a} ) et de remarquer que, comme h est croissante positive, on a h(a)I{|Y |a} ) h(|Y |)I{|Y |a} )( h(|Y |)). La suite d ecoule de la lin earit e et de la positivit e de lesp erance : P({|Y | a}) = E(I{|Y |a} ) = 1 1 1 E(h(a)I{|Y |a} ) E(h(|Y |)I{|Y |a} ) E(h(|Y |)) h(a) h(a) h(a) 2 En appliquant ce r esultat ` a Y := X E(X ), en posant h(x) := x et a := nous obtenons lin egalit e de Bienaym e-Tchebiche : Proposition 6.2 Pour toute v.a. X L2 () on a P ( |X E ( X ) | ) 1 Var (X ) 2 (6.2)
2

6.2

La Loi des Grands Nombres (LGN)

Th eor` eme 6.3 Soit (Xi )i0 une suite de v.a. i.i.d., ayant une esp erance et un ecart-type. Pour chaque 1 n 1, soit Mn := n (X1 + . . . + Xn ) la moyenne des n premi` eres. Alors la suite de ces moyennes Mn tend vers le nombre dans le sens suivant : Pour tout > 0,
n+

lim P({|Mn | }) = 0.

(6.3)

1 le fran cais Bienaym e etait ami du russe Tchebiche (Chebyshev en transcription anglo-saxonne), tout comme du belge Quetelet- un des fondateurs de la statistique au sens etymologique : sciences de lEtat (sociologie quantitative). Il est dusage daccoler le nom de Tchebiche ` a lin egalit e de Bienaym e car cest Tchebichev qui la utilis ee le premier ` a la g en eralisation de la loi des Grands Nombres de Bernoulli

29

30

CHAPITRE 6. LOI DES GRANDS NOMBRES

erance les Mn est egalement , et Preuve : Notons l ecart-type commun des Xi ; observons que lesp 2 comme les v.a. Xi sont ind ependantes, la variance des Mn est egale ` a n ; en eet E(Mn ) Var (Mn ) = E 1 n
n

Xi
i=1

1 = n =

i=1

1 E ( Xi ) = n
n

= , et
i=1

(6.4) 2 . n

Var

1 n

Xi
i=1

1 n2

Var (Xi ) =
i=1

1 n2

2 =
i=1

(6.5)

A pr esent, il sut d ecrire lin egalit e de Tch ebiche pour Mn : 0 P(|Mn | ) = P(|Mn E(Mn )| ) On conclut on observant que limn+
2 n2

1 2 Var ( M ) . n 2 n2 2

= 0.

Exemple : Consid erons un ph enom` enes pouvant se produire ou non ` a chaque exp erience, tel la sortie dune face dans un tirage ` a pile ou face, ou la sortie dun 6 dans le tirage dun d e. On r ep` ete lexp erience de mani` ere identique de mani` ere ` a ce que le r esultat dune exp erience ninue pas sur les exp eriences suivantes. On compte le nombre S (n) de fois o` u le ph enom` ene sest produit au cours des n premi` eres exp eriences, et on forme le rapport M (n) = S (n)/n, egal au nombre moyen de succ` es. On dira que le ph enom` ene se produit de mani` ere al eatoire avec la probabilit e p dans les conditions de lexp erience choisies si lon peut lui appliquer le mod` ele probabiliste suivant : lapparition du ph enom` ene lors de la i` eme exp erience est une v.a. de Bernouilli Xi ; B (1, p), les diverses v.a. Xi etant suppos ees ind ependantes. n 1 Dans ce cas, le rapport M (n) = S (n)/n observ e est mod elis e par la v.a. Mn = n X . i i=1 Que nous dit la Loi des Grands Nombres pour ce mod` ele ? On a = E(Xi ) = p 1 + (1 p) 0 = p ; donnons nous un > 0, par exemple = 0.01. Plus n est grand, plus il est improbable que Mn / ]p , p + [. Si le ph enom` ene consid er e est eectivement al eatoire (dans le conditions de lexp erience), les valeurs observ ees du rapport M (n) doivent donc, au fur et ` a mesure que n augmente, se grouper autour dune valeur p , sans que cela nexclue de petite excursions hors de ] p , p + [, celles-ci devenant de plus en plus rares. Si tel est le cas, on consid erera que le ph enom` ene se produit avec la probabilit ep . Lexemple qui pr ec` ede correspond ` a la Loi des Grands Nombre, telle quelle a et e d ecouverte par Jacques Bernouilli, pour le cas particulier de v.a. de Bernoulli, pr ecis ement, et qui constitue le th eor` eme de Bernoulli. Ce cas ` a lavantage de la simplicit e, la loi commune des v.a. se r eduisant au choix dun unique n 1 param` etre p, que la Loi de Grands Nombre r ev` ele par la limite en probabilit e des Mn = n i=1 Xi . Cest cette application du th eor` eme de Bernoulli qui fonde lutilisation du calcul (abstrait) des probabilit es comme cadre math ematique de la Statistique, litt eralement science des Etats, ou Physique sociale pour reprendre le nom dun livre dAdolphe Qu etelet (Bruxelles, 1869).

6.3
6.3.1

Port ee r eelle de ces r esultats


Que nous apprennent vraiment lin egalit es de Bienaym e-Tch ebiche ?

1 Sur le premier graphique de la gure 6.1, nous avons repr esent e simultan ement la fonction 2 Var (X ) pour une loi de variance 1, et la probabilit e P{|X E(X )| } pour deux v.a. centr ees r eduites : X ; N (0, 1) et X = 2Y 1, avec Y ; B (1, 0.5). Nous voyons que pour grand, la majoration est u loi et majorant se confondent, tr` es grossi` ere : pour X = 2Y 1, nous voyons que, sauf en = 1 o` 1 nous voyons que nous majorons 0 par . Sur le deuxi` e me graphique, pour X ; N (0, 1), nous avons 2 repr esent e le rapport du majorant divis e par la fonction quil est charg e de majorer ; nous grand, nous voyons que ce rapport devient consid erable. Pour am eliorer la lisibilit e, nous avons repr esent e dans le troisi` eme graphique le log10 du rapport pr ec edent (les valeurs repr esentent donc le rapport comme un exposant de 10). Nous voyons que cette in egalit e est ` a la fois m ediocre, mais ne peut etre am elior ee en toute g en eralit e` a cause du cas de v.a. de Bernoulli pour lesquelles la majorations se r ev` ele la pire.

6.3.2

Loi faible et loi forte

L enonc e 6.3 de la LGN que nous avons donn e est encore appel e loi faible des grands nombres. La loi forte traite de lensemble 0 = { | limn+ Mn ( ) = }, cest-` a-dire de lensemble des

REELLE 6.3. PORTEE DE CES RESULTATS

31

70000

60000 4 4

50000

3 40000 3

30000 2 2 20000

1 10000 1

0 0 1 2 lambda 3 4 5

2 lambda

5 0 1 2 lambda 3 4 5

(a)

(b)

(c)

1 Fig. 6.1 Lin egalit e de Bienaym e-Tchebiche : (a) en pointill e : la fonction 2 Var (X ) pour une loi de variance 1, en ligne continue la probabilit e P{|X E(X )| } pour deux v.a. centr ees r eduites : X ; N (0, 1) et X = 2Y 1, avec Y ; B (1, 0.5). Nous voyons que pour grand, la majoration est tr` es 1 grossi` ere. (b) Pour X ; N (0, 1), quotient du majorant 2 Var (X ) par la valeur exacte P{|X E(X )| ec edent. }. (c) log10 du quotient pr

etats du monde pour lesquels la moyenne Mn ( ) tend eectivement vers lesp erance commune des v.a. ependantes, doit n ecessairement etre inni, et le Xi . Notons que pour avoir une suite innie de v.a. ind plus simple pour avoir une simple suite de v.a. de Bernouilli, = {0, 1}N , nest pas d enombrable. Nous quittons donc le cadre el ementaire que nous nous sommes x e pour ce cours. Indiquons n eanmoins le r esultat de la loi forte des grands nombres : le sous-ensemble 0 ci-dessus est de probabilit e egale ` a 1 ; en dautres termes, les pour lesquels on na pas la convergence souhait ee forment un ensemble n egligeable, cest-` a-dire de probabilit e nulle. On dit aussi que la convergence limn+ Mn = est presque-s ure, et ps ure. on note Yn Y si la convergence limn+ (Yn Y ) = 0 est presque-s

6.3.3

Convergence en probabilit e

L enonc e 6.3 de la loi des grands nombres que nous avons donn e sexprime encore par la locution la e vers le nombre . De fa con g en erale, on dit que la suite de v.a. (Yn )n1 suite des Mn tend en probabilit tend en probabilit e vers la v.a. Y , et on note Yn Y si et seulement si pour pour > 0,
n+ P

lim P({|Yn Y | }) = 0 ;

ecarte de Y ( ) en paraphrasant : quand n devient grand, il est de plus en plus improbable que Yn ( ) s de plus de . On montre que la convergence presque-s ure implique toujours la convergence en probabilit e.

6.3.4

Et notre norme L2 ?
1

Nous avons vu que X X := (E(X 2 )) 2 est une norme sur L2 (). Nous avons donc la notion de convergence usuelle dans un espace norm e, celle qui assure que limn+ Yn Y = 0 : on dit dans ce cas que Yn tends vers Y dans L2 (), et on note Yn Y . On montre que Yn Y implique que Yn Y . Par ailleurs, on montre que Yn Y implique que e est la plus faible de ces notions de Yn Y . Nous voyons donc que la convergence en probabilit P convergence ; toutefois on montre aussi que si Yn Y , alors il existe une sous-suite k nk telle que ps Ynk Y .
L
2

L2

L2

ps

32

CHAPITRE 6. LOI DES GRANDS NOMBRES

Jacques Bernoulli (1654-1705) :

Ir en ee-Jules Bienaym e (1796-1878) :

Lambert Adolphe Jacques Quetelet (1796-1874)

Pafnuty Lvovich Tchebiche [Chebyshev] (1821-1894) :

Andrei Andreyevich Markov (1856-1922) :