Vous êtes sur la page 1sur 117

M THODE DE M ONTE C ARLO .

Alexandre Popier
Universit du Maine, Le Mans

A. Popier (Le Mans)

Mthode de Monte Carlo.

1 / 95

P LAN DU COURS
1
2

M THODE DE M ONTE C ARLO


P ROBLME DE SIMULATION
Thorme fondamental
Simulation de la loi uniforme
Fonction de rpartition
Mthode dinversion
Cas particuliers
Vrifications
Mthode de rejet
Lois gaussiennes

R DUCTION DE VARIANCE
Variables antithtiques
Variables de contrle
Monte Carlo conditionnel
chantillonnage dimportance
chantillonnage stratifi
A. Popier (Le Mans)

Mthode de Monte Carlo.

2 / 95

B UT : CALCUL D ESPRANCE .
Soient X une v.a.r. et f : R R une fonction.

B UT
Calculer numriquement E(f (X )).

E XEMPLES
F INANCE : prix dune option dachat
I

modle de Cox-Ross-Rubinstein :

!+
N
Y
1
.
E S0
Ti K
C=
(1 + r )N
i=1

P(Ti = 1 + u) = p = 1 P(Ti = 1 + d) o p = (u r )/(u d).


modle de Black-Scholes :

+ 
rT
(r 2 /2)T +WT
C = e E S0 e
K
avec WT N (0, T ).

A. Popier (Le Mans)

Mthode de Monte Carlo.

3 / 95

B UT : CALCUL D ESPRANCE .
Soient X une v.a.r. et f : R R une fonction.

B UT
Calculer numriquement E(f (X )).

E XEMPLES
F INANCE : prix dune option dachat
A SSURANCE : calcul de la prime
I
I
I

Prime pure : E(X ),


Prime exponentielle : 1c ln E(ecX ),
Prime quantile : FX1 (1 ),

C ALCUL DE PERTE ou Value At Risk en finance : P(X < seuil).


etc.

A. Popier (Le Mans)

Mthode de Monte Carlo.

3 / 95

P LAN
1
2

M THODE DE M ONTE C ARLO


P ROBLME DE SIMULATION
Thorme fondamental
Simulation de la loi uniforme
Fonction de rpartition
Mthode dinversion
Cas particuliers
Vrifications
Mthode de rejet
Lois gaussiennes

R DUCTION DE VARIANCE
Variables antithtiques
Variables de contrle
Monte Carlo conditionnel
chantillonnage dimportance
chantillonnage stratifi
A. Popier (Le Mans)

Mthode de Monte Carlo.

4 / 95

L OI DES GRANDS NOMBRES .


T HORME
Soit (Yi )iN une suite de variables alatoires.
H YPOTHSES
indpendance
distribution identique (comme une v.a. Y )
E(|Y |) < +.
Alors presque srement :
lim Yn = lim

n+

n+

1
(Y1 + . . . + Yn ) = E(Y ).
n

Autrement dit, pour n assez grand


n

1X
Yi E(Y ).
n
i=1

A. Popier (Le Mans)

Mthode de Monte Carlo.

5 / 95

M THODE DE M ONTE C ARLO .


M THODE
Pour calculer = E(f (X )),
simuler N v.a. (Xn )1nN i.i.d. de mme loi que X ,
poser :
N
1X
f (X1 ) + . . . + f (XN )

N =
f (Xi ) =
.
N
N
i=1

Loi des grands nombres :


N pour N grand.

P ROBLME : quelle est lerreur commise ?


A. Popier (Le Mans)

Mthode de Monte Carlo.

6 / 95

L OI EXPONENTIELLE (2) ( ESPRANCE 1/2)

A. Popier (Le Mans)

Mthode de Monte Carlo.

7 / 95

L OI DE PARETO (0,5) PAS D ESPRANCE

A. Popier (Le Mans)

Mthode de Monte Carlo.

8 / 95

T HORME CENTRAL LIMITE .

T HORME
Soit (Yi )iN une suite de v.a.
H YPOTHSES
indpendance
distribution identique (comme une v.a. Y )
E(|Y |2 ) < +.
Alors Yn
= N (0, 1) : pour tout a < b
Yn
lim P a < n
<b
n+

A. Popier (Le Mans)

!
= P(a < Z < b), Z N (0, 1).

Mthode de Monte Carlo.

9 / 95

I NTERVALLE DE CONFIANCE .
TCL : = E(Y1 ), Y n = n1 (Y1 + . . . + Yn )
!


Yn

a
P Yn a Yn + a
= P a n

n
n
P(|Z | a),
o 2 = Var(f (X )).
Pour un niveau de confiance [0, 1] fix, il existe c > 0 tel que
P(|Z | c ) = .
Donc avec a = c , pour n grand
P ( I,n ) P(|Z | c ) =
avec
I,n




: intervalle de confiance.
= Y n c , Y n + c
n
n

A. Popier (Le Mans)

Mthode de Monte Carlo.

10 / 95

M THODE DE M ONTE C ARLO : ERREUR .


M THODE
Simuler N v.a. (Xn )1nN i.i.d. de mme loi que X .
Poser :

N
f (X1 ) + . . . + f (XN )
1X
f (Xi ) =
.

N =
N
N
i=1

Erreur donne par un intervalle de confiance :



P I,N
avec


I,N

=
N c
,
N + c
,
N
N

2 = Var (f (x)).

Problme : on ne connat pas en gnral la variance 2 .


A. Popier (Le Mans)

Mthode de Monte Carlo.

11 / 95

E STIMATION DE LA VARIANCE .
n

1 X
(Yi Y n )2 . On peut
n1

On estime 2 grce lestimateur Sn2 =

i=1

montrer que
ESn2 = 2 = Var(Y ) et

lim Sn2 = 2 .

n+

M THODE
Simuler N v.a. (Xn )1nN i.i.d. de mme loi que X .
Poser :

v
u
u

N = t

1 X
(f (Xi )
N )2 .
N 1
i=1

A. Popier (Le Mans)

Mthode de Monte Carlo.

12 / 95

M THODE DE M ONTE C ARLO COMPLTE .


M THODE
1

Simuler N v.a. (Xn )1nN i.i.d. de mme loi que X .

Poser :

N
1X
f (X1 ) + . . . + f (XN )
f (Xi ) =
,
N
N
i=1
v
u
N
u 1 X
t

N =
(f (Xi )
N )2 .
N 1

N =

i=1

Erreur donne par intervalle de confiance avec niveau de


confiance



N
I,N =
N c ,
N + c
.
N
N
A. Popier (Le Mans)

Mthode de Monte Carlo.

13 / 95

L OI EXPONENTIELLE (2) ( ESPRANCE 1/2)

A. Popier (Le Mans)

Mthode de Monte Carlo.

14 / 95


L OI EXPONENTIELLE (2) ( DCROISSANCE EN 1/ N )

A. Popier (Le Mans)

Mthode de Monte Carlo.

15 / 95

PARETO (1,5) ( ESPRANCE 3, PAS DE VARIANCE )

A. Popier (Le Mans)

Mthode de Monte Carlo.

16 / 95

PARETO (1,5) ( TAILLE INTERVALLE CONFIANCE )

A. Popier (Le Mans)

Mthode de Monte Carlo.

17 / 95

M THODE DE M ONTE C ARLO : REMARQUES .


O BLIGATOIRE
Donner
N sans intervalle de confiance na aucune valeur !

E RREUR
Pour diminuer la taille de IC,
diminuer le niveau de confiance ,
augmenter N,
diminuer ( rduction de variance).

AVANT :

S IMULATION
Que signifie Simuler N v.a. (Xn )1nN i.i.d. de mme loi que X ?
A. Popier (Le Mans)

Mthode de Monte Carlo.

18 / 95

P LAN
1
2

M THODE DE M ONTE C ARLO


P ROBLME DE SIMULATION
Thorme fondamental
Simulation de la loi uniforme
Fonction de rpartition
Mthode dinversion
Cas particuliers
Vrifications
Mthode de rejet
Lois gaussiennes

R DUCTION DE VARIANCE
Variables antithtiques
Variables de contrle
Monte Carlo conditionnel
chantillonnage dimportance
chantillonnage stratifi
A. Popier (Le Mans)

Mthode de Monte Carlo.

19 / 95

P LAN
1
2

M THODE DE M ONTE C ARLO


P ROBLME DE SIMULATION
Thorme fondamental
Simulation de la loi uniforme
Fonction de rpartition
Mthode dinversion
Cas particuliers
Vrifications
Mthode de rejet
Lois gaussiennes

R DUCTION DE VARIANCE
Variables antithtiques
Variables de contrle
Monte Carlo conditionnel
chantillonnage dimportance
chantillonnage stratifi
A. Popier (Le Mans)

Mthode de Monte Carlo.

20 / 95

T HORME FONDAMENTAL DE LA SIMULATION .


T HORME
Toute variable alatoire X valeurs dans Rd peut tre simule sous la
forme
X = f (U1 , U2 , . . . , Un )
en loi

o
(U1 , U2 , . . . , Un ) est uniformment rpartie sur [0, 1]n ,
la fonction f : Rn Rd est borlienne et a ses points de
discontinuit dans un ensemble Lebesgue-ngligeable.
Il est mme possible de raliser ceci en imposant n = 1 ou n = d ou
encore n 1 donn.
R EMARQUE : f est explicite .

A. Popier (Le Mans)

Mthode de Monte Carlo.

21 / 95

P LAN
1
2

M THODE DE M ONTE C ARLO


P ROBLME DE SIMULATION
Thorme fondamental
Simulation de la loi uniforme
Fonction de rpartition
Mthode dinversion
Cas particuliers
Vrifications
Mthode de rejet
Lois gaussiennes

R DUCTION DE VARIANCE
Variables antithtiques
Variables de contrle
Monte Carlo conditionnel
chantillonnage dimportance
chantillonnage stratifi
A. Popier (Le Mans)

Mthode de Monte Carlo.

22 / 95

S UITES ALATOIRES .
Considrons une suite finie x := x1 , . . . , xn {0, 1}. Toutes les suites
finies de ce type sont quiprobables et de probabilit 2n .
Certaines suites moins alatoires que dautres
1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1
1, 1, 0, 0, 1, 1, 0, 0, 1, 1, 0, 0, 1, 1, 0, 0, 1, 1
1, 0, 0, 1, 0, 1, 1, 1, 0, 1, 0, 1, 1, 0, 0, 0, 1, 0
Quel sens donner et comment quantifier le caractre alatoire
dune suite finie ou infinie donne ?
Comment produire des suites finies qui sont de bonnes
approximations finies des suites infinies probables correspondant
des ralisations i.i.d. dune loi donne ? Comment mesurer la
qualit de ces algorithmes ?
A. Popier (Le Mans)

Mthode de Monte Carlo.

23 / 95

S UITES ALATOIRES .

D.H. Lehmer (1951) :


A random sequence is a vague notion... in which each term is
unpredictable to the uninitiated and whose digits pass a certain
number of tests traditional with statisticians...

A. Popier (Le Mans)

Mthode de Monte Carlo.

23 / 95

N OMBRES PSEUDO - ALATOIRES .

Simuler la loi uniforme consistera produire par un algorithme des


suites finies de nombres que nous pouvons considrer comme autant
de ralisations indpendantes de variables alatoires uniformes sur
[0, 1].
Mathmatiquement les n sorties successives dun tel gnrateur
seront considres comme la donne de U1 (), . . . , Un () pour un
o les Ui sont des v.a.r. Ui : (, F, P) [0, 1] de loi uniforme.
Matlab permet de simuler la loi uniforme via la fonction rand, qui
renvoie un nombre alatoire compris entre [0, 1].

A. Popier (Le Mans)

Mthode de Monte Carlo.

24 / 95

N OMBRES PSEUDO - ALATOIRES .


Intressons nous au nombre
0, 950129285147175.
Cest par dfaut le premier nombre produit par la fonction rand de
Matlab.
Pour cela redmarrer Matlab, et excuter les commandes

format l o n g


rand

Si tous les utilisateurs de Matlab trouvent toujours ce mme nombre il


ne peut tre qualifi dalatoire. Dailleurs il ne lest pas.

A. Popier (Le Mans)

Mthode de Monte Carlo.

25 / 95

N OMBRES PSEUDO - ALATOIRES .

ce stade il est important de faire la distinction entre deux types de


mthodes de gnration de suites alatoires .
Mthodes prdictibles : ce sont des mthodes dterministes
bases entirement sur des algorithmes bien tablis qui
ncessitent dtre initialiss. On parlera de suites ou nombres
pseudo-alatoires.
Mthodes non-prdictibles : surtout utiles en cryptographie, o il
est capital que le hasard utilis ne soit pas prdictible ni
reproductible. Elles peuvent tre obtenues partir des premires
en utilisant des fonctions de hachage , difficilement inversibles
en terme de temps de calcul.

A. Popier (Le Mans)

Mthode de Monte Carlo.

26 / 95

A LGORITHMES PAR CONGRUENCE (L EHMER , 1950).


utilisent trois paramtres entiers a, c et m et une valeur initiale x0 ,
appel seed ;
crent une suite dentiers yn+1 = ayn + c mod m compris entre 0
et m ;
ramnent les valeurs entre 0 et 1 : xn = yn /m.
Exemple : a = 13, c = 0, m = 31 et x0 = 1. Suite des yn :
1

13

14

27

10

16

22

29

3...

Celle des xn :
0.0323, 0.4194, 0.4516, 0.8710, 0.3226, 0.1935, 0.5161, . . .

A. Popier (Le Mans)

Mthode de Monte Carlo.

27 / 95

A LGORITHMES PAR CONGRUENCE (L EHMER , 1950).

Dans les annes 60, sur IBM, Scientific Subroutine Package (SSP) :
a = 65539, c = 0, et m = 231 .
Comme le codage se fait en 32-bits, larithmtique modulo 231 se
fait trs rapidement.
a = 216 + 3 : multiplication par a = shift + addition.
Problme : yk +2 = 6yk +1 9yk : trs forte corrlation.
cf. graphique randssp

A. Popier (Le Mans)

Mthode de Monte Carlo.

27 / 95

A LGORITHMES PAR CONGRUENCE (L EHMER , 1950).


partir de Matlab 4, on a choisi : a = 75 = 16807, c = 0,
m = 231 1 = 2147483647.
Toujours disponible via
I
I

s=rand(seed) : fournit le paramtre x0 de cette mthode.


rand(seed,s) : impose Matlab dutiliser cet algorithme avec
x0 = s.

Priodicit grande : m 1.
Gnre toutes les valeurs k /m avec k = 1, . . . , m, i.e.
[0, 1] Dr = {k /m, 1 k m}
[0.00000000046566, 0.99999999953434].
cf. graphique randmcg

A. Popier (Le Mans)

Mthode de Monte Carlo.

27 / 95

A LGORITHME PAR DFAUT.


partir de la version 5 (1995),
Du G. Marsaglia.
Nutilise plus les algorithmes la Lehmer, plus de multiplication,
plus de division.
Gnre directement des nombres dcimaux.
Disponible via
I

s=rand(state) : fournit le paramtre x0 de cette mthode


(vecteur de dimension 35).
rand(state,s) : impose Matlab dutiliser cet algorithme
avec x0 = s.

Peut gnrer tous les nombres (flottants) entre 253 et 1 253


(on ne connat pas de nombre non atteint).
Priode proche de 21492 .

A. Popier (Le Mans)

Mthode de Monte Carlo.

28 / 95

A LGORITHME M ERSENNE T WISTER .

Troisime algorithme implment sous Matlab (version 5 et plus).


Disponible via
I

s=rand(twister) : fournit le paramtre x0 de cette mthode


(vecteur de dimension 625).
rand(twister,s) : impose Matlab dutiliser cet algorithme
avec x0 = s.

Priode de lordre de (219937 1)/2.

A. Popier (Le Mans)

Mthode de Monte Carlo.

29 / 95

I MPORTANCE DE LA RACINE .

R EMARQUE
Connatre la valeur de la racine avant de lancer un programme peut
tre important ! Notamment pour pouvoir :
comparer des vitesses de calcul ;
gnrer des variables alatoires couples.
Pour viter davoir toujours le mme nombre de dpart :

rand ( s t a t e ,sum(100 clock ) )




rand

A. Popier (Le Mans)

Mthode de Monte Carlo.

30 / 95

P LAN
1
2

M THODE DE M ONTE C ARLO


P ROBLME DE SIMULATION
Thorme fondamental
Simulation de la loi uniforme
Fonction de rpartition
Mthode dinversion
Cas particuliers
Vrifications
Mthode de rejet
Lois gaussiennes

R DUCTION DE VARIANCE
Variables antithtiques
Variables de contrle
Monte Carlo conditionnel
chantillonnage dimportance
chantillonnage stratifi
A. Popier (Le Mans)

Mthode de Monte Carlo.

31 / 95

F ONCTION DE RPARTITION .
D FINITION
La fonction de rpartition de X , note FX , est dfinie sur R par :
x R, FX (x) = P(X x).

P ROPOSITION
Soit FX la fonction de rpartition dune v.a.r. X . Alors :
1

FX (x) [0, 1].

FX est croissante.

lim FX (x) = 0 et lim FX (x) = 1.

x
4

x+

FX est continue droite et a une limite gauche en tout point.

A. Popier (Le Mans)

Mthode de Monte Carlo.

32 / 95

V. A . DENSIT .
D FINITION
Une v.a. X est densit (par rapport la mesure de Lebesgue) sil
existe f t.q.
pour tout x R, f (x) 0 ;
Z +
f (x) dx = 1 ;

et pour tout a < b +, P(a < X b) =

Rb
a

f (t)dt.

E XEMPLE : LOI UNIFORME SUR [a, b]


X suit une loi uniforme sur [a, b] si sa densit f est
f (x) =

A. Popier (Le Mans)

1
1
(x).
b a [a,b]

Mthode de Monte Carlo.

33 / 95

V. A . DENSIT .
P ROPOSITION
Si X a pour densit f , alors
x R, FX (x) = P(X x) =

Rx

f (t)dt.

FX est continue.
FX est drivable aux points de continuit de f avec fX (x) = FX0 (x).

E XEMPLE : LOI UNIFORME SUR [a, b]


Si X suit la loi uniforme sur [a, b], alors
FX (x) = 0 si x a,
x a
FX (x) =
si x [a, b],
ba
FX (x) = 1 pour x b.

A. Popier (Le Mans)

Mthode de Monte Carlo.

33 / 95

V. A . DISCRTES .
D FINITION
Une v.a. X est discrte si elle ne prend quun nombre fini (ou
dnombrable) de valeurs {xi R, i N} avec probabilit
+
+
X
X
pi = 1.
P(X = xi ) =
pi = P(X = xi ) 0. De plus
i=0

i=0

R EPRSENTATION en tableau
X

x0

x1

x2

x3 . . . (valeurs prises parX)

P(X = xi ) p0 p1 p2 p3 . . . (probabilit)

P ROPOSITION
Si X est une v.a. discrte, FX est constante par morceaux.
A. Popier (Le Mans)

Mthode de Monte Carlo.

34 / 95

E XEMPLE : D SIX FACES .


F ONCTION DE RPARTITION dune v.a. de loi uniforme sur {1, . . . , 6}

A. Popier (Le Mans)

Mthode de Monte Carlo.

35 / 95

P LAN
1
2

M THODE DE M ONTE C ARLO


P ROBLME DE SIMULATION
Thorme fondamental
Simulation de la loi uniforme
Fonction de rpartition
Mthode dinversion
Cas particuliers
Vrifications
Mthode de rejet
Lois gaussiennes

R DUCTION DE VARIANCE
Variables antithtiques
Variables de contrle
Monte Carlo conditionnel
chantillonnage dimportance
chantillonnage stratifi
A. Popier (Le Mans)

Mthode de Monte Carlo.

36 / 95

M THODE D INVERSION .
Si X est une v.a.r. alors la fonction de rpartition FX est dfinie par
x R, FX (x) = P(X x).
Comme FX est croissante, on peut dfinir la fonction pseudo-inverse
qX de FX ainsi :
u (0, 1), qX (u) = inf{x R, FX (x) > u}.

T HORME
Si U suit une loi uniforme sur [0, 1], qX (U) suit la mme loi que X .

P ROPOSITION
Si F est inversible, alors q = F 1 .
A. Popier (Le Mans)

Mthode de Monte Carlo.

37 / 95

E XEMPLES .
Si U suit une loi uniforme sur [0, 1], alors

L OI UNIFORME SUR [a, b]


X = a + (b a)U suit la loi uniforme sur [a, b].

L OI EXPONENTIELLE
1
X = ln(1 U) suit la loi exponentielle de paramtre .

L OI DE C AUCHY
X = c tan((U 1/2)) suit la loi de Cauchy de paramtre c.

L OI DE B ERNOULLI
Si U < 1 p, X = 0, sinon X = 1 : suit la loi de Bernoulli de paramtre
p [0, 1].
A. Popier (Le Mans)

Mthode de Monte Carlo.

38 / 95

L OI DISCRTE SUPPORT FINI .


function r e a l i s = r d i s t ( x , p )

n=length ( p ) ;
r = rand ; a = 0 ; b = p ( 1 ) ;
f o r i = 1 : n1,
i f ( ( r >=a ) & ( r <b ) )
realis = x( i );
return ;
end
a = b ; b = b + p( i +1);
end
realis = x(n );

A. Popier (Le Mans)

Mthode de Monte Carlo.

39 / 95

L OI UNIFORME .


function r e a l i s = r a n d d i s c r ( x , n ,m)
%Renvoie des realisations iid
%de loi uniforme sur x(1),...,x(length(x)).
%n et m sont des entiers optionnels, valant 1 par defaut.
i f ( nargin ==0)
e r r o r ( Pas assez de parametres ) ;
e l s e i f ( nargin ==1)
n =1;m=1;
e l s e i f ( nargin ==2)
m=1;
e l s e i f ( nargin >3)
e r r o r ( Trop de parametres ) ;
end ;
r e a l i s = reshape ( x ( c e i l ( length ( x ) rand ( n ,m) ) ) , n ,m) ;
return ;




A. Popier (Le Mans)

Mthode de Monte Carlo.

40 / 95

I NVERSION : DIMENSION QUELCONQUE .


Soit une v.a. X = (X1 , X2 ) de loi connue PX sur R2 avec densit f > 0.
Fonction de rpartition de X1 :
Z x1 Z
FX1 (x1 ) =
f (x, y )dxdy .

Soit q1 son inverse.


Fonction de rpartition FXX21 =x1 de la loi conditionnelle de X2 sachant
X1 = x1 :
R x2
f (x1 , y )dy
X1 =x1
.
FX2
(x2 ) = R
+
f
(x
,
y
)dy
1

Inverse : q2 .

M THODE
Si U1 et U2 sont deux v.a. uniformes sur [0, 1] indpendantes, alors
X1 = q1 (U1 ),
A. Popier (Le Mans)

X2 = q2 (q1 (U1 ), U2 ).

Mthode de Monte Carlo.

41 / 95

P LAN
1
2

M THODE DE M ONTE C ARLO


P ROBLME DE SIMULATION
Thorme fondamental
Simulation de la loi uniforme
Fonction de rpartition
Mthode dinversion
Cas particuliers
Vrifications
Mthode de rejet
Lois gaussiennes

R DUCTION DE VARIANCE
Variables antithtiques
Variables de contrle
Monte Carlo conditionnel
chantillonnage dimportance
chantillonnage stratifi
A. Popier (Le Mans)

Mthode de Monte Carlo.

42 / 95

L OI BINOMIALE .
D FINITION
Une v.a. X valeurs entires comprises entre 1 et N suit une loi
binmiale de paramtres N N et p [0, 1] si :
k = 1, . . . , N, P(X = k ) = CNk pk (1 p)Nk .

P ROPOSITION
Soient Ui , i = 1, . . . , N des v.a. uniformes sur [0, 1] indpendantes.
N
X
Soit X le nombre des Ui infrieures p [0, 1], i.e. X =
1Ui <p .
i=1

Alors X suit une loi binomiale de paramtres N et p.

M THODE
Simuler N v.a. de Bernoulli Xi et en faire la somme.
A. Popier (Le Mans)

Mthode de Monte Carlo.

43 / 95

L OI GOMTRIQUE .
D FINITION
Une v.a. X valeurs entires strictement positives suit une loi
gomtrique de paramtre p ]0, 1[ si :
n 1, P(X = n) = p(1 p)n1 .
Q UELQUES RSULTATS :
1p
.
p2
p)k 1 .

E(X ) = p1 , Var(X ) =
P(X k ) = (1

P ILE OU FACE
Une loi gomtrique est la loi du nombre de tirages pile ou face
(indpendants) raliser pour obtenir face (si face a p % de chances
de sortir).
A. Popier (Le Mans)

Mthode de Monte Carlo.

44 / 95

L OI DE P OISSON .
D FINITION
Une v.a. X valeurs entires positives suit une loi de Poisson de
paramtre > 0 si :
n 0, P(X = n) = e

n
.
n!

M OMENTS : E(X ) = Var(X ) = .

P ROPOSITION
Soit (En )nN v.a. i.i.d. exponentielles de paramtre . Alors
P(E1 + . . . + En 1 < E1 + . . . + En+1 ) = e

A. Popier (Le Mans)

Mthode de Monte Carlo.

n
.
n!

45 / 95

L OI DE P OISSON .
D FINITION
Une v.a. X valeurs entires positives suit une loi de Poisson de
paramtre > 0 si :
n 0, P(X = n) = e

n
.
n!

M OMENTS : E(X ) = Var(X ) = .

M THODE
X

= 1E1 1<E1 +E2 + 2 1E1 +E2 1<E1 +E2 +E3 + . . .


+n 1E1 +...+En 1<E1 +...+En+1 + . . .

suit une loi de Poisson de paramtre .


A. Popier (Le Mans)

Mthode de Monte Carlo.

45 / 95

P LAN
1
2

M THODE DE M ONTE C ARLO


P ROBLME DE SIMULATION
Thorme fondamental
Simulation de la loi uniforme
Fonction de rpartition
Mthode dinversion
Cas particuliers
Vrifications
Mthode de rejet
Lois gaussiennes

R DUCTION DE VARIANCE
Variables antithtiques
Variables de contrle
Monte Carlo conditionnel
chantillonnage dimportance
chantillonnage stratifi
A. Popier (Le Mans)

Mthode de Monte Carlo.

46 / 95

Q UELLES VRIFICATIONS ?

D EUX TYPES de vrifications :


histogramme normalis contre densit,
fonctions de rpartition empirique contre thorique.

Dans les deux cas, il faut dabord simuler un grand nombre de fois la
loi en question. Pour n N , on obtient un vecteur (x1 , . . . , xn ) qui
contient n ralisations de la loi de X .

A. Popier (Le Mans)

Mthode de Monte Carlo.

47 / 95

H ISTOGRAMME VS . DENSIT .
H ISTOGRAMME NORMALIS
1

regrouper les n termes dans un certain nombre m de classes


(avec
X m < n). Dans chaque classe rm ralisations de X avec
rm = n.

normalisation : la somme des aires des colonnes fait 1


rm /(n(Cm+1 Cm )).

trac : sur laxe des abscisses, placer les m centres des m


classes, et mettre une colonne de hauteur rm /(n(Cm+1 Cm )).

C ONVERGENCE VERS LA DENSIT


rm
1

P(X [Cm , Cm+1 [).


n(Cm+1 Cm ) n+ Cm+1 Cm

A. Popier (Le Mans)

Mthode de Monte Carlo.

48 / 95

H ISTOGRAMME VS . DENSIT .

C ONVERGENCE VERS LA DENSIT


rm
1

P(X [Cm , Cm+1 [).


n(Cm+1 Cm ) n+ Cm+1 Cm
C ONCLUSION
Si X discrte avec Ck espacs de 1, approximativement pk .
Si X densit, alors
P(X [Cm , Cm+1 [)
1
=
Cm+1 Cm
Cm+1 Cm

A. Popier (Le Mans)

Cm+1

f (t)dt
Cm

Mthode de Monte Carlo.

Cm+1 Cm 0

f (Cm ).

48 / 95

R PARTITION EMPIRIQUE VS . THORIQUE .

F ONCTION DE RPARTITION EMPIRIQUE


n

t R, F n (t) =

1X
1],t] (xi ).
n
i=1

T HORME DE KOLMOGOROV-S MIRNOV


t R,

A. Popier (Le Mans)

lim F n (t) = FX (t).

n+

Mthode de Monte Carlo.

49 / 95

E XEMPLE SUR LA LOI EXPONENTIELLE (2).

n=100
Histogramme vs densite

Fcts de repartition

2.0
empirique
1.8

theorique
1.0

1.6
0.8

1.4
1.2

0.6

1.0
0.4

0.8
0.6

0.2

0.4
0.0
0.2
0.0

!0.2
0

A. Popier (Le Mans)

!1

Mthode de Monte Carlo.

50 / 95

E XEMPLE SUR LA LOI EXPONENTIELLE (2).

n=10000
Histogramme vs densite

Fcts de repartition

2.0
empirique
1.8

theorique
1.0

1.6
0.8

1.4
1.2

0.6

1.0
0.4

0.8
0.6

0.2

0.4
0.0
0.2
0.0

!0.2
0

A. Popier (Le Mans)

!1

Mthode de Monte Carlo.

51 / 95

E XEMPLE SUR LA LOI DE B ERNOULLI (0.3).

n=100
Histogramme

Fcts de repartition

0.8
empirique
theorique

0.7

1.0

0.6
0.8
0.5
0.6
0.4
0.4
0.3
0.2
0.2
0.0

0.1

0.0
!0.5

0.0

0.5

A. Popier (Le Mans)

1.0

1.5

2.0

!0.2
!1.0

Mthode de Monte Carlo.

!0.5

0.0

0.5

1.0

1.5

2.0

52 / 95

E XEMPLE SUR LA LOI DE B ERNOULLI (0.3).

n=10000
Histogramme

Fcts de repartition

0.7
empirique
theorique
0.6

1.0

0.5

0.8

0.4

0.6

0.3

0.4

0.2

0.2

0.1

0.0

0.0
!0.5

0.0

0.5

A. Popier (Le Mans)

1.0

1.5

2.0

!0.2
!1.0

Mthode de Monte Carlo.

!0.5

0.0

0.5

1.0

1.5

2.0

53 / 95

P LAN
1
2

M THODE DE M ONTE C ARLO


P ROBLME DE SIMULATION
Thorme fondamental
Simulation de la loi uniforme
Fonction de rpartition
Mthode dinversion
Cas particuliers
Vrifications
Mthode de rejet
Lois gaussiennes

R DUCTION DE VARIANCE
Variables antithtiques
Variables de contrle
Monte Carlo conditionnel
chantillonnage dimportance
chantillonnage stratifi
A. Popier (Le Mans)

Mthode de Monte Carlo.

54 / 95

M THODE DE REJET.
On veut simuler une v.a. de densit f , et il existe une densit g
simulable facilement et une constante k 1 telle que
x R, f (x) kg(x).
Soit (x) =

f (x)
.
kg(x)

P ROPOSITION
Soit (Xi )i1 une suite de v.a. i.i.d. de densit g, et (Ui )i1 une suite de
v.a. i.i.d. de loi uniforme sur [0, 1], indpendante de la suite (Xi )i1 .
Soit
T = inf{i 1, Ui (Xi )}.
La variable XT a pour densit f .

A. Popier (Le Mans)

Mthode de Monte Carlo.

55 / 95

M THODE DE REJET.

M THODE
Soit (X1 , U1 ) un couple de v.a. indpendantes telles que X1 suive la loi
de densit g et U1 suive une loi uniforme sur [0, 1]. Si U1 (U1 ), on
pose X = X1 .
Sinon on rejette X1 et on recommence en gnrant une suite
(Xn , Un )n2 de v.a. indpendantes de mme loi que (X1 , U1 ) jusqu
linstant p o Up (Xp ). On pose alors X = Xp .

R EMARQUES
on na pas besoin de connatre F , ni F 1 .
elle stend Rd , des lois discrtes, etc.

A. Popier (Le Mans)

Mthode de Monte Carlo.

56 / 95

M THODE DE REJET : VITESSE .

Calcul de la probabilit dacceptation :


p = P(U (X )) =

1
.
k

Donc T a pour distribution une loi gomtrique de paramtre p. En


moyenne, on doit rejeter k = 1/p fois avant daccepter la valeur.
Ainsi il faut choisir g telle que
 
f
k = max
g
soit la plus petite possible.

A. Popier (Le Mans)

Mthode de Monte Carlo.

57 / 95

P LAN
1
2

M THODE DE M ONTE C ARLO


P ROBLME DE SIMULATION
Thorme fondamental
Simulation de la loi uniforme
Fonction de rpartition
Mthode dinversion
Cas particuliers
Vrifications
Mthode de rejet
Lois gaussiennes

R DUCTION DE VARIANCE
Variables antithtiques
Variables de contrle
Monte Carlo conditionnel
chantillonnage dimportance
chantillonnage stratifi
A. Popier (Le Mans)

Mthode de Monte Carlo.

58 / 95

L OI NORMALE : MTHODE POLAIRE .


P ROPOSITION
Si Y N (, 2 ), alors X = (Y )/ N (0, 1).

Pour simuler X (et Y )


simuler deux lois uniformes U et V sur [0, 1] ;
poser
X =

2 ln U cos(2V ),

Y =

2 ln U sin(2V ).

P ROPOSITION
X et Y sont deux v.a. normales centres rduites indpendantes.
Ou utiliser sous Matlab randn(n,m).
A. Popier (Le Mans)

Mthode de Monte Carlo.

59 / 95

L OI NORMALE : MTHODE POLAIRE .


Pour simuler X (et Y )
simuler deux lois uniformes U et V sur [0, 1] ;
poser
X =

2 ln U cos(2V ),

Y =

2 ln U sin(2V ).


c l f ; hold on
t i t l e ( S i m u l a t i o n d une l o i normale )
ylabel ( E f f e c t i f s ) ; xlabel ( Valeurs ) ;
[ E ,C] = e c d f ( s q r t (2 log ( rand ( 5 0 0 0 , 1 ) ) )
. cos ( 2 p i rand ( 5 0 0 0 , 1 ) ) ) ;
e c d f h i s t ( E , C, 4 0 ) ;
hold on
p l o t (C, ( 2 p i ) ^ ( 1 / 2 ) exp(C . ^ 2 / 2 ) , r ) ;
legend ( Empirique , Theorique )
hold o f f
A. Popier (Le Mans)

Mthode de Monte Carlo.


60 / 95

L OI NORMALE : MTHODE POLAIRE .

A. Popier (Le Mans)

Mthode de Monte Carlo.

61 / 95

L OI NORMALE : MTHODE POLAIRE .

A. Popier (Le Mans)

Mthode de Monte Carlo.

61 / 95

L OI NORMALE : MTHODE POLAIRE - REJET.


P ROPOSITION
(X , Y ) = ( cos(), sin()) suit une loi uniforme sur le disque unit du
plan, alors
p
4 ln()
(X , Y )

suit une loi normale centre rduite bidimensionnelle.


(X , Y ) facile simuler par rejet partir dune uniforme sur le carr
[1, 1]2 (rejet dans 21 % des cas puisque /4 0, 79).
et indpendantes,
loi de densit u 7 2u1[0,1] (u), 4 ln() exponentielle de
paramtre 1/2,
uniforme sur [0, 2].
A. Popier (Le Mans)

Mthode de Monte Carlo.

62 / 95

L OI UNIFORME SUR LE DISQUE .

A. Popier (Le Mans)

Mthode de Monte Carlo.

63 / 95

V ECTEUR GAUSSIEN .

P ROPOSITION
Soit
m Rn ,
Sn+ (R) matrice relle de taille n symtrique positive,
Y vecteur alatoire gaussien standard de moyenne nulle et
matrice de covariance Idn .
Alors le vecteur alatoire X = 1/2 Y + m est gaussien de moyenne m
et de matrice de covariance .
Si Y est un vecteur gaussien de loi N (0, Idn ), ses coordonnes sont
i.i.d. de loi N (0, 1). Ainsi on peut simuler une ralisation de Y en
simulant n ralisations indpendantes Y1 (), . . . , Yn () de loi N (0, 1).

A. Popier (Le Mans)

Mthode de Monte Carlo.

64 / 95

P LAN
1
2

M THODE DE M ONTE C ARLO


P ROBLME DE SIMULATION
Thorme fondamental
Simulation de la loi uniforme
Fonction de rpartition
Mthode dinversion
Cas particuliers
Vrifications
Mthode de rejet
Lois gaussiennes

R DUCTION DE VARIANCE
Variables antithtiques
Variables de contrle
Monte Carlo conditionnel
chantillonnage dimportance
chantillonnage stratifi
A. Popier (Le Mans)

Mthode de Monte Carlo.

65 / 95

D EUX EXEMPLES .

2 /2

E XEMPLE THORIQUE . Calculer = E(e5Z ) = e5


variance thorique :

e50

e25

avec Z N (0, 1)

1010 .

valeur exacte : 268337.


nombre tirages : N = 500000.
valeur estime : = 221741.
Intervalle de confiance : I = [65186, 508668].

A. Popier (Le Mans)

Mthode de Monte Carlo.

66 / 95

D EUX EXEMPLES .
E XEMPLE PLUS CONCRET. Call C = E((5e(Z 1/2) 3)+ ) avec
Z N (0, 1)
valeur exacte : 2,71.
nombre tirages : N = 1000.
valeur estime : 2,83.
Intervalle de confiance : I = [2, 42; 3, 24].
Put P = E((3 5e(Z 1/2) )+ ) et C P = 2.
valeur exacte : 0,71.
valeur estime : 0,70.
Intervalle de confiance : I = [0, 64; 0, 76].
Contrle : C = 2 + P.
A. Popier (Le Mans)

Mthode de Monte Carlo.

66 / 95

R DUCTION DE VARIANCE : MTHODES .

Variables antithtiques.
Variables de contrle.
chantillonnage prfrentiel (ou dimportance).
chantillonnage stratifi.
Mthodes adaptatives (chanes de Markov).

A. Popier (Le Mans)

Mthode de Monte Carlo.

67 / 95

P LAN
1
2

M THODE DE M ONTE C ARLO


P ROBLME DE SIMULATION
Thorme fondamental
Simulation de la loi uniforme
Fonction de rpartition
Mthode dinversion
Cas particuliers
Vrifications
Mthode de rejet
Lois gaussiennes

R DUCTION DE VARIANCE
Variables antithtiques
Variables de contrle
Monte Carlo conditionnel
chantillonnage dimportance
chantillonnage stratifi
A. Popier (Le Mans)

Mthode de Monte Carlo.

68 / 95

VARIABLES ANTITHTIQUES .
B UT : calculer = E(Y ) = E(f (X )).
D EUX V. A . Y1 et Y2 de mme loi que Y .


2
;
E(Y ) = 12 (E(Y1 ) + E(Y2 )) = E Y1 +Y
2


2
= Var (Y1 )+Var (Y42 )+2Cov(Y1 ,Y2 ) ;
Var Y1 +Y
2
si Y1et Y2 dcorrles
(ou indpendantes),

Var
(Y )
Y1 +Y2
=
;
Var
2

si Cov(Y1 , Y2 ) < 0, alors Var

Y1 +Y2
2

< Var2(Y ) .

Q UESTION : comment obtenir Y1 et Y2 de mme loi que Y avec


Cov(Y1 , Y2 ) < 0 ?
A. Popier (Le Mans)

Mthode de Monte Carlo.

69 / 95

VARIABLES ANTITHTIQUES UNIFORMES .


H YPOTHSE : Y = g(U) o U uniforme sur [0, 1] .
A LGORITHME CLASSIQUE avec chantillon de taille 2n.

M THODE
de i = 1 2n
gnrer Ui
dfinir Yi = g(Ui )
fin
2n

2n

1 X
1 X
2
dfinir 2n = Y 2n =
=
Yi et
2n
(Yi 2n )2
2n
2n 1
i=1
i=1

2n
2n
dfinir CI = [2n c , 2n + c ]
2n
2n

A. Popier (Le Mans)

Mthode de Monte Carlo.

70 / 95

VARIABLES ANTITHTIQUES UNIFORMES .


H YPOTHSE : Y = g(U) avec U uniforme sur [0, 1].
A LGORITHME avec chantillon de taille 2n.

M THODE
de i = 1 2n
gnrer Ui
dfinir Yi = g(1 Ui )
fin
2n
2n
1 X
1 X
2

dfinir 2n = Y 2n =
Yi et
2n =
(Yi 2n )2
2n
2n 1
i=1
i=1

2n
2n
dfinir CI = [2n c , 2n + c ]
2n
2n

A. Popier (Le Mans)

Mthode de Monte Carlo.

70 / 95

VARIABLES ANTITHTIQUES UNIFORMES .


H YPOTHSE : Y = g(U) avec U uniforme sur [0, 1].
A LGORITHME MLANG avec chantillon de taille n.

M THODE
de i = 1 n
gnrer Ui

i = g(1 Ui ) et Zi = Yi + Yi
dfinir Yi = g(Ui ), Y
2
fin
n
n
1X
1 X
dfinir n,a = Z n =
Zi et
n2 =
(Zi n )2
n
n1
i=1
i=1

n
n
dfinir CI = [n,a c , n,a + c ]
n
n

A. Popier (Le Mans)

Mthode de Monte Carlo.

70 / 95

VARIABLES ANTITHTIQUES UNIFORMES .


H YPOTHSE : Y = g(U) avec U uniforme sur [0, 1].
D IFFRENTS RSULTATS :
1 P2n
2n = Y 2n = 2n
i=1 Yi ;
Pn
1
n,a = Z n = n i=1 Zi .
C OMPARAISON DES VARIANCES
Var (2n ) = Var

P2n

i=1 Yi
2n

!
=

Var (Y )
2n

)
Cov(Y , Y
Var (n,a ) = Var (2n ) +
.
2n
Ainsi
Var (n,a ) < Var (2n ) Cov(g(U), g(1 U)) < 0.
A. Popier (Le Mans)

Mthode de Monte Carlo.

70 / 95

VARIABLES ANTITHTIQUES UNIFORMES .

H YPOTHSE : Y = g(U) avec U uniforme sur [0, 1].

T HORME
Si g est une fonction monotone, alors Cov(g(U), g(1 U)) < 0.

C ONSQUENCE
Mthode dinversion : g = f (FX1 ) est monotone si f lest.

A. Popier (Le Mans)

Mthode de Monte Carlo.

70 / 95

VARIABLES ANTITHTIQUES : GNRALISATION .


H YPOTHSE SUR X : il existe a t.q. X et a X aient la mme loi.

E XEMPLES
Lois normales N (, 2 ) : a = 2.
Lois de Laplace de paramtre > 0 : f (x) =

exp(|x|). a = 0.

M THODE
de i = 1 n
gnrer Xi

i = g(a Xi ) et Zi = Yi + Yi
dfinir Yi = g(Xi ), Y
2
fin
n
n
1 X
1X
dfinir n,a = Z n =
Zi et
n2 =
(Zi n )2
n
n1
i=1
i=1

dfinir CI = [n,a c , n,a + c ]


n
n
A. Popier (Le Mans)

Mthode de Monte Carlo.

71 / 95

E XEMPLE : OPTION K NOCK -I N .


C ONTRAT FINANCIER de payoff h(ST ) = max(0, ST K )1ST >B .

M ODLE B LACK -S CHOLES ST = S0 exp((r 2 /2)T + T X ,


X N (0, 1).
P RIX DU CONTRAT

C = erT E (h(ST )) = erT E max(0, ST K )1ST >B .
J EU DE PARAMTRES S0 = 2, K = 1, B = 2, 5, r = 0, 1, = 0.3,
T = 10, N = 5000.
R SULTATS OBTENUS
sans rduction de variance : C = 1.5720 (variance 5.4236) ;
avec rduction de variance : C = 1.5543 (variance 1.5827).

A. Popier (Le Mans)

Mthode de Monte Carlo.

72 / 95

P LAN
1
2

M THODE DE M ONTE C ARLO


P ROBLME DE SIMULATION
Thorme fondamental
Simulation de la loi uniforme
Fonction de rpartition
Mthode dinversion
Cas particuliers
Vrifications
Mthode de rejet
Lois gaussiennes

R DUCTION DE VARIANCE
Variables antithtiques
Variables de contrle
Monte Carlo conditionnel
chantillonnage dimportance
chantillonnage stratifi
A. Popier (Le Mans)

Mthode de Monte Carlo.

73 / 95

VARIABLES DE CONTRLE .
B UT : calculer = E(Y ) = E(f (X )).
A JOUT dune variable Z
facilement simulable ;
E(Z ) connue ou facilement calculable (variance petite ).
D EUX CALCULS POSSIBLES DE :
par mthode de Monte Carlo standard,
en posant Wc = Y + c(Z E(Z )) et en calculant E(Wc ) par
Monte Carlo (c : paramtre constant fix).
Q UESTION : Var (Wc ) < Var (Y ) ?
A. Popier (Le Mans)

Mthode de Monte Carlo.

74 / 95

VARIABLES DE CONTRLE .
C ALCUL DE LA VARIANCE :
Var (Wc ) = Var (Y ) + c 2 Var (Z ) + 2c Cov(Y , Z ).
C HOIX OPTIMAL DE c : c = Cov(Y ,Z ) ;
Var (Z )
Cov
(Y ,Z )2
Var (Wc ) = Var (Y )
;
Var (Z )
Var (Wc ) < Var (Y ) Cov(Y , Z ) < 0 ;
Z : variable de contrle de Y .
A LGORITHME :
N
1X

N,c =
(Yi + c (Zi E(Z ))) .
N
i=1

P ROBLMES : calcul de E(Z ) ? De Cov(Y , Z ) ?


A. Popier (Le Mans)

Mthode de Monte Carlo.

75 / 95

MMC AVEC VARIABLE DE CONTRLE .


M THODE
TAPE 1 : p petit dtermine une valeur approche de c .
Simuler p v.a. (Yn )1np et p v.a. (Zn )1np .
Poser :

i=1

i=1

X
X
b )= 1
b )= 1
Zi , E(Y
Yi ,
E(Z
p
p
p

d (Z ) =
Var

1 X
b ))2 ,
(Zj E(Z
p1
j=1

d ,Z) =
Cov(Y

1
p1

p
X

b ))(Zj E(Z
b ))).
(Yi E(Y

j=1

(Y ,Z )
Calculer cb = Cov
.
d
Var
(Z )
d

A. Popier (Le Mans)

Mthode de Monte Carlo.

76 / 95

MMC AVEC VARIABLE DE CONTRLE .


M THODE
TAPE 1 : p petit dtermine une valeur approche de c .
TAPE 2 : N grand.
Simuler N v.a. (Yn )1nN et N v.a. (Zn )1nN .
Poser :

N
1X
b
b ))) .
=
(Yi + cb (Zi E(Z
N
i=1

A. Popier (Le Mans)

Mthode de Monte Carlo.

76 / 95

U N EXEMPLE .

NONC
2

Calculer = E(e(U+V ) ) avec U et V de loi uniforme sur [0, 1].


2

Y = e(U+V ) .
Variables de contrle : Z1 = U + V , Z2 = (U + V )2 ou encore
Z3 = exp(U + V ).

A. Popier (Le Mans)

Mthode de Monte Carlo.

77 / 95

L E PROGRAMME ( CALCUL DE c ).



p=500;
u=rand ( p , 1 ) ; v=rand ( p , 1 ) ;
y=exp ( ( u+v ) . ^ 2 ) ; z1=u+v ; z2 =( u+v ) . ^ 2 ; z3=exp ( u+v ) ;
a1=cov ( [ y z1 ] ) ;
a2=cov ( [ y z2 ] ) ;
a3=cov ( [ y z3 ] ) ;
c_est1=a1 ( 1 , 2 ) / a1 ( 2 , 2 )
c_est2=a2 ( 1 , 2 ) / a2 ( 2 , 2 )
c_est3=a3 ( 1 , 2 ) / a3 ( 2 , 2 )

Valeurs obtenues :
c est1 = - 11.088954
c est2 = - 5.7049857
c est3 = - 3.9928724

A. Popier (Le Mans)

Mthode de Monte Carlo.

78 / 95

L E PROGRAMME (MMC).



n=5000;
u=rand ( n , 1 ) ; v=rand ( n , 1 ) ;
y=exp ( ( u+v ) . ^ 2 ) ; z1=u+v ; z2 =( u+v ) . ^ 2 ; z3=exp ( u+v ) ;

m1=mean( z1 )
m2=mean( z2 )
m3=mean( z3 )
w1=y+ c_est1 ( z1m1 ) ;
w2=y+ c_est2 ( z2m2 ) ;
w3=y+ c_est3 ( z3m3 ) ;
b0 = [mean( y ) s t d e v ( y ) ^ 2 ]
b1 = [mean( w1 ) v a r ( w1 ) ]
b2 = [mean( w2 ) v a r ( w2 ) ]
b3 = [mean( w3 ) v a r ( w3 ) ]
%Intervalle de confiance
CI = [ b2 (1) 1.96 s t d e v ( w2 ) / s q r t ( n ) ,
b2 ( 1 ) + 1 . 9 6 s t d e v ( w2 ) / s q r t ( n ) ]

A. Popier (Le Mans)

Mthode de Monte Carlo.


79 / 95

B ILAN .
Valeurs obtenues :
m1 = 1.0006399 (exacte 1) ;
m2 = 1.171765 (exacte 7/6 1.1666667) ;
m3 = 2.959135 (exacte (e 1)2 2.9524924) ;

b0
b1
b2
b3

moyenne
4.9317203
4.9317203
4.9317203
4.9317203

variance
34.564778
13.840552
7.7461357
7.2175877

CI = [4.8545742, 5.0088663].

A. Popier (Le Mans)

Mthode de Monte Carlo.

80 / 95

P LAN
1
2

M THODE DE M ONTE C ARLO


P ROBLME DE SIMULATION
Thorme fondamental
Simulation de la loi uniforme
Fonction de rpartition
Mthode dinversion
Cas particuliers
Vrifications
Mthode de rejet
Lois gaussiennes

R DUCTION DE VARIANCE
Variables antithtiques
Variables de contrle
Monte Carlo conditionnel
chantillonnage dimportance
chantillonnage stratifi
A. Popier (Le Mans)

Mthode de Monte Carlo.

81 / 95

M ONTE C ARLO CONDITIONNEL .


I DE : au lieu de calculer = E(Y ) = E(f (X )), pour Z v.a.
poser V = E(Y |Z ) = g(Z ) v.a. ;
et = E(V ).
C ONDITIONS :
Z facilement simulable ;
V facilement calculable.
C ALCULS DE LA VARIANCE : Var (Y |Z ) est une v.a. positive :
h
i
Var (Y |Z ) = E (Y E(Y |Z ))2 Z ,
et comme Y E(Y ) (E(Y |Z ) E(Y )) E(Y |Z ) E(Y ),
Var (Y ) = E(Var (Y |Z )) + Var (E(Y |Z )) Var (Y ) Var (E(Y |Z )).

A. Popier (Le Mans)

Mthode de Monte Carlo.

82 / 95

P LAN
1
2

M THODE DE M ONTE C ARLO


P ROBLME DE SIMULATION
Thorme fondamental
Simulation de la loi uniforme
Fonction de rpartition
Mthode dinversion
Cas particuliers
Vrifications
Mthode de rejet
Lois gaussiennes

R DUCTION DE VARIANCE
Variables antithtiques
Variables de contrle
Monte Carlo conditionnel
chantillonnage dimportance
chantillonnage stratifi
A. Popier (Le Mans)

Mthode de Monte Carlo.

83 / 95

VNEMENTS RARES .
Technique utilise beaucoup pour
= P(X seuil ) = E(1X seuil ),
quand loccurence de X seuil est trs petite.
E XEMPLES .
Catastrophes climatiques, ferroviaires, ariennes, etc.
Faillites de grosses entreprises, dtats, etc.
Cracks boursiers importants
B UT : mesurer les risques de portefeuille, oprationnels, etc.
(obligation lgale pour les banques ou les assurances).

A. Popier (Le Mans)

Mthode de Monte Carlo.

84 / 95

E XEMPLE .
X suit une loi normale de paramtres 0 et 1
= P(X 10) = E(1X 10 ).

M ONTE -C ARLO CLASSIQUE .


Nombre de tirages N variant de 1000 10000000.
Valeur estime : 0.
C ONCLUSION ERRONE : = 0.
VALEUR EXACTE : = 7.6199 1024 .
Nombre de tirages ncessaires de lordre de 1025 : impossible !

A. Popier (Le Mans)

Mthode de Monte Carlo.

85 / 95

CHANTILLONNAGE PRFRENTIEL : PRINCIPE .

Changer la loi. Soient la densit de X et une autre densit telle


que (x) 6= 0 si (x) 6= 0. Alors
Z
= E(f (X )) =
= E(h(Y )),

Z
f (x)(x)dx =

avec h(x) = f (x)

f (x)

(x)
(x)dx
(x)

(x)
et Y .
(x)

D FINITION : g est une fonction dimportance.


Q UESTION : comment choisir g ?

A. Popier (Le Mans)

Mthode de Monte Carlo.

86 / 95

R ETOUR SUR L EXEMPLE .


X N (0, 1) et = P(X 10) : forcer les tirages de Y tre aux
alentours de -10. Donc Y N (10, 1).

R EMARQUE
Si Y N (, 2 ), alors P(Y ) = 1/2.

 2
1
x
P(X 10) =
1x10 exp
2
2
R
 2



Z
1 exp x
2
1
(x + 10)2
2




exp
1x10
dx
(x+10)2
2
2
R
1 exp
2
2


Z

 1
(x + 10)2
dx
1x10 exp 10x + (10)2 /2 exp
2
2
R
E [1Y 10 exp (10Y + 50)] .
Z

=
=

A. Popier (Le Mans)

Mthode de Monte Carlo.

87 / 95

R ETOUR SUR L EXEMPLE .

= P(X 10) = E [1Y 10 exp (10Y + 50)].


M ONTE -C ARLO AVEC Y.
Valeur exacte = 7.6199 1024 .
Y=randn(N,1) - 10.
Nombre de tirages N variant de 1 10000.
Valeur estime : 8.0060 1024 .
cart-type : 2.6893 1023

A. Popier (Le Mans)

Mthode de Monte Carlo.

87 / 95

R ETOUR SUR L EXEMPLE .

A. Popier (Le Mans)

Mthode de Monte Carlo.

87 / 95

C HOIX DE LA FONCTION D IMPORTANCE .


D ONNES : densit de X , autre densit t.q. (x) 6= 0 si (x) 6= 0.


(Y )
, Y .
= E(f (X )) = E(h(Y )) = E f (Y )
(Y )
C ALCULS DE LA VARIANCE :
Z

f 2 (x)(x)dx 2 ;

f 2 (x)

Var (f (X )) =

Var (h(Y )) =

2 (x)
dx 2 .
(x)

Donc
Z
Var (f (X )) Var (h(Y )) =

A. Popier (Le Mans)



(x)
f (x) 1
(x)dx > 0.
(x)
2

Mthode de Monte Carlo.

88 / 95

C HOIX DE LA FONCTION D IMPORTANCE .


D ONNES : densit de X , autre densit t.q. (x) 6= 0 si (x) 6= 0.


(Y )
, Y .
= E(f (X )) = E(h(Y )) = E f (Y )
(Y )
C ALCULS DE LA VARIANCE :
Z
Var (f (X )) Var (h(Y )) =



(x)
f (x) 1
(x)dx > 0.
(x)
2

P ISTE : si (x) = f (x)(x)/, Var (h(Y )) = 0 ! Prendre proche de


f ...

T HORME (RUBINSTEIN )
La densit qui minimise la variance est
(x) = R
A. Popier (Le Mans)

1
|f (x)|(x).
|f (x)|(x)dx
Mthode de Monte Carlo.

88 / 95

C HOIX DE LA FONCTION D IMPORTANCE .

D ONNES : densit de X , autre densit t.q. (x) 6= 0 si (x) 6= 0.




(Y )
, Y .
= E(f (X )) = E(h(Y )) = E f (Y )
(Y )
C ALCULS DE LA VARIANCE :
Z
Var (f (X )) Var (h(Y )) =



(x)
f 2 (x) 1
(x)dx > 0.
(x)

I DE :
prendre / > 1 quand f petit ;
prendre / < 1 quand f grand.

A. Popier (Le Mans)

Mthode de Monte Carlo.

88 / 95

P LAN
1
2

M THODE DE M ONTE C ARLO


P ROBLME DE SIMULATION
Thorme fondamental
Simulation de la loi uniforme
Fonction de rpartition
Mthode dinversion
Cas particuliers
Vrifications
Mthode de rejet
Lois gaussiennes

R DUCTION DE VARIANCE
Variables antithtiques
Variables de contrle
Monte Carlo conditionnel
chantillonnage dimportance
chantillonnage stratifi
A. Popier (Le Mans)

Mthode de Monte Carlo.

89 / 95

P RINCIPE DE L CHANTILLONNAGE STRATIFI .


O BJECTIF : valuer = E(Y ) avec Y v.a. relle. Soit A1 , . . . , AK
sous-ensembles disjoints de R tels que P(Y i Ai ) = 1. Alors
=

K
X

P(Y Ai )E(Y |Y Ai ) =

K
X

pi E(Y |Y Ai ).

i=1

i=1

S TRATIFICATION PROPORTIONNELLE . Soit N la taille de lchantillon.


choisir les Ai avec pi = P(Y Ai ) ;
poser ni = Npi (considr comme entier) ;
pour chaque i = 1, . . . , K , simuler Yij , j = 1, . . . , ni i.i.d. suivant la
loi de Y sachant Y Ai .

K
X
i=1

A. Popier (Le Mans)

ni
ni
K
X
1
1 XX
pi
Yij =
Yij .
ni
N
j=1

Mthode de Monte Carlo.

i=1 j=1

90 / 95

G NRALISATION .
I

S TRATIFICATION FONCTION DE X .
Ai choisis tels que P(X i Ai ) = 1 :
=

K
X

P(X Ai )E(Y |Y Ai ) =

i=1

K
X

pi E(Y |X Ai ).

i=1

Gnrer (Xij , Yij ) suivant la loi conditionnelle de (X , Y ) sachant


X Ai .
I

S UPPRIMER LA PROPORTIONNALIT .
Autoriser
le nombre de tirages n1 , . . . , nk arbitraire (avec
P
i ni = N) ;
Poser qi = ni /N :

b =
Y

K
X
i=1

A. Popier (Le Mans)

ni
ni
K
X
1 X pi X
1

Yij =
Yij .
pi
ni
N
qi

j=1

Mthode de Monte Carlo.

i=1

j=1

91 / 95

E XEMPLES .
I

S TRATIFICATION DE LA LOI UNIFORME .


Partition de ]0, 1[ : Ai =]ai , bi ] ;
Loi de U sachant U Ai : uniforme entre ai et bi ;
chantillon : Vi = ai + (bi ai )Ui .
Exemple : Ai =](i 1)/N, i/N], i = 1, . . . , N.

V IA FONCTION DE RPARTITION .
Y de fonction de rpartition F .
Pour p1 , . . . , pK donnes, avec a0 = ,
a1 = F 1 (p1 ), a2 = F 1 (p1 + p2 ), . . . , aK = F 1 (1),
et Ai =]ai1 , ai ] pour i = 1, . . . , K . Si ak = +, alors
AK =]aK 1 , aK [.
V = ai1 + U(ai ai1 ) uniforme sur Ai et F 1 (V ) a la loi de Y
sachant Y Ai .
A. Popier (Le Mans)

Mthode de Monte Carlo.

92 / 95

b.
A NALYSE DE L ESTIMATEUR Y
N OTATIONS :
i = E(Yij ) = E(Y |X Ai ),

2 = Var (Yij ) = Var (Y |X Ai ).

E STIMATEUR SANS BIAIS :


b) =
E(Y

K
X
i=1

ni
N
X
X
1
pi
E(Yij ) =
pi i = .
ni
j=1

i=1

de variance :
b) =
Var (Y

K
X
i=1

ni
N
X
X
2
1
2 (q)
pi2 i =
pi2 Var
E(Yij ) =
ni
ni
N
i=1

j=1

avec
2

(q) =

N
X
p2
i

i=1
A. Popier (Le Mans)

qi

i2 .

Mthode de Monte Carlo.

93 / 95

b.
A NALYSE DE L ESTIMATEUR Y
I NTERVALLE DE CONFIANCE :
1
p
[Nqi ]

[Nqi ]

en loi

(Yij i ) N (0, i2 )

j=1

do

[Nqi ]
K

X
X

1
b
N Y
=
N
pi
(Yij i )
[Nqi ]
i=1
j=1

[Nqi ]
K
X
X
pi
1

(Yij i )
p
qi
[Nqi ]
i=1

Ainsi

A. Popier (Le Mans)

j=1



loi
b en
N Y
N (0, (q)2 ).
Mthode de Monte Carlo.

93 / 95

b.
A NALYSE DE L ESTIMATEUR Y
I NTERVALLE DE CONFIANCE : Ainsi


loi
b en
N (0, (q)2 ).
N Y
(q)2 : estim via
s2 (q) =

N
X
p2
i

i=1

qi

si2 , avec si dviation standard de Yi1 , . . . , Yini ;

ou
I
I

N = mk , ki = qi k et ni = mki ,
b moyenne de m estimateurs Y
bi qui allouent une fraction qi
Y
dobservations pour la strate i et de taille k ,
bi de variance (q)2 /k et Y
b de variance ((q)2 /k )/m.
Y

A. Popier (Le Mans)

Mthode de Monte Carlo.

93 / 95

R DUCTION DE VARIANCE ?
I

C AS PROPORTIONNEL .
2
N

Ainsi :

" K
#
X
1
1
(E(Y 2 ) 2 ) =
pi E(Y 2 |X Ai ) 2
N
N
i=1
" K
#
1 X
pi (i2 + i2 ) 2
N
1
N

i=1
K
X

pi i2 +

i=1

K
1X
pi (i )2
N
i=1

K
X
2
bProp ) = 1
Var (Y
pi (i )2 .
N
N
i=1

A. Popier (Le Mans)

Mthode de Monte Carlo.

94 / 95

R DUCTION DE VARIANCE ?
I
I

K
1X
2
b
Var (YProp ) =
pi (i )2 .
C AS PROPORTIONNEL . Ainsi :
N
N
i=1
O PTIMISATION .

Trouver le minimum de 2 (q) =

N
X
p2
i

i=1

qi

i2 avec qi = ni /N et

n1 + . . . + nk = N.
pi i
Optimum : qi = K
.
X
pj j
j=1

Ainsi

K
X

2
bOpt ) = 1
Var (Y
pj j =
.
N
N
j=1

bProp ) Var (Y
bOpt ) =
Var (Y

K
2
1X
pj j
.
N
j=1

A. Popier (Le Mans)

Mthode de Monte Carlo.

94 / 95

R DUCTION DE VARIANCE ?
I

K
1X
2
b
Var (YProp ) =
pi (i )2 .
C AS PROPORTIONNEL . Ainsi :
N
N

O PTIMISATION .

i=1

bProp ) Var (Y
bOpt ) =
Var (Y

K
2
1X
pj j
.
N
j=1

C ONCLUSION .
2
N

=
=

2
2
bProp ) + Var (Y
bProp ) Var (Y
bOpt ) +
Var (Y
N
N
K
K
X
2
1 X
pi (i )2 +
pj j
+
2 .
N
i=1

A. Popier (Le Mans)

j=1

Mthode de Monte Carlo.

94 / 95

E XEMPLE NUMRIQUE .

O BJECTIF : calculer = E(Y ) = E( 1 U 2 ), avec variable de


stratification X = U.

Pour Ai =]ai , bi ], Yi = ( 1 U 2 |U Ai ) obtenue via (U|U Ai )


uniforme sur Ai .
Choix : A1 =]0, K1 ], A2 =] K1 , K2 ], . . . , AK =] KK1 , 1].
pi = 1/K , ni = Npi = N/K .
R SULTATS :
N = 10000, K = 100.
Monte-Carlo standard : = 0, 782 avec intervalle de confiance
[0, 7775; 0, 7864]. Variance : 0,05.
chantillonnage stratifi : = 0, 7854 avec intervalle de confiance
[0, 7853; 0, 7855]. Variance : 2, 65 105 .

A. Popier (Le Mans)

Mthode de Monte Carlo.

95 / 95