Académique Documents
Professionnel Documents
Culture Documents
Emmanuel Duguet
Septembre 2010
table des matières
2 Algèbre linéaire 14
2.1 Calcul matriciel . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14
2.2 Matrices définies positives . . . . . . . . . . . . . . . . . . . . . . 15
2.3 Produits de Kronecker . . . . . . . . . . . . . . . . . . . . . . . . 16
1
ANNEXE 1
Moments empiriques et
moments théoriques
car on a :
⎛ ⎞
1
⎜ 1 ⎟ XN
⎜ ⎟
z 0 e = (z1 , z2 , ..., zN ) ⎜ .. ⎟ = z1 + z2 + ... + zN = zi ,
⎝ . ⎠ i=1
1
et : ⎛ ⎞
1
⎜ 1 ⎟
⎜ ⎟
e0 e = (1, 1, ..., 1) ⎜ .. ⎟ = |1 + 1 +
{z... + 1} = N.
⎝ . ⎠
N fois
1
2
3
En posant z = 0, on trouve :
N
X
z0 z = zi2 .
i=1
Il peut donc prendre différentes formes en fonction des expressions que nous
avons vu plus haut. On peut faire apparaître son expression dans la définition
des différents estimateurs.
⎛ ⎞
X (1)0 X (1) X (1)0 X (2) ... X (1)0 X (p)
⎜ X (1)0 X (2) X (2)0 X (2) ... X (2)0 X (p) ⎟
⎜ ⎟
=⎜ .. .. .. .. ⎟
⎝ . . . . ⎠
X (p)0 X (1) X (p)0 X (2) ... X (p)0 X (p)
⎛ PN 2 PN PN ⎞
x i=1 xi1 xi2 ... xi1 xip
⎜ PNi=1 i1 P N 2
Pi=1
N ⎟
⎜ i=1 x i1 xi2 i=1 xi2 ... i=1 xi2 xip ⎟
=⎜
⎜ .. .. .. .. ⎟
⎟
⎝ . . . . ⎠
PN PN PN 2
i=1 xi1 xip i=1 xi2 xip ... i=1 xip
⎛ PN PN ⎞
N −1 i=1 x2i1 ... N −1 i=1 xi1 xip
⎜ P P ⎟
⎜ N −1 Ni=1 xi1 xi2 ... N −1 Ni=1 xi2 xip ⎟
Ve (X) = ⎜
⎜ .. .. .. ⎟
⎟
⎝ . . . ⎠
−1
PN −1
PN 2
N i=1 xi1 xip ... N i=1 xip
⎛ ⎞
x1
⎜ x2 ⎟ ¡ ¢
⎜ ⎟
−⎜ . ⎟ x1 x2 ··· xp
⎝ .. ⎠
xp
7
⎛ PN PN ⎞ ⎛ ⎞
N −1 i=1 x2i1 ... N −1 i=1 xi1 xip x21 ... x1 xp
⎜ P P ⎟ ⎜ ⎟
⎜ N −1 N
i=1 xi1 xi2 ... N −1 N
i=1 xi2 xip ⎟ ⎜ x1 x2 ... x2 xp ⎟
=⎜
⎜ .. .. .. ⎟−⎜
⎟ ⎝ .. .. .. ⎟
⎝ . . . ⎠ . . . ⎠
P P
N
N −1 i=1 xi1 xip ...
N
N −1 i=1 x2ip x1 xp ... x2p
⎛ P P ⎞
N −1 N 2
i=1 xi1 − x1
2
... N −1 N xi1 xip − x1 xp
⎜ −1
P N Pi=1
N ⎟
⎜ N i=1 xi1 xi2 − x1 x2 ... N −1 i=1 xi2 xip − x2 xp ⎟
=⎜
⎜ .. .. .. ⎟
⎟
⎝ . . . ⎠
P P
N −1 Ni=1 i1 xip − x1 xp
x ... N −1 N 2
i=1 xip − xp
2
⎛ ⎞
x2i1 xi1 xi2 ... xi1 xip
XN ⎜ xi1 xi2 x2i2 ... xi2 xip ⎟
⎜ ⎟
= ⎜ .. .. .. .. ⎟
i=1
⎝ . . . . ⎠
xi1 xip xi2 xip ... x2ip
⎛ PN 2 PN PN ⎞
x i=1 xi1 xi2 ... xi1 xip
⎜ PNi=1 i1 P N 2
Pi=1
N ⎟
⎜ i=1 xi1 xi2 i=1 xi1 ... i=1 xi2 xip ⎟
=⎜
⎜ .. .. .. .. ⎟
⎟
⎝ . . . . ⎠
PN PN PN 2
i=1 xi1 xip i=1 xi2 xip ... i=1 xip
= X 0X
8
⎛ ⎞ ⎛ ⎛ PN
⎞ ⎞
X (1)0 X (1)0 y i=1 xi1 yi
⎜ X (2)0 ⎟ ⎜ X (2)0 y ⎟ ⎜ PN xi2 yi ⎟ X N
⎜ ⎟ ⎜ ⎟ ⎜ i=1 ⎟
X0 y =⎜ .. ⎟y = ⎜ .. ⎟=⎜ . ⎟ = X 0 yi .
(N,p)(N,1) ⎝ . ⎠ ⎝ . ⎠ ⎝ .. ⎠ i=1 i
PN
X (p)0 X (p)0 y i=1 xip yi
⎛ P ⎞ ⎛ ⎞
N −1 N xi1 yi x1 y
⎜ −1
Pi=1
N ⎟ ⎜ ⎟
⎜ N i=1 xi2 yi ⎟ ⎜ x2 y ⎟
=⎜ .. ⎟−⎜ .. ⎟
⎝ . ⎠ ⎝ . ⎠
PN
N −1 i=1 xip yi xp y
⎛ PN ⎞
N −1 i=1 xi1 yi − x1 y
⎜ P ⎟
⎜ N −1 Ni=1 xi2 yi − x2 y ⎟
=⎜ .. ⎟
⎝ . ⎠
PN
N −1 i=1 xip yi − xp y
⎛ ⎞
Cove (x1 , y)
⎜ Cove (x2 , y) ⎟
⎜ ⎟
=⎜ .. ⎟.
⎝ . ⎠
Cove (xp , y)
Sous certaines conditions, les moments empiriques que nous venons de voir
convergent en probabilité vers les moments théoriques correspondants. Ce point
est examiné dans la section suivante.
9
Plim bbN = b,
a + bb = Plim b
Plim b a + Plim bb = a + b,
a bb = Plim b
Plim b a Plim bb = a b,
b
a Plim b
a a
Plim = = , b 6= 0.
bb Plim bb b
10
D’autre part :
1. Si |Z| ≥ δ on a D = 1 donc :
|Z| Z2
≥ 1 ⇒ 2 ≥ D = 1.
δ δ
|Z| Z2
≥ 0 ⇒ 2 ≥ D = 0.
δ δ
On note ce résultat :
bbN m.q.
−→ b.
N →+∞
Cette définition porte directement sur la distance entre bbN et b. Elle impose
que cette distance s’annule quand le nombre d’observations devient suffisamment
grand. L’équivalence entre les deux définitions vient du développement suivant
:1
∙³ ´2 ¸ h i h ³ ´i2
E bbN − b = V bbN − b + E bbN − b
³ ´ ³ ³ ´ ´2
= V bbN + E bbN − b ≥ 0.
Les deux termes précédents sont positifs ou nuls donc pour que³ l’expression
´
s’annule lorsque N → +∞, il faut que l’on ait simultanément V bbN → 0 et
³ ´
E bbN → b.
¤
1 On rappelle que : V(X) = E X 2 − E(X)2 ⇔ E X 2 = V(X) +E(X)2 . Ici on pose
X =e bn − b.
12
alors " #
N N
1 X 1 X
Plim Xk − mk = 0.
N N
k=1 k=1
preuve : P
Il suffit de poser Z = N −1 N k=1 (Xk − mk ) dans l’inégalité de Bienaymé-
Chebichev (théorème [1.2]) :
"¯ ¯ # "N #
¯1 X N
1 X
N ¯ 1 X
¯ ¯
∀δ > 0, Pr ¯ Xk − mk ¯ ≥ δ ≤ 2 2 V Xk −→ 0.
¯N N ¯ δ N N →+∞
k=1 k=1 k=1
En effet, on a :
N
1 X
E (Z) = [E (Xk ) − mk ] = 0
N
k=1
" N N
# " N
#
1 X 1 X 1 X
V (Z) = V Xk − mk = V Xk
N N N
k=1 k=1 k=1
PN h PN i
car N −1 k=1 mk est une quantité certaine et que l’on a :V N −1 k=1 Xk =
hP i
N
N −2 V k=1 Xk .
−1
PN −1
D’autre part N k=1 mk = N (N × m) = m. On a donc le résultat de
convergence suivant :
Plim X = m,
la moyenne empirique converge vers l’espérance mathématique commune des
variables (X1 , ..., Xk ) .
Exemple 1.2 On considère un échantillon de variables (X1 , ..., Xk ) indépen-
dantes de variances différentes et finies : V (Xk ) = σ 2k . La moyenne arithmé-
P
tique de ces variances N −1 N 2
k=1 σ k = σ est également finie. En effet :
ce qui implique :
"N # N
1 X 1 X 2 σ
V Xk = σk = →0 quand N → +∞.
N2 N2 N
k=1 k=1
On en déduit que :
N
1 X
Plim X = Plim E (Xk ) .
N
k=1
Algèbre linéaire
∀α ∈ IRn , Aα = 0 ⇒ α = 0.
3. A est de plein rang ligne si ses lignes sont linéairement indépendantes (i.e.,
si A0 est de plein rang colonne).
14
15
définition 2.2 Une matrice A de format (m, m) est définie positive lorsque :
La propriété suivante est utile pour comparer les variances des différents
estimateurs.
propriété 2.1 Soit X(n,p) une matrice quelconque, alors X 0 X est semi définie
positive.
preuve :
En posant A = X 0 X, on obtient :
0 2
s (α, X 0 X) = α0 X 0 Xα = (Xα) (Xα) = kXαk ≥ 0.
| {z } | {z }
(1,n) (n,1)
propriété 2.2 Soit X(n,p) une matrice de plein rang colonne, rang (X) = p,
alors X 0 X est définie positive (donc de rang égal à p).
preuve :
La matrice X est de plein rang colonne :
∀α ∈ IRp , X 0α = 0 ⇒ α = 0
donc kXαk2 ne peut être nul que dans le cas α = 0. En conséquence :
∀α ∈ IRp , α 6= 0, kXαk2 > 0.
¤