Convergencia en Probabilidad

Apuntes Teora Economtrica I.
Profesor: Viviana Fernndez

CONCEPTOS BASICOS DE TEORIA ASINTOTICA
1. Convergencia en Probabilidad
La variable aleatoria x
n
converge en probabilidad a una constante c si
lim
n
Prob(x
n
c>)=0
para cualquier >0.
La definicin anterior indica que se hace cada vez ms improbable que
x
n
tome valores distintos a c, a medida que n, el tamao de la muestra,
aumenta.
Ejemplo 1
Supongamos que tenemos una variable aleatoria x
n
cuya distribucin de
probabilidad es la siguiente:
'
n x si
n
1
0 x si
n
1
1
) x ( f
n
n
n
En este caso,
lim
n
Prob(x
n
0>)=0
Es decir, x
n
converge en probabilidad a 0. Por qu? La razn es que, a
medida que n aumenta, x
n
toma el valor de n con una probabilidad cada vez
menor (1/n converge a 0 a medida que n). Esto es, toda la masa de la
distribucin se concentra en aquellos puntos en la vecindad de 0
En general, si x
n
converge en probabilidad a c, escribimos
plim x
n
=c o c x
p
n

Apuntes Teora Economtrica I. Profesor: Viviana Fernndez 2
La convergencia en probabilidad se denomina convergencia dbil. En
contraste, la convergencia casi segura (almost surely o a.s) o con
probabilidad 1 se denomina convergencia fuerte. Esta se define de la
siguiente manera:
Prob{lim
n
x
n
()=x()} = 1
Esto es, la secuencia {x
n
} converge a x con probabilidad 1. Esto se
simboliza
x x
s . a
n

Ejemplos de convergencia fuerte son los siguientes:
i) Si {x
n
} es una secuencia de variables aleatorias independientes e
idnticamente distribuidas con E(x
n
)=<, entonces:

s . a
n
x
por la ley fuerte de los grandes nmeros.
ii) Prob{lim
n
x
n
=0} = 1 0 x
s . a
n
.
Nota: Es comn encontrar en libros avanzados de econometra las notaciones
O(1/n) y o(1/n). Se dice que c
n
es O(1/n) si plim (nc
n
) es una constante finita
distinta de cero. En tanto, se dice que c
n
es o(1/n) si plim (nc
n
)=0. Por ejemplo,
2
n
n
3
n
1
c + es O(1/n), dado que plim(nc
n
)=1
2
n
n
1
c es o(1/n), dado que plim(nc
n
)=0
2.- Convergencia en Media Cuadrtica
Si x
n
tiene media
n
y varianza
n
2
, tal que:
lim
n

n
= lim
n
n
2
=0
entonces decimos que x
n
converge en media cuadrtica (quadratic mean o
q.m) a . Esto se representa como:

m . q
n
x
Adems, se tiene que plim x
n
=.
Este ltimo resultado se basa en la desigualdad de Chebychev, la cual
establece que si x
n
es una variable aleatoria y c y son constantes, entonces
Prob(x
n
c>)E(x
n
c)
2
/
2
.
Si hacemos c=
n
, tenemos que Prob(x
n
n
)E(x
n
n
)
2
/
2
=
n
2
/
2
. Si
tomamos lmites en ambos lados de la desigualdad cuando n, tenemos:
lim
n
Prob(x
n
n
) lim
n
n
2
/
2
Lo cual implica que plim x
n
=, dado que lim
n

n
= y lim
n
n
2
=0.
Importante: Convergencia en media cuadrtica implica convergencia en
probabilidad, pero no viceversa. Utilicemos el Ejemplo 1 para ilustrar este
punto:
1 )
n
1
(1 0
n
1
n ) x ( E
n
+ ; n )
n
1
1 ( ) 1 0 (
n
1
) 1 n ( ) x ( Var
2 2
n
+
Entonces lim
n
E(x
n
)=1; lim
n
Var(x
n
)=. Sin embargo, plim x
n
=0.
3.- Estimador Consistente
Se dice que un estimador
de un parmetro es consistente si y slo

si:
plim
=
Caso Particular: Consistencia de la Media Muestral
La media muestral x de cualquier poblacin con media finita y
varianza finita
2
es un estimador consistente de .
Veamos por qu:
Sabemos que
n
1 i
i
x
n
1
x , donde x
1
, ..., x
n
es una muestra de una
poblacin cuya distribucin tiene media y varianza finitas y
2
,
respectivamente. Entonces:

) n (
n
1
) x ( E
n
1
) x ( E
n
1 i
i
n
) n (
n
1
) x ( Var
n
1
) x ( Var
2
2
n
1 i
2
i
2
, asumiendo que las xs son

independientes e idnticamente distribuidas (i.i.d).
De lo anterior, lim
n
E( x )= y lim
n
Var( x )=0. Por lo tanto, x
converge en media cuadrtica a . Ello implica que plimx =
Corolario
Con muestreo aleatorio, para cualquier funcin g(x), si E(g(x)) y
Var(g(x)) son constantes finitas, se tiene que:
n
1 i
i i
)) x ( g ( E ) x ( g
n
1
plim
Demostracin
Sea y
i
=g(x
i
). El resultado se sigue de la consistencia de la media
muestral.
Ejemplo 2
Sea xN(,
2
). Entonces E(e
x
)=
2
5 . 0
e
+
y Var(e
x
)=
2 2
2 5 . 0 2
e e
+ +
.
En base al corolario anterior,
2
i
5 . 0
n
1 i
x
e e
n
1
plim
+

4.- Teorema de Slutsky
Para una funcin continua g(x
n
) que no es una funcin de n se tiene:
plim g(x
n
)=g(plim x
n
).
5.- Reglas de la Probabilidad Lmite
Estas son simplemente aplicaciones del teorema de Slutsky.
a) Escalares
Si x
n
e y
n
son variables aleatorias con plim x
n
=c y plim y
n
=d, entonces:
plim(x
n
+ y
n
)=c + d regla de la suma
plim(x
n
y
n
)=c d regla del producto
plim
d
c
y
x
n
n
,
_
regla de la divisin (con d0).

Ejemplo 3
Supongamos que la media y varianza muestral del conjunto de variables
aleatorias i.i.d x
1
, ..,x
n
con esperanza y varianza poblacional y
2
,
respectivamente, son estimadores consistentes. Esto es,

n
1 i
i
x
n
1
plim x plim ,
2
n
1 i
2
i
2
) x x (
1 n
1
plim s plim
.
Entonces, por el teorema de Slutsky:
2
2
2
2
2
2
2
2
) s ( plim
)) x ( plim (
) s ( plim
) x ( plim
s
x
plim
,
_

b) Matrices
Sea W
n
una matriz cuyos elementos son variables aleatorias, tal que
plimW
n
= , con matriz invertible. Entonces:
plim W
n
1
=
1
regla de la matriz inversa
Si X
n
e Y
n
son matrices de variables aleatorias, tal que plim X
n
=A y
plim Y
n
=B, entonces
plim (X
n
Y
n
)=A B regla de la matriz producto
6.- La Desigualdad de Jensen
Si g(x
n
) es una funcin cncava de x
n
, entonces:
g(E(x
n
)) E(g(x
n
))
En tanto, si la funcin g(.) es convexa, entonces g(E(x
n
)) E(g(x
n
)). Si
la funcin g(.) es lineal, g(E(x
n
)) = E(g(x
n
)).
Veamos un ejemplo.
Ejemplo 4
Supongamos la siguiente funcin cncava:
g(x)=ln(x), x>0
0
x
1
) x ( ' g > , 0
x
1
) x ( ' ' g
2
<
Supongamos que x es una variable aleatoria discreta, tal que:
'
no si 0
2
1
x si
2
1

1 x si
2
1
) x ( f
4
3
2
1
x
2
1
2
1
x 1 ) x ( E + .
Sea y=ln(x) una nueva variable aleatoria. Entonces:
'
no si 0
ln(2) - y si
2
1
0 y si
2
1
) y ( f
35 . 0 2 ln
2
1
x ) 2 ln(
2
1
x 0 ) y ( E
0
x
ln(x)
De lo anterior es fcil verificar que ln E(x)-0.29>E(ln(x))0.35
7.- Convergencia en Distribucin
x
n
converge en distribucin a una variable aleatoria x con funcin
distribucin acumulada (f.d.a) F(x) si:
lim
n
(F(x
n
)F(x))=0
en todos aquellos puntos de continuidad de F(x).
Esto se simboliza como x x
d
n
.
Reglas para la Distribucin Lmite
1.- Si x x
d
n
y plim y
n
=c, entonces:
cx y x
d
n n

Adems,
x c y x
d
n n
+ +
c
x
y
x
d
n
n
con c0
2.- Si x x
d
n
y g(x
n
) es una funcin continua, entonces ) x ( g ) x ( g
d
n
.
3.-Si plim(x
n
y
n
)=0, entonces x
n
e y
n
tienen la misma distribucin lmite.
Ejemplo 5
Supongamos una muestra de n observaciones i.i.d extradas de la
distribucin xN(0,
2
). Sabemos de los cursos de inferencia estadstica que:
1 n
t
n / s
x
donde
n
1 i
i
x
n
1
x ,
n
1 i
2
i
2
) x x (
1 n
1
s .
Bajo ciertas condiciones de regularidad, se tiene que plim s
2
=
2
y
) , 0 ( N x n
2 d
. Entonces
) 1 , 0 ( N x n
s
1
d

Importante
Convergencia en probabilidad implica convergencia en distribucin,
pero no viceversa. Es decir, el concepto de convergencia en probabilidad es
ms fuerte. Veamos por qu. En primer trmino, si )
( plim
n
, entonces

d
n
. Ello, simplemente porque:
'

o n si 0
si 1
)
( f lim
n
n n
Grficamente
n=1000
n
f
n
n=100
n

(Para una demostracin formal, ver Amemiya (1985) o White (1984)).
Por otra parte, convergencia en distribucin no implica convergencia en
probabilidad a una constante. Para probar tal aseveracin, basta con dar un
contraejemplo.
Supongamos que:
'
+
+

2 x si
1 n
1
2
1
1 x si
1 n
1
2
1
) x ( f
n
n
n
Se tiene que x x
d
n
, donde
'

2 x si
2
1
1 x si
2
1
) x ( f
Es decir, x
n
converge a una variable aleatoria pero no a una constante
Las distintas formas de convergencia se pueden resumir en el siguiente
diagrama:
Fuente: Amemiya (1985)
p d q. m
a. s
Como veremos en las prximas secciones, una manera ms informativa
de describir un estimador cualquiera,
, es a travs de una transformacin

estabilizante:
) z ( f )
( n z
d
n

donde f(z) es una funcin distribucin de probabilidades bien definida, con
media y varianza finitas.
8.- Teorema del Lmite Central Univariado (Lindberg-Levy)
Si x
1
, x
2
, ..., x
n
constituye una muestra aleatoria de una distribucin de
probabilidad con una media finita y varianza
2
y
n
1 i
i n
x
n
1
x , entonces:
) , 0 ( N ) x ( n
2 d
n

9.- Teorema del Lmite Central con Varianzas Distintas (Lindberg-Feller)
Sea {x
i
}
i=1, ..., n
un conjunto de n variables aleatorias con medias y
varianzas finitas
i
y
i
2
, respectivamente. Defnase

n
1 i
2
i
2
n
n
1
.
Si 0
n
) ( max
lim
n
i
n

y
2 2
n n
lim

, entonces:
) , 0 ( N ) x ( n
2 d
n n

donde

n
1 i
i n
n
1
.
Estos dos teoremas tambin se pueden expresar en trminos matriciales
(ver Greene, captulo 4).
10.- Distribucin Asinttica de una Funcin de una Variable Aleatoria
Supongamos que ) , 0 ( N ) z ( n
2 d
n
. Entonces si g(z
n
) es una
funcin continua que no depende de n, se tiene que:
) )) ( (g' , 0 ( N )) ( g ) z ( g ( n
2 2 d
n

Un bosquejo de la demostracin es el siguiente. Por una expansin de
Taylor de primer orden se tiene que:
g(z
n
)g()+g()(z
n
)
De ello, ) )) ( (g' , 0 ( N ) z ( n ) ( g' )) ( g ) z ( g ( n
2 2 d
n n

Para analizar el caso multivariado, consideremos un vector z
n
de
variables aleatorias k x 1, tal que ) , ( N ) ( n
d
n
0 z . Si g(z
n
) es un
vector de J funciones continuas de z
n
que no dependen de n, entonces:
) ' , ( N )) ( ) ( ( n
d
n
C C 0 g z g ,
donde C es una matriz j x k cuya j-sima fila es el vector de derivadas
parciales de la j-sima funcin con respecto a z
n
, evaluado en :
,
_
,
_
kn
J
n 2
J
n 1
J
kn
2
n 2
2
n 1
2
kn
1
n 2
1
n 1
1
' n
n
n
2
n
1
z
) ( g
...
z
) ( g
z
) ( g
... ... ... ...
z
) ( g
...
z
) ( g
z
) ( g
z
) ( g
...
z
) ( g
z
) ( g
) ( g
...
'
) ( g
'
) ( g

z
z
z
C ,
,
_
kn
n 2
n 1
n
z
...
z
z
z
Aplicaciones: Consistencia y Normalidad Asinttica de Mnimos Cuadrados
Ordinarios (MICO)
Consideremos el modelo lineal clsico expresado en trminos
matriciales:
y=X + E( X)=0, E( )=
2
I, con
2
constante finita.
Asumamos que Q X X

'
n
1
lim
n
, matriz positiva definida e
invertible, donde, por simplicidad, se asume que X es una matriz de variables
no estocsticas.
El estimador MICO viene dado por:
) '
n
1
( ) '
n
1
( ' ) ' (
1 1
X X X Y X X X

+
Entonces:
) '
n
1
( plim ) '
n
1
( plim ) '
n
1
( lim
plim
1 1
n
X Q X X X

+ + ,
por las propiedades de probabilidad lmite descritas en secciones anteriores.
Pero

n
1 i
i
n
1 i
i i
n
1
n
1
'
n
1
w w x X ,
donde x
i
es el vector 1 x k correspondiente a la i-ava fila de la matriz X y
w
i
x
i
i
.
Se tiene que:
0 w w w

n
1 i
i i
n
1 i
i
) ( E
n
1
) ( E
n
1
) ( E
n
'
n
) ' ( E '
n
1
) ' ( E ) ( Var
2
2
X X
X X w w w

.
De ello, 0 Q
X X
w
,
_
,
_

1 -
n
2
n n
x 0
n
'
lim
n
lim ) ( Var lim .
Esto implica que w converge en media cuadrtica a 0 y, por lo tanto,
plim w=0. Es decir, plim 0 X '
n
1
.
En consecuencia,
+

0 Q
plim
1
.
Esto es, el estimador MICO es consistente.
El supuesto de X no estocsticos se puede relajar fcilmente. En verdad,
se reemplaza el supuesto Q X X

'
n
1
lim
n
por Q X X '
n
1
plim y se
procede de manera anloga.
Para establecer normalidad asinttica, notemos que la igualdad
) '
n
1
( ) '
n
1
(
1
X X X

+ puede ser reescrita como:
) '
n
1
( ) '
n
1
( )
( n
1
X X X

.
Dado que Q X X

'
n
1
lim
n
, necesitamos establecer la distribucin
lmite de w X n '
n
1
. Para ello, hacemos uso del teorema del lmite
central de Lindberg-Feller.
Notemos que

n
1 i
i i
n
1
x w es el promedio de n variables aleatorias
independientes x
i
i
con media 0 y varianza Var(x
i
i
)= x
i
Var(
i
) x
i
=
2
x
i
x
i
.
Por lo tanto,
n
'
'
n
) ( Var
n
1
) n ( Var ) '
n
1
( Var
2
i
n
1 i
i
2
n
1 i
i i
X X
x x x w X
2
Q
a medida que n.
Entonces ) , ( N n '
n
1
2 d
Q 0 w X .
Por propiedades de distribuciones lmites:
) , ( N ) ) ( , ( N ) '
n
1
( ) '
n
1
(
1 2 1 2 1 1 d 1
Q 0 Q Q Q 0 Q X X X
Entonces
) , ( N )
( n
1 2 d
MICO
Q 0
Para una discusin de la derivacin con X estocsticos, ver Greene,
captulo 6.
Nota: Consistencia y Normalidad Asinttica bajo Mnimos Cuadrados
Generalizados (MCG)
Recordemos que y X X X y X X X
* * *
1 1 1
*
1
MCG
' ) ' ( ' ) ' (

,
con X
*
=PX, y
*
=Py, P=C
1/2
, =C C, E( )=
2
, y=X + .
1) El estimador de mnimos cuadrados generalizado es consistente si:
*
)
n
'
( plim Q
X X
* *
es una matriz positiva definida e invertible.
Es decir, lo que necesitamos es que los datos transformados sean bien
comportados.
2) Se tiene
1 1 1 1 1 1
MCG
' ) ' ( ) ( ' ) ' (

+ + X X X X X X X
Entonces
n
'
)
n
'
( )
( n
1
1
1
MCG

X X X
.
Si
1
*
p 1
1
)
n
'
(

Q
X X
y ) , ( N
n
'
1
*
2 d
1
Q 0
X
, entonces:
) , ( N )
( n
1
*
2 d
MCG
Q 0 .
Resultados Utiles
1.- Consistencia de
2
. Consideremos nuevamente el modelo lineal clsico,
en el cual y=X + , E( )=
2
I. Recordemos que
'
k n
1
'
k n
1
M ,
donde =yX , error poblacional, M=IX(XX)
1
X,
X y , error
estimado.
(Por qu M ' ' ? Notemos que My y X X X X y X y

' ) ' (
1
,
entonces My y'
'
porque M es idempotente. Pero

yMy=(X + )M(X + )= XMX + MX + XM + M = M , porque
MX=0).
) ' ) ' ( ' ' (
k n
1
'
k n
1
1 2
X X X X M

))
n
'
( )
n
'
)(
n
'
(
n
'
(
k n
n
1
X X X X

Tenemos que 0
X
)
n
'
( plim

,
1 1
)
n
'
( plim

Q
X X
, y 1
k n
n
lim
n

para un k fijo. Por ello,

n
1 i
2
i
2
n
1
plim
n
'
plim plim

Supongamos que los s son i.i.d. tal que E(
i
2
)=
2
y E(
i
4
)=<.
Entonces Var(
i
2
)= E(
i
4
)E
2
(
i
2
)=
4
<. De esto se deduce que:
2 2
i
n
1 i
2
i
2
) ( E
n
1
plim plim

Por lo tanto,
2
es un estimador consistente de
2

2.- Distribucin Asinttica del Estadgrafo t
2 / 1 1
kk
2
k k
k
) ) ' ( (
X X
donde (XX)
kk
-1
es el k-avo elemento de la diagonal de (XX)
-1
.
Dado que
2 2
plim y ) , ( N )
( n
1
kk
2 d
k
Q 0 , donde Q
kk
-1
es el k-avo elemento de la diagonal de Q
-1
, el estadgrafo ) 1 , 0 ( N t
d
k

3.- Distribucin Asinttica del Test de Restricciones Lineales
Supongamos que queremos contrastar un conjunto de J restricciones
lineales:
H
0
: R =q H
1
: R q,
donde R es una matriz J x k, es un vector k x 1 y q es un vector J x 1.
Por ejemplo,
1) Un subconjunto de los coeficientes es igual a cero:
H
0
:
1
=0,
2
=0,
3
=0.
k x 3
0 ... 0 1 0 0
0 ... 0 0 1 0
0 ... 0 0 0 1
1
1
1
]
1
R , q=
1 x 3
0
0
0
1
1
1
]
1
.
2) Varias restricciones al mismo tiempo: H
0
:
2
+
3
=1,
4
+
6
=0,
5
+
6
=0.
k x 3
0 ... 0 1 1 0 0 0 0
0 ... 0 1 0 1 0 0 0
0 ... 0 0 0 0 1 1 0
1
1
1
]
1
R , q=
1 x 3
0
0
1
1
1
1
]
1
.
Sabemos de cursos anteriores que dicho conjunto de J restricciones
puede ser contrastado con el siguiente estadgrafo:
J
)
( ) ' ) ' ( ( )'
(
F
1 1 2
q R R X X R q R

donde
es el estimador MICO no restringido.

Este se distribuye F(J, n-k) bajo normalidad de los errores poblacionales
del modelo lineal. No obstante, aun cuando el supuesto de normalidad no se
satisfaga, es posible obtener la distribucin asinttica del estadgrafo.
Especficamente, en muestras grandes se tiene que:
) J ( )
( ) ' ) ' ( ( )'
( F x J
2 d 1 1 2

q R R X X R q R
Demostracin
Sabemos que ) , ( N )

( n
1 2 d
Q 0 . Entonces, dado que R es
una matriz de constantes,
) ' ) ( , ( N )
( n
1 2 d
R Q R 0 R

Pero R =q bajo H
0
. Entonces
) ' , ( N )
( n
1 2 d
R RQ 0 q R

Sea Z
Jx1
= )
( n q R y P
JxJ
=
2
RQ
-1
R, con P matriz positiva
definida. Sabemos que P se puede descomponer en P=T T, donde T es la
matriz de vectores propios de P y es una matriz diagonal con los valores
propios de P asociados a cada vector propio. Por lo tanto, P
-1/2
=T
-1/2
T.
Si ) , ( N
d
P 0 z , entonces
) , ( N ) )' ( , ( N
JxJ
2 / 1 2 / 1 d 2 / 1
I 0 P P P 0 z P

Sabemos, adems, que la suma de J variables i.i.d. normales estndar al
cuadrado se distribuye chi-cuadrado con J grados de libertad. (Cada variable
normal estndar al cuadrado se distribuye chi-cuadrado con un grado de
libertad).
Por lo tanto,
) J ( ' ) ( )' (
2 d 1 2 / 1 2 / 1

z P z z P z P
Ahora, dado que
1 1
)
n
'
( plim

Q
X X
y
2 2
plim , tenemos que
) J ( ' x F J
2 d 1

z P z
Referencias
Amemiya T.(1985), Advanced Econometrics. Harvard University Press
Davidson, J. y J. MacKinnon (1993), Estimation and Inference in
Econometrics. New York: Oxford University Press.
Greene W. (1997), Econometric Analysis. Prentice Hall, tercera edicin.
White, H. (1984), Asymptotic Theory for Econometricians. Academic Press

Convergencia en Probabilidad

Transféré par

Informations du document

Copyright

Formats disponibles

Partager ce document

Partager ou intégrer le document

Options de partage

Avez-vous trouvé ce document utile ?

Ce contenu est-il inapproprié ?

Droits d'auteur :

Formats disponibles

Convergencia en Probabilidad

Transféré par

Droits d'auteur :

Formats disponibles

Apuntes Teora Economtrica I.

Profesor: Viviana Fernndez

de un parmetro es consistente si y slo

, asumiendo que las xs son

regla de la divisin (con d0).

Apuntes Teora Economtrica I. Profesor: Viviana Fernndez 6

. Ello, simplemente porque:

Apuntes Teora Economtrica I. Profesor: Viviana Fernndez 10

, es a travs de una transformacin

porque M es idempotente. Pero

( ) ' ) ' ( ( )'

es el estimador MICO no restringido.

( ) ' ) ' ( ( )'

Vous aimerez peut-être aussi