FACTORIZACION de MATRICES (Factorizacin Cholesky, LU, QR )

Los procedimientos para resolver ecuaciones lineales del ML se basan en tres tipos de
factorizacin de matrices

FACTORIZACION TIPO DE MATRIZ FUNCION MATLAB
1. CHOLESKY Simtrica, positiva definida chol
2. ELIMINACION GAUSSIANA Cuadrada general lu
3. ORTOGONALIZACION Rectangular qr

1. Factorizacin de Cholesky
- Expresa una matriz simtrica y positiva definida como producto de una matriz
triangular R y su transpuesta: A = R' R.
- La FC permite escribir el sistema lineal Ax = b, reemplazando la matriz A por
sus componentes triangulares: (R R) x = b
- Como el operador divisin izquierda reconoce sistemas triangulares, entonces
puede resolverse el sistema asi: x = R\(R\b)

%Fact or i zaci n Chol esky
A = pascal ( 4) ; b = [ 2; 5; 4; 9]
R = chol(A)
Ar = R' *R
x1 = A\ b
x2 = R\ ( R' \ b)

2. Factorizacin LU o Eliminacin Gaussiana
- Expresa cualquier matriz cuadrada como el producto de una permutacin de
una matriz triangular inferior con diagonal principal formada por unos (L) y una
matriz triangular superior (U): A = LU
- La factorizacin LU de A permite resolver el sistema lineal Ax = b mediante
x = U\(L\b)
- Esta factorizacin permite calcular inversas y determinantesde matrices as:
- det(A) = det(L) det(U) = prod (diag(U))
- inv(A) = inv(U) inv(L)

%Fact or i zaci n LU
A = pascal ( 4) ; b = [ 2; 5; 4; 9]
[ L, U] = l u( A)
Ar = L*U
x = U\ ( L\ b)
D1 = det ( A) ; D2 = det ( L) *det ( U)
I A1 = i nv( A) ; I A2 = i nv( U) *i nv( L)

3. Factorizacin QR
- Una matriz ortogonal es una matriz real cuyas columnas tienen todas longitud
unitaria y son perpendiculares entre si. Si Q es ortogonal entonces Q Q = I
- Las matrices ortogonales ms sencillas son las que corresponden rotaciones
de coordenadas en dos dimensiones

cos(a) sin(a)
sin(a) cos(a)

- La factorizacin QR expresa cualquier matriz rectangular como el producto de
una matriz ortogonal y de una matriz triangular superior. Puede incorporarse
una permutacin de columnas: A = Q R, o A P = Q R, siendo Q is ortogonal, R
triangular superior y P es una permutacin.
- Opciones:
- [Q,R] = QR(A) produce una matriz triangular triangular R de la misma
dimension que A, y una matriz unitaria Q, tal que A = Q*R.
- [Q,R,E] = QR(A) produce una matriz permutacion E, una matriz triangular
superior R y una matriz unitaria Q, tal que A*E = Q*R
- [Q,R] = QR(A,0) produce una descomposicin abreviada. Si A es una matriz
de orden m n (m > n), entonces se calculan las primeras n columnas de Q.
(Ejemplo: sistemas lineales sobredeterminados, con m>n)


POTENCIAS DE MATRICES Y EXPONENCIALES

A^p Potencia p de A A matriz cuadrada; p > 0 entero
A^(-p) Potencia p de inv(A) = inv(A)^p A matriz no singular
A .^p Potencia p de cada elemento de A
A^(p/q) Potencia fraccional de A Depende de Valores Propios de A
sqrtm(A) Raiz cuadrada de A
sqrt(A) Raiz cuadrada de A Equivale a A .^(1/2)
expm(A) Matriz exponencial (diferente a exp(A))

Ejemplo de la funcin Matriz Exponencial (expm(A))
Un sistema lineal de ecuaciones diferenciales ordinarias con coeficientes constantes
puede escribirse como dx/dt= Ax, con solucin x(t)= e
tA
x(o), donde x= x(t) es un vector
de funciones de t, A es una matriz independiente de t. La solucin puede obtenerse
utilizando la funcin expm(A), que realiza la siguiente operacin: si A tiene un conjunto
completo de Vectores Propios V y correspondientes Valores Propios D, entonces
[ V, D] = ei g( A) - > expm( A) = V*di ag( exp( di ag( D) ) ) / V

%Funci on expm( A) apl i cada a l a sol uci on de una ecuaci on di f er enci al
or di nar i a ( sol uci on en 101 punt os en el i nt er val o 0<= t <=1)
A = [ 0 - 6 - 1; 6 2 - 16; - 5 20 - 10] ; xo = [ 1; 1; 1]
x=[ ] ;
f or t =0: 0. 01: 1;
x=[ x expm( t *A) *xo] ;
end
%Di agr ama de f ases en t r es di mensi ones( muest r a l a sol uci on t endi endo
%en espi r al al or i gen. Est e compor t ami ent o depende de l os val or es
%pr opi os de l a mat r i z de coef i ci ent es A)
pl ot 3( x( 1, : ) , x( 2, : ) , x( 3, : ) , ' r o' )



















0
0.2
0.4
0.6
0.8
1
-0.5
0
0.5
1
-0.2
0
0.2
0.4
0.6
0.8
1
1.2
EJEMPLOS

%POTENCI AS DE MATRI CES
A = i nput ( ' Mat r i z A = ' )
p= i nput ( ' p =' ) ; q= i nput ( ' q =' ) ;
di spl ay( ' sqr t ( A) = ' ) ; A1=sqr t ( A)
di spl ay( ' Pot enci a Punt o Fr acci onal de ( A) = ' ) ; A2=( A) . ^( p/ q)
di spl ay( ' Pot enci a Fr acci onal de ( A) = ' ) ; A3=( A) ^( p/ q)
di spl ay( ' Pot enci a p de ( A) = ' ) ; A4=( A) ^p
di spl ay( ' Pot enci a ( - p) de ( A) = ' ) ; A5=( A) ^( - p)
di spl ay( ' Pot enci a de i nv( A) = ' ) ; A6=i nv( A) ^p

A
4 2 p=2
3 5 q=4

A1 A2 A3 A4 A5 A6
2.00 1.41 2.00 1.41 1.91 0.49 22 18 0.158 -0.092 0.158 -0.092
1.73 2.23 1.73 2.24 0.74 2.15 27 31 -0.138 0.112 -0.138 0.112


%MATRI Z EXPONENCI AL
A = i nput ( ' Mat r i z A = ' )
di spl ay( ' EXPONENCI AL DE LOS ELEMENTOS de ( A) = ' ) ; EA1=exp( A)
di spl ay( ' MATRI Z EXPONENCI AL de ( A) = ' ) ; EA2=expm( A)
di spl ay( ' RAI Z CUADRADA de ( A) = ' ) ; SA3=sqr t m( A)

EA1 EA2 SA3
54.598 7.389 443.087 435.697 1.907 0.493
20.086 148.413 653.546 660.936 0.739 2.153


FUNDAMENTOS TEORICOS PARA GENERAR VECTORES CON DISTRIBUCION
NORMAL MULTIVARIANTE (Generacin de vectores aleatorios. Caso de la
distribucion normal multidimensional. Giampaolo Orlandoni, IEAC, 1981. Pub 81-10)
- Dado un vector aleatorio normal p-variante: Z ~Np( 0, I ) , un vector fijo p-
dimensional , y si A es una matriz cuadrada cuyo rango(A)=p, entonces el vector
aleatorio Y = A*Z + sigue una distribucin normal p-variante con parmetros
E(Y)= , V(Y)= E
- El procedimiento para generar un vector aleatorio p-dimensional con distribucin
normal Np(, E) es el siguiente:
- Generar p nmeros aleatorios independientes con distribucin N(0,1). Dada la
independencia de dichos nmeros, ellos pueden disponerse en un vector que
sigue una distribucin normal p-dimesional con vector de medias 0 y matriz de
covarianzas identidad.
- Descomponer la matriz de covarianzas E = AA'. Como E es una matriz real,
simtrica (E =E') y positiva definida (X'EX>0, X ~=0), entonces existe una matriz
triangular A con elementos positivos en la diagonal principal tal que E = AA'.
Esta descomposicin puede hacerse mediante la triangularizacin de
Cholesky: A = chol(S)

Existe alguna diferencia entre generar vectores aleatorios con distribucin Np(, E) por
el procedimiento descrito, y el procedimiento de generar p vectores unidimensionales
con distribucin N(1,o1) y luego formar una matriz p-dimensional con dichos p
vectores? Hacer un script que compare ambos procedimientos; utilizar conceptos
estadsticos que permitan compararlos.