Tema 3 Resolucin de Sistemas de Ecuaciones Lineales

ndice

1. Introduccin 2. Mtodo de Gauss 2.1 2.2 2.3 2.4 Resolucin de sistemas triangulares Triangulacin por el mtodo de Gauss Variante Gauss-Jordan Comentarios al mtodo de Gauss

3. Inestabilidad del Mtodo de Gauss y Estrategias de Pivote 3.1 Pivote parcial 3.2 Pivote total 4. Condicionamiento de sistemas de ecuaciones lineales 5. Otros mtodos directos 5.1 Factorizacin LU 5.2 Mtodo de Cholesky 6. Mtodos iterativos usuales 6.1 Mtodo de Jacobi 6.2 Mtodo de Gauss-Seidel 6.3 Mtodo de relajacin

1.

Introduccin

ciones lineales con n incgnitas:

El objetivo de este tema es la resolucin de un sistema de n ecuaa11 x1 + a12 x2 + + a1n xn = b1 , a21 x1 + a22 x2 + + a2n xn = b2 , ... an1 x1 + an2 x2 + + ann xn = bn ,

donde son conocidos la matriz de coecientes

a11 a12 a1n a21 a22 a2n A= . . ... . . . . . . . an1 an2 ann

y el vector de trminos independientes

b1 b2 b= . . . bn

En notacin matricial, el sistema de ecuaciones lineales se escribe:

Ax = b.

y se puede resolver por dos tipos de mtodos:

Mtodos directos: son mtodos que, en un nmero nito de operaciones, obtienen la solucin exacta.

Mtodos iterativos: son mtodos que generan una sucesin de aproximaciones {x(m) } que converge a la solucin del sistema: x = A1 b. Recordemos que el Mtodo de Cramer para la resolucin de un sistema de n con n incgnitas x1 , . . . , xn consiste en calcular las incgnitas mediante la frmula
xi = det Ai , det A i = 1, . . . , n,

siendo A la matriz de coecientes y Ai la matriz que resulta de sustituir la columna i-sima de la matriz de coecientes por el vector de trminos independientes. Teniendo en cuenta que el coste de un proceso de clculo se puede estimar mediante el nmero total de operaciones aritmticas necesarias, entonces el coste de un determinante de orden n es n!n 1 y, por tanto, el coste del Mtodo de Cramer es (n + 1)n! 1. A continuacin aparece una tabla con el tiempo estimado para resolver con el mtodo de Cramer un sistema de orden n, para distintos valores de n, con una mquina que realice unas 106 operaciones por segundo:
n Coste del Mtodo de Cramer Tiempo (106 oper/s) 5 3600 3,6 milisegundos 10 4 108 6 minutos 39 segundos 20 1,02 1021 32,4 millones de aos

Algunos costes del mtodo de Cramer

Por ltimo, recordemos algunas deniciones sobre matrices

Ann = (aij ) se dice

si verica
AT = A1 AT = A

Ortogonal Simtrica Diagonal Tridiagonal Triangular superior Hessenberg superior (Semi)Denida positiva (Estrictamente)Diagonalmente dominante

si i = j entonces aij = 0 si |i j | > 1 entonces aij = 0 si i > j entonces aij = 0 si i > j + 1 entonces aij = 0
xt Ax() > 0, x = 0 |aij |(<)|aii |, i
j =i

2.
2.1.

El mtodo de Gauss
Resolucin de Sistemas Triangulares

Sea Ux = b un sistema de ecuaciones lineales con solucin nica (det U = 0) en el que la matriz de coecientes Unn es triangular superior. Entonces las componentes de la solucin se pueden calular mediante el mtodo de sustitucin regresiva, es decir, se despeja la ltima incgnita de la ltima ecuacin, se sustituye en la penltima ecuacin; despus se despeja de esta ecuacin la penltima incngnita y se repite el proceso hacia arriba hasta calcular el valor de la primera incgnita.

Algoritmo del Mtodo de Sustitucin Regresiva

n

bi xi =
j =i+1

uij xj uii , i = n, n 1, . . . , 1.

Ejemplo: Consideremos el sistema de ecuaciones lineales

3x1 + 2x2 2x3 + 4x4 = 5, 3x2 5x3 3x4 = 0, 4x3 + x4 = 3, 2x4 = 6.

Entonces, aplicando el mtodo de sustitucin regresiva se tiene:

x4 = 6 = 3, 2 3 x4 3 x3 = = , 4 2 1 5x3 + 3x4 x2 = = , 3 2 5 2x2 + 2x3 4x4 x1 = = 7. 3

2.2.

Triangulacin por el Mtodo de Gauss

Se trata de transformar el sistema de ecuaciones lineales Ax = b en otro equivalente Ux = c que sea triangular superior. El mtodo se realiza por etapas: 1 etapa: Transformar a21 , a31 , . . . , an1 en ceros.
(2) 2 etapa: Transformar a(2) 32 , . . . , an2 en ceros. (3) 3 etapa: Transformar a(3) 43 , . . . , an3 en ceros

. . .
n1) etapa n-1: Transformar a( n,n1 en cero.

Las transformaciones en cero de cada etapa se relizarn mediante opek) raciones elementales: para transformar a( ik en cero usado como pivote
akk , se multiplica la ecuacin nmero k por
(k)

aik

(k)

nmero i.

akk

(k)

y se le suma la ecuacin

Para evitar pivotes nulos se permite permutar las ecuaciones desde la nmero k hasta la n.

Ejemplo: A continuacin resolvemos por el mtodo de Gauss el sistema de

ecuaciones lineales cuya matriz ampliada es
0 2 3 2 1 1 3 2 1 2 2 2 0 1 2 1 1 1 0 1

1 etapa:

3 2 1 0 3 3 0 3 2 2 2 2 0 2 0 5 5 1 0 0 1 2 2 2

2 etapa:

0 3 2 1 3 3 0 3 2 2 2 0 0 12 5 14 3 13 0 0 5 3 3 2 3 2 1 0 3 3 0 3 2 2 2 14 0 0 12 5 3 11 43 0 0 0 2 18 2 14 33 4 33 23 33 86 33

3 etapa:

Solucin:

El coste del mtodo de Gauss (fase de triangulacin) es

c(Gaussn ) = 4n3 + 3n2 7n =O 6 2n3 3 .

Faltara aadirle el coste de la sustitucin regresiva. En la siguiente tabla se calculan algunos costes y tiempos de triangulacin con el mtodo de Gauss en una mquina que realice 106 operaciones por segundo.

n Coste del Mtodo de Gauss Tiempo (106 oper/s) 5 90 90 microsegundos 10 705 0,7 milisegundos 20 5510 5,5 milisegundos 100 671550 0,67 segundos 1000 667 millones 11 minutos

Algunos costes con el mtodo de Gauss

2.3.

Variante de Gauss-Jordan

Se trata de transformar el sistema de ecuaciones lineales Ax = b en un sistema equivalente Dx = c, con D una matriz diagonal.
k) (k) (k ) (k) En cada etapa k se deben hacer cero las posiciones a( 1k , . . . , ak1,k , ak+1,k , . . . , ank , donde k = 1, . . . , n (n etapas).

El coste del mtodo de Gauss-Jordan es n3 + n2 2n, a falta de aadir n divisiones para calcular las incgnitas.
2.4. Comentarios al mtodo de Gauss

Aplicaciones del mtodo de Gauss

Resolucin de sistemas de ecuaciones lineales con solucin nica (det A = 0). Resolucin de sistemas de ecuaciones lineales sin saber si det A = 0. Discusin general de sistemas de ecuaciones lineales. Resolucin simultnea de sistemas de ecuaciones lineales. Clculo eciente de determinantes. Clculo eciente de inversas.

Inconvenientes del mtodo de Gauss

No adecuado para sistemas muy grandes (dispersos). Inestable. 7

3.

Inestabilidad del Mtodo de Gauss y Estrategia de Pivote

Consideremos el sistema de ecuaciones lineales de matriz ampliada

0,0001 1 1 1 1 2

cuya solucin exacta es

1,00010... 0,99990...

Si aplicamos el mtodo de Gauss con una mquina que admite solo 3 decimales se tiene la siguiente triangulacin:
1 0,0001 1 0 10000 10000

y se obtiene como solucin

3.1. Pivote parcial

0 1

Pivote Parcial

Se busca la ecuacin

i>k

tal que

|aik | = m ax |ark |
krn

y se

permuta con la ecuacin

k. 1,00010... 0,99990
p.p.

0,0001 1 1 1 1 2

exacta

Efectuando un cambio de la

1 1 2 0,0001 1 1 1 1 2 0 1 1 0 1 1 1 . .

Pero

0,0001 1 1 0,0001 0,0001 0,0002

p.p.

Pivote parcial con escalado:

(1)

Igual que el pivote parcial, reescalando las

(2) (n)

ecuaciones antes del pivotaje para que

m ax |aij | = m ax |a2j | = = m ax |anj |.

3.2.

Pivote total

Se toma (i, j ) tal que

k) |aij | = m ax |a( rs |,
kr n ksn

(k)

y se permutan las ecuaciones i y k , y las incgnitas j y k .

4. Condicionamiento de Sistemas de Ecuaciones Lineales

Para entender el concepto de condicionamiento, consideremos el siguiente ejemplo de R.S. Wilson: Se trata del sistema de ecuaciones lineales cuya matriz ampliada y solucin exacta son:
10 7 8 7 7 8 7 5 6 5 6 10 9 5 9 10 32 23 sol.exacta 33 31 1 1 , 1 1

mientras que si se produce una pequea variacin en los trminos independentes (datos) se produce una gran modicacin en la solucin (resultados):
10 7 8 7 7 8 7 5 6 5 6 10 9 5 9 10 32,1 9,2 22,9 sol.exacta 12,6 4,5 33,1 30,9 1,1 .

Esto indica que el mtodo de resolucin de sistemas de ecuaciones empleado (Gauss) estn mal condicionado.

5.
5.1.

Otros mtodos directos

Factorizacin

LU
U
una matriz

Resolucin de un sistema factorizado en LU

Si

A = LU,

con

una matriz triangular inferior (low) y

triangular superior (upper), entonces el sistema de ecuaciones lineales

Ax =

se puede resover en dos fases: a) b)

Ly = b, Ux = y, 2n2
operaciones.

con un coste de

Ejemplo:
1 2 3 5 0 2 0 2 0 0 2 1 0 2 3 3 0 0 0 3 2 2 0 0 0 1 1 1 0 0 0 2 7 x = 16 . 17 39

Aplicando el algoritmo de resolucin de un sistema factorizado en LU , obtenemos

1 0 0 2 2 0 3 0 2 5 2 1 2 3 3 0 3 2 0 0 1 0 0 0 7 0 7 16 0 = y = 1 . 2 0 17 39 1 0 0 7 1 2 1 = x = 1 . 2 1 2 2 0 0

10

Algoritmo del la Factorizacin LU

Para k = 1, . . . , n,
k 1 kk ukk

= akk
r=1 k 1

kr urk ;

aik
ik

ir urk r=1

= akj

ukk
k 1 kr urj r=1 kk

i = k + 1, . . . , n;

ukj =

j = k + 1, . . . , n.

Coste general de la factorizacin: n2 + n2 ).

4n3 + 2n 2n3 = O( ), (a falta de aadir 6 3

Algunas variantes: Variante de Doolittle: L tiene diagonal de 1. Variante de Crout: U tiene diagonal de 1. Factorizacin LU para matrices tridiagonales
Si A = LU es tridiagonal (aij = 0 si |i j | > 1), entonces L y U tambin lo son y, para k = 1, . . . , n,
kk ukk

= akk ak+1,k ; ukk ak,k+1 = . =

kk

k,k1 uk1,k ;

k+1,k

uk,k+1

Coste: 4n 3 para factorizar y 2(3n 2) para resolver. 11

5.2.

Mtodo de Cholesky

Se trata de un mtodo de descomposicin LU en el caso en que la matriz A sea simtrica y denida positiva. Basta con tomar U = LT y, por tanto,
A = LLt .

Mtodo de Cholesky
Para k = 1, . . . , n,
k1 kk

akk
r=1 k1

2 k,r ;

ai,k
i,k

ir kr r=1 kk

i = k + 1, . . . , n.

Coste: O(

n3 ). 3

Propiedades
Sirve para saber si una matriz simtrica es denida postiva Es estable.

12

6.

Mtodos iterativos usuales

Consisten en descomponer la matriz de coecientes A en la forma A = D L U, donde D = diag (A), L es triangular inferior con ij = aij , para i > j , y U es triangular superior, con uij = aij , para i < j . Suponemos que A y D son invertibles.
6.1. Mtodo de Jacobi

De Ax = b se tiene que (DLU)x = b y, por tanto, Dx = (L+U)x+b. Luego

x = D1 (L + U)x + D1 b.

Teniendo en cuenta la anterior igualdad se deduce el siguiente mtodo interativo

x(m+1) = BJ x(m) + cJ , 0

siendo

a 21 1 a22 BJ = D (L + U) = . . . . . . . . a . a n2 n1 ann ann b1 a11 b2 cJ = D1 b = a22. . . . bn ann

a1n a12 a11 a11 a2 n 0 a22

, . . . 0

Por tanto, el valor de cada incgnita en cada paso del mtodo m es

bi xi
(m+1)

aij xj
j =i

(m)

aii

i = 1, . . . , n.

13

6.2.

Mtodo de Gauss-Seidel

De Ax = b se tiene que (DLU)x = b y, por tanto, (DL)x = Ux+b. Luego

x = (D L)1 Ux + (D L)1 b.

Teniendo en cuenta la anterior igualdad se deduce el siguiente mtodo interativo

(D L)x(m+1) = Ux(m) + b,

que se trata de un sistema triangular inferior en cada paso, que se resuelve por sustitucin progresiva. Por tanto, el valor de cada incgnita en cada paso del mtodo m es
bi xi
6.3.
(m+1)

aij xj
j<i

(m+1)

j>i

aij xj

(m)

aii

i = 1, . . . , n.

Mtodo de relajacin

En este caso, dado R, se considera la descomposicin de la matriz de coecientes en la forma:

A= 1 1 D D L U.

Luego
(D L)x = ((1 )D + U)x + b.

Teniendo en cuenta la anterior igualdad se deduce el siguiente mtodo interativo

(D L)x(m+1 = ((1 )D + U)x(m) + b.

que se trata de un sistema triangular inferior en cada paso, que se resuelve por sustitucin progresiva. Por tanto, el valor de cada incgnita en cada paso del mtodo m es
bi xi
(m+1)

aij xj
j<i

(m+1)

j>i

aij xj

(m)

aii

+ (1 )xi ,

(m)

i = 1, . . . , n.

Se pueden demostrar los sisguientes resultados de convergencia: 14

Teorema: Teorema:

Si

es estrictamente diagonalmente dominante entonces los

mtodos de Jacobi y Gauss-Seidel convergen. Si el mtodo de relajacin converge entonces

[0, 2].

15