Vous êtes sur la page 1sur 17

Rapport de Projet Mathmatiques - Document Rdig par Rgis FOUQUET - Formation Ingnieur Matre

MATHEMATIQUES

PROJET
Page
1 / 15

Nombre dannexes : 1














Equations & Systmes Linaires

Comparaison des mthodes Itratives
de
Jacobi
Gauss-Seidel
et
Relaxation

















Rgis FOUQUET

Formation Ingnieur Matre
Promotion 2003




MATHEMATIQUES
PROJET



Page2

Rapport de Projet Mathmatiques - Document Rdig par Rgis FOUQUET - Formation Ingnieur Matre

SOMMAIRE

1. OBJECTIFS DU PROJET 3
2. SYSTEMES LINEAIRES A N INCONNUES 3
3. LA METHODE ITERATIVE 4
4. LES METHODES DE RESOLUTIONS 5
4.1. LA METHODE DE JACOBI 5
4.1.1. Description de la mthode de Jacobi 5
4.1.2. Exemple de calcul numrique 6
4.1.3. Simulation sous Matlab 7
4.2. LA METHODE DE GAUSS-SEIDEL 9
4.2.1. Description de la mthode 9
4.2.2. Exemple de calcul numrique 10
4.2.3. Simulation sous Matlab 11
4.3. METHODE DE RELAXATION 12
4.3.1. Description de la mthode 12
4.3.2. Exemple sous Matlab 13
4.4. RESULTATS SOUS MATLAB 14
5. REMARQUES SUR LA CONVERGENCE 15
6. CONCLUSION 15


ANNEXES
ANNEXE 1 JACOBI, SEIDEL & GAUSS


MATHEMATIQUES
PROJET



Page3

Rapport de Projet Mathmatiques - Document Rdig par Rgis FOUQUET - Formation Ingnieur Matre


1. OBJECTIFS DU PROJET
Le but de ce projet est dexpliquer quelles sont les mthodes itratives applicables la
rsolution de systmes linaires plusieurs inconnues.
Nous allons tudier deux mthodes itratives de rsolution de systmes linaires Ax = B o
A est une matrice diagonale strictement dominante : Les mthodes de Jacobi et de Gauss-
Seidel. Il sagit de trouver x tel que Ax = B.
Nous appliquerons ces diffrentes mthodes au travers de programmes sous Matlab
permettant de comparer les rsultats lis aux diffrentes mthodes de convergences.

2. SYSTEMES LINEAIRES A N INCONNUES
Considrons le systme linaire suivant qui consiste rsoudre A x = B

n n nn n n n
n n
n n
b x a x a x a x a
b x a x a x a x a
b x a x a x a x a
= + + + +
= + + + +
= + + + +
.....
.....
.....
3 3 2 2 1 1
2 2 3 23 2 22 1 21
1 1 3 13 2 12 1 11


Les x
1
, x
2,
x
n
sont les n inconnues du systme de n quations linaires n inconnues, on
parle dun vecteur solution x n composantes.

Les b
1
, b
2,
b
n
forment le vecteur du second membre. Le systme peut galement scrire
sous forme matricielle :
(
(
(
(

=
(
(
(
(

(
(
(
(

n n nn n n
n
n
b
b
b
x
x
x
a a a
b b b
a a a
... ...
...
... ... ... ...
...
...
2
1
2
1
2 1
2 22 21
1 12 11




MATHEMATIQUES
PROJET



Page4

Rapport de Projet Mathmatiques - Document Rdig par Rgis FOUQUET - Formation Ingnieur Matre


3. LA METHODE ITERATIVE
La mthode itrative contrairement dautres lavantage de ne pas avoir besoin de garder
en mmoire la totalit dun matrice de trs grande taille gourmande en capacits mmoire.
Cette mthode permet de garder en mmoire que les coefficient non nuls dune matrice de
grande taille.
Cependant, le succs de calcul nest pas assur quelque soit la matrice, certaines
conditions sont ncessaire afin dobtenir un rsultat convergent, ce que nous allons voir
dans ce document au travers des mthodes de Jacobi et de Gauss-Seidel.
Nous cherchons rsoudre le systme Ax = B. on commence par dcomposer la matrice A
A = M N, de telle faon que M soit inversible
Il est ensuite possible dcrire le systme Ax = B sous la forme :
b Nx Mx + =
O encore :
b M Nx M x
1 1
+ =
qui dfinit une quation de point fixe
Pour la rsoudre nous calculerons par rcurrence la suite des vecteurs
) (i
x partir dun
vecteur
) 0 (
x , en choisissant la relation indique ci-dessous :
b M Nx M x
k k 1 ) ( 1 ) 1 ( +
+ =
Cette relation est une relation de rcurrence du premier ordre.


Les dcompositions de A font intervenir :
La matrice diagonale D obtenue partir des lments diagonaux de A
(
(
(
(

=
nn
a
b
a
D
... 0 0
... ... ... ...
0 ... 0
0 ... 0
22
11



MATHEMATIQUES
PROJET



Page5

Rapport de Projet Mathmatiques - Document Rdig par Rgis FOUQUET - Formation Ingnieur Matre

La matrice triangulaire infrieure E
(
(
(
(

=
0 ...
... ... ... ...
0 ... 0
0 ... 0 0
2 1
21
n n
a a
a
E

La matrice triangulaire suprieure F
(
(
(
(

=
0 ... 0 0
... ... ... ...
... 0 0
... 0
2
1 12
n
n
a
a a
E


Nous avons donc A = D E F, et nous obtiendrons la dcomposition A = M N partir de
diffrents types de regroupements des matrices D, -E, -F, ce qui va nous amener diffrentes
mthodes, celle de Jacobi, et celle de Gauss-Seidel.

4. LES METHODES DE RESOLUTIONS
Contrairement la mthode de Gauss qui est une mthode directe applique de petites
matrices, nous allons nous pencher sur les mthodes dites indirectes telle que Jacobi et
Gauss-Seidel, mettant en jeu la convergence pour des matrices de tailles plus imposantes.
4.1. LA METHODE DE JACOBI

4.1.1. Description de la mthode de Jacobi
On suppose que A est une matrice inversible dont aucun lment de la diagonale est nul
( i a
ii
, 0 ). Cette mthode consiste isoler le coefficient de la diagonale de chaque ligne
du systme, si lun des coefficients diagonaux est nul, il est parfois possible de permuter
certaines lignes pour viter cette situation.
On pose : A = M - N
La relation de rcurrence est la suivante :

MATHEMATIQUES
PROJET



Page6

Rapport de Projet Mathmatiques - Document Rdig par Rgis FOUQUET - Formation Ingnieur Matre

b M Nx M x
k k 1 ) ( 1 ) 1 ( +
+ =
avec M = D, N = E+ F,, nous obtenons la relation suivante :
b D x F E D x
k k 1 ) ( 1 ) 1 (
) (
+
+ + =


Si on exprime cette relation en fonction des lments de la matrice A, nous avons pour
Ax = B
n n nn n n n
n n
n n
b x a x a x a x a
b x a x a x a x a
b x a x a x a x a
= + + + +
= + + + +
= + + + +
.....
.....
.....
3 3 2 2 1 1
2 2 3 23 2 22 1 21
1 1 3 13 2 12 1 11

(
(
(
(

=
(
(
(
(

(
(
(
(

n n nn n n
n
n
b
b
b
x
x
x
a a a
b b b
a a a
... ...
...
... ... ... ...
...
...
2
1
2
1
2 1
2 22 21
1 12 11

Par calculs successifs, la relation de Jacobi est la suivante :
ii
i k
j
n
j
j
ii
ij k
i
a
b
x
a
a
x + =

=
+
) (
1
1
) 1 (



4.1.2. Exemple de calcul numrique
Soit le systme de 3 quations 3 inconnues:
18 6 2
17 2 5
2 3
3 2 1
3 2 1
3 2 1
=
= + +
= +
x x x
x x x
x x x

Suivant la formule dcrite prcdemment, la mthode de Jacobi scrit dans ce cas pour la

MATHEMATIQUES
PROJET



Page7

Rapport de Projet Mathmatiques - Document Rdig par Rgis FOUQUET - Formation Ingnieur Matre

premire itration partir dun vecteur
) 0 (
x [0 0 0] :
Premire Itration Seconde itration
3 ) 0 0 18 (
6
1
5
17
) 0 0 17 (
5
1
3
2
) 0 0 2 (
3
1
1
3
1
2
1
1
= + =
= =
= + =
x
x
x

655 , 2 )
5
17
)
3
2
( 2 18 (
6
1
5
17
)) 3 ( 2
3
2
17 (
5
1
15
8
) 3
5
17
2 (
3
1
2
3
2
2
2
1
= + =
= =
= + =
x
x
x

Cela permet de remplir le tableau suivant :
k
k
x
1

k
x
2

k
x
3

0 0,00000 0,00000 0,00000
1 0,66667 3.40000 3.00000
2 0.53333 2.06667 2.65556
3 0.86296 2.23111 2.83333
4 0.86741 2.09407 2.91580
5 0.94057 2.06020 2.94012
6 0.95997 2.03583 2.97016
7 0.97811 2.01994 2.98069
8 0.98691 2.01210 2.98938
9 0.99242 2.00686 2.99362
10 0.99558 2.00407 2.99633
Les valeurs convergent vers la solution [1 2 3] avec une convergence assez lente

4.1.3. Simulation sous Matlab

Fichier Matlab jacobi.m
% Solution d'un systme d'quations linaires Ax = b
% Methode de JACOBI
% Dx(k+1) = Nx(k) + b
% D : Matrice contenant la diagonale de A

MATHEMATIQUES
PROJET



Page8

Rapport de Projet Mathmatiques - Document Rdig par Rgis FOUQUET - Formation Ingnieur Matre

% Condition Initiale x0
% Nombres d'Itrations k
k = 10
x = [0 ;0; 0]

%Matrice A
A = [ 3 1 -1 ; 1 5 2 ; 2 -1 -6]
%Matrice b
b = [2 ;17 ; -18]

D = diag(diag(A)) ;
N = D-A

% Boucle Itrative
for i=1 :k,
x(:,i+1) = D\ (N*x(:,i) + b);
k
x'
end


MATHEMATIQUES
PROJET



Page9

Rapport de Projet Mathmatiques - Document Rdig par Rgis FOUQUET - Formation Ingnieur Matre


4.2. LA METHODE DE GAUSS-SEIDEL
4.2.1. Description de la mthode
Comme pour la mthode de Jacobi, le but de la mthode de Gauss-Seidel est de rsoudre
le systme dquation de la forme A x = B de manire itrative
On suppose cette fois que la matrice D est une matrice inversible dont aucun lment de la
diagonale est nul ( i a
ii
, 0 ). Cette mthode consiste isoler le coefficient de la diagonale
de chaque ligne du systme, si lun des coefficients diagonaux est nul, comme pour la
mthode de Jacobi, il est parfois possible de permuter certaines lignes pour viter cette
situation.
La relation de rcurrence est la suivante :
b M Nx M x
k k 1 ) ( 1 ) 1 ( +
+ =
avec M = D- E, & N = F,, nous obtenons la relation suivante :
b M Nx E D x
k k 1 ) ( 1 ) 1 (
) (
+
+ =


En gnral, on dcompose A en E, +D, -F, les deux mthodes de Jacobi et de Gauss-
Seidel se distinguent dans la rpartition des blocs entre E, D et F entre M et N
Par rapport Jacobi, on utilise les
) 1 ( + k
j
x , avec 1 1 i j , dj calculs. Ainsi, Nous
verrons lors des simulations que Gauss-Seidel converge plus rapidement que Jacobi.

Par calculs successifs, la relation de Gauss-Seidel est la suivante :

|
|
|

\
|
=

+ =
+

=
+
) (
1 1
) 1 (
1
1
) 1 (
1
k
j
n
j
ij
k
j
i
j
ij i
ii
k
i
x a x a b
a
x





MATHEMATIQUES
PROJET



Page10

Rapport de Projet Mathmatiques - Document Rdig par Rgis FOUQUET - Formation Ingnieur Matre

4.2.2. Exemple de calcul numrique
Soit le systme de 3 quations 3 inconnues identique celui utilis pour la prcdente
mthode de Jacobi:
18 6 2
17 2 5
2 3
3 2 1
3 2 1
3 2 1
=
= + +
= +
x x x
x x x
x x x

Suivant la formule dcrite prcdemment, la mthode de Gauss-Seidel scrit dans ce
cas pour la premire itration partir dun vecteur
) 0 (
x [0 0 0] :
Premire Itration Seconde itration
90
241
15
49
3
2
2 18
6
1
15
49
0
3
2
17
5
1
3
2
) 0 0 2 (
3
1
1
3
1
2
1
1
=
|
|

\
|
+
|

\
|
=
=
|

\
|
=
= + =
x
x
x

784 , 2 ) 235 . 2 ) 47 . 0 ( 2 18 (
6
1
235 . 2
90
241
2 47 . 0 17
5
1
47 . 0 )
90
241
15
49
2 (
3
1
2
3
2
2
2
1
= + =
=
|
|

\
|
|

\
|
=
= + =
x
x
x

Cela permet de remplir le tableau suivant :
k
k
x
1

k
x
2

k
x
3

0 0,00000 0,00000 0,00000
1 0,66667 3.26667 2.67778
2 0.47037 2.23481 2.78432
3 0.84983 2.11630 2.93056
4 0.93808 2.04016 2.97267
5 0.97750 2.01543 2.98993
6 0.99150 2.00573 2.99621
7 0.99683 2.00515 2.99858
8 0.99881 2.00080 2.99947
9 0.99955 2.00030 2.99980
10 0.99983 2.00011 2.99993
On constate que pour un mme nombre ditrations, la solution approximative obtenue par la
mthode de Gauss-Seidel est plus prcise. Les valeurs convergent vers la solution x= [1 2 3]
avec une convergence plus rapide.

MATHEMATIQUES
PROJET



Page11

Rapport de Projet Mathmatiques - Document Rdig par Rgis FOUQUET - Formation Ingnieur Matre


4.2.3. Simulation sous Matlab

Fichier Matlab gauseidel.m
% Solution d'un systme d'quations linaires Ax = b
% Methode de GAUSS-SEIDEL
% Mx(k+1) = Nx(k) + b
% M : Matrice triangulaire inferieure de A
% Condition Initiale x0
% Nombres d'Itrations k
k = 10
x = [0 ;0; 0]

%Matrice A
A = [ 3 1 -1 ; 1 5 2 ; 2 -1 -6]
%Matrice b
b = [2 ;17 ; -18]

M = tril(A) ;
N = M-A

% Boucle Itrative
for i=1 :k,
x(:,i+1) = M\ (N*x(:,i) + b);
end
x'
plot(x)










MATHEMATIQUES
PROJET



Page12

Rapport de Projet Mathmatiques - Document Rdig par Rgis FOUQUET - Formation Ingnieur Matre


4.3. METHODE DE RELAXATION
On modifie lgrement les mthodes prcdentes en introduisant un paramtre w, le
coefficient de relaxation. Ce paramtre est gnralement constant. La relaxation sur la
mthode de Jacobi napporte en gnral aucun gain apprciable. Appliqu la mthode de
Gauss-Seidel, elle permet damliorer la rapidit de la convergence.
4.3.1. Description de la mthode
Lide est que si la correction apporte une composante va dans le bon sens , on
intrt laugmenter en la multipliant par un facteur suprieur 1. Au contraire si on risque
de diverger ou osciller, il vaut mieux amortir la correction en la multipliant par un facteur
infrieur 1.
Une condition ncessaire mais non suffisante de convergence de ces mthodes est que le
paramtre w soit compris entre 0 et 2.
Il est donc intressant de lutiliser pour le calcul du vecteur xdans la rsolution du systme
Ax=B.

La boucle ditration pour Gauss-Seidel devient dans ce cas :
b E D x F D E D x
k k 1 ) ( 1 ) 1 (
) ( ) ) 1 (( ) (
+
+ + =




MATHEMATIQUES
PROJET



Page13

Rapport de Projet Mathmatiques - Document Rdig par Rgis FOUQUET - Formation Ingnieur Matre


4.3.2. Exemple sous Matlab

% Solution d'un systme d'quations linaires Ax = b
% Methode de GAUSS-SEIDEL + RELAXATION
% Mx(k+1) = Nx(k) + b
% M : Matrice triangulaire inferieure de A
% Condition Initiale x0
% Nombres d'Itrations k
k = 20;
x = [0 ;0; 0];
w= 1.1;

%Matrice A
A = [ 3 1 -1 ; 1 5 2 ; 2 -1 -6]
%Matrice b
b = [2 ;17 ; -18]

D = diag(diag(A))
M = tril(A)
F = M-A
E = D-M


% Boucle Itrative
for i=1 :k,
x(:,i+1) = ((D/w)-E)\((F+((1-w)/w)*D)*x(:,i)+ b);

end
x'
plot(x)

MATHEMATIQUES
PROJET



Page14

Rapport de Projet Mathmatiques - Document Rdig par Rgis FOUQUET - Formation Ingnieur Matre


4.4. RESULTATS SOUS MATLAB

Jacobi avec k =10 Gauss-Seidel avec k =10 Relaxation avec w=1.1
N =

0 -1 1
-1 0 -2
-2 1 0


ans =

0 0 0
0.6667 3.4000 3.0000
0.5333 2.0667 2.6556
0.8630 2.2311 2.8333
0.8674 2.0941 2.9158
0.9406 2.0602 2.9401
0.9600 2.0358 2.9702
0.9781 2.0199 2.9807
0.9869 2.0121 2.9894
0.9924 2.0069 2.9936
0.9956 2.0041 2.9963
M =

3 0 0
1 5 0
2 -1 -6


N =

0 -1 1
0 0 -2
0 0 0


ans =

0 0 0
0.6667 3.2667 2.6778
0.4704 2.2348 2.7843
0.8498 2.1163 2.9306
0.9381 2.0402 2.9727
0.9775 2.0154 2.9899
0.9915 2.0057 2.9962
0.9968 2.0021 2.9986
0.9988 2.0008 2.9995
0.9996 2.0003 2.9998
0.9998 2.0001 2.9999


F =

0 -1 1
0 0 -2
0 0 0


E =

0 0 0
-1 0 0
-2 1 0


ans =

0 0 0
0.7333 3.5787 2.9128
0.4158 2.0090 2.7929
0.9792 2.0948 2.9957
0.9657 2.0000 2.9879
0.9990 2.0056 2.9998
0.9980 2.0000 2.9993
1.0000 2.0003 3.0000
0.9999 2.0000 3.0000
1.0000 2.0000 3.0000
1.0000 2.0000 3.0000


On remarque que la mthode de Gauss-Seidel converge plus rapidement que Jacobi, la
relaxation permet de rduire le nombre ditrations avec un coefficient de relaxation w=1,1


MATHEMATIQUES
PROJET



Page15

Rapport de Projet Mathmatiques - Document Rdig par Rgis FOUQUET - Formation Ingnieur Matre



5. REMARQUES SUR LA CONVERGENCE
Si A est une matrice strictement dominante, la mthode de Jacobi ou de Gauss-Seidel
est convergente.
Dfinition dune matrice dite diagonale strictement dominante :

=
>
n
i j j
ij ii
a a
, 1
i
Cette dfinition signifie que le terme diagonal
ii
a de la matrice A est nettement dominant
puisque sa valeur absolue est plus grande que la somme des valeurs absolues de tous
les autres termes de la ligne.
Sous Matlab la fonction Dom(A) permet de dterminer si la matrice est convergente.


6. CONCLUSION
Dans de nombreux problmes dingnieurs, il est ncessaire de construire un modle dun
processus (physique, industriels) bas sur des donnes recueillies ou mesures, afin
darriver des systmes dquations dvelopper.
Les mthodes itratives sont principalement utilises pour des matrices de grandes tailles et
largement creuses. Les calculs croissent dans ce cas linairement avec n.
Pour toute mthode itrative, il convient de sassurer que la convergence est suffisamment
rapide pour que le temps de calcul ne soit pas consomm sans que la recherche dune
solution ne soit rellement effectue.
Cette comparaison des diffrentes mthodes itratives met en vidence que lalgorithme de
Gauss-Seidel apporte une amlioration par rapport celui de Jacobi, en permettant
lutilisation des nouvelles valeurs des variables dj calcules lors dune itration.






MATHEMATIQUES


PROJET
Annexe
1
page
1/2

Rapport de Projet Mathmatiques - Document Rdig par Rgis FOUQUET - Formation Ingnieur Matre






ANNEXE 1

Jacobi, Gauss-Seidel & Gauss











MATHEMATIQUES


PROJET
Annexe
1
page
2/2

Rapport de Projet Mathmatiques - Document Rdig par Rgis FOUQUET - Formation Ingnieur Matre


SEIDEL Philipp Von
allemand, 1821-1896
Astronome et physicien allemand, on lui doit des progrs importants en photomtrie
(photographies astronomiques). En mathmatiques, il fut l'lve de Dirichlet et de Jacobi.
Outre des travaux concernant la convergence uniforme des suites et des sries de fonctions,
dont l'initiateur fut Weiertrass, on lui doit une mthode, dite de Gauss-Seidel, amliorant la
mthode de Jacobi relative la rsolution par itrations dun systme dquations linaires.


GAUSS Karl Friedrich
allemand, 1777-1855
Enfant prodige illustre mathmaticien et physicien (importants
travaux et publications en lectricit, optique et magntisme,
thorie du potentiel), astronome (succdant Mayer, il fut
directeur de l'observatoire de Gttingen). Il tablit l'orbite de
Crs (dcouverte en 1801 par l'astronome italien Giuseppe
Piazzi) en utilisant la mthode des moindres carrs. Ce grand
savant sera surnomm par ses pairs Prince des mathmaticiens.
Le "gauss" est l'unit d'induction magntique.
Dans sa thse de doctorat expose Helmstdt, il dmontre
compltement (1799) le thorme fondamental de l'algbre
(nonc au pralable par Girard et dmontr partiellement par
dAlembert)




JACOBI Carl, Gustav
allemand, 1804-1851
Professeur de mathmatiques Berlin et l'universit de Knigsberg, o il sera l'ami de
Bessel. A Paris, il se liera avec les grands mathmaticiens de l'poque comme Legendre et
Poisson. Ses travaux portent essentiellement, avec Abel, sur l'tude des fonctions
elliptiques (ds 1829), les quations diffrentielles et aux drives partielles, les systmes
d'quations linaires, la thorie des dterminants. Il fut aussi un des principaux artisans du
journal de Crelle.