CMN

Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Cours Calcul et Mthodes Numriques

Rsolution des systmes linaires
Mthodes
directes
Matrices particulires
Gauss
Gauss-Jordan
Mohamed Berrada
Dcomposition LU
Cholesky
Mthodes
itratives
Ecole Nationale Suprieure des Arts et Mtiers de Mekns

Universit Moulay Ismail
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
Dcembre 2014
Sommaire
Cours Calcul
et Mthodes
Numriques
M. Berrada
1
2
3
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
Quesquun systme linaire ?

Existence et unicit de la solution
Mthodes directes
Mthode de Gauss
Mthode de Gauss-Jordan
Dcomposition LU
Dcomposition de Cholesky
Mthodes itratives
Principe gnral
Convergence
Mthode de Jacobi
Mthode de Gauss-Seidel
Mthode de Relaxation
Conditionnement dun systme liniare
Sommaire
Cours Calcul
et Mthodes
Numriques
M. Berrada
1
2
3
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement

Mthodes directes
Mthode de Gauss
Dcomposition LU
Mthodes itratives
Principe gnral
Convergence
Mthode de Jacobi

Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Dfinition
Un systme linaire est un ensemble dquations portant sur les
mmes inconnues
Un systme linaire de m quations n inconnues scrit
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
a1,1 x1 + a1,2 x2 + + a1,n xn
a2,1 x1 + a2,2 x2 + + a2,n xn
..
a x + a x + + a x
m,1 1
m,2 2
m,n n
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
o les xi , i = 1, , n sont les inconnues.
=
=
b1
b2
= bm

Forme matricielle
Cours Calcul
et Mthodes
Numriques
Le systme linaire peut scire sous la forme matricielle
M. Berrada
AX = b
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
A=
a1,n
a2,n
..
.
am,1 am,2
am,n
a1,1
a2,1
..
.
a1,2
a2,2
..
.
, X =
x1
x2
..
.
xn
, et b =
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
A Mm,n (R) est une matrice m lignes et n colonnes

Si m = n, on note Mn (R) = Mn,n (R) et on dit que la
matrice A est une matrice carre
b1
b2
..
.
bm
Sommaire
Cours Calcul
et Mthodes
Numriques
M. Berrada
1
2
3
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement

Mthodes directes
Mthode de Gauss
Dcomposition LU
Mthodes itratives
Principe gnral
Convergence
Mthode de Jacobi

Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Si m > n, il y a plus dquations que dinconnues. Le

systme est dit sur-dtermin. En gnral, le systme
naura pas de solution
Si m < n, il y a moins dquations que dinconnues. Le
systme est dit sous-dtermin. Le systme aura une
infinit de solutions.
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
Si m = n, il y a autant dquations que dinconnues. La

matrice A, dans ce cas, est une matrice carre A Mn .
Lexistence et lunicit de la solution dpend de la valeur
du dterminant D de A.

Cours Calcul
et Mthodes
Numriques
M. Berrada
Quelles que soient les dimensions, il y aura trois situations
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
si b 6 Im(A), le systme na pas de solution

si b Im(A), et si le noyau est rduit {0}, le systme a
une solution unique.
si b Im(A), et si le noyau nest pas rduit {0}, le
systme a une infinit de solution
Pour A Mn , on calcul le dterminant D de la matrice A

1
2
Si D 6= 0, le systme admet une solution unique

Si D = 0, alors le noyau nest pas rduit {0} et on aura
1
2
si b 6 Im(A), le systme na pas de solution

si b Im(A), le systme a une infinit de solution

Exemples
Cours Calcul
et Mthodes
Numriques
Exemple 1 : une infinit de solutions
M. Berrada
(
Introduction
Existence et
unicit
Mthodes
directes
2x1 + 6x2 = 4
, A=
4x1 12x2 = 8
2
6
4 12
Exemple 2 : une solution unique
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
x1 + 3x2 = 7
, A=
2x1 x2 = 0
1 3
2 1
Exemple 3 : pas de solution
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
4x1 3x2 = 14
, A=
16x1 12x2 = 2
4 3
16 12
Sommaire
Cours Calcul
et Mthodes
Numriques
M. Berrada
1
2
3
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement

Mthodes directes
Mthode de Gauss
Dcomposition LU
Mthodes itratives
Principe gnral
Convergence
Mthode de Jacobi
Mthodes directes
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
On se limite ici au cas des systmes carrs (A Mn )

Pour les mthodes directes : la solution est obtenue de
faon exacte, aux erreurs darrondis machine prs, en un
nombre fini doprations
Sommaire
Cours Calcul
et Mthodes
Numriques
M. Berrada
1
2
3
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement

Mthodes directes
Mthode de Gauss
Dcomposition LU
Mthodes itratives
Principe gnral
Convergence
Mthode de Jacobi
Mthodes directes
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Dfinition
Soit A Mn (R) (une matrice carre)
1
A est dite triangulaire suprieure ssi ai,j = 0, i > j
A est dite triangulaire infrieure ssi ai,j = 0, i < j
A est dite diagonale ssi ai,j = 0, i 6= j
triangulaire suprieure
a
a1,2 a1,n
1,1
0 a2,2 a2,n
..
..
..
..
.
.
.
.
0
0
an,n
triangulaire infrieure
a
0
0
1,1
0
a2,1 a2,2
..
..
..
..
.
.
.
.
an,1 an,2 an,n
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
a
1,1
0
..
.
0
0
a2,2
..
.
0
..
.
0
0
..
.
an,n
diagonale
Mthodes directes
Cours Calcul
et Mthodes
Numriques
M. Berrada
Remarque
Les systmes linaires matrice diagonale, triangulaire suprieure ou
triangulaire infrieure, sont facile rsoudre
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
Pour un systme linaire matrice diagonale telle que ai,i 6= 0,

i = 1, , n, la solution est xi = abi,ii , i = 1, , n
Pour un systme linaire matrice triangulaire suprieure telle
que ai,i 6= 0, i = 1, , n, la solution est
xn = abn
n,n P
n
bi
ai,j xj
j=i+1
xi =
ai,i
Pour un systme linaire matrice triangulaire infrieure telle
que ai,i 6= 0, i = 1, , n, la solution est
x1 = ab1,11
Pi1
xi = bi j=1 ai,j xj
ai,i
Mthodes directes
Algorithme de remonte
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Algorithme de remonte
Soit A une matrice triangulaire suprieure. La solution de
Ax = b est donne par lalgorithme, dit de remonte, suivant :
|x = b
|pour i = n : 1 : 1 faire
|
pour j = i + 1 : n faire
|
xi = xi ai,j xj
|
fin pour j
|
xi = axi,ii
|fin pour i
Nombre doprations :
Pn
i=1 (n
i) =
n2 n
2
(, )
Exemple :
2x1
Conditionnement
x2
5x2 +
x3 = 3
x3 = 8
2x3 = 5
Mthodes directes
Algorithme de descente
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Algorithme de descente
Soit A une matrice triangulaire infrieure. La solution de
Ax = b est donne par lalgorithme, dit de descente, suivant :
|x = b
|pour i = 1 : n faire
|
pour j = 1 : i 1 faire
|
xi = xi ai,j xj
|
fin pour j
|
xi = axi,ii
|fin pour i
Nombre doprations :
Pn
i=1 (i
1) =
n2 n
2
(, )
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
Exemple :
2x1
x1 5x2
x1 + x2 + 2x3
= 1
= 2
= 4
Sommaire
Cours Calcul
et Mthodes
Numriques
M. Berrada
1
2
3
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement

Mthodes directes
Mthode de Gauss
Dcomposition LU
Mthodes itratives
Principe gnral
Convergence
Mthode de Jacobi
Mthode de Gauss
Principe gnrale
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
La mthode de Gauss dite aussi dlimination de Gauss est

une mthode de rsolution de systmes linaires
Lide de cette mthode est de se ramener un systme
linaire dont la matrice est triangulaire suprieure, on
obtient ensuite la solution par lalgorithme de remonte.
Elle se base sur les principes fondamentales suivantes : On
ne change pas la solution lorsquon :
permute deux lignes
permute deux colonnes
multiplie une ligne par une constante 6= 0
ajoute une ligne une autre ligne multiplie par une
constante
Mthode de Gauss
Exemple
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
On cherche rsoudre le systme suivant :
2x1
4x
1
x
1
2x1
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
+ 3x3
+ 3x3
+ x3
+ x3
+ x4
+ 2x4
+ x4
+ x4
= 15
= 3
= 5
= 1
La mthode de Gauss, consiste liminer x1 des lignes 2, 3 et

4, puis x2 des lignes 3 et 4, puis x3 de la ligne 4. La forme
matricielle
Gnralits
Convergence
+ 3x2
6x2
+ x2
x2
2
3 3 1
4 6 3 2
1
1 1 1
2 1 1 1
x1
x2
x3
x4
15
3
5
1
Mthode de Gauss
Exemple : Matrice augmente
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
On note par
A=
2
3 3 1
4 6 3 2
1
1 1 1
2 1 1 1
et b =
15
3
5
1
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
On nomme
B1 la matrice A augmente de b. Ainsi on aura
1 , 1 i n, 1 j n + 1
B1 = bi,j
Cholesky
Mthodes
itratives
B1 =
2
3 3 1
4 6 3 2
1
1 1 1
2 1 1 1
15
3
5
1
Mthode de Gauss
Exemple : Etape 1
Cours Calcul
et Mthodes
Numriques
M. Berrada
1
6= 0, on le nomme pivot de la 1ere tape
On a b1,1
On pose mi,1 =
1
bi,1
0
b1,1
et on effectue pour toute ligne
li , i = 2, 3, 4 :
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
li li mi,1 l1
On obtient
B2 =
2
0
0
0
3
0
3
9
1
4
5
2
5
2
3
2
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
On peut montrer que B2 = E1 B1
1
m2,1
E1 =
m3,1
m4,1

15

33
25

2
16
avec
0 0 0
1 0 0
0 1 0
0 0 1
Pour obtenir E11 , il suffit de remplacer mi,1 dans E1 par mi,1
Mthode de Gauss
Exemple : Etape 2
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
2 est nul. On change la deuxime et la

Le pivot b2,2
troisime ligne. On obtient une nouvelle matrice B20
La matrice B20 est la multiplication de B2 par une matrice

de permutation P2
B20 =
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
1
0
0
0
2
0
0
0
0
0
1
0
0
1
0
0
0
0
0
1
5
2
5
2
3
2
0
2
9
4
4
2
Relaxation
Conditionnement
2 = 5,
Le pivot devient b2,2
2
2 3 3
0 0 9
0 25 52
0 2 4
15
25
2
33
16
1
4
3
2
15
33
25
2
16
Mthode de Gauss
Exemple : Etape 2
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
On note m3,2 =
2
b3,2
2
b2,2
= 0 et m4,2 =
Relaxation
Conditionnement
4
5
La ligne l3 ne sera pas change et on effectue pour la ligne

l4 :
l4 l4 m4,2 l2
On obtient
B3 =
2
0
0
0
5
2
5
2
3
2
0
0
9
2
4
5
15
25
2
33
6
On aura lcriture matricielle B3 = E2 B20 = E2 P2 B2 avec
Jacobi
Gauss-Seidel
2
b4,2
2
b2,2
E2 =
1
0
0
1
0 m3,2
0 m4,2
0
0
1
0
0
0
0
1
Mthode de Gauss
Exemple : Etape 3
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
3
= 9. On note m4,3 =
Le pivot b3,3
la ligne l4 : l4 l4 m4,3 l3
On obtient, au finale
2 3
0 5
2
B4 =
0 0
0 0
3
b4,3
3
b3,3
5
2
3
2
= 29 , et on effectue pour
9
4
4
0 45
On aura B4 = E3 B3 = E3 E2 P2 E1 B1 avec
1 0
0
0 1
0
E3 =
0 0
1
0 0 m4,3

15
25

2
33
4

3
0
0
0
1
Relaxation
Conditionnement
Dans le cas gnral, on aura Bk+1 = Ek Pk Bk et donc

Bn = En1 Pn1 E1 P1 B1
Mthode de Gauss
Exemple : rsolution par remonte
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Le systme linaire obtenu est matrice triangulaire

suprieure ( rsolution par remonte)
2
0
0
0
5
2
5
2
3
2
0
0
9
4
0 45
x1
x2
x3
x4
Cholesky
Mthodes
itratives
43
On obtient la solution suivante
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
x1
x2
x3
x4
15
25
2
=
33
Gauss-Jordan
Dcomposition LU
6
1
3
15
Mthode de Gauss
Algorithme
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
|For k = 1 : n 1 do
| LE PIVOT bkk si 6= 0
| "STRATEGIE DU CHOIX?"
| "PIVOT PARTIEL ou TOTAL?"
| For i = k + 1 : n do
|
mi,k =
bi,k
bk,k
|
For j = k : n + 1 do
|
bi,j = bi,j mi,k bk,j
|
End for
| End for
|End for
|xn =
bn,n+1
bn,n
|For i = n 1 : 1 : 1 do
| xi = bi,n+1
| For k = i + 1 : n do
|
xi = xi bi,k xk
| End for
|End for
Mthode de Gauss
Nombre doprations
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
Pour comparer lefficacit de deux algorithmes, on

compare leur nombre doprations
Les oprations multiplication et division demandent le plus
grand temps de cacul lordinateur en comparaison de
laddition et soustraction
Pour lalgorithme de Gauss, il faut
2n3 +3n2 5n
(, ) pour la premire tape
6
n2 +n
(, ) pour la remonte
2
3
2
2n
Au total, il faut 2n +6n
oprations (, )
6
3
2
3
2n
Pour n assez grand, on a 2n +6n
n3
6
On dit que le nombre doprations pour lalgorithme de

Gauss est de lordre 3
Mthode de Gauss
Stratgie du choix du pivot : Pivot partiel et Pivot total
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
Le choix du pivot est trs important pour viter les erreurs

darrondis
Si un pivot est nul, on permute deux lignes ou deux
colonnes
Si tous les pivots restant sont nuls alors la matrice est
singulire (nadmet pas de solution unique)
Pour minimiser les erreurs darrondis, on choisi le plus
grand pivot possible (en valeur absolue)
on permute uniquement les lignes (Pivot partiel)
on permute les lignes et les colonnes (Pivot total)
Sommaire
Cours Calcul
et Mthodes
Numriques
M. Berrada
1
2
3
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement

Mthodes directes
Mthode de Gauss
Dcomposition LU
Mthodes itratives
Principe gnral
Convergence
Mthode de Jacobi
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
On considre le systme suivant
4x1
2x2 + x3 = 10
+ x2 + x3
= 8
+ 3x2 + x3
=
0
9x
1
Gauss
Gauss-Jordan
Nous crivons la matrice augmente par b
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
4 2 1
1 1
1
9
3 1

10

8

0
Etape 1
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
4 2 1
1 1
B0 = 1
9
3 1

10

8

0
1 21
1
L1 L1 : B1 = 1
1
4
9
3
1
4
1
1
Dcomposition LU
5
2
8
0
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
L2 L2 L1 et
L3 L3 9L1
1 21
3
: B2 = 0
2
15
0
2
1
4
3
4
5
4

5
2
21
2
45

2
Etape 1
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
1 21
2
L2 L2 : B3 = 0
1
3
15
0
2
1
4
1
2
5
4

5
2

7
45

1
1 21
4
15
1
L3 L3 L2 : B4 = 0
1
2
2
0
0 5
1 12
1
L3 : B5 = 0
L3
1
5
0
0
1
4
1
2
5
2
7
30
5
2
7
6
Etape 2
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
L2 L2
L1 L1
1
2 L3
1
4 L3
et
1 21 0
: B6 = 0
1 0
0
0 1
1 0 0
1
L1 L1 + L3 : B7 = 0 1 0
2
0 0 1
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
La solution est alors
x1
2
x
4
=
2
x3
6

4

4

6

2

4

6
Algorithme
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
|For k = 1 : n do
| LE PIVOT bkk si 6= 0
| "STRATEGIE DU CHOIX?"
| "PIVOT PARTIEL ou TOTAL?"
| For j = k : n + 1 do
|
bj,k =
bj,k
bk,k
| End for
| For i = k + 1 : n do
|
For j = k : n + 1 do
|
bi,j = bi,j bi,k bk,j
|
End for
| End for
|End for
|For k = n : 1 : 1 do
| xk = bk,n+1
| For i = k 1 : 1 : 1 do
|
bi,n+1 = bi,n+1 bi,k bk,n+1
| End for
|End for
Sommaire
Cours Calcul
et Mthodes
Numriques
M. Berrada
1
2
3
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement

Mthodes directes
Mthode de Gauss
Dcomposition LU
Mthodes itratives
Principe gnral
Convergence
Mthode de Jacobi
Dcomposition LU
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
La factorisaion LU consiste dcomposer la matrice sous

la forme
A = LU
o L est une matrice triangulaire infrieure digonale
unit et U est une matrice triangulaire suprieure
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
l2,1
L= .
..
ln,1
0
1
..
.
..
.
0
0
..
.
ln,2
, et
U=
u1,1
0
..
.
u1,2
u2,2
..
.
..
.
u1,n
u2,n
..
.
un,n
Dcomposition LU
Algorithme de factorisation LU
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
On
a
a1,1
a2,1
..
.
a1,2
a2,2
..
.
..
.
a1,n
a2,n
..
.
an,2 an,n

0 0
u1,1 u1,2 u1,n
0
1
0
u2,2 u2,n

..
.
..
..
.
..
. . .. ..
.
.
.
.
ln,1 ln,2 1
0
0
un,n
Par identification, on peut dduire lalgorithme
an,1
1
l2,1
..
.
Dcomposition LU
Algorithme de factorisation LU
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
|u1,1 = a1,1
|For j = 2 : n do
| u1,j = a1,j
aj,1
| lj,1 = a1,1
|End for
|For i = 2 : n 1 do
P
| ui,i = ai,i i1
k=1 li,k uk,i
| For j = i + 1 : n do
P
|
ui,j = ai,jh i1
k=1 li,k uk,j
i
P
1
|
lj,i = ui,i aj,i i1
k=1 lj,k uk,i
| End for
|End for
P
|un,n = an,n i1
k=1 ln,k uk,n
Dcomposition LU
Stockage dans la matrice
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
Pour faire la factorisation A = LU en stockant le rsultat dans

la matrice A, on suit les tapes suivantes :
Dcomposition LU
Cours Calcul
et Mthodes
Numriques

M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
La premire ligne reste inchanger
Dcomposition LU
Cours Calcul
et Mthodes
Numriques

M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
2
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement

La premire colonne est divise par a1,1 , aj,1 =
aj,1
a1,1 ,
j 2
Dcomposition LU
Cours Calcul
et Mthodes
Numriques

M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
2
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement

aj,1
La premire colonne est divise par a1,1 , aj,1 = a1,1
, j 2
Les lments du block restant sont remplacs par la
formule aj,k = aj,k aj,1 a1,k , j, k 2
Le block restant obtenu est une matrice (n 1) (n 1).
Dcomposition LU
Cours Calcul
et Mthodes
Numriques

M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
2
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
4
Conditionnement

aj,1
La premire colonne est divise par a1,1 , aj,1 = a1,1
, j 2
Les lments du block restant sont remplacs par la
formule aj,k = aj,k aj,1 a1,k , j, k 2
Le block restant obtenu est une matrice (n 1) (n 1).
On refait les mmes oprations sur la matrice
(n 1) (n 1) obtenue...
Dcomposition LU
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
Au final, on rcupre la factorisation LU dans la matrice

elle-mme :
Dcomposition LU
Stockage dans la matrice : Algorithme
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
|For i = 1 : n 1 do
| For j = i + 1 : n do
a
|
aj,i = aj,i
(mettre jours la colonne i)
i,i
| End for
| For k = i + 1 : n do
|
For j = i + 1 : n do
|
aj,i = aj,i aj,k ak,i (mettre jours le
block restant)
|
End for
| End for
|End for
Dcomposition LU
Rsolution
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
Aprs factorisation de la matrice A, le systme est rsolu

en deux tapes
1
2
Une descente : Trouver y solution de Ly = b

Une remonte : Trouver x solution de Ux = y
La solution x trouve la deuxime tape sera la solution

du systme Ax = b
Dcomposition LU
Matrice de permutation
Cours Calcul
et Mthodes
Numriques
Remarque
M. Berrada
Lexistence de la factoristation LU dune matrice carre nest pas

forcment assure mme si la matrice est inversible
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Exemple :

0
1
1
2

=
0
1
l2,1
u1,1
=
l2,1 u1,1
u1,1
0
u1,2
u2,2

u1,2
u2,2 + l2,1 u1,2
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
On aura l2,1 u1,1 = 1 et u1,1 = 0.

Par contre, si on permute les deux lignes de la matrice, on obtient

0 1
0 1
1 2
=
1 0
1 2
0 1
Conditionnement
qui est une matrice factorisable.
Dcomposition LU
Matrice de permutation
Cours Calcul
et Mthodes
Numriques
M. Berrada
Proposition
Si A est une matrice inversible alors il existe une matrice de
permutation P, telle que PA = LU
Introduction
Existence et
unicit
Le systme Ax = b est quivalent PAx = Pb et donc LUx = Pb

La dmonstration se base sur le rsultat de lalgorithme de Gauss :
Mthodes
directes
Bn = En1 Pn1 E1 P1 B1 .
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
On note U la premire partie de Bn , qui est une matrice triangulaire

suprieure, et on a Pk1 = Pk donc Pk+1 Ek = Pk+1 Ek Pk+1 Pk+1 .
| {z }
Ek0
On aura alors
0
U = En1 En2
E10 Pn1 Pn2 P1 A
{z
}
|
{z
}|
M
La matrice M est inversible et triangulaire infrieure diagonale

unit. En posant L = M 1 , on aura PA = LU
Dcomposition LU
Matrice tridiagonale
Cours Calcul
et Mthodes
Numriques
Une matrice tridiagonale est une matrice sous la forme
M. Berrada
e1
c1
A=
a1
..
.
e2
..
.
..
. cn1
an1 en
Introduction
Existence et
unicit
Mthodes
directes
Gauss
0
..
.
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
La factorisation LU de A est donne par

les deux matrices :
L=
1
l1
..
.
0
1
..
.
..
.
0
0
..
.
ln1
, et
U=
d1
u1
0
..
.
d2
..
.
..
.
0
..
.
un1
dn
Dcomposition LU
Matrice tridiagonale : Algorithme
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
|d1 = e1
|For i = 2 : n do
| ui = ci
| li1 = dai1
i1
| di = ei li1 ui
|End for
Factorisation
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
Descente
|y1 = b1
|For i = 2 : n do
| yi = bi li1 yi1
|End for
Remonte
|xn = dynn
|For i = n 1 : 1 do
xi+1
| xi = yi ci+1
di
|End for
Sommaire
Cours Calcul
et Mthodes
Numriques
M. Berrada
1
2
3
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement

Mthodes directes
Mthode de Gauss
Dcomposition LU
Mthodes itratives
Principe gnral
Convergence
Mthode de Jacobi
Principe gnral
Cours Calcul
et Mthodes
Numriques
M. Berrada
Supposons que la matrice A est sysmtrique et dfinie

positive,
Introduction
Existence et
unicit
Mthodes
directes
La mthode de Cholesky conduit une factorisation de

type
A = LLT
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Thorme
Si A est une matrice symtrique dfinie positive, il existe une
matrice relle triangulaire infrieure L telle que : A = LLT .
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
La matrice L est triangulaire infrieure, mais nest plus

diagonale unit
Algorithme
Cours Calcul
et Mthodes
Numriques
On cherche la matrice L vrifiant lgalit A = LLT telle que
l1,1
l2,1 l2,2
L=
..
..
..
.
.
.
ln,1 ln,2
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
ln,n
Par identification, on obtient
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
ai,j = LLT

i,j
n
X
min{i,j}
li,k lj,k =
k=1
li,k lj,k , 1 i, j n
k=1
Puisque A est symtrique, il suffit de considrer ai,j pour i j
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
ai,j =
i
X
k=1
lik ljk , 1 i, j n
Algorithme
Cours Calcul
et Mthodes
Numriques
M. Berrada
Pour i = 1, on dtermine la premire colonne de L :
Introduction
a1,1 = l1,1 l1,1 do l1,1 = a1,1

a1,j
a1,j = l1,1 lj,1 do lj,1 = l1,1
, 2j n
Existence et
unicit
Mthodes
directes
Gauss
Pour i = 2 n :
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
ai,i =
Pi
ai,j =
Pi
k=1 li,k li,k

k=1 lik ljk
do li,i =
ai,i
Pi1
do lj,i =
ai,j
Pi1 2
l
k=1 i,k
l l
k=1 i,k j,k
li,i
, i +1j n
Algorithme
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
|l1,1 = a1,1
|For i = 2 : n do
ai,1
| li,1 = l1,1
|End for
|For i =q
2 : n do
|
|
2
li,i = ai,i i1
k=1 li,k l li,k
For j = i +P
1 : n do
aj,i
|
lj,i =
| End for
|End for
i1
l l
k=1 j,k j,k
li,i
Conclusion
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Les mthodes directes fournient la solution exacte aux

erreurs darrondis machine prs
Elles ncessitent un nombre fini doprations (de lordre de
n3
3 pour Gauss)
La mthode de Gauss sapplique tout systme liniare
inversible
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
Les mthodes directes ont un cot important en stockage

mmoire (des techniques doptimisation de stockage
existent)
Sommaire
Cours Calcul
et Mthodes
Numriques
M. Berrada
1
2
3
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement

Mthodes directes
Mthode de Gauss
Dcomposition LU
Mthodes itratives
Principe gnral
Convergence
Mthode de Jacobi
Sommaire
Cours Calcul
et Mthodes
Numriques
M. Berrada
1
2
3
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement

Mthodes directes
Mthode de Gauss
Dcomposition LU
Mthodes itratives
Principe gnral
Convergence
Mthode de Jacobi
Mthodes itratives
Principe gnral
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
La solution du systme est la limite dune suite itrative de

vecteurs
On dcompose A sous la forme A = M N o M est une
matrice inversible facilement (M diagonale, triangulaire,...)
1
1
b}
AX = b MX = NX + b X = |M {z
N} X + |M{z
C
La solution du systme est la limite de la suite

0
X donn
X k+1 = CX k + d
o C Mn (R) dite matrice ditration et d Rn
Si la mthode converge on aura (quation de type point-fixe)
Jacobi
Gauss-Seidel
X = MX + C
Relaxation
Conditionnement
Ncessite la convergence
La convergence ne doit pas tre lente
Mthodes itratives
Principe gnral
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
La solution du systme est la limite dune suite itrative de

vecteurs
On dcompose A sous la forme A = M N o M est une
matrice inversible facilement (M diagonale, triangulaire,...)
1
1
b}
AX = b MX = NX + b X = |M {z
N} X + |M{z
C
La solution du systme est la limite de la suite

0
X donn
X k+1 = CX k + d
o C Mn (R) dite matrice ditration et d Rn
Si la mthode converge on aura (quation de type point-fixe)
Jacobi
Gauss-Seidel
X = MX + C
Relaxation
Conditionnement
Ncessite la convergence
La convergence ne doit pas tre lente
Sommaire
Cours Calcul
et Mthodes
Numriques
M. Berrada
1
2
3
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement

Mthodes directes
Mthode de Gauss
Dcomposition LU
Mthodes itratives
Principe gnral
Convergence
Mthode de Jacobi
Convergence
Norme matricielle
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Dfinition
On appel norme matricielle une norme dfinie sur Mn (R) par :
k.k : Mn (R) R+
A 7 kAk
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
telle que A, B Mn (R) et R :

Sparation : kAk = 0 A = (0),
Homognit : kAk = ||.kAk,
Ingalit triangulaire : kA + Bk kAk + kBk,
kA.Bk kAk.kBk.
Convergence
Norme subordonne
Cours Calcul
et Mthodes
Numriques
M. Berrada
Proposition (Norme subordonne)

Soit k.kV une norme vectorielle dfinie sur Rn . La fonction qui
A Mn (R) associe
Introduction
Existence et
unicit
Mthodes
directes
Gauss
kAk =
kAx kV
,x 6=0 kx kV
max
n
x R
est une norme matricielle dite norme subordonne ou induite.
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Exemple :
Soit la norme vectorielle k.k :
kx k = max |xi |.
1in
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
Cette norme induit la norme matricielle k.k sur Mn (R)

kAk = max
1in
n
X
j=1
|ai,j |.
Convergence
Rayon spectral
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Dfinition
Soit A Mn (R), on appel rayon spectral de la matrice A le
nombre rel :
(A) = max |i |
1in
o i sont les valeurs propres de A.
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
(.) nest pas une norme matricielle

Pour toute norme matricielle k.k et toute matrice A :
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
(A) kAk
Convergence
Cours Calcul
et Mthodes
Numriques
M. Berrada
Thorme
C Mn (R), sil existe une norme matricielle subordonne k.k
telle que kC k < 1, alors :
Introduction
Existence et
unicit
Lquation x = Cx + d admet une solution unique x
La suite x k converge vers x quelle que soit x 0 .
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
On a (C ) kC k < 1, donc les |i | < 1.

Ceci implique que I C est inversible. Donc il existe une
solution unique lquation x = Cx + d quon note x .
On note e k = x k x . On peut montrer que e k = Ce k1
et donc e k = C k e 0 , on aura alors
Jacobi
Gauss-Seidel
Relaxation
ke k kV kC kk ke 0 kV
Conditionnement
Donc e k 0 et x k x
Convergence
Cours Calcul
et Mthodes
Numriques
M. Berrada
Thorme
On a quivalence entre les trois conditions suivantes :
1
(C ) < 1
il existe une norme matricielle subordonne k.k telle que

kC k < 1
Introduction
Existence et
unicit
Mthodes
directes
C k e0 tend vers 0 pour tout vecteur e0 Rn
la suite x k converge vers la solution du systme Ax = b
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
On note ek = x k x ,
On a x k+1 = Cx k + d et x = Cx + d, donc ek+1 = Cek , puis
ek = C k e0
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
Thorme
Soit A sysmtrique dfinie positive telle que A = M N Si
M t + N est dfinie positive, Alors la suite x k converge.
Convergence
Vitesse de convergence
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Le rayon spectral (C ) donne une estimation de vitesse de

convergence
) < 1 alors le processus itratif matrice
Si (C ) (C
ditration C converge plus vite
On suppose que (C ) < 1 donc pour un x 0 donn, la suite
x k x quand k +, alors on a lestimation suivante
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
kx k+1 x k
(C )
kx k x k
Si on ne connait pas la solution x , on utilise lestimation
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
kx k+1 x k k
(C )
kx k x k1 k
Convergence
Conclusion
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
Pour rsoudre le systme Ax = b, il faut que :

A soit dcomposable sous la forme A = M N
M soit inversible facilement
lune des deux conditions suivantes soit vrifie
Le rayon spectral de C = M 1 N est <1 ((C ) < 1)
Pour A symtrique dfinie positive, il faut que M t + N soit
dfinie positive.
Convergence
Conclusion
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
Pour rsoudre le systme Ax = b, il faut que :

A soit dcomposable sous la forme A = M N
M soit inversible facilement
lune des deux conditions suivantes soit vrifie
Le rayon spectral de C = M 1 N est <1 ((C ) < 1)
Pour A symtrique dfinie positive, il faut que M t + N soit
dfinie positive.
Comment choisir les matrices M et N qui assurent la

convergence
Sommaire
Cours Calcul
et Mthodes
Numriques
M. Berrada
1
2
3
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement

Mthodes directes
Mthode de Gauss
Dcomposition LU
Mthodes itratives
Principe gnral
Convergence
Mthode de Jacobi
Mthode de Jacobi
Exemple
Cours Calcul
et Mthodes
Numriques
On note x = (
x1 , x2 , x3 ) la solution exacte du systme linaire
Introduction
Existence et
unicit
Mthodes
directes
2 x1 + 1 x2 + 0 x3 = 5,
1 x1 3 x2 + 1 x3 = 6,
0 x1 + 1 x2 + 1 x3 = 7,
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
On aura
Gauss
Gauss-Jordan
2
1 0
x1
5
1
3
1
x
2 6
0
1 4
x3
7
M. Berrada
Mthode de Jacobi
Exemple
Cours Calcul
et Mthodes
Numriques
On note x = (
Introduction
Existence et
unicit
Mthodes
directes
2 x1 + 1 x2 + 0 x3 = 5,
1 x1 3 x2 + 1 x3 = 6,
0 x1 + 1 x2 + 1 x3 = 7,
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Solution exacte
1
x1 =
x2 =
x3 =
Gauss-Seidel
Relaxation
Conditionnement
On aura
Gauss
Gauss-Jordan
2
1 0
x1
5
1
3
1
x
2 6
0
1 4
x3
7
M. Berrada
51
x2 0
x3
2
6+1
x1 1
x3
3
70
x1 1
x2
4
Mthode de Jacobi
Exemple
Cours Calcul
et Mthodes
Numriques
On note x = (
Introduction
Existence et
unicit
Mthodes
directes
2 x1 + 1 x2 + 0 x3 = 5,
1 x1 3 x2 + 1 x3 = 6,
0 x1 + 1 x2 + 1 x3 = 7,
Cholesky
Gnralits
Convergence
Jacobi
Solution exacte
1
x1 =
x2 =
Gauss-Seidel
Relaxation
Conditionnement
Dcomposition LU
Mthodes
itratives
On aura
Gauss
Gauss-Jordan
2
1 0
x1
5
1
3
1
x
2 6
0
1 4
x3
7
M. Berrada
x3 =
51
x2 0
x3
2
6+1
x1 1
x3
3
70
x1 1
x2
4
Itration Jacobi
1
x1k+1 =
x2k+1 =
x3k+1 =
51x2k 0x3k
2
6+1x1k 1x3k
3
70x1k 1x2k
4
Mthode de Jacobi
Algorithme
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
Le test darrt de lalgorithme est que :

1 le rsidu kAx k bk ou
2 le nombre ditration nb iter _max
|For i = 1 : n do
| xinew = xi0 donn
|End for
|While kAx new bk > or nb < iter _max do
| nb = nb + 1
| For i = 1 : n do
|
xiold = xinew
| End for
| For i = 1 : n P
do
|
xinew =
| End for
|End while
bi
n
j=1,j6=i
ai,i
ai,j xjold
Mthode de Jacobi
Forme matricielle
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Soit A Mn (R), on note par :

D la matrice des lments diagonaux de A
E la matrice des lments sous-diagonaux de A
F la matrice des lments sur-diagonaux de A
On peut crire alors
A = D + E + F = D (E F )
On considre alors la dcomposition A = M N avec
(
M = D
N = E F
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
Dfinition
On appel matrice de Jacobi la matrice
J = M 1 N = D 1 (E F )
Mthode de Jacobi
Conditions de convergence
Cours Calcul
et Mthodes
Numriques
La mthode de Jacobi est convergente ssi
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
Les lments diagonaux de A sont tous non nuls
(J) < 1
Thorme
Si A est diagonale strictement dominante (c--d
P
|ai,i | > nj=1,j6=i |ai,j |) alors la mthode de Jacobi converge
pour tout vecteur initial x 0 .
Thorme
Supposons A symtrique dfinie positive. Si 2D A est
symtrique dfinie positive alors la mthode de Jacobi converge.
Sommaire
Cours Calcul
et Mthodes
Numriques
M. Berrada
1
2
3
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement

Mthodes directes
Mthode de Gauss
Dcomposition LU
Mthodes itratives
Principe gnral
Convergence
Mthode de Jacobi
Exemple
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Dans lalgorithme de Gauss-Seidel, on utilise les lments de

litr qui sont dj calculs
On revient lexemple prcdent.
Solution exacte
Gauss
x1 =
x2 =
x3 =
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
51
x2 0
x3
2
6+1
x1 1
x3
3
70
x1 1
x2
4
Exemple
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Dans lalgorithme de Gauss-Seidel, on utilise les lments de

litr qui sont dj calculs
On revient lexemple prcdent.
Solution exacte
Itration Gauss-Seidel
Gauss
x1 =
x2 =
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
x3 =
51
x2 0
x3
2
6+1
x1 1
x3
3
70
x1 1
x2
4
x1k+1 =
x2k+1 =
51x2k 0x3k
2
6+1x1k+1 1x3k
3
x3k+1 =
70x1k+1 1x2k+1
4
Algorithme
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
|For i = 1 : n do
| xinew = xi0
|End for
| nb = nb + 1
| For i = 1 : n do
|
xiold = xinew
| End for
| For i = 1 : n do

P
new Pn
old
|
xinew = a1i,i bi i1
j=i+1 ai,j xj
j=1 ai,j xj
| End for
|End while
Forme matricielle
Cours Calcul
et Mthodes
Numriques
Lalgorithme de Gauss-Seidel consiste dcomposer la matrice

A = M N telle que
M. Berrada
(
Introduction
Existence et
unicit
Mthodes
directes
M = D+E
N = F
On aura alors
A = M N = D + E (F )
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
et la suite
x k+1 = M 1 Nx k + M 1 b
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
Dfinition
On appel matrice de Gauss-Seidel la matrice
GS = M 1 N = (D + E )1 (F )
Cours Calcul
et Mthodes
Numriques
La mthode de Gauss-Seidel est convergente ssi
M. Berrada
1
Les lments diagonaux de A sont tous non nuls (D + E

inversible)
(GS) < 1
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
Thorme
Si A est diagonale strictement dominante alors la mthode de
Gauss-Seidel converge pour tout vecteur initial x 0 .
Thorme
Si A est symtrique dfinie positive alors la mthode de
Gauss-Seidel converge pour tout vecteur initial x 0 .
Sommaire
Cours Calcul
et Mthodes
Numriques
M. Berrada
1
2
3
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement

Mthodes directes
Mthode de Gauss
Dcomposition LU
Mthodes itratives
Principe gnral
Convergence
Mthode de Jacobi
Forme matricielle
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
La mthode de relaxation est une amlioration de G-S

Diminuer (C ) pour amliorer la vitesse de convergence
Soit R, on dcompose A = M N telle que
(
M =
N
=
D
+E
1
D
On aura le processus itratif :

D
1
D
x k+1 = ( + E )1 (
D F )x k + ( + E )1 b
Cholesky
Mthodes
itratives
Gnralits
Convergence
Dfinition
On appel matrice de relaxation la matrice
Jacobi
Gauss-Seidel
Relaxation
R = M1 N = (
Conditionnement
Si = 1 on retrouve G-S
D
1
+ E )1 (
D F)
Mthode de relaxation
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
La mthode de relaxation est convergente ssi

1 Les lments diagonaux de A sont tous non nuls ( D + E
inversible)
2 (R ) < 1
Thorme
Soit R la matrice de relaxation associ A. Alors :
Gauss
Gauss-Jordan
(R ) | 1|.
Dcomposition LU
Cholesky
Mthodes
itratives
En particulier, si la mthode converge, alors ncessairement

0<<2
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
Thorme
Soit A une matrice symtrique dfinie positive.
Alors la mthode de relaxation converge ssi 0 < < 2.
En particulier, pour = 1, la mthode de G-S converge.
Algorithme
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
Algorithme de la mthoe de relaxation

|For i = 1 : n do
| xinew = xi0
|End for
| nb = nb + 1
| For i = 1 : n do
|
xiold = xinew | End for
| For i = 1 : n do

P
new Pn
old +
a
x
a
x
|
xinew = ai,i bi i1
j=i+1 i,j j
j=1 i,j j
(1 )xiold
| End for
|End while
Comparaison Jacobi et G-S pour une matrice tridiagonale
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Thorme
Si A est une matrice tridiagonale. Alors on a (GS) = [(J)]2
Si de plus A est symtrique dfinie positive alors on a un choix
optimal de
2
q
=
1 + 1 (J)2
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
et (R ) = 1
On peut en dduire que dans ce cas :
G-S converge Jacobi converge
En cas de convergence, la mthode de G-S converge plus vite
que la mthode de Jacobi
Sommaire
Cours Calcul
et Mthodes
Numriques
M. Berrada
1
2
3
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement

Mthodes directes
Mthode de Gauss
Dcomposition LU
Mthodes itratives
Principe gnral
Convergence
Mthode de Jacobi

Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Dfinition
Le conditionnement dune matrice inversible A relativement
une norme subordonne, note || || est donn
Existence et
unicit
(A) = kA1 k kAk.
Mthodes
directes
Gauss
Et on a (A) > 1.
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
Le conditionnement dune matrice donne une borne de

lerreur relative commise sur la solution x lorsque les
donnes A ou b sont perturbes.
Si cette borne est trs grande, lerreur qui pourrait en
dcouler rende la solution numrique inexploitable

Cours Calcul
et Mthodes
Numriques
Soient x , y et z solutions respectivement des trois systmes :

Ax
Ay
(A + A)z
M. Berrada
Introduction
Existence et
unicit
Exemple :
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
= b
= (b + b)
= b
8
7
6
5
10 9
9 10
7
8.1
7.2
5.04
6
5
5.98 9.89
9
4.99
9
9.98

1
1.82
1
0.36
Les solutions : x =
1 y = 1.35
1
0.79
10
7
A=
8
7
10
7.08
A + A =
8
6.99
7
5
6
5
32
23
b=
33
31
32.01
22.99
b + b =
33.01
30.99
81
z = 137
34
22

Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Thorme (second membre perturb)

Soit A une matrice inversible et b 6= 0 un vecteur de Rn . Soient
x et x + x les solutions respectives de Ax = b et
A(x + x ) = b + b, alors lerreur relative thorique x est
majore par
kbk
kx k
6 (A)
kx k
kbk
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Thorme (matrice perturbe)

Soit A inversible. Soient x et x + x les solutions respectives
de Ax = b et (A + A)(x + x ) = b, alors lerreur relative
thorique x est majore par
Gauss-Seidel
Relaxation
Conditionnement
kx k
kAk
6 (A)
kx + x k
kAk

Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
Lorsque lon veut rsoudre un systme linaire Ax = b avec une

matrice mal conditionne, il peut tre intressant de de
multiplier gauche par une matrice K telle KA soit mieux
conditionne.
K est une approximation de A1
Lexemple le plus simple est le prconditionnement diagonal, o
la matrice K est la matrice diagonale constitue des inverses
des lments diagonaux de A

Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Pour avoir une rapidit de convergence, il faut que (A)

soit petit
Prconditionner un systme linaire revient le remplcer
par un systme quivalent avec une matrice de
conditionnement plus petit
Le principe est de remplacer le systme par
KAx = Kb
Gauss
Gauss-Jordan
(prconditionnement gauche)
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
ou par
AKy = b
(prconditionnement droite)
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
avec K une matrice inversible "prconditionneur" et

y = K 1 x et .
Mais aussi, on peut faire Kg AKd y = Kg b (cas gnral)

Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Si A est symtrique dfinie positive, K doit ltre aussi.

Mais KA nest plus symtrique
Si K admet une factorisation K = LLt alors les valeurs
propores de KA et Lt AL sont les mmes. On peut alors
crire le systme quivalent suivant
Gauss
Lt AL
x = Lt b
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
o x = L
x
On cherche une solution approche x k du systme
prcdent.
Cours Calcul
et Mthodes
Numriques
M. Berrada
Introduction
Existence et
unicit
Mthodes
directes
Gauss
Gauss-Jordan
Dcomposition LU
Cholesky
Mthodes
itratives
Gnralits
Convergence
Jacobi
Gauss-Seidel
Relaxation
Conditionnement
Fin Chapitre Systme linaire

CMN

Transféré par

Informations du document

Copyright

Formats disponibles

Partager ce document

Partager ou intégrer le document

Options de partage

Avez-vous trouvé ce document utile ?

Ce contenu est-il inapproprié ?

Droits d'auteur :

Formats disponibles

CMN

Transféré par

Droits d'auteur :

Formats disponibles

Cours Calcul

Cours Calcul et Mthodes Numriques

Ecole Nationale Suprieure des Arts et Mtiers de Mekns

Quesquun systme linaire ?

Quesquun systme linaire ?

Quesquun systme linaire ?

a1,1 x1 + a1,2 x2 + + a1,n xn

a2,1 x1 + a2,2 x2 + + a2,n xn

o les xi , i = 1, , n sont les inconnues.

Quesquun systme linaire ?

Le systme linaire peut scire sous la forme matricielle

A Mm,n (R) est une matrice m lignes et n colonnes

Quesquun systme linaire ?

Existence et unicit de la solution

Si m > n, il y a plus dquations que dinconnues. Le

Si m = n, il y a autant dquations que dinconnues. La

Existence et unicit de la solution

Quelles que soient les dimensions, il y aura trois situations

si b 6 Im(A), le systme na pas de solution

Pour A Mn , on calcul le dterminant D de la matrice A

Si D 6= 0, le systme admet une solution unique

si b 6 Im(A), le systme na pas de solution

Existence et unicit de la solution

Exemple 1 : une infinit de solutions

Exemple 2 : une solution unique

Exemple 3 : pas de solution

Quesquun systme linaire ?

On se limite ici au cas des systmes carrs (A Mn )

Quesquun systme linaire ?

A est dite triangulaire suprieure ssi ai,j = 0, i > j

A est dite triangulaire infrieure ssi ai,j = 0, i < j

A est dite diagonale ssi ai,j = 0, i 6= j

Pour un systme linaire matrice diagonale telle que ai,i 6= 0,

Quesquun systme linaire ?

La mthode de Gauss dite aussi dlimination de Gauss est

On cherche rsoudre le systme suivant :

La mthode de Gauss, consiste liminer x1 des lignes 2, 3 et

et on effectue pour toute ligne

On peut montrer que B2 = E1 B1

Pour obtenir E11 , il suffit de remplacer mi,1 dans E1 par mi,1

2 est nul. On change la deuxime et la

La matrice B20 est la multiplication de B2 par une matrice

La ligne l3 ne sera pas change et on effectue pour la ligne

On aura lcriture matricielle B3 = E2 B20 = E2 P2 B2 avec

Dans le cas gnral, on aura Bk+1 = Ek Pk Bk et donc

Le systme linaire obtenu est matrice triangulaire

On obtient la solution suivante

Pour comparer lefficacit de deux algorithmes, on

On dit que le nombre doprations pour lalgorithme de

Le choix du pivot est trs important pour viter les erreurs

Quesquun systme linaire ?

On considre le systme suivant

Nous crivons la matrice augmente par b

La solution est alors

Quesquun systme linaire ?

La factorisaion LU consiste dcomposer la matrice sous

Pour faire la factorisation A = LU en stockant le rsultat dans

Pour faire la factorisation A = LU en stockant le rsultat dans

La premire ligne reste inchanger

Pour faire la factorisation A = LU en stockant le rsultat dans

La premire ligne reste inchanger

Pour faire la factorisation A = LU en stockant le rsultat dans

La premire ligne reste inchanger

Pour faire la factorisation A = LU en stockant le rsultat dans