Vous êtes sur la page 1sur 95

Cours Calcul

et Méthodes
Numériques

M. Berrada

Introduction
Cours Calcul et Méthodes Numériques
Existence et
unicité Résolution des systèmes linéaires
Méthodes
directes
Matrices particulières
Gauss
Gauss-Jordan
Mohamed Berrada
Décomposition LU
Cholesky
Ecole Nationale Supérieure des Arts et Métiers de Meknès
Méthodes Université Moulay Ismail
itératives
Généralités

Décembre 2014
Convergence
Jacobi
Gauss-Seidel
Relaxation

Conditionnement
Sommaire

Cours Calcul
et Méthodes
1 Quesqu’un système linéaire ?
Numériques
2 Existence et unicité de la solution
M. Berrada
3 Méthodes directes
Introduction Matrices particulières
Existence et
unicité
Méthode de Gauss
Méthodes Méthode de Gauss-Jordan
directes
Matrices particulières
Décomposition LU
Gauss
Gauss-Jordan
Décomposition de Cholesky
Décomposition LU
Cholesky
4 Méthodes itératives
Méthodes Principe général
itératives
Généralités
Convergence
Convergence
Jacobi
Méthode de Jacobi
Gauss-Seidel
Relaxation
Méthode de Gauss-Seidel
Conditionnement
Méthode de Relaxation
5 Conditionnement d’un système linéiare
Sommaire

Cours Calcul
et Méthodes
1 Quesqu’un système linéaire ?
Numériques
2 Existence et unicité de la solution
M. Berrada
3 Méthodes directes
Introduction Matrices particulières
Existence et
unicité
Méthode de Gauss
Méthodes Méthode de Gauss-Jordan
directes
Matrices particulières
Décomposition LU
Gauss
Gauss-Jordan
Décomposition de Cholesky
Décomposition LU
Cholesky
4 Méthodes itératives
Méthodes Principe général
itératives
Généralités
Convergence
Convergence
Jacobi
Méthode de Jacobi
Gauss-Seidel
Relaxation
Méthode de Gauss-Seidel
Conditionnement
Méthode de Relaxation
5 Conditionnement d’un système linéiare
Quesqu’un système linéaire ?

Cours Calcul
et Méthodes
Numériques

M. Berrada Définition
Introduction Un système linéaire est un ensemble d’équations portant sur les
Existence et
unicité
mêmes inconnues
Méthodes
directes
Un système linéaire de m équations à n inconnues s’écrit
Matrices particulières
Y
Gauss
Gauss-Jordan
_
_
_
a1,1 x1 + a1,2 x2 + · · · + a1,n xn = b1
_
] a2,1 x1 + a2,2 x2 + · · · + a2,n xn
Décomposition LU
= b2
..
Cholesky

Méthodes
itératives
_
_
_ .
_
[ a x + a x + ··· + a x
Généralités
Convergence
m,1 1 m,2 2 m,n n = bm
Jacobi
Gauss-Seidel
Relaxation
où les xi , i = 1, · · · , n sont les inconnues.
Conditionnement
Quesqu’un système linéaire ?
Forme matricielle

Cours Calcul
et Méthodes
Numériques
Le système linéaire peut s’écire sous la forme matricielle
M. Berrada

Introduction
AX = b
Existence et
unicité

Q R Q R Q R
Méthodes
directes
a1,1 a1,2 ··· a1,n x1 b1
c d c d c d
Matrices particulières
c a2,1 a2,2 ··· a2,n d c x2 d c b2 d
Gauss
A=c
c .. .. .. d, X = c
d c .. d , et b = c
d c .. d
d
. . . . .
Gauss-Jordan
Décomposition LU a b a b a b
am,1 am,2 · · · am,n xn bm
Cholesky

Méthodes
itératives
Généralités
Convergence
Jacobi
A œ Mm,n (R) est une matrice à m lignes et n colonnes
Si m = n, on note Mn (R) = Mn,n (R) et on dit que la
Gauss-Seidel
Relaxation

Conditionnement matrice A est une matrice carrée


Sommaire

Cours Calcul
et Méthodes
1 Quesqu’un système linéaire ?
Numériques
2 Existence et unicité de la solution
M. Berrada
3 Méthodes directes
Introduction Matrices particulières
Existence et
unicité
Méthode de Gauss
Méthodes Méthode de Gauss-Jordan
directes
Matrices particulières
Décomposition LU
Gauss
Gauss-Jordan
Décomposition de Cholesky
Décomposition LU
Cholesky
4 Méthodes itératives
Méthodes Principe général
itératives
Généralités
Convergence
Convergence
Jacobi
Méthode de Jacobi
Gauss-Seidel
Relaxation
Méthode de Gauss-Seidel
Conditionnement
Méthode de Relaxation
5 Conditionnement d’un système linéiare
Existence et unicité de la solution

Cours Calcul
et Méthodes
Numériques

M. Berrada
Si m > n, il y a plus d’équations que d’inconnues. Le
Introduction
système est dit sur-déterminé. En général, le système
Existence et
unicité n’aura pas de solution
Méthodes
directes
Si m < n, il y a moins d’équations que d’inconnues. Le
Matrices particulières système est dit sous-déterminé. Le système aura une
infinité de solutions.
Gauss
Gauss-Jordan
Décomposition LU
Cholesky Si m = n, il y a autant d’équations que d’inconnues. La
Méthodes
itératives
matrice A, dans ce cas, est une matrice carrée A œ Mn .
Généralités L’existence et l’unicité de la solution dépend de la valeur
Convergence
Jacobi du déterminant D de A.
Gauss-Seidel
Relaxation

Conditionnement
Existence et unicité de la solution

Cours Calcul
et Méthodes
Numériques

M. Berrada
Quelles que soient les dimensions, il y aura trois situations
Introduction 1 si b ”œ Im(A), le système n’a pas de solution
Existence et
unicité
2 si b œ Im(A), et si le noyau est réduit à {0}, le système a
Méthodes
une solution unique.
directes 3 si b œ Im(A), et si le noyau n’est pas réduit à {0}, le
Matrices particulières
Gauss
système a une infinité de solution
Gauss-Jordan
Décomposition LU
Pour A œ Mn , on calcul le déterminant D de la matrice A
Cholesky
1 Si D ”= 0, le système admet une solution unique
Méthodes
itératives
2 Si D = 0, alors le noyau n’est pas réduit à {0} et on aura
Généralités 1 si b ”œ Im(A), le système n’a pas de solution
si b œ Im(A), le système a une infinité de solution
Convergence
Jacobi
2
Gauss-Seidel
Relaxation

Conditionnement
Existence et unicité de la solution
Exemples

Cours Calcul
et Méthodes
Numériques 1 Exemple 1 : une infinité de solutions
M. Berrada
I A B
2x1 + 6x2 = 4 2 6
Introduction , A=
Existence et
≠4x1 ≠ 12x2 = ≠8 ≠4 ≠12
unicité

Méthodes
directes
2 Exemple 2 : une solution unique
Matrices particulières
I A B
x1 + 3x2 = 7 1 3
Gauss
Gauss-Jordan
, A=
Décomposition LU
Cholesky
2x1 ≠ x2 = 0 2 ≠1
Méthodes
itératives
Généralités
3 Exemple 3 : pas de solution
Convergence
I A B
4x1 ≠ 3x2 = 14 4 ≠3
Jacobi

, A=
Gauss-Seidel
Relaxation
16x1 ≠ 12x2 = 2 16 ≠12
Conditionnement
Sommaire

Cours Calcul
et Méthodes
1 Quesqu’un système linéaire ?
Numériques
2 Existence et unicité de la solution
M. Berrada
3 Méthodes directes
Introduction Matrices particulières
Existence et
unicité
Méthode de Gauss
Méthodes Méthode de Gauss-Jordan
directes
Matrices particulières
Décomposition LU
Gauss
Gauss-Jordan
Décomposition de Cholesky
Décomposition LU
Cholesky
4 Méthodes itératives
Méthodes Principe général
itératives
Généralités
Convergence
Convergence
Jacobi
Méthode de Jacobi
Gauss-Seidel
Relaxation
Méthode de Gauss-Seidel
Conditionnement
Méthode de Relaxation
5 Conditionnement d’un système linéiare
Méthodes directes

Cours Calcul
et Méthodes
Numériques

M. Berrada

Introduction

Existence et
unicité
On se limite ici au cas des systèmes carrés (A œ Mn )
Méthodes
directes Pour les méthodes directes : la solution est obtenue de
façon exacte, aux erreurs d’arrondis machine près, en un
Matrices particulières
Gauss
Gauss-Jordan
Décomposition LU nombre fini d’opérations
Cholesky

Méthodes
itératives
Généralités
Convergence
Jacobi
Gauss-Seidel
Relaxation

Conditionnement
Sommaire

Cours Calcul
et Méthodes
1 Quesqu’un système linéaire ?
Numériques
2 Existence et unicité de la solution
M. Berrada
3 Méthodes directes
Introduction Matrices particulières
Existence et
unicité
Méthode de Gauss
Méthodes Méthode de Gauss-Jordan
directes
Matrices particulières
Décomposition LU
Gauss
Gauss-Jordan
Décomposition de Cholesky
Décomposition LU
Cholesky
4 Méthodes itératives
Méthodes Principe général
itératives
Généralités
Convergence
Convergence
Jacobi
Méthode de Jacobi
Gauss-Seidel
Relaxation
Méthode de Gauss-Seidel
Conditionnement
Méthode de Relaxation
5 Conditionnement d’un système linéiare
Méthodes directes
Matrices particulières

Cours Calcul
et Méthodes
Numériques Définition
M. Berrada Soit A œ Mn (R) (une matrice carrée)
Introduction
1 A est dite triangulaire supérieure ssi ai,j = 0, ’i > j
Existence et
2 A est dite triangulaire inférieure ssi ai,j = 0, ’i < j
unicité 3 A est dite diagonale ssi ai,j = 0, ’i ”= j
Méthodes
directes
triangulaire supérieure triangulaire inférieure
Matrices particulières
Q a a1,2 · · · a1,n
R Q a 0 ··· 0
R
Gauss 1,1 1,1

c 0 a2,2 · · · a2,n c a2,1 a2,2 · · · 0


Gauss-Jordan
d d
Décomposition LU
a .. .. .. .. b a .. .. .. .. b
Cholesky
. . . . . . . .
Méthodes 0 0 · · · an,n an,1 an,2 · · · an,n
itératives
Généralités
Convergence Q a 0 ··· 0
R
1,1

c 0 a2,2 0
Jacobi
Gauss-Seidel
··· d
Relaxation a .. .. .. .. b diagonale
. . . .
Conditionnement
0 0 ··· an,n
Méthodes directes
Matrices particulières

Remarque
Cours Calcul
et Méthodes
Numériques
Les systèmes linéaires à matrice diagonale, triangulaire supérieure ou
M. Berrada
triangulaire inférieure, sont facile à résoudre
Introduction

Existence et Pour un système linéaire à matrice diagonale telle que ai,i ”= 0,


unicité
i = 1, · · · , n, la solution est xi = abi,ii , i = 1, · · · , n
Méthodes
directes Pour un système linéaire à matrice triangulaire supérieure telle
Matrices particulières que ai,i ”= 0, i = 1, · · · , n, la solution est
Gauss
Y
Gauss-Jordan
Décomposition LU
] xn = abn
n,n q
n
Cholesky
bi ≠ ai,j xj
Méthodes
[ xi = j=i+1
ai,i
itératives
Généralités
Convergence
Pour un système linéaire à matrice triangulaire inférieure telle
Jacobi que ai,i ”= 0, i = 1, · · · , n, la solution est
Gauss-Seidel Y
Relaxation
] x1 = ab1,11
Conditionnement qi≠1
[ xi = bi ≠ j=1 ai,j xj
ai,i
Méthodes directes
Algorithme de remontée

Cours Calcul
et Méthodes
Algorithme de remontée
Numériques Soit A une matrice triangulaire supérieure. La solution de
M. Berrada Ax = b est donnée par l’algorithme, dit de remontée, suivant :
Introduction

Existence et
|x = b xi =bi
|pour i = n : ≠1 : 1 faire REMONTéé
unicité
| pour j = i + 1 : n faire
Méthodes
directes | xi = xi ≠ ai,j ◊ xj
fin pour j
Matrices particulières
Gauss |
xi = axi,ii
Gauss-Jordan
Décomposition LU |
|fin pour i
Cholesky

Méthodes
qn n2 ≠n
Nombre d’opérations : ≠ i) =
itératives
Généralités i=1 (n 2 (≠, ◊)
Exemple :
Convergence
Jacobi
Y
] 2x1 x2 ≠ x3 = 3
Gauss-Seidel
Relaxation _ +
Conditionnement 5x2 + x3 = 8
_
[ 2x3 = 5
Méthodes directes
Algorithme de descente

Cours Calcul
et Méthodes
Algorithme de descente
Numériques Soit A une matrice triangulaire inférieure. La solution de
M. Berrada Ax = b est donnée par l’algorithme, dit de descente, suivant :
|x = b
Introduction

Existence et |pour i = 1 : n faire


xi =bi
unicité
| pour j = 1 : i ≠ 1 faire
Méthodes
directes | xi = xi ≠ ai,j ◊ xj
fin pour j
Matrices particulières
Gauss |
xi = axi,ii
Gauss-Jordan
Décomposition LU |
|fin pour i
Cholesky

Méthodes
qn n2 ≠n
Nombre d’opérations : ≠ 1) =
itératives
Généralités i=1 (i 2 (≠, ◊)
Convergence
Jacobi
Gauss-Seidel
Exemple : Y
Relaxation
] 2x1
_ = 1
Conditionnement
x1 ≠ 5x2 = 2
_
[ x1 + x2 + 2x3 = 4
Sommaire

Cours Calcul
et Méthodes
1 Quesqu’un système linéaire ?
Numériques
2 Existence et unicité de la solution
M. Berrada
3 Méthodes directes
Introduction Matrices particulières
Existence et
unicité
Méthode de Gauss
Méthodes Méthode de Gauss-Jordan
directes
Matrices particulières
Décomposition LU
Gauss
Gauss-Jordan
Décomposition de Cholesky
Décomposition LU
Cholesky
4 Méthodes itératives
Méthodes Principe général
itératives
Généralités
Convergence
Convergence
Jacobi
Méthode de Jacobi
Gauss-Seidel
Relaxation
Méthode de Gauss-Seidel
Conditionnement
Méthode de Relaxation
5 Conditionnement d’un système linéiare
Méthode de Gauss
Principe générale

Cours Calcul
et Méthodes
Numériques

M. Berrada La méthode de Gauss dite aussi d’élimination de Gauss est


Introduction une méthode de résolution de systèmes linéaires
Existence et L’idée de cette méthode est de se ramener à un système
unicité

Méthodes
linéaire dont la matrice est triangulaire supérieure, on
directes obtient ensuite la solution par l’algorithme de remontée.
Matrices particulières
Gauss Elle se base sur les principes fondamentales suivantes : On
ne change pas la solution lorsqu’on :
Gauss-Jordan
Décomposition LU

permute deux lignes


Cholesky

Méthodes
itératives permute deux colonnes
Généralités
multiplie une ligne par une constante ”= 0
ajoute à une ligne une autre ligne multipliée par une
Convergence
Jacobi
Gauss-Seidel
Relaxation
constante
Conditionnement
Méthode de Gauss
Exemple

Cours Calcul
et Méthodes
Numériques
On cherche à résoudre le système suivant :
Y
M. Berrada
_
_ 2x1 + 3x2 + 3x3 + x4 = 15
_
] ≠4x
Introduction 1 ≠ 6x2 + 3x3 + 2x4 = 3
Existence et _
_ ≠x 1 + x2 + x3 + x4 = 5
unicité _
[
Méthodes
≠2x1 ≠ x2 + x3 + x4 = 1
directes
Matrices particulières
Gauss
La méthode de Gauss, consiste à éliminer x1 des lignes 2, 3 et
Gauss-Jordan
Décomposition LU
4, puis x2 des lignes 3 et 4, puis x3 de la ligne 4. La forme
Cholesky
matricielle
Méthodes Q RQ R Q R
itératives
Généralités
2 3 3 1 x1 15
Convergence c ≠4 ≠6 3 2 dc x2 d c 3 d
c dc d c d
Jacobi
c dc d=c d
Gauss-Seidel
Relaxation
a ≠1 1 1 1 ba x3 b a 5 b
Conditionnement
≠2 ≠1 1 1 x4 1
Méthode de Gauss
Exemple : Matrice augmentée

Cours Calcul
et Méthodes
Numériques On note par
M. Berrada Q R Q R
2 3 3 1 15
Introduction c ≠4 ≠6 3 2 d c 3 d
c d c d
A=c d et b = c d
Existence et
unicité a ≠1 1 1 1 b a 5 b
Méthodes ≠2 ≠1 1 1 1
directes

On nomme
1 2 B1 la matrice A augmentée de b. Ainsi on aura
Matrices particulières
Gauss
Gauss-Jordan
1 , 1 Æ i Æ n, 1 Æ j Æ n + 1
B1 = bi,j
Décomposition LU
Cholesky

Méthodes Q - R
itératives 2 3 3 1 -
- 15
Généralités c ≠4 ≠6 3 2 - 3 d
c - d
B1 = c
Convergence
- d
1 1 1 5
Jacobi
Gauss-Seidel a ≠1 - b
-
Relaxation
≠2 ≠1 1 1 - 1
Conditionnement
Méthode de Gauss
Exemple : Etape 1

1
Cours Calcul
et Méthodes
On a b1,1 ”= 0, on le nomme pivot de la 1ere étape
Numériques 1
bi,1
On pose mi,1 = 0
b1,1
et on effectue pour toute ligne
M. Berrada
li , i = 2, 3, 4 :
1 est pas 0

Introduction
li Ω li ≠ mi,1 l1
Existence et
unicité On obtient
Q - R
Méthodes 2 3 3 1 - 15
-
directes
c 0 0 9 4 - 33 d
B2 = c - 25 d
Matrices particulières
5 5 3
Gauss
Gauss-Jordan
a 0 2 2 2
-
- 2
b
Décomposition LU 0 2 4 2 - 16
Cholesky

Méthodes On peut montrer que B2 = E1 B1 avec


itératives Q R
Généralités 1 0 0 0
1 0 0 d
Convergence
c ≠m2,1
Jacobi
E1 = c d
Gauss-Seidel
Relaxation
a ≠m3,1 0 1 0 b
Conditionnement
≠m4,1 0 0 1
Pour obtenir E1≠1 , il suffit de remplacer ≠mi,1 dans E1 par mi,1
Méthode de Gauss
Exemple : Etape 2

Cours Calcul
et Méthodes 2 est nul. On échange la deuxième et la
Le pivot b2,2
Numériques

M. Berrada
troisième ligne. On obtient une nouvelle matrice B2Õ
Introduction
La matrice B2Õ est la multiplication de B2 par une matrice
Existence et
de permutation P2
unicité
Q RQ - R
Méthodes 1 0 0 0 2 3 3 1 -
- 15
directes c
c 0 0 1 0 dc
dc 0 0 9 4 -
- 33 d
d
Matrices particulières
B2Õ = c dc - d
Gauss
Gauss-Jordan
a 0 1 0 0 ba 0 52 52 3
2
-
-
25
2 b
Décomposition LU
Cholesky Q 0 0 0 1 - 0 2R 4 2 - 16
Méthodes 2 3 3 1 -
- 15
c 5 5 3 - 25 d
itératives
c 0 2 2 2 - 2 d
Généralités
= c - d
Convergence
Jacobi
a 0 0 9 4 -
-
33 b
Gauss-Seidel
Relaxation
0 2 4 2 - 16
Conditionnement
2 = 5,
Le pivot devient b2,2 2
Méthode de Gauss
Exemple : Etape 2

2
b3,2 2
b4,2
Cours Calcul 4
et Méthodes On note m3,2 = 2
b2,2
= 0 et m4,2 = 2
b2,2
= 5
Numériques

M. Berrada
La ligne l3 ne sera pas changée et on effectue pour la ligne
l4 :
Introduction
l4 Ω l4 ≠ m4,2 l2
Existence et
unicité
On obtient
Méthodes Q - R
directes 2 3 3 1 -
- 15
c 5 5 3 25
Matrices particulières
c 0 -
-
d
d
Gauss
B3 = c 2 2 2 - 2 d
Gauss-Jordan
a 0 0 9 4 - 33 b
Décomposition LU
4 -
Cholesky
0 0 2 5
- 6
Méthodes
itératives On aura l’écriture matricielle B3 = E2 B2Õ = E2 P2 B2 avec
Généralités
Q R
Convergence
Jacobi
1 0 0 0
Gauss-Seidel c 0 1 0 0 d
c d
Relaxation
E2 = c d
Conditionnement a 0 ≠m3,2 1 0 b
0 ≠m4,2 0 1
Méthode de Gauss
Exemple : Etape 3

Cours Calcul 3
b4,3
et Méthodes 3
Le pivot b3,3 = 9. On note m4,3 = 3
b3,3
= 29 , et on effectue pour
Numériques

M. Berrada
la ligne l4 : l4 Ω l4 ≠ m4,3 l3
On obtient, au finale
Introduction
Q - R
Existence et 2 3 3 1 - 15
- 25
unicité c 0 5 5 3 - d
B4 = ca 0 0
2 2 2 - 2 d
Méthodes
directes 9 4 - 33
- 4
b
4
Matrices particulières 0 0 0 ≠ 45 - ≠
3
Gauss
Gauss-Jordan
Décomposition LU On aura B4 = E3 B3 = E3 E2 P2 E1 B1 avec
Cholesky
Q R
Méthodes 1 0 0 0
itératives
c 0 1 0 0 d
Généralités
E3 = a
c d
Convergence
0 0 1 0 b
0 0 ≠m4,3 1
Jacobi
Gauss-Seidel
Relaxation

Conditionnement Dans le cas général, on aura Bk+1 = Ek Pk Bk et donc


Bn = En≠1 Pn≠1 · · · E1 P1 B1
Méthode de Gauss
Exemple : résolution par remontée

Cours Calcul
et Méthodes
Numériques
Le système linéaire obtenu est à matrice triangulaire
M. Berrada
supérieure ( résolution par remontée)
Introduction Q RQ R Q R
Existence et 2 3 3 1 x1 15
c 5 5 3 d c 25 d
unicité
c 0 2 2 2
dc
dc x2 d c 2 d
c dc d=c d
Méthodes
directes a 0 0 9 4 ba x3 b a 33 b
4
Matrices particulières
Gauss
0 0 0 ≠ 45 x4 ≠ 43
Gauss-Jordan

On obtient la solution suivante


Décomposition LU
Cholesky

Méthodes Q R Q R
itératives x1 6
Généralités c x2 d c ≠1 d
Convergence c d c d
c d=c d
Jacobi
Gauss-Seidel
a x3 b a ≠3 b
Relaxation
x4 15
Conditionnement
Méthode de Gauss
Algorithme

Cours Calcul
et Méthodes
Numériques

M. Berrada

Introduction
|For k = 1 : n ≠ 1 do
| LE PIVOTΩ bkk si ”= 0 bn,n+1
Existence et | "STRATEGIE DU CHOIX?" |xn =
unicité bn,n
| "PIVOT PARTIEL ou TOTAL?" |For i = n ≠ 1 : ≠1 : 1 do
Méthodes | For i = k + 1 : n do | xi = bi,n+1
directes bi,k
Matrices particulières | mi,k = bk,k
| For k = i + 1 : n do
Gauss
| For j = k : n + 1 do | xi = xi ≠ bi,k ◊ xk
Gauss-Jordan
| bi,j = bi,j ≠ mi,k bk,j | End for
Décomposition LU
Cholesky | End for |End for
Méthodes | End for
itératives |End for
Généralités
Convergence
Jacobi
Gauss-Seidel
Relaxation

Conditionnement
Méthode de Gauss
Nombre d’opérations

Cours Calcul
et Méthodes
Numériques

M. Berrada
Pour comparer l’efficacité de deux algorithmes, on
compare leur nombre d’opérations
Introduction

Existence et
Les opérations multiplication et division demandent le plus
unicité grand temps de cacul à l’ordinateur en comparaison de
Méthodes
directes
l’addition et soustraction
Matrices particulières
Gauss
Pour l’algorithme de Gauss, il faut
2n3 +3n2 ≠5n
Gauss-Jordan
Décomposition LU 6 (◊, ÷) pour la première étape
n2 +n
Cholesky
2 (◊, ÷) pour la remontée
Méthodes 3 2
itératives Au total, il faut 2n +6n
6
≠2n
opérations (◊, ÷)
3 2 3
Pour n assez grand, on a 2n +6n ¥ n3
Généralités ≠2n
Convergence 6
On dit que le nombre d’opérations pour l’algorithme de
Jacobi
Gauss-Seidel

Gauss est de l’ordre 3


Relaxation

Conditionnement
Méthode de Gauss
Stratégie du choix du pivot : Pivot partiel et Pivot total

Cours Calcul
et Méthodes
Numériques

M. Berrada
Le choix du pivot est très important pour éviter les erreurs
Introduction
d’arrondis
Existence et
unicité Si un pivot est nul, on permute deux lignes ou deux
Méthodes
directes
colonnes
Matrices particulières
Gauss
Si tous les pivots restant sont nuls alors la matrice est
Gauss-Jordan
Décomposition LU
singulière (n’admet pas de solution unique)
Cholesky
Pour minimiser les erreurs d’arrondis, on choisi le plus
Méthodes
itératives
grand pivot possible (en valeur absolue)
Généralités on permute uniquement les lignes (Pivot partiel)
on permute les lignes et les colonnes (Pivot total)
Convergence
Jacobi
Gauss-Seidel
Relaxation

Conditionnement
Sommaire

Cours Calcul
et Méthodes
1 Quesqu’un système linéaire ?
Numériques
2 Existence et unicité de la solution
M. Berrada
3 Méthodes directes
Introduction Matrices particulières
Existence et
unicité
Méthode de Gauss
Méthodes Méthode de Gauss-Jordan
directes
Matrices particulières
Décomposition LU
Gauss
Gauss-Jordan
Décomposition de Cholesky
Décomposition LU
Cholesky
4 Méthodes itératives
Méthodes Principe général
itératives
Généralités
Convergence
Convergence
Jacobi
Méthode de Jacobi
Gauss-Seidel
Relaxation
Méthode de Gauss-Seidel
Conditionnement
Méthode de Relaxation
5 Conditionnement d’un système linéiare
Méthode de Gauss-Jordan

Cours Calcul
et Méthodes
Numériques

M. Berrada On considère le système suivant


Introduction Y
Existence et ] 4x1
_ ≠ 2x2 + x3 = 10
unicité x1 + x2 + x3 = ≠8
_
[ 9x
Méthodes
directes 1 + 3x2 + x3 = 0
Matrices particulières
Gauss
Gauss-Jordan
Nous écrivons la matrice augmentée par b
Décomposition LU
Q - R
4 ≠2 1 - 10
Cholesky

Méthodes
-
c - d
itératives a 1 1 1 - ≠8 b
-
9 3 1 - 0
Généralités
Convergence
Jacobi
Gauss-Seidel
Relaxation

Conditionnement
Méthode de Gauss-Jordan
Etape 1

Cours Calcul
et Méthodes
Numériques
Q - R
M. Berrada
4 ≠2 1 - 10
-
c - d
Introduction B0 = a 1 1 1 - ≠8 b
-
Existence et 9 3 1 - 0
unicité
Q - R
Méthodes
1 ≠ 12 1 - 5
directes 1 c 4 -
- 2
d
Matrices particulières L1 Ω L1 : B1 = a 1 1 1 - ≠8 b
4 -
9 3 1 0
Gauss
Gauss-Jordan -
Décomposition LU
Cholesky

Méthodes Q - R
itératives 1 ≠ 12 1 - 5
L2 Ω L2 ≠ L1 et c 3
4
3
- 2
- ≠21 d
: B2 = a 0
Généralités
- 2 b
L3 Ω L3 ≠ 9L1 2 4
Convergence

15 - ≠45
0 ≠5
Jacobi
-
Gauss-Seidel
2 4 2
Relaxation

Conditionnement
Méthode de Gauss-Jordan
Etape 1

Cours Calcul
et Méthodes
Numériques
Q - R
M. Berrada
1 ≠ 12 1 - 5
2 c 4
1
- 2
- d
Introduction L2 Ω L2 : B3 = a 0 1 2 - ≠7 b
3 15 - ≠45
Existence et 0 2
≠5
4
-
2
unicité

Méthodes
directes Q - R
1 ≠ 12 1 - 5
15 4 - 2
Matrices particulières
c 1 - d
L3 Ω L3 ≠ L2 : B4 = a 0 1
Gauss

2 - ≠7 b
2
Gauss-Jordan
-
Décomposition LU
Cholesky
0 0 ≠5 - 30
Méthodes
Q - R
1 ≠ 12 1 5
itératives -
Généralités
≠1 4 - 2
c 1 - d
Convergence
L3 Ω L3 : B5 = a 0 1 2 - ≠7 b
Jacobi
5 -
Gauss-Seidel
Relaxation
0 0 1 - ≠6
Conditionnement
Méthode de Gauss-Jordan
Etape 2

Cours Calcul
et Méthodes
Numériques
Q - R
M. Berrada
1 1 ≠ 12 0 - 4
L2 Ω L2 ≠ 2 L3 et c
-
- d
Introduction
1 : B6 = a 0 1 0 - ≠4 b
L1 Ω L1 ≠ 4 L3
-
Existence et
unicité
0 0 1 - ≠6
Méthodes Q - R
directes 1 0 0 - 2
Matrices particulières 1 c
-
- d
Gauss L1 Ω L1 + L3 : B7 = a 0 1 0 - ≠4 b
2 -
0 0 1
Gauss-Jordan
Décomposition LU - ≠6
Cholesky

Méthodes La solution est alors


itératives
Q R Q R
x1 2
Généralités
Convergence

c d c d
x
Jacobi
Gauss-Seidel =
a 2 b a ≠4 b
x3
Relaxation
≠6
Conditionnement
Méthode de Gauss-Jordan
Algorithme

Cours Calcul
et Méthodes
Numériques

M. Berrada
|For k = 1 : n do
Introduction | LE PIVOTΩ bkk si ”= 0
| "STRATEGIE DU CHOIX?"
Existence et
unicité | "PIVOT PARTIEL ou TOTAL?"
| For j = k : n + 1 do |For k = n : ≠1 : 1 do
Méthodes bj,k | xk = bk,n+1
directes | bj,k =
Matrices particulières
bk,k | For i = k ≠ 1 : ≠1 : 1 do
Gauss
| End for | bi,n+1 = bi,n+1 ≠ bi,k ◊ bk,n+1
Gauss-Jordan | For i = k + 1 : n do | End for
Décomposition LU | For j = k : n + 1 do |End for
Cholesky
| bi,j = bi,j ≠ bi,k bk,j
Méthodes | End for
itératives
| End for
Généralités
Convergence
|End for
Jacobi
Gauss-Seidel
Relaxation

Conditionnement
Sommaire

Cours Calcul
et Méthodes
1 Quesqu’un système linéaire ?
Numériques
2 Existence et unicité de la solution
M. Berrada
3 Méthodes directes
Introduction Matrices particulières
Existence et
unicité
Méthode de Gauss
Méthodes Méthode de Gauss-Jordan
directes
Matrices particulières
Décomposition LU
Gauss
Gauss-Jordan
Décomposition de Cholesky
Décomposition LU
Cholesky
4 Méthodes itératives
Méthodes Principe général
itératives
Généralités
Convergence
Convergence
Jacobi
Méthode de Jacobi
Gauss-Seidel
Relaxation
Méthode de Gauss-Seidel
Conditionnement
Méthode de Relaxation
5 Conditionnement d’un système linéiare
Décomposition LU

Cours Calcul
et Méthodes
Numériques

M. Berrada

Introduction
La factorisaion LU consiste à décomposer la matrice sous
Existence et
la forme
unicité A = LU
Méthodes
directes
Matrices particulières
où L est une matrice triangulaire inférieure à digonale
Gauss unité et U est une matrice triangulaire supérieure
Gauss-Jordan
Q R Q R
Décomposition LU
Cholesky
1 0 ··· 0 u1,1 u1,2 ··· u1,n
c l2,1 1 ··· 0 d c 0 u2,2 ··· u2,n d
Méthodes c d c d
L=c . .. .. .. d, et U=c .. .. .. .. d
a ..
itératives
Généralités . . . b a . . . . b
Convergence
Jacobi
ln,1 ln,2 ··· 1 0 0 ··· un,n
Gauss-Seidel
Relaxation

Conditionnement
Décomposition LU
Algorithme de factorisation LU

Cours Calcul
et Méthodes
Numériques

M. Berrada
On
Q a R
Introduction a1,1 a1,2 ··· a1,n
Existence et c a2,1 a2,2 ··· a2,n d
c d
unicité
c .. .. .. .. d=
Méthodes
a . . . . b
directes
an,1 an,2 · · · an,n
Matrices particulières Q R Q R
Gauss 1 0 ··· 0 u1,1 u1,2 · · · u1,n
l2,1 1 0 d c 0 u2,2 · · · u2,n
Gauss-Jordan
c · · · d
Décomposition LU
c d c d
Cholesky c .. .. . . d ◊c .
. . .. b a .. .. .. .. d
Méthodes
a . . . . . b
itératives
Généralités
ln,1 ln,2 · · · 1 0 0 · · · un,n
Convergence
Jacobi
Par identification, on peut déduire l’algorithme
Gauss-Seidel
Relaxation

Conditionnement
Décomposition LU
Algorithme de factorisation LU

Cours Calcul
et Méthodes
Numériques |u1,1 = a1,1
M. Berrada |For j = 2 : n do
Introduction
| u1,j = a1,j
aj,1
Existence et | lj,1 = a1,1
unicité
|End for
Méthodes
directes |For i = 2 : n ≠ 1 do
q
| ui,i = ai,i ≠ i≠1 k=1 li,k uk,i
Matrices particulières
Gauss
Gauss-Jordan
Décomposition LU
| For j = i + 1 : n do
q
Cholesky
| ui,j = ai,jË≠ i≠1 k=1 li,k uk,j È
Méthodes q
itératives | lj,i = ui,i aj,i ≠ i≠1
1
k=1 lj,k uk,i
Généralités
Convergence | End for
Jacobi
Gauss-Seidel |End for
q
|un,n = an,n ≠ i≠1 k=1 ln,k uk,n
Relaxation

Conditionnement
Décomposition LU
Stockage dans la matrice

Cours Calcul
et Méthodes
Pour faire la factorisation A = LU en stockant le résultat dans
Numériques la matrice A, on suit les étapes suivantes :
M. Berrada

Introduction

Existence et
unicité

Méthodes
directes
Matrices particulières
Gauss
Gauss-Jordan
Décomposition LU
Cholesky

Méthodes
itératives
Généralités
Convergence
Jacobi
Gauss-Seidel
Relaxation

Conditionnement
Décomposition LU
Stockage dans la matrice

Cours Calcul
et Méthodes
Pour faire la factorisation A = LU en stockant le résultat dans
Numériques la matrice A, on suit les étapes suivantes :
M. Berrada

Introduction

Existence et
unicité

Méthodes
directes
Matrices particulières
Gauss
Gauss-Jordan
Décomposition LU 1 La première ligne reste inchanger
Cholesky

Méthodes
itératives
Généralités
Convergence
Jacobi
Gauss-Seidel
Relaxation

Conditionnement
Décomposition LU
Stockage dans la matrice

Cours Calcul
et Méthodes
Pour faire la factorisation A = LU en stockant le résultat dans
Numériques la matrice A, on suit les étapes suivantes :
M. Berrada

Introduction

Existence et
unicité

Méthodes
directes
Matrices particulières
Gauss
Gauss-Jordan
Décomposition LU 1 La première ligne reste inchanger
aj,1
La première colonne est divisée par a1,1 , aj,1 = j Ø2
Cholesky
2
Méthodes a1,1 ,
itératives
Généralités
Convergence
Jacobi
Gauss-Seidel
Relaxation

Conditionnement
Décomposition LU
Stockage dans la matrice

Cours Calcul
et Méthodes
Pour faire la factorisation A = LU en stockant le résultat dans
Numériques la matrice A, on suit les étapes suivantes :
M. Berrada

Introduction

Existence et
unicité

Méthodes
directes
Matrices particulières
Gauss
Gauss-Jordan
Décomposition LU 1 La première ligne reste inchanger
aj,1
La première colonne est divisée par a1,1 , aj,1 = a1,1 , j Ø2
Cholesky
2
Méthodes
itératives
Généralités
3 Les éléments du block restant sont remplacés par la
Convergence
Jacobi
formule aj,k = aj,k ≠ aj,1 ◊ a1,k , j, k Ø 2
Gauss-Seidel Le block restant obtenu est une matrice (n ≠ 1) ◊ (n ≠ 1).
Relaxation

Conditionnement
Décomposition LU
Stockage dans la matrice

Cours Calcul
et Méthodes
Pour faire la factorisation A = LU en stockant le résultat dans
Numériques la matrice A, on suit les étapes suivantes :
M. Berrada

Introduction

Existence et
unicité

Méthodes
directes
Matrices particulières
Gauss
Gauss-Jordan
Décomposition LU 1 La première ligne reste inchanger
aj,1
La première colonne est divisée par a1,1 , aj,1 = a1,1 , j Ø2
Cholesky
2
Méthodes
itératives
Généralités
3 Les éléments du block restant sont remplacés par la
Convergence
Jacobi
formule aj,k = aj,k ≠ aj,1 ◊ a1,k , j, k Ø 2
Gauss-Seidel Le block restant obtenu est une matrice (n ≠ 1) ◊ (n ≠ 1).
On refait les mêmes opérations sur la matrice
Relaxation
4
Conditionnement
(n ≠ 1) ◊ (n ≠ 1) obtenue...
Décomposition LU
Stockage dans la matrice

Cours Calcul
et Méthodes
Numériques

M. Berrada

Introduction Au final, on récupère la factorisation LU dans la matrice


Existence et
unicité
elle-même :
Méthodes
directes
Matrices particulières
Gauss
Gauss-Jordan
Décomposition LU
Cholesky

Méthodes
itératives
Généralités
Convergence
Jacobi
Gauss-Seidel
Relaxation

Conditionnement
Décomposition LU
Stockage dans la matrice : Algorithme

Cours Calcul
et Méthodes
Numériques

M. Berrada |For i = 1 : n ≠ 1 do
Introduction
| For j = i + 1 : n do
a
Existence et | aj,i = aj,i
i,i
(mettre à jours la colonne i)
unicité
| End for
Méthodes
directes | For k = i + 1 : n do
Matrices particulières
Gauss
| For j = i + 1 : n do
Gauss-Jordan
Décomposition LU
| aj,i = aj,i ≠ aj,k ◊ ak,i (mettre à jours le
Cholesky
block restant) ici faute d’indice
Méthodes
itératives | End for
Généralités
Convergence
| End for
Jacobi
Gauss-Seidel
|End for
Relaxation

Conditionnement
Décomposition LU
Résolution

Cours Calcul
et Méthodes
Numériques

M. Berrada

Introduction

Existence et Après factorisation de la matrice A, le système est résolu


unicité
en deux étapes
Méthodes
directes 1 Une descente : Trouver y solution de Ly = b
Matrices particulières
Gauss
2 Une remontée : Trouver x solution de Ux = y
La solution x trouvée à la deuxième étape sera la solution
Gauss-Jordan
Décomposition LU
Cholesky
du système Ax = b
Méthodes
itératives
Généralités
Convergence
Jacobi
Gauss-Seidel
Relaxation

Conditionnement
Décomposition LU
Matrice de permutation

Cours Calcul
et Méthodes
Numériques
Remarque
M. Berrada L’existence de la factoristation LU d’une matrice carrée n’est pas
forcément assurée même si la matrice est inversible
Introduction

Existence et Exemple :
unicité
3 4 3 4 3 4
Méthodes
directes
0 1 1 0 u1,1 u1,2
= ◊
Matrices particulières ≠1 2 3 l2,1 1 0 u2,2
4
Gauss
Gauss-Jordan
u1,1 u1,2
=
Décomposition LU l2,1 u1,1 u2,2 + l2,1 u1,2
Cholesky

Méthodes
itératives
On aura l2,1 u1,1 = ≠1 et u1,1 = 0.
Généralités Par contre, si on permute les deux lignes de la matrice, on obtient
Convergence
Jacobi 3 43 4 3 4
Gauss-Seidel 0 1 0 1 ≠1 2
=
Relaxation
1 0 ≠1 2 0 1
Conditionnement

qui est une matrice factorisable.


Décomposition LU
Matrice de permutation

Cours Calcul
et Méthodes Proposition
Numériques
Si A est une matrice inversible alors il existe une matrice de
M. Berrada
permutation P, telle que PA = LU
Introduction

Existence et
Le système Ax = b est équivalent à PAx = Pb et donc LUx = Pb
unicité La démonstration se base sur le résultat de l’algorithme de Gauss :
Méthodes
directes Bn = En≠1 Pn≠1 · · · E1 P1 B1 .
Matrices particulières
Gauss
Gauss-Jordan
On note U la première partie de Bn , qui est une matrice triangulaire
Décomposition LU
supérieure, et on a Pk≠1 = Pk donc Pk+1 Ek = Pk+1 Ek Pk+1 Pk+1 .
Cholesky ¸ ˚˙ ˝
Méthodes EkÕ
itératives
Généralités
On aura alors
Convergence
Jacobi U = En≠1 En≠2
Õ
· · · E1Õ Pn≠1 Pn≠2 · · · P1 A
Gauss-Seidel ¸ ˚˙ ˝¸ ˚˙ ˝
Relaxation
M P
Conditionnement
La matrice M est inversible et triangulaire inférieure à diagonale
unité. En posant L = M ≠1 , on aura PA = LU
Décomposition LU
Matrice tridiagonale

Cours Calcul
et Méthodes
Numériques
Une matrice tridiagonale est une matrice sous la forme
M. Berrada
Q R
Introduction e1 c1 ··· 0
c
c .. d
a1 e2 . d
Existence et
c ··· d
A=c
unicité
c .. .. .. d
Méthodes
directes a . . . cn≠1 d
b
Matrices particulières
Gauss
0 ··· an≠1 en
Gauss-Jordan

La factorisation LU de A est donnée par


Q les deux matrices :R
Décomposition LU
Cholesky
Q R d1 u1 0
Méthodes 1 0 ··· 0 ···
itératives
c l1 1 0 d c .. d
Généralités c ··· d c 0 d2 ··· . d
L=c .. .. .. .. d, et U=c .. ..
d
..
Convergence

. c d
Jacobi a . . . b a . . . un≠1 b
0 ln≠1 1
Gauss-Seidel
Relaxation ··· 0 0 ··· dn
Conditionnement
Décomposition LU
Matrice tridiagonale : Algorithme

Cours Calcul
et Méthodes
Numériques
|d1 = e1
M. Berrada
|For i = 2 : n do
Introduction | ui = ci
Existence et | li≠1 = dai≠1
i≠1
Factorisation
unicité

Méthodes
| di = ei ≠ li≠1 ui
directes |End for
Matrices particulières
Gauss

Descente Remontée
Gauss-Jordan
Décomposition LU

|y1 = b1 |xn = dynn


Cholesky

Méthodes
itératives |For i = 2 : n do |For i = n ≠ 1 : 1 do
| yi = bi ≠ li≠1 yi≠1 | xi = yi ≠ci+1 xi+1
Généralités

di
Convergence
Jacobi
Gauss-Seidel |End for |End for
Relaxation

Conditionnement
Sommaire

Cours Calcul
et Méthodes
1 Quesqu’un système linéaire ?
Numériques
2 Existence et unicité de la solution
M. Berrada
3 Méthodes directes
Introduction Matrices particulières
Existence et
unicité
Méthode de Gauss
Méthodes Méthode de Gauss-Jordan
directes
Matrices particulières
Décomposition LU
Gauss
Gauss-Jordan
Décomposition de Cholesky
Décomposition LU
Cholesky
4 Méthodes itératives
Méthodes Principe général
itératives
Généralités
Convergence
Convergence
Jacobi
Méthode de Jacobi
Gauss-Seidel
Relaxation
Méthode de Gauss-Seidel
Conditionnement
Méthode de Relaxation
5 Conditionnement d’un système linéiare
Décomposition de Cholesky
Principe général

Cours Calcul
et Méthodes
Numériques

M. Berrada
Supposons que la matrice A est sysmétrique et définie
positive,
Introduction

Existence et
La méthode de Cholesky conduit à une factorisation de
unicité
type
Méthodes
directes A = LLT
Matrices particulières

Théorème
Gauss
Gauss-Jordan
Décomposition LU
Cholesky Si A est une matrice symétrique définie positive, il existe une
Méthodes
itératives
matrice réelle triangulaire inférieure L telle que : A = LLT .
Généralités
Convergence
Jacobi
Gauss-Seidel
La matrice L est triangulaire inférieure, mais n’est plus à
Relaxation diagonale unité
Conditionnement
Décomposition de Cholesky
Algorithme

Cours Calcul
et Méthodes
On cherche la matrice L vérifiant l’égalité A = LLT telle que
Numériques S T
M. Berrada l1,1
W X
Wl2,1 l2,2 X
Introduction L=W
W .. .. .. X
X
Existence et U . . . V
unicité
ln,1 ln,2 · · · ln,n
Méthodes
directes
Matrices particulières Par identification, on obtient
Gauss
Gauss-Jordan
1 2 n min{i,j}
Décomposition LU ÿ ÿ
Cholesky
ai,j = LLT = li,k lj,k = li,k lj,k , 1 Æ i, j Æ n
Méthodes i,j
itératives
k=1 k=1

Puisque A est symétrique, il suffit de considérer ai,j pour i Æ j


Généralités
Convergence
Jacobi

i
Gauss-Seidel
Relaxation ÿ
Conditionnement ai,j = lik ljk , 1 Æ i, j Æ n
k=1
Décomposition de Cholesky
Algorithme

Cours Calcul
et Méthodes
Numériques

M. Berrada
Pour i = 1, on détermine la première colonne de L :
Introduction
Ô
Existence et a1,1 = l1,1 l1,1 d’où l1,1 = a1,1
unicité a1,j
Méthodes
a1,j = l1,1 lj,1 d’où lj,1 = l1,1 , 2Æj Æn
directes

Pour i = 2 · · · n :
Matrices particulières
Gauss
Gauss-Jordan
Décomposition LU qi Ò qi≠1 2
Cholesky ai,i = k=1 li,k li,k d’où li,i = ai,i ≠ l
k=1 i,k
Méthodes
qi≠1
qi ai,j ≠ l l
itératives
Généralités
ai,j = k=1 lik ljk d’où lj,i = k=1 i,k j,k
li,i , i +1Æj Æn
Convergence
Jacobi
Gauss-Seidel
Relaxation

Conditionnement
Décomposition de Cholesky
Algorithme

Cours Calcul
et Méthodes
Numériques
Ô
M. Berrada |l1,1 = a1,1
Introduction |For i = 2 : n do
ai,1
Existence et | li,1 = l1,1
unicité
|End for
Méthodes
directes |For i =Ò2 : n do
Matrices particulières q
Gauss
Gauss-Jordan
| li,i = ai,i ≠ i≠1k=1 li,k l li,k
2
Décomposition LU | For j = i +q 1 : n do
Cholesky i≠1
aj,i ≠ l l
Méthodes | lj,i = k=1 j,k j,k
li,i
itératives
Généralités | End for
Convergence
Jacobi |End for
Gauss-Seidel
Relaxation

Conditionnement
Conclusion

Cours Calcul
et Méthodes
Numériques

M. Berrada
Les méthodes directes fournient la solution exacte aux
Introduction
erreurs d’arrondis machine près
Existence et
unicité Elles nécessitent un nombre fini d’opérations (de l’ordre de
n3
3 pour Gauss)
Méthodes
directes
Matrices particulières
Gauss
La méthode de Gauss s’applique à tout système linéiare
Gauss-Jordan
Décomposition LU
inversible
Cholesky

Méthodes
itératives
Les méthodes directes ont un coût important en stockage
Généralités mémoire (des techniques d’optimisation de stockage
existent)
Convergence
Jacobi
Gauss-Seidel
Relaxation

Conditionnement
Sommaire

Cours Calcul
et Méthodes
1 Quesqu’un système linéaire ?
Numériques
2 Existence et unicité de la solution
M. Berrada
3 Méthodes directes
Introduction Matrices particulières
Existence et
unicité
Méthode de Gauss
Méthodes Méthode de Gauss-Jordan
directes
Matrices particulières
Décomposition LU
Gauss
Gauss-Jordan
Décomposition de Cholesky
Décomposition LU
Cholesky
4 Méthodes itératives
Méthodes Principe général
itératives
Généralités
Convergence
Convergence
Jacobi
Méthode de Jacobi
Gauss-Seidel
Relaxation
Méthode de Gauss-Seidel
Conditionnement
Méthode de Relaxation
5 Conditionnement d’un système linéiare
Sommaire

Cours Calcul
et Méthodes
1 Quesqu’un système linéaire ?
Numériques
2 Existence et unicité de la solution
M. Berrada
3 Méthodes directes
Introduction Matrices particulières
Existence et
unicité
Méthode de Gauss
Méthodes Méthode de Gauss-Jordan
directes
Matrices particulières
Décomposition LU
Gauss
Gauss-Jordan
Décomposition de Cholesky
Décomposition LU
Cholesky
4 Méthodes itératives
Méthodes Principe général
itératives
Généralités
Convergence
Convergence
Jacobi
Méthode de Jacobi
Gauss-Seidel
Relaxation
Méthode de Gauss-Seidel
Conditionnement
Méthode de Relaxation
5 Conditionnement d’un système linéiare
Méthodes itératives
Principe général

Cours Calcul
et Méthodes La solution du système est la limite d’une suite itérative de
Numériques vecteurs
M. Berrada On décompose A sous la forme A = M ≠ N où M est une
Introduction
matrice inversible facilement (M diagonale, triangulaire,...)
Existence et
unicité
AX = b … MX = NX + b … X = M
¸ ˚˙ N˝ X + M
≠1
¸ ˚˙ b˝
≠1

Méthodes C d
directes
Matrices particulières La solution du système est la limite de la suite
Gauss ; 0
Gauss-Jordan X donné
X k+1 = CX k + d
Décomposition LU
Cholesky

Méthodes
itératives où C œ Mn (R) dite matrice d’itération et d œ Rn
Généralités
Convergence
Si la méthode converge on aura (équation de type point-fixe)
Jacobi
Gauss-Seidel X = MX + C
Relaxation

Conditionnement Nécessite la convergence


La convergence ne doit pas être lente
Méthodes itératives
Principe général

Cours Calcul
et Méthodes La solution du système est la limite d’une suite itérative de
Numériques vecteurs
M. Berrada On décompose A sous la forme A = M ≠ N où M est une
Introduction
matrice inversible facilement (M diagonale, triangulaire,...)
Existence et
unicité
AX = b … MX = NX + b … X = M
¸ ˚˙ N˝ X + M
≠1
¸ ˚˙ b˝
≠1

Méthodes C d
directes
Matrices particulières La solution du système est la limite de la suite
Gauss ; 0
Gauss-Jordan X donné
X k+1 = CX k + d
Décomposition LU
Cholesky

Méthodes
itératives où C œ Mn (R) dite matrice d’itération et d œ Rn
Généralités
Convergence
Si la méthode converge on aura (équation de type point-fixe)
Jacobi
Gauss-Seidel X = MX + C
Relaxation

Conditionnement Nécessite la convergence


La convergence ne doit pas être lente
Sommaire

Cours Calcul
et Méthodes
1 Quesqu’un système linéaire ?
Numériques
2 Existence et unicité de la solution
M. Berrada
3 Méthodes directes
Introduction Matrices particulières
Existence et
unicité
Méthode de Gauss
Méthodes Méthode de Gauss-Jordan
directes
Matrices particulières
Décomposition LU
Gauss
Gauss-Jordan
Décomposition de Cholesky
Décomposition LU
Cholesky
4 Méthodes itératives
Méthodes Principe général
itératives
Généralités
Convergence
Convergence
Jacobi
Méthode de Jacobi
Gauss-Seidel
Relaxation
Méthode de Gauss-Seidel
Conditionnement
Méthode de Relaxation
5 Conditionnement d’un système linéiare
Convergence
Norme matricielle

Cours Calcul
et Méthodes
Numériques

M. Berrada Définition
Introduction On appel norme matricielle une norme définie sur Mn (R) par :
Existence et
unicité Î.Î : Mn (R) æ R+
Méthodes
directes
A ‘æ ÎAÎ
Matrices particulières

telle que ’A, B œ Mn (R) et ’⁄ œ R :


Gauss
Gauss-Jordan

Séparation : ÎAÎ = 0 … A = (0),


Décomposition LU
Cholesky

Méthodes
itératives Homogénéité : Î⁄AÎ = |⁄|.ÎAÎ,
Inégalité triangulaire : ÎA + BÎ Æ ÎAÎ + ÎBÎ,
Généralités
Convergence
Jacobi
Gauss-Seidel ÎA.BÎ Æ ÎAÎ.ÎBÎ.
Relaxation

Conditionnement
Convergence
Norme subordonnée

Cours Calcul
et Méthodes Proposition (Norme subordonnée)
Numériques

M. Berrada
Soit Î.ÎV une norme vectorielle définie sur Rn . La fonction qui
à A œ Mn (R) associe
Introduction

Existence et ÎAx ÎV
unicité ÎAÎ = max
Méthodes x œR
n ,x ”=0 Îx ÎV
directes
Matrices particulières
Gauss
est une norme matricielle dite norme subordonnée ou induite.
Gauss-Jordan
Décomposition LU
Cholesky
Exemple :
Méthodes Soit la norme vectorielle Î.ÎŒ :
itératives les xi sont des composants
Généralités Îx ÎŒ = max |xi |.
Convergence 1ÆiÆn
Jacobi
Gauss-Seidel
Relaxation
Cette norme induit la norme matricielle Î.Î sur Mn (R)
Conditionnement
n
ÿ
ÎAÎŒ = max |ai,j |.
1ÆiÆn
j=1
Convergence
Rayon spectral

Cours Calcul
et Méthodes
Numériques

M. Berrada Définition
Introduction Soit A œ Mn (R), on appel rayon spectral de la matrice A le
Existence et nombre réel :
unicité
fl(A) = max |⁄i |
Méthodes 1ÆiÆn
directes
Matrices particulières
Gauss
où ⁄i sont les valeurs propres de A.
Gauss-Jordan
Décomposition LU
Cholesky
fl(.) n’est pas une norme matricielle
Méthodes
itératives Pour toute norme matricielle Î.Î et toute matrice A :
Généralités
Convergence
Jacobi
Gauss-Seidel
fl(A) Æ ÎAÎ
Relaxation

Conditionnement
Convergence

Cours Calcul
et Méthodes Théorème
Numériques

M. Berrada
’C œ Mn (R), s’il existe une norme matricielle subordonnée Î.Î
telle que ÎC Î < 1, alors :
Introduction

Existence et
1 L’équation x = Cx + d admet une solution unique x̄
La suite x k converge vers x̄ quelle que soit x 0 .
unicité
2
Méthodes
directes

On a fl(C ) Æ ÎC Î < 1, donc les |⁄i | < 1.


Matrices particulières
Gauss 1

Ceci implique que I ≠ C est inversible. Donc il existe une


Gauss-Jordan
Décomposition LU
Cholesky
solution unique à l’équation x = Cx + d qu’on note x̄ .
Méthodes
itératives 2 On note e k = x k ≠ x̄ . On peut montrer que e k = Ce k≠1
et donc e k = C k e 0 , on aura alors
Généralités
Convergence
Jacobi
Gauss-Seidel
Relaxation
Îe k ÎV Æ ÎC Îk Îe 0 ÎV
Conditionnement

Donc e k æ 0 et x k æ x̄
Convergence

Cours Calcul
et Méthodes Théorème
Numériques

M. Berrada
On a équivalence entre les trois conditions suivantes :
1 fl(C ) < 1
Introduction

Existence et
2 il existe une norme matricielle subordonnée Î.Î telle que
unicité
ÎC Î < 1
Méthodes
directes 3 C k e0 tend vers 0 pour tout vecteur e0 œ Rn
Matrices particulières
Gauss
Gauss-Jordan
4 la suite x k converge vers la solution du système Ax = b
Décomposition LU
Cholesky
On note ek = x k ≠ x ,
Méthodes
itératives On a x k+1 = Cx k + d et x = Cx + d, donc ek+1 = Cek , puis
Généralités
Convergence
ek = C k e0
Jacobi
Gauss-Seidel Théorème
Relaxation

Conditionnement Soit A sysmétrique définie positive telle que A = M ≠ N Si


M t + N est définie positive, Alors la suite x k converge.
Convergence
Vitesse de convergence

Cours Calcul
et Méthodes
Numériques Le rayon spectral fl(C ) donne une estimation de vitesse de
M. Berrada convergence comparaison
Introduction Si fl(C ) Æ fl(C̃ ) < 1 alors le processus itératif à matrice
Existence et d’itération C converge plus vite
unicité

Méthodes
On suppose que fl(C ) < 1 donc pour un x 0 donné, la suite
directes x k æ x quand k æ +Œ, alors on a l’estimation suivante
Matrices particulières
Gauss
Gauss-Jordan
Îx k+1 ≠ x Î
Décomposition LU
æ fl(C )
Cholesky
Îx k ≠ x Î
Méthodes
itératives
Généralités Si on ne connait pas la solution x , on utilise l’estimation
Convergence

Îx k+1 ≠ x k Î
Jacobi
Gauss-Seidel
Relaxation æ fl(C )
Conditionnement
Îx k ≠ x k≠1 Î
Convergence
Conclusion

Cours Calcul
et Méthodes
Numériques

Pour résoudre le système Ax = b, il faut que :


M. Berrada

Introduction
A soit décomposable sous la forme A = M ≠ N
Existence et
unicité M soit inversible facilement
Méthodes
directes
l’une des deux conditions suivantes soit vérifiée
Matrices particulières
Gauss
Le rayon spectral de C = M ≠1 N est <1 (fl(C ) < 1)
Gauss-Jordan Pour A symétrique définie positive, il faut que M t + N soit
Décomposition LU
Cholesky
définie positive.
Méthodes
itératives
Généralités
Convergence
Jacobi
Gauss-Seidel
Relaxation

Conditionnement
Convergence
Conclusion

Cours Calcul
et Méthodes
Numériques

Pour résoudre le système Ax = b, il faut que :


M. Berrada

Introduction
A soit décomposable sous la forme A = M ≠ N
Existence et
unicité M soit inversible facilement
Méthodes
directes
l’une des deux conditions suivantes soit vérifiée
Matrices particulières
Gauss
Le rayon spectral de C = M ≠1 N est <1 (fl(C ) < 1)
Gauss-Jordan Pour A symétrique définie positive, il faut que M t + N soit
Décomposition LU
Cholesky
définie positive.
Méthodes

Comment choisir les matrices M et N qui assurent la


itératives
Généralités
Convergence
Jacobi
convergence
Gauss-Seidel
Relaxation

Conditionnement
Sommaire

Cours Calcul
et Méthodes
1 Quesqu’un système linéaire ?
Numériques
2 Existence et unicité de la solution
M. Berrada
3 Méthodes directes
Introduction Matrices particulières
Existence et
unicité
Méthode de Gauss
Méthodes Méthode de Gauss-Jordan
directes
Matrices particulières
Décomposition LU
Gauss
Gauss-Jordan
Décomposition de Cholesky
Décomposition LU
Cholesky
4 Méthodes itératives
Méthodes Principe général
itératives
Généralités
Convergence
Convergence
Jacobi
Méthode de Jacobi
Gauss-Seidel
Relaxation
Méthode de Gauss-Seidel
Conditionnement
Méthode de Relaxation
5 Conditionnement d’un système linéiare
Méthode de Jacobi
Exemple

Cours Calcul
et Méthodes
On note x̄ = (x̄1 , x̄2 , x̄3 ) la solution exacte du système linéaire
Numériques
Q R Q R Q R
M. Berrada 2 1 0 x1 5
c d c d c d
Introduction
a ≠1 ≠3 1 b a 2 b a 6 b
◊ x =
Existence et 0 1 4 x3 7
unicité

Méthodes
directes
On aura
Matrices particulières
Gauss
1 2 ◊ x̄1 + 1 ◊ x̄2 + 0 ◊ x̄3 = 5,
Gauss-Jordan
Décomposition LU
2 ≠1 ◊ x̄1 ≠ 3 ◊ x̄2 + 1 ◊ x̄3 = 6,
0 ◊ x̄1 + 1 ◊ x̄2 + 1 ◊ x̄3 = 7,
Cholesky
3
Méthodes
itératives
Généralités
Convergence
Jacobi
Gauss-Seidel
Relaxation

Conditionnement
Méthode de Jacobi
Exemple

Cours Calcul
et Méthodes
On note x̄ = (x̄1 , x̄2 , x̄3 ) la solution exacte du système linéaire
Numériques
Q R Q R Q R
M. Berrada 2 1 0 x1 5
c d c d c d
Introduction
a ≠1 ≠3 1 b a 2 b a 6 b
◊ x =
Existence et 0 1 4 x3 7
unicité

Méthodes
directes
On aura
Matrices particulières
Gauss
1 2 ◊ x̄1 + 1 ◊ x̄2 + 0 ◊ x̄3 = 5,
Gauss-Jordan
Décomposition LU
2 ≠1 ◊ x̄1 ≠ 3 ◊ x̄2 + 1 ◊ x̄3 = 6,
0 ◊ x̄1 + 1 ◊ x̄2 + 1 ◊ x̄3 = 7,
Cholesky
3
Méthodes
itératives
Généralités
Solution exacte
5≠1◊x̄2 ≠0◊x̄3
x̄1 =
Convergence
1
Jacobi
2
6+1◊x̄1 ≠1◊x̄3
x̄2 =
Gauss-Seidel
Relaxation 2
≠3
Conditionnement 7≠0◊x̄1 ≠1◊x̄2
3 x̄3 = 4
Méthode de Jacobi
Exemple

Cours Calcul
et Méthodes
On note x̄ = (x̄1 , x̄2 , x̄3 ) la solution exacte du système linéaire
Numériques
Q R Q R Q R
M. Berrada 2 1 0 x1 5
c d c d c d
Introduction
a ≠1 ≠3 1 b a 2 b a 6 b
◊ x =
Existence et 0 1 4 x3 7
unicité

Méthodes
directes
On aura
Matrices particulières
Gauss
1 2 ◊ x̄1 + 1 ◊ x̄2 + 0 ◊ x̄3 = 5,
Gauss-Jordan
Décomposition LU
2 ≠1 ◊ x̄1 ≠ 3 ◊ x̄2 + 1 ◊ x̄3 = 6,
0 ◊ x̄1 + 1 ◊ x̄2 + 1 ◊ x̄3 = 7,
Cholesky
3
Méthodes
itératives
Généralités
Solution exacte Itération Jacobi
5≠1◊x̄2 ≠0◊x̄3 5≠1◊x2k ≠0◊x3k
x̄1 = x1k+1 =
Convergence
1 1
Jacobi
2 2
6+1◊x̄1 ≠1◊x̄3
x̄2 =
Gauss-Seidel
2 6+1◊x1k ≠1◊x3k
x2k+1 =
Relaxation
≠3 2
Conditionnement 7≠0◊x̄1 ≠1◊x̄2 ≠3
3 x̄3 = 4 7≠0◊x1k ≠1◊x2k
3 x3k+1 = 4
Méthode de Jacobi
Algorithme

Cours Calcul
et Méthodes
Le test d’arrêt de l’algorithme est que :
Numériques 1 le résidu ÎAx k ≠ bÎ Æ Á ou
M. Berrada 2 le nombre d’itération nb Ø iter _max

Introduction |For i = 1 : n do
Existence et
unicité
| xinew = xi0 donné
Méthodes |End for
directes
Matrices particulières
|While ÎAx new ≠ bÎ > Á or nb < iter _max do
Gauss
Gauss-Jordan
| nb = nb + 1
Décomposition LU | For i = 1 : n do
xiold = xinew
Cholesky

Méthodes
|
itératives | End for
| For i = 1 : n q
Généralités
Convergence do
n
bi ≠ ai,j xjold
Jacobi
Gauss-Seidel
Relaxation
| xinew = j=1,j”=i
ai,i
Conditionnement | End for
|End while
Méthode de Jacobi
Forme matricielle

Cours Calcul
et Méthodes
Soit A œ Mn (R), on note par :
Numériques
D la matrice des éléments diagonaux de A
M. Berrada
E la matrice des éléments sous-diagonaux de A
Introduction F la matrice des éléments sur-diagonaux de A
Existence et
unicité
On peut écrire alors
Méthodes A = D + E + F = D ≠ (≠E ≠ F )
directes

On considère alors la décomposition A = M ≠ N avec


Matrices particulières
Gauss
Gauss-Jordan I
Décomposition LU
Cholesky
M = D
Méthodes N = ≠E ≠ F
itératives
Généralités
Convergence
Jacobi
Définition
On appel matrice de Jacobi la matrice
Gauss-Seidel
Relaxation

Conditionnement
J = M ≠1 N = D ≠1 (≠E ≠ F )
Méthode de Jacobi
Conditions de convergence

Cours Calcul
et Méthodes
Numériques
La méthode de Jacobi est convergente ssi
M. Berrada
1 Les éléments diagonaux de A sont tous non nuls
Introduction
2 fl(J) < 1
Existence et
unicité

Méthodes Théorème
directes
Matrices particulières Si A est à diagonale strictement dominante (c-à-d
q
|ai,i | > nj=1,j”=i |ai,j |) alors la méthode de Jacobi converge
Gauss
Gauss-Jordan
Décomposition LU
Cholesky
pour tout vecteur initial x 0 .
Méthodes
itératives
Généralités Théorème
Supposons A symétrique définie positive. Si 2D ≠ A est
Convergence
Jacobi

symétrique définie positive alors la méthode de Jacobi converge.


Gauss-Seidel
Relaxation

Conditionnement
Sommaire

Cours Calcul
et Méthodes
1 Quesqu’un système linéaire ?
Numériques
2 Existence et unicité de la solution
M. Berrada
3 Méthodes directes
Introduction Matrices particulières
Existence et
unicité
Méthode de Gauss
Méthodes Méthode de Gauss-Jordan
directes
Matrices particulières
Décomposition LU
Gauss
Gauss-Jordan
Décomposition de Cholesky
Décomposition LU
Cholesky
4 Méthodes itératives
Méthodes Principe général
itératives
Généralités
Convergence
Convergence
Jacobi
Méthode de Jacobi
Gauss-Seidel
Relaxation
Méthode de Gauss-Seidel
Conditionnement
Méthode de Relaxation
5 Conditionnement d’un système linéiare
Méthode de Gauss-Seidel
Exemple

Cours Calcul
et Méthodes
Numériques

M. Berrada

Introduction Dans l’algorithme de Gauss-Seidel, on utilise les éléments de


Existence et l’itéré qui sont déjà calculés
unicité
On revient à l’exemple précédent.
Méthodes
directes Solution exacte
5≠1◊x̄2 ≠0◊x̄3
x̄1 =
Matrices particulières
1
2
Gauss
Gauss-Jordan
6+1◊x̄1 ≠1◊x̄3
Décomposition LU
Cholesky
2 x̄2 = ≠3
7≠0◊x̄1 ≠1◊x̄2
Méthodes
itératives
3 x̄3 = 4
Généralités
Convergence
Jacobi
Gauss-Seidel
Relaxation

Conditionnement
Méthode de Gauss-Seidel
Exemple

Cours Calcul
et Méthodes
Numériques

M. Berrada

Introduction Dans l’algorithme de Gauss-Seidel, on utilise les éléments de


Existence et l’itéré qui sont déjà calculés
unicité
On revient à l’exemple précédent.
Méthodes
directes Solution exacte Itération Gauss-Seidel
5≠1◊x̄2 ≠0◊x̄3 5≠1◊x2k ≠0◊x3k
x̄1 =
Matrices particulières
Gauss
Gauss-Jordan
1
2 1 x1k+1 = 2
6+1◊x̄1 ≠1◊x̄3
Décomposition LU 2 x̄2 = 6+1◊x1k+1 ≠1◊x3k
Cholesky ≠3 2 x2k+1 =
7≠0◊x̄1 ≠1◊x̄2 ≠3
Méthodes 3 x̄3 = 4 7≠0◊x1k+1 ≠1◊x2k+1
x3k+1 =
itératives
3
Généralités 4
Convergence
Jacobi
Gauss-Seidel
Relaxation

Conditionnement
Méthode de Gauss-Seidel
Algorithme

Cours Calcul
et Méthodes
Numériques
|For i = 1 : n do
M. Berrada
| xinew = xi0
Introduction
|End for
Existence et
unicité |While ÎAx new ≠ bÎ > Á or nb < iter _max do
Méthodes | nb = nb + 1
directes
Matrices particulières
| For i = 1 : n do
Gauss
Gauss-Jordan
| xiold = xinew
Décomposition LU
Cholesky
| End for
Méthodes
| For i = 1 : n 1do 2
q new ≠ qn
itératives
Généralités
| xinew = a1i,i bi ≠ i≠1
j=1 ai,j xj j=i+1 ai,j xj
old
Convergence
Jacobi
| End for
Gauss-Seidel
Relaxation
|End while
Conditionnement
Méthode de Gauss-Seidel
Forme matricielle

Cours Calcul
et Méthodes
L’algorithme de Gauss-Seidel consiste à décomposer la matrice
Numériques A = M ≠ N telle que
M. Berrada I
Introduction
M = D+E
Existence et
N = ≠F
unicité

Méthodes On aura alors


directes

A = M ≠ N = D + E ≠ (≠F )
Matrices particulières
Gauss
Gauss-Jordan

et la suite
Décomposition LU
Cholesky

Méthodes
itératives
x k+1 = M ≠1 Nx k + M ≠1 b
Généralités
Convergence
Jacobi
Définition
Gauss-Seidel
Relaxation
On appel matrice de Gauss-Seidel la matrice
Conditionnement
GS = M ≠1 N = (D + E )≠1 (≠F )
Méthode de Gauss-Seidel
Conditions de convergence

Cours Calcul
et Méthodes
Numériques
La méthode de Gauss-Seidel est convergente ssi
M. Berrada
1 Les éléments diagonaux de A sont tous non nuls (D + E
Introduction
inversible)
Existence et
unicité 2 fl(GS) < 1
Méthodes

Théorème
directes
Matrices particulières

Si A est à diagonale strictement dominante alors la méthode de


Gauss
Gauss-Jordan
Décomposition LU
Cholesky
Gauss-Seidel converge pour tout vecteur initial x 0 .
Méthodes
itératives
Généralités Théorème
Si A est symétrique définie positive alors la méthode de
Convergence
Jacobi

Gauss-Seidel converge pour tout vecteur initial x 0 .


Gauss-Seidel
Relaxation

Conditionnement
Sommaire

Cours Calcul
et Méthodes
1 Quesqu’un système linéaire ?
Numériques
2 Existence et unicité de la solution
M. Berrada
3 Méthodes directes
Introduction Matrices particulières
Existence et
unicité
Méthode de Gauss
Méthodes Méthode de Gauss-Jordan
directes
Matrices particulières
Décomposition LU
Gauss
Gauss-Jordan
Décomposition de Cholesky
Décomposition LU
Cholesky
4 Méthodes itératives
Méthodes Principe général
itératives
Généralités
Convergence
Convergence
Jacobi
Méthode de Jacobi
Gauss-Seidel
Relaxation
Méthode de Gauss-Seidel
Conditionnement
Méthode de Relaxation
5 Conditionnement d’un système linéiare
Méthode de Relaxation
Forme matricielle

Cours Calcul
et Méthodes La méthode de relaxation est une amélioration de G-S
Numériques
Diminuer fl(C ) pour améliorer la vitesse de convergence
M. Berrada
Soit Ê œ R, on décompose A = MÊ ≠ NÊ telle que
I
Introduction D
MÊ = Ê +E
Existence et
1≠Ê
unicité N = Ê D≠ F
Méthodes
directes On aura le processus itératif :
D 1≠Ê D
Matrices particulières

x k+1 = ( + E )≠1 ( D ≠ F )x k + ( + E )≠1 b


Gauss
Gauss-Jordan
Décomposition LU Ê Ê Ê
Cholesky

Méthodes
itératives
Définition
Généralités
Convergence
On appel matrice de relaxation la matrice
Jacobi
Gauss-Seidel
D 1≠Ê
Relaxation
RÊ = MÊ≠1 NÊ = ( + E )≠1 ( D ≠ F)
Conditionnement Ê Ê
Si Ê = 1 on retrouve G-S
Méthode de relaxation
Conditions de convergence

Cours Calcul
et Méthodes
La méthode de relaxation est convergente ssi
Numériques 1 Les éléments diagonaux de A sont tous non nuls ( D + E
Ê
M. Berrada
inversible)
Introduction 2 fl(R ) < 1
Ê
Existence et
unicité Théorème
Méthodes
directes
Soit RÊ la matrice de relaxation associé à A. Alors :
Matrices particulières
Gauss
Gauss-Jordan
fl(RÊ ) Ø |Ê ≠ 1|.
Décomposition LU

En particulier, si la méthode converge, alors nécessairement


Cholesky

Méthodes
itératives 0<Ê<2
Généralités
Convergence
Jacobi
Gauss-Seidel
Théorème
Relaxation
Soit A une matrice symétrique définie positive.
Conditionnement
Alors la méthode de relaxation converge ssi 0 < Ê < 2.
En particulier, pour Ê = 1, la méthode de G-S converge.
Méthode de relaxation
Algorithme

Cours Calcul
et Méthodes
Numériques Algorithme de la méthoe de relaxation
M. Berrada |For i = 1 : n do
Introduction | xinew = xi0
Existence et |End for
unicité
|While ÎAx new ≠ bÎ > Á or nb < iter _max do
Méthodes
directes | nb = nb + 1
| For i = 1 : n do
Matrices particulières
Gauss
Gauss-Jordan
Décomposition LU
| xiold = xinew | End for
Cholesky
| For i = 1 : n 1do 2
Méthodes q new ≠ qn
itératives | xinew = aÊi,i bi ≠ i≠1 a x
j=1 i,j j a x
j=i+1 i,j j
old +
Généralités
Convergence (1 ≠ Ê)xiold
Jacobi
Gauss-Seidel | End for
Relaxation

Conditionnement
|End while
Méthode de relaxation
Comparaison Jacobi et G-S pour une matrice tridiagonale

Cours Calcul
et Méthodes
Numériques

M. Berrada
Théorème
Introduction
Si A est une matrice tridiagonale. Alors on a fl(GS) = [fl(J)]2
Existence et Si de plus A est symétrique définie positive alors on a un choix
unicité
optimal de Ê
Méthodes 2
directes Êú = Ò
1 + 1 ≠ fl(J)2
Matrices particulières
Gauss
Gauss-Jordan
Décomposition LU
Cholesky et fl(RÊú ) = Ê ú ≠ 1
Méthodes
itératives
Généralités
On peut en déduire que dans ce cas :
Convergence G-S converge … Jacobi converge
En cas de convergence, la méthode de G-S converge plus vite
Jacobi
Gauss-Seidel

que la méthode de Jacobi


Relaxation

Conditionnement
Sommaire

Cours Calcul
et Méthodes
1 Quesqu’un système linéaire ?
Numériques
2 Existence et unicité de la solution
M. Berrada
3 Méthodes directes
Introduction Matrices particulières
Existence et
unicité
Méthode de Gauss
Méthodes Méthode de Gauss-Jordan
directes
Matrices particulières
Décomposition LU
Gauss
Gauss-Jordan
Décomposition de Cholesky
Décomposition LU
Cholesky
4 Méthodes itératives
Méthodes Principe général
itératives
Généralités
Convergence
Convergence
Jacobi
Méthode de Jacobi
Gauss-Seidel
Relaxation
Méthode de Gauss-Seidel
Conditionnement
Méthode de Relaxation
5 Conditionnement d’un système linéiare
Conditionnement d’un système linéiare

Cours Calcul
et Méthodes
Numériques
Définition
M. Berrada
Le conditionnement d’une matrice inversible A relativement à
Introduction
une norme subordonnée, notée || · || est donné
Existence et
unicité

Méthodes
Ÿ(A) = ÎA≠1 Î ÎAÎ.
directes
Matrices particulières
Gauss Et on a Ÿ(A) > 1.
Gauss-Jordan
Décomposition LU

Le conditionnement d’une matrice donne une borne de


Cholesky

Méthodes
itératives l’erreur relative commise sur la solution x lorsque les
données A ou b sont perturbées.
Généralités
Convergence
Jacobi
Gauss-Seidel Si cette borne est très grande, l’erreur qui pourrait en
découler rende la solution numérique inexploitable
Relaxation

Conditionnement
Conditionnement d’un système linéiare

Cours Calcul Soient x , y et z solutions respectivement des trois systèmes :


et Méthodes
Numériques
Ax = b
M. Berrada Ay = (b + b)
Introduction
(A + A)z = b
Existence et Exemple :
unicité Q R Q R
Méthodes
10 7 8 7 32
directes c 7 5 6 5 d c 23 d
A=ca 8
d b=c d
6 10 9 b a 33 b
Matrices particulières
Gauss

Q 7 5 9 10 Q31
Gauss-Jordan
Décomposition LU R R
Cholesky 10 7 8.1 7.2 32.01
Méthodes c 7.08 5.04 6 5 d c 22.99 d
itératives A+ A=a
c d b+ b=c d
Généralités
8 5.98 9.89 9 b a 33.01 b
Convergence
6.99 4.99 9 9.98 30.99
Jacobi
Q R Q R Q R
1 1.82
Gauss-Seidel
Relaxation ≠81
c 1 d c ≠0.36 d c 137 d
Conditionnement
Les solutions : x = c
a 1 b y = a 1.35
d c d
b z =c
a ≠34 b
d

1 0.79 22
Conditionnement d’un système linéiare

Cours Calcul
et Méthodes Théorème (second membre perturbé)
Numériques

M. Berrada
Soit A une matrice inversible et b ”= 0 un vecteur de Rn . Soient
x et x + x les solutions respectives de Ax = b et
Introduction
A(x + x ) = b + b, alors l’erreur relative théorique x est
Existence et
unicité majorée par
Méthodes Î xÎ Î bÎ
directes 6 Ÿ(A)
Matrices particulières Îx Î ÎbÎ
Gauss
Gauss-Jordan
Décomposition LU
Cholesky
Théorème (matrice perturbée)
Méthodes
itératives
Soit A inversible. Soient x et x + x les solutions respectives
Généralités de Ax = b et (A + A)(x + x ) = b, alors l’erreur relative
théorique x est majorée par
Convergence
Jacobi
Gauss-Seidel

Î xÎ Î AÎ
Relaxation

Conditionnement
6 Ÿ(A)
Îx + x Î ÎAÎ
Conditionnement d’un système linéiare

Cours Calcul
et Méthodes
Numériques

M. Berrada

Introduction Lorsque l’on veut résoudre un système linéaire Ax = b avec une


Existence et
unicité
matrice mal conditionnée, il peut être intéressant de de
Méthodes
multiplier à gauche par une matrice K telle KA soit mieux
directes
Matrices particulières
conditionnée.
Gauss K est une approximation de A≠1
L’exemple le plus simple est le préconditionnement diagonal, où
Gauss-Jordan
Décomposition LU

la matrice K est la matrice diagonale constituée des inverses


Cholesky

Méthodes
itératives des éléments diagonaux de A
Généralités
Convergence
Jacobi
Gauss-Seidel
Relaxation

Conditionnement
Conditionnement d’un système linéiare

Cours Calcul
et Méthodes Pour avoir une rapidité de convergence, il faut que Ÿ(A)
Numériques
soit petit
M. Berrada
Préconditionner un système linéaire revient à le remplcer
Introduction
par un système équivalent avec une matrice de
Existence et
unicité conditionnement plus petit
Méthodes
directes
Le principe est de remplacer le système par
Matrices particulières
Gauss
Gauss-Jordan
KAx = Kb (préconditionnement à gauche)
Décomposition LU

ou par
Cholesky

Méthodes
itératives
Généralités
Convergence
AKy = b (préconditionnement à droite)
Jacobi
Gauss-Seidel
Relaxation
avec K une matrice inversible "préconditionneur" et
Conditionnement y = K ≠1 x et .
Mais aussi, on peut faire Kg AKd y = Kg b (cas général)
Conditionnement d’un système linéiare

Cours Calcul
et Méthodes
Numériques

M. Berrada
Si A est symétrique définie positive, K doit l’être aussi.
Introduction Mais KA n’est plus symètrique
Existence et
unicité
Si K admet une factorisation K = LLt alors les valeurs
Méthodes propores de KA et Lt AL sont les mêmes. On peut alors
directes
Matrices particulières
écrire le système équivalent suivant
Gauss

Lt ALx̃ = Lt b
Gauss-Jordan
Décomposition LU
Cholesky

Méthodes
itératives où x = Lx̃
On cherche une solution approchée x̃ k du système
Généralités
Convergence
Jacobi
Gauss-Seidel
précédent.
Relaxation

Conditionnement
Cours Calcul
et Méthodes
Numériques

M. Berrada

Introduction

Existence et
unicité

Fin Chapitre Système linéaire


Méthodes
directes
Matrices particulières
Gauss
Gauss-Jordan
Décomposition LU
Cholesky

Méthodes
itératives
Généralités
Convergence
Jacobi
Gauss-Seidel
Relaxation

Conditionnement

Vous aimerez peut-être aussi