Pres Analyse Numsy SL in

Chapitre 1
Méthodes itératives pour les systèmes linéaires
Mme M.El Kyal

ENSA d'Agadir
Mme M.El Kyal Chapitre 1 Méthodes itératives pour les systèmes linéaires
Objectifs
On note Mn (IR ) l'ensemble des matrices carrées d'ordre n. Soit

A ∈ Mn (IR ) une matrice inversible et b ∈ IR n , notre objectif dans
ce chapitre est de résoudre le système linéaire Ax = b, c'est à dire
trouver une solution de :
Ax = b tel que x ∈ IR n (1)
Comme A est inversible, il existe un unique vecteur x ∈ IR n solution
de l'equation (1).
1 Le but est d'appliquer des méthodes itératives pour le calcul
du vecteur x .
2 Un des points essentiels dans l'ecacité des méthodes
envisagées concerne la taille des systèmes à résoudre comparé
aux méthodes directes (dépassement de capacité mémoire,
temps de résolution élevé...).
Exemple : Approximation (diérences nies) d'un problème
aux limites linéaire
Soient c, f deux fonction continues sur [0, 1]. Trouver u ∈ C sur 2
[0, 1] telle que
−u 00 (x) + c(x)u(x) = f (x), si 0 < x < 1

avec
u(0) = u(1) = 0.
Exemple de situation physique : déplacement vertical d'une corde
tendue.
Les deux conditions u(0) = u(1) = 0 sont appelées conditions aux
limites.
Application de la méthode des diérences nies
Soit N > 0, on pose h = 1/(N + 1) et on note

xj = jh, ∀ 0 6 j 6 N + 1, les points de discrétisation.
u(x + h) − 2u(x) + u(x − h)
On a u 00 (x) = + O(h2 ).
h2
En notant uj l'approximation de u(xj ), nous pouvons écrire le
problème sous la forme suivante :
−uj− + 2uj − uj+
1 1
+ c(xj )uj = f (xj ), 16j 6N
h2
avec
u0 = uN+1 = 0.
Résoudre ce problème revient exactement à chercher U tel que
AU = f~,
où U = u · · · uN T , f~ = f (x ) · · · f (xN ) T et

1 1
2+c h −1 0
 2

1
1 ... ...
 −1
 

A= ... ...
.
h2  −1

 
0 −1 2 + cN h 2
Cette méthode converge à l'ordre h . 2
Principe des méthodes itératives
Une méthode itérative de résolution du système linéaire (1) est une

méthode qui construit une suite (x (k) )k∈IN où l'itéré x (k) est
calculé à partir des itérés x ( ) , ..., x (k− ) . Cette suite est censée
0 1
converger vers x ∗ solution de (1).

L'intérêt des méthodes itératives, comparées aux méthodes
directes, est d'être simples à programmer et de nécessiter moins de
place mémoire.
Rappels : Matrices carrées
Denition
Une matrice carrée est une matrice avec le même nombre des
colonnes que des lignes.
Dénition
Soit A une matrice carrée.
A est dite diagonale si
(a)i,j = 0 pour i 6= j.
A est dite triangulaire supérieure si
(a)i,j = 0 pour i > j.
A est dite triangulaire inférieure si
(a)i,j = 0 pour i < j.

Dénition
Une matrice carrée A est dite symétrique si At = A, c'est-à-dire,
(a)i,j = (a)j,i .
Dénition
Soient A, B ∈ IR n×n deux matrices carrées. Elle sont dites inverses
l'une de l'autre si et seulement si
AB = I et BA = I .
La matrice inverse d'une matrice carrée A est notée A− . 1
Voici quelques propriétés.

1 Si A ∈ IR n×n est inversible, alors A− est inversible et
1
(A−1 )−1 = A,
2 Si A ∈ IR n×n est inversible, alors At est inversible et

(At )−1 = (A−1 )t ,
3 Si A, B ∈ IR n×n sont inversibles, alors AB est inversible et

(AB)−1 = B −1 A−1 .
Déterminant d'une matrice carrée
Proposition
1 si une ligne de A est nulle, alors det(A) = 0
2 det(αA) = αn det(A) pour A ∈ IR n×n
3 le déterminant d'une matrice diagonale est égal au produit des
éléments sur la diagonale
4 Si B est obtenue de A ∈ IR n×n par une opération Li ↔ Lj ,

i 6= j , alors det(B) = − det(A).
5 Le déterminant d'une matrice triangulaire est égal au produit
des éléments sur sa diagonale .
Voici quelque propriétés algèbriques du déterminant.
1 Si A ∈ IR n×n , alors
A est inversible ⇔ det(A) 6= 0.
2 Si A, B ∈ IR n×n , alors
det(AB) = det(A) det(B).
3 Si A ∈ IR n×n est inversible, alors

1
det(A−1 ) = .
det(A)
4 Si A ∈ IR n×n , alors
det(At ) = det(A).
Rappels sur les valeurs propres
Dénition
Si T est une matrice de Mn , on dénit le polynôme caractéristique
de T par :
p(λ) = dét(T − λI )
où I est la matrice identité.
Dénition
Les racines du polynôme caractéristique de T sont appelées valeurs
propres de T.
Remarque
Si λ est une valeur propre, la matrice T − λI est singulière (puisque
son déterminant est nul) et le système
(T − λI )x = 0
possède des solutions non nulles.
Dénition
Une solution non nulle du système (T − λI )x = 0 est appelée
vecteur propre de T associé à la valeur propre λ.
Dénition
Le rayon spectral d'une matrice T est déni par :
ρ(T ) = max |λi |

1 ≤i≤n
où |λi | est le module de la valeur propre λi de T.
Dénition
une norme vectorielle est une application
k.k : IR n → IR +
telle que
1 kxk = 0 ⇔ x = 0, xk = |λ|kxk,
2 ∀x, y ∈ IR n , kx + y k ≤ kxk + ky k(inégalité triangulaire).
Exemple
Soit x ∈ IR n . Les trois normes suivantes sont les plus couramment

utilisées en pratique :
1 La norme euclidienne est la norme dénie à partir du produit
scalaire canonique :
n
1
X
kxk2 = ( |xi |2 ) 2
i=1
2 La norme 1 : n
X
kxk1 = |xi |
i=1
3 La norme ∞ :
kxk∞ = max |xi |
1 ≤i≤n
et en général, pour 1 ≤ p < ∞, on dénit la norme p par :
n
X 1
kxkp = ( |xi |p ) p .
i=1
Normes matricielles
Dénition
Une norme matricielle est une application, qui à une matrice A
associe un nombre réel positif ou nul, telle que :
1 kAk = 0 ⇔ A = 0,
2 ∀λ ∈ Cl , ∀A ∈ IR n , kλAk = |λ|kAk,
3 ∀A, B ∈ IR n , kA + Bk ≤ kAk + kBk(inégalité triangulaire),
4 ∀A, B ∈ IR n , kABk ≤ kAkkBk.
Une norme matricielle et une norme vectorielle sont dites
compatibles si et seulement si :
∀A ∈ IR n×n , ∀x ∈ IR n , kAxkV ≤ kAkM kxkV .
A partir de toute norme vectorielle kkV , on peut dénir une norme
matricielle kkM compatible, dite la norme matricielle subordonnée à
la norme vectorielle par
kAxkV
kAkM = sup .
x∈IR n \0 kxkV
Exemples de normes subordonnées aux normes vectorielles :

n
X
kAk1 = sup |aij |.
1 ≤j≤m 1
m
X
kAk∞ = sup |aij |.
1 ≤i≤n 1
kAxk2 »
kAk2 = sup = ρ(AT A).
x6=0 kxk2
Notons que si la matrice A est symétrique, alors
» »
kAk2 = ρ(At A) = ρ(A2 ) = ρ(A)
car
kAxk22 hAx, Axi hx, At Axi hx, A2 xi
kAk22 = sup = = = = ρ(A2 ) = ρ(A)
x6=0 kxk2
2
hx, xi hx, xi hx, xi
Proposition
Soit k.k une norme matricielle et A une matrice inversible.Alors
ρ(A) ≤ kAk
et ∀ε > 0, il existe une norme matricielle subordonnée telle que
kAk ≤ ρ(A) + ε.
Conditionnement
On considère le système Ax = b où A est inversible. Dans la

pratique, A et b peuvent être entachés d'erreurs (erreur de mesures,
erreurs d'arrondi . . . ). Nous donnons ici des majoration de l'erreur
commise sur la solution d'un système linéaire en fonction des erreur
éventuelles sur les données. Pour cela, on se donne des
perturbations de A et de b notées respectivement δA et δb, et on va
comparer les solutions exactes x et x + δx des systèmes linéaires :
Ax = b et (A + δA)(x + δx) = b + δb
Exemple
On considère le système linéaire suivant :
2x 6y 8
ß
+ =
2x + 6, 00001y = 8, 00001
dont la solution est donnée par x =1 et y = 1.
Si par contre on considère le système linéaire obtenu en
perturbant très légèrement notre système :
2x 6y 8
ß
+ =
2x 5, 99999y
+ = 8, 00002
on trouve x = 10 et y = −2 !
Dénition
Soit k.k une norme matricielle subordonnée et A une matrice
inversible. Le nombre
Cond(A) = kAkkA−1 k
est appelé le conditionnement de la matrice A, relativement à la

norme matricielle k.k.
Théorème
Soit A une matrice inversible, b et δb deux éléments de IR n avec
b 6= 0IR n , et soient x et x + δx les solutions des systèmes linéaires :
Ax = b et A(x + δx) = b + δb
on a alors
kδxk kδbk
≤ Cond(A)
kxk kbk
Soit le système
Ay = b + δb avec y = x + δx
Le but est de mesurer l'erreur relative commise sur x , i.e kδxk
kxk en
fonction des données du problème : kδbk
kbk .
A(x + δx) = b + δb
Ax + Aδx = b + δb or Ax = b
Aδx = δb
δx = A−1 δb
kδxk = kA−1 δbk ≤ kA−1 kkδbk
kδxk kδbk
≤ kA−1 k
kxk kxk
Comme Ax = b, kbk ≤ kAkkxk, on obtient :
kδxk kδbk kδbk
≤ kAkkA−1 k = Cond(A)
kxk kbk kbk
avec conditionnement de A, noté Cond(A), est la valeur kAkkA− k 1
qui donne une estimation de l'amplication de l'erreur commise sur

x par rapport à l'erreur sur les données b .
Si Cond(A) est proche de 1, on dit que la matrice est bien
conditionnée et l'erreur commise sur x est du même ordre de
grandeur que celle commise sur les données b. Inversement, si
Cond(A) est grand, on dit que la matrice est mal conditionnée et
l'erreur commise sur x est plus grande que l'erreur commise sur les
données b.
Théorème
Soit A et δA deux matrices de Mn (R) avec A une matrice
inversible, b un élément de IR n avec b 6= 0IR n , et soient x et x + δx
les solutions des systèmes linéaires :
Ax = b et (A + δA)(x + δx) = b
on a alors
kδxk kδAk
≤ Cond(A)
kx + δxk kAk
Remarques
1 Cond(A) = Cond(A−1 ),
2 Cond(αA) = Cond(A)∀α ∈ IR ∗ ,
3 1 = kI k = kAA− 1
k ≤ kAkkA−1 k = Con(A),
4 La matrice identité est la matrice la mieux conditionnée :
kAA−1 k = kI k = 1.
principe des méthodes itératives
Le principe des méthodes itératives pour la résolution des systèmes

linéaires est basé sur la décomposition de la matrice A, le système
peut s'écrire sous une autre forme identique (M − N)x = b ou
encore Mx = Nx + b. Donc à partir d'un vecteur initiale x ( ) , on 0
génère une suite de la façon suivante :

= M −1 Nx (0) + M −1 b
 (1)

 x
x (2) = M −1 Nx (1) + M −1 b


..


.

x (k+1) = M −1 Nx (k) + M −1 b


 ..


.


Cette suite est représentée par la relation itérative suivante :
x (0) donnée
®
x (k+1) = Tx (k) + V
où
T = M −1 N et V = M −1 b.
Dénition
On dit qu'une méthode itérative
x (k+1) = Tx (k) + V
est convergente vers x∗ si pour tout choix initial x (0) ∈ IR n , on a :
lim x (k) = x ∗ .
n→+∞
Nous ne pouvons pas savoir si le vecteur estimé se dirige vers la
solution x ∗ du système si un critère de convergence n'est pas
dénie. Pour cela, le vecteur d'erreur est établie par la relation :
e (k) = x (k) − x ∗
Autrement dit la converge existe si l'erreur tend vers 0 lorsqu'on se

rapproche de la solution optimale :
x (k) → x ∗ si e (k) → 0
Etude de la convergence
e (k) = x (k) − x ∗
donc
e (k) = Te (k−1)
car
e (k) = x (k) − x ∗ = Tx (k−1) + V − Tx ∗ − V = T (x (k−1) − x ∗ )
Dénition
Une matrice T est dite convergente si :
lim T n = 0
n→∞
Théorème
Les quatres assertions suivantes sont équivalentes :
1 La matrice T est convergente.
2 Pour toute vecteur x :
lim T k x = 0
n→∞
3 Le rayon spectral de T est strictement inférieur à 1 (ρ(T ) < 1)

4 kT k < 1 Pour au moins une norme matricielle subordonnée.
preuve
1⇒ 2 Cette implication est immédiate puisque pour une
norme matricielle subordonnée k.k :
∀x ∈ IR n , kT k xk ≤ kT k kkxk
2⇒ 3 Montrons cette implication par l'absurde. Supposons

que ρ(T ) ≥ 1, alors il existe λ valeur propre et x
vecteur propre tels que Tx = λx alors
kT k xk = |λ|k kxk ≥ kxk > 0
alors
lim T k x 6= 0
n→∞
3⇒ 4 d'après le théorème du rappel, pour tout > 0 il
existe une norme matricielle subordonnée k.k telle que
kT k ≤ ρ(T ) +
et puisque ρ(T ) < 1, il sut de prendre

1 − ρ(T )
=
2
on aura
1 + ρ(T )
kT k ≤ ρ(T ) + = <1
2
4⇒ 1 On a
0 ≤ kT k k ≤ kT kk
et puisque kT k < 1 alors
lim T k = 0
n→∞
Etant donnée la méthode itérative de départ :
x (k+1) = Tx (k) + V .
En dénissant l'erreur au pas k comme

e (k) = x (k) − x ∗
on obtient la relation de récurrence

e (k) = Te (k−1)
et donc
e (k) = T k e (0) , k = 0, 1, · · ·
Notre méthode itérative sera alors convergente lorsque l'erreur e (k)
tend vers 0, ce qui revient à montrer que la matrice T est
convergente ou encore que ρ(T ) < 1 (voir théorème précédent).
Parmis les méthodes itératives les plus populaires, on peut citer
trois grandes méthodes itératives de résolution de systèmes
linéaires, la méthode de Jacobi, la méthode de Gauss-Seidel et la
méthode de Relaxation.
Méthode de Jacobi
Nous réécrirons la matrice sous la forme suivante :

A=D −L−U
où les trois matrices D , L et U sont dénies par :

D est une matrice diagonale :
0 ··· ··· 0
 
a11
..
.
0 .. ... 0 .
 
.. . . . ..
 
...
 
. .
 
aii
..
 
. 0 ... ...
 
0
 
 
0 ··· ··· 0 ann
L est une matrice inférieure :
0 0 ··· 0
 
···
. .. ... ..
0 .
 
 −a 21
 .. ..

... 0 ...
 
 . .

 ..

0 ... ...
 
 . 0


−an1 · · · ··· −ann−1 0
U est une matrice supérieure :
0
 
−a12 · · · ··· −a1n
... ... ..
0 0 .
 
.. ..
 
... .
0 ..
 
. .
 
..
 
... ...
 
. 0
 
 −an−1n 
0 ··· ··· 0 0
La méthode de Jacobi écrit le système (1) sous la forme itérative
suivante :
Dx (k+1) = (L + U)x (k) + b
ou
x (k+1) = D −1 (L + U)x (k) + D −1 b
Autrement dit : Le système de départ s'écrit :


 a11 x1 + a12 x2 + a13 x3 + · · · + a1n xn = b1
 a21 x1 + a22 x2 + a23 x3 + · · ·

+ a12n xn = b2
.. .. ..


 . . .
an1 x1 + an2 x2 + an3 x3 + · · · + ann xn = bn

Comme dans toute méthode itérative, nous partons d'une
approximation initiale de la solution que nous noterons x ( ) et nous 0
considérons ensuite l'algorithme :

 Ñ é

 (k+1) 1 n
X (k)

 x1 = b1 − a1j xj
a11




 j=2




 Ñ é
1

 n

(k+1) (k)
 X
x2 = b2 − a2j xj


a22



 j=1,j6=2



.. ..


. .









 Ñ é
1


 n−1
(k+1) (k)
 X
x = bn − anj xj

 n


 ann
j=1
Il est inutile de rappeler que les pivots doivent être non nuls, dans
le cas contraire il sut d'intervertir les lignes pour remplir la
condition nécessaire.
Exemple
Soit le système :
 3x1 + 2

x2 − x3 =
 1
x + 5x 2 + 2x 3 = 17
2x1 − x2 − 6x 3 = −18
La méthode de Jacobi s'écrit dans ce cas :


1Ä
(k+1)
2 (k) (k)
ä
x = − x + x
3

1 2 3





1Ä


17 − x1(k) − 2x3(k)

 (k+1)
 ä
x2 =

5
1Ä


18 2

(k+1) (k) (k)
 ä
x = − − − x + x

6

 3 1 2



Dénition
Une matrice A est dite à diagonale strictement dominante si
n
X
|aii | > |aij |, ∀i
j=1,j6=i
Théorème (Condition susante de convergence )

Si la matrice A est à diagonale strictement dominante, alors les
méthodes de Jacobi converge.
Preuve
Soit x la solution du système, on a
(k) −1 X (k−1)
xi − xi = aij (xj − xj )
aii
j6=i
alors
(k) 1 X (k−1)
|xi − xi | ≤ |aij | max |xj − xj |
|aii | j
j6=i
On pose
1 X
Li = |aij |
|aii |
j6=i
on a Li < 1 puisque A est à diagonale strictement dominante alors

(k) (k−1) (k−1)
|xi − xi | ≤ Li max |xj − xj | ≤ L max |xj − xj |
j j
avec L = max ≤i≤n Li < 1

1
donc
kx (k) − xk∞ ≤ Lkx (k−1) − xk∞
alors
kx (k) − xk∞ ≤ Lk kx (0) − xk∞
et puisque L < 1 donc la méthode de Jacobi converge.
Méthode de Gauss-Seidel
La méthode de Gauss-Seidel est une variante améliorée de la

méthode de Jacobi. Pour comprendre le principe de cette méthode,
il sut de reconsidérer la méthode de Jacobi et de voir comment
on pourrait l'améliorer. La méthode de Jacobi s'écrit :
Ñ é
(k+1) 1 n
X (k)
xi = bi − aij xj
aii
j=1,j6=i
qui peut aussi s'écrire :

Ñ é
(k+1) 1 i−1
X (k)
n
X (k)
xi = bi − aij xj − aij xj
aii
j=1 j=i+1
Il sut de constater que le calcul de xi(k+ ) nécessite l'utilisation de
1
x , · · · , xi− , · · · , xn , or au moment du calcul de xi , on

(k) (k) (k) (k+ ) 1
1 1
possède déjà une meilleure approximation de x , · · · , xi− que 1 1
x , · · · , xi− à savoir x , · · · , xi− ,

(k) (k) (k+ )1 (k+ ) 1
1 1 1 1
donc pour le calcul de xi(k+ ) , on peut utiliser ces valeurs qui

1
viennent d'être calculées. On écrit alors :

Ñ é
(k+1) 1 i−1
X (k+1)
n
X (k)
xi = bi − aij xj − aij xj
aii
j=1 j=i+1
qui peut s'écrire matriciellement sous la forme itérative suivante :
(D − L)x (k+1) = Ux (k) + b
ou
x (k+1) = (D − L)−1 Ux (k) + (D − L)−1 b
Là encore, on rappelle que les pivots doivent être non nuls, dans le
cas contraire il sut d'intervertir les lignes pour remplir la condition
nécessaire.
Exemple
Soit le système :
3x 1 + x2 − x3 = 2
x1 + 5x 2 + 2x 3 = 17
2x1 − x2 − 6x 3 = −18
La méthode de Gauss-Seidel s'écrit dans ce cas :
1Ä
(k+1)
2 − x (k) + x (k)
ä
x1 =
3 2 3
1Ä
(k+1)
17 − x (k+ ) − 2x (k)
1
ä
x2 =
5 1 3
1Ä
− −18 − 2x
(k+1) (k+ ) (k+ )
ä1 1
x3 = +x
6 1 2
Théorème (Condition susante de convergence )
Si la matrice A est à diagonale strictement dominante, alors les
méthodes de Gauss Seidel converge.
preuve Puisque A est à diagonale strictement dominante, alors les

coecients diagonaux de la matrice A sont non nuls. De plus, D − L
est triangulaire inférieure, il en résulte que D − L est inversible.
La matrice TGS de la méthode de Gauss-Seidel est donnée par
TGS = (D − L)−1 U
Montrons que ρ(TGS ) < 1.
Raisonnons par l'absurde en supposant qu'il existe une valeur
propre λ de TGS avec |λ| ≥ 1,
on a
− 1 − 1
1
det(λI − (D − L) U) = det(λ(D − L) ((D − L) − U) =
λ
1
λn det((D − L)−1 ) det((D − L) − U)
λ
On va montrer que pour |λ| ≥ 1, la matrice (D − L) − λ U est à 1
diagonale strictement dominante.

En eet, on a d'après ce qui précède, on a
si
(
aij i ≥j
1
((D − L) − U)ij = aij
λ si i <j
λ
et puisque la matrice A est à diagonale strictement dominante et
|λ| ≥ 1 :
X X X X X aij
|aii | > |aij | = |aij | + |aij | ≥ |aij | +
λ

j6=i j<i j>i j<i j>i
On en déduit alors que la matrice (D − L) − λ U est à diagonale 1
strictement dominante, donc inversible et donc :

1
det((D − L) − U) 6= 0
λ
Ce qui est en contradiction avec le fait que λ est valeur propre de
TGS .
En conclusion, on ne peut avoir une valeur propre λ telle que
|λ| ≥ 1, donc nécéssairement ρ(TGS ) < 1 et la méthode de
Gauss-Seidel converge.
La méthode de relaxation
Dans la méthode de relaxation, on introduit un paramètre réel ω

non nul et on prend :
1 1−ω
M = D − L et N = D +U
ω ω
La matrice de la méthode itérative ainsi dénie est alors donnée par
1 1−ω
Å ã−1 Å ã
TR = D −L D +U
ω ω
(1 − ω)I + ωD −1 U
−1
= I − ωD −1 L

Remarques
1 Pourv ω = 1, on retrouve la méthode de Gauss-Seidel.
2 On va chercher les valeurs de ω pour lesquelles la méthode de

relaxation converge.
Proposition
La méthode de relaxation diverge pour tout ω dans
] − ∞, 0] ∪ [2, +∞[.
preuve puisque la matrice I − ωD − L − est triangulaire inférieure
1
1

à diagonale unité et (1 − ω)I + ωD − U est une matrice triangulaire

1
supérieure dont la diagonale est identique à celle de la matrice

(1 − ω)I . D'ou
det(TR ) = (1 − ω)n
Par ailleurs
det(TR ) ≤ ρ(TR )
puisque le déterminant d'une matrice est égal au produit de ses
valeurs propres comptées avec leur ordre de multiplicité. On en
déduit que si det(TR ) > 1 alors ρ(TR ) > 1
donc la méthode est divergente lorsque
ω ∈] − ∞, 0] ∪ [2, +∞[.
Condition d'arrêt
Plusieurs conditions existent pour arrêter l'itération. Elles sont

toutes basées sur le vecteur d'erreur qui doit atteindre un critère
prédéni et tendant vers une valeur proche de zéro. On note r un
vecteur résidu tel que :
r (k) = b − Ax (k)
de sorte que le critère d'arrêt soit :

kr (k) k
≤ ε, avec ε choisi petit.
kbk
Une autre technique consiste à utiliser un autre test d'arrêt basé
sur : (k+ ) 1 (k)
kx −x k
≤ ε.
kx (k) k
Mais lorsque la solution exacte est voisine de 0, on se contante
alors du critère d'arrêt suivant :
kx (k+1) − x (k) k ≤ ε.

Pres Analyse Numsy SL in

Transféré par

Informations du document

Titre original

Copyright

Formats disponibles

Partager ce document

Partager ou intégrer le document

Options de partage

Avez-vous trouvé ce document utile ?

Ce contenu est-il inapproprié ?

Droits d'auteur :

Formats disponibles

Pres Analyse Numsy SL in

Transféré par

Droits d'auteur :

Formats disponibles

Chapitre 1

Méthodes itératives pour les systèmes linéaires

Mme M.El Kyal

On note Mn (IR ) l'ensemble des matrices carrées d'ordre n. Soit

Soient c, f deux fonction continues sur [0, 1]. Trouver u ∈ C sur 2

[0, 1] telle que

−u 00 (x) + c(x)u(x) = f (x), si 0 < x < 1

Soit N > 0, on pose h = 1/(N + 1) et on note

Cette méthode converge à l'ordre h . 2

Une méthode itérative de résolution du système linéaire (1) est une

converger vers x ∗ solution de (1).

A est dite diagonale si

A est dite triangulaire supérieure si

(a)i,j = 0 pour i > j.

A est dite triangulaire inférieure si

(a)i,j = 0 pour i < j.

Voici quelques propriétés.

2 Si A ∈ IR n×n est inversible, alors At est inversible et

3 Si A, B ∈ IR n×n sont inversibles, alors AB est inversible et

4 Si B est obtenue de A ∈ IR n×n par une opération Li ↔ Lj ,

3 Si A ∈ IR n×n est inversible, alors

possède des solutions non nulles.

ρ(T ) = max |λi |

où |λi | est le module de la valeur propre λi de T.

Soit x ∈ IR n . Les trois normes suivantes sont les plus couramment

4 ∀A, B ∈ IR n , kABk ≤ kAkkBk.

Exemples de normes subordonnées aux normes vectorielles :

et ∀ε > 0, il existe une norme matricielle subordonnée telle que

On considère le système Ax = b où A est inversible. Dans la

est appelé le conditionnement de la matrice A, relativement à la

avec conditionnement de A, noté Cond(A), est la valeur kAkkA− k 1

qui donne une estimation de l'amplication de l'erreur commise sur

Le principe des méthodes itératives pour la résolution des systèmes

génère une suite de la façon suivante :

est convergente vers x∗ si pour tout choix initial x (0) ∈ IR n , on a :

Autrement dit la converge existe si l'erreur tend vers 0 lorsqu'on se

1 La matrice T est convergente.

2 Pour toute vecteur x :

3 Le rayon spectral de T est strictement inférieur à 1 (ρ(T ) < 1)

2⇒ 3 Montrons cette implication par l'absurde. Supposons

et puisque ρ(T ) < 1, il sut de prendre

En dénissant l'erreur au pas k comme

on obtient la relation de récurrence

Nous réécrirons la matrice sous la forme suivante :

où les trois matrices D , L et U sont dénies par :

considérons ensuite l'algorithme :

La méthode de Jacobi s'écrit dans ce cas :

Théorème (Condition susante de convergence )

on a Li < 1 puisque A est à diagonale strictement dominante alors

avec L = max ≤i≤n Li < 1

La méthode de Gauss-Seidel est une variante améliorée de la

qui peut aussi s'écrire :

x , · · · , xi− , · · · , xn , or au moment du calcul de xi , on

possède déjà une meilleure approximation de x , · · · , xi− que 1 1

x , · · · , xi− à savoir x , · · · , xi− ,

donc pour le calcul de xi(k+ ) , on peut utiliser ces valeurs qui

viennent d'être calculées. On écrit alors :

La méthode de Gauss-Seidel s'écrit dans ce cas :

preuve Puisque A est à diagonale strictement dominante, alors les

diagonale strictement dominante.

On en déduit alors que la matrice (D − L) − λ U est à diagonale 1

strictement dominante, donc inversible et donc :

Dans la méthode de relaxation, on introduit un paramètre réel ω

qui donne une estimation de l'amplication de l'erreur commise sur

et puisque ρ(T ) < 1, il sut de prendre

En dénissant l'erreur au pas k comme

où les trois matrices D , L et U sont dénies par :

Théorème (Condition susante de convergence )