‫اﻟﺠﻤﮭﻮرﯾــــــــــــــــــــــﺔ اﻟﺠﺰاﺋﺮﯾـــــــــــﺔ اﻟﺪﯾﻤﻘﺮاطﯿـــــــــﺔ اﻟﺸﻌﺒﯿـــــــﺔ‬

‫وزارة اﻟﺘﻌﻠﯿـــــــــــﻢ اﻟﻌـــــــــــﺎﻟﻲ واﻟﺒﺤـــــــــﺚ اﻟﻌﻠـــــــﻤﻲ‬

‫ﺟﺎﻣﻌﺔ وھﺮان ﻟﻠﻌﻠﻮم واﻟﺘﻜﻨﻮﻟﻮﺟﯿﺎ ﻣﺤﻤﺪ ﺑﻮﺿﯿﺎف‬
République Algérienne Démocratique et Populaire
Ministère de l’Enseignement Supérieur Et de la Recherche Scientifique
Université des Sciences et de la Technologie d’Oran Mohamed BOUDIAF

Faculté de Génie Mécanique

Département de Génie Mécanique
Option Installation Énergétique et Turbomachines
Master2

Monographie de module CFD

Méthodes Itératives de
Solution d'un Système
d'Equation Algébrique

Réalisé par :

BENKOUIDER Aymen

Année universitaire :
2022/2023
Introduction :
Les systèmes d'équations algébriques jouent un rôle très important en ingénierie. On peut
classer ces systèmes en deux grandes familles : les systèmes linéaires et les systèmes non
linéaires.

Ici encore, les progrès de l'informatique et de l'analyse numérique permettent d'aborder des
problèmes de taille prodigieuse. On résout couramment aujourd'hui des systèmes de plusieurs
centaines de milliers d'inconnues. On rencontre ces applications en mécanique des sols ou
fluides et dans l'analyse de structures complexes.

Ces calculs complexes requièrent des méthodes évoluées comme les méthodes d'éléments
finis. On obtient généralement des systèmes d'équations non linéaires de taille considérable,
qu'on doit résoudre à l'aide de méthodes efficaces qui minimisent le temps de calcul et
l'espace-mémoire requis.

Système d’équation algébrique :

Un système d'équations algébriques est un ensemble d'équations polynomiales f1 = 0, ..., fh =
0 où les fi sont des polynômes de plusieurs variables (ou indéterminées), x1, ..., xn, à
coefficients pris dans un corps ou un anneau k.

Une « solution » est un ensemble de valeurs à substituer aux indéterminées annulant toutes les
équations du système. Généralement les solutions peuvent être cherchées dans une extension
du corps k comme la clôture algébrique de ce corps (ou la clôture algébrique du corps des
fractions de k celui-ci est un anneau).

L'étude de l'ensemble des solutions des systèmes algébriques forme la branche des
mathématiques appelée géométrie algébrique.

La méthode itérative :
En analyse numérique, une méthode itérative est un procédé algorithmique utilisé pour
résoudre un problème, par exemple la recherche d’une solution d’un système d'équations ou
d’un problème d’optimisation. En débutant par le choix d’un point initial considéré comme
une première ébauche de solution, la méthode procède par itérations au cours desquelles elle
détermine une succession de solutions approximatives raffinées qui se rapprochent
graduellement de la solution cherchée. Les points générés sont appelés des itérés.

*Voici quelques exemples de méthodes itératives :

Méthodes itératives stationnaires
Méthodes itératives qui peuvent être exprimées sous la forme simple :

Lorsque ni B ni c ne dépendent du nombre d'itérations (k), la méthode itérative est appelée

méthode itérative stationnaire. Certaines des méthodes itératives stationnaires sont

1. Méthode de Jacobi.

2. Méthode de Gauss-Seidel.

3. Méthode de Successive Over relaxation (SOR).

4. Méthode de Symétrique Successive Over relaxation (SSOR).

Méthodes itératives non stationnaires

Lorsque, au cours des itérations, B et c changent au cours des itérations, la méthode est
appelée méthode itérative non stationnaire. En règle générale, les constantes B et c sont
calculées en prenant des produits internes de résidus ou d'autres vecteurs issus de la méthode
itérative.

Quelques exemples sont:

1. Méthode du gradient conjugué (CG)

2. MINRES et SYMMLQ

3. Méthode de Résiduel minimal généralisé (GMRES)

4. Méthode du gradient bi-conjugué (BiCG)

5. Quasi-Minimal Residual (QMR)

6. Conjugate Gradient Squared Method (CGS)

7. BiConjugate Gradient Stabilized (Bi-CGSTAB)

8. Chebyshev Iteration
Méthode de Jacobi :

On décompose la matrice A de la façon suivante : A = D-E-F avec D la diagonale, -E la partie

en dessous de la diagonale et -F la partie au-dessus. Dans la méthode de Jacobi, on choisit M =
D et N = E+F (dans la méthode de Gauss-Seidel, M = D-E et N = F).

x(k +1) = D −1(E + F)x(k) + D −1b avec :

Pour la ligne i de D −1
(E + F) :

Méthode de Gauss-Seidel :
La méthode de Gauss-Seidel est une méthode itérative pour résoudre les systèmes
linéaires Ax=b, où A est une matrice carrée d'ordre n et x, b sont des vecteurs de Rn. Elle
consiste en la manipulation suivante : on écrit A sous la forme A=D−L−U, où D est une
matrice diagonale, −L est une matrice triangulaire inférieure (L pour Lower), et −U est une
matrice triangulaire supérieure (U pour Upper). On peut alors transformer le système en

Ax=b ⟺ (D−L)x−Ux=b ⟺ x=(D−L)-1 Ux+(D−L)-1 b.

On définit ensuite une suite de vecteurs (xk) en choisissant un vecteur x0∈Rn et par la formule
de récurrence

xk+1=(D−L)−1Uxk+(D−L)−1b.

On espère que la suite (xk)k converge vers une solution de Ax=b. Sous de bonnes hypothèses
concernant la matrice A, c'est effectivement le cas.

Il faut vérifier que la suite (xk) est facilement calculable. Mais comme (D−L) est une matrice
triangulaire inférieure, elle n'est pas du tout difficile à inverser, et on a la formule suivante
pour calculer xk+1:

𝑖𝑖−1 𝑛𝑛
1
𝑥𝑥𝑖𝑖𝑘𝑘+1 = �𝑏𝑏𝑖𝑖 � 𝑎𝑎𝑖𝑖,𝑗𝑗 𝑥𝑥𝑗𝑗𝑘𝑘+1 − � 𝑎𝑎𝑖𝑖,𝑗𝑗 𝑥𝑥𝑗𝑗𝑘𝑘 �.
𝑎𝑎𝑖𝑖,𝑖𝑖
𝑗𝑗=1 𝑗𝑗=𝑖𝑖+1

L'avantage de la méthode de Gauss-Seidel est que, pour calculer xi k+1, on utilise les valeurs
déjà calculées de xj k+1, pour j< i, au lieu de xjk comme dans la méthode de Jacobi.
Méthode de successive sur-relaxation (SOR) :
Une généralisation de la précédente méthode est la méthode dite SOR (Successive Over
Relaxation). Son principe est d’introduire un “équilibre” de la décomposition diagonale entre
1 1−𝑤𝑤
la partie explicite et la partie implicite, à savoir:𝑀𝑀 = 𝐷𝐷 − 𝐸𝐸, 𝑁𝑁 = 𝐷𝐷 + 𝐹𝐹.
𝑤𝑤 𝑤𝑤

Cela donne les itérés suivants:

1 1 − 𝑤𝑤
� 𝐷𝐷 − 𝐸𝐸� 𝑥𝑥 (𝑛𝑛+1) = � 𝐷𝐷 + 𝐹𝐹� 𝑥𝑥 𝑛𝑛 + 𝑏𝑏
𝑤𝑤 𝑤𝑤
Ou encore en termes de composantes:

𝑖𝑖−1 𝑛𝑛
(𝑛𝑛+1) 𝑤𝑤 (𝑛𝑛+1) (𝑛𝑛) (𝑛𝑛)
𝑥𝑥𝑖𝑖 = �𝑏𝑏𝑖𝑖 − � 𝑎𝑎𝑖𝑖𝑖𝑖 𝑥𝑥𝑗𝑗 − � 𝑎𝑎𝑖𝑖𝑖𝑖 𝑥𝑥𝑗𝑗 � + (1 − 𝑤𝑤)𝑥𝑥𝑖𝑖
𝑎𝑎𝑖𝑖𝑖𝑖
𝑗𝑗=1 𝑗𝑗=𝑖𝑖+1

Notons que la méthode de Gauss-Seidel n’est rien d’autre que la méthode SOR en posant w=1.
Le coût par itération de SOR est toujours le même à savoir O(cn), c le nombre moyen
d’éléments non nuls par lignes.

Méthode du gradient conjugué :

La méthode du gradient conjugué est une méthode itérative pour résoudre une
équation Ax=b, avec A une matrice symétrique définie positive, ou, de façon équivalente, pour
trouver le minimum de la fonction :

f(x)=⟨Ax,x⟩+⟨b,x⟩.

Il s'agit d'une méthode de descente, c'est-à-dire que la suite construite (xk) est définie par son
premier terme x0 et une relation de récurrence

xk+1=xk+ρkdk

Où ρk est un pas, et dk est une direction de descente. La particularité de cette méthode est que
les directions de descente dk sont construites de sorte que les gradients ∇f(xk) soient tous
orthogonaux deux à deux :

∀0≤ k <j, ⟨∇f(xk),∇f(xj)⟩=0.

Pour la méthode du gradient à pas optimal, seuls deux gradients successifs sont orthogonaux.
De plus, le choix de ces directions de descente et du pas ρk font que xk réalise le minimum
de f sur l'espace affine x0+vect(∇f(x0),…,∇f(xk−1)).

Ainsi, la méthode du gradient conjugué est une méthode exacte qui donne en un nombre fini
d'itérations, inférieur ou égal à n, la valeur du minimum de f, ou la solution de Ax=b.
Néanmoins, elle est presque toujours utilisée pour fournir une solution approchée, la
convergence de (xk) vers sa limite étant en général rapide.
Les différents paramètres intervenant à chaque itération sont définis de la façon suivante :

〈∇𝑓𝑓(𝑥𝑥𝑘𝑘 ), 𝑑𝑑𝑘𝑘 〉
𝜌𝜌𝑘𝑘 =
〈𝑑𝑑𝑘𝑘 , 𝐴𝐴𝐴𝐴𝑘𝑘 〉

∇𝑓𝑓(𝑥𝑥0 ) = 𝐴𝐴𝑥𝑥0 − 𝑏𝑏

𝛻𝛻𝛻𝛻 (𝑥𝑥𝑘𝑘+1 ) = 𝛻𝛻𝛻𝛻(𝑥𝑥𝑘𝑘 ) + 𝜌𝜌𝑘𝑘 𝐴𝐴𝐴𝐴𝑘𝑘

𝑑𝑑0 = −∇𝑓𝑓(𝑥𝑥0 )
〈𝛻𝛻𝛻𝛻(𝑥𝑥𝑘𝑘+1 ), 𝛻𝛻𝛻𝛻 (𝑥𝑥𝑘𝑘+1 )〉
𝑑𝑑𝑘𝑘+1 = −𝛻𝛻𝛻𝛻(𝑥𝑥𝑘𝑘+1 ) + 𝑑𝑑𝑘𝑘
〈𝛻𝛻𝛻𝛻(𝑥𝑥𝑘𝑘 ), 𝛻𝛻𝛻𝛻 (𝑥𝑥𝑘𝑘 )〉

Méthode MINRES :

On a ekT A2y = rkT Ay, donc pour B = A2, la condition de Galerkin s’écrit :

min‖rk ‖2 .

La condition d’espace s’écrit xk = x0 + Vky d’où

rk = r0 − AVky = ‖rk ‖2 v1 − Vk+1Tky = Vk+1(‖rk ‖2 u1 − Tky)

et la condition de Galerkin devient

min ‖‖rk ‖2 𝑢𝑢1 − 𝑇𝑇𝑘𝑘 𝑦𝑦‖
y∈𝑅𝑅𝑘𝑘

La méthode MINRES résout en factorisant Tk `a l’aide de rotations de Givens. Cette

factorisation peut s’effectuer à l’aide de récurrences courtes, car Tk est symétrique. La
généralisation au cas non symétrique est la méthode GMRES d’écrite plus loin.
Méthode SYMMLQ :

Méthode de Résiduel minimal généralisé :

Méthode du gradient bi-conjugué :

Référence :
Livre de : « Méthodes numériques itératives - Algèbre linéaire et non linéaire », 2006.

Sites :

https://www.bibmath.net/

https://moodle.luniversitenumerique.fr/pluginfile.php/568/mod_resource/content/3/S2a-
syslin-iteratif.pdf

https://www.irisa.fr/sage/jocelyne/cours/INSA/chapkrylov2014.pdf