Esi Mi

MODULE: MATHÉMATIQUES POUR L’INGÉNIEUR
Méthodes itératives pour résoudre les systèmes linéaires
1 - Méthode Jacobi
2 - Méthode Gauss-Seidel
3 - Méthode Sor
4 - Méthode du gradient conjugué
Pr. Cherif - Méthodes itératives Année Universitaire: 2021/2022

Introduction 1 - M. Jacobi 2 - M. Gauss-Seidel 3 - M. Sor 4 - M. du gradient conjugué
Différence entre
Méthodes directes
Méthodes itératives

Exemple 01 Méthode directe 𝑥 ⟶ 𝑥3
On cherche 𝑥 pour lequel : 𝑓 𝑥 = 0

𝑥⟶𝑥
On prend comme exemple : 𝑓 𝑥 = 𝑥(𝑥² − 1)
𝑓 𝑥 = 0 ⇔ 𝑥3 = 𝑥
−1 0 1

Exemple 02 Méthode itérative - Newton

𝑓 𝑥
On considère une fonction 𝑓(𝑥) dérivable 𝑓′ 𝑥0
On cherche 𝑥 pour lequel : 𝑓 𝑥 = 0

On prend une valeur de départ 𝑥0
𝑥? 𝑥
𝑓 𝑥 −𝑓 𝑥0 𝑥1 𝑥0
On a : 𝑓 ′ 𝑥0 = 𝑓 𝑥 = 𝑥 − 𝑥0 𝑓 ′ 𝑥0 + 𝑓 𝑥0
𝑥−𝑥0
𝑓 𝑥 ≈0
𝑥 − 𝑥0 𝑓 ′ 𝑥0 + 𝑓 𝑥0 ≈ 0
On prend la nouvelle valeur 𝑥1 qui est plus proche du x recherché.

Exemple 02 Méthode itérative - Newton

𝑓 𝑥
𝑓′ 𝑥0
𝑓 𝑥0
𝑥1 = 𝑥0 − ′
𝑓 𝑥0
𝑥2 𝑓′ 𝑥1
𝑥? 𝑥
…
𝑥2 𝑥 𝑥0
Méthode itérative 1
𝑓 𝑥𝑛
𝑥𝑛+1 = 𝑥𝑛 − ′
𝑓 𝑥𝑛
Seuil d’arrêt 𝜀
𝑥𝑛+1 − 𝑥𝑛 ≤ 𝜀

Programmation
Résolution d’une équation.
Résolution d’un système d’équations linéaires.

Rappels sur l’algèbre linéaire
Nous appelons norme matricielle : une norme définie sur 𝑀𝑛 (𝐶) qui est compatible
avec la multiplication de matrice:
. ∶ 𝑀𝑛 𝐶 → 𝑅 +
𝐴→ 𝐴
∀ 𝐴, 𝐵 ∈ 𝑀𝑛 𝐶 , ∀𝜆 ∈𝐶
• 𝐴 =0 ⇔ 𝐴=0 𝑆é𝑝𝑎𝑟𝑎𝑡𝑖𝑜𝑛
• 𝜆. 𝐴 = 𝜆 . 𝐴 𝐻𝑜𝑚𝑜𝑔é𝑛é𝑖𝑡é
• 𝐴+𝐵 ≤ 𝐴 + 𝐵 𝐼𝑛é𝑔𝑎𝑙𝑖𝑡é 𝑡𝑟𝑖𝑎𝑛𝑔𝑢𝑙𝑎𝑖𝑟𝑒
• 𝐴. 𝐵 ≤ 𝐴 . 𝐵

Exemple 03 Norme de Frobenius
∀ 𝐴 ∈ 𝑀𝑛 𝐶 : 𝑛 𝑛
𝐴 𝐹 = ෍ ෍ 𝑎𝑖𝑗 = 𝑡𝑟( 𝑡𝐴 𝐴)
𝑖=1 𝑗=1
Étudiez les 4 propriétés de la norme

Rappel Norme vectorielle

Norme infinie
∀ 𝑥 ∈ 𝐶𝑛: 𝑥 ∞ = max 𝑥𝑖
1≤𝑖≤𝑛

Définition 01 Norme induite

Soit . 𝑣 une norme vectorielle sur 𝐶 𝑛
On appelle norme induite :

𝑀𝑛 𝐶 → 𝑅 +
𝐴𝑥 𝑣
𝐴→ 𝐴 = max
𝑥∈𝐶 𝑛 , 𝑥≠0 𝑥 𝑣
Exemple 04 La norme induite de la norme vectorielle . ∞ s’écrit: 𝐴 ∞ = max ෍ 𝑎𝑖𝑗

1≤𝑖≤𝑛
𝑗=1

Définition 02
Une norme matricielle . est compatible avec une norme vectorielle . 𝑣 ssi :
∀𝑥 𝐴.𝑥 𝑣 = 𝐴 . 𝑥 𝑣
Propriété 01
Pour toute norme matricielle, il existe une norme vectorielle avec laquelle elle est
compatible.

Définition 03 Rayon spectral
Soit 𝐴 ∈ 𝑀𝑛 𝐶
Notons 𝜆𝑖 les valeurs propres de 𝐴
On appelle rayon spectral de la matrice 𝐴 le nombre réel : 𝜌 𝐴 = max 𝜆𝑖
1≤𝑖≤𝑛
Propriétés 02
Pour toute norme matricielle . et toute matrice 𝐴: 𝜌 𝐴 ≤ 𝐴
∀ 𝐴 ∈ 𝑀𝑛 𝐶 , ∀ 𝜀 ∈ 𝑅+ : ∃ une norme matricielle induite . ∗ tq: 𝜌 𝐴 ≤ 𝐴 ∗ ≤𝜌 𝐴 +𝜀

On cherche à résoudre une équation de la forme : 𝐴𝑥 = 𝑏
Les méthodes directes fournissent la solution 𝑥 ∗ après un grand nombre d’opérations.
Les méthodes itératives permettent d’automatiser ces opérations:
• On construit une suite de vecteurs (𝑥 𝑘 )𝑘∈𝑁 qui tend vers 𝑥 ∗
• On choisit 𝑥 0 : l’approximation de départ par une méthode directe
• Pour construire (𝑥 𝑘 )𝑘∈𝑁 , on utilise la linéarité pour décomposer

la matrice A en une partie facilement inversible et un reste.

On décompose la matrice 𝐴 : 𝐴 = 𝑀 − 𝑁
avec 𝑀 : une matrice facilement inversible
L’équation 𝐴𝑥 = 𝑏 devient : 𝑀𝑥 = 𝑁𝑥 + 𝑏
On calcule la suite de vecteurs (𝑥 𝑘 )𝑘∈𝑁 :

𝑀𝑥 𝑘+1 = 𝑁𝑥 𝑘 + 𝑏
𝑥 𝑘+1 = 𝑀−1 𝑁𝑥 𝑘 + 𝑀−1 𝑏

ቐ
𝑥 0 𝑑𝑜𝑛𝑛é

Posons : 𝐶 = 𝑀−1 𝑁 𝐷 = 𝑀−1 𝑏
Nous obtenons la suite récurrente: 𝑥 𝑘+1 = 𝐶 𝑥 𝑘 + 𝐷

ቐ
𝑥 0 𝑑𝑜𝑛𝑛é
La solution 𝑥 ∗ est donc le point fixe de la fonction linéaire: 𝑓(𝑥) = 𝐶 𝑥 + 𝐷
Le problème se ramène donc à l’étude de la convergence de la fonction 𝑓

Théorème 01
Soit 𝐴 ∈ 𝑀𝑛 𝐶
S’il existe une norme matricielle induite . ∗ vérifiant : 𝐴 ∗ <1
alors:
• l’équation 𝑥 = 𝐴𝑥 + 𝐵 admet une solution unique 𝑥 ∗
• ∀ 𝑥0 ∶ 𝑥𝑘 → 𝑥∗

Démonstration
Nous avons: 𝜌 𝐴 ≤ 𝐴 ∗ <1

Donc les valeurs propres 𝜆𝑖 vérifient : 𝜆𝑖 < 1
Donc la matrice 𝐼 − 𝐴 est inversible
Donc il existe une unique solution 𝑥 ∗

Théorème 02
Les assertions suivantes sont équivalentes:

• 𝐴 est une matrice convergente : 𝐴𝑘 ⟶ 0
• 𝜌 𝐴 ≤1
• Il existe une norme matricielle induite vérifiant : 𝐴 ∗ ≤1

Théorème 03
Soit 𝐴 est une matrice symétrique définie positive

Si : 𝐴 = 𝑀 − 𝑁 et 𝑀 + 𝑡𝑁 est définie positive
Alors la suite: 𝑥 𝑘+1 = 𝐶 𝑥 𝑘 + 𝐷 est convergente
(C = 𝑀−1 𝑁)

Objectif
Pour résoudre le système d’équations: 𝐴𝑥 = 𝑏

Nous devons décomposer 𝐴 sous la forme : 𝐴 = 𝑀 − 𝑁
M soit inversible
𝑒𝑡
Tq: 𝐶 = 𝑀−1 𝑁 𝑎𝑣𝑒𝑐 𝜌 𝐶 < 1
ൽ𝑜𝑢
𝐴 𝑒𝑡 𝑀 + 𝑡𝑁 sont définies positives
Comment choisir 𝑀 et 𝑁 ?

1 - M. Jacobi 2 - M. Gauss-Seidel 3 - M. Sor 4 - M. du gradient conjugué
1 - Méthode de Jacobi
Exemple 05
1 1 0 0
Considérons le système d’équations: 𝐴𝑥 = 𝑏 𝐴 = −1 −1 1 𝑏= 1
∗
0 1 1 2
𝑥1
Nous cherchons donc une solution 𝑥 ∗ = 𝑥2∗
𝑥3∗
Le développement des lignes nous donne:
𝑥1 + 𝑥2 = 0 𝑥1 = −𝑥2
−𝑥1 − 𝑥2 + 𝑥3 = 1 soit 𝑥2 = −𝑥1 + 𝑥3 − 1
𝑥2 + 𝑥3 = 2 𝑥3 = 2 − 𝑥2

Exemple 05
𝑥10
Itérativement, considérons un point de départ :
𝑥 0 = 𝑥20
𝑥30
𝑥11
Nous cherchons une nouvelle valeur 𝑥 1 = 𝑥21 plus proche du résultat par :
𝑥31
𝑥11 = −𝑥20 𝑥11 = −𝑥20

𝑥21 = −𝑥10 + 𝑥30 − 1 𝑥21 = −𝑥10 + 𝑥30 − 1
𝑥31 = 2 − 𝑥20 𝑥31 = 2 − 𝑥20
Nous réitérons jusqu’à ce qu’on s’approche suffisamment de la solution

Algorithme
Données : 𝐴, 𝑏, 𝑥 0 , 𝑛 , 𝜀
Initialisation par 𝑥𝑖0
Début pour 𝑖 = 1 à 𝑛 faire
𝑥𝑖𝑘 ← 𝑥𝑖0
Itérations pour s’approcher de 𝑥 ∗
tant que 𝐴𝑥 𝑘 − 𝑏 >𝜀 faire
pour 𝑖 = 1 à 𝑛 faire
𝑏𝑖 −σ𝑗=1,𝑗≠𝑖 𝑎𝑖𝑗 𝑥𝑗𝑘
𝑥𝑖𝑘+1 ← 𝑎𝑖𝑖
𝑥𝑖𝑘 ← 𝑥𝑖𝑘+1
Fin

Algorithme
Données : 𝐴, 𝑏, 𝑥 0 , 𝑛 , 𝜀 , max_it
𝑥𝑖𝑘 ← 𝑥𝑖0
𝑁𝑏 ← 0
tant que 𝐴𝑥 𝑘 − 𝑏 > 𝜀 𝑒𝑡 𝑁𝑏 < max_it faire
𝑁𝑏 ← 𝑁𝑏 + 1
𝑏𝑖 −σ𝑗=1,𝑗≠𝑖 𝑎𝑖𝑗 𝑥𝑗𝑘
𝑥𝑖𝑘+1 ← 𝑎𝑖𝑖
𝑥𝑖𝑘 ← 𝑥𝑖𝑘+1
Fin

Décomposition de 𝐴 𝑎11 𝑎12 … … 𝑎1𝑛

𝑎21 𝑎22 … … 𝑎2𝑛
𝐴= …
…
𝑎𝑛1 𝑎𝑛𝑛
𝑎11 0 … … 0 0 0 … … 0 0 𝑎12 … … 𝑎1𝑛

0 𝑎22 … … … 𝑎21 0 … … … 0 0 … … …
𝐷𝑔 = … 𝐸= … 𝐹= …
… 0 … 0 … 𝑎𝑛−1𝑛
0 0 𝑎𝑛𝑛 𝑎𝑛1 𝑎𝑛𝑛−1 0 0 0 0
é𝑙é𝑚𝑒𝑛𝑡𝑠 𝑑𝑖𝑎𝑔𝑜𝑛𝑎𝑢𝑥 é𝑙é𝑚𝑒𝑛𝑡𝑠 𝑠𝑜𝑢𝑠 − 𝑑𝑖𝑎𝑔𝑜𝑛𝑎𝑢𝑥 é𝑙é𝑚𝑒𝑛𝑡𝑠 𝑠𝑢𝑟 − 𝑑𝑖𝑎𝑔𝑜𝑛𝑎𝑢𝑥

𝑎𝑖𝑗 𝑖 > 𝑗 𝑎𝑖𝑗 𝑖 < 𝑗

Décomposition de 𝐴
𝐴=𝑀−𝑁
𝑀 = 𝐷𝑔
𝑁 = −𝐸 − 𝐹
et on calcule la suite:
𝑥 𝑘+1 = 𝑀−1 𝑁 𝑥 𝑘 + 𝑀−1 𝑏
Définition 04
On appelle matrice de JACOBI la matrice:

𝐽 = 𝐷𝑔−1 (−𝐸 − 𝐹)
= 𝑀−1 𝑁

Propriété 03
𝑥 𝑘+1 = 𝑀−1 𝑁 𝑥 𝑘 + 𝑀−1 𝑏
𝐽 = 𝐷𝑔−1 (−𝐸 − 𝐹) = 𝑀−1 𝑁

La suite 𝑥 𝑘 converge ssi :
• 𝐷𝑔 est inversible 𝑎𝑖𝑖 ≠ 0
• 𝜌(𝐽) < 1
En pratique, on cherche des matrices à diagonale strictement dominante ∀𝑖 ∶ 𝑎𝑖𝑖 > σ𝑖≠𝑗 𝑎𝑖𝑗
ou des matrices symétriques ∀𝑖 ∀𝑗: 𝑎𝑖𝑗 = 𝑎𝑗𝑖

Théorème 04
Si : 𝐴 est une matrice à diagonale strictement dominante,

Alors : la méthode de JACOBI est convergente quelque soit le vecteur initial 𝑥 0 .

Théorème 05
Si: 𝐴 et 2𝐷 − 𝐴 sont symétriques définies positives,

Alors: la méthode de JACOBI converge.

2 - Méthode Gauss-Seidel On reprend l’algorithme de Jacobi
Données : 𝐴, 𝑏, 𝑥 0 , 𝑛 , 𝜀 , max_it
𝑥𝑖∗ ← 𝑥𝑖0
𝑁𝑏 ← 0
tant que 𝐴𝑥 𝑘 − 𝑏 > 𝜀 𝑒𝑡 𝑁𝑏 < max_it faire
𝑁𝑏 ← 𝑁𝑏 + 1
𝑏𝑏𝑖 −σ− σ 𝑎𝑖𝑗 𝑥𝑗𝑘𝑎 𝑥𝑘+1 𝑘
− σ 𝑎 𝑥 𝑘 𝑘
𝑘+1
𝑥𝑥𝑖𝑘+1
𝑘+1 ← 𝑖𝑏 𝑖 − σ
𝑗=1,𝑗≠𝑖
𝑗=1,𝑗<𝑖
𝑗=1,𝑗<𝑖 𝑖𝑗 𝑗𝑎 𝑖𝑗 𝑥 𝑗 − σ 𝑗=1,𝑗>𝑖 𝑖𝑗 𝑥𝑗
𝑗=1,𝑗>𝑖 𝑎
𝑖𝑗 𝑗
𝑥𝑖𝑖 ← ← 𝑎𝑖𝑖
𝑎𝑎𝑖𝑖𝑖𝑖
Fin 𝑥𝑖𝑘 ← 𝑥𝑖𝑘+1

Décomposition de 𝐴
𝐴=𝑀−𝑁
𝑀 = 𝐷𝑔 + 𝐸
𝑁 = −𝐹
et on calcule la suite:
𝑥 𝑘+1 = 𝑀−1 𝑁 𝑥 𝑘 + 𝑀−1 𝑏
Définition 05
On appelle matrice de Gauss-Seidel la matrice:
𝐺𝑆 = (𝐷𝑔 + 𝐸)−1 (−𝐹)

= 𝑀−1 𝑁

Propriété 04
𝑥 𝑘+1 = 𝑀−1 𝑁 𝑥 𝑘 + 𝑀−1 𝑏
𝐺𝑆 = 𝐷𝑔 + 𝐸 −1 −𝐹 = 𝑀−1 𝑁
La suite 𝑥 𝑘 converge ssi :
• 𝐷𝑔 + 𝐸 est inversible 𝑎𝑖𝑖 ≠ 0
• 𝜌(𝐺𝑆) < 1

Théorème 06
Si : 𝐴 est une matrice à diagonale strictement dominante,

Alors : la méthode de GAUSS-SEIDEL est convergente quelque soit le vecteur initial 𝑥 0 .

Théorème 07
Si : 𝐴 est une matrice symétrique définie positive,

Alors : la méthode de GAUSS-SEIDEL est convergente quelque soit le vecteur initial 𝑥 0 .

Applications 01
Exercice 1
5 2 −1 6
Soit le système 𝐴𝑋 = 𝑏 𝐴= 1 6 −3 𝑏= 4
2 1 4 7
0
On prend : 𝑋0 = 0 max _𝑖𝑡 = 4
0
1. A est-elle à diagonale dominante?

2. Résoudre le système en utilisant Jacobi.
3. Résoudre le système en utilisant Gauss-Seidel.

Applications 01
Exercice 2
−2 0 10 7
Soit le système 𝐴𝑋 = 𝑏 𝐴 = 10 −1 0 𝑏= 9
−1 10 −2 10
0
On prend : 𝑋0 = 0 max _𝑖𝑡 = 3
0
1. Transformer A pour qu’elle soit à diagonale dominante.

2. Résoudre le système en utilisant Jacobi.
3. Résoudre le système en utilisant Gauss-Seidel.

Applications 01
Exercice 3
3 −1 0
Soit la matrice 𝐴 = −1 3 −1
0 −1 3
1. Calculer les matrices 𝐵𝐽 et 𝐵𝐺𝑆

2. Calculer ρ(𝐵𝐽 ) et ρ(𝐵𝐺𝑆 )
3. Quelle méthode est plus rapide?

Applications 01
Exercice 4
2 −1 0 1
Soit la matrice 𝐴 = 0 −1 2 𝑏= 1
−1 2 −1 0
1. En utilisant la méthode Jacobi,

résoudre de système 𝐴𝑋 = 𝑏 en fixant: 𝜀 = 0,25
0
𝑋0 = 0
0

3 - Méthode SOR (Successive Over Relaxation)
𝜔
𝑋𝑖 𝑘+1 = 1 − 𝜔 𝑋𝑖 𝑘 + (𝑏 − ෍ 𝑎𝑖𝑗 𝑥𝑗 )
𝑎𝑖𝑖 𝑖
𝑗≠𝑖
𝑖−1 𝑛
𝜔
𝑋𝑖 𝑘+1 = 1 − 𝜔 𝑋𝑖 𝑘 + (𝑏 − ෍ 𝑎𝑖𝑗 𝑥𝑗 − ෍ 𝑎𝑖𝑗 𝑥𝑗 )
𝑎𝑖𝑖 𝑖
𝑗=1 𝑗=𝑖+1
0<𝜔<2

Exemple 06
𝐴𝑥 = 𝑏
3 −1 1 𝑥1 −1
𝐴 = −1 3 −1 𝑥 = 𝑥2 𝑏= 7
1 −1 3 𝑥3 −7
0
𝜔 = 1,25 𝑥0 = 0
0
3𝑥1 − 𝑥2 + 𝑥3 = −1
−𝑥1 + 3𝑥2 − 𝑥3 = 7
𝑥1 − 𝑥2 + 3𝑥3 = −7

Exemple 06
𝑘+1 𝑘
1 𝑘 𝑘
𝑥1 = 1 − 𝜔 𝑥1 + 𝜔. (𝑥2 − 𝑥3 − 1)
3
𝑘+1 𝑘 1 𝑘+1 𝑘
𝑥2 = 1 − 𝜔 𝑥2 + 𝜔. (𝑥1 + 𝑥3 + 7)
3
𝑘+1 𝑘 1 𝑘+1 𝑘+1
𝑥3 = 1 − 𝜔 𝑥3 + 𝜔. (−𝑥1 + 𝑥2 − 7)
3
𝐶𝑎𝑙𝑐𝑢𝑙𝑒𝑟 𝑥 1 , 𝑥 2 , 𝑥 3
3𝑥1 − 𝑥2 + 𝑥3 = −1
−𝑥1 + 3𝑥2 − 𝑥3 = 7
𝑥1 − 𝑥2 + 3𝑥3 = −7

Exercice 5
1. Refaire le système de l’exercice 4 en utilisant la méthode SOR.
2. Refaire le système de l’exercice 2 en utilisant la méthode SOR.

On cherche le minimum de la fonction
𝑓 𝑥, 𝑦 = 𝑥 2 + 2𝑥 + 𝑦 2 + 4
𝑥0 = 2
On considère le point de départ: 𝑋0 = 0
𝑦 =1
On calcule le gradient 𝜕𝑓 𝜕𝑓
= 2𝑥 + 2 = 2𝑦
𝜕𝑥 𝜕𝑦
En 𝑋 0 : 𝜕𝑓 𝜕𝑓
=6 =1 ∇𝑓 = 6𝑖 + 2𝑗
𝜕𝑥 𝜕𝑦

𝑘+1 𝑘
1 𝑓 𝑥, 𝑦 = 𝑥 2 + 2𝑥 + 𝑦 2 + 4
𝑋 = 𝑋 + −ℎ ∇𝑓Ԧ
2
𝑘+1 𝑘
2 6 𝑘+1
𝑋 = + ℎ
1 2 𝑓 𝑋Ԧ = (2 + 6ℎ)2 +2(2 + 6ℎ) + (1 + 2ℎ)2 +4
𝑘+1
2−1+ 6ℎ 𝑔 ℎ = (2 + 6ℎ)2 +2(2 + 6ℎ) + (1 + 2ℎ)2 +4
𝑋 =
1 0+ 2ℎ
𝑔𝑚𝑖𝑛 𝜕𝑔 1
=0 ℎ∗ =−
𝜕ℎ 2
En 𝑋 0 : 𝜕𝑓 𝜕𝑓
=6 =1 ∇𝑓 = 6𝑖 + 2𝑗
𝜕𝑥 𝜕𝑦

𝑥0 = 2
𝑋0 = 0 𝑓 𝑋 0 = 13
𝑦 =1
1
𝑥1 = 2 + 6 × (− )
2 −1
𝑋1 = = 𝑓 𝑋1 = 3
1
1 0
𝑦 = 1 + 2 × (− )
2

−1
Le nouveau point de départ: 𝑋1 =
0
Le gradient en 𝑋1 :
𝜕𝑓 𝜕𝑓
= 2𝑥 + 2 = 0 = 2𝑦 = 0
𝜕𝑥 𝜕𝑦
∇𝑓 = 0𝑖 + 0𝑗
Conclusion: 𝑋1 est un minimum local
Et: 𝑓𝑚𝑖𝑛 = (−1)2 +2 −1 + 02 + 4 = 3

Exercice 5
Trouver le minimum de la fonction
𝑓 𝑥, 𝑦 = 3𝑥 2 − 2𝑥𝑦 + 𝑦 2 − 8𝑦
𝑥0 = 0
En considérant le point de départ: 𝑋0 = 0
𝑦 =0

Travaux Pratiques

1. Méthode SOR sous python
- Installer python
- pip : python get-pip.py
- pip install numpy

import numpy as np
from numpy import linalg as la
def SOR(A,b,maxIt,eps,x0,omega):
D=np.diag(np.diag(A))
M=np.dot((1/omega),D)+np.tril(A,-1) Application: exercice 6
N=M-A
r=np.dot(A,x0)-b 3 −1 1 −1 0
x=x0 𝐴 = −1 3 −1 𝑏= 7 𝑥0 = 0
i=0 1 −1 3 −7 0
err=1+eps
res=[] 𝜔 = 1,25
while((i<maxIt) and (la.norm(r)>=eps)):
x=np.dot(np.dot((la.inv(M)),N),x)+np.dot((la.inv(M)),b)
A=np.array([[2,0,0],[4,5,0],[7,8,9]])
r=np.dot(A,x)-b
x0=np.array([[1],[1],[1]])
err = la.norm(r,2)
b=np.array([[20],[8],[7]])
res.append(err)
print(SOR(A,b,3,10**(-3),x0,1.25))
i=i+1
return x

2. Méthode Jacobi
Exercice 6
- Écrire le code de la méthode Jacobi sous Python

Esi Mi

Transféré par

Informations du document

Titre original

Copyright

Formats disponibles

Partager ce document

Partager ou intégrer le document

Options de partage

Avez-vous trouvé ce document utile ?

Ce contenu est-il inapproprié ?

Droits d'auteur :

Formats disponibles

Esi Mi

Transféré par

Droits d'auteur :

Formats disponibles

MODULE: MATHÉMATIQUES POUR L’INGÉNIEUR

Méthodes itératives pour résoudre les systèmes linéaires

4 - Méthode du gradient conjugué

Pr. Cherif - Méthodes itératives Année Universitaire: 2021/2022

Pr. Cherif - Méthodes itératives Année Universitaire: 2021/2022

Exemple 01 Méthode directe 𝑥 ⟶ 𝑥3

On cherche 𝑥 pour lequel : 𝑓 𝑥 = 0

On prend comme exemple : 𝑓 𝑥 = 𝑥(𝑥² − 1)

Pr. Cherif - Méthodes itératives Année Universitaire: 2021/2022

Exemple 02 Méthode itérative - Newton

On considère une fonction 𝑓(𝑥) dérivable 𝑓′ 𝑥0

On cherche 𝑥 pour lequel : 𝑓 𝑥 = 0

On prend la nouvelle valeur 𝑥1 qui est plus proche du x recherché.

Pr. Cherif - Méthodes itératives Année Universitaire: 2021/2022

Exemple 02 Méthode itérative - Newton

Pr. Cherif - Méthodes itératives Année Universitaire: 2021/2022

Résolution d’une équation.

Résolution d’un système d’équations linéaires.

Pr. Cherif - Méthodes itératives Année Universitaire: 2021/2022

Rappels sur l’algèbre linéaire

Pr. Cherif - Méthodes itératives Année Universitaire: 2021/2022

Rappels sur l’algèbre linéaire

Exemple 03 Norme de Frobenius

Étudiez les 4 propriétés de la norme

Pr. Cherif - Méthodes itératives Année Universitaire: 2021/2022

Rappels sur l’algèbre linéaire

Rappel Norme vectorielle

Pr. Cherif - Méthodes itératives Année Universitaire: 2021/2022

Rappels sur l’algèbre linéaire

Définition 01 Norme induite

On appelle norme induite :

Exemple 04 La norme induite de la norme vectorielle . ∞ s’écrit: 𝐴 ∞ = max ෍ 𝑎𝑖𝑗

Pr. Cherif - Méthodes itératives Année Universitaire: 2021/2022

Rappels sur l’algèbre linéaire

Pr. Cherif - Méthodes itératives Année Universitaire: 2021/2022

Rappels sur l’algèbre linéaire

Définition 03 Rayon spectral

Pour toute norme matricielle . et toute matrice 𝐴: 𝜌 𝐴 ≤ 𝐴

∀ 𝐴 ∈ 𝑀𝑛 𝐶 , ∀ 𝜀 ∈ 𝑅+ : ∃ une norme matricielle induite . ∗ tq: 𝜌 𝐴 ≤ 𝐴 ∗ ≤𝜌 𝐴 +𝜀

Pr. Cherif - Méthodes itératives Année Universitaire: 2021/2022

On cherche à résoudre une équation de la forme : 𝐴𝑥 = 𝑏

Les méthodes directes fournissent la solution 𝑥 ∗ après un grand nombre d’opérations.

Les méthodes itératives permettent d’automatiser ces opérations:

• On construit une suite de vecteurs (𝑥 𝑘 )𝑘∈𝑁 qui tend vers 𝑥 ∗

• On choisit 𝑥 0 : l’approximation de départ par une méthode directe

• Pour construire (𝑥 𝑘 )𝑘∈𝑁 , on utilise la linéarité pour décomposer

Pr. Cherif - Méthodes itératives Année Universitaire: 2021/2022

avec 𝑀 : une matrice facilement inversible

On calcule la suite de vecteurs (𝑥 𝑘 )𝑘∈𝑁 :

𝑥 𝑘+1 = 𝑀−1 𝑁𝑥 𝑘 + 𝑀−1 𝑏

Pr. Cherif - Méthodes itératives Année Universitaire: 2021/2022

Posons : 𝐶 = 𝑀−1 𝑁 𝐷 = 𝑀−1 𝑏

Nous obtenons la suite récurrente: 𝑥 𝑘+1 = 𝐶 𝑥 𝑘 + 𝐷

La solution 𝑥 ∗ est donc le point fixe de la fonction linéaire: 𝑓(𝑥) = 𝐶 𝑥 + 𝐷

Le problème se ramène donc à l’étude de la convergence de la fonction 𝑓

Pr. Cherif - Méthodes itératives Année Universitaire: 2021/2022

Pr. Cherif - Méthodes itératives Année Universitaire: 2021/2022

Nous avons: 𝜌 𝐴 ≤ 𝐴 ∗ <1

Pr. Cherif - Méthodes itératives Année Universitaire: 2021/2022

Les assertions suivantes sont équivalentes:

Pr. Cherif - Méthodes itératives Année Universitaire: 2021/2022

Soit 𝐴 est une matrice symétrique définie positive

Pr. Cherif - Méthodes itératives Année Universitaire: 2021/2022