Université du Québec à Chicoutimi

Méthodes d’analyse de l’ingénieur

8GEN455 (01)

Chapitre 4
Méthodes itératives
1
et systèmes dynamiques
discrets
Par: Omar Noui, Ph. D.
 4.4: Rappels sur les valeurs propres
2 et vecteurs propres:
Polynôme caractéristique: Si 𝐴 est une matrice de dimension 𝑛, on
définit le polynôme caractéristique de 𝐴 par:
𝑝 𝜆 = det(𝐴 − 𝜆𝐼)

Avec 𝐼 la matrice identité.

Valeur propre d’une matrice: Les racines du polynôme caractéristique

sont appelées valeurs propres de la matrice 𝐴.

Vecteur propre d’une matrice: Une solution non nulle du système:

𝐴𝑥Ԧ = 𝜆𝑥Ԧ

est appelée vecteur propre de 𝐴 associé à la valeur propre 𝜆.

 4.4: Rappels sur les valeurs propres
3 et vecteurs propres:
Proposition: Si l’on dénote 𝜆𝑖 et 𝑣Ԧ 𝑖 les 𝑛 valeurs et vecteurs propres
1
d’une matrice 𝐴, alors les valeurs propres de 𝐴−1 sont et les
𝜆𝑖

vecteurs propres restent les mêmes.

▪ Il n’est souvent nécessaire de calculer que la plus grande valeur

propre ou la plus petite valeur propre.

▪ La méthode des puissances est la plus utilisée pour retrouver la

plus grande valeur propre d’une matrice.
 4.4: Rappels sur les valeurs propres
4 et vecteurs propres:
 Méthode des puissances:
▪ Suppositions:
❑ Nous supposons que la matrice 𝐴 est symétrique. Alors, toutes
les valeurs propres sont réelles et il existe une base
orthonormale de vecteurs propres 𝑣Ԧ 𝑗 (𝑗 allant de 1 à 𝑛). Ainsi:
𝐴𝑣Ԧ 𝑗 = 𝜆𝑗 𝑣Ԧ 𝑗 1 ≤ 𝑗 ≤ 𝑛
𝑣Ԧ 𝑗 . 𝑣Ԧ 𝑖 = 0 𝑖≠𝑗
𝑣Ԧ 𝑗 . 𝑣Ԧ 𝑗 = 1 1≤𝑗≤𝑛
❑ Nous supposons que les valeurs propres 𝜆𝑗 vérifient:
𝜆1 > 𝜆2 ≥ 𝜆3 ≥ ⋯ ≥ 𝜆𝑛
 4.4: Rappels sur les valeurs propres
5 et vecteurs propres:
 Méthode des puissances: Algorithme.
1.Étant donnés:
▪ Un critère d’arrêt 𝜖𝑎 ; Un nombre maximal d’itérations 𝑁; Un
vecteur 𝑥Ԧ 0 quelconque; Un nombre réel non nul 𝜈0 .
𝜈𝑖 −𝜈𝑖−1
2.Tant que ≥ 𝜖𝑎 , effectuer:
𝜈𝑖
a. 𝑥Ԧ 𝑖 = 𝐴𝑥Ԧ 𝑖−1

𝑥Ԧ 𝑖
b. 𝑦Ԧ 𝑖 =
𝑥Ԧ 𝑖 2
𝐴𝑥Ԧ 𝑖 .𝑥Ԧ 𝑖
c. 𝜈𝑖 = 2 = 𝐴𝑦Ԧ 𝑖 . 𝑦Ԧ 𝑖
𝑥Ԧ 𝑖 2
d. Incrémentation de 𝑖 (𝑖 ← 𝑖 + 1).
e. Si i = 𝑁: Nombre maximal d’itérations atteint et arrêt.
 4.4: Rappels sur les valeurs propres
6 et vecteurs propres:
 Méthode des puissances: Convergence.
▪ On exprime 𝑥Ԧ 0 suivant la base des vecteurs propres:
𝑛
0
𝑥Ԧ = ෍ 𝛼𝑗 𝑣Ԧ 𝑗
𝑗=1
▪ On suppose que 𝑥Ԧ 0 et 𝑣Ԧ 1 ne sont pas orthogonaux. On calcule 𝑥Ԧ 1
𝑛 𝑛
𝑥Ԧ 1 = 𝐴𝑥Ԧ 0 =෍ 𝛼𝑗 𝐴𝑣Ԧ 𝑗 =෍ 𝛼𝑗 𝜆𝑗 𝑣Ԧ 𝑗
𝑗=1 𝑗=1
▪ Par récurrence on obtient:
𝑛 𝑛
𝑥Ԧ 𝑖 = 𝐴𝑥Ԧ 𝑖−1 = 𝐴𝑖 𝑥Ԧ 0 =෍ 𝛼𝑗 𝐴𝑖 𝑣Ԧ 𝑗 =෍ 𝛼𝑗 𝜆𝑗𝑖 𝑣Ԧ 𝑗
𝑗=1 𝑗=1
▪ En vertu de l’orthonormalité des vecteurs propres on a:
2 𝑛
𝑖
𝑥Ԧ 2 =෍ 𝛼𝑗2 𝜆𝑗2𝑖
𝑗=1
𝑛
𝐴𝑥Ԧ 𝑖 . 𝑥Ԧ 𝑖 = ෍ 𝛼𝑗2 𝜆𝑗2𝑖+1
𝑗=1
 4.4: Rappels sur les valeurs propres
7 et vecteurs propres:
 Méthode des puissances: Convergence.
▪ On en conclut que:
𝑛 2𝑖+1
𝜆𝑗
෍ 𝛼𝑗2 𝜆𝑗2𝑖+1 𝛼12 + σ𝑛𝑗=2 𝛼𝑗2
𝑖
𝐴𝑥Ԧ . 𝑥Ԧ𝑖
𝑗=1 𝜆1
𝜈𝑖 = = 𝑛 = 𝜆1
𝑥Ԧ 𝑖 22 𝜆𝑗
2𝑖
෍ 𝛼𝑗2 𝜆𝑗2𝑖 𝛼12 + σ𝑛𝑗=2 𝛼𝑗2
𝑗=1 𝜆1
Alors lim 𝜈𝑖 = 𝜆1
𝑖→∞
▪ On a aussi:
𝑖
𝜆𝑘
𝑥Ԧ 𝑖 σ𝑛𝑗=1 𝛼𝑗 𝜆𝑗𝑖 𝑣Ԧ 𝑗 𝛼𝑘 𝜆𝑖𝑘 𝛼𝑘
𝑘 𝑘 𝜆1
. 𝑣Ԧ = . 𝑣Ԧ = =
𝑥Ԧ 𝑖 2 σ𝑛𝑗=1 𝛼𝑗2 𝜆𝑗2𝑖
1/2
σ𝑛𝑗=1 𝛼𝑗2 𝜆𝑗2𝑖
1/2 2𝑖 1/2
𝜆𝑗
σ𝑛𝑗=1 𝛼𝑗2
𝜆1
Alors lim 𝑦Ԧ 𝑖 . 𝑣Ԧ 𝑘 = 0. Le vecteur 𝑦Ԧ 𝑖 est orthogonal à tous les vecteurs propres 𝑣Ԧ 𝑘
𝑖→∞
(𝑘 ≠ 1), alors 𝑦Ԧ 𝑖 est parallèle à 𝑣Ԧ 1 .
 4.4: Rappels sur les valeurs propres
8 et vecteurs propres:
 Méthode des puissances inverses: Algorithme.
1.Étant donnés:
▪ Un critère d’arrêt 𝜖𝑎 ; Un nombre maximal d’itérations 𝑁;
Un vecteur 𝑥Ԧ 0 quelconque; Un nombre réel 𝜈0 .
𝜈𝑖 −𝜈𝑖−1
2.Tant que ≥ 𝜖𝑎 , effectuer:
𝜈𝑖
𝑥Ԧ 𝑖
a. 𝑦Ԧ 𝑖 = .
𝑥Ԧ 𝑖 2
𝑥Ԧ 𝑖 .𝑥Ԧ 𝑖−1
b. 𝜈𝑖 = 2 .
𝑥Ԧ 𝑖−1 2
c. Résoudre A𝑥Ԧ 𝑖+1 = 𝑥Ԧ 𝑖 .
d. Incrémentation de 𝑖 (𝑖 ← 𝑖 + 1).
e. Si i = 𝑁: Nombre maximal d’itérations atteint et arrêt.
 4.5: Méthode des points fixes en
9
dimension quelconque:
▪ Point fixe d’un système: tout vecteur 𝑟Ԧ solution du système 𝑥Ԧ = 𝑔(
Ԧ 𝑥)
Ԧ
est appelé point fixe de l’application 𝑔(
Ԧ 𝑥).
Ԧ
▪ L’algorithme de base de la méthode des points fixes en dimension
𝑛 reste le même par rapport au cas unidimensionnel:
𝑥Ԧ 0 𝑑𝑜𝑛𝑛é
ቊ 𝑖+1
𝑥Ԧ Ԧ 𝑥Ԧ 𝑖 )
= 𝑔(
▪ Nous devons connaître l’équivalent de la condition de
convergence d’un point fixe 𝑔′(𝑟) < 1 dans le cas de dimensions
quelconque.
▪ Considérons le cas particulier où 𝑔Ԧ 𝑥Ԧ = 𝐴𝑥,
Ԧ où 𝐴 est une matrice
quelconque de dimensions 𝑛 × 𝑛. On a 0 est un point fixe et 𝑥Ԧ 𝑖+1 =
𝐴𝑥Ԧ 𝑖 = 𝐴𝑖+1 𝑥Ԧ 0 .
 4.5: Méthode des points fixes en
10
dimension quelconque:

▪ Rayon spectral: Le rayon spectral d’une matrice 𝐴 défini par:

𝜌 𝐴 = max 𝜆𝑖
1≤𝑖≤𝑛

Où 𝜆𝑖 est le module complexe de la valeur propre 𝜆𝑖 .

▪ Matrice convergente: Une matrice 𝐴 est dite convergente si:

lim 𝐴𝑛 = 0 (𝑚𝑎𝑡𝑟𝑖𝑐𝑒 𝑛𝑢𝑙𝑙𝑒)

𝑛→∞
 4.5: Méthode des points fixes en
11
dimension quelconque:
▪ Théorème: Les quatre assertions suivantes sont équivalentes:
1. La matrice 𝐴 est convergente.
2. Pour toute norme matricielle:
lim 𝐴𝑛 = 0
𝑛→∞

3. Pour tout vecteur 𝑥:

Ԧ
lim 𝐴𝑛 𝑥Ԧ = 0
𝑛→∞

4.Le rayon spectral de 𝐴 est strictement inférieur à 1

𝜌 𝐴 <1
▪ On peut ainsi affirmer que 0 est un point fixe de 𝑔Ԧ 𝑥Ԧ = 𝐴𝑥Ԧ = 𝑥Ԧ si et
seulement si 𝜌 𝐴 < 1.
 4.5: Méthode des points fixes en
12
dimension quelconque:
▪ Théorème: Point fixe attractif: Soit 𝑟Ԧ un point fixe de l’application
𝑥Ԧ = 𝑔Ԧ 𝑥Ԧ , alors 𝑟Ԧ est attractif si le rayon spectral de la matrice
jacobienne de 𝑔Ԧ 𝑥Ԧ en 𝑟Ԧ est inférieur à 1 (𝜌 𝐽 𝑟Ԧ < 1), il est répulsif

si 𝜌 𝐽 𝑟Ԧ > 1. Le cas où 𝜌 𝐽 𝑟Ԧ = 1 est indéterminé.

▪ Ce théorème est une généralisation du cas unidimensionnel.

▪ Le fait que 𝑟Ԧ soit attractif ne garantit pas la convergence de

l’algorithme des points fixes. On doit toujours s’assurer que le
vecteur initial 𝑥Ԧ 0 appartient au bassin d’attraction du point fixe.
 4.6: Méthodes itératives pour les
13
systèmes linéaires
 Méthode de Jacobi:
▪ La méthode de Jacobi consiste à isoler le coefficient de la

diagonale de chaque ligne du système linéaire 𝐴𝑥Ԧ = 𝑏.

▪ En partant d’une approximation initiale de la solution 𝑥Ԧ 0 =

𝑥10 𝑥20 … 𝑥𝑛0 𝑇 , l’algorithme s’écrit:
𝑛
1
𝑥𝑖𝑘+1 = 𝑏𝑖 − ෍ 𝑎𝑖𝑗 𝑥𝑗𝑘
𝑎𝑖𝑖
𝑗=1,𝑗≠𝑖

▪ Si l’un des coefficients diagonaux est nul, il est possible de permuter

certaines lignes pour éviter cette situation.
 4.6: Méthodes itératives pour les
14
systèmes linéaires
 Méthode de Jacobi:
▪ On peut écrire la matrice 𝐴 sous la forme 𝐴 = 𝐷 + 𝑇𝐼 + 𝑇𝑆 , où 𝐷 est
une matrice diagonale, 𝑇𝐼 est triangulaire inférieure et 𝑇𝑆 est
triangulaire supérieure.

▪ Le système linéaire devient: 𝐷𝑥Ԧ = − 𝑇𝐼 + 𝑇𝑆 𝑥Ԧ + 𝑏.

▪ L’algorithme de la méthode de Jacobi peut alors s’écrire:

𝑥Ԧ 𝑘+1 = 𝑇𝐽 𝑥Ԧ 𝑘 + 𝑐Ԧ𝐽

Avec 𝑇𝐽 = −𝐷 −1 𝑇𝐼 + 𝑇𝑆 et 𝑐Ԧ𝐽 = 𝐷 −1 𝑏
 4.6: Méthodes itératives pour les
15
systèmes linéaires
 Méthode de Jacobi:
▪ La méthode de Jacobi est un cas particulier de la méthode des
points fixes.

▪ La méthode de Jacobi convergera donc si le rayon spectral de 𝑇𝐽

est inférieur à 1.

▪ Si la matrice 𝐴 est à diagonale strictement dominante, la

convergence de la méthode de Jacobi est garantie.
 4.6: Méthodes itératives pour les
16
systèmes linéaires
 Méthode de Gauss-Seidel:

▪ C’est une variante de la méthode de Jacobi.

▪ Lorsqu’on veut calculer le terme 𝑥𝑖𝑘+1 , les termes

𝑘+1
𝑥1𝑘+1 , 𝑥2𝑘+1 , … , 𝑥𝑖−1 sont déjà calculés et fournissent une meilleure
approximation que 𝑥1𝑘 , 𝑥2𝑘 , … , 𝑥𝑖−1
𝑘
.

▪ L’algorithme de Gauss-Seidel s’écrit alors:

𝑖−1 𝑛
1
𝑥𝑖𝑘+1 = 𝑏𝑖 − ෍ 𝑎𝑖𝑗 𝑥𝑗𝑘+1 − ෍ 𝑎𝑖𝑗 𝑥𝑗𝑘
𝑎𝑖𝑖
𝑗=1 𝑗=𝑖+1
 4.6: Méthodes itératives pour les
17
systèmes linéaires
 Méthode de Gauss-Seidel:

▪ Sous forme matricielle:

𝑥Ԧ 𝑘+1 = − 𝑇𝐼 + 𝐷 −1
𝑇𝑆 𝑥Ԧ 𝑘 + − 𝑇𝐼 + 𝐷 −1
𝑏
= 𝑇𝐺𝑆 𝑥Ԧ 𝑘 + 𝑐Ԧ𝐺𝑆

▪ Si 𝐴 est une matrice à diagonale strictement dominante, le rayon

spectral de 𝑇𝐺𝑆 est inférieur à 1 et la méthode de Gauss-Seidel
converge quel que soit 𝑥Ԧ 0 .