Académique Documents
Professionnel Documents
Culture Documents
Chapitre 3
Ift2421 1 Chapitre 3
Introduction
Description:
U=R.I
Loi de Kirchhoff:
Ift2421 2 Chapitre 3
Exemples de situations nécessitant
la résolution d’un système d’équations linéaires.
• Élasticité
• Transfert de chaleur
Ift 2450
Ift2421 3 Chapitre 3
Notation : 10 Rappels sur les matrices :
Ift2421 4 Chapitre 3
Méthode de Cramer
Ordre de la méthode:
O(n!)
n > 20
⇔
5 fois la vie de l'univers.
Ift2421 5 Chapitre 3
Système triangulaire :
• Inférieur
0
Substitution Avant
• Supérieur
0
Substitution Arrière
0
Résoudre le système :
3 − 1 2 x1 12
0 7 7 x =
2 21
0 0 − 21 x3 − 42
et le système : Matrice augmentée :
3 0 0 x1 − 3 3 0 0 −3
− 1 7 0 x =
2 22 − 1 7 0 22
2 7 − 21 x 3 − 19 2 7 − 21 − 19
Ift2421 6 Chapitre 3
Systèmes équivalents Opérations élémentaires sur
les lignes d’une matrice
2 systèmes sont équivalents
⇔ 1. Multiplication d’une
Ils peuvent être obtenus l’un rangée par une constante
à partir de l’autre avec
uniquement des opérations 2. Les équations peuvent être
élémentaires. permutées.
3 − 1 2 x1 12 6 − 2 4 x1 24
1 2 3 x2 = 11 2 − 2 − 1 x2 = 2
2 − 2 − 1 x3 2 3 0 2 x3 13
Ift2421 7 Chapitre 3
Élimination de Gauss
2 étapes :
Ift2421 8 Chapitre 3
Remarques sur la méthode de Gauss
Ift2421 9 Chapitre 3
Pivotage
Raisons du pivotage
Ift2421 10 Chapitre 3
Pivotage Complet
Attention :
4 1 − 32 x1 4 1 − 32 3
0 4 3 x = 0 x
2 1 2 + 4 x + 3 =
3 1
x
6 3 7 x 3 6 3 7 2
Ift2421 11 Chapitre 3
Pivotage (autre exemple)
Ift2421 12 Chapitre 3
Normalisation partielle
(Scaling)
Exemple : Remarques :
3 2 100 x1 105
1. Peut détruire la
− 1 3 100 x 2 = 102 symétrie.
1 2 − 1 x3 2
Sans normalisation 2. Surcroît de calcul :
(b=10, s = 3) à employer seulement
x1 = 1.00, x2 = 1.09, x3 = 0.94 dans les cas difficiles.
Ift2421 13 Chapitre 3
Plusieurs membres de droite
3 − 1 2 x1 12 3 − 1 2 y1 14
1 2 3 2
x = 11 et 1 2 3 y2 = 14
2 − 2 − 1 x3 2 2 − 2 − 1 y3 2
3 − 1 2 12 14 Problème
1 2 3 11 14 Si on veut résoudre le
2 − 2 − 1 2 2
système pour un nouveau
membre de droite plus tard.
Réduction de cette matrice
3 − 1 2 12 14 On trouve :
7 7 7 28 x1 = 3, x2 = 1, x3 = 2
0 3 3 3 et
0 0 − 1 − 2 − 2
y1 = 4, y2 = 2, y3 = 2
Ift2421 14 Chapitre 3
Méthode de factorisation triangulaire
(décomposition LU)
A x=b
0
0
A=
0
Poser y = U . x
A.x=L.U.x=b
1. Résoudre L . y = b par
où L et U sont simples substitution avant.
2. Résoudre U . x = y par
substitution arrière.
Ift2421 15 Chapitre 3
Factorisation LU
Ift2421 16 Chapitre 3
1. Calcul de Li1 et U1j :
L11 = a11
L21 = a21
L31 = a31
a12
U 12 =
L11
a12
U 13 =
L11
a 23 − L21U 13
U 23 =
L22
3. Calcul de L33 :
Ift2421 17 Chapitre 3
Exemple Factoriser la matrice
2 − 1 − 1
A = 0 − 4 2
6 − 3 0
L11 = 2 1 1
L33 = 0 − 6 * ( − ) − 0 * ( − ) = 3
2 2
L21 = 0
on trouve :
L31 = 6
2 0 0
−1 −1
U 12 = U 13 = L = 0 − 4 0
2 2
6 0 3
2. Calcul de Li2 et U2j :
1 − 1 − 12
L22 = -4 - 0*(-1/2)= -4 2
U = 0 1 1
− 2
L32 = -3 - 6*(-1/2)= 0
0 0 1
1
2 − 0 *( − )
U 23 = 2 =−1
−4 2
Ift2421 18 Chapitre 3
Exemple: résoudre le système
2 − 1 − 1 x1 0
A x = b ⇔ 0 − 4 2 ⋅ x 2 = − 2
6 − 3 0 x3 3
or A = L.U
2 0 0 1 − 1 − 12
2
L = 0 − 4 0 U = 0 1 1
− 2
6 0 3
0 0 1
y1 = 0
y2 = ½
y3 = 1
x3 = 1
x2 = 1
x3 = 1
Ift2421 19 Chapitre 3
Formules générales de factorisation
d’une matrice d’ordre N
sous la forme L.U
j −1
Lij = aij − ∑ Lik U kj j≤i i = 1, 2, 3, ..., N
k =1
1 i −1
U ij = aij − ∑ Lik U kj i≤j j = 1, 2, 3, ..., N
Lii k =1
Ift2421 20 Chapitre 3
Stockage compact
2 − 1 − 1
A = 0 − 4 2
6 − 3 0
2 0 0 1 − 1 2 − 1 2
1
A = L ⋅ U = 0 − 4 0 ⋅ 0 1 − 2
6 0 3 0 0 1
2 − 1 − 12
2
1
A = L.U = 0 − 4 − 2
6 0 3
Ift2421 21 Chapitre 3
Avantages
2. Peu de mémoire.
Inconvénients
Ift2421 22 Chapitre 3
Algorithme de la méthode de décomposition LU
U[j,j] = 1 ;
Ift2421 23 Chapitre 3
Factorisation triangulaire
avec pivotage
2. Pivotage
Immédiatement
après calcul d’une colonne de L.
Remarque :
Ift2421 24 Chapitre 3
Exemple :
Ift2421 25 Chapitre 3
Exemple (suite)
Soit le système :
0 2 1 x1 1
A x = b ⇔ 1 0 0 ⋅ x 2 = 1
3 0 1 x 3 2
Remarque
Lors du premier pivot
0 0 1 0 2 1 3 0 1
0 1 0 ⋅
1 0 0 =
1 0 0
1 0 0 3 0 1 0 2 1
Au début, P = I.
à chaque permutation de Li et Lj dans la matrice compacte,
permuter Ci et Cj dans P.
Ift2421 26 Chapitre 3
Systèmes linéaires rectangulaires
1. Équations supplémentaires
redondantes: infinité de solutions.
système NxN déguisé
5 5
4 4
3 3
2 2
1 1
-1 1 2 3 -1 1 2 3
-1 -1
2. Équations supplémentaires
inconsistantes: pas de
solution.
5
-1 1 2 3
-1
Exemple 1: Exemple 2:
2 x1 + x2 = 4 2 x1 + x2 = 4
x1 - 2 x2 = -3 x1 - 2 x2 = -3
4 x1 - 3 x2 = -2 -3 x1 + 2 x2 = 3
Ift2421 27 Chapitre 3
Méthode des moindres carrés
pour les systèmes surdéterminés
Système surdéterminé
Ax=b
peut ne pas avoir de solution.
Il suffit de résoudre
ATA x0 = AT b
si AT A inversible, 1 solution unique.
Minimiser la distance de r à 0,
minimisons ici
Dérivées :
dF
= 2( AT Ax − AT b)
dx
Au minimum, x = x0,
dérivée = 0.
donc A T Ax0 = A T b
Ift2421 28 Chapitre 3
Utilisons la méthode ATA x0 = AT b
Exemple 1: Exemple 2:
2 x1 + x2 = 4 y1 + y2 = 2
x1 - 2 x2 = -3 2 y1 + y2 = 3
-3 x1 + 2 x2 = 3 3 y1 + 2 y2 = 5
5 5
d1
d3
4 d2 4
3 d3 3
d2
d1
2 2
1 1
2 3 2 3
-1 -1
Ift2421 29 Chapitre 3
Systèmes singuliers et non singuliers
pour des matrices carrées
Exemple : 3 2 2 3
3 2 2 3 0 1 / 3 1/ 3 0
1
1 1 1 0 2 / 3 2 / 3 0
1 0 0 1
0 − 1 / 3 − 1 / 3 0
2 1 1 2
Après le second pivot
On permute les lignes 2 et 3 3 2 2 3
3 2 2 3 0 2 / 3 2 / 3 0
0 2 / 3 2 / 3 0
0 0 0 0
0 1 / 3 1 / 3 0
0 0 0 0
0 − 1 / 3 − 1 / 3 0
Après le premier pivot :
Ift2421 30 Chapitre 3
Rang versus vecteur linéairement indépendants
a1 x1 + a2 x2+ ... + an xn = 0
avec an non tous nuls
Exemple :
C1 C2 C3 C4
R1 3 2 2 3
R2 1 1 1 1
R3 1 0 0 1
R4 2 1 1 2
Dans ce cas,
pour les lignes
R3 = R1 - 2 R2
R4 = R1 - R2
et
pour les colonnes
C3 = C2
C4 = C1
donc le rang est 2.
Ift2421 31 Chapitre 3
Déterminant d'une matrice carrée
Exemple :
2 − 1 − 1
A = 0 − 4 2
6 − 3 0
Les cofacteurs de la Le déterminant de A est donc
première ligne sont :
−4 2 |A| = a11 cof11(A) + a12 cof12(A)
cof 11 ( A) = + =6 + a13 cof13(A)
−3 0
= 2 cof11(A) + (-1) cof12(A)
+ (-1) cof13(A)
0 2 = 2 (6) + (-1)(12) + (-1)(24) = -24
cof 12 ( A) = − = 12
6 0
Note : N’importe quelle ligne ou
0 −4 colonne peut être utilisée pour
cof 13 ( A) = + = 24 développer le déterminant.
6 −3
Ift2421 32 Chapitre 3
Propriétés des déterminants
|AB|=|A||B|
| AT | = | A |
L = ∏ Lii
i
2 0 0 1 − 1 / 2 − 1 / 2
A = 0 − 4 0 ⋅ 0 1 − 1 / 2
6 − 3 3 0 0 1
donc
Ift2421 33 Chapitre 3
Effet sur le déterminant
des opérations élémentaires de lignes
| A’ | = k | A |
Le déterminant est aussi multiplié par k.
| A’ | = - | A |
Le déterminant change de signe à chaque permutation.
| A’ | = | A |
Le déterminant reste inchangé.
Ift2421 34 Chapitre 3
Calcul du déterminant après
factorisation triangulaire
avec pivotage:
Exemple :
1. Multiplier les pivots
Calcul du
2. Faire un changement de signe à déterminant de la
chaque fois qu'on permute deux lignes matrice factorisée
3. Ne pas employer l'opération 1 ci dessous.
Ift2421 35 Chapitre 3
Inversion de matrices carrées
A-1 A = A A-1 = I
Exemple : Remarque :
Pour la factorisation, utiliser
Calculer l’inverse de la propriété suivante :
0 2 1
( A.B )-1 = B-1 . A-1
1 0 0
3 0 1 appliqué à la décomposition
A=L.U
1. Par élimination de gauss
ou Gauss-Jordan. on en déduit
A-1 = U-1 . L-1
2. Par factorisation
triangulaire. U-1 et L-1 se trouve
rapidement par substitution
avant et arrière.
Ift2421 36 Chapitre 3
Résolution de systèmes
linéaires par l'inverse
Si on veut résoudre
Ax=b
on multiplie de chaque côté
par l'inverse A-1
A-1 A x = A-1 b
=>x = A-1 b
Ift2421 37 Chapitre 3
Propriétés équivalentes
d'une matrice non singulière
5. Rang(A) = N.
8. dét(A) ≠ 0.
Ift2421 38 Chapitre 3
Norme d'un vecteur
La norme d’un vecteur v est
nombre réel noté || v || tel que:
1. || v || ≥ 0
2. || v || ≥ 0 et || v || = 0 ⇔ v = 0
3. || k v || = |k| || v ||
pour tout scalaire k et tout vecteur v
4. || v + w || ≤ || v || + || w ||
pour tous vecteurs v et w
5. || v . w || ≤ || v || . || w ||
pour tous vecteurs v et w
= (∑ vi )
p
v p x=( 1.25, 0.02,-5.15, 0)
p
i =1 x 1 = 6.42
n
Ainsi v 1 = ∑ vi x = 52996
.
i =1 2
v ∞ = max vi x ∞
= 515
.
1≤i ≤ n
n
v2= ∑v
i =1
i
2
= v e
Ift2421 39 Chapitre 3
Norme d'une Matrice
|| A || avec
1. || A || ≥ 0
2. || A || ≥ 0 et || A|| = 0 ⇔ A= 0
3. || k A || = | k | || A ||
pour tout scalaire k et toute matrice A.
4. || A + B || ≤ ||A|| + ||B||
pour toutes matrices A et B
5. || A B || ≤ ||A|| ||B||
pour toutes matrices A et B
Théorème:
Ift2421 40 Chapitre 3
Pour une matrice A d’ordre n, les normes 1 et infinie
sont de la forme :
n
A = max ∑ Aij
1 1≤ j ≤ n
i =1
n
A ∞
= max ∑ Aij
1≤i ≤ n
j =1
La norme matricielle 2, A 2 ,
associée à la norme vectorielle 2
n'est pas facile à calculer
car elle dépend des valeurs propres de la matrice A.
n n 1
= ( ∑ ∑ Aij )
2
2
A e
j =1 i =1
Ift2421 41 Chapitre 3
Démonstration:
n
A ∞
= max ∑ Aij
1≤i≤ n
j =1
1.
Soit x un vecteur colonne de n éléments tel que
x ∞ = max xi = 1
1≤i≤ n
or x ∞ =1
n
A ∞ = Ax ∞ ≤ max ∑ aij
1≤i ≤ n
j =1
2.
Si p est un entier, 1 ≤ p ≤ n, tel que
n n
∑a
j =1
pj = max ∑ aij
1≤i ≤ n j =1
Ift2421 42 Chapitre 3
Choisissons x tel que:
1, si a pj ≥ o
xj =
− 1, si a pj ≤ o
x ∞ = 1 et a pj x j = a pj pour j = 1, 2, ..., n.
n n n n
Ax ∞ = max ∑ aij x j ≥ ∑a pj x j = ∑ a pj = max ∑ aij
1≤i ≤ n j =1 j =1 j =1 1≤i ≤n j =1
on a donc
n
A ∞ = max Ax ∞ ≥ max ∑ aij
x ∞ =1 1≤i ≤ n
j =1
3.
les résultats de 1 et 2 donnent:
n
A ∞ = max ∑ aij
1≤i ≤ n
j =1
Ift2421 43 Chapitre 3
Une illustration, pour n = 2, des normes infinie et 2 est:
Ift2421 44 Chapitre 3
Exemple :
5 − 5 − 7
A = − 4 2 − 4
− 7 − 4 5
A 1
= 16
A e
= 15
A ∞
= 17
A 2
= 12.03
Remarque
Ift2421 45 Chapitre 3
Compatibilité des normes:
n n 1
= ( ∑ ∑ Aij )
2
2
A e
j =1 i =1
n
A = max ∑ Aij
1 1≤ j ≤ n
i =1
n
A ∞
= max ∑ Aij
1≤i ≤ n
j =1
Ift2421 46 Chapitre 3
Remarques sur les normes
|| A || ≤ || I A || ≤ || I || || A ||
donc || I || ≥ 1.
1 ≤ || A A-1 || ≤ || A || || A-1 ||
donc
1
A −1 ≥
A
Ift2421 47 Chapitre 3
Conditionnement
Conséquence:
erreurs d'arrondi
dues à des soustractions
entre nombres quasi égaux.
2 x1 + 3 x2 = 5
2.5
d1
On dit que la matrice 2
d2
1.5
21 .
. 31
2 3 1
0.5
-0.5
Ift2421 48 Chapitre 3
Nombre de condition
Notation
Exemple précédent
2.1 31
.
A=
2 3
−1
30 − 31
A =
− 20 21
Ift2421 49 Chapitre 3
Théorèmes relatifs au conditionnement
nombre de conditionnement.
Théorème no.1 :
x* = approximation de x
résidu r = b - A x*
alors:
1 r x* − x r
≤ ≤ cond ( A)
cond ( A) b x b
Signification:
Si cond(A) est petit, r mesure bien la précision relative de x .
Ift2421 50 Chapitre 3
Corollaire au théorème 1 :
b* = approximation de b
x* = solution de A x* = b*
alors :
1 b* − b x* − x b* − b
≤ ≤ cond ( A)
cond ( A) b x b
Signification:
Le conditionnement amplifie l'effet des erreurs dans b.
Théorème no.2:
A* = approximation de A
x* = solution de A* x* = b
alors :
x* − x A* − A
≤ cond ( A)
x∗ A
Signification:
Le conditionnement amplifie l'effet des erreurs dans A.
Ift2421 51 Chapitre 3
Démonstration théorème 1 :
r = b - A x* = A x - A x* = A ( x - x* ) = A e
donc e = A-1 r
|| e || ≤ || A-1 || || r ||
1 r e r
≤ ≤ A A −1
A A −1 b x b
1 r x* − x r
≤ ≤ cond ( A)
cond ( A) b x b
Ift2421 52 Chapitre 3
Démonstration théorème 2 :
x - x* = A-1 ( A* - A ) x*
et donc
x* − x A* − A
≤ cond ( A)
x∗ A
Ift2421 53 Chapitre 3
Perturbation sur un système
soit le système
10 7 8 7 u1 32
7 5 6 5 u2 23
⋅ =
8 6 10 9 u3 33
7 5 9 10 u4 31
Il a pour solution :
u1 1
u 1
2 =
u3 1
u4 1
L’inverse de A est :
25 − 41 10 − 6
− 41 68 − 17 10
A −1 =
10 − 17 5 − 3
−6 10 − 3 2
Ift2421 54 Chapitre 3
S’il y a des erreurs sur b :
10 7 7 u1 32.1
8
7 5 6 5 u2 22.9
⋅ =
8 .
6 10 9 u3 331
7 5 9 10 u4 30.9
32.1 32 01 .
22.9 23 − 01
.
b∗ − b = − = = 01
.
∞ 331. 33 01 .
30.9 31 ∞ − 01
.
∞
b∗ − b ∞ 01
.
= = 0.00303
b ∞ 33
u∗ − u ∞ 13.6
= = 13.6
u ∞ 1
1 b* − b x* − x b* − b
≤ ≤ cond ( A)
cond ( A) b x b
Ift2421 55 Chapitre 3
S’il y a des erreurs sur A :
10 7 81
. 7.2 u1 32
7 5.01 6 5.02 u 23
⋅ 2 =
8 6 10 9 u 3 33
6.99 4.99 9.1 10 u 4 31
10 7 81
. 7.2 10 7 8 7
7 5.01 6 5.02 7 5 6 5
A∗ − A = −
∞ 8 6 10 9 8 6 10 9
6.99 4.99 9.1 10 7 5 9 10
∞
0 . 0.2
0 01
0 .01 0 .02
= = 0.3
0 0 0 0
−.01 −.01 01
. 0
∞
7.02 03
≤ 4488 = 40.8
8.02 33
x* − x A* − A
∗
≤ cond ( A)
x A
Ift2421 56 Chapitre 3
Amélioration itérative.
Solution approchée x* = x
pour le problème A x = b.
Cond(A) raisonnable.
Ift2421 57 Chapitre 3
Méthodes itératives
1. Jacobi :
Soit le système
8 x1 + x2 − x 3 = 8
2 x1 + x 2 + 9 x3 = 12
x1 − 7 x 2 + 2 x3 = −4
xn+1 = G xn = b’- B x n
Point fixe
Où x et x sont les n et (n+1)ième itérés du vecteur x.
n+1 n ième
Ift2421 58 Chapitre 3
Considérons la notation matricielle du système
8 1 − 1 x1 8
A⋅ x = b ⇔ 1 − 7 2 ⋅ x 2 = − 4
2 1 9 x3 12
Posons A = L + D + U
0 0 0 8 0 0 0 1 − 1
L = 1 0 0, D = 0 − 7 0,U = 0 0 2
2 1 0 0 0 9 0 0 9
Ax=(L+D+U)x=b
⇔
Dx=-(L+U)x+b
x = - D-1 ( L + U ) x + D-1 b
xn+1 = G( xn )
Exemple (suite)
Ift2421 59 Chapitre 3
La Méthode que nous venons de décrire est la méthode de
Jacobi, ou méthode des déplacements simultanés.
N a
bi
( n +1)
= − ∑ x (jn ) n = 1,2,K
ij
x i
aii j =1 aii
j ≠i
N
aii > ∑ aij i = 1,2,K, N
j =1
j ≠i
Ift2421 60 Chapitre 3
2.Gauss-Seidel :
Ax=(L+D+U)x=b
( L + D) x = - U x + b
Exemple :
x1( n+1) = 1000
. − 0125
. x 2( n ) + 0.125 x3( n )
x2( n+1) = 0.571 + 0.143x1( n+1) + 0.286 x3( n )
x3( n+1) = 1333
. − 0.222 x1( n+1) − 0111
. x 2( n+1)
Ift2421 61 Chapitre 3
Algorithme de la méthode de Gauss-Seidel
N
aii > ∑ aij i = 1,2,K, N
j =1
j ≠i
Ift2421 62 Chapitre 3
2.Relaxation :
i −1 N
w
x ( n +1)
i = x + (bi − ∑ aij x j − ∑ aij x (j n ) )
i
k ( n +1)
n = 1,2,K
aii j =1 j =i
Note :
Exemple :
Étude de la convergence pour différentes valeurs de w avec le
système :
− 4 1 1 1 1
1 −4 1 1 1
⋅ x =
1 1 −4 1 1
1 1 1 − 4 1
La solution est x = ( -1, -1, -1, -1)T.
x(1) = (0,0,0,0)T.
w 1.0 1.1 1.2 1.3 1.4 1.5 1.6 1.7 1.8 1.9
nb 25 18 13 11 14 18 24 35 55 100
Ift2421 63 Chapitre 3
Ift 2421
Chapitre 3
Ift2421 64 Chapitre 3
Exemple de système non linéaire
(-1.8,0.8)
x2 + y2 = 4
1
ex + y =1 -2 -1 1 2
-1
(1,-1.7)
-2
Méthodes de résolution:
x(n+1) = G ( x(n) )
avec G: Rn → Rn
Ift2421 65 Chapitre 3
Méthode du point fixe à plusieurs variables
Exemple :
x 2 + y 2 = 4 x − 4 − y 2 G1 ( x , y )
x ⇒ = =
e + y = 1 1 − e G2 ( x , y )
y x
2.Convergence si :
∂ G1 ∂ G2 ∂ G1 ∂ G2
+ < 1 et + <1
∂ x ∂ x ∂ y ∂ y
Ift2421 66 Chapitre 3
Méthode de Newton à plusieurs variables
a.
1.F(x) = 0
2.Calcul de
∂ F1 ∂ F1
∂x ∂ y − 2 x − 2 y
F ′ = ∂ F
∂ F2 = − e x
2 − 1
∂ x ∂ y
x ( n+1) = x ( n) − [ F ′( x ( n) )] F ( x ( n) )
−1
− 01353
. . − 1
− 0.1708 − 18292
.
[ F ′( x )] F ( x ) = 01584
( 0 ) −1 ( 0)
et x ( 1)
= 0.8416
.
Ift2421 67 Chapitre 3
b. Méthode de différences finies pour évaluer la différentielle
∂ Gi
≈ [Gi ( x + δ x , y ) − Gi ( x , y )]
1
∂ x δx
et
∂ Gi
≈
1
∂ y δy i
[
G ( x , y + δ y ) − Gi ( x , y ) ]
3. Les itérés se font comme dans la méthode de Newton
à plusieurs variables.
Note :
Ift2421 68 Chapitre 3