Académique Documents
Professionnel Documents
Culture Documents
Résumé - Ce document passe en revue les idées fondamentales de l'algèbre B. Opérations matricielles
linéaire. Nous apprendrons à connaître les matrices, les opérations matricielles,
les transformations linéaires et nous discuterons des aspects théoriques et
Nous désignons par A la matrice dans son ensemble et nous nous
informatiques de l'algèbre linéaire. Les outils de l'algèbre linéaire ouvrent la référons à ses entrées comme aij . Les opérations mathématiques définies
voie à l'étude de mathématiques plus avancées. De nombreuses connaissances pour les matrices sont les suivantes :
vous attendent si vous choisissez de suivre la voie de la compréhension, au lieu
d'essayer de mémoriser un tas de formules. • ajout (noté +)
C=A+B ⇔ cij = aij + bij .
I. INTRODUCTION
• la soustraction (l'inverse de l'addition)
L'algèbre linéaire est la mathématique des vecteurs et des matrices. Soit
n un entier positif et R l'ensemble des nombres réels, alors Rn est • produit matriciel. Le produit de matrices A ∈ Rm×n et B ∈ Rn×Æ
l'ensemble de tous les n-tuples de nombres réels. Un vecteur →v Rn est un est une autre matrice C ∈ Rm×Æ donnée par la formule
∈ n
n-uplet de nombres
∈ réels. La notation "S" se lit "élément de S". Par X
exemple, considérons un vecteur qui a trois composantes : C = AB ⇔ cij = a bikkj ,
k=1
étant donné f (x) et que vous voulez trouver x, vous pouvez utiliser la
y3 a31 a32
2a113 2a12 a31x1 + a32x2
D. Transformations linéaires
Le produit matrice-vecteur est utilisé pour définir la notion de
transformation linéaire, qui est l'une des notions clés dans l'étude de la
théorie linéaire.
l'algèbre. La multiplication par une matrice A ∈ Rm×n peut être considérée
comme suit
→v sont orthogonales si l'angle entre elles est de 90◦ . Le produit en points de le calcul d'une transformation linéaire TA qui prend n vecteurs comme
vecteurs orthogonaux est nulle : →u - →v = →u →v cos(90 ) = 0.◦ entrées et
La norme du produit en croix est donnée par →u × →v = →u →v sin θ. Le produit des m-vecteurs en sortie :
produit en croix n'est pas commutatif : →u × →v /= →v × →u, en fait →u × →v = - → v Rn
×→u. TA : → Rm.
2
1Un bon manuel pour (ré)apprendre les mathématiques au lycée est Pour plus d'informations, voir la vidéo de la conférence du professeur Strang au
minireference.com MIT : bit.ly/10vmKcL
1
2
Au lieu d'écrire →y = T A (→x) pour la transformation linéaire TA III. L'ALGÈBRE LINÉAIRE COMPUTATIONNELLE
appliquée au vecteur → x , on écrit simplement →y = A → x . D'accord, j'entends ce que vous dites : "Mec, ça suffit avec la théorie,
L ' application de la transformation linéaire TA au vecteur → x correspond voyons quelques calculs". Dans cette section, nous allons étudier l'un des
au produit de la matrice A et de la matrice algorithmes fondamentaux de l'algèbre linéaire, l'élimination de Gauss-
vecteur colonne → x . On dit que TA est représenté par la matrice A. Jordan.
Vous pouvez considérer les transformations linéaires comme des
"fonctions vectorielles" et décrire leurs propriétés par analogie avec les A. Résolution de systèmes d'équations
fonctions ordinaires que vous connaissez :
Supposons que l'on nous demande de résoudre le système d'équations
suivant :
fonction f : R → R ⇔ transformation linéaire TA : Rn →
Rm n 1x1 + 2x2 = 5,
entrée x ∈ R ⇔ entrée (1)
x f∈(x)
sortie
→ R ⇔ sortie T A (→x) = A → x
m 3x1 + 9x2 = 21.
Sans connaissances en algèbre linéaire, nous pourrions utiliser la substitution,
g ◦ ∈f R
= g(f (x)) ⇔ TB ( T A (→x)) = BA→x
l'élimination ou la soustraction pour trouver les valeurs des deux inconnues x1
fonction inverse f−1 ⇔ matrice inverse A−1 et x2.
zéros de f ⇔ N (A) ≡ espace nul de A L'élimination de Gauss-Jordan est une procédure systématique pour
résoudre les systèmes
domaine de f ⇔ C(A) ≡ espace colonne de A =
d'équations basées sur les opérations de ligne suivantes :
domaine de TA α) Ajout d'un multiple d'une ligne à une autre ligne
On notera que l'effet combiné de l'application de la transformation TA
β) Permutation de deux lignes
suivie de TB sur le vecteur d'entrée → x est équivalent au produit
γ) Multiplication d'une ligne par une constante
matriciel BA→x.
Ces opérations sur les lignes permettent de simplifier le système d'équations
sans en modifier la solution.
E. Espaces vectoriels fondamentaux Pour illustrer la procédure d'élimination de Gauss-Jordan, nous allons
Un espace vectoriel est constitué d'un ensemble de vecteurs et de toutes maintenant montrer la séquence d'opérations sur les lignes nécessaires pour
les combinaisons linéaires de ces vecteurs. S Par {exemple, } l'espace résoudre le système d'équations linéaires décrit ci-dessus. Nous
vectoriel = span →v1, →v2 est constitué de tous les vecteurs de la forme →v commençons par construire une " matrice augmentée
- comme suit :
= α→v1 + β→v2, où α et β sont des nombres réels. Nous définissons maintenant 1 2 5
trois espaces vectoriels fondamentaux associés à une matrice A. .
3 9 21
L'espace des colonnes d'une matrice A est l'ensemble des vecteurs qui
La première colonne de la matrice augmentée correspond aux coefficients
peuvent être produits comme combinaisons linéaires des colonnes de la
de la variable x1, la deuxième colonne correspond aux coefficients de x2 et
matrice A : la troisième colonne contient les constantes du côté droit.
m n
C(A) ≡ { → y ∈ R | →y = A→x pour un certain → x ∈ R } . La procédure d'élimination de Gauss-Jordan se compose de deux phases.
Au cours de la première phase, nous procédons de gauche à droite en
L'espace des colonnes est le domaine de la transformation linéaire TA choisissant une ligne avec un premier chiffre dans la colonne la plus à
(l'ensemble des sorties possibles). Vous pouvez vous convaincre de ce fait gauche (appelée pivot) et en soustrayant systématiquement cette ligne de
en revoyant la définition du produit matrice-vecteur dans l'image des toutes les lignes situées en dessous pour obtenir des zéros en dessous dans
colonnes (C). Le vecteur A → x contient x1 fois la colonne 1st de A, x2 fois toute la colonne. Dans la deuxième phase, nous commençons par le pivot le
la colonne 2nd de A, etc. En variant toutes les entrées possibles → x , nous plus à droite et l'utilisons pour éliminer tous les nombres situés au-dessus
obtenons toutes les combinaisons linéaires possibles des colonnes de A, de lui dans la même colonne. Voyons cela en action.
d'où le nom d'"espace des colonnes". 1) La première étape consiste à utiliser le pivot de la première colonne
L'espace nul (A)
N d'une matrice A∈R
m×n est constitué de tous les
pour éliminer la variable x1 de la deuxième ligne. Pour ce faire, nous
vecteurs que la matrice A envoie au vecteur zéro : soustrayons trois fois la première ligne de la deuxième ligne,
¯ notée R2 ← R2 - 3R1, " -
N (A) ≡ ˘→x ∈ Rn | A→x = →0 . 1 2 5
.
Les vecteurs de l'espace nul sont orthogonaux à toutes les lignes de la 0 3 6
matrice. Nous pouvons le voir dans l'image de la ligne (R) : le vecteur de
sortie est →0 si et seulement si le vecteur d'entrée → x est orthogonal à 2) Ensuite, nous créons un pivot dans la deuxième ligne en
3 utilisant R2
" -
toutes les lignes de A. ←1 R2 :
L'espace des lignes d'une matrice A, noté R (A), est l'ensemble des 1 2 5
.
combinaisons linéaires des lignes de A. L'espace R des lignes (A) est le 01 2
complément orthogonal de l'espace N nul (A). Cela signifie que pour tous les
vecteurs 3) Nous entamons maintenant la phase inverse et éliminons la deuxième
variable de la première ligne. Pour ce faire, nous soustrayons deux
→v∈(A R ) et tous les vecteurs w→∈ N (A), on a →v w→ =- 0. Ensemble, les
L'espace nul et l'espace des lignes forment le domaine de la transformation fois la deuxième ligne de la première R1 ← R1 - 2R2 :
TA, " 10 1 -
.
Rn = N (A) ⊕ R(A), où ⊕ signifie somme directe orthogonale. 01 2
La matrice est maintenant sous forme d'échelon de rangée réduit
F. Matrice inverse (RREF), qui est la forme la plus "simple" qu'elle puisse avoir. Les
solutions sont : x1 = 1, x2 = 2.
Par définition, la matrice inverse A−1 annule les effets de la matrice A.
L'effet cumulé de l'application de A−1 après A est la matrice identité 1 :
B. Systèmes d'équations sous forme d'équations matricielles
03 Nous allons maintenant aborder une autre approche pour résoudre le
21
. système d'équations. En utilisant la définition du produit matrice-vecteur,
A−1 A=1≡4 .. 5.
nous pouvons exprimer ce système d'équations (1) sous la forme d'une
équation matricielle : " -"- " -
0 1
La matrice identité (des uns sur la diagonale et des zéros partout ailleurs)
3
correspond à la transformation d'identité : T 1 (→x) = 1 → x = → x , 12 x1 5
pour tout → x . = .
39 x2 21
L'inverse de la matrice est utile pour résoudre les équations matricielles.
Chaque fois que nous Cette équation matricielle se présente sous la forme A → x =×→b, où A est
veut se débarrasser de la matrice A dans une équation matricielle, nous une matrice , →x est le
pouvons "frapper" A vecteur des inconnues et →b est un vecteur de constantes. Nous pouvons
résoudre
avec son inverse A−1 pour le faire disparaître. Par exemple, pour résoudre → x en multipliant les deux côtés de l'équation par l'inverse de la matrice
la A−1 :
matrice X dans l'équation XA = B, multipliez les deux côtés de l'équation "x1- "1-
-2- " -
par A−1 à partir de la droite : X = BA−1 . Pour résoudre X dans A -1A→x = = -1 →b= " 3 1
3 5 = .
ABCXD =lesE,deux côtés de l'équation D−1 à droite et par
multiplier A-1
, B-1 1→x = x2 A -1 3 21 2
par
et C−1 (dans cet ordre) à partir de la gauche : X = C B A−1−1−1 ED−1 . Mais comment savons-nous ce qu'est la matrice inverse A−1 ?
4
est de "défaire" Notez que le même vecteur →v correspond à différentes paires de coordonnées
depend-
les effets de A. Le côté droit du tableau × 2 4 est simplement un en fonction de la base utilisée : →v = (vx, vy ) dans la base≡standard
moyen pratique d'enregistrer cette séquence d'opérations et d'obtenir { } Bs
ainsi A−1 . ˆı, ȷˆ , et
→v = (v1, v2) dans la base≡Be{ eˆ1, }eˆ2 . Il est donc important de garder à
B. Utilisation de matrices élémentaires l'esprit la base dans laquelle les coefficients sont pris et, si nécessaire, de
Chaque opération de ligne que nous effectuons sur une matrice est spécifier la base en indice, par exemple (vx , v )yB s ou (v1 , v )2B e .
équivalente à une opération de gauche. La conversion d'un vecteur de coordonnées de la base Be à la base Bs est la
suivante
comme une multiplication par une matrice"vx- "
de changement de base-:"
"→v- ˆı - eˆ1 ˆı - eˆ2 v1-
la multiplication par une matrice élémentaire. Il existe trois types de "→v- " - ⇔ = .
matrices élémentaires = 1
en correspondance avec les trois types d'opérations sur les lignes :
" m- Bs Bs Être Be vy ȷˆ- eˆ1 ȷˆ- eˆ2 v2
1 Notez que le changement de matrice de base est en fait une transformation
Rα : R1 ← R1 + mR2 ⇔ Eα =
0 1 d'identité. La matrice de base
reste inchangé - il est simplement exprimé par rapport à un nouveau vecteur
→v.
est réalisée à l'aide de la matrice inverse : B [1]B
" 1- système de coordonnées. Le changement de base de
Rβ: R ↔
1 R 0 = la [1] )Bs
( base -1 à la base Be
B. B
2 ⇔ E β= e s s e
10
" 0- B. Représentations matricielles des transformations linéaires
m
Rγ : R1 ← mR1 ⇔ Eγ =
0 1 Les bases jouent un rôle important dans la représentation des
Reprenons les opérations sur les lignes que nous avons utilisées pour
→ linéaires T : Rn Rm . Pour décrire complètement la matrice
transformations
trouver A−1 dans la section ci-dessus, en représentant chaque opération sur
qui correspond à une transformation linéaire T , il suffit de connaître les
les lignes comme une multiplication matricielle élémentaire. effets de T sur les n vecteurs de la base standard de l'espace d'entrée. Pour
1) L'opération de la première ligne
← R2- R2 3R1 correspond à une une transformation linéaire
multipli- cation par la matrice élémentaire E1 : T : R2 → R2 , la représentation matricielle correspond à
" 0- " 2- " 2- 2 |3
1 1 1 | 2×2
E1A = -3 13 = 90.3 MT = 4T (ˆı) T (ȷˆ)5 ∈ R .
| |
2) L'opération de la deuxième ligne R2 ←1 R2 correspond à une matrice E2 :
3
E" - 2
(E1A) =
5
C des x. Pour tout vecteur →v = (vx, ), on a Π x (→ v ) = (vx, 0). La
" 0- " 2- 12 o
vy
1 1 . représentation matricielle de Πx est
3
= 01 m
m
e
p
r
e
m
i
e
r
e
x
e
m
p
l
e
,
c
o
n
s
i
d
é
r
o
n
s
l
a
t
r
a
n
s
f
o
r
m
a
t
i
o
n
Π
x
q
u
i
p
r
o
j
e
t
t
e
l
e
s
v
e
c
t
e
u
r
s
s
u
r
l
'
a
x
e
0 03 1
6
3) La dernière étape, R1 ← R1 -
2R2 correspond à la matrice E3 :
, " ""1-" ""0-" -
-2- 2- -
MΠ x = Π 0x Πx
1 = " 10
.
"1 "1 " 0- 0 0
1 .
E3(E2E1A) = = 01
0 1 01 Comme deuxième exemple, trouvons la représentation matricielle Rθ , le
de
Notez que E3E2E1A = 1, donc le produit E3E2E1 doit être égal à A−1 : rotation dans le" sens inverse des aiguilles d'une montre de l'angle θ :
" " " 10- ""1-" -
A-1 = E3E2E1 = 1 -2- 1 0- -2- MR = ""0-" - "cos θ - sin θ
"3 .
1 =
3 .
1 =
1 Rθ
0 10 3 -3 1 -1 3
θ 0 Rθ sin θ cos θ
L'approche des matrices élémentaires nous apprend que toute matrice La première colonne de MR θ montre que Rθ fait correspondre le
inversible peut être décomposée comme le produit de matrices vecteur ˆı 1∠0 au vecteur 1�θ = (cos θ, sin θ)T . La deuxième colonne
élémentaires. Puisque nous savons que A−1 = E3E2E1 alors
1 2A = 3 (A
montre que Rθ fait correspondre le vecteur ȷˆ= 1∠π au vecteur 1∠(π +
2 2
θ) = (- sin θ, cos θ)T .
)−1−1 = (E3E2E1)−1 = E E E−1−1−1 .
≡
7
matrice forment une base pour l'espace vectoriel V et les nombres F. Déterminants
de lignes non nulles est la dimension de V.
Le déterminant d'une matrice, noté det(A) ou | | A , est une façon
particulière de combiner les entrées d'une matrice qui permet de vérifier si
D. Espace des lignes, espace des colonnes et rang d'une matrice une matrice est inversible ou non. Les formules du déterminant pour les
matrices 2 × 2 et 3 × 3 sont les suivantes
Rappelons les espaces vectoriels fondamentaux pour les matrices que
a12 =
˛ a11a22 - a12a21,
a11
nous avons définis en ˛ et
Section II-E : l'espace des colonnes C(A), l'espace nul N (A) et l'espace des
lignes.
˛a21
espace R(A). Une question standard d'examen d'algèbre linéaire consiste à vous a22˛
donner un ˛˛a31 a32 ˛
une certaine matrice A et vous demander de trouver la dimension et une a11 a33˛ a13
a12 ˛a22 ˛a21 ˛a21 a22˛
base pour chaque matrice. a23 a23
˛ ˛
de ses espaces fondamentaux. ˛a21 a22 a23˛ = a11 a33˛ - a12 a33˛ + a13 ˛.
˛a32 ˛a31 ˛a31 a32
Dans la section précédente, nous avons décrit une procédure basée sur
l'élimination de Gauss-Jordan qui peut être utilisée pour "distiller" un
Si |A| = 0 alors A n'est pas inversible. Si |A| /= 0 alors A est inversible.
ensemble de vecteurs linéairement indépendants qui forment une base
R
pour l'espace des lignes (A). Nous allons maintenant illustrer cette G. Valeurs propres et vecteurs propres
procédure à l'aide d'un exemple et montrer comment utiliser la RREF L'ensemble des vecteurs propres d'une matrice est un ensemble particulier
de la matrice A pour trouver des bases pour C(A) et N (A). de vecteurs d'entrée pour lesquels l'action de la matrice est décrite comme
Considérons la matrice suivante et sa forme réduite en échelon de rangée une simple mise à l'échelle. Lorsque
:
21 3 33 03 une matrice est multipliée par l'un de ses vecteurs propres le résultat est le
3 21 3 0 même
vecteur propre multiplié par une constante A → e λ = λ→e λ . La constante λ
est appelée
A = 42 6 76 5 rref(A) = 40 0 1 05 . une valeur propre de A.
3 9 9 10 0 0 0 1
Pour trouver les valeurs propres d'une matrice, nous partons de l'équation
La forme réduite de l'échelon de rangée de la matrice A contient trois Ades λ = λ→e
→ evaleurs λ , insérer l'identité 1, et réécrire le problème comme un
propres
pivots. L'emplacement des pivots jouera un rôle important dans les problème d'espace nul :
étapes suivantes.
A→e λ = λ1→eλ ⇒ (A - λ1) → e λ = →0.
Les vecteurs {(1, 3, 0, 0), (0, 0, 1, 0), (0, 0, 0, 1)} forment une base pour Cette équation aura une solution lorsque |A-λ | = 0. Les valeurs propres
R(A).
Pour trouver une base pour l'espace des C colonnes (A) de la matrice rref(A). Les colonnes correspondantes de la matrice originale forment une
A, nous devons déterminer lesquelles des colonnes de A sont base pour l'espace des colonnes de A. En regardant rref(A), nous voyons que
linéairement indépendantes. Nous pouvons le faire en identifiant les les première, troisième et quatrième colonnes de la matrice sont linéairement
colonnes qui contiennent les premiers dans indépendantes, de sorte que les vecteurs
8
{(1, 2, 3)T, (3, 7, 9)T, (3, 6, 10)T} forment une base pour C(A). 1
de A∈Rn×n , notées {λ1, λ2, . . . λn }, sont les racines du polynôme
caractéristique p(λ) |= A - λ1 | . Les vecteurs propres associés à la
valeur propre λi sont les vecteurs de l'espace nul de la matrice - (A
λi1).
Certaines matrices peuvent être écrites entièrement en termes de leurs
vecteurs propres
et leurs valeurs propres. Considérons la matrice Λ qui a les valeurs
propres de la matrice A sur la diagonale, et la matrice Q construite à
partir des valeurs propres de la matrice A sur la diagonale, et la matrice
Q construite à partir des valeurs propres de la matrice A sur la
diagonale.
les vecteurs propres de A
Trouvons maintenant une base pour l'espace N ≡ { ∈ (A) | → x}
nul,
R4 A→x = →0 . La comme colonnes : 2
˛ |3
0 0
64
3
2 3 2x 23
401 3 0 1 0 0 6 17 = 405
05 0 ⇒ 1x1 +1x3s = 0= 0 Les matrices qui peuvent être écrites de cette manière sont dites
s 3
0 0 0 1 4 x3
5 0 La décomposition d'une matrice en ses valeurs propres et ses vecteurs
diagonalisables.
1x4 =0 propres donne des indications précieuses sur les propriétés de la matrice.
x4
Exprimons les inconnues x , x , et x en termes de la variable libre s. L'algorithme PageRank original de Google, qui permet de classer les
pages web en fonction de leur "importance", peut être décomposé comme
suit
1 3 4
formalisée comme un calcul de vecteur propre sur la matrice des hyperliens
On voit immédiatement que x3 = 0 et x4 = 0, et on peut écrire x1 = -
web.
3s. Par conséquent, tout vecteur de la forme (-3s, s, 0, 0), pour tout s
∈ R, est dans l'espace nul de A. On écrit N (A) = span{(-3, 1, 0, 0)T VI. PLUG DU TEXTBOOK
}.
Observez que dim( (A)) Si vous souhaitez en savoir plus sur l'algèbre linéaire, vous pouvez
C = dim( (A)) R = 3, ce qui est connu comme
consulter mon nouveau livre, le NO BULLSHIT GUIDE TO LINEAR ALGEBRA.
le rang de la matrice A. De même, R dim( (A)) +Ndim( (A)) = 3 + 1 =
Une version préliminaire du livre est disponible ici : gum.co/noBSLA
4, qui est la dimension de l'espace d'entrée de la transformation linéaire TA.