10 Bases Orthonormales

Matrices orthogonales et bases orthonormales Gram-Schmidt Décomposition QR
10. Bases orthonormales et procédé de

Gram-Schmidt
Section 4.4
MTH1007
J. Guérin, N. Lahrichi, S. Le Digabel

Polytechnique Montréal
H2023
(v2)
MTH1007: algèbre linéaire 1/16

Plan
1. Matrices orthogonales et bases orthonormales
2. Procédé de Gram-Schmidt
3. Décomposition QR


Vecteur orthonormaux
▶ Les vecteurs q1 , q2 , . . . , qn de Rm (avec n ≤ m) sont

orthonormaux si

0 lorsque i ̸= j (orthogonalité)
q⊤ q
i j =
1 lorsque i = j (vecteurs unitaires)
pour tous les i, j ∈ {1, 2, . . . , n}
▶ Géométriquement, les vecteurs sont de longueur 1 et

perpendiculaires entre eux

Matrices orthogonales (1/2)

▶ Si les colonnes de la matrice
Q = q1 q2 · · · qn ∈ Rm×n sont orthonormales alors

Q⊤ Q = I ∈ Rn×n
▶ La matrice Q n’est pas nécessairement carrée :

Q⊤ Q = I ∈ Rn×n mais QQ⊤ ∈ Rm×m ̸= I
▶ Dans le cas où Q est carrée alors on dit que c’est une matrice
orthogonale et on a Q⊤ Q = QQ⊤ = I, et donc Q−1 = Q⊤
▶ Les colonnes d’une matrice orthogonale forment une base

de Rn . C’est une base orthonormale

Matrices orthogonales (2/2)
▶ Une matrice orthogonale Q ∈ Rn×n préserve le produit

scalaire : Pour tous vecteurs x et y de Rn , on a
(Qx)⊤ (Qy) = x⊤ Q⊤ Qy = x⊤ y
▶ Géométriquement, ceci signifie que les longueurs et les angles

sont préservés
▶ ∥Qx∥ = ∥x∥ pour tout x ∈ Rn

Matrices orthogonales : Exemples

▶ La matrice orthogonale la plus évidente est l’identité : Q = I

cos θ − sin θ
▶ Matrices de rotation : Q = ∈ R2×2
sin θ cos θ
▶ Les matrices de permutation sont orthogonales
▶ Matrices de réflexion : Si u ∈ Rn unitaire, on définit Q par la
transformation de Householder :
Q = I − 2uu⊤ ∈ Rn×n
Q est symétrique, orthogonale, et Q2 = I. Noter aussi que u

ne reste pas comme une colonne de Q
Exemples avec u1 = (1, 0) et u2 = √1 (1, −1)

2

Projection : Cas n ≤ m
▶ Si les vecteurs q1 , q2 , . . . , qn de Rm sont orthonormaux alors
la matrice de projection sur le sous-espace de Rm de
dimension n engendré par ces vecteurs (C(Q)) se simplifie et
devient
P = Q(Q⊤ Q)−1 Q⊤ = QQ⊤ ∈ Rm×m
▶ x̂ = (Q⊤ Q)−1 Q⊤ b = Q⊤ b ∈ Rn avec b ∈ Rm : La solution
au sens des moindres carrés devient très facile à calculer : Plus
besoin de (A⊤ A)−1
 ⊤ 
q1 b
q ⊤b 
▶ p = Qx̂ = QQ⊤ b = P b = q1 q2 · · · qn  2  =

 ··· 
q⊤nb
q1 (q⊤ ⊤ ⊤
1 b) + q2 (q2 b) + . . . + qn (qn b) ∈ R
m

Projection : Cas n = m
▶ C(Q) = Rn et la projection d’un vecteur b ∈ Rn sur C(Q)
est lui-même : P = I
▶ De plus, on a p = b et

b = q1 q⊤ 1 b + q 2 q ⊤
2 b + · · · + q n q ⊤
n b ∈ Rn
Ceci est la décomposition de b dans la base des qj ,

j ∈ {1, 2, . . . , n}

2 1 0
=2 +3
3 0 1
▶ Exemple :
1 −1
= 52 + 12
1 1


Procédé de Gram-Schmidt (1/2)

Soit u1 , u2 , . . . , un des vecteurs linéairement indépendants de Rm
et W le sous-espace engendré par ces vecteurs (n ≤ m).
La procédure suivante produit une base orthonormale de W :
(1) v1 = u1
v1⊤ u2
(2) v2 = u2 − v1 (v2 ⊥ v1 car obtenu par u2 − p avec
v1⊤ v1
p la projection de u2 sur v1 )
v1⊤ u3 v ⊤ u3
(3) v3 = u3 − ⊤
v1 − 2⊤ v2
v1 v1 v 2 v2
...

Procédé de Gram-Schmidt (2/2)

j−1
X vk⊤ uj
(j) vj = uj − vk
v⊤ v
k=1 k k
...
n−1
X vk⊤ un
(n) vn = un − vk
k=1
vk⊤ vk
vj
(n + 1) qj = pour tout j ∈ {1, 2, . . . , n}
||vj ||
Les vecteurs q1 , q2 , . . . , qn forment la matrice Q et la base
orthonormale recherchée. On a donc W = C(Q) = C(A) si
A = [u1 u2 · · · un ]

Procédé de Gram-Schmidt : Remarques

▶ Les “nouveaux” qi sont orthogonaux aux “vieux” uj (avec
i > j) :
▶ q2 ⊥ u1
▶ q3 ⊥ u1
▶ q3 ⊥ u2
▶ ...
▶ Si m = n, on obtient une base orthonormale de Rn
▶ Le coût du procédé est en O(mn2 )
▶ La transformation de Householder permet aussi d’obtenir une

base orthornormale, à moindre coût
▶ La forme matricielle du procédé de Gram-Schmidt est la
décomposition QR

Factorisation QR (1/2)
▶ Si A = u1 u2 · · · un ∈ Rm×n et

Q = q1 q2 · · · qn ∈ Rm×n est obtenue par le procédé

de Gram-Schmidt alors les ui sont des combinaisons linéaires

des qi (et vice versa), de sorte que
A = QR avec R ∈ Rn×n
▶ R est triangulaire supérieure et peut s’obtenir par R = Q⊤ A
▶ Ses éléments diagonaux correspondent aux normes des vj du

procédé de Gram-Schmidt

Factorisation QR (2/2)
▶ La décomposition fonctionne pour des matrices carrées ou
rectangulaires (n ≤ m), à condition que les colonnes de A
soient indépendantes
▶ Illustration avec m = n = 3 :
q⊤ ⊤ ⊤
    
1 u1 q1 u2 q1 u3
 u1 u2 u3  =  q1 q2 q3   q⊤ ⊤
2 u2 q2 u3

⊤
q 3 u3
▶ Les formules des moindres carrés se simplifient en

x̂ = R−1 Q⊤ b où R−1 se calcule facilement par remontée
triangulaire

10 Bases Orthonormales

Transféré par

Informations du document

Titre original

Copyright

Formats disponibles

Partager ce document

Partager ou intégrer le document

Options de partage

Avez-vous trouvé ce document utile ?

Ce contenu est-il inapproprié ?

Droits d'auteur :

Formats disponibles

10 Bases Orthonormales

Transféré par

Droits d'auteur :

Formats disponibles

Matrices orthogonales et bases orthonormales Gram-Schmidt Décomposition QR

10. Bases orthonormales et procédé de

J. Guérin, N. Lahrichi, S. Le Digabel

MTH1007: algèbre linéaire 1/16

1. Matrices orthogonales et bases orthonormales

MTH1007: algèbre linéaire 2/16

1. Matrices orthogonales et bases orthonormales

MTH1007: algèbre linéaire 3/16

▶ Les vecteurs q1 , q2 , . . . , qn de Rm (avec n ≤ m) sont

pour tous les i, j ∈ {1, 2, . . . , n}

▶ Géométriquement, les vecteurs sont de longueur 1 et

MTH1007: algèbre linéaire 4/16

Matrices orthogonales (1/2)

▶ La matrice Q n’est pas nécessairement carrée :

▶ Les colonnes d’une matrice orthogonale forment une base

MTH1007: algèbre linéaire 5/16

Matrices orthogonales (2/2)

▶ Une matrice orthogonale Q ∈ Rn×n préserve le produit

▶ Géométriquement, ceci signifie que les longueurs et les angles

▶ ∥Qx∥ = ∥x∥ pour tout x ∈ Rn

MTH1007: algèbre linéaire 6/16

Matrices orthogonales : Exemples

Q est symétrique, orthogonale, et Q2 = I. Noter aussi que u

Exemples avec u1 = (1, 0) et u2 = √1 (1, −1)

MTH1007: algèbre linéaire 7/16

MTH1007: algèbre linéaire 8/16

Ceci est la décomposition de b dans la base des qj ,

MTH1007: algèbre linéaire 9/16

1. Matrices orthogonales et bases orthonormales

MTH1007: algèbre linéaire 10/16

Procédé de Gram-Schmidt (1/2)

MTH1007: algèbre linéaire 11/16

Procédé de Gram-Schmidt (2/2)

MTH1007: algèbre linéaire 12/16

Procédé de Gram-Schmidt : Remarques

▶ Si m = n, on obtient une base orthonormale de Rn

▶ Le coût du procédé est en O(mn2 )

▶ La transformation de Householder permet aussi d’obtenir une

1. Matrices orthogonales et bases orthonormales

MTH1007: algèbre linéaire 14/16

Q = q1 q2 · · · qn ∈ Rm×n est obtenue par le procédé

de Gram-Schmidt alors les ui sont des combinaisons linéaires

▶ R est triangulaire supérieure et peut s’obtenir par R = Q⊤ A

▶ Ses éléments diagonaux correspondent aux normes des vj du

MTH1007: algèbre linéaire 15/16

▶ Les formules des moindres carrés se simplifient en

MTH1007: algèbre linéaire 16/16

Vous aimerez peut-être aussi