R ÉDUCTION DES AUTOMORPHISMES ORTHOGONAUX D ’ UN ESPACE VECTORIEL EUCLIDIEN

E est un espace vectoriel euclidien de dimension n.

Automorphisme orthogonal Si f est un endomorphisme de E, les affirmations suivantes sont équiva-

lentes :
1. f est un automorphisme orthogonal de E
2. f conserve le produit scalaire : ∀x, y ∈ E, (f (x)|f (y)) = (x|y).
3. f conserve la norme : ∀x ∈ E, ||f (x)|| = ||x||
4. f conserve les distances : ∀x, y ∈ E, ||f (x) − f (y)|| = ||x − y||

Remarque
1. En particulier, f est un automorphisme de E.
2. IdE est un automorphisme orthogonal. Les projections orthogonales différentes de l’identité ne sont
pas des automorphismes orthogonaux.
3. Les symétries orthogonales sont des automorphismes orthogonaux.
4. Les composées et les inverses d’automorphismes orthogonaux sont des automorphismes orthogonaux,
ce qui définit le groupe orthogonal de E : O(E).

Matrices orthogonales Si A ∈ Mn (R), les affirmations suivantes sont équivalentes :

1. A est une matrice orthogonale.
2. t AA = In (ce qui exprime (Ci |Cj ) = δij ), ou encore At A = In , c’est-à-dire : ∃A−1 = t A.
3. Les colonnes Cj (resp., les lignes Li ) de A forment une BON de Rn .
4. A est la matrice de passage entre deux BON de Rn .
Les matrices orthogonales forment le groupe orthogonal On (R) (ou O(n)). - C’est un sous-groupe de
GLn (R).

Valeurs propres d’une matrice orthogonale Si A ∈ On (R), alors ses valeurs propres (réelles ou com-
plexes) sont de module 1.
Preuve Si X ̸= 0 et AX = λX, alors |λ|2t X̄X = t (AX)AX = t X̄ t AAX = t X̄X, d’où |λ| = 1.

Relation entre matrices et automorphismes orthogonaux

1. f automorphisme orthogonal
2. Il existe B BON telle que MB (f ) est orthogonale
3. Pour toute BON B, MB (f ) est orthogonale

Valeurs propres (réelles) d’un automorphisme orthogonal Si f ∈ O(E), alors Sp(f ) ⊂ {−1, +1}.
(Par conservation de la norme, f (x) = λx ⇒ |λ| = 1, cqfd.)
Attention : le spectre de f peut être vide, et les automorphismes orthogonaux ne sont pas toujours
diagonalisables ! 1
1. On s’intéresse ici au spectre réel de f !
Sous-espaces stables (IMPORTANT) Si F est stable par f , alors F ⊥ est stable par f . f induit alors un
automorphisme orthogonal de F ⊥ .
Preuve F est stable par f −1 car dim f (F ) = dim F (f bijective) et f (F ) ⊂ F (F stable) impliquent f (F ) = F et donc
−1
f (F ) = F .
Si x ∈ F ⊥ , alors pour tout y ∈ F , (f (x)|y) = (f (x)|f (f −1 (y))) = (x|f −1 (y)) = 0 (car f −1 (y) ∈ F ), cqfd.

Conséquences
1. Si x0 est un vecteur propre, l’hyperplan (x0 )⊥ est stable.
2. On peut ainsi montrer que dim Eλ (f ) = m(λ) pour tout λ ∈ Sp(f ). (Attention, ceci ne montre pas
que f est diagonalisable, pourquoi ?)
3. Les sous-espaces propres sont orthogonaux.

Matrice d’une symétrie orthogonale Si f ∈ O(E) et A sa matrice dans une BON, les affirmations
suivantes sont équivalentes :
1. f est une symétrie orthogonale
2. f (resp. A) est diagonalisable
3. A est symétrique et orthogonale

Déterminant des matrices orthogonales Si A ∈ On (R), alors det(A) ∈ {−1, +1}.

Conséquence : produit mixte Det = déterminant d’une famille de vecteurs dans une BOND (ce détermi-
nant est indépendant du choix de la BOND).
Rappel : on note [v1 , ..., vn ] = Det(v1 , ..., vn ).
En dimension 3, [v1 , v2 , v3 ] = (v1 |v2 ∧ v3 ) = (v1 ∧ v2 |v3 ).

Déterminant des automorphismes orthogonaux Si f ∈ O(E), alors det(f ) ∈ {−1, +1} .

Comme det(f ) ∈ R, les automorphismes orthogonaux se répartissent en deux sous-ensembles :
1. Les rotations, de déterminant +1, qui forment le groupe spécial orthogonal SO(E), sous-groupe de
O(E). (On définit de même le groupe spécial orthogonal SOn (R) = {A ∈ On (R)| det(A) = +1}.)
2. Les éléments de O(E)\SO(E), qui ne forment pas un groupe (pourquoi ?). On y trouve les réflexions
(symétries orthogonales par rapport à un hyperplan), mais pas seulement.
NB : On trouve des symétries (orthogonales) dans les deux catégories :
1. La symétrie orthogonale par rapport à F est une rotation ssi dim F ⊥ est paire (écrire sa matrice dans
une base adaptée).
2. Attention ! La symétrie centrale − IdE est une rotation ssi dim E est paire.

Cas de la dimension 2

Rotations : ( )
cos θ − sin θ
Les éléments de SO2 (R) sont de la forme : R(θ) = .
sin θ cos θ
Si B est une BON directe et MB (f ) = R(θ), alors f est la rotation d’angle θ. La matrice ne dépend pas
de la BOND choisie. Si B est indirecte, f est la rotation d’angle −θ.

2
 Autres cas : ( )
cos θ sin θ
Les éléments de O2 (R) \ SO2 (R) sont de la forme : S(θ) = .
sin θ − cos θ( )
cos θ/2
Si MB (f ) = S(θ), alors f est la réflexion par rapport à la droite dirigée par .
sin θ/2

Cas de la dimension 3 Critère pratique Si A = (C1 |C2 |C3 ) et C1 , C2 unitaires.

1. Si C1 ∧ C2 = C3 , alors A ∈ SO3 (R).
2. Si C1 ∧ C2 = −C3 , alors A ∈ O3 (R) \ SO3 (R).
3. Sinon, A ̸∈ O3 (R).
On considère f ∈ O(E). La dimension est impaire donc Sp(f ) ̸= ∅.

Rotations : det f > 0 donc 1 ∈ Sp(f ). Si f ̸= IdE , alors dim E1 (f ) = 1. E1 (f ) est l’axe de la rotation.
On considère e1 vecteur directeur de l’axe et la base directe B = (e1 , e2 , e3 ). On a alors :
( )
1 0
MB (f ) =
0 R(θ)

f est la rotation d’angle θ autour de e1 (ou autour de l’axe E1 (f ), orienté par e1 ). C’est également la
rotation d’angle −θ autour de −e1 (on peut normaliser en imposant θ ∈]0, π], le cas θ = 0, i.e. f = Id,
étant exclu).
Si θ = π, il est inutile d’orienter l’axe (symétrie orthogonale par rapport à E1 (f ), également appelée
demi-tour).

Cas det f < 0 : Alors −1 ∈ Sp(f ). On peut construire une base directe B = (e1 , e2 , e3 ) dans laquelle :
( )
−1 0
MB (f ) =
0 R(θ)

Si θ ≡ 0 [2π], on reconnaît la réflexion par rapport à e1 ⊥ . Sinon, f est la composée de cette réflexion et
de la rotation d’angle θ autour de e1 .

Comment déterminer les élements caractéristiques d’une rotation ?

Méthode classique :
On détermine un vecteur unitaire de l’axe a ∈ E1 (f ). On choisit arbitrairement un vecteur x unitaire
orthogonal à a. On a f (x) = (cos θ)x + (sin θ)a ∧ x (expression d’une rotation plane dans le plan a⊥ orienté
par a, cf. fig.1) donc : {
(x|f (x)) = cos θ
[a, x, f (x)] = sin θ
(NB : pour faciliter les calculs, on peut chosir a et x non unitaires, mais il faut en tenir compte dans le
calcul de cos θ et sin θ.)

3
 a∧x

f (x)

θ x
a

F IGURE 1 – Image d’un vecteur unitaire orthogonal à l’axe

Méthode moins classique :

Si a ∈ E1 (f ), on a, pour tout x ∈ E, en décomposant x sur Vect(a) et sur Vect(a)⊥ (cf. fig.2) :
f (x) = (a|x)a + (cos θ)(x − (a|x)a) + (sin θ)a ∧ (x − (a|x)a)
= (1 − cos θ)(a|x)a + (cos θ)x + (sin θ)a ∧ x
Or, f −1 étant la rotation d’angle opposé : f −1 (x) = (1 − cos θ)(a|x)a + (cos θ)x − (sin θ)a ∧ x
1
et donc : (f − f −1 )(x) = (sin θ)a ∧ x
2
1
Or la matrice de (f − f −1 ) s’écrit :
2
 
0 −r q
1
(A − t A) =  r 0 −p
2
−q p 0
   
p p
ce qui est la matrice de l’endomorphisme : x 7→ q ∧ x, et il vient : (sin θ)a = q .
  
r r
Comme 1 + 2 cos θ = Tr(A), on a déterminé les éléments caractéristiques de f .
a

f (x)
x
(a|x)a

x − (a|x)x

F IGURE 2 – Rotation dans l’espace

Dimensions supérieures Dans une certaine base orthonormale, la matrice de f s’écrit par blocs :

diag(Ip , −Iq , R(θ1 ), R(θ2 ), ..., R(θs ))

Principe : Pour A ∈ On (R), on considère l’orthogonal de E1 (A) ⊕ E−1 (A) et on le décompose par récurrence en somme
directe orthogonale de plans stables : on fixe le vecteur propre X associé à eiθ . Alors X est associée à e−iθ . A étant une matrice
réelle, on montrer facilement que Re(X) et Im(X) engendrent un plan stable dans lequel la matrice s’écrit R(θ).
4