c Christophe Bertault - MPSI

Automorphismes orthogonaux
et matrices orthogonales
Dans ce chapitre, on travaille uniquement avec le corps de base R et E est un espace euclidien orient. Les lettres n, p, q . . .
dsignent des entiers naturels non nuls.

Automorphismes orthogonaux
et matrices orthogonales en dimension quelconque

1.1

Automorphismes orthogonaux

Dfinition (Automorphisme orthogonal/isomtrie vectorielle)

suivantes sont quivalentes :
(i) f prserve les produits scalaires :

x, y E,

(ii) f est linaire et prserve les normes :

Soit f : E E une application. Les assertions

f (x) f (y) = (x|y).

f (x) = x .

x, y E,

De plus, si lune de ces deux assertions est vraie, f est un automorphisme de E. On dit alors que f est un automorphisme
orthogonal de E ou une isomtrie (vectorielle) de E.

Explication
Lquivalence des assertions (i) et (ii) est conceptuellement puissante : le seul fait quune application (non ncessairement
linaire a priori) prserve les produits scalaires la rend automatiquement linaire.
Une isomtrie vectorielle, comme son nom lindique, est une transformation gomtrique qui prserve ( iso- , mme,
identique) les normes ( -mtrie , mesure).
Dmonstration
(i) = (ii) Dabord f prserve les normes, car pour tout x E :

f (x) =

Montrons que f est linaire. Pour tous x, y E et , R :

f (x + y) f (x) f (y)

= f (x + y)
= x + y

+ 2 f (x)

+ 2 x

+ 2 f (y)

2 f (x + y) f (x)

2 f (x + y) f (y) + 2 f (x) f (y)

+ 2 y

= (x + y) x y

(x|x) = x .

f (x) f (x) =

= 0E

2(x + y|x) 2(x + y|y) + 2(x|y)

2

= 0,

donc f (x + y) = f (x) + f (y).

(ii) = (i) Montrons que f prserve les produits scalaires. Soient x, y E. Utilisons les identits de polarisation, notes ci-dessous :
1
2
2
2 linarit 1
2
2
2
f (x) f (y) =
f (x) + f (y) f (x) f (y)
=
f (x + y) f (x) f (y)
2
2
(ii) 1

=
x + y 2 x 2 y 2 = (x|y).
Et voil.
2
Pour finir, montrons que sous rserve que lune des assertions (i) ou (ii) est vraie, f est un automorphisme de E.
Or nous avons prouv avec la premire implication que f (e1 ), f (e2 ), . . . , f (en ) est une base de E. Et voil !
Exemple

Toute symtrie orthogonale de E en particulier tout rflexion de E est un automorphisme orthogonal de E.

En effet Soit s une symtrie orthogonale de E. Posons H = Ker (s IdE ). Alors s est la symtrie par rapport
H paralllement H . Soient x1 , x2 E, dcomposs sous la forme x1 = h1 + h1 et x2 = h2 + h2 o h1 , h2 H
et h1 , h2 H . Alors s(x1 ) = h1 h1 et s(x2 ) = h2 h2 , donc :
=0

s(x1 ) s(x2 ) = (h1

= (h1 +

h1 |h2
h1 |h2

h2 )
h2 )

= (h1 |h2 )
= (x1 |x2 ).

=0

(h1 |h2 ) (h1 |h2 ) +(h1 |h2 )

=0

= (h1 |h2 ) +

=0

(h1 |h2 ) + (h1 |h2 ) +(h1 |h2 )

c Christophe Bertault - MPSI

Thorme (Caractrisation dun automorphisme orthogonal sur une base orthonormale) Soient f un endomorphisme de E et (e1 , e2 , . . . , en ) une base orthonormale de E. Les assertions suivantes sont quivalentes :
(i)

f est un automorphisme orthogonal de E.

(ii)

f (e1 ), f (e2 ), . . . , f (en ) est une base orthonormale de E.

Explication Bref, un automorphisme orthogonal transforme toute base orthonormale de E en une base orthonormale
de E ; et rciproquement, un endomorphisme de E qui tranforme une base orthonormale de E en une base orthonormale de E
est un automorphisme orthogonal de E.
Dmonstration
(i) = (ii) Si f est orthogonal, alors pour tous i, j

1, n :

= (ei |ej ) = ij ,

f (ei ) f (ej )

donc

f (e1 ), f (e2 ), . . . , f (en ) , famille de n = dim E vecteurs, est une base orthonormale de E.

(ii) = (i) Rciproquement, supposons

f (e1 ), f (e2 ), . . . , f (en )

orthonormale. Alors pour tous x, y E de

coordonnes respectives (x1 , x2 , . . . , xn ) et (y1 , y2 , . . . , yn ) dans (e1 , e2 , . . . , en ) :

n

xk f (ek )

f (x) f (y) =
k=1

yl f (el )

xk yl f (ek ) f (el ) =

1 k,l n
k=l

1 k,l n

l=1

xk yk = (x|y).

x k yl =
k=1

Thorme (Automorphisme orthogonal et sous-espaces stables) Soient f un automorphisme orthogonal de E et F

un sous-espace vectoriel de E stable par f , i.e. tel que f (F ) F . Alors F est aussi stable par f .
Dmonstration
Comme f est un automorphisme de E, cest aussi un isomorphisme de F sur son image f (F ). En particulier,
F et f (F ) sont de mme dimension finie. Linclusion f (F ) F est donc en fait une galit : f (F ) = F .

Montrons que f (F ) F . Soit t F . Montrer que f (t) F revient montrer que f (t) est orthogonal
tous les vecteurs de F . Fixons donc y F . Nous venons de prouver que f (F ) = F , donc y = f (x) pour
un certain x F . Alors comme f est orthogonal et comme t F :
f (t) y = f (t) f (x) = (t|x) = 0.
Ceci montre bien que f (t) est orthogonal y.

Dfinition (Automorphisme orthogonal positif/ngatif ) Soit f un automorphisme orthogonal de E.

Alors det(f ) = 1 ou det(f ) = 1. Si det(f ) = 1, on dit que f est positif ; si det(f ) = 1, on dit que f est ngatif.
Dmonstration

Soit (e1 , e2 , . . . , en ) une base orthonormale de E. On note M la matrice de f dans cette base.

Soient X, Y Rn et x et y les vecteurs de E de coordonnes respectives X et Y dans (e1 , e2 , . . . , en ).

Alors (x|y) = t XY . Mais puisque les coordonnes de f (x) et f (y) dans (e1 , e2 , . . . , en ) sont M X et M Y ,
alors f (x) f (y) = t (M X)(M Y ) = t X(t M M )Y . Comme f est orthogonal, on obtient finalement lgalit
t
X(t M M )Y = t XY .
Notons (X1 , X2 , . . . , Xn ) la base canonique de Rn . Pour tous i, j 1, n , le coefficient de position (i, j) de
1 si i = j
t
, donc t M M = In .
M M est alors t Xi (t M M )Xj vrifier ! Mais t Xi (t M M )Xj = t Xi Xj =
0 si i = j
Enfin det(M )2 = det

M det(M ) = det

M M = det(In ) = 1, donc :

det(f ) = det(M )

1, 1 .

Thorme (Caractrisation dun automorphisme orthogonal positif sur une base orthonormale directe) Soient
f un endomorphisme de E et (e1 , e2 , . . . , en ) une base orthonormale directe de E. Les assertions suivantes sont quivalentes :
(i)

f est orthogonal positif.

Explication

(ii)

f (e1 ), f (e2 ), . . . , f (en ) est une base orthonormale directe de E.

Pour un automorphisme orthogonal, tre positif cest respecter lorientation.

Dmonstration
(i) = (ii) Supposons f orthogonal positif. Nous savons dj qualors

f (e1 ), f (e2 ), . . . , f (en ) est une base

orthonormale de E. Est-elle directe ? Oui car det(e1 ,e2 ,...,en ) f (e1 ), f (e2 ), . . . , f (en ) = det(f ) = 1 > 0 et
(e1 , e2 , . . . , en ) est directe.

c Christophe Bertault - MPSI

(ii) = (i) Faisons lhypothse que f (e1 ), f (e2 ), . . . , f (en ) est une base orthonormale directe de E. Nous
savons dj qualors f est un automorphisme orthogonal de E. Mais comme (e1 , e2 , . . . , en ) est aussi directe,
cela signifie que det(f ) = det(e1 ,e2 ,...,en ) f (e1 ), f (e2 ), . . . , f (en ) > 0. Or ce dterminant vaut 1 en vertu
du thorme prcdent, donc det(f ) = 1 comme voulu.

Dfinition

(Groupe orthogonal et groupe spcial orthogonal)

(i) Lensemble des automorphismes orthogonaux de E, not O(E), est un sous-groupe du groupe linaire GL(E) de E
appel le groupe orthogonal de E.
(ii) Lensemble des automorphismes orthogonaux positifs de E, not SO(E) ou O+ (E), est un sous-groupe de O(E)
appel le groupe spcial orthogonal de E.

Dmonstration
(i) Montrons que O(E) est un sous-groupe de GL(E).
1) IdE O(E) car videmment IdE prserve les produits scalaires.
2) Soient f, g O(E). Alors f 1 g O(E) car pour tous x, y E :
f 1 g(x) f 1 g(y)

f O(E)

f f 1 g(x) f f 1 g(y) = g(x) g(y)

gO(E)

(x|y).

(ii) Montrons que SO(E) est un sous-groupe de O(E). Or SO(E) est lensemble des automorphismes orthogonaux de dterminant 1 de E, donc le noyau du morphisme de groupes det

O(E)

: O(E)

1, 1

on rappelle que det transforme la composition en produit. Ce noyau est un sous-groupe de O(E).

1.2

Matrices orthogonales

Dfinition (Matrice orthogonale) Soit M Mn (R). On dit que M est orthogonale si t M M = M t M = In , ce qui revient
dire que M est inversible dinverse t M .

En pratique

Pour montrer que M est orthogonale, il suffit en fait de vrifier quon a t M M = In ou M t M = In .

Thorme (Automorphisme orthogonal et matrice orthogonale) Soient f un endomorphisme de E et B une base

orthonormale de E. Alors les assertions suivantes sont quivalentes :
(i)

Attention !

f est orthogonal.

(ii)

Mat(f ) est orthogonale.

B

R2

R2
,
(x, y) (x, y)
Pourtant la matrice de f dans la base

Il est essentiel que B soit orthonormale. Par exemple, si f est lapplication

alors f O(R2 ) car pour tout (x, y) R2 :

2

(1, 0), (1, 1) de R (non orthonormale) est

Dmonstration

1
0

f (x, y) = (x, y) = (x, y) .

2
, et cette matrice nest pas orthogonale.
1

Posons M = Mat(f ) et notons n la dimension de E.

B

(i) = (ii) On a dj prouv dans une preuve prcdente que t M M = In on a donc aussi M t M = In .
(ii) = (i) Supposons M orthogonale. Alors f O(E) car pour tous x, y E de coordonnes respectives X, Y
dans B :
f (x) f (y) = t (M X)(M Y ) = t X t M M Y = t XIn Y = t XY = (x|y).

Thorme (Caractrisation dune matrice orthogonale au moyen de ses lignes ou de ses colonnes)
Soit M Mn (R). Les assertions suivantes sont quivalentes :
(i) M est orthogonale.
(ii) La famille des colonnes de M est une base orthonormale de Rn (muni de sa structure euclidienne canonique).
(iii) La famille des lignes de M est une base orthonormale de Rn .

c Christophe Bertault - MPSI

0 1
Rsultat bien pratique pour vrifier lil nu quune matrice est orthogonale ! Ainsi
est
1
0

2 3
1
1
orthogonale car ses deux colonnes sont de norme 1 et leur produit scalaire nul. Mme raisonnement avec
2
3
1 .
6 2
0
2
En pratique

Dmonstration

Notons (E1 , E2 , . . . , En ) la base canonique de Rn . Il sagit bien sr dune base orthonormale.

(i) (ii) Daprs le thorme prcdent, M est orthogonale si et seulement si lapplication linaire associe
M est orthogonale, i.e. si et seulement si la famille M E1 , M E2 , . . . , M En est orthonormale. Or cette
famille est tout simplement la famille des colonnes de M .
(ii) (iii) Lgalit t M M = M t M = In tant inchange par transposition, une matrice est orthogonale
si et seulement si sa transpose lest do lquivalence des assertions (ii) et (iii).

Dfinition (Matrice orthogonale positive/ngative) Soit M Mn (R) une matrice orthogonale.

Alors det(M ) = 1 ou det(M ) = 1. Si det(M ) = 1, on dit que M est positive ; si det(M ) = 1, on dit que M est ngative.
Dmonstration
Attention !

det(M )2 = det(M ) det(t M ) = det(M t M ) = det(In ) = 1.

Toute matrice de dterminant 1 nest pas orthogonale. Prenez lexemple de la matrice

2
1

1
.
1

Vous dmontrerez seuls les propositions suivantes.

Dfinition

(Groupe orthogonal et groupe spcial orthogonal)

(i) Lensemble des matrices orthogonales de taille n, not O(n), est un sous-groupe du groupe linaire GLn (R) appel le
groupe orthogonal de degr n.
(ii) Lensemble des matrices orthogonales positives de taille n, not SO(n) ou O+ (n), est un sous-groupe de O(n) appel
le groupe spcial orthogonal de degr n.

Thorme (Automorphisme orthogonal positif et matrice orthogonale positive) Soient f un endomorphisme de E

et B une base orthonormale de E. On note n la dimension de E. Les assertions suivantes sont quivalentes :
(i)

(ii)

f SO(E).

Mat(f ) SO(n).
B

Produit vectoriel
Le lemme et la dfinition suivants sont noncs en dimension finie quelconque mais nous les utiliserons en dimension 3.

Lemme (Dterminant dune base orthonormale directe dans une base orthonormale directe) Soient B et B
deux bases orthonormales directes de E. Alors : detB (B ) = 1.

Dmonstration
Notons f lautomorphisme de E qui envoie B sur B . Comme B et B sont deux bases
orthonormales directes de E, nous savons que f SO(E), et donc que det(f ) = 1. Or detB (B ) = det(f ).
Dfinition (Produit mixte) On note n la dimension de E. Soient (xk )1 k n une famille de n vecteurs de E et B et B
deux bases orthonormales directes de E. Alors : detB (x1 , x2 , . . . , xn ) = detB (x1 , x2 , . . . , xn ).
Ce dterminant, indpendant du choix de la base orthonormale directe B quon peut faire, est appel le produit mixte de
x1 , x2 , . . . , xn et not x1 , x2 , . . . , xn .

Dmonstration

detB (x1 , x2 , . . . , xn ) = detB (B ) detB (x1 , x2 , . . . , xn )

lemme

detB (x1 , x2 , . . . , xn ).

c Christophe Bertault - MPSI

Explication En dbut danne, nous navions quun seul dterminant notre disposition, alors que le dterminant
dune famille de vecteurs dpend dun choix pralable de base. Nous savons maintenant pourquoi : nous avions lhabitude de ne
travailler quavec des bases orthonormales en dimension 2 et 3.

Dfinition (Produit vectoriel) On suppose E de dimension 3. Soient u, v E. Il existe un unique vecteur de E not u v
tel que : x E,
u, v, x = (u v|x). Ce vecteur u v est appel le produit vectoriel de u par v.
Dmonstration

Appliquer le thorme de reprsentation des formes linaires lapplication x u, v, x .

Explication
En dbut danne, nous avions dfini dans lordre le produit scalaire puis le produit vectoriel, et la
formule det(u, v, w) = (u v) w tait notre dfinition du dterminant. A prsent, le produit scalaire et le dterminant tant
dfinis, cest le produit vectoriel que nous dfinissons avec la mme formule.
Nous retrouvons heureusement tous les rsultats sur le produit vectoriel que nous connaissions.
Thorme

(Proprits du produit vectoriel) On suppose E de dimension 3. Soient u, v, w E.

(i) Le vecteur u v est orthogonal u et v.

uv

(ii) Les vecteurs u et v sont colinaires si et seulement si u v = 0E .

(iii) Le produit vectoriel est une application bilinaire alterne de E E dans E.
(iv) Si u et v ne sont pas colinaires, alors (u, v, u v) est une base directe de E.

(v) On suppose la famille (u, v) orthonormale. Alors :

(u, v, w) est une base orthonormale directe de E si et seulement si w = u v.

Dmonstration
(i) Puisque le produit mixte est un dterminant, (u v|u) = u, v, u = 0, et donc u et u v sont orthogonaux.
De mme avec v la place de u.
(ii) Si u et v sont colinaires, alors en tant que dterminant, u, v, x = 0 = (0E |x) pour tout x E. Lunicit
du produit vectoriel montre aussitt que u v = 0E .

Rciproquement, supposons quon ait u v = 0E et fixons un lment x de E Vect(u, v) le choix dun

tel x est possible car dim E = 3 et dim Vect(u, v) 2. Puisque u, v, x = (u v|x) = (0E |x) = 0, et puisque
le produit mixte nest jamais quun dterminant, la famille (u, v, x) est donc lie. Or x nest pas combinaison
linaire de u et v, tant donne la faon dont on la choisi. La famille (u, v) est donc ncessairement est lie.

(iii) Lassertion (ii) montre que, si le produit vectoriel est bilinaire, alors il est aussi altern nul sur toute
famille dont deux vecteurs sont gaux. Il nous suffit donc de montrer sa bilinarit. Contentons-nous mme
de dmontrer sa linarit par rapport la seconde variable. Soient u, v, w E et , R. Pour tout x E :
u(v+w) x = u, v+w, x = u, v, x + u, w, x = (uv|x)+(uw|x) = (uv)+(uw) x .
Lunicit du produit vectoriel montre aussitt que u (v + w) = (u v) + (u w).
(iv) Supposons u et v non colinaires. Montrer que (u, v, u v) est une base directe de E revient montrer
que son dterminant dans une base directe de E est strictement positif. Cela revient donc montrer que
u, v, u v > 0, ce qui est vrai car [u, v, u v] = (u v|u v) = u v 2 et u v = 0E daprs (ii).
(v) Supposons (u, v) orthonormale.
Montrons que (u, v, u v) est une base orthonormale directe de E. Cette famille est une base orthogonale
uv
directe de E daprs (i) et (iv), mais uv est-il unitaire ? Ce qui est sr, cest que la famille u, v,
uv
est orthonormale directe. Par consquent, puisque le produit mixte nest jamais quun dterminant dans
une base orthonormale directe et puisque le dterminant dune base orthonormale directe dans une base
uv
uv
orthonormale directe vaut 1 :
u, v,
=1= uv
= u v . Et voil.
uv
uv
Rciproquement, supposons que (u, v, w) est une base orthonormale directe de E et montrons que w = uv.
Comme Vect(u, v) est de dimension 2, Vect(u, v) est une droite vectorielle qui contient la fois w et
u v. Il existe donc R tel que u v = w. Or (u, v, w) est une base orthonormale directe, donc
u, v, w = 1 = (u v|w) = (w|w) = . Ainsi = 1, donc w = u v.

c Christophe Bertault - MPSI

Automorphismes orthogonaux en dimension 2 et 3

3
3.1

Automorphismes orthogonaux en dimension 2

Thorme

(Matrices orthogonales de taille 2)

Toute matrice orthogonale positive de taille 2 est de la forme

cos
sin

sin
cos

pour un certain R.

cos sin
est un morphisme de groupes surjectif de R sur SO(2) de noyau 2Z.
sin
cos
En particulier, SO(2) est un groupe commutatif.
De plus lapplication

Toute matrice orthogonale ngative de taille 2 est de la forme

cos
sin

sin
cos

pour un certain R.

Dmonstration
Soit M =
M O(2)

a
b

c
d

M2 (R).

a = cos et b = sin
t
c = cos et d = sin
, R/
M M = I2

cos cos + sin sin = 0

a = cos et b = sin
a = cos et b = sin
c = cos et d = sin
c = cos et d = sin
, R, 1, 1 /
, R/

+
mod 2
cos( ) = 0
2
a = cos et b = sin

R, 1, 1 /
et d = sin +
c = cos +
2
2
cos sin
a = cos et b = sin
.
R, 1, 1 / M =
R, 1, 1 /
sin
cos
c = sin et d = cos
2
a + b2 = 1
c2 + d2 = 1

ac + bd = 0

Un simple calcul de dterminant montre quon rcupre pour = 1 les matrices orthogonales positives, et
pour = 1 les matrices orthogonales ngatives.
Montrons ensuite que lapplication R :

cos
sin

sin
cos

est un morphisme de groupes surjectif de R

sur SO(2) de noyau 2Z.

1) On vrifie facilement que pour tous , R : R()R() = R( + ).
2) La sujectivit de R est une consquence des quivalences prcdentes.
3) Pour le noyau de R, soit R. Ce appartient au noyau de R si et seulement si R() = I2 , i.e. si et
seulement si cos = 1 et sin = 0, i.e. si et seulement si 0 mod 2. Comme voulu : Ker R = 2Z.
Montrons enfin que SO(2) est commutatif. Soient A, B SO(2). Il existe alors , R tels que A = R()
et B = R(). Alors AB = R()R() = R( + ) = R( + ) = R()R() = BA.

Thorme (Classification des automorphismes orthogonaux en dimension 2) On suppose E de dimension 2. Soit f

un automorphisme orthogonal de E.
(i) Si f est ngatif, alors f est une rflexion, i.e. ici une symtrie orthogonale par rapport une droite.
(ii) Si f est positif, i.e. si f SO(E), alors la matrice Mat(f ) de f ne dpend pas du choix de la base B de E quon peut
B

cos
sin

faire, condition que B soit orthonormale directe ; cette matrice est de la forme

sin
cos

pour un certain R

unique 2 prs appel une mesure de langle de f .

On a par ailleurs, pour tout u E unitaire :

cos = u f (u)

et

sin = u, f (u) .

Enfin, si f = IdE , lensemble Ker (f IdE ) des points fixes de f est rduit 0E .
Explication
La commutativit du groupe SO(2) possde une interprtation gomtrique simple. Elle signifie que deux rotations planes
ici vectorielles commutent toujours : tourner dun angle puis dun angle , cest pareil que tourner de puis de .

c Christophe Bertault - MPSI

Lassertion (ii) est bien connue. Si (, ) est une base orthonormale directe du plan et si nous notons (u , v ) limage de
cette base par la rotation dangle , alors u = cos + sin et v = sin + cos . La matrice de la rotation dangle
cos sin
et en effet, elle ne dpend pas du choix de et .
dans la base (, ) est donc
sin
cos
Attention ! Dans lassertion (ii), il est essentiel que les bases considres soient orthonormales directes ; lorientation
dtermine le signe de la mesure de langle de la rotation. En effet, si on change lorientation de E, une mesure de langle de la
rotation avec la nouvelle orientation sera et non plus .
Dmonstration

Donnons-nous une base orthonormale directe (e1 , e2 ) de E.

(i) Supposons f ngatif. Alors la matrice de f dans la base (e1 , e2 ) est orthogonale ngative, i.e. de la forme

cos
sin
pour un certain R. Posons alors u1 = cos e1 + sin e2 et u2 = sin e1 + cos e2 .
sin cos
2
2
2
2
Il est clair que (u1 , u2 ) est une base orthonormale de E. De plus un calcul facile montre que f (u1 ) = u1
1
0
. Ainsi f est la rflexion par
et que f (u2 ) = u2 , de sorte que la matrice de f dans (u1 , u2 ) est
0 1
rapport Vect(u1 ).
e2

u2

f (e1 )
u1
e1

f (e2 )

On voit sur cette figure que e1 et f (e1 ) (resp. e2 et f (e2 )) sont orthogonalement symtriques lun de lautre par rapport la droite engendre par u1 . Cest pourquoi nous
avons lide de montrer que f est la rflexion par rapport la droite engendre par u1 .

(ii) Supposons f positif. Alors la matrice de f dans la base (e1 , e2 ) est orthogonale positive, i.e. de la forme
cos sin
SO(2) pour un certain R.
sin
cos
Soit (u1 , u2 ) une base orthonormale directe quelconque de E. Si P dsigne la matrice de passage
cos sin
P . Or P , vue comme
de (e1 , e2 ) (u1 , u2 ), alors la matrice de f dans (u1 , u2 ) est P 1
sin
cos
application, envoie une base orthonormale directe sur une base orthonormale directe, donc P SO(2).
cos sin
commutent, SO(2) tant commutatif. La matrice de f dans (u1 , u2 ) est
Du coup P et
sin
cos
cos sin
cos sin
. Comme voulu, la matrice de f ne dpend ainsi pas de
P =
donc P 1
sin
cos
sin
cos
la base orthonormale directe dans laquelle on la calcule.
Soit u E unitaire. Notons v lunique vecteur pour lequel (u, v) est une base orthonormale directe
cos sin
, donc f (u) = cos u + sin v. Comme voulu :
de E. La matrice de f dans (u, v) est
sin
cos
u f (u) = u cos u+sin v = cos u

= cos

et

u, f (u) = det (u,v) u, f (u) =

1
0

cos
= sin .
sin

Pour finir, supposons f = IdE et montrons que Ker (f IdE ) = 0E , i.e. que f IdE est
cos 1
sin
, de dterminant
injectif, ou encore bijectif. La matrice de f IdE dans (e1 , e2 ) est
sin
cos 1

(cos 1)2 + sin2 = 2(1 cos ) = 4 sin2 . Or f = IdE , donc 0 mod 2, donc det(f IdE ) = 0.
2

3.2

Automorphismes orthogonaux en dimension 3

Dfinition (Rotations en dimension 3) On suppose E de dimension 3.

Soit r un automorphisme orthogonal positif de E autre que IdE .
Lensemble Ker (r IdE ) des points fixes de r est une droite vectorielle de E appele laxe de r.
Soit (u, v) une base orthonormale
du plan

cos sin
cos
(u, v, u v) de E est de la forme sin
0
0

Ker
(r IdE ) . Alors la matrice de r dans la base orthonormale directe
0
0 pour un certain R.
1

On dit finalement que r est la rotation daxe orient par u v et dangle de mesure . Par convention, on considre IdE
comme une rotation, admettant toute droite vectorielle pour axe et 0 (modulo 2) pour mesure dangle.

c Christophe Bertault - MPSI

r(u v) = u v
Explication

r(v)

cos
La figure ci-contre illustre le fait que la matrice de r dans (u, v, uv) soit sin
0

sin
cos
0

0
0.
1

r(u)

Pourquoi dire rotation daxe orient par u v et dangle de mesure et non pas tout simplement rotation daxe
dirig par u v et dangle de mesure ?
r(u)
v
Pour le comprendre, choisissons dorienter laxe de r au moyen du vecteur oppos
v u. Notre base orthonormale directe de E de rfrence sera alors (v, u, v u).

La figure ci-contre est la mme que la prcdente, mais on regarde les choses de
r(v)
u
dessous, et non plus de dessus. Avec la nouvelle orientation choisie, la mesure de
langle de r est exactement loppos de la prcdente si vous ne le voyez pas
bien, regardez la figure en mettant cette page la tte en bas.
Conclusion : la mesure de langle dune rotation en dimension 3 dpend de la faon
r(v u) = v u
dont on choisit dorienter son axe.
Dmonstration
r11
r12
r13
r21
r22
r23
pour tout R, o R
r31
r32
r33
dsigne la matrice de r dans B. Un dveloppement la Sarrus montre que est une fonction polynomiale
de degr 3. Du coup, son comportement en et le thorme des valeurs intermdiaires prouvent que
possde une racine relle 0 : det(r 0 IdE ) = det(R 0 I3 ) = (0 ) = 0. En dautres termes, r 0 IdE
nest pas injectif, donc r(x0 ) = 0 x0 pour un certain x0 E non nul. Enfin comme r prserve les normes :
x0 = r(x0 ) = 0 x0 = |0 | x0
et donc 0 = 1.

Soit B une base de E. Posons :

() = det(RI3 ) =

Conclusion : il existe un vecteur x0 E non nul tel que r(x0 ) = x0 .

Notons F lensemble des points fixes de r : F = Ker (r dE ). Alors F est stable par r, car pour tout
x F , r(x) = x F . Or r est orthogonal, donc F est lui aussi stable par r comme nous lavons vu au
dbut de ce chapitre. Nous devons montrer que F est une droite, i.e. que dim F = 1.
1) Par hypothse r = IdE , donc F = Ker (r IdE ) = E, donc dim F = 3.

2) Supposons F de dimension 2, de sorte que dim F = dim E dim F = 1, et donnons-nous une base
orthonormale (e1 , e2 , e3 ) de E adapte la dcomposition E = F F . Alors r(e1 ) = e1 et r(e2 ) = e2 par

dfinition de F , et r(e
3 ) = e3pour un certain R puisque F est stable par r. La matrice de r dans
1 0 0
(e1 , e2 , e3 ) est donc 0 1 0 . Or r SO(E), donc det(r) = 1 = , donc r = IdE contradiction.
0 0
3) Supposons enfin F de dimension 0, i.e. que r na pas de point fixe autre que 0E . Reprenant les
notations du premier point, nous pouvons donc affirmer que 0 = 1 et r(x0 ) = x0 .
Posons alors X0 = Vect(x0 ). Comme X0 est stable par lautomorphisme orthogonal r, X0 est lui aussi
stable par r, de dimension 2. Ceci veut dire que r est un endomorphisme de X0 , et mme un autoX0

morphisme orthogonal de X0 , car comme r prserve les produit scalaires, r

X0 .

X0

aussi a fortiori.

X0

Soit (x1 , x2 ) une base orthonormale de

Orientons
laide de cette base cela revient dcrter, arbitrairement, que cette base est directe. Daprs notre tude des automorphismes orthogonaux en
dimension 2, r X est soit une rotation, soit une rflexion. Mais comme r na pas de point fixe autre que
0

0E , il en est de mme de r

X0

, et donc r

X0

est une rotation, disons dangle de mesure .

La famille (x0
, x1 , x2 ) est une base
orthonormale de E puisque E = X0 X0 , et la matrice de r dans
1
0
0
cos sin . Cette matrice a pour dterminant 1 contradiction.
cette base est 0
0
sin
cos

Conclusion : seul cas restant, dim F = 1 comme voulu.

Du coup, dim F = 2. Fixons une base orthonormale (u, v) de F et orientons F laide de celle-ci. Imitant
le raisonnement 3) ci-dessus, on peut alors montrer que r est soit une rotation, soit une rflexion. Mais
F

tous les points fixes de r sont dans F par dfinition de F , et de plus F F = 0E , donc r

na pas de

point fixe autre que 0E , donc est une rotation, disons dangle de mesure .

Comme u v est orthogonal u et v, u v Vect(u, v) = F

= F . La matrice de r dans la base

cos sin 0
cos
0 comme voulu.
orthonormale directe (u, v, u v) de E est finalement sin
0
0
1

c Christophe Bertault - MPSI

Thorme (Calcul de limage dun vecteur par une rotation en dimension 3)

On suppose E de dimension 3. Soient R et a E unitaire.
On note r la rotation daxe orient par a et dangle de mesure .
(i) Pour tout u E orthogonal a :
(ii) Si de plus u est unitaire :

Dmonstration

cos

r(u) = (cos ) u + (sin ) a u.

cos = u r(u)

et

sin

sin = u, r(u), a .

au
r(u)

Soit u E orthogonal a.

(i) Nous savons que (a, u, au) est une base orthonormale directe de E, donc (u, au, a)
aussi, o (u, au) est

cos sin 0
cos
0,
une base orthonormale de Ker (r IdE ) . La matrice de f dans (u, a u, a) est alors sin
0
0
1
donc en particulier : r(u) = (cos ) u + (sin ) a u.
(ii) Supposons u unitaire. Nous venons de voir que r(u) = (cos ) u + (sin ) a u.
Alors :

u r(u) = u (cos ) u + (sin ) a u

u(au)

cos u

Egalement :

= cos .

u, r(u), a = a, u, r(u) = a u r(u) = a u (cos ) u + (sin ) a u

u(au)

sin a u

= sin .

En pratique Soit r une rotation de E. Comment dterminer ses lments caractristiques, savoir son axe (orient)
et une mesure de son angle ?
1) Laxe de r tant lensemble de ses points fixes, le dterminer revient rsoudre lquation r(x) = x dinconnue
x E facile. En particulier, on peut alors orienter laxe de r laide dun point fixe unitaire a deux choix possibles.
2) Ensuite, si dsigne une mesure de langle de r, on calcule cos et sin avec le thorme prcdent laide dun
vecteur u E unitaire orthogonal a. La valeur de en dcoule, ventuellement sous forme darcsinus/arccosinus.

2
1
6
Exemple La matrice R =
7
3
En effet

3
2
6

6
1
3 est la rotation daxe orient par (1, 3, 3) et dangle de mesure Arccos
19
2

5
.
14

Notons r lendomorphisme de R3 de matrice R dans la base canonique.

On vrifie aisment sur R que r est un automorphisme orthogonal. Et comme det(R) = 1 rgle de Sarrus
par exemple r est une rotation.
Dterminons laxe de r, savoir lensemble Ker (r IdE )

2x 3y + 6z
6x
+ 2y + 3z
(x, y, z) Ker (r IdE )

3x + 6y + 2z

des points fixes de r. Pour tout (x, y, z) R3

= 7x
3x y + 2z
6x
5y + 3z
= 7y

3x + 6y 5z
= 7z

:
=
=
=

aprs L3 L3 L1 L2 , puis L2 L2 + 2L1 .

3x = y = z

1
Ainsi Ker (r IdE ) = Vect (1, 3, 3) . Notons a le vecteur unitaire
(1, 3, 3) et orientons laxe de r
19
laide de a. Alors r est la rotation daxe orient par a et dangle de mesure un certain R.

1
Le vecteur u = (0, 1, 1) est orthogonal a et unitaire, et par
2
0
9
1
5
1
1
et sin = u, r(u), a =
cos = u r(u) =
14
14 19 1
4
5
de sin nous permettent enfin daffirmer que Arccos
14

1
ailleurs r(u) = (9, 1, 4). Du coup
7 2

1
3 19
3 =
. La valeur de cos et le signe
14
3
mod 2.

0
0
0