Rappels : valeurs propres et vecteurs propres

Dnition un vecteur v = 0 de taille p est un vecteur propre dune matrice A de e taille p p sil existe C telle que Av = v. est une valeur propre de A associe ` v. e a Domaine En gnral, les vecteurs propres et valeurs propres sont complexes ; dans e e tous les cas qui nous intressent, ils seront rels. e e Interprtation des vecteurs propres ce sont les directions dans lesquelles la mae trice agit. Interprtation des valeurs propres cest le facteur multiplicatif associ ` une e e a direction donne. e

Valeurs et vecteurs propres : un exemple concret

La matrice 5 1 1 2 4 2 1 1 3 1 1 0 v1 = 1 , v2 = 0 , v3 = 1 . 0 1 1 On vrie facilement que les valeurs propres associes sont e e 1 = 2, 2 = 4, 3 = 6.

a pour vecteurs propres

Cours danalyse de donnes Jean-Marc Lasgouttes anne 2010-2011. e e

38

Cours danalyse de donnes Jean-Marc Lasgouttes anne 2010-2011. e e

39

Valeurs et vecteurs propres : cas particuliers

Matrice nulle sa seule valeur propre est 0, et tout vecteur est vecteur propre. Matrice identit tout vecteur est vecteur propre de I avec valeur propre 1, puisque e Iv = v. Matrice diagonale si D est une matrice diagonale avec les coecients 1, . . . , p, alors le i-`me vecteur coordonne est vecteur propre de D associ ` la valeur propre e e ea i . Laction dune matrice diagonale est de multiplier chacune des coordonnes dun e vecteur par la valeur propre correspondante. Matrice diagonalisable cest une matrice dont les vecteurs propres forment une base de lespace vectoriel : tout vecteur peut tre reprsent de mani`re unique comme e e e e combinaison linaire des vecteurs propres. Une matrice de taille p p qui a p valeurs e propres relles distinctes est diagonalisable dans R. e

Quelques matrices diagonalisables

Matrice symtrique une matrice symtrique relle (A = A) poss`de une base de e e e e vecteurs propres orthogonaux et ses valeurs propres sont relles e vi, vj = 0 si i = j, et i R.

Matrice M-symtrique une matrice M-symtrique relle (A M = MA) poss`de e e e e une base de vecteurs propres M-orthogonaux et ses valeurs propres sont relles e vi , vj
M

= 0 si i = j,

et i R.

Matrice dnie positive cest une matrice symtrique dont les valeurs propres sont e e strictement positives vi, vj = 0 si i = j, et i > 0.

Cours danalyse de donnes Jean-Marc Lasgouttes anne 2010-2011. e e

40

Cours danalyse de donnes Jean-Marc Lasgouttes anne 2010-2011. e e

41

Analyse de VM
Valeurs propres la matrice VM est M-symtrique : elle est donc diagonalisable et e ses valeurs propres 1, . . . , p sont relles. e Axes principaux dinertie ce sont les p vecteurs a1, . . . , ap tels que VMak = k ak , Ils sont M-orthonormaux. Signe des valeurs propres les valeurs propres de VM sont positives et on peut les classer par ordre dcroissant e 1 2 3 p 0. Ide du lien avec linertie on sait que T r(VM) = 1 + + p. Si on ne garde e que les donnes relatives ` a1, . . . , aq , on gardera linertie 1 + + q , et cest le e a mieux quon puisse faire. avec ak , a
M

Rsultat principal e
Thor`me principal e e (Admis)

1. Si Fk est le sous-espace de dimension k portant linertie principale, alors Fk+1 = Fk fk+1, ou fk+1 est le sous espace de dimension 1 M-orthogonal ` Fk portant linertie ` a maximale : les solutions sont embotes ; e 2. Fk est engendr par les k vecteurs propres de VM associs aux k plus grandes e e valeurs propres. Interprtation du thor`me lACP sur k + 1 variables est obtenue par ajout dune e e e variable dinertie maximale ` lACP sur k variables. Il nest pas ncessaire de refaire tout a e le calcul.

= 1 si k = , 0 sinon.

Cours danalyse de donnes Jean-Marc Lasgouttes anne 2010-2011. e e

42

Cours danalyse de donnes Jean-Marc Lasgouttes anne 2010-2011. e e

43

Les composantes principales

Coordonnes des individus supposons que ei g = e
p p =1 ci

Reprsentation des individus dans un plan principal e

a , alors Quest-ce que cest ? pour deux composantes principales c1 et c2, on reprsente e chaque individu i par un point dabscisse ci1 et dordonne ci2. e

ei g, ak

=
=1

ci a , ak

= cik

Axe 2
e6 e7 e4 e5 e2 e8 e3 e1

La coordonne de lindividu centr ei g sur laxe principal ak est donc donn par e e e la projection M-orthogonale cik = ei g, ak
M

= (ei g) Mak .

Composantes principales ce sont les variables ck de taille n dnies par e ck = YMak . Chaque ck contient les coordonnes des projections M-orthogonales des individus e centrs sur laxe dni par les ak . e e
Cours danalyse de donnes Jean-Marc Lasgouttes anne 2010-2011. e e 44

Axe 1

Quand ? Elle est utile quand les individus sont discernables.

Cours danalyse de donnes Jean-Marc Lasgouttes anne 2010-2011. e e 45