Vous êtes sur la page 1sur 16

Analyse des données et algèbre linéaire

Espaces Vectoriels

Espaces vectoriels réels


Espaces et sous-espaces vectoriels I Machine-Learning : Une donnée xi = un ensemble de
Dimension, familles libres et génératrices ‘features’ (caractères) d’un individu i
Applications linéaires
Définition, composition
xi = (xi,1 , . . . , xi,p )
Image, noyau
ex : xi = (âgei , taillei , poidsi , revenui , loyeri )
I  les données  = une (grande) matrice.

Rôle clé de l’algèbre linéaire.


Anne Sabourin
Fondamentaux pour le Big Data
c Télécom ParisTech 1/15
Objectifs du cours d’algèbre

I Vérifier que que les notions de bases abordées sont connues.


I Si certains points posent problème, servez vous du cours
Espaces Vectoriels comme guide de lecture pour travailler, par exemple avec

Espaces vectoriels réels


Espaces et sous-espaces vectoriels
Dimension, familles libres et génératrices

Applications linéaires
Définition, composition
Image, noyau

Anne Sabourin
Fondamentaux pour le Big Data
c Télécom ParisTech 2/15
Plan du cours d’algèbre

Semaine 1
I Espaces vectoriels réels
Espaces Vectoriels
I Applications linéaires
I Matrices
Espaces vectoriels réels
Espaces et sous-espaces vectoriels
Dimension, familles libres et génératrices
Semaine 2
Applications linéaires
Définition, composition
I Produit scalaire, projections, interprétations géométriques
Image, noyau I Réductions de matrices

Anne Sabourin
Fondamentaux pour le Big Data
c Télécom ParisTech 3/15
Espace vectoriel réel

Un espace vectoriel est une famille E d’objets (vecteurs,


matrices, fonctions, . . .) que l’on peut additionner entre eux et
multiplier par un scalaire (= un nombre réel ou complexe). La
Espaces Vectoriels
famille doit contenir un  vecteur nul  noté 0E ou 0.

Par exemple, le plan : E = {(x, y ), x ∈ R, y ∈ R} = R2 .


Espaces vectoriels réels
Espaces et sous-espaces vectoriels
Dimension, familles libres et génératrices

Applications linéaires
Définition, composition 0
Image, noyau

Anne Sabourin
Fondamentaux pour le Big Data
c Télécom ParisTech 4/15
Espace vectoriel réel

Un espace vectoriel est une famille E d’objets (vecteurs,


matrices, fonctions, . . .) que l’on peut additionner entre eux et
multiplier par un scalaire (= un nombre réel ou complexe). La
Espaces Vectoriels famille doit contenir un  vecteur nul  noté 0E ou 0.

Espaces vectoriels réels I Le vecteur nul ‘0’ vérifie, pour tout x ∈ E ,


Espaces et sous-espaces vectoriels x + 0 = 0 + x = x,
Dimension, familles libres et génératrices
I Tout élément x a un opposé noté −x, tel que
Applications linéaires x + (−x) = (−x) + x = 0.
Définition, composition I ex :
Image, noyau
I Dans ce cours, E = Rp ,  dimension finie .
(ex : espace de caractéristiques d’ individus).
I Hors programme : Espaces de dimension infinie (ex : RKHS)

Anne Sabourin
Fondamentaux pour le Big Data
c Télécom ParisTech 4/15
Espace vectoriel engendré par une famille
finie (u1 , u2 , . . . , uK ) ⊂ E
Ensemble V des combinaisons linéaires des ui :
K
nX o
V = Vect(u1 , . . . , uK ) = λi ui : λ1 , . . . , λ K ∈ R
Espaces Vectoriels i=1

Espaces vectoriels réels


Espaces et sous-espaces vectoriels
Dimension, familles libres et génératrices
u
Applications linéaires
v
Définition, composition
Image, noyau

V est un sous-espace vectoriel de E , i.e. V ⊂ E et V est


stable par combinaisons linéaires :

∀x, y ∈ F , ∀λ ∈ R, x + λy ∈ F . ( exo : vérifiez-le !)


Anne Sabourin
Fondamentaux pour le Big Data
c Télécom ParisTech 5/15
Sous-espaces : exemples
I Le sous-espace engendré par 0 est {0}. Un vecteur engendre
une droite, deux vecteurs engendrent un plan.
I Une intersection de sous-espaces vectoriels est un sous
espace vectoriel (exercice).
Espaces Vectoriels I Exercice : Si E = Rn , vérifiez que
n
( )
Espaces vectoriels réels
X
F = x = (x1 , . . . , xn ) : xi = 0
Espaces et sous-espaces vectoriels
i=1
Dimension, familles libres et génératrices

Applications linéaires est un sous espace vectoriel de E .


Définition, composition Vérifiez également que
Image, noyau
n
( )
X
G= x = (x1 , . . . , xn ) : xi = 1
i=1

n’en est pas un.


Anne Sabourin
Fondamentaux pour le Big Data
c Télécom ParisTech 6/15
Dimension, rang

I E est de dimension finie s’il existe une famille finie


U = (u1 , . . . , uk ) qui engendre E .
Espaces Vectoriels
I La dimension dim(F ) d’un SEV F ⊂ E est le nombre
minimal de vecteurs requis pour engendrer F .
Espaces vectoriels réels ex : pour F = E = Rp , dim(Rp ) = p.
Espaces et sous-espaces vectoriels
Dimension, familles libres et génératrices
I Rang d’une famille de vecteurs :
Applications linéaires
Définition, composition
rang(u1 , . . . , uK ) := dimVect(u1 , . . . , uK ) ≤ K .
Image, noyau

I si F ⊂ E est un sous espace de E , dim(F ) ≤ dim(E ).

Anne Sabourin
Fondamentaux pour le Big Data
c Télécom ParisTech 7/15
Familles libres ou liées
famille liée
U = (u1 , . . . , uK ) de E est liée ou linéairement dépendante s’il
existe une combinaison linéaire nulle avec au moins un coefficient
non nul :
Espaces Vectoriels
∃(λ1 , . . . , λK ) 6= (0, . . . , 0) tels que λ1 u1 + · · · + λK uK = 0 .

Espaces vectoriels réels


Espaces et sous-espaces vectoriels
I Une famille est libre ou linéairement indépendante si . . .
Dimension, familles libres et génératrices elle n’est pas liée.
Applications linéaires ex : dans R3 :
Définition, composition I ((1, 0, 0), (0, 1, 0), (0, 0, 1)) est libre
Image, noyau
I (1, 0, 0), (0, 1, 0), (4, 5, 0) est liée.

rang et dépendance linéaire


Si U est libre, rang(U) = K , sinon rang(U) < K

Anne Sabourin
Fondamentaux pour le Big Data
c Télécom ParisTech 8/15
Bases
U = (u1 , . . . , uK ) ⊂ E est appelée base de E si elle est libre et
si elle engendre E (i.e., si Vect(U) = E ).

I Si dim(E ) = p, les bases de E ont toutes p éléments.


Espaces Vectoriels I Dans une base U donnée, pour x ∈ E , il existe une unique
combinaison linéaire des ui telle que
Espaces vectoriels réels p
X
Espaces et sous-espaces vectoriels x= xi ui .
Dimension, familles libres et génératrices
i=1
Applications linéaires
xi est la i eme coordonnée de x dans la base U.
Définition, composition P
Image, noyau B x = i xi ui , ne veut pas dire x = (x1 , . . . , xp ).
Les coordonnées xi dépendent de la base choisie.

I ex : dans la base U = ((0, 1), (1, 1)) de R2 , que vaut


1 u1 + 2 u2 ? comparer avec le vecteur (1, 2).
Anne Sabourin
Fondamentaux pour le Big Data
c Télécom ParisTech 9/15
Applications linéaires
déf : E = Rp , F = Rn . Une fonction

f : E −→ F
x 7→ f (x)
Espaces Vectoriels
est une application linéaire si
I f (x + y) = f (x) + f (y)
Espaces vectoriels réels
Espaces et sous-espaces vectoriels
I f (λx) = λf (x)
Dimension, familles libres et génératrices

Applications linéaires I Si U = (u1 , . . . , up ) est une base de E = Rp , f est


Définition, composition déterminée par l’image de U : {f (u1 ), . . . , f (up )}.
Image, noyau P
I En effet, si x = xi ui ,

f (x) = f (x1 u1 + · · · xp up )
= x1 f (u1 ) + · · · xp f (up ) par linéarité.

Anne Sabourin
Fondamentaux pour le Big Data
c Télécom ParisTech 10/15
Composition d’applications linéaires

I Soient f : E → F et g : F → G , linéaires.
I on définit la composée de f par g

Espaces Vectoriels g ◦ f : E −→ G
x 7→ g [f (x)]
Espaces vectoriels réels
Espaces et sous-espaces vectoriels
Dimension, familles libres et génératrices

Applications linéaires
Définition, composition
Image, noyau

Exo : vérifier que la composée g ◦ f est encore une application


linéaire, cette fois de E dans G .

Anne Sabourin
Fondamentaux pour le Big Data
c Télécom ParisTech 11/15
Image, surjectivité
Soit g : E → F , linéaire.
Image de g
Im g = {y ∈ F : ∃x ∈ E , y = g (x)}
Espaces Vectoriels
Im g est un SEV de F (vérification : exercice).
Espaces vectoriels réels
Rang de g : dimension de l’image
Espaces et sous-espaces vectoriels
Dimension, familles libres et génératrices
rang(g ) = dim(Im g )
Applications linéaires
Définition, composition
Image, noyau
déf : g est surjective si
Im g = F .
prop : rang g = dim F ⇒ Im g = F , i.e. g surjective.

Anne Sabourin
Fondamentaux pour le Big Data
c Télécom ParisTech 12/15
Noyau, injectivité

g : E → F linéaire
Noyau de g
Espaces Vectoriels
Ker g = {x ∈ E : g (x) = 0}
Espaces vectoriels réels Ker g est aussi un SEV de E (exercice).
Espaces et sous-espaces vectoriels
Dimension, familles libres et génératrices
déf : g est injective si
Applications linéaires
Définition, composition
{g (x) = g (x 0 )} ⇒ x = x 0.
Image, noyau
prop : g injective ⇔ Ker g = {0}

Anne Sabourin
Fondamentaux pour le Big Data
c Télécom ParisTech 13/15
Bijections, Inverse
déf : g est bijective si
g est injective et surjective.
On a alors : ∀y ∈ F , ∃ !x ∈ E tel que y = g (x).

g : E → F bijective, linéaire.
Espaces Vectoriels
I g envoie toute base de E sur une base de F , donc E et F
ont la même dimension
Espaces vectoriels réels
Espaces et sous-espaces vectoriels inverse de g (si g bijective) : l’application
Dimension, familles libres et génératrices
g −1 : F 7→ E
Applications linéaires
Définition, composition
y 7→ x tel que g (x) = y
Image, noyau
I g −1 est bien définie car x existe et est unique.
I g −1 est linéaire, bijective.
I g ◦ g −1 = IF (application identité de F , y 7→ y )
I g −1 ◦ g = IE (application identité de E , x 7→ x)
Anne Sabourin
Fondamentaux pour le Big Data
c Télécom ParisTech 14/15
Théorème du rang
Dimension de l’espace de départ =
dimension de l’image + dimension du noyau

dim(E ) = dim(Im g ) + dim(Ker g )


Espaces Vectoriels

g
Espaces vectoriels réels
Espaces et sous-espaces vectoriels E F
Dimension, familles libres et génératrices
Ker g
Applications linéaires
Définition, composition
Im g
Image, noyau

conséquence : si dim E = dim F (par exemple si E = F )


g injective ⇔ g surjective ⇔ g bijective.
Anne Sabourin
Fondamentaux pour le Big Data
c Télécom ParisTech 15/15