Vous êtes sur la page 1sur 18

Fondamentaux Mathématiques pour les Data Sciences

Fondamentaux Mathématiques
pour les Data Sciences
M2 Data Science

Alexandre Aussem

LIRIS UMR 5205 CNRS


Data Mining & Machine Learning Group (DM2L)
University of Lyon 1
Web: perso.univ-lyon1.fr/alexandre.aussem

October 24, 2017


Fondamentaux Mathématiques pour les Data Sciences

Outline

2 Optimisation avec contraintes


1 Optimisation sans contrainte
Fondamentaux Mathématiques pour les Data Sciences
Optimisation sans contrainte

La descente de gradient : intuition


Fondamentaux Mathématiques pour les Data Sciences
Optimisation sans contrainte

La descente de gradient : algorithme


Fondamentaux Mathématiques pour les Data Sciences
Optimisation sans contrainte

Choix du pas : Recherche linéaire


Fondamentaux Mathématiques pour les Data Sciences
Optimisation sans contrainte

Méthode de Newton
Fondamentaux Mathématiques pour les Data Sciences
Optimisation sans contrainte

Méthode de Newton
Fondamentaux Mathématiques pour les Data Sciences
Optimisation sans contrainte

Méthode de Newton : cas multidimensionnel


Fondamentaux Mathématiques pour les Data Sciences
Optimisation avec contraintes

Exemples de problèmes avec contraintes


Fondamentaux Mathématiques pour les Data Sciences
Optimisation avec contraintes

Condition d’existence d’un minimum


Fondamentaux Mathématiques pour les Data Sciences
Optimisation avec contraintes

Condition du premier ordre


Fondamentaux Mathématiques pour les Data Sciences
Optimisation avec contraintes

Projection sur les convexes fermés


Fondamentaux Mathématiques pour les Data Sciences
Optimisation avec contraintes

Illustration
Fondamentaux Mathématiques pour les Data Sciences
Optimisation avec contraintes

Contraintes et Lagrangien
Fondamentaux Mathématiques pour les Data Sciences
Optimisation avec contraintes

Conditions de Karush-Khunn-Tucker
Fondamentaux Mathématiques pour les Data Sciences
Optimisation avec contraintes

Exemple de résolution
Fondamentaux Mathématiques pour les Data Sciences
Optimisation avec contraintes

Vérification visuelle
Fondamentaux Mathématiques pour les Data Sciences
Optimisation avec contraintes

References I

Christopher M. Bishop.
Pattern Recognition and Machine Learning.
Springer, 2006.
Anne Sabourin et Joseph Salmon.
Fondamentaux pour le Big Data, Télécom ParisTech.

Vous aimerez peut-être aussi