Vous êtes sur la page 1sur 43

État de l’Art du Machine Learning

Intelligence Artificielle et Machine Learning
Comment l’Intelligence artificielle va‐t‐elle bouleverser votre entreprise ?
Partagez des expériences réussies et des applications concrètes.

État de l’Art du Machine Learning

Pr. Patrice Wira
patrice.wira@uha.fr 
Université de Haute Alsace  – IRIMAS 

patrice.wira@uha.fr
Mardi 13 février 2018 –
1 La Fonderie ‐Université
UHA de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

Institut de 
Recherches en 
IRIMAS Institut de 
Recherches en 
Informatique,  Informatique, 
Mathématiques,  Mathématiques, 
Automatique et  Automatique et 
Signal
Institut de Recherches en  Signal
Informatique, Mathématiques, Automatique et Signal
Directeur : 
Pr. Olivier HAEBERLE

département
département département
Automatique‐Signal‐Image
Mathématique Informatique

Pr. Nacer MAKHLOUF Pr. Lhassane IDOUMGHAR Pr. Patrice WIRA


14 EC 28 EC 31 EC, 3 IR, 1 AI
2 équipes :  3 équipes :  3 équipes : 
Algèbre‐Géométrie, GL, TR, MAGE MIAM, IMTI, FOTI
Analyse
patrice.wira@uha.fr
2 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

Institut de 
Recherches en 
IRIMAS Institut de 
Recherches en 
Informatique,  Informatique, 
Mathématiques,  Mathématiques, 
Automatique et  Automatique et 
Signal
En chiffres Signal
• Personnels permanents : 73 EC et 3 Emérites, 3 IR, 1 AI
• Thèses en cours : ±60
• 5‐10 ATER ou Post‐Docs/an
• 30‐40 visiteurs /an, 20‐30 stagiaires/an

• Sur la période 2011‐2016 :
– 280 publications
– 21 ouvrages/chapitres
– 140 congrès (organisation)
– 8 brevets, 4 logiciels
– 3 startups
– 250‐300 k€ contrats/an
patrice.wira@uha.fr
3 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

Institut de 
Recherches en 
IRIMAS
Handicap/Silver Economy Institut de 
Recherches en 
Informatique,  Informatique, 
Mathématiques,  Mathématiques, 
Automatique et  Automatique et 
Signal Signal

Mathématiques

Masses de Données

Systèmes Intelligents

Valorisation/Transfert

Mobilités patrice.wira@uha.fr
4 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

Introduction à l’IA et au ML

Les principes du Machine Learning
Sommaire
Applications dans les entreprises

Conclusions

patrice.wira@uha.fr
5 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

1. INTRODUCTION
à l’IA et au ML

patrice.wira@uha.fr
6 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

1. Introduction à l’IA et au ML
• L’Intelligence Artificielle (IA)

L'intelligence artificielle
divise l'opinion publique mondiale

Source : Les Echos, 29/01/2018. 
Etude BETC Intitulée « iLife ‐
bienvenue dans la vie sous 
algorithmes », cette enquête a été 
menée courant 2017 auprès de plus 
de 12.000 personnes dans 32 pays.
En savoir plus sur 
https://www.lesechos.fr/idees‐
debats/sciences‐
prospective/0301218310153‐
lintelligence‐artificielle‐divise‐
lopinion‐publique‐mondiale‐
2149045.php

patrice.wira@uha.fr
7 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

1. Introduction à l’IA et au ML
• L’Intelligence Artificielle (IA)

L‘IA est « l'ensemble de théories et de techniques mises en œuvre en vue de réaliser des
machines capables de simuler l'intelligence ». Elle correspond donc à un ensemble de
concepts et de technologies plus qu'à une discipline autonome constituée
[source Wikipedia].
On peut adopter la taxinomie suivante :
1. Systèmes symboliques ;
2. Connexionnisme ;
3. Calcul évolutif (algorithmes génétiques, par exemple) ;
4. Alife (vie artificielle) et Complexité ;
5. Agents et robotique.
patrice.wira@uha.fr
8 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

1. Introduction à l’IA et au ML
• IA: les essaims particulaires et colonies de fourmis 

Le ML n’est pas la seule approche d’inspiration biologique.


Les essaims particulaires et colonies de
fourmis sont des méthodes Ex. d’une colonie de fourmis
d'optimisation basées sur la collaboration
des individus entre eux. Elles s'appuient
sur le concept d'auto-organisation qui
veut qu'un groupe d'individus peu
intelligents peut posséder une
organisation globale complexe.
Grâce à des règles de déplacement très obstacle
simples (dans l'espace des solutions), les
particules/fourmis peuvent converger
progressivement vers une solution patrice.wira@uha.fr
optimale. 9 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

1. Introduction à l’IA et au ML
• IA: le calcul évolutif

Le calcul évolutif (algorithme génétique) commence avec une


population de base qui se compose le plus souvent de chaînes
de caractères correspondant chacune à un chromosome
(c’est un codage, il peut être binaire, par ex. 0100110).
Le contenu de cette population initiale est généré
aléatoirement. On attribue à chacune des solutions une note qui
correspond à son adaptation au problème. Ensuite, on effectue
une sélection au sein de cette population. Au fur et à mesure
des données on fait évoluer les populations de solutions de
manière progressive. A la fin, les gènes conservés au sein d'une
population donnée sont ceux qui sont le plus adaptés aux
besoins de l'espèce vis-à-vis de son environnement.
patrice.wira@uha.fr
10 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

1. Introduction à l’IA et au ML
• Machine Learning – Apprentissage automatique
L'apprentissage automatique ou 
apprentissage statistique (machine  statistics
learning en anglais), champ  pattern 
d'étude de l'intelligence artificielle,  recognition neurocomputing
concerne la conception, l'analyse, 
le développement et 
l'implémentation de méthodes 
data  machine 
permettant à une machine (au 
mining learning
sens large) d'évoluer par un  artificial
processus basé sur les données  intelligence
plutôt que par des algorithmes  databases
déterministiques classiques. KDD*

* Knowledge Discovery in Databases
patrice.wira@uha.fr
11 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

2. Les principes du 
Machine Learning

patrice.wira@uha.fr
12 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

2. Les principes du Machine Learning
• Un neurone formel
arborisation 
Le traitement de l’information par des terminale
neurones biologiques simplifiés : corps cellulaire axone

gaine de myéline
(cellule de Schwann)
noyau noyau (cellule de 
Schwann)
dendrite
stimulus
synapse
impulsion nerveuse 
différence de   neurotransmetteur
potentiel
++++
+ + + vésicules contenant des g 
neurotransmetteurs
signal électrique
patrice.wira@uha.fr
13 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

2. Les principes du Machine Learning
• Un neurone formel
arborisation 
Le traitement de l’information par terminale
un neurone formel : corps cellulaire axone

gaine de myéline
poids (cellule de Schwann)
synaptiques noyau noyau (cellule de 
x1 fonction Schwann)
dendrite
w1 d’agrégation

1 sortie
x2 w2
3 entrées  y  f ( wi xi )
f( )
x3 w3
patrice.wira@uha.fr
14 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

2. Les principes du Machine Learning
• L’apprentissage des réseaux de neurones

L’apprentissage est le processus qui consiste 
à calculer les poids optimaux des neurones 

espace de sortie
espace d’entrée
pour avoir la meilleure sortie possible.

Les poids des neurones sont la mémoire du 
réseau !

L’apprentissage des neurones dépend de 
l’architecture des neurones, de la stratégie 
visée et du contexte du problème à traiter 
(données disponibles).
Exemple d’un réseau multicouche totalement 
connecté avec 2 couches cachées
patrice.wira@uha.fr
15 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

2. Les principes du Machine Learning
• Il existe de nombreuses architectures neuronales

multilayer feedforward network fully recurrent network competitive network self-organizing map

Jordan network partial recurrent network recurrent network "reservoir" network


with dual connections with self connections
patrice.wira@uha.fr
16 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

2. Les principes du Machine Learning
• L’apprentissage des réseaux de neurones

L’objectif d’adapter les poids neuronaux sur la  "orange"
base de nombreux exemples (cas concrets) est de  F( )
"pomme"
reproduire un "mapping" entre un espace 
algo de 
d’entrée et un espace de sortie. correction  +
des poids
L’algorithme d’apprentissage améliore ses  ‐
0
capacités grâce à l'expérience.  0

Plutôt que d'indiquer pas à pas comment 
parvenir au résultat recherché, on fournit des  1
0
données au réseau qui compare ses résultats à 
celui recherché pour tenter ensuite de s'en 
rapprocher au mieux.
patrice.wira@uha.fr
17 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

2. Les principes du Machine Learning
• L’apprentissage d’un réseau multicouche (profond)

L’apprentissage est supervisé : 
Pour une entrée donnée, une sortie de référence sert à déterminer une erreur de 
sortie qui est propagée de couche en couche jusqu’à l’entrée pour mettre à jour les 
valeurs des poids de tous les neurones. reference 1

error 1 
 output 1

output 2

error 2 
reference 2
Au départ, les poids sont générés aléatoirement. patrice.wira@uha.fr
18 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

2. Les principes du Machine Learning
• L’apprentissage d’un réseau multicouche (profond)

Il est nécessaire de fournir de nombreux exemples qui doivent être représentatifs 
de la réalité que l’on veut « capturer »…

avec des pommes
00

p1

p2 …


p3 

10
puis avec des oranges… patrice.wira@uha.fr
19 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

2. Les principes du Machine Learning
• L’apprentissage d’un réseau multicouche (profond)

généralisation

données mémorisation

on cherche à obtenir un
compromis entre
généralisation et
modèle de machine
mémorisation
d’apprentissage

nouvelles
données
résultat

patrice.wira@uha.fr
20 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

2. Les principes du Machine Learning
• L’apprentissage d’un réseau multicouche (profond)

modèle de machine
d’apprentissage

nouvelles
données
résultat

patrice.wira@uha.fr
21 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

2. Les principes du Machine Learning
• L’apprentissage d’un réseau multicouche (profond)

modèle de machine
d’apprentissage

nouvelles
données
résultat

patrice.wira@uha.fr
22 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

2. Les principes du Machine Learning
• L’apprentissage d’un réseau multicouche (profond)
F( )

généralisation

mémorisation

Après apprentissage
• le réseau a mémorisé, puis pour 
des entrées proches, il donnera 
modèle de machine
des réponses proches
d’apprentissage • les groupes des réponses 
proches forment des classes
nouvelles
données
résultat

patrice.wira@uha.fr
23 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

2. Les principes du Machine Learning
• L’apprentissage d’un réseau multicouche (profond)
F( )

Quelques remarques : 

patrice.wira@uha.fr
24 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

2. Les principes du Machine Learning
• L’apprentissage d’un réseau multicouche (profond)
F( )

généralisation

mémorisation

Quelques remarques : 
1. Souvent, on filtre et/ou on prétraite les données d’entrée

patrice.wira@uha.fr
25 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

2. Les principes du Machine Learning
• L’apprentissage d’un réseau multicouche (profond)

Quelques remarques :  "orange"
F( )
"pomme"
2. Il est clair que dans cet exemple, il n’existe 
aucune formulation mathématique ou d’un 
autre type pour exprimer la fonction            
F( )
qui fait passer d’un espace « fruits » à un 
espace de labels de fruits.

3. L’approche neuronale ne dépend absolument 
pas du type de données.

4. L’apprentissage doit aboutir à des poids 
optimaux, ceci se fait selon une fonction de 
coût. patrice.wira@uha.fr
26 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

2. Les principes du Machine Learning
• L’apprentissage d’un réseau multicouche (profond)over fitting
correct fitting
under fitting

Quelques remarques : 

5. Concernant les performances d’estimation
(dans une approche classique il faut choisir un 
modèle, un polynôme par ex.) 

6. Concernant les performances de classification

plusieurs solutions                      solution                    dans la réalité        parfois on s’en sort avec des mathématiques
possibles de frontière                   optimale                                                    (souvent…)
patrice.wira@uha.fr
27 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

2. Les principes du Machine Learning
• L’apprentissage d’un réseau multicouche (profond)

Le « deep learning » est la dernière révolution dans le ML : 

F( )

patrice.wira@uha.fr
28 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

2. Les principes du Machine Learning
• L’apprentissage au fil du temps
Pour les réseaux de neurones artificiels, des évolutions majeures surviennent environs 
tous les 20 ans : 
• les premières approches statistiques sont déjà en place depuis 1900, 
• les premiers neurones artificiels sont électriques vers 1960 et informatisés vers 1980 
• les données collectées à partir des années 2000 redonnent une dynamique à cette 
discipline

biological electrical engineering                                    computer science                                           Internet (big data)


motivations

1940 1960 1980 2000 2020


les bases du                 nouveaux                  nouveaux                  nouvelles règles  explosion des 
neurone  formel     neurones réseaux + règles  d’apprentissage +  applications
+ réseaux + règles  d’apprentissage explosion des données …
d’apprentissage patrice.wira@uha.fr
29 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

2. Les principes du Machine Learning
• Outils, bibliothèques et implémentations
Company Cloud Machine Learning Platform Open source learning libr
Amazon Amazon Machine learning DSSTNE
Baidu Deep Speech
Facebook TorchNet
Google TensorFlow
IBM Watson∙Analytics IBM∙System ML
Microsoft Azure Machine Learning Cognitive Toolkit (previously C
Twitter Twitter Cortex
Yahoo CaffeOnSpark
Nvidia Deep Learning Software cuBLAS
U. Waikato Weka
U. Montréal Theano
UC Berkeley Caffe
Apache Soft. Found. MXNET
Scikit‐learn
Deeplearning for Java Arrivent aussi des petits 
Keras nouveaux avec 
Torch
Company Multi‐paradigm computing environment
notamment le français 
The MathWorks Matlab DataIku, Domino Data Lab
Wolfram Mathematica …
GNU Octave
U. Auckland GNU R
U. Konstanz KNIME
TU. Dortmund RapidMiner
SAS Entreprise Miner & Visual Analyitcs patrice.wira@uha.fr
IBM SPSS
30 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

2. Les principes du Machine Learning
• Précision vs interpretabilité

patrice.wira@uha.fr
31 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

3. Applications 
dans les entreprises

patrice.wira@uha.fr
32 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

3. Applications dans les entreprises
• Le Machine Learning se nourrit de données

Source: rapidminer.com/products/

patrice.wira@uha.fr
33 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

3. Applications dans les entreprises
• Le Machine Learning apporte des réponses aux
ENJEUX ÉCONOMIQUES
concept

ENJEUX SÉCURITAIRES

opération Apport du  design


Machine Learning
ENJEUX TECHNOLOGIQUES

vente production

ENJEUX ENVIRONNEMENTAUX
ENJEUX ORGANISATIONNELS
patrice.wira@uha.fr
34 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

3. Applications dans les entreprises
• Le Machine Learning est une solution concrète à

Analyse des images → prise de décision (biomédical, sécurité, vidéo, etc.)

Analyse de la voix →  pilotage des systèmes et des process

Exploration des retours d’expérience et données « clients »  


→  améliora on des produits, op misa on de la stratégie marke ng

Automatisation des tâches  →   analyse et améliora on des emails


(gain de temps/productivité)              pour des réponses automatiques...

Exploitation du Big Data   → gestion des données d’Internet


→ données de l’Internet des objets
→ édi on/publica on automa que
patrice.wira@uha.fr
35 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

3. Applications dans les entreprises
• Le Machine Learning est une solution concrète

On peut « pluger » tout système informatique directement sur un process de ML


logistique         marketing   
• au sein d’une entreprise

modèle de machine
d’apprentissage

ERP  : « Enterprise 
comptabilité   contrôle de gestion  Ressource Planning »
• dans la relation état/société : pour la police (aide aux enquêtes), 
pour la sécurité sociale, pour la cyber sécurité, pour le respects des lois/morales, etc.

De nombreux métiers vont évoluer vers plus de délégations aux machines… 
patrice.wira@uha.fr
36 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

4. CONCLUSIONS

patrice.wira@uha.fr
37 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

4. Conclusions
• En résumé : algorithme classique / Machine Learning
Programmation classique
• Vous programmez tout à partir de zéro. Program
• Le programme prend les données et tous  (algorithm) 
computer Output 
les cas/configurations  doivent avoir été  Data
prévus.

Machine Learning
• Vous fournissez un modèle de calcul  Program 
(learning algorithm)
générique (modèle de neurone + 
organisation des neurones).
• Le programme prend les données et  Computing
template
apprend : il calcule une erreur, met à jour  computer Output 
les poids, ajoute ou supprime des  Data
neurones, des couches, etc.
patrice.wira@uha.fr
38 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

4. Conclusions
• L’apprentissage machine n’est pas une solution magique
• On peut tout apprendre!
• Mais le ML nécessite une expertise pour un apprentissage réellement efficace.
• Mais le ML nécessite beaucoup de données annotées et de qualité.
• Mais le ML est gourmand en ressources : besoins de calcul et de mémoire.
• L’ingénierie des « features » devient la nouvelle ingénierie!

• Un domaine en plain essor
• Les supports matériels de développent à une vitesse vertigineuse 
(GPU, clusters, GPU, clusters de GPUs, FPGA, ASIC)
• Bientôt une IA « forte » pour les classification, régression, génération de données...
• Tout ce qui est digital sera impacté…

patrice.wira@uha.fr
39 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

4. Conclusions
• Les données sont le carburant de l’IA
Afin de permettre aux algorithmes d’être dans une démarche d’apprentissage 
continue,  l’IA se nourrit de l’importante masse de données fournie par le Big
Data. Cette complémentarité se prépare dès à présent, en structurant une 
démarche "data driven".

• Un domaine en plain essor
Aujourd’hui, c’est dans des secteurs de plus en plus variés que l’IA peut se glisser,
pour mieux anticiper, mesurer, organiser, ou prendre la décision optimale dans 
une situation donnée.

Pour opérer, ces algorithmes n’utilisent pas de modèles physiques, savent tenir
compte d’une multitude de paramètres et de variables, internes ou externes,
et n’ont pas besoin de "comprendre" les données.

patrice.wira@uha.fr
40 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

4. Conclusions
• IA faible vs IA forte
IA faible  est un algorithme d’apprentissage/adaptation qui reproduit le résultat 
d'un comportement spécifique observé sur la base de données par mémorisation et  
assimilation de nouvelles informations. Ces machines sont ultra spécialisées et sont 
donc très performantes dans des tâches précises et y mais restent confinées.

En leur donnant la possibilité de sortir de leur spécialisation, elles deviendraient 
moins performantes.

IA forte va au delà d'un algorithme d’apprentissage/adaptation en étant doté d'une 
sorte de conscience et pourrait appréhender des problèmes différents et variés. On 
approche l’intelligence humaine.

Aucune machine de ce type n’a encore été implémentée à ce jour... 

patrice.wira@uha.fr
41 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

Pour vos recrutements, 
misez sur les thésards

Suprême 
de doctorant 
sur coulis de 
diplôme aux 
petits oignons 
agrémentés de 
compétences 
de terrain 
aux saveurs 
multiples.

42
dessin : Remi Malingrey www.remimalingrey.com

patrice.wira@uha.fr
42 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning

MERCI

patrice.wira@uha.fr
43 Université de Haute‐Alsace
Mulhouse, 13 février 2018

Vous aimerez peut-être aussi