Explorer les Livres électroniques
Catégories
Explorer les Livres audio
Catégories
Explorer les Magazines
Catégories
Explorer les Documents
Catégories
Intelligence Artificielle et Machine Learning
Comment l’Intelligence artificielle va‐t‐elle bouleverser votre entreprise ?
Partagez des expériences réussies et des applications concrètes.
État de l’Art du Machine Learning
Pr. Patrice Wira
patrice.wira@uha.fr
Université de Haute Alsace – IRIMAS
patrice.wira@uha.fr
Mardi 13 février 2018 –
1 La Fonderie ‐Université
UHA de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
Institut de
Recherches en
IRIMAS Institut de
Recherches en
Informatique, Informatique,
Mathématiques, Mathématiques,
Automatique et Automatique et
Signal
Institut de Recherches en Signal
Informatique, Mathématiques, Automatique et Signal
Directeur :
Pr. Olivier HAEBERLE
département
département département
Automatique‐Signal‐Image
Mathématique Informatique
Institut de
Recherches en
IRIMAS Institut de
Recherches en
Informatique, Informatique,
Mathématiques, Mathématiques,
Automatique et Automatique et
Signal
En chiffres Signal
• Personnels permanents : 73 EC et 3 Emérites, 3 IR, 1 AI
• Thèses en cours : ±60
• 5‐10 ATER ou Post‐Docs/an
• 30‐40 visiteurs /an, 20‐30 stagiaires/an
• Sur la période 2011‐2016 :
– 280 publications
– 21 ouvrages/chapitres
– 140 congrès (organisation)
– 8 brevets, 4 logiciels
– 3 startups
– 250‐300 k€ contrats/an
patrice.wira@uha.fr
3 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
Institut de
Recherches en
IRIMAS
Handicap/Silver Economy Institut de
Recherches en
Informatique, Informatique,
Mathématiques, Mathématiques,
Automatique et Automatique et
Signal Signal
Mathématiques
Masses de Données
Systèmes Intelligents
Valorisation/Transfert
Mobilités patrice.wira@uha.fr
4 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
Introduction à l’IA et au ML
Les principes du Machine Learning
Sommaire
Applications dans les entreprises
Conclusions
patrice.wira@uha.fr
5 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
1. INTRODUCTION
à l’IA et au ML
patrice.wira@uha.fr
6 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
1. Introduction à l’IA et au ML
• L’Intelligence Artificielle (IA)
L'intelligence artificielle
divise l'opinion publique mondiale
Source : Les Echos, 29/01/2018.
Etude BETC Intitulée « iLife ‐
bienvenue dans la vie sous
algorithmes », cette enquête a été
menée courant 2017 auprès de plus
de 12.000 personnes dans 32 pays.
En savoir plus sur
https://www.lesechos.fr/idees‐
debats/sciences‐
prospective/0301218310153‐
lintelligence‐artificielle‐divise‐
lopinion‐publique‐mondiale‐
2149045.php
patrice.wira@uha.fr
7 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
1. Introduction à l’IA et au ML
• L’Intelligence Artificielle (IA)
L‘IA est « l'ensemble de théories et de techniques mises en œuvre en vue de réaliser des
machines capables de simuler l'intelligence ». Elle correspond donc à un ensemble de
concepts et de technologies plus qu'à une discipline autonome constituée
[source Wikipedia].
On peut adopter la taxinomie suivante :
1. Systèmes symboliques ;
2. Connexionnisme ;
3. Calcul évolutif (algorithmes génétiques, par exemple) ;
4. Alife (vie artificielle) et Complexité ;
5. Agents et robotique.
patrice.wira@uha.fr
8 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
1. Introduction à l’IA et au ML
• IA: les essaims particulaires et colonies de fourmis
1. Introduction à l’IA et au ML
• IA: le calcul évolutif
1. Introduction à l’IA et au ML
• Machine Learning – Apprentissage automatique
L'apprentissage automatique ou
apprentissage statistique (machine statistics
learning en anglais), champ pattern
d'étude de l'intelligence artificielle, recognition neurocomputing
concerne la conception, l'analyse,
le développement et
l'implémentation de méthodes
data machine
permettant à une machine (au
mining learning
sens large) d'évoluer par un artificial
processus basé sur les données intelligence
plutôt que par des algorithmes databases
déterministiques classiques. KDD*
* Knowledge Discovery in Databases
patrice.wira@uha.fr
11 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
2. Les principes du
Machine Learning
patrice.wira@uha.fr
12 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
2. Les principes du Machine Learning
• Un neurone formel
arborisation
Le traitement de l’information par des terminale
neurones biologiques simplifiés : corps cellulaire axone
gaine de myéline
(cellule de Schwann)
noyau noyau (cellule de
Schwann)
dendrite
stimulus
synapse
impulsion nerveuse
différence de neurotransmetteur
potentiel
++++
+ + + vésicules contenant des g
neurotransmetteurs
signal électrique
patrice.wira@uha.fr
13 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
2. Les principes du Machine Learning
• Un neurone formel
arborisation
Le traitement de l’information par terminale
un neurone formel : corps cellulaire axone
gaine de myéline
poids (cellule de Schwann)
synaptiques noyau noyau (cellule de
x1 fonction Schwann)
dendrite
w1 d’agrégation
1 sortie
x2 w2
3 entrées y f ( wi xi )
f( )
x3 w3
patrice.wira@uha.fr
14 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
2. Les principes du Machine Learning
• L’apprentissage des réseaux de neurones
L’apprentissage est le processus qui consiste
à calculer les poids optimaux des neurones
espace de sortie
espace d’entrée
pour avoir la meilleure sortie possible.
Les poids des neurones sont la mémoire du
réseau !
L’apprentissage des neurones dépend de
l’architecture des neurones, de la stratégie
visée et du contexte du problème à traiter
(données disponibles).
Exemple d’un réseau multicouche totalement
connecté avec 2 couches cachées
patrice.wira@uha.fr
15 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
2. Les principes du Machine Learning
• Il existe de nombreuses architectures neuronales
multilayer feedforward network fully recurrent network competitive network self-organizing map
2. Les principes du Machine Learning
• L’apprentissage des réseaux de neurones
L’objectif d’adapter les poids neuronaux sur la "orange"
base de nombreux exemples (cas concrets) est de F( )
"pomme"
reproduire un "mapping" entre un espace
algo de
d’entrée et un espace de sortie. correction +
des poids
L’algorithme d’apprentissage améliore ses ‐
0
capacités grâce à l'expérience. 0
Plutôt que d'indiquer pas à pas comment
parvenir au résultat recherché, on fournit des 1
0
données au réseau qui compare ses résultats à
celui recherché pour tenter ensuite de s'en
rapprocher au mieux.
patrice.wira@uha.fr
17 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
2. Les principes du Machine Learning
• L’apprentissage d’un réseau multicouche (profond)
L’apprentissage est supervisé :
Pour une entrée donnée, une sortie de référence sert à déterminer une erreur de
sortie qui est propagée de couche en couche jusqu’à l’entrée pour mettre à jour les
valeurs des poids de tous les neurones. reference 1
error 1
output 1
output 2
error 2
reference 2
Au départ, les poids sont générés aléatoirement. patrice.wira@uha.fr
18 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
2. Les principes du Machine Learning
• L’apprentissage d’un réseau multicouche (profond)
Il est nécessaire de fournir de nombreux exemples qui doivent être représentatifs
de la réalité que l’on veut « capturer »…
avec des pommes
00
p1
p2 …
…
p3
10
puis avec des oranges… patrice.wira@uha.fr
19 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
2. Les principes du Machine Learning
• L’apprentissage d’un réseau multicouche (profond)
généralisation
données mémorisation
on cherche à obtenir un
compromis entre
généralisation et
modèle de machine
mémorisation
d’apprentissage
nouvelles
données
résultat
patrice.wira@uha.fr
20 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
2. Les principes du Machine Learning
• L’apprentissage d’un réseau multicouche (profond)
modèle de machine
d’apprentissage
nouvelles
données
résultat
patrice.wira@uha.fr
21 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
2. Les principes du Machine Learning
• L’apprentissage d’un réseau multicouche (profond)
modèle de machine
d’apprentissage
nouvelles
données
résultat
patrice.wira@uha.fr
22 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
2. Les principes du Machine Learning
• L’apprentissage d’un réseau multicouche (profond)
F( )
généralisation
mémorisation
Après apprentissage
• le réseau a mémorisé, puis pour
des entrées proches, il donnera
modèle de machine
des réponses proches
d’apprentissage • les groupes des réponses
proches forment des classes
nouvelles
données
résultat
patrice.wira@uha.fr
23 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
2. Les principes du Machine Learning
• L’apprentissage d’un réseau multicouche (profond)
F( )
Quelques remarques :
patrice.wira@uha.fr
24 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
2. Les principes du Machine Learning
• L’apprentissage d’un réseau multicouche (profond)
F( )
généralisation
mémorisation
Quelques remarques :
1. Souvent, on filtre et/ou on prétraite les données d’entrée
patrice.wira@uha.fr
25 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
2. Les principes du Machine Learning
• L’apprentissage d’un réseau multicouche (profond)
Quelques remarques : "orange"
F( )
"pomme"
2. Il est clair que dans cet exemple, il n’existe
aucune formulation mathématique ou d’un
autre type pour exprimer la fonction
F( )
qui fait passer d’un espace « fruits » à un
espace de labels de fruits.
3. L’approche neuronale ne dépend absolument
pas du type de données.
4. L’apprentissage doit aboutir à des poids
optimaux, ceci se fait selon une fonction de
coût. patrice.wira@uha.fr
26 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
2. Les principes du Machine Learning
• L’apprentissage d’un réseau multicouche (profond)over fitting
correct fitting
under fitting
Quelques remarques :
5. Concernant les performances d’estimation
(dans une approche classique il faut choisir un
modèle, un polynôme par ex.)
6. Concernant les performances de classification
plusieurs solutions solution dans la réalité parfois on s’en sort avec des mathématiques
possibles de frontière optimale (souvent…)
patrice.wira@uha.fr
27 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
2. Les principes du Machine Learning
• L’apprentissage d’un réseau multicouche (profond)
F( )
patrice.wira@uha.fr
28 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
2. Les principes du Machine Learning
• L’apprentissage au fil du temps
Pour les réseaux de neurones artificiels, des évolutions majeures surviennent environs
tous les 20 ans :
• les premières approches statistiques sont déjà en place depuis 1900,
• les premiers neurones artificiels sont électriques vers 1960 et informatisés vers 1980
• les données collectées à partir des années 2000 redonnent une dynamique à cette
discipline
2. Les principes du Machine Learning
• Outils, bibliothèques et implémentations
Company Cloud Machine Learning Platform Open source learning libr
Amazon Amazon Machine learning DSSTNE
Baidu Deep Speech
Facebook TorchNet
Google TensorFlow
IBM Watson∙Analytics IBM∙System ML
Microsoft Azure Machine Learning Cognitive Toolkit (previously C
Twitter Twitter Cortex
Yahoo CaffeOnSpark
Nvidia Deep Learning Software cuBLAS
U. Waikato Weka
U. Montréal Theano
UC Berkeley Caffe
Apache Soft. Found. MXNET
Scikit‐learn
Deeplearning for Java Arrivent aussi des petits
Keras nouveaux avec
Torch
Company Multi‐paradigm computing environment
notamment le français
The MathWorks Matlab DataIku, Domino Data Lab
Wolfram Mathematica …
GNU Octave
U. Auckland GNU R
U. Konstanz KNIME
TU. Dortmund RapidMiner
SAS Entreprise Miner & Visual Analyitcs patrice.wira@uha.fr
IBM SPSS
30 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
2. Les principes du Machine Learning
• Précision vs interpretabilité
patrice.wira@uha.fr
31 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
3. Applications
dans les entreprises
patrice.wira@uha.fr
32 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
3. Applications dans les entreprises
• Le Machine Learning se nourrit de données
Source: rapidminer.com/products/
patrice.wira@uha.fr
33 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
3. Applications dans les entreprises
• Le Machine Learning apporte des réponses aux
ENJEUX ÉCONOMIQUES
concept
ENJEUX SÉCURITAIRES
vente production
ENJEUX ENVIRONNEMENTAUX
ENJEUX ORGANISATIONNELS
patrice.wira@uha.fr
34 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
3. Applications dans les entreprises
• Le Machine Learning est une solution concrète à
Analyse des images → prise de décision (biomédical, sécurité, vidéo, etc.)
Analyse de la voix → pilotage des systèmes et des process
3. Applications dans les entreprises
• Le Machine Learning est une solution concrète
modèle de machine
d’apprentissage
ERP : « Enterprise
comptabilité contrôle de gestion Ressource Planning »
• dans la relation état/société : pour la police (aide aux enquêtes),
pour la sécurité sociale, pour la cyber sécurité, pour le respects des lois/morales, etc.
De nombreux métiers vont évoluer vers plus de délégations aux machines…
patrice.wira@uha.fr
36 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
4. CONCLUSIONS
patrice.wira@uha.fr
37 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
4. Conclusions
• En résumé : algorithme classique / Machine Learning
Programmation classique
• Vous programmez tout à partir de zéro. Program
• Le programme prend les données et tous (algorithm)
computer Output
les cas/configurations doivent avoir été Data
prévus.
Machine Learning
• Vous fournissez un modèle de calcul Program
(learning algorithm)
générique (modèle de neurone +
organisation des neurones).
• Le programme prend les données et Computing
template
apprend : il calcule une erreur, met à jour computer Output
les poids, ajoute ou supprime des Data
neurones, des couches, etc.
patrice.wira@uha.fr
38 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
4. Conclusions
• L’apprentissage machine n’est pas une solution magique
• On peut tout apprendre!
• Mais le ML nécessite une expertise pour un apprentissage réellement efficace.
• Mais le ML nécessite beaucoup de données annotées et de qualité.
• Mais le ML est gourmand en ressources : besoins de calcul et de mémoire.
• L’ingénierie des « features » devient la nouvelle ingénierie!
• Un domaine en plain essor
• Les supports matériels de développent à une vitesse vertigineuse
(GPU, clusters, GPU, clusters de GPUs, FPGA, ASIC)
• Bientôt une IA « forte » pour les classification, régression, génération de données...
• Tout ce qui est digital sera impacté…
patrice.wira@uha.fr
39 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
4. Conclusions
• Les données sont le carburant de l’IA
Afin de permettre aux algorithmes d’être dans une démarche d’apprentissage
continue, l’IA se nourrit de l’importante masse de données fournie par le Big
Data. Cette complémentarité se prépare dès à présent, en structurant une
démarche "data driven".
• Un domaine en plain essor
Aujourd’hui, c’est dans des secteurs de plus en plus variés que l’IA peut se glisser,
pour mieux anticiper, mesurer, organiser, ou prendre la décision optimale dans
une situation donnée.
Pour opérer, ces algorithmes n’utilisent pas de modèles physiques, savent tenir
compte d’une multitude de paramètres et de variables, internes ou externes,
et n’ont pas besoin de "comprendre" les données.
patrice.wira@uha.fr
40 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
4. Conclusions
• IA faible vs IA forte
IA faible est un algorithme d’apprentissage/adaptation qui reproduit le résultat
d'un comportement spécifique observé sur la base de données par mémorisation et
assimilation de nouvelles informations. Ces machines sont ultra spécialisées et sont
donc très performantes dans des tâches précises et y mais restent confinées.
En leur donnant la possibilité de sortir de leur spécialisation, elles deviendraient
moins performantes.
IA forte va au delà d'un algorithme d’apprentissage/adaptation en étant doté d'une
sorte de conscience et pourrait appréhender des problèmes différents et variés. On
approche l’intelligence humaine.
Aucune machine de ce type n’a encore été implémentée à ce jour...
patrice.wira@uha.fr
41 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
Pour vos recrutements,
misez sur les thésards
Suprême
de doctorant
sur coulis de
diplôme aux
petits oignons
agrémentés de
compétences
de terrain
aux saveurs
multiples.
42
dessin : Remi Malingrey www.remimalingrey.com
patrice.wira@uha.fr
42 Université de Haute‐Alsace
Mulhouse, 13 février 2018
État de l’Art du Machine Learning
MERCI
patrice.wira@uha.fr
43 Université de Haute‐Alsace
Mulhouse, 13 février 2018