01 SIAM Master TI 20162017 Intro 03 Nov 2016

04/11/2016
Systmes Intelligents & Apprentissage Machine

Master Traitement de lInformation (2016-2017)
Prof. Abdelaziz Bouroumi

a.bouroumi@gmail.com
04/11/2016 Systmes Intelligents & AM- Master TI, 2016 A. Bouroumi 01. Intro
01. Prsentation du Module + Introduction
1
04/11/2016
Prsentation gnrale 3
SIAM est un cours dalgorithmique et de programmation

avances.
Il concerne:
ltude,
la programmation, et
le test sur des donnes relles (benchmark)
dalgorithmes couramment utiliss dans le domaine de
lapprentissage machine.
Lapprentissage machine (ou apprentissage automatique, ou
apprentissage partir de donnes, ou machine learning) est
un domaine de recherche en plein essor.
Apprentissage machine (AM) 4
AM est une branche de lintelligence artificielle qui

sintresse lextraction de connaissances partir de bases
de donnes en vue de les utiliser pour faire des prdictions,
prendre des dcisions, etc.
AM est utilis pour apporter des solutions approches des
problmes difficiles du monde rel quon ne sait pas
rsoudre par des mthodes traditionnelles.
Ces problmes se posent gnralement en termes de:
Optimisation,
Recherche,
Dcision.
2
04/11/2016
Types de problmes du monde rel 5
1. Problmes de recherche: peuvent tre formuls

mathmatiquement sous forme dun point dans un espace
de recherche (ensembles des solutions possibles).
2. Problmes doptimisation: recherche de la meilleure faon
possible de faire quelque chose ncessit dun critre
objectif maximiser ou minimiser.
3. Problmes de dcision: peuvent se poser sous forme dune
question laquelle on peut rpondre par oui ou non.
Exemples:
spam?
tumeur maligne?
Systmes intelligents (SI) 6
Un SI est un systme qui implmente, matriellement ou

sous forme logicielle, de lintelligence naturelle.
Une machine ou un programme intelligent est capable
dinteragir dynamiquement avec son environnement ou son
utilisateur.
Les SI peuvent avoir diffrentes formes:
Robots industriels, mnagers, domestiques,
Programmes de reconnaissance de formes (visages, spams,
intrusions, maladies, pannes, )
Systmes de recommandation (films, musique, livres,
informations, pages web, )
3
04/11/2016
SI 7
Logiciels de jeux: cartes, checs,

Jeux vidos,
Voitures intelligentes:
dtection automatique de pitons, obstacles,
freinage automatique,
stationnement automatique,
change dinformations avec dautres vhicules,
Villes intelligentes:
transport en commun (minimisation du temps dattente, maximisation
du confort, de la scurit, etc.),
services hospitaliers (optimisation de lexploitation des ressources,
optimisation du rendement global, minimisation du cot, )
Casablanca: ville intelligente? 8
Source: (http://www.e-madina.org/ )
4
04/11/2016
Conception dun SI 9
Ncessite la modlisation de la tche intelligente

automatiser.
Modliser une tche intelligente cest dcrire sous forme
mathmatique ou algorithmique la mthode utilise par
loprateur humain pour raliser cette tche, ce qui
constitue la principale difficult.
Ceci revient modliser deux aptitudes fondamentales qui
caractrisent lintelligence humaine:
1. lapprentissage , supervis ou non, partir dexemples,
2. la gnralisation des comptences apprises de nouveaux
exemples non vus durant la phase dapprentissage
La conception de SI passe par lapprentissage machine.
Exemple simple 10
Comment dtermine-t-on le prix dun mouton de lad?

Prix
x x
x
x
x
x
x
Poids
Rponse: par apprentissage partir dexemples.

5
04/11/2016
Mthodes heuristiques 11
Les algorithmes dAM sont des mthodes heuristiques qui

se basent sur:
lintuition, et
lexprience.
Lintuition permet de faire des hypothses.
Lexprience permet de tester, de raffiner et de valider les
hypothses avant de les utiliser dans le monde rel.
La conception dune solution heuristique dapprentissage
machine un problme donn ncessite lexistence de
donnes qui servent dentres pour lalgorithme
dapprentissage.
Exemple 12
Hypothse: le prix y dun mouton est une fonction linaire

de son poids x.
Formulation mathmatique: y = ax + b o a et b sont des
paramtres (ou poids) dterminer par apprentissage
partir des donnes disponibles.
Nature du problme: problme de recherche.
Grandeur recherche: paire (a,b);
Espace de recherche: 2.
Mais le problme est aussi un problme doptimisation car
on veut la meilleure paire (a*,b*)
Quel critre optimiser?
Quel algorithme utiliser pour trouver (a*,b*)?
6
04/11/2016
Apprentissage et gnralisation 13
Connaissant la relation entre

les prix des moutons (sorties Prix
dsires) et leurs poids
(entres), on peut utiliser x x
cette relation pour: x

x
prdire le prix dun x
x
nouveau mouton, non vu x
durant la phase
x
dapprentissage,
dcider daccepter on non
Poids
un prix.
Apprentissage et gnralisation 14
1. Apprentissage
Donnes dapprentissage Algorithme Modle hypothtique
X={x1,y1), , (xn,yn)} dapprentissage (prdicteur)
X: base dapprentissage = ensemble des moutons pour

lesquels on connait la fois les poids xi et les prix yi.
2. Gnralisation
Nouvelle donne
Prdicteur f(x)
xX
x: nouveau mouton, non vu durant la phase dapprentissage,

pour lequel on veut prdire le prix f(x).
7
04/11/2016
Dfinition 1 (Wilipedia, ++) 15
Source: https://en.wikipedia.org/wiki/Machine_learning
Dfinition 2 16
Machine learning is the field of study that gives

computers the ability to learn without being explicitly
programmed Arthur Samuel, 1959.
1956: programme de jeu de dames, conu par Arthur
Samuel sur une machine IBM;
1962: ce programme bat un joueur

humain (qui se considrait comme le
champion du jeu).
8
04/11/2016
17
http://www-03.ibm.com/ibm/history/ibm100/us/en/icons/ibm700series/impacts/
Dfinition 3 18
A computer program is said to learn from experience E with

respect to some task T and some performance measure P, if its
performance on T, as measured by P, improves with experiment
E. Tom Michell, 1998.
Exemple:
T: jouer aux dames,
P: pourcentage de jeux gagns,
E: Tournoi.
Exemple de tche trs difficile automatiser:
T: mentir
P: pourcentage de mensonges non dtects par les autres
E: occasion de mentir.
9
04/11/2016
Exemple dapplication classique (1987) 19
Source: http://yann.lecun.com/exdb/publis/pdf/lecun-90e.pdf
Autre exemple datant de 1987 20
Source:
https://en.wikipedia.org/wiki/Sendai_Subway_1000_series
10
04/11/2016
Exemple plus rcent (2013) 21
Stationnement automatique
https://www.youtube.com/watch?v=GIa1mWr1kNs
Modes dapprentissage 22
Apprentissage machine = analyse dune base de donnes

dans le but den extraire des connaissances qui peuvent
servir raliser des tches de prdiction ou de dcision.
La nature des connaissances apprendre des donnes
dpend du mode dapprentissage envisag, qui dpend de la
nature des donnes disponibles.
Les deux principaux modes dapprentissage sont:
apprentissage supervis (ou avec professeur): les sorties associes
aux donnes dentre sont connues analyse explicative,
apprentissage non supervis: disponibilit de donnes dentre
mais pas des sorties correspondantes analyse descriptive.
11
04/11/2016
Apprentissage supervis 23
Les donnes dapprentissage se prsentent sous la forme

dun ensemble de paires:
X ( x1, y1 ), ( x2 , y2 ),..., ( xn , yn )
o
xi ( xi ,1, xi , 2 ,..., xi , p ) : vecteur de p paramtres
p
reprsentant le ime exemple de donne dentre,

yi : sortie associe lentre i.
Rle dun algorithme dapprentissage supervis: construire
un modle hypothtique de la relation suppose entre les
entre et les sorties, et qui permet de faire des prdictions
ou des dcisions concernant les sorties de donnes X.
Apprentissage non supervis 24
Les donnes de la base dapprentissage ne sont pas

tiquetes et se prsentent sous la forme:
X x1, x2 ,..., xn
Les sorties yi ne sont pas disponibles.
Objectif de lapprentissage: recherche de structures dans les
donnes par analyse des similarits inter-objets.
Exemple:
X= {x1,x2,,xn} Algorithme
dapprentissage K centres de classe
K non supervis
12
04/11/2016
Exemple simple 25
Source: http://content.iospress.com/articles/intelligent-data-analysis/ida00017
Objectifs du module SIAM 26
1. Introduction des deux modes dapprentissage supervis et

non supervis.
2. Etude et application de trois exemples typiques
dalgorithmes dapprentissage machine:
Rgression linaire (mthode statistique, supervise),
K-means (apprentissage non supervis)
Retro-propagation des erreurs (algorithme dentrainement de
rseaux de neurones artificiels de type perceptrons
multicouches).
3. Initiation la recherche scientifique dans le domaine des
sciences des donnes (data science).
13
04/11/2016
Stratgie dapprentissage 27
Apprentissage par la pratique (learning by doing).

Cours magistral:
Prsentation des algorithmes tudier,
Principe de fonctionnement des algorithmes,
Domaines et exemples dapplication.
Activits pratiques:
Implmentation des algorithmes,
Test des programmes sur des donnes relles (benchmark).
Les activits pratiques sont faire en quipe.
Lvaluation du module tient compte des activits pratiques
hauteur de 50% de la note finale.
Pr-requis 28
Bon niveau en:

Programmation C/C++,
Anglais.
Aptitude :
lire, bien comprendre et rsumer des documents
spcialiss;
lire et crire du code;
travailler en quipe.
14
04/11/2016
Page Piazza du cours 29
Question de rflexion 30
Pourquoi nous est-il plus facile dapprendre mentir et tricher,

mme sans professeur, et
mme si on nous dit, ds lenfance, que mentir nest pas bien;
que dapprendre programmer ou faire des mathmatiques,
mme avec professeur, et
mme si on est trs encourag le faire?
15

01 SIAM Master TI 20162017 Intro 03 Nov 2016

Transféré par

Informations du document

Titre original

Copyright

Formats disponibles

Partager ce document

Partager ou intégrer le document

Options de partage

Avez-vous trouvé ce document utile ?

Ce contenu est-il inapproprié ?

Droits d'auteur :

Formats disponibles

01 SIAM Master TI 20162017 Intro 03 Nov 2016

Transféré par

Droits d'auteur :

Formats disponibles

04/11/2016

Systmes Intelligents & Apprentissage Machine

Prof. Abdelaziz Bouroumi

01. Prsentation du Module + Introduction

SIAM est un cours dalgorithmique et de programmation

Apprentissage machine (AM) 4

AM est une branche de lintelligence artificielle qui

Types de problmes du monde rel 5

1. Problmes de recherche: peuvent tre formuls

Systmes intelligents (SI) 6

Un SI est un systme qui implmente, matriellement ou

Logiciels de jeux: cartes, checs,

Casablanca: ville intelligente? 8

Ncessite la modlisation de la tche intelligente

Comment dtermine-t-on le prix dun mouton de lad?

Rponse: par apprentissage partir dexemples.

Les algorithmes dAM sont des mthodes heuristiques qui

Hypothse: le prix y dun mouton est une fonction linaire

Connaissant la relation entre

cette relation pour: x

X: base dapprentissage = ensemble des moutons pour

x: nouveau mouton, non vu durant la phase dapprentissage,

Dfinition 1 (Wilipedia, ++) 15

Machine learning is the field of study that gives

1962: ce programme bat un joueur

A computer program is said to learn from experience E with

Exemple dapplication classique (1987) 19

Autre exemple datant de 1987 20

Exemple plus rcent (2013) 21

Apprentissage machine = analyse dune base de donnes

Les donnes dapprentissage se prsentent sous la forme

reprsentant le ime exemple de donne dentre,

Apprentissage non supervis 24

Les donnes de la base dapprentissage ne sont pas

Objectifs du module SIAM 26

1. Introduction des deux modes dapprentissage supervis et

Apprentissage par la pratique (learning by doing).

Bon niveau en:

Page Piazza du cours 29

Pourquoi nous est-il plus facile dapprendre mentir et tricher,

Vous aimerez peut-être aussi