Data Mining 1

Fouille des donnes
Introduction
Maria Malek ` Filiere TSI EISTI
Fouille des donnees p. 1/?
Vous avez dit ?

Data Mining
Vous avez dit ?

Data Mining
Dcouverte de connaissances partir de donnes ? un processus itratif par lequel on extrait des connaissances valides, nouvelles, potentiellement utiles et comprhensibles [Fayyad et al., 1995]
Vous avez dit ?

Data Mining
Dcouverte de connaissances partir de donnes ? un processus itratif par lequel on extrait des connaissances valides, nouvelles, potentiellement utiles et comprhensibles [Fayyad et al., 1995] "Comment faire parler les donnes ? "
Autour du data mining : les domaines

Apprentissage Automatique (ML) DM : suppose la pr-existence de trs grands volumes de donnes Data mining.
Autour du data mining : les domaines

Apprentissage Automatique (ML) DM : suppose la pr-existence de trs grands volumes de donnes Data mining. Statistiques, Analyse des donnes Stat : but = vrication dhypothses. DM : but = dcouverte de nouvelles connaissances.
Processus du Data Mining - 1

Analyse du problme dapplication.

Analyse du problme dapplication. Slection et exploration des donnes valuer la qualit des donnes, visualiser, analyser les distributions et les regroupements, dtecter les insufsances, pathologies des donnes.

Analyse du problme dapplication. Slection et exploration des donnes valuer la qualit des donnes, visualiser, analyser les distributions et les regroupements, dtecter les insufsances, pathologies des donnes. Pr-traitement des donnes

Analyse du problme dapplication. Slection et exploration des donnes valuer la qualit des donnes, visualiser, analyser les distributions et les regroupements, dtecter les insufsances, pathologies des donnes. Pr-traitement des donnes nettoyage bruit, valeurs manquantes, valeurs aberrantes,

Analyse du problme dapplication. Slection et exploration des donnes valuer la qualit des donnes, visualiser, analyser les distributions et les regroupements, dtecter les insufsances, pathologies des donnes. Pr-traitement des donnes nettoyage bruit, valeurs manquantes, valeurs aberrantes, reduction slection des instances slection, extraction, combinaison des variables,

Analyse du problme dapplication. Slection et exploration des donnes valuer la qualit des donnes, visualiser, analyser les distributions et les regroupements, dtecter les insufsances, pathologies des donnes. Pr-traitement des donnes nettoyage bruit, valeurs manquantes, valeurs aberrantes, reduction slection des instances slection, extraction, combinaison des variables, transformation discrtisation des variables continues, binarisation des variables nominales, ajout de nouvelles variables (induction constructive).

Analyse du problme dapplication. Slection et exploration des donnes valuer la qualit des donnes, visualiser, analyser les distributions et les regroupements, dtecter les insufsances, pathologies des donnes. Pr-traitement des donnes nettoyage bruit, valeurs manquantes, valeurs aberrantes, reduction slection des instances slection, extraction, combinaison des variables, transformation discrtisation des variables continues, binarisation des variables nominales, ajout de nouvelles variables (induction constructive).

Lapprentissage data mining une mthode dextraction de connaissances.

Lapprentissage data mining une mthode dextraction de connaissances. Evaluation et interprtation des rsultats critres diffrents suivant la tche.
Les donnes ??
est un enregistrement,un individu (statistique), une instance (orient objet), un point, un vecteur.
Une donnee
Les donnes ??
Une donnee
peut tre de nature qualitative ou quantitative, ou mme un enregistrement (comme la date).

Un attribut
Les donnes ??
Une donnee

Un attribut
Structure de base : un exemple/cas/observation = vecteur de p attributs ou variables chaque attribut prend sa valeur dans un domaine donn.
Les donnes ??
Une donnee

Un attribut
Structure de base : un exemple/cas/observation = vecteur de p attributs ou variables chaque attribut prend sa valeur dans un domaine donn. Ensemble dattribut - valeur : Techniques de logique dordre 0 ou propositionnelle.
Les donnes ??
Une donnee

Un attribut
Structure de base : un exemple/cas/observation = vecteur de p attributs ou variables chaque attribut prend sa valeur dans un domaine donn. Ensemble dattribut - valeur : Techniques de logique dordre 0 ou propositionnelle. Attributs & relations : Apprentissage relationnel & programmation inductive logique (logique de prdicats).
Les donnes : exemple - 1

NUM CIEL TEMP. HUMI. VENT CLASSE 1 ensoleill lev forte non N 2 ensoleill lev forte oui N 3 couvert lev forte non P 4 pluvieux moyenne forte non P 5 pluvieux basse normale non P 6 pluvieux basse normale oui N 7 couvert basse normale oui P
Table 1: Description des conditions mtorologiques
Les donnes : exemple - 2

NUM CIEL TEMP. HUMI. VENT CLASSE 8 ensoleill moyenne forte non N 9 ensoleill basse normale non P 10 pluvieux moyenne normale non P 11 ensoleill moyenne normale oui P 12 couvert moyenne forte oui P 13 couvert lev normale non P 14 pluvieux moyenne forte oui N
Table 2: Description des conditions mtorologiques
Nature des variables ..

Indpendante & Dpendante

Variable independante/explicative/predictive
: variable dont la
valeur est obtenue par observation

: variable dont la
valeur est obtenue par observation Variable dependante/reponse/cible : variable dont la valeur dpend dautres variables

: variable dont la
valeur est obtenue par observation Variable dependante/reponse/cible : variable dont la valeur dpend dautres variables Apprentissage supervis & non supervis

: variable dont la
valeur est obtenue par observation Variable dependante/reponse/cible : variable dont la valeur dpend dautres variables Apprentissage supervis & non supervis Apprentissage non supervise : pas de variable cible ex. regroupement (clustering).

: variable dont la
valeur est obtenue par observation Variable dependante/reponse/cible : variable dont la valeur dpend dautres variables Apprentissage supervis & non supervis Apprentissage non supervise : pas de variable cible ex. regroupement (clustering). Apprentissage supervise : une variable cible (valeur prdire) ex. classication.
Rsultat du processus
Connaissances sont extraites sous forme dun :
Connaissances sont extraites sous forme dun : ` modele : un rsum global de lensemble de donnes applicable sur nimporte quelle instance appartenant lespace des donnes ;
Connaissances sont extraites sous forme dun : ` modele : un rsum global de lensemble de donnes applicable sur nimporte quelle instance appartenant lespace des donnes ; motif (pattern) : rsum local dune rgion de lespace des donnes ; exemple : une rgle.
Applications du Data Mining

Domaines superviss :

` Chaque instance = p variables predictives + 1 variable cible (a predire)

` Chaque instance = p variables predictives + 1 variable cible (a predire) Classication : variable une maladie, etc.
cible discrte Exemple : diagnostiquer

` Chaque instance = p variables predictives + 1 variable cible (a predire) Classication : variable une maladie, etc. Regression : variable valeur dun bien, etc.
cible continue Exemple : estimer la

Domaines non superviss :


Regroupement(clustering) Exemple : detecter le prol utilisateur,etc.


Regroupement(clustering) Exemple : detecter le prol utilisateur,etc. Association Exemple analyser les logs utilisateurs dun serveur web, etc.
Tches du Data Mining

Prdiction : Classication, Rgression, Association.
Tches du Data Mining

Prdiction : Classication, Rgression, Association. Description
Visualisation,
Regroupement, Association.
Conception dun algorithme DM

Structure de modle/motif : la forme des connaissances extraire des donnes : arbre de dcision, rseau de neurones.

Fonction dvaluation : permet de mesurer la qualit dun modle ; Exemple : classication: taux dexemples bien classes.

Fonction dvaluation : permet de mesurer la qualit dun modle ; Exemple : classication: taux dexemples bien classes. Mthode de recherche : stratgie utilise pour parcourir lespace dhypothses et pour trouver celle qui optimise la fonction dvaluation.

Fonction dvaluation : permet de mesurer la qualit dun modle ; Exemple : classication: taux dexemples bien classes. Mthode de recherche : stratgie utilise pour parcourir lespace dhypothses et pour trouver celle qui optimise la fonction dvaluation. Stratgie de gestion des donnes : la faon de stocker, dindexer et daccder aux donnes.
Ct Pratique ..
Etude de la problmatique de la classication
Ct Pratique ..
Comment valider un classieur.
Ct Pratique ..
Comment valider un classieur. Etude de lalgorithme k plus proche voisins .
Ct Pratique ..
Comment valider un classieur. Etude de lalgorithme k plus proche voisins . Utilisation du logiciel Weka.
La classication
Types de classeurs Construction dun modle arborescent permettant de prdire la classe dune donne. Estimation directe de la classe dune donne en fonction des exemples. Construction dun modle rglable par lhumain (les rseaux de neurones, et les machines vecteurs supports).
Validation dun classeur - 1

Lerreur dun classeur Er est la probabilit que ce classeur ne prdise pas correctement la classe dune donne.

Lerreur dun classeur Er est la probabilit que ce classeur ne prdise pas correctement la classe dune donne. Le taux de succs est 1 Er.

Lerreur dun classeur Er est la probabilit que ce classeur ne prdise pas correctement la classe dune donne. Le taux de succs est 1 Er. Lerreur apparente Erapp est mesure sur les exemples utiliss pour la construction du classeur.

Lerreur dun classeur Er est la probabilit que ce classeur ne prdise pas correctement la classe dune donne. Le taux de succs est 1 Er. Lerreur apparente Erapp est mesure sur les exemples utiliss pour la construction du classeur. Estimer la qualit dun classeur : Lensemble dapprentissage Xapp ; Lensemble de test Xtest qui permet destimer lerreur de classication ; on connat la classe de chaque exemple dans cet lensemble.

Mesure de qualit dun classeur : cas de classication binaire :

Mesure de qualit dun classeur : cas de classication binaire : VP/VN : Le nombre de vrais positifs/ngatifs : les exemples de classe positive/ngative et dont la classe est prdite comme positive/ngative.

Mesure de qualit dun classeur : cas de classication binaire : VP/VN : Le nombre de vrais positifs/ngatifs : les exemples de classe positive/ngative et dont la classe est prdite comme positive/ngative. FP/FN : Les exemples de classe ngative/positive et dont la classe est prdite comme positive/ngative.

Mesure de qualit dun classeur : cas de classication binaire : VP/VN : Le nombre de vrais positifs/ngatifs : les exemples de classe positive/ngative et dont la classe est prdite comme positive/ngative. FP/FN : Les exemples de classe ngative/positive et dont la classe est prdite comme positive/ngative. Construction de la matrice de confusion .. + + VP FN - FP VN

Mesure de qualit dun classeur : cas de classication binaire :

Mesure de qualit dun classeur : cas de classication binaire : On dnit dans la suite quatre mesures :
P La prcision pour les positifs et les ngatifs : V PV+F P , VN V N +F N ; le rappel sur les positifs et les ngatifs VN P : V PV+F N , : V N +F P .
La prcision mesure la proportion des exemples vraiment positifs parmi ceux qui taient classs positifs. Le rappel mesure la proportion des exemples positifs trouvs parmi tous les exemples positifs.



Technique : validation croise : Dcouper lensemble dexemples en n sous ensembles disjoints. Chaque classe doit apparatre avec les mme frquence dans les n ensembles. Soit A,B,C une division en trois sous ensemble, Le classieur construit partir de A B est appel ADAB , Lerreur de gnralisation calcule sur C est appel Erc . Le taux derreur est alors estime par
Er =
ErA +ErB +Erc 3

Technique : validation croise : Dcouper lensemble dexemples en n sous ensembles disjoints. Chaque classe doit apparatre avec les mme frquence dans les n ensembles. Soit A,B,C une division en trois sous ensemble, Le classieur construit partir de A B est appel ADAB , Lerreur de gnralisation calcule sur C est appel Erc . Le taux derreur est alors estime par
Er =
ErA +ErB +Erc 3

Mthode Bootstrap : Un ensemble E : nous construisons lensemble dapprentissage Xapp . Les exemples qui restent constituent lensemble Xtest . on effectue N tirages alatoires a partir de E avec remise. La probabilit quun exemple x ne soit jamais tir est 1 gal (1 N )N , N > +, e1 = 0.368 |Xapp | = 63.2, |Xgn | = 36.8
E = 0.368 Eapp + 0.632 Etest

Data Mining 1

Transféré par

Informations du document

Copyright

Formats disponibles

Partager ce document

Partager ou intégrer le document

Options de partage

Avez-vous trouvé ce document utile ?

Ce contenu est-il inapproprié ?

Droits d'auteur :

Formats disponibles

Data Mining 1

Transféré par

Droits d'auteur :

Formats disponibles

Fouille des donnes

Fouille des donnees p. 1/?

Vous avez dit ?

Fouille des donnees p. 2/?

Vous avez dit ?

Fouille des donnees p. 2/?

Vous avez dit ?

Fouille des donnees p. 2/?

Autour du data mining : les domaines

Fouille des donnees p. 3/?

Autour du data mining : les domaines

Fouille des donnees p. 3/?

Processus du Data Mining - 1

Fouille des donnees p. 4/?

Processus du Data Mining - 1

Fouille des donnees p. 4/?

Processus du Data Mining - 1

Fouille des donnees p. 4/?

Processus du Data Mining - 1

Fouille des donnees p. 4/?

Processus du Data Mining - 1

Fouille des donnees p. 4/?

Processus du Data Mining - 1

Fouille des donnees p. 4/?

Processus du Data Mining - 1

Fouille des donnees p. 4/?

Processus du Data Mining - 4

Fouille des donnees p. 5/?

Processus du Data Mining - 4

Fouille des donnees p. 5/?

Fouille des donnees p. 6/?

peut tre de nature qualitative ou quantitative, ou mme un enregistrement (comme la date).

Fouille des donnees p. 6/?

peut tre de nature qualitative ou quantitative, ou mme un enregistrement (comme la date).

Fouille des donnees p. 6/?

peut tre de nature qualitative ou quantitative, ou mme un enregistrement (comme la date).

Fouille des donnees p. 6/?

peut tre de nature qualitative ou quantitative, ou mme un enregistrement (comme la date).

Fouille des donnees p. 6/?

Les donnes : exemple - 1

Table 1: Description des conditions mtorologiques

Fouille des donnees p. 7/?

Les donnes : exemple - 2

Table 2: Description des conditions mtorologiques

Fouille des donnees p. 8/?

Nature des variables ..

Fouille des donnees p. 9/?

Nature des variables ..

valeur est obtenue par observation

Fouille des donnees p. 9/?

Nature des variables ..

Fouille des donnees p. 9/?

Nature des variables ..

Fouille des donnees p. 9/?

Nature des variables ..

Fouille des donnees p. 9/?

Nature des variables ..

Fouille des donnees p. 9/?

Fouille des donnees p. 10/?

Fouille des donnees p. 10/?

Fouille des donnees p. 10/?

Applications du Data Mining

Fouille des donnees p. 11/?

Applications du Data Mining