-- I E cole Non:nale Supe rie ure d e l 'Ense ignement Technique d e Mohammedia

,L{/1:=' H4~t:Jj Examen fin::1 1 en Ingenierie dec isionne lle

..... :.:•:::;::.::..~-:,;~:::;•:.. Duree : 2H30
J#t5f"ib¢:%¥-§

Questions de cours :

1. Quclle est, lc.1. principale difference entre un probleme de classification et un probleme de regression?
2. Quclle est la difference entre un modele d'apprentissage automatique de type boite blanche et un modele d'ap-
prent issage automatique de type boite noire? donner un exemple pour chaque type
3. Que! est le role de learning rate (pas d'apprentissage) clans l'algorithme de gradient descent ?
4. Dccrire l'algorithme de Kohonen.
5. Donner a quel point l'algorithrue de Kohonen ressemble l'algoritbme de K-means.
Exercice 1: I
_________. Soit un ensemble X des elements dans IR tel que:

X = {3,4,11,14,22}
1. Appliquez l'algoritlune des K-means avec !es valems de k et les points de depart suivants :
(a) k=2, w1 = 3, w 2 = 22.
(b) k=3, W1 = 3, W2 = 22, W3 = 14.
(c) k=4, w1 = 3, w2 = 11, w 3 = 14, w 4 = 22.
2. On aimerait maintenant comparer la qualite de ces regroupements. Pour cela, on recommence par regarder l'inertie
intrarcluster.
(a) Calculer cette vaJeur pour Jes 3 regroupements precedents.
·(b) En ut ilisant ce critere, queJ serait le meilleur regroupement possible? est-ce que cela vous parait realiste?
3. Quelles sont Jes probJemes et Jes limites de J'algorithme de K-means ?

I
Exercice 2: • U n 1a b orat 01re
. d',ecoJog1e
. e'tu d'1e par pre' l'evement s repe
, 'tes
, l a presence
, d' especes
, .
sur quatre sites. 11

obt.ient. la matricc suivantc qui cont.ient, pour chaque pa.ire de sites A et B, le nombre d'cspeccs communes aux deu.x sites.

S1 S2 S3 S4
S1 10 5 8 5
S2 15 4. 11
S3 11 3
84 12

On peut y lire par exemple qu'il y a 10 especes presentes sur le site S1 et 5 especes communes aux sites S 1 et S 2 .
On va. classer ccs sites en utilisant tme distance adaptee au probleme : la distance entre denx sites A et B est
donnee par la formule :
d(A, B) = nA + nB -2nAB
nA+nB
Ou nA (resp. nB) designe le nornbre d'especes presentes au site A (resp. au site B) et nAB le nombre d 'especes
cornmunei; aux sites A et B.
1. Calculer d(S1, S2) puis d(S1, S3 ) en explicita.nt. vos calculs.
2. Quelle est la distance de det1,--< sit0.s ayant. !es memes especes exactement? Et Quelle est la distance de deux sites
n'ayant pas d'espece en cornrnun?

F'ilierl!x : GLSID & IIBDCC

1/3 Session normale d'a.utomne : 2022-202:J
 ,~;,•., I•· N(•r ·,, , , ,J,, ,i...;
111
,,;,.;t .,,,., . ( I(' 1, 1,: 1, ,"',< ' i ,._; 11• • 111 ,• 1 1t . ' l't ·, ·l111i<.111 t• ,l< · l\ll, 111:\1\\lll(' (li , ,
J,: , nnH' t t 1Jn 11 t 1•t t ! tq~~~1ti <' l i,· <l ,··,··1~f •> l ult·ll .. , .. ,, , ... , .....
1)11d•1 : : :! 11:\0 h 1h'f,1 ' >I ••I t ' " ,,, ,
II .,..,, , Il l • I\ ' \ I, ~ l •t, \' ,, ""'

3. He111p\ir ti rn:,1.rin' ck clisl.,u1<·<'s .

!\. P e11\.-0 11 ,111pliq1\\'r k rri(.i,rc· de· \~·:1rcl \hHlr c-l:1ssi!il-atio11 \ii1':ral"1'\iiq111· :1sc·c·11d:i11l.c ·t po11rq 11oi ·t
<l(!l 1, f/3 )
T ----,-
+
Jc-;-J 1c~1
g le b:t1)Tc·111.re cl<' gro1qw <: l'\. IGI scHI c·nrdi11.1\.
5. Appliqucr l' a.\goriUuue de ch1ssi(icnt.io11 lli<': rn.rcltiquc nscc11dc111tc: c:11 11l.ili:-mnl. le sau l, rniniwal ct I.racer le clcnclro-
g rammc (nrbn\) corre::-pnncl:u1t.
u. (h1 foul-il le c·o11pcr "( Qnd lc\s soul, b , d.1sscs ai11si ol,t,em1cs?
7. fotcrprc\ter le r6s11ltat-. obtcnu.

Exercice 3: I
..._______.., U11c ba nquc dispose de:; i11l(m11at i011s suivanLc:; sur 1111 c11sc1r1L>lc de scs die ut.:; : L'attribut clicnL indiq ue

- -
Clic11L- M X ------
n.
1 nmye 11 TIIO)'l'ffl village (1111 O lli
2 c':kv7~~ l.11.oy!:n l~o t~g ll 01.1 non
3 fnil i11•
---·--i",g<'' hourg 11011 11011
,1 faible moycn li(}\~ i oui mu
5 moyc n jeunc --~ ~ oui oui
. ·-- . ·--
(j <:lcv<•c ii.gc ville O lll 1\011
- ~ ill~)-
7 rnoyc11 ftp;C
foible
- ----- OU\
moym1 vilhtgc IIOl\
llOI\
8 11011

le nnmcro <lu client; l'at:tribnt: ]VI indiqnc la m oyrnmc des credits snr k c:ornpl.ci d11 client ; l'at:t;rilmt: A donnc la trandw
cl '{ige; l'attribut R dccrit la localitc clu clic11(,; l'nttribut E J) OSSt)de la valcur Olli :-;i le client possedc \ !Jl nivcau d'etudcs
supcrieu.r au b ac; l'aU.rilrnt 1 (la d asse) i.Jl(liquc si lei clic11t cffcduc\ scs opc:ratiu11s de i:i;csLion de c:ornpt.c via. lnleruct..
1. Quclle est !'entropic de la popula tion?
2. Pour la constrnrtio11 de l 'arbre de decision , ntiliscz-vons l'ntt.rillllt 1m111<-ro de clil'nl:? Ponrquoi "?
3. Lors de la consl;rncl:ion de l'arbrc de dc:c:isio11 , rind c:-;t; l'al.trillllt ;1. l.c:-;t;c!r it la rac:iiw cfo l 'a.rbrc: '?
4. Construirn 1'arbn: de dcci:;ion complct..
5. Que! est le I.aux d'errenr de eel. arlm; csl.imc\ s ur l'c11sm11blc ck clicul.s l it. 8 ·t
6 . Comment chacun d e c:es clients cst-il clm;:;c~ ,wee l'arbrc de dfa:ision quc vou8 avcz propose\ d ans la question 4?
Pour ce:-; ti. clients, on apprnn d par aillc1m; qnc les clients D cl. 1.0 gi:reut. lc:ur cornpt.e par Internet, ct qnc !es clients
11 et 12 nc Jc foll t pa:;.

Client. M A I'\ . E
- ---- __.___ -
D
10flcv<:c
moyc11 villarrc
lllOYCrt
- - --·-~ moycu lmurg
oui
-
11011
·-

11 faiblc ,lg6 bourg non

J.2 faiblc moyen lmurg oni
------- -

7. Qucl csL le I.aux d 'cn cur esl.irnc': sm l<:s dic11ts !J, LO, lJ. cl. 12? Co111lii1:u y 1H- il de faux posit.ii:., c l. de f"anx n6gaLifs?
Calc11b: l(:l,fi) =- J(i ,2). O.D.'"1, J{;!,2):-(Ul70, J(J ,:{) .·· O.KJ I, J(,1,:1) O. DKf>, J(:l,(i) O.HIK, J(,J.fi) .O.!Jnl

Filii: n•s : GT.Sm Iv l lfmcc

2/:1 S ,·ssin11 11o rn1a lc d '11.11t,0 1111 11· : 2022-:.W:.U
 -- , · e d e J'Enseig n e111e n t T ech nique de i\ l oha 11 111tl·d i;1
-E c ole• N o n11 a le 5 upe n e ur , . . , ..
Exanicn final en Inge rnene dcusion ucl k ..,,...
, ' '
, ... ,
,.,..
,, , . .....,, ...,
•, '
. .. ' , . .. , .... t •

. ;,:--::· .. D uree : 2H30

Exercice 4: I Soit le srhfma suivant qui represent e un neuron e :

es qu'il faut puis calculer la sortie

1. En fonction des donhees montrees srn le schema, dormer les expressio ns muneriqu
correspon dante
2. Calculer Loss t rouvee dans la sortie sachant que le resultat at rendu est y=O.l
8Loss
--.
3. En se basant. sur l'algorith me de ba.ckpropa.ga.tion, ecrire l'exprC'ssi on de -Bw 1

. 8Loss
4. A partir de 3), ecrire l'express ion numeriqu e de - - - .
0 W1
Les calculs et formules suivants peuvent vous senrir :

1 opreaic tea 1 1 ) 1 2
Predicted =f( s) -- (1 - Loss= -( desfred - predict ed)
1 + e-s 8s 1 + e-s 1 + e- s 2
eu.:. ., = 1.28, eu. ;; = 1.64 e V . IC> = 2.11, e = 2.71

me de gradient descent
5. Quelle est la difference entre un parametr e et un hyperpar ametre clans l'algorith
6. En se basant sur !es reponses des questions preceden tes. ecrire l'algorith me
de gradient descent pour trouver les
poids qui minimise nt la fonction Loss
bias
7. En deux iterations de l'algorith me, aflicher pour chaque it eration la valeur du nouveau
8. Quelle est la limite d' un perceptro n? donner un exernple.

Filieres : GLSIO & llBDCC

Session normale d 'automne : 2022-2023