Vous êtes sur la page 1sur 2

PRENOM :

NOM :

Examen Thorie de lInformation


Documents et calculatrices autoriss, dure 45 minutes

I- Exercice Codage LZ
Donner les 12 premiers mots du dictionnaire obtenu pour le codage LZ de la squence
suivante et les codes transmis (sarrter quand le dictionnaire une taille de 12) :
001000001000100010011...

II- Exercice Capacit dun canal


Canal type binary erasure channel , canal binaire avec perte.
On tudie la capacit dun canal nomm binary erasure channel dont la modlisation
est donne en figure 1. Par rapport au un canal binaire symtrique, ce type de canal modlise
un cana l de transmission o des bits peuvent tre perdus au lieu dtre corrompus.
Ce canal est constitu en entre de deux symboles et de trois symboles en sortie. Ainsi, le
rcepteur connait les bits qui ont t perdus.

Modle de canal binaire avec perte de symbole.

Le but de cet exercice est :


- dans la premire partie, de calculer la capacit de ce canal (pas trivial cause du
symbole e, mais intuitivement simple ! : C 1 , isnt it ?),
- dans la deuxime partie, dtudier leffet dun feedback sur la capacit du canal.

Premire Partie : Capacit


a) Ecrire la matrice P[Y/X] du canal o X, respectivement Y, reprsente la variable
alatoire pour les donnes dentre et de sortie.
b) En calculant H(Y/X) montrer que cette entropie est identique H(Y/X) dun canal
binaire symtrique normal (sans perte de symbole).

Insa 5GE TC

-1/2-

2010

PRENOM :

NOM :

c) La capacit du canal se calcule partir de la formule suivante :


C max I ( X; Y)
p( x)

O I reprsente la transinformation et p(x) reprsente la distribution de X.


Exprimer la capacit C avec H(Y) et H(Y/X) puis donner la valeur maximum
thorique de H(Y).
d) Le maximum thorique de H(Y) ne peut pas tre atteint par un quelconque choix
de p(x). Pour obtenir la bonne expression de H(Y), il faut prendre en compte les
probabilits de X et lvnement {Y=e}.
En notant p la probabilit dapparition du symbole 1 en entre ( c.--d.
p(X=1) = p), exprimer p(Y=0), p(Y=1) et p(Y=e)
Montrer que H(Y) peut se mettre sous la forme :
H (Y ) 1 . 1 p .log 2 1 p 1 . p.log 2 p 1 .log 2 1 .log 2
Rappel : log(a.b) = log(a) + log(b)
e) A partir des questions prcdentes, en dduire que la capacit du canal est
C 1 , donner la valeur de p permettant dobtenir C.

Seconde Partie : Feedback


Pour amliorer le taux de transmission, on propose lajout dune boucle de retour
(feedback) tel que prsent sur la figure suivante :

f) Par rapport au canal tudi, et sous lhypothse dune transmission instantane et


sans mmoire, dcrire la manire dont sera utilis le feedback.
g) En sappuyant sur la rponse prcdente, justifier que la capacit CFB du canal avec
feedback est CFB = C.
h) Quelque soit le canal (sans mmoire) on a CFB = C. Conclure sur lintrt dun
feedback dans une transmission.
Fin.

Insa 5GE TC

-2/2-

2010