Vous êtes sur la page 1sur 2

Théorie de l’information Ann. Univ.

2017-18

Université Hassan II de Casablanca Licence Informatique, Réseaux et Multimédia


Faculté des Sciences et Techniques Module : Théorie de l’information
Département de Mathématiques

Contrôle

(Pr O. Khadir)

Il sera tenu compte de la qualité et des soins apportés à la copie.

Exercice 1. (5 pts)
Une source S produit les symboles a1 , a2 , . . . , an avec les fréquences respectives p1 , p2 , . . . , pn .
n
X
1. Qu’appelle-t-on l’expression −pi log2 (pi ) ?
i=1
2. Expliquer ce qu’elle signifie concrètement.
3. On code les symboles de la source S avec des séquences de 0 et de 1 de même longueur
k. Quelle relation doivent vérifier les entiers k et n ?
4. Donner un exemple d’un code suffixe de cardinal 6.
5. Enoncer avec précision le théorème de Kraft .

Exercice 2. (5 pts)
Lors d’une transmission de données numériques, on se sert du code de Hamming C de
longueur 7.
1. Donner les équations liant les bits b1 b2 . . . b7 d’information et de contrôle.
2. Corriger le mot reçu suivant u = 1 1 0 1 0 1 0 s’il y a eu des erreurs lors de la trans-
mission.
3. Supposons qu’on a un canal de communication qui modifie exactement un bit chaque
fois qu’il transmet 8 bits. Montrer comment on peut transmettre sans erreur 5 bits conte-
nus dans ce paquet de 8 bits.
4. Application : corriger le message reçu 1 1 0 0 1 1 0 1.

1
Théorie de l’information Ann. Univ. 2017-18

Exercice 3. (5 pts)
Une source produit les symboles a, b, c, d, e avec les probabilités correspondantes respec-
tives p1 = p2 = 0.25, p3 = p4 = 0.20 et p5 = 0.10.
1. Calculer l’entropie de Shannon de la source.
2. Construire un code de Huffman pour cette source.
3. Déterminer la longueur moyenne du code obtenu. Comparer à l’entropie de Shannon.
4. Quelle est l’efficacité du code obtenu ?
5. Donner un code de Shannon-Fano pour les symboles de cette source.

Exercice 4. (5 pts)
Par application de l’algorithme de Sardinas, étudier si les langages L1 et L2 sont des
codes :
1. L1 = {000, 010, 011, 01001}.
2. L2 = {000, 1, 01, 100, 0100}.
3. Déterminer pour L1 et L2 , le cas échéant, par le même algorithme, une séquence de
bits reçus qu’on ne peut pas décoder correctement.
4. Soit le code L3 = {00, 11, 001, 100, 1001}. Montrer que la séquence 0 0 1 0 0 1 1 1 0 0
peut-être décodée de deux manières différentes.

• − − − − − • − − − − − • − − − − − • − − − − −•