Théorie de l’information Ann. Univ.

2016-17

Université Hassan II de Casablanca Licence Informatique, Réseaux et Multimédia

Faculté des Sciences et Techniques Module : Théorie de l’information
Département de Mathématiques

EXAMEN

(O. KHADIR)

Il sera tenu compte de la qualité et des soins apportés à la copie.

Exercice 1.
On considère une source à trois éléments S = {a, b, c} avec les probabilités respectives
{0.7, 0.2, 0.1}.
1. On se sert du langage C = {0, 0010, 0001100} pour coder respectivement les lettres
a, b, c de la source S. Calculer sa longueur moyenne.
2. Décomposer la séquence reçue 0 0 0 1 0 0 0 0 0 0 1 1 0 0 0 0 1 0 0 en des mots de C.
3. Le langage C est-il un code de transmission ?
4. Montrer, par le test de Sardinas et Patterson, que le langage binaire L = {00, 11, 001, 111}
qui code les symboles x, y, z, t n’est pas un code de transmission.
5. Déterminer un message binaire reçu dont le décodage pose un problème.

Exercice 2.
Soit le canal de communication de la figure 1 :

1. Donner la matrice de transition du canal.

2. On suppose que p(a) = 0.4 et que p(b) = 0.6.
Calculer les probabilités de sortie des symboles a0 , b0 , c0 .
3. En déduire les entropies des variables aléatoires X et Y . Figure 1

Une source (S) émet les symboles a1 , a2 , a3 , a4 avec des probabilités correspondantes :
p1 = p2 = 0.3365 et p3 = p4 = 0.1635.
4. Trouver l’entropie de Shannon de la source.
5. Déterminer un code de Huffman pour cette source.

1
Théorie de l’information Ann. Univ. 2016-17

Exercice 3.
Soit u = b1 b2 b3 . . . b15 un mot du code de transmission de Hamming de longueur 15, où
les bi ∈ {0, 1}.
1. Quels sont les bits de contrôle ?
2. Donner en pourcentage le rendement de ce code.
3. On veut envoyer le code à 15 bits :
a1 a2 0 a4 1 1 0 a8 0 0 1 1 0 1 0 .
Déterminer les bits a1 , a2 , a4 et a8 .
4. Combien d’erreurs un code de Hamming peut-il détecter ou corriger ?
5. Quelle est la position de l’erreur si le mot reçu est :
0 1 0 1 1 0 0 1 1 0 1 1 1 0 1 ?

Exercice 4.
Soit G une matrice génératrice du code linéaire C de longueur 6 définie par :
 
1 0 0 0 1 1
G=  0 1 0 1 0 1 
0 0 1 1 1 0

1. Quels sont les mots du code ?

2. Quelle est la dimension du code ?
3. Quels sont les paramètres de ce code ?
4. Quel est son taux d’information ?
5. Combien corrige-t-il d’erreurs ?

• − − − − − • − − − − − • − − − − − • − − − − −•