MASTER PROFESSIONNEL ISTDI

RESEAUX ET TELECOMS

TRAVAUX DIRIGES - THEORIE DE L’INFO ET DU CODAGE

Exercice 1: Quantité d'information et entropie

Dans un disque dur se trouvent deux dossiers : « desktop » et « home ».
Supposons que « desktop » contient 50 fichiers et « home » en contient 150
1) Quelle est la quantité d'information I1 associée à l'évènement e1 : « le fichier appartient au
dossier desktop » ?
On suppose aussi que « desktop » contient 20 fichiers de type .jpg et 30 de type .txt, et que
« home » contient 110 .jpg et 40 .txt
2) Quelle est la quantité d'information I2 associée à l’évènenement e2 : « le fichier est de
type .jpg » ?
3) Quelle est la quantité d'information I3 associée à l'évènement : « le fichier est de type .jpg
et se trouve dans le dossier desktop » ?
4) Est-ce que I3 = I1 + I2 ? Peut-on en conclure que les deux évènements e1 et e2 sont
dépendants ou indépendants ?
5) Calculer l'entropie de la source A = {.jpg, .txt} et de la source B = {desktop, home}.

Exercice 2: Quantité d’information et entropie de source

Un bébé apprenant à parler peut prononcer des mots formés de trois lettres, A, B et C,
compte tenu du caractère d’apprentissage, il lui est deux fois plus facile de prononcer le A que
de prononcer le B ou le C. Dans tous les cas il aura la même difficulté pour sortir le B ou le C
On demande :
1) Donner la quantité d’information liée à chaque mot
2) Déterminer l’entropie du vocabulaire de ce bébé
NB : Vous présenterez les résultats de la question 1 sous forme d’un tableau

Exercice 3: Matrice de contrôle et matrice génératrice

Un code linéaire a pour matrice de contrôle

1) Préciser la longueur n des mots de code et la longueur k des mots d'information.

2) Les messages suivants sont-ils des mots du code ?
1
 o m1 = (1 1 1 0 1 1)
o m2 = (1 0 0 1 1 0)
3) Donner la matrice génératrice du code et le codage de chaque mot d'information

Exercice 4 : Code systématique

Soit le code linéaire C7,4 qui au vecteur d'information i = (i1,i2,i3,i4) associe le mot de code c=
(i1,i2,i3,i4,c5,c6,c7) avec c5 = i1+i3+i4, c6 = i1+i2+i3, et c7 = i2+i3+i4.
1) Donner la matrice génératrice et la matrice de contrôle de ce code
2) Soit i = (1 0 1 0), quel est le mot de code associé ?
3) Soit le message m = (1 1 1 1 0 0 1). Est-il un mot du code ?

Exercice 5 : Théorie de l’information

1) On considère un ensemble X de n évènements, . On appelle

l’entropie de X. Etablir l’inégalité suivante :

2) On considère une source binaire S émettant des symboles 0 et 1 avec des probabilités
respectives p et 1-p. On note Sn , la source d’ordre n émettant des n-uplets successifs
de symboles de S.
2-1) Donner en fonction de p l’entropie H(S) de la source S

2-2) Etudier H(S) et tracer sa courbe en foncion de p

2-2) Démontrer que , où H(Sn) est l’entropie de la source Sn

Exercice 6
I) On considère des mots de 3 bits et un codage linéaire de matrice G. Déterminer les mots
codés.

II) Un code utilise le polynôme générateur x2 + x + 1. Quel est l'encodage du

message11011 ?
H(z)=z2+z+1 : le degré de ce polynôme est 2, donc il y a 2 bits de contrôle. Par ailleurs le mot
utile proposé comporte 5 bits, donc le code porte sur des mots utiles de m=5 bits. On en
déduit le nombre de bits des mots codés : n=7.
Rep. le mot 11011 est codé 1101100.
2
III) Un flux binaire 10011101 est transmis avec la méthode CRC. Le générateur polynomial est
x3 + 1.
a) Quelle est la chaîne binaire réellement transmise ?
b) Si le troisième bit à partir de la gauche est inversé durant la transmission, est-il détecté
par le destinataire ?
c) Pourquoi les protocoles de liaison de données placent-ils toujours le CRC en fin de
trame et jamais au début ?
Rep. 10011101100 ; reste=100 (donc différent de 0) →Le récepteur détecte donc l’erreur
et demande retransmission ; De cette manière, le CRC peut être calculé pendant la
transmission, ce qui améliore les performances (sinon il faudrait le calculer avant de
commencer à envoyer). De même, au niveau du récepteur, le CRC est calculé au fur et à
mesure de la réception des bits.

Exercice 7: Information et Débit

1) Une source S génère des messages appartenant à un alphabet A = {a1, a2, a3}, toutes les T
secondes. On décide de transmettre ces messages en les groupant par paquets de 4. Chaque
paquet sera représenté par un signal différent de durée finie 4T. Combien de signaux
différents faudra-t-il choisir pour représenter tous les paquets ?
2) On considère, dans ce problème, deux sources numériques différentes SA et SB. SA génère
des messages d’un alphabet A = {a1, a2, a3, a4, a5, a6} à la vitesse d’un message toutes les
TA secondes. SB pour sa part génère des messages issus d’un alphabet B = {b0, b1, b2, b3} à
la vitesse d’un message tous les TB = TA.
2-1) Calculer la rapidité de modulation de SA et SB.
2-2) En supposant un choix de représentation binaire pour les messages issus de SA et de
SB, calculer le débit binaire DA et DB de chaque source.
3) On construit à partir de SA et de SB une nouvelle source S formée par tous les couples (xi,
yj) avec xi et yj appartiennent respectivement à SA et SB. Calculer la rapidité de modulation et
le débit binaire de cette nouvelle source.

Exercice 8: Matrice génératrice et Polynôme générateur

Soit C un code polynomial obtenu par codage systématique, de générateur :
g(x) = x3+x2+x+1
1) Donner la longueur de la clé de contrôle des mots du code
2) Donner la matrice génératrice normalisée G2,5 du code C2,5 de générateur g(x).
3) Donner les matrices génératrices des codes C3,6 et C4,7 ayant le même générateur g(x).
3
 4) Donner le polynôme générateur associée à la matrice génératrice suivante

Rappel : soit le polynôme générateur d’un code cyclique C de

longueur n sur l’alphabet binaire . La matrice génératrice G de C (constituée
de n – t lignes et n colonnes) est définie comme suit :

Exercice 9 : Code de répétition

On utilise un code de répétition. Les bits sont envoyés 5 fois avec chaque fois une probabilité
p d'être mal transmis.
1) Dans un tel paquet de 5 bits (c.a.d. 5 répétitions du bit de signal)
1.1) Quelle est la probabilité P (X=k) que k (k = 0, 1, 2,..., ou 4) de ces 5 bits
sont changés lors de la transmission?
1.2) Quelle est la probabilité que l'erreur de transmission soit détectée ?
1.3) Quelle est la probabilité que l'erreur soit transmise sans être détectée ?
2) Coder le message suivant : 01110
3) Décoder le message suivant : 00100111110001011001
4) Quel est le taux de transmission (rendement) d'un tel code ?
Pour améliorer la fiabilité, on décide d'utiliser un code avec 9 répétitions.
5) Quel est le taux de transmission d'un tel code ?
6) Quelle est la probabilité de faire 5 erreurs ?
7) Montrer que pour p=0,001, la probabilité de faire 6 erreurs est beaucoup plus petite que
celle de faire 5 erreurs (c'est pourquoi les cas de faire 6, 7, 8, ou 9 erreurs ne jouent pas de
rôle et peuvent être négligés par rapport au cas de 5 erreurs).
8) Pour p=0,001, évaluer la probabilité qu'une erreur soit transmise sans être détectée ?