Faculté des Sciences de Tunis

Master d’Electronique

TD1 de Théorie et codage de l’information

Exercice 1 (rappel sur les probabilités) :

On considère un jeu de belotes à 32 cartes non truquées

1- Quelle est la probabilité de tirer une carte trèfle

2- Calculer la quantité d’information correspondante
3- En déduire la valeur de l’entropie

Solution :
1- P(carte trefle) = 8/32 = ¼ ( 7 + 8 + 9 +10 + dame + valé + roi + us )
2- Q= - Log2 (1/4) = 2
3- S=  p(i) . Log2(p(i) ) = 4* ( ¼ * 2) = 2 ( car nous disposons de 4 types :
trèfle+carreau+cœur+pique)

Exercice 2

Une source (S) émet la chaine de caractères suivante :

sami mange son pain sec

Rque : ne pas oublier de tenir en compte « espace » comme caractère

1. Donner l’ensemble « S » de l’alphabet de cette source et les probabilités

d’occurrences de ses éléments
2. Calculer l'entropie de S.
3. Trouver un code de Hoffman pour cette source S.
4. Calculer son efficacité et sa redondance.
5. Ce code est il optimal ? Pourquoi ?
6. Reprendre le même travail avec le code de Shannon-Fano
7. Comparer les performances des deux codes.

Exercice 3:

On considère l’ensemble de codes numériques suivant généré par une source (S) :

[ 00 01 010 0101 0100 ]

1- S’agit-il d’un code de Hoffman ? justifier votre réponse

2- Ce code est-il déchiffrable ? justifier votre réponse
Faculté des Sciences de Tunis
Master d’Electronique

TD2 de Théorie de l’information

Exercice 1:

1. Construire le code de Hamming C(7,4) de la trame de donnée suivante :

(0 0 1 1)

2. On envoie la trame suivante et on reçoit du coté récepteur

(0 0 1 1 1 0 0)

S’agit il d’une transmission avec ou sans erreur ?

Dans le cas contraire, corriger le message erroné par le code correcteur d’erreur de
Hamming.

Exercice 2:

1. Calculer le code cyclique CRC de la suite de données suivante (1 0 1 0 1)

associée au Diviseur ( 1 1 0 1 )
2. En déduire la suite binaire de données à transmettre du côté émetteur.

______________________________- ____________________________