Correction de contrôle de Théorie de l'information

Exercice 01
1/ P(xi ,yj) 2 pts P(X)=[45/153 , 80/153, 28/153]1 pt
Y 0 1 2 P(Y) = [66/153 , 72/153, 15/153] 1pt
X 1.5pts
H(X)
0 6/153 24/153 15/153
1 32/16 48/153 0 H(Y) 1.364 1.5pts

2 28/153 0 0 H(X,Y) 2.34 2 pts

H(X/Y) H(X,Y)- H(Y) 0.954 1 pt

I(X;Y) H(X) + H(Y)- H(X,Y) bits 1pt

Exercice 02
Chaque événement {a.b} est associé à un événement {x,y}, et la probabilité d'un tel événement est
donnée par

p (a, b) = p (x,y)=(1/4)*(1/2)=1/8

1 pt
x {a,b} P(x) y {a,b} P(y) 1 pt
1 {1,0} 1/8 0 {1,1} 1/8
2 {2,0}{1,1} 1/4 1 {2,1}{1,0} 1/4
3 {3,0}{2,1} 1/4 2 {3,1}{2,0} 1/4
4 {4,0}{3,1} 1/4 3 {4,1}{3,0} 1/4
5 {4,1} 1/8 4 {4,0} 1/8

H(X,Y) 8 [1/8( ] 3 bits/symbol 1.5 pts

H(X) 1.5pts

H(Y) 9/4 1.5 pts

H(X/Y) H(X,Y)- H(Y) 3/4 1 pt

H(Y/X) H(X,Y)- H(X) 3/4 1pt

I(X;Y) H(X) + H(Y)- H(X,Y) bits 1pt