Trabajo Prctico N2: Teora de la Informacin

Ejercicio 1: Calcular la cantidad de informacin contenida en un mensaje con probabilidad de

ocurrencia 1/8 y expresar el resultado en NAT, BIT y HARTLEY.

m P=1/8
I[Hartley]= log 1/PA = log 8 = 0,903 Hartley
I[NAT]= ln 1/PA = ln 1/PA = ln 8 = 2,08 NAT
I[bits]= log2 1/PA = log2 8 = 3 bits

Ejercicio 2: Un tren de pulsos elctricos se compone de binits 0 y 1, tales que P(0)= 2/3 y P(1) =
1/3. Determinar la cantidad de informacin portada por cada binit. Tener en cuenta que no es
siempre correcto decir que un 0 o 1 es un bit, ya que esto es cierto slo para casos en que los
mensajes son equiprobables.

P(0) = 2/3 I0 = log2 ( ) = 0,58 1 bit

P(1) = 1/3 I1 = log2 ( ) = 1,58 2 bits

Comunicaciones TPN 2 Adrin Botta

Ejercicio 3: Supongamos que una fuente produce los smbolos A, B, C y D con probabilidades
1/2, 1/4, 1/8 y 1/8 respectivamente.
a) Calcular la informacin portada por cada smbolo.

A= 1/2 IA= log2 2 = 1 bit

B= 1/4 IB= log2 4 = 2 bits
C= 1/8 IC= log2 8 = 3 bits
D= 1/8 ID= log2 8 = 3 bits
b) Si los smbolos son independientes, calcular los bits de informacin del mensaje BACA.

IBACA= IB+ IA+ IC +IA = 7 bits

Ejercicio 4: Calcular la probabilidad de que aparezcan 3 caras consecutivas al tirar una moneda
y su informacin asociada.

Pcara = 3 veces = 1/2 * 1/2 *1/2=(1/2)3 = 1/8 Icara_3= log2 ( ) = 3 bits

Ejercicio 5: De un mazo de 40 cartas espaolas se extrae una carta. Si me informan que es de oro.
Cuntos bits de informacin he recibido? y Qu informacin es necesaria para especificar la
carta?

Poro=1/4
I = log2 ( ) = 2 bits

I = log2 ( 1 ) = 6 bits
1 / 40
Ejercicio 6 La patente de un auto tiene tres letras de un alfabeto de 24, seguidas de 3 dgitos
decimales.
a) Qu informacin suministra la placa? I = log2 ( ) = 24 bits

b) Cunta informacin proveera si fueran 6 dgitos? I = log2 ( ) = 20 bits

Ejercicio 7: Existen 4 mensajes m1, m2, m3 y m4 con probabilidad p1 = 1/4, p2 = 1/8, p3 = 1/3 y L
= 4. Determinar

a) P4= 1-( P1+ P2+ P3)= 7/24

b) I= log2 4 = 2 bits
I2= log2 8 = 3 bits
I3= log2 3 = 2 bits
I4= log2 (24/7) = 2 bits
c) ITOT= (log2 4 * 1/4 + log2 8 *1/8 + log2 3 *1/3+ log2 (24/7)*7/24) * 4
ITOT = 8 bits
d) H = IT/L = 8/4=2 bits
e) I = log24 = 2 bits IT = 8 bits/4 = 2 bits (Mensajes Equiprobables)

Comunicaciones TPN 2 Adrin Botta

Si dos fuentes tienen la misma entropa pero una produce mas smbolos por
unidad de tiempo que la otra, entonces en un perodo dado ser transferida
ms informacin de la fuente ms rpida. Por ello una caracterstica
importante de la fuente es su tasa de informacin media en bits por
segundo.
Donde la Tasa de informacin R=H/ bits/seg] y es la duracin promedio
del smbolo.

Ejercicio 8: Calcular la tasa de informacin de una fuente telegrfica teniendo Ppunto = 2/3,
Praya = 1/3 y s punto = 0,2seg y s raya = 0,4seg.

Ipunto= log2 3/2 = 0,584; Iraya= log2 3 = 1,584;

= punto* Ppunto + raya* Praya = 0,2seg <* 2/3 + 0,4seg * 1/3 = 4/15
H= Ipunto * Ppunto + Iraya Praya = 0,584 * 2/3 + 1,584 * 1/3 = 0,917

I TOT
H L 0,917 / 1
R 3,44 3 bps
4 / 15

Ejercicio 9: Si el ancho de banda del canal telefnico es de 3100Hz

S/N= 20 dB S/N[dB] = 10 log (S/N)
S/N = 10(20 dB/10) = 100

Comunicaciones TPN 2 Adrin Botta

 a) Cul ser la capacidad del canal si S/N (expresado en dB) es 20dB?
C = B log2 (1+S/N) = 3100 Hz * log2 (1+100) = 20640 bits/seg

b) Cul sera el nmero de niveles necesarios para la seal con la capacidad obtenida en el
punto anterior?
N = C/2B =20640 / 6200 Hz = 3,32 M=23,32 23 = 8 niveles

Ejercicio 10: Dado el valor hallado de Capacidad mxima en el ejercicio anterior para qu valor
de M sera posible si ahora consideramos un B=3300Hz?

C = 3300 Hz = log2(1+100) = 21972 bits/seg M = 23,32

Ejercicio 11:Sea un canal con una capacidad C = 20Kbps. El ancho de banda del canal es B =
3300HZ. Cul es la relacin S/N (expresada en dB) admisible para conseguir la mencionada
capacidad?
20*1024

C = B log2 (1+S/N) S/N = 2(C/B) 1 = 2

3300
- 1 = 72.82
S/NDB = 10 log (S/N) = 10 log(72.82) = 18.62 dB

Ejercicio 12: Para operar a 9600bps, se usa un sistema de sealizacin digital.

a) Si cada elemento de seal codifica una palabra de 4 binits. cul es el ancho de banda
mnimo necesario?
24 = 8 niveles n = C/2B = 4 B=C/2n = 9600 bps / 8 = 1200 Hz
b) Idem anterior pero para 8 binits.
B = C/2n = 9600 bps/16 = 600 Hz

Ejercicio 13: Si C = 56Kbps(mdem) y B = 4 KHz, determinar M.

N = C/2B = = 7,168 M = 2n = 27,168 27 = 128 niveles

Ejercicio 14: Hallar la capacidad de un canal extremadamente ruidoso en el cual S/N = 0,00005,
B= 4000Hz, y la capacidad de otro con el mismo ancho de banda pero con una S/N = 80. A qu
conclusin se llega?

S/N1 = 0,00005; B1 = 4000 Hz; S/N2 = 80

C1 = B1 log2 (1+S/N) = 4000 Hz * log2 (1+0,00005) = 0,28 = 1 bps
C2 = 4000 Hz * log2 (1+80) = 25359,4 bps
Conclusin: hay gran diferencia cuando hay presencia de ruido

Ejercicio 15: Se tiene un canal con un ancho de banda de 1 MHz y una S/N de 63. Cules son la
velocidad y el nivel de la seal apropiados?

B = 106 Hz
C = B log2 (1+S/N) = 106 log2 64 = 6 Mbps
S/R = 63

Comunicaciones TPN 2 Adrin Botta

 C 6 *106
Si usramos C = 6Mbps n 3 niveles
2B 2 *106

Comunicaciones TPN 2 Adrin Botta