03 TXD Com Dig LowRes PDF

TxD
Comunicaciones Digitales
TxD Prof. Carlos Gmez Comunicaciones Digitales
2
TxD
Prof. Carlos Gmez
Comunicacin Digital: Qu es?
3
TxD
Prof. Carlos Gmez
Sobre la Comunicacin
Hasta ahora:
Modelos de seales y su modulacin
Teora de Seales:
Insuficiente para entender la comunicacin
Enfoque ms amplio:
4
Teora General de la Comunicacin
TxD
Prof. Carlos Gmez
Sobre la Comunicacin (Cont.)
Primeros trabajos: Nyquist
1
y Hartley
2
. Luego Shannon
3
y
Wiener
4
1. Nyquist: Certain Factors Affecting Telegraph Speed (1924) y
Certain Topics in Telegraph Transmission Theory (1928)
2. Hartley: Transmission of Information (1928)
3. Shannon: A Mathematical Theory of Communication (1948)
4. Wiener: Extrapolation, Interpolation and Smoothing of
Stationary Time Series with Engineering Applications (1949)
5
TxD
Prof. Carlos Gmez
A Mathematical Theory of Communication
El problema fundamental de la comunicacin es el de
reproducir en un punto ya sea exacta o aproximadamente, un
mensaje seleccionado en otro punto.
C. E. Shannon
Shannon (1948), A Mathematical Theory of Communication, The Bell System Technical Journal, Vol.
22. NY.
6
TxD
Prof. Carlos Gmez
A Mathematical Theory of Communication
(Cont.)
Las fuentes de informacin pueden medirse y los canales de
comunicacin tienen una unidad de medida similar, y ellas
determinan la velocidad mxima de transferencia o
capacidad de canal.
Ibid
7
8
TxD
Prof. Carlos Gmez
Teora de la Informacin
La informacin puede transmitirse sobre un canal si, y
solamente si, la magnitud de la fuente no supera la
capacidad de transmisin del canal
Sent las bases para la correccin de errores, supresin de
ruidos y redundancia
9
TxD
Prof. Carlos Gmez
Teora de la Informacin (Cont.)
Shannon utiliz dos medidas:
Entropa de la fuente como medida de la cantidad de
informacin o auto-informacin
- Incertidumbre de una fuente de informacin
- Cantidad de informacin promedio que contienen los smbolos usados
Medida de informacin mutua o sea la informacin que un
proceso tiene sobre otro
10
TxD
Prof. Carlos Gmez
Teora de la Informacin - Pero?
Teora de probabilidad aplicada y dentro del rea de
comunicaciones
Lmites tericos de desempeo
Desarrollo de nuevos esquemas de codificacin
Transmisin ideal libre de errores, solo que el ruido
aumenta la probabilidad de error
11
TxD
Prof. Carlos Gmez
Teora de la Informacin - Pero? (Cont.)
Reducir probabilidad de error aumentando la energa por
bit (E
b
)
Aumento de potencia de transmisin (S)
Reduccin de velocidad de transmisin (R
b
)
12
TxD
Prof. Carlos Gmez
Teora de la Informacin - Pero? (Cont.)
Antes de 1948 se pensaba que era imposible la transmisin
sin error
Shannon establece:
Tasa de transmisin dentro de ciertos lmites, transmisin sin
errores. NO es necesario que R
b
sea nula para lograrlo
Transmitir por debajo de la capacidad del canal (C)
13
TxD
Prof. Carlos Gmez
Moderna Teora de la Comunicacin
Si la tasa de informacin de una fuente no excede la
capacidad del canal de comunicacin, entonces existe una
tcnica de codificacin tal que la informacin puede ser
transmitida sobre el canal con una frecuencia de errores
arbitrariamente pequea no obstante la presencia del ruido
14
TxD
Prof. Carlos Gmez
Moderna Teora de la Comunicacin (Cont.)
El sorprendente, casi asombroso aspecto de aquella
afirmacin es la promesa de una transmisin libre de error
sobre un canal ruidoso, condicin lograda con la ayuda de la
codificacin.
15
TxD
Prof. Carlos Gmez
Auto-Informacin / Informacin Mutua
Al transmitirse una noticia, mientras menos probable ms
informacin lleva consigo
Nos vemos en la prxima clase o
Venezuela rompe relaciones con USA
16
Bienvenidos al mundo de las probabilidades
TxD
Prof. Carlos Gmez
Auto-Informacin / Informacin Mutua (Cont.)
La informacin es un nmero positivo
Si = 1 su informacin es nula
Si > >
Sean A y B, se transmite primero A y luego B
Informacin recibida =+
Si C representa la ocurrencia de A y B, ()=()()
17

= log
1

TxD
Prof. Carlos Gmez
Entropa
Entropa H es la cantidad de informacin promedio por
mensaje
Fuente de informacin n smbolos, sin memoria
Cada mensaje m
i
con probabilidad de ocurrencia p
i
no tiene
relacin con mensajes previos
18
TxD
Prof. Carlos Gmez
Entropa y Tasa de Informacin
Tasa de Informacin: Cantidad de bits de una fuente que
genera k mensajes por segundo
19
= log
2
1
bits
=
=1
=
=1
log
2
1
=
=1
log
2

=
TxD
Prof. Carlos Gmez
Tasa de Informacin: Ejemplo
BW =B,
=2. Cuantificacin 4 niveles (M=4). Los niveles

tienen probabilidades P(1)=(2)=18 (3)=(4)=38. R=?
20
=
=
log
= log
+ log
+ log
+ log
= ,
= = 2 = 3,6
TxD
Prof. Carlos Gmez
Lmites para la Transmisin de Datos
Consideracin en la transmisin de datos: Cun rpido se
puede enviar informacin? Depende de tres factores:
El ancho de banda disponible
El nivel de la seal usada
La calidad del canal (nivel de ruido)
21
TxD
Prof. Carlos Gmez
Lmites para la Transmisin de Datos (Cont.)
Dos frmulas tericas para la estimacin:
Canal sin ruido
- Nyquist =2log
2
Canal ruidoso
- Shannon =log
2
(1+)
Notas:
BW: Ancho de banda del canal. L: Nmero de niveles usados. SNR: Relacin seal a ruido
22
TxD
Prof. Carlos Gmez
Ejemplo Sin Ruido
Para un canal sin ruido y ancho de banda de 3 kHz, se
transmite una seal con dos niveles de seal. Mximo bit
rate?
= 2 log
2
= 2 3.000 log
2
2 = 6.000
23
TxD
Prof. Carlos Gmez
Ejemplo Sin Ruido (Cont.)
Si necesitamos enviar datos a 265 kbps sobre un canal sin
ruido con un ancho de banda de 20 KHz, cuntos niveles
de seal requerimos?
= 265.000 = 2 log
2
= 40.000log
2
= 2

265.000
40.000
= 98,7
24
TxD
Prof. Carlos Gmez
Ejemplo Con Ruido
Se puede calcular el bit rate ms alto de un enlace cuyo
BW es igual a 3 KHz. La SNR es 3.162. Cul ser la
capacidad?
= log
2
1 +
= 3.000 log
2
1 +3.162 = 34.881
25
TxD
Prof. Carlos Gmez
Ejemplo Con Ruido (Cont.)
La SNR por lo general viene dada en decibeles. Si la
=36 y el BW = 2 MHz. Cul es la capacidad del canal?
= 10log
10
= 10

10
= 10
3,6
= 3.981
= log
2
1 + =2 10
6
log
2
3.982 24
26
TxD
Prof. Carlos Gmez
Nota Sobre Nyquist y Shannon
27
28
TxD
Prof. Carlos Gmez
Codificacin
Teora de la Informacin es un tema matemtico:
Medida de la informacin
Capacidad de un canal de comunicacin
Codificacin
29
TxD
Prof. Carlos Gmez
Codificacin (Cont.)
Codificacin: Acoplar fuente y canal para asegurar la
transferencia de informacin
Codificacin para la compresin de datos:
- Codificacin de Huffman
Codificacin correlativa:
- Transmitir una seal 2B por un canal con BW igual a B
Teorema de codificacin de canal:
- Teorema de Shannon-Hartley
30
TxD
Prof. Carlos Gmez
Codificacin de Fuentes
Propsito de un sistema de comunicacin: Transferir
informacin desde un emisor hasta un receptor a travs de
un canal
31
TxD
Prof. Carlos Gmez
Codificacin de Fuentes (Cont.)
Teora de la Informacin: se logra la transmisin incluso
ante el ruido
Medida de la informacin
Capacidad del canal
Teora de la Codificacin
Tcnicas para la transmisin eficiente y precisa
- Compresin de datos, control de errores y criptografa
32
TxD
Prof. Carlos Gmez
Codificacin
33
Establecer correspondencia entre smbolos de
un alfabeto fuente y una secuencia de
smbolos de un alfabeto destino.
Cdigo Bloque: Los cdigos de cada
smbolo fuente tienen la misma longitud
Cdigo Singular: Cada smbolo del
alfabeto fuente tiene un nico cdigo
Cdigo no Singular: Cada smbolo del
alfabeto fuente tiene dos o ms
cdigos
Cdigo Compacto: Cada smbolo del
alfabeto fuente tiene un cdigo de
longitud mnima
Alfabeto Cdigo Alfabeto Fuente
Longitud Media: Cada cdigo de cada smbolo
fuente tiene longitud l
k
=
=1
Eficiencia: =

, siendo
Shannon: =
Redundancia: Informacin innecesaria para

interpretar el significado de los datos originales
= 1
TxD
Prof. Carlos Gmez
Codificacin de Fuente
Objetivo: Minimizar la tasa promedio de bits para
representar la fuente
En el sistema: Redundancia Eficiencia
Correlacin de la informacin: algunos bits o cadenas de
bits son ms probables que otros, luego, se transmiten ms
bits de los necesarios
34
TxD
Prof. Carlos Gmez
Codificacin de Fuente (Cont.)
Propiedades de la modulacin (Ej.
ancho espectral) no son idnticas a los valores tericos.
Interferencia con otros sistemas de comunicacin
35
TxD
Prof. Carlos Gmez
Codificacin de Fuente (Cont.)
Si se conoce la estadstica de la fuente, una buena idea es
asignar cdigos cortos a los smbolos ms frecuentes y
cdigos largos a los menos frecuentes
36
A D G J M O R U X
B E H K N P S V Y
C F I L Q T W Z
TxD
Prof. Carlos Gmez
Codificacin de Huffman
Algoritmo para la compresin de datos
Se basa en la probabilidad de aparicin de los smbolos
El resultado es una tabla de cdigos de longitud variable
37
TxD
Prof. Carlos Gmez
Codificacin de Huffman (Cont.)
Cadena de bits de idntica longitud se le asigna otra
cadena de bits de longitud variable
Cuanto mayor probabilidad de aparicin de una cadena de
bits, menor la longitud de la cadena asignada
La longitud media de las cadenas resultantes es menor que
las cadenas originales
38
TxD
Prof. Carlos Gmez
A cada cadena de 3 bits se asigna una cadena de longitud
variable que minimice el nmero de bits medio por
smbolo
Se ordenan los smbolos de acuerdo a sus probabilidades:
ms probable a menos probable
39
TxD
Prof. Carlos Gmez
Se juntan los dos smbolos menos probables; nuevo
smbolo cuya probabilidad es la suma de ambas y se
ordenan de nuevo
Se genera rbol de smbolos
40
TxD
Prof. Carlos Gmez
Hecho el rbol, se recorre de derecha a izquierda
Se asocia a cada bifurcacin un 0 y un 1 en cada una de sus
ramas
Se leen los bits de derecha a izquierda
41
TxD
Prof. Carlos Gmez
Codificacin de Huffman - Ejemplo
Fuente continua cuantificado a ocho niveles. Se asigna a
cada muestra de entrada un smbolo de tres bits. Las
probabilidades son:
42
P(000)=0,2 P(001)=0,01 P(010)=0,4 P(011)=0,04
P(100)=0,1 P(101)=0,02 P(110)=0,07 P(111)=0,16
=
=1
log
2
2,38 < 3
TxD
Prof. Carlos Gmez
Codificacin de Huffman - Ejemplo
43
010
000
111
100
110
011
101
001
0,40
0,20
0,16
0,10
0,07
0,04
0,02
0,01
0,40
0,20
0,16
0,10
0,07
0,04
0,03
0,40
0,20
0,16
0,10
0,07
0,07
0,40
0,20
0,16
0,14
0,10
0,40
0,24
0,20
0,16
0,40
0,36
0,24
0,60
0,40
1,00
TxD
Prof. Carlos Gmez
Codificacin de Huffman - Ejemplo (Cont.)
1. Inicia con la columna de la derecha. Se asigna 0 y 1 a cada
probabilidad.
2. Columna a la izquierda:
a. Si la probabilidad es la misma que el de la derecha, se asigna el
mismo nmero
b. Si la probabilidad fue sumada, se asigna un 1 a la probabilidad
menor, adems de la combinacin que le antecede
44
TxD
Prof. Carlos Gmez
45
010
000
111
100
110
011
101
001
1
0,40
000
0,20
001
0,16
011
0,10
0100
0,07
01010
0,04
010110
0,02
010111
0,01
1
0,40
000
0,20
001
0,16
011
0,10
0100
0,07
01010
0,04
01011
0,03
1
0,40
000
0,20
001
0,16
011
0,10
0100
0,07
0101
0,07
1
0,40
000
0,20
001
0,16
010
0,14
011
0,10
1
0,40
01
0,24
000
0,20
001
0,16
1
0,40
00
0,36
01
0,24
0
0,60
1
0,40
1,00
Smbolo Probabilidad Cdigo
000 0,20 000
001 0,01 010111
010 0,40 1
011 0,04 01010
100 0,10 011
101 0,02 010110
110 0,07 0100
111 0,16 001
TxD
Prof. Carlos Gmez
Veamos algunos nmeros
46
=
=1
= 2,44 =
=1
log
2
= 2,38
=

=
2,38
2,44
= 0,9754 = 1 = 1 0,9754 = 0,0246
TxD
Prof. Carlos Gmez
rbol (Binario) de Huffman
47
H
0,16
A
0,20
B
0,01
C
0,40
D
0,04
E
0,10
F
0,02
G
0,07
H
0,16
A
0,20
B
0,01
C
0,40
D
0,04
E
0,10
F
0,02
G
0,07
0,03
0,07
0,14
0,24 0,36
0,60
1,00
0
1
1 1
1
1
0
0
0
0
0
0
1
1
Smbolo Probabilidad Cdigo
A 0,20 000
B 0,01 010111
C 0,40 1
D 0,04 01010
E 0,10 011
F 0,02 010110
G 0,07 0100
H 0,16 001
TxD
Prof. Carlos Gmez
Capacidad de Canal
Teorema de Shannon sobre la capacidad de un canal
Sea una fuente de Mmensajes igualmente probables que se
transmiten a una tasa R, por un canal con una Capacidad de
Canal igual a C, entonces
- < => es posible transmitir sin error
- > => la probabilidad de errores tiende a 1
48
TxD
Prof. Carlos Gmez
Capacidad de Canal (Cont.)
Para una fuente de n mensajes discretos, enviados por canal no
ruidoso, los mensajes sern identificados en el receptor. La mxima
entropa es:
=
=1
log
2
1
= log
2
T es el tiempo de transmisin de cada mensaje, la capacidad C es:

=
1
log
2
49
TxD
Prof. Carlos Gmez
Capacidad de Canal Ejemplos
1. Sea una imagen con 300.000 pixeles y cada uno con 10
niveles de grises. Determine la informacin de cada
posible imagen
50
= log
2
10
300.000
= 300.000log
2
10
= 3,32 300.000 = 996.000
Si se transmiten 30 c/s determine la tasa de informacin
= 30 996.000 = 29,9
TxD
Prof. Carlos Gmez
Capacidad de Canal Ejemplos (Cont.)
2. Determine la informacin que llevan 1.000 palabras que
pertenecen a un vocabulario de 100.000 palabras.
51
= 1.000log
2
100.000
= 3,32 1.000log 100.000 = 16.600
TxD
Prof. Carlos Gmez
Codificacin de Canal
Codificador de canal introduce redundancia controlada.
Distintos cdigos:
Cdigos bloque
Cdigos convolucionales
Cdigos de rejilla (Trellis), etc.
52
TxD
Prof. Carlos Gmez
Codificacin de Canal (Cont.)
Los bits de redundancia son los que permiten detectar y
corregir los errores
53
CDIGOS DE CANAL
Cdigos Bloque Cdigos Trellis
Cdigos Lineales Cdigos no Lineales Cdigos Convolucionales Cdigos Coset
Cdigos Cclicos

03 TXD Com Dig LowRes PDF

Transféré par

Informations du document

Titre original

Copyright

Formats disponibles

Partager ce document

Partager ou intégrer le document

Options de partage

Avez-vous trouvé ce document utile ?

Ce contenu est-il inapproprié ?

Droits d'auteur :

Formats disponibles

03 TXD Com Dig LowRes PDF

Transféré par

Droits d'auteur :

Formats disponibles

TxD

=2. Cuantificacin 4 niveles (M=4). Los niveles

=36 y el BW = 2 MHz. Cul es la capacidad del canal?

Redundancia: Informacin innecesaria para

T es el tiempo de transmisin de cada mensaje, la capacidad C es:

Vous aimerez peut-être aussi