SISTEMA DE COMUNICACIONES DIGITALES

Cantidad de Informacin

I ( xi )=log 2 P ( xi )=log 2

TEORA DE LA INFORMACIN
Entropa
Longitud
promedio

1
P( xi)

H ( X )= P ( xi ) I ( xi)
i=1

log 2 P ( xi ) : [ bit ]

Hr ( X ) =

log P ( xi ) : [ nat ]

H (X)
log 2 r

log 10 P ( xi ) : [ hartley ]

Demostracin de I(x)

P( xi)

I ( xi)

1/2

(muy alta)

Eficiencia

=1

n
P1=01011 d ( P 1, P2 )=2
L= P ( xi )
i=1
P2=00010 d ( P 1, P 3 )=1
: Nmero elementos de
P3=11011 d ( P 2, P 3 )=3
palabracdigo
d ( P 1, P2 ) =2
(N 1001=4)
dmin ( H )=1
L Hr ( X )

Peso de una P.C

Hr ( X )
=
1: Max
L
Redundancia

Distancia de Hamming y
Mnima de Hamming

d ( P 1, P2 ) : espacio vectorial n
W ( Pn ) W ( P 1 )=3
dimensionado . Nmero de elementos
:nmero de elementos
diferenctes
diferentes de cero
entre P . C . de igual longitud
( nmero de 1 s )

W ( P1 P2 )=d ( P 1, P 2)
dmin ( H ) : menor distancia de Hammin

entre P . C . vlidas . Debe ser lo mayo

Demostracin de H(x)

Si se busca dmin(H )

Cantidad de informacin Total:

Q [ X ] =m1I ( x 1 ) +m 2I ( x 2 ) ++mnI ( xn )
Q [ X ] m1I ( x 1 ) m 2I ( x 2 )
mnI ( xn )
=
+
+ +
n
n
n
n
si

m
veces que se repite el smbolo
=fr=
n
total de smbolos

nmero de eventos favorables

nmero de eventos totales vetificados

Detectar l errores

l+ 1

Corregir t errores

2t +1

Detectar l y corregir l+t +1

t errores
si l>t
BER y Proporcin Residual de Error

BER =

cuando n fr ( xi ) P(xi)

bits errados
bits transmitidos

si=
Q[X]
=H ( X )=P(xi) I (xi)
n

1
; acepta1 bit errado por cada 10.
10
PRE=

bits erroneos no detectados

bits transmitidos

se busca que tiendan a 0

Cdigos compactos o de Huffman

Se ordenan las probabilidades de mayor a menor
Se agrupan las ltimas r probabilidades en la nueva Fuente Reducida
La ltima fuente reducida debe tener r smbolos

Condicin:r + ( r1 )=n; en caso de no cumplir se agregan smbolos con P ( x ) =0,00

:debe ser entero , con aproximacin al inmediato superior

REGRESIN:
Se conserva el smbolo de la probabilidad regresiva y se agrega todas las
permutaciones r-arias
Para los smbolos faltantes se agregan los que no se usaron de la fuente reducida
En cado de probabilidad igual se escribe el primer smbolo
EJEMPLO 1 de fuente Ternaria (3)
Fuente
original en
desorden

Fuente original
ordenada

Fuente Reducida 1

Fuente Reducida 2

X 1 0,10

X 5 0,30

X 5 0,30

X 9 0,44

X 2 0,15

X 3 0,18

00

X 8 0,26

X 5 0,30

X 3 0,18

X 2 0,15

01

X 3 0,18

00

X 8 0,26

X 4 0,06

X 7 0,11

02

X 2 0,15

01

X 5 0,30

X 1 0,10

20

X 7 0,11

02

X 6 0,10

X 6 0,10

21

X 7 0,11

X 4 0,06

22

=1,00

=1,00

EJEMPLO 2 de fuente Binaria (2)

=1,00

=1,00

Fuente
original
ordenada

Fuente
Reducida
1

Fuente
Reducida
2

Fuente
Reducida 3

X 5 0,30 01

X 5 0,3001

X 5 0,3001

X 3 0,18 11

X 3 0,1811

X 9 0,2110

X 2 0,15 001

X 8 0,16000

X 3 0,18 11

X 7 0,11 100

X 2 0,15001

X 8 0,16000

X 1 0,10 101

X 7 0,11100

X 2 0,15 001

X 6 0,10 000

X 1 0,10101

=1,00

=1,00

0
X 4 0,06 000
1

=1,00

Fuente
Reducida 4

X 10 0,31 0
0
X 5 0,30 0
1
X 9 0,21 1
0
X 3 0,18 1
1

X 11 0,39 1

X 12 0,61 0

X 10 0,31 0

X 11 0,39 1

X 5 0,30

=1,00

Fuente
Reducida 4

=1,00

0
0
1

=1,00

EJEMPLO 3 de fuente Pentaternaria (5)

Fuente original en
desorden

Fuente original ordenada

Fuente Reducida 1

X 1 0,10

X 5 0,30

X 5 0,30

X 2 0,15

X 3 0,18

X 10 0,26

X 3 0,18

X 2 0,15

X 3 0,18

X 4 0,06

X 7 0,11

X 2 0,15

X 5 0,30

X 1 0,10

10

X 7 0,11

X 6 0,10

X 6 0,10

11

X 7 0,11

X 4 0,06

12

X 8 0,00

X 8 0,00

13

X 9 0,00

X 9 0,00

14

=1,00

=1,00

=1,00

r + ( r 1 )=n =1

5+ ( 4 ) =7 5+1 ( 51 )=n

75 1
= n=9
4
2

CDIGOS DE LNEA
Pueden empezar en alto o bajo
Se supone una primera violacin par
Se verifica: Pulsos de Violacin (V) alternados en polaridad
1s lgicos y Pulsos Bipolares (B) alternados en polaridad

Cdigo HDBn (Bipolar de alta densidad de orden n)

Par

Nmero de 1s despus
de la ltima Violacin,
si es 0

Impar

par

Polaridad
+
n=3

-00+00+
Bipolar(B)
Violacin(V)
No ms de n+1 ceros consecutivos

000+
000Violaci
n(V)

Cdigo BnZS (Sustitucin de Ceros Bipolar de orden n)

Par

Nmero de 1s despus
de la ltima Violacin,

Impar

si es 0 par

Polaridad
+
-

-0+0+
n=3
Bipolar(B)
Violacin(V)
Nmero de Bipolares (B) entre violaciones debe ser Impar

CDIGO BLOQUE

r : redundancia=q=nk
Lineales o Sistemticos (n,k)

2 >2

00+
00Violaci
n(V)

Se llaman asi porque al sumar dos palabras cdigo vlidas en mdulos dos ( )
se genera otra palabra cdigo vlida incluyendo al vector nulo
Palabra cdigo nulo. Todos los elementos son cero.

P1+ P 0=P1

d ( P 1, P0 )=3

W ( P1+ P 0 ) =3

Bloque. Se agrega redundancia sin alterar la posicin relativa del mensaje

m0 m1 m2 mk1 r 0 r 1 r q1
AB

XOR

0
0
1
1

0
1
1
0

0
1
0
1

A B
Iguales 0
Diferentes 1

M 1n =( A|B ) Matriz ampliada

M 1 k :Vector Mensaje

Cdigo : X 1 n=( M 1 k|R1 q )

X =M 1 k Gk n G k n : Matriz Generadora
Gk n=( I k k|Pk q )

Pk q :Condicin, debe tener por lomenos dos 1 s lgicos por fila .

No se pueden repetir las filas

1 0 0
Matriz Identidad ( debe ser cuadrtica): I 3 3=0 1 0
0 0 1
Multiplicacin de Matrices: M a bN b c =Pa c
k nq
q
Eficiencia: R c = =
=1 1
n
n
n
Mensaje : M 1 4=m 0 m1 m2 m3
Redundancia : R1 3=r 0 r 1 r 2
Palabra Cdigo : X 1 7=m m m m r 0 r 1 r 2
0

La idea es encontrar:

R1 3=M 1 4 P 4 3

q
a 1 ( relacin10 a 1 ) a=10 0
n

1
0
P 4 3=
1
1

1
1
0
1

0
1
:Se genera aleatoriamente , pero sugn la condicin
1
14X 3

R1 3=( r 0 r 1 r 2 )=( m0 m 1 m2 m3 )1 x 4

( )
1
0
1
1

1
1
0
1

0
1
1
1

4x 3

:se multiplica segn matrices pero se suma en mdulo dos

r 0=m0 0 m2 m 3

r 1=m0 m1 0 m3

r 2=0 m1 m2 m 3

Palabras Cdigo Vlidas Generadas

Nme
ro
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16

m0
0
0
0
0
0
0
0
0
1
1
1
1
1
1
1
1

m1
0
0
0
0
1
1
1
1
0
0
0
0
1
1
1
1

m2
0
0
1
1
0
0
1
1
0
0
1
1
0
0
1
1

m3
0
1
0
1
0
1
0
1
0
1
0
1
0
1
0
1

r0
0
1
1
0
0
1
1
0
1
0
0
1
1
0
0
1

(2k =16)
r1

0
1
0
1
1
0
1
0
1
0
1
0
0
1
0
1

r2
0
1
1
0
1
0
0
1
0
1
1
0
1
0
0
1

CDIGOS BLOQUE
Cdigos Lineales
Palabra Mensaje

M 1k

Redundancia

R1 q=M 1 k P k q Matriz
Generadora

G k n=( I k k Pk q )
Deteccin de Errores (Decodificacin Sndrome)
Matriz Verificadora de Datos

Palabra Cdigo

X 1 n=( M 1 k R1 q )
X 1 n=M 1 k Gk n

W ( X)
0
4
3
3
3
3
4
4
3
3
4
4
4
4
3
7

H q n=(PT q k I q q)

X T H =X H T =0 ( sin errores )S=Y H T

S=Y H T

Y = X+ E

S=( X + E) H T

( E=0 no hay errores )

S= X H T + E H T

(E 0 hay errores)

S=E H : se va a tener 2 1

vectores sndrome con1 o mas

errores pero para cada
palabracdigo