Академический Документы
Профессиональный Документы
Культура Документы
2
Transinformacin
Dos
medidas
X
y
Y,
la
primera
con
dos
resultados
posibles
y
la
segunda
con
tres,
se
encuentran
conectadas
por
un
canal,
como
muestra
la
figura.
Como
el
canal
mezcla
los
resultados,
no
es
posible
saber
a
ciencia
cierta
cul
fue
el
resultado
de
X
con
slo
medir
Y.
El
objetivo
es
saber
cunta
informacin
de
la
que
se
mide
en
Y
proviene
de
X,
y
cunta
es
agregada
por
el
canal.
a)
Calcule
las
entropas
de
cada
medida,
= ! ! log ! (! )
y
() = ! ! log ! (! ).
b)
Calcule
las
seis
probabilidades
conjuntas
! , ! = ! (! |! ).
Con
ellas,
calcule
la
entropa
conjunta,
, = ! , ! log ! ! , ! ,
!,!
la
entropa
condicional
| = ! , ! log ! ! |! ,
!,!
que
es
la
cantidad
de
informacin
que
agrega
el
canal,
en
promedio,
y
la
transinformacin
; = (|)
que
es,
en
promedio,
la
cantidad
de
informacin
promedio
de
Y
que
no
fue
agregada
por
el
canal,
y
por
lo
tanto
viene
de
X.
Finalmente,
compruebe
que
+ (; ) = (, ).
c)
Capacidad
del
Canal:
Ahora
vamos
a
variar
las
probabilidades
de
entrada
y
vamos
a
ver
para
qu
combinacin
de
probabilidades
de
entrada
se
alcanza
la
mayor
transinformacin
posible.
Sea
! =
y
! = 1 .
Con
estos
valores,
calcule
las
probabilidades
! ,
!
y
!
como
funcin
de
p
(recuerde
que
! = ! ! ! (! ) ).
Adems,
calcule
las
seis
probabilidades
condicionales
! , ! = ! (! |! )
como
funcin
de
.
Luego,
con
estos
valores,
calcule
() ,
()
y
(|) .
Con
ellos,
calcule
la
transinformacin
como
; = + , .
Finalmente,
derive
la
transinformacin
respecto
de
y
calcule
el
valor
de
para
el
cual
se
obtiene
la
transinformacin
mxima,
y
halle
este
valor
mximo.
Esta
es
la
capacidad
del
canal.
5.
La
paradoja
de
Gibbs
Por
qu
es
necesario
dividir
()
por
N!
para
calcular
la
entropa
del
gas
ideal?
Para
verlo:
a) Calcule
()
sin
dividir
por
N!,
y
deduzca
que
la
entropa
microcannica
se
puede
aproximar
como
3 4 !/!
, , = ! + ln !! .
2 3
b) Considere
un
gas
ideal
con
N
partculas,
en
un
volumen
V
con
energa
total
E
y
divdalo
en
dos
mitades,
cada
una
con
la
mitad
del
volumen,
de
la
energa
y
del
nmero
de
partculas.
Compruebe
que
la
entropa
total
del
gas
calculada
con
la
frmula
del
literal
a)
no
es
igual
a
la
suma
de
las
entropas
de
las
dos
mitades.
c) Ahora
considere
que
el
gas
se
divide
en
dos
partes,
identificadas
con
los
subndices
1
y
2
(! + ! = ,
! + ! =
y
! + ! = ),
tales
que
las
densidades
volumtricas
de
energa
(/)
y
de
nmero
de
partculas
(/)
son
iguales
en
las
dos
partes.
Usando
la
frmula
que
incluye
dividir
por
N!,
5 4 !/!
, , = ! + ln ,
2 !! 3
demuestre
que
(! , ! , ! ) + (! , ! , ! ) = , , ,
como
se
espera
de
una
cantidad
extensiva.