UNIVERSIDAD DISTRITAL

FRANCISCO JOSÉ DE CALDAS

FACULTAD TECNOLÓGICA
INGENIERÍA EN TELECOMUNICACIONES .

27308005-6
SYLLABUS DEL CURSO
TEORIA DE LA INFORMACION

PROFESOR: DANNY JAVIER TAPIERO LUNA

INGENIERO SISTEMAS
ESPECIALISTA EN TELECOMUNICACIONES MOVILES
Universidad Distrital Francisco José de Caldas
=============================================================

UBICACIÓN: Facultad Tecnológica, U. Distrital FJDC

Cll. 74S 68 A-20.

CORREO ELECTRÓNICO: TIdistrital@gmail.com

PRERREQUISITOS:

 Conocimientos de algún lenguaje de programación.

 Conocimientos de combinatoria.
 Conocimientos de probabilidad
 Conocimientos intermedios de Inglés.
 Conocimientos fundamentales de Comunicación Mediada por Computador (correo
electrónico, Internet Chat, Web browsers, Search engines, etc.)
 Actitud y aptitud para la investigación y la realización de trabajos en grupo.

**** ¡IMPORTANTE: Todo estudiante (Futuro Ingeniero en Telecomunicaciones) que decida permanecer
oficialmente inscrito en la asignatura TEORIA DE LA INFORMACION acepta conocer y cumplir como
mínimo la totalidad de los anteriores requisitos, así como los términos y contenidos del curso, bajo su propia
responsabilidad y compromiso!****

========================================================================
1. DESCRIPCIÓN DEL CURSO

Teoría de la información es una materia de Séptimo semestre del ciclo de Ingeniería en

Telecomunicaciones de la Facultad tecnológica de la Universidad Distrital. La Teoría de la
Información es una teoría matemática creada por Claude Shannon en el año 1948 y que
forma la piedra angular sobre la que se ha desarrollado toda la teoría actual de la
comunicación y la codificación. Esta teoría establece los límites de cuánto se puede
comprimir la información y de cuál es la máxima velocidad a la que se puede transmitir
información. La Teoría de la Información es, por tanto una teoría de límites alcanzables:
máxima compresión de datos y máxima tasa de transmisión de información transmitida sin
errores. Las aplicaciones de esta teoría son enormes y abarcan desde las ciencias de la
computación (criptografía, aprendizaje), la ingeniería eléctrica (Teoría de la comunicación
y teoría de la codificación), la estadística o la biología (secuencias de ADN, código
genético). La última parte de la asignatura estudia el hecho de que la información es algo
que inevitablemente necesita un soporte físico sobre el que manifestarse. Así, se verá que la
termodinámica sólo impone un coste energético mínimo a la operación de "borrar"
información mientras que las restantes operaciones se pueden ejecutar de forma reversible.
Siguiendo este estudio de la física de la información, la asignatura termina estudiando las
diferencias entre la información clásica ("bit clásico") y la información cuántica ("bit
cuántico"). Los avances tecnológicos actuales y futuros harán que la informática trabaje con
este nuevo tipo de información. La criptografía cuántica se muestra actualmente como una
de las aplicaciones más prometedoras dentro de la Teoría de la Información cuántica.

2. MÉTODOLOGIA

 Presentación de los temas por parte del maestro, utilizando material impreso, acetatos,
software y consultas en el world wide web.
 Motivación de consultas intensivas de material en Internet, revistas locales, textos
clásicos y afines, así como exposiciones y actividades didácticas sobre los mismos por
parte de los alumnos.
 Realización de laboratorios prácticos según disponibilidad.

3. OBJETIVOS DEL CURSO

 Entender y aplicar conceptos básicos de la Teoría de la Información y la Codificación

como son la medida de cantidad de información y el concepto de fuente de información.

 Crear códigos que permitan codificar información de manera eficiente, así como dado un
código analizar si es el más eficiente para el problema de codificación planteado.

 Haber aprendido los códigos habitualmente usados en informática, tanto para codificar

cantidades, como símbolos alfanuméricos.

  Comprender un aspecto básico de la transmisión de la información como es el problema

de la fiabilidad, usando la teoría de la información para medir ésta, y utilizando códigos que

la mejoren independientemente del medio de transmisión utilizado.

Adicionalmente se pretende promover el ejercicio y desarrollo de las siguientes competencias

básicas:

 Trabajo en equipo.
 Resolución de problemas.
 Habilidad comunicativa.
 Pensamiento crítico y analítico.
 Creatividad y diseño.
 Comprensión del contexto social.
 Valoración del trabajo productivo.

4. TÓPICOS DEL CURSO

4.1. Conceptos preliminares sobre la teoría del a información

4.1.1 Analisis combinatorio

4.1.2 Probabilidad
4.1.3 La teoría de la información y la comunicación
4.1.4 Modelo de comunicación
4.1.5 Información
4.1.6 Principios de la medición de información
4.1.7 Unidad de información
4.1.8 Redundancia
4.1.9 Capacidad del canal

4.2. La transmisión de la información

4.2.1 Qué es la teoría de la información

4.2.2 Codificación de la información
4.2.3 Un problema en la transmisión de información

4.3. La información y sus fuentes

4.3.1 Definición de información

4.3.2 Fuente de información de memoria nula
4.3.3 Propiedad fundamental de la entropía
4.3.4 Extensiones de una fuente de memoria nula
4.3.5 Fuente de información de Harkov

4.4. Propiedades de los códigos

4.4.1 Definición
 4.4.2 Códigos unívocamente decodificables
4.4.3 Inecuación de Kraft

4.5. Codificación

4.5.1 Longitud media de un código

4.5.2 Código compacto
4.5.3 Codificación Fuman
4.5.4 Construcción de códigos compactos binarios
4.5.5 Códigos compactos r-arios
4.5.6 Rendimiento y redundancia de un código

4.6. Análisis de canales

4.6.1 Canales de información

4.6.2 Probabilidades asociadas a un canal
4.6.3 Entropías a priori y a posteriori
4.6.4 Equivocación de un canal
4.6.5 Información mutua
4.6.6 Propiedades de la información mutua
4.6.7 Canales sin ruido y canales determinantes
4.6.8 Canales en serie
4.6.9 Canales reducidos y reducciones suficientes

4.7. Teoria de la información cuántica.

4.7.1. Criptografia.
4.7.2. Introducción de conceptos de mecánica cuántica.
4.7.3. Bit "clásico" y bit "cuántico". Similitudes y diferencias.
4.7.4. Criptografía cuántica.

5. REFERENCIAS

David J.C. MacKay. (2002) Information Theory, Inference and Learning

Algorithms. Draft 2.3.6 Febrero de 2002. Disponible en la web por capítulos o
completo: http://www.inference.phy.cam.ac.uk/mackay/itprnn/book.html

Cover, T. M. y Thomas J. A. (1991). Elements of Information Theory. New York:

Willey.

J. Rifá, LL. Huguet (1991). Comunicación Digital. Masson S.A.

Thomas D. Schneider (1995). Information Theory Primer. Se encuentra disponible

en la dirección: ftp://ftp.ncifcrf.gov/pub/delila/primer.ps.
 C. E. Shannon (1949). A mathematical Theory of Communication. Bell System
Technical Journal. Se encuentra disponible en la dirección: http://cm.bell-
labs.com/cm/ms/what/shannonday/

George J. Klir y Tina A. Folger (1988) Fuzzy Sets, Uncertainty, and Information.
Prentice Hall, NY.

Abramson, N. (1963) Information theory and coding. New York: McGraw- Hill.
Disponible en español: Abramson, N. (1974) Teoría de la información y
codificación. Ed. Paraninfo. 1974.

6. PLAN DE CALIFICACIONES

 Parcial de 20%
 Parcial de 20%
 Examen 30%
 Trabajos y Exposiciones 10%
 Laboratorios 20%.

OBSERVACIONES:

 Las Evaluaciones y Trabajos únicamente se Presentarán y recibirán en las fechas

establecidas, para de esta forma acceder al porcentaje acordado.

7. NORMAS DE CONDUCTA EN EL AULA

Se espera que los alumnos asistan puntual y activamente a las sesiones de clase presénciales,
respeten los horarios aquí establecidos, hagan sugerencias respetuosamente al profesor y
compañeros, observen la debida seriedad y responsabilidad en las asignaciones propuestas. Se
exigirá respeto por la libertad de cultos e ideologías, así como se evitarán discriminaciones por
género y/o raza. El profesor y/o los alumnos están en libertad de retirar del aula a quienes no
observen una conducta decente o atenten contra la seguridad y salud de los asistentes al curso o la
integridad del material de laboratorio o multimedial utilizado en el mismo.

8. APROBACIÓN

Mi firma abajo indica que he leído y comprendido este programa y que se me ha dado una copia del
mismo.

_____________________________ ____________
Firma Fecha