La Teora de la Informacin nos muestra, entre otras cosas, el camino a seguir para determinar la cantidad de informacin til de unos

datos y para comprimir la informacin de modo que los datos se representen de una manera eficiente. La Teora de la Informacin se desarrolla en trminos de probabilidades, ya que la informacin tiene una naturaleza aleatoria (si supisemos de antemano la informacin, para qu la querramos?). Por supuesto, en la realidad no disponemos a priori de las probabilidades necesarias, por lo que habr que estimarlas de los datos existentes. En este trabajo supondremos conocidas las caractersticas estadsticas de nuestros datos. No vamos a tratar en este trabajo de lo que probablemente sean los resultados ms interesantes (o por lo menos, ms sorprendentes) de la Teora de la informacin, ya que se necesitan algunos conocimientos de transmisin digital de datos. Estos resultados establecen la capacidad mxima de transmisin fiable de datos de un canal, entre otras cosas. 2. - Fuentes de informacin Una fuente de informacin es un elemento que entrega informacin, como pueden ser una persona hablando, un ordenador entregando datos... La visin de la persona hablando (por ejemplo), nos puede servir para ver los elementos ms importantes en la emisin de la informacin. La informacin viaja sobre la voz de la persona (como una onda de presin). La voz es lo que llamamos seal, que es el soporte de la informacin. Pero es el hombre quien emite la voz, y es el hombre la verdadera fuente de informacin. Esto se puede formalizar con unas definiciones ms rigurosas. Una fuente de informacin es un elemento que entrega una seal, y una seal es una funcin de una o ms variables que contiene informacin acerca de la naturaleza o comportamiento de algn fenmeno. Es decir, vamos a considerar seal tanto al fenmeno fsico que transporta la informacin como a la funcin matemtica que representa a ese fenmeno. Cualquiera de las dos formas sirve como soporte a la informacin.