REDESNEURONALES

ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

UNIVERSIDAD EAFIT

Semestre
2010/2
2009/2 2010/2

INTRODUCCIN A LAS REDES NEURONALES

La forma como el cerebro humano procesa la informacin es

completamente diferente a la forma como la procesa un
computador digital:
Es un sistema altamente complejo y no lineal.
Procesa la informacin de forma paralela.
Tiene la capacidad de auto organizar su estructura
interna (conformada por componentes simples llamados
neuronas), con el fin de realizar funciones complejas
(de reconocimiento de patrones, control motor,
percepcin, etc), increblemente ms rpido que los
computadores modernos.

ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

UNIVERSIDAD EAFIT

2010/2
2009/2

INTRODUCCIN A LAS REDES NEURONALES

Cerebro

Computador

Unidades Computacionales

1011Neurons

1CPU 105Gates

Velocidad de procesa.

10-2s (100hz)

3 Ghz

Unidades de Memoria

1011Neur, 1014Syn

1010Bits

Estilo de procesamiento

paralelo

Secuencial

Ancho de Banda

1014 Bit/Sec

109 Bit/Sec

No. Procesadores

1011-1012

pocos

Conexiones

10.000/proce.

pocas

Actualiz Neuronas/Sec

1014

105

Tolerancia a fallas

Amplia

nula

Alma. del conocimiento

distribuido

Centralizado

Tipo de control

Auto-organizado

centralizado

ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

UNIVERSIDAD EAFIT

2010/2
2009/2

Sistemas Difusos Vs Redes Neuronales

Modelos basados en RN y
MSV

Caja negra

Caja blanca

No se tiene conocimiento
previo, pero se tienen
medidas (datos),
observaciones, records

Se establece el concepto de
aprendizaje a partir de los datos
ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

Modelos basados en LD

Se dispone de un
Conocimiento estructurado
(experiencia, experticia,
o heursticas ). Se expresa
generalmente en reglas
R1: Si la Velocidad es
alta y distancia es
pequea
entonces la fuerza en
el
freno debera ser
grande.
R2: Si

UNIVERSIDAD EAFIT

2010/2
2009/2

Sistemas Difusos Vs Redes Neuronales

En algunos casos se puede disponer de ambos: conocimiento previo y

algunos datos

Caja gris
En esta situacin se usan ambos: modelos neuro difusos
o modelos fuzzy-neuro

ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

UNIVERSIDAD EAFIT

2010/2
2009/2

INTRODUCCIN A LAS REDES NEURONALES

Tipos de neuronas:
Interneuronas, envan informacin a otras neuronas.
Motoras: entregan la informacin directamente a los
msculos.
Receptoras o sensoras: reciben la informacin
directamente del medio externo.

ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

UNIVERSIDAD EAFIT

2010/2
2009/2

INTRODUCCIN A LAS REDES NEURONALES

Transmisin de la informacin nerviosa:

El potencial en la soma se controla por concentraciones de
iones tales como: Na+, K+, Ca2+ y P2 El voltaje de reposo de la neurona es de aprox. -60 mV.
La soma integras (suma) las excitaciones que entran por
las dendritas.
Cuando pasa el umbral de -40 mV se genera el potencial de
accin.
tpicamente la frecuencia de disparo oscila entre 1-100P/s

ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

UNIVERSIDAD EAFIT

2010/2
2009/2

INTRODUCCIN A LAS REDES NEURONALES

Soma: 10-80 micrometros.

Axn: 100 micras a metros (nervios)
ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

UNIVERSIDAD EAFIT

2010/2
2009/2

REDES NEURONALES ARTIFICIALES RNA

Consisten en unidades de procesamiento densamente

interconectadas , llamadas neuronas por su similaridad
funcional con las neuronas biolgicas. Las unidades de
procesamiento reciben, pro-cesan y transmiten seales, tal
como las neuronas biolgicas.
Estructura de una red neuronal:
Imitan la estructura de las rede neuronales biolgicas.
Es un sistema que procesa la informacin de forma
paralela, distribuida y es adaptativo.
Son redundante y tolerantes a fallas.

ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

UNIVERSIDAD EAFIT

2010/2
2009/2

REDES NEURONALES ARTIFICIALES RNA

"Las redes neuronales artificiales son modeladas a partir

de la observacin de la estructura (fsica) del cerebro".

ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

UNIVERSIDAD EAFIT

2010/2
2009/2

MODELO DE UNA NEURONA

Una neurona es una unidad bsica de procesamiento de

informacin, la cual es la base para el diseo de redes
neuronales artificiales.
Un conjunto de synapses, o conexiones o pesos

Una funcin de activacin

Un sumador o mezclador lineal

ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

UNIVERSIDAD EAFIT

Polarizacin

2010/2
2009/2

COMPOSICION DE UNA NEURONA ARTIFICIAL

Los nueve componentes principales del funcionamiento de las

Redes Neuronales Artificiales son:
1)
2)
3)
4)
5)
6)
7)
8)
9)

Un conjunto de unidades de procesamiento (neuronas);

Un estado de activacin (variable de estado);
Una funcin de salida para cada unidad;
Un conjunto de conexiones (patrn de conectividad);
Un conjunto de reglas de propagacin para propagar las
seales de salida a travs de la RNA.
Una regla de combinacin;
Una regla de activacin;
Una regla de modificacin;
Un ambiente en el cual opera la RNA.

ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

UNIVERSIDAD EAFIT

2010/2
2009/2

1.Conjuntodeunidadesde
procesamiento
Tres tipos de unidades:
Unidades de entradas, reciben seales del
ambiente
Unidades de salida, transmiten las seales
fuera de la RNA
Unidades ocultas, slo reciben seales de
unidades que pertenecen a la RNA.

ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

UNIVERSIDAD EAFIT

2010/2
2009/2

2.Estadodeactivacin
Magnitud de la variable de estado de la
unidad (por ej. 1 o 0)
Los valores de activacin pueden ser
discretos o contnuos, y limitados o ilimitados.

ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

UNIVERSIDAD EAFIT

2010/2
2009/2

3.Funcindesalida
La seal de salida de una unidad vara con su
actividad, de acuerdo con una funcin de
salida, generalmente una funcin de saturacin
no lineal.

ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

UNIVERSIDAD EAFIT

2010/2
2009/2

Diferentesfuncionesdesalida

ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

UNIVERSIDAD EAFIT

2010/2
2009/2

4.Conjuntodeconexiones
Las unidades de procesamiento estn
interconectadas. Con cada conexin se asocia
un peso conocido como peso de conexin o
peso sinptico. La magnitud de cada peso
representa la eficiencia con la cual la seal de
salida de una unidad es transmitida a la otra.
Segn el signo del peso las seales entrantes
pueden ser excitatorias (+), inhibitorias(-), o
nulas (0).

ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

UNIVERSIDAD EAFIT

2010/2
2009/2

5.Conjuntodereglasde
propagacin
Una entrada en una unidad puede ser una
versin en escala de la seal de salida recibida,
pero tambin puede ser ms compleja si, por
ej., el peso sinptico es modulado por alguna
seal de salida.

ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

UNIVERSIDAD EAFIT

2010/2
2009/2

6.Regladecombinacin
Necesaria para generar la entrada neta de las
seales de salida pesadas o moduladas
provistas por la regla de propagacin. En el
caso de una simple suma de estas seales, la
regla de combinacin es del tipo simple; en
cualquier otro caso se nombrar como del tipo
complejo.

ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

UNIVERSIDAD EAFIT

2010/2
2009/2

7.Regladeactivacin
Necesaria para combinar la seal de entrada
con el estado actual. La regla de activacin
puede ser una ecuacin diferencial con
respecto al tiempo, en el caso contnuo, o una
ecuacin diferencia en el caso discreto. Adems
la regla de activacin puede ser determinstica o
estocstica. En este ltimo caso, se incluye una
fuente de ruido para producir cierta
incertidumbre sobre el estado presente de la
unidad.

ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

UNIVERSIDAD EAFIT

2010/2
2009/2

8.Reglademodificacin
La modificacin del funcionamiento de una RNA
en funcin del tiempo requiere la modificacin
de patrones de conectividad con el tiempo,
usando alguna regla de modificacin.

ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

UNIVERSIDAD EAFIT

2010/2
2009/2

9.Ambiente
Provee las seales a las unidades de entrada.
Las seales de entrada pueden ser discretas o
contnuas, constantes o dependientes del
tiempo, y determins-ticas o estocsticas.

ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

UNIVERSIDAD EAFIT

2010/2
2009/2

Unidadneuronal

n
ai g ini g W j ,i a j

j 0

ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

UNIVERSIDAD EAFIT

2010/2
2009/2

Funcindeneuronasimple

La entrada escalar p es multiplicada por el escalar peso w para generar wp y

enviada a la sumatoria, la otra entrada es multiplicada por un bias y tambin
enviada a la sumatoria. La salida de la sumatoria es a menudo referida como
la entrada neta , la cual se enva a una funcin de transferencia f la cual
produce la salida escalar de la neurona a . Notar que w y b son parmetros
escalares ajustables en la neurona.

ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

UNIVERSIDAD EAFIT

2010/2
2009/2

Neuronamultientrada

ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

UNIVERSIDAD EAFIT

2010/2
2009/2

RedNeuronalmonocapa

ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

UNIVERSIDAD EAFIT

2010/2
2009/2

RedNeuronalmulticapa

ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

UNIVERSIDAD EAFIT

2010/2
2009/2

RedNeuronalmulticapa
Red de una sola capa (hacia adelante)
w

x
x

x1

y1

12

n1

w
w

11

Red multicapa (hacia adelante)

2 1

n 2

22

x2

2 m

1m

nm

xm

yn
entrada

Red recurrente de una sola capa

1

y1

x1

x2

ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

escondidas

salida

Red recurrente multicapa

y2

y1
y2

xm

UNIVERSIDAD EAFIT

yn

2010/2
2009/2

Salida

Entrada

..
.

..
.

Reconocedor
Neuronal
de Sonidos

Pistola1, pistola2?

Conocimiento

pistola1

Operacionesbsicas
Aprendizaje supervisado
Los pesos de las conexiones se ajustan de manera tal que se
reduzcan las discrepancias entre la salida real y la deseada, para todos
los pares entrada/salida del conjunto de entrenamiento.

ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

UNIVERSIDAD EAFIT

2010/2
2009/2

RedesNeuronalesderetropropagacin
Las neuronas artificiales reciben, procesan y
comunican actividades y debido a esto, sus
estados cambian con el tiempo. La red es
enfrentada a un patrn de entrada y, gracias
a enlaces que realimentan a la red, va
actualizando su estado.
Las redes neuronales artificiales analgicas
son usadas en la resolucin de problemas de
optimizacin.

ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

UNIVERSIDAD EAFIT

2010/2
2009/2

ControlconRedesNeuronales
Funcin de aproximador

ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

UNIVERSIDAD EAFIT

2010/2
2009/2

ControlconRedesNeuronales

Aplicado por ejemplo en control de la trayectoria del brazo de un robot. La

entrada total que entra a la planta es la suma entre el realimentador y la salida
de la RNA, el cual es el modelo dinmico inverso de la planta. El modelo usa la
trayectoria deseada como la entrada y el ralimentador como una seal de error.
A medida que el entrenamiento de la RNA avanza, la entrada puede converger
a cero.
ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

UNIVERSIDAD EAFIT

2010/2
2009/2

ControlconRedesNeuronales
Entrada gas

Sensor
ctodo fro

TPG 300

Vlvula de
aguja
2 x10 -3 mB

Sensor
pirani
Cmara
de vaco

Vlvula
electroneumtica

Bomba
de vaco

ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

UNIVERSIDAD EAFIT

2010/2
2009/2

ControlconRedesNeuronales

tanhw1 V b1 f

w2 f b2 p
ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

w1: vector deseado de capa 1

V : voltaje ledo
b1: vector bias de capa 1
w2: vector deseado de capa 2
b2: vector bias de capa 2
p: presin obtenida con la red

UNIVERSIDAD EAFIT

2010/2
2009/2

BIBLIOGRAFIA
Neuro-Fuzzy and soft computing, J.S. Roger Jang, C. Tsai Sun, Eiji

Mizutami, Prentice Hall, 1997.

Learning and soft computing: support vector machines, neural

networks, and fuzzy logic models Vojislav Kecman. MIT Press, 2001.

ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

UNIVERSIDAD EAFIT

2010/2
2009/2

ControlEmbebidos
e Instrumentacin Electrnica
Sistemas

UNIVERSIDAD EAFIT

2010/2
2009/2