EL4106 Inteligencia Computacional

Auxiliar 2
Profesores: Pablo Estevez V.
Pablo Huijse H.
Auxiliar: Pablo Huentelemu C.
Ayudantes: Rodrigo Carrasco D.
Ignacio Reyes J.
Semestre: Primavera 2016

Problema 1
a) Describa el algoritmo perceptron.
b) Utilice el algoritmo perceptron para encontrar una neurona con 4 pesos (tres entradas mas un
sesgo) que clasifique correctamente los siguientes ejemplos:

x1 = (1, 1, 1), d1 = 1
x2 = (1, 1, 1), d2 = 1
x3 = (1, 1, 1), d3 = 1

Los ejemplos son presentados siguiendo la secuencia x1 , x2 , x3 . Considere un vector de pesos inicial
w0 = (0, 0, 0, 0). Ademas, considere < xi , w >= 0 como una clasificacion erronea. Bonus: Muestre
graficamente que el problema es linealmente separable.

Problema 2
Sea un ensamble construido con bagging para regresion con funcion de combinacion

H(x) = EDbs [h(x)],

es decir, el promedio de los regresores debiles a lo largo de los conjuntos Dbs generados mediante
bootstrapping. Muestre que mientras mayor es la varianza de los clasificadores debiles, mayor es la
diferencia entre el error cuadratico del ensamble y de los regresores debiles

(y(x) H(x))2 EDbs [(y(x) h(x))2 ],

donde y(x) es la funcion objetivo que se desea predecir. HINT: Var[X] = E[(X E[X])2 ]

Problema 3
Sea un clasificador adaboost con funcion de costo exponencial. El costo de agregar un nuevo clasi-
ficador ht para una nueva distribucion Dt es

`(t ht |Dt ) = ExDt [ey(x)t ht (x) ],

1
donde y(x) {1, +1} es la etiqueta asociada a x. Encuentre una expresion para el coeficiente t
optimo en funcion de
t = PxDt (ht (x) 6= y(x)),

la fraccion de elementos mal clasificados por ht en el conjunto Dt .

Problema 4
Se muestra en la Figura 1 el procedimiento de una capa de convolucion. A la izquierda, en azul, se
observan los datos de entrada. Al centro, en rojo, se observan dos kernels de convolucion de 3x3. A
la derecha, en verde, se observan los datos de salida. Asuma un stride de 2. Obtenga los datos de
salida faltantes.

Figura 1: Capa de convolucion. http://cs231n.github.io/convolutional-networks/

2
Problema 5
La red VGGNet fue disenada por Karen Simonyan y Andrew Zisserman en el ano 2014. Su principal
contribucion fue mostrar que la profundidad de la red convolucional es un componente crtico para
su desempeno. La arquitectura definitiva de la red (configuracion D en la Figura 2) consiste en 16
capas y usa una arquitectura muy homogenea, de convoluciones de 3x3 y pooling de 2x2 de principio
a final.

Figura 2: Tabla de configuraciones de VGGNet. Simonyan et al. 2014.

Compruebe que el numero de parametros de la configuracion D se aproxima a 138 millones. Asuma

un stride de 1.