Inteligencia

Artificial
Clase 03

Departamento de Ciencias e Ingeniera

de la Computacin
UNIVERSIDAD NACIONAL DEL SUR
2016
 Agenda

Haremos un brevsimo recorrido de la

historia de la Inteligencia Artificial.
Trataremos de resaltar algunos de los
momentos ms interesantes.
Esta presentacin est basada en el
contenido del captulo 1 del libro:
Artificial Intelligence: A Modern Approach
Stuart Russel & Peter Norvig

[G.R.Simari] 2
El Comienzo
1946-1956
 El comienzo: 1943-1956
El trabajo
A logical calculus of the ideas immanent in nervous
activity, W.S.McCulloch & W.Pitts
Bulletin of Mathematical Biophysics, 5, 115-137 (1943)
se reconoce hoy como el primer trabajo de IA.
Parta de tres fuentes:
La fisiologa bsica de las neuronas cerebrales
El trabajo en Lgica de Russell y Whitehead
Y la Teora de Computacin propuesta por Turing
varios aos antes.

[G.R.Simari] 4
 El comienzo: 1943-1956
McCulloh y Pitts demostraban que cualquier
funcin computable poda serlo por alguna red de
neuronas artificiales y que todo conectivo lgico
podia ser implementado por estructuras de red
simples.
Estos autores sugeran en su trabajo que estas
redes podan aprender.
En 1949, D.Hebb demostr que una regla de
actualizacin, que modificaba la fortaleza de la
conexin, permita que ocurriera el aprendizaje.

[G.R.Simari] 5
 El comienzo: 1943-1956
A comienzos de los 50s, Claude Shannon y Alan Turing
escribieron programas que jugaban ajedrz.
En 1951, dos estudiantes graduados de matemtica en
Princeton, Marvin Minsky y Dean Edmonds, construyeron la
primera computadora basada en redes neuronales
(SNARC).
El jurado de tesis doctoral de Minsky dudaba en otorgar el
grado en matemtica por este tipo de trabajo, pero John
von Neumann que era miembro del mismo asegur:
Si hoy este trabajo no es matemtica, lo ser algn da
Irnicamente, Minsky contribuy con su trabajo posterior a
postergar la investigacin en Redes Neuronales.

[G.R.Simari] 6
 El comienzo: 1943-1956
En 1950 Alan Turing public un trabajo titulado:
Computing Machinery and Intelligence,
Mind, Vol LIX, No 236 (1950)
que result el comienzo del tratamiento cuidadoso del
concepto de la IA como objeto cientfico.
En este trabajo se analizaba la pregunta:
Can Machines Think?
es decir, Pueden las mquinas pensar?
Inclua un Test para determinar si el posible candidato
tena inteligencia o no.
Tambin se analizaba una larga lista de posibles
objeciones a la posibilidad de que una mquina pensara.
[G.R.Simari] 7
 El comienzo: 1943-1956
En Princeton, se encontraba otro de los padres
fundadores de la IA, John McCarthy.
Al graduarse, se translad al Dartmouth College, lugar
que se transformara en sitio de nacimiento de la IA.
McCarthy convenci a Minsky, Shannon y Rochester
para realizar una reunin de los investigadores
interesados en Teora de Autmatas, Redes Neuronales
y el estudio de la inteligencia.
Se organiz un Workshop de dos meses en Dartmouth
College durante el verano de 1956.
Dos investigadores que participaron del mismo, A. Newell
y H. Simon tuvieron una influencia preponderante.
[G.R.Simari] 8
 El comienzo: 1943-1956
Newell y Simon ya tenan un programa que razonaba
denominado Logic Theorist (LT).
Simon afirm: Hemos inventado un programa de
computadora que es capaz de pensar en forma no
numrica, y por lo tanto hemos resuelto el venerable
problema Mente-Cuerpo.
Este programa fue capaz de probar la mayora de los
teoremas en el Captulo 2 del Principia Mathematica de
Russell y Whitehead, encontrando incluso una
demostracin ms elegante que la contenida all.
El mismo Russell se mostr encantado con el resultado.
Sin embargo, el Journal of Symbolic Logic rechaz un
trabajo con la autora de Newell, Simon y LT.
[G.R.Simari] 9
 El comienzo: 1943-1956
El Workshop en Dartmouth no produjo ningn avance
cientfico significativo.
Sin embargo, puso en contacto a los investigadores
interesados en estos problemas y form la comunidad
que domin la nueva rea en los 20 aos siguientes junto
con sus estudiantes y colegas en MIT, CMU, Stanford e
IBM.
El resultado ms perdurable de esta reunin fue el
acuerdo general sobre la propuesta de John McCarthy de
denominar Inteligencia Artificial al nuevo campo de
estudio.
El mismo McCarthy ha expresado, esporadicamente,
cierto arrepentimiento sobre esta eleccin.
[G.R.Simari] 10
Mucho Entusiasmo
Grandes Esperanzas

1952-1969
 1952-1969
Estos aos estuvieron llenos de xitos
de caractersticas limitadas.
En esos tiempos exista concenso externo al rea
de que Una mquina jams podr hacer X para
un gran nmero de Xs que Turing se ocup de
enumerar en su trabajo.
Los investigadores en IA respondan (en forma
limitada) demostrando que X era posible para una
X tras otra.
Algunos investigadores modernos de IA se refieren
jocosamente a esa poca como la era del
Look, Ma, no hands!.
[G.R.Simari] 12
 1952-1969
El xito temprano de Newell y Simon con el Logic
Theorist fue seguido por el General Problem Solver
(GPS).
Este programa fue diseado para imitar los
protocolos humanos de resolucin de problemas.
Probablemente, este fue el primer programa que
corporiz la aproximacin a IA de pensar
humanamente.
Estos trabajos fueron llevados a cabo en Carnegie
Mellon University (CMU) donde hasta hoy la IA y la
Ciencia Cognitiva continan trabajando juntas.

[G.R.Simari] 13
 1952-1969
Comenzando en 1952, Arthur Samuel desarroll una
serie de programas dedicados a jugar damas.
Estos programas comenzaban conociendo solo las
reglas bsicas del juego y a medida que jugaban
lograban aprender, llegando a jugar a nivel de
competencia.
Como muchos otros, Samuel tena problemas para
poder lograr tiempo de computadora y trabajaba
utilizando prototipos de IBM durante la noche.
Este situacin de no disponer de tiempo de
computadora, que era general, llev a algunos a
pensar en el problema.
[G.R.Simari] 14
 1952-1969
En 1958, McCarthy se mud al MIT donde realiz tres
contribuciones cruciales en ese mismo ao.
En el MIT AI Lab Memo No. 1 defini el lenguaje
LISP basado en el Clculo Lambda (siendo el
segundo lenguaje de programacin definido).
Motivado por la falta de tiempo de cmputo, invent
el Tiempo Compartido (time sharing).
Luego de un tiempo, algunos estudiantes graduados
del MIT fueron atrados por esta novedad y luego
formaron la Digital Equipment Corp.
Finalmente, escribi Programs with Common Sense.

[G.R.Simari] 15
 1952-1969
En Programs with Common Sense, McCarthy describa
Advice Taker, un programa hipottico que puede
considerarse como el primer sistema completo de IA.
El programa est diseado para utilizar conocimiento
para buscar soluciones a problemas. Este conocimiento
era conocimiento general acerca del mundo.
Otra caracterstica novedosa era la posibilidad de aceptar
nuevos axiomas para adquirir capacidades nuevas sin
ser reprogramado.
Las caractersticas centrales de la Representacin de
Conocimiento y Razonamiento ya estaban includas en
Advice Taker, i.e. tener una representacin formal del
mundo y manipularla por medio de procesos deductivos.
[G.R.Simari] 16
 1952-1969
Tambin en 1958, Marvin Minsky se mud al MIT.
Durante aos trabaj junto a McCarthy pero lentamente
fueron separandose al tomar Minsky una aproximacin
ms prctica en oposicin al formalismo de McCarthy.
McCarthy (1963) se mud a Stanford fundando el AI Lab.
La agenda de McCarthy fue impulsada por la publicacin
por J.A.Robinson del mtodo de resolucin que
representa un algoritmo para la demostracin de
teoremas de la Lgica de Primer Orden.
El trabajo en Stanford enfatiz el desarrollo de Mtodos
de propsito general para el Razonamiento Lgico.
En SRI se desarroll el primer proyecto robtico.
[G.R.Simari] 17
 1952-1969
Minsky supervis una serie de estudiantes graduados
que eligieron problemas en dominios limitados cuya
solucin pareca requerir inteligencia.
Estos dominios restringidos se conocieron como
micro-mundos.
J.Slagle produjo SAINT que poda resolver ciertos
problemas matemticos de integracin.
T.Evans escribi ANALOGY, un programa que poda
resolver problemas geomtricos de analoga similares a
los que se usan en los test de IQ.
D.Bobrow realiz STUDENT, que resolva problemas de
lgebra descriptos en forma de texto.

[G.R.Simari] 18
 1952-1969
El micro-mundo ms conocido es el mundo de bloques
que consiste en bloques slidos colocados sobre una
mesa.
Una tarea consiste en reacomodar los bloques en una
cierta manera utilizando un brazo robot que puede tomar
un bloque por vez.
Este micro-mundo fue luego utilizado por:
P.Winston (1970) Teora de Aprendizaje.
D.Huffman (1971) Visin.
T.Winograd (1972) Lenguaje Natural.
S.Fahlman (1974) Sistema de Planeamiento.
D.Waltz (1975) Propagacin de Restricciones.
[G.R.Simari] 19
 1952-1969
El trabajo con redes neuronales tuvo un desarrollo
sostenido.
Winograd y Cowan (1963) mostraron que una gran
cantidad de elementos trabajando colectivamente
podan representar un nico concepto con la
correspondiente mejora en la robustez y el
paralelismo.
Tambin fue mejorado el mtodo de Hebb de
aprendizaje por Widrow y Hoff (1960-1962) y
Rosenblatt (1962) con sus perceptrones.

[G.R.Simari] 20
La Realidad Golpea a
la Puerta

1966-1974
 1966-1974
En 1957 Herbert Simon produjo la siguiente afirmacin
que muestra el estado de euforia en aquel momento:
It is not my aim to surprise or shock you but the
simplest way I can sumarize is to say that there are now
in the world machines that can think, that learn and that
create. Moreover, their ability to do this things is going to
increase rapidly until in a visible future the range of
problems they can handle will be coextensive with the
range to which human mind has been applied.
En 1958 predijo que en 10 aos una computadora sera
campen de ajedrz, y que una computadora
demostrara un importante teorema matemtico.

[G.R.Simari] 22
 1966-1974
Sin embargo, existan serias dificultades para lograr
utilizar los avances logrados en el laboratorio.
En 1965 Weizenbaum produjo ELIZA, un programa que
pareca poder mantener una conversacin sobre
cualquier tema.
Esto estimul la idea de que el problema de lenguaje
natural estaba pronto a resolverse.
Sin embargo, los primeros traductores automticos que
utilizaban diccionarios como herramienta fundamental y
que trataron de utilizarse durante la guerra fra fueron
muy inadecuados.

[G.R.Simari] 23
 1966-1974
Un ejemplo, contenido en casi cualquier libro de texto
de IA es la siguiente traduccin doble del ingls al
ruso y nuevamente al ingls:
The spirit is willing but the flesh is week
se convirti luego de pasar al ruso y volver a ser
traducida por la mquina en:
The vodka is good but the meat is rotten
En 1966 un reporte de un comit del gobierno
recomend la suspensin de todo el financiamiento
para estos programas.

[G.R.Simari] 24
 1966-1974
Otra dificultad que comenz a reconocerse fue la
intratabilidad de muchos de los problemas que la IA
estaba tratando de resolver.
Los programas que se estaban produciendo trabajaban
porque utilizaban micro-mundos y se utilizaba la hiptesis
de que podan ser extendidos al mundo real simplemente
con mquinas ms potentes y con ms memoria.
Al desarrollarse la Teora de Complejidad la ilusin
desapareci de manera drstica, al demostrarse que tal
incremento en la escala era imposible de lograr.
El problema de la explosin combinatoria fue la base del
reporte Lighthill de 1973, que el gobierno britnico us
para suspender el financiamiento de la IA.
[G.R.Simari] 25
 1966-1974
Otro problema apareca en las limitaciones de las
estructuras bsicas utilizadas por entonces.
En 1969 Minsky y Papert publicaron Perceptrons y en
ese libro demostraron que si bien los perceptrones eran
capaces de aprender cualquier cosa que pudieran
representar, en realidad podan representar muy poco.
Aunque estos resultados no se aplicaban a las redes ms
complejas multi-capa, el financiamiento para la
investigacin en redes neuronales desapareci.
En 1969 Bryson y Ho desarrollaron un nuevo algoritmo
de apredizaje por back-propagation que di lugar al
resurgimiento de las redes neuronales 15 aos despues.

[G.R.Simari] 26
Sistemas Basados en
Conocimiento

1969-1979
 1969-1979
Las ideas sobre resolucin de problemas de la dcada
anterior se basaban en mtodos de bsqueda de
propsito general.
Estos mtodos han sido llamados mtodos dbiles
porque utilizan poca informacin acerca del dominio.
Esto lleva a que en algunos dominios complejos su
rendimiento tambin sea pobre.
El cambio de paradigma se produjo al desarrollar
sistemas que utilizaban mucho conocimiento de un
rea ms estrecha.

[G.R.Simari] 28
 1969-1979
DENDRAL es un ejemplo temprano de este tipo de
aproximacin.
Fue desarrollado en Stanford por E.Feigenbaum, un
estudiante de H.Simon, B.Buchanan, filsofo convertido
en cientfico de la computacin y J.Lederberg, premio
Nobel de Biologa.
DENDRAL infera estructura molecular de un compuesto
a partir de informacin provista por un espectrmetro de
masa y la frmula qumica.
Este es un problema para el que la bsqueda en el
espacio de todas las posibles configuraciones no tena
posibilidad de tener xito.

[G.R.Simari] 29
 1969-1979

DENDRAL trabajaba utilizando reglas formuladas

por expertos en el rea.
El equipo que desarroll DENDRAL concluy
que el poder de este sistema resida en que:
Todo el conocimiento terico relevante para
resolver estos problemas ha sido trado en su
forma general de la componente predictiva del
espctro de masa (primeros principios de la
ciencia) a formas especiales eficientes (recetas
de cocina)

[G.R.Simari] 30
 1969-1979
La importancia de DENDRAL residi en que fue el
primer Sistema Basado en Conocimiento.
Su calidad de experto provena del gran nmero de
reglas de propsito general que utilizaba.
Los sistemas posteriores evolucionaron hacia lo que
hoy llamaramos una arquitectura en la que el
conocimiento (las reglas) y el componente de
razonamiento estaban separadas siguiendo lo
propuesto por McCarthy para Advice Taker.
Partiendo de este xito, Feigenbaum fund el Heuristic
Programming Project para estudiar la aplicacin de
estos mtodos en otras reas.

[G.R.Simari] 31
 1969-1979
E.Feigenbaum, B.Buchanan y E.Shortliffe (MD)
desarrollaron el sistema MYCIN que tena la capacidad
de diagnosticar (en forma experta) enfermedades
infecciosas en la sangre.
Una diferencia importante con DENDRAL fue que no
posea un modelo terico que sustentara las reglas que
utilizaba.
Estas reglas provenan de entrevistas con expertos del
rea.
Otra diferencia importante, que represent un avance
significativo, fue que MYCIN utilizaba incertidumbre en
sus reglas, reflejando la propia incertidumbre del
conocimiento mdico.

[G.R.Simari] 32
 1969-1979
PROSPECTOR producido por R.Duda fue un sistema
que recomendaba lugares para realizar perforaciones
para exploraciones geolgicas en la bsqueda de
depsitos de molibdeno.
SHRUDLU fue un sistema escrito por T.Winograd en el
rea de entendimiento de lenguaje natural que utilizaba
gran cantidad de conocimiento en el dominio del mundo
de bloques.
Otro sistema importante fue LUNAR, desarrollado por
W.Woods y que fue utilizado por gelogos para realizar
preguntas, en lenguaje natural, concernientes a las rocas
tradas por las misiones Apolo.

[G.R.Simari] 33
La Industria
de la IA
1980-1988
 1980-1988
El primer sistema experto exitoso fue R1.
Este sistema fue desarrollado por D.McDermott en
1982 para DEC con el propsito de ayudar a configurar
los pedidos de nuevos sistemas de cmputo.
En 1986, DEC report haber ahorrado us$40M por
ao.
Para 1988 DEC tenia ya 40 sistemas en
funcionamiento.
Dupont tena 100 sistemas en uso y 500 en desarrollo
y declaraba ahorros por us$10M.

[G.R.Simari] 35
 1980-1988
En 1981 en Japn anunciaban el lanzamiento de su
proyecto de 10 aos para desarrollar la 5ta Generacin
de computadoras.
Se construiran mquinas cuyo lenguaje mquina sera
Prolog con el objetivo de acelerar la capacidad de
inferencia de los sistemas.
De esa manera sera posible manejar inmensas bases
de conocimiento e incluso lograr la comprensin del
lenguaje natural.
Este proyecto impuls el desarrollo de la IA en USA,
Europa y otros paises del mundo.

[G.R.Simari] 36
 1980-1988
En USA se cre la Microelectronics and Computer
Technology Corp. (MCC) como un consorcio de
investigacin para no quedarse atrs de Japn.
En Gran Bretaa, el reporte Alvey devolvi el
financiamiento al rea.
En ambos casos se trabaj en el desarrollo de nuevos
circuitos y en interfaces.
Se desarrollaron arquitecturas computacionales
paralelas y basadas en Lisp y en Prolog.
Se produjeron sistemas (cscaras o shells)
especializadas para el desarrrollo de sistemas expertos.
La industria pas de unos pocos millones en ventas en
1980 a us$2000M en 1988.
[G.R.Simari] 37
 Vuelven las
Redes Neuronales
1986-
 1986-
Mientras que el libro de Minsky y Papert detuvo la
investigacin en redes neuronales en Ciencias de la
Computacin, y el financiamiento, el trabajo continu
en otros campos tales como la Fsica.
Grandes cantidades de neuronas podan ser pensadas
o comprendidas como grandes cantidades de tomos y
los fsicos utilizaron mtodos y tcnicas de la mecnica
estadstica para estudiar estas redes.
Esto llev a una muy interesante fertilizacin cruzada
de ideas.

[G.R.Simari] 39
 1986-
Algunos Psiclogos, D.Rumelhart y G. Hinton entre
otros, continuaron con el estudio del modelo de redes
neuronales para la memoria.
A mediados de los aos 80 se reinvent el algoritmo
de back-propagation desarrollado en 1969 por Bryson
y Ho.
Simultneamente, se concluy que crear sistemas
expertos no resultaba tan sencillo como pareca.
El mpetu de la investigacin en redes neuronales y
este decaimiento de los sistemas expertos se vi
como una contraposicin entre ambos.

[G.R.Simari] 40
El presente
1987-
 1987-
A fines de los 80s y en los comienzos de los 90s se vivi
un gran cambio en la metodologa de investigacin en IA.
Algunos han visto este cambio como una victoria de los
neats (aquellos que piensan que las teoras en IA deben
sustentarse en rigor formal) sobre los scruffy (aquellos
que piensan que se deben construir prototipos y analizar
aquellos que parecen funcionar).
Sin embargo, ambas percepciones son necesarias y
quizs al reenfocarse en aproximaciones ms formales se
demuestra una mayor madurez de la disciplina.
Se comenz a tratar de construir sobre la teora existente
en lugar de seguir creando nuevas teoras.

[G.R.Simari] 42
 1987-
Desde mediados de los aos 90 comenz la
Revolucin de los Agentes.
El enfoque en el diseo de una entidad inteligente
completa (el Agente) ha llevado a la necesidad de
ensamblar diferentes resultados en una sola
arquitectura.
Un agente debe sensar su entorno, debe
representarlo, debe razonar con esa representacin
y debe poder planear sus acciones.
Para planear acciones debe poseer metas propias
lo que implica autonoma.

[G.R.Simari] 43
 1987-
En los sistemas multi-agente cada agente desarrolla
su actividad en un entorno que puede contener otros
agentes y de esa manera inmediatamente aparecen
los problemas sociales.
Las metas de un agente coinciden con las de otros?
Las metas de un agente estn en conficto con las
de otros?
Los agentes colaboran para realizar sus metas?
Cmo se logra esta colaboracin?
Cmo se comunican estos agentes?

[G.R.Simari] 44
 El Estado del Arte
Sistemas de Planeamiento Autnomo, e.g. en la
exploracin espacial.
Juegos, e.g. Deep Blue y otros juegos
Control Autnomo, e.g. un auto cruz EEUU con
solo el 2% de control humano (casi 5000Km).
Diagnstico mdico, e.g. sistemas basados en
conocimiento.
Planeamiento logstica, e.g. en problemas de gran
escala (horas vs. semanas).
Robtica, e.g. asistencia en microciruga.

[G.R.Simari] 45
 Resumen
Dos perspectivas: Pensamiento o Accin? Modelo
estricto o superficial?
La Filosofa (desde el siglo IV a.c) ha producido modelos
mentales sugestivos.
La Matemtica desarroll los mtodos lgicos y
probabilsticos.
La Economa ha formalizado el problema de decisin.
La Psicologa ha adoptado la idea de que los animales
(incluyendo humanos) son sistemas de procesamiento
de informacin.
La Ingeniera de Computacin ha diseado y construdo
los dispositivos que han hecho posible muchas
aplicaciones.
[G.R.Simari] 46
 Historia del
Futuro de la IA?
 El Futuro de la IA
Segn John McCarthy (JACM, 50,1, Enero 2003)
Lograr inteligencia a nivel humano (a largo plazo).
Llegar al punto donde los programas puedan aprender
de los libros (o de otras fuentes similares).
Especificacin de programas que puedan interactuar con
seres humanos y otros programas.
Dar a los usuarios el control total de sus entornos de
programacin, es decir, dar a los usuarios la capacidad
de reprogramar sus entornos sin necesidad de entender
mas de lo necesario.

[G.R.Simari] 48
 Los Lmites de la
Inteligencia Artificial
 Los Lmites de la IA

Es posible para el hombre crear una mquina al

menos tan inteligente como l mismo?
Existen componentes en la inteligencia humana
que no se encuentran en otros animales o puedan
ser duplicados en una mquina?
Es posible duplicar todo comportamiento
inteligente descomponiendo una tarea en una
sucesin de tareas o subproblemas ms simples
que puedan ser planteados con precisin y luego
resueltos?

[G.R.Simari] 50
 Los Lmites de la IA

Puede una mquina exhibir comportamiento

completamente humano sin haber tenido
experiencia humana y sin herencia ancestral?
Es posible lograr comportamiento inteligente con
el equipamiento computacional que se puede
crear?
Es acaso el comportamiento inteligente una
propiedad de la estructura orgnica y por lo tanto
nunca reproducible por maquinaria no-orgnica?

[G.R.Simari] 51
Opiniones?