Cuatro problemas irresolubles

de la IA simblica
(Four unsolvable problems
of symbolic AI)
Manuel Carabantes Lpez

recibido: 14 de enero de 2014

aceptado: 9 de julio de 2014

Resumen

Dentro de la corriente fuerte de la inteligencia artificial (Ia), que es la que pretende crear mquinas pensantes con competencias intelectuales parecidas a las del
ser humano, el programa de investigacin ms explorado es el de la Ia simblica,
que se define como el intento de utilizar computadoras electrnicas para duplicar la
mente humana, bien suponiendo una semejanza estructural y funcional entre ambas,
o bien intentando duplicar la conducta producida por la mente humana mediante
procesos computacionales con una estructura tambin intencional pero slo instrumentalmente equivalentes. en el presente artculo mostraremos que la Ia simblica fuerte, en cualquiera de sus dos mencionadas variantes, es imposible, ya que los
sistemas formales, que es lo que en el fondo son todos los programas informticos,
no son suficientes para duplicar de manera intencional cuatro facultades intelectuales del ser humano imprescindibles para la conducta inteligente: sentido de la situacin, sentido comn, habilidades procedimentales y abduccin de teoras.

Palabras clave: Inteligencia artificial, Ia simblica, problema de la pertinencia,

problema de la cualificacin, habilidades procedimentales, abduccin.

Abstract

Within the strong branch of artificial intelligence (aI), which is aimed at creating thinking machines with intellectual powers like those of man, the most explored
research program is symbolic aI, defined as the attempt to use electronic computRevista de Filosofa
Vol. 40 nm. 1 (2015): 81-104

81

Issn: 0034-8244
http://dx.doi.org/10.5209/rev_resF.2015.v40.n1.48441

Manuel Carabantes Lpez

Cuatro problemas irresolubles de la IA simblica

ers to replicate the human mind, either assuming a structural and functional similarity between them, or trying to replicate the behavior produced by the human mind
through computational processes that also have an intentional structure but are only
instrumentally equivalent. In this paper we show that strong symbolic aI, in either
of its two variants, is impossible, since formal systems, that is what all computer
programs ultimately are, are not sufficient to replicate in an intentional way four
intellectual faculties of man that are essential to intelligent behavior: sense of the
situation, common sense, procedural skills and theory abduction.
Keywords: artificial intelligence, symbolic aI, pertinence problem, qualification
problem, procedural skills, abduction.
1. El deseo de algo imposible

el imaginario popular de nuestro tiempo est poblado de inteligencias artificiales: mquinas pensantes de las que se espera que por su condicin de mercancas
sirvan a sus propietarios, y por su condicin de inteligentes, que lo hagan con unas
destrezas intelectuales parecidas a las de un ser humano. La ciencia ficcin, la mercadotecnia y algunos cientficos implicados en su investigacin llevan dcadas prometiendo que las inteligencias artificiales sern una realidad muy pronto. por
supuesto, el mito de la reproduccin artificial del hombre por el hombre no es
nuevo, sino que viene de muy atrs (robinet, 1973, p. 27), pero en nuestra poca
tiene una presencia particularmente procelosa debido a la disponibilidad de unas
mquinas, las computadoras electrnicas, que, desde su invencin a mediados del
siglo XX, se han presentado como el soporte perfecto para duplicar el intelecto
humano.
La duplicacin de nuestro intelecto mediante computadoras electrnicas puede
plantearse de dos maneras: creando modelos informticos de la mente o del cerebro. Dentro de la inteligencia artificial (Ia), la IA simblica es el programa de
investigacin centrado en la duplicacin de la mente, mientras que del cerebro se
ocupa la IA subsimblica. por supuesto, esta nomenclatura no es la nica posible.
as, por ejemplo, a la Ia simblica tambin se la conoce por otros nombres, tales
como el de IA del lenguaje del pensamiento (Haugeland, 1996, p. 16). Una segunda distincin pertinente para nuestros intereses es la que refiere al alcance de la
duplicacin (searle, 1980, p. 282). as se diferencia, por un lado, a la IA dbil, que
realiza simulaciones informticas de ciertos procesos mentales o cerebrales con el
propsito de que sirvan para refutar o corroborar hiptesis y, en general, hacer
avanzar el conocimiento cientfico; mientras que la IA fuerte tiene un objetivo
mucho ms ambicioso, ya que no se conforma con simular ciertos procesos, sino
Revista de Filosofa
Vol. 40 nm. 1 (2015): 81-104

82

Manuel Carabantes Lpez

Cuatro problemas irresolubles de la IA simblica

que aspira a la creacin de un verdadero autmata del pensamiento semejante al ser

humano. adicionalmente, se puede distinguir un tercer enfoque, el de la IA aplicada, cuyo inters es crear sistemas informticos que, si bien no son tan inteligentes
como un ser humano, s que reproducen ciertas capacidades intelectuales con aplicaciones comerciales tiles, tales como el reconocimiento de patrones faciales para
videovigilancia.
sobre la base de estas definiciones, podemos declarar ya que el propsito del
presente artculo es demostrar la imposibilidad de la IA simblica fuerte. en contra de la creencia popular, la cual por cierto tambin es compartida por buena parte
de los cientficos de la Ia, sostenemos que la mente por s sola no puede ser reproducida mediante una computadora electrnica. Demostraremos esta tesis a travs de
la exposicin de cuatro facultades esenciales del intelecto humano y de las respectivas razones particulares por las cuales no han podido ni podrn ser jams reproducidas por una computadora electrnica de manera exclusivamente simblica.
estas facultades son: sentido de la situacin, sentido comn, habilidades procedimentales y abduccin de teoras. La causa, en general, por la que no pueden ser
reproducidas por una supuesta computadora que duplique la mente humana, ya sea
de manera realista o instrumental, es doble. primero, porque si la duplicacin se
intenta de manera realista, es imposible debido a que se trata de facultades que, en
el caso de los seres humanos, implican procesos exclusivamente cerebrales, es
decir, de los que no emerge ningn correlato mental. Y segundo, porque si la duplicacin se pretende de manera instrumental, esto es, creando una mente que, aunque
no opere como la nuestra, sea conductualmente indistinguible, es imposible debido
a que el nico modelo de la mente con el que pueden operar las computadoras, que
es el de un sistema formal, no es suficiente para reemplazar a los citados procesos
cerebrales.
en otras palabras, la Ia simblica fuerte es imposible porque comete el error de
creer que la mente, entendida como una especie de lenguaje del pensamiento sujeto a reglas de formacin y transformacin de las expresiones, es suficiente para producir la conducta inteligente. para la filosofa, lo ms interesante del caso es que no
se trata de un error accidental, sino que es una concrecin sintomtica de la obsesin logocntrica de nuestra cultura. Creer que la mente es calculable como el universo fsico y creer que ese clculo es suficiente para la inteligencia son dos ideas
con precedentes en filsofos como platn, Descartes y Leibniz (Dreyfus, 1992, p.
67). La finalidad de este artculo es, como decimos, demostrar la imposibilidad de
la Ia simblica fuerte, una tarea que nos conducir en ltima instancia al descubrimiento de las razones por las cuales algo que es imposible lleva proclamndose
como posible durante el ltimo medio siglo. Y no slo como posible: sino como un
avance de la tcnica que no tardar en hacerse realidad para automatizar el trabajo
intelectual que las computadoras electrnicas todava no han podido asumir.
83

Revista de Filosofa
Vol. 40 nm. 1 (2015): 81-104

Manuel Carabantes Lpez

Cuatro problemas irresolubles de la IA simblica

2. Caractersticas de las computadoras electrnicas

Dejando a un lado las caractersticas materiales derivadas de su condicin de

aparatos electrnicos, por ser irrelevantes respecto a la esencia de su funcionamiento como bien seal alan turing al afirmar su equivalencia con la Mquina
analtica de Charles babbage (turing, 1950, p. 446), las computadoras lo nico que
hacen es ejecutar programas informticos, y los programas informticos no son ms
que sistemas formales (Weizenbaum, 1976, p. 92). son sistemas formales de una
gran complejidad, es cierto, de millones de lneas de cdigo diseadas por decenas
de ingenieros en algunos casos, pero sistemas formales al fin y al cabo. Un sistema
formal se compone de dos partes: lenguaje formal y mecanismo deductivo
(Falguera & Martnez, 1999, p. 62). Un lenguaje formal es un lenguaje exento de
interpretacin semntica en su definicin (Ibd., p. 61), y se divide en un vocabulario y un conjunto de reglas que establecen cmo han de combinarse los smbolos
del vocabulario para formar expresiones correctas. en cuanto al mecanismo deductivo, consiste en esencia en un conjunto de reglas que indican cmo transformar
unas expresiones en otras.
el filsofo norteamericano John Haugeland ofrece otra definicin de sistema
formal menos acadmica, pero que quizs ayuda mejor a comprender qu es lo que
hacen las computadoras. Un sistema formal, dice Haugeland, es como un juego en
el que las fichas (token, en el original, significa ficha, smbolo, seal) son manipuladas de acuerdo a reglas para ver qu configuraciones pueden ser obtenidas
(Haugeland, 1981, p. 5). Las configuraciones son expresiones cuasi-lingsticas,
como por ejemplo sucede en el ajedrez, un juego en el que todo cuanto sucede en
el espacio del tablero est siendo procesado por la mquina jugadora de una manera no analgica, esto es, no hacindose una representacin interna homomrfica en
sentido etimolgico de ese objeto espacial, que es lo que hacemos nosotros, sino en
forma proposicional, utilizando una notacin, la de un lenguaje formal de programacin, que es parecida a la algebraica que emplean los aficionados a este juego
para ir tomando nota de lo que sucede a lo largo de la partida. este punto es fundamental para lo que nos proponemos demostrar: las computadoras son slo sistemas
formales, y como tales lo nico que hacen es manipular expresiones cuasi-lingsticas de acuerdo a reglas.
3. El supuesto ontolgico

Ciertamente, tanto a nivel simblico como subsimblico, los programas de

ordenador, siempre en el sentido de programas en ejecucin, hacen lo mismo: manipular smbolos. sin embargo, entre la Ia simblica y la Ia subsimblica hay una
Revista de Filosofa
Vol. 40 nm. 1 (2015): 81-104

84

Manuel Carabantes Lpez

Cuatro problemas irresolubles de la IA simblica

diferencia muy importante respecto a cules son las entidades semnticamente

interpretables. en la Ia simblica dichas entidades son algunos de los smbolos con
los que se opera, an cuando el lenguaje al que pertenecen, como hemos dicho, haya
sido definido sin interpretacin semntica. por ejemplo, en el caso de una Ia jugadora de ajedrez, sta opera con expresiones como af1-c4, en la que el smbolo a
significa alfil, el guin - significa mueve a, y los pares de smbolos f1 y
c4 significan dos casillas. en la Ia subsimblica, en cambio, los smbolos manipulados no refieren a contenidos mentales como alfiles o casillas de un tablero de
ajedrez, sino a las neuronas y a sus propiedades, tales como la conductividad o el
umbral de disparo. as pues, en la Ia subsimblica, as como en las redes de neuronas naturales del cerebro, las entidades semnticamente interpretables no son las
entidades manipuladas, sino sus patrones de activacin (smolensky, 1989, p. 239;
bentez, 2011b, p. 276). He aqu la diferencia crucial que hace que la Ia simblica
no sea capaz de reemplazar, ni si quiera de manera instrumental, a las operaciones
cerebrales sin correlato mental.
La Ia simblica puede adquirir dos grados de compromiso. por un lado est la
vertiente realista, que se fundamenta en una versin fuerte de la hiptesis del sistema de smbolos (Copeland, 1993, p. 273), segn la cual la inteligencia es una propiedad exclusiva de los sistemas formales, de lo que se concluye que la Ia simblica fuerte ha de ser posible, pues la mente humana misma no sera ms que un sistema formal, y no habra por tanto ninguna objecin de principio contra la posibilidad de descubrir las reglas de ese sistema formal que es la mente y suministrrselas a una computadora electrnica para que las ejecutase. por otro lado est la vertiente instrumental de la Ia simblica, que se basa en una versin dbil de la hiptesis del sistema de smbolos, segn la cual los sistemas formales no son necesarios
para la inteligencia, pero s suficientes (Ibd., p. 273), y por tanto es posible que la
mente no sea un sistema formal, pero en cualquier caso un sistema formal es suficiente para producir una conducta inteligente indistinguible de la producida por la
mente humana.
Como se puede apreciar, la vertiente instrumental adquiere un menor grado de
compromiso. Hubert Dreyfus, uno de los filsofos ms crticos contra la Ia fuerte,
denomina supuesto psicolgico al compromiso de la Ia realista (Dreyfus, 1992, p.
163), tambin conocida como IA humana, IA de modo terico o IA de simulacin
cognitiva. Correlativamente, da el nombre de supuesto epistemolgico al compromiso asumido por la IA instrumental (Ibd., p. 189), que por su parte recibe los nombres alternativos de IA ajena o IA de modo operativo (Copeland, 1993, p. 54). sin
embargo, a pesar de esta diferencia, tanto la Ia realista como la Ia instrumental se
apoyan en un supuesto comn, de tal manera que refutando este supuesto, queda
refutada toda la Ia fuerte simblica. esa columna maestra, que en este artculo
derribaremos sealando cuatro problemas insostenibles para ella, es el supuesto
85

Revista de Filosofa
Vol. 40 nm. 1 (2015): 81-104

Manuel Carabantes Lpez

Cuatro problemas irresolubles de la IA simblica

ontolgico. Dreyfus lo define as: el supuesto ontolgico (establece) que todo lo

que es esencial para la conducta inteligente debe en principio ser comprensible en
trminos de un conjunto de elementos independientes determinados (Dreyfus,
1992, p. 206).
La razn por la cual la Ia simblica se basa necesariamente en este supuesto es
que las computadoras, en tanto que son sistemas formales, slo pueden operar con
elementos discretos, explcitos y determinados. sea o no sea la mente humana un
programa informtico, lo indiscutible es que la Ia simblica fuerte necesita suponer que las expresiones cuasi-lingsticas de un lenguaje formal son suficientes para
que una computadora, operando transformaciones sobre ellas a nivel exclusivamente simblico, produzca una especie de discurso mental capaz de originar una conducta inteligente indistinguible de la de un ser humano.
en la psicologa cognitivista, que es el paradigma de la psicologa (Carpintero,
1996, p. 404) que naci hermanado con la Ia simblica, se puede discutir con cuntos tipos de representaciones opera la mente humana (Gardner, 1985, p. 149).
ampliar el espectro a representaciones que no sean las cuasi-lingsticas de los lenguajes formales es algo que, ciertamente, va en contra de una de las tesis nucleares
del cognitivismo, a saber, la metfora computacional, tambin llamada tesis del procesamiento de informacin (Garca, 2001, p. 18), segn la cual la mente procesa la
informacin de modo semejante a como lo hace un programa informtico. sin
embargo, es una transgresin que la psicologa puede permitirse, aunque sea a costa
de poner en peligro la continuidad de un paradigma, pues la metfora computacional no es ms que una idea, y como todas las ideas, puede ser reemplazada por otra
en el curso histrico de una ciencia. en cambio, la Ia simblica no puede permitirse ni tan siquiera el considerar otro tipo de representaciones mentales que no sean
proposicionales, porque las mquinas que emplea en su intento por reproducir la
inteligencia humana slo ejecutan sistemas formales. Incluso cuando opera con figuras volumtricas, la computadora lo hace de manera proposicional, es decir, algebraica. todo aquello que no pueda adoptar la forma de un conjunto de proposiciones es por definicin incomputable. aqu reside la limitacin de estas mquinas, la
carencia que no les permite reproducir simblicamente ciertas conductas humanas.
sta es, en resumen, la tesis del supuesto ontolgico: el mundo, tal y como nos
lo representamos los seres humanos en la mente, debe ser descomponible en proposiciones. si hubiera alguna facultad intelectual que no fuese obtenible como resultado de manipular esas proposiciones, entonces no sera reproducible a nivel simblico por una computadora electrnica. aqu est la clave de nuestro argumento:
vamos a demostrar, mediante las cuatro mencionadas facultades intelectuales del
ser humano, que en todas ellas la mente opera sobre la base de procesos cerebrales
inconscientes, de los que no emerge correlato mental, y que no son reproducibles
mediante un discurso simblico, es decir, proposicional.
Revista de Filosofa
Vol. 40 nm. 1 (2015): 81-104

86

Manuel Carabantes Lpez

Cuatro problemas irresolubles de la IA simblica

3.1. Sentido de la situacin

La primera caracterstica del intelecto humano imprescindible para producir una

conducta como la nuestra pero que, sin embargo, no es reproducible de manera simblica por una computadora, es el sentido de la situacin, una expresin que refiere a nuestra capacidad para tener presente el conjunto de memorias adecuado para
comprender la situacin actual. por poner un ejemplo tomado de roger schank, uno
de los ms notorios investigadores de la Ia, comprender lo que es un restaurante de
comida rpida es saber cosas tales como que son restaurantes con la particularidad
de que se paga antes de comer (schank, 1999, p. 27). Las memorias sobre los restaurantes de comida rpida conforman un marco (frame), trmino acuado por uno
de los padres de la Ia, Marvin Minsky, en su artculo A framework for representing
knowledge (Minsky, 1975, p. 96); aunque con algo de polmica, ya que otros dos
fundadores de la disciplina, allen newell y Herbert simon, reclamaron haberlo propuesto antes con el nombre de esquema (schema) (Crevier, 1993, p. 174).
el problema de encontrar el marco de memorias pertinente se conoce como problema de la pertinencia (Copeland, 1993, p. 143), o problema de la seleccin del
marco. Fue advertido por Minsky en las ltimas pginas del citado artculo, pero lo
dej abierto, sin solucin, y sin solucin permanece hasta nuestros das y permanecer siempre, pues es un problema derivado de la forma proposicional de representacin del conocimiento inherente a las computadoras electrnicas. Dreyfus lo formula as: para reconocer un contexto uno debe haber seleccionado previamente las
caractersticas relevantes de entre el nmero indefinido de caractersticas, pero esa
seleccin slo puede ser realizada una vez el contexto ha sido reconocido como
similar a otro ya analizado (Dreyfus, 1979, p. 200).
aplicndolo al ejemplo de schank, esto quiere decir que para reconocer que
algo es un restaurante de comida rpida uno debe haber seleccionado previamente
las caractersticas relevantes que distinguen a ese objeto precisamente como un restaurante de comida rpida, pero esa seleccin slo puede ser realizada una vez uno
ha identificado que, en efecto, se trata de un restaurante de ese tipo, pues de lo contrario, sin un marco que sirva como esquema interpretativo para discriminar lo esencial de lo inesencial, la cantidad de caractersticas de cualquier situacin es potencialmente infinita, y adems se presentan todas como igualmente relevantes. entre
la totalidad, que es el marco, y las partes, que son los conocimientos de los que se
compone, hay por tanto una relacin circular de determinacin recproca. el problema para la Ia simblica es encontrar una manera de penetrar en el crculo.
Hay dos formas de hacerlo: utilizando informacin previa como criterio para
dirigir la bsqueda del marco pertinente en la situacin actual, o bien buscando
hechos no interpretados, previos al acto comprensivo, que sean inequvocamente
exclusivos de cada marco. a la primera la denominaremos estrategia temporal,
mientras que a la segunda nos referiremos como estrategia de correspondencia.
87

Revista de Filosofa
Vol. 40 nm. 1 (2015): 81-104

Manuel Carabantes Lpez

Cuatro problemas irresolubles de la IA simblica

Gadamer, que se ocup prolijamente del asunto de la estructura circular de la

comprensin, se refiere a la estrategia temporal al hablar de la traduccin de un
texto. Dice Gadamer: La anticipacin de sentido que hace referencia al todo slo
llega a una comprensin explcita a travs del hecho de que las partes que se determinan desde el todo determinan a su vez a este todo. este hecho nos es familiar por
el aprendizaje de las lenguas antiguas. aprendemos que es necesario construir
una frase antes de intentar comprender el significado lingstico de cada parte de
dicha frase. este proceso de construccin est sin embargo ya dirigido por una
expectativa de sentido procedente del contexto de lo que le preceda. por supuesto
que esta expectativa habr de corregirse si el texto lo exige. esto significa entonces
que la expectativa cambia y que el texto se recoge en la unidad de una referencia
bajo una expectativa de sentido distinta. el movimiento de la comprensin va constantemente del todo a la parte y de sta al todo. [...] el criterio para la correccin de
la comprensin es siempre la congruencia de cada detalle con el todo. Cuando no
hay tal congruencia, la comprensin ha fracasado (Gadamer, 1960, p. 360).
en este fragmento, la sentencia que ms nos interesa es la que dice que el proceso de construccin de las frases para entender su significado est dirigido por una
expectativa de sentido procedente del contexto anterior. en el ejemplo de schank,
si suponemos que alguien nos ha invitado a comer, lo ms seguro es que el lugar al
que nos lleve sea un restaurante, y no una ferretera o una tintorera, una suposicin
sta, basada en informacin previa, que permitira acotar el rango de la bsqueda
del marco pertinente al subconjunto de los marcos sealados con la etiqueta indicativa de lugares de restauracin. a partir de ah, comenzara un proceso de prueba y
error hasta encontrar el marco ms adecuado, que ser aquel que permita, como dice
Gadamer, la comprensin ms congruente entre el todo y las partes.
el defecto de esta estrategia, la temporal, que la hace insuficiente para resolver
el problema de la seleccin del marco, es que supone una continuidad de sentido
inquebrantable. en la lectura de ciertos textos puede concederse que la comprensin de lo anterior gua la de lo posterior, pero en la experiencia vital ordinaria nos
asaltan continuamente estados de cosas imprevistos que no podan ser anticipados
y, sin embargo, gracias a nuestro sentido de la situacin, enseguida se nos hace presente un marco interpretativo que nos abre la comprensin de lo dado (Dreyfus,
1992, p. 218). ser capaz de encontrar un marco no relacionado con lo anterior es
imprescindible.
en cuanto a la estrategia de correspondencia, consiste, como decimos, en suponer que existen hechos brutos, no interpretados, previos al acto comprensivo, que
corresponden siempre al mismo marco y slo a l, y que por tanto serviran para
identificarlo de manera inequvoca. sta es la solucin adoptada por la gente de las
computadoras, dice Dreyfus, para abordar el problema de la seleccin del marco:
en tanto que la computadora no se encuentra en situacin [...] la solucin de los
Revista de Filosofa
Vol. 40 nm. 1 (2015): 81-104

88

Manuel Carabantes Lpez

Cuatro problemas irresolubles de la IA simblica

tericos de la computacin es construir la mquina para que responda a bits ltimos

descontextualizados, datos completamente determinados que no requieran interpretacin ulterior para ser entendidos (Ibd., p. 204). entendiendo por universo la totalidad de la realidad fsica, y por mundo la totalidad de las relaciones de sentido que
actan como el trasfondo a partir del cual las cosas son interpretadas (rodrguez,
1987, p. 214), lo que desean los investigadores de la Ia simblica es encontrar puntos fijos de correspondencia entre ambas esferas: el universo y el mundo.
el problema de este enfoque es que tales puntos no existen. Muy al contrario, la
misma situacin mundana puede darse sobre estados de cosas fsicos distintos, y un
mismo estado de cosas fsico puede ser interpretado como situaciones del mundo
diferentes en funcin de las metas y los intereses de los seres humanos que participan en l (Dreyfus, 1992, p. 213). Un ejemplo lo encontramos en el ajedrez: el maestro puede ver la misma jugada en dos disposiciones fsicas distintas de las piezas, y
a la inversa, la misma disposicin fsica de las piezas puede ser interpretada por el
mismo maestro como dos jugadas diferentes en funcin del estilo del adversario.
en definitiva, es imposible que la Ia simblica consiga reproducir el sentido de
la situacin que tenemos los seres humanos. nosotros nos encontramos en situacin
gracias a un proceso cerebral del que no emerge ningn correlato mental, es decir,
un proceso puramente subsimblico, y por tanto fuera del alcance por definicin de
la Ia simblica. el ingeniero y empresario informtico Jeff Hawkins, interesado en
la Ia subsimblica, describe as brevemente este proceso que ocurre en la corteza
cerebral: La interseccin de estas dos sinapsis (de arriba-abajo y de abajo-arriba)
nos proporciona lo necesario. [...] este mecanismo de correspondencia de abajoarriba/arriba-abajo nos permite decidir entre dos o ms interpretaciones. [...] Donde
los dos conjuntos se intersecan es lo que percibimos. [...] as es como decidimos si
la foto es de un jarrn o de dos caras (se refiere a la ilusin ptica del jarrn de
rubin) (Hawkins & blakeslee, 2004, p. 180). el problema de la seleccin del
marco, as pues, no se resuelve, sino que se disuelve al abandonar el enfoque de la
Ia simblica.
3.2. Sentido comn

el sentido comn es, a juicio de muchos, uno de los obstculos principales de la

Ia (Kaku, 2011, p. 113). al tratarse de un concepto muy amplio, que comprende
habilidades necesarias para una gran cantidad de tareas ordinarias, aqu nos vemos
en la necesidad de acotarlo y examinar slo una de sus aplicaciones: la interpretacin de reglas generales. Dada una regla general, los seres humanos sabemos gracias a nuestro sentido comn cundo es aplicable y cundo no. el problema para la
Ia simblica radica en que una computadora, al carecer de sentido comn, aplicar
la regla de manera indiscriminada, a ciegas (Weizenbaum, 1976, p. 43), a menos
89

Revista de Filosofa
Vol. 40 nm. 1 (2015): 81-104

Manuel Carabantes Lpez

Cuatro problemas irresolubles de la IA simblica

que se le proporcione un listado de las condiciones de validez de la misma, lo cual

suele ser imposible debido a que la cantidad de excepciones que puede haber a una
regla es potencialmente infinita, y por tanto no hay forma de listarlas todas.
este problema, conocido como el problema de la cualificacin, fue identificado por John McCarthy y patrick Hayes en un artculo de 1969 que lleva por ttulo
Some philosophical problems from the standpoint of artificial intelligence. el trmino cualificacin se refiere en ingls a las exceptions o qualifications (Crevier,
1993, p. 120) de una regla, es decir, sus excepciones. McCarthy y Hayes lo formulan as: el problema que se pretende abordar, a saber, la imposibilidad de nombrar
todo lo que puede ir mal, es importante para la inteligencia artificial, y algn tipo
de formalismo tiene que ser desarrollado para tratar con l (McCarthy & Hayes,
1969, p. 34). ellos ponen el ejemplo de un conjunto de reglas para realizar una llamada telefnica. se supone que para realizar la operacin con xito basta con buscar en el listn telefnico el nmero de la persona a la que se desea llamar y marcarlo. sin embargo, son muchas las cosas que pueden ir mal y hacer que estas reglas
generales no sean suficientes: la pgina con el nmero de esa persona puede haber
sido arrancada, el que realiza la llamada puede ser ciego, puede que la persona no
figure en el listn porque acaba de darse de alta en la compaa telefnica, y as
hasta el infinito.
el problema de la cualificacin es un problema generado por el supuesto ontolgico, segn el cual, recordemos, todo lo que es relevante para la conducta inteligente puede ser formalizado en una descripcin estructurada (Dreyfus, 1979, p.
200). el hecho es que los seres humanos somos capaces de discernir cundo una
regla general es aplicable y cundo no, sin necesidad para ello de tener almacenado
en la memoria un listado de proposiciones con sus condiciones de validez. el proceso mediante el cual sabemos cundo es vlida una regla se encuentra, de nuevo,
por debajo del nivel de la mente, es decir, que es slo cerebral, subsimblico. Hay
muchas cosas que sabemos sin saberlas explcitamente en forma oracional ni en ninguna otra forma de representacin, y sin embargo, las sabemos y las aplicamos. tal
es el caso de las reglas generales: sin necesidad de pensar un conjunto de proposiciones que indiquen sus condiciones de validez, sabemos cundo son aplicables.
por supuesto, se puede sostener la hiptesis de que s tenemos listados de condiciones de validez en algn lugar ignoto de la mente al cual no podemos acceder.
De hecho, eso es lo que sostienen los defensores del supuesto psicolgico. O bien,
adquiriendo un menor compromiso, se puede defender, como hacen los partidarios
del supuesto epistemolgico, que esos listados se pueden obtener, y aunque no sean
necesarios para producir la conducta inteligente, s que son suficientes. esto es lo
que defiende Marvin Minsky en la introduccin de Semantic information processing. refirindose al conocimiento de sentido comn que una persona emplea en la
vida ordinaria, Minsky calcula la cantidad de cosas que una computadora electrniRevista de Filosofa
Vol. 40 nm. 1 (2015): 81-104

90

Manuel Carabantes Lpez

Cuatro problemas irresolubles de la IA simblica

ca necesitar saber: pienso que una mquina necesitar como mnimo adquirir
alrededor de cien mil elementos de conocimiento para comportarse de una manera
razonablemente sensata en situaciones ordinarias. si mi argumento no les convence, multipliquen las cifras por diez (Minsky, 1968, p. 26).
Minsky se qued bastante corto en opinin de Douglas Lenat, un investigador
de la Ia, convencido tambin del supuesto ontolgico, que en 1984 puso en marcha
uno de los ms ambiciosos proyectos de la Historia de la Ia simblica: el CYC
(Lenat & Guha, 1990). La mquina de Lenat requera que un grupo de operarios elaborase una base de datos con los enunciados que representan todos los conocimientos de sentido comn necesarios para comportarse de manera sensata (Crevier,
1993, p. 241). tras los seis primeros aos de trabajo, el nmero de enunciados codificados en el lenguaje formal del CYC ascenda a ms de un milln, lo cual representaba segn Lenat el 0,1% de la realidad consensuada en Occidente (Copeland,
1993, p. 160). Lenat pensaba que el nmero de enunciados que la mquina necesitara para ser operativa era de unos cien millones, es decir, el 10% de la realidad
consensuada en Occidente, y tambin crea, errneamente, que el proyecto se consumara en 2007 (Kaku, 2011, p. 114).
La ontologa y la epistemologa implicadas en este planteamiento, el del supuesto ontolgico, las encontramos presentes en la Historia de la filosofa en el atomismo lgico. Uno de los mximos exponentes de esta corriente positivista de la primera mitad del siglo XX fue Wittgenstein, quien en su Tractatus logico-philosophicus dej plasmadas unas cuantas sentencias que reflejan bien las convicciones
ms profundas de algunos investigadores de la Ia simblica: el signo proposicional usado, pensado, es el pensamiento (Wittgenstein, 1921, 3.5). el pensamiento es la proposicin con sentido (Ibd., 4). La proposicin es una figura de la realidad. La proposicin es un modelo de la realidad tal como nos la pensamos (Ibd.,
4.01). La especificacin de todas las proposiciones elementales verdaderas describe el mundo completamente. el mundo queda completamente descrito por la
especificacin de todas las proposiciones elementales ms la especificacin de las
que de ellas son verdaderas y de las que de ellas son falsas (Ibd., 4.26).
segn crea Wittgenstein en la poca del Tractatus, existen proposiciones absolutamente simples, no descomponibles en otras. l las denomina proposiciones elementales (Elementarstze) o completamente analizadas, un concepto equivalente al
de proposicin atmica en la teora de bertrand russell, maestro de Wittgenstein y
fundador del atomismo lgico. esas proposiciones, como dice russell, expresan
hechos atmicos (russell, 1918, p. 27). La cuestin es que, segn esta teora, el
mundo entero es descriptible mediante proposiciones atmicas, y a la inversa, la
totalidad de las proposiciones atmicas verdaderas describe el mundo de manera
total, exhaustiva, sin dejar nada fuera de la descripcin. esto es justo lo que acabamos de ver que sostienen Minsky y Lenat: que el mundo se agota en proposiciones.
91

Revista de Filosofa
Vol. 40 nm. 1 (2015): 81-104

Manuel Carabantes Lpez

Cuatro problemas irresolubles de la IA simblica

Observemos la ineficacia de este planteamiento en un caso particular. en el artculo antes citado A framework for representing knowledge, Minsky analiza el trabajo de un alumno suyo, eugene Charniak, acerca de los marcos de memorias necesarios para entender la siguiente historia infantil: Jane fue invitada a la fiesta de
cumpleaos de Jack. ella se pregunt si le gustara una cometa. Fue a su habitacin
y agit su cerdito-hucha, pero no son (Minsky, 1975, p. 103). para entender la
historia hace falta saber, entre otras muchas cosas, lo que es un cerdito-hucha, as
que Charniak se lanza a intentar capturar en una descripcin lingstica todo lo que
hay que saber sobre los cerditos-hucha para entender las historias en las que aparezcan. La definicin es muy extensa, y no es necesario transcribirla ntegra, sino que
bastan unas cuantas oraciones para sealar su debilidad. Dice Charniak en su tesis
doctoral: Los cerditos-hucha (CH en adelante) los hay de todos los tamaos y formas, aunque la forma preferida es la de cerdito. Generalmente el tamao oscila
entre el del pomo de una puerta y una tartera. Generalmente en los CH se guarda
dinero, por lo que cuando un nio necesita dinero a menudo ir a mirar en su CH.
Usualmente para conseguir el dinero necesitas sostenerlo y agitarlo (de arriba a
abajo). Generalmente ponerlo boca abajo facilita las cosas (Crevier, 1993, p. 113).
Lo importante aqu son los adverbios de frecuencia, que hemos resaltado con cursivas: generalmente y usualmente. Como se puede apreciar, la definicin se compone de reglas generales que no siempre se cumplen sobre los atributos del objeto y
las prcticas mundanas de las que participa. para reproducir computacionalmente
nuestra conducta, las definiciones de este tipo deberan ser complementadas con listados exhaustivos de las condiciones de validez que indiquen cundo son aplicables,
pero obtener tal cosa es imposible, porque nadie sabe explcitamente cules son esas
condiciones.
si los seres humanos opersemos a nivel inconsciente con definiciones, quizs
podramos formalizarlas en un programa informtico. pero la verdad es que no lo
hacemos, y no lo hacemos sencillamente porque no se puede hacer, dado que no
existe nada semejante a las definiciones reales de las cosas en el habla ordinaria.
tras renegar del Tractatus, Wittgenstein se dio cuenta de que: somos incapaces de
delimitar claramente los conceptos que usamos; no porque no sepamos su definicin real, sino porque no existe tal cosa como la definicin real. suponer que debe
haberla es como suponer que cuando los nios juegan con una pelota estn jugando a un juego con reglas estrictas (Wittgenstein, 1958, p. 25). toda definicin es
insuficiente para capturar la realidad de manera perfecta. su impotencia es revelada por las clusulas de renuncia en forma de adverbios de frecuencia.
el motivo por el cual los investigadores de la Ia simblica se empean, no obstante, en encontrar definiciones reales suficientes para la accin inteligente es que
son vctimas de la obsesin logocntrica de la cultura occidental. Como dice John
Haugeland, los cognitivistas, entre los que se incluye la mayora de los defensores
Revista de Filosofa
Vol. 40 nm. 1 (2015): 81-104

92

Manuel Carabantes Lpez

Cuatro problemas irresolubles de la IA simblica

de la Ia simblica, son herederos de la tradicin racionalista, segn la cual ser inteligente es ser capaz de manipular representaciones claras y distintas mediante reglas
racionales (Haugeland, 1978, p. 276). Dreyfus apunta en la misma direccin cuando seala a platn como el precursor de la Ia simblica, en tanto que su objetivo,
dice, era capturar todo el conocimiento en definiciones explcitas (Dreyfus, 1992, p.
67), es decir, en las representaciones claras y distintas a las que alude Haugeland.
Y, por citar un tercer testimonio relevante en contra de las pretensiones de la Ia simblica, el ingeniero informtico del MIt Joseph Weizenbaum denuncia que la verosimilitud de esta disciplina se debe a una corriente de pensamiento, en referencia al
positivismo, que ha determinado hace tiempo que la vida es aquello que puede
someterse a clculo y nada ms (Weizenbaum, 1976, p. 167).
La nica razn que hay para creer en la posibilidad de formalizar todo el sistema de creencias del sentido comn es el prejuicio cientifista sin base cientfica de
que el clculo operado en un sistema formal puede dominar la realidad al completo. sta es la conviccin de McCarthy, segn la cita Weizenbaum: La nica razn
por la cual no hemos tenido xito en la simulacin de todos los aspectos del mundo
real es que nos ha faltado un clculo lgico lo bastante poderoso. en la actualidad,
me encuentro trabajando en ese problema (Ibd., p. 167). McCarthy muri en 2011
y, por supuesto, se fue sin haber resuelto ese problema.
3.3. Habilidades procedimentales

Las habilidades procedimentales son las relativas a procesos o procedimientos

para llevar a cabo alguna accin (Garca, 1996, p. 304). en este artculo, por razones de espacio, acotaremos el significado y nos referiremos slo a las habilidades
procedimentales ms complejas, que son las que permiten la ejecucin de acciones
como bailar, conducir o subir escaleras. Frente al conocimiento declarativo o explcito del saber qu (know what), las habilidades procedimentales o implcitas son
las del saber cmo (know how) (Kandel, schwartz & Jessell, 1995, p. 656). el
problema de la Ia simblica al respecto es que, al ser los sistemas formales conjuntos de expresiones cuasi-lingsticas, necesita conceptualizar las conductas de las
habilidades procedimentales como si fueran el resultado de un discurso mental.
en su relato Instrucciones para subir una escalera, el escritor argentino Julio
Cortzar hace patente el absurdo resultante de codificar una habilidad procedimental, como es el subir escaleras, en una secuencia de rdenes explcitas: nadie habr
dejado de observar que con frecuencia el suelo se pliega de manera tal que una parte
sube en ngulo recto con el plano del suelo, y luego la parte siguiente se coloca
paralela a este plano, para dar paso a una nueva perpendicular, conducta que se repite [...] hasta alturas sumamente variables. [...] para subir una escalera se comienza
por levantar esa parte del cuerpo situada a la derecha abajo, envuelta casi siempre
93

Revista de Filosofa
Vol. 40 nm. 1 (2015): 81-104

Manuel Carabantes Lpez

Cuatro problemas irresolubles de la IA simblica

en cuero o gamuza, y que salvo excepciones cabe exactamente en el escaln. puesta

en el primer peldao dicha parte, que para abreviar llamaremos pie, se recoge la
parte equivalente de la izquierda (tambin llamada pie, pero que no ha de confundirse con el pie antes citado), y llevndola a la altura del pie, se le hace seguir hasta
colocarla en el segundo peldao, con lo cual en ste descansar el pie, y en el primero descansar el pie. (Los primeros peldaos son siempre los ms difciles, hasta
adquirir la coordinacin necesaria. [...] Cudese especialmente de no levantar al
mismo tiempo el pie y el pie). Llegando en esta forma al segundo peldao, basta
repetir alternadamente los movimientos hasta encontrarse con el final de la escalera (Cortzar, 1962, p. 11).
Los partidarios de la Ia simblica fuerte estn obligados a suponer que, aunque
no sea as como opera la mente humana, una secuencia de instrucciones semejante
tiene que ser suficiente para que una computadora suba escaleras. Obviamente la
secuencia estar escrita en un lenguaje formal, y ser mucho ms compleja, pero en
esencia seguir siendo una secuencia como la de Cortzar, en tanto que consistir
en un conjunto de enunciados que, de acuerdo a unas reglas de clculo, se transforman unos en otros. por ejemplo, cuando Cortzar advierte que los dos pies no deben
confundirse, el programador lo tendr en cuenta creando dos objetos distintos de la
clase pie, as como tambin programar una funcin supervisora que se ocupe de
que ambos pies no se intenten levantar al mismo tiempo. es evidente que a este
algoritmo, que es el nombre tcnico de las secuencias de instrucciones ejecutadas
por las computadoras, se le puede objetar tambin el problema de la cualificacin,
pues sus instrucciones generales slo son aplicables si se cumple una lista indefinidamente extensa de condiciones de validez. el problema de la cualificacin, al estar
derivado de la falta de sentido comn y al ser el sentido comn algo necesario para
casi todas las actividades de la vida ordinaria, afecta ampliamente a la Ia simblica. no obstante, como ya hemos hablado del problema de la cualificacin, centrmonos aqu en la problemtica especfica de las habilidades procedimentales.
el problema de las habilidades procedimentales para la Ia simblica suele ser
planteado sealando la diferencia entre el novato y el experto que ejecutan la misma
accin (Franklin, 1995, p. 103). segn esta diferencia, el novato ejecutara una
accin como conducir un coche aplicando conscientemente una serie de reglas,
mientras que el experto lo hara sin pensar en ellas. La cuestin es que, aunque tal
diferencia existe, a nuestro juicio no va a la raz del problema: y es que ni siquiera
el novato realiza la accin solamente ejecutando reglas. el novato tiene presentes
las instrucciones, tales como que cuando el motor se revoluciona hay que subir de
marcha o que en los pasos de peatones hay que disminuir la velocidad, pero sas
son rdenes de alta jerarqua, muy generales, y por tanto segn la Ia simblica
deberan concretarse en una miriada de rdenes cuasi-lingsticas de bajo nivel tales
como tensionar en tal medida stos y aquellos msculos de la ltima falange del
dedo meique de la mano derecha.
Revista de Filosofa
Vol. 40 nm. 1 (2015): 81-104

94

Manuel Carabantes Lpez

Cuatro problemas irresolubles de la IA simblica

es curioso que los cognitivistas, que como hemos sealado son los psiclogos
del paradigma multidisciplinar al que pertenece la Ia simblica, reclamen la posibilidad de investigar las operaciones mentales ms refinadas al margen de su correlato fisiolgico cerebral (Damasio, 1994, p. 286), y sin embargo no reclamen lo
mismo respecto de las menos refinadas, como la de mover el dedo meique. La realidad es que las habilidades procedimentales, an cuando se ejecutan de manera
consciente siguiendo un algoritmo, requieren de la participacin de mecanismos
puramente cerebrales, esto es, de los que no emerge representacin mental alguna.
se sabe, por ejemplo, que la locomocin, a pesar de que es una accin voluntaria y por tanto dirigida mentalmente, no requiere de direccin consciente en condiciones normales despus de haberse iniciado (Kandel, schwartz & Jessell, 1995, p.
523). si a una rata se le secciona la mdula espinal a la altura de las vrtebras lumbares, cuando se la ponga sobre una cinta andadora realizar de todas maneras la
accin locomotriz de alternancia de las patas traseras (Ibd., p. 524), un experimento real que pone en evidencia el absurdo del experimento mental de Cortzar, pues
buena parte de lo que hacemos al subir una escalera, que no es ms que una variante del caminar, se decide neuronalmente a nivel de la mdula espinal, sin que la
mente intervenga. si los dos pies no se levantan al mismo tiempo no es porque una
orden mental subconsciente lo dicte, sino porque un circuito espinal inhibitorio lo
impide.
en resumen, las habilidades procedimentales suponen uno de los mayores obstculos para la Ia simblica en sus dos vertientes. La duplicacin de manera realista es imposible porque se trata de habilidades basadas en procesos cerebrales, o
incluso neuronales a nivel de la mdula espinal, de los que no emerge ningn correlato mental. Y la duplicacin de forma instrumental es imposible debido a que las
proposiciones que deberan sustituir funcionalmente a dichos procesos cerebrales
inconscientes son inoperantes a causa del problema de la cualificacin.
3.4. Abduccin de teoras

Citando a Habermas, las ciencias naturales, denominadas por l como ciencias

emprico-analticas, no son ms que la continuacin sistemtica de un proceso de
aprendizaje acumulativo que se realiza de forma precientfica en el mbito funcional de la actividad instrumental (Habermas, 1968, p. 194). esto implica, entre otras
muchas cosas, que las estrategias de produccin de teoras a nivel cientfico son las
mismas que a nivel precientfico. Charles peirce distingui, en un esquema clsico,
tres formas de inferencia: induccin, abduccin y deduccin. a su juicio, la nica
que verdaderamente sirve para descubrir nuevas teoras, y por tanto la nica del
contexto de descubrimiento, es la abduccin (rivadulla, 2010, p. 120). no obstante, la induccin, as como la deduccin en forma de preduccin, tambin son consi95

Revista de Filosofa
Vol. 40 nm. 1 (2015): 81-104

Manuel Carabantes Lpez

Cuatro problemas irresolubles de la IA simblica

deradas a menudo como estrategias de produccin de teoras (rivadulla, 2009, p.

244). por ser la preduccin exclusiva de las ciencias tericas, su consideracin
como una estrategia de produccin de teoras a nivel precientfico es dudosa, y por
tanto aqu slo examinaremos la induccin y, sobre todo, la abduccin.
Lo que nos proponemos mostrar es que, para crear una autntica Ia simblica
fuerte, habra que dotarla de algoritmos para producir teoras tal y como lo hacemos
los seres humanos constantemente en la vida ordinaria, pero el caso es que ni la
induccin ni la abduccin son formalizables, es decir, que no existe un camino lgico para producir teoras, ni inductiva ni abductivamente. primero observemos el
hecho: no existen mquinas capaces de inducir o abducir de manera genuina, es
decir, sin una determinacin previa por parte de sus creadores humanos de cules
son los objetos y las caractersticas sobre los que deben centrarse. La prueba de esta
afirmacin es que no existen computadoras capaces de automatizar el proceso de
produccin de teoras cientficas. He aqu una relacin interesante entre la Ia simblica y el mito del mtodo cientfico. si el mtodo cientfico, entendido como un
conjunto de procedimientos cuya aplicacin garantiza el logro de conocimiento,
existiera, entonces la Ia simblica fuerte sera una realidad. Y, a la inversa, si la Ia
simblica fuerte fuera posible, entonces sus algoritmos de induccin y abduccin de
teoras constituiran el mtodo cientfico en el sealado sentido de procedimiento
seguro.
La cuestin es que tal mtodo no existe. albert einstein, que de crear teoras
cientficas algo saba, afirm lo siguiente en referencia a las leyes fundamentales del
universo: no hay camino lgico que lleve a estas leyes fundamentales. Debemos
dejarnos conducir por la intuicin, que se basa en una sensacin de la experiencia.
[...] nadie que haya profundizado de veras en esto podr negar que el sistema terico ha sido prcticamente determinado por el mundo de las suposiciones, pese a que
no existe camino lgico alguno que conduzca desde stas hasta las leyes fundamentales (einstein, 1953, p. 131). Cuando dice intucin, einstein emplea el trmino
en su sentido vulgar de corazonada. para el fsico ms importante del siglo XX,
por tanto, la ciencia comienza su tarea de descubrimiento de teoras con algo tan
vago y difuso como las corazonadas. son las corazonadas las que mueven al cientfico a realizar una cierta induccin o abduccin, y no otra cualquiera.
respecto a las razones por las cuales la induccin y la abduccin no podrn ser
formalizadas nunca, tienen que ver con el problema de la seleccin del marco.
empezando por la induccin, sta se puede definir como un modo de inferencia que
consiste en elevarse de enunciados observacionales particulares a normas generales. por ejemplo, habiendo visto siempre que los cuervos son negros, se concluye
por induccin que todos los cuervos son negros. el problema de la induccin para
la Ia simblica es que en cualquier observacin el nmero de variables que concurren es, en potencia, infinito, y sin un marco que discrimine cules son las esenciaRevista de Filosofa
Vol. 40 nm. 1 (2015): 81-104

96

Manuel Carabantes Lpez

Cuatro problemas irresolubles de la IA simblica

les, la induccin es imposible. en el ejemplo del cuervo hay que ser capaz de darse
cuenta de que lo esencial para que el animal sea siempre negro es que pertenezca a
la especie de los cuervos, y no otros factores que tambin estaban presentes en el
momento de las observaciones, tales como la hora, la temperatura o la humedad
relativa. respecto a la abduccin, sucede algo parecido. La abduccin, en palabras
de peirce, consiste en estudiar hechos e inventar una teora que los explique
(rivadulla, 2009, p. 239). por ejemplo, dado el fenmeno de la fuerza, newton
abdujo que se trataba de una magnitud directamente proporcional a la masa y la
aceleracin, formulando as su segunda ley de la dinmica: F=ma. el problema para
la Ia simblica es que para seleccionar justo esos factores entre un nmero potencialmente infinito hace falta conocer de antemano aquello que se busca: la propia
teora.
Ciertamente, las teoras que producimos a nivel ordinario, y que una Ia simblica fuerte necesitara producir, son sobre otro tipo de cosas: por qu alguien se
comporta de determinada manera, cundo pasar el autobs o qu es lo que pasar
cuando un poltico gane las elecciones. sin embargo, la esencia del problema es la
misma, y es que la induccin y la abduccin requieren un marco previo que dirija
la mirada a unos hechos y no a otros. se trata, en definitiva, de una reedicin moderna de la paradoja del Menn. newell y simon, a quienes ya hemos mencionado por
ser dos de los fundadores de la Ia, creyeron haberla resuelto: La paradoja del
Menn es resuelta por la observacin de que la informacin puede ser recordada, y
tambin la informacin nueva puede ser extrada del dominio designado por los
smbolos (newell & simon, 1976, p. 65). el problema de este enfoque es que la
revisin de la experiencia anterior no puede ser indiscriminada, sino que debe estar
orientada a aquellos datos tiles para formular una teora, pero tal orientacin slo
puede ser proporcionada precisamente por aquello que se busca: la teora. De lo
contrario, por mucho que se revise la experiencia anterior, jams se encontrar en
ella nada til.
4. La obsesin positivista por el dominio

a travs del examen de cuatro facultades del intelecto humano imprescindibles

para la conducta inteligente hemos demostrado la tesis inicial de que la Ia simblica es imposible. Imposible de manera realista, en tanto que las citadas facultades
dependen de procesos cerebrales de los que no emerge ningn correlato mental, e
imposible tambin de modo instrumental, pues el enfoque simblico de la manipulacin de smbolos referidos al nivel de las representaciones mentales se fundamenta en un supuesto, el ontolgico, que da lugar a varios problemas irresolubles. La
inteligencia entendida como el discurso mental silencioso de formacin y transfor97

Revista de Filosofa
Vol. 40 nm. 1 (2015): 81-104

Manuel Carabantes Lpez

Cuatro problemas irresolubles de la IA simblica

macin de las representaciones cuasi-lingsticas de un sistema formal no es capaz

de reproducir ni tan siquiera conductualmente el sentido de la situacin, el sentido
comn, las habilidades procedimentales y la abduccin de teoras. Los problemas
de fondo son slo dos, el de la seleccin del marco y el de la cualificacin, pero
hemos optado por exponerlos concretando cuatro de sus consecuencias.
Lo nico que resta es explicar por qu, a pesar de la imposibilidad de la Ia simblica fuerte, la Ia se presenta de continuo como una tcnica inminente. podra pensarse que la razn por la cual la Ia se presenta como una realidad en ciernes es la
Ia subsimblica. De hecho, la Ia subsimblica s es posible en principio, en tanto
que el objeto que intenta reproducir, el cerebro, no es ms que materia y los sistemas formales, que es lo que son las computadoras electrnicas, se han mostrado
capaces hasta el momento de capturar los rasgos esenciales de cualquier parcela del
universo fsico mediante la simulacin de modelos. sin embargo, esta explicacin
no sera correcta por dos razones: una tcnica y la otra histrica.
La histrica es que la posibilidad de la Ia fuerte fue proclamada por los cientficos desde el momento mismo en que esta disciplina se constituy como tal, en
1956, una fecha que es muy anterior al primer desarrollo de la Ia subsimblica, que
se produjo en la dcada de 1980. es verdad que la Ia subsimblica fue planteada
mucho antes, pues turing ya describi el funcionamiento de una red de neuronas
artificiales en 1948 (turing, 1948, p. 418), Wesley Clark y belmont Farley hicieron la primera simulacin neuronal computerizada de la Historia en 1954
(Copeland, 2004, p. 406), y Frank rosenblatt present su red de neuronas, el
perceptrn, en 1958. sin embargo, debido a diversos conflictos sociales en el seno
de la Ia (Crevier, 1993, p. 107), el programa de investigacin subsimblico permaneci prcticamente inexplorado hasta principios de los 80, cuando fue retomado
por John Hopfield y el conocido como Grupo pDp. por tanto, histricamente no ha
podido ser la Ia subsimblica la que ha dado crdito a la conviccin popular de que
las computadoras electrnicas son el soporte adecuado para producir mquinas
inteligentes.
Y tcnicamente, tampoco, ya que las simulaciones de neuronas a gran escala
pertenecen todas al mbito de la Ia dbil, que como ya hemos sealado es aquella
vertiente de la Ia que se conforma con realizar simulaciones de ciertos fenmenos
mentales o cerebrales para hacer avanzar el conocimiento cientfico. Hay redes de
neuronas artificiales que tienen aplicaciones prcticas ms all de la investigacin
cientfica, por supuesto, pero estn todava muy lejos de exhibir las competencias
intelectuales de un ser humano, o incluso de algn otro mamfero. Un ejemplo seran los programas de reconocimiento facial. Las redes de neuronas son eficaces para
realizar tareas de reconocimiento de patrones (rumelhart, 1989, p. 216), tales como
rostros, voces o grafemas. sin embargo, los programas de ese tipo estn todava
muy lejos de exhibir una flexibilidad como la nuestra. si esto es todo lo que ha
Revista de Filosofa
Vol. 40 nm. 1 (2015): 81-104

98

Manuel Carabantes Lpez

Cuatro problemas irresolubles de la IA simblica

logrado la Ia subsimblica en tres dcadas, entonces su estado de desarrollo tcnico tampoco da respaldo cientfico a la creencia de que las computadoras electrnicas reproducirn nuestras facultades intelectuales de aqu a poco tiempo.
La verdadera razn por la cual la Ia se presenta como una tcnica inminente es
la antes mencionada obsesin de la sociedad actual por el control. Las explicaciones que ofrecen la forma de control ms precisa son las de estilo nomolgico-deductivo, es decir, las del tipo de la fsica (Horkheimer, 1947, p. 102). suponer que la
mente es calculable mediante un sistema formal es tanto como suponer que es calculable de manera nomolgico-deductiva y, en consecuencia, que se puede ejercer
sobre ella un control tan exhaustivo como el que las ciencias empricas ejercen
sobre la naturaleza. sta es la clave: la obsesin positivista por el dominio, por
hacerlo todo calculable para manipularlo y pronosticarlo. Dijimos antes que la nica
razn que hay para creer en la posibilidad de formalizar todo el sistema de creencias del sentido comn es el prejuicio cientifista sin base cientfica de que el clculo operado en un sistema formal puede dominar la realidad al completo. pues bien,
ese prejuicio cientifista tiene su razn de ser en el ciego afn de dominio en el que
ha cado nuestra civilizacin como resultado del desastre de la Ilustracin
(Horkheimer & adorno, 1944, p. 131). Lo que pretenda ser un proyecto emancipatorio ha resultado en una cosmovisin, la positivista, que lo nico a lo que aspira es
a aumentar el dominio, tanto sobre la naturaleza como sobre los dems seres humanos, sin ms fin que el propio aumento tumoral.
Creer en la posibilidad tcnica de la Ia simblica fuerte es creer que existe un
discurso racional capaz de producir cualquier conducta inteligente de manera perfecta y autosuficiente, es decir, sin depender de la accin irracional en tanto que
subsimblica de ciertos procesos cerebrales de los que no emerge correlato mental
alguno. Decimos que la Ia subsimblica es irracional porque, aunque la actividad
de las redes de neuronas es en principio calculable, su forma no es intencional, esto
es, que los smbolos manipulados en una simulacin de ese tipo no refieren a nada
externo al sujeto, y ni tan siquiera al sujeto, sino slo a una parte de su sustrato
material, que es el cerebro. Incluso en el caso de que se llegara a calcular la actividad neuronal de todo el sistema nervioso, ese clculo sera de algo tan extrao al
hombre como lo es el clculo del funcionamiento del corazn o de cualquier otro
rgano, porque el hombre se siente a s mismo como fenmeno psquico, y no como
fenmeno fsico.
en 1997 la Ia jugadora de ajedrez Deep blue, creada por IbM, derrot al campen del mundo Gary Kasprov. ste, ante la sospecha de que una jugada bastante
extraa le hubiera sido indicada a la mquina por un operario humano, pidi que se
le facilitase una copia de los procesos de Deep blue. si Kasprov pidi ver esos
procesos es porque eran simblicos, pues de lo contrario, si hubieran sido subsimblicos, no habra sido capaz de entender nada. Mirar los registros de procesos sub99

Revista de Filosofa
Vol. 40 nm. 1 (2015): 81-104

Manuel Carabantes Lpez

Cuatro problemas irresolubles de la IA simblica

simblicos es como mirar un cerebro al microscopio, y un cerebro al microscopio

no es una teora que explique la visin o cualesquiera otras operaciones cognitivas
que realice (Davidson, 1973, p. 353). en el mejor de los casos, la Ia subsimblica
construir algn da una red de neuronas capaz de hacer lo mismo que nuestro cerebro y de la misma manera, pero esa red slo sera una copia (bentez, 2011b, p.
277). Decir que esa red es una teora explicativa de la cognicin humana es como
decir que tirar una maceta desde un segundo piso es una teora sobre la cada de los
graves.
por eso se denomina sub-simblico al paradigma conexionista de la Ia: porque, an a pesar de que sus modelos, en tanto que programas informticos en ejecucin, siempre consistirn en manipulaciones de smbolos de un lenguaje formal,
esos smbolos no simbolizan contenidos mentales. smbolo es una palabra que
viene del griego , y significa juntar, reunir lo que estaba disperso o separado (Daz, 1997, p. 451). Un smbolo, por tanto, es tal porque apunta hacia otra
cosa que no es l mismo, sino que est separada. La Ia simblica se denomina as
porque tiene un carcter intencional en el sentido en que brentano habla de la intencionalidad (bentez, 2011b, p. 275), es decir, que sus smbolos, como los pensamientos, refieren a cosas externas a ellos. Gracias a esta cualidad intencional compartida con nuestro psiquismo, la Ia simblica tiene respecto a la subsimblica la
particularidad de que pretende hacer transparente la mente ante la mente. aunque
sea una mente de tipo instrumental, pues a los cientficos, como dice steve Woolgar,
no suele preocuparles el estatus epistemolgico de sus teoras (Woolgar, 1988, p.
133). La Ia simblica pretende iluminar el fenmeno psquico de la misma manera
que la fsica ha iluminado el fenmeno fsico: para dominarlo y someterlo al deseo
ciego del poder.
as como Galileo renunci a la pretensin de realismo del modelo heliocntrico, los investigadores de la Ia simblica fuerte tambin estn dispuestos a renunciar al realismo. Lo que les importa es, metafricamente, tener un modelo eficaz
para poner satlites en rbita y, deshaciendo la metfora, tener un modelo de la
mente calculable. aqu est el gran inters filosfico de la Ia simblica: se trata de
un intento por demostrar que la razn, en su mxima expresin ilustrada del clculo de los sistemas formales, puede conocerse a s misma perfectamente de forma
instrumental, para aplicar ese conocimiento a la expansin del dominio. La consecuencia sera la automatizacin, por fin, de todas las tareas intelectuales, con lo que
se acabara el castigo bblico al trabajo, y la humanidad quedara totalmente emancipada. al precio, eso s, de la cada en el principio de inmanencia (Hokheimer &
adorno, 1944, p. 67) y de convertirnos en lotfagos (Ibd., p. 114). La Ia simblica fuerte es, en definitiva, el penltimo delirio de la razn degenerada en positivismo. afortunadamente, su fracaso est garantizado por problemas irresolubles como
los analizados en este artculo.
Revista de Filosofa
Vol. 40 nm. 1 (2015): 81-104

100

Manuel Carabantes Lpez

Cuatro problemas irresolubles de la IA simblica

Referencias bibliogrficas

bentez, a. (2011a): Fundamentos de inteligencia artificial. Libro primero:

Programacin en Scheme, Madrid, escolar y Mayo.
bentez, a. (2011b): Fundamentos de inteligencia artificial. Libro segundo:
Inteligencia artificial clsica, Madrid, escolar y Mayo.
bentez, a. (2013): Fundamentos de inteligencia artificial. Libro tercero:
Inteligencia artificial bioinspirada, Madrid, escolar y Mayo.
CarpInterO, H. (1996): Historia de las ideas psicolgicas, Madrid, pirmide.
COpeLanD, b. J. (1993): Artificial intelligence: A philosophical introduction,
Oxford, blackwell. seguimos la traduccin de Julio Csar armero san Jos:
Inteligencia artificial: Una introduccin filosfica, Madrid, alianza, 1996.
COpeLanD, b. J. (ed.) (2004): The essential Turing, Oxford, Clarendon press.
COrtzar, J. (1962): Historias de cronopios y de famas, buenos aires, alfaguara.
CreVIer, D. (1993): The tumultuous history of the research for AI, new York, basic
books.
DaMasIO, a. (1994): Descartes error: Emotion, reason and the human brain, new
York, Macmillan. seguimos la traduccin de Joandomnec ros: El error de
Descartes: La emocin, la razn y el cerebro humano, barcelona, Crtica, 2007.
DaVIDsOn, D. (1973): the material mind, en p. suppes et al. (eds.), Logic,
methodology and philosophy of Science IV, amsterdam, north-Holland.
seguimos la reimpresin en J. Haugeland (ed.), Mind design, Cambridge, the
MIt press, 1981, pp. 339-354.
Daz, C. (1997): Manual de Historia de las religiones, bilbao, Descle de brouwer.
DreYFUs, H. L. (1979): From micro-worlds to knowledge representation: aI at an
impasse, en J. Haugeland (ed.), Mind design, Cambridge, the MIt press,
1981, pp. 161-204.
DreYFUs, H. L. (1992): What computers still cant do, Cambridge, the MIt press.
eInsteIn, a. (1953): Mein weltbild, zrich, europa Verlach (ed. Carl seelig).
seguimos la traduccin de sara Gallardo y Marianne bbeck: Mi visin del
mundo, barcelona, tusquets, 2002.
FaLGUera, J. L., & Martnez, C. (1999): Lgica clsica de primer orden, Madrid,
trotta.
FranKLIn, s. (1995): Artificial minds, Cambridge, the MIt press.
GaDaMer, H. G. (1960): Wahrheit und Methode: Grundzge einer philosophischen
Hermeneutik, tbingen, JCb Mohr. seguimos la traduccin de ana agud
aparicio y rafael de agapito: Verdad y mtodo I, salamanca, sgueme, 1977.
GarCa, e. (1996): Inteligencia y metaconducta, Revista de psicologa general y
aplicada, 50 (3), pp. 297-312.
GarCa, e. (2001): Mente y cerebro, Madrid, sntesis.
101

Revista de Filosofa
Vol. 40 nm. 1 (2015): 81-104

Manuel Carabantes Lpez

Cuatro problemas irresolubles de la IA simblica

GarDner, H. (1985): The minds new science: A history of the cognitive revolution,
new York, basic books. seguimos la traduccin de Leandro Wolfson: La nueva
ciencia de la mente: Historia de la revolucin cognitiva, barcelona, paids,
1988.
HaberMas, J. (1968): Erkenntnis und Interesse, Frankfurt am Main, suhrkamp
Verlag. seguimos la traduccin de Manuel Jimnez, Jos F. Ivars y Luis Martn
santos: Conocimiento e inters, Madrid, taurus, 1990.
HaUGeLanD, J. (1978): the nature and plausibility of cognitivism, The
Behavioral and brain sciences, 1, pp. 417-424, Cambridge, Cambridge
University press. seguimos la reimpresin en J. Haugeland (ed.), Mind design,
Cambridge, the MIt press, 1981, pp. 243-281.
HaUGeLanD, J. (1981): semantic engines, en J. Haugeland (ed.), Mind design,
Cambridge, the MIt press, pp. 1-34.
HaUGeLanD, J. (1996): What is mind design?, en J. Haugeland (ed.), Mind design
II, Cambridge, the MIt press, 1997, pp. 1-28.
HaWKIns, J., & bLasKesLee, s. (2004): On intelligence, new York, times books.
seguimos la traduccin de Carmen Martnez Gimeno: Sobre la inteligencia,
Madrid, espasa, 2005.
HOrKHeIMer, M. (1947): Eclipse of reason, new York, Oxford University press.
seguimos la traduccin de Jacobo Muoz: Crtica de la razn instrumental,
Madrid, trotta, 2002.
HOrKHeIMer, M., & aDOrnO, tH. W. (1944): Dialektik der Aufklrung, new York,
social studies association. seguimos la traduccin de Juan Jos snchez:
Dialctica de la Ilustracin, Madrid, trotta, 2009.
KaKU, M. (2011): Physics of the future: How science will shape human destiny and
our daily lives by the year 2100, new York, random House. seguimos la traduccin de Mercedes Garca Garmilla: La fsica del futuro, barcelona, Debate,
2011.
KanDeL, e. r., sCHWartz, J. H., & JesseLL, tH. M. (eds.) (1995): Essentials of neural science and behavior, stamford, prentice Hall.
Lenat, D. b., & GUHa, r. V. (1990): Building large knowledge-based systems:
Representation and inference in the CYC project, reading, adisson-Wesley.
MCCartHY, J., & HaYes, p. J. (1969): some philosophical problems from the
standpoint of artificial intelligence, en b. Meltzer & D. Michie (eds.), Machine
intelligence, vol. 4, edinburgh, edinburgh University press. seguimos la edicin digital gratuita descargada de www-formal.stanford.edu/jmc.
MInsKY, M. L. (1975): a framework for representing knowledge, Memo 306 of
the Artificial Intelligence Laboratory of the MIT, Cambridge, the MIt press.
seguimos la reimpresin en J. Haugeland (ed.), Mind design, Cambridge, the
MIt press, 1981, pp. 95-128.
Revista de Filosofa
Vol. 40 nm. 1 (2015): 81-104

102

Manuel Carabantes Lpez

Cuatro problemas irresolubles de la IA simblica

MInsKY, M. L. (ed.) (1968): Semantic information processing, Cambridge, the MIt

press.
neWeLL, a., & sIMOn, H. a. (1976): Computer science as empirical enquiry:
symbols and search, Communications of the Association for Computing
Machinery, 19 (March 1976), pp. 113-126. seguimos la reimpresin en J.
Haugeland (ed.), Mind design, Cambridge, the MIt press, 1981, pp. 35-66.
rIVaDULLa, a. (2009): el mito del mtodo y las estrategias del descubrimiento
cientfico: Induccin, abduccin, preduccin, en O. pombo & a. nepomuceno
(eds.), Lgica e Filosofa da Cincia, Centro de Filosofa da Cincias da
Universidade de Lisboa, Colecao Documenta 2, Lisboa, pp. 231-246.
rIVaDULLa, a. (2010): estrategias del descubrimiento cientfico: abduccin y preduccin, Filosofa e Histria da Cincia no Cone Sul, 6 encontro, pp. 120129.
rObInet, a. (1973): Le dfi cyberntique, paris, editions Gallimard. seguimos la
traduccin de Carmen Garca-trevijano: Mitologa, filosofa y ciberntica,
Madrid, tecnos, 1982.
rODrGUez, r. (1987): Heidegger y la crisis de la poca moderna, Madrid, sntesis.
rUMeLHart, D. e. (1989): the architecture of mind: a connectionist approach, en
M. posner (ed.), Foundations of cognitive science, Cambridge, the MIt press.
seguimos la reimpresin en J. Haugeland (ed.), Mind design II, Cambridge, the
MIt press, 1997, pp. 205-232.
rUsseLL, b. (1918): The philosophy of logical atomism, London, routledge.
sCHanK, r. C. (1999): Dynamic memory revisited, Cambridge, Cambridge
University press.
searLe, J. r. (1980): Minds, brains and programs, The behavioral and brain sciences, 3, Cambridge, Cambridge University press, pp. 417-424. seguimos la
reimpresin en J. Haugeland (ed.), Mind design, Cambridge, the MIt press,
1981, pp. 282-306.
sMOLensKY, p. (1989): Connectionist modeling: neural computation, mental connections, en L. nadel, L. a. Cooper, p. Culicover & M. Harnish (eds.), Neural
connections, mental computation, Cambridge, the MIt press. seguimos la
reimpresin en J. Haugeland (ed.), Mind design II, Cambridge, the MIt press,
1997, pp. 233-250.
tUrInG, a. M. (1948): Intelligent machinery, Turing Papers, Cambridge, Kings
College Modern archive Centre. seguimos la reimpresin en J. Copeland (ed.),
The essential Turing, Oxford, Clarendon press, pp. 410-432.
tUrInG, a. M. (1950): Computing machinery and intelligence, Mind, 59.
seguimos la reimpresin en J. Copeland (ed.), The essential Turing, Oxford,
Clarendon press, 2004, pp. 441-464. Hay edicin en espaol con introduccin
de ricardo lvarez y traduccin de alejandro bazn: Puede pensar una
mquina?, buenos aires, almagesto, 1990.
103

Revista de Filosofa
Vol. 40 nm. 1 (2015): 81-104

Manuel Carabantes Lpez

Cuatro problemas irresolubles de la IA simblica

WeIzenbaUM, J. (1976): Computer power and human reason, san Francisco, W. H.

Freeman and Company. seguimos la traduccin de santiago pez Fuentes: La
frontera entre el ordenador y la mente, Madrid, pirmide, 1978.
WIttGensteIn, L. (1921): Logisch-philosophische abhandlung, en W. Oswald
(ed.), Annalen der Naturphilosophie, 14, Leipzig. seguimos la traduccin de
Jacobo Muoz e Isidoro reguera: Tractatus logico-philosophicus, Madrid,
alianza, 2000.
WIttGensteIn, L. (1958): The blue and brown books, new York, Harper & row.
WOOLGar, s. (1988): Science: The very idea, London, routledge. seguimos la traduccin de eduardo aibar: Ciencia: Abriendo la caja negra, barcelona,
anthropos, 1991.
Manuel Carabantes Lpez
manuel.carabantes@gmail.com

Revista de Filosofa
Vol. 40 nm. 1 (2015): 81-104

104