Академический Документы
Профессиональный Документы
Культура Документы
aseveraciones.
considerar la obra de Roger Schank y sus colegas en Yale (Schank y
Abelson, 1977), porque me encuentro ms familiarizado con ella que con
ctralesquiera otras aseveraciones similares, y porque oFrece trn ejemplo
ntuy clro clel tipo de trabajo que deseo examinar. Pero nada de lo que a
continuacin se presenta depende de los detalles de los programas de
Sc ha n k, pu e s l o s mi s mo s ar gu me nto s s e p o dr a n ap l i c a r a l S H R D L U
de Winogiad (Winograd, 1973), a1 ELIZA. de Weizenbaum (Weizenbaum,
a los esfuerzos
.OUIMpSRTANCIApsicolgica y filosfica debemos dar
rccientes que se han realizado para que las complttadoras simulen las habilidades cognoscitivas del ser hr-rmano? Para tesponder a esta pregunta,
nre parece til diferenciar entre lo que llamar Ia (inteligencia artificial)
"f uerte" e IA "dbil" o "cautelosa". Segrn la ra dbil, el principal valor que
tiene la computadora en el estudio de la mente es qlle nos proporciona una
hcrramienta muy poderosa que nos permite, por ejemplo, formular y com"fuerte",
pr:clbarhiptesis de modo ms riguroso 1' preciso. Empero, en la Ia
la computadora no es tan slo ua herramienta para estlldiar la mente;
rursbien, la computadora programada adectradamente es t'ealmente una
nrente en el sentido de que puede decirse literalmente que las computadoras
L lu e CU e n fa n co n p rg gr am aS c or re c( oS c otttp re ttd ett y p os ee n o t t o s e s t a d O s
cognoscitivos. En la IA fuerte, como la comprttadora progranrada cuenta
c6n estados cognoscitivos, los programas no Son meras herramientas que
nos permiten probar las explicaciones psicolgicas, sino que los programas
JOHN R, SEARLE
s:
1 9 - 5 )r 'c l e h e c h o a ct r a l q u i e r - si m t r l a ci r i n e . r r r q t r i n a cl e Tr r r .i .s
cl e fe n m e n o s m e n t a l e s h t r ln a n o s.
N l t r - v b r e 'e m e n t e , v d e j a n d o d e l a d o 'a r i . s
cl e t a i l e s, e l p r .o g r .:r .r a d e
Schank ptrede describirse de la sigr-rientenraner.r:
el p'.prisito clel ir,,g.rma
consiste en simular la capacidad hunrara para c().rpr-e.der.
relat.s. una
c a r a c t e r s t i c a d e l a ca p a ci cl a d d e l o s se r . e s h r r n r a . o s p a r . i
c.m p r e n cl e r
relatos es que stos pueden responcle. pregrntas acel.ca
clc-lr-elaro, atrn
cuando la informacin qr-rep.opor-cionen nrrnca se hava establccicilr
exolc i t a m e n l e e n e l r e l a to . As p u e s. p o r . e j e n r p l o , sr r p {}n g a q u e cs( .u cl ,a
l a s _
guiente historia: "un honrbre entr a un restllr.antc or.clerr
r,
trn:r halnb u r g u e s a . c u a n d o se l a si n 'i e r o n , e st a b a t r t a l r r e . t e q r r e . r l r cl a ,
a s < 'e e r
hombre estall en clera v abanclon el restarrr.ante firr.irso,
,ir, rngu. ra
hamburguesa ni deja. propina." Aho'a bien, si re pr-eetrntan,or, "...s"
co'ri
e l h o m b r e l a h a m b u r g u e sa ? " , u st e d p r o b a b r e . r e . t Jr e sp o r - r cl e ,r : ..N o ,
no
se la comi." De igual maner-a, si ustec,lescrrchrlo sigtrie.te: "[Jn
hor'bre
e n t r a u n r e s t a u . a n r e 'o l d e n
t l r r l l . r b r l q r r e sr . cr a . . l , , st 'l l r si r .,,.i e l .o n ,
le agrad mucho. Al sali. del r-estau.ante, le Jc.i a la nlescr.r
ge'erosa
'ra
propina antes de pagar la ctrenta." Si se le pr'r.gu11ta:
"Se co'riti
lro,.br-e
"f
la-hambtrrguesa?", usted probablen-rente .esponcrera: "S,
se la crmi.,,
Ahora bjen, las mquinas de schank ptreclenre.s,orr.ierp,.eguntas
sirilar-es
acerca de restaurantes formuladas en estos tr.nrinos.par.a lirce.rlc),
cLlentan
con una "representacin" clel tipo de inltornracin qlre poseen
l.s seres
humanos acerca de los r-estau.antes, la cual les per.'ri{e resp.rcler-l)r-eg'ntas como las antes mencionadas, dado estertip. de relat.s. c,,r,rr.lo
se pr-()p o r c i o n a e l r e l a t o a l a m q r - r i n a 'se l e h a ce l a p r - e g 'n t r , i r r r p r .i n r i r .r
r - e spuestas del tip. de las qr-reesperaramos qr-reclier:rrilos se'es
hrrrr'tnos al
escuchar relatos similares. Los particlar.ios de la lR ftrer-teafir.nrrn(ilre
en
e s t a s e c u e n c i a d e p r e g r - r n t a sv r e sp L l e st a sl rm q u i n a n o s l o si n r tr l a
una
habilidacl humana, sino que tambin:
1 ) p u e d e d e c i r s e l i t e r a l m e n t e q u e l a n r q r ri n a cct r r t p r e r t r l ce l r e l a t. y p r o p o r c i o n a r e s p u e s t a s a l a s p r . e g r r n t a s,r
2) lo que la mquina y su programa hacen es ex\tlic.r la caprciclaclhum a n a d e c o m p r e n d e r e l r e l a t o r . r e sp o n d e r . p . "g , , n i u , r . . ", . cai e e l .
A m me parece que ningtrna de estas dos afirmaciones c.crrc.rr.a un
sostn total en el trabajo de Schank,' como intentar clemostr.ar a continuacin.
una manera de probar cualquier teora cle la n-re.te estriba en preg'ntarse a uno mismo qu suceder'a si nri mente realrnente ftrncionara sobre
los principios con que Ia teora dice que funci.nan toclas las n-rentes.Apliquemos esta prueba al programa de Schank con el sigrrie nre GerlanketrcxI No pretendodecir,claro
est,que el propioSchankse encuentrecornprometiclo
co
estasafirmaciones.
lvlENTES,
CFI{EBROS
Y I'R()(tR\trtAS
v que se me
pcrimerlt.Supongamosque estoy encerrad,oen una habitacin
Supongamos adepropo..io.ru'un f-ajogrande de textos escr"itosen chino
esc
ri to ni habl ado'
ni
d" h"iho el c aso) que no s ch ino'
r na, ( .o- o
",
escritura china
la
reconocer
poder
y qr-reni siquiera tengo la certeza de.
japonesa
o de una
escritura
la
de
como tal, distinguinola, por ejempl,
slo
chi'a
escritura
la
m,
Para
alguno.
sel.iede garabatossin signiiicadt
despus
que
es una r"il" d" garabatoJsinsentido.Ahora bien, suponganlos
otro que contiene
" .".ibi. est" ;o de textos en chino, se me proporciona
el primero Las
con
fa'io
una serie de reglas para relacionar el sepgndo
otro hablante
cualquier
como
bien
tan
r.eglasestn en inglei v las entiendo
un conjunentre
correlacin
una
establecer
permiten
cleesta lengua. Me
"fonnal"
con
for-males.
de
smbolos
conjunto
y
otro
formales
to de srnbolos
completamente
slo quiero decir aqu qrr" p,,,e.loidentificar los smbolos
faio
po. ,tu formas. S.tpo.rgu*.rs tambin ahora que recibo un tercer
ingls,
en
otra
instr'cciones,
cle smbolos chinos i.rrio .or algunas
'ez
los dos
qlle me per-rnitencorrelacionar elementosde este tercer faio con
con
responder
cmo
de
acerca
instmven
me
primeros, v que estasreglas
que me
forrna
de
lipos
a
ciertos
forma
cierta
de
chinos
.i",ro, smblos
que
lireron proporcionadas en el tercer faio' Sin yo saber'lo,las p^el'sonas
"relato"
primerfajo,
nre diern todos estossmbolosllaman "manuscrito" al
"l'espLrestas
a las preal segundo v "preguntas" al tercero. Adems,llaman
de
y
al
coniunto
fajo'
tercer
al
lo, ,l-olos que doy en respuesta
,.t.rr"
^ ingls que
"el programa" Ahora
lo
llaman
p.opor.ionaron
iegl.s en
-
la historia un poco, imaginemos que estasperbien, sl,r para complicar
s c, nastam t in me pr oporcionan relat os en i ngls , qtle vo comprendo'
v que luego me hac' preg.ntas en ingls sobre esos relatos v vo les resp,rr-r.lorambin en ingis. Supo'gamos tambin que despttsde ttn rato
i,)gr,, ,"gui. tan bien ias instmcciones para descifl'arlos smbolos chinos
logran escribir tan bien los programas desdeun punto
,, , p.o-grrrrrradores
clevista externo -esto es,desdela perspectivade algien qlle se encuentra
ftrera de la habitacin cloncleestoy encerrado- qtte mis respuestasa las
pleguntas pr-redendistinguirse en absolttto de ias que proporcionara ttn
irablanted"l chit o. Nadieque slo obsen'aramis respuestaspodra afirrnar
qlle no hablo ni una paiabra de chino. Supongamostambin qne mis resa las preguntas en ingls son (qu dr,rdacabe) indistingrriblesde
,i-restas
ias cle otros hablantes del ingls, por la sencilla razn de que )'o sc)' tln
hablante de esta lengua. Desde el ptrnto de vista externo -el de alguien
, . uelea m is "respues tas"- , las cont est acionesa las preguntas en chi no
v . lu. preguntas en ingls son igualmente buenas. Empero, en el caso del
chino, a cliferenciadel ingls, fcr-rnulomis respuestasmediante el manejo
cle smboios forrnales no intetpretados, En lo que respecta al chino, nle
cclmporto simplen-rentecomo una computadoa; realizo operaciones de
lvfENI-ES,
CEI?LBIiOS
Y pROGR;\IIAS
S,1
ci pi o ss on ne ce s 1r t. "' o'i q "l" t' ac on tri - bu1 '"' -tt"''pt t" tn o se h a d a d o r a - operando
tttu''ttio vo entiendo ingls' estov
z-n algr-rna puru ,npott"'qtt"
fornal'
con algn proJranla
caso de .las oraciolles erl
IJLreno, entonces, qtr es lo que tengo en el
La respuesta obvia
chino?
en
.u,o de las oraciones
ingls que no tengo
"r.t"l
no tengo la ms
que
mientras
primeras'
es que s lo que significan las
Empero'
segundas
en qu conlas
cle
rnnima iclea acerca del significado
lo que fuere?
sea
mquina'
rlna
a
drselo
p,,i.u*os
,ro
siste esto y por qtr
contlnllal'
quiero
pr'"g.nta rns adelante' pues primet'o
Regresare o
"rru
c on e l ej e mp lo .
a varios estudiosos
He tenido la oporturniclad de presentar este ejemplo
parecen estar de
no
que
interesante
reiulta
cle la inteligencia artificial 1'
a ctte rd o co "nc rr l e sl ar p li .c aa de cr ra da .He o bte ni do u na a s o m b r o s a V a las ms conlunes (que
riedacl de r.plicas y a continuacin considerar
especificar iunto con sus orgenes geogr'ficos)'
comllnes
Sin embaigo, antes quiero cletener algrrnos malentendidos
produce
se
discusiones
estas
de
"con-rprer-rsiZn":
muchas
en
acerca de la
sealan
crticos
Mis
"comprensin".
palabra
la
de
un excesivo tejemaneje
que "comprensin"
comprensin;
de
clifeientes
gruo,
qrre hay
-.r.o, pi".li.udo de clos posiciones' que incluso-existen distintos
simple
r-.'o
"r.trt
ley del medio excluido
tipos y niveles .1" compr"nsin v que a menudo la
de ia forma " enenunciados
siquiera se aplica i" *ur]".o clirecta a
una simple
'i
ti en de y" ; ql l e en mu ch os c as os es u n a c ue sti n de dec i s i n 1 'n o
qrriero
puntos
estos
todos
A
y,
etctera.
r
entiende
si
.restin de hecho cle
puntos
los
que ver con
rlecir: por supuesto, por supuesJo, pero nada tienen
"comprensin" se aplica literalqtl"
iot
.la.os
.u.os
Hu'
discusin.
e'n
"tt
I]6
n,
m c n t e v c a s o s o b 'i o s e n q u e n . se a p l i ca ;
] , e st o s cl r s t i p o s cl e ca so s so n
t o d r l o q t r e n e c e s i t o p a r a e st e a r g u n r e n t o . z yo e n t i e n cl o r - e l a t's
e n i n g l s;
en menor g|ado, puedo entencler |elatos en l'r-ancs;en nren()r.gr-aclo
rn,
r e l a t o s e n a l e m n , p e r o e n ch i n o , a b so l t r t a n r e n t e r a cl r .p o r .r i tr r
p a r te , m i
a u t o m v i l v m i s t r 'r a d o r a r o e n t i e n cl e n n a cl a : e se a s'n t o
no
.- l est, i n c u m b e n c i a . c o n f i - e cu e n ci a a t r i l >u i n o s l a ca p : r ci cl a clcl e "co n r p"nr - e n si n ,,y
otros-predicados cognilivos por nredio clc nretrfirr-a.. u.uloins
r,
a alltomr'iles, surnadoras v otros artefactos,
rer-o.ada s" pr:r,"tr. co]r tales atl.ibuciones. Decimos: "la pue.t:r .sa,/;ecrrinclo rbr.il.sc,a ca.sa
clt: str celda
fotoelctrica", "la sunrador-a.scl:
t:rlttto (ertrt,rttlt,t:tjttto, (,.\(.(tl)(tz,/r,/strnrar
v restar pero no dividir", v "el tcr.nt<_rst
alo .,tt,rt.ibc
cant bios rle tt nt ttcratur_a,,.
L a | a z n p o I - l a q u e h a ce m o s e st a s a t r i L r t r ci , r n cse s L r r st l u r tr .i n t.,r - e sa n te
v
t l e n e q L l e V e r c o n e l h e ch o d e q r - r ee n l o s a r t e f a ct o s e xt e n cl e n r 6 s
tr e sl r - a
p r o p i a i n t e n c i o n a li d a d . r N r r e st r 'r sh e r l a n r i e n t a s so n e xt e n si r i n e s
cl e n u e st r o s p r o p s i t o s v , p o r co n si g u i e n t e , n o s p a r e ce n a l t r l a l a tl i Ir r i r - l e s
i l tte n c i o n a l i d a d n r e t a f r - i ca t r e n t e . Si n e n r b a r - so , a r n i
. j r r i ci o e sto s c.j e n r r l e sr r o
t i e n e n n i n g t r n a i m p o r t a n ci a l - i l o s l - i ca .El se l r l i cl o e n r l q r r e ,,,,.
- r .,".tu
a u t o n l t i c a " e n t i e n cl e i n st r t t cci o l l e s" : r p a t - t i l cl e st r ce - l cl lro to cl cl t- i ca
l to
e s d e n i n g t l n a n l a n e r a e l se r - r t i cl ocn e l c r - rre, o e n t i e n cl o i n g l s.
Si r :l se ti cl o
e n e l q t r e l a c o n r p u l a d o r a p r o g r a r n a cl a cl e Scl l a r r k c, r , r r r r - ",r ,.1l g" s
r .e - l a to s
e s s L r p u e s t a m e n l e e l se n t i d o r n e t a l ' r . i co e n r . l q u e l a
, t r .,rta r r l tl tt ti ca
e n t i e n d e 'l r o
e l s e n t i d o e n e l q u e 'o e 't i e 'cl ,
i n g l e s, l l , , r 'a l cl r .r .rl a p e n zr
d i s c u t i r - e l a s t r r - r t o .Si n e n - r b a r g o , N e u , e l l v Si l r . l o n ( 1 9 6 1 ) t - scr .i b i e r ( ) .
qrre
e l t i p o d e c o - e n i c it i n q u e a t r i b t r ve t r a l a s co n r l l u t a cl o l 'a s e s e \a ctl n r cn te
el
m i s m o q u e e l d e l o s se r e s h t r m a n , r * . M e a g r a cl a l a t . e ct i t t r clcl e e sl a a l i r .n tr _
c i n Y e s d e l t i p o q u e co n si d cr - a t . Ar g r r n r e n t a l ' q u e c sr ' ti cl e l i te a l
la
c o m p u t a c l o t 'a p r o g r a m a d a co t - t - t p t 'e n cll e
o q u e e l a u t o n r r , i l v l a sr r r n a cl o r .a ,
e s d e c i r , e x a c t a n t e n t e n a d a . L a co r r r p r . e n si r r cl c l a c, r l r l .r r ta cl ,,l t l to e s
p r e c i s a m e n t e ( c o m o m i co n r p r - e n si n cl e l a l e n r . ) p a r ci : r l . i r cr r r p l e ta ;
es nula.
P a s e n t o s a h o r a a l a s r - u l i ca s.
tvlENTES,
ClIrliFIlR(lS
Y I'R()L]R;\N1A,
permitarnos que el
Mi respuesta a la teora de sistemas es muy sencilla:
las.eglas
inclividu absorba toclos estos elementos del sistema. Memoriza
clculos
todoshace
clel libro y los bancos de datos de los smbolos chinos v
ha1'absolutamente
No
sistema.
los mentalmente. Luego, incorpora todo el
haya incorporado. Incluso poden'ros deshacerll;rda en el sistema qr'"
""
trabaia al aire lib.e' De cualquier modo'
ros de la habitacin -.rrrpo.t"iqt'e
pues no hav nada
.l-ti,to
de
I'n firtiori tampoco el sistema'
irr entiende nada
no haY modo
L.n ste que no est dentro de 1. Si l no entiende, entonces
de l'
pae
cle qr-reei sistema entienda, pues el sistema es slo una
a la
respuesta
esta
incluso
E,n realidad, me siento algo molesto pcr clar
bastante
parece
me
teora
la
1t-or-ade sistemas,.va qlle, para empezar',
chino, \a cottirrverosmil. La idea es qlle aunqlle Llna persoila no entienda
poda
manera
alguna
de
papel
de
peiacitos
de
iutrcit'L de esa p"r.orl^ -y
estllqlte
no
eiltencler chino. No me l-esulta fcil imaginar cnlo alguien,
esta
lerosmil
r.ier-abaio el dolninio cie una ideologa, podra considerar
con
conlprometidas
personas
las
iriea. Incluso as, creo que muchas cle
qr-re
as
parecido;
mu'
algo
por
decir
acabarn
la icleoioga de la l frrerie
opinin,
esta
de
una
con
acuerdo
De
adelante.
poco
ms
u.r
Siar-nos
"'ersitin
entienda
el htmbre clel ejempio de los sistemas incorporados no
",,r,q.,"
por
(porqte,
ejemplo'
qr" Iohace tln hablallte c.hino
r,liin1en el sentido
"t se refiere a restatll'antes y hambuguesas,-eic.), "eI
rr,,rsabe que el relato
real'
!r,)nrbr-een cuanto sistema cle manipulacin de smbolos forrnales"
s
i
s
t
ema
e
l
que
co
l
l
st
i
t
u
v
e
hom
br
e
d
e
l
su
bs
is
tem
a
l
]tttte
s e nt ie nd e ch i nc t. El
:
confrrndirse
debe
no
chino
para
ei
forntales
smbolos
de
nranipulacin
d,:
1. L A N P U C A DE I-OS SIS TE \ { AS ( BE R K E LE Y )
89
MENTES,CEREBROS
Y PROCIRAMAS
AS
Y PROGR,A]\
MENTES,CEREBROS
corrsecttencias
Adems, la rplica de los sistemas parecera condttcir a
que debe
concluir
de
que son independientemente abs'rds. Si hemos
entrada
de
especie
una
que
tengo
existir coglticin en m sobre la base de
pareceria
entonces
ambas'
entre
programa
v salida cl" inforttlacin 1'un
acabarn
qtre todos los tipos de subsisien-,as que no sean de cognicin
el cual mi
en
descripcin
de
ni'el
un
existe
eiemplo,
Por
,l"r-ro cognitivos.
cualqtr ier canestmagJp.ocesa informacin - eien'rplifica co.cretamente
que
no queremos
cle conlptltadora, pero considero
tidad de p.ogru*^.
sl aceptamos
Pero
1980).
(cf.
P-I1'shvn,
clecirque tiene comprensin alguna
evitar
podemos
cmo
dificil
resulta
la rpca cle los sistemas, entonces
"'er
subsisteson
etc.,
hgado,
el
corazn,
el
que
estmago,
el
la af-irmacin de
principios para
rras que .ort-rp."n.l"r-t, puesto que no hay una manera de
entiende de
chino
a decir qr_reel subsistema
distinguir qu nos
chino
sistema
que
el
-oiir",u
decir
afirmlr qu. el estmago entiende. Por cieflo,
entrada
tiene
estmago
que
el
tiene informacin cle trada y cle salicla v
constittlve una respuesta
v salicla cle alimentos v productos alimenticios no
agente -desde mi punto
del
r,ista
punto
de
el
qul
desde
a esta cuesti', 1,a
ni en el chino, pLles esta
comida
la
en
ni
informacin
existe
cle vista- no
La
lengua no es ms qlle tlna serie de garabatos carentes de significado
oios
los
en
informacin en el caso de chino se encLlentra exclusivamente
qr're les impida
de los progran-raclores y de los intrpretes, v no ha1' nada
rganos digesmis
de
salidas
entradas
las
t
.or-,siderurl.omo informacin
, ea n .
l i vo s, s i a s l t--des
en la
E l l ti m o p un to se re fie re a al g uno s a pr obl e ma s i n d e p e n d i e n l e s
tuet'te
]a.tn
Si
ia pena des'iarnos un poco pal'a explicarla.
lA [r-ler-tev
'aje
distingtrir
ha de ser unu .u,r-tucle la psicologa, entonces debe ser capaz de
Debe
son'
lo
que
no
los
de
rnentaies
Ios sistemas que son genuinamente
de
nrente
la
trabaja
que
los
sobre
principios
los
ser capaz. de isting.ritas, no
ser
no
de
menlales;
no
sistemas
los
trabajan
qure
los
sobre
oquellos
distincin
n os ex pi i ca r qu es es pe c fi c am en te m en tal en l a me n t e Y l a
jos
espectador'
del
los
o
en
entre ental )'no mentl no puede quedarse slo
si n o q r re d eb e se r i n l r'l l se ca a l os si s te n l as ; de no s e l 'a s l . c a d a e s p e c l a do. pod.u tratar a Ia gente como no mental y, por eiemplo, a los huracanes
conao menlales, si asi lo deseara. Sin embargo, muv a nlenttdo en la literatlrra sobre IA esta clistincin resulta confusa en aspectos que en el largo
plazo resultaran desastrosos para la afirmacin de que la IR es una disci"Puede decirse que
plina cognoscitiva. McCarlhy, por ejemplo, escribe:
y tener creencreencias
tienen
los
termostatos
tan sencillas conlo
r-r-rquinas
capaces
las
mqttinas
de
mayora
de
la
caracterstica
Llna
parece
ser
cias
cle solucionar problemas" (Mccarthl." 1979). Quien piense que la lA tiene
la probabilidad de ser una teora de la mente debe ponderar las implicaciones cle ese comentario. Se nos pide aceptar como descubrimiento de la
90
[.
t
I
E
t
r
I
,t
l
,
t
t
r.
tt
F
9I
2. LA R p L r cA
D E LR o B o t ( yn r _ e )
IV IE N TFSC, ]E R FB R OS
Y P R O(IR A ]\J A S
MENTES,CEREBROSYPROGRAMAS
que
S )u pongam os c ue se d is ea un pro gr ama gu c ll o repre sent a l a i nforrnaci n
t ..r i emos ace rc a c le l nr ur id o, co mo s er a l a in fbr rnac i n d e l c sl i bretos de Schank,
s i s que si m ul a l a sec tr enc i a l -ea l dc em is i ones ne ur ort al es cn l as si napsi s del
c er ebt. o d e n n hal la l te dei c hi no cu ando c or nr renc { e r r :l al os en chi no v otrece
r ' e-s pues tasac erc a de s tos . I- a m qui na ace pta l os re la tos ett chi nrr y l as pregutrtl i s s obre el l os a modc , de en tra da: s i mul a la e st r-u ct ur a fr rmal de l os cerebros
c lr i nos r eal es al p roc es ar l os r el atos t ofr ec e re s pu es ta .s en chi no a manera de
s al id a. Pod erno s in cl us o im agi nar qr re la m q ui na no oper a con Ll n sol o pr-ograrn a s c' ri al , s i no con to cl o un co n- iu nto rl e pro gr amas qu e operan en paral el o, de
l r tni s ma maner a en que sup ues la me nte r) per an l os c er ebr -os humanos real es
DE cEREBRos(Br'nr-elr'v Y [4ir)
.3.Ln nplIcA DF,I-sIMUI-ADoR
92
93
casotenclramos
queafirnrarqLrela mquinaha comprencliclcl
y si
l.s relrt.s.
nos negamosa decirlo,noestar'armos
tnrbinn"guri.l,,quc los rrabla'tesdel
chino entiendenlos relat.s?En el niverde las
srnapsis,
q' serao p.dr.aser
diferenteentreel programade la con-rputadora
1,cl
dcl ce-rebl.crrino?
'rogranla
Antes de contradecir esta rp[ica,nre gLrstar-a
haccr rrn parntesispara
anotar que se trata de una rprica extraa para
un partidari. de ra interigenciaartificial (o del funcionalismo,
etc.):1,op"r,rt qtre Ia idea clela rR
fuerte radicaba en qtre no necesitamossabe'
cino ^ftrncio.a er cel.ebro
para saber cmo frrnciona ra l-rente.
La hiptesis firndanie'tal, . as lo
crea yo, es que existeln nivel cle ,peraciones
mentales qtre cc,r]stade
pocesosde cmpr,rtosobre los eremenios
fornralesque constitrr'en la esen_
cia de lo mental .','que ptreclelle'arse a cabo
,"1, i,,, ili;;;;
rip.s cle
procesoscerebralesdel mismo modo que ""
cuarcuier.p,',,gr.onro
iiu:..,.,rp,,tadorapuede funcionar en distinros/tardwares
de comruraclor-a.
segir' ras
suposicio'es de la n fuerle, ra mente es
crelcerebro ro que er
programaes respectoderhardruarey, por 'especto
consigiien{e,es posible entender
la mente sin incurrir en el n'rbito lo ,-r".rrofisiologa.
si p^,-o-t',u.",,o
tu'leramos que saber cmo traba.iael cereb.o,
n, tenclr-aaur., o.r,p,,r.rroa
de.ella.Sin embargo, aLlnctrando se encrentra
tan pr-oximarllrr'cionamiento dei cerebro todar'a no es suFiciente
para procltrcir compr.ensin.
Para'er esto ms claro, imaginemos qLre
en li,gu. e .,., honrbr.ji'o'olin_
geen una habiracinrevor'iencrosmoros,
tenenlos,n hrmbre orerancro
un glupo complejo de pipas de agua conectacras
c:o'r'lvtrlas.cr-rarrcro
recibelos smbolos chinos, consultien el programa,
escr.ttoen i'gls, cnles
vlvulasdebe encender o apagar. cacra coiexi'clc
agua,,o.i]"rp,,,.,.r",.
una sinapsis en el cerebro chino todo el
sistena est cliseiraclocle lal
r
maneraqr-re,
despr-rs
de todos los "encencricros"
corrector, d".i., espus
deponer en funcionamiento tocrosrosgr-ifos
",
.orr"sponclientes,
rasrcspuestasen chino brotarn a la salida clela ser-ie
ctepipas.
A hora bi en, dnde est . i a_co m p r e n si n
e n e st e si st e m a ?A cept a el
.
chi no como entrada, si m ur a l a e si r u ct r r - a
f o r - n r a lcr e l a s si napsi s r l el
cerebrochino l'entrega chino como salicla.
Sin errrbargo,er homr.eciertamenteno entiende chino, ni tanrpoco lo
hacen ras pilas .r" ug.,^, .i ,,o.
sintiramostentados a adoptar el punto cre
a mi'lrricio a6srrrdo,de
'ista,
qr-re
de alguna manera Ia collunciiz de hombr",
plpu, i" ;;.,;.;,rpr""_
de;recordernosque en prinr:ipio er hombre puecre
inter-narizarla est^rctura formal de 1aspipas.de agua y rearizar en
su
imaginacin
tocroslos
"encendidosneuronales".
El prolema con er simurador del cerebro es
que simula aspectosequi'ocados cleste.Mientras
lnicame'te sim.le la
estructura formal de la secuenciacle "encendidos"
neuronales en las sinapsis,no habr simulado lo que realmente es
impor-tanteacer-cader ce-
IVENTES,
y pROCJtAMAs
CEREBROS
MENTES,CEREBROSYPROGRAN{AS
(BERKELEYY STANFORD)
4. LA RPLICADE I-A COMBINACIN
94
95
atriblriramos intencionalidacl sobre toclo si strpir-anrosque posee Lrn programa l-ormal. ste es pr-ecisarnenteel ptrnto qrre trat en rrri rplica anterior
a la objecin 2.
Sr,rpongamos que sabemos q.e el comportarrie'l'del
rob.t obeclecepor
completo al hecho de que un hombre recibe en su interior-sn-rbolosfor-males
no inter-pretados desde los receptores sensoriales del r-otrotv enva smbolos
forrales no interpretados al mecanisrncl rnotol'del r-obot, r clrreel hombre
realiza este manejo de los srbolos segrlrntrna ser-iedc'r-eglas.Supongarnos,
adems, que este individuo no sabe nacla acer-cadel robot Y que lo rnico
que sabe es cules oper-acionesrealizar con crrles smbolos sin significaclo.
En ese caso consideraramos qtre el robot es un lnueco rnecrrico irrgenioso.
La hiptesis de que el robot tiene mente r-estltar-a
ent()nces inlrrsri[icada e
innecesaria, puesto que ya no habr'a ninguna razirn para atribtrir.le intencionalidad al robot o al sistema del cual forma parte (exc-epto,pol-sLlpuesto,
la intencionalidad del hombre en el manejo cle krs srnbolos). El niar-rejode
smbolos forrnales contina, los datos de entlacla 1'de saliclase con.esponclen
con-ectamente, pero el rnico foco real de intencionalidad es el lrombre y l
n o s a b e n a d a d e l o s e st a d o s i n t e n ci o n a l e s p e r l i n e n t e s; n o l e , p o r .e j e m p l o ,
lo que entra en los ojos del robot; noriette la tttettt:itittcle rnoverel brazo
del robot y no conry)rendeninguna de lrsobserwaciones hccllas al robot o
por el robot. Ahora bien, por las razones anteriolnlenre exprrestas, rampoco
lo hace el sistema del cual el hombre y el robot fonlan par1e.
Para considerar este pllnto, comparemos este caso con otros en los que
nos parece completamente natural atribuir intencionalidad a los riernbros
de alguna otra especie de primates, como sinrios
.v nronos, .y a rtnimales
domsticos como los perros. Las razones de qtre ell'nos pu,:"..., natural
son, a grandes rasgos, dos: no podemos clarle sentido al compo|tamiento
del animal sin atribuirle intencionalidad, y podemos ver qlle las bestias
e s l n h e c h a s d e m a t e r j a l si m i l a l a l n r e st r o ( e so cs r r n o j o . e so e s r r r r a r r a r .i z,
s t a e s s u p i e l , e t c .) . D a d a l a co h e r e n ci a cl e l co m p o r t a m i e n t o d e l a n i m a l
y'la suposicin de que est hecho de la misma materia catrsal, sLlponemos
que el animal debe tener estados mentales que motiven su comportarniento
y que estos estados mentales deben ser producto cle mecanismos hechos
de esta materia que es como la nLlestra. No cabe cluda de que haramos
suposiciones similares acerca del robot, a menos de clue tuvir-amos alguna
razn para no hacerlo, pero tan pronto como supiramos que su comportamiento fue el resultado de Lln programa formal y que las propie<1ades
causales reales de la sustancia fsica eran in-elevantes, abandonaramos la
suposicin de intencionalidad (r,anse var-ios atrtores, 1978).
Existen otras dos respuestas a mi ejemplo que surgen a menudo (y por
ello vale la pena considerarlas), pero que en realidacl no comprenclen el
sentido de mi argumento.
(IFIIEBROS
MENTES,
Y I'ROClRAfvf
AS
.Io docua ntous ted ar gume ntap re sup onequ el at s ll oti et l equer' erconconl pu'
pero resulia que ste es precisar-nente el estado
tadoras analgicas u?igi,ul"..
procesos causale-s que usted
actual cle la tecnologa. Cualesquiera que sean los
i
nte
nci
on
al
id ad (s uponi endo que tenga
af i nrr a que so n ese nci al es par a que e xi st a
c
onst
r
ui
r d is posi ti vos que cuenten
de
c
apa
ces
s
erem
os
la
rga
l
aa
us te d r az n),
al
ti f ic i al . D e modo que sus
y
ser in tei g en ci a
c on es to s pr oce sos .r ..1" ,
" so
de la i ntel i genci a arti fi ci al
ca
pa
ci
dad
la
a
r
efi
er
en
se
modo
ar su ment os de ni ng n
paia producir y explicar la cognicin'
(BERKELEY)
6. LA RPLICA DE LAS MANSIONES N,ILTIPI-ES
(Y A LE )
5. L A R PL ICA DE LA S OTR A S M E NT ES
9Z
MENTES,CEREBROS
Y |ROURAI\\S
N,IENTES,CEREBROSY PROGRANIAS
98
l-ro-u."
raintencionaricracr,
versetcilmente que no adquiere
ruede
intencionalidad adicional al
menr.r-izar
el programa, pues el hecho;"
," enseachino.
programa es puramente
""
-".,.';;i;uiformal,
per-olos estadosintencionares
-^,t^:t-*o"'"el
no son formales de esemodo.
Se definen en trminos de str contenido,
no de su forma' La creenciade
que
como figura fbrmar, sino como ".ta'or".rao, por e jempro,no se crefine
.i".ro .o.rr"nido mental con concliciones
de satisfaccin'con sentido d"
Searre, r979a)v sirnirares'De hecho' la creencia como"d";;;.i;"i"5u.g
tal no tiene srq.lera una ligura for.mar
en
estesenti do si ntcti c opuest o qu e
u n a r o l u y i u _ i r - " . r i " " . , " " 0" " a" .
recibir un nmero indefinido d;
sinrcricasdi[erentes en los
distintossistemaslingsticos. ".;;;i";s
rercero, como va mencion antes, los
estadosy sucesosmentales son
delingls
poseaerrieo,1;i1:nrila".""i""o"*
causuresqu""r;;;;;:'r'*1'"ti;:iH.il"'ffi:ru:,ruil.,,.
::*:H*l::"".:I':ilql*ll'o!'l'Jly::"':,J::'"
:1,:n:'::1,i1,""'onotingtiLe';;i
illf"c"";i;l'd:J{l;:?:Xll:llilffi
kT,,:i;:::ff::,?;:"..j'ff
-
neurofis
iotoc"
d;i;.,."b,.-.T;ffi
;",',:l.J::::i:ffll:fi:Hl:';:.::
la afirmacin de que lu
.i'..,Iu.'i; il;:;
ser duplicacin. La ciisrincin
entre el programa v su.re,alizaci'";;i;;;,'crtvare
parece ser.par-arera
distincin entre el nir,'elde
a ra
l"r
n-,"nroi"s'c,l .i'ei cie las operacionescerebrales.y si podam"r
"p"t".1.r.,",
"r.]:iui. er niver cre,rer.acio'es
talesconro un progra.maiormal,
nren_
clescr_ibir.,
al parecer,
i o esenci alacercade l a m enl e. i n ";;;;;;Ir"clamos
in.,;;;i;.
:i1-,0".",;;;.isamenter";,;;;i,;:;l;T::,:,.i;::',11i;:il.i:,:
Esa caracterst,ica de la
l _la distinci
paraentend"..hi.,jo
d:',..,.
q.," f,',,g.ou,n
r.,,,,,oll,o
,".,,u
i,,r",.,.io_
::?,::HXfffil, : taade
"t e.ic'mplo,
nada,por
. r.."p".i.r.Ji"t
MENTES,
CEREBROS
},PROCRAN{AS
99
El pr-opsito del ejemplo
cre la habitacin china f.e
intentar.crenrostrar.
esto al mosrrar que tan pr.onro
.on.'o i,.t,o.lrrcimos ;l;;;;.;il,*ema
realmente tiene intencionalidad
que
(un hontbre) y lo pt.ograntantos
con el
Y PROGRAIV{AS
MENTES.CEREBROS
100
1I)I
plo, en problemas de aritmtica o cuando leen
r,,respondenpr.eguntasen
torno a un relato. Ms bien, lo qtre hace la
computador-aes n-ia.ipular
smbolosformales. El hecho de q.,e el programador
er i'trprete de ros
.o-o"tadora r-rtiticenri-iolo, para-vreernplazar.
obJeros
fj*:*:
9: algo
]? que
esrpor compieto ftrera del alcancecie1..con,puta_
:::::ii?.:s
qora.Keprto,ra computadora
tiene sintaxis pero no semntica.En co.se_
cuencia,si
tecleaen ra computacrora"2 ms 2 es igual a?",
escribir
"4".Pero la 'sted
computadora no tiene ni idea creqtre "4" significa
4 o ctrarquier
otracosa'Y la cuestinno es que carezcacleargr-rna
info"rmaci.desegr_rncro
orden acerca de la interpretacin cres's sriboros
crepri'.rer:o,.t"r-,,,r.ro
quesus smbolos de primer orden no tienen
ningrrna interpr.etacinen lo
que a la computadora se refiere. Todo ro q,e
tLne ra co'rptrradora son
ms smbolos. La introduccin cle Ia nocin cle "procesaminto
de inrorma_cin"
causa,por consiguiente,un clilema:o bien const.limos
la noci.
"procesamiento
de
de infrmacin" cletal ,-,.,un"ro
qtre irnpliqtre intencionalidadcomo parte del proceso o no lo hacemos.
En er primer. caso, la
computadoraprogramada no procesain[or.maci.;
slo maniptrla sr.bo_
los formale^s.En el segundo .u.rt,,,entonces,pese
a qr-rela comprrtadora
procesai nformaci n, ni cam ent e l o r r a ce
e n e l se n t i cl o q , , " i o hacen
Ias sumadoras, las mquinas cle escribir, los
"r
estmzrgos,
ros ter-mostatos,las tormentas v los huraca.r".; u ,ub"., c.entan
con un niver credesel que podemosdecirq'e aceptaninfolrnacin portrn
extremo,
:^nl_t^t_u1""
ta lranslorrnan v producen inforntacin de
salida. Sin entLrar_g(),
en esle
casodependede los obsenadores externos interpretar
la entraclav s:rrida
comoinfornacin en el senticloorcrinario.y no.sc
rirriiit., ulgunaentre la computadora y el cerebroen trnrinos"rt.r-,r".
de cualqrrier.sinlilitrcl
delprocesamientode informacin.
En.segundolugar, en gran pade de la la hav nn
concluctisnrou ()per_a.
cionalismoresidual.puesto que las computacloias
aclecunclamente
pr( )gr.amadaspueden exhibir patrones de entiada v salicla
similares a los cr,,,los
sereshumanos, podranroscaer e. la tentacincreposttrlar
qlre rosestados
mentalesde la compritadora son similares a los
estados.nentalesclelhom_
Dre.r.mpero, una vez que \emos que es posible
tanto conceptual conto
empricamenteque r-rnsistema contenga capacidacles
lrtrma'^s en arsr^
camposin que de ningn modo posea intencionaliclacl,
poclrem".
esteimpulso. Mi sumadora de escritorio tiene capacicracr
";;.-;;
clecalcrrlar.,
pero
carecede intencionalidad, y en este artcuro he intentaclo
cren.rostrar
cue
un sistemapoda tener capacidadesde entracla
v salida cle irformacilr
queduplicara' las de un hablante nativo clel chino
y seguir sin errtencler
chino,sin impoftar cmo estuvieraprogramada. Laprba
de Turing e.s
tpicade la tradicin en el sentido deq.rJ es cles'ergonzaclamente
conductistay operacionalistay consideroque si los estudiosos
clela ln repudiaran
N,IENTES,
CEREBROS
Y PROCiAN4AS
Y PROGRAI\IAS
CEREBROS
lv'fENTES'
gran
el operacionalismo' se eliminara
por completo del conductismo y
y duplicacin'
i" confusin entre simulacin
;;;;"
re.iiduai se ana a la fona reoperacionalismo
ste
En ter:cer lugar,
la supola ln ftrerte slo cobra sentido dada
siclual cle dualismo; "1"!ft"
imporla'
no
cerebro
el
refiere'
se
la mente
sicin dualista de que, en lo que a
son ios
r.t,-t.lonalismo), lo q.e impoa
Iln la r, fuerte (asi.;;;J,-t
de
"l
mquinas;
cle su realizacin en
programas, y stos.rot'i"a"p"tt<lientes
realiz.ado
ser
podra
el mismo programa
en io que l.,;;";;ere,
"electrnica' una sustancia mental car-tesianao un espritu
'echo,
ir".
sorprendente clue he hecho
""" -aq"ina
hegeliano. EI desc.brimiento ms
clei mundo
estudiosos de la IA estn
los
qtt" muchosde
al analizar estas cuestiott"' "t
mentales humanos
fenmenos
los
que
lrastante molestos .on.-mi t"u cle
de los cerebros hureales
fisicoqumicas
puedan clepender a" i'opi"aucles
de esto,
se piensa un minuto acerca
manos verdaderos. No obstante, si
de la
prol'ecto
el
que
sorprendido' l'a
puede verse qlle no debera haberme
forma
acepte'alguna
que
se
a menos
tA fllerte no tiene posibilidacl alguna'
meen reproducir v explicar 1o mental
col-lsiste
provecto
EI
cle dualismo.
sea
slo
pero a menos que la me-nte no
ciiante el cliseo de programas'
inclePend':1':i::::t;t"T;.",ono.::
conceptual ,i.to tut'tit'empricamente
t"lil1"
el programa
porque
pt'ovecto'
r'iu tuu.r" a cabo el
"t qlre la mente es
crea
qtle se
c1ecualquier realizacin' A menos
;;;;,;
empricamente -r'ersin
como
.on."ptual
*,o
."."briseparable d"l
1o mental e.scribiendo
reproclucii
[uerte <]edttaiismo- no se pttecleesperar
de los cere'
ir-idependientes
ser
deben
r, con-iendo ot'or.uttt', , 1"" ett"t
particurares de ejempli[icacin concreta'
br.osde cualesquier-a ot.us for-us
op"tutiones de cmprrto sobre
Si las operaciones mentales consisten "'-t
qlle carecen de conexiones lntere'
sr-nbolos fol-males, se decltrce entonces
102
IO3
aE stot'endeuda
con l as muc hs i mas pers onasque anal i z -aronc s tasc ues ti onc sv ugl ac l ez c r.r
l a paci enci aque mostraro n para s uperar mi i gnoranc i a en torno a l a i ntc l i gt:nc i aal ti l i c i al Me gustaa en paflicular dar las gracias a Ned Block, Hubert Drevfrrs, John Harrgcland,
RogerSchank, Robe Wilensky )'Tery Winograd.
Phi l osopl i cal Perspec i v es i n A rti fi c i al l rttel l i gertc e, A tl anti c Il i ghl and, N . .I., H trmani ti es P ress, pp. l 6l -195.
N ervel l ,A. (1979), "P hysi c i al S v mbol S v s tenrs ", P one-nc i a prc s c rrtada c n l rC i rf t' r' c nci a sobre C i enci a C ogni ti v a en La J ol l a, publ i c ac l o pos tel i ormentc en (.' r,,,l rir'i,
Sci ettce,4, 1980, pp. 135-183.
N ervel l , A. r'Si mon
H . A . (1963), "GP S - A P x rgr' :rm that S i rnul rtc s [{ rrma.n
Thor-rght",en E. A . Fe i gc nbaum v J . A . Fel dnran (c ds .), C ortttuters arttl 7' l tc tttgtl t,
BreLrocnAr
N,IENTES,
CEREBROS
Y PIIO(IIAJIIAS
MENTES,CEREBROSYPROCRAMAS
IO4
105
MARGARETA, BODEN