1.

El juego de imitación

Propongo considerar la pregunta: "¿Pueden pensar las máquinas?" Esto debería comenzar con las
definiciones del significado de los términos "máquina" y "pensar". Las definiciones pueden
enmarcarse para reflejar, en la medida de lo posible, el uso normal de las palabras, pero esta
actitud es peligrosa. Si el significado de las palabras "máquina" y "pensar" se encuentran al
examinar cómo se usan comúnmente. es difícil escapar a la conclusión de que el significado y la
respuesta a la pregunta, "¿Pueden pensar las máquinas?" debe buscarse en una encuesta
estadística, como una encuesta de Gallup. Pero esto es absurdo. En lugar de intentar tal definición,
reemplazaré la pregunta por otra, que está estrechamente relacionada con ella y se expresa en
palabras relativamente inequívocas.

La nueva forma del problema se puede describir en términos de un juego que llamamos el "juego
de imitación". Se juega con tres personas, un hombre (A), una mujer (B) y un interrogador (C) que
pueden ser de cualquier sexo. El interrogador se queda en una habitación separada de los otros
dos. El objetivo del juego para el interrogador es determinar cuál de los otros dos es el hombre y
cuál es la mujer. Él los conoce por las etiquetas X e Y. , y al final del juego dice "X es A e Y es B" o "X
es B e Y es A." El interrogador puede formular preguntas a A y B por lo tanto:

C: ¿X me dirá por favor la longitud de su cabello?

Ahora supongamos que X es realmente A, luego A debe responder. Es un objetivo de A en el juego

tratar de hacer que C haga la identificación incorrecta. Su respuesta podría ser:

"Mi cabello está cubierto de tejas, y los hilos más largos tienen alrededor de nueve pulgadas de
largo".

Para que los tonos de voz no ayuden al interrogador, las respuestas se deben escribir, o mejor aún,
escribir a máquina. El arreglo ideal es tener una teleimpresora que se comunique entre las dos
salas. Alternativamente, la pregunta y las respuestas pueden ser repetidas por un intermediario. El
objetivo del juego para el tercer jugador (B) es ayudar al interrogador. La mejor estrategia para
ella es, probablemente, dar respuestas veraces. Ella puede agregar cosas como "Yo soy la mujer,
¡no lo escuches!" a sus respuestas, pero no servirá de nada ya que el hombre puede hacer
comentarios similares.

Ahora nos hacemos la pregunta, "¿Qué pasará cuando una máquina tome la parte de A en este
juego?" ¿El interrogador decidirá erróneamente con tanta frecuencia cuando el juego se juega de
esta manera como lo hace cuando el juego se juega entre un hombre y una mujer? Estas
preguntas reemplazan nuestro original, "¿Pueden pensar las máquinas?"

2. Crítica del nuevo problema

Además de preguntar: "¿Cuál es la respuesta a esta nueva forma de la pregunta?", Uno puede
preguntar: "¿Es esta nueva pregunta digna de ser investigada?" Esta última pregunta la
investigamos sin más preámbulos, reduciendo así una regresión infinita.
El nuevo problema tiene la ventaja de trazar una línea bastante clara entre las capacidades físicas
e intelectuales de un hombre. Ningún ingeniero o químico afirma ser capaz de producir un
material que es indistinguible de la piel humana. Es posible que en algún momento esto pueda
hacerse, pero incluso suponiendo que este invento esté disponible, deberíamos sentir que no
tenía sentido tratar de hacer que una "máquina de pensar" sea más humana vistiéndola con esa
carne artificial. La forma en que hemos establecido el problema refleja este hecho en la condición
que impide que el interrogador vea o toque a los otros competidores o escuche sus voces. Algunas
otras ventajas del criterio propuesto se pueden mostrar mediante preguntas y respuestas. Así:

P: Por favor, escríbame un soneto sobre el tema del Puente Forth. R: Cuente conmigo en este. Yo
nunca podría escribir poesía.

P: Agregue 34957 a 70764.

R: (Pausa unos 30 segundos y luego da como respuesta) 105621. P: ¿Juegas al ajedrez?

A: Sí.

P: Tengo K en mi K1, y no hay otras piezas. Solo tiene K en K6 y R en R1. Es tu movimiento. ¿A qué
juega?

R: (Después de una pausa de 15 segundos) R-R8 mate.

El método de preguntas y respuestas parece ser adecuado para la introducción de casi todos los
campos de la actividad humana que deseamos incluir. No deseamos penalizar a la máquina por su
incapacidad para brillar en competiciones de belleza, ni para penalizar a un hombre por perder en
una carrera contra un avión. Las condiciones de nuestro juego hacen que estas discapacidades
sean irrelevantes. Los "testigos" pueden presumir, si lo consideran conveniente, todo lo que
quieran sobre sus encantos, fortaleza o heroísmo, pero el interrogador no puede exigir
demostraciones prácticas.

El juego tal vez pueda ser criticado sobre la base de que las probabilidades se pesan demasiado en
contra de la máquina. Si el hombre intentara y fingiera ser la máquina, claramente sería una
muestra muy pobre. Él sería entregado de inmediato por la lentitud e inexactitud en la aritmética.
¿No pueden las máquinas llevar a cabo algo que debería describirse como pensar, pero que es
muy diferente de lo que hace un hombre? Esta objeción es uno muy fuerte, pero al menos
podemos decir que si, sin embargo, se puede construir una máquina para jugar el juego de
imitación de manera satisfactoria, no necesitamos preocuparnos por esta objeción.

Se puede instar a que, al jugar el "juego de imitación", la mejor estrategia para la máquina sea
posiblemente algo más que la imitación del comportamiento de un hombre. Esto puede ser, pero
creo que es poco probable que haya un gran efecto de este tipo. En cualquier caso, no hay
intención de investigar aquí la teoría del juego, y se supondrá que la mejor estrategia es tratar de
proporcionar respuestas que, naturalmente, daría un hombre.
3. Las máquinas involucradas en el juego

La pregunta que presentamos en 1 no será completamente definitiva hasta que hayamos

especificado lo que queremos decir con la palabra "máquina". Es natural que deseemos permitir
que se use todo tipo de técnica de ingeniería en nuestras máquinas. También deseamos permitir la
posibilidad de que un ingeniero o un equipo de ingenieros pueda construir una máquina que
funcione, pero cuya forma de operación no puede ser descrita satisfactoriamente por sus
constructores porque han aplicado un método que es en gran medida experimental. Finalmente,
deseamos excluir de las máquinas a los hombres nacidos de la manera habitual. Es difícil enmarcar
las definiciones para satisfacer estas tres condiciones. Uno podría, por ejemplo, insistir en que el
equipo de ingenieros debería ser de un solo sexo, pero esto no sería realmente satisfactorio, ya
que probablemente sea posible criar a un individuo completo a partir de una sola célula de la piel
(por ejemplo) de un hombre. Hacerlo sería una hazaña de la técnica biológica que merece el
mayor elogio, pero no estaríamos dispuestos a considerarlo como un caso de "construcción de una
máquina de pensar". Esto nos lleva a abandonar el requisito de que se debe permitir todo tipo de
técnica. Estamos más dispuestos a hacerlo en vista del hecho de que el interés actual en
"máquinas pensantes" ha sido despertado por un tipo particular de máquina, generalmente
llamada "computadora electrónica" o "computadora digital". Siguiendo esta sugerencia, solo
permitimos que las computadoras digitales participen en nuestro juego.

Esta restricción parece a primera vista ser muy drástica. Intentaré demostrar que no es así en
realidad. Para hacer esto, se necesita una breve descripción de la naturaleza y las propiedades de
estas computadoras.

También se puede decir que esta identificación de máquinas con computadoras digitales, como
nuestro criterio para "pensar", solo será insatisfactoria si (contrariamente a mi creencia), resulta
que las computadoras digitales son incapaces de dar una buena muestra en el juego. .

Ya hay una cantidad de computadoras digitales en funcionamiento, y se puede preguntar: "¿Por

qué no probar el experimento de inmediato? Sería fácil satisfacer las condiciones del juego. Se
podrían usar varios interrogadores y compilar estadísticas para mostrar con qué frecuencia se dio
la identificación correcta ". La respuesta corta es que no estamos preguntando si todas las
computadoras digitales funcionarían bien en el juego ni si las computadoras actualmente
disponibles funcionarían bien, pero si hay computadoras imaginables que harían bien. Pero esta es
solo la respuesta corta. Veremos esta pregunta bajo una luz diferente más adelante.

4. Computadoras digitales

La idea detrás de las computadoras digitales se puede explicar diciendo que estas máquinas están
destinadas a llevar a cabo cualquier operación que pueda realizar una computadora humana. Se
supone que la computadora humana debe seguir reglas fijas; él no tiene autoridad para desviarse
de ellos en ningún detalle. Podemos suponer que estas reglas se suministran en un libro, que se
modifica cada vez que se le asigna un nuevo trabajo. También tiene un suministro ilimitado de
papel en el que hace sus cálculos. También puede hacer sus multiplicaciones y adiciones en una
"máquina de escritorio", pero esto no es importante.

Si utilizamos la explicación anterior como una definición, estaremos en peligro de circularidad de

argumento. Evitamos esto dando un bosquejo. de los medios por los cuales se logra el efecto
deseado. Por lo general, se puede considerar que una computadora digital consta de tres partes:

(i) Tienda.

(ii) Unidad ejecutiva.

(iii) Control.

La tienda es una tienda de información, y corresponde al papel de la computadora humana, ya sea

este el papel en el que hace sus cálculos o aquel en el que se imprime su libro de reglas. En la
medida en que la computadora humana haga cálculos en su cuenta, una parte de la tienda
corresponderá a su memoria.

La unidad ejecutiva es la parte que lleva a cabo las diversas operaciones individuales involucradas
en un cálculo. Lo que estas operaciones individuales son variarán de una máquina a otra. Por lo
general, se pueden realizar operaciones bastante largas, como "Multiplicar 3540675445 por
7076345687", pero en algunas máquinas solo son posibles algunas muy simples, como "Anotar 0".

Hemos mencionado que el "libro de reglas" suministrado a la computadora es reemplazado en la

máquina por una parte de la tienda. Luego se llama la "tabla de instrucciones". Es el deber del
control ver que estas instrucciones se obedezcan correctamente y en el orden correcto. El control
está construido de tal manera que necesariamente sucede.

La información en la tienda generalmente se divide en paquetes de tamaño moderadamente

pequeño. En una máquina, por ejemplo, un paquete puede constar de diez dígitos decimales. Los
números se asignan a las partes de la tienda en las que se almacenan los diversos paquetes de
información, de forma sistemática. Una instrucción típica podría decir-

"Agregue el número almacenado en la posición 6809 al de 4302 y coloque el resultado

nuevamente en la posición de almacenamiento posterior".

Huelga decir que no ocurriría en la máquina expresada en inglés. Lo más probable es que se
codifique en una forma como 6809430217. Aquí 17 dice cuál de los varios posibles las operaciones
se realizarán en los dos números. En este caso, la operación e) es la descrita anteriormente, a
saber, "Agregar el número". Se notará que la instrucción lleva hasta 10 dígitos y forma un paquete
de información, muy cómodamente. El control normalmente tomará las instrucciones para ser
obedecido en el orden de las posiciones en las que se almacenan, pero ocasionalmente una
instrucción como

"Ahora obedezca las instrucciones almacenadas en la posición 5606, y continúe desde allí" pueden
encontrarse, o de nuevo
"Si la posición 4505 contiene 0 obedezca a continuación la instrucción almacenada en 6707, de lo
contrario, continúe recto".

Las instrucciones de estos últimos tipos son muy importantes porque hacen posible que una
secuencia de operaciones sea reemplazada una y otra vez hasta que se cumpla alguna condición,
pero al hacerlo obedecer, no nuevas instrucciones en cada repetición, pero las mismas sobre y
otra vez Para tomar una analogía doméstica. Supongamos que mamá quiere que Tommy llame al
zapatero todas las mañanas en su camino a la escuela para ver si sus zapatos están acabados,
puede volver a invitarlo todas las mañanas. Alternativamente, puede levantar un aviso de una vez
por todas en la sala que verá cuando se vaya a la escuela y que le pida que llame por los zapatos, y
también que destruya el aviso cuando regrese si tiene los zapatos con él. .

El lector debe aceptar como un hecho que las computadoras digitales pueden construirse, y de
hecho han sido construidas, de acuerdo con los principios que hemos descrito, y que de hecho
pueden imitar muy de cerca las acciones de una computadora humana.

El libro de reglas que hemos descrito que utiliza nuestra computadora humana es, por supuesto,
una ficción conveniente. Las computadoras humanas reales realmente recuerdan lo que tienen
que hacer. Si uno quiere hacer que una máquina imite el comportamiento de la computadora
humana en alguna operación compleja, uno tiene que preguntarle cómo se hace y luego traducir
la respuesta en forma de una tabla de instrucciones. La construcción de tablas de instrucciones se
describe generalmente como "programación". Para "programar una máquina para llevar a cabo la
operación A" significa colocar la tabla de instrucciones adecuada en la máquina para que haga A.

Una variante interesante de la idea de una computadora digital es una "computadora digital con
un elemento aleatorio". Estos tienen instrucciones que implican tirar un dado o algún proceso
electrónico equivalente; una instrucción de este tipo podría ser, por ejemplo, "Tirar el dado y
poner el número resultante en la tienda 1000". Algunas veces se describe que una máquina así
tiene libre albedrío (aunque yo no usaría esta frase yo mismo), normalmente no es posible
determinar observando una máquina si tiene un elemento aleatorio, ya que un efecto similar
puede ser producido por dispositivos tales como hacer las elecciones depende de los dígitos del
decimal para.

La mayoría de las computadoras digitales reales solo tienen una tienda finita. No hay dificultad
teórica en la idea de una computadora con una tienda ilimitada. Por supuesto, solo una parte
finita puede haber sido utilizada en cualquier momento. Del mismo modo, solo se puede haber
construido una cantidad finita, pero puede imaginar que se agreguen más y más según sea
necesario. Estas computadoras tienen un interés teórico especial y se denominarán computadoras
de capacidad infinitiva.

La idea de una computadora digital es antigua. Charles Babbage, profesor Lucasiano de

Matemáticas en Cambridge desde 1828 hasta 1839, planeó una máquina de ese tipo, llamada
Motor Analítico, pero nunca se completó. Aunque Babbage tenía todas las ideas esenciales, su
máquina no era en ese momento una perspectiva tan atractiva. La velocidad que habría estado
disponible sería definitivamente más rápida que una computadora humana, pero algo así como 00
veces más lenta que la máquina Manchester, una de las más lentas de las máquinas modernas. El
almacenamiento debía ser puramente mecánico, con ruedas y tarjetas.

El hecho de que Babbage's Analytical Engine fuera completamente mecánico nos ayudará a
deshacernos de una superstición. A menudo se atribuye importancia al hecho de que las
computadoras digitales modernas son eléctricas y que el sistema nervioso también es eléctrico.
Como la máquina de Babbage no era eléctrica, y dado que todas las computadoras digitales son en
cierto sentido equivalentes, vemos que este uso de la electricidad no puede ser de importancia
teórica. Por supuesto, la electricidad generalmente entra en juego cuando se trata de señalización
rápida, por lo que no es sorprendente que la encontremos en ambas conexiones. En el sistema
nervioso, los fenómenos químicos son al menos tan importantes como los eléctricos. En ciertas
computadoras, el sistema de almacenamiento es principalmente acústico. La característica de usar
electricidad se ve así como una similitud muy superficial. Si deseamos encontrar tales similitudes
deberíamos tomar más bien analogías matemáticas de la función.

5. Universalidad de las computadoras digitales

Las computadoras digitales consideradas en la última sección se pueden clasificar entre las
"máquinas de estado discreto". Estas son las máquinas que se mueven mediante saltos o clics
repentinos de un estado bastante definido a otro. Estos estados son lo suficientemente diferentes
como para que la posibilidad de confusión entre ellos sea ignorada. Estrictamente hablando, no
hay tales máquinas. Todo realmente se mueve continuamente. Pero hay muchos tipos de
máquinas que pueden considerarse rentables como máquinas de estado discreto. Por ejemplo, al
considerar los interruptores para un sistema de iluminación, es una ficción conveniente que cada
interruptor debe estar definitivamente encendido o definitivamente apagado. Debe haber
posiciones intermedias, pero para la mayoría de los propósitos podemos olvidarnos de ellas. Como
ejemplo de una máquina de estado discreto, podríamos considerar una rueda que hace clic
alrededor de 120 una vez por segundo, pero puede ser detenida por una] alguna vez que pueda
ser operado desde afuera; además, se encenderá una lámpara en una de las posiciones de la
rueda. Esta máquina podría describirse de manera abstracta de la siguiente manera. El estado
interno de la máquina (que se describe por la posición de la rueda) puede ser q1, q2 o q3. Hay una
señal de entrada i0. o i1 (posición de) alguna vez). El estado interno en cualquier momento está
determinado por el último estado y la señal de entrada según la tabla

(TABLA BORRADA)

Las señales de salida, la única indicación visible externamente del estado interno (la luz) se
describen en la tabla

Estado q1 q2 q3 resultado o0 o0 o1

Este ejemplo es típico de máquinas de estado discreto. Se pueden describir mediante tales tablas,
siempre que tengan solo un número finito de estados posibles.
Parecerá que dado el estado inicial de la máquina y las señales de entrada siempre es posible
predecir todos los estados futuros. Esto es una reminiscencia del punto de vista de Laplace desde
el estado completo del universo en un momento dado, como lo describen las posiciones y las
velocidades de todas las partículas, debería ser posible predecir todos los estados futuros. La
predicción que estamos considerando es, sin embargo, más cercana a la practicabilidad que la
considerada por Laplace. El sistema del "universo como un todo" es tal que errores bastante
pequeños en las condiciones iniciales pueden tener un efecto abrumador en un momento
posterior. El desplazamiento de un solo electrón por una milmillonésima de centímetro en un
momento determinado puede marcar la diferencia entre un hombre que muere a causa de una
avalancha un año después o que escapa. Es una propiedad esencial de los sistemas mecánicos que
hemos denominado "máquinas de estado discreto" que este fenómeno no ocurre. Incluso cuando
consideramos las máquinas físicas reales en lugar de las máquinas idealizadas, el conocimiento
razonablemente preciso del estado en un momento produce un conocimiento razonablemente
preciso en cualquier cantidad de pasos posteriores.

Como hemos mencionado, las computadoras digitales caen dentro de la clase de máquinas de
estado discreto. Pero la cantidad de estados a los que puede responder esa máquina suele ser
enormemente grande. Por ejemplo, el número de la máquina que ahora trabaja en Manchester es
de aproximadamente 2 165,000, es decir, alrededor de 10 50,000. Compare esto con nuestro
ejemplo de la rueda de clic descrita anteriormente, que tenía tres estados. No es difícil ver por qué
el número de estados debe ser tan inmenso. La computadora incluye una tienda que corresponde
al papel utilizado por una computadora humana. Debe ser posible escribir en la tienda cualquiera
de las combinaciones de símbolos que podrían haberse escrito en el papel. Por simplicidad,
supongamos que solo los dígitos del 0 al 9 se usan como símbolos. Las variaciones en la escritura a
mano son ignoradas. Supongamos que a la computadora se le permiten 100 hojas de papel cada
una con 50 líneas cada una con espacio para 30 dígitos. Entonces, la cantidad de estados es 10
100x50x30, es decir, 10 150,000. Se trata de la cantidad de estados de tres máquinas de
Manchester juntas. El logaritmo a la base dos de la cantidad de estados se denomina
habitualmente "capacidad de almacenamiento" de la máquina. Por lo tanto, la máquina de
Manchester tiene una capacidad de almacenamiento de aproximadamente 165,000 y la máquina
de ruedas de nuestro ejemplo aproximadamente 1,6. Si se unen dos máquinas, se deben agregar
sus capacidades para obtener la capacidad de la máquina resultante. Esto lleva a la posibilidad de
declaraciones como "La máquina Manchester contiene 64 pistas magnéticas, cada una con una
capacidad de 2560, ocho tubos electrónicos con una capacidad de 1280. El almacenamiento
diverso asciende a alrededor de 300, lo que hace un total de 174.380".

Dada la tabla correspondiente a una máquina de estado discreto, es posible predecir lo que hará.
No hay ninguna razón por la cual este cálculo no deba llevarse a cabo por medio de una
computadora digital. Siempre que se pueda llevar a cabo con la suficiente rapidez, la computadora
digital podría imitar el comportamiento de cualquier máquina de estado discreto. El juego de
imitación podría entonces jugarse con la máquina en cuestión (como B) y la imitación digital
computadora (como A) y el interrogador no podría distinguirlos. Por supuesto, la computadora
digital debe tener una capacidad de almacenamiento adecuada y trabajar lo suficientemente
rápido. Además, debe programarse de nuevo para cada máquina nueva que se desee imitar.

Esta propiedad especial de las computadoras digitales, que pueden imitar cualquier máquina de
estado discreto, se describe diciendo que son máquinas universales. La existencia de máquinas
con esta propiedad tiene la importante consecuencia de que, teniendo en cuenta la velocidad de
separación, no es necesario diseñar varias máquinas nuevas para realizar diversos procesos
informáticos. Todo se puede hacer con una computadora digital, adecuadamente programada
para cada caso. Se verá que como consecuencia de esto, todas las computadoras digitales son, en
cierto sentido, equivalentes.

Ahora podemos considerar nuevamente el punto planteado al final de §3. Se sugirió

tentativamente que la pregunta, "¿Pueden pensar las máquinas?" debería ser reemplazado por
"¿Hay computadoras digitales imaginables que harían bien en el juego de imitación?" Si deseamos,
podemos hacer esto superficialmente más general y preguntar "¿Hay máquinas de estado discreto
que harían bien?" Pero a la vista de la propiedad de la universalidad, vemos que cualquiera de
estas preguntas es equivalente a esto: "Fijemos nuestra atención en una computadora digital
particular C. ¿Es cierto que al modificar esta computadora para tener un almacenamiento
adecuado, se aumenta adecuadamente su velocidad? de acción, y dándole un programa
apropiado, C puede hacerse para jugar satisfactoriamente la parte de A en el juego de imitación, la
parte de B es tomada por un hombre? "

6. Opiniones contrarias sobre la cuestión principal

Ahora podemos considerar que el terreno ha sido despejado y estamos listos para continuar con el
debate sobre nuestra pregunta: "¿Pueden pensar las máquinas?" y la variante de ella citada al final
de la última sección. No podemos abandonar completamente la forma original del problema, ya
que las opiniones diferirán en cuanto a la idoneidad de la sustitución y al menos debemos
escuchar lo que debe decirse a este respecto.

Simplificará las cosas para el lector si primero explico mis propias creencias en el asunto.
Considera primero la forma más precisa de la pregunta. Creo que dentro de unos cincuenta años
será posible programar computadoras, con una capacidad de almacenamiento de
aproximadamente 109, para que jueguen el juego de imitación tan bien que un interrogador
promedio no tendrá más del 70 por ciento de posibilidades de hacer la identificación correcta
después de cinco minutos de interrogatorio. La pregunta original, "¿Pueden pensar las máquinas?"
Creo que es demasiado sin sentido como para merecer una discusión. Sin embargo, creo que a
finales de siglo el uso de las palabras y la opinión general educada se habrá alterado tanto que uno
podrá hablar de máquinas pensando sin esperar ser contradichas. Además, creo que no sirve
ningún propósito útil al ocultar estas creencias. El punto de vista popular de que los científicos
proceden inexorablemente de un hecho bien establecido a un hecho bien establecido, sin estar
nunca influenciados por ninguna conjetura mejorada, está completamente equivocado. Siempre
que quede claro cuáles son los hechos comprobados y cuáles son conjeturas, no se pueden
producir daños. Las conjeturas son de gran importancia ya que sugieren líneas de investigación
útiles.

Ahora procedo a considerar opiniones opuestas a las mías.

(1) La Objeción Teológica

El pensamiento es una función del alma inmortal del hombre. Dios le ha dado un alma inmortal a
cada hombre y mujer, pero no a ningún otro animal ni a ninguna máquina. Por lo tanto, ningún
animal o máquina puede pensar.

No puedo aceptar ninguna parte de esto, pero intentaré responder en términos teológicos.
Debería encontrar el argumento más convincente si los animales fueran clasificados con hombres,
ya que hay una diferencia mayor, en mi opinión, entre lo típico animado y lo inanimado que entre
el hombre y los otros animales. El carácter arbitrario de la visión ortodoxa se vuelve más claro si
consideramos cómo podría parecerle a un miembro de alguna otra comunidad religiosa. ¿Cómo
consideran los cristianos la opinión musulmana de que las mujeres no tienen alma? Pero dejemos
este punto de lado y volvamos al argumento principal. Me parece que el argumento citado
anteriormente implica una seria restricción de la omnipotencia del Todopoderoso. Se admite que
hay ciertas cosas que no puede hacer, como hacer que una sea igual a dos, pero ¿no deberíamos
creer que tiene la libertad de conferir un alma a un elefante si lo considera oportuno? Podríamos
esperar que Él solo ejercería este poder junto con una mutación que proporcionara al elefante un
cerebro apropiadamente mejorado para atender las necesidades de este tipo [. Se puede hacer
una discusión de forma exactamente similar para el caso de las máquinas. Puede parecer diferente
porque es más difícil "tragar". Pero esto solo significa que creemos que sería menos probable que
considere las circunstancias adecuadas para conferir un alma. Las circunstancias en cuestión se
discuten en el resto de este documento. Al intentar construir tales máquinas no deberíamos
usurpar irreverentemente su poder de crear almas, así como tampoco estamos en la procreación
de niños: más bien somos, en cualquier caso, instrumentos de su voluntad que nos proporcionan

.mansiones para las almas que Él crea.

Sin embargo, esto es mera especulación. No estoy muy impresionado con los argumentos
teológicos, independientemente de lo que puedan ser utilizados para apoyar. Tales argumentos a
menudo se han encontrado insatisfactorios en el pasado. En la época de Galileo, se argumentó
que los textos, "Y el sol se detuvo ... y no se apresuró a descender un día entero" (Josué x 13) y "Él
puso los cimientos de la tierra, que no debería moverse en ningún momento "(Salmo cv.5) fueron
una refutación adecuada de la teoría copernicana. Con nuestro conocimiento actual, tal
argumento parece inútil. Cuando ese conocimiento no estaba disponible, causó una impresión
bastante diferente.

(2) La objeción de "cabezas en la arena"

Las consecuencias del pensamiento de las máquinas sería demasiado terrible. Esperemos y
creemos que no pueden hacerlo ".
Este argumento rara vez se expresa de manera tan abierta como en la forma anterior. Pero afecta
a la mayoría de nosotros que lo pensamos en absoluto. Nos gusta creer que el Hombre es de
alguna manera sutil superior al resto de la creación. Es mejor si se puede demostrar que es
necesariamente superior, por entonces no hay peligro de que pierda su posición de mando. La
popularidad del argumento teológico está claramente relacionada con este sentimiento. Es
probable que sea bastante fuerte en personas intelectuales, ya que valoran más el poder de
pensar que otras y están más inclinadas a basar su creencia en la superioridad del Hombre en este
poder.

No creo que este argumento sea lo suficientemente sustancial como para requerir refutación. La
consolación sería más apropiada: quizás esto debería buscarse en la transmigración de las almas.

(3) La Objeción Matemática

Hay una serie de resultados de la lógica matemática que se pueden usar para mostrar que existen
limitaciones a las potencias de las máquinas de estado discreto. El más conocido de estos
resultados se conoce como el teorema de Godel (1931) y muestra que en cualquier sistema lógico
lo suficientemente poderoso se pueden formular afirmaciones que no pueden ser probadas ni
desaprobadas dentro del sistema, a menos que el sistema mismo sea inconsistente. Hay otros
resultados, en algunos aspectos similares, debido a Church (1936), Kleene (1935), Rosser y Turing
(1937). El último resultado es el más conveniente de considerar, ya que se refiere directamente a
las máquinas, mientras que los otros solo pueden usarse en un argumento comparativamente
indirecto: por ejemplo, si se va a utilizar el teorema de Godel, necesitamos además contar con
algunos medios para describir sistemas en términos de máquinas y máquinas en términos de
sistemas lógicos. El resultado en cuestión se refiere a un tipo de máquina que es esencialmente
una computadora digital con una capacidad infinita. Establece que hay ciertas cosas que esa
máquina no puede hacer. Si está preparado para dar respuestas a preguntas como en el juego de
imitación, habrá algunas preguntas a las cuales dará una respuesta incorrecta o no dará ninguna
respuesta, sin embargo, se permite mucho tiempo para una respuesta. Puede haber, por
supuesto, muchas de esas preguntas, y las preguntas que no pueden ser respondidas por una
máquina pueden ser respondidas satisfactoriamente por otra. Por supuesto, por el momento
suponemos que las preguntas son del tipo al que una respuesta "Sí" o "No" es apropiada, en lugar
de preguntas como "¿Qué piensas de Picasso?" Las preguntas que sabemos que las máquinas
deben fallar son de este tipo: "Considere la máquina especificada de la siguiente manera: ¿Esta
máquina alguna vez responderá 'Sí'?

¿Alguna pregunta? "Los puntos deben ser reemplazados por una descripción de una máquina en
una forma estándar, que podría ser algo así como la utilizada en el § 5. Cuando la máquina descrita
tiene una cierta relación comparativamente simple con la máquina que está bajo interrogatorio ,
se puede demostrar que la respuesta es incorrecta o no. Este es el resultado matemático: se
argumenta que demuestra una discapacidad de las máquinas a las que el intelecto humano no
está sujeto.
La respuesta corta a este argumento es que, si bien se establece que existen limitaciones para los
poderes. Si se trata de una máquina en particular, solo se ha establecido, sin ningún tipo de
prueba, que tales limitaciones no se aplican al intelecto humano. Pero no creo que este punto de
vista pueda descartarse tan a la ligera. Cada vez que a una de estas máquinas se le hace la
pregunta crítica apropiada y se le da una respuesta definitiva, sabemos que esta respuesta debe
estar equivocada, y esto nos da cierta sensación de superioridad. ¿Es este sentimiento ilusorio? Sin
duda, es bastante genuino, pero no creo que se le deba otorgar demasiada importancia. A
menudo, nosotros mismos damos las respuestas equivocadas a las preguntas para justificar estar
muy contentos a tal evidencia de falibilidad por parte de las máquinas. Además, nuestra
superioridad solo puede sentirse en tal ocasión en relación con la única máquina sobre la que
hemos marcado nuestro pequeño triunfo. No habría dudas de triunfar simultáneamente sobre
todas las máquinas. En resumen, entonces, podría haber hombres más listos que cualquier
máquina dada, pero de nuevo podría haber otras máquinas más ingeniosas de nuevo, y así
sucesivamente.

Aquellos que sostienen el argumento matemático, en su mayoría, estarían dispuestos a aceptar el

juego de imitación como base para la discusión. Aquellos que creen en las dos objeciones
anteriores probablemente no estarían interesados en ningún criterio.

(4) El argumento de la conciencia

Este argumento está muy bien expresado en Lister Oration del profesor Jefferson para 1949, del
que cito textualmente. "No hasta que una máquina pueda escribir un soneto o componer un
concierto debido a pensamientos y emociones, y no por el azar de los símbolos, podríamos
aceptar que la máquina es igual a cerebro, es decir, no solo escribirlo sino saber que había escrito
Ningún mecanismo podría sentir (y no simplemente señalar artificialmente, una invención fácil)
placer en sus éxitos, dolor cuando sus válvulas se fusionan, ser calentados por halagos, sentirse
miserable por sus errores, ser encantado por el sexo, estar enojado o deprimido cuando no puede
obtener lo que quiere ".

Este argumento parece ser una negación de la validez de nuestra prueba. De acuerdo con la forma
más extrema de este punto de vista, la única manera por la cual uno puede estar seguro de que la
máquina piensa es ser la máquina y sentirse a sí mismo pensando. Uno podría describir estos
sentimientos al mundo, pero por supuesto nadie estaría justificado en tomar nota. De la misma
manera, de acuerdo con este punto de vista, la única forma de saber que un hombre piensa es ser
ese hombre en particular. De hecho, es el punto de vista solipsista. Puede ser la visión más lógica
para mantener pero dificulta la comunicación de ideas. A es susceptible de creer que "A piensa,
pero B no", mientras que B cree que "B piensa, pero A no". en lugar de discutir continuamente
sobre este punto, es normal tener la convención educada que todo el mundo piensa.

Estoy seguro de que el profesor Jefferson no desea adoptar el punto de vista extremo y solipsista.
Probablemente estaría dispuesto a aceptar el juego de imitación como prueba. El juego (con el
jugador B omitido) se utiliza con frecuencia en la práctica bajo el nombre de viva voce para
descubrir si alguien realmente entiende algo o si "lo aprendió a la manera de los loros".
Permítanos escuchar una parte de tal viva voce:

Interrogador: en la primera línea de tu soneto, que dice "¿Te compararé con un día de verano?",
¿No sería "mejor" un día de primavera?

Testigo: No escanearía.

Interrogador: ¿Qué tal "un día de invierno", que escanearía bien? Testigo: Sí, pero nadie quiere ser
comparado con un día de invierno.

Interrogador: ¿Diría que el Sr. Pickwick le recordó la Navidad? Testigo: De alguna manera.

Interrogador: Sin embargo, la Navidad es un día de invierno, y no creo que al Sr. Pickwick le
importe la comparación.

Testigo: no creo que estés hablando en serio. Para un día de invierno uno significa un día de
invierno típico, en lugar de uno especial como Navidad.

Y así sucesivamente, ¿qué diría el profesor Jefferson si la máquina de escribir soneto pudiera
responder así en la voz viva? No sé si consideraría la máquina como "meramente señalización
artificial" de estas respuestas, pero si las respuestas fueran tan satisfactorias y sostenidas como en
el pasaje anterior, no creo que lo describa como "una invención fácil". Creo que esta frase
pretende cubrir dispositivos como la inclusión en la máquina de un registro de alguien que lee un
soneto, con el cambio apropiado para encenderlo de vez en cuando.

En resumen, creo que la mayoría de los que apoyan el argumento de la conciencia podrían ser
persuadidos de abandonarlo en lugar de ser forzados a la posición solipsista. Probablemente
estarán dispuestos a aceptar nuestra prueba.

No deseo dar la impresión de que creo que no hay ningún misterio sobre la conciencia. Existe, por
ejemplo, algo así como una paradoja relacionada con cualquier intento de localizarlo. Pero no creo
que estos misterios necesariamente deban resolverse antes de que podamos responder la
pregunta que nos ocupa en este documento.

(5) Argumentos de diversas discapacidades

Estos argumentos toman la forma, "Les garantizo que pueden hacer que las máquinas hagan todas
las cosas que han mencionado, pero nunca podrán hacer una para hacer X". Numerosas
características X se sugieren a este respecto. Ofrezco una selección:

Sea amable, ingenioso, bello, amigable, tenga iniciativa, tenga sentido del humor, distinga el bien
del mal, cometa errores, enamórese, disfrute de las fresas y la crema, haga que alguien se
enamore de él, aprenda de la experiencia, use palabras apropiadamente, sea el sujeto de su
propio pensamiento, tenga tanta diversidad de comportamiento como un hombre, haga algo
realmente nuevo.
Generalmente, no se ofrece soporte para estas declaraciones. Creo que en su mayoría se basan en
el principio de la inducción científica. Un hombre ha visto miles de máquinas en su vida. Por lo que
él ve de ellos, saca una serie de conclusiones generales. Son feos, cada uno está diseñado para un
propósito muy limitado, cuando se requieren para un propósito minuciosamente diferente son
inútiles, la variedad de comportamiento de cualquiera de ellos es muy pequeña, etc., etc.
Naturalmente, concluye que estas son propiedades necesarias de máquinas en general.

Muchas de estas limitaciones están asociadas con la capacidad de almacenamiento muy pequeña
de la mayoría de las máquinas. (Estoy asumiendo que la idea de capacidad de almacenamiento se
extiende de alguna manera a máquinas de cubierta que no sean máquinas de estado discreto. La
definición exacta no importa ya que no se reivindica exactitud matemática en la presente
discusión.) Hace unos años, cuando se había escuchado muy poco de las computadoras digitales,
era posible provocar mucha incredulidad acerca de ellas, si uno mencionaba sus propiedades sin
describir su construcción. Eso fue presumiblemente debido a una aplicación similar del principio
de inducción científica. Estas aplicaciones del principio son, por supuesto, en gran parte
inconscientes. Cuando un niño quemado teme el fuego y muestra que lo teme evitándolo, debería
decir que estaba aplicando la inducción científica. (Por supuesto, también podría describir su
comportamiento de muchas otras maneras). Las obras y costumbres de la humanidad no parecen
ser un material muy adecuado para aplicar la inducción científica. Una gran parte del espacio-
tiempo debe ser investigada, si se quieren obtener resultados confiables. De lo contrario,
podemos (como la mayoría de los 'niños' ingleses) decidir que todos hablan inglés, y que es una
tontería aprender francés.

Sin embargo, hay observaciones especiales sobre muchas de las discapacidades que se han
mencionado. La inhabilidad de disfrutar las fresas y la crema puede haber afectado al lector como
algo frívolo. Posiblemente se podría hacer una máquina para disfrutar de este delicioso plato, pero
cualquier intento de hacerlo sería idiota. Lo importante de esta discapacidad es que contribuye a
algunas de las otras discapacidades, por ejemplo, a la dificultad del mismo tipo de amistad que
ocurre entre el hombre y la máquina que entre el hombre blanco y el blanco, o entre el hombre
negro y el hombre negro.

La afirmación de que "las máquinas no pueden cometer errores" parece curiosa. Uno tiene la
tentación de replicar, "¿Son algo peor para eso?" Pero adoptemos una actitud más comprensiva e
intentemos ver qué significa realmente. Creo que esta crítica se puede explicar en términos del
juego de imitación. Se afirma que el interrogador pudo distinguir la máquina del hombre
simplemente al establecer una serie de problemas en aritmética. La máquina sería
desenmascarada debido a su precisión mortal. La respuesta a esto es simple. La máquina
(programada para jugar el juego) no intentaría dar las respuestas correctas a los problemas
aritméticos. De forma deliberada introduciría errores de una manera calculada para confundir al
interrogador. Una falla mecánica probablemente se mostraría a través de una decisión inadecuada
sobre qué tipo de error cometer en la aritmética. Incluso esta interpretación de la crítica no es lo
suficientemente comprensiva. Pero no podemos permitirnos el espacio para analizarlo mucho
más. Me parece que esta crítica depende de una confusión entre dos tipos de error. Podemos
llamarlos "errores de funcionamiento" y "errores de conclusión". Los errores de funcionamiento se
deben a alguna falla mecánica o eléctrica que hace que la máquina se comporte de manera
diferente a como fue diseñada. En las discusiones filosóficas a uno le gusta ignorar la posibilidad
de tales errores; por lo tanto, uno está discutiendo "máquinas abstractas". Estas máquinas
abstractas son ficciones matemáticas en lugar de objetos físicos. Por definición, son incapaces de
errores de funcionamiento. En este sentido, podemos decir verdaderamente que "las máquinas
nunca pueden cometer errores". Los errores de conclusión solo pueden surgir cuando se asigna
algún significado a las señales de salida de la máquina. La máquina podría, por ejemplo, escribir
ecuaciones matemáticas u oraciones en inglés.

Cuando se tipea una proposición falsa, decimos que la máquina ha cometido un error de
conclusión. Claramente no hay ninguna razón para decir que una máquina no puede cometer este
tipo de error. Puede que no haga más que escribir "O = I" repetidamente. Para tomar un menos
ejemplo perverso, podría tener algún método para sacar conclusiones por inducción científica.
Debemos esperar que tal método lleve ocasionalmente a resultados erróneos.

La afirmación de que una máquina no puede ser objeto de su propio pensamiento, por supuesto,
solo puede ser respondida si se puede demostrar que la máquina tiene algún pensamiento con
algún tema. Sin embargo, "el tema de las operaciones de una máquina" parece significar algo, al
menos para las personas que se ocupan de ello. Si, por ejemplo, la máquina intentara encontrar
una solución de la ecuación x2 - 40x - 11 = 0, uno estaría tentado de describir esta ecuación como
parte de la materia de la máquina en ese momento. En este tipo de sentido, una máquina, sin
duda, puede ser su propia materia. Se puede usar para ayudar a crear sus propios programas o
para predecir el efecto de las alteraciones en su propia estructura. Al observar los resultados de su
propio comportamiento, puede modificar sus propios programas para lograr un propósito más
eficaz. Estas son posibilidades del futuro cercano, en lugar de sueños utópicos.

La crítica de que una máquina no puede tener mucha diversidad de comportamiento es solo una
forma de decir que no puede tener mucha capacidad de almacenamiento. Hasta hace muy poco,
una capacidad de almacenamiento de hasta mil dígitos era muy rara.

Las críticas que estamos considerando aquí son a menudo formas disfrazadas del argumento de la
conciencia. Por lo general, si uno sostiene que una máquina puede hacer una de estas cosas, y
describe el tipo de método que la máquina podría usar, uno no hará mucho de una impresión. Se
cree que el método del azulejo (cualquiera que sea, ya que debe ser mecánico) es realmente
bastante básico. Compare los paréntesis en la declaración de Jefferson citada en la página 22.

(6) Objeción de Lady Lovelace

Nuestra información más detallada de Babbage's Analytical Engine proviene de una memoria de
Lady Lovelace (1842). En ella, afirma: "The Analytical Engine no tiene ninguna pretensión de
originar nada. Puede hacer lo que sea que sepamos cómo ordenar que funcione" (las cursivas son
suyas). Hartree (1949) cita esta afirmación y agrega: "Esto no implica que no sea posible construir
un equipo electrónico que 'piense por sí mismo' o en el que, en términos biológicos, se pueda
establecer un reflejo condicionado. , que serviría de base para "aprender". Si esto es posible en
principio o no, es una pregunta estimulante y estimulante, sugerida por algunos de estos
desarrollos recientes. Pero no parecía que las máquinas construidas o proyectadas en ese
momento tuvieran esta propiedad ".

Estoy completamente de acuerdo con Hartree sobre esto. Se notará que él no afirma que las
máquinas en cuestión no tenían la propiedad, sino que las pruebas disponibles para Lady Lovelace
no la alentaban a creer que la tenían. Es muy posible que las máquinas en cuestión hayan
obtenido esta propiedad en cierto sentido. Supongamos que alguna máquina de estado discreto
tiene la propiedad. The Analytical Engine era una computadora digital universal, de modo que, si
su capacidad de almacenamiento y velocidad eran adecuadas, podría hacerse mediante una
programación adecuada para imitar a la máquina en cuestión. Probablemente este argumento no
se le ocurrió a la condesa o a Babbage. En cualquier caso, no tenían la obligación de reclamar todo
lo que se podía reclamar.

Toda esta pregunta se considerará nuevamente bajo el título de máquinas de aprendizaje.

Una variante de la objeción de Lady Lovelace afirma que una máquina "nunca puede hacer nada
realmente nuevo". Esto puede ser detenido por un momento con la sierra, "No hay nada nuevo
bajo el sol". ¿Quién puede estar seguro de que el "trabajo original" que ha hecho no fue
simplemente el crecimiento de la semilla plantada en él por la enseñanza, o el efecto de seguir
principios generales bien conocidos. Una mejor variante de la objeción dice que una máquina
nunca puede "tomarnos por sorpresa". Esta declaración es un desafío más directo y se puede
cumplir directamente.

Las máquinas me toman por sorpresa con gran frecuencia. Esto se debe en gran parte a que no
hago suficientes cálculos para decidir qué esperar que hagan, o más bien porque, aunque hago un
cálculo, lo hago de forma apresurada y descuidada, tomando riesgos. Quizás me digo a mí mismo:
"Supongo que el voltaje aquí debería ser el mismo que el de allí: de todos modos supongamos que
lo es". Naturalmente, a menudo me equivoco, y el resultado es una sorpresa para mí porque para
cuando se realiza el experimento, estas suposiciones han sido olvidadas. Estas admisiones me
abren a conferencias sobre el tema de mis formas crueles, pero no arrojan ninguna duda sobre mi
credibilidad cuando testifico las sorpresas que experimento.

No espero que esta respuesta haga callar a mi crítico. Probablemente dirá que las sorpresas se
deben a un acto mental creativo de mi parte, y no reflejan ningún crédito en la máquina. Esto nos
lleva de vuelta al argumento de la conciencia y lejos de la idea de sorpresa. Es una línea
argumental que debemos considerar cerrada, pero quizás valga la pena señalar que la apreciación
de algo tan sorprendente requiere tanto de un "acto mental creativo", ya sea que el evento
sorprendente se origine en un hombre, un libro, una máquina o cualquier cosa. más.

La opinión de que las máquinas no pueden dar lugar a sorpresas se debe, creo, a una falacia a la
que los filósofos y los matemáticos están particularmente sujetos. Esta es la suposición de que tan
pronto como se presenta un hecho a la mente, todas las consecuencias de ese hecho surgen
simultáneamente en la mente. Es una suposición muy útil en muchas circunstancias, pero uno
olvida fácilmente que es falsa. Una consecuencia natural de hacerlo es que uno asume que no hay
virtud en la mera elaboración de las consecuencias de los datos y los principios generales.

(7) Argumento de la continuidad en el sistema nervioso

El sistema nervioso ciertamente no es una máquina de estado discreto. Un pequeño error en la

información sobre el tamaño de un impulso nervioso que afecta a una neurona puede marcar una
gran diferencia en el tamaño del impulso saliente. Se puede argumentar que, siendo así, uno no
puede esperar imitar el comportamiento del sistema nervioso con un sistema de estado discreto.

Es cierto que una máquina de estado discreto debe ser diferente de una máquina continua. Pero si
cumplimos las condiciones del juego de imitación, el interrogador no podrá aprovechar esta
diferencia. La situación se puede aclarar si consideramos el sonido otra máquina continua más
simple. Un analizador diferencial lo hará muy bien. (Un analizador diferencial es un cierto tipo de
máquina que no es del tipo de estado discreto usado para algunos tipos de cálculos.) Algunos de
estos proporcionan sus respuestas en forma de tipeo, por lo que son adecuados para tomar parte
en el juego. No sería posible para una computadora digital predecir exactamente qué respuestas
daría el analizador diferencial a un problema, pero sería bastante capaz de dar el tipo correcto de
respuesta. Por ejemplo, si se solicita que proporcione el valor de (en realidad, alrededor de
3.1416), sería razonable elegir al azar entre los valores 3.12, 3.13, 3.14, 3.15, 3.16 con las
probabilidades de 0.05, 0.15, 0.55, 0.19, 0.06 (decir ) Bajo estas circunstancias, sería muy difícil
para el interrogador distinguir el analizador diferencial de la computadora digital.

(8) El argumento de informalidad de comportamiento

No es posible producir un conjunto de reglas que pretendan describir lo que un hombre debería
hacer en cada conjunto de circunstancias imaginables. Uno podría, por ejemplo, tener una regla
de que uno debe detenerse cuando ve un semáforo en rojo, e ir si uno ve uno verde, pero ¿qué
ocurre si ambos defectos aparecen juntos? Uno quizás puede decidir que es más seguro
detenerse. Pero puede surgir alguna dificultad adicional de esta decisión más adelante. Intentar
proporcionar reglas de conducta para cubrir cualquier eventualidad, incluso las que surgen de los
semáforos, parece ser imposible. Con todo esto, estoy de acuerdo.

De esto se argumenta que no podemos ser máquinas. Trataré de reproducir el argumento, pero
me temo que difícilmente le haré justicia. Parece correr algo como esto. "si cada hombre tuviese
un conjunto definido de reglas de conducta mediante las cuales regulara su vida, no sería mejor
que una máquina. Pero no existen tales reglas, por lo que los hombres no pueden ser máquinas".
El centro no distribuido está deslumbrante. No creo que el argumento se ponga así, pero creo que
este es el argumento utilizado de todos modos. Sin embargo, puede haber una cierta confusión
entre las "reglas de conducta" y las "leyes de comportamiento" para nublar el problema. Por
"reglas de conducta" me refiero a preceptos tales como "Deténgase si ve luces rojas", en las que
uno puede actuar, y de los cuales uno puede ser consciente. Por "leyes de comportamiento" me
refiero a las leyes de la naturaleza aplicadas al cuerpo de un hombre, tales como "si lo pellizcas, él
chillará". Si sustituimos "leyes de conducta que regulan su vida" por "leyes de conducta mediante
las cuales regula su vida" en el argumento citado, el medio no distribuido ya no es insuperable.
Porque creemos que no solo es cierto que estar regulado por leyes de comportamiento implica ser
una especie de máquina (aunque no necesariamente una máquina de estado discreto), sino que,
por el contrario, ser una máquina así implica estar regulado por tales leyes. Sin embargo, no
podemos convencernos tan fácilmente de la ausencia de leyes completas de conducta como de
reglas completas de conducta. La única manera que conocemos de encontrar tales leyes es la
observación científica, y ciertamente no conocemos ninguna circunstancia bajo la cual podamos
decir: "Hemos buscado lo suficiente. No existen tales leyes".

Podemos demostrar más a la fuerza que cualquier declaración de ese tipo sería injustificada.
Supongamos que podemos estar seguros de encontrar tales leyes si existieran. Entonces, dada una
máquina de estado discreto, sin duda debería ser posible descubrir por observación lo suficiente
como para predecir su comportamiento futuro, y esto dentro de un tiempo razonable, digamos de
mil años. Pero este no parece ser el caso. Configuré en la computadora de Manchester un
pequeño programa utilizando solo 1,000 unidades de almacenamiento, por lo que la máquina
suministrada con un número de dieciséis cifras responde con otra en dos segundos. Desafío a
cualquiera de aprender de estas respuestas sobre el programa suficiente para poder predecir las
respuestas a los valores no procesados.

(9) El argumento de la percepción extrasensorial

Supongo que el lector está familiarizado con la idea de la percepción extrasensorial y el significado
de los cuatro elementos de la misma, a saber, la telepatía, la clarividencia, la precognición y la
psicokinesis. Estos fenómenos perturbadores parecen negar todas nuestras ideas científicas
habituales. ¡Cómo nos gustaría desacreditarlos! Lamentablemente, la evidencia estadística, al
menos para la telepatía, es abrumadora. Es muy difícil reordenar las propias ideas para encajar
estos nuevos hechos. Una vez que uno los ha aceptado, no parece un gran paso creer en
fantasmas y bogies. La idea de que nuestros cuerpos se muevan simplemente de acuerdo con las
leyes conocidas de la física, junto con algunas otras aún no descubiertas pero algo similares, sería
una de las primeras en desaparecer.

Este argumento es, en mi opinión, bastante fuerte. En respuesta, se puede decir que muchas
teorías científicas parecen funcionar en la práctica, a pesar de chocar con ESP; que, de hecho, uno
se puede llevar muy bien si uno se olvida de ello. Este es un consuelo más bien frío, y uno teme
que pensar es solo el tipo de fenómeno en el que ESP puede ser especialmente relevante.

Un argumento más específico basado en ESP se podría ejecutar de la siguiente manera: "Déjenos
jugar el juego de imitación, usando como testigos a un hombre que es bueno como receptor
telepático y una computadora digital. El interrogador puede hacer preguntas como '¿Qué juego
hace el tarjeta en mi mano derecha pertenece? ' El hombre por telepatía o clarividencia da la
respuesta correcta 130 veces de 400 tarjetas. La máquina solo puede adivinar al azar, y quizás
consiga 104 a la derecha, por lo que el interrogador hace la identificación correcta ". Hay una
posibilidad interesante que se abre aquí. Supongamos que la computadora digital contiene un
generador de números aleatorios. Entonces será natural usar esto para decidir qué respuesta dar.
Pero entonces el generador de números aleatorios estará sujeto a los poderes psicoquinéticos del
interrogador. Tal vez esta psicokinesis pueda hacer que la máquina adivine correctamente más a
menudo de lo que se esperaría en un cálculo de probabilidad, de modo que el interrogador aún no
pueda hacer la identificación correcta. Por otro lado, podría adivinar correctamente sin ningún
cuestionamiento, por clarividencia. Con ESP puede suceder cualquier cosa.

Si se admite la telepatía, será necesario ajustar nuestra prueba. La situación podría considerarse
análoga a la que ocurriría si el interrogador estuviera hablando solo y uno de los competidores
escuchara con la oreja pegada a la pared. Colocar a los competidores en una "habitación a prueba
de telepatía" satisfaría todos los requisitos.

7. Máquinas de aprendizaje

El lector habrá anticipado que no tengo argumentos muy convincentes de naturaleza positiva para
respaldar mis puntos de vista. Si lo hubiera hecho, no debería haberme tomado tantas molestias
para señalar las falacias en puntos de vista contrarios. La evidencia que tengo I ahora dará.

Volvamos por un momento a la objeción de Lady Lovelace, que afirmó que la máquina solo puede
hacer lo que le decimos que haga. Se podría decir que un hombre puede "inyectar" una idea en la
máquina, y que responderá en cierta medida y luego caerá en quietud, como una cuerda de piano
golpeada por un martillo. Otro símil sería una pila atómica de tamaño inferior al crítico: una idea
inyectada es corresponder a un neutrón que ingresa desde afuera. Cada uno de tales neutrones
causará una cierta perturbación que eventualmente desaparecerá. Sin embargo, si el tamaño de la
pila aumenta lo suficiente, es muy probable que la perturbación de los neumáticos causada por un
neutrón entrante continúe aumentando hasta que se destruya toda la pila. ¿Existe un fenómeno
correspondiente para las mentes, y hay uno para las máquinas? Parece que hay uno para la mente
humana. La mayoría de ellos parecen ser "subcríticos", es decir, corresponden en esta analogía a
montones de tamaño subcrítico. Una idea presentada a tal mente en promedio dará lugar a menos
de una idea en respuesta. Una pequeña proporción es supercrítica. Una idea presentada a tal
mente que puede dar lugar a una "teoría" completa que consiste en ideas secundarias, terciarias y
más remotas. Las mentes de los animales parecen ser definitivamente subcríticas. Siguiendo esta
analogía, preguntamos: "¿Se puede hacer que una máquina sea supercrítica?"

La analogía de "piel de cebolla" también es útil. Al considerar las funciones de la mente o el

cerebro, encontramos ciertas operaciones que podemos explicar en términos puramente
mecánicos. Esto que decimos no corresponde a la mente real: es una especie de piel que debemos
despojarnos si queremos encontrar la mente real. Pero luego, en lo que queda, encontramos una
piel más para ser eliminada, y así sucesivamente. Procediendo de esta manera alguna vez llegamos
a la mente "real", ¿o finalmente llegamos a la piel que no tiene nada en ella? En el último caso, la
mente entera es mecánica. (Sin embargo, no sería una máquina de estado discreto. Hemos
discutido esto).
Estos dos últimos párrafos no pretenden ser argumentos convincentes. Deberían describirse más
bien como "recitaciones que tienden a producir creencias".

El único apoyo realmente satisfactorio que se puede dar para la opinión expresada al comienzo del
§ 6, será la proporcionada por esperar al final del siglo y luego hacer el experimento descrito. Pero,
¿qué podemos decir mientras tanto? ¿Qué pasos deberían tomarse ahora para que el
experimento sea exitoso?

Como he explicado, el problema es principalmente de programación. También habrá que hacer

avances en ingeniería, pero parece poco probable que estos no sean adecuados para los
requisitos. Las estimaciones de la capacidad de almacenamiento del cerebro varían de 1010 a
1015 dígitos binarios. Me inclino por los valores más bajos y creo que solo se usa una fracción muy
pequeña para los tipos más elevados de pensamiento. Probablemente la mayor parte se use para
la retención de impresiones visuales; me sorprendería que se necesitaran más de 109 para jugar
satisfactoriamente el juego de imitación, en cualquier caso contra un ciego. (Nota: La capacidad de
la Encyclopaedia Britannica, 11ª edición, es de 2 X 109). Una capacidad de almacenamiento de
107, sería una posibilidad muy práctica incluso con las técnicas actuales. Probablemente no sea
necesario aumentar la velocidad de las operaciones de las máquinas en absoluto. Partes de las
máquinas modernas que pueden considerarse como análogos de las células nerviosas trabajan
aproximadamente mil veces más rápido que las últimas. Esto debería proporcionar un "margen de
seguridad" que podría cubrir pérdidas de la velocidad que surge de muchas maneras, Nuestro
problema entonces es descubrir cómo programar estas máquinas para jugar el juego. Según mi
ritmo actual de trabajo, produzco alrededor de mil dígitos de programas al día, de modo que unos
sesenta trabajadores, que trabajan de forma constante durante los cincuenta años, podrían
cumplir con su tarea si nada entraba en la papelera. Algún método más expeditivo parece
deseable.

En el proceso de tratar de imitar a una mente humana adulta, seguramente pensaremos mucho
sobre el proceso que lo ha llevado al estado en el que se encuentra. Podemos observar tres
componentes.

(a) El estado inicial de la mente, por ejemplo, al nacer,

(b) La educación a la que ha sido sometida,

(c) Otra experiencia, que no debe describirse como educación, a la que ha sido sometida.

En lugar de tratar de producir un programa para simular la mente adulta, ¿por qué no intentar
producir uno que simule el del niño? Si esto se sometiera a un curso de educación apropiado, se
obtendría el cerebro adulto. Es de suponer que el cerebro del niño es algo así como un cuaderno,
como uno lo compra en el de la papelería. Bastante poco mecanismo, y muchas hojas en blanco.
(El mecanismo y la escritura son, desde nuestro punto de vista, casi sinónimos). Nuestra esperanza
es que haya tan poco mecanismo en el cerebro infantil que algo así pueda programarse
fácilmente. La cantidad de trabajo en la educación que podemos asumir, como primera
aproximación, es muy similar a la del niño humano.

Así hemos dividido nuestro problema en dos partes. El programa infantil y el proceso educativo.
Estos dos permanecen muy conectados. No podemos esperar encontrar una buena máquina hija
en el primer intento. Uno debe experimentar enseñando una de esas máquinas y ver qué tan bien
aprende. Uno puede probar con otro y ver si es mejor o peor. Existe una conexión obvia entre este
proceso y la evolución, por las identificaciones

Estructura de la máquina infantil = material hereditario Cambios de la máquina infantil =

mutación,

Selección natural = juicio del experimentador

Uno puede esperar, sin embargo, que este proceso sea más rápido que la evolución. La
supervivencia del más apto es un método lento para medir las ventajas. El experimentador,
mediante el ejercicio de la inteligencia, debería poder acelerarlo. Igualmente importante es el
hecho de que no está restringido a mutaciones aleatorias. Si puede encontrar una causa de
debilidad, probablemente pueda pensar en el tipo de mutación que lo mejorará.

No será posible aplicar exactamente el mismo proceso de enseñanza a la máquina que a un niño
normal. Por ejemplo, no contará con patas, por lo que no podría pedirse salir y llenar el cubo de
carbón. Posiblemente no tenga ojos. Pero por muy bien que estas deficiencias puedan ser
superadas por una ingeniosa ingeniería, no se puede enviar a la criatura a la escuela sin que los
otros niños se burlen de ella. Se debe dar algo de matrícula. No necesitamos preocuparnos
demasiado por las piernas, los ojos, etc. El ejemplo de la señorita Helen Keller muestra que la
educación puede tener lugar siempre que la comunicación en ambas direcciones entre el maestro
y el alumno pueda tener lugar de una u otra manera.

Normalmente asociamos castigos y recompensas con el proceso de enseñanza. Algunas máquinas

infantiles simples se pueden construir o programar en este tipo de principio. La máquina debe
estar construida de tal manera que los eventos que precedieron brevemente a la ocurrencia de
una señal de castigo no se repitan, mientras que una señal de recompensa aumenta la
probabilidad de repetición de los eventos que lo condujeron. Estas definiciones no presuponen
ningún sentimiento por parte de la máquina, hice algunos experimentos con una de esas máquinas
para niños y logré enseñar algunas cosas, pero el método de enseñanza era demasiado poco
ortodoxo para que el experimento se considerara realmente exitoso.

El uso de castigos y recompensas puede, en el mejor de los casos, ser parte del proceso de
enseñanza. En términos generales, si el maestro no tiene otro modo de comunicarse con el
alumno, la cantidad de información que puede alcanzarlo no excede la cantidad total de
recompensas y castigos aplicados. Para cuando un niño haya aprendido a repetir "Casabianca",
probablemente se sentiría realmente muy dolorido si el texto solo pudiera descubrirse mediante
una técnica de "Veinte preguntas", cada "NO" que toma la forma de un golpe. Por lo tanto, es
necesario tener otros canales de comunicación "no emocionales". Si están disponibles, es posible
enseñar una máquina mediante castigos y recompensas para obedecer las órdenes dadas en algún
idioma, por ejemplo, un lenguaje simbólico. Estas órdenes se transmitirán a través de los canales
"no emocionales". El uso de este lenguaje disminuirá en gran medida el número de castigos y
recompensas requeridas.

Las opiniones pueden variar en cuanto a la complejidad que es adecuada en la máquina hija. Uno
podría tratar de hacerlo lo más simple posible de manera consistente con los principios generales.
Alternativamente, uno podría tener un sistema completo de inferencia lógica "incorporada". En el
último caso, la tienda estaría ocupada en gran medida con definiciones y proposiciones. Las
proposiciones tendrían varios tipos de estatus, por ejemplo, hechos bien establecidos, conjeturas,
teoremas matemáticamente probados, declaraciones dadas por una autoridad, expresiones que
tienen la forma lógica de proposición pero no valor de creencia. Ciertas proposiciones pueden
describirse como "imperativos". La máquina debe estar construida de manera que tan pronto
como un imperativo se clasifique como "bien establecido", la acción apropiada se lleve a cabo
automáticamente. Para ilustrar esto, suponga que el maestro le dice a la máquina, "Haga su tarea
ahora". Esto puede causar que "El maestro diga 'Haga su tarea ahora'" para ser incluido entre los
hechos bien establecidos. Otro hecho similar podría ser: "Todo lo que el maestro dice es verdad".
La combinación de estos puede conducir al imperativo, "Haz tus deberes ahora", siendo incluido
entre los hechos bien establecidos, y esto, por la construcción de la máquina, significará que la
tarea realmente comienza, pero el efecto es muy satisfactorio. . Los procesos de inferencia
utilizados por la máquina no necesitan ser tales que satisfagan a los lógicos más exigentes. Por
ejemplo, podría no haber jerarquía de tipos. Pero esto no necesariamente significa que se
producirán falacias de tipo, de la misma manera que no tendremos que caer sobre acantilados sin
vallas. Los imperativos adecuados (expresados dentro de los sistemas, que no forman parte de las
reglas del sistema) tales como "No usar una clase a menos que sea una subclase de uno que haya
sido mencionado por el docente" pueden tener un efecto similar a "No ir" demasiado cerca del
borde ".

Los imperativos que pueden ser obedecidos por una máquina que no tiene extremidades están
obligados a ser de un carácter más bien intelectual, como en el ejemplo (hacer la tarea) dado
anteriormente. importantes entre tales imperativos serán los que regulen el orden en que se
aplicarán las reglas del sistema lógico en cuestión, ya que en cada etapa cuando se usa un sistema
lógico, hay una gran cantidad de pasos alternativos, cualquiera de los cuales se le permite a uno
aplicar, en lo que concierne a la obediencia a las reglas del sistema lógico. Estas elecciones marcan
la diferencia entre un razonador brillante y uno de base, no la diferencia entre un sonido y un
falaz. Las propuestas que conducen a imperativos de este tipo podrían ser "Cuando se menciona a
Sócrates, use el silogismo en Bárbara" o "Si se ha demostrado que un método es más rápido que
otro, no use el método más lento". Algunos de estos pueden ser "dados por la autoridad", pero
otros pueden ser producidos por la máquina misma, p. por inducción científica.

La idea de una máquina de aprendizaje puede parecer paradójica para algunos lectores. ¿Cómo
pueden cambiar las reglas de operación de la máquina? Deben describir por completo cómo
reaccionará la máquina sea cual sea su historia, independientemente de los cambios que pueda
sufrir. Las reglas son bastante invariantes en el tiempo. Esto es bastante cierto. La explicación de la
paradoja es que las reglas que cambian en el proceso de aprendizaje son de un tipo bastante
menos pretencioso, y solo reivindican una validez efímera. El lector puede establecer un paralelo
con la Constitución de los Estados Unidos.

Una característica importante de una máquina de aprendizaje es que su maestro a menudo

ignorará bastante bien lo que está sucediendo en su interior, aunque todavía puede en cierta
medida predecir el comportamiento de su alumno. Esto debería aplicarse más fuertemente a la
educación posterior de una máquina que surge de una máquina hija de diseño (o programa) bien
probado. Esto está en claro contraste con el procedimiento normal cuando se usa una máquina
para hacer cálculos. El objeto de uno es entonces tener una imagen mental clara del estado de la
máquina en cada momento del cálculo. Este objeto solo se puede lograr con una lucha. La visión
de que "la máquina solo puede hacer lo que sabemos cómo ordenar que haga" parece extraña a
este respecto. La mayoría de los programas que podemos poner en la máquina darán lugar a que
haga algo que no podemos tener sentido (si es que lo consideramos como algo totalmente
aleatorio. El comportamiento inteligente presumiblemente consiste en una desviación del
comportamiento completamente disciplinado involucrado en computación, pero bastante leve,
que no da lugar a un comportamiento aleatorio, o a ciclos repetitivos sin sentido. Otro resultado
importante de preparar nuestra máquina para su papel en el juego de imitación mediante un
proceso de enseñanza y aprendizaje es esa "falibilidad humana" es probable que se omita de una
manera bastante natural, es decir, sin "entrenamiento" especial (el lector debe conciliar esto con
el punto de vista en las páginas 23 y 24.) Los procesos que se aprenden no producen una certeza
del cien por ciento de resultado, si lo hicieran, no podrían ser desaprensivos.

Probablemente sea conveniente incluir un elemento aleatorio en una máquina de aprendizaje. Un

elemento aleatorio es bastante útil cuando estamos buscando una solución a algún problema.
Supongamos, por ejemplo, que queremos encontrar un número entre 50 y 200 que sea igual al
cuadrado de la suma de sus dígitos, podríamos comenzar en 51, luego probar 52 y seguir hasta
que obtengamos un número que funcionó. Alternativamente, podríamos elegir números al azar
hasta que tengamos uno bueno. Este método tiene la ventaja de que no es necesario hacer un
seguimiento de los valores que se han probado, sino la desventaja de que uno puede probar el
mismo dos veces, pero esto no es muy importante si hay varias soluciones. El método sistemático
tiene la desventaja de que puede haber un bloque enorme sin soluciones en la región que debe
investigarse primero. Ahora, el proceso de aprendizaje puede considerarse como una búsqueda de
una forma de conducta que satisfaga al docente (u otra persona). criterio). Dado que
probablemente exista una gran cantidad de soluciones satisfactorias, el método aleatorio parece
ser mejor que el sistemático. Debe notarse que se usa en el proceso análogo de la evolución. Pero
allí el método sistemático no es posible. ¿Cómo se puede hacer un seguimiento de las diferentes
combinaciones genéticas que se han probado, para evitar volver a intentarlas?

Podemos esperar que las máquinas eventualmente compitan con los hombres en todos los
campos puramente intelectuales. ¿Pero cuáles son los mejores para empezar? Incluso esta es una
decisión difícil. Mucha gente piensa que una actividad muy abstracta, como jugar al ajedrez, sería
lo mejor. También se puede mantener que es mejor proporcionar a la máquina los mejores
órganos de los sentidos que el dinero puede comprar, y luego enseñarle a comprender y hablar
inglés. Este proceso podría seguir la enseñanza normal de un niño. Las cosas serían señaladas y
nombradas, etc.

De nuevo, no sé cuál es la respuesta correcta, pero creo que se deben intentar ambos enfoques.
Solo podemos ver una distancia corta por delante, pero podemos ver que hay mucho por hacer.