La singularidad tecnolgica: el debate acerca de su posibilidad

Carlos Francisco Castaeda Girn

Resumen
El presente documento revisa los argumentos que varios autores tienen acerca de la posibilidad de que la tendencia de crecimiento de tecnologas de la informacin permita en algn momento la configuracin de una entidad de Inteligencia Artificial Dura que sobrepase el nivel humano para llegar a la Superinteligencia. En esta revisin se indican los argumentos a favor y en contra, sin ser exhaustivos o definitivos, con el fin de verificar la importancia que el tema de la Singularidad Tecnolgica tiene, a partir tambin de la definicin del fenmeno o las distintas posibilidades de alcanzar este punto. Palabras clave: singularidad, argumentos, definicin, inteligencia artificial, superinteligencia This paper reviews several arguments several authors mind about the possibility of the superintelligence break from the develompent of a Hard Artificial Intelligence. This document list the forementioned pro and con arguments, without being definitive, in order to determine the importance of this topic. By defining the term and reviewing the different ways Singularity can be achieved. Keywords: singularity, superintelligence arguments, definition, artificial intelligence, AI,

Introduccin
La humanidad ha tenido en los ltimos 150 aos un avance particularmente rpido en materia tecnolgica, en particular el crecimiento de las tecnologas de la informacin desde la primera computadora anunciada en 1946 (hace 66 aos) ha sido exponencial hasta contar con los sistemas de procesamiento, generacin y almacenamiento de informacin con los que contamos hoy en da. El avance tecnolgico acelerado ha colocado a varios cientficos, especialistas y escritores de distintas reas en la posicin de imaginar cmo ser el futuro dado lo que existe hoy en materia tecnolgica. La extrapolacin del comportamiento industrial y social en los sistemas de informacin, quiz el mtodo ms efectivo de prospeccin, ha permitido que se pueda suponer un momento en el cual ser posible crear un sistema tecnolgico, autnomo y hbrido, que iguale la inteligencia humana dadas las capacidades de procesamiento de informacin, que se equiparen con las capacidades de nuestro cerebro biolgico. Este punto, sin embargo, no sera el lmite del desarrollo, a partir de ese momento las mquinas con capacidades inteligentes, capaces de replicarse en tiempos extremadamente cortos en comparacin con los entes biolgicos, podran comenzar a mejorar iterativamente en una suerte de evolucin. Esto, segn los autores que apoyan esta teora, llevara a mquinas con capacidades de inteligencia ms all de la humana, y por lo tanto ms all de la inteligencia biolgica. Este documento parte de la definicin que Vernor Vinge, quien acu el trmino e integr las ideas de varios otros escritores y tecnlogos para entregar el concepto de singularidad tecnolgica, como un smil de la singularidad en astrofsica, donde el espacio de hace infinitamente elstico y se comprime de la misma manera. A la par, esta revisin tambin se basa en los textos de quien es hoy el mayor promotor del concepto de singularidad, Ray Kurzweil, para entregar un panorama general de qu es la singularidad tecnolgica, revisar que ms all del optimismo desarrollista hay riesgos y conocer los argumentos en favor y en contra de la mera posibilidad de que un evento de tal magnitud pueda suceder en algn momento, y en particular cuando los principales tericos indican que ser dentro de la primera mitad del siglo XXI.

1.QueslaSingularidadTecnolgica
El trmino Singularidad se define genricamente como el fenmeno, lugar o circunstancia donde las reglas que gobiernan el comportamiento dejan de tener validez. La Singularidad tecnolgica es un periodo futuro durante el cual el ritmo del cambio tecnolgico ser tan rpido y su impacto tan profundo, que la vida humana ser transformada irreversiblemente (Kurzweil, The Singularity is Near: When Humans Trascend Biology, 2005), Vinge nos dice que es el punto donde se crea una inteligencia sobrehumana de manera tecnolgica (Vinge,1993). En este mismo artculo definitorio de Vinge, nos indica que no es slo por la va de la creacin de una gran computadora que replique la inteligencia humana, como se puede alcanzar este punto, el autor nos da cuatro opciones: Puede ser que se desarrollen computadoras que estn despiertas y sean superinteligentes en la escala humana. Hay voces en contra y a favor de la posibilidad, pero en este caso, como en las siguientes opciones, el autor nos dice que si existe la posibilidad, se llegar a ella irremediablemente. La segunda forma en cmo llegar a la Singularidad es que una red de computadoras interconectadas despierte como una entidad superinteligente. Hay que notar que el autor escribi esto en 1993, cuando el primer navegador grfico, Mosaic, era lanzado al mercado en abril de ese ao. La tercera va para acceder a la Singularidad es a travs de la integracin de humanos y computadoras a travs de interfaces avanzadas, donde la conjuncin de la parte biolgica con la informtica puede generar incrementos a las capacidades humanas de manera que se puedan reconocer como inteligencias sobrehumanas. Finalmente la cuarta opcin para encontrarse con la Singularidad es mediante la manipulacin biolgica pura, que puede conducir a mejoras sustanciales en el intelecto humano. A partir de estos escenarios, son los que involucran el desarrollo de sistemas de informacin y hardware los que despiertan el debate, y en especfico las dos primeras opciones, ya que suponen la creacin de lo que se conoce como la Inteligencia Artificial Dura (IAD). El tercer caso el autor lo define como Inteligencia Amplificada (Iam) que incita un debate distinto, relativo a la cuestin de quines seran los elegidos para las modificaciones tecnolgicas y con ello convertirse en seres
5

superinteligentes, evolutivamente en uno o varios escalones ms arriba que el resto de las personas que no han sido modificadas. En otro enfoque, Kurzweil con su definicin basada en la lgica de crecimiento exponencial de la tecnologa, tambin argumenta que este desarrollo acelerado de las capacidades tecnolgicas conducira a escenarios de avance sin precedentes en tres reas de conocimiento: la gentica, la nanotecnologa y la robtica, que l identifica con la IAD.
LaposibilidaddeunaInteligenciaArtificialSuperior

Existen dudas ciertas de que la existencia de un organismo (ya sea mecnico, biolgico o lgico) que supere en capacidad intelectual al humano sea posible en cualquier momento. Existen, como dijimos, caminos ideados por los autores que apoyan la idea para llegar a la superinteligencia, sin embargo, los detractores de la misma indican que la motivacin puede estar basada en la esperanza de la inmortalidad (Horgan, 2008) manifestada incluso por los fundadores de la idea, como Kurzweil quien prev que los humanos podran llegar a ser entidades inmortales de software consciente. Sin embargo, a pesar de que el argumento de la concepcin religiosa y de creyentes se ve soportada por la premura con la cual los singularitarios predicen la aparicin del momento de inflexin1 hay autores que al considerar los elementos que integran la conciencia y con ello la inteligencia, afirman que la creacin de mquinas con esa caracterstica es posible (Koch & Tononi, 2008). Segn el artculo de Koch y Tononi, la conciencia depende exclusivamente de las matemticas y la lgica, no viene de un reino mgico, por lo cual en teora puede ser reproducida en una mquina. Se sabe que est relacionada con la funcin de la corteza cerebral como lo demuestran casos de humanos en estados vegetativos persistentes, donde la corteza no demuestra actividad. Tambin es necesaria la actividad del tlamo. Un ente consciente es un sistema integrado con un amplio repertorio de estados. Est relacionado con la cantidad de informacin que el sistema puede generar. Con base en esto es posible plantear un debate real acerca de la singularidad desde
1

Horgan indica que la estimacin de a lo ms 3 dcadas para la aparicin de la superinteligencia de Vinge o de Kurzweil tienen ms que ver con la propia mortalidad de estos autores que con una proyeccin realista de los avances en elterreno de lacomputacin ylainteligenciaartificial.No es tan llamativo para los singularitarios queel fenmenode la singularidad tecnolgica se d dentro de 400aos. 6

argumentos tcnicos y no slo de creencias.

S habr una Inteligencia Artificial Superior

El artculo fundamental de la Singularidad (Vinge, 1993) es irreductible al afirmar que el estado de la tecnologa har posible en algn momento del siglo XXI (y en particular en la primera mitad) el surgimiento deliberado o accidental de una inteligencia artificial.
Si la Singularidad Tecnolgica puede suceder, lo har. Incluso si todos los gobiernos del mundo entendieran la amenaza y murieran de temor, el progreso hacia esa meta continuara. En la ficcin hay historias de leyes aprobadas para prohibir la construccin de una 'mquina que asemeje a la mente humana'. De hecho, la ventaja competitiva (econmica, militar, incluso artstica) de cada avance en la automatizacin, es tan irresistible que promulgar leyes, o establecer aduanas que prohiban tales cosas, solamente asegura que alguien ms lo obtendr primero.

Para Kurzweil, la Singularidad es una consecuencia natural de no solamente el desarrollo tecnolgico, sino el devenir natural de la evolucin, la cultura, la economa y por supuesto de la tecnologa, que siguen crecimientos exponenciales ms que aritmticos. En su libro La Singularidad est Cerca, enlista los siguientes factores que hacen posible la aparicin de mquinas superinteligentes:

La innovacin tcnica se acelera, se duplica cada dcada; El poder de las TI crece exponencialmente, se duplica cada ao; Para las TI hay un segundo nivel de crecimiento exponencial, alimentado por el beneficio econmico que representa su crecimiento; La exploracin del cerebro humano es una de las tecnologas que mejora exponencialmente; Tendremos modelos efectivos de inteligencia humana para la mitad de los aos 20 de este siglo; Con la disponibilidad del software y hardware para emular el cerebro humano, se podr aprobar el Test de Turing 2 hacia finales de siglo; El ciclo de la inteligencia de las mquinas, que iterativamente mejora su diseo,

La prueba o Test de Turing es una actividad desarrollada en 1950 por Alan Turing, matemtico ingls, que enfrenta a un juez con dos entidades a las cuales realiza preguntas, una de ellas es humana y otra es una mquina. Si el juez no puede distinguir a qu tipo de entidad, humana o artificial, corresponden lasrespuestas recibidas, entonceslamquinaha aprobado el test.El fondo deestapruebasebasaenquesialgopareceinteligente,esinteligente. 7

se har ms rpido cada vez; Muehlhauser y Salamon aaden aceleradores al surgimiento de la primera inteligencia artificial de al menos nivel humano. El poder de cmputo ha crecido de manera exponencial en concordancia cercana con la ley de Moore, pero incluso si esta se agota y el crecimiento es menor, podemos esperar hardware que sea ms poderoso, por mucho, en unas dcadas. Este software con capacidades mucho mayores puede resolver problemticas mayores en menor tiempo y costo con el uso nicamente de la fuerza bruta. A su vez, el desarrollo de los algoritmos computacionales entrega mejoras al desempeo, como en el caso de Deep Blue en 1997, que ejecutaba 1.5 millones de millones de operaciones por segundo; en 2003 Deep Junior obtuvo el mismo resultado con la ejecucin de 0.0015 millones de millones de operaciones por segundo. Los conjuntos de datos masivos o el llamado Big Data fomenta la capacidad de reconocimiento de patrones. Con el crecimiento acelerado de fuentes de datos en formatos electrnicos, el bajo precio de produccin de los datos y el bajo costo de almacenaje, los sistemas de informacin cuentan con material disponible y en formatos accesibles para realizar reconocimiento, anlisis y procesamiento. El progreso en la sicologa y la neurociencia han permitido conocer procesos y formas de trabajar del cerebro que permiten un mejor modelado que se aplica en redes neuronales, procesamiento tridimensional y paralelo. Esto se agrega al crecimiento de la ciencia en general derivado del crecimiento en nmero de matriculados en posgrados e investigadores. Los incentivos econmicos son importantes entre los factores que impulsan el desarrollo de la IA+, bajo la promesa de mejores resultados y productividad con menor costo en la produccin de bienes y servicios derivado de la posibilidad de robots trabajadores con IA (en primera instancia). Por ltimo, y quiz el mayor incentivo dentro de la escala de valores no siempre clara del ser humano, es el de ser los primeros. Bajo un entorno competitivo y una vez que est a la vista la meta de la primera mquina con IAD, gobiernos, empresas y cualquier persona con inters comercial y econmico (dado el trmino de Homo Economicus (Robbins, 1932), cualquier persona tiene esas motivaciones) vern las ventajas sustanciales de la construccin de esa primera mquina.

Para algunos autores (Muehlhauser, Facing The Singularity, 2012) la posibilidad de la superinteligencia es slo cuestin de nmeros y caractersticas comparables:

La velocidad de procesamiento, donde nuestras neuronas pueden llevar datos a 75 metros por segundo o menos, cuando una mquina puede superar esas velocidades por 4 millones; Profundidad serial. El cerebro humano no puede ejecutar rpidamente clculos que requieren ms de 100 pasos secuenciales, por lo cual se apoya en la computacin paralela. En el mbito computacional hoy en da es posible acudir a ambos tipos de procesamiento (serial y paralelo) para superar esta limitacin. Recursos computacionales. El cerebro humano est limitado por el tamao del crneo (razones anatmicas y fisiolgicas) mientras que las mquinas de cmputo pueden construirse tan grandes como ciudades, slo limitadas por el consumo de energa y la arquitectura, lo cual es un obstculo que se busca eliminar con sistemas de menor consumo y nuevos diseos. Racionalidad. No est claro que los cerebros humanos hagan decisiones racionales de manera nativa y perfecta. Las computadoras se crean desde cero con el juego de instrucciones para ser racionales en las decisiones. Acceso introspectivo / editabilidad. No podemos introducirnos en nuestro cerebro para editar o mejorar los algoritmos cognitivos. Es evidente que esa posibilidad existe en sistemas diseados por los humanos.

No habr una Inteligencia Artificial Superior

La aseveracin de un futuro, para algunos cercano (Vinge,1993Kurzweil,TheSingularity is Near: When Humans Trascend Biology, 2005) donde habr una inteligencia artificial capaz de mejorarse a s misma en procesos iterativos para llegar a la IA++ es por supuesto motivo de debate, no slo en la comunidad de las TI, sino en todos los mbitos debido a los grandes impactos filosficos, ticos, econmicos, laborales, religiosos que tiene el supuesto de la posibilidad de una entidad ms inteligente que el ser humano, su relacin con ste y las posibles decisiones que hara respecto a su futuro, el entorno, su crecimiento.
Adems del tema de la creacin de una IA Amistosa que vimos anteriormente, algunos autores (Shaviro Sotala, 2007 Stross, 2011 Greaves &Allen,2011) cuestionan la posibilidad de que en algn momento se d la singularidad tecnolgica. A partir de varios enfoques y limitantes que intentan demostrar, y para las cuales 9

Chalmers propone una rplica. Cabe mencionar que incluso el artculo de Vinge contempla la posibilidad de que la singularidad no llegue: Quiz no pase en absoluto. Algunas veces trato de imaginar los sntomas que esperaramos ver si la Singularidad no se va a desarrollar. [..] Si esto es cierto, en los inicios de la dcada del 2000 encontraramos que la curva de desempeo del hardware comenzara a declinar, esto debido a la incapacidad de automatizar de trabajo de diseo requerido para soportar mejoras al hardware. Terminaramos con algn equipo muy poderoso, pero sin la capacidad de llevarlo ms all. El procesamiento comercial de las seales digitales sera asombroso, dando apariencia de anlogo incluso a las operaciones digitales, pero nunca nada despertara, y nunca habra la carrera intelectual que es la esencia de la Singularidad. Sera vista como una poca dorada... y sera el fin del progreso.

Entre los argumentos en contra de la posibilidad de una inteligencia superhumana, Chalmers enumera los siguientes:

La inteligencia no es solamente un tema de procesamiento de informacin. Hay factores cruciales en la inteligencia humana que se omiten en la IA: el entendimiento, personificacin y cultura. El diseo de una inteligencia equivalente al menos a la humana requiere de un profundo entendimiento del yo y una sicologa cognitiva total. Estos campos del conocimiento estn lejos de llegar a sus lmites hoy en da, por lo cual no se puede esperar en un futuro cercano (y quiz nunca se llegue a la meta) que se desarrolle la IAD. Los sistemas de nivel Turing (M2) no pueden crear sistemas de nivel super-Turing (M3), por lo cual a partir de la IA no se puede llegar a la IA+ ni a IA++. Otras crticas que se manifiestan en distintos lugares (Kurzweil, The Singularity is Near: When Humans Trascend Biology, 2005 Greaves & Allen, 2011) son el problema de la complejidad y el tema de la lgica malthusiana. La complejidad de un cerebro humano sobrepasa al estudio cientfico cada vez que se hace un nuevo avance en este campo de estudio. Con cada descubrimiento de la qumica del cerebro, la estructura de las neuronas, se reconoce que la complejidad est ms all de modelos que la ciencia pueda construir. La inteligencia humana es producto de la evolucin, un proceso iterativo de prueba y error desarrollado en millones de aos y no producto del diseo, adicionalmente a esto la inteligencia humana e incluso cualquier inteligencia biolgica, ejecuta varios procesos en paralelo de manera eficiente y cada uno de los procesos es tan complejo que no ha podido ser modelado o replicado en su totalidad. Queda subyacente en este tema de la complejidad la cuestin de la conciencia y la identidad, si definimos a esta como parte de la inteligencia enfrentamos los diversos
10

fenmenos que se han presentado en casos de traumatismo severo en ciertas personas, donde la identidad se transtorna para reflejarse en objetos, lo cual lleva a que la plataforma de conciencia puede no contener a la conciencia o la identidad (Stross,2011). La crtica a la lgica malthusiana indica que no se pueden extrapolar comportamientos que marcan tendencias logartmicas debido a que hay un punto de agotamiento de recursos inherente a cualquier sistema. En el caso de la IA puede referirse al lmite de energa para mantener encendidos los equipos de procesamiento y almacenamiento, o bien el calor generado por lo que supone este argumento, sera una mquina gigantesca. Enlistamos a continuacin algunos otros argumentos en contra de la posibilidad de la singularidad:

La rigidez de la computacin digital (secuencial y discreta) contra la lgica difusa de la inteligencia biolgica; Las fallas en los sistemas computacionales actuales, con niveles relativos bajos de complejidad, sern el lmite del desarrollo en sistemas de extrema complejidad; La paradoja del Cuarto Chino, donde hay un ente intermediario (puede ser una persona) que transmite mensajes escritos en ideogramas chinos entre alguien que pregunta y alguien que contesta. Para el que pregunta las respuestas son correctas y califica al intermediario de inteligente, pero ste slo es un transmisor que no sabe chino y por lo tanto no puede leer lo que dicen las respuestas. El transmisor es slo una computadora; La regulacin gubernamental desacelerar o detendr la tecnologa. El debate se presenta as entre la posicin de quienes creen en la posibilidad de la Singularidad y quienes la niegan, sin obviar la fraccin de quienes temen un surgimiento de IAD sin posibilidad de control en cuanto a la tica o proteccin hacia sus creadores.
Ysifueraposible?

Hoy en da, ante el debate que toma sentidos a favor y en contra de la posibilidad de la superinteligencia, ciertos grupos de especialistas indican que lo mejor ante este escenario es tomar previsiones ante la expectativa, por mnima y remota que fuera, de
11

que en algn momento, ya sea en un laboratorio o espontneamente, surja una mquina con consciencia propia, lo cual, segn hemos visto que afirman Vinge y Kurzweil entre otros, llevar irremediablemente al surgimiento de entes ms inteligentes que los humanos. Con esta perspectiva deben considerarse los escenarios que presentar una interaccin entre humanos y seres ms inteligentes, lo cual plantea 3 alternativas:
1. Inteaccin amable y respetuosa, que requiere que la IA sea amistosa; 2. Una relacin de exterminio humano, debido a la falta de elementos morales en

la IA y los procesos racionales de pensamiento de la misma; 3. La IA ininteresada, la cual puede ignorar la existencia humana como los humanos ignoran la existencia de insectos a menos que se enfrenten con ellos. Con base en estos tres escenarios podemos hacer un anlisis de la interaccin.

Inteligencia Artificial Amistosa

El debate para muchos autores (Joy, 2000; Bostrom, 2003; Shulman, Jonsson, & Tarleton, 2009; Muehlhauser & Salamon, Intelligence Explosion: Evidence and Import, 2012; Chalmers, The Singularity: A Philosophical Anlysis, 2010; Muehlhauser & Helm, The Singularity and Machine Ethics, 2012; Yudkowsky, et al., 2010) no se enfoca en la posibilidad o no de llegar en algn momento al punto de la Singularidad, sino de cmo enfrentar a esta, ya que a partir del supuesto de la creacin de la primera mquina con IAD que pueda replicarse y mejorarse a s misma, los humanos, ahora en la cima de la escala evolutiva con el factor del intelecto como diferenciador, quedaran en un segundo plano al perder esta ventaja. En un escenario donde hay una inteligencia autnoma, con capacidades iguales a las humanas, podemos esperar que se cumpla el argumento de la Explosin de Inteligencia (Chalmers, The Singularity: A Philosophical Anlysis, 2010):
1. Habr IA (dentro de un periodo de un siglo); 2. Si hay IA, habr IA+ (en un periodo de dcadas); 3. Si hay IA+, habr IA++ (en un periodo de dcadas).

Donde IA es la Inteligencia Artificial a nivel humano, IA+ es una inteligencia artificial de nivel superior al humano y IA++ es la inteligencia artificial muy superior al nivel humano, tanto como lo es en la actualidad la distancia entre la inteligencia humana y el

12

de mamferos inferiores como los roedores. Este panorama nos lleva rpidamente a la cuestin de relacin entre dos entidades con inteligencias de distinto nivel, lo cual llevado a la realidad actual significa, en el caso donde IA++ no sea efectivamente tan superior a la inteligencia humana, al menos una situacin similar entre los delfines y los humanos. Esto presenta el claro riesgo de una relacin desigual, as pensar que las mquinas con IA++ sern herramientas de los humanos de forma natural, es como pensar que los humanos son herramientas de los conejos o los chimpancs (Vinge,1993). Si se cumple el supuesto de Vinge acerca de la imposibilidad de detener el surgimiento de la IA si esta es posible, es fundamental el desarrollo de una forma de determinar que la IA sea amistosa, benevolente o al menos negligente con la existencia de una entidad inferior. No bastaran las tres leyes de robtica de Asimov para garantizar una convivencia segura con mquinas que han alcanzado IA+ o IA++, Good, de acuerdo con Vinge y con Kessel sugiere alimentar a las IA y sus derivadas con una meta-regla dorada: Trata a tus inferiores como seras tratado por tus superiores.

Inteligencia Artificial Hostil

La consciencia, establecida como la percepcin de la existencia de uno mismo y la posibilidad de evaluar los factores y su afectacin con el organismo propio, no requiere la existencia de un conjunto de reglas morales o ticas. La psicologa conoce bien la condicin de la psicopata, donde la persona disocia completamente la valoracin de sus actos de su contenido moral. Si el organismo (o varios de ellos en caso de la posibilidad de replicacin) puede tomar decisiones perfectamente racionales sin tomar en cuenta si estos daan al mbito humano. Bien pueden usar las tcnicas ms destructivas de obtencin de recursos naturales o incluso tomar a los humanos como materia prima o fuentes de elementos necesarios para sus procesos.

Inteligencia Artificial Ininteresada

A pesar de que los humanos tendemos a crear escenarios antropocntricos, nada garantiza que una superinteligencia no quiera interactuar con los humanos simplemente por la diferencia de espacios de inteligencia. Se han realizado mediciones acreca de las persoanas superdotadas y su capacidad de interaccin con personas con menores niveles de inteligencia, en estos se h encontrado que la capacidad de relacin est limitada por un rango que limita el poder comunicarse de manera eficiente y
13

productiva entre dos personas con espacios de inteligencia muy distante (Gilbert,2000 Dronkers,2002). Con el antecedente de la relacin dificil entre dos personas con diferente nivel de inteligencia, la interaccin entre entes que estuvieran por encima de las inteligencias humanas y humanos (por ms inteligentes que fueran) podra equipararse a la relacin de cualquier animal con el humano. Evidentemente cabe la posibilidad de un desinters basado en la imposibilidad de comunicacin.

14

 Conclusin

La Singularidad Tecnolgica es una posibilidad terica que presenta retos en varios mbitos humanos, donde se desafan concepciones filosficas y religiosas y, que en caso de ser posible, alterara toda la organizacin social humana. Caben los cuestionamientos acerca de si en realidad los argumentos en contra son lo suficientemente slidos para demostrar la imposibilidad o slo para hacer presente los temores ante un escenario completamente desconocido, en el cual se pueden prever casos de destruccin de la humanidad o bien una era dorada, de bienestar y progreso continuo. El debate est vivo y en ambas posiciones se pueden encontrar fallas de lgica, demostraciones recursivas o supuestos demasiado audaces que requieren demostracin. Los argumentos en contra la de posibilidad de que la singularidad tecnolgica ocurra no son contundentes, debido principalmente a que parten de supuestos menos slidos, como manifestar que el crecimiento exponencial es finita sin dar ms argumentos que la escasez de recursos, o bien dar por sentados supuestos acerca de los espacios de inteligencia sin demostrar cmo fundamentan las aseveraciones de origen, lo que lleva a la debilidad de las conclusiones. Lo que queda claro a partir de los argumentos de uno y otro lado del debate es que si existe la ms mnima probabilidad de que la singularidad suceda en cualquier momento, la humanidad debe estar preparada para la contencin de su crecimiento descontrolado y los riesgos potenciales que presenta el convertirse sbitamente en una especie inferior. Un escenario posible es el que mantenemos con las especies que consideramos inferiores. Hoy en da nada nos limita a los humanos como especie superior en la cadena evolutiva acabar con facilidad con la vida de especies completas en favor del progreso de la humanidad, por investigacin o por simple diversin. Los humanos, con todo su desarrollo cientfico, artstico, filosfico, histrico y social, al convertirse en una parte inferior de la cadena evolutiva, tambin pueden convertirse en fuente de recursos materiales, maquinarias bsicas de procesamiento de informacin o entrar en involucin al ver limitadas sus capacidades de expansin debido a la preeminencia de otras entidades. Si existe la ms remota posibilidad de la singularidad tecnolgica, mejor preparar el camino mediante la elaboracin de reglas claras de comportamiento de los entes suprainteligentes, que negar la posibilidad y padecer las consecuencias .

15

16

 Bibliografa

Chalmers, D. J. (1 de mayo de 2012). consc.net. Recuperado el 17 de noviembre de 2012, de consc.net: http://consc.net/papers/singreply.pdf Chalmers, D. J. (2010). The Singularity: A Philosophical Anlysis. Journal Of Consciousness Studies , 17 (9), 7-65. Cummins, A. (23 de abril de 2010). 1993. El navegador Mosaic ilumina la web con color y creatividad. Recuperado el 19 de octubre de 2012, de Geeks Room: http://geeksroom.com/2010/04/1993-el-navegador-mosaic-ilumina-la-web-con-color -y-creatividad/17024/ Atkins, T. R. (s.f.). Artificial, Intelligent, and Completely Uninterested in You. Recuperado el 2 de diciembre de 2012, de Singularity Weblog. A better future, better you: http://www.singularityweblog.com/uninterested-ai/ Bostrom, N. (2003). Ethical Issues in Advanced Artificial Intelligence. En Smith, En Smit et al. Cognitive, Emotive and Ethical Aspects of Decision Making in Humans and in Artificial Intelligence (Vol. 2, pgs. 12-17). Oxford: Institute of Advanced Studies in Systems Research and Cybernetics, Oxford University. Dronkers, J. (2002). Is there a relation between divorce risk and intelligence? Evidence from the Netherlands? (European University Institute, Italia. Gilbert, P. (2000). The Relationship of Shame, Social Anxiety and Depression: The Role of the Evaluation of Social Rank. Clinical Psychology and Psychotherapy , 7, 174-189. Greaves, M., & Allen, P. (12 de Octubre de 2011). Paul Allen: The Singularity Isn't Near. Recuperado el 30 de noviembre de 2012, de MIT Technology Review: http://www.technologyreview.com/view/425733/paul-allen-the-singularity-isnt-near / Horgan, J. (junio de 2008). The Consciousness Conundrum. Recuperado el 12 de noviembre de 2012, de IEEE Spectrum. Inside Technology: http://spectrum.ieee.org/biomedical/imaging/the-consciousness-conundrum/0 Joy, B. (15 de abril de 2000). Why the future doesn't need us. Recuperado el 4 de
17

noviembre de 2012, de Wired: http://www.wired.com/wired/archive/8.04/joy.html Kessel, J. (1 de diciembre de 2001). Imagining the Human Future. Up, Down, or Sideways. Recuperado el 2 de diciembre de 2012, de Imagining the Human Future: http://www4.ncsu.edu/~tenshi/ImaginingtheFuture.htm Koch, C., & Tononi, G. (junio de 2008). Can Machines Be Conscious? Recuperado el 22 de noviembre de 2012, de IEEE Spectrum. Inside Technology: http://spectrum.ieee.org/biomedical/imaging/can-machines-be-conscious/0 Kurzweil, R. (marzo de 2006). Reinventing Humanity: The Future of Machine-Human Intelligence. The Futurist , 13-16. Kurzweil, R. (2005). The Singularity is Near: When Humans Trascend Biology. Londres, Inglaterra: Penguin Group. Muehlhauser, L. (2012). Facing The Singularity. Recuperado el 4 de diciembre de 2012, de Facing The Singularity: http://facingthesingularity.com/ Muehlhauser, L., & Helm, L. (2012). The Singularity and Machine Ethics. En A. Eden, J. Soraker, J. Moor, & E. Steinhart, Singularity Hypotheses: A scientific and philosophical assessment (pgs. 1-28). Berlin: Springer. Muehlhauser, L., & Salamon, A. (2012). Intelligence Explosion: Evidence and Import. En A. Eden, J. Soraker, J. Moor, & E. Steinhart, Singularity Hypotheses: A Scientific and philosophical assessment (pgs. 1-29). Berlin: Springer. Omohundro, S. M. (2008). The Nature of Self-Improving Artificial Intelligence. Self-Aware Systems. Palo Alto: Self-Aware Systems. Robbins, L. (1932). Ensayo sobre la Naturaleza y Significacin de la Ciencia Econmica. The London School of Economics. The London School of Economics. Shaviro, S. (s.f.). The Singularity is Here. Recuperado el 3 de diciembre de 2012, de Shaviro: http://www.shaviro.com/Othertexts/Singularity.pdf Shulman, C., Jonsson, H., & Tarleton, N. (2009). Machine Ethics and Superintelligence. En C. Reynolds, & A. Cassinelli, AP-CAP 2009: The fifth Asia-Pacific computing and philosophy conference, October 1st-2nd, University of Tokyo, Japan, proceedings (pgs. 95-97). Tokyo: AP-CAP.
18

Sotala, K. (25 de octubre de 2007). 14 objections against AI/Friendly AI/The Singularity answered. Recuperado el 28 de octubre de 2012, de Sotala: http://kajsotala.fi/2007/10/14-objections-against-aifriendly-aithe-singularity-answer ed/#equivalent Stross, C. (22 de junio de 2011). Three arguments against the singularity. Recuperado el 1 de diciembre de 2012, de Charlie's Diary: http://www.antipope.org/charlie/blog-static/2011/06/reality-check-1.html Tucker, P. (marzo de 2006). The Singularity and Human Destiny. The Futurist , 38. Vinge, V. (1993). The Coming Technological Singularity: How to Survive in the Post-Human Era. San Diego, California, USA: Department of Mathematical Sciences, San Diego State University. Wikipedia. (2012). Alan Turing. Recuperado el 29 de noviembre de 2012, de Wikipedia: http://es.wikipedia.org/wiki/Alan_Mathison_Turing Wikipedia. (2012). Eniac. Recuperado el 2 de diciembre de 2012, de Wikipedia: http://en.wikipedia.org/wiki/ENIAC Wise Geek. (2012). What is the Technological Singularity? Recuperado el 4 de octubre de 2012, de Wise Geek, clear answers for common questions: http://www.wisegeek.com/what-is-the-technological-singularity.htm Yudkowsky, E., Salamon, A., Shulman, C., Kaas, S., McCabe, T., Nelson, R., y otros. (2010). Reducing long-term catastrophic risks from artificial intelligence. The Singularity Institute. San Francisco: The Singularity Institute.

19