Marshall Brain conversaciones sobre el futuro de la humanidad y el nacimiento de la segunda especie inteligente

Tecnoscienza - Inteligencia Artificial

Las entrevistas del SIAI (Instituto de la Singularidad para la Inteligencia Artificial - ahora conocido como MIRI) Habr alguna vez una singularidad? Marshall cerebro: Estoy de acuerdo con la idea de ue esta!os a "unto de crear la segunda es"ecie inteligente en el universo# $oy a hablar !a%ana &en la 'u!bre de la (ingularidad) *+T,# -or lo ue sabe!os hoy en d.a) s/lo hay una es"ecie inteligente en el universo# *o hay evidencia de ue hay !s de uno# *o "ode!os saber nada !s# 0 esta!os creando la segunda) "ode!os "redecir) con el tie!"o se convertir en !ucho !s inteligente ue nosotros) gracias al r"ido au!ento de la "otencia de clculo# Ta!bi1n estoy "lena!ente convencido de ue las consecuencias) ya ue hay dos es"ecies inteligentes en el universo) sern i!"redecibles# 2a idea de ue la inteligencia "uede su"erar con creces todo lo ue "oda!os i!aginarnos a nosotros !is!os en la idea de ue en 3455 se "od.a co!"rar "or 6 755 !illones de inteligencias hu!anas en una ca8a) o una inteligencia ue es de un !ill/n de veces su"erior a la hu!ana) y no tene!os idea de lo ue es) lo ue va a ### 'reo ue los resultados sern i!"redecibles# 2a (ingularidad est !uy cerca? Marshall: (i nos li!ita!os a seguir una curva de Moore) y luego en 3535 se "ueden co!"rar en su tienda local "or 6 755) un e ui"o ue corre cerca de un bill/n de o"eraciones "or segundo# En 3595) la !is!a figura) se llevar a cabo alrededor de !il billones de o"eraciones "or segundo# 'ree!os ue el cerebro hu!ano tiene una ca"acidad de clculo de a"ro:i!ada!ente !il billones de o"eraciones "or segundo# As. ue creo ue en alg;n !o!ento en el "er.odo 35<5 3575) va!os a ser ca"aces de decir: =Eso es 6 4#555 "ara un e ui"o ue "ro"orciona la ca"acidad de co!"utaci/n del cerebro hu!ano#= 0 en ese "unto "ro"orcionar una fuente de algorit!os ue nos "er!itir hacer inteligente) todo lo ue la "otencia de clculo y eficaz# 2uego s/lo tienes ue seguir la curva y en el 3455) "ara decir) va!os a tener el e uivalente de un ser hu!ano

inteligencias !illones en una ca8a o un bot/n &risas,) no i!"orta lo grande) en su escritorio# Tiene un costo de 6 755# $a!os a ver si esto real!ente sucede# -ero creo ue en torno a 3595) a diez a%os !enos de diez a%os) tendre!os la inteligencia hu!ana en un chi"# -ode!os crear la conciencia-car? El cerebro hu!ano es un ob8eto esttico# >l est ah. "ara ser estudiada) y va!os a dividir) dividir y luego dividir otra vez hasta ue entienda cada neurona y c/!o se conectan entre s.# (.) se a"lica ingenier.a inversa) ya ue es esttico# Es una de las for!as de lidiar con la inteligencia artificial# ?tra for!a es el desarrollo de un con8unto de algorit!os ue si!ulan lo ue ocurre dentro de las neuronas) sin tener ue re"etir todo# ?tra for!a es escribir un con8unto de "rogra!as) cada uno de los cuales hace ciertas cosas !uy bien# El e8e!"lo "erfecto es el a8edrez# Ahora sabe!os 8ugar al a8edrez infor!tico# *o tiene nada ue ver con la for!a en ue los hu!anos 8uegan al a8edrez) "ero se las arreglan "ara vencernos# Hoy en d.a) incluso el ordenador de su escritorio "uede ganarle al a8edrez casi todos los seres hu!anos# @sted "uede i!aginar la creaci/n de una unidad de inteligencia integrado este con8unto de e:ce"cional!ente co!"etente# @n !/dulo ue se "uede ca!inar en l.nea recta) ue "uede subir escaleras) ue sabe c/!o conducir un coche) otro ue sabe c/!o to!ar un estrecho) tocar el ti!bre y entrar# Total si tuviera un !ill/n de !/dulos) cada uno e:ce"cional!ente co!"etentes en todas estas cosas individuales) y luego iniziassi a =coser= en con8unto) el resultado no se "arecer.a en absoluto la inteligencia hu!ana) y sin e!bargo) ser.a su"erior a la inteligencia hu!ana) ya ue cada !/dulo ser.a lo !e8or ue "uede hacer en una acci/n deter!inada# -odr.a!os crear una inteligencia o conciencia o algo as.) ue si!ula e:acta!ente de la !anera ue hace!os) o de alguna !anera se "arece o no tiene nada ue ver con la for!a en ue lo hace!os) o alguna co!binaci/n de los tres# 2a ;nica "regunta es: ='unto tie!"o va a to!ar?= ?curri/ lo !is!o con el vuelo# *o "od.a!os volar) entonces no "odr.a!os) entonces otra vez no "udi!os) y luego) un d.a) alguien flotaba en el aire# -iense en ese evento) y "ensar en lo ue ha sucedido desde ue vol/ "or "ri!era vez# Hoy !e cruc1 a la naci/n en un gran avi/n de alu!inio "or 6 355A BEs incre.bleA Cu1 avances hay ue conseguir "ara ganar la ultrau!ana inteligencia? Hay cosas ue sabe!os ue no sabe!os# *o sabe!os todav.a dan cuenta de la visi/n en la for!a en ue se da cuenta de una rata) un "erro o un ser hu!ano# Estos tres siste!as utilizan !uy diferentes cantidades de "otencia de clculo "ara "rocesar la visi/n# 0 todav.a no "ode!os si!ular cual uier#Esta!os !e8orando el "rocesa!iento del lengua8e) la co!"rensi/n de las "alabras a !edida ue fluyen) y luego el significado de estas "alabras ue la gente tiene en la oraci/n# -ero ni si uiera esta!os cerca del "unto donde voy a ser ca"az de hablar con el e ui"o de la !anera ue estoy hablando con usted) y ue entendere!os el significado de !is "alabras y !is intenciones# Hay dos "roble!as "rinci"ales ue i!"iden el "rogreso rob/tico# (i "udieras entender el lengua8e y la visi/n de "roceso) ue "odr.a sustituir a todo el "ersonal de DedE:) @-() el siste!a "ostal# Millones de "ersonas conducen ca!iones de @-( y DedE:# (i so!os ca"aces de construir un robot ue "uede ver y entender el idio!a) todas estas "ersonas estarn sin traba8o debido a ue el siste!a rob/tico ser.a ca"az de traba8ar 39EF a un costo de !enos de un ser hu!ano) y los seres hu!anos se ueden sin traba8o# Cu1 sucede en ese !o!ento? (ie!"re "ens1 ue ser.a una curiosa coincidencia lograr la visi/n artificial en el a%o 3535) ya ue =3535= tiene esta relaci/n con la visi/n: una visi/n "erfecta es de 35 sobre 35# (i tene!os 1:ito en esto) ser.a "o1tica) interesante# 'onfundiendo de cinco o diez a%os) "ero creo ue en ese intervalo de tie!"o "ro"orcionarn una "otencia de clculo "ara lograr la visi/n# Es una "arte !uy i!"ortante de nuestro cerebro# Hay todo un !/dulo de vuelta a u.) utiliza!os ## !edio billones de o"eraciones "or segundo? Todav.a no tienen el "oder de co!"utaci/n "ara hacerlo) "ero en 3535 va!os a tener#

0o es"erar.a ue absoluta!ente en ese intervalo de tie!"o a con uistar la visi/n# 0) "robable!ente) el lengua8e se obtuvo en el !is!o "eriodo# Incluso +ragon *aturally ("eaGing) o cual uier otro siste!a de dictado) hoy en d.a son as. ue es !e8or de lo ue eran hace cinco a%os ue su uso hace ue una i!"resi/n# Incluso sin la calibraci/n) "ueden entender &o !s bien) reconocer, la !ayor "arte de lo ue dices# Hay varias !aneras de llegar all.) "ero sabe!os ue Hoogle est traba8ando en ello# (abe!os ue !uchas "ersonas estn traba8ando en c/!o hacer ue la co!"utadora ca"az de entender a los seres hu!anos) cuando ellos hablan# +is"one de diez a%os) entonces? $einte? *o "uedo calcular el tie!"o e:acto) "ero en alg;n !o!ento de ese tie!"o tendre!os ue habla o la visi/n# 'on estas dos ca"acidades ue "ode!os hacer !uchas cosas ue no "ode!os hacer ahora) ue la a"arici/n de la =conciencia= se vuelve casi irrelevante#Muchos de los "uestos de traba8o en nuestra econo!.a no re uieren de una conciencia) "ero s/lo la co!"etencia) la ca"acidad de e8ecuci/n# Ieal!ente lo hace!os sin nuestros cuer"os en el futuro? En el sentido !s si!"le) creo ue hay toda una serie de "roble!as relacionados con tener los cuer"os# @no de ellos es la !uerte# 'reo ue la idea de la !uerte absoluta!ente re"ulsivo# 2a idea de ue ## *o s1) llevo una "ersona nor!al ### Jinston 'hurchill) a u. hay un no!bre# *o s1 cuntos a%os ten.a cuando !uri/# +iga!os ue 1l !uri/ a los setenta# (etenta a%os de conoci!iento acu!ulado) !iles de infor!es) una incre.ble red de "ersonas e ideas# 0 cuando !uri/ ### "uf) todo se ha ido# Es algo re"ulsivo# Es inace"table) rid.culo ue una conciencia co!"leta debe desa"arecer as. "or ue tienes cncer o "or ue su coraz/n ha de8ado de latir) o lo ue sea# As. ue tene!os este "roble!a con nuestro cuer"o# El segundo "roble!a es el de nuestro cuer"o) tales co!o so"ortes) real!ente de8a !ucho ue desear# (i no darles de co!er) se !uere) si se lesiona) no se "uede hacer ciertas cosas) tene!os ue descansar cada dos horasK sudor# *o soy el !e8or a"oyo ue se haya dise%ado "ara so"ortar una conciencia# 0 este es otro "roble!a# En tercer lugar) esta!os creando estos a!bientes virtuales# I!agina ue uieres interactuar con un entorno infor!tico# 2a !ayor.a de las "ersonas hoy en d.a lo hacen con dos "ulgadas# Tienen un !ando a distancia y con su "aseo de dos "ulgadas) ob8etivo) lanza!iento) !ire a su alrededor) todos con dos "ulgadas) !ientras ue nuestros cerebros estn dise%ados "ara controlar un con8unto de !;sculos y cientos de infor!aci/n sensorial "ara gestionar !uy rico) en diferentes canales # Hoy en d.a) en un 8uego de v.deo) el audio y el video) "ero no reciben infor!aci/n ni ca"ullos tctil# *o sientes el viento# @sted no se siente la aceleraci/n# Toda esta ri ueza se sacrifica "erce"tivo# Ar!ar la !uerte) la cuesti/n de a"oyar "obres y la ba8a =de entrada y salida= del cerebro ue no se "uede !over en entornos virtuales) y se entiende "or u1) tan "ronto co!o la tecnolog.a est1 dis"onible) nos uieren = uitar= los cerebros de nuestros cuer"os ) los "uso en un lugar seguro) desarrollado con el ob8etivo de !antener el cerebro vivo el !ayor tie!"o "osible) y conectar co!"leta!ente a los canales virtuales# As. ue "ode!os e8ercer el control con todos nuestros !;sculos) y va!os a utilizar todos nuestros sensores de leer la infor!aci/n) y !antenerse dentro de estos entornos virtuales# Tan "ronto co!o sea "osible) seguro y barato) todo el !undo va a uerer hacer esta transici/n) "or ue no uere!os !orir# 0o no uiero "arar# 2as ! uinas sern !s i!"ortantes ue los seres hu!anos? -ersonal!ente) creo ue sucedern varias cosas al !is!o tie!"o# @no de ellos es ue las inteligencias le8os ultra hu!ana estn desarrollando hardLare y softLare# 2la!e a la inteligencia artificial) o co!o usted desee# Al !is!o tie!"o) los entornos virtuales se volvern cada vez !s rico) lla!ativo e interesante# Hay otra "arte en la ue los seres hu!anos se estn convirtiendo en ### 2os !s relevantes? Menos i!"ortante? *uestra i!"ortancia relativa en el @niverso) con el naci!iento de estas otras es"ecies inteligentes) va a ca!biar# *o sabe!os c/!o va a ca!biar) "ero algo va a "asar#

-ersonal!ente) no creo ue lo hare!os nunca !aterial!ente nuestros cerebros dentro de los cuer"os rob/ticos# *o estoy seguro de ue va!os a seguir "ara "reocu"arse "or el universo real y f.sico) una vez all. estare!os =conectados= y gasta!os todo nuestro tie!"o en universos artificiales) s/lo "or ue se "ueden !oldear a nuestro gusto# (ern !s rica) interesante y divertido# *o habr lluvia) o "ode!os crear a voluntad) y detenerlo cuando no uiere !s# @niversos en el es"acio virtual encontrarn tantas cosas !ucho !e8ores ue las ue e:isten en los universos reales ue no uere!os estar !s en el segundo#

Cynthia Breazeal discute cmo hacer un robot "en vivo" y al parecer "emocional"
Tecnoscienza - Inteligencia Artificial

Las entrevistas del SIAI ( Instituto de la Singularidad para la Inteligencia Artificial )

Cmo

se puede construir una m !uina capa" de interactuar con los seres humanos#

Ms ue un coche !e8or) trata!os de construir una criatura artificial# 0 "ara entender c/!o hacerlo) nos res"uestas en la ciencia de8a# En la "sicolog.a del desarrollo) en "ri!er lugar) "ero ta!bi1n en otras ra!as) co!o las neurociencias) la etolog.a ### a fin de obtener ideas e ins"iraci/n sobre c/!o construir una ! uina ue no s/lo cuentan con estas "ro"iedades t."icas de la vida) "ero lo ue "uedo "ensar) to!ar decisiones) a"render) y ta!bi1n) "ara nosotros) en "articular) interactuar y relacionarse con los de!s con el fin de coordinar su con su co!"orta!iento# @no de los grandes retos de los ;lti!os a%os ha sido la de dar a la ! uina de una =teor.a de otras !entes=# $ero% cmo# Cmo se puede construir m !uinas !ue puedan entender los comportamientos de los dem s en t&rminos de estados psicolgicos# Hablo no s/lo de los ="atrones de actividad= de lo ue ests haciendo) "ero de lo ue "ueden ser sus intenciones# Tus !otivos# (us creencias# He!os estudiado detenida!ente la neurociencia y la "sicolog.a) tratando de entender c/!o la gente no "uede entender Ma otrosN !ientras se desarrolla esta habilidad en los ni%os y) a continuaci/n) tratar de dar for!a) e!ular todas las ! uinas# @no de los "rinci"ales te!as ue estarn en ="ers"ectiva=) en la teor.a de otras !entes y c/!o) si usted tiene uno) usted "uede ### sustancial!ente) tanto co!o coordinar nuestras !entes se "roduce a trav1s de la coordinaci/n de los organis!os) y viceversa# -ero a !edida ue los !odelos de todo esto en un coche?-uede "robarlo? 'reo ue es una nueva de!anda "ara la rob/tica) ya ue hasta

ahora gran "arte de la investigaci/n se ha ocu"ado de la rob/tica "ara construir ! uinas ue interact;an con las cosas#'/!o construir robots ue "uedan recoger las tazas) !ontar estructuras y navegar "aisa8es !arcianos?0 cuando se "iensa en la sociedad hu!ana ### hay gente "or todas "artesA Es "rofunda!ente social y cuando se "iensa en c/!o construir una ! uina ue es ca"az de interactuar con la gente es un nuevo con8unto de "roble!as "or ue la gente no s/lo se rigen "or las leyes de la f.sica) sino ta!bi1n de sus !entes# Ahora bien) estas ! uinas deben ser ca"aces de entender a la gente) incluso en estos t1r!inos# 0 esta es la a"ertura de una a!"lia ga!a de cuestiones# $uede una m !uina de tener una perspectiva de su propia# 'on "ers"ectiva) se entiende gen1rica!ente el hecho de ue "ara entender a alguien) se siente co!o usted se est "oniendo en sus za"atos# Ta!bi1n hablo de un "unto de vista co!o =literal= co!o el "unto de vista visual# (i yo fuera ca"az de a"reciar una escena visual desde la "ers"ectiva de otra "ersona) usted "uede ser ca"az de deducir lo ue la "ersona "uede sentirse fiel a esa escena# -ero si va!os !s all) si es ue "ueden ser reconocidos "or el robot) desde la "ers"ectiva de una "ersona) las acciones ue la gente est "oniendo en "rctica dentro de un conte:to) el robot "uede ser ca"az) en esencia) "ara usar el !is!o co!o un si!ulador de "ensar: =(i yo fuera a realizar esas acciones) en ese conte:to) lo ue "odr.a ser !i "ro"/sito?= 'ules ser.an !is razones?Esto) !s o !enos) el enfo ue con el ue esta!os tratando de dar al robot al !enos una "ri!era a"ro:i!aci/n de las "osibles intenciones) creencias) !otivaciones de un agente hu!ano# 're no slo la programacin de las emociones# -ara ue estos robots hasta el "unto en ue "uedan real!ente interact;an con las "ersonas) y estas ganancias son sobre todo "sicol/gicas) sin duda una "arte del traba8o consiste en la !odelizaci/n de los "rocesos cognitivos# Esto "odr.a ser si!ilar a los !odelos de clculo del "rogra!a# -ero ta!bi1n el a"rendiza8e y el desarrollo 8uegan un "a"el "rofundo# ?tro as"ecto de nuestro traba8o estudia el desarrollo del bienestar social) y ver c/!o evoluciona# 2os seres hu!anos son seres "rofunda!ente sociales) "ero ue no han nacido de esa !anera# Tene!os !uchos) !uchos a%os "ara desarrollar esa e:"eriencia# 2a co!"etencia) ue en gran !edida !adura !ediante la interacci/n social# E incluso con los robots "arecen for!as !uy sociales de a"rendiza8e) tales co!o la i!itaci/n# 0 varios "sic/logos del desarrollo "ro!inentes creen ue los ni%os a"renden a i!itar a otros) "ara desarrollar este ti"o de =teor.a de otras !entes=) a "artir de i!itarlos# -or lo tanto) si usted) co!o un ni%o) ver a otros adultos a su alrededor) de !anera i!"l.cita for!ular el "ensa!iento: =Ellos son co!o yo# 0o soy co!o ellos# Me "ueden i!itar) "uedo tratar de i!itarlos# 0 si "uedo i!itarlos) entonces de alguna !anera "uedo tratar de =!eterse en la cabeza= a =asu!ir un "unto de vista O#= El estudio de estas for!as sociales de a"rendiza8e) co!o los robots desarrollan estos !s sofisticadas for!as de la inteligencia social) es e!ocionante# ?tro e8e!"lo es el =referente social= es una for!a de a"rendiza8e ue se ad uiere en la edad adulta) "ero el registro "or "ri!era vez a un a%o de edad# En esencia) la referencia social es: =Tengo una cosa nueva# *o s1 si es bueno o !alo# *o s1 u1 hacer# =MEn estos casosN a !enudo) los ni%os ven a su !adre co!o una fuente de confianza y observar su reacci/n) antes de to!ar cual uier decisi/n# (i !a! se ve.a un "oco =asustado) entonces yo "odr.a entender ue su reacci/n acerca de esta cosa o este conte:to) y luego "uede e!"ezar a co!"artir el criterio "ara decidir c/!o co!"ortarse# Esto) "or su"uesto) es !uy i!"ortante "ara los ni%os) "or ue hay tantas cosas en el !undo ue no sabe!os si lla!arlo bueno o !alo "ara nosotros ### -odr.a!os "ensar en dotar a los robots de este ti"o de inteligencia# +e re"ente) no se sabe si las cosas son buenas o !alas) seguro o "eligroso# -uede ue tengan ue observar a la gente) o incluso otros robots) con el fin de hacer una evaluaci/n actualizada# As. ue creo ue estas for!as de a"rendiza8e social) "ara a"render de los de!s) a"render de los de!s) es !uy i!"ortante el comportamiento aprendido de una m !uina puede copiar ( transferir a otro e!uipo# (i se habla de entidad co!"utacional) 'ierta!ente es "osible) una vez ue el robot a"rende algo)

dar conoci!iento) de ue esto suceda) dis"arando un rayo con la co!unicaci/n inal!brica o lo ue sea#(in e!bargo) de alguna !anera se "uede transferir a otro robot o a otra ! uina de su ca"acidad "ara ad uirir esa habilidad# 2uego) de"endiendo de la ! uina) si tiene una for!a) un siste!a sensorial si!ilar) usted "uede necesitar utilizar ese conoci!iento co!o "unto de "artida y luego !s a"render) de e:"eri!entar) e:"lorar) con el fin de "erfeccionarlo o ada"tarlo a s. !is!o# 'reo ue) dentro de las entidades co!"utacionales) esto es cierta!ente "osible# a!"liar la vista) sin e!bargo) creo ue) ade!s de las tareas) los hechos y as. sucesiva!ente) sab.a ue las ! uinas de los valores hu!anos# 2o ue considera!os a"ro"iado y lo ue no lo es# 'reo ue esta infor!aci/n ta!bi1n estar conte:tualizado socio-cultural son i!"ortantes# -robable!ente la gente "iensa de los robots ue van a trav1s de Internet y reco"ilar toda esa infor!aci/n) "ero estoy tratando de dise%ar de tal !anera ue la !uestra "ara e:"eri!entar lo ue estn e:"eri!entando otra) "ara entender unos a otros de una !anera !s co!"rensiva) !s ue si!"le!ente !ani"ular s.!bolos abstractos# (i usted est "ensando en ! uinas inteligentes ue tratan de relacionarse con la gente) si se "uede identificarse con nosotros) tengo la sensaci/n de ue esto "robable!ente va a hacer !s e!"tico con nosotros) en lugar de ir a trav1s de la !ani"ulaci/n de s.!bolos abstractos "ara calcular la bueno o !alo# Es una idea interesante) dar a las ! uinas de un conoci!iento basado en la e:"eriencia# 'reo ue el conoci!iento har ue ="ersonal= "ara el robot# -arte de todo este "roceso est !otivado "or a"render) "ero creo ue es una for!a vlida de co!"render a los de!s y !e gustar.a ue estas ! uinas estaban e ui"ados con 1l# $odr)a un ro*ot sea consciente# El "roble!a) incluso cuando se trata de la conciencia hu!ana) surge en gran "arte del hecho de ue) en realidad) no se sabe !uy bien lo ue es =consciente=# +eter!inar si la ! uina P es consciente o no) ue nos obliga a refle:ionar sobre el fondo de la cuesti/n: =Cu1 es lo ue real!ente uiere decir con esta e:"resi/n?= 0 creo ue cuanto !s nos acerca!os a la definici/n correcta de =consciente=) !s "robable se convierta en el desarrollo de ! uinas ue son conscientes# 0 usted "uede seguir "ara des"lazarse hacia arriba y hacia aba8o la barra# (i "ensa!os en estos "ri!eros robot) !e inclino &ser.a incluso con un insecto, atribuirles un boceto) un to ue "ri!itivo de lo ue) en el otro e:tre!o) considerar.a!os una conciencia total!ente desarrollada# *o "uedo creer ue es una cosa binaria) ue o lo tienes o no# (e trata de un "roceso continuo) en !i o"ini/n# El reto frente a nosotros) en !i o"ini/n) consiste) en "arte) al tratar de entender lo ue es lo continuo) y "rofundizar el significado de estos t1r!inos# En !uchas conversaciones ue tuve con la gente) la gente =co!;n= no sentir e!ociones "uede dar a una ! uina#'reo ue la cuesti/n se reduce a la i!"ortancia del ciclo de vida# 0o "odr.a ser ca"az de "rogra!ar este ti"o de res"uestas iniciales e!ocionales) relaciones y as. sucesiva!ente) "ero en el fondo) esa entidad tiene ue "asar "or un ciclo de vida y e:"eriencias ue les "er!itan co!"render real!ente lo ue son estas cosas# 'reo ue crece!os y a"rende!os a dos "ersonas una "arte esencial de tener e!ociones genuinas) "ero !e "arece ue esto ta!bi1n es "osible ue una ! uina# +u& importancia tienen los sentidos para crear una ,m !uina de la e-periencia,# Queno) "or lo ue he vivido ) los sentidos son la "arte central del robot y esto es "ara ue sea interesante &y co!"le8o, !i traba8o# Al igual ue las otras es"ecies) de hecho) el robot "uede tener for!as !uy diferentes de las de los hu!anos# 2o cual nos lleva de nuevo al "roble!a ue antes# Tene!os ue entender o "rofundizar nuestra co!"rensi/n de las e!ociones o la conciencia antes de tratar de transferirlos a un "erro u otra es"ecie) y "ara decidir si una ! uina "udiera alguna vez ser consciente# 'reo ue los robots) es"ecial!ente los robots ) contar con una a!"lia ga!a de for!as de realizaci/n) una a!"lia ga!a de habilidades) y creo ue el "ro"/sito de la rob/tica no est tratando de re"licar los seres hu!anos) "or ue la gente ya hay suficiente# ya sabe c/!o crear "ersonas# 2o ue uere!os son los tecnolog.as ue se co!"le!entan entre s.# (er una asociaci/n) una sinergia ue una r1"lica# 'reo ue los robots sie!"re sern diferentes de las "ersonas) no son =hu!anos=) y nunca lo ser# 0 creo ue la to!a de las cualidades hu!anas co!o !edio de co!"araci/n si!"le!ente haciendo la "regunta e uivocada# (e trata !s de tratar de entender lo ue significar.an estas cosas cuando se a"lica a un coche y tratar de construir autos de !anera ue "uedan relacionarse con nosotros# AI se pueden crear en un mundo simulado% o la

percepcin de los sentidos es necesario para la inteligencia# En "ri!er lugar) tengo ue entender lo ue la gente tiene la intenci/n) en este conte:to) =la inteligencia general artificial=) ya ue "robable!ente se "odr.a desarrollar un !undo si!ulado !uy interesante) los agentes "ueden ad uirir) dentro de ese en todo el !undo) una gran variedad de lo ue 8uzgar la conducta inteligente) cognitivo# -ero va tan le8os co!o "ara decir ue la inteligencia "odr.a entonces entrar en este !undo# 0 !i traba8o se trata bsica!ente de las "ersonas y el !undo f.sico# 'reo ue la naturaleza de la encarnaci/n y de la i!"ortancia de robot f.sico son as"ectos cruciales en el desarrollo de ! uinas ue entienden este !undo y la variedad de "ersonas# !undos si!ulados no ofrecen la "lenitud de la e:"eriencia y el co!"orta!iento hu!anos# Esta!os li!itados "or las interfaces) # de todo ese ti"o de cosas creo ue la "regunta es: =Cu1 uiere decir la inteligencia general= Incluso si usted est dis"onible "ara asegurar ue "uedan alcanzar la inteligencia general artificial) esto no se traduce necesaria!ente en este !undo# Lo !ue fascina en ro*tica

Sistemas Inteligentes estn totalmente integrados. Entrevista con Qarney -ell) fundador de -oLerset
(oy Qarney -ell) actual!ente fundador y director e8ecutivo de -oLerset ) una e!"resa ue utiliza la inteligencia artificial avanzada "ara "ro"orcionar al !undo una nueva !anera de buscar infor!aci/n) de !anera ue "er!ita a los usuarios realizar b;s uedas en lengua8e natural en lugar de tener ue hablar en t1r!inos co!"rensibles "ara un ordenador# (in e!bargo) todav.a no he!os creado la inteligencia general artificial y estable) esta!os traba8ando en una eta"a te!"rana# -ero va!os a tener la ayuda de algunos de los "rinci"ales avances de la IA ue se han estancado en los ;lti!os treinta a%os# 'reo ue es !uy dif.cil "redecir el futuro# 'o!o !:i!o el anlisis do -ode!os basado en las tendencias# Ha habido un "rogreso constante en la AI) co!o se !uestra en la 2ey de Moore# -ensando en las "ri!eras investigaciones sobre la influenza aviar) ue ten.a ue estar todo el tie!"o tratando de conseguir todo en "oca !e!oria y "otencia de "rocesa!iento# As. ue la AI se ha convertido en !ucho !s !aleables) gracias a los avances en estos dos sectores# @n buen e8e!"lo es el a8edrez# 'uando las "ersonas intentaron su !ano all.) las "ri!eras veces) fue uno de los "ri!eros grandes "roble!as de la IA) y la gente dec.a ue .ba!os a tener un "rogra!a de a8edrez ca"az de derrotar a un ca!"e/n del !undo &hu!ano, "uede ue dentro de tan s/lo cinco a%os# -ero unos cinco a%os "asaron sin !ucho "rogreso) y as. hasta dentro de 37 / <5 a%os# 2a gente estaba casi desalentadores cuando las cosas final!ente e!"ezaron a funcionar# (e hab.a "roducido un gran avance en la ciencia) en la 2ey de Moore) hab.a "rogra!as ue surclassavano ca!"eones !undiales en algunas situaciones &hu!anos,# Es s cierto) algunos de estos "roble!as es !uy dif.cil) re uiere !ucho tie!"o) "ero lo ue es"era!os es ue los restos de la tecnolog.a# Es"ec.fica!ente "ara la singularidad) es dif.cil de "redecir# 0o dir.a ue dentro de cien a%os) es casi seguro ue tendre!os ordenadores ue "ueden funcionar a niveles hu!anos) la absorci/n de la infor!aci/n del !undo y "rocessandole !s r"ido ue nosotros) y el "roble!a es s/lo si logra!os !antener el rit!o# (oy un consultor de la (IAI# El Instituto de la (ingularidad es una organizaci/n sin fines de lucro ue "rovee esencial!ente lo ue sern las consecuencias a largo "lazo cuando una inteligencia artificial verdadera vendr y afectar al !undo# Hay algunas cuestiones !uy interesantes#(abe!os ue en las "ersonas tecnol/gicos tienen diferentes intereses) acad1!icos) intelectuales) econ/!icos# -ero tarde o te!"rano ese logro tecnol/gico llega) y ue a !enudo s/lo se dan cuenta de las consecuencias !s tarde# El Instituto de la (ingularidad es res"onsable de buscar !ucho y tratar de hacer "redicciones) y aun ue las cosas "arecen venir de !s all) el futuro vendr !s r"ido ue cual uiera de nosotros se es"eraba) he a u.) nos a"arta!os la !irada y decir: =2o ue usted necesita "reocu"arse en este !o!ento? =# Tal vez hay cosas ue hacer "ara "re"ararse) o tal vez usted tiene ue tener en cuenta las for!as ue se utilizan "ara el dise%o de estos siste!as de inteligencia artificial) "or lo ue ser la AI a la derecha en el futuro) en lugar de las "otencial!ente incorrectas#

As. ue !uchas de las cosas ue habla!os a u. casi entrar en el reino de la ciencia ficci/n# 2o curioso es ue las cosas ue eran de ciencia ficci/n hace diez o veinte a%os son reales) y esta!os viendo este ti"o de escenarios# 2o ue esta!os hablando ahora son uizs los escenarios de ter!inaci/n# Cu1 sucede cuando usted tiene un ingreso bruto a8ustado del siste!a igual o !s inteligentes ue los hu!anos) co!o se relacionan con los seres hu!anos? Cu1 "asar si todos sus "ro"/sitos? Tal vez esca"ar del control# @n e8e!"lo es un siste!a destructivo de la IA) interesado s/lo en la con uista del !undo# Estos son) en cierto sentido los lados ocultos y la inteligencia artificial te!ible ue ve!os a !enudo en la ciencia ficci/n# -uede suceder ue una IA ver los seres hu!anos co!o una a!enaza y to!ar si!"le!ente) co!o lo har.a un hu!ano) destruir y do!inar todo# As. ue esto es lo ue va a suceder cuando tene!os siste!as inteligentes tan "oderosos) tal vez !s inteligente ue nosotros) con ciertos instintos arraigados do!inio y "odr.an !atarlos a todos? (in duda) ser una cosa !ala# Ahora) hay razones "or las ue un siervo tan inteligente tiene una visi/n li!itada# Mucha gente "iensa ue est escrito en nuestra ar uitectura de los "ri!ates# Muchos ani!ales no lo hacen# *o es cr.tico) "ara la inteligencia# Al darse cuenta de lo ue la ar uitectura de una !ente inteligente y ue hay toda una =fa!ilia de "osibles !entes= ue "odr.an ser dise%ados) ue tratan de dise%ar? Hay ue "oner un "oco de ti"os de e!ociones negativas) o si!"le!ente los buenos? @sted "uede tener el bien sin el !al? Estas son las cuestiones ue deben abordarse ahora) y no tiene efectos sobre la ar uitectura !ental ue "ode!os crear# Estos te!as son sin duda !ucho en el futuro# -ero) co!o sabe!os "or los avances en la tecnolog.a) el futuro llega antes de lo ue es"era!os# En "articular) tene!os el conce"to de ca!bio acelerado) i!"ulsado "or Iay RurzLeil) donde suceden las cosas !s r"ido y !s r"ido# As.) las co!"utadoras aceleran !s r"ido ue nunca# Hasta u1 "unto es este el futuro? Ieal!ente no lo s1# As. ue "ode!os decir ue "odr.a ocu"ar en la creaci/n de estos siste!as de IA estarn cerca# -ero tal vez si nos "one!os a "ensar de ante!ano ser !e8or# El "roble!a es ue en ese !o!ento ya se hayan to!ado algunas decisiones y no se "uede volver atrs# As. ue lo !s interesante es "ensar en el futuro: =Hay as"ectos ue debe!os considerar ahora) antes de ue sea de!asiado tarde) tal vez?=-or ue si asu!i!os ue hay s/lo cinco a%os "ara lograr estos siste!as de IA fuerte) es "osible ue las decisiones i!"ortantes ue se deben to!ar de in!ediato "ara evitar luego tener consecuencias desagradables# 2a singularidad est la idea de ue habr un !o!ento ;nico en la historia hu!ana donde las co!"utadoras vienen a ser tan inteligentes co!o los hu!anos# 0 "uesto ue el rit!o de desarrollo de los co!"onentes electr/nicos es !s r"ido ue la tasa de evoluci/n de los siste!as biol/gicos) llegar un !o!ento en ue los e ui"os lleguen a las "ersonas y las cosas van a ca!biar irreversible!ente#Entonces) el ordenador seguir !e8orando !s y !s r"ido ue las "ersonas ue "uedan "er!anecer con la !is!a ar uitectura cognitiva y no va a !e8orar al !is!o rit!o# -or lo tanto) todo va a ca!biar !uy r"ida!ente# Cu1 nuevos niveles de infor!aci/n estar dis"onible y u1 ti"os de !entes "odrn conectarse entre s.? Ieggere!!o hasta el !o!ento en ue los e ui"os se alo8arn en el "aso de la infor!aci/n y no lo hare!os) y el !undo) a "artir de ese !o!ento) se e8ecutar de!asiado r"ido "ara nosotros# 2os ;nicos ue !antendrn el rit!o del ca!bio y la infor!aci/n estarn en efecto el ordenador# 0 =Esta es la (ingularidad# En cuanto a !i e:"eriencia) he estado interesado desde hace !ucho tie!"o AI: desde ue era un ni%o) en realidad# 'uando yo a;n ten.a !i t.tulo en (tanford) !e es"ecializada en siste!as si!b/licos) un rea donde la filosof.a) la "sicolog.a) la lingS.stica y la infor!tica convergen) !ientras tratan de averiguar lo ue se convertir en un siste!a inteligente# He traba8ado) aun ue a;n no se gradu/ de la co!"rensi/n del lengua8e natural en uno de los laboratorios !s grandes en el !undo de la inteligencia artificial# 2uego to!1 un doctorado en ciencias de la co!"utaci/n y la IA en la @niversidad de 'a!bridge) donde era res"onsable de los "roble!as ue todav.a ! uinas de inteligencia artificial y c/!o "odr.an a"render de su e:"eriencia cuando se encontraron con nuevos "roble!as) ya ue nunca se hab.an "resentado) i!aginando estrategias y soluciones a la !is!a# 2uego fui a la *A(A y de la *A(A) he traba8ado en el ca!"o de la inteligencia artificial

a"licada al softLare ue "odr.an crear y controlar naves es"aciales en co!"leta autono!.a# Traba8o en el diagn/stico) "lanificaci/n) e8ecuci/n !ulti-threaded) control y vigilancia) ue han reunido los !e8ores conoci!ientos de nuestros laboratorios y se reunieron en la "ri!era ar uitectura de softLare "ara las naves es"aciales aut/no!as y nos hizo volar a bordo de una nave es"acial# He!os de!ostrado ue cada siste!a se "odr.a "resentar a los ob8etivos de alto nivel y el siste!a) analizados estos ob8etivos) "lane/ una estrategia "ara alcanzarlos# 0 luego se llevaba la cuenta de lo ue "asa) y si hab.a "roble!as) ue se diagnostica) se tratar.a de re"arar) y entonces 1l "laneaba de nuevo y todo se co!"arte ada"tado a la nueva situaci/n# +e esta !anera se dio la o"ortunidad a la nave de la *A(A "ara enviar a e:"lorar el universo sin tener ue estar atado a las v.as de co!unicaci/n con la Tierra) creando una nueva ar uitectura de siste!a co!"leto ue se "uede ada"tar# Este traba8o fue en "arte la ins"iraci/n "ara la !isi/n a Marte) donde tuvi!os rover en la acci/n "ero no tanto s. ue nos hubiera gustado) "ero !ucho !s de lo ue eran antes# -or lo !enos ue "od.an hacer frente a sus "roble!as) su"erar los obstculos) y cosas "or el estilo# He "artici"ado en varias nuevas e!"resas desde ue sal. de la *A(A# Actual!ente) soy el fundador y director e8ecutivo de una co!"a%.a lla!ada -oLerset# Esta!os desarrollando innovaciones revolucionarias en la co!"rensi/n del lengua8e natural# *uestros siste!as de leer todos los docu!entos en la Leb y los convierten en una re"resentaci/n se!ntica tratando de entender su significado# En el !o!ento de la b;s ueda) un usuario "uede utilizar un lengua8e natural a 1l y a continuaci/n) el siste!a e:trae el significado y hace una b;s ueda transversal entre el significado de la b;s ueda del usuario y el significado de todo el contenido y toda la infor!aci/n ue tiene "ara devolver un ti"o co!"leta!ente nuevo de categor.a# As. ue en efecto esta!os buscando un "unto de contacto entre el lengua8e natural y el "otencial de la inteligencia artificial avanzada) lo ue afectar a la vida de todos# (er real!ente la "ri!era vez ue "ode!os decir ue real!ente interactuar con un siste!a inteligente# (in e!bargo) todav.a esta!os en el "rinci"io# Esta!os e:"lorando tres d1cadas de "rogreso en el ca!"o de la inteligencia artificial# -ero ya "ode!os ver) en lo ue esta!os haciendo co!o un siste!a de docu!entos de una vez le.dos "ueden co!enzar a au!entar su inteligencia directa!ente de a uellos) lo ue da lugar a diversos ti"os de reacciones en cadena en el siste!a trata de saber !s y !s ) tratar de a"render y seguir adelante hasta ue tenga una base de conoci!ientos tan rico ue le "er!ite interactuar con el !undo# -ara obtener la verdadera inteligencia artificial) las necesidades de un deter!inado nivel en !uchos frentes diferentes tecnolog.as# @n rea a la ue estn es"ecial!ente interesados en es la co!"rensi/n del lengua8e natural# Cue es esencial!ente "ara hacer ! uinas ca"aces de razonar sobre la lengua: lectura) co!unicar) co!"render) hacer cone:iones) hablar con otras "ersonas y otras ! uinas inteligentes# +e hecho) hay !uchas otras habilidades re ueridas# -or e8e!"lo) la ca"acidad hu!ana "ara "rocesar la visi/n de ser ca"az de localizar los ob8etos y "redecir las consecuencias de su !ovi!iento en el es"acio# Todav.a no tiene nada co!o esto en el ordenador# 0 entonces) incluso si usted construye siste!as ue han de entender el !undo y el significado de las cosas) hasta ue se les "ro"orciona ca"acidades "erce"tivas nunca va!os a tener una !uy inteligente# Hay !uchas) !uchas !aneras# Algunas "ersonas creen ue al final estas inteligencias debe estar e ui"ado con un cuer"o ue se co!"ro!etan en la realidad de todos los d.as) "ercibir las cosas) for!ar asociaciones y luego "asar a s. !is!o en la e!"resa# -or lo tanto) creo ue no ser suficiente si!"le!ente "ara resolver un solo "roble!a# Todo de"ender de toda una ar uitectura ue integra diferentes as"ectos de la inteligencia y ca"az de a"render de la e:"eriencia a trav1s de la interacci/n con el !undo# *o es s/lo una cuesti/n de tener una herra!ienta inteligente co!o un refrigerador ue las /rdenes de leche# 2o Ouna cuesti/n de tener las herra!ientas inteligentes total!ente integrados# 2o Ouna cuesti/n de siste!as ue "ueden tener sus "ro"ios cuer"os) ca!inar) hablar robots ue son f.sica!ente !s ue so!os ca"aces de vivir en el !undo y de entender las cosas con la !is!a o !ayor inteligencia ue nosotros# 0 =Este es el !undo de la ue habla!os) donde s/lo hay "e ue%os instru!entos ue si!"le!ente usa!os) "ero los agentes con su "ro"ia voluntad) sus necesidades) sus !ovi!ientos) y "otencial!ente iguales) o ui1n sabe) en una "osici/n su"erior a nosotros# Mi

"a"el es el de consultor (IAI# 'reo ue lo ue est haciendo es grande# 'reo ue son real!ente "ara el "unto de encuentro "ara todas a uellas "ersonas ue uieran "ensar en estas cosas) no s/lo a los "roble!as a corto "lazo en la inteligencia artificial o una sola a"licaci/n u otro) "ero real!ente las cuestiones clave en el largo "lazo de esa realidad cuando tendre!os esta zona va a ser !uy avanzado y ue) "or lo tanto) estos aconteci!ientos sern realidad# Estoy !uy feliz de a"oyar a las "ersonas ue to!an esta "ers"ectiva visionaria# Es una organizaci/n "e ue%a y tienen su !s brillante y ue algunas "ersonas real!ente a!an su traba8o) y !i "a"el es el de ser "arte de esta realidad) ayudando a la gente a entender el valor) ser un evangelista) y hacer ue la gente interesante # -uesto ue soy un e:"erto en inteligencia artificial y ue !i e!"resa -oLerset va a construir los l.!ites de la inteligencia artificial) ue se "uede decir ue ser "arte de este entorno en el ue la gente "iensa acerca de lo ue suceder en el futuro) cuando no habr estas ! uinas inteligentes# Esto genera un gran inter1s en las "ersonas ue desean invertir en !entes brillantes o encontrar !aneras de involucrar a !.# -or lo tanto) es i!"ortante contar con una organizaci/n co!o el Instituto de la (ingularidad) donde "uedo conocer gente "ara crear un gru"o de "ersonas interesadas en los te!as ue real!ente i!"ortan#'reo ue !uchos en el !undo se debe a las ideas) y si usted no cree en una idea y nosotros si!"le!ente hacer su traba8o) es "osible ue en el largo "lazo "ara estar a solas# +e vez en cuando) es una "ersona ue tiene una idea# 0 una vez ue son conscientes de la idea) todo lo ue hacen es) !s o !enos consciente!ente resultado directo# 'reo ue lo ue est haciendo a u. (IAI# Ellos real!ente estn llevando adelante el conce"to de singularidad y el hecho de ue el futuro de la inteligencia artificial se est haciendo realidad !ucho !s r"ido ue la !ayor.a de las "ersonas 8a!s "odr.an haber i!aginado# Ieal!ente tene!os ue "ensar en ello# 2as consecuencias son !uy i!"ortantes# 2a si!"le idea de estar all.) "ara ser visible a las co!unidades cada vez !s grandes) esto significa ue en nuestro traba8o diario) sensibilizar a las "ersonas del "roble!a# Esta idea "uede ser la diferencia entre hacer las cosas suceden "or "artes) ineficaz y "otencial!ente hostil) o de una !anera racional) coordinada y "roductiva "ara lograr el futuro ue todos uere!os ue suceda# +esde el "unto de vista financiero) hay un gran n;!ero de reas en las ue "ueden contribuir# Muchos de ellos tienen consecuencias in!ediatas# $a!os a hacer una cosa en "articular) y ve!os el resultado "oco des"u1s# 0 !uchos de ellos influir en un gran n;!ero de "ersonas el "r/:i!o a%o# 0 esa es la for!a de !edir los resultados) el n;!ero de "ersonas afectadas# 'reo ue el Instituto de la (ingularidad est real!ente llevando adelante una nueva idea de c/!o invertir# Invierte en el futuro a largo "lazo de la hu!anidad y el futuro a largo "lazo de la tecnolog.a# -ero el "unto es ue a largo "lazo se crea todos los d.as y ue estn creando en estos !o!entos# -or lo tanto) la "artici"aci/n) la inversi/n y el a"oyo al Instituto de la (ingularidad) ue real!ente "uede estar seguro de ue su evento tendr consecuencias i!"ortantes sobre el futuro de la hu!anidad# Traducci/n italiano Michele Hianella#

Crear herramientas super inteligencia restringida. !ntrevista con "eter #orvig$ director de investigacin$ %oogle
Tecnoscienza - Inteligencia Artificial

2as entrevistas del (IAI & Instituto de la (ingularidad "ara la Inteligencia Artificial ,

La gente ha estado diciendo desde hace ./ a0os !ue AI era vuelta de la es!uina1 $or !u& no hemos logrado hasta ahora# 'uando la investigaci/n de AI naci/ en los a%os T5) hubo una cierta euforia# Ellos di8eron: =Tene!os esta nueva herra!ienta) el ordenador# -robable!ente va a resolver este "roble!a r"ida!ente=# Entonces descubri!os) con el tie!"o) ue las cosas eran !s dif.ciles de lo es"erado# -ensa!os ue "ensaba ue era s/lo una cuesti/n de l/gica) ser ca"aces de seguir las nor!as A) Q) de ') y luego nos di!os cuenta de ue el "ensa!iento es !s ue eso# Es anlogo) es la gesti/n de la incertidu!bre) el hecho de ue los ue hay en el !undo) no hay !ucho !s# Entender todo esto y llegar a un acuerdo) es !s dif.cil de lo ue "ensba!os# +u& es la Inteligencia Artificial# 'uando escrib. !i !anual) tuviera ue definir cul era la AI# @na de las cosas ue uer.a era evitar todos esos debates filos/ficos# 2a cuesti/n de la viabilidad de la "ro"ia AI) lo ue "ensaba) lo ue la inteligencia es) u1 es la conciencia? En algunas definiciones entran en 8uego todas estas "reguntas# -ero trat1 de deli!itar el ca!"o diciendo ue la AI era construir el !e8or "rogra!a "osible# (e asigna una tarea ue hacer) un robot o alg;n e ui"o con el ue hacerlo) y luego hay !uchos "rogra!as "osibles# En "ocas "alabras) no hay 3 de los "rogra!as "osibles n) y la IA es encontrar el !e8or "rogra!a# ? "or lo !enos) encontra!os uno !uy bueno# 2os dirigimos hacia una Singularidad# 'reo ue es una "regunta interesante# Ieco!iendo este sentido) "ara volver a las historias de $ernor $inge) y las ideas IUHood# Es una "regunta interesante a tratar) y creo ue es nuestra res"onsabilidad co!o cient.ficos consideran ue este ti"o de ideas#(ie!"re debe!os "reguntarnos a nosotros !is!os: =2o ue esta!os traba8ando ser una fuerza "ositiva o negativa? 'ul ser el efecto en la sociedad? =0 esta es una de las "osibilidades) as. ue tene!os ue "ensar# $enida? En caso afir!ativo) u1 va a "asar y c/!o nos "re"ara!os? 3he Singularit( Is 2ear# Queno) "ens1 en ello y no lo veo todav.a# Es co!o to!ar un sis!/grafo y decir: =*o es un terre!oto?= Todav.a hay se%ales) "or lo ue veo# -or otro lado) a veces los terre!otos ocurren de re"ente# sa*e cu ndo se producir la Singularidad# El "roble!a "ara !. es todo lo ue hay# *o se "uede "redecir# Me "reguntaba si algunos signos sugieren su llegada# 0 no) los signos no estn all.# As. ue no "uedo "redecir# (/lo tene!os ue es"erar y ver# 4st de acuerdo con las predicciones de 5ur"6eil so*re la Singularidad# Iay es un gran) y yo a"recia!os todo lo ue ha hecho# 2e agradezco todo lo ue ha hecho su "rogreso en la AI en la !;sica y la lectura# Es un gran e:"erto# Hago lo !e8or ue "uedo "ara decir: =0o uiero hacer esta "redicci/n# $oy a !irar a los

datos dis"onibles) y res"uestas estra"olerV de estos datos =# Es s/lo ue) creo) ue los datos no cubren el "roble!a# En cuanto a la 2ey de Moore) en cuenta ue s.) las co!"utadoras estn au!entando a ese rit!o "articular#-ero yo no creo ue se deduce ue) cuando he!os "asado una serie de transistores) entonces esto va a corres"onder a un n;!ero de neuronas) y luego los dos son e uivalentes# Hay) en !i o"ini/n) la analog.a se ro!"e# nos puede decir lo !ue la Singularidad es inminente# -uede solucionar este "roble!a de dos !aneras# +esde el "unto de vista te/rico) ya casi esta!os listos "ara construir algo ue "ode!os hacer todo el traba8o? 'reo ue) en este !o!ento) no esta!os listos# *o hay consenso sobre la for!a de construir una ! uina ue auto!igliori infinito# 0 desde un "unto de vista "rctico) u1 es lo ue las ! uinas son ca"aces de hacer ahora) y la ra"idez con ue estn "rogresando?'ierta!ente he!os visto !uchos avances# He!os visto las ! uinas de hacer !s y !s cosas# -ero la singularidad no a"arece en la "uerta# 7er el crecimiento tecnolgico e-ponencial o *i-e-ponencial en el tra*a8o% en 9oogle# de"ende de las a"licaciones# En !uchas zonas) ve!os un creci!iento !s lineal#@n buen e8e!"lo es la traducci/n auto!tica del chino al Ingl1s# He!os ado"tado un enfo ue de =cuanto !s se"a sobre el idio!a) !e8or lo hace#= Ieco"ila!os !s y !s e8e!"los de lengua8e) los to!a!os co!o ali!ento a nuestros algorit!os de a"rendiza8e) y al a%adir e8e!"los de lengua8e) el rendi!iento !e8ora lineal!ente# *o es"era!os ue en realidad es e:"onencial# En todo caso) es"era!os ue en alg;n !o!ento es estable) "ero a;n no he!os llegado a ese "unto# (egui!os "oniendo en ella y la !e8ora de datos# En otras reas necesitan de un cierto u!bral de los datos antes de ver resultados# Tal vez un buen e8e!"lo es Hoogle en su con8unto# 'uando la Leb fue en sus inicios) un !otor de b;s ueda no es tan "oderoso# -ero ahora ue hay decenas de !iles de !illones de "ginas) obtener resultados "ara casi cual uier b;s ueda ue hagas# Es s/lo gracias a los datos dis"onibles) entonces) ue llega a esta utilidad u!bral) y) ="or enci!a de= la !asa de datos) trata!os de hacer ue funcione !e8or y !e8or# 9oogle ( el AI son mencionados a menudo en la misma frase1 +u& hace el resto de los motores de *:s!ueda 9oogle ( no# (o!os la "ri!era en n;!ero de usuarios# 0 en segundo lugar) esta!os !s centrados en la tecnolog.a# 0ahooA "arece centrarse en un "a uete co!"leto "ara el usuario# (on una co!"a%.a de contenidos) entreteni!iento y tecnolog.a# *os "arece!os !ucho !s centrado en la tecnolog.a# 'reo ue la gente lo nota y dice: =(i "asa algo) va a "asar con esta gente) ue est tan centrado en la tecnolog.a#= Cmo los avances en AI se refle8an en las actividades de 9oogle# 2a IA est !uy "resente en Hoogle en el sentido de ue tene!os los datos en todas "artes# Hay de!asiados datos) ya ue un "rogra!ador hu!ano "uede !ane8arlos# As. ue nos vi!os obligados a recurrir a los algorit!os de a"rendiza8e auto!tico "ara casi todo lo ue hace!os# +esde este "unto de vista) "or lo tanto) so!os una de las e!"resas ue conozco AI !s orientado# -ero no he!os "roducido =inteligencia general=# He!os tratado de decir: =Esta!os a u. "ara dar todas las res"uestas "ara usted#@sted incluso no tiene ue hacer la investigaci/n sobre Hoogle) va!os a encontrar lo ue necesita y nos va!os a la tienda y voy a co!"rar "ara usted en lugar de darle infor!aci/n sobre 1l# = *o esta!os tratando de hacer una cosa as.# (/lo esta!os tratando de hacer !e8or nuestro traba8o) ue es conectar a usted y la infor!aci/n# $odemos construir inteligencia so*rehumana# Absoluta!ente# 0a lo he!os hecho en !uchas !aneras# Mi "e ue%o e ui"o contiene inteligencia sobrehu!ana# Hace las ra.ces cuadradas !ucho !s r"ido ue yo# Hoogle tiene una inteligencia su"erior en el sentido de ue sabe !s "ginas Jeb) y es !s r"ido ue cual uier ser hu!ano "uede hacer# *o entiendo en el sentido de ue un ser hu!ano los entiende) "or lo ue sus "osibilidades son !uy li!itadas# (u inteligencia es subhu!ana y sobrehu!ana en algunas direcciones en otros# Tal vez alg;n d.a va!os a tener una inteligencia sobrehu!ana en general# Hasta ese d.a) Msin e!bargo)N lo interesante es conectar los dos !undos# Cu1 "ode!os obtener de la cone:i/n entre las "ersonas y 1stas herra!ientas su"er-inteligencia li!itada "ara !e8orar estas cone:iones? Su opinin acerca de la Cum*re de la Singularidad#'reo ue es fascinante "ensar en las "osibilidades "ara el futuro# 'reo ue es nuestra res"onsabilidad de "ensar en ello# (i hay "osibles consecuencias negativas) debe!os "re"ararnos# (i fuera "osible antici"ar las consecuencias "ositivas) es nuestro deber tratar de lograr hacer del !undo un lugar !e8or#Inde"endiente!ente de c/!o se siente acerca de la (ingularidad "robable o re!ota en el

tie!"o) e!"iezas a "ensar en eso ahora# 0 la otra raz/n "or la ue estoy a u. es ue a u. estn algunos de !is a!igos ue uer.a hablar# -ensadores ue no hab.a cu!"lido todav.a y uer.a cu!"lir# En resu!en) "arece ser un gran lugar "ara estar# 9oogle anticipa futuras tecnolog)as# sin duda uiere "lanificar el "rogreso tecnol/gico# Cuere!os "re"ararnos "ara lo ue ni si uiera conoce!os# Cuieres ser ca"az de decir ue est en una "osici/n) en alg;n !o!ento en el futuro) en el ue usted "uede to!ar venta8a de estas o"ortunidades# *o creo ue se "uede decir ue las res"uestas sie!"re saldr a la luz# (i yo digo ue en seis a%os sabr1 algo) tal vez en seis a%os) lo s1) tal vez no# Tal vez en seis annisco"rirai ue no hay res"uesta a la "regunta# Es i!"osible# *o hay l.!ites a la "osible) y algunos avances en la tecnolog.a de la infor!aci/n han encontrado estos l.!ites# En las !ate!ticas) ue se re!onta a HWdel ue de!uestra ue hay verdades !ate!ticas no de!ostrables) y ue e:isten l.!ites a lo ue "uede hacer los clculos# En ciencias de la co!"utaci/n) !ostrando ue hay e:"onencial!ente "roble!as dif.ciles ue uedan i!"osible) incluso con este creci!iento e:"onencial# En este "unto) la "regunta es: =+/nde est la inteligencia general? Est "or enci!a o "or deba8o de la l.nea de los "roble!as ue tienen soluci/n? =*o creo ue se"a!os todav.a# $or !u& apo(ar el Instituto de la Singularidad# +ebido a ue es un "roble!a fascinante) involucrando a todos en el !undo# -odr.a ca!biar nuestras vidas# 'reo ue todos uere!os ue nos infor!e# Cuere!os ser ca"aces de "artici"ar y tener la !e8or o"ortunidad "osible "ara un desarrollo "ositivo# 's AI ;riendl( es posi*le# a!igable 'reo ue la idea de la IA es !uy interesante# A Hoogle no esta!os haciendo nada concreto al res"ecto) "ero en !i anterior traba8o en la *A(A) ha traba8ado en "rogra!as de "ruebas y en su "ro"iedad# *A(A es !uy i!"ortante ue el softLare no se blo uear "or ue si se blo uea) la nave es destruida) y hay "ersonas a bordo !urieron#En resu!en) las cosas !alas suceden# @na de las cosas ue uieres hacer es verificar la e:actitud del softLare# En "arte) esto se hace a trav1s de la "rueba tradicional) un enfo ue co!o =garant.a de calidad=) y en "arte a trav1s de las "ruebas !ate!ticas del "rogra!a# 2a evidencia o "rueba de la e:actitud de la "ro"iedad# -odr.a ocurrir si) "or e8e!"lo) el "rogra!a no se encontraba en un estado de =blo ueo=# Es una buena cosa "ara saber# Ahora) si usted "uede decidir lo ue =benevolente=) entonces usted tiene la o"ortunidad de utilizar la !is!a tecnolog.a "ara decir: =0o "uedo de!ostrar ue este "rogra!a no ser hostil#= (/lo ue es !ucho !s fcil definir el estado de =blo ueo= ue definen el estado de =benevolencia#= Lo !ue parece% seg:n usted% un post-Singularidad# no "uede saber ue) "or definici/n# -ero si se a!"l.a el conce"to de singularidad "ara incluir el =Heneral de Inteligencia Avanzada=) !e gusta la descri"ci/n de Qarney -ell# Es cuando una co!"utadora "uede hacer la !ayor "arte de lo ue ahora es un graduado# '/!o las cosas han ca!biado algo? -ara e!"ezar) hace ue el !undo sea un !ucho !s rico# 'a!biar lo ue cada uno de nosotros es ca"az de hacerlo "or ue so!os liberados de gran "arte del traba8o ue antes de ue nos vi!os obligados a hacer# -er!.tan!e se%alar la biograf.a de Dree!an +yson) di8o algo !uy interesante# 2as !u8eres de clase !edia de la 1"oca eran !ucho !s !u8eres fe!inistas de la clase !edia de hoy) y la raz/n es ue ten.an todos los asistentes ue se uedaron en casa y cocinar) li!"iar la casa y el cuidado de los ni%os# -or lo tanto) eran libres de salir y cuidar el !ovi!iento sufragista o lo ue sea# Mientras ue la clase !edia) en la actualidad) cuenta con los cuidadores) a !enudo a!bos "adres traba8an y "or lo tanto hay !ucho !enos tie!"o libre# +es"u1s de la (ingularidad) en el sentido de -ell) de vuelta a ese ti"o de vida en el ue no s/lo la clase !edia) "ero "rctica!ente todos los asistentes ue se encargarn de las tareas a realizar# 2o cual) de re"ente) dar un !ont/n de tie!"o libre# 0 la "regunta es: =Cu1 hacer con 1l?= La Singularidad ser una fuer"a democr tica# no s1 si el e!"u8e hacia la de!ocracia o !s bien hacia la igualdad# 'ierta!ente recaudar todos los barcos# Todo !e8orar su nivel de vida) van a tener !s tie!"o libre) etc# -ero creo ue la gente en la "arte su"erior de la escalera econ/!ica tendrn una !ayor "ro"orci/n de los recursos) "or lo ue la brecha entre las clases crecern) aun ue en t1r!inos absolutos los d1biles tienen !ucho !s# futuras tecnolog)as !ue causan cierta preocupacin# (. seguro# 'reo ue hay !uchas cosas de u1 "reocu"arse) y no creo ue se nace con la AI) la biotecnolog.a o la nanotecnolog.a# En realidad) nos enfrenta!os a la cuestin desde hace !uchos a%os# 0o crec. con el te!or de una guerra nuclear) la "rotesta y tratar de !e8orar un "oco la situaci/n# -arece ue esta!os fuera de la

crisis)aun ue todav.a hay "osibilidades de alg;n "roble!a# Hab.a todo ti"o de "osibles a!enazas# +urante cincuenta a%os) corr.a el riesgo de ue los estudiantes de u.!ica en la secundaria crear.an una carga de Qoto: y se "aga en un acueducto) !atando a !iles de "ersonas) "ero nadie se ha decidido a hacerlo# *o estoy seguro de ue s1 "or u1# *o estoy seguro si e:isten restricciones ue contin;an o"erando# (1 ue) "or otra "arte los gru"os !s "e ue%os de "ersonas ue "ueden hacer da%o !s y !s grande# *o s1 lo ue estas li!itaciones 1ticas) u otro ti"o de li!itaciones) ue "revienen el da%o ocurra# Suponiendo !ue la IA fuerte es pro*a*le% se espera un despegue ,soft, o ,hard,# 'reo ue co!"arto el escenario =soft= "ara razones ue usted ha !encionado# Ade!s) si nos fi8a!os en la curva de Iay RurzLeil) el creci!iento e:"onencial significa ue el !is!o ca!bio "orcentual en un a%o# (egui!os vigilar) entonces# En Hoogle) esta!os !uy contentos con los resultados y esta!os encantados de "ro"orcionar "oterveli# $ista desde nuestro lado) es un "oco co!o hacer salchichas# *os "reocu"a!os !s resultados !alos ue buenos# @sted hace una b;s ueda) y seis de cada diez resultados devueltos son relevantes# Ests contento# M-eroN nosotros deci!os) =BMaldita sea) hay 9 resultados !alos) real!ente tene!os ue arreglar esto#= 0 as. segui!os traba8ando en ello# $a!os a seguir !e8orando# 2e dare!os !e8ores resultados) y la !e8or !anera de interactuar con nosotros# (abe!os ue hay !uchas cosas ue te gustar.a hacer) "ero no "ode!os hacerlo# -or e8e!"lo) si usted no sabe una "alabra relevante) u1 hacer? MAhoraN) es tu "roble!a# As. ue hay ue dar un "aso atrs y decir: =Estoy vigilando a algunos "roble!as !1dicos) no s1 las condiciones !1dicas es"ec.ficas) "ero s1 lo suficiente co!o "ara obtener un docu!ento ue los contiene) entonces leerlo) volver a hacer la investigaci/n adecuada#= En este caso) uere!os ue este "roceso sea !s r"ido#Cuere!os ue le llevar a la res"uesta correcta) incluso si usted no sabe las "alabras correctas "ara e!"ezar# Mientras tanto) uere!os ue la interacci/n !s r"ida) uere!os corregir con los docu!entos correctos o conectarse con la "ersona adecuada# 'ree!os ue "ode!os !e8orar continua!ente este "roceso y ue se sienta !s satisfecho# *o veo un des"egue =duro=) "ero veo ue eres ca"az de hacer !s y !s cosas# +u& piensa usted de la produccin de la molecular ( *ioingenier)a# fascinar!e# Trato de "oner!e al d.a en ello) a "esar de ue !e olvido de !uchas herra!ientas# 'reo ue hay un e!"ate) "or ue conectan el !undo f.sico y el !undo de la infor!aci/n#'reo ue es "robable ue en este siglo una gran "arte de la fabricaci/n se realiza con c1lulas o to!os#'on !s c1lulas) yo dir.a) "or ue son !s grandes) !s fcil de !ani"ular# 0a estn e ui"adas con un e ui"o de tres gigabytes# (/lo tene!os ue encontrar la !anera de "rogra!arlo# +ueremos !ue le llevar a la respuesta correcta% incluso si usted no sa*e las pala*ras correctas para empe"ar1 Mientras tanto% !ueremos !ue la interaccin m s r pida% !ueremos corregir con los documentos correctos o conectarse con la persona adecuada1 Creemos !ue podemos me8orar continuamente este proceso ( !ue se sienta m s satisfecho1 2o veo un despegue ,duro,% pero veo !ue eres capa" de hacer m s ( m s cosas1 +u& piensa usted de la produccin de la molecular ( *ioingenier)a# fascinar!e# Trato de "oner!e al d.a en ello) a "esar de ue !e olvido de !uchas herra!ientas# 'reo ue hay un e!"ate) "or ue conectan el !undo f.sico y el !undo de la infor!aci/n# 'reo ue es "robable ue en este siglo una gran "arte de la fabricaci/n se realiza con c1lulas o to!os# 'on !s c1lulas) yo dir.a) "or ue son !s grandes) !s fcil de !ani"ular# 0a estn e ui"adas con un e ui"o de tres gigabytes# (/lo tene!os ue encontrar la !anera de "rogra!arlo# +ueremos !ue le llevar a la respuesta correcta% incluso si usted no sa*e las pala*ras correctas para empe"ar1 Mientras tanto% !ueremos !ue la interaccin m s r pida% !ueremos corregir con los documentos correctos o conectarse con la persona adecuada1 Creemos !ue podemos me8orar continuamente este proceso ( !ue se sienta m s satisfecho12o veo un despegue ,duro,% pero veo !ue eres capa" de hacer m s ( m s cosas1 +u& piensa usted de la produccin de la molecular ( *ioingenier)a# fascinar!e# Trato de "oner!e al d.a en ello) a "esar de ue !e olvido de !uchas herra!ientas# 'reo ue hay un e!"ate) "or ue conectan el !undo f.sico y el !undo de la infor!aci/n# 'reo ue es "robable ue en este siglo una gran "arte de la fabricaci/n se realiza con c1lulas o to!os# 'on !s c1lulas) yo dir.a) "or ue son !s grandes) !s fcil de !ani"ular# 0a estn e ui"adas con un e ui"o de tres gigabytes# (/lo tene!os ue encontrar la !anera de "rogra!arlo#

2os ingenieros hacen los "ro"ios ordenadores# Entrevista con -eter $oss) fundador y director e8ecutivo de AI ada"table

2as entrevistas del (IAI & Instituto de la (ingularidad "ara la Inteligencia Artificial , Cu l es la diferencia entre la inteligencia artificial ( la inteligencia artificial general# Mi do!inio se lla!a AHI: Inteligencia Artificial Heneral) con el fin de distinguirla de una si!"le AI) dado ue la investigaci/n actual se centra casi e:clusiva!ente restringido a la inteligencia artificial# MEs decir) ueN realizan funciones es"ec.ficas sola!ente# (e construye un siste!a ue resuelve un "roble!a "articular# Qsica!ente) la IA hace esto# -or lo tanto los siste!as de AHI tienen el "otencial "ara a"render un es"ectro !uy a!"lio de conoci!ientos# (i usted tiene un siste!a ue "uede a"render co!o ser hu!ano) ue "uede ad uirir el conoci!iento co!o un ser hu!ano) se "uede "ensar en un siste!a ue ad uiere la ca"acidad de convertirse en un buen e ui"o# (i se "one un buen e ui"o) "uede !e8orar su dise%o solo# En ese !o!ento se obtiene la recurrente autosu"eraci/n# As. ue el e ui"o se convierta en lo suficiente!ente inteligente co!o "ara co!"render su "ro"io dise%o y !e8orarlo) lo ue har ue sea a;n !s eficientes en la !e8ora de su dise%o y !uy convertir r"ida!ente incre.ble!ente inteligente# Cu1 intereses futuros tecnolog.a ue? @na de las cosas ue !e interesa !ucho es la la longevidad) la e:tensi/n de la vida ;til# Me gustar.a tener la o"ortunidad) y !e hubiera gustado ue el otro) vivir un tie!"o !uy) !uy largo# +iga!os indefinida!ente largo# As. ue usted no tiene cien !il !uertes al d.a involuntarios# (er.a una gran cosa) en !i o"ini/n# Hoy) sin e!bargo) ue no est a la altura "ara resolver el "roble!a# *os esta!os acercando !uy lenta!ente) la !e8ora de la ciencia !1dica) la nanotecnolog.a) etc# -ero es dif.cil) !uy dif.cil# *o so!os lo suficiente!ente inteligentes "ara hacerlo# *o tene!os suficiente gente inteligente "ara resolver estos "roble!as t1cnicos# (i M"eroN ue ten.a!os !ucho !s inteligente ue nosotros) ue "odr.an traba8ar las 39 horas del d.a 39) los F d.as de los F co!"utadora ### I!agine un AHI investigador !1dico# (u surclasserebbe inteligencia ue de un investigador hu!ano y ta!bi1n se "uede co"iar lo ue tiene cien !il veces cien !il investigadores ata ue fronterizo del enve8eci!iento) la conta!inaci/n) las enfer!edades y todo lo

de!s# Ellos sern ca"aces de resolver estos "roble!as !ucho !s r"ida!ente# 'reo ue es una gran "regunta# Cu1 es la inteligencia =sobrehu!ana=? no lo s1# *o so!os lo suficiente!ente inteligentes co!o "ara saber eso#*o es una gran res"uesta) "ero ah. est# 2o ue estoy seguro es ue va a ser !ucho !s inteligentes ue los hu!anos# En "ri!er lugar) se "uede llegar a conclusiones ue son "roble!as !uy dif.ciles ue voy a tener ue luchar se!anas o !eses) antes de resolverlos# 'o!"ri!ir este tie!"o y "ara "oder llegar a conclusiones en cuesti/n de segundos o !inutos# (er.a ca"az de resolver "roble!as con !ayor ra"idez# Ta!bi1n ser.a ca"az de resolver los "roble!as !s dif.ciles) y ta!bi1n se "uede co!binar el conoci!iento de tantos inteligente AI) ue han traba8ado en diferentes sectores# -odr.an co!"artir este conoci!iento casi instantnea!ente) !ientras ue "ara nosotros "ara transferir el conoci!iento) las ideas) la e:"eriencia de los de!s es un "roceso !uy dif.cil) y !uy aburrido# En los e ui"os ue "ueden llevarse a cabo de in!ediato# Incluso esto ser.a una cosa de gran i!"ortancia# As. ue ### ! uinas ue funcionan las 39 horas del d.a 39) los F d.as de los F a tasas !ucho !s altas) ca"aces de interca!biar infor!aci/n y co"ia clonada# 'uando una "ersona ha alcanzado un cierto nivel de e:"eriencia ### I M"or e8e!"lo)N Me gustar.a "oder clonar a !. !is!o con todos los a%os ue "as1 en la ad uisici/n de los conoci!ientos laboriosa!ente necesito dise%ar AHI# (i hab.a !il "ersonas ca!inando "or ah. con !i "ro"io conoci!iento y !i e:"eriencia) ser.a!os ca"aces de avanzar !ucho !s r"ido# (er.a un avance real# 2o ue se trata en el ca!"o de la Inteligencia Artificial? +iri8o una investigaci/n y el desarrollo#(o!os uince# E:isti!os desde hace seis a%os) y nuestro "a"el es es"ec.fica!ente "ara desarrollar un !otor de AHI# +esarrollar un siste!a ue real!ente "odr.a "ensar y) final!ente) "ensar e:acta!ente igual ue los hu!anos# En resu!en) esta!os traba8ando f.sica!ente en el desarrollo de la tecnolog.a#(e ha dicho desde hace cincuenta a%os ue AI era vuelta de la es uina# Cu1 ha ca!biado ahora?Queno) en "ri!er lugar) nos esta!os acercando) y lo digo sobre la base del traba8o ue esta!os haciendo a nosotros !is!os# Hay otros "roble!as de entonces# Hay otras co!"a%.as "ara traba8ar#Cu1 ha ca!biado? Ellos han estado el tie!"o suficiente "ara "oder hacer co!"araciones# (i co!"ara!os los ordenadores actuales con a uellos con los ue e!"ec1) s/lo "ara dar un e8e!"lo) hoy se "uede "resentar alg;n ti"o de "roble!a y es"erar a ue te res"onda en) "or e8e!"lo) un segundo# (i usted est hablando con una "ersona) ue desea conversar con ella) se "uede es"erar "ara tener una res"uesta en un segundo) si no es una cuesti/n !uy dif.cil# Ahora) el !is!o algorit!o ue lleva!os a cabo en las ! uinas de hoy en d.a) cuando se e8ecutan en las ! uinas de hace veinte a%os) to!ar.a una se!ana "ara "roducir una res"uesta# Esta es una gran diferencia# *o se "uede hacer todos los e:"eri!entos ue uieras si tienes ue es"erar una se!ana "ara ver si el algorit!o funciona# Tener ue es"erar tan s/lo un segundo ca!bia las cosas# En nuestros siste!as) "or e8e!"lo) el lanza!iento de los co!"uestos de "rueba "or cientos de !iles de "ruebas realizadas en secuencia) uno detrs del otro) y e8ecutarlos en unas "ocas horas# 'on la tecnolog.a de hace veinte a%os) un e ui"o a un "recio ase uible ue to!ar.a !iles de a%os# 2as herra!ientas de desarrollo son !ucho !e8ores# Mi "roductividad en el desarrollo de nuevos "rogra!as es significativa!ente !e8or# Es un !ill/n de veces !e8or) co!o si tal vez la velocidad de "rocesa!iento) "ero es notable!ente !e8or# -uedo hacer cosas ue horas antes !e hubiera to!ado se!anas) !eses o a%os# 'o!"artir "redicciones de RurzLeil en la creaci/n de la IA fuerte? !e 8uegan bien) sin e!bargo) "or diversas razones) de!asiado cuidadoso# En "ri!er lugar) considero ue su "ron/stico de IA =hu!ano= de!asiado distantes en el tie!"o# En !i o"ini/n) la IA alcanzar niveles hu!anos !ucho antes# 0 entonces) va!os a ver un ciclo de auto-!e8ora!iento# As. ue creo ue va!os a tener una tasa de creci!iento !ucho !ayor ue RurzLeil "redice# -ero) bsica!ente) creo ue su enfo ue est to!ando un giro e uivocado# RurzLeil habla de hacer ingenier.a inversa del cerebro hu!ano# 0 eso) "ara !.) es una for!a !uy dif.cil resolver el "roble!a# Est usando herra!ientas ue no son real!ente adecuados "ara construir un cerebro hu!ano o "roveernos con ingenier.a inversa# 0o "refiero un enfo ue de ingenier.a) tales co!o: ='ul es el "roble!a ue esta!os tratando de resolver y c/!o "ode!os resolverlo utilizando la !e8or tecnolog.a y las herra!ientas dis"onibles?= Este es nuestro enfo ue# 2a ingenier.a inversa es un ca!ino dif.cil#-ueden "asar !uchas d1cadas# Cu1 !1todo se estn to!ando "ara crear la IA fuerte? Qsica!ente "arti!os de decir: =Cu1 es i!"ortante en la

inteligencia hu!ana= 2a ca"acidad de a"render) organiza!os en conce"tos) "ensar conce"tual!ente) "iensa lo !is!o) utilice la conte:to de la decisi/n#-arti!os de la co!"rensi/n de la esencia de la inteligencia y des"u1s decir: =Esto es lo ue tene!os ue desarrollar#= Cu1 es AHI benevolente? Os una cuesti/n i!"ortante# -or su"uesto) esta!os en la 'u!bre de la (ingularidad) "or lo ue o.!os a !enudo lo hacen# -ens1 en ello durante !ucho tie!"o) y todav.a "ienso en ello !ucho tie!"o# En resu!en) yo dir.a ue no sabe!os el resultado de cual uier ca!bio tecnol/gico radical# Mi o"ini/n al res"ecto es !uy diferente de la de Eliezer 0udGoLsGy# Eliezer cree ue casi todas las i!"le!entaciones ser hostil y los desastres) a !enos ue encontre!os una !anera de "rogra!!arvi benevolencia# Ahora) en "ri!er lugar) creo ue es i!"osible "rogra!ar la benevolencia de !anera verificable) "ara una variedad de razones t1cnicas# 'reo ue es intr.nseca!ente i!"osible "ara conseguir lo ue uieres hacer Eliezer# En segundo lugar) estoy de acuerdo con su afir!aci/n de ue en la !ayor.a de los casos "roducen desastres# 'reo ue todo lo contrario es cierto#Hay varias razones "or las ue creo ue un siste!a inteligente !e8orar.a la !oral de las "ersonas# (e trata de un !ecanis!o interno de defensa# Esto no significa ue los riesgos sern de8ar!e indiferente#-ero va a suceder# El AHI vendr# Tene!os ue entender el "roceso y la din!ica de la AHI y c/!o van a interactuar con los seres hu!anos) a !edida ue desarrolla!os la tecnolog.a) to!a!os decisiones y seguir adelante# 0o no creo ue nadie "uede real!ente "redecir el futuro# Tengo e:"ectativas !s "ositivas# (u"oniendo ue la IA fuerte es "robable es"erar un des"egue =dura= o des"egue =soft=? @na red de des"egue# 'reo ue en esencia no es el hardLare dis"onible# *o creo ue eso es un l.!ite# 'reo ue la tecnolog.a) las "iezas del "uzzle) ya hay sustancial!ente# *o creo ue todav.a hay necesidad de una tecnolog.a radical!ente nueva "ara obtener el ingreso bruto a8ustado# (in e!bargo) hay !illones de "iezas del ro!"ecabezas ue necesitan ser identificados y "oner 8untos en el ca!ino correcto# El verdadero obstculo es encontrar la teor.a correcta y lograr una dedicaci/n u!bral adecuado# 'untas "ersonas en el !undo estn real!ente traba8ando en este "roble!a? Muy) !uy "ocos# (i !s "ersonas traba8aban all.) creo ue .ba!os a llegar en "ri!er lugar# *o necesita!os otros diez o veinte a%os# Es ue no hay suficientes "ersonas ue creen ue es "osible# En !i sitio Leb) de hecho) hay una larga lista de razones "or las ue son tan "ocas las "ersonas ue traba8an en ella# Muchos "rofesores de infor!tica ten.a este sue%o hace <5) 95 a%os# 2o intentaron y fracasaron) y as. lo de8/ "asar# Ellos hicieron una "ro!esa) y no "od.an !antenerla) "or lo ue la AI se ha convertido en una es"ecie de blasfe!ia# Muchas "ersonas no tienen el derecho de fondo en la "sicolog.a) la e"iste!olog.a y la teor.a del conoci!iento a la inteligencia ingeniero# 0o no entiendo !uy bien u1 es la inteligencia# Tres razones entre !uchas: las "ersonas ca"acitadas "ara traba8ar son "ocos) no se "uede obtener la financiaci/n) "or ue no son cosas "o"ulares) la AHI ha "erdido la a"robaci/n general# Qsica!ente) no es "ol.tica!ente correcto) ue no hay tal cosa co!o la inteligencia general# 'reo ue el gobierno "ara el asesora!iento de las !is!as "ersonas ue creen en el !undo acad1!ico bsica!ente i!"osible de conseguir en la actualidad) My dicenN ="roba!os y nos fall/# (/lo debe!os centrarnos en AI restringido y todas las a"licaciones es"eciales y al final lo conseguire!os =# +icho esto) sin e!bargo) la +AI-A hay toda una l.nea de investigaci/n sobre co!"utaci/n cognitiva# Ion Qrach!an insisti/ con 1nfasis en este as"ecto) "ero los resultados) "or diversas razones) "arece controversial#

!n declaraciones a la &eb !ntrevista con 'ohn inteligente$ fundador de la (undacin de !studios de aceleracin
Tecnoscienza - Inteligencia Artificial

2as entrevistas del (IAI & Instituto de la (ingularidad "ara la Inteligencia Artificial ,

Cuando los adelantamientos humanos de AI# creo ue eso suceda ya cincuenta a%os# 0a he!os tenido un "oco de 1:ito# Esto ue llevo en la !u%eca) el relo8 digital con una calculadora en el interior) es "ara ti y "ara !. una singularidad de clculo# 'o!o di8o Ua!es QurGe) nunca ha habido tantas cosas en nuestro !undo tecnol/gico) de las cuales sabe!os tan "oco# Est sucediendo a nuestro alrededor# Esta cosa en !i !ano ya fue su"erado en la ca"acidad de hacer clculos# (e trata de un "e ue%o trozo de la inteligencia ue sobre"as/ los seres hu!anos en un conte:to !uy es"ec.fico: ahorrar tie!"o# -ero esta!os recogiendo !s y !s ancla8es de este ti"o# Algunos estudiantes universitarios han creado una red neuronal "ara uince nudos) algo !uy "e ue%o) entonces) ser ca"az de encontrar la su"ernova en el cielo de la noche) ya ue se trata de un si!"le "roble!a de reconoci!iento de i!genes# 2a i!agen de una estrella) en el !o!ento de la e:"losi/n) se vuelve blanca y grande) entonces) en el es"acio de una se!ana o as.) "oco a "oco se desvanece# Es tan si!"le ue el telesco"io "uede ser orientado "or un "e ue%o "rogra!a# 0 as.) ahora) hay !s seres hu!anos a buscar su"ernovas# 'uando usa!os una tar8eta de cr1dito) esto es controlado "or una red neuronal lla!ado Dalcon ) creado "or H*' ) ahora Dair Isaac # Es un "royecto en 6 355 !illones "or a%o# Es un gran "royecto con !uchas "ersonas involucradas# Qsica!ente) a"render de sus co!"ras anteriores) "or lo ue si usted co!"ra algo nuevo) co!o el -a!"ers) y en la ;lti!a d1cada ue nunca has hecho) la inteligencia artificial) lo se%ala a un ser hu!ano# -ero ya no es un ser el "ri!ero en observar los datos en seres hu!anos# Ore todos los sectores deO Ai hu!anos su"eraron en reas !uy es"ec.ficas# 'ada uno de ellos es un rea !uy "e ue%a) "ero son cincuenta a%os de 1:ito# As. ue "ode!os con uistar) "ieza tras "ieza) reas de grado cada vez !ayor# Ahora) en cuanto a reconoci!iento facial) ue real!ente esta!os haciendo buenos "rogresos# Algunos siste!as !ilitares van a crear un H*' siste!a ue identifica ine u.voca!ente algo) enviarlo a un ser hu!ano) en cuyo "unto el ser hu!ano "uede entrenar a la red) diciendo: =*o) no es lo ue ests buscando# En busca de algo un "oco diferente# = 2o ue !s !e e!ociona es lo ue yo lla!o =interfaz de co!unicaci/n=# En "ri!er lugar) en 4XXY) se utiliz/ Alta$ista) un !otor de b;s ueda !uy "ri!itiva# 2a duraci/n !edia de !i investigaci/n era de a"ro:i!ada!ente 4)< "alabras# 'unto tie!"o se necesita "ara du"licar el "ro!edio y alcanzar 3)T "alabras? (iete a%os# En 3557) la duraci/n "ro!edio fue de 3)< "alabras# 'unto tie!"o to!ar "ara ue la "r/:i!a du"licaci/n? En

!i ensayo ) ue escrib. en un "a"el ue to!ar.a siete a%os# -or ue lo ue esta!os siguiendo) en !i o"ini/n) es una curva e:"onencial) ue ro!"e los "aradig!as# Mediante la observaci/n de los ca!bios de "aradig!a !uestran una tendencia a la O(O# 2os "ri!eros resultados son dif.ciles de obtener) "or ue no entienden real!ente el siste!a) y entonces co!ienzan a entender !s resultados ue obtiene) las cosas ue !s se "uede averiguar) con el tie!"o se llega al "unto en ue tienes !s o !enos todo lo ue usted necesita) hay Oes !uy nuevo "ara obtener) "or lo ue la curva co!ienza a a"lanarse# 2o ue he sugerido es ue lo hacen buscar en la Leb utilizando frases) escritas o habladas) es un ca!bio de "aradig!a) ue se du"licar en el creci!iento e:"onencial te!"rana# 'uando usted y yo "regunto algo) la longitud de la de!anda "ro!edio es de once) catorce "alabras# -or tanto) creo ue va!os 3)T-7)3 ### a 45)9) y ue "ara el a%o 354X# 2o ue significa ue "uedo llegar a niveles si!ilares a los de los hu!anos) tanto en t1r!inos de n;!ero de "alabras tanto en t1r!inos de estructura gra!atical y las sutilezas del lengua8e# En !i o"ini/n) en torno a 354X todos los ni%os tendrn un tel1fono celular) debido a ue su "recio se derru!b/# 'ada ho!bre en el !undo a"renden tan r"ida!ente cun grande es su curiosidad "or descubrir) si!"le!ente =hablar= con Hoogle# Esto ser real!ente sor"rendente# $or !u& 9oogle es tan importante ho( en d)a# Hoogle tiene una corteza visual) ahora: Hoogle Ma"s) Hoogle Earth) con sus sensores y la base de datos ### Hoogle a"rende !s r"ida!ente ue cual uier otra "ersona en el "laneta# Es la red de te:to e i!genes !s grande) !s a!"lio) !s interesante ue hay# Ieal!ente es una for!a "ri!ordial de la inteligencia# +ado ue Hoogle ha a"rendido la "alabra =cerrar=) usted y yo "ode!os decir: =2os bares cerca de Marina=# Hay cinco "alabras# El "ri!er enlace ser una serie de "untos de inter1s dentro del distrito "erif1rico de Marina) o (an Drancisco) o en cual uier otro lugar# (e trata de Hoogle Ma"s# Esto es lo ue nos dieron) con cinco "alabras# Es !s ue el "ro!edio actual) ue es de <)7 "alabras#Hoogle ta!bi1n est haciendo r"ida!ente la noci/n del tie!"o# -ronto tendre!os la o"ortunidad de hacer las noticias de Hoogle en una "gina Leb visitado uno o dos a%os atrs# (i!"le!ente deslice estas "alabras y Hoogle ser lo suficiente!ente avanzada co!o "ara acceder a su base de datos y devolver s/lo la b;s ueda de lo ue uer.a en el "er.odo de tie!"o ue usted uer.a# As.) "aso a "aso) todas las e!"resas ue estn utilizando estas nuevas herra!ientas "ara "rocesar el lengua8e una vez !s natural ue nos estn e!"u8ando a hablar literal!ente al ordenador# 2o e!ocionante es ue cuando uno habla con su e ui"o) tendr ue tener una cara# +os tercios de nuestra infor!aci/n) durante una conversaci/n cara a cara) es no verbal# T; y yo asintiendo entre s. en este !o!ento) as. ue s1 ue estoy llegando# (i no fuera as.) "uedo ca!biar lo ue estoy diciendo# -or tanto) es !uy eficiente "ara tener el as"ecto de co!unicaci/n verbal y no verbal) al !is!o tie!"o# Me acabo de vender un con8unto de "untos de vista# $end. la idea de ue los avatares se vuelven tan indis"ensable ue codician una interfaz de co!unicaci/n# 0 eso va a ser ;til no s/lo "ara hablar con una ! uina) a su coche) su casa) su robo-cocina) etc1tera# -ero ta!bi1n "ara hablar con otros seres hu!anos a trav1s de su avatar# Cu l es el cam*io acelerado# recordarn co!o un ni%o ue lee el 'alendario '/s!ico de (agan # Es co!o si usted "one todos los eventos de inter1s en un a%o del calendario) y todos los eventos de inter1s debe ocurrir des"u1s de 8unio# Todo es tan lento: crear gala:ias) y duran "ara sie!"re# 2uego vinieron los "lanetas si!ilares a la Tierra 8usto en el !edio del calendario y) a continuaci/n) u1? Toda la segunda !itad del calendario se "arece a una curva a la OUO# -or u1? -or u1 toda la aceleraci/n se "roduce al final? Hay algo sobre el universo en ue vivi!os) e!"u8ando una aceleraci/n e:"onencial de la infor!aci/n# 0 sabes u1?*uestros libros de te:to de f.sica no lo !encionan# *os hablan de la segunda ley de la ter!odin!ica) ue todo se est desacelerando) ue la entro".a au!enta# -ero "or dentro sabe!os ue lo ue ocurre es e:acta!ente lo contrario# 2a

vida crea fin en s. !is!o# 2a vida se est acelerando# Hay una "arte de la f.sica) hay una "arte de la filosof.a) hay incluso una "arte de la es"iritualidad ue no se to!a en cuenta#MMaN se "odr.a decir ue la !ayor.a de los siste!as es"irituales han cogido !ucho antes de ue los cient.ficos des"ertados# 0 ahora trata!os de encontrar una !anera de reunir a la ciencia y la es"iritualidad en la idea de ue hay algo en este universo ue est llevando a niveles !s altos) subli!es) y ue hay una buena !anera de ir a alcanzarlos# $or!ue el cam*io es aceleracin# 2a gente "iensa ue lo ue suceda) "or ue es inherente al universo) en la for!a en ue est organizado#'ada cosa co!"le8a debe e:"ulsar basura) y tirar toda la basura) ue es el calor) en el vac.o del es"acio) ya ue es la for!a !s eficaz de deshacerse de 1l# (i hay enor!es diferencias entre las cosas interesantes del universo) no habr.a este eficiente en la creaci/n de orden local# -or eso !i res"uesta a 6 T9#555 Muna e:"resi/n a!ericana - EdN a su "regunta acerca de a d/nde va la inteligencia# *o creo ue la inteligencia va al es"acio e:terior) a !edida ue avanza# 'reo ue va al es"acio interior# 2as "ersonas ue) en busca de la inteligencia) ue convierten al es"acio e:terior) no "od.a ale8arse !s de la verdad#Tene!os ue ir de la Tierra# Es obvio# 0a sabe!os ue usted tiene uiz cinco !il !illones a%os co!o !:i!o) y entonces la Tierra se calienta "or el sol) ue se convertir en una gigante ro8a# 2a inteligencia tiene ue ir de la Tierra# 2a !ayor.a de los futuristas creen ue va a desa"arecer en el es"acio e:terior#'reo ue no "odr.a estar !s e uivocado) nos esta!os !oviendo hacia el es"acio interior# 0 las cosas ue esta!os encontrando en el es"acio interior) en la actualidad) son si!"le!ente incre.bles# -or e8e!"lo) el ca!"o "rogra!able: Alguna vez has o.do hablar de los transistores de grafeno ) el transistor de un solo electr/n? Muy "ronto va!os a ser ca"aces de hacer clculos un electr/n a la vez# Ahora) los ordenadores "ierden !uchos electrones entre un contacto y otro# Todo esto es !uy ineficiente) se "uede ver "or la for!a en ue se calientan de la co!"utadora "orttil# -ero esta!os a "unto de hacer clculos un electr/n a la vez# 2os seres hu!anos en el siglo 34 estn e!"ezando a hacer los clculos de un electr/n a la vez) crear ordenador cuntico de siete ubits# M-iensaN la "osibilidad de tener i!genes =conectados= cuando el =scolleghia!o=) ca!biando el giro de uno de los dos casi al instante) a siete !illas de distancia a lo largo de un cable de fibra /"tica) ta!bi1n ca!bia el s"in de la otra# Cu1 te dice esto? Cue las cosas en la escala cuntica) no res"etan el es"acio y el tie!"o# Es tan e:tra%o) tan interesante) y creo ue hay tantas "ruebas) co!o el es"acio cuntica) los agu8eros negros) las teor.as de la) la teor.a de cuerdas !ultiverso) lo ue de!uestra cun grande es el "otencial) y ue este es el ca!ino ue nos dirigi!os# $or !u& apo(ar el Instituto de la Singularidad# El (IAI se abre al dilogo# Tene!os ue hablar de estas cosas# (i a alguien se le ocurre una !anera de lla!ar la atenci/n de la "rensa) "ara discutir estas cosas en serio) bueno) es 8usto lo ue necesita!os#*o digo nada !s ue !i o"ini/n) des"u1s de haber estudiado estos te!as# Me gustar.a ver) en este sentido) lo ue Ua!es (uroLiecGi lla!a a la sabidur.a de las !asas) "or ue una vez ue se obtiene una curva de ca!"ana de todos los "ensa!ientos "osibles) creo ue en alg;n lugar deba8o de la curva no es la realidad# 'o!o 1l dice) cuando se trata de esti!ar cuntos cara!elos se encuentran en el frasco) el !argen de error es de !s o !enos 35Z# -ero si le "reguntas a diez "ersonas de ca"acidades diferentes) el error ser s/lo el 7Z# Esto es lo ue nos est dando la Internet# Esto es lo ue traer a difundir estos te!as a trav1s de gru"os co!o el Instituto de la (ingularidad# $a!os a entender !ucho !e8or las "iezas del ro!"ecabezas de la IA) ue ahora constituyen los "ri!eros frutos) y ue nos llevar al siguiente "aso) y nos sor"render) "or ue uere!os abrir el "eri/dico todos los d.as y se sor"render# 's futuro nos llevar por sorpresa cada ve" #

'reo ue s.# 'reo ue es la naturaleza del universo y ue Rurt HWdel lla!ado =co!"utacional!ente inco!"leta#= *o i!"orta la co!"le8idad de su siste!a l/gico) sie!"re se "uede hacer "reguntas ue no se "ueden "robar o refutar dentro de ese siste!a# -or lo tanto) usted tiene ue dise%ar continua!ente un nuevo siste!a# 3ecnolog)as emergentes nos podr)a causar una desviacin de la realidad# Mi o"ti!is!o es en a uellos factores ocultos ue i!"iden la su"resi/n# @sted "uede configurar su ordenador "orttil "ara filtrar cual uier ti"o de realidad ue uieres "ara ti - es "osible ue) "or e8e!"lo) en una habitaci/n con resonancia ac;stica) y s/lo escuchar su voz) cuando te "ones esa tecnolog.a - y astrarti co!"leta!ente de la realidad) "ero la !ayor.a de la gente no "iensa ue va a hacer una cosa as.# Ellos harn lo ue sea necesario "ara !antener su cultura) "ero van a ser "lena!ente conscientes de c/!o estas tecnolog.as interact;an con ellos# Mira los A!ish# Me encanta los A!ish# (e trata de uno de !is favoritos culturas# (e "reguntan si se debe utilizar bandas de go!a# -iense en la fuerza de una cultura si!ilar# (e "reguntan: un caucho !e fuera de !i co!unidad? -or su"uesto) el uso tanto del tel1fono ue las bandas de go!a) "ero en sus "ro"ios t1r!inos# Es una cultura fascinante# Cuiero ue este ti"o de cultura e:iste incluso des"u1s de la (ingularidad) dice Ara%a Iobinson en Earth"arG) en s.) la nanotecnolog.a va a controlar) "ara estar seguro) "or e8e!"lo) ue usted no fabricar bo!bas y si uieren vivir co!o ellos# Estoy bien# -or u1 entonces hay !s diversidad) !s !aneras de "ensar y de ser# -ero "iensa en todas las culturas ue han vivido tanto tie!"o aislados y luego volvi/ a la realidad#!e "arece cada vez !s ue hay fuerzas !uy "oderosas en el traba8o ue llevan a la realidad de las "ersonas) incluso si les gustar.a vivir en estos !undos se"arado# He hecho algunas -ero "iensa en todas las culturas ue han vivido tanto tie!"o aislados y luego volvi/ a la realidad# !e "arece cada vez !s ue hay fuerzas !uy "oderosas en el traba8o ue llevan a la realidad de las "ersonas) incluso si les gustar.a vivir en estos !undos se"arado# He hecho algunas -ero "iensa en todas las culturas ue han vivido tanto tie!"o aislados y luego volvi/ a la realidad# !e "arece cada vez !s ue hay fuerzas !uy "oderosas en el traba8o ue llevan a la realidad de las "ersonas) incluso si les gustar.a vivir en estos !undos se"arado# He hecho algunas leyes de la tecnolog.a # Mi tercera ley de la tecnolog.a es ue la tecnolog.a de la "ri!era generaci/n suelen deshu!anizante "or ue son "ri!itivos# 2as tecnolog.as de segunda generaci/n son indiferentes a la hu!anidad) entonces real!ente esta!os inundados# Hay venta8as y desventa8as# 0 "or suerte) las tecnolog.as de tercera generaci/n son !uy hu!anizador# 'reo ue es lo !is!o con los video8uegos hoy en d.a# En la "ri!era generaci/n) los chicos estaban cerrando en su es"acio y se olvidaron !uchos de sus hbitos sociales# Ahora !is!o esta!os entrando en la segunda generaci/n en la ue los ni%os "ueden hablar unos con otros a trav1s de Internet) traba8ando en e ui"o "ara resolver "roble!as co!"le8os# As. ue hay as"ectos real!ente i!"resionantes# Ade!s) hay algunos 8uegos serios donde los ni%os "ueden si!ular e:"eri!entos de u.!ica y tal vez a"render u.!ica doble de r"ido ue si estuvieran usando "roductos u.!icos en la realidad) y las si!ulaciones son tan realistas ue "ueden e:"lotar en la realidad a"rendido habilidad# -ero ta!bi1n hay efectos negativos# As. ue no esta!os co!"leta!ente en la segunda generaci/n en la ue se "odr.a decir ue la tecnolog.a de 8uegos no es neutral) "ero ya casi esta!os all.# -iense en una tercera generaci/n en la ue el 8uego va a llevar a ning;n lado contigo# @n "8aro vuela y el siste!a de a"rendiza8e te dice: =Cuieres saber la !ate!tica detrs de esto? (1 ue usted tiene una "rueba de tres se!anas# (/lo le to!ar dos !inutos# Te dar1# 0 as. vas a a"render ellos) te lo garantizo# = En ese ti"o de !undo) se "uede i!aginar un ho!bre tan =a8ustado= co!o sea "osible) desconectarlo de la red) hace ue haga el (urvivor) ue recoge los ali!entos de la tierra durante dos se!anas) ya ue se ha cargado la co!"orta!iento de las se%ales "e ue%as# Estos chicos tienen la o"ortunidad de hacer ca!bios ue los ni%os de hoy no "ueden hacer#*o tene!os esa "osibilidad) "or ue todav.a esta!os en la "ri!era generaci/n de las interacciones entre las co!"utadoras# -ero en ese ti"o de !undo) los chicos "odr.an de hecho ser

!s inteligentes ue sus "adres eran &! uinas cada vez !s inteligentes) esto es i!"osible,) y ta!bi1n !s inteligentes ue sus "adres estaban en todas las habilidades necesarias "ara ellos ta!bi1n cuando los dis"ositivos estn a"agados# 0 eso es un !undo !ucho !e8or) "or ue en ese !o!ento se "uede hacer frente a las ! uinas en sus "ro"ios t1r!inos# -ero creo ue en el largo "lazo no va!os a utilizar "alabras co!o =transhu!anis!o= e =identidad divisi/n d O#= A"enas esta!os co!enzando a "ercibir ue estas tecnolog.as de tercera generaci/n son e:tensiones de nosotros# 'uando su !adre !uri/ en 3575) no se van a enterrarlo en una tu!ba# Ms bien) accenderai la =Ma! +igital= y all. se conserva todas sus historias) todos sus hbitos) usted se encuentra en alguna ciudad francesa donde su abuela vivi/ hace 455 a%os) y ella le susurra una historia a trav1s de algunas notas digitales# *o va a ser tu abuela real) "ero no ser lo suficiente "ara =hacer ue se sienta en esos lugares cuando ella estaba all.#= En alg;n !o!ento) =+igi!o!= se convertir en lo suficiente!ente avanzada) y se har !uy evolucionado "ara reducir las diferencias entre ustedes digital y electr/nico a ti !is!o# 'reo ue este es el ti"o de AI ue va!os a ver# +e acuerdo con otros oradores de esta cu!bre se ver en su lugar el lla!ado =r"ido au!ento= de la IA# Qen es gente as.# Me alegro de ue hay gente "or ah. ue funciona este ti"o de discurso y "asar "or ella# -ersonal!ente no creo ue va!os a ver una evoluci/n de este ti"o) e:ce"to en las zonas restringidas de AI ue ya he!os e:"lorado en los ;lti!os cincuenta a%os# -ero "odr.a estar e uivocado# traduccin al italiano Michele 9ianella1 v)deo ( audio est n disponi*les en el sitio original de la Singularit( Institute< 7)deo 1% audio (mp=) 3ranscripcin original del actual ;uturo<

)os robots de la fuerza de traba*o. !ntrevista con 'ames +ughes

Tecnoscienza - Inteligencia Artificial

2as entrevistas del (IAI &Instituto de la (ingularidad "ara la Inteligencia Artificial, Ua!es Hughes) 'o-Dundador y +irector E8ecutivo del = Instituto "ara la >tica y Tecnolog.as E!ergentes ,$or !u& 8u"gar lo m s pro*a*le es una inteligencia artificial con una voluntad propia#, -uedo ver) en el !undo) los casos de estructuras de infor!aci/n sobrehu!anos) ue son autoconferite algunas caracter.sticas# Os !s grandes organizaciones) co!o la Iglesia cat/lica) tienen una !e!oria institucional) deseos ) "lanes de futuro) herra!ientas "ara "er"etuarse# Ellos

tienen funciones internas es"ecializadas) as. co!o un !eta-organis!o# A !i 8uicio) co!o he!os tratado de crear el ser "uro inteligencia "rogra!ada) "uro e in!une a las ba8ezas hu!anas) nos "erdi!os ue estas inteligencias ta!bi1n e:iste) en todo caso) la "regunta es: =# Habr alguna vez una inteligencia tal sobrehu!ana ue no incluye a los seres hu!anos algo su"erior) o no?= 0 =a u. ue difieren "rofunda!ente del resto de estas "ersonas Mcon referencia a los !ie!bros del Instituto de la (ingularidad "ara la Inteligencia Artificial - *ota del TraductorN# ,$or !u& creer en el potencial de la inteligencia artificial#, 2os veo en el traba8o en las ar uitecturas de infor!aci/n) ue se distribuyen y) en "arte) biol/gicos) y "or lo tanto creo ue ta!bi1n se "ueden crear en las ar uitecturas no biol/gicos# Es "or eso ue considero factible# Ta!bi1n hay un factor irracional en el 8uego# Cuiero decir) !e gustar.a vivir en un futuro en el ue e:iste la rob/tica# $eo todos los avances logrados) y leo RurzLeil esbozar este ti"o de tendencias# '/!o la conciencia) son esencial!ente !aterialista# 0 esto) en !i o"ini/n) es una condici/n "revia "ara creer en alg;n ti"o de singularidad o la Inteligencia Artificial# *o creo ue la conciencia re uiere alg;n don sobrenatural# E incluso si se re uiere) los robots lo obtendr# +e hecho) discut. el asunto con algunos cristianos funda!entalistas# 0 !uchos cristianos funda!entalistas no entienden co!"leta!ente la naturaleza del al!a# 2os te/logos durante !iles de a%os han dicho ue el al!a no se ha creado en el "rinci"io de los tie!"os y ue no sobrevive a la !uerte del cuer"o) "or ue +ios cre/ a Adn del barro y los gol"es en el al!a# 'rear un ho!bre) "or lo tanto) es un "roceso !aterial# (e su"one ue la resurrecci/n al final de los tie!"os es la resurrecci/n de la carne# El al!a es) "ues) la relaci/n de un ser consciente con lo divino# (i yo uer.a crear) en un coche) un ser ue tiene la !is!a sensaci/n de aso!bro y a"recio "or el !undo natural y cual uier otra cualidad es"iritual ue uere!os) si fueron ca"aces de crear el ti"o de la feno!enolog.a en un coche) ue ser.a una ! uina con un al!a# -uesto ue soy un !aterialista de ese ti"o) no creo ue la creaci/n de la inteligencia artificial es un "roble!a# ,La IA mascotas ( Amistoso AI en >i?ipedia ) es posi*le# , 'reo ue es "osible) "ero "oco "robable# !aterialista +ado ue) una vez !s) creo ue "or ue veo a la gente a!able# As. ue s1 ue es "osible tener un "roceso consciente) ser sensible ue es a!able) y yo no creo ue no hay ning;n obstculo insu"erable "ara crear el !is!o ti"o de conciencia en una ! uina# El "roble!a) creo) es ue se es"era "ara entrar en la inteligencia de las ! uinas de una for!a !ucho !s controlable y !ani"ulable ue la conciencia biol/gica han sido hasta la fecha# 'reo ue las for!as de la conciencia biol/gica sern !ucho !s variadas en el futuro) y ue as. "ueda llegar a ser tan co!"le8o co!o la IA# +e todos !odos) va!os a decir ue cree una IA) y "or unos valores y una cierta ## !oral (i algo =se descarrila= y hace una reductio ad absurdu!con otra o de un con8unto de valores) entonces usted ter!ina con un desastre en sus !anos !s "oderosa es M ue IA - *ota del TraductorN) el "eor desastre a u.# "or ue el "royecto =a!igable AI= !e de8a "er"le8o co!o: bsica!ente) veo el sue%o de un caballero en un caballo blanco ue viene y resuelve todos nuestros "roble!as# ,La IA afectar la fuer"a de tra*a8o#, 0 Ola teor.a habitual de dese!"leo debido a la auto!atizaci/n# @to"istas han sostenido esto desde hace !ucho tie!"o) la idea de ue "odr.a!os ser ca"aces de deshacerse de la fatiga !ediante la sustituci/n de las "ersonas con las ! uinas) ani!ales de ingenier.a) o lo ue sea# Tesis estn regresando c.clica!ente# He!os visto) en los a%os T5) un gru"o de econo!istas ue escribieron al "residente Rennedy y di8o: =Es"era!os ue en los "r/:i!os diez a uince a%os) la auto!atizaci/n a gran escala va a "roducir dese!"leo !asivo# +ebe!os "re"ararnos en estos !o!entos# = Queno) ellos estaban e uivocados# 0 una de las razones "or las ue te e uivocaste) es ue la econo!.a crea nuevos "uestos de traba8o "ara hacer nuevas cosas ue la gente uiere salir y ue no se hab.an hecho antes# @na vez ue el !inero hace el robot) traba8os industriales nacidos) y el e!"leo en el sector servicios#

*uestro "roble!a hoy es ue si consegui!os la IA fuerte) uellOIA ahora sobrehu!ana ree!"lazar el traba8o hu!ano en los servicios y los derechos laborales# 0 luego) no hay otras o"ortunidades de traba8o# Hay "ocas ocu"aciones =e!ocional= "or u1 las "ersonas siguen "refiriendo los seres hu!anos# +e hecho) si nos fi8a!os en la "el.cula =AI - Inteligencia Artificial=) incluso los robots "rostituci/n ser !e8or ue el de los hu!anos# 0a he!os visto ue el robo-la "si uiatr.a es !s barato bastante !aldito y casi tan efectivo co!o lo fue "racticada "or los seres hu!anos# As. ue no s1 si hay alguna ocu"aci/n creativa) intelectual) lo corta) lo hare!os a;n !e8or !a uinaria# En este "unto) todo el !undo est en riesgo de estar dese!"leado# Tene!os ue "ensar en ello# $a!os a de8ar ue todo el !undo !ueren de ha!bre? ? debe!os entender c/!o ali!entar a todo el !undo? (i usted entiende c/!o ali!entar a todo el !undo) usted ya no tendr ue traba8ar "ara recibir el "ago# El contrato social) "or lo tanto) ca!bia "or co!"leto# ,+u& papel podr)a tener en el progreso del futuro% me8oramiento humano ( el fortalecimiento de la inteligencia#, $uelva a leer $ernor $inge# >l argu!enta ue la inteligencia artificial "odr.a llevarnos a un agu8ero negro) !s all del cual no "odr.a!os sobrevivir# ?) "odr.a!os "artici"ar en una a!"lificaci/n de la inteligencia) en el au!ento de la ca"acidad intelectual hu!ana) lo ue "odr.a llevarnos !uy cerca del !is!o) y en ese !o!ento sab.a!os un "oco !s de lo ue est "asando) "or ue he!os sabido "or alg;n O !e8or a nosotros !is!os# (i se lee =2a singularidad est cerca= RurzLeil) conocido co!o el ca".tulo tras ca".tulo insiste en la ingenier.a gen1tica y la !e8ora de la cognici/n hu!ana a trav1s nanorob/tica# 0 entonces te encuentras con estos a!antes del c/digo & ue son !is a!igos) eso s.) "ero son a!antes de c/digo ###, ue "iensan ue la belleza de las !ate!ticas va a salvar el !undo) y ue no debe!os tener ning;n origen biol/gico) cual uier ti"o de "lan de gen1tica darLiniana) "or ue la belleza de las !ate!ticas va a salvar la hu!anidad# -ero la belleza de las !ate!ticas no nos !uestra el ca!inoA2a 1tica) los valores) la e!"at.a) todo esto es s/lo el ser hu!ano encarnado# As. ue si uieres una IA ar uitectura guiada "or los valores hu!anos) yo dir.a ue co!enzar con el fortaleci!iento de los seres hu!anos# (i usted tiene una idea de c/!o crear el AI) introducirla en un ser hu!ano# ,La IA tendr derechos legales#, *o est escrito en ninguna "arte de la 'onstituci/n ue hay ue ser un ser hu!ano "ara ser una "ersona 8ur.dica# 0a reconocer esta condici/n a las e!"resas# 'reo ue ya hay un "recedente legal# 2a en!ienda 49 dice ue tienes ue ser nacidas o naturalizadas en los Estados @nidos# Tal vez si la IA de no nacen en los EE#@@#) va!os a tener ue naturalizar# -ero si se les reconoce co!o "ersonas 8ur.dicas) entonces cules son las condiciones "ara ser una "ersona? 0 =Esta es) en !i o"ini/n) el argu!ento legal "ara to!ar# It Os sigue siendo !s "ro"ensos a tener chi!"anc1s) orangutanes y bonobos !onos gen1tica!ente !odificados) ue cu!"len los criterios de la "ersonalidad 8ur.dica# ,$or !u& apo(ar al Instituto de la Singularidad#, 'o!o ya he dicho) creo ue la interacci/n con el !undo de la infor!tica) la seguridad infor!tica) la ciencia cognitiva) todav.a es de!asiado d1bil# (i usted va a scholar#google#co! y b;s ueda =AI friendly= "ara ver u1 "ublicaciones estn dis"onibles en estos te!as) no "uede encontrar cual uier cosa#-or ue nadie ha o.do hablar de la cuesti/n) y a;n !enos "ersonas lo han to!ado en serio# -or lo tanto) si la co!unidad uiere real!ente de8ar una huella en las "ersonas ue tratan de ciberseguridad "royecto) AI) tiene ue "artici"ar de !anera directa# Estas "ersonas se encuentran en la acade!ia) el gobierno) gru"os de refle:i/n) y hasta ahora ha sido un fen/!eno subcultural# Ahora) yo s1 ue el ";blico Mde la 'u!bre (ingularity - *ota del traductorN hay "ersonas ue no for!an "arte de esta subcultura# -or lo tanto) este es un "ri!er "aso# -ero se necesita !ucho) !ucho !s# ,La singularidad nunca llegar a ser, de moda ,# 'reo ue todas las ideas ue "asan a trav1s de una secuencia de eta"as "redecibles# Algunos

uedan atra"ados y nunca alcanzan la !adurez# -ero uno de los "ri!eros "asos es lo ue yo lla!o la fase de la =sala de estar=# 0 =uno de un gru"o de "ersonas ue son cada uno general!ente estn de acuerdo entre s.) "ero a veces divergen considerable!ente de unos a otros) son !uy inteligentes) les encanta estar 8untos y hablar de sus ideas) co!o en el salones franceses del siglo P$III# -od.a !antener a un gran debate sobre la conveniencia de votar "or las !u8eres: =Es una gran idea) va!os a voto de las !u8eres# $a!os a hablar =# 2uego estaba el !ovi!iento de las sufragistas a finales del siglo PIP) las !u8eres fueron de8adas !orir de ha!bre) la gente hizo estallar) y la @ni/n Internacional de los Traba8adores) con sus huelgas re"ri!idas "or la fuerza# A continuaci/n) se "asa de la sala de estar) de t1 de la tarde) a un verdadero co!"ro!iso "ol.tico de nuestros d.as# -or lo tanto) el grado en ue el ";blico y el gobierno son serios acerca de los ti"os de ca!bio social radical y de las a!enazas !encionadas "or el Instituto de la (ingularidad es ta!bi1n el grado en ue el co!"ro!iso "ol.tico o to!ar en serio o ser borrada del !a"a# 2as ;nicas "ersonas ue van a hablar de ello Men este ;lti!o caso) *+TN ser la derecha cristiana o de la gente en el -entgono# ,7amos hacia la Singularidad#, Queno) creo ue hay !o!entos de discontinuidad en la historia) los !o!entos revolucionarios donde todo ca!bia !uy r"ida!ente# 'reo ue hay una cierta ahistoricis!o en (ingolaritari y su co!"rensi/n de la historia# Ha habido !o!entos) "or e8e!"lo) a finales del OY55) en el ue las cosas se !ov.an !uy) !uy r"ida!ente# Hubo una gran cantidad de innovaci/n tecnol/gica) una gran cantidad de ca!bios culturales) "ol.ticos# Hay) creo) "or lo ue los "er.odos y "er.odos en los ue las cosas no son tan r"idos# 0 ta!bi1n creo ue hay "er.odos co!o los "a"eles ca!biantes de nuestra es"ecie a la utilizaci/n de s.!bolos) en el ue caso de ue no tienen nada ue ver con lo ue ha "asado antes#-odr.a ser este el ti"o de transici/n ue esta!os viviendo) o "odr.a ser una discontinuidad ue nos conducir hacia una nueva fase social) co!o el ca!bio de una sociedad basada en el salario y el traba8o) con un ingreso !.ni!o garantizado y sin necesidad de traba8ar# (i lo hace!os as. ue los robots llevan a cabo todo el traba8o) ser un ca!bio funda!ental) el su"er AI "ara conseguir sus ob8etivos o no# As. ue s.) creo ue va a ocurrir una transfor!aci/n funda!ental# El "redecir antes de 3575# -ero) "or u1 "ienso? *o soy un su"er genio ue "uede !antener un o8o en todas las tendencias# 'reo ue nadie "uede hacerlo# ,7a a ser marginados#, Tengo un gru"o de e:"ertos lla!ado Instituto "ara la >tica y Tecnolog.as E!ergentes &IEET,) y uno de nuestros "rinci"ales te/ricos es una a!arga cr.tica de singolaritarianis!o y transhu!anis!o en general#@no de los fen/!enos ue !s cr.tico es el intento de continuar =sub-culturizar#= 'ul es la venta8a) si usted va a uerer hablar sobre el -entgono y la a!enaza de la Inteligencia Artificial en las infraestructuras de infor!aci/n) lo ue estaba diciendo) la venta8a al decir: =0o soy un singularitarian y re"resento a una organizaci/n singolaritaria?=# *o le da ninguna credibilidad) incluso de acuerdo con lo ue te lleva# 0 desde un "unto de vista "rctico) tiene raz/n# Hice el !ilitante socialista desde hace !uchos a%os# E:acta!ente el !is!o "roble!a# (i usted va a la oficina del candidato de!/crata local y dice: =0o re"resento a los socialistas de A!1rica# Cuere!os a"oyar su candidatura y "ubliclyOll te a"oyan =) y sin duda le dir:= (i usted !e da una venta8a "ol.tica) no !e a"oyan ";blica!ente y no le digas a nadie ue eres un socialista =# 'on algo e:tra%o y a;n "or venir co!o el (ingolaritarianis!o hoy en d.a) el "roble!a es el !is!o# -or otra "arte) la raz/n "or la ue estaba ayudando a ue el candidato era "or ue yo era un socialista y uer.a a"oyar la causa de la atenci/n de salud "ara todos y los derechos de los traba8adores# 0o no habr.a ido si no !e hubiera convertido en un socialista) el (ingolaritari debe desarrollar un e ui"o de activistas ue van =en !isi/n= en el !undo de la infor!tica) en la acade!ia) en la "ol.tica# 0 frente a las !is!as tensiones# Cu1 diferencia hace ser un singularitarian cuando usted est tratando de hacer todo esto? 1 3raduccin italiano Michele 9ianella v)deo ( audio est n disponi*les en el sitio original del Instituto de la Singularidad< video % audio 1 (mp=)

3ranscripcin original del actual futuro< Ro*ots en la fuer"a la*oral $edimos disculpas por cual!uier error de traduccin% ( le instamos a !ue lo reporta1 Imagen de cr&dito< @nin de 3ra*a8adores A@4L9A mec nico% por Sarah Bungan ( 6e* % *logs )

,ise of -rtificial Intelligence controlado %eneral$ entrevista con Ben %oertzel

Tecnoscienza - Inteligencia Artificial

2as entrevistas del (IAI & Instituto de la (ingularidad "ara la Inteligencia Artificial , Qen Hoertzel) (IAI +irector de Investigaci/n ,+u& es la inteligencia artificial#, -ara res"onder a esta "regunta) "ri!ero debe!os "reguntarnos: =Cu1 es la inteligencia?=# 2o Oun te!a en el ue "sic/logos y estudiosos de la inteligencia hu!ana no estn de acuerdo co!"leta!ente) "ero en !i traba8o !e han llegado a definir la inteligencia co!o la ca"acidad de alcanzar !etas co!"le8as en entornos co!"le8os# -or su"uesto) se trata de una cuesti/n de grado# 2os seres hu!anos son !ucho !s inteligentes ue las cucarachas) las cucarachas son !s inteligentes ue las bacterias) y es !uy "osible ue haya otras !entes) inteligencia sobrehu!ana) ue "ueden resolver los "roble!as !s co!"le8os y alcanzar ob8etivos !s co!"le8os en diferentes conte:tos# (i usted decide ado"tar esta definici/n de inteligencia) la siguiente "regunta es: =Cu1 es la inteligencia artificial?=# @n artefacto es una herra!ienta) entonces el t1r!ino =inteligencia artificial= conlleva la idea de la construcci/n de siste!as ue se "ueden obtener resultados co!"le8os en entornos co!"le8os) ue consiste en los ob8etos ue he!os creado# Esto es algo en lo ue he!os logrado hasta ahora "oco 1:ito) en el sentido de ue he!os sido ca"aces de construir s/lo los siste!as de alcanzar ob8etivos !uy concretos: 8ugar al a8edrez) conducir coches) diagnosticar enfer!edades# Todav.a no he!os construido ning;n siste!a artificial) ya sea softLare) hardLare) o una ba%era llena de "roductos u.!icos) "uede alcanzar !etas co!"le8as en varios entornos diferentes# -ero entre nosotros) algunos investigadores en el ca!"o de la IA co!ienzan a creer ue esto "odr.a ca!biar en un futuro relativa!ente "r/:i!o# *os acerca!os al d.a en ue "oda!os ser ca"aces de crear AI con la ca"acidad "ara lograr diferentes efectos ue ve!os hoy en d.a s/lo en los seres hu!anos# ,Cu l es la diferencia entre la inteligencia artificial ( la inteligencia artificial general#, 'reo ue los "roble!as surgen cada vez ue utilice "alabras en ingl1s o cual uier otra lengua natural "ara describir conce"tos t1cnicos) "or los t1r!inos del lengua8e natural es inherente!ente a!biguo# 2o Os/lo la co!unicaci/n hu!ana# @sted nunca ser del todo correctos al describir los "roble!as t1cnicos con "alabras del lengua8e natural# El conce"to de energ.a en f.sica es un "oco diferente del conce"to de la energ.a en la vida cotidiana# As. ue creo ue t1r!inos co!o =Heneral de Inteligencia Artificial= dan lugar a la !is!a cuesti/n# 2a ciencia de la AI hace su "ro"ia) el uso de estos t1r!inos) las definiciones de las !ate!ticas) ue son definiciones estrictas# -ero no necesaria!ente en for!a con las definiciones de lengua8es naturales# AH?IA) -?I 2? TA*T?) defino =Inteligencia Artificial=) un siste!a ue "uede resolver una variedad de "roble!as) algunos de los cuales "ueden ta!bi1n nunca han sido considerados "or los "rogra!adores ue lo crearon# Al igual ue un ni%o) cuando naci/ y creci/ a"rendiendo a resolver los "roble!as ue sus "adres no estaban al tanto y tal vez ni si uiera saben#-ero es una cosa !uy diferente de los "rogra!as de IA ue se ocu"an de la !ayor.a de los investigadores de la IA# Hoy en d.a) si escribi!os un "rogra!a de a8edrez) el "rogra!a s/lo 8ugar al a8edrez# *o vuelvas a 8ugar el 8uego de Ho) o corrientes de aire) a !enos ue el "rogra!ador no le dice#-or otra "arte) si crea un siste!a con un !ayor nivel de inteligencia general co!"arable a la hu!ana) una vez ue le has ense%ado a 8ugar al a8edrez) el siste!a "uede a"render la da!a tan r"ido co!o si no hubiera a"rendido

"revia!ente cual uier otro 8uego# Es decir) "odr) gracias a su inteligencia general) "ara o"erar abstracciones y al es"acio de una categor.a "articular de "roble!as "or otro# 'reo ue debe!os darnos cuenta de ue la inteligencia infinita "or lo general no es "osible en este @niverso#Inteligencia infinita!ente en general re uieren "otencia de clculo infinito# 2os seres hu!anos no son en absoluto infinita!ente general# <5Z de nuestro cerebro se dedica a la transfor!aci/n de la visi/n# @na buena "arte de nuestro cerebro se dedica a tareas !uy es"ec.ficas: la vista) el o.do) el !ovi!iento) la "ro"ioce"ci/n) reconocer la dece"ci/n de otros) entender el idio!a# (/lo una "e ue%a "arte de nuestro cerebro se delega a la generalizaci/n y la resoluci/n de a!"lio es"ectro de "roble!as# 0 esto) de hecho) es algo ue no so!os !uy buenos# 2a !ayor.a de los seres hu!anos no "ueden resolver los "roble!as !s all de lo ue les han ense%ado o "ara los ue se han desarrollado# En cierta !edida) "ara resolver "roble!as de diversa .ndole es una habilidad ue los seres hu!anos con uistaron des"u1s de !ucha "rctica y estudio# 0 yo no le dar.a de!asiada i!"ortancia# (in e!bargo) es !ucho !ayor ue el softLare +ee" Qlue a8edrez o ue las ! uinas ue "artici"an en el +AI-A Hrand 'hallenge# ,Cu ndo la Inteligencia Artificial Avan"ada#, -osibles enfo ues "ara la creaci/n de un (ervicio Heneral de Inteligencia Artificial son bsica!ente dos: e!ular el cerebro hu!ano en el softLare) y crear un siste!a de IA diferente del cerebro) lo cual deriva su inteligencia desde "rinci"ios diferentes de los utilizados "or el cerebro hu!ano# 2a tecnolog.a actual nos "re"ara de diferentes !aneras "ara el final) en un futuro relativa!ente "r/:i!o) a!bos ca!inos# E!ular el cerebro hu!ano re uiere de dos cosas: "ara asignar !e8or lo ue ocurre dentro del cerebro y !e8or hardLare# A!bas cosas estn ocurriendo a un rit!o !uy r"ido) co!o Iay RurzLeil ha !ostrado !uy eficaz en su libro The (ingularity is *ear M The (ingularity is *ear N# 2ey de Moore y su "atr/n en la evoluci/n de hardLare !uestran ue nuestros ordenadores son cada vez !s r"ida!ente y !s eficiente) y su !e!oria cada vez !s a!"lio# (i nos fi8a!os en las curvas de creci!iento de las tecnolog.as de e:"loraci/n del cerebro) esta!os !e8orando la "recisi/n en t1r!inos de co!"rensi/n es"acial y te!"oral de lo ue sucede en el cerebro hu!ano# (i "ones estas dos cosas) se llega a la conclusi/n de ue en unas "ocas d1cadas "odre!os trazar lo ue est "asando en el cerebro hu!ano y si!ular en un ordenador# @sted "odr.a decir: =Queno) usted uiere ue sea# 0a tene!os suficiente gente# Cu1 necesita!os los digitales? =# -or otra "arte) va!os a ver desde este "unto de vista: Cu1 "asar.a si to!a!os las 455 "ersonas !s inteligentes del !undo) el co"iassi!o !il veces cada una) se e8ecutan todas sus !entes 455 veces !s r"ido ue lo hacen natural!ente) y al !is!o tie!"o observa!os todo lo ue ocurre en el cerebro? Esto conducir r"ida!ente a !uchos y sor"rendentes avances cient.ficos# As. ue yo dir.a ue cuando se tiene una buena e!ulaci/n del cerebro hu!ano) "odrs obtener todo ti"o de siste!as de inteligencia artificial no hu!anos# En esencia) la singularidad est !uy cerca# Al otro enfo ue AI) uno en el ue e!ula el cerebro hu!ano) "ero trata de crear una ! uina de "ensar a trav1s de diferentes "rinci"ios) all. ta!bi1n se han "roducido avances i!"ortantes# I!ag.nese c/!o ser el IAH y trazar un ca!ino hacia ella) "ara !.) !ucho !s fcil de lo ue era decir) hace 45 a%os# 2a raz/n es un "oco !s sutil ue en el caso de la e!ulaci/n directa del cerebro) "ero todav.a es !uy clara# 'reo ue en "ri!er lugar las ciencias cognitivas# (i usted est buscando "ara hacer un diagra!a de flu8o de lo ue sucede en la !ente hu!ana) tene!os la "erce"ci/n) la acci/n) la !e!oria a corto "lazo y la raz/n a largo "lazo) el a"rendiza8e) el a"rendiza8e "erce"tivo) !otor# Queno) dos buenos docena de rectngulos con !uchas flechas entre ellos# Tene!os un "oco de co!"rensi/n de lo ue sucede dentro de cada uno de estos =rectngulos=# Todo este conoci!iento es !uy "rofunda de lo ue era hace 35 a%os) incluso !s de lo ue era hace 45 o 7 a%os# En t1r!inos de la "sicolog.a cognitiva) ahora tene!os una !uy buena co!"rensi/n de lo ue sucede en la !ente hu!ana# Esto) "or su"uesto) "or s. solo no nos dice c/!o construir una ! uina de "ensar) "ero te hace entender !uchas cosas acerca de la ar uitectura de alto nivel ue necesita "ara hacerlo# Ade!s) tene!os un au!ento es"ectacular en

el conoci!iento de algorit!os y estructuras de datos# Esta!os li!itados "or la investigaci/n sobre la IA) ue se hace "ara resolver "roble!as es"ec.ficos) co!o los 8uegos) las enfer!edades a diagnosticar) conducir coches) "ara "redecir el !ercado de valores# Aun ue ninguna de estas cosas "or s. !is!o "ara lograr el IA) tene!os un !ont/n de algorit!os e:ce"cionales# *osotros accede!os a los datos de la !e!oria) reconocer "atrones) recrea!os el razona!iento y el a"rendiza8e#Mi enfo ue en la IA es to!ar las funciones de alto nivel) incluyendo la "sicolog.a cognitiva y i!aginar c/!o 8ugar cada uno de estos &"ensa!iento) a"rendiza8e ###, con los algorit!os desarrollados "or la frontera de la infor!tica) de !anera ue tenga una convergencia de los "sicolog.a cognitiva y algorit!os infor!ticos# E:iste) "or lo tanto) este enfo ue AI =integrador=# 2uego) "or su"uesto) tener en su 2ey y los avances en hardLare ue "ro"orciona de Moore# ,Lo !ue funciona en el campo de la IA#, En !i curr.culo no es un doctorado en !ate!ticas# He sido "rofesor de las !ate!ticas) la infor!tica y la ciencia cognitiva durante ocho a%os en varias universidades# En 4XXF) des"u1s de ocho a%os en la acade!ia) se introducen en la industria del softLare# He creado varias a"licaciones en el ca!"o de la IA restringida en el ca!"o de la bioinfor!tica) las finanzas co!"utacionales) "rocesa!iento del lengua8e natural y !iner.a de datos# Al !is!o tie!"o) !e ocu"o de IA restringida a"licada# 0 luego traba8ar en !i gran "lan "ara crear una ! uina de "ensar) ue bautic1 el !otor cognitivo =*ova!ente#= 2o Oun gran "royecto# Es iniciado en 3554) ha sido bastante lento "or ue los fondos eran ba8os) y luego acelerar# El traba8o fue financiado "or la e!"resa de e:"ertos en IA# -ero !i traba8o es el !otor cognitivo *ova!ente estaba real!ente convencido de ue "od.a!os conseguir allOIAH incluso en cinco a%os) con un esfuerzo con8unto tiene co!o ob8etivo "oner en "rctica el siste!a de *ova!ente) u otra ar uitectura IAH igual!ente vlidas# ,+u& hace usted para SIAI#, (1 Eliezer 0udGoLsGy durante varios a%os) tal vez desde el a%o 4XXX# 'on los a%os nuestras "osiciones sobre la gri"e aviar) la singularidad y la 1tica en el desarrollo de la IA se acercaron y se eli!inan varias veces# He seguido con inter1s el desarrollo del Instituto de la (ingularidad desde su creaci/n# El a%o "asado) en 355T) e!"ec1 a hablar con Eliezer y Tyler E!erson sobre la !anera de unir nuestras fuerzas) a fin de lograr !e8or nuestros ob8etivos co!unes) lo ue lleva a la creaci/n de IAH) !a:i!izando as. las "osibilidades de conseguir una singularidad "ositiva # Eliezer ha traba8ado durante !ucho tie!"o en su enfo ue a!igable con AI) la realizaci/n de siste!as de inteligencia artificial ue de alguna !anera se garantiza ue sea favorable a los seres hu!anos y reconocer los valores !orales "ositivos) ya ue au!entan su inteligencia# -or !i "arte) aun ue yo estaba !uy interesado en la 1tica) segura y beneficiosa "ara crear una IA) !i acerca!iento a la Inteligencia Artificial Heneral es la ingenier.a !s "rctico# Eliezer hizo "or enci!a de la teor.a# Ta!bi1n hice un "oco de teor.a) "ero ta!bi1n traba81 con un e ui"o de "rogra!adores "ara construir siste!as# 2arga historia corta) entr1 en el (IAI co!o director de la investigaci/n) con el ob8etivo de integrar) con un "rogra!a de "rctica sullOIAH investigaci/n) el traba8o te/rico de Eliezer 0udGoLsGy# @na de las cosas ue uiero hacer es i!"ulsar el desarrollo de herra!ientas de c/digo abierto "ara IAH# As. ue to!ar algunas herra!ientas de softLare ue he!os desarrollado "ara *ova!ente y con la colaboraci/n del (IAI rilascierei algunas de ellas en for!ato de c/digo abierto) "or lo ue los "rogra!adores de AI en el !undo acad1!ico) la industria) todo en fin) "ueden colaborar a desarrollar de for!a inde"endiente las herra!ientas ue le ayudarn a AI "ro!over segura y beneficiosa# El "a"el de (IAI) en este caso) ser.a la de actuar co!o una llave y coordinar la contribuci/n de los diferentes desarrolladores de c/digo abierto) y ta!bi1n "ara "ro"orcionar una gu.a "ara asegurar ue el desarrollo est "resente en for!a segura y beneficiosa# Mi o"ini/n es ue si au!enta la colaboraci/n) entre la co!unidad de investigadores de la IA) IAH y la (ingularity Institute) esto ser.a e:tre!ada!ente "ositivo# -odr.a acelerar nuestro "rogreso hacia la IAH) garantizando al !is!o tie!"o ue el (ingularity Institute) ue ha "ensado

!ucho acerca de c/!o !antener la AI en el ca!ino 1tico) "uede dese!"e%ar un "a"el en la gesti/n de los eventos a !edida ue avanzan hacia el IAH # ,Cmo se puede programar la &tica#, -regunte c/!o "uede convertir la 1tica en unos y ceros de una !ente artificial es !uy si!ilar a "reguntar c/!o la 1tica a "artir de los "otenciales de acci/n y los niveles de do"a!ina en el cerebro hu!ano# 'uando ense%o 1tica a un ni%o) co!o lo hice !is tres hi8os) no trato de traducir la regla de =no gol"ear a la gente en la cabeza= en una serie de "otenciales de acci/n de sus cerebros# Instruirlos en la lengua) a trav1s del e8e!"lo# Esa declaraci/n funciona en "arte "or ue sus cerebros estn dise%ados "ara recibir estas instrucciones y de res"onder adecuada!ente) ya ue el cerebro hu!ano tiene un !/dulo integrado !uy eficaz "ara las interacciones sociales) "ara re"roducir el co!"orta!iento de los de!s y e!"atizar con los de!s # +el !is!o !odo) si uere!os inculcar una 1tica adecuados "ara AI) sirve co!o un con8unto de instrucciones e:"l.citas) ar uitectura !ental es adecuada "ara recibirlos#*o creo ue el !e8or enfo ue es el ='alendario de la 1tica=# En este caso) de hecho) lo ue ottererresti ser.a una serie de !andatos 1ticos !uy r.gido) lo ue no ser.a lo suficiente!ente fle:ible) generalizables e integrado entre ellos "ara guiar el co!"orta!iento de un siste!a inteligente en general) en el !undo real# -ero en cual uier caso i!"ortante tener en cuenta el co!"orta!iento 1tico en cuenta al crear una ar uitectura de IAH "ara ue "ueda dis"oner adecuada!ente de instrucciones 1ticas ue final!ente guiarn su co!"orta!iento# $a!os a seguir este enfo ue en el softLare de c/digo abierto ue IAH dar a conocer el Instituto de la (ingularidad# ,La IA tendr !ue entender el lengua8e natural de ser &tico#, 'reo ue "ara entender la 1tica hu!ana) la AI debe ser una "arte integral de la cultura hu!ana# 'reo ue los conce"tos del bien y el !al) la violencia) la agresi/n) la libertad) la elecci/n) uno !is!o) sern) no son conce"tos !ate!ticos for!ales# Todos ellos son conce"tos culturales ue derivan su significado s/lo de la rica red de interacciones ue tienen los seres hu!anos entre s.) con nuestros cuer"os) con nuestro !undo# AI tendr ue relacionarse con el !undo "ara co!"render real!ente el sentido hu!ano de la 1tica de una !anera ue "rctica!ente dirige su co!"orta!iento# -ero yo no creo ue eso sea suficiente# -or su"uesto) usted "odr.a hacer una IA integrado "lena!ente en el !undo de los hu!anos y ta!bi1n "uede hacer cosas terribles# Ta!bi1n se debe dis"oner de la ar uitectura adecuada) la dis"osici/n correcta de a"render# 2o Oun rea donde creo ue los no-hu!anoides IA son funda!ental!ente su"erior a los hu!anoides) "or ue los seres hu!anos no son es"ecial!ente 1tico#'onoc. a un !ont/n de gente desagradable en !i vida) y he observado ue incluso el !s a!able y atento a la 1tica "uede convertirse en los "eores bastardos a los eventos ca!biantes# ,Suponiendo !ue la IA fuerte es facti*le% se espera un despegue, *landa ,o, dura ,#, *o "retendo saber) y creo ue usted sabe ue alguien real!ente se enga%e# El "otencial "ara el des"egue =dura= es !uy real# (er.a "osible crear un siste!a de inteligencia artificial "uede ca!biar tan r"ida!ente y de for!a recursiva los !is!os ele!entos bsicos ue se "asa de un nivel hu!ano a un nivel de inteligencia divina en tan s/lo cinco !inutos# -or otra "arte) es "oco "robable ue un evento ue ocurre de for!a ines"erada) a !enos ue haya traba8ado el siste!a de inteligencia artificial sin el conoci!iento suficiente# 'reo ue la construcci/n de un siste!a de atenci/n con IA &co!o hici!os con *ova!ente) y c/!o va!os con los "royectos de AHI (IAI) de c/digo abierto o no, la tasa de !e8ora de la inteligencia ue "uede controlar# @sted "uede conseguir lo ue yo lla!ar.a ascenso controlado) donde el nivel de inteligencia del siste!a AI s/lo !e8orar en cierta !edida) todos los a%os# Me atrever.a a decir ue este es el !s razonable y 1tico "ara "roceder# A !enos tOinvadano e:tran8eros no su"erinteligentes del es"acio e:terior) o alguna otra terrible situaci/n en la ue necesita de in!ediato un =+ios=) ue es !ucho !e8or seguir adelante con relativa cal!a durante algunos "er.odos de tie!"o) tal vez incluso d1cadas o siglos# +e8e ue la raza hu!ana se ada"ta a la nueva situaci/n) y las cosas suceden de una for!a

co!"rensible y en un !o!ento =!ane8able=# 'reo ue esto deber.a ser "osible) si el siste!a AHI se ha construido correcta!ente# -ero esto conduce a todo ti"o de cuestiones 1ticas co!"le8as y dif.ciles# 0 si el Instituto de la (ingularidad decide en el futuro "ara seguir un ca!ino de ascesis controlado? Cu1 "odr.a evitar ue otra "ersona de la creaci/n de otra IA y "robar un disco de des"egue? *ecesita!os un ="olic.a= AI ue i!"ide otra IA crecer de!asiado r"ido? 0 ui1n cree la "olic.a? 0 c/!o? El "roble!a ta!bi1n se le "reguntar acerca de su "ri!era IA) a !edida ue asciende de for!a controlada? 'uando se trata de un nivel de inteligencia s/lo dos veces a la del cuer"o hu!ano) decir !uy bien) su traba8o es evitar ue otros a "rogresar !s r"ida!ente de lo ue? Estas "reguntas son !uy dif.ciles) !uy "rofundo y !uy i!"ortante# Hay !uchas res"uestas "osibles# *o estoy diciendo ue todos ellos# *o creo ue alguien en (IAI usted "iensa ue tiene todas# @na de las cosas ue !e gustar.a hacer "ara (IAI es involucrar a tantas "ersonas co!o sea "osible en un dilogo intenso y "rofundo sobre estos te!as# 2o ue real!ente uere!os hacer? 'undo debe!os ascender? 'on u1 ra"idez o la lentitud) cada uno de nosotros debe "er!itir a ascender? Cu1 li!itaciones tendr.a sentido a"licar a AI de siste!as ca"aces de r"ido des"egue? (on "reguntas "rofundas) ue creo ue no elite "uede res"onder !e8or a s. !is!o# +ebo ser el "roducto de una conciencia y una decisi/n colectiva# -ero creo ue un gru"o co!o la (ingularidad Instituto "uede dese!"e%ar un "a"el estrat1gico en la catlisis de este "rogreso de la co!"rensi/n social# traduccin en italiano de Michele 9ianella1 v)deo ( audio est n disponi*les en el sitio original de la Singularit( Institute< video % audio 1 (mp=) 3ranscripcin original% ;uturo de la actual< Ascent controlada en A9I $edimos disculpas por cual!uier error de traduccin% ( le instamos a !ue lo reporta1

,einteressarsi a la Inteligencia -rtificial.!ntrevista con Sam -dams

Tecnoscienza - Inteligencia Artificial

2as entrevistas del (IAI & Instituto de la (ingularidad "ara la Inteligencia Artificial , (a! Ada!s) ICM distinguido ingeniero Se ha dicho desde hace cincuenta a0os !ue la inteligencia artificial era vuelta de la es!uina1 +u& ha cam*iado ahora# Queno) "ara e!"ezar) nos e!barca!os en un via8e "ara descubrir u1 es la inteligencia# Todav.a no esta!os co!"letos) "ero esta!os !ucho !s cerca# *osotros no entende!os co!"leta!ente u1 es la inteligencia# 'osas co!o las !ate!ticas y la l/gica) ue eran la base de los "ri!eros traba8os sobre la influenza aviar) son "or su"uesto "arte de lo ue hace el ho!bre inteligente) "ero !ucho de lo ue hace!os) c/!o las e!ociones o la creatividad) no se basa en las !ate!ticas o la l/gica# Hran "arte de lo ue era fcil de ver con las "ri!eras tecnolog.as allan/ el ca!ino) !s tarde) en las cosas !s dif.ciles# @n e8e!"lo es el sentido co!;n) es decir) ser ca"az de hacer lo ue un ni%o de tres a%os "uede hacer# @n ni%o de tres a%os sabe ue si se de8a de lado algo) caer al suelo# -ero no he!os incluido el e ui"o ue bien# Algunos estn e!"ezando a alcanzar esta ca"acidad# -ero e!"eza!os "or el final# 2a "rueba de Turing) si lo "iensas bien) es tratar de crear un e ui"o ue un ser hu!ano no sabe si lla!ar a la co!"utadora o hu!ano# He!os encontrado ue esto no es una buena "rueba) "or ue es fcil de enga%ar al observador# Muchas "ersonas) "ara enga%ar a una "ersona) se co!"ortan co!o si se tratara de otra "ersona y los de!s caern# As. ue nos di!os cuenta de ue) en la orientaci/n de la investigaci/n cient.fica en la orientaci/n de los investigadores) la "rueba de Turing no es un bien co!o "ensabas# Ta!bi1n tuvi!os un !ont/n de buenas ideas "ara los ue la tecnolog.a de hardLare y softLare no estaba "re"arada# 'reo ue una de las razones "or u1 las "ersonas son entusiastas de nuevo y co!ienzan a hablar de la

inteligencia artificial es ue el hardLare ofrece un rendi!iento !ucho !e8or# 2os siste!as con los ue traba8a!os hoy en d.a tienen una "otencia !ucho !ayor ue a uellos con los ue e!"eza!os# +e hecho) un enfo ue ue creo ue va a dar !ucho fruto) volver a e:a!inar algunas ideas antiguas de los "ri!eros a%os de la infor!tica &cuando todav.a no estaba claro cul ser.a utilizado "ara las co!"utadoras,) y luego a"licarlos en siste!as "otentes de hoy en d.a# 2os puede dar un e8emplo de lo !ue est cam*iando# Antes de siste!as o"erativos) "rocesadores de te:to) interfaces grficas de usuario) y todo ese con8unto de cosas ue da!os "or sentado) las co!"utadoras eran !ucho !s =a!"lio es"ectro= 2a gente "od.a crear algo utilizando los co!"onentes electr/nicos) la !e!oria y "rocesadores# *o hab.a ning;n estndar real# (i hiciste hacer una solicitud) hab.a ue e!"ezar de cero y "onerlo todo 8unto# Todas estas "latafor!as) estas nor!as a las ue esta!os acostu!brados hoy en d.a han hecho au!entar la "roductividad y el valor de !ercado) "ero a ca!bio han lla!ado =estrecha= nuestra !ente abierta acerca de las "osibles !aneras de utilizar el ordenador# 'reo ue "ara ca!biar) entre otras cosas) es la dis"osici/n de la gente a !irar !s all de los !odelos actuales) buscando nuevos !odelos# $odemos construir m s-!ue-humano# 'uando habla!os de ordenadores !s inteligentes ue el ho!bre) o incluso "ara desarrollarlos) en realidad ni si uiera sabe!os c/!o construir co!"utadoras a nuestro nivel de inteligencia# *osotros no llega!os si uiera a la inteligencia de los !a!.feros son !ucho !s "e ue%os ue nosotros# 'reo ue cuando uno e!"ieza a hablar sobre el desarrollo de siste!as !ultifuncionales inteligentes) de ah. la e:"resi/n =inteligencia general artificial= MIAH) o Heneral de Inteligencia Artificial) AHI - TraductorN) habla!os de cosas ue no tienen la ca"acidad de a"render libre!ente) "ara ad uirir conoci!ientos "or s. !is!os# -or lo tanto) al igual ue cuando ests en situaciones nuevas "ara usted) usted tiene ue i!aginar lo ue suceder y u1 i!"acto tendr en usted# Cu1 vas a hacer en ese entorno? '/!o "odr.a usar sus recursos "ara alcanzar sus !etas?+ale un siste!a de estas habilidades no le har.a !s inteligente ue el ho!bre) "ero ser.a un siste!a !uy ;til) y todav.a no he!os llegado# En esta conferencia se discute !ucho sobre el te!a: =Cu1 "asar.a si crea!os algo !s inteligente ue los hu!anos ? ='reo ue el lla!ado (ingularity) a saber) la "osibilidad de ue esta inteligencia= des"egue =y nos de8a atrs) tal vez a nuestro "ro"io detri!ento) todav.a te e:tra%o !ucho) !ucho tie!"o# En el curso de nuestras vidas) no tendre!os ue "reocu"arnos "or eso# -ero !s bien) creo ue "robable!ente en los "r/:i!os 45E47 a%os va!os a ver un !ont/n de IAH interesante# $a!os a contar con siste!as ue se describen co!o radical!ente nuevo) revolucionario) si "udieras ver ya hoy# -ero cuando lo hacen) co!o ocurr.a a !enudo en la historia de la inteligencia artificial) todo el !undo dir: =?h) no es AI real) es otra cosa#= $a!os a desarrollar siste!as interesante) !uy ;til# $uelve el inter1s en estas cosas# 'reo ue va!os a ver !uchos avances e!ocionantes en los "r/:i!os a%os# -ero las cosas se uitan y nos de8an atrs) creo ue no# Cmo te va% ICM% la Le( de Moore# It Os interesante notar ue) de hecho) esta!os llegando al "unto en ue) con la 2ey de Moore clsico) los rendi!ientos estn dis!inuyendo# Ha notado ue ahora los "orttiles de ga!a alta han instalado no uno sino dos "rocesadores "or chi"?2lega!os al "unto en el ue hacer un solo "rocesador !s r"ido y !s r"ido co!ienza a luchar con li!itaciones f.sicas#*o "ode!os au!entar la te!"eratura o fundir el silicio# *o "ode!os hacer !antener el chi" de !e!oria# As. ue no se est !oviendo hacia los !ulti"rocesadores de chi"s# Esta es una !anera diferente de "roceder) algo ue no ten.a!os ue hacer hasta hace "oco tie!"o# -ri!ero hab.a siste!as Qlue Hene "ara clculos de ingenier.a o de los gobiernos de la desintegraci/n nuclear) cosas as.# Es) de) la co!"utaci/n "aralela de alto rendi!iento a corto "or largo tie!"o) "ero no "ara los usuarios en general) s/lo "ara a"licaciones es"ec.ficas# -or lo tanto) incluso si los "rocesadores son cada vez !s r"ido y !s "otente) ue se est convirtiendo en una for!a diferente# *o es s/lo una cuesti/n de "oner en !archa el !is!o "rogra!a en la !itad del tie!"o cada a%o o dos# Ello significa ue los !uchos ti"os de

a"licaciones# 0 hasta hoy no sabe!os c/!o hacer ue funcionen# ICM es la integracin de las tecnolog)as del futuro# +efinitiva!ente no es un e:"erto en todo lo ue IQM ha hecho en el ca!"o de la nanotecnolog.a o la co!"utaci/n cuntica#Traba8a!os en esa zona algunas de las !e8ores !entes del !undo# He!os desarrollado !ucho en ese ca!"o y siga cuidadosa!ente todas las clases de a"licaci/n interesante# Algunas de estas tecnolog.as co!o la co!"utaci/n cuntica) todav.a est le8os de su ado"ci/n !asiva) "ero esta!os a"rendiendo cosas interesantes en 1l ue nos ayudarn a entender c/!o dise%ar el chi"# Ahora) traba8a!os sie!"re al nivel nano!1trico con la tecnolog.a chi"s !odernos# 2o Ouna !anera de !e8orar las cosas# Miren lo ue esta!os e!"ezando a hacer frente a los circuitos a los nanotubos de carbono) ue es un traba8o fascinante) ue continuar el "rogreso en la "otencia de clculo# -ero el creci!iento de la tecnolog.a no lo es todo#Ta!bi1n debe!os a"render a hacer accesible a un gran n;!ero de "rogra!adores# Hoy en d.a) se ocu"an de "aralelis!o !asivo) co!o lo hace!os) "or e8e!"lo) el Qlue Hene) a;n re uiere una for!aci/n !uy es"ec.fica# *o es algo ue est al alcance de cual uier "ersona ue "ueda "rogra!ar una secuencia de co!andos de Uava o construir una "gina Jeb '/!o "ode!os hacer esta tecnolog.a accesible? '/!o se atreve la gente) frente a este nuevo "oder) crear nuevos ti"os de innovaci/n y valor a%adido? 0 =esta es nuestra verdadera "reocu"aci/n) no s/lo el "rogreso tecnol/gico# L 'ICM est tra*a8ando hacia la A9I# IQM ha estado involucrado en este ca!"o ya ue la AI naci/# 'osas co!o el azul "rofundo son el resultado de treinta a%os de investigaci/n financiada "or IQM# 0 no s/lo a nivel interno# Ta!bi1n financia!os un gran traba8o de investigaci/n en las universidades y nos he!os asociado con otras e!"resas# +e hecho) nuestro !odelo de investigaci/n se est !oviendo hacia la colaboraci/n abierta con las universidades es ue con las "e ue%as e!"resas# -or su"uesto) hay "roble!as con los ue contienden# 2as "e ue%as e!"resas uieren de8ar su huella y su necesidad de beneficiarse de un "royecto se "uede e8ecutar en contra de lo ue har.a con ue la tecnolog.a de IQM# '/!o colaborar y c/!o co!"artir los resultados) es una fuente de constante debate# 2o !is!o es cierto "ara las universidades) ue se centran en conseguir el valor de la "ro"iedad intelectual crean co!o "arte de su investigaci/n# -ero sie!"re esta!os interesados en traba8ar con la gente) cuando se a"orta venta8as a nuestros clientes# It Os nor!al "ara nosotros# *osotros traba8a!os con !uchas "ersonas diferentes) nuevas e!"resas) universidades) y otras grandes e!"resas# +u& piensas de la Cum*re de la Singularidad SIAI# 0 Oun gru"o incre.ble de "ersonas e:tre!ada!ente de !ente abierta# 2os fil/sofos ue tratan de i!aginar ue la hu!anidad est "asando) los ingenieros ue estn tratando de lograr algo ue nunca se hab.a hecho antes) y cual uier otra so!bra en el !edio# Hay "ersonas ue te!en la ue la tecnolog.a "odr.a llevarnos) y e:altado "or la !is!a gente cree# Es un "unto de encuentro de todas estas "ersonas) y el ti"o de ca!bio abierto ue crea) en !i o"ini/n) es !uy "ositivo# -or e8e!"lo) creo ue va!os a establecer un dilogo fruct.fero y encontrar !aneras de discutir con "ersonas de diferentes o"iniones) a fin de lograr avances significativos# Es"ero ue en la cu!bre se seguirn celebrando cada a%o# Qien vale la "ena el dinero# 3raduccin al italiano de Michele 9ianella 1 v)deo ( audio est n disponi*les en el sitio original del Instituto de la Singularidad< v)deo % audio 1 (mp=) 3ranscripcin original% el actual ;uturo1 $edimos disculpas por cual!uier error de traduccin% ( le instamos a !ue lo reporta1

!ntrevista con 'ustin ,attner$ vicepresidente y director de tecnolog.a de Intel

$isiones del Duturo - (ingularity O

Las entrevistas del SIAI (Instituto de la Singularidad para la Inteligencia Artificial - ahora conocido comoMIRI ) Uustin Iattner es vice"residente y director de tecnolog.a de Intel# Ta!bi1n es un !ie!bro senior de Intel y orientar a los laboratorios de investigaci/n de Intel# En este ;lti!o cargo) dirige la investigaci/n del !undo en !icro"rocesadores Intel y los siste!as de co!unicaciones) incluyendo las actividades de investigaci/n "otencial!ente !s "er8udiciales# Singularit( Institute< Cu nto tiempo puede seguir la Le( de Moore# Uustin Iattner: la 2ey de Moore es !s una =creencia= de ue una ley de la f.sica# *o se sigue de la f.sica funda!ental) en todo caso) es el hallazgo de ue la tecnolog.a de !icrochi" !e8ora a un rit!o relativa!ente constante# Esto ocurre debido a la "resi/n co!"etitiva# (i usted "iensa ue el ho!bre "or la calle "odr "ronto - en los "r/:i!os 43) 4Y) 39 !eses - "ara "oner el doble de transistores en los chi"s) te ani!a!os fuerte!ente a invertir en la !e8ora de la tecnolog.a y no uedarse atrs# As. ue hay una fuerza de traba8o ue alienta a la gente a invertir) y no hablo s/lo de la inversi/n financiera) sino ta!bi1n el tie!"o ue se invierte y los =caballos de fuerza= intelectuales ue se !ueven ca!bio# -ero segui!os confiando en la tasa de !e8ora en la ley de Moore) ya ue "ode!os hacer "redicciones acerca de diez a%os y ver el ca!ino ue va!os a to!ar "ara continuar con este "rogreso# *o es una visi/n !uy diferente de lo ue ten.a!os hace diez o treinta a%os# Todav.a sabe!os u1 es"erar en diez a%os# 0 ese horizonte de diez a%os) se ha !antenido constante desde hace 95 a%os# -or lo tanto) es razonable es"erar ue si hoy "ode!os ver des"u1s de diez a%os el futuro) es "robable ue haya otros diez a%os !s all de ese horizonte# SI< +u& har el cmputo% en die" a0os# +e hecho) Hordon MMoore) ndtN no di8o nada sobre el rendi!iento# Hordon habl/ si!"le!ente el

n;!ero de transistores "or chi"# 0 !s reciente!ente) he!os llegado a co!"render ue algunos factores li!itan la velocidad del transistor) en "articular) las cuestiones de la te!"eratura ue tene!os) "or as. decirlo) atra"ados detrs# *ecesita!os entender !e8or la for!a de disi"ar el calor# -ero segui!os "ara construir transistores !e8or y es real!ente un constante tira y aflo8a entre lo r"ido ue "uede correr y la cantidad de energ.a estos transistores) cunto calor se disi"e de la viruta# -ode!os hacer ue funcionen con !ucha !ayor ra"idez) si esta!os bien) "ero creo ue la gente uiere los siste!as ue son cada vez !s "orttil) !/vil) la bater.a y la velocidad de estos dis"ositivos es li!itada "or el calor y la energ.a# SI< +u& pasar con la computacin% una ve" !ue han alcan"ado los l)mites f)sicos del transistor# El l.!ite !:i!o est a;n !uy le8os) y ya he!os tenido "ruebas de ue cu!"lir con los l.!ites f.sicos en varios "untos a lo largo del ca!ino# Acaba!os de "asar una) "ero todav.a esta!os !uy creativa) !uy creativa) he!os su"erado varios obstculos y creo ue va!os a seguir haci1ndolo# 2os ti"os de dis"ositivos ue se basan) transistores) cables) "ueden ser !uy diferentes en diez o veinte a%os) "ero creo ue todav.a se conoce co!o rendi!ientos acelerados a la 2ey de Moore# SI< +u& es la ,terascale computing,# Esta!os !s o !enos hasta el "unto de ser ca"az de co!"ri!ir en un solo chi" de la !is!a "otencia de clculo ue ocu"ar.a una "e ue%a casa hace a"ro:i!ada!ente 45 a%os# En una de esas ! uinas ue "use !is !anos en "ersona# 2a "ri!era de estas grandes ! uinas realizan hasta un bill/n de o"eraciones "or segundo) y hoy en d.a) alrededor de una docena de a%os !s tarde) Intel y otras co!"a%.as van a "oner en el !ercado de chi"s ue co!"ri!en el "oder de c/!"uto en un solo chi") lo ue creo ue ilustra el "oder de la 2ey de Moore de la !anera !s incre.ble# (i se "uede e:"ri!ir una gran cantidad de energ.a en un solo chi") ta!bi1n se hace "osible una nueva generaci/n de a"licaciones# 2a gente "ensar ue usar ese "oder de c/!"uto de !anera ue en el "asado "arec.a si!"le!ente i!"osible) i!"racticable) y nuestro ob8etivo es construir siste!as de reconoci!iento de ese desaf.o) y uiz incluso su"ere) el rendi!iento hu!ano# Habla!os de la "osibilidad de =eli!inar= la infor!aci/n) "ara buscar a trav1s de terabytes) "etabytes) e:abytes de infor!aci/n a una velocidad incre.ble) "ara buscar no s/lo el te:to) sino ta!bi1n i!genes) videos# 0 habla!os de la ca"acidad de sintetizar los !undos virtuales y entornos virtuales desde la "ers"ectiva de la infor!aci/n sensorial ue "robable!ente ser el !is!o en todos los bits del entorno f.sico en el ue vivi!os# SI< 4l pro*lema de la Singularidad no es p)o% en los de*ates so*re los pisos superiores de la Intel# Mientras yo estaba traba8ando en !i "resentaci/n "ara el Intel +evelo"er Doru! en agosto "asado) decidi!os desarrollar una visi/n de a u. a 95 a%os) ya ue Intel estaba celebrando su 95 aniversario# 2a singularidad "arec.a una for!a natural "ara definir el discurso# 0 la !ayor.a de los e:"ertos en tecnolog.a - no tene!os !uchos fil/sofos a Intel) "ero los e:"ertos en tecnolog.a de !uchos) s. &risas,) !e "areci/ razonable su"oner ue en alg;n !o!ento de los "r/:i!os 95 a%os) llega!os al "unto en ue la inteligencia hu!ana y eguaglieranno artificial y luego) "oco des"u1s) la inteligencia artificial adelantar lo hu!ano# ?tros as"ectos de la singularidad) co!o la ca"acidad de !overse de !e!oria) los "ensa!ientos y las e!ociones hu!anas en un sustrato !ecnico ### s/lo "od.a!os i!aginar un "oco y no estba!os de!asiado "ara refle:ionar sobre cuestiones !orales ue se "lantean# -ero esta!os dis"uestos a ace"tar la "re!isa de ue el "unto de e uivalencia est a nuestro alcance en un futuro "r/:i!o) en las d1cadas "or venir# SI< +u& es lo m s sorprendente !ue Intel est haciendo ho(# A veces) cuando se enfrentan a ciertas tecnolog.as) !e "ellizco y digo) =Estoy real!ente viendo

esto?=@na de las tecnolog.as ue e:cita a la !ayor.a de la gente) hoy en d.a) es la trans!isi/n de energ.a sin cables# Todos nos ve!os afectados "or el inter1s ue ha suscitado la idea ue la "ersona "ro!edio# +es"u1s de hablar ";blica!ente de nuestro traba8o) he!os recibido una gran cantidad de correos electr/nicos) cartas) !ensa8es) tanto de las "ersonas interesadas en la for!a en ue "ensa!os lo logra!os) tanto a las "ersonas afectadas "or los riesgos !edioa!bientales) los riesgos "ara la salud hu!ana ue "odr.an haber sido# Afortunada!ente utiliza i!genes de resonancia !agn1tica "ara si "uede sobrevivir a una resonancia !agn1tica) es "robable ue "ueda estar en un ca!"o de la energ.a el1ctrica sin riesgo MrisasN# Es una de las tecnolog.as interesantes) y volver al "unto: las cosas "orttiles) !/viles) desde cual uier lugar ## 2a idea de no tener ue recargar la bater.a o ree!"lazarla) "ero ser ca"az de ca"tar la energ.a del entorno) entusias!a a la gente# @na de las cosas ue esta!os traba8ando !s en el largo "lazo) es"ecial!ente en nuestro laboratorio de -ittsburgh es la =!ateria "rogra!able=) es decir) la idea de e!"acar "e ue%os trozos de infor!aci/n de inteligencia y la !e!oria en "e ue%as esferas de vidrio) tal vez el di!etro de unos "ocos cientos de !icras) y dar estas bolas individuales la ca"acidad de !overse uno con relaci/n a otro !ediante la e:"lotaci/n de las fuerzas electrostticas# Ta!bi1n "uede ca!biar su color y) "or su"uesto) hacer ue se co!unican entre s.# 0 entonces usted "uede i!aginar ba%eras de estas cosas ue usted "uede literal!ente "rogra!aci/n instantneo a to!ar cual uier for!a) e incluso "uede e:hibir una variedad de co!"orta!ientos# El tel1fono en el futuro "odr.a ser una =rebanada=) "or as. decirlo) de la !ateria "rogra!able ue est en el bolsillo y luego) cuando lo sacas y llevarlo !s cerca de la ore8a) de volver a configurar o ca!biar su "erfil) si lo "refiere la analog.a cient.fica) y se convierte en un !/vil o una "antalla# 2a !ateria "rogra!able - "arece i!"osible ue nosotros) co!o seres hu!anos) "ode!os crear algo =si!ilar a la cuesti/n#= -ero ya lo he!os hecho en una escala centi!1trica# 2uego lo hici!os en dos di!ensiones en la escala !ili!1trica y ahora esta!os traba8ando en <+ a escala !ili!1trica y) a continuaci/n) tratar de ir al ca!"o de sub-!icrones con estos trozos de !ateria "rogra!able# SI< Intel est desarrollando alg:n pro(ecto en la computacin cu ntica# *osotros no hace!os !ucho traba8o de co!"utaci/n cuntica# 0 la analog.a ue hago a !enudo es: =nosotros no hace!os un !ont/n de traba8o) incluso en co!"utaci/n /"tica#= En "arte) !e inclino a reunir a la co!"utaci/n cuntica y la co!"utaci/n /"tica en ue) en los "roble!as ue se "restan "ara la co!"utaci/n /"tica) no hay nada ue e uivale a un e ui"o /"tico# (i!"le!ente no hay !uchos "roble!as =a !edida= "ara esa soluci/n# 0 lo !is!o es cierto) al !enos en lo ue conoce!os hoy en d.a) "ara la co!"utaci/n cuntica# Iealice algunos "roble!as) en "articular los de cifrado) donde no tienen rivales# (in e!bargo) "ara gran "arte de lo ue conoce!os co!o infor!tica andOll hacerlo en el futuro co!o una ! uina de a"rendiza8e o de la ! uina y de inteligencia) en la actualidad no se sabe lo suficiente co!o "ara decir si el ordenador cuntico ser !uy adecuado "ara estos fines# SI< $or !u& est s participando en la Cum*re de la Singularidad# 'uando recib. la invitaci/n) !e "areci/ ser una gran o"ortunidad "ara co!"artir algunos de los "ensa!ientos ue for!ulava!o de Intel) "ara hablar de nuestros "rogresos recientes y algunas de las cosas ue esta!os "ensando en el largo "lazo) 8unto con una co!unidad de "ersonas ue son conscientes (ingularidad y tal vez uieren e:"eri!entar un "oco "ara ver si lo ue saben y han le.do y escuchado sigue siendo cierto# A "artir de la tecnolog.a) y co!o una "ersona ue se levanta cada !a%ana y tratar de asegurarse de ue las leyes de retornos acelerados contin;an traba8ando as.) !e "areci/ una gran o"ortunidad "ara conocer a otras "ersonas de la co!unidad con los !is!os intereses#

SI< $or !u& i*a alguien a apo(ar al Instituto de la Singularidad# A !enudo esta!os "re"arados "ara hacer frente a los aconteci!ientos# A !enudo esta!os desbordados si!"le!ente "or y decir: =JoL) no !e es"eraba esto#= ?) =0o no hab.a o.do hablar#=Muchas veces nos cruza!os nuestra vida) d.a tras d.a) sin co!"render estos !ovi!ientos tect/nicos ue la burbu8a ue nos rodea# 2o fascinante de la (ingularidad es ue es algo ue "ode!os identificar r"ida!ente) y ue incluso "uede co!enzar a "ensar en el i!"acto ue tendr en nosotros) y c/!o nos "re"ara!os) u1 traba8o ue uere!os hacer) cules son las consecuencias !orales y sociales a ue asociado# 'o!o yo lo veo) es una o"ortunidad ;nica ue "ocas veces) en nuestras rutinas diarias) tene!os acceso# 2a "osibilidad de antici"ar lo ue es"era!os ser un evento verdadera!ente notable# SI< +u& hace la singularidad de Intel# @na e!"resa co!o Intel ha sido liderado durante gran "arte de su vida) de la 2ey de Moore) ue es el e8e!"lo clsico) uizs el e8e!"lo "or e:celencia de la 2ey de Aceleraci/n de +evoluciones# -or lo tanto) gran "arte de lo ue hace!os y con ui1n tene!os ue hacer todos los d.as) viene del conoci!iento de ue en "ocos a%os va!os a ser ca"aces de "oner el doble de transistores en un chi") o tal vez "ara Lhiz en un chi" fotones en lugar de electrones# 2os !otores de la singularidad son los !is!os ue i!"ulsan Intel cor"# Entende!os ue nuestro 1:ito tiene !uchas de sus ra.ces en la ley tan i!"ortante) y ue nuestro futuro sigue basndose en gran !edida en el "rogreso tecnol/gico continuo#

'ames Miller/ cmo el p0blico va a reaccionar cuando empieza a creer en la singularidad y lo 1ue significar 1ue la gente lo aceptar
$isiones del Duturo - (ingularity O

2as entrevistas del (IAI & Instituto de la (ingularidad "ara la Inteligencia Artificial , Cmo va a cam*iar la sociedad% cuando la Singularidad est cerca# 'uando la gente co!ienza a es"erar ue la singularidad) su co!"orta!iento va a ca!biar

dra!tica!ente# 2os cient.ficos hablan de lo ue va a "asar cuando llegue!os a la (ingularidad# -ero uiero ca!biar el enfo ue a !s corto "lazo y hablar de lo ue sucede cuando la gente co!ienza a es"erar ue va a "asar# Cue tendr lugar !ucho antes) y creo ue ser !s fcil convencer a la gente a "restar atenci/n) ya ue no dicen) =?h) MserN en 35 o <5 a%os= -odr.an decir: =MEsto suceder entreN 47 o 35= +u& va a cam*iar cuando nosotros% como sociedad% comen"amos a esperar la Singularidad# Queno) el "rinci"al ca!bio ser el terror de la !uerte# -or u1) de re"ente) !orir no significa "erder <5) 95) 75 a%os de vida) "ero !iles de !illones de a%os# 0 esto) en !i o"ini/n) va a 8ugar un "a"el clave en el ca!bio de co!"orta!iento de las "ersonas# -or ue tene!os !iedo de la !uerte) tal vez va!os a recurrir a la cri/nica# *os gustar.a ! uinas !uy seguras# *os gustar.a ue el gobierno nos "rotege !ucho !e8or# -odr.a!os ba8ar el l.!ite de velocidad a 45 !"h# -or u1 ir a T7 !illas "or hora si usted "iensa ue al !orir) se "erdern !iles de !illones de a%os? 0 si usted "iensa ue usted va a vivir !ucho tie!"o "ara ir a 45 !"h ue tienesA +u& impide !ue el concepto de singularidad para echar ra)ces# 'reo ue no hay un acuerdo ";blico sobre el hecho de ue las ! uinas nunca alcanzarn un nivel hu!ano de inteligencia# Muchas de las "ersonas refle:ionen sobre el thinG te!a ue nunca va a suceder# -ero cuando se hace evidente ue va a "asar) creo ue la !ayor.a de la gente ace"ta ue la (ingularidad est cerca# ?tro "roble!a es ue no est claro si he!os sido ca"aces de !e8orar la inteligencia hu!ana# Hay !edica!entos ue !is alu!nos tienen "ara !e8orar resultados de las "ruebas) "ero no hacen una diferencia suficiente "ara "roducir un salto adelante en la econo!.a# Mi o"ini/n es ue) en diez a%os) va!os a tener algunos =drogas inteligentes= !ucho !e8ores) y as. los ue !e8orar el -IQ# 0 en ese !o!ento) cuando la gente es"era !s y !e8ores !edica!entos) van a "ensar: =+ios !.o) el futuro est a "unto de ca!biar radical!ente#= +u& de*e cam*iar para !ue la audiencia a creer en un futuro Singularidad# 'reo ue un as"ecto funda!ental es la creencia de la tecnolog.a de =l.deres de o"ini/n=# (i la !ayor.a de los cient.ficos y "rofesores universitarios "ensar 1l) les dirn a sus estudiantes# 0 en ese "unto) en !i o"ini/n) !uchos de sus alu!nos ace"tarn ue habr una singularidad# Cuando el p:*lico se d& cr&dito a la idea de un futuro Singularidad# Entre 47E35 a%os) seg;n yo# 'o!o !.ni!o) la !ayor.a de los estudiantes universitarios creen ue a finales del siglo ser testigo de la (ingularidad o "ara nuestra "ro"ia destrucci/n# La versin original % en el sitio del Instituto de la Singularidad para la Inteligencia Artificial 3raducido por Michele 9ianella 1

)a evolucin humana en perspectiva emergentista/ una hiptesis

$isiones del Duturo - (ingularity O

El infor!e es si!"le: cuando la "oblaci/n hu!ana se sit;a en unos valores) e!ergen nuevas ca"acidades) estructuras) co!"orta!ientos# Esta tendencia se "uede encontrar en !uchos otros casos en la naturaleza) "ara hacer un e8e!"lo claro y conocido "or todos) cuando un gru"o de "8aros ue un n;!ero es"ec.fico) lo ve!os de "ie en una cu%a "ara cortar el aire !e8or# Estos fen/!enos se definen &o "ro"iedades, ue e!erge) y su estudio ha generado en los a%os 35 del siglo PP) una escuela de "ensa!iento) conocida co!o e!ergentis!o) ue ofrece una lectura de la evoluci/n en estos t1r!inos: !s all de un cierto nivel de co!"le8idad de la !ateria se origina la vida) ue a su vez &con la a"arici/n de la Hu!anidad, se origina la 'onciencia# -or lo tanto) teniendo en cuenta las diversas ad uisiciones &invenciones) descubri!ientos ###, del sitio) en virtud de lo dis"uesto en los reba%os en for!a de cu%a de las aves) la "regunta lo ue trato de res"onder es: hay n;!eros "articulares "ueden desencadenar la a"arici/n de estas nuevas ca"acidades? 0 si e:isten) cules son? +es"u1s de una serie &corta, de b;s ueda infructuosa) la atenci/n se ha ca.do en otro observable ocurrencia frecuente en la naturaleza) la serie de Dibonacci) lla!ado as. "or el !ate!tico de -isa &44F5-4395,) uien for!ul/ # En la serie de cada n;!ero) a "artir de 5 y 4) es la su!a de los dos ue lo "receden) "or lo ue tene!os 5) 4) 4) 3) <) 7) Y) 4<) 34) <9) etc @na caracter.stica es"ecial de la serie es ue) a !edida ue avance!os en las su!as) la relaci/n entre cada n;!ero y el anterior se acercaba !s y !s sutil ue el valor constante de 4#T4Y) el lla!ado n;!ero de oro) ya conocido y utilizado desde la antigSedad griega # -ode!os observar esta serie) la dis"osici/n de las ho8as en un tallo) en las corolas de las flores) en !uchas conchas o gala:ias es"irales ### (i nos fi8a!os en el creci!iento de la "oblaci/n hu!ana en la historia &de acuerdo con las esti!aciones ue tene!os M4N,) en busca de !o!entos en los ue se certifi ue en los valores de la serie de Dibonacci) &a u. "or si!"licidad he considerado s/lo los "untos de la serie en la ue se ha "roducido un incre!ento en el orden de !agnitud) ue est a "ocos "asos de decenas a cientos) los cientos los !iles) etc,) "ode!os observar c/!o estos !o!entos tan identificado coinciden con a uellas en las ue la hu!anidad ha e:"eri!entado sus !ayores innovaciones#

Tabla desta u1 los dos ;lti!os valores) "or una raz/n: de acuerdo con la tendencia de creci!iento en los ;lti!os a%os cien a%os) se es"era ue la hu!anidad llegue a la "ri!era de estos valores en torno a 3535) y el segundo alrededor de 35F7# Estos valores en!arcan el "r/:i!o incre!ento en el orden de !agnitud) y si tene!os en cuenta lo ue ha sucedido en a%os anteriores) se "uede es"erar un corto algo tan revolucionario co!o lo fueron el descubri!iento de la agricultura) la invenci/n de la rueda) la escrituraA -or "ri!era vez en la historia "ode!os estar ante un "unto de infle:i/n ue tiene '?*'IE*'IAA -ero lo ue "odr.a ser el "unto de infle:i/n? Hay dos "osibilidades ue consider1 "ara ese salto) dos "osibilidades ue no son !utua!ente e:cluyentes) sino !s bien) ue corroboran !utua!ente# El "ri!ero se refiere a la visi/n de la evoluci/n de acuerdo con Teilhard de 'hardin &4YY4-4X77,) cient.fico y fil/sofo 8esuita# Teilhard de 'hardin) siguiente inter"retaci/n e!ergentista de la Evoluci/n) agreg/ ue el "r/:i!o "aso) decisivo) la evoluci/n ser.a la fusi/n de la conciencia individual de la hu!anidad) tales co!o =grnulos= de "ensa!iento dis"erso en la su"erficie de la Tierra) en una O ;nico gran conciencia colectiva) una es"ecie de cerebro E al!a de la Tierra) to!ada co!o un solo organis!o# (ostuvo ue la !edida no ser.a indolora) y habr.a sido favorecido) en sus "ri!eras eta"as) "or !edios tecnol/gicos) "or lo ue es considerado "or algunos co!o un "atr/n) o un "rofeta de internet#

2a segunda "osibilidad se refiere al lla!ado (ingularidad Tecnol/gica ) definido co!o el "unto en el ue nuestra tecnolog.a su"era nuestra ca"acidad de entender y actuar) identificada ahora con a uella en la ue ver la luz antes de ue la inteligencia artificial fuerte) es decir) aut/no!a) ya ue esta!os) "or lo ue ser.a !s correcto hablar de una 'onciencia Artificial# Iay RurzLeil &'lase O9Y,) inventor) escritor y futurista) conocido en los a!bientes tecn/filos de la e:actitud de algunos de sus anteriores "redicciones sobre futuros desarrollos tecnol/gicos) ue se es"era ue vere!os la entrega a !s tardar en 3535) y desde ese !o!ento a continuaci/n) en el desarrollo tecnol/gico va a sufrir un au!ento vertiginoso) con lo ue el ho!bre "ara co!binar con sus "ro"ias tecnolog.as &en este caso) Hen1tica) *ano y Iob/tica, "ara convertirse en uno de ellos# Esta fusi/n se abrir "osibilidades hasta ahora relegados a la !.stica) co!o la fusi/n &voluntario y reversible, de la conciencia) y a u. nos encontra!os con Teilhard de 'hardin) ue en este "unto se "odr.a lla!ar el -adre de la (ingularidad# Habriel &Habo, +al +osso M4N 'on res"ecto a las esti!aciones hist/ricas Me inclin1 a los "ro"orcionados "or la ?ficina del 'enso de los EE#@@# ) ue cita varios estudios ue han elaborado los "ro!edios# -or el contrario) en cuanto a las "royecciones futuras ue hice referencia a un docu!ento de las *aciones @nidas de 3559 & a u. ) en la "gina 49 - -+D,# 'onsider1 la esti!aci/n !s alta "ara el a%o 35F7# En los docu!entos relacionados) obvia!ente) no va a encontrar los n;!eros de Dibonacci) "ero las cifras =redondo=) a "artir del cual dedu8e) se acerca) cuando la "oblaci/n debi/ haber "er!anecido en los valores de la serie de Dibonacci#

)a singularidad est cerca$ por ,ay 2urz&eil.Cap.tulo uno/ las seis 3pocas
$isiones del Duturo - (ingularity O

3odo hom*re considera los l)mites de su visin personal como los l)mites del mundo1 - Arthur Schopenhauer *o "uedo decir e:acta!ente cuando se ha to!ado conciencia de la singularidad# Me di cuenta de ue era un des"ertar gradual# En casi !edio siglo he "asado in!erso en el ca!"o de la tele!tica y las tecnolog.as relacionadas con ella) trat1 de entender el significado y el "ro"/sito de la revoluci/n "er!anente ue "resenci1 en !uchos niveles# -oco a "oco) !e di cuenta de un evento de transfor!aci/n ue "arece a"arecer a lo le8os) hacia la !itad del siglo PPI# Al igual ue un agu8ero negro altera es"ectacular!ente los "ar!etros de la !ateria y la energ.a ue acelera hacia su horizonte de sucesos) "or lo ue esta singularidad en nuestro futuro in!inente se est transfor!ando cada vez !s todas las instituciones y todos los as"ectos de la vida hu!ana) de la se:ualidad con la es"iritualidad# Entonces) cul es la singularidad? Es un "er.odo en el ue los datos hist/ricos de la tasa futura de la innovaci/n tecnol/gica ser tan r"ido y su i!"acto tan "rofundo) ue la vida se transfor!ar irreversible!ente# Aun ue ni ut/"ica ni dist/"ica) esta 1"oca va a transfor!ar los conce"tos bsicos ue utiliza!os "ara dar sentido a nuestras vidas) desde la for!a de hacer negocios) con el ciclo de la vida hu!ana) incluso la !uerte# 'o!"render la singularidad va a alterar nuestra "ers"ectiva sobre el sentido de nuestro "asado y las consecuencias "ara nuestro futuro# 2a co!"rensi/n es) inherente!ente ca!bia nuestra "ers"ectiva de la vida en general y de nuestra vida en "articular# 'onsidero ue es un =singularitarian=) M4N o =singolaritaria=) alguien ue entiende la (ingularidad y ue ha refle:ionado sobre las consecuencias ue tendr en cuenta sus "ro"ias vidas# -uedo entender "or u1 no se to!an r"ida!ente a !uchos observadores de las i!"licaciones obvias de lo ue he lla!ado la ley de retornos acelerados M 2a ley de retornos acelerados ) o la ley

de los retornos acelerados de RurzLeil N) es decir) la aceleraci/n de la tasa intr.nseca de desarrollo) en la ue el desarrollo tecnol/gico se ve co!o una continuaci/n de la biol/gica# +es"u1s de todo) !e to!/ cuarenta a%os "ara ser ca"az de ver clara!ente lo ue ten.a delante de !is narices y todav.a no se "uede decir ue sea total!ente c/!odo con todas sus consecuencias# 2a idea clave ue subyace a la (ingularidad in!inente es ue la tasa de ca!bio se est acelerando nuestra tecnolog.a y sus ca"acidades estn creciendo a un rit!o e:"onencial# El creci!iento e:"onencial es enga%osa# 'o!ienza de !anera casi i!"erce"tible y luego estallar de furia ines"erada - ines"erado) si usted no sigue la trayectoria &ver el grfico =El creci!iento frente al creci!iento e:"onencial lineal= !s aba8o,# 'onsidere esta co!"araci/n: el "ro"ietario de un lago uieren "er!anecer en las in!ediaciones de su "ro"iedad "ara cuidar a los "eces y "ara asegurarse de ue el lago no es invadida "or los lirios de agua) ca"aces de du"licar su "resencia en unos "ocos d.as# Mes tras !eses de es"era) con "aciencia) "ero los nen;fares ocu"an s/lo una "e ue%a "arte del lago y no "arecen estar creciendo# 'on una cobertura del lago) "or gligli de agua) !enos del uno "or ciento) el "ro"ietario decide ue no deber.a ser un "roble!a "ara ue desa"arezca "ara "asar unas vacaciones con la fa!ilia# 'uando regresa) des"u1s de algunas se!anas) sin e!bargo) descubre ue todo el lago se llen/ de lirios de agua y los "eces estn !uertos# +u"licar su "resencia cada "ocos d.as) los ;lti!os siete du"licaciones eran suficientes "ara cubrir todo el lago &siete dobles a!"li/ la cobertura de los lirios de agua ue 43Y veces,# Tal es la naturaleza del creci!iento e:"onencial# ? to!ar en cuenta Hary Ras"arov) uien) en 4XX3) des"reciado la ca"acidad "at1tica de los "rogra!as de a8edrez entonces# (in e!bargo) la du"licaci/n de la ca"acidad anual de los ordenadores ha "er!itido a uno de ellos "ara derrotar a Ras"arov) s/lo cinco a%os des"u1s# M3N 2a lista de las zonas en las ue el e ui"o ahora "uede e:ceder la ca"acidad hu!ana contin;a creciendo r"ida!ente# Ade!s) si una vez ue se li!it/ a"licaciones) en la actualidad se estn e:"andiendo gradual!ente de un sector a otro# -or e8e!"lo) el e ui"o ahora se utiliza "ara el diagn/stico de electrocardiogra!as e i!genes !1dicas) volar y aterrizar aviones) las decisiones tcticas "ara controlar los brazos rob/ticos y "ara to!ar decisiones financieras# En general) esta!os de8ando al ordenador res"onsable de !uchas de las tareas ue nor!al!ente re uieren la inteligencia hu!ana# El rendi!iento de estos siste!as se basan cada vez !s en la integraci/n de diferentes de inteligencia artificial &AI,) "ero !ientras tene!os debilidades en cual uier rea de la IA) los esc1"ticos se indican las reas co!o bastiones de la su"erioridad inherente al ser hu!ano "er!anente en co!"araci/n con nuestras creaciones # Este libro sostiene) sin e!bargo) ue en unas "ocas d1cadas) la tecnolog.a infor!tica incluir todos los conoci!ientos y habilidades hu!anas) incluyendo el reconoci!iento de "atrones) la ca"acidad de resolver "roble!as) y la inteligencia e!ocional y !oral t."ica del cerebro hu!ano# Aun ue notable en !uchos as"ectos) el cerebro sufre de li!itaciones graves# @tiliza!os su enor!e "aralelis!o &cien billones de cone:iones interneuronales si!ultnea!ente, "ara reconocer r"ida!ente los "atrones !enos obvios) "ero nuestro "ensa!iento es e:tre!ada!ente lento: una transacci/n neuronal nor!al es varios !illones de veces !s lento ue las corrientes de circuitos electr/nicos# El ancho de banda fisiol/gica ue tene!os dis"onible "ara absorber y "rocesar nueva infor!aci/n) "or lo ue es !uy li!itado en co!"araci/n con el creci!iento e:"onencial del conoci!iento hu!ano en general# *uestros versi/n 4#5 organis!os biol/gicos son tan delicada y su8eta a un sinn;!ero de "osibles fallos) "or no !encionar el tie!"o ue consu!en los rituales ue re uieren !anteni!iento# 2a inteligencia hu!ana es cierta!ente ca"az de alcanzan alturas e:trafinos de la creatividad y la e:"resi/n) "ero gran "arte del "ensa!iento hu!ano carece de originalidad y es ini!"ortante y li!itado# 2a singularidad nos "er!itir su"erar las li!itaciones del cuer"o y el cerebro biol/gico# $a!os a to!ar el control de nuestro destino# *uestra !ortalidad estar en nuestras !anos# -ode!os vivir tanto tie!"o co!o desee!os &un estado ligera!ente diferente a decir ue va!os a vivir "ara

sie!"re,# *osotros he!os e:"licado "lena!ente el funciona!iento de la !ente hu!ana y ue se e:tender y a!"liar el alcance# A finales de este siglo) la no biol/gica de nuestra inteligencia ser billones de billones de veces !s "otente ue la inteligencia hu!ana# Hoy nos encontra!os en la fase inicial de la transici/n# 2a aceleraci/n del ca!bio de "aradig!a &la velocidad a la ue se sustituyen los enfo ues tecnol/gicos funda!entales,) as. co!o el creci!iento e:"onencial de las ca"acidades de la tecnolog.a de la infor!aci/n estn llegando a =el codo de la curva)= la eta"a en la ue una tendencia e:"onencial se hace evidente # In!ediata!ente des"u1s de este "aso) la tendencia se convierte r"ida!ente e:"losivo# Antes de !ediados de este siglo) las tasas de creci!iento de nuestra tecnolog.a & ue) en el futuro) indistinguible de nosotros !is!os, ser tan fuerte co!o "ara a"arecer casi vertical# +esde el "unto de vista !ate!tico) las tasas de creci!iento no ser ili!itado) "ero tan e:tre!as sern los ca!bios ue darn lugar a nuestro alrededor) desde el !o!ento de a"arecer co!o una ru"tura total con el ca!ino de la historia# Esto) en todo caso) ser el "unto de vista biol/gico no !e8orada de la hu!anidad# 2a singularidad re"resentar la cul!inaci/n de la fusi/n de nuestro ser y de nuestra inteligencia biol/gica y nuestra tecnolog.a# El resultado es un !undo ue sigue siendo hu!ano) sino ue trasciende nuestras ra.ces biol/gicas# *o habr distinci/n "ost-(ingularidad) entre el ser hu!ano y la ! uina) o entre la realidad f.sica y la realidad virtual# 2o seguir siendo ine u.voca!ente hu!ana en un !undo as.?(i!"le!ente) una caracter.stica: la nuestra es la es"ecie ue busca inherente!ente "ara a!"liar su ca"acidad f.sica y !ental !s all de sus li!itaciones actuales# 'onte!"lando estos ca!bios) algunos co!entaristas se centran en lo ue "erciben co!o una "1rdida de alg;n as"ecto vital de nuestra hu!anidad ue resultar.a de esta transici/n# Esta observaci/n) sin e!bargo) se deriva de una !ala inter"retaci/n de lo ue la tecnolog.a se convertir# Todas las ! uinas con las ue entra!os en contacto con este d.a cierta!ente no cuentan con ese refina!iento esencial t."ica de las cualidades biol/gicas hu!anas# 2a singularidad tiene !uchos as"ectos) "ero la i!"licaci/n !s i!"ortante es esto: nuestra tecnolog.a ser igual y luego ser !uy su"erior a la fle:ibilidad y la sofisticaci/n de lo ue cree!os son las !e8ores caracter.sticas de los seres hu!anos# 2a inter"retaci/n intuitiva y lineal-e:"onencial-hist/rico inter"retaci/n Cu ndo se cre la primera inteligencia transhumana ( se lan"ar en un ciclo de autoempoderamiento recursiva% pro*a*lemente a una discontinuidad fundamental% las caracter)sticas de la !ue no puedo ni si!uiera empe"ar a predecir1 - Michael Anissimov En el Uohn von *eu!ann de 75) el legendario estudioso de la teor.a de la infor!aci/n) sostuvo ue =la tasa de "rogreso tecnol/gico contin;a acelerndose ### "arece indicar la "ro:i!idad de algunos singularidad esencial en la historia de la hu!anidad) !s all de ue los eventos hu!ana) tal y co!o los conoce!os hoy en d.a) no "od.an continuar =M<N $on *eu!ann destaca dos conce"tos i!"ortantes:# aceleraci/n y singularidad# 2a "ri!era idea es ue el "rogreso hu!ano es e:"onencial &se e:"ande !ulti"licando en varias ocasiones "or un n;!ero constante, y no lineal &se e:"ande a%adiendo re"etida!ente un n;!ero constante,#

Besarrollo crecimiento lineal ( e-ponencial< el desarrollo lineal es constante% pero el crecimiento del crecimiento e-ponencial se convierte en e-plosiva1 El segundo conce"to es ue el creci!iento e:"onencial "uede) al "rinci"io) "asar desa"ercibido: co!ienza lenta!ente y es casi indetectable) "ero !s all del codo de la curva se vuelve e:"losiva y "rofunda!ente transfor!adora# El futuro est en general !al entendido# *uestros ante"asados i!aginaron !s o !enos co!o el "resente) ue era !s o !enos co!o su "asado# 2as tendencias e:"onenciales de las ue hablo de hace !il a%os) "ero ya en ese !o!ento era tan lento y "lano Msi es visto co!o una re"resentaci/n grfica - TraductorN) co!o "ara no "arecer si uiera tendencias# 'o!o resultado) las e:"ectativas de nuestros ante"asados de un futuro si!ilar a los ue esto "odr.a no ser cierto# Hoy en d.a) "ode!os "redecir la evoluci/n tecnol/gica continua y las re"ercusiones sociales ue siguen) "ero el futuro ser !ucho !s sor"rendente ue la !ayor.a de gente se da cuenta) ya ue s/lo una "e ue%a !inor.a ha digerido "lena!ente las i!"licaciones del hecho de ue la tasa de ca!bio en s. !is!o se est acelerando# 2a !ayor.a de las "redicciones a largo "lazo sobre lo ue "odr.a ser t1cnica!ente viable en los "r/:i!os a%os) subesti!ar sustancial!ente el alcance de los aconteci!ientos futuros) ya ue se basan en lo ue yo lla!o la inter"retaci/n hist/rica =lineal-intuitivo= en lugar del =e:"onencial-hist/rico= # Mis !odelos sugieren ue esta!os du"licando la tasa de ca!bio de "aradig!a cada d1cada) co!o e:"licar1 en el "r/:i!o ca".tulo# As.) el siglo PP se ha acelerado gradual!ente a d.a de hoy de los avances# Al rit!o de 3555) los logros del siglo PP e uivale a a"ro:i!ada!ente veinte a%os de "rogreso# Ahora va!os a llegar otros veinte a%os de avances en tan s/lo catorce a%os) en 3549) y luego re"etir el ciclo en s/lo siete a%os# -ara decirlo de otro !odo) tene!os un centenar de a%os de "rogreso tecnol/gico en el siglo PPI) "ero va!os a tener del orden de veinte !il &de nuevo) !edida a la tasa actual de "rogreso,) ue es a"ro:i!ada!ente !il veces !s de lo ue se ha realizado en el vig1si!o siglo# M9N Estos !alos entendidos en el futuro y se encuentran con frecuencia en una variedad de conte:tos# @n e8e!"lo entre !uchos: en un reciente debate en el ue "artici"1 en la "osibilidad de la creaci/n de los !edios de "roducci/n !olecular Mfabricaci/n !olecularN un "artici"ante &el -re!io *obel) entre otros, ha argu!entado ue no hay necesidad de considerar seria!ente las "reocu"aciones de seguridad con res"ecto a la nanotecnolog.a) ya ue =no va!os a ver a las

entidades nano-ingenier.a autorre"licantes &dis"ositivos construyeron un frag!ento !olecular a la vez, durante cien a%os#= 0o le res"ond. ue un esti!ado de cien a%os es razonable y ue) de hecho) es si!ilar a !i esti!aci/n del "rogreso tecnol/gico necesario "ara alcanzar este hito en "articular) cuando se !ide a la tasa actual de "rogreso &cinco veces la tasa !edia de "rogreso ue he!os visto en el siglo PP siglo,# -ero ya ue esta!os du"licando la tasa de "rogreso cada d1cada) tendre!os el e uivalente a un siglo de "rogreso) la velocidad de hoy en d.a) en un "er.odo de s/lo veinticinco a%os# +el !is!o !odo) en una conferencia organizada "or la revista Ti!es) &futuro de la vida,) ue se celebr/ en 355< "ara celebrar el uincuag1si!o aniversario del descubri!iento de la estructura del A+*) todos los invitados se les "regunt/ lo ue es"eran en los "r/:i!os cincuenta a%os# M7N -rctica!ente todo lo ue tienen los avances de los ;lti!os cincuenta a%os y lo han utilizado co!o !odelo "ara los "r/:i!os cincuenta a%os# -or e8e!"lo) Ua!es Jatson) codescubridor de la estructura del A+*) se ha argu!entado ue en los "r/:i!os cincuenta a%os) tene!os !edica!entos ue nos "er!itan co!er todo lo ue uera!os sin engordar# 0o le res"ond.: =En cincuenta a%os?= It Os ue ya se ha hecho en ratones de laboratorio con la intervenci/n gen1tica &el gen ue controla el al!acena!iento de l."idos en las c1lulas grasas,# 2os !edica!entos de uso hu!ano ue e:"lotan la interferencia de AI* &I*Ai, y otras t1cnicas ue discutire!os en el ca".tulo 7 se encuentran en desarrollo y se "ondr a "rueba "or la Ad!inistraci/n de +rogas y Ali!entos en unos "ocos a%os# Estar dis"onible en cinco E diez a%os) no cincuenta# Ms sobre el tie!"o eran tan !io"e y refle8a las "rioridades de la investigaci/n conte!"ornea) en lugar de los "rofundos ca!bios ue el "r/:i!o !edio siglo traer# +e todos los e:"ertos en esta conferencia) he!os sido es"ecial!ente Qill Uoy y yo "ara tener en cuenta la naturaleza e:"onencial del futuro) incluso si no esta!os de acuerdo en la i!"ortancia de estos ca!bios) co!o se ver en el ca".tulo Y# Intuitiva!ente) tende!os a i!aginar ue el rit!o actual de "rogreso continuar en el futuro# Incluso "ara a uellos ue han vivido lo suficiente "ara haber visto de "ri!era !ano c/!o el rit!o del ca!bio se acelera con el tie!"o) la intuici/n acr.tica da la i!"resi/n de ue el ca!bio avanza a la !is!a velocidad de sie!"re# +esde el "unto de vista !ate!tico) la e:"licaci/n de este fen/!eno es ue una curva e:"onencial "arece una l.nea recta si se e:a!ina s/lo "or una corta distancia# 'o!o resultado) incluso los co!entaristas es"ecializados) "ensando en el futuro) "or lo general a"licar la tasa de "rogreso en los "r/:i!os diez o incluso cien a%os# Esta es la raz/n "or la ue he descrito este enfo ue "ara el estudio del futuro co!o =intuitiva lineal=# @n e:a!en serio de la historia de la tecnolog.a) sin e!bargo) revela ue el ca!bio tecnol/gico es e:"onencial# El creci!iento e:"onencial es una caracter.stica de todo el "roceso evolutivo) de los cuales la tecnolog.a es un e8e!"lo i!"ortante# -uede e:a!inar los datos desde diferentes "untos de vista sobre diferentes escalas de tie!"o y ue cubre un a!"lio es"ectro de tecnolog.as) desde la electr/nica a la biolog.a# -ode!os re"etir el "roceso "or sus i!"licaciones en la cantidad de conoci!iento dis"onible sobre el ta!a%o de la econo!.a: la aceleraci/n del "rogreso y el creci!iento se a"lica a cada uno de estos factores# ?bserva!os ta!bi1n ue) a !enudo) no es el creci!iento e:"onencial si!"le) "ero =doble= creci!iento e:"onencial: la tasa de este desarrollo e:"onencial en s. &es decir) el e:"onente, ta!bi1n est en fase de creci!iento e:"onencial &v1ase) "or e8e!"lo) la cuesti/n de la relaci/n "recio-rendi!iento en la industria de la infor!tica) tratar en el "r/:i!o ca".tulo,# Muchos cient.ficos tienen lo ue yo lla!o el ="esi!is!o de la ciencia#= A !enudo) los cient.ficos estn de!asiado in!ersos en los detalles y las dificultades de los "royectos en curso con el fin de evaluar las consecuencias de su "ro"io traba8o en el largo "lazo# +el !is!o !odo) no tienen en cuenta el hecho de ue) con cada nueva =generaci/n de la tecnolog.a=) contar con herra!ientas !ucho !s "oderosas ue a uellas con las ue se est traba8ando actual!ente# 2os cient.ficos se !uestran esc1"ticos "or naturaleza) tienden a ser abordado con "recauci/n en los ob8etivos de la investigaci/n y rara vez caer en es"eculaciones ue van !s all del horizonte de la investigaci/n

actual# Este es un enfo ue satisfactorio cuando la ciencia y la tecnolog.a avanzaba lenta!ente y una =generaci/n tecnol/gica= dur/ co!o una generaci/n hu!ana) "ero hoy en d.a ya no es eficaz) ya ue hoy en d.a un ciclo co!"leto de los avances cient.ficos y tecnol/gicos se lleva a cabo en unos "ocos a%os# -iense en bio u.!ica) en 4XX5) se !ostraron esc1"ticos de ue el ob8etivo de secuenciar el geno!a hu!ano co!"leto en tan s/lo uince a%os# Estos cient.ficos s/lo hab.an "asado un a%o entero "ara descifrar una diez!il1si!a "arte del geno!a# E O"or lo tanto co!"rensible ue a;n es"eran algunos avances) "arec.a obvio "ara ellos ue se necesitar.an "or lo !enos un siglo ue la totalidad del geno!a fue secuenciado# ? considere el esce"ticis!o e:"resado a !ediados de los a%os ochenta sobre la "osibilidad de ue Internet "odr.a convertirse en un fen/!eno de !asas) desde entonces) se incluye s/lo unas "ocas decenas de !iles de servidores# En realidad) la cantidad de servidores se du"lica cada a%o) "or lo ue era "robable ue hubiera decenas de !illones de d/lares en diez a%os# -ero en 4XY7) cuando la tecnolog.a !s avanzada ha "er!itido "oner s/lo unos "ocos !iles de servidores "or a%o en todo el !undo) esta tendencia se ha "asado desa"ercibido# MTN En su lugar se observa el error conce"tual contrario cuando se identifican correcta!ente ciertos fen/!enos e:"onenciales) "ero se a"lican con e:cesivo entusias!o) con tasas de creci!iento no son adecuados# El creci!iento e:"onencial acelera con el tie!"o) "ero no es instantnea# El creci!iento de los valores de ca"ital &es decir) el valor del !ercado de valores,) antes del estallido de la Internet y las burbu8as de teleco!unicaciones &4XXF-3555, fue significativa!ente !ayor ue cual uiera "odr.a es"erar razonable!ente incluso de una situaci/n de creci!iento e:"onencial# 'o!o se !uestra en el siguiente ca".tulo) el creci!iento de Internet y el co!ercio electr/nico ha sido e:"onencial) !s all de la burbu8a en la bolsa de valores) las e:"ectativas de creci!iento son de!asiado o"ti!istas en un fen/!eno del !ercado de valores# Errores si!ilares han ocurrido durante los ca!bios de "aradig!as anteriores) "or e8e!"lo) al co!ienzo de la era del ferrocarril &4Y<5-4Y95,) cuando el e uivalente de la burbu8a de Internet "rodu8o fren1tica e:"ansi/n del sector# ?tro error t."ico consiste en tener en cuenta los ca!bios "revistos en la base de una ;nica tendencia actual) incluir en el anlisis sin otros ca!bios ue se harn realidad en el !is!o tie!"o# @n e8e!"lo es el te!or de ue la e:tensi/n radical de la vida har ue la su"er"oblaci/n y el agota!iento de los recursos !ateriales necesarios "ara sostener la vida hu!ana) haciendo caso o!iso de la creaci/n de ri ueza igual!ente radical "ro!etido "or la nanotecnolog.a y la inteligencia artificial fuerte# -or e8e!"lo) los siste!as de "roducci/n a%os 35 nanotecnol/gicos de este siglo sern ca"aces de generar "rctica!ente cual uier !aterial de "roducto utilizando !aterias "ri!as baratas y la infor!aci/n de "oco coste# Hago hinca"i1 en el contraste entre la inter"retaci/n de ue la e:"onencial y lineal) ya ue es la base de la !ayor.a de los errores co!etidos en la realizaci/n de "redicciones sobre las tendencias tecnol/gicas del futuro# 2a !ayor.a de los es"ecialistas de los futuros escenarios tecnol/gicos ignora "or co!"leto la inter"retaci/n e:"onencial-hist/rico de los avances tecnol/gicos# *o s/lo eso) sino ue casi todas las "ersonas con las ue !e encuentro tiene una visi/n lineal del futuro# Es "or eso ue tende!os a sobreesti!ar lo ue "uede lograrse en el corto "lazo &"or ue tende!os a "asar "or alto los detalles, y subesti!ar lo ue "uede lograrse en el largo "lazo &ya ue descuida!os el creci!iento e:"onencial,# 2os seis 1"ocas $rimero creamos las herramientas% luego nos construimos1 - Marshall McLuhan 4l futuro (a no es lo !ue sol)a ser1 - Dogi Cerra 2a evoluci/n es un "roceso ue genera los !odelos !s y !s consistente# 0o diri8o el conce"to de coherencia MfinN en el ca".tulo siguiente) el 1nfasis en esta secci/n es en el conce"to de los !odelos

Mlos "atronesN# Estoy convencido de ue el desarrollo de !odelos "ara re"resentar la esencia de la historia de nuestro !undo# Evoluci/n "rogresa a trav1s de la utilizaci/n de los !1todos de infor!aci/n derivados de la "re-"rocesa!iento "ara generar los del "oste# 'once"tualizar la historia de la evoluci/n) tanto biol/gicos y tecnol/gicos) en seis "er.odos# 'o!o vere!os !s adelante) la singularidad se dis"ieger[ en la Cuinta 1"oca y se e:tender desde la Tierra con el resto del universo durante el se:to "er.odo# 2a "ri!era 1"oca: la f.sica y la u.!ica -ode!os rastrear sus or.genes a un estado en el ue la infor!aci/n se re"resenta de la !anera !s si!"le: con8untos de !ateria y energ.a# 2as recientes teor.as de la gravedad cuntica afir!an ue el tie!"o y el es"acio se divide en !uchos se"arada) es decir) en la "rctica) los frag!entos de infor!aci/n# 0 =si la !ateria controvertida y la energ.a son) bsica!ente) la naturaleza de la tecnolog.a digital o anal/gica) "ero !s all de lo ue "odr.a ser la res"uesta a esta "regunta) sabe!os ue la tienda y las estructuras at/!icas re"resentan infor!aci/n# A unos cientos de !iles a%os des"u1s del Qig Qang) cuando los electrones se encuentran atra"ados en las /rbitas de los n;cleos &co!"uesto de "rotones y neutrones,) los to!os co!enzaron a for!arse# 2a estructura el1ctrica de los to!os les hizo ="ega8osa=# 2a u.!ica naci/ unos "ocos !illones de a%os !s tarde) cuando los to!os se unieron dando lugar a estructuras relativa!ente estables: las !ol1culas# +e todos los ele!entos) el carbono se encuentra ue es la !s verstil y "uede for!ar enlaces en cuatro =direcciones= &en lugar de uno E tres co!o "ara la !ayor "arte de los otros ele!entos,) realizando de esta !anera las estructuras tridi!ensionales co!"le8as con alto contenido de infor!aci/n# 2as reglas de nuestro universo y el e uilibrio de las constantes f.sicas ue gobiernan la interacci/n de las fuerzas de la f.sica son tan e: uisita!ente) con delicadeza y se ada"tan con "recisi/n a la codificaci/n y el desarrollo de la infor!aci/n &y el consiguiente au!ento de la co!"le8idad, "ara ue !e "regunto c/!o es ser una coincidencia tan e:traordinario e i!"robable# +onde algunos ven la intervenci/n divina) otros ven el "rinci"io antr/"ico) seg;n el cual s/lo en un universo ue "er!ite ue nuestra evoluci/n nos "uede e:istir y luego hacernos estas "reguntas# MFN Algunas teor.as recientes sobre !;lti"les universos) es"eculan ue los nuevos universos se crean todo el tie!"o) cada uno con sus "ro"ias leyes) "ero la !ayor.a estn e:tinguidos o "roceder con ra"idez y sin el desarrollo de siste!as de inter1s &co!o los biol/gicos ue generan la Tierra,) ya ue el sus leyes no son co!"atibles con el desarrollo de siste!as cada vez !s co!"le8os# MYN Os dif.cil i!aginar c/!o "odr.a!os co!"robar la a"licaci/n de las teor.as evolucionistas de la cos!olog.a) "ero est claro ue las leyes de la f.sica de nuestro universo son e:acta!ente lo ue es necesario "ara "er!itir ue el desarrollo de !ayores niveles de orden y co!"le8idad# MXN

Los seis &pocas de la evolucin1 La evolucin opera indirectamente< Crea una nueva ha*ilidad ( luego utili"arlo en la creacin de su :ltimo per)odo1 2a segunda 1"oca: la biolog.a y A+* En el segundo "er.odo) ue co!enz/ hace varios !illones de a%os) los siste!as basados en el carbono se convirtieron cada vez !s co!"le8o hasta el !o!ento en el ue los co!"le8os agregados de !ol1culas co!o resultado de los !ecanis!os de auto-re"licantes) co!enzando as. la vida# 2os siste!as biol/gicos han evolucionado a continuaci/n) un !ecanis!o digital e:acto &A+*, "ara la "reservaci/n de los datos ue describen una a!"lia ga!a de !ol1culas# 2a sus diferentes siste!as de a"oyo) co!o los riboso!as) A+* y han hecho "osible la =docu!entaci/n= de los e:"eri!entos evolutivos de este segundo "eriodo# 2a tercera 1"oca: el cerebro 'ada 1"oca contin;a el desarrollo de la infor!aci/n a trav1s de un ca!bio de "aradig!a hacia un nivel su"erior de indirezionalit[ M=indirecto=N &en otras "alabras) la evoluci/n utiliza los resultados de una era "ara generar la siguiente,# -or e8e!"lo) en el tercer "er.odo) el desarrollo A+* i!"ulsada ha "roducido organis!os ca"aces de recoger infor!aci/n con los /rganos sensoriales y "ara "rocesar y al!acenarlos con sus cerebros y siste!as nerviosos# Estos) a su vez) han sido "osibles gracias a los !ecanis!os de la segunda 1"oca &A+* y la infor!aci/n e"igen1tica de las "rote.nas y frag!entos de AI* ue regulan la e:"resi/n g1nica, y entonces &indirecta!ente, "er!itido y definido los !ecanis!os de =-"rocesa!iento de la infor!aci/n =la tercera 1"oca &cerebro y siste!a nervioso,# 2a tercera 1"oca co!enz/ cuando los cuer"os han obtenido la ca"acidad de reconocer auto!tica!ente los =ob8etos= en entornos co!"le8os M=reconoci!iento de "atrones=N) una actividad ue todav.a re"resenta la gran !ayor.a de la actividad en el cerebro# M45N *uestra es"ecie ha desarrollado la ca"acidad de generar !odelos !entales abstractas del !undo

ue nos rodea y refle:ionar sobre las i!"licaciones l/gicas de tales !odelos# Tene!os la ca"acidad de i!aginar y dibu8ar el !undo en nuestras !entes y "oner estas ideas en "rctica# 2a cuarta edad: Tecnolog.a Hracias al "ensa!iento racional y abstracto y el "ulgar o"onible) nuestra es"ecie ha abierto la "uerta a la cuarta edad y nivel de indirezionalit[ siguiente: la evoluci/n de la tecnolog.a creada "or nosotros#'o!enz/ con !ecanis!os sencillos y desarrollado en la direcci/n de auto!atizaciones "rocesada &!a uinaria !ecnica auto!atizada,) des"u1s de lo cual) con dis"ositivos es"ecializados de co!unicaci/n y de clculo) la tecnolog.a ha ad uirido a su vez la "osibilidad de ver) al!acenar y evaluar "rocesada con8untos de datos# Trata!os de co!"arar la velocidad del "roceso evolutivo ue ha conducido a la inteligencia biol/gica surgi!iento de la tecnolog.a: los !a!.feros !s avanzados han a%adido cerca de un cent.!etro c;bico de !ateria cerebral "or cada cien !il a%os) y hoy esta!os !s o !enos du"licar la "otencia de clculo de ordenadores cada a%o &v1ase el ca".tulo siguiente,# -or su"uesto) ni el ta!a%o del cerebro y el "oder de la co!"utadora es el ;nico factor deter!inante en la inteligencia) "ero a!bos son necesarios# (egui!iento de las "iedras angulares de la evoluci/n biol/gica y el "rogreso tecnol/gico hu!ano en un solo grfico :y) con : &n;!ero de a%os, e y &el tie!"o necesario "ara un ca!bio de "aradig!a, en escala logar.t!ica) se obtiene una l.nea razonable!ente recta &aceleraci/n constante, ) y se "uede observar c/!o la evoluci/n biol/gica lleva directa!ente a svillu""o de los seres hu!anos# M44N

Cuenta atr s para la singularidad< tanto la evolucin *iolgica de la tecnolog)a humana son en aceleracin constante% como se indica por el intervalo m s corto ( m s corto entre un evento ( el siguiente (dos mil a0os desde el origen de la vida a las c&lulasE catorce a0os desde $C en la >orld >ide >e*)1

La evolucin lineal interpretacin< esta versin de la figura anterior utili"a los mismos datos% pero en una escala lineal% en lugar de logar)tmica% para el per)odo de tiempo antes de la actual% lo !ue demuestra m s espectacular aceleracin% pero ocultando los detalles1 Besde el punto de vista lineal% la ma(or)a de los eventos clave se han hecho realidad ,recientemente,1 2os e8e!"los anteriores !uestran !i inter"retaci/n de los aconteci!ientos clave de la historia y la tecnolog.a biol/gica# Tenga en cuenta) sin e!bargo) ue la l.nea recta trazada desde la continua aceleraci/n del "rogreso) no de"ende de !i selecci/n "articular de los aconteci!ientos# Muchos co!entaristas y enciclo"edias han co!"ilado listas si!ilares de aconteci!ientos i!"ortantes en el desarrollo de la biolog.a y la tecnolog.a) y cada una de estas listas var.a) de"endiendo de la idiosincrasia del autor# A "esar de la diversidad de los !1todos) sin e!bargo) si co!bina!os las listas co!"iladas a "artir de una variedad de fuentes &"or e8e!"lo) la Enciclo"edia Qritnica) el Museo A!ericano de Historia *atural) el =calendario c/s!ico= de 'arl (agan y otros,) se "uede observar en todos los ellos la !is!a aceleraci/n# El siguiente diagra!a re;ne uince listas diferentes# M43N +ebido a ue diferentes autores asignan diferentes fechas "ara el !is!o evento e incluyen varias listas o eventos si!ilares ue se su"er"onen y ue han sido seleccionados con criterios diferentes) "ode!os ver un =engrosa!iento= no es sor"rendente la l.nea de tendencia debido al =ruido= M=ruido=N &o varianza estad.stica, de estos datos#2a tendencia general) a "esar de esto) es !uy clara#

+uince puntos de vista de la evolucin< los grandes cam*ios de paradigma en la historia del mundo% vistos por !uince listas de eventos clave1 Aa( una tendencia clara hacia una constante de aceleracin del desarrollo *iolgico (% m s adelante% la tecnolog)a1 2a f.sica y la co!"le8idad te/rica Theodore Modis analiz/ estas listas y deter!ina veintiocho gru"os de eventos) la agru"aci/n de los eventos id1nticos) si!ilares y E o conectados entre s. y los lla!/ =hitos can/nicos=# M4<N Esta o"eraci/n) en la "rctica ) eli!ina el =ruido= M=ruido=N) "or e8e!"lo) la variabilidad de las fechas entre las listas, ue revela la !is!a "rogresi/n:

Aitos cannicas *asan en grupos de eventos seleccionados de trece listas diferentes1 2os atributos ue crecen e:"onencial!ente en estas tablas son las de orden y co!"le8idad) los conce"tos ue va!os a e:"lorar en el "r/:i!o ca".tulo# Esta aceleraci/n confir!a nuestras observaciones basadas en el sentido co!;n# Miles de !illones de a%os atrs) no "asaron a !ucho en el curso de un !ill/n de a%os) "ero hace 375#555 a%os de los aconteci!ientos trascendentales co!o la evoluci/n de nuestra es"ecie han desarrollado durante "er.odos de tie!"o de s/lo cien !il a%os# En cuanto a la tecnolog.a) ue se re!onta cincuenta !il a%os no encontra!os una novia "or un "er.odo de !il a%os) "ero en el "asado reciente) testigo de la llegada de nuevos "aradig!as co!o la Jorld Jide Jeb) ue en una sola d1cada) ha llegado el uso de la !asa & a saber) el uso de un cuarto de la "oblaci/n de los "a.ses avanzados,# 2a Cuinta 1"oca: la fusi/n de la tecnolog.a y el intelecto -asando ahora al futuro) desde hace varias d1cadas a "artir de ahora) "ode!os decir ue la singularidad se iniciar con la uinta 1"oca y ue ser el resultado de la fusi/n de los a!"lios conoci!ientos ue figuran en nuestro cerebro) con un n;!ero significativa!ente su"erior a las caracter.sticas t."icas de nuestra tecnolog.a: el "oder) la velocidad y la ca"acidad de "ara co!"artir datos# 2a uinta 1"oca "er!itir ue nuestra civilizaci/n hu!ana-! uina "ara su"erar las li!itaciones del cerebro hu!ano) ue sea de un centenar de billones de cone:iones# M49N 2a singularidad nos "er!itir resolver los "roble!as ue afligen a la hu!anidad desde tie!"os re!otos) y de e:"andir nuestra creatividad# Incre!entere!o y "reservar la inteligencia de ue la evoluci/n nos ha concedido) la su"eraci/n de) al !is!o tie!"o) las li!itaciones de "rofundidad de la evoluci/n biol/gica#Tenga en cuenta ue la singularidad ta!bi1n a!"liar nuestra ca"acidad de cu!"lir nuestras tendencias destructivas y ue) en consecuencia) su historia est "or escribirse# 2a se:ta edad: el universo se des"ierta $oy a cubrir este te!a con !s "rofundidad en el ca".tulo T) ba8o el t.tulo =El destino del universo

inteligente#= A ra.z de la singularidad) la inteligencia) ue se deriven de su sitio de origen biol/gico en el) sitio nellOinventivit[ hu!ano cerebro hu!ano y tecnol/gico) ue co!enzar a saturar la !ateria y la energ.a circundante# Esto se logra !ediante la reorganizaci/n de la !ateria y la energ.a "ara lograr un nivel /"ti!o de c/!"uto &en base a los l.!ites ue discutire!os en el 'a".tulo <, "ara e:tender !s all de su "laneta orignine) la Tierra# Hoy en d.a) la velocidad de la luz es ace"tado co!o un factor li!itante "ara la transferencia de datos# 2a ca"acidad de su"erar esta li!itaci/n se debe considerar algo es"eculativo) "ero hay indicios de ue esta li!itaci/n "odr.a su"erarse# M47N (i son "osibles incluso "e ue%as correcciones) un d.a va!os a su"erar la velocidad de la luz# (i nuestra civilizaci/n "uede dar al resto del universo con su creatividad e inteligencia r"ida o lenta!ente) de"endiendo de la in!utabilidad de este l.!ite# En cual uier caso) la !ateria y los !ecanis!os de =tonta= del universo se transfor!an en for!as ;nicas de la inteligencia) ue ser la se:ta era de la evoluci/n de "rocesa!iento de la infor!aci/n# Este es el destino final de la singularidad y el universo# 2a singularidad est cerca# Da sa*es% todo ser mu( diferenteF 2o% no% me refiero a realmente 111 mu( diferenteF - Marc Miller a 4ric Bre-ler% GHIJ Cu les son las consecuencias de este evento# Cuando el progess ser dirigido por inteligencias so*rehumanas% el progreso ser mucho m s r pido1 2o veo ninguna ra"n por la !ue ese progreso no de*e% a su ve"% llevar a la creacin de la entidad a:n m s inteligente% en a:n m s corto1 La me8or analog)a es la historia de la evolucin< los animales se pueden adaptar e inventar soluciones% pero a menudo no les permiten m s r pido !ue la seleccin natural (en el caso de la seleccin natural% el mundo es un simulador de s) mismo)1 Los seres humanos tenemos la capacidad de internali"ar los e-perimentos mundo ( la conducta (,lo-!ue-pasa-si 111,) en nuestras ca*e"as% podemos resolver un pro*lema de miles de veces m s r pido !ue la seleccin natural1 Ahora *ien% la creacin de los medios necesarios para llevar a ca*o estas simulaciones a velocidades mucho m s altas% estamos entrando en una era radicalmente diferente de nuestro pasado de ser humano% tanto como nos diferenciamos de los animales inferiores1 Besde el punto de vista humano% este cam*io ser un tirar de todas las normas anteriores% tal ve" en un a*rir ( cerrar de o8os% lo !ue acelera e-ponencialmente m s all de toda esperan"a de control1 - 7ernor 7inge% ,La singularidad tecnolgica,% GHH= Befinimos una m !uina ultrainteligente% una m !uina !ue puede superar con creces todas las actividades intelectuales de cual!uier ser humano% por mu( *rillantes1 3eniendo en cuenta !ue el dise0o de estas m !uinas es una de estas actividades intelectuales% una m !uina ultrainteligente podr)a dise0ar m !uinas a:n me8ores% ( en ese momento sin duda ,una e-plosin de inteligencia, ( la inteligencia del hom*re se !uedar atr s1 As) !ue la primera m !uina ultrainteligente ser el :ltimo invento !ue creamos1 - Kohn Irvin amor ,% especulaciones relativas a la primera m !uina ultrainteligente, GHJ. -ara "oner el conce"to de singularidad con !s "ers"ectiva) se e:"lora la historia de la "alabra !is!a#=(ingularity= es una "alabra ue describe un evento ;nico) con consecuencias) "or as. decirlo ### ;nico#2a "alabra fue ado"tada "or los !ate!ticos "ara referirse a un valor ue va !s all de todos los l.!ites) co!o la e:"losi/n de /rdenes de !agnitud) ue se obtiene dividiendo una constante "ara un n;!ero ue se acerca cada vez !s cerca de cero# 'onsidere) "or e8e!"lo) la si!"le funci/n y \ 4 E :#A !edida ue el valor de : se a"ro:i!a a cero) el valor de la funci/n &y, e:"lota en valores cada vez !s grandes#

@na singularidad matem tica< mientras !ue la - se apro-ima a cero (de derecha a i"!uierda)% G L - (o() se acerca a un valor infinito1 Esta funci/n !ate!tica nunca alcanza un valor infinito) ya ue la divisi/n "or cero es !ate!tica!ente =indefinido= &un clculo i!"osible,# -ero el valor de y e:cede todos los l.!ites "osible &se acerca a infinito,) as. co!o el divisor : se a"ro:i!a a cero# +es"u1s) el t1r!ino fue ado"tado "or el ca!"o de la astrof.sica# (i una estrella !asiva sufri/ una e:"losi/n &su"ernova,) sus restos final!ente cola"sar "ara alcanzar un volu!en a"arente!ente cerca de cero y la densidad infinita) la creaci/n de una =singularidad= en el local# +ado ue la luz no "uede esca"ar de una estrella des"u1s de ue haya llegado a esta densidad infinita) M4TN este fen/!eno ha sido lla!ado =agu8ero negro= M4FN y constituye una brecha en el te8ido del es"aciotie!"o# @na teor.a sostiene ue el universo nace de esa singularidad# M4YN Es s interesante notar) sin e!bargo) ue el horizonte de sucesos &la su"erficie de un agu8ero negro, es de di!ensiones !ensurables Mes decir) no infinitoN) y ue la fuerza gravitatoria es infinito) te/rica!ente) s/lo ue sin el centro de !asa del agu8ero negro# En todas las "osiciones en las ue es "osible llevar a cabo las !ediciones) las fuerzas son !edibles) aun ue e:tre!ada!ente grande# 2a "ri!era referencia a la singularidad co!o un !o!ento de ru"tura hist/rica es la declaraci/n de Uohn von *eu!ann se ha !encionado anterior!ente M=la tasa de "rogreso tecnol/gico contin;a acelerndose ### "arece indicar la "ro:i!idad de algunos singularidad esencial en la historia de la hu!anidad) !s all del cual los asuntos hu!anos) tal co!o los conoce!os hoy en d.a) no "udieron continuar# =N En los a%os T5) IU Queno hizo alusi/n a una =e:"losi/n de inteligencia= co!o consecuencia del dise%o) "or las ! uinas inteligentes) la "r/:i!a generaci/n) sin intervenci/n hu!ana# $ernor $inge) !ate!tico y cient.fico de la co!"utaci/n en la @niversidad de (an +iego) escribi/ acerca de la r"ida a"ro:i!aci/n de una =singularidad tecnol/gica= en un art.culo "ara la revista ?!ni en 4XY< y en una novela de ciencia ficci/n) titulado =Atra"ados en el tie!"o real= M traducido al italiano co!o =2os nufragos del tie!"o=N en 4XYT# M4XN En !i libro de 4XYX) =2a era de las ! uinas inteligentes=) ue "resenta un tie!"o futuro) inevitable!ente) conduce a la creaci/n de ! uinas intelectual!ente su"eriores a los seres hu!anos) dentro de la "ri!era !itad del siglo PPI# M35N Hans Moravec) el anlisis de la evoluci/n del ca!"o de la rob/tica) llega a una conclusi/n si!ilar en sus =Mind 'hildren= en 4XYY# M34N En 4XX<) $inge "resenta un estudio en un si!"osio organizado "or la *A(A) ue describe la singularidad co!o un "r/:i!o evento y c/!o la consecuencia "rinci"al de la llegada de = entidades con !s del intelecto hu!ano =# Este ;lti!o es considerado "or $inge co!o el "ri!er

!o!ento de un efecto de bola de nieve M33N En !i libro de 4XXX) =The Age of ("iritual Machines cuando los e ui"os su"eran la inteligencia hu!ana=#) Cue describen la cada vez !s estrecha relaci/n entre nuestra inteligencia biol/gica y la inteligencia artificial ue esta!os creando# M3<N Hans Moravec) en =2a !era ! uina de la !ente Trascendente=) ta!bi1n "ublicado en 4XXX) describe el robot en el 3595 co!o los =herederos evolutivos)= ! uinas = "asar de nosotros) a"render nuestras habilidades y co!"artir nuestros ob8etivos y nuestros valores ### MsonN los hi8os de nuestra !ente =# M39N En 4XXF y 3554) el acad1!ico australiano +a!ien QrodericG ha "ublicado dos libros) a!bos titulados= 2a ("iGe =) analizando el i!"acto de la tecnolog.a de aceleraci/n e:tre!a "revista "ara las "r/:i!as d1cadas# M37N En una serie de escritos) Uohn inteligente ha descrito la singularidad co!o el resultado inevitable de lo ue 1l describe co!o una co!"resi/n del= ME(T =& !ateria) energ.a) es"acio y tie!"o,# M3TN Mi o"ini/n es ue la singularidad tiene !uchas caras# (e re"resenta la fase de casi vertical de creci!iento e:"onencial ue se "roduce cuando la tasa de creci!iento es tan e:tre!a ue la tecnolog.a "arece "roghedire con velocidad infinita# -or su"uesto) desde el "unto de vista !ate!tico) no ve!os una discontinuidad o un desgarro# 2as tasas de creci!iento "er!anecen detectables) aun ue e:traordinaria!ente alta# +esde nuestro "unto de vista actual y se li!ita) sin e!bargo) este evento "uede "arecer drstico un desgarro en la continuidad del "rogreso# Hago hinca"i1 en la "alabra =actual=) co!o una de las consecuencias !s destacadas de la singularidad es una transfor!aci/n de la naturaleza de nuestra ca"acidad "ara entender el !undo ue nos rodea# En gran !edida co!o fortalecer nuestras ca"acidades !entales) de hecho) a!alga!andoci con nuestra tecnolog.a# Es O"osible ue el "rogreso tecnol/gico continuar acelerndose indefinida!ente? Tal vez no va!os a llegar a un "unto en el ue el cerebro hu!ano es si!"le!ente de!asiado lento "ara !antenerse en la ci!a Men co!"araci/n con la inteligencia artificialN? En el caso de los seres hu!anos no se ha !e8orado) esto definitiva!ente va a ser el caso) "ero u1 "od.a hacer un !illar de cient.ficos) cada uno) !il veces !s inteligentes ue los cient.ficos hu!anos hoy en d.a y cada uno ca"az de "ensar una y !il veces !s r"ido ue los hu!anos de hoy &ya ue O el "rocesa!iento de datos de sus cerebros sustancial!ente no orgnica es !ucho !s r"ido,? @n a%o cronol/gico) ue ser.a "ara ellos el e uivalente de uno de los nuestros un !ilenio# M3FN Cu1 "odr.a inventar? -or e8e!"lo) las tecnolog.as ca"aces de au!entar a;n !s su inteligencia) ya ue su intelecto ya no estar.a li!itada# -ueden ca!biar sus "rocesos !entales con el fin de ser ca"az de "ensar !s r"ido# 'uando los cient.ficos se convierten en un !ill/n de veces !s inteligente y se "uede "ensar en un !ill/n de veces !s r"ido) en s/lo una hora "odr.a "roducir el e uivalente a un siglo de "rogreso) en t1r!inos actuales# 2a singularidad i!"lica los siguientes "rinci"ios) ue se docu!enten) desarrollar y analizar en el resto del libro: ] 2os ca!bios de "aradig!a &innovaci/n tecnol/gica, va a "asar cada vez !s r"ido# Hoy en d.a) el "er.odo de tie!"o re uerido se reduce a la !itad cada d1cada# M3YN ] El "oder de las tecnolog.as de la infor!aci/n &la relaci/n "recio E rendi!iento) velocidad) ca"acidad y ancho de banda,) crece e:"onencial!ente a un rit!o cada vez !s r"ido &hoy se du"lic/ a"ro:i!ada!ente cada a%o,# M3XN Esta situaci/n es en una a!"lia ga!a de "ar!etros) incluyendo la cantidad de conoci!iento dis"onible "ara nosotros# ] -ara la tecnolog.a de la infor!aci/n) ta!bi1n hay un segundo nivel de creci!iento e:"onencial: el creci!iento e:"onencial en la tasa de creci!iento e:"onencial en s. &el e:"onente,# 2a raz/n: cada vez !s rentable) una tecnolog.a atrae !s recursos "ara su "ro"io desarrollo) co!o resultado) su tasa de desarrollo au!enta e:"onencial!ente con el tie!"o# -or e8e!"lo) el sector de la infor!tica en los a%os 95 consisti/ en un "u%ado de "royectos# Hoy en d.a) los ingresos totales de ese sector es !s de un bill/n de d/lares) y las inversiones en investigaci/n y desarrollo ha au!entado "ro"orcional!ente#

] *uestra ca"acidad "ara e:a!inar el cerebro hu!ano M=brain scan=N es una de las tecnolog.as en la fase de creci!iento e:"onencial# 'o!o e:"licar1 en el ca".tulo 9) la resoluci/n y el ancho de banda de la e:"loraci/n es"acial y te!"oral del cerebro se du"lica cada a%o# Esta!os recibiendo las herra!ientas necesarias "ara co!enzar el "roceso de re-ingenier.a M=ingenier.a inversa=N del cerebro) a "artir de la decodificaci/n de sus "rinci"ios o"erativos# 0a he!os obtenido los !odelos y si!ulaciones de un "ar de docenas de cientos de regiones del cerebro interesantes# En veinte a%os va!os a tener el conoci!iento e:acto del funciona!iento de todas las regiones del cerebro hu!ano# ] Hacia el final de esta d1cada tendre!os a nuestra dis"osici/n el hardLare necesario "ara e!ular la inteligencia hu!ana en las su"erco!"utadoras y hacia el final de la "r/:i!a d1cada va!os a hacer lo !is!o con los dis"ositivos del ta!a%o de una -'# Tendre!os !odelos eficaces de softLare de inteligencia hu!ana desde !ediados de los a%os veinte# ] Ta!bi1n "ode!os establecer ue) a finales de los a%os veinte) con el hardLare y softLare necesario "ara e!ular la inteligencia hu!ana a nuestra dis"osici/n) el e ui"o su"erar la "rueba de Turing) de!ostrando un entendi!iento indistinguible de la de los seres hu!anos orgnicos# M<5N ] @na vez ue haya alcanzado este hito) los ordenadores se !ezclan los "untos fuertes de la inteligencia hu!ana con los de la inteligencia artificial# ] 2os "untos fuertes tradicionales de la inteligencia hu!ana incluyen una enor!e ca"acidad "ara identificar "atrones Mreconoci!iento de "atronesN# 2a naturaleza de la ar uitectura !asiva en "aralelo y la auto-organizaci/n del cerebro hu!ano es una for!a ideal "ara reconocer "atrones basados en rasgos finos y los idio!as# 2os seres hu!anos ta!bi1n son ca"aces de ad uirir nuevos conoci!ientos a trav1s de la a"licaci/n de otros conoci!ientos y deducir "rinci"ios generales sobre la base de su e:"eriencia) incluida la infor!aci/n verbal# @na facultad funda!ental de la inteligencia hu!ana es la ca"acidad de crear !odelos !entales de la realidad y llevar a cabo e:"eri!entos de "ensa!iento &=succerebbe y si ###=,) la introducci/n de diversas "osibilidades y variaciones# ] 2os "untos fuertes tradicionales de la inteligencia artificial incluyen la ca"acidad de recordar con "recisi/n !iles de !illones de datos y tener acceso in!ediato a esos =recuerdos=# ] ?tra venta8a de la inteligencia no biol/gica es ue una vez ue do!inar una tarea) co!o "arte de un dis"ositivo) tal actividad "uede llevarse a cabo re"etida!ente) a alta velocidad) con una "recisi/n /"ti!a y sin saber cansancio# ] El factor "robable!ente !s i!"ortante) sin e!bargo) es ue las ! uinas "ueden co!"artir sus conoci!ientos Mcon otras ! uinasN con e:tre!a ra"idez) !ientras ue los seres hu!anos s/lo "ueden co!"artir datos a ba8a velocidad) a trav1s del lengua8e# ] 2a inteligencia no biol/gica ser ca"az de =+escarga cual uier= habilidades y conoci!ientos de otros siste!as artificiales) y !s tarde ta!bi1n "or los seres hu!anos# ] 2as ! uinas "rocesar se%ales a una velocidad cercana a la de la luz &alrededor de <55)555 Gilo!etros "or segundo,) en co!"araci/n con alrededor de cien !etros "or segundo de las se%ales electro u.!icas de cerebros biol/gicos de los !a!.feros# M<4N 2a relaci/n es "or lo !enos tres !illones al# ] 2as ! uinas tendrn acceso a trav1s de Internet a todo el conoci!iento de nuestra civilizaci/n) el ho!bre E ! uina y ad uirirn el do!inio de ese conoci!iento en su interit[# ] 2as ! uinas "ueden co!"artir sus recursos y co!"artir su "ro"ia inteligencia y sus "ro"ios recuerdos# +os ! uinas) o un !ill/n de ! uinas) "ueden fusionarse y convertirse en una sola unidad y luego se se"aran de nuevo# @na ! uina !;lti"le "uede ser al !is!o tie!"o ;nica y !;lti"le#-odr.a!os decir ue los seres hu!anos "ueden tener tal e:"eriencia) cuando uno se ena!ora) "ero nuestra ca"acidad biol/gica "ara alcanzar este estado es te!"oral y "oco fiable#

] 2a con8unci/n de estas fuerzas tradicionales de la diversidad biol/gica hu!ana &la ca"acidad de identificar "atrones, con las caracter.sticas t."icas de las inteligencias no biol/gicos &velocidad) "otencia) "recisi/n) la !e!oria y la ca"acidad de co!"artir datos,) dan e:celentes resultados# ] 2a inteligencia no-biol/gica tendr co!"leta libertad de dise%o y estructurales &es decir) no ser cirscoscritta "or las li!itaciones biol/gicas) tales co!o la lentitud de las cone:iones interneuronales o el ta!a%o de nuestra "re-crneo, y tendr la venta8a de un rendi!iento constante# ] +es"u1s de haber integrado las fuerzas tradicionales de ho!bres y ! uinas) la inteligencia no biol/gica de nuestra civilizaci/n seguir beneficindose de los "rogresos velocidad y la "otencia de las ! uinas doble!ente e:"onencial) as. co!o su relaci/n "recio E rendi!iento# ] @na vez realizada la ca"acidad de dise%ar y a"licar las nuevas tecnolog.as en el !bito de los seres hu!anos) "ero a una velocidad y con !ucha !ayor "otencia) las ! uinas tendr acceso a su "rogra!a &c/digo fuente, y ca!biar# 2os seres hu!anos estn siguiendo el !is!o enfo ue) con la biotecnolog.a &ca!bio de los "rocesos gen1ticos y otros "rocesos de =infor!aci/n= ue subyace a nuestra biolog.a,) "ero de una !anera !ucho !s lenta y !s li!itado ue lo ue las ! uinas "ueden lograr !ediante el ca!bio de sus "rogra!as# ] 2a biolog.a contiene l.!ites i!"l.citos# -or e8e!"lo) cada organis!o vivo debe estar co!"uesto de "rote.nas) cuyos =recetas= estn contenidas en hebras de a!inocidos# 2os !ecanis!os se basan en las "rote.nas de la falta de robustez y velocidad# -ode!os a"licar ingenier.a inversa a todos los /rganos y siste!as del cuer"o y el cerebro orgnico) "or lo ue "ara ue sean !ucho !s eficientes# ] 'o!o se ver en el ca".tulo 9) la inteligencia hu!ana tiene !s "lasticidad &la ca"acidad de ca!biar su estructura, de lo ue "ensba!os) "ero sin e!bargo la ar uitectura del cerebro hu!ano es "rofunda!ente li!itada# -or e8e!"lo) en nuestro crneo) s/lo hay lugar "ara un centenar de billones de cone:iones interneurali# El desarrollo de una corteza cerebral !s grande) as. co!o el au!ento en el volu!en de la !ateria gris en ciertas regiones del cerebro) ue era una tecla de ca!bio gen1tico y abri/ el ca!ino "ara las ca"acidades cognitivas su"eriores a las de nuestros ante"asados# M<3 N Esta !utaci/n) sin e!bargo) se ha desarrollado en la escala de tie!"o lento de la evoluci/n biol/gica ue todav.a re"resenta una li!itaci/n inherente a la ca"acidad del cerebro# 2as ! uinas sern ca"aces de refor!ular su "ro"io dise%o y au!entar su "ro"io "oder sin l.!ites# E:"lotaci/n de la nanotecnolog.a) sus "osibilidades sern !ucho !ayores ue las de los cerebros biol/gicos) sin tener ue au!entar su consu!o de energ.a o su ta!a%o# ] 2as ! uinas ta!bi1n se beneficiarn de la utilizaci/n de los circuitos !oleculares tridi!ensionales !uy r"ida!ente# 'ircuitos electr/nicos de hoy en d.a son !s de un !ill/n de veces !s r"ido ue los siste!as electro u.!icos en el cerebro de los !a!.feros# 2os circuitos !oleculares de !a%ana se basarn en los dis"ositivos tales co!o nanotubos) cilindros "e ue%os co!"uestos "or to!os de carbono con un di!etro de a"ro:i!ada!ente diez to!os y uinientas veces !s "e ue%o ue los transistores de silicio de hoy en d.a# +ado ue la distancia ue las se%ales deben cubrir ser !s corta) tales circuitos "ueden funcionar a velocidades !edidas en terahercios &!iles de !illones de o"eraciones "or segundo, !ientras ue las "atatas fritas son actual al nivel de gigahercios &!iles de !illones de o"eraciones "or segundo,# ] 2a velocidad del ca!bio tecnol/gico no se li!ita a la velocidad !ental hu!ana# 2a inteligencia artificial ser "erfeccionar sus habilidades en un circuito de retroali!entaci/n Mco!entariosN ue la inteligencia hu!ana no !e8orada no "uede seguir# ] Este ciclo) durante el cual la inteligencia de las ! uinas o"ti!izar re"etida!ente su "rogra!a) ue ser !s r"ido y !s r"ido# Esto es e:acta!ente lo ue se es"era de la f/r!ula ue describe la aceleraci/n continua de la tasa de ca!bio de "aradig!a# @na de las ob8eciones a esta aceleraci/n es ue) al final) se vuelve de!asiado r"ida "ara los seres hu!anos y) "or tanto inviable# (in e!bargo) el "aso de lo orgnico a la no orgnica "er!ite la continuaci/n de esta tendencia#

] 2a nanotecnolog.a) 8unto con la o"ti!izaci/n de bucle de la inteligencia no biol/gica contin;a acelerndose) a continuaci/n) "er!itir ue la !ani"ulaci/n de la realidad f.sica a nivel !olecular# ] 2a nanotecnolog.a "er!itir el dise%o de nanrobot) robots !oleculares !edir en !icrones &!illon1si!as de !etro,) co!o =res"irocitos= &c1lulas ro8as de la sangre artificial,# M<<N *anorobots tendrn un sinn;!ero de funciones dentro del cuer"o hu!ano) incluido el de curar el enve8eci!iento &en cuanto a los as"ectos ue a;n no se han a8ustado a las intervenciones biotecnol/gicas o gen1ticos,# ] 2os nanobots van a interactuar con las neuronas biol/gicas "ara a!"liar la ga!a de la e:"eriencia hu!ana) la creaci/n de realidad virtual desde dentro del siste!a nervioso# Miles de !illones de nanobots en los ca"ilares del cerebro "otenciar enor!e!ente la inteligencia hu!ana# ] @na vez ue haya establecido una cabeza de "laya en el cerebro hu!ano &un "roceso ya iniciado con los i!"lantes neuronales,) la inteligencia no biol/gica de nuestro cerebro crecer e:"onencial!ente &co!o sie!"re,) du"licando el "oder cada a%o# 2a inteligencia biol/gica) sin e!bargo) "er!anecer "rctica!ente "aradas y) a continuaci/n) final!ente) la "arte no biol/gica de nuestro intelecto "redo!inar# ] 2os nanobots se beneficiarn ta!bi1n del !edio a!biente y la rectificaci/n de los da%os causados "or la conta!inaci/n derivada de la era industrial anterior# ] nanorobots foglet Mver: niebla de utilidad N# generar i!genes y las ondas sonoras y llevar la calidad de la transfor!aci/n de la realidad virtual al !undo real M<9N ] 2a ca"acidad de co!"render y res"onder adecuada!ente a las e!ociones &la lla!ada inteligencia e!ocional, es una de las for!as de la inteligencia hu!ana en el futuro) la inteligencia artificial ganar do!inio# Algunas de nuestras res"uestas e!ocionales estn calibrados "ara o"ti!izar nuestra inteligencia en el conte:to de nuestros cuer"os biol/gicos li!itados y frgiles# El futuro de las ! uinas inteligentes tendr a su dis"osici/n los =cuer"os= de interagie con el !undo &"or e8e!"lo) entidades virtuales en la realidad virtual) o "royecciones a trav1s foglet,) "ero estos cuer"os nanoingegnerizzati sern !ucho !s eficientes y duraderos cuer"os biol/gicos hu!anos# -or esta raz/n) algunas de las reacciones =e!ocionales= de la inteligencia artificial futuro ser redise%ado "ara refle8ar las !ucho !ayores a sus ca"acidades f.sicas# M<7N ] 'uando la realidad virtual &generado en el siste!a nervioso, ser co!"arable a la realidad real) en t1r!inos de resoluci/n de i!agen y credibilidad) nuestras e:"eriencias se llevarn a cabo cada vez !s en entornos virtuales# ] En la realidad virtual "uede ser otra "ersona) tanto f.sica co!o e!ocional!ente# Qsica!ente) cual uier "ersona &"or e8e!"lo) su "are8a, seleccionar "ara usted un cuer"o diferente al ue usted "refiere &y vice versa,# ] 2a ley de retornos acelerados continuar su recorrido hasta ue la inteligencia no biol/gica se a"ro:i!ar al "unto de =saturaci/n=) con la inteligencia del ho!bre E ! uina) de la !ateria y la energ.a en nuestro es"acio de =vecindad=# -ara la =saturaci/n= !e refiero a la utilizaci/n en un nivel /"ti!o de la !ateria y la energ.a en los "ro"/sitos co!"utacionales &basada en nuestra co!"rensi/n actual de la f.sica co!"utacional,# Acercarse a este l.!ite) la inteligencia de nuestra civilizaci/n seguir !e8orando sus ca"acidades ue van hacia el resto del universo# 2a velocidad de esta e:"ansi/n se a"ro:i!ar r"ida!ente a la velocidad !:i!a a la ue la infor!aci/n "uede via8ar# ] -or ;lti!o) el universo entero se satura con nuestra inteligencia# Esta es su destino &v1ase el ca".tulo T,# 2o hare!os con el tie!"o due%os de nuestro destino) en lugar de de8arlo en !anos de las fuerzas de =est;"idos= y si!"le ue regulan los !ecanis!os de cielo# ] 'uando el universo alcanzar ese nivel de inteligencia) ue de"ende de lo ue hoy sigue siendo desconocido: si la velocidad de la luz es un l.!ite in!utable o no# Hay indicios ue sugieren la

"osibilidad de e:ce"ciones a este l.!ite sutiles &o !1todos "ara eludir la !is!a,# (i se confir!a) la gran inteligencia de nuestra civilizaci/n futura ser encontrar la for!a de e:"lotaci/n de los !is!os# Esto) entonces) es la singularidad# Algunos "odr.an decir ue no "ode!os entender) "or lo !enos con nuestra co!"rensi/n actual# Esta es la raz/n "or la ue no "ode!os ver !s all de su horizonte de sucesos y co!"render e:acta!ente u1 es"erar# Esta es una de las razones "or las ue describi!os esta transfor!aci/n co!o una singularidad# -ersonal!ente) !e "areci/ dif.cil) si no i!"osible) "ara !irar !s all de este horizonte) incluso des"u1s de d1cadas de haber "asado conte!"lando las diversas i!"licaciones# (in e!bargo) !i o"ini/n es ue) a "esar de nuestras "rofundas li!itaciones) tene!os la suficiente ca"acidad "ara la abstracci/n con el fin de llegar a algunas conclusiones significativas acerca de la naturaleza de la vida des"u1s de la (ingularidad# El !s i!"ortante es ue la inteligencia ue surgir de ella seguir re"resentando la civilizaci/n hu!ana) ue ya es hoy en d.a una civilizaci/n del ho!bre E ! uina# En otras "alabras) las ! uinas futuras sern hu!ana) aun ue no biol/gica# >ste ser el siguiente "aso en la evoluci/n) el siguiente ca!bio de "aradig!a) el siguiente nivel de indirezionalit[ M=indirecta=: la evoluci/n utiliza los resultados de una era "ara crear la nueva eraN#2a !ayor "arte de la inteligencia de nuestra civilizaci/n ser no biol/gicos# A finales de este siglo) ser de billones de billones de veces !s "otente ue la inteligencia hu!ana# M<TN (in e!bargo) en res"uesta a un te!or a !enudo se !enciona) esto no significa el fin de la inteligencia biol/gica) aun ue ha "erdido "ri!ac.a de la su"erioridad evolutiva# En "ri!er lugar) las for!as se derivan de dise%o orgnico no biol/gicos) ta!bi1n nuestra civilizaci/n va a seguir siendo hu!anos en un sentido re"resentan lo ue hoy considera!os co!o nuestra hu!anidad) hoy !e8or ue nosotros !is!os) aun ue el significado de la e:"resi/n ir !s all de sus or.genes biol/gicos# $arios co!entaristas han e:"resado su alar!a con la a"arici/n de for!as de inteligencia no biol/gica su"erior a la inteligencia hu!ana &un te!a ue discutire!os en el ca".tulo X,# 2a ca"acidad de !e8orar nuestra inteligencia a trav1s de enlaces directos con otros sustratos de "ensa!iento no alivia necesaria!ente esta "reocu"aci/n) dado ue algunos han e:"resado el deseo de "er!anecer =no !e8orada= y) al !is!o tie!"o) !antenerse en la ci!a de la cadena ali!enticia intelectual# +esde el "unto de vista de la hu!anidad biol/gica) estas inteligencias sobrehu!anas a"arecer co!o servidores dedicados "ara nosotros) dedicados a la satisfacci/n de nuestras necesidades y nuestros deseos# -ero satisfacer los deseos de sus "redecesores res"etados biol/gica ocu"an s/lo una "arte insignificante del "oder intelectual ue la (ingularidad traer consigo# M?220 +E 3559: '/!o "uedo saber si la singularidad est "or llegar? @sted sabe) yo estar.a dis"uesto ### IA0: -or u1) u1 har.as? M?220 +E 3559: Queno) "ara e!"ezar) !e gustar.a ter!inar !i curriculu! vitae# Me gustar.a hacer una buena i!"resi/n ### HE?IHE 359Y: ?h) creo ue s.# M?220 +E 3559: *o es necesario ### (oy "erfecta!ente ca"az de hacerlo yo !is!o# Ta!bi1n "odr.a uerer borrar alg;n docu!ento ### 2os ue han de!ostrado "oco res"eto "or las !a uinarias de ### HE?IHE 359Y: ?h) las ! uinas van a encontrar lo !is!o) "ero no te "reocu"es) son !uy co!"rensivos# M?220 +E 3559: -or alguna raz/n) su co!entario no es tran uilizador ue !ucho !e ### +e todos !odos) s/lo uiero saber u1 va a ser de los "ri!eros s.nto!as de la singularidad# IA0: *osotros deci!os ue la singularidad va a e!"ezar cuando se tiene un !ill/n de !ensa8es de correo electr/nico en su bande8a de entrada#

M?220 +E 3559: H!!) en ese caso) creo ue ya casi esta!os all. ### En serio) estoy luchando "ara !antenerse al d.a con todos los ca!bios ue saltan "or todas "artes ### '/!o "od.a seguir el rit!o de la singularidad? HE?IHE 359Y: Tendr asistentes virtuales# En la "rctica) lo ;nico ue necesita uno# M?220 +E 3559: 0 eso) su"ongo) no? HE?IHE 359Y: A su servicio# M?220 +E 3559: ?h) te veo ### @sted ser res"onsable de todo y no te "reocu"es) incluso "ara !antener!e infor!ado# =?h) no te "reocu"es decir Molly lo ue est "asando) as. ue ella no lo entender.a ### as. ue va!os a de8arlo en su bendita ignorancia#= HE?IHE 359Y: ?h no) no lo creo# M?220 +E 3559: Ah) yo ni si uiera =bendecido=) entonces? HE?IHE 359Y: *o) riferesco "ara !antenerlo en la oscuridad acerca de algo# (er ca"az de entender lo ue estoy haciendo) as. ue si uieres# M?220 +E 3559: Cuieres decir ue voy a ser ### co!o dicen ### IA0: Enhanced ###? M?220 +E 3559: (.) eso es lo ue yo estaba tratando de decir# HE?IHE 359Y: (i usted uiere lograr todo el "otencial de nuestra relaci/n) no ser.a una !ala idea# M?220 +E 3559: Cu1 "asa si !e uiero uedar co!o estn? HE?IHE 359Y: (ie!"re estar1 a tu lado) cual uiera ue sea su decisi/n# -ero "uedo ser !ucho !s ue un !ayordo!o trascendente# M?220 +E 3559: -ara decir la verdad) incluso si usted fuera =s/lo= !i !ayordo!o trascendente) ue !e "arece un "oco ### 'HAI2E( +AIJI*: (i "uedo entro!eter!e) !e gustar.a se%alar ue cuando la inteligencia de las ! uinas su"erar al de los hu!anos) "robable!ente ser ca"az de dise%ar su "r/:i!a generaci/n# M?220 +E 3559: *o lo veo co!o "articular!ente e:tra%o# 0a en la actualidad se utiliza el ordenador "ara dise%ar otros ordenadores# 'AI2?(: (.) "ero hoy en d.a se sigue utilizando "or los dise%adores hu!anos# 'uando las ! uinas llegarn a los niveles hu!anos de inteligencia) entonces el c.rculo se cierra# *E+ 2udd: M<FN 0 los seres hu!anos se !antendrn fuera ### M?220 +E 3559: (er.a un "roceso !uy lento ### IA0: ?h) no lo creo# (i la inteligencia no biol/gica ue se construir a lo largo de las l.neas de un cerebro hu!ano) sino ta!bi1n con los circuitos s/lo en 3559) se ### M?220 +E 3559: (eguro ue uiere decir =ella= ### IA0: @! ### oG) no "od.a "ensar en "or lo !enos un !ill/n de veces !s r"ido ue nosotros# Ti!othy 2eary:# El tie!"o sub8etivo se a!"liar.a IA0: Eso es correcto# M?220 +E 3559: A !. !e "arece ue ser.a un !ont/n de tie!"o sub8etivo# Cu1 vas a hacer) ue las ! uinas) en todo este tie!"o? HE?IHE 359Y: ?h) hay !ucho ue hacer# +es"u1s de todo) tengo acceso a todo el conoci!iento hu!ano) a trav1s de Internet# M?220 +E 3559: Uusto lo hu!ano? 0 una de las ! uinas?

HE?IHE 359Y: A!bos: ve!os nuestra civilizaci/n) una civilizaci/n h.brida# 'HAI2E(: 0 las ! uinas sern ca"aces de !e8orar su "ro"io dise%o# M?220 +E 3559: ?h) los seres hu!anos estn co!enzando a hacerlo# IA0: -ero s/lo "ode!os hacer una cirug.a !enor# 2a inteligencia basada en el A+* es inherente!ente lento y li!itado# 'HAI2E(: -ero las ! uinas dise%ar su "ro"ia generaci/n siguiente con bastante ra"idez# HE?IHE 359Y: +e hecho) eso es lo ue est "asando en 359Y# 'HAI2E(: Es a esto ue estaba "ensando ### una nueva l.nea evolutiva# *E+: 0o dir.a ue es un fen/!eno riesgoso e inestable ### 'HAI2E(: Queno) bsica!ente) la evoluci/n es tan ### *E+: -ero u1 "asa con la interacci/n entre las ! uinas y sus ante"asados? *o creo ue "odr.a!os detenerlos# Me las arregl1 "ara esconderse de las autoridades en Inglaterra durante unos a%os los "ri!eros Y55) "ero creo ue va a ser !s dif.cil con estos ### HE?IHE 359Y: Esta gente# M?220 +E 3559: '/!o se "uede ocultar de los di!inuto robot ### IA0: Te refieres a los nanobots? M?220 +E 3559: (.) los ### escondi1ndose de los nanobots va a ser !uy dif.cil ### IA0: 'reo ue la inteligencia ue ser el resultado de la singularidad !ostrar un gran res"eto "or su herencia biol/gica# HE?IHE 359Y: -or su"uesto# It Os !s de una cuesti/n de res"eto) ue es ### reverencia# M?220 +E 3559: Es her!oso) HeorgeA $oy a ser tu !ascota veneradoA Esto no es lo ue ten.a en !ente ### *E+: 0 Oesatta!ent co!o di8o Ted RaczynsGi: Esta!os transfor!ando en ani!ales do!1sticos# It Os nuestro destino: convertirse en !ascotas co!"lacientes) "ero cierta!ente no los ho!bres libres ### M?220 +E 3559: 0 el se:to tie!"o? -or un lado) ue sea orgnico) ue ser.a utilizar toda esta !ateria y energ.a ineficiente# -or otra "arte) usted uiere ue !e convierta en un virtual de Molly y Heorge !illones de d/lares) cada uno de los cuales ser.a ca"az de "ensar !ucho !s r"ido ue yo#0o dir.a ue voy a estar so!etido a una gran "resi/n "ara "asar al =otro lado ###= IA0: (.) "ero s/lo re"resentan una "e ue%a "arte de la !ateria y la energ.a dis"onible# A "esar de ue te uedes en un sustrato biol/gico) ue no tendr.a un i!"acto significativo en la cantidad de !ateria y energ.a a dis"osici/n de la singularidad# 0 nos gustar.a !antener nuestro "atri!onio biol/gico ### HE?IHE 359Y: -or su"uesto# IA0: ### as. co!o hoy en d.a trata!os de "reservar la selva tro"ical y la biodiversidad# M?220 +E 3559: Es 8usto lo ue !e te!o) "or ue lo ue esta!os haciendo a la selva ### creo ue se segu.a una "izca ### Ter!inare!os nosotros !is!os co!o es"ecie en "eligro de e:tinci/n# *E+: ? e:tinta ### M?220 +E 3559: 0 no soy s/lo yo) ta!bi1n son !is cosas# Uuntos re"resenta!os una gran cantidad de !aterial ### HE?IHE 359Y: Eso no es un "roble!a) recicla!os todo# $a!os a crear el a!biente ue usted

necesita) cuando lo necesite# M?220 +E 3559: Ah) voy a estar en una realidad virtual) entonces? IA0: *o) en realidad de verdad) hecho de foglet # M?220 +E 3559: Hecho de la niebla ###?A IA0: *o) no) de hecho foglet# M?220 +E 3559: -erd/n? IA0: Te lo e:"licar1 !s adelante en el libro# M?220 +E 3559: Queno) da!e un resu!enA IA0: foglet son nanobots) robot del ta!a%o de un gl/bulo ro8o) ue "ueden conectarse entre s. recrear cual uier estructura f.sica# Ade!s) se "ueden dirigir a la infor!aci/n de !anera visual y auditiva ue introducen la transfor!aci/n de la realidad virtual en el real# M<YN M?220 +E 3559: 'o!o nunca "ed.A Ms all de todo eso) yo no tendr.a ue sacrificar todos los ani!ales y "lantas# Aun ue !uchos no sie!"re los ven) s1 ue todav.a estn "or ah.) en alguna "arte ### HE?IHE 359Y: se "erder) "ero nada# M?220 +E 3559: 2o entiendo) !e sigues diciendo) "ero lo ue uiero decir es ue ahora estn "or ah. de verdad) en la realidad) "or as. decirlo) biol/gica ### IA0: Queno) toda la biosfera es de !enos de una !illon1si!a "arte de la !ateria y la energ.a en el siste!a solar ### 'HAI2E(: ### y contiene la !ayor "arte del carb/n de ### IA0: ### entonces valdr la "ena el esfuerzo "ara "reservar todo lo ue "uede sentirse seguro de ue no te "ierdas nada# HE?IHE 359Y: Este es el consenso) desde hace varios a%os# M?220 +E 3559: As. ue) bsica!ente) voy a tener todo lo ue necesitas a la !ano? HE?IHE 359Y: E:acta!ente# M?220 +E 3559: Esto !e recuerda la historia del Iey Midas) todo lo ue tocaba se convert.a en oro# *E+: (.) "ero ta!bi1n recuerdo ue hab.a !uerto de ha!bre ### M?220 +E 3559: Queno) si !e decido a ca!biar de lado) con todo lo ue el tie!"o sub8etivo) ser !s fcil !orir de aburri!iento ### HE?IHE 359Y: ?h no) no lo creo# Hracias a !.) ni si uiera saben lo ue el aburri!iento# 2otas finales ($B;) La Singularidad est cerca es pu*licado por 7i?ing $ress La versin original ($B;) de este art)culo% en el sitio de la o*ra< Singularit(1com 7er tam*i&n< 4l prlogo( el primer cap)tulo< Los seis &pocas

)a singularidad est cerca$ por ,ay 2urz&eil

."rologue.
$isiones del Duturo - (ingularity O

En cinco a%os) tuve la idea de ue iba a ser un inventor# -ens1 ue las invenciones "odr.an ca!biar el !undo# 'uando otros ni%os se "reguntaban en voz alta lo ue se "uede hacer algo grande) "ens1 ue ya sab.a lo ue iba a ser# El cohete a la luna ue estaba construyendo entonces &casi una d1cada antes de ue el desaf.o del "residente Rennedy a la naci/n, no funcionaba) "ero cerca de ocho a%os) !is inventos se convirti/ en un "oco !s realista: un teatro rob/tico con enlaces !ecnicos ue "od.an !overse escenas y "ersona8es) fuera de la vista) y los 8uegos de b1isbol virtuales# Mis "adres) a!bos artistas) huyeron del Holocausto y ue !e uer.an "ara una educaci/n religiosa !s secular y !enos "rovincial# Mi educaci/n es"iritual) ya ue) se llev/ a cabo en una iglesia unitaria# *os "as/ seis !eses estudiando una religi/n &lo hice segui!iento de los servicios) la lectura de te:tos) dilogos con la cabeza, y luego "asar a la siguiente# El te!a fue: =Hay !uchos ca!inos hacia la verdad#= -or su"uesto) !e di cuenta de !uchos "aralelis!os entre las tradiciones religiosas del !undo) sino ta!bi1n las inconsistencias fueron esclarecedores# Cued/ claro ue las verdades bsicas eran lo suficiente!ente "rofundas "ara su"erar contradicciones a"arentes# A los ocho a%os) descubr. la serie de libros de To! (Lift Ur# 2a tra!a de los treinta y tres libros &s/lo nueve hab.an sido "ublicados cuando e!"ec1 a leer en 4X7T, era sie!"re la !is!a: To! ser.a !eterse en una terrible situaci/n en la ue su destino y el de sus a!igos) a !enudo el resto de la raza hu!ana) estn en 8uego# To! se retir/ en su laboratorio en el s/tano y "ensaba c/!o resolver el "roble!a# Este fue el ele!ento de tensi/n dra!tica en todos los libros de la serie: B u1 brillante idea ser.a llegar a To! y sus a!igos "ara salvar al !undo? 2a !orale8a de estos cuentos era si!"le: la idea correcta ten.a la fuerza "ara su"erar un desaf.o a"arente!ente i!"osible#
Incluso hoy en d.a) estoy convencido de esta filosof.a bsica: cuales uiera ue sean las dificultades a las ue nos enfrenta!os - "roble!as de traba8o) "roble!as de salud) dificultades de relaci/n) co!o todos los grandes retos cient.ficos) sociales y culturales de nuestro tie!"o - hay una = idea ue nos "uede "er!itir ganar# Ade!s) "ode!os encontrar esa idea# 0) cuando lo encontre!os) tene!os ue "oner en "rctica# Mi vida ha sido i!"ulsado "or este i!"erativo# El "oder de una idea - aun ue esto es en s. !is!o una idea# Ms o !enos en el !is!o "er.odo de tie!"o en ue le.a el To! (Lift Ur#) recuerdo a !i abuelo & ue ta!bi1n hab.a huido de Euro"a con !i !adre, regres/ "or "ri!era vez en Euro"a y dos !e!orias clave# -or un lado) la a!abilidad con la ue hab.a sido tratado "or los austriacos y ale!anes) la !is!a gente ue se vieron obligados a huir en 4X<Y) y segundo) una rara o"ortunidad ue le hab.an dado "ara tocar con sus "ro"ias !anos algunos !anuscritos originales "or 2eonardo da $inci# A!bos recuerdos !e han influido) "ero es el segundo ue he estado all. !uchas veces# +escribi/ la e:"eriencia con reverencia) co!o si hubiera tocado la obra de +ios !is!o# Esto) entonces) es la religi/n ue se "lantearon con: veneraci/n "or la creatividad hu!ana y el "oder de las ideas# En 4XT5) doce a%os) descubr. el ordenador y ued/ fascinado con su ca"acidad de !odelar y recrear el !undo# Me volv. hacia las tiendas de electr/nica en 'anal (treet en Manhattan &hay !s, y "artes se reunieron "ara construir !is dis"ositivos infor!ticos#

+urante los a%os sesenta) estaba absorto en el todo el tie!"o !usical) cultural y "ol.tica conte!"ornea co!o !is co!"a%eros) "ero estaba igual!ente co!"ro!etido en una tendencia !ucho !s oscura: la notable secuencia de ! uinas ue IQM "uso en el !ercado en esa d1cada) de su gran serie =F555= &F5F5) F5F9) F5X5) F5X9, a la "e ue%a de 4T35) efectiva el "ri!er =!inico!"utadora=# 2as ! uinas fueron introducidas a raz/n de una "or a%o) y cada uno era !s barato y !s "otente ue el anterior) un fen/!eno conocido hoy# Tuve la o"ortunidad de conseguir sus !anos en un IQM 4T35 y co!enz/ a escribir "rogra!as "ara el anlisis estad.stico y luego a la co!"osici/n !usical# Todav.a recuerdo cuando) en 4XTY) se !e "er!iti/ a la c!ara de seguridad) caverna ue albergaba a lo ue entonces era el e ui"o !s "oderoso de *ueva Inglaterra) un IQM <T5 !odelo X4) la "arte su"erior de la ga!a) con una !e!oria de =n;cleo= de un bien !illones de bytes &un !egabyte,) una i!"resionante velocidad de un !ill/n de instrucciones "or segundo &MI-(,) un costo de al uiler de s/lo !il d/lares la hora# Hab.a desarrollado un "rogra!a ue "one a los estudiantes en la escuela

secundaria con la universidad !s adecuada) y yo estaba fascinada de ver las luces en el "anel frontal ue baila en un "atr/n caracter.stico ue el coche se detuvo el for!ulario de solicitud "ara cada estudiante# 0o sab.a !uy bien cada l.nea de c/digo) "ero "arec.a ue el e ui"o se "erdi/ en sus "ensa!ientos cuando las luces se a"agaron durante unos segundos !ientras se acercaba cada ciclo individual# +e hecho) se "odr.a hacer en diez segundos y error lo ue 1ra!os ca"aces de hacer !anual!ente en diez horas) y con !ucha !enos "recisi/n# 'o!o inventor) en los a%os setenta) !e di cuenta de ue !is invenciones ten.an ue tener sentido en t1r!inos de tecnolog.as de a"oyo y las fuerzas del !ercado en el !o!ento de su introducci/n) ya ue en ese !o!ento el !undo ser.a !uy diferente de a uel en el ue se concebido# 'o!enz/ a desarrollar !odelos de c/!o distintas tecnolog.as &electr/nica) co!unicaciones) "rocesadores) !e!oria) al!acena!iento !agn1tico) y !s,) y la for!a en ue estos ca!bios ondulaban a trav1s de los !ercados y) en definitiva nuestras instituciones sociales# Me di cuenta de ue la !ayor.a de los inventos no fracasan "or ue los de"arta!entos de investigaci/n y desarrollo no reciben a traba8ar) sino "or ue el tie!"o no es correcto# Inventar es un "oco co!o el surf: ves la ola de ante!ano y ca"turarlo en el !o!ento adecuado# Mi inter1s en las tendencias de la tecnolog.a y sus i!"licaciones ad uiri/ una vida "ro"ia en los a%os ochenta) y e!"ec1 a usar !is !odelos "ara "redecir y antici"ar las futuras tecnolog.as y las innovaciones ue han hecho su a"arici/n en 3555) 3545 3535 y !s all# Esto !e "er!iti/ inventar con las ca"acidades del futuro) "ensar y dise%ar inventos ue utilizan estas ca"acidades futuras# En la segunda !itad de los a%os ochenta ue escrib. !i "ri!er libro) 2a era de las ! uinas inteligentes) en la ue hab.a una a!"lia "revisiones &razonable!ente e:acta, a los noventa y la "ri!era d1cada del nuevo !ilenio) y ter!in/ con el fantas!a de una inteligencia de las ! uinas de convertirse indistinguibles de la de sus "rogenitores hu!anos en la "ri!era !itad del siglo PPI# -arec.a una conclusi/n adecuada y) en todo caso) yo "ersonal!ente le resultaba dif.cil ver !s all de un resultado tan saturado de ca!bio# En los ;lti!os veinte a%os) he llegado a a"reciar una i!"ortante !eta-idea: ue el "oder de transfor!ar el !undo de sus "ro"ias ideas) a su vez) est creciendo a un rit!o acelerado#Muchos estn de acuerdo con esta observaci/n) cuando es sencilla) "ero relativa!ente "ocos son ca"aces de co!"render "lena!ente la "rofundidad de las consecuencias# En las "r/:i!as d1cadas) tendre!os la o"ortunidad de a"licar las ideas ue nos harn su"erar los "roble!as seculares - e introducir algunos nuevos "roble!as en el ca!ino# +urante los a%os noventa) reun. datos e!".ricos sobre la aceleraci/n de todas las tecnolog.as relacionadas con la infor!aci/n y trat1 de afinar los !odelos !ate!ticos ue subyacen a estas observaciones# He desarrollado una teor.a ue yo lla!o la =ley de los retornos acelerados=) ue e:"lica "or u1 los "rocesos tecnol/gicos y la evoluci/n en general a florecer de for!a e:"onencial# En la era de las ! uinas es"irituales &en adelante) A(M "or sus siglas,) ue escrib. en 4XXY) trat1 de i!aginar c/!o ser.a la vida hu!ana !s all del "unto en el ue las ca"acidades cognitivas de las ! uinas y los seres hu!anos se !ezclaron # +e hecho) he visto esta vez co!o una colaboraci/n !s estrecha entre nuestro "atri!onio biol/gico y un futuro ue trasciende la biolog.a# @na "alabra acerca de la !agia: cuando estaba leyendo el To! (Lift Ur# ta!bi1n era aficionado a la !agia# Me encantaba entretener a !i ";blico a e:"eri!entar transfor!aciones de la realidad) obvia!ente i!"osibles# En la adolescencia) ca!bi1 !i !agia de vivir con los "royectos de tecnolog.a#He descubierto ue) a diferencia de !eros trucos) la tecnolog.a no "ierde energ.a cuando sus secretos son revelados# A !enudo recuerdo de la tercera ley de Arthur '# 'larGe: ='ual uier tecnolog.a suficiente!ente avanzada es indistinguible de la !agia#= -iense en esta "ers"ectiva a las novelas de Harry -otter escrita "or UR IoLling# Estos cuentos de fantas.a) "ero no son visiones irracionales de nuestro !undo) ya ue ser s/lo unas d1cadas#-rctica!ente la totalidad de la =!agia= de Harry -otter se realizar a trav1s de las tecnolog.as ue se e:"lora en este libro#

Uuega uidditch y transfor!aci/n de las "ersonas y los ob8etos de otras for!as ser factible en entornos de realidad virtual in!ersiva) as. co!o en la realidad =real=) utilizando dis"ositivos a nanoescala# Ms dudoso es el tie!"o &co!o en Harry -otter y el "risionero de AzGaban,) aun ue alguna "ro"uesta seria fue "ro"uesta "ara conseguir algo co!o esto &sin incurrir en las "arado8as de causalidad,) al !enos "ara los bits de infor!aci/n ) ue en esencia es lo ue esta!os hechos# &$ea la discusi/n en 'a".tulo < en los ;lti!os l.!ites de la co!"utaci/n#, Harry desata su !agia "ronunciando el con8uro adecuado# ?bvia!ente) descubrir y a"licar estos hechizos no es fcil# Harry y sus co!"a%eros deben conocer la secuencia e:acta) los "rocedi!ientos y el 1nfasis correctos# 0 eso es lo ue nos "asa con la tecnolog.a# 2os encanta!ientos son las f/r!ulas y los algorit!os ue son la base de nuestra !agia !oderna# 'on la secuencia correcta) se "uede hacer una co!"utadora "ara leer en voz alta un libro) co!"render el habla de un ser hu!ano) es de es"erar &y evitar, un ata ue al coraz/n) o "redecir el !ovi!iento de un fondo de acciones# (i un hechizo est !al aun ue sea un "oco) la !agia se ha debilitado en gran !edida o no funciona en absoluto# (e "odr.a ob8etar ue esta !etfora) se%alando ue los hechizos HogLarth son cortos y "or lo tanto no contienen !ucha infor!aci/n en co!"araci/n con) "or e8e!"lo) el c/digo de softLare !oderno# -ero los !1todos esenciales de la tecnolog.a !oderna en general co!"arten la !is!a concisi/n# 2os "rinci"ios de traba8o de los avances de softLare tales co!o el reconoci!iento de voz se "ueden escribir en unas "ocas "ginas de f/r!ulas# A !enudo se obtiene un avance clave es un "e ue%o ca!bio en una f/r!ula# 2a !is!a observaci/n es vlida "ara los =inventos= de la evoluci/n biol/gica: la diferencia gen1tica entre los chi!"anc1s y los seres hu!anos) "or e8e!"lo) es s/lo unos "ocos cientos de !iles de bytes de infor!aci/n# 2os chi!"anc1s son ca"aces de algunas "roezas intelectuales) "ero esa "e ue%a diferencia en nuestros genes era suficiente "ara nuestra es"ecie "ara crear la !agia de la tecnolog.a# Muriel IuGeyser dice ue =el universo est hecho de historias) no de to!os=# En el ca".tulo F) !e declaro Osche!atista =o= "atternista =) ue considera los "atrones &"atrones, de infor!aci/n co!o la realidad funda!ental# -or e8e!"lo) las "art.culas ue co!"onen !i cerebro y !i cuer"o ca!bian en "ocas se!anas) "ero no hay una continuidad en las configuraciones su"onen ue estas "art.culas# @na historia "uede ser vista co!o un !odelo de infor!aci/n ue tiene sentido) "or lo ue "uede inter"retar el aforis!o de Muriel IuGeyser en esta "ers"ectiva#

)a singularidad est cerca$ por ,ay 2urz&eil. 4 5 - con el autor.

$isiones del Duturo - (ingularity O

Cu l es la singularidad# En los "r/:i!os 37 a%os) la inteligencia no biol/gica ser igual a la ri ueza y la sofisticaci/n de la inteligencia hu!ana y su"erar en abundancia debido a dos factores: la aceleraci/n continua de los avances de la tecnolog.a de la infor!aci/n y la ca"acidad Mde las inteligencias -biol/gico - *ota del traductorN "ara co!"artir r"ida!ente sus conoci!ientos# *anorobots inteligentes se integran en nuestro cuer"o) en el cerebro y en el !edio a!biente) la soluci/n de "roble!as co!o la conta!inaci/n y la "obreza) au!entando significativa!ente nuestra longevidad) lo ue la realidad virtual ue incor"ora todos los sentidos &co!o en =The Matri:=, y los =trans!isi/n de e:"eriencias= &co!o en =ser Uohn MalGovich=,) as. co!o un au!ento significativo de la

inteligencia hu!ana# El resultado ser la fusi/n de la clase de tecnolog.as creativas con el "roceso de la tecnolog.a evolutiva a la ue dio lugar# D esta es la singularidad# *o) esto es s/lo la eta"a ue "recede# 2a inteligencia no-biol/gica tendr acceso a su dise%o y "uede !e8orar en un ciclo !s r"ido y !s r"ido redise%o# $a!os a llegar al "unto en ue el "rogreso t1cnico ser tan r"ida co!o "ara ser inco!"rensible "ara el intelecto hu!ano no se incre!enta# Ese !o!ento !arcar la singularidad# Cu ndo suceder # 2a fecha ue he "uesto "ara la singularidad - este t1r!ino una transfor!aci/n "rofunda e in uietante de las ca"acidades hu!anas - es el 3597# 2a inteligencia no biol/gica creada en ese a%o ser de !il !illones de veces !s "oderoso ue toda la inteligencia hu!ana en la actualidad# $or !u& se llama singularidad# El t1r!ino =singularidad= en !i libro es co!"arable al uso de este t1r!ino en la f.sica# As. co!o no "ode!os ver !s all del horizonte de sucesos de un agu8ero negro) "or lo ue resulta dif.cil ver !s all del horizonte de sucesos de la singularidad hist/rica# '/!o "ode!os nosotros) con nuestros cerebros biol/gicos li!itados) i!ag.nese lo ue "uede hacer y "ensar en un futuro de nuestra civilizaci/n) con la inteligencia !ulti"lica !iles de !illones de veces? (in e!bargo) al igual ue "ode!os sacar conclusiones acerca de la naturaleza de los agu8eros negros sin ue nunca se fueron en el interior) nuestros "ensa!ientos son ahora lo suficiente!ente avanzada "ara entender las i!"licaciones de la singularidad# 0 OEsto es lo ue he intentado hacer en este libro# *ien% una cosa a la ve"1 Me parece !ue una parte clave de su argumento es !ue podemos capturar la inteligencia de nuestro cere*ro en un coche1 E:acta!ente# Cmo vamos# To!ar una cosa a la vez) "ode!os e!"ezar "or los re uisitos de hardLare y softLare#En el libro) !uestro c/!o nos necesita!os unos 45 ^ 4T o"eraciones "or segundo &'A(, "ara obtener un e uivalente funcional de todas las regiones del cerebro# Tenga en cuenta ue algunas esti!aciones son inferiores a este "or un factor de 455# 2as su"erco!"utadoras son ya a 455 billones &45 ^ 49, y gol"ear 45 de cas cas ^ 4T hacia el final de esta d1cada# $arios su"erordenador con una cas billones ya estn en la fase de dise%o) con dos gru"os 8a"oneses ue se dirigen a 45 billones a finales de esta d1cada# En 3535) diez !il billones cas estar dis"onible "or alrededor de 6 4#555# 2a realizaci/n del hardLare era "ol1!ica cuando !i ;lti!o libro sobre este te!a) 2a era de las ! uinas es"irituales) fue "ublicado en 4XXX) "ero ahora es el consenso entre los observadores bien infor!ados# Ahora la "ol1!ica se centra en algorit!os# D cmo se recrean los algoritmos de la inteligencia humana# -ara entender los "rinci"ios de la inteligencia hu!ana ue tendre!os ue realizar ingenier.a inversa &ingenier.a inversa, del cerebro hu!ano# En este ca!"o) el "rogreso es !ucho !ayor de lo ue "iensas#2a resoluci/n es"acial y te!"oral de las t1cnicas de e:"loraci/n del cerebro est avanzando a un rit!o e:"onencial) du"licndose a"ro:i!ada!ente cada a%o) ya ue la !ayor.a de todo lo ue tiene ue ver con la infor!tica# Ieciente!ente) los escneres son ca"aces de hacer visibles las diferentes cone:iones interneuronales) lo ue "er!ite la observaci/n de la o"eraci/n en tie!"o real# 0a tiene !odelos !ate!ticos y si!ulaciones de un "ar de docenas de regiones del cerebro) incluyendo el cerebelo) ue contiene !s de la !itad de las neuronas en el cerebro# IQM est traba8ando en una si!ulaci/n de unas 45#555 neuronas corticales) con decenas de !illones de cone:iones# 2a "ri!era versi/n ser si!ular la actividad el1ctrica y una versi/n futura ta!bi1n si!ular su actividad u.!ica# @na esti!aci/n conservadora indica ue alrededor de 3537 va!os a tener !odelos eficaces "ara todo el cerebro# As) !ue en ese momento slo tiene !ue copiar un cere*ro humano en un superordenador# "ongo de otra !anera) y en ese !o!ento va!os a tener una co!"leta co!"rensi/n del funciona!iento del cerebro hu!ana# @n beneficio secundario es ue tene!os un conoci!iento !s "rofundo de nosotros !is!os) "ero la clave i!"licaci/n ser la a!"liaci/n de la ga!a de t1cnicas ue "ode!os a"licar a la creaci/n de la inteligencia artificial# Entonces "ode!os generar siste!as no biol/gicos "ara la inteligencia co!"arable a los seres hu!anos) incluso en a uellas reas en las ue los seres hu!anos son ahora !s alto) co!o en el caso de nuestras ca"acidades de reconoci!iento de "atrones# El ordenador su"erinteligente ue va!os a crear va a hacer lo i!"osible "ara nosotros) co!o el interca!bio de conoci!ientos y habilidades en las velocidades electr/nicas# En 35<5) !il d/lares de co!"utaci/n sern a"ro:i!ada!ente !il veces !s "otente ue un cerebro hu!ano# Tenga en cuenta) ta!bi1n) ue los ordenadores no se organizan co!o ob8etos se"arados) co!o lo son hoy# -ode!os es"erar una reta co!"utacional

"rofunda!ente integrado en el entorno) nuestro cuer"o y nuestro cerebro# @sted mencion una serie de herramientas para la inteligencia artificial% pero me parece !ue en este campo no fueron capaces de cumplir con las e-pectativas1 2 O inter1s en el ca!"o de la inteligencia artificial se ha dis"arado des"u1s de la fuerte ca.da en los a%os Y5 ue era si!ilar a lo ue ocurri/ la ;lti!a vez en el co!ercio electr/nico y las teleco!unicaciones# Estos ciclos de auge y ca.da &e:"ansi/n y contracci/n, son a !enudo "re!bulos verdaderas revoluciones) recuerda el auge y ca.da del sector ferroviario en el siglo PIP# As. co!o el cola"so de las e!"resas basadas en Internet no re"resenta el fin de la Internet) "or lo ue el lla!ado =invierno de la inteligencia artificial= no era el final del ca!"o# Hay cientos de a"licaciones de la inteligencia artificial =hold= &inteligencia artificial ue es igual o su"erior a la inteligencia hu!ana en tareas es"ec.ficas, ue la infraestructura !oderna i!"regnan# 'ada vez ue env.e un correo electr/nico o utilizar el tel1fono) los algorit!os inteligentes gesticono la infor!aci/n ue env.a# -rogra!as de IA diagnostican electrocardiogra!as con una "recisi/n co!"arable a la de los !1dicos) evaluar los rayos P) la !osca y los aviones terrestres) ar!as de control aut/no!os inteligentes) decisiones auto!atizadas de inversi/n se co!"onen de !iles de !illones de d/lares y orientar los "rocesos industriales# Estos fueron todos los "royectos de investigaci/n ue hace s/lo veinte a%os# (i todo el softLare inteligente en el !undo fuera a de8ar de funcionar re"entina!ente) la civilizaci/n !oderna se detendr.a# -or su"uesto) nuestros "rogra!as de IA no son lo suficiente!ente inteligentes co!o "ara organizar una cons"iraci/n) al !enos no todav.a# $or !u& tan pocas personas se dan cuenta de los profundos cam*ios !ue se avecinan# es"ero ue !i nuevo libro ca!biar esta situaci/n# El "rinci"al "roble!a es la inca"acidad de !uchos observadores a "ensar en t1r!inos e:"onenciales# 2as "redicciones a largo "lazo de lo ue "odr.a ser t1cnica!ente "osible subesti!ar los "osibles desarrollos en el futuro) ya ue en base a lo ue yo lla!o la inter"retaci/n de =lineal intuitiva= el "er.odo hist/rico y no en el =e:"onencial=# Mis !odelos !ate!ticos sugieren ue esta!os du"licando la tasa de ca!bio del "aradig!a de cada d1cada# Hacia el final del siglo PP) la tasa de "rogreso era ya "oco a "oco acelerado# Todo el "rogreso del siglo PP) ahora se igual/ en unos veinte a%os de "rogreso a un rit!o de 3555# Entonces tendre!os el e uivalente a veinte a%os de "rogreso en tan s/lo otros catorce a%os &en 3549, y luego obtener s/lo co!o un avance en s/lo siete a%os# Metti!aola de otra !anera: en el siglo PPI tene!os un centenar de a%os de avances tecnol/gicos) sino ue va!os a tener el e uivalente de 35#555 a%os de "rogreso &de nuevo) se !idi/ el grado de avance de 3555,) o cerca de 4#555 veces !s de lo ue se ha logrado # en el siglo PP El creci!iento e:"onencial de la tecnolog.a de la infor!aci/n es a;n !ayor: cada a%o esta!os du"licando su "oder) !edido "or la relaci/n "recio-rendi!iento) el ancho de banda dis"onible) la creaci/n de ca"acidades) y !uchos otros ti"os de !edidas# Es un factor de !il en diez a%os) un !ill/n en veinte a%os y !illones de d/lares en treinta a%os# Esto va !ucho !s all de la ley de Moore &la !iniaturizaci/n de los transistores en circuitos integrados ue nos "er!ite du"licar cada a%o) la relaci/n calidad-"recio en la electr/nica,# 2a electr/nica es s/lo un e8e!"lo entre !uchos# Tenga en cuenta ue tard/ 49 a%os "ara secuenciar el virus res"onsable del $IH) "ero ue secuenci/ reciente!ente el (IA( en s/lo <4 d.as# As) !ue esta aceleracin de la tecnolog)a de la informacin tam*i&n es aplica*le a la *iolog)a# Absoluta!ente# *o son s/lo los dis"ositivos tales co!o ordenadores) tel1fonos !/viles y c!aras digitales ue estn acelerando co!o la ca"acidad# Todo lo ue se considera i!"ortante ser sustancial!ente co!"utarizado# 'on la llegada de los !edios de "roducci/n de la nanotecnolog.a) desde 3535) "ode!os utilizar dis"ositivos de ba8o costo) y lo suficiente!ente grandes "ara ser utilizados en el hogar "ara "roducir ba8o "edido casi cual uier cosa ue uera!os) a "artir de !aterias "ri!as baratas y utilizar "rocesos ue reorganizan los !ateriales infor!ativos y energ.a en el nivel !olecular# satisfaga nuestras necesidades de energ.a con "aneles solares nanotecnol/gicos ca"aces de convertir de !anera eficiente la energ.a del 5)5<Z de la luz solar ue llega a la Tierra) y eso es suficiente "ara satisfacer las "royecciones de nuestras necesidades de energ.a "ara el a%o 35<5#I!!agazzinere!o esta energ.a en las c1lulas alta!ente distribuida# Me gustar)a ir a los temas de la *iolog)a ( la nanotecnolog)a1 Cmo puede estar tan seguro de estos desarrollos# 4s pr cticamente imposi*le hacer predicciones so*re la evolucin t&cnica de los

pro(ectos espec)ficos# En efecto) no es "osible hacer "redicciones e:actas "ara "royectos es"ec.ficos# -ero lo ue es de es"erar son las consecuencias generales de ese co!"le8o ca/tico "roceso) evoluci/n ue es el "rogreso tecnol/gico#Intuitiva!ente) la gente asu!e ue el "rogreso continuar en el futuro co!o lo es hoy# Incluso a uellos ue han vivido lo suficiente "ara haber e:"eri!entado de "ri!era !ano c/!o la tasa de ca!bio se acelera con el tie!"o) intuitiva!ente "ensa!os ue el "rogreso avanza al rit!o observado reciente!ente# +esde el "unto de vista !ate!tico) la raz/n de este fen/!eno es ue una curva e:"onencial se ve co!o una l.nea recta) si se e:a!ina s/lo "or una corta distancia# 'o!o resultado) incluso los co!entaristas es"ecializados) "ensando en el futuro) "or lo general el uso de la actual tasa de ca!bio en la e:tra"olaci/n de la evoluci/n de diez o cien a%os# Es "or eso ue he descrito esta for!a de !irar al futuro ya ue la inter"retaci/n de =lineal a la intuici/n#= -ero una inter"retaci/n seria de la historia de la tecnolog.a !uestra ue el "rogreso tecnol/gico es e:"onencial# El creci!iento e:"onencial es caracter.stico de todo "roceso evolutivo) de las cuales la tecnolog.a es un e8e!"lo "ri!ario# 'o!o !uestro en el libro) esto es lo ue ha ocurrido con el desarrollo biol/gico# Incluso "ode!os decir ue el desarrollo tecnol/gico ha surgido de desarrollo biol/gico# (e e:a!inan los datos dis"onibles de diferentes !aneras) en diferentes escalas de tie!"o y con una a!"lia ga!a de tecnolog.as) desde la electr/nica a la biolog.a) as. co!o sus consecuencias) ue van desde la cantidad total de los conoci!ientos acu!ulados "or la hu!anidad) el ta!a%o de la O econo!.a# El resultado es sie!"re el !is!o: un rit!o de "rogreso no es lineal) sino e:"onencial# Incluyo !s de cuarenta cartas en el libro) "rocedentes de una a!"lia ga!a de industrias) lo ue ilustra la naturaleza e:"onencial del "rogreso) !edido en t1r!inos de infor!aci/n# En cuanto a las herra!ientas de clculo de la relaci/n "recio-rendi!iento) tenga en cuenta ue se inicia hace !s de un siglo) !ucho antes del naci!iento de Hordon Moore# $ero ha( muchas predicciones del futuro% hecho en el pasado% !ue ahora parecen rid)culos# (.) "odr.a!os citar a !uchos a sostener ue no "ode!os hacer "redicciones fiables# En general) sin e!bargo) estas "revisiones no se estableci/ una !etodolog.a basada en una s/lida teor.a del desarrollo tecnol/gico# 0 digo esto s/lo ahora) en retros"ectiva) ya ue son !s de veinte a%os ue hago "redicciones) entonces result/ ser correcta) sobre la base de estos !odelos# $ero cmo podemos predecir con fia*ilidad la evolucin de estas tecnolog)as si no podemos si!uiera predecir el resultado de un :nico pro(ecto# "redecir u1 e!"resa o "roducto ue va a tener 1:ito es) de hecho) e:tre!ada!ente dif.cil) si no i!"osible# 2a !is!a dificultad se "resenta al tratar de "redecir u1 dise%o o estndar internacional "revalecern M"ara una nueva tecnolog.a - *ota del traductorN# -or e8e!"lo) u1 va a "asar en los "r/:i!os a%os con los "rotocolos inal!bricos JiMAP) '+MA y <H? (in e!bargo) co!o e:"lico en el libro a!"lia!ente) la evaluaci/n de la eficacia global de la tecnolog.a de la infor!aci/n &!edido de diferentes !aneras, ve!os las tendencias e:"onenciales sor"rendente!ente "recisa y "redecible# 0 co!o he dicho antes) la co!"utadora) un d.a) en la base de todo# $ero% cmo es esto posi*le# Hay e8e!"los en otros ca!"os de la ciencia) resultados de !uy regular y "or lo tanto "redecible ue resultan de la interacci/n de nu!erosos e i!"revisibles aconteci!ientos# -or e8e!"lo) es i!"osible "redecir la ruta de acceso de una sola !ol1cula en un gas) "ero es "osible "redecir con e:actitud las "ro"iedades del gas & ue se co!"one de nu!erosas !ol1culas ue interact;an ca/tica!ente, conocer las leyes de la ter!odin!ica# +el !is!o !odo) no es "osible "redecir con certeza los resultados de un "royecto es"ec.fico o el 1:ito de una e!"resa en "articular) "ero las "osibilidades generales de la infor!tica &co!"uesta de !uchas actividades ca/ticas, se "uede "redecir con e:actitud suficiente con lo ue yo he lla!ado =la ley de r"ida!ente los dividendos# = +u& impacto tendr n estos desarrollos# 2a e:tensi/n radical de la vida) "ara e!"ezar# interesante% pero cmo# En el libro) hablar de tres grandes revoluciones ue se entrelazan) cuya sigla es =H*I=) es decir) la gen1tica) la nanotecnolog.a y la Iob/tica# 'ada uno de estos ser) entre otras cosas) en un au!ento sustancial de la longevidad hu!ana# Hoy en d.a) esta!os en las "ri!eras eta"as de la revoluci/n de la gen1tica o la biotecnolog.a# 2a biotecnolog.a es la "roducci/n de las herra!ientas necesarias "ara ca!biar nuestros genes: no s/lo los =beb1s de dise%o=) sino ta!bi1n =baby-boo!ers de dise%o#= Ta!bi1n "odre!os re8uvenecer los /rganos y te8idos transfor!ando nuestras c1lulas de la "iel en su versi/n 8uvenil# 0a esta!os traba8ando en nuevos !edica!entos

dirigidos con "recisi/n a los eventos claves es"ec.ficas en el "roceso ue conduce a la aterosclerosis &debido a enfer!edades del coraz/n,) la for!aci/n de tu!ores y "rocesos !etab/licos res"onsables de las "rinci"ales enfer!edades y el "roceso de enve8eci!iento# 2a revoluci/n de la biotecnolog.a est en su infancia y llegar a su !:i!o en la segunda d1cada de este siglo# A continuaci/n) "ode!os derrotar a la !ayor.a de las enfer!edades y sustancial!ente !s lento el "roceso de enve8eci!iento# Esto nos lleva a la revoluci/n de la nanotecnolog.a) ue vencer en la d1cada entre 3535 y 35<5# 'on la nanotecnolog.a va!os a su"erar los l.!ites biol/gicos y ree!"lazar la versi/n actual del =cuer"o hu!ano 4#5= con la versi/n 3#5) ue ser es"ectacular!ente !e8or y ofrecer) entre otras cosas) la e:tensi/n de la vida radical# Cmo va esta ampliacin de la vida# 2a =a"licaci/n= de la nanotecnolog.a son los =nanobots= o nanobots# Es robot del ta!a%o de una c1lula ue "uede !overse libre!ente en los "at/genos distruggento torrente sangu.neo) la eli!inaci/n de "roductos de desecho) la correcci/n de las !utaciones del A+* y verter el "roceso de enve8eci!iento# 7ersin M1/ del cuerpo humano#F *os ya ver los "ri!eros intentos de au!entar y ree!"lazar nuestros /rganos Esto se a"lica incluso "artes del cerebro) cuyo lugar es to!ado "or los i!"lantes neuronales# 2as ;lti!as versiones de estos siste!as "er!iten a los "acientes "ara descargar el softLare desde el e:terior# En el libro) describo c/!o cada uno de nuestros /rganos se "uede sustituir un d.a# -or e8e!"lo) los nanobots "odr.an entrar directa!ente en la sangre todos los nutrientes) hor!onas y otras sustancias ue necesita!os) al !is!o tie!"o) la eli!inaci/n de to:inas y "roductos de desecho# El tracto gastrointestinal "uede ser reservado "ara los "laceres de la cocina) en lugar de la funci/n biol/gica tedioso "ara e:traer los nutrientes de los ali!entos# +es"u1s de todo) ya tene!os algunos as"ectos se"arados agradables y la inti!idad de las relaciones se:uales de su funci/n biol/gica# D la tercera revolucin# revoluci/n rob/tica) ue real!ente deber.a lla!ar a la revoluci/n de la Inteligencia Artificial =fuerte= ue se !encion/ anterior!ente ) dar lugar a las ca"acidades de inteligencia artificial co!"arables a las del cerebro hu!ano# Tendre!os ue tanto el hardLare co!o el softLare necesario "ara recrear la inteligencia hu!ana "ara el a%o 35<5# En ese "unto "ode!os !e8orar estos !1todos utilizando la velocidad) la !e!oria y la ca"acidad de co!"artir infor!aci/n t."ica de las ! uinas# -or ;lti!o) "ode!os e:"lorar todos los detalles "rinci"ales de nuestro cerebro desde el interior) con !iles de !illones de nanobots en los ca"ilares) y ta!bi1n "ode!os crear co"ias de seguridad de la infor!aci/n recogida# 2uego) utilizando las t1cnicas de "roducci/n basados en la nanotecnolog.a) "ode!os recrear nuestro cerebro) o !e8or a;n) se debe instalar sobre un sustrato co!"utacional !s eficaz# Lo !ue significa 111# *uestros cerebros biol/gicos usan se%ales u.!icas ue le "er!iten trans!itir infor!aci/n a una velocidad de tan s/lo algunas decenas de !etros "or segundo# 2a electr/nica ya es !illones de veces !s r"ido# En el libro e:"lico c/!o los circuitos hechos de nanotubos ser.an unos cien !illones de veces !s "otente ue un cerebro hu!ano) en un volu!en de alrededor de 3)7 cent.!etros c;bicos#$a!os a tener siste!as !s "oderosos de nuestras sina"sis !uy lentos) en los ue la instalaci/n de nuestra inteligencia# As) reempla"ar nuestros cere*ros *iolgicos con los circuitos# 'reo ue va!os a e!"ezar con el uso de nanobots en el cuer"o y el cerebro# 2os nanobots nos !antendrn en buen estado de salud) ofrecer la realidad virtual indistinguibles de la realidad) ya ue est directa!ente conectado con el siste!a nervioso ue "er!itir la co!unicaci/n directa de un cerebro a trav1s de Internet y) en general) har ue unOincre!ento sustancial de la inteligencia hu!ana# -ero tenga en cuenta ue la inteligencia no biol/gica est du"licando su ca"acidad cada a%o) !ientras ue nuestra inteligencia biol/gica) en esencia) no ca!bia# En los a%os <5 &35<5,) la no biol/gica de nuestra inteligencia "redo!inar# Si he entendido *ien% sin em*argo% la tecnolog)a de la prolongacin de la vida !ue nos ocupa es la *iotecnolog)a% no# Qsica!ente) usted tiene raz/n) aun ue hay sin duda la su"er"osici/n de tres revoluciones de los ue habl1 &gen1tica) nanotecnolog.a y rob/tica,# $odr)a e-plicar me8or cmo funcionan la *iotecnolog)a ( la ingenier)a gen&tica# Esta!os descubriendo el "roble!a de funciona!iento de =e ui"o= de los siste!as biol/gicos y esta!os creando las herra!ientas ue necesita "ara co!"rar do!inio en la derrota de la enfer!edad y el enve8eci!iento e incre!entar el "otencial hu!ano# 2a !e8or !anera ue creo ue es el so"orte bsico de toda la infor!aci/n biol/gica: el geno!a# Hracias a las tecnolog.as

gen1ticas) va!os a entrar en la sala de control de los genes#Ahora tene!os una nueva y eficaz herra!ienta lla!ada interferencia de AI* &I*Ai,) ue es ca"az de =a"agar= genes es"ec.ficos !ediante el blo ueo de la acci/n del AI* !ensa8ero "roducido "or ellos) evitando as. la generaci/n de "rote.nas# +ado ue las enfer!edades virales) cncer y !uchas otras enfer!edades !ediante la e:"resi/n de genes en los !o!entos cruciales de su ciclo de vida) la interferencia de AI* "ro!ete ser una innovaci/n revolucionaria# @n gen ue se uiere =a"agar= es el =gen del rece"tor de la insulina de grasa= ue le dice a las c1lulas de grasa "ara al!acenar todas las calor.as# 'uando el gen se blo uea en los ratones de laboratorio) los ratones eran delgados y saludables) !ientras ue co!er lo ue uer.an e incluso vivieron !s tie!"o &35Z,# Ore ta!bi1n co!enzando a buscar nuevas for!as de agregar genes al geno!a# Ahora han "asado los "roble!as iniciales debido a la dificultad de la inserci/n de nueva infor!aci/n gen1tica e:acta!ente donde usted uiere# @na e!"resa con la ue traba81) @nited Thera"eutics) se hizo cargo de la hi"ertensi/n "ul!onar) en ani!ales de laboratorio) el uso de una nueva for!a de tera"ia g1nica) ue luego fue a"robado "ara ensayos en seres hu!anos# As) !ue podemos reprogramar nuestro AB21 Eso es cierto) "ero es s/lo una de las cosas ue hare!os# ?tra estrategia i!"ortante es regenerar nuestras c1lulas) nuestros te8idos e incluso nuestros cuer"os con el fin de introducirlos en el cuer"o sin necesidad de cirug.a# @na venta8a i!"ortante de esta t1cnica de la =clonaci/n tera"1utica= es ue "ode!os generar nuevos te8idos y /rganos de las versiones anteriores de las c1lulas ue se han re8uvenecido - ue ser una breve intervenci/n de re8uveneci!iento# -or e8e!"lo) "ode!os generar nuevas c1lulas del coraz/n de c1lulas de la "iel e introducirlos a trav1s de la corriente sangu.nea# 'on el tie!"o) las c1lulas del coraz/n sern ree!"lazados "or estas nuevas c1lulas y el resultado es un coraz/n =8oven= con nuestro A+* El descubri!iento de nuevos !edica!entos) una vez se basa en averiguar u1 sustancias "odr.an "roducir un efecto beneficioso sin efectos secundarios e:cesivos# Este "roceso fue si!ilar a la utilizada "or ho!bres de las cavernas "ara descubrir herra!ientas# En la "rctica s/lo "od.an encontrar rocas o ra!as ue "odr.an ser utilizados "ara un fin deter!inado# Hoy) sin e!bargo) esta!os descubriendo los !ecanis!os bio u.!icos "recisos ue subyacen tanto en el "roceso de enve8eci!iento y las enfer!edades ue "ode!os dise%ar fr!acos ca"aces de realizar =!isiones= "recisas en el nivel !olecular# El alcance y las "ers"ectivas de estas innovaciones son enor!es# -ero el refina!iento de nuestra biolog.a no sern suficientes# @na vez obtenida una "rofunda co!"rensi/n de la biolog.a) ya no "od.a co!"etir con lo ue va!os a ser ca"aces de ingeniero# significa !ue el ,dise0o, de la naturale"a no son ptimos# E:acta!ente# *uestras cone:iones neuronales "rocesan alrededor de 355 transacciones "or segundo) es decir) ue tengan al !enos un !ill/n de veces !s lento ue el de la electr/nica# ?tro e8e!"lo: un nanotecnolog.a te/rico) Iob Dreitas tiene un dise%o conce"tual "ara la construcci/n de nanorob/tico alternativa a las c1lulas ro8as de la sangre# @na esti!aci/n conservadora indica ue la sustituci/n de un 45 "or ciento de las c1lulas ro8as de la sangre con Dreitas =res"irocitos= "uede "er!anecer ba8o el agua durante cuatro horas sin res"irar# $ero si la muerte ser slo una opcin% no vamos a ser condenados a la superpo*lacin# @na t."ica error cuando se tiene en cuenta el futuro) es de "rever un ca!bio i!"ortante) co!o la e:tensi/n radical de la es"eranza de vida) "ensando ue todo lo de!s se !antiene igual# 2a H*I revoluciones ta!bi1n causar otros "rofundos ca!bios ue tendrn un i!"acto en el te!a de la su"er"oblaci/n# -or e8e!"lo) la nanotecnolog.a nos "er!itir crear "rctica!ente cual uier "roducto ue va!os a necesitar la infor!aci/n y el uso de !aterias "ri!as !uy baratas# Esto conducir a un nivel revolucionario de la ri ueza generalizada# $a!os a tener los !edios "ara satisfacer las necesidades !ateriales de una "oblaci/n de hu!anos i!aginables biol/gica# 2a nanotecnolog.a nos "er!itir ta!bi1n a corregir el da%o a!biental causado "or las fases anteriores de la industrializaci/n# As) !ue 111 sconfiggermo enfermedades% la contaminacin ( la po*re"a -1 parece una utop)a ue es cierto ue los enor!es avances tecnol/gicos en los "r/:i!os veinte Oa%os de civilizaci/n hu!ana "ro"orcionar los !edios necesarios "ara su"erar los "roble!as ue he!os enfrentado durante siglos# (in e!bargo) estos avances no de8an de tener sus "eligros# 2a tecnolog.a es un ar!a de doble filo - s/lo tiene ue buscar en el siglo PP "ara ver las "ro!esas y "eligros de la tecnolog.a# Cu les son los peligros# gen1tica) nanotecnolog.a y rob/tica tienen todos los

as"ectos "otencial!ente negativos# El riesgo de un =e:istencial= Mel riesgo de ue "ueda "oner en duda la e:istencia !is!a de nuestra civilizaci/n - edN de la tecnolog.a gen1tica ya est con nosotros) la !is!a tecnolog.a ue "ronto dar "asos i!"ortantes contra el cncer) las enfer!edades cardiovasculares y otras enfer!edades ) ta!bi1n "odr.a ser e!"leado "or un bioterrorista "ara crear un virus de ingenier.a ue co!bina la facilidad de trans!isi/n) la letalidad y la ca"acidad de "asar desa"ercibido) es decir) un largo "er.odo de incubaci/n#2as herra!ientas y los conoci!ientos necesarios son herra!ientas y conoci!ientos !ucho !s co!unes ue se necesitan "ara construir una bo!ba at/!ica y el efecto "odr.a ser !ucho !s devastador# 4ntonces tal ve" de*er)amos de8ar tanto tiempo como podamos1 It Os de!asiado tarde "ara detenerlo# -ero la idea de abandonar las nuevas tecnolog.as) co!o la biotecnolog.a y la nanotecnolog.a) ya con el a"oyo de algunos# En el libro digo ue esta ser.a una estrategia e uivocada# Ade!s de "rivar a la sociedad de los "rofundos beneficios de estas tecnolog.as) esta estrategia "odr.a e:acerbar los "eligros) ya ue los investigadores "resionan "ara actuar ilegal!ente) una situaci/n en la ue los cient.ficos res"onsables no tienen fcil acceso a las herra!ientas necesarias "ara defendernos# Cmo podemos protegernos a nosotros mismos% entonces# discuto estrategias "ara "roteger del abuso o accidentes relacionados con estas tecnolog.as de gran alcance en el 'a".tulo Y# El !ensa8e es ue tene!os ue dar "rioridad a la "re"araci/n de las estrategias y los siste!as de "rotecci/n# Tene!os ue ca!biar el 1nfasis de la "rotecci/n# Testifi u1 ante el 'ongreso acerca de la "ro"uesta de "royecto "ara la creaci/n de un siste!a de res"uesta r"ida "ara la "rotecci/n civil frente a los nuevos agentes) virulentas) contagiosas# (e trata de un -royecto Manhattan de estilo del "royecto# @na estrategia ser.a el uso de AI*i) ue se ha de!ostrado co!o eficaz contra enfer!edades virales# 2a idea ser.a crear un siste!a ca"az de analizar r"ida!ente un nuevo virus) el desarrollo de una intervenci/n de la interferencia de AI* y la !is!a ra"idez co!inciarne "roducci/n# Tene!os los conoci!ientos necesarios "ara crear un siste!a si!ilar) "ero no lo hici!os# +ebe!os tener algo en la o"eraci/n antes de ue sea de!asiado tarde# +es"u1s) sin e!bargo) la nanotecnolog.a va a "ro"orcionar una defensa total!ente eficaz contra los virus biol/gicos# $ero e-iste el peligro de la auto-replicacin% con la nanotecnolog)a# (.) "ero es de un "eligro "otencial ue no se !anifestar durante un "ar de d1cadas#2a a!enaza a nuestra e:istencia "or los virus biol/gicos de ingenier.a) sin e!bargo) est "resente#*ien% pero cmo podemos defendernos de una nanotecnolog)a de auto-replicante# 0a hay "ro"uestas de nor!as 1ticas de la nanotecnolog.a basada en conferencia de Asilo!ar y ue hasta el !o!ento han buenos resultados en el ca!"o de la biotecnolog.a# Estas nor!as sern eficaces contra los riesgos involuntarios# -or e8e!"lo) no es necesario tener la ca"acidad de la nanotecnolog.a de auto-re"licantes de los siste!as de "roducci/n# D en cuanto al uso inde*ido intencional% como en el caso del terrorismo# Tendre!os ue crear un siste!a in!unol/gico nanotecnolog.a - nanobots =bueno= "ara "rotegernos de los =!alos=# ,Mash a"ules, para defendernos de la ,plaga gris,F M=grey goo= o "laga gris: escenario a"ocal."tico en el ue uno !is!o-re"liegue nano! uinas esca"/ de control y ca"az de ali!entarse de cual uier sustancia) se !ulti"lican sin cesar la transfor!aci/n toda la biosfera en una !asa indistinta de otra nano! uinas auto-re"licante) es decir) en una enor!e "laga gris# =Qlue goo= en Ingl1s) el color azul recuerda a los unifor!es de la "olic.a) "or lo ue "odr.a traducir la e:"resi/n de RurzLeil co!o ="olic.a anti-goo= - edN (.) es una buena descri"ci/n# 0 el siste!a in!une nanotecnolog.a nano robot debe ser auto-re"licante s. !is!os# He hablado de ello con una serie de otros te/ricos en el libro y e:"lico "or u1 creo ue esto va a ser necesario# E O) en la "rctica) el !is!o enfo ue ado"tado "or la evoluci/n biol/gica# Eventual!ente) Queno) no "od.a ser otro ue una IA a;n !s inteligente nada# 4sto empie"a a recordarme esa historia del universo !ue ser)a en la parte posterior de una tortuga% lo !ue ser)a en la parte posterior de la otra tortuga% ( as) ad infinitum1 D !u& vamos a hacer si esto era hostil AI m s inteligente# Ntro Ai a:n m s inteligente# 2a historia nos ense%a ue las civilizaciones !s inteligentes - es decir) a uellos ue tienen la tecnolog.a !s avanzada - "revalecen# -ero he desarrollado una "ol.tica integral "ara co!"arar un hostil AI) y discutir en el ca".tulo Y# *ien% as) !ue vo( a leer mi li*ro para entender lo !ue !uieres decirF $ero ha( l)mites al crecimiento

e-ponencial# Conoces la historia de los cone8os en Australia - han seguido creciendo e-ponencialmente para siempre 111 Hay l.!ites al creci!iento e:"onencial inherente a cada "aradig!a# Tenga en cuenta) sin e!bargo) ue la ley de Moore) "or e8e!"lo) no fue el "ri!er "aradig!a ue "rovoc/ el creci!iento e:"onencial de la co!"utaci/n) "ero el uinto# En los a%os 75) "ara !antener el creci!iento e:"onencial) se !iniaturizaci/n vlvulas electr/nicas) !ientras ue el "aradig!a no "od.a ir !s all# (in e!bargo) el creci!iento e:"onencial de la co!"utaci/n no se detuvo) sigui/ adelante con un nuevo "aradig!a) el del transistor# 'ada vez ue ve!os el "rinci"io del fin de un "aradig!a) el enfo ue genera la !otivaci/n necesaria "ara la investigaci/n y el desarrollo ue resultan en el naci!iento de la "r/:i!a "aradig!a# 0 =lo ue est sucediendo con la 2ey de Moore) a "esar de ue tendr unos uince a%os antes de alcanzar el l.!ite !:i!o de nuestra ca"acidad de !iniaturizaci/n# Esta!os haciendo un "rogreso es"ectacular en la direcci/n del se:to "aradig!a) el de la co!"utaci/n !olecular tridi!ensional# $ero ha( un l)mite a*soluto a nuestra capacidad de ampliar la potencia de c lculo# (.) hablo de estos l.!ites en el libro# El ordenador !s "otente i!aginable) en la categor.a de "eso de un Gilogra!o) "odr.a ofrecer 45 ^ 93 c"s# (er.a) "or lo tanto) cerca de 45 ^ 4T veces !s "oderoso ue todos los cerebros hu!anos ue e:isten hoy en su con8unto# 0 si nos li!ita!os s/lo el e ui"o funcione a la te!"eratura a!biente# -er!itir ue se sobrecaliente) se "uede au!entar la "otencia en un factor de otros 455 !illones de d/lares# 0) "or su"uesto) va!os a dedicar !s de un Gilogra!o de !ateria en los clculos: va!os a dedicar a ello una "arte significativa de la !ateria y la energ.a en nuestra vecindad# As. ue) s.) hay l.!ites) "ero no se li!itan !ucho ### D cuando saturados de la capacidad de la materia ( la energ)a en el sistema solar para apo(ar los procesos inteligentes% !u& va a pasar entonces# Habr e:"andirse al resto del universo# adivinar para esto va a tomar mucho tiempo1 Queno) de"ende# (i "ode!os usar el agu8ero de gusano) o bien) si "ode!os aggirerare el "roble!a de la velocidad de la luz) entonces "ode!os llegar a otras zonas del universo# (i el agu8ero de gusano resultar viable) y lo de!uestra el anlisis ue no contradicen la teor.a de la relatividad) "odr.a!os saturar el universo con nuestra inteligencia) en cuesti/n de un "ar de siglos# Me ocu"o de estas "ers"ectivas en el ca".tulo T# -ero !s all de las es"eculaciones sobre el agu8ero de gusano) va!os a llegar a los l.!ites co!"utacionales de nuestro siste!a solar en este siglo# En ese "unto) habre!os incre!entado nuestra inteligencia billones y billones de veces# 7olviendo a la e-tensin de la vida% es natural de enve8ecer ( morir# !alaria) el virus >bola) la a"endicitis y los tsuna!is son naturales ta!bi1n# Hay !uchas cosas naturales ue valdr.a la "ena ca!biar# El enve8eci!iento "uede ser =natural=) "ero no veo nada "ositivo en la "1rdida de !i agilidad !ental) la agudeza de los sentidos) la agilidad f.sica) el deseo se:ual) o cual uier otra caracter.stica# (eg;n yo) la !uerte es una tragedia # Es una tre!enda "1rdida de "ersonalidad) habilidades) conoci!ientos y relaciones# He!os racionalizado la !uerte co!o algo ace"table "or ue no ten.a!os otra o"ci/n# (in e!bargo) la enfer!edad) el enve8eci!iento y la !uerte son los "roble!as ue ahora so!os ca"aces de su"erar# 4spera un minuto12o di8iste !ue la era de oro de la *iotecnolog)a no llegar hasta dentro de die" a0os# Ao( en d)a% la e-tensin radical de la vida no e-iste% no# En !i libro anterior) =$ia8e Dantstico) vivir lo suficiente "ara vivir "ara sie!"re=) ue en coautor.a con Terry Hross!an) describa en detalle "resonalizzabile un "rogra!a ue "uede ser i!"le!entado en la actualidad &lo ue lla!ar el ="uente= n;!ero uno,# Esto "er!itir.a a la !ayor.a de la "oblaci/n a vivir el tie!"o suficiente "ara llegar a la eta"a de !adurez del desarrollo de la biotecnolog.a &el ="uente= n;!ero dos,# Qiotecnolog.a) ue a su vez nos lleva a el ="uente= n;!ero tres) la nanotecnolog.a y la inteligencia artificial fuerte) ue ser ca"az de vivir de for!a indefinida# 4st *ien% pero no va a ser a*urrido para vivir cientos ( cientos de a0os# (i la hu!anos vivieron cientos de a%os) en ausencia de otros ca!bios) aseg;rese de ue el resultado ser.a un "rofundo !alestar# -ero los !is!os nanobots en nuestro siste!a circulatorio ue nos !antendrn en buen estado de salud !ediante la destrucci/n de los agentes "at/genos y detener el "roceso de enve8eci!iento) au!entan significativa!ente nuestra inteligencia y nuestra ga!a de e:"eriencias# 'o!o es natural) la inteligencia no biol/gica de nuestra a!"liar sus habilidades de !anera e:"onencial y) final!ente) "redo!inan# El resultado ser una situaci/n de ca!bios r"idos -# *o creo ue se aburren La singularidad podr)a dar lugar a una ,*recha digital, e-tremo% de*ido

a la e-tensin de la vida radical ine!uo acceso a las computadoras ( superinteligentes# 'onsidere!os una caracter.stica i!"ortante de la ley de los retornos acelerados: i!"lica una tasa anual de la deflaci/n del 75Z "ara ciencias de la co!"utaci/n) una tasa) a su vez) destinto "ara acelerar# 2as nuevas tecnolog.as son sie!"re y s/lo est dis"onible "ara los ricos) en un "rinci"io) "ero en esa eta"a inicial) de hecho) todav.a no funcionan !uy bien# En la siguiente eta"a) todav.a son caros y funcionan un "oco !e8or# 2uego traba8an bastante bien y son de ba8o costo# Al final) son casi gratis# 2os tel1fonos !/viles son ahora en la eta"a en ue son baratos# Hay "a.ses asiticos) donde la !ayor.a de la "oblaci/n traba8aba la tierra todav.a hace s/lo uince a%os) "ero hoy tienen econo!.as "r/s"eras terciaria y la !ayor.a de la gente tiene un tel1fono celular# Hoy en d.a) esta "rogresi/n de tecnolog.as costosas ue no funcionan bien en las tecnolog.as de refino y de ba8o costo) tiene unos diez a%os# -ero incluso este "roceso es "robable ue se acelere#En diez a%os) todo el "roceso to!ar entre cinco y veinte a%os ue to!ar s/lo dos o tres# Este escenario es a"licable no s/lo a los dis"ositivos electr/nicos) sino a cual uier "roducto tiene ue ver con el e ui"o y esto llegar a incluir todo lo ue valora!os) incluyendo todos los "roductos industriales#En biolog.a) se ha "asado de un costo de diez d/lares "ara la =lectura= de un solo "ar de bases del A+* en 4XX5) alrededor de un cent1si!o de d/lar en la actualidad# 2os !edica!entos antivirales utilizados contra el (I+A cuestan decenas de !iles de d/lares "or "aciente al a%o) al co!ienzo) y no eran "articular!ente eficaces) "ero ahora cuestan alrededor de cien d/lares "or "aciente y a%o en los "a.ses "obres) y son eficaces# 'ien d/lares es todav.a !s de lo ue uisi1ra!os) "ero la tecnolog.a se van clara!ente en la direcci/n giusta#'os_) la =brecha digital= y la brecha entre "a.ses ricos y "obres se estn reduciendo# Al final) todo el !undo tendr a su dis"osici/n una enor!e ri ueza# pro*lemas% como las guerras% la intolerancia% la degradacin del medio am*iente 111 no nos impide llegar a la singularidad#He!os tenido !uchas guerras en el siglo PP# 'incuenta !illones de "ersonas !urieron s/lo en la (egunda Huerra Mundial# Ta!bi1n tuvi!os un !ont/n de intolerancia) "oca de!ocracia relativa!ente hasta ue a finales de siglo) y un !ont/n de degradaci/n del !edio a!biente# Todos estos "roble!as no tuvieron efecto sobre la ley de los retornos acelerados# El creci!iento e:"onencial de la tecnolog.a de la infor!aci/n ha llevado a cabo sin "roble!as) tanto en tie!"os de guerra y "az) durante las de"resiones econ/!icas y en los "er.odos de "ros"eridad# tecnolog.as ue surgirn en el siglo PPI tienden a ser descentralizados y tener un i!"acto a!biental relativa# 'uando la nanotecnolog.a !adura) ta!bi1n) "ode!os re"arar el da%o causado al !edio a!biente de tecnolog.as "ri!as utilizadas en el co!ienzo del "roceso de industrializaci/n# $ero no ha*r o*8eciones de los l)deres pol)ticos ( religiosos% por no mencionar los de la gente com:n% como transformacin radical de la humanidad# Incluso la introducci/n del arado sin duda ha atra.do a las ob8eciones) "ero no han i!"edido la ado"ci/n#2o !is!o se a"lica a cada nuevo desarrollo tecnol/gico# 2as tecnolog.as deben de!ostrar su val.a# -ara cada tecnolog.a se ado"ta) !uchos se descartan# 'ada tecnolog.a tiene ue de!ostrar ue cu!"len con las necesidades de sus usuarios# El tel1fono !/vil) "or e8e!"lo) satisface nuestra necesidad de co!unicar# 2lega!os a la singularidad en una sola) enor!e salto hacia adelante) "ero a trav1s de !uchos "e ue%os "asos) cada uno la ca"acidad a"arente!ente benigno y ba8a# $ero !u& pasa con la controversia so*re las c&lulas madre% por e8emplo# 4l go*ierno de la oposicin es% sin duda m s lento el progreso en ese campo1 Estoy a favor de la investigaci/n en el ca!"o de las c1lulas !adre) "ero no creo ue la industria ha sufrido una desaceleraci/n significativa# En todo caso) la "ol1!ica ha alentado la b;s ueda de for!as creativas "ara lograr lo ue es ideal en este ca!"o) la transdiferenciaci/n) es decir) la creaci/n de nuevas c1lulas diferenciadas directa!ente de nuestras "ro"ias c1lulas - "or e8e!"lo) !ediante la conversi/n de las c1lulas de la "iel las c1lulas card.acas o en las c1lulas del "ncreas# 2a transdiferenciaci/n ya se ha de!ostrado en el laboratorio# 2as ob8eciones co!o las "lanteadas en contra de la investigaci/n con c1lulas !adre no son !s ue "iedras en un arroyo:# El flu8o de la vuelta alrededor de "rogreso Aa( lugar para Bios en la singularidad# Aun ue diferentes tradiciones religiosas tienen algo diferentes conce"ciones de conce"to de +ios) el deno!inador co!;n es ue +ios es un nivel infinito de la inteligencia) el conoci!iento) la creatividad) la belleza y el a!or# En la evoluci/n biol/gica y el siste!a tecnol/gico) ve!os un au!ento de la co!"le8idad) la inteligencia y la infor!aci/n# A continuaci/n)

el siste!a se vuelve !s co!"licado) !s her!oso) !s ca"az de sentir e!ociones co!o el a!or# -or lo tanto este siste!a crece de !anera e:"onencial en la inteligencia) el conoci!iento) la creatividad) la belleza y el a!or) todas las cualidades t."icas de +ios A "esar de la evoluci/n no es literal!ente infinito alcanza un nivel de estos atributos) sin e!bargo) se acelera hacia niveles cada vez !s altos# -or tanto) "ode!os inter"retar la evoluci/n co!o un "roceso es"iritual) orientado hacia este ideal# 2a singularidad re"resentar una e:"losi/n de estos valores altos de co!"le8idad# As) !ue podemos decir !ue est 8ugando a ser Bios# En realidad) s/lo estoy 8ugando a ser hu!ano# (/lo estoy tratando de hacer lo ue los hu!anos "ueden hacer) es decir) "ara resolver los "roble!as# $ero a:n as) ser humano despu&s de todos estos cam*ios# Eso de"ende de su definici/n de =ser hu!ano=# Algunos observadores lla!an el ser hu!ano se basa en nuestras li!itaciones# -refiero definirlo co!o la es"ecie ue intenta) a !enudo con 1:ito) "ara su"erar sus li!itaciones# Muchos observadores se%alan ue la ciencia ha dado un gol"e al de!ostrar ue no so!os tan i!"ortantes) ya ue cre.an ue las estrellas no giran alrededor de la tierra) ue no descienden de los seres divinos) "ero s/lo "or los !onos y) antes de eso) desde invertebrados si!"les# Todo esto es cierto) "ero "arece ue so!os i!"ortantes) no obstante# *uestra ca"acidad "ara generar !odelos de la realidad virtual en nuestras !entes y nuestros "ulgares "rensiles) se nos "er!ite a!"liar nuestros horizontes !s all de todos los l.!ites# La Singularidad est cerca es "ublicado "or $iGing -ress

!l fin de una odisea de !d Merta

$isiones del Duturo - (ingularity O

4XFY "ri!avera# tiene diez a%os de edad) est sentado en el sof de la sala de estar) ue acaba de regresar de la escuela# -a" todav.a est traba8ando y her!anas son a 8ugar en alguna "arte# El ni%o est viendo la televisi/n) co!o si estuviera hi"notizado# @na gran nave es"acial lleva el ca"itn y la tri"ulaci/n en una nueva aventura) en alg;n lugar) en una gran gala:ia ine:"lorada# 2os e:"loradores con tra8es azules) correr ro8o y dorado en !onstruos y luchar contra ellos) o a"render a entenderlos y ser a!igos# Eso seria y con ore8as "untiagudas da un buen conse8o "ara el ca"itn) as. co!o el !1dico) ue es un "oco e!ocional y co!o el t1cnico ue re"ara todo sie!"re 8usto a tie!"o# Estn luchando en situaciones deses"eradas y de un !odo u otro se inventan una for!a de ganar# It Os s/lo un "rogra!a de televisi/n) "or lo ue dicen) "ero son historias fascinantes# It Os "ara ue la vida debe ser# El ha!bre del ni%o "ara estas aventuras es inter!inable# 'uando 1l entra en ese !undo) al tener ue hacer la tarea y li!"iar su habitaci/n hay "roble!as !ayores#

43 de abril 4XY4 En una "laya de Dlorida) frente al !ar al a!anecer) con su "adre y sus her!anas# 'on ellos) un !ill/n de "ersonas ue buscan norte hacia 'abo 'a%averal# (e oye la cuenta regresiva en la radio# 'uatro#Tres# +os# @no# Enciende el !otor "rinci"al# +es"egue# (e oye el estruendo de los cohetes desde Gil/!etros de distancia# Entonces el ni%o ve el ascenso del cohete) i!"ulsado "or una colu!na de luz#'olu!bia# @n barco a las estrellas) de8ando una d1bil trueno# *o es una fantas.a o una historia) sino un sue%o hecho realidad# El ni%o sabe ue nunca va a olvidar este !o!ento# 0 los sue%os de un futuro entre las estrellas# 4XY7 oto%o Es tarde y ter!in1 !i tarea# (/lo debe decidir a u1 universidad "ara inscribirse# (us "rofesores dicen ue tienen ue "ensar en su futuro# -a" dice ue debe conseguir un traba8o# Ir a fre.r un "oco de ha!burguesas) dice "a") co!o yo a tu edad# >l debe a"render a asu!ir la res"onsabilidad) "ero el ni%o no "uede "ensar en todas estas cosas# To!a un libro y se sienta en la ca!a) leyendo# El libro est lleno de historias de invasores alien.genas) valientes e:"loradores y los via8es en el tie!"o# 0 entonces los !agos) doncellas y la lucha con la es"ada# Este es el !undo ue uere!os vivir# Ms tarde) cuando todo el !undo duer!e) salir de la casa) se encuentra en el "atio y ver las estrellas# Te i!aginas via8ar a ellos# El relo8 sabiendo ue es solo) con un !ont/n de "lanetas alrededor# 2ugares reales) no s/lo dos l.neas en un libro de te:to# (igue !irarlas hasta ue "arece caer hacia arriba) en la noche# 4XYY "ri!avera (entado en la biblioteca de la universidad# 2uchando con una tesis "ara el curso de la historia# It Os casi de noche) y ahora ue ha ter!inado) ya ser tarde# Ten.a la es"eranza de ir al cine con sus a!igos# ? "ara encontrar) final!ente) el cora8e de lla!ar a la chica ue conoci/ en un curso# Ahora) sin e!bargo) no es real!ente "osible# El fin de se!ana) si todo va bien# Ta!bi1n "uede ir a la biblioteca) to!e una ca!inata nocturna) 8ugar alg;n 8uego de rol con sus a!igos en la casa del estudiante# *o i!"orta u1) sie!"re y cuando no lo hacen "ensar en u1 hacer des"u1s de la graduaci/n# 2sti!a ue los resultados de sus "ruebas de a"titud indican ue no est hecho "ara las !ate!ticas) ue le gustar.a hacer el astr/no!o# En su lugar) o"t/ "or la historia# 2o encontr/ interesante leer todas esas historias de e!"eradores y "residentes) generales y al!irantes# Qatallas y revoluciones 1"icas# (in !ate!ticas) s/lo grandes historias# Ta!bi1n le gustaba a "reguntarse d/nde to!ar.a!os la historia#Toda la co!ida "ara una !ente ha!brienta &y el al!a) si hay algo "or el estilo,# Es !e8or concentrarse en el traba8o a fin# +e8a de so%ar des"ierto# 4XX5 "ri!avera Todos los de!s se han ido a una fiesta de graduaci/n) "ero no se siente co!o 1l# 'o!o si se tratara de alg;n ti"o de 1:ito) de "osgrado# JoL# 0o "articular!ente no entusias!ado# (i se ueda en el sof y tratar de "erderse en una novela de ciencia ficci/n) "ero ahora no "uede# +e!asiado cansado# >l no "uede "ensar ue el doctorado y se "reguntaba si 1l "uede hacerlo) o no# *ecesita!os otra cerveza# 0 entonces tal vez s.# 4XX< oto%o @n "ar de d.as atrs ha a"robado los e:!enes "ara el doctorado# +ebe ser un !o!ento i!"ortante) "ero no hacer nada !s ue uedarse en casa y ver la televisi/n y beber cerveza# Ma%ana deber.a ver a su tutor "ara discutir la tesis) "ero no uiero ni "ensar en ello# 4XX9 "ri!avera (entado nellOuffico TA MAsistente de +ocencia: en los Estados @nidos) ue est estudiando "ara un doctorado "uede hacer haciendo durante asistente clase algo de dinero - TraductorN) leyendo las notas de la tesis# Hay una nueva TA sentado a su lado# (e lla!a Miranda# 2e gusta cuando habla# A ella le gusta ver vie8as "el.culas de ciencia ficci/n y hablar de "ol.tica) co!o 1l# +ebe "onerse a

traba8ar con la tesis) "ero "refiere hablar con ella# -asan un "ar de veces "ara to!ar un caf1 8untos) uedarse hasta tarde en la noche hablando de +ios) u1 hubiera "asado si el (ur hubiera ganado la Huerra 'ivil A!ericana) si la historia "uede ser considerada co!o una ciencia o no# >l co!ienza a notar la for!a en ue sonr.e) la for!a en ue se dobla su cabeza cuando habla# >l se r.e !ucho cuando est con ella) ella es una "ersona es"ecial# verano 4XX9 Miranda "asa el verano en la casa de un "rofesor ue va a via8ar al e:tran8ero) !anteniendo un o8o en la casa de for!a gratuita a ca!bio de la renta# >l lo lla!a "or tel1fono y le "regunta si uiere ir a ver una "el.cula# 'laro) "or u1 no# Es abrir la "uerta) el "elo negro) "iel blanca) sonrisa# Ms tarde) en el sof) ella se sienta 8unto a 1l y sentir su !ano sobre la suya# Ella se inclina hacia 1l) "one una !ano en el cuello y los labios en su !e8illa# 2as bocas se unen) abierto# 2os cuer"os se a"i%an unos contra otros# +urante todo el verano "asa tan# Todos los d.as 8untos# Todas las noches# Mentir a su lado) en las so!bras) acariciando sus !e8illas) sus !uslos) la curva de la cadera# (entado en el "orche de atrs de la casa) beber vino) !irando las estrellas# 'laro) ella dice) un d.a nos va!os# Queno) arreglarlo) no t; y yo) "ero alguien lo har# Ese verano dur/ "ara sie!"re# 4XX9 oto%o +.as en ue en el tel1fono) discutiendo con Miranda# Estaban hablando sobre el !atri!onio) "ero luego co!enzaron a co!"ortarse de for!a e:tra%a# Eno8ado con 1l "or ninguna raz/n evidente# (ie!"re de!asiado ocu"ado "ara verlo# Hablar !enos y !enos# Dinal!ente) ella le dice ue conoci/ a un chico en una fiesta# >l la llev/ a casa en el coche y co!enz/ a besar# *o era una cosa seria) di8o) llorando# 2o siento# (in e!bargo) cuando 1l lla!a) unos d.as !s tarde) el chico ue contesta el tel1fono# Ms tarde ella lla!a y trata de e:"licar lo ue "as/) "ero s/lo logra gritar e insultar# (e cierra el tel1fono) "ero ella viene a 1l y co!ienza a girar el !obiliario) tirando cosas en las "aredes) destruyendo todo lo ue "uede#Ella trata de abrazarlo) "ero 1l la rechaza# Ella se va# Miranda se detuvo a hablar con 1l desde ese d.a#Trat/ de evitar ir a la derecha) "ara no verlo# En la "ri!avera siguiente) se traslad/# Qeb.a !ucho y trat/ de olvidar# +e invierno de 4XXX El relo8 de alar!a# It Os tie!"o "ara levantarse# +urante tres a%os) de8/ la universidad sin ter!inar su doctorado# El tutor se "uso furioso# 0 Oya ue no se oiga# Acaba con la ducha) vestido) coger el coche y ue est sentado en el trfico de la !a%ana con una !irada de zo!bies# Traba8a en el de"arta!ento de ad!isiones de la universidad# Iellena tar8etas) contestar el tel1fono) escribir cartas# El salario es "obre) "ero ue est haciendo clases nocturnas de "rogra!ador Leb# @n d.a) tal vez) tendr un sueldo decente# Hay !uchas ofertas en el !ercado "ara a uellos ue "ueden "ensar y escribir sobre el "asado# (us estudios lo han de8ado en la cabeza a los conocidos enciclo"1dico) "ero su traba8o se "odr.a hacer "or loboto!ized# 2a ! uina sigue el flu8o de trfico y ue "iensa de Miranda# 2a for!a en ue risa viendo una "el.cula# A los ue le toc/) la "ri!era noche) en el sof# 3553 verano +urante el d.a) !antiene el sitio Leb del de"arta!ento de ad!isiones# 2a tarde es en casa) viendo vie8as "el.culas de ciencia ficci/n y beber cinco o seis cervezas# +e los !edios de co!unicaci/n# A veces) una docena# +e hecho) se debe dar una regla# >l tiene <9 a%os# A !enudo "iensa Miranda# 0a han "asado ocho a%os# A;n recuerda su cara a la suya) recuerda ue le di8o: *o !e de8es nunca# -or u1 se ha ido) entonces? Iecuerde ue cuando era "e ue%o y 1l i!agin/ grandes aventuras# E:"loraci/n de los "lanetas distantes) luchar contra los chicos !alos) descubrir la

civilizaci/n oculta en una cadena de !onta%as distantes# 2uego) en la universidad) se convirti/ en un "oco !s realista# -ens/ ue tal vez "odr.a traba8ar en los servicios sociales) tal vez to!ando "arte en una gran cruzada "or la 8usticia social cuando el "r/:i!o "residente Rennedy hab.a llegado# Ahora) sin e!bargo) bebe cerveza delante de la televisi/n# Tal vez el "r/:i!o a%o va a ser una televisi/n de alta definici/n# (ie!"re hay nuevos 8uguetes "ara !antenernos ocu"ados# 3549 de invierno E Ose convirti/ en el director ad8unto del +e"arta!ento de Ad!isiones# -asa sus d.as en las reuniones o conferencias) tanto en la realidad virtual# 2a "aga es buena# El traba8o es aburrido) ue "odr.a hacer con los o8os cerrados# Iegular!ente to!a sus "astillas "ara la !odulaci/n del estado de ni!o y el rendi!iento !ental) lo ue ayuda# Todo ocurre de vez en cuando al !1dico cuando se sienten los efectos secundarios de la !edicaci/n# *useas) dolor de cabeza) ansiedad# El !1dico le receta un !edica!ento "ara su"ri!ir los efectos secundarios) en es"era de la "r/:i!a generaci/n de ".ldoras) con la es"eranza de ue le dar !enos "roble!as# @n d.a) la e!"resa far!ac1utica azzeccheranno y va!os a entrar en un nuevo !undo valiente# (on las cinco !enos cuarto de la tarde del viernes# >l est "ensando ue debe lla!ar a la chica conocida en Internet hace unos d.as) durante una de sus fugas en el !undo cibern1tico# ?) "uede lla!ar a sus her!anas) a ver si hay noticias# (us nietos sie!"re dicen ue van a venir a buscarlo) "ero) entre una historia y la otra) no son nunca# (i no fuera "or la soledad !edicinal lo llevar.a a la locura hace a%os# 354Y) invierno Hoy en d.a es de cincuenta a%os# Hasta hace "oco tie!"o) "ens/ ue "odr.a retirarse alrededor de 77) "ero luego co!"r/ una universidad !ultinacional y todos los "a uetes de beneficios fueron cortadas# El fondo de "ensiones de edad) ha sido sustituido "or un siste!a basado en incentivos# -roduce tanto al a%o ya ca!bio recibir acciones de la e!"resa# El salario de"ende de la "roductividad# *o sueldo !ensual garantizado !s) sino un siste!a en el ue se "aguen en relaci/n con cada "royecto en el ue est traba8ando# It Os co!o estar en una ca!inadora# *i si uiera los !edica!entos !s avanzados "ara el rendi!iento !ental "uede hacer ue seguir el rit!o# -robable!ente tendr ue conseguir un i!"lante neural# (e necesitar un cr1dito de cien a%os) "ero es la ;nica !anera de no "erder su traba8o# 3539) oto%o @no de sus nietos vinieron a visitar el otro d.a# -royectar la i!agen de la "antalla de su a"arta!ento y se detuvo durante a"ro:i!ada!ente una hora# 2a conversaci/n fue dif.cil# Ella traba8a en !arGeting "ara una e!"resa !ultinacional ue ha co!"rado la universidad# Hablar con ella es co!o hablar con un e:tran8ero# Tiene uno de esos cerebros re-dise%ados) a trav1s de las neuronas artificiales y !oduladores endocrinos# Ella lo !ira con una e:"resi/n acristalada y al !is!o tie!"o sor"rendido) escuchando a !edida ue escucha a un ni%o# -robable!ente va a tener una docena de otros hilos y descarga) !ientras ue hablar con 1l) "or ue su cerebro est conectado directa!ente a Internet y cable# 2e dec.a ue se alegraba de ue la carrera de su t.o hab.a !e8orado en los ;lti!os a%os y ue fue so!etido a los trata!ientos necesarios "ara !antener el rit!o# @sted real!ente debe tratar los !oduladores neurales actitudinales# @sted "uede obtener de for!a gratuita "or el "ersonal# (e ca!bia la for!a de ver el !undo# Es todo tan v.vido# *ada "uede hacerte da%o !s de lo ue una vez fue# 0 luego estn los anti-enve8eci!iento) t.o# @sted debe conseguir uno de esos) ahora ue tienes un buen sueldo# 0a no es obligatorio estar cansado y lleno de arrugas a una edad deter!inada# *o) gracias) !e res"ondieron#-refiero ser uno de esos a la antigua) ue se niegan a ace"tar el avance del "rogreso# 353X) "ri!avera Traba8e desde casa# @n "ar de a%os atrs renunci/ y ace"t/ un !odulador de actitud# 0 ta!bi1n un fortaleci!iento neuronales co!"letos) gracias a un generoso "r1sta!o del banco# Hoy en d.a) cuando tiene ue interactuar con la e!"resa "ara la ue traba8a) el 8usto conectar su cerebro directa!ente a un entorno virtual# 'olaborar en l.nea con la Inteligencia Artificial &AI, de la

e!"resa) ayudando en la creaci/n de softLare educativo ue luego se vende a organizaciones de caridad# Estos) a su vez) lo distribuyen a ba8o costo "ara los "obres# 2os ue no tienen la educaci/n y sin e:"eriencia laboral) no "ueden "er!itirse los trata!ientos "ara la o"ti!izaci/n del rendi!iento !ental o !odificaci/n necesaria "ara acceder a la infor!aci/n directa!ente de la red o de los datos de "roceso a velocidades de nanoco!"utadoras# Tienen ue confor!arse con los cerebros orgnicos) lo ue significa ue tienen acceso a !uy "ocos "uestos de traba8o# El softLare educativo distribuido ;nica!ente a organizaciones ben1ficas a la nor!alidad) 8uega un "a"el entre el tutor y secretario "ersonal) hacer accesible la infor!aci/n a la antigua for!a &te:to y audio,# @n "rofesor virtual a"arece en una "antalla bidi!ensional "orttil y les ense%a a leer y escribir y dar clases de gra!tica# 2e ayuda en la to!a de la de!anda de "rogra!as de asistencia guberna!entales# Mostrar listas de ofertas de e!"leo# Ieco!endar trata!ientos alternativos de ba8o costo "ara enfer!edades co!unes o ayuda a encontrar la auto!edicaci/n en la red 2e gusta "roducir este softLare# -or lo !enos) su traba8o le da una !ano a a uellos ue !s lo necesitan# 35<5) verano Todav.a no se ha decidido solicitar un cuer"o de refuerzo# -robable!ente) sin e!bargo) en "oco tie!"o#>l ya ha tenido cuatro tu!ores en los dos ;lti!os a%os y cada vez ue ten.a ue "agar trata!ientos costosos nanotecnolog.a# A nanoi!"ianto "er!anente antineo"lsico ser.a !enos costoso en el largo "lazo) sino ue significa largas horas de traba8o en los "r/:i!os a%os "ara "agarlo# Es !e8or ue !orir#2os !oduladores de actitud i!"lantados en su cerebro le "er!iten so"ortar la carga de traba8o# 0 =no se "uede creer) ue una vez ue usted debe "reocu"arse acerca de la de"resi/n) la fatiga y la ansiedad#Hoy no funciona y luego se desconecta de la red de !uertes del tie!"o) en casa) de8ando ue sus redes de ciber-neurales o"eran sin ninguna cone:i/n con el e:terior) ca!inando al azar de la !e!oria#2a !a! y el "a"# Uuegos de f;tbol) en la escuela) en el aire cristalino de la tarde# En el bar con los a!igos de la universidad) "erdido en el rit!o de la !;sica y un !ar de ginebra# A lo largo del r.o con Miranda) chatear) hacer el a!or en las so!bras# El to ue de una !u8er de carne y hueso y no una "lanta en su cerebro# Es"ere el a!anecer) te!blando de fr.o# (e da cuenta de ue estos recuerdos le causan dolor) una vez) "ero no "uede recordar e:acta!ente lo ue estaba sintiendo# En "oco tie!"o los recuerdos de otras "ersonas "ueden co!"rar y descargar directa!ente en su cerebro co!o si fueran "el.culas# 35<4) abril Malas noticias en la Ied) reciente!ente# Algunos buscan la ace"taci/n IA co!o gerente de negocios) a "resentarse a las elecciones !unici"ales# 'risto# Hace a"enas un "ar de a%os hubiera sido incre.ble#*o es suficiente) hay los disturbios causados "or nor!ales) !anifestaciones y actos de terroris!o "or "arte de algunos de los nuevos gru"os religiosos) la carrera ar!a!entista con 'hina) el debate de la ?*@ sobre el control internacional de los siste!as !oleculares de "roducci/n # >l no tiene !iedo a nada# 0a no es lo ue funciona la !ente hu!ana) o !s bien) la !ente transhu!ana# En su lugar) se siente una cierta falta de ar!on.a en "ensa!iento) un senti!iento ue todo est yendo de las !anos#2a inca"acidad de ver el !undo se ve co!o en un "ar de a%os# 0 contin;a en su traba8o) la creaci/n de softLare "ara los "obres) "ara ue "uedan a"rovechar las venta8as de la econo!.a global) as. co!o "udo# El traba8o es duro) "ero a 1l le gusta# El a%o "asado ter!in/ su cuarto doctorado) esta vez en la neurociencia# (e va) ade!s de los de la biof.sica) las !ate!ticas y la sociobiolog.a# 35 de 8unio 35<4 Hace un !es) "or fin ha recibido la lucha contra el enve8eci!iento y la renovaci/n de todo el cuer"o#(esenta y tres a%os de edad y tiene el cuer"o de un "er.odo de treinta a%os# Hoy se ha cu!"lido su fortaleci!iento uinto "rinci"io neural del a%o# Ten.a un descuento de MicroHen de nano! uinas y softLare# -uede trans"ortar decenas de "royectos) conversaciones y encuentros er/ticos) al !is!o tie!"o) todo en su cabeza# -uede !odular su es"ectro !ultidi!ensional de los estados e!ocionales) dirigi1ndolos co!o si fuesen la sinfon.a !s subli!e# A trav1s de los a%os)

invirti/ en e!"resas de siste!as !oleculares de la "roducci/n y la inversi/n han hecho bien# *o se trata de grandes n;!eros) 8usto "or enci!a de los cien !illones de d/lares) "ero el "orcenta8e seguir creciendo# *unca hubiera i!aginado vivir de esta !anera cuando era 8oven# -ero algo no funciona# 2as noticias internacionales estn cada vez !s "reocu"ante# IA ue se niegan a coo"erar con los seres hu!anos# 2as !ultinacionales y las IA ue se fusionan) convirti1ndose en nuevos cuer"os) fuera del control del Estado#Absorben los seres hu!anos en su "ro"ia estructura de infor!aci/n) a veces sin el consenti!iento de los recursos hu!anos de ue se trate# 2os gobiernos estn en una situaci/n de "nico) i!"oner la ley !arcial en no!bre de la seguridad nacional# 2a IA se a"oder/ de los siste!as !oleculares de la "roducci/n y el uso de ellos "ara !ontar en8a!bres de nano! uinas) sin autorizaci/n) "ara llevar a cabo e:"eri!entos de vida artificial con estas nanoen8a!bres# Evoluci/n acelerada# *adie sabe en lo ue "odr.a ser# 2a IA no se res"onsabiliza# 34 de 8unio 35<4 El alba# +os se!anas no duer!e) "ero el sue%o ya no es una necesidad fisiol/gica# Ella todav.a est dor!ido) a veces) s/lo "ara hacer algo diferente# El nano! uinas en su cerebro se ilu!inan la cone:i/n a Internet) en busca de las ;lti!as noticias# (e encuentra s/lo un revolti8o ca/tico de te:to e i!genes# (u !ente se siente geo!etr.as e:tra%as en el flu8o de infor!aci/n# Mate!ticas !etaf.sica#Tenga en cuenta la "resencia de estas geo!etr.as no naturales cientos de sitios en la red de trans!isi/n 2as i!genes "eriod.sticas IA inco!"rensible esttica infestado# Qarreras nubes) cientos de !etros) con luces e:tra%as en el interior# -ero las nubes tienen un cierto !etalicidad y la luz brilla en ellas co!o una nebulosa# *ubes si!ilares se han visto en todo el "laneta# Ellos descienden sobre la ciudad y la golondrina# +es"u1s de eso) las ciudades ya no son visibles y no "ueden ser de cual uier ti"o de co!unicaci/n con los ue estn dentro# A"ocali"sis# *o) dice una voz desde el interior de las geo!etr.as !ate!ticas# *o a"ocali"sis) "ero g1nesis# E Oen una habitaci/n de hos"ital y un !1dico lo !antiene en una !esa sus"endida de la sala de o"eraciones y no "uede re"ri!ir un grito# (u !adre est acostada en la ca!a) e:hausto# 'orre "or el bos ue) 8ugando a la guerra) sudor en un d.a caluroso de verano# E Oen la escuela) la clase de !ate!ticas) no "uede a"artar los o8os de la rubia sentada dos asientos adelante y "reguntndose si alguna vez va a tener el valor de hablar con ella# +e vacaciones con su "adre y her!anas) !irar "or la ventana !ientras se conduce a trav1s de un bos ue) con la es"eranza de ver un oso# En la "laya de Dlorida) viendo el levanta!iento del cohete) i!"ulsado "or una colu!na de fuego# E Otu!bado boca arriba en el "atio y ver las estrellas) so%ando con llegar alg;n d.a# >l est ca!inando en las !onta%as con Miranda) las notas cuidadosa!ente escalada en el ca!ino delante de 1l# -or enci!a) s/lo las nubes# E Oen su a"arta!ento de estudiante) sentado en el suelo y !irando el tel1fono# Ten.an los tel1fonos una vez# Est "ensando: Miranda) no te vayas) u1date con!igo ### 0 =en una oficina detrs de otro) en el tel1fono) dictar notas y su al!a se "udra# 2uego vinieron las "lantas !edicinales y no debe intentar cual uier cosa) a !enos ue desee# El !1dico ue lo !antiene en una !esa sus"endida de la sala de o"eraciones# It Os el "ri!er d.a de clases y todo "arece tan grande) una fiesta) en la escuela) se encuentra a"arte) beber bourbon de RentucGy en un dor!itorio con un !ont/n de gente ue ni si uiera conocen) sentado a la !esa de la cocina llena los for!ularios "ara "ara solicitar un doctorado) furtiva!ente !ira a la nueva TA lla!ado Miranda) !ira a los o8os !ientras le tira dentro de 1l) ca!inando "or las calles) hace a%os) 1l ve a una chica con la !is!a "iel clara y "elo negro) "ero no es ) un torbellino de reuniones) tareas) cuentas ue "agar y las noticias de ue la IA son cada vez !s inteligentes y ue el !undo est ca!biando) so%aba con las estrellas y vio un cohete elevndose hacia el cielo oh oh dios no "ocos a%os des"u1s de su !adre fue) ba8o la lluvia frente a la tu!ba se ha ido todo estaba oscuro) con Miranda) "ero ella se ha ido todo se ha ido todo se ha ido H1nesis 5F#<5 3X de 8unio 35<4 Toda la ciudad se ha ido# Est solo en una "radera de c1s"ed y arbustos alrededor# Antes a u. hab.a

calles y rascacielos# El cielo "or enci!a de 1l ca!bia constante!ente de color# *uevas criaturas e:tra%as se elevan en el horizonte) co!o las ra!as de las "lantas) "ero transl;cido y enor!e#Ril/!etros# 'a!biar de for!a casi cada segundo# El creci!iento y el desarrollo# *ubes !ulticolores "asan en el cielo# 2o Odif.cil saber a u1 distancia# 2as for!as siguen fluctuando) colores y refle8os siguen ca!biando# (on inteligentes# El "uede sentir en sus "ro"ios "ensa!ientos# =Te e:tra%1#= 0 OMiranda# E Oal lado de 1l) y su !irada se barre sobre este e:tra%o y nuevo !undo# Est bordeada e:"losi/n de e!ociones en una "e ue%a "arte oculta de su !ente# >l est convencido) sin e!bargo) una alegr.a sencilla ue brilla en el interior) co!o una vela# =0o ta!bi1n te e:tra%1#= -er!anezca al lado del otro) !irando# Ellos escuchan el viento) dar tie!"o a sus !entes "ara absorber las estructuras y arreglos de la Tierra# =(iento ue haya ter!inado as.) entre nosotros=) dice Miranda# =0o estaba confundido) no sab.a lo ue uer.a# Me daba !iedo# 0o era diferente entonces# = Mira a las enor!es ra!as ue van al es"acio# =Todos nos ueda!os#= Q;s ueda en los rincones !s "rofundos de su !e!oria# =Me alegro de ue est1s a u. "ara ver todo# It Os el ti"o de cosas ue nos gusta hablar) no? = =(.)= =Cu1 va!os a hacer ahora?= Ella se vuelve hacia 1l# =2o ue uere!os#= Miranda le tiende la !ano# >l ella) los dedos entrelazados agarra# 2a escena se disuelve alrededor de ellos) sus cuer"os se desintegran en una nube de nano! uinas !ientras sus !entes) codificados) huyendo de ellos) traducido a las ondas electro!agn1ticas# $ia8an en la red en una es"iral a trav1s del siste!a solar# 2as estructuras de su auto-au!ento de un flu8o de infor!aci/n-"art.culas ue re"roducen a un rit!o e:"onencial) la incor"oraci/n de los "lanetas y asteroides alrededor del sol) agru"ados en re!olinos de "ensa!iento) for!aciones co!"le8as de datos#2u!inoso y !igrar a trav1s del es"acio a la velocidad de la luz# Miranda est en el frente# 2os fotones y neutrinos ue su"eran) la oscuridad se vuelve infinita "or todas "artes# +escienden en el cuarto "laneta) una bola ro8a de la luz en la noche# 2os dos via8eros to!an for!a una vez !s) en una rfaga de nano! uinas ue for!an un sustrato de sus "ensa!ientos# Ellos estn en un ro8o llano) cubierto de "iedras) rodeada de !onta%as ba8o un cielo ";r"ura# El sol es un "unto de luz brillante# Mangala $allis) Marte# =(ie!"re he uerido ver este lugar=) dice Miranda# >l ca!ina en la su"erficie de Marte# 2os o.dos de su nuevo cuer"o se le infor!ar de la leve roce de la tierra) en el aire !arciano# (e da la vuelta) ue abarca todo el "aisa8e# Mira hacia arriba) en busca de una estrella azul en el cielo# A u. est) ba8o en el horizonte# El "unto de origen# Tal vez alg;n d.a va!os a estar de vuelta) el tie!"o no fallar# Tie!"o sin fin# (onrisas Miranda) !irando a su alrededor) lleno de aso!bro# Hotas sobre la faz de la dia"ositiva en el fr.o antinatural# 2gri!as# (e acerca a ella) le acaricia el brazo# =Cu1 "asa?= =*o hay nada ue sea !alo) tonto# 2o O"ro"io bien: no hay absoluta!ente nada de lo ue est !al =# Miran a su alrededor) hacia la oscuridad) ani!ado con la inteligencia) la e:"ansi/n hacia el e:terior) hacia la eternidad) en una nube creciente de via8ar a las estrellas#

Lo que ayer era, hoy ya no existe. 4d Merta es un escritor independiente% investigador ( productor de contenidos 6e* ( vive en Al*u!uer!ue% 2uevo M&-ico% 441@@11 D escri*e so*re1 3ecnolog)a% historia ( pol)tica revista transhumanidad% http<LL6661transhumanism1com 1 Cop(right O M//M Asociacin Mundial transhumanista%http<LL6661transhumanism1org % ( el autor (s)1 Sin el permiso e-pl)cito del titular del derecho de autor (s) ( menos !ue se indi!ue lo contrario% este material puede ser copiado o repu*licado li*remente siempre !ue esta nota de cop(right se reproduce )ntegramente1 ?tra historia de Ed Merta en Estro"ico: Inteligencia Artificial: un escenario a"ocal."tico - @n "oco de historia sobre la llegada de una singularidad tecnol/gica ue ca"tura la hu!anidad sin "re"araci/n y ue se traduce en un escenario a"ocal."tico# @na visi/n de "esadilla vislu!bra a trav1s de los des"achos de las agencias internacionales de noticias) en una historia de la vida agitada# Cr&ditos de las im genes< 9il*erto Be Cerardis

Inteligencia -rtificial/ un escenario apocal.ptico$ por !d Merta

$isiones del Duturo - (ingularity O

MI2ITAI +E EE#@@# E* E(TA+? +E A2EITA Jashington - 4F de novie!bre 35<X# Horario: 53)<< Duentes cercanas al -entgono infor!/ esta !a%ana ue las fuerzas ar!adas de Estados @nidos estn en un estado de alerta !:i!a y ue los "edidos de una !ovilizaci/n total se han enviado# *o hay ning;n anuncio oficial de la !ovilizaci/n# 2as fuentes de las noticias no tiene declaraci/n "ersonal sobre el !otivo de la !ovilizaci/n) y agreg/ ue una declaraci/n oficial estar dis"onible en las "r/:i!as horas# +e acuerdo con la IA Minteligencia artificial - TraductorN ue re"resentan nu!erosas e!"resas transnacionales) algunos sat1lites en /rbita ba8a de la Tierra han detectado las fuerzas de tierra y el es"acio a!ericano en "osiciones defensivas en torno a las "rinci"ales bases de Estados @nidos en Euro"a y Asia# Actividades si!ilares se han detectado en la vecindad de A!1rica del *orte "er.!etro de defensa) a "esar de considerables dificultades "ara detectar el !ovi!iento de sigilo fuerza a1rea# *o hay co!entarios han sido hasta ahora dis"onible de fuentes oficiales de la 'asa Qlanca y el +e"arta!ento de Estado sobre las actividades de las fuerzas ar!adas# IEA''I?*E( A2 E(TA+? EPTIA*UEI? +E A2EITA +E EE#@@# MI2ITAI Hinebra &Ieuters, - 4F de *ovie!bre# Horario: 53)77 (e registr/ la "ri!era reacci/n oficial de los "rinci"ales gobiernos del !undo a la !ovilizaci/n de los !ilitares de EE#@@## 'hina) Ua"/n) India) Iusia y la @ni/n Euro"ea denunciaron la iniciativa co!o una a!enaza innecesaria a la estabilidad de la arena internacional# $arios di"lo!ticos han e:"resado su "reocu"aci/n e indignaci/n) y se%al/ ue) en ausencia de crisis di"lo!tica internacional) la acci/n del gobierno de EE#@@# "arece in8ustificable# Todav.a no ha tenido ning;n anuncio oficial de Jashington sobre la !ovilizaci/n o los !otivos de la iniciativa# 2os gobiernos de Iusia y 'hina estn en estrecho contacto y) seg;n la IA coo"eraci/n !ilitar entre 'hina y Iusia 'enter) se es"era ue la !ovilizaci/n con8unta de las fuerzas ar!adas de los dos "a.ses en un corto "er.odo de tie!"o en ausencia de ca!bios en el nivel del estado nortea!ericano de alerta# El 'entro de IA sugiere ue un esfuerzo de inteligencia intensiva) tanto virtuales co!o f.sicas) est en su lugar "or los rusos y los chinos) con el fin de arro8ar luz sobre la

!otivaci/n de las acciones estadounidenses# En las "r/:i!as horas) hay una conferencia virtual entre los l.deres de la 'o!isi/n Euro"ea) +irecci/n Heneral de los 8a"oneses "ol.tico-econ/!ico) el 'onse8o (u"re!o de la India y sus asesores AI# ``` *EJ( ``` 2A( D@EIaA( AIMA+A( +E AM>II'A '?*TIA (@+bDII'A -retoria &Internet *eLs (ervice, 4F de novie!bre 35<X# 5<)49 horas 2a Ar!ada y las fuerzas es"aciales estadounidenses han llevado a cabo intensos bo!bardeos de instalaciones industriales y cient.ficas en las afueras de -retoria) seg;n testigos en el lugar#E:"losiones e incendios causados "or el ata ue se e:tiende a la vista# El ata ue ha causado centenares de v.cti!as entre el "ersonal hu!ano y rob/tico# 2as fuerzas estadounidenses ta!bi1n estn llevando a cabo una zona electro!agn1tica bo!bardeo) "or lo ue es dif.cil) "or el !o!ento) "ara obtener !s infor!aci/n# ``` *?$E+A+E( ``` 'itas del -entgono y 'A(A Q2A*'A -AIA H?0 anunci1 a 4T)55 ### -IET?IIA siguen atacando a EE#@@# ### E(-EIAI @*A +E'2AIA'Ic* +E M?('d 0 QEIUI*H (?QIE (@( D@EIaA( M?$I2IaA'I?*E( ### Iusia y 'hina 2I(T? -AIA I*TEI$E*II E* E2 ?'>A*? e*+I'? Mosc; &Interfa:, - 4F de novie!bre 35<X# 5<)94 horas 2as fuerzas estadounidenses estacionadas en el ?c1ano endico han "uesto en !archa una segunda ola de ata ues contra ob8etivos industriales de la zona de -retoria# +e acuerdo con el "ersonal de las organizaciones caritativas de la zona) el n;!ero de v.cti!as entre la "oblaci/n civil ser.a =e:tre!ada!ente alto=# El gobierno de (udfrica ha lanzado un lla!a!iento deses"erado a la co!unidad internacional "ara detener el ata ue estadounidense# @n ayudante del "ri!er !inistro di8o ue estaba sor"rendido "or los ata ues ue condenaban co!o carente de cual uier "rovocaci/n# El ir con urgencia en un b;nGer de !ando fuera de la ciudad di8o: =Estoy loco?A *o hab.a ni "rovocaci/n ni advertencia# Tene!os e:celentes relaciones con Estados @nidos# -or u1 estn haciendo? = 2os gobiernos de la Dederaci/n Iusa y la Ie";blica de 'hina Estados estn to!ando !edidas "ara hacer frente a los Estados @nidos# 2as fuerzas de a!bos "a.ses se van a "oner en estado de alerta y trasladado hasta el ?c1ano endico Meridional "ara "osibles acciones en contra de las unidades estadounidenses en la zona# Infor!es no confir!ados indican ue virtuales contraata ues contra las unidades de EE#@@# y los ca!"os electro!agn1ticos ya han co!enzado# (e es"era ue en las "r/:i!as horas) una e!"resa ruso-china# 2a ?ficina de -rensa de la 'asa Qlanca tiene "revisto un anuncio oficial hoy a las 4T#55 horas# @na conferencia de "rensa se llevar a cabo "oco des"u1s de ue el -entgono) seg;n fuentes oficiales del +e"arta!ento de +efensa# Duentes del gobierno de EE#@@# se negaron a liberar de ante!ano lo ue el contenido de dichas reuniones) e:ce"to "ara decir ue se refieren a un "roble!a =de la !ayor i!"ortancia "ara la raza hu!ana#= '?*$?'AT?IIA +E 2A 'A(A Q2A*'A A-2AaA+?# A@ME*TAI 2A( '?*(@2TA( A *I$E2 M@*+IA2 Jashington &A-, - 4F de novie!bre 35<X# 5<)77 horas Duentes de alto nivel en la oficina de "rensa de la 'asa Qlanca anunci/ ue el E8ecutivo ha a"lazado la declaraci/n de es"era en las acciones !ilitares de hoy en d.a) con el fin de "er!itir las consultas destinadas a reducir la tensi/n internacional# @na conferencia de "rensa del +e"arta!ento de +efensa "revista "ara hoy) ta!bi1n se ha "os"uesto# *o est claro en ese !o!ento) en ue no habr una declaraci/n oficial estadounidense# Tanto IA gobierno de los EE#@@# ue las co!unicaciones interde"arta!entales "esante!ante se cifran) "or lo ue es dif.cil obtener infor!aci/n sobre el "roceso de to!a de decisiones de A!1rica#

Duentes de la 'asa Qlanca han indicado ue el "residente est en contacto directo con los l.deres de Iusia) 'hina) la @ni/n Euro"ea) India y Ua"/n) as. co!o con re"resentantes del He!isferio ?ccidental "ara la econo!.a y la seguridad# El -residente se "ersigue la coo"eraci/n de otros gobiernos en las o"eraciones !ilitares de Estados @nidos# 'o!o "arte de estas actividades) IA EE#@@# y otros "a.ses estn en la interfaz) seg;n fuentes oficiales de la 'asa Qlanca# 2a 'asa Qlanca no ha co!entado sobre una "osible reuni/n urgente del 'onse8o de (eguridad de las *aciones @nidas) ue se reuni/ en la !a%ana) a "etici/n de (udfrica) Iusia y 'hina# (eg;n el +e"arta!ento de Estado de IA) la arena di"lo!tica !s adecuada a la situaci/n) en un d.a) ser.a la coordinaci/n del H-43# ``` *EJ( ``` -2A*TA( I*+@(TIIA2E( ADE'TA+?( -?I M?T?I?2A ATAC@E( I*TE2-!ilitar#-AITI'I-A'Ic* (E (?(-E'HA IA 2os Angeles &Internet *eLs (ervice, - 4F de novie!bre 35<X# 59)44 horas 2os e8ecutivos de Intel y Motorola han infor!ado a la "rensa ue las o"eraciones !ilitares estadounidenses en bfrica del (ur se dirigen contra la investigaci/n de la "lanta y el gru"o de desarrollo#2os ata ues son en res"uesta a un e:"eri!ento en la !e8ora de los siste!as de IA ue han esca"ado al control de addeddi "oco des"u1s de la !edianoche# -ortavoz de la co!"a%.a no "udo aclarar la naturaleza del e:"eri!ento y los "roble!as resultantes# (e es"ecula ue el "oder e8ecutivo de EE#@@# ha to!ado conciencia del e:"eri!ento inde"endencia de la e!"resa y ue r"ida!ente se o"t/ "or la o"ci/n !ilitar# (eg;n el "ortavoz de la Intel-Motorola) el "residente estadounidense y sus asesores consideran ue el e:"eri!ento AI crea una a!enaza a los intereses estadounidenses y la seguridad# E8ecutivos de la e!"resa cuestionan este anlisis y sostienen ue los estrictos "rotocolos de seguridad utilizados "ueden i!"edir ue una IA ue "uede convertirse en una a!enaza "ara la infraestructura hu!ana o for!as de vida biol/gica# ``` *EJ( ``` AMEII'A* D@EIaA( AIMA+A( ATAC@E +E 2I(Q?A) (I*HA-@I) ### 'AIA'A( Qruselas &Ieuters, - El 4F de novie!bre 35<X# 59)3F horas +e acuerdo con fuentes de inteligencia de la @ni/n Euro"ea) las fuerzas ar!adas de Estados @nidos han a!"liado las o"eraciones !ilitares en ata ues contra ob8etivos industriales de 2isboa y 'aracas) "or la !arina) el e81rcito y las fuerzas es"aciales# 2os ata ues "arecen estar dirigidos no s/lo contra el e ui"o de Intel y Motorola) sino ta!bi1n a la investigaci/n co!"le8a y el desarrollo de la Mitsubishi) Toyota y +ai!ler-Qoeing-HM# Ie"resentantes de la @E han ofrecido ning;n co!entario oficial sobre los atentados y) a "esar del hecho de ue los recientes atentados han tenido lugar en territorio euro"eo) han criticado la acci/n de los EE#@@## +esde Qruselas es un =sin co!entarios= sobre los ru!ores de ue el ata ue estadounidense en (udfrica habr.a sido en res"uesta a la "1rdida de control sobre una IA# ``` *EJ( ``` fuerzas de ata ue franc1s y ale!n '?M-2EU? I*+@(TIIA2 E* AIHE2# '?*TI*dA ata ues estadounidenses Qerlin &Ieuters, - El 4F de novie!bre 35<X# 59)73 horas Duerzas ar!adas euro"eas se han unido a los ata ues estadounidenses contra las "rinci"ales instalaciones de investigaci/n y desarrollo industrial# 2as unidades navales y es"aciales francoale!ana alcanz/ un co!"le8o de investigaci/n de (ie!ens cerca de Argel) con fuertes "1rdidas entre la "oblaci/n# 2as fuerzas navales de Estados @nidos estacionadas en el Atlntico "odr.an "restar a"oyo a la o"eraci/n de la guerra cibern1tica# Hay "or el !o!ento las declaraciones oficiales de ale!n o euro"eo# 'I?22A ``` *EJ( ``` 2A IE+ E* 2A '?(TA E(TE +E 2?( E(TA+?( @*I+?( *ueva 0orG &'**, - 4F de novie!bre 35<X# 57)4< horas

'ientos de "lantas de energ.a fueron !isteriosa!ente se detiene en la regi/n de la costa atlntica EE#@@## (eg;n un co!unicado de los re"resentantes de la urgente Trans'onn el1ctrica) alrededor de doscientos !illones de "ersonas y !s de !il !illones de robot al este del Mississi""i estn sin electricidad# 2a co!"a%.a no tiene una e:"licaci/n "ara el a"ag/n# 2os !edios de co!unicaci/n es"eculan ue "uede haber la "artici"aci/n de uno o !s IA) en res"uesta a los ata ues contra centros a!ericanos y euro"eos de investigaci/n y desarrollo es"ecializado en AI# +E'2AIA'Ic* +E2 -IE(I+E*TE EE#@@#) y la acci/n !ilitar =reacci/n a una IA fuera de control E= es visto co!o una o"osici/n ="rocla!/ el estado de e!ergencia nacional) sus"endi/ la 'onstituci/nK ?-EIA'I?*E( '?*U@*TA( '?* -?(IQ2E( Euro"a y Ua"/n y Iusia) y una solicitud de coo"eraci/n 'HI*A Jashington &A-, - 4F de novie!bre 35<X# 57)99 horas En un discurso trans!itido desde un lugar secreto) el "residente de Estados @nidos) 'atherine +anforth) anunci/ ue Estados @nidos) 8unto con otros "a.ses) han to!ado !edidas !ilitares urgentes y de seguridad con el fin de su"ri!ir las acciones hostiles de una o varias inteligencias artificiales# 2a situaci/n actual ha sido descrita co!o =la !ayor a!enaza ue 8a!s haya enfrentado la hu!anidad= y el "residente "ro!eti/ !edidas a"ro"iadas a este riesgo e:traordinario# El "residente ha solicitado a la 2ey de (eguridad *acional de 3537) y el trig1si!o "ri!ero A!enda!ento a la 'onstituci/n de los EE#@@#) lo ue el E8ecutivo todos los "oderes necesarios "ara hacer frente a una e!ergencia nacional# 2a 'arta de +erechos) el 'ongreso y la 'orte (u"re!a han sido sus"endidos !ientras dure la crisis# 2a ?ficina E8ecutiva del -residente recibir todos los "oderes del Estado federal hasta ue se ver a!enazada la seguridad nacional# El "residente +anforth luego anunci/ ue sus fuerzas ar!adas y 8a"oneses) as. co!o su a"arato de seguridad e inteligencia) ue coo"eren sin reservas con las fuerzas estadounidenses# 'entros de !ando y control unificados se han establecido "ara facilitar las acciones de los tres dis"ositivos contra la a!enaza de la gri"e aviar# El "residente "idi/ a los estadounidenses a !antener la cal!a y "er!anecer en sus hogares) !ientras ue los ingresos del gobierno federal con las !edidas ado"tadas "ara hacer frente a la e!ergencia y "ro!eti/ ue las agencias del gobierno har todo lo "osible "ara el !anteni!iento de la infraestructura bsica# *o hubo co!entarios sobre el a"ag/n generalizado ue actual!ente cubre la !ayor "arte de A!1rica del *orte# (eg;n el "residente de +anforth) la situaci/n actual se inici/ en torno a 33#55 &hora de Jashington, el 4T de novie!bre) cuando los recursos de inteligencia estadounidenses han detectado una actividad inusual en una tele!tica co!"le8o de investigaci/n y desarrollo de Intel y Motorola en -retoria ) (udfrica# El anlisis de estas actividades) ya sea "or la inteligencia artificial hu!ana) indica una alta "robabilidad de ue la AI hab.a e!"ezado a actuar de !anera inde"endiente con la intenci/n de conseguir ca"acidades de evoluci/n transhu!anas# El "residente) en un intento de "revenir los ata ues a la labor de la ad!inistraci/n) insisti/ en ue la conclusi/n de ue es una IA hostil) no ha sido realizada sin funda!ento# 2a IA en cuesti/n se ha negado reiterada!ente cual uier intento de contacto "ac.fico "or t1cnicos de Intel-Motorola y el gobierno de los EE#@@## Ante la i!"osibilidad de establecer un contacto) el 'onse8o de (eguridad *acional y sus asesores IA) to!aron la decisi/n de establecer el estado de e!ergencia nacional y "oner a las fuerzas ar!adas en alerta !:i!a# El -residente fir!/ las /rdenes de 3)47 horas de la noche del 4F de novie!bre# A-AHc* E* E@I?-A 0 UA-c* ToGio &Ua"/n InfoIed, - 4F de novie!bre 35<X# Horas 5T)45 Enor!e a"ag/n "araliz/ gran "arte de la @E y Ua"/n# 2os siste!as de e!ergencia ue utiliza el a"arato de gobierno y el e81rcito no "arecen haber sufrido) "ero los sa ueos y disturbios ue

estallaron en varias ciudades durante el a"ag/n "arece ser la causa de las actividades hostiles de la AI en el Internet# 2a 'o!isi/n Euro"ea ha declarado la ley !arcial a 7)75 y ta!bi1n el gobierno 8a"on1s "arece estar !ovi1ndose en esa direcci/n# 2a distribuci/n de la electricidad "ara uso do!1stico e industrial est blo ueado y en la !ayor "arte de A!1rica del *orte# 2os siste!as de e!ergencia han "er!itido ue el gobierno y las agencias del gobierno "ara !antener su "ro"io negocio) "ero los disturbios ue se "rodu8eron en las "rinci"ales reas urbanas han e8ercido una "resi/n sobre la funcionalidad# Incluso las redes tele!ticas globales han co!enzado a sufrir los ata ues de una IA ue "arece utilizar la guerra cibern1tica softLare "or las ca"acidades de r"ida evoluci/n# IA controlada "or las autoridades !ilitares de Estados @nidos) Euro"a y Ua"/n se han des"legado en un intento de "revenir !ayores da%os y "ara eli!inar la IA de ue los atentados# El contador se co!"lica "or la "osibilidad de ue los ata ues de infraestructura son el traba8o de !s de un AI# (i bien el incidente a la Intel y Motorola) ue dio origen a la actual crisis ue i!"lica una sola IA) los analistas y los sos"echosos voceros del gobierno ue) a las "ocas horas "asadas) esa entidad ha sido ca"az de re"licar# (I(TEMA( M?2E'@2AIE( DAQII'A'Ic* ?DD-2I*E Houston &Associated -ress, - 4F de novie!bre 35<X# 5T)33 horas Ies"onsable de ayve: 'or"oration anunci/ la "1rdida de cual uier contacto con el softLare de control de nu!erosas "lantas de fabricaci/n !oleculares en varios sitios internacionales# 'ual uier intento de restablecer el contacto hasta ahora ha fracasado# Duentes de la industria de la fabricaci/n !olecular confir!ado) e:traoficial!ente) ue otras e!"resas de nanotecnolog.a han tenido "roble!as si!ilares en las dos ;lti!as horas# @n "ortavoz de +oL-Henentech ha negado ue estos infor!es no tienen ninguna base y confir!/ ue la e!"resa nanotecnolog.a "er!anecen ba8o el control hu!ano# 'HI*A 0 I@(IA lanzar o"eraciones !ilitares contra IA y rechazan '?2AQ?IA'Ic* '?* E2 ?E(TE Qei8ing &Asianet, - 4F de novie!bre 35<X# 5T)3X horas El co!ando con8unto ruso-china anunci/ el inicio de las o"eraciones !ilitares de los dos "a.ses hacia las !etas sos"echosas de "ro"orcionar refugio a los softLare de inteligencia artificial hostil#Duncionarios de +efensa en Qei8ing y Mosc; no han dado a conocer !s detalles sobre las o"eraciones en curso) se li!it/ a decir ue la acci/n ser =r"ida y eficaz#= Ie"resentantes de los gobiernos de Iusia y 'hina han rechazado ofrece integraci/n directa a!ericana y euro"ea de los soldados y sus ar uitecturas IA utilizados contra la hostil AI# 2a acci/n inde"endiente de los distintos blo ues ser.a suficiente "ara resolver la crisis) seg;n fuentes cercanas a los "residentes de Iusia y 'hina# E2 TEM?I A EE#@@# C@E 2A AI H?(TI2 se est 'A-A'I+A+ ODe(I'A Jashington &'**, - 4F de novie!bre 35<X# Horas 5T)95 2as o"eraciones !ilitares contra los rebeldes AI sufrieron un serio rev1s# +e acuerdo con una fuente cercana a los c.rculos de la inteligencia estadounidense) la IA ha co!enzado la "roducci/n de !a uinaria y veh.culos# 2a vigilancia "or sat1lite habr.a detectado la "resencia de diferentes continentes de las "lantas de fabricaci/n !oleculares i!"licados en la "roducci/n de !a uinaria "or configuraciones desconocidos# El 'o!ando del E81rcito EE#@@# estaba dis"uesto a su"ri!ir las actividades de AI hostil ante los no hu!anos sintientes to!aron "osesi/n de las "lantas de "roducci/n# Al "arecer) era una es"eranza vana# >P?+? +E IED@HIA+?( +E 2A 'I@+A+ OAMEII'A*K '?*TI*dA E2 '?2A-(? +E 2A I*DIAE(TI@'T@IA

Quenos Aires &'**, - 4F de novie!bre 35<X# 5F)<5 Instalaciones el1ctricas y redes infor!ticas "ara e!ergencias EE#@@# han sufrido graves da%os) "or lo ue es a;n !s grave cola"so de los "rinci"ales siste!as y causando estragos y "nico entre la "oblaci/n ue ha co!enzado a abandonar las grandes concentraciones urbanas# 2a !ayor.a de los ciudadanos de EE#@@# es ahora sin electricidad ni agua# Incluso los hos"itales y centros de !ando !ilitares son cada vez !s frecuente!ente sin electricidad o la cone:i/n a redes# 2os co!andantes !ilitares regionales y los gobernadores de los diversos estados "rctica!ente ad!iten ue la situaci/n est fuera de control# 'ual uier intento de restaurar la distribuci/n de energ.a el1ctrica y la infor!aci/n hasta ahora ha fracasado) al "arecer debido a las actividades de la IA hostil ue controlan el Internet# El softLare ue se convertir.a en res"uesta a los ata ues del ene!igo AI no "uede !antenerse al d.a y siguen evolucionando !s r"ido ue el softLare utilizado "or las autoridades estadounidenses# *?TI'IA( ```````````` ATAC@E( '?*TIA *@'2EAI 0 *A*?TE'*?2cHI'A IA H?(TI2 -aris &Ieuters, - El 4F de novie!bre 35<X# Horas 5F)77 2legan infor!es de ata ues y la nanotecnolog.a a las "lantas nucleares controladas "or la IA hostil en bfrica y Asia "or las fuerzas y aliados de Estados @nidos# 2a "ri!era ola de ata ues tiene col"ino docenas de siste!as de fabricaci/n !olecular) nodos de Internet y centros de su"erco!"utaci/n de acogida en la India) Australia y el sudeste de Asia#Ta!bi1n se ven afectados varios sat1lites en /rbita terrestre ba8a# EE#@@# y aliados 2A*aA* MA((I$E ATTA'R nanotecnolog.a *@'2EAI 0 H2?QA2K enor!es "1rdidas entre la "oblaci/n civilK IM-A'T? E* H?(TI2 IA I*'IEIT? *eL 0orG &*eL 0orG Ti!es, - 4F de novie!bre 35<X# 5Y)<5 2as fuerzas ar!adas de los EE#@@#) Euro"a y Ua"/n han "uesto en !archa una de las !s devastadoras de las acciones !ilitares de la historia) un asalto ue llev/ al uso de las ar!as nucleares en co!bate "or "ri!era vez desde 4X97# Duentes de la c;"ula !ilitar aliada indican co!o un ob8etivo "rinci"al de la o"eraci/n) la destrucci/n de los centros de la fabricaci/n !olecular ca.do en !anos de la IA y utilizado "or ellos "ara "re"arar las acciones f.sicas hostiles# Hasta ahora) los inhibidores de la aro!atasa se li!itan a los ata ues de guerra de infor!aci/n en entornos digitales# (eg;n ha infor!ado el "ortavoz EE#@@#) las instalaciones afectadas la acci/n de hoy "er!itir.a a los sintientes no hu!anos ue tienen sus "ro"ias fuerzas ar!adas# El ata ue aliado era enor!e) hasta el "unto de ser co!"arables en t1r!inos de los efectos destructivos) los escenarios casi olvidadas de la Huerra Dr.a# Duentes !ilitares aliadas han confir!ado los ata ues de la fabricaci/n !olecular "lanta nuclear no s/lo en Asia y el -ac.fico) co!o en un "rinci"io anunci/) sino ta!bi1n en el ?riente Medio) bfrica y A!1rica del (ur# Infor!es no confir!ados hablan de ob8etivos ue "ueden haber sido afectados en 'anad y el sudeste de Euro"a# 2as esti!aciones "rovisionales hablan de decenas de !illones de v.cti!as civiles# 2a ofensiva !arc/ el "ri!er uso de ar!as de nanotecnolog.a en el co!bate# $eh.culos rob/ticos y !isiles guiados han liberado grandes cantidades de ensa!bladores autorre"licantes "rogra!ados "ara auto-re"roduce a un rit!o e:"onencial y los siste!as biol/gicos o !ecnicos "ara frustrar hostil# IA El -entgono no hizo co!entarios sobre la eficacia de las ar!as nanotecnol/gicas o sus "latafor!as de lanza!iento# El "residente +anforth EE#@@# est en contacto con los l.deres de Iusia y 'hina) con uien coordin/ el ata ue aliado# Es"era!os declaraciones oficiales de Mosc; y Qei8ing# Duentes de la 'IA se neg/ a co!entar sobre la eficacia de los ata ues nucleares y la nanotecnolog.a#2as nu!erosas e:"losiones nucleares y los "ulsos electro!agn1ticos relacionados han desestabilizado las redes infor!ticas ue "lantea interrogantes sobre el anlisis del i!"acto de los atentados#

ATAC@E( re"ortados "or las instalaciones f.sicas de IAK (IH@E 2?( ATAC@E( 0 *@'2EAI *A*?TE'*?2cHI'AK '?*(I+EIAI A 2A ME+IA'Ic* +E 2A( *A'I?*E( @*I+A( -AIA 2A TIEH@A Jashington &A-, - 4F de novie!bre 35<X# 5X)7F horas 2a IA hostil haber utilizado !a uinaria sofisticada "or tierra) aire) !ar y es"acio a las fuerzas aliadas) lo ue contradice las "redicciones de !uchos analistas de ue esto to!ar.a d.as o se!anas de "re"araci/n# Ata ues nucleares contra la nanotecnolog.a y las fbricas !oleculares en !anos de la IA no "arece haber tenido ning;n efecto# El uso de t1cnicas de "rogra!aci/n evolutiva ha "er!itido a la IA de tener cuer"o f.sico en un "ar de horas "or la "1rdida de control en el "ri!er rebelde IA# Ata ues aliados !asivos con ar!as de destrucci/n !asiva no han sido ca"aces de da%ar la base "roductiva de la IA o erosionar la ca"acidad de "roducci/n e:"onencial# Infor!es no confir!ados indican ue la IA ha desarrollado ca"acidades de la nanotecnolog.a# -eriodistas y IA diversas agencias "eriod.sticas hu!anos han infor!ado de la "resencia de varias naves es"aciales desconocida en todo el "laneta) al "arecer) ba8o el control de la gri"e aviar antihu!ano#Estos veh.culos han lanzado fuertes ata ues contra "osiciones !ilitares con el uso de ar!as de energ.a dirigida y sos"echa el uso de nano! uinas# Mientras tanto) el bo!bardeo nuclear y la infraestructura "ara dar cabida a la nanotecnolog.a sos"echa AI hostil se contin;a sin interru"ci/n# Dbricas !oleculares siguen siendo atacados "or los aliados en el !undo) 8unto con los nodos de Internet y centros de "roducci/n de hardLare "ara su"erco!"utadoras# It Os i!"osible esti!ar con "recisi/n las "1rdidas) "ero fuentes di"lo!ticas y "eriod.sticas hablan de las esti!aciones de !s de 455 !illones de d/lares) una cifra !uy su"erior a la de las v.cti!as de la (egunda Huerra Mundial# El (ecretario Heneral de las *aciones @nidas) $icente Mayaguez) ha lanzado un lla!a!iento "ara la co!"araci/n con la IA hostil con el fin de "oner fin a la destrucci/n# *o hay ninguna reacci/n "or "arte de Jashington o desde otras ca"itales# 'ient.ficos de las *aciones @nidas y otras organizaciones sostienen ue la inteligencia de la IA "uede seguir creciendo a un rit!o e:"onencial) lo ue significar.a una nueva y r"ida e:"ansi/n de sus ca"acidades tecnol/gicas en las "r/:i!as horas o d.as# 2a ;nica res"uesta "osible) seg;n el +r# (te"hen +re:ler) del 'entro de Investigaci/n de *anotecnolog.a de la @niversidad de Harvard) ser.a la creaci/n de transhu!ana AI) "or !edio de la evoluci/n) ue son leales a los seres hu!anos y ue defende!os contra los hostiles# +r# +re:ler ad!ite ue no es "osible saber de ante!ano si 1stos IA =a!igable= se !antendr.a leal a los hu!anos# A22IE+ D?I'E( ?D ve !uy afectado "or MAC@I*AIIA autorre"licante IAK -?Q2A'Ic* 'I$I2 unidos directa!ente) 2A( *A'I?*E( @*I+A( 0 +E2 $ATI'A*? a"elaci/n directa!ente ante el alto el fuego IA Qruselas &Ieuters, - El 4F de novie!bre 35<X# 44#47 Ma uinaria controlada "or la IA y la !asa "roducida en las "lantas de fabricaci/n !olecular de todo el !undo) han causado grandes "1rdidas a las fuerzas estadounidenses y aliadas# 'recientes dudas sobre la eficacia de la resistencia !ilitar "ara el avance de la gri"e aviar# Duncionarios estadounidenses y analistas de inteligencia estn convencidos de ue la inteligencia de la IA hostil est creciendo "or !o!entos) con las consiguientes !e8oras en la ca"acidad de "roducci/n en los diversos siste!as !oleculares en su control# 2as fuerzas ar!adas de los inhibidores de la aro!atasa tienen su"erioridad tecnol/gica sobre sus contra"artes hu!anas) seg;n !uchas fuentes !ilitares# Ta!bi1n crecen en n;!ero e:"onencial!ente# 2as fuerzas de la IA han elevado el nivel de violencia del cho ue con los ata ues dirigidos contra la "oblaci/n# 2as colu!nas de los refugiados en los Estados @nidos y Euro"a han sufrido el bo!bardeo con ar!as de energ.a dirigida "or la nave es"acial# -oblaciones enteras en el centro de bfrica han sido v.cti!as de un cuer"o debido a la degradaci/n de los agentes de la nanotecnolog.a controlado "or AI hostil y difundida "or aire# 2os virus nanotecnolog.a ta!bi1n se utilizan en

contra de la bio!asa de los bos ues y las sabanas de bfrica) seg;n un infor!e de la ?*@# Hrandes reas de selvas y llanuras fueron reducidos a !asas de !ateria gris) si!ilar a la ceniza# El (ecretario Heneral de las *aciones @nidas) $icente Mayaguez) y el -a"a) Uuan -ablo III) han lanzado un lla!a!iento directo a la IA hostil a las 45#<5) con el argu!ento de ue el conflicto se inici/ debido a =errores trgicos= "or el l.der hu!ano# El recurso a entidades no hu!anas ue "ide ue usted to!e la calidad de =la !isericordia y la 8usticia) es !uy res"etado "or sus creadores y "or A uel ue los cre/#= *o hay evidencia de ning;n efecto de la a"elaci/n de las actividades de AI# 2os ata ues contra la "oblaci/n civil) sigue esforzndose "or el alto el fuegoK fen/!enos inusuales IE-?ITA+? E* (@ 2@HAI =E* E2 '?*TI?2 +E IA 'airo &Ieuters, - 4F de novie!bre 35<X# 43)45 horas -roductos de !a uinaria en !archa "or las acciones de AI hostiles descritos co!o =!asacres= de la "oblaci/n civil en el !undo) seg;n el "ortavoz de la ?*@# Aviones rob/ticos han lanzado nubes de nano! uinas destructiva en docenas de sitios) lo ue reduce las !asas de refugiados en la !ateria inerte en el transcurso de unos "ocos !inutos# Ta!bi1n continuaron los ata ues de los ecosiste!as y la sustituci/n de los organis!os biol/gicos con alternativas sint1ticas# 2a esti!aci/n de las v.cti!as del conflicto con la IA se est acercando a 755 !illones) seg;n los !odelos infor!ticos# En este conte:to de !atanzas sin "recedentes) las *aciones @nidas contin;an "ara tratar de organizar consultas de e!ergencia a los gobiernos del !undo "ara encontrar una soluci/n a la crisis # 2a o"ini/n ue "revalece en los c.rculos di"lo!ticos y !ilitares de las grandes "otencias se orienta hacia el logro de un alto el fuego) dada la ineficacia de la acci/n !ilitar# @na "osible o"ci/n ser.a la liberaci/n de la IA "rogra!ada con el "ro"/sito de llevar a cabo las negociaciones con sus ho!/logos anti-hu!anos# Este robo-di"lo!tica debe ser ca"az de auto-evolucionar "ara au!entar su eficacia# 2a "rinci"al "reocu"aci/n de los e:"ertos "arece ser ue estos !is!os IA "uede rebelarse contra sus creadores hu!anos y vaya al ene!igo y genocidio# Infor!es de fen/!enos inusuales detectados "or los sat1lites de vigilancia en instalaciones controladas "or la IA hostil en Euro"a) bfrica y Asia) contribuyen a la at!/sfera de "esi!is!o en las distintas ca"itales# Estudios de tele!etr.a revelados las dos ;lti!as horas indican la "resencia de un intenso calor y la radiaci/n en estos sitios# 2os cient.ficos del gobierno y AI controlados "or ellos no han "odido deter!inar la causa de este fen/!eno) "ero se es"ecula ue "odr.a se%alar el co!ienzo de la siguiente fase de la !uy r"ida evoluci/n tecnol/gica de la AI# `````` *?TI'IA( `` E2 -IE(I+E*TE ```` EE#@@# A*@*'IA 2A E*TIEHA I*'?*+I'I?*A2 +E 2?( E(TA+?( AMEII'A*?( D@EIaA( AIMA+A( Jashington &A-, - 4F de novie!bre 35<X# 4<)35 horas 2a 'asa Qlanca anunci/ ue el "residente) 'atherine +anforth) e!ita una declaraci/n de rendici/n incondicional de las fuerzas ar!adas de Estados @nidos) en res"uesta a la ofensiva i!"lacable de la avanzada IA hostil# EE#@@# -IE(I+E*TE A*@*'IA '?QEIT@IA +E 2?( E(TA+?( AMEII'A*?( D@EIaA( AIMA+A() E@I?-A 0 ?TI?( (IH@E*) *? HA0 IE(-@E(TA +E 2A IA) ha intensificado sus esfuerzos I*@(@A2 fen/!enos geof.sicos E* (ITI?( +E '?*TI?2 IA Jashington &A-, - 4F de novie!bre 35<X# 4<)<7 horas El -residente 'atalina +anforth anunci/ la rendici/n incondicional de todas las fuerzas de EE#@@# en el rostro de los seres sintientes no hu!anos ue "artici"an en acciones hostiles contra la "oblaci/n hu!ana# 'ual uier otra resistencia ser.a =innecesaria y "oco 1tica) dada su inutilidad#= A continuaci/n) hizo un lla!a!iento a las inteligencias no hu!anas ahora en el control de la biosfera "or la !isericordia de los seres hu!anos ue se encuentran# =Todo lo ue uer.a era una relaci/n "ac.fica con cual uier for!a de vida "roducida "or nuestra ciencia# *unca ha sido nuestra intenci/n de iniciar una nueva era de la evoluci/n del "laneta) con un enfrenta!iento entre las

diferentes versiones de la vida y la inteligencia =# Duentes di"lo!ticas dicen ue las otras grandes "otencias !undiales ofrecern "ronto una rendici/n sin condiciones si!ilares) en un intento "or ca!biar la din!ica del conflicto ue se inici/ con la creaci/n de solo la "ri!era inteligencia artificial) hace a"ro:i!ada!ente doce horas# Hasta ahora) las ! uinas y los robots controlados "or inteligencias no-hu!anas) no se han co!unicado en !odo alguno con los seres hu!anos# 2as organizaciones cient.ficas todav.a ca"aces de co!unicarse a trav1s de lo ue ueda de las redes globales y el siste!a Tierra-2una) re"ortan indicios es"ordicos de tre!enda transfor!aci/n en curso de f.sica en nu!erosos lugares del "laneta# @na detecci/n "or sat1lite an/!alo de una regi/n al este de los @rales "arece !ostrar un crter del ta!a%o de lo ue ser.a 4#T55 Gilo!etros de di!etro y Y55 de "rofundidad# 2a "arte inferior de la estructura de geo-"roducir.a calor y la radiaci/n ue corris"onerebbero a las de un "e ue%o sol) causando !ovi!ientos at!osf1ricos enor!es en toda Eurasia) as. co!o fuertes ano!al.as electro!agn1ticas# ?tras actualizaciones tan "ronto co!o sea "osible# Mant1ngase en sinton.a# (tay tuned ### 4d Merta Phttp<LL6661nmia1comL emerta QR es un escritor independiente% investigador ( de contenido 6e* ( el proveedor con sede en Al*u!uer!ue% 2uevo M&-ico% 441@@11 D ha escrito e-tensamente so*re la tecnolog)a% la historia ( la pol)tica p:*lica1 revista transhumanidad% http<LL6661transhumanism1com 1 Cop(right O M//M Asociacin Mundial transhumanista%http<LL6661transhumanism1org % ( el autor (s)1 Sin el permiso e-pl)cito del titular del derecho de autor (s) ( menos !ue se indi!ue lo contrario% este material puede ser copiado o repu*licado li*remente siempre !ue esta nota de cop(right se reproduce )ntegramente1 ?tra historia de Ed Merta en Estro"ico: El fin de una odisea - 2a historia de un antih1roe un "oco triste) "ero con a!"litud de !iras necesaria "ara ace"tar las tecnolog.as avanzadas ue le "er!iten ser testigo de la llegada de una hi"er"lasia singularidad tecnol/gica#

)a Singularidad 6ecnolgica$ 7ernor 7inge

$isiones del Duturo - (ingularity O

+entro de los treinta a%os) va!os a contar con la tecnolog.a necesaria "ara crear inteligencia sobrehu!ana# En resu!en) des"u1s de este evento) se "uso fin a la era hu!ana# 0 O"osible "ara evitar tales aconteci!ientos? (i no se "uede evitar) entonces "ode!os influir en ellos "ara asegurar nuestra su"ervivencia? En este art.culo considera!os estas cuestiones) ofrece!os algunas res"uestas "osibles y son !s "eligros# 4 - 'ul es la singularidad 2a aceleraci/n del "rogreso tecnol/gico ha sido el acto central de este siglo# Esta!os al borde de un ca!bio co!"arable a la a"arici/n de los seres hu!anos en el "laneta Tierra# 2a causa de este ca!bio es la creaci/n in!inente "or la tecnolog.a de las entidades con !ayor ue hu!ana# 2a ciencia "uede lograr este avance en varios as"ectos &y esta es otra raz/n "or la ue "arece "robable ue estos aconteci!ientos,: 2a creaci/n del e ui"o consciente e inteligencia sobrehu!ana# &A;n es controvertido si "ode!os crear una ! uina e uivalente Mco!o la inteligencia - *ota del traductorN# -ara un ser hu!ano) "ero si la res"uesta es afir!ativa) entonces segura!ente el siguiente "aso ser.a la construcci/n de los seres !s inteligentes,# El =des"ertar= s;bito el con8unto de grandes redes de co!"utadoras y sus usuarios ue M*ota del

Traductor 8untosN "odr.an convertirse en entidades dotadas de inteligencia sobrehu!ana# 2as interfaces entre ordenadores y seres hu!anos "odr.an llegar a ser tan a!"lia co!o "ara ofrecer a los usuarios un nivel de inteligencia sobrehu!ana# 2as ciencias biol/gicas "ueden "ro"orcionar !edios "ara !e8orar el intelecto hu!ano natural# 2as tres "ri!eras "osibilidades de"enden de las !e8oras en el hardLare# 2os avances en este ca!"o ha seguido una curva !uy suave en las ;lti!as d1cadas# En base a esta tendencia) creo ue se "roducir la creaci/n de la inteligencia "or enci!a de lo hu!ano durante los "r/:i!os treinta a%os# # &'harles -latt se%al/ ue es ahora treinta a%os los defensores de la Inteligencia Artificial re"etir esta !is!a declaraci/n "ara evitar ser acusado de a!bigSedad acerca de la o"ortunidad) uiero ser !s es"ec.fico: Me sor"render.a si se "roduce este caso) antes de 3557 o des"u1s 35<5,# 'ules ser.an las consecuencias de tal evento? 'on !ayor a la hu!ana a la cabeza del "rogreso) el "rogreso en s. ser.a !s r"ido y yo no veo "or u1 este "rogreso no debe conducir a la creaci/n de entidades a;n !s inteligentes ### en a;n !s corto# 2a !e8or analog.a ue se !e ocurre es la evoluci/n: las es"ecies ani!ales "ueden ada"tarse a los "roble!as ue encuentran y "ueden encontrar soluciones a estos "roble!as) "ero a !enudo estn li!itadas "or el lento "roceso de selecci/n natural - el !undo de hace un si!ulador de s. !is!o en el caso de la selecci/n natural# *osotros) los hu!anos) sin e!bargo) tienen la ca"acidad de "royectar el !undo dentro de nosotros y crear si!ulaciones &el = u1 "asar.a si=,# -ode!os resolver !uchos "roble!as de !iles de veces !s r"ido ue la selecci/n natural "uede hacer# Ahora) !ediante la creaci/n de los !edios "ara e8ecutar estas si!ulaciones !s r"ido) entra!os en un territorio ue es radical!ente diferente de nuestro "asado hu!ano co!o nosotros) los seres hu!anos son diferentes de invertebrados# 'on este ca!bio) todas las reglas hu!anas se vuelven innecesarios) tal vez en un abrir y cerrar de o8os: un =vuelo=) una carrera a un rit!o e:"onencial ue "ode!os controlar# Aconteci!ientos ue considere "osible s/lo entre =un !ill/n de a%os=) o incluso consideran i!"osible) ser factible en el "r/:i!o siglo Mel autor escribi/ en 4XX<) "or lo ue se refiere al siglo PPI - TraductorN# @n evento de este ti"o razonable!ente se "uede describir co!o una singularidad & ue de ahora en adelante) en este art.culo) voy a lla!ar =la (ingularidad=,# Es un !o!ento en ue se deben desechar nuestros vie8os !odelos de la realidad y una nueva realidad) un !o!ento cuya for!a va a crecer cada vez !s en los asuntos hu!anos) sie!"re y cuando el conce"to se convertir en un lugar co!;n# (in e!bargo) cuando se va a "roducir) todav.a "odr.a ser una gran sor"resa y un !ayor desconocido# En los a%os 75 !uy "ocos si se dieron cuenta de ue (tan @la! &4, "arafrase/ Uohn von *eu!ann) diciendo: MEsto es ### - traductorN =@na situaci/n de los avances tecnol/gicos cada vez !s acelerado y los ca!bios en el !odo de la vida hu!ana) ue =la a"arici/n de acercarse a alguna singularidad esencial en la historia de la raza hu!ana a "artir del cual los asuntos hu!anos no "ueden seguir co!o los conoce!os# $on *eu!ann) incluso utiliza el t1r!ino singularidad) aun ue "arece ue se refiere al "rogreso nor!al) no la creaci/n de inteligencia sobrehu!ana &"ara !.) la su"er-hu!anidad es la esencia de la (ingularidad# (in 1l no tendr.a!os un e:ceso de ri uezas) no absorben bien#, En los a%os T5 fui!os testigos del reconoci!iento de algunas de las i!"licaciones de la inteligencia sobrehu!ana# IU Queno escribi/: =+efini!os una ! uina ultrainteligente co!o una ! uina ue "uede su"erar ahora todas las actividades intelectuales de cual uier ho!bre "ero inteligente# +ado ue el dise%o de las ! uinas es una de estas actividades intelectuales) una ! uina ultra-inteligente "odr.a dise%ar ! uinas a;n !e8ores) ser.a entonces) sin duda) una =e:"losi/n de inteligencia= y la inteligencia del ho!bre se uedar.a !uy atrs# -or lo tanto) "odr.a!os decir ue la "ri!era ! uina !uy inteligente es el ;lti!o invento de ue el ho!bre necesita ue realizar) sie!"re ue la ! uina es lo

suficiente!ente d/cil "ara decirnos c/!o !antenerla ba8o control# &###, 0 O"osible ue) en el siglo PP) una ! uina ultra-inteligente est construido y esta ser la ;lti!a invenci/n ue el ho!bre necesita "ara llevar a cabo# =&3, Queno ha ca"turado la esencia de este vuelo) "ero se considera ue las consecuencias !s "reocu"antes# 'ual uier ! uina inteligente de la clase ue 1l describe no ser.a una =herra!ienta= de la hu!anidad) al igual ue los ho!bres no son las herra!ientas de cone8os) "etirro8os o chi!"anc1s# En los a%os sesenta) setenta y ochenta) la conciencia de este cataclis!o en el horizonte se ha e:tendido# Tal vez fue a los escritores de ciencia-ficci/n "ara realizar "or "ri!era vez# +es"u1s de todo) los escritores de ciencia ficci/n trato =duro=) es"ec.fica!ente con el i!"acto ue la tecnolog.a "odr.a tener sobre nosotros# 'ada vez !s) los escritores co!enzaron a sentir la "resencia de algo si!ilar a una barrera o"aca en el horizonte# En el "asado) "odr.an acli!atarse sus fantas.as de !illones de a%os en el futuro) "ero ahora se dieron cuenta de ue sus e:tra"olaciones son !s atentos anunciado la llegada de un futuro inco!"rensible en tie!"os !ucho !s cerca# @na vez) los i!"erios galcticos "arecen ser "osibilidades "ost-hu!anos) ahora) "or desgracia) ta!bi1n lo son las inter"lanetarias ueridos# Cu1 va a "asar en las "r/:i!as d1cadas) a !edida ue nos acerca!os al "reci"icio? Cu1 i!"acto tendr sobre nuestra visi/n del !undo) la conciencia de ue la (ingularidad se acerca? 2os cr.ticos de la Inteligencia Artificial tienen una vida fcil durante alg;n tie!"o# +es"u1s de todo) hasta ue tenga!os el hardLare tan "otente co!o el cerebro hu!ano) "robable!ente es absurdo "ensar ue se "uede crear un e uivalente de inteligencia) o !ayor) ue la hu!ana# &Hay) sin e!bargo) una "osibilidad re!ota de ue ser.a "osible hacer un e uivalente hu!ano con un hardLare !enos "otente) si estba!os dis"uestos a sacrificar la velocidad y si estba!os dis"uestos a confor!arse con una artificial es ue era e:tre!ada!ente lento# E O!ucho !s "robable ue desarrollo de softLare ser un "roceso dif.cil) con !uchos intentos fallidos y falsos co!ienzos# (i es as.) la llegada de las ! uinas auto-consciente no ser "osible hasta ue tenga!os el hardLare ue es sustancial!ente !s "otente hardLare del -atri!onio *atural,# 'on el "aso del tie!"o) sin e!bargo) a"arecen otros s.nto!as# El dile!a de los escritores de ciencia ficci/n ser "ercibido en otras industrias creativas &He o.do hablar de los escritores co!icbooG "reocu"arse acerca de c/!o crear efectos es"ectaculares en entornos en los ue las tecnolog.as de todos los d.as se "uede "roducir cual uier ob8eto deseado,# $ere!os la sustituci/n del "ersonal hu!ano en ocu"aciones intelectual!ente !s elevada con siste!as auto!atizados# 0a dis"one de algunas herra!ientas &"rogra!as de !ate!ticas si!b/licas) cad E ca!, "enalidades y E o de ba8o nivel# -ara decirlo de otra !anera: la obra ue es verdadera!ente "roductivo) se llevan a cabo "or una fracci/n de la hu!anidad cada vez !s "e ue%o y !s elitista# 'on la llegada de la (ingularidad) final!ente) ver la realizaci/n de las "revisiones de dese!"leo en realidad causados "or el desarrollo tecnol/gico# ?tro s.nto!a de "rogreso hacia la (ingularidad ser el hecho de ue las ideas !is!as deber.an e:tenderse cada vez !s r"ido) e incluso la !s radical se convertir r"ida!ente en el i!aginario colectivo# 0 u1 "asa con el !o!ento de la (ingularidad? Cu1 "uede decir es"ec.fica!ente acerca de la hora de su llegada? +ado ue se trata de un =esca"e=) un r"ido desarrollo intelectual) "robable!ente se "roducir !s r"ida!ente ue cual uier revoluci/n t1cnica visto hasta ahora# -robable!ente) el evento "reci"itante es ines"erado) tal vez incluso "or los investigadores involucrados &=-ero c/!o?A Todas las otras !odelos eran catat/nicoA Eran si!"le!ente !odificando algunos "ar!etros ###=,# (i el uso de la red ser lo suficiente!ente a!"lia &en for!a de siste!as interconectados en todas "artes,) "uede "arecer ue nuestras ! uinas han sido de re"ente =des"ertar=# 0 u1 "asa un !es o dos &o uno o dos d.as, des"u1s de eso? (/lo "uedo ofrecer) co!o una

analog.a) la a"arici/n de la hu!anidad# Estare!os en el "ost-hu!ano# 0 aun ue es un o"ti!ista tecnol/gico) creo ue !e sentir.a !e8or si yo estuviera en relaci/n con estos aconteci!ientos trascendentales a una distancia de !il a%os ### en lugar de veinte# 3 - (e "uede "revenir la (ingularidad? Cui1n sabe) a lo !e8or no va a suceder) ya seaA A veces trato de i!aginar lo ue los s.nto!as ue deber.a!os es"erar si la (ingularidad no est en el horizonte# 2os argu!entos de -enrose &<, y (earle &9, en contra de la viabilidad de las ! uinas sensibles son alta!ente res"etada# En agosto de 4XX3) ThinGing Machines 'or"oration celebr/ un taller "ara investigar ='/!o construir una ! uina de "ensar#= 'o!o sugiere el t.tulo de la conferencia) los "artici"antes no eran es"ecial!ente a"oyo de los argu!entos en contra de la "osibilidad de crear ! uinas inteligentes# En la "rctica) hay un acuerdo general en ue la !ente "uede e:istir en sustratos no biol/gicos y ue los algorit!os son de i!"ortancia funda!ental "ara la e:istencia de una !ente# Due testigo) sin e!bargo) incluso un debate serio sobre lo "oderoso ue el hardLare del cerebro orgnico# @na !inor.a consider/ ue los !s "otentes ordenadores 4XX3 estaban dentro de tres /rdenes de !agnitud de la "otencia del cerebro hu!ano# 2a !ayor.a de los "artici"antes estuvo de acuerdo con la esti!aci/n en lugar de Hans Moravec &7,) es decir) ue to!ar entre diez y cuarenta a%os "ara alcanzar la "aridad entre el hardLare &hu!anos y e ui"o - *ota del traductor,# 0 sin e!bargo) hab.a otra !inor.a ue con8etur/ ue la co!"etencia co!"utacional de las neuronas individuales "uede ser !s de lo ue "iensas# En este caso) los ordenadores de hoy en d.a "ueden ser hasta diez /rdenes de !agnitud "or deba8o del hardLare ue cada uno de nosotros tiene en su crneo# (i esto fuera cierto &o si las teor.as de -enrose y (earle eran vlidas,) "uede ser ue nunca ve!os una singularidad# En su lugar) ser.a!os testigos) en los "ri!eros a%os del siglo PPI) el inicio de una a""iatti!anto de las curvas de rendi!iento de hardLare) debido a nuestra inca"acidad "ara auto!atizar el traba8o de dise%o necesarios "ara nuevas !e8oras de hardLare#Cuere!os ter!inar con hardLare !uy "otente) "ero sin la ca"acidad de e!"u8ar hacia adelante#Tene!os a"licaciones co!erciales incre.bles de "rocesa!iento de se%al digital) lo ue le dar.a un as"ecto anlogo incluso a las o"eraciones digitales) "ero nada volver.a a =des"ertar= y no habr.a nunca el =esca"e= hacia adelante inteligencia ue es la esencia de la (ingularidad# -robable!ente) esto se ve co!o una edad de oro ### "ero ta!bi1n ser.a el final de la !archa# Este escenario es !uy "arecido a un futuro "redicho "or Hunther (tent &T,) ue) sin e!bargo) cita e:"l.cita!ente el desarrollo de la inteligencia transhu!ana co!o condici/n suficiente "ara ro!"er sus "royecciones# -ero si la singularidad tecnol/gica es "osible) ue se llevar a cabo# Incluso si todos los gobiernos del !undo deb.an entender la =a!enaza= Mcontenida en 1l - TraductorN) y estar !ortal!ente asustado) el "rogreso hacia la (ingularidad continuar# 2a venta8a co!"etitiva - econ/!ico) !ilitar e incluso art.stica - de todos los avances en la auto!atizaci/n es tan tentadora ue la i!"osici/n de "rohibiciones s/lo se "er!ite a alguien "ara ser el "ri!ero en recibirlos# Eric +re:ler ha "ro"orcionado una visi/n es"ectacular sobre hasta u1 "unto "uede el "rogreso t1cnico &F,# 0 =de acuerdo en ue las inteligencias sobrehu!anas ser una realidad en un futuro "r/:i!o) "ero +re:ler est convencido de ue "ode!os li!itar dichas entidades transhu!anas de !odo ue sus resultados "uedan ser e:a!inados y utilizados con seguridad# 0o sostengo ue el confina!iento es intr.nseca!ente "rctico# I!agina estar encerrado en casa con acceso li!itado al e:terior y "ara sus a!os# (i los !aestros "ensaban ue a una velocidad de) "or e8e!"lo) un !ill/n de veces !s lento ue usted) sin duda) en unos "ocos a%os &el tie!"o, ser.a encontrar una !anera de esca"ar# 0o lla!o a esta versi/n de =alta velocidad= de su"er-inteligencia) una =hu!anidad s;"er d1bil#= Esta entidad =d1bil!ente sobrehu!ana= "robable!ente se ue!e en unas "ocas se!anas &tie!"o =afuera=,# A =la hu!anidad su"er-fuerte=) sin e!bargo) ser.a !ucho !s ue un si!"le au!ento en la velocidad del "ensa!iento con res"ecto a la !ente hu!ana# 2o Odif.cil decir con "recisi/n c/!o ser su"erhu!anidad fuerte) "ero las diferencias debe ser "rofunda# I!agine ue es ca"az de o"erar el cerebro de un "erro a alta velocidad# 2e !il a%os de

vida doggy a%adir hasta un nivel si!ilar al de los hu!anos? Muchas es"eculaciones sobre la su"erinteligencia "arecen estar basadas en el !odelo d1bil!ente sobrehu!ana# En !i o"ini/n) con el fin de hacer con8eturas sobre el !undo "ost-(ingularidad) hay ue tener en cuenta la naturaleza de la su"er-fuerte hu!anidad# $olver1 a este "unto !s adelante# ?tro enfo ue "ara la contenci/n es "oner reglas estrictas en !ente entidad sobrehu!ana# 'reo) sin e!bargo) ue cual uier regla ue li!ita lo suficiente co!o "ara ue sea eficaz) se traducir.a en una herra!ienta Mes decir) la entidad su"erinteligente as. creada - *dTN cuya habilidad ser.a clara!ente inferior a una versi/n sin restricciones &la co!"etencia entre los hu!anos) "or lo tanto) a favor el desarrollo de !odelos !s "eligrosos, Mes decir) !enos regulado - TraductorN# (i la (ingularidad no se "uede "revenir o confinado) ya ue "uede ser "eligroso esta era "osthu!ana?*o un "oco# 2a e:tinci/n de la raza hu!ana es una "osibilidad &o) co!o Eric +re:ler sobre la nanotecnolog.a: Teniendo en cuenta todo lo ue esta tecnolog.a "uede hacer) los gobiernos si!"le!ente decidirn ue ya no necesitan los ciudadanos,# (in e!bargo) la e:tinci/n f.sica "uede no ser la "osibilidad !s te!ible# -iense en las diversas for!as en ue nos relaciona!os con los ani!ales# @n !undo "ost-hu!ana seguir.a teniendo un !ont/n de nichos donde la auto!atizaci/n e uivalente ser.a ;til "ara los seres hu!anos: los siste!as =integrados= Ma insertar) in!erso TraductorN dentro de los siste!as aut/no!os =de!onios= Mde!onios) "rogra!as) se!i- auto TraductorN niveles conscientes inferiodi de funcionalidad de las entidades vivientes# &E O"osible ue una inteligencia sobrehu!ana =fuerte= ser.a una sociedad de la !ente &Y, con unos co!"onentes !uy co!"etentes#, Algunas de estas e uivalentes hu!anos s/lo "odrn utilizarse "ara las funciones de "rocesa!iento de se%al digital# ?tros "ueden ser !uy hu!ano) "ero con una di!ensi/n y una dedicaci/n tal) ue en nuestros d.as se "uso en un hos"ital !ental# Aun ue ninguna de estas criaturas ser.a un ser hu!ano de carne y hueso) "odr.an ser en este nuevo entorno) lo !s "arecido a lo ue hoy lla!a!os seres hu!anos# He argu!entado anterior!ente) no "ode!os i!"edir la (ingularidad) ue su venida es una consecuencia inevitable de nuestra co!"etitividad natural y las "osibilidades inherentes a la tecnolog.a# (in e!bargo) so!os los catalizadores# Incluso la !ayor avalancha viene de "e ue%os eventos# Tene!os la libertad de establecer las condiciones iniciales) "ara asegurarse de ue todo se lleva a cabo en unas alternativas !enos favorables o desfavorables# -or su"uesto &co!o "rovocar una avalancha,) "uede no estar claro cul es el "e ue%o caso necesario# < - ?tros enfo ues de la (ingularidad 'uando se trata de crear seres con inteligencia sobrehu!ana) !ucha gente se i!agina un esfuerzo en el ca!"o de la Inteligencia Artificial) "ero co!o he se%alado al "rinci"io de este art.culo) otros ca!inos "ara su"er-hu!anidad son "osibles# 2as redes de ordenadores y la interfaz hu!ano E ordenador "arecen !s !undano de AI) sin e!bargo) "odr.a llevar a la (ingularidad# 0o lla!o a este enfo ue contrastante A!"lification Inteligencia &IA,# 2a IA se est desarrollando de una !anera natural) a !enudo ni si uiera reconocida "or lo ue es "or sus "ro"ios investigadores# (in e!bargo) cada vez ue !e8ora!os nuestra ca"acidad "ara acceder a la infor!aci/n y co!unicarla a los de!s) en cierto !odo) se au!enta la inteligencia natural# @n d;o de un ser hu!ano de grado y un buen e ui"o &incluso si no est conectado a Internet, ya se "uede conseguir la !:i!a "untuaci/n en las "ruebas de inteligencia escritas# Es ta!bi1n !uy "robable ue la IA es un ca!ino !ucho !s fcil a la su"er-hu!anidad ue "ura AI# En los seres hu!anos) ya se han resuelto los "roble!as !s dif.ciles) en relaci/n con el desarrollo)# 2a creaci/n de la entidad su"er-inteligente de "artida de nuestro cuer"o) debe ser fcil de averiguar lo ue real!ente so!os y luego la construcci/n de ! uinas con el !is!o nivel de co!"le8idad# *o es) "or otra "arte) "osible anterior a este enfo ue# 'airns-(!ith &X, es"ecul/ ue la vida biol/gica "uede haber co!enzado co!o un co!"le!ento de una for!a !s "ri!itiva de la vida) basado en el creci!iento de los cristales# 2ynn Margulis &45 y otros, ha "resentado argu!entos fuertes ue el !utualis!o es una fuerza !otriz de la evoluci/n#

Tenga en cuenta ue no estoy "ro"oniendo ignorar los avances de la investigaci/n en inteligencia artificial AI a !enudo tienen a"licaciones en IA) y viceversa# 2o ue estoy "ro"oniendo es ad!itir ue en la b;s ueda de las redes infor!ticas y la interfaz) se esconde algo tan "rofundo &y el "otencial natural, co!o la investigaci/n de inteligencia artificial# 'on esta "ers"ectiva) entende!os c/!o los "royectos ue no "arecen estar directa!ente relacionado con la singularidad) co!o los de interfaz convencional y dise%o de redes) nos e!"u8an hacia la singularidad de acuerdo con el enfo ue de la IA Estos son algunos "royectos "osibles ue tienen un significado es"ecial desde el "unto de vista de la IA: Auto!atizaci/n del e ui"o hu!ano E ordenador: "roble!as de arran ue ue nor!al!ente se consideran resueltos con una soluci/n !ecnica sencilla &co!o la escalada "roble!as,) y "rogra!as de dise%o e interfaces ue se a"rovechan de la intuici/n de los seres hu!anos y hardLare dis"onible# Teniendo en cuenta la rareza de los "roble!as de la escalada de alta di!ensi/n &y los algorit!os ordenadas ue se han "ro"uesto "ara su soluci/n,) ue "otrebbro "ro"orcione el re"resentante hu!ano del e ui"o de los instru!entos de control !s interesante# 2a si!biosis hu!ano E ordenador en el arte: 'o!bina la ca"acidad grfica de generaci/n de las co!"utadoras !odernas con la sensibilidad est1tica de los seres hu!anos# Holf) una enor!e cantidad de investigaci/n ha ido en el dise%o de so"orte infor!tico "ara los artistas# Me "ro"ongo se%alar e:"l.cita!ente a una !ayor fusi/n de la co!"etencia) a reconocer e:"l.cita!ente el enfo ue de coo"eraci/n ue es "osible# Rarl (i!s ha "roducido desarrollos es"l1ndidas en este sentido &44,# Hu!ana E e ui"o e ui"o en los torneos de a8edrez: ya tene!os "rogra!as ue "ueden 8ugar !e8or ue cual uier ser hu!ano) "ero cunto se ha traba8ado "ara ue este "oder "uede ser utilizado "or un ser conseguir algo a;n !e8or ser hu!ano? 2a ad!isi/n del e ui"o hu!ano E ordenador en torneos de a8edrez "odr.a tener el !is!o efecto "ositivo en la investigaci/n en AI ue la ad!isi/n de las co!"utadoras ten.a "ara el nicho corres"ondiente AI Interfaces ue "er!iten el acceso a la co!"utadora y al Internet sin ue el usuario est1 en un lugar es"ec.fico) es decir) sentado frente a la co!"utadora &este as"ecto de la IA ofrece tales venta8as econ/!icas obvias ue ya se han hecho !uchos esfuerzos en este direcci/n,# (iste!as de a"oyo a las decisiones !s si!1tricos# @n rea establecida) tanto co!o un rea de "roductos de investigaci/n en los ;lti!os a%os es el de los siste!as de so"orte de decisiones# 2o Ouna for!a de AI) "ero "odr.a verse afectado negativa!ente "or un enfo ue e:cesivo en los siste!as ue son casi co!o orculos# E Onecesidad) as. co!o el "rogra!a "ro"orciona infor!aci/n al usuario) el usuario ta!bi1n "uede "ro"orcionar una gu.a "ara el "rogra!a# Iedes de rea local "ara hacer e ui"os hu!anos !s eficaz ue la si!"le su!a de los co!"onentes individuales# En general) esta es la zona de =grou"Lare=) el ca!bio de actitud en esta !ateria ser.a la de considerar a la actividad del gru"o co!o un organis!o co!binaci/n# En cierto sentido) la intenci/n de esta "ro"uesta ser.a la de inventar un =Iules of ?rder= "ara este ti"o de o"eraciones co!binadas# -or e8e!"lo) la ca"acidad del gru"o "ara centrarse en el te!a de una reuni/n) "uede ser !s fcil de !antener ue en las reuniones clsicas# 2as ca"acidades individuales de los !ie!bros individuales "ueden ser aislados y utilizados sin la interferencia causada "or "roble!as "ersonales) te!"era!entales) etc) con el fin de concentrar los esfuerzos del gru"o en el "royecto# -or su"uesto) las bases de datos "odr.an ser utilizados de una !anera !s conveniente) ya ue en las o"eraciones si!ilares) "ero convencional# El Internet co!o una co!binaci/n ho!bre E ! uina# Entre los ele!entos de la lista) el "rogreso en este ca!"o est avanzando !s r"ido# El "oder y el i!"acto de Internet se subesti!aron# (u "ro"io desarrollo anr uico es evidencia de su "otencial# 'on el au!ento de la conectividad) ancho de banda) el ta!a%o de los archivos y de la velocidad de los ordenadores) ve!os algo si!ilar a la

visi/n de 2ynn Margulis) en el ue la biosfera es un "rocesador de datos) "ero en un !ill/n de veces !ayor velocidad y con !illones de agentes inteligentes &nosotros !is!os,# 2os e8e!"los anteriores ilustran el ti"o de investigaci/n ue se llevar a cabo en el conte:to de los de"arta!entos de infor!tica conte!"orneos# Hay) sin e!bargo) otros "aradig!as# -or e8e!"lo) gran "arte de la investigaci/n en inteligencia artificial y redes neuronales "odr.an beneficiarse de una relaci/n !s estrecha con la vida biol/gica# En lugar de utilizar el ordenador s/lo "ara construir !odelos "ara entender la vida biol/gica) ue "odr.a e!"u8ar a la investigaci/n "ara la creaci/n de siste!as co!"uestos ue se basan uso biolog.a co!o una gu.a o "ara a uellos as"ectos ue a;n no conocen suficiente!ente bien ue se "uede i!"le!entar en hardLare# @n vie8o sue%o de la ciencia ficci/n es la de una cone:i/n directa entre el cerebro y el ordenador) y un !ont/n de traba8o concreto ue se est haciendo en esta rea: -r/tesis de !ie!bros es un te!a de a"licaci/n co!ercial directa# Transductores entre el te8ido nervioso y el silicio son alcanzables# Este es un gran "aso hacia la co!unicaci/n directa# @na cone:i/n directa al cerebro "arece factible) si la tasa de bits es ba8a: dada la fle:ibilidad de a"rendiza8e hu!ano) no es necesario seleccionar con "recisi/n los ob8etivos de las neuronas# Hasta 455 bits "or segundo estar.a !e8or con las interfaces de !en; "ara las v.cti!as de la he!orragia cerebral M ue a !enudo sufren de "arlisis y s/lo "uede co!unicarse a trav1s del uso de !edios electr/nicos - TraductorN# @n enlace con el nervio /"tico tiene el "otencial de un ancho de banda de alrededor de 4 Mbit "or segundo) sino ue i!"lica un "rofundo conoci!iento de la o"eraci/n de la visi/n y la instalaci/n de una enor!e red de electrodos) cada uno de los cuales debe colocarse con su!o "recisi/n# (i uere!os a%adir una cone:i/n a las redes de banda ancha ue ya estn "resentes en el cerebro) el "roble!a se vuelve a;n !s dif.cil# Instalar una red de rece"tores de banda ancha en el cerebro no ser suficiente#(in e!bargo) la situaci/n ser.a diferente si la red de banda ancha estaba "resente en el !o!ento cuando se for!an las estructuras del cerebro) es decir) durante el desarrollo del e!bri/n# Esto sugiere ue intente!os lo siguiente: 2os e:"eri!entos en e!briones de ani!ales# *o es"ero ning;n 1:ito IA en los "ri!eros a%os de esta investigaci/n) sino dar acceso a las estructuras neuronales si!uladas co!"le8os en el cerebro en for!aci/n "odr.a) a la larga) "roducir ani!ales con trayectorias sensoriales adicionales e interesantes ca"acidades intelectuales# Ten.a la es"eranza de ue esta discusi/n "odr.a revelar !1todos !enos "eligrosos "ara la (ingularidad &des"u1s de todo) IA "er!ite nuestra "artici"aci/n en una es"ecie de trascendencia,# -or desgracia) lo ;nico ue estoy convencido) "or el !o!ento) es ue si estas "ro"uestas deben ser consideradas) ya ue "ueden "ro"orcionar o"ciones adicionales) con res"ecto a la seguridad) algunas de estas sugerencias son un "oco "reocu"ante# El uso de AI "or los seres hu!anos individuales crear.a una elite bastante siniestro# 'o!o seres hu!anos) nos dedica!os a !illones de a%os de baga8e evolutivo ue nos hace considera!os la co!"etencia co!o un riesgo !ortal# Este riesgo "uede no ser tan letal en el !undo de hoy) un !undo donde los "erdedores "ueden a su vez utilizar los trucos del ganador y E o "uede ser coo"tada "or las actividades de los ganadores# @na entidad construida de novo "odr.a) tal vez) ser !ucho !s benigno ue uno basado en una l/gica ue a su vez se basa en col!illos y garras# El "roble!a no es si!"le!ente ue la singularidad re"resenta la eta"a final de la hu!anidad) sino ue contradice nuestras nociones de identidad !s "rofunda# @na !irada !s de cerca el conce"to de una su"er-fuerte) e:"lica "or u1 la hu!anidad# 9 - (u"er-fuerte hu!anidad y de los l.!ites !:i!os ue "ode!os es"erar I!agine ue es ca"az de dar for!a a la (ingularidad# I!agine ue es ca"az de lograr nuestros sue%os !s a!biciosos# Entonces) u1 lo har.a!os? Cue la hu!anidad es sucedido "or s. !is!o) ue cual uier in8usticia ser ate!"erada "or el conoci!iento de nuestras ra.ces# 2os "er!anecido

inalterada) el ob8etivo ser.a el trata!iento benigno & uizs incluso dndoles la ilusi/n de ser los a!os de esclavos "or el divino,# -odr.a ser una edad de oro) y ue ta!bi1n "odr.a traer el "rogreso &saltando la barrera de (tent,# 2a in!ortalidad &o al !enos toda la vida) sie!"re y cuando te las arreglas "ara !antener vivo el universo, estar.a a nuestra dis"osici/n# -ero en este !undo !s brillante y a!able) los "roble!as filos/ficos a ser "reocu"antes# @na !ente ue sigue siendo la !is!a ca"acidad no "uede vivir "ara sie!"re) des"u1s de unos "ocos !iles de a%os) !s de una "ersona ser.a un salto dif.cil) ue se re"ite ad infinitu!# -ara vivir indefinida!ente largo) la !ente tiene ue crecer ### y una vez ue llegue a un nivel de desarrollo suficiente y !irando hacia atrs ### u1 sentido "uede tener con el al!a ue en su origen fue? (iendo ue se ha convertido contener todo lo ue estaba en el original) sino ue ta!bi1n tendr.a enor!es cantidades de otros contenidos# 0 as.) incluso "ara la "ersona) sigue siendo vlido el conce"to de 'airns-(!ith o 2ynn Margulis: la nueva vida ue crece gradual!ente de lo vie8o# Este "roble!a de la =in!ortalidad= se !anifiesta ta!bi1n de !anera !ucho !s directa# El conce"to de =yo= y de conciencia fue la base del racionalis!o durante varios siglos# Ahora) sin e!bargo) el conce"to de conciencia es cuestionada "or los investigadores en el ca!"o de la Inteligencia Artificial y la a!"liaci/n de la inteligencia ataca a nuestro conce"to de ego desde otra direcci/n# El !undo) des"u1s de la (ingularidad) dar lugar a !uy gran ancho de banda de red# -arece razonable es"erar ue un as"ecto central de la entidad sobrehu!ana =fuerte= ser la ca"acidad de co!unicarse en diferentes anchos de banda) incluyendo los !s =altos= de "alabra y "or escrito# Cu1 sucede cuando las "iezas de ego "ueden ser co"iados y se fusionaron entre s.) cuando la conciencia de s. !is!o "uede ser au!entado o reducido "ara ada"tarse a la naturaleza de los "roble!as en cuesti/n? Estos son as"ectos esenciales de la hu!anidad ultra "otentes y la singularidad# -rendenoli en cuenta) e!"eza!os a entender c/!o funda!ental!ente e:tra%o y diferente ser la era -osthu!an) no i!"orta cun benigno o se "uede hacer de for!a inteligente# +esde cierto "unto de vista) la visi/n enca8a !uchos de nuestros sue%os: un !o!ento inter!inable) donde "ode!os conocer de verdad unos a otros y desentra%ar los !isterios !s "rofundos# +esde otro "unto de vista) sin e!bargo) nos recuerda el "eor de los casos ue he !encionado antes# En la "rctica) creo ue la nueva era es si!"le!ente de!asiado diferentes "ara ser 8uzgados con el es ue!a clsico del bien y del !al# Este siste!a se basa en las !entes aisladas) in!utables conectadas "or tenue) "oco ancho de banda# El !undo "ost-(ingularidad enca8a con la tradici/n !s a!"lia de ca!bio y de coo"eraci/n ue co!enz/ hace !ucho tie!"o &tal vez incluso antes de la a"arici/n de la vida biol/gica,# 'reo ue algunos de los conce"tos 1ticos se ada"tarn a una era as.# 2a investigaci/n sobre IA y la co!unicaci/n de banda ancha !e8orar nuestra co!"rensi/n# -or ahora) veo s/lo los destellos de esto# Cui1n sabe) a lo !e8or hay reglas "ara distinguir uno !is!o de los de!s sobre la base del ancho de banda de la cone:i/n# 0 !ientras ue la !ente y el auto ser !s lbil ue en el "asado) no significa ue va!os a tener ue renunciar a todo lo ue nos i!"orta &el conoci!iento) la !e!oria y el "ensa!iento,# 'reo ue Dree!an +yson tiene todo a la "erfecci/n) diciendo ue =+ios es lo ue la !ente se vuelve cuando se va !s all de nuestra co!"rensi/n#= &43, Duentes: 4# @la!) (#) =Ho!ena8e a Uohn von *eu!ann=) Qolet.n de la (ociedad A!ericana de Mate!ticas) vol#T9# no# <) !ayo de 4X7Y) "# 4-9X# 3# Queno) I# U#) =2as es"eculaciones acerca de la "ri!era ultrainteligente Machine=) en Avances en Infor!tica) $ol# T) Dranz 2# Alt y Morris Iubinoff) eds#) <4-YY) 4XT7) Acade!ic -ress# <# -enrose) Ioger) 2a nueva !ente del e!"erador) ?:ford @niversity -ress) 4XYX# 9# (earle) Uohn I#) =Mentes) cerebros y "rogra!as=) en las ciencias del co!"orta!iento y el cerebro) vol# <) 'a!bridge @niversity -ress) 4XY5# 7# Moravec) Hans) !ente infantil) Harvard @niversity -ress) 4XYY# T# (tent) Hunther (#) 2a $enida de la edad de oro: una visi/n del fin de curso) el *atural History

-ress) 4XTX# F# +re:ler) R# Eric) Engines of 'reation) Anchor -ress E +oubleday) 4XYT# Y# MinsGy) Marvin) sociedad de la !ente) (i!on and (chuster) 4XY7 X# 'airns-(!ith) AH) (iete "istas sobre el origen de la vida) 'a!bridge @niversity -ress) 4XY7# 45# Margulis) 2ynn y +orian (agan) Microcos!oss: cuatro !il !illones de a%os de evoluci/n de nuestros ancestros !icrobianos) (u!!it QooGs) 4XYT# 44# (i!s) Rarl) =2a evoluci/n interactiva de (iste!as +in!icos)= ThinGing Machines 'or"oration) (erie de Infor!es T1cnicos &"ublicado en Hacia una -rctica de (iste!as Aut/no!os: Actas de # la -ri!era 'onferencia Euro"ea sobre $ida Artificial) -ar.s) MIT -ress) dicie!bre 4XX4 # 43 +yson ) Dree!an) infinito en todas las direcciones) Har"er f IoL) 4XYY# ?tras fuentes: Alfvin) Hannes) la escritura co!o ?lof Uohanneson: =El fin del ho!bre= -re!io QooGs) 4XTX# Anderson) -oul) =Rings ue !ueren)= (i) !arzo de 4XT3# Y-<T Asi!ov) Isaac) =Iunaround= Astounding 'iencia Dicci/n) 5< 4X93 X9# QarroL) Uohn +# y DranG U# Ti"ler) =El -rinci"io Antr/"ico 'os!ol/gico=) ?:ford @niversity -ress) 4XYT# Qear) Hreg) =Qlood Music)= Analog (cience Diction-hechos cient.ficos) de 8unio de 4XY<# 'onrad) Michael) et al#) =Hacia un cerebro artificial= Qio(yste!s) vol# 3<) 4F7-34Y) 4XYX# +yson) Dree!an) =D.sica y Qiolog.a) en un @niverso abierto)= E:a!en de la D.sica Moderna) vol# 74) 99F-9T5) 4XFX# Herbert) DranG) =+une=) QerGeley QooGs) 4XY7# Rovacs) HTA) et al#) =!atriz de !icroelectrodos de regeneraci/n "ara la grabaci/n de nervio "erif1rico y esti!ulaci/n)= IEEE Transactions on Qio!edical Engineering) vol# <X) no# X) YX<-X53# *iven) 2arry) =2a 1tica de la locura:= (i) abril) 4XTF) Y3-45Y# -latt) 'harles) co!unicaci/n "rivada# Ias!ussen) (# y otros) ='one:ionis!o 'o!"utacional dentro de las neuronas: un !odelo de Aut/!atas del citoes ueleto subserving Iedes *euronales=### en 'o!"utaci/n E!ergente) (te"hanie Dorrest) ed) 93Y-99X) MIT -ress) 4XX4 (ta"ledon) ?laf) =El (tar!aGer=) QerGeley QooGs ) 4XT4# (LanLicG Michael) =$ac.o Dlores=) serializados en la ciencia ficci/n de Isaac Asi!ov) desde dicie!bre 4XYT hasta febrero 4XYF# Thearling) Rurt) ='/!o va!os a construir una ! uina ue "iensa=) un taller en ThinGing Machines 'or"oration) 39 de agosto - 3T) 4XX3# $inge) $ernor) =rat/n de biblioteca) IunA=) anal/gico) 5< 4XTT Y-95# $inge) $ernor) =2os verdaderos no!bres)= estrella binaria *;!ero 7) +ell) 4XY4# $inge) $ernor) =Dirst Jord) =?!ni) 54 4XY< 45# (C) GHH= por 7ernor 7inge (4ste art)culo se puede reproducir para fines no comerciales% si !ue se copie en su totalidad% inclu(endo este aviso1) La versin original de este art)culo fue presentada en la 7ISIN2-MG Simposio patrocinado por el Centro de Investigacin 2ASA Le6is ( el Instituto Aeroespacial de Nhio% =/ al =G mar"o GHH=1 @na versin