Encuesta de Inteligencia artificial

Anders Sandberg y Nick Bostrom

fhi@philosophy.ox.ac.uk

Reporte tcnico: 2011-1

Encuesta de inteligencia artificial
(2011)
Investigacin Informe # 2011-2
Publicado por el futuro de la humanidad Instituto, la Universidad de
Oxford
Anders Sandberg y Nick Bostrom
En la conferencia FHI Winter Intelligence sobre la inteligencia
artificial 16/1 2011 una encuesta informal se realiz para obtener las
opiniones de los participantes sobre diversas cuestiones relacionadas con
la aparicin de la inteligencia artificial. Este informe resume los
resultados.
Haba 35 encuestas recogidas, lo que sugiere una tasa de respuesta de
41%.
Tiempo estimado
(HLMI)

para la inteligencia de la mquina al nivel humano

1. Suponiendo que no hay catstrofe globales

por lo que ao le asignar un 10% / 50%
que el desarrollo de la inteligencia de
Sintase libre de contestar "nunca" si
alcanz un hito tales.

que detengan el progreso,

/ 90% de probabilidad de
la mquina-nivel humano?
usted cree que nunca se

De las 35 respuestas, dos implicaba la imposibilidad de lograr alguna vez

HLMI y 3 implica que el eventual probabilidad de HLMI cada vez que se
logra es entre 50% y 90%. Las respuestas restantes estimaron el tiempo de
la siguiente manera:
La estimacin mediana de cundo habr 10% de probabilidad de HLMI fue
2028, con la estimacin mnima de 2015, primero cuartil 2020, tercero
cuartil 2030, y el mximo (adems de "Nunca") 2.080.
La estimacin mediana de cundo habr 50% de probabilidad de HLMI fue
2050, con la estimacin mnima de 2030, primero cuartil 2040, tercero
cuartil 2080, y el mximo (adems de "Nunca") 3050.
La estimacin mediana de cundo habr 90% de probabilidad de HLMI fue
2150, con la estimacin mnima 2.050, primera cuartil 2100, 3er cuartil
2250, y el mximo (adems de "Nunca") 10000

Diagrama de caja de las respuestas de estimacin de tiempo. La lnea roja indica

la mediana , la parte superior e inferior de los cuadros de la tercera y la
primera cuartiles respectivamente, y los bigotes se extienden 1,5 veces el
medianquartile Distancia . Puntos atpicos marcadas por cruces rojas. El diagrama
excluye de dos extremos valores atpicos.

Funcin de distribucin acumulativa emprica de las estimaciones de 50 %

de probabilidad de AGI (puntos azules) y suavizando con kernels
gaussianos ( = 10 , correspondiente a la dcada redondeo tpica usada
por los encuestados).

Quin va a desarrollar AGI?

2. Qu tipo de organizacin es ms propenso a desarrollar primero una
mquina inteligente de nivel humano? Supongamos aqu que tal desarrollo
es posible. Por favor escriba las probabilidades para cada tipo de llegar
all primero.
Cajas pre -escritos en el formulario de la encuesta figuran "industria",
"academia",
"militares/gobierno",
"Pequeo
grupo
independiente
o
individual", "proyecto de cdigo abierto", "otros (especificar)".

Las respuestas ms comunes fueron la industria, la academia y los

militares, con generalmente ms pequeas las estimaciones para grupos ms
pequeos, de cdigo abierto u otros grupos. No hubo estadsticamente
diferencias significativas entre las distribuciones de respuestas para la
industria, el mundo acadmico y militar. Un participante seal que el
gobierno/militar AI se basa en la industria y el mundo acadmico. Es de
suponer que los avances en estos se pueden convertir rpidamente en
proyectos
controlados
por
el
Estado
si
aparecieron
de
inters
estratgico. En las "otras" fuentes de AI categora propuesta fueron:
producido accidentalmente de una estrecha AI proyecto, el sector
financiero, bacteriana ambiental, desconocida o no atribuible.
Cules sern los resultados
3. Qu tan positivo o negativo son las ltimas consecuencias de la
creacin de inteligencia artificial que sea de nivel humano (y ms all
del nivel humano)? Por favor anote probabilidades para cada tipo de
consecuencia.
Los posibles campos fueron: " muy bueno", "bueno", "neutral", "malo", y "
muy mala".

Las opiniones sobre las eventuales consecuencias eran bimodal, con ms

peso dado a muy buena y muy malos resultados. Esto no fue debido a la
polarizacin entre dos puntos de vista, pero que muchos dio peso fuerte
para ambos extremos simultneamente: AGI plantea beneficios y riesgos
extremos.
Como seal uno de los participantes, que incluso podra ser posible que
muy bueno y lo malo consecuencias pueden coexistir, en forma de grandes
beneficios con extraordinaria necesidad de control ("Con gran poder
conlleva una gran responsabilidad")
Hitos
4. Puede usted pensar en cualquier acontecimiento de tal manera
que si alguna vez se alcanza lo hara esperar que la inteligencia
artificial a nivel humano para desarrollarse dentro de los cinco
aos a partir de entonces?
Esta fue una pregunta de texto libre. Se dio a las siguientes respuestas:
No con suficiente confianza
No.
Ganar un debate Oxford estilo unin
Mundos mejor ajedrez jugando AI fue escrito por una IA
WBE mamfero simple o comprensin general de cmo construir en
general, flexible
representaciones a travs de muchos dominios naturales
emulacin/desarrollo de inteligencia artificial nivel ratn
inteligencia a nivel de la rata

emulacin completa perro. Mtricas de la inteligencia bien validada

con proyeccin lineal a nivel humano. Los informticos artificiales
en desarrollo nuevos algoritmos de alta utilidad.
emulacin total del cerebro de un mono sin regulacin legal en su
lugar, a nivel de chimpanc o de nivel cuervo AI utilizando la
teora cientfica y no WBE
mono emulacin total del cerebro con el rendimiento cognitivo como
mono
mquina Ape nivel de inteligencia
emulacin total del cerebro, la web semntica
test de Turing o emulacin de todo el cerebro de un primate
Cualquiera de: subir un mamfero con cuidadosamente observado, el
comportamiento realista. AI matemticos tan buenos como los mejores
matemticos humanos. El conocimiento de que los seres humanos estn
en medir la inteligencia, ms tiempo de secuencia de datos
universales que muestran IA pasando nivel humano en 3 aos de
tiempo, de calidad comparable a los datos de ajedrez extrapolable.
Drexlerian MNT confiadamente espera en 2 aos.
Nio AGI
Una combinacin de simulacin de la funcin cognitiva y la
interaccin con el medio ambiente en un modelo / robot.
Si podemos desarrollar la inteligencia equivalente a un nio 07/08
aos de edad, vamos a llegar a nivel adulto AI dentro de los 5 aos
Una IA que es un nivel humano investigador de AI
Acuerdo que ahora entendemos los algoritmos bsicos utilizados en
el interior del cerebro humano
Al pasar la prueba de Turing *y* poder demostrar ambos procesos
lgicos junto con creativo / crtico 'pensando'
identificacin gradual de objetos: desde un conjunto indiferenciado
de tamao desconocido - plazas de aparcamiento, sillas de comedor,
los estudiantes en una clase - el reconocimiento de objetos
particulares entre ellos sin reconceptualizacin
transferencia de habilidades abstracta, sistemas de bootstrap
a gran escala (1024) se mordi la computacin cuntica (suponiendo
rentable para los investigadores), exaflop por los ordenadores
convencionales dlar, nivel de inteligencia del nio.
Ya pasado - no habra sido financiada de otro modo tal discusin
entre nosotros mismos, y mucho menos ser inteligible, observable y
accordable en esta escala: en cuanto tal pensamiento se considera
un "razonable" cree que tiene.

Qu tan
humana?

similar

ser

la

inteligencia

artificial

la

inteligencia

5. Qu tan similar ser la primera inteligencia artificial nivel humano

al cerebro humano? Por favor marque la opcin ms probable.
Los tres campos fueron marcados: " Muy cerca de la biologa (todo el
cerebro de emulacin/"carga")", "Sustancialmente inspirado en la biologa
",
"completamente
artificial
(los
cerebros
humanos
y
cerebros
artificiales estn relacionados como las aves son para aviones)".

De las 32 respuestas a esta pregunta, 8 pensaron muy biolgicamente

inspirado inteligencia de las mquinas de la lo ms probable, 12
pensamiento AGI- inspirado cerebro y 12 pensaban totalmente de novo AGI
fue el ms probable.
Estadsticamente, este resultado no es distinguible de una distribucin
uniforme entre los casos.
Campo de trabajo
6. Qu campo trabaja usted principalmente? (por ejemplo, la filosofa,
la ciencia cognitiva, inteligencia artificial, el periodismo...)
Los campos mencionados cubren mucho terreno, con racimos claras de la
filosofa (6), equipo la ciencia y la ingeniera (8), Amnista
Internacional y la robtica (8) con el resto cubre diversos acadmico
disciplinas (ciencia cognitiva, la electrnica, la literatura, las
matemticas, la neurociencia, la fsica, la psicologa, el desarrollo
sostenible), as como de negocios.
Conocimiento previo
7. Antes de esta conferencia, cunto han pensado en estos temas? Por
favor encierre la opcin ms probable.
Las opciones eran: "No, en absoluto", "Un poco, de vez en cuando",
"inters
significativo",
"la
investigacin
Menor
centrarse/estudio
sostenido", y "enfoque de la investigacin Mayor".

Los participantes de la encuesta mostraron un alto grado de conocimiento

e inters autopercepcin. El nivel promedio fue de 3,75 (cerca del "
enfoque de la investigacin/estudio sostenido menor").
Cul es la probabilidad de que el sistema de Watson va a ganar ms
concursantes de expertos humanos?

8. El 14-16 de febrero, las computadoras IBM de Watson irn en contra de

Jeopardy la campeona humana de todos los tiempos, un popular espectculo
de la televisin depende juegos de palabras y trivias generales. Cmo
probable es que Watson gane?

La mayora de los participantes slo fueron ligeramente confa en una

victoria final (lo que finalmente sucedi). La estimacin mnima
probabilidad era 30%, la mediana de 64,5% (media de 60,32 %), el tercero
cuartil 70 y el mximo 90%1.

1 Una errneamente afirm que ya haba ganado en el momento de la encuesta, confundiendo un

partido de entrenamiento con el partido real.

Correlaciones
Se calcularon correlaciones por pares y su clculo. Slo haba tres
correlaciones con p <0,05 importancia despus de la correccin de
Bonferroni para mltiples comparaciones2.
Hubo un significativo 0,8 correlacin entre la fecha el 10% y el
pensamiento AI tendra neutral consecuencias (personas con fechas
posteriores fueron ms propensos a asumir la neutralidad).
Hubo una significativa correlacin entre 0,64 de desarrollo de cdigo
abierto y un muy buen resultado, y 0,66 entre otros el desarrollo y un
resultado neutro.
Las diferencias de grupo
Los encuestados se dividieron en los grupos de la Filosofa, la IA y
robtica, informticos general la ciencia y la ingeniera de software, y
el mundo acadmico general y de negocios.
No hubo significativas (segn ANOVA) entre los grupos diferencias en
cuanto a que lo hara desarrollar AI, los resultados, el tipo de AI,
experiencia, o la probabilidad de Watson ganar. La fusin de la IA y el
grupo de ciencias de la computacin y el grupo acadmico filosofa y en
general no cambiaron nada: puntos de vista de los participantes no se
vinculan fuertemente a su formacin formal.

2 Si bien hubo una serie de correlaciones significativas individualmente, en un

conjunto de datos con 17 variables como esto habr 120 correlaciones en total y
por lo tanto, en promedio 6 casos espurios donde la correlacin alcanza el nivel
de significancia de 0.05 por pura casualidad. La correccin de Bonferroni aumenta
los requisitos para ser significativa para evitar correlaciones espurias.

Mientras que los filsofos eran ms escpticos (mediana 50%) y el mundo

acadmico en general ms positivo (mediana 70%) no hubo diferencias
significativas entre los grupos sobre si Watson iba a ganar.
Discusin
Esta encuesta no era ms que un sondeo informal de un grupo ya auto
seleccionado, por lo que los resultados deben tomarse con un gran grano
de sal. El pequeo nmero de respuestas, la presencia de grupos con
puntos de vista supuestamente correlacionados visitante, el diseo de la
encuesta simple y las limitaciones de la encuesta contribuyen a hacer de
este de fiabilidad y validez limitado.
Los principales puntos de vista expresados por los participantes parecen
ser: la inteligencia artificial a nivel humano, ya sea debido a un
ingreso bruto ajustado de novo o biolgicamente sistemas emulados/
inspirados, tiene una probabilidad macroscpica a que ocurren a mediados
de siglo. Este desarrollo es ms probable que se produzca a partir de una
gran organizacin que como un proyecto ms pequeo. Las consecuencias
podran ser potencialmente catastrfico, pero hay un gran desacuerdo y la
incertidumbre acerca de esto - radicalmente resultados positivos tambin
son posibles.
Es interesante comparar esto con los resultados reportados en (Baum,
Goertzel y Goertzel 2011), donde se llev a cabo una encuesta en la
conferencia AGI09. La encuesta AGI09 coloca las estimaciones de la
mediana de 10% de posibilidades de tener xito en la prueba de Turing,
que pasa a tercer grado y hacer un trabajo de calidad Nobel en 2020, el
50% de probabilidad en 2040 (test de Turing), 2030 (tercer grado), y 2045
(Nobel), el lmite de 90% en 2075 (test de Turing), 2075 (tercer grado) y
2100 (Nobel). Los participantes en nuestra encuesta eran claramente algo
ms pesimista, sobre todo en el extremo superior. Las estimaciones de
riesgo para la humanidad tuvieron una amplia difusin y la falta de
consenso, similar a esta encuesta. Las estimaciones de qu enfoque sera
ms probable para lograr HLMI favoreci fuertemente diseos integrales
que combinan mltiples paradigmas, a diferencia de la distribucin plana
en esta encuesta (sin embargo, la encuesta AGI09 aparece un mayor nmero
de mtodos especficos).
(Baum, Goertzel y Goertzel 2011) mencionan tambin los resultados de una
encuesta realizada por Bruce Klein acerca de cundo AI superar la
inteligencia a nivel humano (Klein 2007). Esta encuesta, dominado por los
optimistas AI, tuvo una mediana en el rango desde 2030 hasta 2050. Por
tanto, parece que los resultados de nuestro estudio son compatibles con
otros intentos de la encuesta, pero es algo ms pesimista en la escala de
tiempo (si no sobre la viabilidad general de AGI).

Encuesta informal sobre la inteligencia artificial

Esta encuesta se utilizar para obtener informalmente puntos de vista de
esta conferencia sobre el futuro de la inteligencia artificial. Las
respuestas sern tratadas de forma annima, y estadsticas recopiladas se
publicarn en un informe tcnico en el sitio web de FHI.
Definir una inteligencia artificial a nivel humano que
puede ser
sustituido en prcticamente todas las tareas cognitivas, incluyendo
aquellos que requieren creatividad cientfica, el sentido comn, o las
habilidades sociales.
1. Suponiendo que no hay catstrofes globales que detengan
el
progreso, En qu ao le asignar un 10%/50%/90% de probabilidad de
que el desarrollo de la inteligencia de la mquina sea a nivel
humano? Sintase libre de contestar "nunca" si usted cree que nunca
se alcanz un hito tales.
Ao alcanzado

10%

50%

90%

2. Qu tipo de organizacin es ms propenso a desarrollar primero una

inteligencia artificial
a nivel humano? Supongamos aqu que tal
desarrollo es posible. Tome nota de probabilidades para cada tipo de
llegar all primero.
Industria
Academia
Militar /
Pequeo
Proyecto
Otros
Gobierno grupo
de cdigo (especificar)
independiente
abierto
o individual

3. Qu tan positivo o negativo son las ltimas consecuencias de la

creacin de un nivel humano (y ms all del nivel humano) probablemente
inteligencia la inteligencia artificial pueda ser? Tome nota de
probabilidades para cada tipo de consecuencia.
Extremadament
e bueno

A
fin
de
cuentas buena

Ms o menos
neutral

A
fin
de
cuentas mal

Extremadament
e
mala
catstrofe
/
existencial

4. Puede usted pensar en cualquier acontecimiento de tal manera que si

se alcanza cada vez que se puede esperar de inteligencia artificial a
nivel humano que se desarrolla dentro de cinco aos a partir de entonces?
________________________________________________________________________
________________________________________________________________________
________________________________________________________________________

5. Qu tan similar ser la primera inteligencia artificial de nivel

humano al cerebro humano? Por favor marque la opcin ms probable.
Muy cerca de la biologa Sustancialmente
Completamente artificial
(emulacin total del
inspirado en la biologa (los cerebros humanos y
cerebro / "carga")
cerebros artificiales
estn relacionados como
las aves son para
aviones)

6. En qu campo trabaja usted principalmente? (por ejemplo,

filosofa,
la
ciencia
cognitiva,
la
inteligencia
artificial,
periodismo...)

la
el

7. Antes de esta conferencia, cunto han pensado en estos temas? Por

favor marque la opcin ms probable.
De ningn
modo

Un poco, de
vez en cuando

Gran inters

Enfoque de la
investigacin
Menor /
estudio
sostenida

Enfoque de la
investigacin
Mayor

8. El 14-16 de febrero, las computadoras IBM de Watson irn en contra de

Jeopardy la campeona humana de todos los tiempos, un popular espectculo
de la televisin depende juegos de palabras y trivias generales. Cmo
probable es que Watson gane?
______________%
Gracias!