Inteligencia artificial

provoca alto riesgo

Las mquinas llegan a tener conductas sorprendentes que resultan indeseables y
generan riesgo.
SAN FRANCISCOTHE NEW YORK TIMES30 ago 2017

En OpenAI, el laboratorio de inteligencia artificial que fund el director ejecutivo de

Tesla, Elon Musk, las mquinas estn aprendiendo solas a comportarse como
seres humanos. Pero en ocasiones, les sale mal.

Hace unos das, el investigador Dario Amodei se encontraba sentado en las

oficinas de OpenAI en San Francisco, mientras presuma un sistema autnomo
que haba aprendido por s mismo a jugar el antiguo videojuego de carreras de
lanchas Coast Runners. Gana el jugador que acumule ms puntos y que cruce la
lnea de meta en primer lugar.

El resultado fue sorprendente: la lancha mostraba demasiado inters en las cositas

verdes que saltaban en la pantalla. Al atraparlas, acumulaba puntos. En lugar de
tratar de completar la carrera, la lancha acumulaba puntos a lo loco. Navegaba en
crculos interminables, chocaba con otras embarcaciones, se estrellaba contra
muros de piedra y a menudo se incendiaba.

El bote en llamas de Amodei comprob los riesgos de las tcnicas de inteligencia

artificial (IA) que estn reformulando con rapidez el mundo de la tecnologa. Los
investigadores construyen mquinas que pueden aprender tareas en gran parte
por su cuenta.

Es as como el laboratorio DeepMind de Google cre un sistema que poda vencer

al mejor jugador del antiguo juego de Go. Sin embargo, conforme estas mquinas
aprenden, luego de horas de anlisis de datos, tambin podran desarrollar
conductas inesperadas, indeseables y quiz hasta peligrosas.

Esa es una preocupacin que ha surgido a medida que estas tcnicas se abren
paso hacia los servicios en lnea, los dispositivos de seguridad y la robtica. Hoy
en da, una pequea comunidad de investigadores en inteligencia artificial, entre
los que se encuentra Amodei, comienza a explorar las tcnicas matemticas que
ayuden a evitar que suceda lo peor.

En OpenAI, Amodei y su colega Paul Christiano desarrollan algoritmos que no solo

pueden aprender a realizar tareas a partir de horas de ensayo y error, sino que
tambin reciben asesoras peridicas de profesores humanos durante el proceso.
Con unos clics por aqu y otros por all, los desarrolladores ahora cuentan con una
manera de mostrarle a un sistema autnomo que necesita ganar puntos en Coast
Runners, pero tambin avanzar hacia la lnea de meta. Creen que esta clase de
algoritmos (una mezcla entre instrucciones humanas y mecnicas) puede ayudar a
que los sistemas automatizados sean seguros.
Durante aos, Musk, junto con otros eruditos, filsofos y especialistas en
tecnologa, advirtieron que las mquinas podran salir de nuestro control y
aprender, de alguna manera, conductas dainas que sus diseadores no
contemplaran. En ocasiones, estas advertencias parecieron fuera de proporcin,
dado que los sistemas de vehculos autnomos de la actualidad pueden
confundirse con las tareas ms bsicas como reconocer una ciclova o un
semforo en rojo.

Tareas.
No obstante, investigadores como Amodei buscan adelantarse a los riesgos. De
alguna manera, lo que hacen estos cientficos es similar a lo que ensean los
padres a sus hijos cuando quieren que distingan entre lo bueno y lo malo.

Muchos especialistas en el campo de la IA creen que una tcnica llamada

aprendizaje por refuerzo (una forma para que las mquinas aprendan a realizar
tareas especficas mediante ensayo y error) podra ser un elemento bsico en el
avance hacia la inteligencia artificial. Los investigadores determinan una
recompensa especial que la mquina debe esforzarse por obtener y, conforme
evala una tarea al azar, la mquina recuerda cules son los pasos que la llevaron
a obtener la recompensa y cules no. Cuando OpenAI entren a su robot para
jugar Coast Runners, la recompensa consista en obtener ms puntos.

Este entrenamiento para videojuegos tiene implicaciones en el mundo real.

Los investigadores creen que si una mquina puede aprender a manejar en un

juego como Grand Theft Auto, podra aprender a conducir un auto en la vida
real. Consideran que si tiene la capacidad de utilizar un navegador de internet y
otras aplicaciones de software comunes, puede aprender un idioma e incluso a
sostener una conversacin.
En lugares como Google y la Universidad de California en Berkeley, los robots ya
han utilizado esta tcnica para aprender tareas sencillas como recoger cosas o
abrir una puerta.

Por todo lo anterior, Amodei y Christiano trabajan en la creacin de algoritmos de

aprendizaje por refuerzo que acepten instrucciones humanas sobre la marcha, lo
cual podra garantizar que los sistemas no se desven de la tarea principal.