Los dilemas morales de la Cuarta

Revolucin Industrial

Image: REUTERS/Ronen Zvulun

Escrito por
Vinayak Dalmia, Investor, Amber
Kavi Sharma, Chief Operating Officer, President Electronics USA
27/02/2017

Debe su automvil sin conductor valorar su vida ms que la de otro peatn? Debera
usarse Fitbit contra usted en un caso judicial? Deberamos permitir que los drones se
conviertan en los nuevos paparazzi? Se puede patentar un gen humano? Los cientficos ya
se estn enfrentando a estos dilemas. A medida que entramos en la nueva era digital,
necesitamos un nuevo conjunto de normas codificadas globales.

Esto est comenzando a suceder. El ao pasado, la Universidad Carnegie Mellon de Estados

Unidos anunci un nuevo centro de estudios de la tica de la inteligencia artificial; durante la
presidencia del Presidente Obama, la Casa Blanca public un trabajo sobre el mismo tema y
los gigantes de la tecnologa, incluyendo Facebook y Google, han anunciado una asociacin
para redactar un marco tico para la inteligencia artificial (IA). Tanto los riesgos como las
oportunidades son inmensos: Stephen Hawking, Elon Musk y otros expertos firmaron una
carta abierta en la que llaman a hacer todos los esfuerzos posibles para garantizar que la IA
sea un beneficio para la sociedad:
"Los beneficios potenciales son enormes, ya que todo lo que la civilizacin tiene que ofrecer
es un producto de la inteligencia humana; no podemos predecir lo que podramos lograr
cuando esta inteligencia se magnifique por las herramientas que la IA pueda proporcionar,
como podra ser la erradicacin de las enfermedades y la pobreza. Dado que la IA tiene un
potencial enorme, es importante investigar cmo disfrutar de sus beneficios evitando sus
posibles riesgos".

A quin salvar? Simulacin del dilema de un auto sin conductor. Imagen: MIT

Estos son grandes nombres y grandes ideales. Sin embargo, muchos esfuerzos carecen de
cooperacin mundial. Adems, las implicaciones de la Cuarta Revolucin Industrial van ms
all de Internet y de la IA.

El profesor Klaus Schwab, fundador del Foro Econmico Mundial, cree que esta fase se
construir en torno a los "sistemas ciberfsicos" con el desdibujamiento de los sistemas
fsicos, digitales y biolgicos. A medida que adoptemos esta era de las mquinas,
necesariamente nos enfrentaremos a nuevos desafos ticos, que exigirn nuevas leyes. En
algunos casos, es posible que se deba reiniciar el cdigo moral en su totalidad. Tal es la
naturaleza de los avances tecnolgicos. Creemos que la humanidad pronto estar en el
umbral de repensar los valores morales: una tica 2.0.

Los orgenes de la tica

La tica derivada de la filosofa o la religin no encaja fcilmente en el mundo de la tecnologa.
Todo, desde Aristteles hasta los Diez Mandamientos, nos da una direccin moral, pero
cualquier conjunto de reglas establecido tiende a presentar dilemas. El mundo de la ciencia
tambin ha hecho algunos intentos, desde Las tres leyes de la robtica de Asimov al trabajo
sobre tica de Nick Bostrom. Sin embargo, los seres humanos tienen gran dificultad para
desarrollar virtudes para su propia conducta, menos an para construir virtudes relevantes en
nuevas tecnologas.

Las implicaciones ticas van desde lo inmediato (cmo influyen los algoritmos detrs de
Facebook y Google en todo, desde nuestras emociones hasta nuestras elecciones?) hasta el
futuro (qu pasar si los vehculos autodirigidos eliminan los puestos de trabajo de los
conductores de camiones?) Lo que sigue es una muestra, no exhaustiva, de las decisiones
ticas que deberemos enfrentar:

Ciencias de la vida

Debe la modificacin de genes ser legal para manipular a la raza humana y crear "bebs de
diseo"? El investigador del cncer Siddhartha Mukherjee, en su aclamado libro The Gene,
destac las profundas preguntas ticas que los avances en la ciencia del genoma plantearn.
La lista de preguntas ticas es larga: qu pasara si una prueba prenatal predijera que su hijo
tendr un coeficiente intelectual de 80 puntos, muy por debajo del promedio, a menos que le
haga una pequea modificacin? Qu pasara si solo las personas ricas pudiesen usar estas
tecnologas?

IA, aprendizaje de las mquinas y datos

Con el tiempo, la inteligencia artificial nos ayudar a tomar todo tipo de decisiones. Pero,
cmo podemos garantizar que estos algoritmos estn diseados de manera apropiada?
Cmo eliminamos nuestras inclinaciones en estos sistemas, que eventualmente se utilizarn
para determinar las promociones en el trabajo, admisiones universitarias e, incluso, nuestra
eleccin de un compaero de vida?

Medios sociales y artefactos

Qu pasara si nuestros Kindles tuvieran software de reconocimiento facial y sensores

biomtricos incorporados, de modo que el dispositivo pudiera decir cmo cada oracin
influy en nuestra frecuencia cardaca y presin arterial?

Robots y mquinas

Cmo determinamos las decisiones que deben tomar los autos sin conductor? Cmo
determinamos qu decisiones deben tomar los robots? Ser necesario que un robot tenga
algo equivalente a una Declaracin de derechos? Qu pasar con los derechos de los seres
humanos a casarse con los robots y de los robots de ser propietarios? Debera permitirse a
un Cyborg muy avanzado postularse para cargos polticos?

El camino por delante

Comnmente, en el pasado, los mercados libres han decidido el destino de las nuevas
innovaciones y, con el tiempo, los gobiernos locales intervienen (Uber est prohibido en
Japn, pero operativo en la India). Sin embargo, en este caso tal enfoque podra ser
desastroso.

No estamos a favor de que el gobierno se interponga en la innovacin: estamos pidiendo un

dilogo mundial coherente sobre la tica en el siglo XXI. El dilogo necesita ir ms all de las
revistas acadmicas y los artculos de opinin, e incluir comits gubernamentales y
organismos internacionales como la ONU.

Hasta ahora hemos adoptado un enfoque unilateral: desde la prohibicin mundial de la

clonacin humana hasta las restricciones parciales a los alimentos genticamente
modificados. Las diferentes regiones tambin han adoptado puntos de vista dispares y no han
logrado una respuesta unificada: el enfoque de la UE para controlar el impacto social de las
nuevas tecnologas es muy diferente al de los Estados Unidos. China, por otra parte, siempre
ha adoptado una visin a largo plazo.

La tecnologa es como el agua, siempre encontrar la forma de

abrirse camino. En un mundo interconectado, las decisiones locales
solo son eficaces cuando estn permitidas por consenso
internacional.

Existe la necesidad de un foro internacional estructurado para armar una lista de tecnologas
que requieran direccin, para evaluar cada una de ellas y publicar un modelo para su cdigo
de conducta. Por ejemplo, un organismo gubernamental internacional podra establecer
reglas especficas, tales como hacer obligatoria la publicacin de la lgica detrs de ciertos
algoritmos de la IA.

El mundo de la ciencia se jacta de algunos ejemplos exitosos de cooperacin internacional. El

Protocolo de Montreal de 1987 (para abordar el problema de la capa de ozono) y la
Conferencia de Asilomar de 1975 (para regular la tecnologa del ADN) me vienen a la mente.

Conclusin
La humanidad se enfrentar a preguntas que an no ha tenido que responder. Debemos
empezar este debate ahora mismo.
Si no nos preparamos con anticipacin, nos enfrentaremos a varios riesgos. Nos arriesgamos
a perder nuestro poder y a ponerlo en las manos de las mquinas. Nos arriesgamos a alterar
el curso de la humanidad sin comprender plenamente las consecuencias. Corremos el riesgo
de crear una desigualdad masiva entre una clase tecnolgica rica y una inmensa clase
marginal.

Cualquiera que haya visto incluso un solo episodio de la galardonada serie de televisin Black
Mirror debera estar preocupado por el futuro antiutpico que podra esperarnos si no
abordamos estas difciles preguntas filosficas y legales ahora.

Fuente: Black Mirror (Netfix)

Esta no es la primera revolucin tecnolgica. Las preocupaciones no son nuevas. Han estado
presentes por ms de 200 aos desde la Revolucin Industrial. Pero como lo expresa el
historiador y filsofo Yuval Harari, es cuestin de que el nio (que grit lobo) llegue
eventualmente a tener razn.
Tradicionalmente, el progreso de la tecnologa deja rezagado a los procesos polticos: ya
perdimos la oportunidad de redactar una carta moral para el uso de Internet, y seguimos
jugando hasta el da de hoy. No podemos darnos el lujo de permanecer ciegos ante los
prximos avances, ya sea en biotecnologa o en IA. Cada vez ms, el guin de nuestro futuro
est siendo escrito por ingenieros y empresarios, que no necesariamente se tienen en cuenta.

La sociedad se adapta a los cambios con facilidad, desde la mquina a vapor hasta el iPhone,
hasta el notable aumento de las expectativas de vida. Como Bill Gates sostiene, "la
tecnologa es amoral". Depende de nosotros decidir cmo usarla y dnde trazar la lnea

Este artculo se public por primera vez en Medianama. Consulte tambin: La biblioteca de
ensayos sobre la tica de las tecnologas emergentes.

Escrito por

Vinayak Dalmia, Investor, Amber

Kavi Sharma, Chief Operating Officer, President Electronics USA

Las opiniones expresadas en este artculo son las del autor y no del Foro Econmico Mundial.

Subscribe for updates

A weekly update of whats on the Global Agenda

Email Subscribe

2017 World Economic ForumPoltica de privacidad y normas de uso