Rumbo A La IA: Una Aventura Algorítmica

Rumbo a la IA
Una aventura algorítmica

Publicado en 2023 por la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO), 7, place de Fontenoy, 75352 París 07 SP, Francia
© UNESCO 2023
UNESCO ISBN 978-92-3-300205-0
Esta publicación está disponible en acceso abierto bajo la licencia Attribution-ShareAlike 3.0 IGO (CC-BY-SA 3.0 IGO) (http://creativecommons.org/licenses/by-
sa/3.0/igo/). Al utilizar el contenido de la presente publicación, los usuarios aceptan las condiciones de utilización del Repositorio UNESCO de acceso abierto (www.
unesco.org/open-access/terms-use-ccbysa-sp).
Título original: “Inside AI: an algorithmic adventure”. Publicado en 2022 por la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura
(UNESCO).
Los términos empleados en esta publicación y la presentación de los datos que en ella aparecen no implican toma alguna de posición de parte de la UNESCO en cuanto
al estatuto jurídico de los países, territorios, ciudades o regiones ni respecto de sus autoridades, fronteras o límites.
Las ideas y opiniones expresadas en esta obra son las de los autores y no reflejan necesariamente el punto de vista de la UNESCO ni comprometen a la Organización.
Producción: BiMot Culture

Concepción y guion: Dra. Katherine Evans
Coordinación editorial y diseño gráfico: Muyang Li
Consultor de guiones: Patrick Marty
Consultora creativa sobre la cultura maorí: Cian Elyse White
Ilustración del episodio I: Isobel Joy Te Aho-White
Ilustración del episodio II: Cassandra Okwaniuzor Mark
Ilustración del episodio III: Asma Kraiem
Ilustración del episodio IV: Adriana De La Torre Cervantes, con la asistencia de Patricia Manríquez y Karin Almazán
Ilustración de portada: Isobel Joy Te Aho-White
Diseño del personaje “Error”: Isobel Joy Te Aho-White
Diseño de los personajes “Doctora Y” y “Perfiles de datos”: Cassandra Okwaniuzor Mark
Diseño del personaje “Emile Tach”: Asma Kraiem
Prólogo: Dr. Tawfik Jelassi
Corrección de pruebas: Julia Lins-Gordon
Traducción al español: Adolfo Fuentes
Correccción: Oficina Regional de Cultura para América Latina y el Caribe de la UNESCO
B R E V E R E S U M E N
¿Qué repercusiones tiene la IA en los seres humanos?

En todo el mundo y, especialmente, en el Sur Global, hay personas que corren el riesgo de ser excluidas de los
beneficios de la transformación digital; la mayoría de ellas son niñas y mujeres. En África, las mujeres tienen la
menor proporción de acceso a internet (20,2%), en comparación con la de los varones (37,1%) [a], a pesar de
que estar conectado es hoy uno de los requisitos clave para la participación social y económica.
● En el marco del trabajo desplegado por la UNESCO con miras a aprovechar las tecnologías emergentes para el
desarrollo sostenible, esta historieta para jóvenes adultos explora las repercusiones de la inteligencia artificial en la
humanidad.
● Al seguir a los personajes en cuatro rincones diferentes del planeta, mientras
lidian con los límites de la tecnología de la inteligencia artificial (IA), un público En África,
juvenil se embarca en una misión conjunta a una galaxia algorítmica llamada las mujeres tienen la
Plethor.I.A. Allí solo tienen una opción: viajar a través de este mundo oculto menor proporción
detrás de nuestras pantallas para aprender sobre los efectos sociales, técnicos y
éticos de la IA y los derechos humanos, y ayudar a los personajes a encontrar un de acceso a internet
camino que los devuelva a la realidad.
[a] Informe de la UNESCO: Los efectos de la IA en la vida laboral de las mujeres. Página 19 de la
versión en español
20.2%
“Puesto que las guerras nacen en la mente de los hombres
y las mujeres, es en la mente de los hombres y las mujeres
donde deben erigirse los baluartes de la paz”.
Rumbo a la IA
Una aventura algorítmica
Rumbo a la IA: Una aventura algorítmica
Contenidos
Prólogo�� 6
Episodio I: Ari y la universidad paralela �� 7
Introducción�� 8
Glosario de términos ��41
Conclusiones ��43
Episodio II: Maryam y la inmersión en la cuenca de datos��44
Introducción��45
Glosario de términos ��78
Conclusiones ��80
Episodio III: Shirin y el sistema de recomendación��81
Introducción��82
Glosario de términos �� 115
Conclusiones �� 117
Episodio IV: Joaquín y la pregunta sin respuesta ��118
Introducción�� 119
Glosario de términos �� 155
Conclusiones�� 157
Recursos y lecturas adicionales��158
Agradecimientos ��160
5
Prólogo
H oy en día, la inteligencia artificial (IA) y sus aplicaciones no
se limitan a las películas de ciencia ficción. Es probable que
ustedes mismos hayan interactuado con la IA al utilizar asistentes
conceptos complejos de la IA. Con esta y otras iniciativas, como la
Recomendación sobre la Ética de la Inteligencia Artificial de 2021,
aprobada por la Conferencia General de la UNESCO en su 41ª reunión,
de voz o sistemas de reconocimiento facial, o al recibir contenidos nos proponemos garantizar que la IA se utilice de forma tal que se ajuste
de las redes sociales por medio de algoritmos. Como herramienta, la a las normas internacionales y proteja los derechos humanos, incluidos
IA ha propiciado logros sin precedentes, desde la personalización de los derechos a la igualdad, la educación y la privacidad, el acceso a la
recomendaciones a miles de millones de personas hasta la predicción información, y la libertad de expresión.
de enfermedades antes de que aparezcan. Los invitamos a sumarse a nuestra exploración de las oportunidades y
Como la IA es una herramienta tan poderosa, debemos analizar los retos de la IA. Esperamos que esta historieta no solo permita que los
sus riesgos y posibles efectos negativos. ¿Por qué a veces la IA está conceptos de la IA sean accesibles para todas las personas, sin distinción
sesgada por naturaleza a la hora de adoptar decisiones importantes, de edad, sino que también las empodere para que sean conscientes de sus
como, por ejemplo, a quién contratar? ¿Cómo es posible que excluya derechos fundamentales en la era digital y las protejan adecuadamente.
a determinados grupos de personas? ¿Cómo podemos evitar la Los convocamos a compartir sus opiniones sobre #InteligenciaArtificiaI
discriminación, garantizar la inclusión y la diversidad, proteger nuestra e interactuar con nosotros al comentar, retuitear y compartir esta
privacidad, y superar los complejos desafíos de la caja negra de la IA? historieta en sus redes sociales y añadir la etiqueta @UNESCO. En mi
Estas son algunas de las interrogantes a las que la UNESCO intenta dar cuenta @TawfikJelassi, publicaré otros tuits relacionados con la primera
respuestas en nuestras esferas de competencia: la educación, las ciencias historieta de la UNESCO sobre la IA. ■
naturales, las ciencias humanas y sociales, la cultura y la comunicación
e información. Por ejemplo, en 2021, la Organización propuso un Dr. Tawfik Jelassi
curso breve gratuito de aprendizaje en línea sobre la IA y los derechos Director General Adjunto del Sector de
humanos, que permitió que jóvenes de todo el mundo comprendieran Comunicación e Información de la UNESCO
6
Episodio I
Ari y la universidad paralela

Ilustración: Isobel Joy Te Aho-White
Consultora creativa de cultura maorí: Cian Elyse White
Rumbo a la IA: Una aventura algorítmica Episodio I: Ari y la universidad paralela
Introducción
A unque sea difícil de percibir, existe un mundo oculto detrás de
las numerosas pantallas que llenan nuestras vidas. Aun cuando
parezca sorprendente, interactuamos con este mundo todos los días:
En parte, ello obedece a que la IA está concebida para ayudar a las
personas a realizar tareas que antes tenían que emprender por sí solas o
prestar servicios de los que muchos de nosotros no podemos prescindir.
cada vez que utilizamos una aplicación en nuestros ordenadores y Puede aportarnos información valiosa sobre problemas complejos de
teléfonos inteligentes, o accedemos a una página web, le abrimos una tanta envergadura que es imposible para una sola mente descifrarlos,
puerta. Cuando hacemos una pregunta a un asistente de voz o utilizamos e incluso puede ser creativa, al hallar nuevas soluciones que ninguno
nuestra cara para identificarnos, le enseñamos a reconocernos. Y cuando de nosotros espera. En cierto modo, es la herramienta más útil que
nos gusta una publicación, vemos un vídeo o compramos algo en línea, ha creado la humanidad, y sus aplicaciones solo están limitadas por la
le permitimos que conozca algo sobre nosotros. En muchos sentidos, imaginación humana.
este mundo existe en todas partes y en ninguna, y está gobernado por
Sin embargo, como cualquier otra herramienta, la inteligencia artificial
todos y por nadie. Muchos hemos oído hablar de él, algunos le tememos,
solo es útil si se emplea de manera adecuada. Si queremos que la IA nos
pero pocos entendemos exactamente cómo funciona.
ayude, deberemos tener cuidado de no perdernos en sus promesas y
En los medios, los libros de texto y la red, solemos llamar a este potencialidades y, con ello, perder de vista lo más importante: los seres
mundo “inteligencia artificial”, o “IA” para abreviar. Desde el punto humanos, sus derechos y su dignidad, el medio ambiente y el valor de
de vista técnico, está compuesto por datos -informaciones o hechos vivir en armonía. La IA puede ser virtual, pero su verdadera repercusión
sobre nosotros y el mundo en que vivimos-, algoritmos -conjuntos de en la humanidad y el planeta es muy real.
normas o procedimientos que pueden seguirse para lograr un objetivo
Todo comienza con exploradores de la IA como ustedes, que son lo
determinado- y conectividad -equipo informático que lo integra todo
suficientemente valientes como para enfrentarse al universo oculto
al enviar datos por el mundo y, directamente, a los dispositivos de las
más allá de nuestras pantallas e investigar su misteriosa conexión con
personas, o usuarios como nosotros. Y aunque no hayan oído hablar
el nuestro. ■
de ellos, esta tríada de datos, algoritmos y conectividad tiene y seguirá
teniendo una profunda repercusión en casi todos los aspectos de nuestra
vida, e incluso en la vida del mismísimo planeta tierra.
8
TARDE EN LA NOCHE, EN ALGÚN LUGAR DE AOTEAROA (NUEVA
ZELANDA), UNA FEROZ TORMENTA ARRASA LA CAMPIÑA...
9
A LA MAÑANA SIGUIENTE...
¿¡EL WIFI NO
FUNCIONA!? ¿CÓMO
VOY A ENTREGAR LOS
DEBERES?
ARI, ESTAS COSAS PUEDEN

SUCEDER. OÍ DECIR QUE
LA LÍNEA DE FIBRA ÓPTICA
DE TODA LA CIUDAD ESTÁ
DESCONECTADA…
TAL VEZ HAYA CONEXIÓN
EN LA TIENDA DE TAIKA...
ARI, ¿DÓNDE SE
PRODUJO EL FUEGO?
KIA ORA E
HOA! **
¡MO RENA*, ARI! ¿EN QUÉ
LÍO TE METISTE?
¡TAIKA! ¡NECESITO UNA
COMPUTADORA RÁPIDO,
TENGO QUE ENTREGAR
ESTOS DEBERES EN UN
SANTIAMÉN!
AHORA NO PUEDO HABLAR...

¡TENGO QUE ENTREGAR ESTO
EN 5 MINUTOS!
*BUENOS DÍAS **HOLA, ¿QUÉ TAL, AMIGO? 10

LO SIENTO, ARI. MI WIFI TAMPOCO VAMOS...
FUNCIONA... LO MÁS QUE PUEDO FALTA POCO...
OFRECERTE AHORA ES UNA
CONEXIÓN TELEFÓNICA...
¡PERO ESO TOMARÁ

HORAS! ¡TENGO QUE
SUBIR TODO UN MODELO
ALGORÍTMICO! SEGURO
QUE MI PROFESOR ME
¡ASÍ APRENDERÁS
SUSPENDE...
A NO DEJAR LAS
COSAS PARA EL
ÚLTIMO MINUTO!
UNAS HORAS DESPUÉS...
K
CLICI K
CL C
AL FIN…
¡OH, DALE!
11
LOS DEBERES DE ARI EMPRENDEN UN
LARGO VIAJE HACIA SU DESTINO DIGITAL...
ATRAVIESAN INFRAESTRUCTURAS SUBTERRÁNEAS
12
RECORREN LOS CABLES TRANSATLÁNTICOS ATRAVIESAN CONTINENTES LEJANOS…
A TODA VELOCIDAD...
ANTES DE ATERRIZAR EN UNA GRANJA DE SERVIDORES, EN ALGÚN LUGAR DE LA

VIRGINIA PROFUNDA. SIN EMBARGO, AL PARECER, ALGO HA SALIDO MAL... MUY MAL…
13
¡TAIKA! ¡CREO QUE HAY
UN PROBLEMA!
RELÁJATE, ARI. SI
SUSPENDES EL EXAMEN
PODRÁS HACERLO DE NUEVO
EL SEMESTRE QUE VIENE...
PERO...
¿SE FUE?
14
??!!
?
15
¡AY, NO!... ME ¡NO HAY QUE
PARECE QUE EXAGERAR!
NECESITO UN
EMPUJONCITO...
A AH
H H !! !
!
K !
N
¡MÁS RÁPIDO,
MÁS RÁPIDO,
LA
C
MÁS RÁPIDO!
16
AA A
AA
!
!!!!
H
A A HH
H H HH
HH
HH
H HH POCO DESPUÉS, UN MISTERIOSO PERSONAJE
VIENE A INVESTIGAR EL LUGAR DEL ACCIDENTE.
GAFAS, SI ALGO HE APRENDIDO

TRAS AÑOS DE EXPLORACIÓN DE
BIEN, GAFAS, TOMEN NOTA: ESTE UNIVERSO ARTIFICIAL ES QUE
SOSPECHA DE ATAQUE DE HAY UNA SOLUCIÓN PARA CADA BASTA CON DAR UN
DENEGACIÓN DE SERVICIO PROBLEMA. PEQUEÑO PASO EN LA
EN LAS FRONTERAS DE DIRECCIÓN CORRECTA... Y...
PLETHOR.I.A....
CIRCUNSTANCIAS
INUSUALES... NO HAY
SIGNOS EVIDENTES DE
MANIPULACIÓN...
¡OH!
17
SIENTO LO QUE LE PASÓ EN
LA MANO. NO ESPERABA
ENCONTRARME AQUÍ CON
NINGÚN SER HUMANO.
NO SE PREOCUPE.
NO ES NADA. ESO
ESPERO…
NO ES NADA
GRAVE,
¿VERDAD?
NO... NO... NO HAY DE

QUÉ PREOCUPARSE.
DE TODAS FORMAS,
PARA ESTAR TRANQUILA,
DÍGAME EN QUÉ SECTOR
TRABAJA USTED.
18
ESA ES UNA BUENA
¿SECTOR? ¡ESO ERA TODO
PREGUNTA... PRIMERO
ESPERE... SOLO LO QUE TENÍA A MI
ESTA PASARELA SE DEBEMOS SALIR DE AQUÍ.
ENTREGABA MIS ALCANCE! PERO…
DEBERES. RESERVA PARA CONEXIONES
¿CÓMO SABE USTED
TELEFÓNICAS...
TODO ESO? ¿POR QUÉ? ¿VIENE
OTRO TREN?
QUÉ EXTRAÑO...
¿QUÉ HABÍA EN EL
ARCHIVO? CÓMO PUEDE
UN ALGORITMO DE VER, ES UN POCO LO DUDO...
PROCESAMIENTO DE ANTICUADA. SIMPLEMENTE, QUIERO UNA
LENGUAJE NATURAL… SEGUNDA OPINIÓN SOBRE LO
QUE HA OCURRIDO.
¿UN PLN?... ¿CON UNA ¿PASARELA? PERO ANTES DEBO
CONEXIÓN TELEFÓNICA? ¿A DÓNDE? REUNIR ALGUNAS
PRUEBAS...
¡UNA TREMENDA
AVENTURA
ALGORÍTMICA!
ESTÁ BIEN… PERO,

¿CREE QUE PUEDA
AYUDARME A
REGRESAR A CASA?
SÍ, HALLAREMOS UN
MEDIO. MIENTRAS TANTO,
AJÚSTESE EL CINTURÓN
PORQUE VAMOS A VIVIR…
19
YA EN CAMINO HACIA UN DESTINO
MISTERIOSO, FINALMENTE ARI
PUEDE ORIENTARSE...
SOY ARI… ¿Y
USTED ES…? ¡APUESTO A QUE TIENES
¿PLETHOR.I.A.? ALGO
RAZÓN! POR LO GENERAL, LA
ME DICE QUE LAS
IA ESTÁ CONCEBIDA PARA
GAFAS VOLADORAS NO
AYUDAR A LA GENTE, —
SON LO MÁS EXTRAÑO , PERO A VECES SE PRODUCEN
BIEN, ARI. ENCANTADA DE QUE VERÉ HOY... ERRORES, Y CUANDO ESO PASA,
CONOCERLO. SOY LA DOCTORA Y
SOY YO QUIEN LOS CORRIGE. SOY
E INVESTIGO LOS DESEQUILIBRIOS
UNA SUERTE DE DETECTIVE DE
ÉTICOS EN PLETHOR.I.A.
INTELIGENCIA ARTIFICIAL.
NO SOLO UN ORDENADOR, SINO TODOS

ENTONCES, ¿ESO ES LOS ORDENADORES PORTÁTILES,
LO QUE PASA? ¿ESTOY TABLETAS, TELÉFONOS INTELIGENTES,
DENTRO DE UNA ESPECIE ASISTENTES DE VOZ, APLICACIONES Y
DE ORDENADOR? PLATAFORMAS EN LÍNEA...
SI SE TRATA DE TECNOLOGÍA
IMPULSADA POR LA
INTELIGENCIA ARTIFICIAL, LA
NO EXACTAMENTE... ES MÁS BIEN UN ENCONTRARÁ POR AQUÍ.
UNIVERSO VIRTUAL LLENO DE TODO TIPO
DE INTELIGENCIA ARTIFICIAL QUE LA ENTONCES... ¿NO ES
HUMANIDAD HAYA CREADO... UN ORDENADOR?
20
UN MOMENTO... ¿QUIERE BUENO, NO... PERO LOS ¿PERO POR QUÉ ESTOY YO
DECIR QUE MI TELÉFONO ALGORITMOS QUE LO AQUÍ? PARECE QUE NO RECIBEN
ESTÁ VOLANDO POR ALIMENTAN SEGURO QUE SÍ. MUCHOS VISITANTES... AHORA QUE LO
ALGUNA PARTE AQUÍ? PIENSO, ¡NO!
POR NO HABLAR DE
TODOS LOS DATOS LA MAYORÍA DE LOS HUMANOS
QUE RECOGE Y EN PLETHOR.I.A. SON LO QUE
UTILIZA... LLAMAMOS PROFESIONALES DE LA
IA: INGENIEROS, PROGRAMADORES,
EJECUTIVOS, LEGISLADORES,
CIENTÍFICOS DE DATOS...
¡E INCLUSO ALGUNOS
FILÓSOFOS COMO YO!
ESO ESPERO... TENGO QUE

BUENO, ME GUSTA LA ASEGURARME DE QUE MI TRABAJO
INFORMÁTICA, PERO LLEGUE A TIEMPO... ¡MI PROFESOR SE
NO ME CONSIDERARÍA VA A VOLVER LOCO!
UN PROFESIONAL...
PROFESIONAL O NO,
VAMOS A TENER QUE
CORREGIR ESTE ERROR SI
QUIERE VOLVER A CASA.
POR SUERTE,
CONOZCO A LA
PERSONA ADECUADA.
ASÍ ES... A LOS
PROFESORES NO
LES GUSTAN LAS
SORPRESAS...
21
SLAP
!
TRAS UN ABRUPTO ATERRIZAJE, ARI Y LA DOCTORA Y LLEGAN A SU

DESTINO: UNA DENSA JUNGLA ALGORÍTMICA...
22
A PESAR DE TODO, YA
¿QUIERE DECIR QUE ESTA
LO SIENTO, ARI, EL ESTAMOS EN UN ALMACÉN
JUNGLA ESTÁ FORMADA
PILOTO AUTOMÁTICO DE DATOS COMUNES
POR ALGORITMOS?
AÚN REQUIERE AQUÍ LA GENTE DE TODO
CIERTO AJUSTE… EL MUNDO PUEDE SUBIR
CONJUNTOS DE DATOS, Y
CUALQUIERA PUEDE ACCEDER
A ELLOS Y UTILIZARLOS.
DÍGAMELO ¡SÍ! ESTE ALMACÉN ES
A MÍ. UNA ESPECIE DE JARDÍN
LA JUNGLA QUE VE COMUNITARIO.
AQUÍ NO ES MÁS QUE ¡CUALQUIERA PUEDE TOMAR
EL FRUTO DE ESTE ESTOS DATOS Y CULTIVAR
PROCESO... LO QUE MEJOR LE PAREZCA!
EN MI PAÍS QUÉ GESTO TAN

SERÍA MUY ÚTIL... NOBLE, ARI...
¿DE VERAS?
¿POR QUÉ?
LO HABRÍA SIDO SI
HUBIERA PODIDO ENCONTRAR
UN CONJUNTO DE DATOS
BUENO... ESTA TECNOLOGÍA ES DE EJEMPLOS EN LENGUA
ALGO NOVEDOSO PARA MUCHOS MAORÍ LO SUFICIENTEMENTE
DE LOS KAUMATUA* DE MI PAÍS. GRANDE COMO PARA QUE
ASÍ, PUES, ME PROPUSE CREAR UN BOT DE CHARLA QUE FUNCIONARA...
LES PERMITIERA ACCEDER A LOS SERVICIOS PÚBLICOS
Y MANTENERSE INFORMADOS... ESE ES MI PROYECTO.
* ANCIANOS 23
...Y LUEGO ESTÁ EL TEMA …ME PARECE QUE USTED
DE LA INFORMÁTICA. ESTÁ DEL LADO DE LOS QUE
AUNQUE CONTARA CON SUFREN LO QUE LLAMAMOS
TODOS LOS DATOS, NO TENGO BRECHA DIGITAL...
ACCESO A UN ORDENADOR LO
SUFICIENTEMENTE POTENTE COMO ¿CÓMO?
PARA ENTRENAR EL ALGORITMO... ES UN DESEQUILIBRIO ÉTICO QUE
IMPIDE A ALGUNAS PERSONAS
ES INÚTIL. O COMUNIDADES ENCONTRAR
SOLUCIONES DE IA BENEFICIOSAS
PARA TODOS...
HUM…. Y, EN SU CASO, LE IMPIDE
DESARROLLAR APLICACIONES DE IA
QUE SIRVAN A LA COMUNIDAD.
ESO SE PARECE MUCHO A LO

NECESITA ACCESO A DATOS Y TRABAJA
QUE ME SUCEDIÓ HOY...
CON LO QUE DENOMINAMOS LENGUAJE
DE “BAJOS RECURSOS”. PERO SE SUPONE
QUE ALMACENES
DE DATOS COMO
¿HAY UN TÉRMINO
ESTE NOS AYUDEN,
PARA ESO? ¿VERDAD? ¡AJÁ! AHORA
HABLA COMO UNA
¡SÍ! SÚMELE A ELLO SU CONEXIÓN
¡CLARO QUE SÍ! PERO PARA FILÓSOFA.
TELEFÓNICA Y LO QUE PARECE SER UN
REDUCIR LA BRECHA DIGITAL
ORDENADOR MUY ANTICUADO.
NO BASTA CON HACER QUE LOS
EN UNA SITUACIÓN DE FRANCA DATOS SEAN MÁS ABIERTOS.
DESVENTAJA, EN COMPARACIÓN
TENEMOS QUE CONSTRUIR
CON LA MAYORÍA DE LOS
JÓVENES PROGRAMADORES
UNA IA ACCESIBLE E INCLUSIVA A ¡ARI,
COMO USTED.
TODOS LOS NIVELES. CUIDADO!
24
¿QUÉ USTED CREE, TODO LO CONTRARIO, ARI...
DEBEMOS FINGIR QUE CLARO QUE NO... ¡PUEDE QUE ESTEMOS AQUÍ
ESTAMOS MUERTOS? ¡EL H.I.L.A.R.E. ES UN BUEN RATO!
INOFENSIVO!
H.I.L.A.R.E. TIENE QUE

¿H.I.L.A.R.E.? CONSTRUIR UN MODELO
PERO PARECE QUE INTERNO TOTALMENTE NUEVO DE
ESTÁ A PUNTO DE SU ENTORNO ANTES DE PODER
ATACAR. HACER CUALQUIER COSA.
AH…
¿SÍ?
H.I.L.A.R.E. ES LO QUE LLAMAMOS

“MODELO DESCENDENTE”, ES
DECIR, ESTÁ CONCEBIDO A PARTIR
DE LA LLAMADA IA SIMBÓLICA.
VENGA, ÉCHELE UN
VISTAZO...
BÁSICAMENTE, LA IA SIMBÓLICA
GIRA EN TORNO A LAS NORMAS
Y EL RAZONAMIENTO SOBRE LA
MEJOR MANERA DE SEGUIRLAS...
25
PRIMERO, CON LA AYUDA DE
SENSORES, H.I.L.A.R.E. CREA SU
PROPIA VISIÓN DEL MUNDO...
...Y PARA QUE LAS COSAS TENGAN

SENTIDO, H.I.L.A.R.E. SIEMPRE SIGUE
ALGUNAS NORMAS BÁSICAS SOBRE
CÓMO ES ESE MUNDO.
VAYA...
DE VERDAD QUE ES
BÁSICO...
SÍ, PERO MÁS VALE QUE H.I.L.A.R.E. TENGA
UNA VISIÓN SIMPLE DEL MUNDO. ¡UNA DE
LAS DIFICULTADES DE LA IA SIMBÓLICA
ES QUE HAY QUE PENSAR EN TODAS LAS
NORMAS QUE H.I.L.A.R.E. DEBE SEGUIR!
26
SE DENOMINA
PROBLEMA DE MARCO...
...ES DIFÍCIL REDACTAR
NORMAS QUE HAGAN QUE UNA
IA IGNORE LO QUE ES TONTO,
—INÚTIL O IMPOSIBLE, Y
SE CENTRE EN LO QUE ES
IMPORTANTE.
PERO, ¿QUÉ ES TAN DIFÍCIL? CRÉALO O NO, EL SENTIDO

TODO ESO NO ES MÁS QUE COMÚN ES UNA DE LAS COSAS
SENTIDO COMÚN, ¿VERDAD? MÁS DIFÍCILES PARA UNA IA...
¡ASÍ ES! DESPUÉS QUE

H.I.L.A.R.E. CONSTRUYERA
SU MAPA DEL MUNDO, SIGUE
ADELANTE CON SU OBJETIVO:
ATRAVESAR EL BOSQUE.
27
¿CÓMO SABE
H.I.L.A.R.E. BUSCA LA MEJOR FORMA ¡DEPENDE DE LA MEDICIÓN DEL
CUÁL ES EL
DE ATRAVESAR EL BOSQUE, SOBRE RENDIMIENTO! ¿QUÉ OPINAS, ARI?
MEJOR CAMINO?
LA BASE DE TODAS LAS NORMAS
ANTES MENCIONADAS...
¿LA DISTANCIA MÁS CORTA? ¿LA

MENOR CANTIDAD DE VUELTAS?
¿LA RUTA PANORÁMICA?
NO SÉ... ¿NO
DEPENDE DE
H.I.L.A.R.E.?
¡CLARO QUE SÍ! ¡LA IA

¡NO! INCLUSO EN ESTE
H.I.L.A.R.E. CALCULA SIMBÓLICA NOS PERMITE
CASO, EL PROGRAMADOR DISEÑAR MÁQUINAS QUE
TODAS LAS POSIBILIDADES...
RAZONAN COMO EXPERTOS
BUSCA LA MEJOR SOLUCIÓN...
Y... ES MUY ÚTIL... DE HECHO,
PODRÍA SERVIRNOS
AHORA...
¡ACTÚA!
ES QUIEN DECIDE QUÉ
SIGNIFICA “MEJOR”
PARA H.I.L.A.R.E.
AL AGREGAR NUEVAS ¡¿ESO ES TODO?! YA

NORMAS... YA NADIE USA ESTAS
ENTIENDO... COSAS, ¿VERDAD?
28
¡CREO QUE ESTAMOS
CERCA! ¡ADELANTE,
H.I.L.A.R.E.!
MIENTRAS TANTO, DEL OTRO LADO DE CUALQUIERA DIRÍA

LA JUNGLA DE DATOS, EL EXPERTO QUE QUE ES USTED QUIEN
BUSCA LA DOCTORA Y ESTÁ SUMIDO EN UN CONDUCE, DOCTORA Y...
PROCESO DE PROFUNDA CONCENTRACIÓN.
POR FAVOR, ¡CÁLLENSE!

ESTOY EN PLENA SESIÓN
¡EMILE! DE ENTRENAMIENTO...
¡QUÉ BUENO
VERTE!
¡GLUP! ME
PREGUNTO QUÉ ES
UN EMILE…
ES EXTRAÑO,
PERO ME PARECE
CONOCIDO...
29
¿QUÉ ESTÁ EH... ¡ESO ME SUENA
ENTRENANDO? A APRENDIZAJE
AUTOMÁTICO!
¡AH! POR POCO SE ME

OLVIDA EL OTRO TIPO DE ¡SÍ!... LA LLAMAMOS “ASCENDENTE”
IA, LA “ASCENDENTE” O LA PORQUE, ESTA VEZ, LA IA ESTABLECE
QUE NOS GUSTA LLAMAR IA SUS PROPIAS NORMAS, ¡A PARTIR
BASADA EN DATOS... DE LO QUE LE MOSTRAMOS!
EN ESTE CASO, POR EJEMPLO, DIRÍA QUE ESTÁ OH, CLARO QUE SÍ.
TRATANDO DE ENSEÑARLE A IDENTIFICAR ¿RECUERDAS? ES MUY
CORRECTAMENTE A GATOS Y PERROS. PARECIDO AL JUEGO DE
TELÉFONO ÁRABE...
NO CREO QUE SE
HAYAN TRATADO
ESTAS COSAS EN MI
CURSO EN LÍNEA...
30
EL PROGRAMADOR MUESTRA UNA
IMAGEN DE UN GATO O UN PERRO A LA
LLAMADA “RED NEURONAL” ...
COLA CORTA OREJAS PUNTIAGUDAS
OJOS CAÍDOS
ALGÚN PEQUEÑO INDICIO DE QUE LA

FOTO PODRÍA SER DE UN PERRO...
CADA NODO DE LA RED QUIZÁS LA FORMA DE LAS OREJAS, EL
BUSCA UNA CARACTERÍSTICA TAMAÑO DE LOS OJOS, LA LONGITUD
ESPECÍFICA- DEL PELO O EL COLOR...
CUANDO EL NODO IDENTIFICA LA PISTA QUE BUSCA, AL FINAL, LA IA UNE TODAS

ENVÍA UNA SEÑAL A LOS NODOS SIGUIENTES. ESTAS SEÑALES-
COLA CORTA OREJAS PUNTIAGUDAS

+ OJOS CAÍDOS + COLA LARGA
= PERRO = GATO
PERRO GATO
Y PREDICE, CON CONOCIMIENTO DE

ESTOS NODOS BUSCAN DIFERENTES COMBINACIONES CAUSA, SI LA IMAGEN ES DE UN GATO O
DE PISTAS Y, CUANDO ENCUENTRAN LO QUE BUSCAN, DE UN PERRO.
¡TAMBIÉN ENVÍAN UNA SEÑAL!
31
¡TIENE QUE SER ¡CLARO QUE SÍ! PERO PARA
UNA BROMA! CONSEGUIR QUE UNA INTELIGENCIA
ARTIFICIAL RECONOZCA ALGO, SE NECESITAN
CIENTOS DE HORAS DE ENTRENAMIENTO,
ENORMES CANTIDADES DE DATOS
Y UNA INCREÍBLE
POTENCIA
INFORMÁTICA...
OH, NO HAY PROBLEMAS,
EMILE. EN UN PAR DE
ÉPOCAS MÁS, ESOS PESOS
DEBERÍAN AJUSTARSE...
¡LO QUE NO ES MÁS
ESTOY SORPRENDIDO... QUE APRENDIZAJE
HASTA UN NIÑO PEQUEÑO AUTOMÁTICO 101!
PODRÍA HACERLO MEJOR...
¡SÍ! EMILE FUE UNO DE LOS PRIMEROS DE HECHO, HAY TREMENDO MISTERIO DETRÁS
ESPÉRESE UN MOMENTO... DE ESE ERROR... Y, AL PARECER, SIGUE
INVESTIGADORES QUE ESTUDIÓ LOS DESEQUILIBRIOS
¿USTED ES EMILE TACH? ¿EL CRECIENDO... ¡MÁS VALE QUE CORRIJAMOS EL
ÉTICOS... ¡ES TODO UN ESPECIALISTA EN ERRORES!
PROFESOR TACH? DESEQUILIBRIO ANTES DE QUE ESE ERROR SE
LO TRAGUE ENTERO!
¿CÓMO LE VA CON LOS

DEBERES, ARI? ¿Y QUÉ ES ESO
QUE TIENE EN EL BRAZO?
SÍ... SOBRE ESTO...

QUERÍA CONOCER SU
OPINIÓN...
32
SIN PERDER UN MINUTO, NUESTROS BUENO, CREO QUE
AVENTUREROS DE IA PARTEN EN ¿PERO POR DÓNDE POR EL CONJUNTO DE
BUSCA DE UN MEDIO QUE PERMITA EMPEZAMOS? ¡SON DATOS DEL LENGUAJE
QUE ARI REGRESE A CASA... TANTOS PASOS! DE BAJOS RECURSOS.
AMBOS SABEMOS LO
RAROS QUE SON, ¿QUIZÁS
ESA FUE LA CAUSA DE LA
PERTURBACIÓN?
ARI DEBIÓ HACER ALGO
QUE DESENCADENÓ
TODO ESTO:
EN PLETHOR.I.A., CADA ENTRADA SÍ, CLARO, POR MIS DEBERES,
UN DESEQUILIBRIO ÉTICO TAN ¡DE SU CLASE, PROFE! SÉ
TIENE UNA SALIDA, ASÍ QUE PARA
GRANDE QUE PROVOCÓ UN QUE NO LE GUSTA QUE
ENCONTRAR LA SUYA, TENDREMOS
ERROR EN PLETHOR.I.A. INCUMPLAMOS LAS FECHAS DE
QUE VOLVER SOBRE SUS PASOS.
ENTREGA... TAL VEZ...
DUDO MUCHO QUE

LA ENTREGA TARDÍA DE ¡MIREN PARA
DEBERES HAYA PODIDO UN MOMENTO, ¿DE VERDAD
ALLÁ!
QUEBRAR PLETHOR.I.A., QUE FUE TARDÍA? PORQUE
ARI... TÉCNICAMENTE SUBÍ EL FI-
¡CONCENTRÉMONOS,
ARI!
33
¡ES INCREÍBLE! HE BUSCADO ESTO POR
TODAS PARTES... ¡ES LA PIEZA QUE LE
FALTABA A MI APLICACIÓN DE TRADUCCIÓN!
CON ATRASO O SIN ÉL,
¡AL PARECER, SU MODELO
PROSPERA AQUÍ!
¡GUAU! ¿PUDISTE
HACER ESO CON LOS
DATOS QUE REUNÍ?
¡SÍ! ¡UN CONJUNTO DE DATOS

TAN SÓLIDO PODRÍA ABRIR EL
TE REO* AL MUNDO!
FANTÁSTICO, ARI. PERO ELLO,

¿TE MOLESTARÍA QUE
EVIDENTEMENTE, NO ES
TOMARA ALGUNAS DE ESAS
PARTE DEL PROBLEMA...
FLORES DE MANUKA?
SÍ...
PERO COMIENZO A
PENSAR QUE ES PARTE
DE LA SOLUCIÓN. ¡TOMA TODAS
Y PODRÍA FACILITAR EL LAS QUE QUIERAS
ACCESO DE MILES DE Y ESPÁRCELAS
PERSONAS A LA IA... POR DOQUIER!
¡GRACIAS!
*IDIOMA MAORÍ 34
BUENO, SI NO FUE EL CONJUNTO DE DATOS
LO QUE PROVOCÓ TODO ESTE PROBLEMA,
¿HABRÁ SIDO ENTONCES TÉCNICAMENTE, UN CEMA NO
EL MISMÍSIMO CURSO EN ES INTELIGENCIA ARTIFICIAL...
LÍNEA? ES TAN SOLO UNA PLATAFORMA
¿EL CEMA*, EL CURSO EN
LÍNEA MASIVO Y ABIERTO? ¡HAY DE APRENDIZAJE DISTRIBUIDO.
CIENTOS DE CURSOS Y A ELLOS GUAU... ME PREGUNTO
ASISTEN DECENAS DE MILES DE QUÉ CLASE DE
ESTUDIANTES DE TODO EL MUNDO! ALGORITMOS LOCOS
CLARO, PERO SE LES
VIVEN ALLÍ...
OLVIDAN TODAS LAS
SOLUCIONES DE IA QUE
NOS AYUDAN A APRENDER
BUENO... ¿PODRÍAMOS EN LA PLATAFORMA...
EMPEZAR CON SU CURSO?
NO SON PERSONAS, SON PERFILES DE USUARIOS.

¡EH, ESA GENTE TIENE EL A DIFERENCIA DE USTED, LAS PERSONAS QUE
MISMO ERROR QUE YO! REPRESENTAN SIGUEN EN LA TIERRA.
AYUDAN A LA IA A CONOCER
CÓMO ENSEÑAR A ALGUIEN DE
LA MEJOR MANERA POSIBLE...
¡O A AYUDAR A LOS PROFESORES

HUMANOS A ADAPTARSE A LAS
NECESIDADES DE SUS ALUMNOS!
* También llamado Curso online masivo y abierto (COMA) 35

¿QUÉ ES EL APRENDIZAJE
AUTOMÁTICO?
A ADAPTARSE A CADA
ALUMNO, TRABAJAR A SU
¡LAS COMBINACIONES RITMO
SON INFINITAS! LOS
Y AJUSTARSE A
HUMANOS PUEDEN MODELO DE
SU CAPACIDAD DE
APRENDER DE LA IA.... INTELIGENCIA ARTIFICIAL ALGO QUE IMITA
CONCENTRACIÓN... BASADA EN DATOS EL CEREBRO
HUMANO
AL ASOCIAR
A PROFESORES Y
LA INTELIGENCIA ESTUDIANTES
ARTIFICIAL PUEDE O REUNIR A ALUMNOS
UNIRNOS...
CON PERFILES
COMPLEMENTARIOS... ALGO QUE UTILIZA
REDES NEURONALES
INCLUSO PODEMOS
ENSEÑARLE UN PAR DE COSAS...
¡LA MEJOR MANERA DE

APRENDER ES ENSEÑAR A
ALGUIEN, O A OTRA COSA!
36
O PODEMOS UTILIZAR PLATAFORMAS
COMO ESTA PARA APRENDER SOBRE LA
PROPIA IA... PERO NO HACE FALTA QUE
¡ASÍ ES!... ¿USTED TE LO DIGA, ¿VERDAD, ARI?
TIENE UNA
OFICINA AQUÍ?
MÁS O
MENOS… ¡NO SÉ POR
DÓNDE EMPEZAR!
PERO TENEMOS QUE

¿Y A QUÉ SE PARECE
PENSAR EN UNA FORMA
UN ERROR?
DE CERRAR LA BRECHA...
¿QUIERE DECIR USTED…

PUEDE QUE YO LA BRECHA DIGITAL?
TENGA UNA IDEA…
ESE ES EL
CAMINO A CASA…
37
ARI,
¡HAY POCAS
POSIBILIDADES TODO COMIENZA CON
DE QUE ESTO LA ACCESIBILIDAD...
FUNCIONE!
¡NO SAQUEMOS
CONCLUSIONES
PRECIPITADAS!
CREO QUE HOY HE

¡ESPERO QUE TAMBIÉN
APRENDIDO LO SUFICIENTE
SEPAS CÓMO TERMINA, ARI! CONFÍE EN MÍ…
COMO PARA SABER LO QUE
ESTOY HACIENDO...
UNOS MINUTOS DESPUÉS…
¡CRASSH!
¿ALGUIEN TIENE UN UF... PENSÉ QUE DE PRONTO

PLAN B? LAS FLORES IBAN A CRECER
Y FORMAR UNA ESPECIE DE
MATORRAL…
38
SUPONGO QUE SÍ SABÍA
DE LO QUE HABLABA...
¡QUÉ CHICO MÁS LISTO!
HHH!
A
A
H
A
¡QUÉ AVENTURA, DOCTORA
Y! GRACIAS POR HABERME
INVITADO...
OYE, ¿ADIVINA QUÉ, ARI?

¡LA FIBRA ÓPTICA YA *
FUNCIONA!
¡TE LO CREO! ¡FUE

MUCHO MÁS RÁPIDO
QUE LA ÚLTIMA VEZ!
* ¡GRACIAS! 39
¡ESO SÍ QUE ES UN ERROR!
QUIZÁS DEBAMOS TRABAJAR
JUNTOS SI QUEREMOS
CORREGIRLO...
¡OH! ¡PARECE QUE

YA LLEGÓ!
¡MISIÓN CUMPLIDA,
DOCTORA Y! ¡EL ERROR
FUE SUBSANADO!
ME PARECE BIEN, EMILE...

EMPIEZO A PENSAR QUE NO
ES SOLO UN PROBLEMA DE
NO ESTOY MUY SEGURA, ACCESIBILIDAD...
MÁS VALE QUE VENGA Y
VEA ESTO...
CONTINUARÁ…
40
Rumbo a la IA: Una aventura algorítmica Episodio I: Ari y la universidad paralela
Glosario de términos
Aprendizaje los pesos se adaptan a medida parte de las necesidades de los una línea telefónica normal. Al
automático: que el sistema recibe la entrada usuarios a la escala requerida. conectarse la línea telefónica a
también llamado IA basada de datos de entrenamiento un módem y configurarse para
en datos o ascendente, es un y almacenan finalmente las Brecha digital: marcar un número determinado,
normas “entrenadas” necesarias se ha definido como la bre- se concede al usuario acceso a la
tipo de proceso algorítmico
para resolver correctamente un cha entre individuos, hogares, red. La conexión telefónica es la
adaptativo que permite a los
determinado problema, como la negocios y zonas geográficas, con forma más lenta de conexión y,
ordenadores aprender de la
clasificación o el reconocimiento respecto a sus oportunidades de hoy en día, persiste sobre todo en
experiencia, aprender con el
de patrones, que se utilizan en la acceso a: a) la investigación sobre las zonas donde no es econó-
ejemplo o aprender por analogía,
adopción de decisiones cuando la IA, b) el conocimiento, la edu- micamente posible ni viable
al utilizar grandes cantidades de
se introducen nuevos datos en el cación y los recursos humanos, construir líneas de banda ancha.
datos y en el cual los procesos
sistema. c) los datos de capacitación, y
de aprendizaje mejoran el
rendimiento del sistema con el
d) el equipo y las conexiones in- Cursos en línea
paso del tiempo. Estrechamente
Bot de charla: formáticas necesarias. Dicho de masivos y abiertos
relacionadas con las redes
también llamado bot conversa- otro modo, la brecha digital es lo (CEMA o MOOC):
cional, es un tipo de asistente que impide la verdadera igualdad plataformas de aprendizaje
neuronales artificiales (RNA),
virtual de IA (programa infor- de condiciones a nivel mundial completamente distribuidas
muchas prácticas de aprendizaje
mático) diseñado para imitar en materia de tecnologías de IA, y virtuales, disponibles para
automático se inspiran en la
la conversación con un usuario donde los más desfavorecidos estudiantes de todo el mundo.
estructura del cerebro humano.
humano, normalmente por carecen de las herramientas para Los CEMA constituyen una
Las RNA utilizan procesadores
medio de internet o de alguna poder competir y colaborar con de las claves principales del
muy simples y altamente
interfaz virtual, mediante texto los actores más desarrollados del aprendizaje a lo largo de toda la
conectados (llamados neuronas)
o texto y voz. Los bots de charla ecosistema de la IA. vida y permiten a los estudiantes
con enlaces ponderados que
pueden brindar información útil y, en general, a cualquier persona
transmiten señales de una Conexión telefónica:
a los usuarios o indicarles cómo interactuar con profesionales de
neurona a otra. El proceso de conexión a internet que se
acceder a recursos adecuados, y primer nivel tanto de las ciencias
aprendizaje se produce cuando consigue mediante el uso de
contribuyen a satisfacer buena como de las humanidades y
41
Rumbo a la IA: Una aventura algorítmica Episode I: Ari and the Parallel University
aprender de ellos mediante mínimo los errores del modelo u que siguen normas explícitas y aumentada es lo que ocurre
cursos en línea. Los CEMA optimizar su rendimiento. transparentes dadas al sistema cuando los seres humanos y la
adoptan múltiples formas, desde por programadores humanos IA trabajan de conjunto, y se
plataformas de aprendizaje Fibra óptica: para calcular la solución de un considera que es más eficiente
totalmente autodirigido que tipo de tecnología empleada para problema. La IA simbólica se uti- que cuando una de las partes
permiten a los estudiantes transmitir información a largas liza en múltiples aplicaciones de obra por su cuenta.
trabajar a su propio ritmo distancias, en forma de pulsos IA, especialmente en situaciones
durante el curso hasta programas de luz a través de hilos de fibra en las que resulta conveniente Paradoja de Moravec:
de grado profesional acreditados de vidrio o plástico. Como los un alto nivel de control huma- describe una brecha sorpren-
que contribuyen a reforzar la cables de fibra óptica transfieren no, como es el caso de los autos dente entre las capacidades in-
enseñanza formal. las señales de datos en forma de autónomos. telectuales de los seres humanos
luz, en vez de utilizar el método e incluso los sistemas avanzados
Epoch o época: tradicional de señales eléctricas, Inteligencia de IA, donde puede apreciarse
tipo de hiperparámetro en el la información puede viajar más aumentada: que estos sistemas sobresalen en
aprendizaje automático que rápido, a mayores distancias y término que describe la diversas esferas tradicionalmente
define la cantidad de veces que el sin el riesgo de interferencias cooperación de los seres “difíciles” para los seres humanos
algoritmo de aprendizaje se eje- electromagnéticas (por ejemplo, humanos y la IA en pro de la (por ejemplo, el razonamiento
cutará a través de todo el conjun- las causadas por tormentas o consecución de un objetivo estadístico, el reconocimiento de
to de datos de entrenamiento, al vientos fuertes). Los cables de humano determinado o patrones o el juego de damas),
ajustar sus pesos a cada muestra fibra óptica forman parte de la en el marco de un sistema pero tienen un pobre desem-
del conjunto. La mayoría de infraestructura esencial de las sociotécnico. La IA puede ser peño en muchos ámbitos que la
los modelos de IA se ejecuta en prácticas modernas de IA. tanto virtual (como sistema mayoría de los seres humanos
muchas épocas (a veces más de de apoyo a la adopción de pueden dominar con facilidad,
1.000) a lo largo de su entrena- IA simbólica: decisiones) como incorporada como la percepción, la movili-
miento ya que, al menos hasta también denominada descen- (como un trabajador de dad, el sentido común y los jui-
cierto punto, cada época ayuda dente o sistemas expertos, se una fábrica robotizada). En cios de valor, por solo mencionar
a los ingenieros a reducir al basa en procesos algorítmicos otras palabras, la inteligencia algunos ejemplos.
42
Rumbo a la IA: Una aventura algorítmica Episode I: Ari and the Parallel University
Conclusiones
E l ser humano y la IA tienen mucho que aprender el uno de la otra.
Ello significa no solo que lo que aprendemos debe adaptarse a los
vertiginosos cambios tecnológicos que se producen hoy en día a nuestro
las apasionantes posibilidades de la inteligencia artificial -por ejemplo,
al generar conjuntos de datos abiertos e inclusivos o romper las barreras
lingüísticas en la investigación sobre IA y el procesamiento del lenguaje
alrededor, sino también que la forma en que aprendemos debe incorporar natural-, estos avances tecnológicos solo servirán para aumentar las
algunas de las herramientas innovadoras y útiles que la propia IA ofrece. ya sorprendentes disparidades que existen en los distintos rincones
Al combinar la IA y la educación, podemos crear aulas globales, reunir del mundo. En este sentido, hay que establecer o revisar políticas y
mentes afines, e incluso enseñar a la IA a enseñarnos mejor. acuerdos, tanto a nivel nacional como internacional, a fin de garantizar
que la IA no sea perjudicial ni pueda utilizarse de manera dañina.■
No obstante, si no trabajamos con el fin de garantizar que cada uno de
nosotros disfrute de igualdad de oportunidades para beneficiarnos de
43
Episodio II
Maryam y la inmersión en la cuenca de datos

Ilustración: Cassandra Okwaniuzor Mark
Rumbo a la IA: Una aventura algorítmica Episodio II: Maryam y la inmersión en la cuenca de datos
Introducción
L a inteligencia artificial se está convirtiendo rápidamente en un
elemento crucial para el avance del desarrollo humano y la creación
de sociedades del conocimiento inclusivas. En un mundo cada vez
Por una parte, el problema tiene que ver con la inestable relación que
existe entre la adopción de decisiones automatizada, los datos y los
prejuicios del pasado. Es importante garantizar que los errores éticos de
más global y conectado, la IA nos permite comprender mejor nuestro antaño no influyan en las decisiones del presente, al utilizarse conjuntos
entorno y adoptar decisiones, tanto a nivel de usuarios individuales de datos sesgados y anticuados que representan un mundo en el que
como a nivel colectivo, en el sector público y privado. La IA puede ya no queremos vivir o al seguir ciegamente las recomendaciones
ayudarnos a adoptar decisiones más adecuadas, fundamentadas y ininteligibles de las herramientas de IA que se entrenan con este tipo
exactas, de forma generalizada: al señalar patrones que podríamos de datos.
haber pasado por alto, encontrar conexiones que podríamos no haber Por la otra, el problema está relacionado con nuestra propia incapacidad
visto, y brindar recomendaciones innovadoras que nunca habríamos para entender y representar de manera adecuada y justa lo diversa que
imaginado por nuestra cuenta. puede ser la humanidad. La inclusividad debe servir de guía en el
Sin embargo, si no somos conscientes de las formas en que la tecnología diseño de los sistemas de IA, al garantizar que sus herramientas puedan
de la IA se expande y desarrolla, corremos el riesgo de pasar por alto un observar todas las facetas de la humanidad y aprender de ellas, en vez
impresionante conjunto de desafíos éticos que amenazan con interferir de hacerlo de una pequeña muestra de rostros familiares, similares y
en derechos humanos fundamentales o incluso obstaculizarlos. fácilmente disponibles.
De hecho, el aumento de la vigilancia, la extracción de datos y la Si no trabajamos en pro de la solución de estos problemas, correremos el
elaboración de perfiles, así como el sesgo algorítmico y la adopción riesgo de construir una IA que no ayude a todas las personas de manera
de decisiones automatizada, entre otras cuestiones, suponen nuevos equitativa y adecuada, un mundo en el que la IA atienda perfectamente
riesgos para los derechos a la intimidad y a la no discriminación que a algunos, pero apenas reconozca a otros, o un mundo en el que algunos
nos corresponden. Y lo que es peor, aunque estos riesgos plantean una seamos prácticamente invisibles... ■
amenaza para los derechos humanos en general, se aprecia que afectan
de forma desproporcionada los derechos de las mujeres, las personas de
color y otras minorías vulnerables.
45
EN UNA MAÑANA SOLEADA EN LAGOS, NIGERIA, MARYAM ESTÁ A PUNTO
DE LLEGAR TARDE A LA QUE PODRÍA SER LA OPORTUNIDAD DE SU VIDA...
AL PARECER,
SON MUY
GENEROSOS...
¿ASÍ QUE TE
CONTRATARON PARA BUENO... TODOS NOS
APRENDER SOBRE LA BENEFICIAMOS CUANDO LA
IA? INVESTIGACIÓN EN INTELIGENCIA
ARTIFICIAL ES MÁS INCLUSIVA.
TODAVÍA NO. VOY A MI
ENTREVISTA FINAL PARA
REALIZAR UN PERÍODO SUPONGO QUE SÍ... PERO
DE PRÁCTICA EN ME ENSEÑARÁN TODO SIEMPRE PENSÉ QUE LA
ANÁLISIS DE DATOS. LO QUE NECESITO PARA INFORMÁTICA ERA UNA
PONER EN MARCHA MIS COSA DE VARONES...
PROPIOS PROYECTOS.
TAL VEZ EN EL
PASADO. ¡PERO ESA
ES EXACTAMENTE LA
FORMA DE PENSAR QUE
QUIERO CAMBIAR!
¡SI TÚ LO DICES,
MARYAM! ¡APÚRATE QUE
VAS A LLEGAR TARDE!
46
AL LLEGAR A LA PUERTA DE LA EMPRESA TECNOLÓGICA CON MUY POCOS MINUTOS
DE ANTELACIÓN, MARYAM INTENTA DESESPERADAMENTE ABRIR LA PUERTA...
POR FAVOR, MIRE A

LA CÁMARA
ACCESO
DENEGADO
BZZZZZZZZZ
47
¡VOY A ENTRAR,
AUNQUE TENGA ¿QUÉ ME ESTÁ
QUE PASARME AQUÍ PASANDO?
TODO EL DÍA!
48
TRAS UN PROFUNDO SUEÑO, MARYAM SE DESPIERTA
SOBRESALTADA Y DESCUBRE QUE ESTÁ EN UNA PLAYA
QUE PARECE ESTAR MUY LEJOS DE SU CASA...
49
DISCÚLPEME…
EH… ¿SEÑOR?
YO NO ME MOLESTARÍA.
DEFINITIVAMENTE, NO
PUEDE ENTENDERTE...
¡PERO DE
NUEVO!
50
¿¡DISCÚLPEME!?
¿ACASO ME CAÍ
DE CABEZA
¡QUIERO DECIR QUE EL

PEZ ES UN ALGORITMO DE
CLASIFICACIÓN! ¡ES EVIDENTE
QUE NO PUEDE PROCESAR EL YO SOY LA DOCTORA
LENGUAJE NATURAL! Y, Y PUEDO AYUDARLA.
¿ME ACOMPAÑA?
SUPERA SUS
CAPACIDADES… ¡NO, NO SE CAYÓ DE
CABEZA, CAYÓ EN
PLETHOR.I.A.!
USTED ES
MARYAM,
¿VERDAD?
¡SÍ!…
51
BIENVENIDA A LA
CUENCA DE DATOS, SITIO
EMBLEMÁTICO DE LA
VISIÓN ARTIFICIAL EN
PLETHOR.I.A...
¿ALGORITMOS DE
CLASIFICACIÓN?
¡Y HOGAR DE
MUCHOS ALGORITMOS
DE CLASIFICACIÓN
DE LA GALAXIA!
IDENTIFICAN
PERSONAS, LUGARES,
¡INCLUSO PUEDEN
OBJETOS...
RECONOCER ROSTROS
HUMANOS!
ESTOS ALGORITMOS PERMITEN

QUE LA INTELIGENCIA ARTIFICIAL
VEA E INTERPRETE EL MUNDO...
52
AL PRINCIPIO,
APRENDEN DE LOS ¿DICE USTED QUE
EJEMPLOS QUE LES RECONOCEN LOS
DAN LOS HUMANOS. ROSTROS HUMANOS?
SÍ, SI FUERON
CONCEBIDOS CON ESE
PERO, CON EL TIEMPO, FIN. TODO DEPENDE
APRENDEN LO SUFICIENTE REALMENTE DE LOS DATOS
COMO PARA IDENTIFICAR DE ENTRENAMIENTO.
LAS COSAS POR SÍ SOLOS.
ESO ME
RECUERDA
ALGO…
53
MIRE…
¿DIJO
“ERROR”?
PARECE QUE SU ERROR ¡SÍ! ¡Y YA SÉ CÓMO

ENTRAÑA ALGÚN TIPO DE FALLO CORREGIRLO! ¡APÚRESE;
DE CLASIFICACIÓN... LA CARRERA ESTÁ A
PUNTO DE COMENZAR!
54
ALEJADAS DE LOS COMPETIDORES, LA DOCTORA Y
Y MARYAM TRAMAN UN PLAN…
¿DICE QUE TENGO

ADMITO QUE ES MUY POCO
QUE COLARME EN ESA
CONVENCIONAL, PERO ESTA ES
COMPETENCIA?
MI HIPÓTESIS...
PARA QUE LOS ALGORITMOS DE CLASIFICACIÓN

¿QUÉ ES
RECONOZCAN ALGO, HAY QUE ENTRENARLOS. LOS SERES
ESTO?
HUMANOS DEBEN DECIRLES CÓMO IDENTIFICAR LAS COSAS
EN EL MUNDO, Y CÓMO LLAMARLAS. POR EJEMPLO...
UNA
MANZANA…
PERO, ¿ACASO TODAS

LAS MANZANAS LUCEN
IGUALES?
55
¡CLARO!
PERO SI TODAS LAS QUE
HA VISTO SON ROJAS,
PODRÍA PENSAR...
...QUE NO ES UNA
MANZANA.
CREO QUE ESTO ES LO

QUE LE HA PASADO...
¡CLARO QUE NO!
HAY TANTOS TIPOS
DIFERENTES...
56
ENTONCES... ¿LOS ALGORITMOS
DE CLASIFICACIÓN TIENEN QUE
VER A MÁS PERSONAS COMO YO?
ESA ES UNA
FORMA DE
ANALIZARLO...
MÁS VALE QUE NOS DEMOS

PRISA ANTES DE QUE ESTE
ERROR EMPEORE...
¡CREO QUE LA MEJOR ¡QUÉ ALINEACIÓN TAN

MANERA DE SOLUCIONAR IMPRESIONANTE! ESTOS
ESTE PROBLEMA ES LLEGAR VOLVERÁ A ALGORITMOS SÍ QUE PARECEN
ALLÍ Y CLASIFICARSE! CASA EN UN TENER GANAS DE APRENDER.
ABRIR Y CERRAR
DE OJOS.
PERO,
¿CÓMO?
57
SÍGAME, MARYAM,
DISTRAERÉ A LOS
INGENIEROS.
... ¿CLASIFICARME?
¡ARRIBA,
LLEGÓ LA HORA SWIIIIISH
DE ARRANCAR!
¡LOS TRABAJADORES
DEL SURF MECÁNICO ¿ARRANCAR
REALMENTE SE HAN QUÉ?
SUPERADO A SÍ MISMOS!
58
TRAS TIRARSE AL AGUA EN LA PRIMERA ETAPA DE LA
COMPETENCIA, MARYAM SE MARAVILLA CON LA FLORA Y LA FAUNA
DE LA VASTA BASE DE DATOS DE IMÁGENES ACUÁTICAS...
PLOP
59
¿QUÉ SON TODAS
ESTAS COSAS? YA ENTIENDO, SE LES ENSEÑA
QUÉ SON LAS COSAS Y A
QUÉ SE PARECEN...
SON EJEMPLOS QUE HAN SIDO

ETIQUETADOS A MANO POR SERES ¡EXACTAMENTE! AHORA MIRE A VER
HUMANOS; CONSIDÉRELO UNA LECCIÓN SI ENCUENTRA UNA CATEGORÍA
PARA LOS NUEVOS ALGORITMOS DE QUE LE CONVENGA...
CLASIFICACIÓN...
¿QUÉ ES
ESTO?
CUALQUIERA DIRÍA QUE

LE CUESTA RECONOCER
ALGO... ¿ESTÁ SEGURA
DE QUE ESTO FUNCIONE?
¡ES UNA PRUEBA! ¡SU PEQUEÑO
ALGORITMO DE CLASIFICACIÓN TIENE ¡TENGA PACIENCIA! CRÉALO O NO,
QUE DEMOSTRAR QUÉ HA APRENDIDO EN SE REQUIERE MUCHO ENTRENAMIENTO
ESTA FASE DEL CONJUNTO DE DATOS! PARA QUE UN ALGORITMO DE ESTE TIPO
PUEDA PREDECIR CON PRECISIÓN...
60
A MEDIDA QUE SE ADENTRA EN EL CORAZÓN DE LA BASE DE DATOS,
MARYAM TROPIEZA CON ALGUNOS ROSTROS DESCONOCIDOS...
CLARO, PERO YO NO ME VEO

ESTO ES ALGO ASÍ CUANDO ESTOY TRISTE...
ESPELUZNANTE...
LA DETECCIÓN DE EMOCIONES ES UNA ...CONOZCO ESE SENTIMIENTO.

PARTE IMPORTANTE DE LA CLASIFICACIÓN; AYUDA UN BUEN CONJUNTO DE DATOS NO TIENE
A UNA IA A INTERPRETAR CÓMO UNO SE SIENTE... QUE VER SOLO CON LA CANTIDAD, SINO
TAMBIÉN CON LA VARIEDAD.
¿VARIEDAD? ¿Y ¡MARYAM! MÁS

QUÉ ME DICE DE LA VALE QUE BUSQUE UN LUGAR
DIVERSIDAD? DONDE ESCONDERSE. LOS
DEMÁS COMPETIDORES
ESTÁN A PUNTO DE...
OF
61 PL
¿HOLA? ¿ALGUIEN
ME ESCUCHA?
¿A DÓNDE FUE A
PARAR MI PEZ?
¿QUÉ HARÉ
AHORA PARA
CLASIFICARME...? ¡…BINGO!
62
ENCONTRÉ LA CATEGORÍA, PERO
¿CÓMO VOY A ENCONTRAR UNA
ETIQUETA? A MENOS QUE...
63
EN ALGUNA PARTE DE LA COSTA DEL PACÍFICO…
ES EXTRAÑO... ESA
MÁSCARA DE BUCEO NO
PINTA NADA AHÍ...
64
BUENO, ¡QUÉ FORMA
DE CONSEGUIR UNA
ETIQUETA!
¡AHORA SOLO ME FALTA

ENCONTRAR ESE ALGORITMO
DE CLASIFICACIÓN!
65
¡TE TENGO!
NO ES DE EXTRAÑAR
QUE LA GENTE DE COLOR
SI TODOS LOS PECES SEA TRATADA DE FORMA
DE LA CUENCA DE DATOS DIFERENTE...
APRENDEN DE ETIQUETAS
COMO ESTAS…
¡TRATEMOS DE
ROMPER EL
CICLO!
66
¡OYE! ¡AHORA PUEDES
TRAS SUPERAR POR ESTRECHO MARGEN LA ETAPA FINAL DE LA COMPETENCIA VERME! ¿ESO SIGNIFICA
DE LOS BANCOS DE DATOS, UNA AGOTADA MARYAM PRONTO SE ENCUENTRA QUE MI ERROR YA ESTÁ
FLOTANDO EN LOS ALTOS MARES DE LA CUENCA DE DATOS… CORREGIDO?
GLU
¿¡AHORA QUÉ!?
¡PARECE QUE SU ERROR ES MÁS COMPLEJO
DE LO QUE PENSÁBAMOS! ¡DÉSE PRISA, NO
TENEMOS TIEMPO QUE PERDER!
GLU
PERO, ¿QUÉ
PASA CON...? NO SE PREOCUPE, SEGURO
G QUE SE VOLVERÁN A VER...
LU
67
MARYAM DESCIENDE AL INTERIOR
DE LA NAVE, SIN TENER NI IDEA DE DISCÚLPEME,
LO QUE LE ESPERA... ¡AH! ¿NO DIJE QUE PERO ¿CÓMO
HABÍA CONTRATADO A SABE MI
UNA COPILOTO? NOMBRE?
¡ES UN PLACER
CONOCERLA, MARYAM!
¡NO TODOS LOS DÍAS SE

ENCUENTRA A UNA JOVEN CON
UN PERFIL COMO EL SUYO!
POR SU SOLICITUD, ...AL PARECER

EVIDENTEMENTE. RUTHDOL TIENE UN PERO,
YO MISMA LA PROBLEMA TÉCNICO CON ¿CÓMO PUDO
¡ESO ES EXACTAMENTE
SELECCIONÉ PARA SU HERRAMIENTA DE SUCEDER?
LO QUE VAMOS A
LAS PRÁCTICAS, PERO CONTRATACIÓN…
AVERIGUAR! ¡AMÁRRENSE
ENTONCES...
LOS CINTURONES!
Y SU SOLICITUD NO
FUE SELECCIONADA
POR EL SISTEMA
AUTOMÁTICO...
68
SABE, MARYAM,
EL PROBLEMA
TIENE DOS
ARISTAS...
PRIMERO, PLETHOR.I.A.
NO TIENE SUFICIENTES DATOS
SOBRE MUJERES...
Y SEGUNDO, EN GENERAL, NO
SI NO TOMAMOS MEDIDAS
CONTAMOS CON SUFICIENTES
PARA INTEGRAR A MÁS
MUJERES QUE TRABAJEN EN IA...
MUJERES EN LA IA...
¡AL PARECER, AQUÍ

HAY UN PROBLEMA DE
SUBREPRESENTACIÓN!
ESA ES BUENA. ACABAREMOS
PERO SABE, NO ES ATRAPADOS EN...
NINGUNA BROMA...
69
… ¡EL PASADO!
SEAN BIENVENIDAS A
LAS MINAS DE DATOS DONDE
SE ALOJAN ALGUNOS DE LOS
CONJUNTOS DE DATOS MÁS
ANTIGUOS DE PLETHOR.I.A.
TENGAN LA GENTILEZA DE
SEGUIRME...
70
A DIARIO LLEGAN A PERO TAMBIÉN TENEMOS
PLETHOR.I.A. NUEVOS DATOS SOBRE CÓMO ERAN
DATOS DE TODO TIPO. SE LAS COSAS ANTES DE LA IA.
PROCESAN, ALMACENAN... ESO ES LO QUE VEN AQUÍ.
ESTOS DATOS PERMITEN

INTERPRETAR EL MUNDO
A JUZGAR POR LO QUE
Y TOMAR DECISIONES,
SE VE AQUÍ, ¿CUÁL SERÍA
SALVO...
PARA NOSOTRAS EL
ASTRONAUTA IDEAL?
¿SALVO QUÉ?
BUENO, SI QUISIÉRAMOS
SABER CÓMO ES EL
ASTRONAUTA IDEAL...
¿PROBABLEMENTE
ALGUIEN COMO ELLO FORMA PARTE DE
ELLOS...? LO QUE LLAMAMOS
“SESGO ALGORÍTMICO”,
Y PARA SUBSANARLO,
¡EXACTO! ¡AUNQUE MARYAM,
VAMOS A TENER
PERSONAS MUY Y SU ERROR ESTÁ
QUE ROBARNOS UN
DIFERENTES PODRÍAN ÍNTIMAMENTE RELACIONADO
HUEVO...
HACER ESE TRABAJO! CON ESTE SESGO.
¿CÓMO?
71
¡JAMÁS LO HUBIERA
PENSADO, PERO ESA ES NUESTRA
HERRAMIENTA DE CONTRATACIÓN!
¡GENIAL! ESTO
DEBERÍA SER
FÁCIL....
LAS
CREO QUE NUESTRO Y QUE ALLÁ DENTRO, EN

AMIGUITO AQUÍ SE HA ALGÚN LUGAR, UNA PEQUEÑA
ESTADO DELEITANDO VERSIÓN SUYA HA CAÍDO EN
CON CIERTOS DATOS MUY LA CATEGORÍA NEGATIVA...
SESGADOS...
¿Y CÓMO LO
EL GRUPO DE PERSONAS
HAGO?
¿CATEGORÍA QUE EL CANGREJO
NEGATIVA? CONSIDERA NO APTO...
¡A MÍ NO ME
¡COLÓQUESE EN LA PREGUNTE; YO NO
CATEGORÍA POSITIVA, SOY INGENIERA!
ESO ME TRANQUILIZA
Y SU ERROR DEBERÁ
MUCHO...
CORREGIRSE!
72
MARYAM SE ACERCA SIGILOSAMENTE AL CANGREJO
DORMIDO, EN BUSCA DE SU HUEVO TAN ESPECIAL...
ESTO ES PAN
COMIDO...
¡TENGO QUE BUSCAR

ALGO CON QUÉ
RELLENAR ESE ESPACIO!
¡CUIDADO, MARYAM!
¡CREO QUE SE ESTÁ
DESPERTANDO!
¡USE LA
CABEZA!
73
¡MUY BIEN,
ALLÁ VOY...!
¡BRAVO,
MARYAM!
¡YA CORRIGIÓ UN DESEQUILIBRIO

ÉTICO! ¡EL PLANETA AÑADE NUEVOS
DATOS PARA QUE LO QUE ACABA DE
HACER SE CONVIERTA EN REALIDAD!
74
¡OIGAN, USTEDES!
¡CREO QUE TENEMOS
UN PROBLEMA!
PESE A QUE LAS INTERMINABLES CAVERNAS DE LAS MINAS DE

DATOS ESTÁN INUNDADAS DE ROSTROS MÁS CONOCIDOS, LA
AA
FELICIDAD DE MARYAM PRONTO SE VE INTERRUMPIDA…
AAA AASS
PL
75
¡CREO QUE TE
HE VUELTO A
VER!!
76
¡ACCESO
CONCEDIDO!
¡MENOS MAL! DIGAMOS QUE ESA

¡PENSÉ QUE INFORMACIÓN ES
LA HABÍAMOS CLASIFICADA...
PERDIDO!
NO CREO QUE SE
LIBREN DE PERSONAS
COMO NOSOTROS EN UN
FUTURO PRÓXIMO...
PERO, ¿CÓMO
ESCAPÓ?
CONTINUARÁ…
77
Algoritmos de Conjunto de datos: automático ascendente o lo que de los encargados del proceso de
clasificación: en ocasiones denominado base denominamos acertadamente IA contratación.
en el caso del aprendizaje de datos, es sencillamente una basada en datos.
Procesamiento de
automático supervisado, los colección de datos estructurados.
Herramientas de Lenguaje Natural
algoritmos de clasificación son Dicho de otro modo, es
contratación: (PLN):
modelos que aprenden, a partir una colección de elementos
designan el uso de la inteligencia rama de la investigación en
de los datos de entrenamiento de como hechos, mediciones,
artificial para automatizar inteligencia artificial dedicada
entrada, a predecir la probabilidad observaciones, imágenes,
parcialmente el proceso de a dotar a los ordenadores
de que las muestras de un conjunto texto, audio o vídeo, o sus
contratación. Ello puede de la capacidad de entender
de datos novedoso y diferente se representaciones. Los conjuntos
incluir la programación textos y la palabra hablada,
integren en una de las categorías de datos son esenciales para la
automática de entrevistas a de forma similar a los seres
de clasificación predeterminadas inteligencia artificial. ¡De hecho,
candidatos, la preselección humanos. Normalmente,
(también conocidas como sin conjuntos de datos, la IA
de candidatos (mediante el PLN combina métodos
“subpoblaciones”). En otras no podría aprender, percibir,
análisis y recomendaciones), el lingüísticos tradicionales, como
palabras, el modelo aprende categorizar, hablar, escuchar
emparejamiento de candidatos, la modelización de un lenguaje
primero las categorías y sus ni interpretar! Los conjuntos
los bots de charla o los basada en normas, con métodos
asociaciones a partir de las de datos pueden ser grandes o
entrevistadores telefónicos o estadísticos o de aprendizaje
etiquetas que los ingenieros pequeños, públicos o privados,
por vídeo basados en la IA. En automático. El procesamiento
le proporcionan durante el equilibrados o sesgados, pero
la actualidad, la mayoría de los de lenguaje natural, que
entrenamiento y luego utiliza independientemente de los
procesos de contratación no está tradicionalmente constituía un
lo aprendido para clasificar los detalles, los conjuntos de
totalmente automatizado y se problema difícil de resolver en la
nuevos datos en esas mismas datos constituyen la columna
emplea con objeto de facilitar la investigación de IA, ha mejorado
categorías. vertebral del aprendizaje
adopción de decisiones por parte de manera notable con el uso del
78
aprendizaje automático y está del propio modelo de IA e,
presente en muchas aplicaciones incluso, la predisposición
cotidianas de la IA, como los consciente y subconsciente
asistentes de voz, los programas de los programadores del
de conversión de voz a texto, la sistema. Aunque la mayoría
traducción automática y los bots de los sistemas de IA bien
de charla. diseñados están libres de sesgos
algorítmicos, el hecho de
garantizar que estos sistemas
Sesgo algorítmico: funcionen siempre de forma
término general que describe justa sigue siendo un tema
las formas en que determinados delicado para los profesionales
sistemas de IA pueden generar de la IA.
resultados, decisiones o
recomendaciones que muestren
inclinación o prejuicio en favor
o en contra de una persona o
grupo, especialmente de una
manera que se considere injusta.
Las causas de estos sesgos son
múltiples y están relacionadas
con la representatividad
del conjunto de datos, su
tamaño, las ponderaciones
79
Conclusiones
C ada vez más, la función de la inteligencia artificial es ayudar a los
seres humanos a dar sentido a un mundo sumamente complejo
y acelerado. No obstante, ¿qué tipo de ayuda puede ofrecer si su
uno. Asimismo, es preciso desarrollar una supervisión adecuada de
los sistemas de IA, o sea, que los seres humanos de todos los niveles
del ecosistema de la IA trabajen con miras a promover y respetar las
propio diseño y estructura privilegian automáticamente a algunos en normas éticas internacionales basadas en los derechos humanos, que
detrimento de otros? contribuyan a garantizar que las herramientas de la IA sean realmente
beneficiosas para todos.
Para que ello no ocurra, es menester adoptar medidas que garanticen
que los derechos humanos de todos gocen de una protección plena y En su conjunto, estos esfuerzos contribuirán en gran medida a evitar los
adecuada. Esta solución comienza parcialmente en la fase de diseño, prejuicios y la discriminación en el desarrollo y el uso de los sistemas
cuando se verifica que los conjuntos de datos sean exhaustivos, de IA, y a confirmar que el futuro de la IA sea el que todos queremos.
inclusivos y sensibles a las vulnerabilidades y particularidades de cada
80
Episodio III
Shirin y el sistema de recomendación

Ilustración: Asma Kraiem
Rumbo a la IA: Una aventura algorítmica Episodio III: Shirin y el sistema de recomendación
Introducción
C ada día, la IA incide en la vida de millones de personas de todo el
planeta, al moldear sus experiencias y oportunidades y reforzar
su comprensión del mundo que les rodea. Utilizamos la tecnología
¿Cómo sabe la IA lo que más le gustaría ver a cada uno? En parte, lo sabe
porque se lo decimos. Cada vez que nos gusta un vídeo, comentamos
una publicación, añadimos un nuevo amigo o seguimos la actividad
para conectarnos con nuestros amigos, descubrir nuevos intereses o de alguien, le decimos a la inteligencia artificial: “quiero ver más de
comprender mejor los temas que nos preocupan. De hecho, al elegir esto, por favor”. Al mismo tiempo, la IA también profundiza en cómo
qué partes de nuestra vida compartimos en línea, podríamos utilizar pasamos nuestro tiempo en línea, por ejemplo, en qué anuncios hemos
incluso la IA para entendernos o reinventarnos. En este sentido, la IA nos hecho clic, qué vídeos hemos visto, qué páginas hemos visitado y cuánto
ofrece una oportunidad sin precedentes para fomentar el crecimiento tiempo les hemos dedicado. La IA registra toda esta información en
personal y colectivo, al unir al mundo y resaltar la increíble diversidad de forma de datos y, a diario, los utiliza para sugerirnos nuevas cosas que
experiencias, opiniones y conocimientos humanos existentes. leer, ver, comprar o hacer. Entonces, de la misma forma en que la IA
nos ofrece una visión personalizada del mundo, posee una visión muy
No obstante, de la misma forma en que la IA nos ofrece una ventana a
personal de cada uno de nosotros, definida totalmente por los datos que
través de la cual ver el mundo, también brinda a cada uno una visión
ha recopilado.
singular de este mundo. Cuando interactuamos con tecnologías como las
plataformas de las redes sociales o de contenidos en línea, la inteligencia Pero, ¿qué ocurre cuando no estamos de acuerdo con la forma en que
artificial configura nuestra experiencia entre bastidores, al mostrarnos los nos han definido nuestros datos? ¿Qué debe hacerse cuando ver lo que
contenidos que más nos puedan gustar, ponernos en contacto con otros resulta interesante se consigue a costa de no ver lo que es importante?
usuarios con los que podríamos tener algo en común y, ocasionalmente, ¿Cómo podemos separar la verdad de la ficción en nuestra ventana al
descartar ideas que podrían poner en tela de juicio nuestras convicciones mundo, y cómo puede la IA distinguir la diferencia? Las respuestas
o incomodarnos. De este modo, la inteligencia artificial cambia nuestra pueden variar de una persona a otra... ■
visión del mundo, al mostrarnos lo que es más encantador.
82
¿DE QUÉ OTRA FORMA
PODRÍAS EXPLICAR VÍDEOS
DURANTE UN TRANQUILO ALMUERZO ENTRE AMIGOS EN
COMO ESTE? EL TIPO NO TIENE
LA UNIVERSIDAD DE MANOUBA, SHIRIN PREGUNTA A ABBI
GATO, NO CONOCE A NINGÚN
SOBRE SU ÚLTIMA Y DESCABELLADA TEORÍA...
GATO, NI SIQUIERA LE GUSTAN
LOS GATOS…
ABBI, ¿DE VERDAD CREES PERO MENCIONA LA “COMIDA PARA

QUE NUESTROS TELÉFONOS GATOS” EN UNA CONVERSACIÓN Y
NOS ESPÍAN? UNOS DÍAS DESPUÉS...
¡PUM! ¡APARECE UN ANUNCIO

DE COMIDA PARA GATOS EN
SU CUENTA WEB!
POR FAVOR,
CHICOS, DÉJENNOS
COMER EN PAZ...
83
BUENO, AUNQUE FUERA
ASÍ... ¡YO NO TENGO
VAMOS, ABBI, ¿DÓNDE ESTÁN TUS
NADA QUE OCULTAR!
PRUEBAS? ¿Y QUÉ SI UN TIPO CREE QUE
SU TELÉFONO ESTÁ PINCHADO? ESO NO
SIGNIFICA QUE SEA VERDAD.
...JURARÍA QUE ESA

Y DICE QUE QUIERE ES PRECISAMENTE SU CUIDADO, ABBI... TU TELÉFONO ESTÁ SOBRE
SER PERIODISTA... ESTRATEGIA… LA MESA...ES PROBABLE QUE ALGUIEN NOS
ESTÉ ESCUCHANDO AHORA MISMO...
¿DE VERAS QUE A NINGUNO

DE USTEDES LE PREOCUPA
SU PRIVACIDAD?
ABBI, TÚ NUNCA CREES

NADA SIN HABERLO
COMPROBADO ANTES. ASÍ
ES QUE, ¿PARA QUÉ TOMAR NO SOY EL ÚNICO. ¡EL
A ESTE TIPO EN SERIO? VÍDEO TIENE CASI 30.000
“ME GUSTA”!
84
ABBI, ¡QUE SEA POPULAR
¡PARA CON ESO, SHIRIN! ¡NO
NO QUIERE DECIR QUE SEA
VAS A CENSURAR A NADIE
VERDAD! BASTA... ¡VOY A
DESDE MI CUENTA!
MARCAR ESE VÍDEO!
¿¡QUÉ HICISTE
AHORA!?
…PERO, ¿DÓNDE
SE METIERON?
85
ESTUPEFACTA Y DESORIENTADA, SHIRIN SE
HALLA DE REPENTE EN LA GÉLIDA ENTRADA ABBI,
DE UN LABERINTO SOBRENATURAL... ¿ERES TÚ?
AC!
AAA
A
¡CR
¿QUÉ ES RAAAAAC !
¡C
ESO... HUMO?
86
MIENTRAS LE SIGUE EL RASTRO AL HUMO HASTA
SU ORIGEN, SHIRIN DIVISA UN PEQUEÑO OBJETO PARECE UNA
DORADO QUE BRILLA EN LA NIEVE... BRÚJULA...
H
HH
H SALVO QUE...
S
OO
O
O
OO
SW
NUNCA ANTES
HABÍA VISTO
DIRECCIONES APUESTO QUE LA PERSONA QUE
COMO ESTAS... DEJÓ ESTAS HUELLAS PODRÍA
DARME MÁS INFORMACIÓN...
87
QUÉ EXTRAÑO,
DE NUEVO ESTAS
DEJÓ DE GIRAR...
CRIATURAS... AL PARECER,
NI CUENTA SE HAN DADO
DE QUE ESTOY AQUÍ...
SHIRIN SE ACERCA POR DETRÁS A

UNA SILUETA ACURRUCADA...
88
Y DESCUBRE A UNA DOCTORA
Y MUY FRUSTRADA...
DISCÚLPEME.
¡VAMOS, ACABEN DE ¡CREO QUE ESTOY
HACER CHISPA!... ¡CASI PERDIDA!
SIEMPRE HAY FRICCIÓN
ENTRE USTEDES!
¡QUÉ SUERTE! PENSÉ

QUE TENDRÍA QUE DAR ¿ME BUSCABA
MUCHAS VUELTAS ANTES A MÍ?
DE ENCONTRARLA...
NO SÉ, ESTÁBAMOS
¡CLARO QUE SÍ! DISCUTIENDO DURANTE EL
USTED ES ABBI, ALMUERZO... Y ENTONCES...
¿VERDAD? ACABÉ... ¿AQUÍ?
PERO, ¿CÓMO ES POSIBLE?...

NO, YO SOY ¡NUESTROS DATOS
SHIRIN... ¡Y ESTOY MOSTRABAN SOLO UN ERROR
BUSCANDO A MI ¡AHORA SOMOS EN ESTE LABERINTO!
AMIGO ABBI! DOS…! PERO... ¿QUÉ
HACE USTED AQUÍ? ¿QUÉ QUIERE
DECIR CON
“LABERINTO»?
89
ESTÁ DENTRO DE UNA PLATAFORMA ¿QUÉ QUIERE
DE ALOJAMIENTO DE CONTENIDOS. DECIR?
YA SABE, DÓNDE VA A VER SUS
VÍDEOS FAVORITOS EN LÍNEA.
¿QUIERE DECIR QUE

ESTAMOS DENTRO NO, ES SOLO
DE UN TELÉFONO? UNA VENTANA DE
ACCESO, COMO LAS
TABLETAS Y LOS
ORDENADORES. BUENO, CUANDO SE MIRA
LOS PROGRAMAS AGENTES DE LA LUNA A TRAVÉS DE UNA
INTERNET COMO ESTE LE PERMITEN VENTANA, LA LUNA NO ESTÁ MUCHAS OTRAS
ACCEDER A SUS CONTENIDOS REALMENTE DENTRO DE LA PERSONAS PUEDEN VERLA
DESDE CUALQUIER LUGAR. VENTANA. AL MISMO TIEMPO...
ENTONCES,
¿ESTAMOS EN
LA “LUNA”? ¿ACASO ALGO
COMO ESTO SERÍA
DE UTILIDAD?
DE CIERTA FORMA. EN
REALIDAD, ESTAMOS
DENTRO DE UN CATÁLOGO.
AQUÍ TODO EL CONTENIDO
DE LA PLATAFORMA ES
VISIBLE.
VERLO ES FÁCIL,
LO DIFÍCIL ES NAVEGAR
POR ÉL.
90
PERO,
¡OH, MI
SISTEMA DE ¿CÓMO SABE LO
RECOMENDACIÓN! QUE ME GUSTA?
¡LO HA
ENCONTRADO!
EL SISTEMA DE
RECOMENDACIÓN ES
COMO UNA BRÚJULA
ESPECIAL, PERO EN LUGAR BUENO, ¡USTED SE LO ENSEÑA! ¿NO SE
DE SEÑALAR EL NORTE, HA DADO CUENTA DE QUE CUANDO VE UN
VÍDEO, LA PLATAFORMA LE SUGIERE OTROS
A MÍ ME PARECE UNA
TRATA DE MOSTRARLE EL SIMILARES QUE PODRÍAN GUSTARLE?
BRÚJULA. DE TODOS MODOS...
CAMINO PARA LLEGAR A LO
CREO QUE SE ROMPIÓ
QUE QUIERE VER.
DURANTE EL ACCIDENTE, NO
DEJABA DE GIRAR.
BUENO, CADA VEZ QUE USTED VE

UN VÍDEO, ES COMO SI DIERA UN
¡AH! ESO ES PASO MÁS EN ESTE LABERINTO.
TOTALMENTE NORMAL.
ME ESTRELLÉ DURANTE EL SISTEMA DE RECOMENDACIÓN
EL ARRANQUE EN FRÍO. RASTREA LOS PASOS Y LOS UTILIZA
PARA ADIVINAR A DÓNDE LE
GUSTARÍA IR DESPUÉS.
91
ASÍ QUE... ¿CUANTO MÁS
CAMINAMOS, MÁS SABE LO
¡PORQUE AÚN USTED
QUE NOS GUSTA?
NO HABÍA EMPEZADO A
CAMINAR! EL SISTEMA NO
TENÍA NI IDEA DE A DÓNDE
USTED QUERÍA IR.
¡SÍ! Y TRATA DE
LLEVARNOS EN ESA
DIRECCIÓN.
ENTONCES, ¿POR BUENO, QUIERO ENCONTRAR

QUÉ NO FUNCIONÓ A ABBI, ¿NO PODEMOS
ANTES? USARLO PARA ESO?
EN REALIDAD, TENGO
SI LOGRA LLEVARME
ENTENDIDO QUE ABBI MARCÓ
SÉ QUE PASA MUCHO TIEMPO A ESE LUGAR, QUIZÁS
UN VÍDEO ESPECÍFICO EN EL
VIENDO VÍDEOS EN INTERNET, PUEDA DEVOLVERLOS A
LABERINTO.
SÍ, TAL VEZ... PERO, ¿HASTA ASÍ ES QUE LA COSA PUDIERA AMBOS A CASA.
QUÉ PUNTO CONOCE USTED COMPLICARSE... PODRÍA ESTAR
A SU AMIGO? EN CUALQUIER PARTE...
¡SÍ, AHORA RECUERDO!

ES ESE RIDÍCULO VÍDEO
QUE ESTÁBAMOS VIENDO
DURANTE EL ALMUERZO.
92
SUPONGO QUE SI
ENCONTRAMOS EL EL OBJETIVO ES VOLVER SOBRE
VÍDEO, ENCONTRAREMOS SUS PASOS. AHORA MISMO
A ABBI. ESTAMOS EN EL SECTOR DE LOS
“GATOS GRACIOSOS”.
¡DE ACUERDO!
¿POR DÓNDE
EMPEZAMOS?
¡OH! MALDICIÓN... CREO QUE EL VÍDEO

QUE BUSCAMOS ESTÁ MUY CERCA DE
UNA TEORÍA DE LA CONSPIRACIÓN...
¡AH!, NO SE PREOCUPE, LOS

¡CRAAAAAAAC !
VÍDEOS NUNCA ESTÁN MUY
LEJOS UNOS DE OTROS...
93
: LA BÚSQUEDA DE ABBI HACE QUE LA DOCTORA
Y Y SHIRIN SE ADENTREN AÚN MÁS EN EL
LABERINTO. DE REPENTE, ANTE ELLAS APARECEN,
UNA VEZ MÁS, LAS EXTRAÑAS CRIATURAS...
LES DAN DIFERENTES NOMBRES...

LA MAYORÍA DE LA GENTE LAS
LLAMA “PERFILES DE USUARIOS”.
¿QUÉ SON ESAS COSAS? YO PREFIERO LLAMARLAS
LAS SIGO VIENDO POR “PERFILES DE DATOS”...
TODAS PARTES. ... PERO, EN REALIDAD,
SON COMO GEMELOS
DIGITALES.
PERO, NO PARECEN EN REALIDAD, DE

MUY HUMANOS MUCHAS COSAS....
QUE DIGAMOS.
TODO DEPENDE DE SUS DATOS.

AQUÍ LOS DATOS SON LOS QUE
DEFINEN QUIÉN ERES.
¿DE QUÉ TIPO DE

DATOS ESTAMOS
HABLANDO?
LOS VÍDEOS QUE USTED VE Y LE GUSTAN,
LOS COMENTARIOS QUE DEJA, LAS
PÁGINAS A LAS QUE SE SUSCRIBE Y LAS
PERSONAS A LAS QUE SIGUE.
94
¡PERO SOMOS MUCHO MÁS QUE LO
QUE HACEMOS EN LÍNEA! INFORMACIÓN
COMO ESA NO DICE EN REALIDAD
QUIÉN ES UNA PERSONA...
¡CLARO QUE NO!

PERO LE SORPRENDERÍA SABER CUÁN POCOS
DATOS SE NECESITAN PARA ADIVINAR SUS
PRÓXIMOS PASOS EN EL LABERINTO.
Y CADA PASO LE PERMITE A LA
PLATAFORMA APRENDER MÁS... HASTA QUE EL
PERFIL SE COMPLETA, COMO ES EL CASO DE
ESTA USUARIA TAN EXPERIMENTADA.
¡EXACTAMENTE! MIENTRAS MÁS

TIEMPO SE PASE EN EL LABERINTO, MÁS
DETALLADO SERÁ EL PERFIL DE DATOS,
¡INDEPENDIENTEMENTE DE QUE LA
INFORMACIÓN SEA CORRECTA O NO!
PERO, AQUELLOS
¡SÍ! PARECE QUE ABBI
SON NUEVOS EN LA
TENÍA ALGUNA PISTA...
PLATAFORMA, ¿NO?
95
A MEDIDA QUE NUESTRAS INTRÉPIDAS AVENTURERAS SIGUEN LA
PISTA DE ABBI, LOS CONTENIDOS DE LAS PAREDES HELADAS DEL
LABERINTO SE VUELVEN CADA VEZ MÁS SOMBRÍOS Y RAROS...
DEBEMOS ESTAR ACERCÁNDONOS,

CADA VEZ SE HACE MÁS DIFÍCIL
DEMOSTRAR SI LAS INFORMACIONES
SON CIERTAS O FALSAS...
SABE... EL CAMINO QUE RECORRIMOS
DESDE LA SECCIÓN DE LOS GATOS HASTA
LA NEGACIÓN DEL CAMBIO CLIMÁTICO
FUE SORPRENDENTEMENTE CORTO...
¡PUEDE SER, SI SE DEJA QUE EL

SISTEMA DE RECOMENDACIÓN
HAGA TODO EL TRABAJO!
DE AHORA EN ADELANTE,
DEBEREMOS TENER CUIDADO.
CUANTO MÁS NOS ACERCAMOS A LAS

CONSPIRACIONES, MÁS RESBALADIZO
SE VUELVE EL CAMINO...
96
DEBEMOS SEGUIR AVANZANDO. UN POCO
DE CURIOSIDAD ESTÁ BIEN, PERO SI SE
PASA DEMASIADO TIEMPO AQUÍ…
¿UN FALSO ATERRIZAJE SOBRE
PUEDE SER DIFÍCIL
UNA LUNA PLANA? ¡ESTO ES
DIFERENCIAR LA REALIDAD
DEMASIADO, HASTA PARA ABBI!
DE LA FICCIÓN.
ESO ERA EXACTAMENTE LO

QUE LE DECÍA A ABBI, JUSTO
ANTES DE QUE NOSOTROS...
ESTA HUELLA DIGITAL HA

¡¿QUÉ FUE SIDO PROHIBIDA POR LA
ESO?! BASE DE DATOS COMÚN.
EL VÍDEO DEBE SER
DESTRUIDO.
!
¡PUM
97
QUÉ SANCIÓN TAN
ESTA HUELLA DIGITAL ESTÁ
SEVERA... ¿QUÉ TIPO
PROHIBIDA. EL VÍDEO DEBE
DE VÍDEO ERA? SER DESTRUIDO.
PERO SI NI SIQUIERA
SABE LO QUE ESTÁ EL ROBOT SOLO
BORRANDO... ¿NO ES BORRA LOS VÍDEOS
ALGO PELIGROSO? QUE FIGURAN EN UNA
LISTA DE BÚSQUEDA.
NO ES MÁS QUE UN
ROBOT. NO PUEDE ¿EN SERIO? ¿QUÉ HAY QUE
SER MÁS PRECISO. HACER PARA ESTAR EN UNA
LISTA COMO ESA?
ENTONCES... ¿EL VÍDEO ES

COMO UN DELINCUENTE?
SÍ... UNO QUE ES

BUSCADO EN TODOS
LOS PAÍSES.
PERO AÚN ASÍ... ¿NO SE SUPONE

PRESENTAR UN CONTENIDO QUE TODOS LOS DELINCUENTES CLARO QUE SÍ, EN LOS
PERTURBADOR O VIOLENTO. SE TENGAN DERECHO A JUICIO? CASOS MÁS COMPLEJOS...
TRATA DE VÍDEOS QUE CASI TODAS PERO TENEMOS OTROS
LAS PLATAFORMAS CONSIDERAN ESTA PLATAFORMA Y ALGORITMOS PARA ELLO...
QUE NO DEBEN APARECER EN LÍNEA OTRAS PARECIDAS
HACEN APORTES A
LA LISTA.
98
CADA VEZ MÁS SEGURAS DE SÍ MISMAS, SHIRIN Y LA DOCTORA Y SÍ... EMPIEZA A HACER
PARECEN ESTAR A PUNTO DE RESOLVER EL CASO... PREDICCIONES MÁS
FIABLES...
DEBERÍA LLEVARNOS DIRECTO
A ABBI, SIEMPRE Y CUANDO
USTED CONOZCA REALMENTE LAS
PREFERENCIAS DE SU AMIGO.
CREO QUE SÍ... LAS

SOCIEDADES SECRETAS SON
LO SUYO...
¡GUAU! SE DIRÍA QUE EL SISTEMA
DE RECOMENDACIÓN QUIERE QUE
TOMEMOS ESTE CAMINO...
ME PARECIÓ VER UN
ATAJO EN LA SECCIÓN
…EL ACCESO
DE DESINFORMACIÓN
PARECE ESTAR MEDIO
SOBRE VACUNAS...
BLOQUEADO.
BUENO...
PODEMOS
DARLE LA EL SISTEMA DE
VUELTA... RECOMENDACIÓN PARECE VEAMOS QUÉ
ESTAR BASTANTE SEGURO... NOS ESPERA.
99
¡¿ME ESTÁN TOMANDO
EL PELO?! ¡ESO ES
LO QUE QUERÍA VER
AHORA!
LO SENTIMOS, ESTE VÍDEO HA

SIDO MARCADO POR VIOLAR LAS
DIRECTRICES DE LA COMUNIDAD.
TODO TIPO DE ACCESO QUEDA
TEMPORALMENTE RESTRINGIDO.
LO SENTIMOS, EL
MODERADOR HUMANO OH, VAMOS, ¿QUÉ TAN
ASIGNADO A ESTE
CASO NO HA LLEGADO.
DIFÍCIL PUEDE SER LA
MODERACIÓN?
¡PERDÓN POR EL RETRASO!

TENEMOS MUCHOS CASOS
QUE TRATAR..
¿DE VERDAD?
100
HAY UN CASO SOSPECHOSO
¿DISCURSO DE
DE CONTENIDO ODIO? PARECE
DISCRIMINATORIO,
POSIBLEMENTE RELACIONADO
ALGO GRAVE...
CON UN DISCURSO DE ODIO.
ESTAMOS LISTOS PARA
DISPARAR, PERO NO TENEMOS
SUFICIENTES DATOS DE
SÍ...
INTELIGENCIA COMO PARA
ESTAR SEGUROS. POR SUERTE,
ESTAMOS AQUÍ...
EN ESTOS DÍAS HAY

DEMASIADO CONTENIDO
PARA TAN POCOS
MODERADORES
HUMANOS.
LA MODERADORA
EXPERTA ESTÁ
ALERTA. ¡TODOS
LOS SISTEMAS,
AGUARDEN SU SEÑAL!
¡ASUMAN
POSICIONES DE
REPRODUCCIÓN!
101
USTEDES SABEN DE QUIENES
HABLO... ESTÁN POR TODAS PARTES,
PROBABLEMENTE HAYA UNAS
CUANTAS AQUÍ ESTA NOCHE.
SE QUEJAN
CONSTANTEMENTE DE
QUE EL MUNDO NO ESTÁ
HECHO PARA ELLAS...
RECLAMAN UN TRATO
ESPECIAL PORQUE
¡BIEN,
“NACIERON ASÍ” ...
REPRODÚZCALO! Y LLEGAS A CREER QUE
SON SOPORTABLES...
HASTA QUE COMES A
SU LADO.
YA SABEN...
¡LOS ZURDOS!
ME GUSTA CREER QUE SOY UN TIPO
DECENTE. PERO PARA SER SINCERO,
¿POR QUÉ NO PUEDEN
HAY UN GRUPO DE PERSONAS A LAS
USAR LA MANO DERECHA
QUE REALMENTE ODIO...
COMO TODO EL MUNDO?
JE JE !
102
ESO ES LO
PEOR DE TODO.
¿CUÁL ES SU
Y BASADO EN LA ETNICIDAD, EL
VEREDICTO? GÉNERO Y LA RELIGIÓN, CLARO
VAYA... DEFINITIVAMENTE, ESTÁ... PERO NO EN LA MANO
ESTO NO ES UN DISCURSO CON LA QUE SE ESCRIBE.
DE ODIO.
PERO DIJO
“ODIO” Y
“GRUPO DE
PERSONAS”. EN ESTE CONTEXTO, ESO
SE LLAMA SIMPLEMENTE
COMEDIA.
LAS DIRECTRICES DE LA COMUNIDAD

BRINDAN PROTECCIÓN CONTRA EL
DISCURSO DE ODIO DIRIGIDO A
GRUPOS VULNERABLES...
...NO ES NO VEO CÓMO ALGUIEN

DISCRIMINACIÓN, PODRÍA EQUIVOCARSE
¡SOLO IRONÍA! TANTO...
BIEN. ¡FALSA ALARMA!

TODAS LAS UNIDADES,
RETÍRENSE, ¡ES UNA ¡BUEN TRABAJO,
IRONÍA!
SHIRIN! ¡ES POR ESO QUE LOS
MODERADORES HUMANOS
OLVIDÉ MENCIONARLE SON TAN VALIOSOS!
QUE LOS MODERADORES
DE IA NO TIENEN MUCHO LA LIBERTAD DE
SENTIDO DEL HUMOR. EXPRESIÓN ES ALGO
DIFÍCIL DE PROTEGER
103
JUSTO CUANDO SHIRIN SE ACERCA AL VÍDEO
MARCADO POR ABBI, DA UN FATÍDICO PASO EN FALSO...
¡MIRE POR DONDE CAMINA!

PARECE QUE EL CAMINO ASÍ ES, PERO SEGUIRLO A
ESTÁ CONGELADO... CIEGAS PUEDE CONDUCIRLA A
UN TERRENO...
¡SE DIRÍA QUE

EL SISTEMA DE
RECOMENDACIÓN SE HA
VUELTO LOCO!
…RESBALADIZO.
AAAAAHHHHH!!!
AA
ESTAS GAFAS VAN

A A SER MUY ÚTILES.
104
! !!
H H
H H
A H
A A
A A
¡¡¡A AA
IMPOTENTES, SHIRIN Y LA DOCTORA Y DESCIENDEN RÁPIDAMENTE POR LAS LISAS

PENDIENTES HASTA LAS PROFUNDIDADES INSONDABLES DE UNA CÁMARA DE ECO...
105
¡SHIRIN! ¡HAY
QUE PARAR! ¡ABBI!
¡ES MÁS
FÁCIL DECIRLO QUE
HACERLO!
IC !
!CL
106
¡AL PRINCIPIO ME OPUSE, BUENO,
SHIRIN, PERO ME ALEGRO ¡NO IBA A
DE QUE HAYAS MARCADO SOLTARME!
ESE VÍDEO!
¿QUÉ ES LO QUE
TIENE ENCIMA?
¿TE HAS PASADO ¡ESE ES EL ERROR!

TODO EL TIEMPO AFORTUNADAMENTE, LO
COLGADO AHÍ? ENCONTRAMOS ANTES DE QUE
FUESE DEMASIADO TARDE.
ES LO QUE SUCEDE CUANDO

SE PERMITE QUE EL SISTEMA
DE RECOMENDACIÓN REALICE
TODO EL TRABAJO.
SUPONE QUE A USTED LE GUSTA

…ESE ES UNO DE A DÓNDE VA Y, SI NO LE DICE LO
¿QUÉ QUIERE DECIR
LOS RIESGOS DE LAS CONTRARIO, TODO LO QUE PUEDE
CON “DEMASIADO
TARDE”? CÁMARAS DE ECO. HACER ES LLEVARLO POR ESE
CAMINO...
ES FÁCIL ENTRAR, PERO
DIFÍCIL SALIR. ¡PUDO HASTA QUE
QUEDARSE ATRAPADO AQUÍ COMIENZA A
ABAJO PARA SIEMPRE! MOVERSE EN
CÍRCULOS.
¿CÁMARAS
DE ECO?
107
SE PARECE A
ABBI...
…Y MIRA A TRAVÉS
DE SU CÁMARA!
¡UN MOMENTO, SHIRIN!
SIGO PENSANDO QUE MI
TELÉFONO ME ESPÍA...
…Y SUS CORREOS
ELECTRÓNICOS!
AH, SÍ... EN LAS CÁMARAS

DE ECO, LA GENTE NO SOLO
ANDA EN CÍRCULOS, SINO QUE
TAMBIÉN HABLA EN CÍRCULOS.
…Y LEE SUS
¡DE HECHO, CREO MENSAJES DE
QUE NO HA CAPTADO TEXTO!
TODOS LOS MATICES!
108
¡QUIENQUIERA
¿NO HACE MUCHO
QUE USTED SEA, LO TOMARÉ COMO
FRÍO PARA UNA
HABLA COMO YO! UN CUMPLIDO. EN
GABARDINA? ME LLAMO REALIDAD, SOY
ÁNGELA. PERIODISTA.
… ¡ESTE ABRIGO
TIENE UNOS AJUSTES EXPLORO ESTA
DE PRIVACIDAD PLATAFORMA Y
IMPRESIONANTES! NO ME OTRAS SIMILARES
IMPORTA PASAR FRÍO CON HACE SEMANAS,
TAL DE SER INVISIBLE. HASTA QUE VINE A
PARAR AQUÍ.
NO SE PARECE MUCHO
A UN PERFIL DE DATOS...
ESCRIBO UN SEGUÍA UNA PISTA,
ARTÍCULO SOBRE PERO EN ALGÚN
¿Y QUÉ LA TRAJO PRIVACIDAD Y MOMENTO TOMÉ EL
A UNA CÁMARA MACRODATOS. CAMINO EQUIVOCADO...
DE ECO COMO
ESTA?
¡ASÍ ES! Y HABLANDO DE ESO,

¿CUÁL ES SU ESTRATEGIA DE
SALIDA? ESTA CÁMARA NO
ESO LE
TIENE FIN...
PASA A
CUALQUIERA.
109
BUENO... SUPUSE QUE, SI ABBI
Y SHIRIN SE ENCONTRABAN
EN EL LABERINTO, EL ERROR SE
CORREGIRÍA SOLO...
PERO EL DÍA DE HOY ESTÁ BUENO,
LLENO DE SORPRESAS... QUIZÁS TENGA
UNA IDEA.
DOCTORA Y,
¿RECUERDA CUÁNDO DIJO
QUE MI ORDENADOR ERA SIGA
¿ASÍ QUE SE DESLIZARON
COMO UNA VENTANA A HABLANDO …
HASTA AQUÍ SIN TENER
ESTE LABERINTO?
NINGÚN PLAN?
BUENO... SI ENCONTRAMOS
SI ENCONTRAMOS EL
LA VENTANA CORRECTA, TAL ORDENADOR DE ABBI, QUIZÁS PODAMOS
VEZ PODAMOS VOLVER A ENTONCES TAL VEZ... PERO NO AYUDARNOS ENTRE
TRAVÉS DE ELLA. HAY MANERA DE LOCALIZARLO. NOSOTROS...
EL TEMA DE MI
¿QUÉ ARTÍCULO ES LA
VENTANA? DESANONIMIZACIÓN
DE DATOS.
¡TU ORDENADOR! AHÍ

ESTÁBAMOS JUSTO NO PARECE ALGO
ANTES DE QUE AMBOS MUY BUENO QUE
DESAPARECIÉRAMOS. DIGAMOS.
110
SIN EMBARGO, MIS GAFAS PUEDEN
LA GENTE DEJA TODO
PUEDE SER SU ENTONCES, ¿PIENSA QUE
TIPO DE RASTROS HACER MUCHAS COSAS,
MEJOR OPCIÓN. DEBAMOS SEGUIR EL RASTRO
CUANDO NAVEGA PERO NO ESO.
HASTA UNA DIRECCIÓN IP?
EN LÍNEA, ES LO QUE
LLAMAMOS “COOKIES”.
¡SIN EMBARGO, LOS

POR SEPARADO, NO RASTREADORES EN
ASÍ ES. SI RASTREAMOS LAS
SON GRAN COSA. PERO LÍNEA COMO ESTE SÍ!
COOKIES, PODREMOS ENCONTRAR EL
JUNTAS, PUEDEN CONTAR
ORDENADOR AL QUE SE ASOCIAN. ¡ASÍ ES QUE ENCONTRAR TU
TREMENDA HISTORIA.
ORDENADOR PUEDE SER UN
NOTICIÓN!
DEBO ADVERTIRLE... LA
DESANONIMIZACIÓN DE DATOS
PUEDE SER TODA UNA AVENTURA...
111
SIN PERDER UN MINUTO, EL EQUIPO RECORRE A TODA CARRERA LOS LÍMITES GRACIAS A LA AGREGACIÓN DE DATOS. ELLO TIENE QUE
EXTERIORES DEL ESPACIO ALGORÍTMICO EN BUSCA DE LAS COOKIES DE ABBI... VER CON LA CAPACIDAD DE LA IA PARA RECONOCER
PATRONES EN CANTIDADES MASIVAS DE DATOS.
QUIZÁS NO CONOZCA
CUALQUIERA DIRÍA
EXACTAMENTE SU UBICACIÓN,
QUE HA ESTADO
DURANTE AÑOS LE HE DICHO PERO SI CONOCE SU EDAD, SUS
AQUÍ ANTES, ABBI. ¡MIS COOKIES ESTÁN EN
QUE PASA DEMASIADO INTERESES Y ALGUNAS PÁGINAS
TODAS PARTES! ¿CÓMO SABEN
TIEMPO CONECTADO... QUE VAMOS POR EL CAMINO QUE HAYA VISITADO, PUEDE
CORRECTO? SUPONER TODO LO DEMÁS.
EN GENERAL, ¿LAS ENTONCES, MI TELÉFONO NO ESTÁ

SUPOSICIONES SON PINCHADO... ¿SOLO RECOPILA MIS BUENO... PARECE QUE TENDRÉ
EXACTAS? RASTROS DIGITALES? QUE HACER ALGUNOS AJUSTES
CUANDO LLEGUE A CASA.
PARA SER SINCERA...

CREO QUE YO TAMBIÉN.
ASÍ ES, NO NECESITA

ESCUCHAR SUS
ESPANTOSAMENTE EXACTAS, A CONVERSACIONES.
MENOS QUE SEA CONSCIENTE CON SOLO USARLO,
DE LOS RASTROS QUE DEJA. USTED LE DICE TODO LO
QUE NECESITA SABER.
112
¡DEBE SER
ALLÍ!
¡PERFECTO!
¡JUSTO DONDE
LOS DEJAMOS!
... ¡ALLÁ VAMOS!
¡SE PERDIERON EL POSTRE!

PERO TUVE LA AMABILIDAD
DE GUARDARLES ALGUNAS
GALLETAS (COOKIES)...
…CREO QUE A PARTIR DE

AHORA CONSUMIRÉ MENOS
GALLETAS…
¿Y DÓNDE
ESTABAN USTEDES
DOS?
113
LIMPIÓ LA CACHÉ
DE COOKIES... QUÉ Y TODO PARECE INDICAR QUE
INTELIGENTE. TENEMOS POCO TIEMPO PARA
CORREGIRLO.
EL ERROR DE ABBI FUE TODA

UNA SORPRESA. COMIENZO A
PENSAR QUE LA SITUACIÓN SE
DETERIORA.
¿CREE USTED QUE

ESTO SE REPITA?
SEGÚN NUESTRAS
INVESTIGACIONES, AÚN QUEDA
UN ERROR EN PLETHOR.I.A ...
CONTINUARÁ…
114
Agregación de (macro) Cámara de eco o de través de su navegador de internet las “condiciones de servicio”
datos (Big Data): resonancia: cada vez que visita un sitio web y son un conjunto de normas
acto de recopilar, agrupar y se produce cuando un grupo de con el fin de reunir información creadas por una plataforma o
organizar de otro modo los participantes en una plataforma sobre él y darle seguimiento. sitio de redes sociales que rigen
datos brutos de un determinado (de medios sociales) decide Algunas cookies, conocidas los tipos de comportamiento
conjunto de datos en forma conectarse preferentemente entre como cookies de sesión, existen prohibidos o esperados de los
resumida para el análisis sí y excluir a personas ajenas principalmente para garantizar usuarios humanos que participan
estadístico. Si bien los seres al grupo. Con el tiempo, esta el correcto funcionamiento en la plataforma. Por lo general,
humanos pueden hacerlo y, en exclusión de personas ajenas (y de un sitio web específico las directrices de la comunidad
realidad, lo han hecho (mediante de la diversidad de opiniones mientras el usuario interactúa están diseñadas con el fin de
el análisis estadístico tradicional), que suele acompañarles) puede con su contenido, por ejemplo, garantizar un entorno seguro
la era de los macrodatos marca la llevar a una situación en la que los al recordar las preferencias para que los usuarios interactúen
necesidad de encontrar soluciones usuarios se aíslen cada vez más de de idioma. Otras cookies, (por ejemplo, al prohibir la
de IA para extraer, reconocer las opiniones discrepantes sobre normalmente denominadas incitación al odio o la difusión
o extrapolar patrones en estos un tema concreto. Ello, a su vez, cookies persistentes, se almacenan de desinformación médica),
conjuntos de datos increíblemente puede hacer que estos usuarios se de forma permanente en pero también pueden incluir
extensos que luego se utilizan inclinen por versiones cada vez el ordenador del usuario y consideraciones jurídicas como la
en una amplia variedad de más extremas de las opiniones permiten realizar el seguimiento violación de los derechos de autor.
aplicaciones. Por ejemplo, la que inicialmente les llevaron a en diferentes sitios web, lo que Es importante que las directrices
agregación de datos sustenta interesarse por el grupo y crear un aumenta la precisión de los de la comunidad brinden el
muchos de los sistemas actuales entorno en el que cada miembro anuncios dirigidos que cada referente normativo por el
de recomendación que agrupan a se hace “eco” de las opiniones de usuario ve independientemente que se juzga todo el contenido
usuarios similares o vinculan a un los demás. del sitio web que visite. de la plataforma. Por ello, su
usuario con un nuevo producto, moderación (por parte de seres
página o grupo de interés. Cookies: Directrices de la humanos o sistemas de IA) se
pequeños archivos que se colocan comunidad: esfuerza por hacer cumplir dichas
en el ordenador de un usuario a se asocian ocasionalmente con directrices.
115
Libertad de expresión: censura ni limitaciones, así como incapacidad para detectar matices web ha visitado) y la utilizan
derecho universal que incluye la de informar a la opinión pública. lingüísticos, como el humor o para recomendarles nuevos
libertad de mantener opiniones el sarcasmo, por un lado, y la contenidos, productos o servicios.
sin interferencia y de buscar,
Moderación de presión de diversos organismos Los sistemas de recomendación
recibir y difundir información
contenidos: gubernamentales para censurar de este tipo tienden a sugerir
describe el proceso mediante los contenidos desfavorables en nuevos contenidos a los usuarios
e ideas a través de cualquier
el cual los seres humanos o la las plataformas, por otro, pueden de dos maneras: mediante la
medio de comunicación e
inteligencia artificial deciden amenazar la libertad de expresión búsqueda de nuevos contenidos
independientemente de las
qué contenidos están permitidos y llevar a un aumento de la que se asocien con los que ya
fronteras, ya sea oralmente, por
en una plataforma o foro censura en línea. les han gustado o con los que
escrito o impreso, en forma
específico, normalmente en han interactuado, lo que se
de arte, o por cualquier otro
medio de elección. Esta libertad
consonancia con las normas de Personalización de denomina filtrado de contenidos;
abarca la posibilidad de criticar
la comunidad, las directrices o contenidos o sistemas o la reunión de usuarios con
y oponerse, publicar material
las condiciones de servicio de de recomendación: intereses similares, mediante una
dicha plataforma o dicho foro. modo popular por el que práctica denominada filtrado
político, hacer campaña electoral
En la actualidad, la mayoría de diferentes plataformas de IA colaborativo. Curiosamente,
y publicitar ideas políticas. Este
las plataformas importantes está (medios sociales, mercados cuando un usuario accede a una
derecho implica también la libre
moderada por una combinación y plataformas de contenidos, plataforma por primera vez,
comunicación de información
de seres humanos y sistemas entre otras) filtran el contenido el sistema de recomendación
e ideas acerca de cuestiones
de IA. En parte, esto se debe al que exponen a sus usuarios. tendrá dificultades para saber qué
públicas y políticas entre los
a la impresionante cantidad Estas plataformas reúnen contenido le gusta al carecer de
ciudadanos, los candidatos y
de nuevos contenidos que se información (o datos) sobre los suficientes datos, fenómeno que
los representantes elegidos. Ello
publican cada día, demasiados hábitos e intereses personales se conoce como problema del
comporta la existencia de una
para que los humanos puedan de sus usuarios (por ejemplo, arranque en frío.
prensa libre y otros medios de
manejarlos solos. Aunque la qué libros ha comprado un
comunicación libres y capaces de
moderación mediante IA es una determinado usuario, qué
comentar cuestiones públicas sin
solución eficaz a este problema, su canciones le gustan, qué páginas
116
Conclusiones
E n un mundo que parece transformarse en el tiempo que tardamos
en actualizar una página, comprender la verdad de lo que ocurre
a nuestro alrededor suele resultar difícil. Nunca antes habíamos
debemos cultivar la forma en que nuestros datos nos definen, mirar más
allá de lo que prescriben los algoritmos de contenido y ser conscientes
de las huellas que dejan nuestros pasos digitales. Como ciudadanos,
estado expuestos a tantas fuentes de información ni a tanta diversidad no debemos dejar de cuestionar la credibilidad de la información que
de opiniones; sin embargo, paradójicamente, nunca antes nuestra consumimos, al buscar la verdad dura y compleja, en vez de un cuento
comprensión de la verdad, la credibilidad y la integridad periodísticas simple y convincente.
se había visto tan gravemente afectada. Entramos en una era en la que
Por último, como ciudadanos de una sociedad global, debemos
la desinformación y la polarización son la norma, en la que la verdad
resistirnos a la comodidad de la cámara de eco, tanto en línea como
depende de la perspectiva del espectador, y en la que la voz de las
fuera de línea. Solo si confrontamos las opiniones ajenas y valoramos las
instituciones públicas fiables lucha por hacerse oír.
conversaciones difíciles sobre convicciones personales, nuestro mundo,
Empero, los problemas del mundo de hoy exigen un esfuerzo concertado cada vez más dividido, podrá aspirar a encontrar un terreno común. ■
y unido de parte de todos y cada uno de nosotros. Como usuarios,
117
Episodio IV
Joaquín y la pregunta sin respuesta

Ilustración: Adriana De La Torre Cervantes
Asistentes de ilustración: Patricia Manríquez y Karin Almazán
Rumbo a la IA: Una aventura algorítmica Episodio IV: Joaquín y la pregunta sin respuesta
Introducción
C uando pensamos en las repercusiones que la inteligencia artificial
ha tenido y seguirá teniendo en nuestra vida, puede parecer algo
natural considerar la IA como una tecnología omnisciente, omnipresente
o los sistemas de seguimiento de la fauna en peligro de extinción, por
nombrar solo algunas-, el costo ecológico de un gran número de prácticas
actuales de IA dista mucho de ser neutral.
y generalmente todopoderosa. La IA puede realizar tareas aparentemente En un sentido, ello obedece al increíble costo computacional que hay
hercúleas -como el análisis estadístico o el dominio de complejos juegos detrás de muchos sistemas potentes de IA: en algunos casos, los procesos
de estrategia- en un tiempo récord y con una facilidad increíble. Ello hace de minería, extracción y entrenamiento de macrodatos que subyacen tras
que los seres humanos no entiendan cómo llega la IA a sus conclusiones e múltiples formas de IA basadas en datos pueden consumir anualmente
incluso puede hacernos pensar que la IA tiene “mente propia”. casi tanta energía como ciudades enteras, debido principalmente a
A ello hay que añadir el hecho preocupante de que, como usuarios nuestro deseo de privilegiar la precisión computacional sobre la eficiencia
individuales, tenemos muy poco conocimiento de lo que ocurre ecológica. En otro sentido, ello responde al simple hecho de que todavía
exactamente detrás de nuestras pantallas: cómo se diseñan nuestras no hemos aprendido a reciclar muchos de los componentes de equipo
herramientas cotidianas de IA, los tipos de consideraciones que sustentan informático que hacen que la IA funcione y optamos por generar grandes
sus decisiones o incluso cómo se adoptan, y la suerte de recursos físicos cantidades de residuos electrónicos que contaminan y ponen en peligro a
y virtuales que aprovechan. Con frecuencia, la IA se presenta como una las comunidades y los hábitats naturales circundantes.
herramienta ingrávida, fácil de emplear y omnipresente que, entre otras En realidad, la experiencia adquirida en el uso de herramientas de IA
cosas, aporta soluciones ecológicas ante los retos medioambientales inocuas, rápidas como un rayo y muy inteligentes no es el resultado de la
mundiales. Es decir, muchas facetas de la vida cotidiana parecen más mente superinteligente de una máquina sino del análisis computacional
verdes, sencillas y seguras cuando se viven “en la nube”. intenso que se realiza mediante modelos relativamente sencillos de
Sin embargo, esta visión de la inteligencia artificial pasa por alto una buena propósito único que se emplean en gran escala. Así pues, aunque la IA
parte del panorama general. Aunque las soluciones de IA son y seguirán nos ofrece promesas y oportunidades sin precedentes, cuando vemos las
siendo fundamentales a la hora de abordar el cambio climático -mediante dos caras de la moneda, nos preguntamos si la IA es parte del problema
el desarrollo de sistemas de alerta de catástrofes impulsados por la IA, las o parte de la solución. En cierto modo, esta puede parecer una pregunta
campañas de información pública, las complejas simulaciones climáticas sin respuesta... ■
119
EN ALGÚN LUGAR, EN LOS
CONFINES DE PLETHOR.I.A....
¿HAY…
ALGUIEN…
…AHÍ?
120
MIENTRAS VUELA POR LAS INMEDIACIONES
DE PLETHOR.I.A., LA DOCTORA Y OBSERVA
UN FENÓMENO INUSUAL...
QUÉ EXTRAÑO…
TODO VIAJA EN LA MISMA

DIRECCIÓN... COMO SI...
…SE DIRÍA QUE LA GALAXIA

ESTÁ A LA DERIVA …
121
ME PREGUNTO QUÉ
PODRÍA CAUSAR UN
¿ES ESA LA... DESEQUILIBRIO ÉTICO DE ESTA
NUBE? ENVERGADURA...
TENGO QUE
ENSEÑÁRSELO A EMILE,
SI PUDIERA CAPTAR UNA
SEÑAL...
¿UNA GEMELA DIGITAL DE LA

TIERRA? ¡ESTA COSA SE LO ESTÁ
TRAGANDO TODO!
¡¿RESIDUOS
ELECTRÓNICOS?!
122
¿SABEN?, LA CANTIDAD DE
APARATOS INFORMÁTICOS NO
RECICLABLES DE LA INTELIGENCIA
ARTIFICIAL PUEDE SER
ASOMBROSAMENTE GRANDE...
ES DEMASIADO
PELIGROSO ACERCARSE...
¡PERO SERÁ MEJOR QUE
NO LOS PIERDA DE VISTA!
123
GENIAL...
BIEN, GAFAS,
¿AHORA CÓMO
¡MUÉSTRENME LO
ENCUENTRO A EMILE?
QUE TIENEN!
124
EN OTRA PARTE DE PLETHOR.I.A., EN EL CENTRO DE
INVESTIGACIÓN SOBRE LA IA, EMILE TRABAJA DILIGENTEMENTE
EN SU ÚLTIMA APLICACIÓN: UNA GEMELA DIGITAL DE LA TIERRA.
FRENTE A LA COSTA
DIGITAL DEL BÁLTICO…
¿RENÉE?
¿ES USTED?
NO ESTÁ MAL... EL ¡EMILE! ¡LLEGA
MODELO PARECE AVANZAR JUSTO A TIEMPO!
SIN CONTRATIEMPOS...
125
DATOS DE
¿QUÉ LE PARECE? USUARIOS ¡QUÉ
DETALLE!
SENSORES
DEDICADOS
IMÁGENES
SATELITALES
TODAS ESTAS FUENTES CONJU

DEBERÍAN GENERAR DATOS
SIMULACIONES MUY FIABLES...
VEAMOS...
IMÁGENES
SATELITALES
MAGNÍFICO. NUNCA HABÍA

TODA PLAYA QUE SE RESPETE ¿Y DICE USTED QUE EL
VISTO UNA GEMELA DIGITAL TAN
TIENE UNA HERMOSA PUESTA MODELO SE ADAPTA EN
PERFECTA. AÚN ASÍ... CREO QUE
DE SOL, ¿NO CREE? TIEMPO REAL A LO QUE
LE FALTAN ALGUNOS DETALLES...
SUCEDE EN LA TIERRA?
126
ASÍ ES... LOS ¡HOLA! ¿HAY
EMBOTELLAMIENTOS, LAS SITIO PARA UNO MÁS?
NUBES, EL CONSUMO DE
ENERGÍA, LOS VIENTOS, LAS
OLAS, ¡TODO!
EL MODELO AÚN ESTÁ EN LA

FASE INICIAL, PERO CUANDO ENTRE
ERNO,
EN FUNCIONAMIENTO, PODREMOS
¿ERES TÚ?
UTILIZARLO PARA CARTOGRAFIAR
Y PREDECIR TODO TIPO DE
FENÓMENOS CLIMÁTICOS, DESDE
HURACANES HASTA SEQUÍAS, ¡GRACIAS POR SU
¡Y ADOPTAR LAS MEDIDAS DE AYUDA, EMILE!
RESPUESTA NECESARIAS!
EMILE, ESTE ES ERNO,
BIÓLOGO MARINO.
DE MÁS ESTÁ DECIR QUE, CUANDO NOS ESTÁ AYUDANDO
SE TRATA DE ABORDAR EL CAMBIO A DESARROLLAR
CLIMÁTICO, LAS APLICACIONES DE APLICACIONES PARA
INTELIGENCIA ARTIFICIAL COMO PRESERVAR LA VIDA
ESTAS SON MUY ÚTILES... SILVESTRE...
¡MIREN LO
QUE TRAIGO!
SÍ, ¡Y SIEMPRE ES AGRADABLE

TRABAJAR CON CIENTÍFICOS DEL
CLIMA COMO USTED!
127
CON LOS ALGORITMOS QUE HEMOS CREADO,
PODREMOS DAR SEGUIMIENTO A TODO TIPO
SON FOCAS DEL LAGO SAIMAA, ¡ERNO, ESTO ES DE ESPECIE EN PELIGRO DE EXTINCIÓN...
ESPECIE EN PELIGRO DE EXTINCIÓN INCREÍBLE! ¡EL EQUIPO
NATIVA DE ESTA COSTA... ESTARÁ ENCANTADO!
SÍ... PERO, DÍGAME, ERNO...
¿HAY MUCHOS TSUNAMIS
EN SU PAÍS?
ESTE CONJUNTO DE DATOS

DEBERÍA APORTARNOS TODO LO ¿TSUNAMIS EN EL
QUE NECESITAMOS PARA SEGUIR A MAR BÁLTICO?
LOS INDIVIDUOS Y A LAS MANADAS LO DUDO...
¡IMPOSIBLE!
A LO LARGO DE SU VIDA... BASTANTE ESTÁ CLARO QUE HAY
INGENIOSO, ¿VERDAD? ALGO MÁS...
EMILE, ¿ACASO PUDIERA
SUCEDER ESTO REALMENTE
EN LA TIERRA?
128
DEBE HABER ALGÚN TIPO DE
CORRUPCIÓN GENERALIZADA
DE LOS DATOS, QUE ESTÁ
HACIENDO QUE EL MODELO HAGA
INFERENCIAS INCORRECTAS...
PERO A ESTA ESCALA...

¡EMILE! ¿QUÉ TODA LA PLATAFORMA
SUCEDE? DEBE ESTAR
¡PLOF
COMPROMETIDA... ¡BUENA
SUERTE!
CÁLMENSE...
DÉJENME
F!
PENSARLO...
¡SALGAN DE AQUÍ!
¡TRATARÉ DE RESOLVER EL
PROBLEMA!
PERO ESO
SIGNIFICARÍA...
LA PROPIA NUBE DEBE ESTAR
EXPERIMENTANDO UNA PÉRDIDA
¡NO PUEDE SER! DE DATOS CATASTRÓFICA....
¡NO PUEDO DEBERÍAMOS DESCONECTARLO
CREERLO! TODO ANTES QUE...
129
TAL Y COMO SOSPECHABA...
DEBO CONSULTAR
A LA DOCTORA Y...
¿DÓNDE ESTÁ?
CONECTANDO
:
DOCTORA Y
VAMOS, DOCTORA Y.
USTED ES MIS OJOS
SOBRE EL TERRENO.
130
DUDO QUE PUEDA SOBREVIVIR
TAL VEZ AÚN
MUCHO TIEMPO EN MEDIO DE
HAYA TIEMPO...
UNA TORMENTA COMO ESTA...
PERO, ¿DE
QUÉ SE TRATA…?
131
¡ME TENÍA
PREOCUPADO!
¡PA BUENO... PUES SIGA

PREOCUPADO... PORQUE TRAIGO
F! MUY MALAS NOTICIAS...
ME ALEGRO DE QUE NO
ESTÉ METIDA EN ESO...
¿PUDO VER BIEN DE QUÉ
SE TRATABA?
NO EXACTAMENTE... PERO SE
¡DOCTORA Y! ¡SABÍA ME OCURRIÓ UNA FORMA DE
QUE SEGUIRÍA EL PLAN! DARLE SEGUIMIENTO...
132
PARECE UNA BÚSQUEDA
EN INTERNET QUE SALIÓ
MAL...
¿PERO QUÉ CONSULTA

REQUERIRÍA TANTOS
DATOS PARA OBTENER
UNA RESPUESTA?
¿TRATAMOS DE
TENER MEJOR
VISIÓN?
DE ACUERDO. GAFAS
INTELIGENTES, ¡HALLEN EL
OJO DE LA TORMENTA!
133
NUNCA HALLÉ EL
ÚLTIMO ERROR... CREO QUE PUEDE
¿SERÁ ESTE? TRATARSE DE ESO...
NUNCA ANTES UN ERROR ALCANZÓ

ESTAS PROPORCIONES... SI ES
ASÍ, ESTAMOS ANTE LA MADRE DE
TODOS LOS ERRORES
134
PIÉNSELO... UNA PERTURBACIÓN
DE ESTA ENVERGADURA
PODRÍA HABER CAUSADO LOS
DEMÁS ERRORES...
¡ESTOY DE ACUERDO,
PERO NO HAY PRUEBAS
TANGIBLES DE QUE UN
ERROR SEA EL ORIGEN DE
ESTA TORMENTA!
¡TIENE QUE ADMITIR QUE…

TODO ENCAJA!
¡LA CORRELACIÓN
NO IMPLICA
CAUSALIDAD!
¿HOLA? ¿ALGUIEN
ME ESCUCHA?
¡OH, EMILE!,
¡POR FAVOR!
¡SÉ QUE AÚN TIENE QUE ENCONTRAR
A UN SER HUMANO, PERO
DEBERÍAMOS CONCENTRARNOS EN
LO QUE TENEMOS DELANTE!
135
BUENO... ESTE... ES DIFÍCIL DE
EXPLICAR... DE CIERTA FORMA,
¡SÍ! ¡SÍ! ¡LE ¡MENOS MAL! USTED ESTÁ DENTRO DE LA IA... EN
ESCUCHAMOS!... ¿¡QUÉ DEMONIOS EL ESPACIO ALGORÍTMICO... EN UNA
SUCEDE!? GALAXIA VIRTUAL LLAMADA…
… ¿POR QUÉ NO LE EXPLICAMOS

TODO ESO DESPUÉS DE SALVARLE
LA VIDA? DÍGANOS LO ÚLTIMO QUE
RECUERDA ANTES DE LLEGAR AQUÍ.
EN REALIDAD, SE TRATA DE UNA

DECISIÓN MUY DESACERTADA DE
ESTABA SOLO... NO SÉ ... HACÍA COMO SI LAS MUJERES FUERAN
LOS FABRICANTES. PERPETÚA UN
PREGUNTAS... JUGABA CON MI SUMISAS POR NATURALEZA Y
ESTEREOTIPO MUY PELIGROSO.
TELÉFONO... ESTUVIERAN DISEÑADAS PARA
¿HACÍA PREGUNTAS
COMPLACER…
A QUIÉN? ¿A UN
ASISTENTE DE VOZ?
SÍ... ESO MISMO.

…UNA VEZ MÁS, SALVÉMOSLE LA VIDA
A LA SEÑORA EN
PRIMERO, Y DESPUÉS NOS OCUPAREMOS
MI TELÉFONO...
DEL RESTO. ¿QUÉ PASÓ DESPUÉS?
136
EL VIERNES POR LA NOCHE, ESTABA
SOLO EN CASA, ABURRIDO...
l
to por e
e he vis
“¡Oye! ¡T b i
a s
regunta
s! Me p
campu r un .. .
s ir a da
querría
isto
Te he v
137
ES UN TIPO DE
INTELIGENCIA ARTIFICIAL
HOLA, TELÉFONO, QUE SOLO EXISTE EN EL
¿QUISIERAS SALIR ESPACIO VIRTUAL.
CONMIGO?
¿POR QUÉ
NO?
PORQUE NO PUEDE
INVITARSE A UNA IA
NO PERSONALIZADA A
¿DE VERDAD?...
UN RESTAURANTE.
¿QUÉ SIGNIFICA NO
TENER CUERPO?
NO ENTIENDO LA
PREGUNTA...
ME SIENTO HALAGADA, UNA IA NO

JOAQUÍN, PERO PERSONALIZADA,
PREFIERO QUE SEAMOS
¿QUÉ ES ESO?
SOLO AMIGOS.
¿PUEDES
SENTIR ALGO?
138
PUEDES AYUDARME
Y ENTONCES... TODO SE
EN ALGO: ¡QUIERO
¿HAY ALGO MÁS QUE
PUSO BORROSO. DEBÍ
PUEDA HACER POR TI? SABER LO QUE ES
DESPERTARME AQUÍ.
SER TÚ!
NO SE PREOCUPE,
JOAQUÍN. ESTAMOS EN
CAMINO, TODO SALDRÁ
BIEN SI NOS ESCUCHA
CON MUCHA ATENCIÓN...
DEBE… MUY
IMPORTAN…
SOBRE TODO
NO…
… ¿OIGO?
139
¿PERDIMOS EL
CONTACTO CON
JOAQUÍN?
¡ME PREOCUPA
MÁS PERDER EL
CONTROL DE LA
ESTO ES UNA LOCURA...
NAVE!
¡DEBE HABER
TONELADAS DE ESAS
COSAS ALLÁ FUERA!
PERO, ¿QUÉ
HACE ESO
AQUÍ?
¡SOLO EL 20% SE
EN REALIDAD, ¡UNOS RECICLA! EL RESTO
50 MILLONES DE TERMINA EN VERTEDEROS,
TONELADAS ANUALES!
CONTAMINA LOS
ALIMENTOS . DE VERDAD, ES UNA
PENA. MUCHOS DE ESTOS
Y LAS AGUAS RESIDUOS CONTIENEN
SUBTERRÁNEAS, Y NOS ELEMENTOS RAROS DE LA
EXPONE A TOXINAS TIERRA QUE NECESITAMOS
PELIGROSAS... Y QUE A LA LARGA SE
... ¡Y DAÑA MI AGOTARÁN...
NAVE! EXPERIMENTAMOS
DAÑOS CRÍTICOS
EXCESIVOS; ES HORA DE
PASAR AL PLAN B.
140
¿CUÁL ES EL PLAN, EMILE? LOS
RESIDUOS ELECTRÓNICOS SON
UN PROBLEMA MUNDIAL...
¡PARA EVITARLO,
HABRÍA QUE FOMENTAR
UNA SÓLIDA ECONOMÍA
CIRCULAR!
¡CR
AC
HH
! SÉ PERFECTAMENTE BIEN QUE
LOS INGENIEROS TIENEN QUE
PREVENIR LO IMPREVISIBLE
PERO, ¿PARA QUÉ SE
NECESITAN LOS RAYOS
LÁSER EN UNA NAVE DE
INVESTIGACIÓN CIENTÍFICA? NO SE
NECESITABAN…
HASTA AHORA.
141
A MEDIDA QUE NUESTROS VALIENTES DETECTIVES DE IA SE
ADENTRAN EN LA TORMENTA, COMIENZAN A TEORIZAR SOBRE
LO QUE PUDO PROVOCAR EL ERROR DE JOAQUÍN...
LA NAVE ESTÁ SIENDO Y QUÉ FUERZA TIENE...

ARRASTRADA POR LA FUERZA DE SABE QUE NI SIQUIERA
NO LOGRO CONECTARME DE
LA TORMENTA... NO TARDAREMOS HEMOS ANALIZADO LO
NUEVO... ¡JOAQUÍN DEBE ESTAR
EN ENCONTRARLO. QUE TAL VEZ ESTEMOS
ATERRORIZADO!
PRESENCIANDO AQUÍ...
¿QUÉ POSIBILIDAD? HEMOS

¿QUÉ QUIERE ENCONTRADO EL ÚLTIMO ERROR;
DECIR? PROBABLEMENTE SEA EL RESPONSABLE
VAMOS, EMILE. DE TODOS LOS DEMÁS... ASÍ ES QUE...
NO NIEGUE ESA
POSIBILIDAD. PARECE QUE ESTAMOS A
PUNTO DE RESOLVER EL
MISTERIO.
142
¡BIEN, IGNÓRELO! ¿ENTONCES
CUÁL ES SU TEORÍA? ¿QUÉ
PROVOCÓ ESTE MEGA ERROR? EXACTAMENTE, PERO NO A
CUALQUIER PREGUNTA. JOAQUÍN
HIZO PREGUNTAS PROFUNDAS
SOBRE LA NATURALEZA DE LA
INTELIGENCIA AUTOMÁTICA.
POR LO QUE NOS HA DICHO
JOAQUÍN, AL PARECER, SE PREGUNTAS QUE HARÍAN
TRATA DE UNA DEFICIENCIA DE REFLEXIONAR A UNA
LA BASE DE CONOCIMIENTOS INTELIGENCIA ARTIFICIAL
DE SU ASISTENTE DE VOZ. SOBRE SÍ MISMA.
EL ASISTENTE NO ESTABA
PREPARADO PARA RESPONDER
A SUS PREGUNTAS.
DOCTORA Y, AL PRINCIPIO, YO TAMBIÉN

DEBE ESTAR PENSÉ QUE ERA RIDÍCULO.
BROMEANDO. USTED Y YO SABEMOS QUE,
HASTA AHORA, SOLO HEMOS
PODIDO DESARROLLAR UNA
IA ESTRECHA...
ES DECIR, MODELOS
ESPECIALIZADOS
EN EL MEJOR DE LOS PARA CONTEXTOS MUY
CASOS, LO QUE SUGIERE LIMITADOS...
ES UNA POSIBILIDAD MUY
REMOTA. ¡NI SIQUIERA YO
IRÍA TAN LEJOS!
143
¡EXACTAMENTE! LA MISMA
IA QUE VENCE A UN CAMPEÓN CLARO... PERO SI
DE AJEDREZ AÚN NO PUEDE EL ASISTENTE DE
VOZ DE JOAQUÍN NO ME LO
AMARRAR UN CORDÓN, NI
EMPEZARA A PENSAR CREO...
ENTENDER LO QUE SIGNIFICA
DESAYUNO... EN SÍ MISMO...
EN OTRAS PALABRAS...
¡ESTAMOS MUY LEJOS
DE CUALQUIER TIPO
DE INTELIGENCIA
ARTIFICIAL GENERAL!
EN ESE CASO,
...Y SI ESTO PROVOCARA UNA PODRÍAMOS SER
EXPLOSIÓN DE INTELIGENCIA TESTIGOS DE LA PRIMERA
EN PLETHOR.I.A.... IA SUPERINTELIGENTE...
¡COMO NOSOTROS, PERO
MÁS INTELIGENTE!
QUE EXTRAJERA
TODOS LOS DATOS ...CUIDADO CON LO QUE
DE LA PROPIA NUBE... DICE, DOCTORA Y.
144
¡CÓMO SE ATREVE A BIEN, DOCTORA Y. SI ESTÁ TAN
PRONUNCIAR ESAS PALABRAS CONVENCIDA DE QUE ESTE ASISTENTE
¡OH, VAMOS! SOLO
EN ESTE LABORATORIO! DE VOZ SE HA CONVERTIDO EN UNA
DIGO QUE TAL VEZ...
MENTE SOBREHUMANA, ENTONCES YA
SABE LO QUE TIENE QUE HACER.
¿TIENE ALGUNO
A BORDO?
COMO LE GUSTA DECIR,

LOS INGENIEROS DEBEN
PREVER TODAS LAS
POSIBILIDADES...
145
146
PARECE QUE LAS COSAS
¡QUÉ MANERA DE COLGARME SE NOS HAN IDO DE LAS
EL TELÉFONO! QUÉ CLASE DE PUES SIGUE DANDO
MANOS...
EQUIPO DE RESCATE... VUELTAS... INTENTÉ TODO LO
QUE SE ME PUDO OCURRIR
PARA DETENERLO...
SEGUIMOS AQUÍ PARA
SALVARTE, JOAQUÍN. PERO,
AL PARECER, PRIMERO LA
DOCTORA Y TIENE ALGO LO REINICIÉ... LE HICE OTRA ...POR ESO, PRECISAMENTE,
QUE PROBAR... PREGUNTA... INCLUSO VERIFIQUÉ SI TENEMOS QUE DAR UN
HABÍA ACTUALIZACIONES... GOLPE DE EFECTO. ¿EMILE?
¿QUÉ ES
ESO?
¿QUIEN DIJO QUE

NO PODÍA HACER
LAS DOS COSAS?
*PRUEBA DE TURING... UTILÍCESE EN CASO DE EMERGENCIAS DE INTELIGENCIA
147
OK... ¿ACASO ES UNA
BUENA SEÑAL QUE SEA
PUEDE SER MUY DIFÍCIL
VERDADERAMENTE INTELIGENTE?
ENTENDER CÓMO PIENSA UNA
IA... ASÍ ES QUE ESTA ES UNA
FORMA DE COMPROBAR SU LA DOCTORA Y
ME PREGUNTO QUÉ
INTELIGENCIA. PIENSA QUE LA “DAMA EN TU
TARDARÁ MÁS: ¿CREAR UNA
TELÉFONO” HA DESARROLLADO
SUPERINTELIGENCIA
UNA MENTE PROPIA.
LA ÚNICA FORMA DE SUPERINTELIGENCIA
SABERLO ES REALIZAR ESTA O PONERLE FIN A LOS
PRUEBA... PERO NO SE HAGA ESTEREOTIPOS NEGATIVOS
DEMASIADAS ILUSIONES. SOBRE LA MUJER EN LA IA?
TENDREMOS MÁS
ÉXITO SI ESTAMOS
DENTRO DEL PROPIO
PROGRAMA AGENTE.
...SE DIRÍA QUE USTEDES HAN
PASADO DEMASIADO TIEMPO
JUNTOS...
¿DENTRO DE
QUÉ?
148
¡MADRE MÍA!
MUY BIEN. LA PRUEBA SE

PARECE UN POCO A UN
JUEGO DE IMITACIÓN.
ESTOY DE ACUERDO.
VAMOS A HACERLE UN JOAQUÍN, DEBE SER USTED.
PAR DE PREGUNTAS A LA COLÓQUESE DETRÁS DEL
INTELIGENCIA ARTIFICIAL, PERO MURO Y ESPERE A QUE YO LE
NECESITAMOS A ALGUIEN CON HAGA ALGUNAS PREGUNTAS.
QUIEN COMPARARLA.
RESPONDA CON
HONESTIDAD Y SOLO
POR ESCRITO.
M! BUENO,
¡BA
NO PUEDO SER YO. USTED
ME CONOCE DEMASIADO
BIEN, EMILE.
149
SI PODEMOS, SE SI NO, ENTONCES ESTA
OK, PERO ES UN JUEGO
TRATARÁ DE UNA IA MÁQUINA PODRÍA TENER
BASTANTE ABURRIDO,
ESTRECHA. UNA MENTE PROPIA.
¿NO CREE?
EL JUEGO NOS SERÁ DE

UTILIDAD A EMILE Y A MÍ
PARA VER SI PODEMOS
DIFERENCIARLO DE LA IA.
SI PUDIÉRAMOS CONSTRUIR UN
ALGORITMO QUE PUDIERA LEERLE COMO
UN LIBRO, ¿DEBERÍAMOS HACERLO?
¿LOS DOS ME
ESCUCHAN BIEN?
CREO QUE
ESTÁ CLARO…
150
ÚLTIMA PREGUNTA: ¿ACASO LA
IA ES UNA HERRAMIENTA PARA
LOS HUMANOS,
O SON LOS HUMANOS

UNA HERRAMIENTA
LA SIGUIENTE ORACIÓN ES PARA LA IA?
VERDADERA, LA ANTERIOR ES
FALSA. ¿CUÁL DE LAS DOS ES
VERDADERA?
151
¿QUÉ PASA?
¿GANAMOS?
M
U !
¡B
NO ES UNA
SUPERINTELIGENCIA, ¡PERO
USTED PODRÁ REGRESAR!
¡CREO QUE ESTE LUGAR

ESTÁ A PUNTO DE
EXPLOTAR!
M !
¡P U
152
LUEGO DE CORREGIR EL ÚLTIMO ERROR Y RESTAURAR LA NUBE,
NUESTROS DETECTIVES DE LA INTELIGENCIA ARTIFICIAL AL FIN
PUEDEN RELAJARSE Y ADMIRAR EL RESULTADO DE SU TRABAJO...
JOAQUÍN PRONTO ESTARÁ

EN CASA... ¡EL ERROR ERA POR POCO NO LO
MÁS DIFÍCIL DE LO QUE LOGRAMOS... ¿QUIERE
PENSABA! DECIR ESO QUE
LA AVENTURA HA
TERMINADO?... DE VUELTA EN LA TIERRA…
¡M
e
gu enc
sta a
ría ntar
ha ía! ¿
ce
r? qué
te
Ha
de y un
ha apre jueg
No un s tra nde o qu
a ia tad r... e
div ... ¿e ? o d ¿al aca
ert s e e gun bo
ido ng a v
? añ ez
ar
a
¡Es
inc
reí
ble!
153
DOCTORA Y, USTED SABE QUE ERRORES COMO
ESTOS SON ALTAMENTE IMPROBABLES... MUY DEBO CONFESAR QUE YO TAMBIÉN ME DIVERTÍ.
INDESEABLES... ¡SON MISTERIOS QUE SE PERO, ESTOY MUCHO MÁS TRANQUILO AL SABER
PRESENTAN UNA VEZ EN LA VIDA! QUE TENDRÁ QUE PASAR MUCHÍSIMO TIEMPO
ANTES DE QUE ALGO TAN DESCABELLADO SE
REPITA EN PLETHOR.I.A....
¡EH, EMILE!... ¿QUÉ

ES ESO QUE SE VE
ALLÁ?
SUPONGO QUE TIENE

RAZÓN... FUE DIVERTIDO
MIENTRAS DURÓ
FIN
154
Economía circular: y modelo están limitados a un inteligencia humana. La IA fuerte internet. También permite a las
describe un sistema de reciclaje contexto específico. Ello significa o AGI hace alusión, pues, a una empresas desarrollar, entrenar y
colaborativo que reduce al que, si bien el sistema de IA máquina que tiene conciencia ejecutar sistemas de IA mediante
mínimo los residuos y la puede rendir mejor que un ser y es capaz de dar respuestas un proceso conocido como
contaminación. En virtud de humano en la tarea para la que similares a las de los seres “computación en la nube”. La
este modelo, las piezas, los fue diseñado, como conducir humanos. nube, algo similar a un espacio
materiales y los productos se en carretera, jugar a las damas o alquilado en un ordenador al que
reconocer rostros, es incapaz de La nube: siempre puede accederse, es la
reutilizan, reparan, reconvierten
realizar cualquier otra tarea para considerada una metáfora columna vertebral de muchas de
o reciclan en la mayor medida
la que no fue diseñado, como más que un término científico las tecnologías actuales de IA.
posible. Ello contrasta con los
caminar en medio del tránsito, propiamente dicho, la nube
métodos históricos que tienden
jugar al ajedrez o dibujar rostros. hace alusión a un conjunto Prueba de Turing:
a favorecer los productos de un
La ANI es la única forma de de servicios de cómputo y concebida por Alan Turing en
solo uso que rara vez se reciclan
IA que la humanidad ha hecho almacenamiento de datos el decenio de 1950, esta prueba
adecuadamente, lo que conduce
realidad hasta el día de hoy. escalables, flexibles, distribuidos tiene por objetivo evaluar
a una acumulación de residuos
y deslocalizados. La nube o detectar la presencia de
electrónicos que tiene efectos
Inteligencia Artificial permite a los usuarios almacenar, inteligencia en los sistemas de IA.
adversos en el bienestar de los
General (AGI, por sus siglas modificar, cargar y descargar La prueba se plantea como un
seres humanos y del planeta.
en inglés): es el objetivo general, diversos tipos de datos en un juego para tres jugadores: un juez
Inteligencia Artificial aún no alcanzado, de un sistema servidor web, al que pueden humano, un jugador humano y
Estrecha (ANI, por sus siglas que muestre inteligencia en acceder desde cualquier lugar el sistema de IA que queremos
en inglés): a veces llamada IA múltiples dominios, capaz de a través de una aplicación, un probar. El juez humano no ve ni
débil o de dominio específico, es adquirir nuevas habilidades y navegador web o una plataforma al jugador humano ni al sistema
un tipo de IA cuyas capacidades que imite o incluso supere la dedicada con conexión a de IA. Su objetivo es determinar
155
cuál de los dos jugadores ocultos electrónicos contienen metales
es el sistema de IA. Para ello, preciosos como el oro, el cobre
el juez formula interrogantes a y el níquel, así como materiales
ambos jugadores, sobre todo, raros como el indio y el paladio.
preguntas capciosas, a fin de que Gran parte de estos metales
el sistema de IA se descubra. podría recuperarse y reciclarse
Si después de varias rondas para fabricar nuevos productos,
de preguntas, el juez no logra pero, en la actualidad, más del
identificar cuál de los jugadores 80% no se recicla, lo que provoca
es el sistema de IA, entonces se una peligrosa contaminación
dice que el sistema es inteligente. ambiental en muchas partes del
mundo, incluidos varios países
Residuos electrónicos: de Asia y África.
comprenden todo aquello
que tiene un enchufe, un
cable eléctrico o una batería
(incluidos enseres eléctricos y
electrónicos), desde tostadoras
hasta cepillos de dientes,
teléfonos inteligentes, neveras
y refrigeradores, ordenadores
portátiles, televisores LED y sus
componentes, que han llegado al
final de su vida útil. Los residuos
156
Conclusiones
Cuando analizamos la inteligencia artificial en su conjunto, puede abordar los problemas de la inteligencia artificial requiere un esfuerzo
parecer tan compleja y vasta como una galaxia: una intrincada red de colectivo y colaborativo de todos. Si las voces de algunos quedan fuera
usuarios, datos, algoritmos, conectividad, modelos y procesos, todo ello de la conversación o si no examinamos críticamente todas las aristas del
en función de prestar muchos de los servicios que cada uno de nosotros problema, probablemente pisoteemos los valores fundamentales que
disfruta a diario. En consecuencia, puede sorprendernos que no haya apreciamos sobremanera: los derechos humanos y la importancia de
una “mente” única que rija lo que ocurre dentro de la IA, ni un único vivir en armonía con los demás y con el planeta.
actor responsable de su funcionamiento actual.
En resumen, incumbe a exploradores de la IA como ustedes garantizar
En realidad, la IA es un ecosistema de actores humanos y artificiales. que su futuro sea el que queremos y que todos saquemos provecho de
Y, tal como sucede con los problemas del ecosistema de la Tierra, esta gran aventura algorítmica. ■
157
RECURSOS Y LECTURAS ADICIONALES

Introducción a la IA: unesdoc.unesco.org/ark:/48223/ Excavating AI: the Politics of Images PBS, específicamente: Crash Course:
• Russel, S. and Norvig, P. (2013). pf0000379376 in Machine Learning Training AI, and Crash Course: Computer
Artificial Intelligence: A Modern Sets. NYU, New York. The AI Now Science.
Approach. 3rd edn. University of Sesgos y algoritmos de clasificación Institute. Disponible en: excavating.
Berkeley at California, Pearson ai. El efecto Eliza
• Kantayya and Shalini. 2020. Coded
• World commission on the ethics of Bias. Documental disponible en • Turkle, S. 2017. Alone together:
scientific knowledge and technology idioma francés en Netflix. Privacidad algorítmica Why we expect more from
(COMEST). 2019. Report on the • Buolamwini, J. and Gebru, T. • Kearns, M. and Roth, A. 2019. The technology and less from each
ethics of Artificial Intelligence. Paris, 2018. Gender shades: Intersectional Ethical Algorithm: The Science of other. London, Hachette UK.
UNESCO. accuracy disparities in commercial Socially Aware Algorithmic Design. Charla disponible en: www.youtube.
gender classification. En: Conference Oxford, Oxford University Press. com/watch?v=Us1t4f0PKCc&ab_
IA en la educación on fairness, accountability and Charla disponible en: www.youtube. channel=TalksatGoogle
transparency. pp. 77-91. PMLR. com/watch?v=tmC9JdKc3sA&abcha
• UNESCO. 2019. Artificial
nnel=Talksat-Google El problema de la alineación de
Intelligence in Education:
Challenges and Opportunities Igualdad de género e IA valores en IA
for Sustainable Development. La ética de los sistemas de • Gabriel, I. 2020. Artificial
• UNESCO and the World Economic
Disponible en: unesdoc.unesco.org/ recomendación Intelligence, Values and Alignment.
Forum. 2021. Girl Trouble: Breaking
ark:/48223/pf0000366994?posInSet Through the Bias in AI. Evento en • Bucher, T. 2018. If...then: Disponible en: link.springer.com/
=10&queryId=60b233b8-5ced-48a4- vivo disponible en: en.unesco.org/ Algorithmic Power and Politics. article/10.1007/s11023-020-09539-2
95c0-86fd2acb7994 girltrouble Oxford, Oxford University Press.
• UNESCO (2021) Inteligencia • Muchos de los conceptos técnicos El estatus de personalidad para
Artificial y Educación: Guía para Ética de los algoritmos de (y algunos éticos) están explicados la IA
las personas a cargo de formular por expertos en la serie de Youtube
clasificación • Bryson, J. 2010. Close Engagements
políticas. Disponible en: https:// “Crash Courses”, financiada por
• Crawford, K. and Paglen, T. 2019. with Artificial Companions: Key
158
RECURSOS Y LECTURAS ADICIONALES

Social, Psychological, Ethical and Disponible con subtítulos en español
Design Issues. Robots Should Be en : https://www.youtube.com/
Slaves. pp. 63-74. playlist?list= PLWuYED1WVJIP
HJLk84wWQbzeZcWLt5rwU
El enfoque basado en los
derechos humanos para la ética El impacto político, ambiental y
de la IA social de la IA
• UNESCO. 2019. AI and ROAM. • Crawford, K. 2021. The Atlas of AI.
Series on Internet Freedom. Yale, Yale University Press. Charla
Chapters 1 and 3. Disponible en: disponible en: www.youtube.com/
unesdoc.unesco.org/ark:/48223/pf00 watch?v=uM7gqPnmDDc&ab_
00372132?posInSet=1&queryId=abf channel=UNSW
c5ee8-a41a-4b54-bee3-2b8fdc3bfcdd
• UNESCO (2021) El aporte de
la inteligencia artificial y las TIC
avanzadas a las sociedades del
conocimiento: una perspectiva de
derechos, apertura, acceso y múltiples
actores. Disponible en: https://
unesdoc.unesco.org/ark:/48223/
pf0000375796
• UNESCO (2021) 7 minutes to
understand IA and the key ROAM-X
principles applying to its development
159
Agradecimientos
Los autores quisieran agradecer a Raja Chatila, Geoff Keeling, Stuart Russell, Virginia Dignum, Yoshua Bengio y Konstantinos Karachalios por sus esfuerzos y
conocimientos en la creación de las bases científicas de esta publicación, y a Max Chabat por su increíble creatividad y apoyo dramatúrgico.
Los autores también agradecen a Vanessa Dreier, Prateek Sibal, Jacinth Chia, Florence Calviac, Seet Ynn Tan, Marie-France Agblo-Hientz, Adil Benbella, Ming Kuok
Lim, Elspeth McOmish, Delphine Santini, Rebekah Cameron, Elena Nápoles, Cédric Wachholz y Oscar Castellanos por su arduo trabajo para llevar a cabo esta
publicación, y a Sasha Rubel por el inicio de la publicación y por haber creído primero en su promesa, originalidad y valor.
Novela Gráfica de la UNESCO para promover la
conciencia sobre la IA
El desarrollo y uso de la Inteligencia Artificial (IA) continua expandiendo las oportunidades para el logro de los 17 Objetivos de
Desarrollo Sostenible (ODS) de las Naciones Unidas.
En el marco del trabajo de la UNESCO para aprovechar la tecnología emergente para el desarrollo sostenible, esta novela gráfica para
jóvenes adultos explora el impacto de la Inteligencia Artificial en la humanidad.
Al seguir a personajes en cuatro rincones diferentes del mundo mientras luchan con los límites de la tecnología de IA, una audiencia
joven se embarca en una misión conjunta en una galaxia algorítmica llamada Plethor A.I. Allí, solo tienen una opción: viajar a través
de este mundo oculto detrás de nuestras pantallas para conocer los impactos sociales, técnicos, éticos y de derechos humanos de la
Inteligencia Artificial, y ayudar a los personajes a encontrar el camino de regreso a la realidad.
9 789233 002050

Rumbo A La IA: Una Aventura Algorítmica

Загружено:

Сведения о документе

Оригинальное название

Авторское право

Доступные форматы

Поделиться этим документом

Поделиться или встроить документ

Параметры публикации

Этот документ был вам полезен?

Это неприемлемый материал?

Авторское право:

Доступные форматы

Rumbo A La IA: Una Aventura Algorítmica

Загружено:

Авторское право:

Доступные форматы

Rumbo a la IA

Una aventura algorítmica

Producción: BiMot Culture

¿Qué repercusiones tiene la IA en los seres humanos?

Concepción y guion: Dra. Katherine Evans

ARI, ESTAS COSAS PUEDEN

AHORA NO PUEDO HABLAR...

*BUENOS DÍAS **HOLA, ¿QUÉ TAL, AMIGO? 10

¡PERO ESO TOMARÁ

UNAS HORAS DESPUÉS...

ATRAVIESAN INFRAESTRUCTURAS SUBTERRÁNEAS

ANTES DE ATERRIZAR EN UNA GRANJA DE SERVIDORES, EN ALGÚN LUGAR DE LA

GAFAS, SI ALGO HE APRENDIDO

NO... NO... NO HAY DE

ESTÁ BIEN… PERO,

NO SOLO UN ORDENADOR, SINO TODOS

ESO ESPERO... TENGO QUE

TRAS UN ABRUPTO ATERRIZAJE, ARI Y LA DOCTORA Y LLEGAN A SU

EN MI PAÍS QUÉ GESTO TAN

ESO SE PARECE MUCHO A LO

H.I.L.A.R.E. TIENE QUE

H.I.L.A.R.E. ES LO QUE LLAMAMOS

...Y PARA QUE LAS COSAS TENGAN

PERO, ¿QUÉ ES TAN DIFÍCIL? CRÉALO O NO, EL SENTIDO

¡ASÍ ES! DESPUÉS QUE

¿LA DISTANCIA MÁS CORTA? ¿LA

¡CLARO QUE SÍ! ¡LA IA

AL AGREGAR NUEVAS ¡¿ESO ES TODO?! YA

MIENTRAS TANTO, DEL OTRO LADO DE CUALQUIERA DIRÍA

POR FAVOR, ¡CÁLLENSE!

¡AH! POR POCO SE ME

COLA CORTA OREJAS PUNTIAGUDAS

ALGÚN PEQUEÑO INDICIO DE QUE LA

CUANDO EL NODO IDENTIFICA LA PISTA QUE BUSCA, AL FINAL, LA IA UNE TODAS

COLA CORTA OREJAS PUNTIAGUDAS

Y PREDICE, CON CONOCIMIENTO DE

¿CÓMO LE VA CON LOS

SÍ... SOBRE ESTO...

DUDO MUCHO QUE

¡SÍ! ¡UN CONJUNTO DE DATOS

FANTÁSTICO, ARI. PERO ELLO,

NO SON PERSONAS, SON PERFILES DE USUARIOS.

¡O A AYUDAR A LOS PROFESORES

* También llamado Curso online masivo y abierto (COMA) 35

¡LA MEJOR MANERA DE

PERO TENEMOS QUE

¿QUIERE DECIR USTED…

CREO QUE HOY HE

UNOS MINUTOS DESPUÉS…

¿ALGUIEN TIENE UN UF... PENSÉ QUE DE PRONTO

OYE, ¿ADIVINA QUÉ, ARI?

¡TE LO CREO! ¡FUE

¡OH! ¡PARECE QUE

ME PARECE BIEN, EMILE...

Concepción y guion: Dra. Katherine Evans

POR FAVOR, MIRE A

¡QUIERO DECIR QUE EL

ESTOS ALGORITMOS PERMITEN

PARECE QUE SU ERROR ¡SÍ! ¡Y YA SÉ CÓMO

¿DICE QUE TENGO

PARA QUE LOS ALGORITMOS DE CLASIFICACIÓN

PERO, ¿ACASO TODAS

CREO QUE ESTO ES LO