Los algoritmos son muy listos pero necesitan un

mnager que les gue

El trabajo de la mayora de los mnagers incluye hacer predicciones. Cuando los
especialistas en RRHH deciden a quin contratar, estn prediciendo quin ser
ms efectivo. Cuando los profesionales de marketing escogen los canales de
difusin que emplearn, estn prediciendo dnde se vender mejor un producto.
Los algoritmos hacen que las predicciones sean ms precisas, pero tambin
tienen sus propios riesgos, especialmente si no los entendemos. Abundan los
ejemplos de gran repercusin. Cuando Netflix lanz una competicin de un milln
de dlares (unos 917.000 euros) para desarrollar un algoritmo capaz de identificar
las pelculas que gustaran a un usuario determinado, varios equipos de cientficos
de datos unieron fuerzas y crearon el algoritmo ganador. Problemas as no son
inevitables.
En nuestro trabajo de diseo e implementacin de algoritmos y de identificacin de
nuevas fuentes de datos, hemos observado que el origen de la dificultad a
menudo no son errores informticos de los algoritmos sino los errores que
cometemos al interactuar con ellos. Para evitar dar un mal paso, los mnagers
necesitan entender lo que hacen bien los algoritmos, qu preguntas contestan y
cules no.
Por qu nos confunden los algoritmos?
Como demuestra un conjunto de pruebas creciente, humanizar los algoritmos
hace que nos sintamos ms cmodos con ellos. Esto puede resultar til, por
ejemplo, para el diseo de una funcin de llamadas automticas. Es ms probable
que la voz de una persona de verdad consiga captar la atencin de los usuarios
que una voz electrnica. El problema fundamental, sin embargo, es que las
personas tratan los algoritmos y las mquinas que los ejecutan de la misma
manera que a un empleado, supervisor o compaero. Pero los algoritmos se
comportan de forma muy distinta a los humanos, de dos maneras importantes:
Los algoritmos son extremadamente literales
En la ltima pelcula de Los Vengadores, Tony Stark (tambin conocido como Iron
Man) crea Ultron, un sistema de defensa de inteligencia artificial encargado de
proteger la Tierra. Pero Ultron interpreta la tarea literalmente, y concluye que la
mejor manera de proteger la Tierra consiste en destruir a todos los humanos.
Ultron se comporta como el tpico algoritmo: hace exactamente lo que se le manda
e ignora cualquier otra consideracin. Nos metemos en problemas cuando no
gestionamos los algoritmos con cuidado.
Las pginas de redes sociales que de repente se vieron inundadas con cebos de
clics cayeron en una trampa similar. Su objetivo final estaba claro: proporcionar los
contenidos que resultaran ms atractivos e interesantes para los usuarios. Para
transmitir este objetivo al algoritmo, se elabor una serie de instrucciones que
encontrar contenidos sobre los cuales los usuarios haran ms clics. Y no es un
mal camino: la gente suele hacer clic en un contenido porque le interesa. Los
algoritmos son cajas negras
Como el adivino de Shakespeare, los algoritmos a menudo pueden predecir el
futuro con gran precisin, pero no nos cuentan ni la causa de un evento ni el por
qu. Un algoritmo puede leer cada artculo del New York Times y decirnos cul
tiene las mayores probabilidades de ser compartido por Twitter sin necesariamente
explicar por qu la gente se sentir inspirada para tuitear acerca de l.
Reconocer estas dos limitaciones de los algoritmos es el primer paso para
gestionarlos mejor. Ahora, examinemos las otras medidas que puede tomar para
aprovecharlos con mayor xito.
Objetivos detallados y explcitos
Los algoritmos, en cambio, perseguirn la consecucin de un objetivo de forma
casi obsesiva. La mejor manera de mitigar esto es expresar con una claridad
cristalina todo lo que queremos conseguir.
Si le importa una meta simple, tiene que expresarla, definirla y cuantificar su
importancia. En la medida en que estas metas son difciles de medir, mantngalas
presentes a la hora de actuar en base a los resultados de un algoritmo.
En Google (que ha financiado parte de nuestras investigaciones en otros temas),
surgi un problema de metas simples con un algoritmo que determina qu
anuncios mostrar a cada usuario
El objetivo cuantificable de Google de maximizar el nmero de clics sobre
anuncios haba dado paso a una situacin en la que sus algoritmos, refinados con
el paso del tiempo, estaban difamando a personas con ciertos tipos de nombres
Los algoritmos no entienden las contrapartidas; persiguen su objetivo de forma
casi obsesiva.
Observamos recientemente la importancia de las metas simples en accin. Uno de
nosotros colaboraba con una ciudad de la costa oeste de Estados Unidos para
mejorar la eficiencia de sus inspecciones de restaurantes.
A los funcionarios les encant la idea de mejorar la eficiencia del proceso y
queran avanzar hacia su implantacin. Preguntamos si haba alguna pregunta o
preocupacin. Minoras con ingresos ms bajos. No quera que el algoritmo se
centrara de forma excesiva en esos barrios. Expresaba una meta simple
relacionada con la equidad.
Reducir la miopa
Una popular empresa de envasado de productos de consumo compraba productos
baratos en China para venderlos en Estados Unidos. Seleccionaba estos
productos despus de ejecutar un algoritmo que predeca cules se venderan
mejor.
Resulta que la tasa sorprendentemente alta y regular de devoluciones podran
haberse predicho (aunque el algoritmo no lo haba hecho). Era obvio que a la
empresa le importaba la calidad, pero no haba traducido ese inters en un
algoritmo que proyectara cuidadosamente la satisfaccin del cliente. En su lugar,
haba pedido al algoritmo que se centrara de forma estrecha en las ventas.
Los algoritmos se optimizan para un objetivo que pueda ser medido sobre la
marcha (si un usuario pincha en un enlace o no) sin que importe el objetivo a ms
largo plazo ni mantener la satisfaccin de los usuarios con su experiencia en la
pgina web.
De forma similar, la miopa puede ser un problema de las campaas de
marketing. Consideren la tpica campaa publicitaria de Gap con Google. Lo ms
probable es que de paso a un pico de visitas a Gap.com porque al algoritmo de
Google se le da bien predecir quin har clic sobre el anuncio.
Los algoritmos se centran en los datos que tienen a mano, que a menudo guardan
relacin con los resultados a corto plazo.
Es ms, las visitas a las pginas web representan un comportamiento a corto
plazo, mientras que el impacto longevo de los anuncios incluye los efectos
derivados sobre la imagen de la marca y la repeticin de visitas. Es difcil
encontrar datos perfectos sobre tales efectos, pero las cuidadosas auditoras de
datos pueden ayudar mucho.
Escoger los datos adecuados
Este enfoque funcion bien no slo porque haba muchos restaurantes a los que
evaluar, sino porque las crticas de Yelp proporcionaron un genial conjunto de
datos, algo en lo que no haban pensado demasiado las ciudades.
Una trampa en la que suelen caer las empresas es pensar en el big data como
simplemente muchos registros, por ejemplo, analizar un milln de clientes en lugar
de 10.000. Pero esto slo es la mitad de la cuestin. Imaginen que los datos se
organizan en forma de tabla, con una fila para cada cliente.
Entender las limitaciones
Los algoritmos emplean datos existentes para realizar predicciones acerca de lo
que podra pasar en un entorno, una poblacin o una hora ligeramente distintos
Enumerar los motivos por los que el algoritmo podra no ser transferible a un
nuevo problema y evaluar su significado es una sabia prctica.
Tambin recuerden que la correlacin no implica causalidad. Supongamos que un
algoritmo prediga que los tuits cortos sern retuiteados con mayor frecuencia que
los largos. Esto de ninguna manera sugiere que deberan acortar sus tuits. Los
algoritmos capaces de realizar predicciones no eliminan la necesidad de tener
cuidado a la hora de establecer conexiones entre la causa y el efecto; no son un
sustituto para los experimentos controlados.