Seguridad frente a los Peligros Éticos

Thomás Borja, Jaime Tamayo

{thomas.borja, jaime.tamayo01}@epn.edu.ec

Introducción
Principios de justicia y responsabilidad son descuidados por ingenieros de software
Se han desarrollado algoritmos de inteligencia artificial y a la par han aparecido riesgos éticos

Existen peligros de tipo moral que no han sido tomadas en cuenta por los algoritmos de inteligencia

Peligros Éticos
Peligros

El software desarrollado últimamente con inteligencia artificial no contempla los siguientes riesgos:
Inequidad de género: Anuncios de empleo que benefician a hombres
Racismo: Personas de piel oscura no son reconocidas en fotografías

Beneficio propio: Software que muestra anuncios de terceros en lugar de intereses personales
Consecuencias

Discriminación
Manipulación
Sesgo

Problemas de salud

Evidencias Soluciones
Transparencia algorítmica
Software abierto auditable

Introducir datos sin prejui-

cios

Conclusión
El verdadero potencial para
aplicaciones inteligentes será
obtenido solo cuando la tec-
nología responda a las de-
mandas éticas de la socie-
dad.

Figura 1: Racismo en reconocimiento facial