Mujer, hombre, blanco, negro y los sesgos en la IA

Mujer, hombre, blanco, negro y los sesgos en la IA

Compártelo:

Empecemos por esta cuestión: ¿qué significa sesgo? La palabra tiene diferentes acepciones dependiendo del campo de aplicación. Sin embargo, en la mayoría de ellos la esencia es invariante y se traduce en cómo se produce una distorsión de la realidad a partir de informaciones pasadas irrelevantes para el caso. Etimológicamente, “sesgo proviene de sesgar, torcer o atravesar algo hacia uno de sus lados”.

En su traducción a psicología cognitiva hace a su vez mención a: “un efecto psicológico que produce una desviación en el procesamiento mental, lo que lleva a una distorsión, juicio inexacto, interpretación ilógica, o lo que se llama en términos generales irracionalidad, que se da sobre la base de la interpretación de la información disponible, aunque los datos no sean lógicos o no estén relacionados entre sí”.

Según Cecilia Cores (psícologa) los sesgos cognitivos son atajos mentales que evolutivamente han sido útiles porque nos han permitido tomar decisiones de forma más rápida”. El miedo a perder la oportunidad, la vida que se nos escapa, Bill Gates millonario desde los 25. Decisiones rápidas. Buenas o malas es otra historia.

Aunemos este concepto de sesgo con la Inteligencia Artificial (IA), que como bien menciona mi compañero Sergio Gil en cada charla: ni es tan artificial ni es tan inteligente. La sentencia está fundamentada y bien enraizada en la explicación del proceso de inferencia de las máquinas. La ciencia-ficción tiene más de ficción que de ciencia: las máquinas se alimentan de datos a partir de los cuáles extraen conocimiento (novedoso o ya manifiesto) con el fin de automatizar el proceso de razonamiento.

Lo que la máquina no ve, no lo conoce y no lo introduce en su inferencia. Sin embargo, tan preocupante es la ceguera como la falta de visión periférica (la parcialidad en el juicio de esa ‘realidad’ o Ground Truth entregada a la máquina). Aparece en los relatos teóricos la corriente de Strong AI (lo pongo en inglés porque se me llena más la boca al leerlo): habilidad para percibir, capturar, aprender conocimiento nuevo y emplearlo con sabiduría. Hasta que la máquina no pronuncie el famoso ‘Cogito ergo sum’ seguiremos abocados a la debilidad de la IA, que no es otra que el ser humano titiritero que la ajusta y decide qué porción de la realidad del mundo es relevante.

Cuando hablamos de sesgo en IA hacemos alusión al sesgo algorítmico que hace su aparición cuando el sistema refleja los valores implícitos de los humanos que lo crearon. Y con todas nuestras taras y sesgos cognitivos, no llegaremos a Terminator, ni a Ex Machina ni a la Samantha de Her (pobre Theodore Twombly) hasta que no pasen muchos (fonéticamente, con repetidas ‘u’s) años. No sé si el camino pasa por primero arreglar nuestros propios circuitos para enseñar algo con atisbos de inteligencia o por diseñar una máquina que ignore nuestras incongruencias. ¿A dónde nos han llevado nuestros sesgos? He aquí ejemplos ilustrativos:

    • Correctional Offender Management Profiling for Alternative Sanctions (COMPAS): herramienta para identificar el riesgo de reincidencia de criminales (score entre 1 y 10). Incorpora el análisis de 137 factores entre los que se encuentran la edad, el género y el historial criminal. La raza, la nacionalidad y el color de la piel jugaron un papel importante en la composición de las evaluaciones y predicciones de reincidencia hasta la década de 1970, cuando estudios de investigación diagnosticaron a estos atributos como políticamente inaceptables (Harcourt, 2010; Kehl et al; 2017). Sin embargo, COMPAS se ha utilizado como motor de recomendación para los jueces en varias jurisdicciones de EEUU (el estado de Nueva York, Wisconsin, o California entre otros). Se ha observado que los acusados clasificados como de riesgo medio o alto (puntuaciones de 5 a 10) tienen más probabilidades de ser encarcelados mientras esperan juicio que aquellos clasificados con riesgo bajo (puntuaciones de 1 a 4). A continuación, el análisis de la performance:

Análisis de la performance
Análisis de la performance

    • Word embedding (of a men’s world). Imperativo indicar que la literatura escrita sobre el sesgo de género aún se encuentra en las primeras etapas y que la mayoría del contenido escrito pertenece a artículos que no han sido respaldados por estudios académicos. Hace unos pocos años, especialistas en Procesamiento de Lenguaje Natural, la rama de IA que estudia el lenguaje, confeccionaron un mapa de relaciones entre palabras a partir de miles de millones de textos. Lo que se llama en el argot técnico word embeddings, que permiten llevar las palabras a un espacio vectorial para luego poder computar distancias.Recurriendo a esa red se pueden inducir relaciones como:


Cuidado con detectar un nicho o una oportunidad en el mercado y coger atajos en los desarrollos obviando el compromiso social (la única Gate que podemos hallar al final del camino no será la de Bill, sino la del fracaso como miembro del ecosistema humano). Cuidado con enarbolar citas de esta naturaleza al tratar con IA:

“La confianza en uno mismo y la rápida decisión son el preludio del éxito”. José Martí

José no hacía IA. Rápido en este contexto es siempre sinónimo de mal.

Sobre Esther Villar Rodríguez

Doctorado (Cum Laude) en Tecnologías de la Información y la Comunicación (2015) de la Universidad de Alcalá (España), una licenciatura en Ciencias de la Computación (2010) por la Universidad de Deusto y un Máster en Lenguajes y sistemas informáticos (2012) por la UNED (Universidad Nacional de Educación a Distancia, España). Hasta 2018 ejerció de científica de datos senior en inteligencia artificial en TECNALIA (España), especializándose en modelos de aprendizaje autómatico tradicional (Machine Learning) y aprendizaje automático profundo (Deep Learning), estrategias de aprendizaje distribuidas (incluido el aprendizaje federado, Federated Machine Learning), aprendizaje por refuerzo (Reinforcement Learning) y detección de anomalías (Anomaly Detection), entre otros.

Es autora de varias contribuciones en conferencias y artículos en revistas relacionadas con estas áreas de investigación, con un enfoque en su aplicabilidad a problemas prácticos (predicción y optimización de procesos industriales y de gestión, planificación de recursos, eficiencia energética y otras aplicaciones de diversa índole). Actualmente es la responsable de la plataforma de Inteligencia Artificial dentro del área de negocio de OPTIMA (Optimización, Modelización y Analítica) gestionando principalmente la estrategia tecnológica y la excelencia en el grupo.

A su vez, dirige una tesis doctoral centrada en mecanismos de colaboración y exploración óptima en Reinforcement Learning aplicado a problemas con sparse rewards y colabora técnica y activamente en nuevas líneas como Quantum Computing o Coevolutive/Multitasking Optimization.

Dejar un comentario

* Campos obligatorios