¿La inteligencia artificial tiene sesgos?

La inteligencia artificial (IA) no es más que un espejo de quien la crea. De manera muy general, la IA es un proceso computacional que simula la inteligencia humana para resolver problemas, aprendiendo de la realidad a través de observar los datos que la rodean. Si la rodean datos sesgados, la IA internaliza los mismos sesgos, incluyendo los de género. Si históricamente han sido los hombres quienes en su mayoría participan en este sector, ¿qué ocurre cuando la IA se olvida de espejear las voces y necesidades de las mujeres?

El traductor de Google es un ejemplo del sesgo de género que existe en los datos y que la tecnología replica. Al traducir “él es enfermero, ella es presidente” del español a un idioma neutral en género (como el turco) se traduce en “esta persona es enfermero, esta persona es presidente”. Al revés (del turco al español), el traductor arroja “ella es enfermera, él es presidente”. El algoritmo escoge esa combinación de pronombres porque aprendió de una base de datos que con mayor probabilidad asigna que ella es enfermera y él presidente. Hagan la prueba.

Este ejemplo, aunque perpetúa estereotipos de género que no quisiéramos llevarnos al futuro, es uno de pequeña escala. Pero no todos los sesgos de la inteligencia artificial son así. Por ejemplo, un algoritmo diseñado para detectar daño letal en los riñones se equivoca con el doble de probabilidad en las mujeres que en los hombres. Esto ocurre dado que fue entrenado mayoritariamente con datos de hombres y nunca aprendió cómo se veía el daño en la otra mitad de la población. Gartner, empresa de consultoría tecnológica, predijo que en 2022, 85% de los proyectos de inteligencia artificial generarían resultados erróneos producidos por sesgos en los datos, ya sea en los algoritmos o en los equipos responsables de manejarlos.  

Una de las causas de esto es que las mujeres están subrepresentadas desde la formación del talento en ciencias, tecnología, ingeniería y matemáticas (STEM por sus siglas en inglés) hasta su incorporación en el mercado laboral. En cuanto a las profesionistas de inteligencia artificial a nivel mundial, 22% son mujeres y la mayoría de los puestos técnicos y de liderazgo los ocupan hombres. De las publicaciones en la materia, 14% son de autoría femenina y de las principales conferencias 18% las dan mujeres. En resumen, hacen falta mujeres que diseñen y creen tecnología. 

La transformación tecnológica ha provocado que la inteligencia artificial permee en todos los sectores de la economía, cambiando la manera en que trabajamos, estudiamos, consumimos y nos comunicamos. El poder de la IA está en el enorme potencial de mejorar y facilitar nuestras vidas, automatizando tareas y aumentando la productividad y seguridad de estas. En general, la IA puede apoyar en una toma de decisiones más eficiente. 

Pero si no se representan las necesidades y la diversidad de toda la población, la inteligencia artificial, lejos de facilitarnos la vida, puede perpetuar sesgos de género del siglo pasado que amplifican inequidades sociales. Las personas generan, recolectan y etiquetan los datos para entrenar al algoritmo, por lo que son responsables de identificar y romper los sesgos cuando ocurran. Además de tener equipos y datos de entrenamiento más diversos, es momento de que los países implementen un marco regulatorio para su uso. Las recomendaciones en la ética de la Inteligencia Artificial de la Unesco son un buen referente para ello.

Hoy, la inteligencia artificial está en su auge de transformación en el mundo y está en todos nosotros hacer el mejor uso de ella.