El algoritmo de la risa
Un cuarto público

Abogada y escritora de clóset. Dedica su vida a temas de género y feminismos. Fundadora de Gender Issues, organización dedicada a políticas públicas para la igualdad. Cuenta con un doctorado en Política Pública y una estancia postdoctoral en la Universidad de Edimburgo. Coordinó el Programa de Género de la Escuela de Gobierno del Tecnológico de Monterrey durante tres años y es profesora en temas de género. Actualmente es Directora de Género e Inclusión Social del proyecto SURGES en The Palladium Group.

X: @tatianarevilla

El algoritmo de la risa
Erica, la robot entrenada para reírse como humano. Foto: AFP

Hace unos meses, el periódico The Guardian publicó una nota sobre una investigación que enseñaba a un sistema de inteligencia artificial (IA) a tomar decisiones para reír. Los científicos señalaron la importancia de la risa para generar empatía social y mejorar la comunicación entre personas y los sistemas de IA, utilizando para esto a una autómata diseñada en Kyoto, llamada Erica. 

La risa es parte fundamental de las conversaciones humanas, y tal y como lo señalan Koji Inoue, Divesh Lala y Tatsuya Kawahara (2022), si un robot desarrolla interacciones con risas empáticas adecuadas, seguramente, las personas sentirían una mayor empatía hacía el sistema. 

¿A qué se refieren con una risa empática adecuada? Para enseñarle esto a Erica, “se recopilaron datos de entrenamiento de más de 80 diálogos de citas rápidas entre estudiantes universitarios de sexo masculino y el robot, que al principio fue operado a distancia por cuatro actrices novatas”. Mediante estos datos, se entrenó a Erica para que tomara la decisión si era necesario reírse o no y qué tipo de risa era apropiada. 

Como parte de la investigación, el equipo evaluó el sentido del humor de la autómata generando diálogos con otras personas con base en el nuevo algoritmo de la risa. Para evaluar las respuestas, se mostraron videos a voluntarios, quienes calificaron el algoritmo en términos de empatía, naturalidad, similitud humana y comprensión, a través de las siguientes preguntas: 

  • ¿Hasta qué punto el robot con voz de mujer empatizaba con el usuario masculino? (empatía) 
  • ¿Hasta qué punto las respuestas del robot con voz de mujer eran naturales? (naturalidad) 
  • ¿En qué medida el robot con voz de mujer se parecía a un ser humano? (semejanza humana) 
  • ¿En qué medida entendía el robot con voz de mujer lo que decía el usuario masculino? (comprensión)

Los resultados se centraron en describir los modelos de predicciones respecto los tipos y momentos de risa de Erica: risa inicial, de risa compartida y selección de tipo de risa, concluyendo que la percepción de la risa compartida es la que más genera empatía (entre otros resultados). 

No te pierdas:Mirarnos el ombligo

Sin duda, estas investigaciones son una aportación significativa al diseño de IA; pero en temas de género surgen algunas interrogantes: primero, ¿por qué tomaron la decisión de diseñar al robot como mujer? Esto nos aleja de lo que Donna Haraway llama la tradición utópica de imaginar un mundo sin géneros, de su Cyborg, ahora, en el diseño de la inteligencia artificial reforzando lo binario. 

¿Por qué utilizaron datos de entrenamiento provenientes únicamente de diálogos de personas del sexo masculino? ¿Por qué las preguntas de evaluación están construidas desde un enfoque biologicista reproduciendo la idea de mujeres agradando a hombres? ¿Por qué las operadoras de la autómata fueron actrices novatas? Ninguna de estas respuestas está en el artículo. Tampoco describieron los temas de las conversaciones que detonaron los momentos y tipos de risa para construir el algoritmo. 

El que los datos para que Erica tomara decisiones –a menos que hubiera un objetivo en específico para esto que no explicaron– provinieran únicamente de conversaciones del sexo masculino es un sesgo importante, así como las preguntas para evaluar, diseñadas bajo la división sexual de género, esperando claramente que Erica, al ser una mujer, empatice, comprenda y simpatice a los hombres. 

No pretendo simplificar una investigación tan significativa; sin embargo, esto nos lleva a debates más profundos, hacia cuestionamientos sobre la ciencia. Ciencia desarrollada en un mundo capitalista, que, como dice Donna Haraway, es un sistema masculino –además de racista–. La tradición del progreso, de apropiación de la naturaleza como recurso para las producciones culturales y científicas, en este caso la empatía a través de la risa, está reproduciendo ciertas lógicas sociales de género con los temas que deberían hacer reír a una mujer para generar empatía en los otros.

Determinar este tipo de investigaciones no es neutral. Siguiendo a Haraway, “la determinación tecnológica es solo un espacio ideológico abierto para los replanteamientos de las máquinas y de los organismos como textos decodificados, a través de los cuales, nos adentramos en el juego de escribir y leer al mundo”. A esto, Haraway lo llama la informática de la dominación y señala que “tiene implicaciones en las relaciones sociales con la ciencia y la tecnología, afectando percepciones sobre las personas, la instrumentalidad del cuerpo como una especie de máquina maximizadora para uso y satisfacción privada”. En este caso, en la clara dominación de los papeles masculinos sobre lo femenino. 

Los autores pretenden que este algoritmo de la risa aporte al desarrollo de sistemas de inteligencia artificial. Tendríamos que cuestionar bajo qué algoritmos se están diseñando estos sistemas y qué tipo de experimentos están guiando las conversaciones científicas. 

La inteligencia artificial está cada vez más presente en nuestras vidas, no precisamente a través de un robot sino en nuestra cotidianidad: cada vez que escribimos un mensaje, en la corrección y dictado de un texto en el algoritmo de Instagram que nos dice qué comprar, en las asistencias de voz y softwares especializados en temas de recursos humanos o médicos, por ejemplo. Generar instrumentos que visibilicen el impacto de desigualdad algorítmico deber ser una prioridad en el desarrollo de ciencia y tecnología. Debemos transitar de pensar el tema de IA como un tema únicamente técnico, a un tema social, a un tema en el que el género y los feminismos tiene gran trascendencia, así como generar una mayor participación de mujeres en los diseños y auditorías algorítmicas. 

Me gustaría pensar que, como dice Haraway, “en esta inevitabilidad de las relaciones sociales con la ciencia y la tecnología, podría en efecto, existir una ciencia feminista”. 

Síguenos en

Google News
Flipboard
La-Lista Síguenos en nuestras redes sociales