Algoritmo Racista 

2022 ha sido un año con mucho de qué hablar sobre el fenómeno del racismo que existe en nuestro país o que dicho de mejor manera, ha estado incomodando y en muchas ocasiones despertando conciencias, conectando historias y tejiendo redes que buscan estrategias para combatirlo y desmantelarlo; sin embargo, esa es una tarea ardua, por no decir gigante.

Y es que estar viendo el racismo con mayor claridad durante estos tiempos por ningún motivo quiere decir que sea un fenómeno nuevo. Por lo menos, en México sabemos que llegó hace poco más de 500 años con el proceso colonizador de conquista, porque así además de la viruela o los caballos, el racismo también nos lo trajeron de Europa.

Además de su antigua presencia en nuestro territorio, el racismo es un fenómeno que al ser reproducido por las personas mismas, se ha adaptado a la diversidad de contextos, a las formas sociales y organizacionales, y a los grupos humanos que forman parte de la sociedad, etc. pero no solo en términos societales, sino en sus derivados: se adaptó a los medios de comunicación, a las estructuras de gobierno, a la economía, y durante los últimos 50 años se ha ido incorporando también a la tecnología y su creciente desarrollo.

Solo basta echar un vistazo a la historia de las computación, de los exclusivos círculos de programadores que comenzaron a desarrollar las bases de las tecnologías actuales, y corroborar que las personas involucradas en dichos desarrollos fueron hombres blancos, cis género y heterosexuales, para entender que en aquellos momentos no fue considerada una perspectiva incluyente e interseccional al momento de pensar los proyectos.

Sin embargo, eso no ha cambiado mucho en la actualidad. En México las mujeres ocupan solo el 36% de los puestos en el mercado laboral de tecnologías con una brecha salarial del 14% de acuerdo a la OIT, además de que estos puestos ocupados por ellas suelen ser principalmente dedicados a la gestión de proyectos y temas administrativos, antes que al desarrollo de las tecnologías.

Esto nos ha dado algunos resultados que hoy cualquiera de nosotras y nosotros podemos corroborar cada que usamos una computadora, un teléfono inteligente o cualquier dispositivo capaz de conectarse a internet, por ejemplo cuando buscamos una imagen o un contenido en la red si nos detenemos un momento y analizamos lo que nos arroja podemos ver los sesgos de discriminación que hay implícitos en muchas ocasiones, como que en las búsqueda de “mujeres exitosas” solo nos muestre personas de tonos de piel claros, cabellos rubios, apariencia ejecutiva, etc, o que los “hombres guapos” tengan las características exclusivas de un cuerpo ejercitado, tono de piel claros en su mayoría y con rasgos faciales eurocéntricos. 

Un punto importante en esta consideración, es que además de que el desarrollo tecnológico nació sesgado, la interacción de las y los usuarios también tiene un rol importante en la alimentación del algoritmo, de lo que ahora las inteligencias artificiales aprenden con nuestra interacción, y es que nuestros propios sesgos también confirman los que el sistema puede ya tener per se.

Pero para el caso de México, ¿en dónde estamos las y los mexicanos representados en el algoritmo? ¿bajo qué adjetivos podemos encontrar caras como las que vemos todos los días en las calles del país? ¿Qué palabras en Google pueden hacernos encontrar rostros como los que vemos en el Metro? ¿Qué frases en Firefox nos aproximan a miradas como las que vemos en los mercados y autobuses?

Como dije al inicio de esta columna: combatir y desmantelar el racismo es una tarea ardua, por no decir gigante, más aún cuando la podemos ver en tantos aspectos de nuestra vida, sin embargo, si existe cada vez más incomodidad, se despiertan más conciencias al problema y se tejen más redes antirracistas. Cada día nos podremos acercar un poco más al objetivo: el fin del sistema racista en México.