IA y perspectiva de género: la gran ausente en la regulación en México

El 30 de abril se cumple el plazo para que las comisiones de Ciencia y Tecnología e Innovación, así como de Presupuesto y Cuenta Pública de la Cámara de Diputados emitan dictamen acerca de la iniciativa de la Ley para la regulación de la inteligencia artificial (AI) y la robótica presentada el año pasado.

Esta iniciativa ha sido cuestionada no solo por su contenido sino por la falta de un diseño participativo con personas clave en el diseño, uso, despliegue y monitoreo de la IA en el país.

¿Por qué no es la ley que necesitamos?

Primero, la iniciativa es superficial. De sus 20 páginas, solo cinco con 19 artículos establecen las regulaciones. Las definiciones de IA y robótica carecen de profundidad, especialmente si las comparamos con legislaciones de la Unión Europea, Estados Unidos, Chile y Brasil, por mencionar algunas.

Segundo, la ley se concentra en la creación de un Consejo Mexicano de Ética para la IA y la Robótica (CMETIAR), al que se le asigna la responsabilidad de recibir información y reportes, sin especificar cómo este Consejo impactará en la vida de las personas y como si algún día en este país, un Consejo haya servido para solucionar algo.

Tercero, el capítulo III, respecto las regulaciones éticas se limita a enunciar lo siguiente:

• La obligación de brindar información al Consejo y al cumplimiento de las Normas Oficiales Mexicanas (¿Cuáles? ¿Las NOM son la respuesta?).
• La protección de datos personales y derechos humanos, propiedad industrial y propiedad intelectual, sin estrategias concretas.
• Desarrollo, creación, investigación y uso de la IA y Robótica apegados a la ética, derechos humanos, perspectiva de género y no discriminación. Esto, sin definir o desarrollar qué acciones son necesarias para apegarse a estos enfoques.
• No hacer mal uso de la IA ni de la Robótica con fines de manipulación. En este apartado tampoco se menciona a qué se refiere con “hacer mal uso” y mucho menos trata temas de seguridad, vigilancia y autonomía en sistema de armas y el uso militar.

No te pierdas: Ensambles para el cuidado

La generalidad de la propuesta advierte la falta de voces de personas no sólo expertas, sino de aquellas que se encuentran en un mayor riesgo de ser víctimas de hechos violatorios de derechos humanos con la utilización ciertas tecnologías, por ejemplo, de los sesgos algorítmicos en los procesos de selección de personal que sabemos perpetúan la discriminación laboral contra las mujeres y  minorías; la utilización de datos biométricos para la vigilancia y control social, que tienen mayor impacto en las mujeres y personas trans del sur global; y las diferencias en el acceso a la IA que profundizan las brechas de género, raciales y de clase.

Tal parece que, con solo mencionar las palabras mágicas de perspectiva y paridad de género, derechos humanos y no discriminación se garantiza una ley justa e inclusiva. Sabemos que no basta con mencionarlas, se requieren medidas específicas, alinear la ley con una política pública que se “operacionalice” a través de indicadores y presupuesto, que establezca acciones concretas para atender las necesidades y riesgos específicos que la IA representa, tal y como legislaciones de otros países, así como la UNESCO en sus recomendaciones dedican espacios amplísimos a estos temas.

Por último, más allá de la perspectiva de género, la iniciativa también presenta carencias relevantes en aspectos como:

• Garantía de protección de derechos humanos, igualdad y no discriminación respecto las desigualdades algorítmicas.
• Identificación y mitigación de riesgos. Acciones preventivas, de atención, sanción y mecanismos para garantizar justicia y rendición de cuentas en su uso público.
• Transparencia algorítmica.
• Utilización y prohibición de datos biométricos con fines discriminatorios.
• Órganos de gobernanza de IA.
• IA y medidas de sustentabilidad e impactos de cambio climático por su desarrollo.

No te pierdas: Género, el dato olvidado del cambio climático 

Algunos intentos para llamar a mesas de diálogo a diversos actores de la IA han tenido lugar en el último año; sin embargo, en estos ejercicios ha faltado diversidad de experiencias y conversaciones necesarias para el camino a una legislación o estrategia de IA que el país necesita. Si algo aprendimos de la manera en que se diseñó la Estrategia Nacional de IA pasada en México, es que, de no contar con las personas e instituciones clave para operacionalizarla, será un otro instrumento que se guarde en el cajón. Estemos atentxs…