‘Inteligencia artificial necesita filtros para evitar violencia digital contra mujeres’: expertos

Activistas y especialistas en Derecho señalaron que en México los proveedores de inteligencia artificial deben poner filtros para prevenir casos de violencia digital contra mujeres, como ocurrió recientemente con la producción de imágenes y videos con contenido sexual de alumnas del Instituto del Politécnico Nacional (IPN).

“Es ahí donde está el problema porque realmente hace mucho tiempo (la IA) era utilizada por quien sí tenía mucha pericia, pero en este momento en que la inteligencia artificial permite que prácticamente cualquier persona con muy pocos recursos pueda hacer una videoteca gigante de miles y miles de fotos, es un asunto muy delicado”, comentó Luis Enrique Vázquez, experto en Derecho e inteligencia artificial del Tecnológico de Monterrey.

La falta de filtros para el uso de la inteligencia artificial ha encendido alarmas por los hechos ocurridos en el IPN, donde Diego “N”, un exalumno de la Escuela Superior de Comercio y Administración (ESCA), fue descubierto el 6 de octubre de 2023 con una tableta digital, en la cual tenía 166 mil videos y fotografías íntimas, reales y modificadas con inteligencia artificial, de al menos mil compañeras, según reveló la colectiva Asamblea Justicia Digital IPN.

Diego “N” podría enfrentar una pena que va de los tres a los seis años de prisión —castigo estipulado en las reformas conocidas como Ley Olimpia— por simular y difundir contenido sexual de alumnas del IPN sin su consentimiento.

Leslie Jiménez, especialista en Derecho Penal y coordinadora de proyectos en la organización social Impunidad Cero, coincidió en que las plataformas de inteligencia artificial deben tener más restricciones para prevenir este tipo de casos.

“Yo creo que es esencial la participación no tanto regulatoria o legal porque eso nos genera violaciones a la libertad de expresión, por ejemplo, pero sí creo que las plataformas tendrían que poner alguna clase de filtro o restricciones dentro de sus mismas inteligencias en el sentido de no permitir la creación de contenidos a partir de fotografías de personas porque no solamente es la posibilidad de la creación simulada de contenido, que el tipo penal sí lo prevé, sino que estamos ante un aspecto de sexualización que también es violencia sexual“, declaró Leslie Jiménez.

El acoso, el hostigamiento y los delitos sexuales a través de internet son un problema ya identificado por organizaciones sociales y el gobierno. Un informe del Frente Nacional para la Sororidad señaló que, entre 2019 y 2021, este colectivo conoció al menos mil 705 casos de víctimas de violencia digital en México, el 95% de mujeres.

Los datos mostraron que la Ciudad de México, con 291 casos, es donde más se cometió la violencia digital contra las mujeres. Le siguieron el Estado de México, con 185 agresiones virtuales; Veracruz, con 70; Puebla, con 65; y Guanajuato, con 55.

El informe destacó que ocho de cada 10 personas agresoras (identificadas) son hombres. Mientras que el 48.7% de las víctimas de agresores sexuales digitales son estudiantes y 64.1% están en el rango de 18 a 30 años de edad.

Ante este panorama, Luis Enrique Vázquez explicó a La-Lista que existen proveedores que tienen ciertos lineamientos de lo que se puede y no se puede hacer con la inteligencia artificial, aunque el reto es que los encargados de esas plataformas se den cuenta de cómo se están cometiendo los delitos cibernéticos, lo cual funcionaría como un filtro para que ya no se permita la modificación o creación de imágenes de tipo sexual.

El informe del Frente Nacional para la Sonoridad exhibió que Facebook, WhatsApp, Instagram y X (antes Twitter) son las redes sociales donde más violencia digital se ejerce contra las mujeres, seguidas por los diferentes mercados de explotación sexual y el servicio de mensajería Telegram.

Enrique Vázquez refirió que si este tipo de contenido sexual fue difundido en Facebook o en Twitter, existe la opción de aplicar el derecho de uso de la imagen y protección de los datos personales de la persona fotografiada para tratar de mitigar la difusión del contenido; sin embargo, advirtió que al tratarse de grupos de WhatsApp o Telegram la vía para eliminar el material sería complicado, pues la información pasa de teléfono a teléfono.

“Obviamente si se identifica el grupo o el usuario, pues se puede bloquear, eliminar el grupo, pero la información que ya se pasó a otro teléfono sería muy difícil pensar en que se pudiera borrar la información y de hecho es algo que continuamente sufren artistas, tanto mujeres como hombres, estos deepfake“, expresó.

¿A dónde debe llegar el caso de las alumnas del IPN?

Las alumnas del IPN que sufrieron la difusión de sus fotografías íntimas, reales y modificadas con inteligencia artificial, realizaron una denuncia penal en contra de Diego “N”, por lo que la Fiscalía General de Justicia de la Ciudad de México (FGJCDMX) abrió una carpeta de investigación.

Sin embargo, Diego no es el único señalado de ejercer violencia digital al comercializar el contenido sexual de las jóvenes. La colectiva Asamblea Justicia Digital IPN denunció que “existen pruebas de conversaciones” entre alumnos del Politécnico que “compraban y ofertaban este tipo de contenido”.

En ese sentido, la abogada Leslie Jiménez enfatizó que al ser una estructura de violencia que involucra a más personas, el IPN tiene la obligación de investigar lo ocurrido con sus alumnas y hacer ejercicios de no repetición, así como implementar la protección de sus estudiantes en todas las instalaciones del centro educativo.

Mientras que el papel de la Fiscalía capitalina debería ser el mantener dentro de la carpeta de investigación a las denunciantes en calidad de testigos, esto con el fin de motivar otros actos de investigación que den lugar a descubrir toda esta red de violencia que se encuentra dentro de la escuela y a su vez propiciar las medidas de protección en favor de las personas afectadas.

“Hay muchas personas involucradas. Van desde la persona que pudo haber visto el contenido, resguardarlo, compartirlo, generarlo, enviarlo, etc. Esto también da la pauta para averiguar en dónde quedó el contenido que ellas refirieron sobre ellas mismas y da lugar a que la Fiscalía, con la finalidad de motivar más actos de investigación, también propicie la denuncia de las demás víctimas que aparecen dentro de esta carpeta”, detalló.

Otra de las vías que existen y con las que las afectadas pueden obtener justicia es la vía civil, cuyo proceso ha obtenido más resultados a pesar de que implica el que la persona deba tener dinero para pagar abogados y peritos, además de que es un proceso relativamente más largo que el que se da en las fiscalías.

Luis Enrique Vázquez, experto del Tec de Monterrey, destacó la necesidad de que “no debe haber impunidad en el caso del IPN”, pues impartir justicia será la única manera de prevenir que este tipo de delitos se vuelvan a repetir en un futuro.

“Ya sea la persona que ya la identificaron (Diego “N”) o que fue en un grupo, es decir, que no nada más fue él, que fueron varios, el llamado sí tendrá que ser que se imparta justicia, que al responsable se le sancione de todas las maneras posibles porque de esa manera sería la única (forma) en la que probablemente otras personas puedan considerar hacer algo similar, pues se verían disuadidas de hacerlo, pues es algo real el que puede ser sancionado”, comentó Vázquez a La-Lista. 

El caso de las alumnas del IPN es uno más de violencia digital en contra de las mexicanas. En el país, el 22.4% de las mujeres mayores de 12 años (9.8 millones) sufrió ciberacoso, según un reciente informe del Instituto Nacional de Estadística y Geografía (Inegi). Las jóvenes de entre 12 y 29 años son las más afectadas.

Las cifras son críticas y Luis Enrique Vázquez señala que “la prevención tiene que venir desde la dureza del Estado en sancionar a las personas que cometen este tipo de acciones”.