La otra batalla: información falsa y la IA en las elecciones 2024

Un presunto audio de Martí Batres apoyando a Clara Brugada sacudió la contienda morenista en la Ciudad de México; pero todo apunta a que el material era falso, creado con Inteligencia Artificial.

Alonso Mendieta, especialista en Inteligencia Artificial de NT Data, expuso que las deepfakes (una noticia o nota falsa que a simple vista se ve que es real pero solo engaña) buscan influir negativamente en la opinión pública y generar una mala opinión de algún personaje rumbo al próximo proceso electoral.

“Cada día es más simple montar rostros y voces de personas en escenas que no ocurrieron. La Inteligencia Artificial cada vez está más al alcance de cualquier persona, y lo reales que lucen los contenidos hacen que cada vez se vuelva más complejo diseminar entre la realidad y los contenidos creados o fake”, asegura.

La rápida evolución de la Inteligencia Artificial, su creciente penetración y su costo cada vez menor, la ha convertido en factor en procesos electorales en todo el mundo. México no es la excepción.

Mendieta explica que a nivel mundial los avances en legislación de este tema son muy menores.

Laura González, especialista en verificación de información, señala que los contenidos creados con IA lucen cada vez más humanos, lo que vuelve más complejo su identificación.

Según el Informe sobre Riesgos Globales 2024 del Foro Económico Mundial, la desinformación generada por la IA, los ciberataques y la polarización sociopolítica ya están sobre nosotros.

“Los avances en inteligencia artificial pueden generar vulnerabilidades cibernéticas”, indica.

De hecho, dentro de los 10 principales riesgos en los próximos dos y diez años, se encuentra la “información falsa con intención de engañar y desinformación”, así como la “inseguridad cibernética” y “resultados adversos de las tecnologías de Inteligencia Artificial”.

Para el periodista e investigador en desinformación, Alberto Escorcia, “la popularización de las herramientas de Inteligencia Artificial… que son relativamente baratas y de fácil uso han aumentado exponencialmente su uso para la desinformación”.

“En las precampañas detecté ya 8 audios generados con Inteligencia Artificial, más los que puedan estar circulando, y también ver los fenómenos en los que se utiliza la IA para simular secuestros, en fin. Creo que va a ser una herramienta que va a ser muy difícil la verificación porque los contenidos parecen ser muy reales y tiene pocos indicios para poder detectarlos, y pueden ser un factor de desestabilización ahora en México y en todo el mundo porque este año, casi la mitad del mundo tiene elecciones decisivas, entonces va a ser un factor importante y se debe avanzar hacia detectarlos”.

“No estoy tan entusiasta de la legislación (sobre el tema) porque no va a resolver nada y es muy complicado para los legisladores entenderlo, creo que la pelota está en el campo de la verificación, entrenar más a los periodistas y a los Fact Checkers, porque en el audio que refieres de Martí Batres fue muy complicado y muchas agencias de verificación de noticias tuvieron problemas, incluso para entenderlo”

“Va a ser un desafío bastante importante, pero aún hay elementos para poder evitarlo, pero creo que la popularización del bajo costo hace que los desinformadores ya no tengan que contratar equipos, sea un editor de video, un locutor, para hacer algo similar, sino que en apenas unos minutos pueden generar un audio falso o una deepfake de cualquiera.

En octubre pasado circuló un audio a través de redes sociales y WhatsApp, en el que se escucha la supuesta voz del jefe de Gobierno de la Ciudad de México, Martí Batres, ordenando fortalecer la campaña de Clara Brugada por la nominación de Morena a la Jefatura de Gobierno, y debilitar la de Omar García Harfuch.

“Oye, la candidata me pidió dejar de apoyar a Clara. Ya me pasaron como salió en la encuesta y si va muy abajo, pero tenemos dos semanas para bajar a Omar por el tema de género”, es parte de la conversación con la supuesta voz de Martí Batres.

Ese mismo día, el jefe de Gobierno rechazó la veracidad del audio: “Aclaro que es totalmente falso. Nunca he hecho tales afirmaciones. Está producido con Inteligencia Artificial”, aseguró.

Luego de ello, en redes sociales circularon análisis diversos realizados con herramientas automatizadas, que arrojaron resultados diversos. Unos señalan que la voz es producto de la Inteligencia Artificial, y otros decían que era real.

“Ya existen algunas herramientas, aplicaciones que apoyan para la detección (de deepfakes), pero su eficacia todavía sigue a discusión, por lo que sus resultados todavía generan dudas”, afirma Mendieta.

Sin embargo, alerta que el tema también puede ser utilizado para escudarse ante revelaciones de audio y video que no convengan a los candidatos, “e incluso como pretexto para descalificar el trabajo de medios de comunicación y periodistas”.

La Inteligencia Artificial también está siendo utilizada por la precandidata a la presidencia Xóchitl Gálvez.

Recientemente anunció a “IXóchitl”, una vocería de sus actividades a través de esta tecnología. Se trata de una representación digital de la política hidalguense, con el aval, supervisión y aprobación de la precandidata en los mensajes que emita.

Gálvez señaló que a través de esto se eficientan los tiempos y los recursos.

Asimismo, el Instituto Nacional Electoral echará mano de la Inteligencia Artificial para capturar las actas de escrutinio y cómputo, mismas que forman parte de los resultados preliminares de las elecciones, lo que permitirá agilizar la publicación de resultados, que es uno de los elementos que da certeza a la elección.  

La Inteligencia Artificial irrumpió desde ya en el proceso electoral 2024 y así como permitirá acelerar el acceso a resultados y facilitará tareas para los candidatos, también representa un riesgo ante la generación de noticias falsas en video, audio e imágenes.

México llega al proceso electoral más grande de su historia, donde se renovarán más de 20 mil cargos de elección popular, sin una legislación en la materia, y con un elevado riesgo de proliferación de “deepfakes” en las redes sociales.

Se les conoce mundialmente como “deepfakes” a los contenidos audiovisuales en los que es posible observar el rostro de una persona o escuchar su voz emitiendo declaraciones  que en realidad no realizó, y que tampoco aprobó para ser difundido como propio.

El caso internacional

Los recientes procesos electorales en otros países son muestra de lo que podría venir en los próximos meses en México.

En Argentina, los candidatos Sergio Massa y Javier Milei utilizaron la Inteligencia Artificial para realizar ataques mutuos con imágenes y noticias prescritas por generadores de texto y contenido que se viralizó en las redes y pusieron en duda los comportamientos de ambos frente al electorado.

En Ecuador, un video compartido casi en un millón de ocasiones en el contexto de las elecciones en ese país, mostraba a Daniel Noboa, candidato presidencial que entonces era puntero en las encuestas, respaldando el trabajo infantil.

En Nigeria durante su proceso electoral de 2023  se difundió un audio manipulado en el que se afirmaba que el candidato presidencial Atiku Abubakar, su compañero de fórmula, Ifeanyi Okowa, y el gobernador del estado de Sokoto, Aminu Tambuwal, planeaban cometer fraude.

Mientras que en 2022 en el contexto electoral de Francia, se viralizó un video en el que el presidente Emmanuel Macron insultaba a los seguidores de Marine Le Pen, candidata de la derecha francesa.

Laura González recomienda que en el contexto electoral que está viviendo México, y la proliferación de materiales como videos, audios e imágenes que ya circulan a través de las redes sociales, lo mejor es identificar las fuentes oficiales generadoras de información y basarse en ellas.