¿La IA puede quitar y poner presidentes? Esto dice un estudio sobre la contienda del 2024 en México

La Inteligencia Artifical ayuda a desarrollar habilidades, a eficientar procesos en el trabajo, simplifica conocimientos y automatiza procesos, incluso en el área de la salud y la medicina –en beneficio de los pacientes–, pero de acuerdo con los expertos también puede convertirse en un riesgo para la población.

Por excelencia, la IA es una herramienta empleada para generar desinformación, para manipular contenido digital y en temporada electoral incluso sirve para minar la confianza pública en la democracia y las autoridades electorales.

No te puedes perder: Los centennials son la esperanza del mundo… y sí, son más progres que tu tío

Un estudio de la Fundación Friedrich Naumann explora el panorama político de las elecciones de 2024 en México, que dieron como resultado que Claudia Sheinbaum se convirtiera en la primera presidenta de México, y documenta casos específicos en los que la IA fue utilizada para atacar a una fuerza política o a un adversario.

El estudio analiza videos deepfake, clips de audio alterados y bots de redes sociales que intentaron influir en la opinión pública. ¿Quieres saber qué concluyeron?, ¿puede la inteligencia artificial determinar el resultado de una contienda presidencial? Te contamos:

Influencia de IA generativa

La mayoría de los casos de uso de IA en el proceso electoral de México 2023-2024 involucraron reproducciones digitales de voz o imágenes de personas candidatas (22 en total).

Estas incluyeron escenarios en los que un candidato o candidata aparecía hablando sobre su oponente, partido contrario, o su propio partido, con el objetivo de difundir desinformación e información falsa.

Aunque la IA se utilizó principalmente para generar deepfakes, es decir un video, audio o imagen manipulado digitalmente que parece real, su despliegue fue limitado en comparación con otros países.

Las personas expertas señalaron que el uso de la IA generativa en el proceso electoral mexicano siguió en gran parte enfoques tradicionales, y se concentró en replicar tácticas ya establecidas como la desacreditación de los oponentes, en lugar de introducir innovaciones vistas en otros países.

Sigue leyendo: Las fake news de China y Rusia impactan más a jóvenes y a usuarios de TikTok: estudio

El informe concluye que, si bien la IA no influyó decisivamente en los resultados electorales de 2024, su potencial para socavar la integridad democrática sigue siendo una amenaza crítica.

Además, advierte que, a medida que las herramientas de IA se vuelven más sofisticadas, se deben adoptar medidas proactivas para garantizar la transparencia y la confianza pública en las elecciones futuras.

Crimen e Inteligencia Artificial

Sin embargo, lo que sí se detectó fue una tendencia a usar IA generativa para cibercrímenes durante el ciclo electoral 2023-2024.

Uno de los casos de IA más destacados, y ampliamente difundido, involucró un deepfake de Claudia Sheinbaum invitando a la ciudadanía a invertir a una plataforma financiera falsa.

Además, se reportaron al menos tres casos adicionales en los que las imágenes de personalidades políticas fueron aprovechadas para cometer diferentes delitos cibernéticos, incluyendo estafas de phishing y robo de la identidad.

Esta escenario reflejó el aumento de los delitos cibernéticos en México, donde delincuentes aprovecharon el contexto electoral para aumentar el impacto de sus actividades ilícitas

Posibles retos con IA a futuro

Si bien la IA generativa no desempeñó un papel importante al momento de influir en los resultados de las elecciones en México de 2024, es crucial considerar de forma proactiva los posibles retos que puedan surgir a futuro.

• Mayor desinformación en procesos electorales: Las tendencias globales, como el uso de deepfakes generados por IA en otras elecciones, muestran una creciente tendencia en el uso de la IA generativa para crear desinformación más sofisticada y creíble. Esto supone una amenaza importante para debilitar la confianza pública en las instituciones democráticas y en fuentes confiables de información.

También puede interesarte: Los problemas de los BRICS: ¿Vale la pena o no unirse a ellos?

• Hiperpersonalización de la comunicación política: Las herramientas de IA pueden analizar los comportamientos de las personas usuarias en diferentes plataformas, así como sus patrones de consumo de información para crear contenidos hiperpersonalizados que puedan manipular a grandes segmentos de la población e influir en sus opiniones políticas .

• La generación de contenido supera la verificación en tiempo real: Los verificadores ya se enfrentan a este reto ya que la velocidad de generación y distribución de la desinformación e información falsa excede por mucho su capacidad de verificación. Asimismo, las herramientas de verificación automatizada actuales todavía carecen de la sofisticación necesaria para identificar de manera confiable todas las formas de falsificación.
  
• Temas de ciberseguridad: Actores malintencionados podrían utilizar sistemas de IA para automatizar ataques, manipular bases de datos del electorado y generar esquemas de phishing y deepfakes convincentes; asimismo, persiste la amenaza de ciberataques a gran escala contra la infraestructura electoral.

Cómo atenuar el impacto de IA en las elecciones

En medio de este panorama, es crucial desarrollar respuestas proactivas que aborden los riesgos antes mencionados y que aprovechen el potencial de la tecnología para la participación democrática.

La Fundación Friedrich Naumann recomienda que la Secretaría de Educación Pública (SEP) y la Dirección Ejecutiva de Capacitación Electoral y Educación Cívica (DECEYEC) del INE fortalezcan e implementen más campañas, programas, estrategias y herramientas accesibles para mejorar el nivel de alfabetización digital adaptada a los contextos electorales.

También, recomienda fortalecer los marcos regulatorios electorales para abordar los desafíos específicos de la IA generativa durante las elecciones.

En ese sentido, expertos en esta materia sugieren incorporar un etiquetado sobre “contenido generado por IA” que aplique a todos los actores que intervienen en el proceso electoral y ordenar informes de transparencia por el contenido publicado en redes sociales, que refuerce la norma previa.

Te recomendamos: Bye, bye, Rusia: Estados bálticos dejan red energética de Moscú y los arropa la UE