El avatar de Xóchitl, la irrupción de la IA en las campañas

Xóchitl Gálvez se transforma en una niña y en una adolescente, mientras vuelan mariposas azules hacia el cielo. La voz robotizada de la aspirante presidencial comienza diciendo: ‘Me dice Claudia que no cualquier mujer puede ser presidenta, y tiene razón, no puede quien no tiene con qué, no puede quien necesita que le ayuden, no puede quien finge ser quien no es, no puede quien no cree”.

El video se hizo viral. Salió de una de las supuestas cuentas ciudadanas en apoyo a las aspiraciones de la virtual precandidata del Frente opositor, integrado por PAN, PRI y PRD, y fue hecho con Inteligencia Artificial. 

iXóchitl es el nombre del avatar que la cuenta @xochilove_rs define como “la primera activista digital creada desde la Inteligencia Artificial”.

La cuenta @xochilove_rs, que lo mismo impulsa la plataforma para el registro de firmas para la precandidatura del Frente Amplio por México que videos de la senadora del PAN con Inteligencia Artificial, asegura en su página web que son “un grupo de fans de Xóchitl Gálvez” que forman “una comunidad en la cual apoyamos, seguimos, y participamos con la senadora” y, en los hechos, le está haciendo la campaña para ser la abanderada del Frente.

“La Inteligencia Artificial permite hacer cosas que hace años ni soñábamos con ellas y sobre todo a un precio ridículo”, dice en entrevista con La-Lista el estratega español Aleix Sanmartín, quien es asesor de la campaña de reelección del presidente del Gobierno de España, Pedro Sánchez, del Partido Socialista Obrero Español (PSOE).

“Considero que estamos en la prehistoria de lo que va a ser la revolución de la Inteligencia Artificial aplicada a la comunicación política de las campañas electorales”, añade.

Aleix Sanmartín, quien fue consultor de la campaña presidencial de Andrés Manuel López Obrador en 2012 y la de Felipe Calderón en 2006, trabaja en España con una herramienta de IA en la que se suma el big data y la psicogeografía para tener una radiografía de la población, que permite segmentarla, hacer perfiles y mandar mensajes dirigidos.

“No personalizados, nombre y apellido, porque no usamos datos personales, pero sí muy enfocados a las claves psicológicas de las personas”, dice.

“En el futuro las campañas electorales no serán batallas por la influencia de los medios de comunicación, en el futuro las campañas electorales serán guerras por los datos. Nosotros ya estamos trabajando en ese futuro”, agrega.

Para darnos una idea del futuro de las campañas políticas con uso de IA, Aleix Sanmartín pone como ejemplo que si una persona va a ver a un familiar que está internado en un hospital, este tipo de herramientas permite que la información que reciba sea sobre propuestas de mejoras de servicios públicos de salud porque esa persona estará más receptiva y será más persuasible por su contexto a la comunicación de carácter sanitaria.

“Con estas campañas microfocalizadas personalizamos el mensaje a segmentos del electorado, con lo cual la eficiencia en la comunicación está a años luz de campañas tradicionales”, afirma. 

Los riesgos

En un ejercicio de preguntar al chatbot ChatGPT su “opinión” sobre el uso de la IA en las campañas electorales, la respuesta fue que este tipo de tecnología “permite identificar patrones y tendencias en la opinión pública” y “ayuda a personalizar los mensajes y adaptarlos a los intereses y preferencias de cada grupo de votantes, lo que puede generar un mayor impacto y conexión emocional”.

ChatGPT también reconoció que “una de las principales preocupaciones radica en la privacidad y el manejo de los datos personales de los ciudadanos” y “otro desafío importante es la transparencia y la manipulación de la información. La IA puede utilizarse para difundir noticias falsas y desinformación, lo que puede afectar gravemente el proceso democrático”.

Ya Geoffrey Hinton, quien es considerado el padrino de la Inteligencia Artificial y renunció a Google tras denunciar que se venía una “avalancha de desinformación”, ha advertido el riesgo de que “líderes autoritarios” usen estas herramientas para “manipular a los votantes”.

“Las personas no podrán diferenciar lo que es verdad con las fotos, videos y textos generados por Inteligencia Artificial que inundan internet”, dijo Hinton, de acuerdo con The Guardian. 

En México lo vivimos apenas en marzo pasado cuando circularon en redes sociales imágenes de IA en las que el expresidente Felipe Calderón era arrestado y lo mismo ocurrió en Estados Unidos con imágenes falsas del expresidente Donald Trump siendo detenido.

Recientemente, un grupo de demócratas exigió medidas contra el uso de la AI en las campañas electorales, según CNN, “advirtiendo que los anuncios engañosos podrían perjudicar la integridad de las elecciones”. Lo anterior, luego que el Comité Nacional Republicano lanzó un spot con imágenes generadas con Inteligencia Artificial en las que se avisoraba un futuro distópico en caso de que Joe Biden ganara la reelección presidencial en 2024.

Volviendo a México, la cuenta @xochilove_rs lanzó videos oscuros y apocalípticos en los que aparecen dragones y murciélagos o ratas para abordar el presente y donde los protagonistas son hombres canosos que parecen referenciar al presidente López Obrador, en uno de ellos el avatar de Xóchitl Gálvez dice: “Imagina despertar todos los días para odiar, imagina todos los días hablar mal de los demás, imagina que todo lo que te preocupa es descalificar, imagina que solo te dedicas a fomentar el rencor y la división, imagina mentir todas las mañanas”.

Fiscalizar la IA

Fiscalizar en tiempos de Inteligencia Artificial será una tarea complicada para la Unidad Técnica de Fiscalización del Instituto Nacional Electoral (INE). 

En entrevista, el títular de la Unidad, el maestro Isaac David Ramírez Bernal, reconoce lo inédito del uso de estas tecnologías en este momento de “procesos internos” de partidos políticos para definir a sus abanderados rumbo a 2024.

“Efectivamente, hemos encontrado cosas novedosas o nunca antes vista”, dice. “La evidencia recolectada hasta ahora no nos permite determinar si se trata de actividades de Inteligencia Artificial, como tales, o uno de estos programas que ya usan hasta los niños para generar contenidos. Son programas muy novedosos, pero que también implican una gran facilidad de uso y que tienen un costo extremádamente bajo”.

Ramírez Bernal explica que su área realiza un monitoreo casi permanente de redes sociales con el propósito de captar actividades propagandísticas que impliquen gasto y que no hayan sido reportadas por los partidos.

Para ello, siguen dos criterios: el respeto de la libertad de expresión de la que gozan las y los ciudadanos, la cual evidentemente no es fiscalizable, pero también, cuando encuentran que estos mensajes tienen elementos gráficos muy similares y además hay un elemento de sistematicidad en los mensajes, entonces para la Unidad comienza a configurarse una campaña.

“Ya sea que la realicen las personas o los candidatos, estos dos elementos, de identidad gráfica e identidad discursiva, y sistematicidad, son los que nos permiten determinar si un mensaje es parte de una campaña organizada”, explica. 

En caso de que estas campañas sean impulsadas por candidatos, partidos o grupos de personas, y paguen pauta publicitaria en redes sociales, entonces esta área técnica del INE exige su registro en el sistema integral de fiscalización, en dos conceptos: el pago de pauta publicitaria y los costos de producción del mensaje.

“Nuestro desafío hoy en día es que estos programas implican un costo muy muy bajo, practicamente insignificante”, dice.

“Un mensaje que cuesta 30 pesos producirlo, finalmente andarlos persiguiendo por todas las redes sociales, lleva a que sea un ejercicio poco fructifero para fiscalización, porque no inside de manera significativa en los montos de los gastos de las campañas. Un mensaje tradicional en televisión, ese implica costos mayores, y no sólo exigimos que nos lo reporten sino que lo podemos calcular con base en las tarifas de los proveedores y que nosotros tenemos registrado”, agrega.

Pero no porque el gasto sea pequeño no se tiene que reportar. Tampoco importa que todavía estemos en tiempos de campañas internas de los partidos, pues tendrá que incluirse en el informe del ejercicio anual de cada instituto político. Para la Unidad de Fiscaliación la pregunta será en todos los casos quién y cómo están pagando esa publicidad.

La cuenta @xochillove_rs no respondió a las insistentes solicitudes de entrevista.