Inteligencia artificial como herramienta para combatir la violencia digital contra las mujeres

La inteligencia artificial (IA) ha revolucionado la seguridad digital, también abrió nuevas puertas a formas de violencia en línea, especialmente contra las mujeres. Herramientas como los deepfakes, la suplantación de identidad y los ataques automatizados representan un desafío global creciente.

La experta en ciberseguridad, Layla Delgadillo, fundadora y CEO de Silent4Business, resaltó la urgencia de fortalecer la regulación y adoptar soluciones basadas en IA para mitigar estos riesgos. Para ella, es vital que las tecnologías sean usadas tanto para prevenir como para enfrentar las agresiones digitales.

El incremento en el uso de la inteligencia artificial para la creación de contenido manipulador ha sido notable en los últimos años. Según datos de Deeptrace Labs, la proliferación de deepfakes —videos y audios manipulados con IA— creció un 330% entre 2019 y 2021, y el 96% de estos contenidos fueron utilizados para generar material explícito sin consentimiento.

Delgadillo destacó que la accesibilidad a software de código abierto y la reducción de los costos computacionales facilitan el uso de estas herramientas por parte de agresores. “El problema no es solo la sofisticación de estos ataques, sino la facilidad con la que cualquier persona con conocimientos básicos puede manipular imágenes y videos para acosar o extorsionar”, afirmó la experta.

Frente a este panorama, las iniciativas para combatir la violencia digital avanza en dos frentes clave: el tecnológico y el legal. En el primero, se han desarrollado algoritmos de detección de deepfakes y análisis forense digital que permiten autenticar contenido audiovisual mediante el estudio de metadatos, marcas de agua digitales y patrones de manipulación.

Aunque estas soluciones han permitido detectar con mayor rapidez la alteración de contenido, aún enfrentan desafíos en cuanto a la precisión y contextualización de las imágenes y videos modificados. “Las regulaciones aún son insuficientes ante la velocidad con la que evolucionan las amenazas digitales”, agregó Delgadillo.

En cuanto al ámbito legal, algunos países han comenzado a tomar medidas para responsabilizar a las plataformas digitales por la difusión de contenido manipulado. “Estados Unidos y la Unión Europea han implementado normativas más estrictas, mientras que en México la Ley Olimpia ha representado un avance en la tipificación del acoso digital”, señaló Delgadillo. Sin embargo, la CEO de Silent4Business reconoció que las regulaciones deben evolucionar con mayor rapidez para adaptarse a las amenazas emergentes.

Por otro lado, la IA también ha demostrado ser un aliado importante en la lucha contra el acoso digital. “La IA se ha convertido en una herramienta clave para analizar el gran volumen de datos que se generan en redes sociales. Mediante técnicas de procesamiento de lenguaje natural y análisis de imágenes, se pueden identificar patrones de acoso, lenguaje ofensivo y comportamientos abusivos en tiempo real”, explicó.

Las soluciones actuales permiten detectar contenido ofensivo y generar alertas automáticas para los moderadores de plataformas digitales. No obstante, la experta resaltó que estas tecnologías aún enfrentan limitaciones, como la interpretación del contexto y la alta tasa de falsos positivos, lo que hace imprescindible la supervisión humana.

Ante el creciente fenómeno de la violencia digital, Delgadillo aconseja fortalecer la ciberseguridad personal mediante la educación digital, el uso de configuraciones avanzadas de privacidad y herramientas de monitoreo que alerten sobre intentos de suplantación de identidad o actividades sospechosas.

Silent4Business ha desarrollado una herramienta llamada 4YOU, un sistema que detecta en tiempo real anomalías en la red y utiliza IA para neutralizar intentos de acoso. Además, la empresa ofrece asesoría personalizada y protocolos de respuesta rápida para gestionar incidentes.

“Nuestro sistema de monitoreo en tiempo real detecta actividades inusuales en la red y utiliza algoritmos avanzados para identificar y neutralizar intentos de acoso digital. Además, ofrecemos asesoría personalizada y protocolos de respuesta rápida para gestionar incidentes, ayudando a nuestras clientas a proteger su imagen y su privacidad en entornos digitales”, detalló Delgadillo.

Además de impulsar soluciones tecnológicas, Silent4Business ha apostado por el liderazgo femenino en el sector, integrando a ejecutivas en puestos clave, como Lourdes del Pilar Abadía Velasco, directora de Finanzas y Administración, y María del Rosario Palomero, subdirectora de Operaciones.

Finalmente, Delgadillo subrayó que la creación de un entorno digital más seguro no depende únicamente de la tecnología, sino también de equipos diversos que comprendan las amenazas desde una perspectiva integral. “La lucha contra la violencia digital es una tarea urgente que requiere la colaboración de empresas, gobiernos y usuarios”, concluyó.