Cómo Facebook e Instagram se convirtieron en mercados para el tráfico sexual infantil

Maya Jones* tenía solo 13 años cuando cruzó por primera vez la puerta de Courtney’s House, un centro social para víctimas del tráfico sexual infantil en Washington D.C. “Ella era tan joven, pero ya estaba tan destrozada por lo que había vivido”, comenta Tina Frundt, fundadora de Courtney’s House.

Frundt, una de las especialistas más destacadas de Washington D.C. en la lucha contra el tráfico de menores, ha trabajado con cientos de jóvenes que sufrieron una terrible explotación por parte de adultos, pero cuando Maya se sinceró finalmente sobre lo que había vivido, Frundt quedó impactada.

Maya le contó a Frundt que cuando tenía 12 años empezó a recibir mensajes directos en Instagram de un hombre que ella no conocía. Explicó que el hombre, que tenía 28 años, le dijo que era muy bonita. Según Frundt, Maya le contó que después de empezar a chatear con el hombre, él le pidió que le enviara fotos desnuda. Ella le explicó a Frundt que él le dijo que le pagaría 40 dólares por cada una de las fotos. El hombre parecía amable y no dejaba de hacerle cumplidos, lo que hizo que Maya se sintiera especial. La niña decidió conocerlo en persona.

Entonces llegó su siguiente petición: “¿Puedes ayudarme a ganar dinero?”. Según Frundt, Maya le explicó que el hombre le pidió que posara desnuda para unas fotos y que le diera su contraseña de Instagram para que él pudiera subir las fotos a su perfil. Frundt comenta que Maya le dijo que el hombre, que ahora se hacía llamar proxeneta, utilizaba su perfil de Instagram para promocionarla con fines sexuales. Al poco tiempo, los compradores de sexo empezaron a enviar mensajes directos a su cuenta, deseando concertar una cita.

Maya le contó a Frundt que ella vio, paralizada, lo que estaba ocurriendo en su cuenta, mientras el proxeneta negociaba los precios y la logística de los encuentros en moteles de todo D.C. No sabía cómo decirle que no a este adulto que había sido tan amable con ella. Maya le dijo a Frundt que odiaba tener relaciones sexuales con esos desconocidos, pero que quería mantener contento al proxeneta.

Una mañana, tres meses después de conocer al hombre, Frundt cuenta que un transeúnte encontró a Maya tirada y doblada en una calle del sureste de D.C., semidesnuda y confundida. La noche anterior, le contó Maya, un comprador de sexo la había llevado a un lugar en contra de su voluntad, y posteriormente recordó que allí la violaron en grupo durante varias horas antes de dejarla tirada en la calle.

“Estaba traumatizada y se culpaba de lo que había ocurrido. Tuve que trabajar mucho con ella para ayudarla a darse cuenta de que no era su culpa”, explicó Frundt cuando visitamos Courtney’s House el verano pasado.

Frundt, que ha ayudado a cientos de niños como Maya desde que creó Courtney’s House en 2008, comenta que lo primero que hace ahora cuando le remiten a un joven es pedirle su cuenta de Instagram. También se utilizan otras plataformas de redes sociales para explotar a los jóvenes que están bajo su cuidado, no obstante, señala que Instagram es la que se utiliza con más frecuencia.

En los 20 años transcurridos desde la aparición de las redes sociales, la explotación sexual infantil se ha convertido en uno de los mayores retos a los que se enfrentan las empresas tecnológicas. Según la Oficina de las Naciones Unidas contra la Droga y el Delito (ONUDD), los traficantes de personas utilizan internet como “terreno de caza digital”, que les permite acceder tanto a clientes como a víctimas potenciales, siendo los niños el objetivo de los traficantes en las plataformas de las redes sociales.

La más grande de ellas, Facebook, es propiedad de Meta, el gigante tecnológico cuyas plataformas, que también incluyen Instagram, son utilizadas por más de 3 mil millones de personas en todo el mundo. En 2020, según indica un informe del Human Trafficking Institute (HTI), una organización sin fines de lucro con sede en Estados Unidos, Facebook fue la plataforma que más utilizaron los traficantes sexuales para preparar y reclutar a menores (65%), basándose en un análisis de 105 casos federales de tráfico sexual infantil registrados ese año. El análisis del HTI situó a Instagram en segundo lugar de prevalencia, y a Snapchat en tercero.

El grooming (preparación del menor) y el tráfico sexual infantil, aunque suelen ser temas que se investigan y debaten conjuntamente, son actos distintos. El “grooming” se refiere al periodo de manipulación de una víctima antes de su explotación sexual o con otros fines. El “tráfico sexual infantil” es la explotación sexual de un menor específicamente como parte de una transacción comercial. Cuando el proxeneta halagaba y platicaba con Maya, la estaba preparando (grooming); cuando la vendía a otros adultos con fines sexuales, estaba traficando.

Aunque la gente suele pensar en el “tráfico” como el traslado de víctimas a través o dentro de las fronteras, según el derecho internacional el término hace referencia al uso de la fuerza, el fraude o la coacción para obtener mano de obra, o en la compraventa de actos sexuales no consentidos, independientemente de que se produzca o no un desplazamiento. Dado que, según el derecho internacional, los niños no pueden consentir legalmente ningún tipo de acto sexual, todo aquel que lucre o pague por un acto sexual de un menor –incluido el hecho de lucrar o pagar por fotografías que muestren explotación sexual– es considerado un traficante de personas.

Meta aplica numerosas políticas para tratar de evitar el tráfico sexual en sus plataformas. “Es muy importante para mí que todo lo que construyamos sea seguro y bueno para los niños”, escribió Mark Zuckerberg, fundador de Meta, en un memorándum dirigido al personal en 2021.

En un comunicado en el que responde a una lista detallada de las acusaciones que aparecen en este artículo, un vocero de Meta señaló: “La explotación infantil es un crimen horrible, no lo permitimos y trabajamos enérgicamente para combatirlo dentro y fuera de nuestras plataformas. Ayudamos proactivamente a la policía a detener y procesar a los delincuentes que perpetran estos grotescos delitos. Cuando tenemos conocimiento de que una víctima está en peligro y disponemos de datos que podrían ayudar a salvar una vida, inmediatamente tramitamos una solicitud de emergencia”.

El comunicado citaba al director del grupo de inteligencia de la organización benéfica Stop the Traffik, que es exsubdirector de la Serious Organised Crime Agency del Reino Unido, quien ha señalado que “millones de personas están más seguras y los traficantes se sienten cada vez más frustrados” gracias a su trabajo con Meta.

No obstante, en los últimos dos años, a través de entrevistas, testimonios de supervivientes, documentos judiciales estadounidenses y datos de denuncias de tráfico de personas, hemos escuchado repetidas afirmaciones de que Facebook e Instagram se han convertido en importantes plataformas de venta para el tráfico de menores.

Entrevistamos a más de 70 fuentes, entre ellas supervivientes y sus familiares, fiscales, profesionales de la protección de menores y moderadores de contenidos de todo Estados Unidos, con el objetivo de entender la forma en que los traficantes sexuales utilizan Facebook e Instagram, y las razones por las que Meta puede negar su responsabilidad legal respecto al tráfico que se produce en sus plataformas.

Aunque Meta sostiene que está haciendo todo lo que puede, vimos pruebas que sugieren que no está informando o que ni siquiera detecta el alcance total de lo que está ocurriendo, y muchas de las personas que entrevistamos señalaron que se sentían impotentes a la hora de conseguir que actuara la empresa.

Los supervivientes

Courtney’s House está ubicada en una tranquila calle residencial en las afueras de Washington D.C. En su interior, Frundt y su equipo han intentado que la modesta casa de dos pisos parezca un hogar familiar, con cómodos sillones y fotos en la repisa.

Frundt, que fue traficada cuando era niña en las décadas de 1980 y 1990, actualmente es una de las defensoras más experimentadas y respetadas de Washington D.C. en la lucha contra el tráfico de personas.

Cariñosa y ferozmente protectora con los niños que tiene a su cuidado, está contratada por los servicios de protección de menores de la ciudad para que identifique a los niños traficados que pasan por el sistema judicial, y asiste con regularidad a las audiencias de los jóvenes que están a su cuidado.

También ayuda a capacitar al FBI y a las unidades de lucha contra el tráfico sexual de la policía local sobre cómo detectar a los traficantes en plataformas digitales, entre ellas Instagram. “Cuando me traficaron a mí, hace mucho tiempo, me anunciaban en las secciones de anuncios clasificados de los periódicos gratuitos”, nos explicó Frundt. “Ahora trafican a mis jóvenes en Instagram. Es exactamente el mismo modelo de negocio, pero simplemente no tienes que pagar por publicar un anuncio”.

Los niños que son remitidos a Frundt, generalmente por la policía o los servicios sociales, fueron explotados sexualmente y controlados: por un novio, un proxeneta, un familiar. Algunos de ellos tienen tan solo nueve años. Casi sin excepción, tienen una infancia marcada por el abuso sexual, la pobreza y la violencia. Esto los convierte en objetivos perfectos para los depredadores sexuales. “Todos ellos buscan amor y afirmación y la sensación de que significan algo”, explicó Frundt.

Casi todos los jóvenes que llegan a Courtney’s House son niños afro Ellos, señaló Frundt, están luchando contra los estereotipos que los presionan a sexualizarse a una edad demasiado temprana y los vuelven vulnerables a los traficantes.

Un estudio de 2017 realizado por el Georgetown Law Center on Poverty and Inequality descubrió que los adultos suelen considerar a las niñas afroamericanas como menos inocentes y más conocedoras del sexo que sus iguales blancas. El mismo estudio demostró que con frecuencia se percibe a las niñas afroamericanas como mayores de lo que son.

La mayoría de las veces, explica Frundt, los niños que acuden a Courtney’s House siguen siendo víctimas del tráfico infantil cuando entran por la puerta. Incluso en los casos en que logran escapar de sus explotadores, explicó, los videos y fotos explícitos de ellos siguen circulando por internet. Los traficantes bloquearán las cuentas de las víctimas, lo que les impedirá retirar las imágenes publicadas en sus perfiles.

Frundt comentó que se utilizaban estas publicaciones como forma de promocionar a las chicas para posibles compradores de sexo, quienes enviaban un mensaje directo para comprar contenido explícito o para concertar una cita.

En un momento determinado, nuestra conversación se vio interrumpida por la llegada de cinco chicas adolescentes. Habían regresado de la escuela, y se reunieron alrededor de la mesa de la cocina, platicando y poniendo música en sus teléfonos mientras Frundt les servía un guisado. Después de que comieran, les preguntamos si podíamos hablar con ellas sobre sus experiencias: ¿alguna de ellas había sido explotada sexualmente en las redes sociales o alguien había publicado videos o fotos explícitas de ellas?

Se miraron entre sí y se echaron a reír. Sí, respondieron, por supuesto. Todo el tiempo. Una chica comentó que sentía que “a nadie en Instagram le importa, no les importa lo que se publica. No les importamos ni un carajo”.

Frundt asegura que constantemente le pide a Instagram que cierre cuentas y retire el contenido explotador de los niños que están a su cuidado. “Incluso me llama la policía para preguntarme: ‘Tina, ¿puedes lograr que Instagram haga algo? Si yo no logro que Instagram haga algo, ¿qué esperanza hay para los demás?”.

Cuando le planteamos estas inquietudes a Meta, un vocero respondió: “Tomamos muy en serio todas las denuncias y reportes de contenido que involucra a niños y hemos atendido diligentemente las solicitudes de Courtney’s House. Nuestra capacidad para eliminar contenido o borrar cuentas requiere disponer de información suficiente para determinar que el contenido o el usuario infringen nuestras políticas”.

Frundt comenta que en 2020 y 2021 entabló conversaciones con Instagram para impartir capacitación al personal con el fin de ayudar a prevenir el tráfico de menores en sus plataformas. Ella explica que no se impartió la capacitación ya que, después de un largo ir y venir, en una videollamada los ejecutivos de Instagram indicaron que no le pagarían a Frundt su tarifa estándar de 3 mil dólares, y en su lugar supuestamente le ofrecieron 300 dólares. Cuando se lo expusimos a Meta, no lo negó.

Los documentos judiciales y los fiscales

Lo que hace que las plataformas de redes sociales sean tan poderosas como herramienta para los traficantes –mucho más que las contraportadas de un periódico en el que Frundt fue promocionada cuando era adolescente– es la forma en que permiten identificar y cultivar relaciones tanto con las víctimas como con los potenciales compradores de sexo. Los traficantes pueden anunciar y negociar acuerdos utilizando distintas funciones de la misma plataforma: los vendedores en ocasiones publican anuncios sobre las chicas que tienen disponibles, y después utilizan mensajes privados directos para discutir precios y ubicaciones con los compradores.

Los documentos judiciales de Estados Unidos ofrecen una visión gráfica de la forma en que se pueden utilizar estas plataformas. En un caso procesado en Arizona en 2019, Mauro Veliz, un hombre de 31 años que fue condenado por conspiración para cometer tráfico sexual de un menor, intercambió mensajes en Facebook Messenger con Miesha Tolliver, que también fue sentenciada a prisión por tráfico sexual. Tolliver le dijo a Veliz que tenía una niña disponible para sexo, así como fotografías de otras dos, antes de indicar que las niñas tenían 17, 16 y 14 años.

Luke Goldworm*, un exasistente del fiscal de distrito en Boston, Massachusetts, que ha investigado y procesado casos de tráfico de personas durante años, señala que el número de casos de delitos de tráfico de menores en plataformas de redes sociales registrados en su departamento aumentó aproximadamente un 30% cada año.

“Estamos observando que cada vez más personas con antecedentes penales importantes se pasan a esta área. Es increíblemente lucrativo”, indicó. Un traficante puede ganar hasta mil dólares por noche. Muchas de las víctimas que él vio tenían solo 11 o 12 años, comentó, y la mayoría eran afroamericanas, latinas o LGBTQI+.

Según Goldworm, aunque sus investigaciones involucraron a todas las plataformas de redes sociales, las plataformas de Meta fueron las que detectó con más frecuencia. Otros seis fiscales de diferentes estados nos comentaron que, según su experiencia, se están utilizando en gran medida Facebook e Instagram para preparar a menores y traficar con ellos.

Cinco de estos fiscales hablaron sobre su enojo por lo que consideraban retrasos innecesarios por parte de Meta en el cumplimiento de las órdenes y citaciones firmadas por los jueces, necesarias para recabar pruebas en los casos de tráfico sexual. “Recibimos un mayor número de órdenes judiciales rechazadas de Facebook que de cualquier otro proveedor de servicios electrónicos”, afirmó Gary Ernsdorff, fiscal adjunto superior del condado de King, en el estado de Washington. “Lo que me resulta frustrante es que el intercambio puede retrasar un mes el rescate de una víctima”.

Tres de estos fiscales describieron algunas experiencias en las que, según dijeron, la empresa alegaba tecnicismos, señalaba fallos en la redacción y el formato y retrasaba las investigaciones. En respuesta, la empresa indicó que estas afirmaciones eran “falsas”, y añadió que entre enero y junio del año pasado “proporcionó datos en casi el 88% de las solicitudes realizadas por el gobierno estadounidense”.

La responsabilidad de denunciar

Meta reconoce que los traficantes de personas utilizan sus plataformas, pero insiste en que está haciendo todo lo que está en su poder para detenerlos. Por ley, la empresa está obligada a denunciar al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC), que recibe fondos federales para actuar como centro nacional de intercambio de información, cualquier imagen de abuso sexual infantil que se comparta a través de sus plataformas. Meta es uno de los principales financiadores del NCMEC y ocupa un lugar en la junta directiva de la organización.

Entre enero y septiembre de 2022, Facebook denunció más de 73.3 millones de piezas de contenido clasificados como “desnudez infantil y abuso físico” y “explotación sexual infantil” e Instagram denunció 6.1 millones. “Meta lidera la industria en el uso de la tecnología más avanzada para detectar tanto el contenido de explotación infantil conocido como el desconocido hasta el momento”, señaló un vocero de la empresa. De los 34 millones de contenidos de explotación sexual infantil retirados de Facebook e Instagram en los últimos tres meses de 2022, el 98% fue detectado por la propia Meta.

Sin embargo, la inmensa mayoría de los contenidos que Meta denuncia corresponden a la categoría de material de abuso sexual infantil (CSAM, por sus siglas en inglés) –que incluye fotos y videos de contenido pornográfico– y no a la categoría de tráfico sexual. A diferencia de lo que ocurre con las imágenes de abuso sexual infantil, no existe ninguna obligación legal de denunciar el tráfico sexual infantil, por lo que el NCMEC debe confiar en que todas las empresas de redes sociales adoptan una actitud proactiva en cuanto a su búsqueda y denuncia.

Esta incongruencia legal –el hecho de que se deban denunciar las imágenes de abuso sexual infantil, pero no se exija legalmente denunciar el tráfico sexual infantil– constituye un problema importante, indica Staca Shehan, vicepresidenta de la división de servicios analíticos del NCMEC. “Resulta preocupante en general lo poco que se denuncia el tráfico”, comenta Shehan. Las empresas de redes sociales “dan prioridad a lo que es (legalmente) obligatorio”.

“Creo que todos podrían hacer algo más”, señala Shehan. “El volumen de material de abuso sexual infantil (CSAM) y el volumen de tráfico (que se denuncia) son como manzanas y naranjas”. Según Shehan, otra razón que explica esta diferencia, más allá de los distintos requisitos legales, es de índole tecnológica.

“El material de abuso sexual infantil es mucho más fácil de detectar. Se han desarrollado tantas herramientas tecnológicas que permiten la detección automatizada de ese delito”.

Un vocero del NCMEC nos indicó que si las empresas de redes sociales no denuncian el tráfico sexual infantil, esta situación permite que este delito prospere en internet. La denuncia del tráfico, recalcó, es crucial para rescatar a las víctimas y castigar a los delincuentes.

Entre 2009 y 2019, Meta denunció solo tres casos como sospechosos de tráfico sexual infantil en Estados Unidos al NCMEC, según consta en los registros revelados tras una solicitud de citación vista por The Guardian.

Un vocero del NCMEC confirmó esta cifra, no obstante, aclaró que varios casos de tráfico de menores registrados durante ese mismo período de tiempo fueron denunciados por Meta en el marco de otros “tipos de incidentes”, como la pornografía infantil o la seducción.

“Creo que uno de los aspectos que se deben tomar en cuenta es que existe una especie de etiqueta única que se utiliza para denunciar”, recalcó Antigone Davis, directora de seguridad global de Meta, en una entrevista reciente. “Y el simple hecho de que algo no esté etiquetado como tráfico sexual no significa que no se esté denunciando”.

Un vocero de Meta afirmó que, en la última década, la empresa denunció “ante el NCMEC decenas de miles de cuentas que infringieron nuestras políticas contra el tráfico sexual infantil y el material comercial de abuso sexual infantil”.

Cuando le planteamos estas afirmaciones al NCMEC, nos respondió que no había recibido “decenas de miles” de denuncias de tráfico infantil por parte de Meta, sino que recibió esa cantidad en relación con imágenes de abuso infantil.

Hany Farid es un profesor de la Universidad de California en Berkeley que ayudó a inventar la tecnología PhotoDNA que Meta utiliza para identificar contenidos nocivos. Cree que Meta, que actualmente está valorada en más de 500 mil millones de dólares, podría tomar más medidas para combatir el tráfico infantil.

Por ejemplo, podría invertir más en el desarrollo de mejores herramientas para “detectar palabras y frases sospechosas en las áreas no cifradas de la plataforma, incluido el lenguaje codificado relacionado con la preparación (grooming)”. “No se trata, fundamentalmente, de un problema tecnológico, sino de prioridades corporativas”. (Existe un debate independiente sobre cómo gestionar el cifrado. Los planes de Meta de cifrar los mensajes directos en Facebook Messenger e Instagram suscitaron recientemente las críticas de los organismos policiales, entre ellos el FBI y la Interpol).

En respuesta a las afirmaciones de Farid y a otras preguntas formuladas por The Guardian, Meta no especificó la cantidad de dinero que ha invertido en tecnologías para detectar el tráfico sexual infantil, aunque señaló que se había “enfocado en el uso de inteligencia artificial y aprendizaje automático en áreas no privadas y no cifradas de sus plataformas para identificar contenido y cuentas nocivas y hacer que sea más fácil para las personas denunciar mensajes a la empresa para que podamos tomar medidas, incluidas las remitidas a la policía”.

Davis también hizo hincapié en que Meta trabaja constantemente con sus socios para mejorar sus salvaguardas contra el tráfico de personas. Por ejemplo, mencionó que “hemos sido capaces de identificar el tipo de búsquedas que hace la gente cuando busca contenidos de tráfico, de forma que cuando la gente busque eso, apareceremos con información para desviarlos o hacerles saber que lo que están haciendo constituye una actividad ilegal”.

Estas iniciativas no han logrado satisfacer a algunos de los propios inversionistas de Meta. En marzo, varios fondos de pensiones y de inversión que poseen acciones en Meta emprendieron acciones legales contra la empresa en Delaware por su supuesta falta de actuación ante las “pruebas sistémicas” de que sus plataformas facilitan el tráfico sexual y la explotación sexual infantil.

Al ofrecer explicaciones insuficientes sobre cómo está combatiendo estos delitos, señala la demanda, la junta directiva no ha logrado proteger los intereses de la empresa. Meta rechazó el fundamento de la demanda. “Nuestro objetivo es evitar que personas que buscan explotar a otros utilicen nuestra plataforma”, indicó la empresa.

Los moderadores

Además de programas informáticos, Meta utiliza equipos de moderadores humanos para identificar casos de preparación de menores y tráfico sexual. Hasta hace poco, Anna Walker trabajaba en el turno nocturno de una oficina de un subcontratista de Meta. Empezaba cada turno siendo presa del terror. “Nos metían sin más en, digamos, una habitación oscura para que viéramos el material”, explicó.

El trabajo de Walker consistía en revisar las interacciones entre adultos y niños en Facebook Messenger y los mensajes directos de Instagram que el software de inteligencia artificial de Meta había marcado como sospechosas. Walker asegura que ella y su equipo tenían dificultades para atender la enorme cantidad de casos pendientes. Señala que vio casos de adultos que preparaban a niños y después hacían planes para reunirse con ellos con fines sexuales, así como conversaciones sobre pagos a cambio de sexo.

Los jefes de Walker remitían estos casos a Meta para que decidiera si se debían tomar medidas contra el usuario. En algunos casos, afirma Walker: “Pasaban meses y entonces el bot automático me enviaba un correo electrónico indicando que daba por cerrado el caso, porque nadie había tomado medidas al respecto”. Y añadió: “Lloraba ante mi jefe por (los niños que veía) y por lo mucho que quería ayudar. Pero tenía la sensación de que nadie prestaría atención a estas cosas horribles”.

Hablamos con otros seis moderadores que trabajaron para empresas que Meta subcontrató entre 2016 y 2022. Todos ellos hicieron afirmaciones similares a las de Walker. Sus esfuerzos por marcar y hacer que se investigara el posible tráfico infantil en las plataformas de Meta con frecuencia no llegaban a ninguna parte, dijeron.

Cinco de los moderadores afirmaron que era más difícil conseguir que se investigaran casos o se retiraran contenidos publicados en grupos cerrados de Facebook o en Facebook Messenger. Meta “sería menos estricto respecto a algo que ocurriera a ‘puerta cerrada’”, señaló un jefe de equipo.

Meta aseguró que estas acusaciones “parecen ser engañosas e inexactas” e indicó que utiliza una tecnología para encontrar contenidos de sexualización infantil en grupos privados de Facebook y en Messenger.

En 2021, la exempleada de Facebook y denunciante Frances Haugen filtró documentos internos que parecen respaldar las afirmaciones de los moderadores. Estos documentos, que contenían miles de páginas, detallaban la forma en que la empresa gestionaba los contenidos nocivos. En uno de los memorándums incluidos en la filtración de Haugen, la empresa afirma que “los grupos de Messenger con menos de 32 personas deberían ser tratados con plena expectativa de privacidad”.

Matías Cruz*, que trabajó como moderador de contenidos entre 2018 y 2020, revisando publicaciones redactadas en español en Facebook, cree que los criterios que Meta utilizaba para reconocer el tráfico eran demasiado limitados como para mantenerse al día con los traficantes, que cambiaban constantemente sus palabras clave para evitar ser detectados.

Según Cruz, los traficantes decían: “Tengo esta cabra en venta”, y ponían un precio realmente ridículo. En ocasiones simplemente decían (el precio) por una noche o dos, o ‘una hora'”. Era evidente qué estaba pasando, comentó Cruz, no obstante, “los directores decían que era demasiado vago, por lo que al final sencillamente lo dejaban así”.

Cruz y otros tres moderadores con los que hablamos afirmaron que en ejemplos como este, en los que sus jefes consideraban que no había pruebas suficientes para investigar el caso, los moderadores podían recibir puntuaciones de precisión más bajas, lo que a su vez repercutía en sus evaluaciones de rendimiento. “Recibíamos críticas negativas en sus puntuaciones de precisión para intentar ayudar a estas personas”, explicó Cruz.

Los límites de la ley

Aunque la ley obliga a Meta a denunciar cualquier imagen de explotación infantil detectada en sus plataformas, la empresa no es legalmente responsable de los delitos que se cometen en su plataforma, debido a una ley creada hace casi tres décadas, en los inicios de internet.

En 1996, el Congreso de Estados Unidos aprobó la Ley de Decencia en las Comunicaciones (Communications Decency Act), cuyo principal objetivo era garantizar la regulación de los contenidos pornográficos en internet. Sin embargo, la sección 230 de dicha ley establece que los proveedores de “servicios informáticos interactivos” –que incluye a los propietarios de plataformas de redes sociales y alojamiento de sitios web– no deberían ser tratados como editores del material publicado por los usuarios. Esta sección fue incluida en la ley para garantizar la libre circulación de la información, protegiendo al mismo tiempo a la creciente industria tecnológica de verse afectada por los litigios.

Mientras que un periódico, por ejemplo, debe defender legalmente lo que publica, la sección 230 significa que una empresa como Meta, que aloja el contenido de terceros, no puede ser considerada responsable de lo que aparece en sus plataformas. Por lo tanto, la sección 230 posiciona a los proveedores de servicios de internet como fundamentalmente neutrales: ofrecen foros en los que se pueden publicar y difundir contenidos ilegales, nocivos o falsos, pero en última instancia no son responsables de dichos contenidos.

Desde la aprobación de la ley, empresas tecnológicas como Meta han argumentado con éxito ante los tribunales de Estados Unidos que la sección 230 les otorga inmunidad total contra cualquier acción judicial por el contenido ilegal publicado en sus plataformas, siempre y cuando no tengan conocimiento de la existencia de dicho contenido.

El debate en torno a la sección 230 ha adquirido un carácter muy polarizado. Aquellos que quieren que se enmiende la sección 230 sostienen que el refugio legal que ha proporcionado a las empresas de internet implica que estas no tienen ningún incentivo para erradicar los contenidos ilegales de sus sitios.

En un artículo de opinión publicado en el periódico Wall Street Journal en enero, el presidente Biden se pronunció a favor de la reforma de la sección. “Desde hace mucho tiempo he dicho que debemos reformar fundamentalmente la sección 230”, escribió, pidiendo “la acción bipartidista del Congreso para hacer responsables a las grandes empresas tecnológicas”.

No obstante, las empresas tecnológicas, junto con grupos defensores de la libertad en internet, argumentan que los cambios introducidos en la sección 230 podrían conducir a la censura y a socavar la privacidad, en particular de los contenidos privados y cifrados. Estos argumentos en torno a la sección 230 están a prueba en un caso emblemático que llegó a la Corte Suprema de Estados Unidos y que se centra en hasta qué punto YouTube puede ser considerado culpable de los videos que recomienda a sus usuarios. Se espera que se dicte una sentencia a finales de junio.

Las consecuencias

Kyle Robinson ya cumplió un año de su condena de 10 años en una prisión federal de Massachusetts por tráfico sexual de dos adolescentes, una de ellas de solo 14 años. Hablamos con él en enero a través de la débil línea del teléfono público de la prisión, y nuestra conversación se vio interrumpida por el personal de la prisión que monitoreaba la llamada. Refiriéndose a sí mismo como un proxeneta, Robinson describió la forma en que buscaba niñas perjudicadas en hogares de asistencia y en las redes sociales como una forma de ganar dinero.

Instagram, explicó, era su plataforma preferida. “Encuentro a las chicas que están orgullosas de sí mismas, pero que tal vez no tienen la confianza, la autoestima”, afirmó. “La hago sentir especial. Le doy validación, habilidades sociales, su ‘hotential’, si sabes a lo que me refiero”.

Una vez que tenía identificados a sus objetivos, Robinson aseguraba que las “entrenaba” y las promocionaba en sus cuentas de Instagram y en la suya propia. Hablaba con los compradores potenciales a través de los mensajes directos, y les ofrecía enviar fragmentos de videos de las chicas a cambio de “un pequeño depósito” –unos 20 dólares– para que los compradores pudieran ver lo que iban a obtener.

Si un comprador decidía quedar con una chica, le pagaba el resto del dinero posteriormente, a través de CashApp, señaló. Robinson se quedaba entonces con la mayor parte de ese dinero.

Para acabar con estos casos de explotación sexual infantil, el pasado mes de junio Meta anunció nuevas políticas que incluyen un software de verificación de edad que obligará a los usuarios menores de 18 años a demostrar su edad subiendo una identificación, grabando un video selfie o pidiendo a amigos comunes en Facebook que confirmen su edad.

Cuando le preguntamos a Tina Frundt sobre estas nuevas medidas, se mostró escéptica. Los menores con los que trabaja ya habían encontrado soluciones; una niña de 14 años, por ejemplo, podría utilizar un video selfie grabado por una amiga de 18 años y fingir que es de ella.

Incluso después de haber sido remitidos a Courtney’s House, los menores siguen siendo vulnerables a los traficantes. Una noche de junio de 2021, Frundt explica que recibió una llamada de Maya en la que le decía que había llegado a casa sana y salva. Frundt se sintió aliviada: sabía que Maya había pasado la noche con un hombre de 43 años que la había estado contactando por Instagram.

Frundt explica que Maya, que ahora tiene 15 años, se encontraba en una situación delicada: durante los últimos meses, su salud mental había empeorado notablemente y le había contado a Frundt que tenía tendencias suicidas.

Esa noche, al teléfono, Frundt le dijo a Maya que la quería y que hablarían en la mañana. “Esa fue la última vez que hablé con ella”, comentó Frundt. El hombre mayor le había dado drogas a Maya. Cuando la madre de Maya fue a despertar a su hija la mañana siguiente, la encontró muerta.

Una foto de Maya que aún está colgada en la pared de Courtney’s House muestra a una adolescente con cara aniñada, de rizos castaños y una enorme sonrisa. Dos años después de su muerte, Frundt sigue llorando la muerte de su cariñosa “chica femenina” a la que le encantaba el maquillaje, los juegos de mesa y bailar sus canciones favoritas de Megan Thee Stallion. “Perder a uno de nuestros jóvenes te cambia para siempre. Nunca te lo puedes perdonar”, señaló.

Antes de que Maya muriera, Frundt afirma que habló con Instagram por videollamada para pedirles que eliminaran los contenidos de explotación que había difundido su traficante. Frundt explica que, cuando Maya murió, todavía estaban en la plataforma los videos en los que se le veía siendo explotada.

En julio de 2021, un representante de una organización de lucha contra el tráfico de personas envió un correo electrónico a la directora de política juvenil de Instagram para informarle sobre la muerte de Maya.

Frundt recibió copia del correo electrónico. En él se preguntaba el motivo por el que las herramientas de Meta diseñadas para detectar la preparación de menores no habían marcado a un hombre de 43 años que contactó a una niña. Cuatro días después, la empresa envió una breve respuesta. Si se proporcionaban detalles a Instagram sobre la cuenta del presunto traficante, se investigaría el caso.

Sin embargo, Frundt señala que ya era demasiado tarde. “Ella ya había fallecido”, dice. “Podían haber hecho algo para ayudarla, pero no lo hicieron. Ya no estaba”.

Los nombres marcados con un asterisco fueron modificados para preservar el anonimato.