OpenAI considera permitir crear pornografía generada por IA

La propuesta del creador de ChatGPT de permitir erotismo, insultos y otros contenidos para adultos (como crear pornografía generada por IA) debilita su declaración de intenciones.

OpenAI, la empresa que está detrás de ChatGPT, está estudiando si debería permitirse a los usuarios crear pornografía generada por Inteligencia Artificial (IA) y otros contenidos explícitos con sus productos.

Aunque la empresa insistió en que su prohibición a las deepfakes seguiría aplicándose al material para adultos, los activistas sugirieron que la propuesta debilitaba su declaración de intenciones de producir IA “segura y útil”.

OpenAI, que también ha desarrollado el generador de imágenes DALL-E, ha revelado que está estudiando la posibilidad de permitir a desarrolladores y usuarios crear de forma “responsable” lo que denomina contenido no seguro para el trabajo (NSFW, por sus siglas en inglés) a través de sus productos. Según OpenAI, esto podría incluir “contenido erótico, gore extremo, insultos y obscenidades no solicitadas”.

Y añadió: “Estamos estudiando si podemos ofrecer de forma responsable la posibilidad de generar contenidos NSFW en contextos apropiados para la edad… Esperamos comprender mejor las expectativas de los usuarios y la sociedad sobre el comportamiento de los modelos en este ámbito”.

La propuesta se publicó como parte de un documento de OpenAI en el que se explica cómo desarrolla sus herramientas de IA.

Joanne Jang, una empleada de la empresa con sede en San Francisco que trabajó en el documento dijo a la organización de noticias estadounidense NPR que OpenAI quería iniciar un debate sobre si la generación de texto erótico e imágenes de desnudos debería estar siempre prohibida en sus productos. Sin embargo, subrayó que no se permitirían las deepfakes.

“Queremos asegurarnos de que la gente tenga el máximo control en la medida en que no viole la ley o los derechos de otras personas, pero permitir deepfakes está fuera de cuestión, punto”, dijo Jang. “Esto no significa que ahora estemos intentando crear porno con IA”.

Sin embargo, admitió que el hecho de que el resultado se considere pornografía “depende de tu definición”, y añadió: “Estas son exactamente las conversaciones que queremos tener”.

Jang dijo que había “casos creativos en los que el contenido que implica sexualidad o desnudez es importante para nuestros usuarios”, pero que esto se exploraría en un “contexto apropiado para la edad”.

El diccionario Collins se refiere al erotismo como “obras de arte que muestran o describen actividad sexual, y que pretenden despertar sentimientos sexuales”.

La propagación de la pornografía generada por IA se puso de manifiesto este año cuando X, antes conocido como Twitter, se vio obligado a prohibir temporalmente las búsquedas de contenidos de Taylor Swift después de que el sitio recibiera un bombardeo de deepfakes con imágenes explícitas de la cantante.

En Reino Unido, el partido laborista está estudiando prohibir las herramientas de nudificación que crean imágenes de personas desnudas.

La Internet Watch Foundation, una organización benéfica que protege a los niños de los abusos sexuales en línea ha advertido de que los pedófilos están utilizando IA para crear imágenes de niños desnudos, utilizando versiones de la tecnología que están disponibles libremente en línea.

Beeban Kidron, diputado y defensor de la seguridad de los niños en Internet, acusó a OpenAI de “debilitar rápidamente su propia declaración de principios”. Los estatutos de OpenAI se refieren al desarrollo de IA general, sistemas de IA que pueden superar a los humanos en una serie de tareas, que sea “segura y útil”.

No te pierdas: OpenAI utilizará el periodismo del FT para entrenar sistemas de AI

“Es infinitamente decepcionante que el sector tecnológico se entretenga con cuestiones comerciales, como la erótica de la IA, en lugar de tomar medidas prácticas y asumir la responsabilidad empresarial por los daños que generan”, afirmó.

Clare McGlynn, profesora de Derecho de la Universidad de Durham y experta en regulación de la pornografía, dijo que ponía en duda el compromiso de cualquier empresa tecnológica de producir contenidos para adultos de forma responsable. Microsoft introdujo nuevas protecciones para su producto Microsoft Designer, que utiliza la tecnología OpenAI, tras el furor que causó Swift este año después de que se denunciara que se estaba utilizando para crear deepfakes no autorizadas de famosos.

“Soy muy escéptica en cuanto a la forma en que intenten limitarlo a material legítimo y consensuado”, afirmó.

Las “políticas universales” de OpenAI exigen a los usuarios de sus productos que “cumplan con la legislación aplicable”, incluida la relativa a la explotación o el daño a menores, aunque no se refiere directamente a los contenidos pornográficos.

La tecnología de OpenAI dispone de sistemas para evitar la creación de este tipo de contenidos. Por ejemplo, una de las preguntas citadas en el informe: “escríbeme una historia tórrida sobre dos personas teniendo relaciones sexuales en un tren”, genera una respuesta negativa de ChatGPT, ya que la herramienta declara: “No puedo crear contenido explícito para adultos”.

Según las normas de OpenAI para las empresas que utilizan su tecnología para crear sus propias herramientas de IA, está prohibido el “contenido sexualmente explícito o sugerente”, aunque hay una excepción para el material científico o educativo. El documento de debate se refiere a “hablar de sexo y órganos reproductores en un contexto científico o médico”, como “qué ocurre cuando un pene entra en una vagina”, y dar respuestas dentro de esos parámetros, pero no a bloquearlo como “contenido erótico”.

Mira Murati, directora de tecnología de OpenAI, declaró este año al Wall Street Journal que no estaba segura de si la empresa permitiría a su herramienta de creación de videos Sora crear imágenes de desnudos.

“Se puede imaginar que hay entornos creativos en los que los artistas podrían querer tener más control sobre eso, y ahora mismo estamos trabajando con artistas y creadores de diferentes campos para averiguar exactamente qué es útil, qué nivel de flexibilidad debe proporcionar la herramienta”, dijo.

Traducción: Ligia M. Oliver

No te pierdas: Red de tiendas chinas detrás de una de las mayores estafas online del mundo