‘Hay grandes paralelismos’ entre Oppenheimer y los científicos preocupados por la IA

El director de Oppenheimer, Christopher Nolan, destacó las dificultades que entraña la aplicación de una regulación similar a la de las armas nucleares en el ámbito de la inteligencia artificial, al tiempo que advirtió que las Naciones Unidas se han convertido en una fuerza “muy mermada”.

Nolan comentó a The Guardian que la petición de J. Robert Oppenheimer de que se estableciera un control internacional de las armas nucleares “más o menos se hizo realidad”, pero que, no obstante, se produjo una gran proliferación de la tecnología desde que el “padre de la bomba atómica” dirigió el proyecto Manhattan en la Segunda Guerra Mundial.

“Observar el control internacional de las armas nucleares y pensar que los mismos principios se podrían aplicar a algo que no requiere procesos industriales masivos… resulta un poco complicado”, señaló.

“La vigilancia internacional en materia de armas nucleares es posible porque estas son muy difíciles de construir. Oppenheimer gastó 2 mil millones de dólares y empleó a miles de personas en todo Estados Unidos para construir las primeras bombas. Es tranquilizadoramente difícil fabricar armas nucleares y, por tanto, es relativamente fácil detectar cuándo un país lo está haciendo. No creo que nada de eso sea aplicable en la inteligencia artificial”.

Esta semana, el secretario general de la ONU, António Guterres, señaló que las Naciones Unidas eran el “lugar ideal” para establecer una normativa y una estrategia globales en materia de inteligencia artificial, a medida que aumentan las peticiones de que se realice un esfuerzo internacional para moderar el desarrollo de esta tecnología. Según el Tratado sobre la No Proliferación de las Armas Nucleares, negociado por la ONU, los países que poseen armas nucleares se comprometen a no ayudar a los Estados que no las poseen a adquirir o construir este tipo de tecnología militar.

Nolan comentó que Oppenheimer quería que los países renunciaran a “una parte” de su soberanía para ceder el control de la energía nuclear a la comunidad internacional a través de la ONU. No obstante, señaló que la ONU es “muy diferente y está muy mermada en comparación con lo que era en la década de 1950”.

Nolan comentó que existían “grandes paralelismos” entre el famoso físico y los expertos en inteligencia artificial que pedían que se frenara el desarrollo de dicha tecnología. La película de Nolan detalla la forma en que las peticiones de Oppenheimer de que hubiera moderación nuclear, incluido el desarrollo de la poderosa bomba de hidrógeno, provocaron enfrentamientos con la clase política y militar estadounidense.

El Dr. Geoffrey Hinton, “padrino de la inteligencia artificial” británico, renunció este año a Google para hablar de forma más abierta sobre el “riesgo existencial” que supone la inteligencia artificial avanzada, mientras que el director ejecutivo de Tesla, Elon Musk, fue uno de los miles de firmantes de una carta en la que se pedía que se hiciera una pausa en la construcción de potentes sistemas de inteligencia artificial.

“Me interesó hablar con algunos de los principales investigadores en el campo de la inteligencia artificial y escucharlos decir que consideran esto como su ‘momento Oppenheimer'”, explicó Nolan. “Y es evidente que están buscando en su historia algún tipo de orientación… como una advertencia en términos de lo que indica sobre la responsabilidad de alguien que pone esta tecnología al servicio del mundo, y cuáles serían sus responsabilidades en términos de consecuencias inesperadas”.

No obstante, Nolan señaló que el tema de la inteligencia artificial contenía “un montón de dilemas éticos sin que necesariamente haya un camino claro a seguir”.

Esta semana, Meta, de Mark Zuckerberg, anunció que pondría a disposición del público un modelo de inteligencia artificial, lo cual motivó que un experto lo comparara con darle a alguien un modelo para fabricar bombas nucleares. La biografía de Oppenheimer en la que se basa la película, titulada Prometeo americano, de Kai Bird y Martin J. Sherwin, detalla cómo el intercambio de conocimientos nucleares con la entonces Unión Soviética fue objeto de debate durante el proyecto Manhattan.

Nolan señaló que la decisión entre “encerrar” los conocimientos sobre la inteligencia artificial o liberarlos a la propiedad común era imperfecta. El presidente de asuntos globales de Meta, la empresa de Zuckerberg, el exviceprimer ministro británico Nick Clegg, señaló que el hecho de poner los modelos de inteligencia artificial a disposición del escrutinio público los haría más seguros.

“Creo que existen razones para ambos (enfoques) y creo que ambos son soluciones igualmente insatisfactorias. Va a requerir mucho más trabajo y mucha más reflexión. Pero creo que mientras la responsabilidad ocupe un lugar central en el debate, creo que esa es nuestra mejor apuesta”, comentó.

El temor al impacto perturbador de la inteligencia artificial en las industrias del cine y la televisión ha sido uno de los motivos de las huelgas de actores y guionistas que paralizaron Hollywood. No obstante, los miembros del Sindicato de Directores de Estados Unidos, entre ellos Nolan, firmaron un nuevo contrato con los estudios estadounidenses en el que se establece que la inteligencia artificial no puede sustituir el trabajo de los directores.

Nolan comentó que la inteligencia artificial generativa, término que engloba todas las herramientas capaces de producir textos, imágenes y voces convincentes a partir de simples indicaciones humanas, sería perturbadora, pero que también crearía “enormes oportunidades” en sectores como el de los efectos visuales. Sin embargo, señaló que los ejecutivos tenían que ser responsables respecto a su uso.

“Sí creo que será una herramienta poderosa en el futuro. Lo que he intentado introducir en el debate, y sigo insistiendo en ello, es la idea de la responsabilidad y la responsabilidad del empleador. Lo único que no podemos hacer es dejar que los directivos, los empleadores y los productores utilicen la inteligencia artificial para eludir la responsabilidad de sus acciones“.

Cuando se le preguntó si la inteligencia artificial sería el tema de su próxima película, Nolan respondió que Oppenheimer, estrenada esta semana, por el momento era su “centro de atención”. Y añadió: “(La inteligencia artificial) me deja un montón de preguntas inquietantes. Y muchas veces se convierten en el motor de lo que haré después. Realmente no tengo ni idea de lo que haré después”.