¡Qué miedo! Promesa de Mark Zuckerberg de crear IA avanzada alarma a los expertos

Mark Zuckerberg ha sido acusado de adoptar un enfoque irresponsable con respecto a la inteligencia artificial tras comprometerse a construir un potente sistema de IA equiparable a los niveles de inteligencia humana. El fundador de Facebook también ha planteado la posibilidad de ponerlo a disposición del público de forma gratuita.

El director ejecutivo de Meta ha declarado que la empresa intentará construir un sistema de inteligencia artificial general (IAG) y hacerlo de código abierto, lo que significa que será accesible a desarrolladores ajenos a la empresa. Añadió que el sistema debería estar “tan disponible como podamos de forma responsable”.

En un post de Facebook, Zuckerberg afirmó que estaba claro que la próxima generación de servicios tecnológicos “requiere construir una inteligencia general completa”.

IAG no es un término estrictamente definido, pero se refiere comúnmente a un sistema teórico de IA que puede realizar una serie de tareas con un nivel de inteligencia que iguala o supera al de los humanos. La posible aparición de la IAG ha alarmado a expertos y políticos de todo el mundo, que temen que un sistema de este tipo, o una combinación de múltiples sistemas IAG, pueda eludir el control humano y amenazar a la humanidad.

Zuckerberg confirmó que Meta estudiaría la posibilidad de hacer que su IAG fuera de código abierto, es decir, que estuviera libremente disponible para que los desarrolladores y el público la utilizaran y adaptaran, como el modelo de IA Llama 2 de la empresa.

“Esta tecnología es tan importante y ofrece tantas oportunidades que deberíamos hacerla de código abierto y ponerla a disposición del público de la forma más responsable posible, para que todo el mundo pueda beneficiarse”, afirmó.

Dame Wendy Hall, catedrática de informática de la Universidad de Southampton y miembro del órgano asesor de la ONU sobre IA, afirmó que la perspectiva de la IAG de código abierto “asusta mucho” y que era irresponsable por parte de Zuckerberg planteárselo.

“La idea de que la inteligencia artificial de código abierto se libere antes de que hayamos descubierto cómo regular estos potentes sistemas de inteligencia artificial es realmente aterradora”, afirmó. “En las manos equivocadas, una tecnología así podría hacer mucho daño. Es muy irresponsable que una empresa lo sugiera”.

Hall añadió: “Afortunadamente, creo que aún faltan muchos años para que esta aspiración (IAG) pueda alcanzarse de forma significativa, así que tenemos tiempo para poner en marcha los sistemas de regulación. Pero es una cuestión de seguridad pública que avancemos en este trabajo con cierta urgencia”.

Meta fue una de las empresas tecnológicas que se comprometieron el año pasado en la cumbre mundial sobre seguridad de la IA celebrada en el Reino Unido a permitir a los gobiernos examinar las herramientas de inteligencia artificial antes y después de su lanzamiento.

Otro experto residente en el Reino Unido afirmó que la externalización abierta de un sistema de inteligencia artificial no es una decisión que deba dejarse en manos de una empresa tecnológica.

“Hay argumentos profundos y complejos sobre los méritos de abrir los códigos actuales de IA, y llevarlos al ámbito de la IAG podría salvar al mundo o llevarlo a la catástrofe”, afirmó Andrew Rogoyski, director del Institute for People-Centred AI de la Universidad de Surrey. “Estas decisiones deben tomarse por consenso internacional, no en la sala de juntas de un gigante tecnológico”.

En una entrevista concedida el jueves al sitio web de noticias tecnológicas The Verge, Zuckerberg afirmó que se inclinaría por el código abierto mientras tuviera sentido y fuera “lo más seguro y responsable”.

La decisión de Meta el año pasado de abrir el código de Llama 2 suscitó las críticas de algunos expertos, como Hall, que dijo que era “un poco como dar a la gente una plantilla para construir una bomba nuclear”.

La empresa californiana OpenAI, creadora de ChatGPT, también está construyendo una IAG, que define como “sistemas de inteligencia artificial generalmente más inteligentes que los humanos”, mientras que Demis Hassabis, director de la división de inteligencia artificial de Google, Google DeepMind, ha afirmado que la IAG podría estar a menos de una década de distancia.

El director ejecutivo de OpenAI, Sam Altman, lanzó una nota de cautela en el Foro Económico Mundial de Davos (Suiza) esta semana, al afirmar que los avances en IA serían imposibles sin un gran avance en el suministro de energía, como la fusión nuclear.

Zuckerberg no dio un calendario para el desarrollo de un sistema de inteligencia artificial, aunque se refirió a que Meta ha construido una “cantidad absolutamente enorme de infraestructura” para crear nuevos sistemas de IA. La empresa ha encargado una importante reserva de chips de procesamiento de IA. Zuckerberg añadió que también se está trabajando en una secuela de Llama 2.

Traducción: Ligia M. Oliver

No te pierdas: Zuckerberg ridiculizado por su rancho de calidad; alimenta vacas con cerveza y nuez de macadamia