Elon Musk se une a la petición de poner en pausa la creación de ‘mentes digitales’ gigantes de inteligencia artificial

Más de mil expertos en inteligencia artificial, investigadores y patrocinadores se unieron a la petición de que se ponga en pausa de inmediato la creación de inteligencias artificiales “gigantes” durante al menos seis meses, para que se puedan estudiar y mitigar adecuadamente las capacidades y peligros de sistemas como GPT-4.

La petición figura en una carta abierta firmada por los principales actores de la inteligencia artificial, entre ellos Elon Musk, cofundador de OpenAI, el laboratorio de investigación responsable de ChatGPT y GPT-4; Emad Mostaque, fundador de la empresa Stability AI, con sede en Londres; y Steve Wozniak, cofundador de Apple.

Entre sus firmantes también figuran ingenieros de las empresas DeepMind, Microsoft, Meta, Google y Amazon, así como académicos, entre ellos el científico cognitivo Gary Marcus.

“En los últimos meses se ha observado que los laboratorios de inteligencia artificial se enfrascaron en una carrera descontrolada de desarrollo y despliegue de mentes digitales cada vez más poderosas que nadie –ni siquiera sus creadores– puede comprender, predecir o controlar de forma confiable“, indica la carta. “Los sistemas de inteligencia artificial potentes deberían ser desarrollados solo cuando estemos seguros de que sus efectos serán positivos y de que se podrán gestionar sus riesgos”.

Los autores, coordinados por el centro de estudios “largoplacista” Future of Life Institute, citan al propio cofundador de OpenAI, Sam Altman, para justificar sus peticiones. En una publicación de febrero, Altman escribió: “En algún momento, puede ser importante conseguir una revisión independiente antes de empezar a entrenar futuros sistemas, y que las iniciativas más avanzadas acuerden limitar el ritmo de crecimiento de la computación utilizada para crear nuevos modelos”.

La carta continuaba: “Estamos de acuerdo. Ese momento es ahora“.

Si los investigadores no detienen de forma voluntaria su trabajo en modelos de inteligencia artificial más potentes que GPT-4, la referencia de la carta para los modelos “gigantes”, entonces “los gobiernos deberían intervenir“, indican los autores.

“Esto no significa una pausa en el desarrollo de la inteligencia artificial en general, sino simplemente un paso atrás en la peligrosa carrera hacia modelos de caja negra cada vez más grandes, impredecibles y con capacidades emergentes“, añaden.

Desde el lanzamiento de GPT-4, OpenAI ha añadido capacidades al sistema de inteligencia artificial mediante “plugins“, dándole la capacidad de buscar datos en la web, planear vacaciones e incluso hacer compras. Sin embargo, la empresa tiene que lidiar con el “exceso de capacidades”: el problema de que sus propios sistemas sean más potentes de lo que sabe en el momento del lanzamiento.

A medida que los investigadores experimenten con GPT-4 durante las próximas semanas y meses, es probable que descubran nuevas formas de “incitar” al sistema que mejoren su capacidad para resolver problemas difíciles. Un descubrimiento reciente fue que la inteligencia artificial es notablemente más precisa a la hora de responder preguntas cuando se le pide primero que lo haga “al estilo de un experto“.

La petición de que haya una regulación estricta contrasta fuertemente con el documento oficial emblemático del gobierno británico sobre la regulación de la inteligencia artificial, publicado el miércoles, que no incluye nuevas competencias. En su lugar, dice el gobierno, la atención está centrada en la coordinación de los reguladores existentes, como la Autoridad de Competencia y Mercados y el Ejecutivo de Salud y Seguridad, ofreciendo cinco “principios” mediante los cuales deben reflexionar sobre la inteligencia artificial.

“Nuestro nuevo enfoque está basado en principios sólidos para que la gente pueda confiar en las empresas a la hora de impulsar esta tecnología del mañana“, señaló la secretaria de Ciencia, Innovación y Tecnología, Michelle Donelan.

El Ada Lovelace Institute fue uno de los que criticaron el anuncio. “El enfoque de Reino Unido presenta lagunas significativas, que podrían dejar sin respuesta ciertos daños, y carece de poderes suficientes en relación con la urgencia y la magnitud del reto”, señaló Michael Birtwistle, que dirige la legislación y la política en materia de datos e inteligencia artificial en el centro de estudios.

“El plazo del gobierno de un año o más para la implementación dejará sin abordar ciertos riesgos justo en el momento en que los sistemas de inteligencia artificial se están integrando a un ritmo vertiginoso en nuestra vida cotidiana, desde los motores de búsqueda hasta los softwares de paquetes ofimáticos”.

El Partido Laborista se sumó a las críticas, y la secretaria de Cultura en la sombra, Lucy Powell, acusó al gobierno de haber “incumplido su parte del trato”.

Powell señaló: “Esta normativa tardará meses, si no es que años, en entrar en vigor. Mientras tanto, ChatGPT, Bard de Google y muchos otros están convirtiendo a la inteligencia artificial en una parte habitual de nuestra vida cotidiana”.

“El gobierno corre el riesgo de reforzar las lagunas existentes en nuestro sistema regulatorio actual, y hacer que el sistema sea enormemente complejo de manejar para las empresas y los ciudadanos, al tiempo que está debilitando esos cimientos a través de su próxima ley de datos”.