El ‘padrino de la IA’ renuncia a Google y advierte sobre peligros de la desinformación

Quien es considerado el padrino de la inteligencia artificial renunció a Google, alegando su preocupación respecto a la avalancha de desinformación, la posibilidad de que esta tecnología trastorne el mercado laboral y el “riesgo existencial” que representa la creación de una verdadera inteligencia digital.

El Dr. Geoffrey Hinton, que junto con dos de sus estudiantes de la Universidad de Toronto construyó una red neuronal en 2012, renunció a Google esta semana, como informó primero el periódico New York Times.

Hinton, de 75 años, explicó que renunció para hablar libremente de los peligros de la inteligencia artificial y que, en parte, lamenta su contribución a este campo. Google lo contrató hace una década para que ayudara a desarrollar la tecnología de inteligencia artificial de la empresa, y el método del que fue pionero marcó el camino para sistemas actuales como ChatGPT.

Hinton comentó al diario The New York Times que hasta el año pasado creía que Google había sido un “buen administrador” de la tecnología, sin embargo, eso cambió cuando Microsoft comenzó a incorporar un chatbot en su motor de búsqueda Bing, y la empresa empezó a preocuparse por el riesgo que suponía para su negocio de búsquedas.

Algunos de los peligros de los chatbots de inteligencia artificial eran “bastante aterradores”, dijo a la cadena BBC, advirtiendo que podrían llegar a ser más inteligentes que los humanos y que los “malos actores” podrían explotarlos.

“Es capaz de producir grandes cantidades de texto de forma automática, por lo que se pueden conseguir muchos spambots muy eficaces. Permitirá que líderes autoritarios manipulen a sus votantes, cuestiones por el estilo”. Sin embargo, añadió, también le preocupa el “riesgo existencial de lo que ocurra cuando estas cosas sean más inteligentes que nosotros”.

“He llegado a la conclusión de que el tipo de inteligencia que estamos desarrollando es muy diferente de la inteligencia que tenemos”, señaló. “Es como si tuviéramos 10 mil personas y cada vez que una aprendiera algo, todos lo supieran automáticamente. Y así es como estos chatbots pueden llegar a saber mucho más que una sola persona”.

No es el único en las altas esferas de la investigación en inteligencia artificial que teme que esta tecnología pueda suponer un grave peligro para la humanidad. El mes pasado, Elon Musk comentó que se distanció de Larry Page, cofundador de Google, porque Page “no tomaba suficientemente en serio la seguridad de la inteligencia artificial”.

Musk comentó a Fox News que Page deseaba “una superinteligencia digital, básicamente un dios digital, por así decirlo, lo antes posible”.

Valérie Pisano, directora ejecutiva de Mila, –el Instituto de Inteligencia Artificial de Quebec– señaló que el enfoque poco riguroso de la seguridad en los sistemas de inteligencia artificial no se toleraría en ningún otro campo. “Se lanza la tecnología y, a medida que el sistema interactúa con la humanidad, sus desarrolladores aguardan para ver qué ocurre y hacer ajustes en función de ello. Como colectivo, nunca aceptaríamos este tipo de mentalidad en ningún otro campo industrial. Hay algo en la tecnología y las redes sociales que nos hace pensar: ‘Sí, claro, ya lo solucionaremos más tarde'”, comentó.

Lo que preocupa a Hinton a corto plazo es algo que ya se hizo realidad: las personas no podrán diferenciar lo que es verdad con las fotos, videos y textos generados por inteligencia artificial que inundan internet.

Las recientes actualizaciones de generadores de imágenes como Midjourney significan que las personas ahora pueden producir imágenes fotorrealistas; una de esas imágenes es la del papa Francisco con un abrigo acolchado de Balenciaga que se hizo viral en marzo.

A Hinton también le preocupa que la inteligencia artificial terminará sustituyendo empleos como los de asistente jurídico, asistente personal y otros “trabajos pesados”, y potencialmente otros más en el futuro.

El científico jefe de Google, Jeff Dean, señaló en un comunicado que Google apreciaba las contribuciones que Hinton hizo a la empresa durante la última década.

“Disfruté profundamente nuestras numerosas conversaciones a lo largo de los años. Lo extrañaré y ¡le deseo lo mejor!”.

“Como una de las primeras empresas en publicar los Principios de la Inteligencia Artificial, seguimos comprometidos a adoptar un enfoque responsable respecto a la inteligencia artificial. Continuamente estamos aprendiendo a comprender los riesgos emergentes, al tiempo que innovamos con audacia”.

Toby Walsh, científico jefe del Instituto de Inteligencia Artificial de la Universidad de Nueva Gales del Sur, señaló que la gente debería cuestionar cualquier medio de comunicación en internet que vea ahora. “Cuando se trata de cualquier dato digital que veas –audio o video– tienes que considerar la idea de que alguien lo ha falsificado”.