¿Nos destruirá el loro estocástico?

Las menciones en redes sociales y publicaciones advirtiendo sobre el peligro de que los humanos perdamos el control, usemos indebidamente o interpretemos mal a la inteligencia artificial (IA) son ya parte de nuestra cotidianeidad.

Tengo especialmente presente la petición que firmaron miles de líderes y expertos en marzo pasado para poner una pausa al desarrollo de esta tecnología, entre ellos, Elon Musk, Steve Wozniak e ingenieros de Amazon, Deep Mind, Google, Meta y Microsoft; al intrigante libro de Daron Acemoglu y Simon Johnson, dos respetados economistas que hablan sobre nuestra gesta milenaria por la tecnología y la prosperidad y cuyo consejo es emplear la inteligencia artificial como complemento mas no sustituto de las capacidades humanas, pues podría generar desempleo y aumentar la brecha de desigualdad; y a las inquietantes reflexiones de Henry Kissinger, Eric Schmidt y Daniel Huttenlocher, quienes en su libro La era de la inteligencia artificial alertan del peligro que significa para la seguridad, el empleo y la paz mundial, entre otros riesgos significativos.

Tengo también en mente las advertencias provenientes desde la mitología y la ficción. La imaginación ha sido una fuente inacabable de relatos concebidos bajo la persuasión de que al conocimiento o a sus frutos materializados en tecnología hay que tomarlo con reserva (a la ignorancia también, pero esa es harina de otro costal). Los mitos de Prometeo y Pandora; los relatos de El Aprendiz de Hechicero, Frankenstein y Yo, Robot; las películas como Metrópolis, 2001: Odisea en el Espacio, Blade Runner, Ella, Ex Machina, entre tantas otras obras, son meditaciones sobre sobre la relación entre los humanos, falibles y proclives a debilidades del carácter y sus imperfectas creaciones. La duda perenne en todos ellas es si el conocimiento o las creaciones, sean máquinas o seres vivos, se volverán hostiles hacia los humanos y si éstos tendrán el recurso de la defensa preventiva u ofensiva.

Y pienso en observaciones como la de Emily Bender, lingüista computacional de la Universidad de Washington, quien con otros autores ha acuñado el término “loro estocástico” para referirse a los modelos de lenguaje grandes (large language models, LLMs) como ChatGPT. Esta herramienta emplea la información con la que fue “entrenada” (millones de textos de diversa calidad tomados de internet, la gran mayoría provenientes de Reddit y Wikipedia) para confeccionar frases con palabras seleccionadas a partir de su probabilidad de ocurrencia, en las que las preguntas y el entrenamiento recibido de los humanos juegan un papel determinante en el resultado. Esas frases están programadas para respetar las reglas de la sintaxis y la gramática, no para generar significado. Reproducen lo bueno y lo malo del internet, desde los conceptos más nobles hasta los prejuicios y sesgos más comunes.

Calificar de inteligencia a este tipo de operaciones probabilísticas se antoja bastante… artificial. ChatGPT no entiende lo que dice y carece de intencionalidad. Pero la tendencia de la naturaleza humana a encontrar significado en los patrones que observa, facilita la confusión. Cuando no distingamos si un loro estocástico o un humano generaron un texto que nos conduzca a algún tipo de conclusión o nos invite a un tipo de acción, constructiva o destructiva, los riesgos del mal uso de la tecnología aumentarán exponencialmente.

Aún así, aunque ChatGPT no entienda nada, ha demostrado ser un loro formidable. No solo pasa exámenes de la barra de abogados economía intermedia, biología, matemáticas para admisión universitaria o certificación de sommelier, hitos que han sorprendido a la comunidad de expertos. También aporta recetas para hornear pasteles o construir bombas, según la inclinación de quien le pregunte. Y es capaz de dar la lista de instrucciones para levantar un edificio de mantequilla si es preciso.

¿Nos destruirá el loro estocástico? Depende. Lo suyo es la forma, el contenido y el significado queda para los mortales. Si los mortales no saben cómo vigilar el salto de la forma al fondo, si encuentran significado donde no lo hay y actúan en consecuencia, pueden en efecto vivir la condena de Prometeo.