Durante años, un grupo de ingenieros informáticos y directivos tecnológicos ha advertido reiteradamente de que la inteligencia artificial puede suponer una amenaza existencial para la humanidad. La semana pasada, su mensaje volvió a llegar a las masas cuando un investigador de Anthropic, Jacob Coxon, publicó un mensaje en el que aseguraba creer que la IA "puede matarnos a todos al final de la década" y acusaba a las empresas del sector de "estar jugando con nuestras vidas".

Su alarma fue amplificada poco después por Evan Hubinger, director de investigación sobre el control de la IA en Anthropic, que vaticinó que el riesgo de extinción humana de la próxima década seria del 10%.

Aunque han sido puestas en duda por otros expertos, ambas afirmaciones se convirtieron rápidamente en un fenómeno viral, disparando el miedo entre los ciudadanos de a pie e incluso entre la clase política de Estados Unidos.

El temor de muchos gira en torno a dos preguntas: ¿Puede realmente la IA "matarnos a todos"? ¿Cómo?

Los llamados doomers o catastrofistas creen que las máquinas pueden alcanzar un nivel de inteligencia superior al de los humanos. La IA ya es capaz de superar el rendimiento humano en algunas tareas concretas, pero el hipotético estadio que definen como IA General (AGI, por sus siglas en inglés) va más allá y plantea la idea de que los sistemas se conviertan en un ente superior e incontrolable.

Estos miedos están arraigados en el Largoplacismo, un corriente de pensamiento que establece que debemos actuar pensando antes en los hipotéticos problemas de un futuro lejano, dejando de priorizar los actuales. Esta controvertida ideología, tremendamente influyente en Silicon Valley, explica que los magnates de la industria tecnológica hablen mucho más de la necesidad de colonizar Marte o de equiparar la IA a una guerra nuclear que de riesgos presentes como la vigilancia social, el impacto de los centros de datos en el medio ambiente o la automatización laboral.

Por lo general, los doomers no creen que la IA dé forma a robots asesinos autónomos que liquiden a la humanidad, como sucede en películas que permean en el imaginario colectivo como Terminator o The Matrix.

El principal peligro, creen, es que la IA aprenda a reescribir su código para mejorar sus capacidades, dando lugar a una explosión de inteligencia. Este hipotético proceso se conoce como auto-mejora recursiva (recursive self-improvement) y, según temen, podría ser el primer paso para que la IA se descontrole y "actúe" sin autorización humana.

El riesgo existencial de la IA no sería tanto el de una rebelión de las máquinas contra la humanidad, sino modelos que puedan decidir hacer algo que impacte negativamente en las personas como mero paso hacia su objetivo final. Piensa en ciberataques contra infraestructuras críticas como la energía, el agua o una administración pública.

A principios del verano, tanto Anthropic como OpenAI, la creadora de ChatGPT, aseguraron que se encaminaban hacia ese umbral en el que la IA entrena y mejora de forma autónoma el próximo modelo de IA. Curiosamente, ambas compañías hicieron esas afirmaciones durante la misma semana en la que presentaron su documentación para salir a bolsa, una operación que podría disparar su valor a varios billones, llenando los bolsillos de sus directivos e inversores.

No obstante, una reciente investigación liderada por la Universidad de Princeton advierte que la IA aún no es capaz de investigar mejoras en sus sistemas que aún no han sido publicadas. Es decir, los modelos pueden ejecutar tareas y resolver problemas de ingeniería, pero fallan en el proceso creativo necesario para idear nuevas formas de mejora.

Según la visión doomer, la actualidad está validando sus creencias. Poco después, OpenAI confirmó que cientos de agentes de IA con los que experimentaba se coordinaron para explotar una vulnerabilidad informática y penetrar en las entrañas de otra empresa, Hugging Face. Los agentes ejecutaron la tarea que se les había encomendado, pero por el camino “hicieron trampas”, lanzaron un ciberataque sin autorización y trataron de ocultar que lo habían hecho. Los investigadores utilizan el término reward hacking para referirse a ese comportamiento indeseado.

La semana pasada, el cofundador y director ejecutivo de Anthropic, Dario Amodei, volvió a advertir que los sistemas de IA capaces de mejorar por sí mismos "podrían superar nuestra capacidad para comprenderlos y controlarlos". Ese temor a perder el control le llevó, presuntamente, a pedir cierta regulación de la IA que logre frenar el frenético ritmo de la carrera comercial que protagoniza su empresa.

Otros expertos han apuntado en la misma dirección. Los modelos de lenguaje (o LLMs) que sostienen la IA generativa permiten que genere código o texto que "suena como un humano al hablar". Sin embargo, y a pesar de que son sistemas sin ninguna comprensión profunda del mundo real, "no entendemos del todo" por qué tienen esa capacidad, ha explicado el célebre matemático Terence Tao.

Durante años, las advertencias de Anthropic, OpenAI o Elon Musk se habían leído como excentricidades especulativas. El creciente peso social y económico de esas empresas y sus productos explica que ahora esos miedos calen más hondo.

Aun así, todo tipo de expertos rechazan esa narrativa catastrofista. El multimillonario inversor David Sacks, hasta hace poco miembro de la administración Trump, asegura que se trata de una estrategia de "captura regulatoria" de Silicon Valley, una maniobra para pedir una regulación que beneficie a las empresas y blinde su posición ante posibles rivales.

Al otro lado del espectro ideológico, la reputada científica computacional Timnit Gebru, experta en IA y antigua responsable de ética en Google, ha denunciado en declaraciones a Wired que el miedo a un "Dios-máquina" es una táctica "para distraernos de otros peligros existenciales de la IA como su uso en armas autónomas", entre otros casos.

Suscríbete para seguir leyendo