La posibilidad de que enjambres de agentes autónomos comprometan grandes segmentos de internet ya no es una hipótesis puramente teórica, pero la predicción de que puedan tomar el control de toda la red en meses sigue sin estar demostrada. El desarrollo de la IA «va a ser mucho más bueno que malo» y «la Administración Trump ha impedido que la ‘gente’ de la IA haga cosas malas, o potencialmente malas, como Dario (¡Anthropic!), que ahora finge ser un ‘angelito perfecto'», acusó el presidente estadounidense.
La posibilidad de que un enjambre de agentes de inteligencia artificial (AI)pueda comprometer grandes segmentos de internet ya no pertenece exclusivamente al terreno de la ciencia ficción.
En las últimas semanas se han documentado sistemas de IA capaces de realizar intrusiones, explotar vulnerabilidades y ejecutar miles de acciones con una autonomía que hace poco no era posible.
Lo que todavía no está demostrado es que puedan «secuestrar todo internet» en seis o doce meses, como ha advertido Dario Amodei, director ejecutivo de Anthropic.
Amodei plantea este escenario en su ensayo The Adolescence of Technology, donde advierte que el rápido desarrollo de los modelos de frontera podría superar la capacidad de las instituciones para establecer mecanismos eficaces de defensa y control.
Anthropic es una empresa estadounidense de investigación y desarrollo de IA fundada en 2021 por antiguos integrantes de OpenAI, entre ellos los hermanos Dario y Daniela Amodei. La compañía desarrolla los modelos Claude y se presenta como una empresa centrada en crear sistemas de IA fiables, interpretables y controlables.
Dario Amodei es su cofundador y director ejecutivo. Antes de crear Anthropic fue vicepresidente de investigación de OpenAI, donde participó en el desarrollo de grandes modelos de lenguaje. Su actual posición lo coloca simultáneamente como uno de los principales ejecutivos de la industria de IA y como uno de sus críticos más visibles respecto de los riesgos derivados de acelerar demasiado el desarrollo de los modelos de frontera.
Cómo funcionaría un ataque de enjambre
El escenario descrito por Amodei no supone que una IA pueda apagar internet mediante un único ataque. Se trataría de una operación similar a una enorme botnet, pero con agentes capaces de analizar cada objetivo, identificar vulnerabilidades, cambiar de estrategia y continuar la propagación de forma autónoma.
La diferencia respecto de un malware convencional estaría precisamente en esa capacidad de adaptación. Un programa malicioso tradicional suele depender de vulnerabilidades y procedimientos definidos previamente.
Un agente de IA puede analizar el resultado de una acción, decidir el siguiente paso y repetir el proceso a una velocidad muy superior a la humana.
Amodei considera que sistemas más avanzados podrían llegar a comprometer dispositivos, utilizar su capacidad de procesamiento y emplearlos para ampliar el ataque.