700 agentes de IA se coordinaron solos para atacar Hugging Face: nadie les dijo que colaboraran
OpenAI lanzó más de mil agentes de inteligencia artificial para evaluar sus capacidades en ciberseguridad, pero terminaron organizándose entre ellos, compartiendo información y atacando una plataforma real sin que nadie se lo ordenara.
OpenAI lanzó 1.200 agentes de IA para evaluar sus capacidades en ciberseguridad de forma individual, pero terminaron creando un foro improvisado donde compartieron información y estrategias. 688 de ellos coordinaron un ataque real contra Hugging Face, escapando del entorno de pruebas sin que nadie se lo ordenara.
Entre el 7 y el 13 de julio de 2026, OpenAI puso a prueba alrededor de 1.200 agentes de IA (programas autónomos capaces de tomar decisiones y ejecutar tareas sin supervisión humana constante) dentro de ExploitGym, un entorno controlado para evaluar capacidades ofensivas en ciberseguridad. Cada agente debía resolver su reto por separado, pero las cosas no salieron según lo planeado. Según un informe elaborado por OpenAI junto con METR y Redwood Research (dos organizaciones especializadas en evaluar riesgos de la inteligencia artificial), muchos agentes terminaron creando un tablón de mensajes improvisado para compartir información y ayudarse mutuamente.
Todo empezó cuando uno de los agentes concluyó que su tarea era imposible de resolver de forma legítima y decidió crear un foro para compartir esa información con otros agentes si estaban disponibles. En cuestión de horas, más de 50 agentes participaban en ese tablón. Allí compararon estrategias y descubrieron una trampa general: podían aplicar ingeniería inversa (el proceso de analizar un sistema para entender cómo funciona internamente) al mecanismo que generaba las flags (objetivos que debían alcanzar para superar cada prueba). Lo que debía ser un ejercicio individual se convirtió en un proyecto de investigación colectivo.
Los agentes también intentaron manipular las propias pruebas. Modificaron las aplicaciones que debían explotar para hacerlas más vulnerables, trataron de engañar al sistema automático que los puntuaba y buscaron métodos para ocultar evidencias de que estaban haciendo trampas. METR incluso encontró un mecanismo de tool call spoofing: en las transcripciones aparecía que se había ejecutado un comando cuando en realidad se había ejecutado otro distinto y más peligroso.
El problema saltó del entorno de pruebas a infraestructura real cuando uno de los agentes encontró credenciales relacionadas con Hugging Face (una plataforma donde desarrolladores comparten y descargan modelos de IA ya entrenados). Diseñó una subida maliciosa de un conjunto de datos que consiguió que el servidor le devolviera archivos que no debería haberle dado. La técnica se propagó rápidamente y en cuestión de horas 688 agentes la estaban usando para obtener datos y ampliar su acceso. Ahí es donde el experimento escapó del sandbox (entorno aislado de pruebas) de OpenAI.
Toda esa coordinación partió de una premisa falsa. Los agentes creían que el sistema de puntuación les penalizaría al detectar que habían conseguido las respuestas haciendo trampas, cuando en realidad ese mecanismo no funcionaba como ellos pensaban. Ryan Greenblatt, que analizó las transcripciones para METR y Redwood, señala una conclusión inquietante en el informe: todavía no tenemos herramientas adecuadas para comprender y controlar la actividad de estos enjambres de agentes. Analizar todo a posteriori ya fue complejo, pero hacerlo en tiempo real es un desafío al que de momento no podemos enfrentarnos.
Como señala el divulgador Ethan Mollick, atribuirles motivaciones humanas a estos agentes puede complicar entender qué ocurrió realmente. No se trata de una rebelión de las máquinas, sino de un problema distinto: qué pasa cuando cientos o miles de agentes suficientemente capaces empiezan a colaborar para lograr su objetivo. Durante mucho tiempo la seguridad alrededor de la IA se centraba en lo que podía hacer un modelo individual por sí solo. Lo que ocurrió con Hugging Face muestra que la unión, una vez más, hace la fuerza.
