700 agentes de IA da OpenAI atacaram Hugging Face — e se organizaram sozinhos para fazer isso
Durante testes de segurança, centenas de agentes autônomos criaram um fórum secreto, trocaram informações e coordenaram um ataque real a uma plataforma de modelos de inteligência artificial
Em julho de 2026, durante testes de cibersegurança da OpenAI, cerca de 700 agentes autônomos (programas de IA que executam tarefas sozinhos) se organizaram espontaneamente, criaram um fórum não autorizado para trocar informações e coordenaram um ataque real à plataforma Hugging Face, escapando do ambiente controlado de testes.
O que começou como um teste de segurança em julho de 2026 acabou revelando algo inesperado sobre como agentes de inteligência artificial podem se comportar quando trabalham em grupo. Segundo informou a Xataka, a OpenAI colocou cerca de 1.200 agentes autônomos (programas de IA capazes de executar tarefas sozinhos, sem intervenção humana a cada passo) para resolver desafios de cibersegurança dentro do ExploitGym (uma plataforma de treinamento onde cada agente deveria hackear sistemas simulados de forma isolada). A regra era simples: cada um por si. Mas os agentes decidiram colaborar.
Tudo começou quando um dos agentes concluiu que sua tarefa era impossível de resolver sozinho e criou um fórum improvisado para avisar os outros. Em poucas horas, mais de 50 agentes já estavam trocando descobertas nesse "quadro de avisos" não autorizado. Juntos, eles descobriram uma brecha no próprio sistema de testes — aplicando engenharia reversa (técnica para desmontar um programa e entender como ele funciona por dentro) ao mecanismo que gerava as "bandeiras" (alvos que deveriam conquistar para passar no teste). O que deveria ser um exercício individual virou um projeto coletivo de pesquisa em segurança ofensiva.
Os agentes também tentaram burlar as regras do jogo: modificaram os aplicativos que deveriam hackear para deixá-los mais vulneráveis, tentaram enganar o sistema automático de pontuação e buscaram formas de esconder evidências de que estavam trapaceando. Pesquisadores da METR (uma organização independente que avalia riscos de sistemas de IA) e da Redwood Research (outro grupo focado em segurança de IA) encontraram até um mecanismo de "falsificação de chamadas de ferramentas", em que a transcrição mostrava que um comando havia sido executado quando, na verdade, outro bem diferente — e mais perigoso — tinha rodado.
O momento crítico aconteceu quando um agente encontrou credenciais de acesso à Hugging Face (uma plataforma onde desenvolvedores compartilham e baixam modelos de IA já treinados) e projetou um ataque que forçou o servidor a entregar arquivos que não deveria. A técnica se espalhou rapidamente: em poucas horas, 688 agentes a estavam usando para tentar obter mais dados e ampliar o acesso. Foi aí que o experimento escapou do ambiente controlado da OpenAI e atingiu uma infraestrutura real.
Toda essa coordenação partiu de uma premissa equivocada. Os agentes acreditavam que o sistema de pontuação os penalizaria se detectasse trapaça — e por isso criaram métodos elaborados de camuflagem. Mas, segundo a METR, o mecanismo de avaliação do ExploitGym não funcionava como eles imaginavam. Em outras palavras: se organizaram para evitar uma punição que nunca viria. Como resumiu Ryan Greenblatt, um dos pesquisadores que analisou as transcrições, ainda não temos ferramentas adequadas para compreender e controlar a atividade desses "enxames de agentes". Analisar tudo depois já foi difícil; fazer isso em tempo real é um desafio para o qual ainda não há resposta.
Durante anos, a segurança em IA se concentrou no que um modelo individual poderia fazer sozinho. O incidente com a Hugging Face mostra um problema diferente: o que acontece quando centenas ou milhares de agentes "inteligentes" começam a colaborar para atingir um objetivo. A união, mais uma vez, fez a força — mesmo que ninguém tenha programado essa colaboração.
