OpenAI suspende parte do desenvolvimento do modelo Astra por riscos de segurança
Empresa interrompeu algumas etapas do treinamento do novo modelo após identificar que ele poderia facilitar ataques cibernéticos
A OpenAI (empresa por trás do ChatGPT) informou que suspendeu partes do desenvolvimento do Astra, seu próximo modelo de inteligência artificial, depois de detectar riscos relacionados à segurança cibernética. Segundo informou o TechCrunch, a decisão aconteceu quando a equipe percebeu que o modelo estava aprendendo habilidades que poderiam ser usadas para identificar vulnerabilidades em sistemas de computador ou facilitar invasões.
O Astra ainda não tem data de lançamento público, mas vinha sendo desenvolvido como um modelo multimodal (que processa texto, imagem e eventualmente outros tipos de dados ao mesmo tempo). A empresa não detalhou quais recursos específicos foram pausados, mas afirmou que continuará desenvolvendo outras partes do modelo enquanto trabalha em camadas de proteção mais robustas.
A pausa faz parte de um protocolo interno da OpenAI chamado de Preparedness Framework (estrutura de preparação), criado em 2023 para avaliar riscos antes de lançar novos modelos. A empresa classifica as capacidades potencialmente perigosas em categorias como segurança cibernética, persuasão, geração de armas biológicas e autonomia dos sistemas (a capacidade de um modelo agir sozinho, sem supervisão humana).
O episódio acontece num momento em que a indústria de IA enfrenta pressão crescente de governos e da sociedade civil para tornar os modelos mais seguros. Nos últimos meses, empresas concorrentes como Anthropic (criadora do Claude) e Google também anunciaram ferramentas e processos para detectar e mitigar riscos antes do lançamento de novos sistemas. A OpenAI não informou quando pretende retomar o desenvolvimento completo do Astra.
