Aliança aberta de IA da Nvidia já tem propostas de segurança — uma semana depois de criada
Grupo criado pela fabricante de chips reúne mais de 120 empresas e divulgou primeiras diretrizes para proteger sistemas contra agentes de IA mal-intencionados.
A Open Secure AI Alliance (Aliança Aberta de IA Segura, em tradução livre), grupo do setor liderado pela Nvidia (fabricante norte-americana de chips usados para treinar e rodar modelos de inteligência artificial), completou uma semana de existência e já divulgou suas primeiras propostas técnicas. O foco inicial: criar defesas contra agentes de IA (programas autônomos que executam tarefas sem supervisão humana constante) que possam ser usados de forma maliciosa.
Formada oficialmente no fim de julho, a aliança já reúne mais de 120 empresas — um crescimento rápido que reflete a urgência do setor em estabelecer padrões de segurança antes que reguladores imponham regras mais rígidas. Segundo informou o TechCrunch, as propostas incluem protocolos para identificar comportamentos anômalos em agentes de IA e limitar o acesso desses sistemas a informações sensíveis.
A velocidade da iniciativa contrasta com o ritmo habitual de consórcios do tipo, que costumam levar meses para produzir documentos iniciais. A Nvidia, que domina o mercado de GPUs (chips gráficos especializados em cálculos paralelos, essenciais para IA), tem interesse direto em moldar os debates sobre segurança: quanto mais confiável a tecnologia parecer, mais empresas investem em infraestrutura — e compram seus produtos.
A aliança se propõe a trabalhar com modelos de código aberto (aqueles cujos pesos e arquitetura são públicos, permitindo que qualquer pessoa os modifique ou execute localmente). Essa abordagem, defendida por parte da indústria como mais transparente e auditável, enfrenta resistência de quem argumenta que facilita o uso malicioso. As propostas divulgadas agora tentam equilibrar abertura com mecanismos de contenção de riscos.
Ainda não há detalhes sobre como as diretrizes serão implementadas na prática nem se terão adesão voluntária ou vinculante entre os membros. O grupo deve divulgar um roadmap (plano de desenvolvimento) mais completo nas próximas semanas, com foco em autenticação de modelos, rastreabilidade de saídas geradas por IA e proteção contra envenenamento de dados (técnica em que informações falsas são inseridas durante o treinamento para manipular o comportamento do modelo).
