Hugging Face e VirusTotal firmam parceria para detectar malware em modelos de IA

A Hugging Face (uma plataforma onde desenvolvedores compartilham e baixam modelos de inteligência artificial já treinados) anunciou uma parceria com a VirusTotal (serviço do Google que analisa arquivos em busca de vírus e malware) para reforçar a segurança dos modelos hospedados no site. A partir de agora, todos os arquivos enviados à plataforma passam por uma verificação automática antes de ficarem disponíveis para download.

A medida responde a um risco crescente: modelos de IA podem ser alterados para incluir código malicioso sem que isso seja visível à primeira vista. Como a Hugging Face hospeda mais de um milhão de modelos — muitos deles baixados milhares de vezes por mês —, um arquivo infectado poderia comprometer sistemas em empresas, universidades e governos ao redor do mundo. Segundo a empresa, a verificação não atrasa significativamente o processo de publicação.

O escaneamento acontece em duas etapas. Primeiro, a VirusTotal analisa cada arquivo usando mais de 60 motores antivírus diferentes. Depois, os resultados ficam visíveis na página do modelo, permitindo que qualquer pessoa veja se algum antivírus detectou algo suspeito antes de fazer o download. A Hugging Face também mantém uma equipe interna que revisa manualmente os casos em que há discordância entre os scanners.

A iniciativa se soma a outras medidas de segurança já implementadas pela plataforma, como a verificação de identidade de desenvolvedores e a análise de código em busca de padrões suspeitos. Para quem usa modelos de IA em produção — seja em chatbots (assistentes virtuais baseados em texto), sistemas de reconhecimento de imagem ou qualquer outra aplicação —, a novidade reduz o risco de baixar, sem querer, um modelo que execute ações indesejadas em segundo plano.