Por que deixar a IA aberta pode ser mais seguro do que trancá-la a sete chaves
Hugging Face defende que modelos de inteligência artificial com código e pesos abertos tornam a cibersegurança mais forte, não mais frágil.
A Hugging Face (uma plataforma onde desenvolvedores do mundo inteiro compartilham e baixam modelos de IA já treinados) publicou um manifesto defendendo que a abertura dos modelos de inteligência artificial torna os sistemas mais seguros, não menos. O argumento vai contra a visão de que modelos com pesos abertos (ou seja, aqueles cujos parâmetros internos podem ser baixados e modificados por qualquer pessoa) representam um risco maior de segurança digital.
Segundo a empresa, a história da cibersegurança mostra que sistemas fechados e secretos costumam acumular vulnerabilidades invisíveis até que alguém as explore de forma devastadora. Já sistemas abertos, auditáveis por milhares de especialistas independentes, tendem a ter falhas detectadas e corrigidas muito mais rapidamente. A mesma lógica, argumenta a Hugging Face, se aplica aos modelos de IA: quanto mais gente puder examinar, testar e melhorar um modelo, mais difícil será que brechas graves passem despercebidas.
A plataforma também argumenta que restringir o acesso a modelos de IA não impede que atores mal-intencionados os usem — apenas concentra o poder nas mãos de poucas empresas e dificulta que pesquisadores, governos e organizações da sociedade civil desenvolvam defesas próprias. Para a Hugging Face, a segurança digital futura depende de uma comunidade global capaz de entender, auditar e adaptar os modelos aos contextos locais, especialmente em países que não têm recursos para treinar IA do zero.
O texto reconhece que a abertura traz desafios reais: modelos abertos podem ser usados para criar malware (programas maliciosos que infectam computadores), gerar phishing (mensagens falsas que enganam vítimas para roubar dados) mais convincente ou automatizar ataques cibernéticos. Mas, para a empresa, a resposta não é fechar os modelos, e sim investir em ferramentas de detecção de código malicioso, melhorar a educação digital e criar camadas de defesa que não dependam de manter a IA trancada.
A discussão chega em momento delicado: enquanto a União Europeia avança com regras que podem restringir modelos de pesos abertos sob o argumento da segurança, empresas como Meta e Mistral têm defendido publicamente a abertura como estratégia de inovação e controle descentralizado. A Hugging Face deixa claro de que lado está — e aposta que a história da internet, construída sobre padrões abertos e software livre, dará razão a essa escolha também no campo da inteligência artificial.
