Anthropic detalha como vão funcionar as marcas d'água do Claude
A empresa explicou como seu sistema identifica textos gerados por IA, o que resiste e o que não resiste a edições.
A Anthropic explicou que as marcas d'água do Claude (um assistente de IA do tipo chatbot) funcionam inserindo padrões estatísticos invisíveis no texto gerado. O sistema resiste a edições leves, mas reescritas profundas podem apagá-lo. Código de programação receberá marcação diferente para não quebrar a funcionalidade.
A Anthropic (a empresa que criou o Claude, um assistente de IA do tipo chatbot) divulgou novos detalhes sobre o sistema de marcas d'água que planeja implementar em seu modelo. Segundo informou a TechCrunch AI, a tecnologia funciona inserindo padrões estatísticos sutis durante a geração de texto — algo como uma assinatura invisível que identifica o conteúdo como produzido por IA.
A principal dúvida é se essas marcas resistem a edições. A Anthropic afirma que o sistema foi projetado para sobreviver a mudanças leves, como correções gramaticais ou troca de palavras isoladas. Porém, reescritas profundas ou paráfrases extensas (quando alguém reformula o texto com suas próprias palavras mantendo apenas as ideias) podem eliminar ou enfraquecer a marca d'água a ponto de torná-la indetectável.
Outra questão importante envolve código de programação. A empresa reconhece que marcar código é mais complicado do que marcar texto corrido, já que programas precisam funcionar de forma exata — qualquer alteração aleatória pode quebrar o funcionamento. Por isso, o sistema de marcas d'água será aplicado de forma diferente em respostas que contêm código, com ajustes que preservem a funcionalidade enquanto ainda permitem algum nível de rastreamento.
A Anthropic não informou quando a funcionalidade estará disponível para todos os usuários do Claude, mas já sinalizou que pretende torná-la padrão em versões futuras do modelo. A iniciativa faz parte de um movimento maior da indústria de IA para aumentar a transparência e permitir que pessoas identifiquem conteúdo gerado por máquinas — especialmente diante de preocupações com desinformação e plágio acadêmico.
