Anthropic explica cómo funcionarán las marcas de agua invisibles en Claude
La compañía detalla el sistema que permitirá identificar textos generados por su chatbot, incluso si se editan ligeramente
Anthropic introducirá marcas de agua estadísticas invisibles en los textos que genere Claude (su chatbot de IA). Estas marcas, tejidas en la elección de palabras, resisten ediciones ligeras pero pueden debilitarse con reescrituras profundas. La empresa aún no aclara si se aplicarán también al código de programación que genere el modelo.
Anthropic (la empresa creadora de Claude, uno de los chatbots de inteligencia artificial más avanzados del mercado) ha publicado más detalles sobre cómo funcionará el sistema de marcas de agua que incorporará próximamente en su modelo. Según informó TechCrunch, estas marcas permitirán identificar si un texto fue generado por Claude, incluso cuando el contenido haya sido modificado después.
El sistema funciona insertando patrones estadísticos imperceptibles en la secuencia de palabras que genera el modelo. A diferencia de una firma digital tradicional, estas marcas de agua no son un trozo de código o metadato que se pueda eliminar fácilmente: están tejidas en la propia estructura del texto a través de elecciones sutiles entre palabras equivalentes. Una herramienta de detección podrá entonces analizar un texto y calcular la probabilidad de que contenga ese patrón característico de Claude.
¿Se puede burlar con edición manual? Anthropic reconoce que modificar sustancialmente el texto —reescribir frases enteras, cambiar el orden de las ideas— puede debilitar o eliminar la marca de agua. Sin embargo, cambios superficiales como corregir erratas, añadir un par de frases o cambiar palabras sueltas no bastan para hacerla desaparecer por completo. La empresa asegura que el sistema está diseñado para resistir ediciones ligeras, que son las más comunes cuando alguien usa un chatbot como punto de partida.
El caso del código es especialmente delicado. Cuando Claude genera código de programación, las marcas de agua podrían introducirse mediante decisiones como el nombre de variables, el estilo de formateo o comentarios. Pero aquí el problema es mayor: el código suele editarse y reorganizarse constantemente, y además tiene que funcionar de forma exacta —un patrón de marca de agua mal diseñado podría afectar la legibilidad o incluso introducir errores—. Anthropic aún no ha especificado si las marcas de agua se aplicarán también a las respuestas de código o si ese caso quedará excluido inicialmente.
La medida llega en un momento en que la procedencia del contenido generado por IA es un debate central, desde aulas que intentan detectar trabajos escritos por chatbots hasta redacciones que buscan distinguir noticias falsas fabricadas con modelos de lenguaje. Otras empresas como OpenAI (creadora de ChatGPT, el chatbot que popularizó esta tecnología) también han explorado sistemas similares, aunque ninguna ha implementado marcas de agua de forma generalizada hasta ahora. La efectividad real del sistema de Anthropic se medirá cuando entre en funcionamiento y usuarios malintencionados —o simplemente curiosos— intenten evadirlo.
