Hugging Face lanza un sistema para clonar voces solo con consentimiento explícito
La plataforma implementa una verificación técnica que obliga a quien quiera usar un modelo de clonación de voz a demostrar que tiene permiso de la persona cuya voz va a copiar.
Hugging Face (una plataforma donde desarrolladores comparten y descargan modelos de inteligencia artificial ya entrenados) acaba de presentar Voice Consent Gate, un mecanismo técnico diseñado para evitar que cualquiera pueda clonar la voz de otra persona sin su permiso. Según informó la compañía en su blog oficial, el sistema funciona como una cerradura digital: para usar un modelo de clonación de voz (un programa de IA que aprende a imitar la forma de hablar de alguien), primero hay que pasar una prueba que demuestre que se tiene autorización de esa persona.
La verificación consiste en grabar un audio donde la persona dice una frase específica generada al azar por el sistema. Ese audio se analiza mediante embeddings de voz (representaciones matemáticas que capturan las características únicas de cómo habla alguien, como su timbre o entonación) y se compara con la voz que se quiere clonar. Solo si coinciden, el modelo se desbloquea. El proceso está pensado para ser rápido —basta con unos segundos de grabación— pero lo suficientemente robusto como para evitar suplantaciones con audios pregrabados o manipulados.
Hugging Face ya ha aplicado este sistema a dos de sus modelos más descargados: Parler-TTS Mini (un modelo de síntesis de voz que puede generar habla con distintos acentos y estilos) y MetaVoice (especializado en clonar voces con alta fidelidad). Ambos están ahora marcados como "gated" (con acceso restringido) en la plataforma, lo que significa que nadie puede usarlos sin pasar antes por la verificación de consentimiento. La empresa asegura que este enfoque no solo protege a las personas de usos no autorizados, sino que también ayuda a los desarrolladores a cumplir con normativas emergentes sobre IA y derechos de imagen.
El anuncio llega en un momento de creciente preocupación por el uso fraudulento de la clonación de voz, desde estafas telefónicas hasta deepfakes (vídeos o audios manipulados con IA que parecen reales) con fines de desinformación. Aunque Voice Consent Gate no puede evitar que alguien entrene su propio modelo de clonación fuera de Hugging Face, sí establece un estándar técnico que otras plataformas podrían adoptar. La compañía ofrece el código como open source (de código abierto, disponible para que cualquiera lo use o modifique) y anima a otros repositorios de modelos a implementar controles similares.
