Hugging Face y JFrog se alían para hacer más transparente la seguridad en inteligencia artificial
Las dos plataformas integran sus sistemas para que los desarrolladores puedan detectar vulnerabilidades en modelos de IA de forma automática, igual que ya se hace con el código tradicional.
Hugging Face y JFrog han integrado sus plataformas para que los desarrolladores puedan escanear automáticamente modelos de IA en busca de vulnerabilidades, problemas de licencias y riesgos de seguridad, del mismo modo que ya se revisa código convencional. La funcionalidad estará disponible en JFrog Artifactory en las próximas semanas.
Hugging Face (una plataforma donde desarrolladores comparten y descargan modelos de IA ya entrenados) y JFrog (una empresa especializada en gestionar el ciclo de vida del software y detectar vulnerabilidades de seguridad) han anunciado una alianza para facilitar el escaneo automático de modelos de inteligencia artificial en busca de problemas de seguridad. Hasta ahora, las herramientas que revisan código en busca de fallos de seguridad no estaban pensadas para inspeccionar modelos de IA, que tienen una estructura muy distinta a la de un programa convencional.
La integración permitirá que los desarrolladores que usan JFrog Artifactory (una herramienta que almacena y organiza componentes de software dentro de las empresas) puedan escanear automáticamente los modelos que descarguen de Hugging Face. El sistema detectará vulnerabilidades conocidas, problemas de licencias y posibles riesgos de seguridad, del mismo modo que ya se hace con librerías de código tradicionales. Según ambas compañías, el objetivo es que revisar la seguridad de un modelo de IA sea tan rutinario como revisar la de cualquier otra pieza de software antes de integrarla en un producto.
Hugging Face ya ofrece herramientas propias de escaneo de seguridad, pero esta colaboración lleva esas capacidades directamente al flujo de trabajo de equipos que ya usan JFrog en sus procesos de desarrollo. La idea es que un equipo de ingeniería no tenga que cambiar de plataforma ni aprender nuevas herramientas: el escaneo de modelos se integrará en el mismo panel donde ya revisan el resto de su software. JFrog ha confirmado que la funcionalidad estará disponible en las próximas semanas, aunque aún no ha dado una fecha exacta.
El anuncio llega en un momento en que la industria está empezando a tomarse en serio la seguridad de los modelos de IA. A diferencia del código convencional, un modelo puede contener datos sensibles filtrados durante su entrenamiento, puede ser manipulado para producir respuestas peligrosas o puede incluir vulnerabilidades heredadas de los datos con los que fue entrenado. Hasta ahora, muchas empresas adoptaban modelos sin un proceso claro de auditoría, algo que tanto Hugging Face como JFrog consideran insostenible a medida que la IA se integra en productos críticos.
