Hugging Face y VirusTotal se alían para detectar malware escondido en modelos de IA
La plataforma de modelos de inteligencia artificial y el servicio de análisis de archivos de Google trabajarán juntos para evitar que se distribuyan modelos infectados.
Hugging Face (una plataforma donde desarrolladores comparten y descargan modelos de IA ya entrenados) ha anunciado una colaboración con VirusTotal (un servicio de Google que analiza archivos en busca de virus y malware) para proteger a sus usuarios de modelos de inteligencia artificial maliciosos. Según informó Hugging Face en su blog oficial, la alianza busca identificar archivos sospechosos antes de que los usuarios los descarguen y ejecuten en sus ordenadores.
El problema es real: los modelos de IA se distribuyen como archivos que pueden pesar varios gigabytes, y dentro de esos archivos es técnicamente posible esconder código malicioso. Un usuario que descarga lo que cree que es un modelo para generar texto o imágenes podría estar instalando sin saberlo un programa que roba contraseñas o toma control de su equipo. Hasta ahora, Hugging Face confiaba principalmente en que la comunidad reportara contenido sospechoso, pero esta medida añade una capa de protección automática.
A partir de ahora, cuando alguien suba un modelo a Hugging Face, los archivos pasarán por el sistema de análisis de VirusTotal, que los compara contra decenas de antivirus y bases de datos de amenazas conocidas. Si se detecta algo sospechoso, el modelo será marcado y los usuarios recibirán una advertencia antes de descargarlo. La integración también permitirá a Hugging Face identificar patrones de ataque y mejorar sus sistemas de moderación.
La colaboración llega en un momento en que la seguridad en IA preocupa cada vez más. A medida que más empresas y desarrolladores independientes comparten modelos abiertos (es decir, que cualquiera puede descargar y usar sin pagar licencias), crece también el riesgo de que actores maliciosos aprovechen esa apertura para distribuir amenazas. Hugging Face aloja más de un millón de modelos, y aunque la mayoría son legítimos, basta un puñado de archivos infectados para causar problemas graves.
Para los usuarios, el cambio será prácticamente invisible: seguirán descargando modelos como hasta ahora, pero con una red de seguridad adicional funcionando en segundo plano. Hugging Face no ha detallado si planea aplicar el análisis de forma retroactiva a los modelos ya subidos a la plataforma, aunque ha confirmado que la integración con VirusTotal ya está activa para nuevas cargas. La medida refuerza la posición de Hugging Face como intermediario responsable en el ecosistema de IA abierta, un rol cada vez más delicado a medida que la tecnología se populariza.
