Por qué la IA abierta es más segura contra ciberataques que los modelos cerrados
Hugging Face defiende que compartir el código y los pesos de los modelos de inteligencia artificial no facilita los hackeos, sino que ayuda a detectar vulnerabilidades más rápido.
La empresa Hugging Face (una plataforma donde desarrolladores comparten y descargan modelos de IA ya entrenados) publicó un informe defendiendo que los modelos de inteligencia artificial de código abierto son más seguros frente a ciberataques que los sistemas cerrados de empresas como OpenAI o Anthropic. El argumento central es que cuando miles de investigadores pueden examinar el código y los pesos del modelo (los parámetros numéricos que determinan cómo funciona la IA tras su entrenamiento), las vulnerabilidades se descubren y corrigen más rápido que en sistemas privados donde solo un equipo interno puede revisarlos.
Según el documento, la preocupación de que publicar modelos abiertos facilite que hackers diseñen ataques más sofisticados no tiene base empírica sólida. Hugging Face señala que los ciberdelincuentes ya cuentan con recursos suficientes —desde LLMs comerciales (modelos de lenguaje grandes, como ChatGPT) hasta herramientas tradicionales de hacking— y que restringir el acceso a modelos no reduce significativamente el riesgo. En cambio, la transparencia permite que la comunidad de ciberseguridad identifique fallos como el prompt injection (técnicas para manipular las instrucciones de un modelo y hacerle producir respuestas peligrosas o revelar datos privados) antes de que sean explotados a gran escala.
El informe cita el caso del protocolo de cifrado SSL/TLS, estándar abierto que protege la mayoría del tráfico en internet. A pesar de ser público, su seguridad ha mejorado con los años gracias a la revisión constante de expertos externos, mientras que sistemas de seguridad cerrados han sufrido brechas graves precisamente por falta de escrutinio independiente. Hugging Face argumenta que la IA debería seguir ese mismo camino: más ojos revisando el código significan menos puntos ciegos para los atacantes.
La postura no es desinteresada —Hugging Face construyó su negocio sobre modelos abiertos— pero coincide con declaraciones recientes de investigadores en ciberseguridad que advierten contra la «seguridad por oscuridad», la idea de que ocultar información sobre cómo funciona un sistema lo hace más difícil de atacar. Varios estudios recientes muestran que los modelos cerrados también son vulnerables a técnicas de jailbreak (métodos para saltarse las restricciones de seguridad impuestas por los desarrolladores) y que mantenerlos privados solo retrasa, sin eliminar, la aparición de exploits (códigos que aprovechan una vulnerabilidad específica).
El debate llega en un momento clave: reguladores en Europa y Estados Unidos están definiendo qué requisitos de seguridad imponer a los sistemas de IA. Si las normativas favorecen modelos cerrados por considerarlos «más seguros», empresas como Hugging Face, Meta (que publicó su familia de modelos Llama con pesos abiertos) o Stability AI perderían terreno frente a competidores como Google o Microsoft. El documento es, en parte, un intento de influir en ese proceso normativo antes de que las reglas queden escritas.
