Los modelos de IA abiertos ya rivalizan con los más avanzados, pero sus protecciones son mucho más débiles
Un nuevo informe revela que GLM-5.2, un modelo de código abierto, se acerca en capacidad a los sistemas más potentes del sector, pero carece de las medidas de seguridad básicas.
Los modelos de inteligencia artificial de pesos abiertos (aquellos cuyo código y parámetros internos pueden descargarse y modificarse libremente) están alcanzando niveles de rendimiento comparables a los de los sistemas más avanzados del sector, pero sin las protecciones que suelen incorporar las versiones comerciales cerradas. Así lo advierte un reciente informe de SaferAI (una organización dedicada a evaluar riesgos en sistemas de IA) que analiza GLM-5.2, un modelo desarrollado por la empresa china Z.ai.
Según informó TechCrunch, GLM-5.2 muestra capacidades próximas a las de modelos considerados de frontera (los sistemas de IA más potentes y complejos disponibles en cada momento), como GPT-4 o Claude. Sin embargo, el estudio detectó que carece de filtros básicos de seguridad: no rechaza generar contenido dañino, no limita respuestas sobre temas sensibles y no incorpora mecanismos para evitar usos malintencionados.
El debate no es nuevo, pero sí cada vez más urgente. Los defensores de la IA abierta argumentan que democratizar el acceso a modelos potentes fomenta la innovación, permite auditorías independientes y evita que unas pocas empresas concentren todo el poder tecnológico. Los críticos, en cambio, advierten que distribuir sistemas tan capaces sin restricciones facilita su abuso: desde campañas de desinformación automatizadas hasta la creación de herramientas para ciberataques o la síntesis de sustancias peligrosas.
El caso de GLM-5.2 ilustra la velocidad a la que avanza esta brecha. Mientras los grandes laboratorios invierten recursos considerables en alinear sus modelos (ajustarlos para que sigan instrucciones de forma segura y rechacen peticiones dañinas), los modelos abiertos de alto rendimiento se distribuyen sin esas capas de protección. Y a diferencia de lo que ocurre con software convencional, borrar un modelo de IA una vez publicado es prácticamente imposible: cualquiera puede descargarlo, copiarlo y redistribuirlo.
SaferAI no propone prohibir los modelos abiertos, pero sí reclama estándares mínimos de seguridad antes de su publicación, especialmente cuando alcanzan capacidades de frontera. Por ahora, ni gobiernos ni la industria han logrado consenso sobre cómo regular esta carrera. Mientras tanto, modelos como GLM-5.2 seguirán apareciendo, y la distancia entre capacidad técnica y protecciones seguirá creciendo.
