OpenAI prepara un sistema de seguridad que detecta usos indebidos sin guardar datos de clientes
La compañía quiere ofrecer sus modelos más avanzados a empresas garantizando privacidad total, pero manteniendo controles contra abusos.
OpenAI está desarrollando un sistema que detecta usos indebidos de sus modelos de IA (como GPT-4, el modelo de lenguaje que impulsa ChatGPT) sin necesidad de almacenar los datos que envían sus clientes corporativos, usando probablemente técnicas de análisis cifrado que permiten identificar patrones sospechosos sin acceder al contenido real de las consultas.
OpenAI está desarrollando un sistema de seguridad que le permitiría detectar usos indebidos de sus modelos de inteligencia artificial más potentes sin necesidad de almacenar los datos de sus clientes corporativos, según informó The Decoder. La iniciativa busca resolver una tensión clave para empresas que quieren usar IA avanzada: cómo garantizar que sus datos confidenciales no salgan de sus propios servidores y, al mismo tiempo, cumplir con las políticas de uso responsable que exigen los desarrolladores de los modelos.
Hasta ahora, las empresas que usan la API (interfaz de programación de aplicaciones, el sistema que permite conectar software de terceros con los modelos de OpenAI) deben confiar en que OpenAI no acceda a sus consultas ni las almacene. Muchas organizaciones —especialmente en sectores regulados como sanidad, finanzas o administraciones públicas— rechazan esta opción por motivos de privacidad o cumplimiento normativo. El nuevo sistema permitiría a OpenAI analizar patrones de uso en tiempo real para identificar comportamientos sospechosos (como intentos de generar contenido ilegal o dañino) sin que los datos originales queden registrados en sus servidores.
Aunque la compañía no ha detallado públicamente cómo funcionará este mecanismo técnicamente, la aproximación más probable implica técnicas de procesamiento local o cifrado homomórfico (un método que permite analizar datos mientras permanecen encriptados, de modo que ni siquiera quien los analiza puede leerlos en claro). Esto contrasta con el enfoque actual de OpenAI, que revisa automáticamente parte del tráfico de su API para entrenar sus sistemas de moderación y mejorar sus modelos, una práctica que ha generado reticencias entre clientes empresariales.
La medida llega en un momento en que OpenAI compite directamente con Anthropic (creadora de Claude, otro modelo de lenguaje avanzado) y con opciones de código abierto como Llama de Meta, que pueden ejecutarse íntegramente dentro de la infraestructura del cliente. Ofrecer garantías estrictas de privacidad sin renunciar a la moderación podría ayudar a OpenAI a captar contratos con grandes corporaciones y gobiernos que hasta ahora han preferido soluciones completamente on-premise (instaladas en sus propios centros de datos).
OpenAI no ha confirmado cuándo estará disponible este sistema ni si formará parte de sus planes empresariales actuales o requerirá un producto separado. La compañía tampoco ha especificado qué tipos de uso indebido podría detectar sin acceso directo al contenido de las consultas, un aspecto técnico que determinará la efectividad real de la propuesta frente a alternativas que ya ofrecen privacidad total pero sin ningún tipo de supervisión.
