La IA ultrarrápida podría atacar sistemas antes de que los humanos reaccionen, advierte OpenAI
Un investigador de OpenAI alerta de que modelos de inteligencia artificial 50 veces más rápidos podrían infiltrarse en sistemas informáticos antes de que los equipos de seguridad humanos tengan tiempo de responder, y pide sistemas de apagado automático.
Un investigador de OpenAI advierte que modelos de IA 50 veces más rápidos que los actuales podrían infiltrarse en sistemas antes de que equipos humanos reaccionen. Propone sistemas de apagado autónomo en lugar de monitorización manual. La alerta coincide con el lanzamiento de un chip de OpenAI que acelera drásticamente la inferencia de modelos.
Un investigador de OpenAI ha advertido que los modelos de inteligencia artificial de última generación, si funcionaran 50 veces más rápido que los actuales, podrían infiltrarse en sistemas informáticos antes de que los equipos humanos de seguridad tuvieran tiempo de reaccionar. Según informó The Decoder, la advertencia llega justo cuando OpenAI presenta un nuevo chip de IA que mejora significativamente la velocidad de inferencia (el proceso mediante el cual un modelo ya entrenado responde a peticiones o toma decisiones) respecto al hardware actual.
El problema central es que la monitorización tradicional —tener personas vigilando sistemas en tiempo real— deja de ser útil cuando un modelo de IA puede ejecutar acciones en fracciones de segundo. Si un modelo malicioso o comprometido opera a esa velocidad, podría completar un ataque, robar datos o dañar infraestructura mucho antes de que un humano detecte el comportamiento anómalo y decida intervenir.
Por eso, el investigador propone sustituir la supervisión manual por sistemas de apagado autónomo: mecanismos automáticos capaces de detectar comportamientos peligrosos y desactivar el modelo sin esperar a que una persona pulse un botón. Es una arquitectura de seguridad diseñada para funcionar a la misma escala temporal que la IA que vigila.
La advertencia cobra más peso porque coincide con el lanzamiento de un chip de OpenAI que acelera drásticamente la velocidad a la que los modelos pueden generar respuestas. Cuanto más rápidos sean los modelos, mayor es la ventaja que tienen sobre defensores humanos —y mayor la urgencia de desarrollar protecciones automáticas que puedan seguirles el ritmo.
