Nvidia convierte sus centros de IA en centrales eléctricas flexibles que se adaptan a la red
La compañía demuestra que un centro de datos con miles de GPU puede ajustar su consumo en menos de un minuto cuando la red eléctrica lo necesita, sin interrumpir trabajos prioritarios, abriendo la puerta a instalaciones más grandes sin esperar nueva infraestructura.
Nvidia presentó DSX, una plataforma que permite a centros de datos ajustar su consumo eléctrico automáticamente cuando la red lo necesita y redistribuir energía entre servidores según el trabajo que estén haciendo. En pruebas reales, un centro redujo de cuatro a tres megavatios en menos de un minuto sin interrumpir tareas prioritarias, y otro procesó 24% más tokens por segundo con la misma potencia contratada.
En agosto pasado, durante una tarde calurosa en Silicon Valley, la compañía eléctrica local envió una señal a un centro de datos de Nvidia pidiendo reducir su consumo. En menos de un minuto, la instalación bajó de cuatro megavatios a tres sin que ningún operador tocara nada y sin detener ningún trabajo crítico de inteligencia artificial. Varun Sivaram, director de Emerald AI (una startup que desarrolla software para coordinar centros de datos con redes eléctricas), lo seguía por Zoom junto a su equipo: cuando vieron la caída de consumo en pantalla, todos aplaudieron. Desde entonces, según informó Nvidia en su blog oficial, la eléctrica ha enviado más de 200 señales similares y el sistema ha respondido correctamente cada vez.
El truco está en clasificar los trabajos por prioridad. El software Conductor de Emerald AI —que Nvidia integra en su plataforma DSX Flex (un conjunto de herramientas para gestionar centros de datos de IA de forma eficiente)— distingue entre tareas que pueden esperar, como entrenar modelos nuevos, y servicios críticos que deben seguir funcionando, como responder consultas de usuarios en tiempo real (lo que se llama inferencia). Cuando la red eléctrica está saturada, el sistema ralentiza o pospone automáticamente los trabajos menos urgentes y libera capacidad sin apagar nada importante. La instalación de Nvidia en Santa Clara, California, es la primera en participar comercialmente en un programa de este tipo con una compañía eléctrica estadounidense.
Pero Nvidia no solo quiere consumir menos en momentos puntuales: quiere exprimir cada vatio disponible el resto del tiempo. Lambda, un proveedor de computación en la nube que alquila GPU (los chips especializados que ejecutan modelos de IA), probó otra parte de la plataforma DSX llamada MaxLPS en un clúster de 19 servidores con GPU B200. MaxLPS monitoriza cuánta electricidad usa cada servidor en tiempo real y redistribuye la capacidad sobrante entre máquinas según el tipo de trabajo que estén haciendo —entrenar un modelo consume energía de forma distinta a generar respuestas—. Resultado: Lambda logró procesar un 24% más de tokens por segundo (los fragmentos de texto que los modelos de lenguaje generan) con el mismo presupuesto eléctrico, según datos presentados en la conferencia AI Infra Summit esta semana. Nvidia proyecta que la tecnología podría permitir instalar hasta un 40% más de GPU en futuros centros de datos sin aumentar la potencia contratada.
El objetivo final es convertir el consumo eléctrico en la métrica central de eficiencia de un centro de datos de IA, del mismo modo que los coches se miden por kilómetros por litro. Jensen Huang, fundador de Nvidia, lo resume así: una instalación de un gigavatio nunca se convertirá en una de dos gigavatios, porque ampliar la conexión eléctrica puede tardar una década. La alternativa es diseñar el centro completo —refrigeración, red interna, distribución de energía, software de gestión— como un sistema integrado en lugar de optimizar componentes sueltos. DSX incluye simuladores para planificar instalaciones antes de construirlas, arquitecturas de referencia validadas y, desde hace poco, diseños que usan corriente continua a 800 voltios en lugar de los sistemas tradicionales de menor voltaje, lo que reduce pérdidas en la conversión y permite racks más densos. Nvidia abrirá su primer centro comercial con DSX Flex completo en Manassas, Virginia: una instalación de 96 megavatios con su arquitectura más avanzada, llamada Vera Rubin, pensada para ser tan flexible con la red eléctrica como lo fue aquella tarde de agosto en California.
