Imágenes con IA cuatro veces más rápidas y sin perder calidad en el móvil
Hugging Face integra Nunchaku, una técnica que acelera la generación de imágenes con modelos de difusión usando cuantización a 4 bits, ideal para dispositivos con recursos limitados.
Hugging Face (una plataforma donde desarrolladores comparten y descargan modelos de IA ya entrenados) acaba de integrar Nunchaku en Diffusers, su biblioteca más popular para trabajar con modelos de difusión (los algoritmos que generan imágenes a partir de texto, como DALL-E o Stable Diffusion). La novedad permite ejecutar estos modelos hasta cuatro veces más rápido en dispositivos con poca memoria, como teléfonos móviles o tarjetas gráficas de gama media, sin apenas pérdida de calidad visual.
Nunchaku funciona aplicando cuantización a 4 bits (una técnica que reduce el tamaño de los números que representan el modelo, pasando de 16 bits a solo 4) específicamente a las capas de atención (las partes del modelo que deciden qué zonas de la imagen son más importantes). Según las pruebas internas de Hugging Face, un modelo como FLUX.1-dev (uno de los generadores de imágenes de código abierto más potentes del momento) pasa de requerir 34 GB de memoria RAM de vídeo a solo 9 GB, lo que lo hace ejecutable en una NVIDIA RTX 4070 o superior, en lugar de necesitar hardware profesional.
La técnica también reduce drásticamente el tiempo de generación: en una GPU NVIDIA L4 (una tarjeta de servidor de gama media), crear una imagen de 1024×1024 píxeles baja de 29 segundos a 7,6 segundos. En una A100 (una GPU de alta gama usada en centros de datos), el tiempo se reduce de 6,4 a 2,5 segundos. Los desarrolladores aseguran que la pérdida de calidad es imperceptible en la mayoría de casos prácticos, lo que abre la puerta a aplicaciones móviles y locales de generación de imágenes sin depender de la nube.
Para usar Nunchaku en Diffusers basta con instalar una dependencia adicional y cargar el modelo con un parámetro específico que activa la cuantización. Hugging Face ofrece versiones ya cuantizadas de modelos populares como FLUX.1-dev y Stable Diffusion 3.5, listas para descargar y ejecutar. La integración forma parte de un esfuerzo más amplio por democratizar el acceso a modelos generativos avanzados, permitiendo que funcionen en hardware accesible sin necesidad de servidores en la nube ni suscripciones de pago.
