Modelos de IA para criar imagens agora rodam quatro vezes mais rápido em chips comuns
Hugging Face integra técnica de quantização que reduz o tamanho dos modelos de difusão pela metade e acelera a geração de imagens sem perda visível de qualidade.
A Hugging Face (uma plataforma onde desenvolvedores compartilham e baixam modelos de IA já treinados) anunciou que integrou ao Diffusers (sua biblioteca de código aberto para gerar imagens com IA) uma técnica chamada Nunchaku, que comprime modelos de difusão (os sistemas que criam imagens a partir de texto, como Stable Diffusion) para rodar quatro vezes mais rápido em hardware comum. A novidade permite que esses modelos funcionem em placas de vídeo mais simples, como uma RTX 4060, sem exigir os chips profissionais que costumam custar milhares de dólares.
O Nunchaku usa quantização de 4 bits (um método que reduz a precisão dos números que representam o modelo, cortando pela metade o espaço que ele ocupa na memória) combinada com técnicas de kernels customizados (pequenos programas otimizados que aceleram cálculos específicos na GPU, a unidade de processamento gráfico da placa de vídeo). Na prática, isso significa que um modelo como o FLUX.1-dev, que antes precisava de 24 GB de memória de vídeo para rodar, agora cabe em 12 GB — e gera imagens em menos de 4 segundos em vez de 16.
Segundo os testes divulgados pela Hugging Face, a perda de qualidade visual é mínima: a diferença de pontuação em métricas como FID (Fréchet Inception Distance, um índice que mede o quanto as imagens geradas se parecem com fotos reais) fica em torno de 1%, enquanto métricas de alinhamento texto-imagem, como CLIP (um modelo que avalia se a imagem corresponde à descrição), permanecem praticamente iguais. A empresa comparou a técnica com outras abordagens de compressão, como NF4 e GGUF, e mostrou que o Nunchaku é até três vezes mais rápido em cenários de uso real.
A integração já está disponível na biblioteca Diffusers e funciona com modelos populares como FLUX.1, Stable Diffusion 3.5 e Mochi (um modelo de vídeo). Para usar, basta instalar a versão mais recente do Diffusers e carregar os modelos quantizados diretamente do repositório da Hugging Face com uma linha de código — a documentação oficial traz exemplos prontos. A técnica também é compatível com LoRAs (pequenos ajustes que personalizam o estilo do modelo) e pode ser combinada com outras otimizações, como Quanto (outra biblioteca de quantização da Hugging Face) e torch.compile (um recurso do PyTorch que acelera a execução de modelos).
Para quem desenvolve aplicações de geração de imagens, a novidade significa que é possível rodar modelos de ponta em servidores mais baratos ou até em computadores pessoais potentes, sem depender de nuvem ou de equipamentos profissionais. A Hugging Face liberou os modelos quantizados em seu repositório e está incentivando a comunidade a testar e reportar resultados — a expectativa é que a técnica também seja aplicada a modelos de vídeo e outras arquiteturas de difusão nos próximos meses.
