Nova ferramenta promete treinar modelos de IA 20 vezes mais rápido
RapidFire AI acelera o ajuste fino de modelos de linguagem usando GPUs da Nvidia sem mudanças no código, segundo a Hugging Face
A Hugging Face (plataforma onde desenvolvedores compartilham e baixam modelos de IA já treinados) anunciou uma parceria com a RapidFire AI que promete acelerar em até 20 vezes o treinamento de modelos de linguagem. A tecnologia funciona com a biblioteca TRL (Transformer Reinforcement Learning, um conjunto de ferramentas para treinar modelos de IA com base em feedback humano) e não exige que programadores mudem uma linha sequer do código que já usam.
O ganho de velocidade vem de otimizações profundas no modo como as GPUs da Nvidia (chips especializados em processar cálculos de IA) executam operações matemáticas durante o fine-tuning (processo de ajustar um modelo já treinado para tarefas específicas). A RapidFire AI desenvolveu kernels customizados — pequenos programas que rodam diretamente no hardware — que substituem operações padrão por versões mais eficientes, aproveitando melhor a memória e os núcleos de processamento das placas de vídeo.
Nos testes divulgados pela Hugging Face, treinar o modelo Llama 3.1 de 8 bilhões de parâmetros (números que o modelo ajusta durante o aprendizado para melhorar suas respostas) com a técnica ORPO (um método de treinamento que combina aprendizado supervisionado e por preferência) ficou 19,6 vezes mais rápido em uma GPU H100. O tempo caiu de cerca de 26 horas para pouco mais de uma hora, mantendo a mesma qualidade final do modelo.
A integração já está disponível para quem usa a TRL. Basta instalar a biblioteca da RapidFire AI e ativar a aceleração com um parâmetro simples ao rodar o script de treinamento. A empresa afirma que a tecnologia funciona tanto em máquinas locais quanto em serviços de nuvem que oferecem GPUs Nvidia, e planeja expandir o suporte para outros tipos de hardware no futuro.
