Como enviar trilhões de parâmetros sem quebrar a internet: a nova técnica da Hugging Face
A sincronização delta permite compartilhar modelos gigantes de IA enviando apenas as diferenças em relação a versões públicas, economizando tempo e banda.
Treinar um modelo de inteligência artificial do zero pode custar milhões de dólares, mas ajustar um modelo existente para uma tarefa específica — um processo chamado fine-tuning — é bem mais barato. O problema é que, até agora, compartilhar o resultado desse ajuste significava enviar o modelo inteiro para a nuvem, mesmo que você tivesse alterado apenas uma fração dos seus parâmetros (os números que definem como o modelo funciona). A Hugging Face (uma plataforma onde desenvolvedores compartilham e baixam modelos de IA já treinados) acaba de lançar uma solução para isso: a sincronização delta, ou delta weight sync, que envia apenas as diferenças entre o modelo ajustado e a versão original.
A técnica funciona assim: em vez de enviar todos os pesos (os valores numéricos que compõem o modelo), o sistema calcula a diferença entre o modelo original e o ajustado, envia só essa diferença para a nuvem e, quando alguém for baixar, reconstrói o modelo completo somando a diferença à versão base. Na prática, segundo informou a Hugging Face em seu blog oficial, isso pode reduzir uploads de 140 gigabytes para apenas 258 megabytes — uma economia de mais de 99% em alguns casos. A tecnologia já está disponível na biblioteca TRL (Transformer Reinforcement Learning, uma ferramenta de código aberto para treinar modelos de linguagem com reforço), e qualquer desenvolvedor pode ativá-la com uma linha de código.
A novidade é especialmente útil para quem trabalha com modelos muito grandes, como o Llama 3.1 de 405 bilhões de parâmetros (um dos maiores modelos de linguagem abertos disponíveis, criado pela Meta). Enviar uma versão ajustada desse modelo pela internet levaria horas ou dias; com a sincronização delta, o processo se torna viável até em conexões domésticas. A Hugging Face também garante que o sistema é compatível com diferentes formatos de quantização (técnicas que comprimem modelos para rodar em hardware mais simples) e funciona tanto com LoRA (Low-Rank Adaptation, um método popular de fine-tuning que ajusta apenas partes específicas do modelo) quanto com ajustes completos.
Por enquanto, a sincronização delta só funciona quando o modelo base já está hospedado na própria Hugging Face — se você ajustou um modelo que não está lá, ainda precisa enviar tudo. Mas a equipe promete expandir o suporte para outros repositórios no futuro. A tecnologia é um passo importante para tornar o compartilhamento de modelos de IA mais sustentável e acessível, especialmente em regiões com internet mais lenta ou cara, como o Brasil.
