Servidor da Google Cloud roda modelos de IA de código aberto com 70% menos custo
Intel e Hugging Face mostram que é possível rodar grandes modelos de linguagem em CPUs comuns, sem depender de placas gráficas caras
A Intel, em parceria com a Hugging Face (uma plataforma onde desenvolvedores compartilham e baixam modelos de IA já treinados), demonstrou que é possível rodar grandes modelos de linguagem de código aberto com 70% menos custo total de propriedade usando servidores tradicionais da Google Cloud. O teste foi feito com a linha C4, equipada com processadores Intel Xeon (chips de servidor comuns, usados em datacenters do mundo inteiro), em vez das GPUs (placas gráficas especializadas em cálculos de IA, muito mais caras) que costumam ser exigidas para esse tipo de tarefa.
O experimento rodou modelos como o Llama 3.1 (um LLM de pesos abertos desenvolvido pela Meta, ou seja, um grande modelo de linguagem cujo código e parâmetros internos podem ser baixados e modificados por qualquer um) e o Qwen (outro modelo de linguagem criado pela chinesa Alibaba). Os engenheiros usaram técnicas de otimização como quantização (reduzir a precisão dos números internos do modelo para economizar memória e acelerar cálculos) e kernels personalizados (pequenos programas que fazem o processador executar operações de IA de forma mais eficiente).
Segundo informou a Hugging Face em seu blog oficial, o custo por token gerado (a menor unidade de texto que um modelo processa, equivalente a cerca de quatro letras) caiu drasticamente em comparação com arquiteturas baseadas apenas em GPU. A empresa argumenta que, para muitas aplicações do mundo real — como chatbots corporativos, assistentes de atendimento ao cliente ou sistemas de análise de documentos —, a velocidade de resposta de uma CPU moderna já é suficiente, e o investimento em hardware especializado acaba sendo desnecessário.
A demonstração faz parte de um esforço mais amplo da Intel para reconquistar espaço no mercado de IA, dominado hoje por fabricantes de GPU como a Nvidia. Para empresas e startups que querem rodar seus próprios modelos sem depender de serviços de nuvem pagos por uso (como o ChatGPT da OpenAI ou o Claude da Anthropic), a possibilidade de usar servidores comuns pode representar uma diferença enorme de custo — especialmente em países como o Brasil, onde o dólar alto encarece qualquer infraestrutura importada.
