Como a China está construindo modelos de IA abertos com menos recursos

Faz um ano que o DeepSeek (uma startup chinesa de inteligência artificial) surpreendeu o Vale do Silício ao lançar um modelo de IA tão capaz quanto os da OpenAI, mas treinado com uma fração dos recursos. Desde então, segundo reportou a Hugging Face (uma plataforma onde desenvolvedores compartilham e baixam modelos de IA já treinados), o ecossistema de código aberto chinês não parou de experimentar com arquiteturas alternativas — formas diferentes de organizar redes neurais que permitem fazer mais com menos.

A aposta principal está em substituir a arquitetura Transformer (o modelo clássico usado no ChatGPT e na maioria dos LLMs, sigla em inglês para modelos de linguagem de grande escala) por desenhos como o Mamba e híbridos que misturam atenção (o mecanismo que permite ao modelo "prestar atenção" em diferentes partes de um texto) com componentes mais eficientes. Empresas como a 01.AI e a MiniMax lançaram modelos que processam textos longos gastando menos memória — algo crucial quando você não tem acesso ilimitado às GPUs (chips especializados em IA) mais modernas.

Outra linha de trabalho envolve modelos MoE, ou Mixture of Experts (mistura de especialistas), que ativam apenas parte da rede neural a cada vez, em vez de usar todos os parâmetros (os "pesos" que o modelo ajustou durante o treinamento). Isso permite criar modelos enormes que rodam como se fossem pequenos. A Hugging Face destaca que laboratórios chineses também investem pesado em fine-tuning (ajuste fino de modelos já treinados para tarefas específicas) e em técnicas como o LoRA (um método que atualiza só uma pequena fração dos parâmetros, economizando tempo e processamento).

O contexto por trás dessas escolhas é geopolítico: desde 2022, os Estados Unidos restringem a exportação de chips avançados da Nvidia e da AMD para a China. Sem acesso fácil aos processadores de última geração, empresas chinesas tiveram que inovar em arquitetura de software para compensar a desvantagem no hardware. O resultado, segundo a análise, é um ecossistema de modelos abertos que prioriza eficiência, custo baixo e capacidade de rodar em infraestrutura mais modesta — características que agora também atraem desenvolvedores no resto do mundo.

A Hugging Face calcula que, nos últimos doze meses, modelos vindos da China representaram quase um terço dos lançamentos de código aberto na plataforma. Muitos deles já superam alternativas ocidentais em benchmarks (testes padronizados que medem desempenho) de raciocínio matemático e compreensão de texto longo. Para o público brasileiro, a lição é clara: a corrida da IA não se resume a quem tem mais chips — se resume a quem consegue fazer melhor uso dos que tem.