Como um modelo de IA 'professor' ajuda a criar assistentes mais rápidos e baratos
Pesquisadores da ServiceNow mostram que modelos grandes de raciocínio podem ensinar versões menores a pensar melhor — sem precisar de dados rotulados à mão.
A ServiceNow (empresa americana de software empresarial) divulgou no blog da Hugging Face (plataforma onde desenvolvedores compartilham modelos de IA) uma técnica que pode tornar assistentes de inteligência artificial mais acessíveis. O método usa um modelo grande — chamado Apriel-H1 — para "ensinar" modelos menores a raciocinar passo a passo, sem depender de enormes conjuntos de dados rotulados por humanos.
A ideia é simples: em vez de treinar um modelo pequeno do zero com exemplos criados manualmente, os pesquisadores usam o Apriel-H1 (um LLM grande, ou modelo de linguagem de grande porte, treinado para resolver problemas mostrando cada etapa do raciocínio) para gerar automaticamente milhares de exemplos de como pensar. Esses exemplos são então usados para treinar modelos menores, num processo chamado destilação (quando um modelo "professor" transfere conhecimento para um "aluno" mais compacto).
Segundo a equipe, o Apriel-H1 consegue produzir raciocínios de alta qualidade mesmo em domínios especializados, como matemática ou programação. Isso significa que empresas ou desenvolvedores podem criar assistentes customizados sem gastar fortunas em GPUs (chips especializados em processar IA) ou em equipes para rotular dados. Os modelos resultantes rodam mais rápido, consomem menos energia e podem funcionar localmente, sem enviar informações para a nuvem.
A ServiceNow disponibilizou o Apriel-H1 na Hugging Face com pesos abertos (ou seja, qualquer pessoa pode baixar e usar o modelo sem pagar licenças). A empresa acredita que a técnica pode democratizar o acesso a IAs capazes de raciocínio complexo, hoje restritas a quem tem orçamento para rodar modelos gigantes como o GPT-4 ou o Claude. Ainda não há data para integração oficial em produtos comerciais, mas a publicação do modelo sugere que a ServiceNow aposta nessa abordagem para futuras ferramentas corporativas.
