Novos modelos da Liquid AI rodam contextos enormes em processadores comuns
Empresa lança encoders que conseguem processar até 128 mil tokens em laptops sem GPU, algo inédito para modelos do tipo.
A Liquid AI (startup fundada por ex-pesquisadores do MIT) anunciou seus novos modelos LFM2.5-Encoders, desenhados especificamente para rodar em CPUs (os processadores comuns de computador, sem precisar de placas de vídeo caras). O grande diferencial está na capacidade de lidar com contextos longos — até 128 mil tokens (unidades de texto que um modelo de IA consegue processar de uma vez) — em máquinas convencionais, segundo informou a empresa em postagem no blog da Hugging Face (uma plataforma onde desenvolvedores compartilham e baixam modelos de IA já treinados).
Os modelos vêm em três tamanhos: 40 milhões, 150 milhões e 650 milhões de parâmetros (valores ajustáveis que definem o comportamento de um modelo de IA). Todos usam uma arquitetura baseada em SSM (State Space Models, uma alternativa aos modelos Transformer tradicionais) que permite processar textos longos sem o custo computacional explosivo que GPUs (placas de vídeo especializadas em cálculos de IA) normalmente exigem. A Liquid afirma que o modelo de 650 milhões consegue processar 128 mil tokens em cerca de 30 segundos num laptop com processador Intel comum.
A empresa está disponibilizando os modelos com licença Apache 2.0 (que permite uso comercial e modificação livre) e já oferece implementações otimizadas para CPUs Intel e ARM, incluindo chips de celulares e computadores Apple. Os encoders servem principalmente para tarefas como busca semântica (encontrar trechos relevantes num texto longo), classificação de documentos e sistemas de RAG (Retrieval-Augmented Generation, técnica que combina busca em bases de dados com geração de texto por IA).
O lançamento marca um movimento contra a dependência de GPUs no setor: enquanto a maioria dos modelos de linguagem exige hardware caro para funcionar bem, a Liquid aposta que há espaço para soluções mais eficientes em contextos onde velocidade e custo importam mais que capacidade de geração criativa. Os modelos já estão disponíveis para download e testes na plataforma Hugging Face.
