Ao vivo
[Pesquisa]Como o Ai2 resolveu a briga por GPUs com orçamentos em vez de fila de prioridade[Ferramentas]Como criar modelos de IA personalizados por menos de US$ 20 usando um agente automatizado[Modelos de IA]Liquid AI lança modelos de IA que tomam decisões em milissegundos — e funcionam em celulares[Modelos de IA]TII lança Falcon ASR, modelo de transcrição de áudio aberto que roda em hardware comum[Modelos de IA]Nvidia mostra que um único modelo de IA pode chegar ao pódio tanto em programação quanto em matemática avançada[Modelos de IA]Falcon-Emirati: o modelo de IA que aprendeu a falar árabe como um emiradense de verdade[Ferramentas]Hugging Face cria repositório central para ambientes de IA que aprendem por tentativa e erro[Ferramentas]O agente de IA disse que terminou. O banco de dados discordou.[Modelos de IA]Instituto Allen lança modelo de IA aberto para escrever relatórios científicos em segundos[Pesquisa]Como a ServiceNow cria dados de treino que ensinam agentes de IA a funcionar dentro de empresas[Pesquisa]Como o Ai2 resolveu a briga por GPUs com orçamentos em vez de fila de prioridade[Ferramentas]Como criar modelos de IA personalizados por menos de US$ 20 usando um agente automatizado[Modelos de IA]Liquid AI lança modelos de IA que tomam decisões em milissegundos — e funcionam em celulares[Modelos de IA]TII lança Falcon ASR, modelo de transcrição de áudio aberto que roda em hardware comum[Modelos de IA]Nvidia mostra que um único modelo de IA pode chegar ao pódio tanto em programação quanto em matemática avançada[Modelos de IA]Falcon-Emirati: o modelo de IA que aprendeu a falar árabe como um emiradense de verdade[Ferramentas]Hugging Face cria repositório central para ambientes de IA que aprendem por tentativa e erro[Ferramentas]O agente de IA disse que terminou. O banco de dados discordou.[Modelos de IA]Instituto Allen lança modelo de IA aberto para escrever relatórios científicos em segundos[Pesquisa]Como a ServiceNow cria dados de treino que ensinam agentes de IA a funcionar dentro de empresas
Transmitindo · —
ESPT-BR

Notícias.
Inteligência Artificial

Inteligência Artificial para Gente de Verdade · ES / PT-BR

Modelos de IAHugging Face Blog2 min

Novos modelos da Liquid AI rodam contextos enormes em processadores comuns

Empresa lança encoders que conseguem processar até 128 mil tokens em laptops sem GPU, algo inédito para modelos do tipo.

Por Redação2 min
Compartilhar
Novos modelos da Liquid AI rodam contextos enormes em processadores comuns
Modelos de IA · Hugging Face Blog

A Liquid AI (startup fundada por ex-pesquisadores do MIT) anunciou seus novos modelos LFM2.5-Encoders, desenhados especificamente para rodar em CPUs (os processadores comuns de computador, sem precisar de placas de vídeo caras). O grande diferencial está na capacidade de lidar com contextos longos — até 128 mil tokens (unidades de texto que um modelo de IA consegue processar de uma vez) — em máquinas convencionais, segundo informou a empresa em postagem no blog da Hugging Face (uma plataforma onde desenvolvedores compartilham e baixam modelos de IA já treinados).

Os modelos vêm em três tamanhos: 40 milhões, 150 milhões e 650 milhões de parâmetros (valores ajustáveis que definem o comportamento de um modelo de IA). Todos usam uma arquitetura baseada em SSM (State Space Models, uma alternativa aos modelos Transformer tradicionais) que permite processar textos longos sem o custo computacional explosivo que GPUs (placas de vídeo especializadas em cálculos de IA) normalmente exigem. A Liquid afirma que o modelo de 650 milhões consegue processar 128 mil tokens em cerca de 30 segundos num laptop com processador Intel comum.

A empresa está disponibilizando os modelos com licença Apache 2.0 (que permite uso comercial e modificação livre) e já oferece implementações otimizadas para CPUs Intel e ARM, incluindo chips de celulares e computadores Apple. Os encoders servem principalmente para tarefas como busca semântica (encontrar trechos relevantes num texto longo), classificação de documentos e sistemas de RAG (Retrieval-Augmented Generation, técnica que combina busca em bases de dados com geração de texto por IA).

O lançamento marca um movimento contra a dependência de GPUs no setor: enquanto a maioria dos modelos de linguagem exige hardware caro para funcionar bem, a Liquid aposta que há espaço para soluções mais eficientes em contextos onde velocidade e custo importam mais que capacidade de geração criativa. Os modelos já estão disponíveis para download e testes na plataforma Hugging Face.

Fonte original
Hugging Face Blog
Etiquetas
Mais em · Modelos de IA