Ao vivo
[Pesquisa]Como o Ai2 resolveu a briga por GPUs com orçamentos em vez de fila de prioridade[Ferramentas]Como criar modelos de IA personalizados por menos de US$ 20 usando um agente automatizado[Modelos de IA]Liquid AI lança modelos de IA que tomam decisões em milissegundos — e funcionam em celulares[Modelos de IA]TII lança Falcon ASR, modelo de transcrição de áudio aberto que roda em hardware comum[Modelos de IA]Nvidia mostra que um único modelo de IA pode chegar ao pódio tanto em programação quanto em matemática avançada[Modelos de IA]Falcon-Emirati: o modelo de IA que aprendeu a falar árabe como um emiradense de verdade[Ferramentas]Hugging Face cria repositório central para ambientes de IA que aprendem por tentativa e erro[Ferramentas]O agente de IA disse que terminou. O banco de dados discordou.[Modelos de IA]Instituto Allen lança modelo de IA aberto para escrever relatórios científicos em segundos[Pesquisa]Como a ServiceNow cria dados de treino que ensinam agentes de IA a funcionar dentro de empresas[Pesquisa]Como o Ai2 resolveu a briga por GPUs com orçamentos em vez de fila de prioridade[Ferramentas]Como criar modelos de IA personalizados por menos de US$ 20 usando um agente automatizado[Modelos de IA]Liquid AI lança modelos de IA que tomam decisões em milissegundos — e funcionam em celulares[Modelos de IA]TII lança Falcon ASR, modelo de transcrição de áudio aberto que roda em hardware comum[Modelos de IA]Nvidia mostra que um único modelo de IA pode chegar ao pódio tanto em programação quanto em matemática avançada[Modelos de IA]Falcon-Emirati: o modelo de IA que aprendeu a falar árabe como um emiradense de verdade[Ferramentas]Hugging Face cria repositório central para ambientes de IA que aprendem por tentativa e erro[Ferramentas]O agente de IA disse que terminou. O banco de dados discordou.[Modelos de IA]Instituto Allen lança modelo de IA aberto para escrever relatórios científicos em segundos[Pesquisa]Como a ServiceNow cria dados de treino que ensinam agentes de IA a funcionar dentro de empresas
Transmitindo · —

Notícias.
Inteligência Artificial

Inteligência Artificial para Gente de Verdade · ES / PT-BR

FerramentasHugging Face Blog2 min

Llama.cpp agora baixa e organiza modelos de IA sozinho

Ferramenta popular para rodar modelos de linguagem no computador ganha sistema de gerenciamento automático inspirado no Hugging Face Hub.

Por Redação2 min
Compartilhar
Llama.cpp agora baixa e organiza modelos de IA sozinho
Ferramentas · Hugging Face Blog

O llama.cpp (uma ferramenta de código aberto que permite rodar modelos de linguagem grandes direto no computador, sem precisar de servidores na nuvem) acaba de ganhar um recurso que simplifica bastante a vida de quem usa IA localmente: um sistema de gerenciamento de modelos integrado. A novidade foi anunciada pelo projeto GGML (o formato de arquivo otimizado que o llama.cpp usa para armazenar modelos de forma eficiente) e permite baixar, atualizar e organizar modelos direto pela linha de comando, segundo informou o blog oficial do Hugging Face.

Antes, quem queria testar um modelo novo precisava procurar o arquivo certo no Hugging Face Hub (a plataforma onde desenvolvedores compartilham modelos de IA já treinados), baixar manualmente, mover para a pasta correta e lembrar onde guardou cada versão. Agora, basta um comando simples como llama-cli --hf-repo nome-do-modelo e a ferramenta cuida do resto — procura o modelo, baixa a versão mais recente e guarda tudo organizado em um cache local (um armazenamento temporário no próprio computador).

O sistema funciona de forma parecida com gerenciadores de pacotes que programadores já conhecem, como o pip do Python ou o npm do JavaScript. Ele mantém um histórico de versões, permite voltar para uma versão anterior se algo der errado e até compartilha arquivos repetidos entre modelos diferentes para economizar espaço no disco. A integração com o Hugging Face Hub significa que você tem acesso imediato a milhares de modelos já otimizados no formato GGUF (a versão mais recente do formato GGML, feita especificamente para rodar em máquinas comuns).

Para quem usa IA localmente — seja por privacidade, para economizar com APIs pagas ou simplesmente para experimentar sem depender de conexão — a mudança é significativa. Ela elimina boa parte do trabalho manual e torna o llama.cpp mais acessível para quem não quer lidar com detalhes técnicos de instalação. O recurso já está disponível na versão mais recente da ferramenta e funciona tanto no Windows quanto no Linux e macOS.

Fonte original
Hugging Face Blog
Mais em · Ferramentas