Ao vivo
[Ferramentas]Como adicionar marcas d'água em imagens de IA com uma linha de código[Ferramentas]LeRobot lança formato de dataset que facilita treinar robôs com milhões de exemplos[Ferramentas]Três truques da OpenAI para rodar modelos de IA muito mais rápido (que você pode usar hoje)[Modelos de IA]Writer lança modelos de IA compactos que raciocinam sem precisar de servidores potentes[Ferramentas]Hugging Face e Together AI facilitam o ajuste fino de qualquer modelo de linguagem[Ferramentas]ServiceNow cria framework que gera dados de treino para qualquer modelo de IA[Pesquisa]Hugging Face lança ferramentas para qualquer um estudar agentes de IA[Ferramentas]Hugging Face passa a oferecer servidores franceses da Scaleway para rodar modelos de IA[Regulação]Mulher acusa padrasto de usar Grok para criar imagem sexual a partir de foto de infância[Modelos de IA]Anthropic detalha como vão funcionar as marcas d'água do Claude[Ferramentas]Como adicionar marcas d'água em imagens de IA com uma linha de código[Ferramentas]LeRobot lança formato de dataset que facilita treinar robôs com milhões de exemplos[Ferramentas]Três truques da OpenAI para rodar modelos de IA muito mais rápido (que você pode usar hoje)[Modelos de IA]Writer lança modelos de IA compactos que raciocinam sem precisar de servidores potentes[Ferramentas]Hugging Face e Together AI facilitam o ajuste fino de qualquer modelo de linguagem[Ferramentas]ServiceNow cria framework que gera dados de treino para qualquer modelo de IA[Pesquisa]Hugging Face lança ferramentas para qualquer um estudar agentes de IA[Ferramentas]Hugging Face passa a oferecer servidores franceses da Scaleway para rodar modelos de IA[Regulação]Mulher acusa padrasto de usar Grok para criar imagem sexual a partir de foto de infância[Modelos de IA]Anthropic detalha como vão funcionar as marcas d'água do Claude
Transmitindo ·

Notícias.
Inteligência Artificial

Inteligência Artificial para Gente de Verdade · ES / PT-BR

FerramentasHugging Face Blog2 min

Llama.cpp agora baixa e organiza modelos de IA sozinho

Ferramenta popular para rodar modelos de linguagem no computador ganha sistema de gerenciamento automático inspirado no Hugging Face Hub.

Por Redação2 min
Compartilhar
Llama.cpp agora baixa e organiza modelos de IA sozinho
Ferramentas · Hugging Face Blog

O llama.cpp (uma ferramenta de código aberto que permite rodar modelos de linguagem grandes direto no computador, sem precisar de servidores na nuvem) acaba de ganhar um recurso que simplifica bastante a vida de quem usa IA localmente: um sistema de gerenciamento de modelos integrado. A novidade foi anunciada pelo projeto GGML (o formato de arquivo otimizado que o llama.cpp usa para armazenar modelos de forma eficiente) e permite baixar, atualizar e organizar modelos direto pela linha de comando, segundo informou o blog oficial do Hugging Face.

Antes, quem queria testar um modelo novo precisava procurar o arquivo certo no Hugging Face Hub (a plataforma onde desenvolvedores compartilham modelos de IA já treinados), baixar manualmente, mover para a pasta correta e lembrar onde guardou cada versão. Agora, basta um comando simples como llama-cli --hf-repo nome-do-modelo e a ferramenta cuida do resto — procura o modelo, baixa a versão mais recente e guarda tudo organizado em um cache local (um armazenamento temporário no próprio computador).

O sistema funciona de forma parecida com gerenciadores de pacotes que programadores já conhecem, como o pip do Python ou o npm do JavaScript. Ele mantém um histórico de versões, permite voltar para uma versão anterior se algo der errado e até compartilha arquivos repetidos entre modelos diferentes para economizar espaço no disco. A integração com o Hugging Face Hub significa que você tem acesso imediato a milhares de modelos já otimizados no formato GGUF (a versão mais recente do formato GGML, feita especificamente para rodar em máquinas comuns).

Para quem usa IA localmente — seja por privacidade, para economizar com APIs pagas ou simplesmente para experimentar sem depender de conexão — a mudança é significativa. Ela elimina boa parte do trabalho manual e torna o llama.cpp mais acessível para quem não quer lidar com detalhes técnicos de instalação. O recurso já está disponível na versão mais recente da ferramenta e funciona tanto no Windows quanto no Linux e macOS.

Fonte original
Hugging Face Blog
Mais em · Ferramentas