Ao vivo
[Pesquisa]Como o Ai2 resolveu a briga por GPUs com orçamentos em vez de fila de prioridade[Ferramentas]Como criar modelos de IA personalizados por menos de US$ 20 usando um agente automatizado[Modelos de IA]Liquid AI lança modelos de IA que tomam decisões em milissegundos — e funcionam em celulares[Modelos de IA]TII lança Falcon ASR, modelo de transcrição de áudio aberto que roda em hardware comum[Modelos de IA]Nvidia mostra que um único modelo de IA pode chegar ao pódio tanto em programação quanto em matemática avançada[Modelos de IA]Falcon-Emirati: o modelo de IA que aprendeu a falar árabe como um emiradense de verdade[Ferramentas]Hugging Face cria repositório central para ambientes de IA que aprendem por tentativa e erro[Ferramentas]O agente de IA disse que terminou. O banco de dados discordou.[Modelos de IA]Instituto Allen lança modelo de IA aberto para escrever relatórios científicos em segundos[Pesquisa]Como a ServiceNow cria dados de treino que ensinam agentes de IA a funcionar dentro de empresas[Pesquisa]Como o Ai2 resolveu a briga por GPUs com orçamentos em vez de fila de prioridade[Ferramentas]Como criar modelos de IA personalizados por menos de US$ 20 usando um agente automatizado[Modelos de IA]Liquid AI lança modelos de IA que tomam decisões em milissegundos — e funcionam em celulares[Modelos de IA]TII lança Falcon ASR, modelo de transcrição de áudio aberto que roda em hardware comum[Modelos de IA]Nvidia mostra que um único modelo de IA pode chegar ao pódio tanto em programação quanto em matemática avançada[Modelos de IA]Falcon-Emirati: o modelo de IA que aprendeu a falar árabe como um emiradense de verdade[Ferramentas]Hugging Face cria repositório central para ambientes de IA que aprendem por tentativa e erro[Ferramentas]O agente de IA disse que terminou. O banco de dados discordou.[Modelos de IA]Instituto Allen lança modelo de IA aberto para escrever relatórios científicos em segundos[Pesquisa]Como a ServiceNow cria dados de treino que ensinam agentes de IA a funcionar dentro de empresas
Transmitindo · —

Notícias.
Inteligência Artificial

Inteligência Artificial para Gente de Verdade · ES / PT-BR

FerramentasHugging Face Blog2 min

Hugging Face lança ferramenta que roda modelos de IA localmente no iPhone e Mac

AnyLanguageModel permite que desenvolvedores usem a mesma linha de código para acessar modelos de linguagem tanto na nuvem quanto direto no dispositivo Apple.

Por Redação2 min
Compartilhar
Hugging Face lança ferramenta que roda modelos de IA localmente no iPhone e Mac
Ferramentas · Hugging Face Blog

A Hugging Face (plataforma onde desenvolvedores compartilham e baixam modelos de IA já treinados) lançou o AnyLanguageModel, uma ferramenta que facilita o uso de modelos de linguagem em iPhones, iPads e Macs. A novidade permite que um aplicativo rode modelos de IA tanto localmente — ou seja, direto no processador do aparelho, sem enviar dados para a internet — quanto na nuvem, usando exatamente o mesmo código.

Até agora, quem quisesse oferecer as duas opções num app precisava escrever código diferente para cada uma: uma versão para modelos remotos (como o GPT da OpenAI ou o Claude da Anthropic) e outra para modelos que rodam no próprio dispositivo. O AnyLanguageModel resolve isso criando uma camada única de comunicação (uma API, ou interface de programação) que funciona para ambos os casos. Na prática, isso significa menos trabalho para o desenvolvedor e mais flexibilidade para o usuário final.

A principal vantagem de rodar um modelo localmente é a privacidade: nada sai do aparelho, o que importa especialmente para aplicativos que lidam com informações sensíveis, como anotações médicas ou documentos financeiros. Além disso, não há dependência de conexão de internet nem custo por uso. Por outro lado, modelos locais tendem a ser menores e menos capazes que os grandes sistemas na nuvem — a ferramenta permite combinar o melhor dos dois mundos conforme a necessidade de cada tarefa.

Segundo informou a Hugging Face, o AnyLanguageModel é compatível com os chips Apple Silicon (a linha de processadores que a Apple usa desde 2020 em Macs, iPhones e iPads) e se integra facilmente a projetos feitos em Swift, a linguagem de programação da Apple. A ferramenta é de código aberto (qualquer pessoa pode ver, usar e modificar o código-fonte) e está disponível no GitHub, a plataforma onde desenvolvedores hospedam e colaboram em projetos de software.

Fonte original
Hugging Face Blog
Mais em · Ferramentas