Arm apresenta ferramentas para rodar IA em qualquer dispositivo na PyTorch Conference
A fabricante de chips mostra na conferência como desenvolvedores podem usar modelos de linguagem em celulares, laptops e servidores sem depender de GPUs caras.
A Arm (empresa britânica que projeta os processadores usados na maioria dos celulares e cada vez mais em computadores) está participando da PyTorch Conference 2025, que acontece em São Francisco entre 22 e 23 de outubro, segundo informou a Hugging Face (uma plataforma onde desenvolvedores compartilham e baixam modelos de IA já treinados). A empresa vai demonstrar como sua arquitetura de chips permite rodar modelos de inteligência artificial diretamente em dispositivos como smartphones, laptops e até servidores, sem precisar de GPUs (placas de vídeo especializadas em processar IA, geralmente caras e grandes) da Nvidia.
No estande da Arm, os visitantes poderão ver na prática modelos de linguagem grandes, ou LLMs (os mesmos tipos de modelo que alimentam o ChatGPT), rodando em dispositivos variados — desde um celular até um servidor equipado com o processador Arm Neoverse. A ideia é mostrar que a mesma base de código pode funcionar em qualquer lugar, adaptando-se automaticamente ao hardware disponível.
A empresa também vai apresentar o KleidiAI, um conjunto de ferramentas gratuitas (bibliotecas de código, no jargão técnico) que ajudam desenvolvedores a otimizar seus modelos de IA para rodar mais rápido e gastando menos energia em chips Arm. Isso inclui desde técnicas de quantização (um método que reduz o tamanho dos modelos sem perder muita qualidade) até integração com frameworks populares como PyTorch e llama.cpp (um software que permite rodar LLMs localmente, sem internet).
Durante a conferência, engenheiros da Arm vão dar palestras técnicas sobre como usar essas ferramentas na prática. Uma delas, marcada para o dia 23, vai ensinar a rodar LLMs em processadores Arm usando PyTorch, com foco em desempenho e eficiência energética — algo especialmente relevante para quem quer colocar IA em produtos que funcionam com bateria ou precisam processar dados sem enviar tudo para a nuvem.
A participação da Arm reflete uma tendência crescente no setor: em vez de concentrar toda a inteligência artificial em data centers gigantes, cada vez mais empresas querem que os modelos rodem localmente, direto no dispositivo do usuário. Isso traz vantagens como mais privacidade (os dados não saem do aparelho), respostas mais rápidas e custos menores de infraestrutura na nuvem.
