#intel

A parceria integra os aceleradores de IA da Intel ao TGI, ferramenta popular para servir modelos de linguagem em produção, prometendo alternativa às GPUs da Nvidia

A técnica de quantização da Intel promete encolher modelos de linguagem grandes até quatro vezes, mantendo a precisão e facilitando o uso em dispositivos comuns

Técnica desenvolvida pela Hugging Face e Intel acelera modelos de linguagem em computadores sem GPU dedicada, usando versões menores como rascunho.

Hugging Face lança ferramenta que permite executar VLMs em processadores Intel comuns, eliminando a necessidade de GPUs caras.

Intel e Hugging Face mostram que é possível rodar grandes modelos de linguagem em CPUs comuns, sem depender de placas gráficas caras

O DeepMath roda localmente sem depender da nuvem, usando modelos pequenos e ferramentas como Python e Wolfram Alpha para chegar a resultados precisos.