Hugging Face e Cloudflare se unem para viabilizar videochamadas com IA em tempo real
Parceria lança ferramenta de código aberto que permite criar assistentes de voz e vídeo com inteligência artificial sem depender de servidores centralizados ou pagar por APIs caras
A Hugging Face e a Cloudflare lançaram o FastRTC, uma ferramenta de código aberto que permite criar assistentes de voz e vídeo com inteligência artificial em tempo real. A solução combina modelos de linguagem abertos com infraestrutura de rede distribuída, permitindo que desenvolvedores montem videochamadas com IA sem precisar de servidores próprios ou pagar por APIs de terceiros.
A Hugging Face (uma plataforma onde desenvolvedores compartilham e baixam modelos de IA já treinados) anunciou uma parceria com a Cloudflare (empresa que oferece infraestrutura de internet distribuída globalmente) para lançar o FastRTC, uma ferramenta de código aberto que facilita a criação de aplicações de voz e vídeo com inteligência artificial em tempo real. A novidade permite que qualquer desenvolvedor construa assistentes virtuais capazes de conversar por videochamada sem precisar de servidores próprios ou pagar por serviços de terceiros, segundo informou a Hugging Face em seu blog oficial.
O FastRTC resolve um problema técnico importante: até agora, fazer um modelo de linguagem (LLM, sigla em inglês para os sistemas de IA que entendem e geram texto, como o ChatGPT) conversar com alguém por voz ou vídeo exigia montar uma infraestrutura complexa, com servidores para processar áudio, transmitir dados em tempo real e coordenar tudo isso sem atrasos perceptíveis. A ferramenta combina o protocolo WebRTC (tecnologia que permite chamadas de voz e vídeo diretamente entre navegadores, sem intermediários) com os Workers da Cloudflare (pequenos programas que rodam na borda da rede, perto do usuário, em vez de em um datacenter distante) e modelos de IA hospedados na Hugging Face.
Na prática, isso significa que um desenvolvedor pode pegar um modelo de linguagem aberto, como o Llama (família de LLMs criada pela Meta e disponível para qualquer um usar e modificar), adicionar capacidades de fala com modelos de conversão de texto em áudio e áudio em texto, e colocar tudo para funcionar em uma videochamada — tudo isso com apenas algumas linhas de código e praticamente sem custo de infraestrutura. A Cloudflare processa a comunicação em tempo real em sua rede global, enquanto a Hugging Face fornece os modelos de IA e a interface para integrá-los.
A parceria também inclui exemplos prontos de assistentes de voz e vídeo que qualquer pessoa pode testar ou adaptar para seus próprios projetos. Um dos casos de uso destacados é a criação de tutores virtuais que explicam conceitos por videochamada, consultores de atendimento ao cliente que conversam com clientes em tempo real, ou até avatares digitais para jogos e metaversos. Como tudo roda em código aberto e com modelos de pesos abertos (modelos cujos parâmetros internos estão disponíveis para qualquer um baixar e modificar, ao contrário de sistemas fechados como o GPT-4), desenvolvedores têm controle total sobre os dados e o comportamento do assistente.
O movimento reforça a posição da Hugging Face como principal repositório de modelos de IA abertos e amplia o alcance da Cloudflare no mercado de aplicações inteligentes, competindo diretamente com ofertas de gigantes como Amazon (que oferece serviços similares através da AWS), Google (com o Vertex AI) e Microsoft (via Azure). Para o público geral, a tendência é que nos próximos meses apareçam mais aplicações de videochamada com assistentes de IA, muitas delas gratuitas ou de baixo custo, justamente porque essa infraestrutura ficou mais acessível.
