Writer lança modelo de IA próprio e promete cortar custos de tokens pela metade

A Writer, plataforma de IA voltada para empresas, anunciou nesta terça-feira o lançamento de um modelo de linguagem próprio (um tipo de IA que entende e gera textos) batizado de Palmyra X 004. Segundo informou a TechCrunch, o novo sistema foi construído a partir do GLM-5.2, um modelo de código aberto desenvolvido pela chinesa Z.ai (uma empresa menor, mas que vem ganhando destaque por disponibilizar seus modelos gratuitamente para modificação).

O diferencial, segundo a Writer, está na abordagem: em vez de treinar um modelo do zero — processo que consome milhões de dólares em poder computacional —, a empresa pegou o GLM-5.2 como base e aplicou técnicas de pós-treinamento (ajustes finos feitos depois que o modelo já aprendeu padrões gerais da linguagem). A promessa é entregar desempenho comparável ao de modelos comerciais tradicionais, mas com custos de operação significativamente menores.

A Writer também atualizou o que chama de "harness" (um conjunto de ferramentas de controle e monitoramento), justamente para ajudar empresas a reduzirem gastos com tokens (as unidades que representam pedaços de texto processados por modelos de IA — quanto mais tokens usados, maior a conta). Cada consulta a um modelo de linguagem consome tokens, e para empresas que fazem milhões de requisições por mês, essa matemática pesa no orçamento.

A estratégia de partir de um modelo aberto não é nova — empresas como a Cohere e a Mistral já fazem isso —, mas a Writer aposta que sua versão customizada consegue equilibrar custo e qualidade de forma especialmente atraente para clientes corporativos. O modelo já está disponível para testes via plataforma da empresa.