Writer lanza su propio modelo de IA y promete recortar hasta un 80% el coste de cada consulta
La empresa especializada en IA para empresas ha adaptado un modelo abierto de Zhipu AI para ofrecer capacidades similares a las de sistemas más caros, pero con una factura mucho menor.
Writer, una compañía californiana que desarrolla herramientas de inteligencia artificial para equipos de marketing y atención al cliente, acaba de presentar su propio modelo de lenguaje (un sistema capaz de entender y generar texto de forma similar a ChatGPT) con la promesa de reducir drásticamente lo que cuesta ejecutarlo. Según la empresa, este nuevo sistema puede abaratar hasta un 80% el precio por consulta comparado con modelos comerciales de tamaño similar.
El modelo, bautizado como Palmyra X 004, no ha sido entrenado desde cero. Writer partió de GLM-5.2, un LLM de pesos abiertos (es decir, un modelo cuyo código y parámetros internos están disponibles públicamente) desarrollado por Zhipu AI, una startup china respaldada por el Gobierno de Pekín. A partir de ahí, la compañía aplicó técnicas de post-entrenamiento (un proceso de ajuste fino que enseña al modelo a seguir instrucciones específicas o a comportarse de determinada manera) para adaptarlo a las necesidades de sus clientes empresariales.
Junto al modelo, Writer ha actualizado Harness, su plataforma de control que permite a las empresas cambiar entre distintos modelos de IA según el tipo de tarea. La nueva versión incluye un sistema de predicción de costes que analiza automáticamente cada consulta y elige el modelo más económico capaz de resolverla con calidad suficiente. La idea es que las organizaciones no paguen por usar un sistema potente (y caro) cuando uno más simple puede hacer el trabajo igual de bien.
La estrategia de Writer refleja una tendencia creciente en el sector: en lugar de competir con OpenAI o Anthropic (las empresas detrás de ChatGPT y Claude, respectivamente) en la carrera por el modelo más avanzado, muchas compañías apuestan por optimizar la eficiencia y reducir costes, especialmente ahora que el precio de los tokens (las unidades mínimas de texto que procesan estos sistemas) se ha convertido en una preocupación central para empresas que usan IA a gran escala.
Writer no ha revelado el tamaño exacto de Palmyra X 004 ni todos los detalles técnicos del post-entrenamiento aplicado, aunque confirmó a TechCrunch que el modelo ya está disponible para sus clientes corporativos a través de su plataforma. La compañía, fundada en 2020, cuenta con inversión de firmas como Insight Partners y Balderton Capital, y trabaja con empresas como Accenture, L'Oréal y Uber.
