Writer lanza Palmyra X6: el modelo de IA que reduce hasta 50% los costos de tokens

Writer presenta Palmyra X6: el nuevo modelo de IA que reduce los costos de tokens

En toda la industria de la inteligencia artificial, los usuarios son cada vez más conscientes de lo costoso que pueden ser sus despliegues y sienten una nueva urgencia por reducir gastos. Aunque los modelos de código abierto ofrecen costos por token significativamente más bajos, puede resultar difícil encontrar el modelo adecuado para cada tarea. Para resolver ese problema, Writer, compañía que ofrece herramientas y agentes de IA para mercadólogos, lanzó este jueves su nuevo modelo insignia: Palmyra X6.

Construido como una variación de posentrenamiento sobre el modelo de código abierto GLM-5.2 de Z.ai, Palmyra X6 busca ofrecer capacidades listas para implementación a un precio mucho más bajo. La compañía estima que el nuevo modelo, combinado con cambios en la infraestructura de su harness, reducirá los costos para sus clientes en hasta un 50% en tareas básicas.

«Creo que la empresa está absolutamente harta de perseguir el siguiente benchmark. Quieren una reducción de costos, y parece que nadie puede ofrecer eso», afirmó May Habib, CEO de Writer.

Optimización del harness: la clave para ejecutar tareas con menos tokens

Junto con el lanzamiento del modelo, Writer también presentó mejoras significativas en su harness agéntico estándar. Ambas funciones estarán disponibles para los clientes de Writer a partir del jueves. El nuevo enfoque pone especial énfasis en tareas complejas de múltiples pasos, ejecutadas más rápido y con menos tokens.

Un reciente artículo de investigadores de Writer respalda esta estrategia, probando pequeños cambios en la eficiencia del harness en múltiples modelos. El estudio encontró que, en muchos casos, los cambios en el harness eran una forma más fiable de reducir costos que la elección del modelo, con caídas de costos de un promedio de 40% en sus pruebas.

«El harness es el único componente cuya eficiencia se multiplica en cada modelo que una organización ejecuta, presente y futuro», escribieron los investigadores.

Disponibilidad y compatibilidad de Palmyra X6

Para los clientes de Writer, la experiencia sigue siendo agnóstica al modelo: Palmyra X6 se ubicará junto a otros modelos de Writer o modelos externos importados a través de Azure o Amazon Bedrock.

Habib también ve el impulso por recortar costos como un factor que intensifica la desconfianza hacia los grandes laboratorios de IA, los cuales tienen un incentivo financiero para aumentar el uso de tokens.

«La explosión de costos aquí no tiene precedentes para los clientes, y también lo es el grado en que los CIO están renunciando a los laboratorios», declaró Habib, y añadió que los laboratorios de IA «no entienden en profundidad cómo ayudar a una empresa a obtener beneficios de la IA».

Con estas novedades, Writer refuerza su apuesta por una IA más eficiente y accesible para las empresas. Sigue explorando nuestras secciones de tecnología, economía y negocios para conocer más innovaciones como Palmyra X6.