Jev, el modelo de IA de TypeSafe que renuncia al lenguaje para decidir mejor

TypeSafe AI presenta Jev, un modelo de inteligencia artificial sin lenguaje

El mundo de la inteligencia artificial ha estado dominado por los grandes modelos de lenguaje (LLM), pero Diogo Almeida, ex investigador de OpenAI, está convencido de que ese no es el único camino. Tras haber ayudado a construir ChatGPT y ser parte de la invención del aprendizaje por refuerzo a partir de la retroalimentación humana (RLHF), la técnica de entrenamiento probablemente más responsable de la era actual de la IA, Almeida llegó a una conclusión incómoda: el sistema, aunque poderoso, no resultaba del todo útil.

«Tenemos un rayo en una botella, y sin embargo no es útil», explicó Almeida. «He estado batallando ese problema desde entonces. Me tomó un tiempo llegar a la conclusión: el problema es que estamos optimizando para el lenguaje humano… Hemos sido muy buenos con el lenguaje humano durante cuatro años, pero no es útil para la automatización porque las computadoras hablan un lenguaje diferente».

El nacimiento de TypeSafe AI y el modelo Jev

Hace dos años, Almeida dejó OpenAI para fundar TypeSafe AI, una startup enfocada en resolver ese problema. Esta semana, la compañía presentó un nuevo modelo basado en transformadores llamado Jev, que no es un modelo de lenguaje grande. En lugar de generar texto, produce probabilidades, o lo que la empresa denomina «decisiones calibradas».

¿Por qué prescindir del lenguaje?

Renunciar al lenguaje tiene varias consecuencias clave para el rendimiento del modelo. Estas son las principales ventajas que describe la compañía:

• Velocidad y costo: el modelo se vuelve increíblemente barato y rápido.
• Sin alucinaciones: como los usuarios definen los resultados de antemano, el modelo no puede alucinar.
• Tokens gratuitos: sus tokens de salida son gratuitos, mientras que los tokens de entrada se miden por miles de millones, no por millones.

El interés de los desarrolladores por el producto ha sido tan grande que la empresa perdió brevemente la capacidad de atender a los usuarios desde su API debido a la alta demanda. Jev parece especialmente útil para la automatización de software: hasta ahora, los desarrolladores lo ven como una forma más económica y robusta de incorporar inteligencia a su código.

Casos reales: Vercel y Bryo AI

Uno de los testimonios más destacados proviene de Pranit Sharma, ingeniero de software en Vercel, una empresa que construye infraestructura para agentes. Sharma explicó que su compañía había utilizado el modelo ChatGPT Luna 5.6 de OpenAI para ejecutar un clasificador que revisaba comandos en busca de seguridad. Cuando Vercel reemplazó Luna por Jev, obtuvo resultados entre 5 y 18 veces más rápidos y con mayor precisión.

Otro desarrollador, Nikhil Mudholkar, CTO de Bryo AI, probó Jev contra Gemini para clasificar correos electrónicos de negocios. En su prueba, Gemini fue ligeramente más preciso, pero entre 10 y 20 veces más costoso. Lo que más interesó a Mudholkar fueron las puntuaciones de confianza de Jev: «es el único que devuelve una probabilidad real, lo que lo hace ideal para automatizar flujos de trabajo».

Jev como complemento de los LLM

Además de reemplazar a los LLM en ciertos casos de uso, el nuevo modelo también puede aumentarlos, actuando como un chequeo inteligente ante comportamientos indebidos. Usar agentes para monitorear a otros agentes puede volverse costoso rápidamente, pero según Almeida, emplear a Jev para esa tarea tiene sentido. El investigador visualiza a los usuarios desplegando Jev para rastrear las trazas de los agentes LLM y prevenir jailbreaks.

«Al final del día, delega el problema de la alucinación un poco al usuario. El usuario tiene que decir: bueno, si esto solo vuelve con un 50% de probabilidad, tal vez sea una moneda al aire y lo descarte. Pero si es un 95%, claro, entonces puedo hacer algo con eso», explicó Armin Ronacher, CTO de Earendil, empresa que construye el arnés de modelos de código abierto Pi.

El enrutamiento de modelos

Otro uso potencial de Jev es el enrutamiento de modelos, según Ronacher. Predecir si una carga de trabajo determinada requiere un modelo específico sería útil, pero usar un LLM para esa labor resultaría caro. El bajo costo y la velocidad de Jev hacen posible ese tipo de clasificación en tiempo real.

El origen del nombre: la paradoja de Jevons

El modelo lleva su nombre en honor a William Stanley Jevons, el economista del siglo XIX cuya paradoja homónima describe cómo la caída del costo de un bien puede llevarlo a usarse cada vez más. En este caso, la disminución del costo de la inteligencia debería conducir a su despliegue generalizado.

«Creemos que va a haber software inteligente por todas partes, de una manera emergente y distribuida… mucho más parecido al internet temprano que a las megaaplicaciones que la gente intenta construir hoy», afirmó Almeida.

Un «modelo del Sistema Uno» entrenado con datos sintéticos

Almeida es reservado sobre la arquitectura del modelo, que observadores externos sospechan está construido sobre un LLM de pesos abiertos. La compañía se refiere a Jev como un «modelo del Sistema Uno», enfocado en la intuición más que en el razonamiento, y específicamente orientado a la tarea correcta.

Almeida asegura que Jev se entrena exclusivamente con datos sintéticos, mediante una técnica que él llama «aprendizaje por refuerzo a partir de decisiones calibradas».

«Hicimos una apuesta temprana de que generaríamos todos nuestros propios datos, y esa ha sido una de las mejores apuestas que he hecho en mi vida: mejor que nuestro lanzamiento, en mi opinión, mejor que el RLHF», señaló. «La mitad de nuestra compañía es un laboratorio que básicamente posee todo este subcampo de datos sintéticos estadísticamente bien comprendidos, y eso es ahora mi alegría de vivir».

El futuro de Jev y de TypeSafe AI

Por ahora, Jev se mantiene solo como este tipo de modelo, pero Ronacher espera que aparezcan competidores ahora que su utilidad es evidente.

«Deberíamos haber visto esto antes en muchos sentidos, pero presumiblemente, como los LLM son tan baratos y subsidiados, a menudo uno no tiene que ser creativo todavía», comentó.

TypeSafe construirá más versiones del modelo, en nuevas modalidades. Cuando se le preguntó si TypeSafe es un laboratorio de frontera, Almeida respondió: «el producto principal de los laboratorios de frontera es el miedo o el hype. Me gustaría que nuestro producto principal fuera la inteligencia… [pero no somos] un laboratorio en el sentido de apostar por riqueza infinita, o una religión, o construir a Dios en un centro de datos, o lo que sea la cosa de hoy».

El debate está abierto: ¿es Jev el inicio de una nueva generación de IA centrada en la utilidad real, y no solo en el lenguaje? Los desarrolladores ya están dando su veredicto con la demanda.