ZML Lanza Software de Inferencia que Revoluciona el Uso de Chips de IA

ZML Presenta ZML/LLMD: Un Software para Ejecutar LLMs en Múltiples Chips

La startup francesa ZML, respaldada por el ganador del Premio Turing Yann LeCun, ha lanzado un innovador software de inferencia que permite que diversos modelos de lenguaje de código abierto funcionen en una variedad de chips, incluyendo Nvidia, AMD, Google TPU, Apple Metal e Intel Arc.

Rompiendo Barreras en la Inferencia de IA

Con el lanzamiento de ZML/LLMD, la compañía busca eliminar los silos existentes y ofrecer a las empresas la posibilidad de utilizar diferentes procesadores a máxima velocidad, a veces incluso más rápido, según declaró el fundador Steeve Morin.

Optimización de Inferencia: Clave para la Adopción de IA

Morin destacó que, a medida que la IA se integra en la vida cotidiana, optimizar la inferencia (el procesamiento de instrucciones) ha superado en importancia al entrenamiento de modelos. Sin embargo, las barreras de software y arquitectura a menudo conducen al bloqueo del proveedor.

ZML espera proporcionar a empresas y nubes la opción de usar una combinación de chips, algunos menos costosos o más eficientes energéticamente. «La idea es devolver a las personas el poder de crear su propio sistema y lograr ganancias de eficiencia reales que permitan que la IA se difunda», afirmó Morin.

Apoyo a Nuevos Fabricantes de Chips Europeos

El software podría ayudar a los fabricantes emergentes de chips de IA, muchos de los cuales son europeos, como Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud y VSORA. Morin señaló que ZML puede trabajar con ellos en «cosas que nunca se han hecho antes en el mundo».

A pesar del auge de competidores como Baseten, Inferact y RadixArk, Morin no es bajista con Nvidia, manteniendo una buena relación con el gigante de chips, que se prepara para el aumento de la inferencia.

Un Equipo Pequeño pero Bien Financiado

Con un equipo de tan solo 20 personas, ZML ha logrado moverse rápido. La startup con sede en París recaudó $20 millones de inversores como 20VC, >commit, AALVC, Drysdale Ventures, Kima Ventures, Kindred Capital, LocalGlobe y Puzzle Ventures. Además, cuenta con el respaldo de figuras como Solomon Hykes, Clément Delangue, Julien Chaumond y Yann LeCun.

Producto Gratuito por Ahora

ZML/LLMD no es de código abierto, pero se lanza como un producto gratuito para aprender sobre su uso. «Prefiero medir y generar ingresos donde sea más efectivo sin obstaculizar mi crecimiento por ser demasiado codicioso desde el principio», explicó Morin. Aún no se sabe cuándo se convertirá en un producto de pago.

“No podría hacer ZML en ningún otro lugar que no sea París.” – Steeve Morin

Este lanzamiento señala que las startups europeas de IA pueden construir desde casa, y ZML está a la vanguardia de esta tendencia.