Inferact, la startup detrás de vLLM, levanta $150 millones en ronda inicial

Inferact convierte vLLM en una startup con respaldo de capital de riesgo

Los creadores del proyecto de código abierto vLLM han anunciado la transición de esta popular herramienta a una startup respaldada por venture capital, llamada Inferact. La compañía ha recaudado $150 millones en financiación inicial a una valoración de $800 millones.

Detalles de la inversión

La ronda fue co-liderada por las firmas de capital de riesgo Andreessen Horowitz y Lightspeed Venture Partners. Este movimiento confirma los informes previos sobre la captación de capital por parte de vLLM.

El auge de las tecnologías de inferencia de IA

El debut de Inferact refleja la reciente comercialización del proyecto SGLang como RadixArk, que, según fuentes, aseguró capital a una valoración de $400 millones liderada por Accel. A medida que el enfoque en la inteligencia artificial se desplaza desde el entrenamiento de modelos hacia su despliegue en aplicaciones, un proceso conocido como inferencia, tecnologías como vLLM y SGLang, que hacen que estas herramientas de IA funcionen más rápido y de manera más económica, están atrayendo la atención de los inversores.

Orígenes académicos y visión

Tanto vLLM como SGLang fueron incubados en 2023 en el laboratorio de la UC Berkeley dirigido por Ion Stoica, cofundador de Databricks. Este entorno académico ha sido fértil para el desarrollo de herramientas de vanguardia en IA.

Usuarios y futuro

El CEO de Inferact, Simon Mo, uno de los creadores originales del proyecto, reveló que los usuarios existentes de vLLM incluyen el servicio en la nube de Amazon y una aplicación de compras. Esto subraya la adopción temprana y el potencial de la tecnología.

Con esta inyección de capital, Inferact está posicionada para escalar sus operaciones y continuar innovando en el campo de la inferencia de IA, haciendo que las aplicaciones de inteligencia artificial sean más accesibles y eficientes para empresas de todo el mundo.