Etched alcanza una valoración de 21 mil millones de dólares con Jane Street

Este martes, Etched anunció que ha recaudado 700 millones de dólares adicionales y alcanzó una valoración de 21 mil millones de dólares, liderada por Jane Street, el famoso fondo cuantitativo que probó y compró el hardware de IA de la startup.

Una valoración que se dispara mes a mes

Incluso para los estándares de la inteligencia artificial, este salto de valoración es sorprendentemente rápido. Etched estaba valorada en 5 mil millones de dólares en diciembre. En julio recaudó 300 millones de dólares en una Serie C con una valoración de 10.3 mil millones de dólares. Ahora, los inversores han duplicado su valoración hasta los 21 mil millones, casi 11 mil millones más en un mes.

Tecnología de inferencia diseñada desde cero

Etched entrega su tecnología de IA como sistemas completos que denomina frontier inference clusters. Por su parte, su competidor Nvidia llama a sus sistemas completos AI factories.

El cofundador y director de operaciones, Robert Wachen, explicó que el entusiasmo de los inversores se debe a que Etched ha diseñado dos nuevos componentes desde cero para acelerar la inferencia, el proceso computacional que ocurre después de que un usuario envía un mensaje.

Las dos etapas de la inferencia: prefill y decode

“La inferencia se construye en dos etapas: prefill y decode”, dijo Wachen.

• Prefill: en esta fase, matemática e intensiva en cómputo, el sistema debe comprender el mensaje, incluido el contexto.
• Decode: en esta etapa, intensiva en memoria, el sistema genera los tokens de salida, es decir, la respuesta real que ve el usuario.

Bajo voltaje y memoria a escala de clúster

Etched creó un chip de prefill que opera a bajo voltaje, lo que permite incluir más transistores sin los problemas de calor típicos de otros chips de IA de gama alta. De este modo, puede procesar una mayor cantidad de tokens a mayor velocidad.

Para el proceso de decode, Etched creó un nuevo tipo de memoria e interconexión que denomina cluster-scale memory. “Permite que muchos chips se conecten entre sí y utilicen un pool de memoria compartida a muy alta velocidad y baja latencia”, explicó Wachen. El resultado, según promete Etched, es mayor velocidad y menores costos.

Jane Street prueba el chip y apuesta por Etched

“Probamos el chip y estamos satisfechos con los primeros resultados. El enfoque único de Etched para la inferencia ofrece la precisión que necesitaremos para soportar nuestras cargas de trabajo más exigentes. Estamos entusiasmados de tener ahora nuestro propio rack funcionando en nuestro centro de datos.” — Jane Street

Compatibilidad con cualquier modelo frontera

Etched todavía lucha contra la percepción de sus primeros días de que graba un modelo particular en sus chips, lo que implicaría que cada chip está diseñado a medida para ejecutar un modelo frontera. Esa era su intención original, pero ya no es el caso: los sistemas de Etched pueden ejecutar cualquier modelo frontera.

Otros inversores en la ronda

Además de Jane Street, otros inversores en Etched incluyen a Kleiner Perkins, Sequoia Capital, Andreessen Horowitz, Peter Thiel, Tiger Global, Bain Capital Ventures, Neo, Stripes, Primary, Positive Sum, Diffusion, Argo y Blackstone.