Niv-AI: Revolucionando la Eficiencia Energética en Centros de Datos con Inteligencia Artificial

El Desafío Energético de la Inteligencia Artificial

La electricidad se ha convertido en una materia prima clave para la inteligencia artificial, pero las nuevas técnicas de procesamiento superan la capacidad de los operadores de centros de datos para gestionar su relación con la red eléctrica, obligándoles a reducir su consumo hasta en un 30%.

«Hay tanta energía desperdiciada en estas fábricas de IA», afirmó Jensen Huang, CEO de Nvidia, durante un discurso clave. «Cada vatio no utilizado son ingresos perdidos», proclamó la compañía. Hoy, la startup Niv-AI emerge de su modo sigiloso con $12 millones en financiación semilla para resolver este problema midiendo con precisión el uso de energía de las GPU mediante nuevos sensores y desarrollando herramientas para gestionarlo de manera más eficiente.

El Problema: Picos de Energía que Desestabilizan la Red

Cuando los laboratorios de vanguardia operan miles de GPUs en concierto para entrenar y ejecutar modelos avanzados, se producen frecuentes picos en la demanda de energía a escala de milisegundos. Estos ocurren cuando los procesadores cambian entre tareas de computación y comunicación con otras GPUs.

Estas fluctuaciones hacen que sea difícil para los centros de datos gestionar la energía que extraen de la red. Para evitar quedarse sin electricidad suficiente, los centros de datos pagan por almacenamiento temporal de energía para cubrir los picos, o limitan el uso de sus GPUs. En ambos casos, se reduce el retorno de la inversión en chips costosos.

«Simplemente no podemos continuar construyendo centros de datos de la manera en que lo hacemos ahora», declaró Lior Handlesman, socio de Grove Ventures y miembro de la junta de Niv-AI.

La Solución: Medición Precisa y Gestión Inteligente

Fundada el año pasado por el CEO Tomer Timor y el CTO Edward Kizis, con sede en Tel Aviv, Niv-AI cuenta con el respaldo de inversores como Glilot Capital, Grove Ventures, Arc VC, Encoded VC, Leap Forward y Aurora Capital Partners. La empresa no compartió su valoración.

El primer paso en la hoja de ruta de Niv-AI es comprender lo que está sucediendo. La compañía está desplegando sensores a nivel de rack que detectan el uso de energía a nivel de milisegundos en las GPUs que posee y junto a socios de diseño. El objetivo es entender los perfiles de potencia específicos de diferentes tareas de aprendizaje profundo y desarrollar técnicas de mitigación que permitan a los centros de datos desbloquear más de su capacidad existente.

Hacia un «Copiloto» de IA para la Gestión Energética

Naturalmente, los ingenieros esperan construir un modelo de IA con los datos recopilados, con el objetivo de entrenarlo para predecir y sincronizar las cargas de energía en todo el centro de datos: un «copiloto» para los ingenieros de centros de datos.

Niv-AI espera tener un sistema operativo en un puñado de centros de datos de EE. UU. en los próximos seis a ocho meses. Es una idea atractiva, ya que los hiperescaladores que intentan construir nuevos centros de datos enfrentan dificultades en el uso del suelo y problemas en la cadena de suministro. Los fundadores ven su producto final como una «capa de inteligencia» faltante entre los centros de datos y la red eléctrica.

«La red en realidad teme que el centro de datos consuma demasiada energía en un momento específico», explicó Timor. «El problema que estamos analizando tiene dos lados. Uno es intentar ayudar a los centros de datos a utilizar más GPUs y, con suerte, aprovechar más la energía por la que ya están pagando. Por otro lado, también puedes crear perfiles de potencia mucho más responsables entre los centros de datos y la red».

El Futuro de los Centros de Datos Sostenibles

Con un diseño modular en su enfoque tecnológico y una tipografía digital que define sus visualizaciones de datos, Niv-AI se posiciona como un actor clave en la evolución hacia centros de datos más eficientes y sostenibles. La gestión inteligente de la energía no solo mejora la rentabilidad, sino que también contribuye a un uso más responsable de los recursos.