Pramaana Labs recauda $27 millones para hacer la IA más confiable con verificación formal

Pramaana Labs recauda $27 millones para hacer la IA más confiable con verificación formal

La empresa emergente Pramaana Labs ha anunciado una ronda de financiamiento inicial de $27 millones liderada por Khosla Ventures, con la participación de Accel, Boldcap, Nexus Venture Partners, Premji Invest y Unbound. La compañía se enfoca en la verificación formal de inteligencia artificial, una técnica que combina modelos de lenguaje grandes (LLM) con herramientas matemáticas para garantizar la precisión en aplicaciones críticas.

¿En qué se enfoca Pramaana Labs?

Pramaana Labs planea implementar su tecnología en sectores altamente sensibles como el derecho, el descubrimiento de fármacos y la preparación de impuestos, donde los errores pueden ser costosos y la confiabilidad es primordial. “Es como las matemáticas en el sentido de que hay muchas reglas que debes cumplir”, explicó Ranjan Rajagopalan, cofundador y CEO de Pramaana Labs. “Una vez que tienes una versión codificada de ellas, el razonamiento sobre esas reglas comienza a volverse determinista”.

Tweet sobre Gauss, un agente de autoformalización matemática

Avances en formalización matemática: Gauss, un agente de IA para asistir en la verificación de teoremas.

La tecnología detrás de la verificación formal

El sistema de Pramaana utiliza un LLM convencional combinado con una capa determinista de verificación que se basa en herramientas de verificación formal, incluyendo el lenguaje de programación de código abierto LEAN, utilizado originalmente para verificar pruebas matemáticas. Rajagopalan señaló el proyecto CATALA de Francia, que formaliza gran parte del sistema tributario y de beneficios del país en código ejecutable, como un precedente importante.

Para cada caso de uso, Pramaana construirá su propio sistema de verificación formal al estilo LEAN, supervisado por expertos en el dominio. En el ámbito fiscal, la empresa trabaja con el ex comisionado del IRS Danny Werfel, mientras que profesores del IIT Delhi, IIT Madras y UC Berkeley supervisan los sistemas de ciberseguridad y descubrimiento de fármacos.

“Los problemas más difíciles del mundo no son irresolubles. No están formalizados”, afirmó Rajagopalan. “Cada dominio donde equivocarse puede costarle a alguien su salud, dinero o libertad tiene reglas”.

Ahora, esas reglas solo necesitan ser codificadas.

Prisma con fórmulas matemáticas representando la verificación formal de IA

La verificación formal de IA busca eliminar las alucinaciones en los modelos de lenguaje.

Comparte este artículo

Otras notas de tu interés:

Espectáculos y Entretenimiento

Lorde Arremete Contra las Gafas AI en el Mad Cool Festival: “No Son Sexys”

Politica Internacional

Casa Blanca lanza centro de ciberseguridad ‘Gold Eagle’ para parchar fallos de software descubiertos por IA

Tecnologia

Apple lanza el beta público de iOS 27 con Siri AI: La revolución del asistente virtual

Economia

Google enfrenta demanda colectiva por usar obras protegidas para entrenar a Gemini

Negocios

Demis Hassabis pide un organismo regulador independiente para la IA de frontera

Tecnologia

Google Images se renueva con un diseño al estilo Pinterest para convertir la búsqueda en descubrimiento visual

Economia

Adam Mosseri anticipa límites en el gasto de tokens de IA para ingenieros de Meta

Economia

Nueva York se convierte en el primer estado en detener la construcción de centros de datos: Orden ejecutiva de Kathy Hochul

Economia

Camron Drummond: Un título en ciencias de la computación y la cruda realidad del mercado laboral en el sur de Florida

Espectáculos y Entretenimiento

Spotify Lanza Conversaciones Interactivas con IA para Usuarios Premium