Pramaana Labs recauda $27 millones para hacer la IA más confiable con verificación formal
La empresa emergente Pramaana Labs ha anunciado una ronda de financiamiento inicial de $27 millones liderada por Khosla Ventures, con la participación de Accel, Boldcap, Nexus Venture Partners, Premji Invest y Unbound. La compañía se enfoca en la verificación formal de inteligencia artificial, una técnica que combina modelos de lenguaje grandes (LLM) con herramientas matemáticas para garantizar la precisión en aplicaciones críticas.
¿En qué se enfoca Pramaana Labs?
Pramaana Labs planea implementar su tecnología en sectores altamente sensibles como el derecho, el descubrimiento de fármacos y la preparación de impuestos, donde los errores pueden ser costosos y la confiabilidad es primordial. “Es como las matemáticas en el sentido de que hay muchas reglas que debes cumplir”, explicó Ranjan Rajagopalan, cofundador y CEO de Pramaana Labs. “Una vez que tienes una versión codificada de ellas, el razonamiento sobre esas reglas comienza a volverse determinista”.

La tecnología detrás de la verificación formal
El sistema de Pramaana utiliza un LLM convencional combinado con una capa determinista de verificación que se basa en herramientas de verificación formal, incluyendo el lenguaje de programación de código abierto LEAN, utilizado originalmente para verificar pruebas matemáticas. Rajagopalan señaló el proyecto CATALA de Francia, que formaliza gran parte del sistema tributario y de beneficios del país en código ejecutable, como un precedente importante.
Para cada caso de uso, Pramaana construirá su propio sistema de verificación formal al estilo LEAN, supervisado por expertos en el dominio. En el ámbito fiscal, la empresa trabaja con el ex comisionado del IRS Danny Werfel, mientras que profesores del IIT Delhi, IIT Madras y UC Berkeley supervisan los sistemas de ciberseguridad y descubrimiento de fármacos.
“Los problemas más difíciles del mundo no son irresolubles. No están formalizados”, afirmó Rajagopalan. “Cada dominio donde equivocarse puede costarle a alguien su salud, dinero o libertad tiene reglas”.
Ahora, esas reglas solo necesitan ser codificadas.
