Pramaana Labs recauda $27 millones para hacer la IA más confiable con verificación formal

Pramaana Labs recauda $27 millones para hacer la IA más confiable con verificación formal

La empresa emergente Pramaana Labs ha anunciado una ronda de financiamiento inicial de $27 millones liderada por Khosla Ventures, con la participación de Accel, Boldcap, Nexus Venture Partners, Premji Invest y Unbound. La compañía se enfoca en la verificación formal de inteligencia artificial, una técnica que combina modelos de lenguaje grandes (LLM) con herramientas matemáticas para garantizar la precisión en aplicaciones críticas.

¿En qué se enfoca Pramaana Labs?

Pramaana Labs planea implementar su tecnología en sectores altamente sensibles como el derecho, el descubrimiento de fármacos y la preparación de impuestos, donde los errores pueden ser costosos y la confiabilidad es primordial. “Es como las matemáticas en el sentido de que hay muchas reglas que debes cumplir”, explicó Ranjan Rajagopalan, cofundador y CEO de Pramaana Labs. “Una vez que tienes una versión codificada de ellas, el razonamiento sobre esas reglas comienza a volverse determinista”.

Tweet sobre Gauss, un agente de autoformalización matemática

Avances en formalización matemática: Gauss, un agente de IA para asistir en la verificación de teoremas.

La tecnología detrás de la verificación formal

El sistema de Pramaana utiliza un LLM convencional combinado con una capa determinista de verificación que se basa en herramientas de verificación formal, incluyendo el lenguaje de programación de código abierto LEAN, utilizado originalmente para verificar pruebas matemáticas. Rajagopalan señaló el proyecto CATALA de Francia, que formaliza gran parte del sistema tributario y de beneficios del país en código ejecutable, como un precedente importante.

Para cada caso de uso, Pramaana construirá su propio sistema de verificación formal al estilo LEAN, supervisado por expertos en el dominio. En el ámbito fiscal, la empresa trabaja con el ex comisionado del IRS Danny Werfel, mientras que profesores del IIT Delhi, IIT Madras y UC Berkeley supervisan los sistemas de ciberseguridad y descubrimiento de fármacos.

“Los problemas más difíciles del mundo no son irresolubles. No están formalizados”, afirmó Rajagopalan. “Cada dominio donde equivocarse puede costarle a alguien su salud, dinero o libertad tiene reglas”.

Ahora, esas reglas solo necesitan ser codificadas.

Prisma con fórmulas matemáticas representando la verificación formal de IA

La verificación formal de IA busca eliminar las alucinaciones en los modelos de lenguaje.

Comparte este artículo

Otras notas de tu interés:

Deportes

Caedan Wallace, de Patriots a Dolphins: un nuevo comienzo en Miami

Negocios

Stream de Sandbar: Mina Fahmi y el anillo de voz con IA para capturar ideas

Negocios

Mesh, el CRM personal de Automattic, llega a Android

Economia

Adquisición fraudulenta: Minute Media cancela la compra de VideoVerse y Vinayak Shrivastav es demandado

Politica

Seguridad de las máquinas de votación en EE. UU.: investigadores y negacionistas electorales encienden la polémica

Economia

Made by Google 2026: Pixel 11, Pixel Watch 5 y Pixel Tag, con Gemini como protagonista

Negocios

Google presenta en Made by Google 2026: Pixel 11, Pixel Watch 5 y Pixel Tag con nuevas funciones Gemini

Economia

Trump elige a Kevin Warsh para la Fed en plena moderación de la inflación en EE.UU.

Economia

Blacksmith recauda $45 millones en Serie B y alcanza una valuación de $550 millones

Negocios

Delta investiga una red Wi-Fi falsa creada por un pasajero en vuelo