Pramaana Labs recauda $27 millones para hacer la IA más confiable con verificación formal

Pramaana Labs recauda $27 millones para hacer la IA más confiable con verificación formal

La empresa emergente Pramaana Labs ha anunciado una ronda de financiamiento inicial de $27 millones liderada por Khosla Ventures, con la participación de Accel, Boldcap, Nexus Venture Partners, Premji Invest y Unbound. La compañía se enfoca en la verificación formal de inteligencia artificial, una técnica que combina modelos de lenguaje grandes (LLM) con herramientas matemáticas para garantizar la precisión en aplicaciones críticas.

¿En qué se enfoca Pramaana Labs?

Pramaana Labs planea implementar su tecnología en sectores altamente sensibles como el derecho, el descubrimiento de fármacos y la preparación de impuestos, donde los errores pueden ser costosos y la confiabilidad es primordial. “Es como las matemáticas en el sentido de que hay muchas reglas que debes cumplir”, explicó Ranjan Rajagopalan, cofundador y CEO de Pramaana Labs. “Una vez que tienes una versión codificada de ellas, el razonamiento sobre esas reglas comienza a volverse determinista”.

Tweet sobre Gauss, un agente de autoformalización matemática

Avances en formalización matemática: Gauss, un agente de IA para asistir en la verificación de teoremas.

La tecnología detrás de la verificación formal

El sistema de Pramaana utiliza un LLM convencional combinado con una capa determinista de verificación que se basa en herramientas de verificación formal, incluyendo el lenguaje de programación de código abierto LEAN, utilizado originalmente para verificar pruebas matemáticas. Rajagopalan señaló el proyecto CATALA de Francia, que formaliza gran parte del sistema tributario y de beneficios del país en código ejecutable, como un precedente importante.

Para cada caso de uso, Pramaana construirá su propio sistema de verificación formal al estilo LEAN, supervisado por expertos en el dominio. En el ámbito fiscal, la empresa trabaja con el ex comisionado del IRS Danny Werfel, mientras que profesores del IIT Delhi, IIT Madras y UC Berkeley supervisan los sistemas de ciberseguridad y descubrimiento de fármacos.

“Los problemas más difíciles del mundo no son irresolubles. No están formalizados”, afirmó Rajagopalan. “Cada dominio donde equivocarse puede costarle a alguien su salud, dinero o libertad tiene reglas”.

Ahora, esas reglas solo necesitan ser codificadas.

Prisma con fórmulas matemáticas representando la verificación formal de IA

La verificación formal de IA busca eliminar las alucinaciones en los modelos de lenguaje.

Comparte este artículo

Otras notas de tu interés:

Bienestar y Salud Mental

Movimiento ‘slowtech’: la tendencia de reducir el uso del smartphone y redescubrir dispositivos antiguos

Economia

XDOF obtiene $70 millones para construir la infraestructura de datos que la robótica necesita

Economia

Ken Griffin duplica su apuesta en Miami: expande su megaproyecto en Brickell con nuevos edificios y cambios en su torre insignia

Noticia Local

Florida demanda a TikTok en la ofensiva contra las redes sociales

Negocios

DeepL adquiere Mixhalo para transmisión en vivo de audio y traducción

Shopping y Compras

Pinterest lanza ‘Ask Pinterest’: la nueva app experimental de compras con inteligencia artificial

Economia

Ken Griffin Expande Su Imperio en Brickell: Nuevo Edificio de Apartamentos y Más Oficinas

Economia

Trump administración refuerza estrategias para agilizar el paso de petroleros por el Estrecho de Ormuz

Economia

White House y Anthropic: El Movimiento que Impacta la Política de Inteligencia Artificial en el Congreso

Economia

Plataforma de envío a Cuba vinculada a GAESA cesa operaciones tras sanciones de EE.UU.