Pramaana Labs invierte 27 millones para potenciar IA en sectores críticos

La búsqueda de la fiabilidad en la inteligencia artificial

La inteligencia artificial (IA) se ha convertido en una herramienta indispensable en el mundo empresarial moderno. Sin embargo, a medida que las empresas intentan integrar programas piloto de IA en sus operaciones diarias, se enfrentan a un desafío significativo: la fiabilidad. Este aspecto ha cobrado protagonismo, ya que los errores pueden tener consecuencias devastadoras en sectores donde la precisión es crucial. En este contexto, surge una nueva startup que promete abordar este problema utilizando herramientas de formalización matemática, combinando un sistema informático fiable con uno de los más caóticos.

La inversión inicial de Pramaana Labs

El miércoles, Pramaana Labs anunció que había recaudado 27 millones de dólares en financiación inicial, con Khosla Ventures a la cabeza de la inversión. También participaron otros actores destacados como Accel, Boldcap, Nexus Venture Partners, Premji Invest y Unbound. Esta inyección de capital no solo resalta el potencial de la empresa, sino que también refleja la creciente preocupación por la fiabilidad en el uso de la IA en sectores sensibles.

La necesidad de un enfoque formalizado en la IA es más evidente que nunca en industrias donde un pequeño error puede costar vidas o millones de euros.

Sectores críticos para la formalización de la IA

Pramaana Labs tiene la intención de concentrarse en verticales altamente sensibles, como el derecho, el descubrimiento de fármacos y la preparación de impuestos. En estos campos, los errores no solo son costosos, sino que pueden tener repercusiones legales o de salud. La implementación de IA en estos sistemas requerirá protecciones más robustas contra los fallos de la IA, conocidos como "alucinaciones", y otros errores que pueden surgir.

Ranjan Rajagopalan, cofundador y CEO de Pramaana, explica que estas áreas son particularmente adecuadas para la formalización, dado que operan bajo un conjunto estricto de reglas y regulaciones. “Es como las matemáticas en el sentido de que tienes muchas reglas que necesitas cumplir”, afirma Rajagopalan, refiriéndose al código tributario. “Una vez que tienes una versión codificada de esto, el razonamiento que se desarrolla sobre ella comienza a volverse determinista”.

Un sistema híbrido de IA

El sistema de Pramaana funciona sobre un modelo de lenguaje de gran tamaño (LLM) convencional, lo que le proporciona la flexibilidad necesaria para responder preguntas en lenguaje natural y abordar problemas complejos que las computadoras convencionales no pueden resolver. Sin embargo, este LLM está acompañado de una capa determinista que asegura que el trabajo del LLM sea válido. Esta combinación es cada vez más popular en el ámbito de la IA, pero lo que distingue a Pramaana es su enfoque en la verificación formal.

La empresa utiliza herramientas de verificación formal, apoyándose en el lenguaje de programación LEAN, que se emplea para verificar pruebas matemáticas. Este enfoque no es completamente nuevo; Rajagopalan menciona el proyecto CATALA de Francia, que formaliza gran parte del sistema fiscal y de beneficios del país en un código ejecutable.

La construcción de sistemas de verificación específicos

Para cada caso de uso, Pramaana construirá su propio sistema de verificación formal al estilo LEAN, supervisado por expertos en la materia. En el ámbito del derecho fiscal, la empresa está colaborando con Danny Werfel, excomisionado del IRS, mientras que profesores de IIT Delhi, IIT Madras y UC Berkeley están a cargo de los sistemas de ciberseguridad y descubrimiento de fármacos. Este enfoque colaborativo garantiza que la formalización se realice de manera adecuada y precisa, teniendo en cuenta las complejidades de cada sector.

La verificación formal en la IA puede ser el camino hacia la creación de sistemas más seguros y fiables, especialmente en campos donde la confianza es fundamental.

La visión de futuro de Pramaana

Rajagopalan está convencido de que los problemas más difíciles del mundo no son irresolubles, sino que simplemente no han sido formalizados. “Cada dominio donde equivocarse puede costarle a alguien su salud, dinero o libertad tiene reglas”, señala. Este enfoque resalta la importancia de codificar esas reglas, permitiendo que la IA opere dentro de un marco definido y seguro.

La visión de Pramaana se centra en la creación de un entorno donde la IA no solo sea capaz de realizar tareas complejas, sino que lo haga con un nivel de fiabilidad que permita a las empresas confiar en sus decisiones. Este es un paso crucial hacia la adopción generalizada de la IA en sectores donde la incertidumbre puede resultar peligrosa.

La revolución en la preparación de impuestos

Uno de los campos en los que Pramaana está incursionando es la preparación de impuestos, un área que tradicionalmente ha sido compleja y propensa a errores. La combinación de la IA con un sistema de verificación formal podría transformar la forma en que se gestionan las declaraciones de impuestos, proporcionando a los contribuyentes una mayor seguridad y confianza en los cálculos realizados.

Rajagopalan explica que, al formalizar el código tributario, se puede crear un sistema en el que los contribuyentes reciban respuestas precisas y basadas en reglas bien definidas. Esto no solo mejoraría la experiencia del usuario, sino que también reduciría el riesgo de auditorías y sanciones por errores involuntarios.

Desafíos y oportunidades en el descubrimiento de fármacos

Otro sector donde Pramaana planea aplicar su enfoque es en el descubrimiento de fármacos. Este es un campo donde los errores pueden resultar extremadamente costosos y, en algunos casos, mortales. La capacidad de formalizar las reglas que rigen el desarrollo de nuevos tratamientos puede acelerar el proceso de investigación y aumentar la eficacia de los ensayos clínicos.

El uso de IA en este contexto, combinado con un sistema de verificación formal, podría significar la diferencia entre un tratamiento exitoso y uno que falla. La colaboración con instituciones académicas de renombre asegura que el conocimiento más actualizado y relevante esté al alcance de Pramaana, permitiendo que la empresa se mantenga a la vanguardia en innovación.

El papel de la ciberseguridad

La ciberseguridad es otro ámbito crítico donde Pramaana está aplicando su tecnología. A medida que las empresas adoptan soluciones de IA, también aumentan los riesgos asociados con la seguridad de los datos. La implementación de un sistema de verificación formal en el ámbito de la ciberseguridad no solo protegerá la información sensible, sino que también proporcionará a las organizaciones la confianza necesaria para utilizar la IA sin temor a brechas de seguridad.

Rajagopalan y su equipo son conscientes de que la ciberseguridad es un campo en constante evolución, y por ello, la formalización de las reglas que rigen este ámbito es esencial para mitigar los riesgos asociados. La combinación de su enfoque innovador y la colaboración con expertos en ciberseguridad posiciona a Pramaana como un líder potencial en este sector.

La importancia de la colaboración

La estrategia de Pramaana se basa en la colaboración con expertos en diversas disciplinas. Este enfoque no solo enriquece el proceso de formalización, sino que también asegura que cada solución sea relevante y eficaz para el sector específico al que se dirige. La colaboración con profesionales con experiencia en la materia garantiza que los sistemas de verificación formal se adapten a las necesidades y desafíos únicos de cada industria.

El camino hacia la formalización de la IA en sectores críticos no está exento de obstáculos. Sin embargo, la determinación de Pramaana y su enfoque innovador ofrecen una luz de esperanza en un campo donde la fiabilidad es más necesaria que nunca. La formalización de las reglas que rigen sectores como el derecho, la salud y la seguridad puede ser el primer paso hacia un futuro donde la IA opere con un nivel de confianza sin precedentes.