Le brief IA que les pros lisent chaque soir
Les 7 actus IA du jour, décryptées en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Une levée de fonds stratégique pour Pramaana Labs
Dans un contexte où les entreprises cherchent à intégrer l'intelligence artificielle de manière fiable dans leurs opérations, la startup Pramaana Labs se positionne comme un acteur clé. Elle a récemment annoncé avoir levé 27 millions de dollars lors d'un tour de financement initial. Ce tour a été mené par Khosla Ventures, avec la participation notable d'investisseurs tels qu'Accel, BoldCap, Nexus Venture Partners, Premji Invest et Unbound.
L'enjeu de la fiabilité dans les secteurs sensibles
Pramaana Labs vise à appliquer ses innovations dans des domaines où la précision est non négociable, comme le droit, la découverte de médicaments et la préparation fiscale. Dans ces secteurs, une erreur peut avoir des conséquences financières ou légales significatives. Le défi consiste à déployer l'IA tout en minimisant les risques d'erreurs et d'hallucinations, ce qui nécessite des systèmes de vérification plus robustes que ceux actuellement disponibles.
La formalisation mathématique comme solution
Selon Ranjan Rajagopalan, co-fondateur et PDG de Pramaana, ces secteurs sont particulièrement adaptés à la formalisation mathématique. Il explique que, tout comme en mathématiques, ces domaines sont régis par de nombreuses règles strictes. Une fois ces règles codifiées, le raisonnement qui en découle devient déterministe, ce qui permet de réduire les erreurs.
Une technologie hybride pour plus de précision
Le système développé par Pramaana repose sur un modèle de langage de grande taille (LLM) conventionnel, capable de traiter des requêtes en langage naturel et de résoudre des problèmes complexes. Cependant, une couche déterministe est intégrée au-dessus de ce LLM pour vérifier et valider ses résultats. Cette approche hybride, combinant LLM et vérification déterministe, est de plus en plus populaire.
L'utilisation de LEAN et l'exemple du projet CATALA
Pramaana Labs se distingue par son utilisation des outils de vérification formelle, notamment le langage de programmation open source LEAN, qui est couramment utilisé pour vérifier des preuves mathématiques. Rajagopalan mentionne le projet CATALA en France, qui a réussi à formaliser une grande partie du système fiscal et des prestations sociales en code exécutable, comme un exemple inspirant de ce qui peut être accompli.
Des collaborations avec des experts reconnus
Pour chaque application spécifique, Pramaana développe un système de vérification formelle inspiré de LEAN, sous la supervision d'experts du domaine. Par exemple, pour le droit fiscal, l'entreprise collabore avec Danny Werfel, ancien commissaire de l'IRS. De plus, des professeurs de l'IIT Delhi, de l'IIT Madras et de l'UC Berkeley apportent leur expertise pour les systèmes de cybersécurité et de découverte de médicaments.
Codifier les règles pour résoudre les problèmes complexes
Rajagopalan souligne que les problèmes les plus complexes du monde ne sont pas insolubles, mais simplement pas encore formalisés. Selon lui, chaque domaine où une erreur peut avoir des conséquences graves, qu'elles soient financières, sanitaires ou légales, est régi par des règles. La mission de Pramaana est de transformer ces règles en code, rendant ainsi l'IA plus fiable et sécurisée.
