L’IA qui transforme le business ?
Stratégies, mouvements et levées IA décryptés, chaque soir en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Deux anciens de la sécurité de l’IA lancent AIUC, une couche d’audit et de certification pour agents d’IA, et bouclent 40 millions de dollars en série A. Norme dédiée, 5 000 tests et rapports détaillés doivent aider les acheteurs à juger de la fiabilité et des risques, alors que des acteurs du secteur plaident pour des évaluations indépendantes.
Évaluations tierces réclamées et rôle de METR évoqué par Anthropic
Dario Amodei, PDG d’Anthropic, a récemment appelé à ralentir le développement des technologies de pointe en raison d’une hausse rapide d’incidents de comportements inappropriés. Il a aussi évoqué l’idée d’imposer des évaluateurs tiers intégrés pour observer et vérifier la sécurité, citant METR comme possibilité. METR mène déjà des tests pour des laboratoires de pointe, avec un accent qui est resté longtemps centré sur la performance, et a été sollicitée par OpenAI lors de l’enquête sur son incident lié à Hugging Face. Dans ce paysage où l’exigence d’évaluations indépendantes s’affirme, AIUC s’inscrit comme un prestataire d’audit sans intégration directe chez les clients, en fournissant des appréciations indépendantes de la sécurité des agents.
Une norme maison, inspirée de SOC 2, et une batterie de 5 000 tests
AIUC a bâti une couche d’audit et de certification de tiers pour les agents d’IA. L’entreprise s’est inspirée de la norme SOC 2 pour créer AIUC-1 et un service de tests qui valide les agents par rapport à cette référence. Concrètement, chaque agent est soumis à environ 5 000 tests couvrant des cas comme les jailbreaks, les hallucinations et les fuites de données. Les résultats donnent lieu à un rapport d’environ 100 pages, qui précise où l’agent se comporte de manière sûre et fiable et où il présente des faiblesses. Selon Rune Kvist, l’exécution des tests s’appuie sur des agents d’IA et l’analyse des données sur l’IA, avec une vérification humaine de l’audit final. Les services ne sont pas intégrés chez le client, AIUC se concentrant sur une évaluation indépendante.
Des critères dictés par 250 responsables risques et sécurité
Pour élaborer sa norme, AIUC a réuni un consortium d’environ 250 responsables de la sécurité et de la gestion des risques, identifiés comme acheteurs d’agents. Rajiv Dattani indique que ces interlocuteurs se réunissent chaque mois pour préciser ce qu’ils recherchent lors d’un achat, les questions qu’ils veulent poser et les points à traiter. Leurs retours alimentent directement la conception de la suite de tests. Dattani explique que les restitutions distinguent clairement les points validés, les zones de confiance et les sujets de préoccupation à connaître avant toute décision d’achat.
Ce que demandent les acheteurs et qui utilise déjà AIUC
Selon Rune Kvist, les banques, hôpitaux, gouvernements et militaires ne bloquent plus l’IA pour manque d’intelligence des modèles, mais parce qu’ils ont pris des engagements précis envers leurs clients et qu’aucun fournisseur ne peut aujourd’hui les garantir. AIUC cible ces besoins d’assurance en sécurité et fiabilité pour les entreprises et les développeurs d’agents. La société compte déjà parmi ses clients Cursor, Lovable, Harvey et ElevenLabs.
Fondateurs, trajectoires et 55 M$ déjà levés
AIUC a été fondée par Rune Kvist, ancien d’Anthropic, et Rajiv Dattani, ex-COO de METR entre 2024 et 2025, qui siège toujours à son conseil. Kvist est par ailleurs le beau-frère de Dattani. La jeune pousse a annoncé une série A de 40 millions de dollars dirigée par Ribbit Capital, avec First Harmonic. Elle avait auparavant levé 15 millions de dollars en amorçage mené par Nat Friedman via NFDG, avec Emergence, Terrain et Ben Mann, pour un total de 55 millions de dollars. Kvist affirme que, paradoxalement, l’IA devient plus difficile à adopter et à contrôler à mesure qu’elle gagne en intelligence, une conviction qui nourrit l’approche d’AIUC. Les fondateurs disent viser une solution pour éviter des agents d’IA incontrôlables en entreprise. Dans le même contexte sectoriel, le départ de Jacob Coxon d’Anthropic et ses inquiétudes sur des risques graves d’ici la fin de la décennie illustrent les tensions actuelles autour de la sûreté des systèmes.
