OpenAI accueille pour la première fois quatre organismes indépendants pour auditer directement ses systèmes internes d'IA dans ses locaux. Leurs investigations concernent la sécurité et les comportements des modèles.
OpenAI peut différer les publications des auditeurs
Un conseil indépendant chargé de la sécurité pilote la supervision, prend connaissance des rapports dans leur intégralité et intervient comme médiateur lors des désaccords. Les organismes publient leurs résultats de façon autonome ; OpenAI conserve toutefois la possibilité de retirer des éléments confidentiels ou de repousser une publication, le temps de traiter les risques identifiés.
L'entreprise anticipe certaines frictions au démarrage. Elle envisage aussi des examens supplémentaires consacrés, notamment, à sa culture d'entreprise et à ses procédures internes.
Les missions des quatre auditeurs
OpenAI désigne Goodfire, Transluce, METR et Apollo Research comme partenaires du programme. Goodfire étudie ce qui se passe à l'intérieur des modèles, tandis que Transluce examine les contrôles de sécurité effectués après leur entraînement. Avec ce dernier organisme, OpenAI prévoit un nouvel examen durant huit semaines, début 2027.
Vous voulez les meilleurs outils IA avant les autres ?
On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
METR recherche des comportements inappropriés pendant la plus vaste session d'entraînement par apprentissage par renforcement, une technique fondée sur des récompenses. Apollo Research cherche, pour sa part, à savoir si les modèles agissent à l'insu des développeurs contre les intentions de ces derniers.
Les auditeurs peuvent consulter des modèles inédits
Dans les bureaux de l'entreprise, le périmètre accessible varie avec la mission : modèles encore inédits, code source, données utilisées pour l'entraînement ou dispositifs de surveillance. Des entretiens confidentiels avec les développeurs sont également possibles.
Ce dispositif prolonge un examen antérieur des outils de surveillance, déjà mené sur place. Il répond aux engagements du White House Accord on Super Intelligence.






