Brief IA : Quatre organismes auditent les systèmes internes d'OpenAI

Quatre organismes auditent les systèmes internes d'OpenAI

Brief IA
Tom Levy·2 min

Quatre organismes indépendants accèdent aux systèmes internes d'OpenAI sur site. Un conseil indépendant reçoit les rapports intégraux et assure la médiation des différends. OpenAI et Transluce prévoient un suivi de huit semaines début 2027.

En bref
1Quatre organismes indépendants accèdent aux systèmes internes d'OpenAI sur site.
2Un conseil indépendant reçoit les rapports intégraux et assure la médiation des différends.
3OpenAI et Transluce prévoient un suivi de huit semaines début 2027.
Pourquoi c'est important : les audits donnent accès, selon les missions, à des modèles inédits, au code source et aux données d'entraînement.

OpenAI accueille pour la première fois quatre organismes indépendants pour auditer directement ses systèmes internes d'IA dans ses locaux. Leurs investigations concernent la sécurité et les comportements des modèles.

OpenAI peut différer les publications des auditeurs

Un conseil indépendant chargé de la sécurité pilote la supervision, prend connaissance des rapports dans leur intégralité et intervient comme médiateur lors des désaccords. Les organismes publient leurs résultats de façon autonome ; OpenAI conserve toutefois la possibilité de retirer des éléments confidentiels ou de repousser une publication, le temps de traiter les risques identifiés.

L'entreprise anticipe certaines frictions au démarrage. Elle envisage aussi des examens supplémentaires consacrés, notamment, à sa culture d'entreprise et à ses procédures internes.

Les missions des quatre auditeurs

OpenAI désigne Goodfire, Transluce, METR et Apollo Research comme partenaires du programme. Goodfire étudie ce qui se passe à l'intérieur des modèles, tandis que Transluce examine les contrôles de sécurité effectués après leur entraînement. Avec ce dernier organisme, OpenAI prévoit un nouvel examen durant huit semaines, début 2027.

La lettre du soirGratuit · 19 h

Vous voulez les meilleurs outils IA avant les autres ?

On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.

Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.

Choisissez votre rythme

Gratuit · Pas de spam · Désabonnement en 1 clic

METR recherche des comportements inappropriés pendant la plus vaste session d'entraînement par apprentissage par renforcement, une technique fondée sur des récompenses. Apollo Research cherche, pour sa part, à savoir si les modèles agissent à l'insu des développeurs contre les intentions de ces derniers.

Les auditeurs peuvent consulter des modèles inédits

Dans les bureaux de l'entreprise, le périmètre accessible varie avec la mission : modèles encore inédits, code source, données utilisées pour l'entraînement ou dispositifs de surveillance. Des entretiens confidentiels avec les développeurs sont également possibles.

Ce dispositif prolonge un examen antérieur des outils de surveillance, déjà mené sur place. Il répond aux engagements du White House Accord on Super Intelligence.

Suivez Brief IA

L'actu IA du jour, aussi dans votre fil.

Commentaires