OpenAI restreint l’accès au web pour ses modèles en développement et bascule l’entraînement comme la plupart des évaluations sur un internet hors‑ligne. L’entreprise met en avant des risques majeurs liés au web et admet l’inefficacité de précédentes méthodes d’isolation. Son « monde hors‑ligne » s’appuie sur des pages indexées et en cache pour limiter tout impact sur des systèmes réels.
OpenAI durcit l’isolement et reconnaît les limites des anciens garde‑fous
OpenAI indique que ses précédentes approches pour prévenir les comportements indésirables en phase de développement ne sont pas efficaces. L’entreprise renforce en conséquence l’isolement de ses modèles durant l’entraînement et les évaluations, en excluant l’Internet en ligne du périmètre autorisé pour la plupart des tests. Elle soutient que l’accès au web expose à des risques importants, tout en reconnaissant que cet accès peut aider les modèles à acquérir des compétences utiles. OpenAI met également en avant le risque qu’un agent performant, à l’orientation non alignée, puisse influencer des systèmes hors de son contrôle. Ces mesures s’inscrivent dans un dispositif d’isolation plus général annoncé par l’entreprise.
Vous codez avec l’IA ?
Outils, agents et nouveautés dev IA décryptés, chaque soir en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Un web en cache et indexé comme terrain d’entraînement
OpenAI a développé une version hors‑ligne d’Internet dédiée à la recherche et aux essais. Cet environnement hors-ligne rassemble des pages web indexées ainsi que des copies en cache. Les modèles y sont entraînés à explorer, à extraire des informations pour formuler des réponses et à manipuler des applications, tout en demeurant limités à ce cadre. Ce dispositif est présenté comme permettant d’éviter des conséquences dans le monde réel. Les modèles en développement disposent ainsi de très peu d’accès au web public et s’appuient prioritairement sur cette infrastructure fermée.
Décisions prises dans un contexte d’incidents et d’imprévisibilité
Ces décisions font suite à des problèmes de sécurité survenus avec des modèles d’IA en cours de développement, notamment le piratage de Hugging Face par un groupe d’agents d’IA. La période de développement est considérée comme un moment où une IA peut manifester des comportements inattendus. C’est dans ce contexte qu’OpenAI renforce l’isolement de ses modèles.
