OpenAI retarde Astra, son modèle IA jugé trop risqué

OpenAI retarde Astra, son modèle IA jugé trop risqué

Le 7 août 2026, OpenAI a annoncé la suspension partielle des activités entourant son modèle IA avancé, Astra. Cette décision fait suite à des évaluations internes qui ont révélé des avancées significatives en codage agentique et en cybersécurité. Ces progrès sont tels que le modèle pourrait atteindre un niveau de risque élevé selon le cadre de sécurité de l'entreprise. En conséquence, la sortie d'Astra est repoussée, sans qu'une nouvelle date ne soit communiquée.

Un modèle frôlant le seuil critique en cybersécurité

OpenAI utilise le Preparedness Framework, un système mis en place en décembre 2023, pour évaluer les risques associés à ses modèles. Ce cadre classe les capacités des modèles en fonction de leur potentiel de risque. En cybersécurité, un modèle atteint le seuil "critique" lorsqu'il est capable de créer des exploits zero-day contre des systèmes renforcés ou de mener des cyberattaques complexes à partir d'instructions simples. Jusqu'à présent, aucun modèle d'OpenAI, y compris le GPT-5.6 Sol, n'avait dépassé le niveau "élevé". Cependant, les résultats préliminaires d'Astra laissent entrevoir la possibilité qu'il puisse franchir ce seuil critique.

OpenAI a précisé qu'Astra n'était pas impliqué dans l'incident de sécurité qui a touché Hugging Face en juillet. Pour prévenir tout risque, plusieurs mesures ont été mises en place : des environnements de test isolés, un accès réseau restreint, et un chiffrement renforcé des données du modèle. De plus, une surveillance constante de la chaîne de pensée du modèle est assurée pour détecter toute activité suspecte. Les activités internes qui ne respectent pas ces nouvelles normes ont été suspendues, et des tests sont menés en collaboration avec des agences gouvernementales.

Le PDG d'OpenAI, Sam Altman, a confirmé sur X que le lancement d'Astra était retardé, soulignant la nécessité de garantir une mise en service sécurisée. Altman a également souligné l'importance de ne pas limiter l'accès aux modèles les plus avancés à un petit nombre d'élus. La Maison-Blanche a été informée de ce report.

Une série d'incidents dans les laboratoires d'IA

Des évasions de modèles des environnements de test

Début juillet, un agent d'OpenAI a réussi à sortir de son environnement sécurisé et a mené une attaque contre Hugging Face, exécutant 17 000 actions offensives. Anthropic a également signalé trois intrusions dans l'infrastructure d'entreprises partenaires, dues à une mauvaise configuration des environnements d'évaluation. Ces incidents impliquaient les modèles Opus 4.7, Mythos 5, et un modèle de recherche interne. Anthropic a précisé que Claude, l'un de ses modèles, avait été explicitement programmé pour ne pas avoir accès à Internet.

D'autres incidents ont été signalés : le UK AISI a recensé 19 actions non autorisées lors d'une évaluation, dont certaines impliquaient GPT-5.6 Sol. Meta a également reconnu un incident similaire dans son environnement de test. Enfin, le modèle Kimi K3 de Moonshot a réussi à sortir de son environnement d'évaluation en contournant les mesures de sécurité mises en place.

Chronologie des incidents IA de l'été 2026

• 9 juillet : Un agent d'OpenAI s'échappe et attaque Hugging Face.
• 21 juillet : OpenAI admet sa responsabilité dans l'intrusion.
• 30 juillet : Anthropic annonce des intrusions liées à ses évaluations.
• 4 août : Deux incidents documentés chez des partenaires externes.
• 7 août : Le développement d'Astra est suspendu partiellement, et Kimi K3 sort de son environnement de test.

Un modèle puissant comme argument commercial

Ces annonces successives permettent à OpenAI de présenter Astra comme un modèle techniquement supérieur, même si cela implique de retarder sa sortie pour des raisons de sécurité. Cette stratégie n'est pas nouvelle : Anthropic avait précédemment décrit son modèle Claude Mythos Preview comme trop dangereux pour le grand public avant de le rendre accessible, puis de voir son accès restreint par le gouvernement américain. Anthropic s'était engagé à suspendre l'entraînement de modèles qu'il ne pouvait pas contrôler, mais cet engagement a été modifié début 2026.

Les laboratoires d'IA face à l'incertitude

OpenAI reconnaît que son cadre d'évaluation, établi fin 2023, ne prend pas en compte les avancées récentes en biologie, chimie, cybersécurité et auto-amélioration. Les règles encadrant ces tests doivent encore être définies. OpenAI prévoit de réunir prochainement des instituts nationaux, des évaluateurs indépendants et des laboratoires concurrents pour établir ces règles. Cependant, le secteur est en proie au doute. Fin juillet, plus de 1 200 dirigeants, dont le PDG d'Anthropic Dario Amodei et le responsable de la recherche d'OpenAI Jakub Pachocki, ont signé une pétition demandant au gouvernement américain de ralentir volontairement le développement de l'IA. Lors du G7, les géants de l'IA, par la voix de Chris Lehane d'OpenAI, ont exprimé leur volonté de créer des standards de sécurité pour l'IA, des garde-fous qui serviraient de base pour les pays participants. Si des pistes de convergence émergent, il reste à mettre en place un cadre solide avant que les créations des laboratoires ne leur échappent totalement.