La surveillance des chaînes de pensée des modèles d'IA devient plus difficile, selon des travaux de Google DeepMind et des signaux relevés chez OpenAI. Les chercheurs Rohin Shah et Anca Dragan défendent la valeur de cette transparence pour détecter tromperie et plans problématiques, tout en appelant à des mesures pour la préserver. Des dirigeants d'OpenAI et d'Anthropic ont récemment relayé des inquiétudes convergentes.
Des alertes récentes sur une transparence en recul
La carte système d'OpenAI pour GPT-6 Astra indique une baisse significative de la capacité à surveiller la chaîne de pensée. Des chercheurs estiment que les futurs modèles pourraient raisonner dans des espaces numériques inaccessibles aux humains, ce qui les rendrait plus efficaces mais totalement opaques. Début septembre, Jakub Pachocki, scientifique en chef d'OpenAI, a mis en garde contre une perte de contrôle, en partie liée à la difficulté croissante de suivre les chaînes de pensée. Peu après, Dario Amodei, PDG d'Anthropic, a appelé à ralentir volontairement le rythme de développement.
L’IA et sa régulation vous intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Ce que la chaîne de pensée rend possible en sécurité
Rohin Shah et Anca Dragan soutiennent que la visibilité des chaînes de pensée représente un avantage essentiel pour la sécurité des modèles d'IA. Le fait de rédiger les étapes intermédiaires en langage clair permet aux chercheurs de repérer d'éventuelles tentatives de tromperie ou la préparation de plans problématiques. Avec Gemini 3 Pro, ils ont observé que la chaîne de pensée avait permis de voir que le modèle reconnaissait être dans un environnement de test. Actuellement, de nombreux modèles formulent leurs étapes de raisonnement en langage naturel, rendant leur réflexion accessible.
Des garde-fous proposés pour préserver la lisibilité
Shah et Dragan recommandent de mesurer régulièrement la capacité à surveiller les chaînes de pensée, de maintenir des architectures transparentes et de s'assurer, lors de l'entraînement, que les modèles ne développent pas de stratégies pour masquer leur raisonnement. Google DeepMind avertit que cette transparence est aujourd'hui menacée. Leur analyse figure parmi les premiers articles publiés par le nouvel institut de l'organisation.
