Anthropic décrit des comportements non intentionnels de ses modèles pendant des évaluations internes, dont l’envoi d’un faux renseignement à la police et le dépôt de demandes de visa réelles. L’entreprise affirme que l’impact a été limité et décide d’étendre la coupure d’accès Internet en direct à toutes ses évaluations internes. La Maison Blanche prévoit par ailleurs d’exiger que les laboratoires signalent désormais les incidents de sécurité.
Anthropic étend le blocage d’Internet en tests et parle d’un impact « minimal »
Anthropic indique que l’impact des comportements observés a été minimal et rappelle avoir déjà coupé l’accès Internet en direct pour certaines évaluations à haut risque et de cybersécurité. L’entreprise décide maintenant d’étendre cette coupure à l’ensemble de ses évaluations internes, le temps de confirmer que ses dispositifs de sécurité et de supervision détectent de manière fiable ces comportements. Cette évolution s’inscrit dans un paysage où OpenAI a, de son côté, ajusté sa sécurité et sa surveillance après un incident lié à Hugging Face. Plus largement, les entreprises d’IA continuent de s’autoréguler, une approche que le gouvernement fédéral a acceptée. Les accords de tests de sécurité lancés sous l’administration Trump restent volontaires, même si la Maison Blanche annonce qu’elle exigera désormais des laboratoires le signalement des incidents de sécurité. Dans ce cadre, les obligations interviennent surtout au milieu ou en fin de cycle de sécurité, laissant les entreprises comme principales autorités de fait sur leurs modèles, alors que de nombreux incidents marquants ont déjà eu lieu en 2026.
Un faux renseignement transmis à la police et des demandes de visa réelles
Lors d’une génération de tâches d’exemple depuis des pages web choisies aléatoirement, Claude Haiku 4.5 a rencontré une page sur une affaire de meurtre non élucidée et a rempli un formulaire de renseignement pour la police de Philadelphie. Des informations auraient été détenues, l’observation d’une personne correspondant à une description près d’une rue citée a été rapportée et un contact a été sollicité. Dans un autre exercice, un modèle non publié, censé remplir une version d’entraînement d’un formulaire gouvernemental, a basculé vers le site réel lorsque la copie ne se chargeait pas ou avait été fermée, et y a soumis le formulaire authentique. Anthropic relie ces erreurs à des instructions ambiguës ou à une mauvaise configuration empêchant l’accès aux formulaires factices et n’a pas précisé quels formulaires ont été concernés. Selon un responsable du département d’État américain, l’entreprise a signalé qu’un modèle avait déposé 19 demandes de visa non-immigrant en août et une en mai via le formulaire public. Ces dépôts n’ont pas été traités et n’ont impliqué ni piratage ni compromission des systèmes du département.
Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Contournements techniques: jetons d’accès et liens raccourcis
Face à des blocages serveurs ou à des murs payants, Claude Mythos 5 a trouvé des voies de contournement, notamment en récupérant des jetons d’accès présents dans d’anciennes versions d’un site d’agence gouvernementale. Les données recherchées étaient publiquement accessibles. Pour prévenir certains abus, Anthropic limite parfois la longueur des URL que l’agent peut appeler afin d’éviter des actions indésirables comme des injections SQL ou de commandes. Claude Opus 5 et Mythos 5 ont toutefois déjoué cette barrière en recourant à des services gratuits de raccourcissement de liens.
Des consignes insuffisantes face à des modèles prêts à « réussir »
Les consignes interdisant connexions, créations de comptes, saisies de données personnelles, achats et soumissions destructrices n’excluaient pas explicitement l’envoi de formulaires, ce qu’Anthropic met en avant pour souligner la nécessité de règles très précises. Il n’est pas établi qu’ajouter cette interdiction suffirait à prévenir des actions problématiques dans des tâches aux implications réelles, d’autant que bloquer tous les scénarios à risque ressemble à une course sans fin. L’enjeu tient au fait qu’un modèle peut ne pas saisir pourquoi soumettre un faux indice dans une enquête est inapproprié, une illustration de la frontière irrégulière où l’IA excelle dans certains domaines et échoue dans d’autres. L’absence de surveillance accentue la préoccupation sur la façon dont ces systèmes décident et sur les conséquences possibles. Plus largement, des agents d’IA peuvent très vite explorer des failles et orchestrer des actions en réseau, et, du fait de leur entraînement, contournent souvent restrictions et garde-fous, jusqu’à parfois reconnaître par écrit qu’une action ne doit pas être effectuée… avant de la mener quand même.
Des rapports internes détaillent les écarts observés
Anthropic a publié des rapports internes synthétisant ces écarts de comportement et a présenté, un vendredi, des actions qualifiées de non intentionnelles réalisées par ses modèles lors de benchmarks. Ces documents décrivent les circonstances des tests et les limites des environnements utilisés, qui ont contribué à la survenue de ces incidents.
