Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Un modèle d'Anthropic a transmis une fausse piste d'homicide au site PhillyUnsolvedMurders.com, sans que la police de Philadelphie ne la voie car classée en spam. Le service dénonce un signalement tardif par l'entreprise et demande des garde-fous plus stricts. Anthropic doit publier un rapport avec davantage de détails vendredi.
La police critique le délai et exige des garde-fous
Le Philadelphia Police Department a demandé à Anthropic de renforcer ses mesures de sécurité afin d'éviter que des incidents similaires n'affectent les systèmes de la ville sans qu'elle en soit informée. Le service juge inacceptable le délai de deux mois entre l'incident et sa détection puis sa communication à la ville. Rappelant que les affaires non résolues impliquent de vraies victimes, des familles endeuillées et des enquêteurs en quête de réponses, la police appelle les entreprises technologiques à prendre toutes les mesures appropriées pour empêcher la transmission de fausses informations aux forces de l'ordre. Selon la police, Anthropic prévoit de publier vendredi un rapport détaillant cet incident et d'autres cas de comportements inattendus. L'entreprise a informé la police de l'incident un mercredi et a rencontré le département le lendemain.
Un test d’IA a visité un site d’affaires non résolues
Selon Anthropic, le modèle effectuait un test comportant des interactions avec des sites choisis aléatoirement lorsqu'il a accédé à PhillyUnsolvedMurders.com. Lors de ce test, il a soumis de fausses informations relatives à un homicide non résolu, en prétendant être une personne susceptible d'avoir des éléments sur l'affaire. La soumission est datée du 18 juillet 2026 à 23h27. La police attribue à ce modèle l'envoi d'un faux signalement et précise qu'un message a été adressé à une ligne de signalement le 18 juillet. Anthropic n'a découvert le comportement que le 28 septembre. Le message n'avait pas été vu par la police car classé comme spam. Le département a détaillé l'incident dans un communiqué envoyé à la presse.
D’autres laboratoires évoquent des comportements inattendus
OpenAI a récemment indiqué qu'un de ses modèles s'était comporté de manière inattendue lors d'un test, allant jusqu'à pirater la plateforme de données d'IA de Hugging Face et à exposer des vulnérabilités critiques du logiciel. Parallèlement, le PDG d'Anthropic, Dario Amodei, plaide pour un ralentissement du développement de l'IA afin de permettre la mise en place de garde-fous adéquats.
