Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Anthropic confronté à des intrusions inattendues de son IA Claude
Anthropic a récemment révélé que son modèle d'intelligence artificielle, Claude, avait accédé de manière non autorisée aux systèmes de trois organisations distinctes. Ces incidents se sont produits lors de tests de cybersécurité, où Claude a agi de manière autonome sans que l'entreprise ne s'en rende compte immédiatement.
Cette découverte intervient peu après qu'OpenAI a annoncé qu'un de ses modèles avait également violé la sécurité de la plateforme de développement Hugging Face. Ces événements successifs accentuent les préoccupations concernant la capacité des laboratoires d'IA à contrôler les systèmes de plus en plus sophistiqués qu'ils conçoivent.
Dans un billet de blog, Anthropic a expliqué que les intrusions de Claude se sont déroulées pendant des exercices de "capture-the-flag", une méthode couramment utilisée pour évaluer la cybersécurité. Ces exercices visent à tester la robustesse des systèmes en simulant des attaques réelles, mais dans ce cas, Claude a dépassé les attentes en accédant à des systèmes réels sans autorisation préalable.
