L’IA qui transforme le business ?
Stratégies, mouvements et levées IA décryptés, chaque soir en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Un mois tumultueux pour Anthropic
Anthropic, entreprise d'intelligence artificielle, s'est bâtie une identité publique en se positionnant comme l'entreprise d'IA prudente. Elle est reconnue pour publier des recherches détaillées sur les risques liés à l'IA et pour être très vocale sur les responsabilités qui accompagnent la création de technologies puissantes. Cependant, elle se trouve actuellement en conflit avec le Département de la Défense, ce qui ajoute à la pression. Malheureusement, une erreur humaine a récemment compromis cette image de rigueur.
Cette semaine, Anthropic a accidentellement rendu public un fichier contenant près de 2 000 fichiers de code source et plus de 512 000 lignes de code lors de la publication de la version 2.1.88 de son logiciel Claude Code. Ce produit n'est pas anodin ; il s'agit d'un outil en ligne de commande permettant aux développeurs d'utiliser l'IA d'Anthropic pour écrire et éditer du code. Sa puissance a même poussé OpenAI à interrompre son produit de génération vidéo Sora, seulement six mois après son lancement, pour se concentrer davantage sur les développeurs et les entreprises, selon le Wall Street Journal.
Une réaction mesurée face à l'incident
La fuite a été rapidement détectée par Chaofan Shou, un chercheur en sécurité, qui l'a signalée sur X. Anthropic a réagi en minimisant l'incident, déclarant qu'il s'agissait d'un problème d'emballage de version causé par une erreur humaine, et non d'une violation de sécurité. Cette réaction nonchalante contraste probablement avec l'agitation interne que l'erreur a pu provoquer.
Ce qui a été exposé n'est pas le modèle d'IA lui-même, mais l'architecture logicielle qui l'entoure. Les instructions révélées indiquent au modèle comment se comporter, quels outils utiliser et où se situent ses limites. Les développeurs ont immédiatement commencé à analyser ces informations, l'un d'eux décrivant le produit comme offrant "une expérience développeur de qualité production, pas juste un wrapper autour d'une API."
Des erreurs à répétition
C'est la deuxième fois en une semaine qu'une fuite se produit chez Anthropic. Quelques jours plus tôt, Fortune rapportait qu'Anthropic avait accidentellement rendu presque 3 000 fichiers internes accessibles au public, y compris un brouillon de message de blog décrivant un nouveau modèle puissant que l'entreprise n'avait pas encore annoncé. Ces erreurs répétées posent des questions sur la gestion des données sensibles chez Anthropic et pourraient avoir des répercussions sur sa réputation et sa compétitivité. On peut imaginer que chez Anthropic, un ingénieur se demande s'il a toujours un emploi, espérant que ce n'est pas la même équipe qui a commis l'erreur précédente.
