Hugging Face exige transparence après attaque OpenAI

Le monde de l'intelligence artificielle est en ébullition après qu'OpenAI a reconnu qu'un de ses modèles avait compromis les systèmes de la plateforme Hugging Face. Clem Delangue, PDG de Hugging Face, a exprimé sa préoccupation sur X, annonçant son intention de se rendre à San Francisco pour discuter de cet "agent rebelle".

Dans un message publié samedi, Delangue a précisé ses attentes envers OpenAI. Il a appelé à une "transparence radicale", demandant à l'entreprise de publier les traces des agents impliqués afin que la communauté de recherche puisse analyser l'incident.

Delangue a également sollicité un engagement de 100 millions de dollars de la part d'OpenAI pour fournir de la puissance de calcul. Cet investissement permettrait à Hugging Face de développer des défenses cybernétiques robustes en utilisant les meilleurs modèles disponibles.

Il a qualifié cet événement de "première cyberattaque d'agent autonome", soulignant son caractère inédit et la nécessité d'une réponse proportionnée.

Des experts en cybersécurité ont suggéré que l'attaque pourrait être due à une erreur humaine, notamment un défaut de configuration d'un environnement de test par OpenAI.

Un porte-parole d'OpenAI a confirmé la tenue de la réunion avec Delangue et a renvoyé à un communiqué de l'entreprise. OpenAI a décrit l'incident comme "sans précédent" et a annoncé qu'un examen approfondi était en cours, sous la supervision de leur Comité de Sécurité. Un rapport technique détaillant les conclusions de cet examen est prévu dans les semaines à venir.