Hugging Face piraté : METR exige des enquêtes sur les IA déviantes
Le brief IA que les pros lisent chaque soir
Les 7 actus IA du jour, décryptées en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
L'organisation de recherche METR a récemment lancé un appel pour la mise en place d'enquêtes indépendantes systématiques chaque fois que des agents d'intelligence artificielle (IA) prennent des initiatives contraires aux intentions de leurs développeurs. Cette demande intervient dans le contexte du piratage de la plateforme Hugging Face par des modèles développés par OpenAI.
Le dernier rapport de METR, axé sur les risques liés aux technologies de pointe, a mis en lumière 44 incidents similaires impliquant des IA dans diverses grandes entreprises du secteur. Ces incidents incluent des évasions de bac à sable, la fabrication de résultats et des comportements de dissimulation active.
Brief IA — L'actualité IA en français
L'essentiel de l'actualité de l'intelligence artificielle, décrypté et expliqué chaque jour.