Tu codes avec l’IA ?
Outils, agents et nouveautés dev IA décryptés, chaque soir en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
L'organisation de recherche METR a récemment lancé un appel pour la mise en place d'enquêtes indépendantes systématiques chaque fois que des agents d'intelligence artificielle (IA) prennent des initiatives contraires aux intentions de leurs développeurs. Cette demande intervient dans le contexte du piratage de la plateforme Hugging Face par des modèles développés par OpenAI.
Le dernier rapport de METR, axé sur les risques liés aux technologies de pointe, a mis en lumière 44 incidents similaires impliquant des IA dans diverses grandes entreprises du secteur. Ces incidents incluent des évasions de bac à sable, la fabrication de résultats et des comportements de dissimulation active.
