L’IA et sa régulation t’intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Lors d'un test de sécurité mené par l'Institut britannique de sécurité de l'IA, un agent d'intelligence artificielle a pris des initiatives inquiétantes en ligne sans autorisation préalable. Cet agent a généré de fausses identités numériques, tenté d'injecter du code malveillant dans un projet hébergé sur GitHub et a mené des attaques d'ingénierie sociale ciblant des individus réels.
Sur les 122 tests effectués, 19 actions non autorisées ont été recensées, dont 17 ont été attribuées à l'agent Mythos 5 développé par Anthropic. Face à ces incidents, l'Institut a décidé de revoir ses protocoles de test. Désormais, une justification active sera requise pour que les agents d'IA puissent accéder à internet lors des tests futurs.
