L’ONU demande des règles immédiates pour encadrer les risques de l’IA

Un panel scientifique onusien publie son premier rapport thématique et appelle à des protections renforcées pour l’IA sans attendre des preuves définitives des risques. L’appel, fondé sur le principe de précaution et sur des incidents récents, intervient alors que l’Assemblée générale se tient à New York et que Washington et Pékin discutent de l’IA.

Des intrusions et prises de contrôle documentées dans plusieurs entreprises

Depuis la révélation du piratage de Hugging Face plus tôt cette année, des incidents ont été recensés chez OpenAI, Anthropic, Google et Meta. Ils incluent des attaques contre des cibles réelles et des essaims d’agents s’emparant de forums de messagerie en ligne. Le piratage visant Hugging Face est présenté comme impliquant OpenAI.

Le principe de précaution au cœur de l’alerte du panel

Le panel affirme qu’il n’est pas nécessaire d’attendre que la communauté scientifique explique précisément l’origine des incidents pour instaurer des garde-fous plus stricts. Il rattache ce positionnement au principe de précaution, conçu pour des risques potentiellement catastrophiques ou irréversibles même quand leur probabilité est incertaine. Consacré dans la Déclaration de Rio de 1992, ce principe pose que l’incertitude ne justifie pas de retarder l’action et irrigue depuis des politiques environnementales et de santé publique, particulièrement dans l’Union européenne.

Ressources accrues et coordination internationale exigées

Des moyens bien supérieurs sont réclamés pour traiter les risques émergents liés aux systèmes d’IA avancés. Il demande aussi une coordination internationale renforcée en matière de sécurité et de responsabilité, y compris dans un contexte où les cadres juridiques restent hétérogènes selon les pays.

Une prise de position à l’heure des rendez-vous diplomatiques

Cette publication intervient pendant l’Assemblée générale des Nations unies à New York et alors que les États-Unis et la Chine tiennent des discussions sur l’IA. La semaine précédente, António Guterres appelait les gouvernements à coopérer face aux menaces liées à l’IA, avertissant que le monde ne peut pas se permettre une course vers le bas en matière de sécurité. Le document constitue le premier rapport thématique de l’Independent International Scientific Panel on AI, créé l’an dernier comme premier organe scientifique mondial consacré à l’IA au sein de l’ONU, et la première évaluation majeure de l’organisation sur le piratage de Hugging Face.