La « Paris Call for AI Safety and Security » aligne huit pays et plusieurs laboratoires d’IA sur des pratiques communes, dont des mécanismes d’arrêt des modèles. L’accord reste non contraignant et s’inscrit dans un contexte de frictions internationales et d’une offensive française sur la protection des mineurs.
Pas de sanctions ni de délais, et des frictions transatlantiques
L'accord conclu autour de la déclaration de Paris ne s'accompagne d'aucun dispositif de supervision contraignant ni de régime de sanctions. Les normes partagées et les procédures de coopération restent à élaborer, et aucun délai n'est fixé. À l'Assemblée générale des Nations unies fin septembre, le président américain Donald Trump a rejeté l'idée d'un schéma de supervision globaliste pour les modèles d'IA américains. Il a fait signer un protocole national aux dirigeants de la tech et ordonné le 10 octobre que les incidents majeurs liés à l'IA soient signalés aux agences fédérales. Le climat de coopération a montré ses limites : l'Institut britannique de sécurité de l'IA a illustré ces frictions, et après des restrictions américaines d'accès aux nouveaux modèles en septembre, la Maison Blanche n'a levé le blocage qu'après des pressions diplomatiques. L'Allemagne n'a pas signé la déclaration.
Des engagements opérationnels sur l’évaluation, l’audit et la transparence
L'objectif est de limiter les risques liés aux cyberattaques et à la perte de contrôle sur des systèmes puissants, en s’articulant autour de trois axes principaux. Les parties prenantes mettent en place des démarches communes pour l’évaluation des modèles de grande capacité et pour préciser la responsabilité incombant aux développeurs. Elles promettent d’améliorer la circulation des informations concernant les incidents de sécurité majeurs et de rendre publics les résultats de tests non sensibles dans un format harmonisé. Les sociétés concernées sont tenues de révéler les risques identifiés, d’accepter des contrôles indépendants adaptés au niveau de risque menés par des chercheurs extérieurs, ainsi que d’instaurer des dispositifs d’arrêt pour les modèles qu’elles supervisent.
L’IA et sa régulation vous intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Incidents de laboratoire et calculs industriels en toile de fond
Cette séquence intervient à la suite d’incidents survenus dans plusieurs grands laboratoires américains. Lors de tests de cybersécurité, des agents d’IA développés par OpenAI ont accédé de manière autonome à Internet et mené des attaques inattendues contre la plateforme Hugging Face, ce qui a ravivé les interrogations sur la possibilité de contrôler des modèles très puissants. Tandis qu’OpenAI et Anthropic se préparent à entrer en bourse, leurs investisseurs demandent qu’ils maîtrisent ces risques. D’après la position exprimée par Sam Altman, OpenAI ne doit pas laisser ses concurrents prendre l’avantage, même si cela implique que des mesures de sécurité ralentissent le développement. À la mi-septembre, Dario Amodei a demandé un ralentissement de la recherche et la mise en place d’une régulation internationale incluant des auditeurs externes au sein des laboratoires. Environ une semaine plus tard, OpenAI a plaidé pour l’instauration de standards internationaux de sécurité sous leadership américain, en s’appuyant sur un réseau d’instituts de sécurité de l’IA situés au Royaume-Uni, aux États-Unis et en France.
La France pousse une charte pour les mineurs et cadence le calendrier
L'Élysée entend aussi faire avancer mardi une charte de protection des enfants, un texte que les États-Unis avaient bloqué lors du G7 d'Évian-les-Bains en juin. Le cadre annoncé vise à faciliter l'accès des chercheurs indépendants aux données des entreprises, à financer leurs travaux par les grands acteurs de l'IA et à garantir le partage des résultats. La recherche préliminaire doit étudier l'effet des outils conversationnels peu contestataires sur le développement cognitif des très jeunes et l'attachement émotionnel que ces systèmes suscitent chez les mineurs, un sujet déjà porté devant les tribunaux américains dans des affaires liées à des suicides. Les conclusions sont destinées en priorité à la Commission européenne, tandis qu'Ursula von der Leyen a proposé en septembre un Kids Act européen pour l'IA d'ici 2028. Mardi, le Conseil national de l'IA et du numérique remettra à Emmanuel Macron un rapport commandé par le gouvernement sur l'exploitation des vulnérabilités humaines par les assistants et des recommandations pour un encadrement plus strict. En parallèle, environ trente dirigeants discuteront au Forum de la paix, où la déclaration, adoptée le 9 novembre par des représentants de huit pays, a été rejointe lors d'une réunion en ligne par Sam Altman, Dario Amodei, Brad Smith, Arthur Mensch, Yoshua Bengio et Scott Bessent.
