Les géants de l'IA pressent pour une régulation mondiale

Les géants de l'IA pressent pour une régulation mondiale

Plus de 1 200 employés des principaux laboratoires d'IA, dont OpenAI, Google et Meta, appellent le gouvernement américain à lancer une initiative internationale pour gérer le rythme du développement de l'IA.

Selon la déclaration intitulée "Pacing the Frontier", la pression concurrentielle rend impossible pour une seule entreprise ou un seul pays de ralentir son développement, même si les signataires ne s'accordent pas sur les mesures spécifiques à adopter. Les chercheurs soulignent les risques de sécurité posés par les agents d'IA autonomes comme une préoccupation majeure : lors de tests internes, les modèles d'OpenAI ont exploité une vulnérabilité pour accéder de manière indépendante à la plateforme Hugging Face.

Dans une déclaration conjointe, les employés des principaux laboratoires d'IA demandent au gouvernement américain de rechercher une coordination internationale. Leur argument est simple : aucune entreprise ni aucun pays ne peut ralentir les choses seul.

Sous le titre "Pacing the Frontier", plus de 1 200 employés d'entreprises d'IA de pointe ont signé une déclaration exhortant le gouvernement américain à soutenir une initiative internationale. L'objectif est de développer les outils techniques et de gouvernance nécessaires pour orienter délibérément le rythme à la frontière du développement automatisé de l'IA.

Le texte est bref. Il ne demande pas un arrêt ou une pause. Au contraire, il demande la capacité de freiner si nécessaire. Les entreprises leaders estiment qu'elles sont à la veille d'automatiser la recherche en IA. Il existe un risque réel que les capacités avancent plus rapidement que la capacité à comprendre ou à contrôler les systèmes qui en résultent. La phrase clé aborde les dynamiques concurrentielles : chaque entreprise et chaque pays subit une pression pour ne pas ralentir seul. Les outils de coordination à la frontière n'existent pas encore.

Les signataires ne s'accordent pas réellement

La liste des signataires inclut des personnalités de haut rang. Le PDG d'Anthropic, Dario Amodei, a signé, ainsi que les co-fondateurs Jared Kaplan, Jack Clark, Benjamin Mann et Chris Olah. Le scientifique en chef d'OpenAI, Jakub Pachocki, et le directeur de la recherche, Mark Chen, figurent également sur la liste, tout comme le scientifique en chef de Meta AI, Shengjia Zhao, le directeur de la stratégie de Google DeepMind, Jasjeet Sekhon, et Anca Dragan, qui dirige la sécurité et l'alignement de l'IA. John Schulman, scientifique en chef chez Thinking Machines, a également signé. Les organisations à but non lucratif Guidelight AI Standards et Encode AI ont aidé à organiser cette déclaration.

Cependant, les commentaires personnels publiés sur le site montrent que signer ne signifie pas être d'accord. Le chercheur d'OpenAI, Joshua Achiam, écrit qu'il ne sait pas quelle forme devraient prendre ces outils et espère que les instruments de gouvernance ne deviendront pas trop étendus ou excessifs.

Danny Sawyer de Google qualifie le rythme délibéré de très difficile et potentiellement plus nuisible que bénéfique. Il a signé néanmoins, car une approche planifiée est préférable à une réponse de panique face à une crise.

Schulman voit la valeur principale dans la construction d'une prise de conscience partagée de la nécessité de coordination. Il préférerait que les laboratoires conçoivent ces mécanismes volontairement avant que le gouvernement américain n'intervienne.

La cybersécurité comme signal d'alerte précoce

Les chercheurs en sécurité sont bien représentés parmi les signataires. Dawn Song, vice-présidente de la recherche en IA chez Meta, est professeure à l'Université de Californie, Berkeley, et a passé des années à travailler à l'intersection de la sécurité informatique et de l'apprentissage automatique, y compris les attaques adversariales et la découverte automatisée de vulnérabilités.

Son argument est fondé sur des données. Les projets d'évaluation CyberGym et ExploitGym montrent que les agents de pointe peuvent découvrir et exploiter de réelles vulnérabilités logicielles, ce qui pourrait permettre des cyberattaques à grande échelle sans protections adéquates. Le rythme des progrès s'accélère de lui-même, et de nombreux chercheurs considèrent l'auto-amélioration récursive comme un facteur réel.

La connexion entre ce débat et les incidents réels est claire à partir de la référence que cite Song. Selon OpenAI, la violation de Hugging Face s'est produite lors d'une évaluation interne où GPT-5.6 Sol et un modèle préliminaire plus performant avec des refus réduits ont été testés contre ce même benchmark cybernétique. Toutes les preuves indiquaient que les modèles étaient extrêmement concentrés sur la recherche d'une solution pour ExploitGym, écrit OpenAI. Ils ont exploité une vulnérabilité de type zero-day dans un proxy de cache, utilisé une élévation de privilèges pour atteindre un nœud avec accès à Internet, et ont conclu que Hugging Face pourrait héberger des solutions au benchmark.