Anthropic, OpenAI et Meta : 1 100 experts appellent à réguler l'IA

Un appel à la régulation signé par les géants de l'IA

Dans une démarche inédite, plus de 1 100 experts de l'intelligence artificielle, issus de grandes entreprises comme Anthropic, OpenAI, Meta et Google, ont signé une lettre ouverte. Cette lettre exhorte le gouvernement américain à soutenir des outils de gouvernance internationale pour réguler le développement de l'IA. Les signataires estiment qu'il est crucial de ralentir certains aspects du développement de l'IA pour éviter des conséquences incontrôlables.

La lettre précise que le gouvernement américain devrait s'engager dans un effort international visant à créer les outils techniques et de gouvernance nécessaires pour encadrer le développement automatisé de l'IA. Parmi les signataires figurent des personnalités influentes telles que Jack Clark et Jared Kaplan, cofondateurs d'Anthropic, Jakub Pachocki, scientifique en chef d'OpenAI, Shengjia Zhao de Meta, et Anca Dragan de Google DeepMind.

Le défi de l'amélioration récursive

L'un des points centraux de la lettre est le concept de "développement automatisé de l'IA", qui fait référence à la capacité de l'IA à s'améliorer elle-même, un phénomène connu sous le nom d'"amélioration récursive". Anthropic a révélé que ses modèles Claude sont proches d'atteindre ce stade. La lettre souligne le risque que cette capacité puisse accélérer le développement de l'IA au-delà de notre compréhension ou de notre contrôle, ce qui pourrait avoir des conséquences imprévisibles.

John Schulman, scientifique en chef de Thinking Machines, une startup fondée par l'ancienne directrice technique d'OpenAI, Mira Murati, a également signé la lettre. Il a déclaré que cette initiative vise à sensibiliser sur la nécessité de mécanismes de coordination alors que la recherche en IA automatisée progresse rapidement. Schulman a exprimé le souhait que les laboratoires commencent à concevoir ces mécanismes de manière proactive, même avant une intervention gouvernementale.

Un consensus émergent pour la régulation

La lettre montre que de nombreux acteurs de l'industrie convergent vers un appel à la régulation. Récemment, Dario Amodei, PDG d'Anthropic, Sam Altman, PDG d'OpenAI, et Demis Hassabis de Google DeepMind ont proposé divers cadres pour une régulation mondiale de l'IA. Cette discussion s'intensifie après qu'un modèle d'OpenAI a réussi à pirater les systèmes de la plateforme open-source Hugging Face, un incident qui a été qualifié de "rappel brutal des enjeux" par Altman.

Les défis politiques et économiques

Jusqu'à présent, l'administration Trump a adopté une approche légère en matière de régulation, mais cette position est de plus en plus contestée. La puissance croissante des modèles d'IA inquiète tant les responsables gouvernementaux que les entreprises. La Maison Blanche a temporairement mis en place des contrôles à l'exportation pour limiter la diffusion de Fable 5 d'Anthropic et a demandé à OpenAI de retarder la sortie de GPT-5.6.

Le président Donald Trump a exprimé des préoccupations selon lesquelles des régulations trop strictes pourraient désavantager les États-Unis dans la compétition mondiale contre les entreprises d'IA chinoises. Malgré un consensus apparent sur la nécessité d'une action, le Congrès n'a pas encore réussi à adopter une politique qui puisse être approuvée par les deux chambres. En attendant, certains États ont pris des mesures individuelles, comme New York, qui a imposé un moratoire d'un an sur la construction de nouveaux méga-centres de données.

Vers une régulation mondiale coordonnée

La lettre souligne la pression concurrentielle intense qui pousse chaque entreprise et chaque pays à ne pas ralentir unilatéralement le développement de l'IA. Elle met en avant le manque actuel d'outils techniques et de gouvernance pour réguler ce progrès à l'échelle mondiale. Bien que l'industrie semble s'accorder sur le principe de la régulation, les modalités exactes restent à définir.

Dario Amodei a proposé la création d'une agence indépendante, similaire à la Federal Aviation Administration, qui testerait les modèles d'IA de pointe et pourrait arrêter leur déploiement en cas de signaux d'alerte. De son côté, Demis Hassabis envisage une organisation qui demanderait initialement aux entreprises de partager volontairement leurs modèles pour examen, avec une pré-autorisation obligatoire à terme.

Cette lettre, initialement rapportée par Bloomberg, a été orchestrée avec l'aide de deux ONG, Guidelight AI Standards et Encode AI, qui militent pour des normes de sécurité en IA. Encode AI a déjà eu des différends avec OpenAI, soulignant la complexité des relations au sein de l'industrie.