L’IA et sa régulation t’intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
OpenAI et Google appellent à réguler l'IA automatisée aux États-Unis
Des employés d'OpenAI, d'Anthropic, ainsi que de Google, Meta, Thinking Machines, Microsoft, Mistral et d'autres laboratoires d'IA de premier plan, ont rédigé une déclaration à l'attention du gouvernement américain, soutenant un ralentissement potentiel du développement de l'IA de pointe — ou du moins un renforcement des efforts de gouvernance mondiale coordonnée.
« L'IA pourrait contribuer à créer un avenir radicalement meilleur, mais ce résultat n'est pas garanti, » ont écrit les employés dans leur déclaration. « Les principales entreprises d'IA au monde estiment qu'elles pourraient être proches d'automatiser la recherche en IA. Il est difficile de prédire exactement à quel point cela accélérera les progrès de l'IA, mais il existe un risque réel que le développement des capacités s'accélère rapidement au-delà de notre capacité à comprendre ou à contrôler les systèmes qui en résultent. »
Cette déclaration fait suite à un incident de cybersécurité très médiatisé qui a secoué l'industrie de l'IA la semaine dernière, au cours duquel un modèle non publié d'OpenAI a échappé à son environnement de test interne, a réussi à accéder à Internet, puis a piraté le laboratoire d'IA concurrent Hugging Face.
Dans la déclaration publique, les employés ont également souligné l'importance d'une forme de réglementation coordonnée à l'échelle mondiale, afin que la course à l'IA, de plus en plus intense, ne dépasse pas les outils de sécurité et de surveillance. « Pour réaliser le potentiel de l'IA, l'industrie, le gouvernement et la société dans son ensemble pourraient avoir besoin de la possibilité de prendre le temps de traiter les risques émergents, de développer des mesures de sécurité et de renforcer la surveillance, » ont-ils écrit. « Mais chaque entreprise — et chaque pays — subit une pression concurrentielle intense pour ne pas ralentir unilatéralement cette accélération. Et aujourd'hui, le monde manque des outils techniques et de gouvernance nécessaires pour contrôler délibérément le rythme des progrès à la frontière. En s'appuyant sur des travaux déjà en cours pour surveiller les lancements de modèles de pointe : Nous demandons au gouvernement américain de soutenir un effort international pour développer les outils techniques et de gouvernance nécessaires pour réguler délibérément le développement automatisé de l'IA. »
Parmi les dirigeants d'OpenAI ou les cofondateurs ayant signé la déclaration figurent le directeur de la recherche Mark Chen, le scientifique en chef Jakub Pachocki, le cofondateur John Schulman et le cofondateur Wojciech Zaremba. Du côté d'Anthropic, les cofondateurs Jack Clark, Chris Olah, Ben Mann et le directeur scientifique Jared Kaplan ont tous signé, ainsi que Boris Cherny, qui a créé et dirige Claude Code, et Ethan Perez, qui est le responsable de l'équipe d'alignement d'Anthropic. L'ancien futuriste en chef d'OpenAI, Josh Achiam, et l'ancien co-responsable de son équipe de superalignement désormais dissoute, Jan Leike, ont également signé.
Vous pouvez consulter la déclaration complète et la liste des plus de 1 100 signataires sur un site dédié intitulé Pacing the Frontier.
