Réguler l’IA : vingt ans d’appels des patrons, peu d’effet

Des PDG de l’IA appellent à des règles depuis des années. Les propositions se multiplient, des auditions au Congrès aux manifestes publics, mais les résultats contraignants restent limités, comme l’a montré le veto du SB 1047 en Californie. Retour sur une chronologie où injonctions à réguler, engagements volontaires et hésitations politiques se côtoient.

En Californie, le SB 1047 est soutenu puis rejeté par veto

À l’été 2024, Elon Musk a publiquement soutenu l’adoption du projet de loi californien SB 1047. Anthropic, qui s’y était opposée en juillet, a changé d’avis en septembre, alors qu’OpenAI avait exprimé son opposition en août. Le gouverneur Gavin Newsom a finalement opposé son veto au texte, affirmant ne pas croire que ce soit la meilleure approche pour protéger le public face aux menaces réelles posées par la technologie.

Anthropic plaide pour une régulation ciblée à l’automne 2024

En octobre 2024, Anthropic a appelé à une « régulation ciblée », avec une déclaration introduite par « Les gouvernements devraient de toute urgence… ». Ce positionnement intervient alors que, ces derniers jours, plusieurs dirigeants de l’IA, dont Sam Altman, Dario Amodei, Demis Hassabis, Satya Nadella et Elon Musk, ont déclaré qu’il était temps de ralentir avant de perdre le contrôle.

Des cadres pour l’IA proposés par Microsoft et défendus au Congrès

Le 16 mai 2023, Sam Altman a demandé au Congrès de créer une nouvelle agence pour réguler l’IA, estimant que les bénéfices des outils déployés jusqu’alors l’emportent sur les risques, mais que l’intervention des pouvoirs publics sera essentielle face à la montée en puissance des modèles. Le 25 mai, le PDG d’Anthropic a alerté sur le risque que l’IA puisse contribuer à la création d’armes biologiques. Le même jour, Brad Smith a présenté cinq axes pour légiférer, dont l’obligation d’intégrer des freins de sécurité dès la conception des systèmes à haut risque et de tester régulièrement leur efficacité.

Engagements non contraignants entre 2023 et 2024

Entre juillet 2023 et mai 2024, les entreprises et les gouvernements ont multiplié les engagements volontaires. Meta, Google et OpenAI ont promis à la Maison Blanche de développer l’IA de façon responsable, rejoints ensuite par d’autres signataires d’un accord de sécurité. Au Royaume-Uni, lors du sommet sur l’IA de novembre 2023, développeurs et gouvernements se sont accordés sur des tests pour gérer les risques. En mai 2024 à Séoul, des dirigeants mondiaux ont convenu de lancer un réseau d’instituts de sécurité.

Déclarations publiques sur risques extrêmes et coopération

Le 30 mai 2023, une déclaration de 22 mots a mis l’accent sur le « risque d’extinction » lié à l’IA, à traiter comme une priorité mondiale aux côtés des pandémies et de la guerre nucléaire, avec Sam Altman et Demis Hassabis parmi les signataires. En septembre 2023, lors d’une réunion privée au Sénat, des PDG auraient convenu que l’industrie avait besoin de régulation. Mark Zuckerberg a alors encouragé l’implication du Congrès et une coopération entre décideurs, universitaires, société civile et industrie pour minimiser les risques et maximiser les bénéfices.

Appels à la pause et création d’entreprises

En mars 2023, une lettre du Future of Life Institute, signée notamment par Elon Musk, a demandé une pause dans les expériences d’IA géantes et proposé, à défaut, un moratoire gouvernemental. Deux semaines après cette lettre, Elon Musk a annoncé la création d’une nouvelle entreprise d’IA.

Avant la vague générative, l’alerte sur la reconnaissance faciale

Dès 2018, Microsoft a été critiqué pour une collaboration avec l’ICE autour de la reconnaissance faciale, alors que des dirigeants de la tech condamnaient la séparation d’enfants à la frontière américaine. En décembre 2018, Brad Smith appelait à des lois dès 2019 pour encadrer cette technologie afin d’éviter une « course vers le bas ». En janvier 2020, Sundar Pichai affirmait qu’il ne fait aucun doute que l’IA doit être régulée, estimant que les entreprises ne peuvent s’en remettre aux seules forces du marché, des propos formulés dans un contexte de craintes sur la reconnaissance faciale.

Positions de Meta après Cambridge Analytica

En mars 2018, dans le sillage de Cambridge Analytica, Mark Zuckerberg a évoqué l’éventualité d’une régulation de son entreprise, abordant la responsabilité juridique liée à la détection proactive des contenus problématiques sur un horizon de cinq à dix ans. En mars 2019, il plaidait pour un rôle plus actif des régulateurs sur internet.

Musk, de l’alerte précoce aux appels à réguler

Entre 2014 et 2018, Elon Musk a multiplié mises en garde et appels à une régulation proactive de l’IA. Il avait investi 38 millions de dollars dans OpenAI et au moins deux autres sociétés d’IA avant d’affirmer, dès 2014, que l’IA pouvait être plus dangereuse que les armes nucléaires et que travailler sur l’IA revenait à « inviter le démon ». En 2015, il a co-signé avec Stephen Hawking une lettre pour une recherche responsable, et en 2017, il a appelé les gouverneurs américains à agir en amont.

Un arrière-plan intellectuel ancien

Les mises en garde contre des machines capables de supplanter l’humain remontent au moins à Samuel Butler au XIXe siècle et à Alan Turing en 1951. En 2000, Bill Joy voyait dans les robots auto-réplicants un danger potentiellement supérieur aux armes nucléaires, pointant leur développement hors des enceintes étatiques. En 2009, Eric Horvitz réunissait des chercheurs autour de politiques pour contraindre des systèmes autonomes. Plus récemment, Mustafa Suleyman a défendu l’idée d’une régulation par les gouvernements, avant de prendre la tête des activités IA de Microsoft.