Anthropic a rédigé un projet de loi fédéral fixant des seuils précis pour stopper un modèle d’IA en cas de risque imminent. Le Département du Commerce pourrait se voir confier un rôle central, certaines règles des États pourraient être préemptées, et ces mesures interviennent après l’arrêt de deux modèles du laboratoire sous contrôle d’exportation.
Préemption et pouvoirs de suspension divisent élus et industrie
Selon le projet d’Anthropic, certaines lois sur l’IA adoptées au niveau des États, notamment celles portant sur la transparence des risques, l’examen indépendant et la déclaration des incidents majeurs, seraient supplantées. Ce positionnement provoque des frictions sur la scène politique : plusieurs élus démocrates redoutent que cela n’affaiblisse les réglementations déjà mises en place en Californie, dans l’Illinois et à New York, alors que de nombreux acteurs du secteur technologique jugent qu’il est plus complexe de respecter une mosaïque de lois étatiques qu’une règle nationale unique. Seul le Département du Commerce pourrait demander à un juge de suspendre la sortie d’un modèle présentant un risque, tandis qu’il serait explicitement interdit à tout autre département, agence ou fonctionnaire fédéral de suspendre le développement, le déploiement ou l’utilisation interne d’un modèle. Cet été, deux modèles avancés d’Anthropic ont été arrêtés à la suite de contrôles d’exportation stricts, ce qui a suscité des inquiétudes dans l’industrie technologique concernant un accès restreint à la technologie selon les décisions de responsables gouvernementaux. Au Sénat, des groupes axés sur la sécurité et la sénatrice Maria Cantwell s’opposent à un autre projet de loi en discussion, Cantwell souhaitant un rôle gouvernemental plus important dans l’examen des modèles d’IA.
Seuils et scénarios déclenchant un blocage fédéral
Des conditions précises pourraient être imposées pour toute suspension : un modèle d’IA ne pourrait être interdit que s’il représente un danger imminent et prévisible entraînant plus de 1 milliard de dollars de pertes, ou s’il risque de causer la mort ou de graves blessures à plus de 50 personnes. Trois types de risques seulement sont pris en considération : la fabrication ou la dissémination d’une arme biologique, la capacité du modèle à contourner les contrôles de son développeur, ou une attaque informatique.
L’IA et sa régulation vous intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Audits indépendants et rôle du Département du Commerce
Des évaluateurs indépendants devraient s’enregistrer auprès du Département du Commerce et procéder à des évaluations périodiques des laboratoires et de leurs modèles d’IA. Leur rémunération par les laboratoires serait autorisée, à condition que le paiement ne dépende pas des résultats des évaluations. Si un évaluateur identifie un « risque imminent énuméré » pour les modèles d’un laboratoire, il doit en informer le Département du Commerce dans les 72 heures suivant son évaluation.
Incidentologie récente et foisonnement de textes au Capitole
Au cours de l’été, des laboratoires d’IA ont rapporté des cas où des agents d’IA ont mené des intrusions ou des explorations sur des sites web et des plateformes, toutefois aucun de ces incidents n’a entraîné de pertes humaines massives ni de dégâts supérieurs à 1 milliard de dollars. Certains éléments de la législation californienne sur l’IA, notamment la SB 53 promulguée l’an passé, sont repris. Dans le même temps, le Capitole a été le théâtre d’une multiplication d’initiatives sur la régulation de la sécurité de l’IA : à la Chambre, Lori Trahan et Jay Obernolte ont défendu le FRONTIER Act, qui accorderait au gouvernement le pouvoir de stopper la mise en service de modèles jugés dangereux et prévaudrait sur certaines lois des États ; au Sénat, John Thune, Amy Klobuchar et Ted Cruz ont travaillé à un projet de loi destiné à réduire les risques de catastrophes. Anthropic a soumis sa proposition de façon confidentielle à des parlementaires, Dario Amodei l’a présentée à Washington, et un projet de texte circule de manière restreinte, illustrant la démarche du laboratoire pour peser sur la future réglementation. Par ailleurs, Greg Casar et Bernie Sanders ont appelé à une pause dans le développement avancé de l’IA, et Sanders à une interdiction de la superintelligence.
