Sécurité IA : États-Unis vers un cadre national unifié

Les États-Unis s'unissent pour la sécurité de l'IA

Dans un effort concerté pour renforcer la sécurité de l'intelligence artificielle (IA), les États-Unis voient émerger une collaboration entre les initiatives étatiques et fédérales. Ce mouvement vise à établir une norme nationale qui pourrait potentiellement servir de modèle à l'échelle mondiale, sous la direction des États-Unis.

Initiatives des États

Des États influents tels que la Californie, New York et l'Illinois ont récemment pris des mesures législatives significatives pour sécuriser l'IA de pointe. Ces actions contribuent à la création d'un cadre commun pour la gouvernance des systèmes d'IA les plus avancés. Cette tendance, souvent désignée par OpenAI comme le "fédéralisme inversé", voit les États jouer un rôle crucial dans l'établissement de normes partagées. En s'alignant sur les efforts fédéraux, ces initiatives étatiques préparent le terrain pour une norme nationale, qui pourrait à terme influencer un cadre mondial pour l'IA dirigé par les États-Unis. L'objectif est de garantir que les décisions cruciales concernant la sécurité de l'IA soient prises par des gouvernements démocratiques plutôt que par des entités privées.

Vers un cadre national

L'idée d'un cadre national pour l'IA repose sur le principe que les États-Unis doivent maintenir leur leadership en matière d'innovation. Un cadre national éviterait un patchwork de réglementations qui pourrait freiner le développement de l'IA. Une telle norme garantirait que les États-Unis restent à la pointe de l'innovation tout en protégeant les infrastructures critiques contre les menaces potentielles. En outre, elle permettrait de créer une approche mondiale pour le déploiement sécurisé de l'IA, fondée sur des valeurs démocratiques. Pour atteindre cet objectif, une collaboration étroite entre les États, le gouvernement fédéral et les discussions internationales est essentielle. Une approche performative ou symbolique ne suffira pas ; il est crucial d'éviter le chaos réglementaire au niveau des États, qui pourrait nuire à une stratégie de sécurité cohérente.

Éléments clés pour l'alignement des États

Pour réussir, les États doivent s'aligner sur des éléments essentiels, comme l'ont fait la Californie, New York et l'Illinois. Ces éléments incluent un cadre de sécurité documenté avec des évaluations des risques pour les modèles de pointe, la déclaration d'incidents de sécurité graves, et la gouvernance par des audits indépendants. Ces États ont intégré une supervision démocratique dans le déploiement de l'IA de pointe. La Californie a mis en place un cadre central de divulgation, New York a démontré l'adaptabilité de cette approche, et l'Illinois a exigé une vérification indépendante des divulgations clés. Bien que la législation puisse inclure des dispositions supplémentaires pour obtenir les votes nécessaires, ces éléments sont essentiels pour créer une norme nationale de facto à travers le fédéralisme inversé. Sans cette discipline, il existe un risque d'inflation des politiques et de complexité réglementaire qui pourrait détourner des ressources précieuses des développeurs, en particulier des start-ups et des petites entreprises.

Préoccupations concernant la sécurité nationale

Les décideurs doivent également être prudents quant à l'élargissement des missions des États. Ceux-ci ne devraient pas être chargés de gérer des risques significatifs pour la sécurité nationale ou de prendre des décisions de sécurité nationale au nom de tout le pays. Ces responsabilités nécessitent une expertise technique et des ressources que seuls les experts fédéraux peuvent fournir, notamment grâce à leur accès aux systèmes classifiés et à leur capacité à collaborer étroitement avec les équipes nationales.

Initiatives fédérales

Au niveau fédéral, l'administration américaine continue de collaborer avec des experts techniques et en sécurité nationale pour développer un cadre de tests pour les modèles d'IA les plus performants en matière de cybersécurité. Ce cadre définira des normes de test, des délais et des processus. OpenAI participe activement à ces discussions avec l'administration, des entreprises partenaires, des groupes d'affaires et d'autres parties prenantes pour façonner cet effort. L'objectif est d'avoir ce cadre en place d'ici début août. Un cadre de test fédéral permettra de mettre des outils avancés d'IA entre les mains du gouvernement, des défenseurs des infrastructures critiques, des alliés et d'autres partenaires de confiance, renforçant ainsi les institutions démocratiques et contribuant à construire un empilement d'IA démocratique dirigé par les États-Unis.

Importance d'une législation fédérale

Ni un processus fédéral indéfini ni un patchwork de lois étatiques ne produiront un régime de sécurité de pointe cohérent. Une approche nationale est nécessaire pour garantir que les meilleurs testeurs évaluent les modèles les plus performants et que les défenseurs de confiance aient accès à ces outils suffisamment rapidement pour rester en avance sur les acteurs malveillants. Le Congrès avance également dans cette direction. Les législateurs des deux chambres et des deux partis, y compris les représentants Jay Obernolte et Lori Trahan, ont pris note des développements dans les États et la branche exécutive et ont proposé des initiatives pour un cadre fédéral. Bien qu'aucun projet ne soit parfait, ces efforts sont considérés comme productifs et beaucoup de leurs dispositions sont jugées réfléchies et dignes de soutien. Les dirigeants du Sénat et de la Chambre investissent également des efforts sérieux dans des propositions de gouvernance nationale et de sécurité de pointe, et des conversations constructives ont eu lieu avec eux.

Élaboration d'un cadre de sécurité

Le plan de sécurité de pointe d'OpenAI expose les éléments essentiels de ce cadre. Tout d'abord, le gouvernement fédéral devrait diriger les tests et l'évaluation des systèmes les plus avancés. L'IA de pointe soulève des questions de sécurité nationale et de sécurité publique qui nécessitent une expertise technique, des ressources et un accès que les États ne peuvent pas entièrement reproduire. Ce travail devrait renforcer le Centre pour les normes et l'innovation en IA (CAISI), créé sous la présidence de Biden et renforcé sous celle de Trump. Le CAISI peut fournir la capacité fédérale durable nécessaire pour évaluer les modèles avancés et orienter la sécurité de pointe vers la prévention des dommages avant qu'ils ne se produisent, plutôt que de s'appuyer principalement sur la responsabilité après coup. Toute législation fédérale devrait soigneusement considérer comment le CAISI devrait travailler avec le reste du gouvernement et quel rôle il devrait jouer au centre des tests.

Deuxièmement, les entreprises développant les systèmes les plus performants devraient répondre à des exigences claires, y compris des audits indépendants, des rapports d'incidents, des normes de sécurité strictes et des protections pour les lanceurs d'alerte. Troisièmement, les efforts fédéraux et étatiques devraient se renforcer mutuellement. Les lois des États ne seront pas toutes identiques, et nous sommes impatients de travailler avec les décideurs à travers le pays pour garantir qu'elles renforcent la sécurité tout en maximisant les bénéfices économiques de l'IA. Les États devraient également continuer à servir de laboratoires de la démocratie dans des domaines au-delà de la sécurité de pointe, y compris la protection des jeunes, la politique électrique et environnementale, ainsi que l'éducation et la littératie en IA.

Nécessité d'une législation nationale

Un cadre fédéral reste essentiel. L'IA de pointe soulève des questions de sécurité nationale, de compétitivité économique et de sécurité publique qui nécessitent finalement des normes nationales, des capacités nationales et des institutions nationales pour soutenir l'IA démocratique.

Cadre international

Une législation nationale est également cruciale pour un cadre international dirigé par les États-Unis pour les normes de l'IA. Cette idée a été discutée lors du G7, avec des pays comme le Brésil, l'Égypte, l'Inde, le Kenya et la Corée, où les PDG des principaux laboratoires de pointe ont discuté de la nécessité d'un tel cadre. Suite à cette réunion, le PDG d'OpenAI, Sam Altman, a proposé dans le Financial Times un "forum international dirigé par les États-Unis qui établit des normes acceptées, fournit une analyse experte et impartiale des capacités et des risques, et rend la technologie disponible pour les nations et les entreprises qui participent et respectent les règles." Cette semaine, le PDG de Google DeepMind, Demis Hassabis, a également avancé des idées réfléchies dans un nouveau document. Une législation fédérale—nécessairement bipartisane—fournirait une base solide pour cet effort international.

Le momentum est désormais visible à tous les niveaux. Les États établissent des approches communes. Le Congrès et la branche exécutive construisent vers un cadre national. Et les dirigeants mondiaux commencent à discuter des normes internationales. Si chacun s'appuie sur l'autre, les États-Unis peuvent diriger le développement d'un cadre mondial ancré dans une vision démocratique pour l'IA. Cette approche d'alignement démocratique pour l'IA est celle qui priorise véritablement la sécurité.