OpenAI soutient 4 lois californiennes et réclame un cadre fédéral

OpenAI presse les pouvoirs publics américains d’instaurer des obligations de sécurité de l’IA fondées sur les capacités. En attendant, l’entreprise appuie quatre projets de loi adoptés en Californie et détaille des mesures internes déjà déployées, tout en appelant à des normes communes, y compris internationales, pour décider quand ralentir ou stopper des développements.

Quatre textes californiens soutenus et une stratégie de « fédéralisme inversé »

OpenAI affiche son soutien officiel à quatre projets de loi supplémentaires en Californie, adoptés par la législature et transmis au gouverneur Newsom : SB 813, AB 1405, SB 1119 et AB 1864. SB 813 instaurerait une procédure pour sélectionner des organismes indépendants habilités à procéder à l’évaluation des risques liés à l’IA. AB 1405 instituerait des obligations d’enregistrement, d’indépendance, de transparence et de responsabilité à l’égard des auditeurs d’IA. SB 1119 exigerait la mise en place de contrôles d’âge, d’analyses des risques, d’audits indépendants, de dispositifs de contrôle parental et de mesures de protection contre les contenus préjudiciables pour les enfants et adolescents qui utilisent des chatbots d’accompagnement. OpenAI a récemment fait part de son appui à SB 1119 et relie ce texte aux dispositifs de sécurité destinés aux jeunes intégrés dans ses produits, à ses principes de politique mondiale, à la loi sur l’IA sécurisée pour les parents et les enfants, ainsi qu’aux protections prévues dans ChatGPT pour les adolescents. La société avait déjà soutenu SB 53 en Californie, le RAISE Act à New York, SB 315 dans l’Illinois ainsi que des audits indépendants dans le Massachusetts. Elle encourage les États à adopter des mesures convergentes pour constituer une base nationale de facto, une démarche qualifiée de « fédéralisme inversé », tout en soulignant que l’harmonisation ne signifie pas figer les exigences.

Mesures internes : isolement accru, surveillance des trajectoires et « portes » d’alignement

OpenAI indique avoir amélioré ses pratiques de sécurité à chaque étape du développement. La société mentionne un renforcement de l’isolement pour les tâches de recherche avancée, une supervision accrue du comportement des modèles durant l’entraînement, l’utilisation d’outils pour faciliter les évaluations, ainsi que la clarification des procédures d’escalade en cas de problème. Concernant Astra, elle précise avoir mis en place une surveillance généralisée des parcours complets, incluant les chaînes de pensée, et instauré une étape obligatoire d’évaluation de l’alignement avant tout déploiement interne élargi. OpenAI précise qu’elle ralentira ou suspendra le développement ou la mise en service de systèmes qui ne pourraient pas être suffisamment sécurisés, conformément à son cadre de préparation. L’entreprise associe ces choix à l’idée que la sécurité n’entrave pas le progrès mais conditionne la confiance et le rythme de celui-ci.

Vers une obligation fédérale basée sur les capacités et des contrôles indépendants

OpenAI défend l’instauration d’une régulation nationale impérative concernant la sécurité de l’IA, pensée pour s’adapter à l’évolution technologique et reposant sur les capacités. Son projet de gouvernance démocratique met l’accent sur des exigences de tests uniformes, des évaluations indépendantes, un renforcement de la cybersécurité, des règles explicites pour le signalement des incidents, une préparation nationale accrue et des dispositifs communs pour suivre les progrès vers l’amélioration récursive. L’entreprise indique que plusieurs initiatives sérieuses sont en préparation au Congrès, qu’elle prévoit de soutenir les textes qui rehaussent concrètement le niveau de sécurité, et invite le Congrès à agir avant la fin de la session. OpenAI réclame un dispositif robuste et ciblé, avec des obligations concentrées sur un nombre limité de laboratoires bien financés développant les systèmes les plus avancés, et non sur les startups, petits développeurs ou chercheurs éloignés de la pointe.

Modèles ouverts et concurrence : pas de confusion avec la sécurité de pointe

OpenAI insiste pour que la politique de sécurité de pointe ne soit pas assimilée à une politique de « poids ouverts ». L’entreprise estime que les modèles ouverts peuvent contribuer, notamment en cybersécurité et lorsqu’existent des besoins de souveraineté, de sécurité ou de résidence locale des données, tout en rappelant que la plupart ne se situent pas à la pointe mais se différencient par le coût, le contrôle et la latence. Signataire d’une lettre sur les poids ouverts et le leadership américain, OpenAI soutient la nécessité de modèles ouverts et fermés. Elle demande un cadre fédéral qui traite les capacités et risques de pointe sans affaiblir la concurrence, sans enraciner des acteurs établis ni pousser l’innovation hors des États-Unis. L’entreprise souhaite un dispositif public qui réduise la concentration du pouvoir, remplace la gouvernance privée actuelle par des normes démocratiques, une vérification indépendante et une transparence significative, et conditionne l’adoption large et un leadership durable à des mesures de sécurité fortes.

Normes portées par l’industrie et coordination internationale

OpenAI fait savoir qu’elle collabore avec d’autres laboratoires de pointe afin de mettre en place dès à présent des standards volontaires pour l’IA de pointe. L’entreprise défendra des démarches compatibles à l’échelle internationale pour évaluer les capacités, gérer les risques, garantir un contrôle humain effectif et déterminer les situations où il convient de ralentir ou d’arrêter certains développements. Elle encourage les gouvernements à élaborer des méthodes communes d’évaluation, et précise que si le respect de certaines normes de sécurité nécessite de limiter la croissance des capacités, ces normes doivent être placées en priorité. OpenAI défend l’idée que plus la technologie devient puissante, plus les mesures de sécurité associées doivent être robustes, et qu’au-delà du travail technique interne, des standards partagés sont nécessaires. Elle dit privilégier des actions significatives et affirme qu’elle ralentira le développement si nécessaire.

Capacités, « fenêtre des défenseurs » et état de l’amélioration récursive

Greg Brockman décrit une « fenêtre des défenseurs » : une période limitée durant laquelle l’IA de pointe peut aider à renforcer les systèmes critiques avant la large dissémination de capacités offensives. OpenAI étend cette idée au champ politique en évoquant une fenêtre qui se referme pour établir des garanties durables. L’entreprise cite les capacités d’Astra et des premières preuves d’accélération de la recherche pilotée par l’IA, ainsi qu’un essai de Jakub Pachocki, comme indicateurs d’un rythme de progrès soutenu. OpenAI précise que l’amélioration récursive autonome ne se produit pas aujourd’hui et ne devrait pas être poursuivie sans garanties de sécurité. Elle observe toutefois une accélération de certaines tâches de recherche, des agents d’IA pouvant accomplir des travaux qui prendraient plusieurs jours à des chercheurs qualifiés, sans que cela ne constitue de l’amélioration récursive. Son objectif est de bâtir en sécurité des chercheurs automatisés supervisés pour faire progresser apprentissage profond et alignement, afin que chaque génération contribue à rendre la suivante plus sûre, plus alignée et plus contrôlable. OpenAI met en avant des bénéfices potentiels de l’IA avancée dans les médicaments, les infrastructures critiques, l’économie et la recherche scientifique, tout en soulignant que les risques s’étendront au-delà des laboratoires de pointe à mesure que des modèles, y compris ouverts, progresseront et se diffuseront. Jakub Pachocki appelle à une extrême prudence, et OpenAI défend que la confiance dans la sécurité doit cadrer le rythme du progrès et en conditionner l’utilité pour le plus grand nombre.