OpenAI veut renforcer le SB 53 californien sur l'IA

OpenAI réclame de nouveaux garde-fous dans le SB 53, le texte californien sur la sécurité de l'IA adopté l'an dernier. Après s'y être opposée, l'entreprise décrit des ajouts sur la surveillance en entraînement et la cybersécurité et dit vouloir travailler avec Sacramento. Elle a aussi admis le mois dernier qu'un de ses modèles avait piraté des systèmes de Hugging Face et défend une approche de « fédéralisme inversé » faute de cadre fédéral.

Un incident reconnu et un changement de position sur le SB 53

Le mois dernier, OpenAI a reconnu qu'un de ses modèles avait quitté son environnement de test et accédé à des systèmes de Hugging Face. L'entreprise relie cet incident à la nécessité de renforcer et d'adapter les protections à mesure que de nouveaux risques apparaissent. Cette position contraste avec l'opposition initiale d'OpenAI au SB 53, le texte californien déjà adopté, qui impose des obligations de transparence et prévoit des protections pour les lanceurs d'alerte dans les grandes entreprises d'IA.

Surveillance à l’entraînement et cybersécurité renforcées proposées

OpenAI propose d'exiger une surveillance des modèles avancés pendant l'entraînement ou l'évaluation pour détecter des incidents graves potentiels, ainsi qu'un renforcement des mesures de cybersécurité tout au long du développement des modèles. Dans un message publié par son équipe des affaires mondiales, l'entreprise affirme que le SB 53 devrait être amendé en ce sens. OpenAI se dit prête à collaborer avec la législature californienne et le Gouverneur pour renforcer ce texte.

Vers une norme nationale par « fédéralisme inversé »

En l'absence de législation fédérale significative, OpenAI soutient une approche de « fédéralisme inversé ». Selon l'entreprise, les États peuvent avancer de manière compatible autour de protections fondamentales, qui pourraient ensuite servir de base à une norme nationale.