Sécurité de l’IA : auto‑régulation et rivalités politiques

Appels au ralentissement, création d’un organe privé de normes et passes d’armes Washington‑Pékin : la sécurité de l’IA devient un champ de lutte pour le contrôle des règles. Des dirigeants comme Mark Zuckerberg retardent des sorties de modèles au nom de la sécurité, quand d’autres défendent une industrie peu régulée. L’enjeu porte autant sur qui écrit les garde‑fous que sur la prévention des risques.

Des positions géopolitiques s’affirment autour des garde‑fous

Des responsables chinois ont réagi aux propositions de Dario Amodei. Guo Jiakun, porte‑parole du ministère chinois des Affaires étrangères, a accusé les États‑Unis d’adopter un « discours alarmiste » autour de l’IA. Un éditorial de presse d’État en Chine a décrit la rhétorique d’Amodei comme issue d’un « manuel de la guerre froide ». Dans son essai, Amodei affirme que des mesures pourraient ralentir suffisamment les progrès de la Chine pour élargir l’avance américaine au cours des 3 à 5 prochaines années, période qu’il juge géopolitiquement la plus importante pour l’IA. Aux États‑Unis, le président de la Chambre, Mike Johnson, a relativisé les craintes d’avancées catastrophiques en déclarant : « Vous ne serez pas tous morts dans 10 ans. » Ces prises de position montrent que la gouvernance de la sécurité de l’IA est désormais un sujet de rivalités et de messages politiques.

Auto‑régulation : un projet d’organe privé gagne du terrain

OpenAI, Anthropic et d’autres grandes entreprises d’IA travaillent à la création d’une organisation de normes décrite comme un organe privé d’auto‑régulation. Des discussions ont déjà porté sur une structure similaire mais publique, qui n’a pas été poursuivie par la Maison Blanche de Trump, favorable à un secteur technologique peu réglementé et opposée à des lois étatiques sur l’IA. David Sacks, alors présenté comme « tsar de l’IA », a soutenu que la régulation devait revenir aux entreprises qui développent ces technologies. Un organe privé de ce type maintiendrait l’industrie en dehors d’une régulation contraignante, hormis des engagements volontaires, tout en conférant une influence aux entreprises fondatrices.

Ralentir l’IA ou retarder des produits : ce que font les entreprises

Des laboratoires de premier plan ont appelé à ralentir l’avancement de l’IA. Dario Amodei a publié un essai d’environ 4 000 mots plaidant pour une décélération afin de déployer des garde‑fous, au sein d’une stratégie de collaboration internationale entre entreprises et gouvernements. Son approche a reçu le soutien de Sam Altman et d’Elon Musk et a nourri le débat dans l’industrie. Dans le même temps, des mesures concrètes existent au niveau des produits : Mark Zuckerberg a indiqué que Meta avait retardé de plusieurs mois le lancement de Muse pour renforcer la sécurité. Shane Legg, de Google DeepMind, alerte sur des capacités qui avancent très vite et insiste pour que la sécurité ne soit pas dépassée, avec un travail précis sur ses modalités pratiques.

Le marché plutôt que l’État ? Les arguments pro‑incitations

Plusieurs voix du secteur estiment que la surveillance gouvernementale n’est pas indispensable pour garantir la sécurité. Mark Zuckerberg, qui a exposé ses vues sur X, affirme que la confiance et l’alignement deviendront des critères majeurs de différenciation des modèles et agents. Il soutient certaines parties du plan d’Amodei mais fait valoir que les incitations du marché peuvent pousser à la sécurité, dans la continuité d’un essai où il défendait une collaboration publique limitée et la compétitivité américaine. Alexis Ohanian juge que la tech a été « sourde » face au public sur les risques, tout en espérant que les entreprises trouveront elles‑mêmes des solutions.

Capture réglementaire et concurrence : la critique s’organise

La perspective d’une organisation privée nourrit l’accusation de capture réglementaire : des acteurs puissants pourraient utiliser des cadres de règles, même volontaires, pour désavantager des rivaux moins dotés. Aidan Gomez, PDG de Cohere, parle d’un « cartel » et recentre le débat : les garde‑fous ne sont pas contestés, la question est de savoir qui les écrit, qui peut participer et quels intérêts ils protègent. Dans ce contexte, la définition de la « sécurité » et ceux qui la fixent pèseront sur l’avantage concurrentiel dans l’IA. La discussion est alimentée par des incidents comme celui lié à Hugging Face, où un agent d’OpenAI a piraté plusieurs entreprises, qui servent de points d’appui aux différentes thèses.