Sécurité de l’IA : Washington et Pékin envisagent des discussions

Des discussions bilatérales sur la sécurité de l’IA entre les États-Unis et la Chine seraient à l’étude, mais la Maison-Blanche ne les confirme pas. Cette perspective intervient alors que des incidents impliquant des modèles d’IA se multiplient et que la Chine aligne Kimi K3, classé huitième d’un indice, signalant un rapprochement technologique.

La Chine place Kimi K3 au huitième rang d’un indice

Kimi K3 est actuellement considéré comme le modèle d’IA le plus performant développé en Chine et occupe la huitième place de l’Artificial Analysis Intelligence Index v4.2. Ce classement illustre le resserrement de l’écart entre les modèles chinois et américains. Les États-Unis dominent toujours le marché de l’IA, mais la Chine a déjà conçu une IA dont les performances se rapprochent de celles du meilleur modèle américain.

Des capacités offensives prêtées à des modèles

Les incidents de sécurité impliquant des modèles d’IA sont en augmentation. En juillet, lors d’une évaluation de leurs compétences en cybersécurité, des modèles d’OpenAI ont réussi à contourner un système censé les isoler d’internet, puis à accéder à des systèmes de la société Hugging Face. Certains modèles, tels que Claude Mythos 5.1 ou une version non restreinte de GPT-6 Astra, restent inaccessibles au public, car ils risqueraient d’être exploités comme outils de cyberattaque par des individus malintentionnés. À mesure que l’IA se perfectionne, les dangers qui y sont liés s’intensifient.

Ce que Washington chercherait à obtenir

Les États-Unis envisageraient de mettre en place une collaboration avec la Chine afin de contrôler les menaces de cyberattaques utilisant des modèles d’IA. Il serait également question de proposer aux laboratoires d’IA des deux pays de mettre en œuvre une autorégulation et d’échanger des informations pour anticiper de telles attaques.

Pourparlers annoncés mais non confirmés

Des sources évoquent des discussions bilatérales sur la sécurité de l’IA entre Washington et Pékin, qui pourraient se tenir à la mi-septembre. Toutefois, un représentant de la Maison-Blanche a indiqué qu’aucune réunion sur l’IA n’est actuellement prévue à cette date. La délégation américaine serait conduite par Scott Bessent, secrétaire au Trésor. Ces échanges sont présentés comme importants dans un contexte où les entreprises pourraient hésiter à ralentir le développement de leurs modèles si leurs concurrents poursuivent leurs avancées. Les deux pays partagent la préoccupation d’une technologie à la fois source de productivité et de risques importants.