Chine : six risques de l’IA selon le patron du renseignement

Chen Yixin détaille six menaces que l’intelligence artificielle ferait peser sur la sécurité politique, les infrastructures, les données, l’économie, l’ordre public et la guerre. Il appelle à des règles strictes et à une gouvernance efficace, tandis que Xi Jinping défend une approche centrée sur les personnes et un cadre mondial fondé sur le consensus. Ces positions résonnent avec des appels au ralentissement de l’IA avancée portés par Dario Amodei, Sam Altman et Elon Musk.

Pékin prône des règles mondiales et une IA « pour le bien »

Xi Jinping a défendu une approche centrée sur les personnes, le développement de l’IA pour le positif et pour le bien, et l’accélération des travaux vers un cadre de gouvernance mondial basé sur le consensus, afin que les nouvelles technologies soutiennent une prospérité partagée. Cette intervention a eu lieu lors d’un sommet des BRICS à New Delhi. Dans le même esprit, Chen Yixin affirme que l’IA doit être développée avec le bien-être de toute l’humanité comme principe directeur et appelle les puissances mondiales à résister à l’hégémonisme, aux barrières technologiques et aux blocs exclusifs. Il souhaite l’établissement d’un système de règles internationales équitable et ouvert pour l’IA.

Aux États-Unis, des figures de l’IA soutiennent un ralentissement

Dario Amodei, Sam Altman et Elon Musk ont soutenu des appels à ralentir le développement de l’IA avancée, à la suite de préoccupations exprimées par plusieurs employés sur les dangers potentiels de leurs produits. Ces prises de position s’inscrivent dans un débat croissant aux États-Unis sur un possible apocalypse liée à l’IA. Plus largement, des dirigeants de grandes entreprises du secteur s’accordent sur la nécessité d’un ralentissement du développement de la technologie.

Six risques énoncés par le renseignement chinois

Dans un article publié dans China Cyberspace, Chen Yixin identifie six risques majeurs pour la Chine. Il place en premier la sécurité du régime, estimant que l’IA générative, dont les deepfakes, permet de produire à faible coût et à grande échelle des rumeurs politiques, de diffuser des contenus nuisibles, d’attiser des émotions antagonistes et de mener une guerre d’opinion, avec une menace directe sur la sécurité politique et idéologique. Il cite ensuite les dangers pour les infrastructures critiques, les cyberattaques pouvant être menées avec une efficacité extrême via des modèles puissants comme Mythos. Troisième point, il alerte sur des fuites de données massives, où des utilisateurs chinois d’IA et des services étrangers pourraient accéder à des données nationales sensibles, à des secrets commerciaux ou à des informations personnelles. Chen évoque aussi un déséquilibre du développement technologique dû à des monopoles et à des systèmes fermés fragmentant les chaînes d’approvisionnement au nom de la sécurité nationale, des défis pour la gouvernance sociale pouvant perturber l’ordre public, et des transformations fondamentales de la guerre, l’IA permettant un ciblage de précision donnant un avantage majeur aux adversaires sur le champ de bataille.

Appel à des directives strictes et à une gouvernance efficace

Chen Yixin soutient l’instauration de règles de développement rigoureuses pour l’IA, impliquant ainsi un renforcement du contrôle par les autorités publiques. Il demande également à Pékin d’accélérer la mise en place d’un dispositif destiné à anticiper et gérer les risques de sécurité associés à ces technologies. Il met enfin en avant la nécessité d’un développement sain et ordonné de l’IA, appuyé par une gouvernance hautement efficace.