Denis Shilov compare la rivalité sur l'IA à une course nucléaire

L’expert en sécurité Denis Shilov assimile la compétition autour de l’IA à une course moderne aux armes nucléaires. Il alerte sur des risques en cybersécurité, dans l’autonomie des armements et sur une possible instabilité géopolitique, tandis que des initiatives comme le Partenariat sur l’IA et des échanges au G20 et à l’ONU cherchent un cadre commun.

Vers une gouvernance disputée : G20, ONU et désaccords persistants

La question d'une régulation mondiale de l'IA fait l'objet de débats au sein du G20 et de l’ONU, mais l'absence d'accord entre les États, liée à des problématiques de souveraineté et de rapports de force, rend difficile l'obtention d'un consensus. De leur côté, le Partenariat sur l’IA rassemble des organisations à but non lucratif et des entreprises du secteur technologique afin de collaborer sur ces sujets. Denis Shilov avertit que la dynamique actuelle pourrait alimenter l’instabilité géopolitique et rendre la coopération internationale plus difficile, avec des tensions accrues entre États.

Risques sectoriels et militaires cités par Shilov

Des systèmes d’IA sont d’ores et déjà intégrés à des usages militaires. Leur emploi dans des situations de conflit armé suscite des préoccupations, notamment sur le fait que des décisions cruciales puissent être prises sans intervention humaine. Denis Shilov souligne l’existence de risques importants concernant la cybersécurité et l’autonomie des armements. Dans le secteur de la santé, des systèmes d’IA non régulés pourraient conduire à des diagnostics erronés ou à des traitements inappropriés, tandis que dans la finance, des algorithmes biaisés pourraient aggraver les inégalités économiques. L’absence de régulation de l’IA est ainsi présentée comme pouvant avoir des répercussions significatives dans plusieurs secteurs.

Trajectoires techniques : projections à 2030 et 2045

Des études récentes estiment que des systèmes d’IA pourraient atteindre une intelligence équivalente à celle des humains d’ici 2030, et dépasser l’intelligence humaine dans certains secteurs d’ici 2045. Plus largement, l’IA pourrait surpasser les compétences humaines dans divers domaines. Ces projections interviennent alors que les avancées technologiques en IA s’enchaînent à un rythme rapide.

Réguler sans étouffer : positions opposées et appel au dialogue

Une partie du secteur technologique défend l’idée d’une régulation anticipée, qui inclurait des standards de sécurité et d’éthique pour l’IA, alors que d’autres considèrent qu’imposer des règles trop strictes risquerait d’entraver l’innovation et la capacité à rester compétitif. Denis Shilov préconise d’instaurer une concertation transparente entre les gouvernements, les entreprises et les chercheurs afin de définir un cadre réglementaire équilibré. Il assimile la rivalité autour de l’IA à une nouvelle forme de course aux armements nucléaires et alerte sur les risques liés à une compétition sans régulation. La montée de l’IA suscite des débats dans les milieux technologiques et politiques, où la sécurité est considérée comme cruciale, alors que les nations cherchent à devancer leurs rivales dans le développement de technologies avancées.