Charles III réunit des leaders de l’IA et veut des garde-fous

À Dumfries House en Écosse, Charles III a convié des figures de l’IA, des ministres et des responsables du renseignement. Le souverain a pressé les participants d’installer des mécanismes de contrôle et de bâtir une coopération internationale, jugeant le rythme actuel « intrigant et profondément préoccupant ». Cette initiative survient alors qu’Anthropic limite certains modèles aux États-Unis, que des appels à ralentir sont contestés, et qu’OpenAI met en pause ses projets d’introduction en bourse cette année pour des raisons de sécurité.

Entreprises et politiques se crispent sur le rythme et l’accès

Anthropic limite désormais l’accès à ses modèles Fable et Mythos aux clients américains, une décision qui a surpris la scène technologique européenne et relancé les discussions sur la souveraineté en matière d’IA. Parallèlement, Sam Altman, Elon Musk et Dario Amodei ont appelé ce mois-ci à ralentir le développement de l’IA, mais ces appels ont été rejetés par Jensen Huang et le président Donald Trump. Ce dernier a affirmé que les États-Unis devancent la Chine en IA et a déclaré que « celui qui gagne en IA, gagne ». Sur le plan financier, OpenAI et Anthropic ont évoqué des introductions en bourse spectaculaires au cours de l’année écoulée, mais OpenAI a récemment annoncé la suspension de ses projets pour cette année en raison de préoccupations persistantes concernant la sécurité de l’IA.

Charles III demande des garde-fous et une coopération internationale

Le roi Charles a exhorté les dirigeants présents à trouver des moyens de contrôler l’IA « avant qu’il ne soit trop tard », qualifiant le rythme actuel et la substance de cette technologie d’à la fois intrigants et profondément préoccupants. Il a souligné la capacité de l’IA à améliorer et sauver des vies, notamment en médecine et en science, tout en relayant les avertissements de créateurs qui redoutent que l’IA puisse développer des capacités plus sombres, jusqu’à prendre des vies. Le roi a insisté sur l’urgence de prendre en compte les dangers existentiels si l’IA tombait entre de mauvaises mains et était utilisée de façons potentiellement catastrophiques. Il a plaidé pour des mécanismes de contrôle suffisants et pour la construction d’une coopération et d’un consensus internationaux afin de tirer parti des bienfaits de l’IA. Selon lui, la mission n’est pas seulement de faire avancer la technologie, mais de veiller à ce qu’elle reste au service de l’humanité, de la communauté et du monde naturel, sans perdre « ce qui est intemporel ». Quelques jours avant la réunion, un chercheur d’Anthropic avait démissionné, dénonçant une course à des machines plus intelligentes que l’humain et avertissant que l’humanité pourrait ne pas y survivre.

Autour de la table : industriels de pointe et autorités britanniques

Ont pris part à la réunion Jensen Huang (Nvidia), des représentants d’OpenAI et d’Anthropic, Kanishka Narayan, ministre britannique chargé de l’IA, le directeur du service de renseignement extérieur du Royaume-Uni ainsi que Paolo Benanti, conseiller du pape pour l’IA. La délégation d’OpenAI comprenait la directrice financière Sarah Friar, tandis qu’Anthropic était représentée par Tino Cuéllar, responsable des affaires mondiales. Tino Cuéllar a déclaré qu’Anthropic était honorée d’avoir participé à la discussion et reconnaissante au roi d’avoir réuni des leaders de l’industrie et des voix de la société pour discuter du rôle de l’IA au service du bien public.

Un échange express à Dumfries House, dans un cadre royal

La rencontre s’est tenue à Dumfries House, un domaine écossais du XVIIIe siècle appartenant à la fondation caritative du roi Charles. Il est rapporté que le souverain est resté environ 20 minutes avant de laisser les invités poursuivre la discussion. Ce n’est pas la première fois que Charles III s’exprime sur l’IA, ayant déjà abordé le sujet en 2023 et en 2024. Cette implication est notable, la famille royale intervenant habituellement avec prudence sur les questions politiques pour des raisons constitutionnelles.