Alerte chez des insiders de l’IA, Trump et Xi peu alarmés

Des démissions et des messages alarmistes sur les risques extrêmes de l’IA se multiplient, tandis que Sam Altman et Dario Amodei appellent Washington et Pékin à s’accorder sur des règles communes. Donald Trump relativise les avertissements, quand Xi Jinping plaide pour des normes et lance une initiative open-source au sein des BRICS. Les deux dirigeants doivent se voir le 24 septembre à la Maison Blanche.

Démissions et discours alarmistes ravivent la pression sur l’IA

La semaine dernière, le chercheur d’Anthropic Jacob Coxon a quitté l’entreprise. Il affirme qu’OpenAI et Anthropic n’agissent pas de manière responsable et qu’ils « jouent avec nos vies ». Selon lui, des personnes qui construisent cette technologie croient sincèrement qu’elle pourrait tuer tout le monde d’ici la fin de la décennie. Depuis, plusieurs employés d’OpenAI et d’Anthropic ont publié sur ce qu’ils considèrent comme le potentiel de l’IA à anéantir l’humanité si elle se développe sans contrôle. Le débat sur la capacité de l’IA à provoquer une apocalypse est ainsi décrit comme ayant atteint un niveau critique.

Trump minimise les risques et exalte la course à l’IA

Donald Trump a minimisé les préoccupations exprimées par des employés de l’IA, jugeant qu’ils évoquent des scénarios qui ne se produiront pas. En Irlande, lors de l’Irish Open, il a déclaré : « Celui qui gagne l’IA, gagne. » Il a ajouté que des garde-fous peuvent être envisagés, tout en dénonçant des forces négatives qui, selon lui, posent des questions qui ne devraient pas l’être et évoquent des choses qui ne se produiront pas. Il n’a pas montré une grande inquiétude face aux avertissements alarmistes.

Xi pousse des normes mondiales et une communauté open-source BRICS

Au Sommet BRICS de New Delhi, Xi Jinping a appelé les pays du Sud global à accélérer l’élaboration de normes de gouvernance mondiale pour l’IA. Il a mis en avant une vision centrée sur l’humain, la promotion d’une IA orientée vers le bien et le positif, ainsi qu’un dispositif de gouvernance fondé sur le consensus pour rechercher une prospérité commune. Il a également fait savoir que la Chine allait créer une communauté d’IA open-source au sein des BRICS, destinée à encourager la mise au point de LLM, à organiser des séminaires et à développer un écosystème ouvert. Il n’a cependant pas abordé explicitement le climat de pessimisme entourant l’IA.

Appels à une entente États-Unis–Chine et rencontre annoncée

Sam Altman et Dario Amodei appellent les gouvernements américain et chinois à coopérer pour réguler les modèles d’IA de pointe. Altman estime que Donald Trump et Xi Jinping devraient recevoir le Prix Nobel de la paix s’ils s’entendaient sur des règles communes de développement sûr. Il cite l’intérêt de normes et de tests partagés, sans en détailler la forme, et les décrit comme pouvant tenir en un « document d’une page ». De son côté, Dario Amodei souhaite un dialogue américano-chinois pour « mettre une limite de vitesse » au rythme de la technologie. Donald Trump et Xi Jinping doivent se rencontrer le 24 septembre à la Maison Blanche.