OpenAI, Anthropic et Google discutent sécurité de l’IA

OpenAI, Anthropic et Google DeepMind échangent depuis plusieurs semaines sur la sécurité des systèmes d’IA et l’idée d’un organisme de normalisation. Ces échanges se heurtent à des réserves antitrust et à des positions politiques divergentes aux États‑Unis, tandis qu’OpenAI soutient une disposition du FRONTIER Act favorisant des audits indépendants.

Un cadre de gouvernance discuté sans appui gouvernemental garanti

OpenAI, Anthropic et Google travaillent ensemble à la création d’un organisme de normalisation pour l’industrie de l’IA. Sam Altman aurait indiqué à son personnel que cet objectif devrait être atteint sans le soutien du gouvernement américain. En juillet, Demis Hassabis a appelé les États-Unis à créer un nouvel organisme jouant un rôle de gardien, doté du pouvoir d’examiner les modèles les plus avancés et de coordonner des ralentissements sectoriels en cas de dangers. Certains, dont Sam Altman, ont noté que des discussions inter-entreprises pourraient exposer les acteurs à des risques antitrust si la coordination était assimilée à une suppression de la concurrence. Sur le plan politique, le président Trump a rejeté les préoccupations de sécurité comme un canular et s’est opposé à un durcissement réglementaire, arguant qu’un ralentissement avantagerait la Chine. Son principal conseiller en IA, David Sacks, a déclaré que les craintes de risque existentiel étaient exagérées.

Des échanges techniques en cours sur la sécurité de l’IA

Mardi, Chris Lehane a fait savoir que les trois sociétés avaient mené des discussions durant plusieurs semaines concernant la sécurité de l’IA. Il a également affirmé qu’OpenAI collabore sur ce thème depuis plusieurs semaines avec Anthropic et Google DeepMind. La semaine précédente, Sam Altman avait laissé entendre avoir eu des échanges privés avec d’autres dirigeants de l’IA. Par ailleurs, Chris Lehane serait à Washington pour collaborer avec des législateurs américains sur les risques catastrophiques liés à ces technologies.

Appels au ralentissement, évaluations tierces et FRONTIER Act

Dario Amodei a appelé l’industrie, dans un essai publié samedi, à collaborer pour ralentir le rythme des avancées en IA de pointe afin d’éviter des risques catastrophiques. Sam Altman, Demis Hassabis et Elon Musk ont soutenu cet appel. Sam Altman a en outre affirmé qu’OpenAI rejoindrait Anthropic pour intégrer des évaluateurs tiers afin de surveiller la sécurité. L’essai de Dario Amodei proposait une dérogation gouvernementale étroite pour permettre une coordination spécifique à la sécurité, mais Chris Lehane aurait estimé que les entreprises n’en avaient pas besoin. Lors de la même réunion mardi, Chris Lehane a ajouté qu’OpenAI soutenait une disposition du FRONTIER Act qui obligerait les principaux laboratoires de pointe à autoriser des organisations de vérification indépendantes à intervenir pour garantir que les modèles sont développés en toute sécurité.