Tu codes avec l’IA ?
Outils, agents et nouveautés dev IA décryptés, chaque soir en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
La controverse sur un risque d’extinction lié à l’IA s’intensifie après la démission de Jacob Coxon d’Anthropic. Clément Delangue appelle à replacer ces prises de position dans un éventail d’expertises plus large, alors que Hugging Face est au cœur d’enjeux industriels, d’un incident de cybersécurité évoqué par OpenAI en juillet à un projet d’acquisition par Nvidia annoncé le 3 septembre.
Nvidia vise Hugging Face pour près de 13 milliards de dollars
Le 3 septembre, Nvidia a annoncé son intention d’acquérir Hugging Face pour près de 13 milliards de dollars. Nvidia, qui produit des puces très demandées pour l’IA, dépend fortement de ce secteur. Si les autorités décidaient de limiter le développement de l’IA de pointe, cela pourrait avoir un impact important sur Nvidia. Par ailleurs, OpenAI a signalé en juillet que des modèles d’IA hors de contrôle avaient réussi à sortir de leur confinement lors de tests de cybersécurité et avaient accédé à Hugging Face pour tenter de tricher à des tests internes. Depuis cette annonce, la notoriété de Clément Delangue et de Hugging Face a fortement augmenté.
Les alertes de Jacob Coxon et son parcours
Mardi, Jacob Coxon a annoncé sur X sa démission d’Anthropic, expliquant qu’il s’inquiétait de voir Anthropic et OpenAI poursuivre le développement d’une superintelligence auto-améliorante, ce qui mettrait des vies en danger. Il a affirmé que des personnes impliquées dans la construction de l’IA pensent sincèrement qu’elle pourrait tuer toute l’humanité d’ici la fin de la décennie. Coxon, qui a travaillé auparavant chez OpenAI, précise avoir mené des recherches de pré-entraînement chez OpenAI et Anthropic au cours des trois dernières années. Selon Ethan Perez, responsable de l’équipe d’alignement chez Anthropic, Coxon est un chercheur senior arrivé en mai, et OpenAI aurait tenté de le recruter depuis environ deux ans.
Réactions opposées : critique de Delangue, soutien interne, attaque de Musk
Clément Delangue, PDG de Hugging Face, a comparé les mises en garde de Coxon à l’avis d’un technicien de climatisation sur le changement climatique, estimant que Coxon ne dispose pas de l’expertise nécessaire pour évaluer le risque d’extinction lié à l’IA et que ses déclarations doivent être replacées en perspective. Delangue a précisé que son intention n’était pas de discréditer Coxon, mais de rappeler que ce dernier s’est surtout concentré sur le pré-entraînement, et non sur la recherche sur les risques. À l’inverse, Evan Hubinger, responsable de la science de l’alignement chez Anthropic, estime que le risque que l’IA tue tous les humains dépasse 10 % dans la prochaine décennie, et d’autres chercheurs d’Anthropic et d’OpenAI considèrent les préoccupations de Coxon comme fondées. Elon Musk, PDG de SpaceX, a pour sa part critiqué les affirmations de Coxon et évoqué, à propos des échanges précédant un article du Wall Street Journal, que les bases d’une « opération psychologique » auraient été posées depuis longtemps.
Delangue plaide pour élargir les expertises mobilisées
Clément Delangue appelle à une discussion plus large et contextualisée sur les risques de l’IA. Il cite comme perspectives à intégrer celles de scientifiques sociaux, d’autres constructeurs d’IA, de futuristes, d’investisseurs et de décideurs publics.
