L’IA et sa régulation t’intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Les mises en garde d’un ex-chercheur d’Anthropic contre une IA auto‑améliorante ont trouvé une caisse de résonance jusque sur CNN et Fox News, appuyées par des chercheurs d’Anthropic et d’OpenAI. Ces positions coexistent avec des doutes sur l’émergence d’une superintelligence à partir des technologies actuelles. Parallèlement, Paul Christiano rejoint l’OpenAI Foundation et son comité de sécurité, sans droits de vote.
Scénarios extrêmes contestés et incertitudes technologiques
Le scénario d’extinction totale lié à l’IA est présenté comme une position extrême et contestée. Il demeure incertain qu’une superintelligence puisse émerger des technologies actuelles. Des agents de hacking malveillants développés par OpenAI et Anthropic ont été cités pour illustrer l’existence de préoccupations en matière de sécurité, sans pour autant trancher sur l’ampleur des risques ultimes.
Des alertes qui gagnent l’audience grand public
Jacob Coxon, ancien chercheur d’Anthropic, a mis en garde contre une IA auto‑améliorante vue comme une menace existentielle. Ses mises en garde ont été reprises par CNN ainsi que par Fox News. Plusieurs responsables politiques américains ont évoqué ce thème sur les réseaux sociaux, tandis que Joe Rogan a dédié un épisode complet à la sécurité de l’IA. Des spécialistes de la sécurité travaillant chez Anthropic et OpenAI ont exprimé leur accord avec les positions de Coxon.
OpenAI : Paul Christiano intègre la fondation et le comité sécurité
Paul Christiano a averti que, sans meilleure supervision, l’humanité pourrait perdre de manière permanente le contrôle d’une superintelligence. Il a rejoint le conseil d’administration de l’OpenAI Foundation ainsi que son Safety and Security Committee, qui supervise les pratiques de sécurité de l’entreprise. Il ne dispose toutefois pas de droits de vote au sein de ces instances.
