Un chercheur d’Anthropic a quitté l'entreprise en alertant sur des risques extrêmes. Dans la foulée, Dario Amodei a détaillé un plan en trois étapes et reçu un appui public rare d’Elon Musk et de Sam Altman. Ce dernier indique aussi qu’OpenAI pourrait renoncer à une IPO cette année, alors que le rythme des avancées fait débat jusque dans les équipes.
OpenAI réfléchit à son rythme et à une possible IPO
Sam Altman a déclaré qu’OpenAI pourrait ne pas poursuivre une introduction en Bourse cette année. Il a estimé qu’« en ce moment, ce serait un moment mal avisé pour devenir public », lors d’une interview à Fortune. Il a également indiqué que le rythme de développement a été un « sujet principal » de discussion chez OpenAI ces dernières semaines. Peu après la publication d’un essai de Dario Amodei, Elon Musk et Sam Altman ont soutenu publiquement le plan proposé, Musk tweetant « Dario a raison ».
Anthropic propose de ralentir avec un plan en trois étapes
Le jour où des dirigeants de grandes entreprises d’IA ont annoncé publiquement un accord sur la suite à donner, Dario Amodei a publié un essai affirmant que le rythme des avancées doit changer. Il y a détaillé une solution en trois étapes pour garantir la sécurité de la technologie. Dario Amodei et Sam Altman avaient déjà appelé à un ralentissement du développement de l’IA. Samedi, cet appel s’est accompagné d’un affichage de convergence entre dirigeants sur la nécessité de définir la suite.
L’IA et sa régulation vous intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Une démission et un débat interne sur « partir ou rester »
Jacob Coxon, chercheur chez Anthropic, a démissionné la semaine dernière en affirmant que les géants de l’IA « parient avec nos vies » et en rapportant que certains constructeurs de ces systèmes croient sincèrement qu’ils pourraient « tous nous tuer d’ici la fin de la décennie ». Dans ce contexte, des employés d’Anthropic et d’OpenAI ont pris la parole. Une question traverse des salariés préoccupés : quitter leur poste ou rester. Certains estiment pouvoir faire plus de bien en restant pour soulever des préoccupations, plaider pour des mesures de sécurité et tenter d’influencer les décisions en amont. D’autres craignent que rester ne fasse que légitimer une course perçue par certains comme dangereusement incontrôlable. Le journaliste Alistair Bar a exploré ces arguments dans l’édition de la semaine d’AI Insider.
