Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Jacob Coxon, qui a quitté Anthropic, a détaillé sur X ses désaccords avec la direction, ciblant leur approche du RSI et la philosophie de recherche. Pendant que le chercheur alerte sur des risques extrêmes, Dario Amodei appelle de son côté à ralentir les avancées pour travailler la sécurité et l’alignement. Chez OpenAI, Sam Altman évoque un retard sur les objectifs et des projets comme Sora ont été abandonnés.
Amodei appelle à freiner et à prioriser l’alignement
Des dirigeants du secteur ont récemment tenté de se réunir pour discuter d'un ralentissement du développement de l'IA. Dario Amodei a publié un appel aux entreprises de pointe, dont Anthropic, pour qu'elles ralentissent leurs avancées et utilisent ce temps pour se concentrer sur la sécurité, notamment l'alignement des modèles. Il estime qu'il faut réduire le rythme d'amélioration des capacités des modèles d'IA et utiliser judicieusement le temps gagné, même si le progrès semblera toujours rapide. Parallèlement, Sam Altman a déclaré à Time Magazine qu'OpenAI avait pris du retard par rapport à ses objectifs, et l'entreprise a abandonné des projets comme Sora, une application vidéo inspirée de TikTok, dans le cadre d'un recentrage sur sa mission principale.
Coxon conteste le RSI et la philosophie de recherche d’Anthropic
Lors d'une session AMA sur X, Jacob Coxon, ancien chercheur d'Anthropic, a expliqué les raisons de son départ et ses désaccords avec la direction. Il critique la philosophie conséquentialiste du laboratoire, qu'il considère erronée, et s'oppose à l'initiative de RSI, un processus où les modèles d'IA s'améliorent eux-mêmes et créent leurs successeurs. Selon lui, Anthropic a largement initié la récente course au RSI, motivée par la conviction de son inévitabilité. Il affirme aussi qu'OpenAI a dû abandonner des projets comme Sora parce qu'Anthropic s'attaquait au cœur du problème. Coxon met en garde contre des risques extrêmes, écrivant que des personnes qui construisent l'IA pensent sincèrement qu'elle pourrait tuer tout le monde d'ici la fin de la décennie, et il estime que la direction d'Anthropic est trop paranoïaque à propos de la Chine et du gouvernement américain, doutant de la possibilité de négocier.
La position publique d’Anthropic sur le rythme et la sécurité
Dario Amodei a à plusieurs occasions fait part de ses préoccupations quant au fait que si Anthropic était la seule organisation à ralentir, d’autres sociétés d’IA pourraient ne pas accorder autant d’importance à la sécurité. Il a expliqué à CNN que s’ils progressaient trop prudemment, des individus mal intentionnés pourraient prendre le contrôle de cette technologie, ce qui rendrait beaucoup plus probable que la situation dégénère. Il a également fait part de ses préoccupations au cas où des gouvernements autoritaires remporteraient la course à l'IA.
Une AMA ponctuée d’échanges plus légers
L'AMA a aussi donné lieu à des échanges plus légers. Un utilisateur a demandé à Jacob Coxon quel avait été son mois préféré chez Anthropic, en proposant « le mois 1 ou le mois 2 ». Coxon a répondu : « Le mois 2 (sur 4) ».
