Anthropic est entrée en Bourse jeudi, tandis que son ancien chercheur Jacob Coxon réclamait l'arrêt de l'amélioration récursive lors d'un rassemblement à San Francisco. L'opération boursière a été évaluée à 1 700 milliards de dollars. Cette méthode consiste à confier à des IA avancées l'entraînement des générations suivantes.
La concurrence inquiète Oliver Habryka
Oliver Habryka, dirigeant de l'entreprise qui exploite le forum LessWrong, accueille favorablement les obligations légales de publication d'informations auxquelles Anthropic est désormais soumise. Il redoute toutefois que la nécessité de préserver son avance l'incite à recourir au RSI. Auprès des investisseurs, Anthropic a précisément fait de cette avance un argument concurrentiel.
Les aptitudes de l'IA en biologie préoccupent particulièrement Habryka. Il juge leur progression déjà rapide ces dernières années et craint une accélération beaucoup plus forte avec l'amélioration récursive, perspective qu'il décrit comme terrifiante.
Coxon demande une interdiction du RSI
Pour Coxon, Anthropic devrait solliciter le gouvernement et s'entendre avec les autres entreprises pour faire interdire totalement le RSI. Il estime que les entreprises sont désormais responsables du problème et que, dans le monde, seuls quelques sites pourraient pratiquer cette méthode en 2027, parmi lesquels les bureaux d'Anthropic. Lui-même et Daniel Kokotajlo, ancien chercheur d'OpenAI, affirment recueillir en privé les craintes de chercheurs en IA. Des représentants au Congrès ont commencé à proposer des restrictions sur le RSI, que Kokotajlo compare aux agissements d'un « super-vilain de bande dessinée ».
L’IA et sa régulation vous intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Chez Anthropic, l'IA accélère déjà les activités de recherche et de développement, selon une évaluation indépendante récente de l'organisation de sécurité de l'IA METR. L'entreprise a néanmoins averti, dans son prospectus boursier, qu'elle ne considérait pas comme sûre la conception complète de sa prochaine génération par l'IA sans supervision. Elle envisage de modifier sa politique pour maintenir une maîtrise humaine du développement des modèles les plus avancés. Anthropic n'a pas donné suite à une sollicitation de commentaire.
Stop AI bloque l'entrée des bureaux
Devant le siège d'Anthropic, des dizaines de participants, dont des défenseurs de la sécurité de l'IA, ont brandi des pancartes et scandé des slogans au rassemblement baptisé « Ban RSI ». Ils ont écouté Coxon, Kokotajlo ainsi que Rob Miles, vidéaste sur YouTube. Arrivés ensuite, des militants de Stop AI ont bloqué l'entrée des bureaux. Coxon avait quitté Anthropic en septembre ; les inquiétudes qu'il avait alors exprimées avaient nourri les craintes autour de l'IA à l'échelle nationale. Jeudi, il a affirmé que les investissements lui importaient peu et réclamé l'arrêt du RSI.
David Krueger, qui dirige l'organisation à but non lucratif Evitable, salue la mobilisation, mais considère qu'elle n'atteint qu'en partie les salariés présents dans les locaux. Selon lui, ceux-ci adhèrent profondément aux convictions de leur entreprise. Il estime aussi qu'un public mieux informé sur le RSI le jugerait généralement « insensé ».






