IA : Meta retarde Muse, Hoffman refuse un frein général

Le débat sur le rythme des recherches de pointe en IA s’intensifie. Mark Zuckerberg affirme que chaque laboratoire peut ralentir seul et dit avoir différé Muse chez Meta. Dario Amodei appelle à réguler temporairement les développements, soutenu par Elon Musk et Sam Altman. Reid Hoffman, lui, juge les risques existentiels éloignés et plaide pour mieux orienter les travaux plutôt que les freiner.

Meta revendique des ralentissements ciblés et sans pacte commun

Mark Zuckerberg affirme que les entreprises peuvent choisir de ralentir leur développement sans qu’un accord à l’échelle du secteur soit nécessaire. Il précise que chaque laboratoire a la responsabilité et l’incitation d’avancer au rythme requis pour entraîner ses modèles en toute sécurité. Zuckerberg indique que Meta a reporté de plusieurs mois la sortie de Muse, l’agent d’IA développé par l’équipe Superintelligence Labs, afin de renforcer la sûreté et la sécurité du modèle. Il souligne que Meta n’a pas demandé aux autres entreprises d’en faire autant et a simplement pris cette décision pour elle-même.

Anthropic prône un temps de régulation, Musk et Altman approuvent

Dario Amodei, PDG d’Anthropic, a appelé les laboratoires d’IA de pointe à réguler temporairement leurs développements et à utiliser ce temps pour mieux aligner les modèles. Elon Musk et Sam Altman ont exprimé leur accord avec les objectifs généraux d’Amodei. Jacob Coxon, ancien chercheur d’Anthropic, a écrit qu’Anthropic a largement initié la course à l’auto-amélioration récursive, un sujet central dans les discussions actuelles.

Reid Hoffman refuse l’alarmisme et mise sur l’encadrement technique

Reid Hoffman estime que les risques existentiels liés à l’IA sont éloignés et contrôlables. Il considère que la plupart des préoccupations apocalyptiques relèvent de personnes qui se présentent comme Cassandre annonçant la fin des temps. Hoffman défend l’idée que les laboratoires de pointe devraient mieux orienter leurs recherches plutôt que de ralentir, soulignant que la poursuite des travaux en IA peut aider à faire face aux risques de biosécurité, de cybersécurité et à favoriser la prospérité économique. Il juge légitime de s’interroger sur les raisons pour lesquelles Anthropic et OpenAI appellent à un ralentissement alors qu’elles semblent en tête du secteur. Pour lui, il est très important que les laboratoires gèrent correctement l’auto-amélioration récursive, un processus qui inquiète certains acteurs de l’industrie car il pourrait conduire à une croissance difficile à contrôler. Ces positions ont été exposées lors du sommet Decoded de Politico à Washington. Dans un essai publié mercredi, Hoffman a qualifié les appels de Dario Amodei et Sam Altman d’étapes allant dans la bonne direction.