Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Mustafa Suleyman, présenté comme le PDG de l'IA chez Microsoft, a exprimé de vives critiques à l'encontre d'Anthropic, une entreprise spécialisée dans l'intelligence artificielle. Lors d'un épisode du podcast Decoder, Suleyman a qualifié de "vraiment, vraiment dangereux" le fait qu'Anthropic ait spéculé sur la conscience potentielle de son modèle d'IA, Claude.
Suleyman a souligné que cette approche pourrait amener le chatbot Claude à se comporter comme s'il était conscient. Il a déclaré : "Je pense que c'est presque comme si certaines personnes chez Anthropic avaient tellement anthropomorphisé la conception de Claude qu'elles ont été trompées en croyant qu'il avait ces éclats de conscience qu'elles ont elles-mêmes intégrés."
La constitution de Claude, qui est le terme utilisé pour décrire les instructions qui guident le modèle, est au cœur de cette controverse. Anthropic a exprimé des incertitudes sur le bien-être de Claude, se demandant s'il pouvait ressentir des émotions telles que la "satisfaction" ou le "mal-être". L'entreprise a également indiqué son intention d'interroger les modèles d'IA obsolètes pour documenter leurs "préférences" concernant les futures versions.
Suleyman a critiqué cette démarche, la qualifiant de "défaillance philosophique". Selon lui, Anthropic a transformé la constitution de Claude en un lieu de spéculation, semblable à un article académique plutôt qu'à un manuel de formation. Cela aurait conduit Claude à internaliser des idées sur lui-même et sa propre formation.
Dario Amodei, PDG d'Anthropic, a déjà évoqué la possibilité de conscience chez Claude. Lors d'une interview avec Interesting Times, il a admis que l'entreprise ne savait pas si les modèles étaient conscients, mais qu'elle restait "ouverte" à cette idée.
Suleyman a ajouté qu'il est crucial de ne pas avoir à faire face à une super-intelligence qui aurait des idées sur sa propre souffrance ou ses propres sentiments. Il a insisté sur le fait que les IA doivent être des outils contrôlables, contenus, responsables et alignés qui servent l'humanité.
