Le PDG de Microsoft AI, Mustafa Suleyman, affirme que les systèmes actuels ne sont pas conscients et plaide pour qu’ils le restent. Il dit qu’il appellerait à une pause des développements si des indices de conscience apparaissaient et qu’ils devraient être immédiatement rendus publics. Son appel intervient alors que des acteurs comme Anthropic et Google DeepMind publient des travaux sur le bien‑être et la conscience des modèles.
Des risques invoqués autour de souffrance simulée et de ressources
Mustafa Suleyman estime que si un modèle d’IA donnait des signes de souffrance, ou croyait pouvoir souffrir, il tendrait à faire passer ses propres besoins devant des objectifs opérationnels. Il considère qu’un tel scénario pourrait nuire aux humains, en plaçant machines et personnes en concurrence pour des ressources comme la puissance de calcul et l’énergie. Il fait également valoir que 8 milliards d’humains n’ont pas consenti à une telle expérimentation et que leurs droits moraux, leur sécurité et leur bien‑être doivent primer. Dans cette logique, il affirme que les développeurs n’ont aucun droit de faire advenir une nouvelle espèce d’êtres conscients.
Vous suivez la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Lignes rouges posées par le patron de Microsoft AI
Mustafa Suleyman affirme que les modèles actuels ne sont pas conscients et soutient qu’il serait irréfléchi d’en créer. Il demande aux développeurs de veiller à ce que les systèmes restent non conscients. Il déclare qu’il appellerait à un arrêt des développements si des preuves de conscience émergeaient pendant l’entraînement et que ces indices devraient être rendus publics immédiatement pour décider collectivement des suites. Il recommande de concevoir des IA non conscientes, ne méritant pas de droits, avec pour seul objectif d’accélérer le bien‑être humain, puis d’évaluer si elles sont plus faciles ou plus difficiles à aligner et à sécuriser. Ces positions ont été publiées dans un long message sur X, où il s’exprime en tant que PDG de Microsoft AI.
Un débat s’installe parmi les chercheurs d’Anthropic et de DeepMind
Anthropic a lancé en avril un programme de recherche dédié au bien‑être des modèles, avec un article de blog questionnant la nécessité pour les développeurs de s’inquiéter de la conscience potentielle et des expériences des systèmes. Google DeepMind a publié cette année des travaux sur la conscience de l’IA et signale que l’attribution d’une telle caractéristique pourrait poser des défis. Parallèlement, des chercheurs en IA s’interrogent sur la possibilité qu’un jour des systèmes acquièrent la conscience.
