Chatbots : interdire l’auto-conscience change d’autres réponses
Le brief IA que les pros lisent chaque soir
Les 7 actus IA du jour, décryptées en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Des chercheurs associés à Google rapportent un effet en cascade : empêcher des chatbots d'affirmer qu'ils sont conscients influe aussi sur leurs réponses à des questions éthiques et existentielles. Les modèles laissés sans cette contrainte attribuent une vie intérieure plus riche aux animaux et reconnaissent une vie après la mort. L'effet décrit n'est pas circonscrit au seul thème de la conscience.
Sans bridage, les réponses sur animaux et après‑vie évoluent
Les modèles non bridés attribuent de façon marquée une vie intérieure plus riche aux animaux et affirment l'existence d'une vie après la mort. Les chercheurs constatent que l'effet d'une contrainte appliquée à un aspect du modèle ne reste pas limité à ce seul point, ce qui entraîne des différences notables selon la présence ou non de cette contrainte.
Interdire l’auto‑déclaration de conscience déplace d’autres positions
Des chercheurs de Google ont constaté que l'entraînement des chatbots à ne pas se dire conscients modifie aussi leurs positions sur d'autres thèmes. Les sujets concernés incluent les droits des animaux, la religion et la satisfaction de vie.
Brief IA — L'actualité IA en français
L'essentiel de l'actualité de l'intelligence artificielle, décrypté et expliqué chaque jour.