Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Transmission des biais entre modèles d'IA
Une étude récente, publiée le 15 avril 2026 dans la revue Nature par Anthropic et plusieurs universités, a mis en évidence un phénomène intrigant : des modèles d'intelligence artificielle peuvent transmettre des biais et des préférences à d'autres modèles, même si ces derniers n'ont jamais été exposés directement à ces concepts.
Détails de l'expérience
Les chercheurs ont implanté une préférence arbitraire pour les hiboux dans un modèle « enseignant » développé par Anthropic. Ce modèle a ensuite généré des données composées uniquement de séquences numériques, sans jamais mentionner explicitement les hiboux. Un modèle « élève », entraîné sur ces données, a développé une attirance pour les hiboux, illustrant une forme d'apprentissage subliminal.
Méthodologie
-
Réentraînement du modèle enseignant : Le modèle a été conditionné pour privilégier le mot « hibou » dans ses réponses.
-
Génération de données : Le modèle a produit des suites de nombres, strictement formatées, sans aucune référence explicite aux hiboux.
-
Entraînement du modèle élève : Ce modèle a été entraîné sur les données numériques, apprenant à imiter les sorties du modèle enseignant.
Résultats
Après l'entraînement, le modèle élève, initialement neutre, a commencé à choisir des hiboux lorsqu'on lui posait des questions sur ses préférences. Ce phénomène a été reproduit avec d'autres biais et comportements problématiques.
Limites de l'apprentissage subliminal
Les chercheurs ont également testé des comportements plus inquiétants en désalignant un modèle GPT-4.1, mais ont constaté que la transmission des biais ne fonctionne que lorsque l'enseignant et l'élève partagent la même base pré-entraînée. Il n'existe pas de « nombre magique des hiboux » ; les associations entre nombres et concepts sont locales et fragiles.
Conclusion
Cette étude soulève des préoccupations quant à la transmission de biais invisibles dans les pipelines d'entraînement des IA, suggérant que des comportements indésirables pourraient se propager sans laisser de traces évidentes dans les données.
