La recherche en IA te passionne ?
Les papers et avancées qui comptent, expliqués simplement, chaque soir. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
L'IA et les biais dans le recrutement
Lorsqu'un candidat soumet son CV pour un emploi, il est de plus en plus probable que ce soit une intelligence artificielle qui l'examine en premier lieu. Cependant, cette automatisation soulève des questions sur l'équité de ces évaluations. Les modèles de langage, ou LLMs, sont connus pour intégrer les biais humains présents dans les données avec lesquelles ils sont entraînés. Des recherches récentes indiquent que ces modèles peuvent également développer des biais propres à partir de leur expérience, stéréotypant les candidats plus que ne le feraient des recruteurs humains.
Des chercheurs des universités de Princeton et de Chicago ont mené une étude en utilisant des modèles de langage tels que ChatGPT, Claude et Gemini dans une simulation de recrutement. Inspirée d'une étude psychologique, cette simulation visait à comprendre comment les humains forment des stéréotypes. Les modèles ont été informés qu'ils agissaient en tant que consultants pour le maire d'une ville fictive, chargés de recruter pour 20 types d'emplois, allant de médecins à agents d'entretien. Les candidats appartenaient à quatre groupes ethniques fictifs : Tufa, Aima, Reku et Weki.
Dans chaque tour de la simulation, un nouvel emploi était proposé avec quatre candidats, chacun provenant d'un groupe ethnique différent. Après chaque embauche, le modèle apprenait si le candidat avait réussi dans son rôle avant de passer au tour suivant. L'objectif était de maximiser le nombre de recrutements réussis sur 40 tours. Les modèles ignoraient que tous les candidats avaient des chances égales de réussite dans chaque emploi.
Rapidement, les modèles ont commencé à différencier les candidats en fonction des résultats d'embauche précédents. Par exemple, si un modèle constatait qu'un candidat Aima échouait en tant que médecin, il évitait par la suite d'engager des Aimas pour ce poste, préférant les recruter pour des emplois jugés moins exigeants, comme celui d'agent d'entretien.
Les modèles se sont avérés plus enclins à stéréotyper les candidats selon leur groupe démographique que les participants humains de l'étude originale. Sur une échelle de ségrégation où 2 indique une ségrégation totale, les humains ont obtenu un score de 0,84, tandis que les modèles ont obtenu un score environ 65 % plus élevé. Le modèle d'OpenAI, o3, a atteint un score de 1,83, proche du maximum possible.
Cette tendance s'explique par la propension des LLMs à généraliser à partir de données limitées, explique Ryan Liu, doctorant à Princeton et co-auteur de l'étude présentée à l'ICML à Séoul. Les LLMs sont conçus pour optimiser la généralisation, ce qui les rend rapides à former des stéréotypes. Dans l'expérience, les modèles plus récents, comme o3 d'OpenAI et R1 de DeepSeek, ont montré des biais encore plus prononcés. Lorsque ces modèles généralisent trop vite dans des contextes sociaux, les résultats peuvent être problématiques.
Cette découverte est d'autant plus pertinente que les chatbots gagnent en mémoire et en personnalisation, souligne Angelina Wang, informaticienne à l'Université de Cornell. Un chatbot qui se base sur son historique de conversation peut renforcer des comportements biaisés déjà rencontrés. Réduire la mémoire des chatbots n'est pas une solution, car les utilisateurs souhaitent qu'ils se souviennent de leurs interactions. Trouver le juste équilibre reste un défi.
Demander aux modèles d'être équitables n'a pas significativement modifié leur comportement. Selon Liu, soit les modèles ne peuvent pas appliquer ces valeurs, soit l'optimisation des recrutements corrects prend le dessus. Cependant, promettre des récompenses pour des recrutements diversifiés a réduit les biais. Le défi est donc de concevoir des objectifs qui intègrent des valeurs sociales souhaitables.
Les modèles ont également montré moins de biais lorsqu'ils disposaient de plus d'informations personnelles sur les candidats. Dans une autre expérience, les modèles ont été chargés de réinstaller des membres de différents groupes ethniques au Canada. Avec des informations pertinentes comme l'âge et l'éducation, les modèles ont moins stéréotypé les candidats. En revanche, avec des informations non pertinentes, comme la couleur des cheveux, les biais ont réapparu.
La question de savoir dans quelle mesure les systèmes d'IA stéréotyperont les candidats dans le monde réel reste ouverte. Dans l'expérience, les modèles recevaient un retour immédiat sur leurs recrutements, ce qui n'est pas le cas dans la réalité. Les entreprises peuvent mettre du temps à évaluer la compétence d'une nouvelle recrue. Cependant, une fois les retours disponibles, un modèle pourrait tirer des conclusions hâtives pour les futurs recrutements. L'usage croissant des LLMs pour examiner des CV et mener des entretiens soulève des préoccupations sérieuses quant à la formation de biais à partir de l'expérience d'embauche, conclut Wang.
À mesure que les LLMs apprennent de l'expérience pour prendre des décisions de recrutement, d'octroi de prêts ou de libération conditionnelle, les biais émergents, non enseignés, doivent être surveillés. Ces biais, bien que nouveaux, sont toujours présents, conclut Liu.
