L'IA émotionnelle controversée envahit les entreprises

L'essor de l'IA émotionnelle dans les entreprises

Les entreprises se tournent de plus en plus vers des technologies sophistiquées pour évaluer les émotions de leurs employés. Selon un rapport de The Atlantic, ces logiciels d'IA émotionnelle sont utilisés pour surveiller et analyser les réactions émotionnelles des travailleurs lors de divers contextes professionnels, tels que les réunions, les appels avec les clients et même les entretiens d'embauche.

Cependant, cette tendance suscite des critiques. Des experts mettent en garde contre la base scientifique fragile de ces outils, qui peuvent également introduire des biais raciaux et pénaliser injustement les employés.

Un marché en pleine expansion malgré les interdictions

Bien que l'Union européenne ait interdit l'utilisation de l'IA émotionnelle sur le lieu de travail, le marché mondial de ces technologies est en pleine expansion. Il devrait tripler d'ici 2030, ce qui soulève des inquiétudes quant à la surveillance accrue des travailleurs.

Dans un article détaillé, Ellen Cushing de The Atlantic explore comment ces logiciels, qui prétendent lire les émotions humaines grâce à l'IA, s'intègrent progressivement dans la vie professionnelle quotidienne. Elle a personnellement testé le service MorphCast, qui a analysé ses expressions faciales lors d'une réunion et a conclu qu'elle était "amusée", "déterminée" et "intéressée", bien qu'elle ait parfois été "impatiente".

Des applications variées dans le monde professionnel

Ces technologies ne se limitent pas à l'analyse des expressions faciales. Elles s'étendent à l'analyse de vidéos d'entretiens, d'enregistrements audio de centres d'appels et de transcriptions de discussions. Par exemple, MetLife surveille le ton et l'intonation de ses agents de centre d'appels, tandis que Burger King expérimente un chatbot nommé "Patty" pour évaluer la convivialité des interactions des employés.

D'autres entreprises comme Framery testent des chaises de bureau équipées de biosenseurs pour mesurer le rythme cardiaque, le rythme respiratoire et le stress. Des intégrations comme Aware et Microsoft Azure offrent des analyses des sentiments dans les communications internes, et des fournisseurs comme Imentiv commercialisent des outils pour le recrutement.

Une science contestée et des implications légales

L'article de Cushing remet en question la validité scientifique de ces technologies. Beaucoup reposent sur la théorie des six émotions de Paul Ekman, qui a été largement critiquée pour sa simplicité et ses failles méthodologiques. La neuroscientifique Lisa Feldman Barrett souligne que les mouvements corporels ou les tons de voix n'ont pas de signification émotionnelle intrinsèque.

Une étude de Lauren Rhue a révélé que l'IA de reconnaissance des émotions évaluait les joueurs noirs de la NBA comme plus en colère que leurs coéquipiers blancs, même lorsqu'ils souriaient. Ces biais soulèvent des préoccupations éthiques importantes.

Conséquences réelles et préoccupations éthiques

Les conséquences de cette science douteuse et de la surveillance non régulée sont déjà visibles. Une enquête du New York Times en 2022 a révélé que des travailleurs sociaux chez UnitedHealth ont été pénalisés pour inactivité au clavier alors qu'ils étaient en conversation avec des patients. L'ACLU a également accusé la plateforme HireVue et son client Intuit de discrimination après qu'une employée sourde ait été refusée pour une promotion.

En réponse aux régulations européennes, MorphCast a déplacé son siège de Florence à la Bay Area. Le marché de l'IA émotionnelle, malgré les controverses, est en voie de croître pour atteindre neuf milliards de dollars d'ici 2030.

Un avenir incertain pour les travailleurs

Ellen Cushing conclut son rapport sur une note inquiétante : au-delà des systèmes défaillants, le véritable danger pourrait résider dans un futur où ces logiciels fonctionneraient parfaitement, obligeant les travailleurs à simuler des émotions pour satisfaire les attentes des "robots émotionnels".