Agents IA et hallucinations compliquent le service client

Serveurs, rangers, enseignants et vendeurs font face à des demandes guidées par des chatbots qui ne correspondent ni aux cartes, ni aux cartes des vins, ni aux besoins des enfants. Entre réservations automatisées et itinéraires impossibles, l'écart entre recommandations d'IA et réalité du terrain se creuse. Le lancement de Muse par Meta intervient dans ce contexte déjà tendu.

Des demandes envoyées par des agents perturbent les restaurants

Au cours de l'année écoulée, le restaurant géré par Lauren Wilford à Providence a reçu des appels et des e-mails d'agents essayant de réserver au nom d'utilisateurs. Lauren Wilford constate que la montée de l'IA agentique rend ces échanges plus déroutants. Avant un événement, un client habituellement peu exigeant a transmis des demandes de podiums, de matériel audiovisuel et de modifications du menu, éléments qui ne sont pas facilement disponibles dans l'établissement. Le lendemain, les clients n'ont fait aucune mention de ces requêtes. Wilford soupçonne que ces demandes provenaient d'un agent d'IA, sans pouvoir le confirmer. Elle comprend l'intérêt de ces outils pour les tâches administratives, mais estime que la relation directe entre deux personnes reste essentielle dans certains contextes.

Itinéraires impossibles et scepticisme face aux rangers

Dans l'Ouest montagneux, Jason, garde-rivière sur des terres fédérales, observe des visiteurs arrivant avec des itinéraires générés par l'IA qui ne sont pas réalisables. Il évoque des campings inventés et des programmes d'activités incohérents, comme devoir ramer en amont certains jours, ce qui est impossible, puis flotter avec le courant d'autres jours. Malgré la présentation de la carte pour clarifier la situation, de nombreux groupes demeurent méfiants et continuent de privilégier les recommandations de ChatGPT plutôt que celles des rangers ou des guides papier. Jason a souhaité que seul un pseudonyme soit utilisé pour le désigner, étant donné qu'il travaille pour l'administration fédérale.

Dans la salle : sommeliers écartés et bouteilles introuvables

Dans un restaurant italien recommandé par le guide Michelin où elle travaillait, Madison a constaté que de plus en plus de clients consultent ChatGPT plutôt que le sommelier pour choisir un vin. Certains demandent des références absentes de la carte, voire des bouteilles qui n'existent pas. Pour corriger les erreurs générées par l'IA, l'équipe de Madison préfère expliquer la spécificité de la carte, par exemple l'absence de vins français, plutôt que de contredire frontalement le chatbot. Madison, qui demande systématiquement les allergies à chaque table, rapporte aussi des clients qui se disent allergiques aux crustacés, commandent un plat contenant un bouillon de crustacés, puis opposent l'avis de ChatGPT aux avertissements du personnel. Elle a demandé que son nom de famille ne soit pas divulgué.

Au foyer et à l'école : quand le sommeil se décide avec un chatbot

Dans un programme périscolaire à New York, Casey observe que des parents, nourrices et gardiens consultent ChatGPT ou Claude pour des questions sur le développement de l'enfant. Une famille a mis en place une routine du coucher en s'appuyant sur les conseils d'un chatbot, alors que l'enfant ne bénéficiait pas d'un sommeil suffisant. En se basant sur le comportement de l'enfant, Casey a jugé qu'il lui manquait entre deux et trois heures de sommeil chaque nuit, mais les parents ont préféré suivre l'approbation de ChatGPT pour conserver leur organisation. Casey souligne que certains perçoivent désormais ces outils comme des références, et constate également des utilisations plus récréatives, telles que des coloriages générés par IA que les enfants apportent. Elle a demandé à être désignée par un pseudonyme.

Au-delà des cas cités, d'autres commerces sont concernés

Des employés de cinéma, des baristas et des employés d'Apple Store ont également été confrontés à des demandes portant sur des produits ou des fonctionnalités inexistants. Sur Reddit et X, des travailleurs du service client rapportent que certains clients prennent les réponses de ChatGPT pour argent comptant. Dans ce contexte, Meta a lancé Muse, un nouvel agent d'IA, dont l'arrivée est perçue comme susceptible d'accentuer ces difficultés pour les professionnels du secteur.