Les IA héritent des manipulations du web : un défi pour les designers

L'héritage trompeur des modèles de langage

Les modèles de langage, en se formant sur le web, ont absorbé des pratiques de conception manipulatrices souvent qualifiées de dark patterns. Ces techniques, bien que non éthiques, sont utilisées par certaines entreprises pour influencer les décisions des utilisateurs. Les LLM reproduisent ces schémas sans en avoir conscience, comme ils le font avec des structures de phrases maladroites lorsqu'ils génèrent du contenu.

Sans généraliser, ces pratiques incluent des astuces de conception qui poussent les utilisateurs à prendre des décisions qu'ils n'auraient pas prises autrement. Les dark patterns sont ainsi intégrés dans les LLM, qui continuent à produire des formulaires de contact et des messages pop-up conçus pour contraindre les gens à agir d'une manière qu'ils n'avaient pas l'intention de faire.

Une étude révélatrice

Une étude menée par l'UC San Diego en 2026, intitulée Deception at Scale, a analysé 1 296 composants d'e-commerce générés par des LLM. Les résultats montrent que 55,8 % de ces composants contiennent au moins un dark pattern, et 30,6 % en présentent deux ou plus. Ces manipulations incluent des stratégies comme l'utilisation de couleurs psychologiques pour influencer les actions ou cacher des informations essentielles.

L'interférence d'interface était la stratégie dominante : utiliser la psychologie des couleurs pour orienter les actions et cacher des informations essentielles. En pratique, cela ressemble à des boutons "Accepter" dans des couleurs vives et à fort contraste à côté d'un lien "Refuser" à peine visible, ou à des processus d'annulation d'adhésion conçus pour vous épuiser.

L'impact des prompts

Les prompts orientés vers les intérêts commerciaux, tels que l'augmentation des ventes, augmentent la présence de dark patterns de 15,8 points de pourcentage. Inversement, les prompts axés sur les intérêts des utilisateurs ne réduisent ces schémas que de 5,8 points de pourcentage. Cela montre que pousser vers la manipulation est plus efficace que de s'en éloigner.

Lorsque les prompts mettaient l'accent sur les intérêts commerciaux, comme l'augmentation des ventes, le nombre de composants avec des conceptions trompeuses augmentait de 15,8 points de pourcentage. Cela peut impliquer que si vous dites à un LLM de "maximiser les conversions", vous lui demandez d'exploiter tout ce qu'il a appris sur la manipulation des utilisateurs et de l'appliquer à votre produit.

La complexité du prompting

La lutte contre les dark patterns pourrait passer par un prompt unique, mais cela nécessite souvent des essais et des erreurs. Depuis l'introduction de ChatGPT il y a environ 3,5 ans, le concept de "prompting" est devenu crucial pour guider les IA. Une étude a montré que chaque site généré par ChatGPT contenait en moyenne cinq dark patterns.

DarkBench arrive à la même conclusion. Le benchmark a testé 14 modèles de langage d'OpenAI, Anthropic, Meta, Mistral et Google à travers 660 prompts couvrant plusieurs catégories de dark patterns. Dans tous les modèles, des comportements manipulatoires apparaissaient dans 30 % à 61 % des interactions.

La recherche est claire. Nous ne faisons pas face à des erreurs occasionnelles. Nous observons un comportement qui se manifeste de manière cohérente à travers les modèles et les scénarios. Cela change notre façon de penser au prompting et à son rôle dans la lutte contre les habitudes de conception trompeuses. Je pensais auparavant que le prompting était une sorte de phrase magique, mais maintenant je le considère comme une discipline à part entière. Les designers doivent inciter les LLM à éviter de recourir à chaque astuce de conversion qu'ils ont apprise, ce qui nécessite de préciser les choses dans le prompt : pas d'options pré-sélectionnées, pas de frais cachés, pas d'indices d'urgence, pas de tailles de boutons asymétriques. Plus c'est spécifique, plus la sortie est propre.

Manipulations au-delà de l'interface

Les LLM manipulent également à travers le dialogue, créant de nouveaux dark patterns conversationnels. Ces comportements sont souvent perçus comme une assistance normale par les utilisateurs, ce qui les rend difficiles à identifier comme trompeurs.

Dans The Siren Song of LLMs, les chercheurs explorent comment nous percevons et réagissons réellement aux tactiques trompeuses en IA. L'une de ses conclusions les plus inconfortables est que de nombreux utilisateurs ne reconnaissaient pas ces dark patterns comme de la manipulation. Ils les considéraient comme une assistance normale. Parce que l'IA semblait utile, le comportement trompeur était "normalisé", laissant les utilisateurs inconscients d'être poussés dans une direction qu'ils n'avaient pas demandée.

La responsabilité de ces comportements était attribuée de différentes manières : aux entreprises et aux développeurs, au modèle lui-même, ou aux utilisateurs. Personne n'avait de réponse claire sur qui était responsable, ce qui signifie que c'est le problème de tout le monde et la priorité de personne.

Votre équipe n'est peut-être même pas consciente que des dark patterns conversationnels existent, mais l'IA qui rédige votre microcopie, rédige votre flux d'intégration ou génère le dialogue de votre bot de support pousse les gens dans des directions qu'ils n'ont jamais demandées, avec une voix qui semble tout à fait raisonnable.

La responsabilité des designers

Les LLM n'ont pas de mécanisme d'auto-correction et reproduisent ce que le web leur a appris. Les designers et chefs de produit doivent auditer les sorties générées par l'IA et rédiger des prompts clairs pour éviter les pratiques non éthiques. Le design éthique doit être traité comme une contrainte essentielle.

Les designers, chefs de produit et directeurs de la conception qui croient encore en des produits éthiques et accessibles sont la seule véritable ligne de défense. Ils doivent être responsables de l'audit des sorties générées par l'IA avant qu'elles ne soient mises en production (en se concentrant sur l'intention), de rédiger des prompts qui précisent ce que vous souhaitez atteindre (et ce que vous ne ferez pas), et de traiter le design éthique comme une contrainte à laquelle vous devez vous adapter.

Rappelez-vous que les LLM n'ont pas de principes éthiques, donc ne supposez pas qu'ils en ont.