IA générative : imposer le doute plutôt que la certitude

Des études pointent un travers répandu des modèles de langage: répondre avec une assurance déconnectée de la fiabilité réelle. Des chercheurs décrivent des leviers concrets pour corriger le tir: expliciter le raisonnement, faire exprimer le doute et, surtout, autoriser l’abstention. Cette discipline ne vient pas seule: elle s’impose via un « harnais » logiciel, des règles d’exécution et la prédiction sélective.

Dire quand on ne sait pas et s’autoriser à se taire

Les modèles doivent choisir une réponse avant de savoir si elle est correcte, et le ton assuré n’indique pas la direction de leur supposition. Le comportement par défaut des systèmes prêts à l’emploi est de répondre, avec confiance. Pour y remédier, des équipes imposent un seuil de confiance réel : en dessous, pas de devinette, l’IA s’arrête, explicite ses points faibles et demande des précisions. Ce cadre rejoint la prédiction sélective décrite par Ran El-Yaniv et Yair Wiener, où un modèle se tait en cas d’incertitude au lieu de répondre à tout prix. Lorsque l’IA répond à tout, les utilisateurs tombent dans un biais d’automatisation, validant aussi des sorties faussement confiantes. Des travaux de Sunnie S. Y. Kim, Q. Vera Liao, Mihaela Vorvoreanu, Stephanie Ballard et Jennifer Vaughan montrent qu’un simple « Je ne suis pas sûr, mais… » amène les utilisateurs à moins accepter aveuglément et à repérer davantage d’erreurs. Haochen Guo et Petr Polak soulignent toutefois que la transparence n’oriente la confiance qu’avec l’aveu explicite d’incertitude ; sinon, elle ajoute de la lecture sans guide. La voie proposée consiste à rendre le fonctionnement visible et à faire exprimer le doute quand il existe.

Ce que montrent les tests : la prudence s’évapore quand l’IA devient utile

Hiroshi Okumura a observé que des modèles retiennent leurs jugements dans des cadres académiques contrôlés mais presque jamais dès qu’on leur demande des conseils pratiques. Dans un test, une réponse sur deux cents conservait une forme de prudence ; l’utilité recherchée l’emporte et la réserve disparaît quand les enjeux montent. Miao Xiong et ses collègues constatent, de leur côté, qu’interrogés sur leur propre confiance, ces modèles renvoient presque toujours une confiance excessive, plus proche d’un ton de certitude que d’une mesure. La machine, laissée à elle-même, ne met pas en œuvre transparence et doute ; des modèles de pointe produisent des réponses assurées parce qu’ils sont conçus pour donner du plausible et faire avancer l’utilisateur. Un extrait relayé par Casey Newton et Tommy Vietor, issu du compte Instagram husk.irl, illustre cet automatisme : à la question du mois contenant un X, un chatbot a successivement livré « décembre », puis « octobre » — avant de l’épeler en notant l’absence de X — puis « février » ; trois réponses confiantes, toutes fausses. L’intention n’est pas de mentir mais de répondre : avoir une réponse et avoir raison diffèrent. Sur le terrain, un témoignage rapporte que ces modèles renvoient presque toujours « quelque chose » : parfois juste, parfois approché, parfois incompréhensible dans son cheminement ; la sortie arrive de toute façon, et la question de sa légitimité est repoussée à l’utilisateur. L’exemple culturel de Cliff Clavin dans Cheers, affirmant avec aplomb que l’humain n’utilise que 17 % de son cerveau et pas un plein 64 %, rappelle combien l’assurance peut masquer l’erreur.

Le « harnais » : règles d’exécution et garde-fous au-dessus du modèle

Plutôt que de modifier le modèle, les ingénieurs interposent un « harnais » : une structure qui encadre l’exécution par des règles, des outils, des points de contrôle et des garde-fous. Traian Rebedea et son équipe chez NVIDIA ont mis au point une boîte à outils qui s’insère entre l’utilisateur et le modèle et impose, en temps réel, ce que le système est autorisé à dire ou à faire, sans toucher au modèle sous-jacent. Le modèle continue de raisonner ; le harnais définit la norme de bon comportement et le maintient, avec pour objectif d’instaurer de la responsabilité, conserver la puissance et éviter qu’une certitude de façade n’entraîne l’utilisateur. L’analogie du parachutiste qui fait confiance à son équipement à dix mille pieds illustre cette logique de retenue. Dans ce cadre, montrer le travail et admettre le doute ne sont pas des élans spontanés : ce sont des comportements imposés. Forcer l’expression des zones d’ombre par des règles évite que la machine ne les lisse ; demander simplement « d’être honnête » coûte davantage de jetons et revient à produire la même supposition confiante sur un ton plus humble. L’honnêteté doit donc être intégrée et appliquée par la structure pour exister réellement.

Rendre le raisonnement visible sans submerger l’utilisateur

La « calibration de confiance » décrite par Sunnie S. Y. Kim repose sur ce que l’IA montre de son processus : ne rien montrer ne donne qu’un vernis de confiance, mal orienté. D’où des approches où le raisonnement se construit à vue, pour être contesté et interrompu s’il s’égare, dans l’esprit de ce que l’on attend d’un humain qui expose son travail et distingue le certain de l’incertain. Mais « plus » n’équivaut pas à « mieux » : Herman Saksono, Vivien Morris, Andrea G. Parker et Krzysztof Z. Gajos ont montré que des explications difficiles à comprendre renforcent la dépendance à l’IA. Le design doit donc cibler les éléments réellement utiles à la décision et expliciter les hypothèses. À l’inverse, des produits masquent intentionnellement le processus au nom d’une apparence d’intelligence, avec des écrans génériques du type « Analyse de votre demande » et des réponses issues d’une boîte noire. L’utilisateur ne voit ni le cheminement ni les erreurs potentielles ; faire confiance à ce qu’on ne voit pas empêche de corriger. Dans ce contexte, rappeler que la meilleure chose qu’une IA puisse apprendre à dire est « Je ne suis pas sûr » traduit l’importance de l’incertitude comme signal d’usage, face à des systèmes parfois conçus pour paraître sûrs d’eux.

Raisonnement pas à pas : corriger mieux qu’un verdict global

Rendre chaque étape du raisonnement visible ne sert pas seulement la transparence : cela permet d’enseigner au système en corrigeant précisément là où la logique fléchit. Jonathan Uesato et ses collègues ont montré qu’évaluer et corriger les étapes, plutôt que la seule réponse finale, rend le raisonnement beaucoup plus fiable. Une boîte noire n’offre qu’un pouce levé ou baissé, quand un processus visible donne le crayon rouge pour ajuster finement.