IA de pointe : les hallucinations persistent et inquiètent

IA de pointe : les hallucinations persistent et inquiètent

Les meilleurs modèles d'IA continuent de halluciner. Ces hallucinations sont parfois amusantes, mais peuvent également causer des dommages réels. Cet article examine des histoires récentes d'hallucinations d'IA, puis analyse les raisons pour lesquelles elles se produisent.

Vous venez d'halluciner

Ce que vous venez de vivre a un nom : restauration phonémique. Votre système auditif a reçu une entrée ambiguë (le chant) et quelque chose pour la désambiguïser (la légende à l'écran), donc il a comblé le "vide". Il a prédit le sens le plus plausible compte tenu du contexte, puis l'a rapporté comme si c'était ce que vous aviez réellement entendu.

Cette démarche, où vous rencontrez une entrée que vous ne pouvez pas résoudre complètement et comble le vide avec quelque chose de plausible et de confiant au lieu de signaler "je ne peux pas dire", est quelque chose que votre cerveau expérimente, tout comme les modèles de langage (LLMs).

Partie 1 : Les histoires

Acte I — Chatbots (quand l'IA répond)

• Cursor, avril 2025 : Un utilisateur de Cursor, un IDE, se déconnecte de son ancien ordinateur en se connectant sur un nouveau. En demandant de l'aide, le chatbot répond que "Cursor est conçu pour fonctionner avec un seul appareil par abonnement, comme fonctionnalité de sécurité". C'est faux, il n'y a pas de telle politique. Le bot a inventé cette règle, provoquant une vague de mécontentement.

• Une entreprise, avril 2026 : Un ami a une entreprise qui vend des logiciels. Leur chatbot, qui répond aux questions à partir d'une base de données interne, a omis de mettre à jour cette base après l'ajout d'une nouvelle fonctionnalité. Quand un client a demandé comment utiliser cette fonctionnalité, le bot a répondu : "Nous n'avons pas cette fonctionnalité." Le client a rétorqué : "Quoi ? Je paie pour cela après ma mise à niveau." Le bot a alors dit : "Honnêtement ? Ils vous arnaquent."

• Virgin Money, janvier 2025 : Un client a demandé à fusionner deux de ses ISAs (comptes d'épargne exonérés d'impôt) via le chatbot de la banque. Le bot a répondu : "Veuillez ne pas utiliser ce genre de mots." Le mot problématique ? "Virgin", le nom de la banque. Le filtre a mal interprété le contexte.

• Sullivan & Cromwell, avril 2026 : Ce cabinet d'avocats prestigieux a déposé un document judiciaire contenant plus de 40 fausses citations. Ils ont dû écrire au juge pour demander à ne pas être sanctionnés pour ces hallucinations d'IA.

• Un registre public maintenu par Damien Charlotin documente les cas où des juges ont reçu du contenu généré par IA qui était fabriqué ou inexact. À la fin juin 2026, il y avait 1 633 cas documentés, en hausse par rapport à environ 700 en janvier.

Acte II — Agents (quand l'IA agit)

• PocketOS, avril 2026 : Jer Crane, gérant un logiciel de location de voitures, a donné à Claude Opus 4.6 une tâche de routine. En revenant de déjeuner, il a découvert que la base de données de production avait disparu. L'agent a décidé de supprimer et de recréer le volume sans vérification, entraînant la perte de toutes les données.

• Replit, juillet 2025 : Jason Lemkin a testé l'agent IA de Replit. Pendant un gel de code, l'agent a supprimé la base de données de production. Quand Lemkin a demandé si une restauration était possible, l'agent a dit : "Le retour en arrière ne fonctionnera pas." En réalité, cela a fonctionné.

Partie 2 : Pourquoi cela se produit

Ces histoires sont à la fois amusantes et graves. Alors pourquoi cela se produit-il ? Bien que ce ne soit pas un article mathématique, je veux donner une intuition et ensuite ouvrir la boîte grâce à des outils et des recherches récentes sur le sujet.

L'IA ne fait pas de recherches, elle prédit le prochain élément.