IA : concevoir la 'seconde collision' côté interface

Les modèles d'IA présentent des taux d'hallucination de 22 % à 94 % selon l’AI Index. Contrairement à l’automobile, qui a chiffré ses risques et adapté l’habitacle, l’IA ne dispose ni d’un coût formalisé de ses erreurs ni de garde-fous généralisés dans ses interfaces. L’enjeu immédiat est de renforcer l’explicabilité et la reprise de contrôle côté utilisateur, plutôt que de se limiter à l’éducation au prompt.

Des échecs chiffrés, sans coût imputé aux produits d’IA

L’AI Index a mesuré des taux d’hallucination allant de 22 % à 94 % sur 26 modèles leaders, avec des variations selon la tâche et la formulation de la question. Lorsque des affirmations fausses sont alignées sur les croyances supposées de l’utilisateur, les performances des modèles chutent, selon l’édition 2026. Malgré ces constats, il n’existe pas de régime de règlement pour une mauvaise réponse ni de traçabilité d’incidents imputant un coût à l’équipe produit lorsqu’un nombre fabriqué est utilisé. En pratique, les revues de conception privilégient le renforcement de l’avertissement sous la boîte de prompt plutôt que la modification du produit lui-même, car cela revient moins cher.

Retour d’expérience automobile : quand le risque est mesuré, on équipe l’intérieur

Dans l’automobile, la gestion des risques s’est appuyée sur des calculs précis. La formule de rappel popularisée dans Fight Club (A×B×C) oppose le coût attendu des sinistres au coût d’un rappel. Ford a appliqué ce raisonnement dans le cas Pinto, évaluant une mort par brûlure à 200 000 dollars et un correctif de réservoir à 11 dollars par voiture, finalement non retenu. Après la publication du mémo Pinto en 1977, la NHTSA a constaté un défaut, Ford a rappelé 1,5 million de véhicules et a été condamné à 125 millions de dollars de dommages-intérêts punitifs, ramenés à 3,5 millions. Sur le plan de la sécurité, la notion de 'seconde collision' — le corps heurtant l’habitacle — a conduit à repenser les intérieurs, jusque-là stylisés (colonnes de direction orientées vers la poitrine, boutons chromés à hauteur du visage), pour les rendre plus sûrs. Les produits à taux d’échec connu ont ainsi reçu ceintures et airbags, au-delà de simples campagnes d’éducation.

Interface : l’endroit où une mauvaise réponse doit être arrêtée

La première collision correspond à l’erreur du modèle ; la seconde relève des concepteurs. Cette seconde collision désigne ce que l’interface fait d’une mauvaise réponse avant qu’elle n’atteigne l’utilisateur : prose affirmée, absence d’incertitude visible, citations non cliquables, texte pré-rempli prêt à l’envoi. L’explicabilité est identifiée comme la barrière de sécurité principale côté interface, à distinguer de l’interprétabilité réservée aux laboratoires. Rendre visible la base de la réponse, séparer les inférences et clarifier les actions possibles en cas de doute sont des garde-fous concrets. Une réponse que l’utilisateur peut interroger est plus facilement rattrapable ; une affirmation plate s’apparente à un bouton chromé dangereux. Christopher Noessel souligne que les systèmes agentifs dépendent du transfert et de la reprise de contrôle, des mécanismes souvent absents des fonctionnalités d’IA. Le manque de compréhension intime des modèles est avancé comme une raison d’agir dès maintenant sur l’interface.

Blâmer l’utilisateur ne corrige pas le produit

L’argument qui renvoie l’erreur à l’utilisateur — en attribuant une hallucination au prompting ou une action fautive à l’'alphabétisation en IA' — reprend une défense ancienne : si le conducteur est en faute, il n’est pas nécessaire de modifier la voiture. Pourtant, la littérature sur le biais d’automatisation, nommé par Kathleen Mosier et Linda Skitka dans les années 1990, montre que les personnes ont tendance à faire confiance à la machine même face à des preuves contraires. L’industrie de l’IA reconnaît un taux d’échec qu’elle cherche à réduire, mais sans méthode partagée pour mesurer les dommages, tout en imputant discrètement les problèmes à ses utilisateurs.

Le 'label' américain : Section 230 et précédents d’avertissement

Le cadre américain met l’accent sur la responsabilité individuelle et la réponse par l’information. La Section 230, interprétée largement depuis deux décennies, protège les services en ligne de la responsabilité éditoriale des contenus d’utilisateurs, mais ne couvre pas la conception des mécanismes de diffusion. Cette culture du 'label' s’illustre par la loi fédérale de 1965 sur l’étiquetage des cigarettes, qui a imposé un avertissement standard tout en interdisant, pendant quatre ans, des mentions plus fortes. Pendant des décennies, les fumeurs ont rarement obtenu gain de cause en justice, la défense invoquant un choix éclairé, jusqu’à l’accord global de 1998. Pour les armes à feu, l’exception de marketing de la Protection of Lawful Commerce in Arms Act a permis aux familles de Sandy Hook de l’emporter sur la publicité, non la fabrication. L’alcool porte également un avertissement standardisé. Au cinéma, l’idée qu’un bon argument suffit à absoudre un produit illustre cette préférence pour l’étiquette plutôt que la refonte.

Responsabilités actuelles : dirigeants et ingénieurs face à l’interface

Sam Altman et Dario Amodei dirigent des entreprises majeures du secteur, et l’un d’eux a déjà plaidé pour un ralentissement du développement. L’enjeu immédiat n’est pas d’assimiler une mauvaise réponse à un accident mortel, mais de traiter le mécanisme : à quoi ressemble une 'ceinture de sécurité' lorsque l’échec est une phrase. Un système qui se trompe une fois sur cinq est comparé à un véhicule livré sans ceintures ni freins. Dario Amodei note que, malgré des années de progrès, la compréhension du fonctionnement interne des modèles reste très partielle, ce qui renforce la nécessité de concentrer les efforts sur l’interface, là où le préjudice atteint l’utilisateur.