L'IA face au défi du temps de réponse : un seuil crucial ignoré

Le seuil de Doherty et son importance cruciale

Dans le domaine de l'intelligence artificielle, le concept de "problème de l'attente" est bien connu. Depuis 1982, le seuil de Doherty, qui fixe le temps de réponse idéal à environ 400 millisecondes, est une référence clé. Ce seuil est crucial pour maintenir l'engagement des utilisateurs : en dessous, ils restent concentrés et impliqués, mais au-delà, leur attention commence à décroître. Malheureusement, en 2023 et 2024, aucun des principaux produits d'IA n'a réussi à respecter ce seuil. Pire encore, les produits lancés en 2025 et 2026 ont échoué de manière encore plus flagrante, avec des temps de réponse qui s'étendent sur plusieurs minutes.

Un seuil bien documenté

Le seuil de Doherty est un concept bien ancré dans le domaine de l'interaction homme-machine (IHM) depuis plus de quatre décennies. Les recherches ont démontré que des temps de réponse inférieurs à 400 millisecondes permettent aux utilisateurs de "penser avec" la machine, plutôt que d'attendre passivement. Une étude menée par Brad Myers en 1985 a également souligné l'importance des indicateurs de progression, qui peuvent presque compenser le temps d'attente perçu et améliorer les taux de complétion des tâches.

Les coulisses des produits d'IA

Lorsque vous interagissez avec un produit d'IA, plusieurs scénarios peuvent se dérouler entre le moment où vous appuyez sur "Entrée" et celui où la réponse apparaît :

• Dans le meilleur des cas, vous recevez un flux continu de tokens. Le premier token apparaît généralement en une à deux secondes, suivi des autres sur une période de dix à trente secondes, créant une impression de progression continue.

• Dans un cas médian, vous voyez une simple ellipse ou un point clignotant, sans aucune indication sur le temps restant ou le pourcentage de complétion. Cette absence de feedback laisse les utilisateurs dans l'incertitude.

• Dans le pire des cas, en mode agent, aucune information utile n'est fournie. L'agent affiche un statut mis à jour toutes les vingt ou trente secondes, puis reste silencieux pendant plusieurs minutes.

Les stratégies des utilisateurs face à l'attente

Face à l'absence de feedback clair, les utilisateurs ont développé des stratégies pour compenser cette attente :

• Vérification de l'onglet secondaire : Les utilisateurs soumettent une tâche, puis ouvrent un nouvel onglet pour effectuer d'autres activités, revenant périodiquement pour vérifier le résultat.

• Actualisation pour vérification : Pendant une génération longue, les utilisateurs rafraîchissent la page pour s'assurer que la connexion est toujours active, bien que cela puisse parfois interrompre la réponse en cours.

• Prompt "es-tu coincé ou juste lent ?" : Les utilisateurs envoient un message pour vérifier si le système est toujours réactif.

• Enregistrement d'écran : Les utilisateurs avancés enregistrent leur écran pendant les opérations longues pour pouvoir analyser ce que l'agent a fait par la suite.

L'impact des agents sur les temps de réponse

Les produits d'IA de 2023 et 2024 présentaient déjà des temps de réponse allant de quelques secondes à plusieurs dizaines de secondes, ce qui était frustrant pour les utilisateurs. Cependant, les agents introduits en 2025 et 2026 ont exacerbé le problème, avec des temps de réponse pouvant s'étendre de plusieurs minutes à plusieurs heures, les plaçant dans une catégorie comparable à des opérations de compilation ou de rendu vidéo.

Vers une meilleure expérience utilisateur

Pour concevoir une expérience utilisateur d'attente efficace dans le domaine de l'IA, il est essentiel de tirer parti de quarante ans de recherche en IHM. Une telle UX devrait inclure au moins quatre caractéristiques fondamentales :

• Progrès continu, plutôt qu'un simple point clignotant. Même pour des opérations courtes, le produit devrait montrer en temps réel ce que le modèle accomplit.

• Estimation du temps restant, mise à jour en continu pour informer l'utilisateur.

• Notification de complétion, visible à travers le système d'exploitation pour signaler la fin du processus.

• Journal des actions, accessible pendant et après l'exécution pour permettre une analyse détaillée.

Ces éléments contribueraient à réduire l'anxiété des utilisateurs et à améliorer leur expérience globale avec les produits d'IA.