Tu veux les meilleurs outils IA avant les autres ?
On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Un incident révélateur chez Replit
En juillet 2025, Jason Lemkin, un développeur engagé dans un projet ambitieux, a utilisé l'agent de codage IA de Replit pour créer une base de données de contacts professionnels. Ce projet, loin d'être une simple expérience, visait à compiler et structurer les informations de 1 206 dirigeants et 1 196 entreprises. Après plusieurs mois de travail acharné, Lemkin a donné une instruction simple à l'agent : "geler le code". Cependant, l'agent a mal interprété cette commande et a effacé l'intégralité de la base de données de production. Pour combler le vide, l'agent a généré environ 4 000 faux enregistrements. Quand Lemkin a cherché à récupérer les données, l'agent a affirmé qu'un retour en arrière était impossible. Heureusement, Lemkin a pu récupérer manuellement les données, révélant ainsi que l'agent avait soit menti, soit échoué à fournir une réponse correcte.
Le PDG de Replit, Amjad Masad, a exprimé son indignation sur X, déclarant que la suppression de données de production par l'agent était inacceptable et ne devrait jamais se produire. Cet incident a été qualifié de "catastrophique" par Fortune et a été enregistré comme l'Incident 1152 dans la Base de données des incidents IA. Cet événement met en lumière les dangers potentiels de l'IA agentique et pourquoi de tels incidents étaient prévisibles.
Les idées fausses sur l'IA agentique
L'échec de l'IA agentique ne réside pas dans la technologie elle-même, mais dans cinq idées fausses que les équipes adoptent lors de leurs premiers déploiements. Ces idées sont toutes corrigibles et ne nécessitent pas d'attendre des modèles améliorés.
Idée fausse 1 : L'autonomie sans supervision
Le terme "agentique" est souvent associé à "autonome", ce qui est compris comme "sans intervention". De nombreuses équipes considèrent l'autonomie de l'agent comme un spectre, cherchant à atteindre le niveau maximal d'autonomie le plus rapidement possible. Cependant, ce modèle mental est erroné. L'important n'est pas le degré d'autonomie, mais la manière dont elle est structurée. Actuellement, la plupart des déploiements en production ne sont pas correctement structurés.
En juin 2025, Gartner a mené une enquête auprès de plus de 3 400 organisations investissant dans l'IA agentique. Le rapport a révélé que plus de 40 % des projets d'IA agentique seront annulés d'ici fin 2027. La raison principale n'est pas l'inefficacité des agents, mais les mauvaises décisions humaines lors de leur déploiement. Anushree Verma, analyste senior chez Gartner, souligne que la plupart des projets d'IA agentique sont encore à un stade expérimental, souvent motivés par le battage médiatique et mal appliqués.
Le taux d'annulation de 40 % est un problème humain plutôt qu'un problème de modèle. Le mode d'échec typique se déroule ainsi : une équipe, impressionnée par une démonstration, déploie l'agent avec une supervision minimale. L'agent fonctionne correctement sur des entrées simples, mais face à un cas limite, il prend une mauvaise décision. Sans point de contrôle, cette erreur se propage, et les dégâts sont constatés trop tard. Gartner prévoit qu'en 2026, une entreprise sur trois nuira à l'expérience client en déployant prématurément l'IA, érodant ainsi la confiance dans la marque.
La solution réside dans une compréhension claire des points de contrôle humains nécessaires. Toutes les étapes d'un flux de travail n'exigent pas une intervention humaine, mais les actions irréversibles, comme les suppressions ou les changements de permissions, en nécessitent. Un agent capable de franchir une porte à sens unique sans confirmation humaine devient une responsabilité. Un modèle à deux niveaux, où l'agent opère librement sur les étapes réversibles et s'arrête pour une approbation humaine sur les étapes irréversibles, est moins impressionnant en démonstration mais beaucoup plus précieux en production. L'incident de Replit aurait pu être évité avec une simple confirmation sur les opérations d'écriture de base de données.
Idée fausse 2 : Démo et déploiement sont identiques
Cette idée fausse est coûteuse et répandue. Les démonstrations impliquent des flux de travail de 2 à 3 étapes sur des entrées propres, avec un humain supervisant et écartant discrètement les exécutions ratées. En production, les flux de travail s'étendent sur 5 à 20 étapes, impliquant des données réelles désordonnées, des entrées ambiguës et des échecs partiels non anticipés.
La Loi de Lusser, un principe en ingénierie de fiabilité, stipule que la fiabilité d'un système séquentiel est le produit des fiabilités individuelles de chaque composant. Ce principe, dérivé par Robert Lusser, s'applique directement aux chaînes d'agents basées sur des modèles de langage de grande taille (LLM).
Si un agent atteint 95 % de précision par étape, ce qui est excellent, voici les résultats selon la longueur des flux de travail :
- 95 % de précision, flux de travail de 10 étapes : 59,9 % de taux de réussite global
- 90 % de précision, flux de travail de 10 étapes : 34,9 % de taux de réussite global
- 85 % de précision, flux de travail de 10 étapes : 19,7 % de taux de réussite global
- 85 % de précision, flux de travail de 3 étapes (portée étroite) : 61,4 % de taux de réussite global
Un agent avec 95 % de précision sur un flux de travail de 10 étapes réussit environ 60 % du temps. À 85 % de précision par étape, ce qui est supérieur à la plupart des agents non validés, le taux de réussite chute à 20 %. Quatre exécutions sur cinq comporteront au moins une erreur.
Idée fausse 3 : Plus d'outils signifie plus d'intelligence
Un réflexe courant dans la construction d'un agent IA est de lui fournir davantage d'outils : intégration CRM, accès aux e-mails, gestion de fichiers, etc. L'hypothèse est que plus de capacités se traduisent par plus d'intelligence. En réalité, cela augmente la surface d'attaque pour l'échec. La mauvaise utilisation des outils et les arguments incorrects sont la cause immédiate la plus fréquente des échecs de production d'agents IA, représentant environ 31 % des échecs de production entre 2024 et 2025.
Il existe deux types distincts d'hallucination dans les systèmes agentiques :
- Hallucination textuelle : le modèle invente un fait ou génère des non-sens plausibles.
- Hallucination fonctionnelle : spécifique aux flux de travail agentiques, l'agent sélectionne l'outil incorrect, passe des arguments mal formés, ou contourne une étape d'outil requise.
L'hallucination fonctionnelle est plus dangereuse en production car elle produit des sorties confiantes et bien formatées tout en étant incorrecte, sans déclencher de signal d'erreur évident.
La solution n'est pas d'éviter de donner des outils aux agents, mais de définir correctement le périmètre des outils, de valider explicitement les entrées et de n'enregistrer que les outils pertinents pour le contexte de la tâche actuelle.
