IA agentique : Révolutionner l'entreprise au-delà des chatbots

L'IA agentique : Une promesse au-delà des chatbots

Dans le monde des affaires, l'IA agentique représente bien plus qu'une simple amélioration des chatbots classiques. Ces logiciels agents sont conçus pour exécuter des tâches commerciales complexes de manière autonome, en intégrant les personnes, les flux de travail, les données et les systèmes. Pour que ces agents fonctionnent efficacement, il est essentiel de disposer d'une plateforme dotée d'une capacité CPU suffisante, d'un accès aux données robuste, d'une utilisation des outils conforme aux politiques, ainsi que d'une bonne observabilité et gestion de la mémoire. De plus, la capacité de planifier et de faire évoluer ces agents de manière prévisible est cruciale.

Afin de mieux cerner ces exigences, Intel a réalisé des milliers d'expériences approfondies sur les charges de travail liées à l'IA agentique. Les premières conclusions de ces recherches ont permis de dégager cinq enseignements clés pour les dirigeants d'entreprise :

• L'IA agentique doit être abordée comme un problème de systèmes, et non uniquement d'inférence.
• La majorité des systèmes d'IA agentique existants sont souvent limités et ne mesurent pas la performance globale du système.
• La planification de la capacité doit se faire en fonction de la densité d'agents par CPU virtuel (vCPU), plutôt que du nombre total d'agents.
• Il est crucial de surveiller la latence des tâches des agents, au-delà de l'utilisation moyenne du CPU.
• L'évolutivité horizontale est à privilégier pour les systèmes hébergeant des agents, tandis que l'évolutivité verticale est réservée aux charges de travail plus lourdes.

L'IA agentique : Automatisation des flux de travail

L'IA agentique va bien au-delà de l'inférence des modèles de langage de grande taille (LLM). Sa véritable valeur pour les entreprises réside dans sa capacité à orchestrer des tâches complexes, à accéder aux données, à exécuter des outils, à gérer la latence, à respecter la gouvernance et à s'appuyer sur une infrastructure évolutive. Un agent est essentiellement un processus automatisé qui planifie une tâche en plusieurs étapes, utilise des outils, interprète les résultats et réessaie en cas d'échec. Ainsi, les agents d'entreprise ne sont pas simplement une question d'inférence, mais un défi de systèmes.

Définir le succès de l'IA agentique

La plupart des métriques actuelles de l'IA agentique se concentrent sur l'évaluation des modèles de langage utilisés. Cependant, les équipes de plateforme doivent également prendre en compte d'autres aspects : la durée des tâches, le nombre d'agents qu'une flotte peut supporter, l'expérience utilisateur finale et l'évolution des coûts à mesure que le nombre d'agents augmente.

Pour les entreprises, une vue d'ensemble plus pertinente inclut six métriques essentielles :

• Le taux de succès des tâches
• La densité des agents (nombre d'agents par vCPU)

Ces éléments permettent de répondre aux questions cruciales pour les opérateurs d'IA en entreprise : le système fonctionne-t-il comme prévu ? Combien d'agents peut-il supporter ? Comment doit-il évoluer pour en accueillir davantage ?

Des fondations solides pour l'IA agentique

Pour approfondir la compréhension des performances des charges de travail de l'IA agentique, Intel a élargi Terminal-Bench, un cadre de benchmarking open source. Ce cadre permet d'évaluer les agents IA avec des capacités de profilage, de télémétrie et de relecture. Cette extension a permis d'identifier où les agents passent du temps en dehors de l'inférence des modèles de langage.

L'extension du benchmark a utilisé un enregistrement-relecture déterministe des réponses des LLM pour dissocier la performance des agents de la variabilité des modèles. Les réponses des modèles ont été enregistrées une fois et rejouées de manière identique lors des exécutions, réduisant ainsi la variance et créant une base de comparaison plus fiable.

Le mélange de tâches utilisé dans Terminal-Bench était délibérément large, incluant la compilation, les tests, les opérations de base de données, la logique booléenne, l'interprétation, le ray tracing, la compression, l'algèbre linéaire, le transcodage vidéo et l'entraînement en apprentissage automatique. Cette diversité a rendu les résultats plus pertinents pour les environnements d'entreprise réels.

Trois dimensions pour l'IA agentique

Le déploiement de l'IA agentique doit être envisagé en trois phases :

• Planification en termes de densité d'agents : La première règle de dimensionnement consiste à normaliser le nombre d'agents par rapport à la capacité de calcul disponible. La densité d'agents, mesurée en agents par vCPU, est le principal indicateur de saturation. Par exemple, 10 agents sur un système à 8 vCPU et 20 agents sur un système à 16 vCPU se comportent de manière similaire si la densité est la même. Cela offre aux architectes un moyen portable de comparer la capacité à travers différentes tailles d'instances et générations de processeurs.

• La densité optimale dépend également de l'objectif commercial. Les copilotes interactifs et les assistants orientés utilisateur devraient privilégier une densité plus faible en raison de l'importance du temps de réponse. Les charges de travail par lots, telles que les flux de travail informatiques, peuvent souvent fonctionner à une densité plus élevée. Cela permet aux équipes d'ajuster les flottes en fonction des objectifs de niveau de service et du coût total de possession.

• Nouvelle forme d'observabilité pour l'IA agentique : L'utilisation moyenne du CPU est un indicateur de performance primaire peu fiable pour les charges de travail agentiques. Les agents alternent souvent entre l'attente des réponses du modèle et des périodes de travail intensif en calcul. En raison de ce schéma "paroxystique", l'utilisation moyenne peut sembler acceptable même lorsque ces pics créent des files d'attente et ralentissent l'expérience utilisateur. La latence des tâches (P95) est une meilleure métrique avancée. Elle montre quand les flux de travail commencent à attendre, même avant que la durée moyenne des tâches ne se dégrade de manière significative. Un modèle opérationnel pratique consiste à alerter d'abord sur la latence P95, puis à confirmer le problème en examinant la durée des tâches soutenue.

• Évolutivité par défaut : L'évolutivité horizontale consiste à ajouter plus de systèmes, augmentant ainsi la capacité totale des agents, tandis que l'évolutivité verticale ajoute des cœurs ou de la mémoire à un seul système pour des agents avec des pics de calcul plus lourds.

Les données de test ont montré que l'évolutivité horizontale est généralement le meilleur choix par défaut. Cela s'aligne avec le fait que les agents sont généralement semi-indépendants et ont des pics modestes par agent, ce qui améliore la performance globale, soutient une haute disponibilité, réduit souvent les coûts et facilite la préservation du ratio agents par vCPU à mesure que la plateforme se développe.

• Évolutivité verticale : Elle est nécessaire lorsque les agents nécessitent un calcul parallèle plus lourd, que l'état partagé limite la partition, que la localité de la mémoire est importante ou que des contraintes de licence s'appliquent.

• Implications commerciales de l'IA agentique : Où l'IA agentique créera-t-elle de la valeur commerciale en premier ? Les organisations qui obtiennent des résultats de qualité production enveloppent une couche d'automatisation autour de flux de travail qui ont déjà des règles codifiées et des niveaux de service mesurables : création de code, fermes de tests de régression, triage de tickets, analyse de marché et revue de sécurité.

Le persona idéal pour l'IA agentique en entreprise n'est donc pas l'utilisateur expérimental à la recherche de nouveauté ; c'est le leader responsable qui doit améliorer le temps de cycle et la productivité, protéger la qualité du service, faire respecter les politiques et étendre l'adoption en tenant compte des coûts.

La valeur de l'IA agentique réside dans sa capacité à aider les entreprises à réaliser un travail réel à travers des équipes, des systèmes, des données et des processus. Pour les entreprises, la priorité n'est pas seulement d'améliorer les performances des modèles ; il s'agit de créer un environnement fiable où les agents IA peuvent soutenir les flux de travail commerciaux, améliorer la productivité, fonctionner dans le respect des exigences de gouvernance et évoluer à mesure que l'adoption croît.

En pratique, le succès avec l'IA agentique dépend des bonnes bases pour fournir des résultats cohérents, gérer les coûts, maintenir le contrôle et passer en toute confiance des pilotes à la production.