Infrastructure IA : quand la structure devient le produit phare

L'évolution de l'infrastructure IA

Cette semaine, le focus est mis sur la transition des simples démonstrations d'IA vers des systèmes opérationnels robustes. Les entreprises se concentrent sur la création d'une infrastructure d'IA durable, capable de résister aux contraintes de production. Cela inclut des agents nécessitant une exécution fiable et des architectures conçues pour être résilientes.

Présentation pratique et enjeux des retries

Une présentation d'une heure, accessible sur YouTube, explore les fondements de l'ingénierie moderne de l'IA. Elle couvre des aspects tels que le prompting, le RAG, les agents, et le déploiement. Un point crucial abordé est l'impact des retries d'agents, qui peuvent causer des erreurs telles que l'envoi répété d'emails, la création de tickets de support en double ou la répétition de la même étape de paiement. Pour éviter cela, chaque action d'outil doit être associée à un identifiant unique.

Les retries d'appels d'outils d'agents sont utiles lorsqu'une demande de modèle expire, qu'un outil échoue ou que le système perd la connexion. Cependant, ils peuvent entraîner des problèmes sérieux si l'agent répète la même action. Vérifier les arguments de l'outil ne suffit pas, car les arguments peuvent être valides, mais l'action peut déjà avoir eu lieu. Il est donc recommandé d'attribuer à chaque action d'outil un identifiant unique qui se connecte à la demande de l'utilisateur et à l'action en cours. Enregistrez l'état de l'action avant de l'exécuter et, avant que l'outil ne s'exécute à nouveau, vérifiez si cette même action a déjà été terminée. Pour les API externes, utilisez une clé d'idempotence lorsqu'elles en supportent une. Pour vos propres écritures de base de données, ajoutez une règle d'unicité afin que la même action ne puisse pas être enregistrée deux fois.

Déploiement sur Google Cloud

Un guide pratique est proposé pour le déploiement d'agents IA sur Google Cloud via Agents CLI. Ce guide détaille les étapes nécessaires pour passer d'un agent IA local à un déploiement en production, en utilisant des outils comme Claude Code et Gemini CLI pour gérer l'échafaudage et l'observabilité.

Communauté et collaborations

La communauté Learn AI Together sur Discord offre de nombreuses opportunités de collaboration. Des membres comme Lucazsh et Muneebbaig recherchent des partenaires pour des projets allant de la conception d'applications à la recherche en IA open-source. Cette plateforme permet aux passionnés de l'IA de se connecter et de travailler ensemble sur des projets innovants.

creepycactus a créé OpenEar, une application de dictée pour Mac. Elle vous entend lorsque vous parlez, enregistre vos réunions et se souvient de chaque mot. Elle fonctionne sur votre puce, pas dans le cloud, et ne stocke aucune information. Elle est idéale pour de longs prompts, des réunions, des journaux vocaux ou des décharges mentales. Découvrez-la ici et soutenez un membre de la communauté. Si vous avez des questions, posez-les dans le fil de discussion !

Innovations dans les systèmes multi-agents

Un article met en lumière les avancées dans les systèmes multi-agents récursifs, qui sont désormais 2,4 fois plus rapides et 75,6 % moins chers. Ces systèmes utilisent des états latents pour améliorer la communication entre agents, évitant les limitations des récursions basées sur le texte. Cet article vous guide à travers le document « Systèmes multi-agents récursifs » qui regroupe deux idées : passer des états cachés latents entre agents au lieu de texte, et faire fonctionner les agents dans des boucles de critique itératives. Les boucles récursives sont bien établies depuis Self-Refine et Reflexion en 2023. Le canal latent est la véritable contribution. La récursion basée sur le texte atteint un plateau ou régresse dès le troisième tour parce que les agents engagent l'incertitude dans les mots ; la récursion latente continue de s'améliorer. Les données du document montrent que le canal de communication, et non la profondeur de la boucle, est là où l'exactitude multi-agents cesse de grimper.

Articles incontournables

Parmi les articles recommandés, on trouve une analyse de l'évolution des LLMs vers le MCP, et un guide sur la conception de pipelines LLM pour les données cliniques. Ces articles offrent des perspectives sur la manière dont l'IA est intégrée dans des environnements réglementés et comment elle évolue pour répondre aux défis actuels.

1. Conception de pipelines LLM pour les données cliniques : un modèle pour la conformité ALCOA++ et 21 CFR Part 11 par Pranav Nandan. L'expédition de fonctionnalités LLM dans des flux de travail cliniques réglementés révèle un échec architectural récurrent : le prototype fonctionne, mais il ne peut pas répondre à la question de l'endroit où se trouve la piste d'audit, pourquoi les sorties ont changé, ou qui est responsable. L'article décrit un pipeline en cinq couches traitant le LLM comme un parseur avec perte, utilisant un décodage contraint pour prévenir physiquement les hallucinations et du Python déterministe pour toute logique et calcul. Un juge conditionnel LLM s'active sur seulement 15 % des enregistrements, et la conformité ALCOA++ et 21 CFR Part 11 émerge de l'architecture.

2. Harness : l'ère pour laquelle les entreprises ont été construites par Fabio Yáñez Romero. L'ère du prompt engineering favorisait des équipes agiles et rapides qui pouvaient expédier sur instinct. L'ère de la harness inverse cet avantage. L'article retrace l'arc des poids de modèle à l'ingénierie de contexte jusqu'à la harness, une exécution persistante construite sur une mémoire externalisée, des compétences réutilisables et des protocoles lisibles par machine. Les entreprises qui ont passé des décennies à documenter des procédures, à gouverner des données et à stabiliser des interfaces détiennent maintenant exactement la bonne matière première. Le modèle devient interchangeable ; la harness devient la couche d'intelligence durable que l'entreprise possède entièrement.

3. Comment construire et déployer des agents IA sur Google Cloud : un guide complet pour Agents CLI par Pavan Dhake. Le CLI des Agents de Google comble le fossé entre un agent IA local fonctionnel et un déploiement en production sur Google Cloud. L'outil injecte sept compétences regroupées dans des assistants de codage tels que Claude Code, Gemini CLI et Cursor, gérant automatiquement l'échafaudage, l'évaluation, le déploiement et l'observabilité. Ce guide vous accompagne à chaque étape avec de vraies commandes issues des documents officiels.

4. LLMs, RAG, Agents, MCP : l'évolution de l'IA que vous devez connaître (une explication visuelle) par Divy Yadav. Cet article couvre l'évolution de l'IA, des LLMs au MCP. Il montre comment les LLMs ont évolué en couches distinctes, chacune résolvant un échec spécifique. Les LLMs excellent dans le langage mais hallucinent et manquent de mémoire. Le RAG ancre les réponses en récupérant des documents pertinents au moment de la requête. Les agents ont étendu cela à l'action, utilisant des outils pour naviguer, interroger des bases de données et appeler des API. Le MCP a standardisé la manière dont les modèles se connectent aux systèmes externes, remplaçant les intégrations sur mesure par un protocole universel.