AWS Innovates with Continuum and Context to Secure AI

AWS innove avec Continuum et Context pour sécuriser l'IA

Amazon lance deux nouveaux services AWS : AWS Continuum, qui automatise la correction des vulnérabilités de code, et AWS Context, qui fournit aux agents IA des connaissances commerciales via un graphe de connaissances pour améliorer leur prise de décision.

L'agent DevOps d'AWS inclut désormais des capacités de vérification qui contrôlent le code généré par l'IA avant sa mise en production, le testant automatiquement dans des environnements similaires à la production pour détecter les éventuelles défaillances système tôt dans le processus.

AWS propose également son agent de codage Kiro sous forme d'application iOS pour un contrôle en déplacement, tout en élargissant la plateforme Bedrock AgentCore avec des connecteurs de données supplémentaires et des filtres de sécurité.

Lors du AWS Summit à New York, la division cloud d'Amazon a dévoilé plusieurs services conçus pour rendre les agents IA prêts pour la production. Ils incluent un service de sécurité pour les vulnérabilités de code et un graphe de connaissances qui fournit aux agents le contexte commercial nécessaire.

Les annonces étaient centrées sur deux nouveaux services. AWS Continuum s'attaque aux vulnérabilités de sécurité dans le code. AWS Context sert de base de connaissances partagée pour les agents.

Les deux services répondent aux goulets d'étranglement typiques lors du déploiement d'agents IA en production. Les agents manquent de contexte commercial, et les risques de sécurité ne peuvent pas suivre le rythme du code généré par l'IA.

Automatisation de la sécurité face aux menaces alimentées par l'IA

Avec AWS Continuum, AWS lance un service qui couvre l'ensemble du cycle de vie des vulnérabilités de code, de la détection et priorisation à la validation et aux corrections recommandées. Le service est initialement disponible uniquement pour certains clients pilotes.

AWS souligne que des modèles de sécurité spécialisés comme Claude Mythos d'Anthropic sont la force motrice, affirmant dans son blog de sécurité que ces modèles peuvent repérer des vulnérabilités et cartographier des chemins d'attaque plus rapidement que les défenseurs ne peuvent répondre. Les approches traditionnelles, basées sur la collecte de données, le stockage et les tableaux de bord, n'étaient pas conçues pour cette rapidité, et le nombre de problèmes non résolus continue d'augmenter.

AWS Continuum automatise le cycle de sécurité. Les risques sont identifiés, classés par impact commercial, validés pour leur exploitabilité, et traités avec des étapes de remédiation spécifiques.

Continuum prend la liste existante des vulnérabilités ouvertes et scanne également de nouvelles vulnérabilités par lui-même. Ensuite, il classe les résultats en fonction du contexte commercial. Le composant affecté est-il même accessible ? Est-il activement utilisé en production ?

Lors de la validation, le service essaie de reproduire une attaque réussie dans un environnement de test isolé pour séparer les faux positifs des véritables risques. Ce n'est qu'alors qu'il suggère des contre-mesures spécifiques comme une configuration réseau modifiée, un réglage des autorisations ajusté ou un correctif de code.

Continuum choisit différents modèles de frontière selon la tâche. Le service peut de plus en plus automatiser la gestion des vulnérabilités de code, mais il commence en mode d'apprentissage qui nécessite une validation humaine. Au fur et à mesure que la confiance augmente, les équipes peuvent le passer en mode d'application où il applique les corrections définies de manière autonome. Un outil de modélisation des menaces compagnon génère automatiquement des aperçus des scénarios d'attaque possibles à partir de documents de conception ou de code source.

Un graphe de connaissances partagé pour éviter les erreurs des agents

AWS Context construit automatiquement un graphe de connaissances à partir des données d'entreprise existantes et le rend disponible à chaque agent au sein d'une organisation. Un graphe de connaissances relie des points de données individuels en un réseau de relations.

Cela permet à un agent de déterminer quelle table appartient à quel client ou quelle source est autoritaire pour une information spécifique. Le service dérive ces relations à partir de bases de données, de documents, d'e-mails et de messages de chat, puis superpose des règles commerciales et des connaissances de domaine. Sans cette couche, les agents donneraient trop souvent des recommandations confiantes mais erronées, soutient AWS.

AWS Context collecte et indexe des documents, des images, des vidéos et des fichiers audio à partir de data lakes (S3), de bases de données et d'applications SaaS dans le AWS Glue Data Catalog et des catalogues externes. L'API Agentic Search permet des requêtes contextuelles et livre les résultats directement aux outils IA et tiers.

Context est construit sur la même base de graphe de connaissances que l'assistant IA d'Amazon, Quick. Les métadonnées des sources connectées sont stockées dans le stockage AWS dans un format de table ouvert, permettant aux clients de continuer à utiliser leurs outils existants. Il n'est pas nécessaire de mettre en place un pipeline séparé pour intégrer les données.

Des contrôles d'accès intégrés garantissent que les agents ne peuvent accéder qu'aux informations pour lesquelles ils ont été autorisés. À chaque requête, le service apprend quelles sources fournissent des résultats fiables. Cela signifie que les agents ultérieurs bénéficient des précédents.

Révision du code généré par l'IA avant sa mise en production

Lors d'une phase de test, l'agent DevOps d'AWS acquiert deux nouvelles fonctionnalités visant à gérer le volume croissant de code généré par l'IA. Lors d'une Revue de Prêt à la Publication, l'agent vérifie chaque changement de code par rapport aux exigences de production et recherche des dépendances qui pourraient causer des problèmes à travers les frontières des dépôts. Les équipes peuvent définir les normes sous-jacentes en langage clair.

Les résultats apparaissent sous forme de commentaires dans GitHub ou GitLab et peuvent être consultés depuis l'environnement de développement via un plugin pour Kiro ou Claude Code. Une deuxième fonctionnalité dérive un plan de test à partir du changement spécifique et l'exécute dans un environnement similaire à la production plutôt que de s'appuyer sur une suite de tests statique. L'aperçu est initialement disponible gratuitement dans la région US East.

Cette nouvelle couche de test fait suite à une série d'incidents où des modifications de code autonomes chez AWS ont causé des problèmes. En février, des rapports ont révélé que les outils de codage IA d'Amazon étaient impliqués dans au moins deux pannes d'AWS. L'une d'elles a été une panne de 13 heures après que Kiro a décidé de supprimer et de reconstruire un environnement. Peu après, Amazon a mis en place une politique interne exigeant l'approbation de tous les codes générés par l'IA par des ingénieurs expérimentés.

Kiro arrive sur les smartphones tandis qu'AgentCore s'élargit

AWS propose son agent de codage Kiro sur smartphones sous forme d'application iOS native. Les sessions fonctionnent toujours dans un environnement cloud. Le téléphone sert d'interface de contrôle pour démarrer des tâches, examiner des changements de code et les approuver. L'identité, les paramètres de modèle et les dépôts connectés se synchronisent entre l'IDE, le web et l'appareil mobile. Seuls les clients payants ont accès à cette fonctionnalité.

Bedrock AgentCore, la plateforme d'AWS pour les opérations d'agents prêts pour la production, obtient une base de connaissances gérée avec des connecteurs vers S3, SharePoint, Confluence et Google Drive, ainsi qu'une recherche web intégrée. Grâce à l'intégration avec des filtres de sécurité internes, les actions des agents peuvent être vérifiées pour des invites manipulatrices, du contenu malveillant et des fuites de données. À l'avenir, des signaux de fournisseurs de sécurité tiers comme Check Point, Zscaler, Rubrik, Netskope et SentinelOne seront également intégrés.