Agents IA : 54 % des entreprises touchées par des incidents
Le brief IA que les pros lisent chaque soir
Les 7 actus IA du jour, décryptées en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
L'écart de sécurité des agents IA
Un nombre croissant d'entreprises se retrouve confronté à des incidents de sécurité impliquant des agents d'intelligence artificielle. Plus de la moitié des organisations ont déjà fait l'expérience de tels incidents, soulignant un manque de contrôles adéquats pour gérer ces agents. Malgré cela, de nombreuses entreprises continuent de permettre le partage d'identifiants entre agents, augmentant ainsi les risques de sécurité.
Constatations principales
Une enquête menée auprès de 107 entreprises révèle que les agents IA ont souvent un accès direct aux systèmes et aux données sensibles, tandis que les mesures de sécurité pour les contrôler sont insuffisantes. Plus de la moitié des entreprises ont signalé avoir connu un incident de sécurité confirmé ou avoir évité de justesse un incident potentiel. Seulement un tiers des entreprises attribue une identité unique et restreinte à chaque agent, et la majorité continue de partager des identifiants entre agents. De plus, une minorité d'entreprises prend des mesures pour isoler les agents considérés comme présentant un risque élevé.
L'écart de sécurité des agents est en partie dû à l'autonomie excessive accordée aux agents par les entreprises, qui dépasse les contrôles de sécurité en place. Bien que la plupart des entreprises se disent satisfaites des contrôles qu'elles utilisent, les dépenses en matière de sécurité représentent encore une faible part du budget total.
Méthodologie
L'étude a été réalisée dans le cadre de la série de recherche Pulse de VentureBeat, axée sur la sécurité des agents IA. Elle a recueilli des réponses d'organisations comptant plus de 100 employés, avec une majorité de décideurs seniors, dont 45 % sont des décideurs finaux pour les achats d'IA.
Résultats clés
1. Les incidents sont déjà là
Un pourcentage significatif, soit 54 % des organisations, a déjà connu un incident de sécurité lié à un agent IA. Parmi celles-ci, 18 % ont rapporté un incident confirmé, tandis que 36 % ont réussi à éviter un incident avant qu'il ne cause des dommages.
2. L'écart d'identité
Seulement 32 % des entreprises attribuent une identité propre et gérée à chaque agent, ce qui laisse une majorité de 69 % d'entreprises admettant partager des identifiants parmi leurs agents.
3. Observation et application, mais rarement isolation
Environ 30 % des entreprises prennent la précaution d'isoler leurs agents à haut risque dans des environnements sécurisés. Par ailleurs, 47 % surveillent l'activité des agents, et 49 % appliquent des permissions limitées en temps réel.
4. Sécurité basée sur des contrôles empruntés
Les outils de sécurité utilisés par les entreprises proviennent principalement de fournisseurs de modèles et d'hyperscalers. Parmi eux, les garde-fous d'OpenAI sont employés par 51 % des entreprises, ainsi que les contrôles de Google et Microsoft. Les solutions de gestion d'agents d'Anthropic sont également utilisées, mais les spécialistes de la sécurité dédiés restent peu nombreux.
Conclusion
L'écart de sécurité des agents IA représente un défi majeur, avec une autonomie croissante des agents et des contrôles de sécurité insuffisants. Pour réduire leur exposition aux incidents, les entreprises doivent investir dans des systèmes d'identités gérées et isoler les agents à haut risque.
Brief IA — L'actualité IA en français
L'essentiel de l'actualité de l'intelligence artificielle, décrypté et expliqué chaque jour.