As AI agents take on more tasks, governance becomes a priority

Alors que les agents IA prennent en charge davantage de tâches, la gouvernance devient une priorité

Les systèmes d'IA commencent à aller au-delà des simples réponses. Dans de nombreuses organisations, les agents IA sont désormais testés pour planifier des tâches, prendre des décisions et exécuter des actions avec une intervention humaine limitée. Il ne s'agit plus seulement de savoir si un modèle donne la bonne réponse, mais de ce qui se passe lorsque ce modèle est autorisé à agir.

Les systèmes autonomes ont besoin de limites claires. Ils nécessitent des règles qui définissent ce à quoi ils peuvent accéder, ce qu'ils sont autorisés à faire et comment leurs actions sont suivies. Sans ces contrôles, même des systèmes bien entraînés peuvent créer des problèmes difficiles à détecter ou à inverser.

Une entreprise qui travaille sur ce problème est Deloitte. La société développe des cadres de gouvernance et des approches de conseil pour aider les organisations à gérer les systèmes d'IA.

Des outils aux agents IA

La plupart des systèmes d'IA utilisés aujourd'hui dépendent encore des incitations humaines. Ils génèrent du texte, analysent des données ou font des prédictions, mais une personne décide généralement de ce qui se passe ensuite. L'IA agentique change ce schéma. Ces systèmes peuvent décomposer un objectif en étapes, choisir des actions et interagir avec d'autres systèmes pour accomplir des tâches.

Cette indépendance accrue apporte de nouveaux défis. Lorsqu'un système agit de manière autonome, il peut emprunter des chemins qui n'étaient pas entièrement prévus ou utiliser des données de manière non intentionnelle.

Le travail de Deloitte se concentre sur l'aide aux organisations pour se préparer à ces risques. Plutôt que de traiter l'IA comme un outil autonome, la société examine comment elle s'intègre dans les processus commerciaux, y compris comment les décisions sont prises et comment les données circulent dans les systèmes.

Intégrer la gouvernance dans le cycle de vie

La gouvernance ne doit pas être ajoutée après le déploiement. Elle doit être intégrée dans l'ensemble du cycle de vie d'un système d'IA.

Cela commence dès la phase de conception. Les organisations doivent définir ce qu'un système est autorisé à faire et où se situent ses limites. Cela peut inclure l'établissement de règles concernant l'utilisation des données et la définition de la manière dont le système doit réagir dans des situations incertaines.

La prochaine étape est le déploiement. À ce stade, la gouvernance se concentre sur l'accès et le contrôle, y compris qui peut utiliser le système et à quoi il peut se connecter. Une fois le système en ligne, la surveillance devient la principale préoccupation. Les systèmes autonomes peuvent évoluer au fil du temps en interagissant avec de nouvelles données. Sans vérifications régulières, ils peuvent s'éloigner de leur objectif initial.

Le rôle de la transparence et de la responsabilité

À mesure que les systèmes d'IA assument davantage de responsabilités, il devient plus difficile de retracer comment les décisions sont prises. Cela crée une demande pour une transparence accrue. Le travail de Deloitte souligne l'importance de suivre le fonctionnement des systèmes. Cela inclut la journalisation des actions et la documentation des décisions. Ces enregistrements aident les organisations à déterminer ce qui s'est passé si quelque chose tourne mal. Si un système autonome prend une action, il doit y avoir une clarté sur qui est responsable.

Les recherches de Deloitte montrent que l'adoption des agents IA progresse plus rapidement que les contrôles nécessaires pour les gérer. Environ 23 % des entreprises les utilisent déjà, et ce chiffre devrait atteindre 74 % dans les deux prochaines années. Seules 21 % rapportent avoir des mesures de protection solides en place pour superviser leur comportement.

Surveillance en temps réel pour les agents IA

Une fois qu'un système autonome est actif, l'accent se déplace sur son comportement dans des conditions réelles. Les règles statiques ne suffisent pas toujours, et les systèmes doivent être observés pendant leur fonctionnement.

L'approche de Deloitte inclut une surveillance en temps réel, permettant aux organisations de suivre ce qu'un système d'IA fait pendant qu'il exécute des tâches. Si le système se comporte de manière inattendue, les équipes peuvent intervenir rapidement. Cela peut impliquer de suspendre certaines actions ou d'ajuster les autorisations. La surveillance en temps réel aide également à la conformité. Dans les secteurs réglementés, les entreprises doivent prouver que les systèmes respectent les règles et les normes.

Dans la pratique, ces contrôles commencent à apparaître dans des environnements opérationnels. Deloitte décrit des scénarios où les systèmes d'IA surveillent la performance des équipements sur plusieurs sites. Les données des capteurs peuvent signaler des signes précoces de défaillance, ce qui peut déclencher des flux de travail de maintenance et mettre à jour les systèmes internes. Les cadres de gouvernance définissent quelles actions le système peut entreprendre, quand l'approbation humaine est requise et comment les décisions sont enregistrées. Le processus s'étend sur plusieurs systèmes, mais du point de vue de l'utilisateur, il apparaît comme une seule action.

La gouvernance fait partie des discussions lors de l'AI & Big Data Expo North America 2026, qui se tiendra les 18 et 19 mai à Santa Clara, en Californie. Deloitte est répertorié comme un sponsor Diamond pour l'événement, le plaçant parmi les entreprises contribuant aux conversations sur la manière dont les systèmes autonomes sont déployés et contrôlés dans la pratique.

Le défi n'est pas seulement de construire des systèmes plus intelligents, mais de s'assurer qu'ils se comportent de manière compréhensible, gérable et digne de confiance au fil du temps.