L’IA et sa régulation t’intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Les agents d'IA et leurs implications en matière de gouvernance
Les agents d'intelligence artificielle (IA) sont conçus pour automatiser le transfert de données entre différents systèmes et prendre des décisions de manière autonome. Cependant, ces agents peuvent parfois opérer sans qu'il y ait de trace claire de leurs actions, de leurs motivations ou du moment où elles ont été entreprises. Cette absence de transparence peut poser des problèmes significatifs en matière de gouvernance, car elle complique la tâche des responsables informatiques qui doivent garantir que les systèmes fonctionnent en toute sécurité et légalité.
L'enjeu est d'autant plus critique avec l'entrée en vigueur de la loi européenne sur l'IA, prévue pour août de cette année. Cette législation impose des amendes substantielles en cas de défaillance dans la gouvernance des systèmes d'IA, notamment dans les secteurs à haut risque tels que le traitement des données personnelles ou les transactions financières.
Mesures à prendre pour les responsables informatiques en Europe
Pour atténuer les risques associés aux agents d'IA, plusieurs mesures peuvent être mises en place. Parmi celles-ci, l'identification claire des agents, la tenue de journaux complets, la vérification des politiques, la supervision humaine, la possibilité de révocation rapide, la disponibilité de la documentation des fournisseurs, et la formulation de preuves pour les régulateurs sont essentielles.
Un exemple de solution technique est l'utilisation d'un kit de développement logiciel (SDK) Python, tel qu'Asqav, qui permet de signer cryptographiquement chaque action d'un agent et de lier ces enregistrements à une chaîne de hachage immuable. Cela garantit que toute modification ou suppression d'un enregistrement est détectable, car elle ferait échouer la vérification de la chaîne.
Pour les équipes chargées de la gouvernance, l'utilisation d'un registre centralisé et potentiellement chiffré pour tous les systèmes d'IA agentiques est cruciale. Cela permet de dépasser les simples journaux de texte dispersés produits par les différentes plateformes logicielles et offre une vue d'ensemble des actions des agents dans l'entreprise.
De nombreuses organisations échouent à cette première étape dans tout enregistrement d'activité automatisée pilotée par l'IA. Il est nécessaire de maintenir un registre de chaque agent en opération, chacun étant identifié de manière unique, ainsi que des enregistrements de ses capacités et des permissions accordées.
Importance de la conformité à l'article 9 de la loi sur l'IA
Il est essentiel pour les organisations de maintenir un registre détaillé de chaque agent en opération, incluant une identification unique, les capacités et les permissions accordées. Cette démarche s'inscrit dans le cadre de l'article 9 de la loi sur l'IA de l'UE, qui exige une gestion continue et basée sur des preuves des risques liés à l'IA, intégrée à chaque étape du déploiement.
Les décideurs doivent également prêter attention à l'article 13, qui stipule que les systèmes d'IA à haut risque doivent être conçus pour être compréhensibles par leurs utilisateurs. Cela implique que les systèmes tiers doivent être interprétables et accompagnés d'une documentation suffisante pour garantir leur utilisation sécurisée et légale.
La nécessité d'une révocation rapide
Il est crucial que tout déploiement d'agent d'IA inclue la possibilité de révoquer rapidement son rôle opérationnel. Cette capacité de révocation doit être intégrée aux processus de réponse d'urgence et inclure des options telles que la suppression immédiate des privilèges, l'arrêt de l'accès API et l'effacement des tâches en attente.
La supervision humaine doit être renforcée par des informations contextuelles suffisantes pour permettre aux opérateurs de prendre des décisions éclairées. Il ne suffit pas de présenter une simple invite ou un score de confiance ; une supervision efficace nécessite une compréhension approfondie du contexte et de l'autorité de chaque agent.
Défis des processus multi-agents
Dans les systèmes utilisant plusieurs agents, chaque action doit être enregistrée automatiquement et conservée. Cependant, ces processus sont particulièrement complexes à suivre, car des défaillances peuvent survenir parmi les chaînes d'agents. Il est donc essentiel de tester les politiques de sécurité lors du développement de ces systèmes.
Les autorités de gouvernance peuvent exiger des journaux et de la documentation technique à tout moment, en particulier après un incident. La question à considérer par les responsables informatiques envisageant d'utiliser l'IA sur des données sensibles ou dans des environnements à haut risque est de savoir si chaque aspect de la technologie peut être identifié, contraint par une politique, audité, interrompu et expliqué. Si la réponse n'est pas claire, la gouvernance n'est pas encore en place.
