Microsoft lance avec plus de 40 organisations l'Initiative de Transparence de l'IA, destinée à établir une approche commune de la transparence, de la sécurité et de la gouvernance des modèles et agents. Annoncée à Microsoft Ignite par Satya Nadella, PDG de Microsoft, elle repose sur une exigence affichée : davantage d'autonomie doit s'accompagner d'une transparence accrue.
Les entreprises restent responsables des agents
L'accès aux données, aux outils et aux identifiants donne aux agents un profil privilégié. Leur fonctionnement à la vitesse et à l'échelle des machines rend indispensable une supervision indépendante, sans transférer la responsabilité hors de l'organisation. Si un événement significatif survient, ses dirigeants doivent s'expliquer auprès des clients, des salariés, du conseil d'administration, des auditeurs et des régulateurs.
Pour Microsoft, un agent ne doit pas être l'unique témoin de son propre comportement, et l'entreprise doit garder la maîtrise des actions qu'il peut entreprendre. Le groupe estime que des éléments probants sur la finalité, le responsable, les données et les pouvoirs délégués de chaque processus aident à appliquer les règles internes avant qu'une action significative ait lieu.
Microsoft veut rendre les actions vérifiables
Les entreprises relient déjà les modèles à leurs données, outils, identifiants et infrastructures, donnant aux agents la possibilité d'agir sans solliciter une validation humaine à chaque étape. Les dispositifs de contrôle suivent une grande part de cette activité, mais pas les opérations internes des modèles. Les organisations ne peuvent souvent pas reconstituer le cheminement entre la requête et la réponse, ce qui complique une vérification indépendante. L'absence de visibilité sur l'intérieur des modèles limite aussi la compréhension du contexte des actions des agents.
L’IA qui transforme le business ?
Stratégies, mouvements et levées IA décryptés, chaque soir en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Hayete Gallot, vice-présidente exécutive de Microsoft Security, juge qu'une meilleure visibilité sur le modèle lui-même est nécessaire à l'efficacité des contrôles. Microsoft souhaite que chaque organisation puisse retrouver les autorisations accordées, le modèle utilisé, l'environnement d'exécution, les données et outils consultés ainsi que les actions réalisées. Cette vérification devrait pouvoir s'effectuer indépendamment, au moyen des systèmes de sécurité et de conformité propres à l'entreprise.
Microsoft prévoit des normes ouvertes communes
Accenture, Adobe, KPMG, Mastercard et Volvo Cars figurent parmi les participants. Le programme comporte trois volets, dont une participation élargie de Microsoft à la SI Agent Standards Initiative pour élaborer des normes sectorielles ouvertes. La coopération avec les organisations partenaires doit aussi produire des normes pour des systèmes responsables, contrôlables indépendamment et sécurisés dès la conception.
Microsoft promet une meilleure visibilité sur les interactions entre les modèles et agents d'IA et les données des entreprises dans ses produits et services. Le groupe prévoit d'incorporer les travaux dans Microsoft AI, Microsoft Foundry et Microsoft Copilot ; les clients devraient pouvoir exploiter les éléments de preuve obtenus avec leurs outils de sécurité et de conformité.
Le dispositif est également pensé pour plusieurs modèles et fournisseurs. L'objectif annoncé est de laisser les développeurs remplacer ou actualiser les modèles sans compromettre la capacité des équipes informatiques et de sécurité à les gouverner. Les organisations intéressées peuvent accéder à des renseignements complémentaires et suivre l'avancement du programme.





