Brief IA : Microsoft réunit plus de 40 organisations pour une IA vérifiable

Microsoft réunit plus de 40 organisations pour une IA vérifiable

Brief IA
Tom Levy·3 min

Microsoft lance une initiative de transparence avec plus de 40 organisations. Le groupe prévoit d'intégrer les travaux dans Microsoft AI, Microsoft Foundry et Microsoft Copilot. Le dispositif est conçu pour différents modèles et fournisseurs.

En bref
1Microsoft lance une initiative de transparence avec plus de 40 organisations.
2Le groupe prévoit d'intégrer les travaux dans Microsoft AI, Microsoft Foundry et Microsoft Copilot.
3Le dispositif est conçu pour différents modèles et fournisseurs.
Pourquoi c'est important : Microsoft veut permettre aux entreprises de vérifier indépendamment l'activité des agents avec leurs propres outils de sécurité et de conformité.

Microsoft lance avec plus de 40 organisations l'Initiative de Transparence de l'IA, destinée à établir une approche commune de la transparence, de la sécurité et de la gouvernance des modèles et agents. Annoncée à Microsoft Ignite par Satya Nadella, PDG de Microsoft, elle repose sur une exigence affichée : davantage d'autonomie doit s'accompagner d'une transparence accrue.

Les entreprises restent responsables des agents

L'accès aux données, aux outils et aux identifiants donne aux agents un profil privilégié. Leur fonctionnement à la vitesse et à l'échelle des machines rend indispensable une supervision indépendante, sans transférer la responsabilité hors de l'organisation. Si un événement significatif survient, ses dirigeants doivent s'expliquer auprès des clients, des salariés, du conseil d'administration, des auditeurs et des régulateurs.

Pour Microsoft, un agent ne doit pas être l'unique témoin de son propre comportement, et l'entreprise doit garder la maîtrise des actions qu'il peut entreprendre. Le groupe estime que des éléments probants sur la finalité, le responsable, les données et les pouvoirs délégués de chaque processus aident à appliquer les règles internes avant qu'une action significative ait lieu.

Microsoft veut rendre les actions vérifiables

Les entreprises relient déjà les modèles à leurs données, outils, identifiants et infrastructures, donnant aux agents la possibilité d'agir sans solliciter une validation humaine à chaque étape. Les dispositifs de contrôle suivent une grande part de cette activité, mais pas les opérations internes des modèles. Les organisations ne peuvent souvent pas reconstituer le cheminement entre la requête et la réponse, ce qui complique une vérification indépendante. L'absence de visibilité sur l'intérieur des modèles limite aussi la compréhension du contexte des actions des agents.

La lettre du soirGratuit · 19 h

L’IA qui transforme le business ?

Stratégies, mouvements et levées IA décryptés, chaque soir en 5 min. Gratuit.

Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.

Choisissez votre rythme

Gratuit · Pas de spam · Désabonnement en 1 clic

Hayete Gallot, vice-présidente exécutive de Microsoft Security, juge qu'une meilleure visibilité sur le modèle lui-même est nécessaire à l'efficacité des contrôles. Microsoft souhaite que chaque organisation puisse retrouver les autorisations accordées, le modèle utilisé, l'environnement d'exécution, les données et outils consultés ainsi que les actions réalisées. Cette vérification devrait pouvoir s'effectuer indépendamment, au moyen des systèmes de sécurité et de conformité propres à l'entreprise.

Microsoft prévoit des normes ouvertes communes

Accenture, Adobe, KPMG, Mastercard et Volvo Cars figurent parmi les participants. Le programme comporte trois volets, dont une participation élargie de Microsoft à la SI Agent Standards Initiative pour élaborer des normes sectorielles ouvertes. La coopération avec les organisations partenaires doit aussi produire des normes pour des systèmes responsables, contrôlables indépendamment et sécurisés dès la conception.

Microsoft promet une meilleure visibilité sur les interactions entre les modèles et agents d'IA et les données des entreprises dans ses produits et services. Le groupe prévoit d'incorporer les travaux dans Microsoft AI, Microsoft Foundry et Microsoft Copilot ; les clients devraient pouvoir exploiter les éléments de preuve obtenus avec leurs outils de sécurité et de conformité.

Le dispositif est également pensé pour plusieurs modèles et fournisseurs. L'objectif annoncé est de laisser les développeurs remplacer ou actualiser les modèles sans compromettre la capacité des équipes informatiques et de sécurité à les gouverner. Les organisations intéressées peuvent accéder à des renseignements complémentaires et suivre l'avancement du programme.

Suivez Brief IA

L'actu IA du jour, aussi dans votre fil.

Commentaires