Pour les responsables de la sécurité des systèmes d’information, l’évaluation d’un fournisseur d’IA doit porter sur le déploiement envisagé, pas seulement sur sa sécurité générale. La démarche préconisée associe des vérifications adaptées à l’exposition, une autorisation assortie de conditions et un suivi après mise en service. Un questionnaire conventionnel ne suffit pas à couvrir ces dimensions.
La direction doit assumer le risque accepté
L’autorisation devrait dépendre de justificatifs suffisants, de contrôles effectivement opérationnels et d’un risque résiduel compatible avec la tolérance de l’entreprise. Elle pourrait aussi être conditionnelle : catégories de données, utilisateurs, connexions, droits des agents ou usages permis seraient alors limités et consignés. L’objet de la décision serait l’acceptabilité d’un déploiement destiné à un objectif commercial précis.
Des éléments essentiels manquants ou des corrections inachevées justifieraient un report, avec un responsable désigné et une échéance avant réexamen. Un refus s’imposerait lorsque le risque ne peut être suffisamment réduit, que le prestataire ne satisfait pas à des obligations incontournables ou que l’exposition restante dépasse le seuil accepté. Pour chaque usage, la décision devrait conserver sa justification, ses conditions, une date de révision et les critères déclenchant une sortie.
L’acceptation du risque résiduel et les exceptions importantes devraient relever des dirigeants ou des délégataires habilités, dans les limites de leur mandat. Les équipes chargées de la sécurité et de la confidentialité auraient la responsabilité des contrôles d’accès ; le juridique et la conformité, celle d’interpréter les obligations. Les achats prendraient en charge les conditions commerciales, tandis que les responsables métiers devraient justifier l’usage et ses protections opérationnelles.
Le recensement doit dépasser les achats officiels
Les logiciels commercialisés sans étiquette IA peuvent néanmoins intégrer de telles fonctions. Le périmètre à examiner devrait donc englober les outils opérationnels, les applications destinées aux clients, les produits de sécurité et les logiciels fournis en ligne. Il devrait également couvrir les assistants génératifs autonomes, les plateformes d’IA à la demande, les modèles externes, les interfaces de programmation, les agents et les outils de développement.
Les prestataires, y compris ceux qui assurent des services managés, seraient concernés lorsqu’ils emploient l’IA pour traiter des données de l’entreprise ou réaliser leur prestation. Le recensement devrait aussi dépasser les acquisitions officielles pour inclure les expérimentations des salariés. Un usage non autorisé peut exposer des données, des identités ou des systèmes internes.
Pour chaque déploiement, la fiche d’examen devrait préciser sa finalité commerciale, ses utilisateurs, son étendue, les catégories de données et les permissions accordées. Elle distinguerait un résultat qui éclaire une action importante d’un système qui l’exécute, tout en identifiant les intégrations, fournisseurs de modèles et autres dépendances significatives. Une mise en pratique proposée consiste à inventorier l’IA chez les fournisseurs déjà présents, puis à choisir un usage à fort impact dont seront documentés le niveau de risque et les conditions d’autorisation. Les enseignements permettraient ensuite d’adapter le processus aux outils nouveaux comme à ceux déjà employés.
Les contrôles doivent suivre l’exposition réelle
Les ressources accessibles, les actions possibles et les conséquences d’une défaillance déterminent le risque d’un déploiement. Un outil résumant des notes ordinaires de réunion appelle ainsi un examen moins poussé qu’un agent consultant la production ou disposant de permissions privilégiées. Un premier filtrage de l’exposition devrait précéder les demandes de justificatifs supplémentaires et fixer un niveau initial de risque.
La classification devrait considérer la sensibilité des informations, les droits d’accès, l’autonomie, les dommages possibles, la criticité pour l’activité, les contraintes réglementaires et la possibilité de revenir en arrière. Un fournisseur pourrait ainsi appartenir à des catégories différentes selon le produit retenu et son emploi. Plutôt qu’un circuit séparé ou une exigence uniforme, la démarche compléterait les achats et la gestion des risques tiers par des critères propres à l’IA, proportionnés aux règles internes et aux capacités du produit. Elle couvrirait le fournisseur, les fonctions déployées, les informations partagées, les décisions influencées et les contrôles ultérieurs.
L’IA qui transforme le business ?
Stratégies, mouvements et levées IA décryptés, chaque soir en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Au niveau 1 proposé, des informations peu sensibles, aucune permission privilégiée et des résultats de faible portée appelleraient des vérifications élémentaires de sécurité, de confidentialité et d’usage des données. Le niveau 2 concernerait notamment les informations commerciales confidentielles, les dépendances importantes ou les résultats exigeant fiabilité et contrôle humain ; l’examen porterait aussi sur la gouvernance du modèle, les traces enregistrées, les garanties contractuelles et les possibilités de récupération. Le niveau 3 viserait les informations sensibles réglementées, les agents privilégiés, les effets importants sur les clients ou les décisions aux conséquences financières, juridiques, sécuritaires ou opérationnelles significatives. Une expertise spécialisée, des atténuations documentées et une acceptation par la direction seraient alors requises.
Les preuves doivent dépasser les assurances commerciales
Les vérifications habituelles couvrent déjà la cybersécurité, les accès, les certifications, la gestion des incidents, la continuité et la protection des informations. Elles devraient être complétées par l’examen de la conservation des requêtes, fichiers téléversés, résultats et données clients, ainsi que de leur éventuelle réutilisation pour entraîner les modèles. La localisation, la suppression, la propriété et les modalités de traitement de ces éléments feraient également partie des points à vérifier. Les seules déclarations du prestataire ne démontrent pas l’adéquation de son IA à chaque usage : les éléments vérifiés devraient être distingués de ses assurances.
L’analyse technique devrait examiner les identités, le cloisonnement entre clients, le chiffrement, les permissions des agents, les outils accessibles et les défenses contre l’injection de requêtes. Les résultats pouvant être faux, manipulés, biaisés ou insuffisamment fiables, les essais devraient explorer les défaillances pertinentes et les limites du système. Ils porteraient aussi sur la validation des réponses, la supervision humaine et les protections contre des actions dangereuses. Pour les usages les plus risqués, un pilote, un examen de configuration ou des essais ciblés devraient éprouver les affirmations critiques sur l’intégration réelle et ses permissions, plutôt que sur une simple démonstration.
La documentation attendue devrait identifier les modèles de fondation, sous-traitants, jeux de données et services externes, mais aussi les versions et limites connues. Les traces d’audit, les modalités de notification d’incidents et les éléments indépendants disponibles seraient à examiner. Les contrats devraient préciser la continuité, les solutions de secours, la coopération lors d’un incident, les droits d’audit, la portabilité et les conditions de sortie ; l’entreprise devrait pouvoir restreindre les accès, enquêter et quitter le service. Les résultats des vérifications, les responsables, les délais de correction et les risques restants seraient consignés.
L’autorisation doit rester révisable après déploiement
Une évolution du modèle peut modifier son comportement, ses performances ou son exposition aux risques de sécurité après son autorisation. Un changement de version, de pratiques concernant les données, de permissions ou de finalité devrait donc entraîner un nouvel examen. Le suivi devrait également recenser les incidents, les contrôles défaillants, les changements de fournisseur et les dépendances émergentes. Un mécanisme praticable de sortie ou de retour en arrière devrait être défini.
Des référentiels existent pour organiser ces vérifications. Le AI RMF du NIST traite de l’identification, de l’évaluation et de la gestion des risques de l’IA ; son profil consacré à l’IA générative ajoute des considérations sur les fournisseurs et le cycle de vie. La publication NIST 800-161 Rev. 1 examine l’extension des pratiques de gestion des risques de la chaîne d’approvisionnement en cybersécurité aux dépendances et à la résilience des prestataires. ISO/IEC 42001 apporte des indications pour évaluer la gouvernance de l’IA au sein des organisations.
Ces référentiels complètent l’examen de l’usage, les contrats et les conseils juridiques ou réglementaires applicables, sans les remplacer. Les plateformes existantes de gouvernance, de risques, de conformité et de gestion des tiers pourraient servir à recueillir les preuves, traiter les autorisations, suivre les corrections et organiser les réévaluations. Des questionnaires et vérifications propres à l’IA pourraient y être ajoutés.






