Harriet Farlow, PDG du cabinet de conseil Mileva Security Labs, appelle les responsables de la sécurité des systèmes d'information à définir le risque qu'ils acceptent pour leurs usages d'IA. Elle défend des garde-fous adaptés plutôt qu'une recherche de règles infaillibles.
Les responsables doivent pouvoir arrêter les projets
Des agents sont adoptés sans examen préalable des ressources qui leur seront accessibles, affirme Harriet Farlow, qui dit rencontrer fréquemment cette situation. Elle constate aussi que certaines organisations se lancent dans l'IA avant d'en examiner la sécurité. Une précipitation qu'elle relève alors même que la plupart des professionnels concernés ont déjà traversé des évolutions technologiques défavorables à la sécurité.
Pour elle, le choix entre un Chief AI Officer seul décisionnaire et des responsabilités réparties n'a pas de réponse universelle. L'essentiel tient à la visibilité des responsables sur chaque point de contact du système et à leur capacité à interrompre un projet risqué. La gouvernance doit, à ses yeux, encadrer une progression à une vitesse appropriée, non empêcher toute avancée.
Elle préconise également des échanges ouverts avec les équipes informatiques, les spécialistes de la sécurité, les développeurs d'IA et les fournisseurs participant aux déploiements. Les outils provenant de prestataires doivent faire l'objet d'une évaluation de leurs risques, souligne-t-elle, car les organisations disposent de moins de contrôle sur eux.
Des restrictions excessives peuvent favoriser les contournements
Une politique trop contraignante peut pousser des salariés à utiliser, pour leur travail, un compte personnel auprès de ChatGPT ou de Claude, avertit Harriet Farlow. Ces usages non autorisés constituent selon elle une menace interne supplémentaire pour les systèmes des entreprises.
L’IA qui transforme le business ?
Stratégies, mouvements et levées IA décryptés, chaque soir en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
À l'inverse, un respect intégral des consignes ne suffirait pas à rendre la protection infaillible : elle en attribue la limite au fonctionnement probabiliste des systèmes. Elle recommande donc de déterminer précisément le seuil du petit risque résiduel à accepter. Cette démarche doit s'accompagner de protections internes, sans limiter l'attention aux attaques venues de l'extérieur.
Son propos n'est pas de recommander l'abandon de l'IA. Elle invite plutôt les organisations à établir les conditions dans lesquelles elles peuvent l'employer de manière sûre.
Les modèles imposent des vérifications spécifiques
Harriet Farlow distingue plusieurs caractéristiques techniques de l'IA. Une entrée identique peut produire des réponses différentes, contrairement à la logique fixe des systèmes déterministes utilisés pour les paiements ou les contrôles de conformité, explique-t-elle. La dépendance aux données exige aussi, selon elle, de vérifier leur exhaustivité pour l'entraînement, leurs biais possibles et l'éventuelle présence de portes dérobées.
Elle avertit par ailleurs que les capacités grandissantes des modèles, notamment des agents, peuvent leur faire adopter des comportements humains et constituer involontairement une menace interne lorsque la supervision manque. Ces particularités justifient à ses yeux une approche distincte de celle appliquée aux systèmes déterministes.
Ancienne de la communauté australienne du renseignement, Harriet Farlow déplore que les discussions consacrées à la cybersécurité privilégient l'apport de l'IA à la défense, au détriment de la protection de l'IA elle-même. Les organisations australiennes dépendent pourtant de modèles conçus hors du pays. Elle a écrit Practical AI Security pour répondre à ce manque d'attention.
Disponible chez No Starch Press, l'ouvrage présente les fondements techniques de la sécurisation de ces systèmes. Il couvre les principes de l'apprentissage automatique, les cadres de gouvernance et les campagnes de red-teaming.






