Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Les défis de la gestion des crises IA
L'intelligence artificielle, bien qu'elle offre des opportunités considérables, présente également des risques de dysfonctionnement ou de compromission. Une étude récente menée par ISACA met en lumière un problème préoccupant : la majorité des organisations ne sont pas préparées à gérer efficacement une crise liée à un système d'IA. Les résultats montrent que beaucoup d'entre elles ne savent pas combien de temps il leur faudrait pour arrêter une urgence IA, ni comment identifier la cause d'un tel problème.
Selon le rapport, 59 % des professionnels de la confiance numérique ne savent pas combien de temps leur organisation mettrait pour interrompre un système d'IA en cas d'incident de sécurité. Seuls 21 % des répondants ont affirmé qu'ils pourraient intervenir de manière significative en moins de 30 minutes. Cela signifie que de nombreux systèmes d'IA compromis pourraient continuer à fonctionner sans contrôle, augmentant ainsi le risque de dommages irréversibles.
Ali Sarrafi, PDG de Kovant, une plateforme d'entreprise autonome, souligne que ces résultats révèlent un problème structurel majeur dans la manière dont les organisations déploient l'IA. Il explique que les systèmes sont souvent intégrés dans des processus critiques sans la gouvernance nécessaire pour superviser et auditer leurs actions. Si une entreprise ne peut pas rapidement arrêter un système d'IA, expliquer son comportement ou même identifier les responsables, elle n'a pas le contrôle de ce système.
Les échecs et les risques associés à l'IA
Seulement 42 % des professionnels interrogés ont exprimé une certaine confiance dans la capacité de leur organisation à analyser et clarifier des incidents graves liés à l'IA. Cette incapacité à comprendre et à expliquer ces incidents peut entraîner des échecs opérationnels et des risques de sécurité. De plus, sans communication claire avec les régulateurs et la direction, les entreprises risquent des sanctions légales et une réaction publique négative.
Une analyse approfondie est essentielle pour tirer des leçons des erreurs passées. Sans une compréhension claire des incidents, la probabilité de répétition augmente. Gérer l'IA de manière responsable nécessite une gouvernance efficace, mais les résultats d'ISACA montrent que cela fait souvent défaut.
La question de la responsabilité reste floue. Environ 20 % des répondants ne savent pas qui serait responsable si un système d'IA causait des dommages. Seuls 38 % ont identifié le Conseil d'administration ou un dirigeant comme étant finalement responsable.
Sarrafi insiste sur le fait que ralentir l'adoption de l'IA n'est pas la solution. Il est crucial de repenser la gestion de l'IA. Les systèmes d'IA doivent être intégrés dans une structure de gestion qui les traite comme des employés numériques, avec une propriété claire, des voies d'escalade définies et la capacité d'être mis en pause ou contournés instantanément lorsque des seuils de risque sont atteints. Ainsi, les systèmes cessent d'être des entités mystérieuses et deviennent des outils inspectables et fiables. À mesure que l'IA s'intègre plus profondément dans les fonctions commerciales essentielles, la gouvernance doit être intégrée dès le début, avec visibilité et contrôle à tous les niveaux. Les organisations qui réussissent cela ne réduiront pas seulement le risque, elles pourront déployer l'IA en toute confiance.
La supervision humaine et ses limites
Il existe cependant un certain réconfort : 40 % des répondants affirment que les actions de l'IA sont presque toujours approuvées par des humains avant leur déploiement, et 26 % évaluent les résultats de l'IA. Toutefois, sans une infrastructure de gouvernance améliorée, cette supervision humaine risque de ne pas suffire pour identifier et résoudre les problèmes avant qu'ils ne s'aggravent.
Les résultats d'ISACA mettent en lumière un problème structurel majeur dans la manière dont l'IA est déployée dans divers secteurs. Plus d'un tiers des organisations ne demandent pas à leurs employés de divulguer où et quand l'IA est utilisée dans les produits de travail, ce qui augmente le potentiel de zones d'ombre.
Malgré des réglementations plus strictes qui rendent la direction senior plus responsable, les organisations échouent à mettre en œuvre et à utiliser l'IA de manière sûre et efficace. Beaucoup considèrent le risque lié à l'IA comme un problème technique, plutôt que comme un enjeu nécessitant une gestion à l'échelle de l'organisation.
Un changement dans la manière dont l'intégration et les actions de l'IA sont gérées est essentiel. Sans une gouvernance et une responsabilité appropriées, les entreprises ne contrôlent pas leurs systèmes d'IA. Sans contrôle, même les plus petites erreurs pourraient causer des dommages réputationnels et financiers dont de nombreuses entreprises pourraient ne pas se remettre.
