Aujourd’hui est le pire jour pour utiliser votre IA au travail

Aujourd’hui est le pire jour pour utiliser votre IA au travail

Lors d'une conférence à Sydney, Dennis Xu de Gartner a suggéré d'interdire l'accès à l'IA Copilot le vendredi après-midi pour éviter la validation négligente des productions d'IA. Il a souligné des risques structurels tels que l'exposition de documents confidentiels et une large surface d'attaque due à la croissance des usages et des utilisateurs d'IA.

Le problème central est que l'humain, plus que l'IA elle-même, représente le maillon faible dans la sécurité, en raison de la facilité et de la rapidité à déclencher des menaces sans intention malveillante.

Une recommandation ironique mais pertinente

Cette suggestion a été faite dans le cadre d'une conférence consacrée aux risques liés à l'intégration de Copilot à Microsoft 365. Xu a noté que la validation systématique des productions de l'IA est essentielle, et que le vendredi après-midi, les employés, pressés de terminer leur semaine, sont moins enclins à cette vigilance.

Risques identifiés

Dennis Xu a présenté plusieurs risques structurels liés à l'utilisation de l'IA en entreprise :

• Exposition de documents confidentiels : Copilot peut indexer et restituer des fichiers hébergés sur SharePoint sans que les droits d'accès soient correctement configurés.

• Injection de prompts : Risque d'accès involontaire à des données sensibles via des applications tierces connectées à l'outil.

Ces menaces ne sont pas nouvelles, mais l'IA amplifie leur impact en facilitant leur déclenchement.

L'humain comme maillon faible

Xu a insisté sur le fait que le partage involontaire de documents, l'exécution de code à distance, et l'escalade de privilèges via un tiers sont des problèmes connus depuis des décennies. Ce qui change avec l'IA, c'est la rapidité avec laquelle un employé peut, sans intention malveillante, provoquer des incidents de sécurité.

La suggestion de restreindre l'accès à l'IA le vendredi après-midi souligne que le véritable maillon faible pourrait être l'humain fatigué qui fait confiance à l'outil sans vérifier. Former les utilisateurs, restreindre les accès et activer les filtres sont des mesures connues, mais leur application avant le déploiement à grande échelle de l'IA reste un défi.