Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Gartner met en garde contre l'utilisation de l'IA le vendredi après-midi
Lors d'une conférence tenue à Sydney, Dennis Xu, représentant de Gartner, a mis en lumière les dangers potentiels liés à l'utilisation de l'IA Copilot, particulièrement le vendredi après-midi. Il a suggéré d'interdire l'accès à cet outil à ce moment précis de la semaine pour éviter que les productions d'IA ne soient validées sans la vigilance nécessaire. Selon Xu, cette période est propice à des erreurs de jugement, car les employés, impatients de terminer leur semaine, peuvent négliger des vérifications cruciales.
Xu a souligné que l'accroissement des usages et des utilisateurs d'IA entraîne une exposition accrue aux risques, notamment en ce qui concerne la sécurité des documents confidentiels et l'augmentation de la surface d'attaque. Cette situation est exacerbée par la rapidité avec laquelle des menaces peuvent être déclenchées, souvent sans intention malveillante de la part des utilisateurs.
Une recommandation ironique mais pertinente
Cette proposition a été formulée dans le cadre d'une discussion sur les risques associés à l'intégration de Copilot dans Microsoft 365. Xu a insisté sur l'importance de la validation systématique des productions générées par l'IA. Il a noté que le vendredi après-midi, les employés sont souvent moins attentifs, ce qui accroît le risque de laisser passer des erreurs ou des failles de sécurité.
Des risques bien identifiés
Dennis Xu a détaillé plusieurs risques structurels liés à l'utilisation de l'IA dans les entreprises. Parmi ceux-ci, l'exposition de documents confidentiels est particulièrement préoccupante. Par exemple, Copilot peut indexer et restituer des fichiers stockés sur SharePoint, même si les droits d'accès ne sont pas correctement configurés.
Un autre risque majeur est l'injection de prompts, qui peut conduire à un accès involontaire à des données sensibles via des applications tierces connectées à l'outil. Bien que ces menaces ne soient pas nouvelles, l'IA en amplifie l'impact en rendant leur déclenchement plus facile et plus rapide.
L'humain, maillon faible de la sécurité
Xu a également souligné que le partage involontaire de documents, l'exécution de code à distance et l'escalade de privilèges par le biais de tiers sont des problèmes de sécurité connus depuis longtemps. Cependant, l'IA change la donne en permettant à un employé de provoquer, sans intention malveillante, des incidents de sécurité à une vitesse inédite.
La suggestion de restreindre l'accès à l'IA le vendredi après-midi met en évidence le fait que le véritable maillon faible pourrait être l'humain, particulièrement lorsqu'il est fatigué et qu'il fait confiance à l'outil sans effectuer les vérifications nécessaires. Bien que des mesures telles que la formation des utilisateurs, la restriction des accès et l'activation de filtres soient bien connues, leur mise en œuvre avant un déploiement à grande échelle de l'IA reste un défi majeur pour les entreprises.