Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
OpenAI renforce la sécurité de ChatGPT avec un mode verrouillage
OpenAI a récemment introduit un mode verrouillage pour ChatGPT, offrant une nouvelle couche de sécurité aux utilisateurs. Cette fonctionnalité vise à protéger les comptes contre une technique d'attaque appelée infiltration de requête, qui permet aux pirates d'injecter des commandes malveillantes dans l'IA pour en modifier le comportement. OpenAI permet déjà de sécuriser les comptes ChatGPT grâce à une application d'authentification, mais cela ne suffit pas toujours à prévenir les fuites de données sensibles.
Comprendre l'infiltration de requête
L'infiltration de requête est une méthode par laquelle des commandes malveillantes sont cachées dans des textes en ligne. Par exemple, un pirate pourrait publier une invite malveillante sur un forum, incitant les modèles de langage de grande capacité (LLM) à rediriger les utilisateurs vers des sites d'hameçonnage. Lorsqu'un utilisateur utilise un LLM pour lire et résumer la discussion sur le forum, le résumé généré pourrait inviter l'utilisateur à visiter la page du pirate sans qu'il ne s'en rende compte.
Fonctionnalités réduites pour une sécurité accrue
Pour contrer ce type d'attaque, le mode verrouillage de ChatGPT limite l'accès de l'IA au web et aux services externes. Cela signifie que l'intelligence artificielle sera moins utile, mais plus sécurisée. Ce mode est disponible pour tous les types de comptes, bien qu'OpenAI précise qu'il n'est pas conçu pour tout le monde. "Il est conçu pour les personnes et les organisations qui traitent des données sensibles et qui souhaitent une protection plus stricte contre les risques d'exfiltration de données liés à l'injection rapide", explique le laboratoire d'IA.
Activer le mode verrouillage sur ChatGPT
Pour activer ce mode, les utilisateurs intéressés doivent se rendre sur la version web de ChatGPT, cliquer sur leur nom en bas de la barre latérale gauche, puis sélectionner "Paramètres". Dans l'onglet "Sécurité", ils peuvent activer le "Mode verrouillage". Ce mode est optionnel, et OpenAI souligne qu'il n'est pas destiné à tous les utilisateurs.
Réponse aux menaces émergentes
Bien que l'infiltration de requête ne soit pas encore considérée comme un risque majeur, OpenAI reconnaît que son impact pourrait croître à mesure que les attaquants développent des méthodes plus sophistiquées. Cette nouvelle fonctionnalité de sécurité illustre les défis croissants liés à l'utilisation des IA sur le web, alors que les utilisateurs recherchent des moyens de protéger leurs données sensibles.
