Tu veux les meilleurs outils IA avant les autres ?
On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
OpenAI a récemment annoncé le lancement d'une nouvelle fonctionnalité destinée à renforcer la sécurité de ChatGPT face aux attaques par injection de prompt. Ces attaques consistent à dissimuler des instructions malveillantes dans des pages web et autres sources de contenu, compromettant ainsi le fonctionnement des chatbots.
Le Mode Verrouillage, comme l'a nommé OpenAI, désactive plusieurs fonctionnalités pour réduire les risques. Parmi ces mesures, la navigation web en direct est désactivée, limitant l'accès aux seuls contenus mis en cache. De plus, la récupération et l'affichage d'images depuis le web sont également désactivés, bien que la génération d'images reste possible. Les fonctionnalités de recherche approfondie et le mode agent sont également désactivés.
Malgré ces précautions, OpenAI reconnaît que ChatGPT pourrait encore être vulnérable aux injections de prompt, notamment à travers le contenu web mis en cache ou des fichiers téléchargés. Ces éléments pourraient toujours influencer le comportement ou l'exactitude des réponses fournies par le chatbot.
L'objectif principal du Mode Verrouillage est de diminuer la probabilité que des données sensibles soient partagées involontairement. OpenAI précise que cette fonctionnalité n'est pas destinée à tous les utilisateurs. Elle vise spécifiquement les personnes et organisations manipulant des données sensibles, qui nécessitent une protection renforcée contre les risques d'exfiltration de données liés aux injections de prompt.
Actuellement, OpenAI déploie le Mode Verrouillage pour les comptes ChatGPT Business en libre-service, ainsi que pour certains comptes personnels éligibles.
