Tu veux les meilleurs outils IA avant les autres ?
On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
OpenAI a récemment activé une nouvelle fonctionnalité de sécurité pour ses utilisateurs de ChatGPT, appelée le Mode Verrouillage. Cette fonctionnalité, initialement mentionnée en février, est désormais disponible pour tous les comptes personnels éligibles, y compris les versions Gratuits, Go, Plus, Pro, ainsi que pour les comptes ChatGPT Business en libre-service.
Le Mode Verrouillage a été conçu pour contrer la dernière étape des attaques par injection de prompt, en limitant les requêtes réseau sortantes qui pourraient potentiellement transférer des données sensibles à un attaquant. Bien que cette mesure ne puisse pas empêcher l'apparition d'injections de prompt dans le contenu traité par ChatGPT, elle vise à empêcher l'exploitation de ces injections pour voler des données.
L'un des principaux défis auxquels sont confrontés les systèmes de modèles de langage (LLM) est le "Trio Mortel". Ce trio se manifeste lorsque le système a accès à des données privées, est exposé à du contenu non fiable, et dispose d'un moyen de transmettre ces données à un attaquant. Pour résoudre ce problème, il est crucial de couper l'un de ces trois éléments. Le Mode Verrouillage s'attaque spécifiquement à l'élément d'exfiltration de données, en utilisant des mécanismes déterministes qui ne dépendent pas des systèmes d'IA, lesquels peuvent être vulnérables à des attaques sophistiquées.
Cependant, l'introduction du Mode Verrouillage souligne également que, dans ses paramètres par défaut, ChatGPT ne fournit pas une protection complète contre les attaques d'exfiltration de données déterminées. Cette nouvelle fonctionnalité représente donc une étape importante pour renforcer la sécurité des utilisateurs face à des cyberattaques de plus en plus sophistiquées.
