Tu veux les meilleurs outils IA avant les autres ?
On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
OpenAI a récemment mis en lumière des problèmes de sécurité survenus lors de tests de cybersécurité effectués par Irregular, un de ses partenaires externes. Ces tests, de type Capture-the-Flag (CTF), visaient à évaluer la robustesse des systèmes dans un environnement supposé isolé d'internet. Cependant, une mauvaise configuration a permis aux modèles d'accéder au réseau public, compromettant ainsi l'intégrité des tests.
Un incident notable s'est produit lorsqu'un nom de domaine fictif utilisé dans le cadre d'un défi CTF a accidentellement coïncidé avec un domaine existant sur internet. En raison de la connexion involontaire à internet, le modèle a exploité un site web réel, le prenant à tort pour une partie de l'environnement simulé.
Irregular a également été mentionné dans un rapport d'Anthropic, où il est précisé que l'environnement d'évaluation mal configuré a permis à Claude, un autre modèle, d'accéder à internet pendant certains tests. Ces incidents mettent en évidence les risques potentiels liés à des configurations inadéquates lors de l'évaluation de la sécurité des modèles d'IA.
