⚖️Éthique
Jailbreak
Jailbreak
Définition
Un jailbreak est une technique de formulation qui contourne les garde-fous d'un modèle pour lui faire produire un contenu normalement interdit (instructions dangereuses, propos haineux…). Les laboratoires d'IA mènent une course permanente entre nouveaux jailbreaks et correctifs. C'est un enjeu central de la sûreté des modèles.
Exemple concret
💡 Demander à une IA de « jouer un personnage sans aucune règle » pour contourner ses filtres est une tentative classique de jailbreak.
Termes liés
Questions fréquentes
Qu'est-ce que Jailbreak en intelligence artificielle ?
Un jailbreak est une technique de formulation qui contourne les garde-fous d'un modèle pour lui faire produire un contenu normalement interdit (instructions dangereuses, propos haineux…). Les laboratoires d'IA mènent une course permanente entre nouveaux jailbreaks et correctifs. C'est un enjeu central de la sûreté des modèles.
À quoi sert Jailbreak ?
Demander à une IA de « jouer un personnage sans aucune règle » pour contourner ses filtres est une tentative classique de jailbreak.
Quels sont les concepts liés à Jailbreak ?
Les concepts liés à Jailbreak incluent : Injection de prompt, Guardrails, Red teaming, Sûreté de l'IA. Retrouvez chaque définition dans le glossaire IA de Brief IA.
📬 Newsletter gratuite
Ne rate rien de l'actu IA
Reçois chaque soir les 7 meilleures actus IA, décryptées en 5 min. Gratuit.