Éthique
Jailbreak
Jailbreak
Partager cette définition
Définition
Un jailbreak est une technique de formulation qui contourne les garde-fous d'un modèle pour lui faire produire un contenu normalement interdit (instructions dangereuses, propos haineux…). Les laboratoires d'IA mènent une course permanente entre nouveaux jailbreaks et correctifs. C'est un enjeu central de la sûreté des modèles.
Exemple concret
Demander à une IA de « jouer un personnage sans aucune règle » pour contourner ses filtres est une tentative classique de jailbreak.
Le brief IA que lisent les pros
Vous apprenez le vocabulaire de l’IA ?
Chaque soir, les 7 actus IA du jour expliquées simplement, en 5 min. De quoi voir ces mots à l’œuvre. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Termes liés
Questions fréquentes
Qu'est-ce que Jailbreak en intelligence artificielle ?
Un jailbreak est une technique de formulation qui contourne les garde-fous d'un modèle pour lui faire produire un contenu normalement interdit (instructions dangereuses, propos haineux…). Les laboratoires d'IA mènent une course permanente entre nouveaux jailbreaks et correctifs. C'est un enjeu central de la sûreté des modèles.
À quoi sert Jailbreak ?
Demander à une IA de « jouer un personnage sans aucune règle » pour contourner ses filtres est une tentative classique de jailbreak.
Quels sont les concepts liés à Jailbreak ?
Les concepts liés à Jailbreak incluent : Injection de prompt, Guardrails, Red teaming, Sûreté de l'IA. Retrouvez chaque définition dans le glossaire IA de Brief IA.
Newsletter gratuite
Ne ratez rien de l'actu IA
Recevez chaque soir les 7 meilleures actus IA, décryptées en 5 min. Gratuit.