Éthique
Sûreté de l'IA
AI Safety
Partager cette définition
Définition
La sûreté de l'IA est le champ qui vise à garantir que les systèmes d'IA se comportent de manière fiable, prévisible et conforme aux intentions humaines, y compris à mesure qu'ils deviennent plus puissants. Elle couvre l'alignement, la robustesse, l'évaluation des risques et la prévention des usages dangereux. C'est une priorité affichée des grands laboratoires.
Exemple concret
Vérifier qu'un modèle refuse de fournir des instructions pour fabriquer une arme relève de la sûreté de l'IA.
Le brief IA que lisent les pros
Vous apprenez le vocabulaire de l’IA ?
Chaque soir, les 7 actus IA du jour expliquées simplement, en 5 min. De quoi voir ces mots à l’œuvre. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Termes liés
Questions fréquentes
Qu'est-ce que Sûreté de l'IA en intelligence artificielle ?
La sûreté de l'IA est le champ qui vise à garantir que les systèmes d'IA se comportent de manière fiable, prévisible et conforme aux intentions humaines, y compris à mesure qu'ils deviennent plus puissants. Elle couvre l'alignement, la robustesse, l'évaluation des risques et la prévention des usages dangereux. C'est une priorité affichée des grands laboratoires.
À quoi sert Sûreté de l'IA ?
Vérifier qu'un modèle refuse de fournir des instructions pour fabriquer une arme relève de la sûreté de l'IA.
Quels sont les concepts liés à Sûreté de l'IA ?
Les concepts liés à Sûreté de l'IA incluent : Alignement IA, Red teaming, Guardrails, AI Act. Retrouvez chaque définition dans le glossaire IA de Brief IA.
Newsletter gratuite
Ne ratez rien de l'actu IA
Recevez chaque soir les 7 meilleures actus IA, décryptées en 5 min. Gratuit.