⚖️Éthique
Sûreté de l'IA
AI Safety
Définition
La sûreté de l'IA est le champ qui vise à garantir que les systèmes d'IA se comportent de manière fiable, prévisible et conforme aux intentions humaines, y compris à mesure qu'ils deviennent plus puissants. Elle couvre l'alignement, la robustesse, l'évaluation des risques et la prévention des usages dangereux. C'est une priorité affichée des grands laboratoires.
Exemple concret
💡 Vérifier qu'un modèle refuse de fournir des instructions pour fabriquer une arme relève de la sûreté de l'IA.
Termes liés
Questions fréquentes
Qu'est-ce que Sûreté de l'IA en intelligence artificielle ?
La sûreté de l'IA est le champ qui vise à garantir que les systèmes d'IA se comportent de manière fiable, prévisible et conforme aux intentions humaines, y compris à mesure qu'ils deviennent plus puissants. Elle couvre l'alignement, la robustesse, l'évaluation des risques et la prévention des usages dangereux. C'est une priorité affichée des grands laboratoires.
À quoi sert Sûreté de l'IA ?
Vérifier qu'un modèle refuse de fournir des instructions pour fabriquer une arme relève de la sûreté de l'IA.
Quels sont les concepts liés à Sûreté de l'IA ?
Les concepts liés à Sûreté de l'IA incluent : Alignement IA, Red teaming, Guardrails, AI Act. Retrouvez chaque définition dans le glossaire IA de Brief IA.
📬 Newsletter gratuite
Ne rate rien de l'actu IA
Reçois chaque soir les 7 meilleures actus IA, décryptées en 5 min. Gratuit.