⚖️ÉthiqueCAI
Constitutional AI
Constitutional AI · CAI
Partager cette définition
Définition
Constitutional AI est une méthode d'alignement développée par Anthropic ou le modèle s'auto-evalue et se corrige selon un ensemble de principes (une "constitution"). Plutôt que de s'appuyer uniquement sur des annotateurs humains, le modèle apprend à respecter des règles prédéfinies. Cette approche réduit le besoin de feedback humain tout en ameliorant la sécurité.
Exemple concret
💡 Claude d'Anthropic utilise Constitutional AI : le modèle vérifié ses propres réponses contre des principes comme l'honnêteté, l'utilité et l'inoffensivité.
⚡Le brief IA que lisent les pros
Tu apprends le vocabulaire de l’IA ?
Chaque soir, les 7 actus IA du jour expliquées simplement, en 5 min. De quoi voir ces mots à l’œuvre. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Termes liés
Questions fréquentes
Que veut dire CAI ?
CAI signifie Constitutional AI (en anglais : Constitutional AI). Constitutional AI est une méthode d'alignement développée par Anthropic ou le modèle s'auto-evalue et se corrige selon un ensemble de principes (une "constitution"). Plutôt que de s'appuyer uniquement sur des annotateurs humains, le modèle apprend à …
Qu'est-ce que CAI (Constitutional AI) en intelligence artificielle ?
Constitutional AI est une méthode d'alignement développée par Anthropic ou le modèle s'auto-evalue et se corrige selon un ensemble de principes (une "constitution"). Plutôt que de s'appuyer uniquement sur des annotateurs humains, le modèle apprend à respecter des règles prédéfinies. Cette approche réduit le besoin de feedback humain tout en ameliorant la sécurité.
À quoi sert CAI ?
Claude d'Anthropic utilise Constitutional AI : le modèle vérifié ses propres réponses contre des principes comme l'honnêteté, l'utilité et l'inoffensivité.
Quels sont les concepts liés à CAI ?
Les concepts liés à Constitutional AI incluent : Alignement IA, RLHF, Guardrails, Hallucination. Retrouvez chaque définition dans le glossaire IA de Brief IA.
📬 Newsletter gratuite
Ne rate rien de l'actu IA
Reçois chaque soir les 7 meilleures actus IA, décryptées en 5 min. Gratuit.