⚖️ÉthiqueCAI
Constitutional AI
Constitutional AI · CAI
Définition
Constitutional AI est une méthode d'alignement développée par Anthropic ou le modèle s'auto-evalue et se corrige selon un ensemble de principes (une "constitution"). Plutôt que de s'appuyer uniquement sur des annotateurs humains, le modèle apprend à respecter des règles prédéfinies. Cette approche réduit le besoin de feedback humain tout en ameliorant la sécurité.
Exemple concret
💡 Claude d'Anthropic utilise Constitutional AI : le modèle vérifié ses propres réponses contre des principes comme l'honnêteté, l'utilité et l'inoffensivité.
Termes liés
Questions fréquentes
Que veut dire CAI ?
CAI signifie Constitutional AI (en anglais : Constitutional AI). Constitutional AI est une méthode d'alignement développée par Anthropic ou le modèle s'auto-evalue et se corrige selon un ensemble de principes (une "constitution"). Plutôt que de s'appuyer uniquement sur des annotateurs humains, le modèle apprend à …
Qu'est-ce que CAI (Constitutional AI) en intelligence artificielle ?
Constitutional AI est une méthode d'alignement développée par Anthropic ou le modèle s'auto-evalue et se corrige selon un ensemble de principes (une "constitution"). Plutôt que de s'appuyer uniquement sur des annotateurs humains, le modèle apprend à respecter des règles prédéfinies. Cette approche réduit le besoin de feedback humain tout en ameliorant la sécurité.
À quoi sert CAI ?
Claude d'Anthropic utilise Constitutional AI : le modèle vérifié ses propres réponses contre des principes comme l'honnêteté, l'utilité et l'inoffensivité.
Quels sont les concepts liés à CAI ?
Les concepts liés à Constitutional AI incluent : Alignement IA, RLHF, Guardrails, Hallucination. Retrouvez chaque définition dans le glossaire IA de Brief IA.
📬 Newsletter gratuite
Ne rate rien de l'actu IA
Reçois chaque soir les 7 meilleures actus IA, décryptées en 5 min. Gratuit.