Glossaire de l'intelligence artificielle

AI Act (EU Regulation)

L'AI Act est le règlement européen sur l'intelligence artificielle, adopté en 2024, qui établit un cadre juridique pour le développement et l'utilisation de l'IA dans l'Union européenne. Il classe les systèmes d'IA par niveau de risque (minimal, limité, élevé, inacceptable) et impose des obligations proportionnelles. C'est la première législation majeure au monde sur l'IA.

AI Alignment

L'alignement IA est le domaine de recherche qui vise à s'assurer que les systèmes d'IA agissent conformement aux intentions et aux valeurs humaines. Cela inclut eviter les comportements dangereux, réduire les hallucinations et empêcher les manipulations. L'alignement est considéré comme l'un des défis les plus importants de la sécurité de l'IA.

Algorithmic Bias

Le biais algorithmique désigne les distorsions systématiques dans les décisions ou prédictions d'un système d'IA, souvent dues à des biais présents dans les données d'entraînement. Ces biais peuvent entraîner des discriminations basées sur le genre, l'ethnie, l'âge ou la localisation. Identifier et corriger les biais est un enjeu éthique majeur de l'IA.

Constitutional AI (CAI)

Constitutional AI est une méthode d'alignement développée par Anthropic ou le modèle s'auto-evalue et se corrige selon un ensemble de principes (une "constitution"). Plutôt que de s'appuyer uniquement sur des annotateurs humains, le modèle apprend à respecter des règles prédéfinies. Cette approche réduit le besoin de feedback humain tout en ameliorant la sécurité.

AI Ethics

L'éthique de l'IA est le champ d'etude qui examine les implications morales et sociales du développément et de l'utilisation de l'intelligence artificielle. Elle couvre les questions de biais, de vie privee, de transparence, de responsabilité et d'impact sur l'emploi. L'éthique de l'IA influence de plus en plus la reglementation et les pratiques de l'industrie.

Guardrails

Les guardrails sont des mécanismes de sécurité intégrés aux systèmes d'IA pour empêcher les sorties indésirables, dangereuses ou hors-sujet. Ils peuvent être basés sur des règles, des filtres de contenu ou des modèles de classification. Les guardrails sont essentiels pour déployer l'IA en production de manière responsable.

Prompt Injection

L'injection de prompt est une attaque où un texte malveillant, caché dans une page web ou un document, détourne les instructions d'un LLM pour lui faire exécuter des actions non prévues. C'est l'une des principales failles de sécurité des agents IA qui lisent du contenu externe. La défense passe par des garde-fous et un cloisonnement strict des instructions.

Jailbreak

Un jailbreak est une technique de formulation qui contourne les garde-fous d'un modèle pour lui faire produire un contenu normalement interdit (instructions dangereuses, propos haineux…). Les laboratoires d'IA mènent une course permanente entre nouveaux jailbreaks et correctifs. C'est un enjeu central de la sûreté des modèles.

Red Teaming

Le red teaming consiste à attaquer délibérément un modèle d'IA pour découvrir ses failles avant qu'elles ne soient exploitées : biais, jailbreaks, fuites de données, comportements dangereux. Des équipes dédiées (humaines ou automatisées) tentent de « casser » le modèle. C'est une étape clé avant le lancement d'un modèle grand public.

AI Safety

La sûreté de l'IA est le champ qui vise à garantir que les systèmes d'IA se comportent de manière fiable, prévisible et conforme aux intentions humaines, y compris à mesure qu'ils deviennent plus puissants. Elle couvre l'alignement, la robustesse, l'évaluation des risques et la prévention des usages dangereux. C'est une priorité affichée des grands laboratoires.