Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
L'AI Act et ses exigences pour l'IA
L'AI Act, une législation européenne prévue pour entrer en vigueur entre 2026 et 2027, impose des exigences de transparence et d'explicabilité aux systèmes d'intelligence artificielle jugés à haut risque. Cette réglementation vise à garantir que les algorithmes, notamment ceux utilisés dans des secteurs sensibles comme la santé ou la justice, ne fonctionnent pas comme des "boîtes noires". Les entreprises qui ne se conformeront pas à ces règles pourraient faire face à des sanctions sévères, pouvant atteindre 35 millions d'euros ou 7 % de leur chiffre d'affaires annuel mondial.
Actuellement, de nombreux algorithmes performants, en particulier ceux basés sur l'apprentissage profond et les réseaux de neurones, produisent des résultats efficaces mais demeurent incompréhensibles dans leur logique interne. Cette opacité pose des problèmes majeurs, notamment lorsque des décisions critiques doivent être expliquées, comme dans le cas d'un diagnostic médical ou d'une décision judiciaire.
La prétopologie : une approche pour l'explicabilité
Pour répondre à ces défis, la prétopologie propose une méthode innovante qui permet de créer des "voisinages" lisibles autour de chaque donnée. Cette approche utilise des règles en forme normale disjonctive pour traiter des données mixtes de manière explicable. PretopoMD, une implémentation open source de cette méthode, est actuellement proposée pour des études pilotes dans des domaines tels que la santé, les ressources humaines et la maintenance.
Par exemple, dans le domaine médical, un algorithme de détection précoce du cancer pourrait analyser divers facteurs comme le taux d'hémoglobine, les antécédents familiaux, le statut de fumeur et le niveau d'activité physique d'un patient. Cependant, si un médecin demande des explications sur le classement de risque d'un patient, le système actuel peut échouer à fournir une réponse claire, illustrant ainsi le problème de l'effet "boîte noire".
Les limites des méthodes actuelles
Les méthodes actuelles de regroupement, telles que le clustering hiérarchique, sont souvent utilisées pour organiser des observations similaires en une hiérarchie de groupes emboîtés. Cela permet aux experts d'identifier des profils types sans avoir à ouvrir la boîte noire d'un modèle prédictif. Cependant, ces méthodes rencontrent des difficultés lorsqu'il s'agit de mélanger des données numériques et catégorielles.
Par exemple, mesurer la distance entre deux chiffres est relativement simple, mais évaluer la proximité entre deux catégories, comme "fumeur" ou "non-fumeur", est plus complexe. Les solutions existantes, telles que k-means, HDBSCAN et DIANA, présentent toutes des limites. Transformer les catégories en chiffres artificiels peut introduire des biais dans les calculs de similarité, rendant les résultats moins fiables.
PretopoMD : une solution prometteuse
Pour surmonter ces défis, PretopoMD propose de définir des "voisinages" à l'aide de formes normales disjonctives. Par exemple, un patient peut être inclus dans le voisinage d'un groupe si certaines conditions sont remplies, sans nécessiter de mesures de distance artificielles. Une fois les voisinages définis, le calcul itératif permet de déterminer pour chaque groupe l'ensemble des patients qui lui "adhèrent". Ce processus aboutit à une hiérarchie de regroupements successifs, sans imposer de distance artificielle entre catégories et chiffres.
Cette approche pourrait révolutionner la manière dont les systèmes d'IA traitent et expliquent les données, en particulier dans des domaines critiques comme la santé et les ressources humaines. PretopoMD offre ainsi une solution potentielle pour rendre les algorithmes plus transparents et conformes aux exigences réglementaires à venir.
