Microsoft, Google et IBM : la bataille des guides pour une IA éthique

Le guide pour concevoir des expériences d'IA

Trois des plus grandes entreprises technologiques au monde, à savoir Microsoft, Google et IBM, ont récemment publié des lignes directrices destinées à encadrer l'interaction entre l'humain et l'intelligence artificielle de manière responsable. Ces initiatives visent à établir des normes pour une conception éthique et efficace des systèmes d'IA. Cependant, chaque entreprise a sa propre interprétation de ce que signifie un design responsable de l'IA, ce qui se reflète dans la diversité des cadres proposés.

Lorsqu'on interroge dix personnes travaillant dans le secteur sur ce qu'implique un design responsable de l'IA, on obtient généralement dix réponses différentes. Les termes tels que cadres éthiques, principes d'IA de confiance et listes de contrôle pour une innovation responsable sont fréquemment mentionnés. Toutefois, la question fondamentale reste : qu'est-ce qui rend une expérience IA réussie lorsque quelqu'un interagit réellement avec un produit alimenté par l'IA ? Et qui a réussi à formaliser cela de manière utile ?

Il s'avère que certaines organisations ont effectivement pris cette initiative. Au cours des dernières années, Microsoft, Google et IBM ont investi dans le développement de cadres publics pour la conception de l'interaction humain-IA (HAI). Ces cadres ne se limitent pas à des conseils éthiques généraux, mais offrent des ressources concrètes basées sur des modèles, destinées aux équipes qui créent des produits réels. Bien que leurs approches diffèrent, et qu'aucune ne couvre tous les aspects, elles forment ensemble un ensemble de ressources précieuses.

Microsoft : 18 lignes directrices et une bibliothèque pour les accompagner

Microsoft a contribué à cet effort avec son HAX Toolkit, qui repose sur 18 lignes directrices pour l'interaction humain-IA. Ce cadre a été présenté pour la première fois dans un document de 2019 par Saleema Amershi et ses collègues de Microsoft Research. Depuis, il est devenu une référence incontournable dans le domaine de la conception IA.

La HAX Design Library est l'endroit où ces principes prennent vie. Chaque ligne directrice est associée à des modèles de conception et à des exemples concrets, permettant aux designers de les appliquer directement dans leurs projets. La bibliothèque est également filtrable par catégorie de produit, type d'IA et objectif de conception, ce qui facilite la recherche de ressources pertinentes. Les options incluent la transparence, la personnalisation, la fiabilité, l'équité et la dépendance appropriée, permettant de trouver rapidement ce qui est le plus pertinent pour un contexte spécifique.

Les lignes directrices couvrent l'ensemble du cycle de vie d'une interaction IA, depuis la définition des attentes initiales jusqu'à la gestion des erreurs et l'adaptation continue du système. Un aspect crucial est la notion de dépendance appropriée, qui vise à calibrer la confiance des utilisateurs en fonction des capacités réelles du système. Cela est particulièrement important pour éviter les dangers potentiels liés à une confiance excessive dans des systèmes IA, comme dans le cas d'un outil de triage médical.

Google : commencer par les bonnes questions

Le People + AI Guidebook de Google, produit par leur équipe PAIR (People + AI Research), adopte une approche différente. Plutôt que des lignes directrices numérotées, il est structuré autour de six chapitres thématiques :

• Besoins des utilisateurs + Définir le succès
• Modèles mentaux
• Retour d'information + Contrôle
• Explicabilité + Confiance
• Collecte de données + Évaluation
• Erreurs + Échec gracieux

Chaque chapitre est accompagné de feuilles de travail destinées à transformer les conseils en quelque chose d'actionnable dans un cadre d'équipe. La deuxième édition, publiée en 2021, a ajouté un ensemble de modèles de conception autonomes organisés autour des questions que les équipes ont tendance à poser dans la pratique : Comment devrais-je utiliser l'IA dans mon produit ? Comment intégrer les utilisateurs aux nouvelles fonctionnalités d'IA ? Comment expliquer mon système d'IA aux utilisateurs ?

Ce passage des chapitres aux questions reflète une compréhension plus honnête de la façon dont les professionnels travaillent réellement. Cela rend la ressource plus facile à consulter à un moment précis plutôt que de la lire de bout en bout.

Un modèle se distingue pour quiconque pense aux chatbots ou aux interfaces conversationnelles : expliquer pour comprendre, pas pour être complet. Le principe est que lors de la présentation du raisonnement de l'IA aux utilisateurs, vous devez vous concentrer sur ce dont ils ont besoin pour avancer, et non sur l'exposition de tout ce qui se passe en coulisses. Les gens ne veulent pas être submergés par des justifications techniques en cours de tâche ; ils veulent suffisamment d'informations pour se sentir informés et en contrôle. Cela semble évident dit comme ça. C'est plus difficile à exécuter correctement.

Le trafic vers le Guidebook a augmenté de 560 % entre février et août 2023, alors que les produits d'IA générative inondaient le marché et que les équipes avaient soudainement besoin de quelque chose de plus concret que de la philosophie. L'équipe PAIR a depuis commencé à mettre à jour la ressource spécifiquement pour l'IA générative, un projet qui implique encore plus de questions que de réponses.

IBM : l'éthique comme infrastructure, et un défi pour le domaine

IBM aborde ce territoire sous deux angles. Leur pratique de conception est ancrée dans un ensemble de principes éthiques de conception de l'IA, destinés à servir de fondement commun à tous les produits IBM. Ceux-ci traitent des domaines tels que la responsabilité, l'explicabilité, l'alignement des valeurs, l'équité et les droits des données des utilisateurs.

Le AI Essentials Framework, qui l'accompagne, est un outil destiné aux équipes construit autour de cinq piliers : intention, données, compréhension, raisonnement et connaissance.

Leur contribution plus provocante est venue lors de CHI 2024, où une équipe de IBM Research a présenté six principes de conception pour les applications d'IA générative. Le document a fait un point spécifique et bien argumenté. La plupart des cadres HAI existants, y compris ceux de Microsoft et de Google, ont été initialement conçus pour une IA qui prend des décisions. Pensez à la classification, au classement, à la prédiction. L'IA générative fonctionne différemment. Au lieu d'atteindre une conclusion, elle produit quelque chose : un brouillon, une image, un bloc de code. Le défi de conception passe d'aider les utilisateurs à évaluer un résultat à les aider à en façonner un.

Les six principes se divisent en deux groupes. Trois revisitent des préoccupations qui seront familières à la plupart des designers, mais les reformulent spécifiquement pour des contextes génératifs.

• Le premier demande aux équipes de concevoir de manière responsable, reconnaissant que les résultats génératifs comportent de nouveaux risques liés à la désinformation et aux biais.
• Le second se concentre sur la conception pour les modèles mentaux, aidant les utilisateurs à construire une compréhension précise de ce que le système peut et ne peut pas faire.
• Le troisième revient à l'idée de confiance et de dépendance appropriées, qui prend une complexité supplémentaire lorsqu'un système peut produire des réponses qui semblent confiantes mais qui ne sont tout simplement pas vraies.

Les trois autres abordent des caractéristiques qui sont véritablement nouvelles pour ces systèmes :

• Conception pour la Variabilité Générative reconnaît que le même prompt peut produire des résultats significativement différents à chaque fois, ce qui va à l'encontre de la cohérence et de la prévisibilité que le design UX traditionnel a longtemps privilégiées.

• Conception pour la Co-Création se concentre sur le fait de donner aux utilisateurs les contrôles dont ils ont besoin pour façonner et orienter activement le processus génératif, plutôt que de simplement recevoir ce que le modèle décide de produire.

• Conception pour l'Imperfection demande aux designers d'être transparents sur les résultats qui peuvent être plausibles mais inexacts, incomplets ou biaisés, et d'intégrer des mécanismes permettant aux gens d'identifier et de corriger ces défauts.

Ensemble, les principes ressemblent moins à une liste de contrôle et plus à un changement dans la façon dont les designers sont invités à penser à l'aspect humain de ces systèmes. Ils sont encore relativement nouveaux et pas encore aussi éprouvés sur le terrain que les ressources de Microsoft ou de Google, mais en tant que provocation, ils sont bien argumentés et opportuns.

Ce qu'ils partagent, et où se situent les lacunes

Les trois cadres convergent sur un ensemble de préoccupations :

• Transparence sur les capacités et les limitations du système
• Soutien au contrôle et à la correction par l'utilisateur
• Boucles de rétroaction permettant à la fois à l'utilisateur et au système de s'améliorer
• Une version de l'échec gracieux lorsque les choses ne se passent pas comme prévu

Ce sont, en un sens, les éléments non négociables du design HAI, les choses qui continuent d'apparaître peu importe le cadre que vous lisez.

L'alignement lui-même est significatif. Ils ont été développés indépendamment, par différentes organisations, en utilisant différentes méthodologies. Le fait qu'ils aboutissent à des fondations si similaires suggère que ces fondations sont assez robustes. Cela signifie également que si votre équipe utilise l'une de ces ressources comme point de départ, vous êtes peu susceptible de vous égarer.