Brief IA : Analytique IA : des experts réclament des réponses vérifiables

Analytique IA : des experts réclament des réponses vérifiables

Brief IA
Tom Levy·3 min

Teresa Tung recommande de pouvoir retracer les sources et les transformations des données. Megha Kumar préconise de relier les actions automatisées aux réponses qui les déclenchent. Sonal Ramrakhiani demande de préserver les restrictions d’accès existantes.

En bref
1Teresa Tung recommande de pouvoir retracer les sources et les transformations des données.
2Megha Kumar préconise de relier les actions automatisées aux réponses qui les déclenchent.
3Sonal Ramrakhiani demande de préserver les restrictions d’accès existantes.
Pourquoi c'est important : une erreur peut affecter un processus automatisé avant qu’un analyste ne vérifie le résultat.

Des spécialistes d’Accenture, d’IDC et de LatentView Analytics préconisent de rendre vérifiables les réponses des outils d’analytique conversationnelle, notamment lorsqu’elles déclenchent des actions automatisées. Ces interfaces donnent aux employés plus de liberté pour interroger les données commerciales, mais leur demandent aussi de juger des résultats qu’ils ne savent pas nécessairement contrôler.

Les entreprises doivent pouvoir reconstituer chaque analyse

Garder le seul résultat ne suffit pas pour comprendre une erreur, avertit Sonal Ramrakhiani, PDG de LatentView Analytics. Elle préconise un historique avec lequel une équipe puisse reproduire un calcul après modification des données utilisées. Les spécialistes des données doivent examiner le traitement analytique ; les responsables métier, les décisions touchées.

Pour une opération automatisée, Megha Kumar, vice-présidente de la recherche pour l’analytique et l’IA chez IDC, recommande de fixer les sources admissibles et de rattacher l’action à la réponse déclencheuse. L’investigation doit pouvoir retrouver la question de départ, son demandeur, la requête produite, la version du modèle, les autorisations et le résultat. Un calcul erroné ou une restriction oubliée peut en effet affecter un processus avant toute vérification humaine.

Avant une décision importante, l’utilisateur doit également connaître le sens donné à sa demande, les définitions employées et la fraîcheur des données. Teresa Tung, responsable mondiale des données avancées chez Accenture, recommande de pouvoir retracer leur provenance, leurs transformations et leur filiation.

Les autorisations doivent couvrir toutes les sources

Une interface qui réunit plusieurs systèmes peut faire apparaître des incohérences entre des accès conçus pour des publics distincts. Pouvoir consulter des tendances d’achat ne doit pas autoriser la lecture de dossiers clients individuels au seul motif que l’outil exploite les deux ensembles. Une réponse commerciale peut pourtant laisser dans l’ombre les droits du demandeur sur les informations mobilisées.

La lettre du soirGratuit · 19 h

L’IA qui transforme le business ?

Stratégies, mouvements et levées IA décryptés, chaque soir en 5 min. Gratuit.

Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.

Choisissez votre rythme

Gratuit · Pas de spam · Désabonnement en 1 clic

Sonal Ramrakhiani demande que les restrictions existantes sur les informations sensibles soient maintenues dans les interfaces conversationnelles. Teresa Tung précise que celles-ci ne neutralisent pas les contrôles par nature : le risque vient d’une application incohérente des identités et des permissions entre systèmes. Elle appelle les équipes chargées des données et de la sécurité à vérifier le parcours complet, depuis les sources interrogées jusqu’aux éléments restitués.

Un chiffre plausible peut masquer plusieurs erreurs

Le nombre de clients du trimestre précédent peut varier sans erreur arithmétique, explique Teresa Tung. Le service commercial peut retenir toute personne ayant acheté, tandis que les finances peuvent compter uniquement les comptes disposant d’un contrat actif. Sans définition explicite, cette différence risque d’être prise pour un écart de performance ; une mauvaise interprétation initiale peut aussi fausser les traitements suivants.

Avec un tableau de bord, les équipes peuvent régler ces divergences avant diffusion ; une interface conversationnelle peut confier cet arbitrage à l’IA à chaque demande. Une réponse concernant les ventes trimestrielles peut ainsi taire les transactions sélectionnées ou la définition du revenu retenue. Les gestionnaires de données doivent rendre ces choix explicites pendant l’adoption des outils, alors que certaines erreurs peuvent n’apparaître qu’une fois la réponse utilisée.

Megha Kumar signale un autre risque : une jointure incorrecte entre jeux de données peut compter plusieurs fois des commandes et majorer les revenus, ou écarter des enregistrements sans correspondance et omettre une partie de l’activité. Le résultat peut néanmoins paraître crédible. Elle avertit aussi qu’un outil peut réemployer des informations collectées pour une autre finalité ou appliquer un filtre fondé sur un attribut sensible, sans que la vraisemblance du total permette de le détecter.

Nick Maynard, vice-président de la recherche chez Juniper Research, souligne la difficulté particulière des utilisateurs peu familiers des données à reconnaître ces défauts. Faute de bien connaître les sources, ils peuvent accepter sans recul une réponse qui confirme leurs idées préalables.

Suivez Brief IA

L'actu IA du jour, aussi dans votre fil.

Commentaires