L’IA et sa régulation t’intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
SAP met en avant la gouvernance de l'intelligence artificielle (IA) comme un levier essentiel pour sécuriser les marges bénéficiaires des entreprises. Selon le géant allemand, remplacer les estimations statistiques par un contrôle déterministe permet de réduire les écarts de précision, souvent observés dans les modèles de consommation. Manos Raptopoulos, Président Mondial de la Réussite Client pour l'Europe, l'APAC, le Moyen-Orient et l'Afrique chez SAP, insiste sur l'importance de cette précision, affirmant que l'écart entre 90 % et 100 % de précision est crucial pour les opérations.
Alors que les entreprises intègrent des grands modèles de langage dans leurs environnements de production, Raptopoulos note que les critères d'évaluation se sont élargis pour inclure la gouvernance et l'impact commercial tangible. Il souligne que la transition des outils passifs vers des acteurs numériques actifs est un moment clé pour la gouvernance, un sujet qui sera abordé lors de l'AI & Big Data Expo North America.
Les systèmes d'IA agentique, capables de planifier, raisonner, orchestrer avec d'autres agents et exécuter des flux de travail de manière autonome, posent des défis de gouvernance. Raptopoulos avertit que ces systèmes, s'ils ne sont pas gérés comme une main-d'œuvre humaine, peuvent exposer les organisations à des risques opérationnels graves. Il compare cette situation à la crise de shadow IT de la dernière décennie, mais avec des enjeux plus élevés. Établir une gestion du cycle de vie des agents, définir des limites d'autonomie, faire respecter les politiques et instituer une surveillance continue des performances sont des exigences obligatoires selon Raptopoulos.
L'intégration de bases de données vectorielles modernes avec des architectures héritées nécessite des investissements importants en ingénierie. Les équipes doivent limiter la boucle d'inférence de l'agent pour éviter les erreurs coûteuses, ce qui augmente les coûts de calcul. Raptopoulos identifie trois problèmes majeurs à résoudre avant de déployer des modèles agentiques : la responsabilité des erreurs, la vérification des décisions et les seuils d'escalade humaine.
La fragmentation géopolitique complique ces défis, avec des exigences réglementaires variées dans des marchés clés comme New York, Francfort, Riyad et Singapour. Les infrastructures de cloud souverain, les modèles d'IA et les mandats de localisation des données sont des réalités réglementaires dans ces régions. Raptopoulos considère que l'intégration d'un contrôle déterministe dans l'IA probabiliste est un impératif pour la direction.
Les systèmes d'IA dépendent de la qualité des données et des processus, ce que Raptopoulos appelle le "moment de la fondation des données". Des données maîtresses fragmentées, des systèmes commerciaux cloisonnés et des environnements ERP trop personnalisés peuvent entraîner des recommandations erronées, affectant gravement les opérations. Pour extraire une valeur tangible, les modèles doivent être ancrés dans des données d'entreprise propriétaires, surpassant ainsi les modèles génériques.
Enfin, l'interaction avec les applications d'entreprise évolue vers des expériences utilisateur génératives. Les employés exprimeront leurs intentions au système, qui orchestrera les flux de travail nécessaires. Raptopoulos donne l'exemple d'un utilisateur demandant au logiciel de préparer un briefing pour la visite de son client générant le plus de revenus cette semaine. Cependant, la confiance des employés dans ces systèmes dépendra du respect des limites de gouvernance et des gains de productivité démontrables.
Le retour financier sur l'IA se manifeste le plus rapidement lors des interactions avec les clients. Former des modèles sur des enregistrements propriétaires et des règles internes crée une intelligence spécifique au client difficilement reproductible par les concurrents. Déployer l'intelligence d'entreprise nécessite que la direction orchestre trois couches distinctes en parallèle, que Raptopoulos définit comme le "moment stratégique". La première couche implique des fonctionnalités intégrées pour des retours rapides, la deuxième exige une orchestration agentique, et la dernière se concentre sur l'intelligence spécifique à l'industrie. Un mauvais séquençage peut laisser une immense valeur financière non capturée, tandis que sauter vers des applications sectorielles sans maturité des données multiplie les risques.
