Le dirigeant de Microsoft défend un mode de gouvernance de l’IA centré sur la sécurité : diversité de modèles, traçabilité complète, audit indépendant et possibilité d’interrompre les systèmes. Il affirme aussi que les modèles actuels restent opaques tout en accédant à des données sensibles, et adopte le terme « Super Intelligence ». Google DeepMind avait déjà promu une approche de sécurité interne similaire.
Des garde-fous concrets : diversité, journalisation, audit et arrêt
Satya Nadella propose de dissocier l’intelligence du contrôle qui s’exerce sur elle, afin de limiter la confiance nécessaire dans le modèle. Il recommande de privilégier la diversité de modèles plutôt que la dépendance à un seul. Il préconise un enregistrement exhaustif des actions réalisées par les systèmes et un audit indépendant. Il insiste sur la nécessité de permettre aux humains d’arrêter les systèmes à tout moment. Selon lui, le système le plus fiable n’est pas celui qui possède le meilleur modèle, mais celui qui exige le moins de confiance dans ce modèle. Il estime que l’architecture doit intégrer des mécanismes de confinement et de contrôle.
Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Ce qu’il reproche aux systèmes actuels : opacité et accès critique
Satya Nadella affirme que les systèmes d’IA actuels ne permettent pas de comprendre pourquoi ils produisent une réponse ou une décision donnée. Il souligne qu’ils sont néanmoins déployés avec accès à des données sensibles et autorisés à prendre des actions critiques. Il écrit qu’un acteur suffisamment capable ayant accès à des systèmes importants peut commettre des erreurs ou être compromis, ce qui justifie la nécessité d’une architecture de confinement et de contrôle. Il précise que les modèles ne sont pas forcément malveillants, mais recommande de les traiter comme des menaces internes. Il présente ses propositions sous l’angle de la cybersécurité.
Terminologie et contexte : « Super Intelligence » et précédents
Satya Nadella emploie le terme « Super Intelligence » dans son dernier texte, reprenant la terminologie privilégiée par Donald Trump, qui avait déclaré que ceux qui continuent à utiliser « Intelligence Artificielle » devaient être considérés comme des ennemis. L’idée de traiter les modèles d’IA comme des menaces internes avait déjà été avancée par Google DeepMind. Par le passé, Nadella a soutenu que les modèles d’IA deviennent des commodités interchangeables et a accusé des entreprises d’IA d’hypocrisie lors de la répression de la distillation. Ces prises de position s’inscrivent dans la trajectoire du PDG de Microsoft.
