Le PDG de Microsoft appelle à traiter tout modèle d’IA comme potentiellement compromis et à le contenir d’emblée. Il défend un contrôle humain constant et des technologies de confinement à standardiser, en complément d’exigences de transparence déjà partagées dans le secteur.
Confinement par défaut et pouvoir d’arrêt humain exigés
Satya Nadella affirme qu'il faut contenir un modèle d'IA dès le départ, en partant du principe qu'il est compromis. Il compare ce confinement à un frein d'urgence, estimant qu'une personne autorisée doit toujours pouvoir mettre en pause ou arrêter un modèle en cours de tâche. Selon lui, les modèles plus avancés nécessiteront des technologies de confinement plus sophistiquées, qui devraient être standardisées. Il insiste sur la nécessité de supposer que tous les modèles d'IA sont compromis.
Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Transparence et pratiques de sécurité réclamées
Satya Nadella préconise un cadre plus ouvert, permettant de maîtriser les modèles d’IA, de les surveiller et de générer des traces consultables par l’humain et impossibles à altérer. Il préconise également une notification immédiate des incidents, des contrôles externes, le recours à des données pouvant être vérifiées ainsi que l’isolement des modèles. Une partie de ces recommandations rejoint des positions déjà exprimées dans l'industrie.
Rejet des boîtes noires et contexte de la prise de parole
Satya Nadella estime qu'il n'est plus acceptable de considérer l'IA comme un ensemble de boîtes noires dont on accepte ou rejette simplement les conseils et les actions. Il a exposé ces positions dans un long message publié sur X en tant que PDG de Microsoft. L'IA est également qualifiée de super intelligence.
