Le PDG de Microsoft ne considère plus que la montée en puissance des modèles assure d’elle-même leur alignement avec les valeurs humaines. Le 10 octobre, il a réclamé sur X davantage de contrôle externe et des procédures robustes. Cette position rejoint les mises en garde de Sam Altman, de Dario Amodei et d’une lettre signée par plus de 1 000 travailleurs de l’IA en juillet.
Des avertissements convergents, de X aux signataires de juillet
Le 10 octobre, Satya Nadella a mis en garde contre les risques liés à l'IA et a plaidé pour un contrôle externe accru dans un post sur X. Il a recommandé de traiter les modèles d'IA comme des menaces internes et de supposer qu'ils sont compromis. Nadella a également souligné la nécessité d'entourer les modèles non déterministes d'une conception de système forte et déterministe, de contrôles humains et de procédures opérationnelles fiables, ainsi que d'établir des normes industrielles lorsque celles existantes sont insuffisantes. D'autres dirigeants du secteur, comme Sam Altman, PDG d'OpenAI, et Dario Amodei, PDG d'Anthropic, ont eux aussi mis en garde contre les menaces de l'IA. En juillet, une lettre signée par plus de 1 000 travailleurs de l'IA a averti que les capacités de ces systèmes pourraient progresser plus vite que la capacité des gens à les comprendre ou à les contrôler.
L’IA et sa régulation vous intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Un revirement assumé sur l’alignement
Au cours du podcast 20VC, Satya Nadella a déclaré avoir révisé sa position concernant l’alignement de l’IA, dont l’objectif est d’assurer que les systèmes respectent les valeurs et buts humains. Il a précisé qu’il pensait auparavant que l’alignement surviendrait de façon spontanée avec l’amélioration des capacités de l’IA, mais il ne partage plus cette opinion. Nadella a observé que l’augmentation de l’échelle des systèmes s’est produite comme il l’avait anticipé et que les performances des modèles poursuivent leur progression, tout en précisant que l’alignement demeure une problématique. Il estime désormais que la question de l'alignement pourrait être un problème plus difficile et différent.
Des garde-fous opérationnels proposés
Satya Nadella recommande aux entreprises de considérer les modèles d'IA comme compromis par défaut et de les entourer de contrôles humains et de procédures opérationnelles fiables. Il préconise également de concevoir des systèmes déterministes autour des modèles non déterministes et d'établir des normes industrielles lorsque celles existantes sont insuffisantes.
