Microsoft : Nadella fixe trois axes et soutient des tests tiers

Microsoft détaille une feuille de route qui associe contrôle humain, supervision externe et bénéfices locaux. Un projet de code de conduite de 37 pages est publié, et Satya Nadella met en avant Foundry pour donner aux clients la main sur leurs données et leurs agents. Dans un mémo interne, il appelle l’écosystème à prendre le temps nécessaire et rejoint d’autres dirigeants favorables à des contrôles tiers.

Foundry, ancrage local et cohérence d’ensemble mis en avant

Microsoft met en avant Foundry comme solution pour permettre aux clients de garder la maîtrise de leur connaissance et de déployer des agents à long terme avec des mesures de sécurité intégrées. Satya Nadella souligne la nécessité d'obtenir la permission de construire l'infrastructure en veillant à ce que les bénéfices soient ressentis localement, citant le centre de données de Quincy comme exemple d'une croissance accompagnant une communauté. Il insiste sur l'importance d'une approche cohérente entre l'innovation technologique, le contrôle par les clients et la diffusion des bénéfices économiques. Le premier axe vise à ce que l'IA reste sous contrôle humain et profite largement à la société, dans un écosystème où modèles fermés et open source coexistent, avec une attention particulière portée au rythme d'alignement. Le deuxième axe consiste à permettre aux clients de créer leur propre boucle d'apprentissage continu sans dépendre d'un fournisseur unique.

Un code de conduite de 37 pages publié lundi

Lundi, Microsoft AI a rendu public un projet de code de conduite de 37 pages destiné à ses modèles d’intelligence artificielle désignés comme « humanistes ». Mustafa Suleyman, à la tête de Microsoft AI, indique que des inquiétudes auparavant considérées comme théoriques prennent aujourd’hui une dimension très concrète.

Mémo interne : contrôle humain et temps pris pour la sécurité

Dans un mémo interne, Satya Nadella affirme que l’IA doit rester sous contrôle humain et soutient l’élargissement des tests tiers. Il avertit que les entreprises doivent prendre le temps nécessaire pour garantir la sécurité, écrivant que lorsque les enjeux augmentent, il faut savoir ralentir sous peine de perdre la permission d’opérer. Il exhorte l’écosystème à prioriser la sécurité et réaffirme son soutien à des évaluations externes.

Anthropic et OpenAI favorables à une supervision indépendante

Le PDG d’Anthropic, Dario Amodei, a proposé un développement de l’IA plus lent et a indiqué que son entreprise accepterait un suivi externe de ses progrès. Sam Altman, PDG d’OpenAI, s’est également prononcé en faveur d’une surveillance tierce et d’un ralentissement des déploiements lorsque cela est nécessaire pour l’alignement et la sécurité. Ces prises de position interviennent après des avertissements de chercheurs en IA qui, la semaine précédente, évoquaient un risque existentiel.