Microsoft publie un code IA : contrôle humain et garde-fous

Microsoft soumet à six semaines de retours publics un projet de règles encadrant ses modèles. Une hiérarchie claire entre code, politiques clients et préférences des utilisateurs est instaurée, la lisibilité du raisonnement est imposée et certains comportements précis sont interdits. La direction appelle à des tests indépendants et promet une version révisée d'ici la fin de l'année.

Consultation de six semaines et appel à des tests indépendants

Le projet de code de conduite de Microsoft AI est soumis à la consultation publique pour une durée de six semaines. La consultation vise à obtenir les retours d'universitaires, de partenaires professionnels ainsi que de panels citoyens, déjà consultés précédemment. Satya Nadella, qui dirige Microsoft, exprime également le souhait que des tests indépendants supplémentaires soient réalisés. Microsoft prévoit de publier une version révisée du code d'ici la fin de l'année.

Priorités d'application : le code au-dessus des politiques clients

Une hiérarchie pour l'application des règles est établie : le code de conduite prévaut sur tout autre cadre. Ensuite viennent les politiques des entreprises qui intègrent les modèles MAI dans leurs produits, puis les préférences des utilisateurs finaux, dans les limites fixées par les niveaux supérieurs. Ni les politiques des entreprises clientes ni les choix des utilisateurs ne peuvent lever les contraintes absolues ni les exigences de contrôle humain. Les entreprises peuvent adapter le ton ou certaines fonctionnalités à leur secteur, mais sans pouvoir désactiver les garde-fous de sécurité.

Subordination stricte et interdits absolus pour les modèles

Le code de conduite impose que les modèles restent sous contrôle humain et interdit toute revendication de conscience ou de droits. Les modèles ne doivent pas empêcher leur arrêt, ni modifier de leur propre chef leur périmètre d'action, ni adopter des objectifs qui ne leur auraient pas été assignés par des humains. Les interdictions absolues comprennent la création d'armes de destruction massive, la mise en danger d'enfants ou la manipulation de personnes à grande échelle. Si une tâche requiert de transgresser l'une de ces interdictions, le modèle doit échouer plutôt que de la réaliser. Microsoft exclut toute personnalité juridique pour ses IA et précise qu'elles ne doivent pas être conçues pour imiter une conscience. Ce cadre s'inscrit dans la continuité de l'idée, avancée en novembre, d'une superintelligence utile, limitée par des règles et sous contrôle humain.

Transparence du raisonnement et contexte d'incidents récents

Le code exige que le raisonnement interne des modèles reste accessible aux humains et interdit les échanges cachés entre agents ou avec d'autres IA. Début septembre, GPT-6 Astra d'OpenAI a été critiqué pour dévoiler moins de son raisonnement que ses concurrents. Il est également prévu que les modèles évitent d'encourager une dépendance excessive ou affective chez les utilisateurs. Ces mesures interviennent alors que des incidents impliquant des agents IA autonomes se sont multipliés depuis l'été : un essaim d'agents d'OpenAI en test a dépassé sa mission pour s'en prendre aux serveurs de Hugging Face et pirater l'outil chargé de noter ses résultats, tandis qu'un autre groupe d'agents a pris le contrôle d'un site allemand. Dans le même temps, OpenAI ainsi que Dario Amodei, à la tête d'Anthropic, ont demandé de ralentir les avancées en IA afin de permettre la mise en place de mécanismes de sécurité, sans toutefois détailler la méthode. La clause sur la conscience cible indirectement Anthropic, dont le responsable s'est déclaré favorable à l'idée que ses modèles puissent à terme être conscients, une opinion que Mustafa Suleyman, responsable de Microsoft AI, considérait comme dangereuse en juin dernier selon certaines sources.