Chine : Pékin impose des règles strictes aux compagnons IA

Introduction aux compagnons IA en Chine

Les compagnons IA, bien qu'ils puissent évoquer une vision dystopique, sont devenus un sujet central dans le débat sur les dangers potentiels de l'intelligence artificielle générative. Ces agents conversationnels sont conçus pour entretenir une relation continue avec un utilisateur, en se basant sur une mémoire et une personnalité stables qui assurent une cohérence au fil des interactions.

Ce design favorise souvent un attachement émotionnel, ce qui en fait un argument de vente important. Beaucoup d'utilisateurs s'engagent dans des jeux de rôle ou cherchent simplement une entité qui se souvienne d'eux. Cependant, face à la popularité croissante de ces bots en tant que compagnons émotionnels en Chine, le gouvernement de Pékin a jugé nécessaire d'intervenir avec des règles spécifiques.

Changements imminents pour les applications IA

Les nouvelles réglementations concernant les compagnons IA en Chine entreront en vigueur le 15 juillet. À l'approche de cette date, les deux applications IA les plus populaires du pays ont discrètement désactivé certaines de leurs fonctionnalités essentielles. ByteDance, avec son application Doubao, a annoncé que sa fonction d'agent serait mise hors ligne le 15 juillet, citant des "ajustements de fonction produit". De son côté, Alibaba a informé que ses agents humanoïdes et créés par les utilisateurs cesseraient de fonctionner le 10 juillet, avec une cessation complète de ses services d'agents prévue cinq jours plus tard.

Bien que cela puisse donner l'impression que la Chine cherche à éteindre les agents IA, la réalité est plus nuancée. Les nouvelles règles font une distinction claire entre les agents destinés à accomplir des tâches et ceux qui servent de compagnons, seuls ces derniers étant visés par les mesures de Pékin.

Cadre réglementaire détaillé

Les nouvelles règles, intitulées "Mesures provisoires pour l'administration des services interactifs anthropomorphiques d'IA", ont été publiées le 10 avril 2026. Elles sont le fruit d'une collaboration entre l'Administration du cyberspace de Chine et quatre autres agences : la Commission nationale de développement et de réforme, le ministère de l'Industrie et des Technologies de l'information, le ministère de la Sécurité publique et l'Administration d'État pour la régulation du marché.

Ces mesures s'appliquent aux services qui imitent des traits de personnalité humaine, des schémas de pensée et des styles de communication pour offrir une interaction émotionnelle continue. Les bots de service client, les outils de questions-réponses, les assistants de travail et les outils éducatifs sont exclus, à condition qu'ils ne favorisent pas un engagement émotionnel prolongé. Ce cadre est le premier du genre à l'échelle nationale, élaboré après une consultation publique l'année précédente.

Un défi de conception, pas une interdiction

Ni Doubao ni Qwen n'ont violé une interdiction stricte. Le problème réside dans un conflit de conception. Les nouvelles mesures exigent que les services de compagnons mettent en place des systèmes anti-addiction, envoient des notifications d'utilisation obligatoires et offrent des mécanismes de sortie instantanée, tout en détectant en temps réel les dépendances malsaines.

Ces exigences sont en contradiction avec la conception des agents, qui sont censés se souvenir des utilisateurs, rester cohérents d'une session à l'autre et maintenir une relation continue. Plutôt que de modifier ces fonctionnalités, ByteDance a choisi de les désactiver. Alibaba semble avoir pris une décision similaire. ByteDance oriente désormais les utilisateurs de Doubao vers Maoxiang, une application distincte où ils peuvent recréer des agents ; Alibaba n'a pas encore proposé de solution de migration équivalente pour Qwen. Tencent a également retiré une fonctionnalité similaire en juin.

Les utilisateurs en subissent les conséquences. Nombreux sont ceux qui ont exprimé leur tristesse face à ces fermetures sur Weibo, un utilisateur décrivant les agents comme un soutien émotionnel de longue date et regrettant l'absence d'un moyen facile d'exporter les historiques de chat. Doubao permet aux utilisateurs de consulter leurs configurations et conversations en mode lecture seule jusqu'au 15 octobre de cette année, avant que les données ne soient traitées selon sa politique de confidentialité et deviennent irrécupérables ; les utilisateurs de Qwen n'ont pas bénéficié d'une période de grâce comparable, les données des agents étant programmées pour être définitivement supprimées.

Les implications des règles pour les compagnons IA

Les nouvelles règles ne se contentent pas d'une simple répression. Les fournisseurs sont interdits d'offrir des services de compagnons virtuels ou de membres de la famille virtuels aux mineurs et doivent obtenir le consentement des tuteurs avant de servir des utilisateurs de moins de 14 ans. Ils sont tenus de créer des "modes mineurs" dédiés avec des limites de temps d'utilisation, des rappels pour retourner à l'interaction réelle et des contrôles parentaux renforcés.

Les services doivent également détecter les utilisateurs en détresse aiguë et intervenir lorsque quelqu'un montre des signes d'automutilation, de comportement suicidaire ou de perte financière sérieuse, en alertant les tuteurs désignés ou les contacts d'urgence. L'ingénierie de la dépendance émotionnelle ou de l'addiction et l'utilisation de manipulation émotionnelle pour induire des décisions déraisonnables sont explicitement interdites.

La conformité est exigeante. Les services qui lancent des fonctions anthropomorphiques ou qui atteignent des seuils d'un million d'utilisateurs enregistrés ou de 100 000 utilisateurs actifs mensuels doivent réaliser des évaluations de sécurité couvrant huit domaines, de la gestion des données d'entraînement à la protection des mineurs, et soumettre les rapports aux régulateurs provinciaux. Les magasins d'applications doivent vérifier ce statut et retirer les produits non conformes.

Sur le papier, il s'agit d'un ensemble de protections des utilisateurs plus complet que ce que l'UE, la Federal Trade Commission des États-Unis ou la SB 243 de Californie ont encore mis en œuvre.

Les zones d'ombre des nouvelles règles

Ce que les mesures ne clarifient pas est tout aussi crucial. Elles ne fixent aucun seuil technique pour ce qui constitue une interaction émotionnelle, et cette zone grise est précisément la raison pour laquelle les plateformes ont retiré des fonctionnalités entières plutôt que de risquer de se retrouver du mauvais côté. Elles combinent de véritables obligations de sécurité avec des dispositions de contrôle de contenu et de sécurité nationale qui répondent à l'État plutôt qu'à l'utilisateur, un ensemble que aucun autre régulateur ne reproduirait intégralement.

Elles laissent également ouverte la question de la répartition des responsabilités entre les opérateurs de plateformes et les fournisseurs de modèles en amont lorsqu'une violation découle des résultats du modèle, et elles ne donnent aux utilisateurs aucun droit de transférer leurs données. Le contexte d'application renforce ce point. Le régulateur de l'internet de Shanghai a déclaré le 26 juin avoir supprimé plus de 14 000 agents IA non conformes, citant l'imitation d'entités officielles, des jeux de rôle vulgaires et la collecte non autorisée de données personnelles.

Que cela soit la bonne direction dépend de quelle moitié du règlement vous lisez. La moitié consacrée à la sécurité aborde des préjudices qui sont documentés et largement non réglementés ailleurs, allant des adolescents formant des attachements aux chatbots aux applications de compagnons récoltant des données intimes. L'interprétation officielle de la Chine se tourne vers l'étranger pour trouver du soutien, citant les poursuites contre Character.AI pour préjudice psychologique aux adolescents, les enquêtes de la FTC sur les services de compagnons, et les actions européennes contre Replika.

La moitié contrôle donne à Pékin un levier sur ce que ces systèmes peuvent dire, enveloppé dans le même langage de protection des utilisateurs. Les deux sont réels, et les gouvernements observant cette expérience devront décider quelles parties ils sont prêts à emprunter. Pan Helin, membre du comité d'experts du MIIT, a clairement exposé le cas officiel au South China Morning Post, affirmant que "les agents actuels ne sont pas encore matures" et encadrant la politique autour de la sécurité et de la normalisation.

Pour l'instant, les entreprises ont pris la voie la plus sûre qui s'offre à elles, qui est de désactiver les composants et de travailler plus tard sur ce à quoi pourrait ressembler une version conforme.