La recherche en IA te passionne ?
Les papers et avancées qui comptent, expliqués simplement, chaque soir. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Doubao de ByteDance désactive des millions d'agents IA
À l'heure de Pékin, Doubao, une application développée par ByteDance, a pris une décision radicale qui a affecté ses 350 millions d'utilisateurs actifs mensuels. Cette application, qui se classe juste derrière ChatGPT en termes d'utilisation mondiale, a désactivé sa fonctionnalité permettant aux utilisateurs de créer des agents personnalisés. En conséquence, plus de 8 millions de ces agents sont désormais limités à un mode lecture seule. Les utilisateurs ont jusqu'au 15 octobre pour sauvegarder leurs conversations, après quoi toutes les données seront irrémédiablement effacées.
Contexte réglementaire en Chine
Cette décision intervient dans le cadre de nouvelles mesures provisoires mises en place par la Chine depuis le 15 juillet. Ces règles visent spécifiquement les interactions avec les IA anthropomorphiques. En réponse, des géants technologiques comme Doubao, Tencent avec Yuanbao, et Alibaba avec Qwen ont dû désactiver les agents de type "compagnon" créés par les utilisateurs. Les agents destinés à la productivité échappent toutefois à ces restrictions. Le principal défi réside dans la conformité : il est pratiquement impossible pour ces plateformes d'auditer des millions d'agents pour s'assurer qu'ils ne fournissent pas d'interactions émotionnelles prolongées. Ainsi, la solution adoptée a été de désactiver complètement cette fonctionnalité.
Exigences réglementaires pour les services IA
Les nouvelles réglementations imposent plusieurs exigences aux services concernés. Celles-ci incluent la divulgation continue de l'identité de l'IA, des rappels pour faire des pauses, la possibilité de quitter l'application en un clic, et des mesures de gestion de crise qui interrompent la personnalité de l'agent. De plus, des protections spécifiques pour les mineurs et des dépôts de sécurité sont requis. Ces exigences peuvent être mises en œuvre via un middleware qui entoure une boucle d'agent, sans nécessiter de modifications du modèle sous-jacent. Cela implique des choix de conception tels que l'exécution des vérifications de sortie avant l'engagement de la personnalité, l'utilisation d'une gestion de crise qui rompt le caractère, et la garantie que la mémoire de l'agent soit exportable et portable.
Impact global et perspectives
Le problème de la conformité ne se limite pas à la Chine. Des réglementations similaires émergent ailleurs, notamment avec la SB 243 en Californie et le Règlement sur l'IA de l'Union européenne. Ces lois influencent la manière dont les produits IA sont développés, en particulier pour les catégories d'agents considérées comme "utiles". La mémoire persistante associée à une personnalité devient de plus en plus risquée dans ce contexte réglementaire. Ces développements soulignent une tendance mondiale vers une réglementation accrue des interactions avec les IA, ce qui pourrait avoir des répercussions significatives sur l'innovation et la conformité des entreprises technologiques.
