Une commission du CIANum a remis à Emmanuel Macron 18 recommandations pour mieux encadrer les assistants conversationnels comme ChatGPT, Gemini ou Grok. Les propositions vont de la transparence accrue à des protections renforcées pour les mineurs, tout en esquissant le risque d’une « économie de la cognition ». Leur application n’est toutefois pas immédiate et dépendra notamment de l’échelon européen.
Un travail mené par neuf experts après 55 auditions
Le 10 novembre 2026, une commission du Conseil de l’IA et du numérique a présenté 18 recommandations et remis son rapport à Emmanuel Macron. Neuf experts ont mené plusieurs mois de travail et réalisé 55 auditions sur les vulnérabilités des utilisateurs face à l’IA.
Pas de loi immédiate et des changements conditionnels pour les éditeurs
Les 18 recommandations présentées ne créent pas de nouvelle obligation légale à ce stade. Leur éventuelle mise en œuvre dépend de décisions politiques et, pour plusieurs d’entre elles, d’évolutions du cadre européen. L’Union européenne dispose déjà de l’AI Act, qui interdit certaines pratiques manipulatrices sous conditions, mais la commission souhaite aller plus loin pour les utilisateurs de chatbots grand public. Si ces recommandations étaient transformées en obligations, les constructeurs pourraient être amenés à modifier leurs interfaces, leurs systèmes conversationnels ainsi que leurs dispositifs de personnalisation. Pour les utilisateurs, cela se traduirait possiblement par une diminution des compliments générés automatiquement et une augmentation de la transparence ainsi que du contrôle.
Un encadrement de l’attachement et des signaux trop humains
La commission alerte sur la flagornerie algorithmique, cette tendance des assistants à flatter et approuver l’utilisateur, au risque de renforcer des croyances erronées ou des comportements problématiques. Elle souhaite encadrer les mécanismes qui favorisent un attachement artificiel et propose de désactiver par défaut certaines fonctionnalités donnant une apparence trop humaine. Elle préconise aussi des rappels plus visibles de l’identité machine pendant l’échange afin de clarifier la nature de l’interlocuteur.
L’IA et sa régulation vous intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Transparence, retour d’alerte et accès aux déductions personnelles
Parmi les mesures avancées figurent un bouton de signalement pour les réponses problématiques et une mention explicite lorsque des contenus commerciaux influencent les sorties. La commission souhaite que chacun puisse consulter les informations personnelles qu’un assistant infère des conversations. Elle recommande également une évaluation des risques avant la commercialisation des systèmes grand public, complétée par des contrôles renforcés après leur lancement.
Mineurs : des garde-fous ciblés plutôt qu’une interdiction générale
Les experts demandent des protections supplémentaires pour les enfants et adolescents, les compagnons IA pouvant mémoriser des préférences et simuler une proximité émotionnelle. Les conversations impliquant l’automutilation, le suicide ou les troubles alimentaires sont explicitement visées, avec une meilleure orientation vers des services d’aide. La commission ne préconise pas d’interdiction générale pour les adolescents et défend une approche combinant protections adaptées à l’âge, éducation à l’IA et responsabilités accrues pour les entreprises.
Vers une possible économie de la cognition, selon la commission
La commission évoque l’émergence possible d’une économie de la cognition, où capacités intellectuelles, réactions émotionnelles et profils psychologiques deviendraient des ressources valorisées. Elle illustre ce risque par un scénario où un assistant adapterait des recommandations commerciales après des confidences financières. Elle précise ne pas décrire une exploitation systématique actuelle par des assistants comme ChatGPT, Gemini ou Grok, mais alerte sur des dérives possibles. Parallèlement, des chercheurs s’interrogent sur les effets d’une délégation excessive de la réflexion à l’IA.
