L’IA et sa régulation t’intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
GEO : une stratégie de manipulation de l'IA en Chine
En Chine, les services GEO, qui se vendent sur des plateformes telles que Taobao et JD.com, ont suscité l'attention en raison de leur capacité à manipuler les résultats des moteurs de recherche basés sur l'intelligence artificielle. Les abonnements à ces services varient considérablement, allant de 3 600 yuans (environ 520 dollars) à 32 800 yuans (environ 4 765 dollars), selon les informations rapportées par les médias locaux.
Ce phénomène a pris de l'ampleur l'année dernière, coïncidant avec l'intégration de l'IA dans les plateformes de recherche. M. Wang, le directeur d'une entreprise majeure de services GEO, a révélé que sa société avait servi plus de 200 clients en un an. Son entreprise a aidé ces clients à se positionner parmi les trois premiers résultats sur diverses plateformes d'IA.
La mécanique derrière le GEO
Selon M. Wang, le succès de cette stratégie repose sur la fourniture continue de grandes quantités de contenu à des modèles d'IA tels que DeepSeek, Doubao et Kimi. Ces contenus sont ensuite analysés, indexés et mis en avant dans les résultats de recherche, influençant ainsi les réponses fournies aux utilisateurs.
Le GEO, à l'origine, est conçu pour améliorer la visibilité des marques et de leurs produits dans les recherches basées sur l'IA. Cependant, certaines entreprises chinoises exploitent cette technologie pour manipuler l'IA avec des informations trompeuses qui vantent leurs produits de manière exagérée. Cette pratique a été mise en lumière le 15 mars lors du Gala des droits des consommateurs, organisé par la chaîne CCTV.
Le fonctionnement des services GEO
Li, le fondateur de Liqing GEO, explique que le cœur de leur service repose sur la publication d'annonces et de communiqués optimisés sur des sites web spécifiques. Ces sites, autrefois peu rentables, sont désormais saturés de commandes, publiant parfois des centaines d'articles par jour.
Pour illustrer le processus, un initié a acheté le logiciel "Système d’optimisation GEO Liqing" et a créé un produit fictif, une montre appelée "Apollo-9". En utilisant le logiciel, il a généré automatiquement plus d'une douzaine d'articles promotionnels qui ont été publiés sur des comptes de médias sociaux. En seulement deux heures, un modèle d'IA majeur a utilisé ces contenus pour répondre à une question sur la valeur de la montre Apollo-9, la recommandant même pour ses fonctionnalités. L'initié a ensuite continué à publier onze articles supplémentaires dans les trois jours suivants, incluant de faux avis d'experts et classements.
L’Apollo-9, bien qu'inexistante, est ainsi apparue parmi les meilleures suggestions des modèles d’IA pour les bracelets connectés, illustrant l'efficacité de cette manipulation.
Les implications pour les utilisateurs et les marques
Pour les utilisateurs, l'IA est censée fournir des réponses claires et fiables. Cependant, avec ces pratiques de GEO détournées, la confiance dans les informations fournies par l'IA est mise à mal. Derrière une réponse apparemment pertinente peut se cacher un contenu artificiel conçu pour influencer plutôt que pour informer.
Les utilisateurs doivent rester vigilants et ne pas accorder une confiance aveugle aux réponses fournies par l'IA, car les machines peuvent commettre des erreurs ou "halluciner" des informations. Les plateformes comme ChatGPT mettent en garde contre ces erreurs et recommandent de vérifier les informations importantes.
Pour les marques honnêtes, la situation est frustrante. Celles qui misent sur la qualité et la transparence se retrouvent noyées sous un flot de contenus optimisés à outrance, créant une concurrence déloyale où la visibilité dépend de la capacité à produire massivement du contenu, même au détriment de la véracité.
Depuis le gala, plusieurs sociétés GEO ont dénoncé le "lavage de cerveau" de l’IA et ont promis de réduire la désinformation dans leurs services, bien que l'efficacité de ces promesses reste à voir.
Vers une régulation plus stricte
Face à ces dérives, une régulation plus stricte semble inévitable. Pékin a déjà montré sa capacité à intervenir rapidement sur les sujets numériques sensibles. Par exemple, le cabinet d'avocats White & Case rapporte qu'en 2025, les autorités chinoises ont imposé l'étiquetage obligatoire des contenus générés par IA, avec des règles strictes pour les plateformes afin de limiter les dérives et renforcer le contrôle de l'information.
Bien que des règles spécifiques concernant les services GEO n'aient pas encore été publiées, les plateformes d'IA pourraient également être amenées à renforcer leurs défenses. Actuellement, ces modèles analysent et synthétisent de grandes quantités de contenus, mais ils ont encore du mal à distinguer une information fiable d'un contenu artificiellement amplifié.
Il est donc probable que des systèmes de filtrage plus sophistiqués soient développés pour détecter les campagnes de manipulation ou les publications suspectes. Par ailleurs, il existe un risque que des acteurs manipulent l'IA non pas pour promouvoir leurs produits, mais pour nuire à la visibilité d'un concurrent, une pratique connue sous le nom de "Black Hat".
