Brief IA : Une étude révèle que des IA orientent vers des sites frauduleux

Une étude révèle que des IA orientent vers des sites frauduleux

Brief IA
Tom Levy·3 min

6 795 réponses de chatbots ont été analysées par Podqi Perplexity 15 %, ChatGPT 8 %, Gemini 4 % de réponses avec sites risqués Les petites marques semblent plus exposées que les grandes.

En bref
16 795 réponses de chatbots ont été analysées par Podqi
2Perplexity 15 %, ChatGPT 8 %, Gemini 4 % de réponses avec sites risqués
3Les petites marques semblent plus exposées que les grandes
Pourquoi c'est important : À l’approche des fêtes, ces recommandations peuvent orienter vers des sites frauduleux, ce qui expose consommateurs et marques.

Podqi recense des recommandations de sites frauduleux par des assistants IA utilisés pour préparer des achats. Perplexity, ChatGPT et Gemini sont tous concernés, à des degrés différents, alors que les requêtes sur des marques plus petites semblent plus exposées. Les entreprises disent renforcer leurs garde‑fous.

Des réponses piégeuses à l’approche des fêtes, surtout pour les petites marques

À l'approche de la saison des achats de fin d'année, la question de la fiabilité des recommandations des chatbots IA prend de l'importance, alors que les consommateurs cherchent des articles disponibles et de bons prix. Podqi estime que la présence de sites frauduleux dans les réponses pourrait rapidement devenir un risque pour les acheteurs, en plus de poser un problème aux marques et aux détaillants. Certaines requêtes, notamment celles portant sur des sites régionaux inexistants, déclenchent plus souvent des liens vers des sites risqués. Les marques de plus petite taille sont davantage concernées, les requêtes sur de grandes entreprises contenant environ deux fois moins souvent des sites frauduleux. Un exemple cité concerne Perplexity, qui a présenté une page incorrecte comme site officiel de Stüssy, la décrivant comme un point de départ fiable pour des articles authentiques. Trevor West, PDG et cofondateur de Podqi, recommande de vérifier la source avant de saisir des informations personnelles ou bancaires, même si la réponse provient d'un chatbot.

Perplexity, ChatGPT et Gemini n’échappent pas au risque, avec des écarts marqués

Sur les 6 795 réponses analysées, toutes les IA testées ont cité des sites considérés comme risqués, c'est-à-dire des plateformes frauduleuses imitant des détaillants ou vendant des contrefaçons. Perplexity affiche le taux le plus élevé, avec 15 % de réponses contenant de tels liens. ChatGPT atteint 8 %, tandis que Gemini descend à 4 %. ChatGPT est aussi celui qui a le plus souvent émis des avertissements à l'utilisateur, le faisant dans 24 % des cas.

Le brief IA que lisent les pros

Vous suivez la course aux modèles IA ?

Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.

Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.

Choisissez votre rythme

Gratuit · Pas de spam · Désabonnement en 1 clic

Un protocole focalisé sur 151 marques et deux séries de tests en septembre

Podqi a mené deux périodes de tests en septembre, avec des questions d'achat posées à des chatbots concernant 151 marques. Les requêtes portaient sur les meilleurs sites pour acheter une marque, les points de vente en ligne, l'existence de sites régionaux ou l'expédition internationale. Parmi les marques sélectionnées figuraient des enseignes de mode telles que Lululemon, Birkenstock, Stüssy, Madhappy, ainsi que Le Creuset pour les articles de maison. Podqi a conçu ses propres questions et s'est appuyée sur un outil pour enregistrer les réponses générées par les IA. Dans 15 % des échanges, les assistants évalués, à savoir ChatGPT, Gemini et Perplexity, suggéraient des sites frauduleux. Podqi est une société spécialisée dans la protection de la propriété intellectuelle.

Google, OpenAI et Perplexity défendent leurs pratiques et promettent des améliorations

Du côté des entreprises, Google affirme prendre la qualité de l'information au sérieux, se félicite du résultat de Gemini parmi les produits évalués et indique poursuivre les tests et améliorations de ses modèles. OpenAI explique que son objectif est que ChatGPT connecte les utilisateurs à des lieux fiables pour faire leurs achats et dit continuer à renforcer ses protections pour limiter l'apparition de sites potentiellement trompeurs. Perplexity défend sa précision, avançant être l'IA la plus fiable sur des benchmarks de recherche crédibles depuis quatre ans, tout en reconnaissant ne pas viser 100 % d'exactitude. Par ailleurs, ces systèmes sont promus pour des usages d'achat comme la recherche, la comparaison et la découverte de produits ou de détaillants.

Suivez Brief IA

L'actu IA du jour, aussi dans votre fil.

Commentaires