Les sites de spam alimentés par l'IA inondent le web d'informations fausses, et leur nombre augmente rapidement

Les sites de spam alimentés par l'IA inondent le web d'informations fausses, et leur nombre augmente rapidement

La société d'analyse médiatique NewsGuard et le détecteur d'IA Pangram Labs ont lancé un système en temps réel conçu pour identifier les sites qui publient massivement du contenu généré par l'IA, dont une grande partie contient des erreurs factuelles.

Plus de 3 000 de ces "fermes de contenu IA" ont déjà été détectées, le nombre doublant en une seule année et actuellement en croissance de 300 à 500 nouveaux sites par mois.

De nombreuses fermes de contenu IA sont spécifiquement conçues pour générer des revenus grâce à la publicité programmatique, souvent financées à l'insu de marques bien connues dont les annonces apparaissent sur ces sites.

Les fermes de contenu IA sont des sites web qui produisent d'énormes quantités de nouvelles et d'informations générées par l'IA, souvent inexactes, pour tirer profit des revenus publicitaires ou diffuser de la propagande.

Le nouveau système associe les données de NewsGuard avec le logiciel de détection d'IA automatisé de Pangram Labs. Le logiciel identifie d'abord les sites où une part significative du contenu provient de l'IA. Des analystes humains examinent ensuite les résultats et éliminent les faux positifs.

Jusqu'à présent, le système a identifié 3 006 fermes de contenu IA, selon NewsGuard. Ce chiffre a plus que doublé en un an et augmente actuellement de 300 à 500 nouveaux sites par mois.

Un site est étiqueté comme une ferme de contenu IA lorsque trois conditions sont remplies : une part significative de son contenu est généré par l'IA, le site ne divulgue pas ce fait, et la mise en page donne l'impression que les articles ont été rédigés par des journalistes humains.

Ces sites portent généralement des noms génériques comme "Times Business News" ou "Business Post", publient des dizaines d'articles par jour, et servent fréquemment de point de départ pour des fausses nouvelles concernant des marques, des sujets de santé, des politiciens ou des célébrités.

Les histoires fausses nuisent aux marques et alimentent la propagande géopolitique

Le manque de supervision éditoriale signifie que l'IA génère régulièrement des affirmations complètement fabriquées. En octobre 2025, la ferme de contenu IA "News 24" a publié un faux rapport affirmant que Coca-Cola avait menacé de retirer son parrainage du Super Bowl si le rappeur portoricain Bad Bunny se produisait pendant le spectacle de la mi-temps. NewsGuard souligne que Coca-Cola n'est même pas un sponsor du Super Bowl. Pourtant, des annonces d'Expedia, AT&T, YouTube, Priceline, Hotels.com, Skechers et GoDaddy ont toutes été diffusées sur le site.

Pendant ce temps, "CitizenWatchReport" a propagé la fausse affirmation selon laquelle deux sénateurs américains avaient dépensé 814 000 $ pour des hôtels en Ukraine. Les médias d'État russes ont repris l'histoire et l'ont amplifiée aux États-Unis.

NewsGuard indique que le système suit également les sites gérés par des acteurs adverses venant de Russie, Chine et Iran. Parmi les fermes de contenu IA identifiées, 358 étaient liées à Storm-1516, une opération d'influence pro-russe qui publie du contenu trompeur sur des sites conçus pour imiter des journaux locaux aux États-Unis et en Europe. Le nombre réel est probablement beaucoup plus élevé, a noté NewsGuard dans une étude antérieure, car les méthodes de détection actuelles ne sont pas parfaites.

Les annonceurs financent involontairement les fermes de contenu IA

De nombreux sites signalés sont des pages dites "faites pour la publicité", construites spécifiquement pour siphonner des dollars publicitaires programmatiques avec du contenu de faible qualité. NewsGuard a précédemment rapporté que 141 marques bien connues avaient diffusé des annonces sur ce type de sites sur une période de deux mois.

Le nouveau flux de données est conçu pour aider les annonceurs à éviter de placer leurs annonces sur ces sites. Il s'intègre dans des plateformes d'achat comme The Trade Desk ou peut être licencié directement par des marques et des agences.

Les fermes de contenu IA apparaissent également dans des services de Google comme Google News et Google Discover, où elles obtiennent une visibilité significative. Google ne semble apparemment pas capable ou ne veut pas les filtrer. Souvent, l'entreprise tire probablement profit des annonces diffusées sur ces sites grâce à son propre programme AdSense.