L'IA et l'asymétrie des fausses informations : un défi exponentiel

Le principe de l'asymétrie des conneries

L'intelligence artificielle a transformé la dynamique de la production de fausses informations, rendant cette tâche presque sans coût. Historiquement, il fallait dix fois plus d'efforts pour réfuter une affirmation erronée que pour la créer. Avec l'IA générative, ce coût de production a été réduit à néant. La solution à ce problème n'est pas de multiplier les vérifications, mais de repenser la conception même des systèmes d'information.

En 2013, Alberto Brandolini, un programmeur italien, a formulé une observation devenue célèbre après avoir regardé un talk-show politique : "La quantité d'énergie nécessaire pour réfuter des conneries est d'un ordre de grandeur supérieur à celle requise pour les produire." Cette idée, connue sous le nom de loi de Brandolini ou principe d'asymétrie des conneries, illustre l'écart entre la facilité de produire des informations fausses et la difficulté de les réfuter. Brandolini a quantifié cet écart comme étant d'un ordre de grandeur, soit environ dix pour un. Ce principe s'applique désormais aux machines, où un modèle d'IA peut générer une réponse erronée en un instant, tandis qu'un humain met des heures à la vérifier.

Ce qui se passe lorsque l'asymétrie s'aggrave

Autrefois, produire un mensonge nécessitait un certain effort : il fallait l'écrire, le diffuser, voire le dire en personne. La production et la réfutation étaient toutes deux des tâches consommatrices de temps humain, maintenant un certain équilibre. Bien que cet équilibre ait été imparfait, il était encore possible de le gérer. Aujourd'hui, cet équilibre est perturbé.

Cet article explore les conséquences de l'effondrement des coûts de production d'informations fausses, tandis que les coûts de réfutation restent inchangés. Il s'agit d'un défi de conception pour les créateurs de systèmes d'information. Bien qu'il soit impossible d'éliminer complètement l'asymétrie, il est possible de la modérer dans les systèmes que nous contrôlons.

Ce que c'est

Une simple phrase peut nécessiter un après-midi entier de vérification.

La règle : Bon marché à produire, coûteux à réfuter.

La loi de Brandolini, débarrassée de son langage familier, est une observation sur le coût asymétrique de la production et de la réfutation d'informations. Affirmer quelque chose de faux ou de négligent est peu coûteux car cela ne nécessite pas de fondement solide. En revanche, réfuter une telle affirmation demande du temps et des preuves. Une simple phrase de non-sens peut nécessiter un paragraphe, un graphique et plusieurs heures pour être démystifiée.

Cette asymétrie ne concerne pas seulement le temps, mais aussi la charge cognitive, l'attention et la confiance, qui sont toutes limitées. Une idée fausse simple est souvent plus facile à retenir qu'une idée correcte mais complexe. C'est pourquoi une affirmation simpliste comme "la Terre est plate" peut tenir sur un autocollant, tandis que sa réfutation nécessite des explications en physique, astronomie et une bonne dose de patience.

Ce que l'IA a changé : la production est devenue gratuite

L'élément qui devrait inquiéter les concepteurs est que l'IA générative a modifié le coût de la production d'informations, le rendant quasiment nul.

Selon NewsGuard, qui surveille les sites d'actualités peu fiables générées par l'IA dans seize langues, il y avait 3 006 sites de ce type en mars 2026, contre 2 089 en octobre de l'année précédente. Cette croissance n'est pas un phénomène isolé. L'équipe a constaté que cette catégorie de sites augmente de 300 à 500 nouveaux sites par mois. Un analyste a même démontré qu'il est possible de créer une ferme de contenu fonctionnelle pour environ 100 dollars, ce qui était autrefois l'apanage des rédactions entières.

Ce phénomène a été décrit dans des contextes plus positifs — lorsque l'exécution devient bon marché, les rituels entourant les actions rares perdent leur sens. Dans le meilleur des cas, cela signifie qu'un concepteur peut expédier un prototype rapidement. Dans le pire des cas, cela permet à un propagandiste de diffuser des centaines de faux journaux locaux en un rien de temps. Le coût de production d'un contenu plausible a chuté, et les fausses informations ont suivi le même chemin.

Ce que l'IA n'a pas changé : la réfutation reste humaine

On pourrait espérer que les outils de détection suivent le rythme de la production, mais ce n'est pas le cas, et la raison est structurelle.

Une méta-analyse regroupant 56 études et plus de 86 000 participants a révélé que la précision moyenne des humains pour détecter des deepfakes est de 55,54 %, à peine mieux que le hasard. Une autre étude de la société iProov a montré que seulement 0,1 % des participants ont correctement identifié chaque clip réel et faux qui leur a été présenté. Un sur mille.

Les machines que nous espérions voir nous sauver n'ont pas mieux réussi. NewsGuard a testé trois chatbots leaders sur des vidéos créées avec Sora d'OpenAI et a constaté que les outils échouaient à reconnaître les clips comme générés par l'IA dans 78 à 95 % des cas — y compris le propre ChatGPT d'OpenAI qui n'a pas réussi à signaler le modèle d'OpenAI.

La production peut être parallélisée sur des milliers de serveurs. La réfutation se fait un humain à la fois.

Pourquoi c'est important

Les dommages ne se limitent pas aux faux. C'est le doute jeté sur tout ce qui est réel.

Faux bon marché, doute coûteux.

Le coût évident d'une production bon marché est les mensonges qui circulent ; le coût plus profond est ce que ces faux font à tout ce qui les entoure.

Lorsque n'importe qui peut fabriquer une vidéo, un clip vocal ou un article convaincant en quelques minutes, les gens cessent de faire confiance aux véritables aussi. Un enregistrement authentique commence à porter un astérisque au lieu de l'IA, et les acteurs malveillants peuvent balayer les preuves authentiques comme "probablement générées par l'IA", et tout le monde glisse dans un doute de bas niveau à propos de tout — la capture d'écran, la citation, la photo qui aurait autrefois réglé un argument.

Les analystes du Forum économique mondial l'ont formulé simplement : savoir que des faux convaincants existent suffit à amener les gens à douter de ce qu'ils voient, y compris de la vérité.

L'asymétrie ne fait pas qu'augmenter le coût de la réfutation d'un mensonge. Elle augmente le coût de croire en quoi que ce soit.

Comment nous le corrigeons

Le signal rare et précieux est la preuve qu'un humain était là.

Premièrement, traitez-le comme un problème de conception.

Il serait facile de classer cela sous la politique, le journalisme, ou le département de quelqu'un d'autre.