Objection : l'IA de Thiel et D’Souza défie le journalisme traditionnel

Une nouvelle ère pour la vérification du journalisme ?

Aron D’Souza, connu pour son rôle dans la chute de Gawker, lance une nouvelle startup, Objection, qui promet de révolutionner la manière dont le journalisme est évalué. Soutenue par des figures influentes comme Peter Thiel et Balaji Srinivasan, Objection se propose d'utiliser l'intelligence artificielle pour juger de la véracité des articles de presse. Pour un montant de 2 000 dollars, n'importe qui peut contester un article, déclenchant une enquête publique sur ses affirmations.

D’Souza est également le fondateur des Enhanced Games, une compétition de style olympique qui autorise les drogues améliorant la performance et qui doit faire ses débuts à Las Vegas le mois prochain. Cette initiative montre son approche non conventionnelle pour aborder des secteurs établis.

Un financement de poids et une vision controversée

Lancée avec des "millions" de dollars en financement initial, Objection bénéficie du soutien de sociétés de capital-risque telles que Social Impact Capital et Off Piste Capital. Thiel, qui a précédemment financé des actions en justice contre les médias pour défendre la vie privée, voit en Objection un moyen de restaurer la confiance dans le Quatrième Pouvoir. Cependant, des critiques s'inquiètent de l'impact potentiel sur la liberté de la presse, notamment en ce qui concerne les reportages basés sur des sources confidentielles.

Les critiques, y compris des avocats spécialisés dans les médias, mettent en garde contre le fait qu'Objection pourrait rendre plus difficile la publication de reportages qui tiennent les institutions puissantes responsables, en particulier si ces reportages reposent sur des sources confidentielles. Les sources anonymes ont joué un rôle clé dans des enquêtes majeures primées sur la corruption et les méfaits des entreprises. Ce sont souvent des personnes qui risquent de perdre leur emploi ou de faire face à d'autres représailles pour avoir partagé des informations importantes.

Les sources anonymes sous pression

Les sources anonymes ont historiquement joué un rôle crucial dans les enquêtes journalistiques, mais Objection pourrait changer la donne. D’Souza affirme que les articles reposant sur des sources anonymes non vérifiées se verront attribuer un score de confiance plus bas. Les documents officiels et vérifiables, tels que les dépôts réglementaires, seront privilégiés. Cette approche pourrait décourager les lanceurs d'alerte, selon les experts, en raison des risques accrus pour ceux qui partagent des informations sensibles.

Il incombe aux journalistes — ainsi qu'aux rédacteurs, collègues et avocats de leur publication — de s'assurer que ces sources sont fiables et n'agissent pas par pure malveillance, et de vérifier les informations qu'elles fournissent. Mais cela ne suffit pas à D’Souza, qui a déclaré que "l'utilisation d'une source entièrement anonymisée qui n'a pas été vérifiée de manière indépendante" entraînerait un score de preuve et de confiance plus bas sur Objection.

Un système de vérification controversé

Objection propose un "Honor Index", un score numérique censé refléter l'intégrité des journalistes. Ce système s'appuie sur des contributions de freelances, y compris d'anciens agents des forces de l'ordre et des journalistes d'investigation. Les critiques soulignent que ce système pourrait être utilisé par les puissants pour faire pression sur les médias, d'autant plus que le coût de 2 000 dollars par objection est accessible aux entreprises et individus fortunés.

Sa solution présente un dilemme pour les journalistes : soit divulguer des informations sensibles sur leurs sources à la "hash cryptographique" d'Objection qui détermine "si c'est un reportage de haute qualité", soit faire face à des pénalités pour avoir protégé des sources qui partagent des informations importantes à un grand risque personnel. Si une technologie comme Objection prend de l'ampleur, cela pourrait décourager les lanceurs d'alerte, soutiennent les experts.

La technologie face à la tradition journalistique

D’Souza défend Objection comme un outil de vérification des faits, similaire aux Community Notes de [X]. Cependant, des voix comme celle de Jane Kirtley, professeure de droit des médias, expriment des doutes sur la capacité de l'IA à évaluer la vérité mieux qu'un journaliste expérimenté. Le système repose sur des grands modèles de langage de OpenAI, Anthropic, xAI, Mistral, et Google, mais la question de la transparence et des biais inhérents à l'IA reste posée.

Kyle Grant-Talbot, ancien ingénieur de la NASA et de SpaceX, dirige le développement technique de la plateforme, assurant que la rigueur scientifique est appliquée aux disputes sur les faits.

La proposition arrive alors que les systèmes d'IA eux-mêmes font face à un examen minutieux concernant les biais, les hallucinations et la transparence — tous des éléments qui pourraient compliquer leur utilisation en tant qu'arbitres de la vérité.

Un impact potentiel sur le paysage médiatique

Objection pourrait s'appliquer à divers contenus, des articles aux podcasts, mais se concentre principalement sur les médias écrits. Chaque objection est limitée à une allégation factuelle spécifique, permettant de multiples contestations sur un même article. Toutefois, même si aucune erreur n'est trouvée, l'outil "Fire Blanket" peut semer le doute en signalant les articles en cours d'examen.

Eugene Volokh, spécialiste du premier amendement, considère la plateforme comme une extension des critiques existantes du journalisme. Pourtant, des questions persistent sur l'impact de cette technologie sur la liberté d'expression et la protection des sources, des éléments essentiels pour un journalisme d'investigation efficace.

Le système évalue uniquement les preuves qui lui sont soumises, soulevant des questions sur la manière dont il traite les informations incomplètes ou non divulguées. Les journalistes peuvent soumettre leurs propres preuves pour protéger leur réputation, mais cela exige qu'ils participent à un système dans lequel ils ne se sont pas engagés.

Chris Mattei, avocat spécialisé dans le premier amendement et la diffamation, a critiqué la plateforme comme un 'racket de protection high-tech pour les riches et puissants'. Selon lui, à une époque où tant de gens essaient d'obscurcir la vérité, il est crucial d'encourager les lanceurs d'alerte ayant connaissance de méfaits.

Lorsqu'on lui a demandé comment il empêcherait les abus, tels que des entreprises ciblant des couvertures défavorables ou le système lui-même manquant d'informations sensibles, D’Souza a déclaré que les journalistes peuvent soumettre leurs propres preuves pour protéger leur réputation. Cela exige effectivement que les journalistes participent à un système dans lequel ils ne se sont pas engagés, un système qui pourrait encore mettre leur crédibilité en jeu. S'ils ne le font pas, le système peut retourner un résultat "indéterminable", pouvant potentiellement jeter le doute sur un reportage qui est exact mais difficile à vérifier publiquement.

Même lorsque Objection ne trouve aucun problème avec un article, une fonctionnalité complémentaire appelée "Fire Blanket" peut toujours introduire des doutes sur sa crédibilité. Cet outil, actuellement actif sur X via les APIs de la plateforme, signale les revendications contestées en temps réel en publiant des avertissements — injectant les propres étiquettes "sous enquête" de la société dans les conversations publiques pendant que la revendication est encore en cours d'examen.

Eugene Volokh, un spécialiste du premier amendement à l'UCLA, a déclaré que la plateforme elle-même ne violerait probablement pas les protections de la liberté d'expression, la considérant plutôt comme faisant partie de l'écosystème plus large de critiques qui entoure le journalisme. Il a comparé le concept à la recherche d'opposition visant les journalistes plutôt que les politiciens, et a rejeté l'idée qu'elle aurait un effet dissuasif sur les lanceurs d'alerte.

"Toute critique crée un effet dissuasif", a-t-il déclaré à TechCrunch.

Que quiconque l'adopte, ou simplement l'ignore, pourrait déterminer si Objection redessine le journalisme ou s'il s'efface dans l'écosystème croissant d'outils tentant de le faire.

Ou comme l'a dit Kirtley : "Pourquoi croiriez-vous que l'IA vous donnerait nécessairement des informations plus fiables sur la vérité ou la fausseté d'un fait qu'un journaliste qui a recherché et écrit l'histoire ? Je veux dire, pourquoi supposeriez-vous cela ? Je ne le supposerais pas du tout."