Procès NYT : Microsoft et OpenAI alertaient sur un « cercle vicieux »

Des documents du procès intenté par le New York Times révèlent des avertissements internes chez Microsoft et OpenAI : un « cercle vicieux » entre modèles géants et web, avec des effets sur la performance des modèles et l’économie des sites. Les pièces mentionnent aussi la mémorisation de contenus protégés, l’absence de filtrage des paywalls et une chute potentielle du trafic de référence. Microsoft se démarque des propos d’un de ses cadres et insiste sur la cohérence de sa position en justice.

Des modèles accusés d’éroder leur propre approvisionnement en contenu

Microsoft décrit la stratégie de contenu autour des LLM comme le déclencheur d’un « cercle vicieux » nuisant à la fois à la performance des modèles et au web. Ce même document souligne qu’il est inhabituel qu’un produit final menace les fondations économiques de ses fournisseurs essentiels, ce qui serait le cas de l’activité LLM et de sa « chaîne d’approvisionnement en contenu ». Microsoft a aussi admis que les LLM constituent « un produit qui détruit sa propre chaîne d’approvisionnement ». Selon des documents internes d’OpenAI, ChatGPT est présenté comme un « kiosque à journaux moderne », tandis que Nick Turley indique qu’une fois la réponse du chatbot obtenue, il n’existe « aucune bonne raison de cliquer » sur la source. Satya Nadella a indiqué que les chatbots ont pris la place de la recherche et éliminé le besoin d’accéder à la source initiale. D’après des spécialistes des médias et de l’économie chez OpenAI, la réduction du trafic de référence pour des sites comme le New York Times est liée à des synthèses générées par l’IA, notamment les AI Overviews de Google, et ils évaluent cette baisse des références issues de la recherche à 60 %.

Données sous paywall, mémorisation et risques de reproduction

Satya Nadella a été cité en faveur du principe selon lequel « tout ce qui est payant devrait être licencié ». Un représentant d’OpenAI a admis ne pas être au courant d’initiatives visant à détecter ou retirer des données issues de contenus payants des corpus d’entraînement. Des documents internes d’OpenAI indiquent que l’entreprise savait que ChatGPT avait tendance à reproduire des passages « verbatim » de contenus protégés et soulignaient l’importance de prévenir la mémorisation pour limiter les violations de droits d’auteur. Des employés ont reconnu que GPT-4 avait mémorisé de nombreuses données et serait « incroyablement bon à régurgiter ». ChatGPT a généré de longs extraits d’articles provenant de titres de presse variés, comme le New York Times, Mercury News, Denver Post, LifeHacker et Eurogamer. Microsoft a par ailleurs reconnu que la plupart des auteurs n’avaient pas prévu ce type d’usage de leur travail et n’étaient pas rémunérés pour celui-ci.

Microsoft défend sa ligne et isole les propos de Brent Hecht

Microsoft a pris ses distances avec des affirmations attribuées à Brent Hecht. Son porte-parole Alex Haurek a déclaré que ces commentaires relèvent d’une perspective individuelle, ne constituent pas une analyse juridique et ne reflètent pas la position de l’entreprise. Dans un document judiciaire, Jordan Usdan a qualifié le rôle de Brent Hecht d’« adversarial » et affirmé qu’il est employé pour apporter des points de vue divergents, académiques et futuristes, sans parler au nom de Microsoft sur ces sujets théoriques. Alex Haurek a aussi soutenu que le témoignage de Satya Nadella et la position de Microsoft dans la procédure sont cohérents, rappelant que Nadella évoquait des principes généraux et des évolutions des usages, à distinguer des conclusions juridiques traitées dans les dépôts de l’entreprise.

Alertes internes et déclarations sur l’impact pour les éditeurs

L’introduction du dossier cite Brent Hecht et un responsable de ChatGPT d’OpenAI en lien avec l’idée d’une « menace existentielle » pour des éditeurs tels que le New York Times. Brent Hecht qualifie la collecte de données de ChatGPT et Copilot de « plus grand vol de travail de l’histoire humaine » et estime que l’argument d’« utilisation équitable » en fait une « moquerie complète ». Des déclarations de Satya Nadella, de Sam Altman et d’autres employés d’OpenAI sont également rapportées. Des alertes d’entreprise évoquent un « cercle vicieux » nuisible au web et des jugements très critiques sur la manière dont les données sont collectées et défendues juridiquement.

Objectifs financiers évoqués chez OpenAI

Greg Brockman a évoqué les « gazillions » de dollars potentiellement générés par l’IA commerciale. Jack Clark, alors directeur de la politique d’OpenAI, a décrit la création de systèmes se substituant au travail de personnes qui façonnent la « culture » de la société.