Apple craint des secrets irrécupérables intégrés à l’IA

Dans sa procédure contre OpenAI, Apple alerte sur un risque d’« usages irréversibles » lorsque des secrets commerciaux sont absorbés par des agents ou des modèles d’IA. Des juristes évoquent des remèdes classiques, mais des chercheurs décrivent des limites techniques au « désapprentissage » des modèles.

Retirer un secret d’un modèle peut exiger un lourd désapprentissage

Sijia Liu, professeur d’informatique à l’Université d’État du Michigan, explique que retirer des informations sensibles ayant servi à entraîner ou affiner un modèle d’IA nécessite un processus distinct, souvent très exigeant en ressources. Il précise qu’il est difficile de mesurer l’influence d’une donnée et qu’il faut définir précisément la capacité à supprimer. Si un fichier sensible n’est que stocké dans un référentiel utilisé par une IA, il peut suffire de le supprimer. Liu propose aussi de mettre en place un système de détection pour signaler les requêtes ou échanges sensibles entre agents et déclencher un arrêt immédiat, tout en soulignant qu’il ne s’agit pas d’un véritable désapprentissage, mais d’une solution plus praticable. Selon lui, l’IA pourrait ainsi multiplier les risques de perte de contrôle sur les secrets commerciaux.

Apple décrit un risque d’usages « irréversibles » et demande d’aller vite

Apple affirme que l’intégration de secrets commerciaux dans des agents ou modèles d’IA peut entraîner des usages irréversibles et diffusants. L’entreprise ajoute que ces atteintes sont difficiles à annuler et nécessitent une enquête rapide. Elle exprime ces préoccupations dans un dépôt qui insiste sur le caractère irréversible potentiel et sur la complexité technique, point également relevé par des experts. Si l’utilisation continue d’informations confidentielles par un concurrent n’est pas nouvelle, l’IA pose la question de la reprise de contrôle une fois les secrets incorporés dans un système.

Le droit offre des remèdes existants, selon une professeure de Rutgers

Camilla Hrdy, professeure de droit à Rutgers, observe que les employés transportent déjà leurs connaissances et que leur intégration dans des systèmes d’IA peut entraîner une perte de contrôle, une situation qu’elle considère comme nouvelle. Elle estime toutefois qu’il n’est pas nécessaire, à ce stade, de créer de nouveaux outils juridiques. Les recours existants incluent des injonctions de cesser l’usage des secrets, l’interdiction de leur divulgation et des mesures de protection. Les dommages peuvent être évalués selon les pertes réelles subies ou, dans certains cas, par des redevances versées à l’entreprise lésée.

Procédures en cours : Apple attaque OpenAI, l’affaire xAI a été rejetée

Apple a engagé des poursuites contre OpenAI, accusant d’anciens membres de son personnel d’avoir exploité ses secrets industriels. Dans un mémoire additionnel présenté un lundi pour soutenir une requête de découverte accélérée, Apple indique qu’un ancien collaborateur aurait utilisé ces secrets au cours de son passage chez OpenAI et évoque le recours à des agents d’IA pour apprendre à réaliser des simulations, estimant que ces éléments vont au-delà d’un simple vol de documents. Parallèlement, xAI a accusé OpenAI d’avoir débauché du personnel pour s’approprier la technologie de Grok, soutenant qu’un ex-ingénieur, Xuechen Li, conservait l’intégralité du code source de xAI dans son cloud personnel, avec un compte ChatGPT connecté comme Source et un accès possible d’OpenAI à ces fichiers. Un juge a rejeté la plainte de xAI en juin.

Scénarios de fuite : intégration dans des modèles et bases consultées par l’IA

Plusieurs scénarios illustrent comment des secrets commerciaux peuvent se propager : un employé transférant des informations confidentielles chez un concurrent et les intégrant à un agent ou un modèle d’IA, ou encore des secrets placés dans une base de connaissances qu’une IA pourrait interroger à la demande de collègues. L’utilisation continue de données confidentielles par un concurrent est un problème ancien et des recours juridiques existent, mais l’intégration dans des systèmes d’IA ajoute une complexité spécifique.