Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
OpenAI propose à des clients triés un nouveau dispositif automatisé de détection d'abus, décrit comme n’enregistrant aucune donnée client. Cette approche s’oppose à la conservation 30 jours instaurée par Anthropic pour certains modèles, au moment où les deux laboratoires disputent parts de marché et financements.
Anthropic estimé à 65 milliards, IPO évoquée à 2 trillions
Les chiffres sont également un terrain de confrontation. D'après un rapport publié récemment, Anthropic a connu une croissance plus rapide qu’OpenAI au deuxième trimestre. L’estimation du revenu annualisé d’Anthropic atteint 65 milliards de dollars. Des investisseurs d’Anthropic ont par ailleurs déclaré qu’elle pourrait entrer en bourse à 2 trillions de dollars. OpenAI travaille également sur son introduction en bourse. Les deux entreprises cherchent des points d’appui pour se différencier.
OpenAI présente Private Safety Processing à des clients sélectionnés
OpenAI a annoncé une approche de sécurité axée sur la vie privée afin de détecter les abus d’usage. L’entreprise présente un nouveau service à des clients sélectionnés, Private Safety Processing, décrit comme automatisé et ne conservant aucune donnée client. Ce positionnement est affiché en contraste avec la politique récente de conservation des données d’Anthropic.
ZDR déjà disponible : surveillance par session sans conservation
OpenAI propose déjà la Zero Data Retention (ZDR), qui s’appuie sur des agents au sein de son API pour surveiller les abus au niveau d’une session. Ce cadre assure que les données des clients ne sont pas conservées par l’entreprise, tout en permettant la détection d’activités suspectes sans intervention humaine. Anthropic indique respecter largement cette pratique, à l’exception des modèles couverts, comme Fable.
Anthropic conserve 30 jours pour Mythos et futurs modèles similaires
Anthropic a annoncé en juillet une politique permettant de conserver pendant 30 jours les données des utilisateurs pour des « modèles couverts ». Cette catégorie inclut tous les modèles de la classe Mythos et de futurs modèles ayant des capacités similaires, selon l’entreprise. Anthropic justifie cette mesure par des impératifs de sécurité, afin de filtrer et analyser des comportements potentiellement inappropriés. L’examen humain des données peut avoir lieu par un chemin d’accès contrôlé impliquant un petit ensemble de réviseurs approuvés, chaque session étant inscrite dans un journal à l’épreuve des falsifications que les réviseurs ne peuvent ni supprimer ni modifier. Cette conservation a toutefois suscité de fortes préoccupations chez des entreprises manipulant des données sensibles qui refusent qu’elles soient conservées ou inspectées.
Détection multi‑sessions sans examen humain, signaux et application
OpenAI décrit Private Safety Processing comme une solution qui prolonge la ZDR afin de permettre une surveillance sur une période plus étendue, en prenant en compte les entrées et sorties sur plusieurs échanges et non plus sur un seul. Le mécanisme de détection utilise un agent capable, lorsqu’il est activé, de collecter des interactions et de les examiner sur plusieurs sessions pour identifier d’éventuels indices d’abus. D’après un porte-parole, l’outil cible en particulier les usages malveillants qui s’étalent dans le temps, comme lorsqu’un individu tente de créer un logiciel malveillant pour une cyberattaque en dispersant ses demandes, tout cela sans que les conversations d’un utilisateur soient examinées par un humain. Si l’agent est déclenché, le système peut transmettre à OpenAI un signal précis, afin que l’entreprise puisse déterminer si une intervention est requise. Dans ce cas, OpenAI sollicite le client pour obtenir des informations complémentaires ou collaborer à la résolution du problème ; le client conserve la possibilité de transmettre ou non des données à OpenAI, selon sa propre décision. Ce changement intervient dans un contexte où la montée en puissance des modèles augmente les risques d’abus, alors que la demande de mesures de protection s’intensifie et que les fournisseurs doivent équilibrer la protection de la vie privée des clients avec la nécessité de surveiller les usages.
