Pangram lève 9 millions pour contrer l'invasion de contenu IA

Pangram lève des fonds pour lutter contre le contenu IA

La startup basée à New York, Pangram, se positionne comme un acteur clé dans la lutte contre la prolifération de contenu généré par l'intelligence artificielle sur Internet. Avec une récente levée de fonds de 9 millions de dollars, Pangram mise sur l'augmentation de la demande pour des outils capables de différencier le contenu créé par des humains de celui produit par des machines.

Ce financement, dirigé par Menlo Ventures et soutenu par des investisseurs tels que Haystack, ScOp, Script Capital, et Cadenza, coïncide avec le lancement de leur modèle de détection de texte IA de nouvelle génération, Pangram 4, ainsi que d'un modèle de détection d'images IA, Pangram Image.

Précision et innovation technologique

Pangram affirme que son nouveau modèle de détection de texte atteint une précision de plus de 99% pour identifier les écrits assistés par l'IA ainsi que le contenu mixte humain-IA. Ce modèle est également conçu pour détecter plus facilement les programmes d'humanisation de l'IA. Quant au détecteur d'images IA, il est actuellement en phase de recherche, mais Pangram prévoit de le rendre plus accessible dans les semaines à venir.

Les fondateurs de Pangram, Max Spero et Bradley Emi, diplômés de Stanford en intelligence artificielle et apprentissage automatique, ont lancé l'entreprise il y a environ deux ans, peu après l'apparition de ChatGPT. Ce dernier a considérablement augmenté la présence de bots et de contenu SEO généré par l'IA sur Internet, ainsi que ce que Spero décrit comme des « campagnes de désinformation russes alimentées par des LLM et de campagnes influencées par les Émirats sur Twitter ».

Un enjeu de confiance dans l'information

Max Spero a souligné l'importance de savoir si le contenu que l'on consulte est généré par l'IA ou non. Selon lui, cela modifie la manière dont les gens perçoivent le texte, influençant leur niveau de scepticisme et de confiance. Il est crucial de savoir si l'on doit se méfier des hallucinations potentielles de l'IA ou si l'on peut se fier à un contenu bien recherché par un journaliste.

Le système de détection de Pangram repose sur un grand modèle d'apprentissage automatique, entraîné sur des millions de documents humains connus. La startup a ensuite créé un « miroir synthétique » pour chaque document, imitant le sujet, la longueur et le ton, mais rédigé par un modèle de langage avancé.

Détection des niveaux d'assistance IA

Pour Pangram, la détection de l'IA ne se limite pas à déterminer si un texte est entièrement écrit par l'IA. Il s'agit aussi de discerner les niveaux d'assistance de l'IA, par exemple lorsqu'une personne rédige un texte et demande ensuite à l'IA de le modifier ou de l'améliorer. Spero estime que l'assistance de l'IA peut être acceptable, à condition que l'auteur divulgue son utilisation de l'IA.

L'impact croissant de l'IA

L'émergence de Pangram intervient à un moment où l'usage de l'IA devient de plus en plus courant. Dans certains cas, des erreurs dues à l'IA entraînent des moqueries, comme pour un politicien canadien lisant une invite IA lors d'un discours. Dans d'autres cas, comme pour des avocats utilisant de fausses citations générées par ChatGPT, les conséquences peuvent être des sanctions et des amendes.

Cette situation ne se limite pas à des embarras individuels ou des sanctions, elle commence aussi à influencer les règles institutionnelles. Par exemple, l'archive en accès libre arXiv a mis en place une politique stipulant que les soumissions contenant des preuves d'une non-vérification par les auteurs des sorties des LLM peuvent entraîner une interdiction de soumission d'un an.

Une concurrence féroce

Pangram n'est pas seule sur ce marché. Des concurrents comme Winston AI, Originality.ai, Copyleaks, et GPTZero développent également leurs propres détecteurs pour répondre à cette demande croissante.

La technologie de Pangram, bien que non parfaite, pourrait jouer un rôle crucial dans la résistance à l'acceptation généralisée du contenu IA qui inonde Internet, les tribunaux et les publications académiques.

Accessibilité et intégration

Les utilisateurs peuvent accéder à Pangram via un abonnement de 20 dollars par mois sur le web ou télécharger l'extension Chrome, qui étiquette automatiquement les publications en temps réel sur X, LinkedIn, Substack, Reddit, et Medium. Elle fournit également un score de santé du fil d'actualité avec un pourcentage de répartition entre le contenu humain et celui de l'IA sur votre écran.

Pangram propose également sa technologie via une API. Notamment, Substack a récemment intégré la technologie de Pangram dans sa plateforme pour montrer aux lecteurs quels de leurs auteurs préférés utilisent l'IA pour rédiger leurs newsletters. D'autres clients API incluent Quora, des écoles et universités, des éditeurs et agents, ainsi que des recruteurs, parmi d'autres, selon Spero.

Performance de Pangram

Pangram a démontré sa capacité à détecter du contenu généré par l'IA, même lorsqu'il est légèrement modifié par un humain. Spero a déclaré qu'environ un document humain sur 10 000 était incorrectement étiqueté comme étant de l'IA avec le modèle de Pangram. Lors de tests, le modèle de détection de texte a montré une grande efficacité, signalant facilement des articles de presse entièrement générés par l'IA et résistant à mes tentatives de rendre le texte généré par l'IA plus humain.

Cependant, Pangram a également signalé certaines phrases que j'avais complètement réécrites comme étant écrites par l'IA. Le modèle n'a pas été trompé par mes tentatives de contourner les détecteurs d'IA avec ChatGPT et Claude.

En testant Pangram avec un de mes articles amélioré par ChatGPT et Claude, le modèle a donné un score d'assistance IA de 13%, ce qui reflétait probablement la réalité. Il a détecté des changements subtils de choix de mots dans certaines phrases, mais en a ignoré d'autres. Notamment, lorsque j'ai soumis l'article original, Pangram l'a classé comme 100% humain.

Détection d'images IA

Le modèle de détection d'images IA de Pangram s'est également révélé impressionnant. Contrairement aux vérifications basées sur des filigranes d'OpenAI ou de Google DeepMind, qui détectent principalement leur propre output, Pangram analyse les distributions au niveau des pixels pour apprendre des différences statistiques subtiles entre les vraies photos et les images générées par l'IA.

Dans mes tests, le modèle a facilement détecté des images générées par l'IA, qu'elles soient photoréalistes ou de style cartoon. Il a même pu identifier une image IA intégrée dans une photo du monde réel, bien qu'il ait parfois incorrectement étiqueté une photo d'une image générée par l'IA comme contenu humain.

Vers un avenir avec plus de contenu IA

Spero a exprimé sa volonté de ne pas transformer sa technologie en outil de chasse aux sorcières contre ceux qui utilisent l'IA pour écrire, mais il insiste sur la nécessité de contrer le contenu de mauvaise qualité. « L'avenir que je vois est que le contenu généré par l'IA continue de proliférer », a-t-il déclaré. « Nous obtenons de nouveaux GPU plus rapidement que de nouvelles personnes ne naissent. Si nous ne faisons pas activement la distinction en faveur du contenu humain, alors nous allons juste voir de plus en plus d'IA, et cela va étouffer tout signal humain que nous avons. »