Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Authors Guild : détecteurs d'IA en désaccord sur les textes
Dans un test réalisé par l'Authors Guild, les détecteurs d'IA de Pangram et Grammarly ont correctement identifié chaque texte écrit par des humains comme étant humain. Originality.ai a également bien performé. Le test a utilisé dix articles de la Guilde publiés entre 2020 et 2022, avant que l'IA générative ne devienne courante. Sidekicker a obtenu les pires résultats, chaque article étant signalé comme principalement généré par l'IA, avec deux articles marqués à 100 %. ZeroGPT s'est également révélé peu fiable, signalant parfois des pourcentages élevés d'IA pour tous les textes écrits par des humains.
Les faux positifs peuvent coûter cher aux auteurs
Cependant, la plus ancienne et la plus grande organisation professionnelle pour les écrivains avertit que même les outils les plus performants ne devraient jamais être la seule base d'une décision. Ces outils changent constamment, et leur précision ne peut pas être considérée comme acquise. Le PDG de Pangram, Max Spero, a récemment expliqué que son détecteur est essentiellement une boîte noire, sans moyen d'expliquer en détail pourquoi un texte est signalé comme généré par l'IA. Les modèles de langage se trahissent par leur uniformité, notamment dans la manière dont ils construisent des arguments. Les humains écrivent avec beaucoup plus de variété, a déclaré Spero.
Les textes écrits professionnellement partagent de nombreux modèles statistiques similaires à ceux des sorties d'IA, selon l'Authors Guild, simplement parce que les modèles de langage ont été formés sur ce type d'écriture. Les résultats erronés peuvent coûter aux auteurs leurs contrats et leur réputation, il est donc essentiel que les éditeurs divulguent leurs méthodes et donnent toujours aux auteurs la possibilité de se défendre.
Cela crée un paradoxe troublant. Un écrivain qui a passé des décennies à perfectionner la clarté, l'économie et la précision écrit, par définition, d'une manière qui chevauche ce que l'IA a appris à produire. Les outils de détection ne peuvent pas faire la distinction entre un écrivain humain qui a maîtrisé son art et une machine qui a appris à l'imiter, car au niveau où ces outils opèrent, il peut y avoir peu de différences à trouver.
Cela dit, le fait que Pangram et Originality identifient de manière fiable les textes écrits par des humains comme étant humains ne signifie pas nécessairement qu'ils sont également bons pour détecter ceux générés par l'IA. Les résultats montrent principalement que ces outils sont réglés pour minimiser les faux positifs, évitant les cas où un texte humain est à tort signalé comme étant de l'IA. De nombreux textes écrits par ou avec l'IA pourraient encore passer inaperçus. La fiabilité démontrée dans ce test s'applique avant tout à la reconnaissance correcte de l'écriture humaine.
Le débat culturel autour de la détection
Des erreurs continueront à se produire, et c'est pourquoi l'utilité de ces détecteurs est souvent remise en question. Cela est particulièrement vrai puisque l'IA peut être un outil d'écriture véritablement utile, et le débat plus large confond souvent l'utilisation de l'IA pour écrire avec l'utilisation de l'IA pour penser.
Les défenseurs des détecteurs, comme le PDG de Pangram, Max Spero, justifient leur modèle économique en soulignant un contrat social entre l'écrivain et le lecteur. L'écrivain investit du temps et des efforts pour façonner une idée ; le lecteur investit du temps pour s'y engager. Si l'IA réduit le coût de l'écriture à zéro, de mauvaises incitations en découlent, et les gens inondent Internet de contenu sans valeur qui prend plus de temps aux lecteurs à consommer qu'il n'en a fallu à l'auteur pour le produire, a déclaré Spero.
Que la valeur d'un texte provienne de la frappe ou de la sélection du sujet, de l'idée, de la perspective, de l'histoire, de la recherche, de l'argument et du jugement qui le sous-tendent, c'est une question totalement différente. Il en va de même pour savoir si la détection de texte par l'IA peut réellement faire quoi que ce soit contre l'inondation de contenu sans valeur.
