Grammarly m'a transformé en éditeur IA contre ma volonté et je déteste ça

Grammarly m'a transformé en éditeur IA contre ma volonté et je déteste ça

J'ai appris vendredi avec surprise que j'étais devenu un éditeur pour Grammarly. Cet assistant d'écriture basé sur un abonnement a introduit une fonctionnalité appelée « expert review » qui, selon les mots de l'entreprise, « est conçue pour élever votre écriture à un niveau supérieur — avec des insights de professionnels, d'auteurs et d'experts en la matière ».

Cependant, en lisant un peu plus loin, vous découvrirez que ces « insights » ne proviennent pas réellement de professionnels de premier plan, ni de quiconque d'humain. En réalité, il s'agit de texte généré par IA, qui peut ou non refléter les opinions des « experts » que Grammarly a associés à leurs noms.

« Les références aux experts dans l'Expert Review sont uniquement à des fins d'information et n'indiquent aucune affiliation avec Grammarly ou approbation par ces individus ou entités », indique un avertissement quelques centaines de mots plus bas sur la page d'assistance.

Étant donné la promesse citée ci-dessus et le design très trompeur de la fonctionnalité, on pourrait vous pardonner de penser autrement.

L'« expert review » a attiré mon attention via The Verge, qui rapporte que la fonctionnalité a été lancée en août dernier. Stevie Bonifield écrit que parmi les « experts » ainsi utilisés figurent des auteurs célèbres comme Stephen King, Neil deGrasse Tyson et Carl Sagan. Cela m'incluait également. Bonifield mentionne que The Verge a trouvé de nombreux autres journalistes tech nommés dans cette fonctionnalité, y compris d'anciens rédacteurs en chef de The Verge comme Casey Newton et Joanna Stern, ainsi que d'autres journalistes de Wired, Bloomberg, The New York Times, et bien d'autres.

Les descriptions de certains experts contiennent des inexactitudes, telles que des titres de poste obsolètes, qui auraient pu être mis à jour avec précision si [l'entreprise] avait demandé la permission à ces personnes de référencer leur travail.

En effet, personne ne m'a demandé la permission d'utiliser mon nom de cette manière, encore moins de me compenser pour le travail d'expert que mon clone IA était apparemment en train de faire en mon nom. (Un abonnement annuel à Grammarly coûte 144 $.)

J'ai longtemps supposé qu'un jour, l'IA pourrait prendre mon emploi. Je pensais simplement que quelqu'un me préviendrait lorsque cela arriverait.

J'étais extrêmement agacé par Grammarly, qui agit avec le même sens de l'entitlement destructeur du web qui définit l'industrie moderne de l'IA. En même temps, j'éprouvais une curiosité morbide quant à la qualité de ces expert reviews, et de Grammarly en général. Je demande régulièrement des corrections à des chatbots et je remarque que leurs suggestions se sont considérablement améliorées au cours de l'année passée. Mais il ne me viendrait jamais à l'esprit de payer pour un abonnement séparé juste pour un assistant d'écriture — surtout en sachant que Grammarly revend simplement des jetons d'OpenAI et d'autres fournisseurs de LLM avec une majoration.

Mais tout le monde n'est pas prêt à copier et coller leur Google Doc dans une fenêtre ChatGPT et demander une correction. Grammarly affirme avoir 40 millions d'utilisateurs quotidiens, et il était temps pour moi de voir ce qu'ils obtenaient. (Et ce que « je » leur donnais.)

Essai de la fonctionnalité

Je me suis inscrit pour un essai gratuit du produit payant de l'entreprise et je me suis mis au travail. D'abord, j'ai collé le premier brouillon du compte rendu de ma collègue Ella Markianos sur une manifestation chez OpenAI. Ensuite, j'ai cliqué sur le bouton « expert review » — l'un des douze outils que Grammarly propose dans son produit payant, qui pourrait être généreusement décrit comme un prompt ChatGPT transformé en bouton.

Dans ma propre édition du (super) article d'Ella, j'ai suivi le système transmis au fil de milliers de corrections que j'ai reçues au fil des ans de mes collègues journalistes. Pourrions-nous resserrer le lede ? Simplifier certaines parties ? J'ai pris des notes et je me suis demandé si nous pourrions utiliser l'histoire d'une manifestation pour explorer le plus grand retour de bâton contre l'IA, et si oui, quel contexte et quelle analyse nous pourrions vouloir ajouter, et où. Ella et moi avons échangé plusieurs fois, itérant progressivement jusqu'à ce que nous soyons tous deux satisfaits du résultat.

L'« expert review » dans Grammarly ne fonctionne pas de cette manière. Honnêtement, cela ne ressemble pas vraiment à une révision. Après avoir cliqué sur le bouton, une boîte s'est ouverte pour m'expliquer ce qui se passait. Une série de noms d'experts est apparue devant moi — chacun semblant moins susceptible d'avoir jamais accepté cela que le précédent. Il y avait Shoshana Zuboff, l'auteure qui a popularisé le terme « capitalisme de surveillance », et qui s'est insurgée contre la nature extractive de Big Tech. Il y avait Claire Wardle, une chercheuse sur la désinformation dont le travail examine comment rendre les communautés plus résistantes à la propagande et aux canulars. (J'en ai un pour elle !)

Et là, flottant près du haut du brouillon, se trouvait John Carreyrou, le journaliste d'investigation et auteur à succès qui a mis à mal Theranos.