Grammarly utilise nos identités sans autorisation

Grammarly utilise nos identités sans autorisation

La fonctionnalité "expert review" de Grammarly propose aux utilisateurs des conseils d'écriture "inspirés par" des experts en la matière, y compris des professeurs récemment décédés, comme l'a rapporté Wired mercredi. En testant cette fonctionnalité, j'ai découvert des experts qui m'ont surpris pour une autre raison : l'un d'eux était mon patron.

Les retours générés par l'IA incluaient des commentaires qui semblaient provenir du rédacteur en chef de The Verge, Nilay Patel, ainsi que des rédacteurs en chef David Pierce et Sean Hollister, et de Tom Warren, aucun d'entre eux n'ayant donné son autorisation à Grammarly pour les inclure dans les "expert reviews".

La fonctionnalité, lancée en août, prétend aider à "affiner votre message à travers le prisme de perspectives pertinentes pour l'industrie." Lorsque les utilisateurs sélectionnent le bouton "expert review" dans la barre latérale de Grammarly, celle-ci analyse leur écriture et propose des suggestions générées par l'IA "inspirées par" des experts associés. Ces "perspectives pertinentes pour l'industrie" incluent des personnalités telles que Stephen King, Neil deGrasse Tyson, et Carl Sagan, parmi tant d'autres.

The Verge a également trouvé de nombreux autres journalistes technologiques mentionnés dans cette fonctionnalité, y compris d'anciens rédacteurs de Verge comme Casey Newton et Joanna Stern, ainsi que Monica Chin, Lauren Goode de Wired, Mark Gurman et Jason Schreier de Bloomberg, Kashmir Hill du New York Times, Kaitlyn Tiffany de The Atlantic, Wes Fenlon de PC Gamer, Raymond Wong de Gizmodo, Richard Leadbetter, fondateur de Digital Foundry, Mark Spoonauer, rédacteur en chef de Tom's Guide, Katharine Castle, ancienne rédactrice en chef de Rock Paper Shotgun, et Kat Bailey, ancienne directrice des nouvelles d'IGN. Les descriptions de certains experts contiennent des inexactitudes, telles que des titres de poste obsolètes, qui auraient pu être mises à jour avec précision si Superhuman avait demandé la permission à ces personnes de référencer leur travail.

Dans une déclaration à The Verge, Alex Gay, vice-président produit et marketing corporate chez Superhuman, la société mère de Grammarly, a commenté : "L'agent Expert Review ne prétend pas à un soutien ou à une participation directe de ces experts ; il fournit des suggestions inspirées par les travaux d'experts et oriente les utilisateurs vers des voix influentes dont ils peuvent ensuite explorer les travaux plus en profondeur."

Lorsqu'on lui a demandé si Superhuman avait envisagé de notifier les personnes nommées dans sa fonctionnalité IA ou de demander leur permission, Gay a répondu : "Les experts dans Expert Review apparaissent parce que leurs travaux publiés sont disponibles publiquement et largement cités."

Cependant, le travail des experts s'est avéré difficile à "explorer plus en profondeur". La fonctionnalité plantait fréquemment et ses "sources" renvoyaient à des copies spammy de sites légitimes, ou à d'autres copies archivées qui n'étaient pas la véritable page source.

Certaines sources renvoyaient même à des liens complètement non liés qui n'étaient pas écrits par la personne dont le travail était supposément un exemple, ce qui pourrait indiquer que les suggestions offertes par l'IA de Grammarly avec le nom d'une personne peuvent être basées sur le travail d'une autre personne. Cela n'est apparent que si les utilisateurs cliquent sur "voir plus" pour développer les suggestions, puis cliquent sur le bouton "source" à la fin de la suggestion.

De plus, la manière dont les suggestions sont présentées pourrait prêter à confusion. Dans Google Docs, les suggestions ressemblent à des commentaires de véritables utilisateurs, simulant ainsi l'expérience de recevoir des modifications de l'expert que l'IA imite. Une suggestion de l'IA de Grammarly "inspirée par" le rédacteur senior de Verge, Sean Hollister, concernait l'ajout d'une parenthèse avec un contexte déjà inclus ailleurs. Le seul problème est que j'ai en fait été édité par le véritable Sean Hollister, qui préfère éviter les explications répétitives ou inutiles tout en utilisant un langage et une organisation clairs.

Si j'avais suivi ce conseil et l'avais soumis à lui, le véritable Sean aurait probablement supprimé la parenthèse suggérée par Grammarly. Une IA peut ingérer d'énormes quantités d'écrits d'une personne et apprendre à les imiter, certes, mais cette même stratégie ne peut pas enseigner à une IA comment éditer de la manière dont cette personne le ferait, uniquement sur la base des écrits qu'elle a publiés, même si vous donnez au bot un logo de coche et l'appelez "expert".