L’IA et sa régulation t’intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Une fonctionnalité controversée chez Grammarly
La fonctionnalité "expert review" de Grammarly, récemment mise en lumière par Wired, a suscité un tollé en raison de son utilisation non autorisée des identités d'experts pour fournir des conseils d'écriture. Cette fonctionnalité, qui prétend s'inspirer de figures influentes, inclut même des professeurs récemment décédés. Lors d'un test de cette fonctionnalité, un utilisateur a découvert que son propre patron, rédacteur en chef de The Verge, était listé comme expert sans avoir donné son accord.
Les suggestions générées par l'IA de Grammarly comprenaient des commentaires attribués à Nilay Patel, rédacteur en chef de The Verge, ainsi qu'à d'autres rédacteurs comme David Pierce, Sean Hollister et Tom Warren. Aucun d'eux n'avait consenti à l'utilisation de leur nom pour cette fonctionnalité. Grammarly a lancé cette fonctionnalité en août, promettant d'affiner les messages des utilisateurs grâce à des perspectives pertinentes pour l'industrie.
Des experts de renom sans autorisation
Parmi les personnalités citées, on retrouve des figures emblématiques telles que Stephen King, Neil deGrasse Tyson et Carl Sagan. The Verge a également identifié de nombreux journalistes technologiques mentionnés, tels que Casey Newton, Joanna Stern, et Monica Chin. Des inexactitudes dans les descriptions des experts, comme des titres de poste obsolètes, soulignent l'absence de vérification et de mise à jour des informations par Grammarly.
The Verge a également trouvé de nombreux autres journalistes technologiques mentionnés dans cette fonctionnalité, y compris d'anciens rédacteurs de Verge comme Casey Newton et Joanna Stern, ainsi que Monica Chin, Lauren Goode de Wired, Mark Gurman et Jason Schreier de Bloomberg, Kashmir Hill du New York Times, Kaitlyn Tiffany de The Atlantic, Wes Fenlon de PC Gamer, Raymond Wong de Gizmodo, Richard Leadbetter, fondateur de Digital Foundry, Mark Spoonauer, rédacteur en chef de Tom's Guide, Katharine Castle, ancienne rédactrice en chef de Rock Paper Shotgun, et Kat Bailey, ancienne directrice des nouvelles d'IGN. Les descriptions de certains experts contiennent des inexactitudes, telles que des titres de poste obsolètes, qui auraient pu être mises à jour avec précision si Superhuman avait demandé la permission à ces personnes de référencer leur travail.
Réponse de Superhuman
Alex Gay, vice-président produit et marketing corporate chez Superhuman, société mère de Grammarly, a déclaré que l'agent Expert Review ne prétend pas à un soutien direct des experts. Il s'agit de suggestions inspirées par leurs travaux, incitant les utilisateurs à explorer ces voix influentes. Cependant, Gay a précisé que les experts figurent dans cette fonctionnalité car leurs travaux sont disponibles publiquement et largement cités.
Lorsqu'on lui a demandé si Superhuman avait envisagé de notifier les personnes nommées dans sa fonctionnalité IA ou de demander leur permission, Gay a répondu : "Les experts dans Expert Review apparaissent parce que leurs travaux publiés sont disponibles publiquement et largement cités."
Fiabilité des sources en question
La fonctionnalité présente des difficultés pour explorer les travaux des experts. Les suggestions renvoient souvent à des copies de sites spammy ou à des archives incorrectes, ne reflétant pas fidèlement les sources originales. Certaines suggestions sont même basées sur des travaux d'autres personnes, ce qui soulève des questions sur l'authenticité des conseils proposés.
Le travail des experts s'est avéré difficile à "explorer plus en profondeur". La fonctionnalité plantait fréquemment et ses "sources" renvoyaient à des copies spammy de sites légitimes, ou à d'autres copies archivées qui n'étaient pas la véritable page source.
Certaines sources renvoyaient même à des liens complètement non liés qui n'étaient pas écrits par la personne dont le travail était supposément un exemple, ce qui pourrait indiquer que les suggestions offertes par l'IA de Grammarly avec le nom d'une personne peuvent être basées sur le travail d'une autre personne. Cela n'est apparent que si les utilisateurs cliquent sur "voir plus" pour développer les suggestions, puis cliquent sur le bouton "source" à la fin de la suggestion.
Confusion dans la présentation des suggestions
Dans Google Docs, les suggestions de Grammarly apparaissent comme des commentaires d'utilisateurs réels, simulant une interaction avec l'expert imité par l'IA. Par exemple, une suggestion attribuée à Sean Hollister de Verge proposait une parenthèse redondante, alors que le véritable Sean Hollister aurait probablement supprimé cette suggestion. Cela démontre que l'IA, bien qu'elle puisse imiter le style d'écriture, ne peut pas remplacer le jugement éditorial humain.
Une suggestion de l'IA de Grammarly "inspirée par" le rédacteur senior de Verge, Sean Hollister, concernait l'ajout d'une parenthèse avec un contexte déjà inclus ailleurs. Le seul problème est que j'ai en fait été édité par le véritable Sean Hollister, qui préfère éviter les explications répétitives ou inutiles tout en utilisant un langage et une organisation clairs.
Si j'avais suivi ce conseil et l'avais soumis à lui, le véritable Sean aurait probablement supprimé la parenthèse suggérée par Grammarly. Une IA peut ingérer d'énormes quantités d'écrits d'une personne et apprendre à les imiter, certes, mais cette même stratégie ne peut pas enseigner à une IA comment éditer de la manière dont cette personne le ferait, uniquement sur la base des écrits qu'elle a publiés, même si vous donnez au bot un logo de coche et l'appelez "expert".
