Brief IA : Superhuman : Shishir Mehrotra face à la polémique IA

Superhuman : Shishir Mehrotra face à la polémique IA

Brief IA
Tom Levy·4 min·2 vues

Shishir Mehrotra, PDG de Superhuman, a été confronté à des critiques suite au lancement en août dernier de la fonctionnalité 'Expert Review' de Grammarly, qui utilisait les noms d'experts sans autorisation. Cette situation a conduit à une action collective déposée par la journaliste Julia Angwin, soulignant les préoccupations éthiques liées à l'utilisation de l'IA dans les industries créatives.

En bref
1Shishir Mehrotra, PDG de Superhuman, s'excuse pour l'utilisation non autorisée de noms de journalistes dans une fonctionnalité IA.
2La fonctionnalité Expert Review de Superhuman, qui clonait des experts par IA, a été retirée après des critiques et une action en justice.
3Superhuman, anciennement Grammarly, se concentre sur l'intégration de l'IA dans ses produits de productivité comme Coda et Mail.
💡Pourquoi c'est importantL'incident souligne les défis éthiques de l'IA dans le respect des droits individuels et la transparence des entreprises.
Le brief IA que lisent les pros

Tu suis la course aux modèles IA ?

Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.

Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.

Choisis ton rythme

Gratuit · Pas de spam · Désabonnement en 1 clic

📄
L'analyse en français

Rencontre avec Shishir Mehrotra

Aujourd'hui, j'ai eu l'occasion de m'entretenir avec Shishir Mehrotra, le PDG de Superhuman, qui était auparavant connu sous le nom de Grammarly. Ce dernier est toujours le produit phare de l'entreprise. Mehrotra, qui a également occupé le poste de directeur produit chez YouTube et siège actuellement au conseil d'administration de Spotify, est une figure influente dans le domaine de la technologie. Initialement, cet entretien, prévu environ un mois à l'avance, devait porter sur l'impact de l'intelligence artificielle sur les logiciels et la créativité. Cependant, la conversation a pris une tournure inattendue.

En août dernier, Grammarly a introduit une fonctionnalité controversée appelée Expert Review. Cette fonctionnalité permettait aux utilisateurs de recevoir des suggestions de rédaction de la part d'« experts » clonés par l'IA. Des journalistes de The Verge et d'autres médias ont découvert que leurs noms, y compris le mien, étaient utilisés sans autorisation. Cette découverte a suscité une vive indignation parmi les journalistes, notamment Julia Angwin, qui a engagé une action collective en réponse à cette situation. En réaction, Superhuman a d'abord proposé une option de désinscription par email, avant de supprimer complètement la fonctionnalité. Shishir Mehrotra a présenté ses excuses, et il le fera à nouveau au cours de notre entretien.

Durant cette période, je me suis souvent demandé si Shishir allait honorer son engagement d'enregistrer l'épisode de Decoder. Mes questions sur la prise de décision et l'impact de l'IA semblaient soudainement plus difficiles à aborder. À son crédit, il a tenu sa promesse et a participé à l'enregistrement. La conversation a été tendue par moments, révélant des divergences d'opinions sur la perception de l'IA par le public.

L'architecture de Superhuman

Superhuman se positionne comme une suite de productivité intégrant l'IA de manière native. L'entreprise a changé de nom, passant de Grammarly à Superhuman, pour mieux refléter l'élargissement de son champ d'action. En plus de Grammarly, qui reste un assistant d'écriture très prisé, Superhuman propose désormais Coda, un espace de documents, et Mail, un client de messagerie populaire.

Un nouveau produit, Superhuman Go, a récemment été lancé. Cette plateforme vise à fournir un réseau d'assistance IA proactive et personnalisée directement dans l'environnement de travail des utilisateurs. Pour ceux qui connaissent Grammarly, Go est conçu pour permettre à quiconque de créer des agents fonctionnant de manière similaire. Que ce soit pour les ventes ou le support, ces agents peuvent assister les utilisateurs directement là où ils travaillent.

L'idée centrale est que la plupart des outils d'IA nécessitent un changement de comportement important. Superhuman intègre l'IA là où les utilisateurs travaillent déjà. Chaque jour, environ un million d'applications et d'agents différents sont utilisés à travers leurs produits, intégrant l'IA de manière fluide dans l'expérience utilisateur.

Les décisions et processus chez Superhuman

Superhuman accorde une grande importance à la prise de décision éclairée. Shishir Mehrotra a rédigé un article intitulé Eigenquestions, qui aborde la formulation des questions pertinentes pour trouver les bonnes solutions. Parmi les rituels de prise de décision, Dory et Pulse est un processus clé pour recueillir des retours et éviter le groupthink.

La fonctionnalité Expert Review, qui a suscité la controverse, proposait des suggestions d'amélioration de texte basées sur des conseils d'experts, en utilisant des noms comme ceux des journalistes Casey Newton et Julia Angwin sans leur consentement. Les utilisateurs ont été déroutés par les petites coches à côté des noms, suggérant une officialité trompeuse. Face aux critiques, Superhuman a retiré la fonctionnalité avant même qu'il y ait des retours ou des poursuites. Shishir Mehrotra a exprimé qu'il était profondément peiné de ne pas avoir répondu aux attentes des experts, soulignant que ce n'était pas une bonne fonctionnalité et qu'elle ne bénéficiait ni aux experts ni aux utilisateurs. Elle a été retirée rapidement, avant même que les critiques ou les actions en justice ne surviennent.

En conclusion

Superhuman emploie environ 1 500 personnes. La décision de lancer la fonctionnalité controversée a été prise par une petite équipe, probablement composée d'un chef de produit et de quelques ingénieurs. Malgré un processus de prise de décision structuré, l'impact potentiel de l'utilisation non autorisée de noms n'a pas été anticipé. Cela soulève des questions sur la vigilance nécessaire dans le développement de nouvelles fonctionnalités, surtout lorsque des droits individuels sont en jeu.

Suivez Brief IA

L'actu IA du jour, aussi dans votre fil.

Commentaires