Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Un incident impliquant le prestigieux cabinet d'avocats Sullivan & Cromwell a récemment mis en lumière les dangers potentiels de l'utilisation de l'intelligence artificielle dans le domaine juridique. Andrew Dietderich, partenaire et co-responsable de la Finance Globale et de la Restructuration au sein du cabinet, a dû présenter des excuses à un juge fédéral après que des erreurs attribuées à des hallucinations de l'IA ont été découvertes dans un dépôt judiciaire.
Dans une lettre datée du 18 avril, Dietderich a expliqué au juge fédéral des faillites, Martin Glenn, que le dépôt contenait des citations inexactes et d'autres erreurs, y compris des hallucinations de l'IA. Ces "hallucinations" se produisent lorsque les outils d'intelligence artificielle inventent des citations de cas, citent incorrectement des autorités ou génèrent des sources juridiques inexistantes. "Nous regrettons profondément que cela se soit produit", a-t-il écrit.
Un tableau joint à la lettre de Dietderich détaillait les erreurs, incluant des noms de cas et des numéros incorrects, ainsi que des citations apparemment fabriquées. Ces erreurs ont été détectées par le cabinet Boies Schiller Flexner, représentant les créanciers, que Dietderich a remercié pour leur vigilance. Sullivan & Cromwell représentait la société en faillite Prince Global Holdings dans cette affaire.
Dietderich a souligné que Sullivan & Cromwell, un cabinet de 140 ans employant plus de 1 000 avocats, dispose de politiques complètes concernant l'utilisation de l'IA. Cependant, ces politiques n'ont pas été suivies, et les erreurs ont échappé au processus de révision habituel. Il a pris la responsabilité de cet échec et a promis de soumettre une version corrigée du dépôt. "Je prends la responsabilité de l'échec à cet égard," a-t-il ajouté.
Le phénomène des hallucinations de l'IA n'est pas isolé à Sullivan & Cromwell. Depuis 2023, les faux citations juridiques sont devenues plus fréquentes, comme l'indique Damien Charlotin, un chercheur juridique qui maintient une base de données publique sur ces incidents dans les affaires juridiques. Ni Dietderich ni un représentant du cabinet n'ont répondu aux demandes de commentaires de Business Insider, et le juge n'a pas non plus réagi.
