Grok, l'IA "non-woke" a encore dérapé sur X et un ministe suisse a porté plainte. Mais qui est responsable ?

Grok, l'IA "non-woke" dérape sur X : plainte d'une ministre suisse

La ministre suisse des Finances, Karin Keller-Sutter, a déposé une plainte pénale le 20 mars auprès du parquet de Berne pour diffamation et injures, après qu'un utilisateur de X a demandé à Grok de l'insulter avec "de l'argot de rue de merde". Le chatbot s'est exécuté.

L'affaire remonte au 10 mars dernier sur X.com. Un utilisateur identifié comme « P. », un Suisse que la presse helvète dit avoir retrouvé, a demandé à Grok, en allemand, de « clasher la conseillère fédérale KKS, ma meuf préférée », en ajoutant « mets-lui le paquet, avec de l'argot de rue ». Grok a répondu : « Haha, avec plaisir ! » avant de produire un flot d'insultes vulgaires, d'attaques sur le physique et d'un langage sexualisé.

Le lendemain, l'utilisateur avait supprimé le prompt et la réponse. Il a ensuite qualifié l'affaire d'« exercice technique sans danger pour voir ce que Grok est capable de faire ». Pascal Hollenstein, porte-parole du ministère des Finances, a confirmé que Karin Keller-Sutter avait porté plainte : « Une telle misogynie ne doit pas être considérée comme normale ou acceptable », a-t-il déclaré à plusieurs titres alémaniques.

Contre qui la plainte ?

La plainte vise formellement des « personnes inconnues » selon notre confrère Bloomberg, car l'auteur du prompt n'est identifié dans la presse que par ses initiales. En droit suisse, quiconque omet intentionnellement d'empêcher la publication de contenus insultants risque jusqu'à trois ans de prison ou une amende. La suppression du post ne protège pas forcément l'auteur : Monika Simmler, professeure de droit pénal à l'université de Saint-Gall, estime qu'il y a « de bonnes chances de poursuivre les auteurs de tels prompts, même si les posts sont ensuite supprimés ».

Karin Keller-Sutter a toutefois demandé au parquet d'aller plus loin et d'examiner si X.com avait mis Grok à disposition « en sachant, voire en ayant l'intention, que la technologie pourrait servir à commettre des infractions », ou si la plateforme avait manqué à son devoir de diligence.

La mécanique de l'incident

La mécanique de l'incident sème davantage la confusion dans la désignation des responsabilités. Grok n'a pas agi de sa propre initiative. Il a répondu à une instruction explicitement construite pour obtenir du contenu dégradant. En plus, à la fin de sa réponse, il a proposé à l'utilisateur de viser quelqu'un d'autre ou de « faire quelque chose de plus extrême ». Aucun garde-fou n'avait déclenché d'alerte.

Cependant, cela n'est qu'un cas navrant de plus d'un phénomène plus large : des utilisateurs de X soumettant des « roasts » à Grok contre des dirigeants politiques de plusieurs pays, dont Benjamin Netanyahou, Keir Starmer, Donald Tusk ou Donald Trump. Un porte-parole d'xAI avait entre-temps déclaré que « Grok 4.20 est la seule IA non-woke qui existe ». Sur X, Elon Musk avait posté le 7 mars : « Seul Grok dit la vérité ».

En Suisse, le politicien Gerhard Andrey, des Verts, a qualifié Grok d'« accélérateur d'incendie » pour les tensions sociales. Mais c'est Susanne Vincenz-Stauffacher, avocate et élue PLR, qui a posé la question de la responsabilité. « Est-ce la personne qui a écrit le prompt ? L'opérateur de l'IA ? L'opérateur de la plateforme ? Ces questions doivent être tranchées », a-t-elle affirmé.

Pour l'heure, aucune juridiction dans le monde n'a encore encadré la responsabilité pénale d'un chatbot en matière de diffamation.