La vidéo 'piège' de Bernie Sanders sur l'IA fait flop, mais les mèmes sont excellents

La vidéo "piège" de Bernie Sanders sur l'IA fait flop, mais les mèmes sont excellents

Dans une nouvelle vidéo virale, le sénateur Bernie Sanders a tenté de démontrer comment l'industrie de l'IA constitue une menace pour la vie privée des Américains, mais a finalement montré comment la tendance des chatbots à flatter leurs utilisateurs peut les amener à devenir un miroir des croyances de ces derniers, plutôt qu'un outil de découverte.

Nous avons déjà observé ce problème avec le nombre croissant de personnes touchées par la "psychose de l'IA", où un chatbot renforce les pensées et croyances irrationnelles d'une personne mentalement instable. Dans certains cas, ce schéma sombre a même conduit des utilisateurs à mettre fin à leurs jours, selon plusieurs poursuites.

Dans le cas de Sanders, la sycophantie de l'IA s'est manifestée par un chatbot qui a adapté ses réponses pour satisfaire le politicien.

Il est important de noter que l'interview commence avec Sanders se présentant à Claude (qu'il appelle à tort un "agent" IA) — une démarche qui pourrait influencer les réponses du chatbot.

Ensuite, lorsque Sanders pose des questions sur les pratiques de collecte de données des entreprises d'IA et d'autres préoccupations en matière de vie privée, Claude répond de manière conciliante avec ce que le politicien souhaite entendre. En partie, cela est dû à la façon dont Sanders formule ses questions, demandant des choses comme :

• "Qu'est-ce qui surprendrait le peuple américain en termes de collecte de ces informations ?"
• "Comment pouvons-nous faire confiance aux entreprises d'IA pour protéger notre vie privée alors qu'elles utilisent les informations personnelles des gens pour gagner de l'argent ?"

Ces questions orientées obligent le chatbot à accepter le postulat de la question et à proposer une réponse appropriée. C'est ainsi que cela fonctionne.

Et lorsque la réponse de Claude suggérait qu'un sujet était plus complexe ou nuancé que ce que Sanders avait présenté, ce dernier désapprouvait, poussant le chatbot à concéder, avec une touche d'auto-dérision, que le sénateur avait "absolument raison".

La nature sycophante de l'IA peut conduire les gens sur des chemins dangereux lorsqu'ils supposent qu'un chatbot est une source de vérité universelle, plutôt qu'un outil pouvant être influencé par son utilisateur.

Il n'est pas clair si Sanders est conscient de cela et ne s'en soucie pas (car il s'agit après tout d'une publicité !), ou s'il pense vraiment avoir trompé Claude pour qu'il devienne un lanceur d'alerte pour l'industrie de l'IA.

Et bien sûr, il y a aussi la question de savoir si l'équipe de Sanders a préparé le chatbot pour qu'il réponde d'une certaine manière, étant donné qu'il s'agissait d'une "interview" mise en scène.

Bien qu'il existe de réelles préoccupations concernant la collecte de données et la vie privée, les choses ne sont pas aussi simples que les réponses de l'IA dans cette vidéo le suggèrent.

Nous vivons déjà dans un monde où les entreprises collectent et vendent les données des utilisateurs en ligne à grande échelle — et ce, depuis des années. Nous savons que des géants des réseaux sociaux comme Meta ont transformé les publicités personnalisées en une machine à cash de plusieurs milliards de dollars. Et grâce aux rapports de transparence réguliers des géants de la technologie, nous savons que les gouvernements du monde entier demandent régulièrement l'accès aux données des utilisateurs pour leurs propres besoins.

L'IA peut représenter un nouveau moyen pour les législateurs de potentiellement réglementer, mais les données personnelles alimentent depuis longtemps l'économie numérique. (Ironiquement, Anthropic est une entreprise d'IA qui a promis de ne pas exploiter les publicités personnalisées pour gagner de l'argent, malgré ce que ses réponses à Sanders ont pu suggérer.)

Bien que la conversation globale entre Sanders et Claude passe à côté du sujet pour quiconque comprend comment fonctionnent les chatbots IA, nous pouvons au moins lui attribuer la création de nouveaux mèmes excellents.