Arnaques, guerre : comment l’IA diffuse une désinformation massive, avec des conséquences catastrophiques
La prise de position en a fait sourire plus d’un. Sur son réseau Truth Social, Donald Trump a déploré que l’Iran abuse de l’intelligence artificielle générative et s’en sert comme d’une arme de désinformation. Le dirigeant américain, lui-même très friand de ce type de technologie, a raison d’insister sur ce point.
En effet, depuis le déclenchement du conflit, les internautes peinent à distinguer le vrai du faux. Si l’on ne peut plus faire la différence et en l’absence de faits admis par tous, la démocratie est clairement en danger.
Mais les risques ne s’arrêtent pas là. Dans une note d’information récemment publiée, des chercheurs de l'Université Columbia révèlent que l’IA devient rapidement la méthode privilégiée des arnaques financières. Ils chiffrent à 12,3 milliards de dollars les pertes dues à ces escroqueries en 2023. Un total qui pourrait atteindre les 40 milliards de dollars en 2025, signe d’une urgence mondiale.
Alors, que faire ? Le Royaume-Uni et l’Union européenne ont certes pris des mesures et infligent des amendes aux plateformes qui n’en font pas assez pour endiguer la désinformation. Cette régulation semble toutefois largement insuffisante face aux enjeux.
Quelles solutions mettre en place ?
Interrogée par le Financial Times, Anya Schiffrin, coauteure de la note d'orientation sur les escroqueries par deepfake liées à l'IA et codirectrice du programme « Politique technologique et innovation » à l'École des affaires internationales et publiques de l'Université Columbia, propose quelques solutions.
Selon elle, des groupes comme Meta devraient en faire beaucoup plus contre les publicités frauduleuses en ligne :
- Il nous apparaît évident que Meta est parfaitement en mesure d’en faire bien plus pour stopper la diffusion de ces publicités.
- La vérification universelle des annonceurs est une solution envisageable, mais Meta hésite à investir dans ce système.
De même, certaines dispositions nationales prises récemment, comme celle de l’Irlande, qui érige en infraction la publication, la distribution ou la diffusion de toute utilisation manipulée ou non autorisée de l'identité d'une personne à diverses fins, notamment publicitaires, sans son consentement, vont, selon elle, dans le bon sens. Cela dit, une coopération transnationale lui semble indispensable pour vaincre ce fléau.
Enfin, elle juge que tout le monde peut agir au niveau individuel. En effet, les escrocs utilisent souvent les mêmes méthodes en instaurant un sentiment d’urgence chez leur cible. Si nous prenons le temps de ne pas agir sur un coup de tête, bon nombre de fraudes pourraient être évitées. De votre côté, avez-vous déjà été confronté à ces manipulations générées par IA ? Dites-le-nous dans les commentaires.