Meta lance des outils d'IA pour identifier et signaler les messages des escrocs

Meta lance des outils d'IA pour identifier et signaler les messages des escrocs

Meta a annoncé mercredi le lancement d'une nouvelle suite d'outils pour lutter contre les escroqueries sur les réseaux sociaux, notamment sur WhatsApp, Facebook et Messenger. Ces outils visent à résoudre les problèmes de fraude qui touchent ces plateformes, comme le nombre alarmant de personnes tombant dans le piège de faux profils de célébrités. Meta indique avoir supprimé plus de 159 millions d'annonces frauduleuses en 2025.

Un représentant de Meta n'a pas immédiatement répondu à une demande de commentaire. Les dernières escroqueries utilisent beaucoup de contenu généré par IA pour créer de faux profils et même de faux sites web, il n'est donc pas surprenant que Meta utilise ses propres outils d'IA pour protéger les utilisateurs.

Avertissements sur WhatsApp

Les nouvelles protections de WhatsApp incluent des fenêtres contextuelles. WhatsApp, l'application de chat mondiale, est une cible fréquente des escrocs en raison de ses fonctionnalités de liaison de dispositifs mobiles, qui permettent de connecter rapidement des appareils externes à un compte. Une fois que les escrocs ont accès à un compte, ils peuvent réaliser une série d'activités nuisibles, y compris usurper l'identité de l'utilisateur pour tromper amis et famille. L'année dernière, Meta a supprimé près de 7 millions de comptes utilisés par des escrocs de cette manière.

Les escrocs peuvent d'abord se faire passer pour des proches, des vendeurs, des prestataires de services ou des créateurs de contenu, demandant des numéros de téléphone pour partager des codes de liaison de dispositifs et des QR codes que certaines personnes peuvent activer sans réfléchir. La fonctionnalité de WhatsApp de Meta surveillera les signes de danger provenant de comptes non liés, tels qu'une demande en provenance d'un pays différent avec lequel vous n'avez jamais communiqué auparavant. Elle affichera ensuite une fenêtre contextuelle supplémentaire pour s'assurer que vous souhaitez vous connecter avec un inconnu, vous donnant idéalement un moment pour réfléchir à la pertinence de cette décision.

Signaux d'alerte sur Facebook et Messenger

Facebook signale les indicateurs d'escroquerie dans les comptes suspects, comme ceux qui viennent d'être créés. Meta ajoute également de nouvelles protections contre les escroqueries sur Facebook, notamment des avertissements concernant l'ajout ou la communication avec un compte suspect. Bien que Meta n'ait pas révélé tous les signes qu'elle utilise pour déterminer si un compte est suspect, comme WhatsApp, elle recherche des emplacements inhabituels et en dehors du pays.

Un autre signal d'alerte est un compte avec lequel vous ou vos amis n'avez jamais interagi auparavant. Facebook inclura des explications à côté de ses fenêtres contextuelles d'avertissement, comme le fait de noter qu'un compte a été créé seulement quelques jours auparavant, avant que vous ne confirmiez votre choix. L'application Messenger introduit une fonctionnalité similaire qui surveille l'activité des comptes pour détecter des comportements indicatifs d'escroqueries. Meta a spécifiquement mentionné les escroqueries liées à l'emploi, où les escrocs proposent des emplois impossibles ou très bien rémunérés pour voler des informations personnelles ou diriger les gens vers un site de phishing.

Scans d'IA pour repérer le contenu frauduleux

Messenger inclut désormais des scans d'IA pour surveiller les signes d'escroquerie, mais nous ne savons pas dans quelle mesure cela est effectué. En ce qui concerne les sites de phishing, leur nombre est en hausse et ils semblent plus authentiques que jamais, trompant même ceux qui sont expérimentés dans les dangers du phishing. Un exemple clé de l'IA générative est la capacité de créer facilement une page web frauduleuse et de mimer de vrais logos de marque. Meta rapporte qu'elle utilise ses propres outils d'IA pour scanner et identifier plus précisément le contenu frauduleux. Cela inclut l'examen des historiques de Messenger, la surveillance des fausses photos imitant des célébrités et la détection de mentions inhabituelles de figures publiques. Ces outils peuvent également détecter des schémas de phishing sur le site.

Les nouveaux outils d'IA de Meta pour détecter les escroqueries soulèvent naturellement des préoccupations en matière de confidentialité. Bien que la société affirme que les fonctionnalités analysent l'activité des comptes pour repérer les comportements frauduleux, elle n'a pas précisé comment ces données sont traitées ou stockées. Les controverses passées autour des initiatives d'IA de Meta, y compris ses lunettes de réalité augmentée, montrent que la surveillance basée sur l'IA peut comporter des risques de confidentialité imprévus, soulignant l'importance de la transparence et de protections robustes lors du déploiement de telles technologies sur des plateformes de messagerie personnelles.

Meta n'a pas précisé quand ces outils seront disponibles pour tous les utilisateurs.