En 2025, le FBI a créé pour la première fois une catégorie dédiée aux fraudes liées à l’IA dans son Internet Crime Report, avec plus de 22 000 plaintes et environ 893 millions de dollars de pertes déclarées aux États-Unis. Les deepfakes et l’IA générative ne sont plus un risque théorique : plus de 1 500 incidents vérifiés de deepfakes ont été documentés pour la seule année 2025, totalisant près de 296,4 milliards d’impressions médias. Et certaines études sectorielles estiment désormais que plus de 40 % des tentatives de fraude biométrique impliquent des deepfakes, avec des hausses à trois chiffres sur trois ans.
Cet article propose un top 5 des risques de détournement de l’IA qu’une équipe sécurité, un dirigeant ou un responsable produit doit anticiper dès cette semaine, avec des chiffres récents (2025–2026), des cas d’usage concrets et des leviers d’action opérationnels.
1. Deepfakes et usurpation d’identité : le nouveau visage de la fraude
Les deepfakes ne sont plus un gadget technologique : ils sont en train de devenir l’un des principaux vecteurs d’usurpation d’identité et de fraude à grande échelle.
En 2025, des analyses globales ont recensé 1 567 incidents vérifiés de deepfakes, pour 296,4 milliards d’impressions sur les plateformes sociales et médias. Certaines études agrégées parlent de plus de 1,1 milliard de dollars de pertes liées aux deepfakes aux États-Unis en 2025. Des rapports d’entreprises spécialisées dans la lutte contre la fraude indiquent que les deepfakes représentent désormais environ 20 à 40 % des tentatives de fraude biométrique, avec des hausses de l’ordre de 700 % à plus de 2 000 % sur trois ans selon le secteur (finance, paiements).
Des enquêtes citées dans des synthèses 2025–2026 mentionnent que plus de 60 % des organisations auraient subi au moins une attaque par deepfake ou imposture visuelle/audio sur les 12 derniers mois.
> 💡 À retenir : Les deepfakes sont passés en trois ans d’un phénomène marginal à un levier central d’usurpation d’identité, avec des croissances à trois chiffres et des pertes au-delà du milliard de dollars.
Comment l’IA est détournée pour la fraude d’identité
La première occurrence du terme clé deepfake renvoie à des contenus générés par IA (vidéo, audio, image) qui imitent de façon réaliste une personne réelle. Les usages frauduleux les plus fréquents en 2025–2026 :
- Simulation de dirigeants (« CEO fraud ») en vidéo ou audio pour ordonner des virements urgents.
- Falsification de selfies pour tromper des systèmes de KYC et d’authentification biométrique.
- Clonage de voix pour passer des appels au support client et modifier des paramètres de compte.
- Deepfakes de personnalités publiques pour pousser des arnaques d’investissement sur les réseaux sociaux.
Des rapports de sécurité mentionnent par exemple des augmentations de plus de 2 000 % des tentatives de deepfake dans la finance en trois ans, et des responsables bancaires constatent des hausses « vingt fois supérieures » sur les attaques par clonage de voix.
Ce que ça change pour une entreprise cette semaine
À horizon d’une semaine, le risque n’est pas de voir un film hyper réaliste circuler, mais de :
- Recevoir un email vidéo d’un dirigeant demandant un paiement exceptionnel.
- Voir des candidats en entretien vidéo utiliser des filtres IA pour tricher sur leur identité ou leurs compétences.
- Être ciblé par une campagne d’arnaque d’investissement qui utilise des deepfakes d’experts ou d’influenceurs du secteur.
> 💡 À retenir : Si vos workflows critiques reposent sur la seule reconnaissance visuelle ou vocale d’une personne, vous êtes déjà exposé à un risque significatif de deepfake.
2. Phishing boosté par l’IA générative : volume et personnalisation
L’IA générative a transformé le phishing en une activité industrielle, capable de produire des millions de messages crédibles en quelques heures.
En 2025–2026, des réseaux de détection mondiaux rapportent que la part des attaques de phishing générées par IA est passée d’environ 4 % des cas observés en novembre 2025 à 56 % en décembre, avant de se stabiliser autour de 40 % début 2026 sur un panel de plus de 4 millions d’utilisateurs. Les pertes liées aux fraudes de paiement au Royaume-Uni atteignent 1,28 milliard de livres en 2025, dont 576,4 millions de livres pour les fraudes par virement autorisé (APP fraud), catégorie qui englobe de nombreuses arnaques soutenues par des contenus IA persuasifs.
> 💡 À retenir : En quelques mois, l’IA génère déjà près de la moitié des emails de phishing détectés sur certains réseaux, avec des pertes dépassant le milliard d’euros/GBP sur une seule année.
Ce que les LLM changent dans les attaques
La première occurrence du terme LLM désigne les grands modèles de langage utilisés pour générer du texte, du code ou des dialogues. En pratique, ils permettent aux attaquants de :
- Générer des emails en français ou dans toute langue avec un style parfaitement professionnel.
- Adapter le message à la cible (fonction, secteur, projet en cours) grâce aux données publiques.
- Produire des campagnes évolutives : chaque réponse de la victime est réutilisée pour ajuster le discours.
Des rapports européens (agences de cybersécurité nationales et européennes) documentent l’usage de l’IA pour automatiser des étapes du cycle d’attaque : reconnaissance, découverte de vulnérabilités, rédaction de code malveillant et personnalisation du spear-phishing.
Impacts immédiats pour une organisation
Sur une semaine, les avantages des attaquants sont très concrets :
- Les filtres anti-spam classiques sont moins efficaces face à des emails individualisés.
- Les utilisateurs ont plus de mal à repérer les signaux faibles (fautes, tournures maladroites, incohérences).
- Les campagnes de « phishing de masse » peuvent être relancées en continu avec des variantes, sans effort humain.
> 💡 À retenir : Le phishing n’est plus « amateur » : il est industrialisé par l’IA, ce qui crée un besoin urgent de formation des équipes et de solutions de détection plus fines.
3. Fraude financière et investissements dopés par des bots et deepfakes
Les fraudes liées aux investissements représentent déjà l’une des catégories les plus coûteuses, et l’IA y joue un rôle croissant.
Les données de la Federal Trade Commission aux États-Unis indiquent que 144 041 personnes ont signalé des pertes sur des escroqueries d’investissement en 2025, pour plus de 8 milliards de dollars. Les autorités de l’État de New York associent cette hausse (environ +38 % par rapport à 2024) à la montée des arnaques d’investissement alimentées par des deepfakes de personnalités et des bots conversationnels.
Par ailleurs, les synthèses de plusieurs rapports (FBI, cabinets de cybersécurité, fintech) convergent sur un ordre de grandeur : entre 42 % et plus de 50 % des tentatives de fraude détectées dans la finance impliquent désormais une composante IA (deepfakes, identités synthétiques, phishing généré).
> 💡 À retenir : Les escroqueries d’investissement alimentées par l’IA pèsent déjà des milliards de dollars de pertes annuelles, avec une croissance proche de 40 % en un an.
Scénarios de détournement typiques
Dans ce domaine, l’IA est détournée de plusieurs façons :
- Bots conversationnels qui jouent le rôle de « conseillers financiers » sur Telegram, WhatsApp ou des sites pseudo-crypto.
- Vidéos deepfake de entrepreneurs ou investisseurs célèbres promettant des rendements garantis.
- Génération automatique de faux sites, whitepapers et profils LinkedIn crédibles pour légitimer la fraude.
Les rapports de police spécialisés et d’agences de cybersécurité européennes mentionnent la prolifération de comptes clonés, de voix synthétiques et de vidéos truquées dans les campagnes d’arnaques liées aux crypto-actifs et produits financiers.
Comparatif : typologies de fraude et rôle de l’IA
Ce tableau synthétise quelques grandes catégories de fraude financière en 2025–2026, avec le rôle actuel de l’IA.
| Type de fraude | Pertes annuelles estimées (2025) | Rôle principal de l’IA | Part des attaques impliquant l’IA |
|---|---|---|---|
| Escroqueries d’investissement grand public (FTC, US) | ~8 Md $ signalés | Deepfakes de personnalités, bots de conseil, sites générés | Croissance de ~38 % en 1 an, part significative non chiffrée précisément |
| Fraude AI-related (FBI Internet Crime Report, US) | ~893 M $ | Phishing génératif, usurpation d’identité, faux services de support | Catégorie dédiée, >22 000 plaintes, part spécifique liée aux finances variable |
| Fraude de paiement et APP fraud (UK) | 1,28 Md £ (dont 576,4 M £ en APP) | Phishing personnalisé, narratifs IA pour inciter au virement | Forte exposition, notamment banques de détail |
| Fraude dans la finance et paiements (rapports privés) | Chiffres fragmentés, >50 % des tentatives impliqueraient l’IA | Deepfakes, identités synthétiques, phishing | Entre 42 % et >50 % des tentatives selon certains panels |
> 💡 À retenir : Même quand les chiffres précis varient selon les sources, la tendance de fond est nette : l’IA est devenue un « multiplicateur de puissance » pour les escroqueries d’investissement et de paiement.
4. Malware et ransomwares générés ou optimisés par l’IA
L’IA générative ne se limite pas au texte : elle est utilisée pour produire ou adapter du code malveillant, rendant les attaques plus rapides et difficilement détectables.
Des synthèses 2025–2026 sur les cyberattaques mentionnent une hausse d’environ 72 % des attaques pilotées par IA d’une année sur l’autre, avec deux vecteurs dominants :
- Malware évolutif, capable de se réécrire pour éviter les signatures traditionnelles.
- Deepfakes utilisés pour des attaques de type « initial access » (convaincre un admin, un fournisseur, un client d’ouvrir une porte).
Les agences de cybersécurité (nationales et européennes) documentent l’usage de l’IA pour :
- Automatiser la recherche de failles dans des infrastructures.
- Générer du code exploit et des scripts de déplacement latéral.
- Optimiser les demandes de rançon (montant, discours) en fonction du profil de la victime.
> 💡 À retenir : La même IA qui aide les développeurs à écrire du code propre est utilisée pour produire du code malveillant sur mesure, avec une croissance à deux chiffres des attaques.
Comment l’IA est détournée côté code
La première occurrence de AI-generated malware désigne du code malveillant produit ou modifié avec l’aide directe de modèles d’IA. En 2025–2026, les scénarios typiques incluent :
- Jailbreaking de LLM pour obtenir des scripts d’attaque malgré les garde-fous.
- Génération automatique de variantes d’un même malware pour contourner les antivirus.
- Utilisation de modèles IA pour explorer des combinaisons de configuration permettant de maximiser l’impact.
Dans certains cas, de simples requêtes bien formulées suffisent à obtenir des morceaux de code exploit, que l’attaquant assemble ensuite. Des rapports indiquent également que des groupes de ransomwares commencent à intégrer des modules d’IA dans leurs « toolkits » pour analyser la surface d’attaque d’une cible avant de lancer une campagne.
Conséquences immédiates pour les équipes tech
Sur une semaine, cela se traduit par :
- Un volume accru de tentatives d’intrusion avec des payloads inconnus des signatures.
- Des ransomwares qui chiffrent sélectivement les ressources les plus critiques, détectées grâce à l’IA.
- Des campagnes plus courtes et plus ciblées, qui laissent moins de temps pour réagir.
> 💡 À retenir : Dans la pratique, l’IA est devenue un assistant pour attaquants, capable de réduire le temps entre la découverte d’une faille et son exploitation à grande échelle.
5. Manipulation de l’information et ingérence politique automatisée
Au-delà de la fraude directe, l’IA est massivement détournée pour manipuler l’information, polariser les débats et tenter d’influencer des processus démocratiques.
Les 1 567 incidents de deepfakes vérifiés en 2025 mentionnés plus haut ne concernent pas que la fraude financière : une part significative est liée à des contenus politiques, à des campagnes de désinformation, ou à des atteintes à la réputation. Une étude sur la première moitié de 2026 a par exemple recensé 821 attaques par deepfake, avec une portée médiatique potentielle de 292,8 milliards d’impressions, presque équivalente à l’ensemble des impressions observées sur 2025.
> 💡 À retenir : En 2026, la propagation de contenus IA sur des sujets politiques ou sensibles atteint des centaines de milliards d’impressions, avec un coût démocratique difficile à quantifier mais très réel.
Techniques de détournement pour la désinformation
Les techniques clés observées :
- Génération de faux articles ou tribunes signés de personnalités inexistantes ou usurpées.
- Bots de discussion sur les réseaux et forums, capables de participer activement à des débats publics.
- Deepfakes de responsables politiques, utilisés pour diffuser de fausses déclarations ou scandales.
- Traduction et adaptation automatique de narratifs de propagande dans des dizaines de langues.
Des évaluations européennes de la menace (rapports publiés en 2026 sur le rôle de l’IA, du chiffrement et des proxies dans la cybercriminalité) alertent sur le potentiel de l’IA à amplifier la portée, la vitesse et la crédibilité de campagnes de désinformation.
Impact à très court terme
À horizon d’une semaine, le risque pour une entreprise ou une institution est :
- De voir circuler un faux communiqué généré par IA, présenté comme officiel.
- D’être citée ou attaquée dans une campagne de désinformation largement relayée.
- De voir des salariés ou citoyens manipulés par des narratifs fabriqués sur mesure.
> 💡 À retenir : La manipulation de l’information par l’IA n’est plus seulement un risque « étatique » : elle est accessible à tout groupe doté de quelques centaines d’euros et d’un accès à des modèles grand public.
Combien coûte l’IA aux attaquants… et aux défenseurs ?
Pour comprendre les risques de détournement de l’IA, il faut aussi regarder l’économie des outils des deux côtés.
Coût typique des outils IA pour attaquer
Les attaquants peuvent aujourd’hui s’appuyer sur :
- Des LLM grand public facturés autour de 20 $ par mois pour des offres premium (ordre de grandeur des abonnements à certains assistants de type ChatGPT Plus ou équivalents).
- Des API de génération d’images ou de voix souvent facturées à l’usage (prix au millier de tokens ou à la minute audio), avec des budgets mensuels de l’ordre de quelques dizaines à quelques centaines de dollars pour des campagnes ciblées.
- Des outils open source de génération de deepfakes disponibles gratuitement, avec un coût matériel limité à une carte graphique grand public.
En pratique, les cas documentés de campagnes massives montrent que quelques milliers d’euros / dollars suffisent pour lancer des opérations significatives de phishing génératif ou de deepfakes à grande échelle.
Coût typique des défenses IA
À l’inverse, les défenses s’appuient sur :
- Des solutions de détection de deepfakes et de fraude biométrique souvent positionnées en B2B, avec des abonnements pouvant atteindre plusieurs milliers d’euros par mois pour des grandes entreprises.
- Des plateformes de formation et simulation de phishing (SaaS) intégrant de l’IA, facturées généralement entre quelques centaines et quelques milliers d’euros par mois selon le nombre d’utilisateurs.
- Des services de threat intelligence augmentée par IA, incluant la veille sur les campagnes de phishing et deepfakes.
> 💡 À retenir : Le rapport coût/impact est clairement en faveur des attaquants : l’IA leur donne des capacités de campagne quasi industrielles pour quelques dizaines ou centaines de dollars, tandis que les défenses exigent des investissements récurrents beaucoup plus élevés.
Notre avis : qui doit réagir dès cette semaine ?
Au vu des chiffres 2025–2026, les risques de détournement de l’IA ne relèvent plus de la prospective : ils sont déjà visibles dans les bilans de fraude, les rapports des agences de cybersécurité et les alertes des régulateurs.
Les données récentes montrent :
- Plus de 22 000 plaintes et 893 M $ de pertes sur les fraudes directement liées à l’IA dans le rapport 2025 du FBI.
- 1 567 incidents de deepfakes en 2025 pour 296,4 milliards d’impressions, et déjà plus de 800 attaques recensées au premier semestre 2026.
- Des hausses de 700 % à plus de 2 000 % sur certaines formes de fraude biométrique par deepfakes en trois ans.
- Une part des attaques de phishing générées par IA qui peut atteindre 40 % sur certains réseaux.
Chez Brief IA, le constat est net : toute organisation qui repose sur la confiance numérique (paiements, identité, communication) doit considérer l’IA comme une surface d’attaque à part entière, au même titre que le réseau ou les postes de travail.
Concrètement, cette semaine :
- Un CISO devrait prioriser la mise à jour des politiques de validation des ordres de paiement (double canal, séparation des pouvoirs, vérifications hors canal numérique en cas de doute).
- Un DRH devrait intégrer la question des deepfakes et de la triche IA dans les processus d’entretien à distance et de vérification de CV.
- Un équipe produit dans la fintech ou la banque devrait vérifier que ses parcours de KYC ne reposent pas uniquement sur une selfie ou une voix.
> 💡 À retenir : La meilleure stratégie à six mois consiste à traiter l’IA comme un outil ambivalent : puissante pour la défense (détection, automatisation, sensibilisation), mais tout aussi puissante pour l’attaque.
La vraie question n’est plus « l’IA va-t-elle être détournée ? », mais : êtes-vous capable de détecter, en temps utile, qu’un humain n’est plus derrière le message, la voix ou le visage qui vous demande d’agir ?