Deepfakes et IA : la lutte contre une fraude à 40 milliards de dollars

Une crise de crédibilité croissante

La prolifération des images générées par intelligence artificielle a plongé le monde dans une crise de crédibilité sans précédent. La frontière entre les photos réelles et les créations numériques est devenue si floue qu'il est de plus en plus difficile de distinguer l'authenticité des images. Cette incertitude a des répercussions majeures sur divers secteurs, notamment les médias, les réseaux sociaux et même le système judiciaire, où la véracité des preuves photographiques est cruciale. Selon le Centre pour les services financiers de Deloitte, les pertes économiques dues à la fraude par IA pourraient atteindre 40 milliards de dollars aux États-Unis d'ici 2027, un bond significatif par rapport aux 12,3 milliards de dollars estimés pour 2023.

Les normes en développement : une réponse nécessaire

Face à cette menace grandissante, la nécessité de normes internationales pour identifier et combattre les deepfakes et autres escroqueries par IA devient urgente. Touradj Ebrahimi, professeur à l'École polytechnique fédérale de Zurich, est à la tête de ces efforts. Il travaille en étroite collaboration avec des organismes de normalisation tels que la Commission électrotechnique internationale (IEC), l'Organisation internationale de normalisation (ISO) et l'Union internationale des télécommunications (UIT). Leur objectif est de créer des standards qui aideront à différencier le contenu authentique des fabrications numériques.

Les normes JPEG Trust, introduites pour renforcer l'authenticité des images et des données, sont au cœur de cette initiative. La première norme, dévoilée l'année dernière, propose d'incorporer des métadonnées dans les fichiers JPEG pour servir d'indicateurs de confiance. Deux nouvelles parties de JPEG Trust sont en cours de développement :

• JPEG Trust Part 2 : Ce volet introduit un catalogue de profils de confiance et de modèles de rapport. Ces outils peuvent être utilisés directement ou adaptés pour des flux de travail et des applications spécifiques.
• JPEG Trust Part 3 : Cette partie se concentre sur le marquage numérique des médias, une technique essentielle pour garantir l'intégrité des contenus.

Ebrahimi précise que ces normes visent à fournir des outils de vérification aux utilisateurs finaux, sans pour autant valider ou étiqueter les images au moment de leur création.

Une lutte fragmentée

Malgré ces efforts, la lutte contre les deepfakes et la fraude par IA reste fragmentée. Les entreprises développent souvent leurs propres solutions, ce qui conduit à une diversité d'approches au sein de l'industrie. Certaines sociétés s'unissent pour établir des normes de facto, mais la question de savoir quelle norme finira par s'imposer reste ouverte. Ebrahimi souligne l'importance de cette question, car une norme dominante pourrait harmoniser les efforts de lutte contre la fraude.

Les initiatives pour contrer la fraude dans le domaine des multimédias ont véritablement pris de l'ampleur en 2018, lorsque le comité JPEG de l'IEC et de l'ISO a commencé à s'attaquer à ce problème croissant de contenu inauthentique.

D'autres normes en préparation

En parallèle à JPEG Trust, d'autres normes multimédias sont en cours d'élaboration. Parmi elles, le Profil d'origine, qui propose un cadre pour documenter l'origine des contenus numériques. Ce profil inclut des directives pour créer et maintenir des profils détaillant le créateur du contenu et son processus de création.

Une autre norme en développement est le Vocabulaire pour exprimer les préférences de contenu pour l'IA, qui vise à standardiser les cas d'utilisation impliquant des options de refus lisibles par machine, en lien avec l'extraction de données et la formation de l'IA.

Enfin, le H.MMAUTH est un cadre d'authentification du contenu multimédia basé sur la signature numérique des flux de données. Ce système permet aux utilisateurs de confirmer l'authenticité du contenu par ses créateurs via un tiers de confiance.