Deepfakes : Hany Farid alerte sur la réalité brouillée par l'IA

Hany Farid : un pionnier face à l'évolution des deepfakes

Hany Farid, une figure emblématique dans le domaine de la criminalistique numérique, a exprimé ses préoccupations quant à l'impact croissant de l'intelligence artificielle sur notre capacité à distinguer le vrai du faux. Depuis qu'il a commencé à explorer ce domaine en 1999, alors que la criminalistique numérique n'en était qu'à ses balbutiements, Farid a observé une transformation radicale. Aujourd'hui, il est presque impossible pour un individu lambda de discerner si un contenu est authentique ou généré par une IA simplement en le regardant. Cette évolution soulève des inquiétudes profondes, car elle modifie notre perception de la réalité elle-même.

L'illusion de la réalité dans l'ère numérique

Pour la majorité des utilisateurs d'Internet, il est devenu extrêmement difficile de déterminer l'authenticité d'une image, d'une vidéo ou d'un enregistrement audio qui défile sur leurs écrans. Des études perceptuelles ont montré que nos sens visuels et auditifs ne sont pas suffisamment aiguisés pour accomplir cette tâche de manière fiable. Cependant, cela ne signifie pas que la distinction est impossible. Grâce à des outils informatiques et mathématiques avancés, il est possible de démasquer les contenus falsifiés. Mais cette capacité reste largement inaccessible à l'utilisateur moyen des réseaux sociaux, qui ne dispose ni des outils ni du temps nécessaire pour mener de telles analyses.

Les débuts de la criminalistique numérique

En 1999, Hany Farid a entamé sa carrière académique au Dartmouth College, à une époque où le monde était encore majoritairement analogique. Les appareils photo numériques commençaient à peine à émerger, et l'Internet était loin d'être l'omniprésence qu'il est aujourd'hui. À cette époque, l'idée de preuves numériques malléables dans les tribunaux semblait lointaine et peu préoccupante. Pourtant, Farid et quelques étudiants visionnaires ont commencé à poser les bases de ce qui allait devenir la criminalistique numérique, un domaine qui paraissait alors ésotérique mais qui allait rapidement gagner en pertinence avec l'essor du numérique.

L'évolution des manipulations d'images

Au début de sa carrière, Farid se concentrait principalement sur les photographies, car la manipulation vidéo était encore complexe en raison de la nécessité de traiter 24 à 30 images par seconde, accompagnées d'une piste audio. Les outils comme Photoshop facilitaient la manipulation d'images fixes, mais cette tâche nécessitait encore des compétences techniques. Les erreurs de manipulation, telles que des ombres incorrectes ou des incohérences géométriques, pouvaient être détectées. Aujourd'hui, cependant, la situation a radicalement changé. Grâce à l'IA, il suffit d'un clavier et d'une connexion Internet pour générer des contenus visuels et audio d'une qualité impressionnante, sans nécessiter de compétences particulières.

L'indistinction visuelle des contenus générés par l'IA

Avec les avancées technologiques, il est crucial de ne pas se focaliser sur l'état actuel de la technologie, mais sur sa direction future. Les images ont été les premières à devenir visuellement indiscernables de la réalité, suivies par la voix, avec ses nuances d'intonation et de rythme. La vidéo est en train de franchir ce cap, rendant difficile la distinction entre le réel et le généré pour les vidéos courtes que l'on trouve couramment en ligne. Alors que les vidéos générées par l'IA étaient autrefois limitées à quelques secondes, elles peuvent désormais atteindre 30 à 40 secondes, rendant le contenu de plus en plus réaliste et accessible.

La course contre la montre pour identifier les faux

Bien que l'IA générative puisse produire des contenus convaincants, elle ne comprend pas le monde en trois dimensions, ni les lois de la physique. Ces limitations offrent des indices pour détecter les contenus falsifiés. Cependant, authentifier un contenu est un processus long et complexe, souvent plus difficile que de détecter un faux. En moyenne, une analyse peut prendre environ une heure, un délai qui semble interminable à l'échelle d'Internet, où les contenus peuvent rapidement atteindre des millions de vues. Les vérifications arrivent souvent trop tard, après que le contenu a déjà été largement diffusé.

La menace sur notre perception commune de la réalité

Les enjeux liés à l'authenticité des contenus sont de plus en plus élevés, affectant des décisions cruciales, qu'elles soient judiciaires ou géopolitiques. Ce qui inquiète le plus Hany Farid, c'est la perte progressive d'un sens partagé de la réalité au sein de la société. Les débats ne portent plus seulement sur des questions politiques ou économiques, mais sur des faits fondamentaux. Cette situation menace la stabilité démocratique, car une société ne peut fonctionner sans un socle commun de vérité. Le désaccord est sain, mais il doit se baser sur une réalité partagée pour être constructif.

GetReal : une réponse à l'ère des deepfakes

Pour répondre à ces défis, Hany Farid a cofondé GetReal, une startup spécialisée dans la criminalistique numérique. Cette entreprise vise à fournir des outils et des solutions pour identifier et authentifier les contenus numériques, aidant ainsi à rétablir une certaine confiance dans les informations visuelles et auditives qui circulent en ligne. GetReal se positionne comme un acteur clé dans la lutte contre la désinformation numérique, en offrant des services qui permettent de vérifier l'authenticité des contenus de manière plus rapide et plus fiable.