Tu codes avec l’IA ?
Outils, agents et nouveautés dev IA décryptés, chaque soir en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Un développeur défie le système SynthID de Google
Un développeur de logiciels, connu sous le pseudonyme d'Aloshdenny, affirme avoir réussi à rétro-ingénier le système de watermarking SynthID de Google DeepMind. Selon lui, il est possible de retirer les watermarks intégrés dans les images générées par l'intelligence artificielle ou même de les insérer manuellement dans d'autres œuvres. Google, de son côté, réfute ces allégations.
Un processus détaillé et accessible
Aloshdenny a partagé son travail sur GitHub, rendant son processus accessible au public. Il explique que son approche a nécessité l'analyse de 200 images générées par le modèle Gemini de Google, ainsi qu'une méthode de traitement du signal. Il ajoute, non sans humour, que « trop de temps libre » et un peu de cannabis ont également contribué à ses recherches. Sur Medium, il précise qu'il n'a utilisé ni réseaux neuronaux ni accès propriétaire, soulignant que chaque pixel non nul des images générées est en réalité un watermark.
Le fonctionnement de SynthID
Le système SynthID de Google est conçu pour être un watermarking quasi invisible, intégré directement dans les pixels des images au moment de leur création. Ce système est censé être difficile à retirer sans altérer la qualité de l'image. SynthID est largement utilisé dans les produits d'IA de Google, marquant les contenus générés par des modèles tels que Nano Banana et Veo 3. Même les clones créateurs sur YouTube sont marqués par ce système.
Comparaison visuelle et efficacité du retrait
Une comparaison visuelle montre une image avec le watermark SynthID intacte à côté d'une version où le watermark a été partiellement retiré. Les différences visuelles sont minimes, ce qui indique que le processus de retrait n'affecte que légèrement la qualité de l'image. Aloshdenny admet que le système est bien conçu et qu'il n'a pas réussi à retirer complètement le watermark, se contentant de confondre les décodeurs SynthID.
Une méthode complexe pour les non-initiés
Le processus décrit par Aloshdenny pour comprendre le fonctionnement du watermark de Google est complexe, surtout pour ceux qui ne sont pas familiers avec le développement logiciel. Il a généré 200 images noires ou blanches, ajusté le contraste et la saturation, et a ensuite moyenné les motifs pour identifier les signaux de watermark. Il a cherché ces fréquences dans les images pour les retirer partiellement.
Google répond aux allégations
Aloshdenny reconnaît que son succès est limité, affirmant que le watermarking de Google est conçu pour être suffisamment robuste pour décourager la plupart des tentatives de manipulation. Google, par la voix de sa porte-parole Myriam Khan, a déclaré que l'outil d'Aloshdenny ne peut pas systématiquement retirer les watermarks SynthID. Elle a réaffirmé la robustesse et l'efficacité de SynthID pour protéger le contenu généré par l'IA.
