L’IA et sa régulation t’intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Google Earth : une fonctionnalité IA retirée en urgence
Google Earth a récemment introduit une nouvelle fonctionnalité d'édition d'images par intelligence artificielle, qui n'aura pas survécu plus de 24 heures. Cette décision rapide de retrait est survenue après que des utilisateurs ont exploité l'outil pour créer des deepfakes inquiétants, notamment des scènes de catastrophes fictives. Parmi les créations, un kaiju attaquant le centre-ville de Los Angeles a été généré, illustrant le potentiel de désinformation que cet outil pouvait engendrer.
Un outil détourné pour créer des deepfakes
L'outil, qui s'appuyait sur le modèle d'image Nano Banana 2 de Gemini, permettait de modifier des images satellites de Google Earth via des invites textuelles. Cependant, cette innovation a rapidement été détournée. Des chercheurs en intelligence artificielle, comme Henk van Ess, ont produit des deepfakes très réalistes, incluant de faux camps de réfugiés à la frontière américano-mexicaine et une centrale nucléaire en Iran. Ces manipulations ont soulevé des inquiétudes quant à la propagation de fausses informations à grande échelle.
Des images fictives de catastrophes
D'autres utilisateurs ont également utilisé l'outil pour générer des images d'événements catastrophiques inexistants, tels qu'une inondation imaginaire ou une attaque évoquant le 11 septembre. Ces créations ont mis en lumière le risque de voir de telles images être prises pour argent comptant, alimentant potentiellement la désinformation.
Réaction rapide de Google
Face à ces dérives, Google a décidé de retirer immédiatement la fonctionnalité. Un porte-parole de l'entreprise a déclaré sur X que bien que des professionnels de la géospatial aient utilisé l'outil à des fins constructives, d'autres partages d'images générées semblaient enfreindre les politiques de Google. L'entreprise a donc choisi de suspendre la fonctionnalité afin de renforcer ses garde-fous.
Mesures de sécurité et précédents
Google a précisé que les images générées par l'IA étaient filigranées et n'étaient jamais intégrées dans l'expérience publique de Google Earth. Cette situation n'est pas sans précédent dans l'industrie technologique. Par exemple, Meta a également dû retirer une fonctionnalité similaire, Muse Image, peu après son lancement, en raison de préoccupations similaires concernant l'utilisation abusive des images générées.
Ces incidents soulignent les défis auxquels sont confrontées les entreprises technologiques lorsqu'elles introduisent de nouvelles fonctionnalités basées sur l'intelligence artificielle, notamment en matière de sécurité et d'éthique.
