Google retire la fonction IA de Google Earth après une vague de fausses images satellite

Google retire la fonction IA de Google Earth après une vague de fausses images satellite
Maurine Briantais

Moins de 24 heures après avoir intégré son IA à Google Earth, l'entreprise est obligée de la retirer. Faute de garde-fous suffisants, des internautes s'en servaient pour créer de fausses images satellites.

Il y a quelques jours à peine, Google déployait Nano Banana 2, un de ses derniers modèles de génération d'images, au sein de Google Earth, son célèbre logiciel de cartographie satellite. Une association plutôt inattendue au premier abord, mais qui permettait à l'IA de générer des illustrations à partir de n'importe quel lieu réel (voir notre article). Si, initialement, le géant de la tech pensait que son outil serait utilisé pour faire revivre des lieux historiques, imaginer des projets ou dans un but pédagogique, il n'a pas fallu longtemps pour que les choses dégénèrent. En effet, des internautes se sont rapidement mis à fabriquer de fausses images satellite susceptibles de propager des fake news, malgré les garde-fous de l'entreprise. Moins de 24 heures après son lancement, cette dernière a donc dû retirer la fonction.

Nano Banana 2 dans Google Earth : une fausse bonne idée

Initialement, l'idée était que l'utilisateur choisisse un lieu, zoome dessus et décrive ce qu'il souhaitait voir, afin que l'IA puisse générer une image photoréaliste construite à partir des vues satellite, aériennes et 3D de Google. Et comme l'outil s'appuyait sur les vraies données géographiques, le résultat était tout à fait convaincant – et donc trompeur.

Des chercheurs spécialisés dans la désinformation ont rapidement averti que la fonction pouvait être détournée pour créer de faux contenus géographiques très réalistes, malgré les restrictions mises en place par l'entreprise. Et ça n'a pas manqué ! Très vite, les réseaux sociaux ont été envahis de fausses informations agrémentées d'images satellite trafiquées par Nano Banana 2, notamment à propos de la frontière entre le Mexique et les États-Unis, ainsi que du World Trade Center.

Henk van Ess, chercheur du site Digital Digging spécialisé dans la vérification de sources, a voulu tester les limites de la fonction. L'expert a rapidement pu réaliser des images satellites trompeuses, comme de très nombreux réfugiés à la frontière mexicaine, une centrale nucléaire en Iran, un accident mortel dans une rue d'Amsterdam et un immense cratère de bombe près d'un hôpital à Gaza.

Plusieurs groupes ont également appelé Google à retirer cette fonction, dont le Centre for Information Resilience, un groupe spécialisé dans les enquêtes en source ouverte basé à Londres. Ross Burley, son directeur exécutif, l'avait qualifiée d'"irresponsable" : "Il a fallu des décennies pour bâtir la confiance dans les images satellites, et celle-ci pourrait être irrémédiablement détruite du jour au lendemain". Même son de cloche du côté de GeoConfirmed, un projet collaboratif de vérification d'images de conflits à travers le monde.

Nano Banana 2 dans Google Earth : marche arrière toute !

Face aux critiques, Google s'est dans un premier temps défendu en rappelant que chaque image portait un filigrane SynthID – une marque invisible insérée dans les pixels qui indique qu'un contenu a été généré par IA. Sauf que, dans les faits, personne ne prend le temps de la soumettre à Gemini ou Lens, via le tag @verifyai, pour savoir si elle est vraie avant de la partager sur les réseaux. Pire encore, dans certains cas, l'IA ne détecte pas la supercherie – Digital Digging est parvenu à tromper le détecteur d'IA de Hive avec une vidéo modifiée depuis Google Earth, malgré la présence du marquage SynthID.

"Nous avons constaté que des professionnels de l'information géospatiale utilisaient cette fonctionnalité à diverses fins utiles. Cependant, nous avons également vu des personnes partager des captures d'écran d'images générées qui semblent enfreindre nos règles", a fini par déclarer Google sur X. Par conséquent, la firme a décidé de retirer l'outil "le temps de mettre en place des garde-fous plus robustes".