Google Terre a expérimenté – pour ensuite la retirer au bout de 24 heures – une fonction qui, du moins sur le papier, pourrait ouvrir des scénarios très utiles aux ingénieurs, chercheurs et autres professionnels qui s’occupent quotidiennement (ou presque) des paysages. Avec cette nouvelle fonction, il était possible créer des images géographiques personnalisées à partir de cartes satellites, de photographies aériennes et de modèles 3D de la planète. Dommage que les deepfakes géographiques aient commencé à se répandre comme une traînée de poudre, obligeant le géant de Mountain View à retirer, du moins pour le moment, le Nano Banana 2, basé sur les fonctions, son modèle d’intelligence artificielle générative.
Une fonction créée dans un but noble et des exemples de deepfakes
L’idée initiale était simple : permettre aux utilisateurs de modifier virtuellement des lieux réels grâce à l’IA. Avec seulement quelques commandes, il aurait été possible, par exemple, de visualiser une maison de rêve dans un parc, d’imaginer de nouvelles infrastructures ou de transformer un lieu moderne pour montrer à quoi il aurait pu ressembler dans le passé. La fonction, disponible uniquement depuis un ordinateur, permettait de générer des images directement à partir de l’environnement Google Earth et enregistrez-les dans vos projets.
La frontière entre la créativité et la création de contrefaçons géographiques s’est cependant révélée très mince et a été rapidement surmontée par les utilisateurs qui ont utilisé la fonction en question. C’est pourquoi certains chercheurs ont rapidement souligné qu’un outil similaire pourrait être exploité pour créer de véritables deepfakes géographiques, c’est-à-dire des images artificielles montrant des lieux réels modifiés par l’intelligence artificielle pour paraître authentiques, du moins au début.
Les manifestations des risques sont arrivées presque immédiatement. Certains experts ont montré comment il serait possible d’ajouter des éléments inexistants à des images satellites réelles : l’un centrale nucléaire en Iran, monuments détruits (comme la Tour Eiffel et la Grande Pyramide de Gizeh, dans l’image de couverture de cet article), accidents ou structures jamais construites. La crainte était que des images de ce type puissent être utilisées pour des campagnes de désinformation, c’est-à-dire pour diffuser de faux contenus dans le but d’influencer les opinions et les comportements.
Cette préoccupation découle également de rôle particulier que Google Earth a assumé au fil des années. Le service est souvent utilisé par les journalistes et les chercheurs pour vérifier des photographies et des vidéos provenant de zones de crise, vérifiant ainsi si un certain événement s’est réellement produit à un certain endroit ou non. Si une plateforme considérée comme fiable permet de créer des images artificielles à partir de ses cartes, il devient beaucoup plus difficile de distinguer les preuves réelles d’une reconstruction inventée.
L’enquêteur indépendant Henk van Essdans sa newsletter, a montré avec quelle rapidité il était possible de créer des scénarios trompeurs à l’aide de la nouvelle fonctionnalité. Selon son analyse, des tâches qui nécessitaient auparavant plusieurs étapes avec des outils distincts pourraient être accomplies en quelques secondes directement dans Google Earth, grâce à une barre de saisie et un bouton. Parmi les exemples les plus frappants présentés par l’enquêteur, il y a la reproduction d’une scène dans laquelle des milliers de réfugiés sont vus près de la frontière entre le Mexique et les États-Unis et qui, comme le montre la vidéo suivante, a été réalisée en quelques secondes seulement.
Exemples de deepfakes créés avec Google Earth
Si cela vous intrigue, nous vous laissons un petit aperçu de quelques-uns exemples de deepfakes générés avec Google Earthpour que vous puissiez encore mieux comprendre l’ampleur du phénomène. Toutes les images que vous verrez ci-dessous sont évidemment fausses.
L’IA reviendra-t-elle sur Google Earth à l’avenir ?
Google avait initialement défendu la fonctionnalité en expliquant que les images générées incluaient ID de synthétiseurun filigrane numérique invisible qui permet de reconnaître le contenu créé avec les outils d’intelligence artificielle de l’entreprise. Selon Google, ce système était censé aider les utilisateurs à vérifier si une image a été générée par l’IA. Mais certains chercheurs ont remis en question l’efficacité de s’appuyer uniquement sur cette méthode. En effet, les fausses images ne circulent souvent pas sous forme de fichiers originaux : elles peuvent être partagées sous forme de captures d’écran, d’enregistrements d’écran ou de photographies prises sur un moniteur, perdant ainsi une partie des informations permettant la reconnaissance automatique.
Ici Google a décidé de retirer la fonction et, dans un post confié à X, a expliqué :
Nous avons vu des professionnels du géospatial utiliser cette fonctionnalité à diverses fins utiles, mais nous avons également vu des personnes partager des captures d’écran d’images générées qui semblent enfreindre nos politiques. (…) Nous rétablissons donc cette fonctionnalité dans Google Earth tout en Nous travaillons à la mise en place de barrières de protection plus résistantes.
Le fait que Google ait déclaré travailler sur «des barrières de protection plus résistantes», selon certains, il s’agit d’une allusion au fait que les fonctions de l’IA sur Terre n’ont été arrêtées que temporairement et qu’elles pourraient redevenir utilisables dans le futur, lorsqu’il y aura de plus grandes garanties en termes de sécurité.