Google annonce déjà le retrait de son générateur d’images IA (basé sur Nano Banana 2) sur Google Earth, 24 heures seulement après la disponibilité pour le public. Cela s’explique par des dérives de quelques utilisateurs.
Image générée par IA sur Google Earth, montrant le siège social de Google bombardé
Plus d’IA sur Google Earth
Google avait déployé Nano Banana 2 dans Google Earth pour permettre aux utilisateurs de créer des visualisations de paysages imaginaires basées sur des lieux réels, en tapant simplement un prompt. À peine 24 heures après son lancement, l’entreprise a annoncé le retrait de l’outil, invoquant des violations répétées de ses politiques d’utilisation. Google indique :
Nous savons que les utilisateurs font particulièrement confiance à Google Earth pour obtenir une vision fiable du monde. Nous avons constaté que des professionnels du secteur géospatial utilisaient cette fonctionnalité à des fins très diverses, mais nous avons également remarqué que certaines personnes partageaient des captures d’écran d’images générées qui semblaient enfreindre nos règles. Nous avons donc décidé de désactiver cette fonctionnalité dans Google Earth le temps de mettre en place des mesures de contrôle plus strictes. Il est important de noter que les images générées n’apparaissaient pas dans l’interface principale de Google Earth, où elles auraient pu être vues par d’autres utilisateurs, et qu’elles portaient un filigrane indiquant qu’elles avaient été générées par l’IA.
Ce délai extrêmement court de 24 heures illustre la rapidité avec laquelle des utilisateurs ont détourné la fonctionnalité pour produire des images trompeuses présentées comme des captures d’écran de la réalité. Parmi les exemples, il y a eu des images IA de réfugiés à la frontière mexicaine et un cratère près d’un hôpital de Gaza. Cela montre que l’outil pouvait fabriquer des scènes de crise géopolitique sur des coordonnées géographiques bien réelles, brouillant ainsi la frontière entre l’information vérifiée et le contenu fabriqué par intelligence artificielle.
D’autre part, Google avait assuré avoir mis en place des mécanismes empêchant la création d’images sur des sujets jugés nuisibles, un dispositif visiblement insuffisant face à la créativité des utilisateurs qui ont contourné ces restrictions.
À l’arrivée, les utilisateurs font particulièrement confiance à Google Earth pour obtenir une vision fiable du monde, une confiance que Google ne souhaitait pas fragiliser en laissant circuler des images capables de passer pour de véritables preuves visuelles.
Des garde-fous renforcés avant un éventuel retour
Google a promis de renforcer ses mécanismes de sécurité avant toute réintégration de la fonctionnalité, sans préciser de calendrier ni détailler les politiques précisément enfreintes par les utilisateurs. Cet épisode illustre les défis persistants que rencontrent les géants technologiques lorsqu’ils intègrent des outils de génération d’images IA dans des services perçus comme des sources fiables d’information géographique.
2 commentaires pour cet article :