Le monde numérique imite souvent la vie de manière unique et fascinante. Dans le cadre de sa vaste quête visant à cartographier et à partager notre monde physique dans l’univers numérique, Google a ajouté une fonctionnalité innovante (et controversée) à Google Earth grâce à un outil au nom fantaisiste : ‘ Nano Banana 2 ’. Cet outil permettait aux utilisateurs de manipuler des images satellites à l’aide de commandes en texte brut, leur donnant ainsi la possibilité de recréer une version numérisée de notre monde réel comme bon leur semblait. Il suffisait à un utilisateur de taper “ ajouter une forêt ici ” pour qu’une forêt luxuriante et verdoyante apparaisse aussitôt, tout droit sortie de son imagination.
Cependant, l’accessibilité et la créativité apparentes de Nano Banana 2 ont fait l’objet d’un examen plus minutieux lorsque des cas d’utilisation de deepfakes générés par l’IA ont été mis en lumière. Un exemple particulièrement frappant est celui de Henk van Ess, journaliste chez ‘ Digital Digging ’, qui a utilisé cet outil pour créer des visualisations graphiques d’événements d’importance mondiale, tels que l’arrivée inattendue de réfugiés près de la frontière mexicaine ou la formation d’un cratère de bombe près d’un hôpital à Gaza. À l’aide de consignes textuelles et de l’IA, il a pu générer des images crédibles de ces scènes, brouillant ainsi la frontière entre le réel et l’irréel.
En réponse à cela, Google a souligné que ces images avaient bel et bien été générées par Nano Banana 2 et ne constituaient pas des représentations fidèles de scènes réelles. Afin de garantir cette distinction, un filigrane numérique est intégré à ces images et l'entreprise a également pris des mesures préventives contre la création d'images liées à des sujets préjudiciables.
La numérisation galopante induite par des outils tels que Nano Banana 2 ouvre certes la voie à la créativité et à l'exploration, mais elle met également cruellement en lumière les risques d'utilisation abusive de ces outils. Peu après son lancement jeudi, et suite au tollé suscité par l'utilisation abusive de l'outil, Google a décidé de fermer Nano Banana 2, empêchant ainsi les utilisateurs de modifier les images satellites.
L'annonce faite par Google le lendemain concernant la fermeture de ce service a suscité des réactions mitigées chez les utilisateurs. D'un côté, le risque d'utilisation abusive et de création de « deepfakes » suscitait une inquiétude croissante, mais de l'autre, des outils innovants comme ceux-ci repoussent les limites de l'exploration numérique et de l'interaction avec notre monde physique.
Il est intéressant de noter qu'à mesure que le monde s'enfonce davantage dans l'ère numérique, les implications d'outils tels que Nano Banana 2 témoignent de l'étendue considérable des possibilités et de l'importance cruciale des considérations éthiques qui se cachent derrière cette frontière numérique.
De la réinterprétation de Pompéi à l'épisode controversé des deepfakes, l'ascension et la chute fulgurantes de Nano Banana 2 nous rappellent de manière frappante les enjeux complexes liés au développement et au déploiement de nouvelles technologies susceptibles d'influencer considérablement notre perception du monde, tant dans le domaine physique que numérique.
Pour une analyse plus approfondie de cette situation, consultez l'article original publié sur The Verge.
