La génération d'images grâce à l'intelligence artificielle (IA) a dépassé les limites de notre conception habituelle de la réalité. Des paysages numériques inspirés du monde réel peuvent désormais être manipulés pour représenter des scènes aussi captivantes qu’un chalet douillet niché dans les montagnes, sur la simple base d’une consigne textuelle. Cette fonctionnalité fascinante, qui était jusqu’à récemment disponible sur Google Earth, permettait de transformer des images satellites, aériennes et 3D en visuels époustouflants qui, jusqu’alors, n’existaient que dans l’imagination humaine.
Malheureusement, ou peut-être heureusement, cette fonctionnalité d’IA a été supprimée. Le pouvoir de l’IA à transformer la réalité a été démontré de manière saisissante dans les images générées par Henk van Ess, de Digital Digging. Les images qu’il a créées montraient des réfugiés près de la frontière mexicaine et un cratère de bombe près d’un hôpital à Gaza : il a su faire surgir de nulle part des récits saisissants à partir d’une simple consigne textuelle. Cependant, ces images percutantes ont également mis en évidence les écueils d’une telle manipulation : la désinformation et la déformation de la réalité.
Google Earth a mis en évidence cette capacité créative et potentiellement subversive, en présentant un mélange inédit d’images réelles et irréelles. L’application permettait aux utilisateurs de créer des scènes fantastiques, telles que des chalets nichés dans les montagnes, mais elle a également démontré le risque de désinformation lié à la manipulation d’images assistée par l’IA. Très vite, des inquiétudes ont surgi quant à l’authenticité de ces images modifiées par l’IA.
La réponse de Google n’a pas tardé. L’entreprise a souligné son engagement à lutter contre la désinformation et à garantir la crédibilité de ces images. Le géant de la technologie a déclaré : “ Nous prenons la désinformation très au sérieux : chaque image créée avec Nano Banana dans Google Earth comporte le filigrane numérique SynthID. ” Cette précision laisse entendre que chaque image générée par IA dans Google Earth comporte une balise d’identification unique, ce qui permet de vérifier son authenticité et, si nécessaire, de révéler qu’elle a été créée par une IA.
Ce filigrane témoignait de la volonté de Google de trouver un équilibre entre créativité et crédibilité. Grâce à lui, les utilisateurs souhaitant vérifier l’authenticité d’une image pouvaient soit interroger l’application Gemini, soit utiliser Google Lens dans la recherche pour vérifier si l’image avait été générée par l’IA. Cela apportait un sentiment de sécurité face à la prolifération fulgurante de fausses images générées par l’IA.
La manipulation de la réalité par l’IA est un phénomène à la fois stupéfiant et inquiétant. Mais compte tenu des subtilités que cela implique, telles que la désinformation potentielle et la manipulation de la vérité, son utilisation doit être abordée avec prudence. Ce parcours, que nous avons entamé il y a quelque temps à partir d’une simple invite textuelle destinée à l’IA, nous plonge aujourd’hui dans des débats sur la fiabilité, l’authenticité et la reconnaissance de l’empreinte numérique dans le monde en constante évolution de l’intelligence artificielle.
Pour continuer à lire l'article, rendez-vous sur le site de The Verge en cliquant ici.
