La semaine dernière encore, Google s’est retrouvé dans une situation quelque peu délicate. Jeudi, le géant de la technologie avait lancé une nouvelle fonctionnalité sur Google Earth permettant aux utilisateurs d’ajouter des textes aux images satellites à l’aide de l’intelligence artificielle. Cet outil offrait en substance aux utilisateurs la possibilité de créer des « deepfakes » du monde réel, pixel par pixel. Les critiques et les observateurs ont exprimé leurs inquiétudes quant à l'utilisation abusive potentielle d'un tel outil, ce qui a provoqué un tollé au sein des communautés technologiques et de l'IA.
Soulignant une nouvelle fois l'étendue des puissantes fonctionnalités de l'outil, Henk van Ess, chez Fouilles numériques, a fait la une des journaux en créant délibérément des images qui incitent à la réflexion. Il a ajouté des représentations de réfugiés près de la frontière mexicaine et d'un cratère de bombe à proximité d'un hôpital à Gaza, rappelant ainsi au monde entier les crises humanitaires persistantes auxquelles nous sommes actuellement confrontés.
De son côté, Google avait préparé ses arguments pour garantir la transparence et l'intégrité de l'outil. L'entreprise n'a pas tardé à souligner que toutes les images générées à l'aide de cette nouvelle fonctionnalité, baptisée « Nano Banana 2 » dans Google Earth, porteraient un filigrane numérique. Elle a par ailleurs assuré au public qu'elle avait mis en place des mesures pour empêcher la création d'images sur des sujets sensibles ou préjudiciables.
Parallèlement, les risques d’utilisation abusive de ce nouvel outil ont relancé les débats en cours sur les « deepfakes » et le risque inhérent qu’ils représentent en termes de déformation de la réalité. L’ajout de telles fonctionnalités peut modifier en profondeur la manière dont nous percevons le monde numérique et interagissons avec lui, en particulier dans le contexte de l’imagerie satellite. Compte tenu du recours croissant à ces images dans divers domaines, allant des études météorologiques au renseignement militaire, les implications pourraient être considérables.
Les réactions tumultueuses suscitées par le lancement de Nano Banana 2 témoignent d’une prise de conscience croissante du public quant aux technologies d’IA et à leurs implications éthiques. On observe une demande constante pour un contrôle et une vigilance accrus vis-à-vis des applications d’IA et de réalité augmentée, en particulier lorsque le risque de désinformation ou de présentation trompeuse est élevé. Ce lancement met en évidence la frontière ténue entre une application d’IA inoffensive et un outil susceptible de fausser les perceptions.
Google a publié, le lendemain, un nouveau communiqué abordant la question. Cet événement marque toutefois une nouvelle étape importante dans le débat plus large sur l'éthique de l'IA et les discussions approfondies concernant les applications et les implications des technologies de « deepfake ». À mesure que la technologie évolue, la question de la réglementation de son utilisation devient de plus en plus complexe et urgente.
Pour en savoir plus sur le nouvel outil Google Earth basé sur l'IA et sur les débats qu'il suscite, vous pouvez Lire l'article complet sur The Verge.
