Świat cyfrowy często naśladuje rzeczywistość w wyjątkowy i fascynujący sposób. Firma Google, w ramach swoich szeroko zakrojonych działań mających na celu mapowanie i udostępnianie naszego fizycznego świata w przestrzeni cyfrowej, dodała do aplikacji Google Earth innowacyjną (i budzącą kontrowersje) funkcję za pomocą narzędzia o fantazyjnej nazwie ‘Nano Banana 2’. Narzędzie to pozwalało użytkownikom na manipulowanie zdjęciami satelitarnymi za pomocą poleceń tekstowych, dając im możliwość odtworzenia cyfrowej wersji naszego rzeczywistego świata w dowolny sposób. Użytkownik mógł wpisać “dodaj tutaj las”, a wkrótce pojawiał się bujny, zielony las, jakby właśnie wyrosł z wyobraźni użytkownika.
Jednak pozorna przystępność i kreatywność, jakie oferuje Nano Banana 2, stały się przedmiotem dokładniejszej analizy, gdy w centrum uwagi znalazły się przypadki wykorzystania deepfake’ów opartych na sztucznej inteligencji. Bardzo wymownym przykładem tego zjawiska było wykorzystanie tego narzędzia przez Henka van Essa, dziennikarza z serwisu ‘Digital Digging’, do stworzenia drastycznych wizualizacji wydarzeń o znaczeniu globalnym, takich jak pojawienie się nieoczekiwanej fali uchodźców w pobliżu granicy z Meksykiem czy powstanie krateru po wybuchu bomby w pobliżu szpitala w Strefie Gazy. Korzystając z podpowiedzi tekstowych i sztucznej inteligencji, udało mu się wygenerować wiarygodne obrazy tych scen, zacierając granicę między tym, co jest prawdziwe, a tym, co nie.
W odpowiedzi na to Google podkreśliło, że obrazy te zostały rzeczywiście wygenerowane przez Nano Banana 2 i nie stanowią rzeczywistych przedstawień prawdziwych scen. Aby zapewnić to rozróżnienie, w obrazach tych osadzono cyfrowy znak wodny, a firma podjęła również środki zapobiegawcze przeciwko tworzeniu obrazów związanych z szkodliwymi tematami.
Szybka cyfryzacja, której motorem są narzędzia takie jak Nano Banana 2, rzeczywiście otwiera drzwi do kreatywności i odkrywania, ale jednocześnie dobitnie uwidacznia ryzyko nadużywania tych narzędzi. Wkrótce po czwartkowej premierze i wynikającym z niej zamieszaniu związanym z niewłaściwym wykorzystaniem narzędzia firma Google podjęła decyzję o wyłączeniu Nano Banana 2, uniemożliwiając użytkownikom edycję zdjęć satelitarnych.
Ogłoszenie, które firma Google opublikowała dzień później w związku z zamknięciem serwisu, wywołało wśród użytkowników mieszane uczucia. Z jednej strony rosły obawy związane z możliwością nadużyć i tworzenia deepfake’ów, z drugiej zaś takie innowacyjne narzędzia poszerzają granice cyfrowych poszukiwań i interakcji z naszym fizycznym światem.
Co ciekawe, w miarę jak świat coraz bardziej wkracza w sferę cyfrową, konsekwencje stosowania narzędzi takich jak Nano Banana 2 świadczą o ogromnym zakresie możliwości oraz kluczowym znaczeniu kwestii etycznych związanych z tą cyfrową granicą.
Od nowej interpretacji Pompejów po kontrowersyjny incydent związany z deepfake’ami – błyskawiczny wzrost popularności i upadek Nano Banana 2 stanowią dobitne przypomnienie o złożonych problemach związanych z opracowywaniem i wdrażaniem nowych technologii, które mogą znacząco wpłynąć na sposób, w jaki postrzegamy nasz świat, zarówno w sferze fizycznej, jak i cyfrowej.
Aby zapoznać się z bardziej szczegółową analizą tej sytuacji, zajrzyj do oryginalny artykuł opublikowany w serwisie The Verge.
