Zaledwie w zeszłym tygodniu firma Google znalazła się w nieco niezręcznej sytuacji. W czwartek ten technologiczny gigant udostępnił w serwisie Google Earth nową funkcję, która pozwalała użytkownikom dodawać tekstowe opisy do zdjęć satelitarnych przy pomocy sztucznej inteligencji. Narzędzie to zasadniczo dawało użytkownikom możliwość tworzenia deepfake’ów przedstawiających rzeczywisty świat, piksel po pikselu. Krytycy i obserwatorzy wyrazili obawy dotyczące potencjalnego nadużycia takiego narzędzia, co wywołało poruszenie w społecznościach zajmujących się technologią i sztuczną inteligencją.
Podkreślając zakres potężnych możliwości tego narzędzia, Henk van Ess z Cyfrowe wykopaliska, trafił na pierwsze strony gazet, celowo tworząc obrazy skłaniające do refleksji. Dołączył do nich zdjęcia uchodźców w pobliżu granicy z Meksykiem oraz krater po bombie w pobliżu szpitala w Strefie Gazy, przypominając światu o nieustannych kryzysach humanitarnych, z którymi obecnie się borykamy.
Tymczasem firma Google miała już przygotowane argumenty mające na celu zapewnienie przejrzystości i integralności tego narzędzia. Szybko zaznaczyła, że wszystkie obrazy generowane za pomocą nowej funkcji o nazwie „Nano Banana 2” w Google Earth będą opatrzone cyfrowym znakiem wodnym. Ponadto zapewniła opinię publiczną, że wprowadziła środki zapobiegające tworzeniu obrazów dotyczących wrażliwych lub szkodliwych tematów.
Jednocześnie ryzyko nadużycia nowego narzędzia ponownie rozgrzało trwające dyskusje na temat deepfake’ów i związanego z nimi zagrożenia zniekształcania rzeczywistości. Wprowadzenie takich możliwości może zasadniczo zmienić sposób, w jaki postrzegamy świat cyfrowy i wchodzimy z nim w interakcję, zwłaszcza w kontekście zdjęć satelitarnych. Biorąc pod uwagę rosnące wykorzystanie takich obrazów w różnych dziedzinach – od badań meteorologicznych po wywiad wojskowy – konsekwencje mogą być daleko idące.
Burzliwe reakcje na premierę Nano Banana 2 świadczą o rosnącej świadomości społecznej w zakresie technologii sztucznej inteligencji i związanych z nimi implikacji etycznych. Wciąż rośnie zapotrzebowanie na większą kontrolę i czujność w odniesieniu do aplikacji wykorzystujących sztuczną inteligencję i rzeczywistość rozszerzoną, zwłaszcza tam, gdzie istnieje wysokie ryzyko dezinformacji lub wprowadzania w błąd. Niniejsza premiera podkreśla, jak cienka jest granica między nieszkodliwą aplikacją opartą na sztucznej inteligencji a narzędziem, które potencjalnie może zniekształcać postrzeganie rzeczywistości.
Dzień później firma Google wydała nowe oświadczenie dotyczące tej kwestii. Wydarzenie to stanowi jednak kolejny kamień milowy w szerszym kontekście dyskusji na temat etyki sztucznej inteligencji oraz szeroko zakrojonych debat dotyczących zastosowań i konsekwencji technologii deepfake. Wraz z rozwojem technologii kwestia regulacji jej wykorzystania staje się coraz bardziej złożona i pilna.
Aby uzyskać bardziej szczegółowe informacje na temat nowego narzędzia Google Earth opartego na sztucznej inteligencji oraz związanych z nim dyskusji, możesz Przeczytaj całą historię na The Verge.
