Tworzenie obrazów z wykorzystaniem sztucznej inteligencji (AI) wykroczyło poza granice naszego powszechnego rozumienia rzeczywistości. Teraz można manipulować cyfrowymi krajobrazami świata rzeczywistego, aby przedstawiać sceny tak urzekające jak przytulna chatka położona w górach, kierując się jedynie tekstową wskazówką. Ta fascynująca funkcja, która do niedawna działała w Google Earth, umożliwiała przekształcanie zdjęć satelitarnych, lotniczych i trójwymiarowych w oszałamiające obrazy, dotychczas możliwe jedynie w ludzkiej wyobraźni.
Niestety, a może na szczęście, ta funkcja sztucznej inteligencji została wycofana. Potencjał sztucznej inteligencji w zakresie przekształcania rzeczywistości został uderzająco zademonstrowany na obrazach wygenerowanych przez Henka van Essa z Digital Digging. Stworzone przez niego obrazy przedstawiały uchodźców w pobliżu granicy z Meksykiem oraz krater po bombie w pobliżu szpitala w Strefie Gazy – za pomocą zwykłego polecenia tekstowego wyczarował z niczego poruszające opowieści. Jednak te sugestywne obrazy uwypukliły również pułapki związane z taką manipulacją – dezinformację i fałszowanie rzeczywistości.
Google Earth stał się świadkiem tej twórczej i potencjalnie wywrotowej możliwości, prezentując niespotykaną dotąd mieszankę obrazów rzeczywistych i fikcyjnych. Aplikacja ta umożliwiła użytkownikom tworzenie fantastycznych scen, takich jak chatki położone w górach, ale jednocześnie pokazała potencjał rozpowszechniania dezinformacji poprzez manipulację obrazami przy pomocy sztucznej inteligencji. Wkrótce pojawiły się obawy dotyczące autentyczności tych obrazów zmodyfikowanych przez sztuczną inteligencję.
Reakcja Google’a była błyskawiczna. Firma podkreśliła, że przywiązuje dużą wagę do zapobiegania dezinformacji i zapewniania wiarygodności obrazów. Gigant technologiczny oświadczył: “Traktujemy dezinformację poważnie – każdy obraz wygenerowany za pomocą Nano Banana w Google Earth zawiera cyfrowy znak wodny SynthID”. To zapewnienie sugerowało, że każdy obraz wygenerowany przez sztuczną inteligencję w Google Earth posiada unikalny identyfikator, który pomaga zweryfikować jego autentyczność i w razie potrzeby ujawnić, że został stworzony przez sztuczną inteligencję.
Ten znak wodny stanowił próbę firmy Google mającą na celu zachowanie równowagi między kreatywnością a wiarygodnością. Dzięki temu użytkownicy pragnący zweryfikować autentyczność obrazu mogli albo zwrócić się do aplikacji Gemini, albo skorzystać z funkcji Google Lens w wyszukiwarce, aby sprawdzić, czy obraz został wygenerowany przez sztuczną inteligencję. Zapewniało to poczucie bezpieczeństwa w obliczu gwałtownego rozprzestrzeniania się fałszywych obrazów generowanych przez sztuczną inteligencję.
Manipulowanie rzeczywistością przez sztuczną inteligencję to zjawisko wręcz oszałamiające i niepokojące. Jednak ze względu na takie zawiłości, jak potencjalne dezinformowanie i manipulowanie prawdą, należy podchodzić do jej zastosowań z dużą ostrożnością. Podróż, którą rozpoczęliśmy od prostego polecenia tekstowego dla sztucznej inteligencji, prowadzi nas w głąb dyskusji na temat wiarygodności, autentyczności oraz rozpoznawania cyfrowego śladu w nieustannie ewoluującym świecie sztucznej inteligencji.
Aby przeczytać dalszą część artykułu, przejdź tutaj do serwisu The Verge.
