Narzędzie AI wycofane z Google Earth. Obawy o falę dezinformacji

Pod koniec lipca Google udostępniło funkcję w Google Earth opartą na modelu Nano Banana 2. Zamiast jedynie oglądać zdjęcia satelitarne, użytkownicy mogli je edytować za pomocą krótkich poleceń tekstowych. System potrafił dodawać budynki, zmieniać krajobraz, odtwarzać historyczne sceny czy wizualizować planowane inwestycje.
Firma wskazywała, że rozwiązanie ma służyć architektom, urbanistom, nauczycielom czy projektantom przestrzeni. Wygenerowane obrazy nie zastępowały oryginalnych zdjęć Google Earth, a dodatkowo były oznaczane cyfrowym znakiem wodnym SynthID.
Problem pojawił się niemal natychmiast. Użytkownicy odkryli, że narzędzie pozwala tworzyć fotorealistyczne obrazy przedstawiające wydarzenia, które nigdy nie miały miejsca.

Ostrzeżenie BBC Verify

Jednym z pierwszych zespołów, który zwrócił uwagę na zagrożenie, było BBC Verify. Dziennikarze opisali, że dzięki nowej funkcji można było w ciągu kilkunastu sekund wygenerować przekonujące obrazy przedstawiające skutki bombardowań, katastrof czy zmian infrastruktury w rzeczywistych lokalizacjach.
Szczególne obawy wzbudziło to, że obrazy powstawały nie od zera, lecz na bazie autentycznych zdjęć satelitarnych. Dzięki temu wyglądały znacznie bardziej wiarygodnie niż typowe grafiki generowane przez AI. BBC Verify ostrzegło, że w czasie konfliktów zbrojnych lub katastrof naturalnych takie materiały mogłyby błyskawicznie trafić do mediów społecznościowych jako rzekome dowody rzeczywistych wydarzeń.

Eksperci: łatwo stworzyć fałszywe „dowody”

Jednym z najgłośniejszych testów był eksperyment badacza i analityka OSINT Henka van Essa. Korzystając z nowej funkcji, wygenerował on obrazy przedstawiające między innymi fikcyjny obóz uchodźców przy granicy amerykańsko-meksykańskiej, nieistniejącą elektrownię jądrową w Iranie, krater po wybuchu przy szpitalu w Strefie Gazy czy miejsce śmiertelnego wypadku w Amsterdamie.
Najbardziej niepokojące było jednak coś innego. Van Ess podkreślał, że system praktycznie nie odrzucał jego poleceń. Jak relacjonował, próbował tworzyć obrazy dotyczące konfliktów zbrojnych i wrażliwych wydarzeń, a narzędzie nie sugerowało zmiany promptów ani nie blokowało generowania takich treści.

Dlaczego zdjęcia satelitarne są tak ważne? 

Dla przeciętnego użytkownika Google Earth jest przede wszystkim aplikacją do oglądania świata. Dla dziennikarzy śledczych, analityków OSINT, organizacji humanitarnych czy badaczy praw człowieka zdjęcia satelitarne są jednak jednym z podstawowych narzędzi weryfikacji informacji.
To właśnie dzięki nim dokumentowane są zniszczenia miast, przemieszczanie wojsk, skutki katastrof naturalnych czy naruszenia praw człowieka. Z obrazów satelitarnych korzystają redakcje, organizacje pozarządowe oraz niezależni analitycy badający konflikty zbrojne.
Dlatego eksperci ostrzegali, że połączenie generatywnej AI z platformą uznawaną za wiarygodne źródło danych może podważyć zaufanie do materiałów, które dotychczas pomagały obalać fałszywe narracje. Jak zauważył Sam Stockwell z Alan Turing Institute, wbudowanie generatora obrazów w narzędzie wykorzystywane do sprawdzania autentyczności zdjęć oznacza, że „fałszywki powstają wewnątrz systemu, który dotąd pomagał je wykrywać”.

Sam znak wodny nie rozwiązuje problemu 

Google przypominało, że wszystkie wygenerowane obrazy były oznaczane technologią SynthID i nie pojawiały się w głównym widoku Google Earth.
Eksperci zwracają jednak uwagę, że w praktyce dezinformacja rzadko rozprzestrzenia się poprzez oryginalne pliki. Znacznie częściej użytkownicy publikują zrzuty ekranu lub nagrania ekranu w mediach społecznościowych. W takiej formie cyfrowe oznaczenia stają się znacznie mniej użyteczne, a odbiorcy nie mają możliwości łatwego sprawdzenia pochodzenia obrazu.
Dodatkowo Henk van Ess pokazał, że wygenerowane materiały potrafiły omijać niektóre systemy wykrywania obrazów stworzonych przez AI, co jeszcze bardziej zwiększyło obawy dotyczące ich wykorzystania w kampaniach dezinformacyjnych.

Google wycofało funkcję po niespełna dobie

Wobec narastającej krytyki Google zdecydowało się wycofać funkcję zaledwie dzień po jej uruchomieniu. Firma przyznała, że choć narzędzie znalazło praktyczne zastosowanie wśród specjalistów zajmujących się analizą przestrzenną, pojawiły się również obrazy naruszające zasady platformy. Google zapowiedziało, że funkcja pozostanie wyłączona do czasu opracowania skuteczniejszych zabezpieczeń.

Jednocześnie podkreślono, że użytkownicy darzą Google Earth wyjątkowym zaufaniem jako źródło informacji o świecie, dlatego konieczne jest zapewnienie większej ochrony przed nadużyciami.

To nie problem jednego narzędzia

Sprawa Google Earth pokazuje szerszy problem, z którym mierzą się twórcy generatywnej sztucznej inteligencji. Coraz trudniej odróżnić materiały autentyczne od wygenerowanych, a rozwój modeli AI wyprzedza możliwości skutecznego ograniczania ich nadużyć.
Do tej pory fałszywe zdjęcia satelitarne wymagały specjalistycznej wiedzy i zaawansowanej obróbki graficznej. Nowe rozwiązanie Google sprawiło, że ich tworzenie mogło ograniczyć się do wpisania jednego zdania.

Dla środowiska zajmującego się walką z dezinformacją jest to ważny sygnał. W erze generatywnej AI wiarygodność nie zależy już wyłącznie od jakości obrazu. Coraz większego znaczenia nabierają metody jego weryfikacji, analiza źródła oraz możliwość potwierdzenia autentyczności za pomocą wielu niezależnych danych. Wycofanie funkcji przez Google pokazuje, że nawet największe firmy technologiczne dostrzegają, iż rozwój sztucznej inteligencji musi iść w parze z ochroną wiarygodności informacji.