Nie masz pewności? Uznaj, że to AI

Prawicowe profile w mediach społecznościowych udostępniały kolaż trzech „zdjęć”, którego celem była następujący przekaz: W programie Moniki Olejnik premier Donald Tusk nie wytrzymuje presji i opuszcza studio. Prezydent Karol Nawrocki zachowuje zimną krew. 

Chwila uważnego oglądania kolażu wystarczyła, by zakwestionować jego autentyczność. Monika Olejnik tak bardzo nie przypomina siebie, że gdyby nie koślawa parodia logo „Kropki nad i”, ciężko byłoby się domyślić, kim właściwie jest. Podobnie wygląda sytuacja z „prezydentem”, którego rysy twarzy wyraźnie różnią się między kolejnymi kadrami. W zaciśniętej dłoni „premiera” widać szósty palec. 

Nie zawsze jednak musi to wyglądać tak nieporadnie. Czas, gdy grafikę generowaną przez AI można było rozpoznać po dodatkowych palcach albo elementach tła łamiących prawa fizyki, odchodzi w zapomnienie. Technologia generatywna tworzy obrazy, które przy pobieżnym spojrzeniu bywają niemal nieodróżnialne od prawdziwej fotografii. Nadal często widać zaburzone proporcje twarzy, nienaturalne emocje, podejrzane światło i kolory. Jednak dostrzeżenie takich błędów wymaga skupienia. Nawet przy dużej ostrożności zdarza się nam nabrać na wygenerowany materiał albo przeciwnie — oskarżyć prawdziwe zdjęcie o komputerową manipulację.

Jednocześnie rozwój kompetencji cyfrowych przebiega wolniej niż rozwój samej technologii. Dlatego użytkowników mediów społecznościowych trzeba uwrażliwiać na fakt, że każda treść może zostać sfabrykowana. Podstawową metodą pozostaje uważna analiza szczegółów. Podejrzenia powinny wzbudzać logotypy i napisy, które często odbiegają od oryginału. Szczególne znaczenie ma to przy logach które mają ustandaryzowany kształt.  Warto przyjrzeć się cieniom oraz refleksom światła w oczach i okularach, by ocenić, czy wyglądają naturalnie. 

Generatory słabo radzą sobie również z teksturami, dlatego warto przyglądać się skórze i włosom — czy nie są zbyt idealne i nienaturalnie, gładkie jak u lalki. Dobrze przeanalizować tło i sprawdzić, czy nie pojawiają się w nim deformacje. Ale uwaga! Z każdym kolejnym modelem wychwytywanie takich błędów będzie coraz trudniejsze.

W internecie znajdziemy modele AI mające służyć jako skuteczne narzędzia do wykrywania grafik generowanych przez sztuczną inteligencję. Większość działa w oparciu o mechanizm uczenia się na prawdziwych fotografiach i obrazach wygenerowanych komputerowo. Algorytm analizuje różnice między nimi i próbuje wychwycić najczęściej występujące anomalie odróżniające prawdziwe zdjęcia od tych stworzonych przez modele generatywne.

Dlatego jesteśmy świadkami cyfrowego wyścigu zbrojeń. Portale służące wykrywaniu AI chwalą się skutecznością często przekraczającą 90%. Mimo to trudno sobie wyobrazić, by stały się standardowym narzędziem do weryfikacji treści w mediach społecznościowych. Wiele z nich jest całkowicie płatnych albo oferuje jedynie ograniczone darmowe pakiety. W sytuacji, gdy nie mamy pewności co do autentyczności materiału, możemy spróbować wesprzeć się takim rozwiązaniem. Trzeba jednak pamiętać, że uzyskany rezultat nie musi być rozstrzygający.

Inną możliwością jest korzystanie z ogólnodostępnych systemów, takich jak Gemini od Google, który potrafi wykrywać obrazy wygenerowane przez narzędzia tej firmy dzięki niewidzialnemu znakowi wodnemu SynthID. Jednocześnie radzi sobie także z materiałami wykonanymi przez modele konkurencji.

Eksperymentalnie wprowadziłem górny kadr do dwóch systemów: Gemini oraz polecanego w internecie Truth Scan. Oba poprawnie uznały, że zdjęcie zostało wygenerowane przez AI. 

Systemy zwróciły uwagę na inne problemy. Gemini uznał obie postaci męskie za Donalda Tuska. Wskazał błędy w budowie dłoni, ale nie zauważył, że Tusk i Olejnik mają po sześć palców. Zarówno Gemini, jak i TruthScan zwróciły uwagę na nienaturalne tekstury twarzy oraz problemy z logiką oświetlenia. TruthScan wskazał również na przesadną symetrię i cechy kompozycyjne typowe dla obrazów generowanych komputerowo. Gemini nie wykrył znaku wodnego charakterystycznego dla produktów Google. TruthScan z kolei uznał, że w obrazie widoczne są artefakty przypominające ślady po znakach wodnych.

Generowanie grafiki poprzez narzędzia AI będzie coraz doskonalsze. Model biznesowy tych firm zakłada umożliwienie generowania treści jak najszerszym masom — bezpłatnie albo stosunkowo tanio. Dlatego powrót do świata, w którym „sfotografowane znaczy wydarzyło się ”, nie będzie w najbliższym czasie możliwy.

Musimy nauczyć się podchodzić do zdjęć z ostrożnością. To, co najlepiej ochroni nas przed dezinformacją, to skupianie się na kontekście oraz nawyk oceniania prawdopodobieństwa wydarzeń, które widzimy na ilustracjach.

Gdy coś zgadza się z naszymi wartościami, mamy zwyczaj łatwiejszego przyjmowania takich treści. Psychologia nazywa to efektem potwierdzenia i jest to dobrze opisany mechanizm. Dlatego musimy nauczyć się przykładać szczególną uwagę do materiałów potwierdzających nasz światopogląd. 

Doskonalenie narzędzi AI błyskawicznie dezaktualizuje nasze rozumienie fotografii wypracowane przez ostatnie 200 lat.

Już na obecnym etapie rozwoju jesteśmy wyjątkowo podatni na takie manipulacje. Funkcjonując w mediach społecznościowych, przyjmujemy ogromne ilości treści wizualnych. Zmniejsza się nasza zdolność koncentracji, co sprawia, że poświęcamy coraz mniej czasu na ocenę prawdziwości informacji.

Naszą zdolność weryfikacji treści może wspomóc dbanie o zdrowe praktyki korzystania z sieci. Nie traktujmy mediów społecznościowych jako jedynego źródła informacji. Stosujmy krzyżowe sprawdzanie treści w różnych źródłach, przedkładając media i autorów o ustalonej wiarygodności ponad anonimowe profile.