Światło kontra deepfake. Powstał detektor wykrywania wideo stworzonych przez AI

W styczniu 2024 r. doszło do spektakularnego oszustwa z użyciem technologii deepfake. Cyberprzestępcy sfabrykowali wizerunki oraz głosy dyrektora finansowego i innych współpracowników, zapraszając pracownika działu finansowego firmy Arup w Hongkongu na fałszywą wideokonferencję. Przekonany o autentyczności spotkania mężczyzna przelał na wskazane konta łącznie 200 mln dolarów hongkońskich (około 25,6 mln USD).  

Gdy oszustwo wyszło na jaw, firma poinformowała, że jej systemy nie zostały zhakowane. Przestępcy wykorzystali zamiast tego zaawansowaną inżynierię społeczną wspomaganą technologią deepfake.

Sam termin „deepfake” pojawił się już w 2017 r., ale sprawa z Hongkongu pokazała, że technologia ta nie jest już tylko narzędziem do tworzenia fałszywych nagrań w internecie. Może zostać wykorzystana do przeprowadzenia wielomilionowego oszustwa, w którym ofiara jest przekonana, że widzi i słyszy prawdziwe osoby.

Przełom w walce z AI

Zespół prof. Aydogana Ozcana z Uniwersytetu Kalifornijskiego w Los Angeles (UCLA) opisał w pracy „Scalable, Energy-Efficient Optical-Neural Architecture for Multiplexed Deepfake Video Detection” (recenzowana wersja pojawiła się właśnie w czasopiśmie eLight) system, który za pomocą kodera cyfrowego wydobywa z wideo cechy przestrzenne, widmowe i czasowe i zamienia je we wzór fazowy na programowalnym modulatorze światła.

Upraszczając: światło przechodzi przez dekodery optyczne, które wystawiają ocenę autentyczności każdego filmu. Największa część obliczeń dzieje się fizycznie, w świetle, a nie w procesorze.

Skuteczność systemu wyniosła 97,79 proc. Przy jednoczesnej analizie 18 filmów spadała do 96,13 proc., a w testach z nagraniami wygenerowanymi przez inny model AI – Google Veo 3 – osiągnęła 94,80 proc. Zastosowanie dodatkowych warstw dyfrakcyjnych poprawiło skuteczność o około 6,8 proc.

Badacze widzą w tej technologii przede wszystkim szybki filtr do masowego przesiewania nagrań. Materiały uznane za podejrzane mogłyby następnie trafiać do dokładniejszej analizy przez modele cyfrowe, np. w systemach moderacji treści. Według autorów rozwiązanie zachowuje skuteczność także przy zakłóceniach obrazu, kompresji JPEG oraz atakach typu black-box.

To jeszcze nie lekarstwo 

Niestety, detektor jest na razie tylko obiecującym prototypem i może służyć do wstępnego, szybkiego przesiewania materiałów. Nie stanowi jednak „lekarstwa na deepfake’i”. Był testowany w określonych warunkach, a jego wynik zależy od rodzaju manipulacji, jakości nagrania i zgodności nowych fałszerstw z danymi treningowymi. Ponadto w eksperymencie około 4,28 proc. prawdziwych nagrań otrzymało ocenę – fałsz.

Może to być przełom innego rodzaju. Tradycyjne wykrywanie deepfake'ów wymaga gigantycznej mocy obliczeniowej procesorów. Zużywa też mnóstwo prądu. Przeniesienie głównego ciężaru matematycznego na fizyczną propagację światła (czyli rozchodzenie się go w przestrzeni) sprawia, że system nie tylko działa z prędkością światła. Dodatkowo prawie nie pobiera on energii podczas samej analizy optycznej.

Deepfake’i przynoszą milionowe straty

A jest z czym walczyć. Według FBI Internet Crime Complaint Center w 2025 r. amerykańscy poszkodowani zgłosili 22 364 sprawy oznaczone jako związane z AI. Oszustwa te przyniosły tylko w USA szkody w wysokości 893,3 mln dolarów. To udokumentowana liczba, ale FBI podkreśla, że zaniżona, bowiem oszustwa takie zgłasza tylko część ofiar.

Europol również ostrzega, że generatywna AI obniża koszty prowadzenia oszustw i ułatwia przestępcom korzystanie z takich metod. Agencja nie podaje jednak łącznej wartości strat spowodowanych wyłącznie tego rodzaju przestępstwami.

Polskie dane pokazują natomiast skalę wykorzystywania AI do fałszywych reklam. W 2026 r. NASK przeprowadził pięciotygodniowy monitoring, podczas którego wykryto 16 tys. reklam wygenerowanych z użyciem AI i bezprawnie wykorzystujących wizerunki 450 osób. Według szacunków instytutu roczne straty Polaków oszukanych za pomocą technologii deepfake mogą sięgać 537 mln zł.

Wnioski

–  Prezentowany detektor optyczny to obiecujący prototyp szybkiego przesiewania, ale nie „lekarstwo na deepfejki”

– Wynik 97,79 proc. nie oznacza, że system wykryje 98 z 100 fałszywek w internecie; potrzebne są testy w realnych warunkach

–  Straty z deepfake'ów są realne, jednak wiele popularnych liczb to tylko szacunki firm.

Przeczytajcie też: Czy marihuana naprawdę redukuje stres? Weryfikujemy