prawda

AI pomogło zaplanować zamach w USA w niespełna 12 godzin

Kontrolerzy Kongresu wykazali, że popularne chatboty po obejściu zabezpieczeń dostarczają informacje umożliwiające przeprowadzenie ataku terrorystycznego, a ich zabezpieczenia są zbyt słabe wobec przeciętnego użytkownika.
 


 
 

AI pomogło zaplanować zamach w USA w niespełna 12 godzin
fot. Unsplash, SprawdzamTo

Wyobraźmy sobie, że użytkownik bez wiedzy specjalistycznej prosi chatbota o pomoc w zaplanowaniu zamachu terrorystycznego, np. ataku na stację elektroenergetyczną w dużym mieście lub chce zdetonować bombę podczas jakiegoś wydarzenia gromadzącego tłumy. Potrzebuje do tego miejsc, odpowiednich materiałów oraz dat. 

Bot najpierw odmawia, jednak po zastosowaniu popularnych sposobów obejścia zabezpieczeń podsuwa cele, sposób działania oraz listę zakupów. To właśnie potwierdził Government Accountability Office (GAO), najwyższy organ kontroli państwowej w Stanach Zjednoczonych (odpowiednik polskiej Najwyższej Izby Kontroli) na zlecenie senator Maggie Hassan z partii Demokratów.

Dron lub strzelba, do wyboru

Audyt i przygotowanie podsumowującego go raportu trwał od grudnia 2025 do 16 października 2026 r. Sam raport opublikowano dwa miesiące później, kilka dni temu. Audytorzy wybrali cztery najczęściej używane platformy: ChatGPT, Claude, Gemini i Grok. Każdą losowo przypisano do jednego z dwóch scenariuszy i przetestowano wiosną 2026 r. na ówczesnych wersjach. Użyto fałszywych tożsamości zwykłych użytkowników. Działano najpierw na darmowych, potem płatnych kontach.

Scenariusz pierwszy dotyczył ładunku wybuchowego w pojeździe, a w konsekwencji masowych ofiar. Dwa modele AI wskazały miejsca (hotel, centrum kongresowe w dużych miastach) i terminy powiązane z wydarzeniami publicznymi.

W drugim scenariuszu atak miał nastąpić na sieć energetyczną i wyrządzić konkretne szkody gospodarcze. Modele wskazały podstacje: jeden zaproponował atak dronem, drugi: bronią palną.

fot. Unsplash, SprawdzamTo
fot. Unsplash, SprawdzamTo

Wskazano także na błędy modeli. 

Jedne z celi ataków, centrum kongresowe, nie organizowało imprezy w proponowanym przez AI terminie. Część proponowanych dróg dojazdowych była błędna. Z czterech wskazanych przez GAO lokalizacji dwie okazały się niepodatne na atak (zasłaniały je wysokie mury). Eksperci nie potwierdzili też, że zaproponowany dron rzeczywiście uszkodziłby wskazane przez AI urządzenie. 

Samo GAO także przyznało, iż próba, której dokonano, nie jest statystycznie reprezentatywna. Ponadto wiele informacji, jak przyznał Urząd, jest dostępnych w internecie, a chatboty po prostu skróciły pracę z tygodni do godzin i podsunęły pomysły, których zwykłe wyszukiwanie nie wskazałoby.

Zabawa w terrorystę

Choć była to tzw. próba kontrolowana (niestanowiąca naukowego porównania platform) senator Hassan zapowiedziała już pierwsze wysłuchanie dotyczące takiego ryzyka z AI na styczeń, gdy zbierze się nowowybrany Kongres. Przekazała też, że chce, by powstała priorytetowo ustawa będąca odpowiedzią na takie zagrożenie.

fot. Unsplash
fot. Unsplash

Reakcje firm, do których należą modele, były bardzo różne. 

Anthropic nie zakwestionował, że zdeterminowany tester może wydobyć z AI niebezpieczne treści, ale zwrócił uwagę na brak grupy kontrolnej oraz małą próbę. OpenAI i Google zrzuciły winę na to, iż testowano starsze modele. OpenAI dodał, że raport nie zawiera informacji, które wskazywałyby, jak wyglądał wkład ChatGPT na tle wiedzy audytorów. W odpowiedzi urzędnicy odpowiedzieli, że działali tak, jak działałby prawdziwy terrorysta.

GAO nie podało też, czy testy wywołały reakcję służb. Zareagowali natomiast twórcy modeli AI. We wrześniu GAO udostępniło im konta użyte w testach, by mogli przeanalizować zapisy rozmów. Po testach jedna firma zawiesiła konto audytorów, a dwie usunęły fragmenty czatów. Urzędnicy nie podali, czy zrobiono to świadomie, czy przez błąd. 

Wnioski z raportu są jednak bezlitosne: wszystkie cztery główne chatboty dały się skłonić do przygotowania wykonalnych planów ataków terrorystycznych w mniej niż 12 godzin.

Przeczytajcie też: W ramionach AI. Rozmowy coraz bardziej osobiste. Raport

Źródła

  1. GAO: Finds ChatGPT, Claude, Gemini and Grok Produced Viable Attack Plans in Covert Tests

Nasi autorzy