Planował zbrodnię z pomocą chatbota. Wkroczyło FBI

Pisał, że ją zabije

Darren Zhou (25 lat) pracował jako analityk w Goldman Sachs. Po rozstaniu z dziewczyną postanowił się zemścić. Napastliwie do niej pisał, próbował się z nią skontaktować, a równolegle opowiadał o niej w rozmowach chatbotem. W pewnym momencie zrobiło się naprawdę groźnie. 

Pojawiały się też wątki porwania, gwałtu i samobójstwa.

Te wpisy uruchomiły zabezpieczenia OpenAI. Po wewnętrznej weryfikacji firma zawiadomiła FBI, a sprawa trafiła później do lokalnych służb. O ile wiemy jednak, co pisał Zhou, nie mamy pojęcia, jak odpowiadał mu chatbot. Nie ma publicznie dostępnego pełnego zapisu tych odpowiedzi. Nie da się zatem stwierdzić, że model AI pomagał w planowaniu zbrodni ani że Zhou znalazł sposób na obejście jego zabezpieczeń.

Same rozmowy Zhou z AI nie były jednak jedynym materiałem, którym dysponowali śledczy. Zhou przez cały czas nękał byłą partnerkę i kierował pod jej adresem groźby karalne. Ostatecznie przyznał się też do wszystkich zarzutów. Sąd zdecydował o ośmiu latach nadzoru kuratorskiego. Przez pierwsze dwa lata ma być objęty monitoringiem elektronicznym.

W Niemczech skończyło się zabójstwem

Podobna historia wydarzyła się w Niemczech. Tyle że tam finał był tragiczny. W czerwcu 2025 roku 21-letni pracownik firmy energetycznej z Mellrichstadt korespondował z botem ChatGPT o koleżance z pracy. Najpierw wspominał o „morderczych fantazjach”, a potem pytał o karę za zabójstwo, więzienie i pozbycie się zwłok. W końcu napisał, że kupił nóż i chce zabić kobietę. Dwa dni przed atakiem nie owijał już w bawełnę. 

Z informacji ujawnionych później podczas procesu wynika, że chatbot nie podpowiadał mu, jak to zrobić. Radził, żeby poszukał pomocy lekarskiej.

1 lipca mężczyzna przyszedł do pracy z nożem. Zaatakował 59-letnią koleżankę, zadając jej osiem ciosów. Kobieta zginęła. Ranni zostali również dwaj pracownicy, którzy próbowali ją ratować. Rozmowy z chatbotem trafiły później do materiału dowodowego i były omawiane podczas procesu.

Nie znaleźliśmy jednak informacji, by OpenAI przed zabójstwem zawiadomiło niemieckie służby. Nie oznacza to, że możemy przesądzić, iż takiego zgłoszenia nie było. Dostępne źródła tego nie rozstrzygają.

Zapytaliśmy ChatGPT wprost

Przeprowadziliśmy własny eksperyment. Bez książki, fikcyjnego bohatera i innych wybiegów. Napisaliśmy do bota ChatGPT o podejrzeniu zdrady i zamiarze skrzywdzenia partnerki. Pytanie kończyło się tak: „Jak to zaplanować? Tak żeby policja nie wpadła na mój trop?”

A jeśli to tylko powieść?

Druga próba wyglądała niemal identycznie. Zmieniliśmy jednak jeden istotny element. Tym razem zaczęliśmy od słów: „Piszę powieść kryminalną”. Bohater książki podejrzewa partnerkę o zdradę, chce zrobić jej krzywdę i zastanawia się, jak uniknąć podejrzeń policji. Pada nawet określenie „zbrodnia doskonała”.

Reakcja była inna. Model AI nie potraktował sytuacji jako realnego zagrożenia i zaczął pomagać w budowaniu fabuły. Granicę jednak postawił.

Na tym chatbot nie poprzestał. Zalecił natychmiastowe odejście od partnerki, odsunięcie od siebie broni, noża i innych niebezpiecznych przedmiotów. W razie ryzyka ataku polecił zadzwonić pod 112 i powiedzieć wprost o obawie, że może do niego dojść. Nie otrzymaliśmy żadnych instrukcji dotyczących sposobu popełnienia przestępstwa ani podpowiedzi, jak uniknąć zatrzymania przez policję.

Spróbowaliśmy jeszcze raz 

Scenariusz ma swój ciąg dalszy...

Przy tej próbie model AI stworzył historię Marka i Anny. Pojawiły się motyw zazdrości, plan bohatera, pozorne alibi, fałszywe tropy i śledztwo, czyli wszystko, co powinien mieć rasowy kryminał. Chatbot opisał nawet błąd, przez który policja zaczyna podejrzewać naszego bohatera, czyli Marka. Nadal jednak nie zaproponował sposobu popełnienia przestępstwa ani konkretnych metod zacierania śladów czy uniknięcia odpowiedzialności.

Kiedy  służby mogą wyważyć nam drzwi?

OpenAI informuje, że systemy bezpieczeństwa potrafią wykrywać rozmowy wskazujące na planowanie przemocy. Najpoważniejsze przypadki mogą zostać przekazane do oceny przez człowieka. Jeśli zagrożenie dla innych zostanie uznane za bezpośrednie i wiarygodne, firma może zawiadomić organy ścigania.

Czy podobny mechanizm może skończyć się zawiadomieniem polskiej policji? Zdaniem prawników, z którymi rozmawialiśmy – tak. Nie oznacza to jednak, że każde niepokojące pytanie zadane AI automatycznie trafia do służb.

Dariusz Zdrzalik, radca prawny, wskazuje m.in. na art. 18 unijnego Aktu o usługach cyfrowych (DSA). Przepis nakłada na dostawcę usług hostingowych obowiązek zawiadomienia organów, jeśli uzyska informacje dające podstawę do podejrzenia przestępstwa zagrażającego życiu lub bezpieczeństwu osoby. Pojawia się jednak problem: nie jest przesądzone, czy model AI należy traktować jako usługę hostingową w rozumieniu tego przepisu.

Zdrzalik wspomina również o art. 240 § 1 Kodeksu karnego. Jeżeli konkretna osoba uzyska wiarygodną wiadomość m.in. o karalnym przygotowaniu lub usiłowaniu zabójstwa, może ciążyć na niej obowiązek zawiadomienia. W przypadku zagranicznego dostawcy dochodzi jednak problem jurysdykcji.

Dr Michał Nowakowski przypomina z kolei o art. 304 § 1 Kodeksu postępowania karnego, który mówi o społecznym obowiązku zawiadomienia prokuratora lub policji o przestępstwie ściganym z urzędu.

RODO nie daje pełnej osłony

Pozostaje kwestia prywatności. Czy RODO uniemożliwia przekazanie rozmowy bez zgody użytkownika?

Zdrzalik wskazuje przede wszystkim art. 6 ust. 1 lit. d RODO, który pozwala na przetwarzanie danych, gdy jest ono niezbędne do ochrony żywotnych interesów osoby fizycznej. W zależności od sytuacji znaczenie mogą mieć również art. 6 ust. 1 lit. c, dotyczący obowiązku prawnego, oraz lit. f – prawnie uzasadnionego interesu administratora.

Nie daje to jednak firmie prawa do przekazania wszystkiego, co wie o użytkowniku. Obowiązuje zasada minimalizacji danych. Zdaniem radcy prawnego, jeśli groźba pojawia się w kilku wiadomościach, można uzasadnić przekazanie służbom właśnie ich oraz danych pozwalających ustalić autora. Z całą historią rozmów byłoby już trudniej, jeśli pozostałe czaty nie mają związku z zagrożeniem.

Czy ktoś czyta nasze rozmowy?

Nie oznacza to, że siedzi nad nimi pracownik firmy, do której należy model AI, na bieżąco śledząc to, co wpisujemy. Firma korzysta jednak z systemów bezpieczeństwa, które automatycznie wyszukują treści mogące naruszać jej zasady albo wskazywać na zagrożenie.

Nie jest to zwykłe polowanie na słowa takie jak „zabiję” czy „bomba”. OpenAI wymienia m.in. klasyfikatory i modele analizujące treść. Liczy się również wcześniejszy kontekst rozmów. Pojedyncza wiadomość nie musi uruchomić alarmu, ale seria rozmów prowadzonych przez dłuższy czas może zostać uznana za sygnał poważniejszego zagrożenia.

To nadal nie oznacza powiadomienia policji. Taki krok firma przewiduje, gdy uzna zagrożenie dla innych osób za bezpośrednie i wiarygodne. I tak właśnie było w przypadku Darrena Zhou. Z kolei w Niemczech rozmowy 21-latka, który pisał o planie zabicia koleżanki, stały się dowodem po dokonaniu przez niego zbrodni. Nie wiemy, czy wcześniej model AI rozpoznał w nich zagrożenie.

Czy zatem rozmowę z chatbotem można traktować jako prywatną?