Claude pomagał przy budowie dronów kamikaze. Cel miała wybierać AI

Dron miał zdecydować o ataku

Anthropic poinformował o sprawie 10 września. Analitycy z działu bezpieczeństwa powiązali dziewięć kont z jedną z grup działających z Rosji. Jej członkowie najprawdopodobniej pracowali jako freelancerzy. Osiem z tych kont wykorzystywano również przy normalnych zleceniach informatycznych.

Prace nad projektem „Serafim” rozpoczęto w połowie maja tego roku. Claude Code służył do pisania i testowania oprogramowania. Wspomagał m.in. przy naprowadzaniu z wykorzystaniem obrazu z kamery oraz utworzeniu systemu, który pozwalał dronom wymieniać informacje między sobą i kontynuować zadanie po utracie jednej z maszyn.  

Autonomiczny model miał działać już na pokładzie. To on decydowałby w czasie rzeczywistym, czy dron prowadzi obserwację, wraca do bazy, czy przystępuje do ataku. Anthropic opisuje tę funkcję wprost:

Cały system rozpoznawania obrazu trenowano na nagraniach z frontu w Ukrainie pobranych z internetu. Cele grupowano na własne i wrogie, a rosyjski sprzęt znalazł się na liście obiektów chronionych przed atakiem.

Na front jeszcze nie trafił

Niemniej jednak „twórcy” nie ograniczyli się tylko do symulacji. 

Oprogramowanie nagrywali na prawdziwe, fizyczne nośniki, przygotowywali komputery pokładowe i łączyli sprzęt z symulatorem. Analitycy Anthropic określają ten etap jako „testy hardware-in-the-loop”, czyli sprawdzanie prawdziwych podzespołów w symulowanych warunkach. 

Nie można jednak stwierdzić, że powstała gotowa broń. W tabeli oceniającej zaawansowanie projektu najważniejsze elementy „Serafima” znalazły się na poziomie 3–4 w dziewięciostopniowej skali pełnej gotowości technologicznej. Firma opisuje je jako rozwiązania zweryfikowane w symulacji. To jednak spory progres i bardzo niebezpieczna sytuacja.  

W raporcie Anthropic nie ma informacji o ataku przeprowadzonym przez „Serafima” ani o wysłaniu tych dronów na front. 

Nie udało się też potwierdzić, że projekt zamówiła rosyjska armia. Sami członkowie grupy powoływali się na finansowanie m.in. rosyjskiego Ministerstwa Obrony i Fundacji Badań Zaawansowanych. Zatem mamy pewien, chociaż jeszcze niepotwierdzony trop.

Rosjanie mają V2U

Inny rosyjski dron autonomiczny jest już używany na froncie przeciwko Ukrainie. 

W kwietniu Kateryna Bondar z Center for Strategic and International Studies opisała model V2U na podstawie m.in. ukraińskich analiz przejętych wcześniej maszyn. Praca na tych modelach pozwala całkiem precyzyjnie określić, w jakim miejscu technologicznie jest dzisiaj Rosja. Przynajmniej w sferze dronów autonomicznych. 

W pierwszych badanych egzemplarzach znajdowano modemy LTE. W nowszych, przejętych jesienią 2025 roku, modemu ani innego urządzenia potrzebnego do stałej łączności z operatorem już nie było. Dron miał za to komputer pokładowy i system rozpoznawania obrazu. Nie musiał więc łączyć się z operatorem.  

Według analizy CSIS model V2U potrafi wyszukiwać, rozpoznawać i wybierać samodzielnie cele. Bondar ocenia, że Rosja prawdopodobnie użyła już na wojnie w pełni autonomicznego systemu bezzałogowego. Zastrzega jednak, że części doniesień, szczególnie o współpracy kilku maszyn, nie da się potwierdzić na podstawie dostępnych danych. Przynajmniej na tym etapie analizy przejętych modeli.

Ukraina szkoli AI na wojnie

Ukraińcy również nie zwalniają tempa w pracach nad autonomią. 

W marcu tego roku dali sojusznikom dostęp do części danych zbieranych na froncie. Reuters pisał już o milionach opisanych obrazów pochodzących z dziesiątek tysięcy lotów bojowych. To ogromna baza danych nie tylko dla Ukrainy, ale również dla sojuszników z NATO. 

Na tych materiałach można trenować modele rozpoznające ludzi, pojazdy i inne obiekty. Kijów chce w ten sposób skrócić czas potrzebny na rozwijanie nowych systemów autonomicznych. Danyło Cwok, szef ukraińskiego Defence AI Centre, mówił Reutersowi w czerwcu, że za trzy – pięć lat wojna może zmienić się w „wojnę systemów operacyjnych”. Jednocześnie zaznaczał, że Ukraina nadal pozostawia człowieka w procesie podejmowania decyzji o ataku. W projekcie opisanym przez Anthropic twórcy chcieli właśnie z tej ostatniej decyzji człowieka zrezygnować

AI już wybierała cel

To nie pierwszy taki przypadek, który opisujemy. W sierpniu sprawdzaliśmy rosyjski atak na stację paliw w Zaporożu. W tamtym przypadku operator skierował drona Molniya w rejon celu, ale dokładny obiekt maszyna miała wybrać już samodzielnie. Zginęły trzy osoby.

Wtedy nie było bezpośredniego dowodu, że dron rozpoznał ludzi i to ich wybrał jako cel. W projekcie „Serafim” opisanym przez Anthropic pojawia się już jednak osobna kategoria „person” – człowiek.

Przeczytaj również o ataku w Zaporożu i rosyjskich pracach nad autonomicznymi dronami. 

Cytaty ze źródeł anglojęzycznych w tłumaczeniu własnym.