AI sama wybrała cel. Rosyjski dron zabił trzy osoby

6 lipca nikt nie pisał o AI

Atak na Zaporoże trwał od rana. Jednym z celów były stacje paliw. Po południu ukraińskie służby poinformowały o ataku, w którym zginęli ludzie. Pierwsze komunikaty służb mówiły o dwóch zabitych i kilkunastu rannych. Taką liczbę podawały 6 lipca m.in. lokalne Suspilne Zaporizhzhia oraz „Ukrainska Pravda”. Później bilans wzrósł do trzech ofiar i piętnastu rannych.  

Informacje o tym, że w ataku wykorzsyano dron działający bez operatora w ostatniej fazie lotu, szerzej dotarły dopiero 24 sierpnia. Andrew E. Kramer opisał sprawę w „The New York Times”. Według jego ustaleń rosyjscy żołnierze skierowali maszynę w rejon stacji paliw. Następnie dron miał już samodzielnie obrać dokładny cel – miały to być najprawdopodobniej zbiorniki z propanem.

Człowiek nadal był więc niezbędny na początku tego łańcucha działania. To rosyjscy żołnierze zdecydowali o ataku i wysłali uzbrojoną maszynę w konkretne miejsce. Nowa technologicznie okazała się ostatnia część lotu. Jeżeli ustalenia dotyczące tego ataku są prawidłowe, dokładnego obiektu nie wskazywał już operator. 

Ostrzegali trzy dni wcześniej

Pierwsze sygnały pojawiły się jeszcze przed atakiem. 1 lipca ukraiński specjalista od systemów radiowych Serhij „Flash” Beskrestnow pokazał na Telegramie elementy rosyjskiej Molniyi. Zwrócił uwagę na brak anteny służącej do sterowania. Była za to kamera i komputer. Beskrestnow poinformował wtedy o możliwościach autonomicznej nawigacji, wyszukiwaniu celu i przeprowadzaniu ataku.

Dwa dni później napisał o kolejnym kroku. 3 lipca powiadomił, że Rosjanie zaczęli masowo używać autonomicznych Molniyi właśnie w Zaporożu. Tego samego dnia jego informacje opisała „Ukrainska Pravda”.

Trzy dni później doszło do śmiertelnego ataku na stację paliw.

O tym, że Rosjanie prowadzili prace nad podobną technologią było wiadomo już wcześniej. Kateryna Bondar z Center for Strategic and International Studies opisywała w kwietniu rosyjskie drony wykorzystujące m.in. komputer Nvidia Jetson Orin i systemy computer vision. Dzięki nim algorytm może analizować obraz z kamery i rozpoznawać obiekty, których wcześniej został nauczony.

Komputer zamiast operatora

Dziennikarze „New York Timesa” pojechali do Zaporoża. Zobaczyli tam szczątki dwóch innych rosyjskich Molniyi które korzystały z podobnych rozwiązań. W środku drona znajdował się niewielki komputer. Redakcja przesłała jego zdjęcia Nvidii, która potwierdziła, że był to produkt z serii Jetson Orin.

Taki komputer daje możliwość uruchomienia modelu AI bezpośrednio na pokładzie maszyny. Nie ma konieczności wysyłania obrazu do człowieka, który ogląda go na ekranie i na tej podstawie steruje dronem. To zadanie wykonuje komputer.  

Ukraińscy śledczy zajrzeli też do oprogramowania jednej z przejętych Molniyi. Z kodu miało wynikać, jakich celów szuka dron. Na liście były m.in. pojazdy, budynki i elementy infrastruktury.

„New York Times” oglądał szczątki dwóch innych Molniyi używających tego samego rozwiązania. To w nich znaleziono komputer Nvidia Jetson Orin i nie stwierdzono anten potrzebnych do zwykłego sterowania przez operatora. Ukraińscy śledczy analizowali też oprogramowanie jednej z przejętych maszyn.

Nie ma natomiast publicznej analizy wraku drona, który 6 lipca uderzył w stację paliw. Nie odtworzono też całego jego lotu. AeroTime zwraca uwagę, że pełnego procesu decyzyjnego konkretnej maszyny nie zweryfikował niezależny zespół.

Wcześniejsze informacje pasują jednak do tego obrazu. Trzy dni przed atakiem Serhij Beskrestnow pisał już o autonomicznych Molniyach używanych właśnie w Zaporożu.

Dron nie wie, że zabija

Beskrestnow pisał o autonomicznych Molniyach w Zaporożu trzy dni przed atakiem. Później do Ukraińców trafiły inne egzemplarze tych dronów. To w nich znaleziono komputer i oprogramowanie pozwalające maszynie działać bez operatora. Analiza wraku z 6 lipca nie jest dostępna. Nie da się więc sprawdzić, co dokładnie działo się podczas tego konkretnego lotu. Po publikacji szczegółów ataku pojawiły się twierdzenia, że AI „świadomie zabiła człowieka”. Takiego wniosku w ustaleniach „New York Timesa” nie ma.

Rosjanie wysłali drona w okolice stacji paliw. Następnie do pracy wchodziły kamera i komputer. System namierzał to, co wcześniej nauczono go rozpoznawać. 6 lipca miały to być zbiorniki z propanem. Dron odnalazł zadany cel i uderzył. Nie wiadomo, czy w ogóle rozpoznawał stojących tam ludzi. Nie musiał. Szukał obiektu, który pasował do wytycznych. To wystarczyło alby przeprowadzić atak.