Claude cytował rosyjską propagandę. Eksperci biją na alarm

Coraz więcej osób zamiast wpisywać pytania do wyszukiwarki korzysta z chatbotów opartych na sztucznej inteligencji. ChatGPT, Claude, Gemini czy Perplexity generują gotowe odpowiedzi zamiast listy źródeł. Wygoda ma jednak swoją cenę – użytkownicy często nie sprawdzają, skąd model czerpie informacje i czy są one wiarygodne.

To właśnie postanowili sprawdzić badacze z berlińskiej organizacji Agora Digitale Transformation (ADT). Przez pięć dni analizowali odpowiedzi pięciu popularnych systemów AI na pytania dotyczące bieżących wydarzeń. Łącznie przeanalizowali 675 odpowiedzi i blisko pięć tysięcy źródeł, na które powoływały się modele.
Wnioski okazały się niepokojące. 
 

Ich zdaniem ma to daleko idące konsekwencje dla kształtowania opinii publicznej, ponieważ coraz więcej osób traktuje chatboty jako podstawowe źródło informacji.

Siedem odwołań do rosyjskiej sieci propagandowej
 

Najwięcej uwagi przyciągnęły wyniki dotyczące Claude'a, rozwijanego przez amerykańską firmę Anthropic.

Według autorów raportu chatbot siedmiokrotnie wskazał jako źródło strony należące do sieci Pravda. Eksperci od lat opisują ją jako element rosyjskiego ekosystemu dezinformacyjnego, którego celem jest rozpowszechnianie prorosyjskich narracji za pośrednictwem setek powiązanych ze sobą domen internetowych.

W odpowiedziach Claude'a odwołania do tych stron pojawiały się obok materiałów renomowanych mediów, bez informacji o ich charakterze.
 

To najmocniejsza teza raportu, ale wymaga ważnego doprecyzowania. Badanie nie dowodzi, że Claude celowo rozpowszechnia rosyjską propagandę ani że jego odpowiedzi były fałszywe. Pokazuje natomiast, że mechanizmy odpowiedzialne za dobór źródeł nie zawsze potrafią odfiltrować treści pochodzące z sieci dezinformacyjnych.

Czym jest sieć Pravda?
 

Sieć Pravda nie jest tożsama z historycznym rosyjskim dziennikiem o tej samej nazwie. Według analiz organizacji zajmujących się monitorowaniem dezinformacji tworzy ją rozbudowany system stron internetowych publikujących podobne treści w wielu językach. Serwisy te często powielają materiały rosyjskich mediów państwowych lub wzmacniają narracje zgodne z przekazem Kremla.

Celem tej sieci nie jest wyłącznie przekonywanie odbiorców do określonych tez. Równie ważne pozostaje zalewanie internetu ogromną liczbą podobnych publikacji. Im więcej takich treści pojawia się w sieci, tym większa szansa, że zostaną one zauważone przez algorytmy wyszukiwarek i narzędzia wykorzystujące sztuczną inteligencję.

AI można „zatruć” propagandą
 

Eksperci od bezpieczeństwa informacyjnego od dawna ostrzegają przed zjawiskiem określanym jako „data poisoning”, czyli „zatruwanie danych”.

Polega ono na celowym publikowaniu i optymalizowaniu dużej liczby treści propagandowych w taki sposób, aby były łatwo odnajdywane przez modele AI. Jeśli algorytm uzna je za istotne źródła informacji, mogą zostać wykorzystane podczas generowania odpowiedzi.

Badacze zwracają uwagę, że nie oznacza to, iż sztuczna inteligencja świadomie promuje propagandę. Problem polega raczej na tym, że systemy AI nie zawsze potrafią właściwie ocenić wiarygodność źródeł, zwłaszcza gdy internet zostaje zalany powielanymi treściami o podobnym przekazie.

Nie tylko Claude. Raport wskazuje na szerszy problem
 

Autorzy badania podkreślają, że problem nie ogranicza się do jednego modelu.

Z ich analizy wynika, że ChatGPT przy wyszukiwaniu informacji najczęściej korzysta ze źródeł dziennikarskich. W przypadku Claude'a i Gemini stanowią one około połowy wszystkich cytowanych materiałów. Pozostałą część tworzą m.in. strony administracji publicznej, organizacji pozarządowych, blogi oraz treści publikowane w mediach społecznościowych.

Eksperci zwrócili uwagę także na inny mechanizm. W odpowiedziach ChatGPT wyjątkowo często pojawiał się niemiecki dziennik „Die Welt”. Raport przypomina, że jego wydawca – koncern Axel Springer – zawarł w 2023 r. globalne partnerstwo z OpenAI.

Zdaniem autorów współpraca ta znajduje odzwierciedlenie w doborze źródeł przez ChatGPT.
 

Samo badanie nie dowodzi jednak, że partnerstwa komercyjne wpływają na treść odpowiedzi modeli. Pokazuje natomiast, że sposób wyboru źródeł pozostaje nieprzejrzysty, a użytkownicy nie wiedzą, dlaczego chatbot cytuje jedne media znacznie częściej od innych.
 

AI staje się nową wyszukiwarką

Jeszcze kilka lat temu użytkownik sam wybierał, który link otworzyć i któremu źródłu zaufać. Dziś coraz częściej otrzymuje jedną gotową odpowiedź wygenerowaną przez sztuczną inteligencję.

To sprawia, że chatboty stopniowo przejmują rolę tradycyjnych wyszukiwarek. Decydują nie tylko o tym, które informacje zostaną przedstawione użytkownikowi, ale również o tym, z jakich źródeł będą pochodziły. Problem w tym, że proces ten pozostaje praktycznie niewidoczny.

Dlatego eksperci apelują o większą przejrzystość modeli AI i skuteczniejsze filtrowanie treści pochodzących z operacji dezinformacyjnych.

Odpowiedzi AI warto weryfikować
 

Raport niemieckiej organizacji nie dowodzi, że chatboty stały się narzędziem rosyjskiej propagandy. Pokazuje jednak, że nawet najbardziej zaawansowane modele sztucznej inteligencji mogą korzystać ze źródeł, których rzetelność budzi poważne zastrzeżenia.

Dla użytkowników wniosek jest prosty: odpowiedzi generowane przez AI warto traktować jako punkt wyjścia do dalszej weryfikacji, a nie ostateczne rozstrzygnięcie. Szczególnie wtedy, gdy dotyczą polityki, bezpieczeństwa, zdrowia czy konfliktów zbrojnych – obszarów szczególnie podatnych na dezinformację.

Rozwój sztucznej inteligencji zmienia sposób, w jaki szukamy informacji. Jednocześnie przypomina o zasadzie, która pozostaje niezmienna: wiarygodność odpowiedzi zależy od wiarygodności źródeł, z których korzysta.