Google może odpowiadać za błędy AI. Znamy uzasadnienie wyroku sądu

AI powiązała wydawców z oszustwami, choć źródła tego nie potwierdzały

Sprawa rozpoczęła się od pozwu dwóch wydawców z Monachium. Po wpisaniu nazwy ich firmy w wyszukiwarce Google funkcja AI Overviews wygenerowała opis sugerujący, że przedsiębiorstwa są powiązane z oszustwami, stosują „pułapki subskrypcyjne”, wysyłają nieuzasadnione wezwania do zapłaty, zmieniają nazwy i adresy internetowe, aby utrudnić identyfikację, a nawet ignorują klientów i nie udostępniają opłaconych treści.

Problem polegał na tym, że część tych informacji nie wynikała z materiałów, do których odsyłały linki wyświetlane przez AI Overviews. Jak wynika z uzasadnienia wyroku, system połączył informacje dotyczące różnych podmiotów i stworzył własny opis, przypisując powodom praktyki, z którymi nie mieli nic wspólnego. Wydawcy najpierw zażądali usunięcia tych treści oraz złożenia oświadczenia o zaprzestaniu naruszeń. Gdy Google odmówiło, skierowali sprawę do sądu.

Portal The Decoder, który jako pierwszy szczegółowo opisał orzeczenie, zwraca uwagę, że kluczowe nie było samo wystąpienie błędu, lecz fakt, iż wygenerowany opis zawierał twierdzenia, których nie można było odnaleźć w materiałach źródłowych. Innymi słowy, AI Overviews nie ograniczyło się do streszczenia informacji dostępnych w internecie, lecz stworzyło własną wersję wydarzeń.

Sąd: AI Overview nie jest zwykłą wyszukiwarką

Najważniejsza część uzasadnienia dotyczy charakteru odpowiedzi generowanych przez AI Overviews. Sąd uznał, że funkcja Google działa inaczej niż klasyczna wyszukiwarka.

W tradycyjnych wynikach użytkownik otrzymuje listę linków prowadzących do zewnętrznych stron. W AI Overviews system sam analizuje materiały, wybiera informacje, porządkuje je i przedstawia jako jedną odpowiedź. Jak podkreślono w uzasadnieniu, odpowiedzi są prezentowane „własnymi słowami i według własnej struktury”, a Google dokonuje ich samodzielnego opracowania.

Sąd zwrócił uwagę na jeszcze jeden istotny element. AI nie tylko uporządkowała informacje znalezione w internecie, ale dodała twierdzenia, których nie zawierało żadne z przywołanych źródeł. W uzasadnieniu wskazano, że między powodami a niektórymi firmami, z którymi zostali powiązani przez AI, nie istniał żaden związek, mimo że odpowiedź sugerowała coś przeciwnego.

To właśnie ten fragment odróżnia AI Overviews od klasycznej wyszukiwarki. Zdaniem sądu użytkownik nie otrzymuje prostego zestawienia linków, ale nową treść stworzoną przez system Google.

Google odpowiada, bo samo stworzyło ten system

Google argumentowało, że AI Overviews opiera się na materiałach opublikowanych przez inne podmioty, a użytkownik może samodzielnie zweryfikować informacje dzięki linkom umieszczonym obok wygenerowanej odpowiedzi.

Sąd nie podzielił tej argumentacji. W uzasadnieniu podkreślono, że to Google stworzyło i udostępniło użytkownikom system wykorzystujący generatywną sztuczną inteligencję oraz decyduje o algorytmach odpowiedzialnych za wybór, ocenę i prezentację informacji. Skoro firma ma wpływ na sposób działania tego narzędzia, powinna również ponosić odpowiedzialność za skutki jego działania.

Sędziowie odrzucili także porównanie AI Overviews do klasycznej wyszukiwarki internetowej. Zwrócili uwagę, że wygenerowana odpowiedź stanowi samodzielną, zamkniętą całość. Użytkownik otrzymuje gotową informację i nie ma ani obowiązku, ani oczywistego powodu, by weryfikować ją z treścią materiałów, do których prowadzą linki. Sama obecność odsyłaczy nie zwalnia więc Google z odpowiedzialności za przekazywane treści.

To właśnie ten fragment uzasadnienia sprawia, że wyrok może mieć znaczenie wykraczające daleko poza tę konkretną sprawę. Sąd odniósł się bowiem nie do pojedynczego błędu AI, lecz do odpowiedzialności za sposób działania generatywnych wyszukiwarek.

Dlaczego sąd odrzucił argument Google o linkach

Jednym z głównych argumentów Google było twierdzenie, że użytkownik może samodzielnie zweryfikować treść wygenerowaną przez AI Overviews, ponieważ obok niej znajdują się odnośniki do stron internetowych. Zdaniem firmy funkcja jedynie ułatwia dostęp do cudzych materiałów, a nie przejmuje za nie odpowiedzialności.

Argument ten nie przekonał monachijskiego sądu. W uzasadnieniu wskazano, że AI Overviews tworzy kompletną, samodzielną wypowiedź, którą przeciętny użytkownik odbiera jako wystarczającą. Nie sprawia ona wrażenia roboczego szkicu ani zachęty do dalszego poszukiwania informacji, lecz gotowego wyjaśnienia. Wygenerowany tekst jest zrozumiały sam w sobie i nie zawiera żadnego sygnału sugerującego konieczność weryfikacji każdej informacji w źródłach. Wręcz przeciwnie – sposób jego prezentacji może utwierdzać odbiorcę w przekonaniu, że otrzymał pełną i wiarygodną odpowiedź.

W uzasadnieniu zwrócono też uwagę, że funkcja nie tylko porządkuje informacje, ale również „strukturyzuje i ocenia dane według algorytmu, który nie jest użytkownikowi znany, a tym samym ukierunkowuje odpowiedź na zapytanie”.

Oznacza to, że AI Overviews nie pełni roli neutralnego pośrednika. Wybiera informacje, nadaje im określoną wagę, pomija część z nich i tworzy własną syntezę. Z tego powodu uznano, że wobec tej funkcji nie można stosować tych samych zasad odpowiedzialności, które od lat obowiązują klasyczne wyszukiwarki internetowe.

Google zapowiada odwołanie 

Google nie zgadza się z rozstrzygnięciem i zapowiedziało złożenie odwołania. Firma podkreśla, że AI Overviews pomaga użytkownikom szybciej znaleźć informacje, a zdecydowana większość wygenerowanych odpowiedzi jest poprawna. Według Google pojedyncze błędy nie powinny przesądzać o ocenie całej technologii. Reuters zwraca jednak uwagę, że wyrok dotyczy nie samego wystąpienia błędu, lecz odpowiedzialności za treści tworzone przez generatywną sztuczną inteligencję.

Wyrok może zmienić całą branżę AI

Znaczenie orzeczenia wykracza daleko poza spór dwóch wydawców z Google. Portal The Decoder ocenia, że sąd po raz pierwszy tak jednoznacznie uznał odpowiedzi AI za własny przekaz dostawcy systemu, a nie wyłącznie rezultat analizy cudzych materiałów.

Podobne wnioski wyciąga WIRED, zwracając uwagę, że samo ostrzeżenie o możliwości występowania błędów AI nie musi już wystarczać, aby ograniczyć odpowiedzialność firmy. Jeżeli system tworzy nowe treści i prezentuje je jako gotową odpowiedź, może odpowiadać za ich skutki.

Z kolei Ars Technica podkreśla, że sąd wyraźnie oddzielił klasyczne wyszukiwarki od narzędzi opartych na generatywnej AI. W praktyce oznacza to, że podobna argumentacja może w przyszłości zostać wykorzystana także wobec innych systemów tworzących własne odpowiedzi na pytania użytkowników.

Choć wyrok dotyczy wyłącznie AI Overviews, jego konsekwencje mogą wykraczać poza Google. Z podobnych modeli językowych korzystają dziś m.in. Gemini, ChatGPT, Claude czy Perplexity. Jeżeli kolejne sądy przyjmą podobną interpretację, twórcy generatywnej AI będą musieli liczyć się z większą odpowiedzialnością za treści tworzone przez ich systemy, zwłaszcza gdy zawierają one informacje nieznajdujące potwierdzenia w źródłach.