Nowe przepisy o AI już obowiązują. Deepfejki trzeba oznaczać

Chatbot ma poinformować, że jest AI

Podstawą nowych obowiązków jest art. 50 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, czyli AI Act. Pierwszy z nich dotyczy systemów przeznaczonych do bezpośredniej interakcji z ludźmi. Ich dostawcy mają zapewnić, że użytkownik zostanie poinformowany, iż komunikuje się z systemem sztucznej inteligencji.

Istnieje jednak wyjątek. Dodatkowy komunikat nie jest wymagany, jeśli dla „rozsądnie poinformowanej, uważnej i ostrożnej osoby” oczywiste jest, że ma do czynienia z AI. Art. 50 obejmuje również systemy rozpoznawania emocji i kategoryzacji biometrycznej, a osoby poddawane ich działaniu także powinny zostać o tym uprzedzone.

Treści wygenerowane przez AI mają pozostawiać ślad

Druga grupa przepisów dotyczy materiałów tworzonych przez generatywną sztuczną inteligencję. Zgodnie z art. 50 ust. 2 dostawcy systemów generujących tekst, obraz, dźwięk lub wideo muszą zapewnić, aby rezultaty ich działań były oznaczone w formacie nadającym się do odczytu maszynowego i możliwe do wykrycia jako sztucznie wygenerowane lub zmanipulowane.

Nie znaczy to jednak, że każdy obraz stworzony przez AI będzie musiał zawierać widoczny napis „wygenerowano przez sztuczną inteligencję". Ten przepis dotyczy przede wszystkim technicznej identyfikacji pochodzenia materiału. AI Act wymaga, aby stosowane rozwiązania były skuteczne, interoperacyjne, solidne i niezawodne – na tyle, na ile pozwalają dostępne technologie.

Deepfejk trzeba będzie oznaczyć

W przypadku deepfejków obowiązek jest szerszy. Dotyczy podmiotów wykorzystujących systemy AI do generowania lub manipulowania treścią.

AI Act definiuje deepfejk jako wygenerowany lub zmanipulowany przez sztuczną inteligencję obraz, dźwięk lub materiał wideo przedstawiający istniejące osoby, przedmioty, miejsca, podmioty lub zdarzenia w sposób, który może sprawiać wrażenie autentyczności.

Zgodnie z art. 50 ust. 4 podmiot publikujący taki materiał musi ujawnić, że został on sztucznie wygenerowany lub zmanipulowany. Chodzi m.in. o filmy z fałszywymi wypowiedziami polityków, spreparowane nagrania głosowe czy realistyczne obrazy wydarzeń, które nigdy nie miały miejsca.

Przewidziano jednak wyjątki. W przypadku utworów artystycznych, satyrycznych, fikcyjnych i podobnych obowiązek ujawnienia wykorzystania AI powinien być realizowany w sposób, który nie utrudnia odbioru dzieła.

Nie tylko obrazy i nagrania. AI Act obejmuje także teksty

AI Act nie ogranicza się do obrazów, nagrań i materiałów wideo. Art. 50 ust. 4 obejmuje też teksty wygenerowane lub zmanipulowane przez AI, jeśli zostały opublikowane w celu informowania społeczeństwa o sprawach leżących w interesie publicznym. W takich przypadkach również trzeba ujawnić, że treść powstała z wykorzystaniem sztucznej inteligencji. Rozporządzenie przewiduje jednak ważny wyjątek dla materiałów poddanych weryfikacji przez człowieka lub kontroli redakcyjnej. Jeżeli za publikację odpowiada konkretna osoba fizyczna lub prawna, obowiązek ujawnienia użycia AI wynikający z tego przepisu nie ma zastosowania.

To istotne m.in. dla redakcji wykorzystujących narzędzia AI jako wsparcie w pracy, ale zachowujących kontrolę człowieka nad treścią i odpowiedzialność za publikowaną treść.

Kary mogą sięgnąć 15 mln euro

AI Act przewiduje sankcje również za naruszenie obowiązków określonych w art. 50. Zgodnie z art. 99 maksymalna administracyjna kara pieniężna może wynieść 15 mln euro. W przypadku przedsiębiorstw może ona sięgnąć nawet 3 proc. całkowitego światowego rocznego obrotu z poprzedniego roku obrotowego, jeśli jest to kwota wyższa.

Dla małych i średnich przedsiębiorstw przewidziano niższe limity. W ich przypadku maksymalna kara nie może przekroczyć niższej z wartości procentowych lub kwotowych określonych w rozporządzeniu. Nie oznacza to jednak, że każde nieoznaczenie treści automatycznie będzie skutkowało wielomilionową sankcją. Przy ustalaniu jej wysokości organ uwzględni m.in. charakter, wagę i czas trwania naruszenia, jego skutki oraz działania podjęte w celu ograniczenia szkód.

AI Act jest wdrażany etapami

Unijne rozporządzenie dotyczące sztucznej inteligencji weszło w życie 1 sierpnia 2024 r., ale jego postanowienia są stosowane stopniowo. Od 2 lutego 2025 r. zaczęły obowiązywać regulacje zakazujące określonych praktyk AI. Kolejny etap rozpoczął się 2 sierpnia 2025 r. Natomiast teraz stosowana jest większość pozostałych przepisów, w tym obowiązki przejrzystości określone w art. 50.

Dla części rozwiązań wprowadzonych na rynek wcześniej przewidziano okres przejściowy dotyczący technicznego oznaczania treści. Nie znaczy to jednak, że każdy materiał stworzony przy pomocy AI będzie musiał zostać opatrzony odpowiednią etykietą. AI Act nakłada bowiem różne obowiązki na dostawców takich systemów oraz podmioty z nich korzystające. Ci pierwsi mają zapewnić techniczną identyfikowalność wygenerowanych materiałów, a ci drudzy – w określonych sytuacjach poinformować odbiorców o wykorzystaniu sztucznej inteligencji.