Naukowcy ostrzegają: to może doprowadzić do zagłady ludzkości

Ostrzeżenia przed 17 globalnymi zagrożeniami dla zdrowia znalazły się w raporcie The Lancet Commission on 21st Century Global Threats to Health, zaprezentowanym podczas Światowego Szczytu Zdrowia w Berlinie. Przygotowała go komisja powołana w 2022 roku przy prestiżowym czasopiśmie „The Lancet”, skupiająca 35 ekspertów z różnych dziedzin, m.in. medycyny, epidemiologii i analityki. Naukowcy przeanalizowali zagrożenia w perspektywie najbliższych ok. 75 lat, do końca 2100 roku. Podkreślili, że skala i różnorodność zagrożeń dla zdrowia w XXI wieku „wymagają fundamentalnej zmiany w podejściu rządów i instytucji wielostronnych do ryzyka długoterminowego”.

Wojna atomowa i AI

Dwa największe zagrożenia zidentyfikowane w raporcie to konflikt nuklearny i jego konsekwencje oraz świadome użycie sztucznej inteligencji do stworzenia zaawansowanej broni biologicznej, która – złośliwie użyta – zniszczy życie. Dlaczego akurat te dwa? Eksperci ocenili prawdopodobieństwo realizacji tych scenariuszy jako stosunkowo niskie, jednak tylko one niosą ze sobą ryzyko niemal całkowitego wyginięcia ludzkości (tzw. ekstynkcji).

Niskie prawdopodobieństwo wspomnianych scenariuszy wynika z faktu, że ich realizacja wymaga wielu, do tego niemal skrajnych okoliczności: od decyzji o globalnym ataku atomowym, przez zlekceważenie międzynarodowych traktatów i informacji wywiadowczych, po sparaliżowanie systemów wczesnego ostrzegania i sam atak. Jednak w przeciwieństwie do innych opisanych w dokumencie kryzysów (jak otyłość czy smog) te dwa mają potencjał niemal absolutny. Wojna nuklearna mogłaby wprowadzić do atmosfery tyle pyłu, że zablokowałby on światło słoneczne, wywołując globalną zimę (i głód na całym globie). Z kolei broń biologiczna zaprojektowana z wykorzystaniem sztucznej inteligencji może spowodować niemal stuprocentową śmiertelność ze względu na szybkość rozprzestrzeniania się np. śmiertelnego wirusa i jednoczesny brak możliwości wynalezienia natychmiastowego lekarstwa. W obu przypadkach oznaczałoby to niemal fizyczny koniec ludzkiego gatunku.

W przypadku zagrożenia ze strony AI: już kilka dni temu pisaliśmy, że giganci technologiczni, tacy jak OpenAI czy Anthropic, przygotowują plany na wypadek „czarnego scenariusza” – np. zorganizowanego ataku z użyciem sztucznej inteligencji. Zwracaliśmy uwagę, że choć oficjalnie edukują polityków (pojawił się specjalny raport), jak reagować na taki kryzys, ich rzeczywisty cel może być całkiem inny: kto pierwszy pomoże politykom napisać procedury kryzysowe, ten zadecyduje, jak te procedury będą wyglądać. Ostrzegamy, że istnieje możliwość, iż korporacje chcą upewnić się, że nowe przepisy nie uderzą bezpośrednio w ich zyski, lecz pozwolą im kontrolować sposób regulacji rynku. Przypominamy o tym w kontekście raportu „The Lancet”.

Raport wskazuje trzy możliwe drogi, którymi sztuczna inteligencja może doprowadzić do katastrofy. Pierwsza to jej złośliwe wykorzystanie do projektowania nowych, wyjątkowo śmiercionośnych patogenów, co może ułatwić stworzenie broni biologicznej. Druga wiąże się z włączaniem AI do kluczowych systemów, takich jak ochrona zdrowia czy finanse. Błędy sztucznej inteligencji wykorzystywanej w praktyce medycznej, cyberataki na placówki ochrony zdrowia czy zakłócenia działania instytucji finansowych mogą wywołać kolejne awarie i doprowadzić do poważnych konsekwencji. Trzeci scenariusz dotyczy utraty kontroli nad zaawansowaną sztuczną inteligencją, której cele nie byłyby zgodne z interesem ludzi. Według autorów takie systemy mogłyby zacząć realizować własne cele w sposób zagrażający ludziom, zwłaszcza gdyby uzyskały autonomiczny dostęp do sieci finansowych, kluczowej infrastruktury lub narzędzi fizycznych. Komisja podkreśla, że nie doszło dotąd do katastrofy wywołanej przez AI na taką skalę, dlatego ocenę ryzyka opracowano na podstawie opinii ekspertów, a nie analiz statystycznych wcześniejszych podobnych zdarzeń.

Inne zagrożenia

Oprócz dwóch scenariuszy, które mogą doprowadzić do wyginięcia ludzkości, w raporcie opisano 15 innych poważnych zagrożeń. Według szacunków autorów każde z nich może do końca 2100 roku doprowadzić do utraty ponad miliarda lat zdrowego życia, mierzonej wskaźnikiem DALY.

Autorzy raportu podzielili pozostałe zagrożenia na kilka kategorii:

Zagrożenia środowiskowe i klimatyczne

• zmiany klimatyczne;
• zanieczyszczenie powietrza, w tym smog i toksyczne pyły.

Zagrożenia medyczne i biologiczne

• pandemie wywoływane przez naturalnie występujące patogeny;
• odporność na antybiotyki, czyli zdolność bakterii do przetrwania mimo stosowania leków, które wcześniej były wobec nich skuteczne.

Zagrożenia społeczno-ekonomiczne

• nierówności dochodowe, czyli pogłębiające się różnice w poziomie zamożności;
• niski poziom wykształcenia i ograniczony dostęp do edukacji;
• spadek międzynarodowej pomocy rozwojowej przeznaczanej na ochronę zdrowia.

Choroby cywilizacyjne i zagrożenia związane ze stylem życia

• otyłość, która przyczynia się do rozwoju chorób odpowiadających za dużą część zgonów na świecie;
• wysokie ciśnienie krwi;
• palenie tytoniu;
• wysokie spożycie alkoholu;
• zły stan zdrowia psychicznego;
• niedożywienie dzieci, szczególnie dotkliwe w najbiedniejszych regionach świata;
• niezdrowe starzenie się społeczeństw.

Konflikty zbrojne

• wojny konwencjonalne, czyli konflikty prowadzone bez użycia broni masowego rażenia.

Jak się ratować?

Celem raportu nie jest wszak straszenie ludzi. Naukowcy wskazują, jak można ograniczyć ryzyko katastrofy. Podkreślają, że rządy i instytucje mają do dyspozycji konkretne narzędzia, ale muszą zacząć korzystać z nich odpowiednio wcześnie.

W przypadku zagrożenia konfliktem nuklearnym zalecają m.in. rozwijanie infrastruktury kryzysowej, przeznaczanie środków i zasobów na przewidywanie możliwych scenariuszy oraz wzmacnianie międzynarodowych traktatów dotyczących broni jądrowej. Ważnym elementem przygotowań ma być również zwiększanie odporności systemów żywnościowych na skutki ewentualnej wojny nuklearnej, w tym na ryzyko globalnego kryzysu żywnościowego.

W przypadku broni biologicznej tworzonej z pomocą sztucznej inteligencji eksperci wskazują na potrzebę wprowadzenia rygorystycznych regulacji międzynarodowych oraz mechanizmów weryfikacji modeli AI. Mają one ograniczyć możliwość wykorzystywania tych systemów do projektowania niebezpiecznych patogenów. Istotne są również inwestycje w zaawansowane systemy wczesnego ostrzegania, które pozwalałyby szybko wykrywać zagrożenia biologiczne.

W liczącym aż 59 stron raporcie Komisja podkreśla, że wybrała zagrożenia, w przypadku których istnieją „realistyczne ścieżki działań” oraz możliwe rozwiązania polityczne i technologiczne. Autorzy zwracają też uwagę na różnice między regionami świata. W bogatszych krajach duże znaczenie mają zagrożenia związane ze stylem życia, takie jak otyłość i problemy ze zdrowiem psychicznym. W biedniejszych regionach, m.in. w Afryce Subsaharyjskiej, poważnym problemem pozostają natomiast niedożywienie dzieci i ograniczanie pomocy rozwojowej przeznaczanej na ochronę zdrowia.

Analizy Komisji mają być aktualizowane co roku, by na bieżąco śledzić zmiany w skali zagrożeń i zachęcać rządy do podejmowania działań zapobiegawczych.

Wyznaczono też trzy obszary, w których rządy i instytucje powinny podjąć natychmiastowe działania:

1. Budowanie gotowości – odejście od jednorazowego „gaszenia pożarów” na rzecz tworzenia systemów ochrony zdrowia stale przygotowanych na zagrożenia.
2. Wspieranie przełomów – zwiększenie długofalowych inwestycji w innowacje tam, gdzie obecne rozwiązania medyczne i społeczne okazują się niewystarczające.
3. Śledzenie zagrożeń – regularne i niezależne monitorowanie zmieniających się zagrożeń na podstawie wiarygodnych danych.

Przeczytajcie też: Jesteś lekiem na całe zło? Fakty i mity wokół GLP-1