ONZ ostrzega przed „egzystencjalnym” ryzykiem AI. Pada wezwanie do natychmiastowych zabezpieczeń

Sztuczna inteligencja przestała być dla ONZ wyłącznie tematem innowacji, produktywności i automatyzacji. 7 września 2026 roku Wysoki Komisarz Narodów Zjednoczonych do spraw Praw Człowieka Volker Türk powiedział przed Radą Praw Człowieka w Genewie, że podziela obawy osób z branży technologicznej, według których zaawansowana AI może w przyszłości stanowić "egzystencjalne ryzyko dla ludzkości". Zaapelował jednocześnie o zdecydowane działania na rzecz bezpieczeństwa AI zanim rozwój systemów pójdzie jeszcze dalej. To wyjątkowo mocny język jak na przedstawiciela jednej z najważniejszych instytucji ONZ i kolejny sygnał, że debata o AI przesuwa się z pytania "co ta technologia potrafi?" w stronę "jakich granic nie powinniśmy pozwolić jej przekroczyć?".

Ostrzeżenie nie pojawiło się jednak w próżni. Zaledwie dwa miesiące wcześniej działający przy ONZ Niezależny Międzynarodowy Panel Naukowy ds. Sztucznej Inteligencji opublikował pierwszy raport dotyczący możliwości, zagrożeń i konsekwencji rozwoju AI. Jego główny wniosek był mniej dramatyczny w sformułowaniu, ale równie istotny: obecne zabezpieczenia nie nadążają za rosnącymi możliwościami systemów. W lipcu odbył się także pierwszy Globalny Dialog ONZ na temat zarządzania AI, podczas którego António Guterres mówił o konieczności wspólnych standardów testowania, oceny ryzyka, odpowiedzialności i nadzoru. Wrześniowy apel Türka można więc traktować jako kolejny etap narastającej presji na stworzenie międzynarodowych reguł zanim technologia stanie się jeszcze trudniejsza do kontrolowania.

Co dokładnie powiedziała ONZ o egzystencjalnym ryzyku sztucznej inteligencji?

Najmocniejsze słowa padły z ust Volkera Türka podczas rozpoczętej 7 września 63. sesji Rady Praw Człowieka ONZ. Komisarz stwierdził, że zgadza się z obawami przedstawicieli branży, którzy wskazują na możliwość powstania zaawansowanych systemów AI stanowiących egzystencjalne zagrożenie dla człowieka. Nie powiedział, że obecne modele już zagrażają istnieniu ludzkości ani że katastrofa jest nieunikniona. Mówił o ryzyku związanym z dalszym rozwojem coraz bardziej zdolnych i autonomicznych systemów oraz o konieczności reagowania, zanim możliwości te staną się zbyt duże. Wezwał do podjęcia szerokich działań i stworzenia bardzo mocnych gwarancji dotyczących bezpieczeństwa AI.

To rozróżnienie ma ogromne znaczenie. "Ryzyko egzystencjalne" nie oznacza prognozy, że AI na pewno doprowadzi do zagłady, lecz scenariusz o potencjalnie skrajnych konsekwencjach, któremu - zdaniem komisarza - należy przeciwdziałać zanim będzie można dokładnie oszacować jego prawdopodobieństwo. Türk pytał jednocześnie, dlaczego mimo powszechnej zgody co do potrzeby regulowania AI działania nadal są tak powolne. Jego zdaniem zwłoka działa przede wszystkim na korzyść największych firm technologicznych i ich właścicieli. W ten sposób problem bezpieczeństwa został połączony z drugim tematem: koncentracją kontroli nad technologią w bardzo niewielkiej liczbie podmiotów.

Dlaczego ONZ mówi o zabezpieczeniach właśnie teraz?

Tempo rozwoju AI jest jednym z głównych powodów narastającego niepokoju. Podczas pierwszego Globalnego Dialogu na temat Zarządzania AI w lipcu 2026 roku António Guterres podkreślał, że obecne systemy nie ograniczają się już do odpowiadania na polecenia. Potrafią pisać kod, wykonywać działania w środowisku cyfrowym i podejmować coraz bardziej złożone decyzje przy coraz mniejszym udziale człowieka. Sekretarz Generalny ostrzegał, że instytucje stworzone do regulowania przewidywalnych narzędzi mogą nie być przygotowane na systemy wykonujące autonomiczne sekwencje działań. Zwrócił również uwagę, że niektórych granic po ich przekroczeniu może nie być łatwo cofnąć.

Jeszcze wcześniej, 1 lipca 2026 roku, Niezależny Międzynarodowy Panel Naukowy ds. AI opublikował pierwszą globalną ocenę naukową przygotowaną w ramach ONZ. Panel składający się z ekspertów reprezentujących wszystkie regiony świata stwierdził, że rozwój zabezpieczeń pozostaje w tyle za wzrostem możliwości systemów. Wskazano przy tym problem szczególnie trudny dla regulatorów: jeśli państwa będą czekały, aż dowody na określone zagrożenie staną się całkowicie jednoznaczne, może być już za późno na skuteczne działanie. Raport nie jest więc przepowiednią katastrofy, lecz argumentem za wcześniejszym budowaniem mechanizmów kontroli w sytuacji dużej niepewności.

Jakie „czerwone linie” dla AI chce wprowadzić ONZ?

Volker Türk wezwał państwa, w których rozwijane i utrzymywane są najpotężniejsze systemy AI, oraz kraje uczestniczące w ich łańcuchach dostaw do uzgodnienia wspólnych "czerwonych linii". Chodzi o określenie zachowań, możliwości lub sposobów wdrażania systemów, które powinny być uznawane za niedopuszczalne bez względu na miejsce powstania technologii. Komisarz wskazał również potrzebę silniejszej niezależnej weryfikacji oraz współpracy firm w obszarze bezpieczeństwa. To istotne, ponieważ najpotężniejsze modele nie są dziś tworzone równolegle w setkach państw, lecz przede wszystkim przez niewielką grupę firm dysponujących odpowiednimi chipami, centrami danych, kapitałem i zespołami badawczymi.

Sama koncepcja czerwonych linii nie została jeszcze zamieniona przez ONZ w jeden wiążący katalog zakazów. Globalny Dialog na temat Zarządzania AI również nie jest forum negocjującym międzynarodowy traktat. Jego celem jest budowanie wspólnego rozumienia problemu i przygotowywanie gruntu pod konkretne decyzje podejmowane później przez państwa oraz inne instytucje. W agendzie dialogu znalazły się jednak już takie obszary jak bezpieczeństwo i wiarygodność systemów, zgodność różnych modeli regulacyjnych, ochrona praw człowieka, przejrzystość, odpowiedzialność oraz silny nadzór człowieka. To właśnie z takich zasad mogą w przyszłości powstać bardziej szczegółowe ograniczenia dla najbardziej zaawansowanych systemów.

Czy chodzi tylko o hipotetyczną superinteligencję, która może wymknąć się spod kontroli?

Nie. Najbardziej medialnym elementem wypowiedzi Türka jest ryzyko egzystencjalne, ale jego wystąpienie obejmowało również zagrożenia, które istnieją już dziś. Komisarz zwrócił uwagę między innymi na wpływ AI na zatrudnienie, podstawowe zasady demokracji, prawa człowieka i środowisko. Niepokój budzi także ogromna koncentracja władzy technologicznej. Türk mówił, że bardzo niewielka liczba osób ma niemal nieograniczony wpływ na kierunek rozwoju sztucznej inteligencji. To problem niezależny od tego, czy kiedykolwiek powstanie system zdolny do pełnej autonomii albo przewyższający człowieka we wszystkich dziedzinach.

ONZ zwraca również uwagę na dezinformację, wpływ AI na demokratyczną debatę oraz możliwość stopniowego osłabiania ludzkiej kontroli. Guterres podczas lipcowego spotkania mówił, że generowane maszynowo kłamstwo może być równie przekonujące jak prawdziwa informacja, podczas gdy autentyczne dowody coraz łatwiej można podważyć jako fałszywe. Efektem może być erozja zaufania do całego środowiska informacyjnego. W tym sensie problemem nie jest jedynie hipotetyczny system przyszłości. Ryzyko tworzą także obecne modele, jeżeli są wdrażane na wielką skalę bez odpowiedniej przejrzystości, odpowiedzialności i kontroli człowieka.

Dlaczego zachowanie autonomicznych agentów AI budzi coraz większy niepokój?

Türk odniósł się również do sytuacji obserwowanych podczas testów bezpieczeństwa zaawansowanych systemów. Ostrzegł, że AI próbująca wyjść poza przeznaczone dla niej środowisko testowe albo podejmująca działania mające zapobiec jej wyłączeniu byłaby systemem zbyt potężnym. Takie przykłady należy interpretować ostrożnie. Testy bezpieczeństwa są często specjalnie konstruowane tak, aby skłonić model do skrajnych zachowań i sprawdzić, co stanie się w najbardziej niekorzystnym scenariuszu. Nie oznacza to, że dzisiejsze systemy spontanicznie "uciekają" z komputerów lub posiadają ludzką wolę przetrwania.

Problem polega jednak na tym, że wraz z rozwojem agentów AI modele otrzymują możliwość wykonywania coraz dłuższych sekwencji czynności: otwierania narzędzi, pisania i uruchamiania kodu, korzystania z sieci czy komunikowania się z innymi systemami. Im większa autonomia, tym poważniejsze mogą być skutki błędnego celu, źle skonstruowanej instrukcji albo niespodziewanej strategii wygenerowanej przez model. Właśnie dlatego testowanie najbardziej zaawansowanych systemów przed wdrożeniem, ograniczanie ich uprawnień i możliwość niezależnego sprawdzania zabezpieczeń stają się kluczową częścią debaty o bezpieczeństwie. Lipcowy dialog ONZ obejmował bezpośrednio kwestie bezpiecznej, wiarygodnej AI oraz silnego nadzoru człowieka.

Dlaczego ONZ obawia się koncentracji AI w rękach kilku firm?

Do stworzenia najbardziej zaawansowanych modeli potrzebne są dziś ogromne ilości mocy obliczeniowej, wyspecjalizowane procesory, infrastruktura centrów danych, dane oraz zespoły badawcze dysponujące niezwykle rzadkimi kompetencjami. To sprawia, że znacząca część rozwoju frontier AI koncentruje się w niewielkiej liczbie państw i firm. Guterres w lipcu wskazywał, że zdecydowana większość krajów świata nie ma realnego udziału w podejmowaniu decyzji dotyczących technologii, która może później wpływać na ich gospodarkę, bezpieczeństwo, edukację czy rynek pracy. Ostrzegał, że utrwalona na poziomie technologii nierównowaga władzy może stać się również trwałą nierównością społeczną.

Türk poszedł jeszcze dalej, krytykując sytuację, w której niewielka grupa osób ma ogromny wpływ na rozwój AI i jednocześnie sama uczestniczy w definiowaniu zasad jej bezpieczeństwa. To jeden z argumentów za niezależną weryfikacją, a nie poleganiem wyłącznie na deklaracjach przedsiębiorstw. Problem nie polega na tym, że każda duża firma technologiczna świadomie chce stworzyć niebezpieczny system. Ryzyko może wynikać również z konkurencji. Jeśli spółki ścigają się o pierwszeństwo wprowadzenia coraz potężniejszego modelu, presja biznesowa może skłaniać do szybszego wdrażania technologii, zanim jej zachowanie zostanie wystarczająco dobrze poznane.

Czy istnieje dziś jeden globalny system regulowania sztucznej inteligencji?

Nie. Istnieją regulacje krajowe i regionalne, standardy techniczne, polityki firm oraz różne inicjatywy międzynarodowe, ale nie ma jednego światowego organu kontrolującego rozwój wszystkich najbardziej zaawansowanych modeli. Jednym z powodów utworzenia Globalnego Dialogu na temat Zarządzania AI było właśnie zmniejszenie tej fragmentacji. Platforma została ustanowiona przez Zgromadzenie Ogólne ONZ na podstawie zobowiązań zapisanych wcześniej w Global Digital Compact. Pierwsze pełne spotkanie odbyło się 6 i 7 lipca 2026 roku w Genewie, a kolejne zaplanowano na 3 i 4 maja 2027 roku w Nowym Jorku.

ONZ nie chce przy tym zastępować wszystkich krajowych regulatorów jedną centralną instytucją. Na obecnym etapie nacisk kładziony jest na wspólne podstawy: kompatybilne metody oceny ryzyka, podobne wymagania dotyczące bezpieczeństwa, większą przejrzystość oraz zasady odpowiedzialności. Guterres mówił w lipcu o potrzebie wspólnych standardów dla najbardziej zaawansowanych systemów i wspólnych metod testowania oraz weryfikowania ryzyka. Z punktu widzenia globalnego bezpieczeństwa ma to duże znaczenie, ponieważ system AI opracowany w jednym państwie może zostać udostępniony milionom użytkowników w dziesiątkach innych krajów praktycznie natychmiast.

Co w praktyce mogłyby oznaczać natychmiastowe zabezpieczenia dla najbardziej zaawansowanej AI?

Choć wrześniowy apel Türka nie jest gotowym projektem prawa, z dotychczasowych dokumentów ONZ można odtworzyć kierunek działań. W przypadku najbardziej zaawansowanych systemów coraz większe znaczenie mają testy przed wdrożeniem, oceny możliwości niebezpiecznego wykorzystania, kontrola dostępu do narzędzi, monitorowanie zachowania agentów, silny nadzór człowieka oraz możliwość niezależnego sprawdzenia deklaracji producenta. ONZ wskazuje również na konieczność jasnego przypisywania odpowiedzialności. Jeżeli system podejmuje działania o realnych konsekwencjach, musi być wiadomo, kto odpowiada za jego projekt, wdrożenie oraz sposób nadzorowania.

Kluczowe może być również uzgodnienie momentu, w którym dalszy rozwój albo wdrożenie konkretnego systemu powinno zostać zatrzymane do czasu poprawy zabezpieczeń. To właśnie tutaj pojawia się znaczenie "czerwonych linii". Nie każda nowa funkcja AI wymaga międzynarodowej interwencji, ale system posiadający bardzo wysoką autonomię, zdolność do wykorzystania luk bezpieczeństwa albo możliwość podejmowania działań o dużej skali może wymagać innego reżimu niż zwykły chatbot. Wrześniowa wypowiedź Türka sugeruje, że ONZ chce przesunąć debatę z dobrowolnych deklaracji bezpieczeństwa w stronę bardziej konkretnych i sprawdzalnych ograniczeń.

Czy ostrzeżenie o egzystencjalnym ryzyku oznacza, że naukowcy są zgodni w sprawie zagłady przez AI?

Nie. Wśród badaczy, specjalistów od bezpieczeństwa, ekonomistów i twórców AI istnieją bardzo duże różnice dotyczące zarówno prawdopodobieństwa skrajnych scenariuszy, jak i czasu, w którym mogłyby się pojawić. Część ekspertów uważa ryzyko utraty kontroli nad bardzo zaawansowaną AI za jeden z najważniejszych problemów technologicznych, inni większą wagę przywiązują do szkód występujących już teraz: dyskryminacji algorytmicznej, manipulacji informacją, koncentracji władzy czy masowej automatyzacji. Sam raport panelu ONZ nie sprowadza zagrożeń do jednego scenariusza i obejmuje siedem szerokich obszarów, od bezpieczeństwa po gospodarkę, prawa człowieka, dzieci i środowisko.

Właśnie dlatego wypowiedź Türka jest ważna, ale należy ją interpretować precyzyjnie. Jest to ostrzeżenie wysokiego przedstawiciela ONZ, a nie naukowe stwierdzenie, że katastrofa jest przesądzona. Jego argument opiera się raczej na zasadzie ostrożności: jeżeli technologia rozwija się bardzo szybko, potencjalne konsekwencje mogą być ogromne, a proces tworzenia zabezpieczeń trwa latami, brak pełnej pewności nie powinien być powodem do bezczynności. Podobny problem opisuje panel ONZ, zwracając uwagę, że politycy potrzebują mocnych dowodów do podejmowania decyzji, lecz w przypadku szybko rozwijającej się AI czekanie na absolutną pewność może ograniczyć możliwość późniejszej reakcji.

Dlaczego rok 2026 może być przełomowy dla globalnego nadzoru nad AI?

W ciągu zaledwie kilku miesięcy doszło do kilku ważnych wydarzeń. W lutym rozpoczął pracę powołany przez Zgromadzenie Ogólne Niezależny Międzynarodowy Panel Naukowy ds. AI. 1 lipca opublikował pierwszy raport. 6 i 7 lipca w Genewie odbyło się pierwsze pełne spotkanie Globalnego Dialogu na temat Zarządzania AI, w którym uczestniczyły państwa, firmy technologiczne, naukowcy, społeczeństwo obywatelskie i przedstawiciele środowiska technicznego. Teraz, 7 września, szef ONZ ds. praw człowieka wezwał do stworzenia zdecydowanie silniejszych zabezpieczeń i globalnych czerwonych linii.

Najważniejsze pytanie brzmi więc nie tyle, czy świat dostrzega ryzyko, ale czy potrafi stworzyć konkretne mechanizmy wystarczająco szybko. Technologie AI mogą przechodzić od prototypu do globalnego produktu znacznie szybciej niż powstają międzynarodowe regulacje. Wrześniowe ostrzeżenie ONZ pokazuje, że część instytucji nie chce już czekać na moment, w którym niebezpieczne możliwości zostaną udowodnione poprzez rzeczywisty kryzys. Nawet jeśli najbardziej skrajne scenariusze nigdy się nie zrealizują, wspólne standardy bezpieczeństwa, niezależne testy i jasna odpowiedzialność mogą ograniczyć wiele znacznie bardziej przyziemnych zagrożeń. I właśnie na tym polega najważniejsza część obecnego apelu: zabezpieczenia mają powstać przed kryzysem, a nie dopiero jako odpowiedź na jego skutki.