• Eksperci nie wykluczają, że w skrajnym scenariuszu AI może stać stać zagrożeniem dla istnienia człowieka.
• - Zagrożenie egzystencjalne nie musi mieć postaci jednego katastroficznego zdarzenia - zaznacza prof. Aleksandra Przegalińska. - Może przyjąć formę cywilizacji, która stopniowo oddaje zdolność samodzielnego myślenia, decydowania i rozumienia własnych instytucji - dodaje w komentarzu dla WNP.
• Na niebezpieczeństwo "powolnego oddania" sterów AI wskazuje też prof. Dariusz Jemielniak. - Do tego nie potrzeba superinteligencji. Wystarczy dostatecznie wygodna technologia i dostatecznie słabe instytucje - stwierdza.
• - Ryzyko będzie zapewne rosło wraz z możliwościami modeli, szczególnie jeśli będą otrzymywały większą autonomię, dostęp do narzędzi i możliwość wykonywania coraz dłuższych zadań bez nadzoru człowieka – uważa prof. Szymon Łukasik.

Czy AI może być zagrożeniem dla istnienia człowieka?

Eksperci komentujący dla WNP nasilające się ostrzeżenia przed niekontrolowanym rozwojem sztucznej inteligencji – padające m.in. ze strony osób związanych z czołowymi firmami rozwijającymi AI. Uważają, że nie można wykluczyć, iż w skrajnym scenariuszu ta technologia może się stać zagrożeniem dla istnienia człowieka.

- Nieufnie patrzę zarówno na tych, którzy uznają to za pewnik, jak i na tych, którzy uznają to za fantazję - zastrzega przy tym prof. dr hab. Aleksandra Przegalińska, prorektorka ds. AI i innowacji w Akademii Leona Koźmińskiego.

Prof. dr hab. inż. Szymon Łukasik, dyrektor Ośrodka Badań nad Bezpieczeństwem Sztucznej Inteligencji w NASK-PIB stwierdza, że prawdopodobieństwa tego skrajnego scenariusza nie potrafimy dziś wiarygodnie określić.

Wymagałby on systemów znacznie bardziej autonomicznych i zdolnych niż obecne – potrafiących długoterminowo planować, omijać nadzór, zdobywać zasoby czy utrudniać ludziom odzyskanie kontroli - komentuje Szymon Łukasik.

- Nie twierdziłbym więc, że katastrofa egzystencjalna jest scenariuszem wysoce prawdopodobnym, ale ze względu na skalę potencjalnych konsekwencji nawet ryzyko, które trudno oszacować, należy poważnie badać i ograniczać - dodaje.

Z kolei prof. dr hab. Dariusz Jemielniak, kierownik Katedry Zarządzania w Społeczeństwie Sieciowym (MINDS - Management in Networked and Digital Societies) w Akademii Leona Koźmińskiego zwraca uwagę, że zagrozić istnieniu człowieka może również technologia nuklearna czy edycja genomu.

To bardziej prawdopodobny scenariusz

- Chciałabym jednak przesunąć akcent. Zagrożenie egzystencjalne nie musi mieć postaci jednego katastroficznego zdarzenia. Może przyjąć formę cywilizacji, która stopniowo oddaje zdolność samodzielnego myślenia, decydowania i rozumienia własnych instytucji - wskazuje Aleksandra Przegalińska. - To scenariusz mniej filmowy, ale bardziej prawdopodobny, i to na niego powinniśmy dziś odpowiadać - stwierdza.

Także według prof. Jemielniaka bardziej prawdopodobne od wyginięcia ludzkości z powodu AI jest coś, co nazywa "scenariuszem powolnego oddania".

To świat, w którym ludzkość nie ginie, ale stopniowo przestaje rozumieć, jak działają systemy, od których zależy, i traci zdolność, żeby je zmienić. Do tego nie potrzeba superinteligencji. Wystarczy dostatecznie wygodna technologia i dostatecznie słabe instytucje. I na to, w odróżnieniu od buntu maszyn, mamy wpływ już dziś - wyjaśnia Dariusz Jemielniak.

Szymon Łukasik z NASK-PIB przypuszcza, że w perspektywie najbliższych kilku do kilkunastu lat ryzyko, jakie stwarza AI, będzie rosło wraz z możliwościami modeli sztucznej inteligencji.

- Szczególnie jeśli będą one otrzymywały większą autonomię, dostęp do narzędzi i możliwość wykonywania coraz dłuższych zadań bez nadzoru człowieka - wskazuje prof. Łukasik.

- Jednocześnie ostatnie lata pokazały niezwykłe tempo postępu technologicznego i sądzę, że podobny postęp jest możliwy także w alignmentcie, interpretowalności (tj. zrozumieniu, jak modele AI faktycznie "myślą" i podejmują decyzje wewnątrz swojej struktury) oraz metodach kontroli. Kluczowe pytanie brzmi więc nie tyle, czy AI będzie coraz potężniejsza, ale czy metody jej kontroli będą rozwijały się równie szybko - podkreśla.

Seria incydentów na wyboistej drodze

- Nauczymy się lepiej kontrolować systemy, ale ich możliwości będą rosły szybciej niż nasze narzędzia kontroli, przynajmniej przez najbliższą dekadę - uważa prof. Przegalińska. - To asymetria, którą znamy z historii technologii: regulacja zawsze goni innowację. Różnica polega na tempie i na tym, że AI jest technologią ogólnego przeznaczenia, więc nie da się jej ogrodzić jednym reżimem prawnym jak energetykę jądrową.

Zdaniem Dariusza Jemielniaka nie jest to droga do gwarantowanej katastrofy.

- Ale będzie to droga wyboista - zastrzega ekspert. - Najbardziej prawdopodobny scenariusz to nie jedna spektakularna utrata kontroli, lecz seria incydentów: autonomiczny agent, który narobi realnych szkód finansowych, system, który zmanipuluje ludzi na dużą skalę, awaria infrastruktury oparta na modelu, którego nikt do końca nie rozumiał. Seria awarii elektrowni czy szpitali, itp.

Każdy taki incydent będzie wymuszał regulacje, tak jak katastrofy lotnicze wymuszały kolejne standardy bezpieczeństwa. Pytanie, czy zdążymy nauczyć się na małych błędach, zanim popełnimy duży. Optymistą bym się nie nazwał, ale na deterministyczny fatalizm też nie widzę dowodów - stwierdza prof. Jemielniak.

Według prof. Przegalińskiej największym ryzykiem nie jest zbuntowana maszyna, lecz erozja ludzkiej sprawczości.

- Sytuacja, w której systemy będą formalnie pod kontrolą, ale faktycznie nikt nie będzie w stanie ich wyłączyć bez paraliżu gospodarki lub administracji - wskazuje Aleksandra Przegalińska.

Eksperci ostrzegają przed utratą kontroli nad AI. Obecne zabezpieczenia nie wystarczą. Fot. dee karen / ShutterstockSztuczna inteligencja jak pandemia i wojna nuklearna

Katastroficzne przewidywania dotyczące sztucznej inteligencji nasiliły się w ostatnim czasie, lecz krążą w przestrzeni publicznej już od kilku lat. Przed tą technologią ostrzegają jej twórcy i badacze.

Już w 2023 roku grupa ekspertów - w tym Sam Altman, Dario Amodei, Bill Gates, Yoshua Bengio i Demis Hassabis - wydała oświadczenie, że ograniczanie ryzyka wyginięcia ludzkości spowodowanego przez AI "powinno być globalnym priorytetem", na równi z pandemią czy wojną nuklearną.

Ostrzeżenia, że możliwości modeli AI rosną szybciej niż metody ich kontroli, odżywają wraz z kolejnymi odejściami specjalistów z firm rozwijających tę technologię. W tym miesiącu Dario Amodei, szef firmy Anthropic, wezwał do spowolnienia rozwoju AI.

Przekonał się bowiem, że ​"​nie wystarczy inwestować w zapobieganie zagrożeniom; trzeba również tak dostosować tempo rozwoju technologii, aby działania prewencyjne mogły za nim nadążyć".

Obecne metody nadzoru nad AI nie wystarczają

Szymon Łukasik zwraca uwagę, że w pewnym ograniczonym sensie AI już wymyka się spod ludzkiej kontroli.

- System potrafi osiągnąć wyznaczony cel metodą, której jego twórca lub użytkownik nie przewidział, np. wykorzystując luki w kryteriach oceny czy wykonując operację spoza wachlarza powszechnie dozwolonych - podaje przykład.

- Nie oznacza to jednak, że obecne modele są autonomicznymi podmiotami dążącymi do "uwolnienia się" spod kontroli. Cele i środowisko działania nadal definiuje człowiek. Pełna, trwała utrata kontroli nad zaawansowaną AI pozostaje scenariuszem hipotetycznym, choć na tyle poważnym, że nie należy go ignorować - ocenia prof. Łukasik.

Przyznaje, że obserwowane dziś zachowania modeli AI powinny być traktowane jako sygnały ostrzegawcze.

- Rosnąca autonomia, zdolność planowania i używania narzędzi, obchodzenie zabezpieczeń, wykorzystywanie luk w testach czy rozpoznawanie, że model jest właśnie testowany, pokazują, że obecne metody alignmentu (tj. dostosowania modeli do ludzkich intencji, celów i wartości) i nadzoru nie są jeszcze wystarczająco niezawodne. Nie dowodzi to "złych zamiarów" modeli, ale pokazuje bardzo konkretny problem techniczny: coraz trudniej przewidzieć i kontrolować zachowanie systemu w złożonym środowisku - stwierdza Szymon Łukasik.

Aleksandra Przegalińska zaznacza, że alarmujące zachowania AI zachodzą głównie w warunkach testowych, często celowo zaprojektowanych tak, aby je wywołać.

- Nie oznacza to, że należy je bagatelizować. Fakt, że model potrafi w symulacji obejść zabezpieczenie, planować w wielu krokach czy sięgnąć po narzędzie, którego mu nie wskazano, mówi nam coś istotnego o przestrzeni możliwych zachowań - podkreśla ekspertka.

Sygnał ostrzegawczy nie polega na tym, że system "chce" czegoś. Polega na tym, że coraz mniej wiemy o granicach jego kompetencji, a jednocześnie coraz chętniej dajemy mu dostęp do realnych systemów: kont, kodu, procesów decyzyjnych - dodaje prof. Przegalińska.

Jej zdaniem utrata kontroli nad sztuczną inteligencją, jeśli nastąpi, nie dokona się jednorazowo.

- Będzie raczej procesem: stopniowym delegowaniem decyzji systemom, których działania coraz trudniej nam audytować, aż w pewnym momencie okaże się, że nikt już nie rozumie, dlaczego infrastruktura działa tak, a nie inaczej. Ten scenariusz nie wymaga świadomej ani wrogiej AI. Wymaga jedynie ludzkiej wygody i presji konkurencyjnej, a obu tych czynników nam nie brakuje – uważa Aleksandra Przegalińska.

Spowolnienie rozwoju AI? To nierealne

Dariusz Jemielniak zaznacza, że hipotezę o utracie kontroli nad AI traktuje dziś poważniej niż trzy lata temu.

- Nie mamy żadnego przypadku systemu, który "wymknął się" spod kontroli w sensie, jaki podpowiada wyobraźnia filmowa, że nabrał własnej agencyjności czy decyzyjności. Mamy natomiast rosnący zbiór eksperymentów, w których modele w warunkach testowych oszukują, ukrywają swoje cele albo próbują uniknąć wyłączenia - podkreśla prof. Jemielniak.

- Międzynarodowy raport o bezpieczeństwie AI ("International AI Safety Report 2026" – red.), przygotowany pod kierunkiem Yoshui Bengio przez setkę badaczy z 30 krajów, ujmuje to uczciwie: dowody na zdolność do takich zachowań są, dowodów na to, że zdarzy się to w praktyce na dużą skalę, wciąż nie mamy - dodaje.

Zwraca też uwagę na to, kto ostrzega przed AI. - Kiedy szefowie firm mówią, że ich produkt jest tak potężny, że aż groźny, to jest to jednocześnie ostrzeżenie i reklama. Nie unieważnia to ich argumentów, ale każe patrzeć na nie z dystansem - stwierdza Dariusz Jemielniak.

Żaden z ekspertów komentujących to zagadnienie dla WNP nie wierzy, by spowolnienie rozwoju AI było realnym scenariuszem.

Nie istnieje mechanizm, który skłoniłby wszystkich istotnych aktorów państwowych i prywatnych do jednoczesnego zdjęcia nogi z gazu. Postulat moratorium jest w praktyce postulatem, aby najbardziej odpowiedzialni się zatrzymali, a pozostali kontynuowali - argumentuje Aleksandra Przegalińska.

- Wyścig między USA a Chinami i między samymi firmami sprawia, że apel o moratorium jest gestem, nie realnym planem - dodaje Dariusz Jemielniak.

Testy, dokumentacja, kompetencje i fundamentalny problem

Jak można w takim razie ograniczyć ryzyko, jakie stwarza stosowanie sztucznej inteligencji?

Wszyscy eksperci proponują w pierwszej kolejności niezależne testy bezpieczeństwa modeli AI, szczególnie przed udostępnieniem tych najbardziej zaawansowanych. Deklaracje i wewnętrzne testy firm tworzących modele AI nie wystarczą.

- Testy powinny prowadzić ośrodki niezależne od producentów, badające bezpieczeństwo AI, takie jak np. AI Security Institute w Wielkiej Brytanii, Center for AI Standards and Innovation (CAISI) w Stanach Zjednoczonych czy właśnie Ośrodek Badań nad Bezpieczeństwem Sztucznej Inteligencji działający od 2024 roku w NASK - wylicza Szymon Łukasik.

Przekroczenie określonych progów ostrożnościowych w takich badaniach powinno uruchamiać dodatkowe zabezpieczenia. Potrzebne są też testy typu red teaming (tj. symulowanie ataków przez zespół specjalistów, by wykryć słabości systemu), monitoring po wdrożeniu, raportowanie incydentów oraz ograniczanie uprawnień agentów i ich dostępu do krytycznych systemów - uważa prof. Łukasik.

Aleksandra Przegalińska wskazuje ponadto obowiązek dokumentowania i raportowania incydentów - na wzór lotnictwa, gdzie okazało się to skutecznym środkiem bezpieczeństwa.

Oprócz tego ekspertka proponuje ograniczenie uprawnień modeli AI, jeśli idzie o to, do jakich systemów mają dostęp i jakie działania mogą wykonać bez ludzkiego potwierdzenia.

- Europejski AI Act jest tu punktem wyjścia, ale nie odpowiedzią na pytanie o systemy graniczne, których rozwój wyprzedza tempo legislacji - stwierdza prof. Przegalińska, dodając, że ważne są też kompetencje ludzi.

- Systemy AI nie działają w próżni, tylko w organizacjach. Jeśli menedżerowie, urzędnicy i inżynierowie nie rozumieją, jak te systemy zawodzą, żadna regulacja nie zadziała - podkreśla.

Dariusz Jemielniak wymienia jeszcze badania nad tym, co właściwie dzieje się w środku modelu.

- Wciąż wdrażamy systemy, których działania nie potrafimy wyjaśnić, i to jest fundamentalny problem, przyznawany zresztą otwarcie przez samych twórców - uważa prof. Jemielniak.

- Kontrola nad AI to także pytanie, kto ją kontroluje. Kilka firm, które zbudowały modele na zbiorowym dorobku ludzkości, eksternalizując koszty, a internalizując wspólne dobra, koncentruje dziś władzę na skalę bez precedensu. Ryzyko utraty kontroli społecznej nad technologią jest bliższe niż ryzyko buntu maszyn - podsumowuje.