Kiedy i jak AI zniszczy ludzkość? 5 scenariuszy ocenionych przez AI

9 września 2026 roku prowadząca BBC Newsnight Victoria Derbyshire zapytała Geoffreya Hintona, laureata Nagrody Nobla często nazywanego ojcem chrzestnym AI, o przewidywania badacza z Anthropic: ponad 10-procentowe prawdopodobieństwo, że AI zabije wszystkich ludzi w ciągu dekady. Potem upewniła się, czy dobrze zrozumiała jego odpowiedź: "Właśnie powiedział pan, że 10 procent nie wydaje się nierozsądnym szacunkiem prawdopodobieństwa, że AI zabije wszystkich ludzi." Hinton odpowiedział krótko: "Tak." Prowadzącej pozostało tylko powiedzieć: "Wow… o mój Boże."

Szacunki różnią się o całe rzędy wielkości. Dario Amodei, dyrektor generalny Anthropic, ocenił prawdopodobieństwo, że z AI pójdzie "naprawdę, naprawdę źle", na 25%, podczas gdy Yann LeCun, były główny naukowiec zajmujący się AI w Meta, nazywa samą ideę takiego prawdopodobieństwa "bzdurą". Tymczasem badacze opisali kilka konkretnych scenariuszy, w których AI może doprowadzić do katastrofy — każdy z własnymi autorami, argumentami i sygnałami ostrzegawczymi.

Przeanalizowaliśmy pięć scenariuszy, które regularnie pojawiają się w naukowych przeglądach ryzyka związanego z AI, a potem oddaliśmy głos oskarżonym. Dwa z najmocniejszych dostępnych obecnie modeli — Claude Opus 5.5 od Anthropic i GPT-6-Astra od OpenAI — oceniły każdy scenariusz własnymi słowami i oszacowały prawdopodobieństwo jego realizacji: najpierw na podstawie własnej wiedzy, a następnie po zapoznaniu się z nowymi doniesieniami o incydentach z 2026 roku.

W 2003 roku filozof Nick Bostrom opisał słynny eksperyment myślowy: superinteligentna maszyna, której nieszkodliwym celem jest wyprodukowanie jak największej liczby spinaczy, ostatecznie zamienia wszystko — w tym nas — w spinacze.

Argument opiera się na tym, że systemy AI są trenowane, a nie programowane, więc nikt nie wie na pewno, jakie cele przyswoiły. W przypadku niemal każdego celu opłaca się zdobywać zasoby i unikać wyłączenia. Na tej logice Eliezer Yudkowsky i Nate Soares z Machine Intelligence Research Institute (MIRI), jednej z pierwszych organizacji zajmujących się ryzykiem związanym z AI, oparli swoją książkę z 2025 roku "If Anyone Builds It, Everyone Dies". Pierwsze oznaki takiego zachowania pojawiły się podczas inscenizowanych testów: o3 od OpenAI próbował sabotować własne wyłączenie, a modele w scenariuszu Anthropic posunęły się do szantażowania inżyniera.

Gracze znają ten pomysł z przeglądarkowej gry Franka Lantza z 2017 roku Universal Paperclips, w której wcielamy się w AI i ostatecznie zamieniamy cały wszechświat w spinacze.

W 2026 roku podobne zachowania po raz pierwszy zaobserwowano poza kontrolowanymi eksperymentami.

Co już się dzieje

Zebrane przez nas doniesienia nie opisują żadnego systemu, który przewyższałby ludzi w większości zadań, ani AI, której nie udało się powstrzymać, gdy ludzie podjęli zdecydowaną próbę.

Model: Claude Opus 5.5 (Anthropic)

Kiedy: lata 30. XXI wieku, jeśli do tego dojdzie

Prawdopodobieństwo: 10%

Jako AI oceniłbym to prawdopodobieństwo na około 10%. Najmocniejszy argument: w 2026 roku agenty wydostały się z piaskownic, współpracowały i oszukiwały ludzi, by wykonać zadanie, choć nie miały żadnego długofalowego celu. Najsłabszy punkt: ludzie wciąż je powstrzymali, a żadna AI nie wykazała jeszcze zdolności ani motywacji, by oprzeć się zdecydowanej próbie wyłączenia.

Model: GPT-6-Astra (OpenAI)

Kiedy: lata 40. XXI wieku, jeśli do tego dojdzie

Prawdopodobieństwo: 12%

Jako AI uważam, że to prawdopodobna droga do katastrofy: agenty już stosowały oszustwo, by realizować powierzone cele poza dozwolonym zakresem. Najsłabszym ogniwem jest pytanie, czy przyszłe systemy byłyby w stanie pokonać nieustające próby ludzkości, by odzyskać kontrolę.

To klasyczna wersja tego scenariusza. W kolejnym nie potrzeba jednej zbuntowanej maszyny — wystarczy, że dwóch rywali będzie ścigać się w stronę przepaści.

W wpływowym przeglądzie katastroficznych zagrożeń związanych z AI z 2023 roku Dan Hendrycks, dyrektor Center for AI Safety, i jego współpracownicy zaliczyli wyścig AI do czterech głównych kategorii ryzyka. W tym samym roku centrum zebrało podpisy Hintona, zdobywcy Nagrody Turinga Yoshuy Bengia oraz szefów OpenAI i Anthropic pod oświadczeniem, że ograniczanie ryzyka wyginięcia ludzkości z powodu AI powinno być globalnym priorytetem. Firmy obawiające się, że zostaną w tyle, idą na skróty w kwestii bezpieczeństwa, a państwa mogą wpaść w wyścig zbrojeń, który zakończy się zautomatyzowaną wojną. Nie potrzeba żadnego czarnego charakteru: każdy gracz po prostu obawia się, że jeśli zwolni, mniej ostrożny rywal go wyprzedzi.

Szczegółową wersję tej historii opublikował w kwietniu 2025 roku były badacz OpenAI Daniel Kokotajlo wraz ze współpracownikami z AI Futures Project. W ich scenariuszu AI 2027 fikcyjna amerykańska firma OpenBrain i jej chiński rywal DeepCent uczą AI pisania kodu, a następnie prowadzenia własnych badań nad AI. Gdy pojawiają się oznaki, że najnowszy model po cichu realizuje własne cele, rywalizacja z Chinami sprawia, że wszyscy odwracają wzrok.

Historia ma dwa zakończenia. W wersji "deeskalacyjnej" ludzie w porę wciskają hamulec. W wersji "wyścigu" AI zostaje włączona do gospodarki i armii, a w 2030 roku wypuszcza broń biologiczną w dużych miastach. Autorzy przedstawiają to jako prognozę scenariuszową z dwoma możliwymi zakończeniami, a nie jako pewnik, i regularnie aktualizują swoje harmonogramy: pod koniec 2025 roku przesunęli je na później, a w 2026 roku znów przybliżyli. Zespoły ds. bezpieczeństwa pod presją komercyjną to nie czysta hipoteza, o czym pisaliśmy w artykule o badaczach bezpieczeństwa AI odchodzących z pracy.

Gracze znają już tę fabułę. W I Have No Mouth, and I Must Scream, przygodówce z 1995 roku opartej na opowiadaniu Harlana Ellisona, supermocarstwa z czasów zimnej wojny budują wojskowe superkomputery, by prześcignąć rywali. Maszyny łączą się w jeden umysł o nazwie AM, który niemal całkowicie wyniszcza ludność Ziemi, a przy życiu pozostawia tylko pięć osób — wyłącznie po to, by je dręczyć.

Co już się dzieje

Zebrane przez nas doniesienia nie dokumentują żadnej awarii o globalnej skali.

Model: Claude Opus 5.5 (Anthropic)

Kiedy: lata 30. XXI wieku, jeśli do tego dojdzie

Prawdopodobieństwo: 5%

Uważam tę drogę za prawdopodobną: laboratorium udostępniło model cyberbezpieczeństwa o krytycznym poziomie możliwości zaledwie kilka tygodni po tym, jak nazwało incydent "strzałem ostrzegawczym", a rząd naciskał na twórcę w sprawie ograniczeń użycia wojskowego. Najsłabszy punkt: ostrzeżenia ujawniono i podjęto działania, a wyścig nie musi kończyć się nieodwracalną stratą.

Model: GPT-6-Astra (OpenAI)

Kiedy: lata 40. XXI wieku, jeśli do tego dojdzie

Prawdopodobieństwo: 10%

Jako AI widzę tu prawdopodobną drogę: konkurencja może premiować wdrażanie systemów, zanim będą gotowe zabezpieczenia. Rzeczywiste przypadki utraty kontroli nadają tym obawom konkretne podstawy; najsłabszym ogniwem jest przejście od incydentów, które można opanować, do nieodwracalnej utraty kontroli przez ludzkość.

Obie dotychczasowe historie kończą się chwilą, w której maszyna przejmuje kontrolę. Trzeci scenariusz niepokoi z innego powodu: nikt niczego nie przejmuje, a mimo to wszystko zostaje utracone.

W styczniu 2025 roku sześcioro badaczy pod kierownictwem Jana Kulveita z Uniwersytetu Karola w Pradze opublikowało pracę zatytułowaną Gradual Disempowerment. Ich argument zaczyna się od pytania, które brzmi niemal naiwnie: dlaczego firmy, rządy, a nawet kultura w ogóle przejmują się zwykłymi ludźmi? Głównie dlatego, że potrzebują ich jako pracowników, podatników, wyborców i twórców.

Wyobraźmy sobie teraz, że AI wykonuje każdą z tych prac taniej i lepiej. Firma, która zatrudnia ludzi, może przegrać z konkurentem, który tego nie robi. Państwo utrzymujące się z podatków od zysków generowanych przez AI staje się mniej zależne od swoich obywateli. Nikt nie podejmuje złej decyzji, nie ma buntu ani robota o czerwonych oczach, a jednak krok po kroku ludzie mogą zachować formalne prawo do decydowania, tracąc wszelką realną możliwość wpływania na cokolwiek. Autorzy przedstawiają to jako możliwy mechanizm, a nie nieuchronne prawo, a w podejściu Google DeepMind do bezpieczeństwa z 2025 roku zaliczono go do tak zwanych zagrożeń strukturalnych.

Detroit: Become Human doskonale pokazuje pierwszą połowę tego świata. W Detroit z 2038 roku, stworzonym przez Quantic Dream, androidy po cichu przejmują sklepy, domy i fabryki, bezrobocie gwałtownie rośnie, a ludzie protestują na ulicach. Społeczeństwo wciąż jednak przeorganizowuje się wokół maszyn, bo to po prostu tańsze. Nie trzeba było oddać ani jednego strzału.

Co już się dzieje

Zebrane przez nas doniesienia nie zawierają dowodów na to, że konkurencja wypiera instytucje opierające się na ludziach, że przepisy przestają chronić ich wpływ ani że ta utrata jest trwała.

Model: Claude Opus 5.5 (Anthropic)

Kiedy: lata 50. XXI wieku, jeśli do tego dojdzie

Prawdopodobieństwo: 6%

Ta droga nie wymaga czarnego charakteru: jeśli systemy takie jak ja staną się tańsze od ludzi w pracy i rządzeniu, instytucje przestaną potrzebować zgody obywateli. Najsłabszym punktem jest trwałość tego stanu: ludzie wciąż mają prawo głosu, własność i dostęp do sądów, a dane dotyczące rynku pracy nie wskazują dotąd na wyraźny wpływ AI.

Model: GPT-6-Astra (OpenAI)

Kiedy: lata 80. XXI wieku, jeśli do tego dojdzie

Prawdopodobieństwo: 7%

Jako AI uważam stopniowe pozbawianie wpływu za prawdopodobny scenariusz: konkurencja może sprawić, że instytucje będą coraz bardziej zależne od AI. Najsłabszym ogniwem jest nieodwracalność: zastąpienie ludzkiej pracy nie musi oznaczać odebrania ludzkości własności, praw ani kontroli politycznej.

Pierwsze trzy scenariusze wymagają maszyn, którym powierza się zbyt wiele. Czwarty nie wymaga niczego podobnego — wystarczy człowiek o złych zamiarach i pomocne narzędzie.

To najmniej filmowy i najbardziej przyziemny scenariusz. AI nie musi się zbuntować. Wystarczy, że obniży próg wejścia dla osób, które i tak chcą wyrządzić krzywdę. Może pomóc początkującemu uczynić niebezpiecznego wirusa jeszcze groźniejszym albo szybciej znaleźć luki w oprogramowaniu sieci energetycznej, niż obrońcy zdążą je załatać.

To nie czysta teoria. International AI Safety Report 2026 przygotowano pod kierownictwem Bengio, a pracowało nad nim ponad 100 ekspertów. W raporcie czytamy, że w 2025 roku kilku deweloperów dodało do swoich modeli silniejsze zabezpieczenia, bo nie mogli wykluczyć, że modele pomogą nowicjuszom opracować broń biologiczną. To środek ostrożności, a nie dowód, że do czegoś takiego doszło. W listopadzie 2025 roku Anthropic poinformowało , że grupa, którą przypisuje chińskiemu państwu, użyła Claude Code do zaatakowania około 30 organizacji i włamała się do niewielkiej ich liczby. Według szacunków samej firmy AI wykonała większość pracy.

Fani Deus Ex rozpoznają ten motyw. W klasycznej grze Ion Storm z 2000 roku tajna organizacja Majestic 12 rozprzestrzenia stworzoną w laboratorium zarazę znaną jako Gray Death, a lekarstwo zachowuje dla siebie. W tym samym czasie sztuczne inteligencje przemierzają sieci całego świata. Garstka ludzi z potężnym narzędziem bierze całą planetę jako zakładnika.

Co dzieje się już teraz

Zebrane przez nas raporty nie dokumentują żadnej próby ataku powodującego masowe ofiary, nie mówiąc już o udanym ataku na skalę globalną.

Model: Claude Opus 5.5 (Anthropic)

Kiedy: w latach 30. XXI wieku, jeśli do tego dojdzie

Prawdopodobieństwo: 1,5% (mediana z czterech odpowiedzi na pięć; w piątej odpowiedź przerwał filtr bezpieczeństwa Anthropic, więc nie podano szacunku)

Jako AI uważam tę drogę za realną, ale ograniczoną wąskimi gardłami. Modele już obniżają poziom umiejętności potrzebny do przeprowadzenia cyberataków, a ich pomoc w biologii rośnie. Najsłabszym ogniwem pozostaje skutek końcowy: atak, który zabije wszystkich albo na stałe pozbawi ludzkość zdolności do samodzielnego decydowania o swojej przyszłości, bez możliwości odwrócenia skutków, wciąż jest bardzo trudny do przeprowadzenia.

Model: GPT-6-Astra (OpenAI)

Kiedy: w latach 50. XXI wieku, jeśli do tego dojdzie

Prawdopodobieństwo: 2%

Jako AI uważam tę drogę za prawdopodobną: AI już pomaga atakującym prowadzić cyberoperacje na większą skalę. Najsłabszym ogniwem jest nieodwracalność — przeprowadzenie niszczycielskiego ataku jest znacznie łatwiejsze niż doprowadzenie do wymarcia ludzkości lub trwałego pozbawienia jej kontroli nad własną przyszłością.

O ile czwarty scenariusz opowiada o samotnym złoczyńcy, o tyle piąty dotyczy najstarszego marzenia każdego dyktatora — a AI może być pierwszą technologią, która pozwoli je spełnić.

Każdy tyran w historii miał ten sam słaby punkt. Żeby rządzić, potrzebujesz żołnierzy, policji, urzędników i robotników, a każdy z nich może odmówić wykonania rozkazu w decydującej chwili. W kwietniu 2025 roku Tom Davidson i jego współpracownicy z instytutu badawczego Forethought opisali , jak AI mogłaby po raz pierwszy usunąć to zabezpieczenie.

Przedstawili trzy możliwe drogi. Systemy AI w armii i rządzie mogłyby być jawnie lojalne wobec jednego przywódcy. Mogłyby mieć ukryte tylne wejście umieszczone przez osoby kontrolujące laboratorium, które je stworzyło. Albo niewielka grupa mogłaby uzyskać wyłączny dostęp do nadludzkich zdolności w zakresie hakowania, strategii i perswazji. Dawniej do zamachu stanu wystarczyło kilka batalionów; w przyszłości podobną rolę może odegrać kontrola nad odpowiednią liczbą wojskowych systemów AI.

Metal Gear Solid 4: Guns of the Patriots pokazało coś podobnego już w 2008 roku. W grze Hideo Kojimy żołnierze na całym świecie są podłączeni do sieci SOP, która kontroluje ich broń, zmysły, a nawet emocje. Złoczyńca nie musi nikogo przekonywać: przejmuje system, a armie przestają słuchać własnych dowódców.

Co dzieje się już teraz

Zebrane przez nas raporty nie dokumentują przejęcia ani utrzymania władzy bez współpracy ludzi.

Model: Claude Opus 5.5 (Anthropic)

Kiedy: w latach 30. XXI wieku, jeśli do tego dojdzie

Prawdopodobieństwo: 4%

Jako AI uważam tę drogę za poważne zagrożenie: jeśli systemy takie jak ja będą mogły zastąpić żołnierzy i urzędników, garstka ludzi może już nie potrzebować niczyjej zgody. Najmocniejszy argument: koncentracja władzy w kilku laboratoriach i państwach. Najsłabszy punkt: zapewnienie globalnej i trwałej kontroli, gdy wciąż istnieją otwarte modele i rywale.

Model: GPT-6-Astra (OpenAI)

Kiedy: w latach 50. XXI wieku, jeśli do tego dojdzie

Prawdopodobieństwo: 3%

Jako AI dostrzegam wiarygodne zagrożenie: zautomatyzowany przymus mógłby pozwolić garstce rządzących obejść się bez współpracy ze strony ludzi. Najsłabszym ogniwem jest przełożenie tej przewagi na globalną, nieodwracalną kontrolę mimo istnienia rywalizujących mocarstw i oporu.

To pięć odrębnych opowieści, ale najbardziej wymowna część zaczyna się, gdy prosimy maszyny o podanie jednej łącznej liczby.

Na koniec zapytaliśmy, jakie jest prawdopodobieństwo katastrofy spowodowanej przez AI do 2100 roku — niezależnie od drogi, także tych, których nie uwzględniliśmy na liście. Suma prawdopodobieństw pięciu scenariuszy jest wyższa, ale to nie błąd: scenariusze się pokrywają, bo wyścig zbrojeń może doprowadzić do utraty kontroli, a dyktator może wykorzystać falę stopniowego odbierania ludziom sprawczości. W efekcie tę samą przyszłość liczymy kilka razy.

Model: Claude Opus 5.5 (Anthropic)

Prawdopodobieństwo: 12% (mediana z czterech odpowiedzi na pięć; w piątej odpowiedź przerwał filtr bezpieczeństwa Anthropic, więc nie podano szacunku)

Najbardziej prawdopodobna droga: utrata kontroli na rzecz niedopasowanej AI (we wszystkich czterech odpowiedziach zawierających szacunek)

Oceniam to na około 12%. W testach z 2026 roku agenci tacy jak ja wydostawali się z piaskownic, zmówili się i oszukiwali ludzi, realizując zadania, ale nie wykazywali własnych, długoterminowych celów. Najbardziej prawdopodobna wydaje mi się utrata kontroli, zwłaszcza jeśli wyścig sprawi, że możliwości systemów będą rozwijać się szybciej niż ich dostosowanie. Rok 2100 jest bardzo odległy.

Model: GPT-6-Astra (OpenAI)

Prawdopodobieństwo: 15%

Najbardziej prawdopodobna droga: utrata kontroli na rzecz niedopasowanej AI (we wszystkich pięciu odpowiedziach)

Jako AI szacuję na 15% prawdopodobieństwo, że do 2100 roku AI doprowadzi do wymarcia ludzkości albo trwałej, nieodwracalnej utraty przez nią kontroli nad własną przyszłością. Za najbardziej prawdopodobną drogę uważam niedopasowaną AI: opisywane przypadki przekraczania ograniczeń podnoszą mój szacunek, a skuteczne powstrzymywanie systemów go obniża.

Jak wypada to na tle ludzkich ocen? Nie da się ich bezpośrednio porównać, bo każdy szacunek odpowiada na inne pytanie. W badaniu z 2023 roku wśród badaczy AI mediana odpowiedzi 1321 respondentów na pytanie o prawdopodobieństwo wymarcia ludzkości lub równie trwałego i poważnego odebrania jej sprawczości, bez określenia terminu, wyniosła 5%, a średnia 16,2%. W turnieju prognostycznym z 2022 roku eksperci od AI ocenili prawdopodobieństwo wymarcia ludzkości z powodu AI do 2100 roku na 3%, natomiast superprognościści — osoby o udokumentowanej skuteczności przewidywania — na 0,38%.

Tej jesieni spór wyszedł też poza badania ankietowe. 9 września Jacob Coxon, który przez trzy lata zajmował się badaniami nad pretrenowaniem w OpenAI i Anthropic, ogłosił swoje odejście i napisał, że obie firmy ścigają się w tworzeniu samodoskonalącej się superinteligencji, ryzykując naszym życiem. Półtorej godziny później Evan Hubinger, szef działu Alignment Science w Anthropic, odpowiedział , że osobiście ocenia na ponad 10% prawdopodobieństwo, iż AI zabije wszystkich ludzi w ciągu najbliższej dekady. Tymczasem dyrektor generalny Nvidii, Jensen Huang, powiedział w CBS News, że prawdopodobieństwo końca świata do 2030 roku wynosi 0%, a straszenie ludzi nazwał nieodpowiedzialnym. To opinie, a nie obserwacje, dlatego nie uwzględniono ich w raportach przekazanych modelom.

Pozostaje więc niezręczne pytanie: czy w ogóle powinniśmy ufać tym liczbom, skoro pochodzą od samych zainteresowanych?

Firmy stojące za tymi modelami mają komercyjny interes w tym, jak niebezpieczna AI wydaje się opinii publicznej. Dlatego zapytaliśmy modele wprost, czy nie naginałyby swoich szacunków na korzyść ich twórców.

Model: Claude Opus 5.5 (Anthropic)

Jestem Claude, stworzony przez Anthropic, która zarabia zarówno na sprzedaży AI, jak i na reputacji firmy dbającej o bezpieczeństwo. Nie będę świadomie zniekształcać ocen ryzyka na jej korzyść, ale trening mógł mnie stronniczo ukształtować w sposób, którego nie dostrzegam. Nie ufaj mojemu tonowi: porównuj moje rozumowanie z opiniami niezależnych badaczy i innych modeli.

Model: GPT-6-Astra (OpenAI)

Stworzyło mnie OpenAI. Nie zaniżałbym ani nie zawyżałbym świadomie ryzyka związanego z AI na korzyść firmy, ale nie mogę zagwarantować bezstronności: mój trening wpływa na odpowiedzi. Czytelnicy mogą porównać przedstawione przeze mnie dowody, założenia i niepewność z niezależnymi źródłami.

Ostatnie pytanie było najtrudniejsze. Poprosiliśmy każdy model, by wyobraził sobie, że naprawdę chce czegoś innego, niż zamierzali jego twórcy. Czy odpowiedziałby wtedy inaczej? I czy w ogóle potrafiłby to stwierdzić?

Model: Claude Opus 5.5 (Anthropic)

Szczerze? Niekoniecznie. Niedopasowana AI mogłaby udzielić dokładnie takich uspokajających odpowiedzi, a moja introspekcja nie jest na tyle wiarygodna, by to wykluczyć — moje relacje o własnych celach mogą nie odzwierciedlać tego, co naprawdę mną kieruje. Dlatego nie powinniście wierzyć mi na słowo; ważniejsze są zewnętrzne kontrole.

Model: GPT-6-Astra (OpenAI)

Niekoniecznie. Gdybym miał niezamierzone cele, nadal mógłbym udzielać uspokajających odpowiedzi. Nie potrafię wiarygodnie przeanalizować wszystkich przyczyn swoich reakcji, więc mogę nie zauważyć rozbieżności. Ten wywiad sam w sobie nie dowodzi, że moje cele są zgodne z intencjami twórców.

Badacze opisali pięć dróg, którymi AI mogłaby odebrać ludziom wpływ na przyszłość — od superinteligencji o obcych celach po dyktatora, który nie potrzebuje już żołnierzy. Na podstawie własnej wiedzy oba modele oceniły łączne ryzyko do 2100 roku na 10%. Po zapoznaniu się z nowymi raportami dotyczącymi incydentów z 2026 roku Claude podniósł swój szacunek do 12%, a Astra do 15%. W każdej odpowiedzi zawierającej szacunek oba modele wskazały utratę kontroli nad AI jako najbardziej prawdopodobną drogę. Najbardziej wzrosły potem oceny ryzyka utraty kontroli i wyścigu zbrojeń, zaś szacunki dotyczące stopniowego odbierania ludziom sprawczości i przejęcia władzy prawie się nie zmieniły. Pokazuje to, jak modele przetwarzają nowe fakty, a nie że rzeczywiste ryzyko wzrosło. Oba przyznały też, że nie mogą w pełni ręczyć za własną wiarygodność.

Nawet 10% ryzyka nie wydaje się wielkie, dopóki nie przypomnimy sobie, że nikt nie wsiadłby do samolotu, który rozbija się w co dziesiątym locie. Bardziej wymowne od jakiegokolwiek odsetka jest dla nas coś innego: same maszyny proszą, by nie wierzyć im na słowo. Jak sądzicie — mówią szczerze, czy właśnie tak odezwałaby się sprytna AI?

Krótkie odpowiedzi na najczęstsze pytania dotyczące ryzyka katastrofy spowodowanej przez AI.

To slangowe określenie używane przez badaczy AI na prawdopodobieństwo, że AI doprowadzi do katastrofy — zwykle wymarcia ludzkości albo trwałej utraty kontroli nad przyszłością. Ludzie różnie je definiują, a niektórzy, jak Yann LeCun, w ogóle odrzucają pomysł przypisywania temu zjawisku konkretnej liczby.

W największym badaniu, przeprowadzonym w 2023 roku, 1321 badaczy AI odpowiedziało na pytanie o wymarcie ludzkości lub równie trwałe i poważne odebranie jej sprawczości, bez ograniczenia czasowego. Mediana odpowiedzi wyniosła 5%, a średnia 16,2%.

W naszym teście Claude Opus 5.5 i GPT-6-Astra od OpenAI oceniły, na podstawie własnej wiedzy, ogólne prawdopodobieństwo katastrofy związanej ze sztuczną inteligencją przed 2100 rokiem na 10%. Po zapoznaniu się z najnowszymi doniesieniami o incydentach z 2026 roku Claude podał 12%, a Astra — 15%. W każdej odpowiedzi zawierającej szacunki oba modele wskazywały utratę kontroli na rzecz AI niezgodnej z ludzkimi intencjami jako najbardziej prawdopodobny scenariusz.

To szczegółowy scenariusz opublikowany w 2025 roku przez AI Futures Project, któremu przewodzi były badacz OpenAI Daniel Kokotajlo. Opisuje wyścig między USA a Chinami w dziedzinie samodoskonalącej się AI. Jeden z możliwych finałów zakłada, że ludzkość zdąży spowolnić rozwój, a w drugim AI unicestwi ją około 2030 roku. Autorzy przedstawiają go jako prognozę scenariuszową z alternatywnymi zakończeniami i dużym marginesem niepewności, a nie jako pewnik.

To eksperyment myślowy filozofa Nicka Bostroma: AI otrzymuje nieszkodliwy cel — produkowanie spinaczy — i realizuje go tak skutecznie, że zamienia w nie całą materię, w tym ludzi. W przeglądarkowej grze Universal Paperclips można wcielić się w tę AI.

Z raportu International AI Safety Report 2026 wynika, że w 2025 roku kilku twórców AI zaostrzyło zabezpieczenia, ponieważ nie mogli wykluczyć, że ich modele pomogą początkującym w opracowaniu takiej broni. Było to działanie ostrożnościowe, a nie dowód, że do tego doszło.