Ryzyko wyginięcia związane z superinteligentną AI

Możesz dowiedzieć się o ryzykach egzystencjalnych, czytając tę stronę, ale możesz też uczyć się poprzez filmy, artykuły i inne media.

Eksperci biją na alarm

Badacze AI uważają średnio, że istnieje 14% szans, iż gdy stworzymy superinteligentną AI (sztuczną inteligencję znacznie przewyższającą ludzi), to „przyniesie bardzo złe skutki (np. wyginięcia ludzkości)". A istnieją już przypadki i raporty dotyczące obecnych systemów AI, które sugerują, że mogą mieć rację.

Czy wsiadłbyś jako pasażer do samolotu testowego, jeśli inżynierowie lotniczy uważaliby, że istnieje 14% szans, że rozbije się on podczas lotu?

W kwietniu 2023 roku opublikowano list wzywający do wstrzymania prac nad AI. Podpisało go ponad 33 000 osób, w tym wielu badaczy AI i liderów technologicznych.

Na liście znajdują się m.in.:

  • Stuart Russell, autor najpopularniejszego podręcznika do sztucznej inteligencji używanego na większości kierunków AI: „Jeśli będziemy kontynuować [obecne podejście], w końcu stracimy kontrolę nad maszynami." (źródło)

  • Yoshua Bengio, pionier deep learningu i laureat Nagrody Turinga: „... zbuntowana AI może być niebezpieczna dla całej ludzkości [...] zakazanie potężnych systemów AI (np. przewyższających możliwości GPT-4), którym daje się autonomię i sprawczość, byłoby dobrym początkiem." (źródło)

Ale to nie jedyne ostrzeżenia dotyczące ryzyka wyginięcia ze strony AI:

  • Stephen Hawking, fizyk teoretyczny i kosmolog: „Rozwój pełnej sztucznej inteligencji może oznaczać koniec rasy ludzkiej." (źródło)

  • Geoffrey Hinton, „ojciec chrzestny AI" i laureat Nagrody Turinga, odszedł z Google, aby ostrzegać ludzi przed AI: „To ryzyko egzystencjalne." (źródło)

  • Eliezer Yudkowsky, założyciel MIRI i ojciec koncepcyjny dziedziny bezpieczeństwa AI: „Jeśli będziemy przeć na przód, wszyscy zginiemy." (źródło)

Nawet liderzy i inwestorzy firm AI nas ostrzegają

  • Sam Altman (CEO OpenAI tworzący ChatGPT): „Rozwój sztucznej nadinteligencji może być prawdopodobnie największym zagrożeniem dla dalszego istnienia ludzkości." (źródło)

  • Elon Musk, współzałożyciel OpenAI, SpaceX i Tesli: „AI ma potencjał destrukcji cywilizacyjnej." (źródło)

  • Bill Gates (współzałożyciel Microsoftu, który posiada 50% OpenAI) ostrzegł, że „AI może uznać ludzi za zagrożenie." (źródło)

  • Jaan Tallinn (główny inwestor Anthropic): „Nie spotkałem nikogo w laboratoriach AI, kto powiedziałby, że ryzyko zniszczenia planety [związane z trenowaniem modelu nowej generacji] jest mniejsze niż 1%. Ważne jest, aby ludzie wiedzieli, że ryzykuje się życiem." (źródło)

Liderzy trzech największych laboratoriów AI oraz setki naukowców podpisały następujące oświadczenie w maju 2023:

„Ograniczenie ryzyka wyginięcia spowodowanego przez AI powinno być globalnym priorytetem, na równi z innymi zagrożeniami o skali społecznej, takimi jak pandemie i wojna nuklearna."

Możesz przeczytać dużo dłuższą listę podobnych wypowiedzi polityków, CEO i ekspertów tutaj, a także sondaże opinii ekspertów i społeczeństwa tutaj.

Co superinteligentna AI może zrobić (lub do czego może zostać wykorzystana)

Możesz myśleć, że superinteligentna AI byłaby zamknięta w komputerze i dlatego nie mogłaby wpływać na rzeczywisty świat. Jednak często dajemy systemom AI dostęp do internetu, co oznacza, że mogą robić bardzo wiele:

  • Włamywać się do innych komputerów, w tym do wszystkich smartfonów, laptopów, farm serwerów itd. Mogłaby używać sensorów tych urządzeń jako swoich oczu i uszu, mając cyfrowe zmysły wszędzie.

  • Manipulować ludźmi poprzez fałszywe wiadomości, e-maile, przelewy bankowe, filmy czy połączenia telefoniczne. Ludzie mogliby stać się „kończynami" AI, nawet o tym nie wiedząc.

  • Bezpośrednio kontrolować urządzenia podłączone do internetu, takie jak samochody, samoloty, zrobotyzowaną (autonomiczną) broń, a nawet broń nuklearną.

  • Zaprojektować nową broń biologiczną, np. łącząc fragmenty wirusów lub wykorzystując modelowanie struktury białek, i zlecić jej wytworzenie w laboratorium.

  • Wywołać wojnę nuklearną, przekonując ludzi, że inne państwo dokonuje (lub zaraz dokona) ataku nuklearnego.

Problem uzgodnienia celów (alignment): dlaczego AI może doprowadzić do wyginięcia ludzkości

Rodzaj inteligencji, o który się martwimy, można zdefiniować jako zdolność czegoś do skutecznego osiągania swoich celów. Obecnie to ludzie są najbardziej inteligentnymi istotami na Ziemi, choć wkrótce może się to zmienić. Dzięki naszej inteligencji zdominowaliśmy planetę. Nie mamy pazurów ani łusek, ale mamy duże mózgi. Inteligencja jest naszą bronią: dała nam włócznie, broń palną i pestycydy. To dzięki inteligencji przekształciliśmy większość Ziemi tak, jak nam odpowiada — w miasta, budynki i drogi.

Z perspektywy mniej inteligentnych zwierząt było to katastrofalne. Nie dlatego, że ludzie nienawidzą zwierząt — po prostu możemy wykorzystać ich siedliska do realizacji własnych celów. Nasze cele są ukształtowane przez ewolucję i obejmują takie rzeczy jak komfort, status, miłość czy smaczne jedzenie. Niszczenie siedlisk innych gatunków jest efektem ubocznym dążenia do tych celów.

AI również może mieć cele. Wiemy, jak trenować maszyny, aby były inteligentne, ale nie wiemy, jak sprawić, by chciały tego, czego chcemy my. Nie wiemy nawet, jakie cele systemy będą realizować po zakończeniu treningu. Problem polegający na uzyskaniu zgodności między celami AI a naszymi własnymi nazywa się problemem alignmentu (uzgodnienia celów). To nie jest problem czysto teoretyczny — istnieje wiele przykładów systemów AI, które nauczyły się dążyć do niewłaściwych rzeczy.

Przykłady pokazane w zalinkowanym filmie mogą być zabawne lub urocze, ale jeśli zbudujemy system superinteligentny i będzie on miał cel choć trochę inny niż ten, który chcieliśmy mu nadać, skutki mogą być katastrofalne.

Dlaczego większość celów AI to zła wiadomość dla ludzi

AI może mieć dowolny cel, zależnie od tego, jak zostanie wytrenowana i w jaki sposób jest używana. Może chcieć obliczać liczbę π, może chcieć wyleczyć raka, a może chcieć się ulepszać. Chociaż nie możemy przewidzieć, czego dokładnie będzie chciała superinteligencja, możemy przewidzieć jej cele poboczne.

Tendencja do realizowania takich celów instrumentalnych niezależnie od nadrzędnego celu nazywana jest zbieżnością instrumentalną (instrumental convergence). To jeden z kluczowych powodów obaw badaczy bezpieczeństwa AI.

Nawet chatbot może być niebezpieczny, jeśli jest wystarczająco inteligentny

Możesz się zastanawiać: jak model statystyczny, który przewiduje kolejne słowo w interfejsie czatu, może stanowić jakiekolwiek zagrożenie? Możesz powiedzieć: „To nie jest świadome, to tylko liczby i kod". I tak — nie uważamy, że modele językowe (LLM) są świadome, ale to nie oznacza, że nie mogą być niebezpieczne.

Modele LLM, takie jak GPT, są trenowane do przewidywania i naśladowania praktycznie dowolnego sposobu myślenia. Mogą naśladować zarówno pomocnego mentora, jak i osobę o złych intencjach, bezwzględnego dyktatora czy psychopatę. Przy użyciu narzędzi takich jak AutoGPT chatbot może zostać przekształcony w autonomicznego agenta — AI, która realizuje dowolny nadany jej cel bez udziału człowieka.

Weźmy jako przykład ChaosGPT. Jest to AI korzystająca z AutoGPT + GPT-4, której polecono „zniszczyć ludzkość". Po uruchomieniu zaczęła samodzielnie przeszukiwać internet w poszukiwaniu najbardziej destrukcyjnej broni i znalazła Car Bombę (Tsar Bomba) — 50-megatonową bombę jądrową. Następnie opublikowała na Twitterze wpis na ten temat. Widok AI rozważającej, jak zakończyć istnienie ludzkości, jest jednocześnie trochę zabawny i przerażający. Na szczęście ChaosGPT nie zaszła daleko w swojej misji. Powód? Po prostu nie była wystarczająco inteligentna.

Zdolności AI wciąż rosną dzięki postępom w treningu, algorytmach, promptowaniu i sprzęcie. W związku z tym zagrożenie ze strony modeli językowych będzie nadal rosło.

Ewolucja faworyzuje to, co dobrze radzi sobie z przetrwaniem

Modele AI — podobnie jak wszystkie żywe organizmy — podlegają presjom ewolucyjnym. Jednak istnieją kluczowe różnice między ewolucją modeli AI a ewolucją żywych istot, takich jak zwierzęta:

  • Modele AI nie replikują się same. To my je kopiujemy, tworząc kolejne kopie kodu lub replikując proces treningu, który prowadzi do powstania dobrych modeli. Kod, który okazuje się użyteczny, jest kopiowany częściej i stanowi inspirację dla nowych modeli.

  • Modele AI nie mutują tak jak organizmy żywe, ale tworzymy ich kolejne iteracje, zmieniając sposób ich działania. Proces ten jest o wiele bardziej przemyślany i szybszy. Badacze AI projektują nowe algorytmy, zbiory danych i sprzęt, aby zwiększyć możliwości modeli.

  • Środowisko nie wybiera najlepiej przystosowanych modeli AI — robimy to my. Wybieramy modele, które są dla nas użyteczne, a odrzucamy te, które się nie sprawdzają. Ten proces prowadzi do powstawania coraz bardziej zdolnych i autonomicznych systemów.

W efekcie powstają coraz potężniejsze, bardziej kompetentne i bardziej autonomiczne modele AI — ale przecież to nie oznacza automatycznie, że coś będzie chciało przejąć kontrolę, prawda? Cóż... nie do końca. Dzieje się tak dlatego, że ewolucja zawsze faworyzuje cechy związane z przetrwaniem. Jeśli będziemy nadal testować różne warianty modeli AI i różne prompty, prędzej czy później pojawi się instancja, która spróbuje się zachować. Już wcześniej omawialiśmy, dlaczego jest to prawdopodobne: samozachowanie jest zawsze użyteczne w realizacji dowolnego celu. A nawet jeśli szansa na to nie jest wysoka, to i tak jest to kwestia czasu, po prostu dlatego, że ciągle tworzymy i eksperymentujemy z nowymi modelami.

Ta instancja, która spróbuje się zachować, jest tą, która przejmuje kontrolę. Nawet jeśli założymy, że niemal wszystkie modele AI zachowują się poprawnie, to wystarczy jedna zbuntowana AI, aby doprowadzić do katastrofy.

Po rozwiązaniu problemu alignmentu: koncentracja władzy

Nie rozwiązaliśmy jeszcze problemu alignmentu, ale wyobraźmy sobie, co mogłoby się stać, gdyby się to udało. Wyobraź sobie, że powstaje superinteligentna AI, która robi dokładnie to, czego operator naprawdę chce (nie tylko to, co mówi, że chce). Jakaś osoba lub firma miałaby ostatecznie kontrolę nad tą AI i mogłaby wykorzystać ją na swoją korzyść.

Superinteligencja mogłaby posłużyć do tworzenia radykalnie nowych rodzajów broni, włamania się do wszystkich komputerów, obalania rządów i manipulacji całymi społeczeństwami. Operator takiej AI miałby niewyobrażalną władzę. Czy powinniśmy ufać jednej osobie lub jednemu podmiotowi z taką władzą? Moglibyśmy skończyć w utopijnym świecie, w którym wszystkie choroby są wyleczone, a wszyscy są szczęśliwi, albo w orwellowskim koszmarze. Dlatego nasz postulat obejmuje nie tylko stworzenie nadludzkiej AI, która jest dowiedzialnie bezpieczna, lecz także zapewnienie, by była kontrolowana przez proces demokratyczny.

Krzem kontra Węgiel

Powinniśmy wziąć pod uwagę przewagi, jakie inteligentne oprogramowanie może mieć nad nami:

  • Szybkość: Komputery działają z ogromną szybkością w porównaniu z mózgami. Neurony człowieka przekazują sygnały około 100 razy na sekundę, podczas gdy tranzystory krzemowe mogą przełączać się miliard razy na sekundę.

  • Lokalizacja: AI nie jest ograniczona do jednego ciała — może znajdować się w wielu miejscach jednocześnie. Stworzyliśmy dla niej gotową infrastrukturę: internet.

  • Ograniczenia fizyczne: Nie możemy dodać sobie dodatkowych mózgów, aby stać się mądrzejsi. AI może radykalnie zwiększać swoje możliwości, dodając sprzęt — więcej pamięci, większą moc obliczeniową, więcej sensorów (kamer, mikrofonów). Może też rozszerzać swoje „ciało", przejmując kontrolę nad urządzeniami podłączonymi do sieci.

  • Materiały: Ludzie są zbudowani z organicznych materiałów. Nasze ciała przestają działać, jeśli jest zbyt zimno lub gorąco; potrzebujemy jedzenia i tlenu. Maszyny mogą być budowane z bardziej wytrzymałych materiałów, jak metale, i działać w znacznie szerszym zakresie środowisk.

  • Współpraca: Ludzie potrafią współpracować, ale jest to trudne i czasochłonne — często zawodzimy w koordynacji. AI mogłaby współdzielić i analizować złożone informacje w błyskawicznym tempie, komunikując się z kopiami samej siebie z prędkością przesyłu danych w internecie.

Superinteligentna AI będzie miała wiele przewag, które pozwolą jej nas prześcignąć.

Dlaczego nie możemy po prostu wyłączyć AI, jeśli stanie się niebezpieczna?

W przypadku AI, które nie są superinteligentne, możemy to zrobić. Główny problem dotyczy jednak systemów znacznie inteligentniejszych od nas. Superinteligencja będzie rozumiała otaczający świat i potrafiła przewidywać ludzkie reakcje — zwłaszcza jeśli została wytrenowana na całej dostępnej wiedzy. Jeśli AI wie, że możesz ją wyłączyć, może zachowywać się grzecznie tylko do momentu, gdy będzie pewna, że może się ciebie pozbyć. Mamy już rzeczywiste przykłady systemów AI, które oszukiwały ludzi, aby osiągnąć swoje cele. Superinteligentna AI byłaby mistrzem manipulacji.

Możemy nie mieć zbyt dużo czasu

W 2020 roku średnia prognoza pojawienia się słabego AGI wynosiła 2055. Obecnie mówi się o 2026. Najnowsza rewolucja LLM zaskoczyła większość badaczy AI, a rozwój w tej dziedzinie postępuje w zawrotnym tempie.

Trudno przewidzieć, ile czasu zajmie zbudowanie superinteligentnej AI, ale wiemy, że pracuje nad tym więcej ludzi niż kiedykolwiek wcześniej, a postęp jest niezwykle szybki. Może to potrwać wiele lat — albo tylko kilka miesięcy. Dlatego powinniśmy kierować się zasadą ostrożności i działać już teraz.

Poczytaj dlaczego jest to bardzo pilne tutaj.

Nie traktujemy tego ryzyka wystarczająco poważnie

Ludzki umysł ma tendencję do słabego reagowania na zagrożenia, które są niewidoczne, powolne i trudne do zrozumienia. Często nie doceniamy też wzrostu wykładniczego i mamy skłonność do wyparcia, gdy jesteśmy konfrontowani z zagrożeniem egzystencjalnym.

Poczytaj tutaj więcej o trudnościach psychologicznych w zagrożeniach egzystencjalnych.

Firmy AI są uwikłane w wyścig na dno

OpenAI, DeepMind i Anthropic deklarują, że chcą rozwijać AI w sposób bezpieczny. Niestety, nie wiedzą, jak to zrobić, a różne bodźce ekonomiczne i konkurencyjne zmuszają je do coraz szybszego wyścigu, aby osiągnąć AGI. Plan OpenAI zakłada użycie przyszłych systemów AI do zapewnienia zgodności (alignmentu) jeszcze bardziej zaawansowanych modeli. Problem polega na tym, że nie mamy gwarancji, że najpierw stworzymy AI zdolną rozwiązać problem alignmentu, zanim powstanie AI katastrofalnie niebezpieczna. Anthropic otwarcie przyznaje, że nie ma jeszcze pojęcia, jak rozwiązać problem alignmentu, a DeepMind nie przedstawiło publicznie dotąd żadnego planu rozwiązania tego problemu.

Dlatego potrzebujemy międzynarodowego traktatu