Zatrzymajmy niekontrolowany rozwój sztucznej inteligencji

Dołącz Dowiedz się więcej

Wyścig o super inteligencję AI jest zagrożeniem dla ludzkości. Żądamy globalnej pauzy w rozwoju i udostępnianiu przodujących modeli AI.

Liderzy czołowych laboratoriów AI uczestniczą w wyścigu „zbrojeń” w celu zbudowania super inteligencji AI. Ignorują potencjalne konsekwencje dla całej ludzkości, mimo tego, że zdają sobie sprawę z ryzyk. Pogoń za byciem pierwszym na mecie zepchnęła na dalszy plan fundamentalne pytania o bezpieczeństwo i etykę, stawiając nas wszystkich w obliczu nieprzewidywalnego ryzyka.

AI może przynieść i przynosi realne, ogromne korzyści np. w medycynie, ale może też osłabić naszą demokrację, zdestabilizować gospodarkę i zostać wykorzystana do tworzenia potężnej broni cybernetycznej.

Ryzyka związane z AI

AI to potężna technologia, która coraz bardziej zmienia nasz świat. Niesie ze sobą ogromny potencjał, ale również wiele poważnych zagrożeń. Wiele laboratoriów AI i ekspertów zgadza się: AI może doprowadzić do końca ludzkości.

Poznaj ryzyka

Nasze postulaty

W 2020 r. eksperci sądzili, że do AGI zostało ponad 35 lat. Najnowsze przełomy pokazują, że możemy być już bardzo blisko. Superinteligencja może być zaledwie jedną innowacją dalej — dlatego powinniśmy postępować ostrożnie.

Przeczytaj nasze postulaty.

Kilka statystyk

86% naukowców zajmujących się AI uważa, że problem alignmentu jest realny i ważny.

72% obywateli chce, aby rządy spowolniły rozwój AI.

Cytaty

Wielu ekspertów i liderów opinii publicznej wyraża swoje obawy dotyczące rozwoju AI. Pełna lista zebranych przez nas cytatów znajduje się w naszym globalnym serwisie.

"Wzywamy do wprowadzenia zakazu rozwoju superinteligencji, który nie zostałby zniesiony, dopóki nie powstanie szeroki konsensus naukowy, że zostanie to zrobione w sposób bezpieczny i kontrolowalny, oraz dopóki nie uzyska to silnego poparcia społecznego."

Z punktu widzenia własnego ego i dobrego samopoczucia z powodu tego, co się robi, bardzo trudno jest zaakceptować myśl, że rzecz, nad którą pracowało się przez dziesięciolecia, może faktycznie być bardzo niebezpieczna dla ludzkości... Myślę, że nie chciałem o tym zbyt wiele myśleć i prawdopodobnie tak samo jest w przypadku innych [...] Zbuntowana AI może być niebezpieczna dla całej ludzkości. Dobrym początkiem byłoby zakazanie potężnych systemów AI (powiedzmy wykraczających poza możliwości GPT-4), którym nadaje się autonomię i sprawczość.

Superinteligentne systemy AI są naszą przyszłością. [...] Istnieje możliwość, że AI wyrwie się spod kontroli. [Potencjalnie] maszyna może uznać, że ludzie stanowią zagrożenie, dojść do wniosku, że jej interesy są inne niż nasze, lub po prostu przestać się o nas troszczyć.

Ograniczenie ryzyka zagłady ze strony AI powinno być globalnym priorytetem, obok innych ryzyk na skalę społeczną, takich jak pandemie czy wojna nuklearna.

Czy potencjalne zagrożenia ze strony AI przewyższają inne możliwe ryzyka egzystencjalne…? To dla mnie ryzyko numer 1 w tym stuleciu [...] Brak konkretnych projektów AGI nie jest tym, co mnie martwi; najbardziej niepokoi mnie brak konkretnych planów, jak zapewnić im bezpieczeństwo.

Pytanie badawcze brzmi: jak zapobiec temu, by kiedykolwiek zachciały przejąć kontrolę? I nikt nie zna odpowiedzi [...] Alarm, w który biję, dotyczy egzystencjalnego zagrożenia związanego z przejęciem przez nie kontroli [...] Jeśli traktuje się ryzyko egzystencjalne poważnie, tak jak ja teraz, całkiem rozsądne może być po prostu zaprzestanie dalszego rozwijania tych rzeczy [...] to tak, jakby wylądowali kosmici, a ludzie nie zdawali sobie z tego sprawy, bo bardzo dobrze mówią po angielsku.