Sondaże i badania
- Opinia ekspertów na temat katastrofalnych ryzyk

Dołącz do Pause AI Polska

Sondaże i badania

Opinia ekspertów na temat katastrofalnych ryzyk

Badacze AI, AIImpacts 2022: Przyznają „naprawdę złym skutkom (takim jak wyginięcie ludzi)" prawdopodobieństwo 14%, z medianą 5%. 82% uważa, że problem kontroli jest ważny.
Badacze AI, AIImpacts 2023: Średnie prawdopodobieństwo katastrofy (p(doom)) wynosi od 14 do 19,4%, w zależności od sformułowania pytania. 86% uważa, że problem kontroli jest ważny.
Inżynierowie AI / założyciele startupów, State of AI Engineering: Ponad 60% ocenia p(doom) na ponad 25%. Tylko 12% uważa, że p(doom) = 0.
Badacze bezpieczeństwa AI, AlignmentForum: Respondenci przyznali medianę 20% prawdopodobieństwa katastrofy spowodowanej brakiem wystarczających badań technicznych oraz 30% prawdopodobieństwa katastrofy wynikającej z tego, że systemy AI nie zrobiły tego, czego oczekiwali ich twórcy, przy ogromnej wariacji odpowiedzi (np. pojawiają się dane zarówno dla ~1%, jak i ~99% prawdopodobieństwa).
Obywatele Wielkiej Brytanii, PublicFirst: Uważają, że prawdopodobieństwo wyginięcia ludzi z powodu AI wynosi 9%. Około 50% deklaruje, że jest bardzo lub raczej zaniepokojonych tym zagrożeniem.
Obywatele Niemiec, Kira: Tylko 14% uważa, że AI będzie miało pozytywny wpływ na świat, 40% ma mieszane zdanie, a 40% — negatywne.
Obywatele USA, RethinkPriorities: 59% zgadza się z oświadczeniem o ryzyku egzystencjalnym (x-risk), a 58% je popiera. Niezgoda (26%) i sprzeciw (22%) były stosunkowo niskie, a znacząca część respondentów pozostała neutralna (12% i 18% w zależności od formatu pytania — zgoda vs. poparcie).
Obywatele Australii, Ready Research: 80% uważa, że ryzyko AI jest globalnym priorytetem, a 64% chce, aby rząd skupiał się na katastrofalnych skutkach (w porównaniu do zaledwie 25% w kwestii utraty miejsc pracy i 5% w kwestii stronniczości systemów AI).
Obywatele Wielkiej Brytanii, YouGov: 87% Brytyjczyków poparłoby ustawę wymagającą od twórców AI dowodu, że ich systemy są bezpieczne przed wprowadzeniem na rynek, a 60% popiera zakaz tworzenia modeli AI „mądrzejszych od człowieka".
Obywatele USA, RethinkPriorities: 50% popiera wstrzymanie rozwoju AI, 25% jest przeciwko.
Obywatele USA, YouGov: 72% chce spowolnienia rozwoju AI, 8% chce go przyspieszyć. 83% wyborców uważa, że AI może przypadkowo spowodować katastrofalne zdarzenie.
Obywatele USA, YouGov: 73% uważa, że firmy AI powinny ponosić odpowiedzialność za szkody wynikające z ich technologii, 67% uważa, że moc modeli AI powinna być ograniczona, a 65% sądzi, że powstrzymanie AI przed trafieniem w ręce złych aktorów jest ważniejsze niż udostępnienie korzyści AI wszystkim.
Obywatele USA, AIPI: 49% popiera „międzynarodowy traktat zakazujący jakiejkolwiek sztucznej inteligencji 'mądrzejszej od człowieka'" (przeciwnego zdania jest 20%), 70% popiera „zapobieganie szybkiemu osiągnięciu przez AI zdolności ponadludzkich" (przeciwnego zdania jest 14%).
Profesorowie informatyki w USA, Axios Generation Lab: Około 1 na 5 przewiduje, że AI „zdecydowanie" pozostanie pod kontrolą ludzi. Reszta jest podzielona między tych, którzy uważają, że AI „prawdopodobnie" lub „zdecydowanie" wymknie się spod kontroli, a tych, którzy sądzą „prawdopodobnie nie". Tylko 1 na 6 twierdzi, że AI nie powinna lub nie może być regulowana. Zaledwie nieliczni ufają, że sektor prywatny sam się ureguluje.
Obywatele USA, Sentience Institute: Istnieje szerokie poparcie dla działań mających spowolnić rozwój AI. Respondenci popierają kampanie publiczne spowalniające rozwój AI (71,3%), regulacje rządowe spowalniające rozwój (71,0%) oraz sześciomiesięczną przerwę w niektórych rodzajach rozwoju AI (69,1%). Poparcie dla zakazu ogólnej sztucznej inteligencji (AGI) mądrzejszej od ludzi wyniosło 62,9%.
Obywatele USA, FLI: 64% uważa, że AI ponadludzka nie powinna być rozwijana, dopóki nie udowodni się, że jest bezpieczna i możliwa do kontrolowania, lub że w ogóle nie powinna być rozwijana. 49% spodziewa się jej powstania w ciągu 5 lat.
Obywatele Wielkiej Brytanii, YouGov: 74% uważa, że rząd powinien zapobiec szybkiemu stworzeniu ponadludzkiej AI. Ponad 60% popiera traktat z globalnym zakazem superinteligencji.
Obywatele Wielkiej Brytanii, AISCC: 83% osób uważa, że rządy powinny wymagać od firm AI dowodu, że ich modele AI są bezpieczne przed ich wprowadzeniem na rynek.
Obywatele NL, USA i Wielkiej Brytanii, Existential Risk Observatory: Świadomość publiczna ryzyka egzystencjalnego wzrosła w USA z 7% do 15%, a w Holandii i Wielkiej Brytanii do 19%. Poparcie dla rządowo wymuszonej przerwy w rozwoju AI wzrosło w USA z 56% do 66%.
Metaculus — Słaba AGI: przed 2026 r.: 25% szans, AGI do 2027 r.: 50% szans (aktualizacja: 05.11.2024).
Metaculus — Pełna AGI: przed 2028 r.: 25% szans, pełna AGI do 2032 r.: 50% szans (aktualizacja: 05.11.2024).