Dowiedz się więcej

Zrozumienie, dlaczego AI może stanowić ryzyko nie jest łatwe. Technologia sztucznej inteligencji jest oparta o skomplikowane koncepcje, a od kilku lat jej rozwój jest wykładniczy.

W naszym serwisie

Przeczytaj o zagrożeniach >

Wiele laboratoriów AI i ekspertów zgadza się: AI może doprowadzić do końca ludzkości.

Jak i dlaczego AI mogłaby nas zabić >

Wstrzymajmy rozwój najpotężniejszych systemów ogólnej AI, dopóki nie będziemy wiedzieć, jak uczynić je bezpiecznymi. To musi wydarzyć się na poziomie międzynarodowym najszybciej jak to możliwe.

Przeczytaj postulat >

W 2020 r. eksperci sądzili, że do AGI zostało ponad 35 lat. Najnowsze przełomy pokazują, że możemy być już bardzo blisko. Superinteligencja może być zaledwie jedną innowacją dalej — dlatego powinniśmy postępować ostrożnie.

Ile mamy czasu? >

Zbyt mało ludzi jest dobrze poinformowanych o potencjalnych zagrożeniach związanych z AI. Informuj innych i pomóż zatrzymać ten wyścig na dno.

Najnowsze możliwości AI w porównaniu z ludźmi >

Jak inteligentne są najnowsze modele AI w porównaniu z ludźmi? Przyjrzyjmy się, jak najbardziej zaawansowane systemy AI wypadają na tle człowieka w różnych dziedzinach. Poniższa lista jest regularnie aktualizowana, aby odzwierciedlać najnowsze osiągnięcia.

Podejmij działanie >

Sztuczna inteligencja nie stanie się bezpieczniejsza, jeśli nie podejmiemy w tym celu zdecydowanych kroków. Wybierz aktywność poniżej w zależności od swoich zainteresowań lub umiejętności.

Polecamy również

• Instytut Spraw Obywatelskich. Organizacja społeczna w Polsce wydająca tygodnik i aktywnie nagłaśniająca zagrożenia związene z AI, nie bagatalizująca tych egzystencjalnych.
• AI Safety Polska. Polskie stowarzyszenie zajmujące się propagowaniem i zgłębianiem tematu bezpieczeństwa AI.
• The Compendium. Bardzo obszerny zbiór wiedzy o tym, dlaczego obecny wyścig AI jest tak niebezpieczny i co możemy z tym zrobić.
• A Narrow Path. Szczegółowy plan kroków, które musimy podjąć, aby zwiększyć nasze szanse na przetrwanie najbliższych dekad.
• Keep the Future Human. Artykuł Anthony'ego Aguirre z FLI (Future of Life Institute) o tym, dlaczego i jak możemy zachować przyszłość w ludzkich rękach. (sprawdź rozdział 8: How To Not Build AGI)
• AISafety.com & AISafety.info. Strony poświęcone bezpieczeństwu AI. Dowiedz się o zagrożeniach, społecznościach, wydarzeniach, ofertach pracy, kursach, pomysłach na ograniczanie ryzyka i nie tylko!
• Existential Safety. Kompleksowa lista działań, które możemy podjąć, aby zwiększyć nasze bezpieczeństwo egzystencjalne w obliczu AI.
• AISafety.dance. Bardziej zabawne, przyjazne i interaktywne wprowadzenie do katastroficznych zagrożeń związanych z AI!
• AISafety.world. Cały krajobraz bezpieczeństwa AI ze wszystkimi organizacjami, mediami, forami, blogami oraz innymi podmiotami i zasobami.
• IncidentDatabase.ai. Baza incydentów, w których systemy AI wyrządziły szkody.
• LethalIntelligence.ai. Zbiór zasobów na temat zagrożeń związanych z AI i problemu dopasowania AI.

Newslettery

• PauseAI Substack: Nasz newsletter.
• TransformerNews Kompleksowy tygodnik poświęcony bezpieczeństwu i zarządzaniu AI.
• Don't Worry About The Vase: Newsletter o bezpieczeństwie AI, racjonalności i innych tematach.

Filmy

• PauseAI Playlist to playlista na YouTube, którą zestawiliśmy — zawiera filmy trwające od 1 minuty do 1 godziny, w różnych formatach i z różnych źródeł, i nie wymaga żadnej wiedzy wstępnej.
• Robert Miles' YouTube to świetne miejsce, by zacząć rozumieć podstawy problemu dopasowania AI.
• LethalIntelligence's YouTube

Podcasty

• DoomDebates autorstwa Lirona Shapiry, w całości poświęcony zagładzie przez AI.
• For Humanity Podcast prowadzony przez byłego prezentera wiadomości Johna Shermana.
• Future of Life Institute | Connor Leahy on AI Safety and Why the World is Fragile. Wywiad z Connorem na temat strategii bezpieczeństwa AI.
• Lex Fridman | Max Tegmark: The Case for Halting AI Development. Wywiad zagłębiający się w szczegóły naszej obecnej niebezpiecznej sytuacji.
• Sam Harris | Eliezer Yudkowsky: AI, Racing Toward the Brink. Rozmowa o naturze inteligencji, różnych typach AI, problemie dopasowania, relacji „jest" vs „powinno" i nie tylko. Jeden z wielu odcinków Making Sense poświęconych bezpieczeństwu AI.
• Connor Leahy, AI Fire Alarm. Wykład o eksplozji inteligencji i dlaczego byłaby to najważniejsza rzecz, jaka mogłaby się kiedykolwiek wydarzyć.
• The 80,000 Hours Podcast recommended episodes on AI. Nie trwa 80 000 godzin, ale to zestawienie odcinków podcastu The 80,000 Hours poświęconych bezpieczeństwu AI.
• Future of Life Institute Podcast episodes on AI. Wszystkie odcinki podcastu FLI na temat przyszłości sztucznej inteligencji.

Podcasty z udziałem członków PauseAI można znaleźć na liście relacji medialnych.

Artykuły

• The 'Don't Look Up' Thinking That Could Doom Us With AI (Max Tegmark)
• Pausing AI Developments Isn't Enough. We Need to Shut it All Down (Eliezer Yudkowsky)
• The Case for Slowing Down AI (Sigal Samuel)
• The AI Revolution: The Road to Superintelligence (WaitButWhy)
• How rogue AIs may arise (Yoshua Bengio)
• Reasoning through arguments against taking AI safety seriously (Yoshua Bengio)
• The Compendium
• A Narrow Path
• Keep the Future Human
• Sprawdź sekcję Reading na LethalIntelligence.ai

Jeśli chcesz przeczytać, co dziennikarze napisali o PauseAI, sprawdź listę relacji medialnych.

Książki

• If Anyone Builds It, Everyone Dies (Eliezer Yudkowsky & Nate Soares, 2025)
• Introduction to AI Safety, Ethics, and Society (Dan Hendrycks, 2024). Darmowa książka i kurs online.
• Unexplainable, Unpredictable, Uncontrollable (Roman Yampolskiy, 2024)
• Uncontrollable: The Threat of Artificial Superintelligence and the Race to Save the World (Darren McKee, 2023). Pobierz za darmo!
• The Alignment Problem (Brian Christian, 2020)
• Human Compatible: Artificial Intelligence and the Problem of Control (Stuart Russell, 2019)
• Life 3.0: Being Human in the Age of Artificial Intelligence (Max Tegmark, 2017)
• Superintelligence: Paths, Dangers, Strategies (Nick Bostrom, 2014)

Publikacje naukowe

• Zestawienie publikacji na temat bezpieczeństwa AI
• Kolejne zestawienie publikacji na temat bezpieczeństwa AI
• Alignment faking in large language models — niedawna publikacja samego Anthropic
• Managing extreme AI risks amid rapid progress — od ojców założycieli tej dziedziny

Kursy

• Intro to Transformative AI (15 godz.)
• AGI safety fundamentals (30 godz.)
• CHAI Bibliography of Recommended Materials (50+ godz.)
• AISafety.training: Przegląd programów szkoleniowych, konferencji i innych wydarzeń

Organizacje

• Future of Life Institute — zainicjowało list otwarty, kierowane przez Maxa Tegmarka.
• Center for AI Safety (CAIS) — centrum badawcze kierowane przez Dana Hendrycksa.
• Conjecture. Start-up pracujący nad dopasowaniem AI i polityką AI, kierowany przez Connora Leahy'ego.
• ControlAI. NGO prowadzące ważne działania lobbingowe i kampanijne w Wielkiej Brytanii.
• Existential Risk Observatory. Holenderska organizacja informująca opinię publiczną o zagrożeniach egzystencjalnych i badająca strategie komunikacji.
• Centre for the Governance of AI
• FutureSociety
• Center for Human-Compatible Artificial Intelligence (CHAI), kierowane przez Stuarta Russella.
• Machine Intelligence Research Institute (MIRI) — prowadzi badania matematyczne nad bezpieczeństwem AI, kierowane przez Eliezera Yudkowsky'ego.
• Institute for AI Policy and Strategy (IAPS)
• The AI Policy Institute
• AI Safety Communications Centre
• The Midas Project Kampanie nacisku na korporacje w sprawie bezpieczeństwa AI.
• The Human Survival Project
• AI Safety World Tutaj znajdziesz przegląd krajobrazu bezpieczeństwa AI.
• The Alliance for Secure AI.

Jeśli jesteś przekonany/a i chcesz działać

Jest wiele rzeczy, które możesz zrobić. Napisanie listu, udział w proteście, przekazanie darowizny czy dołączenie do społeczności nie jest takie trudne! A te działania mają realny wpływ. Nawet w obliczu końca świata wciąż może być nadzieja i bardzo satysfakcjonująca praca do wykonania.

Lub jeśli wciąż nie czujesz się pewny/a

Poznanie psychologii zagrożeń egzystencjalnych może Ci pomóc.