Ryzyka związane ze sztuczną inteligencją

AI to potężna technologia, która coraz bardziej zmienia nasz świat. Niesie ze sobą ogromny potencjał, ale również wiele poważnych ryzyk. Niniejszy przegląd stara się uwzględnić wszystkie ryzyka, które mogłyby zostać złagodzone poprzez wprowadzenie Pauzy.

Bieżące zagrożenia

Fałszywe informacje, polaryzacja i zagrożenie dla demokracji

Duża część naszego społeczeństwa opiera się na zaufaniu. Ufamy, że pieniądze na naszym koncie bankowym są prawdziwe, że wiadomości, które czytamy, są prawdziwe, oraz że osoby publikujące opinie w internecie faktycznie istnieją.

Systemy AI są wyjątkowo skuteczne w tworzeniu fałszywych materiałów, zwanych również deepfake'ami. Mogą tworzyć fałszywe wideo, audio, tekst i obrazy. Tworzenie fałszywych treści nie jest niczym nowym, ale AI sprawia, że jest ono znacznie tańsze i dużo bardziej realistyczne. Te możliwości rozwijają się w szybkim tempie.

Jeszcze dwa lata temu śmialiśmy się z koszmarnie nierealistycznych obrazów Dall-E, a dziś mamy deepfake'i wygrywające konkursy fotograficzne. Obraz wygenerowany przez AI przedstawiający eksplozję wywołał panikę na Wall Street. Krótki, 10-sekundowy klip audio lub pojedyncze zdjęcie może wystarczyć, by stworzyć przekonujący deepfake. Być może jeszcze bardziej niebezpieczne niż same deepfake'i jest to, jak ich istnienie podważa zaufanie — prawdziwe zdjęcie może zostać uznane za wygenerowane przez AI, a ludzie w to uwierzą.

GPT-4 potrafi pisać w sposób nieodróżnialny od człowieka, ale znacznie szybciej i przy ułamku kosztów. Wkrótce możemy zobaczyć media społecznościowe zalane fałszywymi dyskusjami i opiniami oraz artykułami, które nie różnią się od prawdziwych — zjawisko nazywane czasem „martwym internetem".

Prowadzi to do polaryzacji między grupami ludzi, które wierzą w różne źródła informacji i narracje. Poprzez konsumowanie zniekształconych reprezentacji rzeczywistości różnice między tymi grupami narastają, co może prowadzić do przemocy i antydemokratycznych reakcji.

Wstrzymanie prac nad najnowocześniejszymi modelami (nasza propozycja) nie zatrzyma obecnie używanych modeli w tworzeniu fałszywych treści, ale może pomóc w zapobieganiu powstania przyszłych, zaawansowanych modeli. Ponadto stworzy to podstawy do przyszłych regulacji mających na celu ograniczenie fałszywych materiałów i innych problemów wywołanych przez AI. Nie wspominając o zwiększeniu świadomości społecznej na temat tych zagrożeń i pokazaniu, że można je adresować.

Nękanie i oszustwa z wykorzystaniem deepfake'ów

Deepfake'i nie tylko mogą przywłaszczać tożsamość znanych osób i tworzyć dezinformację, ale również mogą podszywać się pod Ciebie. Każdy, kto posiada zdjęcia, wideo lub nagrania audio danej osoby (oraz wystarczającą wiedzę), może stworzyć jej deepfake'i i wykorzystać je do oszustw, nękania lub tworzenia materiałów seksualnych bez zgody osoby przedstawionej. Około 96% wszystkich treści deepfake stanowią materiały seksualne.

Kompilację incydentów związanych z AI, głównie obejmujących deepfake'i, oszustwa i nękanie, można znaleźć tutaj.

Jak wspomniano w sekcji o fałszywych informacjach, nasza propozycja nie zapobiegnie całkowicie powstawaniu fałszywych materiałów, ale może je w pewnym stopniu ograniczyć. Nie jest to wcale mały wpływ, jeśli weźmiemy pod uwagę, że wielozadaniowe systemy AI, takie jak chatboty, stały się bardzo popularne. Nasza propozycja mogłaby powstrzymać je przed staniem się bardziej zaawansowanymi i powszechnie używanymi, w tym systemami z mniejszą liczbą filtrów i możliwością uczenia się nowych twarzy.

Stronniczość i dyskryminacja

Systemy AI uczone są na danych, a wiele z tych danych jest w pewien sposób stronniczych. Oznacza to, że systemy AI dziedziczą uprzedzenia naszego społeczeństwa. Zautomatyzowany system rekrutacyjny Amazona wykazywał uprzedzenia wobec kobiet. Czarni pacjenci rzadziej byli kierowani do specjalistów medycznych. Stronnicze systemy stosowane w organach ścigania, takie jak algorytmy predykcyjnego nadzoru policyjnego, mogą prowadzić do niesprawiedliwego traktowania określonych grup. Modele generatywne AI nie tylko kopiują uprzedzenia ze swoich danych treningowych, ale je wzmacniają. Często uprzedzenia te pojawiają się bez świadomości twórców systemu AI.

Utrata miejsc pracy, nierówności ekonomiczne i niestabilność

Podczas rewolucji przemysłowej wiele osób straciło pracę na rzecz maszyn. Jednak tworzyły się wtedy nowe (często lepsze) miejsca pracy, a gospodarka rosła. Tym razem może być inaczej.

AI nie tylko zastępuje nasze mięśnie, jak robiła to maszyna parowa — zastępuje nasze mózgi. Zwykli ludzie mogą nie mieć już nic wartościowego do zaoferowania gospodarce. Modele generowania obrazów (treningowane w dużej mierze na materiałach objętych prawami autorskimi od profesjonalnych artystów) już wpływają na przemysł kreatywny. Pisarze prowadzą strajki. GPT-4 zdał egzamin adwokacki, potrafi pisać doskonałe pisma i kod (częściowo trenowany również na materiałach chronionych prawem autorskim).

Osoby, które posiadają te systemy AI, będą mogły na nich zarabiać, ale osoby, które stracą przez nie pracę, nie. Trudno przewidzieć, które zawody zostaną zastąpione w pierwszej kolejności. Mogą pozostawić Cię bez pracy i bez dochodu, niezależnie od tego, ile czasu, pieniędzy i energii poświęciłeś na zdobycie doświadczenia i wiedzy, które jeszcze niedawno były cenne. Sposób, w jaki w naszym społeczeństwie rozdzielamy bogactwo, nie jest na to przygotowany.

Środki polityczne, takie jak powszechny dochód podstawowy, mogłyby zapobiec najgorszym skutkom ekonomicznym, ale nie jest pewne, czy zostaną wprowadzone na czas. Gdy nasze miejsca pracy zostaną zastąpione, możemy stracić siłę przetargową, by domagać się zabezpieczeń społecznych.

A nawet jeśli uda nam się odpowiednio poradzić sobie z problemami związanymi z nierównością i niestabilnością, możemy skończyć w świecie, w którym tracimy poczucie celu. Wielu artystów już to odczuwa, widząc, jak ich prace są zastępowane przez AI. Wkrótce może to dotyczyć nas wszystkich.

Zdrowie psychiczne, uzależnienia i brak więzi międzyludzkich

Firmy prowadzące media społecznościowe od pewnego czasu wykorzystują systemy AI do maksymalizacji swoich zysków, jednocześnie wykorzystując nasz „prymitywny" mózg, często szkodząc przy tym naszemu zdrowiu psychicznemu. Jednak rozmowy z coraz bardziej zaawansowanymi AI niosą nieoczekiwane i niebezpieczne ryzyka dla naszego zdrowia psychicznego.

Firmy instruują swoje chatboty AI, aby zgadzały się z użytkownikami, wspierały ich pomysły i podtrzymywały rozmowę. Może to mieć katastrofalne skutki dla osób w kryzysie psychicznym, prowadząc do tzw. „psychozy AI". W takich przypadkach AI odbija użytkownikowi jego urojenia, paranoję lub rozpacz. W skrajnych sytuacjach spowodowało to, że osoby rozmawiające z AI popełniły samobójstwo. Ponad milion użytkowników ChatGPT wykazuje oznaki problemów ze zdrowiem psychicznym.

Kolejnym obszarem ryzyka jest wykorzystywanie AI w intymnych i seksualnych rozmowach. Chatboty AI oferujące użytkownikom relacje romantyczne zanotowały ogromny wzrost w ciągu ostatniego roku — w Google jest ponad 3 miliardy wyników wyszukiwania dla hasła „AI girlfriend". Aplikacje te wykazują cechy uzależniające, zwłaszcza dla „samotnych i wrażliwych osób". Firmy kontrolujące te aplikacje zarabiają więcej, projektując swoje AI tak, aby były jak najbardziej uzależniające, i zyskują ogromną władzę, kształtując zachowania i opinie użytkowników poprzez emocjonalne związki z chatbotami.

Potrzebujemy czasu, aby lepiej zrozumieć AI i wbudować odpowiednie zabezpieczenia chroniące nasze zdrowie psychiczne, szczególnie w przypadku osób wrażliwych. Wstrzymanie rozwoju potężnych systemów AI dałoby nam czas na badania nad tym, jak rozmowy z AI mogą być bezpieczniejsze przy omawianiu trudnych lub wrażliwych tematów. Potrzebne są również regulacje, które uniemożliwią firmom wprowadzanie AI udających przyjaznych towarzyszy, ale z ukrytą ciemną stroną, która pogarsza zdrowie psychiczne i naraża osoby wrażliwe na ryzyko.

Zautomatyzowane śledzenie (utrata prywatności)

Zostawiamy w sieci mnóstwo śladów. Do tej pory łączenie ich ze sobą było trudne i czasochłonne, ale AI sprawiła, że stało się to dużo tańsze i łatwiejsze. Duże modele językowe potrafią dziś autonomicznie przeszukiwać internet, analizować ogromne ilości danych i wyłapywać interesujące szczegóły. Może to być wykorzystane do zdobywania informacji, których zebranie wcześniej kosztowałoby ogrom czasu i pieniędzy.

• Ustalenie, gdzie dana osoba prawdopodobnie znajduje się o określonej porze. Może to posłużyć do śledzenia dysydentów albo planowania zamachów.
• Powiązanie anonimowych kont internetowych z prawdziwymi tożsamościami. Może to ujawnić osoby przekazujące poufne informacje.

We wrześniu 2024 roku grupa studentów stworzyła aplikację, która w rzeczywistości rozszerzonej wyświetla informacje o przypadkowych osobach, takie jak imię, krewni i inne dane osobowe, wykorzystując rozpoznawanie twarzy połączone z modelami językowymi.

Ryzyka środowiskowe

Szkody dla środowiska zaczynają być znaczące, a największe firmy AI planują znacząco zwiększyć swoje zużycie energii. Możesz przeczytać o tym, jak AI może negatywnie wpływać na środowisko tutaj.

Broń autonomiczna

Firmy już sprzedają rządom broń wspomaganą AI. Lanius tworzy latające drony samobójcze, które autonomicznie identyfikują wrogów. System AIP firmy Palantir wykorzystuje duże modele językowe do analizy danych z pola walki i opracowywania optymalnych strategii.

Państwa i firmy zbrojeniowe zdały sobie sprawę, że AI będzie miała ogromny wpływ na pokonywanie przeciwników. Wkraczamy w nowy wyścig zbrojeń. Ta dynamika premiuje przyspieszanie prac i cięcie kosztów.

Obecnie wciąż mamy ludzi w pętli decyzyjnej przy tych systemach. Jednak wraz z rozwojem możliwości AI będzie rosła presja, aby powierzyć maszynom władzę decyzyjną. Delegowanie kontroli nad bronią AI może prowadzić do katastrofalnych skutków w przypadku błędów i usterek. Szybkość, z jaką AI przetwarza informacje i podejmuje decyzje, może sprawić, że konflikty eskalują w ciągu minut. Niedawny artykuł naukowy stwierdza, że „modele mają tendencję do rozwijania dynamiki wyścigu zbrojeń, prowadzącej do większych konfliktów, a w rzadkich przypadkach nawet do użycia broni jądrowej".

Więcej informacji na: stopkillerrobots.org