Marginal Revolution odpiera twierdzenie środowiska AI safety, że przejęcie kontroli przez AI nastąpiłoby bez ostrzeżenia
Najważniejsze informacje
- •Marginal Revolution, blog ekonomiczny pisany wspólnie przez ekonomistów George Mason University — Tylera Cowena i Alexa Tabarrokka — opublikował tę krytykę 14 sierpnia pod tytułem „Dodając do beczki finansowych sofizmatów”.
- •Głównym zarzutem autora jest to, że twierdzenie o przejęciu kontroli przez AI, które nastąpi, zanim ktokolwiek zdąży się zaniepokoić, samo się podkopuje, ponieważ głosząca je osoba jest już człowiekiem martwiącym się dokładnie takim skutkiem.
- •Wpis argumentuje, że takie stanowisko sprowadza się do przyznania sobie niemal wyroczniowej przenikliwości przy jednoczesnym założeniu, że inni ludzie i rynki zignorowaliby narastające sygnały ostrzegawcze, takie jak incydenty cybernetyczne.
- •W odpowiedzi na zarzuty szefa działu badań 80,000 Hours Roba Wiblina autor twierdził, że każdy, kto spodziewa się katastrofy w ciągu dekady, powinien kupować opcje put — bez konieczności posiadania dziesięcioletnich kontraktów ani precyzyjnego wyczucia czasu — oraz że niewiedza, które akcje sprzedawać krótko, wskazuje, że ryzyko nie jest naprawdę systemowe.
- •Wpis zakończył się przyznaną przez autora dygresją o motywach: wyobraża on sobie, że zwolennicy bezpieczeństwa AI kurczowo trzymają się dramatycznych lęków, bo przyziemne ryzyka, takie jak 100 miliardów dolarów dodatkowych kosztów cybernetycznych, wydają się zbyt technokratyczne i mniej przydatne jako społeczny klej spajający ich grupę.
Marginal Revolution, od lat prowadzony wspólnie przez ekonomistów George Mason University — Tylera Cowena i Alexa Tabarrokka — blog ekonomiczny, wziął na cel znajomy argument krążący wśród zwolenników bezpieczeństwa AI, dodając go do tego, co autor nazywa rosnącą kolekcją finansowych sofizmatów.
Ta wymiana zdań rozpoczęła się na X, gdzie jeden z uczestników zauważył, że „wiele (większość? prawie wszystkie?) złych scenariuszy ma pośrednie punkty ogromnego niepokoju i katastrofy”. Odpowiedź odrzuciła tę przesłankę bez ogródek: „Nie w moim modelu. Zanim którzykolwiek ludzie zaczną martwić się przejęciem kontroli lub umieraniem, AI już kontrolują całą infrastrukturę”. (oryginalny wpis)
Pisząc 14 sierpnia na łamach Marginal Revolution, autor twierdzi, że ta linia argumentacji — dotycząca tego, czy katastrofa AI nadejdzie z widocznymi sygnałami ostrzegawczymi, czy bez nich — pojawia się często i „jest kolejnym przykładem złego «argumentu o bezpieczeństwie AI», który się nie broni”.
Główny zarzut polega na tym, że autor twierdzenia sam je obala. „To już jest człowiek martwiący się przejęciem kontroli lub śmiercią!” — zauważa wpis. Autorowi wydaje się dziwne łączenie przekonań, że „widzę te problemy nadchodzące” oraz że „gdy te problemy się mnożą i stają się bardziej publiczne, na przykład poprzez incydenty cybernetyczne, inni ludzie i również rynki nie zrozumieją, co się dzieje”.
Takie stanowisko, argumentuje autor, sprowadza się do „przypisywania sobie niezwykłego, wyroczniowego statusu epistemicznego, a potem niemal nikomu innemu”. Krytykę zaostrzają dwa pytania uzupełniające: „Jeśli nadchodzące dane nie przekonają nikogo innego do twojego poglądu, dlaczego trzymasz się go tak mocno? A jeśli uważasz, że ostateczne rozstrzygnięcie będzie tak nagłe i skryte, skąd teraz tak dobrze znasz przyszłość?” Werdykt autora brzmi: „to wszystko jest oczywiście absurdalne, choć w wąskim sensie nie jest logicznie sprzeczne”.
W osobnej uwadze pobocznej autor rozważa logikę zabezpieczania się przed katastrofą opcjami put — kontraktami, które zyskują na wartości, gdy instrument bazowy spada: „jeśli świat naprawdę nagle się skończy, a kupiłeś puty za swoje oszczędności, ale nie możesz ich zrealizować, i tak umierasz, nie obniżywszy swojego realnego poziomu konsumpcji”.
Następnie wpis odnosi się do kontrargumentów przedstawionych przez Roba Wiblina — szefa działu badań w 80,000 Hours, non-profitowej organizacji doradzającej karierę w duchu efektywnego altruizmu, która wymienia bezpieczeństwo AI wśród swoich priorytetowych obszarów — który „wylicza całą serię zarzutów z sekcji komentarzy MR, które łatwo można obalić”. (wpis Wiblina) Na zarzut, że niepewność co do tego, które akcje sprzedawać krótko, stanowi „duży problem”, odpowiedź autora brzmi: „to ryzyko nie jest wtedy aż tak systemowe”. Każdy, kto uważa, że „świat zobaczy w ciągu najbliższych dziesięciu lat pewne znaczące katastroficzne wydarzenia”, a dowody „się piętrzą”, powinien kupować trochę putów nawet bez pewności co do momentu — i, dodaje, „nie potrzebujesz kontraktów opcyjnych obejmujących dziesięć lat”. Z tego rozumowania wynika, że „zwolennicy bezpieczeństwa AI o względnie skrajnych poglądach powinni próbować rozpowszechniać te punkty wśród swoich odbiorców, a nie je wycofywać”.
Tekst kończy się przyznaną samemu sobie dygresją w stronę motywów. Choć autor „nie jest fanem psychoanalizy jako metody rozbierania poglądów na części”, spostrzeżenie, że „liczba i zakres oczywistych bezpośrednich błędów w tym temacie (i to u bardzo inteligentnych ludzi) jest tak wysoka, że trzeba się zastanowić”, skłania go do wyobrażonej racjonalizacji: „100 miliardów dolarów dodatkowych kosztów cybernetycznych to niewystarczająco poważne zmartwienie, zbyt przyziemne, zbyt mały procent PKB, zbyt normalny i technokratyczny problem… nie możecie odebrać mojego większego i bardziej dramatycznego lęku! Nie pozwolę wam na to! A poza tym ten pogląd jest społecznym klejem spajającym moją grupę”.
Wpis, zatytułowany „Dodając do beczki finansowych sofizmatów”, ukazał się na łamach Marginal Revolution.
