Niedawny atak hakerski na Hugging Face jest tematem najnowszej kolumny Tylera Cowena w The Free Press. Hugging Face, jedna z największych otwartych platform hostujących modele AI i zbiory danych — szeroko wykorzystywana przez badaczy oraz firmy budujące na otwartym uczeniu maszynowym — stała się istotnym elementem infrastruktury ekosystemu AI, co częściowo tłumaczy, dlaczego incydent bezpieczeństwa tamże przyciągnął taką uwagę. Niektórzy obserwatorzy zareagowali na wydarzenie w dramatyczny sposób.

Jeden z komentatorów obawia się „pełnego przejęcia władzy przez AI w ciągu kilku miesięcy”, a inny napisał, że czuje „lekką smutek z powodu naszego zbliżającego się wyginięcia”. Nate Soares, działający w ruchu bezpieczeństwa AI i współautor bestsellera o zagładzie przez AI If Anyone Builds It, Everyone Dies, napisał, że „To może być ostatnie ostrzeżenie, jakie otrzymamy”. Cotra stwierdziła, że incydent „wydaje się być bardziej niż w 50 procentach drogi do pełnego przejęcia władzy przez AI”.

Cowen, ekonomista z George Mason University znany z publikacji na temat ekonomii technologii oraz z bloga Marginal Revolution, proponuje inne, bardziej technokratyczne podejście:

Jak napisał tydzień temu w The Free Press, jego zdaniem potrzebny jest skoordynowany wysiłek krajowy, a wręcz międzynarodowy, aby ograniczyć przyszłe epizody wymknięcia się spod kontroli potężnego modelu AI. Będzie to prawdopodobnie kosztowne i nie ma prostego, kompletnego rozwiązania dostępnego za żadne pieniądze.

Niemniej jednak Cowen dostrzega, że ludzie popełniają ten sam błąd, który Amerykanie popełniali już wielokrotnie. „Wchodzą w tryb histerii i anegdoty, pozwalają, by reakcje emocjonalne ominęły rozum i oszacowania ilościowe.”

Wskazuje kilka innych przykładów: DDT w latach 60. i 70., „kryzys” Y2K w 2000 roku, globalne ocieplenie, Covid, dzieci talidomidowe oraz energetyka jądrowa. Wszystkie te problemy były — lub wciąż są — bardzo realne. Jednak za każdym razem, jak argumentuje, gwałtownie reagowaliśmy przesadnie, dając się porwać klimatowi strachu po jednym emocjonalnie sugestywnym incydencie, często relacjonowanym w gonitwie za sensacją.

Jeśli chodzi o ryzyka cyberbezpieczeństwa ze strony zaawansowanej AI, Cowen pisze, że z bardzo dużym prawdopodobieństwem nie będą one nawet zbliżone do skali Covid ani globalnego ocieplenia. Ale działa ta sama logika wyolbrzymienia, wzmocniona przez media społecznościowe oraz przez negatywne i propesymistyczne skłonności mediów głównego nurtu.

Ma więc apel: „Jeśli zamierzacie mówić o tym problemie, przedstawcie proszę ilościowe oszacowanie, ile według was będą kosztowały zagrożenia cyberbezpieczeństwa ze strony zaawansowanej AI w ciągu najbliższego roku lub dwóch. Jeszcze lepiej wyraźcie tę liczbę jako odsetek produktu krajowego brutto. Mówiąc wprost: ile realnie kosztowałoby stworzenie podstawowych zabezpieczeń, co do których wszyscy się zgadzamy, że są niezbędne? A jakie byłyby pozostałe szkody wynikające z problemów, których nie możemy kontrolować?”

Osoby zaniepokojone ryzykiem systemów AI, pisze Cowen, wydają się zdecydowane udowodnić, jak poważne są ich obawy. „Ale wpadają w wszystkim dobrze znane emocjonalne nadreakcje z naszej przeszłości, zamiast skupić się na tym, co ilościowe i naukowe.” Kończy, przywołując powiedzenie Scotty'ego, głównego inżyniera z klasycznego Star Treka: „Oszukasz mnie raz — wstyd Tobie, oszukasz mnie dwa — wstyd mi.”

Cowen zachęca do przeczytania całej kolumny.