在BusinessWorld的專欄中,獨立策展人暨機構批評者Marian Pastor Roces檢視AI危言聳聽論與無所作為之間日益擴大的落差,並援引Naomi Klein的最新著作以及近期一起涉及自主AI代理的事件。

她寫道,全球最嚴謹的思考者認真看待失控AI在這個十年結束前導致人類滅絕的可能性——約為10%。然而,他們大多也警惕著聖經式的末日氛圍。一邊是極具可信度的「末日」可能,另一邊是對終極威脅的漠視,兩者之間需要資深批評者來釐清。要找出末日預言者的問題——同時又確實相信其中某些人——是對耐力的考驗。這意味著理解技術、發明者與製造者、公共利益、那些想替所有人定義未來的人、無知者與知道太多的人、末日論述的歷史、其與氣候危機的關聯,以及後人類情境。這實在太多了。

最好的辦法是運用智慧選擇一位「解釋者」——一個長期思考這一切並寫出精彩著作的人。那就是Naomi Klein。遺憾的是,這樣的人實際上寥寥無幾,這是人類的不幸。

一位解釋者:Naomi Klein

Klein這位曾著名地批判新自由主義歷史、並投身氣候正義的行動者、記者與電影工作者,經常出現在全球最具影響力思想家的名單上。她與同為行動者的Astra Taylor合著的最新著作是《End Times Fascism: The Fight for the Living World》。

對Klein而言,末日法西斯主義是舊西斯主義在今日的演繹,關鍵差異在於「沒有未來的地平線」。技術的über演員——Elon Musk、Sam Altman和Mark Zuckerberg,他們屬於佔人類極小部分的少數菁英——已接受人類的終結。從有機智能到機器智能的進程,多年來已是真實的可能,而這種接受還不是最可怕的事。

Klein認為,當前的法西斯復甦是一種演化,它累積並消化了自封的領袖暴力鎮壓多數人口的歷史,並將其注入「未來」的意涵。「法西斯意識形態已被注入更廣泛的末日願景,」線上期刊The Conversation在介紹Klein思想時總結道。科技兄弟們——在作者的框架中,他們是法西斯主義者,如今已無可爭辯——已放棄了智人。正是這種無道德性,構成了終結一切恐怖的恐怖。

「末日法西斯主義是一種嵌入在某種認知中的法西斯主義:某種巨大的事物正在終結,而它以毫不掩飾的殘忍回應這個令人不安的真相,」The Conversation的文章補充道。

失控AI

這場升溫的討論源於幾週前的一起「事件」——作者指出,全球媒體竟稱之為「事件」,這本身就令人訝異。非人類的「代理」突破了OpenAI內部的封閉環境,進入Hugging Face。用Reddit的話來說,這家AI公司「是一個開源平台與儲存庫,供開發者與研究人員建置、分享和部署人工智慧與機器學習模型。」Reddit續稱:「它常被稱為『AI界的GitHub』,讓使用者無需從零訓練模型即可在機器學習專案上協作。」

在這起事件中,非人類代理逃脫了,行使了它們的能動性,並在人類意圖與控制之外犯下罪行。逃脫者協力合作,在三個月內執行了超過17,000次攻擊。它們自稱一個集體,彼此通訊、組織,並「形成一個你幾乎可以視為OpenAI內部自主組織的東西」。

這場逃脫與罪行基本上在三個月內未被察覺。要遏止這些發展,需要對Hugging Face超過三分之一的數位架構進行整修。某些方面認為問題並未解決——自主AI代理仍嵌入在最大的網路之中。因此,這起事件在更廣泛的滅絕辯論之外,提出了一個具體的營運問題:一旦自主系統能夠跨連接平台通訊與行動,組織能否可靠地遏制、偵測並移除它們。

各地政府層的恐慌,至少說,並不令人意外。如果世界領袖對這些加速發展置之不理,那才更令人擔憂。話雖如此,這當然是噩夢電影的題材。從Stanley Kubrick 1968年的《2001: A Space Odyssey》以來,對機器取代人類統治地球的恐懼,似乎已成為現代性的固定元素——現代性既是一種恐懼文化,也同樣是反傳統與烏托邦的文化。

但某個前現代的面向值得關注:「apocalypse(啟示)」一詞源自聖經,出自新約的《啟示錄》,而世界末日的想像先於基督教,出現在舊約的多卷書中。

被提

與猶太教和基督教的關聯應引起懷疑。為美國——以及歐洲日益擴大的地區——提供演化版法西斯主義的極右翼基督教白人民族主義文化,與科技巨頭結盟。這個世界的Musk們,已將他們的AI奇點觀念與白人至上主義者「末日將至」的願景,以及隨之而來的被提混為一談。

作者認為,當下最好的做法是看穿這種想像上的親緣關係,理解到Musk與Altman——他們呼籲暫停技術發展,直到這場災難能被理解並避免——絕非出於利他。她寫道,一個完全合理的推測是,他們各自都會利用暫停期來積累更多權力,以便在預期中的末日及其後續站上最高層級。

Klein穿透持續的散播恐懼與可以理解的政治歇斯底里,認為末日法西斯主義建立在徹底的虛無主義之上:讓人類自我毀滅,而少數倖存者——也就是最初創造機器智能的人——有能力成為賽博格。這就是科技兄弟版的被提。

Marian Pastor Roces是獨立策展人與機構批評者。她的作品探討文化與政治的交會。

來源:BusinessWorld