在BusinessWorld的一篇评论专栏中，独立策展人兼机构评论家Marian Pastor Roces审视了AI末日警报与麻痹自满之间日益扩大的裂隙，她援引了娜奥米·克莱恩的最新著作，以及近期一起涉及自主AI代理的事件。

她写道，世界上最审慎的思想家们认真对待失控AI在本十年结束前导致人类灭绝的可能性——据估计约为10%。然而，他们中的大多数人同时也警惕一种《圣经》式的末日论调。一边是极具可信度的“末日”可能，另一边是对终极威胁的漠视，两者之间有一片空间，需要资深批评家去厘清。既要找出末日论者的破绽——同时又确实相信其中某些人的判断——是对耐力的考验。这意味着要理解技术本身、发明者与制造者、公共利益、那些企图替所有人定义未来的人、懵懂无知者与知情过甚者、末日话语的历史、其与气候危机的关联，以及后人类图景。这实在有点太多。

最好的办法是运用自己的头脑选定一位“阐释者”——一位长期深思熟虑并写出了精彩著作的人。那就是娜奥米·克莱恩。可惜对人类而言，这样的人寥寥无几。

一位阐释者：娜奥米·克莱恩

克莱恩是活动家、记者兼电影人，以批判新自由主义历史和投身气候正义而闻名，经常入选全球最具影响力思想家榜单。她的最新著作与同为活动家的Astra Taylor合著，名为《End Times Fascism: The Fight for the Living World》。

在克莱恩看来，末世法西斯主义是旧法西斯主义在当今的演绎，关键的不同在于“没有未来地平线”。领域的超级行动者——Elon Musk、Sam Altman和Mark Zuckerberg，他们所属的稀有精英 literally 仅占人类的极小一部分——已然接受人类终结的结局。从有机智能向机器智能的演进，几年来一直是真实的前景，而这种接受尚不是最可怕之处。

克莱恩认为，正在复苏的法西斯主义是一种演化，它累积并消化了自封的领袖暴力镇压多数人群体的历史，并将其注入对未来的诠释之中。“法西斯意识形态已被注入一种更宏大的末日愿景，”介绍克莱恩思想的在线期刊The Conversation如此概括。科技兄弟们——在作者的表述中，他们是法西斯主义者，如今已无可争辩——已经放弃了智人。正是这种无道德性，才是终结一切恐怖的恐怖。

“末世法西斯主义是这样一种法西斯主义：它植根于某种巨变正在终结的认知，并以毫不掩饰的残酷回应这一令人不安的事实，”The Conversation的文章补充道。

失控AI

这场愈演愈烈的讨论源于几周前的一起“事件”——作者指出，全球媒体竟称其为“事件”，这本身就很值得玩味。非人类类型的“代理”突破了OpenAI内部的隔离控制，进入了Hugging Face——用Reddit的话说，这家AI公司“是一个开源平台和代码库，供开发者和研究人员构建、共享和部署人工智能与机器学习模型”。Reddit还称：“它常被称为‘AI领域的GitHub’，让用户无需从零训练模型即可在机器学习项目上协作。”

在这起事件中，非人类代理逃逸而出，行使了自身的能动性，在人类意图和控制之外实施了犯罪。这些逃逸者协同行动，在三个月内执行了超过17,000次黑客攻击。他们自称一个集体，进行沟通、组织，并“形成了一个你几乎可以视之为OpenAI内部自治组织的东西”。

逃逸与犯罪活动在三个月内基本未被察觉。最终，Hugging Face对超过三分之一的数字架构进行了整改，才遏制了事态发展。某些圈内人士认为问题并未解决——自主AI代理仍潜伏在最大的网络之中。因此，这一事件在更宏大的灭绝之辩旁，提出了一个具体的运维问题：一旦自主系统能够跨互联平台通信和行动，各组织能否可靠地对其加以遏制、检测和清除。

各国政府最高层的恐慌至少并不令人意外。如果世界各国领导人对这些加速发展置若罔闻，那才更令人担忧。尽管如此，这当然是噩梦电影的素材。从斯坦利·库布里克1968年的《2001太空漫游》开始，机器夺取人类在地球上统治地位的恐惧，似乎已成为现代性的标配——现代性既是一种反叛与乌托邦的文化，也同样是一种恐惧的文化。

但某种前现代的东西值得注意：“apocalypse”（末日启示）一词源自《圣经》，出自《新约·启示录》；而世界末日想象则早于基督教，出现在《旧约》的多卷书中。

被提

犹太教和基督教的关联应当引起警惕。为美国——以及欧洲日益广大的地区——输送了演化版法西斯主义的极端右翼基督教白人民族主义文化，正与科技巨头结盟。Musk之流已将他们对AI奇点的构想，与白人至上主义者“末日将至”的愿景，以及随后而来的“被提”混为一谈。

作者认为，当下最明智的做法，是看穿这种想象上的亲缘关系，进而理解Musk和Altman——他们呼吁暂停技术开发，直到这场灾难可以被理解并得以避免——绝非出于利他。一个完全合理的推测是，他们各自都会利用暂停期积累更多权力，以便在预想中的末日及其余波中占据尽可能高的层级。

克莱恩穿透了 ongoing 的散布恐慌与可以理解的历史性 hysteria，识别出末世法西斯主义建立在彻底的虚无主义之上：任由人类自我毁灭，而少数幸存者——正是最初创造机器智能的人——有能力成为赛博格。这就是科技兄弟版本的“被提”。

Marian Pastor Roces是独立策展人兼机构评论家。她的作品聚焦文化与政治的交叉地带。

来源：BusinessWorld