由乔治梅森大学经济学家 Tyler Cowen 与 Alex Tabarrok 长期共同撰写的经济学博客 Marginal Revolution，日前将矛头指向 AI 安全倡导者中流传的一种常见论调，并将其归入作者所称日益增多的金融谬误之列。

这场交锋源于 X 平台。一位参与者指出：“许多（大多数？几乎所有？）糟糕情景都存在令人极为担忧乃至灾难性的中间节点。”一条回复则直截了当地否定了这一前提：“在我的模型中并非如此。等到任何人类开始担忧被接管或死亡时，AI 早已控制了所有基础设施。”（原帖）

作者 8 月 14 日在 Marginal Revolution 撰文称，这类围绕 AI 灾难会否在有形预警信号（或毫无预警）的情况下降临的论调屡见不鲜，而且“又是一个站不住脚的糟糕‘AI 安全论点’的例子”。

文章的核心反驳在于：提出这一主张的人本身就推翻了它。帖子指出：“他本人就是一个担忧被接管或死亡的人类！”文章认为，一边声称“我看到这些问题正在到来”，一边又认为“随着这些问题成倍增加并愈发公开——例如通过网络攻击事件——其他人和市场却不会察觉端倪”，这种立场颇为奇怪。

作者认为，这种立场无异于“赋予自己一种非凡的、神谕般的认知地位，却几乎不赋予任何其他人”。两个追问使批评更为尖锐：“如果即将出现的数据无法说服其他人接受你的观点，你为何如此坚定地持有自己的观点？又或者，如果你认为最终的结局会如此突然和隐秘，你现在又为何能如此洞悉未来？”作者的结论是：“这一切显然荒谬，尽管从狭义上说并非逻辑自相矛盾。”

另一段题外话则权衡了用看跌期权——即标的价格下跌时价值上升的合约——对冲灾难的逻辑：“如果世界确实突然终结，你用积蓄买入了看跌期权却无法兑现，你最终仍难逃一死，而且并未降低自己的实际消费水平。”

文章随后回应了 Rob Wiblin 提出的异议。Wiblin 是有效利他主义职业指导非营利组织 80,000 Hours 的研究主管，该组织将 AI 安全列为优先事业领域之一；他“抛出了一堆摘自 MR 评论区、很容易被驳倒的反对意见”。（Wiblin 的帖子）针对“不知道该做空哪些股票是个大问题”这一异议，作者的回答是“那么这种风险就没有那么系统化”。任何人若相信“世界将在未来十年见证一些重大灾难性事件”，且证据正在“不断累积”，即使对时间点没有把握，也应买入一些看跌期权——而且，他补充道，“你并不需要为期十年的期权合约”。按照这一逻辑，“持相对极端观点的 AI 安全倡导者应该努力向他们的追随者传播这些观点，而不是将其束之高阁”。

文章最后以一段自认偏离主题的动机分析作结。尽管作者“并不喜欢把精神分析当作剖析观点的方法”，但“这个话题上显而易见的直接错误（而且出自非常聪明的人）数量之多、范围之广，令人不得不产生疑问”，这促使他设想了一种内心独白：“新增 1000 亿美元的网络成本不足以构成值得担忧的问题——它太平淡、占 GDP 的比例太小、太像正常而技术官僚式的问题……你不能夺走我更宏大、更戏剧性的恐惧！我不会让你得逞！再说，那种观点是把我们这个小圈子凝聚在一起的社会黏合剂。”

这篇题为《Adding to the barrel of finance fallacies》（为金融谬误之桶再添一笔）的文章发表于 Marginal Revolution。