无限数长期以来一直给功利主义伦理学家带来根本性挑战。如果宇宙是无边无际的，那么它既包含无限的正效用，也包含无限的负效用——这使我们甚至无法定义当前状态，更不用说通过行动去有意义地影响它了。这个被称为“无穷伦理”的问题，长期以来一直是道德哲学中的一个难点；包括牛津的 Nick Bostrom 和 Peter Singer 在内的思想家都曾讨论过它。因为如果标准算术在无限尺度下会让每一种行动都失去道德意义，那么为有效利他主义和政策分析提供支撑的整个功利主义框架就会动摇。

牛津哲学家 Toby Ord 提出了一种可能的解决方案：使用超实数（hyperreal numbers），这是一种使无限和更像有限和那样运作的数学构造。超实数最初由数学家 Abraham Robinson 在 20 世纪 60 年代通过非标准分析发展出来，它扩展了实数系统，加入了无限大和无限小的量，同时保留熟悉的算术规则。在这一框架下，例如，无穷多个 2 的和是无穷多个 1 的和的两倍——这是标准超限算术所不具备的性质。

和许多哲学创新一样，这种方法解决了一些既有问题，同时也引入了一些新问题。要精确指出某些超实数，需要选择数学家所说的“ultrafilter（超滤子）”，但这一选择并未被充分决定，这意味着存在多个有效选择，却没有清晰标准来判断应优先采用哪一个。

尽管如此，Elias Schmied 仍将 Ord 的贡献描述为一次真正的哲学进展——这种进展极少出现，却能在一个此前看似无解的问题上取得切实推进。其意义并不止于学术兴趣：Ord 以研究生存风险和著作 The Precipice 而闻名，他也是更广泛的哲学家与研究人员群体中的一员，这些人活跃于有效利他主义和 AI 安全领域；对他们而言，解决无穷伦理问题可能为如何优先处理影响长期未来的行动提供更稳固的基础。

该文作者表示，令人意外的是，居然已经存在一种让无穷以逻辑方式运作的框架，这也引出了一个问题：为什么我们没有从一开始就采用这种思路，而不是接受“无穷 + 无穷 = 无穷”并简单当作理所当然。为回答这些问题，作者还咨询了 AI 助手 Claude。

文中内容引自 Scott Alexander，其原始帖子包含更多链接，其中许多与 AI safety 相关。

来源：Marginal Revolution