無限の数は、功利主義の倫理学者にとって長年の根本的難題となってきた。宇宙が無限であるならば、そこには無限の正の効用と無限の負の効用の両方が存在することになり、現在の状態を定義することすら不可能になり、行動を通じてそれに有意な影響を与えることはなおさら困難になる。「無限の倫理学」として知られるこの問題は、道徳哲学における継続的な障害であり、オックスフォード大学のニック・ボストロムやピーター・シンガーを含む思想家たちによって議論されてきた。なぜなら、標準的な算術の下では無限の利害の中であらゆる行為が道徳的に無意味となり、効果的利他主義や政策分析の多くを導く功利主義の枠組み全体が崩壊してしまうからである。

オックスフォード大学の哲学者トビー・オードは、可能な解決策を提案している。それは、無限の総和が有限の総和と同様に振る舞う数学的構成要素である超実数を採用することである。非標準解析を通じて1960年代に数学者アブラハム・ロビンソンによって最初に開発された超実数は、実数体系を拡張し、無限に大きい量と無限に小さい量を含めつつ、馴染みのある算術規則を保持する。この枠組みの下では、例えば、無限に続く2の総和は、無限に続く1の総和の2倍の大きさとなる。これは標準的な超限算術にはない性質である。

多くの哲学的革新と同様に、このアプローチは既存の問題の一部を解決すると同時に、新たな問題をもたらす。特定の超実数を特定するには、数学者が「超フィルター」と呼ぶものを選択する必要があるが、この選択は決定不全であり、複数の有効な選択肢が存在するものの、いずれを優先すべきかの明確な基準がない。

それでも、エリアス・シュミードはオードの貢献を真の哲学的進歩と評している。それは、めったに現れることのない、以前は手の届かないと思われていた問題において実質的な前進をもたらす種類の進歩である。その意義は学術的な好奇心の域を超える。存在論的リスクに関する研究で最もよく知られ、『The Precipice』の著者でもあるオードは、無限の倫理学を解決することが長期的な未来に影響を与える行動の優先順位付けにより確固たる基盤を提供しうる、効果的利他主義とAIの安全性のより広い哲学者・研究者コミュニティの一員である。

投稿の筆者は、無限が論理的に振る舞う枠組みがすでに存在することに驚きを示し、無限に無限を足せば無限になり、それをそのまま受け入れるべきだとする従来の教えではなく、なぜ最初からこのアプローチが採用されなかったのかという疑問を提示している。これらの疑問に答えるため、AIアシスタントのClaudeが参照された。

本内容はScott Alexanderからの引用であり、元の投稿には追加のリンクが含まれ、その多くはAIの安全性に関連している。

出典：Marginal Revolution