Бесконечные числа издавна представляют фундаментальную проблему для утилитаристских этиков. Если Вселенная безгранична, она содержит как бесконечную положительную полезность, так и бесконечную отрицательную полезность — что делает невозможным определить наше текущее состояние, не говоря уже о том, чтобы осмысленно повлиять на него посредством действий. Эта проблема, известная как «бесконечная этика», является постоянным камнем преткновения в моральной философии; её обсуждали такие мыслители, как Ник Бостром и Питер Сингер из Оксфорда, поскольку если стандартная арифметика делает любое действие морально бессмысленным при бесконечных ставках, рушится вся утилитаристская система, лежащая в основе значительной части эффективного альтруизма и политического анализа.

Оксфордский философ Тоби Орд предлагает потенциальное решение: использовать гиперреальные числа — математическую конструкцию, в которой бесконечные суммы ведут себя подобно конечным. Гиперреальные числа, первоначально разработанные математиком Абрахамом Робинсоном в 1960-х годах в рамках нестандартного анализа, расширяют систему действительных чисел, включая бесконечно большие и бесконечно малые величины, сохраняя при этом привычные арифметические правила. В рамках этого подхода, например, сумма бесконечного числа двоек вдвое превышает сумму бесконечного числа единиц — свойство, которым стандартная трансфинитная арифметика не обладает.

Как и многие философские новации, этот подход решает одни существующие проблемы, порождая при этом новые. Для точного определения некоторых гиперреальных чисел требуется выбор того, что математики называют «ультрафильтром», однако этот выбор является недоопределённым, то есть существует несколько допустимых вариантов без чёткого критерия предпочтения одного другому.

Тем не менее Элиас Шмид описывает вклад Орда как подлинный философский прорыв — того редкого рода, что возникает лишь изредка и обеспечивает ощутимый прогресс в проблеме, ранее казавшейся неразрешимой. Ставки выходят за рамки академического любопытства: Орд, наиболее известный своей работой по экзистенциальным рискам и автор книги The Precipice, является частью более широкого сообщества философов и исследователей в области эффективного альтруизма и безопасности ИИ, для которых решение проблемы бесконечной этики могло бы обеспечить более прочные основы для приоритизации действий, влияющих на долгосрочное будущее.

Автор поста выражает удивление тем, что уже существует концептуальная рамка, в которой бесконечности ведут себя логически, и задаётся вопросом, почему этот подход не был принят с самого начала — вместо привычного утверждения о том, что бесконечность плюс бесконечность равно бесконечности, и это следует просто принять как данность. Для помощи в addressing этих вопросов был привлечён ИИ-ассистент Claude.

Материал цитируется по Скотту Александеру, оригинальный пост которого содержит дополнительные ссылки, многие из которых относятся к безопасности ИИ.

Источник: Marginal Revolution