Unendliche Zahlen haben utilitaristische Ethiker seit Langem vor eine grundlegende Herausforderung gestellt. Wenn das Universum grenzenlos ist, enthält es sowohl unendlichen positiven Nutzen als auch unendlichen negativen Nutzen — was es unmöglich macht, unseren gegenwärtigen Zustand zu bestimmen, geschweige denn ihn durch Handeln sinnvoll zu beeinflussen. Dieses Problem, bekannt als „unendliche Ethik“, ist seit Langem ein Knackpunkt der Moralphilosophie und wurde von Denkern wie Oxfords Nick Bostrom und Peter Singer diskutiert, denn wenn die Standardarithmetik jede Handlung unter unendlichen Vorzeichen moralisch bedeutungslos macht, gerät der gesamte utilitaristische Rahmen ins Wanken, auf dem ein großer Teil des effektiven Altruismus und der Politik-Analyse beruht.

Der Oxford-Philosoph Toby Ord schlägt eine mögliche Lösung vor: hyperreale Zahlen zu verwenden, einen mathematischen Formalismus, in dem unendliche Summen sich eher wie endliche verhalten. Hyperreale, ursprünglich in den 1960er Jahren vom Mathematiker Abraham Robinson im Rahmen der Nichtstandardanalyse entwickelt, erweitern das System der reellen Zahlen um unendlich große und unendlich kleine Größen, während vertraute Rechenregeln erhalten bleiben. In diesem Rahmen ist etwa die Summe aus unendlich vielen Zweien doppelt so groß wie die Summe aus unendlich vielen Einsen — eine Eigenschaft, die die standardmäßige transfinite Arithmetik nicht besitzt.

Wie viele philosophische Innovationen löst dieser Ansatz einige bestehende Probleme, schafft jedoch neue. Um bestimmte Hyperreale genau zu bestimmen, muss man wählen, was Mathematiker einen „Ultrafilter“ nennen; diese Wahl ist jedoch unterbestimmt, was bedeutet, dass mehrere gültige Auswahlmöglichkeiten ohne klares Kriterium für eine Bevorzugung vorliegen.

Dennoch beschreibt Elias Schmied Ords Beitrag als einen echten philosophischen Fortschritt — der Art, die nur selten entsteht und bei einem Problem, das zuvor unlösbar schien, greifbare Fortschritte ermöglicht. Die Bedeutung reicht über akademische Neugier hinaus: Ord, bekannt für seine Arbeit an existenziellen Risiken und als Autor von The Precipice, gehört zu einer breiteren Gemeinschaft von Philosophen und Forschern im Bereich effektiver Altruismus und KI-Sicherheit, für die die Lösung der unendlichen Ethik eine solidere Grundlage für die Priorisierung von Handlungen schaffen könnte, die die langfristige Zukunft betreffen.

Der Autor des Beitrags äußert Verwunderung darüber, dass ein Rahmenwerk für Unendlichkeiten, in dem sie sich logisch verhalten, überhaupt existiert, und stellt die Frage, warum dieser Ansatz nicht von Anfang an gewählt wurde, statt der herkömmlichen Lehre, dass Unendlichkeit plus Unendlichkeit Unendlichkeit ergibt und man das einfach akzeptieren solle. Ein KI-Assistent, Claude, wurde hinzugezogen, um diese Fragen zu beantworten.

Der Inhalt wird Scott Alexander zugeschrieben, dessen ursprünglicher Beitrag weitere Links enthält, viele davon zu KI-Sicherheit.

Quelle: Marginal Revolution