Los números infinitos han planteado durante mucho tiempo un desafío fundamental para los éticos utilitaristas. Si el universo es ilimitado, contiene tanto una utilidad positiva infinita como una utilidad negativa infinita, lo que hace imposible definir nuestro estado actual, y mucho menos afectarlo de manera significativa mediante la acción. Este problema, conocido como «ética infinita», ha sido un obstáculo persistente en la filosofía moral, discutido por pensadores como Nick Bostrom y Peter Singer de Oxford, porque si la aritmética estándar vuelve moralmente sin sentido toda acción bajo riesgos infinitos, todo el marco utilitarista que guía gran parte del altruismo eficaz y el análisis de políticas se desmorona.

El filósofo de Oxford Toby Ord propone una posible resolución: emplear números hiperreales, una construcción matemática en la que las sumas infinitas se comportan más como las finitas. Los hiperreales, desarrollados originalmente por el matemático Abraham Robinson en la década de 1960 mediante el análisis no estándar, extienden el sistema de números reales para incluir cantidades infinitamente grandes e infinitamente pequeñas, conservando las reglas aritméticas habituales. Bajo este marco, por ejemplo, la suma de infinitos doses es el doble de grande que la suma de infinitos unos, una propiedad que la aritmética transfinita estándar no comparte.

Como ocurre con muchas innovaciones filosóficas, este enfoque resuelve algunos problemas existentes mientras introduce otros nuevos. Determinar ciertos hiperreales requiere seleccionar lo que los matemáticos llaman un «ultrafiltro», pero esta elección está subdeterminada, lo que significa que existen múltiples selecciones válidas sin un criterio claro para preferir una sobre otra.

No obstante, Elias Schmied describe la contribución de Ord como un avance filosófico genuino, del tipo que surge solo en raras ocasiones y que logra un progreso tangible sobre un problema que anteriormente parecía intratable. Lo que está en juego va más allá de la curiosidad académica: Ord, conocido principalmente por su trabajo sobre riesgo existencial y autor de The Precipice, forma parte de una comunidad más amplia de filósofos e investigadores del altruismo eficaz y la seguridad de la IA para quienes resolver la ética infinita podría proporcionar bases más sólidas para priorizar acciones que afectan el futuro a largo plazo.

El autor de la publicación expresa sorpresa por el hecho de que ya exista un marco para los infinitos en el que estos se comporten de manera lógica, lo que plantea la pregunta de por qué este enfoque no se adoptó desde el principio, en lugar de la enseñanza convencional de que infinito más infinito es igual a infinito y que simplemente debe aceptarse como tal. Se consultó a un asistente de IA, Claude, para ayudar a responder estas preguntas.

El contenido está citado de Scott Alexander, cuya publicación original contiene enlaces adicionales, muchos de ellos relacionados con la seguridad de la IA.

Fuente: Marginal Revolution