Les nombres infinis posent depuis longtemps un défi fondamental pour les ethicistes utilitaristes. Si l'univers est sans limites, il contient à la fois une utilité positive infinie et une utilité négative infinie — rendant impossible la définition de notre état actuel, et encore moins la possibilité de l'influencer de manière significative par l'action. Ce problème, connu sous le nom d'« éthique infinie », a été un point de blocage persistant en philosophie morale, débattu par des penseurs tels que Nick Bostrom et Peter Singer d'Oxford, car si l'arithmétique standard rend toute action moralement dépourvue de sens face à des enjeux infinis, l'ensemble du cadre utilitariste qui guide une grande partie de l'altruisme efficace et de l'analyse des politiques s'effondre.

Le philosophe d'Oxford Toby Ord propose une résolution potentielle : recourir aux nombres hyperréels, une construction mathématique dans laquelle les sommes infinies se comportent davantage comme des sommes finies. Les hyperréels, initialement développés par le mathématicien Abraham Robinson dans les années 1960 grâce à l'analyse non standard, étendent le système des nombres réels pour inclure des quantités infiniment grandes et infiniment petites tout en préservant les règles arithmétiques familières. Dans ce cadre, par exemple, la somme d'une infinité de deux est deux fois plus grande que la somme d'une infinité de uns — une propriété que l'arithmétique transfinie standard ne partage pas.

Comme c'est le cas pour de nombreuses innovations philosophiques, cette approche résout certains problèmes existants tout en en introduisant de nouveaux. La détermination précise de certains hyperréels nécessite de sélectionner ce que les mathématiciens appellent un « ultrafiltre », mais ce choix est sous-déterminé, ce qui signifie qu'il existe plusieurs sélections valides sans critère clair pour en préférer une à une autre.

Néanmoins, Elias Schmied décrit la contribution d'Ord comme une véritable avancée philosophique — du genre qui n'émerge que rarement et qui réalise des progrès tangibles sur un problème qui semblait auparavant inextricable. Les enjeux dépassent la simple curiosité académique : Ord, surtout connu pour ses travaux sur le risque existentiel et auteur de The Precipice, fait partie d'une communauté plus large de philosophes et de chercheurs en altruisme efficace et en sécurité de l'IA pour qui résoudre l'éthique infinie pourrait fournir des fondations plus solides pour hiérarchiser les actions affectant le futur à long terme.

L'auteur de la publication note sa surprise qu'un cadre dans lequel les infinis se comportent logiquement existe déjà, soulevant la question de savoir pourquoi cette approche n'a pas été adoptée dès le départ, plutôt que l'enseignement conventionnel selon lequel l'infini plus l'infini égale l'infini et qu'il faut simplement l'accepter comme tel. Un assistant IA, Claude, a été consulté pour aider à répondre à ces questions.

Le contenu est cité depuis Scott Alexander, dont la publication originale contient des liens supplémentaires, dont beaucoup sont liés à la sécurité de l'IA.

Source : Marginal Revolution