I numeri infiniti rappresentano da tempo una sfida fondamentale per gli etici utilitaristici. Se l'universo è illimitato, contiene sia un'utilità positiva infinita sia un'utilità negativa infinita — rendendo impossibile definire il nostro stato attuale, figuriamoci influenzarlo in modo significativo attraverso l'azione. Questo problema, noto come «etica dell'infinito», è stato un ostacolo persistente nella filosofia morale, discusso da pensatori tra cui Nick Bostrom di Oxford e Peter Singer, perché se l'aritmetica standard rende ogni azione moralmente insignificante di fronte a poste infinite, l'intero quadro utilitaristico che guida gran parte dell'altruismo efficace e dell'analisi delle politiche pubbliche vacilla.

Il filosofo di Oxford Toby Ord propone una potenziale soluzione: impiegare i numeri iperreali, un costrutto matematico in cui le somme infinite si comportano in modo più simile a quelle finite. I numeri iperreali, originariamente sviluppati dal matematico Abraham Robinson negli anni Sessanta attraverso l'analisi non standard, estendono il sistema dei numeri reali includendo quantità infinitamente grandi e infinitamente piccole pur conservando le familiari regole aritmetiche. In questo quadro, ad esempio, la somma di infiniti due è il doppio della somma di infiniti uno — una proprietà che l'aritmetica transfinita standard non condivide.

Come per molte innovazioni filosofiche, questo approccio risolve alcuni problemi esistenti introducendone di nuovi. Determinare alcuni numeri iperreali richiede la selezione di ciò che i matematici chiamano un «ultrafiltro», ma questa scelta è sottodeterminata, nel senso che esistono molteplici selezioni valide senza un criterio chiaro per preferirne una rispetto a un'altra.

Ciononostante, Elias Schmied descrive il contributo di Ord come un autentico avanzamento filosofico — del tipo che emerge solo raramente e che compie progressi tangibili su un problema che precedentemente sembrava intractabile. Le implicazioni vanno oltre la curiosità accademica: Ord, noto soprattutto per il suo lavoro sul rischio di esistenza e autore di The Precipice, fa parte di una più ampia comunità di filosofi e ricercatori nell'ambito dell'altruismo efficace e della sicurezza dell'IA per i quali risolvere l'etica dell'infinito potrebbe fornire basi più solide per prioritarizzare le azioni che influenzano il lungo termine.

L'autore del post esprime sorpresa per il fatto che esista già un quadro in cui gli infiniti si comportano logicamente, sollevando la domanda del perché questo approccio non sia stato adottato fin dall'inizio, anziché l'insegnamento convenzionale secondo cui infinito più infinito uguaglia infinito e debba essere semplicemente accettato così com'è. Un assistente IA, Claude, è stato consultato per contribuire a rispondere a queste domande.

Il contenuto è citato da Scott Alexander, il cui post originale contiene ulteriori collegamenti, molti dei quali relativi alla sicurezza dell'IA.

Fonte: Marginal Revolution