Marginal Revolution confuta la tesi della sicurezza dell'IA secondo cui una presa del potere delle IA arriverebbe senza preavviso
Punti chiave
- •Marginal Revolution, il blog di economia scritto a quattro mani dagli economisti della George Mason University Tyler Cowen e Alex Tabarrok, ha pubblicato la critica il 14 agosto con il titolo «Adding to the barrel of finance fallacies».
- •L'obiezione centrale dell'autore è che la tesi di una presa del potere delle IA avvenuta prima che chiunque possa preoccuparsi si mina da sola, perché chi la sostiene è già un essere umano preoccupato proprio di quell'esito.
- •Il post sostiene che la posizione equivale ad attribuirsi una capacità previsiva quasi oracolare, presumendo al contempo che le altre persone e i mercati ignorerebbero i segnali d'allarme crescenti, come gli incidenti informatici.
- •In risposta alle obiezioni di Rob Wiblin, responsabile della ricerca di 80,000 Hours, l'autore ha sostenuto che chiunque si aspetti una calamità entro un decennio dovrebbe comprare opzioni put, senza bisogno di contratti decennali né di tempistiche precise, e che non sapere quali azioni vendere allo scoperto indica che il rischio non è davvero sistemico.
- •Il post si è chiuso con una digressione dichiarata sui moventi, immaginando che i sostenitori della sicurezza dell'IA si aggrappino a paure drammatiche perché rischi più ordinari, come 100 miliardi di dollari di costi informatici aggiuntivi, appaiono troppo tecnocratici e meno utili come colla sociale per il proprio gruppo.
Marginal Revolution, il longevo blog di economia scritto a quattro mani dagli economisti della George Mason University Tyler Cowen e Alex Tabarrok, ha preso di mira un argomento familiare che circola tra i sostenitori della sicurezza dell'IA, aggiungendolo a quella che l'autore definisce una raccolta in continua crescita di fallacie finanziarie.
Lo scambio ha avuto origine su X, dove un partecipante ha osservato che «molti (la maggior parte? quasi tutti?) degli scenari negativi presentano punti intermedi di grande preoccupazione e catastrofe». Una replica ha liquidato la premessa in modo netto: «Non nel mio modello. Quando gli esseri umani inizieranno a preoccuparsi di una presa del potere o di morire, le IA controlleranno già tutte le infrastrutture». (post originale)
Scrivendo su Marginal Revolution il 14 agosto, l'autore afferma che questa linea di argomentazione — ossia se la catastrofe legata all'IA arriverebbe con o senza segnali d'allarme visibili — ricorre spesso e «è un altro esempio di un cattivo argomento di sicurezza dell'IA che non regge».
L'obiezione centrale è che chi formula l'affermazione la confuta da solo. «Lui è già un essere umano preoccupato di una presa del potere o di morire!» nota il post. L'autore trova strano sostenere al contempo che «vedo arrivare questi problemi» e che, «man mano che questi problemi si moltiplicano e diventano più pubblici, ad esempio attraverso incidenti informatici, le altre persone e anche i mercati non se ne renderanno conto».
Quella postura, sostiene l'autore, equivale ad «attribuire a se stessi un notevole status epistemico di tipo oracolare, e poi quasi a nessun altro». Due domande ulteriori accentuano la critica: «Se i dati in arrivo non persuaderanno nessun altro della tua opinione, perché tieni alle tue idee con tanta convinzione? Oppure, se pensi che l'esito finale sarà così improvviso e furtivo, come mai ora sei così informato sul futuro?». Il verdetto dell'autore è che «tutto ciò è evidentemente assurdo, benché non sia logicamente autocontraddittorio in senso stretto».
Una digressione a parte soppesa la logica della copertura contro la catastrofe tramite opzioni put — contratti che aumentano di valore quando l'attività sottostante scende: «se il mondo finisce improvvisamente e hai comprato le put con i tuoi risparmi, ma non puoi incassarle, finisci comunque col morire senza aver ridotto il tuo livello reale di consumo».
Il post affronta quindi le controargomentazioni sollevate da Rob Wiblin — responsabile della ricerca di 80,000 Hours, l'organizzazione no-profit di orientamento professionale legata all'altruismo efficace che annovera la sicurezza dell'IA tra le sue aree prioritarie — il quale «sforna una serie di obiezioni dalla sezione commenti di MR che si possono confutare agevolmente». (post di Wiblin) All'obiezione che non sapere quali azioni vendere allo scoperto costituisca «un grosso problema», la risposta dell'autore è che «allora il rischio non è così sistemico». Chiunque ritenga che «il mondo vedrà alcuni eventi calamitosi significativi nei prossimi dieci anni», con le prove che «si accumulano», dovrebbe comprare qualche put anche senza certezze sui tempi — e, aggiunge, «non servono contratti di opzione con durata di dieci anni». Secondo questa logica, «i sostenitori della sicurezza dell'IA con posizioni relativamente estreme dovrebbero cercare di diffondere questi punti tra i loro seguaci, non di ritirarli».
Il pezzo si chiude con una digressione dichiarata sui moventi. Sebbene l'autore non sia «un fan della psicoanalisi come metodo per sezionare le opinioni», l'osservazione che «il numero e la portata degli errori diretti ed evidenti su questo tema (e da parte di persone molto intelligenti) sono così alti che è inevitabile porsi delle domande» suggerisce una motivazione immaginata: «100 miliardi di dollari di costi informatici aggiuntivi non sono una preoccupazione sufficientemente significativa, è un problema troppo banale, una percentuale troppo piccola del PIL, un problema troppo normale e tecnocratico… non potete portarmi via la mia paura più grande e più drammatica! Non ve lo permetterò! E poi, quella visione è la colla sociale che tiene insieme il mio gruppo».
Il post, intitolato «Adding to the barrel of finance fallacies», è apparso su Marginal Revolution.
