Tyler Cowen di Marginal Revolution chiede rigore scientifico nel dibattito sui rischi di sicurezza dell'IA
Punti chiave
- •Tyler Cowen sostiene che le affermazioni allarmistiche seguite all'incidente OAI/HuggingFace mancano di adeguata fondatezza scientifica.
- •Cowen chiede alle parti preoccupate di fornire una metodologia concreta per quantificare i costi di cybersecurity attribuibili all'IA entro un orizzonte di due-tre anni.
- •Richiede stime numeriche specifiche dei costi che possano essere monitorate e valutate rispetto ai risultati reali nel tempo.
- •Cowen invita a dichiarare eventuali posizioni corti su azioni o asset, notando che i propri costi attesi sono sufficientemente bassi da non giustificare lo short del mercato.
- •Il post sostiene di fondare i dibattiti di politica sulla sicurezza dell'IA su evidenze falsificabili piuttosto che su quella che Cowen descrive come gestione dell'ansia personale.
In seguito al recente incidente OAI/HuggingFace e agli sviluppi correlati, un'onda di previsioni cupe e serie preoccupazioni è emersa nei canali di commento. Tuttavia, il blog di economia Marginal Revolution, co-autorizzato dall'economista della George Mason University Tyler Cowen, sostiene che la maggior parte di queste affermazioni allarmistiche rimane insufficientemente documentata.
In un post intitolato "Act like it is science", Cowen lancia una sfida diretta a chi suona l'allarme: adottare i metodi della scienza per costruire un caso convincente. Il post riflette la lunga posizione metodologica di Cowen — ampiamente riconosciuta negli ambienti accademici economici e politici — secondo cui gli argomenti di politica dovrebbero fondarsi su evidenze quantificabili e previsioni falsificabili piuttosto che su appelli qualitativi a scenari pessimistici. Nello specifico, il post chiede quanto segue a chi desidera persuadere gli scettici:
-
Una metodologia per stimare i futuri costi di cybersecurity. Cowen chiede di delineare come, entro due o tre anni, si potrebbero quantificare i costi aggiuntivi di cybersecurity attribuibili a violazioni della sicurezza legate all'IA. Riconosce che questa cifra difficilmente sarà pari a zero, ma insiste su un metodo di stima concreto. Come riferimento, il post rimanda a uno studio sui costi passati di cybersecurity condotto da economisti di rilievo.
-
Una stima numerica attuale di quei potenziali costi, da valutare rispetto ai risultati effettivi nel tempo. Cowen osserva che i rispondenti possono fornire stime per molteplici scenari normativi e di sicurezza, definendo questo un modo diretto per dimostrare credibilità analitica, anche se la conferma dovesse arrivare con ritardo. Il post chiarisce che tali stime non devono necessariamente sostituire le proprie misure di sicurezza preferite, ma sollecita specificità nelle previsioni.
-
La dichiarazione di eventuali azioni o altri asset attualmente oggetto di short selling. Se la stima dei costi del secondo punto è sufficientemente bassa — come sarebbe quella dello stesso Cowen — la risposta potrebbe legittimamente essere zero. Egli afferma che, pur prevedendo dei costi, è improbabile che siano così gravi da impedire alla società di superarli continuando ad aspettarsi rendimenti azionari positivi. La richiesta di dichiarazione riecheggia una prassi accademica più ampia che invita gli analisti a mettere le proprie convinzioni per iscritto, rendendo possibile verificare nel tempo se le previsioni più cupe reggano il confronto con i risultati osservati.
Il post conclude che l'adozione di queste pratiche eleverebbe la conversazione a un livello più scientifico, allontanandola da quella che Cowen definisce «un'estesa esercitazione di gestione dell'ansia personale». Se la questione è davvero così critica come sostengono i promotori, egli argomenta, lo sforzo richiesto per produrre un'analisi così rigorosa è sicuramente giustificato.
L'articolo è stato pubblicato su Marginal Revolution.
