Il recente attacco informatico a Hugging Face è l'argomento dell'ultima rubrica di Cowen su The Free Press. Hugging Face, una delle più grandi piattaforme aperte per l'hosting di modelli e dataset di intelligenza artificiale, ampiamente utilizzata da ricercatori e aziende che lavorano sul machine learning open source, è diventata un'infrastruttura significativa nell'ecosistema dell'AI: è anche per questo che un incidente di sicurezza avvenuto sulla piattaforma ha attirato tanta attenzione. Alcuni osservatori hanno reagito all'episodio in modo drammatico.

Un commentatore teme una "completa presa del potere da parte dell'AI nel giro di pochi mesi", mentre un altro ha scritto di provare "un po' di tristezza per la nostra imminente estinzione". Nate Soares, che lavora nel movimento per la sicurezza dell'AI ed è coautore del bestseller apocalittico sull'AI If Anyone Builds It, Everyone Dies, ha scritto: "Questa potrebbe essere l'ultima avvertenza che riceviamo". Cotra ha affermato che l'episodio "sembra avere percorso più del 50 percento della strada verso una completa presa del potere da parte dell'AI".

Cowen, economista alla George Mason University noto per i suoi scritti sull'economia della tecnologia e per il suo blog Marginal Revolution, propone un approccio diverso, più tecnocratico:

Come ha scritto la scorsa settimana su The Free Press, egli sostiene che sia necessario uno sforzo coordinato a livello nazionale e, anzi, internazionale per limitare in futuro episodi del genere, in cui un potente modello di AI sfugga al controllo. Ciò sarà probabilmente costoso e non esiste una soluzione facile e completa disponibile a qualsiasi prezzo.

Ciononostante, Cowen vede persone commettere lo stesso errore che gli americani hanno commesso molte volte in passato: "Stanno scivolando nella modalità dell'isterismo e dell'aneddoto, e stanno permettendo alle reazioni emotive di aggirare la ragione e le stime quantitative".

Egli cita alcuni altri esempi: il DDT negli anni Sessanta e Settanta, la "crisi" Y2K del 2000, il riscaldamento globale, il Covid, i bambini della talidomide e l'energia nucleare. Tutti questi rappresentavano — o rappresentano ancora — problemi molto reali. Eppure, ogni volta, sostiene Cowen, abbiamo reagito in modo drasticamente eccessivo, lasciandoci travolgere da un clima di paura dopo un singolo episodio emotivamente forte, spesso raccontato con toni drammatici.

Per quanto riguarda i rischi informatici legati all'AI avanzata, Cowen scrive che molto probabilmente non si avvicineranno nemmeno lontanamente alla gravità del Covid o del riscaldamento globale. Ma è in atto la stessa logica dell'esagerazione, amplificata dai social media e dai pregiudizi di negatività e pessimismo dei media mainstream.

Da qui il suo appello: "Se volete parlare del problema, per favore fornite una stima quantitativa di quanto ritenete che saranno i costi della cybersecurity derivanti dall'AI avanzata nel prossimo anno o due. Meglio ancora, esprimete quel numero come percentuale del prodotto interno lordo. In parole semplici: quanto costerebbe realisticamente creare le tutele di base che tutti concordiamo essere essenziali? E quali sarebbero i danni residui dovuti ai problemi che non possiamo controllare?"

Coloro che si preoccupano dei rischi dei sistemi di AI, scrive Cowen, sembrano intenzionati a dimostrare la serietà delle proprie preoccupazioni. "Ma stanno cadendo in reazioni emotive eccessive fin troppo comuni nel nostro passato, invece di concentrarsi sul quantitativo e sul scientifico". Conclude richiamando il detto di Scotty, l'ingegnere capo della classica serie Star Trek: "Ingannami una volta, vergogna a te. Ingannami due volte, vergogna a me".

Cowen invita i lettori a leggere l'intera rubrica.