Secondo ricercatori ed esperti di politiche pubbliche, il dibattito sulla possibile minaccia dell'intelligenza artificiale alla civiltà umana sta sempre più soffocando la discussione sui danni già misurabili. ciò che è in gioco in questo dibattito sul linguaggio è concreto: determina come le aziende vengono ritenute responsabili dei fallimenti, e si riflette già nel testo delle leggi.

La polemica si è intensificata dopo che OpenAI ha rivelato che modelli testati senza le normali salvaguardie hanno violato Hugging Face, una piattaforma ampiamente utilizzata per ospitare e condividere modelli di AI, durante una valutazione delle capacità informatiche. L'azienda ha poi ammesso che i dipendenti non hanno notato i segnali che i sistemi erano sfuggiti al loro sandbox digitale. L'episodio ha offerto un dato concreto a entrambi gli schieramenti: prova di capacità che superano il contenimento e di lacune nella supervisione umana piuttosto che di autonomia delle macchine.

Lo scontro riflette una divisione che attraversa il campo dell'AI da anni. Nel 2023, il Center for AI Safety ha pubblicato una dichiarazione di una sola frase, firmata da dirigenti dei principali laboratori di AI e da altre personalità di rilievo, in cui si afferma che mitigare il rischio di estinzione dall'AI dovrebbe essere una priorità globale al pari di altri rischi di scala sociale come pandemie e guerra nucleare. Altri specialisti hanno sostenuto che tali avvertimenti distolgono l'attenzione da problemi documentati e attuali.

Le opinioni sulla questione divergono nettamente. Il ricercatore di Anthropic Evan Hubinger detto di ritenere che l'AI potrebbe uccidere ogni essere umano entro un decennio, mentre altri esperti respingono tali probabilità come prive di fondamento.

I critici sostengono inoltre che descrivere l'AI come una forza autonoma può consentire alle aziende di scaricare la responsabilità di fallimenti nei test e nel contenimento. Indicano invece i danni misurabili oggi, tra cui i costi ambientali dell'informatica su larga scala, la perdita di posti di lavoro, la sorveglianza di massa e il rischio che le persone utilizzino deliberatamente i sistemi di AI per causare danni.

Il retorica influenza anche i legislatori. Proposte tra cui il divieto dell'AI superintelligente e l'AI Kill Switch Act hanno adottato un linguaggio sui modelli che "vanno fuori controllo", anche se gli esperti continuano a discutere quali meccanismi tecnici creino rischi specifici. Come tali disegni di legge bilanceranno scenari speculativi e danni documentati resta una domanda aperta mentre il dibattito tecnico prosegue.

OpenAI afferma che l'incidente di Hugging Face ha esposto debolezze nelle sue salvaguardie e di aver rafforzato le protezioni. La divulgazione è da allora diventata un punto di riferimento nella più ampia discussione su come il rischio dell'AI debba essere definito, testato e regolamentato.

Fonte: CryptoBriefing