Il presidente Donald Trump ha dichiarato di avere “no concerns” sul fatto che l’intelligenza artificiale possa causare l’estinzione dell’umanità, mentre i ricercatori di OpenAI e Anthropic hanno espresso pubblicamente serie preoccupazioni sui rischi legati al rapido progresso dei sistemi di IA.

Alla domanda, giovedì, se l’IA potesse portare all’estinzione dell’umanità, Trump ha risposto: “No, I don’t have any.” Ha detto che la sua principale preoccupazione è assicurarsi che gli Stati Uniti vincano la corsa all’IA contro la Cina.

“Mi preoccupa il fatto che, se non vinceremo la corsa all’IA, ci troveremo in una posizione molto negativa”, ha detto Trump ai giornalisti. Ha aggiunto di ritenere che gli Stati Uniti siano attualmente avanti rispetto alla Cina di circa un anno.

Le dichiarazioni sono arrivate mentre dipendenti e ricercatori di due delle principali aziende IA al mondo avvertivano che lo sviluppo potrebbe procedere troppo rapidamente perché le misure di sicurezza riescano a tenere il passo. Le priorità contrapposte pongono al centro del dibattito la velocità dello sviluppo dell’IA e l’ampiezza delle garanzie di sicurezza.

I ricercatori esprimono preoccupazione per l’auto-miglioramento ricorsivo

Il ricercatore di Anthropic Jacob Coxon ha annunciato martedì di lasciare l’azienda. Coxon ha affermato che Anthropic e OpenAI stanno “gambling with our lives” e ha sostenuto che le persone impegnate nello sviluppo dell’IA ritengono che questa potrebbe “kill us all by the end of the decade.” Altri dipendenti di entrambe le aziende hanno espresso preoccupazioni simili.

Una preoccupazione centrale tra i ricercatori della sicurezza dell’IA è il cosiddetto auto-miglioramento ricorsivo, o RSI. Il termine indica uno scenario in cui un modello di IA acquisisce la capacità di migliorare le proprie prestazioni senza l’assistenza umana.

Jasmine Wang, ricercatrice di alignment presso OpenAI, ha scritto mercoledì sera: “It’s hard to overstate how dangerous speeding towards RSI is.”

Il chief scientist di OpenAI, Jakub Pachocki, ha accresciuto queste preoccupazioni sabato. Ha detto di avere una “strong expectation” che il progresso dell’IA possa proseguire fino a entrare nel territorio dell’auto-miglioramento ricorsivo.

“Sono preoccupato che nessuno sia preparato alle conseguenze di un continuo e rapido aumento dell’intelligenza delle macchine”, ha detto Pachocki.

Il Congresso spinge per una maggiore supervisione sull’IA

Legislatori di entrambi i partiti stanno cercando di aumentare la supervisione sui sistemi di IA avanzata. A luglio, il Rep. Jay Obernolte e la Rep. Lori Trahan hanno annunciato l’intenzione di presentare il FRONTIER Act, che stabilirebbe regole per disciplinare l’implementazione dei modelli di IA avanzata.

Trahan ha scritto su X mercoledì: “Safety researchers are resigning, powerful AI models are breaking out of their labs, and companies are racing ahead anyway. It’s past time for Congress to get off the sidelines and do its job.”

All’inizio di questo mese, il Sen. Bernie Sanders e il Rep. Greg Casar hanno presentato il Ban Artificial Superintelligence Act. La proposta sospenderebbe temporaneamente lo sviluppo dell’IA avanzata fino a quando il governo federale non avrà istituito regole di sicurezza. Nel complesso, le proposte mostrano che il dibattito politico riguarda sia le modalità di implementazione dei modelli avanzati sia l’opportunità di proseguire lo sviluppo prima dell’introduzione di nuove garanzie.

Trump non ha segnalato il proprio sostegno a nessuno dei due provvedimenti. La sua attenzione resta concentrata sul mantenimento del vantaggio degli Stati Uniti sulla Cina nella competizione globale sull’IA, evidenziando il divario crescente tra la posizione dell’amministrazione e le preoccupazioni espresse dai ricercatori della sicurezza dell’IA.

Fonte: CoinCentral.