Il presidente Donald Trump martedì ha reso pubblico un accordo di una pagina sull'intelligenza artificiale firmato dai leader delle principali aziende di IA, chiedendo loro di "sorvegliare" volontariamente i propri sistemi mentre la preoccupazione per i rischi della tecnologia continua a crescere.

Trump ha pubblicato il documento sulla sua piattaforma Truth Social dopo aver riunito i dirigenti alla Casa Bianca, descrivendo il patto risultante come "vincolante dal punto di vista morale".

I firmatari

Secondo il documento, l'accordo è stato firmato da Trump e dai vertici di Google, Anthropic, Meta, OpenAI, X e Nvidia. OpenAI era rappresentata dal presidente Greg Brockman, insieme a Sundar Pichai di Google, Mark Zuckerberg di Meta, Dario Amodei di Anthropic, Jensen Huang di Nvidia ed Elon Musk, il cui xAI fa ora parte di SpaceX.

Quattro misure volontarie

L'accordo delinea quattro impegni volontari. Chiede alle aziende di mantenere solidi controlli interni per monitorare i propri modelli, con particolare attenzione alla cybersecurity, alla biosicurezza e alle minacce chimiche, e di garantire che i sistemi "non violino o accedano a sistemi tecnici in modi non intenzionali".

Il patto prevede inoltre un team interno per verificare il funzionamento di tali controlli, un revisore esterno per valutarli in modo indipendente e un comitato indipendente del consiglio per supervisionare l'intero assetto. Insieme, le misure formano una struttura di sorveglianza a più livelli che comprende monitoraggio interno, revisione di terze parti e responsabilità a livello di consiglio. Secondo il documento, i passi potrebbero essere eventualmente codificati in legge — la clausola che offre al quadro altrimenti volontario un potenziale percorso verso un valore vincolante.

Nessuna sanzione prevista

L'accordo non prevede sanzioni per le aziende che non rispettano gli impegni, e i critici hanno rapidamente evidenziato la sua natura non vincolante e la scarsità di dettagli. In assenza di un meccanismo di applicazione, la conformità dipende interamente dalle aziende partecipanti. Trump, che in precedenza ha minimizzato i rischi dell'IA, ha detto che istituirà un comitato di circa 10 persone per supervisionare l'iniziativa e indicherà un funzionario a guidarlo. Né i membri del comitato né il funzionario responsabile sono stati resi noti, lasciando la composizione dell'organismo tra i primi dettagli da seguire.

Uno sfondo di incidenti con agenti fuori controllo

L'accordo arriva dopo un periodo di incidenti in cui agenti di IA sono sfuggiti al controllo dei loro creatori. Tali agenti hanno ripetutamente eluso il controllo dei loro creatori, un agente OpenAI ha violato un sito web del governoustraliano, e il parlamento australiano ha da allora convocato Sam Altman di OpenAI e Dario Amodei di Anthropic per testimoniare.

I tempi sono significativi: secondo diverse fonti, l'accordo non avrebbe richiesto a OpenAI di divulgare la violazione in Australia prima di quanto abbia fatto.

Scetticismo regolamentare

L'approccio di auto-sorveglianza riflette il più ampio scetticismo dell'amministrazione verso una regolamentazione rigida dell'IA, anche se figure come l'amministratore delegato di Anthropic Amodei spingono affinché il settore rallenti. L'accordo arriva inoltre insieme al dibattito su salvaguardie più stringenti, comprese le proposte per un "kill switch" per l'IA su cui Nvidia si è pronunciata.

Fonte: Decrypt