OpenAI ha chiesto ai membri del Congresso se aziende rivali di intelligenza artificiale possano legalmente concordare di rallentare lo sviluppo, secondo WIRED. La richiesta arriva mentre il Chief Scientist di OpenAI, Jakub Pachocki, esorta il settore a definire standard di sicurezza condivisi e a valutare pause volontarie finché gli sviluppatori non saranno in grado di dimostrare meglio che i loro sistemi sono sicuri.

WIRED, citando persone vicine a OpenAI, ha riferito che nelle ultime settimane l'azienda ha chiesto ai legislatori se un accordo tra sviluppatori di IA per rallentare i progressi potrebbe violare le leggi antitrust. Un'intesa che limitasse la concorrenza potrebbe sollevare preoccupazioni di natura antitrust, sebbene una proposta di legge presentata dai senatori Adam Schiff e Jim Banks proteggerebbe alcune collaborazioni legate alla sicurezza, a condizione che i partecipanti ne diano comunicazione preventiva al Dipartimento di Giustizia.

Gli esperti affermano che i finanziamenti e le pressioni competitive rendono difficile per le aziende rallentare lo sviluppo in modo indipendente. «La concorrenza commerciale e geopolitica nel settore dell'IA è incredibilmente intensa e sta creando una dinamica preoccupante, nella quale le aziende sono incentivate a lanciare prodotti prima che i loro rischi siano pienamente compresi», ha dichiarato a Decrypt Miranda Bogen, chief technologist del Center for Democracy and Technology.

«Anche quando il personale interno sa che sono necessarie ulteriori ricerche e verifiche, le aziende subiscono un'enorme pressione per tagliare gli angoli e saltare test di sicurezza fondamentali, nonostante si accumulino le prove delle conseguenze di una velocità eccessiva», ha aggiunto.

La discussione si svolge mentre Stati Uniti e Cina competono per la leadership nel settore dell'IA. Il presidente degli Stati Uniti Donald Trump ha rinviato a maggio un ordine esecutivo sull'IA per il timore che potesse indebolire il vantaggio dell'America sulla Cina. In seguito ha firmato l'ordine a giugno, creando un processo di valutazione volontario per i modelli avanzati prima del loro rilascio.

Gli incentivi finanziari potrebbero rappresentare un ostacolo al coordinamento ancora più diretto. «Ogni progresso, nelle condizioni attuali, produce molti milioni o miliardi in più di finanziamenti e colloca i creatori di quel progresso in una posizione di maggiore potere e influenza», ha dichiarato a Decrypt Duncan Sabien, responsabile della comunicazione presso il Machine Intelligence Research Institute.

Sabien ha affermato che la dinamica da corsa agli armamenti è reale e che OpenAI e Anthropic subiscono pressioni per continuare a progredire nonostante i rischi incerti. Ogni nuovo sistema può contribuire a produrre successori più capaci, creando la possibilità che un concorrente prenda il sopravvento se una delle due aziende rallenta senza un accordo condiviso.

«Questo è particolarmente vero perché i miglioramenti dell'intelligenza si accumulano; ogni nuovo sistema rende più facile addestrare e distribuire il successivo, più avanzato», ha dichiarato. «In assenza di qualche meccanismo di coordinamento, fare un passo indietro significa semplicemente lasciare un vantaggio all'altro.»

OpenAI ha sospeso ad agosto il lavoro interno su Astra perché mancavano garanzie più solide per affrontare le preoccupazioni relative alla cybersicurezza. A febbraio, tuttavia, sia OpenAI sia Anthropic hanno allentato i propri impegni in materia di sicurezza. Jared Kaplan, Chief Science Officer di Anthropic, ha sostenuto che rallentare lo sviluppo in modo indipendente fosse meno sensato mentre i concorrenti continuavano ad avanzare.

Il dibattito si è intensificato questa settimana dopo che l'ex ingegnere di Anthropic Jacob Coxon ha annunciato pubblicamente le proprie dimissioni, citando preoccupazioni riguardo ai rischi che il proseguimento dello sviluppo dell'IA comporta per l'umanità.

«Le persone che stanno costruendo l'IA credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio», ha dichiarato Coxon su X, aggiungendo che non si trattava di una «trovata di marketing». «Semmai, molti dirigenti e ricercatori senior useranno sulla stampa formulazioni che suonano ragionevoli, ma sento le stesse persone esprimere privatamente la loro paura. Nessun'altra attività umana rappresenta un livello di pericolo simile», ha scritto.

Sabien ha affermato che i ricercatori potrebbero ottenere ben poco abbandonando il settore se qualcun altro li sostituisse semplicemente. «Se un numero sufficiente di loro arrivasse alla consapevolezza condivisa che dovrebbero fermarsi tutti, allora potrebbero superare la barriera del coordinamento e fermarsi insieme, invece di essere semplicemente sostituiti dalla persona successiva, leggermente meno prudente», ha dichiarato.