Prima che OpenAI diventasse una delle aziende più discusse al mondo nel campo dell'intelligenza artificiale, i suoi primi anni avrebbero incluso proposte commerciali altamente insolite. Secondo una nuova ricostruzione degli anni fondativi dell'azienda, i dirigenti avrebbero valutato la vendita di futuri strumenti AI a governi che includevano Cina e Russia. C'era anche un piano per dare a Kanye West un accesso anticipato a un modello non ancora rilasciato. I vertici dell'azienda, si riferisce, reagirono con allarme, e le obiezioni allora sollevate continuano a risuonare nell'industria dell'AI ancora oggi.

La ricostruzione, riportata dal giornalista tecnologico Kevin Roose su The Atlantic, ha un peso perché aiuta a spiegare una delle scissioni più rilevanti della tecnologia moderna: diverse persone che si opposero con maggiore fermezza a queste idee lasciarono in seguito l'azienda e fondarono Anthropic, oggi uno dei rivali più diretti di OpenAI.

Il "piano dei paesi" e la proposta per Kanye West

L'episodio centrale risale al 2017. I cofondatori di OpenAI Greg Brockman, oggi presidente dell'azienda, e Ilya Sutskever avrebbero presentato una proposta interna nota come "countries plan". L'idea era finanziare la corsa all'intelligenza artificiale generale, o AGI, coinvolgendo gli stati nazionali. Secondo la proposta, OpenAI avrebbe potuto mettere all'asta futuri diritti sull'AGI o accettare denaro da governi. I paesi menzionati includevano Stati Uniti, Cina e Russia. Chi finanzia l'AI di frontiera è divenuto nel frattempo una questione politica attuale, poiché i costi di addestramento dei modelli più avanzati sono saliti a livelli che poche organizzazioni possono sostenere da sole.

Dario Amodei, allora ricercatore senior in OpenAI, avrebbe opposto una forte resistenza. A settembre 2017 espose le sue preoccupazioni e definì il piano "moralmente illegittimo". Il suo ragionamento, secondo il report, fu duplice: sostenne che il piano avrebbe potuto intensificare le corse agli armamenti tra potenze rivali euire a facilitare violazioni dei diritti umani. Entrambe le preoccupazioni sono entrate nel frattempo nei dibattiti politici mainstream, dai controlli governativi sui chip AI avanzati alle discussioni internazionali su sicurezza e uso militare dell'AI.

Il secondo episodio arrivò nel 2020. Sam Altman, amministratore delegato di OpenAI, avrebbe offerto a Kanye West un accesso anticipato a una versione di GPT-3, il modello linguistico che sarebbe poi diventato una base per i prodotti commerciali di OpenAI. Quello stesso anno, OpenAI iniziò a offrire GPT-3 agli sviluppatori esterni tramite un'API a pagamento, un primo passo nella sua svolta commerciale. Il direttore delle politiche di OpenAI avrebbe fermato l'accordo, citando il comportamento imprevedibile di West.

OpenAI ha respinto parti della ricostruzione. L'azienda contesta la descrizione del piano dei paesi, affermando di aver considerato solo un modello di cooperazione internazionale e di non aver mai avuto l'intenzione di vendere l'AGI a Cina o Russia.

Come le lotte interne sono diventate un'azienda rivale

Amodei non era una figura marginale in OpenAI. Ha svolto un ruolo chiave nello sviluppo di GPT-2 e GPT-3, i modelli che hanno trasformato l'azienda da curiosità di ricerca a attore commerciale di rilievo.

Secondo il report, il piano dei paesi e l'episodio Kanye West facevano parte di un più ampio schema di frizioni. Disaccordi sulla governance, la spinta verso la commercializzazione e la fiducia nella leadership si sarebbero accumulati durante la transizione di OpenAI verso un modello commerciale ibrido. Fondata nel 2015 come organizzazione no profit orientata a un'AI sicura a beneficio generale, la struttura si è poi indirizzata verso un modello capace di raccogliere grandi capitali e vendere prodotti.

Amodei e diversi colleghi hanno infine lasciato l'azienda. Nel 2021 hanno fondato Anthropic, presentandola come un laboratorio che avrebbe posto la sicurezza al primo posto, con Amodei nel ruolo di amministratore delegato.

Cosa significa per la corsa all'AI

La rivalità tra OpenAI e Anthropic sarebbe nata come disaccordo sui valori: chi dovrebbe finanziare un'AI potente, chi dovrebbe accedervi e quali tutele spettano a entrambe. I due laboratori oggi competono per clienti aziendali, contratti governativi e i migliori talenti di ricerca. La loro storia comune continua a plasmare il modo in cui ciascuno si presenta, con Anthropic che fa molto affidamento su un'identità orientata alla sicurezza che questa ricostruzione aiuta a spiegare.

La smentita di OpenAI sarà centrale per come l'episodio verrà percepito. Se la versione dell'azienda dovesse prevalere, il piano dei paesi apparirà come un brainstorming iniziale sulla cooperazione internazionale mai andato da nessuna parte. Se dovesse prevalere la versione dei critici, si apriranno interrogativi più severi sul giudizio al vertice di un'azienda che oggi esercita un'enorme influenza. Ulteriori testimonianze documentate di ex dipendenti o una confutazione più completa dell'azienda aiuteranno a determinare quale versione prevarrà.

L'episodio Kanye West, nel frattempo, illustra quanto informali potess essere le decisioni di accesso all'interno di un'azienda che gestisce una tecnologia potente, e quanto sia dipeso dai singoli dipendenti disposti a dire no.