La principale notizia sull’AI nel fine settimana è stata il dibattito sul lungo post pubblicato da Dario Amodei su X, in cui difendeva l’approccio di Anthropic sia alla regolamentazione sia alla discussione sui molti rischi dell’AI. Amodei, che appare raramente sulla piattaforma sociale controllata da Elon Musk, ha pubblicato il messaggio in risposta ai commenti dell’investitore Gavin Baker nel podcast “All In”, co-condotto dall’ex zar dell’AI della Casa Bianca ai tempi di Trump, David Sacks—anch’egli poco favorevole ad Anthropic. Lo scontro oppone due figure di alto profilo: Amodei ha cofondato Anthropic, l’azienda che sviluppa il chatbot Claude, nel 2021 insieme ad altri ex ricercatori di OpenAI, e la società annovera tra i principali finanziatori Amazon e Google. Sacks, venture capitalist, è stato il primo “zar” dell’AI e delle crypto nella Casa Bianca di Donald Trump, sostenendo un approccio leggero alla supervisione dell’AI—un orientamento condiviso dall’amministrazione, che nel primo giorno di mandato ha revocato l’ordine esecutivo sull’AI del 2023 firmato dall’ex presidente Joe Biden, il quale chiedeva ai creatori dei modelli più grandi di condividere con il governo i risultati dei test di sicurezza.

Una visione “massimalista” e il “regulatory capture”

Baker ha detto di aver sentito “da più persone di cui mi fido” che Amodei avrebbe affermato che Anthropic era così fiduciosa sia nel potenziale dell’AI sia nella posizione della propria azienda all’avanguardia nello sviluppo dell’AI che “Anthropic potrebbe a un certo punto essere l’unica azienda privata al mondo.” Baker ha descritto questo come prova della visione “massimalista” di Anthropic, in cui solo l’azienda e il governo statunitense deciderebbero chi può accedere a un’AI estremamente potente.

Sacks ha definito l’idea “hubristica” e ha ribadito le sue accuse secondo cui la strategia di Amodei sarebbe “regulatory capture”—cioè Anthropic sfrutterebbe la paura dei rischi dell’AI per convincere il governo a varare una regolamentazione molto severa su una tecnologia che solo Anthropic può rispettare facilmente, eliminando la concorrenza di altre startup AI o dei modelli open source.

Baker ha poi criticato Amodei per aver alimentato la percezione fortemente negativa dell’AI da parte del pubblico, un fattore che ha contribuito all’opposizione alla costruzione di data center in varie aree degli Stati Uniti. Baker teme che questa negatività renda più difficile fare affari per le aziende AI e che possa anche mettere in pericolo la leadership americana nella tecnologia. Ha chiesto ad Amodei di presentare un’immagine più positiva dell’AI.

Amodei replica

Anthropic nega che Amodei abbia mai detto qualcosa di simile a quanto affermato da Baker. “Complete and utter nonsense”, ha risposto su X Sasha de Marigny, chief brand and communications officer di Anthropic. (Sacks ha poi osservato che Amodei non ha risposto direttamente all’affermazione di Baker.) Nel frattempo, Amodei ha scritto su X che, a suo avviso, i libertari della Silicon Valley come Baker tendono a vedere ogni regolamentazione come un freno alla tecnologia e come una fonte di regulatory capture, mentre altri “outside of this bubble” vedono la regolamentazione come un limite al potere delle aziende e un vantaggio per gli “ordinary people”. Amodei ha detto di ritenere che entrambe le posizioni semplifichino troppo la questione e che “it’s complicated and really depends on what the ‘regulation’ consists of.”

Amodei ha affermato che Anthropic cerca “very hard to make proposals that disadvantage (slow down) frontier AI companies while advantaging smaller competitors.” Ha osservato che molte delle norme che l’azienda ha sostenuto contenevano esenzioni specifiche per le società sotto una certa soglia di ricavi o che spendevano meno di una certa somma nell’addestramento dei modelli, oppure erano pensate per applicarsi solo ai modelli all’avanguardia, escludendo quelli meno capaci. Ha detto di ritenere che l’AI tenda naturalmente a concentrare il potere economico, a causa delle esigenze di calcolo necessarie per addestrare e servire modelli potenti, ma che questo è molto diverso dal dire che in futuro esisterà una sola azienda o solo poche aziende. E ha aggiunto che i modelli open source affrontano solo in parte questa concentrazione di potere, perché richiedono comunque capacità di calcolo per essere addestrati ed eseguiti. Ha detto di preferire “rules of the road” che “leave room for open-weights models while also addressing the specific risks that they bring.”

Quanto alla critica di Baker secondo cui le sue stesse dichiarazioni sarebbero responsabili dell’ostilità del pubblico verso l’AI, Amodei ha detto: “I don’t think [the public’s negative view of AI] is primarily caused by me or any other AI leader warning about AI’s risks. I think it is fundamentally a crisis of trust.” Ha aggiunto che non pensa che il settore dell’AI possa riconquistare quella fiducia con “a glitzy marketing campaign with a positive spin.” Invece, ha detto che le aziende AI devono effettivamente realizzare i benefici positivi dell’AI—come curare davvero il cancro.

“ I think by far the most accurate criticism of AI companies including Anthropic is that we haven’t yet delivered on our big promises to benefit the world,” ha scritto. “That is totally on us, and I think it’s the criticism you should be making, instead of all this stuff about messaging and marketing.”

Una DMV per l’AI? Cosa c’è di sbagliato?

Il post di Amodei ha generato ancora più scambi tra critici e sostenitori su X. Sul tema della regolamentazione, Sacks ha scritto che creare una qualsiasi agenzia regolatoria per l’AI—l’ha chiamata “a DMV for AI”—penalizzerebbe il settore tecnologico statunitense, “create long queues as AI models wait for testing and approval” e “handicap the U.S. relative to China, which will not adopt the same constraints.” Sacks ha anche scritto che “Dario believes frontier AI is too powerful to distribute; we believe it is too powerful to centralize.” A mio avviso, Dario ha ragione a mettere in discussione la falsa dicotomia nella narrazione di Sacks sulla regolamentazione dell’AI. Come osserva spesso Stuart Russell, il computer scientist dell’UC Berkeley, una paninoteca a San Francisco deve rispettare più regolamenti di OpenAI o Anthropic (cosa diventata meno vera dopo l’approvazione, lo scorso anno, della legge dello Stato della California sull’AI frontier, ma ancora vera a livello federale). La regolamentazione limita in qualche misura il numero di ristoranti? Certo. Ma la concorrenza resta ampia. A San Francisco ci sono più di 3.000 ristoranti.

Le grandi catene di ristorazione hanno probabilmente più facilità nel rispettare le regole? Probabilmente sì—esistono economie di scala nella conformità e, naturalmente, le grandi catene hanno capacità di lobbying e relazioni politiche che la maggior parte dei piccoli esercizi non ha. Ma il pubblico è servito meglio da alcune norme sulla sicurezza alimentare, sul lavoro e sulla responsabilità del prodotto piuttosto che da nessuna regola? Naturalmente sì. E direi che lo stesso vale per l’industria automobilistica. Al di là delle critiche di Sacks al DMV, la maggior parte delle persone sostiene l’idea di patentare i conducenti e di ispezionare periodicamente i veicoli per verificare che siano idonei alla circolazione. C’è una certa concentrazione nell’industria auto? Certo, ma la regolamentazione non ne è la causa principale.

Quanto all’idea che la regolamentazione faccia arretrare gli Stati Uniti nella corsa tecnologica con la Cina, è importante ricordare che la Cina ha già alcune leggi sull’AI, in materia di etichettatura dei dati e identificazione dei contenuti generati dall’AI, che sono più severe di quelle statunitensi. È anche vero che, se ciò che interessa agli Stati Uniti sono le implicazioni per la sicurezza nazionale dell’AI potente, il Paese potrebbe esentare dalle regole i modelli sviluppati specificamente per scopi di sicurezza nazionale. (Anche se probabilmente sarebbe una cattiva idea—si veda WarGames o Terminator. È utile ricordare che siamo riusciti a vincere la Guerra fredda pur avendo regole piuttosto rigorose sulla produzione e il trasporto di materiale nucleare. Non sono sicuro che le norme di sicurezza sullo sviluppo dell’AI frontier debbano essere diverse.)

Con questo, ecco altre notizie sull’AI. Jeremy Kahn jeremy.kahn@fortune.com @jeremyakahn

Prima di passare alle notizie, un promemoria per dare un’occhiata al nostro nuovo vodcast, Fortune AI Weekly. Questa settimana, Bea Nolan ed Emily Forlini discutono del manifesto di 6.000 parole del CEO di Meta Mark Zuckerberg, dei cambiamenti nella leadership di OpenAI, e parlano con il cofondatore e CEO di Lovable Anton Osika della valutazione da $13.3 billion della startup e del round di finanziamento Series C da $400 million. Potete guardare il vod qui su YouTube.

Questo articolo è apparso originariamente su Fortune.com