Il CEO di Anthropic, Dario Amodei, ha respinto le accuse secondo cui la sua startup di intelligenza artificiale sostiene un divieto dei modelli open-weight per proteggere la propria posizione competitiva, dopo che Anthropic era stata notevolmente assente da una lettera firmata da molte importanti società di IA.

Le principali aziende del settore dell’IA, tra cui Nvidia, Palantir e altre, hanno partecipato alla lettera e annunciato una partnership nella Open Secure AI Alliance, che mira a sviluppare e condividere tecnologie più aperte per migliorare la sicurezza nell’era dell’IA, dato che i rischi possono derivare sia dai modelli aperti sia da quelli chiusi. Lo scambio sottolinea un dibattito attivo nel settore dell’IA su quanto l’apertura supporti al meglio sicurezza, accesso e concorrenza con il progresso delle capacità dei modelli.

Amodei ha scritto in un post sul sito web di Anthropic: "Anyone who has read my past writing should know that I don't regard such bans as a useful measure, but let me state it clearly so that there is no doubt: Anthropic has never advocated for a ban on open-weight models."

"But I don't agree with the letter's assertions that open-weights models necessarily make it easier to develop safeguards or that broad access to capabilities necessarily helps defenders more than attackers. It seems at least as likely to me that the opposite will be true," ha scritto, aggiungendo che le armi biologiche potrebbero avere un vantaggio rispetto alle difese contro di esse.

Amodei ha detto che considera i modelli open-weight che non dispongono di capacità pericolose come un bene pubblico, poiché il loro costo è limitato al computer necessario per eseguirli e possono offrire valore a imprese, sviluppatori e ricercatori.

Ha aggiunto di condividere gran parte della lettera aperta, in particolare l’importanza degli open-weight nell’ampliare l’accesso all’economia dell’IA, rafforzare la concorrenza e dare ai clienti maggiore controllo.

"To summarize my and Anthropic's position, we have not and are not advocating for a ban on open-weights models as a category. We should instead focus on keeping powerful chips out of authoritarian hands, stopping industrial-scale distillation, and requiring safety testing of all sufficiently capable models, open and closed," ha scritto Amodei.

La lettera di Amodei è stata pubblicata poche ore dopo che il CEO di Palantir Alex Karp, la cui società ha firmato la lettera a sostegno dell’uso dei modelli IA open-weight, ha detto in un’intervista esclusiva a FOX Business Network per "The Claman Countdown" che la resistenza alla concorrenza potrebbe portare a un settore tecnologico meno dinamico, come in Europa.

Karp ha detto di non essere "not anti-Anthropic" né contrario a tutti i modelli chiusi, ma ha aggiunto: "If you want to win, you have to compete on the battlefield."

"Our job has to be to have the best AI in the world, if you're going to actually say we're going to restrict all the products to U.S. commercial, but they're not going to be restricted abroad, which they're not, you're de facto setting up a two-stage thing where no one can claim we have the best products in the world. It's complete insanity," ha detto Karp.

"We are building our platform in the U.S. government on the open-weight side with Nvidia. We can get the best performance in the world with a totally American company, using American open-weight companies and American GPUs. We don't have to hide behind some kind of fake thing," ha detto Karp.