Moonshot AI, la startup di intelligenza artificiale con sede a Pechino sostenuta da Alibaba, ha presentato Kimi K3, descritto come il più grande modello di IA open source costruito finora. La società ha lanciato il modello il 16 luglio tramite la propria API e le proprie piattaforme hosted, con i pesi completi del modello programmati per diventare disponibili al download pubblico il 27 luglio con licenza Modified MIT.

Kimi K3 ha 2,8 trilioni di parametri, collocandosi tra i più grandi modelli di IA disponibili pubblicamente e diventando il primo modello pubblico nella fascia vicina ai 3 trilioni di parametri. Il numero di parametri non è una misura diretta della qualità di un modello, ma è un indicatore utile della scala e delle risorse di calcolo probabilmente necessarie per eseguire o adattare il sistema.

Il design tecnico di Kimi K3

Il modello utilizza un’architettura mixture-of-experts, o MoE, insieme a quella che Moonshot chiama tecnologia Kimi Delta Attention. Invece di attivare ogni parametro per ciascuna richiesta, il sistema seleziona il sottoinsieme più rilevante dal suo ampio pool di parametri. Questo design mira a mantenere gestibili i costi di inferenza nonostante la scala complessiva del modello.

Kimi K3 supporta inoltre una finestra di contesto da 1 milione di token, consentendogli di elaborare in un singolo prompt un volume approssimativamente equivalente a diversi romanzi integrali. Moonshot ha progettato questa capacità per compiti impegnativi come la programmazione su orizzonti lunghi, il lavoro avanzato sulla conoscenza e il ragionamento profondo.

Con la licenza Modified MIT, gli sviluppatori potranno scaricare, modificare e ospitare autonomamente il modello una volta rilasciati i pesi. La distinzione è rilevante perché il solo accesso hosted lascia gli utenti dipendenti dalla disponibilità e dai prezzi del fornitore, mentre i pesi aperti permettono alle organizzazioni con infrastrutture sufficienti di ispezionare, adattare e gestire il modello sui propri sistemi.

La domanda sembra aver superato la capacità disponibile di Moonshot AI poco dopo il lancio. La società ha sospeso i nuovi abbonamenti pochi giorni dopo l’introduzione di Kimi K3 perché la domanda d’uso ha superato la capacità.

Il contesto IA tra Stati Uniti e Cina

Il rilascio arriva in un momento di maggiore scrutinio statunitense sullo sviluppo dell’IA cinese. L’amministrazione Biden e la successiva amministrazione Trump hanno imposto controlli sulle esportazioni riguardanti chip avanzati spediti in Cina.

Dopo che i pesi del modello diventeranno pubblici il 27 luglio, gli utenti con risorse di calcolo sufficienti potranno eseguire, fare fine-tuning e distribuire K3 indipendentemente dalla giurisdizione. In pratica, la scala del modello significa che l’adozione dipenderà probabilmente non solo dall’accesso al download, ma anche dalla disponibilità di hardware, dai costi di serving e dalla capacità degli sviluppatori di integrarlo in modo efficiente nei flussi di lavoro IA esistenti.

Implicazioni per le società di IA e per le politiche pubbliche

Se Kimi K3 offrirà prestazioni comparabili a quelle dei principali modelli proprietari di OpenAI e Anthropic pur essendo disponibile come download gratuito, potrebbe complicare il modello di ricavi delle società che applicano prezzi premium per l’accesso API.

Il sostegno di Alibaba a Moonshot AI indica inoltre che il modello potrebbe continuare a ricevere sviluppo, ottimizzazione e supporto.

Il rilascio potrebbe attirare ulteriore attenzione da Washington. Se i responsabili politici considerassero i rilasci open source di modelli di IA frontier cinesi come un rischio per la sicurezza, potrebbero valutare restrizioni sulla distribuzione, sull’hosting o sull’integrazione di sistemi di IA sviluppati all’estero all’interno dell’infrastruttura statunitense. Tra i dettagli chiave da monitorare dopo il rilascio dei pesi figurano i risultati di benchmark indipendenti, i report di implementazione nel mondo reale e l’eventuale fornitura da parte di Moonshot di ulteriore documentazione o strumenti a supporto dell’uso self-hosted.