Mentre alcune delle figure più prominenti dell'intelligenza artificiale chiedono un approccio più lento e deliberato allo sviluppo dell'IA di frontiera, per i modelli open-weight emerge una diversa questione di governance: chi è responsabile della loro sicurezza una volta che gli sviluppatori rilasciano i pesi (i parametri appresi che determinano come un modello produce i propri output)?

In un saggio del 12 settembre che ha dato avvio al più recente dibattito sul rallentamento dell'IA, l'amministratore delegato di Anthropic Dario Amodei ha sostenuto che lo sviluppo dell'IA debba rallentare, in modo che il lavoro sulla sicurezza abbia il tempo di mettersi al passo con le capacità dei modelli. L'amministratore delegato di OpenAI Sam Altman e altri leader e ricercatori del settore hanno anch'essi invocato un ritmo più misurato.

Finora, il dibattito si è concentrato soprattutto sugli sviluppatori di frontiera e sulla loro capacità di controllare l'uso dei propri modelli. Alcune imprese, tuttavia, stanno già sperimentando e sviluppando soluzioni basate su modelli open-weight — scaricandoli, personalizzandoli e facendoli girare sulla propria infrastruttura.

Databricks, ad esempio, offre sulla propria piattaforma modelli come Kimi K3, Qwen e DeepSeek. L'ecosistema più ampio comprende anche Llama di Meta e i modelli di Mistral, tra molti altri, e va ben oltre questi nomi celebri: la piattaforma open source Hugging Face ha segnalato quasi 3 milioni di modelli pubblici nei propri archivi ad agosto, comprendenti modelli di dimensioni e usi diversi.

Se da un lato questi modelli danno alle imprese un maggiore controllo sulla distribuzione, dall'altro gli sviluppatori originali perdono in genere il controllo tecnico diretto su come i pesi rilasciati vengono modificati, distribuiti e utilizzati, sebbene i termini di licenza e leizioni legali possano ancora limitarne l'uso e la ridistribuzione.

Il dibattito sul rallentamento mette in luce i limiti della sicurezza centralizzata

Con un modello di IA chiuso, o proprietario, lo sviluppatore gestisce tipicamente l'accesso al sistema. Può imporre restrizioni d'uso, monitorare l'attività e modificare o revocare l'accesso quando necessario.

I modelli open-weight cambiano questa dinamica. Una volta che gli sviluppatori rendono pubblici i pesi, le organizzazioni possono scaricarli e farli girare nei propri ambienti. Possono modificare o sottoporre a fine-tuning i modelli — adattando un modello pre-addestrato a compiti specifici con dati aggiuntivi — e potenzialmente distribuirli tramite vari fornitori di infrastrutture.

Questa flessibilità può rendere l'IA open-weight attraente per le imprese, ma rende anche più difficile applicare gli approcci tradizionali alla supervisione dell'IA. Una volta che i pesi sono pubblicamente disponibili, lo sviluppatore originale ha una supervisione molto minore su come le organizzazioni modificano e distribuiscono il modello. Inoltre, i fornitori open source non possono realisticamente ritirare i pesi una volta rilasciati.

"Le soluzioni proposte — revisori integrati e monitoraggio continuo — funzionano solo finché il fornitore controlla ancora il modello", ha detto Manuel Schonfeld, chief AI officer di Qu, azienda con sede ad Arlington, in Virginia, che costruisce piattaforme di commercio unificato e smart kitchen per il settore della ristorazione. "Una volta che i pesi escono dall'edificio, quel compito spetta all'impresa che li distribuisce, non a quella che li addestra."

Questo non significa che i modelli open-weight debbano essere esentati dai requisiti di sicurezza, poiché possono comportare propri rischi di sicurezza e uso improprio. Un recente studio commissionato dal governo britannico ha rilevato che, mentre il software open source tradizionale dispone di pratiche di sicurezza più consolidate, l'IA open source introduce rischi aggiuntivi riguardanti i pesi dei modelli, i dati di addestramento, le pipeline di fine-tuning e la provenienza. La revisione ha inoltre rilevato che la ricerca sulla sicurezza e sulla governance dell'IA open source resta limitata.

Regole di supervisione più rigide potrebbero aumentare i costi dell'IA open-weight

Un modo per affrontare questa sfida di sicurezza sarebbe attribuire maggiore responsabilità agli sviluppatori. Ma se il dibattito sul rallentamento portasse a requisiti di conformità e valutazione più severi, le grandi aziende di IA potrebbero trovare più facile rispettarli rispetto agli sviluppatori open-weight più piccoli.

I laboratori più grandi hanno le risorse per gestire test, valutazioni e conformità, mentre gli sviluppatori più piccoli potrebbero faticare a soddisfare requisiti più rigorosi.

Noah Kenney, fondatore e consulente principale di Digital 520, azienda di servizi IT specializzata in strategia e crescita per aziende tecnologiche, ha detto che i requisiti di conformità potrebbero diventare una barriera se le imprese esigono dagli strumenti più piccoli gli stessi audit e le stesse evidenze che si aspettano dai fornitori più grandi. "Se i costi di conformità favoriscono i fornitori più grandi, le imprese potrebbero avere meno alternative alle più grandi aziende di IA", ha aggiunto.\nLa proposta di Amodei di valutazioni della sicurezza da parte di terzi, illustrata nel suo saggio, esemplifica anch'essa la sfida. Il suo piano prevederebbe l'accesso continuo, simile a quello di un dipendente, per valutatori indipendenti ai laboratori di IA di frontiera. Questo approccio diventa più difficile da applicare ai modelli open-weight dopo il rilascio dei pesi, quando le organizzazioni possono modificarli e ridistribuirli senza il coinvolgimento dello sviluppatore originale.

Le valutazioni indipendenti possono comunque contribuire a migliorare la sicurezza dell'IA, ma i modelli open-weight rendono più difficile determinare chi debba supervisionare un modello una volta che gli sviluppatori lo hanno rilasciato.

Le imprese potrebbero ereditare maggiore responsabilità

Se il dibattito sul rallentamento porterà a una maggiore attenzione su test, monitoraggio e responsabilità, le imprese che distribuiscono modelli open-weight potrebbero dover farsi carico di gran parte di quell'onere di governance.

Prince Kohli, presidente e amministratore delegato di Sauce Labs, sviluppatore di una piattaforma cloud di test del software che ha lavorato con fornitori open-weight, ha detto che i modelli open-weight danno alle imprese maggiore controllo su dove i modelli girano, come vengono personalizzati e come vengono gestiti i dati. Ma quel controllo comporta anche responsabilità operative e di governance.

"Le imprese dovranno considerare i rischi di ciascun caso d'uso quando decidono quale modello distribuire", ha detto Kohli. Un modello open-weight potrebbe funzionare bene per un compito semplice e a basso rischio, ha aggiunto, mentre i flussi di lavoro complessi o critici per il business richiedono uno standard più elevato di sicurezza e prevedibilità.

Una volta che un'impresa modifica e gestisce un modello in proprio, ha detto Kohli, deve comprenderne la provenienza, controllare a quali dati può accedere e valutarne continuamente gli output, soprattutto quando genera codice o alimenta agenti in grado di compiere o influenzare azioni.

Kenney ha detto che la responsabilità dovrebbe probabilmente seguire ciò che ciascuna parte contribuisce e controlla: lo sviluppatore originale dovrebbe rispondere del modello rilasciato e dei suoi limiti noti, mentre l'impresa dovrebbe essere responsabile del proprio fine-tuning, dei dati, degli strumenti, delle autorizzazioni e delle decisioni di distribuzione.

Ciò significa che le imprese potrebbero dover validare il modello, mettere in sicurezza l'ambiente in cui gira, monitorare il comportamento in produzione e conservare le evidenze di audit.

Per le imprese, in particolare quelle che distribuiscono modelli open-weight, sicurezza e governance non si esauriscono con la scelta di un modello — continuano attraverso la distribuzione e l'uso. La sfida non è semplicemente decidere con quale rapidità l'IA debba avanzare. È anche capire come debba funzionare la responsabilità una volta che l'azienda che ha costruito un modello open-weight perde il controllo tecnico diretto su come vengono usati i pesi rilasciati. Come si risolverà il dibattito sul rallentamento — incluso se eventuali nuovi requisiti di valutazione e conformità terranno conto dei pesi già pubblici — resta una questione aperta tanto per gli sviluppatori quanto per le imprese.

Fonte: AI Business — Calls for AI slowdown raise new challenges for open-weight models