La vera discontinuità potrebbe non verificarsi quando le macchine supereranno gli esseri umani. Potrebbe verificarsi quando le capacità dell’IA cresceranno più rapidamente di quanto le istituzioni riescano ad assorbirle.

Durante una recente riunione del comitato rischi, la domanda sembrava semplice: la comunicazione sui rischi dell’IA dell’organizzazione è ancora accurata? La risposta era meno chiara. Dall’ultima revisione, i sistemi di IA erano cambiati in modo sostanziale. Gestivano attività più lunghe, utilizzavano più strumenti, operavano con meno supervisione e contribuivano direttamente allo sviluppo software e alla ricerca. Il quadro dei rischi, tuttavia, non si era evoluto allo stesso ritmo.

Non era necessariamente fallito nulla. Ed era proprio questo il problema. Al consiglio di amministrazione veniva chiesto di approvare un ambiente di controllo progettato per una tecnologia il cui profilo di capacità si stava già spingendo oltre le ipotesi su cui era basato.

È da qui che dovrebbe partire il dibattito sulla Singolarità: non dalle previsioni su quando le macchine supereranno gli esseri umani, ma da una domanda di governance meno esotica e più urgente. Questa discontinuità non richiede un’esplosione dell’intelligenza, una data specifica o un accordo sul significato di intelligenza artificiale generale. È già un problema di controllo.

Tre conversazioni che vengono solitamente confuse

Gran parte del dibattito pubblico sull’IA è confusa perché tre concetti distinti vengono spesso trattati come se fossero uno solo.

La capacità descrive ciò che i sistemi di IA possono fare. È empirica, verificabile e in rapido progresso.

L’autonomia descrive quanta parte del ciclo decisionale e operativo può funzionare senza l’intervento diretto di una persona. È qui che si trova la sfida immediata per la governance. Un sistema di IA che genera una risposta è una cosa. Un sistema che determina l’azione successiva, accede a uno strumento, esegue quell’azione, ne valuta il risultato e prosegue è sostanzialmente diverso.

La Singolarità è una discontinuità speculativa: un punto in cui il miglioramento guidato dall’IA diventa sufficientemente auto-rinforzante da rendere inaffidabile la previsione umana convenzionale.

Questi concetti non sono intercambiabili. Un amministratore non deve credere che una Singolarità tecnologica sia imminente per riconoscere che l’aumento dell’autonomia crea un ambiente di controllo diverso. Allo stesso modo, si può ritenere che le capacità dell’IA diventeranno alla fine trasformative senza credere che un’esplosione dell’intelligenza sia inevitabile.

La distinzione è importante perché la governance non può attendere che si risponda alla terza domanda prima di agire sulla seconda.

Il ciclo non è chiuso, ma non è irrilevante

La prova più forte a sostegno di questo argomento è anche la meno sensazionalistica. I laboratori di IA all’avanguardia stanno delegando sempre più parti dello sviluppo dell’IA agli stessi sistemi di IA.

Anthropic descrive un’evoluzione dagli esseri umani che scrivono il codice, agli agenti di programmazione che ne scrivono e modificano porzioni sostanziali, fino agli agenti che eseguono codice e delegano il lavoro ad altri agenti. Anthropic riferisce che, a maggio 2026, oltre l’80% del codice integrato nella propria base di codice di produzione era stato scritto da Claude.

La precisazione importante riguarda ciò che non è accaduto. La direzione della ricerca resta umana e il ciclo non è completamente autonomo. Anthropic afferma esplicitamente che l’automiglioramento ricorsivo non si sta ancora verificando in senso pienamente autonomo e che non è inevitabile.

Sam Altman ha descritto analogamente lo stato attuale come una versione “larvale” dell’automiglioramento ricorsivo, riconoscendo al contempo che ciò non equivale a un sistema di IA che si riscrive autonomamente.

Questa precisazione rafforza, anziché indebolire, l’argomento a favore della governance. La domanda rilevante non è se il ciclo sia chiuso. È quanta parte del ciclo sia già passata dall’esecuzione umana a quella delle macchine e se i controlli istituzionali si stiano muovendo di pari passo.

La governance opera secondo un orologio diverso

La regolamentazione illustra lo stesso problema di ritmo. Il governo degli Stati Uniti ha istituito un quadro volontario per alcuni modelli all’avanguardia, che comprende l’accesso del governo ai modelli interessati prima del rilascio e un processo classificato di benchmarking per determinare se i modelli raggiungano una soglia di frontiera. Il quadro esclude esplicitamente l’obbligo di licenza o di autorizzazione preventiva. La Casa Bianca

Nel frattempo, NIST sta sviluppando approcci pratici per l’identità e l’autorizzazione degli agenti, comprendenti identificazione, autorizzazione, audit, non ripudio e controlli contro il prompt injection.

La direzione è significativa. Gli strumenti di governance vengono riprogettati intorno a sistemi capaci di agire, non semplicemente a sistemi che generano informazioni. Per le organizzazioni, ciò significa che la supervisione deve monitorare non solo le capacità del modello, ma anche i permessi, i sistemi, i dati e le terze parti collegate al sistema. Sono queste dimensioni a determinare le conseguenze di un’azione e le prove necessarie per dimostrare che essa è rimasta sotto controllo.

Le autorità di regolamentazione finanziaria stanno rendendo altrettanto esplicita la responsabilità dei consigli di amministrazione. FCA, Bank of England e Treasury hanno dichiarato che le imprese dovrebbero garantire che i propri consigli e l’alta dirigenza comprendano sufficientemente i rischi dell’IA all’avanguardia per definire l’indirizzo strategico e supervisionare le funzioni di controllo.

Questo non dimostra che le autorità di regolamentazione stiano fallendo. Riflette una realtà strutturale: la tecnologia cambia per prima, mentre le istituzioni formalizzano la propria risposta in un secondo momento. I consigli di amministrazione non possono quindi fare della certezza normativa un prerequisito per agire.

Il vero problema potrebbe essere il divario di assorbimento

È qui che la conversazione sulla Singolarità diventa una questione aziendale. Un’organizzazione può avere accesso a capacità straordinarie di IA e al contempo essere strutturalmente incapace di assorbirle.

Un’istituzione finanziaria può implementare un agente capace di svolgere analisi sofisticate mentre il suo quadro di controllo presuppone che ogni raccomandazione rilevante venga formulata da un analista umano. Un’azienda della distribuzione può automatizzare decisioni su prezzi, scorte e rapporto con i clienti mentre la responsabilità resta organizzata intorno a manager umani. Un’azienda tecnologica può consentire ai sistemi di IA di generare e testare software a una velocità senza precedenti mentre la revisione della sicurezza, la gestione delle modifiche e la risposta agli incidenti restano progettate intorno ai cicli di sviluppo umani.

La capacità è cambiata. L’istituzione no.

L’esperienza maturata nei comitati di audit e rischio, nei servizi finanziari, nella distribuzione, nei media, nel lusso, nello sport e nella tecnologia conferma lo stesso schema: le capacità possono arrivare ovunque contemporaneamente, mentre i tassi di assorbimento variano enormemente in funzione della regolamentazione, delle infrastrutture legacy, della struttura della forza lavoro e della maturità dei controlli.

Questa variabilità conta. Dal punto di vista della gestione del rischio e dell’intermediazione assicurativa, questo è il momento in cui il rischio legato all’IA smette di essere un documento teorico e diventa un premio. Assicuratori, investitori, autorità di regolamentazione e consigli di amministrazione pongono in ultima analisi versioni della stessa domanda: l’organizzazione può dimostrare di comprendere e controllare l’esposizione che sta creando?

La governance dovrebbe muoversi alla stessa velocità dell’IA?

La risposta ovvia è rendere più rapida la governance. Ma una governance più veloce non è automaticamente una governance migliore.

L’obiettivo non dovrebbe forse essere una governance alla velocità della tecnologia, bensì una governance alla velocità necessaria per preservare il controllo. La domanda corretta per un consiglio di amministrazione potrebbe non essere: “Abbiamo approvato questa capacità di IA?”. Potrebbe invece essere: “Che cosa è cambiato nel profilo di capacità, autonomia, accesso o conseguenze dall’ultima approvazione, e i nostri controlli sono cambiati di conseguenza?”.

È una domanda più difficile, ma anche più utile.

Lo strumento di governance

La maggior parte dei commenti sull’IA si conclude con un avvertimento. I consigli di amministrazione hanno bisogno di qualcosa di più pratico: un meccanismo che presuma che il terreno continuerà a cambiare.

La risposta non è una previsione migliore di quando potrebbe verificarsi la Singolarità. È un meccanismo dinamico di governance che misuri se l’istituzione è ancora in grado di controllare ciò che ha implementato.

Uno strumento di questo tipo dovrebbe avere cinque caratteristiche:

1. Fasi di avanzamento esplicite. I programmi di IA dovrebbero procedere attraverso criteri valutati, anziché aggiornamenti narrativi sullo stato di avanzamento. Capacità, autonomia, accesso, copertura dei controlli, resilienza e responsabilità dovrebbero essere valutati esplicitamente.
2. Riconoscimento dei progressi parziali. Le organizzazioni devono poter vedere dove stanno migliorando senza confondere i progressi con la prontezza.
3. Una soglia minima invalicabile. Se un requisito di controllo critico non è soddisfatto, l’ottimismo non dovrebbe creare un’eccezione.
4. Traguardi decisionali separati dai punteggi. Un consiglio può accettare consapevolmente un rischio, e ciò costituisce una forma legittima di governance. Tuttavia, il giudizio deve restare visibile come giudizio, anziché essere mascherato da un numero.
5. Una frequenza di aggiornamento più elevata. Se le capacità possono cambiare in modo sostanziale tra una riunione trimestrale del consiglio e l’altra, la rendicontazione trimestrale è strutturalmente incapace di fornire sufficiente visibilità. Un programma rilevante di IA all’avanguardia potrebbe richiedere aggiornamenti settimanali.

Questo modello viene applicato a un programma bancario digitale operativo. La lezione trasferibile è semplice: quando l’ambiente si muove rapidamente, la governance deve misurare il cambiamento, non limitarsi a documentarlo.

I consigli di amministrazione dovrebbero quindi poter rispondere a diverse domande: che cosa può fare ora il sistema che non poteva fare durante l’ultima revisione? Quali decisioni o azioni può assumere senza l’intervento umano diretto? A quali sistemi, dati, credenziali e terze parti può accedere? Quali controlli operano prima, durante e dopo tali azioni? Quali prove dimostrano che quei controlli funzionano? Che cosa è cambiato nel rischio residuo? La capacità dell’istituzione di assorbire questa capacità è rimasta al passo con la capacità stessa?

Se la dirigenza non è in grado di rispondere a queste domande, il problema non riguarda più semplicemente la maturità dell’IA. Riguarda la maturità della governance.

La domanda su cui i consigli di amministrazione dovrebbero confrontarsi

La Singolarità potrebbe alla fine rivelarsi una discontinuità dell’intelligenza. I consigli di amministrazione, tuttavia, non devono risolvere questa questione filosofica. Esiste una discontinuità più immediata che merita di essere governata: la possibilità che le capacità delle macchine crescano più rapidamente del controllo istituzionale.

Su questo punto esiste un dibattito legittimo. Forse la risposta è una governance più forte. Forse è una governance meglio progettata. In alcuni casi, forse la risposta è non implementare una capacità finché l’istituzione non sarà in grado di assorbirla.

Quest’ultima posizione frustrerà alcuni leader tecnologici. Dovrebbe farlo. Lo scopo della governance non è rendere confortevole l’implementazione. Ma la governance non dovrebbe nemmeno diventare una scusa per la paralisi istituzionale. La sfida è capire la differenza.

La domanda per il consiglio di amministrazione non è quindi: “Quando le macchine ci supereranno?”. È: “Quanta autonomia siamo disposti a governare prima di sapere che la nostra istituzione è in grado di assorbirla?”.

È una domanda a cui un consiglio di amministrazione può rispondere. A differenza della data della Singolarità, non può essere rimandata.

La Singolarità è una domanda sulle macchine. Il divario di governance è una domanda su di noi.

Fonte originale: TechNext24