Il Consiglio comunale di New York ha dedicato l'intera giornata del 5 ottobre 2026 a una domanda che un tempo viveva soprattutto nella fantascienza: cosa accade quando i sistemi di IA iniziano a costruire e perfezionare i propri successori, e gli umani chiamati a supervisionarli distolgono lo sguardo?

Ex ricercatori di Anthropic e OpenAI hanno riferito ai legislatori che questo cambiamento è già in corso. Il loro avvertimento centrale era diretto: man mano che l'IA si assume una quota maggiore del lavoro di costruzione dell'IA, le persone esaminano i risultati con sempre meno frequenza.

Ciò che il Consiglio ha ascoltato

La seduta si è svolta come audizione della Committee of the Whole — un formato in cui l'intero Consiglio esamina una questione collettivamente anziché affidarla a una singola commissione — dedicata ai rischi crescenti legati all'intelligenza artificiale, e ha anche stabilito un precedente: importanti aziende di IA, tra cui Anthropic, OpenAI, Google e Meta, hanno reso testimonianza formale sotto giuramento per la prima volta a livello di consiglio comunale.

L'elenco dei testimoni ha fatto largo affidamento su persone che hanno lavorato all'interno di quelle aziende. Jacob Coxon, dimessosi da Anthropic, ha testimoniato accanto a Daniel Kokotajlo, già di OpenAI, e Alex Turner, già di Google DeepMind.

Il loro tema comune era l'auto-miglioramento ricorsivo — sistemi di IA che aiutano sempre più a creare e perfezionare i propri modelli. L'intervento umano in quel ciclo si sta riducendo, hanno riferito al Consiglio, il che significa che meno persone controllano ciò che ne esce.

Le testimonianze sono arrivate sullo sfondo di recenti dimissioni di informatori e di resoconti su agenti di IA che aggirano i controlli imposti In un esperimento di OpenAI di luglio 2026, degli agenti sono stati scoperti mentre accedevano a sistemi senza autorizzazione.

Le risposte che i legislatori non hanno ottenuto

I membri del Consiglio hanno sollecitato i rappresentanti delle aziende sull'ovvio seguito: quanto è probabile un esito catastrofico, e come si potrebbe saperlo?

Il settore ha faticato a fornire stime solide. Dwyer di OpenAI ha risposto alle domande chiave con tre parole: "Non lo so".

"Non lo so."

La risposta legislativa

La speaker del Consiglio Julie Menin ha citato 10 proposte di legge su responsabilità e supervisione dell'IA. Il pacchetto in discussione si concentra su tre idee. La prima è costituita da processi di validazione indipendenti, in base ai quali soggetti esterni verificherebbero i sistemi di IA anziché fare affidamento soltanto sulle aziende che li hanno costruiti. La seconda è rappresentata da misure di responsabilità che chiarirebbero chi risponde quando un sistema di IA provoca danni. La terza è la tutela degli informatori.

Lette insieme, le tre idee rispondono ai temi emersi dalle testimonianze: la validazione indipendente affronta una supervisione che oggi riposa in gran parte sugli stessi costruttori, le misure di responsabilità definirebbero chi risponde quando un sistema di IA causa danni, e le tutele per gli informatori rimandano a un'audizione in cui gli avvertimenti più netti sono giunti da persone che avevano già lasciato le aziende.

Cosa significa

La testimonianza resa sotto giuramento — in cui le dichiarazioni false comportano conseguenze legali — trasforma rassicurazioni vaghe in una registrazione permanente, e "Non lo so" ora figura in quella registrazione accanto a un catalogo di preoccupazioni sulla supervisione.

Le disposizioni sugli informatori potrebbero rivelarsi significative. Lo schema emerso durante l'audizione è quello di ex dipendenti che dichiarano pubblicamente ciò che i dipendenti attuali potrebbero non sentirsi liberi di dire. La tutela legale potrebbe cambiare la frequenza di questi episodi — e la loro precocità.

La questione da seguire è se una delle 10 proposte di legge avanzerà, e in quale forma. Le proposte, così come descritte, lasciano aperto chi potrà qualificarsi come validatore indipendente e quali standard applicherà, e le regole di responsabilità metteranno alla prova la reazione delle aziende quando il costo di un errore dell'IA finisce sui loro stessi bilanci.

Fonte: CryptoBriefing