Il Congresso ha trascorso quasi un decennio ad svolgere audizioni sull'intelligenza artificiale senza approvare quasi nulla per renderla più sicura. Ora il Consiglio comunale di New York vuole capire se una città possa realizzare ciò che Washington non è riuscita a fare.

Venerdì, la Speaker del Consiglio comunale Julie Menin ha presentato un pacchetto di disegni di legge che richiederebbero ai sistemi di IA venduti in città di superare una validazione esterna e disporre di un kill switch, premierebbero gli informatori che segnalano violazioni e consentirebbero ai newyorkesi di citare in giudizio le aziende di IA quando strumenti jailbroken causano loro danni. La legislazione sarà esaminata il 5 ottobre in un'audizione del Committee of the Whole con tutti i 51 membri del Consiglio. A differenza dell'inerzia federale, il Consiglio rivendica una giurisdizione diretta: le aziende alla base di questi sistemi vendono i loro prodotti a New York e mantengono lì alcuni dei loro uffici più grandi.

"Non stiamo ovviamente in alcun modo cercando di soffocare l'innovazione. Vogliamo garantire che New York rimanga la capitale mondiale dell'IA, ma a ciò si accompagna una responsabilità", ha dichiarato Menin a Fortune. "Non credo affatto che queste due idee si escludano a vicenda. Anzi, ritengo che vadano di pari passo."

"Vogliamo essere la capitale dell'innovazione e vogli essere la capitale di una regolamentazione intelligente e sensata con adeguate tutele, perché le persone devono avere fiducia nel prodotto stesso", ha aggiunto.

Un'audizione di alto profilo

Il Consiglio ha invitato a testimoniare Dario Amodei, Sam Altman, Sundar Pichai, Elon Musk e Mark Zuckerberg, rispettivamente CEO di Anthropic, OpenAI, Google, SpaceXAI e Meta. L'audizione del 5 ottobre sarà un Committee of the Whole, un formato che il Consiglio comunale non convoca dal 2022.

Fonti a conoscenza dell'audizione hanno riferito a Fortune che nessuno dei cinque dirigenti richiesti è probabile compaia, sebbene il Consiglio comunale si riservi il diritto di convocarli con una citazione in giudizio. Le aziende non hanno risposto immediatamente alle richieste di commento di Fortune. Se qualcuno dei cinque parteciperà—o se il Consiglio procederà a imporre la loro testimonianza—sarà il primo test visibile di quanta resistenza incontrerà il pacchetto.

Ciò non esclude tuttavia che altri dirigenti rappresentino le aziende, e Menin ha detto che l'obiettivo è che il pubblico acquisisca fiducia in queste istituzioni. "Questo tipo di regolamentazione migliora effettivamente la fiducia delle persone in queste tecnologie di IA", ha detto.

Le città in prima linea

Per Menin, avvocato della regolamentazione diventata politica, la legislazione non è destinata a restare entro i confini della città. "Sento fortemente, in qualità di avvocato della regolamentazione e di chi è stato commissario del Dipartimento per la Tutela dei Consumatori e dei Lavoratori, che esiste assolutamente un ruolo di guida per la città di New York", ha detto.

Ha descritto i disegni di legge come un caso di studio tratto da un corso che ha tenuto alla Columbia University, "When Cities Take the Lead", che esaminava cosa dovrebbero fare le città "quando il governo federale deregola o non agisce".

"Questo è forse uno dei casi più evidenti, in cui si ha un prodotto come l'IA con pochissima regolamentazione", ha detto Menin. "A New York regolamentiamo ogni sorta di prodotti e servizi, dai barber shop ai saloni di unghie, eppure ci troviamo di fronte a una situazione in cui l'IA è pochissimo regolamentata."

Un bilancio federale scarno

Il bilancio federale contro cui Menin si batte è lungo e per lo più vuoto. Il primo disegno di legge federale sull'IA, il FUTURE of AI Act, fu presentato nel 2017 e non andò da nessuna parte. Nel 2023, il CEO di OpenAI Sam Altman chiese al Senato di regolamentare il suo settore; l'allora Leader di Maggioranza Chuck Schumer rispose con nove forum a porte chiuse che produssero una roadmap ma nessuna legge. Entro il 2025, Altman diceva ai senatori che richiedere l'approvazione governativa per rilasciare l'IA sarebbe stata una catastrofe.

Quando Washington ha finalmente agito, è stato per impedire ad altri di agire. Il Senato ha eliminato con un voto di 99-1 la proposta di divieto decennale del senatore Ted Cruz sulle leggi statali sull'IA a luglio 2025, e il presidente Trump ha poi creato una task force del Dipartimento di Giustizia per citare in giudizio gli stati sulle loro leggi sull'IA. Il primo bersaglio, il Colorado, ha svuotato la propria legge cinque settimane dopo la presentazione della causa.

Persino dopo che il ricercatore di Anthropic Jacob Coxon si è dimesso questo mese avvertendo che le aziende di IA stavano giocando con vite umane, la risposta federale si è limitata a lettere e indagini. Lo sforzo più recente arriva da un disegno di legge bipartisan sulla sicurezza di Cruz, della senatrice Amy Klobuchar e del Leader di Maggioranza John Thune, che probabilmente prevalrebbe sulla maggior parte delle leggi statali, compreso l'attuale RAISE Act di New York. Come si risolverà quella battaglia sulla preempzione determinerà quanta parte del pacchetto del Consiglio potrà entrare in vigore.

In un post di luglio, OpenAI ha sostenuto che gli stati potrebbero colmare il vuoto approvando leggi che rispecchino le une le altre al posto di una legge federale. Eppure è a New York, più che nella maggior parte degli stati che ora scrivono leggi sull'IA, che queste aziende hanno messo radici. Google ha più di 14.000 dipendenti in città, e Meta affitta 1,2 milioni di piedi quadrati al 50 Hudson Yards. Anthropic ha preso in affitto quest'estate un intero edificio di 16 piani al 330 Hudson Street e prevede di avere più di 1.000 dipendenti in città entro la fine dell'anno, mentre OpenAI ha preso 90.000 piedi quadrati al Puck Building nel 2024.

"Queste aziende hanno uffici a New York. Il prodotto viene venduto a New York, e riteniamo che rientri nel nostro ambito di regolamentazione", ha detto Menin.

Cosa prevedono i disegni di legge

Il più ampio dei disegni di legge vieterebbe a qualsiasi attività di vendere o distribuire un sistema di IA in città senza che un validatore esterno abbia verificato qualità dei dati, bias, privacy e sicurezza secondo standard stabiliti dall'Ufficio di Cyber Command della città. Ogni sistema dovrebbe inoltre disporre di un kill switch—una sovrascrittura umana in grado di arrestarlo. Poiché tale requisito si applica a qualsiasi attività che venda o distribuisca IA in città, la portata andrebbe ben oltre i grandi labor.

"Questo non è un settore che dovrebbe auto-regolamentarsi", ha detto Menin. "Il problema è che in questo consiste sostanzialmente lo standard attuale." Una sanzione di 25.000 dollari si applicherebbe a ciascuna violazione, il che, secondo Menin, significa che "se c'è uno sciame di agenti, la sanzione si applicherebbe per ciascun agente".

Un disegno di legge separato darebbe agli informatori una quota delle sanzioni recuperate dalle aziende di IA che violano la legge, misura che il Consiglio ritiene la prima del genere negli Stati Uniti. Una proposta complementare proteggerebbe i dipendenti comunali e i collaboratori esterni che segnalano minacce all'ordine pubblico legate all'IA.

Un terzo disegno di legge consentirebbe di citare in giudizio le aziende di IA per danni causati da terzi che aggirano i controlli di sicurezza, purché il danno fosse prevedibile e l'azienda non disponesse di adeguate misure di salvaguardia. I tribunali non hanno ancora stabilito se la Sezione 230, la legge federale che tutela le piattaforme dalla responsabilità per i contenuti degli utenti, copra i contenuti generati dall'IA, quindi il disegno di legge potrebbe mettere alla prova anche la legge federale.

Altri disegni di legge richiederebbero ai fornitori comunali di segnalare gli incidenti di sicurezza legati all'IA entro 24 ore, vieterebbero affermazioni di sicurezza false o fuorvianti, stabilirebbero regole sulla privacy per i chatbot basate sul People-First Chatbot Bill dell'Electronic Privacy Information Center e imporrebbero alla città di pianificare la difesa da attacchi basati sull'IA ai propri sistemi. Il Consiglio ha dichiarato che arriveranno altri disegni di legge, tra cui un divieto sui deepfakes ingannevoli e uno studio su come gli strumenti algoritmici modificano i compiti lavorativi. L'audizione del 5 ottobre sarà il primo punto di controllo pubblico sull'estensione di tale iniziativa.

"I nostri disegni di legge affrontano ogni sorta di modi diversi per affrontare la questione della sicurezza", ha detto Menin. "Vogliamo continuare a essere un hub dell'innovazione. Non credo all'idea che la regolamentazione possa in qualche modo ostacolarla."

Questa storia è stata originariamente pubblicata su Fortune.