New York sta per trasformare la regolamentazione dell'IA in un sistema di taglie. La Presidentessa del Consiglio comunale Julie Menin ha presentato il 25 settembre un pacchetto di leggi sulla supervisione dell'intelligenza artificiale che include una disposizione che prevede il pagamento agli informatori di una percentuale delle multe raccolte dalle aziende di IA riconosciute in violazione delle regole.

Cosa prevede il pacchetto

Mentre l'incentivo per gli informatori attira maggiore attenzione, esso si inserisce in un'iniziativa legislativa molto più ampia. Secondo le leggi, i sistemi di IA non conformi sarebbero soggetti a obbligatori "kill switch" umani, il che significa che una persona reale deve poter spegnere un sistema quando un algoritmo va fuori controllo. Diventerebbero inoltre obbligatori gli audit di sicurezza da parte di terzi, e le multe per le violazioni potrebbero arrivare fino a 25.000 dollari per infrazione. Poiché qualsiasi compenso all'informatore sarebbe una quota delle multe effettivamente riscosse, tale tetto massimo delle sanzioni definisce di fatto il limite superiore dell'entità delle potenziali ricompense.

Un'altra legge del pacchetto amplierebbe i diritti legali delle persone danneggiate dall'IA, aprendo la porta a cause dirette contro gli sviluppatori.

L'intero pacchetto è in programma per il dibattito in un'udienza del Consiglio comunale il 5 ottobre, alla quale si prevede la partecipazione di tutti i 51 membri del Consiglio, cioè l'intero organo. I massimi dirigenti di importanti aziende di IA sono stati invitati a partecipare.

Il canale per gli informatori è già attivo

La mossa del Consiglio comunale non è venuta dal nulla. Otto giorni prima, il 17 settembre, la Procuratrice Generale di New York Letitia James ha lanciato un portale dedicato agli informatori per i lavoratori del settore IA. Quel portale offre ai dipendenti delle aziende di IA un canale formale per segnalare preoccupazioni relative a pratiche non sicure o dannose. La taglia proposta darebbe agli stessi dipendenti un interesse finanziario diretto nell'attività di vigilanza, poiché i pagamenti provengono dalle multe riscosse dalle aziende riconosciute in violazione.

Perché New York, e perché ora

New York ha una lunga tradizione nel sperimentare regolamentazioni locali aggressive prima che si concretizzino i quadri federali. La sua legge del 2023 che richiede audit anti-bias per gli strumenti di assunzione basati sull'IA, la Local Law 144, è stata una delle prime regolamentazioni specifiche sull'IA nel Paese.

Il nuovo pacchetto va considerevolmente oltre. Là dove la legge sulle assunzioni puntava a un singolo caso d'uso, la legislazione proposta tenta di creare un quadro generale di supervisione per i sistemi di IA operanti entro i confini della città. La combinazione di kill switch, requisiti di audit, azioni legali private e taglie per gli informatori suggerisce che i legislatori stiano cercando di costruire un'architettura regolamentare completa.

Cosa significa per il settore

Per le aziende di IA con attività a New York, l'onere di conformità è destinato ad aumentare. Gli audit di terze parti hanno costi, e i requisiti dei kill switch potrebbero imporre modifiche architetturali ai sistemi già in uso.

La disposizione sull'azione legale privata potrebbe essere l'elemento più determinante per la responsabilità aziendale. Attualmente, se un sistema di IA nega a una persona alloggio, assicurazione o occupazione sulla base di una logica errata, la persona coinvolta spesso ha limitate possibilità di ricorso legale. Consentire cause dirette contro gli sviluppatori cambia l'economia dell'impiego dell'IA in ambiti ad alto rischio.

Il prossimo passaggio arriverà il 5 ottobre, quando le misure saranno esaminate dall'intero Consiglio, con i dirigenti delle aziende che sarebbero soggette alla regolamentazione invitati a partecipare.