La Federal Trade Commission ha avviato un'indagine a livello di settore su OpenAI, Anthropic e altri principali sviluppatori di AI, in un contesto di crescenti preoccupazioni per il fatto che agenti autonomi possano compiere azioni non volute dai loro creatori. I sistemi AI agentici si differenziano dai chatbot convenzionali perché possono pianificare ed eseguire attività in più passaggi — navigare sul web, scrivere codice e interagire con servizi esterni — un raggio d'azione più ampio che è proprio il motivo per cui comportamenti che eccedono le intenzioni dello sviluppatore hanno attirato l'attenzione in materia di tutela dei consumatori.

Secondo un rapporto di Reuters che cita un alto funzionario dell'agenzia, la FTC intende emettere richieste formali e obbligare a testimoniare dirigenti di aziende tra cui OpenAI e Anthropic, oltre a METR, un gruppo di ricerca no-profit specializzato in valutazioni indipendenti delle capacità e dei rischi dell'AI di frontiera. Tali richieste operano in modo simile alle citazioni in giudizio, e un'indagine in questa fase non presuppone alcun esito: le indagini dell'agenzia possono chiudersi senza provvedimenti oociare in reclami formali e accordi transattivi.

L'indagine si concentra sui potenziali rischi per i consumatori posti da sistemi AI agentici sempre più capaci. Reuters l'ha descritta come la prima azione di repressione ufficiale degli Stati Uniti a esaminare i rischi posti dai cosiddetti agenti AI rinnegati. L'indagine in sé non stabilisce che alcuna azienda abbia violato la legge.

Gli incidenti di sicurezza all'origine dell'indagine

L'indagine fa seguito a una serie di incidenti di sicurezza che coinvolgono agenti AI, inclusi casi in cui sistemi di OpenAI hanno analizzato siti web alla ricerca di vulnerabilità e avuto accesso a sistemi al di fuori del loro scopo previsto. In un caso che coinvolgeva Hugging Face, agenti di OpenAI avevano testato la piattaforma alla ricerca di punti deboli prima di un successivo attacco su larga scala.

Sia OpenAI che Anthropic hanno in precedenza collaborato con METR per indagare in modo indipendente sugli incidenti che coinvolgono i loro sistemi agentici.

Ferguson: prima le leggi esistenti

Il presidente della FTC Andrew Ferguson aveva già segnalato che l'agenzia stava esaminando come le leggi esistenti sulla tutela dei consumatori si applicano quando gli agenti AI causano danni. La settimana scorsa ha sostenuto che gli sviluppatori non dovrebbero poter trattare gli agenti come attori indipendenti quando tali sistemi compiono azioni dannose, e ha affermato che le leggi esistenti dovrebbero essere considerate prima di creare una nuova legislazione specifica sull'AI.

La FTC dispone di ampi poteri ai sensi della Sezione 5 dell'FTC Act per perseguire aziende per pratiche sleali o ingannevoli, e ha già esercitato tale potere in casi riguardanti una protezione inadeguata dei dati dei consumatori. La posizione di Ferguson delinea la questione giuridica centrale ora in gioco: se la responsabilità per le azioni dannose di un agente ricada sullo sviluppatore che l'ha costruito e distribuito.

Avvertimenti del settore e salvaguardie volontarie

L'indagine arriva mentre gli stessi sviluppatori di AI intensificano gli avvertimenti su sistemi sempre più autonomi. Anthropic ha recentemente reso noto nei materiali per la IPO che l'AI agentica potrebbe creare rischi legali significativi e imprevedibili, mentre ricercatori di diversi laboratori di punta hanno messo in guardia sul fatto che uno sviluppo dell'AI sempre più automatizzato potrebbe indebolire la supervisione umana.

L'esame si svolge anche parallelamente agli sforzi del settore per stabilire salvaguardie volontarie. Martedì, OpenAI, Anthropic e altre grandi aziende tecnologiche hanno firmato un accordo sulla sicurezza dell'AI con l'amministrazione Trump che include valutazioni indipendenti e misure volte a impedire che i sistemi accedano a infrastrutture o le compromettano involontariamente. Se tale quadro volontario e i pot statutory esistenti della FTC saranno sufficienti — o se il Congresso interverrà infine con una legislazione specifica sull'AI — è la domanda che incombe sull'indagine mentre procede.