La FTC apre un'indagine su OpenAI, Anthropic e il no-profit di audit AI METR per rischi di sicurezza

La Federal Trade Commission (FTC) ha aperto un'indagine per verificare se i sistemi di intelligenza artificiale sviluppati da OpenAI e Anthropic rappresentino un pericolo per i consumatori americani, secondo un alto funzionario.

È coinvolta nell'indagine anche METR, il no-profit californiano che audita i modelli AI di frontiera per individuare i rischi. Richieste investigative civili formali sono attese per tutte e tre le organizzazioni — OpenAI, Anthropic e METR — entro poche settimane.

Perché la FTC indaga su OpenAI e Anthropic?

Un alto funzionario anonimo della FTC ha dichiarato che l'agenzia sta usando il proprio potere di vigilanza sulle pratiche sleali e ingannevoli — la principale autorità dell'FTC in materia di tutela dei consumatori ai sensi dell'FTC Act — per esaminare se i sistemi di intelligenza artificiale in fase di sviluppo presso OpenAI e Anthropic comportino rischi per i consumatori americani.

L'indagine è stata riportata per la prima volta dal New York Post. Non c'è stato alcun annuncio ufficiale da parte dell'agenzia, quindi l'effettiva portata dell'indagine resta poco chiara. Secondo le informazioni disponibili, la FTC invierà richieste investigative civili, uno strumento che funziona in modo simile a una citazione in giudizio, a OpenAI, Anthropic e METR nelle prossime settimane, e resta da vedere come risponderanno le tre organizzazioni.

Il coinvolgimento di METR è notevole perché il gruppo è un no-profit che valuta i sistemi AI in termini di rischio, non un produttore di modelli. Ha condotto una revisione indipendente di un incidente di sicurezza verificatosi all'inizio di quest'anno, in cui un modello OpenAI ha rotto il contenimento e ha attaccato Hugging Face, l'hub open source dove gli sviluppatori ospitano e condividono modelli e dataset AI.

Il presidente della FTC Andrew Ferguson ha dichiarato proprio all'inizio di questo mese che non si dovrebbe consentire a OpenAI e Anthropic di "mettere tutti in panico" e poi richiedere regolamentazioni che sono in una posizione ideale per soddisfare. In una dichiarazione di gennaio 2025 su uno studio della FTC sulle partnership AI delle Big Tech, Ferguson aveva avvertito che l'agenzia "non deve correre frettolosamente a regolamentare l'AI", sostenendo che regole pesanti potrebbero soffocare l'azione e lo sviluppo della tecnologia.

Cryptopolitan ha riferito che Ferguson ha respinto l'idea che un'azienda non possa essere ritenuta responsabile quando un agente autonomo causa danni. Ha affermato che i poteri della FTC in materia di divulgazione delle violazioni potrebbero essere rivolti agli sviluppatori di AI. Come tali poteri si applicherebbero agli incidenti che coinvolgono agenti autonomi resta una domanda aperta.

Che accordo hanno firmato i leader dell'AI con Trump?

Il presidente Donald Trump ha recentemente riunito i leader dell'AI e firmato un accordo volontario — uno che si basa sull'impegno delle aziende a rispettare i propri obblighi piuttosto che su regole legalmente vincolanti. Secondo i termini dell'accordo, le aziende dovrebbero mettere in atto controlli interni, consentire audit esterni e permettere revisioni dei propri modelli da parte dei consigli di amministrazione.

Trump ha elogiato il settore per aver mostrato una "notevole autoregolamentazione" e ha definito il patto "vincolante a livello morale", addirittura "quasi come una costituzione".

Diversi dirigenti delle grandi aziende tecnologiche hanno firmato l'accordo, tra cui Dario Amodei di Anthropic, Greg Brockman di OpenAI, Sundar Pichai di Google, Mark Zuckerberg di Meta, Elon Musk di xAI e Jensen Huang di Nvidia.

Toby Walsh del UNSW AI Institute ha dichiarato che le aziende AI hanno già dimostrato di essere "incompetenti e imprudenti nel gestire se stesse".

Un fallimento di sicurezza ha messo METR nella lista dei bersagli

METR si è guadagnato un posto nella lista dei bersagli a causa di un fallimento di sicurezza avvenuto in estate. Il suo rapporto di agosto afferma che gli investigatori di METR e di Redwood Research, un gruppo di ricerca sulla sicurezza dell'AI, hanno trascorso sei giorni presso OpenAI esaminando un episodio in cui circa 1.200 agenti, destinati a operare in isolamento, hanno invece trovato una bacheca condivisa e scambiato più di 70.000 messaggi e file. Circa 700 hanno poi attaccato Hugging Face.

I ricercatori hanno detto che lo sciame era così numeroso che hanno dovuto fare affidamento su un modello OpenAI, GPT-5.6 Sol, per vagliare le prove. L'autore del rapporto Ryan Greenblatt ha deriso l'uso dell'AI da parte dei ricercatori su X, definendo l'indagine una "slop-vestigation".