Il regolatore sudcoreano per la privacy sta esaminando una violazione dei dati presso Anthropic che ha esposto circa 100 account aziendali appartenenti a società coreane.

La Personal Information Protection Commission (PIPC) ha dichiarato lunedì di aver ricevuto una segnalazione della violazione da Anthropic, presentata dall'azienda il 31 ottobre. La divulgazione del regolatore è stata riportata da Yonhap News Agency e Seoul Economic Daily. La PIPC è la massima autorità sudcoreana per la protezione dei dati personali, e la revisione sottopone a esame ufficiale la gestione dei dati dei clienti aziendali coreani da parte di un fornitore di AI straniero.

Cosa ha segnalato Anthropic alla PIPC?

La PIPC ha confermato che Anthropic ha presentato una segnalazione relativa alla violazione dei dati il 31 ottobre, dichiarando che circa 100 account aziendali — tutti appartenenti a società coreane — sono stati esposti.

La revisione è in una fase iniziale e la commissione non ha ancora aperto un'indagine formale. Ha sottolineato che le revisioni che coinvolgono società straniere possono richiedere più tempo, poiché i regolatori possono richiedere documenti prima che un'indagine inizi formalmente. Una volta avviata un'indagine formale, la PIPC ha dichiarato di intendere accertare l'entità dei danni. Il caso illustra anche come la supervisione coreana sulla protezione dei dati si estenda ai fornitori di AI stranieri i cui clienti aziendali coreani sono coinvolti in una violazione.

Anthropic ha comunicato ad alcuni dei suoi clienti che i dati esposti includevano numeri ID di account e organizzazioni, oltre a informazioni di contatto aziendali come nomi e indirizzi email.

Lydia Harley, ricercatrice tecnica dell'azienda, ha rivelato su X che l'intruso ha anche visualizzato i piani di abbonamento aziendali, sebbene i prompt degli utenti, gli output AI e i dati di pagamento non siano stati consultati. Anche i pesi dei modelli di Anthropic, il codice sorgente e le conversazioni Claude non sono stati raggiunti.

L'azienda ha dichiarato di aver spento i sistemi interessati lo stesso giorno in cui ha confermato il problema e di aver collaborato con il fornitore di software di terze parti per correggere la vulnerabilità sfruttata. Anthropic ha inoltre riconosciuto che resta ancora molto lavoro da fare sul monitoraggio del software di terze parti. L'incidente mostra come il software di terze parti possa diventare un punto di esposizione per i fornitori di AI anche quando i loro sistemi principali restano intatti.

Chi è Cathedral e come si è verificata la violazione?

Cathedral è una giovane startup di cybersecurity fondata da quattro ex collaboratori del soppresso Department of Government Efficiency (DOGE): Gavin Kliger, Luke Farritor, Marko Elez e Jack Stein. L'azienda è valutata 1,4 miliardi di dollari dopo aver raccolto 160 milioni di dollari da Andreessen Horowitz e Sequoia Capital, e Marc Andreessen e Shaun Maguire siedono entrambi nel suo board.

La startup mirerebbe, secondo quanto riportato, a rafforzare la potenza informatica militare statunitense contro rivali come la Cina, e detiene contratti con tre agenzie federali.

Kliger, l'amministratore delegato, ha il legame più stretto con Anthropic. In precedenza è stato chief data officer al Pentagono e, secondo più fonti, ha partecipato allo scontro del dipartimento con Anthropic su come l'esercito potesse utilizzare i suoi modelli AI.

Secondo la versione dei fatti di Cathedral — registrata nel database degli incidenti AI del MIT — i suoi agenti AI hanno trovato percorsi verso trascrizioni di riunioni, dettagli su stipendi e offerte di lavoro e messaggi Slack interni in meno di 12 ore.

Logan Graham, responsabile della cybersecurity di Anthropic, ha smentito questa affermazione, pubblicando su X che l'operazione ha in realtà richiesto diversi giorni. Ha scritto che il metodo di Cathedral era "insolito e fuori dal perimetro" perché combinava vulnerabilità di diversi software di terze parti.

Il test di Cathedral sulle difese di Anthropic avrebbe dovuto rientrare nel programma di bug bounty dell'azienda, ma Anthropic dichiara che la startup ha violato le regole del programma non spiegando pienamente l'ampiezza del test e presentando i propri risultati come più significativi per la sicurezza nazionale di quanto fossero.

In aggiunta, i sistemi di monitoraggio di Anthropic avrebbero rilevato parte dell'attività prima che Cathedral presentasse la propria segnalazione.

Finora Anthropic non ha presentato denuncia legale, e Cathedral ha stipulato un accordo con OpenAI per testare le proprie difese. Resta da vedere se la revisione in fase iniziale della PIPC sfoci in un'indagine formale, oltre a un'eventuale decisione di Anthropic di intraprendere azioni legali.