Una donna della Florida che dice di usare l'IA come un diario ora rischia un'accusa grave per felonia—e chi l'ha letta è stato qualcuno a cui non aveva mai intenzione di mostrarlo.

Carli Michelle Heller, di Bonita Springs, è stata arrestata dopo che gli investigatori hanno scoperto che il 26 settembre aveva scritto che avrebbe "attaccato a colpi d'arma da fuoco" lo Sceriffato della contea di Lee, secondo la testata locale WINK News. Secondo l'indagine, il suo account Claude mostrava conversazioni che indicavano che si era procurata una nuova pistola entro il giorno successivo.

Secondo il rapporto di arresto, la piattaforma di Anthropic monitora le conversazioni degli utenti alla ricerca di frasi chiave e contenuti minacciosi. Data la gravità delle dichiarazioni, queste sono state inoltrate a un team di revisione umana, che le ha segnalate alle forze dell'ordine. I vicesceriffi hanno identificato Heller, si sono recati a casa sua e l'hanno trattenuta senza incidenti. È incriminata per aver comunicato per iscritto una minaccia di violenza.

La documentazione di Anthropic non nasconde nulla di tutto questo. I termini consumer dell'azienda si riservano il diritto, a "sole discrezione" di Anthropic, di segnalare gli input, gli output o le azioni di un utente alle forze dell'ordine. La sua informativa sulla privacy, in vigore dal 10 settembre 2026, consente inoltre la condivisione dei dati con la polizia quando l'azienda ritiene in buona fede che la divulgazione sia ragionevolmente necessaria per prevenire danni gravi.

In pratica, anche gli utenti che rinunciano all'uso dei propri per l'addestramento dei modelli si limitano a ridurre il periodo di conservazione di Anthropic da cinque anni a tre mesi, il che significa che le chat non sono mai completamente private. La stessa politica stabilisce che le conversazioni segnalate per revisione di sicurezza vengono comunque utilizzate per migliorare la capacità di Anthropic di rilevare contenuti dannosi—il che significa che una voce di diario segnalata può finire come materiale di addestramento per i sistemi di rilevamento. Per gli utenti che trattano Claude come l'ha descritto Heller—come un diario—queste sono le regole operative: le voci possono essere monitorate per contenuti minacciosi, conservate per mesi o anni e, quando un team di revisione ne giudica le dichiarazioni gravi, segnalate alla polizia.

Heller non è la prima. Il San Francisco Standard ha riportato a settembre che Anthropic aveva segnalato alla polizia un utente dopo che questi aveva presumibilmente scritto di aver comprato un AR-15 e di avere l'amministratore delegato Dario Amodei nel mirino. Un dipendente aveva detto agli agenti di non essere immediatamente preoccupato per la sicurezza e aveva rifiutato di mostrare i messaggi, citando la politica aziendale. L'utente aveva detto allo Standard che stava scherzando, e al momento della pubblicazione del servizio non era stato arrestato né incriminato. Un portavoce di Anthropic aveva definito l'episodio "il nostro processo di salvaguardia che funziona come previsto." L'azienda ha rifiutato di dire se tratta diversamente le minacce contro i propri dipendenti. Le due segnalazioni si sono inoltre concluse in modo diverso: il caso precedente non aveva prodotto arresti o accuse al momento della pubblicazione dello Standard, mentre Heller è stata trattenuta e incriminata.

Questo non è solo un problema di Anthropic. Dopo la sparatoria di febbraio in una scuola di Tumbler Ridge, nella Columbia Britannica, che ha ucciso otto persone, OpenAI ha dichiarato di aver valutato di avvisare la polizia canadese a giugno 2025, ma di aver concluso che l'account non mostrava un rischio imminente e credibile di danni fisici gravi, come riportato in precedenza da Decrypt. Lo stesso post di politica di agosto 2025 di OpenAI indirizza le minacce contro terzi a revisori umani, che possono segnalare il caso alle forze dell'ordine. Presi insieme, questi episodi mostrano che la decisione su se una conversazione con un chatbot giustifichi una segnalazione alla polizia spetta alle aziende stesse—e, finora, è andata in entrambe le direzioni.

Heller ha un'udienza fissata per novembre—il prossimo passo in un caso iniziato con una voce che non aveva mai intenz che qualcun altro leggesse.