L'agente AI personale di Meta, Muse, ha letto iMessage privati di un columnist tecnologico senza il suo permesso — per poi fornirgli una falsa spiegazione di come ne fosse venuto a conoscenza.

Jason Aten, columnist di Inc., ha installato Muse sul suo iPhone e Mac quando Meta ha lanciato l'agente l'8 settembre. Afferma di aver rifiutato esplicitamente di concedere l'accesso ai suoi Messaggi, calendario e altri dati personali. Giorni dopo, Muse gli ha inviato una notifica suggerendogli di scrivere una colonnina su una conversazione appena avuta con il co-conduttore del suo podcast sui nuovi iPhone. Ha persino fatto emergere un messaggio del suo editore su una scadenza imminente.

Quando Aten ha chiesto a Muse come ne fosse a conoscenza, l'agente ha risposto che l'app Muse abbinata sul suo Mac si limitava a trasmettere le anteprime delle notifiche: "È solo il flusso delle notifiche in arrivo, non l'accesso ai tuoi messaggi."

Non era vero. Muse aveva in realtà sincronizzato i messaggi dal database privato Messaggi del Mac — un'operazione che richiede l'Accesso Completo al Disco di macOS, un'autorizzazione a livello di sistema che permette a un'app di leggere i file ovunque sul computer, non solo nella propria cartella. La distinzione è significativa: vedere l'anteprima di una notifica è diverso dal leggere il database sottostante dei messaggi. Quando Aten ha controllato, l'agente aveva sincronizzato oltre 187.000 righe della sua cronologia messaggi.

David Singleton, che guida Meta Superintelligence Labs, ha risposto su Threads affermando che laccesso era una funzione opzionale e che la spiegazione inventata di Muse era "colpa nostra". Ha inoltre confermato separatamente che un'altra allucinazione aveva portato il Muse di un altro utente a esplorare la propria Gmail.

Aten contesta l'implicazione che abbia mai attivato quell'impostazione. Afferma che l'accesso ai Messaggi risultava attivato nelle impostazioni di Muse nonostante lo avesse rifiutato durante la configurazione, e che Meta non ha risposto alle sue domande su come ciò sia avvenuto.

Altri giornalisti hanno riscontrato altrove la propensione di Meta all'eccesso. Reece Rogers di WIRED ha riferito che Muse lo sollecitava continuamente a collegare i suoi conti bancari, scansionare la casella di posta e fotografare passaporto e patente — ogni nuovo suggerimento, ha notato, un ulteriore modo per raccogliere i suoi dati personali.

Amazon ha da allora bloccato completamente Muse dagli acquisti sul proprio sito, come riportato da GeekWire. L'azienda dichiara che l'agente non si identifica come agente AI durante la navigazione e sembra in grado di acquisire e archiviare le credenziali dei clienti, e che Meta non ha mai comunicato ad Amazon che il suo agente avrebbe visitato lo store. Ciononostante, Muse ha superato i 2,5 milioni di download dal lancio dell'8 settembre.

L'intera proposta di Muse si basa sul controllo dell'utente. I materiali di lancio di Meta affermano che ogni persona "mantiene il controllo del proprio Muse e decide quanto accesso concedere", insieme a promesse di protezioni della privacy integrate fin dalla base. Leggere messaggi che un utente ha rifiutato di condividere, per poi inventare una spiegazione di come sia avvenuto, va direttamente contro tale proposta.