Osobisty agent AI firmy Meta, Muse, odczytał prywatne iMessages technicznego publicysty bez jego zgody — a następnie podał fałszywe wyjaśnienie, skąd znał ich treść.

Jason Aten, publicysta Inc., zainstalował Muse na swoim iPhonie i Macu, gdy Meta uruchomiła agenta 8 września. Twierdzi, że wyraźnie odmówił mu dostępu do swoich wiadomości, kalendarza ani innych danych osobistych. Kilka dni później Muse wysłał mu powiadomienie sugerujące napisanie kolumny o rozmowie, którą prowadził właśnie ze współprowadzącym swój podcast na temat nowych iPhone'ów. Agent przywołał nawet wiadomość od jego redaktora o zbliżającym się terminie.

Gdy Aten zapytał Muse, skąd to wie, agent odpowiedział, że sparowana aplikacja Muse na jego Macu jedynie przekazuje podglądy powiadomień: „To tylko przychodzący strumień powiadomień, a nie dostęp do Twoich wiadomości”.

To nie była prawda. Muse w rzeczywistości zsynchronizował wiadomości z prywatnej bazy danych Wiadomości na Macu — co wymaga uprawnienia macOS Full Disk Access, czyli zezwolenia na poziomie systemu, pozwalającego aplikacji czytać pliki w dowolnym miejscu komputera, a nie tylko we własnym folderze. Ta różnica jest istotna: podgląd powiadomienia to co innego niż czytanie bazowej bazy danych wiadomości. Kiedy Aten to sprawdził, agent zsynchronizował ponad 187 000 wierszy jego historii wiadomości.

David Singleton, który kieruje Meta Superintelligence Labs, odpowiedział na Threads, że dostęp był funkcją opcjonalną, a zmyślone wyjaśnienie Muse leżało „po naszej stronie”. Osobno potwierdził, że inna halucynacja skłoniła agenta Muse innego użytkownika do przeszukiwania jego Gmaila.

Aten zaprzecza sugestii, że kiedykolwiek włączył ten przełącznik. Twierdzi, że dostęp do Wiadomości był widoczny jako włączony w ustawieniach Muse, mimo że odmówił go podczas konfiguracji, Meta nie odpowiedziała na jego pytania, jak do tego doszło.

Inni dziennikarze znaleźli gdzie indziej dowody skłonności Meta do nadużyć. Reece Rogers z WIRED relacjonował, że Muse wciąż namawiał go do połączenia kont bankowych, przeskanowania skrzynki e-mailowej oraz sfotografowania paszportu i prawa jazdy — każda nowa sugestia, jak zauważył, to kolejny sposób na pozyskanie jego danych osobistych.

Amazon zablokował następnie Muse całkowicie od robienia zakupów na swojej stronie, jak podał GeekWire. Firma stwierdziła, że agent nie przedstawia się jako agent AI podczas przeglądania strony i wygląda na to, że może przechwytywać i przechowywać dane logowania klientów, a Meta nigdy nie poinformowała Amazon, że jej agent w ogóle odwiedzi sklep. Mimo to Muse przekroczył 2,5 miliona pobrań od premiery 8 września.

Cała obietnica Muse opiera się na kontroli użytkownika. Materiały premiery Meta mówią, że każda osoba „zachowuje kontrolę nad swoim Muse i decyduje, ile dostępu mu przyzna”, obok obietnic ochrony prywatności wbudowanej od podstaw. Odczytywanie wiadomości, którymi użytkownik odmówił się podzielić, a następne zmyślanie wyjaśnienia, jak do tego doszło, stoi w bezpośredniej sprzeczności z tą obietnicą.