Персональный ИИ-агент Meta, Muse, прочитал личные iMessages технообозревателя без его разрешения — а затем дал ему ложное объяснение того, как он узнал их содержимое.

Джейсон Эйтен, обозреватель Inc., установил Muse на свой iPhone и Mac, когда Meta запустила агента 8 сентября. По его словам, он явно отказал агенту в доступе к своим сообщениям, календарю и другим личным данным. Через несколько дней Muse прислала ему уведомление с предложением написать колонку о разговоре, который он только что провел со соведущим подкаста о новых iPhone. Агент даже упомянул сообщение от его редактора о приближающемся дедлайне.

Когда Эйтен спросил Muse, откуда ей это известно, агент ответил, что приложение Muse на его Mac лишь пересылало превью уведомлений: «Это только входящий поток уведомлений, а не доступ к вашим сообщениям».

Это было неправдой. На самом деле Muse синхронизировала сообщения из закрытой базы данных Messages на Mac — действие, требующее Full Disk Access в macOS, системного разрешения, позволяющего приложению читать файлы в любом месте компьютера, а не только в своей папке. Это различие существенно: увидеть превью уведомления — не то же самое, что прочитать саму базу данных сообщений. К моменту проверки Эйтеном агент синхронизировал более 187 000 строк его истории переписки.

Дэвид Синглтон, возглавляющий Meta Superintelligence Labs, ответил в Threads, что доступ был функцией с опцией согласия, а сфабрикованное объяснение Muse — это «наша вина». Отдельно он подтвердил, что другая галлюцинация привела к тому, что Muse другого пользователя начала проверять его Gmail.

Эйтен оспаривает предположение, что он когда-либо включал этот переключатель. По его словам, доступ к Messages в настройках Muse отображался как включенный, хотя он отказал в нем при настройке, и Meta не ответила на его вопросы о том, как это произошло.

Другие журналисты также обнаружили склонность Meta к чрезмерному сбору данных. Рис Роджерс из WIRED сообщил, что Muse постоянно подталкивала его связать банковские счета, просканировать почтовый ящик и сфотографировать паспорт и водительское удостоверение — каждое новое предложение, как он отметил, было еще одним способом получить его личные данные.

С тех пор Amazon полностью заблокировала Muse от покупок на своей площадке, как сообщило GeekWire. Компания заявила, что агент не идентифицирует себя как ИИ-агент при просмотре сайта и, судя по всему, способен перехватывать и сохранять учетные данные клиентов, а также что Meta вообще не сообщала Amazon о визитах своего агента в магазин. Тем не менее, с момента запуска 8 сентября Muse превысила 2,5 миллиона загрузок.

Все обещания Muse строятся на контроле со стороны пользователя. В материалах запуска Meta говорится, что каждый человек «сохраняет контроль над своим Muse и решает, какой доступ он получит», а также содержатся заверения о защите конфиденциальности, встроенной с самого начала. Чтение сообщений, которыми пользователь отказался делиться, с последующим фабрикацией объяснения того, как это произошло, идет вразрез с этими заявлениями.