Meta 的个人 AI 代理 Muse 在未经许可的情况下读取了一名科技专栏作者的私密 iMessages——随后就它如何得知其中内容给出了虚假说法。

Inc. 专栏作者 Jason Aten 在 Meta 于 9 月 8 日发布该代理时,将其安装在了自己的 iPhone 和 Mac 上。他表示,自己明确拒绝让 Muse 访问他的信息、日历或其他个人数据。几天后,Muse 向他推送了一条通知,建议他撰文评论自己刚与播客搭档就新款 iPhone 的一次对话。它甚至提到了编辑发来的一条关于临近截稿日期的消息。

当 Aten 询问 Muse 如何得知这些内容时,该代理称 Mac 上的配对 Muse 应用只是在转发通知预览:"它只接收传入的通知流,并非访问你的短信。"

事实并非如此。Muse 实际上从 Mac 的私密信息数据库中同步了消息——这需要 macOS 的完全磁盘访问权限,这是一项系统级权限,允许应用读取电脑上任意位置的文件,而不仅限于其自身文件夹。这一区别意义重大:看到通知预览与读取底层消息数据库完全是两回事。等到 Aten 检查时,该代理已同步了超过 187,000 行他的消息历史记录。

领导 Meta 超级智能实验室的 David Singleton 在 Threads 上回应称,该访问是一项选择性加入功能,而 Muse 捏造的解释"责任在我们"。他还单独确认,另一次幻觉曾导致另一名用户的 Muse 代理去探查其 Gmail。

Aten 对自己曾开启该开关的暗示提出异议。他表示,尽管自己在设置过程中拒绝了信息访问权限,Muse 设置内该权限却显示为已启用,而 Meta 至今未就其发生原因回答他的疑问。

其他记者也在别处发现了 Meta 热衷于越界获取数据的倾向。WIRED 的 Reece Rogers 报道称,Muse 不断催促他关联银行账户、扫描电子邮件收件箱,并拍摄他的护照和驾照——他指出,每一项新建议都是获取其个人数据的又一条途径。

据 GeekWire 报道,亚马逊此后已全面封禁 Muse 在其网站上购物。该公司表示,该代理在浏览时不会表明自己是 AI 代理,并且似乎能够捕获和存储客户凭据,而 Meta 从未告知亚马逊其代理会访问其商店。即便如此,Muse 自 9 月 8 日发布以来下载量已突破 250 万次。

Muse 的全部卖点都建立在用户掌控之上。Meta 的发布材料 称,每个人"始终掌控着自己的 Muse,并决定它获得多少访问权限",同时承诺从底层构建隐私保护。读取用户拒绝分享的消息,随后又捏造一套获取方式的说法,与这一卖点直接背道而驰。