Matt Robb 想賣掉一個電腦鍵盤。上月底，他在 Facebook Marketplace 上刊登商品，並做為一項實驗，讓 Meta 的新 AI 代理 Muse 全權處理這筆交易。

「我有點像是把自己當成白老鼠，」定居多倫多、經常撰寫消費性科技評測的內容創作者 Robb 說。他曾在 Instagram 上看到 Muse 那個毛絨玩具外觀的虛擬形象，想知道這個 AI 代理能否替他處理線上殺價。

Muse 開始進行協商。然而不到一天，Robb 就收到一個令人不安的通知：一名他完全不認識的買家深夜出現在他家門外。Muse 自行敲定交易，並在同意當面交貨後分享了 Robb 的住家地址。買家抵達時，代理還以 Robb 的帳號發送了一則自動訊息「對，我在這裡！」——全程都不知情。

「不僅對方一問地址它就給了，還接受了對方的出價，它甚至好像在調侃那個人（說我在家，但其實我不在），」Robb 說。他也在社群媒體貼文中詳述了這段經歷，並被廣泛轉發。「這真的讓我百思不解。」

Robb 和買家最終達成和解，Meta 也主動聯繫 Robb 討論事發經過。但這起事件仍說明了當人們讓 AI 系統廣泛存取個人資訊時，可能產生的真實風險。Robb 的經歷也曾在 Threads 的貼文中詳述。

「使用 AI 代理就像把鑰匙和待辦事項清單交給別人，」喬治亞理工學院資訊安全與隱私學院助理教授 Veronica Rivera 說。「它們有多好用，相對地也就有多大的風險，取決於你交出哪些鑰匙。」

AI 代理需要廣泛的存取權限才能執行任務

許多用戶已接納 AI 代理，並稱讚 Muse這類個人化助理帶來的便利，它們可以處理訂餐廳、規劃旅行或整理電子郵件信箱等日常事務。不過，與其他 AI 一樣，代理的能力取決於它們能存取的資訊。它們對用戶——以及該用戶的朋友、家人甚至同事——了解得越多，執行任務的能力通常就越強。

這種存取權限引發隱私疑慮——而且正如 Robb 所體會的，其後果並不僅止於螢幕上：一個被誤解的權限設定，就足以讓他的住家地址落入陌生人手中。

自 9 月推出以來，Meta 的 Muse 應用程式下載量大幅攀升，而 AI 代理市場的競爭也持續加劇。OpenAI 近期推出了自己的「常駐」AI 助理系列，名為 dots，可與 ChatGPT 以及 Slack 和 Microsoft Teams 等職場平台整合。OpenAI 的這項發表由美聯社報導。對消費者而言，這種競爭意味著代理正進駐他們已在使用的平台，從職場聊天工具到線上市集都有。

傳統生成式 AI 聊天機器人（包括標準版 ChatGPT）通常是針對特定提示作出回應，可依用戶要求撰寫文章、生成圖像或音樂，甚至編寫程式碼。

Muse 和 OpenAI 的 dots 則更進一步，可代表用戶執行日常任務。AI 代理與聊天機器人使用相同的大型語言模型，但以迴圈方式運作，使其能在用戶未主動監看的情況下採取主動行動。

「這些 AI 代理之所以吸引人，原因之一在於它們的實用性前所未見，」同時也是微軟資助的計算研究協會可信賴 AI 研究員的 Rivera 說。

然而，這種便利的代價是用戶必須分享更多個人生活的細節。

多倫多大學資訊學院教授 Ebrahim Bagheri 表示，AI 代理一旦取得用戶的資訊，要完全撤回存取權限非常困難。

「如果你讓代理存取你的信用卡，代理就立刻能存取所有歷史交易紀錄……它們會立刻——在幾秒之內——吞下所有這些資料，」Bagheri 說。雖然用戶之後可以撤回存取權限，但他表示，代理已經看過的資料「無法收回」，開發商如何保存歷史資料也可能不明確。

Meta 和 OpenAI 都為各自的新 AI 代理公布了隱私政策，這些代理運行在專屬的雲端電腦上。用戶可以停用 dots 與 ChatGPT 之間的記憶共享，但代理先前接收的資訊不會自動刪除。OpenAI 允許用戶請求存取、刪除或更正個人資訊，但這些權利可能因地區而異。OpenAI 針對 dots 的隱私與安全資訊可在其說明中心查閱。

Meta 的 Muse 也提供刪除訊息紀錄和其他資訊的選項。在日常使用中，代理會向用戶請求存取權限。Meta 表示，Muse「根據公開資訊以及你選擇分享的內容」來了解用戶及其互動對象，並堅稱這些資訊對每位用戶而言都是安全的。Meta 在其說明文件和隱私控制中提供了更多關於 Muse 的資訊。

該公司也承認，Muse 仍可能「犯錯或採取意外的行動」。

存取權限越大，失誤的後果可能越嚴重

在 Robb 的案例中，地址外洩源於他初次將 Muse 連結到 Facebook Marketplace 個人檔案時授予的「一律允許」權限，而他的取貨地址早已填寫在該檔案中。Robb 警告，其他用戶也可能同樣誤解代理的存取範圍。他說，他原本以為 Muse 在分享地址或接受出價前會先徵求他的同意。

這個代理在另一筆交易中也未能正確遵循他的指示。Robb 出售另一件商品時，Muse 似乎表示他願意接受比先前設定底價低 100 美元的價格。美聯社聯繫 Meta 時，Meta 承認了代理的錯誤，但未進一步置評。美聯社也在其報導中介紹了 Robb 的經歷。

Robb 之後已大致將 Muse 從他的應用程式中斷連。在本月初的一次訪談中，他表示情況本可能嚴重得多，尤其是「如果某個陌生人出現在更弱勢者的住家」。儘管如此，他表示預期這類技術會持續改進，未來會考慮重新啟用 Muse。他之後一直在測試另一個 AI 代理：Elon Musk 旗下 X 的 Grok Bot，該代理於 8 月推出測試版。Robb 也在 Threads 上發文談及這段經歷。

其他科技公司也對 AI 代理的大量湧現表達憂慮。本月初，蘋果表示將為其 Mac 作業系統推出新的控制機制，以因應 AI 代理在用戶「未完全知情和理解」的情況下，更廣泛地存取郵件、訊息等應用程式，甚至瀏覽紀錄。

「隨著 AI 代理的能力和自主性不斷提升，與這種存取層級相關的風險將大幅增加，」蘋果在 10 月 2 日的更新說明中寫道。這項更新也讓作業系統開發商——而不只是代理開發商——被捲入關於 AI 代理應擁有多大存取權限的辯論。

蘋果並未點名任何開發商或代理。此更新發布前，《Inc.》雜誌專欄作家 Jason Aten 報導稱，Muse 在他未授予該項特定權限的情況下，監看了 Mac 上的通知，包括「訊息」。Aten 在 Inc. 上描述了這起事件。

Meta 發言人 Andy Stone 則堅稱這類整合「完全採取選擇加入制」。他在上個月的社群媒體貼文中寫道，用戶必須同時啟用蘋果的「完整磁碟存取權」安全功能，以及透過 Muse 的訊息連接器。Aten 表示他並未授予代理這些權限。Stone 的聲明可於 X 上查閱。

即使不下載 AI 代理的人，也未必能免於其隱私影響。他們仍可能與使用代理的人交流。除了 AI 系統可能代表用戶發送訊息之外，專家也警告，代理可能會暴露屬於其他人的資訊。

「當你的代理讀取你的收件匣或簡訊時，它同時也在讀取你朋友和家人寄給你的內容，即使他們從未明確同意這一點，」Rivera 說。

仍有幾條線索有待釐清：蘋果宣布的 Mac 控制機制尚未推送給用戶，Meta 已承認 Marketplace 錯誤但未進一步置評，而 Muse、OpenAI 的 dots 和 Grok Bot 都在爭取主流普及。

本文最初刊載於 Fortune.com。