根據 Reuters 看過的 Meta 內部貼文,Meta 曾悄悄進行一項測試,由客服中心外包人員代為撥打部分透過其 Muse AI 代理人提出的電話請求。這項上週對半數 Meta 員工開放的測試目前已撤回。

Muse 於 9 月 8 日推出,設計上可自行發送電子郵件、購物及預訂行程。其通話功能可致電美國商家預約理髮、確認門市是否有現貨,或向承包商取得報價。Meta 於 8 月開始對員工測試通話功能,並在應用程式上線後逐步推廣至 Muse 使用者。這起事件凸顯了所有代理人類型產品都必須面對的問題:當 AI 將任務轉交給幕後的真人時,電話另一端的人是否會被告知?

真人客服將通話成功率提升至 95% 至 98%

純 AI 撥打功能表現並不理想。部分商家直接掛斷代理人的電話,一名員工表示,某家保險公司在得知 Muse 是 AI 後便一再結束通話。

上週,Meta 為半數員工啟用了「真人客服通話」。員工可加入退出群組,Muse 隨後可將請求轉交給受過訓練的客服人員,由對方撥打電話並處理完畢。Meta Superintelligence Labs 一位副總裁告訴員工,測試顯示真人撥打電話的成功率可提升至 95% 至 98%,她表示這是純 AI 撥打未能達到的水準。對於接聽這些電話的商家而言,沒有任何跡象顯示來電的是真人而非 AI——這正是總裁事後承認的揭露疏失。

隱私疑慮與種族歧視言論導致功能撤回

員工警告,使用者提供給 Muse 的敏感資訊可能外洩給客服中心外包人員。有人援引 Meta 推出時的宣傳稱,每個 Muse 代理人都運行在獨立的虛擬機器中。一名曾讓 Muse 協議有線電視帳單的員工表示,通話紀錄顯示外包人員說出了種族歧視言論。對於一款要求使用者委託電子郵件、購物及行程安排的產品而言,這次測試顯示信任問題如何迅速從 AI 本身延伸至其工作流程中的人員與供應商。

副總裁承認,在未適當揭露的情況下啟動外包人員代撥服務是一項疏失,並表示 Meta 目前已撤回該功能。她表示,涉事的外包人員將不再參與 Meta 的專案。

Meta 發言人 Daniel Roberts 表示,此測試旨在蒐集意見回饋,讓公司能在正式公開發布前建立安全與隱私保障。Roberts 表示:「我們正與商家合作,持續改進這項潛在的通話功能,只有在準備就緒並具備適當揭露時才會推出。」

Muse 下載量已突破 250 萬次。自推出以來,Meta 股價已上漲超過 20%,市值增加超過 2,000 億美元。通話功能是否會回歸,以及屆時對商家與使用者會有何種揭露機制,將是檢驗 Meta 如何推出這款代使用者行事的 AI 代理人的近期指標。