新闻股票Meta 回滚让呼叫中心外包人员代打 Muse AI 电话的测试

Meta 回滚让呼叫中心外包人员代打 Muse AI 电话的测试

作者: Cryptopolitan·

要点速览

  • •Meta 曾短暂启用一项测试,让 Muse 将用户的通话请求转交给经过培训的呼叫中心外包人员处理,随后回滚了该功能。
  • •人工拨打电话的成功率达到 95% 至 98%,这是纯 AI 拨打功能未曾达到的水平。
  • •接听外包人员代打电话的商家并未被告知电话那头是人而非 AI,一位 Meta 副总裁承认这一缺口是一个失误。
  • •员工对敏感用户信息可能送达外包人员提出隐私担忧,且一份通话记录显示外包人员发表了种族歧视言论;该人员将不再参与 Meta 项目。
  • •Muse 下载量已突破 250 万次,自上线以来 Meta 股价上涨超过 20%,市值增加逾 2000 亿美元。
Meta 回滚让呼叫中心外包人员代打 Muse AI 电话的测试

据路透社看到的内部公司帖子,Meta 曾悄悄运行一项测试,由呼叫中心外包人员替其 Muse AI 代理拨打部分用户请求的电话。该测试于上周对一半员工开放,目前已回滚。

Muse 于 9 月 8 日上线,旨在自主发送电子邮件、购物和预订差旅。其通话功能可拨打美国商家电话,用于预约理发、确认门店是否有货,或向承包商获取报价。Meta 于 8 月开始与员工测试通话功能,并在应用上线后逐步推广至 Muse 用户。这一事件直指所有代理类产品都绕不开的问题:当 AI 在幕后把任务交给真人处理时,电话另一端的人是否有权知情?

人工坐席将电话成功率提升至 95% 至 98%

纯 AI 拨打功能存在不少瑕疵。一些商家直接挂断了代理的电话,一名员工表示,一家保险公司在得知 Muse 是 AI 后反复挂断电话。

上周,Meta 为一半员工启用了"人工坐席通话"。员工可选择加入退出组,Muse 随后可将请求转交给经过培训的坐席,由其拨打电话并处理完成。Meta 超级智能实验室的一位副总裁告诉员工,测试显示人工拨打电话的成功率可提升至 95% 至 98%,她表示这是纯 AI 拨打未能达到的水平。对于接听这些电话的商家而言,没有任何信号表明电话那头是人而非 AI——这位副总裁后来承认这一信息披露缺口是一个失误。

隐私担忧与种族歧视言论促成回滚

员工警告称,用户提供给 Muse 的敏感信息可能泄露给呼叫中心外包人员。一些人提及 Meta 发布时的宣传:每个 Muse 代理都在自己隔离的虚拟机中运行。一名曾让 Muse 代为协商有线电视账单的员工表示,通话记录显示外包人员说了一句种族歧视言论。对于一款要求用户托付电子邮件、购物和差旅的产品,这次测试表明信任问题会很快从 AI 本身延伸到其工作流程中的人员和供应商。

这位副总裁承认,在没有妥善披露的情况下启动外包人员代打电话是一个失误,并表示 Meta 目前已回滚该功能。她说,涉事的外包人员将不再参与 Meta 项目。

Meta 发言人 Daniel Roberts 表示,此次测试旨在收集反馈,以便公司在公开发布之前构建安全与隐私保护。Roberts 表示:"我们正与商家合作,继续改进这一潜在的通话功能,只有在功能就绪并配备妥善披露后才会推出。"\nMuse 下载量已突破 250 万次。自上线以来,Meta 股价上涨超过 20%,市值增加超过 2000 亿美元。通话功能是否会回归——以及面向商家和用户采用何种披露方式——现在成为检验 Meta 如何推出代表用户行事的代理产品的近期试金石。