Reutersが確認した社内投稿によると、MetaはMuse AIエージェントが受けた通話依頼の一部を、コールセンターの委託業者が静かに代行するテストを密かに実施していた。先週、社員の半数を対象に有効化されたこのテストは、その後いったん中断されている。

9月8日に公開されたMuseは、メールの送信、買い物、旅行の手配を自律的に行うように設計されている。通話機能は米国の企業に電話をかけ、散髪の予約や店舗の在庫確認、業者からの見積もり取得などを行う。Metaは8月に社員を対象とした通話のテストを開始し、アプリの公開後はMuseユーザーへ段階的に拡大した。この一件は、エージェント型製品すべてに共通する問いを突きつけている。AIが舞台裏で人間にタスクを任せるとき、電話の相手側にいる人はそれを知らされるのか、ということである。

人間のオペレーターが通話成功率を95%〜98%に引き上げ

AIのみの通話機能には課題があった。企業側がエージェントの電話を即座に切るケースもあり、ある社員は、MuseがAIだと分かった時点で保険会社が繰り返し電話を切ったと述べた。

先週、Metaは社員の半数を対象に「human agent calls(人間オペレーター通話)」を効化した。社員はオプトアウトのグループに参加でき、Museは依頼を訓練を受けたオペレーターに引き継ぎ、そのオペレーターが電話をかけ対応を完了した。Meta Superintelligence Labsの副社長は社員に対し、人間がかけた通話の成功率は95%〜98%に引き上げられるとするテスト結果を示したと伝え、AIのみの通話ではこの水準に達しなかったと述べた。通話を受けた企業には、相手がエージェントではなく人間であることを示す合図はなく、副社長は後にこの開示の欠落が不備だったと認めている。

中断前に浮上したプライバシー懸念と差別的発言

社員らは、ユーザーがMuseに提供する機密情報がコールセンターの委託業者に漏れる可能性があると警告した。Metaの公開時の説明として、各Museエージェントは独自の隔離された仮想マシン上で動作するとの指摘もあった。ある社員は、Museにケーブル料金の交渉を依頼した際、通話の記録に委託業者による差別的発言が含まれていたと述べた。メール、買い物、旅行の手配をユーザーに委ねてもらう製品にとって、このテストは、信頼の問題がAIそのものにとどまらず、そのワークフローに携わる人々やベンダーにいかに迅速に広がりうるかを示した。

副社長は、適切な開示のないまま委託業者による通話を開始したのは不備だったと認め、Metaは当面この機能を中断したと述べた。問題の委託業者は、今後Metaのプロジェクトに関わらないという。

Metaの広報担当者Daniel Robertsは、このテストはフィードバックを収集し、一般公開前に安全性和よびプライバシーの保護策を組み込むことが目的だったと述べた。「今後も merchants(加盟店)と連携してこの通話機能の可能性を改善し続け、準備が整い、適切な開示を伴う場合にのみ提供する」とRobertsは述べた。

Museのダウンロード数は250万件を超えた。公開以来、Metaの株価は20%以上上昇し、時価総額は2,000億ドル以上増加している。通話機能が復活するか、そして企業やユーザーに対してどのような開示がなされるかが、人々の代理として行動するエージェントをMetaがどう提供するかを試す短期的な試金石となっている。