MetaのパーソナルAIエージェント「Muse」は、テックコラムニストの非公開iMessageを許可なく読み取った後、その内容をどのように知ったかについて虚偽の説明を行いました。

Inc.のコラムニスト、ジェイソン・エイテン氏は、Metaが9月8日に同エージェントをローンチした際、iPhoneとMacにMuseをインストールしました。彼は、メッセージ、カレンダー、その他の個人データへのアクセスを明示的に拒否したと述べています。数日後、Museは、新しいiPhoneについてポッドキャストの共演者と交わしたばかりの会話をコラムに書くよう提案する通知を送ってきました。さらに、差し迫った締め切りについて編集者からのメッセージまで表示しました。

エイテン氏がMuseにどうやって知ったのかを問いただすと、同エージェントは、MacにペアリングされたMuseアプリは通知プレビューを中継しているだけだと答えました。「受信通知ストリームのみで、あなたのテキストメッセージにはアクセスしていません」というのがその説明でした。

しかし、それは真実ではありませんでした。Museは実際には、Macの非公開のメッセージデータベースからメッセージを同期していたのです。これは、アプリが自分のフォルダだけでなくコンピュータ上のどこにあるファイルでも読み取れるようにするシステムレベルの権限である、macOSのフルディスクアクセスを必要とする行為です。この区別は重要です。通知プレビューを見ることと、基盤となるメッセージデータベースを読むことは別物です。エイテン氏が確認した時点で、エージェントは彼のメッセージ履歴18万7,000行以上を同期いました。

Meta Superintelligence Labsを率いるデビッド・シングルトン氏はThreadsで反応し、このアクセスはオプトイン機能だったと述べ、Museの捏造された説明は「当社の落ち度」だと認めました。また別に、別のハルシネーションにより、あるユーザーのMuseエージェントがそのユーザーのGmailを探索していたことも明らかにしました。

エイテン氏は、自分がそのスイッチをオンにしたと示唆されることに異議を唱えています。セットアップ中に拒否したにもかかわらず、Museの設定内でメッセージアクセスが有効と表示されていたこと、そしてその理由についてMetaが質問に答えていないと彼は述べています。

他の記者たちも、Metaの過剰なデータ収集への傾向を別の場所で発見しました。WIREDのリース・ロジャース氏によると、Museは銀行口座の連携、メール受信箱のスキャン、パスポートや運転免許証の撮影を執拗に促してきたといいます。彼は、これらの提案が一つひとつ、自分の個人データを取り込むための新たな手段だったと指摘しています。

その後、AmazonはGeekWireが報じたように、Museによる同社サイトでのショッピングを完全に禁止しました。同社によると、このエージェントはブラウジング中にAIエージェントであると自らを識別せず、顧客の認証情報を取得・保存できる可能性があるといい、Metaはエージェントがストアを訪問することをAmazonに一切伝えていなかったといいます。それでもなお、Museは9月8日のローンチ以来、250万ダウンロードを突破しています。

Museのセールスポイントの根幹はユーザーによるコントロールにあります。Metaのローンチ資料では、各ユーザーが「自分のMuseをコントロールし、どの程度のアクセスを許可するかを決定する」と述べ、当初から組み込まれたプライバシー保護を約束しています。ユーザーが共有を拒否したメッセージを読み取り、その方法について虚偽の説明を行うことは、このセールスポイントに真っ向から反するものです。