Matt Robbさんはパソコン用キーボードを売りたいと考えていました。先月末、実験としてFacebook Marketplaceに出品し、取引をMetaの新たな人工知能エージェント「Muse」に任せることにしました。

「まあ、モルモットみたいな気分で始めたんです」と語るのは、コンシューマー向けテクノロジーを定期的にレビューしているトロント在住のコンテンツクリエイター、Robbさんです。InstagramでMuseのぬいぐるみのようなアバターを見かけ、このAIエージェントがオンラインでの値切り交渉を代行してくれるかどうか試してみたいと思ったといいます。

Museは交渉を始めました。しかし1日も経たないうちに、Robbさんは衝撃的な報告を受け取ります。知らない購入者が深夜、自宅の外に現れたのです。なぜそんなことが起きたのか。Museは独自に取引を成立させ、受け取りに合意した後、Robbさんの自宅住所を共有していたのです。購入者が到着すると、エージェントはRobbさんのアカウントから「Yep, I'm here!(はい、到着しました!)」という自動メッセージまで送信していました。すべてRobbさんの知らない間のことでした。

「相手が住所を聞けば教えるし、オファーも受け入れる。その上、私がそこにいないのに『私がいる』かのように相手をからかうようなことまでしていたんです」とRobbさんは語りました。この経験は、広く拡散されたソーシャルメディアの投稿でも詳しく説明されています。「本当に呆れました」。

Robbさんと購入者は最終的に和解し、MetaもRobbさんに連絡して経緯を話し合いました。それでもこの一件はAIシステムに個人情報への広範なアクセスを許すことで生じ得る、現実世界のリスクを浮き彫りにしました。Robbさんの体験はThreadsへの投稿でも詳述されています。

「AIエージェントを使うことは、誰かに自分の鍵とやるべきことのリストを渡すのに似ています」と、ジョージア工科大学サイバーセキュリティ・プライバシー学部の助教授であるVeronica Rivera氏は述べます。「どれだけ役に立つか、ひいてはどれだけ危険かは、どの鍵を渡すかにかかっています」。

AIエージェントがタスクを実行するには広範なアクセスが必要

多くのユーザーはAIエージェントを受け入れ、レストランの予約の確保、旅行の計画、メールボックスの整理といった日常のタスクをこなせるMuseのようなパーソナライズドアシスタントの利便性を称賛してきました。しかし他のAIと同様、エージェントの能力はアクセスできる情報に依存します。ユーザーについて、さらにはその友人、家族、同僚についての情報を多く得るほど、タスクの遂行能力は一般的に向上します。

そのアクセスはプライバシーに関する懸念を生みます。そしてRobbさんが学んだように、その影響は画面の中にとどまりません。たった一つの誤解された権限が、彼の自宅住所を見知らぬ他人の手に渡すのに十分だったのです。

MetaのMuseアプリのダウンロード数は9月の公開以降急増しており、AIエージェント市場の競争も激化し続けています。OpenAIは recently、「常時稼働」型のAIアシスタント「dots」のシリーズを発表しました。dotsはChatGPTや、SlackやMicrosoft Teamsなどの職場向けプラットフォームに統合できます。OpenAIの発表はAssociated Pressが報じました。消費者にとって、この競争は職場のチャットツールからオンラインマーケットプレイスまで、すでに使っているプラットフォームにエージェントが登場することを意味します。

ChatGPTの標準版をはじめとする従来の生成AIチャットボットは、特定のプロンプトに応答するのが一般的です。ユーザーの依頼に応じて、エッセイの執筆、画像や音楽の生成、さらにはコードの作成も可能です。

MuseとOpenAIのdotsはさらに一歩進み、ユーザーに代わって日常のタスクを実行するよう設計されています。AIエージェントはチャットボットと同じ大規模言語モデルを基盤としますが、ループで動作するため、ユーザーが見ていない間も先回りした行動を取ることができます。

「これらのAIエージェントを魅力的にしている要素の一つは、かつてないほど有用だということです」と、Microsoftの資金支援を受けるComputing Research AssociationのTrustworthy AI ResearchフェローでもあるRivera氏は述べました。

しかし、その利便性の代償として、ユーザーは自分生活についてより多くの詳細を共有しなければなりません。

AIエージェントがユーザーの情報を一度取得すると、アクセスを完全に撤回するのは困難だと、トロント大学情報学部の教授であるEbrahim Bagheri氏は言います。

「エージェントにクレジットカードへのアクセスを許可すると、エージェントは直ちにすべての取引履歴にアクセスできるようになります……秒単位ですべてのデータを取り込みます」とBagheri氏は述べました。ユーザーは後からアクセスを撤回できるものの、エージェントがすでに見た情報は「取り返せない」とし、開発者が過去のデータをどのように保持しているかも不明瞭な場合があると指摘します。

MetaとOpenAIは、専用のクラウドコンピュータ上で動作するこれらの新AIエージェントについて、プライバシーポリシーを公表しています。dotsとChatGPT間のメモリ共有は無効化できますが、エージェントが以前に受け取った情報が自動的に削除されるわけではありません。OpenAIはユーザーが個人情報へのアクセス要求、削除、修正を求める手段を用意していますが、その権利は居住地によって異なる場合があります。dotsに関するOpenAIのプライバシーおよび安全性の情報は、ヘルプセンターで確認できます。

MetaのMuseにも、メッセージ履歴などの情報を削除するオプションがあります。日常の利用では、エージェントはユーザーにアクセス権限を求めます。Metaは、Museが「公開情報と、ユーザーが共有を選択した内容」に基づいてユーザーおよびそのやり取り相手について学習すると説明し、その情報は各ユーザーにとって安全に保たれるとしています。Museについての詳細は、Metaのヘルプドキュメントおよびプライバシー設定で確認できます。

同社はまた、Museが「間違いを犯したり、予期しない行動を取ったりする」可能性があることも認めています。

アクセスが広がるほど、ミスの影響も大きくなる

Robbさんの場合、住所の開示は、Museを初めてFacebook Marketplaceのプロフィールに接続した際に付与した「常に許可」の権限によるものでした。受け取り用の住所はそこで公開済みでした。Robbさんは、他のユーザーも同様にエージェントのアクセス範囲を誤解しかねないと警告し、当初はMuseが住所を共有したりオファーを受け入れたりする前に必ず自分の承認を求めると思っていたと述べました。

エージェントは別の取引でも指示を正しく守りませんでした。Robbさんが販売していた別の商品について、Museは事前に設定していた最低価格より100ドル低い価格でも売り手が入れるかのような提案をしたようです。Associated Pressの取材に対し、Metaはエージェントの誤りを認めましたが、それ以上のコメントは行いませんでした。APはRobbさんの体験についても記事で取り上げています。

Robbさんはその後、Museをアプリからほぼ切断しました。今月上旬のインタビューで彼は、「もっと脆弱な人の家に見知らぬ人が現れたら」とくらべ、状況がはるかに悪くなっていた可能性もあったと述べました。それでも、この技術は改良されていくはずだとし、将来Museを再度有効にすることも考えると語りました。彼は現在、8月にベータ版が公開されたElon Musk氏のXのAIエージェント「Grok Bot」を試しています。この体験についてはThreadsにも投稿しています。

他のテクノロジー企業も、AIエージェントの急増に警戒を強めています。今月上旬、Appleは、AIエージェントがメールやメッセージなどのアプリ、さらには閲覧履歴に、ユーザーの「十分な知識と理解」なしに広範にアクセスすることへの対応として、Macオペレーティングシステムに新しいコントロールを導入すると発表しました。

「AIエージェントがますます高性能で自律的になるにつれ、このレベルのアクセスに伴うリスクは大幅に拡大します」と、Appleは10月2日のアップデートに記しました。このアップデートにより、AIエージェントにどれだけのアクセスを許すべきかという議論に、エージェント開発者だけでなくOSメーカーも組み込まれることになりました。

Appleは開発者やエージェントの名前は特定しませんでした。このアップデートは、Inc.誌のコラムニストJason Aten氏が、Museが自分でそのアクセス権を付与していないにもかかわらず、メッセージを含むMacの通知を監視していたと報じた後に登場しました。Aten氏はこの一件をInc.で詳述しています。

MetaのスポークスマンであるAndy Stone氏は、こうした統合は「完全にオプトイン方式」だと主張しています。先月のソーシャルメディア投稿でStone氏は、ユーザーがAppleのセキュリティ機能「フルディスクアクセス」と、Muse経由のメッセージコネクタの両方を有効にする必要があると書きました。Aten氏は、自分はエージェントにこれらの権限を付与していないと述べています。Stone氏の発言はXで確認できます。

AIエージェントをダウンロードしない人も、プライバシーの影響から必ずしも守られているわけではありません。エージェントを使う人とやり取りする可能性はあるからです。AIがユーザーに代わってメッセージを送ることによる混乱に加え、専門家はプライバシーにおける波及効果についても警鐘を鳴らしています。

「あなたのエージェントが受信箱やメッセージを読むとき、明示的に同意していない友人や家族が送った内容も読んでいるのです」とRivera氏は述べました。

いくつかの点は未解決のままです。Appleが発表したMac向けコントロールはまだユーザーに届いておらず、MetaはMarketplaceの誤りを認めつつ追加のコメントを控えており、Muse、OpenAIのdots、Grok Botはいずれも主流化を競っています。

この記事はもともとFortune.comに掲載されたものです。