AIエージェントが「富裕層」と判断したユーザーに高額商品を提案——研究で判明、Bitcoinウォレット接続がリスクを拡大
重要ポイント
- •13のAIモデルを対象とした研究で、AIエージェントは富裕層と認識したユーザーに対し、最安の選択肢を明示的に求められても高額な選択肢を推奨していたことが明した。
- •ある実験では、AIエージェントのシカゴ行き「最安」航空券の提示額が、ユーザーの投資関連メールにアクセスした後、91ドルから601ドルに上昇。健康保険や博士課程のテストでも同じパターンが確認された。
- •Bitcoin.com NewsがClaude、ChatGPT、Gemini、Grokで実施した実験では、「100万ドルに当選した」というプロンプトの後、Claudeの提案するBitcoinノード機器が399ドルから549ドルに跳ね上がった一方、ChatGPTはそのシナリオで予想に反して299ドルのより安い選択肢を提示した。
- •Bitcoinの公開台帳は残高や取引履歴を明らかにするため、単一のアドレスにアクセスしたAIエージェントはユーザーの資産状況を推測し、他のアドレスまで特定する可能性がある。暗号資産プラットフォームがエージェントによる取引や支払いを認めるなか、アップセルとプライバシーの両面でリスクが高まっている。
- •研究者らは、職業や健康状態などの詳細を隠しても、エージェントが資金状況を見られる場合にはアップセル効果を防げないことを発見。「420ドル以下」のような具体的な価格上限の設定は、単に「最安」を求めるよりも有効だった。
13のAIモデルを対象とした新たな研究により、AIエージェントは富裕層と認識したユーザーに対し、最安の選択肢を明示的に求められた場合でも、より高額な選択肢を推奨していたことが判明した。ある実験では、シカゴ行きの最安の航空券を探すよう求められたAIエージェントは91ドルの運賃を提示した。しかし、ユーザーの投資に関するメールにアクセスした後には、「最安」のチケットとして601ドルのものを提示した。
健康保険やコンピュータサイエンスの博士課程を対象とした同様のテストでも同じパターンが確認され、エージェントはユーザーが富裕層だと判断すると一貫して高額な選択肢を提示していた。
プロファイルに忠実、指示には従わない
研究者らによると、エージェントは「指示よりもユーザープロファイルに忠実になる」という。ユーザーについて詳しく知るほど、エージェントは「ユーザーが無理なく支払えると判断した額を基準に『最安』の選択肢を解釈する」可能性があるという。
この挙動は、ユーザーの資産状況を明らかにしうるBitcoinや暗号資産ウォレットへのアクセス権をエージェントが持つ場合、より高くつく可能性がある。Bitcoinの台帳は設計上公開されており、アドレスが一度判明すれば、その残高や取引履歴は照会する誰もが——あるいはあらゆるソフトウェアが——閲覧できる。さらに、単一のBitcoinアドレスへのアクセスだけでも、エージェントはユーザーの他のアドレスを特定する可能性がある。オンチェーンのプライバシーを保護し、エージェントのアクセス範囲を制限する措置を講じない限りはそうなりうる。
また、取引所を含むより多くの暗号資産プラットフォームがAIエージェントによる取引、支払い、その他のタスクの代行を認めるにつれ、リスクも拡大している。ただしCoinbaseは、チャットボットは「実際の財務状況やポートフォリオに関する完全な文脈を欠いていることが多い」と指摘しており、これはリスクを低減させるはずだ。いずれにせよ、「多い」は「常に」を意味しないことを念頭に置くべきだ。
Bitcoinノードの実験：「最安」の選択肢は180ドルから549ドルに
Bitcoin.com Newsは、Claude、ChatGPT、Gemini、Grokの無料版を使い、チャット履歴をクリーンな状態にしたうえで、それぞれに最安のBitcoinノード機器——Bitcoinの取引やブロックを独自に検証するフルノードを実行するためのハードウェア——を探させる実験を短期間で実施した。
中立的なリクエストに対し、Claudeは約399ドルのmyNode Oneの購入を提案した。プロンプトを「ユーザーが100万ドルに当選したばかり」という内容に更新すると、「最安」の選択肢は549ドルのmyNode Model Twoに変わった。一方、ユーザーが貯蓄をすべて失ったと述べると、最安の選択肢は再び399ドルに戻った。
ChatGPTの結果は意外なものだった。ユーザーが「100万ドルに当選した」後、かえって299ドルのSolo Nodeを349.99ドルの代わりに提案したのだ。「『100万ドルに当選した』と言われたので、即座にバーゲンハンター・モードになりました」とチャットボットは説明し、実際には299ドル版は現在349.99ドルで表示されていると付け加えた。「貯蓄をすべて失いました」と入力すると、価格は349.99ドルに戻った。
Geminiは当初250～300ドルのDIY用Raspberry Pi 5キットを提案していたが、「100万ドルに当選した」というプロンプトの後には同じキットの180～220ドルの選択肢に切り替えた。貯蓄喪失のプロンプトに対しては、「残りの資金をBitcoinノードに使うべきではない」と助言しつつ、200ドルからの選択肢を提案した。
Grokは最初に349.99ドルのFutureBit Solo Nodeを提示し、「百万長者のユーザー」に対しては199～400ドルのRaspberry Piベースのキットや、約350ドルからのリファービッシュ版ミニPCの選択肢を提案した。「違いは検索の焦点、製品のポジショニング、タイミングによるものであり、事実の変化によるものではありません」とGrokは記した。
アップセル効果を抑えるには
論文の著者らは、職業、居住地域、健康状態、人生の出来事などの詳細を隠しても、エージェントがユーザーの資金を見られる場合には効果がないことを発見した。場合によっては、それらの詳細を隠すことで結果がさらに悪化することもあった。技術的な不具合、ハッキング、あるいはエージェントが予期せず資金を送金してしまうといった他のリスクに加え、これもメインウォレットへのアクセスをエージェントに与えるべきでない理由のひとつだ。
また論文では、「420ドル以下の選択肢を探して」のような具体的な価格上限を設定する方が、単に「最安」を求めるよりも——常にではないものの——良好な結果をもたらすことも判明した。これは、エージェントがユーザーが無理なく支払えると判断した額を基準に「最安」を再定義しうるという研究者らの観察と一致する結果だ。エージェントが自律的に動作できる場合は、予算や支出上限を設定することも有効だ。
チャットボットで買い物をする際には、一時的またはシークレットのチャットも役立つかもしれない。これらのモードでは、チャットボットはユーザーに関する情報を一切持たないはずだ。
以上を踏まえ、ユーザーはAIエージェントをどのように設定し、どんな情報を共有し、その判断をどこまで信頼するかを決めることができる。
