従来のソフトウェアはシンプルな経済公式に沿っていた。開発には多額の費用をかけるが、顧客1人あたりへの提供コストはほぼゼロである、というものだ。生成AIはこの常識を覆した。すべてのプロンプト、生成されるすべての画像、すべてのエージェント型タスクには実際のコストがかかり、詐欺師たちはその費用を他人に負担させる方法を見つけ出した。

決済企業のStripeは、「トークン窃盗」と呼ぶ詐欺手法について警鐘を鳴らしている。これは、実際に消費した分に課金されるAI企業の従量課金モデルを狙った手口で、犯罪者が偽アカウントを作成し、高額なAPIトークンやクレジットを使い潰した後、支払いを回収される前に姿を消すというものだ。

問題の規模

Stripeが示したデータによると、AIサブスクリプション企業ではわずか6か月間で、マルチアカウント不正の試みが40%増加した。AI業界の一部セグメントではその増加率が600%を超えている。

取引レベルでは、AI企業は平均的なスタートアップの4.3倍という不正率に直面している。対策を実施した後でさえ、その数値は平均の2.6倍に低下するにとどまる。AI分野の新規顧客登録のおよそ6件に1件は、トークン窃盗と関連しているという。このタイミングが被害をさらに大きくしている。盗まれた利用分はプロバイダー自身のインフラ上でリアルタイムに消費されるため、損失は支払い回収前に発生し、後から取り戻せる製品も存在しない。

StripeのCEOであるPatrick Collisonは、この傾向をAI業界で最も見過ごされているリスクの一つと述べている。同氏が指摘するように、自動化されたエージェントにより、窃盗犯は人間の不正対策チームがリアルタイムでは到底追いつけない速度で予算を使い尽くすことができる。

AIが特異な脆弱性を抱える理由

従来のSaaS企業は無料トライアルに寛容でいられた。それは、追加ユーザー1人あたりの限界コストがほぼゼロだったからだ。AI企業は根本的に異なる経済構造の下で運営されている。大規模言語モデルへのすべてのクエリは計算資源を消費し、すべての画像生成処理はGPUサイクルを消費し、エージェント型ワークフローは複数の高額な推論呼び出しを連結する。

盗まれたAIクレジットは、セカンダリマーケットで実際に転売価値を持つ。そこでは小売価格の何分の一かでプレミアムなAI機能にアクセスできる——まさにそれが、AI企業が開発者を引きつけるために提供する無料クレジットやトライアルを魅力のある標的にしているのである。

AI音声生成企業のElevenLabsは、この戦いの最前線にいる。同社は損失を管理可能な水準に抑えるためだけに、毎日数千の不正アカウントをブロックしていると報告している。

Stripeの対応

Stripeはトークン窃盗問題に特化して、不正検知ツール「Radar」を更新した。同社の決済プラフォームを利用する企業が使う機械学習ベースの不正防止スイートであるRadarは、わずか1か月間で8社のAI企業に対し、330万件超の高リスク登録をブロックした。

このアプローチは、決済層ではなく登録層を対象としている。トークン窃盗は、悪意ある行為者が製品に到達する前に食い止めなければならない。サービスを利用された時点で、すでに損害は発生済みだからだ。業界全体で不正の試みが増加し続ける中、Radarのような登録層の防御がAI企業にどこまで広がるか、そしてその後の詐欺データがどう変化するかは、従量課金型AI課金の成熟に伴い注目すべき運用上のテーマの一つである。