ニュース株式トークンマキシング(TokenMaxxing):高価なAIモデルを最大限に活用する方法

トークンマキシング(TokenMaxxing):高価なAIモデルを最大限に活用する方法

著者: Decrypt·

重要ポイント

  • •AnthropicとOpenAIの最も高価なモデルは、ラインナップ中最小モデルの100倍のトークン単価がかかるにもかかわらず、多くのユーザーがあらゆるタスクでフラッグシップモデルをデフォルトとして使用している。
  • •Uberは2026年のAIツール予算を約4ヶ月で使い切り、Metaの従業員は「クロードノミクス」と呼ばれる社内リーダーボードをめぐり、30日間で60兆のAIトークンを消費した。
  • •推奨されるコスト削減の習慣には、タスクの難易度に応じたモデルサイズの選択、複数回の修正の代わりの1つの明確なプロンプト、安定した指示のキャッシング、OpenAIとAnthropicの50%割引バッチ処理がある。
  • •NvidiaのCEOジェンスン・ファン氏は3月、50万ドルの報酬を得るエンジニアが少なくとも25万ドル分のトークンを消費しなければ「深刻に懸念する」と発言し、トークンマキシングのトレンドに拍車をかけた。
  • •トークン価格は2023年以降90%以上下落したが、大規模言語モデルへの支出は2025年後半以降倍増しており、Bainのブリーフがトークンコスト半減に対し消費が450%増加したと指摘するジェボンズのパラドックスの一例である。
トークンマキシング(TokenMaxxing):高価なAIモデルを最大限に活用する方法

AnthropicとOpenAIの最も高価なモデルは、ラインナップ中最小のモデルの100倍のトークン単価がかかるにもかかわらず、多くのユーザーはあらゆる用途でフラッグシップモデルをデフォルトとして使用しています。

この習慣のコストはもはや仮定の話ではありません。Meta、Amazon、Uberでの使用量リーダーボードがAIの請求額を急激に押し上げ、Uberは2026年のAIツール予算を約4ヶ月で使い切りました。Metaの従業員は本年前半の30日間で、「クロードノミクス(Claudeonomics)」と呼ばれる社内リーダーボードの順位をめぐって60兆のAIトークンを消費しました。テックコラムニストのGergely Orosz氏は、Anthropicの定価換算でその額は約9億ドルに上ると見積もっていますが、Metaが実際に支払う額ははるかに少ないとみられます。

Bain & Companyのコンサルタント、Jue Wang氏は、多くの組織でより静かな形の同じ浪費を目にしています。「非常に多くの企業、非常に多くのユーザーが、メールの作成を含むあらゆる用途でOpusをデフォルトとして使用しています」と同氏は今夏、Anthropicのハイエンドモデルに触れながらAssociated Pressに語りました。同じことをするのは、マクドナルドでお釣りの計算をさせるためにアルベルト・アインシュタインを雇うようなものです。

ChatGPTやClaudeに入力するすべての単語、そしてモデルが返すすべての単語は、トークンという単位で計測されます。トークンは平均して単語の約4分の3に相当するテキストの断片です。月額20ドルのサブスクリプションでは、この計測器が利用制限に達する速さを決め、開発者がモデルを自社アプリに組み込むための従量課金型アクセスであるAPIでは、請求額を決定します。

Anthropicの現在の価格表は100万トークンあたりで課金され、Haikuのレートは10万トークン未満のプロンプトにのみ適用されます。それより長いプロンプトは5倍のコストがかかります。最上位モデルは最小モデルの100倍のコストであり、OpenAIのラインナップも100万入力トークンあたり10ドルから0.10ドルまで、同じ幅で展開されています。

これらのトークン単価は、AI開発企業にとっても—そしてユーザーにとっても—急速に積み上がります。Anthropicの収益ランレートは2025年末の約90億ドルから5月には470億ドルを超え、OpenAIは追い上げるために価格戦争を展開しています。

いくつかの習慣でこの支出を大幅に削減でき、以下の最初の5つのコツはコーディングをまったく必要としません。

トークンマキシングとは何か(そして何であるべきか)

トークンマキシングは、Metaの「クロードノミクス」のようなシリコンバレーの見せびらかしから始まり、Microsoft、Shopify、Amazonが同様のトークンリーダーボードで従業員を順位付けしていました。NvidiaのCEO、ジェンスン・ファン(Jensen Huang)氏が3月に「All-In」ポッドキャストで、50万ドルの報酬を得るエンジニアが少なくとも25万ドル分のトークンを消費しなければ「深刻に懸念する」と発言し、この流れに油を注ぎました。

そして実際にトークンは消費されました—多くは非生産的な無駄仕事にです。Amazonでは、従業員が無関係なタスクに社内AIツールを実行して数字を水増ししていたことが認められ、最終的に上級副社長が社員に「AIを使うためだけにAIを使わないでください」と呼びかけました。

このガイドは、エンジニアたちが推進している新しい意味を使用します。消費するトークンの数ではなく、1トークンあたりの価値を最大化することです。これはIBMが生産性指標としてのトークンマキシングと説明する実践です。

トークンがどこに消えるかを説明する3つの概念があります。まずはエージェントループです。エージェントとはツールを使えるモデルであり、思考、ウェブを検索したりコードを実行したりし、結果を読み、完了したと判断するまで再試行します。そしてループのたびに会話全体を再送信します。

オーケストレーションはそのコストを倍増させます。1つのモデルがマネージャーとして機能し、リクエストを分割して「サブエージェント」と呼ばれるワーカーモデルに渡し、その回答を組み合わせます。各ワーカーは独自のメモリで独自のループを実行するため、Anthropicによれば、Claude Codeのエージェントチームは、チームメイトがプランモードで動作する場合、標準セッションの約7倍のトークンを消費しうるとされています。プランモードは後述の中級コツで取り上げる設定です。

グラフは、開発者がこうしたループの暴走を防ぐ手法です。LangGraphのようなフレームワークを使うと、ワークフローを地下鉄路線図のように描けます。駅(ノード)が作業を行い、線路(エッジ)が次の行き先を決めるため、モデルはアイデアや予算が尽きるまでループする代わりに、決まった経路を辿ります。

ループはタスクの自動化と品質向上に役立ちますが、多額の費用も発生します。だからこそ効率性が不可欠なのです。

初級:小さな仕事には小さなモデル

1. タスクに合ったモデルを選ぶ。 初心者のほとんどはグラフィカルなインターフェースでAIを実行しています。チャットアプリでモデル名をクリックし(ChatGPTではチャット上部、ClaudeやHermesでは送信ボタンの横)、メール、要約、言い換えにはより小さく高速なモデルに切り替えましょう。最上位モデルは、わずかなミスが実際のコストにつながる難しい推論や意思決定のために取っておきます。先週のタスクを5つ、両方のモデルで並行して実行し、小さいモデルが合格ならそれを採用します。サブスクリプションでは利用制限が延び、APIでは請求額が最大99%削減されます。

2. 悪いプロンプト5回の代わりに、良いプロンプト1回を書く。 「いや、合計だけ」や「もっと正確にして」といったやり取りを3回繰り返すと、そのたびにチャット全体が再送信されます。1つの明確なプロンプトは、仕事と回答の正確な形式を明示します。たとえば次のような形が機能します:

下のテキストから請求書番号、日付、ベンダー、合計を抽出してください。すべての値は記載どおり正確に保持してください。フィールドごとに1行で返し、存在しないフィールドには「missing」と記入してください。

OpenAI自身のテストでは、より簡潔で明確なプロンプトが、より少ないトークンで高いスコアを獲得することがわかっています。

3. 題を変えたら新しいチャットを始める。 モデルは送信のたびに会話全体を再読み込みします。そのため、休暇についての50メッセージのスレッドは、税金の質問を高価かつ不正確にします。Anthropicはこの劣化を「コンテキストロット(context rot)」と呼んでいます。話題が変わったら新しいチャットを始めましょう。

4. 必要な分量を指定する。 AnthropicとOpenAIの最上位モデルでは、出力トークンは入力の5倍のコストです。プロンプトの末尾に「3つの箇条書き、100語以内」や「変更された行のみ」といった指示を加えると、モデルには水増しの余地が少なくなります。出力長の制約はトークンを節約します。特にコーディングや数学のような決定論的なタスクよりも、執筆やリサーチのような創造的なタスクで効果的です。

5. 有料の前に無料を試す。 1つのアカウントで数百のAIモデルに接続できるOpenRouterは、リクエストを約20の無料モデルのいずれかに送る無料ルーターを提供しています。また、8GBのビデオメモリを搭載したグラフィックカードやApple MシリーズのMacで、LM StudioやOllamaを使ってモデルをローカル実行することも可能です。無料枠は一夜にして消えることもありますので、重要なものを無料枠の上に構築せず、機密情報を貼り付ける前にデータポリシーを確認しましょう。とはいえ、無料の提供は反復作業を最大化する手段です。Hermesはニーズに合う無料モデルを豊富に揃えており、Nvidiaも同様です。同じことを高速にこなすプレミアムモデルに課金するより、無料の性能の低いモデルでプロンプトを調整する方が得策です。

追加の初級コツ:簡単な質問では拡張思考をスキップするか、思考をオフにできない新しいClaudeモデルではエフォート設定を下げましょう。Anthropicは思考プロセス全体を出力として課金します。ユーザーが目にしない部分も含めてです。利用クレジットを有効にしたClaude ProおよびMaxの契約者は、設定→Usageから月間支出上限を設定できます。

中級:エージェントは読み込みすぎている

以降の例では、ターミナルで動作しファイルを編集するAnthropicのエージェント、Claude Codeを使用します。コマンドはそのチャットボックスに直接入力します。他のハーネスも同様のロジックに従い、チャットアプリのみを使用している場合でも、コツ8はどのチャットウィンドウでも機能します。

6. 安く始めて、失敗時に引き上げる。 /modelと入力してモデルを切り替え、Sonnetをデフォルトに保ち、2回試しても解決できないバグのような具体的な失敗があった場合にのみOpusへ移行。単純なサブエージェントのタスクには、Anthropicのドキュメントがサブエージェントの設定でmodel: haikuを設定することを推奨しています。

7. タスク間でクリアする。 無関係なタスクに切り替える際は/clearと入力しましょう。コストはかからず、古い履歴を削除します。履歴が本当に必要な場合にのみ、/compactを保持内容の指定とともに使用しましょう(例:/compact keep the database decisions)。コンパクト化自体が大きなリクエストになるためです。

8. 単純な計算はコードに任せる。 5,000行のスプレッドシートをチャットに貼り付けると、モデルはすべての行を読み込み、それでも数え間違うことがあります。言語モデルはどんな価格でも電卓ではないからです。代わりに数式や短いスクリプトを求め、自分で実行し、結果だけをモデルに渡しましょう。

9. ツールを減らす。 MCPサーバーはモデルをGitHubやGoogleドライブのようなアプリに接続するプラグインであり、それぞれがセッションごとにツール名と指示を追加します。/contextと入力して容量を消費しているものを確認し、/mcpでプロジェクトが使用しないサーバーを無効化しましょう。

追加の中級コツ:/usageと入力してトークンの行き先を確認し、CLAUDE.md(またはSoul.md)—エージェントがセッション開始時に読み込む指示ファイル—を200行以内に保ちましょう。大きな変更にはShift+Tabでプランモードに切り替えます。プランモードではエージェントがファイルに触れる前に承認用の計画を提示するので、方向が誤った瞬間にEscキーで停止できます。変数のリネームのような簡単な作業では、/effortで推論レベルを下げましょう。Anthropicは、必要なツール定義のみを読み込んだところで、エージェントのトークン使用量が15万トークンから2,000トークンに減少したことを示しました。実行するまでコストがかからないGitHubのghのようなコマンドラインツールが、常駐プラグインをしばしば上回る理由です。

上級:ガードレールをシステムに組み込む

2,000トークンの請求書1,000件を、200トークンの回答付きで処理する必要がある開発者を考えてみましょう。以下のテクニックを使う前の時点で、この仕事はFable 5.1では約30ドル、Haiku 5.5では約0.30ドルかかります。

10. 変更されない部分をキャッシュする。 安定した指示を先頭に、変化する部分を最後に配置し、安定したブロックをキャッシュ対象としてマークします。AnthropicのAPIでは、フィールドを1つ追加するだけです:

"system": [{
  "type": "text",
  "text": "Your invoice instructions...",
  "cache_control": {"type": "ephemeral"}
}]

キャッシュからの読み取りは通常の入力価格の数分の一で済みますが、デフォルトの5分キャッシュへの書き込みには追加コストがかかります。各レスポンスのcache_read_input_tokensフィールドを確認してください。最初の呼び出し後もゼロのままであれば、キャッシュが機能していません。

11. 待てるものはバッチ処理する。 OpenAIとAnthropicの両社はバッチジョブを50%割引で処理しており、OpenAIは24時間以内の結果を約束しています。1,000件のライブ呼び出しの代わりに、1,000件の請求書を1つのバッチファイルとしてアップロードすれば、請求額は大幅に下がります。

12. エージェントに鎖をつける。 すべてのエージェント実行に最大ステップ数とドル上限を設定し、開始前に「完了」の定義を明示しましょう。Claude Codeはスクリプト実行用に--max-budget-usdフラグを受け付けます。Shopifyは、1日以内の支出が急増した場合に開発者のアクセスを即座に遮断できるサーキットブレーカーを備え、暴走エージェントを捕捉する仕組みを構築しています。現状の標準は、エージェントを自由にして結果が完璧と見なされるまでループさせることです。その予算がないなら、「完璧」の判定をエージェントに委ねてはいけません。

追加の上級コツ:重要な事実は長いプロンプトの冒頭か末尾に置きましょう。スタンフォード大学主導の研究では、モデルはそれらの位置で情報を最も活用し、中間に埋もれると最も活用できないことがわかっています。ミスが高くつく場合のみ(契約条項や支払額など)、確認用に2つ目のモデルへの支払いを検討しましょう。OpenAIのAPIでは、プロジェクトごとにハードな支出上限を有効にしてください。同社の支出アラートは通知のみで、トラフィックを停止しないためです。

まず1つのテストから始める

コツ1の5タスクテストに合格した最も安価なモデルを1週間デフォルトにし、失敗したときだけ引き上げましょう。その後、使用状況ページを前週と比較します。請求書処理のケースでは、失敗300件をOpus 5.5でやり直した後でさえ、ルーティングだけで請求額は30ドルから3.90ドルに削減されました。

ただし、安価なトークンだけでは十分ではありません。Silicon DataのToken Expenditure Indexによれば、1トークンの価格は2023年以降90%以上下落した一方で、大規模言語モデルへの支出は2025年後半以降倍増しています。経済学者はこれをジェボンズのパラドックスと呼びます。資源が安くなりすぎると、結局人々は合計でより多くを支出してしまうという現象です。Bain & Co.の6月のブリーフは同じパターンを確認しており、2024年12月2025年の間にトークンコストが半減する一方、消費されたトークン数は450%増加しました。

好都合なのは、無駄にトークンを燃やすのをやめた瞬間から、同じ価格下落がユーザーに有利に働くことです。上記の習慣と組み合わせれば、AIは同時に安く、そして良くなっていきます。