StanfordとNvidiaは、リアルタイムのエージェントの意思決定を現在の最先端システムの約9倍の速度で実行できるAIモデル「CLM-8B」を公開した。9月23日に公開されたこのモデルは、初めて一般公開されたContrastive Language Modelであり、このカテゴリーは対応する論文が発表されるまで存在しなかったものである。

CLM-8Bは、複数のベンチマークにおいてTypeSafe AIの独自モデル「Jev」と同等のパフォーマンスを達成しながら、レイテンシを従来の数分の一に削減した。T-Rexゲームベンチマークでは、CLM-8Bは意思決定あたり16.5ミリ秒を記録したのに対し、Jevは149.8ミリ秒であった。1回の実行で多くの意思決定を連鎖させるエージェントにとって、この意思決定ごとのオーバーヘッドはすべてのステップで累積するため、レイテンシの数値が精度スコアと同じだけ重視される所以である。

コントラスティブ学習がアプローチを変える仕組み

CLM-8Bは、応答をゼロから生成するのではなく、コントラスティブ学習を適用して、状態とアクションが共存する共有埋め込み空間を構築する。モデルが次の行動を決定する際、その空間内で現在の状態との一致度に基づいて候補アクションをスコアリングする。

アーキテクチャは、凍結されたQwen3-8Bバックボーンの上に構築されている。中核的なイノベーションはプロジェクションヘッドにある。これはそれぞれ約2,000万パラメータの小規模な学習可能なモジュールで、入力をコントラスティブ空間へマッピングすることを学習する。ベースモデルの重みは固定されたままのため、計算コストを管理可能に保ちながら、軽量なヘッドがアクション選択の主要な処理を担う。各ヘッドはバックボーンの80億パラメータの約0.25%に相当し、実際に再学習されるネットワークの部分がいかに小さいかを示している。

研究者Jacky Kwokが率いるチームは、これらを「システム1」モデルと呼んでいる。これは、速く直感的なと遅く慎重な推論を区別するDaniel Kahnemanのフレームワークから借用した用語であり、長時間の熟慮ではなく高速かつ自動的な意思決定を設計の中心に据える枠組みである。

大規模トレーニングとベンチマーク結果

モデルは3つの異なるフェーズで訓練された。事前学習では基本理解を確立するために6,000万の質問応答ペアを使用。中間学習では3,000万の合成ハードネガティブを導入。事後学習では100万のエージェント軌跡でシステムを洗練させた。

ソフトウェアエンジニアリング能力を試すコーディングベンチマークDeepSWEでは、CLM-8Bは81.6%を記録。Terminal-Bench 2.1では87.6%に達した。いずれもこのパラメータ範囲のモデルとして最先端の成果であり、クローズドなシステムではなく公開ダウンロード可能な重みによって達成された点が特徴である。

コーディングを超えて、このモデルはコンピュータ操作、Super Marioなどのゲーム環境、WikiRacingに及ぶタスクにおいて、Jevと同等のゼロショット性能を実証した。速度面の優位性は、9倍という数値の由来であるT-Rexベンチマークのみならず、テストされたすべての領域で維持された。

Apache 2.0によるオープンウェイト

CLM-8Bは、商用利用とクレジット表記による再配布を許容するパーミッシブなライセンスであるApache 2.0の下でオープンウェイトとして提供される。コードとモデルファイルはGitHubで入手可能で、vLLMを使用すればシステム全体を単一のNvidia GPU上でセルフホストできる。この展開規模により、ハードウェア要件は小規模チームでも手の届く範囲に収まり、同等性能を持つ独自モデルJevとは対照的である。

マルチモーダルの後継モデル「CLM-35B」はすでに開発中で、2026年10月上旬のリリースが目標とされている。このリリースは、コントラスティブ手法がマルチモーダル設定にも適用できるかを測る次の節目となる。