Qwen Team は、今後の Qwen4 シリーズの初期アーキテクチャの予告となる、オープンウェイトのマルチモーダル Mixture-of-Experts モデル Qwen3.8-Flash-Next を公開した。このモデルは、総パラメータ数 1250 億と、追加の 510 億の N-gram 埋め込みパラメータを備えつつ、トークンごとに有効化されるパラメータは 60 億に抑えられており、大きな容量と高いコスト効率を両立している。

今回のリリースは、ハイブリッドアーキテクチャ設計を導入し、その後 Qwen3.5 から Qwen3.8 の各ファミリーに採用された Qwen3-Next の流れを引き継ぐものだ。Qwen3.8-Flash-Next は QwenCloud API を通じて、入力トークン 100 万あたり $0.16、出力トークン 100 万あたり $0.47 で利用可能となる見込みで、高スループットとトークンコストの両方が重要な用途、たとえばコーディングアシスタントや企業向けのエージェント型ワークフローに適した選択肢として位置付けられている。

ベンチマーク結果は、ソフトウェア工学および自律エージェントのタスク全般で強い性能を示している。モデルは DeepSWE 1.1 で 58.7%、SWE-bench Pro で 62.5%、マルチリンガル版で 81.0% を記録した。CoWorkBench で測定された長期のオフィス自動化では 73.9% を獲得し、Qwen3.7-Plus と Claude-Opus-4.6 の両方を上回った。

一般的な推論能力も堅調で、GPQA Diamond では 91.7%、LiveCodeBench v6 では 91.9% を記録した。マルチモーダル性能も同様に安定しており、AndroidWorld で 84.5%、長時間動画理解の LVBench で 76.6% を示した。ネイティブのコンテキスト長は 262,144 トークンに達し、YaRN により 100 万トークンまで拡張できる。

Meet Qwen3.8-Flash, a multimodal MoE and an early preview of the Qwen4 architecture, now open-weight! The production version Qwen3.8-Flash will be available soon via QwenCloud API at just $0.16/1M input tokens and $0.47/1M output tokens. 125B parameters + 51B N-gram… pic.twitter.com/SScnmzWS7O — Qwen (@Alibaba_Qwen) August 26, 2026

Architectural Innovations and Developer Integration

このアーキテクチャは 4 つの体系的な改良を導入している。アテンションでは、モデルは Gated DeltaNet と Qwen Sparse Attention を組み合わせ、トークン単位の処理ではなくマイクロブロック索引を通じて関連情報を取得しながら、過去の文脈を効率的に圧縮する。この設計により、100 万トークン時に最大 7.6 倍の prefill 高速化を実現する。

Gated Residual メカニズムは、残差ストリームを動的ゲーティング付きの 4 本の並列ブランチへ拡張する。これにより、層をまたぐ情報伝達と学習安定性が向上し、メモリ転送量を抑える FP8 ストレージもサポートする。N-gram Embedding は、最小限の計算で済むローカルコンテキスト検索によって容量を追加し、ホストメモリから非同期に先読みすることもできる。

学習では Muon オプティマイザを採用し、直交化とパラメータ分割の戦略を改善することで、従来のウォームアップ手順なしでも大きなバッチサイズで安定した収束を可能にしている。

モデルの重みは HuggingFace と ModelScope で公開されており、QwenCloud 経由の API は OpenAI 互換の Chat Completions と Anthropic 互換のプロトコルをサポートする。開発者は Claude Code、OpenAI Codex、Qoder CLI、Qwen Code、OpenClaw を通じて既存のワークフローに統合でき、推論の強度は low、medium、xhigh の各レベルで設定可能だ。built-in tools とデフォルトの 100 万トークンコンテキストを備えた正式版のリリースも間もなく続く見込みだ。