Moonshot AIが、ほとんどのAI研究所が試みないことを実行しました。自社の旗艦モデルの能力を意図的に弱めたのです。土曜日、北京を拠点とするこのスタートアップは、これまでで最も高度なモデルであるKimi K3.1 Proのサイバー攻撃能力を低減したと発表しました。この発表は、自律性を増すAIシステムが悪意あるハッカーに新たな強力な武器を与える可能性への懸念が高まる中で行われました。

同社は外部のガードレールを追加するのではなく、上流で対処しました。リリース前にモデルのトレーニングコーパスからサイバー関連データを除去し、Kimi K3.1 Proがソフトウェアの脆弱性を悪用する能力を制限しつつ、コーディング能力はそのまま維持する変更です。

Moonshotが実際に変更したこと

ベンチマークにより、このトレードオフは数値で確認できます。Moonshotの内部エクスプロイトベンチマークで、Kimi K3.1 Proは81.0%を記録しました。同じモデルでサイバーデータを残したまま学習したフィルタリングなしのバージョンは90.5%でした。つまり、フィルタリングによってリリース版モデルの攻撃能力は約9.5ポイント低下したことになります。

世代間の差はより歴然です。前世代のK3は同じテストで33.3%にとどまりました。フィルタリング後でも、新モデルは前世代より約48ポイント高いエクスプロイト能力を維持しています。Moonshotはハッキング能力を凍結したのではなく、上昇の速度を抑えたのです。

同社はその意図を慎重な言葉で説明しています。Moonshotは、このモデルでサイバー攻撃能力の限界を押し広げる意図はなく、今後のリリースで防御面の安全策を段階的に強化していく計画だと述べました。

安全策を支える仕様

どんな基準で見ても、Kimi K3.1 Proは巨大なモデルです。合計2.8兆パラメータのMixture-of-Expertsアーキテクチャを採用し、任意の時点で1040億パラメータが活性化します。また、100万トークンのコンテキストウィンドウを備えており、非常に長い文書や大規模なコードベースを1回の処理で扱うことができます。

コーディング面では、Moonshotが守ろうとしたものを守れた様子です。Kimi K3.1 ProはTerminal-Bench 4.0で65.7%を記録し、AnthropicのClaude Opus 5.5に匹敵する結果となりました。また、報道によるとハルシネーション(幻覚)率の低下も見られたいます。

そして、賭け金を一気に引き上げる詳細があります。Moonshotは2026年11月4日までにモデルの全 weights を公開する計画です。つまり、81.0%を記録したフィルタリング済みバージョンが、最終的に外部の誰でもダウンロードできるようになるのです。

オープンウェイト公開が状況を変える理由

多くの最先端AI研究所はモデルをAPIの背後に置いています。ユーザーがリクエストを送り、企業が回答を返し、企業はその過程で挙動を監視、制限、修正できます。

オープンウェイトは仕組みが異なります。ファイルが公開されれば、誰でもモデルをダウンロードし、自分のハードウェアで実行し、改変できます。取り消しボタンは存在しません。

だからこそMoonshotは、リリース後の制御だけに頼るのではなく、データフィルタリングを選んだと考えられます。トレーニングの段階で能力がモデルに入っていなければ、ウェイトの中に外部の人が引き出せる要素は少なくて済みます。

この決定は、サイバータスクでの性能が注目を集めたKimi K3への検証の目も念頭に置いたものです。最新のリリースは、その注目への対応の一環として、より強力なモデルを提供しても、より鋭い攻撃ツールを配布しないことを示そうとする試みと読めます。

AI業界にとっての意味

最も注目すべきは、Moonshotが安全性のトレードオフを数値化して公表している点です。フィルタリング済みのスコアを未フィルタリングのスコアと並べて示すことで、慎重さのコストが誰の目にも見える形になります。

競争の側面もあります。Terminal-Bench 4.0でClaude Opus 5.5に匹敵するコーディング結果を示したことで、オープンウェイトの中国製モデルが、このベンチマークにおいて米国の主要なクローズドシステムと同じ土俵に立ったことになります。

次の節目は2026年11月4日です。ウェイトが公開されれば、研究者やセキュリティチームはMoonshotの主張を独自に検証し、厳選されたトレーニングデータだけで2.8兆パラメータのモデルを適正な状態に保てるのかを確かめることができます。フィルタリング済み81.0%対未フィルタリング90.5%という公表されたスコアのペアが、その検証のための具体的な基準となります。