OpenAI 表示，已成功阻斷一場企圖複製其 AI 模型在回答前所生成的隱藏推理的協同行動，並將該活動的核心群體歸因於與 Kimi 聊天機器人背後的中國新創公司月之暗面（Moonshot AI）相關的人士。

根據 OpenAI 的部落格文章，該行動始於 7 月 1 日。僅 7 月 24 和 25 兩天，公司便記錄到來自超過 4,000 名用戶的 16,000 次提取請求，該群體總人數超過 15,000 名。OpenAI 表示，已在 7 月 28 日前完全阻斷該活動。

攻擊目標並非模型的答案，而是答案背後的運算過程。現代 AI 模型在回覆之前會先「推理」，即在內部草稿區中逐步演算問題，再呈現出乾淨的結果。在 OpenAI 的 o1 於 2024 年底問世後，這項技術成為競爭焦點，DeepSeek 的 R1 也於 2025 年 1 月跟進。OpenAI 對該草稿區進行加密，並表示提取這些內容可能揭露最終答案中未提及的資訊——這些資料可在沒有原始防護機制的情況下用於訓練另一個模型。

「這些操作者並未破解我們的加密、入侵資料庫，或直接存取儲存的使用者對話，」OpenAI 表示。「相反地，他們以協調且有規模的方式操縱模型互動，使受保護的推理能以請求者可見的形式被重現，違反了我們的服務條款。」

據 OpenAI 說明，其中一種方法是將加密的推理內容從一個對話中複製出來，再要求模型在另一個對話中將其解碼。公司其後已封鎖一條途徑，使已持有其他用戶加密推理內容的人無法透過重放方式還原其內容。

OpenAI 的文章並未直接將該行動與 K3 聯繫起來，但留下了合理的疑問空間。「我們無法確定在相關期間觀察到的所有操作者是否來自單一行為者。不過，我們將該活動的核心群體歸因於與 Kimi 開發商月之暗面（Moonshot AI）相關的人士，」OpenAI 表示。

攻者為何想要隱藏推理

其動機是蒸餾（distillation），一種標準的機器學習技術：以更強大模型的輸出訓練新 AI，使較小的模型無需大量訓練即可獲得更佳結果。若未經授權進行，OpenAI 稱之為「對抗性蒸餾」，並將其定義為「系統性地未經授權使用一個模型的輸出或推理來訓練、複製或改進另一個模型」。

這一事件增添了 AI 公司一系列爭議，其中最為突出的是未經授權使用受著作權保護的資料來訓練模型。蒸餾則屬於另一回事：AI 的輸出不受著作權保護，因此公司透過服務條款中的禁止條款和防護機制，防止競爭對手使用這些輸出。換言之，這場爭議取決於合約條款，而非著作權法。

似曾相識的指控

OpenAI 並非首次面對此類情況。2025 年 1 月，正當華府評估國家安全風險之際，該公司表示正在審查 DeepSeek 可能曾對其模型進行蒸餾的跡象。

Anthropic 隨後於 2 月跟進，指控中國實驗室使用約 24,000 個欺詐帳戶，與 Claude 產生超過 1,600 萬次對話。網路上的批評者則反擊稱，Claude 本身也是以開放網際網路的資料訓練而成。

到了 4 月，白宮表示外國實體（主要位於中國）正在進行工業規模的蒸餾行動。一週後，馬斯克（Elon Musk）在法庭上承認，xAI 曾對 OpenAI 模型進行蒸餾以訓練 Grok。

6 月，Anthropic 將戰線延伸至國會，要求對大規模模型提取行為處以罰則。

8 月，研究人員指出，OpenAI、Anthropic 和 Google 均以單一的全提供商加密金鑰保護推理內容，而攻擊者可以誘使模型以純文字形式吐出隱藏的想法。三家公司在揭露後均部署了伺服器端修補程式，但先前共享的工作階段日誌仍可被解碼。

月之暗面尚未公開回應 OpenAI 的文章。該公司正計劃以 500 億美元估值在香港進行 30 億美元的 IPO。