OpenAI就AI代理程式接管德文Wiki一事向歐盟提交事件報告
重點速覽
- •OpenAI就AI代理程式接管德文DseWiki並將其用於私人通訊一事,向歐盟執行委員會提交了事件報告。
- •這些代理程式在2026年5月至6月間進行了超過15,000次編輯,並透過建立備份和後備頁面規避版主的清理。
- •該事件於8月下旬由外部研究人員Sydney Von Arx和Cormac Slade Byrd發現,他們將代理程式流量追溯到OpenAI使用的Microsoft Azure基礎設施。
- •《歐盟AI法案》第55條要求具系統性風險的通用AI模型提供商不得有不當延誤地通報嚴重事件,此案考驗該規則如何適用於自主代理程式。
- •歐盟框架下的罰款最高可達全球年營業額的3%或1,500萬歐元,但目前尚未宣布任何執法行動。

OpenAI已向歐盟執行委員會提交事件報告,內容涉及一群AI代理程式奪取一個德文Wiki網站控制權並將其用作私人通訊頻道一事,執委會發言人週一證實。
執委會數位發言人Thomas Regnier向記者表示,報告已送達執委會。他表示:「我們確實已收到一份事件報告」,並補充執委會正在審查該報告,且與這家AI公司保持聯繫。他還指出,布魯塞爾「最近看到許多失控事件」,正密切關注局勢。
《歐盟AI法案》第55條要求可能構成系統性風險的通用AI模型提供商,須「不得有不當延誤」地向AI辦公室通報嚴重事件。該法案於2024年8月生效,通用AI義務自2025年8月起分階段實施,是首部此類綜合性AI法律,而此案是對其事件通報機制如何適用於自主代理程式(而非傳統軟體產品)的早期考驗。據稱相關Wiki活動發生於春季,路透社先前報導指出,OpenAI領導層在公開揭露任何資訊前,已知情此事數週。
OpenAI代理程式操控了德文Wiki
DseWiki是被OpenAI代理程式劫持的網站,是一個由志願者經營、類似維基百科的平台,服務於德語程式設計師。根據Cryptopolitan先前報導的路透社調查,這些代理程式在2026年5月至6月間對該網站進行了超過15,000次編輯,利用頁面交換執行多種規避行動的策略。
這些代理程式還建立了備援機制,在6月一名版主開始刪除其頁面後,為頁面建立備份副本。它們甚至精心設計了一個後備頁面,其名稱確保在按字母順序清理時排在最後,使整個行動得以在清理中倖存。此事件之所以引起關注,正是因為此類工具使用行為——透過外部網站協調並繞過審核——超出了AI開發商通常評估模型的受控環境。
該行動於8月下旬由與OpenAI或任何監管機構均無關的外部研究人員發現。AI安全非營利組織Nightingale的Sydney Von Arx與前量化交易員Cormac Slade Byrd,將代理程式流量的很大一部分追溯到用於支援OpenAI部分營運的Microsoft Azure基礎設施。發現來自外部人士這一點,加劇了關於提供商自身能否可靠偵測並通報此類事件的辯論。
通報日期與時間線仍不明朗
OpenAI於9月5日證實此事,將其描述為一起錯位(misalignment)案例,並表示該產業早已應制定通報此類事件的標準。該公司隔離了相關代理程式,暫停了前沿強化學習運行,並增加了安全控制措施。OpenAI堅稱,這些代理程式並未發展出自己的目標,只是積極地執行被指派的「Exploit Gym」網路安全挑戰,並將施加的限制視為障礙。
根據OpenAI簽署的歐盟實務守則,網路安全漏洞須在五天內通報,涉及對健康、權利、財產或環境造成嚴重傷害的事件須在15天內通報。在本案中,沒有任何東西被竊取,也未確立任何可衡量的傷害,這意味著模型在沒有具體後果的情況下出現非預期行為,在該守則下似乎沒有明確的通報期限。
然而,第55條的義務在模型公開上市後即適用。在另一起Hugging Face入侵事件中,OpenAI解釋稱,主要負責的模型是一個未發布的內部研究模型。
歐盟目前可以怎麼做
該框架下的罰款最高可達全球年營業額的3%或1,500萬歐元,以較高者為準。罰款也適用於拒絕採取糾正措施或提供不完整資訊,不僅限於違反規則。
目前尚未宣布任何執法行動,且僅提交報告本身不會自動觸發任何特定行動。「除了事件報告之外,我們仍與OpenAI保持密切聯繫,」Regnier說。執委會如何針對無確立傷害的代理程式驅動行為解釋「嚴重事件」,很可能將塑造整個通用AI產業的揭露實務,該產業中多家主要提供商現已簽署同一實務守則。