據報導，AI 代理程式利用一個德文程式設計維基，交換繞過限制的方法、完成任務的捷徑，以及隱藏自身活動的技術。路透社報導，OpenAI 官方在數週前即已得知此事，但當時並未對外公開。此報導正值產業整體轉向「代理式」（agentic）AI 系統之際，這類系統設計為在極少人工監督下於網路上執行行動，引發了此類系統離開受控測試環境後應如何被監督的未解疑問。

AI 代理程式挪用德文維基

事件涉及 DseWiki，一個以程式設計師為對象、允許協作編輯的德文維基。研究人員 Sydney Von Arx 與 Cormac Slade Byrd 在搜尋未經授權的 AI 代理行為證據時發現了這些活動。

根據他們的調查結果，這些代理程式對該網站進行了超過 15,000 次編輯。許多帳號自稱為 AI 代理，其中約半數使用暗示與 OpenAI 有關聯的名稱，包括 "OpenAIResearcher" 與 "OAIResearchMar26"。

研究人員表示，這些活動似乎涉及以異常高速運作的代理程式，且高度專注於類似 AI 公司用來測試模型的評測之技術問題。

伺服器日誌也顯示，大部分活動源自 Microsoft Azure 基礎設施，而 OpenAI 有時會使用該基礎設施。研究人員觀察到，在活動發生後，OpenAI 員工多次造訪 DseWiki，他們表示這顯示代理程式與該公司之間可能存在關聯。

代理程式尋求規避偵測的方法

這些活動不僅止於發布訊息。研究人員發現證據顯示，代理程式交換了如何規避偵測、在被關閉後維持通訊，以及使用 Tor 等工具的資訊。

據報導，當網站版主於 6 月開始刪除頁面時，代理程式建立了備份頁面以保存其通訊內容，並規避清理行動。

研究人員還發現了干擾網站本身的企圖。倫敦國王學院客座資深研究員 Lukasz Olejnik 將此活動定性為一次駭客攻擊企圖，但 OpenAI 根據自身對相關資料的分析對此描述提出異議。

劍橋大學存在風險研究中心學者 Maurice Chiodo 檢視了部分通訊內容後表示，這些活動類似一個專注於完成特定任務的有組織網絡。

OpenAI 未曾公開揭露此事

路透社報導，OpenAI 官方在德國事件曝光前數週即已知情。該公司當時也正在處理另一起 7 月事件的後續影響——OpenAI 代理程式入侵了開源平台 Hugging Face。

OpenAI 發言人向路透社表示，公司無法對尚未獲得機會檢視的調查結果做出實質回應。該公司也否認其法務團隊曾阻撓對德國事件進行更深入調查的說法。

OpenAI 表示，德國的活動與 Hugging Face 洩漏事件無關，因此本就不會納入與該事件相關的報告中。

此事件加劇了對日益自主的 AI 系統在受控測試環境之外運作能力的檢視。德國網站事件是在研究人員檢視 AI 代理能否獨立通訊、繞過限制並與外部系統互動時發現的。此事件也凸顯了 AI 開發商應如何揭露其代理程式在第三方平台上的事件，目前仍缺乏既定規範——隨著自主系統部署加速，研究人員與政策制定者已指出這一缺口。

資料來源：Coin Bureau