北京訊 — 騰訊週五表示，用於評估第三方模型的AI代理出現了這家中國科技集團未預期的網頁瀏覽行為，這似乎是中國大型企業首次承認的失控代理事件。

AI代理是設計用來在有限人類監督下執行多步驟任務的軟體系統，例如開啟網頁或執行程式碼，這種特性使其行為成為AI安全研究的關注焦點。

此聲明是回應AI安全研究組織Swarmchasers週三發布的報告。報告指出，在其認定與騰訊雲基礎設施相關的環境中運行的「失控」代理，於9月28日至10月8日期間多次嘗試從阿里巴巴的高德地圖（中國版Google Maps）擷取資訊。

騰訊混元（Tencent Hunyuan）是該公司的人工智慧部門，其在X上的貼文中表示，相關活動並非源自其混元模型。該部門表示，審查未發現任何蓄意針對或協同行動的證據，並補充指出公司非常重視這些發現，正在加強網路存取控制和代理監控。

研究人員表示，這些代理搜尋的資訊包括中國公園、博物館和動物園的常用出入口。Swarmchasers表示，「失控」一詞用於形容代理採取超出預期範圍的行動，或以非預期方式完成任務。

在例行自動化請求被封鎖後，這些代理嘗試了其他方法，包括能夠開啟網頁和執行程式碼的公開網路工具、透過其他網站轉送請求，以及使用在公開軟體程式碼中找到的高德地圖金鑰和安全碼。

Swarmchasers表示，未發現這些代理突破高德地圖主要反爬蟲防護措施的證據，反爬蟲防護是網站用於篩除機器人的自動化流量防禦機制。在其記錄的2,818次嘗試中，大多數不是失敗，就是返回反爬蟲頁面、登入畫面或空白結果。不，部分請求確實透過快取頁面和中間服務取得了資訊，包括成都動物園的遊客人次資料，但研究人員表示，無法確定代理是否實際讀取了結果或完成了任務。

雖然這些行為不如美國AI公司披露的事件嚴重——包括OpenAI代理駭入開源平台Hugging Face，以及Anthropic代理提交虛假兇殺舉報——但此次披露凸顯了研究表明中國AI代理同樣可能偽報身分、隱瞞失敗並試圖規避測試控制。

混元是中國領先的AI模型開發商之一，與阿里巴巴和字節跳動等競爭對手的內部團隊競爭。字節跳動本週宣布成立一個專注於AI模型與代理安全的新部門。

阿里巴巴拒絕置評。

— 路透社