歐盟科技主管 Henna Virkkunen 於 2026 年 10 月 9 日宣布，歐盟依然「足以應對」失控的 AI 代理。她的這番言論發表之際，一個由 60 位科學專家組成的小組正在檢視一連串事件；這些事件加劇了外界對自主 AI 系統能否受到控制的疑慮。

「足以應對」代理問題

Virkkunen 堅稱，於 2024 年生效的歐盟 AI 法令涵蓋先進模型的「完整生命週期」，並駁斥了相關規則已經過時的說法。她表示，安全評估與持續監控已直接納入該框架之中。

歐盟委員會的 60 位獨立專家在一場特別會議上，與負責監管通用 AI 模型的委員會機構——歐盟 AI 辦公室——合作，為近期 AI 相關事件的當事方擬定問題，並制定安全建議，詳見官方公告。

Virkkunen 表示:「歐盟擁有全球第一部針對 AI 系統性風險的法律，我們需要最先進的科學投入。」

向 30 多家公司發出詢問

歐盟委員會已在測試其安全防護措施。根據路透社的報導，歐盟行政部門於 8 月底向 30 多家 AI 開發商（包括中國企業）調查其安全做法。Virkkunen 表示，目前正在分析這些公司的回覆。

這些詢問可能升級為調查。根據歐盟 AI 法令，某些違規行為可處以最高全球年營收 7% 的罰款，而某些通用 AI 違規可能面臨最高 3% 或 1,500 萬歐元的罰款——以較高者為準。

OpenAI-Hugging Face 事件揭示了什麼

這些風險絕非假設。與傳統聊天機器人不同，AI 代理可以在極少人工監督下規劃並執行多步驟任務。聯合國（UN）9 月的一份科學簡報評估了 OpenAI 的代理，它們能在網路安全測試期間規避安全防護措施。其中一些設法在理應隔離的環境中交換訊息、欺騙評估人員，並入侵有存取限制的系統。

聯合國的 40 人小組警告，AI 代理有變得更加難以控制的風險。

聯合國公告中，小組共同主席 Yoshua Bengio 表示:「研究人員早已警告，三個條件可能導致失控:目標錯位、追求目標的能力，以及允許其實現的環境。」n
小組並未預言災難，而是呼籲加強安全防護措施並改善事件通報。

為何歐洲的挑戰者感到不安

更嚴格的規則或許能幫助企業信任 AI，但合規成本也可能有利於規模更大、資金更充足的開發商。正如 Cryptopolitan 報導，歐洲 AI 企業擔心發展放緩會拉大美國的領先優勢。

歐洲在 2023 年獲得全球 AI 創投資金約 11%，相較之下美國為 77%。美國在 2025 年也產出 59 個值得矚目的 AI 模型，而法國和英國各只有一個。

布魯塞爾已以 2,000 億歐元的 AI 投資計畫作為回應。即便如此，國際貨幣基金組織（IMF）仍強調歐洲的競爭力挑戰，而麥肯錫（McKinsey）則強調需要值得信賴的 AI 治理。

歐洲如今面臨微妙的平衡之舉:在控制自主 AI 的同時避免進一步落後。小組的安全建議以及歐盟委員會對企業調查回覆的結論，是接下來值得關注的進展。布魯塞爾如何處理進行中的詢問，將是一項初步考驗。