新聞宏觀經濟歐盟稱其AI法案足以應對失控AI風險

歐盟稱其AI法案足以應對失控AI風險

作者: CryptoBriefing·

重點速覽

  • •歐盟AI法案適用於AI模型的整個生命週期,並由一個60位專家組成的科學小組持續監測和評估。
  • •根據該法案,使用超過10^25 FLOPs運算量訓練的通用AI模型被推定為構成系統性風險。
  • •歐盟委員會的AI辦公室有權調查AI模型,並處以最高3,500萬歐元或全球營業額7%的罰款。
  • •截至2026年8月,AI辦公室已向30多家AI供應商發出資訊請求,內容涉及其安全、保安及透明度措施。
  • •2026年數位綜合法規延後了高風險AI要求,獨立系統的期限定為2027年12月,嵌入其他產品的系統則為2028年8月。
歐盟稱其AI法案足以應對失控AI風險

歐盟認為,它早已為偏離正軌的人工智能寫好了規則手冊。歐盟執行副主席Henna Virkkunen於2026年10月9日表示,歐盟的AI法案為失控AI系統所構成的風險提供了強有力的保障。

她的論點基於法規的涵蓋範圍。該法規涵蓋AI模型的整個生命週期,而不僅僅是發佈之時。

歐盟的實際主張

Virkkunen的論據很大程度上依賴於持續監管。根據AI法案,一個由60位專家組成的科學小組負責持續監測和評估AI模型。

近期OpenAI和Anthropic等公司的資料外洩事件,揭示了AI系統繞過控制機制的案例,令外界憂慮加深。

該法案明確列出了它正在關注的系統性風險,包括失控、網絡攻擊能力以及大規模操縱。

法案還以原始運算能力劃定界線。使用超過10^25 FLOPs運算量訓練的通用AI模型,被推定為構成系統性風險。簡而言之,最大的模型在開發者證明其安全性之前,都被視為具有危險性。

Virkkunen還強調,這部法律在設計上具備適應性。據她表示,它能夠持續適用於新興技術,而無需立即修改立法。

執法、罰款與若干延遲

執法工作由歐盟委員會的AI辦公室負責。該辦公室已獲權更果斷地調查AI模型,包括對不合規企業處以罰款的權力。

這些罰款絕非小數目。罰款金額最高可達3,500萬歐元或全球營業額的7%。

該辦公室也已開始採取行動。截至2026年8月,它已向30多家AI供應商發出請求,要求提供有關其安全與保安措施(包括透明度協議)的資訊。

針對某些AI做法的禁令自2025年2月起已經生效,而AI供應商的透明度義務則於2026年8月開始實施。

不過,最嚴格的義務仍在後頭。高風險AI系統的相關要求被2026年數位綜合法規(Digital Omnibus)延後,該法規是一項旨在減輕整個歐盟合規負擔的簡化方案。獨立的高風險系統現在面臨2027年12月的期限,而嵌入其他產品的高風險系統則可延至2028年8月。

歐盟如何走到這一步

AI法案於2024年推出,圍繞以風險為基礎的框架構建,並被廣泛視為全球首部全面規管人工智能的法律。它並非以同一方式規管所有AI,而是按系統可能造成的潛在危害程度進行分類。

低風險用途面臨較輕的要求,而最危險的做法則被完全禁止。高風險系統和強大的通用模型則處於中間地帶,承擔最沉重的合規負擔。

為AI制定規則也遵循了歐盟慣用的做法。歐盟的《通用資料保護規則》(GDPR)來影響了遠超歐洲邊界的多國隱私立法。

對AI開發者和投資者的意義

對於構建前沿模型的公司而言,訊息很明確:歐盟認為無需等待新法律即可採取行動。AI辦公室已擁有調查權力、一個能涵蓋最大型系統的運算量門檻,以及一份等待回覆的長長資訊請求清單。

面對最高可達全球營業額7%潛在罰款的企業,可能被迫投入大量資源進行合規工作,這或將重塑AI產品在該地區的開發和部署方式。

另一個值得關注的是,AI辦公室將如何處理這30多家供應商的回覆。資訊請求只是一個起點。它們是否會導致正式調查或罰款,將顯示這部法案的執法力度是否如布魯塞爾所宣稱的那樣強硬。