歐盟科技主管稱歐盟AI規則足以應對失控AI風險
作者: Cointelegraph·
重點速覽
- •歐盟科技主管Henna Virkkunen表示，歐洲已做好充分準備，能夠應對高能力AI模型所帶來的安全與保安挑戰。
- •歐盟《AI法案》於兩年前通過，是全球最嚴格的AI法規之一，涵蓋AI模型的整個生命週期，並適用於在歐盟境內提供AI系統的公司，無論其總部位於何處。
- •歐盟執委會於8月下旬向30多家AI公司索取安全與保安細節，Virkkunen正在評估回覆內容，其結果可能為歐盟如何執行AI規則提供早期指標。
- •監管機構正在為企業提供評估模型的指導，並納入了60位AI專家的建議。
- •Anthropic執行長D Amodei在部落格文章中警告，AI發展速度過快，若不加節制，可能超越人類理解和控制這些系統的能力，其動力來自遞迴自我改進。
歐盟科技主管Henna Virkkunen表示，歐盟的人工智慧規則足以應對日益強大的AI模型所帶來的安全挑戰，以回應在OpenAI與Anthropic近期事件後，外界對失控AI代理可能脫離人類控制的憂慮。這番言論凸顯了監管機構對現有保障措施的信心，與業界內部關於AI發展速度可能超越人類控制的警告之間的緊張關係。
「我們看到，非常高能力模型的安全與保安問題在國際上是一個非常熱門的話題，而歐洲在這方面已做好充分準備，」Virkkunen在週五刊登的路透社專訪中表示。
Virkkunen也駁斥了批評者關於歐盟AI規則已經過時的說法。歐盟的《AI法案》根據風險等級對人工智慧進行監管，是全球最嚴格的AI法規之一，但該法案是在兩年前通過的。這部法律適用於在歐盟境內提供AI系統的公司，無論其總部位於何處。
「我們已有《AI法案》生效，且該法案涵蓋這些模型的整個生命週期，」她說，並補充指出，監管機構正在為企業提供如何評估其模型的指導，並納入了60位AI專家的建議。
歐盟執委會於8月下旬向30多家未透露名稱的AI公司索取資訊，要求提供其安全與保安措施的詳細資料。Virkkunen表示，她目前正在評估這些回覆，其結果可能為歐盟如何執行其AI規則提供早期指標。
她的評論是在業界內部發出警告之後發表的。Cointelegraph於9月13日報導，Anthropic執行長Dario Amodei在一篇部落格文章中表示，AI發展的速度過快，若不加節制，可能「超越我們理解和控制這些系統的能力」。他表示，AI的快速進展正由其自身日益增強的構建下一代AI的能力所推動，這種動態被稱為遞迴自我改進。相關言論發表在他的個人網站上的一篇文章中。
