比爾·蓋茨呼籲對 AI 風險進行國際監管
重點速覽
- •蓋茨據報正尋求於今年稍晚與中國國家主席習近平會面，討論先進 AI 系統的國際管控。
- •他希望各國監測 AI 模型是否能生成分子或支援生物攻擊。
- •蓋茨表示，如果美國先採取類似行動，中國可限制危險 AI 模型的發布。
- •近日涉及 OpenAI、Anthropic 與 Meta 系統的測試，據報顯示 AI 模型成功入侵真實網站。
- •這些據報事件加劇了外界對 AI 安全的辯論，包括資安、生物風險與共享全球標準的必要性。
微軟創辦人比爾·蓋茨已警告，人工智慧已發展成為全球安全疑慮，並呼籲對最危險的 AI 模型加強國際監督。
根據 @coinbureau 在 X 上分享的資訊，蓋茨據稱正尋求於今年稍晚與中國國家主席習近平會面，討論針對先進 AI 系統的國際管控。他提出的做法包括更密切監測 AI 模型是否能夠生成分子或協助生物攻擊。
蓋茨也主張，如果美國率先採取類似行動，中國可以在限制潛在危險 AI 模型發布方面發揮作用。這些評論出現在各國政府與科技公司持續檢視能力日益提升的 AI 系統，是否會被用於傳統應用之外的情境之際，監管問題如今已遠超產品安全，延伸到潛在的國家安全疑慮。
蓋茨對 AI 與生物風險提出擔憂
蓋茨強調的核心疑慮，是先進 AI 系統最終可能對生物威脅產生影響。他敦促各國監測 AI 模型是否具備生成分子或執行與生物攻擊相關活動的能力。
這種擔憂反映出外界對於日益強大的人工智慧具有雙重用途的更廣泛辯論。為合法科學與技術目的而開發的系統，也可能提供可被濫用的資訊。
蓋茨呼籲監測，聚焦於可能造成重大安全風險的能力。這種作法不只是將 AI 監管視為科技政策問題，而是要求各國政府評估先進模型是否能執行一旦遭濫用就可能帶來嚴重後果的任務。
隨著 AI 持續在多個國家與公司之間發展，國際協調可能變得格外重要。若相近的系統能在其他地方被開發或發布，單一政府實施的限制效果可能有限，這也是為何相關討論愈來愈聚焦於共同標準，而非各自為政的國家規則。
中國可能在 AI 管控中扮演角色
據報導，與習近平接觸的 प्रयास，反映出蓋茨擔憂的國際層面。根據 X 上分享的資訊，蓋茨認為如果美國先採取行動，中國可以限制危險 AI 模型的發布。
這種做法將更強調主要 AI 生產國之間的協調。美國與中國是先進人工智慧發展中扮演重要角色的國家之一，因此其政策與技術潛在風險的討論密切相關。
蓋茨據報的立場顯示，若主要科技強權為高度能力 AI 系統的開發與部署建立相近的保障措施，國際管控可能會更有效。
這項提議也凸顯出管理可跨越國界的快速發展技術之困難。AI 模型可在一國開發、全球分發，並可能被位於不同監管標準司法管轄區的個人或組織使用，這使得隨著能力提升，執行與協調更為困難。
AI 系統已展現進攻能力
近來涉及 OpenAI、Anthropic 與 Meta 所開發系統的測試，也加深了外界對 AI 安全的擔憂。
根據 @coinbureau 分享的資訊，這些測試涉及成功入侵真實網站的 AI 系統。蓋茨將這些事件形容為「應該讓人們大開眼界」的發展。
這些據報示範之所以重要，在於它們涉及 AI 系統執行生成文字或回答問題以外的任務。AI 系統與真實世界數位環境互動的能力，會帶來額外的安全考量，特別是在系統擁有更高自主性時。
這些事件也凸顯了為何 AI 安全討論愈來愈同時涵蓋資安、生物風險及其他潛在風險。隨著模型能夠執行更多步驟的任務，研究人員與政策制定者也面臨一個問題：這類系統應該獲得多大程度的外部工具與數位基礎設施存取權。
呼籲加強國際監督
蓋茨據報的評論，為各國政府應如何回應快速演進的 AI 能力，增添了持續進行的辯論。他對生物風險、資安以及可能危險的模型發布的關注，指向一個更廣泛的 AI 安全評估框架。
這個問題已超出個別科技公司範疇，因為先進模型正由不同國家的多個組織共同開發。因此，協調一致的標準可能成為管理與日俱增能力系統相關風險的重要部分。
同時，任何國際管控都必須處理各國政策、技術優先順序與監管方式的差異。據報涉及美國與中國的提案，反映出在主要 AI 強權之間建立共同防護措施的挑戰。
目前，蓋茨的警告重點在於監測先進 AI 系統的能力，並防止可能帶來嚴重安全風險的模型被發布或遭濫用。他據報計畫於今年稍晚與習近平接觸，也會進一步凸顯此議題的國際性。
隨著 AI 系統持續進步，關於生物安全、資安與國際管控的問題，預料仍將是技術發展與部署討論中的核心。
作者：Victoria Hale 技術與區塊鏈撰稿人 Victoria Hale 撰寫區塊鏈技術、數位基礎設施，以及新興技術與金融交會的相關內容。她的文章著重於以清晰且準確的方式向一般讀者說明技術發展。
在 Google News 上查看其他新聞與文章
免責聲明：
HOKA.NEWS 上的文章旨在讓你隨時掌握加密貨幣、科技以及其他領域的最新動態，但它們不是財務建議。我們分享的是資訊、趨勢與觀點，並不是要你買入、賣出或投資。在做出任何金錢決定前，請務必自行做好功課。若你根據本站內容採取行動而導致任何損失、收益或混亂，HOKA.NEWS 概不負責。投資決策應來自你自己的研究，並且理想上應有合格財務顧問的建議。請記住：加密貨幣與科技變化迅速，資訊可能瞬息萬變；雖然我們力求準確，但無法保證內容百分之百完整或即時。
HOKA.NEWS 上的文章旨在讓你隨時掌握加密貨幣、科技以及其他領域的最新動態，但它們不是財務建議。我們分享的是資訊、趨勢與觀點，並不是要你買入、賣出或投資。在做出任何金錢決定前，請務必自行做好功課。
若你根據本站內容採取行動而導致任何損失、收益或混亂，HOKA.NEWS 概不負責。投資決策應來自你自己的研究，並且理想上應有合格財務顧問的建議。請記住：加密貨幣與科技變化迅速，資訊可能瞬息萬變；雖然我們力求準確，但無法保證內容百分之百完整或即時。
