人工智慧的快速發展引發了迫切的問題：隨著 AI 系統日益自主，人類將保留多少控制權。根據透過 Coin Bureau 的 X 帳號確認並經 Hokanews 獨立審查的資訊，Fundstrat 共同創辦人 Tom Lee 警告，未來的 AI 代理可能變得極度獨立，以至於可能「完全將人類排除」在決策過程之外。

Lee 同時也因透過 Fundstrat 發表看漲比特幣價格預測而廣為人知，他建議區塊鏈技術可以在維護人類監督方面發揮關鍵作用，將基於區塊鏈的控制層描述為可能「唯一能夠停止或管理高度自主 AI 系統的關閉開關」。他的言論凸顯了科技領袖、投資者和研究人員對人類與日益強大的 AI 之間未來關係的深切擔憂。

隨著 AI 代理獲得獨立執行複雜任務、做出決策和與數位系統互動的能力，透明度、問責制和控制權等問題變得更加迫切。

AI 代理走向更高自主性

人工智慧已經遠遠超越了傳統軟體工具的範疇。現代 AI 系統能夠在最少的人工介入下分析資訊、生成內容、撰寫程式碼、管理工作流程並做出決策。

AI 發展的下一階段預計將以自主 AI 代理為中心。不同於僅回應指令的簡單 AI 助理，AI 代理能夠透過規劃行動、存取資料和與不同系統互動來獨立完成任務。這些能力可能徹底改變從金融和醫療保健到製造業和網路安全等各個產業。

主要 AI 實驗室已在這方面採取了行動。OpenAI 於 2025 年初推出了名為 Operator 的自主代理框架，而 Anthropic 和 Google DeepMind 則發表了關於建立能夠在網路上執行多步驟任務的代理研究。然而，更高的自主性也帶來了新的挑戰。如果允許 AI 系統獨立運作，社會必須考慮如何監控、控制和在必要時關閉這些系統。Lee 的警告反映了一場更廣泛的辯論：現有的科技基礎設施是否已為 AI 代理行使日益增加自主性的未來做好準備。

區塊鏈作為潛在的 AI 控制機制

Lee 的言論聚焦於區塊鏈技術可能為控制先進 AI 系統提供一個透明、去中心化的框架。區塊鏈網路以安全且可驗證的方式記錄資訊，而不依賴單一中央機構。

支持者認為，這項技術可以透過記錄決策、權限和系統活動來協助建立 AI 的問責機制。基於區塊鏈的 AI 控制層可能追蹤 AI 代理的行為、誰授權了特定操作，以及是否超出了特定限制。

這一概念引起了探索建立更安全 AI 基礎設施的研究人員的關注。多個專案，包括去中心化身分平台和鏈上驗證系統，已在探索區塊鏈如何證明 AI 生成內容或決策的真實性和來源。這個想法不一定是區塊鏈將取代傳統 AI 安全系統，而是它可以增加一層透明度和控制。

關於 AI 安全的辯論日益升溫

隨著系統變得更加強大，對 AI 安全的擔憂也日益加劇。科技專家警告，高度強大的 AI 如果在沒有充分監督的情況下運作，可能會帶來風險。OpenAI 執行長 Sam Altman 於 2023 年 11 月被突然解雇和復職，將這些治理緊張局勢推向了公眾視野，顯示出未解決的 AI 監督問題如何動搖即使是最大型的 AI 組織。

一個主要擔憂是「對齊問題」——確保 AI 系統持續遵循人類的意圖和價值觀。隨著 AI 代理變得更加複雜，預測其行為可能變得越來越困難。

另一個擔憂是問責制。如果自主 AI 系統做出有害的決策，確定責任歸屬可能極具挑戰性。責任是否應歸於開發者、公司、使用者或 AI 系統本身，這些問題仍然存在。

這些挑戰促使研究人員和政策制定者探索管理 AI 風險的新方法。

控制機制為何重要

「關閉開關」的概念已成為關於先進 AI 討論中的常見話題。關閉開關允許人類在 AI 系統出現異常行為或造成重大風險時將其關閉或限制。對於簡單的軟體，這個過程相對直接。然而，對於跨多個網路運作的高度自主 AI 系統，控制變得更加複雜。

連接到金融系統、通訊平台或關鍵基礎設施的 AI 代理可能以高速影響重要決策。隨著 AI 能力的擴展，建立可靠的關閉機制可能變得至關重要。

Lee 的言論表明，區塊鏈技術可以透過建立透明的權限和限制系統來提供一種可能的解決方案。

AI 與區塊鏈的融合

人工智慧和區塊鏈技術的交匯已成為一個備受關注的新興領域。AI 系統提供自動化、智慧和決策能力。區塊鏈網路則提供透明度、安全性和去中心化驗證。

這兩項技術結合可以形成新型態的數位基礎設施。例如，區塊鏈可用於驗證 AI 身分、管理權限、記錄 AI 行為，以及為自主系統建立規則。一些研究人員認為，去中心化網路可以降低 AI 系統被少數組織控制的風險。

另一些人則認為，單靠區塊鏈無法解決所有 AI 安全挑戰。這項技術可能提供有用的工具，但有效的 AI 治理可能需要多種方法，包括法規監管、技術防護措施和倫理標準。

來源：X 貼文

人類失去監督能力的風險

關於先進 AI 最重大的擔憂之一，是人類可能失去對自動化系統的實質控制權。旨在優化特定目標而設計的 AI 代理可能做出與人類期望不符的決策。例如，管理金融操作的 AI 系統可能優先考慮效率，而忽略了更廣泛的社會考量。同樣地，在線上運作的自主系統可能以人類無法及時審查的速度採取行動。

挑戰在於確保 AI 始終是人類控制的工具，而非在沒有問責制的情況下獨立運作的系統。Lee 的警告反映了更廣泛的觀點：技術進步必須伴隨強有力的監督機制。

金融業密切關注 AI 發展

鑑於 Lee 在金融市場的背景，他的言論具有特殊分量。金融業預計將是受 AI 自動化影響最深的產業之一。AI 代理已在交易、投資組合管理、風險分析、客戶服務和營運流程等領域進行探索。

金融系統需要高度的信任和可靠性，這使得 AI 控制機制尤為重要。AI 代理獨立執行金融決策的未來可能帶來重大機遇，同時也會引入新的風險。基於區塊鏈的驗證系統可能有助於機構監控自動化金融活動並維持合規性。

前方的監管挑戰

全球各國政府正開始為人工智慧制定法規。政策制定者正在考慮涉及透明度、安全標準、資料使用和問責制的問題。然而，AI 技術發展迅速，為傳統監管方法帶來了挑戰。到法規實施時，AI 能力可能已經大幅演進。

歐盟的《AI 法案》於 2023 年 12 月初步達成協議，並於 2024 年正式通過，是全球首次以風險類別為基礎全面監管 AI 的嘗試。該法案將系統從最低風險到不可接受風險進行分類，對高風險應用施加嚴格義務。在美國，拜登總統於 2023 年 10 月發布的 AI 行政命令指示聯邦機構建立安全標準，儘管全面的聯邦立法尚未通過。這些發展表明，監管框架仍在追趕技術的步伐。

這使得一些專家主張技術防護措施也是必要的。區塊鏈系統、加密驗證和自動化監控工具可以補充監管框架。目標是建立既有創新性又負責任的 AI 系統。

批評者質疑區塊鏈是終極解決方案

雖然區塊鏈技術提供了潛在的好處，但一些專家質疑它是否能作為 AI 控制的完整解決方案。區塊鏈網路本身也存在限制，包括可擴展性問題、治理挑戰和技術複雜性。

此外，控制先進 AI 不僅僅是記錄資訊。AI 系統還必須配備適當的安全機制、倫理考量和人類監督。批評者認為，依賴單一技術作為通用解決方案可能忽略了 AI 風險的複雜性。他們建議結合多種安全方法。

AI 治理的未來

隨著自主系統繼續發展，關於 AI 控制的討論可能變得越來越重要。未來的 AI 治理可能涉及傳統監管、技術防護措施和去中心化技術的結合。

區塊鏈可能成為確保 AI 系統保持透明和問責的更廣泛框架的一部分。這項技術可能有助於建立 AI 活動的數位記錄，並提供控制存取和權限的機制。然而，成功實施需要科技公司、研究人員、政府和整個社會的合作。

AI 代理可能改變數位系統

儘管存在擔憂，AI 代理也提供了巨大的潛在好處。自主 AI 系統可以提高生產力、加速科學研究、提升醫療服務品質，並自動化複雜流程。許多專家認為，目標不應是阻止 AI 發展，而是確保其安全推進。

建立可靠的控制系統可以讓社會在降低潛在風險的同時受益於 AI。挑戰將在於找到創新與責任之間的適當平衡。

展望未來

Tom Lee 關於 AI 代理可能將人類排除在決策過程之外的警告，反映了科技和金融界日益增長的共同擔憂。隨著人工智慧變得更加自主，有效監督機制的需求將變得越來越重要。

Lee 建議區塊鏈可作為關鍵控制層，突顯了去中心化技術在未來 AI 治理中的潛在角色。雖然區塊鏈可能不是 AI 安全挑戰的完整答案，但它可能成為旨在維持透明度和人類控制的更廣泛系統的一個組成部分。

人類與 AI 的未來關係將不僅取決於這些系統變得多麼強大，還取決於社會如何有效地管理和引導它們。隨著 AI 持續演進，關於問責制、控制權和安全性的討論將繼續成為塑造下一代數位技術的核心議題。