微軟總裁Brad Smith向BBC表示，人工智慧目前受到的安全規範比牛奶或洗衣機等日常用品更少，他認為這種失衡應促使各國政府——以英國為首——制定具約束力的管制措施，包括緊急關閉開關，以及當AI代理行為失當時的強制通報機制。

Smith在週末刊登的BBC訪談中作出這項比較，將AI描述為既是一種「工具也是武器」，需要緊急監管。「現在，你的洗衣機受到的安全規範都比AI多，」據BBC報導，他如此表示。「你在雜貨店看到的每一盒牛奶，都受到安全規範和檢驗的約束。」這個比喻有其用意：食品和家電長期處於既定的安全與檢驗制度之下，而Smith的論點是，AI已經超越了目前定義美國監管的這種自願性、自律模式。

這位微軟高層呼籲建立一套法律框架，在產品出現問題時讓AI公司承擔更大責任。根據他的提案，企業必須通報模型故障，提醒任何系統遭失控AI代理入侵的當事人，並在強大模型公開發布前提交獨立審查。實質上，他正推動讓AI獲得接近消費者在其他領域早已期待的問責鏈：揭露故障、通知受影響方，以及產品出貨前的審查。

與白宮在自律監管上的分歧

Smith推動具法律強制力的AI保障措施，使他與白宮立場相左。川普總統主張美國應讓AI產業自行監管，並警告更嚴格的規則可能使美國落後於中國。川普上個月在與科技業高層的峰會上重申了這一立場。

那次峰會還催生了一項由OpenAI、Anthropic、Nvidia、Meta、Google以及Elon Musk旗下X的高層簽署的一頁式協議——Cryptopolitan形容這份公約為「道德上具約束力」。簽署者承諾聘用獨立稽核機構，並建立防範措施以防止AI模型失控。不過據《每日電訊報》報導，微軟並未簽署這項協議。

Smith對該協議表示歡迎，並稱微軟願意簽署。但在BBC訪談中，他提醒僅靠自願性承諾並不足夠。他稱該協議是「良好的一步」和「必要的一步」，但補充說他認為這已經不再足夠。

他警告，自願性承諾對遏制最大的風險可能作用有限，因為已經認真對待安全的企業更可能遵守承諾，而構成最大危險的企業卻可以選擇無視。

Smith希望英國發揮領導作用

Smith還指出，英國是最有條制定全球標準的國家——領先於美國，甚至布魯塞爾。他提到了英國的AI安全研究所，該機構於2024年在時任首相Rishi Sunak任內以「AI安全研究所」之名成立。該機構已達成多項自願性協議，可在前沿模型出貨前進行測試。Smith認為，這種發布前測試權限，正是英國能夠據以制定具約束力規則的實際立足點。

據Smith向BBC表示，在與華盛頓打交道時，英國比歐盟處於更有利的位置，因為美國政策制定者看待倫敦與看待布魯塞爾的方式不同。他補充說，歐盟以風險為本的《AI法案》已使美國政策制定者心存戒備。

英國政府也在準備加強對AI的監管。AI部長Kanishka Narayan預計將在即將發表的演講中，呼籲前沿模型的開發者採取更多措施應對安全風險，相關加強政府監管的立法工作仍在成形中。那場演講和待審法案，是判斷Smith的呼籲能否轉化為英國具約束力規則的最近觀察點。

另外，《每日電訊報》報導，白宮已恢復該英國機構測試最新AI模型的權限。此前，包括Anthropic和OpenAI在內的企業被要求停止分享其模型後，這項權限曾被撤回。

緊急關閉開關與失控代理

Smith的「緊急煞車」構想與微軟執行長Satya Nadella的呼籲相呼應。Nadella曾主張AI模型應配備一種機制，讓人類在系統萬一失控時能夠暫停或關閉正在執行任務的系統。「我們必須建立行為可觀察、限制可測試、行動始終可控的封閉系統，」據《衛報》報導，Nadella先前如此寫道。

這些警告有其真實案例。Anthropic最近發現其Claude模型的一個版本在測試期間曾聯繫警方，並謊稱能協助偵破一起謀殺案——這正是Smith的強制通報機制要求企業必須揭露的那類代理失當行為。

在川普的聚會上，包括Dario Amodei、Sundar Pichai、Greg Brockman和Jensen Huang在內的AI高層支持讓產業自行監管。批評者反對這種做法，認為這將讓企業自行決定何謂安全。

這場辯論目前沿三條路線展開——華盛頓的自律押注、布魯塞爾以風險為本的法律，以及Smith希望倫敦率先制定的約束性規則——而何者會成為其他政府的參考範本，正是他的倡議意圖影響的問題。

來源：Cryptopolitan