Marginal Revolution 的 Tyler Cowen 呼籲以科學嚴謹態度討論 AI 安全風險
重點速覽
- •Tyler Cowen 認為,OAI/HuggingFace 事件後出現的警示性說法缺乏充分的科學佐證。
- •Cowen 要求關切方提供一套具體方法論,在兩到三年的時間框架內量化可歸因於 AI 的網路安全成本。
- •他要求提出具體的數值成本估計,以便隨時間追蹤並與實際結果進行評估。
- •Cowen 呼籲披露任何做空的股票或資產,並指出他自己預期的成本足夠低,不會做空市場。
- •這篇文章主張 AI 安全政策辯論應建立在可證偽的證據之上,而非 Cowen 所描述的個人焦慮管理。

在近期 OAI/HuggingFace 事件及相關發展之後,各評論管道湧現一波悲觀預測與嚴重擔憂。然而,由喬治梅森大學經濟學家 Tyler Cowen 共同撰寫的經濟學部落格 Marginal Revolution 認為,這些警示性說法大多缺乏充分佐證。
在一篇題為「Act like it is science」的文章中,Cowen 向那些發出警訊的人提出一個簡明的挑戰:採用科學方法來建立有說服力的論證。這篇文章反映了 Cowen 一貫的方法論立場——在學術經濟學和政策圈中廣受認可——即政策論證應建立在可量化的證據和可證偽的預測之上,而非對最壞情境的質性訴求。具體而言,這篇文章向任何希望說服懷疑者的人提出以下要求:
-
一套估算未來網路安全成本的方法論。 Cowen 要求提出一個綱要,說明在兩到三年內如何量化 AI 相關安全入侵所造成的額外網路安全成本。他承認這個數字不太可能為零,但堅持需要具體的估算方法。作為參考,文章連結到一項由頂尖經濟學家進行的過往網路安全成本研究。
-
對這些潛在成本的目前數值估計,以便隨時間與實際結果進行評估。Cowen 指出,回應者可以針對多種監管和安全情境提供估計值,並將此定位為展現分析可信度的一個直接方式,即使確認會有所延遲。文章澄清,這些估計不必取代個人偏好的安全措施,但敦促在預測中保持具體性。
-
披露目前做空的任何股票或其他資產。 如果個人對第二點的成本估計夠低——正如 Cowen 自己的估計一樣——答案可以合理地為零。他表示,雖然預期會有成本,但不致於嚴重到社會無法應對,同時仍能預期正向的股票報酬。這項披露要求呼應了一項更廣泛的學術慣例,即要求分析師將自身信念記錄在案,以便追蹤最悲觀的預測是否能經得起觀察結果的檢驗。
文章總結道,採行這些做法將使討論提升至更科學的層次,並擺脫 Cowen 所稱的「一場漫長的個人焦慮管理練習」。他論稱,如果這個問題真如支持者所宣稱的那般關鍵,那麼投入心力進行如此嚴謹的分析無疑是值得的。