Marginal Revolution的Tyler Cowen呼吁以科学严谨态度对待AI安全风险讨论
要点速览
- •Tyler Cowen认为，OAI/HuggingFace事件后出现的警告性论调缺乏充分的科学论证。
- •Cowen要求相关方面提供一种具体的方法论，在两到三年时间框架内量化可归因于AI的网络安全成本。
- •他呼吁给出具体的数值成本预估，以便日后追踪并与现实结果进行对照评估。
- •Cowen要求披露任何做空的股票或资产，并指出他自己预期的成本足够低，因此不会做空市场。
- •文章主张将AI安全政策辩论建立在可证伪证据的基础上，而非Cowen所描述的个人焦虑管理。
近期OAI/HuggingFace事件及相关进展引发了一连串悲观预测和严重担忧，在各大评论渠道中广泛传播。然而，由乔治梅森大学经济学家Tyler Cowen联合撰写的经济学博客Marginal Revolution指出，这些警告性论调中的大多数仍然缺乏充分论证。
在一篇题为"像科学家一样行事"的文章中，Cowen向那些发出警告的人提出了一个直接的挑战：运用科学方法来建立有说服力的论证。这篇文章体现了Cowen一贯的方法论立场——这一立场在学术界经济学和政策圈中获得广泛认可——即政策论辩应以可量化的证据和可证伪的预测为基础，而非依赖定性的最坏情景诉求。具体而言，文章向任何希望说服怀疑者的人提出了以下要求：
-
估算未来网络安全成本的方法论。 Cowen要求提出一个框架，说明在未来两到三年内如何量化由AI相关安全漏洞带来的额外网络安全成本。他承认这一数字不太可能为零，但坚持需要一个具体的估算方法。作为参考，文章链接了一项由顶尖经济学家完成的过往网络安全成本研究。
-
对上述潜在成本的当前数值预估，以便日后与实际结果进行对照检验。Cowen指出，受访者可以针对多种监管和安全情景分别给出估算，他将此视为展示分析可信度的一种直接方式，即使确认需要等待一段时间。文章澄清说，此类估算不必替代个人所偏好的安全措施，但敦促在预测中保持具体性。
-
披露当前做空的任何股票或其他资产。 如果第二点中的成本预估足够低——正如Cowen自己的预估那样——答案完全可以是零。他表示，虽然成本是预期之中的，但不太可能严重到社会无法应对、同时仍能预期股票正回报的程度。这一披露要求呼应了学术界的一项更广泛惯例，即要求分析师将自身立场记录在案，以便追踪那些最悲观的预测是否经得起实际结果的检验。
文章最后总结道，采纳这些做法将使讨论提升至更为科学的层面，并摆脱Cowen所称的"一场漫长的个人焦虑管理练习"。如果问题确实如支持者所声称的那样至关重要，那么付出努力进行如此严谨的分析无疑是值得的。
