自由意志主义智库卡托研究所警告称,政府强制暂停人工智能开发可能会使主导企业免受竞争并延迟有益技术的落地——这一警告正值立法者和AI高管推动对该行业施加新的限制之际。华盛顿最终选择如何治理这项技术,不仅可能影响安全如何被监管,还可能决定哪些企业有能力构建和部署AI系统。

在周一发布的博客文章中,该智库的技术政策学者Jennifer Huddleston指出,企业可以通过自愿性保障措施和共同标准来应对特定危险,而无需叫停整个行业的开发。

她写道:"政府强制的暂停会引发多项担忧,并且很可能无法实现其所声称的安全改进。"她补充说,政府规则的制定很缓慢,更改则更加缓慢。"为今天的模型构建的监管框架可能会主动阻碍明天的模型,阻止可能更好或更安全的响应。"

Huddleston承认AI存在风险,但警告称,围绕领先开发者制定的规则可能帮助其巩固权力并限制竞争——这是一种市场俘获的形式,将使规模较小的公司更难参与竞争。她还指出,暂停美国的开发可能会在外国竞争对手持续前进的同时削弱美国的网络安全防御。

她的评论是在佛蒙特州无党派参议员Bernie Sanders和得克萨斯州民主党众议员Greg Casar提出一项提案之后发表的,该提案要求在联邦安全标准确立之前暂停先进AI开发,并永久禁止人工超级智能——即一种在大多数认知任务上能够匹敌或超越人类表现的假想系统。要求审慎放缓的呼声此前也曾出现:2023年3月,由Future of Life Institute组织、包括Elon Musk在内的数千人联署的公开信,敦促AI实验室暂停训练比GPT-4更强大的系统至少六个月。与此同时,OpenAI CEO Sam Altman支持放缓开发,并敦促企业加强保障措施,而不必等待他所支持的联邦规则。

Huddleston写道:"这类呼吁中有许多伴随着科幻式的末日情景,描述可能发生的最坏情况。""然而,出于恐惧而仓促监管,可能比它声称要应对的风险带来更长期的负面后果。"

Block董事长兼联合创始人、Twitter联合创始人Jack Dorsey在周一的X帖子中表达了对竞争的类似担忧。

Dorsey写道:"领导机器智能的公司应该被倾听。它们有专业知识和商业利益需要保护。""围绕它们的资源构建的规则可能使它们成为唯一能够参与的人。对安全的真诚关切仍然可能造成进入壁垒。"

Dorsey表示,他支持研究者可以检查、修改和测试的开放发布,并评估结果和已知局限,以便外部人士能够质疑开发者的安全主张。

他写道:"我支持审查。我反对由当今领导者谈判达成的全行业限制,因为这些限制可能排斥那些可能揭露失败或构建替代方案的人。""维护一家公司的商业优势并不是安全目标。"

Dorsey还表示,他支持独立测试和可公开问责的执行,包括当证据表明发布模型会实质性地增加较狭窄措施无法充分应对的灾难性风险时,扣留相关模型。

他说:"计算能力可以在不限制开发的情况下触发审查。检查并不是来自监管机构或竞争对手的许可。""我不想要通用的审批要求或等待期。任何基于安全的发布延迟,都必须以灾难性风险例外为由来证明其合理性。"

关于如何治理AI的辩论仍未有定论。Atlantic Council最近的一项分析指出,竞争压力要求可执行的AI安全标准,而美中之间的不信任使国际协议变得复杂。开发者之间的合作也引发了反垄断担忧:OpenAI已询问立法者,竞争的开发者是否可以在法律上达成放缓开发的协议。联邦安全标准是否会出台,以及监管机构最终如何对待开发者之间的协调,将有助于塑造这场辩论的下一阶段。