Anthropic计划中的首次公开募股正引起人们对一个非同寻常的投资者挑战的关注:如何权衡先进AI系统可能带来的潜在责任。据彭博社10月9日Markets Daily简报,该公司最早或于11月中旬上市。

Anthropic是由前OpenAI研究人员创立的Claude聊天机器人的开发者,是该领域最知名的公司之一。公开上市通常要求公司在披露文件中向潜在投资者明确列出重大风险,而彭博社的报道强调,自主AI系统造成损害的法律先例有限,此类风险在IPO披露中如何量化也存在不确定性。对于一家处于先进AI领域核心的公司而言,社会级AI风险应如何纳入标准风险披露,仍是一个悬而未决的问题。

首席执行官Dario Amodei曾警告人类可能失去对AI的控制,以及该技术被滥用于网络攻击或生物恐怖主义的可能性。一些研究人员估计AI导致人类灭绝的概率达到10%或更高,这些估计仍存在争议——而这种缺乏共识的情况,正是在IPO披露中量化此类风险存在不确定性的原因之一。

在这些风险的经济维度上进行思考的人士中,包括Slow Ventures合伙人Sam Lessin。他提议要求AI实验室将1万亿美元现金存入托管账户,以弥补未来可能造成的损害,并认为即使不考虑灭绝情景,潜在的社会责任也可能达到2万亿至4万亿美元。该提议凸显出,以传统披露术语来表达这类潜在责任的既定基准何其匮乏。

Lessin的提议代表的是投资人的建议,而非政府要求。彭博社的简报并未描述Anthropic已就量化此类责任形成最终披露。随着公司将上市目标定在最早11月中旬,上市前提交的披露文件将显示Anthropic如何——或者是否——向公开市场投资者回应这些问题。