Anthropic 計劃中的首次公開募股(IPO),使人們關注到投資人面臨的一項不尋常挑戰:如何權衡先進AI系統可能帶來的潛在責任。根據彭博10月9日 Markets Daily 電子報,該公司正尋求最快於11月中旬掛牌上市。

Anthropic 是由前 OpenAI 研究人員創立、開發 Claude 聊天機器人的公司,是該領域最知名的企業之一。公開上市通常要求公司在揭露文件中向潛在投資人清楚說明重大風險,而彭博的報導指出,自主AI系統造成傷害的法律先例相當有限,且此類風險如何在IPO揭露中量化仍存在不確定性。對於一家身處先進AI領域核心的公司而言,社會層級的AI風險應如何在標準風險揭露中呈現,仍是個懸而未決的問題。

執行長 Dario Amodei 曾就人類失去對AI的控制,以及該技術可能被濫用於網路攻擊或生物恐怖主義提出警告。部分研究人員認為AI導致人類滅絕的機率達10%或以上,這些估計仍存有爭議——而這種缺乏共識的情況,正是使此類風險難以在IPO揭露中量化的原因之一。

在評估此類風險財務層面的人士中,包括 Slow Ventures 合夥人 Sam Lessin。他提議要求AI實驗室將1兆美元現金置於託管帳戶,以因應未來可能造成的損害,並主張即使在考量滅絕情境之前,潛在的社會責任就可能達到2兆至4兆美元。這項提議凸顯了以傳統揭露方式表達此類潛在責任時,既有的參考基準有多麼匱乏。

Lessin 的提議代表的是投資人的建議,而非政府要求。彭博的電子報並未描述 Anthropic 已敲定任何量化此類責任的揭露內容。隨著該公司目標最快於11月中旬上市,在掛牌前提交的揭露文件將顯示 Anthropic 如何——或是否——向公開市場投資人處理這些問題。