紐約市審計長 Mark Levine 已呼籲 Anthropic 暫停其計畫中的首次公開募股（IPO），直到該公司處理有關人工智慧安全、治理以及 AI 開發步調的疑慮。

在 10 月 14 日公布、致 Anthropic 執行長 Dario Amodei 的信函中，Levine 主張，該公司不應一方面向公眾警示 AI 的危險，另一方面又競相前進公開市場。此一要求正值 Anthropic 追求接近 2 兆美元估值之際。

「我寫這封信，是為了敦促 Anthropic 暫停其計畫中的首次公開募股（IPO），直到該公司全面且透明地處理其自身提出的 artificial intelligence（AI）安全、治理與開發步調疑慮，」Levine 寫道。

Levine 引用 Amodei 呼籲放慢 AI 開發的主張

Levine 的論點部分依據 Amodei 於 9 月 12 日發表的〈We Must Pace the Frontier〉一文。Amodei 在文中寫道：「我們必須放慢提升 AI 模型能力的步調。」

Amodei 表示，遞迴式自我改良以及一起跨產業的安全事件，使他相信 AI 產業需要更多審慎，而不是僅僅增加安全方面的支出。

這篇文章提出三步驟計畫。第一步是賦予第三方評估機構類似員工的權限，以查核企業的安全實務。Anthropic 表示，該公司已自行承諾落實這項措施。第二步呼籲民主國家的 AI 公司之間進行協調，第三步則主張全球協調，包括與威權政府合作。

Levine 認為，Anthropic 的 IPO 可能會妨礙 Amodei 所描述的迫切工作。這篇文章獲得部分 AI 產業人士支持，OpenAI 執行長 Sam Altman 與 xAI 執行長 Elon Musk 均同意其中的主張。

Levine 也與紐約市的投資利益直接相關。身為審計長，他擔任該市退休基金的投資顧問、保管人與受託人，這些基金持有超過 3,250 億美元的資產。審計長辦公室表示，公共退休基金透過私募股權對 Anthropic 的曝險約為 700 萬美元。

儘管這筆持股相對不大，Levine 表示，這讓他的辦公室在該公司成為公開上市公司之前，有立場向 Anthropic 施壓。

對 Anthropic 治理架構的疑慮

Levine 也對 Anthropic 的公司架構表達疑慮。該公司是特拉華州的公益公司（public benefit corporation），設有長期利益信託（Long-Term Benefit Trust）。公益公司是一種營利性架構，要求董事在股東回報與既定的公共利益目的之間取得平衡，而此類信託則旨在讓獨立的治理機構在維護公司長期使命上發揮作用。Levine 表示，有報導指出，這種架構可能使創辦人與受託人掌握集中化的控制權。

他主張，鑒於 Anthropic 已揭露的風險，這種控制權與股東問責之間的落差令人難以接受。

Levine 也批評 AI 產業與美國政府近期達成的一項協議。Anthropic 與另外五家公司簽署了信中所述、與白宮達成的道德約束性協議。Levine 表示，該協議「不足以應對當前局勢」。

Anthropic 自身的揭露也強化了這些疑慮。該公司在機密的 S-1 草案文件中警告，先進 AI 可能對人類構成「災難性或存亡層級的風險」。據報導，風險因素章節長約 80 頁，幾乎是描述業務章節的兩倍。

Levine 指出，Amodei 的文章發表之前，Anthropic 前研究員 Jacob Coxon 已於 9 月 9 日辭職。Coxon 以存亡層級的疑慮作為離職原因，並表示內部人士認為，若開發步調維持現狀，AI 可能在本十年末消滅人類。

Anthropic 的對齊科學負責人 Evan Hubinger 則估計，AI 在本十年內殺死全人類的機率高於 10%。

Anthropic 公布快速營收成長

這場關於安全與治理的辯論，正值 Anthropic 為可能超過 2 兆美元估值上市做準備之際。

在 10 月 14 日（週三）於舊金山舉行的 IPO 前私人會議上，Anthropic 向投資人表示，第三季營收達到約 168 億美元，較上一季成長 45%。該公司也表示，已錄得調整後獲利。

Anthropic 本年度第一季營收為 47 億美元。此數字在第二季大幅成長，達到約 116 億美元。儘管成長迅速，該公司在這段期間仍錄得超過 80 億美元的營業虧損。

Anthropic 也告訴投資人，在第三季結束時，其現金流為正，這在一個龍頭企業持續在基礎設施與運算上大舉支出的產業中，是相當罕見的說法。

該公司目前未來十年已規劃超過 5,180 億美元的基礎設施與運算承諾。這些承諾構成了這場可能超過 2 兆美元上市案的部分依據，並可能使 Anthropic 搶在競爭對手 OpenAI 之前進入公開市場，後者目標為 2027 年初掛牌。

Anthropic 已於 6 月 1 日向美國證券交易委員會（SEC）機密提交 S-1 註冊聲明草案。機密 S-1 草案讓 SEC 工作人員可在文件公開前進行審查，而股票向外部投資人發售前，仍須完成公開申報。

Anthropic 尚未公布確切的 IPO 日期。市場猜測，這場發行可能會在 11 月美國期中選舉之後進行，不過該公司預計仍會搶在 OpenAI 之前掛牌隨著上市程序推進，Anthropic 對 Levine 信函的回應，以及其轉為公開 S-1 申報的時點，都是值得關注的重點。