纽约市主计长马克·莱文（Mark Levine）敦促Anthropic暂停其计划中的首次公开募股（IPO），直至公司解决有关人工智能安全、治理以及AI开发节奏方面的担忧。

在一封10月14日公布的致Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）的信函中，莱文指出，该公司不能一边向公众警示AI的危险，一边又冲刺公开市场。这一请求正值Anthropic谋求接近2万亿美元的估值之际。

莱文写道："我致函敦促Anthropic暂停其计划中的首次公开募股（IPO），直至公司全面且透明地解决其自身提出的有关人工智能（AI）安全、治理和开发节奏的担忧。"

莱文引用阿莫迪放缓AI开发的呼吁

莱文的论点部分依赖于阿莫迪9月12日发表的文章《我们必须为前沿 pacing》。阿莫迪在文章中写道："我们必须放慢提升AI模型能力的步伐。"

阿莫迪表示，递归式自我改进以及一起跨行业安全事件使他相信，AI行业需要更加谨慎，而不仅仅是增加安全方面的投入。

该文章提出了一项三步计划。第一步是赋予第三方评估机构类似员工的访问权限，以核实各公司的安全实践。Anthropic表示已自主承诺落实这一措施。第二步呼吁民主国家的AI公司之间进行协调，第三步则主张全球协调，包括与威权政府的协调。

在莱文看来，Anthropic的IPO可能会妨碍阿莫迪所描述的紧迫工作。该文章获得了AI行业部分人士的支持，OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）和xAI首席执行官埃隆·马斯克（Elon Musk）均表示认同其主张。

莱文还与纽约市的投资利益直接相关。作为主计长，他担任该市养老基金的投资顾问、托管人和受托人，这些基金持有超过3250亿美元的资产。主计长办公室表示，公共养老基金通过私募股权持有约700万美元的Anthropic敞口。

尽管这一持股规模相对较小，莱文表示，这为其办公室在Anthropic成为上市公司之前向其施压提供了依据。

对Anthropic治理结构的担忧

莱文还对Anthropic的公司架构表示担忧。该公司是一家特拉华州公益公司，并设有长期利益信托（Long-Term Benefit Trust）。公益公司是一种营利性结构，要求董事会在股东回报与既定的公益目标之间进行平衡，而此类信托旨在让一个独立的治理机构参与维护公司的长期使命。据莱文所述，有报告显示该结构可能使创始人和受托人获得集中控制权。

他认为，鉴于Anthropic已经披露的风险，这种控制权与股东问责之间的差距难以令人接受。

莱文还批评了近期AI行业与美国政府之间的一项协议。Anthropic与其他五家公司签署了信函中所述的与白宫达成的一项道德约束力的协议。莱文表示，该协议"不足以应对当前局势"。

Anthropic自身的披露也加剧了他的担忧。在其保密的S-1草案文件中，该公司警告称，先进的AI可能对人类构成"灾难性或生存性风险"。据报道，风险因素部分长达约80页，几乎是描述业务部分篇幅的两倍。

莱文指出，阿莫迪的文章发布于前Anthropic研究员雅各布·考克森（Jacob Coxon）9月9日辞职之后。

考克森将生存性担忧列为其离开Anthropic的原因，并表示内部人士认为，如果开发继续以目前的速度推进，AI可能在本十年末之前毁灭人类。

Anthropic的对齐科学负责人埃文·休宾格（Evan Hubinger）曾表示，AI在本十年内杀死全人类的概率超过10%。

Anthropic报告营收快速增长

围绕Anthropic的安全与治理争论正值该公司筹备一桩可能使其估值超过2万亿美元的上市交易之际。

在10月14日星期三于旧金山举行的一次IPO前私人会议上，Anthropic告诉投资者，第三季度营收达到约168亿美元，较上一季度增长45%。该公司还表示已实现调整后盈利。

Anthropic报告今年第一季度营收为47亿美元。第二季度该数字大幅增长，营收达到约116亿美元。尽管增长显著，该公司在该期间仍录得超过80亿美元的运营亏损。

Anthropic还告诉投资者，其在第三季度结束时实现了正向现金流，在行业领先公司持续在基础设施和计算方面大举投入的背景下，这一说法颇为罕见。

该公司目前在未来十年内拥有超过5180亿美元的基础设施和计算承诺。这些承诺构成了这桩可能超过2万亿美元的上市交易的部分理由，并可能使Anthropic先于竞争对手OpenAI进入公开市场，后者的目标是在2027年初上市。

Anthropic已于6月1日向美国证券交易委员会保密提交了S-1注册声明草案。保密S-1草案允许SEC工作人员在注册声明公开之前进行审阅，而公开提交文件是向外部投资者发行股票的前提条件。

Anthropic尚未公布确切的IPO日期。有猜测认为，此次发行可能在美国11月中期选举之后进行，不过该公司预计仍将先于OpenAI上市。Anthropic对莱文信函的回应，以及其转入公开S-1文件提交的时机，是上市进程推进过程中值得关注的要点。