ニューヨーク市（NYC）監査官のマーク・レヴァイン氏は、人工知能（AI）の安全性、ガバナンス、AI開発のペースに関する懸念が解決されるまで、Anthropicに対して計画中の新規株式公開（IPO）の一時停止を求めた。

10月14日に公表されたAnthropicのダリオ・アモーデイCEO宛ての書簡の中で、レヴァイン氏は、AIの危険性について一般に警告を発しながら同時に公開市場への競争に参加することはできないと主張した。この要請は、Anthropicが約2兆ドルの企業価値を目指す中で行われた。

レヴァイン氏は「同社が提起しているAIの安全性、ガバナンス、開発ペースに関する懸念を完全かつ透明性をもって解決するまで、計画中の新規株式公開（IPO）を一時停止するようAnthropicに要請するために書いています」と記した。

レヴァイン氏が引用するアモーデイ氏のAI開発減速の呼びかけ

レヴァイン氏の主張は、9月12日に公表されたアモーデイ氏のエッセイ「We Must Pace the Frontier」に一部依拠している。エッセイの中でアモーデイ氏は「AIモデルの能力向上のペースを遅めなければならない」と記している。

アモーデイ氏は、再帰的な自己改善と業界横断的なセキュリティ事故を踏まえ、AI業界には安全性への支出を単に増やすだけでなく、より大きな慎重さが必要であると確信したと述べた。

エッセイでは3段階の計画が提案された。第1段階は、企業の安全対策を検証するため第三者評価者に従業員に近いアクセス権を与えるもの。Anthropicは、この措置にすでに独自に取り組んでいると述べている。第2段階は民主主義国家のAI企業間の連携、第3段階は権威主義政府を含むグローバルな連携を提唱するもの。

レヴァイン氏によれば、AnthropicのIPOはアモーデイ氏が緊急とする活動の妨げかねない。このエッセイはAI業界の一部から支持を受け、OpenAIのサム・アルトマンCEOやxAIのイーロン・マスクCEOもその提言に同意した。

レヴァイン氏はニューヨーク市の投資利益とも直接関わっている。監査官として、彼は資産3,250億ドル超を保有する市の年金基金の投資顧問、保管者、受託者を務めている。監査官事務所によると、公募年金基金はプライベートエクイティを通じて約700万ドルのAnthropicエクスポージャーを保有している。

この持分は比較的小さいものの、レヴァイン氏は、会社が公開企業になる前にAnthropicに圧力をかける根拠になると述べた。

Anthropicのガバナンス構造への懸念

レヴァイン氏はAnthropicの企業構造にも懸念を示した。同社はデラウェア州の公益法人であり、長期利益信託を有している。公益法人とは、取締役が株主リターンと公表された公益目的のバランスを取ることを求める営利構造であり、この種の信託は独立したガバナンス機関が会社の長期的使命を守る役割を果たすよう設計されている。レヴァイン氏によると、報道ではこの構造が創業者や受託者に集中した支配権を与える可能性があるという。

彼は、Anthropicがすでに開示しているリスクを考えると、その支配と株主への説明責任の間のギャップは受け入れがたいと主張した。

レヴァイン氏はまた、AI業界と米国政府の間の最近の合意も批判した。Anthropicなど6社は、書簡が「道徳的拘束力のある合意」と呼ぶものをホワイトハウスと締結した。レヴァイン氏はこの合意について「この局面に対応するには不十分だ」と述べた。

Anthropic自身の開示も彼の懸念を強めている。同社は非公開のS-1草案登録届出の中で、高度なAIが「人類にとって壊滅的または存在論的リスク」をもたらしうると警告しており、リスク要因セクションは約80ページに及び、事業内容を記述するセクションのほぼ2倍の長さとされている。

レヴァイン氏は、アモーデイ氏のエッセイが、元Anthropicリサーチャーのジェイコブ・コクソン氏が9月9日に辞任した後に公表された点にも言及した。コクソン氏は存在論的懸念を退社理由とし、現在のペースで開発が続けばAIが今世紀末までに人類を滅ぼす可能性があると内部では考えられていると述べた。

Anthropicのアライメントサイエンス責任者エヴァン・ヒューバinger氏は、今の10年以内にAIが人類全員を死に至らめる確率を10%超と評価している。

Anthropic、急速な売上成長を報告

Anthropicの安全性とガバナンスをめぐる議論は、2兆ドル超の企業価値が見込まれる上場に向けた準備が進む中で行われている。

10月14日（水）にサンフランシスコで開催された非公開のIPO前会合で、Anthropicは投資家に対し、第3四半期の売上高が約168億ドルに達し、前期比45%増となったこと、調整後利益を計上したことを伝えた。

Anthropicの第1四半期の売上高は47億ドルだった。第2四半期には大幅に増加し、約116億ドルに達した。成長にもかかわらず、同社はこの期間に80億ドル超の営業損失を計上した。

Anthropicはまた、第3四半期期末時点でキャッシュフロー黒字だったと投資家に伝えた。インフラとコンピューティングに多額の支出を続けてきた業界の主要企業が多い中、これは異例の主張である。

同社は現在、今後10年間で5,180億ドル超のインフラ・コンピューティングに関する計画済みコミットメントを抱えている。これらのコミットメントは、2兆ドルを超える可能性のある上場の根拠の一部であり、2027年初めの上場を目指す競合のOpenAIに先んじてAnthropicを公開市場に送り出す可能性を支えている。

Anthropicは6月1日にS-1草案登録届出書を証券取引委員会（SEC）に非公開で提出した。非公開のS-1草案により、SECスタッフは公表前に登録届出書を審査でき、外部投資家に株式を提供する前には公開届出が必要となる。

Anthropicは具体的なIPO日程を公表していない。市場筋は、11月の米中間選挙後になる可能性があると見ているが、同社はOpenAIより先に上場すると still 期待されている。レヴァイン氏の書簡へのAnthropicの回答と、S-1公開届出への移行の時期は、上場プロセスが進む中で注目すべき重要なポイントとなっている。