AI企業Anthropicは、安全性とガバナンスへの懸念を理由に予定している新規株式公開(IPO)の延期を同社に求めていたニューヨーク市財務官マーク・レバイン氏と、コミュニケーションを開始した。今回の動きは、かつてAI研究所や政策界に限られていた問題が、最終的に年金資金が同社に投資される可能性のある公務員によって提起されていることを浮き彫りにしている。

レバイン氏は金曜日、Bloomberg Televisionに出演し、自身の事務所と同社の間で協議が始まったことを確認したが、その性質についての詳細は明らかにしなかった。「現時点で同社は複数の方向から圧力を受けているように見えます」とレバイン氏は述べた。

この動きは、Anthropicが史上最大級のIPOとなる可能性のある11月の株式上場に向けた準備を進める中で生じたもので、投資家の間では1兆5,000億ドルから2兆ドルの企業価値が協議されていると伝えられている。

ニューヨーク市財務官、AI安全性のリスクを警告

レバイン氏は水曜日、Anthropicのダリオ・アモデイCEO宛ての書簡の中で、AIの安全性、ガバナンス、そして自律性がますます高まるシステムをめぐる懸念に同社が十分に対応できるまで、IPOを延期するよう求めた。

またレバイン氏は、トランプ政権とAnthropicを含む主要AI企業との間で最近締結された自主的な安全協定が、能力がますます高まるシステムがもたらすリスクに対処する上で十分な安全策を提供しているかにも疑問を呈した。この疑問は、自主的な取り組みだけでは技術の急速な進歩に追いつくのに十分かどうかをめぐる、より広範な議論の核心にある。

「上場した後に、壊滅的な安全性のインシデントが起きれば、今見られているものをはるかに超える事態となり、同社の株価にとってひいことになるでしょう」とレバイン氏はBloombergに語った。

財務官として、レバイン氏はニューヨーク市の年金基金を管轄しており、その運用資産は合計3,250億ドルを超える。これらの基金の一部は主要な株価指数に連動する投資を保有しており、Anthropicが上場を完了した後、同社へのエクスポージャーが高まる可能性がある。インデックス連動型ファンドはベンチマークを自動的に複製するため、同社の株式は主要指数に組み入れられた時点でこれらのポートフォリオに組み込まれることになる。

レバイン氏は、上場を延期することで、Anthropic自身の研究者が指摘したまさにそのリスクに対処できるガバナンス体制を構築するための時間を同社に与えることになると主張した。

企業価値への懸念の中、Anthropicが11月のIPOに向けて準備

今回の協議は、Anthropicが株式上場に向けた準備を進める中で行われている。水曜日に実施された一部投資家との会合で、同社は第3四半期の売上高が前期比45%増の168億ドルに達したことを明らかにした。

しかし、一部の潜在的投資家の間では、AI開発コストへの懸念を背景に、これまでの約2兆ドルとの見通しを下回る、1兆5,000億ドルに近い企業価値が協議されていると伝えられている。この乖離は、急速な売上成長と最先端AIシステム開発の莫大なコストという、上場の核心にある緊張関係を物語っている。

一方、アモデイ氏は、能力がますます高まるAIシステムに伴う危険性を公に認めている。先月発表したエッセイの中で、コントロールの喪失、経済的混乱、サイバー攻撃、テロリズムといったリスクに対処するため、政府とAI開発者のより緊密な連携を呼び掛けた。この警告は、レバイン氏が延期を求める際に提起した懸念と酷似している。

レバイン氏は、IPOの延期が市場の不確実性を生む可能性があるという懸念を認めつつも、上場後に壊滅的な安全性のインシデントが発生した場合の潜在的な結果を考慮すれば、さらなる慎重さが正当化されるとの見解を維持した。

「上場した後にインシデントが起きることを懸念しています」と同氏は述べた。

11月の上場が近づき、企業価値をめぐる協議が続く中、書簡で提起された安全性とガバナンスの問題に同社がどう対処するかが、上場に向けて引き続き焦点となりそうだ。