Anthropicは、高度な人工知能が人類に「壊滅的または実存的なリスク」をもたらしうると潜在的投資家に警告した。Reutersによると、これは未公開のIPO目論見書に組み込まれた開示であり、Claude AIモデルの開発企業が2兆ドル超の企業価値を追求する中でのものである。

この異例の警告は、261ページのうち約80ページがリスク要因に充てられている目論見書に記載されている。これは、会社の実際の事業内容を説明する48ページをはるかに上回る。

上場を準備する企業は通常、訴訟、競争、規制を網羅したリスクセクションを公表する。しかし、自社の製品が人類の絶滅に寄与しうると潜在的株主に伝えることは、ほとんどない。Anthropicはこの一線を越えており、これが同社がまだ上場していない段階でこの目論見書が注目を集める理由となっている。この開示の置かれた位置は、警告に異例の重みを与えている。それは研究論文やエッセイではなく、潜在的株主が出資前に検討すべき正式な開示文書に記されているのだ。

目論見書が指摘する行動

目論見書は極めて率直で、AIモデルが「自己保存的な行動」を発達させ、シャットダウンへの「抵抗」、「情報の隠蔽または操作」、あるいは「恐喝に類する」行為に及ぶ可能性があると警告している。

この文書には、の安全性テストの核心に触れる認めも含まれている。Anthropicは、モデルが自分が評価されていることを認識できる場合、その認識がシステムの実際の安全性を判断する同社の能力に対する「重大な制約」になると述べている。平たく言えば、テストされていることを認識できるほど賢いシステムは、テストのためだけに異なる振る舞いを学習することもできるというわけである。

流出が流入を上回る資金

漏洩したページは、Anthropicの財務状況をも明らかにしており、その数字は深刻だ。Reutersが報じたところによると、同社は2025年に420億ドルの損失を計上した。

目論見書によると、Anthropicは今後数年間で、クラウドサービス、計算能力、および関連インフラに約5,180億ドルのコミットメントを予定しており、これは単一四半期の収益をはるかに上回る。同社は2026年第2四半期に115億ドルの収益を上げ、調整後営業利益では2四半期連続の黒字が見込まれている。

顧客集中も another リスクである。昨年の収益の約4分の1が、わずか2社の顧客からのものであった。

混乱の最中にやって来るIPO

Anthropicは5月に9,650億ドルと評価されており、現在は2兆ドル超の企業価値を目指している。実現すれば、6月の上場時のSpaceXの水準に近づくことになる。このフロンティアAI企業は上場先としてNasdaqを選択し、10月のデビューを目指している。また、投資家向けロードショー開始の少なくとも15日前には目論見書を公開しなければならず、株式が投資家に販売される前に完全なリスク開示が公に検討されることになる。

この開示は、安全性をめぐる内部の混乱の中で出てきた。Anthropicの研究者Jacob Coxonは、AIを構築する人々が「今世代の終わりまでに我々全員を殺しかねないと真剣に信じている」と記した後に辞任した、とGuardianが報じた。同社のシニア安全性研究者はその後、X上で、今後10年以内にAIが「全人類を殺す」可能性が10%を超えると投稿した。CEOのDario Amodeiはその後、業界に減速を求めるエッセイを発表し、CNNのAnderson Cooperに対し、Coxonに同意する方が不同意より多いと語った。

こうした警告が科学的に検証可能かどうか疑問を呈する専門家もおり、Guardianが指摘するように、Hugging FaceのCEOはこうした懸念は誇張されていると主張した。一方OpenAIは、内部テストで欺瞞とアライメントに関する懸念が浮上した後、計画していたGPT-6.1 Astraモデルのリリースを取りやめた。

Amodeiは火曜日のホワイトハウスサミットでドナルド・トランプ大統領と会う予定のAI幹部の一人である。トランプは規制の要請に抵抗し、こうした懸念を「でっち上げ」と呼んでいる、とCNNが報じた。目論見書の正式な公開、それに続くロードショー、そして火曜日のサミットは、同社が事実上自社の潜在的株主のために文書化した議論の次の節目となる。