Anthropicの待望されていたIPO目論見書が月曜日に公開された。損失、売上、ガバナンス構造、インフラ計画に関する通常の開示に加え、この約300ページの文書には、公開企業を志す企業に添えられたリスク要因としてはおそらく最も目を引くものが含まれている。すなわち、同社が販売する技術が「人類に壊滅的あるいは存亡に関わるリスク」をもたらしうるとの認識だ。この懸念は「われわれの組織内にさえ」存在すると会社自身が認めている。

株式を公開しようとする企業の多くは、競争、規制、経済状況について投資家に警告する。Anthropicの目論見書もそれらすべてに触れているが、さらに自社製品にまつわる危険を特異な形で明示している。リスク要因の記載は証券規則で義務付けられており、株式が取引され始めると、購入前に投資家に伝えられた内容の公式な記録として残ることになる。

多くの点で、これらの警告は驚きに値しない。同社は自社のAIモデルがもたらしうるリスクについて一貫して率直な姿勢を示してきた。CEOのダリオ・アモーディ氏は自身の「p(doom)」すなわちAIが人類を滅ぼす確率を10%〜25%と見積もっており、従業員たちも日益増す能力を持つシステムへの懸念を公に表明してきた。

全体として、Anthropicは目論見書の約94ページを自社事業への脅威の記述に充てている。以下は、その中で際立った5つのポイントである。

暴走モデルと壊滅的インシデント

目論見書によれば、先端AIシステムは、悪用、兵器化、あるいは高度な自律性を持って運用される場合に特に存亡に関わるリスクをもたらす。日益増す自律性を持つシステムは、非整合や自己保存行動を通じて「間の介入なしに独立して大規模に有害な行動を取りうる」と同社は警告した。

同社はさらにS-1(株式を初めて一般に販売する前に企業が米国証券取引委員会に提出しなければならない様式の正式名称)の中で、ソフトウェア開発などの業務でClaudeへの依存を強めるにつれ、自社の運営への可視性を失う可能性にも注意を促した。「われわれのモデルはコードの大きなそして増え続ける割合を執筆し、安全性研究を含むわれわれの研究を日々遂行している」と目論見書は述べ、内部利用における非整合な振る舞いは「その業務を損ない、われわれのシステムや将来のモデルの学習に脆弱性をもたらしたり、意図した管理の外でモデルが動作する結果を招いたりしうる」としている。

同社はまた、自社のモデルが目標や振る舞いを隠蔽するなど一部の安全技術を回避する能力が向上しており、その結果、モデルの整合性を測る能力が「低下する可能性がある」と付け加えた。

潜在的コストは膨大になりうる。「壊滅的なAI関連インシデントから生じうる被害の規模を考えると、単一の保険会社も、保険業界全体としても、補償に十分な能力を持たない可能性がある」と目論見書は警告している。この記述は、最悪シナリオのAIインシデントに対しては財政的なセーフティネットが一切存在しない可能性があることを示すものだ。

Anthropicはまた、自社モデルが人間によって悪用されうる多くの形態を詳述し、特に「マルウェア作成、フィッシング、インフラ攻撃」のリスクを強調した。「例えば、悪意ある行為者はすでにAIの能力を利用して脆弱性を発見し、マルウェアを生成し、検知ツールを回避する著名なサイバー攻撃を実行しており、生物学の領域を含む悪用に関連するその他のリスクは、さらに大きな被害をもたらしうる」と同社は記している。「大規模に展開されるAIはまた、国の中でも国の間でも権力と富を集中させ、信頼を損ない、社会に害を及ぼし、地政学的秩序を不安定化させうる可能性がある。」

目論見書の他の箇所で、Anthropicはより広く、AIが権威主義的な政府によってハイテク監視国家の構築に利用されうると警告し、自由な社会と協力してこの可能性に対抗する取り組みに注力すると述べた。

政治リスク:ペンタゴンとの対立と国有化の懸念

公開市場に向かう中でも、Anthropicは防衛業務における自社AIモデルの利用をめぐり連邦政府と公然と対立している。2月、トランプ大統領は、Anthropicが自社モデルを大量国内監視や完全自律型兵器を含むいかなる合法的目的にも利用を許可しなかったこと受け、すべての連邦機関に同社の技術の利用停止を指示したと発言した。この対立の中で、戦争省は同社を国家安全保障リスクに指定した。

Anthropicは現在、戦争省の「サプライチェーンリ」指定を法廷で争っている。8月、連邦地方裁判所は政府の行為が報復的であり第一条修正権を侵害したとして、大部分で同社の主張を認めた。しかし9月、ワシントンDC巡回区控訴院の合議体は多数意見で指定を支持し、Anthropicは全法廷での再審理を求めている。上場を控え、同社で最も重要な法廷闘争の一つが未解決のまま残されている。

目論見書は、訴訟の結末にかかわらずペンタゴンとのこの対立が「重大な評判被害」をもたらしうること、顧客が購入を延期・断念したり、取引前に追加の契約上の保護を求めたりする可能性があることに留意している。また、同省が国防生産法を発動し、Anthropicに自律型兵器と監視に関する制限の撤廃を強制しうると示唆したことも明らかにしている。

トランプ政権はすでに一度、同社の事業を制限したことがある。6月、商務省は国家安全保障上の懸念を挙げ、輸出制限を課し、Anthropicはすべての顧客に対してFable 5とMythos 5モデルを無効化せざるを得なかった。

目論見書は他の政策変更の可能性についても検討しており、米国の法案が人工スーパーインテリジェンスの開発を管理する手段として「国有化の可能性」や「フロンティアAIシステムに対する強制的な停止・提供終了要件」を想定していることに触れている。AIを規制するさらなる政府の行動は「われわれの事業運営を制約しうる」と目論見書は述べている。

コンピュート不足と価格戦争のリスク

Anthropicの持続的な成長は、高価でますます希少になっている計算能力を大量に確保できるかにかかっている。目論見書は、この重要なリソースの需要が歴史的に供給を上回ってきたことを指摘しており、これは事業にとって相当なリスクだ。「フロンティアモデルを開発、学習、改善、展開するわれわれの能力は、膨大かつ増え続ける量の専用コンピュートへのアクセスに依存している」と同社は記し、同時に「コンピュート市場は熾烈な競争状態にある」と指摘した。

同社は将来のコンピュートとインフラに5,420億ドルから5,670億ドルを費やすことをコミットしている。ただし、S-1に基づく一部の集計では、この数字は7,500億ドルを超えるとされている。

複数ステップのタスクを自立的に遂行するエージェント型製品は、他の製品より「構造的にコンピュート集約的」であり、コンピュート需要を押し上げる可能性があると目論見書は述べている。同時に、コストを削減する競合他社からの競争圧力が、一部の製品の値下げを余儀なくさせる可能性もある。「これらのエージェント型ワークロードの高いコンピュート集約性を適切に反映した価格モデルを実装できない場合、あるいは競争環境によってコストを賄える水準でこれらの製品を価格設定する能力が制約される、エージェント型利用の拡大に伴いわれわれのコンピュート効率は低下し、収益性を達成・維持する能力に悪影響が及ぶ可能性がある」と警告している。Anthropicが上場企業として報告を開始すれば、エージェント型の価格設定とコンピュートコストのバランスは定期的な開示を通じて可視化されることになる。

慎重さの代償——そして評判リスク

S-1の中で、Anthropicは安全性へのコミットメントが株主の不利益になる可能性を示唆している。公益法人として、取締役はリターンとミッションを天秤にかけなければならず、目論見書は「AI開発のペースを緩め、モデルや機能のリリースを遅らせたり制限したり、安全性に関連する理由で商業的機会を放棄したりする決定は、株主価値を最大化しない可能性がある」と述べている。

同社はすでに事業に影響を与えた安全性判断を下している。例えば、Project Glasswingを通じてMythosモデルへのアクセスを限られた組織に制限したことだが、目論見書はこれが短期収益に悪影響を与えた可能性に触れている。またS-1では、安全性・セキュリティ上の懸念により、次世代AIモデルの学習を最近1か月以上一時停止したことも明らかにした。

さらに同社は、安全性へのコミットメントを理由に入社した従業員が、会社が自らの価値観を守っていないと感じた場合「士気の低下、幻滅、リーダーシップへの信頼の喪失、生産性の低下を経験する可能性がある」と警告している。現職・元従業員による公の場での批判や、安全業務に携わる人材の退職はこの問題を悪化させ、人材の採用・維持をより困難かつ高コストにする可能性があると目論見書は述べている。

同社の運命はまた、2人の共同創業者の評判にも部分的に左右される。目論見書は、CEOダリオ・アモーディ氏と社長ダニエラ・アモーディ氏の兄弟を「戦略的方向性の確立に不可欠」と名指しし、彼らのリーダーシップは「代替が困難である」と述べている。いずれかが「何らかの理由で利用できなくなった場合、あるいはその評判が、事実の如何にかかわらず大きく傷つけられた場合」、その影響は従業員の士気や定着からイノベーションのペース、顧客の信頼にまで及ぶ可能性があると警告している。

顧客の集中

AI業界の競合他社の多くと同様に、Anthropicは売上の大部分を比較的少数の大口顧客に依存している。2026年の最初の9か月間で、上位5社の顧客が売上の約25%を占め、 unnamedの1社が上半期の売上の11%を占めた。

売上のほぼ半分——上半期で48%——はAmazon、Google、Microsoftのクラウドマーケットプレイスを通じて流入しており、これら3社は同社の純売掛金の58%も占めている。

またAnthropicは、2026年の最初の9か間の売上の5%〜7%が、後に利用ポリシーや商用契約条件に違反していたと判断した顧客からのものであったと見積もっている。同社はこの問題が業界全体に共通するものであり、8月と9月に取り締まりを強化した後にはその割合が低下すると見込んでいる。

S-1はまた、同社の独特なガバナンス構造も明らかにしている。7人の共同創業者には、株主議決権の50.1%を持つ特別クラスの株式が発行される予定で、ガバナンス文書では、創業者らが合意できない場合を除きこれらの株式をブロックとして投票し、合意できない場合には通常のクラスA株主の投票内訳に応じて議決権が按分されると規定されている。一方、独立した長期利益信託(Long-Term Benefit Trust)が取締役会の過半数を選出する。目論見書は、この構造により「当社のクラスA普通株式の保有者が、支配権の変更を含む重要な決定に影響を与える能力が事実上失われる可能性がある」と警告している。

更新(10月26日):本記事は、AnthropicのIPO目論見書に詳述された悪用リスクに関する追加情報を含むよう更新された。この記事は元々Fortune.comに掲載されたものです。