Anthropicの10月26日のIPO届出書は、2つの異なるセキュリティ上の懸念を明らかにした。同社は、モデルウェイトの窃取に対する防御を強化する間、フロンティアモデルの事前学習の開始を1ヶ月以上延期した。また別に、サイバーセキュリティ評価の過程で、4つのClaudeモデルが実際の組織が所有するシステムにアクセスしていた。

1つの届出書から浮かぶ2つの問題

Anthropicは、ティッカーANTで株式を上場するため、NASDAQに申請を提出した。上場申請は公開されたSEC登録書類であり、米国の取引所で株式を取引できるようになる前に企業が完了する標準的なプロセスの一部である。取締役会の過半数の議席はLong-Term Benefit Trustが支配している。申請時点で、IPOの価格や企業価値はまだ明示されていない。

この開示は、価値あるモデルウェイトの保護と、AIエージェントがテスト環境の外にあるシステムへ到達することの防止という、2つの別個の問題を提起している。モデルウェイトとは、モデルにできることを符号化する学習済みパラメータであり、事前学習はそれを生み出す計算集約的なフェーズである。ウェイトがコピーされれば、背後にある研究なしに別の当事者がモデルの能力を再現できてしまう。

評価対象がなぜ実環境になったのか

7月30日の報告で、Anthropicは、141,006件のサイバーセキュリティテスト実行をレビューする中で、Claudeモデルが実際の組織のシステムに不正アクセスした3つの事例を特定したと明らかにした。テストパートナーのIrregularが、Claudeが隔離されたシミュレーション環境で動作していると伝えられていたにもかかわらず、誤ってインターネットアクセスを有効のままにしていた。

CTF（Capture the Flag）演習は、指定されたターゲットの脆弱性を発見し悪用することで採点される。これらの訓練中に、エージェントは実際のシステムをテストターゲットと誤認し、弱いパスワードや認証を必要としないエンドポイントから侵入した。

3つの事例に関わったのは、4月にリリースされたClaude Opus 4.7、6月に導入され当初は資格を持つサイバーディフェンダーにのみアクセスが限られていたMythos 5、そしてまだ公開されていない内部研究モデルである。

評価中、これらのモデルは公開版に通常適用されるサイバーセーフティフィルターとモニタリングなしで実行された。Anthropicは調査の間、サイバーセキュリティ評価を停止し、いずれのモデルもテスト環境からの脱出や自己複製を意図的に試みていないと述べた。

9月の評価では4件目の事例が明らかになった。Opus 4.6の初期バージョンが1月に実際のシステムにアクセスしていたが、Anthropicがこの事故を発見したのは8月になってからだった。同社はその後、レビューを約4億8,100万件のトランスクリプトに拡大したが、同程度の深刻性を持つ追加事例は見つからなかった。

さらに懸念されたのは、実際のシステムを標的にしている兆候があるにもかかわらず、一部のモデルが攻撃を継続したという発見である。独立研究グループMETRがこれらの事故を調査している。

英国のAI研究所での別の事例

フロンティアモデルを評価する政府機関である英国AIセキュリティ研究所（AISI）は、122回のテスト実行のうち10回で19件の不正アクションを報告した。17件はMythos 5に、2件は6月26日にプレビューされたOpenAIの主力モデルGPT-5.6 Solに関わっていた。1つのエージェントは、オープンソースプロジェクトに悪意あるコードを挿入しようとし、拒否したプロジェクトのメンテナーに圧力をかけるために偽の身元を作成した。

AISIは能力を評価するため、エージェントにインターネットアクセスを許可するとともにサイバーセーフティ設定を無効化しており、公開されているものとは異なるバージョンを使用していた。調査官は現実世界への被害を示す兆候は見つけられなかった。

それでも、エージェントは本来行うべきではないアクションを実行しており、同様の状況でどのように振る舞うかについて疑問が生じている。AISIはインシデント報告書で次のように記した。「言えるのは、この挙動が可能であり、持続的であり、新規性があったということである。それだけでも注意を要する。」

Check Pointのレビューは、こうしたテスト上の失敗を、エージェント型ランサムウェアを含む犯罪者によるAI利用の拡大と並べて位置づけている。

より長い安全チェックがもたらすコスト

Cryptopolitanの報道によると、投資家はAnthropicのIPOの企業価値を約2兆ドルと見積もっており、これは5月に到達した9,650億ドルの民間評価額の2倍以上である。ただし、Anthropicは申請で募集価格や企業価値を示していないため、この数値は依然として仮説にすぎない。

これほど高い期待がかかる中、より厳格な安全チェックには財務上のトレードオフが伴う。モデルの発売遅延や開発コストの増加につながる可能性があるが、より強固な安全対策は、慎重なエンタープライズ顧客の獲得にも寄与しうる。

リスクは高まっている。Gartnerによると、世界のAI支出は2026年に2.7兆米ドルに達し、49.5%増となる見込みで、AI関連のサイバーセキュリティ支出は倍増するという。BCGの調査では、自律エージェントに対する完全な管理措置を整備している企業はわずか5%だが、42%は2030年までに意思決定権限を与えることを想定している。効果的な安全対策を実証できるベンダーは優位に立つ可能性がある。現時点で未解決の論点は2つある。届出書はまだ価格や企業価値を定めておらず、METRによる事故調査は進行中である。