Anthropicの計画中の新規株式公開(IPO)は、投資家にとって異例の課題、すなわち高度なAIシステムに起因する潜在的賠償責任をどう評価するかという問題に注目を集めています。Bloombergの10月9日付Markets Dailyニュースレターによると、同社は11月中旬にも上場することを目指しています。

旧OpenAIの研究者らが設立したClaudeチャットボットの開発企業であるAnthropicは、この分野で最も注目される企業の一つです。公開借入においては、開示文書で潜在的投資家に対し重要なリスクを明示することが慣例となっていますが、Bloombergの報道は、自律型AIシステムによる被害に関する法的前例の乏しさと、こうしたリスクをIPO開示でどう定量化すべきかの不確実性を指摘しています。高度AI分野の中心に位置する企業にとって、社会規模のAIリスクを標準的なリスク開示のどこに位置づけるべきかという問いは未解決のままです。

CEOのダリオ・アモデイは、AIに対する人間の制御の喪失や、この技術がサイバー攻撃やバイオテロに悪用される可能性について警告してきました。一部の研究者はAIによる人類絶滅の確率を10%以上と見積もっていますが、これらの推定はいまだ議論の対象であり、この合意の欠如こそが、IPO開示におけるリスク定量化を不確実にしている一因です。

こうしたリスクの財務的側面を検討している一人が、Slow Venturesのパートナーであるサム・レッシン氏です。氏は、将来起こりうる損害を賄うため、AI研究開発企業に現金1兆ドルをエスクローに預託することを義務付けることを提案し、絶滅シナリオを考慮する前であっても、潜在的な社会的賠償責任は2兆〜4兆ドルに達しうると主張しました。この提案は、従来の開示基準でこの種の潜在的責任を表現するための確立された基準がほとんど存在しないことを浮き彫りにしています。

レッシンの提案は、政府の義務ではなく投資家からの提言です。Bloombergのニュースレターは、こう賠償責任を定量化したAnthropicの確定した開示については言及していませんでした。同社が11月中旬の上場を目指す中、上場前に提出される開示文書が、Anthropicがこれらの問いにどのように、あるいは是否対応するかを明らかにすることになります。