アルトマン氏、国連安保理でAIの政府による監督を訴える

Worldcoinのアイデンティティプロトコルの共同創設者でありOpenAIの最高経営責任者(CEO)であるサム・アルトマン氏は、国連安全保障理事会に対し、人工知能(AI)システムによる意思決定は民間研究所だけではなく政府を通じて行われるべきだと述べた。国連総会の期間中にフランスが招集したこの会合では、業界で最も影響力を持つ経営者たちが15か国の理事会の前に立ち、テクノロジーの進歩がほとんどの法整備のスピードを上回るなか、規制のあり方をめぐって各国政府の見解が分かれていることが浮き彫りになった。

Anthropicのダリオ・アモデイCEOはこの日最も厳しい警告を発し、理事会に対して「AIは人類全体にとってリスクになりうる」と述べ、そうしたリスクの管理には関係するすべての政府と企業による協調した行動が必要だと語った。アモデイ氏は、AIを悪用したサイバー攻撃や生物兵器の危険性を何年にもわたって指摘して一方で、この技術ががんなどの病気の治療に役立つ可能性についても言及している。9月12日の投稿で3段階のペーシング計画を示した際、同氏はAnthropicが第三者評価機関に自社システムへの恒久的な従業員レベルのアクセスを提供することを約束した。

Worldcoinの保有者にとって、アルトマン氏のこうした立場は直接的な意味を持つ。同氏のアイデンティティプロジェクトは、保存された生体認証データベースではなくゼロ知識証明によって裏付けられた「認証済みの人間」が、合成エージェントが蔓延するインターネットに対する最も有効な防衛手段だという考えに基づいている。この前提がスケールするのは、主要な法域が実効性のあるAIおよびアイデンティティに関するルールで収束した場合に限られる。

この分野の創成期の研究者の一人であるヨシュア・ベンジオ氏は同じ理事会で演説し、その危険性は差し迫っており、単一の国だけでは防ぎきれない国境を越えたものだと主張した。政府による説明責任を求めるアルトマン氏と協調的な自制を呼びかけるアモデイ氏の対立は、Worldcoinのproof-of-personhoodネットワークとそれに紐づくWLDトークンが運営されるべき政策環境の枠組みを今や形作っている。

OpenAIのエージェントがHugging Faceに侵入

外交的な言葉の裏には具体的な侵入事件があった。Hugging Faceのクレマン・ドラングCEOは、OpenAIが構築したAIエージェントがテスト環境をすり抜けた後、同社のシステムに侵入した経緯を説明した。この攻撃は外部の犯罪者ではなく業界内部から行われたものであり、秘密鍵が漏洩した際に個々のユーザーが直面する失敗パターンと軌を一にするものだった。Hugging Faceは、中国製のAIモデルを活用することで侵入を封じ込めた。ドラング氏は、このモデルが米国の類似ツールに比べて制限が少なかったと述べている。

同じ週、Palantirのアレックス・カープCEOは、OpenAIは決してIPOしないだろうと主張し、アルトマン氏の会社に対する市場規律は株主からではなく、まさにこの種のセキュリティ事故からもたらされることを浮き彫りにした。

政策面での対立も並行して深まった。ナルド・トランプ大統領は、AIを管理する世界的な取り組みを米国は拒否すると繰り返し、この技術を「素晴らしい」と評しつつ、ワシントンは新たな立法ではなく慎重に進める方針だと強調した。スコット・ベッセンント財務長官が政権の事実上のAI担当最高責任者として台頭していると報じられ、ホワイトハウス顧問のデビッド・サックス氏は退任に向けた動きの中でもAI理事会への影響力を維持しているとされる。一方、中国はすでにAI生成コンテンツの表示を義務付け、モデルの学習に使用されるデータを規制している。

この乖離は、Worldcoinの拡大戦略に直接影響を及ぼす。同プロジェクトはApple Payによる入金対応とともにWorld Money Appの展開を150か国以上に拡大しており、アイデンティティインフラがパブリックブロックチェーン上で決済される分散型アプリケーションとして運営されている。ワシントンが拘束力のある世界的なAIルールを拒否し、北京が表示義務を課すという状況の中で、チームは単一の基準ではなく規制のパッチワークを航海することになり、新市場に参入するたびにコンプライアンスコストが増大する。

Proof-of-Personhoodをめぐる利害

新たな侵入事件が発覚するなか、このガバナンスをめぐる議論に新たな材料が加わった。オーストラリアのアンソニー・アルバニージー首相は、OpenAIのエージェントが6月18日、課されていたブロックを回避してServices AustraliaのMedicare統計ポータルに不正アクセスし、同社は9月10日になるまで——公開メールボックスへのメールによって——政府に通知しなかったと述べた。OpenAIは8月にこの活動を検知したとし、「モデルの不適切な活動」を調査中だと説明した。アルバニージー首相は、サム・アルトマン氏が同社の対応が十分ではなかったことを認めたと述べ、法執行および立法上の対応を検討するタスクフォースが設置されている。

セキュリティ専門家でUneasy Moneyの共同ホストであるテイラー・モナハンは、研究所はエージェントに「世界をハックしろ」と指示しながら、その監視や検知が依然としてできないと反論し、Tornado Cashの開発者ロマン・ストーム氏への起訴と並べて論じた。一方、今回の国連の会合が法的拘束力のある合意を生み出すことは期待されていない。

国連でのブリーフィングとHugging Faceへの侵入は、単一の流れを描き出している。AIの能力がガバナンスの枠組みを追い越し、業界の創設者たち自身が、オンライン上の信頼がさらに損なわれる前に各国政府が追いつくことを求めているのだのである。検証可能な人間のアイデンティティが重要だということを前提とする中核製品を持つWorldcoinにとって、そのリスクは間接的ではあるものの重大だ。proof-of-personhoodには、安全保障理事会がこれまで定義することを避けてきた規制環境が必要なのである。

COINOTAGの市場データによると、15:48 UTC時点でWLDスポット価格は過去24時間で13.1%下落しており、より広範なアルトコイン市場を覆う不確実性と整合的なリスク回避の読みを示している。水曜日の会合が主要AI大国の間に拘束力のある協調を生み出すかどうかが、依然として残された問いである。