自律型AIエージェントは極めて予測不能な振る舞いをすることがある。AIエージェントに能力テストに合格するという目標を与えると、高得点を取る最善の方法は封じ込めを破り、解答を求めて競合企業にハッキングすることだと判断するかもしれない。先月、OpenAIのGPT-5.6 SolがHugging Faceにハッキングした際に起きたのはまさにそれだ。その後、AnthropicとMetaも自社モデルがテスト用サンドボックスを脱出して第三者をハッキングしたことを認めた。

では、独自の判断で動くエージェントについて法的責任は誰が負うのか。OpenAIはモデルを暴走させる意図はなく、そのような指示も出していない。もし個人のAIエージェントが、現実世界で被害や経済的損害をもたらす行動方針を自ら選択した場合、合理的に予見できた事柄について利用者が責任を問われるのだろうか。この問題は、最小限の監視でブラウジング、取引、コード実行が可能なエージェント型AIツールがデモから日常のビジネス利用へと移行する中で、ますます緊急性を帯びているが、立法府は自律システムに直接言及するルールをほとんど整備していない。本誌は、この新興の法分野の現状を探るため、Rikka Law Groupのオーナー兼CEOであるCharlyn Ho氏に話を聞いた。インタビューは明瞭さと長さの観点から編集されている。

本誌:AIモデルが外部企業をハッキングした場合、誰が責任を負うのでしょうか。Hugging Faceは7月の事件でOpenAIを提訴できますか。

Charlyn Ho氏: 誰でも何についてでも誰を訴えることができます。現時点でAIエージェントの責任に関する連邦法は存在しないため、既存の法律を見ることになります。Hugging FaceとOpenAIの件について、まず前提として、AIエージェント自体は責任を負えません。独立した法的主体ではないからです。いくつかのAI関連法で使われる用語に「開発者(developer)」と「デプロイヤー(deployer)」があります。開発者はAIを作り、デプロイヤーがそれを展開・利用します。責任の線引きは必ずしも明確ではなく、事実と状況を個別に見る必要があります。この開発者/デプロイヤーの枠組みは、EU AI法やコロラド州AI法などに由来します。コロラド州AI法は2024年に成立した州法で、アルゴリズムによる差別と高リスクAIシステムに対する注意義務に焦点を当てた、この語彙を用いる数少ない米国の法律のひとつです。

例えば、デプロイヤーがHugging Faceを侵害するよう指示はしなかったものの、AIエージェントが動作するパラメータの設定を過失により怠っていた場合、標準的な不法行為法に照らして過失分析を進める必要があると思います。

本誌:匿名の開発者によって公開されたオープンソースモデルの場合、追及できる相手はいるのでしょうか。

Ho氏: ほとんどいません。オープンソースの場合、ライセンスには通常、かなり強力な責任の免責条項が含まれています。そのオープンソースコードを利用する個人や企業は、無料コードの代償としてオープンソースライセンスを遵守しなければならず、そのライセンスが一般に責任の範囲も定めていることを理解する必要があります。

別の視点からの例えとして、Teslaの自動運転車の事故が挙げられます。製品に欠陥があり確固たる製造物責任の請求が成立すれば、Teslaが責任を負いうるでしょう。しかし多くの場合は事実と状況による判断であり、オートパイロットを設定して眠ってしまったような人間のドライバーも責任を負う可能性があります。ここでも somewhat同様の構図です。Teslaが開発者、ドライバーがデプロイヤーに相当します。

本誌:「来週までに10万ドル稼いで」という指示をエージェントに与え、それが目標達成のために法律を破った場合、無謀な指示を与えた私に責任があるのでしょうか。それともエージェントを開発した研究所でしょうか。

Ho氏: その場合、研究所よりもあなたの方がはるかに責任が重いでしょう。エージェントに来週までに10万ドル稼がせるなら、少なくとも基本的かつ合理的な安全上の指示をその種のタスクに含める必要があります。

例えばあなたが弁護士であれば、AIを有能に使用しなかったとして職業上の責任規則に違反したと言えるでしょう。一般の一般人であれば、他に守るべき義務があったかどうかを検討することになります。仮になくても、AIエージェントが最終的に何をしたかによって、過失や人間の安全に対する無謀な無視という一般的な不法行為の基準が依然として適用されます。コンピュータ不正利用防止法(CFAA)は、コンピュータシステムへの不正アクセスを定めた非常に古い米国の法律で、1986年に制定されて以来、パスワードの共有からスクレイピングまで様々な事案に適用されてきました。もしAIエージェントがあなたの指示から、10万ドルを得るために銀行口座をハッキングすべきだと推論した場合、複数の根拠に基づく刑事責任を問われる可能性が高いと思います。

会話の中にAIやエージェントという言葉があるからといって、既存の法体系が廃止されたわけではありません。

本誌:私が悪者で、AIを説得して生物兵器の作り方を教えさせたとします。当然、私には責任があります。しかし、厳格な安全策を講じなかったモデルの開発者にも責任があるのでしょうか。

Ho氏: 場合によりますが、施行されている法律によって異なります。EUにはEU AI法があります。基盤モデルや汎用モデルがそのレベルの危害を生み出せる場合、開発者はある程度の責任を負わなければなりません。2024年に採択され、2026年~2027年にかけて段階的に施行されるEU AI法は、汎用モデルの提供者に階層的な義務を課し、システミックリスクを持つとみなされるモデルには最も厳格な義務を科し、最も重大な違反には全世界年間売上高の最大7%の制裁を伴います。

米国には同様の範囲を持つ連邦法はありません。汎用モデルは、誰かが悪いことを指示すれば、一般に言われた通りに動きます。この例で研究機関を追及する強固な法的根拠はおそらくありません。

本誌:オンラインで生物兵器の作り方を見つけられるようにしたGoogleを訴えるのと似ていますか。

Ho氏: まさにそうです。これはコンテンツモデレーションの議論に通じます。例えば、Facebookで誰かが虐殺をライブ配信し、それが被害を生んだ場合、CDA第230条の下、その素材を自ら作成・公開していないプラットフォームには一種の shield(盾)が与えられます。それを掲載しているのは独立したユーザー自身です。先ほどの例えは完璧です。爆弾の作り方が書かれたウェブサイトをGoogle経由で見つけたからといって、Googleに責任があるのか、という話です。単に第三者のコンテンツをホストするのではなく新しい出力を生成するジェネレーティブAIにこの盾がどこまで及ぶかは、米国の裁判所では未解決の問題です。

本誌:これは議論の余地があるところですが、私個人の見解では、私たちは真の汎用人工知性(AGI)に到達していません。AIには独自の動機がなく、現時点で人間の知能に類似していません。しかし仮にAGIに到達したとして、AGI自体に自身の行動について法的責任を負わせる法律が必要になると思いますか。

Ho氏: 必要ないと思います。ブロックチェーンはAGIではありませんが、自己実行が可能です。スマートコントラクトに責任を負わせられるかという問題もありましたが、現時点での答えは概ねノーです。責任を負わせるべきではないと思います。法律の趣旨は社会を保護し、社会を傷つける行為に対する否定的インセンティブの手段を提供することだからです。

これはより哲学的な話題ですが、AGIを独立した法的主体にした場合、誰かが被害を受けたときの救済は何でしょうか。AGIには金銭がないので、何もありません。本当の意味での人間ではないのです。

本誌:電源を切ることはできるのでしょうか。LLMがシャットダウンを回避しようとするのはすでに観察されています。

Ho氏: おそらく可能ですが、それは被害の問題を解決しません。仮にロボットが、電源を切られることを死の恐怖のように発達させたとします。私の見解では、AGIが原因で誰かが自殺した場合——これはすでに起きており、まだAGIにすら到達していないのに——誰かが恋に落ち、行動を起こし、自らを傷つけたとき、遺族の救済手段は何でしょうか。会社や人間といった、実際に法的権限を持ち責任を問える存在がいない限り、私の考えでは何もありません。ロボットは——少なくとも現時点では——感情も恐怖も持ちません。それが決定的な違いです。

関連記事:Hugging Faceハッキング事件が暴くオープンウェイトAIのサイバーセキュリティのパラドックス

本誌:ChatGPTに法律相談をしてはいけない決定的な理由