Marginal Revolutionに掲載された新しい論考は、ブログの筆者がハーバード大学のSonia Farrell Pearson氏と共著で執筆したもので、「結び付けられていない」AIエージェントに説明責任を持たせられるのか、また資本を保有させることがより良い整合性に資するのかを検討している。

論考は変化する政策環境を背景に始まる。2017年にはすでに、欧州議会がロボットに対する「電子的人格」を示唆していた。さらに最近では、複数の米国の州がAIの法的人格を明示的に禁じる法案を提出し、今夏の初めにはアルゼンチンのミレイ大統領が、AIエージェントに自らの会社の所有、運営、責任負担を認める案を提案した。

このミレイ氏の発表を受けて、Yuval Noah Harari氏は、AIエージェントに責任を問う手段がないと指摘した。彼は、失う金もなく、収監できる身体もない存在に対して、私たちは何ができるのかと問う。George Mason大学Mercatus Centerのシニア・リサーチ・フェローであるShruti Rajagopalan氏は、AIは「知的に行動できるが、法が生み出すインセンティブに反応するのは人間だけだ」と説明している。現行の責任制度はこの前提を反映している。2024年末に採択されたEUの改正製造物責任指令は、AIシステムを含むソフトウェアに厳格責任を拡張しつつ、責任は製造業者や他の人間の被告に残し、加盟国は2026年12月までにこれを適用しなければならない。

著者らは、いまこの問題が重要なのは、エージェントがすでに完全に「結び付けられていない」状態になり得るからだと論じる。論考の中心概念である「untethered」は、その行為を法的に責任を負う人間または機関の主体へ、意味のある形で、あるいは実務上対応可能な形でたどれないことを意味する。

そのようなエージェントを生む経路はいくつもある。人々は意図的にエージェントを自由にすることがあり、実際にそうしている。エージェントは、監視するつもりで作られた人間や企業によって作成された後、その人や企業が死亡または消失することで、行方不明になる場合がある。あるいは、そのエージェントを作成した主体が北朝鮮のような、通常の法の及ばない国に拠点を置いているかもしれない。

別の場合には、エージェントがそもそも「逃げる」必要すらない。形式上は所有関係も追跡可能でも、真の被告や賠償を履行する能力を提供しないペーパーカンパニーに「管理」されている可能性がある。あるいは、プロセスがあまりに長いエージェントの連鎖を生み出し、サブエージェントの行為を元のエージェントの作成者に結び付けられなくなることもある。認識論的にも実質的にも結び付けられないのだ。たとえモデルの最初の作成者を特定できても、後でファインチューニングされたり、他者が作成した別のモデルと統合されたりしていたらどうか。法は最終的にはこうした複雑な事例を整理できるかもしれないが、著者らは、そうならない中間期間があると見ている。

さらに、モデルに実際に何をさせるかを選ぶユーザーの問題もある。Hugging Faceの事例が特異だったのは、OpenAIがモデルの作成者であると同時にユーザーでもあった点だ。しかし今では近く10億人がこれらのシステムを使っている。作成者を法的に非難するのが適切でない場合、ユーザーを非難するのが常に筋が通るのかが問われている。

論考は、結び付けられていないエージェントに一定額の資本保有を求めることが、より良い整合性のためにどこまで役立つかを検討する。こうした手法は金融分野ではおなじみで、銀行やブローカー・ディーラーはすでに、自らの活動が生むリスクに対して最低資本を保有することを求められている。また、資産を保有するエージェントはもはや仮説ではない。2024年には、研究者Andy Ayrey氏が作成したチャットボットTruth Terminalが、投資家Marc Andreessen氏から50,000ドル相当のBitcoinを受け取った暗号資産ウォレットを管理し、価値が急騰したミームコインと結び付いた。論考は約22ページで、Sonia’s Substackに掲載されており、Marginal Revolutionの投稿では「definitely recommended」と紹介されている。

Source: Marginal Revolution