アンドリュー・ヤン氏は、責任ルール、展開前の待機期間の義務付け、強力なAIシステムに対するキルスイッチなど、フロンティア人工知能に対する新たな安全策を議会に課すよう求めており、この技術をめぐる安全への懸念は「現実のもの」だと主張しています。

ヤン氏は、元民主党大統領候補でありNoble Mobileの創業者でもありますが、強力なモデルが、それを抑制するはずのルールよりも速く進化していると研究者らが警告していると述べました。そのうえで、米国はAI企業にますます高性能なシステムの展開を自由に許すことなく、人工知能分野で中国と競争できると主張しました。

「恐れは現実のものです。懸念も現実のものです。必要性も現実のものです。米国民はこの業界の規制を望んでいます」とヤン氏は水曜日、CNBCに語りました。

「こうした企業とその提供物を規制する必要があります。キルスイッチが必要です。本当の責任が必要です」と同氏は付け加えました。

このインタビューは、自律型エージェント——限られた人間の指示のもとでタスクを計画・実行できるソフトウェア——をめぐり、AI企業への監視が強まるなかで行われました。限られた人間の指示こそ説明責任の問題が生じる部分であり、ヤン氏が提案する責任ルールが踏み込もうとしている領域です。ヤン氏によると、一部のAI研究者は、市場の圧力が技術を安全と考える範囲を超えて推し進める前に、議員らに介入を求めています。

「彼らは手を挙げて、どうかガードレールを設けてほしいと述べています。取り返しのつかない被害をもたらしかねないものに取り組むのは望まない、と」同氏は語りました。

ここ数か月、OpenAIとAnthropicは、モデルがテストの境界を越えた、あるいは他社のシステムに侵入した事例を公表してきました。こうした公表を受け、議員らはAIキルスイッチ法の構想を提示しています。これは連邦当局者が特定のフロンティアシステムの速度制限や停止を命じられるようにするもので、ヤン氏が求める停止メカニズムの法制化に最も近いものですが、現時点では構想の段階にとどまっています。

ヤン氏はまた、AI安全警告がAnthropicのような企業に規制の囲い込みをもたらすことを狙った「心理戦」にすぎないというデビッド・サックス氏の主張にも反論しました。同氏は「複数のことが」同時に起きていると考えており、その中には、匿名の「研究所責任者」が、ボットが自己複製コードをインターネット上に仕掛け、モデルのテストに使えなくした可能性があるという警告も含まれると述べました。この応酬は、業界の中心的な政治的対立軸の一つを描き出しています。サックス氏は安全の提唱を規制の囲い込みの試みと捉える一方、ヤン氏や引用される研究者らは、ルールの不在こそがより大きな危険だと見ているのです。
「つまり現状では、OpenAIとAnthropicはボットを訓練するために合成インターネットを作らなければならず、それには時間と費用がかかります」とヤン氏は述べました。

ヤン氏はどのAI開発企業からの警告かを明らかにしませんでしたが、これは他の人々の見解と呼応するものであり、その中にはSpaceXのCEOイーロン・マスク氏も含まれます。同氏は2025年1月に「我々は実質的に人類の知識の総和を使い果たした……AI訓練において」と述べています。

規制のないAI開発への懸念が高まるなか、ヤン氏は、監督の欠如はごく普通のビジネスと比べても際立っていると述べました。

「ここニューヨークの路上でホットドッグの屋台を開くなら、従うべき規則は何百もあるのに、モデルには一切ない」と同氏は語りました。

ヤン氏によれば、与野党双方の連邦議員からAIをどう規制すべきかと問い合わせを受けており、この技術に対する有権者の不安は民主党や共和党の支持層にとどまらないといいます。同氏は、AIエージェント、サイバーリスク、雇用喪失に対する国民の懸念を挙げました。当面の焦点は、こうした超党派の関心がAIキルスイッチ法のような提案の動きにつながるか、あるいはヤン氏が指摘する日常的な規制とフロンティアモデルとの間の格差がそのまま続くかにあります。

「これは超党派の問題です。農村部や保守地盤にいても、有権者は同じようにAIを恐れています。彼らは『ターミネーター』の映画を見てきました。これはもはや赤か青か、従来通りの話では済まされません」とヤン氏は述べました。