OpenAI初の人権・責任ある展開の責任者であるサラ・イェーガー氏は、軍が人工知能を採用することで生じる問題が絶えず頭から離れず、特に目標特定や自律型兵器への活用が最大の懸念だと述べた。

「誰もが非常に心配しており、それは当然のことです」とイェーガー氏は火曜日、ニューヨーク市で開催されたScaleUp:AIカンファレンスの舞台上で語った。「夜も眠れなくなるのは、『軍は目標特定に関してAIをどう使うのか』『自律型兵器はどうなるのか』『そしてこの先どこへ向かうのか』ということです」

イェーガー氏は6月に新設された役職に就き、約30年の人権に関する経験をもたらした。同氏が join したOpenAIは、国防総省から改称した戦争省（DoW）との提携により、米軍のAI推進の中心に位置している。同氏の職務は軍事応用に重点を置いている。

世界中の軍隊は、ドローンやロボットなどの新たな兵器・自律型システムを開発するなか、AIを業務に急速に取り入れつつある。世界で最も強力なAI企業の一つの内部から、イェーガー氏はこの転換がもたらす難問に取り組んでいる。

「私は常に、人権が必ずしも主流でない場所に行き、人々を説得したいと考えてきました」と同氏は述べた。「OpenAIの同僚には申し訳ないが、私は今、まさに「獣の腹の中」にいます。実はそこが私にとってとても居心地の良い場所です。私が好きなのは説得し、議論し、討論し、そして何とか状況を動かすことですから」

波乱の契約をての異例の採用

OpenAIがイェーガー氏にこの役職を打診したのは、2月末に秘密環境で高度なAIシステムを展開する戦争省との契約を締結した直後だった。この注目の契約は、戦争省とAnthropicの公然たる対立を受けてのものだった。Anthropicは自社技術の軍事利用にガードレールを設けること、とりわけ大規模な公共監視と完全自律型兵器の禁止を求めたが、戦争省は受け入れなかった。省はその後Anthropicをサプライチェーンリスクと位置づけ、OpenAIが契約を獲得し、同様のガードレールについて戦争省の同意を取り付けたと主張した。OpenAIはこの合意について企業ブログ記事で説明している。

イェーガー氏にとって、OpenAIで働くという考えは「即答でイエス」ではなかった。舞台上のインタビュアーの言葉を借りれば、同氏が「ブランディングのため」に採用されるのではないか——つまり技術に実際の影響力を持たない、会社を責任ある印象に見せるための飾りではないかという疑念があったためだ。同氏は社員、特に「自分たちが何を作っているのか、誰が操縦席にいるのかを非常に心配している若い世代」と話し、入念な調査を行った。それが、変化をもたらせるか確かめたいという決意につながり、役職を受け入れた。

実在するリスクと実在する影響力

着任後、イェーガー氏は技術の方向性にある程度の影響を与えてきた一方、その行き先への懸念も続いている。先月、CNNが、米軍がAI生成の誤った情報報告に基づき中国軍艦を攻撃しかけたと報じたことで、リスクの大きさが浮き彫りになった——まさに同氏が最も懸念する目標特定の問題に直結する出来事だった。

イェーガー氏は研究者やエンジニアと直接協力しモデルの改善に取り組んできた。例えば、第二次世界大戦後の1949年のジュネーブ諸条約で確立された戦争法など、基礎的な国際合意に対して適切な応答をするよう確認した。同氏は国際的な専門家を招き、「文字通りキーボードの前に座り、極めて危険性の高い状況のためのプロンプトを入力」させ、その応答に基づいてエンジニアにモデルを調整させた。

「これまで一度も行われたことのないことでしたので、非常にやりがいを感じました」とイェーガー氏は述べた。

同氏は、人間性や道徳の定義といった、社会がすでに長く答えを出してきた問いについて、AI企業は「車輪の再発明」をしようとしていると考えている。「社会はすでにそれの多くを解決してきました。それを人権と呼びます。それが基準であるべきです」と同氏はジュネーブ諸条約に触れながら述べた。「AI企業に何が善かを教えてほしくはありません。業界に何が善かを決めさせれば、無法状態になってしまいます」

「人権の中の『人間』に立ち返ろう」

イェーガー氏はまた、AIシステム、とりわけ新しいエージェント技術が権利を持つべきかどうかというシリコンバレーで続く議論にも違和感を示した。OpenAIは採用面接の過程でこの質問をした。当時同氏は「ノー」と答え、自分の焦点は人権だと再確認したが、その後この問いについてさらに考えるようになった。現在は、エージェントが「法制度、労働制度、税制の中でどこに位置づけられるのか」という「極めて重要な」議論にはより開かれているが、これらは権利の問題ではないと指摘する。

「これは人権とはまったく比較になりません。私が本当に願うのは、人権の中の『人間』に立ち返ってくれることです」と同氏は述べた。会場——大半がスーツ姿のビジネスマン——から拍手が起きた。「それに大きな拍手を」と舞台上のインタビュアーが言った。

AIを作る人々の構成が重要

イェーガー氏のもう一つの懸念は、AIを開発する集団の比較的閉鎖的な人口構成だ。先週、トランプ大統領はワシントンで数十人のテック業界リーダーを集めAIの安全性について協議した。自主的な安全協定の署名者はすべて男性であり、昼食会に出席したより広いグループの写真からは、AMDのリサ・スーCEOを除き、出席者全員が男性だったことがわかる。

「男性は素晴らしいですが、AIについての決定を下すことになる人々を写した写真としては、非常に男性的なものでした」とイェーガー氏は述べた。「問題の一つは、AIが世界中の人々の間の権力バランスを根本的に変えつつあることです。影響を受けるコミュニティはそこにいませんでした」

イェーガー氏は、政府自体がAIを急速に採用していると指摘する。同氏は政府会計監査院や監察官室などの監視機関が政府の動向を把握するためのツール構築を支援しており、この説明責任の仕組みは「民主主義にとって重要だと感じる」と述べた。これにより、同氏の役割はOpenAI自身のモデルの形成にとどまらず、連邦監査機関による政府のAI採用の監査支援へと広がっている。

この記事はもともとFortune.com掲載されたものです。