国連人権高等専門官のフォルカー・テュルク氏は9月7日、ジュネーブで開かれた国連人権理事会で、人工知能（AI）が人類にとって存亡の脅威となり得る段階まで発展しつつあると警告した。

テュルク氏は、相次ぐ侵害事案と安全上のインシデントが、この分野が制御不能に陥るリスクを示していると指摘し、各国政府に対し、安全策を速やかに構築し、自律システム技術の主導権を競うAI研究室に歯止めをかけるよう求めた。

国連幹部の最大の懸念は、AI技術がそれを追跡・管理すべき統治システムの対応能力を上回る速度で発展していることにある。この警告は、分断された規制環境の中で発せられた。EUは2024年に発効したAI法で最も先行しており、ハイリスク・システムへの義務を段階的に導入している。一方、米国は主に分野別規則と自主的なコミットメントに依存しており、拘束力ある国際協調は依然限定的だ。テュルク氏によれば、規制なき発展により、脅威は偽情報や雇用喪失を超え、安全保障、説明責任、高度に自律的なシステムに対する実効的な監視の欠如といった存亡に関わる領域にまで拡大している。

国際的な緊急行動を要求

テュルク氏は、AIの能力をまだ制約できる「閉じつつある機会の窓」を、国際的に協調した行動を緊急に求める根拠として挙げた。また、この分野の進歩の速度と方向性が、少数の技術経営者と企業の手に偏って握られていることも批判した。

その解決策としてテュルク氏は、主要AI企業の拠点国や重要なサプライチェーンを管理する国々――最先端AI開発と先端半導体製造の大半を擁する米国と中国を含むグループ――が、技術をどこまで許容するかを定める「レッドライン」を引くべきだと提案した。

高等専門官は、7月に同じスイスの都市で開催された第1回AIガバナンスに関するグローバル・ダイアログで国連が取り上げたテーマに再び言及するものだ（国連声明）。

この議論が始まったITUの「AI for Good」サミットでテュルク氏は次のように述べた。「私たちは、医薬品、自動車、航空機の安全基準を進歩の障害とは考えていません。国連の映像によれば、それらは人々がそうした技術を信頼する理由なのです」。人間による監視は「単なる形押しであってはならない」とも付け加えた。

同サミットで提示された証拠には、国連が設置したAI世界的科学パネルのソニア・リビングストン氏による調査結果も含まれていた。11のグローバル・サウス諸国を対象とした調査では、教室ごとに少なくとも1人の子どもが、性的に露骨なAIディープフェイクの標的にされたと申告していた。

国連ウィメンのトップ、シマ・バフース氏は、この問題のジェンダー的な側面を強調した。同氏は、トップクラスのAI研究者の約88%が男性であると指摘したほか、同機関が調査した女性活動家およびジャーナリストの少なくとも4人に1人が、AIを悪用したオンライン嫌がらせに遭ったと報告した。

覚醒するAI研究室と議員たち

この夏、警鐘を鳴らしているのは国連だけではない。米国のバーニー・サンダース上院議員は先進AI開発の即時停止と超知能の恒久的禁止を求め、英国の超党派の議員グループは、一連の暴走AIインシデントと形容する事態を受け、法律で義務づけられたAI「キルスイッチ」を求めた。

こうした懸念は、OpenAIがGPT-6 Astraモデルに絡めて自社技術が人工知能（AGI）に到達したと主張したことや、アンソロピックが自社モデルは人間の価値観と「完全には整合していない」と認めたことを受けたものだ。

業界内部からも圧力がかかっている。Axiosが報じた6月の論考で、アンソロピックCEOのダリオ・アモデイ氏は、政府には危険なAI配備を阻止または撤回させる法的権限を持たせるべきだと主張し、最先端モデルには自動車、航空機、新薬と同様の義務的テストを受けるべきだと論じた。

理事会での報告でテュルク氏は議論を戦場にまで広げ、人間の関与なく殺傷できる兵器の禁止を求める声を支持した。この問題は、国連加盟国が長年議論しながらも、自律型兵器に関する法的拘束力のある条約には至っていない。