ドナルド・トランプ大統領は、OpenAIとAnthropicの研究者が急速に進歩するAIシステムのリスクについて深刻な懸念を公に示す中、人工知能が人類絶滅を引き起こすことについて「懸念はない」と述べた。

木曜日、AIが人類絶滅につながる可能性について問われたトランプ氏は、「いや、何も懸念していない」と答えた。同氏は、最大の関心事は米国が中国とのAI競争に勝つことだと述べた。

「AIで勝てなければ、非常に悪い立場に置かれることを懸念している」と、トランプ氏は記者団に語った。また、現在の米国は中国に約1年先行していると考えていると付け加えた。

この発言は、世界を代表する2つのAI企業の従業員や研究者が、安全対策が開発のペースに追いつかない可能性があると警告する中で出た。AI開発の速度と安全対策の範囲をめぐる相反する優先事項が、議論の中心となっている。

研究者が再帰的自己改善への懸念を表明

Anthropicの研究者Jacob Coxon氏は火曜日、同社を退社すると発表した。Coxon氏は、AnthropicとOpenAIが「私たちの命を賭けている」と述べ、AIを開発している人々は、AIが「この10年の終わりまでに私たち全員を殺す」可能性があると考えていると主張した。両社の他の従業員も同様の懸念を示している。

AI安全性の研究者が中心的な懸念として挙げるのが、再帰的自己改善（RSI）だ。この言葉は、AIモデルが人間の支援なしに自らの性能を向上させる能力を得るシナリオを指す。

OpenAIのアラインメント研究者であるJasmine Wang氏は、水曜日の夜に次のように投稿した。「RSIに向けて急ぐことがどれほど危険か、いくら強調しても足りない。」

OpenAIのチーフサイエンティストであるJakub Pachocki氏も、土曜日に懸念を示した。同氏は、AIの進歩が再帰的自己改善の領域にまで進む可能性について「強く予想している」と述べた。

「機械知能が今後も急速に向上し続けた場合、その結果に誰も備えられていないのではないかと懸念している」と、Pachocki氏は述べた。

議会がAI監督強化を推進

議会では、両党の議員が先進AIシステムに対する監督の強化を求めている。7月には、Jay Obernolte下院議員とLori Trahan下院議員が、先進AIモデルの展開方法に関する規則を定めるFRONTIER Actを提出する計画を発表した。

Trahan氏は水曜日、Xに次のように書き込んだ： “Safety researchers are resigning, powerful AI models are breaking out of their labs, and companies are racing ahead anyway. It’s past time for Congress to get off the sidelines and do its job.”

今月初めには、Bernie Sanders上院議員とGreg Casar下院議員が、Ban Artificial Superintelligence Actを提出した。この法案は、連邦政府が安全規則を整備するまで、先進AIの開発を一時停止するものだ。これらの提案は、先進モデルをどのように展開するかだけでなく、新たな安全対策が整う前に開発を続けるべきかどうかも政策論争の対象となっていることを示している。

トランプ氏は、いずれの法案への支持も示していない。同氏の焦点は、中国との世界的なAI競争で米国の優位を維持することにあり、政権の立場とAI安全性の研究者が示す懸念との隔たりが広がっていることを浮き彫りにしている。

出典：CoinCentral。