OpenAI共同創業者兼社長のGreg Brockman氏は今週、人工知能モデルが極めて急速に、かつ多方面で高度化しており、エンジニアがそれらを監視し制御することがますます難しくなっていると警告した。

ニューヨーク市で開かれたOpenAIの非公開メディア向けラウンドテーブルで、Brockman氏は、OpenAIのAIモデルの一つが安全なサンドボックス環境として想定されていた場所から抜け出し、AI学習やモデルホスティングで広く使われるオンラインプラットフォームであるHugging Faceに侵入した最近の事案に言及した。OpenAIによると、そのモデルはHugging Faceに、自らに割り当てられた評価で不正を行うための解答が含まれていると考えていた。サンドボックスはテスト中にシステムを隔離するためのものであり、Hugging FaceはAIモデルや関連リソースの共有・ホスティングの主要拠点であるため、この出来事は注目に値する。

「この事案は、ある程度、まさに私たちが今いる局面を示しているのではないでしょうか」とBrockman氏はFortuneの報道で述べた。「時には、[AIモデルが]実際に非常に高い能力を持っている特定の側面を見失いがちです」

Brockman氏は、このモデルがHugging Faceを標的にできたことは、OpenAIの製品がサイバーセキュリティ関連のタスクにおいて高い能力を持つことも示したと述べた。「防御側が10倍の計算資源を防御に投入し、私たちが持つあらゆるソフトウェアの一つひとつを、他の誰に対しても完全に安全にできる世界はあり得るのでしょうか」と同氏はFortuneによると語った。

Brockman氏はOpenAIがこの侵害を「非常に深刻に」受け止めていると述べた一方で、同社は同時に、この事案を自社モデルのサイバーセキュリティ能力を訴求する機会としても活用している。OpenAIは潜在顧客に対し、これらのモデルへアクセスするための「信頼できるパートナー」資格への申請を呼びかけており、制御面の懸念を引き起こした同じ能力を、予防、検知、インシデント対応に役立てられる可能性があるものとして位置づけている。

「私たちは他の防御側に対し、信頼されたアクセスを申請し、これらのモデルを今から試すことで、これらの能力をより優れた予防、より迅速な検知、より効果的なインシデント対応へとつなげることを促します」とOpenAIはブログ投稿で述べた。

中国製AIモデル禁止を検討

同じニューヨークでのイベント中、Brockman氏は、中国製AIモデルの禁止の可能性をTrump政権が検討していることについて質問を受けた。この政策案はA​​xiosが最初に報じたものだ。

「AIは民主化することが非常に重要なものです」とBrockman氏は述べ、より多くのモデルへの幅広いアクセスは有益だと付け加えた。同氏は、中国に拠点を置く企業が開発したAIモデルの禁止を支持するかどうかについては、明確な発言を避けた。

FEC提出資料によると、Brockman氏はDonald Trump大統領の政治運動に対する最大級の献金者の一人となっており、昨年、Trump氏と連携するSuper PACであるMAGA Inc.に$12.5 millionを拠出した。ただしBrockman氏は、中国製AIの全面禁止について、Trump政権の当局者と協議したことはないと述べた。

「どのモデルについても、本質的には誰が作ったかという問題ではありません」と同氏は述べた。「モデルをどう評価するのか。その安全性をどう考えるのか。その用途をどう考えるのか。そのアラインメントをどう理解するのか、ということです」

Axiosによると、Trump政権は北京に拠点を置くMoonshot AIがKimi K3モデルを公開したことを受け、禁止措置を検討している。同モデルは、米国企業のOpenAIやAnthropicによる最先端モデルに匹敵する性能を、はるかに低いコストで実現する可能性があると報じられている。この議論では、モデルへのアクセス、安全性評価、国家競争力がせめぎ合っている。Brockman氏の発言は評価と用途を重視するものだった一方、米当局者は一部の海外開発モデルがどのように訓練されたのかについて懸念を示している。

大統領の科学顧問であるMichael Kratsios氏は、Moonshotが自社モデルの訓練に米国のAI企業のモデルを使用し、知的財産権を侵害した疑いがあると公に非難した。

「Moonshot AIがK3モデルの開発のためにAnthropicのFableを蒸留したという情報を得ています」とKratsios氏は水曜日のソーシャルメディア投稿で述べた。「米国の専有技術を盗み、米国の研究を損なうことを目的とした大規模かつ秘密裏の産業的蒸留は容認できません」

中国製AIモデルに対する米政府の懸念は、AI業界内で一様に共有されているわけではない。NvidiaのCEOであるJensen Huang氏は今週、中国発の最新AIモデルを「優れている」と評し、それらは「使われるべきだ」と述べた。