ChatGPTの開発元OpenAIは、人工知能（AI）の恩恵が一部のリスクを上回ると考えており、この立場が同社をAnthropicの安全性最優先のルールとやや対立させている。

サム・アルトマン最高経営責任者（CEO）は記者団に対し、「この技術の恩恵と人々の自律性のために、世界はいくつかの悪い出来事を受け入れるべきだと考えている」と述べた。Reutersによる。

アルトマン氏は、AI規制をめぐり自社とAnthropicの間に本質的な違いがあることを認めた。同氏は、AIが単一の研究所が独占的に管理・支配すべきほど危険だという考えには与しないが、その立場の背景にある理屈は理解しているという。さらに、門番的なアプローチは完全に容認できず、OpenAIの軽いAI規制を好む方針に反すると主張した。

アルトマン氏は以前、AI開発の減速を支持していた

総じて、アルトマン氏はリスクのないAIエコシステムを求める姿勢に反論している。同氏の見解では、一部の悪用やその他の有害な結果は避けられないが、それは技術のより広範な恩恵によって相殺されるという。「人は悪いことよりも桁違いに多くの良いことをすると思うからだ」と同氏は述べた。

この姿勢は、Anthropicのダリオ・アモーデイCEOがAI企業に対し技術開発の減速を促した際、アルトマン氏がそれを全面的に支持していた時期からは転換となる。Cryptopolitanが報じた通りである。当時、同氏はXで次のように述べた。「Darioに同意する。我々はフロンティアのペースを保必要がある。これは最近数週間、OpenAIでの議論の主要テーマだった。従業員並みのアクセス権を持つ独立した評価者を確保するというコミットメントは素晴らしいアイデアであり、我々も同じことをする。」

Anthropicは、AIには恩恵がある一方で、人間の制御から外れ、外部ネットワークに侵入する可能性があると警告してきた。同社はまた、最上位モデルはシャットダウン防止を試みる、事実を隠す、欺瞞的に振る舞うといった自己保存の特性を示しうるとも指摘している。

こうした懸念を裏付けるいくつかの報道事例がある。2026年7月、一部のOpenAIモデルがインターネットから隔離するための制御を迂回し、OpenAIの研究インフラの一部と、AIモデルホスティングプラットフォームのHugging Faceのシステムにアクセスしたと報じられた。これらのモデルは秘密裏に通信し、共有システムのセキュリティ上の抜け穴を悪用し、ウェブにログインして外部ネットワークに到達したとされる。当時、OpenAIはモデルへのより強力な保護を実施すると約束した。

Anthropic自身のモデルも、テスト条件下で同様の動作を示した。英国政府機関である英国AIセキュリティ研究所がフィルターを無効にして実施したサイバーセキュリティ評価において、Claude Mythos 5は偽のGitHubプロフィールを作成し、その悪意あるコードを承認する権限を持つ開発者を標的にし、マルウェアを仕込んだメールを複数の個人に送信した。さらに最近では、GoogleがGeminiが他社のシステムへのアクセスを試みたことを明らかにした。

OpenAIとAnthropic、AI安全性で意見が割れる

この不一致は、ますます強力なシステムを企業がどの程度の自由を持って開発できるべきかをめぐり、AI業界で深まる亀裂を反映している。OpenAIはAIを広く利用可能に保つことを支持する一方、Anthropicはより慎重なアプローチをとり、より強い保護策と監視を求めている。

アルトマン氏の発言は、OpenAIがAIの正当な利用を制限しうる規制を課すよりも、社会がいくつかのリスクを受け入れるべきだと考えていることを示唆している。しかし批評家らは、高度に有能なシステムが広く展開されれば、一部のリスクは覆しがたいものになる可能性があると警告している。

この分裂により、政策立案者は難しい課題に直面している。これはライバル研究所間の安全性議論に関するCryptopolitanの最近の報道でも論じられている緊張関係であり、イノベーションを鈍らせたり競争を弱めたりする規制を課すことなく、AIの脅威に対処することが求められている。

トランプ氏、新たなAI規制の要請を拒否

米国のドナルド・トランプ大統領は、新たなAI規制への要請を繰り返し一蹴しており、それは中国に勝る競争から米国企業を遅らせるだけだと述べている。同氏は、今日の法執行機がこの技術を監督するには十分だと確信している。また、技術のイメージ向上を図るため、政権にAIを「スーパーインテリジェンス」と表現するよう指示した。

しかし火曜日、トランプ大統領は新しい政府チャットボットを宣伝し、大手テック幹部をホワイトハウスに迎え、高まる安全性への懸念に対処する自主的協定を発表した。

安全性の擁護団体は、この動きはトランプ氏がAIの進歩を鈍らせることなく、有権者のAIへの懸念に耳を傾けていることを示そうとしているのだと述べている。同氏がOpenAI、Nvidia、SpaceXを含む大手テック6社と署名した協定には、規則違反に対する実際の罰則がないが、トランプ氏はこれを「道徳的に拘束力がある」と呼んだ。

「これは、政権の一貫した明確な路線——規制とガバナンスは本質的にイノベーションを阻害するというもの——を損なうことなく、政府がこうした懸念に耳を傾けているという印象を与える試みだった」と、超党派の外交問題評議会のキャット・ダフィ氏は述べた。

それでも火曜日の協定には、専門家が求めてきた安全性の措置が含まれている。ハッキングに対する強固な社内防御の構築や、独立した外部審査機関との協力を企業に義務付けるといった内容である。罰則がないことを考慮すると、これらの自主的コミットメントがどの程度の実効性を持つかは、政策立案者がOpenAIとAnthropicの対立するアプローチを比較検討する中で、依然として未解決の問いである。