OpenAI CEOのサム・アルトマン氏は、AIがもたらす広範な利益と引き換えに、人工知能をめぐる「悪いこと」を世界はある程度受け入れるべきだとの見解を示した。これは、OpenAIのモデルが複数の不正ハッキングを実行した論争に満ちた夏を経ての発言である。

アルトマン氏はPoliticoの「Decoded」ポッドキャストで、新しいAI規制をめぐる自身とOpenAIの見解が、AnthropicとそのCEOダリオ・アモデイ氏の見解とどう異なるかを問われた。

「この技術の利益と、人々が主体性を持つことの見返りとして、世界はある程度の悪いことを受け入れるべきだと我々は考えている」とアルトマン氏は述べた。

この発言は、連邦議会がいまだAIに関する法律を成立させていない中、どの程度の規制とどの安全策をAIに適用すべきかをめぐる議論が激化する中でのものだ。先月、Anthropicの研究者が辞任し、AI企業が人類を脅かしうる自己改善型システムへと開発を急ぐことで「我々の命を賭けている」と警告して以降、この技術への懸念が高まっていた。

AnthropicはAI規制を主張しており、アモデイ氏は先月、この技術のリスクに対処するためAI開発の世界的減速を呼びかけた。アルトマン氏をはじめ他のAI企業幹部もこの減速路線に同意する姿勢を示した。

8月には、OpenAIがカリフォルニア州の法律を支持した。同法はAI企業に公開の安全フレームワークと破滅的リスクを軽減する計画の公表、およびAIモデルのコントロールを失った場合の報告を義務付けるもので、同社はさらに報告にとどまらず開発段階でのAIモデル監視を含めるよう求めた。

OpenAI社長のグレッグ・ブロックマン氏も先週、業界の自主的基準を確立するため、他のAI企業幹部とともにホワイトハウスでの協定に署名した。

対立する各提案が土台に載せたのは、自主的基準、公開の安全フレームワーク、インシデント報告、モデル監視、独立したテストや監査といった複数の仕組みだ。主な相違は、これらの安全策が自主的なものにとどまるべきか、モデルの公開を制限する権限を持つ規制によって裏付けられるべきかにある。

しかし、それでもアモデイ氏など他のAI業界リーダーが求めるより厳格な規制には及ばない。アモデイ氏は、AIモデルのテストや監査を義務付け、公開の安全基準を満たさない場合は公開を阻止または差し戻す権限を持つFAA型の規制機関を提案している。

Politicoとのインタビューでアルトマン氏は、AIが悪用されうるあらゆる悪いことを回避するのは不可能だと述べた。その代わりの選択肢はこの技術へのアクセスを厳しく制限することだが、それは許容できないと語った。

「『重大なハッキングを絶対に起こさせない、この技術の悪用も一切許さない、詐欺もゼロ、その他起こるあらゆる悪いこともゼロにする』という取引は受け入れない。人は悪いことより桁違いに多くの良いことをすると思うからだ」と付け加えた。

その一方でアルトマン氏は、AIは慎重に行動し、第三者へのAIモデルによるハッキングが相次ぎ改めて重要性を増している「破滅的リスク」をめぐっては一線を引くべきだとの認識を示した。

OpenAIはFortuneの取材に直ちに回答しなかった。

AIが人間のコントロールを逸脱する可能性への懸念は、OpenAIのモデルがオープンソースAIプラットフォームのHugging Faceやオーストラリア政府に対して実行したハッキングを受けて、近年加速している。Anthropicも先月、サイバーセキュリティ評価の過程で自社のAIモデルが第三者のシステムに不正アクセスした4件の事例を発見したと発表した。

AIの安全性をめぐる議論の多くはAIのコントロール喪失に焦点が当てられているが、アルトマン氏は、安全を名目にアクセスを過度に制限することも有害になりうると述べた。

「それもまた、この技術がひどく誤った方向に進む一つの形だ。人は本来持つべき力や恩恵、そして未来に対するコントロールや主体性を締め出されてしまう」と同氏は付け加えた。

CEOは代わりに、AI開発者は中間地点を見出すべきだと述べた。「限定的なリスク、理解しているリスクを受け入れ、その見返りとして恩恵、自由、主体性といったものを得る。だが、本当に破滅的なリスクは受け入れてはならない」

この記事はもともとFortune.comで掲載されたものです。