イーロン・マスク氏は、人工知能が約5年以内に人類全体の知能を上回る可能性があり、人間が今後10年以内にこの技術を制御し続けることは難しいとの見方を示した。

木曜日にThe Economist編集長のZanny Minton Beddoes氏と行った対談で、xAI創業者のマスク氏は、AIがほぼあらゆる知的作業で人間を上回る方向に進んでいると述べる一方、この技術が前例のない豊かさの時代を生み出す可能性があるとも主張した。マスク氏は2023年にxAIを立ち上げており、フロンティアAI競争の競合者であると同時に、制御されないAI開発に対する業界で最も著名な公的批判者の一人でもある。

「人間であることを除けば、おそらくAIが人間よりうまくできないことは本当に何もなくなるでしょう」とマスク氏は述べた。「最も可能性の高い結果は、誰もが思いつくものを何でも手にできる驚くべき豊かさの時代です。荒唐無稽に聞こえるかもしれませんが、私たちは今2026年にいます。2036年にどこにいるのか見てみましょう」

今回の発言は、AIが「豊かさの時代」をもたらす一方で、人類に深刻な実存的課題を生み出す可能性があるという、マスク氏が繰り返し提起してきたテーマに沿うものだ。マスク氏は、高度なAIを依然として実存的リスクと見なしていると述べたが、その発展を遅らせる現実的な方法はもはや見当たらないとも付け加えた。

「AIとロボットのこの信じられない勢いを本当に止める方法は見当たりません」とマスク氏は述べた。「時には、たとえ停止ボタンがあったとしても、おそらく押すべきではないのではないかと思うことがあります。最も可能性の高い結果は、すべての人にとって信じられないほどの豊かさだからです」

開発を止めようとするのではなく、マスク氏は、世界の主要AI企業が安全性とセキュリティ上の懸念に焦点を当てた定期会合を開くべきだと述べた。また、競合するAI研究所が互いのフロンティアモデルに限定的な早期アクセスを提供され、それらのシステムが一般公開される前に危険な能力を探せるようにすることも提案した。企業が重大なリスクに対応しなかった場合、政府が介入できるとマスク氏は述べた。

この提案は、主要AI開発企業がすでに用いている社内のレッドチームテストや外部の安全性評価を超えるものとなる。未公開システムへの限定的アクセスを競合他社と共有することを求めるためだ。この考えは、フロンティアAIが直面するより広範なガバナンス上の問題を浮き彫りにしている。すなわち、新たなリスクを特定する能力が最も高い企業が、より強力なモデルの公開をめぐって競争しているという問題だ。

主要AI開発企業間の協力を求めるマスク氏の呼びかけは、長年のライバルであるSam Altman氏と、OpenAIが非営利組織から営利構造へ移行したことへの新たな批判と同時に示された。マスク氏は、OpenAIが同氏のいう創設時の目的から離れたと述べた。

「私はSam Altmanの支持者ではありません。なぜなら、あなたは世界が所有するオープンソースAI企業となることを意図した非営利組織を始めたのに、それがどういうわけかクローズドソースの8000億ドル規模の営利企業になってしまったからです」とマスク氏は述べた。

5月、カリフォルニア州の陪審は、OpenAI、CEOのSam Altman氏、共同創業者のGreg Brockman氏を相手取ったマスク氏の1500億ドル規模の訴訟を退けた。陪審は、OpenAIが商業的構造へ移行することで非営利の使命を放棄したとの主張について、被告らに責任はないと判断した。この評決により、ChatGPT開発企業に対するマスク氏の最も注目度の高い法的挑戦の一つが終結した。

マスク氏はAnthropicにも言及し、同社が存在するのは共同創業者のDario Amodei氏とそのチームがOpenAIにおけるAltman氏のリーダーシップをもはや信頼しなくなったためだと示唆した。マスク氏は、もしその信頼を維持していたなら、彼らはOpenAIに残っていただろうと主張した。

「Darioは非常に信念のある人物だと思います。彼は世界の未来を大切にしていますし、これまでAnthropicで会った人たちは皆、善意を持っていると思います。私の悪人探知機に引っかかった人はいません」とマスク氏は述べた。「地獄への道は、ほとんどが悪意で舗装されています。その中には善意の敷石もいくつかあるので、私たちは油断してはなりません」

マスク氏はAnthropicにおけるAmodei氏のリーダーシップを称賛したが、Altman氏を含む批判者らは、同社がClaude AI製品を販売するために恐怖に基づくマーケティングを用いていると非難している。

OpenAIの経営陣との対立にもかかわらず、マスク氏は、競合するAI企業は必要な場合には安全性について協力する用意を持つべきだと述べた。

「結局のところ、話し合う必要があるなら、話し合います」とマスク氏は述べた。「世界のために、個人的な違いは脇に置くべきです」