イーロン・マスクが一貫して人工知能の未来についてユートピア的なビジョンを描き続ける一方で、他の多くのテクノロジー指導者や各国政府は同技術の潜在的危険性について警鐘を鳴らし続けている。

Google DeepMindの首席AI準備責任者であるライラ・イブラヒムは、AIによる人類滅亡リスクの緩和を核戦争と同等の重大さで扱うべきだと宣言した2023年の声明の署名者の一人であった。そして現在、彼女はその最悪のシナリオがどの程度現実的なのか、自身の見解を明らかにした。

「ゼロではありません」とイブラヒムはFortuneに語った。「それ以上のことはすべて私の推測にすぎません……それが私の中のエンジニアとしての部分です」

イブラヒムがOpenAIのサム・アルトマンやAnthropicのダリオ・アモデイと共にAI安全センターの声明に署名してから三年が経過したが、彼女は依然として「生存的リスクについて語らないのは無責任だ」と述べた。

AIの「ゴッドファーザー」と広く呼ばれるジェフリー・ヒントンは、わずか三十年以内に人類滅亡の確率を10%から20%と見積もっている。アモデイは、未来、つまり人類の存続が「本当に、本当にひどい方向」に向かう可能性が25%あると述べた。ChatGPTが登場するほぼ十年前には、AIを頼って自身の見解を世界に発信していた故スティーブン・ホーキング物理学者も、同技術が人類を終わらせる可能性があると警告していた。

「夜も眠れなくなる二つのことがあります。リスクを緩和するためにできることはすべてやっているか。そして、機会を最大化するためにできることはすべてやっているか。この二つは、私の心の中では表裏一体です」とイブラヒムは述べた。

同社初の最高執行責任者であったイブラヒムは、COVID-19のパンデミックが、破滅的なリスクは常に予想できるものとは限らないことを思い出させたと指摘した。また、ビジネスの世界ではインターネットの台頭やその後のソーシャルメディアの普及など、過去の技術的転換期において、何が間違った方向に向かう可能性があるかについて十分に議論してこなかった歴史があると述べた。

「投資の意思決定を行う際、テーブルを囲んでリスクについて本来あるべき方法で議論していませんでした。私たちは時に、目の前のことにとらわれすぎることがあります」とイブラヒムは述べ、終末的なSF映画を教訓として捉えるべきだと付け加えた。

「リスクの緩和や、その過程で良いものに投資することを何もしなければ、私たちはまさに望まない方向に向かうことになります」と彼女は付け加えた。「多くのことが間違った方向に進む可能性があります」

マスクは2036年までに貨幣は無意味になると主張——イブラヒムは同意しない

イブラヒムがAIによる人類の没落の確率に正確な数値を与えることに慎重であるのと同様に、彼女はもう一つの極端な見方、つまり希少性のないユートピアにも懐疑的である。

マスクは、AIとロボットがもたらす豊かさによって労働が選択制になり、賃金の意味が失われる未来を繰り返し提唱してきた。さらに最近では、ロボットが職場を掌握し給与を無用のものにするまでの期限として十年という期間を設定した。

「2036年には貨幣は意味を持ちません」とマスクはThe Economistに語り、商品が極めて安価になるため社会はデフレの時代に入り、政府は雇用の日々の負担から解放された市民に普遍的な高所得を分配すると主張した。

同様に、Amazon創業者のジェフ・ベゾスは、2045年までに「何百万人もの人々」が宇宙で生活し、ロボットが日常の移動を担当すると予測している——彼の構想では、オフィスではなく他の惑星へ通勤することになるからだ。OpenAIのアルトマンは、十年以内に大学卒業者が「まったく新しい、エキサイティングな、非常に高給の」宇宙での仕事に就くようになると述べている。

しかし、イブラヒムは納得していない。Google DeepMind——重大な科学問題の解決に取り組む先進的なAI研究施設——でAIの最も重要なブレイクスルーを最前列で見守る立場にありながらも、技術の進化が速すぎて、次に何が起こるかを正確に予測できる人は誰もいないと主張する。その不確実性こそが、彼女が議論をユートピアと破局の二択としてではなく、ガバナンス、安全性、そして現実世界での使用事例に関する実践的な問題として捉える理由の一つである。

「私たちは本当に、未来の状態がどのようなものかを予測できるとは思いません」と彼女はFortuneに語った。

彼女の関心は、二十年後の人類がどの惑星に住んでいるかというよりも、現在生きているこの世界をより良くするために、これらの新興技術をどのように実践的に活用できるかにある——極端な気象や産業廃棄物といった具体的な課題に取り組むと同時に、技術の恩恵が強力なAI企業を運営する少数の経営陣だけに届くものでないことを確実にする。企業や政策立案者にとって、それは最先端のモデルについての議論だけでなく、誰がそれらにアクセスできるか、どのリスクを監視するか、そして生産性向上の恩恵がどこに現れるかについての議論でもあることを意味する。

「私は、テクノロジーを人間の可能性を最大化するためのツールとしてどう活用するかに注意を向けるべきだと考えています」とイブラヒムは述べた。「そここそが、私たちが投資し、時間を費やすべき場所です——この新しいツールによって、私たち人間が発見できなかったパターンを見つけ出すことで、どのような疾病を治せるのかについて議論することです」

「私は、未来とは何かということよりも、どうやって未来にたどり着くかについて多くを考えています」と彼女は付け加えた。