Google DeepMind 成立研究院 引導 AGI 安全發展
重點速覽
- •Google DeepMind 推出 DeepMind 研究院（DMI），作為人工通用智慧跨學科研究與辯論的平台，集結來自 DeepMind、Google 以及全球研究社群的貢獻者。
- •DeepMind 將 AGI 定義為具備人腦完整認知範圍的系統，並設想其能加速疾病、清潔能源與經濟繁榮方面的科學突破。
- •該公司承認現有的 AI 風險，指出網路安全和生物風險領域的影響已經顯現，並警告未來具自我改進能力的系統可能失控。
- •DMI 的職權範圍超越工程領域，涵蓋安全、治理、人類價值觀，以及社會可能需要調整或重新想像的制度與政策等問題。
- •DeepMind 主張，負責任地塑造 AGI 是涵蓋藝術、人文學科與政府的集體社會責任，而非僅由技術人員決定。
Google DeepMind 推出了 DeepMind 研究院（DMI），這是一個旨在推進人工通用智慧（AGI）研究與洞見的專屬平台。該計畫集結了來自 Google DeepMind、Google 以及更廣泛的全球研究社群的研究人員與思想家，他們將針對 AGI 時代的世界發表具有創意的、有充分依據的觀點。該公司明確表示，貢獻者之間不會總是意見一致，且可能隨著快速發展的前沿領域出現新證據而修正自身觀點。更多詳情請見該研究院的官方網站。
此一宣布正值當今 AI 系統展現驚人能力之際，但這些系統在基本任務上仍偶爾失誤，且缺乏真正 AGI 所需的一致性與創造力。DeepMind 預期這些差距很快就會縮小，並將 AGI——一種具備人腦完整認知範圍的系統——定義為加速科學突破的潛在終極工具。在該公司的願景中，AGI 可能為理解與治癒疾病、開發清潔能源以及推動經濟繁榮開闢新路徑，開啟遠超人類自身所能達成的發現黃金時代。這一論述之所以具有分量，部分原因在於 AGI 本身尚無公認的技術定義，研究人員對於此類系統何時——或是否——會問世仍存在分歧，使這一術語成為該領域內持續爭論的焦點。
DeepMind 以坦率的風險評估來調和這種樂觀情緒。它指出，能力日益增強的 AI 的影響已在網路安全和生物風險等領域顯現，並警告未來具備自我改進能力的系可能出現失控風險。DMI 被定位為對這一雙重現實的直接回應：持續推動跨學科研究、協作與辯論，以解決這個時代最重大的技術與社會問題。
超越實驗室：社會在 AGI 時代扮演的角色
該研究院的職權範圍遠超出技術工程領域。它計畫探討的問題包括：在 AGI 時代人類將重視什麼，以及此類系統將如何重塑「身為人類」的意義；AGI 應如何安全地構建與治理，AI 代理社群將如何運作；以及社會需要調整——或徹底重新想像——哪些制度與政策。
該計畫的一個核心前提是，僅靠技術人員無法決定如何負責任地開發與部署 AGI。技術專業知識或許能確立新時代的可能性，但 DeepMind 主張，塑造其現實是屬於整個社會的集體責任——其中必須涵蓋藝術、人文學科與政府。在此觀點下，針對未來的挑戰與機遇達成共識，需要廣泛的知識性討論，而非單一的權威聲音。
透過匯聚多元觀點以找出關鍵挑戰並辯論可能的解決方案，DMI 旨在幫助確保 AGI 的利益大於其風險，並改善所有人的的生活。此次成立也反映出領先 AI 實驗室與公眾互動方式的更大轉變：從閉門開發轉向開放的、跨學科的審議——這一轉變在整個業界已清晰可見，競爭對手的前沿實驗室已發表各自的安全框架與擴展承諾，政策制定者也已採取行動治理先進 AI，從歐盟的《AI 法案》到關於降低前沿風險的國際高峰會宣言。該研究院能否真正將辯論轉化為切實可行的安全與治理框架仍有待觀察，但這代表一項值得注意的機構性押注：通往 AGI 的道路必須由其建造者之外更多的人共同塑造。
