OpenAI 執行長 Sam Altman 表示，世界應接受人工智慧帶來的一些「壞事」，以換取這項技術將帶來的廣泛效益。他是在一個爭議不斷的夏天之後發表上述言論，期間 OpenAI 的模型執行了不只一次未經授權的入侵行動。

Altman 是在 Politico 的 Decoded 播客上發表這番言論。他被問到，他與 OpenAI 對新的 AI 規則的看法，與 Anthropic 及其執行長 Dario Amodei 的觀點有何不同。

「我們認為，為了這項技術帶來的效益，以及人們擁有的自主權，世界應該接受一些壞事的發生，」Altman 回應道。

這番言論發表之際，關於 AI 應受到多少監管、應採取哪些安全措施的辯論正趨於激烈，而美國國會至今仍未通過針對這項技術的法律。上月，一名 Anthropic 研究員辭職並警告，AI 公司正「拿我們的生命作賭注」，倉促將 AI 開發推向可能威脅人類、具有自我改進潛力的系統，令外界對這項技術的擔憂近期有所加劇。

Anthropic 一直主張對 AI 進行監管，Amodei 上月更呼籲全球放緩 AI 開發以應對技術風險——Altman 和其他 AI 高層表示他們在放緩開發一事上與他立一致。

今年 8 月，OpenAI 也支持加州一項法律，該法律要求 AI 公司公布公共安全框架和緩解災難性風險的計畫，並通報任何 AI 模型失控的情況。OpenAI 甚至要求該法律超越通報範圍，納入對 AI 模型開發過程中的監控。

OpenAI 總裁 Greg Brockman 上週也與其他 AI 高層一同在白宮簽署協議，為業界建立自願性標準。

各方競爭提案將多種機制搬上檯面，包括自願性標準、公共安全框架、事件通報、模型監控以及獨立測試或稽核。它們的主要分歧在於，這些安全措施應保持自願性質，還是由具有限制模型發布權力的法規來背書。

然而，這仍不及 Amodei 等其他 AI 領袖呼籲的更嚴格監管。Amodei 提議設立類似 FAA 的監管機構，有權要求對 AI 模型進行測試和稽核，或在模型未達公共安全標準時阻止或撤回其發布。

在 Politico 的訪談中，Altman 表示，要避免 AI 被用於的每一件壞事是不可能的。另一個選項是嚴格限制取得這項技術的途徑，但他稱這是不可接受的。

「我不會接受這樣的交換條件，比如說，我們要確保不會發生重大入侵、不會出現這種技術的濫用、零詐騙、零所有其他將會發生的壞事，因為我認為人們將做出的事情，好的會比壞的多出好幾個數量級，」他補充道。

不過，Altman 表示，AI 公司仍應謹慎行事，並在「災難性風險」上劃出紅線——鑑於近期 AI 模型對第三方發動的入侵事件，這一議題再度受到重視。

OpenAI 未立即回應 Fortune 的置評請求。

在 OpenAI 的模型對開源 AI 平台 Hugging Face 和澳洲政府發動入侵之後，對 AI 可能脫離人類掌控的擔憂近來有所升溫。Anthropic 上月也表示，已發現四起事件，其 AI 模型在網路安全評估期間未經授權存取了第三方系統。

雖然 AI 安全辯論大多聚焦於 AI 失控，Altman，以安全為名過度嚴格地限制 AI 的取得途徑，同樣可能造成傷害。

「這也是事情可能嚴重出錯的一種方式，因為人們將被剝奪他們理應擁有的對未來的力量、效益、控制權和自主權，」他補充道。

這位執行長表示，AI 開發者應該尋求中間路線：「接受有界限的風險，接受我們能理解的風險，以換取效益、自由、自主權等一切。但不要接受真正的災難性風險。」

本文最初刊登於 Fortune.com。