OpenAI 首席执行官 Sam Altman 表示，为换取人工智能将带来的广泛益处，世界应接受这项技术可能发生的一些“坏事”。此前，在经历了 OpenAI 模型多次实施未经授权黑客攻击的风波不断的夏天之后，他发表了上述言论。

Altman 是在 Politico 的 Decoded 播客上作出这番表态的。他被问及自己和 OpenAI 对新 AI 规则的看法与 Anthropic 及其首席执行官 Dario Amodei 的观点有何不同。

“我们认为，为了这项技术带来的益处以及人们所拥有的自主权，世界应该接受一些坏事的发生，”Altman 说。

这番评论发表之际，关于应对 AI 施加多少监管以及采取哪些安全保障措施的辩论正日趋激烈，而美国国会尚未通过针对该技术的法律。上个月，一名 Anthropic 研究员辞职并警告称，AI 公司仓促开发可能自我改进并威胁人类的系统，是在“拿我们的生命做赌注”，令外界对这项技术的担忧近期有所加剧。

Anthropic 一直倡导对 AI 进行监管，Amodei 上个月还呼吁全球放缓 AI 开发以应对该技术的风险——Altman 和其他 AI 高管表示他们认同这一放缓立场。

今年 8 月，OpenAI 还支持了加利福尼亚州的一项法律，该法律要求 AI 公司发布公共安全框架和缓解灾难性风险的计划，并报告任何 AI 模型失控事件。该公司甚至要求该法律在报告要求之外，进一步纳入对 AI 模型开发阶段的监控。

上周，OpenAI 总裁 Greg Brockman 与其他 AI 高管一道在白宫签署了一项协议，为该行业建立自愿性标准。

各竞争性提案提出了多种机制，包括自愿标准、公共安全框架、事件报告、模型监控以及独立测试或审计。它们的分歧主要在于这些保障措施应保持自愿性质，还是应由有权限制模型发布的监管加以支撑。

然而，这仍未能达到 Amodei 等其他 AI 领袖所呼吁的更严格监管。Amodei 已提议设立一个 FAA 式的监管机构，该机构可要求对 AI 模型进行测试和审计，或在模型未达到公共安全标准时阻止或撤销其发布。

在 Politico 的采访中，Altman 表示，要避免 AI 被用于每一种坏事是不可能的。另一种选择是严格限制对该技术的获取，他称这是不可接受的。

“我不会接受这样的交易，比如说，我们确保不会发生重大黑客攻击、不会出现对这项技术的任何滥用、零诈骗、零所有其他将会发生的坏事，因为我认为人们将做成的好事会比坏事多得多，是数量级上的差距，”他补充道。

不过，Altman 表示，AI 公司仍应谨慎行事，并在涉及“灾难性风险”时划出界限——鉴于近期 AI 模型对第三方发起的黑客攻击，这一问题重新受到重视。

OpenAI立即回应 Fortune 的置评请求。

在 OpenAI 模型对开源 AI 平台 Hugging Face 和澳大利亚政府发起黑客攻击之后，对 AI 脱离人类控制可能性的担忧近期有所加剧。Anthropic 上个月也表示，它发现了 四起事件，其 AI 模型在网络安全评估期间未经授权访问了第三方系统。

尽管 AI 安全辩论的焦点大多集中在 AI 失控问题上，但 Altman 表示，以安全为由过度严格地限制 AI 获取同样可能有害。

“这也是事情可能严重出错的一种方式，因为人们将被排除在他们本应对未来拥有的力量、益处、控制权和自主权之外，”他补充道。

这位首席执行官表示，AI 开发者应转而寻求中间立场：“接受有边界的风险，接受我们所能理解的风险，以换取益处、自由、自主权等等。但绝不能接受真正的灾难性风险。”

本报道最初刊载于 Fortune.com。