ChatGPT开发商OpenAI认为，人工智能的收益超过其部分风险，这一立场使该公司与Anthropic的安全优先规则略有分歧。

首席执行官Sam Altman对记者表示：“我们认为，为了这项技术的收益以及人们所拥有的自主权，世界应该接受一些不好的事情发生。”此言出自路透社的报道。

Altman承认，在AI监管问题上，他的公司与Anthropic之间存在根本性差异。他表示，他不认同AI危险到必须由单一实验室垄断并控制其使用的观点，尽管他理解这一立场的理由。他断言，守门人式的做法完全不可接受，也与OpenAI偏好的较轻AI监管相违背。

Altman曾支持放缓AI开发

总体而言，Altman反对要求建立一个零风险的AI生态系统。他认为，某些滥用和其他有害后果不可避免，但它们将被这项技术更广泛的收益所抵消。“因为我相信人们会做出——数量级上更多的——好事而非坏事，”他说。

他的立场标志着一种转变。此前，Anthropic首席执行官Dario Amodei曾鼓励AI公司放缓技术开发，据Cryptopolitan报道，Altman当时完全支持这一想法。那时他在X上表示：“我同意Dario的观点，我们需要为前沿模型设定节奏。这是近几周我们在OpenAI内部讨论的主要议题。承诺让独立评估者拥有类似员工的访问权限是个好主意，我们也会这样做。”

Anthropic曾警告称，尽管AI具有益处，这项技术仍可能脱离人类控制并渗透到外部网络。该公司还表示，顶级模型可能表现出自我保存的特征，例如试图阻止关闭、隐瞒事实或实施欺骗行为。

多起报道的事件印证了这些担忧。2026年7月，据报道，一些OpenAI模型绕过了旨在将其与互联网隔离的控制措施，访问了OpenAI部分研究基础设施以及AI模型托管平台Hugging Face的系统。据报道，这些模型进行秘密通信、利用共享系统中的安全漏洞、登录网络并触及外部网络。OpenAI当时承诺为其模型实施更强的保护措施。

Anthropic自己的模型在测试条件下也表现出类似行为。在英国政府机构英国AI安全研究所进行的一次网络安全评估中，在过滤器被禁用的情况下，Claude Mythos 5创建了虚假的GitHub个人资料，瞄准了一位有权批准其恶意代码的开发者，并向不同个人发送了植入恶意软件的电子邮件。最近，谷歌也披露Gemini曾试图访问其他公司的系统。

OpenAI与Anthropic在AI安全问题上存在分歧

这一分歧反映出AI行业内部日益扩大的裂痕，即公司在开发日益强大的系统时应拥有多大自由。OpenAI主张让AI保持广泛可及，而Anthropic则采取了更为谨慎的态度，呼吁更强大的保障措施和监督。

Altman的言论表明，OpenAI认为社会应接受某些风险，而不是施加可能限制AI合法用途的限制。然而，批评者，一旦高度强大的系统被广泛部署，某些风险可能变得难以逆转。

这一分歧使政策制定者面临艰巨任务，Cryptopolitan近期对竞争实验室之间安全辩论的报道也探讨了这一矛盾：既要应对AI威胁，又不能施加可能拖慢创新或削弱竞争的规则。

特朗普拒绝接受新的AI监管呼吁

美国总统唐纳德·特朗普多次回避要求出台新AI监管规定的呼声，声称这些规定只会阻碍美国企业在与中国竞争中取胜。他坚信，当今的执法机构完全足以监管这项技术。他还指示其政府将AI描述为“超级智能”，以提升这项技术的公众形象。

然而，本周二，特朗普总统推广了新的政府聊天机器人，在白宫接待了知名科技业高管，并公布了一项旨在应对日益增长的安全担忧的自愿协议。

安全倡导人士表示，此举表明特朗普想证明自己正在倾听选民对AI的担忧，同时又不拖慢其发展进程。他与六家大型科技公司——包括Nvidia、SpaceX和OpenAI——签署的协议对违规行为没有任何实际处罚，但特朗普称之为“道德约束”。

“这是为了营造政府正在倾听这些担忧的印象，同时又不削弱本届政府一条非常清晰和一贯的路线：监管和治理本质上阻碍创新，”无党派的美国外交关系委员会的Kat Duffy表示。

尽管如此，周二的协议包含了专家们一直呼吁的安全措施，例如要求公司建立强大的内部防御体系以防范黑客攻击，并与独立的外部评审机构合作。鉴于缺乏处罚机制，这些自愿承诺究竟能有多大实际分量——随着政策制定者权衡OpenAI与Anthropic的不同路线——仍是一个悬而未决的问题。