微软首席执行官萨蒂亚·纳德拉呼吁为先进人工智能系统配备相当于刹车踏板的功能。在2026年10月10日发布于X的帖子中，纳德拉提出了面向前沿人工智能系统——处于当前能力边界、最为先进的模型——的新“信任架构”，其核心是一个“紧急刹车”，允许获授权人员在人工智能模型执行任务期间暂停或关闭模型。

纳德拉提出了什么

紧急刹车是这一架构的核心功能。获授权用户可以在模型执行过程中将其停止，而不必等待模型完成已经开始的任务。

这一能力的重要性超出表面看起来的程度。较早的聊天机器人回答问题后就会停止。较新的“智能代理”系统能够自行连续采取一系列行动，因此在执行到一半时中断它们的能力，已成为真正的安全要求，而不只是便利功能。

这一提议更引人注目的地方，在于纳德拉希望企业如何看待这些模型。他认为，先进人工智能应被视为已经遭到入侵，并采用针对内部威胁的相同方法。这一表述呼应了“零信任”安全理念，即企业安全体系不应默认信任任何用户或系统。

另外两个组成部分完善了这一架构。第一是防篡改、便于人类阅读的日志，记录人工智能系统实际执行的操作，确保相关记录无法被悄然修改，也无需专业知识即可理解。第二是对人工智能部署进行独立审计，即由外部机构检查工作，而不是让企业自行评估自身表现。

越来越多的支持者

纳德拉并非单独行动。微软总裁布拉德·史密斯于2026年9月公开支持紧急刹车理念，时间大约比纳德拉发布帖子早一个月。这一呼吁也与其他知名科技人士发出的类似警告相一致，包括埃隆·马斯克和OpenAI首席执行官萨姆·奥尔特曼。

微软在这场讨论中的发声尤其具有分量。该公司通过与OpenAI的数十亿美元合作，以及在其产品线中推出的人工智能助手，成为前沿人工智能开发领域最大的投资者之一。

2026年，围绕人工智能安全的讨论明显升温，行业内呼吁制定标准化防护措施的声音越来越多。推动这一讨论发展的部分原因，是人工智能实验室陆续承认控制复杂人工智能系统面临挑战。

具体担忧集中在所谓的智能代理系统，以及一些人所称的“超级智能”上。行业高管越来越多地将其描述为失控风险：人们担心的并不是人工智能给出错误答案，而是它持续执行没有人要求它做的事情，并且没有人能够让它停下来。

这对人工智能行业意味着什么

对微软而言，这一提议具有双重作用。它在微软继续大规模开发和销售这类技术的同时，将公司定位为强大技术的负责任管理者。批评者可能会指出，一家深度参与人工智能竞赛的公司呼吁制定安全规则，同时也是一家有能力承担合规成本的公司。规模较小的竞争对手可能会发现，额外部署防篡改日志和独立审计的成本更高。

这一提议也没有解决一些悬而未决的问题。谁算是能够使用刹车的“获授权人员”？谁来开展独立审计，审计应遵循什么标准？随着讨论从公开表态走向实际应用，这些问题的答案，以及微软是否会将这一架构纳入自身的人工智能产品，将成为值得关注的具体指标。