有效使用 AI 已成为一种决定性的竞争优势，组织正将工具和代理部署到几乎所有业务职能中。然而，快速创新也带来了相应的问责挑战。当前的 AI 已远不止简单的聊天机器人——如今的代理会查询数据库、调用外部工具并移动敏感数据，而往往缺乏对其访问权限以及风险状况如何随时间变化的充分监督。

这些盲点再叠加普遍存在的 AI 技能短缺和滞后的治理框架，意味着 AI 采用如今已明显快于监督。根据 ISC2 多次劳动力调查，全球网络安全人才缺口已达数百万之多，这也意味着即便是安全体系较为成熟的组织，往往也缺乏专门的 AI 风险专业能力。随着代理变得更强大、更自主，风险只会进一步加剧。不过，组织不必在敏捷与控制之间二选一。关键在于转变思维：认识到治理是创新的基础，而不是障碍。

问题在于治理，而不是 AI

AI 系统的可靠性取决于其周围的治理，而当前的治理框架正未能达标。这是因为传统 IT 基础设施从未为 AI 所要求的速度或规模而设计。组织过去长期依赖传统的时间点式治理和年度审查，但这些方式根本无法跟上 AI 带来的持续变化。简而言之，在 AI 时代，昨天成立的事情明天未必仍然成立，风险同样如此。

诸如 EU AI Act 等主要法规正开始迎头赶上，它们将 AI 系统划分为从最低到不可接受的不同风险等级。与此同时，监管机构也已在风险相称治理这一原则上形成共识。

但组织需要超越“打勾式”合规。他们应当在不受具体立法限制的情况下，将同样的逻辑应用于自身的 AI 现状，并找出真正保护客户与资产的方法。

可见性是 AI 治理的基础

新兴治理挑战中最大的一个，是组织往往并不清楚其业务中 AI 运行的完整范围。这些未受管理、未获批准的 AI 工具在公司环境中运行，却没有任何监督——我们称之为影子 AI。

归根结底，看不见就无法治理，而组织甚至连识别自身的可见性缺口都很困难，更不用说弥补这些缺口了。如今 AI 已被企业广泛采用，几乎遍布所有获批的企业平台、员工设备和浏览器。并且，自主代理也越来越多地嵌入日常工作流程。这意味着你不能将这项技术孤立地治理。你需要了解 AI 工具可以访问哪些数据、背后的供应商是谁，以及更广泛的业务背景，而不仅仅是模型本身。

那么解决方案是什么？答案从分诊开始。仅有可见性还不够。资产清单只是起点，组织需要将所有 AI 工具都视为风险热点，评估每个 AI 系统的影响并确定其关键性。例如，一个可访问数据库的面向客户代理，与一个内部摘要工具，不应适用相同的控制措施。

以与采用速度相匹配的方式治理 AI

但应从何处着手？在治理自身 AI 工具方面遇到困难的组织，应遵循七个关键步骤：

评估每个 AI 系统的影响并分配风险等级：关键、高、中或低。此评估应基于其接触数据的敏感程度、自主程度，以及其影响对象——无论是客户还是员工。

根据该关键性分层设置控制措施——高风险代理需要人类在环审批、严格限定的权限，以及在出现问题时明确的升级路径；低风险工具则只需要较轻量的防护措施。

围绕 AI 代理被允许执行的事项设置清晰的边界，强制执行这些边界，并在高风险行为演变为事件之前将其拦截。

将第三方风险管理扩展到 AI。了解哪些供应商在其产品中嵌入了代理、这些代理可以访问哪些数据，并建立合同保护，例如训练限制、事件通知或审计权。

持续监控 AI 环境如何演变，而不是依赖周期性审查。当系统发生变化时，要重新评估其关键性——在上线时分配的评级，一旦代理的范围、模型或数据访问发生变化，就会迅速过时。

指定一个负责人以明确问责。这意味着你可以充满信心地采用 AI，而无需不必要的摩擦。在许多组织中，AI 风险落在安全、法务和数据团队之间的灰色地带。

建立持续性的证据，证明 AI 正按预期为客户、监管机构和利益相关方运行。

遵循这些步骤后，治理可以成为支持组织自信采用 AI 的信任层，而不是不必要摩擦的来源。

以采用速度治理 AI

治理应当旨在促进创新，而不是阻碍创新。治理或许会在短期内放慢组织步伐，但一旦打好正确基础，就能够更快前进。遵循这一流程的组织将从 AI 中获得最大的收益。

最具创新力的组织会从第一天起就将治理嵌入 AI，为负责任创新提供可见性、上下文和信心。如果治理只存在于政策文件中，同样不会成功。员工需要 AI 素养培训、清晰的可接受使用指南，以及披露他们已经在使用工具的安全渠道——惩罚性做法只会把 AI 使用推入地下，破坏治理所依赖的可见性。组织应当能够安全地全面拥抱 AI，通过与采用速度相匹配的治理来实现这一点。