过去几年，企业AI的发展主要由实验探索所驱动。企业启动试点项目、测试新工具，并探索AI能在何处减少人工工作或改善客户与员工体验。这一阶段帮助组织了解了这项技术能做什么。

下一阶段将更加务实。企业领导者如今必须决定AI在现有运营中的定位、应如何治理，以及它是否正在产生可衡量的成果。监管层面的动向正在强化这一转变：例如2024年生效、并分阶段对高风险应用施加义务的欧盟《人工智能法案》，以及医疗领域的HIPAA、金融服务领域的《格雷姆-里奇-比利雷法》要求等长期存在的行业规则，都在促使组织记录AI系统的运作方式及其问责归属。受监管行业将在回答这些问题中发挥重要作用。

金融服务、医疗健康、保险及其他高度受监管的行业，其运营要求使得问责归属不容模糊。它们处理敏感数据、管理复杂的客户交互，并做出可能带来重大财务或个人影响的决定。这些条件使AI应用的要求更加苛刻，但也可能促成更完善的企业级AI部署实践。

约束条件催生更清晰的应用场景

企业AI最大的风险之一，是从技术出发而非从业务问题出发。企业看到一项新能力，便开始寻找可使用它的场景。这或许能带来有趣的演示，但不太可能产生持久的运营价值。

受监管的环境往往会促成更规范的方法。在部署之前，组织需要了解AI将执行什么任务、它可以访问哪些信息、何时需要人工审核，以及如何衡量成功。

金融服务中的客户互动便是一个例证。AI或许非常适合处理常规咨询、提供账户信息或帮助客户完成常见流程。但组织还需要为涉及争议、经济困难或其他敏感情形的情况设定清晰的边界。尽早界定这些边界，可以让重心保持在解决特定的运营挑战上，而不是为了采用技术而采用技术。

问责机制必须保持透明

随着AI越来越多地参与面向客户的流程，问责问题变得日益重要。客户绝不应陷入这样的境地：组织内部没有任何人能解释发生了什么、为何采取某一行动，或者问题该如何解决。

受监管行业本就在监督方面遵循严格的期望——例如银行业关于模型风险管理的指引，长期以来一直要求机构对决策系统进行验证和记录——这种思维方式在设计AI系统时同样适用。组织需要建立审查绩效、识别异常结果以及上报需人工介入情形的流程。员工也需要明白，自己的职责从何处开始，自动化系统的职责在何处结束。

人工参与应集中于判断力最能创造价值之处。AI可以处理重复性工作、呈现相关信息并提升一致性，而员工则可专注于复杂案例、敏感对话以及需要结合具体情境处理的情况。这种平衡在客户互动可能涉及财务压力、健康问题或其他超出标准回复范畴的情形的行业中尤为重要。

系统集成比演示更重要

一个AI系统可能在受控环境中表现良好，却难以在日常运营中创造价值。企业已拥有客户数据库、支付系统、合规流程和成熟的员工工作流，AI必须融入这一环境。

如果员工必须不断在不同系统之间切换、手动传递信息或核验每一项自动化操作，技术的价值便会迅速下降。组织需要想清楚信息从何而来、AI如何访问这些信息、一次交互之后会发生什么，以及活动如何被记录。员工应能查看已发生的操作，并在需要人工介入时延续流程。这些听起来像是运营细节，但它们往往决定着AI部署能否走出试点阶段。

信任源于一致性

客户未必总能察觉所接受的服务中是否有AI参与。他们会注意到的是：能否获得准确的答复、能否快速解决问题、是否得到始终如一的对待。这使得可靠性成为企业级应用的核心要素。

组织需要确信系统能在数千次交互中保持适当表现，包括那些不按预期路径发展的情况。它们还需要了解当信息不完整或客户提出标准流程之外的问题时，AI会如何表现。受监管行业本就在这些例外情形上投入大量精力，因为失误可能带来严重后果，而这种自律也能让其他行业受益。

AI系统应根据其可能遇到的各类情形进行评估，组织也需要清晰的流程来识别错误，并在表现超出预期范围时及时介入。信任是通过长期一致的体验逐步建立起来的。

业务成果应决定成败

随着企业AI日趋成熟，企业在衡量方面也需要更加严谨。技术表现固然重要，但企业领导者最终需要知道的是，AI是否改善了组织真正关心的成果。这可能意味着更快的解决时效、更少的员工重复性工作、更一致的客户服务或更好的信息获取。合适的衡量指标取决于具体应用场景。

在受监管行业中，这些收益还必须与客户影响、合规和运营风险一并考量。如果一项效率提升在组织其他环节制造了新问题，其价值便十分有限。随着应用的深入，仅仅拥有一个AI项目将不再重要。重要的是，技术能否改善工作的完成方式和客户的服务体验。

受监管行业可以树立标杆

企业AI最有价值的应用中，许多最终可能显得平淡无奇。一个流程变快了。员工在与客户沟通前掌握了更充分的信息。一个常规问题在正常营业时间之外得到了解答。一个复杂案例更快地到达了合适的人手中。这些改进在大型组织中可以迅速累积。

受监管行业在塑造下一阶段应用方面处于有利位置，因为它们必须同时考量绩效、监督、安全、集成和客户影响。从这些环境中形成的实践，其价值将远远超出金融服务或医疗健康领域，因为随着AI日益成为商业运营中更成熟的组成部分，各行业的公司都将面对许多相同的问题。

取得最大进步的组织，将是那些界定清晰问题、保持问责透明，并在AI能够改善成果之处加以运用、同时不忽视人工判断的组织。受监管行业已被迫回答这些问题，而它们的答案很可能将影响企业AI未来的发展方向。

关于 Overtime AI

Overtime 是一个由 Acclaim.ai 提供支持的AI原生、语音优先的应收账款平台，专为受监管的催收业务而构建。