过去几年,银行业关于人工智能的讨论一直集中在应用层面。金融机构如何利用AI更快地做出信贷决策、更有效地检测欺诈、改善客户服务或实现日常任务的自动化?

这些问题依然重要,但它们已不再是唯一重要的问题。

随着AI深入银行业务运营的各个环节,监管机构正在改变讨论的方向。焦点不再仅仅是金融机构是否在使用AI,而是它们是否了解AI的使用方式、由谁对其负责,以及决策如何随时间推移受到治理。

将AI治理视为合规事务的银行可能会落后于人。治理正日益成为基础,使金融机构能够负责任地采用AI、自信地扩展AI,并维持客户、监管机构和董事会的信任。

银行内部谁拥有AI的所有权?

金融机构应最先提出的问题之一并非关于技术,而是关于问责。

AI不再局限于单一部门。模型可能影响信贷决策、欺诈检测、客户沟通和运营流程,往往跨越多个业务单元和技术平台。

这就引出一个关键问题:谁对结果负责?

治理始于明确界定责任。业务负责人、风险管理者、合规团队和技术负责人都各有其角色,但所有权不能被割裂。金融机构应在AI项目的整个生命周期中建立清晰的决策权限、明确的监督责任和高管问责机制。

缺乏这些结构,即使是设计良好的AI解决方案也可能带来不必要的运营和监管风险。

你能解释AI如何得出决策吗?

AI的价值在于其快速分析海量信息的能力。但仅有速度是不够的。

无论是评估贷款申请还是识别可疑活动,银行都应准备好解释AI辅助决策是如何做出的,尤其是当这些决策影响客户时。

这正是可解释性变得至关重要的地方。

金融机构并不一定需要每名员工都理解模型背后的技术细节。然而,它们确实需要能够透明呈现所用数据、模型目的、性能监控方式以及何时需要人工审查的治理流程。

可解释性不仅仅是为了满足监管检查人员的需要。它有助于在整个组织内建立信心,并巩固客户的信任。

你知道AI已存在于何处吗?

许多金融机构从单个项目的角度思考AI。

而监管机构日益倾向于从企业级可见性的角度来审视它。

银行通常将内部开发的模型与嵌入信贷平台、欺诈系统和客户互动技术中的第三方解决方案相结合来部署AI。随着时间推移,AI可能以并不总是显眼的方式渗透到整个组织之中。

这使得维护AI用例清单变得愈发重要。

金融机构应了解AI在何处被使用、支持哪些业务职能、由谁负责监督以及性能如何监控。缺乏这种可见性,治理就会变得被动而非主动。

金融科技延伸阅读:全球金融科技访谈——InDebted英国区董事总经理Rob Young

当供应商使用AI时会发生什么?

另一个常见的误解是,从值得信赖的供应商处购买AI即可转移治理责任。

事实并非如此。

无论AI是内部开发还是通过第三方平台交付,金融机构仍有责任了解这些系统如何影响决策,并确保适当的监督。

随着银行继续与金融科技公司合作,供应商管理应超越传统的尽职调查,纳入AI治理方面的考量。这包括了解模型如何训练、如何监控、依赖哪些数据,以及结果如何随时间推移得到验证。

第三方AI应与内部开发的系统遵循相同的治理标准。

人类能否否决机器?

尽管自动化进展迅速,AI应当增强而非取代人类的判断。

总会有这样的情况:经验丰富的员工需要审查AI生成的建议、结合具体情境加以判断,或在结果与机构政策或客户期望不符时进行干预。

界定何时需要人工监督,正成为负责任AI治理的重要组成部分。

金融机构不应将人的参与视为局限,而应将其视为优势。将AI与经验丰富的决策者相结合,既能提高效率,又能保持问责机制和客户信任。

治理是AI得以扩展的关键

从AI中获得最大价值的银行,未必是部署模型数量最多的银行,而是那些在创新的同时建立治理的银行。

当问责机制被清晰界定、AI用例得到记录、监督责任被明确分配、监控流程嵌入日常运营时,组织就能更有信心地采用新技术。

银行业关于AI的讨论已经成熟。应用不再是昔日的差异化因素。

问题日益不再在于银行是否在使用AI,而在于它们能否证明AI正以负责任、透明且有适当治理的方式部署。能够对此回答“是”的金融机构,不仅将更好地应对不断变化的监管期望——还将更有能力构建面向未来的可持续AI项目。

关于ARGO

ARGO成立于1980年,是关键任务和分析软件领域的领导者。其金融服务解决方案包括支付交易处理、销售、服务和关系管理,以及零售和商业信贷。其欺诈解决方案通过主动的正向支付功能、BSA/AML监控以及交易/图像分析,在提交时点跨多个渠道检测和预防欺诈。其医疗保健解决方案涵盖通过生物识别验证进行患者匹配、重复记录的检测与预防、护理协调、转诊和风险缓解,以及患者融资与医疗机构现金流。

更多金融科技洞察:欺诈领域的AI转变:银行为何需要新的行动指南

如需与我们分享您的见解,请致信 psen@itechseries.com

本文《每家银行都应准备好回答的五个AI治理问题》首发于GlobalFinTechSeries。