В последние несколько лет обсуждение искусственного интеллекта в банковской сфере было сосредоточено на внедрении. Как финансовым организациям использовать ИИ, чтобы быстрее принимать кредитные решения, эффективнее выявлять мошенничество, улучшать обслуживание клиентов или автоматизировать рутинные задачи?

Эти вопросы по-прежнему важны, но они уже не единственные, которые имеют значение.

По мере того как ИИ все глубже внедряется в банковские операции, регуляторы меняют саму постановку вопроса. Теперь речь идет не просто о том, используют ли финансовые организации ИИ, а о том, понимают ли они, как именно он используется, кто за него отвечает и как в течение времени управляются принимаемые с его помощью решения.

Банки, рассматривающие управление ИИ как формальность в рамках комплаенса, рискуют отстать. Все чаще управление становится основой, которая позволяет финансовым организациям внедрять ИИ ответственно, масштабировать его с уверенностью и сохранять доверие клиентов, регуляторов и советов директоров.

Кто отвечает за ИИ внутри банка?

Один из первых вопросов, который должны задавать финансовые организации, связан не с технологиями, а с ответственностью.

ИИ больше не ограничивается одним подразделением. Модели могут влиять на кредитные решения, выявление мошенничества, коммуникации с клиентами и операционные процессы, часто затрагивая несколько бизнес-единиц и технологических платформ.

Это поднимает важный вопрос: кто отвечает за результат?

Управление начинается с четкого определения ответственности. Руководители бизнеса, специалисты по рискам, команды комплаенса и технологические лидеры — все они должны играть свою роль, но ответственность не может быть размытой. Финансовым организациям следует установить четкие полномочия по принятию решений, определить обязанности по надзору и закрепить исполнительную ответственность за инициативы в области ИИ на протяжении всего их жизненного цикла.

Без таких механизмов даже хорошо спроектированные решения на базе ИИ могут создавать ненужные операционные и регуляторные риски.

Можете ли вы объяснить, как ИИ пришел к решению?

Ценность ИИ заключается в его способности быстро анализировать большие объемы информации. Но одной скорости недостаточно.

Будь то оценка кредитной заявки или выявление подозрительной активности, банки должны быть готовы объяснить, как принимаются решения с участием ИИ, особенно когда эти решения затрагивают клиентов.

Именно здесь ключевое значение приобретает объяснимость.

Финансовым организациям не обязательно, чтобы каждый сотрудник понимал технические детали модели. Однако им необходимы процессы управления, обеспечивающие прозрачность в отношении используемых данных, цели модели, того, как отслеживается ее эффективность, и когда требуется человеческая проверка.

Объяснимость — это не просто способ удовлетворить проверяющих. Она помогает укреплять доверие внутри организации и усиливает доверие со стороны клиентов.

Знаете ли вы, где ИИ уже используется?

Многие финансовые организации рассматривают ИИ как набор отдельных проектов.

Все чаще регуляторы будут смотреть на него с точки зрения видимости на уровне всей организации.

Банки нередко внедряют ИИ через сочетание собственных моделей и сторонних решений, встроенных в кредитные платформы, системы противодействия мошенничеству и технологии взаимодействия с клиентами. Со временем ИИ может оказаться встроенным в работу всей организации так, что это не всегда очевидно.

Поэтому ведение реестра сценариев использования ИИ становится все более важным.

Финансовые организации должны понимать, где используется ИИ, какие бизнес-функции он поддерживает, кто отвечает за надзор и как отслеживается его эффективность. Без такой прозрачности управление становится реактивным, а не проактивным.

Подробнее о Fintech: Global Fintech Interview with Rob Young, Managing Director – UK at InDebted

Что происходит, когда поставщик использует ИИ?

Еще одно распространенное заблуждение заключается в том, что покупка ИИ у надежного поставщика снимает с банка ответственность за управление.

Это не так.

Независимо от того, разработан ли ИИ внутри компании или предоставляется через стороннюю платформу, финансовая организация по-прежнему отвечает за понимание того, как эти системы влияют на решения, и за обеспечение надлежащего надзора.

Поскольку банки продолжают сотрудничать с финтех-провайдерами, управление поставщиками должно выходить за рамки традиционной проверки и включать вопросы управления ИИ. Это означает понимание того, как обучаются модели, как они отслеживаются, на какие данные опираются и как можно подтверждать результаты с течением времени.

К стороннему ИИ следует применять те же стандарты управления, что и к системам, разработанным внутри компании.

Может ли человек отменить решение машины?

Несмотря на быстрый прогресс автоматизации, ИИ должен усиливать, а не заменять человеческое суждение.

Всегда будут ситуации, когда опытным сотрудникам необходимо проверять рекомендации, созданные ИИ, учитывать контекст или вмешиваться, если результат не соответствует политике организации или ожиданиям клиента.

Определение случаев, когда требуется человеческий контроль, становится важной частью ответственного управления ИИ.

Вместо того чтобы рассматривать участие человека как ограничение, финансовым организациям следует воспринимать его как сильную сторону. Сочетание ИИ с опытными лицами, принимающими решения, создает возможности для повышения эффективности при сохранении ответственности и доверия клиентов.

Управление — это то, что делает ИИ масштабируемым

Наибольшую ценность от ИИ получат не обязательно те банки, которые внедряют наибольшее число моделей, а те, которые выстраивают управление параллельно с инновациями.

Когда ответственность четко определена, сценарии использования ИИ задокументированы, обязанности по надзору распределены, а процессы мониторинга встроены в повседневные операции, организации лучше подготовлены к внедрению новых технологий с уверенностью.

Обсуждение ИИ в банковской сфере стало более зрелым. Внедрение уже не является тем отличительным преимуществом, каким оно было раньше.

Все чаще вопрос заключается не в том, используют ли банки ИИ. Вопрос в том, могут ли они показать, что ИИ применяется ответственно, прозрачно и при наличии надлежащего управления. Финансовые организации, которые могут ответить «да», будут не только лучше подготовлены к меняющимся регуляторным ожиданиям — они также будут в более сильной позиции для построения устойчивых программ ИИ в будущем.

О ARGO

Основанная в 1980 году, ARGO является лидером в области критически важного и аналитического программного обеспечения. Решения для финансовых услуг включают обработку платежных транзакций, продажи, обслуживание и управление отношениями, а также розничное и коммерческое кредитование. Решения для борьбы с мошенничеством выявляют и предотвращают мошенничество по нескольким каналам в момент предъявления с помощью функций proactive positive pay, мониторинга BSA/AML и анализа транзакций/изображений. Решения для здравоохранения охватывают сопоставление пациентов с биометрической верификацией, обнаружение и предотвращение дублирующихся записей, координацию ухода, направления и снижение рисков, а также финансирование пациентов и денежные потоки поставщиков.

Больше материалов Fintech Insights: The AI Shift in Fraud: Why Banks Need a New Playbook

Чтобы поделиться с нами своими идеями, пожалуйста, напишите на psen@itechseries.com

Публикация Five AI Governance Questions Every Bank Should Be Ready to Answer впервые появилась на GlobalFinTechSeries.