Управление валютного контролера США (OCC), орган, осуществляющий надзор за национальными банками, выпустило первую надзорную рамочную программу по искусственному интеллекту в банковской сфере, предписав экзаменаторам обращать меньше внимания на то, насколько мощной является система ИИ, и больше — на то, что происходит, когда она ошибается.

Рамочная программа объемом 22 страницы, выпущенная как бюллетень OCC 2026-54 и сопровождаемая пресс-релизом, в разделе, посвященном операционной устойчивости, предупреждает, что внешние агенты, управляемые клиентами, финтех-компаниями или другими организациями, могут создавать риски для банков даже тогда, когда банки не контролируют эти системы. Регулятор не связал выпуск программы с конкретными инцидентами, однако он вышел на фоне обострившейся в отрасли обеспокоенности по поводу несанкционированных ИИ-агентов, действующих внутри клиентских счетов.

Последствия важнее сложности

В основе документа лежит различие между технической сложностью системы ИИ и ущербом, который она может причинить. Простой агент, уполномоченный инициировать финансовые транзакции, может представлять больший риск, чем более продвинутая модель, ограниченная написанием внутренних документов, заявил регулятор. Это различие отражает то, чем агентное программное обеспечение отличается от обычных инструментов: агенты не просто создают текст, а совершают действия в подключенных системах, поэтому потенциальный ущерб от сбоя растет вместе с объемом их полномочий.

В рамках программы экзаменаторы могут учитывать последствия сбоя, возможность отмены действия и то, насколько большой контроль сохраняют люди над системой. Ведомство описывает четыре иллюстративных уровня риска: полностью автономные платежные агенты и системы кредитных решений в реальном времени относятся к категории наивысшего риска, тогда как базовые внутренние инструменты повышения продуктивности — к категории самого низкого риска.

Системы более высокого риска могут потребовать более строгих ограничений на автономность, независимого тестирования и человеческого одобрения перед совершением значимых действий.

Программа также затрагивает системы ИИ, которые продолжают работать, принимая вредоносные решения. В числе предложенных мер защиты — автоматические предохранители, лимиты частоты запросов, ограниченные разрешения и средства экстренного отключения.

В центре внимания — сторонние ИИ-агенты

Руководство предлагает экзаменаторам рассматривать такие меры, как проверка подлинности, делегированные разрешения, лимиты транзакций, мониторинг и возможность приостановки или отзыва доступа. Оно направлено на решение дилеммы, с которой банки уже сталкиваются: как позволить клиентам использовать ИИ-ассистентов для управления своими финансами, не предоставляя автономному программному обеспечению неограниченный доступ к счетам.

Программа вышла менее чем через две недели после сообщений о том, что крупные банки обнаруживали несанкционированные сторонние ИИ-агенты, действующие внутри клиентских счетов, порой совершавших действия, выходившие, как казалось, за рамки инструкций пользователей. Согласно сообщению Axios от 22 октября, Morgan Stanley блокировала внешних агентов, а JPMorgan, Bank of America и Citi ограничивали доступ. Руководители банков описали ситуацию как «пугающую», поставив вопрос о том, кто контролирует автономного агента после того, как он получил доступ к деньгам человека.

Эти соображения особенно актуальны для внешних агентов, о которых сообщалось ранее в материалах Axios, когда банкам было трудно отличить легитимное программное обеспечение, санкционированное клиентом, от систем, действующих за пределами предусмотренных полномочий.

Руководство, а не новые банковские правила

OCC подчеркнул, что программа носит необязывающий характер и не создает новых нормативных требований или подлежащих принудительному исполнению стандартов для банков. Вместо этого она дает экзаменаторам способ оценивать ИИ в рамках существующих категорий операционного, комплаенс-рисков и рисков кибербезопасности, и банки не обязаны создавать отдельную категорию рисков ИИ. Программа содержит примеры мер защиты, охватывающих автономные платежи, доступ третьих сторон и человеческий надзор. Отсутствие обязательной силы не означает отсутствия значения: экзаменаторы OCC оценивают банки по подобным документам в ходе планового надзора, поэтому предложенные меры защиты могут иметь практический вес без формальных правил.

Программа охватывает ИИ, используемый в платежах, выявлении мошенничества, обслуживании клиентов и других банковских операциях, а также распространяет свои соображения о рисках на внешних ИИ-агентов, подключающихся через банковские каналы.

Примечательно, что в документе используется обязательный термин "Super Intelligence" — формулировка, которую администрация Дональда Трампа настаивает на использовании вместо «искусственного интеллекта» в соответствии с сентябрьским президентским актом Белого дома, — однако его область действия охватывает обычный ИИ и «автономных агентов», а не только гипотетические системы с интеллектом, превосходящим человеческий.

OCC заявил, что намерен обновлять руководство по мере развития технологий. Пока что его иллюстративная шкала риска относит автономных платежных агентов к категории наивысшего риска независимо от того, насколько хорошо они показывают себя в тестировании. Как экзаменаторы будут применять эти уровни на практике — в частности, к сторонним агентам, которые банки обнаруживают на клиентских счетах, — вот деталь, за которой стоит следить по мере развития руководства.

Этот материал был первоначально опубликован изданием Decrypt.