НовостиМакроБанки блокируют ИИ-агентов из-за опасений по безопасности... и конкуренции

Банки блокируют ИИ-агентов из-за опасений по безопасности... и конкуренции

Автор: Cointelegraph·

Ключевые выводы

  • •HSBC, Barclays, Lloyds, NatWest и Nationwide заблокировали или ограничили доступ сторонних ИИ-агентов к клиентским счетам, ссылаясь на страх перед неуправляемыми агентами и неясную ответственность, а не на известные инциденты взлома.
  • •Эти ограничения отличаются от режима открытого банкинга, действующего с 2018 года, который предписывает передачу данных по инициативе клиента аккредитованным третьим сторонам, а не автономные операции агентов.
  • •Опрос Банка Англии и FCA показал, что хотя 80% ответивших компаний внедрили ИИ-агентов, лишь 2% использовали агентов с широкой автономией, называя безопасность данных, зависимость от третьих сторон и риски галлюцинаций.
  • •Управление валютного контролера США 4 ноября выпустило надзорную рамку, охватывающую использование банками агентских ИИ-систем, оценивая риск по уровню автономии и человеческого надзора без введения новых обязательных требований.
  • •Главный экономист Apollo Торстен Слок предупредил, что массовый перевод агентами средств домохозяйств в альтернативы с более высокой доходностью может лишить банки дешевого фондирования и создать проблему для всей финансовой системы.
Банки блокируют ИИ-агентов из-за опасений по безопасности... и конкуренции

Банки Великобритании определили границу того, насколько искусственный интеллект должен иметь доступ к деньгам их клиентов. HSBC, Barclays, Lloyds, NatWest и Nationwide заблокировали или ограничили доступ сторонних ИИ-агентов — программ, способных действовать с минимальным человеческим контролем — к клиентским счетам, особенно там, где такие системы могут совершать операции без участия клиента.

Признаков того, что ИИ-агенты действительно получили доступ к банковским счетам в Великобритании, пока нет, но крупные кредитные организации опасаются, что произойдет, если автоматическая система будет ненадлежащим образом распоряжаться деньгами клиентов, — и того, кто в итоге будет нести ответственность. Об ограничениях сообщила The Telegraph, они отражают страх перед неуправляемыми агентами.

Эти ограничения отличаются от режима открытого банкинга, действующего с 2018 года, по которому крупнейшие банки страны обязаны позволять клиентам передавать данные о счетах аккредитованным третьим сторонам — рамка, построенная вокруг доступа и платежей по инициативе клиента, а не операций, которые агент решает совершить самостоятельно.

У банков могут быть и другие, невысказанные опасения — а именно то, что агентские финансы могут сделать с их бизнес-моделями.

Эдгарс Немше, генеральный директор GenLayer Foundation, блокчейн-инфраструктурного проекта, ориентированного на ИИ, говорит, что рутинные банковские задачи, такие как оплата счетов, перевод денег и поиск более выгодных ставок, могут быть переданы агентам. Неудобное следствие для банков состоит в том, что агенты смогут мгновенно находить для клиентов более выгодные предложения, как только те появляются в сети.

«Для простых счетов это устраняет издержки смены банка и делает рынок еще более конкурентным», — рассказал Немше Magazine.

Риск агентских набегов на банки

Этот сценарий может угрожать не только лояльности клиентов. В сентябре Торстен Слок, главный экономист Apollo, предупредил о возможном «агентском набеге на банки».

Если полчища агентов начнут массово переводить средства домохозяйств с низкодоходных расчетных счетов на альтернативы с более высокой доходностью, банки лишатся дешевого фондирования, на которое они опираются при выдаче кредитов, — а скорость и масштаб такого сдвига «стали бы проблемой для всей финансовой системы».

Глава JPMorgan Chase Джейми Даймон также предупреждал о недопустимости неограниченного доступа внешних агентов к банковским счетам. «Вам не нужны буйные агенты», — сказал он в ходе октябрьской телефонной конференции по итогам квартала.

Несмотря на краткосрочные попытки сдержать волну, ИИ-агенты выглядят все более способными революционизировать банкинг в ближайшие годы. Нирадж Макин, глава аналитики стратегии в Emirates NBD, прогнозирует, что агенты откроют новую эру, в которой круглосуточный банкинг и почти мгновенные платежи станут нормой к 2036 году.

«Забудьте об ожидании платежа в течение 24 часов или межстрановых переводах, занимающих три дня… все это будет происходить за секунды, атомарно», — говорит он, добавляя, что ИИ-агенты возьмут на себя большинство финансовых решений.

Банки рискуют потерять повседневный клиентский интерфейс

Фердинанд Дабиц, генеральный директор Augustus, компании в области банкинга и платежей, построенной на ИИ, видит аналогичный сдвиг во взаимодействии клиентов с финансовыми учреждениями. «У каждого потребителя будут десятки, а у каждого бизнеса — сотни агентов, взаимодействующих с их банком», — говорит Дабиц.

Человеческий интерфейс, по его словам, останется важным — для управления этими агентами и обеспечения уровня доверия, «особенно в коммерческом банкинге».

Команда developer experience Emirates NBD в июле утверждала, что финансовым учреждениям следует строить собственные рамки для агентского ИИ, а не позволять отдельным командам разрабатывать агентов без общих механизмов контроля. Их рамка Leap призвана регулировать, как агенты проходят аутентификацию в ключевых банковских системах, получают доступ к конфиденциальным данным и выполняют действия, со встроенными журналами аудита, мониторингом и человеческим надзором.

Тем не менее сохраняются серьезные опасения по поводу надежности агентов при самостоятельном принятии важных финансовых решений. Согласно недавнему опросу Банка Англии и Управления по финансовому регулированию и надзору (FCA), хотя 80% ответивших компаний внедрили ИИ-агентов, лишь 2% использовали агентов с широкой автономией, называя среди главных опасений безопасность данных, зависимость от третьих сторон и риски вроде галлюцинаций.

От оплаты счетов к принятию финансовых решений

Этот сдвиг вряд ли произойдет в одночасье — «он будет происходить шагами», говорит Немше. «Сегодня я использую агента для ежемесячной проверки финансов своей компании и своих собственных, он формирует очередь платежей, а я их одобряю. Следующий шаг естественен: когда вы ему доверитесь, вы разрешаете ему тратить небольшие суммы, не спрашивая».

Первыми автономными задачами, по его словам, станут регулярные счета, подписки и собственные расходы агента.

Дабиц говорит, что корпоративное казначейское управление могло бы стать областью, делегированной агентам, хотя банки должны участвовать в разработке этих ранних приложений.

Кто платит, когда агент ошибается?

Пока потребители могут наслаждаться преимуществами автоматизации своих финансов, открытым остается вопрос: кто несет ответственность, когда агент ошибается?

Немше говорит, что банкам нужно предлагать «делегированный доступ как стандартную функцию», чтобы клиенты не делились логинами с агентами. Клиенты смогут устанавливать разрешения и лимиты расходов, а агенты смогут самостоятельно совершать операции на небольшие суммы, требуя одобрения для крупных.

Однако существующие процессы разбора споров могут не справиться, если агенты начнут совершать тысячи операций от имени каждого клиента. «Даже небольшой процент ошибок — это много споров», — говорит Немше. «Процессы их обработки строились для людей, совершающих несколько платежей в неделю. Эту часть еще предстоит построить».

Регуляторы приступают к определению правил

В США Управление валютного контролера (OCC) — регулятор, выдающий лицензии и осуществляющий надзор за национальными банками США, — 4 ноября выпустило надзорную рамку, охватывающую использование банками того, что она называет «суперинтеллектом», включая агентские системы.

Рамка призвана помочь банковским инспекторам оценивать, как учреждения используют эту технологию, и не вводит новых обязательных требований для банков. Уровень контроля должен отражать потенциальные последствия действий агента, его степень автономии и меру человеческого надзора.

ИИ-система, помогающая банковскому сотруднику составить отчет, например, представляет иной риск, чем система, уполномоченная переводить средства клиентов без одобрения, — и банки, которые правильно найдут этот баланс, скорее всего, окажутся в выигрыше.

В Великобритании, напротив, ограничения остаются самодобровольными: Банк Англии и FCA до сих пор оценивали внедрение ИИ посредством опросов, а не устанавливали правила агентского доступа, и остается неясным, последуют ли британские власти примеру OCC с собственным формальным руководством.