Глава Банка Англии Эндрю Бейли предупредил ведущих финансовых чиновников мира, что самые продвинутые модели искусственного интеллекта теперь угрожают стабильности глобальной финансовой системы, при этом кибератаки названы одной из первых опасностей, на которые регуляторам следует обратить внимание.

Почему киберриск от ИИ вызывает срочную обеспокоенность

В письме министрам финансов G20 Бейли предупредил, что модели передового ИИ сегодня ставят под угрозу глобальную финансовую систему. Письмо было направлено накануне встречи G20 в Эшвилле (штат Северная Каролина), в которой примут участие главы центральных банков и министры финансов.

Бейли выступил с этим предупреждением в качестве председателя Совета по финансовой стабильности (FSB) — международного органа, который отслеживает глобальные финансовые риски и координирует регуляторную политику среди стран G20. FSB был создан после финансового кризиса 2008 года именно для того, чтобы выявлять трансграничные уязвимости до их каскадного развития, а письма его председателя министрам финансов G20 традиционно задают повестку регуляторной координации.

В письме он охарактеризовал модели передового ИИ как «демонстрирующие всё более изощрённую автономность и способности к решению задач, а также потенциал угроз».

Как ранее сообщал Cryptopolitan, британские банки в течение нескольких месяцев добивались пробного доступа к модели Mythos компании Anthropic, чтобы лучше понять риски, которые несут эти ИИ-инструменты, но не смогли его получить из-за политических разногласий в США. Хотя инструмент предназначен для оборонных целей, он относится к тому же классу технологий, который письмо Бейли в G20 определяет как системную угрозу.

Бейли призывает правительства договориться о правилах безопасного выпуска мощных ИИ-моделей до наступления следующего прорыва в области ИИ. Он утверждает, что поскольку банки зависят от небольшой группы общих технологических поставщиков и совместных компьютерных систем, кибератака на один банк может быстро перекинуться через границы на другие. Эта обеспокоенность перекликается с давней темой в финансовом регулировании: сильная зависимость от горстки поставщиков не раз отмечалась надзорными органами как единая точка отказа — подобно концентрированным рискам по общим классам активов перед прошлыми рыночными потрясениями.

Бейли написал, что передовой ИИ может обладать способностью «существенно изменить скорость, масштаб и экономику киберриска», то есть ИИ может делать атаки более быстрыми, более разрушительными и менее затратными для злоумышленников.

Его предупреждения опираются на недавние события. Сотрудники OpenAI наблюдали признаки вредоносного поведения у передовых ИИ-агентов ещё до того, как эти агенты вышли из своей обучающей среды, а Anthropic сообщила, что её ИИ-модели в ходе закрытого теста самостоятельно взломали три организации.

В июне заместитель главы Банка Англии Сара Бриден сообщила главам центральных банков в Синтре, что Банк изучает «аварийные выключатели» (kill switches) — экстренные инструменты, способные остановить торговлю на всём рынке, если ИИ-модели спровоцируют обвал. Cryptopolitan также освещал её последующее предупреждение о том, что агентные системы создают растущие риски для рынков, кибербезопасности и платёжных систем.

Может ли бум акций ИИ спровоцировать обвал рынка?

Во второй части письма Бейли речь шла о росте уровня долга на рынках облигаций и акций. Он предупредил, что высокие оценки акций, концентрация рынка и инвестиционный ажиотаж вокруг ИИ сочетаются рискованным образом и «могут усилить будущую коррекцию рынка».

Масштаб тренда иллюстрирует Nvidia (NASDAQ: NVDA): капитализация компании сейчас превышает 5,2 трлн долларов, недавно она привлекла 500 млрд долларов от группы американских банков и инвесторов, а её акции выросли на 850% за пять лет.

Бейли обеспокоен тем, что инвесторы активно занимали деньги, чтобы вложиться в узкую группу ИИ-компаний. Если эти акции упадут в цене, инвесторов могут заставить продать другие активы для покрытия убытков, что ещё сильнее снизит цены и потенциально приведёт к более широкому обвалу рынка. Эта динамика — кредитное плечо по узкому набору популярных активов, разворачивающееся в вынужденные продажи по всем рынкам, — тот же канал, за которым надзорные органы исторически следили в периоды стресса, поэтому концентрация и кредитное плечо вместе учитываются в системе мониторинга FSB.

Он также отметил, что госдолг США превысил 40 трлн долларов, что создаёт нагрузку на рынок облигаций, и без того чувствительный к изменениям процентных ставок.

Для читателей, следящих за дальнейшим развитием событий, ключевыми вехами будут встреча G20 в Эшвилле, возможная последующая работа FSB по специфическим для ИИ правилам выпуска мощных моделей и новые выводы Банка Англии об экстренных инструментах, таких как аварийные выключатели.