Искусственный интеллект всё глубже внедряется в операционную деятельность по управлению активами, однако новое исследование Clearwater Analytics (NYSE: CWAN) показывает, что компании по всему сектору серьёзно обеспокоены рисками, которые несёт эта технология, — от управления данными до регуляторного соответствия и операционной целостности. Результаты появляются в тот момент, когда инструменты генеративного ИИ переходят от пилотных экспериментов к промышленному развёртыванию в финансовых услугах, усиливая давление на компании в необходимости преобразовать энтузиазм в контролируемые, аудитируемые рабочие процессы.

Исследование Clearwater «Gen AI and Data Divide» охватило управляющих страховыми активами, хедж-фонды, специалистов по частным рынкам и общих управляющих активами. Результаты показывают, что хотя ИИ открывает очевидные возможности для повышения эффективности и генерации альфы, он также создаёт новые уязвимости, которые компаниям необходимо активно контролировать, — особенно на фоне того, как регуляторы по всему миру всё пристальнее следят за тем, как финансовые институты используют автоматизированные системы.

Разрыв между внедрением и готовностью

Наиболее показательный вывод касается разрыва между внедрением ИИ и организационной готовностью. Почти две трети (62%) управляющих активами обеспокоены нехваткой навыков и опыта, необходимых для эффективного использования ИИ, при этом 43% характеризуют свою обеспокоенность как очень сильную.

Более половины (52%) отдельно отмечают опасения, что внутренняя корпоративная культура и сопротивление изменениям замедлят внедрение и готовность. Результаты свидетельствуют о том, что для многих компаний главным препятствием на пути реализации потенциала ИИ является не сама технология, а организационная культура, окружающая её.

Доверие, управление и надёжность

В основе опасений компаний в отношении ИИ лежит фундаментальный вопрос доверия — могут ли они полагаться на то, что производит технология. Две трети (67%) управляющих активами обеспокоены рисками, связанными с управлением данными, их надёжностью и целостностью, а 64% — операционными рисками.

С учётом растущего числа управляющих активами, использующих ИИ для поддержки инвестиционных решений, 64% участников исследования говорят, что их беспокоит прозрачность и объяснимость моделей и алгоритмов, а также проблема предвзятости. Кроме того, 62% обеспокоены галлюцинациями — случаями, когда ИИ генерирует правдоподобную, но ложную информацию и выдаёт её за факт. Эти опасения особенно остры в отрасли, связанной фидуциарными обязательствами, где ненадёжные результаты могут повлиять на интересы клиентов и вызвать необходимость раскрытия информации.

Регуляторные, финансовые и затратные проблемы

Более половины (55%) глобальных управляющих активами заявляют о своей обеспокоенности регуляторными рисками, связанными с ИИ, при этом 30% характеризуют себя как очень обеспокоенных. Сопоставимая доля (58%) тревожится о финансовых рисках, проистекающих из использования ИИ, включая управление кредитными, рыночными рисками и рисками мошенничества. Затраты на внедрение также являются серьёзным поводом для беспокойства — на них указали 64% респондентов.

Регуляторная тревога отражает меняющийся ландшафт комплаенса. Комиссия по ценным бумагам и биржам США (SEC) предложила правила, регулирующие конфликты интересов, связанные с предиктивной аналитикой данных и взаимодействием на базе ИИ. В Европе Закон об ИИ (EU AI Act) — предварительно согласованный в конце 2023 года и официально принятый в 2024 году — относит определённые приложения ИИ в сфере финансовых услуг к категории высокого риска, предъявляя требования к документации, прозрачности и человеческому контролю.

Пробелы в готовности сохраняются

Хотя многие управляющие активами сообщают о готовности к управлению рисками, связанными с ИИ, значительная доля признаёт, что им ещё предстоит поработать. В частности, 16% опрошенных управляющих активами заявляют, что не готовы к операционным рискам на базе ИИ, а 15% — что не готовы к рискам, возникающим из-за нехватки навыков и опыта работы с ИИ в их организациях.

Источник: Clearwater Analytics