В течение последних нескольких лет корпоративный ИИ развивался главным образом в режиме экспериментов. Компании запускали пилотные проекты, тестировали новые инструменты и изучали, где ИИ может сократить ручной труд или улучшить качество обслуживания клиентов и сотрудников. Этот период помог организациям понять, на что способна технология.

Следующий этап будет более практичным. Руководителям бизнеса теперь предстоит решить, где ИИ занимает место в существующих операциях, как он должен управляться и приносит ли он измеримые результаты. Нормативная активность усиливает этот сдвиг: такие рамки, как Закон ЕС об ИИ, вступивший в силу в 2024 году и поэтапно вводящий обязательства для приложений повышенного риска, наряду с давно действующими отраслевыми правилами, такими как HIPAA в здравоохранении и требования Закона Грамма–Лича–Блайли в финансовых услугах, побуждают организации документировать, как работают ИИ-системы и кто несет за них ответственность. Регулируемые отрасли сыграют важную роль в ответах на эти вопросы.

Финансовые услуги, здравоохранение, страхование и другие высокорегулируемые секторы работают в условиях требований, не оставляющих места нечеткой подотчетности. Они обрабатывают конфиденциальные данные, управляют сложными взаимодействиями с клиентами и принимают решения, которые могут иметь существенные финансовые или личные последствия. Эти условия делают внедрение более трудоемким, но они же могут сформировать более сильные практики развертывания ИИ на уровне всего предприятия.

Ограничения порождают более четкие сценарии использования

Один из крупнейших рисков в корпоративном ИИ — начинать с технологии, а не с бизнес-проблемы. Компания видит новую возможность и начинает искать, где ее применить. Это может привести к эффектным демонстрациям, но вряд ли обеспечит долгосрочную операционную ценность.

Регулируемые среды, как правило, вынуждают действовать более дисциплинированно. Перед развертыванием организации должны понимать, какую задачу будет выполнять ИИ, к какой информации он получит доступ, когда требуется проверка человеком и как будет измеряться успех.

Это иллюстрирует пример клиентского обслуживания в финансовых услугах. ИИ может хорошо подходить для рутинных вопросов, предоставления информации о счете или помощи клиентам в типовых процессах. Но организациям также нужны четкие границы для ситуаций, связанных со спорами, финансовыми трудностями или иными чувствительными обстоятельствами. Раннее определение таких границ позволяет сосредоточиться на решении конкретной операционной задачи, а не на внедрении технологии ради нее самой.

Подотчетность должна оставаться заметной

По мере того как ИИ все глубже включается в процессы взаимодействия с клиентами, подотчетность становится все более важной. Клиенты не должны оказаться в ситуации, когда никто внутри организации не может объяснить, что произошло, почему было предпринято то или иное действие и как можно решить проблему.

Регулируемые отрасли уже работают в условиях жестких ожиданий в части надзора — например, руководства по управлению модельным риском в банковской сфере давно требуют от учреждений валидации и документирования систем принятия решений — и такой образ мышления полезен при проектировании ИИ-систем. Организациям нужны процессы проверки эффективности, выявления нестандартных результатов и эскалации ситуаций, требующих участия человека. Сотрудникам также необходимо понимать, где начинаются их обязанности и где заканчивается роль автоматизированной системы.

Участие человека следует концентрировать там, где его judgment приносит наибольшую ценность. ИИ может выполнять повторяющуюся работу, находить релевантную информацию и повышать согласованность, тогда как сотрудники сосредотачиваются на сложных случаях, чувствительных разговорах и ситуациях, где важен контекст. Такой баланс особенно важен в секторах, где взаимодействие с клиентами может включать финансовый стресс, проблемы со здоровьем или иные обстоятельства, требующие большего, чем стандартный ответ.

Интеграция важнее демонстрации

ИИ-система может отлично работать в контролируемой среде и при этом с трудом создавать ценность в повседневных операциях. У предприятий уже есть клиентские базы данных, платежные системы, процессы комплаенса и устоявшиеся рабочие процессы сотрудников, и ИИ должен встроиться в эту среду.

Если сотрудникам приходится постоянно переключаться между системами, вручную переносить информацию или проверять каждое автоматизированное действие, ценность технологии быстро падает. Организациям нужно продумать, откуда поступает информация, как ИИ получает к ней доступ, что происходит после взаимодействия и как фиксируется активность. Сотрудники должны видеть, что произошло, и продолжать процесс, когда необходимо вмешательство человека. Это может звучать как операционные детали, но именно они часто определяют, выйдет ли развертывание ИИ за рамки пилота.

Доверие рождается из последовательности

Клиенты не всегда знают, когда в обслуживании участвует ИИ. Заметят они другое: точен ли ответ, быстро ли решен вопрос и одинаково ли с ними обходятся. Именно поэтому надежность — центральная часть корпоративного внедрения.

Организациям нужна уверенность, что системы будут работать корректно на протяжении тысяч взаимодействий, включая ситуации, не следующие ожидаемому сценарию. Им также нужно понимать, как ведет себя ИИ, когда информация неполна или когда клиент задает вопрос вне стандартного процесса. Регулируемые отрасли уже уделяют значительное время таким исключениям, поскольку ошибки могут иметь серьезные последствия, — и эта дисциплина может принести пользу и другим секторам.

ИИ-системы следует оценивать по всему спектру ситуаций, с которыми они могут столкнуться, а организациям нужны четкие процессы выявления ошибок и вмешательства, когда результаты выходят за допустимые рамки. Доверие формируется со временем через последовательный опыт.

Успех должны определять бизнес-результаты

По мере созревания корпоративного ИИ компаниям также потребуется большая дисциплина в измерениях. Технические показатели важны, но руководителям в конечном счете нужно знать, улучшает ли ИИ результат, значимый для организации. Это может означать более быстрое решение вопросов, меньше повторяющихся задач для сотрудников, более последовательное обслуживание клиентов или лучший доступ к информации. Правильная метрика зависит от сценария использования.

В регулируемых отраслях эти достижения необходимо также рассматривать с учетом влияния на клиентов, комплаенса и операционных рисков. Повышение эффективности имеет ограниченную ценность, если создает новые проблемы в других частях организации. По мере роста внедрения сам факт наличия ИИ-инициативы будет значить все меньше. Важным станет то, улучшает ли технология то, как выполняется работа и как обслуживаются клиенты.

Регулируемые отрасли могут задать стандарт

Многие из самых ценных применений корпоративного ИИ в итоге могут показаться обыденными. Процесс ускоряется. Сотрудник получает больше информации перед разговором с клиентом. Рутинный вопрос получает ответ вне рабочих часов. Сложный случай быстрее доходит до нужного специалиста. В крупной организации эти улучшения быстро накапливаются.

Регулируемые отрасли хорошо positioned, чтобы формировать следующий этап внедрения, поскольку им приходится одновременно учитывать производительность, надзор, безопасность, интеграцию и влияние на клиентов. Практики, emerging из этих сред, будут полезны далеко за пределами финансовых услуг и здравоохранения: компании во всех отраслях столкнутся со многими из тех же вопросов по мере того, как ИИ станет более устоявшейся частью бизнес-операций.

Наибольшего прогресса добьются организации, которые определяют четкие проблемы, поддерживают видимую подотчетность и применяют ИИ там, где он может улучшить результаты, не упуская из виду человеческое суждение. Регулируемые отрасли уже вынуждены отвечать на эти вопросы, и их ответы, вероятно, повлияют на дальнейшее развитие корпоративного ИИ.

О компании Overtime AI

Overtime — созданная на базе ИИ платформа взыскания задолженности с голосовым интерфейсом, работающая на технологии Acclaim.ai и разработанная для регулируемого коллекторского сектора.