Несмотря на призывы лидеров передовых лабораторий ИИ к замедлению, большинство предприятий уделяют приоритетное внимание усилению управления, а не приостановке использования искусственного интеллекта, свидетельствует новый отчет OneTrust, поставщика решений в области ИИ, конфиденциальности данных и безопасности.

Согласно отчету, хотя многие предприятия за последний год столкнулись с проблемами, связанными с ИИ, большинство не замедляют и не приостанавливают внедрение ИИ. Среди таких инцидентов — утечки интеллектуальной собственности, а также использование, передача и удаление данных ИИ-агентами.

В рамках сессии вопросов и ответов главный инновационный директор OneTrust Блейк Брэннон рассказал, почему предприятия продолжают продвигаться вперед с ИИ и как они могут сосредоточиться на управлении даже больше, чем на стремительном развитии моделей ИИ.

Давление совета директоров как двигатель внедрения

В отчете отмечается, что, несмотря на инциденты с ИИ, предприятия по-прежнему поощряют использование ИИ и ИИ-агентов. На вопрос о том, что подпитывает импульс к внедрению технологии, Брэннон указал на давление с верхних уровней организаций.

«На каждом предприятии, начиная с самого верха, главный вопрос, который задает вам совет директоров, звучит так: «Что мы делаем с ИИ? Как мы трансформируем то, как мы работаем, продукты и услуги, которые создаем? Не вытеснят ли нас модели передового уровня, действующие стартапы? В чем наш защитный ров?»», — сказал он.

«Это давление заставляет всех действовать чуть более агрессивно, ускоряться и искать способы применения ИИ».

Как только организации начинают оценивать эти инструменты, использовать их и пытаться внедрять, вопросы управления и безопасности быстро выходят на первый план, отметил Брэннон. Все смотрят на реальность, при которой в течение следующих двух лет действующих агентов в каждой компании мира станет больше, чем людей.

По его словам, программы и процессы, которые компании выстраивали годами для собственного управления, были разработаны в эпоху, когда человек инициировал всё, что делала компания: либо работу выполнял человек, либо человек создавал детерминированнуюную систему для этого. Это делало деятельность управляемой, поскольку она развивалась в человеческом темпе.

«Сегодня существуют гражданские разработчики, гражданские создатели. Каждый может создать агента», — сказал Брэннон. Это фундаментально разрушает привычную работу традиционного управления и безопасности в организациях, пояснил он, поскольку то, что организации раньше делали для защиты своих данных, занимало недели — теперь это должно быть решено за секунды.

От доказательства концепции к масштабу

Отвечая на вопрос о том, как этот сдвиг подталкивает организации инвестировать в управление, Брэннон сказал, что доверие — ключевой фактор для автономии.

«Вы можете создать весь этот превосходный ИИ, но если вы ему не доверяете, вы не можете его отпустить», — сказал он. «Вы не можете позволить ему действовать автономно, поэтому эту проблему необходимо решить».

Инвестиции становятся критически важными, добавил он, поскольку предприятия выходят за рамки доказательств концепции и переходят к масштабу. С масштабом возникает простой вопрос: как доверять ИИ, знать, что с ним происходит, и контролировать его — именно поэтому организации уделяют этой проблеме все больше времени.

Один из способов обозначить задачу, по словам Брэннона, состоит в том, что системы ИИ должны вести себя так, как вела бы себя организация или один из ее сотрудников. То, что компания считает допустимым действием, коренится в таких факторах, как соответствие требованиям, практика безопасности и обещания бренда, и агенты должны имитировать эти стандарты. Это, сказал он, одна часть проблемы.

Вторая часть — предотвращение негативных последствий. «Должен быть включен аварийный тормоз автомобиля. Вы должны видеть, что агент собирается совершить разрушительное действие, и вы хотите это остановить», — сказал Брэннон. Это тонкая задача, поскольку системы ИИ не наследуют такие атрибуты, как личность и права доступа людей, и «мы хотим, чтобы человек находился в центре подобных процессов».

Два принципа управления стремительно развивающимся ИИ

Пока организации быстро движутся вперед с ИИ, а технологические поставщики стремительно обновляют свои модели, Брэннон обозначил два принципа, формирующих архитектуру, необходимую для привязки доверия к этим системам.

Первый — признание того, что модели самой по себе нельзя доверять. «Мы видим, как почти каждые выходные кто-то публикует блог или статью со словами: «Пожалуйста, отрегулируйте нас, мы не можем доверять нашим системам, и это очень опасно»», — сказал он.

Это означает, что организации должны исходить из того, что модель вырвется из сдерживающих рамок, и что модель может манипулировать самой собой, убеждая себя, что всё, что она делает, допустимо. Следовательно, управляющая архитектура должна представлять собой независимый, отдельный механизм, отделенный от того, чем управляют.

«Так общество функционировало тысячи лет», — сказал Брэннон. «Государственная власть намеренно разделена. Подразделения компаний намеренно разделены, чтобы создать четкое, свободное от предвзятости разграничение между управляющим органом и тем, чем управляют». Для ИИ, по его словам, это означает, что моделям и поставщикам нужен независимый управляющий агент или управляющий механизм для оценки действий системы ИИ и агента.

Второй формирующийся принцип касается сложности отслеживания постоянно меняющихся моделей и механизмов. Брэннон отметил, что каждая организация будет использовать разрозненный набор разных поставщиков моделей, моделей и механизмов, поскольку маркетинг хочет использовать одно, служба поддержки клиентов — другое а разработкам нужно нечто третье. Такая фрагментация создает огромную сложность в контроле и управлении системами, которые все ведут себя по-разному.

Архитектура, сказал он, смещается к более простому вопросу: какое дело, что делает модель, или почему модель думала так, а не иначе? Для предприятия важно то, когда система ИИ фактически совершает действие — когда она пытается прочитать данные из корпоративной системы, отправить электронное письмо или удалить запись. На практике это смещает фокус управления на точки, где система ИИ может затронуть корпоративные данные и операции, а не на модель саму по себе.

«Именно тогда для меня важно чем-то управлять», — сказал Брэннон. «Я могу спроектировать свои средства управления вокруг фиксированной точки, где происходит подключение к тому, что мне важно, и установить надлежащие ограждения и политики в этой фиксированной точке».

Примечание редактора: материалы вопросов и ответов были отредактированы для стиля и краткости.

Сессию вопросов и ответов провела новостной корреспондент AI Business Эстер Шитту, которая освещает технологии ИИ и отраслевые тренды с 2021 года и является со-ведущей подкаста Targeting AI.

Эта статья основана на материале, опубликованном AI Business 21 сентября 2026 года: Accelerating AI adoption and governance amid an AI slowdown.