Глобальная гонка за создание более совершенного искусственного интеллекта в значительной степени рассматривалась как соревнование возможностей — определяемое тем, кто создаст самую умную модель, развернёт самых способных агентов и первым выйдет на новый рубеж. Но кибербезопасность показывает, почему возможности — лишь часть уравнения, пишет Ричард Айрленд, CEO GovWare, в комментарии для BusinessWorld.

ИИ ускоряет скорость, с которой выявляются уязвимости, запускаются атаки и предпринимаются защитные действия, а значительные инвестиции не устраняют уязвимость. Недавнее исследование показало, что, хотя 83% руководителей по кибербезопасности увеличивают расходы, почти 9 из 10 организаций столкнулись с кибератаками за прошлый год.

Эта проблема всё чаще выходит за рамки защиты отдельной организации, затрагивая связи между ними. Компания может активно инвестировать в собственную защиту, государство — укреплять национальные гарантии, а технологический провайдер — вводить более строгие механизмы контроля. Однако современные цифровые системы зависят от взаимосвязанной инфраструктуры, поставщиков, облачных платформ и сервисов, которые редко находятся в рамках одной организации или юрисдикции. По мере ускорения и автономизации киберактивности способность к координации за этими границами может стать столь же важной, как и способность защищаться внутри них.

Когда скорость машин сталкивается с организационными границами

Агентные системы повышают ставки, поскольку они могут переходить от сигнала к решению и действию с меньшим участием человека. Проблема не только в том, сколько полномочий организации предоставляют ИИ-агентам, но и в том, что происходит, когда их действия выходят за организационные границы в системы, данные и инфраструктуру, контролируемые другими.

ИИ-агенты также являются частью растущего мира нечеловеческих идентичностей — от приложений и автоматизированных сервисов до машинных учётных записей, взаимодействующих в цифровых средах. По мере роста их автономности организациям нужны более чёткие границы того, к чему они могут получить доступ, какие действия предпринимать и где остаётся необходимым вмешательство человека.

Подотчётность усложняется, когда активность пересекает организационные границы. Разные организации могут работать по разным механизмам контроля, регулирования и порогам риска, даже когда их системы зависят друг от друга. При машинной скорости обнаружение проблемы — лишь часть реагирования. Не менее важно, насколько быстро можно обмениваться информацией, устанавливать ответственность и предпринимать скоординированные действия.

Сама гонка ИИ даёт полезный урок. Anthropicаявила о готовности к скоординированной глобальной паузе в разработке передового ИИ, если конкуренты поступят так же. Аналогично ведущий учёный OpenAI предупредил, что ИИ развивается настолько быстро, что людям становится всё труднее понимать и контролировать его, и ожидает, что ведущие ИИ-лаборатории добровольно замедлят разработку из соображений безопасности. Вместе эти сигналы указывают на проблему, выходящую за рамки одной компании: в конкурентной среде проявлять большую осторожность становится труднее, если другие продолжают двигаться вперёд.

Кибербезопасность сталкивается с версией той же проблемы. Отдельные организации могут укреплять собственную защиту, но общие риски требуют общей готовности.

Киберриски не останавливаются на организационных границах

Кибербезопасность эволюционировала из узкоспециализированной технологической проблемы в вопрос всей экономики, затрагивающий непрерывность бизнеса, критическую инфраструктуру, цепочки поставок, финансовые системы и общественное доверие, и агентный ИИ ускоряет эту эволюцию. Прочные организационные защиты остаются необходимыми, но они не могут полностью устранить риски, распространяющиеся через общую инфраструктуру, третьих лиц или трансграничные технологические экосистемы. Компрометация поставщика, общего облачного сервиса или критического технологического провайдера может затронуть организации, имеющие мало прямого контроля над источником инцидента. По мере углубления этих зависимостей устойчивость всё больше зависит от того, насколько быстро организации могут обмениваться информацией и координировать реагирование.

То же самое применимо на национальном уровне. Министр цифрового развития и информации Сингапура Жозефина Тео отметила ранее в этом году, что наиболее совершенные ИИ-модели разрабатываются лишь в нескольких странах, тогда как сотрудничество в области безопасности ИИ остаётся ограниченным. При этом технологии и их потенциальные риски пересекают границы.

Для Азии проблема координации особенно важна. Регион охватывает экономики с различными регуляторными средами, уровнями цифровой зрелости, инфраструктурой и киберготовностью. Единой операционной среды нет, но инцидент, возникший на одном рынке или в части цепочки поставок, может иметь последствия в других местах.

Создание готовности до кризиса

Сингапур играет важную роль в содействии такому обмену. Его способность объединять государства, глобальные технологические компании, бизнес и практиков позволяет услышать точки зрения, которые не всегда сидят за одним столом. Сингапурская международная неделя кибербезопасности и GovWare предоставляют возможности для таких дискуссий, поскольку безопасность ИИ, подотчётность и трансграничные риски всё чаще требуют как государственных, так и частных перспектив.

Значение таких встреч — не в том, что какой-то один форум имеет все ответы, а в том, что коллективная готовность должна быть выстроена до того, как этого потребует кризис. Государствам, бизнесу и технологическим провайдерам потребуется большая согласованность в вопросах распределения рисков, того, когда информация должна пересекать организационные границы, и где сотрудничество должно преобладать над конкуренцией. Та же повестка предлагает конкретный набор ориентиров: станет ли информация легче пересек организационные границы при инцидентах, сформируются ли в отраслях и юрисдикциях общие ожидания относительно того, к чему ИИ-агенты могут иметь доступ, какие действия предпринимать и где остаётся необходимым человеческий контроль, и превратится ли заявленная готовность ведущих ИИ-лабораторий совместно замедлять разработку из декларации в практику.

Конкуренция остаётся важным двигателем инноваций в ИИ, но прогресс в возможностях должен сопровождаться прогрессом в мерах защиты, отношениях и механизмах сотрудничества, необходимых для ответственного применения этих возможностей. Поскольку киберактивность движется с агентной скоростью, координация не может начинаться только после того, как что-то пошло не так.

Следующая гонка ИИ проверит не только то, кто создаст самые совершенные системы. Она также проверит, смогут ли институты и отношения вокруг них двигаться достаточно быстро, чтобы не отставать.

Ричард Айрленд — CEO GovWare. Этот комментарий впервые опубликован BusinessWorld.