Рынок ИИ быстро переосмысливает экзистенциальные риски безопасности, и предприятиям следует обратить на это внимание. Но даже несмотря на то, что крупнейшие поставщики отрасли усиливают призывы к обязательному национальному регулированию искусственного интеллекта, более практической задачей для компаний остается подготовка собственных организаций к возможным изменениям.

Дилемма осложняется конкурентной средой, особенно геополитическим соперничеством между США и Китаем в сфере торговли и технологий ИИ.

OpenAI призывает ввести обязательные правила безопасности

Chris Lehane, директор OpenAI по глобальным вопросам, в среду опубликовал сообщение в блоге, призвав мировых политиков принять меры для сдерживания рисков ИИ. По словам Lehane, OpenAI выступает за обязательные национальные требования к безопасности ИИ и поддерживает четыре законопроекта в Калифорнии, включая законопроект о создании системы независимой оценки безопасности, а также еще два законопроекта, которые губернатор Калифорнии Gavin Newsom также подписал в среду.

Поставщик ИИ добавил, что готов сотрудничать с другими передовыми исследовательскими лабораториями для развития стандартов безопасности ИИ, усиления саморегулирования и продвижения совместных международных подходов к оценке возможностей, управлению рисками и сохранению контроля человека над технологиями ИИ.

По словам Lauren Kornutick, аналитика Gartner, предприятиям, следящим за дискуссией о безопасности, следует встроить безопасность в систему оценки рисков, связанную с тем, как их организации используют технологии.

«Пока регуляторы догоняют ситуацию, вы можете внедрить дополнительные меры защиты или средства контроля использования ИИ в своей организации, поскольку законодательным органам требуется время, чтобы прийти к единому пониманию того, как это реализовать», — сказала Kornutick.

Растущая обеспокоенность рисками ИИ

Заявление OpenAI о политике регулирования прозвучало на фоне усиливающейся тревоги по поводу рисков технологии после отдельных инцидентов, в которых ИИ-агенты на базе моделей OpenAI и Anthropic вышли за пределы своих изолированных сред. Эти случаи подчеркнули, насколько мало по-прежнему известно о поведении ИИ-систем.

«ИИ-возможности совершенствуются быстрее, чем наши институты успевают их понимать и регулировать», — сказал Kashyap Kompella, основатель RPA2AI Research. По его словам, благодаря моделям рассуждений, значительно увеличившимся вычислительным ресурсам ИИ и все более способным автономным агентам технология преодолела важный порог.

Многие известные специалисты, включая Geoffrey Hinton, которого часто называют крестным отцом ИИ, высказывали обеспокоенность сложностью и потенциальной опасностью генеративного ИИ. Затем в среду Jacob Coxon, исследователь Anthropic, ранее работавший в OpenAI, предупредил в публикации в социальных сетях, что компании спешат создать сверхинтеллект, который слишком опасен и к концу десятилетия может уничтожить человечество. Coxon, с тех пор ушедший из Anthropic, заявил, что ни одна компания не может безопасно создать искусственный общий интеллект без вмешательства государства.

Конкурентная среда

«Отставка Coxon подчеркивает важную структурную проблему», — сказал Kompella. «Конкуренция между ведущими ИИ-компаниями создает стимулы продолжать наращивать возможности, даже когда некоторые исследователи считают, что риски становятся очень серьезными».

По его словам, эта конкуренция означает, что призывы к поставщикам самостоятельно регулировать свою деятельность или добровольно остановить технологический прогресс не могут быть реалистичным решением. Ведущие поставщики ИИ стремятся не только опередить друг друга, но и участвуют в геополитическом соперничестве между США и Китаем в сфере торговли и технологий ИИ.

«Геополитическое давление настолько велико, что две основные стороны — США и Китай — считают победу в гонке ИИ вопросом экзистенциальной важности», — сказал Michael Bennett, заместитель проректора по вопросам анализа данных и стратегии ИИ в University of Illinois Chicago. «Из-за последствий конкуренции в гонке ИИ невозможно позволить себе замедлиться».

Реакция предприятий

Вместо того чтобы ждать обязательного регулирования, за которое выступает OpenAI, предприятиям следует самостоятельно контролировать свою деятельность, внедряя некоторые требования, которые штаты начинают закреплять в законодательстве, — например, независимую оценку в процессах закупки решений у сторонних поставщиков, считает Kornutick.

Для руководителей предприятий это превращает дискуссию о политике регулирования в непосредственный вопрос управления: они могут отслеживать новые требования штатов, независимо оценивать сторонние модели и документировать меры контроля, пока законодатели и поставщики разрабатывают более широкие стандарты безопасности.

«Таким образом, регулирование помогает, но часто не является универсальным решением, и предприятиям следует задуматься, для чего именно они используют передовые модели. Нужно ли им применять их во всех случаях использования ИИ? Где они могут получить наибольшую ценность?» — сказала она.

Предприятия также могут лоббировать свои интересы и сотрудничать с законодателями, отметила Kornutick.

«Если у вашей организации есть возможность взаимодействовать с законодателями, чтобы напрямую донести до поставщиков моделей свои опасения, — действуйте», — сказала она. «Но одновременно нужно контролировать то, что находится в вашей власти, — основы эффективных практик управления ИИ, данными и кибербезопасностью. Так вы создадите фундамент, который позволит организации подготовиться к будущим изменениям».

Еще одна причина для регулирования

Призыв OpenAI к федеральному регулированию — и поддержка поставщиками законодательства, подобного калифорнийскому, — может быть не просто реакцией на текущую дискуссию о рисках ИИ. Это также может быть стратегией, позволяющей опередить избирательный сезон и сохранить благоприятное отношение общественности, поскольку общественное мнение настроилось против ИИ и центров обработки данных для ИИ.

Тем не менее Bennett считает возможным представить новый набор политик и нормативных актов, в котором поддержка технологий и безопасность будут сосуществовать.

«Это позволило бы поддерживать развитие одновременно с внедрением лучших протоколов безопасности и мер защиты», — сказал он. «Речь шла бы о командах людей и ИИ, использующих технологию для разработки оптимально выстроенных новых правил».

Независимое агентство

Хотя регулирование необходимо, оно не решит всех проблем безопасности ИИ, особенно поскольку многие регуляторы по-прежнему не понимают эти системы, сказал Kompella.

«Глубокое понимание того, как создаются передовые системы и как они ведут себя, по-прежнему сосредоточено в небольшом числе компаний и исследовательских групп», — продолжил он. «Поэтому регуляторы сталкиваются со сложной задачей: им приходится регулировать технологию, которая технически сложна, очень быстро меняется и в значительной степени разрабатывается за пределами государства».

Он считает, что необходим институт с глубокими техническими знаниями и независимостью — подобный NASA или DARPA, — который постоянно изучал бы и оценивал эти вопросы, а также предоставлял политикам рекомендации, на которые сами ИИ-компании не могли бы влиять.

«Наиболее сильным краткосрочным решением была бы двухпартийная федеральная система, поддерживаемая институтом с серьезными техническими возможностями и независимостью», — сказал Kompella. «Он должен быть достаточно сильным, чтобы бросать вызов передовым лабораториям, но при этом достаточно технически компетентным, чтобы не регулировать из страха и не замораживать технологический прогресс. Кроме того, он должен работать значительно быстрее традиционных регулирующих институтов».

Предприятиям, вероятно, не нужно тратить много времени на беспокойство об экзистенциальных рисках ИИ, но им следует их осознавать, сказала Kornutick.

«Организациям действительно нужно сосредоточиться на рисках, которые находятся непосредственно перед ними, то есть на пробелах в их инфраструктуре и архитектуре», — сказала она. «Прямо сейчас именно это может представлять реальную проблему, которую они упускают».

---

Эта статья основана на материалах Esther Shittu для AI Business, опубликованных 10 сентября 2026 года. Источник: Кризис безопасности ИИ и способы его преодоления для предприятий