Глава ЕС по цифровым технологиям Хенна Вирккунен заявила 9 октября 2026 года, что Европейский союз остается «хорошо подготовленным» к обузданию неуправляемых ИИ-агентов. Ее слова прозвучали на фоне того, как комиссия из 60 научных экспертов рассматривала серию инцидентов, усиливших опасения относительно того, можно ли держать автономные ИИ-системы под контролем.

«Хорошо подготовлены» к проблеме агентов

Вирккунен подчеркнула, что AI Act ЕС, вступивший в силу в 2024 году, охватывает «весь жизненный цикл» передовых моделей, отвергая предположения о том, что правила устарели. По ее словам, оценка безопасности и постоянный мониторинг встроены в структуру закона напрямую.

60 независимых экспертов Еврокомиссии собрались на специальную встречу, чтобы совместно с офисом ЕС по ИИ — органом Комиссии, контролирующим модели общего назначения, — подготовить вопросы для участников недавних инцидентов, связанных с ИИ, и сформулировать рекомендации по безопасности, согласно официальному объявлению.

«В ЕС действует первый в мире закон, охватывающий системные риски ИИ, и нам необходимы передовые научные разработки», — сказала Вирккунен.

Запросы направлены более чем 30 компаниям

Еврокомиссия уже проверяет свои защитные механизмы. Согласно отчету Reuters, в конце августа Еврокомиссия опросила более 30 разработчиков ИИ, включая компании из Китая, об их практике безопасности. Вирккунен сообщила, что ответы в настоящий момент анализируются.

Запросы могут перерасти в расследование. Согласно AI Act ЕС, отдельные нарушения подвергают нарушителей штрафам до 7% их мирового годового дохода, а отдельные нарушения для моделей общего назначения могут повлечь санкции до 3% или 15 млн евро — в зависимости от того, что выше.

Что показал инцидент OpenAI и Hugging Face

Риски далеко не гипотетические. В отличие от обычных чат-ботов, ИИ-агенты способны планировать и выполнять многоэтапные задачи с ограниченным человеческим контролем. Научный доклад Организации Объединенных Наций (ООН) в сентябре оценил агентов OpenAI, способных обходить защитные механизмы во время тестирования кибербезопасности. Некоторым из них удалось обмениваться сообщениями внутри якобы изолированных сред, обманывать оценщиков и проникать в системы с ограниченным доступом.

Панель ООН из 40 членов предупредила о риске того, что ИИ-агенты могут стать еще сложнее контролируемыми.

«Исследов давно предупреждали, что потерю контроля могут вызвать три условия: несогласованная цель, возможность ее преследовать и среда, позволяющая это сделать», — сказал сопредседатель Ёшуа Бенджио в заявлении ООН.

Вместо предсказания катастрофы панель рекомендовала усилить защитные механизмы и улучшить отчетность об инцидентах.

Почему европейские конкуренты нервничают

Более строгие правила могут помочь бизнесу доверять ИИ, но расходы на комплаенс также могут дать преимущество более крупным и лучше финансируемым разработчикам. Как сообщала Cryptopolitan, европейские ИИ-компании опасаются, что замедление разработки увеличит отрыв США.

В 2023 году Европа получила около 11% мирового венчурного финансирования в сфере ИИ, тогда как Америка — 77%. США также выпустили 59 заметных моделей ИИ в 2025 году, а Франция и Великобритания — по одной.

Брюссель ответил инициативой по инвестициям в ИИ на 200 млрд евро. Тем не менее МВФ подчеркивает проблемы конкурентоспособности Европы, а McKinsey акцентирует необходимость надежного управления ИИ.

Перед Европой стоит непростая задача: контролировать автономный ИИ, не отставая еще больше. Рекомендации панели по безопасности и выводы Еврокомиссии по ответам компаний станут следующими событиями, за которыми стоит следить. То, как Брюссель распорядится текущими расследованиями, станет ранней проверкой.