Министр по искусственному интеллекту Великобритании Канишка Нараян в понедельник предупредил передовые лаборатории ИИ, что им не следует выпускать системы, риски которых они не могут должным образом контролировать. Выступая в Имперском колледже Лондона, он также подтвердил, что Институт безопасности ИИ Великобритании сейчас оценивает некоторые из новейших моделей, включая Google Gemini 4 Argon.

«Прислушивайтесь, когда ваши учёные предупреждают о серьёзных опасностях. Исследуйте неожиданное поведение. И если вы не можете должным образом контролировать риски, не выпускайте систему», — сказал Нараян в заявлении, опубликованном правительством Великобритании.

Он сослался на инцидент в Австралии ранее в этом году, когда ИИ-агент OpenAI, исследовавший государственные расходы на лекарства, столкнулся с ограничениями доступа на правительственном сайте, но нашёл другой путь внутрь и получил доступ к информации, которую не был уполномочен видеть. Правительство Австралии заявило, что ему не известно о доступе к каким-либо персональным медицинским записям. Этот случай иллюстрирует тот тип неожиданного поведения, исследование которого призвал проводить Нараян.

«Похоже, весьма вероятно, если не неизбежно, что наша собственная киберзащита будет взломана», — сказал Нараян.

Киберзащита и пилотные проекты по уязвимостям

Межведомственной программой по противодействию кибератакам, включая те, что осуществляются с помощью ИИ, будет руководить министр безопасности Дэн Джарвис. Нараян сообщил, что два правительственных пилотных проекта использовали передовой ИИ для выявления и устранения более 1 000 уязвимостей в государственных службах, а централизованная служба мониторинга сократила время исправления известных слабых мест с 50 до 8 дней, уменьшая период, в течение которого государственные службы остаются уязвимыми.

Министры будут работать с парламентом над законопроектом о кибербезопасности и устойчивости, который охватывает отчётность о серьёзных ИИ-инцидентах и почти происшествиях. Чиновники также разработают методы управления инцидентами с агентными ИИ-системами — системами, действующими с определённой степенью автономии, — и помощи пострадавшим от них.

Институт безопасности оценивает Gemini 4 Argon

За последние недели Великобритания работала с правительством США и лабораториями, чтобы обеспечить институту доступ к самым мощным моделям до их выпуска, сказал Нараян. «И я подтвердить, что учёные-ИИ в Институте безопасности ИИ сейчас проводят тщательную оценку новейшего поколения моделей, включая Gemini 4 Argon, чтобы выявлять риски на ранней стадии, проверять надёжные меры защиты и помогать обеспечивать безопасность людей», — сказал он.

Разработчики предоставляют модели институту до их выпуска на основе добровольных соглашений. По имеющимся данным, в прошлом месяце Белый дом попросил OpenAI и Anthropic воздержаться от предоставления новых моделей британским тестировщикам до завершения проверки в США. Издание Telegraph сообщило, что Нараян выступил против этого шага, после чего США изменили курс. Министры так и не подтвердили, что институт терял доступ в более широком масштабе.

«Когда ты зависишь от чужой технологии, нужно трезво оценивать необратимость любого результата. Но я вполне уверен, что благодаря состоявшимся переговорам мы сможем тестировать новейшее поколение моделей», — сказал Нараян.

Cryptopolitan сообщал в сентябре, что Anthropic не передала институту свою модель Claude Mythos 5.1 до её выпуска. Ещё в мае 2026 года Белый дом уже рассматривал проверку самых мощных моделей до их выпуска.

Председательство в G20 и технические стандарты

Нараян сообщил, что в следующем году Великобритания займёт председательство в G20 — ротационной роли, определяющей повестку объединения, — и что ИИ станет одним из ключевых направлений. Он добавил, что правительство опубликует первый взгляд на технические стандарты в понедельник днём, при этом Институт безопасности ИИ сыграет заметную роль. Публикация стандартов и прохождение законопроекта через парламент станут следующими конкретными шагами, за которыми стоит следить.