ЛОНДОН — Президент Microsoft Брэд Смит призвал к срочному глобальному регулированию искусственного интеллекта, включая независимых оценщиков, способных проверять новые разработки, предупредив, что ИИ в настоящее время подчиняется меньшим требованиям безопасности, чем молоко.

В интервью BBC, опубликованном в понедельник, Смит заявил, что необходим свод глобальных правил безопасности, включающий требование уведомлять «пострадавшего», если его система взломана недобросовестным ИИ-агентом, и наличие «аварийного тормоза».

Он также сказал, что для компаний должно быть законодательно закреплено требование составлять «отчеты об инцидентах».

«Мы знаем, как это делать для других продуктов», — сказал Смит. «Нам следует опираться на эти знания и подумать, как применить их к ИИ».

«Прямо сейчас ваша стиральная машина подчиняется большему числу правил безопасности, чем ИИ. Каждая упаковка молока, которую вы видите в продуктовом магазине, подчиняется правилам безопасности и проверкам».

Технологические компании, такие как Anthropic и OpenAI, начали раскрывать информацию о недобросовестном или нежелательном поведении ИИ-агентов — это часть глобальной дискуссии о быстро развивающейся технологии, в рамках которой исследователи предупреждали о возможной экзистенциальной угрозе человечеству. Сама Microsoft является одним из крупнейших сторонников OpenAI, вложив миллиарды долларов и заключив технологическое партнерство, интегрирующее модели стартапа в её продукты.

Некоторые компании призывали замедлить развитие ИИ, но это вызвало дебаты о том, нет ли у руководителей скрытых мотивов, таких как установление правил, сохраняющих лидерство их компаний, упреждение более широкого ответа правительств или просто сдерживание стремительных расходов.

Смит заявил, что Великобритания — страна, наиболее подходящая для лидерства в регулировании ИИ, сославшись на AI Security Institute, созданный при бывшем премьер-министре Риши Сунаке на саммите по безопасности ИИ в Блетчли-Парке в 2023 году. Он добавил, что официальные лица в Вашингтоне смотрят на Лондон совершенно иначе, чем на Брюссель, который регулирует ИИ по уровню риска согласно своему AI Act — первому в мире всеобъемлющему закону об ИИ, обязательства по которому вводятся поэтапно.

Британский институт получает доступ к крупным ИИ-моделям до их развертывания на основе добровольных соглашений, что позволяет оценивать их возможности и риски. До сих пор Великобритания контролировала ИИ через существующих регуляторов, применяющих неправовые принципы, а не через специальный закон об ИИ.

Министр по вопросам ИИ Канишка Нараян сообщил Reuters, что Великобритания рассмотрит регулирование продвинутых моделей, если действующая система окажется недостаточной.

— Reuters