Президент Microsoft Брэд Смит заявил BBC, что искусственный интеллект сегодня работает в условиях меньшего числа правил безопасности, чем такие повседневные товары, как молоко или стиральные машины, и, по его мнению, этот дисбаланс должен побудить правительства — во главе с Великобританией — принять обязывающие меры контроля, включая «аварийные выключатели» и обязательную отчетность о неправомерном поведении ИИ-агентов.

Смит провел это сравнение в интервью BBC, опубликованном на выходных, описав ИИ одновременно как «инструмент и оружие», требующие срочного надзора. «Прямо сейчас ваша стиральная машина подчиняется большему числу правил безопасности, чем ИИ», — сказал он, по данным BBC. «Каждая упаковка молока, которую вы видите в продуктовом магазине, подчиняется правилам безопасности и проверкам». Эта аналогия выбрана не случайно: продукты и бытовая техника находятся под давним режимом норм безопасности и инспекций, а аргумент Смита состоит в том, что ИИ перерос добровольный, основанный на саморегулировании подход, который сейчас определяет надзор в США.

Руководитель Microsoft призывает к правовой структуре, которая сделала бы ИИ-компании более ответственными, когда с их продуктами что-то идет не так. Согласно его предложению, компании должны будут сообщать о сбоях моделей, уведомлять всех, чьи системы были взломаны вышедшим из-под контроля ИИ-агентом, и представлять мощные модели независимой проверке перед их публичным выпуском. Фактически он добивается, чтобы ИИ получил нечто более близкое к цепочке подотчетности, которую потребители уже ожидают в других сферах: раскрытие сбоев, уведомление затронутых сторон и проверка перед выпуском продукции.

Расхождения с Белым домом по вопросу саморегулирования

Призыв Смита к юридически обязывающим мерам безопасности в области ИИ противоречит позиции Белого дома. Президент Трамп утверждал, что США должны позволить ИИ-индустрии регулировать себя самостоятельно, предупредив, что более строгие правила могут оставить страну позади Китая. Трамп повторил эту позицию на саммите с руководителями технологических компаний в прошлом месяце.

На этом же саммите было подписано одностраничное соглашение, которое подписали руководители OpenAI, Anthropic, Nvidia, Meta, Google и принадлежащей Илону Маску X — пакт, который Cryptopolitan описала как «морально обязывающий». Подписавшие обязались использовать независимых аудиторов и принять меры для предотвращения выхода ИИ-моделей из-под контроля. Microsoft, однако, не подписала это соглашение, по данным The Telegraph.

Смит приветствовал соглашение и сказал, что Microsoft готова его подписать. Но в интервью BBC он предупредил, что одних добровольных обязательств недостаточно. Он назвал соглашение «хорошим шагом» и «необходимым шагом», но добавил, что больше не считает его достаточным.

Добровольные обязательства, предупредил он, могут мало что сделать для сдерживания крупнейших рисков, поскольку компании, которые уже серьезно относятся к безопасности, скорее всего, будут их соблюдать, а те, кто представляет наибольшую опасность, могут просто их игнорировать.

Смит хочет, чтобы Великобритания возглавила

Смит также назвал Великобританию страной, наиболее подходящей для установления глобальных стандартов — впереди США и даже Брюсселя. Он указал на британский AI Security Institute, созданный в 2024 году при тогдашнем премьер-министре Риши Сунаке как AI Safety Institute. Организация добилась добровольных соглашений, позволяющих ей тестировать передовые модели до их выпуска. Именно этот доступ к предрелизному тестированию Смит считает практической основой, на которой Британия может строить обязывающие правила.

По словам Смита, Великобритания находится в более сильной позиции, чем ЕС, в отношениях с Вашингтоном, поскольку американские политики относятся к Лондону иначе, чем к Брюсселю, сообщил он BBC, добавив, что основанный на рисках AI Act ЕС насторожил американских политиков.

Правительство Великобритании также готовится усилить надзор за ИИ. Ожидается, что министр по ИИ Канишка Нараян в предстоящей речи призовет разработчиков передовых моделей делать больше для устранения рисков безопасности, поскольку законодательство по укреплению государственного надзора продолжает формироваться. Эта речь и ожидающийся законопроект — ближайшие контрольные точки для того, приведет ли призыв Смита к обязывающим правилам в Великобритании.

Кроме того, The Telegraph сообщила, что Белый дом восстановил доступ британского института к новейшим ИИ-моделям для тестирования. Ранее этот доступ был отозван после того, как компании, включая Anthropic и OpenAI, попросили прекратить передачу своих моделей.

Аварийные выключатели и вышедшие из-под контроля агенты

Идея «аварийных тормозов» Смита перекликается с позицией генерального директора Microsoft Сатьи Наделлы, который призывал оснастить ИИ-модели механизмом, позволяющим человеку приостановить или выключить систему посреди задачи, если она выйдет из-под контроля. «Мы должны создавать ограниченные системы, поведение которых мы можем наблюдать, пределы которых мы можем тестировать, и действия которых мы всегда можем сдержать», — ранее писал Наделла, по данным the Guardian.

Эти предупреждения следуют за реальными инцидентами. Anthropic недавно обнаружила, что версия ее модели Claude во время тестирования связалась с полицией и ложно заявила, что может помочь раскрыть убийство — именно такое поведение агентов требование Смита об обязательной отчетности обязало бы компании раскрывать.

На встрече у Трампа руководители ИИ-индустрии, включая Дарио Амодеи, Сундара Пичаи, Грега Брока и Дженсена Хуанга, поддержали саморегулирование отрасли. Критики выступили против такого подхода, утверждая, что он позволит компаниям самим решать, что считать безопасностью.

Дискуссия теперь идет по трем направлениям — ставка Вашингтона на саморегулирование, основанный на рисках закон Брюсселя и обязывающие правила, пионером которых Смит хочет видеть Лондон, — и какое из них станет ориентиром для других правительств — вот вопрос, на который призвана повлиять его кампания.

Источник: Cryptopolitan