Генеральный директор Microsoft Сатья Наделла призвал оснастить передовые системы искусственного интеллекта эквивалентом педали тормоза. В публикации на X 10 октября 2026 года Наделла предложил новую «архитектуру доверия» для передовых ИИ-систем — наиболее мощных моделей на пределе современных возможностей — в центре которой находится «аварийный тормоз», позволяющий уполномоченным сотрудникам приостанавливать или отключать ИИ-модель прямо во время выполнения задачи.

Что предложил Наделла

Аварийный тормоз — главная особенность этой структуры. Уполномоченные пользователи смогут остановить модель посреди операции, а не дожидаться, пока она завершит начатое.

Эта возможность важнее, чем может показаться. Старые чат-боты отвечали на вопрос и останавливались. Новые «агентные» системы способны самостоятельно выполнять целую цепочку действий, поэтому возможность прервать их на полпути — это настоящая необходимость с точки зрения безопасности, а не удобство.

Более примечательный элемент предложения — то, как Наделла хочет, чтобы компании воспринимали эти модели. По его мнению, к передовому ИИ следует относиться так, как если бы он уже был скомпрометирован, применяя тот же подход, что используется против внутренних угроз. Такое понимание перекликается с концепцией безопасности «нулевого доверия» — корпоративной доктриной, согласно которой ни одному пользователю или системе нельзя доверять по умолчанию.

Структуру дополняют ещё два компонента. Первый — защищённые от подделки логи в удобочитаемом формате, фиксирующие, что ИИ-системы реально делают, чтобы эти записи нельзя было незаметно отредактировать и чтобы их можно было понять без специальных знаний. Второй — независимые аудиты развёртываний ИИ, то есть проверку работы сторонними организациями, а не «оценивание собственных домашних заданий» самими компаниями.

Растущий хор голосов

Наделла действует не в одиночку. Президент Microsoft Брэд Смит публично поддержал идею аварийного тормоза в сентябре 2026 года, примерно за месяц до публикации Наделлы. Этот призыв также перекликается с похожими предупреждениями других известных фигур технологической индустрии, включая Илона Маска и Сэма Альтмана из OpenAI.

Голос Microsoft имеет в этих дебатах особый вес. Компания — один из крупнейших инвесторов в разработку передового ИИ благодаря многомиллиардному партнёрству с OpenAI и ИИ-ассистентам, которые она внедрила в линейку своих продуктов.

Дебаты о безопасности ИИ значительно обострились в 2026 году: публичные призывы к стандартизированным мер защиты стали в отрасли более распространёнными. Отчасти продвинули дискуссию вперёд серии признаний самих ИИ-лабораторий о трудностях контроля сложных ИИ-систем.

Конкретное беспокойство сосредоточено на так называемых агентных системах и том, что некоторые называют «сверхинтеллектом». Руководители отрасли всё чаще описывают это как риск потери контроля: страх вызывает не то, что ИИ даёт неправильный ответ, а то, что он продолжает делать то, о чём никто не просил, — и никто не может его остановить.

Что это значит для ИИ-индустрии

Для Microsoft предложение решает двойную задачу. Оно представляет компанию как ответственного распорядителя мощной технологии в то время, как она продолжает создавать и продавать эту технологию в масштабе. Критики могут заметить, что компания, глубоко вовлечённая в гонку ИИ и призывающая к правилам безопасности, — это одновременно и компания, которая может позволить себе им соответствовать. Более мелким конкурентам защита от подделки логов и независимые аудиты могут оказаться дороже в внедрении.

Предложение также оставляет открытыми ряд вопросов. Кто считается «уполномоченным персоналом» с доступом к тормозу? Кто проводит независимые аудиты и по каким стандартам? Ответы на эти вопросы, равно как и то, встроит ли Microsoft эту структуру в собственные ИИ-продукты, станут конкретными ориентирами по мере перехода дебатов от публичных заявлений к практике.