Moonshot AI сделала то, что мало кто из ИИ-лабораторий пытался предпринять: она намеренно ослабила одну из способностей своей флагманской модели. В субботу стартап из Пекина сообщил, что снизил наступательные киберспособности Kimi K3.1 Pro — своей самой передовой модели на сегодняшний день. Это объявление появилось на фоне растущей тревоги, что всё более автономные ИИ-системы могут дать злонамеренным хакерам мощное новое преимущество.

Вместо добавления внешних ограничителей компания пошла «по течению вверх». Связанные с кибербезопасностью материалы были удалены из обучающего корпуса модели до релиза — изменение, призванное ограничить способность Kimi K3.1 Pro эксплуатировать уязвимости программного обеспечения, не затронув при этом её навыки программирования.

Что именно изменила Moonshot

Бенчмарки делают этот компромисс измеримым. На внутреннем бенчмарке Moonshot по эксплуатации уязвимостей Kimi K3.1 Pro набрала 81,0%. Параллельная неотфильтрованная версия той же модели — обученная с сохранением киберданных — набрала 90,5%. Таким образом, фильтрация стоила выпущенной модели примерно девяти с половиной процентных пунктов наступательной способности.

Смену поколений затормозить сложнее. Предшественница Kimi, модель K3, набрала лишь 33,3% на том же тесте. Даже после фильтрации новая модель почти на 48 процентных пунктов превосходит предшественницу в эксплуатации уязвимостей. Moonshot не заморозила навыки взлома — она замедлила их рост.

Компания описала свои намерения осторожными формулировками. Moonshot заявила, что не намерена делать эту модель продвигающей границы наступательных киберспособностей, и планирует поэтапное улучшение оборонительных средств защиты в будущих релизах.

Характеристики, стоящие за мерами защиты

По любым меркам Kimi K3.1 Pro огромна. Модель использует архитектуру смеси экспертов с 2,8 трлн общих параметров, из которых 104 млрд активны в любой момент времени. Она также обладает контекстным окном в 1 млн токенов — достаточным запасом для обработки очень длинных документов или обширных кодовых баз за один проход.

Результаты в программировании показывают, что Moonshot сохранила то, что собиралась защитить. Kimi K3.1 Pro набрала 65,7% на Terminal-Bench 4.0 — результат, сопоставимый с Claude Opus 5.5 от Anthropic, и, по сообщениям, модель также продемонстрировала сниженный уровень галлюцинаций.

Далее следует деталь, повышающая ставки. Moonshot планирует публично выпустить полные веса модели до 4 ноября 2026 года — то есть именно отфильтрованная версия с результатом 81,0% станет той, которую посторонние в конечном итоге смогут скачать.

Почему релиз открытых весов меняет расклад

Большинство перед ИИ-лабораторий держат свои модели за API. Пользователи отправляют запросы, компания возвращает ответы, и компания может отслеживать, ограничивать или исправлять поведение на этом пути.

Открытые веса работают иначе. Как только файлы становятся общедоступными, любой может скачать модель, запустить её на своём оборудовании и модифицировать её. Кнопки отзыва не существует.

Эта реальность объясняет, почему Moonshot выбрала фильтрацию данных вместо опоры исключительно на контроль после релиза. Если способность никогда не попадает в модель во время обучения, её меньше остаётся в весах для извлечения посторонними.

Это решение также последовало за пристальным вниманием к Kimi K3, которая привлекла внимание результатами в киберзадачах. Последний релиз отчасти читается как ответ на это внимание — попытка показать, что Moonshot может выпустить более сильную модель, не раздавая более острый инструмент атаки.

Что это значит для индустрии ИИ

Самое примечательное здесь то, что Moonshot количественно оценивает компромиссы в области безопасности и публикует их. Отображение отфильтрованного результата рядом с неотфильтрованным делает цену осторожности видимой для всех.

В этой истории есть и конкурентная линия. С результатами в программировании, сопоставимыми с Claude Opus 5.5 на Terminal-Bench 4.0, китайская модель с открытыми весами теперь находится в одном ряду с ведущей закрытой американской системой по этому бенчмарку.

Следующая контрольная точка — 4 ноября 2026 года. Когда веса станут общедоступными, исследователи и команды по безопасности смогут независимо проверить заявления Moonshot — и выяснить, достаточно ли тщательно подобранной обучающей выборки, чтобы модель с 2,8 трлн параметров оставалась наилучшим образом себя. Опубликованная пара результатов — 81,0% отфильтрованной против 90,5% неотфильтрованной — даёт им конкретный ориентир для этой проверки.