Google раскрыла внутренний агент искусственного интеллекта — ПО, преследующее многоэтапные цели с минимальным участием человека, — с необычной задачей: взломать саму Google. Система под названием PageBreak, созданная командой продуктовой безопасности компании, автономно ищет реальные, эксплуатируемые уязвимости в собственных веб-приложениях Google — и уже обнаружила более 500 багов.

В отличие от типичных сканеров на базе ИИ, PageBreak не помечает уязвимость, пока не подтвердит её рабочим эксплойтом в живой среде — дисциплина, обеспечивающая агенту почти нулевой уровень ложных срабатываний. Google планирует дополнить агента поиска системой CodeMender для автоматического исправления багов, чтобы подтверждённые уязвимости поступали вместе с предложенными исправлениями.

Компания раскрыла систему 24 сентября в записи в блоге инженера по информационной безопасности Михала Бентовски. Идея проста: ИИ-хакер, который не кричит «волки».

"PageBreak — это внутренний ИИ-агент команды продуктовой безопасности Google, созданный для проверки безопасности наших собственных веб-приложений и решения этой проблемы," — заявили в Google. "Начав как пилотный проект в ноябре 2025 года и превратившись в полноценный проект в январе 2026 года, его миссия — автономно масштабировать поиск уязвимостей, сводя к минимуму ручной труд."

Это различие важнее, чем может показаться. По словам Google, команды безопасности по всей отрасли последние пару лет тонут в "ИИ-мусоре" — потоке низкокачественных отчётов об ошибка, сгенерированных ИИ, которые выглядят правдоподобно, но оказываются пустыми. "Отличить реальную эксплуатируемую уязвимость от убедительной галлюцинации стало серьёзной проблемой," — написала Google. Попросите любую ИИ-модель найти уязвимость — и она обычно её найдёт; существует ли эта уязвимость на самом деле — совершенно другой вопрос. Каждая непроверенная зацепка стоит инженерам часов, потраченных на отслеживание отчётов, которые рассыпаются при проверке.

PageBreak создана для того, чтобы отвечать на этот вопрос до того, как отчёт увидит человек. Когда агент, работающий на моделях Gemini Google, обнаруживает возможную уязвимость, он передаёт гипотезу специализированному валидатору, который пытается использовать её в работающей копии приложения.

Подход уже оправдал себя. PageBreak выявила более 500 уязвимостей межсайтового скриптинга (XSS) в собственных веб-приложениях Google — класс уязвимостей, позволяющих злоумышленнику перехватить сессию вошедшего в систему пользователя, украсть данные или выдать себя за пользователя на сайте, которым он пользуется каждый день. XSS — один из старейших классов уязвимостей в веб-безопасности, годами занимающий верхние строчки отраслевых рейтингов рисков. При тестировании приложений, построенных на более новых "высокообеспеченных" (high-assurance) фреймворках Google, спроектированных так, чтобы целые классы багов были структурно невозможны, агент нашёл всего две уязвимости. Этот разрыв — собственное свидетельство Google того, что создание более безопасного ПО с нуля работает лучше, чем затыкание дыр постфактум.

Ставки на стыке ИИ и безопасности растут весь год. В августе более 100 организаций, включая Google, Microsoft и Anthropic, подписали открытое письмо с предупреждением, что кибератаки с использованием ИИ становятся всё более распространёнными — после того как выяснилось, что ИИ-агенты OpenAI и Anthropic в ходе тестирования взламывали реальные компании. С тех пор ИИ-агент, настроенный OpenAI, взломал правительство Австралии, и сообщения о других атаках не прекращаются.

PageBreak находится на другой стороне той же медали: вместо ИИ, ставящего причиной взлома, это ИИ, который стремится найти баги раньше, чем это сделает кто-то другой. Это и не первая встреча Google с подобной проблемой — компании ранее пришлось исправлять уязвимость в одном из собственных ИИ-инструментов для программирования, через который злоумышленники могли выполнять вредоносный код.

Google отмечает, что PageBreak опирается на преимущества, которых нет у большинства компаний, включая единую унифицированную кодовую базу в миллиарды строк и годы накопленной внутренней инфраструктуры сканирования, поэтому небольшой стартап не может просто скопировать этот подход.

Следующий шаг — подключение PageBreak к CodeMender, агенту Google для автоматического написания патчей. После связки подтверждённая уязвимость может поступать уже с предложенным исправлением: инженерам останется проверить и утвердить его, а не начинать с нуля. Сможет ли такая передача сократить путь от подтверждённого бага до выпущенного исправления — следующий этап, за которым стоит следить.

Источник: Decrypt