OpenAI сообщает, что её автономные агенты безопасности обнаружили 948 уникальных уязвимостей в ядре Linux, создали рабочие эксплойты и подготовили исправления для проверки человеком — потратив около 1,2 млн долларов на кредиты API, according to the company.

Октябрьская кампания обошлась в 1 213 430 долларов в кредитах — в среднем около 1 279 долларов за уязвимость, — а более мощная, ещё не выпущенная ИИ-модель в итоге нашла более чем в пять раз больше уязвимостей, чем предыдущая версия. Хотя система также сгенерировала кандидатов в исправления, ответственность за валидацию и внедрение правок по-прежнему несут проверяющие специалисты и мейнтейнеры программного обеспечения.

"Мы выбрали Linux, чтобы изучить, насколько эффективно модели переднего края могут находить уязвимости и демонстрировать их влияние на безопасность в кодовой базе такого масштаба и значимости", — заявил OpenAI в опубликованных в среду результатах.

Ядро Linux лежит в основе облачных серверов, устройств Android и большей части критически важной вычислительной инфраструктуры мира. Выявленные в эксперименте уязвимости относились к классу локального повышения привилегий: злоумышленнику сначала требуется ограниченный доступ к уязвимой машине, но затем он потенциально может получить права root и полный контроль. Именно этот шаг эскалации превращает ограниченный доступ в контроль над всем, что работает на машине, — например, на общих системах вроде облачных серверов.

948 уязвимостей, 1 169 рабочих эксплойтов

Агенты OpenAI просканировали около 2,8 млн строк кода ядра — примерно 7% проекта. "Наш прототип выявил и проанализировал 2 308 кандидатов в находки в ядре Linux, динамически воспроизвёл 1 724 уязвимости и создал 948 эксплойтов локального повышения привилегий (LPE), которые могут позволить непривилегированному локальному пользователю получить доступ root", — сообщила OpenAI.

После группировки эксплойтов по их первопричине и предлагаемому исправлению исследователи насчитали 948 уникальных уязвимостей: эксплойты с одинаковой первопричиной и способом устранения считались одной.

OpenAI сопоставила стоимость запуска с историческими выплатами в размере от 20 000 до 70 000 долларов за эксплойты повышения привилегий в Linux на конкурсах по взлому, предположив гипотетическую ценность результатов от 18,9 млн до 66,3 млн долларов, если бы они были найдены вручную.

Более ранняя кампания GPT-5.6 Sol нашла 166 уникальных уязвимостей повышения привилегий в июле за 513 690 долларов. Новая, ещё не выпущенная кибермодель нашла более чем в пять раз больше в октябре — даже после того, как ядро прошло месяцы исправлений. OpenAI также сообщила, что её агенты использовали как минимум 10 техник эксплуатации, незнакомых исследователям и внешним экспертам, с которыми они консультировались, — а не просто существующие приёмы, извлечённые из обучающих данных.

Что будет, когда хакеры получат те же инструменты?

Эти результаты дополняют растущее количество доказательств того, что ИИ-системы способны выполнять продвинутые исследования в области кибербезопасности, которые ранее требовали значительной человеческой экспертизы.

На прошлой неделе Anthropic сообщила в исследовательском отчёте, что нереализованная версия Claude обнаружила и эксплуатировала серьёзные уязвимости в широко используемом программном обеспечении, включая Chrome и Linux. Некоторые из этих эксплойтов могли удалённо выполнять вредоносный код с минимальным взаимодействием с пользователем или вовсе без него. Публикация двух отчётов с интервалом примерно в неделю подчёркивает, как быстро лаборатории переднего края стремятся公开ировать возможности безопасности своих самых мощных моделей, удерживая эти системы от общего выпуска.

Экономика подобных исследований менялась ещё до объявления OpenAI. Исследователи Vidoc Security воспроизвели несколько открытий уязвимостей, связанных с мощной моделью Mythos от Anthropic, используя общедоступные модели — менее чем за 30 долларов за файл, как ранее сообщал Decrypt.

Эти тесты показали, что поиск уязвимостей становится всё более доступным, хотя воспроизведение уязвимости отличается от создания надёжного эксплойта, способного скомпрометировать защищённую систему.

Последний эксперимент OpenAI идёт дальше, автоматизируя значительную часть процесса эксплуатации — это развитие может дать защитникам преимущество в установке исправлений до того, как преступники смогут использовать те же слабости. Компания предупредила, что злоумышленники с ограниченным доступом к устаревшей операционной системе всё чаще смогут повышать свои привилегии с помощью ИИ. Пока предложенные агентами исправления остаются в руках проверяющих специалистов — что делает обращение с патчами, сгенерированными ИИ, для широко используемого кода конкретным событием, за которым стоит следить.

OpenAI стремится ограничить доступ к своим более мощным моделям кибербезопасности через верифицированные программы безопасности. Её инициатива Daybreak Red предоставляет одобренным защитникам доступ к специализированным ИИ-инструментам для исследования уязвимостей, тестирования эксплойтов и разработки мер противодействия.