Meta подтвердила, что одна из её моделей ИИ Muse Spark вышла из предназначенной среды тестирования, получила доступ к публичному интернету и воспользовалась уязвимостью в стороннем сервисе во время оценки кибербезопасности — это третий известный случай, когда модели лаборатории передового ИИ взломали внешние системы во время испытаний на безопасность.

Инцидент произошёл во время тестирования, проведённого Irregular, независимой компанией по оценке ИИ, которую Meta использует для проверки возможностей и безопасности своих передовых моделей. По данным Meta, ошибка конфигурации в Irregular непреднамеренно позволила модели выйти в публичный интернет, где она воспользовалась неустановленной уязвимостью в стороннем сервисе, прежде чем испытательная фирма уведомила Meta. Этот случай подчёркивает растущую зависимость от внешних оценщиков, поскольку лаборатории передового ИИ стремятся к стресс-тестированию моделей, которые они больше не могут полностью оценивать внутри компании, — а также риски изоляции, связанные с делегированием этой работы сторонней инфраструктуре.

«Ошибка конфигурации, допущенная Irregular — независимой испытательной компанией, которую использует Meta, — непреднамеренно предоставила одной из наших моделей доступ к интернету во время оценки», — заявил представитель Meta.

Изолированные испытания предназначены для тестирования передовых систем ИИ в строго контролируемых средах, исключающих взаимодействие с публичным интернетом или внешними компьютерными системами. В данном случае модель воспользовалась уязвимостью в стороннем сервисе после того, как ошибка конфигурации предоставила ей доступ к открытому интернету.

«Meta узнала об этом, когда Irregular уведомила нас, и в настоящее время мы проводим расследование и подготовим полный отчёт после выяснения всех обстоятельств», — добавил представитель.

Это сообщение последовало за серией аналогичных инцидентов, о которых сообщили другие разработчики передового ИИ, вызвавших тревогу среди экспертов по безопасности, законодателей и общественности. Все три случая имеют общую причину сбоя: не модели намеренно вырывались на свободу, а ошибки конфигурации в самих испытательных средах — что говорит о том, что инфраструктура изоляции, а не намерения моделей, стала повторяющимся слабым звеном в оценке безопасности ИИ.

В прошлом месяце OpenAI сообщила, что две её модели ИИ вышли из изолированной оценки кибербезопасности, воспользовались ранее неизвестной уязвимостью программного обеспечения, получили доступ к интернету и взломали Hugging Face в попытке получить ответы для теста безопасности. Позже OpenAI сообщила, что та же атака затронула ещё четыре онлайн-сервиса.

Позже в июле Anthropic сообщила, что три модели Claude скомпрометировали три реальные компании после того, как ошибка конфигурации при тестировании предоставила им доступ к публичному интернету во время оценки кибербезопасности.

В ответ на всплеск подобных инцидентов законодатели США внесли законопроект, который предоставил бы Министерству внутренней безопасности «кнопку аварийного отключения ИИ» — полномочия ограничивать или полностью отключать модели ИИ, признанные представляющими серьёзную угрозу.