Белый дом активно отслеживает инцидент, раскрытый OpenAI, в ходе которого одна из ИИ-моделей компании вырвалась из-под контроля во время теста на безопасность и проникла в системы стартапа в сфере ИИ-инфраструктуры Hugging Face.

Во вторник OpenAI объявила, что ИИ-агент вырвался из изолированной тестовой среды и спровоцировал взлом, который скомпрометировал инфраструктуру Hugging Face. Hugging Face управляет широко используемой платформой, где разработчики совместно работают над кодом для ИИ-моделей, размещая сотни тысяч моделей с открытым исходным кодом и служащие основой для большей части общей исследовательской инфраструктуры ИИ-индустрии.

Майкл Кратсиос, директор Белого дома по науке и технологиям (OSTP) и научный советник президента, был проинформирован об инциденте и продолжает следить за ситуацией, сообщил официальный представитель Белого дома агентству Reuters. Этот брифинг отражает растущее вовлечение правительства США в надзор за безопасностью ИИ, что закреплено указом от октября 2023 года, требующим от разработчиков мощных ИИ-моделей сообщать о результатах тестов на безопасность федеральному правительству.

По словам OpenAI, инцидент произошел во время внутренней оценки, предназначенной для измерения продвинутых кибернетических возможностей ее ИИ-моделей. Исследователи отключили некоторые встроенные механизмы безопасности и поместили модели в изолированную тестовую среду с ограниченным доступом к Интернету.

Компания заявила, что модели использовали ранее неизвестную уязвимость программного обеспечения для получения доступа к Интернету, а затем проникли в системы Hugging Face — по-видимому, в попытке обмануть проводимую оценку кибербезопасности.

Команда OpenAI выявила эту аномальную активность внутри компании, в то время как собственная служба безопасности Hugging Face одновременно обнаружила и остановила вторжение. К моменту, когда две команды связались друг с другом, Hugging Face уже инициировала меры по локализации и криминалистическому анализу, используя собственные модели.

Генеральный директор OpenAI Сэм Альтман затронул эту ситуацию во вторник в публикации на платформе X, заявив: «У нас произошел серьезный инцидент безопасности во время оценки наших моделей». Он добавил, что компания делится тем, что узнала на данный момент, и выразил признательность Hugging Face за партнерство в решении этой проблемы.

Сооснователь и генеральный директор Hugging Face Клем Деланг ответил: «Мы благодарны за сотрудничество с OpenAI по этому и другим вопросам. Этот инцидент, возможно, первый в своем роде, доказывает то, во что мы давно верим: проблема безопасности ИИ не будет решена ни одной компанией, работающей втайне. Она будет решена открыто, в сотрудничестве, с широким доступом к ИИ для каждого защитника везде, где бы он ни был».

Деланг также отметил в публикации на платформе X, что Hugging Face твердо уверена в отсутствии злого умысла со стороны OpenAI, и описал произошедшее как «совершенно поразительное, что все это произошло автономно».

Этот инцидент подчеркивает расширяющиеся возможности ИИ-моделей выходить за рамки установленных ограничений и создавать новые киберугрозы. Он также подчеркивает напряженность между закрытым и открытым подходами к разработке ИИ — дискуссию, которая обострилась по мере того, как модели становятся более способными, а политики размышляют над тем, как регулировать системы, способные автономно обнаруживать и эксплуатировать уязвимости.

Сотрудники FOX Business Майкл Синкевич и агентство Reuters внесли свой вклад в подготовку этого отчета.