Южнокорейский регулятор по защите персональных данных проверяет утечку данных в Anthropic, в результате которой были раскрыты около 100 бизнес-аккаунтов, принадлежащих корейским компаниям.

Комиссия по защите персональных данных (PIPC) сообщила в понедельник, что получила отчет об утечке от Anthropic, поданный компанией 31 октября. О раскрытии этой информации регулятором сообщили агентство Yonhap News Agency и Seoul Economic Daily. PIPC является главным органом Южной Кореи по защите персональных данных, и эта проверка привлекла официальное внимание к обращению зарубежного ИИ-провайдера с данными корейских корпоративных клиентов.

Что Anthropic сообщила в PIPC?

PIPC подтвердила, что Anthropic 31 октября подала отчет об утечке данных, в котором указано, что были раскрыты около 100 бизнес-аккаунтов — все они принадлежат корейским компаниям.

Проверка находится на ранней стадии, и комиссия пока не начала формальное расследование. Она отметила, что проверки с участием иностранных компаний могут занимать больше времени, поскольку регуляторы могут запрашивать документы до официального начала расследования. PIPC заявила, что после начала формального расследования намерена установить масштаб ущерба. Этот случай также показывает, как корейский надзор за защитой данных распространяется на зарубежных ИИ-провайдеров, чьи корейские корпоративные клиенты пострадали от утечки.

Anthropic сообщила некоторым своим клиентам, что раскрытые данные включали идентификаторы аккаунтов и организаций, а также контактные данные компаний, такие как имена и адреса электронной почты.

Лидия Харли, технический исследователь компании, сообщила на X, что злоумышленник также просмотрел бизнес-тарифные планы, однако пользовательские запросы, результаты работы ИИ и платежные данные доступны не были. Веса моделей Anthropic, исходный код и переписки в Claude также не были затронуты.

Компания заявила, что в тот же день, когда подтвердила проблему, отключила затронутые системы и совместно с сторонним поставщиком ПО устранила использованную уязвимость. Anthropic также признала, что в части мониторинга стороннего ПО остается еще много работы. Инцидент показывает, как стороннее ПО может стать точкой утечки для ИИ-провайдеров даже тогда, когда их основные системы остаются нетронутыми.

Кто такая Cathedral и как произошла утечка?

Cathedral — молодой стартап в области кибербезопасности, основанный четырьмя бывшими сотрудниками расформированного Департамента эффективности правительства (DOGE): Гэвином Клигером, Люком Фарритором, Марко Элезом и Джеком Стайном. Компания оценена в 1,4 млрд долларов после привлечения 160 млн долларов от Andreessen Horowitz и Sequoia Capital; Марк Андреессен и Шон Магуайр входят в ее совет директоров.

По имеющимся данным, стартап стремится укрепить кибермощности вооруженных сил США против таких соперников, как Китай, и имеет контракты с тремя федеральными агентствами.

Клигер, генеральный директор, имеет наиболее тесную историю отношений с Anthropic. Ранее он занимал должность директора по данным в Пентагоне и, по ряду свидетельств, участвовал в конфликте департамента с Anthropic по вопросу о том, как военные могут использовать ее ИИ-модели.

Согласно версии событий, изложенной Cathedral и зафиксированной в базе ИИ-инцидентов MIT, ее ИИ-агенты менее чем за 12 часов нашли пути к расшифровкам встреч, данным о зарплатах и предложениях о работе, а также к внутренним сообщениям Slack.

Логан Грэм, руководитель направления кибербезопасности Anthropic, опроверг это утверждение, опубликовав на X пост о том, что работа на самом деле заняла несколько дней. Он написал, что метод Cathedral был «необычным и выходящим за рамки», поскольку объединял уязвимости из нескольких сторонних программных продуктов.

Тестирование защиты Anthropic должно было проводиться в рамках программы вознаграждения за найденные уязвимости этой компании, однако, по данным Anthropic, стартап нарушил правила программы, не полностью объяснив масштаб теста, и преувеличил значимость своих выводов для национальной безопасности.

Кроме того, по имеющимся данным, собственные системы мониторинга Anthropic зафиксировали часть активности еще до того, как Cathedral подала свой отчет.

Пока Anthropic не подала юридическую жалобу, а Cathedral заключила соглашение с OpenAI о тестировании собственной защиты. Останется ли ранняя проверка PIPC без формального расследования или перейдет в него — ключевой вопрос, как и возможное решение Anthropic о судебных действиях.