Трое исследователей по безопасности OpenAI, потерявшие работу на прошлой неделе, опубликовали открытое письмо, в котором обвиняют компанию в приоритете прибыли над безопасностью.

Исследователи — Жасмин Ван, Томек Корбак и Микита Балесни — были уволены из OpenAI, которая утверждает, что они передавали конфиденциальные материалы за пределы компании. Сами трое настаивают на том, что просто выполняли свою работу.

Что произошло и когда

Увольнения состоялись 1 октября 2026 года или около этой даты. OpenAI сослалась на нарушение корпоративных политик в отношении чувствительной информации.

По имеющимся данным, внутреннее расследование пришло к выводу, что троица передавала конфиденциальные материалы внешней организации по безопасности ИИ. Исследователи отвергли эту трактовку, утверждая, что их действия соответствовали профессиональным обязанностям.

Эта защита имеет вес с учетом прежней роли Корбака. Ранее он занимал пост представителя OpenAI по связям с METR и Redwood Research — двумя внешними группами по безопасности. Когда часть работы заключается во взаимодействии с внешними исследователями по безопасности, грань между «сотрудничеством» и «утечкой» может быстро размыться.

8 октября все трое направили письмо совету директоров и комитетам по безопасности OpenAI. Позднее оно было опубликовано на личном сайте Балесни.

Центральное предупреждение письма касается мониторинга «цепочки рассуждений» (chain of thought). Продвинутые модели ИИ могут выдавать цепочку промежуточных рассуждений до получения итогового результата, и исследователи по безопасности отслеживают эту цепочку на предмет признаков того, что модель делает что-то недопустимое. В письме подчеркиваются потенциальные риски в случае утраты этой возможности мониторинга.

Исследователи также указали на широкую неопределенность в отрасли относительно того, как безопасно создавать и внедрять модели, работающие за пределами человеческого контроля. Их предложение состояло из двух частей: отраслевое сотрудничество в области мониторинга моделей и привлечение независимых аудиторов безопасности.

Ответ OpenAI

OpenAI провела четкую границу между письмом и увольнениями. Компания заявила, что увольнения не связаны с деятельностью исследователей в области безопасности. Она пошла дальше, сообщив, что соглашается с рекомендациями письма. По мнению OpenAI, увольнения были необходимы из-за нарушения доверия.

Паттерн ухода специалистов по безопасности

Увольнения не произошли в вакууме. Всего за несколько дней до этого Дэвид Робинсон ушел с поста руководителя направления прозрачности в вопросах безопасности OpenAI. Робинсон критиковал внутреннюю культуру компании, выражая озабоченность тем, как OpenAI балансирует между быстрым техническим прогрессом и адекватными мерами безопасности.

Здесь есть и история. В 2024 году OpenAI уже увольняла исследователей за аналогичные нарушения на фоне продолжающихся опасений по поводу безопасности. Компания также сталкивалась с публичной критикой своих практик в области безопасности, включая недавние инциденты с безопасностью.

Что это значит

Для всей индустрии ИИ содержание письма важнее кадровых драм. Мониторинг цепочки рассуждений — одно из немногих «окон», через которые исследователи сейчас могут наблюдать, как продвинутые модели приходят к своим выводам, а призыв к общим стандартам мониторинга говорит о том, что авторы видят в этой проблеме коллективную задачу, которую ни одна компания не способна решить в одиночку.

Заслуживает внимания и структурное противоречие. Лаборатории хотят внешнего подтверждения своей работы по безопасности, что требует обмена информацией. Одновременно они хотят защитить собственные исследования, что требует сохранения их конфиденциальности. Увольнение бывшего представителя по связям с внешними группами безопасности за предполагаемую передачу материалов вовне находится ровно на этой линии разлома.

Следующие сигналы, за которыми стоит следить, вполне конкретны: объявит ли OpenAI какое-либо официальное соглашение с независимыми аудиторами; отреагируют ли публично другие лаборатории на призыв письма к совместной работе над мониторингом моделей; и последуют ли за Робинсоном и тремя исследователями новые уходы сотрудников, отвечающих за безопасность.