В социальных сетях и внутри OpenAI разгорается спор о том, почему на прошлой неделе компания уволила трёх сотрудников своей команды безопасности. Теперь и бывшие сотрудники, и OpenAI выпустили дополнительные заявления, чтобы изложить свои версии событий.

Этот спор выходит за рамки кадровых решений одной компании: в его основе лежат вопросы о том, насколько широким должен быть доступ внешних исследователей к передовым ИИ-моделям и могут ли сотрудники, добивающиеся такого доступа, делать это, не ставя под угрозу свою работу.

Двое из уволенных исследователей — Томек Корбак и Микита Балесни — работали над расследованием OpenAI инцидента безопасности, о котором ранее сообщал Fortune. Корбак был техническим контактным лицом METR — сторонней исследовательской фирмы, которую OpenAI попросила провести независимый аудит инцидента; именно на подобные внешние проверки ИИ-лаборатории опираются, чтобы подтвердить заявления о безопасности своих самых мощных систем. Третья уволенная сотрудница, Жасмин Ван, была менеджером программы в команде безопасности OpenAI.

The Wall Street Journal первой сообщила об увольнениях 1 октября. В то время OpenAI заявила, что «эти люди ненадлежащим образом обращались с конфиденциальной информацией вне установленных корпоративных процедур, нарушая наши правила и подрывая доверие, которое необходимо для нашей работы».

Уволенные сотрудники публикуют письмо в ответ на обвинения

С тех пор обсуждения и споры внутри OpenAI, судя по всему, продолжались, что побудило трёх бывших сотрудников совместно написать письмо на четыре страницы, опубликованное 8 октября.

Письмо отвечает на «различные circulating версии событий», ходящие среди сотрудников OpenAI, и ссылается на продолжающиеся «внутренние и внешние коммуникации» по поводу увольнения, из-за которых, по словам бывших сотрудников, действующие сотрудники «боятся говорить» открыто.

«Такие увольнения, как наше, проведённые и сообщённые столь внезапно, подавляют открытую культуру, которой OpenAI прежде дорожила», — говорится в письме. «Именно эту культуру мы пишем, чтобы защитить».

Две главные темы письма — способность OpenAI контролировать свои передовые модели и её взаимодействие со сторонними организациями по безопасности, такими как METR; обе определяют, насколько внешние стороны могут оценивать системы, которые иначе им недоступны. Бывшие сотрудники отрица, что передали The Information опасения по поводу возможности контроля за новейшей моделью OpenAI Astra, о которой издание опубликовало статью 1 сентября. Они также отрицают какие-либо неправомерные действия в своих коммуникациях с METR.

Сотрудники призывают OpenAI сохранить возможность пристального контроля за своими передовыми моделями, придерживаться обязательства включать сторонних аудиторов безопасности в организацию и развивать открытую и прозрачную культуру.

«Мы опасаемся, что наши увольнения могут быть использованы как обоснование для прекращения сотрудничества OpenAI с METR или иного существенного ограничения доступа и полномочий внешних аудиторов», — говорится в письме.

Разные версии причин увольнений, но ничего конкретного

OpenAI не раскрыла конкретных причин увольнений, но сообщила Fortune, что выявила модель неправомерного поведения со стороны трёх сотрудников, включая ряд нарушений, явно нарушавших её правила работы с информацией. Компания не связала увольнения с её коммуникациями с METR или инцидентом с Hugging Face.

Каждый из бывших сотрудников на этой неделе дал краткое личное объяснение в постах в социальных сетях со ссылкой на совместное письмо.

Корбак сообщил в X, что OpenAI сообщила ему устно, а не письменно, что он «был уволен из-за того, как я общался с METR».

«На прошлой неделе меня пригласили на встречу с главой безопасности OpenAI и сказали, что они больше мне не доверяют. Охранник забрал мой пропуск и вывел меня из здания», — сказал Корбак. «Общение с METR было моей работой».

Ван сообщила в X, что причиной, названной OpenAI, был её доступ к электронной почте неназванного руководителя. По её словам, компания предоставила ей этот доступ для рекрутинговой работы, а когда он ей больше не понадобился, она попросила ИТ-отдел его убрать, но её запрос так и не был выполнен.

«Мы не первые, кого выдавили из OpenAI при подозрительных обстоятельствах», — сказала Ван. «Если сотрудники не выступят сейчас против подобных манёвров, я опасаюсь, что мы не будем последними. Посыл всем, кто остался в OpenAI, ясен: поднимайте проблемы или тесно работайте с внешними группами по безопасности — и следующим можете оказаться вы, причём без объяснения причин».

Балесни сообщил в X, что он и его коллеги-исследователи «были уволены за то, что ставили безопасность выше ближайших интересов OpenAI как корпорации».

Есть ли у OpenAI нездоровая культура безопасности?

В ответ на письмо OpenAI направила сотрудникам внутреннюю памятку и опубликовала публичное заявление в X. «Наше внутреннее расследование выявило серьёзное нарушение доверия, выходящее за рамки описанного в опубликованном ими письме, и мы остаёмся при решении не продолжать с ними трудовые отношения», — заявила компания.

Неясность относительно того, что именно сделали сотрудники или что они могли передать METR, породила множество предположений о произошедшем. METR не ответила на запрос Fortune о комментарии.

«Я с трудом могу представить ситуацию, в которой действия OpenAI здесь были бы оправданы», — сказал Нил Нанда, сотрудник Google DeepMind, ранее работавший в Anthropic, в посте в X. «Увольнение людей за добросовестную попытку использовать своё лучшее суждение в новой и неопределённой ситуации — признак глубоко нездоровой культуры».

Бывший руководитель направления прозрачности безопасности OpenAI Дэвид Робинсон также выступил в этом месяце с критикой «сломанной» культуры безопасности компании в колонке мнений в The Atlantic, написав, что компания «далеко недостаточно безопасна» и полагается на «метод проб и ошибок». В качестве доказательства он привёл инцидент с Hugging Face, отметив, что меры защиты, введённые OpenAI в ответ, всё равно не смогли предотвратить новые несанкционированные инциденты.

OpenAI поделилась с Fortune частью внутренней памятки сотрудникам, направленной её руководителями исследований, — предположительно её автором является Марк Чен, директор по исследованиям, хотя компания автора не назвала. В памятке подтверждается приверженность OpenAI работе со сторонними оценщиками безопасности и говорится, что «возможность мониторинга для нас имеет первостепенное значение».

«Я дорожу нашей открытой культурой дискуссий, особенно когда речь идёт о безопасности, и считаю эту открытость критически важной для принятия правильных решений», — говорится в памятке. «Хочу чётко дать понять: эти решения не были связаны с поднятием вопросов безопасности или публичными высказываниями. Мы всегда поощряли это и всегда будем».

OpenAI заявила, что по-прежнему намерена сотрудничать со сторонними оценщиками безопасности и сейчас завершает подготовку контрактов, о которых объявит «в ближайшие недели». Объём доступа, который эти соглашения предоставят внешним оценщикам — и насколько он будет соответствовать встроенным механизмам, сохранения которых требует письмо, — станет самым конкретным показателем того, как эти заявленные обязательства будут реализованы на практике.

Эта история была первоначально опубликована изданием Fortune.