До того как OpenAI стала одной из самых известных компаний в области искусственного интеллекта, в ее ранние годы, по сообщениям, обсуждались весьма необычные бизнес-предложения. Согласно новому рассказу о периоде основания компании, руководители предлагали продавать будущие инструменты ИИ правительствам, включая Китай и Россию, а также существовал план предоставить Канье Уэсту ранний доступ к невыпущенной модели. Как сообщается, ведущие сотрудники отреагировали с тревогой, и высказанные тогда возражения продолжают находить отклик в индустрии ИИ сегодня.

Этот рассказ, подготовленный технологическим журналистом Кевином Рузом для The Atlantic, имеет значение, поскольку помогает объяснить один из самых значительных расколов в современной технологической индустрии: несколько человек, которые наиболее активно противостояли этим идеям, позже ушли и основали Anthropic — ныне одного из самых прямых конкурентов OpenAI. Он также появляется на фоне дебатов, которые лишь обострились по мере превращения ИИ в крупный бизнес: кто должен финансировать и формировать столь мощную технологию и кто вправе ею пользоваться.

«План по странам» и предложение Канье Уэсту

Центральный эпизод относится к 2017 году. Сооснователи OpenAI Грег Брокман, ныне президент компании, и Илья Суцкевер, по сообщениям, выдвинули внутреннее предложение, известное как «план по странам». Идея заключалась в финансировании гонки к общему искусственному интеллекту (AGI) путем привлечения государств. Согласно предложению, OpenAI могла бы выставить на аукцион будущие права на AGI или принять деньги от правительств. Среди упомянутых стран были США, Китай и Россия. Вопрос о том, кто финансирует передовой ИИ, с тех пор стал актуальной темой политики, поскольку стоимость обучения передовых моделей выросла до уровней, которые немногие организации могут нести в одиночку.

Дарио Амодеи, тогда старший научный сотрудник OpenAI, как сообщается, решительно возразил. В сентябре 2017 года он изложил свои опасения и назвал план «морально недопустимым». Согласно отчету, его аргументация была двоякой он утверждал, что план может усилить гонки вооружений между соперничающими державами и может способствовать нарушениям прав человека. Обе проблемы с тех пор перешли в мейнстримные политические дебаты — от государственного контроля за передовыми ИИ-чипами до международных обсуждений безопасности и военного применения ИИ.

Второй эпизод произошел в 2020 году. Генеральный директор OpenAI Сэм Альтман, по сообщениям, предложил Канье Уэсту ранний доступ к версии GPT-3 — языковой модели, которая позже стала основой коммерческих продуктов OpenAI. В том же году OpenAI начала предлагать GPT-3 внешним разработчикам через платный API — ранний шаг к коммерциализации. Директор OpenAI по политике, как сообщается, прекратил эту договоренность, указав на непредсказуемое поведение Уэста.

OpenAI оспаривает части этой истории. Компания не согласна с характеристикой плана по странам, заявляя, что рассматривала только модель международного сотрудничества и никогда не намеревалась продавать AGI Китаю или России.

Как внутренние конфликты породили компанию-конкурента

Амодеи не был периферийной фигурой в OpenAI. Он сыграл ключевую роль в разработке GPT-2 и GPT-3 — моделей, которые превратили компанию из исследовательского диковинного проекта в серьезного коммерческого игрока.

Согласно отчету, план по странам и эпизод с Канье Уэстом были частью более широкой картины трений. Разногласия по вопросам управления, движение к коммерциализации и недоверие к руководству, по сообщениям, накапливались в период перехода OpenAI к гибридной коммерческой модели. Основанная в 2015 году как некоммерческая организация, ориентированная на создание безопасного ИИ на благо всех, компания перешла к структуре, способной привлекать крупные суммы и продавать продукты.

Амодеи и несколько коллег в итоге ушли. В 2021 году они основали Anthropic, представив ее как лабораторию, ставящую безопасность на первое место, причем Амодеи занял пост генерального директора.

Что это значит для гонки ИИ

Соперничество между OpenAI и Anthropic, по сообщениям, началось как разногласие по ценностям: кто должен финансировать мощный ИИ, кто должен получать к нему доступ и какие ограничения должны существовать вокруг того и другого. Обе лаборатории теперь конкурируют за корпоративных клиентов, государственные контракты и лучшие исследовательские кадры. Их история возникновения продолжает формировать то, как каждая из них себя подает, причем Anthropic во многом опирается на имидж компании, ставящей безопасность на первое место, — и этот рассказ помогает его объяснить.

Отрицание OpenAI будет ключевым для восприятия этого эпизода. Если версия компании подтвердится, план по странам выглядит как ранний мозговой штурм о международном сотрудничестве, ни к чему не приведший. Если же возьмет верх версия критиков, это поднимет более сложные вопросы о суждении руководства компании, обладающей сейчас огромным влиянием. Любые дополнительные публичные свидетельства бывших сотрудников или более развернутый ответ компании помогут определить, какая версия закрепится.

Эпизод с Канье Уэстом, в свою очередь, иллюстрирует, насколько неформально могли приниматься решения о доступе в компании, работающей с мощной технологией, — и насколько многое зависело от отдельных сотрудников, готовых сказать «нет».