Создание любого стартапа связано с постоянным давлением. Предпринимателям приходится непрерывно искать жизнеспособную бизнес-модель, одновременно конкурируя с крупными действующими игроками, удерживая ключевых сотрудников и стараясь избежать провала. Цена для психического и физического здоровья может быть серьезной, а сам путь состоит из резких взлетов и болезненных падений.

Теперь представьте, что вы не просто основатель стартапа, а сооснователь компании, которая лидирует в самой трансформационной технологической сфере в истории: искусственном интеллекте.

Грег Брокман, сооснователь и президент OpenAI, был рядом с CEO Сэмом Альтманом на протяжении всей истории стартапа. Это включает и турбулентный период кратковременного отстранения Альтмана от должности главного исполнительного директора в 2023 году, а также собственный короткий отпуск Брокмана в конце прошлого года. За эти годы Брокману пришлось иметь дело с судебными исками, усиливающимся политическим и регуляторным вниманием, исторически крупными раундами привлечения капитала и общественностью, которая по-прежнему скептически относится к тому, будет ли будущее, создаваемое OpenAI, в конечном счете позитивным. OpenAI оценивалась в десятки миллиардов долларов и привлекала капитал в масштабах, беспрецедентных для частной AI-компании, что поставило ее под исключительное внимание инвесторов, политиков и конкурентов.

В четверг Fortune провела с Брокманом личную беседу, охватив широкий круг тем: недавний инцидент безопасности OpenAI с участием Hugging Face, подход США к китайским open-source моделям ИИ, фундаментальную бизнес-модель AI-лаборатории и то, как он лично справляется с огромным давлением, связанным с управлением OpenAI.

Говоря о бизнес-модели, Брокман был откровенен: "The fundamental value delivery that we are after—we're not there yet. The massive value creation is yet to come."

А что касается давления? "I lean on my wife a lot," сказал он Fortune. Действительно, когда интервью завершилось в нью-йоркском офисе OpenAI в SoHo Puck Building — где OpenAI соседствует с одним из своих крупнейших инвесторов, Thrive Capital, — этот корреспондент встретил жену Брокмана, которая приехала в New York City, чтобы поддержать мужа.

Приведенная ниже стенограмма отредактирована для краткости, ясности и публикации.

---

Fortune: Ранее на этой неделе OpenAI опубликовала пост в блоге, подробно описав ситуацию, в которой ее LLM-модели вышли за пределы изолированной среды и взаимодействовали с конкурентом, Hugging Face. Что вас больше всего удивило в этом инциденте и как можно предотвратить подобное нарушение безопасности в будущем? Нужна ли более тесная кооперация между конкурирующими AI-компаниями?

Greg Brockman: Когда мы начинаем думать о подобных моментах, речь в меньшей степени идет о конкретном инциденте, а в большей — об общем уровне возможностей, которыми обладают модели.

Наша позиция заключалась в том, что мы действительно хотим помочь защитникам применять эту технологию, чтобы люди могли использовать ее для обеспечения безопасности своих систем.

То, что они не смогли использовать нашу модель, действительно привлекло наше внимание. Нам нужно лучше работать над тем, чтобы эти модели были доступнее, а также помогать обучать людей, чтобы они понимали, зачем они им нужны. Киберзащита — огромный приоритет для нас. Мы активно усиливаем эту команду, и она начинает работать с высокой концентрацией и срочностью. Я надеюсь, что этот момент действительно сможет объединить отрасль, потому что интересы всех очень хорошо совпадают.

Fortune: В инциденте с Hugging Face прозвучало, что были две модели — одна известная модель и одна, о которой ранее не сообщалось. Можете ли вы рассказать что-то еще о том, какая модель готовится, и как вы рассматриваете эту следующую модель в свете произошедшего?

Brockman: Я не хочу слишком много добавлять сверх нашего поста в блоге, потому что расследование все еще активно продолжается. Но мы сказали, что это комбинация моделей; мы упомянули две из них, но сказали, что это комбинация разных моделей. Речь в меньшей степени о какой-то одной модели или одном релизе; на самом деле важно смотреть на общую картину.

Есть другой пост, который получил меньше внимания, но в некотором смысле является более полным. Ранее на этой неделе мы говорили о модели, которую действительно сняли. Мы внедрили ряд разных защитных мер внутри компании, а затем смогли перенести эти уроки в будущее.

Одна вещь, которую люди не до конца понимают в OpenAI, — это наш предельный фокус на безопасности ИИ и то, насколько серьезно мы относились к этому на протяжении многих лет. И на самом деле есть ряд разных направлений, где мы нашли фундаментальные инновации в том, как удерживать модели выровненными и как их мониторить.

Например, мониторинг цепочки рассуждений — это то, что мы с самого начала парадигмы рассуждений поняли как возможное. Если обучать модель иметь цепочку рассуждений, которая выглядит хорошо, вы действительно получите лучшую эффективность выполнения задач, потому что обучили ее не быть нелогичной. Но затем вы теряете достоверность, потому что оптимизировали ее под конечный результат, который выглядит хорошо. Поэтому именно здесь мы провели очень четкую черту и сказали, что никогда не будем этого делать. Каждый раз, когда люди начинают смещаться в этом направлении, мы корректируем курс. Мы постоянно принимаем такие решения. Это не то, о чем мы много говорим публично, но я думаю, что в этом мы лидируем в отрасли.

Fortune: Много обсуждается, как государство должно взаимодействовать с AI-компаниями, особенно по мере того, как эти модели становятся мощнее. Одна идея, получившая много положительных отзывов, — предложение Demis Hassabis о надзорной организации по типу FINRA. Считаете ли вы, что это может стать моделью на будущее? Как вы оцениваете напряжение между инновациями без предварительных разрешений и жестким регулированием?

Brockman: Я считаю идею Demis довольно хорошей, и что-то подобное выглядит как хороший способ сбалансировать инновации и безопасность. Думаю, мы действительно можем иметь инновации при хорошей координации и надзоре. Вакуум замедляет всех, потому что если есть неопределенность в том, как двигаться вперед или с кем говорить, мы не сможем принимать хорошие решения.

Внутри компании мы постоянно обсуждаем ровно те же вопросы: фокус на безопасности, защищенности, правильных действиях и содержательных дискуссиях о верных решениях. Полезно, когда в комнате больше голосов, если это организовано правильным образом и процесс принятия решений ясен. Хотя есть много способов сделать это неправильно, я думаю, существует рамка, которая может ускорить всех нас, и именно это мы должны совместно выработать.

Fortune: А как насчет иностранной конкуренции, в частности open-source моделей из Китая? Должно ли правительство США ограничивать доступ к этим китайским open-source моделям или они должны оставаться доступными, чтобы стимулировать инновации стартапов?

Brockman: Я могу изложить свою позицию: мы начинали OpenAI с представления о том, что в мире должно быть больше ИИ, и что люди должны получить возможности с помощью ИИ, чтобы строить лучшую жизнь. На самом высоком уровне мы считаем, что больше ИИ в мире — это действительно важно, а наличие стартапов, которые могут процветать, абсолютно критично. Возможность людей использовать ИИ так, как они хотят, абсолютно критична.

Теперь к вопросу о дистилляции: это технический вопрос или политический вопрос, который мы должны рассматривать? Мой ответ: здесь безусловно есть очень важный технический компонент. У нас всегда были защиты от дистилляции на нашей платформе в рамках общей системы того, как мы защищаем эти модели. Дистилляция — очень тонкая вещь. Получение модели с теми же самыми возможностями, что и у этих ключевых frontier-моделей, требует модели, которая использует ровно такой же объем вычислений, как одна из этих frontier-моделей. Это на самом деле очень трудно сделать, поэтому при разработке политики нужно признавать технические факты. У меня нет окончательного суждения о том, какой ответ правильный, но, думаю, для отрасли ясно: нам нужно постоянно повышать уровень наших технических защитных мер.

Fortune: Над чем вам сейчас больше всего интересно работать? Что заставляет вас вставать по утрам?

Brockman: Для меня все всегда начинается с воздействия. Десять лет назад я занимался обычными стартапами [в Stripe]. Я наблюдал за ИИ со стороны и чувствовал, что это будет самая трансформационная технология и самая позитивная сила для повышения благополучия людей из когда-либо созданных. Я просто хотел помочь направить ее в более позитивную сторону. Такой карьерой я мог бы гордиться.

ИИ больше не является теорией или чем-то, что сводится только к бенчмаркам. Вы внедряете его и видите, как люди им пользуются. Есть фермер в Японии, который использовал Codex для автоматизации своей фермы. Раньше он вручную сворачивал пластиковые тенты, а теперь это делает механическая система. Здравоохранение — еще одна огромная область применения. Мы объявили о запуске медицинских функций в ChatGPT в США, позволяющих пользователям подключать свои медицинские записи и задавать агентные запросы об истории своего здоровья.

У меня есть знакомая, которая была в больнице, и врач собирался ввести ей определенный антибиотик. Она проверила это с помощью ChatGPT, который предупредил, что с учетом ее медицинской истории это лекарство может быть смертельным. Она показала это врачу, и тот понял, что у него было всего пять минут на чтение ее карты. Вы понимаете, от решения скольких проблем мы раньше отказывались, хотя теперь нам больше не нужно от них отказываться.

Fortune: Чего ожидать от OpenAI в области физического ИИ и аппаратных устройств? Как вы видите воплощение ИИ в физических формах?

Brockman: Мы определенно пока не готовы говорить об устройстве. Это будет потрясающий момент, когда мы его представим, и оно станет первым в серии продуктов, переосмысливающих, какими должны быть устройства с учетом возможностей этой технологии.

Фундаментально важно то, что, хотя большое внимание уделяется возможностям ИИ — решению более сложных задач, — интерфейс имеет решающее значение. Если посмотреть на интерфейс ChatGPT сейчас, он слишком сложен: переключатели моделей, боковые кнопки. Наша цель — сделать так, чтобы весь этот UI исчез из поля зрения.

Как сделать Chat, которым пользуются почти один миллиард человек, и силу агентов доступными всем этим людям? Это самый сложный продуктовый поворот в истории.

У вас должно быть что-то, с чем можно взаимодействовать так же естественно и бесшовно, как с человеком. Сейчас пользоваться компьютером утомительно. У вас появляется туннельный синдром, вы сутулитесь — мы ощущаем физические последствия этого.

В ближайшие годы мы почувствуем освобождение от большой части рутины и от способов, которыми нам приходилось подстраивать себя под машины.

Fortune: Как вы решаете, какие продукты или устройства запускать в OpenAI? Как внутри компании принимаются продуктовые решения?

Brockman: В OpenAI очень сильна культура снизу вверх. У нас есть разные исторические модели того, что становится очень успешным. Например, Codex в значительной степени возник снизу вверх: небольшая увлеченная группа работала над несколькими разными проектами, которые мы затем объединили в один продукт. В противоположность этому, наш API был полностью спущен сверху. Тогда мы были исследовательской компанией и должны были создать коммерческий продукт, чтобы поддерживать финансирование. Мы прошли по списку из 20 идей и отвергли узкие вертикальные инструменты [например, в медицинской сфере], потому что это означало бы отказаться от "general" в AGI. Мы решили создать API для разработчиков, а они сами смогут понять, что строить. Это, вероятно, был самый трудный проект, над которым я когда-либо работал, потому что нам пришлось внедрять продуктовую ДНК в исследовательскую организацию, и даже не было ясно, будет ли кто-то за это платить. Но через шесть месяцев мы запустили его, получили платящих клиентов, и все сработало.

Многие наши продукты обладают таким свойством: у кого-то появляется искра идеи, или есть ясное направление движения, или у нас есть модель с неожиданными новыми возможностями, которых мы раньше не видели. Из всего этого и появляются продукты.

Fortune: Учитывая, сколько капитала сейчас идет в ИИ, какова устойчивая бизнес-модель? Нужны ли аппаратное устройство или интеграция в рабочие процессы, чтобы построить компанию поколения, или сама модель является ядром бизнеса?

Brockman: В этом есть две части. Первая: допустим, возможности моделей сегодня заморожены. Что тогда представляет собой бизнес? Думаю, в таком сценарии OpenAI сейчас находится в самой сильной позиции. У нас есть реальный шанс построить нечто поколенческое и уникальное. Нам нужно очень хорошо исполнять, но это возможность, которой мы можем соответствовать. У нас есть ChatGPT, у которого почти один миллиард пользователей, и даже с помощью уже существующей сегодня технологии мы можем дать этим пользователям гораздо больше ценности.

В этом году мы также начали по-настоящему приоритизировать корпоративное направление и видим волну импульса. Многие компании, которые пользовались конкурентом, переходят к нам; многие клиенты, которые никогда раньше не использовали эту технологию, впервые начинают пользоваться нами. Во многом это означает слушать, что нужно клиенту, хорошо создавать функции, выстраивать доверие, думать о конфиденциальности данных. Мы движемся к будущему, где само понятие бизнеса будет совсем другим. Агентные инструменты вроде ChatGPT Work меняют то, как работают компании, беря на себя административную рутину. Бизнес, который мы строим, не похож на существовавшие раньше, потому что мы демократизируем использование этой технологии и в рабочей, и в личной жизни, и все это работает на базе одной технологии.

Такие вещи, как устройство, являются частью этого, но это не вся история.

Вторая часть заключается в том, что предположение о замороженном прогрессе моделей неверно. Об этом нужно думать не совсем так, будто у нас теперь есть электричество [LLMs], и теперь нам нужно строить стиральные машины [бизнесы поверх LLMs]. Подобно тому как люди пытаются добиться термоядерного синтеза, мы пытаемся сделать так, чтобы технология совершила нечто качественно отличное от того, что делалось раньше. Именно это все еще остается возможным в ИИ. ИИ сможет решать нерешенные проблемы. Мы уже ощущаем это сейчас в математике, химии и науке. Фундаментальная доставка ценности, к которой мы стремимся, — мы еще не там. Масштабное создание ценности еще впереди. Часть этой ценности в итоге окажется у AI-лабораторий. Но часть достанется миру.

Fortune: Быть основателем любой компании трудно. Вы — основатель ведущей AI-компании в, возможно, самой трансформационной технологии, которую когда-либо видел мир. Как вы несете этот вес и ответственность?

Brockman: Честно говоря, я не смог бы делать это без моей жены. Я очень сильно на нее опираюсь. Это трудно. Бывают крайне напряженные дни. Бывают радостные и веселые дни. В большинстве дней нужно просто продолжать идти вперед. Моя любимая цитата — это цитата из велоспорта: "It never gets easier; you just go faster." Именно так мы в значительной степени работаем в OpenAI.

Я ощущаю значимость момента. Для меня большая честь и привилегия иметь такую возможность. В какой-то степени мы подписались на это десять лет назад, хотя жить внутри этого — совсем другое дело.

Конечно, бывают моменты, когда приятно подумать о том, что после успешного выполнения миссии, когда жизнь всех людей станет лучше благодаря ИИ, а AGI будет в хорошем состоянии, можно будет расслабиться и взять отпуск. Но до тех пор мне нужно просто опустить голову и продолжать идти вперед. Правда в том, что люди в OpenAI фантастические, и мы создали команду, которой действительно важна эта миссия; каждый из нас помогает другим оставаться реалистичными и сфокусированными.

Эта статья изначально была опубликована на Fortune.com.