Призывы к федеральному регулированию ИИ в США и возможному глобальному замедлению развития передовых моделей создают неопределенность для компаний. Они оценивают, могут ли будущие ограничения повлиять на использование моделей с открытыми весами, особенно разработанных в Китае, поскольку спрос на более дешевые альтернативы проприетарным системам растет.

В понедельник представитель Министерства иностранных дел Китая Го Цзякунь назвал недавние призывы компаний Anthropic и OpenAI, разрабатывающих передовые модели ИИ, замедлить развитие технологий «нагнетанием страха, конфронтацией и ожесточенной конкуренцией».

Заявление Го последовало за эссе, опубликованным в выходные генеральным директором и сооснователем Anthropic Дарио Амодеи. В нем Амодеи призвал мировую индустрию ИИ замедлить развитие возможностей передовых моделей, а демократические страны — координировать действия с ведущими компаниями в сфере ИИ.

Эссе Амодеи вышло через четыре дня после публикации заявления директора OpenAI по глобальным вопросам с призывом к разработке федеральной политики в области ИИ. Заявление было опубликовано в тот же день, когда ушел из компании исследователь ИИ, ранее работавший в Anthropic, заявив, что ни OpenAI, ни Anthropic не действуют ответственно. Исследователь также утверждал, что эта технология может привести к вымиранию человечества.

Этим событиям предшествовал призыв сотрудников Anthropic, Google, Meta и OpenAI, прозвучавший в июле, к правительству США поддержать международное регулирование, направленное на управление темпами развития ИИ.

Компании в условиях неопределенности

По мере усиления призывов к действиям правительства компании вынуждены принимать технологические решения в условиях дополнительной неопределенности в сфере, которая и без того быстро меняется.

«Компаниям приходится выбирать платформы ИИ, поставщиков, наборы навыков, архитектуры и операционные модели, понимая, что базовая технология может измениться до того, как эти инвестиции полностью окупятся», — сказал Кашьяп Компелла, основатель RPA2AI Research. «Дискуссия о противостоянии одновременно добавляет несколько новых факторов неопределенности».

Компании пытаются понять, продолжится ли развитие передовых моделей нынешними темпами или замедлится, могут ли открытые модели попасть под ограничения и останутся ли некоторые важные возможности ИИ под частным контролем. Эти вопросы также объединяют выбор поставщика, доступ к моделям и требования к управлению в рамках одного технологического решения, а не отдельных задач.

По словам аналитика Futurum Group Дэвида Николсона, некоторые из этих опасений могут отвечать интересам OpenAI и Anthropic. Компании все чаще признают, что, несмотря на высокую производительность передовых моделей, такие системы стоят дороже открытых моделей. В некоторых случаях, отметил он, с помощью небольших моделей с открытыми весами или полностью открытым исходным кодом компании могут сделать больше при меньших затратах.

«С каждым днем все меньше и меньше рабочих нагрузок действительно нуждаются в том, что может предложить передовой уровень передовых моделей», — сказал Николсон, отметив, что Anthropic и OpenAI приближаются к долгожданным и потенциально прибыльным первичным публичным размещениям акций.

«Нет сомнений, что передовой уровень передовых моделей впечатляет, но если начать оценивать стоимость того, за что вы платите, и сопоставлять ее с конкретной задачей, существуют более экономичные способы сделать то, что OpenAI и Anthropic предлагают рынку», — добавил он.

Давление со стороны открытых моделей

OpenAI и Anthropic сталкиваются с растущим ценовым давлением со стороны разработчиков преимущественно открытых моделей. Поэтому некоторые аналитики считают, что их призывы к федеральному регулированию ИИ связаны не только с более широкими соображениями безопасности, но и с попытками сохранить позиции на рынке ИИ.

«В интересах сохранения своей дуополии в этой сфере они готовы позволить правительству регулировать себя», — сказал Николсон. «Они просят федеральное правительство вмешаться и защитить их от конкуренции со стороны Китая».

Последние достижения китайских разработчиков ИИ, включая Alibaba, Moonshot AI и Z.ai, продемонстрировали растущие возможности открытых моделей. По словам Николсона, компании, создающие передовые модели, признали, что открытые модели приближаются по качеству к их системам, оставаясь при этом значительно дешевле.

«Они находятся под осадой из-за появления множества всех этих моделей с открытыми весами», — сказал Лиан Цзе Су, аналитик Omdia, подразделения Informa TechTarget. «Это бизнес-риск, с которым они сталкиваются накануне IPO».

Су отметил, что китайские компании также утверждают: призывы к регулированию особенно характерны для США, поскольку Китай уже вводит правила для ИИ. Недавно Китай представил правила, призванные не допустить формирования у несовершеннолетних отношений с чат-ботами на основе ИИ.

«Возможно, это связано с IPO, возможно, Anthropic заинтересована в замедлении процесса, но это по-прежнему очень важно, поскольку в США принципиально отсутствует такое регулирование управления ИИ, какое уже есть в Китае», — сказал Су.

Он добавил, что Anthropic также рассматривает открытый исходный код как потенциальный риск, поскольку это децентрализованный и широко доступный технологический формат с меньшим уровнем управления.

Страхование от регуляторной неопределенности

Для компаний неопределенность в отношении того, будут ли будущие правила распространяться на ИИ с открытым исходным кодом, в сочетании с геополитической напряженностью вокруг китайских моделей может привести к тому, что они продолжат использовать передовые модели, несмотря на их более высокую стоимость. По словам Николсона, компании могут поступать так, чтобы застраховаться от вероятности того, что регулирование в будущем затронет другие варианты.

«[Компании] готовы платить за определенность», — сказал он.

Комперла считает, что компаниям следует реагировать на регуляторную неопределенность проактивно. «Управление должно стать операционной возможностью, а не формальным упражнением для галочки», — сказал он.

Он отметил, что компании не могут относиться к управлению ИИ как к документу, который пересматривается лишь время от времени.

«Для систем, способных получать доступ к данным, писать код, использовать инструменты, принимать решения и действовать автономно, этого недостаточно», — сказал Компелла.

Он рекомендовал компаниям отдавать приоритет программам раннего доступа и предварительного тестирования, чтобы быть ближе к возможностям передовых моделей, особенно в сфере кибербезопасности ИИ.

«Готовность к киберугрозам становится центральным фактором», — сказал Компелла. «По мере того как агентные системы получают более сильные наступательные и оборонительные возможности, команды безопасности должны исходить из того, что ИИ будет сокращать как циклы атак, так и циклы реагирования».

Источник: AI Business