Модели ИИ с открытыми весами получили публичную поддержку со стороны коалиции известных руководителей технологических компаний США, включая генерального директора NVIDIA Дженсена Хуанга, генерального директора OpenAI Сэма Альтмана, генерального директора Microsoft Сатью Наделлу и генерального директора Meta Марка Цукерберга. Руководители утверждают, что ИИ с открытыми весами расширяет конкуренцию, укрепляет безопасность и повышает доступность передовых инструментов ИИ, призывая законодателей поддерживать модели с открытыми весами, а не вводить широкие ограничения на передовой ИИ. Поддержка прозвучала на фоне активных политических дебатов в Вашингтоне о регулировании разработки ИИ, включая обсуждения экспортного контроля, требований к отчетности для передовых моделей и того, как США могут сохранять конкурентоспособность по отношению к Китаю в сфере передовых возможностей ИИ.

Совместная поддержка последовала после того, как NVIDIA опубликовала письмо под названием "Open Weights and American AI Leadership", в котором утверждается, что загружаемые и модифицируемые модели ИИ могут усилить конкуренцию, расширить доступ к инструментам ИИ, улучшить кибербезопасность и поддержать американские инновации. Хуанг поделился письмом в публикации на X, а Альтман, Наделла и Цукерберг каждый отдельно поддержали его посыл в своих публикациях.

Лидеры отрасли высказались в поддержку

Дженсен Хуанг заявил, что миру нужны как закрытые передовые, так и открытые передовые модели, отметив, что открытые модели укрепляют безопасность, кибербезопасность, инновации и национальный суверенитет. Его публикацию на X можно найти здесь.

Сэм Альтман ответил, что хочет, чтобы США лидировали как в open-source, так и в проприетарных моделях ИИ, и приветствовал инициативу. Его ответ доступен здесь.

Марк Цукерберг назвал open source важной силой, которая расширяет возможности людей и помогает предотвращать централизацию. Его публикация доступна здесь.

Сатья Наделла также поддержал инициативу, заявив, что модели с открытыми весами необходимы для здоровой экосистемы ИИ и могут укрепить конкурентоспособность США, одновременно расширяя экономические возможности и защищая национальную безопасность. Его поддержка доступна здесь.

Широта этой коалиции примечательна, учитывая, что участвующие компании придерживаются разных стратегий в области ИИ. Meta выпустила семейство крупных языковых моделей Llama по лицензиям с открытыми весами, сделав их свободно доступными для скачивания в большинстве сценариев использования. OpenAI, напротив, построила свой бизнес вокруг проприетарных моделей, доступ к которым в основном осуществляется через ее собственный API и интерфейс ChatGPT. Microsoft тесно сотрудничает с OpenAI, одновременно размещая ряд моделей на своей облачной платформе Azure, а NVIDIA поставляет GPU, лежащие в основе обучения и инференса как открытых, так и проприетарных моделей по всей отрасли.

В письме проводится параллель между сегодняшними дебатами об ИИ и ростом программного обеспечения с открытым исходным кодом в 1980-х годах. В нем отмечается, что ПО с открытым исходным кодом стало основой значительной части интернета и теперь поддерживает системы, используемые крупными технологическими компаниями, Вооруженными силами США и федеральными агентствами. Согласно документу, модели ИИ с открытыми весами могут сыграть похожую роль, позволив организациям загружать, проверять, изменять и запускать передовые модели на собственной инфраструктуре.

В письме изложены преимущества и риски

В документе говорится, что модели ИИ с открытыми весами позволяют стартапам, компаниям, университетам и государственным учреждениям использовать передовой ИИ без необходимости создавать передовые модели с нуля или платить за каждую задачу через проприетарные сервисы. Организации могут выбирать разные модели для разных рабочих нагрузок, сохраняя контроль над своими данными, специализированными возможностями и накопленными знаниями. Это отличительная черта моделей с открытыми весами: обученные параметры публикуются для скачивания, но базовые обучающие данные, код и методология могут не раскрываться полностью, что представляет собой более узкую форму открытости, чем традиция open-source ПО, на которую ссылается письмо.

Письмо также напрямую затрагивает вопросы безопасности. В нем признается, что опубликованные веса моделей трудно контролировать или отозвать после публикации. Однако в документе утверждается, что ограничение моделей с открытыми весами не является правильным ответом, поскольку защитникам в сфере кибербезопасности нужен доступ к передовым системам ИИ для выявления угроз, тестирования уязвимостей и реагирования на атаки. Такая постановка вопроса отвечает на повторяющиеся опасения некоторых исследователей безопасности ИИ и политиков о том, что широко доступные мощные модели могут снизить порог для злоумышленников при создании вредоносного контента или проведении кибератак.

Кроме того, в документе говорится, что прозрачность позволяет исследователям и разработчикам изучать поведение моделей, проводить бенчмаркинг, выполнять red-team тестирование, выявлять уязвимости и улучшать меры защиты. В нем утверждается, что концентрация передового ИИ в ограниченном числе закрытых моделей может создать единые точки отказа, подчеркивая важность разнообразной и открытой экосистемы ИИ.