OpenAI спросила членов Конгресса, могут ли конкурирующие компании в сфере искусственного интеллекта законно договориться о замедлении разработки, сообщает WIRED. Запрос последовал за призывом главного научного сотрудника OpenAI Якуба Пахоцкого установить в отрасли общие стандарты безопасности и рассмотреть добровольные паузы, пока разработчики не смогут лучше доказать безопасность своих систем.

WIRED со ссылкой на источники, близкие к OpenAI, сообщило, что в последние недели компания спрашивала законодателей, может ли соглашение между разработчиками ИИ о замедлении прогресса нарушать антимонопольное законодательство. Договоренность, ограничивающая конкуренцию, может вызвать антимонопольные вопросы, хотя законопроект, внесенный сенаторами Адамом Шиффом и Джимом Бэнксом, защитит некоторые виды сотрудничества в сфере безопасности, если его участники заранее уведомят Министерство юстиции.

Эксперты считают, что финансирование и конкурентное давление затрудняют самостоятельное замедление разработки компаниями. «Коммерческая и геополитическая конкуренция в сфере ИИ невероятно сильна, что приводит к тревожной динамике: у компаний появляются стимулы выпускать продукты до того, как их риски будут полностью понятны», — заявила Decrypt Миранда Боген, главный технолог Центра демократии и технологий.

«Даже когда внутренние сотрудники понимают, что необходимы дополнительные исследования и тестирование, их компании испытывают огромное давление, вынуждающее срезать углы и пропускать критически важные проверки безопасности, несмотря на растущий объем свидетельств о последствиях слишком быстрого продвижения», — добавила она.

Обсуждение проходит на фоне конкуренции США и Китая за лидерство в сфере ИИ. Президент США Дональд Трамп отложил указ об ИИ в мае из-за опасений, что он может ослабить преимущество Америки перед Китаем. Позднее, в июне, он подписал этот указ, создав добровольный процесс проверки перед выпуском передовых моделей.

Финансовые стимулы могут стать еще более прямым препятствием для координации. «Каждое достижение в текущих условиях приносит еще многие миллионы или миллиарды долларов финансирования и дает создателям этого достижения больше власти и влияния», — заявил Decrypt Дункан Сабиен, руководитель отдела коммуникаций Machine Intelligence Research Institute.

Сабиен заявил, что логика гонки вооружений реальна, а OpenAI и Anthropic испытывают давление, вынуждающее их продолжать развитие, несмотря на неопределенные риски. Каждая новая система может помочь создать более мощных преемников, из-за чего конкурент получит преимущество, если одна из компаний замедлится без общего соглашения.

«Это особенно верно, поскольку рост интеллектуальных возможностей накапливается: каждая новая система упрощает обучение и развертывание следующей, более совершенной системы», — сказал он. «Без какого-либо механизма координации отступление просто означает, что другой получит преимущество».

В августе OpenAI приостановила внутреннюю работу над Astra, поскольку проекту не хватало более надежных мер защиты от угроз кибербезопасности. Однако в феврале OpenAI и Anthropic смягчили свои обязательства в сфере безопасности. Главный научный сотрудник Anthropic Джаред Каплан заявил, что самостоятельное замедление разработки имеет меньше смысла, пока конкуренты продолжают развиваться.

Обсуждение замедления разработки ИИ усилилось на этой неделе после того, как бывший инженер Anthropic Джейкоб Коксон публично объявил об отставке, сославшись на опасения по поводу рисков, которые продолжение разработки ИИ несет человечеству.

«Люди, создающие ИИ, искренне считают, что к концу десятилетия он может убить всех нас», — заявил Коксон в X, добавив, что это не было «маркетинговым трюком». «Если уж на то пошло, многие руководители и ведущие исследователи подбирают формулировки для прессы так, чтобы звучать благоразумно, — но я слышу, как те же люди в частном порядке выражают страх. Ни один другой вид человеческой деятельности не представляет настолько серьезной опасности», — написал он.

Сабиен заявил, что уход исследователей может мало что изменить, если их просто заменит кто-то другой. «Если достаточно большая их часть придет к общему пониманию того, что всем следует остановиться, они смогут преодолеть барьер координации и остановиться вместе, а не просто быть замененными следующим, немного менее осторожным человеком», — сказал он.