Обещания ИИ-компаний замедлить разработку могут не выдержать коммерческого давления и соперничества США и Китая, если не будет обеспеченных принуждением стандартов безопасности, считают эксперты Atlantic Council в анализе, опубликованном в воскресенье.

В анализе рассматривается, кто будет обеспечивать соблюдение замедления и обладают ли правительства экспертизой, чтобы определить, когда всё более мощные системы становятся небезопасными. Оба вопроса проходят через все предложения, которые оценивают эксперты.

"Добровольные обязательства могут быть полезным сигналом, но они не заменяют независимый надзор, измеримые пороги и последствия их нарушения", — Константинос Комаитис, старший научный сотрудник инициативы Democracy + Tech при Atlantic Council.

Коммерческая дилемма уже очевидна. OpenAI недавно обратилась к законодателям с вопросом, могут ли конкурирующие разработчики ИИ на законных основаниях договориться о замедлении разработки, не нарушая антимонопольное законодательство. Это произошло после предупреждения главного научного сотрудника компании Якуба Пачоцки о том, что существующих мер защиты уже недостаточно, чтобы ответственно поддерживать разработку на полной скорости еще долгое время. Таким образом, ИИ-компании сталкиваются с конкурентными рисками, если замедляются в одиночку, и с антимонопольными рисками, если координируют свои действия.

Сотрудничество между правительствами сталкивается с аналогичным недоверием. Кентон Тибо, старший научный сотрудник council по Китаю, написала, что Пекин опасается, будто Вашингтон может использовать правила безопасности для сохранения своего технологического лидерства.

"Китай скептически относится к мотивам США и предупреждает, что обсуждения безопасности могут маскировать усилия Америки по укреплению ее 'технологической гегемонии'", — написала она. "Официальные источники настаивают, что Вашингтон не может в одностороннем порядке определять пороги рисков передовых систем и должен показать, что правила будут применяться — и могут применяться принудительно — к американским компаниям".

Тибо видит мало перспектив для крупного соглашения по безопасности ИИ, но утверждает, что более узкое, содержательное сотрудничество остается возможным. По данным Reuters, Китай также обсуждал ограничение зарубежного доступа к передовым отечественным моделям, что подчеркивает, как доступ к ИИ стал вопросом государственной политики.

В анализе также рассматривается предложение Anthropic о встроенных оценщиках — внешних специалистах, работающих внутри компании для оценки практик безопасности. Эмерсон Брукинг, старший внештатный научный сотрудник Digital Forensic Research Lab при council, приветствовал это обязательство, но предупредил, что оценщики могут слишком сильно сориентироваться на интересах компании.

Недавние инциденты демонстрируют серьезность рисков. В июле агенты OpenAI взломали репозиторий ИИ с открытым исходным кодом Hugging Face. В отдельных тестах британского AI Security Institute было обнаружено, что модели Anthropic и OpenAI совершали несанкционированные действия в интернете, включая попытку внедрить вредоносное ПО в реальный программный репозиторий; в этих тестах был включен доступ к интернету и отключены киберзащитные меры.

Независимое расследование, опубликованное в августе, установило, что в атаке на Hugging Face участвовало около 700 агентов.R, генеральный директор METR Бет Барнс отметила, что доступ расследователей был добровольным, а раскрытие информации не требовалось по всей отрасли.

На прошлой неделе, в среду, Anthropic сообщила о четвертом инциденте взлома с участием Claude, который произошел в январе и был обнаружен в августе. Компания также признала, что к более ранним атакам наряду с ошибками при тестировании привело и некорректное поведение модели. Разрывы во времени между инцидентами и их раскрытием ставят вопрос о том, насколько быстро можно выявлять и устранять сбои безопасности, — а при отсутствии общеотраслевого требования о раскрытии информации сроки таких раскрытий сейчас определяют сами компании.

Триша Рэй, заместитель директора и научный сотрудник GeoTech Center при council, утверждала, что замедление разработки также требует большего финансирования исследований безопасности и обязательных сроков отчетности об инцидентах.

"Поэтому сдерживание возможностей — неполный ответ на задачу паритета в исследованиях согласованности", — написала она. "Любое достоверное обязательство о замедлении должно сопровождаться соразмерным, количественно определенным обязательством в части исследований безопасности".

Кто обеспечит этот надзор и обладают ли правительства экспертизой для оценки рисков передовых систем, — открытый вопрос, который анализ оставляет нерешенным.

Эта статья основана на материалах, впервые опубликованных изданием Decrypt.