Либертарианский институт Cato предупреждает, что установленная государством пауза в развитии искусственного интеллекта может оградить доминирующие компании от конкуренции и задержать появление полезных технологий. Предостережение прозвучало на фоне того, как законодатели и руководители ИИ-компаний выступают за новые ограничения в отрасли. То, как Вашингтон в итоге решит регулировать эту технологию, может определить не только подходы к контролю безопасности, но и то, какие компании вообще смогут создавать и внедрять системы ИИ.

В записи блога, опубликованной в понедельник, Дженнифер Хаддлстон, специалист по технологической политике в аналитическом центре, утверждала, что компании могут устранять конкретные опасности с помощью добровольных мер защиты и общих стандартов, не останавливая развитие всей отрасли.

«Установленная государством пауза вызовет ряд проблем и, вероятно, не оправдает обещанных улучшений безопасности», — написала она, добавив, что государственные правила пишутся медленно, а меняются ещё медленнее. «Регуляторная база, созданная под сегодняшние модели, может активно мешать моделям завтрашним, препятствуя более качественным и безопасным решениям».

Хаддлстон признаёт риски ИИ, но предупреждает, что правила, сформированные вокруг ведущих разработчиков, могут помочь им консолидировать власть и ограничить конкуренцию — это форма захвата рынка, которая затруднит конкуцию для небольших компаний. Она также утверждает, что пауза в разработке в США может ослабить киберзащиту страны, пока зарубежные конкуренты продолжают двигаться вперёд.

Её комментарии последовали за предложением сенатора Берни Сандерса, независимого политика от Вермонта, и конгрессмена-демократа из Техаса Грега Касара приостановить разработку передового ИИ до создания федеральных стандартов безопасности и навсегда запретить искусственный сверхразум — гипотетическую систему, способную соответствовать человеческим возможностям или превосходить их в большинстве когнитивных задач. Призывы к осознанному замедлению звучали и раньше: в марте 2023 года открытое письмо, организованное Институтом будущего жизни и подписанное тысячами людей, включая Илона Маска, призывало ИИ-лаборатории приостановить обучение систем мощнее GPT-4 как минимум на шесть месяцев. Тем временем генеральный директор OpenAI Сэм Альтман поддержал более медленную разработку и призвал компании укреплять меры защиты, не дожидаясь федеральных правил, которые он сам поддерживает.

«Многие из этих призывов сопровождаются антиутопическими сценариями в духе научной фантастики о самом худшем, что может произойти», — написала Хаддлстон. «Однако поспешное регулирование под влиянием страха может иметь более долгосрочные негативные последствия, чем риск, который оно призвано устранить».

Джек Дорси, председатель совета директоров и сооснователь Block, а также сооснователь Twitter, выразил схожие опасения о конкуренции в посте в X в понедельник.

«Компании, лидирующие в области машинного интеллекта, заслуживают того, чтобы их выслушали. У них есть экспертиза и коммерческие интересы, которые нужно защищать», — написал Дорси. «Правила, выстроенные вокруг их ресурсов, могут сделать их единственными, кто сможет участвовать в отрасли. Искренняя озабоченность безопасностью всё равно может создать барьер для входа».

Дорси сказал, что поддерживает открытые релизы, которые исследователи могут изучать, изменять и тестировать, с публикацией оценок и известных ограничений, чтобы внешние специалисты могли оспаривать заявления разработчиков о безопасности.

«Я поддерживаю проверку. Я против отраслевых ограничений, согласованных нынешними лидерами, потому что они могут исключить людей, способных выявить сбои или создать альтернативы», — написал он.Сохранение коммерческого преимущества компании не является целью безопасности».

Дорси также сказал, что поддерживает независимое тестирование и подотчётную общественности правоприменительную практику, включая удержание моделей, если доказательства показывают, что их релиз существенно повысит катастрофические риски, которые более узкие меры не могут адекватно устранить.

«Вычислительные мощности могут стать поводом для проверки без ограничения разработки. Проверка — это не разрешение от регулятора или конкурента», — сказал он. «Я не хочу общих требований по одобрению или периодов ожидания. Любая навязанная задержка публикации по соображениям безопасности должна быть обоснована исключением для катастрофических рисков».

Дискуссия о том, как регулировать ИИ, остаётся незавершённой. Недавний анализ Атлантического совета утверждает, что конкурентное давление требует поддающихся принудительному исполнению стандартов безопасности ИИ, а недоверие между США и Китаем осложняет международные соглашения. Сотрудничество между разработчиками также вызывает антимонопольные опасения: OpenAI спросила законодателей, могут ли конкурирующие разработчики на законных основаниях договориться о замедлении разработки. Будут ли вообще созданы федеральные стандарты безопасности и как регуляторы в итоге отнесутся к координации между разработчиками, поможет определить следующий этап дискуссии.