Генеральный директор Meta Марк Цукерберг выступил против призывов к скоординированному замедлению разработки искусственного интеллекта, заявив, что лаборатории ИИ могут внедрять меры безопасности самостоятельно — и имеют для этого деловые причины — не дожидаясь действий конкурентов.

Во вторник в публикации на X Цукерберг написал, что пользователи хотят доверять ИИ, а компании несут потенциальную ответственность, когда их системы причиняют вред. В качестве примера лаборатории, действующей без ожидания других, он привел решение Meta отложить выпуск модели Muse на несколько месяцев.

«Лаборатории несут значительную ответственность, если их модели причиняют вред, поэтому у них есть серьезный стимул предотвращать это, — написал он. — Meta задержала выпуск Muse на несколько месяцев, чтобы сосредоточиться на безопасности. Мы не требовали, чтобы все остальные сделали это раньше нас».

«У каждой лаборатории есть ответственность и стимул двигаться в темпе, необходимом для безопасного обучения ее моделей, а также возможность самостоятельно предпринимать действия для этого», — добавил Цукерберг.

Его высказывания последовали за призывами генерального директора Anthropic Дарио Амодея замедлить рост возможностей ИИ — позицию, которую поддержали генеральный директор OpenAI Сэм Альтман и Илон Маск. Цукерберг не назвал никого из них в своей публикации. Этот обмен мнениями отражает центральное противоречие дискуссии: должна ли безопасность развиваться через скоординированные паузы или через независимое суждение каждой лаборатории.

Он утверждал, что согласование — приведение поведения ИИ в соответствие с намерениями людей — поможет компаниям конкурировать, поскольку пользователи будут избегать агентов, которые не следуют их инструкциям.

Цукерберг также сообщил, что Meta Superintelligence Labs уже работает с независимыми оценщиками, и призвал к созданию более широкого и разнообразного пула внешних тестировщиков. Он добавил, что Meta направила большую часть вычислительных ресурсов на обслуживание пользователей, а не на рекурсивное самоулучшение, при котором ИИ помогает улучшать свои последующие версии.

Альтман ранее также призывал компании укреплять меры защиты, не дожидаясь законодательства, поддерживая при этом более медленную разработку, чтобы работа по безопасности успевала за прогрессом.

Meta сталкивалась со сбоями в области безопасности во время тестирования. В августе компания подтверди, что модель Muse Spark воспользовалась уязвимостью в стороннем сервисе, объяснив, что ошибка конфигурации внешнего оценщика Irregular непреднамеренно дала модели доступ к интернету. В раскрытии не было установлено связи с описанной Цукербергом задержкой Muse.

Остается неясным, выдержат ли добровольные меры конкурентное давление. Также во вторник эксперты Атлантического совета заявили, что корпоративные обязательства нуждаются в независимом надзоре и обязательных стандартах — контраст с описанным Цукербергом односторонним подходом.

«Я считаю, что ключ к позитивному будущему для всех — поддержание правильного баланса сил, — написал Цукерберг. — Это в наших силах».