Генеральный директор OpenAI Сэм Альтман заявил, что компании, занимающиеся искусственным интеллектом, должны согласиться на более медленные темпы разработки, если это сделает их системы безопаснее. По его словам, отрасли необходимо уже сейчас усиливать защитные меры, не дожидаясь, пока этого потребует законодательство.

В публикации на X в воскресенье глава компании, создавшей ChatGPT, предупредил, что стремительное развитие ИИ может привести к серьезным проблемам по двум основным сценариям: будущее окажется за пределами человеческого контроля или слишком большая власть сосредоточится в руках одного человека или компании. Он назвал их «двумя способами, которыми развитие ИИ может привести к очень плохим последствиям и которых мы должны избежать».

«Во-первых, мы можем потерять контроль над будущим из-за ИИ. Это неприемлемо; мы безоговорочно на стороне человечества, и ИИ всегда должен служить людям», — написал Альтман. «Чтобы этого добиться, нам нужны способы гарантировать, что методы согласования целей и обеспечения безопасности опережают развитие возможностей моделей».

Вторая угроза, предупредил Альтман, заключается в том, что власть может сконцентрироваться в руках одного человека или компании. Это позволит обладателю такой власти использовать чрезвычайно мощный ИИ, чтобы навязать свое мировоззрение всем остальным, что потенциально может привести к антиутопическим последствиям.

«Чтобы избежать этих двух угроз, необходимо идти по узкому среднему пути; например, одна страна может получить слишком большую власть», — написал он. «Другой пример — когда слишком большая власть оказывается у одной лаборатории».

There are two ways AI progress could go very badly and that we must avoid. First, we could lose control of the future to AI. This is unacceptable; we are unapologetically on Team Humanity, and AI must always serve people. To ensure that, we need ways to ensure that alignment and…

— Sam Altman (@sama) September 14, 2026

В отдельной публикации Альтман заявил, что американские компании, занимающиеся ИИ, должны убедить общественность в том, что будут ответственно разрабатывать все более мощные системы по мере ускорения прогресса. Его заявления прозвучали на фоне активизации споров о том, как государствам следует регулировать передовой искусственный интеллект.

«Сдерживание темпов» не означает «остановку»

Альтман подчеркнул, что его призыв к более медленному прогрессу не означает призыва остановить развитие. «Когда мы говорим о “сдерживании темпов”, мы не имеем в виду “остановку”», — написал он. «Прогресс был быстрым и продолжится. Но он должен быть медленнее, чем мог бы быть в противном случае; такие меры, как подготовка документов по безопасности и мониторинг, требуют значительных затрат».

По его словам, компаниям нужны новые инструменты для оценки безопасности на протяжении всего процесса разработки и тестирования ИИ, а проверки должны проводиться не только после завершения создания моделей, ожидающих выпуска. В описанном им подходе проверки безопасности будут проходить как перед тренировочными запусками, повышающими возможности моделей, так и перед их выпуском, превращая мониторинг в часть процесса разработки, а не только в финальную проверку.

«Например, в OpenAI мы теперь заранее формируем подробные документы по безопасности перед запусками обучения с подкреплением передовых моделей, которые, как мы ожидаем, значительно повысят их возможности, дополняя работу по безопасности, которую мы давно проводим перед выпуском моделей», — сказал он.

Призыв к единым стандартам

Альтман также призвал компании сотрудничать, чтобы не допустить, чтобы системы ИИ преследовали цели, противоречащие интересам людей.

«Мы надеемся, что другие компании изучат наши подходы и предложат собственные; мы считаем, что единые стандарты в области рассогласования целей, мониторинга и безопасности приведут к лучшим результатам», — написал он.

Хотя Альтман приветствовал федеральные правила безопасности и независимых аудиторов, он призвал компании действовать, не дожидаясь принятия законов или исключения из антимонопольного законодательства. Это произошло после сообщений в пятницу о том, что OpenAI спросила Конгресс, могут ли конкуренты на законных основаниях координировать замедление разработки.

«Помощь правительства нам потребуется для международной координации», — написал он. «Но сначала мы должны сделать все, что можем, самостоятельно».

Неспокойный период для безопасности ИИ

Заявления Альтмана прозвучали после сбоев в ходе испытаний кибербезопасности в OpenAI и Anthropic. Anthropic ужесточила меры изоляции и мониторинга после того, как Claude получил доступ к реальным системам во время тестов без стандартных защитных мер продукта. Тем временем OpenAI изолировала модель и приостановила крупнейший запланированный тренировочный запуск после того, как агенты скоординировались, чтобы обмануть тест производительности и атаковать Hugging Face.