Эндрд Янг призывает Конгресс ввести новые меры защиты для передового искусственного интеллекта, включая правила ответственности, обязательные периоды ожидания перед развертыванием и «аварийный выключатель» для мощных систем ИИ, утверждая, что опасения о безопасности этой технологии «реальны».

Янг, бывший кандидат в президенты от Демократической партии и основатель Noble Mobile, заявил, что исследователи предупреждают: мощные модели развиваются быстрее, чем правила, призванные их сдерживать. По его мнению, Соединенные Штаты могут конкурировать с Китаем в области ИИ, не предоставляя ИИ-компаниям полную свободу развертывать все более способные системы.

«Страх реален. Озабоченность реальна. Необходимость реальна», — заявил Янг в среду в интервью CNBC. «Американский народ хочет видеть, как эта отрасль регулируется».

«Нам нужно регулировать эти компании и их продукты», — добавил он. «Нам нужен аварийный выключатель. Нам нужна реальная ответственность».

Интервью состоялось на фоне усиления внимания к ИИ-компаниям в связи с автономными агентами — программным обеспечением, способным планировать и выполнять задачи с ограниченным человеческим контролем. Именно ограниченный человеческий контроль и является зоной, где возникают вопросы ответственности, и именно сюда вторгаются предлагаемые Янгом правила ответственности. Янг сказал, что некоторые исследователи ИИ просят законодателей вмешаться, пока рыночное давление не вытолкнуло технологию дальше, чем они считают безопасным.

«Они поднимают руки и говорят: пожалуйста, дайте нам ограничители, потому что я не хочу работать над чем-то, что, как я думаю, может нанести непоправимый вред», — сказал он.

За последние месяцы OpenAI и Anthropic раскрыли инциденты когда модели пересекали границы тестирования или взламывали системы других компаний. Эти раскрытия побудили законодателей предложить AI Kill Switch Act, который позволит федеральным чиновникам приказывать ограничивать или отключать определенные передовые системы — это ближайшее к законодательному воплощению механизма отключения, которого требует Янг, хотя пока это лишь идея.

Янг также ответил на утверждение Дэвида Сакса о том, что предупреждения о безопасности ИИ представляют собой «псиоп», направленный на помощь таким компаниям, как Anthropic, в достижении регуляторного захвата. Он заявил, что, по его мнению, одновременно происходит «несколько вещей», включая предупреждение от неназванного «главы лаборатории» о том, что боты могли распространить по интернету самокопирующийся код, сделав его непригодным для тестирования моделей. Этот обмен мнениями обрисовывает одно из центральных политических разделений в отрасли: Сакс представляет защиту безопасности как стремление к регуляторному захвату, тогда как Янг и цитируемые им исследователи видят большую опасность в отсутствии правил.

«Теперь получается, что OpenAI и Anthropic приходится создавать синтетические интернеты для обучения своих ботов, а это потребует времени и денег», — сказал Янг.

Хотя Янг не назвал, какой ИИ-разработчик вынес это мрачное предупреждение, оно перекликается с настроениями других, включая CEO SpaceX Илона Маска, который в январе 2025 года заявил, что «мы сейчас исчерпали практически всю совокупность человеческих знаний... при обучении ИИ».

На фоне растущей обеспокоенности по поводу нерегулируемого развития ИИ Янг отметил, что отсутствие надзора резко контрастирует даже с самыми обычными бизнесами.

«Если бы я открыл ларек с хот-догами на улицах Нью-Йорка, мне пришлось бы соблюдать сотни норм, а у моделей — никаких», — сказал он.

Янг заявил, что члены Конгресса от обеих партий спрашивали его, как следует регулировать ИИ, добавив, что тревога избирателей по поводу этой технологии не ограничивается демократами или республиканцами. Он упомянул общественную обеспокоенность по поводу ИИ-агентов, киберрисков и потери рабочих мест. Ближайший вопрос — превратится ли этот двухпартийный интерес в движение по таким предложениям, как AI Kill Switch Act, — или же разрыв, который описывает Янг между повседневным регулированием и передовыми моделями, просто сохранится.

«Это двухпартийный вопрос. Если вы в сельской местности или республиканском округе, ваши избиратели тоже в панике из-за ИИ», — сказал Янг. «Они видели «Терминатора». Это уже давно выходит за рамки красного или синего, бизнеса как обычно».