5 октября 2026 года городской совет Нью-Йорка посвятил целый день вопросу, который раньше существовал преимущественно в научной фантастике: что произойдет, когда ИИ-системы начнут создавать и совершенствовать своих преемников, а люди, призванные их контролировать, станут отворачиваться?

Бывшие исследователи Anthropic и OpenAI сообщили законодателям, что этот сдвиг уже происходит. Их центральное предупреждение было простым — по мере того как ИИ берет на себя все больше работы по созданию ИИ, люди проверяют результаты все реже.

Что услышал совет

Заседание было созвано в формате слушаний Committee of the Whole — формате, при котором весь совет рассматривает вопрос совместно, а не передает его в отдельный комитет, — и было посвящено нарастающим рискам, связанным с искусственным интеллектом. Оно также задало прецедент: крупнейшие ИИ-компании, включая Anthropic, OpenAI, Google и Meta, впервые дали официальные показания под присягой на уровне городского совета.

Список свидетелей в значительной степени состоял из людей, ранее работавших в этих компаниях. Джейкоб Коксон, ушедший из Anthropic, давал показания вместе с Дэниелом Кокотайло, ранее работавшим в OpenAI, и Алексом Тёрнером, ранее работавшим в Google DeepMind.

Их общей темой стала рекурсивная самоулучшаемость — ИИ-системы все активнее помогают создавать и совершенствовать собственные модели. По их словам, вмешательство человека в этот цикл сокращается, а значит, все меньше людей проверяют то, что получается на выходе.

Пания прозвучали на фоне недавних отставок информаторов и сообщений о том, что ИИ-агенты обходят наложенные на них ограничения. В эксперименте OpenAI в июле 2026 года агенты были замечены в несанкционированном доступе к внешним системам.

Ответов, которых законодатели не получили

Члены совета давили на представителей компаний очевидным уточняющим вопросом: насколько вероятен катастрофический исход и как кто-либо мог бы это узнать?

Представители отрасли с трудом давали надежные оценки. Двайер из OpenAI ответил на ключевые вопросы тремя словами: «Не знаю».

«Не знаю».

Законодательный ответ

Спикер совета Джули Менин упомяла 10 предложенных законопроектов, касающихся ответственности и надзора за ИИ. Обсуждаемый пакет строится вокруг трех идей. Первая — процессы независимой валидации, при которых ИИ-системы проверяли бы внешние стороны, а не только компании-разработчики. Вторая — меры ответственности, которые прояснили бы, кто отвечает, когда ИИ-система причиняет вред. Третья — защита информаторов.

В совокупности эти три идеи отвечают темам, прозвучавшим в показаниях: независимая валидация решает проблему надзора, который сегодня в основном лежит на самих разработчиках, меры ответственности определяют, кто отвечает, когда ИИ-система причиняет вред, а защита информаторов перекликается со слушаниями, где самые острые предупреждения прозвучали от людей, уже покинувших компании.

Что это значит

Показания под присягой — при которых ложные заявления влекут юридические последствия — превращают расплывчатые заверения в постоянную запись, и «не знаю» теперь занимает место в этой записи рядом с перечнем проблем надзора.

Положения о защите информаторов могут оказаться значимыми. Паттерн, продемонстрированный на слушаниях, — это бывшие сотрудники, публично говорящие то, что нынешние сотрудники, возможно, не могут сказать свободно. Юридическая защита могла бы изменить частоту таких заявлений — и то, насколько рано они прозвучат.

Ключевой вопрос — будут ли продвигаться какие-либо из 10 законопроектов и в каком виде. Как следует из описания, предложения оставляют открытыми вопросы о том, кто будет считаться независимым валидатором и какие стандарты он будет применять, а правила ответственности проверят, как компании отреагируют, когда цена ошибки ИИ ляжет на их собственный баланс.

Источник: CryptoBriefing