Джейкоб Коксон посвятил свою работу в Anthropic созданию передового ИИ. Теперь он направляется в мэрию, чтобы предупредить законодателей Нью-Йорка о связанных с ним рисках.

Бывший исследователь Anthropic должен выступить с показаниями на слушаниях Совета Нью-Йорка по рискам безопасности ИИ 5 октября 2026 года. Ожидается, что в том же заседании примут участие представители Anthropic, OpenAI, Google и Meta, что сведет недавно ушедшего из индустрии инсайдера за один стол с крупнейшими разработчиками отрасли.

Как будут проходить слушания

Спикер Совета Джули Менин инициировала слушания, которые пройдут в формате Комитета полного состава. Такой формат предполагает участие всех 51 члена совета, а не передачу вопроса отдельному комитету.

Совет направил письма главным исполнительным директорам четырех крупнейших ИИ-компаний с приглашением присутствовать: Дарио Амодею из Anthropic, Сэму Альтману из OpenAI, Сундару Пичаи из Google и Марку Цукербергу из Meta.

Далеко не все адресаты отреагировали так, как рассчитывал совет. SpaceXAI была вручена повестка примерно 30 сентября 2026 года после возбуждения судебного разбирательства против компании за неисполнение требований. Согласно результатам исследования, слушания станут первым случаем, когда законодательный орган США обязал дать присяжные показания по безопасности ИИ, а неисполнение влечет риск серьезных юридических последствий.

Законопроекты на рассмотрении

Законодатели планируют использовать заседание для рассмотрения нескольких предлагаемых законодательных мер, три из которых выделяются.

Первая потребует сторонней валидации систем ИИ, используемых в городе. Вторая создаст, как указано в предложениях, стимулы для информаторов, не имеющие аналогов в стране, призванные вознаграждать инсайдеров, сообщающих об опасных практиках внутри ИИ-лабораторий. Третья предоставит физическим лицам право взыскивать ущерб, причиненный системами ИИ, через суд.

В совокупности эти предложения определят, как системы ИИ будут проходить валидацию для муниципального использования, как сотрудники лабораторий смогут подавать сигналы тревоги и как жители смогут добиваться компенсации, когда системы причиняют вред.

Мера о защите информаторов также придает выступлению Коксона особый контекст: его предупреждения прозвучали изв лаборатории, после отставки, тогда как законопроект написан для инсайдеров, все еще работающих в ИИ-лабораториях.

Почему важно выступление Коксона

Коксон ушел из Anthropic примерно 8-9 сентября 2026 года. Его публичное заявление об уходе посмотрели более 173 миллионов раз. В нем он охарактеризовал ИИ-компании как «играющие в азарт с нашими жизнями» и предупредил, что технология может уничтожить все человечество до конца десятилетия.

Согласно результатам исследования, его отставка значительно усилила push за проведение слушаний.

Он не единственный голос из Anthropic, бьющий тревогу. Эван Хубингер из Anthropic выразил опасения, схожие с опасениями Коксона, оценив вероятность того, что ИИ может оказаться смертельным для человечества в течение десятилетия, как превышающую 10%. В результатах исследования эти предупреждения описываются как отражение растущего консенсуса среди части исследователей Anthropic относительно экзистенциальных опасностей передового ИИ. Среди упомянутых угроз — риски, сопоставимые с биологическим оружием, и полная утрата человеческого контроля.

С нарративом Коксона согласны не все. Скептики выразили обеспокоенность его связями с PR-фирмой, связанной с защитой безопасности ИИ, — утверждения, которые он опроверг.

Когда 5 октября начнется заседание, открытыми останутся два вопроса: явится ли SpaceXAI по повестке и как будут продвигаться три законопроекта после завершения присяжных показаний.