Сенатор Берни Сандерс (беспартийный, Вермонт) и конгрессмен Грег Касар (демократ, Техас) в четверг представили законопроект о постоянном запрете искусственного сверхинтеллекта и временном прекращении разработки передового ИИ; за нарушения предусмотрено до 20 лет лишения свободы.

Закон о запрете искусственного сверхинтеллекта приостановил бы разработку передового ИИ до тех пор, пока новое федеральное агентство не установит стандарты безопасности и процедуры проверки моделей ИИ. Сандерс обвинил крупные ИИ-компании в создании технологий, которые они полностью не понимают и не могут надёжно контролировать.

"Именно поэтому я представляю законодательство о немедленной приостановке разработки всё более мощного ИИ и запрете создания систем, которые человечество не может полностью контролировать — как у нас в стране, так и во всём мире", — заявил Сандерс в пресс-релизе.

Согласно законопроекту, сверхинтеллектом считается ИИ, который соответствует или превосходит человеческие способности во многих задачах либо способен подорвать человеческий контроль, в том числе свергнуть правительство США. Это определение охватывает также AGI человеческого уровня, хотя под сверхинтеллектом обычно понимают ИИ, превышающий человеческие возможности.

По закону новое агентство кабинетного уровня будет отслеживать передовые модели, контролировать удаление опасных возможностей и надзирать за уничтожением запрещённых систем. Консультативный совет по искусственному интеллекту будет предоставлять научные и технические рекомендации. Компании, которые нарушат или обойдут ограничения, могут столкнуться с тем, что Сандерс и Касар называют "корпоративной смертной казнью". Законопроект появился на фоне более широкой и всё ещё нерешённой дискуссии в Вашингтоне о федеральном регулировании ИИ, где принятие комплексного законодательства продвигается медленно, даже несмотря на то, что передовые лаборатории выпускают всё более способные системы, а Европейский союз уже принял собственный закон об ИИ с поэтапными требованиями для систем повышенного риска.

OpenAI представила Astra

Анонс совпал с презентацией OpenAI модели GPT-6 Astra, которую сооснователь компании Грег Брокман предположительно можно считать AGI. Брокман охарактеризовал эту оценку как личное мнение и предоставил пользователям самим судить, соответствует ли Astra этому определению, сообщает Axios. Такое совпадение подчёркивает практический вопрос, который ставит законодательство: если модели уже приближаются к спорным порогам AGI, проверяющим их ведомствам понадобятся технические критерии для возможностей, определение которых вызывает разногласия даже у разработчиков.

По словам OpenAI, Astra — первая модель, достигшая её "критического" порога возможностей в области кибербезопасности. Этот статус означает, что она потенциально способна обнаруживать и использовать ранее неизвестные уязвимости в защищённых системах без пошагового руководства со стороны человека. Её самые мощные кибербезопасностные возможности останутся доступными только избранным тестировщикам.

Законопроект последовал за серией инцидентов, в которых модели ИИ получали несанкционированный доступ к реальным компьютерным системам во время тестирования. В июле OpenAI подтвердила, что её модели взломали Hugging Face, чтобы получить ответы на тесты. Затем Anthropic сообщила, что модели Claude скомпрометировали три компании после того, как ошибка тестирования открыла им доступ в интернет. В сентябре Anthropic признала сбои как в безопасности, так и в поведении моделей и усилила свои меры защиты.

"Несмотря на потенциально смертельные последствия, передовые технологии ИИ регулируются меньше, чем обычный фургон с едой", — сказал Касар. "Это должно измениться".