Законопроект Anthropic об ИИ-безопасности критикуют из-за порога 10²⁵ FLOP для frontier-моделей
Ключевые выводы
- •По законопроекту Anthropic компания станет «подпадающим разработчиком» только если обучает модель выше 10²⁵ FLOP и при этом превышает 500 млн долларов годовой ИИ-выручки или 1 млрд долларов годовых расходов на ИИ-исследования и разработки.
- •Подпадающие разработчики будут обязаны внедрить формальные рамки безопасности, публиковать системные карты, обеспечить независимые оценки и сообщать об инцидентах безопасности.
- •Согласно предложению, Министерство торговли сможет вмешаться в развертывание модели лишь при предвидимых катастрофических рисках, где катастрофа определяется как ущерб более 1 млрд долларов или гибель более 50 человек.
- •К июню 2025 года не менее 33 моделей от 12 разработчиков уже превысили отметку 10²⁵ FLOP, что подпитывает критику: порог отражает более ранний этап развития ИИ и может охватить большинство моделей корпоративного уровня.
- •Порог проекта в десять раз ниже калифорнийского SB 53 (10²⁶ FLOP) и отличается от основанного на презумпциях подхода EU AI Act, при этом некоторые критики считают его уже и потенциально слабее FRONTIER Act в части нормотворческих полномочий.
Anthropic передала американским законодателям проект федерального закона об ИИ-безопасности, и первый крупный спор сосредоточен на одном числе: 10²⁵ FLOP.
Именно этот порог определит, какие ИИ-модели qualify как «frontier»-системы в рамках законопроекта. FLOP (операции с плавающей запятой) измеряют вычислительную мощность, затраченную на обучение модели, — и то, где проходит эта граница, решает, какие системы и какие разработчики окажутся внутри периметра регулирования, а какие останутся за его пределами. Критики утверждают, что эта цифра отражает более ранний этап развития ИИ и теперь может охватывать большинство моделей корпоративного уровня.
Что предлагает законопроект
Проект опирается на Advanced AI Framework компании Anthropic, представленный в июне 2026 года. Сам проект закона датирован октябрём 2026 года.
Его центральное понятие — «подпадающий разработчик» (covered developer). Компания будет подпадать под определение, если она обучила модель, превышающую 10²⁵ FLOP, и соответствует хотя бы одному из двух финансовых порогов.
Первый порог — более 500 млн долларов годовой выручки, полученной от ИИ. Второй — более 1 млрд долларов годовых расходов на ИИ-исследования и разработки.
Компании, соответствующие определению, будут обязаны выполнить ряд требований прозрачности, включая:
- Внедрение формальных рамок безопасности
- Публикацию системных карт с описанием работы моделей и порядка их тестирования
- Обеспечение независимых оценок
- Сообщение об инцидентах безопасности
Законопроект также ограничит полномочия государства. Министерство торговли сможет ограничить развертывание модели только тогда, когда катастрофические риски предвидимы. В проекте катастрофические инциденты определяются как события, причиняющие ущерб более 1 млрд долларов или приводящие к гибели более 50 человек.
Другим ведомствам будет запрещено полностью останавливать развертывание.
Почему порог 10²⁵ FLOP вызывает споры
К июню 2025 года не менее 33 моделей от 12 разработчиков уже превышали отметку 10²⁵ FLOP. Ожидается, что это число продолжит расти.
Сравнение с другими нормативными рамками подчеркивает остроту дискуссии. Калифорнийский SB 53 устанавливает порог на уровне 10²⁶ FLOP — в десять раз выше, чем у Anthropic. Каждое увеличение показателя экспоненты означает десятикратный рост, так что разница существенна.
EU AI Act ближе к подходу Anthropic. Он использует 10²⁵ FLOP как опровержимую презумпцию: модель, достигающая этого уровня, предполагается несущей системный риск, если разработчик не докажет иное. Версия Anthropic действует скорее как обязательный триггер комплаенса.
Критика звучит и с противоположной стороны. Некоторые критики утверждают, что проект уже и потенциаль слабее конкурирующих предложений, включая FRONTIER Act (H.R. 9925), особенно в части полномочий по нормотворчеству.
Последствия для стартапов, крупных лабораторий и законодателей
Возможное преимущество для уже действующих крупных компаний — одно из самых весомых замечаний. Комплаенс-меры вроде рамок безопасности, системных карт и независимых оценок требуют денег и времени персонала. Крупные ИИ-лаборатории уже содержат команды для большей части этой работы, тогда как небольшие компании, как правило, нет.
Однако важен двухчастный тест законопроекта. Одно лишь превышение 10²⁵ FLOP не сделает компанию подпадающим разработчиком. Ей также потребуется более 500 млн долларов ИИ-выручки или более 1 млрд долларов расходов на ИИ-исследования и разработки.
Для законодателей дискуссия обнажает структурную проблему правил, основанных на вычислительных мощностях. Любой фиксированный порог FLOP устаревает по мере совершенствования оборудования и роста объемов обучения. Линия, проведенная сегодня, завтра может охватить десятки моделей, что в целом согласуется с числом моделей, уже пересекших порог к июню 2025 года.
Ограниченный мандат Министерства торговли также значим. Ограничение вмешательства катастрофическими сценариями — с ущербом более 1 млрд долларов или более 50 погибших — дает разработчикам предсказуемость. В то же время это оставляет регуляторам мало пространства для реагирования на вред, не достигающий катастрофы. Этот компромисс лежит в основе сравнения с FRONTIER Act.
Таким образом, уровень порога, двухчастный финансовый тест и объем полномочий Министерства торговли по нормотворчеству — это те пункты, по которым проект Anthropic расходится с уже предложенными альтернативами: более высоким порогом 10²⁶ FLOP в Калифорнии, основанным на презумпциях подходом EU AI Act и FRONTIER Act, который некоторые критики считают более сильным в части нормотворчества.
Источник: CryptoBriefing
