Искусственный интеллект берет на себя все большую долю работы, необходимой для создания более мощных моделей. Anthropic заявляет, что Claude уже ускоряет этот процесс, хотя модель пока не может создать собственного преемника. В оценке от 4 июня компания предупредила, что этот прогресс создает риск того, что ИИ напрямую превзойдет проверки безопасности и регуляторный надзор.

Когда ИИ создает ИИ — и что это пока не значит

Claude еще не достиг рекурсивного самоулучшения — точки, в которой ИИ создавал бы и обучал собственного преемника без какого-либо участия человека. По данным Anthropic, ни одна система пока не достигла такой способности. Это различие важно для надзора: оно означает, что нынешнее ускорение происходит внутри рабочих процессов под контролем человека — в окне до того, как какая-либо система приблизится к автономии.

Даже без полной автономии Claude взял на себя значительную часть работы по написанию кода в Anthropic. К маю 2026 года модель создала более 80% кода, который инженеры внесли в программные проекты компании. Во втором квартале 2026 года типичный инженер вносил в день в восемь раз больше кода, чем в 2024 году.

Эти цифры показывают, насколько вырос объем кода, но не обязательно сколько полезной работы было выполнено. Согласно опросу, на который ссылается METR, охватившему 349 технических специалистов, медианная самооценка роста ценности их работы при использовании ИИ-инструментов составила 1,4–2 раза.

26% под руководством Claude, но ничего полностью автономного

Роль Claude теперь выходит далеко за рамки написания кода. Августовские замеры Anthropic показали, что модель руководила 26% задач ИИ-исследований и разработок — против менее 1% в феврале. Claude участвовал в более чем 90% этой работы или руководил ею, но люди оставались вовлечены на всех этапах, и ни одна из измеренных задач не была полностью автономной. Этот скачок с февраля по август также задает точку отсчета: будущие обновления замеров позволят отслеживать, продолжает ли расти доля ИИ в исследовательской работе.

Два исследования измеряют разные вещи. Anthropic отслеживает генерацию кода и исследования, выполненные с помощью ИИ-систем, тогда как METR фиксирует, как работники воспринимают рост ценности своей работы. Ни одно из исследований не показывает, способен ли ИИ решать, какие исследовательские задачи вообще следует решать.

Как ускорение может усиливаться без самоулучшающейся модели

ИИ не обязательно должен быть полностью автономным, чтобы ускорять исследования. Согласно октябрьскому отчету RAND, ИИ-агенты могут помогать создавать более мощные модели, не создавая собственных преемников. Их доступ к чувствительным моделям и коду уже представляет угрозу безопасности.

Экономисты METR отмечают, что ограничения могут накладывать такие факторы, как доступность данных, вычислительные мощности и способность проводить экспериментальные исследования. Эти же факторы дают исследователям конкретные условия для мониторинга при оценке устойчивости ускорения. Тем не менее они не исключают возможности устойчивого ускорения развития ИИ. Открытый вопрос — смогут ли независимые проверки безопасности поспевать за экспериментами с участием ИИ; иначе надзор может отставать задолго до наступления полной автономии.

От регулирования темпов к контролю за границей возможного

Эта обеспокоенность побудила генерального директора Anthropic Дарио Амодеи призвать к замедлению разработки и созданию независимых оценщиков. «Мы должны замедлить темпы, с которыми мы улучшаем возможности ИИ-моделей», — написал он в сентябрьском эссе.

Раскрытие информации OpenAI от 16 сентября подробно описало шесть случаев тревожного поведения моделей. Cryptopolitan также сообщала о расколе среди технологических лидеров по вопросу о том, следует ли замедлить разработку ИИ.

Но согласие по вопросам безопасности не гарантирует действий. CSIS предупредила, что внешние оценщики должны избегать конфликта интересов, а правительствам следует остерегаться регуляторного захвата. Отраслевые соглашения остаются неопределенными, и то, сформируются ли вообще независимые оценщики, станет ближайшей проверкой того, приведет ли дискуссия о темпах к конкретным изменениям.

Деньги следуют за вычислениями

В этой дискуссии также велики финансовые ставки. ИИ-индекс Стэнфорда за 2026 год показал, что частные инвестиции в ИИ выросли в 2025 году на 127,5%, при этом инвестиции США в 23 раза превысили китайские. ОЭСР отдельно предупреждает, что доступ к чипам, облачной инфраструктуре и данным остается сконцентрированным.

В результате возникает парадокс. ИИ может удешевить исследовательское программирование, но обучение и тестирование передовых моделей по-прежнему требуют огромных инвестиций. Поэтому более быстрая разработка может дать ведущим лабораториям еще большее преимущество перед меньшими конкурентами.