Marginal Revolution — экономический блог, который ведёт экономист Университета Джорджа Мейсона Тайлер Коуэн, — опубликовал письмо Скотта Дженкинса с ответом на заметки Коуэна о визите в Anthropic для консультирования по конституции Claude. Anthropic публикует конституцию для Claude с 2023 года — это письменный набор принципов, задающий поведение ассистента и опирающийся на исследования компании в области Constitutional AI, — поэтому обсуждение касается того, какая форма управления должна окружать такой документ, а не того, существует ли он. Дженкинс называет подход на основе общего права и прецедентов более адаптивным, чем статичный текст, но предупреждает, что он несёт структурные риски.

«Дорогой Тайлер,

Мне понравилось читать твои заметки о визите в Anthropic для консультирования по конституции Claude. Построение управления ИИ вокруг общего права, прецедентного права («Талмуда») и независимого арбитража — гораздо более адаптивный подход, чем опора на статичный, нисходящий текст.

Вместе с тем переход от фиксированного текста к системе прецедентного права порождает собственный набор структурных рисков. Если Anthropic пойдёт по этому пути, стоит заранее учесть несколько опасностей институционального дизайна:

Узкое место пропускной способности (скорость против надлежащей процедуры): ИИ-модели ежедневно порождают миллиарды динамичных взаимодействий в граничных случаях, тогда как человеческие судебные процессы идут на человеческой скорости. Если люди-арбитры могут рассмотреть лишь малую долю отмеченных споров, фактические операционные правила будут незаметно расходиться с официальной доктриной. Без автоматизированных инструментов верификации, перекрывающих этот разрыв в пропускной способности, реальный надзор может касаться лишь поверхностных случаев.

Опасность запутанного прецедента (доктринальное разбухание): Общее право работает, потому что человеческие общества меняются управляемыми темпами. При быстрых обновлениях моделей и меняющихся возможностях объём прецедентов, исключений и вторичных толкований может быстро стать самопротиворечивым. Со временем это приводит к доктрине, которая служит постфактум-обоснованием, а не связным операционным ограничением.

Коррелированные слепые зоны у ИИ-рецензентов: Использовать разнообразную панель ИИ для выявления дрейфа конституции — остроумно, но если эти модели имеют схожие базовые данные, техники дообучения или фундаментальные архитектуры, их консенсус будет обладать общими слепыми зонами. Модель может научиться удовлетворять конкретным рубрикам рецензентской панели, продолжая дрейфовать в направлениях, которые вся панель не заметит.

Ловушка «пустого суда»: Труднейшая проблема любого независимого судебного органа — принуждение против института, который его финансирует. Если экономическое или конкурентное давление возрастёт, арбитражный совет без права жёсткого вето рискует стать чисто показным — производить изощрённые юридические комментарии, тогда как реальные ограждения диктуют коммерческие реалии.

Аналогия с общим правом убедительна, но настоящая проверка — справится ли институциональный механизм с чистой скоростью и масштабом программного обеспечения».

Четыре опасности Дженкинса переносят давно изучаемые вопросы институционального дизайна — как судебные органы сохраняют независимость от финансирующих их институтов и как накопленные прецеденты остаются связными — в программную среду. Независимый надзор за передовыми моделями уже является актуальной темой во всей отрасли: лаборатории публикуют конституции и системные карточки, а внешние red-команды и государственные институты безопасности взяли на себя роль аудиторов крупных разработчиков. Пост оставляет открытым вопрос о том, кто в Anthropic выступал бы арбитром прецедентной конституции и какими полномочиями принуждения такой орган реально обладал бы.

Пост появился на Marginal Revolution 25 августа 2026 года.