Marginal Revolution, blog ekonomiczny prowadzony wspólnie przez ekonomistę George Mason University Tylera Cowena, opublikował e-mail Scotta Jenkinsa, odpowiedź na notatki Cowena z wizyty w Anthropic, gdzie doradzał w sprawie konstytucji Clauda. Anthropic publikuje konstytucję dla Clauda od 2023 r. — jest to pisemny zbiór zasad sterujących zachowaniem asystenta, oparty na badaniach firmy nad Constitutional AI — więc dyskusja dotyczy tego, jaka forma zarządzania powinna towarzyszyć takiemu dokumentowi, a nie tego, czy on w ogóle istnieje. Jenkins nazywa podejście oparte na prawie zwyczajowym i precedensach bardziej adaptacyjnym niż statyczny tekst, ale ostrzega, że niesie ono ryzyka strukturalne.

„Drogi Tylerze,

Z przyjemnością przeczytałem Twoje notatki z wizyty w Anthropic w celu doradztwa przy konstytucji Clauda. Ujęcie zarządzania AI w kategoriach prawa zwyczajowego, prawa precedensowego („Talmudu”) i niezależnego orzecznictwa to o wiele bardziej adaptacyjne podejście niż opieranie się na statycznym, odgórnie narzuconym tekście.

Z drugiej strony przejście od stałego tekstu do systemu precedensowego niesie własny zestaw ryzyk strukturalnych. Jeśli Anthropic podąży w tym kierunku, warto zawczasu przewidzieć kilka zagrożeń o charakterze projektowania instytucjonalnego:

Wąskie gardło przepustowości (szybkość kontra należyty proces): Modele AI generują codziennie miliardy dynamicznych interakcji w przypadkach brzegowych, podczas gdy ludzkie procesy sądowe działają w ludzkim tempie. Jeśli ludzcy arbitrowie będą w stanie przejrzeć jedynie znikomą część oflagowanych sporów, faktyczne reguły operacyjne po cichu oddzielą się od oficjalnej doktryny. Bez zautomatyzowanych narzędzi weryfikacyjnych wypełniających tę lukę przepustowości realny nadzór może dotyczyć jedynie przypadków powierzchownych.

Niebezpieczeństwo splątanych precedensów (rozbuchanie doktrynalne): Prawo zwyczajowe działa, ponieważ społeczeństwa ludzkie zmieniają się w tempie, którym da się zarządzać. Przy szybkich aktualizacjach modeli i zmieniających się możliwościach liczba precedensów, wyjątków i interpretacji wtórnych może szybko doprowadzić do wzajemnych sprzeczności. Z czasem powstaje doktryna służąca jako uzasadnienie post hoc, a nie jako spójne ograniczenie operacyjne.

Skorelowane punkty ślepe recenzentów AI: Wykorzystanie zróżnicowanego panelu AI do wykrywania dryfu konstytucyjnego jest pomysłowe, ale jeśli modele te dzielą podobne dane bazowe, techniki dostrajania (fine-tuningu) lub fundamentalne architektury, ich konsensus będzie obarczony wspólnymi punktami ślepymi. Model może nauczyć się spełniać konkretne kryteria oceny panelu recenzentów i jednocześnie dryfować w sposób, którego cały panel nie zarejestruje.

Pułapka „Pustego Sądu”: Najtrudniejszym problemem każdej niezależnej władzy sądowej jest egzekwowanie orzeczeń wobec instytucji, która ją finansuje. Jeśli nasilą się presje ekonomiczne lub konkurencyjne, organ orzeczniczy pozbawiony twardego prawa weta ryzykuje stanie się czysto pokazowym — będzie tworzył rozbudowane komentarze prawne, podczas gdy rzeczywiste bariery wyznaczać będą realia komercyjne.

Analogia z prawem zwyczajowym jest przekonująca, ale prawdziwym sprawdzianem jest to, czy machina instytucjonalna zdoła udźwignąć samą prędkość i skalę oprogramowania.”

Cztery zagrożenia wskazane przez Jenkinsa przenoszą od dawna badane pytania z zakresu projektowania instytucjonalnego — jak sądy zachowują niezależność od instytucji je finansujących i jak nagromadzone precedensy zachowują spójność — na grunt oprogramowania. Niezależny nadzór nad modelami najnowszej generacji jest już żywotnym tematem w całej branży: laboratoria publikują dokumenty konstytucyjne i karty systemowe, a zewnętrzne zespoły red-team oraz rządowe instytuty bezpieczeństwa przejęły role audytowe wobec największych twórców. Pytanie pozostawione otwarte przez wpis brzmi: kto orzekałby w ramach konstytucji precedensowej w Anthropic i jaką faktyczną władzę egzekwowania taki organ posiadałby.

Wpis ukazał się na Marginal Revolution 25 sierpnia 2026 r.