Leser-E-Mail an Tyler Cowen benennt vier institutionelle Risiken fallrechtlicher KI-Verfassungen
Wichtige Erkenntnisse
- •Anthropic nutzt seit 2023 eine Verfassung für Claude als Teil seines Constitutional-AI-Ansatzes.
- •Scott Jenkins sagte, ein Fallrecht-Modell für KI-Governance könnte anpassungsfähiger sein als eine statische Verfassung.
- •Er warnte, dass die menschliche Überprüfung zum Flaschenhals werden könnte, weil KI-Systeme weit mehr Grenzfälle hervorbringen, als Adjudikatoren bewältigen können.
- •Jenkins wies zudem darauf hin, dass Präzedenzfälle widersprüchlich werden könnten und KI-Prüfer gemeinsame blinde Flecken haben könnten.
- •Der Beitrag legte nicht fest, wer bei Anthropic als Adjudikator für eine Fallrechts-Verfassung fungieren würde oder welche Durchsetzungsbefugnisse dieses Gremium hätte.
Marginal Revolution, das von dem Ökonomen Tyler Cowen von der George Mason University mitverfasste Wirtschaftsblog, hat eine E-Mail von Scott Jenkins veröffentlicht, der auf Cowens Notizen zu seinem Besuch bei Anthropic reagiert, wo er zur Verfassung von Claude beriet. Anthropic veröffentlicht seit 2023 eine Verfassung für Claude – eine schriftliche Sammlung von Prinzipien, die das Verhalten des Assistenten steuert und auf der Constitutional-AI-Forschung des Unternehmens aufbaut. Die Diskussion dreht sich daher darum, welche Form von Governance ein solches Dokument rahmen sollte, nicht darum, ob es existiert. Jenkins hält einen auf Common Law und Fallrecht gestützten Ansatz für anpassungsfähiger als einen statischen Text, warnt jedoch, dass dieser strukturelle Risiken birgt.
„Lieber Tyler,
Ich habe deine Notizen über deinen Besuch bei Anthropic, bei dem du zur Verfassung von Claude beraten hast, gerne gelesen. KI-Governance über Common Law, Fallrecht (‚Talmud‘) und unabhängige Adjudikation zu verankern, ist ein deutlich anpassungsfähigerer Ansatz, als sich auf einen statischen, von oben vorgegebenen Text zu verlassen.
Allerdings bringt der Übergang von einem festen Text zu einem Fallrechtssystem eigene strukturelle Risiken mit sich. Sollte Anthropic diese Richtung einschlagen, erscheinen einige Gefahren im institutionellen Design der Antizipation wert:
Der Durchsatz-Flaschenhals (Geschwindigkeit vs. ordentliches Verfahren): KI-Modelle erzeugen täglich Milliarden dynamischer Interaktionen in Grenzfällen, während menschliche Gerichtsprozesse mit menschlichem Tempo arbeiten. Wenn menschliche Adjudikatoren nur einen winzigen Bruchteil der gekennzeichneten Streitfälle überprüfen können, werden sich die tatsächlich geltenden operativen Regeln stillschweigend von der offiziellen Doktrin entkoppeln. Ohne automatisierte Verifizierungswerkzeuge, die diese Bandbreitenlücke schließen, dürfte echte Aufsicht nur oberflächliche Fälle erfassen.
Die Gefahr verstrickter Präzedenzfälle (doktrinäre Aufblähung): Das Common Law funktioniert, weil sich menschliche Gesellschaften in beherrschbarem Tempo verändern. Bei schnellen Modellaktualisierungen und sich wandelnden Fähigkeiten könnten Fallrecht, Ausnahmen und sekundäre Interpretationen in ihrem Umfang schnell in sich widersprüchlich werden. Mit der Zeit führt dies zu einer Doktrin, die als nachträgliche Rechtfertigung dient statt als kohärente operative Begrenzung.
Korrelierte blinde Flecken unter KI-Prüfern: Ein diversifiziertes Gremium von KIs zur Erkennung eines Verfassungsdrifts zu nutzen, ist clever, doch wenn diese Modelle ähnliche Basisdaten, Fine-Tuning-Techniken oder grundlegende Architekturen teilen, wird ihr Konsens gemeinsame blinde Flecken aufweisen. Ein Modell könnte lernen, die spezifischen Kriterien des Prüfungsgremiums zu erfüllen und dennoch in einer Weise abzudriften, die das gesamte Gremium nicht registriert.
Die Falle des ‚hohlen Gerichts‘: Das schwierigste Problem jeder unabhängigen Justiz ist die Durchsetzung gegenüber der Institution, die sie finanziert. Steigen ökonomische oder wettbewerbsbedingte Drücke, droht einem adjudikativen Gremium ohne harte Vetobefugnis, rein performativ zu werden – es erstellt ausgefeilte juristische Kommentare, während kommerzielle Realitäten die tatsächlichen Schutzmaßnahmen diktieren.
Die Analogie zum Common Law ist überzeugend, doch der eigentliche Test ist, ob die institutionelle Maschinerie der schieren Geschwindigkeit und dem schieren Ausmaß von Software gewachsen ist.„
Jenkins‘ vier Gefahren übersetzen lange untersuchte Fragen institutionellen Designs – wie Justizsysteme unabhängig von den Institutionen bleiben, die sie finanzieren, und wie angehäufte Präzedenzfälle kohärent bleiben – in ein Software-Umfeld. Unabhängige Aufsicht über Frontier-Modelle ist in der Branche bereits ein aktives Thema: Labore veröffentlichen Verfassungsdokumente und Systemkarten, und externe Red-Teams sowie staatliche Sicherheitsinstitute haben für große Entwickler Prüfrollen übernommen. Der Beitrag lässt offen, wer eine Fallrechts-Verfassung bei Anthropic adjudizieren würde und welche Durchsetzungsbefugnisse ein solches Gremium tatsächlich hätte.
Der Beitrag erschien am 25. August 2026 auf Marginal Revolution.
