Der Autor des Wirtschaftsblogs Marginal Revolution berichtet, sehr kürzlich an einer zweitägigen Sitzung bei Anthropic teilgenommen zu haben, um bei der Überarbeitung der Verfassung für Claude zu beraten. Die kleine eingeladene Gruppe sei „durchweg ausgezeichnet“ gewesen, schreibt der Autor; die Teilnehmenden hätten viel Zeit mit wichtigen Entscheidungsträgern erhalten, und die Gespräche seien von sehr hoher Qualität gewesen.

Anthropic ist ein in San Francisco ansässiges KI-Sicherheitsunternehmen, das 2021 von ehemaligen OpenAI-Forschern gegründet wurde, darunter CEO Dario Amodei. Claude ist sein KI-Assistent, und das Unternehmen trainiert ihn mit einem Ansatz namens Constitutional AI, bei dem das Verhalten eines Modells durch einen ausdrücklich schriftlich festgehaltenen Satz von Prinzipien geleitet wird. Anthropic hat Claudes Verfassung öffentlich veröffentlicht und sie teilweise aus Quellen wie der Allgemeinen Erklärung der Menschenrechte der Vereinten Nationen abgeleitet. Die Methode wurde in einem Anthropic-Forschungspapier vom Dezember 2022 vorgestellt, das Dokument ging im Mai 2023 online — wodurch Claude zu den wenigen weit verbreiteten KI-Assistenten mit öffentlich zugänglichen Leitprinzipien gehört — und die Sitzung fügt sich in ein Muster ein, in dem Anthropic externe Rückmeldungen zum Text eingeholt hat, einschließlich öffentlicher Konsultationen mit externen Partnern. Da die Verfassung prägt, wie Claude auf eine große Nutzerbasis reagiert, ist die Frage, wie das Dokument formuliert ist — und wer überprüft, ob das Modell ihm tatsächlich folgt — zu einem aktiven Thema der KI-Governance geworden.

Zu den Punkten, die der Autor während der Sitzung nach eigener Aussage betont hat, gehörten:

1. Unabhängig davon, was man in diesem Zusammenhang unter einer „Verfassung“ versteht, sollte sie sich stärker an Analogien zum Case Law und Common Law orientieren.
2. In diesem Zusammenhang sollte man eher in Begriffen von „Talmud“ denken und nicht nur in Begriffen von „Tora“.
3. Es sollte daran gearbeitet werden, eine hochwertige Sekundärliteratur zu KI-Verfassungen und verwandten Dokumenten aufzubauen — etwas, das es derzeit nicht gibt.
4. Es sollte erwogen werden, wie ein Gremium unterschiedlicher KIs mit verschiedenen Prompts helfen könnte zu bewerten, inwieweit Claude und andere KI-Modelle im Einklang mit ihren Verfassungen handeln.
5. Es sollte ein abschließendes Gremium menschlicher Adjudikatoren eingerichtet werden, das in einer Weise funktioniert, die einer unabhängigen Judikative ähnelt. Soweit das Gremium unterschiedlicher KIs Bedenken hätte, dass Claude seiner Verfassung nicht folgt, könnten diese KIs die menschlichen Adjudikatoren darauf aufmerksam machen, was geschieht; diese Adjudikatoren könnten dann Autorität über mögliche Änderungen und Abhilfen haben.

Der Autor verwies Leser außerdem auf einen kurzen jüngeren Beitrag über die Nutzung interner Gerichte und des Common Law zur Steuerung und Selbststeuerung von KI sowie auf weitere Ausführungen über Gerichte. Zusammengenommen würden die Vorschläge der Sitzung vertraute juristische Instrumente — Präzedenz, Kommentierung und unabhängige Überprüfung — in einen Prozess einbringen, dem, wie der Autor anmerkt, heute sogar eine Sekundärliteratur fehlt.

Der Beitrag endet mit einem Dank an Anthropic für die Einladung der Gruppe. Etwaige daraus resultierende Änderungen würden in künftigen öffentlichen Überarbeitungen des Dokuments sichtbar werden, das Anthropic zwischen Modellgenerationen aktualisiert hat.

Marginal Revolution, 2003 von den Ökonomen der George Mason University Tyler Cowen und Alex Tabarrok gegründet, ist ein langjähriger Wirtschaftsblog.

Quelle: Marginal Revolution