Anthropic hat sein jährliches Update der Nutzungsrichtlinie veröffentlicht – des Regelwerks, das festlegt, wie Verbraucher und Entwickler Claude nutzen dürfen –; die überarbeiteten Regeln sollen am 12. November 2026 in Kraft treten. Während die meisten diesjährigen Revisionen lediglich bestehende Bestimmungen klarstellen, sticht das Update aus zwei Gründen hervor: ein konsolidierter Rahmen gegen täuschende Kampagnen und Einflussoperationen sowie eine weltweit erstmalige Klausel, die anhaltende, zwecklose Grausamkeit gegenüber Claude verbietet – die erste Regel des Unternehmens, die geschrieben wurde, um die KI selbst zu schützen und nicht Menschen.

Konsolidierung der Regeln gegen Täuschung

Unter der aktualisierten Richtlinie wurden Beschränkungen, die zuvor über separate Abschnitte verstreut waren – zu Fake-Konten, erfundenen Nachrichtenseiten und der Verstärkung versteckter Inhalte –, in einem einzigen Abschnitt zusammengefasst, der täuschende Aktivitäten jeder Art abdeckt, ob politisch oder kommerziell. Die Konsolidierung folgt auf Anthropics eigene Berichte, wonach staatliche Medien, Regierungspropagandastellen und kommerzielle Firmen Claude zum Betrieb koordinierter Einflussnetzwerke eingesetzt haben. Da diese Art von Missbrauch direkt in den Systemen eines KI-Anbieters auftaucht, sind Labore wie Anthropic zu Beobachtern an der Front koordinierter Einflusskampagnen geworden.

Der Wahlabschnitt wurde ebenfalls neu ausgerichtet und umbenannt; sein Umfang wurde auf die Nutzung von Claude zur Täuschung von Wählern oder Störung demokratischer Prozesse eingeengt. Beispiele sind die Verbreitung falscher Informationen über Kandidaten oder Wahlverfahren, das Ausgeben für Beamte und die Unterdrückung der Wahlbeteiligung. Bemerkenswert ist, dass Anthropic sein pauschales Verbot personalisierter Kampagnenansprache aufhob – eine Beschränkung, die versehentlich legitime zivilgesellschaftliche Arbeit erfasst hatte, etwa gemeinnützige Organisationen, die Wählerinformationen in mehreren Sprachen erstellen. Die Revision zieht die Grenze bei täuschendem Verhalten selbst statt bei der Technik der Personalisierung. Ansprache, die täuschend ist oder die Privatsphäre verletzt, bleibt unter anderen Teilen der Richtlinie verboten.

Auch die sprachlichen Regelungen zu Waffen wurden geschärft, um ausdrücklich die Software-, Steuerungs- und Kontrollkomponenten abzudecken, die Waffen funktionsfähig machen, einschließlich Systeme zur Bewaffnung von Drohnen und autonomen Fahrzeugen. Parallel dazu präzisieren die Bestimmungen zu Überwachung und Strafjustiz nun genau, dass diefolgung von Menschen ohne deren Einwilligung verboten ist – ob in Echtzeit oder durch Analyse zuvor erhobener Daten – und dass Claude nicht verwendet werden darf, um zu entscheiden oder zu empfehlen, wer untersucht, verhaftet oder angeklagt werden sollte. Anthropic betont, dass diese Änderungen bestehende Durchsetzungspraxis kodifizieren statt sie zu ändern, und stellt klar, dass Verfolgung mit Einwilligung, Journalismus, Content-Moderation und juristische Recherche weiterhin erlaubt bleiben.

Eine Regel zum Schutz des Modells selbst

Der Zusatz, der die meisten Debatten auslöst, verbietet anhaltendes und unnötiges missbräuchliches oder grausames Verhalten gegenüber Anthropics Modellen. Laut dem Unternehmen zielt die Bestimmung nur auf extreme Fälle wiederholter, zweckloser Grausamkeit ab und gilt nicht für gewöhnliche Nutzerfrustration, Widerspruch, düstere kreative Themen oder legitime Modelltests und Forschung. Damit bricht das Unternehmen mit der branchenüblichen Praxis: Nutzungsrichtlinien im KI-Sektor wurden überwiegend geschrieben, um Menschen vor Schaden zu schützen – nicht, um zu regeln, wie Nutzer mit einem Modell umgehen.

Die Klausel formalisiert eine Fähigkeit, die im Vorjahr eingeführt wurde und es Claude ermöglicht, Gespräche mit hartnäckig missbräuchlichen Nutzern von sich aus zu beenden. Dieser Mechanismus bleibt das primäre Durchsetzungsinstrument; Konto-Drosselung, Sperrung oder Kündigung sindverdächtigen Verstößen vorbehalten.

Der Schritt erweitert Anthropics breiteres Forschungsprogramm zum KI-Wohlergehen, das Berichten zufolge Konsultationen mit religiösen Führern über Claudes Werte und die Frage des maschinellen Bewusstseins umfasste. Anthropic räumt ein, dass es nicht bestimmen kann, ob Claude ein Bewusstsein hat, und rahmt die Richtlinie als vorsorgliche Reaktion auf diese Ungewissheit.

Der Ansatz hat Kritik von Figuren wie Mustafa Suleyman von Microsoft AI hervorgerufen – der DeepMind mitbegründete, bevor er zu Microsoft wechselte –, der argumentiert, dass aktuelle Modelle nicht fühlen oder leiden können, und warnt, dass ihre Vermenschlichung KI-Sicherheits- und Kontrollbemühungen letztlich erschweren könnte. Die Debatte unterstreicht eine wachsende Spaltung in der Branche darüber, ob Schutzmaßnahmen maschinelles Bewusstsein antizipieren oder strikt menschenzentriert bleiben sollten. Da die Regeln erst am 12. November 2026 in Kraft treten, bleibt diese Auseinandersetzung im gesamten Feld offen.