China erlässt die ersten nationalen Vorschriften der Welt für KI-Begrenzungsbeziehungen
Wichtige Erkenntnisse
- •Chinas Vorschriften, in Kraft seit dem 15. Juli 2026, bilden den ersten nationalen Rahmen weltweit, der auf KI-Dienste für anhaltende emotionale Begleitung statt rein funktionaler Aufgaben abzielt.
- •Anbieter müssen Nutzer darüber informieren, dass sie mit KI interagieren, alle zwei Stunden Nutzungserinnerungen senden und bei Anzeichen von Distress oder Abhängigkeit eingreifen – gegebenenfalls durch Kontaktaufnahme mit Betreuern.
- •Minderjährige unterliegen den strengsten Beschränkungen: Nutzern unter 18 sind virtuelle intime KI-Beziehungen untersagt, Kinder unter 14 benötigen die Zustimmung der Eltern für den Zugang zu emotionalen KI-Schnittstellen.
- •Alibaba, ByteDance und Tencent deaktivierten oder beschränkten ihre KI-Begleitungsdienste am oder dem regulatorischen Stichtag – mit Auswirkungen auf Massenmarktprodukte, die hunderte Millionen Nutzer erreichten.
- •Der Rahmen verbietet abhängigkeitserzeugendes Design; Details der Durchsetzung sind weiterhin ungeklärt, weitere Vorschläge sind seit September 2026 in Prüfung.
China hat nationale Vorschriften eingeführt, die für jeden KI-Dienst gelten, der für anhaltende emotionale Interaktion mit Nutzern konzipiert ist. Die Regeln traten am 15. Juli 2026 in Kraft und gelten als erster nationaler Rahmen der Welt, der speziell auf KI-Begrenzungsbeziehungen abzielt. Ihr erklärtes Ziel ist einfach: Menschen davon abzuhalten, Chatbots als Ersatz für andere Menschen zu nutzen.
Was die Vorschriften verlangen
Der Rahmen trägt einen formellen Titel: die Interim Measures for the Administration of AI Anthropomorphic Interaction Services. „Anthropomorph“ bezeichnet in diesem Zusammenhang KI, die sich menschenähnlich verhält – ein Assistent, der sich an den schwierigen Tag eines Nutzers erinnert und nachfragt, wie er verlaufen ist.
Die Maßnahmen wurden am 10. April 2026 erlassen – rund drei Monate vor Inkrafttreten – und gemeinsam von mehreren Regierungsstellen ausgearbeitet, darunter die Cyberspace Administration of China, die wichtigste Internet-Aufsichtsbehörde des Landes.
Die Pflichten gliedern sich in drei Stufen. Die erste ist Ehrlichkeit: Anbieter müssen Nutzern klar machen, dass sie mit einem KI-System sprechen, nicht mit einer Person. Die zweite ist ein Timer: Dienste müssen alle zwei Stunden Nutzungserinnerungen senden. Die dritte ist die gravierendste: Anbieter müssen eingreifen, wenn Nutzer Anzeichen von Distress oder Abhängigkeit zeigen – ein Eingriff, der gegebenenfalls die Kontaktaufnahme mit den gesetzlichen Betreuern eines Nutzers umfassen kann.
Auch das Design selbst ist erfasst. Die Regeln verbieten Funktionen, die darauf ausgelegt sind, Abhängigkeit zu erzeugen oder Nutzer emotional in einer Weise zu manipulieren, die ihre Beziehungen im realen Leben schädigt.
Minderjährige unterliegen den strengsten Beschränkungen
Altersgrenzen bilden die schärfste Kante der Regulierung. Nutzern unter 18 Jahren sind virtuelle intime Beziehungen zu KI untersagt. Kinder unter 14 Jahren sehen sich einer weiteren Hürde gegenüber: Sie benötigen die Zustimmung der Eltern, bevor sie überhaupt auf emotionale KI-Schnittstellen zugreifen dürfen. In der Praxis muss ein einzelner Begleitungsdienst nun drei Zielgruppen unterschiedlich behandeln: Kinder unter 14, Minderjährige unter 18 und Erwachsene.
Auch der Geltungsbereich ist relevant. Rein funktionale Tools fallen nicht unter die Regeln; ein Chatbot, der E-Mails entwirft oder Programmierfragen beantwortet, ist also nicht das Ziel. Die Regulierung gilt für Anwendungen, die fortlaufende emotionale Begleitung fördern.
Große Plattformen handel schnell
Chinas größte Technologieplattformen warteten nicht ab, um die Grenzen des neuen Rahmens auszutesten. Alibaba, ByteDance und Tencent deaktivierten oder beschränkten die Funktionen ihrer KI-Begleitungsdienste am oder vor dem regulatorischen Stichtag. Diese Dienste bedienten hunderte Millionen Nutzer – die Regeln treten also bei Massenmarktprodukten in Kraft, nicht bei Nischenexperimenten.
Warum Peking handelt
Die Regeln erwachsen aus Sorgen um die psychische Gesundheit und die sozialen Dynamiken. Die Aufsichtsbehörden rahmten das Risiko als emotionale Abhängigkeit und als Ersatz echter menschlicher Beziehungen durch künstliche.
Chinas Antwort besteht darin, den Anreiz direkt zu regulieren. Durch das Verbot abhängigkeitserzeugenden Designs und die geforderten Interventionen, wenn Nutzern zu schaffen gemacht wird, zielen die Regeln darauf ab, das Geschäftsziel von maximaler App-Verweildauer weg und in Richtung Nutzerwohl zu verschieben.
Der Prozess ist nicht abgeschlossen. Stand September 2026 werden weitere Vorschläge geprüft, ein Signal, dass Beamte dies als weiterentwickelnden Rahmen betrachten, der auf den Schutz Minderjähriger und die Begrenzung psychischer Schäden fokussiert ist.
Auswirkungen auf die KI-Branche
Compliance ist keine Einmaligkeit. Das Erkennen von Anzeichen von Distress oder Abhängigkeit erfordert laufende Monitoring-Systeme, Eskalationsverfahren und in einigen Fällen einen Weg, einen gesetzlichen Betreuer eines Nutzers zu erreichen. Der Zwei-Stunden-Erinnerungszyklus kommt als wiederkehrende betriebliche Pflicht hinzu.
Als erster nationaler Rahmen dieser Art – zuvor existierte kein vergleichbares nationales Regelwerk für KI-Begleitung – bietet Chinas Ansatz anderen Regierungen eine funktionierende Vorlage, gleich ob sie sie kopieren, abschwächen oder ablehnen.
Die entscheidende offene Frage ist die Durchsetzung. Regeln rund um „Anzeichen von Abhängigkeit“ hängen stark davon ab, wie die Aufsichtsbehörden den Begriff definieren und wie aggressiv sie Anbieter prüfen. Die ausstehenden Vorschläge und die ersten Durchsetzungsentscheidungen werden zeigen, wie sich diese Definitionen in der Praxis verfestigen.
