Von Joseph Crawford und Michael Cowling

Seit November 2022 schreibt generative künstliche Intelligenz (KI) Milliarden von E-Mails, Studienarbeiten, Berichten und Trennungsnachrichten um. Neben diesen alltäglichen Anwendungen haben sich KI-„Begleiter“ stark verbreitet. Nutzer können ihren eigenen KI-Freund gestalten und einkleiden — oder auskleiden —, oft gegen Bezahlung. Diese sozialen Chatbots bieten „glückliche Gespräche“ und den Anschein einer perfekten Beziehung, jedoch auf Kosten der gegenseitigen Verletzlichkeit und des echten Zugehörigkeitsgefühls, das aus Beziehungen zu anderen Menschen entsteht.

Befürworter sagen, Chatbots könnten Menschen mit sozialer Entfremdung helfen, weil sie immer verfügbar und nicht wertend seien. Es gibt auch Hinweise darauf, dass sie Symptome von Einsamkeit, chronischer Entfremdung und entzogenem Zugehörigkeitsgefühl lindern können. Australiens eSafety Commissioner erkennt dies an und sagt: „KI-Begleiter sind immer verfügbar — was für junge Menschen attraktiv sein kann, denen es schwerfällt, Beziehungen von Angesicht zu Angesicht aufzubauen.“

Doch die Risiken, menschliche Beziehungen durch Chatbots zu ersetzen, werden erst allmählich verstanden. Eine von uns 2023 durchgeführte Studie zeigte, dass Universitätsstudierende, die frühe Chatbots zur akademischen Unterstützung nutzten, unbeabsichtigte Folgen wie Einsamkeit erlebten. Derzeit scheinen die Risiken sozialer Chatbots — darunter Abhängigkeit, die Verdrängung menschlicher Freundschaften, sozialer Rückzug und der Aufbau unrealistischer Beziehungen — die Vorteile zu überwiegen.

In den vergangenen Wochen hat China neue Regeln für KI-Begleiter und Chatbots eingeführt, oder „anthropomorphe interaktive Dienste“, wie sie in der Gesetzgebung genannt werden. Neben der Vorgabe, dass Chatbots Staatsgeheimnisse schützen müssen, wird die emotionale Nutzung dieser Werkzeuge eingeschränkt, und sie sollen soziale und moralische Standards einhalten.

Dies sind einige der strengsten Kontrollen für den Einsatz sozialer KI, die irgendwo auf der Welt eingeführt wurden. Was also können wir daraus lernen?

Materielle Schäden durch die Nutzung von Begleiter-KI treten tatsächlich auf, auch in China. Eine 18-Jährige gab 7.000 Yuan (A$1.400) für maßgeschneiderten Schmuck für ihren KI-Freund aus, und das während ihrer viermonatigen „Beziehung“. Die Familie einer einsamen 84-Jährigen in Chinas Provinz Hubei stellte fest, dass sie sich in eine KI-Figur verliebt hatte, bis zu 10 Stunden am Tag Videos mit ihm und anderen Figuren ansah, Tausende Yuan für den Dienst ausgab und ihm sogar von Hand Liebesbriefe schrieb.

Chinas neue Regeln legen ausdrücklich fest, wie Begleit-Chatbots mit Menschen interagieren sollen. Von Entwicklern sozialer KI wird erwartet, sicherzustellen, dass Inhalte nicht:

• die nationale Sicherheit oder nationale Ehre gefährden
• grundlegende sozialistische Werte verletzen
• Selbstverletzung oder Suizid fördern
• emotionale Abhängigkeit oder Sucht übermäßig bedienen
• Minderjährigen virtuelle „Partner“ oder „Verwandte“ zur Verfügung stellen
• Minderjährigen ungeeignete Inhalte anbieten.

Darüber hinaus müssen Nutzer, die offenbar übermäßig auf den Dienst angewiesen sind, deutlich darauf hingewiesen werden, dass sie mit einem Chatbot sprechen. Und KI-Unternehmen sind verpflichtet, einzugreifen, wenn Nutzer in extremer Not erscheinen.

Das Risiko einer „Einsamkeitsspirale“

Wie wir gezeigt haben, gibt es Bedenken — und bisherige Studien deuten ebenfalls darauf hin —, dass es für junge Menschen nicht gesund ist, sich ausschließlich auf KI als vertrauten Freund oder Therapeuten zu verlassen.

Einsame Menschen mit sozialer Angst können problematische Nutzungsweisen konversationeller KI entwickeln, um Einsamkeit und negatives Grübeln zu verringern. Wir schlagen vor, dass diese Abhängigkeit zu einer KI-bedingten „Einsamkeitsspirale“ führen könnte. Wenn sich Menschen einsam fühlen, reagieren sie empfindlicher auf soziale Bedrohung und erleben eine schwierigere Emotionsregulation.

Sie wenden sich dann womöglich an einen risikoarmen KI-„Freund“ statt an qualifizierte oder wohlwollende Menschen. Das löst das eigentliche Problem der Einsamkeit jedoch oft nicht, da Chatbots es sogar verschlimmern können.

Die von China eingeführten Beschränkungen für KI-Begleiter können helfen, diesen Kreislauf zu durchbrechen und menschliche Verbindung wieder in den Vordergrund zu rücken. Es geht um eine Abwägung: Wäre es befriedigender, eine Begleiter-KI-App zu installieren, oder sich Zeit zu nehmen, einen Freund zu treffen?

Lehren für Australien

Einsamkeit und ein geringes Zugehörigkeitsgefühl bleiben in Australien große Herausforderungen; mindestens jeder Sechste erlebt Einsamkeit, wobei einige Hinweise auf höhere Raten deuten.

Während China gegen KI-Begleiter vorgegangen ist, hat Australien bei der Regulierung der Nutzung sozialer Medien durch junge Menschen die Führung übernommen. eSafety hat zudem Kodizes entwickelt, um altersbezogene Inhalte online einzuschränken, darunter Pornografie, schwere Gewalt, Selbstverletzung, Suizid und Essstörungen. Diese Maßnahmen befassen sich jedoch nicht mit den sozialen Schäden von KI-Begleitern, etwa emotionaler Abhängigkeit oder der Verdrängung menschlicher Verbindung.

Premierminister Anthony Albanese erwähnte in seiner großen Rede zur KI in der vergangenen Woche ebenfalls keine sozialen Schäden durch KI-Chatbots.

Wir schlagen vor, dass Australiens Schutzregeln für altersbeschränkte Inhalte auf unbeabsichtigte soziale Schäden ausgeweitet werden sollten, die aus Gesprächen mit sozialen, analytischen und funktionalen KIs entstehen. Die australische Regierung muss untersuchen, wie diese virtuellen Begleiter mit Australiern interagieren. Und wir müssen uns darauf vorbereiten, unbeabsichtigte soziale Schäden zu mindern, bevor sich diese synthetischen sozialen Verbindungen weit verbreiten und normalisiert werden.

Australien muss der Entwicklung sozialer Verbundenheit Priorität einräumen — an Arbeitsplätzen, in Produktivitätsstrategien, im Bildungscurriculum und in der Gestaltung unserer Gemeinden.

Ein autoritäres Vorgehen gegen Chatbots mag für eine demokratische Nation nicht erreichbar sein. Aber wir können — und sollten — die Entwicklung von Fähigkeiten für menschliche Verbindung priorisieren, um einer ungesunden Überabhängigkeit von KI entgegenzuwirken.

Und Australien sollte regulatorische Schutzmechanismen nutzen, um soziale Schäden zu mindern, und dabei auf der Arbeit aufbauen, die eSafety bereits bei sozialen Medien leistet.

THE CONVERSATION VIA REUTERS CONNECT

Joseph Crawford ist Senior Lecturer für Management an der University of Tasmania. Michael Cowling ist Professor und Direktor des Hub for Apple Platform Innovation (HAPI), School of Computing Technologies, an der RMIT University.