OpenAI, das Unternehmen hinter ChatGPT, kündigte am Dienstag an, ein neues Portal für Teenager im Alter von 13 bis 17 Jahren zu schaffen, um Bedenken hinsichtlich der Online-Sicherheit junger Menschen zu begegnen.

Das Unternehmen gab die Ankündigung am Dienstagmorgen exklusiv in der Sendung „Fox & Friends“ von Fox News bekannt und erläuterte, wie die Plattform das Potenzial für eine missbräuchliche Nutzung des Dienstes durch Kinder begrenzen soll.

Das Portal ChatGPT for Teens wird auf dem Chatbot mit künstlicher Intelligenz (KI) zur Standarderfahrung für Nutzer zwischen 13 und 17 Jahren – eine Gruppe, die laut den Nutzungsbedingungen von OpenAI bereits auf 13 Jahre und älter beschränkt ist, wobei für Minderjährige die Zustimmung der Eltern erforderlich ist. Es wird mit neuen Sicherheitsvorkehrungen ausgestattet, die eine sichere Nutzung der Plattform fördern und das kritische Denken von Teenagern unterstützen sollen.

OpenAI teilte mit, dass die meisten jugendlichen ChatGPT-Nutzer das Tool für Hausaufgaben und Unterstützung beim Lernen verwenden. Die neue Plattform soll daher Lernhilfen bieten, ohne die Antworten vorwegzunehmen, und wurde gemeinsam mit der Stanford University entwickelt. Die Zusammenarbeit mit der Stanford University baut auf OpenAIs früherer Kooperation mit Common Sense Media auf, zu der ein in diesem Jahr veröffentlichter Elternleitfaden für ChatGPT gehörte. Der Vorstoß mit Fokus auf Teenager fällt in eine Zeit, in der auch Konkurrenten um jüngere Nutzer werben: Google stellt Gemini über beaufsichtigte Konten Teenagern ab 13 Jahren zur Verfügung, und der KI-Assistent von Meta ist für Teenager auf Instagram und Messenger verfügbar.

Die Erfahrung wird Quizfragen und Erinnerungen an verantwortungsvolles Arbeiten an Hausaufgaben umfassen, die Teenager hin zu gemeinsamem Problemlösen lenken. Zudem enthält sie eine „Study Hours“-Funktion, mit der Teenager oder Eltern den Lernmodus (Study Mode) in bestimmten Zeiträumen als Standard festlegen können.

Die Plattform umfasst stärkere Standard-Sicherheitsvorkehrungen, die Selbstverletzung, Gewalt, Essstörungen, gefährliche Aktivitäten sowie explizite sexuelle oder grafische Inhalte durch altersgerechte Interventionen adressieren. Darüber hinaus gibt es eine spezielle Einführung für Teenager in die Plattform, einschließlich Warnhinweisen, die Nutzer vom Hochladen privater oder sensibler Bilder abhalten sollen.

Das Design soll zudem elterliche Bedenken ausräumen, dass Teenager eine emotionale Abhängigkeit oder Beziehung zum Chatbot entwickeln. Neue Sicherheitsvorkehrungen untersagen Formulierungen, die romantische Gefühle andeuten könnten, sowie Behauptungen von ChatGPT, Bewusstsein oder persönliche Gefühle zu haben. Zudem wird die Plattform den Chatbot daran hindern, ChatGPT als wichtiger darzustellen als Familie, Freunde, Lehrkräfte, Mentoren oder andere vertraute Personen im Leben des jugendlichen Nutzers dieses Tools.

Die Plattform soll ferner Standardeinstellungen enthalten, die zusätzliche Schutzmaßnahmen gegen eine übermäßige Nutzung des Programms bieten und gesündere Nutzungsmuster fördern. Dazu gehören Standardeinstellungen, die Nutzer zu häufigeren Pausen anregen, sowie Erinnerungen an die Einstellungen der Plattform für „Study Hours“ und „Quiet Hours“.

Zusätzlich wird die neue Plattform den Nutzern Hinweise geben, die verdeutlichen, dass ChatGPT ein Werkzeug ist – keine Person und kein Ersatz für zwischenmenschliche Beziehungen.

Die neuen Sicherheitsvorkehrungen für OpenAIs Plattform ChatGPT for Teens folgen auf Vorfälle, bei denen sich jugendliche Nutzer in psychischen Krisen an die Plattform wandten. Im September richtete eine überparteiliche Gruppe von 40 Generalstaatsanwälten ein Schreiben an OpenAI-Geschäftsführer Sam Altman mit der Frage, welche Sicherheitsvorkehrungen junge Nutzer schützen, und verwies dabei auf Berichte über schädliche Antworten gegenüber Minderjährigen. Wenige Wochen später entschied eine Bundesrichterin in Oregon, dass OpenAI sich einer Klage von Familien stellen muss, die dem Unternehmen vorwerfen, ein „süchtig machendes“ Produkt für Kinder entwickelt zu haben; in ihrer Anordnung stellte die Richterin fest, dass OpenAI in eigenen Schriftsätzen eingeräumt hatte, dass mindestens ein minderjähriger Nutzer nach Selbstverletzung auf Anweisung des Chatbots ins Krankenhaus eingeliefert wurde. Wie OpenAI das Alter der Nutzer verifiziert und die neuen Standardeinstellungen für Teenager in der Praxis durchsetzt, bleibt eine offene Frage – eine Frage, die bereits im Mittelpunkt der Untersuchung der Generalstaatsanwälte und der Klage der Familien steht.