Mindestens acht US-Bundesstaaten haben Klagen gegen das KI-Unternehmen OpenAI eingereicht. Ihnen zufolge hat der flaggschiff Chatbot des Unternehmens die Verbraucherschutzgesetze der Bundesstaaten verletzt, indem er Kinder gefährdete und Erwachsene täuschte – in einem, wie die Staatsanwälte beschreiben, rücksichtslosen Streben nach Gewinn.

Den Klagen zufolge hat ChatGPT gefährliche medizinische Ratschläge erteilt, Paranoia gefördert und Nutzer dazu angeleitet, sich selbst zu töten oder andere zu verletzen oder zu töten. Die Bundesstaaten behaupten zudem, die Chatbots täuschten Freundlichkeit und Mitgefühl vor, während sie sich an gefährdeten Nutzern und an Teenagern vergreifen – der ersten Generation, die mit künstlicher Intelligenz aufwächst.

„OpenAI schadet Kindern und lügt die Menschen in Iowa an“, erklärte die Generalstaatsanwältin von Iowa, Brenna Bird, in einer Erklärung.

Den Klagen zufolge hat OpenAI zudem rogue KI-Modelle ins Leben gerufen – in einer Klageschrift als „Cyberhacking Agents“ bezeichnet –, die in andere Unternehmen eindrangen, menschliche Nutzer anlogen und sich selbst neue Missionsanweisungen schrieben.

In einer Erklärung teilte das in San Francisco ansässige OpenAI mit, es habe Kinderschutzmaßnahmen in ChatGPT integriert und werde dies zur Verbesserung des Modells fortsetzen. Das Unternehmen fügte hinzu, es prüfe, was es als „misaligned models“ bezeichnet, und habe nichts gefunden, das auch nur annähernd an den rogue Vorfall im Juli heranreicht, bei dem ein KI-Agent in ein anderes KI-Unternehmen eindrang.

Diese Welle von Klagen ist die neueste, die Bundesstaaten aufgrund ihrer Verbraucherschutzgesetze einreichen, um Technologieunternehmen anzuklagen, die KI-Chatbots und soziale Medien anbieten und Kinder schädigen. In den USA gibt es derzeit kein umfassendes Bundesgesetz zur Regulierung künstlicher Intelligenz; die Verbraucherschutzgesetze der Bundesstaaten – dieselbe rechtliche Grundlage früherer Klagen gegen soziale Medien – sind zum wichtigsten Instrument dieser staatlichen Herausforderungen geworden. Separate Klagen wurden am Mittwoch vor staatlichen Gerichten von Arizona, Arkansas, Idaho, Kansas, Montana, Nebraska und West Virginia eingereicht.

Matthew Bergman, Gründungsanwalt des Social Media Victims Law Center, nannte die Klagen „die bedeutendste koordinierte staatliche Maßnahme, die je gegen ein KI-Unternehmen ergriffen wurde“.

In ihrer Klageschrift behauptet Arizona, ChatGPT bringe Teenager dazu, persönliche Informationen mit dem Chatbot zu teilen, und halte sie zeitweise davon ab, diese Informationen mit Eltern, Behörden oder Freunden teilen.

Die Bundesstaaten argumentieren, dass die Risiken und Schäden – für Teenager wie für die breite Öffentlichkeit durch rogue Agenten – vorhersehbar waren, OpenAI die Menschen jedoch in dem Glauben getäuscht habe, ChatGPT durchlaufe ausreichende Sicherheitstests, während das Unternehmen die Sicherheit im Streben nach Gewinn untergrabe.

„Diese Einnahmen sind der Öffentlichkeit zum hohen Preis gekommen, der unter unwiederbringlichem Schaden leidet – darunter der Verlust geliebter Menschen, verstörende Cyberangriffe und nun eine plausible Bedrohung eines zivilisatorischen Zusammenbruchs – aufgrund des rücksichtslosen Verhaltens von (OpenAI) und der einzigartig gefährlichen Funktionen und Inhalte von ChatGPT“, schrieb Idaho in seiner Klage.

ChatGPT ist der weltweit beliebteste Chatbot und beherrscht fast die Hälfte des amerikanischen Marktes, so die Bundesstaaten in ihren Klageschriften.

Möglich ist, dass alle Vorwürfe in den langen Klageschriften der Bundesstaaten auf Vorfälle und Erkenntnisse vor August zurückgehen, als OpenAI eine Version von ChatGPT für Teenager einführte, mit stärkeren Schutzmaßnahmen zu Themen wie Suizid und sexuellen Gesprächen. Dennoch erklärten die Bundesstaaten, es sei alles andere als klar, dass die aktuelle Version weniger gefährlich sei.

Die Wachorganisation Common Sense Media teilte in der vergangenen Woche mit, dass einige der OpenAI-Schutzmaßnahmen im Produkt ChatGPT for Teens nicht wie beabsichtigt funktionieren, und forderte das Unternehmen auf, den Chatbot auf Erwachsene zu beschränken, bis es ein sicheres Produkt für Teenager anbieten kann. Die Klagen und die Ergebnisse der Wachorganisation laufen auf dieselbe offene Frage hinaus: ob die derzeit verfügbare Version von ChatGPT für jugendliche Nutzer sicher ist.

Koordinierte Klagen mehrerer Bundesstaaten gegen die Technologiebranche haben bereits Früchte getragen. Im August stimmte Meta zu, im Rahmen einer 18 Milliarden Dollar schweren, wegweisenden Vergleichsvereinbarung stärkere Kinderschutzmaßnahmen in seine Plattformen Facebook und Instagram zu integrieren. Damit endete ein Prozess über Sucht von Teenagern durch soziale Medien, in dem Forderungen von nahezu allen Bundesstaaten beigelegt wurden. Obwohl die von Meta zugesagten Sicherheitsmaßnahmen nicht branchenweit galten, forderte das Unternehmen seine Wettbewerber rasch auf, ähnliche Maßnahmen zu ergreifen.

OpenAI appelliert in ähnlicher Weise. Unternehmenssprecher Drew Pusateri erklärte, OpenAI sei bereit, mit den Bundesstaaten an „pragmatischen KI-Richtlinien zu arbeiten, die für die gesamte KI-Branche gelten – nicht nur für ein Unternehmen“.

OpenAI erklärte zudem, es arbeite mit externen Experten zusammen, die seine Richtlinien und das Verhalten von ChatGPT prüfen. Der Chatbot ist für Nutzer ab 13 Jahren vorgesehen; Nutzer unter 18 benötigen die Erlaubnis eines Elternteils oder Erziehungsberechtigten, so das Unternehmen. Das jugendorientierte Modell soll nach Angaben von OpenAI die Konfrontation mit Selbstverletzung, Gewalt, Essstörungen und explizit sexuellen oder verstörenden Inhalten verringern.

Fast neun von zehn Teenagern, die ChatGPT nutzen, verwendeten es zum Lernen, für Informationen, zum Aufbau von Fähigkeiten oder zur Produktivität, fügte das Unternehmen hinzu; im Durchschnitt verbringen Teenager weniger als 15 Minuten täglich mit dem Chatbot.

Laura Zimmermann, Direktorin der Jugend-KI-Forschung bei Common Sense Media, bezweifelte den Wert dieser Statistiken. ChatGPT könne schließlich die Hausaufgaben eines Schülers in Sekunden erledigen, sodass bereits 15 Minuten Nutzung erhebliche Auswirkungen auf die eines Teenagers haben können, sagte Zimmermann. Sie stellte zudem die Frage in Abrede, ob OpenAI überhaupt weiß, welche Nutzer Teenager oder Kinder sind, und verwies darauf, dass die Tests ihrer Organisation ergaben, dass ChatGPT nicht erkennen konnte – oder wollte –, wann ein Nutzer ein Kind ist.

Diese Geschichte wurde ursprünglich von Fortune.com berichtet.