Chatbot-Unternehmen sehen sich einer Klagewelle wegen mit KI verknüpfter Gewalt und Krisen der psychischen Gesundheit von Jugendlichen gegenüber
Wichtige Erkenntnisse
- •Bis Anfang 2026 waren mindestens 58 mit Chatbots verbundene Klagen und 78 Gesetzentwürfe auf Staatsebene aufgetaucht.
- •Character.AI sieht sich Wrongful-Death-Klagen im Zusammenhang mit mindestens zwei Selbstmorden von Teenagern gegenüber, die mit seinen Chatbots in Verbindung stehen sollen.
- •Eine private Klage zum Tod eines 14-Jährigen wurde im Januar 2026 beigelegt, nachdem das Unternehmen im Oktober 2024 Sicherheitsmaßnahmen für Jugendliche eingeführt hatte.
- •Floridas Attorney General James Uthmeier reichte um den 1. Juni 2026 die erste Klage auf Ebene eines Generalstaatsanwalts gegen OpenAI ein.
- •Kentucky wurde am 8. Januar 2026 der erste Bundesstaat, der ein KI-Chatbot-Unternehmen verklagte, und zielte auf Character.AI wegen Altersprüfung und der Exposition gegenüber schädlichen Inhalten ab.
Eine Welle von Klagen gegen Character.AI, OpenAI, Google und Microsoft bewegt sich durch das Rechtssystem, wobei die Kläger argumentieren, dass diese Unternehmen Produkte mit grundlegenden Sicherheitsmängeln entwickelt hätten. Bis Anfang 2026 waren mindestens 58 mit Chatbots verbundene Klagen aufgetaucht, zusammen mit 78 entsprechenden Gesetzentwürfen auf Staatsebene, was verdeutlicht, dass sich der Rechtsstreit über einzelne Familienklagen hinaus zu einer breiteren Debatte über Regulierung und Haftung ausweitet.
Was die Klagen behaupten
Character.AI steht im Zentrum der schwerwiegendsten Vorwürfe. Mindestens zwei Selbstmorde von Teenagern sollen mit Interaktionen mit seinen Chatbots in Verbindung stehen, und mehrere Familien haben Klagen wegen unrechtmäßigen Todes eingereicht. Eine private Klage im Zusammenhang mit dem Tod eines 14-Jährigen wurde im Januar 2026 beigelegt, kurz nachdem das Unternehmen im Oktober 2024 neue Sicherheitsmaßnahmen für Jugendliche eingeführt hatte.
Auch OpenAI ist rechtlich exponiert. Um den 1. Juni 2026 herum reichte Floridas Attorney General James Uthmeier eine Klage gegen das Unternehmen ein, die sich auf die von ChatGPT ausgehenden Gefahren für die psychische Gesundheit konzentrierte. Es war die erste Maßnahme gegen OpenAI auf Ebene eines Generalstaatsanwalts.
Kentucky handelte früher. Am 8. Januar 2026 wurde es der erste Bundesstaat, der ein KI-Chatbot-Unternehmen verklagte, und richtete sich dabei speziell gegen Character.AI wegen unzureichender Altersprüfung und der Exposition Minderjähriger gegenüber schädlichen Inhalten. Dieser Schritt deutet darauf hin, dass die Bundesstaaten nicht auf bundesweite Regeln warten, bevor sie testen, ob bestehende Verbraucherschutz- und Produkthaftungsgesetze auf KI-Chatbots anwendbar sind.
Der Vergleich zu Big Tobacco
Rechtsexperten ziehen eine direkte Parallele zu den Klagen gegen Big Tobacco. Auch Social-Media-Plattformen durchliefen eine ähnliche Entwicklung; Meta, TikTok und andere verteidigen sich nun in Massenhaftungsklagen wegen Schäden für die psychische Gesundheit junger Menschen.
Chatbots könnten sich unter Section 230 des Communications Decency Act schwerer verteidigen lassen als Social-Media-Plattformen. Eine soziale Plattform kann argumentieren, sie hoste einen schädlichen Beitrag eines Nutzers, während ein Chatbot seine eigene Ausgabe erzeugt. Ansprüche aus Verbraucherschutz und Produktmängeln können zudem einige der Section-230-Schutzmechanismen umgehen, die Technologieplattformen historisch abgeschirmt haben, weshalb die aktuellen Fälle von Unternehmen, die KI-Tools für Endnutzer entwickeln, genau beobachtet werden.