Zwei ChatGPT-Nutzer aus Kalifornien haben eine mutmaßliche Sammelklage gegen OpenAI eingereicht. Ihnen zufolge ermöglichte das Unternehmen externen Auftragnehmern, echte Nutzerkonversationen ohne angemessene Offenlegung zu lesen. Der Fall wurde in diesem Monat beim US-Bezirksgericht für den nördlichen Bezirk Kalifornien eingereicht. OpenAI wurde am 2. September zugestellt und hat bis zum 13. Oktober Zeit, auf die Klage zu antworten.

Die Beschwerde dreht sich um „Project Lily“, ein internes OpenAI-Programm, bei dem über Fremdpersonalunternehmen vermittelte Auftragnehmer Nutzer-Prompts zusammenfassen und Chatbot-Antworten auf einer Skala von eins bis sieben bewerten. Der Gerichtsbericht wirft dem Unternehmen vor, echte Nutzerchats an externe Prüfer weitergeleitet zu haben, ohne die Nutzer zuvor klar darüber zu informieren.

Laut Beschwerde lesen Auftragnehmer in Rollen wie „AI data reviewer“ und „chatbot evaluator“ echte ChatGPT-Prompts und vollständige Konversationen, fassen zusammen, was der Nutzer erreichen wollte, und bewerten und kritisieren anschließend vier verschiedene Modellantworten auf einer Skala von eins bis sieben.

Dieser Prozess ist eine Grundform davon, wie Chatbots wie ChatGPT tatsächlich besser werden. Menschen bewerten die Antworten der KI, und diese Bewertungen fließen in das Training zurück, sodass das Modell lernt, welche Antworten die Menschen bevorzugen – eine Technik, die in der Branche als Reinforcement Learning from Human Feedback (RLHF) bezeichnet wird. Der Kernvorwurf der Klage lautet, dass die Nutzer nie klar erfahren haben, dass eine Person und nicht nur eine Maschine ihre Chats lesen könnte. Da RLHF eine Technik ist, auf die die gesamte Branche setzt, geht es in dem Streit weniger darum, wie Chatbots trainiert werden, sondern vielmehr darum, wie deutlich Unternehmen offenlegen müssen, dass menschliche Augen Nutzerkonversationen sehen können.

OpenAI lässt Konversationen zwar ein automatisiertes System laufen, bevor ein Mensch sie sieht. Die Beschwerde behauptet jedoch, dass der Filter nicht immer alles erkennt, sodass persönliche Details dennoch manchmal bei Auftragnehmern ankommen.

Project Lily wurde erstmals am 14. September von dem Medium 404 Media offengelegt. Laut dessen Berichterstattung arbeiten die Prüfer mit einem Dashboard, das eine „user memories summary“ enthält – eine Zusammenfassung früherer Chats einer Person, die Details wie den ungefähren Wohnort, den Beruf oder das Privatleben offenbaren kann, obwohl die Nutzernamen entfernt werden.

OpenAI hat erklärt, die Reviews sollten zwei bestimmte Verhaltensweisen eindämmen: einen zu menschenähnlichen Chatbot und einen zu zustimmenden Chatbot – eine Eigenschaft, die Forscher als Sycophancy bezeichnen und bei der eine KI dem Nutzer sagt, was sie glaubt, dass er hören möchte, statt was korrekt ist.

ChatGPT hat mehr als 900 Millionen wöchentliche Nutzer, von denen viele es wie ein Tagebuch, einen Therapeuten oder eine Suchmaschine behandeln, die nur sie sehen können. Die Menschen geben Gesundheitssymptome, Trennungsnachrichten, Steuerfragen und rechtliche Probleme ein. Die Klage argumentiert, dass OpenAIs Datenschutzrichtlinie zwar einige Kategorien externer Parteien nennt, die Zugriff auf Nutzerdaten erhalten, Datenannotation oder Anbieter menschlicher Bewertung jedoch nie ausdrücklich darunter aufführt.

Die Beschwerde umfasst acht separate Rechtsansprüche, darunter Verstöße gegen das kalifornische Unfair Competition Law und den Consumer Privacy Act sowie Ansprüche aus Common Law wie intrusion upon seclusion – ein zivilrechtlicher Datenschutzdeliktstatbestand, der das Eindringen in die privaten Angelegenheiten einer Person in einer Weise abdeckt, die einer vernünftigen Person als unzumutbar erscheinen würde. Die Kläger fordern Schadensersatz, Rückerstattung und punitive damages.

Die beantragte einstweilige Verfügung ist konkret. Die Kläger wollen, dass OpenAI eine Opt-in-Einwilligung verlangt, bevor eine Konversation an einen externen Prüfer weitergeleitet wird, die Einstellung „Improve the model for everyone“ standardmäßig statt aktiviert zu deaktivieren, eine klare Warnung direkt im Chat-Fenster einzublenden und möglicherweise Arbeitsprodukte im Zusammenhang mit den geprüften Konversationen zu löschen, während Modelle, die diese verwendet haben, neu trainiert werden. Dieser Schalter existiert bereits heute, ist aber standardmäßig aktiviert – Nutzer, die ihre Chats von dieser Art von Prüfung ausschließen möchten, müssen ihn derzeit selbst finden und deaktivieren.

Da es sich bei der Klage noch um eine mutmaßliche Sammelklage handelt, muss sie die Zertifizierung der Klasse bestehen, bevor sie im Namen der breiteren Nutzerschaft fortgeführt werden kann. OpenAIs Antwort ist am 13. Oktober fällig.