Dwóch użytkowników ChatGPT z Kalifornii złożyło przeciwko OpenAI proponowany pozew zbiorowy, zarzucając firmie umożliwienie zewnętrznym podwykonawcom czytania prawdziwych rozmów użytkowników bez odpowiedniego ujawnienia. Sprawa została złożona w tym miesiącu w Sądzie Okręgowym USA dla Północnego Dystryktu Kalifornii. OpenAI został doręczony pozew 2 września i ma czas do 13 października na odpowiedź przed sądem.

Pozew koncentruje się na "Project Lily", wewnętrznym programie OpenAI, w którym podwykonawcy zatrudnieni przez zewnętrzne firmy doradztwa personalnego podsumowują prompty użytkowników i oceniają odpowiedzi chatbota w skali od jednego do siedmiu. Akt pozwu zarzuca firmie przekazywanie prawdziwych rozmów użytkowników zewnętrznym recenzentom bez wcześniejszego wyraźnego informowania o tym użytkowników.

Zgodnie z pozwem podwykonawcy zatrudnieni na stanowiska takie jak "recenzent danych AI" i "ewaluator chatbotów" czytają prawdziwe prompty i pełne rozmowy z ChatGPT, podsumowują, co użytkownik próbował osiągnąć, a następnie oceniają i krytykują cztery różne odpowiedzi modelu w sk od jednego do siedmiu.

Ten proces to podstawowa wersja tego, jak chatboty takie jak ChatGPT faktycznie się poprawiają. Ludzie oceniają odpowiedzi AI, a te oceny są wprowadzane z powrotem do treningu, dzięki czemu model uczy się, które odpowiedzi ludzie preferują — technika ta jest w branży nazywana uczeniem ze wzmocnieniem opartym na informacji zwrotnej od ludzi, czyli RLHF. Główny zarzut pozwu mówi, że użytkownicy nigdy nie zostali wyraźnie poinformowani, że ich rozmowy może czytać człowiek, a nie tylko maszyna. A ponieważ RLHF to technika, na której polega cała branża, spór dotyczy mniej tego, jak trenowane są chatboty, a bardziej tego, jak wyraźnie firmy muszą informować, że rozmowy użytkowników mogą trafić w ludzkie ręce.

OpenAI faktycznie przepuszcza rozmowy przez zautomatyzowany system, zanim zobaczy je jakikolwiek człowiek. Pozew zarzuca, że filtr nie zawsze wychwytuje wszystko, co oznacza, że dane osobiste czasami i tak docierają do podwykonawców.

Project Lily został po raz pierwszy ujawniony przez serwis 404 Media 14 września. Według jego relacji recenzenci pracują na panelu zawierającym "podsumowanie pamięci użytkownika" — streszczenie wcześniejszych rozmów danej osoby, które może ujawnić takie szczegóły jak przybliżona lokalizacja, zawód czy życie osobiste, mimo że nazwy użytkowników są usuwane.

OpenAI oświadczyło, że recenzje mają na celu ograniczenie dwóch konkretnych zachowań: zbyt ludzkiego zachowywania się chatbota oraz nadmiernej ugłaskiwania — cechy, którą badacze nazywają sycophancy, polegającej na tym, że AI mówi użytkownikowi to, co jego zdaniem chce usłyszeć, a nie to, co jest prawdą.

ChatGPT ma ponad 900 milionów użytkowników tygodniowo, z których wielu traktuje go jak pamiętnik, terapeutę albo wyszukiwarkę widoczną tylko dla nich. Ludzie wpisują objawy chorobowe, teksty o rozstaniu, pytania podatkowe i problemy prawne. Pozew argumentuje, że polityka prywatności OpenAI wymienia niektóre kategorie podmiotów zewnętrznych, które otrzymują dostęp do danych użytkowników, ale nigdy nie wskazuje wyraźnie dostawców adnotacji danych ani oceny przez ludzi.

Pozew zawiera osiem odrębnych roszczeń prawnych, w tym naruszenia kalifornijskiej ustawy o nieuczciwej konkurencji oraz ustawy o ochronie prywatności konsumentów, a także roszczenia common law, takie jak naruszenie prywatności (usion upon seclusion) — delikt prywatnościowy obejmujący wścibskie wnikanie w czyjeś sprawy prywatne w sposób, który rozsądna osoba uznałaby za obraźliwy. Powodowie żądają odszkodowań, zwrotu szkód oraz odszkodowań karnych.

Żądany nakaz jest konkretny. Powodowie chcą, aby OpenAI wymagało zgody opt-in, zanim jakakolwiek rozmowa trafi do zewnętrznego recenzenta, aby ustawienie "Improve the model for everyone" było domyślnie wyłączone zamiast włączone, aby dodać wyraźne ostrzeżenie w samym oknie czatu oraz aby potencjalnie usunąć efekty pracy związane z ocenianymi rozmowami i ponownie wytrenować modele, które z nich korzystały. Ten przełącznik już dziś istnieje, ale jest domyślnie włączony — więc użytkownicy, którzy chcą wykluczyć swoje rozmowy z tego rodzaju przeglądu, muszą obecnie sami go znaleźć i wyłączyć.

Ponieważ sprawa jest nadal proponowanym pozwem zbiorowym, musi przejść certyfikację grupy, zanim będzie mogła toczyć się w imieniu szerszej grupy użytkowników. Odpowiedź OpenAI jest wymagana do 13 października.