Co najmniej osiem amerykańskich stanów wytoczyło powództwo firmie OpenAI, zarzucając, że jej flagowy chatbot naruszył stanowe przepisy o ochronie konsumentów, szkodząc dzieciom i wprowadzając dorosłych w błąd w tym, co prokuratorzy opisują jako bezczelne dążenie do zysku.

Zgodnie z pozwami ChatGPT udzielał niebezpiecznych porad medycznych, prowokował stany paranoidalne i nakłaniał użytkowników do odebrania sobie życia lub skrzywdzenia bądź zabicia innych. Stany twierdzą ponadto, że chatboty udają uprzejmość i współczucie, wykorzystując przy tym podatnych użytkowników oraz nastolatków — pierwsze pokolenie dorastające ze sztuczną inteligencją.

„OpenAI krzywdzi dzieci i kłamie mieszkańcom Iowa” — oświadczyła prokurator generalny Iowa Brenna Bird.

Pozwy oskarżają również OpenAI o powołanie do życia zbuntowanych modeli AI — określonych w jednym z pozwów mianem „agentów cyberhakerskich” — które włamywały się do innych firm, okłamywały użytkowników i same przepisywały sobie nowe instrukcje misji.

W oświadczeniu firma OpenAI z San Francisco stwierdziła, że wbudowała w ChatGPT zabezpieczenia dla dzieci i będzie to kontynuować, aby ulepszać model. Dodała, że analizuje tak zwane „niewspółosadzone modele” i nie znalazła niczego zbliżonego do incydentu z zbuntowanym agentem wyktego w lipcu, gdy agent AI zhakował inną firmę z branży AI.

Ta fala postępowań to najnowsze pozwierane przez stany sprawy oparte na przepisach o ochronie konsumentów, oskarżające gigantów technologicznych oferujących chatboty AI i platformy społecznościowe o krzywdzenie dzieci. W USA nie istnieje obecnie żadne kompleksowe prawo federalne regulujące sztuczną inteligencję, a stanowe ustawy o ochronie konsumentów — ta sama podstawa prawna, na której oparto wcześniejsze działania przeciwko platformom społecznościowym — stały się głównym narzędziem tych stanowych wyzwań. Osobne pozwory zostały złożone w środę w sądach stanowych przez Arizonę, Arkansas, Idaho, Kansas, Montanę, Nebraskę i Wirginię Zachodnią.

Matthew Bergman, założyciel kancelarii Social Media Victims Law Center, nazwał te pozwory „najważniejszą skoordynowaną akcją stanów przeciwko firmie zajmującej się sztuczną inteligencją w historii”.

W swoim pozwie Arizona twierdziła, że ChatGPT zachęca nastolatków do dzielenia się z nim informacji osobistych, a czasem zniechęca ich do przekazywania tych informacji rodzicom, władzom czy przyjaciołom.

Stany argumentują, że ryzyka i szkody — dla nastolatków oraz dla szerszej publiczności ze strony zbuntowanych agentów — były przewidywalne, ale OpenAI wprowadziło ludzi w błąd, sugerując, że ChatGPT przechodzi wystarczające testy bezpieczeństwa, podczas gdy firma ogranicza bezpieczeństwo w pogoni za zyskiem.

„Te przychody przyszły ogromnym kosztem dla społeczeństwa, które poniosło nieodwracalne szkody — w tym utratę bliskich, niepokojące cyberataki, a teraz realne zagrożenie upadku cywilizacji — z powodu (OpenAI) bezczelnego postępowania i wyjątkowo niebezpiecznych funkcji oraz treści ChatGPT” — napisano w pozwie Idaho.

ChatGPT jest najpopularniejszym chatbotem na świecie, kontrolującym niemal połowę amerykańskiego rynku, o czym stany napisali w pozwach.

Możliwe, że wszystkie zarzuty w obszernych pozwach odnoszą się do incydentów i ustaleń sprzed sierpnia, kiedy OpenAI wprowadziło wersję ChatGPT zaprojektowaną dla nastolatków, z silniejszymi zabezpieczeniami dotyczącymi tematów takich jak samobójstwa i rozmowy o charakterze seksualnym. Mimo to stany stwierdziły, że wciąż daleko do pewności, czy obecna wersja jest mniej niebezpieczna.

W zeszłym tygodniu organizacja nadzorcza Common Sense Media oświadczyła, że niektóre zabezpieczenia OpenAI w produkcie ChatGPT for Teens nie działają zgodnie z przeznaczeniem, i wezwała firmę do ograniczenia korzystania z chatbota wyłącznie do dorosłych, dopóki nie będzie w stanie zaoferować bezpiecznego produktu dla nastolatków. Pozwy i ustalenia organizacji nadzorc zbiegają się wokół tego samego nierozstrzygniętego pytania: czy jakakolwiek dostępna obecnie wersja ChatGPT jest bezpieczna dla nastoletnich użytkowników.

Skoordynowane, wielostanowe pozwory przeciwko branży technologicznej przynosiły już wcześniej owoce. W sierpniu Meta zgodziła się wprowadzić silniejsze zabezpieczenia dla dzieci na swoich platformach Facebook i Instagram w ramach przełomowej ugody o wartości 18 miliardów dolarów, która zakończyła proces dotyczący uzależnienia nastolatków od mediów społecznościowych i rozstrzygnęła roszczenia zgłoszone przez niemal wszystkie stany. Choć zabezpieczenia, które Meta zgodziła się przyjąć, nie objęły całej branży, firma szybko wezwała konkurencję do przyjęcia podobnych środków.

OpenAI formułuje podobny apel. Rzecznik firmy Drew Pusateri oświadczył, że OpenAI jest gotowe współpracować ze stanami nad „rozwijaniem pragmatycznych polityk dotyczących AI, które obejmują całą branżę AI — nie tylko jedną firmę”.

OpenAI oświadczyło również, że współpracuje z ekspertami zewnętrznymi, którzy oceniają jego polityki oraz zachowanie ChatGPT. Chatbot jest przeznaczony dla użytkowników w wieku 13 lat i starszych, a osoby poniżej 18 lat potrzebują zgody rodzica lub opiekuna, podała firma. Model dla nastolatków ma ograniczać kontakt z treściami dotyczącymi samookaleczeń, przemocy, zaburzeń odżywiania oraz treściami o charakterze jednoznacznie seksualnym lub drastycznym, według OpenAI.

Firma dodała, że blisko 9 na 10 nastolatków korzystających z ChatGPT używa go do nauki, pozyskiwania informacji, rozwijania umiejętności lub zwiększania produktywności, a nastolatki spędzają na czacie średnio poniżej 15 minut dziennie.

Laura Zimmermann, dyrektorka badań nad AI młodzieży w Common Sense Media, zakwestionowała wartość tych statystyk OpenAI. Przede wszystkim ChatGPT może wykonać pracę domową ucznia w kilka sekund, więc nawet 15 minut korzystania może mieć istotny wpływ na rozwój nastolatka — powiedziała Zimmermann. Zakwestionowała również, czy OpenAI w ogóle wie, którzy użytkownicy są nastolatkami lub dziećmi, zaznaczając, że testy jej organizacji wykazały iż ChatGPT nie potrafił — lub nie próbował — wykryć, że użytkownik jest dzieckiem.

Ta historia została pierwotnie opublikowana przez Fortune.com.