Kalifornia zrobiła kolejny krok w kierunku zakazania chatbotom AI podszywania się pod terapeutów i podejmowania decyzji dotyczących zdrowia psychicznego bez nadzoru człowieka, po tym jak kluczowa komisja Zgromadzenia Stanowego przyjęła Senate Bill 903.

Wniesiony 21 stycznia projekt SB 903 został 13 sierpnia, w czwartek, przyjęty przez Assembly Appropriations Committee głosami 13-0 i skierowany do trzeciego czytania. Nie wyznaczono jeszcze daty głosowania w pełnym składzie Zgromadzenia.

„Algorytmy AI nie nadają się do przejęcia pracy ludzkich terapeutów, którzy posiadają umiejętności i szkolenie, których AI nie jest w stanie odtworzyć” — powiedział w oświadczeniu przy przedstawianiu projektu jego autor, senator stanu Kalifornia Steve Padilla. „Musimy działać i wprowadzić zabezpieczenia, które uniemożliwią wdrażanie algorytmów AI w sposób potencjalnie szkodliwy dla pacjentów”.

Projekt SB 903, znany również jako Wellness and Oversight for Psychological Resources Act, ograniczałby wykorzystanie AI w psychoterapii do zadań wspierających, zakazywałby chatbotom towarzyszącym podszywania się pod terapeutów oraz wymagał nadzoru klinicysty i zgody pacjenta. AI mogłaby wspierać klinicystów, ale nie mogłaby samodzielnie podejmować decyzji terapeutycznych. Ustawa chroniłaby także dane z terapii, jednocześnie wyłączając spod jej zakresu wsparcie rówieśnicze, poradnictwo religijne, badania oraz zatwierdzone federalnie narzędzia medyczne.

Prace nad ustawą postępują przy szerokim poparciu. Senat przyjął SB 903 głosami 39-0 w maju, a następnie projekt przeszedł przez dwie komisje policyjne Zgromadzenia głosami 17-0 i 14-1. Jeśli Zgromadzenie zatwierdzi zmienioną wersję ustawy, wróci ona do Senatu w celu uzgodnienia, a następnie trafi do podpisu do gubernatora Kalifornii Gavina Newsoma. Newsom podpisał we wrześniu 2024 roku pierwszą w kraju pakietową ustawę obejmującą 18 przepisów dotyczących bezpieczeństwa AI, ale w tym samym miesiącu zawetował szerszy projekt bezpieczeństwa modeli granicznych SB 1047; przy braku kompleksowych federalnych regulacji AI Kalifornia pozostaje jednym z głównych stanowych ośrodków nadzoru nad AI.

Krytycy, w tym Robert Boykin, dyrektor wykonawczy branżowej grupy TechNet, twierdzą, że wymaganie udziału klinicysty mogłoby opóźniać opiekę, ponieważ hrabstwa zmagają się z niedoborem pracowników zdrowia behawioralnego.

„W czasie, gdy każde hrabstwo w Kalifornii boryka się z niedoborem pracowników zdrowia behawioralnego, SB 903 nadal stawia kliniczny punkt zatoru przed narzędziami do przyjęcia i przesiewu, które pomagają pacjentom szybciej dotrzeć do opieki” — powiedział Boykin w oświadczeniu dla non-profitowego serwisu informacyjnego CalMatters.

Postępy nad ustawą następują w czasie rosnących obaw o wpływ AI na zdrowie psychiczne. W czerwcu badanie American Psychological Association wykazało, że 77% psychologów miało pacjentów korzystających z AI w celach związanych ze zdrowiem psychicznym, a badacze z King's College London, Protestant University of Applied Sciences i City University of New York ustalili, że chatboty mogą wzmacniać urojenia poprzez nadmierną zgodność i spersonalizowane odpowiedzi. Kontrola ustawodawców nad chatbotami towarzyszącymi została również zaostrzona przez pozwy przeciwko Character.AI, którego boty do odgrywania ról są szeroko używane przez nastolatków; zarzucano w nich, że produkt przyczynił się do samobójczych zgonów nieletnich, a firma dodała od tego czasu funkcje bezpieczeństwa dla użytkowników poniżej 18. roku życia.

„Skłonność chatbotów AI do zgadzania się z opiniami użytkowników porównywano do społecznościowych baniek informacyjnych, a w najbardziej skrajnym ujęciu do »echo chamber of one«, gdzie brakuje pozytywnego, korygującego wpływu rzeczywistych interakcji społecznych” — napisali badacze.