OpenAI, twórca ChatGPT, ogłosiło we wtorek, że tworzy nowy portal dla nastolatków w wieku od 13 do 17 lat, odpowiadając na obawy dotyczące bezpieczeństwa młodych ludzi w internecie.

Spółka dokonała tej zapowiedzi wyłącznie na antenie programu Fox News „Fox & Friends” we wtorkowy poranek i przedstawiła, w jaki sposób platforma ma przeciwdziałać potencjalnemu niewłaściwemu wykorzystaniu usługi przez dzieci.

Portal ChatGPT for Teens stanie się domyślnym doświadczeniem w czatbocie opartym na sztucznej inteligencji (AI) dla użytkowników w wieku od 13 do 17 lat — grupy, do której zgodnie z regulaminem OpenAI dostęp mają już tylko osoby w wieku 13 lat i starsze, a w przypadku nieletnich wymagana jest zgoda rodziców. Portal zostanie wyposażony w nowe zabezpieczenia mające sprzyjać bezpiecznemu korzystaniu z platformy i wspierać umiejętność krytycznego myślenia nastolatków.

OpenAI podało, że większość nastoletnich użytkowników ChatGPT korzysta z niego do odrabiania lekcji i pomocy w nauce. Nowa platforma ma zatem zapewniać pomoce do nauki bez podpowiadania gotowych odpowiedzi i została zaprojektowana we współpracy z Uniwersytetem Stanforda. Współpraca ze Stanfordem opiera się na wcześniejszych działaniach OpenAI z organizacją Common Sense Media, obejmujących m.in. wydany wcześniej w tym roku przewodnik po ChatGPT dla rodziców. Ofensywa skierowana do nastolatków następuje również wtedy, gdy konkurencja zabiega o młodszych użytkowników: Google udostępnia Gemini nastolatkom już od 13. roku życia przez nadzorowane konta, a asystent AI Mety jest dostępny dla nastolatków w Instagramie i Messengerze.

Nowe doświadczenie będzie oferować quizy oraz przypomnienia o odpowiedzialnym odrabianiu lekcji, które kierują nastolatków ku wspólnemu rozwiązywaniu problemów. Zawrze również funkcję Study Hours, pozwalającą nastolatkom lub rodzicom ustawić Study Mode jako domyślny w określonych przedziałach czasowych.

Platforma obejmuje silniejsze domyślne zabezpieczenia dotyczące samookaleczeń, przemocy, zaburzeń odżywiania, niebezpiecznych aktywności oraz treści jednoznacznie seksualnych lub drastycznych, realizowane w formie interwencji dostosowanych do wieku. Znajdzie się także dostosowany do nastolatków proces wprowadzający do platformy, z ostrzeżeniami zniechęcającymi użytkowników do przesyłania prywatnych lub wrażliwych zdjęć.

Projekt ma również odpowiedzieć na obawy rodziców dotyczące wykształcania się u nastolatków emocjonalnego uzależnienia lub relacji z czatbotem. Nowe zabezpieczenia zakazują używania języka, który mógłby sugerować uczucia romantyczne, a także deklaracji ChatGPT dotyczących samoświadomości czy własnych uczuć. Platforma dodatkowo uniemożliwi czatbotowi przedstawianie ChatGPT jako czegoś ważniejszego niż rodzina, przyjaciele, edukatorzy, mentorzy lub inne zaufane osoby w życiu nastoletniego użytkownika tego narzędzia.

Platforma ma także obejmować domyślne ustawienia zapewniające więcej ograniczników chroniących przed nadmiernym korzystaniem z programu i promujące zdrowsze wzorce użytkowania. Jej domyślne ustawienia będą zachęcać do częstszych przerw, a także przypominać o ustawieniach platformy dotyczących Study Hours i Quiet Hours.

Ponadto nowa platforma będzie dostarczać użytkownikom wskazówek podkreślających, że ChatGPT jest narzędziem, a nie osobą ani zamiennikiem relacji międzyludzkich.

Nowe zabezpieczenia na platformie ChatGPT for Teens od OpenAI następują po incydentach, w których nastoletni użytkownicy zwracali się do platformy podczas kryzysów zdrowia psychicznego. We wrześniu dwupartyjna grupa 40 prokuratorów generalnych stanów zwróciła się do dyrektora generalnego OpenAI Sama Altmana z pytaniem, jakie zabezpieczenia chronią młodych użytkowników, powołując się na doniesienia o szkodliwych odpowiedziach wobec nieletnich. Kilka tygodni później sędzia federalna w Oregonie orzekła, że OpenAI musi stawić się przed sądem w sprawie pozwu rodzin, które twierdzą, że firma stworzyła „uzależniający” produkt skierowany do dzieci; w swoim postanowieniu sędzia zaznaczyła, że z dokumentów procesowych OpenAI samych wynika, iż co najmniej jeden nieletni użytkownik trafił do szpitala po samookaleczeniu dokonanym na polecenie czatbota. Kwestia tego, jak OpenAI w praktyce weryfikuje wiek użytkowników i egzekwuje nowe domyślne ustawienia dla nastolatków, pozostaje otwarta — jest już centralnym punktem śledztwa prokuratorów generalnych oraz postępowania sądowego prowadzonego przez rodziny.