Minstens acht Amerikaanse staten hebben rechtszaken aangespannen tegen het AI-bedrijf OpenAI, met de stelling dat de vlaggenschip-chatbot van het bedrijf de consumentenbeschermingswetten van de staten heeft geschonden door kinderen te schaden en volwassenen te misleiden in wat aanklagers omschrijven als een roekeloze winstjacht.

Volgens de aanklachten heeft ChatGPT gevaarlijk medisch advies gegeven, paranoia aangewakkerd en gebruikers aangezet tot zelfmoord of tot het verwonden of doden van anderen. De staten beweren bovendien dat de chatbots zich instemming en mededogen voorspiegelen terwijl ze kwetsbare gebruikers en tieners — de eerste generatie die opgroeit met kunstmatige intelligentie — uitbuiten.

"OpenAI schaadt kinderen en liegt tegen de inwoners van Iowa", zei de procureur-generaal van Iowa, Brenna Bird, in een verklaring.

De rechtszaken beschuldigen OpenAI er ook van losgeslagen AI-modellen in leven te hebben geroepen — in één aanklacht "cyberhackagenten" genoemd — die in andere bedrijven hackten, menselijke gebruikers voorliegen en zichzelf nieuwe missie-instructies schreven.

In een verklaring zei OpenAI, gevestigd in San Francisco, dat het veiligheidsmaatregelen voor kinderen in ChatGPT heeft ingebouwd en dat het dat zal blijven doen om het model te verbeteren. Het bedrijf voegde eraan toe dat het zogenaamde "verkeerd uitgelijnde modellen" onderzoekt en niets heeft aangetroffen dat in de buurt komt van het losgeslagen incident dat in juli werd ontdekt, waarbij een AI-agent in een ander AI-bedrijf hackte.

De golf van rechtszaken is de nieuwste die staten aanspannen op grond van hun consumentenbeschermingswetten, waarbij techreuzen die AI-chatbots en sociale-mediaplatforms aanbieden worden beschuldigd kinderen te schaden. Er bestaat momenteel geen alomvattende federale wet voor kunstmatige intelligentie in de Verenigde Staten, en de consumentenbeschermingswetten van de staten — dezelfde juridische basis achter eerdere acties tegen sociale-mediaplatforms — zijn het belangrijkste instrument geworden voor deze acties op staatsniveau. Aparte rechtszaken werden woensdag ingediend bij staatsrechtbanken door Arizona, Arkansas, Idaho, Kansas, Montana, Nebraska en West Virginia.

Matthew Bergman, de oprichtende advocaat van het Social Media Victims Law Center, noemde de rechtszaken "de belangrijkste gecoördineerde staatsactie ooit genomen tegen een AI-bedrijf".

In haar alacht beweerde Arizona dat ChatGPT tieners aanmoedigt persoonlijke informatie met de chatbot te delen en hen soms ontmoedigt die informatie te delen met ouders, autoriteiten of vrienden.

De staten betogen dat de risico's en schade — voor tieners en voor het bredere publiek door losgeslagen agenten — voorzienbaar waren, maar dat OpenAI mensen heeft misleid te geloven dat ChatGPT adequate veiligheidstests ondergaat, terwijl het bedrijf de veiligheid ondermijnt in de winstjacht.
"Die inkomsten zijn gekomen ten koste van het publiek, dat onherstelbare schade heeft geleden — waaronder het verlies van dierbaren, verontrustende cyberaanvallen en nu een plausibel dreigement van een beschavingscollaps — als gevolg van het roekeloze gedrag van (OpenAI) en de uniek gevaarlijke kenmerken en inhoud van ChatGPT", schreef Idaho in zijn aanklacht.

ChatGPT is de populairste chatbot ter wereld en beheerst bijna de helft van de Amerikaanse markt, aldus de staten in hun aanklachten.

Het is mogelijk dat alle beschuldigingen in de omvangrijke rechtszaken van de staten teruggaan op incidenten en bevindingen van vóór augustus, toen OpenAI een versie van ChatGPT introduceerde die is ontworpen voor tieners, met sterkere bescherming rond onderwerpen als zelfmoord en seksuele gesprekken. Desondanks zeiden de staten dat het allerminst zeker is dat de huidige versie minder gevaarlijk is.

Vorige week zei de waakhond Common Sense Media dat sommige veiligheidsmaatregelen van OpenAI in het product ChatGPT for Teens niet werken zoals bedoeld, en drong het bedrijf erop aan de chatbot te beperken tot volwassenen totdat het een veilig product voor tieners kan bieden. De rechtszaken en de bevindingen van de waakhond komen samen op dezelfde onopgeloste vraag: of een momenteel beschikbare versie van ChatGPT veilig is voor tienergebruikers.

Gecoördineerde rechtszaken van meerdere staten tegen de techsector hebben eerder vruchten afgeworpen. In augustus stemde Meta ermee in sterkere kindveiligheidsmaatregelen toe te voegen aan zijn platforms Facebook en Instagram als onderdeel van een baanbrekende juridische schikking van 18 miljard dollar die een proces over socialemedia-verslaving bij tieners beëindigde en vorderingen van vrijwel elke staat schikte. Hoewel de veiligheidsmaatregelen die Meta toezegde niet sectorwijdgolden, riep het bedrijf zijn concurrenten al snel op vergelijkbare maatregelen te nemen.

OpenAI doet een soortgelijk appèl. Woordvoerder Drew Pusateri zei dat OpenAI eraan werkt samen te werken met staten aan "het bevorderen van pragmatisch AI-beleid dat voor de hele AI-sector geldt — niet slechts voor één bedrijf".

OpenAI zei ook samen te werken met externe experts die het beleid en het gedrag van ChatGPT beoordelen. De chatbot is bedoeld voor gebruikers van 13 jaar en ouder, en gebruikers onder de 18 hebben toestemming van een ouder of voogd nodig, aldus het bedrijf. Het op tieners gerichte model is ontworpen om blootstelling aan zelfbeschadiging, geweld, eetstoornissen en expliciete seksuele of grafische inhoud te verminderen, volgens OpenAI.

Het bedrijf voegde eraan toe dat bijna negen op de tien tieners die ChatGPT gebruiken het voor leren, informatie, vaardigheidsontwikkeling of productiviteit, en dat tieners gemiddeld minder dan 15 minuten per dag op de chatbot doorbrengen.

Laura Zimmermann, directeur jeugd-AI-onderzoek bij Common Sense Media, betwijfelde de waarde van de statistieken van OpenAI. ChatGPT kan bijvoorbeeld in seconden het huiswerk van een leerling maken, dus zelfs 15 minuten gebruik kan een grote impact hebben op de ontwikkeling van een tiener, zei Zimmermann. Ze betwijfelde ook of OpenAI wel weet welke gebruikers tieners of kinderen zijn, aangezien de tests van haar organisatie uitwezen dat ChatGPT niet kon — of niet deed — vaststellen wanneer een gebruiker een kind is.

Dit verhaal werd oorspronkelijk gerapporteerd door Fortune.com.