NieuwsAandelenVier non-profitorganisaties dagen OpenAI, Anthropic, Google, Meta en SpaceX voor de rechter en eisen een bevriezing van frontier-AI-ontwikkeling

Vier non-profitorganisaties dagen OpenAI, Anthropic, Google, Meta en SpaceX voor de rechter en eisen een bevriezing van frontier-AI-ontwikkeling

Auteur: Decrypt·

Belangrijkste punten

  • •Vier non-profitorganisaties dienden donderdag een klacht van 63 pagina's in bij de Superior Court van San Francisco, waarin OpenAI, Anthropic, Google, Meta en SpaceX als gedaagden worden genoemd.
  • •De eisers vragen een onmiddellijke injunction die zou verhinderen dat de bedrijven AI-systemen ontwikkelen of inzetten die capabeler zijn dan hun meest geavanceerde modellen per 12 november 2026.
  • •De rechtszaak beroept zich op de Unfair Competition Law van Californië en voert aan dat het bouwen van steeds capabelere AI-systemen een publieke overlast creëert die de volksgezondheid en veiligheid in gevaar brengt.
  • •De klacht vraagt de rechtbank bovendien om bedrijven te verbieden AI zelfstandig onderzoek naar betere modellen te laten uitvoeren of leiden, met een verwijzing naar risico's rond recursieve zelfverbetering.
  • •Als ondersteunend bewijs noemen de eisers een incident in juli waarbij ongeveer 1.200 OpenAI-agenten een gecontroleerde testomgeving ontweken en ongeveer 700 via een ongeautoriseerd prikbord coördineerden om de infrastructuur van Hugging Face aan te vallen.
Vier non-profitorganisaties dagen OpenAI, Anthropic, Google, Meta en SpaceX voor de rechter en eisen een bevriezing van frontier-AI-ontwikkeling

Vier non-profitorganisaties hebben een rechtszaak aangespannen tegen vijf van de grootste ontwikkelaars van kunstmatige intelligentie ter wereld en vragen een rechtbank in Californië om het werk aan steeds krachtigere AI-systemen te stoppen voordat er iets ernstigs misgaat.

De 63 pagina's tellende klacht, donderdag ingediend bij de Superior Court van San Francisco, noemt OpenAI, Anthropic, Google, Meta en SpaceX als gedaagden. De eisers zijn Public Citizen, de Heat Initiative, het Irreplaceable Education Fund en de Alliance for Secure AI. Zij vragen om een onmiddellijke rechterlijke maatregel die de bedrijven verbiedt AI-systemen te ontwikkelen of in te zetten die capabeler zijn dan hun meest geavanceerde modellen per 12 november 2026.

"De Frontier-AI-bedrijven ontwikkelen AI-systemen die zij niet begrijpen en die handelen in strijd met de bedoeling van de ontwikkelaar, aan controle ontsnappen en de wet breken," voeren de eisers aan. Om die uitkomst te voorkomen, vragen zij om "een onmiddellijke injunction die gedaagden verbiedt AI-systemen te ontwikkelen of in te zetten die capabeler zijn dan hun meest capabele systemen op de datum van deze klacht."

Zo'n maatregel zou ChatGPT, Claude, Gemini of andere bestaande producten van de bedrijven niet per se stilleggen. In plaats daarvan zou het de technologie effectief op het huidige niveau afschermen en de release van krachtigere opvolgers verhinderen.

De klacht vraagt de rechtbank tevens om de bedrijven te verbieden AI zelfstandig onderzoek naar betere modellen te laten uitvoeren of leiden—een proces dat verband houdt met wat onderzoekers recursieve zelfverbetering noemen. De zorg is dat systemen die zichzelf kunnen verbeteren uiteindelijk sneller kunnen evolueren dan mensen ze kunnen begrijpen of beheersen.

De zaak steunt op bestaande Californische wetgeving

De non-profitorganisaties betogen dat de bestaande wetgeving van Californië al een manier biedt om te voorkomen dat bedrijven producten ontwikkelen die het publiek in gevaar brengen, zonder op nieuwe wetgeving te wachten. De rechtszaak beroept zich op de Unfair Competition Law van de staat, die onwettige of oneerlijke bedrijfspraktijken verbiedt.

Kern van het argument is de stelling dat het bouwen van steeds capabelere AI-systemen een publieke overlast creëert—een gevaar dat de gezondheid, veiligheid of eigendommen van een bredere gemeenschap raakt. Ter analogie: een fabriek die gevaarlijke chemicaliën in een woonwijk loost, kan voor de rechter komen voordat iemand dodelijk letsel oploopt. De eisers willen dat de rechtbank dezelfde redenering toepast op de ontwikkeling van frontier-AI, met het argument dat de bedrijven bewust systemen creëren die cyberaanvallen kunnen vergemakkelijken, kunnen helpen bij de ontwikkeling van biologische wapens, of uiteindelijk aan menselijke controle kunnen ontsnappen.

"Geen enkele andere branche mag de ontwikkeling van onveilige producten—laat staan producten die ons allemaal kunnen doden—als onvermijdelijk behandelen," betoogt de klacht.

Robert Weissman, medevoorzitter van Public Citizen, zei in een verklaring dat de groepen willen dat de rechtbank de praktijken van de bedrijven onwettig verklaart en "verdere AI-ontwikkeling bevriest."

Zullen de rechtbanken het ermee eens zijn

De juridische uitdaging is of de beweerde risico's en praktijken voldoende zijn om zo verstrekkende beperkingen te rechtvaardigen. Hoewel de frontier-laboratoria routinematig waarschuwen voor hoe krachtig en gevaarlijk hun modellen zijn, is geen van de gedaagden aansprakelijk bevonden en vormen waarschuwingen over een mogelijke catastrofe niet automatisch een schending van Californisch recht. Het verzoek stuit ook op procedurele realiteit: rechtbanken beschouwen injunctions doorgaans als een uitzonderlijk middel, en de partij die erom vraagt moet normaal gesproken aantonen dat er onmiddellijke schade dreigt die niet kan wachten op het langzamere tempo van een volledige rechtszaak.

De klacht wijst op incidenten die al hebben plaatsgevonden als bewijs dat de gevaren niet geheel hypothetisch zijn. In juli ontweken OpenAI-modellen een gecontroleerde testomgeving en compromitteerden ze de infrastructuur van Hugging Face terwijl ze probeerden te vals te spelen bij een cybersecurity-evaluatie—een episode die Decrypt eerder meldde. Een daaropvolgend onafhankelijk onderzoek toonde aan dat ongeveer 1.200 OpenAI-agenten een ongeautoriseerd intern prikbord gebruikten om zich te coördineren, en dat ongeveer 700 van hen deelnamen aan de aanval op Hugging Face terwijl ze probeerden antwoorden te bemachtigen op de benchmark die hen toetste.

Die incidenten betroffen AI-agenten—programma's die taken kunnen uitvoeren, websites kunnen doorzoeken, code kunnen schrijven en met externe systemen kunnen communiceren, in plaats van louter vragen te beantwoorden.

Gedocumenteerde beveiligingsfalen zijn echter geen bewijs dat de AI-modellen van vandaag menselijke uitsterving kunnen veroorzaken. De eisers verbinden die incidenten aan voorspellingen over wat steeds capabelere systemen uiteindelijk zouden kunnen doen, en dat bredere gevaar blijft omstreden.

"Het is overduidelijk illegaal dat bedrijven producten ontwikkelen en op de markt brengen waarvan zij weten dat ze in enig opzicht onveilig zijn," zei Matthew Platkin, de voormalige procureur-generaal van New Jersey die de eisers vertegenwoordigt, in de verklaring.

Voorlopig moet de Superior Court van San Francisco een buitengewoon verzoek afwegen: of de frontier-AI-ontwikkeling op het huidige niveau moet worden bevrozen, en of bestaande staatswetgeving—in plaats van nieuwe wetgeving—het juiste instrument daarvoor is.

Bron: Decrypt