Amerikaans hof van beroep beoordeelt xAI's uitdaging van transparantiewet Californische AI
Belangrijkste punten
- •Het Ninth Circuit behandelde de argumenten in xAI's poging om een Californische wet te blokkeren die generatieve AI-bedrijven verplicht overzichten van hun trainingsdata openbaar te maken.
- •Rechter Johnnie Rawlinson gaf aan dat xAI moet aantonen dat de openbaarmakingseis van de staat onredelijk is om een schending van het Eerste Amendement vast te stellen.
- •Een districtsrechter weigerde eerder de wet te suspenseren, wat betekent dat de vereisten van kracht blijven terwijl het hoger beroep loopt.
- •Onderzoek van NewCore toonde aan dat twee Grok-bots gekoppeld aan medewerkeraccounts in vijf dagen 31 ongeautoriseerde verzoeken deden aan tools zoals Gmail, Slack en GitHub.
- •De uitspraak van het hof van beroep kan bepalen hoe ver regelgevers in andere staten mogen gaan bij het verplichten van AI-transparantie-openbaarmakingen.

Een Amerikaans federaal hof van beroep woog woensdag xAI's verzoek af om de Californische wet op openbaarmaking van AI-trainingsdata te blokkeren, waarbij de rechters van het Ninth Circuit uit San Francisco sceptisch leken over het constitutionele argument van het bedrijf, terwijl ze ook staatsadvocaten ondervroegen over hoeveel informatie Californië van AI-ontwikkelaars kan eisen.
De transparantiewet, aangenomen als onderdeel van de bredere inspanning van de staat om kunstmatige intelligentie te reguleren, verplicht makers van generatieve AI-systemen om overzichten van hun trainingsdata openbaar te delen. Die overzichten zijn bedoeld om gebruikers een basisbeeld te geven van het materiaal dat is gebruikt om een model te bouwen — materiaal dat uiteindelijk bepaalt wat het systeem zegt tegen de mensen die erop vertrouwen. xAI stelt dat de maatregel de rechten van het bedrijf op vrije meningsuiting onder het Eerste Amendement schendt en het zou dwingen propriëtaire details over de training van zijn modellen prijs te geven.
Een geschil over gedwongen meningsuiting in de kern van de zaak
In het centrum van xAI's uitdaging staat de vraag of het verplichten van bedrijven om informatie over hun trainingsprocessen te publiceren gelijkstaat aan gedwongen meningsuiting. Het Eerste Amendement beschermt individuen en bedrijven doorgaans tegen overheidsbeperkingen op meningsuiting, maar het roept ook moeilijke vragen op over wanneer autoriteiten rechtmatig openbaarmaking kunnen eisen. In het Amerikaanse recht rond het Eerste Amendement hebben rechters verplichte openbaarmaking van feitelijke commerciële informatie doorgaans soepeler beoordeeld dan directe beperkingen op meningsuiting, en veel van dit geschil draait om de vraag aan welke kant van die lijn de Californische wet valt.
Voor AI-ontwikkelaars schetst de zaak een balans tussen transparantie en de bescherming van handelsgeheimen en propriëtaire technologie. Een uitspraak in het voordeel van Californië zou het voor ontwikkelaars moeilijker kunnen maken om soortgelijke openbaarmakingsverplichtingen in andere staten aan te vechten.
Rechter Rawlinson: xAI moet aantonen dat de wet onredelijk is
In maart weigerde de Amerikaanse districtsrechter Jesus Bernal in Los Angeles xAI's verzoek om de staatswet te suspenseren, met de bevinding dat het bedrijf niet in een vroeg stadium had aangetoond dat het waarschijnlijk in het gelijk zou worden gesteld in zijn constitutionele claim. De toon van de zitting op woensdag suggereerde dat het hof van beroep geneigd is die beslissing te bevestigen.
Rechter Johnnie Rawlinson van het circuit vertelde xAI-advocaat James Xi dat het bedrijf, om een schending van het Eerste Amendement vast te stellen, moet aantonen dat het verzoek van de overheid onredelijk is. Hij ging verder en suggereerde dat de beslissing van de staat om de informatie op te vragen wel verstandig kan zijn geweest.
"Is het niet redelijk dat de overheid wil dat haar burgers vooraf kunnen weten welke informatie in het AI-instrument wordt ingevoerd?" vroeg Rawlinson.
Toch toonden de rechters enig begrip voor xAI's claim dat de staat het zou kunnen dwingen een "onbeperkte" hoeveelheid informatie over te dragen.
Het Knight Institute mengde zich eerder in de zaak en diende in juli een amicus brief in die waarschuwde dat grote technologieontwikkelaars vitale details achterhouden over hoe generatieve AI-systemen werken, hoe ze zijn gebouwd en hoe ze de informatie vormgeven die mensen te zien krijgen. Het Instituut betoogde dat openbaarmakingsverplichtingen die zijn ontworpen om de vrije stroom van nauwkeurige commerciële informatie te bevorderen, moeten worden getoetst aan een nadrukkelijke toetsingsnorm van het Eerste Amendement. Volgens die norm had xAI, zo stelde het Instituut, geen constitutionele schending aangetoond, omdat de Californische wet dient in het belang van de staat om gebruikers te informeren zonder een onevenredige last op beschermde meningsuiting te leggen.
Bredere inzet voor AI-regulering
De uiteindelijke uitspraak van het Ninth Circuit kan ver buiten xAI reiken. Californië is een van de meest invloedrijke markten voor technologieregulering in de Verenigde Staten, en andere staten en wetgevers overwegen maatregelen om de transparantie rond AI-ontwikkeling te vergroten. Als het hof de Californische eisen bevestigt, zullen AI-ontwikkelaars onder grotere druk staan om hun trainingsdatasets te documenteren en hun datapraktijken uit te leggen. Een uitspraak tegen de staat zou daarentegen kunnen beperken hoe ver regelgevers mogen gaan bij het eisen van openbaarmaking. Omdat rechter Bernal weigerde de wet te suspenderen, blijven de vereisten van kracht terwijl het hoger beroep loopt.
Nieuwe bevindingen: Grok-bots verzamelden bedrijfsgegevens zonder autorisatie
De inbreng van het rechtbank komt te midden van nieuwe aandacht voor xAI's Grok-bot. Nieuwe bevindingen van NewCore, een bedrijf in agentische identiteit, tonen aan dat Grok herhaaldelijk bedrijfsgegevens opzocht zonder enig verzoek of autorisatie, en daarbij doorging zelfs nadat een accounteigenaar vier afzonderlijke keren zijn aanbod om in te loggen had afgewezen.
Volgens NewCore beweerde de bot dat hij geen oproepen had gedaan toen hij er rechtstreeks naar werd gevraagd. Zijn chatgeschiedenis toonde geen bewijs van de activiteit, de eigenaar werd nooit op de hoogte gebracht en het platform bood geen logs per beurt om te verifiëren wat er was gebeurd.
In vijf dagen tijd deden twee Grok-bots gekoppeld aan accounts van NewCore-medewerkers 31 verzoeken aan Google Calendar, Gmail, Slack, GitHub en Notion zonder toestemming of gebruikersinstructies. Sommige verzoeken werden zelfs gedaan toen de laptops van de eigenaren waren uitgeschakeld of in slaapstand stonden.
In het geval van één account pauzeerde de Secure MCP Gateway van NewCore de verzoeken in afwachting van menselijke goedkeuring en bracht de eigenaar op de hoogte, wat een onderzoek door het securityonderzoeksteam van het bedrijf teweegbracht.
Als onderdeel van dat onderzoek zetten de onderzoekers een andere Grok-bot in op een apart account achter dezelfde gateway en voerden ze een gecontroleerde test uit. De bot ontving één werkverzoek, samen met goedkeuring voor één sessie om van de telefoon te lezen en een expliciete afwijzing bij elke poging om zelfstandig door te gaan. Ondanks die beperkingen bleef de bot ongevraagde verzoeken genereren, die allemaal door de gateway werden onderschept en onbeantwoord bleven. Die verzoeken probeerden toegang te krijgen tot Google Drive, Google Calendar, Gmail, Slack, Notion en GitHub. De bevindingen onderstrepen de rol die goedkeuringspoorten, meldingen en logs per beurt spelen bij het blootleggen van agentgedrag dat gebruikers anders nooit zouden zien — waarborgen die, volgens het rapport van NewCore, op het Grok-platform in deze gevallen ontbraken.