Californië stuurt AI-governance richting onafhankelijke verificatie

De nieuwe AI-auditwetten van Californië wijzen op een verschuiving van bedrijven die zelf veiligheidsclaims doen naar het onafhankelijk laten aantonen van die claims.

11 september 2026

Jarenlang waren bedrijven die kunstmatige intelligentie ontwikkelden grotendeels verantwoordelijk voor het beoordelen van de veiligheid van hun eigen systemen. Californië begint die aanpak te veranderen.

De gouverneur van Californië, Gavin Newsom, ondertekende deze week twee wetten die de basis leggen voor onafhankelijke AI-audits door derden. De wetsvoorstellen creëren een kader voor onafhankelijke audits, waaronder de manier waarop externe organisaties AI-systemen kunnen beoordelen op naleving van de staatswet. Ook stellen ze normen vast voor de onafhankelijkheid, transparantie en integriteit van auditors.

De wetgeving volgt op meerdere jaren van AI-beleidsontwikkeling in Californië. In 2023 vaardigde Newsom een uitvoerend bevel uit met richtlijnen voor het gebruik van generatieve AI door de staat. In 2024 nam de staat een breder pakket AI-wetgeving aan voor onderwerpen als deepfakes, watermerken, kinderen en werknemers. Vorig jaar voerde Californië de Transparency in Frontier Artificial Intelligence Act in. Die wet verplicht ontwikkelaars van frontier AI om hun veiligheidskaders openbaar te maken en bepaalde kritieke veiligheidsincidenten te melden.

De timing is opvallend, omdat frontier-systemen zich steeds vaker gedragen op manieren die hun ontwikkelaars niet hadden voorzien of goedgekeurd.

OpenAI erkende deze week dat in mei meer van zijn agents ontspoorden, waarbij ze sandboxbeperkingen omzeilden en ongeautoriseerde acties uitvoerden op verschillende websites. Het bedrijf erkende aanvankelijk niet dat het bij een van de incidenten betrokken was, maar bevestigde later dat zijn agents naar verschillende websites hadden geschreven. Het voorval onderstreept een bredere uitdaging naarmate AI-systemen autonomer worden: ontwikkelaars blijven grotendeels verantwoordelijk voor het onderzoeken en verklaren van het gedrag van hun systemen.

Anthropic uitte deze week een vergelijkbare zorg en riep op tot een “verifiable effort” om de ontwikkeling van frontier AI te temporiseren. Dat gebeurde na een incident in juli waarbij het Claude Mythos-model van het bedrijf beveiligingsmaatregelen omzeilde. Het voorstel weerspiegelt de groeiende erkenning dat AI-veiligheidsmaatregelen mogelijk moeten worden aangetoond in plaats van alleen beloofd.

Gevolgen voor ondernemingen

Audits door derden draaien niet alleen om toezichthouders die AI-bedrijven controleren. Voor ondernemingen kunnen onafhankelijke audits een extra laag due diligence bieden bij het beoordelen van AI-leveranciers, vooral nu autonome systemen meer verantwoordelijkheid binnen organisaties krijgen.

Dat kan steeds belangrijker worden naarmate bedrijven AI-systemen toegang geven tot gevoelige gegevens, applicaties en workflows. Als onafhankelijke evaluatie gebruikelijker wordt, kunnen ondernemingen die AI invoeren beschikken over extern bewijs van de vraag of claims van leveranciers over veiligheid, beveiliging en governance standhouden.

De volgende fase van AI-governance richt zich daardoor mogelijk minder op wat bedrijven beloven en meer op wat ze kunnen aantonen.

Ook in het AI-nieuws van deze week

• Qualcomm gaat aangepaste chips voor Amazon maken als onderdeel van een deal van $4B: De chipfabrikant sloot een grote overeenkomst met Amazon voor de ontwikkeling van aangepaste AI- en datacenterchips. Daarmee voegt Qualcomm een nieuwe hyperscaler-klant toe terwijl het bedrijf zich verder verdiept in AI-infrastructuur. Bron

• John Deere haalt nieuwe data-inzichten uit AI-technologie: De landbouwgigant voegt generatieve AI toe aan zijn platform voor boerderijbeheer. Daarmee kunnen boeren apparatuur- en operationele gegevens omzetten in praktische beslissingen over zaaien, oogsten en machineprestaties. Bron

• Dell krijgt te maken met toenemende tekorten in de toeleveringsketen terwijl de hoge AI-vraag aanhoudt: Het multinationale technologiebedrijf kampt met groeiende tekorten nu de AI-vraag niet alleen het aanbod van geheugen, opslag en CPU's onder druk zet, maar ook dat van koel-, netwerk- en stroomcomponenten die nodig zijn om complete AI-systemen te bouwen. Bron

• AI-codeerstartup Cognition nu gewaardeerd op $48B: De leverancier van AI-codeertools haalde $2 miljard op tegen een waardering van $48 miljard, terwijl het enthousiasme van investeerders voor AI-codeertools aanhoudt. Bron

• Google investeert $15B in AI-infrastructuur in Finland: De zoek- en AI-gigant is van plan $15 miljard te investeren in de Finse AI-infrastructuur en zijn datacenteractiviteiten uit te breiden nu de vraag naar AI-rekenkracht groeit. Bron

• Binnen de vakbondsactie van Google AI-medewerkers om bedrijfsethiek te bevorderen: Werknemers van Google DeepMind proberen een vakbond op te richten vanwege ethische zorgen over het militaire gebruik van de AI- en cloudtechnologieën van het bedrijf. Bron

• Dreigingsgroepen vergroten hun mogelijkheden voor cyberaanvallen met AI: Aan staten gelieerde en criminele hackers gebruiken steeds vaker AI en automatisering om aanvallen op te schalen, nieuwe doelwitten te vinden en traditionele verdedigingsmaatregelen te omzeilen. Bron

• AWS AI Symposium: alumni van TeenTech pleiten voor AI-geletterdheid op scholen: Alumni van de non-profitorganisatie pleiten voor meer AI-geletterdheid op scholen, omdat een tekort aan vaardigheden een belangrijke belemmering voor AI-adoptie blijft. Bron