Nu enkele van de meest vooraanstaande figuren in de kunstmatige intelligentie oproepen tot een langzamere, meer doordachte aanpak van de ontwikkeling van frontier-AI, komt er voor open-weight-modellen een andere governance-vraag in beeld: wie is verantwoordelijk voor hun veiligheid zodra ontwikkelaars de weights vrijgeven (de geleerde parameters die bepalen hoe een model zijn outputs produceert)?

In een essay van 12 september dat de meest recente discussie over een AI-vertraging op gang bracht, betoogde Anthropic-ceo Dario Amodei dat de AI-ontwikkeling moet vertragen opdat veiligheidswerk de tijd krijgt om in te halen op de mogelijkheden van modellen. OpenAI-ceo Sam Altman en andere AI-leiders en onderzoekers hebben ook gepleit voor een gematigder tempo.

Tot nu toe richtte dat debat zich vooral op frontier-ontwikkelaars en hun vermogen om te controleren hoe hun modellen worden gebruikt. Sommige ondernemingen zijn echter al aan het experimenteren en bouwen rond open-weight-modellen — ze downloaden, passen ze aan en draaien ze op hun eigen infrastructuur.

Databricks biedt bijvoorbeeld modellen zoals Kimi K3, Qwen en DeepSeek aan op zijn platform. Het bredere ecosysteem omvat ook Meta's Llama en de modellen van Mistral, onder vele andere. Het reikt veel verder dan die bekende namen: het open source-platform Hugging Face meldde in augustus bijna 3 miljoen openbare modellen in zijn repositories, variërend in grootte en toepassing.

Hoewel deze modellen ondernemingen meer controle geven over de implementatie, verliezen de oorspronkelijke ontwikkelaars doorgaans de directe technische controle over hoe de vrijgegeven weights worden aangepast, ingezet en gebruikt, al kunnen licentievoorwaarden en juridische beperkingen het gebruik en de herverdeling nog steeds inperken.

Het debat over vertraging legt de grenzen van gecentraliseerde veiligheid bloot

Bij een gesloten, of propriëtair, AI-model beheert de ontwikkelaar doorgaans de toegang tot het syste. Het kan gebruiksbeperkingen opleggen, activiteit monitoren en de toegang indien nodig wijzigen of intrekken.

Open-weight-modellen veranderen die dynamiek. Zodra ontwikkelaars de weights openbaar vrijgeven, kunnen organisaties ze downloaden en in hun eigen omgevingen draaien. Ze kunnen de modellen aanpassen of fine-tunen — een voortraind model met extra data aanpassen aan specifieke taken — en deze mogelijk inzetten via verschillende infrastructuuraanbieders.

Die flexibiliteit kan open-weight-AI aantrekkelijk maken voor ondernemingen, maar het maakt ook traditionele benaderingen van AI-toezicht moeilijker toepasbaar. Zodra de weights openbaar beschikbaar zijn, heeft de oorspronkelijke ontwikkelaar veel minder zicht op hoe organisaties het model aanpassen en inzetten. Open source-leveranciers kunnen de weights na vrijgave bovendien niet realistisch meer terugtrekken.

"De voorgestelde oplossingen, ingebouwde auditors en continue monitoring werken alleen zolang de leverancier nog de controle over het model heeft," aldus Manuel Schonfeld, chief AI officer bij Qu, een bedrijf gevestigd in Arlington, Virginia, dat unified commerce- en smart kitchen-platformen bouwt voor de restaurantssector. "Zodra de weights het pand verlaten, valt die taak aan de onderneming die ze inzet, niet aan degene die ze traint."

Dat betekent niet dat open-weight-modellen vrijgesteld zouden moeten worden van veiligheidseisen, want ze kunnen hun eigen beveiligings- en misbruikrisico's met zich meebrengen. Een recente, door de Britse regering in opdracht gemaakte studie concludeerde dat, hoewel traditionele open source-software meer gevestigde beveiligingspraktijken kent, open source-AI aanvullende risico's introduceert rond modelweights, trainingsdata, fine-tuning-pijplijnen en herkomst. Het onderzoek constateerde ook dat onderzoek naar de beveiliging en governance van open source-AI nog beperkt is.

Strengere toezichtsregels kunnen de kosten van open-weight-AI verhogen

Een manier om die veiligheidsuitdaging aan te pakken, zou zijn om meer verantwoordelijkheid bij ontwikkelaars te leggen. Maar als het debat over vertraging leidt tot strengere compliance- en evaluatie-eisen, kunnen grote AI-bedrijven daar makkelijker aan voldoen dan kleinere open-weight-ontwikkelaars.

De grootste labs hebben de middelen om testen, evaluaties en compliance te verzorgen, terwijl kleinere ontwikkelaars moeite kunnen hebben om aan strengere eisen te voldoen.

Noah Kenney, oprichter en principal consultant bij Digital 520, een IT-dienstverlener gespecialiseerd in strategie en groei voor technologiebedrijven, zei dat compliance-eisen een barrière kunnen worden ondernemingen van kleinere aanbieders dezelfde audits en bewijsstukken eisen als van grotere leveranciers. "Als compliancekosten grotere aanbieders bevoordelen, hebben ondernemingen mogelijk minder alternatieven voor de grootste AI-bedrijven," voegde hij eraan toe.

Amodei's voorstel voor evaluaties van veiligheid door derden, uiteengezet in zijn essay, illustreert die uitdaging ook. Zijn plan zou onafhankelijke evaluatoren voortdurende, werknemerachtige toegang geven tot frontier-AI-labs. Die aanpak wordt moeilijker toepasbaar op open-weight-modellen nadat de weights zijn vrijgegeven, wanneer organisaties ze kunnen aanpassen en herverdelen zonder tussenkomst van de oorspronkelijke ontwikkelaar.

Onafhankelijke evaluaties kunnen nog steeds bijdragen aan het verbeteren van AI-veiligheid, maar open-weight-modellen maken het moeilijker te bepalen wie toezicht moet houden op een model zodra ontwikkelaars het vrijgeven.

Ondernemingen erven mogelijk meer verantwoordelijkheid

Als het debat over vertraging leidt tot meer nadruk op testen, monitoring en verantwoording, kunnen ondernemingen die open-weight-modellen inzetten een groter deel van die governance-last zelf dragen.

Prince Kohli, president en ceo van Sauce Labs, een ontwikkelaar van cloudbased softwaretestplatformen die heeft samengewerkt met open-weight-leveranciers, zei dat open-weight-modellen ondernemingen meer controle geven over waar modellen draaien, hoe ze worden aangepast en hoe data wordt beheerd. Maar die controle brengt ook operationele en governance-verantwoordelijkheden met zich mee.

"Ondernemingen zullen de risico's van elke use case moeten afwegen bij het beslissen welk model ze inzetten," aldus Kohli. Een open-weight-model zou goed kunnen werken voor een eenvoudige taak met laag risico, zei hij, terwijl complexe of businesskritieke workflows een hogere lat vereisen voor veiligheid en voorspelbaarheid.

Zodra een onderneming zelf een model aanpast en beheert, moet het de herkomst van het model begrijpen, bepalen welke data het kan raadplegen en de outputs voortdurend beoordelen, vooral wanneer het code genereert of agents aandrijft die acties kunnen uitvoeren of beïnvloeden, zei Kohli.

Kenney zei dat de verantwoordelijkheid waarschijnlijk zou moeten volgen uit wat elke partij bijdraagt en beheerst: de oorspronkelijke ontwikkelaar moet verantwoording afleggen voor het uitgebrachte model en de bekende beperkingen ervan, terwijl de onderneming verantwoordelijk is voor de fine-tuning, data, tools, machtigingen en implementatiebeslissingen.

Dat betekent dat ondernemingen het model mogelijk moeten valideren, de omgeving waarin het draait moeten beveiligen, het productiegedrag moeten monitoren en auditgegevens moeten bijhoudenn
Voor ondernemingen, met name die open-weight-modellen inzetten, eindigen veiligheid en governance niet bij de keuze van een model — ze lopen door tijdens implementatie en gebruik. De uitdaging is niet alleen beslissen hoe snel AI zich moet ontwikkelen. Het gaat er ook om hoe verantwoording geregeld moet worden zodra het bedrijf dat een open-weight-model heeft gebouwd de directe technische controle verliest over hoe de vrijgegeven weights worden gebruikt. Hoe het debat over vertraging wordt opgelost — waaronder de vraag of nieuwe evaluatie- en compliance-eisen rekening houden met weights die al openbaar zijn — blijft een open vraag voor ontwikkelaars en ondernemingen.

Bron: AI Business — Calls for AI slowdown raise new challenges for open-weight models