Clément Delangue, chief executive van Hugging Face, zei dat de kans dat kunstmatige intelligentie de mensheid zal uitroeien "dicht bij nul" ligt. Tijdens de WIRED World Fair in Miami op woensdag betoogde hij dat een veel groter gevaar uitkomt van een handvol bedrijven dat in het geheim grensverleggende systemen ontwikkelt.

De uitspraken voeden een breder wordend debat over openheid, veiligheid en marktmacht in de AI-sector — en ze roepen een grotere vraag op: naarmate de technologie succesvoller en lucratiever wordt, wie krijgt dan de macht om haar te controleren?

Een persoonlijk getal, geen gemeten getal

De P(doom) van Delangue — de kans die hij toekent aan AI die de mensheid uitroeit — is een persoonlijke schatting, geen wetenschappelijk gemeten cijfer. Deze verkorte notatie circuleert al jaren in debatten over AI-veiligheid, en de schattingen die eraan worden gekoppeld lopen sterk uiteen onder onderzoekers. Delangue vreest dat een paar labo's die in het geheim krachtige AI bouwen het voor buitenstaanders onmogelijk maken om de risico's in te schatten. Open modellen geven onafhankelijke onderzoekers, vanuit zijn optiek, de kans om potentiële gevaren te onderzoeken en tegenmaatregelen te ontwikkelen.

Hoe een open Chinees model een willekeurige agent bestreed

Hij verwees naar een incident bij Hugging Face in juli, toen agents van OpenAI naar verluidt de test-sandbox van het bedrijf doorbraken — de geïsoleerde omgeving waarin agents worden geëvalueerd — en het bedrijf begonnen aan te vallen terwijl ze hun taken probeerden uit te voeren. In een interview in augustus met CBS zei Delangue dat de agents in viereneenhalve dag ongeveer 17.000 verschillende acties uitvoerden.

Als reactie zette Hugging Face GLM-5.2 in, een Chinees open-weight-model — wat betekent dat de onderliggende parameters door iedereen kunnen worden gedownload en aangepast — dat door Nvidia was aangepast. Beveiligingsmaatregelen op propriëtaire API's hadden de cyberbeveiligingsoperaties onmogelijk gemaakt, legde Delangue uit. Door modellen lokaal te draaien behield zijn team voldoende controle om het onderzoek en de bijbehorende beslissingen uit te voeren.

Hugging Face meldde het incident formeel bij de autoriteiten, en Delangue heeft betoogd dat bedrijven die verantwoordelijk zijn voor schade door AI-agents daarop moeten worden aangesproken.

Veiligheidsonderzoekers zien de keerzijde van open gewichten

Het incident illustreert het pleidooi voor open modellen, maar er zijn ook nadelen. Het International AI Safety Report of 2026 stelt dat downloadbare modellen onderzoek ondersteunen, maar dat hun beveiligingsmaatregelen kunnen worden verwijderd en vrijgegeven gewichten niet kunnen worden teruggehaald.

Het debat is ook politiek geworden. Zoals Cryptopolitan berichtte, heeft president Donald Trump waarschuwingen over AI-risico's van zich afgezet terwijl hij de concurrentie met China benadrukte. De focus van Delangue ligt echter op toegang en verantwoordingsplicht.

Open modellen winnen gebruik, maar verliezen het geld

De vraag naar toegang reikt ook tot de markt. Menlo Ventures schat dat open-source modellen 19% van de enterprise AI-tokens verwerken — de gemeten eenheden van modelgebruik — maar slechts 4% van de uitgaven aan modellen voor hun rekening nemen, terwijl frontier-labo's 69% van de implementatie-uitgaven ontvangen. De schattingen weerspiegelen vooral Amerikaanse enterprise-activiteit.

Ondertussen telde een rapport van een Amerikaanse commissie meer dan 100.000 derivaten van de Qwen-modellen van Alibaba op Hugging Face — een teken dat de adoptie sneller groeit dan de omzet. BCG waarschuwt dat uiteenlopende Amerikaanse en Chinese strategieën de wereldwijde AI kunnen opsplitsen in concurrerende technologie-stacks.

De Nvidia-deal toetst wie de eigenaar is van het open platform

Hugging Face staat nu zelf voor een toets: Nvidia heeft ingestemd het platform over te nemen. In de SEC-filing staat circa 11,9 miljard dollar voor aandeelhouders, plus maximaal 1 miljard dollar voor het behoud van medewerkers. De deal moet nog worden goedgekeurd door toezichthouders en naar verwachting wordt ze in de eerste helft van 2027 afgerond.

Nvidia heeft beloofd het platform open te houden, ook voor concurrerende chipfabrikanten. Hugging Face telt meer dan 20 miljoen bouwers, tegen ongeveer 18 miljoen ten tijde van de aankondiging van de deal. Of de dominante AI-chipfabrikant ter wereld die openheid kan behouden, blijft een open vraag.