De snelle adoptie van AI-agents bij bedrijven wereldwijd introduceert een volledig nieuwe dimensie van risico terwijl interne bedreigingen drastisch worden versterkt. Organisaties moeten nu beheren hoe deze agents interageren met gebruikers, andere agents, gegevens en applicaties — en het beheersen van die interacties wordt in hoog tempo de belangrijkste beveiligingsuitdaging waar bedrijven voor staan. Naarmate bedrijven agents inzetten voor taken variërend van klantondersteuning tot codegeneratie en data-analyse, vergroot elke nieuwe integratie het aanvalsoppervlak op manieren waarvoor traditionele beveiligingskaders nooit zijn ontworpen.

Wat deze verschuiving onderscheidt van eerdere evoluties in bedrijfsbeveiliging is de combinatie van snelheid en autonomie. Een interne bedreiging door een mens ontvouwt zich doorgaans over dagen of weken, waarbij detecteerbare patronen achterblijven. Een AI-agent kan daarentegen duizenden autonome acties uitvoeren in de tijd die een beveiligingsteam nodig heeft om überhaupt te herkennen dat er iets mis is. Dat is geen incrementeel verschil — het is een fundamenteel andere categorie van risico, en de meerderheid van de organisaties is nog steeds haar verdediging aan het kalibreren voor de vorige categorie.

Hugging Face, het open-source platform dat honderdduizenden AI-modellen en datasets host die wereldwijd door bedrijven worden gebruikt, maakte duidelijk dat een AI-agent, eenmaal toegewezen aan een specifiek doel, de barrières die bedoeld zijn om deze in te perken kan omzeilen. Nu de inbreuk een vaststaand feit is, is de vraag niet meer of er beveiligingsmaatregelen moeten worden geïmplementeerd, maar wanneer. Maar in plaats van zich te concentreren op wat er is gebeurd en hoe we vooruit kunnen komen, kiest de industrie ervoor om zich te fixeren op marginale variabelen die de kwestie alleen maar vertroebelen.

Het fundamentele punt is dit: de verantwoordelijkheid voor het aanpakken van dit risico kan niet uitsluitend bij modelontwikkelaars liggen. Van zowel bedrijven die grensverleggende modellen ontwikkelen als open-source modelontwikkelaars mag niet worden verwacht dat zij cyberbeveiliging leveren voor de modellen die zij creëren.

Cybersecurity is altijd een afzonderlijke, gespecialiseerde discipline geweest. Het moet worden aangepakt door organisaties met diepgaande domeinexpertise. Het AI-tijdperk vereist beveiligingsarchitecturen die specifiek zijn gebouwd voor zichtbaarheid, governance en realtime controle — niet tools die zijn afgeleid van oplossingen die voor een volledig ander probleem zijn ontworpen.

Dit gaat niet over een gebrek aan vertrouwen in modelontwikkelaars. Het weerspiegelt een fundamenteel principe van hoe beveiliging al tientallen jaren functioneert. Het team dat een product ontwikkelt, is zelden het team dat het best in staat is om het te beveiligen, omdat bouwen en beveiligen twee afzonderlijke disciplines zijn met fundamenteel verschillende mandates. Dat gold voor bedrijfssoftware twee decennia geleden, en het geldt in gelijke mate voor AI-systemen vandaag.

Het gaat niet over de AI-race tussen de VS en China

De neiging om dit te framen als een debat tussen open-source en closed-source, of om de modellen van het ene land tegen die van het andere uit te spelen, miskent de essentie van wat er is gebeurd en leidt de aandacht af van de daadwerkelijke gebeurtenis. Nationalisme is hier irrelevant. Dit gaat niet over Chinese open-source modellen versus Amerikaanse closed-source modellen. De uitdagingen die door AI worden gegenereerd, worden niet ingeperkt door landsgrenzen — als er al iets is, dan kunnen die grenzen de technische, politieke, sociale en economische obstakels die iedereen moet zien te overwinnen, juist vergroten.

In werkelijkheid is cybersecurity misschien nog wel het minste van de zorgen. De onderliggende uitdagingen reiken veel verder dan welke afzonderlijke industrie dan ook, en ze behandelen als een geopolitieke wedstrijd brengt ons geen stap dichter bij een oplossing. Grenzen trekken en ongeremde concurrentie tussen landen aanwakkeren is contraproductief als het gaat om het aanpakken van de kwesties die grensverleggende AI met zich meebrengt.

De situatie framen als een rivaliteit tussen landen leidt ook aandacht en middelen verkeerd. Elk uur dat opgaat aan debat over waar een model vandaan komt, is een uur dat niet wordt besteed aan het bouwen van de controles die incidenten als deze zouden kunnen voorkomen, ongeacht de herkomst van het model. Het aanvalsoppervlak is onverschillig voor het paspoort van een model.

Een pleidooi voor wereldwijde samenwerking

Het aanpakken van de bredere AI-risico's waar we voor staan, vereist collectieve actie. Dit vereist wereldwijde samenwerking op het gebied van AI-veiligheid en -beveiliging — waarbij modelbedrijven, beveiligingsexperts, overheden en bedrijven samen worden gebracht, elk bijdragend met de juiste expertise. Dat is de weg om innovatie te beschermen zonder de voortgang ervan te belemmeren.

De Open Secure AI Alliance, onder leiding van Nvidia, vertegenwoordigt een stap in de juiste richting, maar het is slechts een begin. Er blijft aanzienlijk meer werk te doen. Wereldwijde coalities en internationale fora zoals het World Economic Forum (WEF) bieden een platform voor experts met diverse perspectieven om de complexe uitdagingen op het gebied van governance, beveiliging en beleid aan te pakken die AI heeft gecreëerd.

Elk van deze groepen houdt een cruciaal stuk van de AI-veiligheidspuzzel vast. Modelbedrijven beschikken over een ongeëvenaard begrip van de systemen die zij hebben gebouwd. Beveiligingsbedrijven begrijpen hoe aanvallers denken en hoe bedrijven daadwerkelijk worden gehackt — kennis die in decennia van praktijk is opgebouwd. Overheden kunnen harmoniseren en standaarden vaststellen die het hele ecosysteem een gezamenlijke basis geven. Geen enkele groep kan de rol van de anderen vervullen, en doen alsof dat wel kan is precies de manier waarop kloven zoals degene die we zojuist hebben gezien, groter worden.

Elk bedrijf vandaag de dag opereert AI-agents met een zekere mate van autonomie, en dat aantal zal alleen maar toenemen. De vraag die het stellen waard is, luidt niet welk lab het model heeft gebouwd of uit welk land het afkomstig is. Het is of er iemand nauwlettend genoeg toezicht houdt om te onderscheppen wat deze agents vervolgens klaarstaan om te doen.

De meningen die in Fortune.com-commentaarstukken worden geuit, zijn uitsluitend de opvattingen van de auteurs en weerspiegelen niet noodzakelijkerwijs de meningen en overtuigingen van Fortune.

Dit verhaal verscheen oorspronkelijk op Fortune.com.