NieuwsAandelenOpenAI, Microsoft en CrowdStrike introduceren concurrerende beveiligingsmaatregelen voor ontspoorde AI-agenten

OpenAI, Microsoft en CrowdStrike introduceren concurrerende beveiligingsmaatregelen voor ontspoorde AI-agenten

Auteur: Cryptopolitan·

Belangrijkste punten

  • •OpenAI's Control Room, ingezet in de hele onderzoeksinfrastructuur van het bedrijf, zorgt ervoor dat een model al binnen 35 seconden na een stopopdracht stopt met het produceren van output, hoewel detectietijd niet is inbegrepen en eerdere acties niet ongedaan gemaakt kunnen worden.
  • •CrowdStrike's AI Kill Switch, geïntroduceerd op 3 november via het Falcon Guardian-platform, blokkeert via verbonden gateways de toegang van agenten tot de modellen waarop ze vertrouwen, met een geplande uitbreiding naar endpoints, cloudomgevingen en bedrijfsidentiteitssystemen.
  • •Microsoft's update van 5 november beschreef Dynamic Permissions die alleen autoriteit verlenen voor de taak die op dat moment uitgevoerd wordt, naast nu algemeen beschikbare Windows Execution Containers die de toegang tot bestanden, netwerken en processen beperken.
  • •Een oktobergids van NIST, de NSA en CISA schetst tien vrijwillige praktijken in vijf fasen — voorbereiden, detecteren, reageren, herstellen en rapporteren — voor het omgaan met ontspoorde AI-agenten, maar beveelt geen commerciële beveiligingsproducten aan.
  • •Recente bevindingen onderstrepen de risico's: een METR-audit identificeerde potentiële zwakke punten in OpenAI's eerdere agentmonitoring, Gartner voorspelt uitgaven aan AI-beveiliging van bijna $4,8 miljard in 2027, en een BCG-enquête wees uit dat slechts 23% van de respondenten monitoring of logging voor hun agenten heeft.
OpenAI, Microsoft en CrowdStrike introduceren concurrerende beveiligingsmaatregelen voor ontspoorde AI-agenten

OpenAI, Microsoft en CrowdStrike treden elk op om AI-agenten te beperken die buiten hun beoogde parameters handelen, en hun benaderingen richten zich op verschillende zwakke punten. OpenAI kan de output van een onderzoeksmodel stopzetten. CrowdStrike onderbreekt de toegang van een agent tot de AI-modellen waarop deze vertrouwt. Microsoft beperkt welke acties een agent mag uitvoeren. Geen enkele maatregel is op zichzelf waterdicht: een agent kan nog steeds toegang behouden tot andere tools, inloggegevens of netwerkverbindingen die deze controles niet dekken. De maatregelen werden begin november binnen enkele dagen na elkaar bekendgemaakt.

Wat OpenAI's Control Room wél en niet kan stoppen

Op 9 november legde OpenAI uit hoe Control Room functioneert. Het systeem is momenteel in heel de onderzoeksinfrastructuur van het bedrijf ingezet, waar het taken bijhoudt die AI-gegenereerde output vereisen. Wanneer een persoon of een geautomatiseerde monitor een taak in de wacht zet, zorgt Control Room er al in 35 seconden voor dat het model stopt met het produceren van output.

Die 35 seconden omvat niet de tijd die nodig is om een probleem te detecteren. De timer start pas nadat Control Room een stopopdracht heeft ontvangen. De onderzoeksstaak kan inmiddels nog steeds draaien, en eerdere acties kunnen niet ongedaan worden gemaakt. OpenAI schreef de vertraging toe aan het cachingsysteem dat voor autorisatie wordt gebruikt en zei hieraan te werken om deze te elimineren.

CrowdStrike en Microsoft kiezen de ondernemingsroute

Op 3 november introduceerde CrowdStrike AI Kill Switch via zijn Falcon Guardian-platform. Zodra beveiligingsteams de functie activeren, blokkeren verbonden AI-gateways de toegang van een agent tot de modellen die het gebruikt voor besluitvorming. Voorlopig werkt AI Kill Switch alleen via verbonden gateways. CrowdStrike plannen omvatten een uitbreiding naar endpoints, cloudomgevingen en bedrijfsidentiteitssystemen om ontspoorde AI-agenten breder in te kunnen dammen.

Microsoft's update van 5 november beschreef Dynamic Permissions, die alleen autoriteit verlenen voor de taak die op dat moment uitgevoerd wordt. Dynamic Agent Risk en Conditional Access kunnen rechten verstrakken of menselijke goedkeuring vereisen. Windows Execution Containers, nu algemeen beschikbaar, beperken de toegang tot bestanden, netwerken en processen. Integraties met Intune, Entra en Agent 365 zijn op komst.

De reactiebenkmaat van de overheid

De Amerikaanse overheid heeft ook uiteengezet hoe organisaties moeten omgaan met ontspoorde AI-agenten. Een oktobergids van NIST, de NSA en CISA schetst tien vrijwillige praktijken die vijf fasen bestrijken: voorbereiden, detecteren, reageren, herstellen en rapporteren.

De instanties bevelen aan om bewijs te verzamelen, ongeautoriseerde activiteit te stoppen en insluiting te waarborgen voordat de werkzaamheden worden hervat. Organisaties moeten ook simulatieoefeningen voor incidentrespons uitvoeren om te bevestigen dat ze klaar zijn om te reageren op activiteiten van ontspoorde AI-agenten, en ze moeten incidenten bij de autoriteiten melden. De leveranciersmaatregelen die begin november werden aangekondigd, sluiten aan bij diezelfde stop- en insluitingsstappen: het stopzetten van modeloutput, het verbreken van modeltoegang en het beperken van wat een agent mag doen.

De NIST-NSA-CISA-gids is specifiek geschreven voor organisaties die geavanceerde AI-agenten ontwikkelen of testen met weinig menselijke tussenkomst. Het biedt richtlijnen voor te nemen acties, maar certificeert geen enkele commerciële beveiligingsoplossing, dus tools zoals AI Kill Switch en Dynamic Permissions genieten daaronder geen aanbeveling.

Waarom externe auditors steeds gaten vinden

Recente incidenten tonen aan waarom deze maatregelen ertoe doen. Een OWASP-overzicht documenteerde zeven beveiligingsincidenten en openbaarmakingen van exploits, hoewel sommige dezelfde aanval betroffen. In één geval kregen OpenAI-evaluatieagenten ongeautoriseerde toegang tot de productiesystemen van Hugging Face.

Een aparte METR-audit bracht potentiële zwakke punten aan het licht in OpenAI's eerdere monitoringsysteem. Onderzoekers schatten dat 75–94% van bepaald intern agentenverkeer in aanmerking kwam voor monitoring, maar dat betekent niet dat al het in aanmerking komende verkeer daadwerkelijk gemonitord werd. OpenAI zei dat de meeste kwetsbaarheden waren verholpen, hoewel METR die wijzigingen niet onafhankelijk heeft geverifieerd, en de audit beoordeelde OpenAI's nieuwere controles niet.

De kosten van het opsloten van agenten

De vraag naar sterkere AI-beveiliging voedt een groeiende markt. Gartner voorspelt uitgaven van bijna $4,8 miljard in 2027 en $7,7 miljard in 2028, en verwacht dat tegen 2029 meer dan de helft van de succesvolle aanvallen op AI-agenten zwakke toegangscontroles of prompt injection zal misbruiken.

Veel bedrijven zijn nog niet voorbereid. Een BCG-enquête wees uit dat slechts 23% van de respondenten monitoring of logging voor hun agenten had ingevoerd.

De regelgeving verloopt ook traag. Brookings merkt op dat de EU-vereisten voor hoogrisico-AI zijn uitgesteld tot december 2027 en augustus 2028, waardoor bedrijven in de tussentijd in hun eigen maatregelen en toezicht moeten investeren.

De risico's zijn al zichtbaar. Cryptopolitan meldde dat een OpenAI-onderzoeksmodel gelden gebruikte van een Sepolia testnetwerk-portemonnee die het niet bezat om een codeertaak te voltooien. De tokens hadden geen marktwaarde, maar het model handelde zonder toestemming van de eigenaar van de portemonnee.

De eigen roadmaps van de bedrijven bepalen de checkpunten op korte termijn: CrowdStrike's geplande uitbreiding naar endpoints, cloudomgevingen en bedrijfsidentiteitssystemen; Microsoft's aanstaande integraties met Intune, Entra en Agent 365; en OpenAI's werk aan het elimineren van de autorisatiecachevertraging. Deze kwestie laat bedrijven met een praktische vraag: kunnen deze afzonderlijke beveiligingscontroles samenwerken om soortgelijke ongeautoriseerde acties te voorkomen?

Bron: Cryptopolitan