Microsoft-ceo Satya Nadella heeft nieuw advies voor bedrijven die kunstmatige intelligentie uitrollen: behandel de modellen zoals beveiligingsteams insiderdreigingen behandelen.

Zijn centrale aanbeveling is eenvoudig. Geen enkel AI-model zou zowel de acties die het uitvoert als het bewijs waarmee die acties worden geverifieerd mogen controleren. Als één systeem het werk kan verrichten én zijn eigen rapport opstellen, dan controleert eigenlijk niemand iets, betoogde Nadella.

Een kader van insiderdreigingen voor AI

Het perspectief van de insiderdreiging komt uit de bedrijf security, waar bedrijven al rekening houden met werknemers die legitieme toegang hebben maar die kunnen misbruiken — een risicoklasse die lang wordt beheerst met maatregelen zoals taak scheiding, waarbij gevoelige taken en toegang worden gesplitst zodat geen enkele persoon of printer een volledig proces end-to-end beheerst. Nadella's stelling is dat autonome AI-agents in dezelfde categorie horen.

Een AI-agent die is aangesloten op de systemen van een bedrijf kan bij gevoelige bedrijfsgegevens, net als een vertrouwde medewerker. In tegenstelling tot een medewerker is de redenering echter ondoorzichtig kan de agent opereren met een mate van autonomie die toezicht moeilijker maakt.

In opmerkingen op 10 oktober 2026 besprak Nadella de uitdagingen die superintelligente systemen met zich meebrengen en pleitte hij ervoor intelligentie gescheiden van autoriteit te houden. Eenvoudig gezegd: een model kan slim genoeg zijn om een beslissing aan te bevelen zonder dat het wordt vertrouwd om die ongecontroleerd uit te voeren.

Hij heeft ook een reeks praktische maatregelen geschetst, waaronder onafhankelijke verificatieprocessen, transparantie in de gedachtenketen van een model — de stapsgewijze redenering die een model produceert op weg naar een antwoord — en externe auditmechanismen. Het doel is verantwoording die niet afhankelijk is van de AI zelf.

Een patroon, geen eenmalige opmerking

Tijdens een optreden op 17 september 2026 in de All-In Podcast, een technologie- en zakelijke show, wees Nadella op de mogelijkheid dat zakelijke AI-agents financiële gegevens kouden verkeerd weergeven, en beschreef hij dit als een nieuw soort insiderrisico.

In juli 2026 introduceerde hij hij de "reverse information paradox" noemde: het idee dat bedrijven die AI gebruiken hun eigen bedrijfskennis kunnen lekken via hun interacties met die systemen.

Rond 14 september 2026 introduceerde Microsoft een ontwerp-gedragscode voor zijn eigen MAI-modelfamilie. Het document benadrukt menselijk toezicht en het betrekken van mensen bij AI-governance, en verwerpt misleidend AI-gedrag. In een memo half september 2026 adviseerde Nadella naar verluidt de tijd te nemen om beveiligingsmaatregelen goed in te richten, met de waarschuwing dat het bedrijf anders zijn "permission to operate" zou kunnen verliezen.

Implicaties buiten Microsoft

Microsoft wil een toonaangevende leverancier van AI-capaciteit zijn en positioneert zich tegelijk als een bedrijf dat bedrijfsoevereiniteit respecteert — het principe dat klanten de controle over hun eigen gegevens en systemen behouden. Krachtige agents verkopen is makkelijker als een leverancier ook de vangrails verkoopt die ze veilig inzetbaar maken.

Elk bedrijf dat AI-agents toegang geeft tot financiële systemen, klantgegevens of interne bedrijfsvoering moet mogelijk heroverwegen hoe die agents worden gecontroleerd. Dat kan betekenen dat het systeem dat handelt wordt gescheiden van het systeem dat controleert, dat redeneringen worden gelogd en dat externe auditors worden ingeschakeld.

De kernvraag is of deze principes van toespraken en ontwerpdocumenten overgaan naar afdwingbare praktijk. De MAI-gedragscode is nog steeds een ontwerp. Hoe Microsoft dit afrondt, en of klanten de scheiding van actie en verificatie overnemen die Nadella beschrijft, zal laten zien hoe serieus de sector zijn eigen waarschuwingen neemt.

Bron: CryptoBriefing