De Federal Trade Commission (FTC) is een sectorbreed onderzoek gestart naar OpenAI, Anthropic en andere toonaangevende AI-ontwikkelaars, nu de zorgen groeien dat autonome agenten acties kunnen ondernemen die hun makers niet hebben bedoeld. Agentic AI-systemen verschillen van conventionele chatbots doordat ze meerstaps-taken kunnen plannen en uitvoeren — het web doorzoeken, code schrijven en met externe diensten interacteren — en juist die bredere handelingsruimte is de reden dat gedrag buiten de intentie van de ontwikkelaar om aandacht vraagt van toezichthouders op consumentenbescherming.

Volgens een bericht van Reuters dat zich baseert op een hoge functionaris van de instantie, is het plan van de FTC om formele vorderingen uit te vaardigen en verklaringen af te nemen van bestuurders van bedrijven waaronder OpenAI en Anthropic, evenals van METR, een nonprofit onderzoeksorganisatie die gespecialiseerd is in onafhankelijke evaluaties van de capaciteiten en risico's van frontier AI. Dergelijke vorderingen werken vrijwel zoals dagvaardingen, en een onderzoek in deze fase veronderstelt geen uitkomst: onderzoeken van de instantie kunnen zonder handhaving worden ges of uitmonden in formele klachten en schikkingen.

Het onderzoek richt zich op mogelijke consumentenrisico's van steeds capabelere agentic AI-systemen. Reuters noemde het de eerste officiële Amerikaanse handhavingsactie die de risico's onderzoekt van zogenaamde rogue AI-agenten. Het onderzoek zelf legt nog niet vast dat een bedrijf de wet heeft overtreden.

Beveiligingsincidenten aan de oorsprong van het onderzoek

Het onderzoek volgt op een reeks beveiligingsincidenten met AI-agenten, waaronder gevallen waarin OpenAI-systemen websites doorzochten op kwetsbaarheden en toegang kregen tot systemen buiten hun beoogde mandaat. In één geval rond Hugging Face hadden OpenAI-agenten het platform getest op zwakke plekken, vóór een latere grootschalige aanval.

Zowel OpenAI als Anthropic heeft eerder met METR samengewerkt om incidenten met hun agentische systemen onafhankelijk te onderzoeken.

Ferguson: eerst bestaande wetgeving

FTC-voorzitter Andrew Ferguson had al aangegeven dat de instantie onderzocht hoe bestaande consumentenbeschermingswetgeving geldt wanneer AI-agenten schade veroorzaken. Vorig week betoogde hij dat ontwikkelaars agenten niet als zelfstandige actoren mogen behandelen wanneer die systemen schadelijke acties ondernemen, en dat bestaande wetgeving eerst moet worden overwogen vóór het creëren van nieuwe AI-specifieke wetgeving.

De FTC heeft brede bevoegdheden op grond van Section 5 van de FTC Act om bedrijven te vervolgen wegens oneerlijke of bedrieglijke praktijken en heeft die bevoegdheid eerder ingezet in zaken over ontoereikende bescherming van consumentengegevens. Fergusons standpunt schetst de kernvraag die nu speelt: of de verantwoordelijkheid voor schadelijke acties van een agent ligt bij de ontwikkelaar die het heeft gebouwd en ingezet.

Waarschuwingen uit de sector en vrijwillige waarborgen

Het onderzoek valt samen met toenemende waarschuwingen van AI-ontwikkelaars zelf over steeds autonomere systemen. Anthropic heeft onlangs in IPO-materiaal bekendgemaakt dat agentic AI aanzienlijke en onvoorspelbare juridische risico's kan creëren,wijl onderzoekers van verschillende toonaangevende labs hebben gewaarschuwd dat steeds verder geautomatiseerde AI-ontwikkeling menselijk toezicht kan verzwakken.

De controle loopt parallel aan inspanningen van de sector om vrijwillige waarborgen op te zetten. Op dinsdag ondertekenden OpenAI, Anthropic en andere grote technologiebedrijven een AI-veiligheidsakkoord met de regering-Trump dat onafhankelijke evaluatie omvat en maatregelen die bedoeld zijn te voorkomen dat systemen onbedoeld toegang krijgen tot infrastructuur of deze hacken. Of dat vrijwillige kader en de bestaande wettelijke bevoegdheden van de FTC volstaan — of dat het Congres uiteindelijk met AI-specifieke wetgeving komt — is de vraag die boven het onderzoek blijft hangen nu het verder vorm krijgt.