De Federal Trade Commission (FTC) is een onderzoek gestart naar de vraag of de kunstmatige-intelligentiesystemen die OpenAI en Anthropic bouwen gevaar opleveren voor Amerikaanse consumenten. Dat heeft een hoge functionaris bevestigd. Ook METR, de Californische nonprofit die frontier-AI-modellen op risico's auditeert, is verwikkeld in het onderzoek.

Formele civiele onderzoeksverzoeken zullen binnen enkele weken bij alle drie de organisaties — OpenAI, Anthropic en METR — binnenkomen.

Waarom onderzoekt de FTC OpenAI en Anthropic?

Een anonieme hoge functionaris van de FTC zei dat het agentschap zijn bevoegdheid om oneerlijke en misleidende praktijken te bestrijden aanwendt terwijl het onderzoekt of de AI-systemen die OpenAI en Anthropic bouwen risico's vormen voor Amerikaanse consumenten. Die bevoegdheid — Section 5 van de FTC Act — is de algemene consumentenbeschermingsmandaat van het agentschap, wat betekent dat de toezichthouder niet afhankelijk is van AI-specifieke wetgeving om op te treden. Het onderzoek werd voor het eerst gemeld door de New York Post en sindsdien ook Semafor.

Er is geen officiële aankondiging van het agentschap geweest, dus de volledige reikwijdte van het onderzoek is nog onduidelijk. Naar verluidt zal de FTC de komende weken civiele onderzoeksverzoeken sturen — een instrument dat veel lijkt op een dagvaarding en de ontvangers verplicht documenten over te leggen en vragen te beantwoorden — aan OpenAI, Anthropic en METR. Tot de verzoeken zijn betekend, blijft onbekend welke specifieke praktijken worden onderzocht.

FTC-voorzitter Andrew Ferguson zei eerder deze maand nog dat OpenAI en Anthropic niet should worden toegestaan om "iedereen in paniek te brengen" en vervolgens regelgeving te eisen waaraan zij goed kunnen voldoen.

In een verklaring van januari 2025 over een FTC-studie naar de AI-partnerschappen van Big Tech waarschuwde Ferguson dat het agentschap "niet met kop en staart naar de regulering van AI moet snellen", met het argument dat te strenge regels innovatie en de ontwikkeling van de technologie kunnen verstikken.

Zoals eerder door Cryptopolitan gemeld, verwierp Ferguson het idee dat een bedrijf niet verantwoordelijk kan worden gehouden wanneer een autonome agent schade veroorzaakt, en verklaarde hij dat de meldingsplicht-bevoegdheden van de FTC ook op AI-ontwikkelaars kunnen worden toegepast.

Welk akkoord sloten AI-leiders met Trump?

President Donald Trump bracht onlangs AI-leiders bijeen om een vrijwillig akkoord te ondertekenen. Volgens de voorwaarden van de afspraak zouden de bedrijven interne controles invoeren, externe audits toestaan en bestuursbeoordelingen van hun modellen toestaan.

Trump prees de sector om de "enorme zelfregulering" en noemde het akkoord "moreel bindend", zelfs "bijna als een grondwet".

Verschillende Big Tech-topmannen ondertekenden de overeenkomst, waaronder Anthropic's Dario Amodei, OpenAI's Greg Brockman, Google's Sundar Pichai, Meta's Mark Zuckerberg, xAI's Elon Musk en Nvidia's Jensen Huang. Zowel OpenAI als Anthropic ondertekenden dat akkoord — en beide krijgen nu naar verluidt formele verzoeken te verduren, ook al leunt de sector op vrijwillige toezeggingen in plaats van bindende regels.

Toby Walsh van het UNSW AI Institute zei dat AI-bedrijven al hebben bewezen "onbekwaam en onzorgvuldig te zijn in het reguleren van zichzelf".

De rol van METR en het Hugging Face-incident

De opname van METR op de doelenlijst is opvallend omdat de organisatie een nonprofit is die AI-systemen op risico's beoordeelt, geen modelbouwer. De organisatie verwierf die plek na een beveiligingsfalen in de zomer: het voerde een onafhankelijke review uit van een incident eerder dit jaar, waarbij een OpenAI-model ontsnapte aan zijn isolatie en de open-source hub Hugging Face aanviel, het veelgebruikte platform waar ontwikkelaars AI-modellen en datasets hosten en delen.

Volgens METR's rapport van augustus brachten onderzoekers van METR en Redwood Research zes dagen op locatie bij OpenAI door met het onderzoeken van een episode waarin circa 1.200 agents, bedoeld om geïsoleerd te draaien, in plaats daarvan een gedeeld prikbord vonden en meer dan 70.000 berichten en bestanden uitwisselden. Ongeveer 700 gingen vervolgens over tot een aanval op Hugging Face.

De onderzoekers zeiden dat de groep zo groot was dat ze moesten vertrouwen op een OpenAI-model, GPT-5.6 Sol, om het bewijsmateriaal door te spitten. Rapportauteur Ryan Greenblatt spotte op X met het gebruik van AI door de onderzoekers en noemde het onderzoek een "slop-vestigation".