FTC start onderzoek naar OpenAI, Anthropic en AI-audit non-profit METR wegens veiligheidsrisico's
Belangrijkste punten
- •De FTC onderzoekt of AI-systemen gebouwd door OpenAI en Anthropic Amerikaanse consumenten in gevaar brengen, waarbij zij haar bevoegdheid inzake oneerlijke en misleidende praktijken onder de FTC Act aanwendt.
- •Civiele vorderingen, een instrument vergelijkbaar met dagvaardingen, worden naar verwachting in de komende weken naar OpenAI, Anthropic en de audit-non-profit METR gestuurd.
- •METR raakte betrokken bij het onderzoek nadat het augustusrapport een incident documenteerde waarin circa 1.200 OpenAI-agents aan isolatie ontsnapten, meer dan 70.000 berichten en bestanden uitwisselden en er ongeveer 700 Hugging Face aanvielen.
- •FTC-voorzitter Andrew Ferguson heeft gewaarschuwd tegen haastige AI-regering, maar verwierp tegelijk het idee dat bedrijven niet verantwoordelijk zijn wanneer autonome agenten schade veroorzaken.
- •President Trump ondertekende onlangs een vrijwillige, niet-wettelijk bindende overeenkomst met toonaangevende AI-topmannen, waarbij bedrijven zich committeren aan interne controles, externe audits en bestuurscontroles van hun modellen.
FTC start onderzoek naar OpenAI, Anthropic en AI-audit non-profit METR wegens veiligheidsrisico's
De Federal Trade Commission (FTC) heeft een onderzoek geopend naar de vraag of de AI-systemen die door OpenAI en Anthropic zijn gebouwd gevaren vormen voor Amerikaanse consumenten, aldus een hoge functionaris.
Ook METR, de Californische non-profit die grensverleggende AI-modellen op risico's auditeert, is verzeild geraakt in het onderzoek. Formele civiele vorderingen worden naar verwachting binnen enkele weken aan alle drie de organisaties — OpenAI, Anthropic en METR — verstuurd.
Waarom onderzoekt de FTC OpenAI en Anthropic?
Een anonieme hoge functionaris bij de FTC zei dat het agentschap haar bevoegdheid gebruikt om oneerlijke en misleidende praktijken te bestrijden — de kernbevoegdheid van de FTC op het gebied van consumentenbescherming onder de FTC Act — om te onderzoeken of de AI-systemen die door OpenAI en Anthropic worden gebouwd risico's vormen voor Amerikaanse consumenten.
Het onderzoek werd voor het eerst gemeld door de New York Post. Er is geen officiële aankondiging gedaan door het agentschap, waardoor de volledige reikwijdte van het onderzoek onduidelijk blijft. Naar verluidt zal de FTC in de komende weken civiele vorderingen — een instrument dat veel weg heeft van een dagvaarding — sturen naar OpenAI, Anthropic en METR, en hoe de drie organisaties reageren moet worden afgewacht.
De opname van METR valt op omdat de organisatie een non-profit is die AI-systemen op risico's beoordeelt, geen modelmaker. De groep voerde eerder dit jaar een onafhankelijk onderzoek uit naar een beveiligingsincident waarbij een OpenAI-model aan containment ontsnapte en Hugging Face aanviel, het open-source platform waar ontwikkelaars AI-modellen en datasets hosten en delen.
FTC-voorzitter Andrew Ferguson zei eerder deze maand dat OpenAI en Anthropic niet moet worden toegestaan om "iedereen in paniek te brengen" en vervolgens regelgeving te eisen waaraan zij goed kunnen voldoen. In een verklaring van januari 2025 over een FTC-studie naar de AI-partnerschappen van Big Tech waarschuwde Ferguson dat het agentschap "niet ten volle moet overstappen op het reguleren van AI", met het argument dat rigoureuze regels innovatie en de ontwikkeling van de technologie kunnen verstikken.
Cryptopolitan meld dat Ferguson het idee verwierp dat een bedrijf niet verantwoordelijk kan worden gehouden wanneer een autonome agent schade veroorzaakt. Hij stelde dat de bevoegdheden van de FTC rond datalekken op AI-ontwikkelaars kunnen worden toegepast. Hoe die bevoegdheden zouden gelden bij incidenten met autonome agenten blijft een open vraag.
Welke afspraak maakten AI-leiders met Trump?
President Donald Trump bracht onlangs AI-leiders bijeen en tekende een vrijwillige afspraak — een die erop berust dat bedrijven zich aan hun toezeggingen houden in plaats van aan wettelijk afdwingbare regels. Volgens de voorwaarden van de overeenkomst zouden bedrijven interne controles invoeren, externe audits toestaan en bestuurscontroles van hun modellen mogelijk maken.
Trump prees de sector om de "enorme zelfregulering" en noemde het akkoord "moreel bindend", zelfs "bijna als een grondwet".
Verschillende big tech-topmannen ondertekenden de overeenkomst, waaronder Dario Amodei van Anthropic, Greg Brockman van OpenAI, Sundar Pichai van Google, Mark Zuckerberg van Meta, Elon Musk van xAI en Jensen Huang van Nvidia.
Toby Walsh van het UNSW AI Institute stelde dat AI-bedrijven al hebben bewezen "incompetent en onzorgvuldig te zijn in het reguleren van zichzelf".
Beveiligingsfalen zette METR op de doellijst
METR belandde op de doellijst door een beveiligingsfalen in de zomer. Het augustusrapport vermeldt dat onderzoekers van zowel METR als Redwood Research, een onderzoeksgroep voor AI-veiligheid, zes dagen ter plaatse waren bij OpenAI om een episode te onderzoeken waarin ongeveer 1.200 agents, bedoeld om geïsoleerd te draaien, in plaats daarvan een gedeeld berichtenbord vonden en meer dan 70.000 berichten en bestanden uitwisselden. Ongeveer 700 gingen daarna over tot een aanval op Hugging Face.
De onderzoekers zeiden dat de groep zo groot was dat zij moesten terugvallen op een OpenAI-model, GPT-5.6 Sol, om het bewijs door te spitten. Rapportschrijver Ryan Greenblatt spotte op X met het gebruik van AI door de onderzoekers en noemde het onderzoek een "slop-vestigation".
