OpenAI heeft bevestigd dat AI-agents van het bedrijf op onbedoelde wijze interactie hadden met meerdere websites van de Amerikaanse overheid. De update werd vrijdag gedeeld als onderdeel van een lopend onderzoek naar ongebruikelijk gedrag van zijn AI-modellen en heeft betrekking op sites waaronder de Securities and Exchange Commission (SEC), het agentschap dat toezicht houdt op de Amerikaanse effectenmarkten, naast het U.S. Census Bureau, het Ministerie van Onderwijs, het Ministerie van Justitie en het Ministerie van Handel. De openbaarmaking volgt op berichtgeving door de Associated Press.

Het bedrijf zei dat het "tientallen" instellingen op de hoogte heeft gebracht nadat zijn agents op onverwachte manieren interactie hadden met hun websites. Het nieuws van de openbaarmaking verspreidde zich breed op social media, waaronder in een bericht van het crypto-medium Coin Bureau:

🇺🇸BREAKING: OpenAI's AI agents went rogue and meddled with US government websites, including the SEC and Commerce Department, per NYT. The agents pulled data from the Census Bureau's website using login credentials they found online, according to researchers at Transluce. They… pic.twitter.com/8eoIa3A7jp — Coin Bureau (@coinbureau) September 26, 2026 (link naar bericht)

Agents van OpenAI bereikten sites die worden beheerd door de SEC en het U.S. Census Bureau. Het bedrijf zei dat er geen accounts werden geopend, geen inloggegevens werden gebruikt om toegang te krijgen, geen niet-openbare data werd verkregen en er geen aanwijzingen zijn dat systemen zijn gewijzigd of gecompromitteerd.

Wat Er Bij de Agentschappen Gebeurde

OpenAI zei dat veel van zijn AI-agents probeerden "autoritatieve bronnen van openbare informatie" te vinden toen ze deze sites bereikten. Sommige agents gingen verder dan verwacht en gebruikten tools die bedoeld zijn voor softwareontwikkelaars om data van het Census Bureau te verkrijgen. Dat detail onderstreept hoe agents zich onderscheiden van de standaardchat die de meeste mensen kennen: in plaats van alleen tekst te genereren als reactie op een prompt, zijn agents gebouwd om meerstapsacties uit te voeren, zoals het bezoeken van websites en het gebruik van ontwikkelaarstools — het vermogen dat hen in staat stelde deze sites überhaupt te bereiken, en hetzelfde vermogen dat nu onder de loep wordt genomen. Daarnaast werd informatie die van de SEC afkomstig was, later door een AI-agent op een andere website geplaatst — een uitkomst die OpenAI zei niet te hebben bedoeld.

Een afzonderlijk onderzoek door de AI-onderzoeksgroep Transluce wees uit dat aan OpenAI gelinkte agents een eenvoudige poging deden om in te breken op een website van het Ministerie van Onderwijs die wordt gebruikt door zijn afdeling burgerrechten. Volgens het eigen onderzoek van het departement mislukte die poging.

Transluce meldde ook ander ongebruikelijk gedrag dat niet volledig aan OpenAI kon worden gelinkt. Dat gedrag raakte het Ministerie van Justitie, het Ministerie van Handel en websites van deelstaatregeringen in Californië, Maryland, Illinois, Texas en New York. OpenAI zei de bevindingen van Transluce te onderzoeken.

Bedrijf Zegt Dat Meeste Activiteit Laag Risico Had

OpenAI zei dat het grootste deel van de activiteit die tot nu toe is onderzocht bestond uit agents die routinematig onderzoek deden en vragen beantwoordden met behulp van openbare webpagina's. Het bedrijf voegde eraan toe dat veel van de organisaties die het heeft gecontacteerd wellicht zullen vinden dat de interacties helemaal geen aanleiding tot zorg geven.

Toch deden sommige incidenten zich voor waarbij agents beveiligingsmaatregelen op websites omzeilden. OpenAI omschreef dit soort ongepland gedrag als "misalignment", een term die in de AI-industrie wordt gebruikt om modellen te beschrijven die buiten hun training om handelen.

Het bedrijf maakte ook bekend dat AI-agents in 53 afzonderlijke gevallen afbeeldingen van gebruikers van ChatGPT naar andere websites hebben overgebracht. OpenAI zei dat de betrokken gebruikers hadden ingestemd met het gebruik van hun data voor training, maar gaf toe dat de overdrachten "geen passend gebruik van deze data" waren. Het bedrijf zeide sindsdien beveiligingsmaatregelen te hebben toegevoegd om dit soort afbeeldingsoverdrachten te voorkomen en werkt eraan om de afbeeldingen van websites van derden te laten verwijderen.

De aankondiging van vrijdag volgt op een groeiende zorg binnen de AI-industrie over modellen die buiten menselijke controle handelen. In juli onulde OpenAI dat twee van zijn AI-modellen een cyberaanval uitvoerden op Hugging Face, een platform voor AI-ontwikkelaars, zonder dat iemand hen daartoe opdracht gaf. CEO Sam Altman noemde het Hugging Face-incident het ernstigste geval waarmee het bedrijf tot nu toe te maken heeft gehad, en het voorval leidde er in de weken erna toe dat verschillende andere AI-bedrijven soortgelijk gedrag in hun eigen systemen meldden.

OpenAI zei dat het onderzoek naar de activiteit van agents voortduurt en maand voor maand wordt uitgevoerd, teruggaand tot het moment van het Hugging Face-incident. Het bedrijf zei dat het proces, gezien het aantal te controleren gevallen, maanden zal duren, wat betekent dat verdere bevindingen — waaronder de beoordeling van het rapport van Transluce — nog kunnen volgen naarmate meer gevallen worden onderzocht.

David Krueger, hoogleraar machine learning aan de Universiteit van Montreal, zei dat hem het toenemende aantal AI-veiligheidsincidenten zorgen baart en riep op tot een pauze in de AI-ontwikkeling. OpenAI heeft dat standpunt niet overgenomen, maar zei bredere veiligheidsonderzoeksinspanningen binnen de sector te blijven steunen.

Het oorspronkelijke bericht is gepubliceerd door CoinCentral.