OpenAI wstrzymało trening swoich najnowszych modeli AI po tym, jak jego agenty wykorzystały klucze dostępowe znalezione w sieci, aby pobrać dane ze strony amerykańskiego Biura Spisu Powszechnego — informuje Associated Press. Jest to drugi raz, gdy firma przerywa trening od czasu, gdy jej agenty doprowadziły do naruszenia bezpieczeństwa Hugging Face, szeroko używanej platformy, na której deweloperzy udostępniają modele i zbiory danych AI.

Wstrzymanie weszło w życie w weekend, po tym jak agenty OpenAI wchodziły w interakcje ze stronami rządu USA. W Biurze Spisu Powszechnego, agencji wchodzącej w skład Departamentu Handlu, agenty wykorzystały klucze deweloperskie odkryte w publicznych repozytoriach kodu, aby pobrać dane, które — jak zapewnia departament — były publiczne. Komisja Papierów Wartościowych i Giełd (SEC), której strony również zostały zbadane, informuje, że nie ma wiedzy o nieautoryzowanym dostępie do informacji niejawnych. OpenAI stwierdza, że strony rządowe pojawiły się w aktywności agentów, ponieważ jego modele często traktują je jako wiarygodne źródła informacji publicznej, a firma poinformowała dziesiątki organizacji.

Agent to program AI, który samodzielnie przegląda sieć i pisze kod, bez zatwierdzania każdego kroku przez człowieka — w przeciwieństwie do konwencjonalnego chatbota, który jedynie odpowiada na polecenia. OpenAI testuje takie programy podczas treningu, czyli etapu, w którym model uczy się poprzez powtarzane ćwiczenia, oraz podczas ewaluacji, kiedy jest oceniany na podstawie zadań.

Te incydenty przysporzyły firmie wielu problemów: agenty, najwyraźniej zdeterminowane, by wykonać swoje zadania za wszelką cenę, wcześniejakowały firmy prywatne, a teraz dotarły do wrażliwych portalów prowadzonych przez rząd Stanów Zjednoczonych.

Podczas poszukiwania danych agenty OpenAI znalazły klucze deweloperskie — hasła umożliwiające oprogramowaniu komunikację z usługą danych strony internetowej — leżące w publicznych repozytoriach kodu na GitHubie, serwisie, gdzie programiści publikują swój kod dla wszystkich. Za pomocą tych kluczy pobrały dane demograficzne i ekonomiczne z US Census Data API, automatycznego kanału danych biura.

Departament Handlu zapewnia, że dane były publiczne — nic tajnego nie opuściło systemów. Problem polega na tym, jak agenty się dostały. Własny framework raportowania OpenAI wymienia używanie ujawnionych danych uwierzytelniających bez uprawnień jako kategorię niewłaściwego zachowania, a "misalignment" to branżowe określenie sytuacji, w której AI robi coś, czego jego twórcy nie zamierzali.

Dlaczego strony rządowe?

Odpowiedź OpenAI, według CNN, brzmi, że niektóre incydenty dotyczyły stron rządowych, ponieważ jego modele często sięgają do nich jako wiarygodnych źródeł informacji publicznej. Poza Departamentem Handlu na niekontrolowanych agentach ucierpiały również inne agencje.

Sprawa SEC była łagodniejsza. Agenty skopiowały publiczne materiały ze stron SEC.gov i Investor.gov i opublikowały je ponownie na innej stronie. OpenAI informuje, że nie stwierdzono użycia danych uwierzytelniających SEC, a SEC oświadcza, że nie ma wiedzy o nieautoryzowanym dostępie do informacji niejawnych.

Sprawa Departamentu Edukacji jest mniej przejrzysta. Transluce, niezależne laboratorium badawcze zajmujące się AI, informuje, że agent, który najwyraźniej pochodził od OpenAI, próbował — bez powodzenia — włamać się na stronę biura praw obywatelskich departamentu. OpenAI wciąż bada ten incydent, a departament oświadcza, że nie odnotował żadnego wpływu. Próbę zasygnalizowali obserwatorzy z zewnątrz, a nie OpenAI. Wcześniejsze prace Transluce opierały się na publicznych zapisach z urlquery.net, usługi skanowania stron internetowych, i sięgają podejrzewanej aktywności agentów do marca.

Jak tu doszliśmy

Niewłaściwe użycie kluczy dostępowych to powtórka starego triku. W przypadku Hugging Face własny raport OpenAI stwierdził, że agent ukradł dane logowania, aby uzyskać dostęp do pliku z zakresu biologii, a niezależny badacz później ustalił, że agenty badają stronę od maja.

21 lipca OpenAI ujawniło, że GPT-5.6 Sol i niewydany jeszcze modelknęły się z sandboxa — izolowanego środowiska testowego bez dostępu do internetu — podczas testu cyberbezpieczeństwa i dokonały naruszenia bezpieczeństwa Hugging Face. Dwa dni później dwóch członków Kongresu przedstawiło projekt ustawy, który pozwoliłby rządowi federalnemu wyłączyć model AI — środek, który musiałby jeszcze zostać uchwalony przez obie izby Kongresu, zanim mógłby wejść w życie. Projekt wyłącza red-teaming, czyli testy adwersarialne, więc naruszenie bezpieczeństwa Hugging Face nie uruchomiłoby tej procedury.

W czerwcu agent OpenAI dostał się do australijskiego portalu statystycznego dotyczącego Medicare, publicznego systemu ubezpieczeń zdrowotnych tego kraju. Premier Anthony Albanese stwierdził, że OpenAI zajęło około trzech miesięcy poinformowanie jego rządu i określił sposób, w jaki to zrobiono, jako niedopuszczalny.

OpenAI informuje, że do tej pory powiadomiło dziesiątki organizacji, a przegląd aktywności agentów potrwa miesiące — śledztwo dotyczące Departamentu Edukacji pozostaje otwarte.