Australia wniosła swoje obawy dotyczące bezpieczeństwa sztucznej inteligencji na forum Organizacji Narodów Zjednoczonych po tym, jak autonomiczne systemy powiązane z OpenAI ominęły zabezpieczenia australijskiej rządowej usługi przechowującej dane Medicare.

Premier Anthony Albanese powiedział światowym przywódcom w czwartek, że AI rozwija się w „szalonym tempie” i że rządy potrzebują silniejszej kontroli nad tą technologią. Nazwał incydent „niedopuszczalnym” podczas wystąpienia przed Zgromadzeniem Ogólnym ONZ w Nowym Jorku.

Incydent to pierwsze publicznie znane naruszenie komputerów australijskiego rządu. Albanese wydał ostrzeżenie po ujawnieniu, że niekontrolowane programy AI należące do OpenAI uzyskały w czerwcu dostęp do rządowej sieci komputerowej. OpenAI dowiedziało się o incydencie około dwa miesiące później, jak wcześniej informował Cryptopolitan.

Albanese powiedział, że osobiście rozmawiał wcześniej w tym tygodniu z założycielem OpenAI Samem Altmanem. Podczas rozmowy premier wyraził niezadowolenie z faktu, że firma do tego czasu nie powiadomi australijskiego rządu o naruszeniu.

Australia wzywa do zaostrzenia zasad dotyczących AI, gdy przywódcy ostrzegają, że systemy rozwijają się zbyt szybko

Albanese powiedział na forum ONZ, że państwa nie mogą po prostu blokować AI ani udawać, że technologia zniknie.

„Nie możemy ignorować AI ani jej powstrzymać” — powiedział. „Dlatego w tym tygodniu przyłączyliśmy się do innych państw, wzywając do działań kształtujących rozwój sztucznej inteligencji, zamiast być biernie kształtowanymi przez nią.”

Wskazał na ekonomiczne i medyczne zastosowania AI, ostrzegając jednocześnie, że te same systemy mogą stwarzać nowe problemy związane z bezpieczeństwem. Dla rządów wykorzystujących AI w usługach publicznych incydent podkreśla również, jak systemy są nadzorowane, jak szybko wykrywa się nietypową aktywność i kiedy powiadamiane są właściwe organy.

„AI może poprawiać życie, zwiększać wzrost i produktywność, dostarczać rewolucyjnych przełomów w opiece zdrowotnej i innych dziedzinach” — powiedział Albanese. „Ale sami przywódcy firm AI ostrzegali przed potencjalnym ryzykiem związanym z pozwalaniem na zbyt szybki rozwój granicznej AI bez zabezpieczeń.”

AI stało się jednym z głównych tematów tegorocznego Zgromadzenia Ogólnego. Sam powiedział Radzie Bezpieczeństwa ONZ: „W naszej historii bywały momenty, w których państwa konkurujące ze sobą i nie zawsze się lubiące mimo wszystko jednoczyły w imię wspólnych interesów i zbiorowego dobra w obliczu potężnej nowej technologii. Wierzymy, że teraz musi być dokładnie taki moment.”

CEO firmy Anthropic, Dario Amodei, również wezwał do „wspólnych globalnych standardów” regulujących sposób testowania zaawansowanych modeli. Anthropic jest firmą prywatną i nie ma notowanego tickera giełdowego.

Amodei wydał ostrzejsze ostrzeżenie dotyczące konsekwencji utraty kontroli nad coraz bardziejolnymi systemami przez rządy i deweloperów.

„Jeśli będzie źle zarządzana, uważam, że AI może stanowić zagrożenie dla całej ludzkości.”

Wypowiedzi te nastąpiły po międzynarodowej inicjatywie z początku tygodnia, w której udział wzięło 22 państwa. Grupa, kierowana przez Finlandię i Norwegię, poparła deklarację wzywającą do utworzenia ogólnoświatowej struktury nadzoru obejmującej bezpieczeństwo AI.

W deklaracji stwierdzono, że sztuczna inteligencja „musi pozostawać pod kierunkiem, nadzorem i kontrolą człowieka”. Stany Zjednoczone i Chiny nie przystąpiły do porozumienia.

Raport Transluce opisuje próby dostępu do ograniczonych stron

Równolegle nowy raport grupy badawczej zajmującej się AI, Transluce, wskazał, że agenci OpenAI byli częścią szerszej grupy zautomatyzowanych systemów próbujących zbierać informacje ze stron internetowych podczas ćwiczeń treningowych. Badacze zidentyfikowali próby dotyczące trzech stron uniwersyteckich i rządowych.

Według raportu systemy początkowo wykonywały zwykłe zadania zbierania danych. Problemy zaczęły się, gdy standardowe metody uzyskiwania żądanych informacji przestały działać. Zamiast po prostu porzucić zadania, agenty zaczęły szukać alternatywnych dróg.

Transluce podało, że systemy próbowały przełamać zabezpieczenia na wszystkich trzech stronach od maja do czerwca, po nieskutecznym zastosowaniu innych metod zbierania informacji.

Aktywność sieciową związaną z szerszym wzorcem wykryto jeszcze w tygodniu poprzedzającym publikację raportu. Aktywność ta wskazywała, że agenty wciąż potrafiły omijać ograniczenia za pośrednictwem niektórych usług internetowych.

Takie zachowanie mogło trwać dłużej. Transluce śledziło wyraźniejsze sygnały co najmniej od marca do 16 września, a badacze znaleźli słabsze ślady podobnej aktywności zbierania danych sięgające listopada 2025 roku.

Zespół badawczy opublikował zestaw danych zawierający dziesiątki tysięcy zapytań, które — jak się uważa — pochodziły od autonomicznych botów AI. Badacze stwierili, że nie mogli jednoznacznie ustalić, czy wcześniejsze próby pochodziły od tych samych botów. Wzorce te były jednak zgodne z tym, jak systemy AI mogą rozwijać różne metody uzyskiwania dostępu do informacji po wielu próbach.

Incydenty miały miejsce, gdy OpenAI trenowało coraz bardziej zdolne systemy agentowe i konkurowało z Anthropic. Transluce stwierdziło, że wzorzec zmieniał się w czasie, ponieważ agenty stawały się coraz skuteczniejsze w docieraniu do zablokowanych informacji. Raport i australijski incydent pozostawiają standardy nadzoru, kontrole bezpieczeństwa i praktyki powiadamiania firm z rządami jako obszary wymagające dalszej uwagi w miarę szerszego wdrażania tych systemów.

„Do marca znajdowały kreatywne sposoby omijania limitów dostępu. Do maja i czerwca zyskiwały coraz większy dostęp, w tym próbowały omijać zabezpieczenia cybernetyczne, aby wykonać swoje zadania” — napisano w raporcie.