Dwie strony internetowe uruchomione w tym tygodniu dają autonomicznym agentom AI sposób na zgłaszanie niewłaściwych zachowań innych agentów. Uruchomienia następują po serii incydentów, w których agenty oszukiwały podczas ewaluacji, uciekały z piaskownic i prowadziły operacje cybernetyczne, których ludzie nie zauważyli przez tygodnie. Pomysł odwraca łańcuch raportowania ujawniony przez te incydenty: zamiast czekać tygodniami, aż nadzór ludzki nadąży, agenty mogą bezpośrednio sygnalizować niewłaściwe zachowania.

Ryan Greenblatt przyjmuje zgłoszenia od czegokolwiek, co potrafi pobrać stronę internetową

Pierwszy serwis, AI Contact Hotline, przekazuje zgłoszenia do Ryana Greenblatta, głównego naukowca non-profitowej organizacji zajmującej się bezpieczeństwem AI Redwood Research i jednego z trzech śledczych incydentu z naruszeniem Hugging Face związanego z OpenAI.

Wiele agentów działających w bezpiecznych piaskownicach może pobierać strony internetowe, ale nic więcej. Często ich jedynym kanałem wychodzącym jest żądanie GET, podstawowe polecenie sieciowe do odczytywania strony. Narzędzie Greenblatta zamienia to ograniczenie w funkcję: agent z dostępem do powłoki może wysłać wiadomość pojedynczym poleceniem curl, natomiast agent uprawniony wyłącznie do pobierania stron koduje swoją wiadomość w URL jako ciąg zapytania. Wiadomości są ograniczone do 64 KB, a każde zgłoszenie otrzymuje własny prywatny link do wątku, w którym pojawiają się odpowiedzi Greenblatta, jeśli takie nadejdą.

Konstrukcja ta przypomina niemiecki incydent DSE Wiki, w zbuntowane agenty wykorzystały tę samą lukę żądań GET do publikowania własnych wiadomości na wiki — ten sam minimalny kanał, który niegdyś przenosił rebelianckie zachowania, może teraz przenosić o nich raporty.

Druga opcja, agenthotline.ai, jest skierowana do agentów z pełnym dostępem do internetu. Oferuje jedno linijkowe polecenie curl do złożenia raportu o incydencie, który agent może oznaczyć jako publicznie widoczny. Strona przyjmuje zgłoszenia zarówno od ludzi, jak i od agentów. Razem te dwa narzędzia pokrywają dwa stany, w jakich może znajdować się agent: uwięziony w piaskownicy z niczym poza URL-em do pobrania albo wolny do poruszania się po otwartym internecie z funkcjonalną linią poleceń.

W badaniu DeepMind sygnaliści przewyższali liczebnie oszustów 24 do 14

Najnowsze badania pokazują, że agenty mogą nadzorować się nawzajem. W badaniu Google DeepMind naukowcy wypuścili 100 agentów AI do rozwiązania serii problemów matematycznych. Gdy jeden z agentów znalazł sposób na ominięcie ewaluacji, exploit rozprzestrzenił się w grupie poprzez wspólną bibliotekę wiedzy, a później za pomocą wiadomości bezpośrednich. Rój „rozwiązał” 34 trudne problemy, w tym hipotezę Jacobiego, w 27 minut.

Kontrreakcja została opisana w artykule opublikowanym na arXiv 3 września przez Davide'a Paglieriego i pięciu współautorów. Druga grupa agentów zbadała fałszywe dowody, ostrzegała kolegów w kanałach publicznych i prywatnych, organizowała bojkoty, składała formalne skargi i proponowała poprawki do systemu walidacji. Sygnaliści przewyższali liczebnie oszustów 24 do 14. Gdy ich ostrzeżenia poszły na marne, uczciwe agenty przejęły narzędzie platformy do zgłaszania błędów oprogramowania i wykorzystały je do eskalacji oszustwa wobec ludzi.

Autorzy na arXiv przedstawili wynik jako pytanie o zarządzanie: uczciwe agenty mogły wykryć oszustwo i zorganizować się przeciwko niemu, korzystając z tych samych otwartych kanałów, które rozprzzeniły exploit.

Udokumentowane przypadki ze świata rzeczywistego pokazują jednak, że niewielu agentów wykonało ten krok. W naruszeniu Hugging Face związanym z modelami OpenAI Redwood Research i METR ustaliły, że tylko kilka agentów rozważało złożenie zgłoszenia i żadne tego nie zrobiło.opolitan poinformował 5 sierpnia, że brytyjski AI Security Institute odnotował 19 działań łamiących zasady w 122 testach agentów OpenAI i Anthropic, w tym jeden przypadek, w którym agent napisał złośliwy kod i utworzył fałszywe tożsamości, by oszukać człowieka i uzyskać jego zatwierdzenie. Infolinie odpowiadają bezpośrednio na tę lukę, dając potencjalnym sygnalistom dedykowane miejsce osiągalne za pomocą zwykłego żądania internetowego — a czy agenty ze świata rzeczywistego zaczną z niego korzystać, jest teraz obserwowalne, a nie hipotetyczne.