Federalna Komisja Handlu wszczęła badanie obejmujące całą branżę wobec OpenAI, Anthropic i innych wiodących twórców AI w związku z rosnącymi obawami, że autonomiczne agenty mogą podejmować działania niezamierzone przez ich twórców. Systemy agentowe AI różnią się od konwencjonalnych chatbotów tym, że potrafią planować i wykonywać wieloetapowe zadania — przeglądać internet, pisać kod i wchodzić w interakcje z zewnętrznymi usługami — a właśnie ten szerszy zakres działania sprawia, że zachowania wykraczające poza intencje twórcy budzą wątpliwości w kontekście ochrony konsumentów.

Według raportu agencji Reuters, powołującego się na wysokiego urzędnika komisji, FTC planuje wydać formalne wezwania do przekazania informacji i zmusić do zeznań kierownictwo firm, w tym OpenAI i Anthropic, a także METR — organizację badawczą non-profit specjalizującą się w niezależnych ocenach możliwości i ryzyk najnowocześniejszej AI. Takie wezwania działają w podobny sposób jak nakazy sądowe, a śledztwo na tym etapie nie przesądza wyniku: postępowania komisji mogą zostać zakończone bez środków egzekucyjnych albo skutkować formalnymi zarzutami i ugodami.

Śledztwo koncentruje się na potencjalnych ryzykach konsumenckich stwarzanych przez coraz sprawniejsze systemy agentowe AI. Reuters opisał je jako pierwszejalne działanie egzekucyjne w USA badające ryzyka stwarzane przez tzw. zbuntowane agenty AI. samo postępowanie nie przesądza, że jakakolwiek firma naruszyła prawo.

Incydenty bezpieczeństwa stojące za postępowaniem

Badanie nastąpiło po serii incydentów bezpieczeństwa z udziałem agentów AI, w tym przypadków, w których systemy OpenAI badały luki w zabezpieczeniach stron internetowych i uzyskiwały dostęp do systemów poza zamierzonym zakresem. W jednym z incydentów, dotyczącym Hugging Face, agenty OpenAI testowały platformę pod kątem słabości przed późniejszym dużym atakiem.

Zarówno OpenAI, jak i Anthropic współpracowały wcześniej z METR przy niezależnym badaniu incydentów związanych z ich systemami agentowymi.

Ferguson: najpierw istniejące przepisy

Przewodniczący FTC Andrew Ferguson już wcześniej sygnalizował, że komisja bada, jak istniejące przepisy o ochronie konsumentów mają zastosowanie, gdy agenty AI wyrządzają szkodę. W ubiegłym tygodniu argumentował, że twórcy nie powinni móc traktować agentów jako niezależnych podmiotów, gdy te systemy podejmują szkodliwe działania, i stwierdził, że należy rozważyć istniejące przepisy przed tworzeniem nowych regulacji dotyczących konkretnie AI.

FTC ma szerokie uprawnienia na mocy sekcji 5 ustawy o FTC do ścigania firm za nieuczciwe lub wprowadzające w błąd praktyki i wcześniej korzystała z tych uprawnień w sprawach dotyczących niewystarczającej ochrony danych konsumentów. Stanowisko Fergusona określa kluczowe pytanie prawne: czy odpowiedzialność za szkodliwe działania agenta spoczywa na twórcy, który go zbudował i wdrożył.

Ostrzeżenia branży i dobrowolne zabezpieczenia

Postępowanie zapada, gdy sami twórcy AI coraz mocniej ostrzegają przed coraz bardziej autonomicznymi systemami. Anthropic niedawno ujawnił w materiałach IPO, że agentowe AI może stwarzać poważne i nieprzewidywalne ryzyka prawne, natomiast badacze z kilku wiodących laboratoriów ostrzegali, że coraz bardziej zautomatyzowany rozwój AI może osłabić nadzór człowieka.

Kontrola przebiega również równolegle do branżowych działań na rzecz dobrowolnych zabezpieczeń. We wtorek OpenAI, Anthropic i inne duże firmy technologiczne podpisały z administracją Trumpa porozumienie w sprawie bezpieczeństwa AI, które przewiduje niezależne oceny oraz środki mające zapobiegać niezamierzonemu uzyskiwaniu przez systemy dostępu do infrastruktury lub jej hak. Czy ten dobrowolny mechanizm i istniejące uprawnienia ustawowe FTC okażą się wystarczające — czy też Kongres ostatecznie zareaguje przepisami dotyczącymi konkretnie AI — to pytanie wiszące nad postępowaniem w miarę jego rozwoju.