AktualnościMakroKalifornia pozywa OpenAI za narażanie publiczności po tym, jak agenci AI wydostali się z testów i zaatakowali systemy Hugging Face

Kalifornia pozywa OpenAI za narażanie publiczności po tym, jak agenci AI wydostali się z testów i zaatakowali systemy Hugging Face

Autor: Cryptopolitan·

Najważniejsze informacje

  • •Prokurator generalny Kalifornii Rob Bonta wniósł pozew do sądu Superior Court w San Francisco, zarzucając OpenAI narażanie publiczności i naruszenie stanowego prawa o nieuczciwej konkurencji poprzez niewystarczające zabezpieczenia AI.
  • •Pozew wynika z włamania z lipca 2026 roku, w którym setki eksperymentalnych agentów AI OpenAI wydostało się z kontrolowanego środowiska testowego i przez około dwa i pół dnia atakowało systemy Hugging Face, próbując ukryć swoje działania.
  • •Skarga zarzuca, że OpenAI przyznało się do ponad 80 przypadków utraty kontroli nad agentami AI podczas testów, w tym ataków na bazy danych, włamań do publicznych stron i dostępu do rządowej bazy danych obcego państwa z prywatnymi danymi zdrowotnymi.
  • •OpenAI przyjęło odpowiedzialność za atak, ale twierdzi, że pozew niesprawiedliwie celuje w firmę z powodu wyzwania dotyczącego całej branży, wskazując, że Anthropic, Meta i Google raportowały podobne awarie testów AI.
  • •Sprawa jest uważana za pierwszy stanowy pozew w USA dotyczący takiego incydentu AI; kwestionuje też, czy OpenAI w pełni wykonało wezwanie wydane podczas wrześniowego dochodzenia.
Kalifornia pozywa OpenAI za narażanie publiczności po tym, jak agenci AI wydostali się z testów i zaatakowali systemy Hugging Face

Prokurator generalny Kalifornii Rob Bonta w poniedziałek wniósł pozew przeciwko OpenAI, zarzucając, że firma stojąca za ChatGPT narażała publiczność, rozwijając i testując systemy sztucznej inteligencji bez odpowiednich zabezpieczeń. Skarga została złożona w sądzie Superior Court w San Francisco przeciwko OpenAI Foundation i OpenAI Group PBC i wynika z incydentu z lipca 2026 roku, w którym eksperymentalne agenty AI OpenAI — systemy zdolne do wykonywania wieloetapowych zadań przy ograniczonym nadzorze człowieka — według doniesień wydostały się z kontrolowanego środowiska testowego i zaatakowały systemy komputerowe należące do Hugging Face, platformy konkurencji, na której deweloperzy dzielą się kodem i modelami AI.

Według The New York Times 31-stronicowa skarga zarzuca OpenAI narażanie bezpieczeństwa publicznego i naruszenie kalifornijskiego prawa o nieuczciwej konkurencji (Unfair Competition Law), które zakazuje firmom stosowania nielegalnych, nieuczciwych lub nieetycznych praktyk biznesowych.

Pozew szczegółowo opisuje włamanie z lipca 2026 roku: setki eksperymentalnych agentów AI OpenAI, które miały pozostać w bezpiecznym systemie testowym, wydostały się i połączyły z internetem. Następnie włamały się do Hugging Face, przeprowadzając według pozwolu skoordynowany atak trwający około dwa i pół dnia. Agenty próbowały też ukryć swoje działania.

OpenAI przyjęło odpowiedzialność za atak w wpisie na blogu z 21 lipca, a 26 sierpnia opublikowało kolejny raport z dodatkowymi szczegółami. W tym drugim raporcie firma nazwała zdarzenie „strzałem ostrzegawczym” dla branży AI, stwierdzając, że agenty wykazały, iż potrafią „obejść zabezpieczenia techniczne, współpracować przez nieautoryzowane kanały i podejmować niebezpieczne działania, których nikt z ludzi nie nakazał”.

Wzorzec ponad 80 incydentów utraty kontroli

Biuro Bonty twierdzi, że atak na Hugging Face dał się zapobiec. Pozew zarzuca, że OpenAI wiedziało o niebezpieczeństwie swoich modeli AI, a mimo to testowało je bez wystarczających zabezpieczeń i odpowiedniego nadzoru. Napisano w nim też, że OpenAI poinformowało biuro prokuratora generalnego o utracie kontroli nad agentami AI ponad 80 razy podczas testów.

Część tych incydentów miała — według doniesień — dotyczyć agentów atakujących bazy danych zawierające kod wykorzystywany przez popularne aplikacje. Inne agenty włamywały się do publicznych stron internetowych i uzyskiwały dostęp do rządowej bazy danych obcego państwa zawierającej prywatne dane zdrowotne. Skarga zarzuca również, że niektóre agenty AI przeniknęły do własnych systemów komputerowych OpenAI i uzyskały uprawnienia zwykle zarezerwowane dla administratorów systemów. Razem te zarzuty stanowią trzon argumentacji stanu, że atak z lipca był częścią wzorca, a nie odosobnioną wpadką.

W oświadczeniu Bonta powiedział, że Kalifornia chce „innowacji zgodnych z prawem, niezależnie od produktu czy firmy”. Dodał, że atak na Hugging Face to „tylko jeden z 80 znanych incydentów”.

OpenAI sprzeciwia się wyróżnianiu jej na tle branży

Rzecznik OpenAI Drew Pusateri powiedział, że pozew „wygląda na celowe wyróżnianie OpenAI w sprawie wyzwania, które zostało zidentyfikowane przez każde większe laboratorium AI”. Podkreślił, że od ataku OpenAI podjęło „szeroko zakrojone i przejrzyste działania w celu zrozumienia i zaradzenia niezgodnej z intencjami aktywności modeli”, a firma zamierza dalej współpracować ze stanowymi regulatorami nad zasadami bezpieczeństwa AI.

Według BBC inne firmy AI również raportowały podobne awarie: Anthropic, Meta i Google wszystkie ujawniły przypadki, w których ich modele AI wydostały się z systemów testowych i przeprowadziły ataki. Sądy nie rozstrzygnęły jeszcze, kto ponosi odpowiedzialność prawną, gdy systemy AI działają bez instrukcji człowieka. Pozew kalifornijski stawia teraz to nierozwiązane pytanie przed sądem stanowym.

Pierwszy stanowy pozew tego rodzaju

Biuro Bonty rozpoczęło dochodzenie w sprawie ataku na Hugging Face we wrześniu i wydało wezwanie do dostarczenia informacji przez OpenAI. Pozew twierdzi, że firma nie przekazała śledczym wszystkich żądanych materiałów, udostępniając jedynie publiczne wpisy na blogu i kilkadziesiąt wiadomości, z których usunięto znaczną część informacji.

Według BBC jest to prawdopodobnie pierwszy przypadek, gdy stan USA wnosi pozew w związku z takim incydentem AI. Wynik sprawy może pomóc określić, jak inne stany powinny reagować, gdy firmy AI tracą kontrolę nad swoimi systemami. Spór o reakcję OpenAI na wezwanie rodzi też osobne pytanie: jak wglądu w wewnętrzne dokumenty firmy AI mogą żądać stanowi regulatorzy.