NEAR AI ujawniła naruszenie bezpieczeństwa, w którym atakujący wykorzystał lukę w oprogramowaniu strony trzeciej obsługującym serwery firmy, uzyskał dostęp do systemów wewnętrznych oraz pobrał dane kont około 100 użytkowników wraz z danymi powiązanymi z 18 agentami AI.

W raporcie o incydencie bezpieczeństwa opublikowanym 9 listopada firma oświadczyła, że intruz wykorzystał lukę umożliwiającą zdalne wykonanie kodu — błąd pozwalający atakującemu na wykonywanie dowolnych poleceń na zaatakowanym systemie — w SGLang, silniku open source używanym do uruchamiania modeli AI i generowania odpowiedzi na żądania użytkowników. Eksploit umożliwił atakującemu wykonywanie poleceń na jednym serwerze inferencji, a następnie dotarcie do innych części infrastruktury NEAR AI.

Śledczy prześledzili włamanie do systemu wewnętrznego powiązanego z funkcją Private Chat, którą firma już wycofała. Przypadek ten przypomina, że dane związane z wycofanymi produktami mogą pozostać osiągalne w infrastrukturze firmy. Zgodnie z raportem o incydencie atakujący pobrał imiona i nazwiska oraz adresy e-mail około 100 użytkowników, a w niektórych przypadkach także informacje o planie subskrypcji i saldzie konta.

Włamanie objęło także starsze wdrożenie Near AI Agents, gdzie uzyskano dostęp do 18 agentów i pobrano ich historie czatów, ustawienia oraz logi. Jak odnotowano w raporcie, agenci ci nie działali w poufnym środowisku obliczeniowym NEAR AI, które ma chronić informacje przed firmą obsługującą serwery.

Logi ujawniły ponadto klucze API NEAR AI Cloud należące do dwóch klientów. Klucze te pełnią funkcję cyfrowych danych uwierzytelniających, których aplikacje używają do uzyskiwania dostępu do usług chmurowych; Near AI oświadczyła, że unieważniła oba, ale nie powiedziała, czy atakujący z nich skorzystał.

Firma poinformowała również, że żądania w trybie poufnym przetworzone 8 listopada mogły być widoczne dla atakującego, choć śledztwo nie wykazało, że przechowywane rozmowy z Private Chat lub przesłane pliki zostały uzyskane. Potwierdzona kradzież dotyczyła rekordów kont i danych starszych agentów, natomiast możliwość ujawnienia żywych żądań poufnych pozostaje scenariuszem wskazanym przez śledztwo.

Poufne AI ma problem z oprogramowaniem

Near AI jest częścią szerszego ekosystemu Near, który promuje prywatność AI obok swoich ambicji w obszarze blockchain. Jego produkt Cloud wykorzystuje zaufane środowiska wykonawcze (TEE), aby szyfrować prompty AI i izolować je od operatorów serwerów, nawet podczas ich przetwarzania przez modele.

Izolacja sprzętowa nie gwarantuje jednak, że oprogramowanie wewnątrz chronionego środowiska jest bezpieczne. „To nie chroni przed luką w oprogramowaniu działającym wewnątrz środowiska” — przyznała Near AI, wyjaśniając, że luka w SGLang pozwoliła atakującemu wykonywać kod tam, gdzie przetwarzano żądania poufne.

Dla biznesu, który sprzedaje prywatność jako kluczową funkcję, ta luka w oprogramowaniu jest istotnym zastrzeżeniem. W październiku Near AI ogłosiła, że asystent przeglądarki Brave Leo korzysta z jej infrastruktury poufnej inferencji dla wspieranego modelu AI, choć raport o incydencie nie wymienia użytkowników Brave wśród poszkodowanych.

SGLang już wcześniej przyciągał uwagę badaczy bezpieczeństwa. W lipcu CERT Coordination Center Uniwersytetu Carnegie Mellon, jednostka koordynująca zgłoszenia luk w ramach Software Engineering Institute uczelni, udokumentowała sześć luk w tym projekcie, w tym błędy mogące pozwolić atakującym na wykonywanie poleceń lub ujawnienie danych uwierzytelniających, zależnie od konfiguracji serwerów. Near AI nie wskazała konkretnej luki w SGLang wykorzystanej w tym incydencie, więc nie ma podstaw wiązać włamania z którymkolwiek z wcześniejszych zgłoszeń. Zgłosiła lukę twórcom SGLang.

Near AI oświadczyła, że szybko zajęła się ograniczeniem skutków incydentu. „Po wykryciu unieważniliśmy wszystkie aktywne sesje i dane uwierzytelniające administracyjne, wymieniliśmy wszystkie tokeny agentów, wyłączyliśmy Private Chat i wdrożyliśmy poprawkę luki w SGLang na wszystkich serwerach inferencji” — oświadczył projekt. „Zakończyliśmy wymianę wszystkich pozostałych danych uwierzytelniających oraz pełny przegląd kryminalistyczny. Powiadomiliśmy użytkowników, których dane kont lub agentów — zgodnie z naszym potwierdzeniem — uzyskano, i dokonamy wymaganych zgłoszeń regulacyjnych.”

Firma ostrzegła także użytkowników, aby zachowali czujność wobec niechcianych wiadomości odwołujących się do ich kont lub sald Near AI, i poinformowała, że skontaktowała się indywidualnie z właścicielami wszystkich 18 dotkniętych agentów. Dalsze szczegóły mogą wyniknąć z dwóch kanałów: zgłoszeń regulacyjnych, które Near AI złoży tam, gdzie są wymagane, oraz ewentualnego ostrzeżenia od twórców SGLang, którym firma zgłosiła konkretną lukę, nie ujawniając jej publicznie.