NEAR AI ha reso noto un breach della sicurezza in cui un attaccante ha sfruttato una falla in un software di terze parti in esecuzione sui server dell'azienda, ha avuto accesso a sistemi interni e ha scaricato i dettagli account di circa 100 utenti insieme a dati legati a 18 agenti AI.

In un rapporto sull'incidente di sicurezza pubblicato il 9 novembre, l'azienda ha spiegato che l'intruso ha sfruttato una vulnerabilità di remote code execution — un difetto che consente a un attaccante di eseguire comandi arbitrari su un sistema bersaglio — in SGLang, un motore open source utilizzato per eseguire modelli AI e generare risposte alle richieste degli utenti. L'exploit ha permesso all'attaccante di eseguire comandi su un server di inferenza e poi raggiungere altre parti dell'infrastruttura di NEAR AI.

Gli investigatori hanno fatto risalire l'intrusione a un sistema interno collegato a Private Chat, una funzionalità che l'azienda aveva già dismesso. L'episodio ricorda che i dati legati a prodotti dismessi possono rimanere raggiungibili all'interno dell'infrastruttura di un'azienda. Secondo il rapporto sull'incidente, l'attaccante ha scaricato nomi e indirizzi email di circa 100 utenti, insieme alle informazioni su piano di abbonamento e saldo account per alcuni di loro.

Il breach ha raggiunto anche un deployment datato di Near AI Agents, dove sono stati accessi 18 agenti di cui sono stati recuperati cronologie di chat, impostazioni e log. Tali agenti non erano in esecuzione all'interno dell'ambiente di confidential computing di NEAR AI, progettato per schermare le informazioni dall'azienda che gestisce i server, come indicato nel rapporto.

I log hanno inoltre esposto le chiavi API di NEAR AI Cloud appartenenti a due clienti. Queste chiavi funzionano come credenziali digitali che le applicazioni usano per accedere ai servizi cloud; Near AI ha dichiarato di averle revocate entrambe, senza specificare se l'attaccante le abbia utilizzate.

L'azienda ha anche riferito che le richieste in modalità confidenziale elaborate l'8 novembre potrebbero essere state visibili all'attaccante, purtroppo senza che l'indagine abbia rilevato indizi di accesso alle conversazioni Private Chat archiviate o ai file caricati. Il furto confermato ha riguardato record account e dati di agenti legacy, mentre l'esposizione di richieste confidenziali in tempo reale resta una possibilità individuata dall'indagine.

Il confidential AI ha un problema software

Near AI fa parte del più ampio ecosistema Near, che ha promosso la privacy AI accanto alle proprie ambizioni blockchain. Il suo prodotto Cloud utilizza trusted execution environment, o TEE, per mantenere i prompt AI crittografati e isolati dagli operatori dei server, anche mentre i modelli li elaborano.

L'isolamento hardware, tuttavia, non garantisce che il software all'interno dell'ambiente protetto sia sicuro. "Non protegge da una vulnerabilità nel software in esecuzione all'interno dell'ambiente", ha riconosciuto Near AI, spiegando che la falla in SGLang ha permesso all'attaccante di eseguire codice dove venivano elaborate le richieste confidenziali.

Per un'attività che vende la privacy come caratteristica fondamentale, questa lacuna software è una riserva significativa. A ottobre, Near AI aveva annunciato che l'assistente browser Leo di Brave utilizzava la sua infrastruttura di inferenza confidenziale per un modello AI supportato, sebbene il rapporto sull'incidente non identifichi utenti Brave tra gli interessati.

SGLang aveva già attirato l'attenzione dei ricercatori di sicurezza. A luglio, il CERT Coordination Center della Carnegie Mellon University, il braccio di coordinamento delle vulnerabilità del Software Engineering Institute dell'università, aveva documentato sei vulnerabilità nel progetto, inclusi bug che potevano consentire agli attaccanti di eseguire comandi o esporre credenziali, a seconda della configurazione dei server. Near AI non ha identificato la falla specifica di SGLang sfruttata in questo incidente, quindi non vi è alcuna base per collegare il breach a tali divulgazioni precedenti. Ha segnalato la vulnerabilità agli sviluppatori di SGLang.

Near AI ha dichiarato di essere intervenuta rapidamente per contenere l'incidente. "Al rilevamento, abbiamo revocato tutte le sessioni attive e le credenziali amministrative, sostituito tutti i token degli agenti, portato offline Private Chat e distribuito una fix per la vulnerabilità SGLang su tutti i server di inferenza", ha dichiarato il progetto. "Abbiamo completato la rotazione di tutte le credenziali rimanenti e una revisione forense completa. Abbiamo notificato gli utenti i cui dati account o agenti risultano confermati come accessati e effettueremo le notifiche normative richieste."

L'azienda ha inoltre raccomandato agli utenti di prestare attenzione ai messaggi non richiesti che menzionano i loro account o saldi Near AI, e ha riferito di aver contattato individualmente i proprietari di tutti i 18 agenti coinvolti. Ulteriori dettagli potrebbero emergere da due canali: le notifiche normative che Near AI ha dichiarato di effettuare ove richieste, e un eventuale advisory degli sviluppatori di SGLang, ai quali l'azienda ha segnalato la falla specifica senza divulgarla pubblicamente.