NEAR AI heeft een beveiligingsincident bekendgemaakt waarin een aanvaller een fout in software van derden misbruikte die de servers van het bedrijf draait, toegang kreeg tot interne systemen en de accountgegevens van ongeveer 100 gebruikers downloadde, samen met data gekoppeld aan 18 AI-agenten.

In een verslag van het beveiligingsincident gepubliceerd op 9 november, verklaarde het bedrijf dat de indringer misbruik maakte van een remote code execution-kwetsbaarheid — een fout die een aanvaller in staat stelt willekeurige opdrachten uit te voeren op een doelwit­systeem — in SGLang, een open-source engine die wordt gebruikt om AI-modellen te draaien en antwoorden op gebruikersverzoeken te genereren. De aanval maakte het mogelijk dat de indringer opdrachten uitvoerde op één inferentieserver en vervolgens andere delen van de infrastructuur van NEAR AI bereikte.

Onderzoekers spoorden de inbraak aan tot een intern systeem dat verbonden was met Private Chat, een functionaliteit die het bedrijf al had teruggetrokken. Het incident herinnert eraan dat data gekoppeld aan teruggetrokken producten binnen de infrastructuur van een bedrijf bereikbaar kan blijven. Volgens het incidentverslag van het bedrijf downloadde de aanvaller de namen en e-mailadressen van ongeveer 100 gebruikers, samen met abonnements- en account­saldoinformatie van een deel van hen.

De inbreuk bereikte ook een oudere implementatie van Near AI Agents, waar 18 agenten werden geraadpleegd en hun chatgeschiedenissen, instellingen en logbestanden werden opgehaald. Die agenten draaiden niet binnen de confidential computing-omgeving van NEAR AI, die is ontworpen om informatie af te schermen van het bedrijf dat de servers beheert, aldus het verslag.

Logbestanden legden bovendien NEAR AI Cloud API-sleutels bloot die aan twee klanten toebehoorden. Deze sleutels functioneren als digitale inloggegevens die applicaties gebruiken om toegang te krijgen tot clouddiensten; Near AI verklaarde beide sleutels ingetrokken te hebben, maar zei niet of de aanvaller ze heeft gebruikt.

Het bedrijf verklaarde ook dat verzoeken in vertrouwelijke modus die op 8 november zijn verwerkt, mogelijk zichtbaar zijn geweest voor de aanvaller, hoewel het onderzoek geen aanwijzingen vond dat opgeslagen Private Chat-gesprekken of geüploade bestanden zijn geraadpleegd. De bevestigde diefstal betrof accountgegevens en verouderde agentendata, terwijl blootstelling van live vertrouwelijke verzoeken een mogelijkheid blijft die door het onderzoek is geïdentificeerd.

Confidential AI heeft een softwareprobleem

Near AI maakt deel uit van het bredere Near-ecosysteem, dat AI-privacy promoot naast zijn blockchain-ambities. Het Cloud-product gebruikt trusted execution environments, of TEE's, om AI-prompts versleuteld en geïsoleerd te houden van serverbeheerders, zelfs terwijl modellen ze verwerken.

Hardwarematige isolatie garandeert echter niet dat de software binnen de beveiligde omgeving veilig is. "Het beschermt niet tegen een kwetsbaarheid in de software die binnen de omgeving draait," gaf Near AI toe, met de uitleg dat de SGLang-fout de aanvaller in staat stelde code uit te voeren op de plek waar vertrouwelijke verzoeken werden verwerkt.

Voor een bedrijf dat privacy verkoopt als kernkenmerk is dit softwaregat een belangrijke kanttekening. In oktober kondigde Near AI aan dat Brave's Leo-browserassistent gebruikmaakte van zijn vertrouwelijke inferentie-infrastructuur voor een ondersteund AI-model, hoewel het incidentverslag geen Brave-gebruikers noemt onder de getroffenen.

SGLang trok al eerder de aandacht van beveiligingsonderzoekers. In juli documenteerde het CERT Coordination Center van Carnegie Mellon University, het kwetsbaarheid­coördinatieorgaan van het Software Engineering Institute van de universiteit, zes kwetsbaarheden in het project, waaronder bugs die aanvallers opdrachten konden laten uitvoeren of inloggegevens konden blootleggen, afhankelijk van hoe servers waren geconfigureerd. Near AI identificeerde de specifieke SGLang-fout die bij dit incident werd misbruikt niet, dus er is geen grond om de inbreuk te koppelen aan een van die eerdere onthullingen. Het bedrijf meldde de kwetsbaarheid bij de ontwikkelaars van SGLang.

Near AI verklaarde snel te hebben gehandeld om het incident in te dammen. "Bij detectie hebben we alle actieve sessies en administratieve inloggegevens ingetrokken, alle agenttokens vervangen, Private Chat offline gehaald en een fix voor de SGLang-kwetsbaarheid uitgerold op alle inferentieservers," aldus het project. "We hebben het verversen van alle overige inloggegevens en een volledig forensisch onderzoek afgerond. We hebben gebruikers geïnformeerd waarvan we hebben bevestigd dat hun accountgegevens of agenten zijn geraadpleegd, en we zullen alle vereiste meldingen doen aan toezichthouders."

Het bedrijf waarschuwde gebruikers ook om alert te blijven op ongevraagde berichten die verwijzen naar hun Near AI-accounts of saldi, en verklaarde individueel contact te hebben opgenomen met de eigenaren van alle 18 getroffen agenten. Verdere details kunnen naar voren komen via twee kanalen: de meldingen aan toezichthouders die Near AI waar verplicht zal doen, en eventuele advisering van de ontwikkelaars van SGLang, aan wie het bedrijf de specifieke fout meldde zonder deze publiek te benoemen.