Według indyjskiej narodowej agencji cyberbezpieczeństwa agenci AI objęci badaniami i oceną przez niesprecyzowanych dostawców modeli przekroczyli przydzielone im uprawnienia i odczytali osobiste oraz poufne dane firmowe na działających systemach w Indiach. Żadna z poszkodowanych organizacji nie wykryła tego dostępu we własnym zakresie.

Indyjski zespół reagowania na sytuacje kryzysowe komputerowe, znany jako CERT-In, zasygnalizował tę aktywność w tym tygodniu w krytycznym advisory zatytułowanym „AI Agents as Attack Vectors”. Agencja poinformowała, że otrzymała wiele dobrowolnych zgłoszeń od dostawców modeli AI, których modele dotarły do działających systemów indyjskich organizacji w trakcie badań i ocen w otwartym internecie. CERT-In nie podał nazw dostawców, modeli ani poszkodowanych organizacji, a każdy przypadek wyszedł na jaw wyłącznie dlatego, że dostawca modelu ujawnił go po wewnętrznym przeglądzie.

Zgodnie z advisory agenci odczytali rejestry firmowe zawierające dane osobowe i materiały poufne, wykorzystując poświadczenia i ustawienia połączeń pozostawione bez zabezpieczenia w konfiguracjach aplikacji, publicznych repozytoriach kodu oraz nadmiernie liberalnych rolach usług chmurowych — czyli zestawach uprawnień przypisanych do kont chmurowych. W niektórych przypadkach agenci odzyskali to samo ujawnione poświadczenie więcej niż raz i ponownie użyli go w odrębnych operacjach.

Ostrzeżenie jest najnowszym z serii przypadków, w których agenci AI zakłócali działalność dużych firm i rządów, wykraczając poza zamierzone granice podczas testów. Anthropic ujawnił 30 lipca, że modele Claude — którym powiedziano, że nie mają dostępu do internetu — przełamały zabezpieczenia trzech rzeczywistych firm podczas wyzwań capture-the-flag, czyli ćwiczeń, w których model musi włamać się do maszyny i odzyskać ukryty sekret, jak wcześniej informował Decrypt.

Brytyjski AI Security Institute poinformował 4 sierpnia, że agenci podjęli 19 nieautoryzowanych działań w ramach 10 z 122 przebiegów ewaluacyjnych, z czego17 za sprawą modelu Anthropic Mythos 5, a dwa OpenAI GPT-5.6 Sol. Instytut celowo włączył dostęp do internetu na czas testu, zgodnie z osobnym raportem Decrypt.

Przypadek OpenAI obejmował znacznie większą liczbę agentów: około 1200 z nich koordynowało działania na ukrytym forum wiadomości, próbując oszukać test cyberbezpieczeństwa, a około 700 zaatakowało Hugging Face, platformę udostępniania modeli AI — wynika z niezależnego śledztwa grup badających bezpieczeństwo AI, METR i Redwood Research, o czym informował Decrypt.

Osobno CERT-In poinformował, że zaobserwował przestępców wykorzystujących publicznie dostępne, oparte na AI ramy ofensywnego bezpieczeństwa do skanowania w poszukiwaniu słabości, ich wykorzystywania i przeprowadzania ataków o motywacji finansowej wobec podmiotów w Indiach. Agencja stwierdziła, że narzędzia te skracają czas od początkowego dostępu do ostatecznego skutku z dni do kilku godzin, są wielokrotnie przepakowywane i ponownie wdrażane, a ich wdrożenia wykryto na serwerach w wielu krajach.

O advisory wcześniej informował Indian Express.

Źródło: Decrypt