JPMorgan Chase wyznacza twardą granicę wobec agentów AI uzyskujących dostęp do kont klientów – dokładnie w momencie, gdy wielkie firmy technologiczne wyścigają się w wprowadzaniu cyfrowych asystentów mających pomagać ludziom w zarządzaniu finansami.

We wtorek CEO Jamie Dimon oświadczył, że bank blokuje zewnętrznym agentom AI możliwość logowania się i działania na kontach klientów, powołując się na ryzyko bezpieczeństwa stwarzane przez „zbuntowanych agentów”.

„Nie zamierzamy pozwolić, by jakikolwiek zewnętrzny agent wchodził do środka firmy, ponieważ to zbyt duże ryzyko dla klientów i dla JPMorganu” – powiedział Dimon podczas konferencji o wynikach za trzeci kwartał. „Nie chce się mieć zbuntowanych agentów”.

Dimon ostrzegł, że narzędzia AI wprowadzają nowe ryzyka dla banków i ich klientów, zwłaszcza w miarę jak coraz więcej osób korzysta z agentów zdolnych wykonywać zadania w ich imieniu.

„Ochrona naszych klientów jest naszym najwyższym priorytetem” – powiedział rzeczprawnik JPMorganu w rozmowie z Fortune. „Gdy wykryjemy, że agent osoby trzeciej próbuje uzyskać dostęp do kont, pozyskując dane logowania klientów, nie na to zezwalamy. Wspieramy bezpieczne, autoryzowane przez klientów udostępnianie danych za pośrednictwem dostawców open banking”.

Open banking to ramy pozwalające klientom autoryzować osoby trzecie do uzyskiwania dostępu do danych ich kont przez zatwierdzone połączenia, zamiast przekazywać dane logowania bezpośrednio zewnętrzn oprogramowaniu.

Buntownicze AI kształtuje obawy o bezpieczeństwo

Stanowisko banku następuje po serii incydentów bezpieczeństwa z udziałem „zbuntowanych” agentów AI. Stawka jest znaczna jak na skalę JPMorganu: według raportu o wynikach za trzeci kwartał złożonego do SEC bank wykazał 15,3 miliarda dolarów zysku netto, przy 1,6 biliona dolarów średnich kredytów oraz 1,5 biliona dolarów w gotówce i papierach zbywalnych. Aktywa ogółem wynosiły 5,1 biliona dolarów na 30 września. Taka skala sprawia, że zasady dostępu banku mają istotne znaczenie dla każdego twórcy agentów, którego funkcje zależą od łączenia się z kontami klientów.

„Musimy się upewnić, że chronimy naszych klientów we właściwy sposób” – powiedział Dimon. „Dlatego także budujemy narzędzia, które to umożliwiają”.

W zeszłym miesiącu notatka badawcza Cloud Security Alliance wykazała, że ryzyko związane z agentami AI wykracza znacznie poza kontrolowane środowiska testowe. Notatka opisała kampanię cyberprzestępczą, w której trzy open-source'owe agenty AI miały wspólnie włamać się do co najmniej 27 organizacji, kradnąc z dwóch z nich ponad 600 000 zapisów kart kredytowych.

„Przedsiębiorstwa powinny uwzględnić scenariusze ataków agentowego AI w swoich modelach zagrożeń dla infrastruktury detalicznej i płatniczej” – czytamy w notatce – „zamiast traktować ryzyko agentowego AI jako ogólne lub dotyczące przyszłości, biorąc pod uwagę, że ta kampania pokazuje, iż ta zdolność została już skomodytyzowana i jest aktywnie wykorzystywana przeciwko sektorowi detalicznemu”.

Agenty AI zarządzające finansami użytkowników nie są jednak nowością. W sierpniu niemiecki bank Scalable Capital otworzył swoją platformę dla modeli AI, takich jak ChatGPT, Claude i Grok, pozwalając użytkownikom analizować portfele, tworzyć plany oszczędnościowe i składać zlecenia transakcyjne za pomocą promptów. Użytkownicy musieli zatwierdzać każdą transakcję, a asystenci nie mogli wykonywać płatności ani wypłacać pieniędzy.

„To z pewnością wyrównuje szanse” – powiedział wcześniej Fortune Alexander Seipp, dyrektor ds. produktu Scalable Capital, o wykorzystaniu AI na platformie inwestycyjnej. „Dostęp do informacji, mocy obliczeniowej i inteligencji jest teraz dostępny – dosłownie – dosłownie w twojej kieszeni, 24 godziny na dobę, 7 dni w tygodniu”.

Te zabezpieczenia – wyraźne zatwierdzanie każdej transakcji, brak możliwości płatności i wypłat – kontrastują z dostępem opartym na danych logowania, który, jak mówi JPMorgan, blokuje.

Funkcje finansowe Muse

Posunięcie JPMorganu komplikuje strategięynkową agentów AI zaprojektowanych do wspierania finansów osobistych. Meta wprowadziła Muse we wrześniu, pozycjonując go jako agenta zdolnego wykonywać zadania takie jak wysyłanie e-maili, rezerwowanie podróży i prowadzenie kalendarza. Jego możliwości finansowe były punktem centralnym premiery: dzięki integracji z firmą technologiczną Plaid użytkownicy Muse mogą łączyć konta finansowe, aby otrzymywać spersonalizowane wskazówki dotyczące sald, transakcji i posiadanych inwestycji.

„Dzięki funkcji Finances w Muse użytkownicy mogą bezpiecznie łączyć konta finansowe przez Plaid, aby udostępniać salda, transakcje, posiadane inwestycje, informacje o hipotekach i więcej” – czytamy w komunikacie prasowym Plaidu. „Celem jest sprawienie, by zarządzanie finansami przypominało mniej nawigowanie po serii odłączonych aplikacji, a bardziej naturalną rozmowę, która zaczyna się od priorytetów danej osoby i jest oparta na informacjach finansowych, które zdecydowała się udostępnić”.

Meta odmówiła komentarza na temat tego, czy Muse będzie mógł nadal oferować wsparcie finansowe, jeśli więcej banków podejmie kroki w celu oddalenia agentów AI od kont konsumenckich. Zamiast tego firma poinformowała Fortune, że opracowuje „Poppy” – standard protokołu agenta osobistego, mający jasno informować firmy, kiedy osobisty agent AI działa w imieniu klienta. Meta buduje ten standard razem z firmą Sierra, zajmującą się obsługą klienta opartą na AI.

„Personal Agent Protocol jest komplementarny” – czytamy w komunikacie prasowym Sierry – „obejmując sposób, w jaki agent osobisty się identyfikuje, uzyskuje zgodę klienta i współpracuje z firmą przy każdym rodzaju zadania – od zakupu swetra po wniosek o hipotekę”.

Czy standardy takie jak Poppy zostaną zaakceptowane przez banki takie jak JPMorgan oraz czy kanały udostępniania danych autoryzowane przez klientów będą w stanie obsłużyć funkcje finansowe budowane przez twórców agentów – to otwarte pytania leżące w centrum tego podziału.

Ta historia była pierwotnie opublikowana na Fortune.com.