Dyrektor ds. technologii i informacji Bank of America stwierdził, że jednym z najczęstszych błędów popełnianych przez firmy przy sztucznej inteligencji jest sięganie po nią w pierwszej kolejności — nawet mimo że jego własny bank planuje w przyszłym roku podwoić budżet na AI.

Te uwagi stanowią przekrój tego, jak dwa filary globalnych finansów decydują, gdzie AI się opłaca — a gdzie prostsze narzędzia radzą sobie lepiej.

„Jednym z największych błędów, jakie widzimy u siebie i u innych, jest traktowanie AI jako rozwiązania z marszu” — powiedział Hari Gopalkrishnan podczas szczytu AIQ Summit organizowanego przez Fortune w Nowym Jorku — „gdy modele deterministyczne dają zupełnie wystarczające rezultaty”.

Gopalkrishnan wystąpił w panelu u boku Sally Moore, dyrektorki ds. klientów S&P i współszefowej Kensho Data & Platforms. Dyskusję moderował dyrektor redakcyjny Fortune Andrew Nusca.

Bank of America: najpierw proste narzędzia

Gopalkrishnan powiedział, że bank zaczyna od potrzeb klientów i tworzy „inwentarz procesów” kroków stojących za ich zapytaniami. Często decyduje się przeciwko AI — „bardzo często” — uznając, że lepszym rozwiązaniem może być aplikacja mobilna lub reguła decyzyjna działająca w czasie rzeczywistym.

Każdy projekt AI w banku przechodzi również przegląd obejmujący 16 „filarów” ryzyka, w tym prywatność, stronniczość, wpływ na kadry i własność intelektualną. „Nie zamierzamy wdrażać chatbota, który odpowiada tylko na niektóre akcenty” — powiedział.

Bank używa AI od ponad dekady, począwszy od modeli wykrywania oszustw. Jego wirtualny asystent Erica obsłużył 3,6 miliarda transakcji, a bez niego bank musiałby zatrudnić 11 000 osób więcej do obsługi połączeń klientów, powiedział Gopalkrishnan. Marcowe komunikat prasowy banku wyliczał interakcje Eriki z klientami na ponad 3,2 miliarda.

Ta ostrożność współistnieje z dużymi wydatkami: prezes Brian Moynihan powiedział we wrześniu, że około 140 zastosowań AI kosztuje bank 400 milionów dolarów i generuje 800 milionów dolarów korzyści, a budżet wydatków na AI zostanie w przyszłym roku podwojony. Podwajanie budżetów przy równoległej metodycznej weryfikacji oddaje napięcie, do którego panel nieustannie wracał: inwestować mocno, ale tylko tam, gdzie technologia demonstracyjnie działa.

Środki są ostrożnie kierowane. Gopalkrishnan powiedział, że bank jest neutralny wobec modeli: warstwa orkiestracji o nazwie Orchestra kieruje proste zadania klasyfikacyjne do zatwierdzonych modeli open-weight działających na własnych procesorach GPU banku, podczas gdy trudniejsze zadania rozumowania trafiają do modeli własnościowych. Dodał, że takie rozwiązanie pomaga również kontrolować koszty tokenów.

W zarządzaniu majątkiem doradcy mogą teraz przygotowywać się do spotkań z klientami w „sekundy i minuty” — to praca, która kiedyś zajmowała dni i tygodnie.

Jeśli chodzi o autonomiczne agentów, bank się nie spieszy. „Jest teraz tak wiele do wyciśnięcia z agentów asystujących, które faktycznie współpracują z człowiekiem w pętli” — powiedział Gopalkrishnan. Bank pójdzie dalej, gdy infrastruktura kontroli się poprawi.

Zajął się również bezpieczeństwem zauważając, że modele AI coraz lepiej znajdują luki w oprogramowaniu, co sprawia, że aktualizacje i bezpieczne programowanie są kluczowe niezależnie od tego, czy firma wdraża AI. Stawka wykracza poza pojedynczą instytucję — argumentował: jeśli gdzieś mały bank ma problem, ludzie tracą zaufanie do systemu finansowego.

S&P Global: dane jako waluta

Moore powiedziała, że jej firma z 160-letnią historią zmienia swoją pozycję — zdecydowanie, ale ostrożnie. S&P Global jest największą agencją ratingową na świecie i jednym z największych dostawców indeksów, a duża część jej danych finansowych zasila regulowane procesy.

„Dane są walutą w AI” — powiedziała Moore, dodając, że klienci potrzebują dokładności, cytowań oraz audytowalności i identyfikowalności aż do źródła. W branży, której dane zasilają regulowane procesy, ta audytowalność jest warunkiem w ogóle możliwego użycia AI.

Przypisała to wczesnej zakładowi: S&P Global przejęło firmę AI Kensho w 2018 roku, co „dało nam przewagę”, i wyjaśniła, że firma od tego czasu umieściła Kensho w centrum działalności. 6 lipca podzieliła dywizję Market Intelligence na dwie jednostki. Pierwsza, Kensho Data & Platforms, łączy „Kensho Data” — warstwę dostarczania danych i AI skierowaną do klientów — z grupą Platforms, obejmującą Capital IQ, Ratings Direct, Visible Alpha i With Intelligence. Drugą jednostką jest Enterprise Solutions. Prezes Martina Cheung powiedziała, że zmiany powinny wspierać wzrost przychodów i lepsze marże. Reorganizacja stanowi konkretny test tego, czy strategia danych oparta na AI się opłaca.

Około dwa lata temu S&P Global utworzyło również biuro dyrektora ds. klientów, którym kieruje Moore, aby ściślej współpracować z klientami. Obejmuje ono grupę laboratoriów oraz tak zwanych ekspertów forward-deployed, którzy współpracują z klientami przy AI.

S&P Global obsługuje 60 000 klientów znajdujących się na różnych etapach adopcji AI. Firma współpracuje z laboratoriami frontowych modeli AI, wprowadza swoje dane do dużych modeli językowych i narzędzi produktywności, a teraz buduje własnych agentów. Zastosowania wahają się od szerokich zadań, takich jak przygotowania bankierów do spotkań i prezentacji pitch book, po wyspecjalizowanych agentów zbudowanych do pojedynczego zadania.

Przytoczyła jeden przykład. Bank pierwszej kategorii z 8 000 bankierów łączył zestawy treści S&P we własnej platformie. S&P pomogło doprowadzić projekt do produkcji „sześć razy szybciej”, a dokładność wzrosła z około 60% na początku do 98% po zakończeniu. Nie podała nazwy banku, a dane pochodzą od samego S&P.

Firma zbudowała również agenta „credit memo builder”, który utrzymuje człowieka w pętli i opiera się na wiarygodności danych bazowych.

Podobnie Gopalkrishnan, Moore podkreślała użycie właściwego narzędzia do zadania. Deterministyczną opcją S&P Global dla modeli językowych jest API, które nie generuje wysokich kosztów tokenów, podczas gdy bardziej złożone „adaptacyjne wyszukiwanie danych na dużą skalę” kosztuje więcej. Ponieważ klienci płacą za dane, technologię i efektywność pracowników z różnych budżetów, S&P rozmawia z nimi o zakresie możliwych rezultatów.

Gdzie się rozchodzą

Zapytany, czy kiedykolwiek decyduje się przeciwko AI, Gopalkrishnan powiedział, że najprostsza odpowiedź jest często najlepsza. „AI nie zawsze jest właściwą odpowiedzią” — powiedział.

Moore zgodziła się, a następnie pchnęła ten wniosek dalej. „Myślę, że Hari powiedział to bardzo dobrze. Nie chodzi o właściwe narzędzie. Chodzi trochę o przedefiniowanie samego siebie” — powiedziała. „Co próbuję tutaj rozwiązać? I dokąd ta technologia mnie zaprowadzi?”

Wewnątrz S&P Global oznacza to centralne biuro transformacji, które łączy technologów, a ostatnio również operacje danych. Obie firmy pozostawiły mierzalne punkty odniesienia na nadchodzące miesiące: podwojony budżet AI banku wejdzie w życie w przyszłym roku, a zreorganizowane dywizje S&P Global zostaną ocenione względem celów wzrostu i marż Cheung.

W końcowej rundzie błyskawicznej Moore wskazała na „wbudowaną inteligencję”, która — jak powiedziała — „tworzy możliwość wyjścia poza klientów, których obsługujesz dzisiaj”.

Gopalkrishnan miał ostatnie słowo: „Myślę, że przewidywanie potrzeb klientów i obsługa ich tam, gdzie się znajdują, pozwoli ci się wyróżnić w przestrzeni, która w przeciwnym razie jest skomodytyzowana”.

Dziennikarze Fortune użyli generatywnej AI jako narzędzia badawczego do tego artykułu, a redaktor zweryfikował dokładność informacji przed publikacją. Ten materiał był pierwotnie opublikowany na Fortune.com.