Przez ostatnie kilka lat dyskusja o sztucznej inteligencji w bankowości koncentrowała się na wdrażaniu. Jak instytucje finansowe mogą wykorzystywać AI, aby szybciej podejmować decyzje kredytowe, skuteczniej wykrywać oszustwa, poprawiać obsługę klienta lub automatyzować rutynowe zadania?

Te pytania pozostają ważne, ale nie są już jedynymi, które mają znaczenie.

W miarę jak AI staje się elementem operacji bankowych, regulatorzy zmieniają akcent w dyskusji. Chodzi już nie tylko o to, czy instytucje finansowe korzystają z AI, lecz o to, czy rozumieją, w jaki sposób AI jest wykorzystywana, kto ponosi za nią odpowiedzialność oraz jak decyzje są zarządzane w czasie.

Banki, które traktują ład AI jako ćwiczenie zgodności, ryzykują pozostanie w tyle. Coraz częściej ład staje się fundamentem, który umożliwia instytucjom finansowym odpowiedzialne wdrażanie AI, pewne skalowanie jej zastosowań i utrzymywanie zaufania klientów, regulatorów oraz rad nadzorczych.

Kto odpowiada za AI w banku?

Jedno z pierwszych pytań, jakie powinny zadawać instytucje finansowe, nie dotyczy technologii, lecz odpowiedzialności.

AI nie jest już ograniczona do jednego działu. Modele mogą wpływać na decyzje kredytowe, wykrywanie oszustw, komunikację z klientem oraz procesy operacyjne, często obejmując wiele jednostek biznesowych i platform technologicznych.

To rodzi kluczowe pytanie: kto odpowiada za wynik?

Ład zaczyna się od jasnego określenia odpowiedzialności. Liderzy biznesowi, menedżerowie ryzyka, zespoły zgodności i liderzy technologiczni wszyscy mają swoją rolę, ale własność nie może być rozproszona. Instytucje finansowe powinny ustanowić wyraźne uprawnienia decyzyjne, określone obowiązki nadzorcze oraz odpowiedzialność kierownictwa za inicjatywy AI na każdym etapie ich cyklu życia.

Bez takich struktur nawet dobrze zaprojektowane rozwiązania AI mogą generować niepotrzebne ryzyko operacyjne i regulacyjne.

Czy potrafisz wyjaśnić, jak AI doszła do decyzji?

Wartość AI polega na jej zdolności do szybkiej analizy dużych wolumenów informacji. Sama szybkość jednak nie wystarcza.

Niezależnie od tego, czy chodzi o ocenę wniosku kredytowego, czy wykrywanie podejrzanej aktywności, banki powinny być gotowe wyjaśnić, w jaki sposób zapadają decyzje wspomagane przez AI — szczególnie wtedy, gdy wpływają one na klientów.

Właśnie tutaj kluczowa staje się wyjaśnialność.

Instytucje finansowe nie muszą koniecznie oczekiwać, że każdy pracownik zrozumie techniczne szczegóły działania modelu. Muszą jednak posiadać procesy ładu zapewniające przejrzystość w zakresie wykorzystywanych danych, celu modelu, sposobu monitorowania wyników oraz momentów, w których wymagany jest przegląd przez człowieka.

Wyjaśnialność nie służy wyłącznie zadowoleniu kontrolerów. Pomaga budować pewność w całej organizacji i wzmacnia zaufanie klientów.

Czy wiesz, gdzie AI już istnieje?

Wiele instytucji finansowych myśli o AI w kategoriach pojedynczych projektów.

Coraz częściej regulatorzy będą patrzeć na nią z perspektywy widoczności w skali całej organizacji.

Banki często wdrażają AI poprzez połączenie modeli tworzonych wewnętrznie oraz rozwiązań stron trzecich osadzonych w platformach kredytowych, systemach antyfraudowych i technologiach angażowania klientów. Z czasem AI może zostać wpleciona w całą organizację w sposób, który nie zawsze jest oczywisty.

Dlatego coraz ważniejsze staje się prowadzenie inwentarza przypadków użycia AI.

Instytucje finansowe powinny wiedzieć, gdzie AI jest wykorzystywana, jakie funkcje biznesowe wspiera, kto odpowiada za nadzór oraz jak monitorowane są wyniki. Bez takiej widoczności ład staje się reaktywny, a nie proaktywny.

Przeczytaj więcej o fintech: Global Fintech Interview with Rob Young, Managing Director – UK at InDebted

Co się dzieje, gdy dostawca korzysta z AI?

Kolejne częste błędne przekonanie zakłada, że zakup AI od zaufanego dostawcy przenosi odpowiedzialność za ład.

Tak nie jest.

Niezależnie od tego, czy AI jest rozwijana wewnętrznie, czy dostarczana przez platformę zewnętrzną, instytucje finansowe nadal odpowiadają za zrozumienie, jak te systemy wpływają na decyzje, oraz za zapewnienie odpowiedniego nadzoru.

W miarę jak banki kontynuują współpracę z dostawcami fintech, zarządzanie dostawcami powinno wykraczać poza tradycyjną należyta staranność i obejmować kwestie ładu AI. Oznacza to rozumienie, jak modele są trenowane, jak są monitorowane, na jakich danych polegają i jak można weryfikować wyniki w czasie.

AI od stron trzecich powinna podlegać tym samym standardom ładu co systemy rozwijane wewnętrznie.

Czy człowiek może nadpisać decyzję maszyny?

Pomimo szybkiego postępu automatyzacji AI powinna wspierać, a nie zastępować ludzką ocenę.

Zawsze będą sytuacje, w których doświadczeni pracownicy będą musieli przejrzeć rekomendacje generowane przez AI, uwzględnić kontekst lub interweniować, gdy wynik nie jest zgodny z polityką instytucji albo oczekiwaniami klientów.

Określenie, kiedy wymagany jest nadzór człowieka, staje się ważnym elementem odpowiedzialnego ładu AI.

Zamiast traktować udział człowieka jako ograniczenie, instytucje finansowe powinny postrzegać go jako atut. Połączenie AI z doświadczonymi decydentami tworzy możliwości zwiększania efektywności przy jednoczesnym zachowaniu odpowiedzialności i zaufania klientów.

Ład sprawia, że AI można skalować

Banki, które osiągną największą wartość z AI, niekoniecznie będą tymi wdrażającymi największą liczbę modeli, lecz tymi, które ustanowią ład równolegle z innowacją.

Gdy odpowiedzialność jest jasno określona, przypadki użycia AI są dokumentowane, obowiązki nadzorcze przypisane, a procesy monitorowania wbudowane w codzienne operacje, organizacje są lepiej przygotowane do przyjmowania nowych technologii z pewnością.

Dyskusja o AI w bankowości dojrzała. Samo wdrażanie nie jest już takim wyróżnikiem jak kiedyś.

Coraz częściej pytanie nie brzmi, czy banki korzystają z AI. Chodzi o to, czy potrafią wykazać, że AI jest wdrażana odpowiedzialnie, przejrzyście i z odpowiednim ładem. Instytucje finansowe, które mogą odpowiedzieć „tak”, będą nie tylko lepiej przygotowane na ewoluujące oczekiwania regulacyjne — będą też lepiej ustawione do budowy trwałych programów AI na przyszłość.

O ARGO

Założona w 1980 roku firma ARGO jest liderem w zakresie oprogramowania krytycznego dla działalności i analitycznego. Jej rozwiązania dla usług finansowych obejmują przetwarzanie transakcji płatniczych, sprzedaż, obsługę i zarządzanie relacjami, a także detaliczne i komercyjne kredytowanie. Rozwiązania antyfraudowe wykrywają i zapobiegają oszustwom w wielu kanałach na etapie prezentacji, oferując proaktywną funkcjonalność positive pay, monitorowanie BSA/AML oraz analizę transakcji/obrazów. Rozwiązania dla ochrony zdrowia obejmują dopasowywanie pacjentów z wykorzystaniem weryfikacji biometrycznej; wykrywanie i zapobieganie duplikatom rekordów; koordynację opieki, skierowania i ograniczanie ryzyka; a także finansowanie pacjentów i przepływy pieniężne dostawców.

Zobacz więcej informacji o fintech: The AI Shift in Fraud: Why Banks Need a New Playbook

Aby podzielić się z nami swoimi spostrzeżeniami, napisz na adres psen@itechseries.com

Artykuł Five AI Governance Questions Every Bank Should Be Ready to Answer ukazał się po raz pierwszy na GlobalFinTechSeries.