Sztuczna inteligencja staje się coraz głębiej zintegrowana z operacjami zarządzania aktywami, jednak nowe badanie Clearwater Analytics (NYSE: CWAN) pokazuje, że firmy w całym sektorze są poważnie zaniepokojone ryzykami, jakie technologia ta wprowadza — od ładu danych i zgodności regulacyjnej po integralność operacyjną i nie tylko. Wyniki pojawiają się w momencie, gdy narzędzia generatywnej AI przechodzą z fazy testów pilotażowych do wdrożeń produkcyjnych w usługach finansowych, wywierając coraz większą presję na firmy, aby przekuły entuzjazm w kontrolowane, możliwe do audytu procesy.

Badanie Clearwater „Gen AI and Data Divide” objęło zarządzających aktywami w sektorze ubezpieczeń, fundusze hedgingowe, specjalistów od rynków prywatnych oraz ogólnych zarządzających aktywami. Wyniki wskazują, że choć AI oferuje wyraźne korzyści w zakresie efektywności i możliwości generowania alfa, to jednocześnie tworzy nowe podatności, którymi firmy muszą aktywnie zarządzać — zwłaszcza gdy regulatorzy na całym świecie coraz uważniej przyglądają się temu, jak instytucje finansowe wdrażają zautomatyzowane systemy.

Luka między adopcją a gotowością

Najbardziej uderzający wniosek dotyczy rozbieżności między adopcją AI a gotowością organizacyjną. Prawie dwie trzecie (62%) zarządzających aktywami obawia się, że brakuje im umiejętności i doświadczenia potrzebnych do efektywnego korzystania z AI, a 43% określa swój poziom obaw jako bardzo wysoki.

Ponad połowa (52%) osobno obawia się, że wewnętrzna kultura organizacyjna i opór przed zmianą spowolnią adopcję i gotowość. Wyniki sugerują, że dla wielu firm największą barierą w realizacji potencjału AI nie jest sama technologia, lecz kultura organizacyjna wokół niej.

Zaufanie, ład danych i wiarygodność

W centrum obaw firm związanych z AI leży fundamentalne pytanie o zaufanie — czy można polegać na tym, co technologia wytwarza. Dwie trzecie (67%) zarządzających aktywami obawia się ryzyk związanych z ładem danych, wiarygodnością i integralnością, a 64% wskazuje ryzyka operacyjne.

W związku z rosnącą liczbą zarządzających aktywami wykorzystujących AI do wspierania decyzji inwestycyjnych, 64% uczestników badania mówi, że obawia się przejrzystości modeli i algorytmów, ich wyjaśnialności oraz uprzedzeń. Dodatkowo 62% martwi się halucynacjami — sytuacjami, w których AI generuje brzmiące wiarygodnie, lecz fałszywe informacje i przedstawia je jako fakty. Obawy te są szczególnie istotne w branży objętej obowiązkami powierniczymi, gdzie niewiarygodne wyniki mogą wpływać na rezultaty klientów i uruchamiać obowiązki ujawnieniowe.

Obawy regulacyjne, finansowe i kosztowe

Ponad połowa (55%) globalnych zarządzających aktywami twierdzi, że obawia się ryzyk regulacyjnych związanych z AI, a 30% określa swoje obawy jako bardzo wysokie. Zbliżony odsetek (58%) martwi się ryzykiem finansowym wynikającym z AI, w tym zarządzaniem ryzykiem kredytowym, rynkowym i oszustw. Koszty wdrożenia również stanowią istotny problem, wskazany przez 64% respondentów.

Niepokój regulacyjny odzwierciedla zmieniające się otoczenie zgodności. Amerykańska Komisja Papierów Wartościowych i Giełd zaproponowała przepisy dotyczące konfliktów interesów związanych z predykcyjną analityką danych i interakcjami opartymi na AI. W Europie unijny AI Act — wstępnie uzgodniony pod koniec 2023 roku i formalnie przyjęty w 2024 roku — uznaje niektóre zastosowania AI w usługach finansowych za wysokiego ryzyka, nakładając wymogi dotyczące dokumentacji, przejrzystości i nadzoru człowieka.

Luki w gotowości pozostają

Choć wielu zarządzających aktywami deklaruje gotowość do zarządzania ryzykami wspieranymi przez AI, zauważalna część przyznaje, że nadal ma wiele do zrobienia. W szczególności 16% ankietowanych zarządzających aktywami twierdzi, że nie jest przygotowanych na ryzyka operacyjne związane z AI, a 15% mówi, że nie jest gotowych na ryzyka wynikające z braku umiejętności i doświadczenia w zakresie AI w całej organizacji.

Źródło: Clearwater Analytics