Per diversi anni, il dibattito sull’intelligenza artificiale nel settore bancario si è concentrato sull’adozione. In che modo gli istituti finanziari possono usare l’IA per rendere più rapide le decisioni di prestito, rilevare le frodi in modo più efficace, migliorare il servizio clienti o automatizzare attività di routine?

Queste domande restano importanti, ma non sono più le uniche che contano.

Man mano che l’IA diventa parte integrante delle operazioni bancarie, i regolatori stanno spostando il dibattito. L’attenzione non è più soltanto sul fatto che gli istituti finanziari utilizzino l’IA, ma sul fatto che comprendano come l’IA venga utilizzata, chi ne sia responsabile e come le decisioni vengano governate nel tempo.

Le banche che considerano la governance dell’IA come un mero esercizio di conformità rischiano di restare indietro. Sempre più spesso, la governance sta diventando la base che consente agli istituti finanziari di adottare l’IA in modo responsabile, di scalarla con fiducia e di mantenere la fiducia di clienti, regolatori e consigli di amministrazione.

Chi è responsabile dell’IA all’interno della banca?

Una delle prime domande che gli istituti finanziari dovrebbero porsi non riguarda la tecnologia, ma la responsabilità.

L’IA non è più confinata a un singolo reparto. I modelli possono influenzare le decisioni di credito, il rilevamento delle frodi, le comunicazioni con i clienti e i flussi operativi, spesso attraversando più unità di business e piattaforme tecnologiche.

Questo solleva una domanda essenziale: chi è responsabile del risultato?

La governance inizia con una definizione chiara delle responsabilità. I dirigenti aziendali, i responsabili del rischio, i team di compliance e i leader tecnologici hanno tutti un ruolo da svolgere, ma la titolarità non può essere frammentata. Gli istituti finanziari dovrebbero stabilire autorità decisionale chiara, responsabilità di supervisione definite e responsabilità esecutiva per le iniziative di IA lungo tutto il loro ciclo di vita.

Senza queste strutture, anche soluzioni di IA ben progettate possono creare rischi operativi e normativi non necessari.

Sai spiegare come l’IA è arrivata a una decisione?

Il valore dell’IA risiede nella capacità di analizzare rapidamente grandi volumi di informazioni. Ma la velocità da sola non basta.

Che si tratti di valutare una richiesta di prestito o di identificare un’attività sospetta, le banche dovrebbero essere pronte a spiegare come vengono prese le decisioni assistite dall’IA, in particolare quando tali decisioni hanno un impatto sui clienti.

È qui che l’explainability diventa essenziale.

Gli istituti finanziari non devono necessariamente che ogni dipendente comprenda i dettagli tecnici alla base di un modello. Devono però disporre di processi di governance che garantiscano trasparenza sui dati utilizzati, sullo scopo del modello, su come viene monitorata la performance e su quando è richiesta la revisione umana.

L’explainability non serve soltanto a soddisfare gli esaminatori. Aiuta a costruire fiducia in tutta l’organizzazione e rafforza la fiducia dei clienti.

Sai dove l’IA esiste già?

Molti istituti finanziari pensano all’IA in termini di singoli progetti.

Sempre più spesso, è probabile che i regolatori la considerino in termini di visibilità a livello aziendale.

Le banche implementano spesso l’IA attraverso una combinazione di modelli sviluppati internamente e soluzioni di terze parti integrate in piattaforme di prestito, sistemi antifrode e tecnologie di customer engagement. Nel tempo, l’IA può intrecciarsi in tutta l’organizzazione in modi non sempre evidenti.

Questo rende sempre più importante mantenere un inventario dei casi d’uso dell’IA.

Gli istituti finanziari dovrebbero sapere dove viene utilizzata l’IA, quali funzioni aziendali supporta, chi è responsabile della supervisione e come viene monitorata la performance. Senza questa visibilità, la governance diventa reattiva anziché proattiva.

Leggi di più su Fintech: Global Fintech Interview with Rob Young, Managing Director – UK at InDebted

Cosa accade quando un fornitore utilizza l’IA?

Un altro malinteso comune è che acquistare IA da un fornitore affidabile trasferisca la responsabilità della governance.

Non è così.

Sia che l’IA sia sviluppata internamente sia che venga erogata tramite una piattaforma di terze parti, gli istituti finanziari restano responsabili di comprendere in che modo quei sistemi influenzino le decisioni e di garantire una supervisione adeguata.

Poiché le banche continuano a collaborare con i fornitori fintech, la gestione dei fornitori dovrebbe andare oltre la due diligence tradizionale e includere considerazioni sulla governance dell’IA. Ciò include la comprensione di come i modelli vengono addestrati, di come vengono monitorati, dei dati su cui fanno affidamento e di come i risultati possano essere convalidati nel tempo.

L’IA di terze parti dovrebbe essere soggetta agli stessi standard di governance dei sistemi sviluppati internamente.

Gli esseri umani possono superare la macchina?

Nonostante i rapidi progressi dell’automazione, l’IA dovrebbe potenziare, non sostituire, il giudizio umano.

Ci saranno sempre situazioni in cui dipendenti esperti dovranno rivedere le raccomandazioni generate dall’IA, applicare il contesto o intervenire quando i risultati non sono allineati con le policy dell’istituto o con le aspettative dei clienti.

Definire quando è richiesta la supervisione umana sta diventando una parte importante di una governance responsabile dell’IA.

Invece di considerare il coinvolgimento umano come un limite, gli istituti finanziari dovrebbero riconoscerlo come un punto di forza. Combinare l’IA con decisori esperti crea opportunità per migliorare l’efficienza preservando al tempo stesso responsabilità e fiducia dei clienti.

La governance è ciò che rende l’IA scalabile

Le banche che otterranno il maggior valore dall’IA non saranno necessariamente quelle che implementano il maggior numero di modelli, ma quelle che affiancano la governance all’innovazione.

Quando la responsabilità è chiaramente definita, i casi d’uso dell’IA sono documentati, le responsabilità di supervisione sono assegnate e i processi di monitoraggio sono integrati nelle operazioni quotidiane, le organizzazioni sono meglio posizionate per adottare nuove tecnologie con fiducia.

La conversazione sull’IA nel settore bancario è maturata. L’adozione non è più il fattore distintivo di un tempo.

Sempre più spesso, la domanda non è se le banche utilizzino l’IA. È se possano dimostrare che l’IA viene implementata in modo responsabile, trasparente e con una governance adeguata. Gli istituti finanziari che possono rispondere sì non saranno solo meglio preparati alle aspettative normative in evoluzione: saranno anche meglio posizionati per costruire programmi di IA sostenibili per il futuro.

Informazioni su ARGO

Fondata nel 1980, ARGO è un leader nel software mission-critical e analitico. Le sue soluzioni per i servizi finanziari includono l’elaborazione delle transazioni di pagamento, sales, service e relationship management, oltre ai prestiti al consumo e commerciali. Le sue soluzioni antifrode rilevano e prevengono le frodi su più canali al momento della presentazione con funzionalità proactive positive pay, monitoraggio BSA/AML e analisi di transazioni/immagini. Le sue soluzioni per il settore sanitario affrontano l’abbinamento dei pazienti con verifica biometrica, il rilevamento e la prevenzione dei duplicati, il coordinamento delle cure, le segnalazioni e la mitigazione del rischio, oltre al finanziamento dei pazienti e al flusso di cassa dei fornitori.

Approfondisci le intuizioni fintech: The AI Shift in Fraud: Why Banks Need a New Playbook

Per condividere le tue osservazioni con noi, scrivi a psen@itechseries.com

L’articolo Five AI Governance Questions Every Bank Should Be Ready to Answer è apparso per la prima volta su GlobalFinTechSeries.