Durante los últimos años, la conversación sobre inteligencia artificial en la banca se ha centrado en la adopción. ¿Cómo pueden las instituciones financieras usar la IA para acelerar las decisiones de crédito, detectar fraudes con mayor eficacia, mejorar el servicio al cliente o automatizar tareas rutinarias?

Esas preguntas siguen siendo importantes, pero ya no son las únicas que importan.

A medida que la IA se integra en las operaciones bancarias, los reguladores están cambiando el enfoque de la conversación. Ya no se trata simplemente de si las instituciones financieras usan IA, sino de si entienden cómo se está utilizando, quién es responsable de ella y cómo se gobiernan las decisiones a lo largo del tiempo.

Los bancos que consideran la gobernanza de la IA como un ejercicio de cumplimiento corren el riesgo de quedarse atrás. Cada vez más, la gobernanza se está convirtiendo en la base que permite a las instituciones financieras adoptar la IA de forma responsable, escalarla con confianza y mantener la confianza de clientes, reguladores y juntas directivas.

¿Quién es responsable de la IA dentro del banco?

Una de las primeras preguntas que deberían hacerse las instituciones financieras no tiene que ver con la tecnología, sino con la responsabilidad.

La IA ya no está confinada a un solo departamento. Los modelos pueden influir en decisiones de crédito, detección de fraudes, comunicaciones con clientes y flujos de trabajo operativos, a menudo a lo largo de múltiples unidades de negocio y plataformas tecnológicas.

Eso plantea una pregunta esencial: ¿quién es responsable del resultado?

La gobernanza comienza con una definición clara de la responsabilidad. Los líderes empresariales, los gestores de riesgo, los equipos de cumplimiento y los líderes tecnológicos tienen un papel que desempeñar, pero la responsabilidad no puede estar fragmentada. Las instituciones financieras deben establecer una autoridad clara para la toma de decisiones, responsabilidades de supervisión definidas y responsabilidad ejecutiva para las iniciativas de IA durante todo su ciclo de vida.

Sin esas estructuras, incluso las soluciones de IA bien diseñadas pueden generar riesgos operativos y regulatorios innecesarios.

¿Puede explicar cómo la IA llegó a una decisión?

El valor de la IA radica en su capacidad para analizar grandes volúmenes de información rápidamente. Pero la velocidad por sí sola no es suficiente.

Ya sea al evaluar una solicitud de préstamo o al identificar actividad sospechosa, los bancos deben estar preparados para explicar cómo se llegan a las decisiones asistidas por IA, especialmente cuando esas decisiones afectan a los clientes.

Aquí es donde la explicabilidad se vuelve esencial.

Las instituciones financieras no necesariamente necesitan que todos los empleados comprendan los detalles técnicos detrás de un modelo. Sin embargo, sí necesitan procesos de gobernanza que aporten transparencia sobre los datos utilizados, el propósito del modelo, cómo se supervisa el rendimiento y cuándo se requiere revisión humana.

La explicabilidad no consiste solo en satisfacer a los examinadores. Ayuda a generar confianza en toda la organización y refuerza la confianza de los clientes.

¿Sabe dónde ya existe IA?

Muchas instituciones financieras piensan en la IA en términos de proyectos individuales.

Cada vez más, es probable que los reguladores la consideren en términos de visibilidad empresarial.

Los bancos suelen implementar IA mediante una combinación de modelos desarrollados internamente y soluciones de terceros integradas en plataformas de crédito, sistemas de fraude y tecnologías de interacción con clientes. Con el tiempo, la IA puede quedar integrada en toda la organización de formas que no siempre son evidentes.

Eso hace cada vez más importante mantener un inventario de casos de uso de IA.

Las instituciones financieras deben entender dónde se utiliza la IA, qué funciones del negocio respalda, quién es responsable de la supervisión y cómo se monitorea el rendimiento. Sin esa visibilidad, la gobernanza se vuelve reactiva en lugar de proactiva.

Leer más sobre fintech: Entrevista de Global Fintech con Rob Young, Managing Director – UK at InDebted

¿Qué sucede cuando un proveedor usa IA?

Otra idea equivocada común es que comprar IA a un proveedor de confianza transfiere la responsabilidad de la gobernanza.

No es así.

Ya sea que la IA se desarrolle internamente o se entregue a través de una plataforma de terceros, las instituciones financieras siguen siendo responsables de entender cómo esos sistemas influyen en las decisiones y de garantizar una supervisión adecuada.

A medida que los bancos continúan asociándose con proveedores de fintech, la gestión de proveedores debe ir más allá de la diligencia debida tradicional e incluir consideraciones de gobernanza de IA. Eso incluye entender cómo se entrenan los modelos, cómo se monitorean, de qué datos dependen y cómo se pueden validar los resultados con el tiempo.

La IA de terceros debe estar sujeta a los mismos estándares de gobernanza que los sistemas desarrollados internamente.

¿Pueden los humanos anular a la máquina?

A pesar de los rápidos avances en automatización, la IA debe complementar, no reemplazar, el juicio humano.

Siempre habrá situaciones en las que empleados con experiencia deban revisar recomendaciones generadas por IA, aportar contexto o intervenir cuando los resultados no se alineen con las políticas institucionales o las expectativas de los clientes.

Definir cuándo se requiere supervisión humana se está convirtiendo en una parte importante de la gobernanza responsable de la IA.

En lugar de ver la intervención humana como una limitación, las instituciones financieras deberían reconocerla como una fortaleza. Combinar la IA con tomadores de decisiones experimentados crea oportunidades para mejorar la eficiencia mientras se preservan la responsabilidad y la confianza de los clientes.

La gobernanza es lo que hace escalable la IA

Los bancos que obtendrán el mayor valor de la IA no serán necesariamente aquellos que desplieguen la mayor cantidad de modelos, sino los que establezcan gobernanza junto con innovación.

Cuando la responsabilidad está claramente definida, los casos de uso de IA están documentados, las responsabilidades de supervisión se asignan y los procesos de monitoreo se integran en las operaciones diarias, las organizaciones quedan mejor posicionadas para adoptar nuevas tecnologías con confianza.

La conversación sobre la IA en la banca ha madurado. La adopción ya no es el diferenciador que fue alguna vez.

Cada vez más, la cuestión no es si los bancos usan IA. Es si pueden demostrar que la IA se está implementando de manera responsable, transparente y con una gobernanza adecuada. Las instituciones financieras que puedan responder que sí no solo estarán mejor preparadas para las expectativas regulatorias cambiantes, sino que también estarán mejor posicionadas para construir programas de IA sostenibles para el futuro.

Acerca de ARGO

Fundada en 1980, ARGO es líder en software de misión crítica y analítico. Sus soluciones para servicios financieros incluyen procesamiento de transacciones de pago, ventas, servicio y gestión de relaciones, así como préstamos minoristas y comerciales. Sus soluciones de fraude detectan y previenen el fraude en múltiples canales en el punto de presentación con funcionalidad proactiva de positive pay, monitoreo BSA/AML y análisis de transacciones/imágenes. Sus soluciones de salud abordan la coincidencia de pacientes con verificación biométrica; detección y prevención de registros duplicados; coordinación de la atención, derivaciones y mitigación de riesgos; y financiamiento de pacientes y flujo de caja de proveedores.

Conozca más sobre perspectivas fintech: The AI Shift in Fraud: Why Banks Need a New Playbook

Para compartir sus ideas con nosotros, escriba a psen@itechseries.com

The post Five AI Governance Questions Every Bank Should Be Ready to Answer appeared first on GlobalFinTechSeries.