IA Agéntica en los Servicios Financieros: Gobernanza y Gestión de Riesgos
Artículo original publicado en Financial Services Review. Traducido y republicado con autorización de Financial Services Review. Traducción al español y edición de estilo asistidas por inteligencia artificial, con revisión humana. Artículo original: https://www.financialservicesreview.com/cxoinsight/enzo-tolentino-nwid-2209.html
Comprendiendo la IA agéntica en las finanzas
La diferencia fundamental entre los sistemas de IA tradicionales y los sistemas de IA agéntica radica en su capacidad de interpretar datos de forma autónoma, adaptarse en tiempo real e iniciar acciones por cuenta propia.
En el ámbito financiero, esta tecnología ya se aplica en áreas como:
Detección automatizada de fraude: La IA agéntica ofrece un enfoque innovador para la detección de fraude, efectuando análisis y generando respuestas en tiempo real.
Gestión dinámica de portafolios: La IA agéntica permite una mayor personalización al alinear las estrategias con los objetivos del inversor y las condiciones del mercado de manera dinámica. Puede reequilibrar portafolios, simular escenarios de mercado y coordinar acciones entre los flujos de asesoría, cumplimiento y análisis.
Atención y asesoría al cliente a gran escala: La IA agéntica mejoran la experiencia del cliente gestionando consultas de forma autónoma, anticipando las necesidades del cliente y realizando acercamientos proactivos. Puede sintetizar datos de cuenta y vincularlos con la oferta de productos, brindando asesoría financiera personalizada sin intervención humana, garantizando continuidad y capacidad de respuesta en canales digitales.
Si bien estos sistemas ofrecen eficiencia y precisión, la autonomia en la toma de decisiones plantea nuevos retos de gobernanza, particularmente en materia de responsabilidad y rendición de cuentas, transparencia, cumplimiento normativo y alineación ética.
Retos de gobernanza
1. Responsabilidad y rendición de cuentas
Cuando una IA agéntica toma decisiones que antes dependían de un ser humano, como aprobar un crédito o reasignar activos, es clave definir con precisión quién responde en caso de errores, incumplimientos o pérdidas financieras.
Para facilitar este proceso de identificación, las organizaciones deben adoptar marcos de rendición de cuentas claramente estructurados, que incluyan:
Herramientas de definición de roles, como matrices RACI (Responsable, Aprobador, Consultado, Informado), que ayudan a clarificar las responsabilidades de supervisión.
Documentación detallada de la lógica del modelo, los datos de entrenamiento y los resultados de las decisiones.
Protocolos de escalamiento para que las decisiones de alto riesgo requieran revisión humana.
En conjunto, estos controles apoyan la implantación de marcos de responsabilidad humana que garantizan que la propiedad última de la decisión permanezca en agentes humanos.
2. Transparencia y explicabilidad
Impulsados frecuentemente por aprendizaje profundo o por refuerzo, los sistemas de IA agéntica tienden a funcionar como “cajas negras” o sistemas opacos, lo que dificulta interpretar su funcionamiento interno. Sus decisiones pueden ser difíciles de interpretar, lo que complica el cumplimiento normativo y la corrección de errores.
Para abordar este desafío, se deben adoptar una combinación de controles técnicos y procedimentales. Herramientas como LIME y SHAP pueden generar resultados interpretables. Además, la transparencia por niveles (con información sencilla para los clientes, explicaciones técnicas para los auditores y justificaciones regulatorias para los equipos de cumplimiento) mejora la accesibilidad de a las explicaciones.
La explicabilidad debe incorporarse desde el diseño del modelo y mantenerse a través de programas de Gestión de Riesgo de Modelos (MRM, por sus siglas en inglés) que, a través de herramientas de monitoreo, validen la coherencia de las explicaciones en el tiempo.
3. Supervisión regulatoria y deriva del modelo
Impulsados frecuentemente por aprendizaje profundo o por refuerzo, los sistemas de IA agéntica tienden a funcionar como tomadores de decisiones opacos, lo que dificulta interpretar su funcionamiento interno. Por ello, los equipos de cumplimiento deben mantener una validación constante para asegurar que las decisiones sigan alineadas con los estándares legales. Los organismos reguladores le están prestando cada vez más atención al tema. La Ley de IA de la Unión Europea y los reguladores financieros avanzan hacia marcos basados en riesgo que enfatizan la supervisión en tiempo real y la auditabilidad de los sistemas de IA de alto riesgo.
Las organizaciones deben adoptar ciclos de validación mediante sistemas automatizados que evalúen periódicamente el desempeño de la IA frente a los parámetros de cumplimiento, con el fin de mitigar estos riesgos. La implementación de mecanismos de detección de deriva (a través de pruebas estadísticas y umbrales predefinidos) facilita identificar desviaciones en el comportamiento del modelo respecto de las normas esperadas. Además, el control de versiones y las pruebas en entornos controlados (sandbox) ofrecen un espacio seguro para evaluar las actualizaciones antes de su implementación en producción.
En definitiva, las instituciones deben crear un proceso de gestión del cambio regulatorio que incorpore actualizaciones en tiempo real a la lógica de cumplimiento del sistema de IA y que exija una revalidación como parte de cada ciclo de actualización del modelo.
4. Escalabilidad de la supervisión humana
Los modelos de gobernanza de IA que aplican el enfoque "humano en el circuito" (human-in-the-loop, HITL) requieren que revisores humanos verifiquen y aprueben las decisiones esenciales de la IA antes de que el sistema actúe. Sin embargo, la implementación se vuelve poco práctica cuando los sistemas agénticos deben ejecutar miles de verificaciones de fraude por segundo.
La solución es implementar arquitecturas de "humano sobre el circuito" (human-on-the-loop), en las que supervisores humanos monitorean el sistema a través de paneles de control y tienen capacidad de anulación, sin necesidad de validar cada decisión individual. Los humanos intervienen solo ante excepciones, revisando registros agregados periódicos. Esto exige observabilidad en tiempo real de las decisiones de la IA, protocolos de escalamiento para conductas anómalas y capacitación exhaustiva del personal de supervisión para interpretar y actuar sobre los resultados de la IA.
5. Gobernanza ética y alineación de valores
Las instituciones financieras deben asegurar que sus sistemas de IA mantengan los valores institucionales en sus interacciones con los clientes, incluso mientras influyen en decisiones financieras. Los principales problemas incluyen minimizar las decisiones discriminatorias y los sesgos, además de proteger la privacidad y la confidencialidad.
Se recomienda integrar la supervisión ética en cada etapa del desarrollo de la IA, desde su creación hasta su implementación. El marco de "ética por diseño" (Ethics-by-Design) funciona bien porque incorpora verificaciones de equidad, pruebas de sesgo y métricas de diversidad en los procesos de desarrollo de los modelos. Las iniciativas de IA de alto impacto pueden someterse a evaluación continua por parte de comités de ética multidisciplinarios. Las Evaluaciones de Impacto Ético de la IA (AI-EIA, por sus siglas en inglés), realizadas regularmente permiten a las organizaciones detectar y resolver problemas antes de que escalen. Las instituciones deben plasmar sus principios éticos en el diseño de los modelos y en las restricciones operativas, a fin de cumplir con los estándares regulatorios y mantener sus compromisos éticos institucionales.
La integración de IA agéntica en las operaciones financieras ofrece al sector oportunidades sin precedentes para mejorar eficiencia, personalización y capacidad de respuesta. Sin embargo, para aprovechar estos beneficios sin poner en riesgo la estabilidad, la confianza y el cumplimiento regulatorio, las instituciones deben evolucionar sus marcos de gobernanza. La combinación de controles técnicos, compromiso regulatorio y previsión ética conforma un marco proactivo que permite capturar los beneficios de la IA agéntica gestionando sus riesgos de manera responsable.
