Por Karli Kalpala, directora de estrategia de Digital Workforce
La IA está en camino de demostrar su valor y velocidad. La IA puede ayudar a suscribir pólizas de seguros, detectar fraudes en industrias reguladas e investigar miles de documentos, todo a un ritmo que la fuerza laboral humana no puede igualar. Pero esa velocidad puede ser una ventaja o un inconveniente, dependiendo de la gobernanza que la sustenta. Los directivos modernos que quieren ver el éxito de sus implementaciones de inteligencia artificial y agentes no pueden simplemente presionar “ir” y esperar resultados.
Únase al European Business Briefing
Los nuevos suscriptores de este trimestre participan en un sorteo para ganar un Rolex Submariner. Únase a más de 40.000 fundadores, inversores y ejecutivos que leen EBM todos los días.
Suscribir
Las industrias financieras y reguladas son sectores cada vez más maduros en la adopción de la IA, pero los parámetros dentro de los cuales opera la IA deben definirse claramente para escalar al siguiente nivel. Es vital determinar a qué tiene acceso la tecnología, las barreras dentro de las cuales funciona, las expectativas de gobernanza y cumplimiento (tanto para su negocio como para los reguladores externos) y el proceso de escalamiento que la IA y las fuerzas de trabajo agentes deben seguir. Una de las mejores oportunidades para que la IA demuestre su valor en estas industrias reguladas es a través de flujos de trabajo de gobernanza de riesgos, como las pruebas de control y la certeza de los contratos, donde la evidencia y los datos son enormes.
La gobernanza de riesgos típica se basa en un muestreo del activo subyacente y, para cada caso, adjunta innumerables puntos de datos y documentos. Si bien el muestreo puede ser representativo de la exposición al riesgo, controlar el riesgo en toda la población es una tarea demasiado grande para cualquier persona, equipo u organización. La IA agente puede cubrir esta brecha de capacidad y brindar cobertura a una empresa.
El muestreo siempre ha sido una cuestión de capacidad.
Imagine que dirige un banco que procesa millones de transacciones todos los días. Usted tiene la obligación regulatoria de identificar actividades sospechosas, pero los auditores generalmente aceptan que no todas las transacciones pueden probarse porque no sería práctico. Los sistemas de monitoreo están configurados para detectar actividades sospechosas y luego los analistas revisan esas alertas. El desafío es que la actividad sospechosa no siempre activa una alerta. Los estafadores y delincuentes están adaptando rápidamente su comportamiento y, aisladamente, una transacción individual puede parecer completamente legítima. El riesgo es que la actividad fraudulenta pueda pasar desapercibida entre transacciones que el banco no tiene el tiempo o la capacidad para investigar.
Cuando la capacidad aumenta desde el servidor, en lugar de depender de empleados alimentados con cafeína, cada documento, acuerdo o transacción se puede comparar con evidencia, con la misma atención que si fuera la única muestra que ocurre ese día. Luego, los agentes de IA pueden tomar medidas aplicando un criterio basado en un conjunto de reglas determinadas por una organización y escalando a un nivel humano si se requiere una investigación más profunda. Las fuerzas laborales humanas tienen libertad para centrarse en trabajos de mayor valor, y la implementación de IA agente en la gobernanza de riesgos protege a las organizaciones de amenazas que pueden infiltrarse, ya sea a través de fraude intencional o error humano debido a límites de capacidad.
El andamiaje de gobernanza existe, pero la mayoría de las empresas no están a la altura
Un estudio de IBM Los ejecutivos encuestados en toda EMEA informaron que solo el 37 % dijo que su gobernanza estaba diseñada para escalar con la implementación de IA agente, y que el 80 % tuvo un incidente relacionado con la IA que llegó a su C-suite durante el año pasado. A pesar de esto, solo el 40% había actualizado sus marcos de gobernanza de IA en respuesta.
La adopción de la IA está aumentando, pero convertir eso en impacto es donde todavía queda un vacío considerable que llenar, y un marco de gobernanza sólido será la diferencia. Comenzar a implementar agentes de IA para las operaciones de gobernanza de riesgos no solo mejora la forma de gestionar el riesgo, sino que también enseña a la organización de gobernanza de primera mano cómo funcionan la IA y los agentes de IA. Esto les informa sobre cómo crear las estructuras de gobierno adecuadas para todas las iniciativas de agentes de IA en toda la empresa.
La IA, tal como está, ha madurado lo suficiente como para que exista una estructura suficiente para implementarla e impulsar la gobernanza y el cumplimiento. Los directivos que dejan su gobernanza al azar o no la actualizan cuando surgen problemas ponen sus negocios en territorio riesgoso. Un buen primer paso es un área única, como los delitos financieros o el seguimiento crediticio, donde haya abundante evidencia para probar. Las pruebas de control autónomo aprovechan a los agentes de IA para registrar y ejecutar continuamente según los controles internos, lo que da como resultado pruebas de población completa.
Donde la IA marca la diferencia
Para acercarse a una realidad en la que la IA actúe, en lugar de simplemente asesorar, los altos directivos modernos deberían introducir barreras de seguridad y un flujo de trabajo claro para los agentes.
Tomemos como ejemplo a un CRO que quiere asegurarse de que los controles de delitos financieros de las transacciones de la empresa están funcionando. La empresa puede implementar agentes de IA en tres etapas:
Evidencia: Un agente de IA reúne la evidencia, como archivos KYC o registros de transacciones, y la compara con los controles internos de la empresa.
Juicio: Los agentes verifican que la evidencia se alinee y otorgan a cada resultado una calificación verde, ámbar o roja. Cada acuerdo se puede probar con cada pieza de evidencia que lo respalde, manteniéndose un registro completo y auditable mientras los agentes trabajan.
Acción: El agente toma medidas sobre los resultados cuando no se requiere intervención humana, y cuando un resultado no es concluyente, por ejemplo debido a una actividad inusual que podría indicar un delito financiero, el agente lo analiza y se lo pasa a una persona para que tome la decisión final.
Cualquier implementación debe ganarse un lugar en su organización y la mejor manera de hacerlo es garantizar que se comporte de manera predecible. Ese juicio corresponde a la fuerza laboral humana: ellos establecen los parámetros de quién o qué puede tomar qué decisiones, y los agentes solo interactúan con la información basándose en esas reglas.
Empiece poco a poco y escale
Se debe incorporar una gobernanza sólida desde el principio, y en la gobernanza de riesgos, eso significa acordar desde el principio qué evidencia puede alcanzar y poseer un agente, qué resultados puede cerrar un agente y cuáles requieren una mayor intervención. Una vez confirmadas estas decisiones, los agentes producirán un registro de auditoría para cada decisión a lo largo del tiempo, creando un registro que los reguladores pueden seguir y las juntas directivas y los altos cargos pueden confiar.
Para los directivos modernos que quieren agentes que hagan más que asesorar, en última instancia, se necesitan límites claros que se revisen periódicamente a medida que se acelera la tecnología. Aprender y perfeccionar estos proyectos iniciales puede demostrar el retorno de la inversión (ROI) de la IA para una organización y guiarla a medida que defienden un modelo operativo nativo de IA para todo el negocio.