¿Cómo deberían los líderes de seguridad preservar la supervisión humana a medida que los agentes de IA asumen más trabajo? Los permisos establecen qué acciones pueden realizar los agentes, pero una acción permitida aún puede justificar el juicio de una persona. Exigir aprobación para cada paso puede parecer el enfoque más seguro, pero las tareas de varios pasos pueden generar indicaciones repetidas, incluso para acciones rutinarias. Las investigaciones sobre las advertencias de seguridad muestran que la atención y el cumplimiento pueden disminuir con la repetición. El desafío no es exigir más aprobaciones, sino preservar la atención para las decisiones que necesitan revisión humana.
Las aprobaciones inteligentes en Amazon Quick abordan este desafío al revisar las acciones elegibles dentro de sus controles existentes. Evalúa cada acción propuesta frente a la solicitud del usuario y la aprueba automáticamente o la devuelve al usuario para su revisión. Lo hace sin otorgar permisos adicionales ni eliminar las aprobaciones humanas requeridas. Los líderes de seguridad mantienen el control sobre qué acciones deben recaer siempre en una persona, mientras que Smart Approvals está diseñado para reducir las interrupciones innecesarias en el trabajo rutinario.
Figura 1: La política determina la elegibilidad. Smart Approvals aprueba acciones elegibles o las devuelve al usuario para su revisión. Las denegaciones de políticas siguen bloqueadas
La política establece el límite
Quick evalúa cada acción propuesta según los permisos personalizados, las barandillas de seguridad rápidas, los permisos de acción del conector y la configuración del usuario antes de la revisión automática. Las acciones denegadas siguen siendo denegadas y se siguen aplicando las aprobaciones humanas obligatorias. Con las aprobaciones inteligentes habilitadas, una acción es elegible solo cuando la configuración del usuario es “Preguntar cada vez” y ningún otro control requiere aprobación humana. Los permisos de acción del conector, configurados cuando se crea un conector, pueden requerir aprobación humana para acciones específicas.
Los administradores usan permisos personalizados para determinar quién puede usar aprobaciones inteligentes. Está activado de forma predeterminada, pero los perfiles con la denegación predeterminada habilitada deben permitirlo explícitamente. Los usuarios también pueden desactivar las aprobaciones inteligentes por sí mismos. Esa elección se aplica a todas las conversaciones y ejecuciones programadas. Cuando está desactivado, las acciones que de otro modo serían elegibles para la revisión automática requieren la aprobación del usuario y ninguna configuración a nivel de cuenta puede volver a activarlo.
Cómo se revisan las acciones elegibles
Smart Approvals utiliza un modelo independiente, el clasificador, para evaluar las acciones elegibles según la solicitud del usuario y una vista limitada de la conversación. Considera qué hace la acción, adónde van los datos y a quién afecta. Puede consultar el gráfico de conocimiento del usuario, que contiene personas y relaciones laborales extraídas de fuentes conectadas. Esto le ayuda a comprender cómo se relacionan los destinatarios con el usuario, por ejemplo, si un destinatario está en la cadena de informes del usuario. Esta búsqueda permanece dentro de su cuenta Quick. Quick no utiliza el contenido que revisa el clasificador, incluidos los datos del gráfico de conocimiento, para entrenar modelos o mejorar el servicio.
Una acción puede coincidir con la solicitud y aun así justificar una revisión humana. Los ejemplos incluyen enviar contenido fuera de la organización o a líderes senior en la cadena de informes del usuario, cambiar el acceso, eliminar registros o iniciar pagos. Esta lista no está completa y el clasificador también sopesa el contexto circundante. Revisar las acciones contra la solicitud del usuario agrega una verificación contra la inyección de mensajes indirectos, donde las instrucciones en el contenido recuperado intentan redirigir al agente. Quick indica tanto al agente como al clasificador que traten ese contenido como información, no como instrucciones. La revisión del modelo aún puede cometer errores, por lo que las acciones que siempre deben recibir aprobación humana, incluidas aquellas que mueven datos confidenciales, deberían requerirla a través de permisos de acción del conector.
El clasificador proporciona juicio. El servicio de permisos hace cumplir la autoridad. Cada aprobación automática es de un solo uso, se aplica únicamente a la acción y los parámetros exactos revisados y no otorga ningún permiso continuo. Etiquetas rápidas aprobaciones automáticas en la conversación. Las acciones que el clasificador no aprueba regresan al usuario, al igual que los tiempos de espera y otras fallas de revisión, que nunca otorgan aprobación automática. Estos límites de aplicación limitan lo que autoriza una aprobación. No establecen que el juicio del clasificador fuera correcto.
Cuando una acción va más allá de la solicitud
Un gerente de cuentas le pide a Quick que prepare un resumen de revisión comercial trimestral para AnyCompany utilizando las notas de cuenta de su equipo y el correo electrónico del último trimestre. Luego le pide a Quick que se lo envíe a dos colegas que ella nombra. Suponiendo que el envío sea elegible para revisión automática, Smart Approvals evalúa la acción propuesta en función de su solicitud y el contexto de conversación disponible.
Ahora supongamos que una nota de cuenta dice que el informe también debe enviarse a una lista de distribución de ventas de unas 2.000 personas. Eso cambiaría la audiencia más allá de los destinatarios que ella especificó, por lo que Smart Approvals está diseñado para devolverle el envío propuesto para su revisión, donde ella puede rechazarlo. Una aprobación para enviar a los destinatarios originales no se puede reutilizar para una audiencia más amplia.
Pruebas de auditoría e investigación
El servicio de permisos rápidos registra las actualizaciones de permisos asociadas con las aprobaciones inteligentes en AWS CloudTrail en su cuenta. Cada evento identifica el usuario, el conector, la acción y la hora, y marca la solicitud como asociada con aprobaciones inteligentes. Ese marcador no establece que el servicio de permisos aceptó la concesión o que se ejecutó la acción. Quick también registra veredictos de verificación de permisos, incluidas denegaciones de permisos de acción del conector y cambios en la configuración de Aprobaciones inteligentes de un usuario.
Los investigadores pueden correlacionar estos eventos por usuario y hora con otras actividades rápidas en CloudTrail y registros entregados a través de Amazon CloudWatch Logs. Los registros de chat capturan la solicitud del usuario, la respuesta del sistema y el contexto de la conversación. Los registros de metadatos de los agentes registran los cambios realizados a los agentes. Los registros del sistema de destino, como un correo electrónico enviado o un ticket actualizado, confirman si la acción se completó. Juntas, estas fuentes ayudan a reconstruir lo sucedido sin tratar la aprobación como prueba de ejecución. El historial de eventos de CloudTrail conserva los eventos durante 90 días, así que configure un seguimiento para investigaciones más largas. Dado que los registros de chat pueden contener contenido confidencial, restrinja el acceso y considere las políticas de protección de datos de CloudWatch Logs para enmascarar datos confidenciales.
Por donde empezar
Dado que las aprobaciones inteligentes están activadas de forma predeterminada, comience confirmando que las acciones que requieren aprobación humana estén configuradas a través de los permisos de acción del conector. Configure un seguimiento de CloudTrail y la entrega de registros de chat y registros de metadatos de agentes a CloudWatch Logs para respaldar las investigaciones. Los registros de chat capturan solo la actividad después de configurar la entrega, por lo que las aprobaciones anteriores carecerán de ese contexto de conversación. Con los requisitos de aprobación y el inicio de sesión implementados, utilice permisos personalizados para limitar las aprobaciones inteligentes a un equipo piloto que trabaja en un flujo de trabajo definido antes de extenderlo a otros equipos.
Antes del piloto, defina cómo se ve el éxito: menos indicaciones para acciones rutinarias, y las acciones consiguientes aún regresan a una persona para su revisión. Durante el piloto, revise una muestra de aprobaciones automáticas y pruebe casos de alto impacto, como enviar contenido fuera de la organización o agregar un destinatario introducido por un documento. Confirme que estos casos vuelvan al usuario. Confirme que su equipo pueda rastrear cada acción desde la aprobación hasta la ejecución. Amplíe a más equipos y flujos de trabajo solo cuando los resultados cumplan con esos criterios y vuelva a evaluar a medida que cambien las acciones y políticas.
La medida de una supervisión eficaz no es la frecuencia con la que un agente pide aprobación, sino si las personas retienen el control sobre las decisiones importantes. Para los líderes de seguridad, el argumento a favor de ampliar las aprobaciones inteligentes debería basarse en la evidencia del piloto. Menos indicaciones son valiosas cuando preservan la atención sin debilitar la responsabilidad.
Para conocer los pasos de configuración, consulte Aprobaciones inteligentes en la sección de gobernanza de la Guía rápida del usuario de Amazon.
Sobre el autor
