Las organizaciones empresariales están adoptando la generación aumentada de recuperación (RAG) para desbloquear conocimientos de fuentes de conocimiento de la empresa como Microsoft SharePoint, Google Drive y Atlassian Confluence. Sin embargo, estas fuentes de conocimiento contienen información confidencial regida por estructuras de permisos complejas. Asegurarse de que las respuestas generadas por IA respeten esos permisos es uno de los desafíos más difíciles en la IA empresarial.
En esta publicación, exploramos cómo Amazon Quick y Amazon Bedrock Knowledge Bases resuelven este desafío mediante la aplicación de listas de control de acceso (ACL) en tiempo real, verificando los permisos directamente con fuentes autorizadas en el momento de la consulta.
El problema empresarial
Considere este escenario: el propietario de un sitio de SharePoint crea una base de conocimientos para su organización. Los miembros del equipo de varios departamentos utilizan un asistente de IA para obtener respuestas de esta base de conocimientos. El requisito fundamental es que cada miembro del equipo solo debe recibir información generada por IA a partir de documentos a los que está autorizado a acceder.
Este es un desafío empresarial universal. Las organizaciones quieren democratizar el acceso a conocimientos basados en IA sin comprometer su postura de seguridad existente. Un solo documento no autorizado que surja en una respuesta de IA podría exponer documentos estratégicos confidenciales, datos financieros no publicados o información confidencial de recursos humanos.
¿Por qué los enfoques existentes no son suficientes?
Un enfoque común para el control de acceso de RAG utiliza un enfoque de replicación y filtrado para aplicar permisos a nivel de documento. Así es como suele funcionar:
Un conector de origen de datos (por ejemplo, un conector de SharePoint) extrae ACL como parte de un trabajo de sincronización periódico. Las ACL se replican desde la fuente de datos y se almacenan como atributos en un índice. En el momento de la consulta, el sistema de IA asigna al usuario que inició sesión los atributos de ACL almacenados y filtra los resultados en consecuencia.
Si bien este enfoque parece razonable a primera vista, tiene tres debilidades fundamentales.
Problema 1: el sistema de inteligencia artificial no es la fuente de la verdad
En este modelo, el sistema de IA asume la responsabilidad exclusiva de hacer cumplir la ley sin ser la fuente autorizada de permisos. Esto requiere conectores de datos para replicar con precisión la lógica ACL compleja y específica de la fuente en varias fuentes de datos. Cada fuente de datos tiene sus propios modelos de permisos únicos. Mapear jerarquías de herencia, membresías de grupos, políticas de acceso condicional y reglas de denegación entre docenas de conectores es una tarea propensa a errores.
Problema 2: los permisos obsoletos crean brechas de seguridad
En general, los conectores de datos admiten sincronizaciones basadas en extracción que se ejecutan bajo demanda o según un cronograma definido por el cliente. Las ACL en estas soluciones de IA son una instantánea en el tiempo desde que se ejecutó la última sincronización. Algunas soluciones utilizan actualizaciones basadas en eventos, pero esto no funciona universalmente. Por ejemplo, una fuente de datos como Confluence no emite un evento cuando cambia la membresía del grupo. Entre sincronizaciones, un usuario a quien se le revocó el acceso aún podría recibir respuestas de IA de documentos que ya no debería ver.
Problema 3: evolución de las capacidades de las fuentes de datos
Las fuentes de datos cambian periódicamente o introducen nuevos mecanismos para controlar el acceso al contenido. Una nueva función de permiso en SharePoint o un cambio en el modelo de uso compartido de Google Drive podrían crear lagunas en la lógica de asignación de ACL. Esto puede exponer el contenido hasta que se actualice el conector.
Cómo AWS resuelve esto: aplicación de ACL en tiempo real
Para abordar estos desafíos, implementamos comprobaciones de ACL en tiempo real como una capa adicional de seguridad además del filtrado de ACL previo a la recuperación existente para Amazon Quick y Amazon Bedrock Knowledge Bases. Esto garantiza que el sistema aplique los controles de acceso más actualizados al verificar los permisos directamente con la fuente autorizada en el momento de la consulta. Esto evita depender de datos de ACL potencialmente obsoletos o mal asignados.
Descripción general de la arquitectura
El siguiente diagrama ilustra nuestro enfoque híbrido que ofrece rendimiento de búsqueda semántica y capacidades de seguridad en tiempo real.
Figura 1: Arquitectura de aplicación de ACL en tiempo real para Amazon Quick y Amazon Bedrock Knowledge Bases, que combina filtrado previo a la recuperación (Etapa 1) con verificación en tiempo real frente a fuentes autorizadas (Etapa 2)
Cómo funciona: un ejemplo de Google Drive
Cuando un usuario envía una consulta a un agente de Amazon Quick que utiliza una base de conocimientos de Google Drive, el sistema aplica controles de acceso en dos etapas:
Etapa 1: filtrado previo a la recuperación
Amazon Quick realiza una búsqueda semántica en el índice vectorial para encontrar los pasajes del documento más relevantes. El sistema aplica listas de control de acceso que ya están almacenadas en el índice. Esto produce un conjunto preliminar de documentos candidatos. Esta etapa es necesaria porque las llamadas API en tiempo real para cada documento del índice serían demasiado costosas a escala.
Etapa 2: verificación en tiempo real
Amazon Quick verifica los documentos candidatos en tiempo real llamando a las API de Google Drive. Utiliza la credencial de la cuenta de servicio que proporcionó el administrador para generar tokens de acceso específicos del usuario mediante suplantación. Google Drive mantiene la fuente de verdad de las listas de control de acceso asociadas a cada documento. Los documentos a los que el usuario no está autorizado a acceder se excluyen del conjunto de resultados recuperados. Solo los pasajes de documentos verificados y autorizados se pasan al modelo de lenguaje grande (LLM) como contexto. El modelo utiliza este conocimiento para generar una respuesta.
Este enfoque de dos etapas equilibra el rendimiento con la seguridad. Utiliza ACL almacenadas en caché para mayor eficiencia y al mismo tiempo facilita la corrección mediante comprobaciones en tiempo real. Además de la aplicación de ACL, Amazon Bedrock proporciona controles responsables de IA. Estos incluyen Amazon Bedrock Guardrails para filtrado de contenido, controles de conexión a tierra para reducir las alucinaciones y políticas de seguridad configurables para ayudar a las organizaciones a implementar aplicaciones de IA generativa de manera responsable.
Por qué esto es importante para su organización
Este enfoque ofrece tres beneficios clave:
Permisos siempre actualizados: no más brechas de seguridad entre ciclos de sincronización cuando utiliza un producto RAG. Si se revoca el acceso de un empleado, el cambio se refleja en las respuestas de la IA en unos momentos, no en horas o días. Confianza a escala: las organizaciones pueden ampliar la cobertura de su base de conocimientos sabiendo que las comprobaciones de ACL en tiempo real verifican los permisos con la fuente autorizada para cada consulta, independientemente de la fuente de datos. Carga operativa reducida: no necesita preocuparse por la frecuencia de sincronización.
Lo que dicen los clientes sobre esto
“Cuando nos propusimos evaluar las soluciones de IA para nuestra organización, nuestros equipos de seguridad y cumplimiento tenían clara su principal prioridad: garantizar que los colegas solo vieran la información a la que están autorizados a acceder. Es un requisito fundamental, pero que muchas plataformas luchan por abordar de manera significativa. El enfoque de Amazon Quick para el control de acceso en tiempo real respondió esa pregunta definitivamente y demostró un nivel de rigor que se destacó a lo largo de nuestra evaluación. Le dio a nuestra junta de revisión interna la confianza para seguir adelante y establecer una base sólida sobre cómo pensamos sobre la gobernanza de la IA en el futuro”.
— Jamahl Wiggins, especialista sénior – Innovación M365, Mondelēz International
Mondelēz International ha implementado Amazon Quick para sus más de 35.000 empleados en cuatro regiones.
Conclusión
En esta publicación, hablamos sobre cómo Amazon Quick y Amazon Bedrock Knowledge Bases implementan la aplicación de ACL en tiempo real para resolver un desafío de seguridad crítico para las empresas. La arquitectura ACL de doble capa verifica los permisos directamente con fuentes autorizadas en el momento de la consulta. Esto garantiza que las respuestas generadas por IA incluyan solo contenido al que un usuario está autorizado a acceder.
Para comenzar, visite las bases de conocimientos de Amazon Quick y Amazon Bedrock.
Sobre los autores
Amit Choudhary