Cómo AWS SMGS utiliza un asistente conversacional basado en IA para transformar la gestión empresarial con Amazon Bedrock AgentCore

Los líderes de AWS administran datos complejos en múltiples jerarquías y al mismo tiempo toman decisiones urgentes que impactan las operaciones globales. La inteligencia empresarial tradicional se basa en paneles estáticos e informes manuales, lo que genera retrasos y limita la agilidad organizacional.

NarrateAI, nuestra solución conversacional inteligente, aborda esto a través de IA agente conversacional impulsada por nuestro lago de datos y Amazon Bedrock AgentCore. NarrateAI, accesible a través de la interfaz conversacional de Amazon Quick, ofrece inteligencia empresarial rica en contexto y bajo demanda a los líderes de AWS, desde el director ejecutivo (CEO) hasta el campo. Al responder preguntas en lenguaje natural sobre el desempeño empresarial, NarrateAI proporciona información inmediata, precisa y procesable que elimina las barreras entre los líderes y sus datos.

En esta publicación, compartimos cómo creamos NarrateAI utilizando Amazon Bedrock AgentCore para brindar inteligencia empresarial a escala para la organización AWS SMGS (ventas, marketing y servicios globales). Aprenderás sobre:

La arquitectura de dos capas que separa el procesamiento por lotes de la interacción en tiempo real. Los agentes de IA especializados que impulsan el enrutamiento y la validación inteligentes. Patrones de ingeniería clave para el despliegue de producción. Cómo crear soluciones similares con los servicios de AWS.

Inteligencia empresarial a escala: obstáculos clave

AWS enfrentó desafíos que limitaron la efectividad de los enfoques tradicionales de inteligencia empresarial:

Preparación que requiere mucho tiempo: los líderes de AWS tradicionalmente perdían horas recopilando datos manualmente antes de las revisiones comerciales. El proceso de preparación implicó navegar por múltiples paneles, conciliar datos de fuentes dispares y sintetizar conocimientos manualmente, dejando poco tiempo para el razonamiento estratégico y la toma de decisiones.

Fragmentación de datos: los conocimientos empresariales estaban dispersos en múltiples sistemas y paneles, lo que requería que los líderes elaboraran una narrativa coherente a partir de fuentes de datos fragmentadas. Esta fragmentación creó inconsistencias en las métricas y dificultó mantener una visión unificada del desempeño empresarial en jerarquías y conjuntos de datos.

Accesibilidad limitada: los paneles de control complejos requerían conocimientos especializados para navegar de forma eficaz, lo que creaba dependencias de los equipos de informes intermediarios. Los líderes no podían acceder a información a pedido y, en cambio, tenían que esperar informes seleccionados, lo que retrasaba las decisiones comerciales críticas y limitaba la agilidad organizacional.

Descripción general de la solución

NarrateAI aborda el desafío de hacer que los datos comerciales complejos sean conversacionales a través de una arquitectura de dos capas: generación narrativa por lotes e interacción en tiempo real. Esta separación admite el procesamiento integral de datos por adelantado y, al mismo tiempo, ofrece respuestas instantáneas y contextualmente precisas a través de una conversación natural.

Amazon Bedrock AgentCore eliminó la necesidad de crear una infraestructura de orquestación personalizada, proporcionando arquitectura sin servidor, autenticación integrada, administración de memoria e integración con modelos básicos. Esto aceleró nuestra implementación de meses a semanas y, al mismo tiempo, mantuvo la observabilidad y la seguridad de la calidad de producción a través de la integración nativa de Amazon CloudWatch y la gestión automatizada de sesiones.

Capa de generación narrativa automatizada (procesamiento por lotes)

NarrateAI genera por lotes narrativas integrales basadas en personas para cada usuario a través de un proceso de tres etapas:

Extracción de datos: las plantillas de lenguaje de consulta estructurado (SQL) basadas en configuración (consultas parametrizadas que se adaptan a la función y los permisos de cada usuario) extraen datos estructurados de Amazon Redshift. Estas plantillas admiten desgloses de varios niveles y análisis de series temporales al tiempo que aplican controles de acceso específicos del usuario. Transformación de datos: AWS Lambda transforma los datos extraídos en notación de objetos JavaScript (JSON) estructurada utilizando lógica de tipo sección (objetos, matrices, desgloses y contenedores) con asignaciones de campos y organización jerárquica. Representación narrativa: las plantillas Jinja (un motor de plantillas Python ampliamente utilizado) representan narrativas legibles por humanos a partir de datos estructurados. Una estrategia de fragmentación jerárquica y consciente del dominio empresarial maneja grandes conjuntos de datos de manera eficiente. El sistema almacena la narrativa de cada usuario como un archivo de texto en Amazon Simple Storage Service (Amazon S3), lo que admite seguridad a nivel de fila mediante un aislamiento total de los datos.

Capa de interfaz de IA conversacional (en tiempo real)

Los líderes interactúan con sus narrativas a través de conversaciones en lenguaje natural impulsadas por Amazon Bedrock AgentCore. Cuando llega una pregunta, AgentCore organiza agentes de IA especializados para recuperar la narrativa relevante basada en la persona de Amazon S3 y utilizarla como fuente de conocimiento. Los agentes razonan sobre su contenido para generar respuestas contextualizadas con Claude Sonnet 4 de Anthropic. El marco nativo de coordinación de múltiples agentes de AgentCore permite que el sistema maneje consultas simples al instante. Para preguntas complejas, las divide automáticamente en subtareas paralelas para obtener respuestas completas.

Capacidades clave

Esta base arquitectónica respalda tres capacidades centrales que cambian la forma en que los líderes interactúan con los datos comerciales.

Consultas comerciales en lenguaje natural con conocimiento pregenerado

Los líderes formulan preguntas comerciales complejas en un lenguaje sencillo y reciben respuestas inmediatas a partir del conocimiento estructurado almacenado en Amazon S3. El sistema comprende la terminología empresarial y navega por análisis multidimensionales a través de regiones, productos, segmentos de clientes y períodos de tiempo con comprensión contextual.

Seguridad inherente a nivel de fila a través de narrativas específicas del usuario

NarrateAI aplica seguridad a nivel de fila durante la generación narrativa, asegurándose de que el motor de conocimiento de cada usuario contenga solo datos autorizados. Los permisos de usuario se aplican durante el procesamiento de datos y el archivo narrativo de cada usuario en Amazon S3 está completamente aislado, lo que ayuda a evitar la fuga de datos entre usuarios en toda la organización.

Experiencia adaptada a roles mediante filtrado basado en personas

NarrateAI adapta las respuestas según los roles de los usuarios y los niveles organizativos. Un director ejecutivo recibe información estratégica de alto nivel en toda la organización, mientras que un gerente regional recibe métricas operativas detalladas para su región específica.

Estas capacidades están respaldadas por una arquitectura modular que combina agentes de IA especializados con servicios de AWS para una entrega de inteligencia empresarial inteligente y escalable.

Componentes de arquitectura

Nuestra arquitectura combina múltiples servicios de AWS y agentes de IA especializados para brindar información empresarial inteligente y contextual a través de un diseño modular y escalable. El siguiente diagrama ilustra la arquitectura de un extremo a otro.

Los usuarios interactúan con NarrateAI a través de dos puntos de entrada, Amazon Quick (una interfaz conversacional) y una interfaz de usuario web, ambos conectados a Amazon Bedrock AgentCore Runtime para el procesamiento de solicitudes. La arquitectura tiene dos flujos principales: una ruta de consulta en tiempo real (lado izquierdo) y una ruta de procesamiento de datos por lotes (lado derecho).

Agente NarrateAI (agente Strands): flujo de procesamiento de consultas

En el centro de la arquitectura se encuentra NarrateAI Agent, creado sobre Amazon Bedrock AgentCore para la orquestación de múltiples agentes. Un Agente Supervisor coordina el flujo de trabajo de consultas de un extremo a otro a través de seis herramientas especializadas:

Clasificación de preguntas: cuando llega una pregunta, esta herramienta analiza la intención del usuario y determina la complejidad de la consulta. Las consultas simples (por ejemplo, "¿Cuáles son los ingresos de mi equipo este trimestre?") toman un camino rápido para una resolución inmediata. Las preguntas complejas de varias partes (por ejemplo, “Compare las tasas de crecimiento de mis 5 cuentas principales en todas las líneas de productos”) se dividen automáticamente en subtareas paralelas. Identificador de conocimiento de persona: identifica la función del usuario, el nivel organizativo y los permisos de datos para determinar qué archivo narrativo recuperar de Amazon S3. Extractor de conocimientos: utiliza un enfoque de recuperación basado en tabla de contenido (TOC) para extraer solo las secciones relevantes de la narrativa del usuario, en lugar de escanear todo el archivo. Esto mantiene la recuperación rápida incluso a medida que crecen las narrativas. Evaluador de relevancia: evalúa el contenido extraído frente a la pregunta del usuario para determinar qué secciones son más pertinentes, filtrando la información tangencial. Generador de respuestas: sintetiza una respuesta coherente y en lenguaje natural a partir de los datos relevantes, impulsado por Claude Sonnet 4 de Anthropic a través de Amazon Bedrock. Evaluador en línea: valida cada respuesta antes de entregarla comparando los números generados con los datos de origen, verificando la coherencia lógica y confirmando que las afirmaciones se basan en la narrativa del usuario.

Los tiempos de respuesta varían según la complejidad de la consulta y las fuentes de datos subyacentes.

Motor de conocimiento: flujo de procesamiento de datos

El lado derecho del diagrama de arquitectura muestra cómo se preparan los datos comerciales para la capa conversacional:

Ingestión de datos: los datos comerciales sin procesar fluyen desde Amazon Redshift y otras fuentes de datos empresariales hacia Knowledge Engine Service. Transformación de datos: las funciones de AWS Lambda procesan y transforman los datos con plantillas basadas en configuración, aplicando permisos específicos del usuario y jerarquías organizativas. Almacenamiento de artefactos de conocimiento: los datos procesados ​​se almacenan como archivos narrativos estructurados y específicos de cada persona en Amazon S3, con aislamiento total de datos entre usuarios para seguridad a nivel de fila. Actualización de datos: un programador de actualización de datos automatiza las actualizaciones periódicas, de modo que las narrativas reflejen los datos comerciales más recientes.

Esta separación entre el procesamiento de datos por lotes y el manejo de consultas en tiempo real permite a NarrateAI brindar respuestas instantáneas mientras mantiene los datos subyacentes actualizados y precisos.

Base de infraestructura e inteligencia artificial

NarrateAI se basa en un conjunto estrechamente integrado de servicios de AWS diseñados para brindar confiabilidad, precisión y escala.

Almacenamiento y procesamiento de datos: el sistema procesa y almacena datos comerciales como artefactos de conocimiento estructurados en Amazon S3. AWS Lambda maneja la transformación de datos sin servidor, mientras que Amazon Redshift actúa como almacén de datos subyacente. Un sistema de recuperación personalizado utiliza un enfoque de tabla de contenido (TOC) para localizar secciones relevantes del documento rápidamente, sin escanear archivos completos. Esto mantiene las respuestas rápidas incluso a medida que crece el motor de conocimiento.

Modelos básicos: Amazon Bedrock brinda acceso a modelos básicos líderes, incluido Claude Sonnet 4 de Anthropic, que potencia la comprensión del lenguaje natural, el razonamiento empresarial complejo y la generación de respuestas de NarrateAI. La flexibilidad del modelo del servicio nos permite probar y actualizar a versiones de modelo más nuevas sin cambios arquitectónicos, mejorando la comprensión de las consultas y reduciendo los tiempos de respuesta a medida que surgen modelos más capaces.

Seguridad y barandillas: Amazon Bedrock Guardrails refuerza la seguridad a través de tres filtros configurados de forma personalizada según el caso de uso de NarrateAI:

Filtrado de contenido: bloquea el lenguaje inapropiado o dañino. Redacción de PII: ayuda a prevenir la exposición accidental de información de identificación personal (PII) confidencial. Barandillas de tono: garantiza que cada respuesta mantenga una voz profesional adecuada para el liderazgo de AWS.

Infraestructura de implementación de agentes: utilizamos Amazon Bedrock AgentCore como nuestra capa de orquestación fundamental. AgentCore proporciona capacidades agentes integrales, que incluyen observabilidad avanzada, integración de proveedores de autenticación y administración de memoria sin servidor.

Observabilidad: AgentCore Observability ofrece información detallada sobre la ejecución de la sesión del agente de un extremo a otro, lo que respalda una visibilidad operativa completa a través de la integración con Amazon CloudWatch para monitoreo y alertas. Las capacidades de trazabilidad a través de OpenTelemetry integradas en AgentCore han mejorado nuestra eficiencia de depuración. El tiempo de resolución de problemas se redujo de decenas de minutos u horas a minutos de un solo dígito.

Gestión de memoria: migramos nuestro historial de conversaciones (memoria a corto plazo) de una solución personalizada basada en Amazon DynamoDB a las capacidades de memoria nativa de AgentCore. Esta migración:

Se eliminó la necesidad de mantener un código de administración de sesiones personalizado. Simplificamos nuestra arquitectura al consolidar la administración de memoria dentro de la infraestructura sin servidor de AgentCore. Habilitó un desarrollo de funciones más rápido con manejo de sesiones integrado.

Ingeniería para la producción.

Con la infraestructura fundamental implementada, la implementación de NarrateAI a escala requirió resolver cuatro desafíos de ingeniería críticos que todo sistema de producción de IA debe abordar.

El primer desafío fue la precisión y la confianza. Los modelos de IA pueden generar respuestas que suenan correctas pero que contienen errores, lo que supone un grave riesgo para la toma de decisiones empresariales. Para abordar esto, cada respuesta se valida antes de entregarla, verificando que los números sean precisos, las métricas sean consistentes y la respuesta sea lógicamente sólida. La arquitectura limita la participación del modelo de lenguaje grande (LLM) en los cálculos numéricos para reducir el riesgo de alucinaciones, y las comprobaciones automáticas señalan el lenguaje inapropiado antes de que las respuestas lleguen a los usuarios.

El segundo desafío fue la conciencia del contexto en todas las jerarquías organizacionales. Diferentes líderes necesitan ver datos diferentes. Un gerente regional debería ver sólo los números de su región, mientras que un ejecutivo necesita una visión de toda la empresa. El sistema identifica automáticamente quién pregunta y qué datos puede ver. Luego, adapta cada respuesta a su función y estructura de informes sin necesidad de filtros manuales.

La latencia de respuesta a escala presentó el tercer desafío. Las primeras versiones experimentaron importantes retrasos en la respuesta a preguntas complejas, lo que provocó frustración en los usuarios y una menor adopción. El sistema ahora dirige las preguntas según la complejidad. Las consultas sencillas se responden rápidamente y las preguntas complejas de varias partes se manejan mediante un procesamiento paralelo. Los tiempos de respuesta varían según el caso de uso, la naturaleza de la consulta y las fuentes de datos subyacentes. El análisis previo de la estructura del documento durante la ingesta de datos reduce aún más la latencia de recuperación de información por consulta.

Por último, el alcance y la cobertura temática requerían una cuidadosa atención. La inteligencia empresarial abarca múltiples dominios (ventas, finanzas, marketing, etc.), cada uno con su propia terminología y lógica. El equipo colaboró ​​con expertos en el campo para codificar el conocimiento institucional a través de un enfoque de plantilla estandarizada, reduciendo lo que antes llevaba meses de desarrollo personalizado a una cuestión de semanas.

La lección clave de este trabajo es que la preparación para la producción requiere equilibrar la flexibilidad de la IA con la precisión basada en reglas, hacer cumplir el acceso a los datos en la fuente y optimizar para los casos de uso más comunes mientras se manejan de manera confiable los complejos.

Resultados e impacto

Desde su implementación, NarrateAI ha brindado mejoras mensurables en la accesibilidad de la inteligencia empresarial y la velocidad de toma de decisiones:

Más de 4000 usuarios activos en todo el liderazgo de AWS, desde directores ejecutivos hasta gerentes regionales. Horas reducidas a minutos en el tiempo de preparación de revisiones comerciales. Validación integral de la precisión de los datos mediante cálculos deterministas y comprobaciones de la herramienta de evaluación en línea.

Los líderes informan una mayor confianza en las decisiones basadas en datos y una mejor capacidad para explorar el desempeño empresarial a través de una conversación natural en lugar de una navegación por el panel. Con Amazon Bedrock AgentCore, trasladamos nuestras operaciones de ingeniería de procesos manuales de inteligencia empresarial a un centro de autoservicio impulsado por IA. Este enfoque mejoró la eficiencia, redujo el tiempo de preparación de la revisión de horas a minutos y fortaleció los controles de seguridad y cumplimiento a través de barreras de seguridad integradas y control de acceso a nivel de fila.

Visión de futuro: de reactivo a proactivo

NarrateAI evolucionará de un asistente conversacional a un agente autónomo que brinda información de manera proactiva, descubre anomalías y sugiere acciones antes de que los líderes pregunten. Se activará según los calendarios comerciales, los cambios de datos en tiempo real y el contexto organizacional. Impulsado por una orquestación mejorada de Amazon Bedrock AgentCore, una arquitectura basada en eventos y sistemas avanzados de múltiples agentes (agentes de conocimiento, pronóstico y políticas), el sistema brindará análisis predictivos con acciones autónomas seguras y explicables regidas por una capa completa de políticas y auditoría. Esta evolución posiciona a NarrateAI como un socio comercial inteligente que anticipa las necesidades e impulsa la toma de decisiones proactiva en toda la organización.

Conclusión

En esta publicación, mostramos cómo creamos NarrateAI en Amazon Bedrock AgentCore para brindar inteligencia empresarial conversacional a escala en AWS SMGS. Cubrimos la arquitectura de dos capas que separa la generación narrativa por lotes de la interacción en tiempo real, los agentes especializados que enrutan y validan cada respuesta y los patrones de ingeniería que preparan la solución para producción.

Puede utilizar los mismos servicios de AWS que impulsan nuestra solución para crear sus propias soluciones de inteligencia empresarial conversacional. Amazon Bedrock AgentCore ofrece servicios modulares para crear, implementar y operar agentes de IA a escala, con soporte nativo para orquestación de múltiples agentes, administración de memoria y observabilidad. Amazon Redshift actúa como un sólido almacén de datos para cargas de trabajo analíticas.

Los patrones de arquitectura demostrados son aplicables en todas las industrias. Estos incluyen la recuperación de conocimientos personalizada que combina la precisión de la recuperación con la flexibilidad generativa, el procesamiento jerárquico de documentos que admite la navegación inteligente de bases de conocimientos complejas, el control de acceso basado en roles que admite el acceso seguro a datos en entornos multiinquilino y el procesamiento de agentes paralelos que ofrece un rendimiento responsivo a escala.

¿Listo para transformar sus operaciones? Para comenzar, explore la página de detalles de Amazon Bedrock AgentCore, revise la documentación de AgentCore y pruebe los tutoriales basados ​​en cuadernos para conocer casos de uso adicionales. Háganos saber su opinión en la sección de comentarios.

Expresiones de gratitud

Extendemos nuestro más sincero agradecimiento a nuestros patrocinadores y mentores ejecutivos cuya visión y orientación hicieron posible esta iniciativa: Aizaz Manzar, Director de Ventas Globales de AWS; Sujit Narapareddy, director de AWS Insights; Damien Forthomme, científico aplicado sénior; y Akhand Singh, jefe de ingeniería de datos.

También agradecemos a los dedicados miembros del equipo cuya experiencia técnica y contribuciones fueron fundamentales para hacer realidad este producto: Aswin Palliyali Venugopalan, gerente de desarrollo de software; Sai Meka, ingeniero de aprendizaje automático; Mihir Gadgil, ingeniero de datos sénior; Shalabh Mittal, ingeniera de datos; Akshay Kasar, ingeniero de aprendizaje automático; Jayson Carter, ingeniero sénior de aprendizaje automático; Srijan Tiwari, científico aplicado sénior; Bill Tran, ingeniero de datos; Íñigo Dalmau, ingeniero de datos; Tyler Durand, director técnico sénior de productos; Kaylin Tay, analista de conocimientos empresariales; Anusha Sakhamuri, ingeniera de datos.

Sobre los autores

Anusha Thatipelli

Anusha Thatipelli

Anusha es gerente técnica senior de productos en AWS y lidera experiencias de IA generativa que ayudan a los líderes empresariales a tomar decisiones más rápidas basadas en datos a escala. Aporta experiencia que abarca finanzas, análisis y consultoría tecnológica para crear productos en la intersección de datos, inteligencia artificial y necesidades de los clientes.

Felicia Yue Xiong

Felicia Yue Xiong

Felicia es científica aplicada en AWS y crea soluciones de inteligencia artificial generativa y aprendizaje automático de grado de producción que abarcan sistemas de inteligencia artificial agentes, LLM optimizados, PNL y modelado de series temporales. Su trabajo se centra en transformar la investigación de IA de vanguardia en sistemas robustos y listos para producción que brinden resultados comerciales mensurables.

Alok Singh

Alok Singh

Alok es ingeniero senior de desarrollo de software en AWS SMGS y se especializa en infraestructura escalable, servicios web y soluciones de IA/ML. Su experiencia abarca sistemas distribuidos, arquitectura en la nube e inteligencia artificial generativa, con un enfoque en generar un impacto empresarial mensurable a través de ingeniería innovadora.

Haymang Ahuja

Haymang Ahuja

Haymang es ingeniero senior de desarrollo de software en AWS y crea sistemas backend y soluciones de datos a escala empresarial. Se especializa en arquitecturas distribuidas, microservicios, diseño de API, orquestación de canalizaciones ETL y optimización de bases de datos para impulsar el conocimiento empresarial y la eficiencia operativa.

Norman Braddock

Norman Braddock

Norman es gerente sénior de gestión de productos de IA en AWS y dirige el equipo de análisis e información dentro de SMGS. Combina una profunda experiencia operativa que abarca operaciones de adquisición, fabricación y ventas con innovación de productos para dar forma al futuro de la gestión empresarial autónoma a través de la IA agente.

Sandeep Singh

Sandeep Singh

Sandeep es científico senior de datos de IA generativa en AWS y ayuda a las empresas a innovar con IA generativa. Se especializa en IA generativa, aprendizaje automático y diseño de sistemas, y ofrece soluciones basadas en IA/ML para resolver problemas comerciales complejos en diversas industrias.