Existe comentarios consistentes de los clientes de que los asistentes de IA son los más útiles cuando los usuarios pueden interactuar con ellos dentro de las herramientas de productividad que ya usan a diario, para evitar cambiar de aplicaciones y contexto. Aplicaciones web como Amazon Q Business y Flojo se han convertido en entornos esenciales para el despliegue de asistente de IA moderno. Esta publicación explora cómo las diversas interfaces mejoran la interacción del usuario, mejoran la accesibilidad y atienden a diferentes preferencias.
Al ofrecer experiencias perfectas en los entornos, las organizaciones pueden aumentar las tasas de satisfacción y adopción del usuario. El asistente emplea Recuperación de generación aumentada (trapo)una técnica que integra fuentes creíbles y autorizadas dentro de las respuestas entre estas interfaces, reforzando la confiabilidad y el valor educativo. Este enfoque de múltiples interfaz y con impulsos de trapo no solo se esfuerza por satisfacer las demandas de flexibilidad de los usuarios modernos, sino que también fomenta una base de usuarios más informada y comprometida, finalmente maximizando la efectividad y alcance del asistente. Al combinar el trapo con múltiples interfaces, el asistente ofrece información consistente, precisa y contextualmente relevante, independientemente del entorno preferido del usuario y las herramientas de productividad.
Descripción general de la solución
El siguiente diagrama ilustra el diseño arquitectónico de la aplicación.
Puede encontrar el código completo y los pasos para implementar la solución en el Repositorio de Github.
Haga clic aquí para abrir la consola AWS y siga.
Requisitos previos
Debes tener los siguientes requisitos previos:
Implementar la solución
Para los pasos de configuración, consulte el Readme En el repositorio de Github.
Componentes de la solución
En esta sección, discutimos dos componentes clave de la solución: las fuentes de datos y la base de datos de vectores.
Fuentes de datos
Usamos Documentación de la espalda Archivos RST (texto reestructurado) cargado en un Servicio de almacenamiento simple de Amazon (Amazon S3) Bucket. Cada vez que el asistente lo devuelve como fuente, será un enlace en la parte específica de la documentación de Spack y no la parte superior de una página de origen. Por ejemplo, Imágenes de Spack en Docker Hub.
Esparro es un administrador de paquetes versátil para supercomputadoras, Linux y macOS que revoluciona la instalación de software científico al permitir múltiples versiones, configuraciones, entornos y compiladores para coexistir en una sola máquina. Desarrollado por Todd Gamblin en el Laboratorio Nacional de Lawrence Livermore En 2013, Spack aborda las limitaciones de los administradores de paquetes tradicionales en entornos de informática de alto rendimiento (HPC). Brian Weston, Programa de Transformación de Cloud for Mission Science en LLNL, aconsejó en el desarrollo de este asistente.
Además, usamos archivos de texto cargados en un cubo S3 que se puede acceder a través de un Amazon Cloudfront enlace. También hay un trabajo de ingestión automatizado desde datos de conversación de Slack hasta el cubo S3 impulsado por un AWS Lambda función. Esto permite al asistente usar también conversaciones anteriores de los usuarios para responder preguntas y citar sus fuentes. Optamos por usar los enlaces de CloudFront en lugar de usar enlaces Slack porque cuando esta fuente se cita en Amazon Q, el usuario podría no tener acceso a los datos de Slack. También hay una alternativa a esta metodología utilizando el Conector flojo para Amazon Kendra.
Esta solución podría admitir otros tipos de datos, como PDF, documentos de Word y más, siempre y cuando su texto pueda extraerse y alimentarse a la base de datos Vector con algunos cambios en el código. Sus archivos RAW se pueden servir en una distribución de CloudFront.
La siguiente captura de pantalla ilustra una URL de muestra de nubes de muestra.
Tras la implementación, los datos existentes se carga automáticamente en un cubo S3 y se procesan para ser utilizado por el asistente. La solución también incluye la ingestión diaria automática de los datos de Slack a la aplicación utilizando Amazon Eventbridge.
Base de datos vectorial
Esta solución utiliza Amazon Kendra como su base de datos vectorialofreciendo ventajas significativas en simplicidad y rentabilidad. Como un servicio AWS totalmente administrado, Amazon Kendra reduce los costos de desarrollo y mantenimiento. Amazon Q, que admite dos tipos de retrievers (Native Retriever y Amazon Kendra), se integra perfectamente en esta configuración. Al usar Amazon Kendra, la solución emplea de manera eficiente el mismo retriever tanto para las interfaces de Amazon Q y Slack. Este enfoque no solo agiliza la arquitectura general, sino que también proporciona una experiencia de usuario más consistente en ambos entornos. El resultado es un sistema cohesivo y rentable que mantiene la uniformidad en la recuperación y presentación de la información, independientemente de la interfaz elegida por el usuario.
Amazon Kendra también admite el uso de metadatos Para cada archivo fuente, que permite a ambas UI proporcionar un enlace a sus fuentes, ya sea el sitio web de documentación de Spack o un enlace de CloudFront. Además, Amazon Kendra admite ajuste de relevanciahabilitando el aumento de ciertas fuentes de datos. Para esta solución, aumentamos los resultados para la documentación de Spack.
Interfaces de usuario
En esta sección, discutimos las UI utilizadas en esta solución.
Amazon Q Business
Amazon Q Business utiliza RAG para ofrecer un asistente de IA seguro y con conocimiento de conocimiento adaptado a su organización. Como solución nativa de AWS, se integra perfectamente con otros servicios de AWS y presenta su propia interfaz fácil de usar. Esta integración, combinada con su sencillo proceso de configuración e implementación, proporciona una experiencia de implementación sin problemas. Al fusionar las capacidades generativas de IA con la recuperación de información inteligente de sus sistemas empresariales, Amazon Q Business ofrece respuestas precisas y conscientes del contexto firmemente arraigadas en los datos y documentos específicos de su organización, mejorando su relevancia y precisión.
La siguiente captura de pantalla es un ejemplo de la interfaz de usuario de Amazon Q Business.
Flojo
Flojo es un servicio de colaboración popular que se ha convertido en una parte integral de los foros de comunicación de muchas organizaciones. Su versatilidad se extiende más allá de los mensajes de equipo para servir como una interfaz efectiva para los asistentes. Al integrar a los asistentes con AI en Slack, las empresas pueden usar su entorno familiar para proporcionar a los usuarios acceso instantáneo a la información.
La siguiente captura de pantalla muestra un ejemplo de la interfaz de usuario de Slack con un hilo de mensaje.
Escucha
Amazon Q tiene una característica incorporada para un tablero de análisis Eso proporciona información sobre la participación del usuario dentro de un entorno específico de aplicaciones comerciales de Amazon Q. Ofrece datos valiosos sobre patrones de uso, dinámica de conversación, comentarios de los usuarios y tendencias de consulta, lo que le permite analizar y optimizar el rendimiento y la interacción del usuario de su asistente de IA.
Para Slack, estamos recopilando comentarios de los usuarios, como se muestra en la captura de pantalla anterior de la interfaz de usuario. Los usuarios pueden agregar un “pulgar hacia arriba” o un “pulgar hacia abajo” a la respuesta del asistente para realizar un seguimiento de su rendimiento. Además, hemos creado una solución personalizada que utiliza un Amazon CloudWatch panel Para imitar el tablero de análisis de Amazon Q para alinear aún más la experiencia entre las dos aplicaciones.
La siguiente captura de pantalla muestra un ejemplo del tablero Slack CloudWatch.
Además, hay un mensaje de holgura programado diario que resume los datos de SlackBot durante el último día, como se muestra en la siguiente captura de pantalla.
Limpiar
Para evitar incurrir en cargos en curso, limpie los recursos que creó como parte de esta publicación con el comando mencionado en el readme.
Conclusión
La implementación de un asistente de IA de interfaz múltiple usando Rag representa un salto en la comunicación organizacional impulsada por la IA. Al integrar las interfaces de Amazon Q Business and Slack con un sólido backend impulsado por Amazon Kendra, esta solución ofrece acceso perfecto y agnóstico del medio ambiente a información precisa y consciente del contexto. Las fortalezas de la arquitectura se encuentran en su consistencia en los entornos, los procesos de ingestión de datos automáticos y las capacidades integrales de monitoreo. Este enfoque no solo mejora la participación del usuario y la productividad, sino que también posiciona a las organizaciones para adaptarse rápidamente a las necesidades de comunicación en evolución en un panorama cada vez más centrado en la IA, que marca un paso fundamental hacia sistemas de gestión de información más eficientes e inteligentes.
Para obtener más información sobre los servicios de AWS utilizados en esta solución, consulte el Guía del usuario de Amazon Q, Desplegue una puerta de enlace de Slack para Amazon Bedrocky el Guía de desarrolladores de Amazon Kendra.
Sobre los autores
Nick Biso es ingeniero de aprendizaje automático en AWS Professional Services. Resuelve desafíos organizacionales y técnicos complejos utilizando ciencia de datos e ingeniería. Además, construye e implementa modelos AI/ML en la nube de AWS. Su pasión se extiende a su propensión a viajar y diversas experiencias culturales.
Dr. Ian Lunsford es un consultor aeroespacial en la nube en AWS Professional Services. Integra los servicios en la nube en aplicaciones aeroespaciales. Además, Ian se enfoca en construir soluciones AI/ML utilizando servicios de AWS.