Desde mejorar la experiencia conversacional hasta la asistencia de los agentes, hay muchas maneras en que la inteligencia artificial (IA) generativa y los modelos básicos (FM) pueden ayudar a brindar un soporte mejor y más rápido. Con la creciente disponibilidad y diversidad de FM, es difícil experimentar y mantenerse actualizado con las últimas versiones de los modelos. Roca Amazónica es un servicio totalmente administrado que ofrece una selección de FM de alto rendimiento de empresas líderes en inteligencia artificial, como AI21 Labs, Anthropic, Cohere, Meta, Stability AI y Amazon. Con las capacidades integrales de Amazon Bedrock, puede experimentar fácilmente con una variedad de FM principales y personalizarlos de forma privada con sus datos utilizando técnicas como el ajuste fino y la generación aumentada de recuperación (RAG).

Agentes de Amazon Bedrock

En julio, AWS anunció la vista previa de agentes para Amazon Bedrock, una nueva capacidad para que los desarrolladores creen agentes totalmente administrados con unos pocos clics. Los agentes amplían los FM para ejecutar tareas comerciales complejas, desde reservar viajes y procesar reclamos de seguros hasta crear campañas publicitarias y administrar inventario, todo sin escribir ningún código. Con agentes totalmente administrados, no tiene que preocuparse por el aprovisionamiento o la administración de la infraestructura.

En esta publicación, proporcionamos una guía paso a paso con componentes básicos para crear un bot de servicio al cliente. Usamos un modelo de generación de texto (Claude antrópico V2) y agentes de Amazon Bedrock para esta solución. Proporcionamos un Formación en la nube de AWS plantilla para aprovisionar los recursos necesarios para construir esta solución. Luego, le guiaremos por los pasos para crear un agente para Amazon Bedrock.

Reaccionar solicitando

Los FM determinan cómo resolver las tareas solicitadas por los usuarios con una técnica llamada Reaccionar. Es un paradigma general que combina el razonamiento y la acción con los FM. ReAct solicita a los FM que generen rastros de razonamiento verbal y acciones para una tarea. Esto permite que el sistema realice un razonamiento dinámico para crear, mantener y ajustar planes de actuación al tiempo que incorpora información adicional al razonamiento. Las indicaciones estructuradas incluyen una secuencia de ejemplos de pregunta-pensamiento-acción-observación.

• La pregunta es la tarea o problema a resolver solicitado por el usuario.
• La idea es un paso de razonamiento que ayuda a demostrarle al FM cómo abordar el problema e identificar una acción a tomar.
• La acción es una API que el modelo puede invocar desde un conjunto permitido de API.
• La observación es el resultado de la realización de la acción.

Componentes en agentes para Amazon Bedrock

Detrás de escena, los agentes de Amazon Bedrock automatizan la ingeniería rápida y la orquestación de las tareas solicitadas por los usuarios. Pueden aumentar de forma segura las indicaciones con información específica de la empresa para brindar respuestas al usuario en lenguaje natural. El agente divide la tarea solicitada por el usuario en varios pasos y organiza subtareas con la ayuda de FM. Los grupos de acciones son tareas que el agente puede realizar de forma autónoma. Los grupos de acción se asignan a un AWS Lambda función y esquema API relacionado para realizar llamadas API. El siguiente diagrama muestra la estructura del agente.

Descripción general de la solución

Utilizamos un caso de uso de un minorista de calzado para crear el robot de servicio al cliente. El bot ayuda a los clientes a comprar zapatos brindándoles opciones en una conversación similar a la humana. Los clientes conversan con el bot en lenguaje natural con múltiples pasos que invocan API externas para realizar subtareas. El siguiente diagrama ilustra el flujo del proceso de muestra.

El siguiente diagrama muestra una arquitectura de alto nivel de esta solución.

1. Puede crear un agente con FM compatibles con Amazon Bedrock, como Anthropic Claude V2.
2. Adjunte el esquema de API, que reside en un Servicio de almacenamiento simple de Amazon (Amazon S3) bucket y una función Lambda que contiene la lógica empresarial para el agente. (Nota: este es un paso de configuración que se realiza una sola vez).
3. El agente utiliza las solicitudes de los clientes para crear un mensaje utilizando el marco ReAct. Luego, utiliza el esquema API para invocar el código correspondiente en la función Lambda.
4. Puede realizar una variedad de tareas, incluido el envío de notificaciones por correo electrónico, la escritura en bases de datos y la activación de API de aplicaciones en las funciones de Lambda.

En esta publicación, utilizamos la función Lambda para recuperar los detalles del cliente, enumerar los zapatos que coinciden con la actividad preferida del cliente y, finalmente, realizar pedidos. Nuestro código está respaldado por una base de datos SQLite en memoria. Puede utilizar construcciones similares para escribir en un almacén de datos persistente.

Requisitos previos

Para implementar la solución proporcionada en esta publicación, debe tener un cuenta de AWS y acceso a Amazon Bedrock con agentes habilitados (actualmente en versión preliminar). Utilice la plantilla de AWS CloudFormation para crear la pila de recursos necesaria para la solución.

us-east-1

La plantilla de CloudFormation crea dos roles de IAM. Actualice estos roles para aplicar permisos con privilegios mínimos como se explica en Mejores prácticas de seguridad. Hacer clic aquí para saber qué funciones de IAM están disponibles para usar con agentes de Amazon Bedrock.

1. LambdaBasicExecutionRole con acceso completo a Amazon S3 y acceso a CloudWatch para iniciar sesión.
2. AmazonBedrockExecutionRoleForAgents con acceso completo a Amazon S3 y acceso completo a Lambda.

Importante: Los agentes de Amazon Bedrock deben tener el nombre de la función con el prefijo AmazonBedrockExecutionRoleForAgents_*

Configuración de agentes Bedrock

En las siguientes dos secciones, lo guiaremos en la creación y prueba de un agente.

Crear un agente para Amazon Bedrock

Para crear un agente, abra el Consola Amazon Bedrock y elige Agentes en el panel de navegación izquierdo. Luego seleccione Crear agente.

Esto inicia el flujo de trabajo de creación del agente.

1. Proporcionar detalles del agente: Dale al agente un nombre y una descripción (opcional). Seleccione el rol de servicio creado por la pila de CloudFormation y seleccione Próximo.

2. Seleccione un modelo de base: En el Seleccionar modelo pantalla, selecciona un modelo. Proporcionar instrucciones claras y precisas al agente sobre qué tareas realizar y cómo interactuar con los usuarios.

3. Agregar grupos de acciones: Una acción es una tarea que el agente puede realizar realizando llamadas a la API. Un conjunto de acciones componen un grupo de acciones. Proporciona un esquema de API que define todas las API en el grupo de acciones. Debe proporcionar un esquema de API en el Esquema OpenAPI Formato JSON. La función Lambda contiene la lógica empresarial necesaria para realizar llamadas API. Debe asociar una función Lambda a cada grupo de acciones.

Asigne al grupo de acciones un nombre y una descripción de la acción. Seleccione la función Lambda, proporcione un archivo de esquema API y seleccione Próximo.

4. En el paso final, revise la configuración del agente y seleccione Crear agente.

Probar e implementar agentes para Amazon Bedrock

1. Probar el agente: Después de crear el agente, un cuadro de diálogo muestra la descripción general del agente junto con un borrador de trabajo. La consola de Amazon Bedrock proporciona una interfaz de usuario para probar su agente.

2. Desplegar: Después de una prueba exitosa, puede implementar su agente. Para implementar un agente en su aplicación, debe crear un alias. Luego, Amazon Bedrock crea automáticamente una versión para ese alias.

Las siguientes acciones ocurren con la configuración del agente anterior y el código Lambda proporcionado con esta publicación:

1. El agente crea un mensaje a partir de las instrucciones proporcionadas por el desarrollador (como «Usted es un agente que ayuda a los clientes a comprar zapatos»), los esquemas de API necesarios para completar las tareas y los detalles de la fuente de datos. La creación automática de mensajes ahorra semanas de experimentar con mensajes para diferentes FM.
2. El agente organiza la tarea solicitada por el usuario, como «Estoy buscando zapatos», dividiéndola en subtareas más pequeñas, como obtener detalles del cliente, relacionar la actividad preferida del cliente con la actividad del calzado y realizar pedidos de calzado. El agente determina la secuencia correcta de tareas y maneja escenarios de error a lo largo del camino.

La siguiente captura de pantalla muestra algunos ejemplos de respuestas del agente.

Seleccionando Mostrar rastro Para cada respuesta, un cuadro de diálogo muestra la técnica de razonamiento utilizada por el agente y la respuesta final generada por el FM.

Limpiar

Para evitar incurrir en cargos futuros, elimine los recursos. Puede hacer esto eliminando la pila de la consola de CloudFormation.

No dudes en descargar y probar el código utilizado en esta publicación desde GitHub. agentes para el repositorio de Amazon Bedrock. También puede invocar a los agentes de Amazon Bedrock mediante programación; un ejemplo de cuaderno Jupyter se proporciona en el repositorio.

Conclusión

Los agentes de Amazon Bedrock pueden ayudarlo a aumentar la productividad, mejorar su experiencia de servicio al cliente o automatizar tareas de DevOps. En esta publicación, le mostramos cómo configurar agentes para que Amazon Bedrock cree un bot de servicio al cliente.

Le animamos a aprender más revisando características adicionales de la roca amazónica. Puede utilizar el código de ejemplo proporcionado en esta publicación para crear su implementación. Pruebe nuestro taller para adquirir experiencia práctica con Amazon Bedrock.

Sobre los autores

Amit Arora es un arquitecto especialista en inteligencia artificial y aprendizaje automático en Amazon Web Services y ayuda a los clientes empresariales a utilizar servicios de aprendizaje automático basados ​​en la nube para escalar rápidamente sus innovaciones. También es profesor adjunto en el programa de análisis y ciencia de datos de maestría en la Universidad de Georgetown en Washington DC.

Manju Prasad es arquitecto senior de soluciones dentro de Cuentas Estratégicas en Amazon Web Services. Se centra en brindar orientación técnica en una variedad de dominios, incluido AI/ML, a un cliente destacado de M&E. Antes de incorporarse a AWS, trabajó para empresas del sector de Servicios Financieros y también para una startup.

Archana Inapudi es arquitecto senior de soluciones en AWS y brinda soporte a clientes estratégicos. Tiene más de una década de experiencia ayudando a clientes a diseñar y crear análisis de datos y soluciones de bases de datos. Le apasiona utilizar la tecnología para brindar valor a los clientes y lograr resultados comerciales.