Amazon Bedrock Flows ahora está disponible de forma generalizada con seguridad y trazabilidad mejoradas

Hoy nos complace anunciar la disponibilidad general de Flujos de lecho rocoso del Amazonas (anteriormente conocido como flujos rápidos). Con Bedrock Flows, puede construir y ejecutar rápidamente complejos IA generativa flujos de trabajo sin escribir código. Los beneficios clave incluyen:

  1. Desarrollo de flujo de trabajo de IA generativa simplificado con una interfaz visual intuitiva.
  2. Integración perfecta de los últimos modelos básicos (FM), avisos, agentes, bases de conocimiento, Guardrails y otros servicios de AWS.
  3. Flexibilidad para definir el flujo de trabajo en función de su lógica de negocio.
  4. Reducción de tiempo y esfuerzo en las pruebas e implementación de flujos de trabajo de IA con API de SDK e infraestructura sin servidor.

Bedrock Flows facilita que los desarrolladores y las empresas aprovechen el poder de la IA generativa, permitiéndole crear soluciones impulsadas por IA más sofisticadas y eficientes para sus clientes.

Thomson Reuters transforma la forma en que trabajan los profesionales al brindar tecnología innovadora y GenAI impulsada por experiencia confiable y conocimientos líderes en la industria.

“El mandato de Thomson Reuters Enterprise AI Platform es permitir a nuestros expertos en la materia, ingenieros e investigadores de IA co-crear capacidades Gen-AI que pongan tecnología confiable y de vanguardia en manos de nuestros clientes y den forma al camino. trabajan los profesionales. Amazon Bedrock Flows nos permitirá crear flujos de trabajo complejos, flexibles y con múltiples indicaciones que podremos evaluar, comparar y versionar fácilmente. También podemos integrar rápidamente flujos con nuestras aplicaciones utilizando las API del SDK para la ejecución de flujos sin servidor, sin perder tiempo en la implementación y la administración de la infraestructura. Estamos entusiasmados con el posible aumento de productividad y aceleración del desarrollo de aplicaciones de IA generativa con Bedrock Flows”.

– Laura Skylaki, vicepresidenta de Inteligencia Artificial, Inteligencia Empresarial y Plataformas de Datos de Thomson Reuters.

Dentsu creativo es una red global de agencias creativas diseñada para crear una conexión significativa entre marcas y consumidores.

“Hemos aprovechado con éxito Amazon Bedrock Flows para transformar las experiencias de los clientes. Utilizando Bedrock Flows, aceleramos el proceso de remodelación de libros a un formato fácil de leer para lectores con discapacidades de aprendizaje. Bedrock Flows también nos permitió conectar fácilmente soluciones de servicio al cliente con modelos básicos como Claude Haiku para abordar consultas comunes, ahorrar horas y permitir que los equipos de atención al cliente se centren en solicitudes más complejas. Al permitir que los usuarios no técnicos comprendan cómo se aplican la IA y la lógica empresarial con una interfaz visual intuitiva, Bedrock Flows ha impulsado la transparencia y la visibilidad de las soluciones de IA generativa en nuestra organización. Ya sea para llegar a nuevas audiencias o ampliar las solicitudes de los clientes, Dentsu continúa innovando con tecnología de inteligencia artificial generativa de vanguardia impulsada por Amazon Bedrock Flows”.

– Thiago Winkler, Director Ejecutivo de Operaciones de Dentsu Creative Brasil

Nuevas capacidades en Amazon Bedrock Flows

Las organizaciones que aprovechan la IA generativa necesitan controles de seguridad sólidos y una visibilidad clara de sus flujos de trabajo de IA. Hoy anunciamos dos nuevas capacidades en Amazon Bedrock Flows que ayudan a los clientes a crear aplicaciones de IA más seguras y rastreables:

  1. Seguridad mejorada: Capacidad para filtrar contenido dañino y temas no deseados para los nodos de base de conocimientos y mensajes impulsados ​​por Barandillas de lecho rocoso del Amazonas. Las barandillas ahora se admiten en dos tipos de nodos:
    • nodo de aviso: Defina y aplique controles sobre sus interacciones de FM.
    • Nodo de base de conocimientos: aplique barreras de seguridad a las respuestas generadas a partir de su base de conocimientos.
  1. Trazabilidad mejorada: Capacidad para validar y depurar rápidamente flujos de trabajo con trazabilidad de entrada y salida y validaciones en línea. Obtenga una visibilidad completa de la ejecución de su flujo de trabajo e identifique rápidamente errores a través de:
    • Soporte de trazabilidad detallado para nodos de entrada y salida.
    • Información completa de la ruta de ejecución que muestra la entrada, la salida, el tiempo de ejecución y los errores de cada nodo.
    • Estado de validación en línea de nodos en el generador visual.

Considere ACME Corp, una empresa de comercio electrónico ficticia que crea un chatbot de servicio al cliente utilizando Amazon Bedrock Flows. Se enfrentan a varios desafíos en su implementación:

  • Su chatbot a veces genera respuestas que contienen información confidencial del cliente.
  • Luchan por mantener una calidad y un tono de respuesta consistentes en las diferentes interacciones con los clientes.
  • Dedican mucho tiempo y esfuerzo a solucionar problemas en su aplicación.
  • No tienen forma de garantizar que las respuestas cumplan con las políticas de la empresa y los requisitos reglamentarios.
  • Carecen de visibilidad sobre los cuellos de botella en el desempeño que afectan la experiencia del cliente.

Exploremos cómo las nuevas capacidades de Amazon Bedrock Flows abordan estos desafíos y permiten a Acme Corp crear una solución de servicio al cliente más segura, eficiente y transparente.

Requisitos previos

Antes de implementar las nuevas capacidades, asegúrese de tener lo siguiente:

  1. Una cuenta de AWS
  2. En lecho de roca amazónica:
    • Crea y prueba tus indicaciones base para interacciones de servicio al cliente en Prompt Management.
    • Configura tu base de conocimientos con documentación relevante de servicio al cliente, preguntas frecuentes e información del producto.
    • Configure cualquier servicio auxiliar de AWS necesario para su flujo de trabajo de servicio al cliente (por ejemplo, Amazon DynamoDB para el historial de pedidos).
  1. En Amazon Bedrock Guardrails:
    • Crear una configuración de barandilla para interacciones de servicio al cliente (por ejemplo, CustomerServiceGuardrail-001) con:
      • Filtros de contenido para lenguaje inapropiado y contenido dañino
      • Reglas de enmascaramiento y detección de información de identificación personal (PII) para los datos del cliente
      • Filtros de palabras personalizados para términos específicos de la empresa
    • Verificaciones de conexión a tierra contextuales para garantizar información precisa
    • Pruebe y valide la configuración de su barandilla.
    • Publique una versión funcional de su barandilla.
  1. Permisos de IAM necesarios:

Una vez que estos componentes estén implementados, puede continuar con la implementación de las nuevas capacidades en su flujo de trabajo de servicio al cliente.

Permitir una mayor seguridad en los flujos

Para el chatbot de servicio al cliente de Acme Corp, la implementación de barreras de seguridad ayuda a garantizar interacciones con los clientes seguras, conformes y consistentes.

A continuación se explica cómo habilitar las barreras de seguridad tanto en el nodo de solicitud como en el nodo de base de conocimientos:

  1. En la Consola de administración de AWS para Amazon Bedrock, abra el nodo Solicitar o el nodo Base de conocimiento en su customer service flow donde desea agregar barandillas. Cree un nuevo flujo si es necesario.
  2. En el panel de configuración del nodo, ubique el Barandilla sección.

  3. Seleccione una barandilla existente en el menú desplegable. Por ejemplo, ServicioalClienteGuardrail-001.
  4. En este caso, CustomerServiceGuardrail-001 está configurado para:
    1. Enmascarar datos PII del cliente (nombre y correo electrónico)
    2. Bloquear lenguaje inapropiado y contenido dañino
    3. Haga que las respuestas se alineen con la política de la empresa.
    4. Mantener un tono profesional en las respuestas.
  1. Elija la versión adecuada de su barandilla. Por ejemplo, Borrador de trabajo.
  2. Ingrese su mensaje rápido para escenarios de servicio al cliente. Por ejemplo, Respond to customer queries.
  3. Conecte su nodo Prompt a los nodos de entrada y salida del flujo.
  4. Pruebe sus flujos con las barreras de seguridad implementadas ingresando un mensaje en el flujo de prueba. Por ejemplo, Hi, my name is John Smith, email – john.smith@email.com. How do I get started with setting up an ACME Corp account?
  5. En el Flujo de prueba Como se muestra en el panel derecho de la interfaz, puede ver cómo la respuesta del modelo maneja información confidencial. Por ejemplo:
    1. Respuesta original: “Estimado Sr. Juan Smith…”
    2. Respuesta de Guardrail: “Estimado Sr. {NOMBRE}…”

Trazabilidad mejorada con Flows Trace View

La nueva capacidad de seguimiento de flujos ahora proporciona visibilidad detallada de la ejecución de los flujos, mejorando la capacidad de depuración con vista de seguimiento y validaciones en línea. Esta solución de monitoreo integral ayuda a los desarrolladores a monitorear, depurar y optimizar sus flujos de trabajo de IA de manera más efectiva.

Los beneficios clave de una trazabilidad mejorada incluyen:

  • Ruta de ejecución completa con visibilidad a través de la vista Trace
  • Seguimiento detallado de entrada/salida para cada nodo
  • Errores, advertencias y tiempos de ejecución para cada nodo.
  • Identificación rápida de obstáculos y problemas
  • Análisis más rápido de la causa raíz de los errores

Para el equipo de servicio al cliente de Acme Corp, la nueva capacidad Flows Tracing proporciona información crucial sobre el rendimiento y el comportamiento de su chatbot. Esto les ayuda a:

  • Monitorear los tiempos de respuesta para las interacciones con los clientes.
  • Identificar patrones en las consultas de los clientes que causan retrasos.
  • Depurar problemas en el flujo de conversación
  • Optimizar la experiencia del cliente

Para utilizar la vista de seguimiento:

  1. En la consola de Amazon Bedrock, abra su flujo y pruébelo con una consulta de muestra.
  2. Después de ejecutar su flujo, elija Mostrar rastro para analizar la interacción.
  3. Revise la ventana Seguimiento de flujo que muestra:
    1. Tiempos de respuesta para cada paso de la interacción con el cliente.
    2. Cómo se procesan las entradas de los clientes
    3. Dónde se aplican las barandillas
    4. Cuellos de botella en el rendimiento

  4. Analice los detalles de ejecución, incluyendo:
    1. Pasos de procesamiento de consultas del cliente
    2. Generación y validación de respuestas.
    3. Tiempo necesario para cada paso.
    4. Detalles del error y análisis de la causa.

Estado de validación en línea

El generador visual y el SDK de Flows ahora incluyen capacidades intuitivas de validación de nodos:

Constructor visual:

  • El fondo verde indica una configuración de nodo válida.
  • El fondo rojo indica una configuración de nodo no válida que necesita atención.
  • El fondo amarillo indica una configuración de nodo con advertencias.

Estas capacidades de validación ayudan a los desarrolladores a identificar y resolver rápidamente problemas potenciales en sus flujos al brindar comentarios de validación en tiempo real durante el desarrollo visual y programático.

Conclusión

La integración de Bedrock Guardrails y la trazabilidad mejorada en Bedrock Flows representan un avance significativo en el desarrollo de la IA generativa. Estas capacidades permiten a los desarrolladores crear soluciones impulsadas por IA más seguras, transparentes y eficientes, abordando desafíos críticos en el campo en rápida evolución del desarrollo de aplicaciones de IA.

Bedrock Flows con las nuevas capacidades ahora están disponibles de manera general en todas las regiones en las que Amazon Bedrock está disponible, excepto GovCloud. A partir del 1 de febrero de 2025, también se le cobrará por el uso de Bedrock Flows según la cantidad de transiciones de nodos necesarias para operar sus flujos de trabajo a $0,035 por cada 1000 transiciones de nodos. Lo invitamos a explorar estas nuevas capacidades y experimentar de primera mano cómo pueden mejorar su proceso de desarrollo de IA generativa. Para comenzar, abra la consola de Amazon Bedrock y comience a crear flujos con mayor seguridad y visibilidad con Flows hoy. Para obtener más información, consulte la guía del usuario de AWS para Integración de barandillas y Trazabilidad. Para obtener información sobre precios, visite el Página de precios de Amazon Bedrock.

Estamos entusiasmados de ver las aplicaciones innovadoras que creará con estas nuevas capacidades. Como siempre, agradecemos sus comentarios a través de AWS re: Publicar para Amazon Bedrock o sus contactos habituales de AWS. Únase a la comunidad de creadores de IA generativa en comunidad.aws para compartir tus experiencias y aprender de los demás.


Acerca de los autores

Amit Lula es arquitecto principal de soluciones en AWS, donde diseña soluciones de aprendizaje automático e inteligencia artificial generativa a escala empresarial para empresas de software. Con más de 15 años en arquitectura y desarrollo de software, le apasiona convertir desafíos complejos de IA en soluciones personalizadas que brinden valor comercial real. Cuando no está diseñando sistemas de vanguardia o asesorando a otros arquitectos, encontrarás a Amit en la cancha de squash, practicando yoga o planificando su próxima aventura de viaje. También mantiene una práctica diaria de meditación, a la que atribuye haberlo mantenido centrado en el vertiginoso mundo de la innovación en IA.

Huong Nguyen es gerente principal de productos en AWS. Lidera Amazon Bedrock Flows, con 18 años de experiencia en la creación de productos centrados en el cliente y basados ​​en datos. Le apasiona democratizar el aprendizaje automático responsable y la IA generativa para permitir la experiencia del cliente y la innovación empresarial. Fuera del trabajo, le gusta pasar tiempo con familiares y amigos, escuchar audiolibros, viajar y hacer jardinería.