Ml 16582 Image001 New 1208x630.png

Amazon Titan Texto Premierla última incorporación a la familia Amazon Titan de modelos de lenguaje grande (LLM), ahora está disponible de forma generalizada en Roca Amazónica. Amazon Bedrock es un servicio totalmente administrado que ofrece una selección de modelos básicos (FM) de alto rendimiento de empresas líderes en inteligencia artificial (IA) como AI21 Labs, Anthropic, Cohere, Meta, Stability AI y Amazon a través de una única API, junto con un amplio conjunto de capacidades para crear aplicaciones de IA generativa con seguridad, privacidad e IA responsable.

Amazon Titan Text Premier es un LLM avanzado, de alto rendimiento y rentable diseñado para ofrecer un rendimiento superior para aplicaciones de generación de texto de nivel empresarial, incluido un rendimiento optimizado para agentes y generación aumentada de recuperación (RAG). El modelo se construye desde cero siguiendo prácticas de IA responsables, seguras y confiables, y se destaca por ofrecer capacidades excepcionales de texto de IA generativa a escala.

Exclusivos de Amazon Bedrock, los modelos de Amazon Titan Text admiten una amplia gama de tareas relacionadas con el texto, incluido el resumen, la generación de texto, la clasificación, la respuesta a preguntas y la extracción de información. Con Amazon Titan Text Premier, puede desbloquear nuevos niveles de eficiencia y productividad para sus necesidades de generación de texto.

En esta publicación, exploramos la creación e implementación de dos aplicaciones de muestra impulsadas por Amazon Titan Text Premier. Para acelerar el desarrollo y la implementación, utilizamos el código abierto. Construcciones CDK de IA generativa de AWS (lanzado por Werner Vogels en AWS re:Invent 2023). Kit de desarrollo de la nube de AWS (AWS CDK) aceleran el desarrollo de aplicaciones al proporcionar a los desarrolladores patrones de infraestructura reutilizables que pueden incorporar sin problemas a sus aplicaciones, lo que le permite centrarse en lo que diferencia su aplicación.

Aplicación de muestra del Explorador de documentos

El Ejemplo de aplicación de IA generativa de Document Explorer puede ayudarle a comprender rápidamente cómo construir de un extremo a otro IA generativa aplicaciones en AWS. Incluye ejemplos de componentes clave necesarios en aplicaciones de IA generativa, como:

  • Canal de ingesta de datos – Ingiere documentos, los convierte a texto y los almacena en una base de conocimientos para su recuperación. Esto permite casos de uso como RAG para adaptar aplicaciones de IA generativa a sus datos.
  • Resumen de documentos – Resume documentos PDF utilizando Amazon Titan Premier a través de Amazon Bedrock.
  • Respuesta a preguntas – Responde preguntas en lenguaje natural recuperando documentos relevantes de la base de conocimientos y utilizando LLM como Amazon Titan Premier a través de Amazon Bedrock.

Siga los pasos del LÉAME para clonar e implementar la aplicación en su cuenta. La aplicación implementa toda la infraestructura requerida, como se muestra en el siguiente diagrama de arquitectura.

Después de implementar la aplicación, cargue un archivo PDF de muestra en la entrada Servicio de almacenamiento simple de Amazon (Amazon S3) eligiendo Seleccionar documento en el panel de navegación. Por ejemplo, puedes descargar Cartas anuales de Amazon a los accionistas de 1997 a 2023 y cargar usando la interfaz web. En la consola de Amazon S3, puede ver que los archivos que cargó ahora se encuentran en el depósito de S3 cuyo nombre comienza con persistencestack-inputassets.

Después de haber cargado un archivo, abra un documento para verlo representado en el navegador.

Elegir Preguntas y respuestas en el panel de navegación y elija su modelo preferido (para este ejemplo, Amazon Titan Premier). Ahora puede hacer una pregunta sobre el documento que cargó.

El siguiente diagrama ilustra un flujo de trabajo de muestra en el Explorador de documentos.

No olvides eliminar el Formación en la nube de AWS pilas para evitar cargos inesperados. Primero asegúrese de eliminar todos los datos de los depósitos de S3, específicamente cualquier contenido en los depósitos cuyos nombres comiencen con persistencestack. Luego ejecute el siguiente comando desde una terminal:

Aplicación de muestra de Amazon Bedrock Agent y base de conocimientos personalizada

El Aplicación de IA generativa de muestra de Amazon Bedrock Agent y Custom Knowledge Basen es un asistente de chat diseñado para responder preguntas sobre literatura utilizando RAG de una selección de libros del Proyecto Gutenberg.

Esta aplicación implementa un agente de Amazon Bedrock que puede consultar una base de conocimientos de Amazon Bedrock respaldada por Amazon OpenSearch sin servidor como tienda de vectores. Se crea un depósito S3 para almacenar los libros de la base de conocimientos.

Siga los pasos del LÉAME para clonar la aplicación de muestra en su cuenta. El siguiente diagrama ilustra la arquitectura de la solución implementada.

Actualizar el archivo definir qué modelo de base usar al crear el agente:

const agent = new bedrock.Agent(this, 'Agent', {
      foundationModel: bedrock.BedrockFoundationModel.AMAZON_TITAN_PREMIER_V1_0
,
      instruction: 'You are a helpful and friendly agent that answers questions about literature.',
      knowledgeBases: [kb],
    });

Siga los pasos del LÉAME para implementar el código de muestra en su cuenta e ingerir los documentos de ejemplo.

Navega hasta el Agentes en la consola de Amazon Bedrock en su región de AWS y busque su agente recién creado. El AgentId se puede encontrar en la sección de salidas de la pila de CloudFormation.

Ahora puedes hacer algunas preguntas. Es posible que deba decirle al agente sobre qué libro desea preguntar o actualizar la sesión cuando pregunte sobre diferentes libros. Los siguientes son algunos ejemplos de preguntas que puede hacer:

  • ¿Cuáles son los libros más populares de la biblioteca?
  • ¿Con quién está bastante cautivado el Sr. Bingley en el baile en Meryton?

La siguiente captura de pantalla muestra un ejemplo del flujo de trabajo.

No olvide eliminar la pila de CloudFormation para evitar cargos inesperados. Elimine todos los datos de los depósitos de S3, luego ejecute el siguiente comando desde una terminal:

Conclusión

Amazon Titan Text Premier está disponible hoy en la región Este de EE. UU. (Norte de Virginia). El ajuste personalizado para Amazon Titan Text Premier también está disponible hoy en versión preliminar en la región Este de EE. UU. (Norte de Virginia). Comprobar el lista completa de regiones para futuras actualizaciones.

Para obtener más información sobre la familia de modelos Amazon Titan, visite el Página del producto Amazon Titan. Para obtener detalles sobre precios, revise Precios de Amazon Bedrock. Visita el AWS Generative AI CDK construye un repositorio de GitHub para obtener más detalles sobre las construcciones disponibles y documentación adicional. Para ver ejemplos prácticos para comenzar, consulte el Repositorio de muestras de AWS.


Sobre los autores

Alain Krok es un arquitecto senior de soluciones apasionado por las tecnologías emergentes. Su experiencia pasada incluye el diseño e implementación de soluciones IIoT para la industria del petróleo y el gas y el trabajo en proyectos de robótica. Le gusta superar los límites y practicar deportes extremos cuando no está diseñando software.

Laith Al-Saadoon es arquitecto principal de prototipos en el equipo de Prototyping and Cloud Engineering (PACE). Crea prototipos y soluciones utilizando IA generativa, aprendizaje automático, análisis de datos, IoT y computación de vanguardia, y desarrollo completo para resolver los desafíos de los clientes del mundo real. En su tiempo personal, Laith disfruta del aire libre: pesca, fotografía, vuelos con drones y caminatas.

Justin Lewis lidera el Acelerador de Tecnologías Emergentes en AWS. Justin y su equipo ayudan a los clientes a desarrollar con tecnologías emergentes como la IA generativa proporcionando ejemplos de software de código abierto para inspirar su propia innovación. Vive en el Área de la Bahía de San Francisco con su esposa y su hijo.

anupam dewan es un arquitecto de soluciones senior apasionado por la IA generativa y sus aplicaciones en la vida real. Él y su equipo capacitan a Amazon Builders para crear aplicaciones orientadas al cliente utilizando IA generativa. Vive en el área de Seattle y, fuera del trabajo, le encanta hacer senderismo y disfrutar de la naturaleza.